Nechcem, aby si niekto myslel, že som takéto hrôzy niekedy povedala. Použiť Ukrajinku ako tvár na propagáciu Ruska je šialenstvo, vyhlásila Olha Lojeková, keď svoju tvár zbadala v rade videí na čínskych sociálnych sieťach. Ide o výsledok ľahko ovládateľných nástrojov generatívnej umelej inteligencie, ktoré sú ľahko dostupné on-line. „Bola to moja tvár a môj hlas. Bolo to desivé. Videla som samu seba hovoriť veci, ktoré som nikdy nepovedala,“ zverila sa dvadsaťjedenročná študentka Pensylvánskej univerzity stanici BBC.
Profily, ktoré používali jej tvár, vystupovali pod rôznymi menami, napríklad Sofia, Nataša, April alebo Stacy. Všetky „dievčatá“ hovorili mandarínsky, teda jazykom, ktorý sa Lojeková nikdy neučila. Pochádzali z Ruska a hlavnou témou videí bolo čínsko-ruské priateľstvo, prípadne propagácia ruských výrobkov.
„Tak v deväťdesiatich percentách tých videí sa hovorilo o Číne a Rusku a priateľstve medzi nimi. Že sú to silní spojenci. Ďalšie videá zase vyzerali ako reklamy na potraviny," povedala Lojeková. „Natasha imported food" bol jeden z najväčších účtov, ktorý jej tvár využíval. Než „Nataša" s viac ako 300 000 sledujúcimi pristúpila k propagácii ruských potravín, hovorila v úvode videí veci typu: „Rusko je tá najlepšia krajina. Je smutné, že ostatné štáty sa od neho odvracajú, Rusky sa chcú pozrieť do Číny." Lojekovú, ktorej rodina je stále na Ukrajine, takéto vyjadrenia nahnevali a urazili.
Prvé klony umelej inteligencie Lojekovej sa objavili v roku 2023, krátko po tom, čo si založila vlastný kanál na YouTube. Približne po mesiaci začala dostávať otázky od ľudí, ktorí sa jej pýtali, či hovorí mandarínsky, pretože ju videli na čínskych sociálnych sieťach. Lojeková začala pátrať a objavila jedno „dievča“ so svojou tvárou na čínskej obdobe Instagramu, platforme Xiaohongshu, a ďalšie na Bilibili, ktorá funguje ako ázijský YouTube.
„Bolo ich (účtov) tam veľa. Niektoré z nich mali v popise ruskú vlajku,“ uviedla Lojeková. Podľa svojich slov zatiaľ objavila 35 účtov, ktoré používajú jej tvár.
Snúbenec Lojekovej na existenciu falošných videí upozornil na platforme X. Firma HeyGen, ktorá podľa ukrajinskej youtuberky technológiu zneužitú vo videách vyvinula, v reakcii odhalila takmer 5 000 videí jej AI klonov. Spoločnosť tiež informovala, že tvár Olhy Lojekovej pre ďalšiu tvorbu videí zablokovala. Aby k podobnému zneužitiu v budúcnosti nemohlo dôjsť, HeyGen tiež podľa svojich zástupcov zaktualizoval bezpečnostný protokol.
Angela Zhangová z univerzity v Hongkongu považuje to, čo sa stalo Olge, v Číne za „veľmi bežné". Podľa Zhangovej je Čína krajinou „rozsiahlej šedej ekonomiky, ktorá sa zameriava na falšovanie, zneužívanie osobných údajov a výrobu deepfakov", teda videí, na ktorých pomocou generatívnej AI hovoria virtuálne verzie ľudí veci, ktoré ti skutoční nikdy nevypovedali.
Čína bola jednou z prvých krajín, ktorá sa pokúsila regulovať umelú inteligenciu na legislatívnej úrovni. Dokonca zmenila svoj občiansky zákonník s cieľom chrániť osobné práva pred zneužitím prostredníctvom digitálne falšovaného obsahu. Podľa štatistík čínske úrady vlani zadržali 515 ľudí pre podozrenie z „výmeny tváre pomocou umelej inteligencie“.
Otázkou zostáva, ako sa toľko videí falošnej Lojekovej dostalo na sieť. Podľa BBC môže byť dôvodom ich obsah - propagácia čínsko-ruských vzťahov. V posledných rokoch sa obe krajiny výrazne zblížili. Čínsky vodca Si Ťin-pching a ruský prezident Vladimír Putin predtým uviedli, že priateľstvo medzi Ruskom a Čínou „nemá hraníc". Čínske štátne médiá tiež preberajú ruskú propagandu, ktorá ospravedlňuje okupáciu Ukrajiny. Akékoľvek diskusie o rusko-ukrajinskom konflikte na internete čínska vláda cenzuruje.
„Nie je jasné, či tie účty boli nejako prepojené, ale propagácia správ, ktorá je v súlade s vládnou rétorikou, sa im (čínskej vláde) bezpochyby hodí," uviedla Emmie Hineová, výskumníčka v oblasti práva a technológií z Bolonskej univerzity. „Aj keby tie účty neboli priamo prepojené s Komunistickou stranou Číny, propagácia jej posolstva znižuje pravdepodobnosť, že by ich niekedy odstránila," dodala.
Podľa Hineovej je hlavným cieľom čínskej regulácie AI zachovať súčasnú spoločenskú stabilitu a propagovať inováciu a ekonomický vývoj. „Na papieri tie pravidlá (regulácia AI) vyzerajú síce striktne, ale zaznamenali sme, že v praxi sú veľmi selektívne," povedala.
Ďalšie dôležité správy
