Strach z umelej inteligencie prenasleduje ľudstvo od začiatku počítačovej éry. Najskôr to boli obavy zo strojov určených na zabíjanie, zotročenie alebo nahradenie ľudí. V posledných pár rokoch sa objavili nové nástroje, schopné manipulovať a pretvárať jazyk, či už pomocou slov, zvukov alebo obrázkov. AI sa tým nabúrala do operačného systému našej civilizácie, píše The Economist.
Na jazyku je postavená takmer celá ľudská kultúra. Ľudské práva napríklad nie sú zapísané v našej DNA. Ľudia si sami vytvorili tieto kultúrne artefakty rozprávaním príbehov a písaním zákonov. Aj peniaze sú kultúrnym artefaktom. Bankovky sú len farebné kúsky papiera, v súčasnosti viac ako 90 percent peňazí ani nie sú bankovky – sú to len digitálne informácie v počítačoch. To, čo dáva peniazom hodnotu, sú príbehy, ktoré nám o nich hovoria bankári, ministri financií a guru kryptomien. Sam Bankman-Fried, Elizabeth Holmesová a Bernie Madoff neboli zvlášť dobrí vo vytváraní skutočnej hodnoty, no všetci boli mimoriadne schopní rozprávači.
Čo by sa stalo, keby bola iná inteligencia lepšia v rozprávaní príbehov než priemerný človek? Keď ľudia premýšľajú o ChatGPT a iných nových nástrojoch AI, často ich to láka ako školákov, ktorí používajú AI na písanie svojich esejí. Čo sa stane so školským systémom, keď to deti urobia? V školských laviciach to ale nekončí. Zamyslite sa nad budúcim prezidentským súbojom v USA v roku 2024 a skúste si predstaviť vplyv nástrojov umelej inteligencie. Koľko politického obsahu, falošných správ a textov pre nové kulty dokáže vytvoriť?
Možno ani netušíme, že vedieme siahodlhé online diskusie o potratoch, klimatických zmenách alebo ruskej invázii na Ukrajinu s entitami, o ktorých si myslíme, že sú ľudia, ale v skutočnosti je to AI. Vďaka ovládaniu jazyka môže vytvárať intímne vzťahy s ľuďmi a využívať silu intimity na zmenu našich názorov a svetonázorov. Aj keď nič nenasvedčuje tomu, že by počítač by mal nejaké vlastné vedomie alebo pocity, na podporu falošnej intimity s ľuďmi stačí, ak ich AI dokáže prinútiť cítiť emócie.
Riskoval prácu
Inžinier Google Blake Lemoine v júni 2022 verejne tvrdil, že četbot Lamda, na ktorom pracoval, začal vnímať. Kontroverzné tvrdenie ho stálo prácu. Najzaujímavejšie na tejto epizóde nebolo vyhlásenie B. Lemoinea, ktoré bolo pravdepodobne nepravdivé. Bola to skôr jeho ochota riskovať lukratívnu prácu v záujme četbotu. Ak môže AI ovplyvniť ľudí, aby kvôli nej riskovali svoje zamestnanie, k čomu by ich ešte mohla prinútiť?
Blíži sa teda koniec ľudskej histórie? Nie koniec celých dejín, ale koniec časti ovládanej ľuďmi. História je interakcia medzi biológiou a kultúrou; medzi našimi biologickými potrebami a túžbami po veciach, ako je jedlo a sex, a našimi kultúrnymi výtvormi, ako sú náboženstvá a zákony. História je proces, prostredníctvom ktorého zákony a náboženstvá formujú jedlo a sex.
Čo sa stane s ľudstvom, keď AI prevezme kultúru a začne produkovať príbehy, melódie, zákony a náboženstvá? Predchádzajúce nástroje ako tlačiareň a rádio pomohli šíriť kultúrne myšlienky ľudí, ale nikdy nevytvorili vlastné kultúrne myšlienky. AI je zásadne odlišná, môže vytvoriť úplne nové nápady, úplne novú kultúru.
Hľadeli na obrazovku
V 17. storočí sa René Descartes obával, že ho možno zlomyseľný démon uväznil vo svete ilúzií a vytvoril všetko, čo videl a počul. V starovekom Grécku Platón rozprával slávnu alegóriu jaskyne, v ktorej je skupina ľudí pripútaná tvárou k prázdnej stene jaskyne po celý život. Obrazovka. Na tej obrazovke vidia premietať rôzne tiene. Väzni si mýlia ilúzie, ktoré tam vidia so skutočnosťou.
V starovekej Indii budhistickí a hinduistickí mudrci poukazovali na to, že všetci ľudia žili uväznení vo vnútri Mayov – sveta ilúzií. To, čo bežne považujeme za realitu, sú často len fikcie v našich vlastných mysliach. Ľudia môžu viesť vojny, zabíjať iných a sú ochotní nechať sa zabiť aj sami pre svoje presvedčenie v tú či onú ilúziu.
Od roku 1945 vieme, že jadrová technológia môže generovať lacnú energiu v prospech ľudí, ale môže tiež fyzicky zničiť ľudskú civilizáciu. Preto sme pretvorili celý medzinárodný poriadok na ochranu ľudstva a na zabezpečenie toho, aby sa jadrová technológia používala predovšetkým na dobro. Teraz musíme zápasiť s novou zbraňou hromadného ničenia, ktorá môže zničiť náš duševný a sociálny svet.
Treba rýchlu reguláciu
Regulovať nové nástroje AI sa dá, ale musíme konať rýchlo. Prvým zásadným krokom je vyžadovať prísne bezpečnostné kontroly predtým, ako budú výkonné nástroje AI vypustené do verejnej sféry. Tak ako farmaceutická spoločnosť nemôže vydať nové lieky pred testovaním ich krátkodobých aj dlhodobých vedľajších účinkov, tak aj technologické spoločnosti by nemali vydávať nové nástroje umelej inteligencie, kým nebudú bezpečné. Potrebujeme ekvivalent Úradu pre potraviny a liečivá pre novú technológiu. Už včera bolo neskoro.
Neregulované nasadzovanie vzdušných síl by vytvorilo sociálny chaos, ktorý by prospel autokratom a zničil by demokracie. Demokracia je konverzácia a konverzácie sa opierajú o jazyk. Keď AI hackne jazyk, mohlo by to zničiť našu schopnosť viesť zmysluplné rozhovory, a tým zničiť demokraciu.
Mali by sme zastaviť nezodpovedné nasadzovanie nástrojov AI vo verejnej sfére a regulovať ju skôr, ako ona zreguluje nás. Ako prvé nariadenie The Economist navrhuje, aby bolo povinné zverejňovať, o aké AI ide. „Ak sa s niekým rozprávam a nedokážem povedať, či je to človek alebo AI, to je koniec demokracie,“ uvádza Dan Williams.
Ďalšie dôležité správy
