Asketický historik Harari varuje pred katastrofou spôsobenou umelou inteligenciou

Knihy izraelského historika Yuvala Noaha Harariho už roky dominujú rebríčkom svetových bestsellerov. Je známy svojou schopnosťou syntetizovať zložité myšlienky do prístupných príbehov, čím si získal veľa čitateľov. Jeho kultového diela „Sapiens: Stručná história ľudstva“ sa predalo viac ako 25 miliónov kópií v rôznych jazykoch.

Y. Harari nie je online človekom. Nepoužíva smartfón, denne dve hodiny medituje, každý rok trávi mesiac alebo viac v ústraní, a jeho strava je prevažne vegetariánska.

Najnovšia kniha Nexus je jeho doposiaľ najtemnejším dielom. Y. Harari v nej odmieta názor, že viac informácií automaticky vedie k pravde alebo múdrosti. Upozorňuje na nebezpečenstvá umelej inteligencie, ktorú opisuje v apokalyptických farbách. „Ak s ňou naložíme zle, AI by mohla zničiť nielen ľudskú dominanciu na Zemi, ale aj samotné svetlo vedomia a premeniť vesmír na ríšu úplnej temnoty“, varuje.

Vykresľuje paralely medzi technologickým pokrokom v minulosti a súčasným vývojom AI. Zatiaľ čo mnohí považujú tlačiarenský lis za katalyzátor pokroku, on tvrdí, že tento vynález podporoval aj šírenie dezinformácií a tyranie. Upozorňuje, že mnohé historické texty, ktoré podnecovali násilie, sa šírenili práve vďaka tlačiarenskému stroju. Tento pohľad je mementom, že technologický pokrok nemusí automaticky viesť k pozitívnym výsledkom.

Zvýšený prístup k informáciám zároveň prehĺbil kontrolu spoločnosti a tyraniu. Sovietsky zväz, ako tvrdí, bol „jednou z najimpozantnejších informačných sietí v histórii“. „Informácie tam vždy niesli deštruktívny potenciál“, píše Y. Harari.

Odpočúvacie zariadenia

Ľudia sa často obávajú, že vláda im implantuje čip do mozgu, no podľa Harariho by sa mali viac obávať svojich smartfónov. „Tieto zariadenia dokážu sledovať naše pohyby očí, zaznamenávať našu reč a doručovať súkromnú komunikáciu neznámym ľuďom. Sú to odpočúvacie zariadenia, ktoré si ľudia ochotne nechávajú pri posteli aj pri sexe“, tvrdí.

Moderné politické algoritmy sú navrhnuté na maximalizáciu pozornosti používateľov a často smerujú k obsahu, ktorý vyvoláva hnev. Y. Harari varuje pred tým, čo sa stane, keď roboti sami vytvoria tento obsah, prispôsobia ho a budú neustále optimalizovať na zaplavenie dopamínových receptorov používateľov.

AI považuje za nevyspytateľnú – a to je jeho hlavná obava. Keď počítač v roku 2016 porazil juhokórejského šampióna v hre Go, jeden jeho ťah bol taký nečakaný, že programátori algoritmu ho nedokázali vysvetliť. „Hoci vieme, ako vytvárať modely AI, nerozumieme im. Bezstarostne sme privolali mimozemskú inteligenciu, pričom netušíme, čo to spôsobí“, píše Y. Harari.

V reakcii na tieto výzvy podpísal otvorený list, v ktorom vyzýva na dočasné zastavenie pokročilého vývoja AI, aby sa spoločnosť mohla zaoberať rizikami tejto technológie. Jeho stanovisko zdieľajú viacerí technologickí lídri, ktorí si uvedomujú potenciálne následky svojich výtvorov.

Y. Harari varuje, že AI „zničí“ aj svet žurnalistiky. Od roku 2005 USA stratili takmer tretinu svojich novín a viac ako dve tretiny pracovných miest v tomto sektore, pričom dnes pracuje sedem percent všetkých novinárov v USA pre The New York Times. Tento trend odráža koncentráciu mediálnej moci v rukách menšieho počtu veľkých hráčov.

Nasadenie AI tento problém pravdepodobne ešte zhorší. S generovaním obsahu nebudú nové platformy potrebovať externý obsah, pretože ho budú schopné syntetizovať samy. Namiesto vyhľadávača, ktorý by používateľa odkázal na externé stránky, AI četbot zosumarizuje tieto stránky a poskytne „vlastný“ text. Takýto vývoj by mohol odrezávať spisovateľov a vydavateľov – tých, ktorí skutočne tvoria obsah – od ich čitateľov.

Moc pramení zo spolupráce

Na začiatku Nexusu Harari ponúka paralelu s príbehom o čarodejníckom učňovi z Goetheho diela. Dobromyseľný, ale arogantný nováčik sa pohráva s mágiou, ktorá presahuje jeho schopnosti. Podľa Harariho je moc výsledkom spolupráce veľkého počtu ľudí a nie len individuálneho rozhodnutia. „Moc vždy pramení zo spolupráce spoločnosti“, tvrdí.

Vývoj AI prebieha už desaťročia. Projekt AI na MIT bol založený v roku 1959 a stále funguje. Jednotlivé modely AI dnes stoja miliardy dolárov. V roku 2023 smerovala približne pätina rizikového kapitálu v Severnej Amerike a Európe práve do AI. Takéto obrovské investície sú zmysluplné iba v prípade, ak firmy dokážu na týchto produktoch zarobiť enormné sumy prostredníctvom monopolizácie alebo marketingu.

V tomto rozsahu sú najzrejmejšími klientmi buď veľké korporácie alebo vlády. „Nakoľko sme presvedčení, že väčšia moc korporácií a štátov bude pre nás prospešná?“, pýta sa Y. Harari.

V Nexuse navrhuje štyri základné princípy, ktoré by mali usmerňovať rozvoj AI. Prvým je benevolencia: „Keď sieť zhromažďuje informácie o mne, tieto informácie by sa mali použiť na to, aby mi pomohli, nie na manipuláciu mňa“. Ďalšie princípy zahŕňajú decentralizáciu informačných kanálov, zodpovednosť za zber údajov a možnosť oslobodenia sa od algoritmického dohľadu.

Kniha Nexus končí slovami: „Rozhodnutia, ktoré urobíme v nasledujúcich rokoch, určia, či bude AI nádejnou novou kapitolou alebo konečnou chybou“.