Historik a autor Yuval Noah Harari vo svojej novej knihe Nexus: Stručná história informačných sietí od doby kamennej po AI upozorňuje, že umelá inteligencia predstavuje pre ľudstvo oveľa väčšiu hrozbu, než sa často zobrazuje v populárnej kultúre. AI je prvou technológiou, ktorá dokáže samostatne prijímať rozhodnutia a tvoriť nové myšlienky.
Harari tvrdí, že AI sa vyvíja do podoby „cudzej inteligencie“, ktorá je čoraz menej závislá od ľudských návrhov. Už v súčasnosti počítače rozhodujú o tom, či klient banky dostane hypotéku, nezamestnaný prácu alebo pôjde obvinený do väzenia. V budúcnosti by umelá inteligencia mohla dokonca vytvárať nové formy života.
Experti všeobecne vyjadrujú obavy, že AI by mohla ohroziť existenciu ľudskej civilizácie. Prieskum medzi výskumníkmi v oblasti AI ukázal, že viac ako tretina z nich pripúšťa aspoň 10-percentnú pravdepodobnosť, že pokročilá AI povedie k vyhynutiu ľudstva. Šlo pritom o pomerne veľkú vzorku takmer 2 800 autorov publikovaných prác v oblasti umelej inteligencie. Nebezpečenstvo spočíva v tom, že AI privádza na svet nespočetné množstvo nových mocných činiteľov, ktorí sú potenciálne inteligentnejší a nápaditejší než ľudia, pričom ich človek nedokáže úplne pochopiť ani kontrolovať.
Hrozí „dátagedon“. Vedci varujú, že umelá inteligencia sa zacyklí a skolabuje
Zvlášť znepokojujúca je myšlienka, že by sa ľudia mohli stať závislými od systémov, ktoré sú pre nich nepochopiteľné. Ak by dôležité rozhodnutia o ekonomike, zdravotníctve alebo zahraničnej politike robili algoritmy, ktorým rozumie len hŕstka expertov, ako by občania mohli ovplyvňovať tieto rozhodnutia? Ako by mohli voliť politikov, ktorí by mali reálnu moc niečo zmeniť, ak by skutočná moc spočívala v rukách netransparentných systémov?
Demokracia je založená na informovanom rozhodovaní a zodpovednosti ľudom volených zástupcov. Ak by občania stratili schopnosť rozumieť a kontrolovať kľúčové rozhodnutia, podstata demokracie by bola vážne ohrozená. Umelá inteligencia by sa tak mohla stať nástrojom na upevnenie moci v rukách technologických elít, čo by viedlo k vzniku novej formy technokracie.
Harari tiež varuje, že AI by mohla viesť k vytvoreniu „dátových kolónií“ – území, ktoré nebudú ovládané vojenskou silou, ale informáciami. Niekoľko korporácií alebo vlád zhromažďujúcich svetové dáta by mohlo zvyšok sveta premeniť na takéto kolónie. AI a automatizácia pritom predstavujú výzvu najmä pre chudobnejšie rozvojové krajiny. V globálnej ekonomike riadenej umelou inteligenciou by si digitálni lídri mohli privlastniť väčšinu ziskov a svoje bohatstvo využiť na rekvalifikáciu pracovnej sily a ďalšie zisky. Hodnota nekvalifikovaných pracovníkov v krajinách, ktoré zaostávajú, by naopak klesala.
- Yuval Noah Harari: Historik varujúci pred nástrahami AI
Yuval Noah Harari je izraelský civilný a vojenský historik a spisovateľ, ktorého knihy sa stali svetovými bestsellermi. Je známy svojimi provokatívnymi názormi na ľudskú históriu, technológie a budúcnosť. Vo svojich dielach skúma témy ako slobodná vôľa, vedomie, inteligencia, šťastie a utrpenie. V súčasnosti pôsobí ako profesor na Hebrejskej univerzite v Jeruzaleme.
Harari sa špecializuje na celkový pohľad na históriu, vojenskú históriu, sociálnu filozofiu a technológie. Jeho najznámejšie knihy sú Sapiens: Stručné dejiny ľudstva, Homo Deus: Stručné dejiny zajtrajška a 21 lekcií pre 21. storočie.
Ďalšie dôležité správy
