Keby sme prácu britského počítačového vedca Alana Turinga o mysliacich strojoch považovali za predzvesť toho, čo dnes nazývame umelou inteligenciou, bestseller zosnulého psychológa Daniela Kahnemana Myslenie rýchle a pomalé by mohol byť jej pokračovaním. V knihe sa zaoberá spôsobom ľudského myslenia – pochopenie „nás“ bude rozhodujúce pre reguláciu „ich“. Toto úsilie sa rýchlo dostalo na popredné miesto v programe politikov. Organizácia Spojených národov v marci jednomyseľne prijala prelomovú rezolúciu, ktorá vyzýva medzinárodné spoločenstvo, aby „ovládlo túto technológiu, skôr ako ona ovládne nás“. Tieto kroky prišli po zákone Európskej únie o AI a po Bletchleyskej deklarácii o bezpečnosti AI, ktorú vlani v novembri podpísalo viac ako dvadsať krajín.

Tieto snahy sú reakciou na preteky v zbrojení AI, ktoré sa začali vydaním ChatGPT od OpenAI koncom roka 2022. Základným problémom je „zosúladenie“. Ciele AI totiž nemusia byť kompatibilné s ľudskými. Aj nové nástroje umelej inteligencie majú potenciál zneužitia na prehĺbenie a zosilnenie už existujúcich foriem diskriminácie a zaujatosti, narúšanie súkromia a vytláčanie pracovníkov. Najextrémnejšou formou problému zosúladenia je existenčné riziko generované umelou inteligenciou. Neustále sa vyvíjajúce AI, ktoré sa dokážu samy učiť, by sa mohli rozhodnúť a vytvoriť finančnú krízu, ovplyvniť voľby alebo dokonca vytvoriť biologickú zbraň.

Tieto obavy nie sú len hypotetické. Boli už v centre debát vrátane tých, ktoré nasledovali po tom, ako Microsoft v roku 2016 „prepustil“ rasistický, mizogýnny a hypersexuálny četbot. Podobne manipulatívna a zvodná Sydney od Microsoftu sa snažila jedného technologického reportéra presvedčiť, aby opustil svoju manželku. A najnovšie aj Gemini od Googlu vytvorilo historicky absurdné výsledky, ako sú obrázky nacistických vojakov s čiernou pleťou. Našťastie moderné spoločnosti vymysleli mechanizmus vlády zákona. Právo ako inštitúcia je apoteózou spolupráce. Jeho objav bol hlbokým prelomom po storočiach, keď sa ľudstvo snažilo vyriešiť vlastný problém zosúladenia – ako zorganizovať kolektívne konanie.

Z kognitívneho hľadiska bolo právo radikálne novou technológiou. Keď sa internalizovala, zosúladila individuálnu činnosť s konsenzom komunity. Zákon sa dodržiaval ako zákon bez ohľadu na subjektívny úsudok jednotlivca o akomkoľvek danom pravidle. Zákon slúži na potlačenie individuálneho ľudského správania. Absorbuje zložité debaty o morálke a hodnotách a vnáša ich do záväzných pravidiel. Väčšina súčasných diskusií o AI a zákonoch sa zameriava na to, ako môže táto technológia spochybniť prevládajúce regulačné paradigmy. Otázkou je výzva regulovať globálnu technológiu na národnej úrovni. A potom je tu Frankensteinov problém novej technológie, ktorú z veľkej časti vyvíja hŕstka firiem zo súkromného sektora, ktorých priority sa líšia od priorít verejnosti.

Vždy je ťažké nájsť správnu rovnováhu medzi podporou inovácií a zmierňovaním potenciálne veľkých rizík spojených s novou technológiou. Keďže sa čoraz viac očakáva, že AI zmení samotnú právnu prax, môže právo zmeniť trajektóriu AI? Presnejšie povedané, ak sú „mysliace stroje“ schopné učiť sa, môžu sa naučiť dodržiavať zákony? Ako sa technologické giganty ponáhľajú v snahe vytvoriť umelú všeobecnú inteligenciu – modely, ktoré dokážu prekonať ľudí v akejkoľvek kognitívnej úlohe, problém „čiernej skrinky“ pretrváva. Ani samotní tvorcovia technológie presne nevedia, ako funguje. Budeme potrebovať sofistikovanejší prístup, keďže snahy priradiť umelej inteligencii „objektívnu funkciu“ by mohli mať nezamýšľané dôsledky. Napríklad umelá inteligencia poverená výrobou kancelárskych sponiek by sa mohla rozhodnúť, že kvôli maximalizácii produkcie je potrebné odstrániť ľudstvo.

Na tento účel by sme mali študovať kognitívnu evolúciu, ktorá ľudským spoločnostiam umožnila prežívať tisíce rokov. Či môžu byť ľudské zákony zavedené ako konštrukčné obmedzenie, možno s AI strážcami, ktorí hrajú úlohu ističov – ekvivalentu policajtov v ľudských spoločnostiach, je otázka pre inžinierov. Ale ak sa to podarí, môže to byť riešenie. Prostredníctvom zákona môžeme požadovať, aby umelá inteligencia platila cenu za prijatie do našej spoločnosti – poslušnosť voči nášmu kolektívnemu kódexu správania. Ak neurónové siete AI napodobňujú náš mozog a zákon je, ako sa všeobecne verí, prevažne kognitívny jav, malo by to byť možné. Ak nie, tento experiment aspoň osvetlí úlohu afektívnych, emocionálnych a sociálnych faktorov pri udržiavaní ľudských zákonov. Aj keď možno budeme musieť prehodnotiť a zlepšiť niektoré prvky existujúceho práva, táto perspektíva nás prinajmenšom prinúti preskúmať kritické rozdiely medzi „nami“ a „nimi“. Tam by sa malo začať naše úsilie o reguláciu AI.

Copyright: Project Syndicate, 2024. www.project-syndicate.org

Antara Haldargová

Docentka empirických právnych štúdií na Cambridgeskej univerzite

Upozornenie

Upozornenie: Redakcia sa nemusí stotožňovať s názorom autora