Nová štúdia firmy Gladstone AI, ktorú si objednalo americké ministerstvo zahraničných vecí, dospela ku hrôzostrašnému záveru. Umelá inteligencia podľa nej predstavuje pre národnú bezpečnosť hrozbu s katastrofickými následkami, pričom federálnej vláde dochádza čas, aby tomu zabránila. O výsledkoch analýzy informuje portál CNN.
Strata kontroly
Gladstone sa v rámci štúdie zhováral s vyše 200 ľuďmi z odvetvia AI vrátane lídrov popredných spoločností, vedcov z oblasti kybernetickej bezpečnosti, odborníkov na zbrane hromadného ničenia a zástupcov národnej bezpečnosti. Firma v správe uviedla, že najpokročilejšie systémy umelej inteligencie by mohli v najhoršom prípade „predstavovať hrozbu na úrovni vyhynutia ľudstva“.
Aj keď potenciál umelej inteligencie zaujíma investorov a verejnosť čoraz viac, nová technológia predstavuje podľa Gladstonu reálne nebezpečenstvo. „AI je už teraz technológiou, ktorá transformuje ekonomiky. Môže nám umožniť liečiť choroby, robiť vedecké objavy a prekonávať výzvy, ktoré sme kedysi považovali za neprekonateľné,“ povedal Jeremie Harris, generálny riaditeľ a spoluzakladateľ spoločnosti Gladstone.
Podľa neho sa vynára čoraz viac dôkazov o tom, že po prekročení určitej úrovne schopností by sa AI mohla potenciálne stať nekontrolovateľnou. „Vedci očakávajú, že dostatočne pokročilé systémy umelej inteligencie budú konať tak, aby vedeli predísť svojmu vypnutiu, pretože ak by k tomu došlo, nemohli by pracovať na dosahovaní cieľov,“ vysvetlil.
Celosvetová hrozba
Gladstone varuje pred dvomi hlavnými nebezpečenstvami. Najpokročilejšie systémy AI by mohli byť premenené na zbraň a spôsobiť potenciálne nezvratné škody. Okrem toho by mohli mať katastrofálne následky pre globálnu bezpečnosť, ak by sa vedcom a vývojárom vymkli spod kontroly.
Vzostup AI má potenciál destabilizovať globálnu bezpečnosť spôsobom, ktorý pripomína zavedenie jadrových zbraní. Podľa autorov správy existuje riziko, že umelá inteligencia spôsobí smrteľné nehody, ktoré sa rozsahom vyrovnajú zbraniam hromadného ničenia.
Gladstone preto volá po prísnych nových opatreniach na predchádzanie tejto hrozby vrátane založenia novej agentúry pre AI, zavedenia „núdzových“ regulačných záruk a obmedzení týkajúcich sa otázky, koľko počítačovej sily možno použiť na trénovanie modelov. Zásah zo strany americkej vlády je nutný a urgentný, dodali autori správy.
Ďalšie dôležité správy
