Vládne opatrenia budú kľúčové pri snahe obmedziť riziká spojené s využívaním umelej inteligencie, povedal pri vypočutí v americkom Kongrese šéf spoločnosti OpenAI Sam Altman. Riaditeľ start-upu stojaceho za revolučným programom ChatGPT okrem iného vyjadril podporu zavedeniu systému s bezpečnostnými štandardmi pre uvádzanie podobných aplikácií na trh. Agentúra AP poznamenala, že však aktuálne nič nenasvedčuje tomu, že by americkí zákonodarcovia mali pripraviť súbor pravidiel pre využívanie umelej inteligencie (AI).
Treba prijať opatrenia
Sam Altman v pripravenom prejave uviedol, že „vláda Spojených štátov by mala zvážiť kombináciu kritérií na povolenie alebo registráciu pri vývoji a uvádzaní modelov AI... súbežne s stimulmi na plné dodržiavanie týchto podmienok“. Zároveň vyjadril názor, že regulácia by nemala blokovať snahu o inovácie, píše list The Washington Post. Bezpečnostné požiadavky pre firmy v oblasti AI by mali byť „dostatočne flexibilné v záujme adaptácie na nový technologický pokrok“, povedal jednému z podvýborov amerického Senátu Sam Altman, ktorý v najbližších týždňoch plánuje podobné vystúpenia po celom svete.
Dnešné vypočutie nadväzuje na mesiace prekvapujúceho vývoja na poli umelej inteligencie, ktorý spustilo minuloročné uvedenie chatovacieho programu ChatGPT. Ten spadá do kategórie takzvanej generatívnej umelej inteligencie a dokáže na základe tréningu na obrovskom množstve dát produkovať výstupy ťažko rozlíšiteľné od ľudských prejavov. Iné programy fungujúce na rovnakom princípe môžu generovať obrázky či zvukové stopy silne pripomínajúce snímky alebo hlasy skutočných ľudí.
Nielen vlády majú obavy
Vlády a regulačné orgány na celom svete nezvládajú s vývojom držať krok, čo prispieva k varovaniam ohľadom potenciálnych úskalia novej technológie. Obavy sa týkajú najrôznejších oblastí od školstva, cez zábavný priemysel až po manipuláciu s informáciami na internete, pričom zaznievajú aj od samotných tvorcov súčasných dátových modelov.
Sam Altman už skôr uviedol, že umelá inteligencia podľa neho bude vyžadovať nový zákon, teraz v tomto smere poskytol nové podrobnosti. Okrem iného podporil myšlienku medzinárodnej organizácie, ktorá by v danej sfére vytvárala štandardy, pričom ponúkol prirovnanie k regulácii jadrových zbraní. Pred americkými senátormi vyhlásil, že vládne zásahy budú kľúčové pre obmedzenie rizík čoraz silnejších systémov umelej inteligencie.
Nebezpečenstvo manipulácie
Za jednu z otázok, ktoré mu robia najväčšie starosti, označil Altman schopnosti nových modelov manipulovať s ľuďmi a poskytovať akési interaktívne dezinformácie. Počas vypočutia sa vyslovil za právne aj firemné normy, ktoré by ošetrovali možnosti politických subjektov využívať generatívne AI pri presviedčaní voličov počas kampaní. „Som z toho nervózna,“ citovala šéfa OpenAI agentúra Reuters.
Kým firmy od veľkých až po tie začínajúce sa predháňajú vo vývoji produktov využívajúcich umelú inteligenciu, reguláciou týchto nástrojov sa nezaoberajú len úrady v USA. Európska únia sa približuje k prijatiu „aktu o umelej inteligencii“, ktorý by aplikácie rozdelil do rôznych kategórií a zaviedol rôzne obmedzenia podľa toho, aké so sebou nesú riziko.
V Kongrese sa podľa AP nič také aktuálne nečrtá, americké úrady však sľúbili ťaženie proti škodlivým službám založeným na AI, ktoré porušujú existujúce pravidlá ochrany spotrebiteľov a občianske práva. V americkej federálnej zákonodarnej moci, ktorú dlhodobo paralyzujú politické spory a obštrukcie, sú akékoľvek debaty o zásadnej regulácii nových technológií veľmi zložité. V uplynulých rokoch opakovane vyzýval na opatrenia zamerané na ochranu súkromia a reguláciu internetového obsahu šéf spoločnosti Meta Mark Zuckerberg, žiadny takýto krok sa však nedostavil.
Ďalšie dôležité správy
