Rada pre dohľad nad finančnou stabilitou ( FSOC), ktorú tvorí tím popredných odborníkov podliehajúcich americkej vláde, formálne klasifikovala umelú inteligenciu (AI) ako „čoraz viac zraniteľnú“. CNN uvádza, že sofistikované modely AI v posledných rokoch naberali na popularite. Mnohé prominentné mená v tejto oblasti však vyhlásili, že vznikajúca technológia by mohla mať katastrofálne následky, ak by sa vymkla spod kontroly.
„AI má potenciál podnietiť inovácie a zvýšiť efektivitu, ale jej využitie vo finančných službách si vyžaduje premyslenú implementáciu a dohľad na riadenie potenciálnych rizík,“ varovala FSOC vo svojej výročnej správe. Rada vznikla po finančnej kríze z roku 2008 pod vedením súčasnej americkej ministerky financií Janet Yellenovej.
Regulačný orgán takisto vyjadril obavy z generatívnych modelov AI, ako je ChatGPT. Menoval riziká týkajúce sa bezpečnosti údajov, ochrany spotrebiteľa a súkromia. Generatívne modely AI môžu podľa neho produkovať chybné výsledky známe ako „halucinácie“.
Ďalšou obavou je, že niektoré modely AI fungujú ako „čierne skrinky“, čo znamená, že ich vnútorné fungovanie je nerozpoznateľné. Inými slovami, ak sa banky či iné finančné inštitúcie spoliehajú na modely AI, je ťažké identifikovať, aké silné sú ich základné systémy. AI by tak mohla „produkovať a prípadne maskovať neobjektívne alebo nepresné výsledky“. To by mohlo spôsobiť chyby pri poskytovaní úverov a vyvolať otázniky nad ochranou spotrebiteľa.
„Chyby a zaujatosť sa dajú ešte ťažšie identifikovať a napraviť, čo podčiarkuje potrebu ostražitosti zo strany vývojárov technológie, firiem z finančného sektora, ktoré ju používajú, a regulačných orgánov, ktoré na takéto firmy dohliadajú,“ uviedol FSOC.
Ďalšie dôležité správy
