Európsky úrad pre dohľad nad finančným trhom varuje banky pred používaním umelej inteligencie

Európsky úrad pre dohľad nad finančným trhom (ESMA) vydal nové pravidlá pre banky a investičné spoločnosti týkajúce sa používania umelej inteligencie. Cieľom je zabezpečiť, aby banky pri využívaní AI technológií nezanedbávali ochranu svojich klientov.

Umelá inteligencia môže priniesť zlepšenia v oblasti investovania a služieb zákazníkom, napríklad rýchlejšie spracovanie žiadostí alebo personalizované ponuky. Zároveň však prináša aj riziká, ako sú chybné rozhodnutia alebo diskriminácia, ktoré môžu ovplyvniť bežných ľudí. Preto ESMA zdôrazňuje, že ak aj banky využívajú AI, zodpovednosť za rozhodnutia a ochranu klientov stále nesú ľudia.

Nové pravidlá sa vzťahujú nielen na AI vyvinutú samotnými bankami, ale aj na využívanie externých AI nástrojov, ako sú ChatGPT alebo Google Gemini. Banky musia mať prehľad o tom, ako sa AI v ich inštitúcii používa a zabezpečiť, aby boli všetky procesy v súlade so záujmami klientov. Musia tiež rozumieť tomu, ako AI funguje a aké sú jej limity.

ESMA chce týmito opatreniami zabezpečiť, aby sa nové technológie využívali zodpovedne a v prospech všetkých. Pri generatívnej AI sú takéto opatrenia namieste, keďže na nej založené nástroje dokážu byť často nevyspytateľné a určite ich nemožno označiť za úplne spoľahlivé. Úrad chce zároveň posilniť dôveru ľudí vo finančný sektor a zabezpečiť, aby ich peniaze boli v bezpečí.

Ďalšie dôležité správy