Umelá inteligencia má problém s rasovou diskrimináciou. Týka sa nielen biometrických identifikačných systémov, ktoré často nesprávne rozpoznajú tváre ľudí s tmavou pleťou či príslušníkov menšín, ale aj softvérov na rozpoznávanie hlasu, ktoré nedokážu rozlíšiť hlasy s výraznými regionálnymi prízvukmi. Tento problém môže negatívne ovplyvniť sektor bankovníctva, píše portál CNBC.
Pomalosť bánk
Podľa spoločnosti Deloitte sú systémy umelej inteligencie také dobré ako údaje, na ktorých trénovali. Keď sú tieto dáta neúplné alebo nedostatočne reprezentatívne, môžu značne obmedziť objektivitu AI.
Vedúci oddelenia kryptomien a Web3 v spoločnosti Worldpay Nabil Manji s ňou súhlasí a dodáva, že silu technológií AI ovplyvňujú dva faktory – údaje, ku ktorým majú prístup, a kvalita veľkého jazykového modelu. Pokiaľ ide o finančné služby, mnohé backendové dátové systémy pracujú s údajmi v rôznych jazykoch a formátoch.
Keďže nie sú jednotnej povahy, aplikácie poháňané AI nie sú z hľadiska poskytovania finančných služieb efektívne rovnako ako v iných odvetviach. Môže za to skutočnosť, že banky čelia oveľa väčšej regulácii, a tak im zavádzanie akejkoľvek zmeny trvá o čosi dlhšie. Je preto pravdepodobné, že budú v rámci prijímania nových nástrojov AI za svojimi technologickými protipólmi zaostávať.
Problémové pôžičky
Bývalý vedúci Twitteru v oblasti strojového učenia Rumman Chowdhuryová uviedla, že schvaľovanie pôžičiek je ideálnym príkladom toho, ako AI systémy diskriminujú marginalizované komunity. „Chicago má historický problém s doslovným odopieraním (pôžičiek) predovšetkým žiadateľom z černošských štvrtí,“ vysvetlila.
Angle Bushová, zakladateľka organizácie Black Women in Artificial Intelligence, dodala, že pri schvaľovaní pôžičiek pomocou algoritmov AI existuje riziko, že sa systémy rozhodnú na základe predsudkov prítomných v historických dátach, na ktorých trénovali. „To môže viesť k automatickému zamietnutiu pôžičky pre osoby z marginalizovaných komunít, čo v konečnom dôsledku prehĺbi rasovú a rodovú nerovnosť,“ dodala Bushová.
Apple a Goldman Sachs už napríklad čelili obvineniam z toho, že ženám v súvislosti s platobnou kartou Apple Card poskytovali nižšie limity. Regulačný orgán v New Yorku tieto tvrdenia vyvrátil, pretože nenašiel žiadne dôkazy o tom, že by sa spoločnosti dopustili diskriminácie na základe pohlavia.
Čas na reguláciu
Podľa Chowdhuryovej je potrebné vytvoriť celosvetovú regulačnú organizáciu, akou je OSN, ktorá by sa zaoberala niektorými rizikami spojenými s AI.
Aj niektorí technológovia a etici vyjadrili pochybnosti o mravných a etických zásadách umelej inteligencie. Medzi ich najväčšie obavy patrí náchylnosť na rozširovanie dezinformácií, rasové a rodové predsudky zakorenené v algoritmoch AI a „halucinácie“ generatívnych softvérov, akým je ChatGPT.
Podľa odborníkov je ten správny čas na výraznú reguláciu systémov AI. Niektorí sa ale obávajú, že zavádzanie príslušných právnych rámcov neprebehne dostatočne rýchlo. Stačí sa podľa nich pozrieť na Zákon o umelej inteligencii z dielne EÚ, ktorý do platnosti vstúpi zrejme až v roku 2025.
Ďalšie dôležité správy
