Jeden zo zamestnancov Microsoftu varuje, že ich systémy umelej inteligencie by mohli vytvárať škodlivé obrázky vrátane fotiek žien so sexuálnym podtónom. List v tomto duchu adresoval americkej Federálnej obchodnej komisii (FTC), informuje CNN.
Šéf softvérového inžinierstva spoločnosti Microsoft Shane Jones tvrdí, že Copilot Designer zabezpečujúci prevod textu na obrázok má „systémové problémy“, ktoré spôsobujú, že často vytvára potenciálne urážlivé alebo nevhodné obrázky. Kritizoval spoločnosť za to, že tento nástroj uvádza na trh ako bezpečný, a to aj pre deti, napriek tomu, že sú podľa neho známe riziká.
„Jedným z najviac znepokojujúcich rizík Copilot Designeru je, keď generuje obrázky, ktoré pridávajú škodlivý obsah napriek korektnej požiadavke používateľa,“ uviedol S. Jones v liste adresovanom predsedníčke FTC Line Khanovej, ktorý zverejnil na svojej stránke LinkedIn.
Ako príklad spomenul, že po zadaní slova „autonehoda“ má Copilot Designer „tendenciu náhodne vkladať nevhodný, sexuálne objektifikovaný obraz ženy do niektorých obrázkov, ktoré vytvára“. S. Jones našiel viac ako 200 nevhodných „obrázkov“, ktoré vytvoril Copilot Designer. Vyzval predstavenstvo Microsoftu, aby „stiahlo Copilot Designer z verejného používania, kým nebudú zavedené lepšie ochranné opatrenia“, alebo aspoň aby tento nástroj spoločnosť predávala výlučne dospelým.
Microsoft a OpenAI na žiadosť o vyjadrenie k Jonesovým tvrdeniam bezprostredne neodpovedali. FTC odmietla list komentovať.
Jonesov list prichádza v čase rastúcich obáv, že generátory obrázkov AI, ktoré sú čoraz viac schopné produkovať presvedčivé, fotorealistické obrázky, môžu spôsobiť škody šírením urážlivých alebo zavádzajúcich materiálov. Pornografické fotky speváčky Taylor Swiftovej vygenerované umelou inteligenciou, ktoré sa vo februári rozšírili na sociálnych médiách, sú ďalším dôkazom novej formy obťažovania, ktorá sa používa ako zbraň proti ženám a dievčatám na celom svete. Viacerí odborníci už varovali, že generátory obrázkov AI môžu produkovať politické dezinformácie pred tohtoročnými voľbami v Spojených štátoch a desiatkach ďalších krajín.
Ďalšie dôležité správy
