Európsky parlament (EP) prijal rokovaciu pozíciu k Zákonu o umelej inteligencii. Nové pravidlá majú podporiť zavádzanie dôveryhodnej umelej inteligencie (AI) zameranej na človeka a chrániť zdravie, bezpečnosť, základné práva a demokraciu pred jej škodlivými účinkami.
Za pozíciu EP hlasovalo 499 poslancov, 28 bolo proti a 93 sa zdržalo. Môžu sa tak začať rokovania s členskými štátmi EÚ o konečnej podobe zákona.
Pravidlá odobrené EP sa riadia prístupom založeným na riziku a stanovujú povinnosti pre poskytovateľov a operátorov umelej inteligencie v závislosti od úrovne rizika, ktoré UI môže predstavovať. Systémy s neprijateľnou úrovňou rizika pre bezpečnosť ľudí by mali byť zakázané.
Rozšírené zákazy
Poslanci ich rozšírili o zákaz používania umelej inteligencie spôsobom, ktorý narúša súkromie a je diskriminačný. Sú to napríklad systémy diaľkovej biometrickej identifikácie v reálnom čase, systémy biometrickej kategorizácie podľa citlivých údajov (pohlavie, rasa, etnický pôvod, občianstvo, náboženstvo, politická orientácia), systémy rozpoznávania emócií v oblasti presadzovania práva a podobne.
Europoslanci presadili, aby klasifikácia vysokorizikových aplikácií zahŕňala aj systémy UI, ktoré významne poškodzujú ľudské zdravie, bezpečnosť, základné práva alebo životné prostredie, ovplyvňujú voličov a výsledky volieb či v odporúčacích systémoch používaných platformami sociálnych médií (nad 45 miliónov používateľov).
Generatívne systémy umelej inteligencie ako ChatGPT musia podľa nových pravidiel spĺňať požiadavky na transparentnosť a informovať, že obsah bol vytvorený umelou inteligenciou a pomáhať odlíšiť falošné obrazy (deepfake) od skutočných, a poskytnúť záruky proti vytváraniu nezákonného obsahu.
Výnimka pre výskumníkov
S cieľom podporiť inovácie v oblasti AI a malé a stredné podniky europoslanci doplnili výnimky pre výskumné činnosti a komponenty umelej inteligencie poskytované na základe licencií s otvoreným zdrojovým kódom.
Poslanci chcú posilniť aj právo občanov podávať sťažnosti na systémy AI ako aj právo získať vysvetlenie rozhodnutí založených na vysokorizikových systémoch umelej inteligencie, ktoré majú významný vplyv na ich základné práva.
Poslanci prepracovali aj úlohu Úradu EÚ pre umelú inteligenciu, ktorý by mal po novom monitorovať uplatňovanie súboru pravidiel umelej inteligencie.
Ďalšie dôležité správy
