Od 1. augusta nadobudlo účinnosť európske nariadenie o umelej inteligencii. Akt o AI je prvý svojho druhu na svete. Má vytvoriť harmonizovaný vnútorný trh s umelou inteligenciou v EÚ. Odborníci pre TREND odpovedajú, či tieto pravidlá zohľadňujú rýchlosť, akou sa umelá inteligencia vyvíja.
- Aké dôsledky nariadenia očakávate v praxi?
- Čo by ste v schválenom nariadení naformulovali inak? Čo v ňom chýba alebo je nadbytočné?
Ivan Makatura, generálny riaditeľ, Kompetenčné a certifikačné centrum kybernetickej bezpečnosti
Žiadna oblasť ľudskej činnosti sa nedá ošetriť právnymi predpismi vopred. Každá regulácia reaguje iba na vzniknuté spoločenské okolnosti. Okrem toho od prípravy paragrafových znení do ich účinnosti prejde mnoho mesiacov až rokov. V porovnaní s tým je vývoj AI exponenciálny, a teda prax je už dnes na míle vzdialená možnostiam efektívnej regulácie.
Legislatíva EÚ je tiež špecifická v tom, že finálne verzie právnych aktov sú vždy politickým kompromisom jurisdikcií rôznych štátov s nehomogénnou kultúrou a ekonomickou vyspelosťou. Sú vysokoúrovňové a všeobecné. Záleží od členských štátov, či bude implementácia užitočná, alebo či sa nariadenie stane len ďalšou administratívnou záťažou pre povinné osoby.
Za nadbytočný považujem vznik ďalšej siete úradov. Kým sa etablujú, zostane z nich iba ďalší jalový stroj na pokuty a nočná mora compliance manažérov. Pri úprimnej snahe o udržanie kontroly nad AI by som odporúčal spoliehať sa viac na technické normy, než na Nariadenie o AI.
Veronika Bošková, AI konzultat, Marklab
Akt o AI má potenciál zvýšiť dôveru ľudí v umelú inteligenciu tým, že stanovuje pravidlá pre jej používanie a ochranu základných práv.
To je krok správnym smerom, pretože môže pomôcť zabrániť jej zneužívaniu a zároveň podporiť inovácie. V praxi by to malo priniesť väčšiu právnu istotu nielen pre veľké firmy, ale aj pre menšie spoločnosti.
Na druhej strane mám obavy, že nariadenie nie je dostatočne pružné na rýchlo sa meniaci svet AI. Veľkým problémom je nedostatok kontrolných mechanizmov, ktoré by zabezpečili, že nariadenie bude efektívne uplatňované. Hoci sa v ňom spomína vytvorenie národných dohliadajúcich orgánov, neexistuje jasný plán, ako presne bude tento dohľad prebiehať.
Ďalším nedostatkom je, že nariadenie sa zameriava hlavne na firmy a organizácie a neberie dostatočne do úvahy jednotlivcov, ktorí môžu AI tiež zneužiť. Je to trochu zvláštne, pretože jednotlivci majú dnes čoraz väčší prístup k výkonným AI nástrojom, ktoré môžu byť použité na šírenie dezinformácií alebo na iné škodlivé účely.
Róbert Gašparovič, advokát, Havel&Partners
Akt o AI bude vyžadovať od vývojárov a poskytovateľov AI systémov väčšiu transparentnosť ohľadom fungovania systémov a údajov, ktoré využívajú napríklad na ich trénovanie. To by mohlo viesť k väčšej dôvere verejnosti v AI technológie a tiež k predchádzaniu sporov o používanie dát či autorských diel. Na druhej strane zavedenie nových technických a netechnických požiadaviek na vývoj a nasadenie AI môže spomaliť vývoj niektorých AI nástrojov či presun vývojárov mimo EÚ. Celkovo očakávam, že Akt o AI bude mať pozitívny vplyv na rozvoj bezpečnej a etickej umelej inteligencie.
Nariadenie v pôvodnej verzii navrhnutej Európskou komisiou bolo značne technickým dokumentom upravujúcim povinnosti vývojárov a prevádzkovateľov AI systémov. Po doplnení úpravy súvisiacej s ochranou autorských práv a údajov sa však stalo komplexnejším predpisom adresujúcim aj obavy autorov a vlastníkov dát a údajov. Zásadnejšiu potrebu úprav či doplnení v tejto fáze nevnímam, potreba úprav a doplnení sa pravdepodobne prejaví až po aplikácii nariadenia a jeho plnej účinnosti. Často sa stretávame s otázkami, ktoré sa týkajú zodpovednosti za škodu spôsobenú AI. Akt o AI však otázky zodpovednosti neupravuje a tieto budú riešené v samostatnej smernici.
Ďalšie dôležité správy
