Akt o umelej inteligencii, ktorý schválila Európska únia, je prvým svojho druhu na svete. Nariadenie má zaistiť, aby umelá inteligencia (AI) rešpektovala základné práva EÚ a podporovala inovácie. Slovenskí europoslanci pre TREND odpovedajú:
- Aký očakávate vplyv a dôsledky nariadenia v praxi?
- Čo by ste v schválenom nariadení urobili inak? Čo v ňom chýba alebo je nadbytočné?
Miriam Lexmann, europoslankyňa, KDH
Na tvorbe Aktu o AI som sa aktívne podieľala. V prvom rade prinesie väčšiu právnu istotu pre výrobcov, ale aj spotrebiteľov. Počas jeho tvorby prebiehali rozsiahle konzultácie s priemyslom, aby sa „vychytali“ prípadné nejasnosti. Ide skutočne o robustnú prierezovú právnu úpravu, ktorá nedokáže obsiahnuť všetky nuansy. Preto bude veľmi dôležité sledovať prípravy vykonávacích predpisov, ktoré prinesú ďalšie podrobnosti. Nariadenie tiež prinesie výhody pre inovácie, keďže spoločnosti budú presne vedieť, do akej kategórie rizikovosti sa produkty budú zaraďovať a podporí to konkurencieschopnosť nášho priemyslu.
Od začiatku som upozorňovala, že v Akte o AI chýba lepšia úprava algoritmov takzvanej ekonomiky pozornosti. Týka sa to napríklad sociálnych sietí, ktorých algoritmy sú primárne naprogramované na dosahovanie zisku a ponúkajú obsah, ktorý čo najdlhšie udrží našu pozornosť.
Problémom je, že algoritmy nerozlišujú, či nám zobrazujú dezinformácie alebo iný toxický obsah, napríklad sebapoškoduzujúce videá u detí. Preto som sa snažila presvedčiť kolegov, aby sme algoritmy ekonomiky pozornosti zahrnuli medzi vysoko rizikovú AI, čo sa mi v Európskom parlamente aj podarilo. Žiaľ, v trialógu niektoré členské štáty a EK tento pozmeňovací návrh nakoniec odmietli. Naďalej budem pracovať na tom, aby sa pri zmene Aktu o AI táto oblasť patrične upravila.
Katarína Roth Neveďalová. europoslankyňa, SMER-SD
S umelou inteligenciu tu žijeme už istú dobu. Považujem za dôležité, že EÚ ako prvá pristúpila k jej regulácii a stanovila isté hranice. AI nesmie nahradiť človeka a nesmieme dovoliť, aby mohla ohroziť ľudský život a dôstojnosť. Máme jasne stanovené, kde a kedy sa AI nesmie používať, aby bol tento princíp zachovaný. Pri neustále sa rozvíjajúcich technológiách je jej používanie občas nevyhnutné a často pomáha, stále však musí byť riadiacim prvkom človek a nie program. Pre prax má táto legislatíva význam v určení hraníc. Pre vývojárov napomáha v smere, kam sa uberať. Pre ľudí predstavuje upokojenie a uistenie, že technológia nebude zneužitá.
Žiadna legislatíva nie je dokonalá a ak ide o prvú legislatívu svojho druhu, isto sú v nej prvky, ktoré bude treba upraviť, aby stále plnila svoj účel. Preto som rada, že máme nielen orgány, ktoré budú plnenie legislatívy kontrolovať, ale zároveň máme v nej aj nástroje, aby sme ju vedeli adaptovať na neustále sa vyvíjajúcu situáciu.
Ľudovít Ódor, europoslanec, Progresívne Slovensko
Technológie založené na AI nie sú samé o sebe ani dobré ani zlé. Na jednej strane nám denne pomáhajú s písaním mailov alebo nám odporúčajú nový seriál. No v oblastiach ako biometria, medicína, či doprava, je použitie umelej inteligencie rizikovejšie. Kým vďaka rozpoznávaniu tvárí založenom na AI denne jednoducho odomykáme svoje telefóny, v Číne je rovnaká technológia využívaná vládou na (prena)sledovanie obyvateľov. Dnes panuje široká zhoda na tom, že potrebujeme spoločné európske pravidlá pre technológie, ktoré využívajú AI. Je nepochybným úspechom, že Únia je prvá na svete, ktorá takéto pravidlá vytvorila.
V priebehu niekoľkých rokov prípravy Aktu o AI sa odohral veľký počet rokovaní, na ktorých sa hľadal balans medzi bezpečnosťou a kontrolou na jednej strane a podporou inovácií na druhej strane. V tomto procese boli európski liberáli z frakcie Renew Europe, ku ktorým patrím aj ja, rozumným hlasom kompromisu. Na celkové hodnotenie je priskoro. Dôležitý bude spôsob, ako EK uplatní prijaté pravidlá na spoločnosti. Druhý kľúčový moment sa odohrá v členských krajinách, vrátane Slovenska, keď si vyberie, kto a ako bude riadiť a dohliadať na spoločnosti, ktoré u nás AI technológie vyvíjajú.
Milan Uhrík, europoslanec, Republika
Dôsledky sa budú odvíjať od činnosti novovytvoreného Európskeho úradu pre umelú inteligenciu. Komplikované byrokratické systémy EÚ presýtené množstvom úradníckych činností majú často tendenciu rôznorodého výkladu jednotlivých článkov európskych nariadení, pričom sa dotknuté subjekty, poškodené nesprávnym úradným postupom musia brániť na Súdnom dvore EÚ. Obávame sa preto neodôvodnených zásahov do slobody internetu, zo strany nadnárodnej entity, veľmi široko si vysvetľujúcej vlastné regulačné kompetencie.
Oceňujeme obmedzenie použitia nástrojov diaľkovej biometrickej identifikácie. No obávame sa výnimiek, ktoré za istých okolností umožňujú jej využitie a dokážu ohroziť slobodu obyvateľstva. Umelá inteligencia nesmie byť zneužitá na systém sociálnych kreditov a rovnako nesmie byť zneužívaná na dosahovanie politických cieľov a cenzúru zo strany korporácií, vyvíjajúcich aplikácie, či implementujúcich rozhodovacie procesy založené na AI, do algoritmov sociálnych sietí. Preto malo nariadenie zakázať zneužívanie systémov AI na cenzúru prejavov, ktoré nevybočujú zo zákonných mantinelov jednotlivých národných štátov.
Ďalšie dôležité správy
