Herbert Simon, laureát Nobelovej ceny za ekonómiu z roku 1978, sa preslávil výskumom o tom, ako ľudia a organizácie prijímajú rozhodnutia v prostredí zahltenom informáciami. Už v 70. rokoch varoval, že „bohatstvo informácií vytvára chudobu pozornosti“. Jeho práca pomohla pochopiť, ako ľudia potrebujú filtrovať informácie, aby boli efektívne. O niekoľko dekád neskôr Shoshana Zuboff vo svojej knihe The Age of Surveillance Capitalism odhalila temné stránky technologických gigantov a ich schopnosť ovplyvňovať naše správanie. Obaja boli vizionári – a dnešná doba im dáva za pravdu.
Dnes však svet stojí na prahu novej éry – éry „ekonomiky zámeru“. Yaqub Chaudhary a Jonnie Penn tvrdia, že umelá inteligencia môže zmeniť rovnováhu medzi informáciou a pozornosťou a priniesť koncept nazývaný „ekonomika zámeru”. Tému rozoberajú vo svojej štúdii „Zápas s revolúciou generatívnej umelej inteligencie,” publikovanej 30. decembra 2024 vo vydaní Harvard Data Science Review.
Podľa autorov štúdie ekonomika zámeru predstavuje trh, kde sa obchoduje s behaviorálnymi a psychologickými dátami naznačujúcimi úmysly používateľov. Veľké jazykové modely (LLM) a generatívna AI umožňujú zhromažďovanie, spracovanie a využitie týchto údajov v bezprecedentnom rozsahu. Y. Chaudhary a J. Penn opisujú, že technológie LLM dokážu kombinovať hyperpersonalizáciu s manipuláciou a emocionálnym ovplyvňovaním, čím vytvárajú nové možnosti pre obchodovanie so signálmi úmyslov – od výberu hotela až po politické rozhodovanie.
Keď nevinný email spôsobí politickú búrku
Iniciatíva „Nie v našom meste“ plánovala pokojné protesty proti politike vlády Roberta Fica. Na podporu mobilizácie rozposlala približne 120 príjemcom email generovaný ChatGPT, ktorý obsahoval informácie o neviolentných protestoch. Tento email bol však označený za dôkaz cudzej intervencie a vláda ho použila na diskreditáciu občianskych aktivít.
Premiér Fico na zasadnutí Bezpečnostnej rady vyhlásil, že protesty môžu prerásť do pokusu o prevrat. Zároveň zdôraznil potrebu preventívnych opatrení. Organizátori protestov obvinenia odmietli, označili ich za účelové a tvrdia, že ide o ďalší krok vlády na potláčanie ústavných práv občanov.
Napriek ich odhodlaniu však e-mail od ChatGPT poukázal na slabinu občianskej iniciatívy. Slabo vypromptovaný text s univerzálnymi frázami bez kontextu Slovenska poskytol vláde zámienku na spochybnenie protestov a vyvolal otázky o profesionálnosti organizátorov.
Slovenský prípad nie je len o chybe občianskej iniciatívy, ale o tom, ako môže byť technológia zneužitá vládou proti vlastným občanom. Kým ChatGPT je mocný nástroj, jeho výstupy nie sú hotovým riešením – vyžadujú ďalšiu prácu, kontext a odbornosť. To platí dvojnásobne v citlivých situáciách, akými sú politické protesty.
Na druhej strane, Ficova vláda ukázala, ako manipulatívne dokáže otočiť technologické nedostatky na svoju politickú výhodu. Namiesto riešenia podstaty občianskej nespokojnosti (ako sú napríklad obavy z korupcie alebo autoritárskych praktík) sa vláda sústredila na diskreditáciu iniciatívy.
Halucinovanie, ktoré je pre četboty prirodzené, vytvorilo „manuál“ pre občianske protesty. Vláda však predostrela verejnosti tento výtvor AI ako šokujúci plán opozície zvrhnúť vládu nelegálnou cestou. Tento prípad je varovaním, že technológie, ak sa nepoužijú správne, môžu namiesto pomoci poškodiť demokratické snahy. Používanie nástrojov ako ChatGPT vyžaduje nielen technické znalosti, ale aj schopnosť posúdiť kvalitu výstupu. Email s generickým obsahom nemal byť nikdy odoslaný bez dôkladnej úpravy a kontextualizácie. Ak bol email výsledkom experimentu, organizátori mohli jasne uviesť, že ide len o pomocný nástroj, a podčiarknuť, že obsah reflektuje ich úmysel konať v rámci ústavného rámca.
Vláda ukázala, že je schopná využiť akýkoľvek nástroj na oslabenie dôveryhodnosti občianskych iniciatív. Občianska spoločnosť musí byť pripravená na to, že jej snahy budú skúmané pod mikroskopom. O to dôležitejšie je zvoliť jasnú komunikačnú stratégiu.
Kde je deliaca čiara pre extrém a demokraciu? AfD môže vo voľbách dosiahnuť historický úspech
