Ako o nás rozhodujú algoritmy

Čaro komédie je, samozrejme, v tom, ako je všetko pritiahnuté za vlasy. František slepo dôveruje počítaču, pretože je to symbol pokroku. Síce mu nerozumie, ale nerobí mu problém uveriť, že počítač určuje jeho budúcnosť na základe „vedeckých“ poznatkov. A jeho predpovede aj dodržiava, hoci nakoniec vôbec nemusel. František však nie je nepodobný našej každodennej súčasnosti: neviditeľné algoritmy nám pomáhajú nájsť najvýhodnejšie pôžičky, najlacnejší spotrebný tovar, výhodnú dovolenku aj nové bývanie či pracovné príležitosti.

Informácie, ktoré sa na sociálnych sieťach prispôsobujú tomu, čo nás zaujíma, a ostatné utláčajú do úzadia. K tomu primiešajú reklamu, ktorá odzrkadľuje to, čo sme nedávno na sieti hľadali či čítali. A popritom o nás zisťujú kopu údajov, ktoré im pomáhajú ich služby ešte zdokonaľovať.

Ak sú „Big data“ surovinou modernej doby, algoritmy sú stroje, ktoré z nich vytvárajú zmysluplné prostredie. Spoliehame sa na ne, hoci im nerozumieme.

Odvrátená strana

Algoritmy postupne začínajú ovplyvňovať rozhodovanie aj vo verejnej sfére – od hodnotenia uchádzačov o granty či verejné zákazky, cez hľadanie štátnych úradníkov po hodnotenie toho, či má niekto nárok na predčasné prepustenie z väzenia alebo či neznamená verejnú hrozbu na letisku alebo v metre. Algoritmy, teda spôsoby, akým sa v počítačoch spracúvajú dáta, sa vedia učiť, opravovať a zdokonaľovať na základe stále nových a nových dát.

Autonómne učenie znamená, že ani ich tvorcovia často nevedia, ako a s akými dátami presne pracujú. Právny analytik Andrew Tutt napríklad navrhuje zriadiť takzvanú Vládnu agentúru pre algoritmy, ktorá by, podobne ako v prípade liekov, dohliadala na to, aké algoritmy a dáta sa v biznise využívajú, a určovala by, kto je v prípade škôd za ne zodpovedný. „Algoritmy sú čoraz komplexnejšie a rozšírenejšie, treba sa vážne zaoberať tým, ako predchádzať škodám, ktoré môžu spôsobiť,“ píše.

Jasný cieľ

Pred trhoviskom na Miletičovej ulici v Bratislave stojí malý domček, ktorý ponúka záložňu a rýchle, hotovostné úvery bez zbytočných prieťahov. Vzhľadom na stálu klientelu trhoviska, kde sa od skorého rána čapuje lacný alkohol, je to ideálne zvolené miesto. Vedia, že ak potrebujú hotovosť, ktorú nemajú, môžu si rýchlo požičať. Úroky a podmienky sú vedľajšie.

Cielenie na vhodnú klientelu, ako ukazuje aj tento príklad, nie je v obchode ničím novým. S príchodom sociálnych sietí a vyhľadávacích služieb sa však dá cieliť oveľa presnejšie, jednoduchšie a aj lacnejšie. A ak sa to darí, tak sa cielenie reklamy a služieb len zdokonaľuje.

Problém čiernej skrinky tkvie v tom, že mnohým zložitým algoritmom už nedokážeme rozumieť. Vidíme len vstupy a výstupy

Nemusí to hneď vyvolávať obavy z toho, akú moc nad nami majú globálne spoločnosti bez tváre. Ich cieľom je primárne spokojný zákazník – ak k tomu algoritmy nevedú, tak ich ladia, až kým klient nie je spokojný. Znalosť pohybu a plánov klienta nakoniec nie je na škodu.

Letíte na dovolenku? Ak vám letecká spoločnosť poslala letenku do pošty, Google (či iná služba) si z nej už vytiahla údaje o lete. V momente, ako vstúpite na letisko, vám ponúkne jeho mapu a podľa čísla letu nájde správnu odletovú bránu a odnaviguje vás tam. Prípadne upozorní, že lietadlo mešká a či stihnete tranzitný let. A ak nie, poradí vám, aké sú vaše práva a kde sa nachádza to správne okienko, kde si ich uplatniť, a objedná taxík na hotel.

Idete autom a je pred vami zápcha? Navigácia na ňu upozorní a poradí vhodnú obchádzku skôr, než vôbec uvidíte stáť prvé autá. Niekedy aj skôr ako dopravný servis v rádiu.

Ráno svieti slnko a deň vyzerá pekne? Smartfón vás upozorní ešte pred odchodom z domu, že sa čaká ochladenie a dážď a nie je úplne zlý nápad pribaliť si dáždnik.

Zdroj: TREND.sk

Cielene zlé

To všetko dnes vybavia algoritmy ako poslušné virtuálne roboty bez toho, aby ste ich o to požiadali, a len na základe údajov, ktoré už majú. Samozrejme, za predpokladu, že ich cieľom je naozaj iba pomôcť. A službami si tak udržať priazeň zákazníka, na ktorom sa potom dá zarobiť cez predaj reklamy.

Presné cielenie sa dá využiť aj opačne, tak ako to robí tá spomínaná kancelária na Miletičovej ulici. Počítač vie – presne podľa zadania klienta – veľmi presne vybrať menej vzdelaných ľudí, ktorí potrebujú rýchlo požičať, a zamerať sa na nich reklamami. Cez internet či SMS sa dá požičať veľmi ľahko, podmienky sú neprehľadné a regulácia zaostáva.

Pri zahraničných poskytovateľoch má slovenský dohľad reálny problém vôbec nájsť, ktorá firma peniaze požičiava, nieto ešte prinútiť ju dodržiavať regulácie. Chudobnejší a menej vzdelaní majú smolu,