Ako Čierne zrkadlo. Deadbot je softvér, ktorý umožní ľuďom vstať z mŕtvych. Je to etické?

Strojové učenie a umelá inteligencia (AI) sa stali bežnou súčasťou ľudského života. Virtuálni asistenti pomáhajú v domácnostiach, algoritmy na sociálnych sieťach odporúčajú obsah podľa záujmov užívateľa, automobily jazdia samostatne. Stroje sa snažia pochopiť ľudský svet, no etika a morálka, ktorá súvisí so strojovým učením, je zatiaľ neorané pole.

Láska vs. umelá inteligencia

Joshua Barbeau využil stránku Project December, aby vytvoril konverzačného četbota, čiže kus softvéru, s ktorým sa možno porozprávať formou textu. Nie však bežného četbota, ktorý pomôže s výberom paušálu pre smartfón alebo krásnych nových šiat. J. Barbeau zamýšľal nasimulovať reakcie svojej zosnulej snúbenice Jessicy.

Aj keď to znie ako prípad vystrihnutý z populárneho britského seriálu Black Mirror (Čierne zrkadlo), takýto typ umelej inteligencie reálne existuje pod názvom deadbot. Predtrénovaný model GPT-3 dokáže simulovane sprostredkovať textový rozhovor so zosnulou osobou, ktorá nemusí byť iba rodinným príslušníkom, ale pokojne môže ísť o celebritu či historickú postavu.

OpenAI

OpenAI je projekt na výskum v oblasti umelej inteligencie, ktorý v roku 2015 založil Elon Musk s ďalšími investormi s celkovým kapitálom vo výške miliardy amerických dolárov. V roku 2018 vizionár opustil vedenie spoločnosti a v roku 2019 do nej vložila ďalšiu miliardu firma Microsoft.

Projekt má na konte už niekoľko zaujímavých produktov vrátane Gym, čo je platforma na hodnotenie a trénovanie algoritmov umelej inteligencie. Jej jazykový model GPT má v súčasnosti už tretiu verziu GPT-3 a je určený na simuláciu ľudských reakcií pomocou textu.

Project December založil vývojár Jason Rohrer a tvorbu četbotov s osobnosťou, s ktorou sa používateľ túži rozprávať, poskytoval za peniaze. Služba bola postavená práve na modeli GPT-3 a prípad J. Barbeaua vyvolal konflikt medzi J. Rohrerom a firmou OpenAI.

Pravidlá, ktoré si spoločnosť na vývoj AI stanovila, striktne zakazujú využitie jej softvéru na šikanovanie, samoubližovanie, sexuálne či romantické účely. Výsledkom sporu bolo stiahnutie verzie Project December, ktorá obsahovala model GPT-3. Problém sa tým však nerieši, riešenie to iba odkladá.

Je to v poriadku?

S objavom umelých neurónových sietí sa verejnosť začína zaujímať a zároveň aj obávať, kam strojové učenie povedie a akú úroveň schopností môže umelá inteligencia po čase získať. Sám Elon Musk, ktorý je považovaný za technologického vizionára, je presvedčený, že AI je pre ľudstvo nebezpečnejším nepriateľom, než jadrové zbrane.