Jazykové modely zatiaľ nedokážu spoľahlivo nahradiť ľudí. V praxi ale do toho firmy možno pôjdu

Rýchly pokrok v oblasti umelej inteligencie a vývoja veľkých jazykových modelov spôsobuje revolúciu v spôsobe, akým sa ľudia učia, v dostupnosti informácií či efektivite práce. Jazykové modely sa stávajú čoraz sofistikovanejšími a schopnými komunikovať v materinskom jazyku používateľa.

Stále však majú priestor na zlepšovanie. nenarazili na svoje limity. O tom, čo ľudí čaká v budúcnosti a prečo môžu mať problémy na pracovnom trhu, sa TREND rozprával s výskumníkom M. Gregorom z Kempelenovho inštitútu inteligentných technológií.

Firma OpenAI nedávno predstavila ChatGPT-4, ktorý sa posunul výrazne vpred. Čo tento pokrok znamená?

Z môjho pohľadu je pokrok v niektorých oblastiach pomerne veľký. Výrazne sa zlepšila zručnosť modelu pracovať s vizuálnymi dátami. Modely teraz vidia detaily, ktoré predtým nevideli. Na týchto modeloch robím svoj súkromný test, pri ktorom skúšam, či dokážu na obrázku rozoznať, či má pes uši sklopené alebo špicaté. Skoro žiadny model to nevie, ale tento už áno.

Moja kolegyňa však vidí, že aj pri tomto modeli sú ešte stále nedostatky, napríklad pri pokrytí určitých typov slovies – rozdiel medzi slovami ležať a kráčať. Model ale napríklad výborne rozpoznáva znaky v češtine a slovenčine, a teda dokáže urobiť veľmi dobrý prepis textu z fotografie. Ja by som sa veľmi rád dopracoval do bodu, kde si naskenujem knihu a dám si z nej spraviť automaticky audioknihu.

Firma v podstate ohlásila aj vývoj piatej verzie. Čo prinesie a čo to bude znamenať?

Ťažko povedať, akými spôsobmi to konceptuálne rozšíria, lebo teraz tieto modely už vedia pracovať s obrázkami, audiom a čiastočne aj s videom. Neočakávam, že pribudnú nové modality. Podľa mňa sa zlepšia zručnosti modelu. Veľa priestoru na zlepšovanie je v oblasti logického odvodzovania.

Teraz sa dosť experimentuje s metódami, ktoré učia modely uvažovať. Nedávno aj zástupcovia firmy Meta hovorili, že nových dát sa už nedá veľa získať, ale dajú sa robiť inteligentnejšie veci, aby sa model učil zručnosti, ktoré doteraz nemal.

Blížime sa k všeobecnej umelej inteligencii?

Až taký optimista by som nebol. Počul som názory niektorých odborníkov, že na budúci rok už máme očakávať všeobecnú umelú inteligenciu, ale to sa určite nestane. Je tam veľa vecí, ktoré to ešte blokujú. Na úrovni jazyka sa zdá, že modely vedia robiť úžasné veci, ale je veľa triviálnych úloh, ktoré nevedia vykonať a aj v jazyku majú stále veľké obmedzenia.

V akom časovom horizonte je podľa vás reálne dopracovať sa k všeobecnej umelej inteligencii?

Netrúfam si robiť odhad v horizonte ani piatich a určite nie desiatich rokov. Som presvedčený, že sa nič prevratné nestane v horizonte jedného roka. A podľa mňa ani v horizonte troch rokov. Je tam zopár vecí, ktoré sú v súčasnosti skôr na okraji záujmu, ale je potrebné, aby ich modely vedeli. Máme pekné výsledky v jazyku, teraz do toho trochu vstupuje obraz.

Naopak, v niektorých veciach, ktoré sú pre ľudí triviálne, ako napríklad navigácia v reálnom svete, uchopovanie predmetov a podobne, zatiaľ AI nie je veľmi dobrá. Vie byť dobrá v konkrétnych úlohách, keď ju natrénujeme na veľkom množstve dát. Ale toto sa v horizonte piatich až desiatich rokov môže zmeniť.

Sú aj iné dôvody, ktoré tento proces brzdia?

Ďalšími dôvodmi sú napríklad chýbajúca schopnosť plánovať a logicky uvažovať. Modely si okrem toho stále nedokážu zapamätať konverzáciu napríklad spred mesiaca – hovoríme, že im chýba epizodická pamäť. Problémom je aj to, že sú postavené na klasických neurónových sieťach, ktoré majú vlastnosť katastrofického zabúdania – ak začneme sieť trénovať na nových dátach, má tendenciu úplne zabudnúť to, čo vedela predtým. Ale aj tieto problémy sa môže podariť vyriešiť za najbližších desať rokov.