Americká spoločnosť OpenAI pracuje na projekte s krycím názvom Strawberry. Cieľom je, aby uvažovanie a argumentácia systémov umelej inteligencie prekonali doterajšie limity a priblížili sa ľudským schopnostiam.
„Chceme, aby naše modely AI chápali svet a rozumeli mu podobne ako my. Neustály výskum nových schopností AI je v tomto odvetví bežnou praxou, pričom zdieľame bežné presvedčenie, že sa tieto systémy časom budú zdokonaľovať vo svojom uvažovaní,“ oznámil hovorca OpenAI.
Reuters sa v máji dostal k internému dokumentu, podľa ktorého na projekte Strawberry v OpenAI pracuje niekoľko tímov. Cieľom je umožniť AI nielen generovať odpovede na otázky, ale plánovať dostatočne dopredu, aby sa mohla nezávisle a spoľahlivo pohybovať po internete a vykonávať niečo, čo OpenAI označuje za „hĺbkový výskum“, tvrdí zdroj. To je niečo, čoho veľké jazykové modely (LLM) ako ChatGPT doposiaľ neboli schopné.
Problémom sú halucinácie
LLM vedia zhrnúť husté a náročné texty a zostaviť elegantné jazykové útvary oveľa rýchlejšie než človek, ale zaostávajú v riešení jednoduchých logických problémov, ktoré ľudia riešia intuitívne, napríklad rozpoznávanie logických chýb. V tomto prípade sa modely často uchyľujú k takzvaným „halucináciám“. Halucinácie sú označenie vygenerovanej odpovede, ktorá obsahuje nepravdivé alebo zavádzajúce informácie. Môže ísť tiež o výsledok nedostatočných, neaktuálnych alebo skreslených tréningových dát.
Strawberry má byť podľa zdroja Reuters kľúčovou súčasťou plánu OpenAI tieto problémy prekonať. Dokument, ku ktorému sa agentúra v máji dostala síce popisuje, čo má projekt dosiahnuť, ale nie ako.
Posttréning generatívnych modelov
OpenAI sa blíži k spusteniu technológie s výrazne pokročilejšími schopnosťami uvažovania než aktuálne LLM ako ChatGPT.
Súčasťou technológie je takzvaný „posttréning“ generatívnych modelov AI. To znamená ich prispôsobenie, aby sa mohli dodatočne zdokonaliť na výkon špecifických úloh už po základnom tréningu na množstve všeobecných dát, uviedol jeden zo zdrojov.
Americká nezisková organizácia Centrum pre investigatívnu žurnalistiku (Center for Investigative Reporting) na konci júna podala žalobu na OpenAI a jej partnera Microsoft. Vydavateľ magazínu Mother Jones a webu Reveal tvrdí, že OpenAI bez súhlasu a ponuky finančnej kompenzácie využíva jeho obsah.
Ďalšie dôležité správy
