Popredné spoločnosti zaoberajúce sa umelou inteligenciou (AI) sa snažia svojim chatbotom dodať osobnosť, uviedol denník Financial Times (FT).
Tréning osobnosti
Novovznikajúca oblasť môže byť podľa FT určujúca pre to, ako budú chatboti a veľké jazykové modely pôsobiť na používateľov. Rozdielne prístupy k správaniu modelov môžu rozhodnúť o tom, ktorý produkt si používatelia nakoniec vyberú a ktorá spoločnosť ovládne rozvíjajúci sa trh. Firmy sa napríklad snažia, aby ich model bol „milý“ a „zábavný“, ale zároveň sa držal v mantineloch pravidiel, aby sa predišlo škodám alebo protizákonnému konaniu.
Napríklad osobnosť najpopulárnejšieho chatbota ChatGPT spoločnosti OpenAI sa neustále vyvíja. „K téme správania modelov som sa na začiatku dostala vďaka tomu, že osobnosť ChatGPT pôsobila veľa otravne,“ uviedla Joanne Jangová, ktorá v OpenAI vedie oddelenie zamerané na tréning osobnosti modelov.
„Predtým odmietal príkazy, bol extrémne nedotklivý, napätý alebo poučujúci, preto sme sa snažili odstrániť otravné časti a naučiť ho niektoré veselé aspekty, ako že by mal byť milý, zdvorilý, ústretový a priateľský, ale potom sme si uvedomili, že akonáhle sme sa ho pokúsili takto vycvičiť, model bol možno až príliš priateľský,“ dodala.
Z textu asistent
„Dobrý model vyvažuje rešpekt k ľudskej autonómii so schopnosťou rozhodovať sa, nerobí nič strašne škodlivé, ale zároveň rozmýšľa nad tým, čo je pre ľudí naozaj dobré, a nepreberá len bezprostredné slová popisujúce to, čo ľudia hovoria, že chcú,“ povedala FT Amanda Askellová, ktorá vedie tréning osobnosti v spoločnosti Anthropic vyvíjajúcej model Claude.
Anthropic rozbehol tréning osobnosti v marci, keď vydal model Claude 3. Proces prebieha po počiatočnom dátovom tréningu jazykového modelu. Podľa spoločnosti ho „mení z prediktívneho textového modelu na asistenta AI“.
ChatGPT od OpenAI bol inštruovaný, aby „zaujal objektívne stanovisko“. Naopak Anthropic považuje snahu o objektívnosť za slepú uličku. „Chcela by som radšej jasne povedať, že tieto modely nie sú neutrálnymi arbitrami,“ zdôraznila Askellová. Podľa nej bol Claude navrhnutý tak, aby bol úprimný pri svojich presvedčenia a zároveň otvorený iným názorom.
Ďalšie dôležité správy
