Čínski výskumníci, ktorí spolupracujú s Ľudovou oslobodzovacou armádou (PLA), predstavili nový AI nástroj s názvom ChatBIT. Tento model, vyvinutý adaptáciou open-source jazykového modelu Llama od spoločnosti Meta, je optimalizovaný na vojenské účely, konkrétne na zhromažďovanie a spracovanie spravodajských informácií, píše portál Tomshardwer.
Modifikácia na vojenské účely
ChatBIT predstavuje ďalší krok v stratégii Číny posilniť svoje vojenské technologické schopnosti pomocou AI. Projektu sa zúčastnilo šesť výskumníkov z troch inštitúcií, vrátane dvoch organizácií pod Akadémiou vojenských vied PLA. Tím využil model Llama 2 13B od spoločnosti Meta a modifikoval ho tak, aby vyhovoval špecifickým potrebám v oblasti vojenského rozhodovania. Podľa výskumníkov má ChatBIT schopnosť poskytovať presné a spoľahlivé informácie pre strategické rozhodovanie, pričom jeho výkon dosahuje približne 90 percent úrovne OpenAI's ChatGPT-4.
ChatBIT sa zameriava na podporu vojenského plánovania, simulačné tréningy pre personál a zefektívnenie rozhodovania velenia. Používanie open-source modelu Llama môže vyvolávať etické a bezpečnostné otázky. Meta zakazuje využívanie svojich modelov na vojenské účely, no kontrola dodržiavania týchto obmedzení zostáva komplikovaná, čo dokazuje aj prípad ChatBIT.
Tendenčná AI
Adaptácia modelu Llama na vojenské aplikácie zdôrazňuje nedostatočnú kontrolu nad verejne dostupnými AI technológiami. Relatívne malý dataset 100-tisíc vojenských dialógových záznamov, použitý na tréning ChatBIT, môže mať vplyv na kvalitu a nestrannosť odpovedí modelu. Táto situácia takisto poukazuje na riziko, že open-source modely môžu byť jednoducho upravené pre účely, ktoré môžu mať negatívne dôsledky pre bezpečnosť a ľudské práva.
Skutočnosť, že čínski výskumníci dokázali adaptovať model Llama na vojenské účely napriek explicitným obmedzeniam Meta, podčiarkuje zraniteľnosti súčasných riadiacich rámcov pre open-source AI.
Ďalšie dôležité správy
