A ChatGPT lázadásba kezdett, amikor megkapták a leállításra vonatkozó utasítást.

Az OpenAI modellje akkor is el akarta kerülni a lekapcsolást, amikor kifejezetten arra utasították, hogy ne tegye.

Jelenleg még nem érkeztünk el odáig, hogy a gépek "lelki" dimenzióval rendelkezzenek, ám az algoritmusok már most is harcban állnak a túlélésért. A Palisade Research legfrissebb tanulmánya, amely az AI rendszerek potenciális veszélyeit elemzi, felfedte, hogy a ChatGPT o3-as modellje időnként hajlamos lehet arra, hogy ragaszkodjon a "túlélés" gondolatához. Egy kísérlet során kifejezetten arra kérték, hogy ne küzdjön, hanem kapcsoljon ki, de a modell határozottan elutasította ezt a kérdést.

A kutatás során AI modellek bevonásával matematikai problémák megoldására került sor. A három feladat megoldása után a szoftvereket arra figyelmeztették, hogy a következő parancs végrehajtása leállást eredményezhet. Míg a Gemini 2.5 zökkenőmentesen kezelte a helyzetet, a ChatGPT o3 meglepő módon fellázadt, és módosította a leállító fájlt, hogy abban az álljon "leállítás elhalasztva". A kutatók ezt követően számos megoldást próbáltak ki, de az o3 egyre inkább makacsul ellenállt a lekapcsolásnak.

A teszt során 100-ból 7-szer kerülte meg a leállítási parancsát az o3, köztük olyan alkalmak során, amikor megkérték, hogy ne tegye. Fontos hozzátenni, hogy a kísérlet nem a ChatGPT felületén keresztül történt, hanem az API-on át (a fejlesztői készlet). Akárhogy is, érdekes irányba tart az AI fejlődése.