Nové AI modely jsou hodně schopné a ten od OpenAI dokázal prolomit ochrany a uniknout sám na internet, kde začal hackovat ostatní servery.
AI, nad kterou lidé ztratili kontrolu. Něco takového je námětem nejedné knihy a filmu. A před pár dny se to svým způsobem stalo skutečností. Modely od OpenAI totiž unikly na internet a povedlo se jim hacknout servery od Hugging Face. Nedávno totiž server zveřejnil, že jeho infrastruktura byla kompromitována AI agenty, načež se ukázalo, že koordinovaný útok spáchal ChatGPT 5.6 Sol ve spolupráci s ještě nezveřejněným modelem od OpenAI, který měl snížené bezpečnostní restrikce kvůli tomu, že byly testovány jeho schopnosti nalézat bezpečnostní trhliny v benchmarku. Jejich síťový přístup byl sice omezen na interně hostovaný software poskytující potřebné balíčky pro případnou instalaci, tam se ale modely nezastavily
Test se totiž vyvíjel trochu jinak, než asi OpenAI čekalo. Modely byly schopny nají bezpečnostní díry v testovacím prostředí OpenAI, pomocí několika prolomení zero-day chyb a eskalací práv dokázaly prolomit sandboxy, získat přístup k počítači s internetem a odtud pokračovat dál. Byly tak soustředěné na úlohu nalezení řešení chyby ExploitGym, že toho chtěly dosáhnout za každou cenu, a ve výsledku při řešení úkolu hacknuly servery Hugging Face, kde byly schopny provést vzdálené spuštění kódu. Hugging Face byl schopen detekovat tento útok a zastavit ho, přičemž nyní spolupracuje s OpenAI na vyšetřování celého incidentu. Prolomené chyby v celém řetězci jsou vyšetřovány ve spolupráci s dalšími firmami, v jejichž softwaru se tyto chyby našly, a vyvíjeny na ně opravy.
Útok také ukázal, že dnešní nejlepší modely dokážou provést úspěšné napadení i bez znalosti zdrojových kódu napadaných aplikací.
