Před pár týdny byly zveřejněny nové AI modely Claude Fable 5 a Mythos 5 od Anthropicu. Velmi rychle ale byly zakázány. Později se i zjistilo proč.
LLM Anthropic Mythos je tak mocným bezpečnostním modelem, že musí mít omezení toho, kdo s ním může pracovat. Vedle toho byl představen i nový model Claude Fable 5 pro běžné uživatele, který byl založen na stejném základu se striktnějšími omezeními. Jak se ukázalo, ten dokázal také nalézat dost bezpečnostních chyb, přičemž podle Anthropicu ostatní modely tyto mírné zranitelnosti najdou také. Americká vláda se přesto rozhodla, že se Fable 5 stane zakázaným “vývozním artiklem” a nesmí mít k němu přístup někdo, kdo není občanem USA, a to včetně zaměstnanců Anthropicu.
Později ale vyšlo také najevo, že generál Joshua Rudd, který je šéfem agentury NSA, se slovy amerického senátora Marka Warnera nechal slyšet, že Mythos jim při interních testech schopností tohoto modelu byl schopen se dostat do téměř všech jejich tajných zabezpečených IT systémů. Nepotřeboval k tomu ani týdny nebo dny. Stačily mu pouhé hodiny.
Toto měl dle Warnera Rudd říci na interním brífinku 11. června, den před vyhlášením banu na přístup k novým modelům. Není divu, že vláda začala jednat tak rychle a viděla riziko v tom, že Claude Fable 5 na stejném základě by se navzdory striktnějším limitům mohl stát závažným bezpečnostním rizikem. Dodejme, že Fable 5 je stále nedostupným modelem, ale v průběhu dneška by se měl vrátit a exportní limity by měly být zrušeny.
