Elon Musk a jeho společnost xAI zažalovala stát Minnesota. Nelíbí se jim příliš striktní a rozsáhlý zákon zakazující AI pro generování nahotin.
Generativní AI může být problémem, když se nepoužije k dobrým účelům. V posledních dnech se probírají zejména schopnosti nových modelů hacknout systémy jiných firem, nicméně světlo reflektorů si na sebe nastavil i Elon Musk a jeho společnost xAI kvůli aplikacím pro svlékání lidí pomocí AI.
Společnost xAI, která stojí za systémem Grok, totiž podala žalobu proti státu Minnesota. Důvodem je nový zákon HF 1606, který zakazuje nástroje sloužící k tzv. nudifikaci, tedy k automatickému svlékání lidí na fotografiích pomocí AI. Tato legislativa vstoupila v platnost 1. srpna, a stává se tak prvním takovým zákonem v USA.
Zákon oproti minulosti necílí už jen na ty, kteří takové nástroje používají, ale vinu přesouvá primárně na provozovatele aplikací a webů. Pro provozovatele (a tam patří i xAI a její Grok Imagine) mohou být dopady poměrně zásadní, neboť zákon zavádí pokuty ve výši minimálně 500.000 USD za každé takové použití nástroje. V případě, že by uživatelé platformy vyprodukovali např. 100 tisíc nepovolených snímků, hrozí společnosti xAI pokuty v řádu desítek miliard dolarů.
V rámci žaloby xAI tvrdí, že se samotným zákonem nudifikace pomocí AI souhlasí, vadí ji ale to, že zákon je příliš široce definovaný a v důsledku toho omezuje svobodu slova. Firma namítá, že zákaz zahrnuje i části těla běžně viděné na veřejnosti. xAI dále dodává, že její vlastí podmínky generování sexualizovaných obrazů bez souhlasu osob striktně zakazují.
Grok dlouhodobě čelí kritice za nárůst podobného problematického obsahu. Podle odhadů vygeneroval Grok během jedenácti dnů kolem nového roku zhruba 3 miliony sexualizovaných snímků (to by byla pokuta 1,5 bilionu USD!), z čehož 23 tisíc zobrazovalo děti. Výsledek soudního sporu v Minnesotě by mohl být pravděpodobně zásadní i pro ostatní státy, jako jsou New York nebo Kalifornie, kde se zvažují podobné zákony.
