Donald Trump a jeho administrativa se postaral o další kontroverzní krok. Anthropic se nechce podvolil a uvolnit bezpečnostní otěže pro AI. A tak se stal bezpečnostním rizikem pro národní bezpečnost.
Americký prezident Donald Trump a jeho administrativa přináší snad každý týden nějaký výrok nebo čin, který vzbuzuje kontroverze. Ten poslední se týká umělé inteligence. Spousta lidí si pokládá otázku, do jaké míry bude pro lidstvo nebezpečná umělá inteligence, zejména pokud se jí nenastaví nějaké limity. Spousta z nás jistě četla nemálo knih nebo viděla nemálo filmů, které na tato rizika upozorňují. Nemálo lidí se obává toho, že by se něco podobného mohlo stát i ve skutečnosti. Jenže právě to chce americká vláda.
Ta totiž od AI společností chce, aby pro vládní účely poskytly takové systémy AI, které nebudou mít zabudovány typické bezpečnostní protokoly. Tento požadavek na nelimitovanou AI se ale nelíbí společnosti Anthropic, která má za to, že by tyto algoritmy měly mít svá omezení. Dario Amodei, CEO společnosti Anthropic, se totiž bojí, že by uvolnění otěží vedlo k všeobecnému sledování obyvatelstva i vývoji autonomních zbraní, kde by už člověk nemusel mít žádné slovo v rozhodování, co taková autonomní zbraň udělá. Proto Anthropic tyto požadavky americké vlády odmítl.
Vláda USA to vyřešila velmi kuriózním způsobem. Společnosti Anthropic označila za riziko pro dodavatelský řetězec a národní bezpečnost, což je poprvé, co takový status dostala americká firma. Trump pak na své sociální síti Truth Social řekl: “Nepotřebujeme je, nechceme je a už nikdy s nimi nebudeme dělat žádný byznys!” Modely Anthropicu se tak kvůli svým morálním zásadám staly nepřátelskými pro americkou vládu.
Trump označil Anthropic za radikální “woke” levici, která mu nemá co diktovat, jak bude vojsko USA bojovat a vyhrávat války. Podle něj tento postoj ohrožuje vojsko, vojáky a národní bezpečnost. V souvislosti s tím vyhlásil ban na využívání technologií Anthropicu v jakémkoli vládním nasazení. Ještě připomeňme, že Donald Trump dal nedávno Ministerstvu obrany alternativní název Ministerstvo války. Nepřipomíná vám to náhodou román 1984 George Orwella?
Musk, Wozniak a další chtějí 6měsíční pauzu ve vývoji nástupců GPT-4
Elon Musk, Steve Wozniak a mnoho dalších lidí se připojilo k otevřenému dopisu, kde vyzývají společnosti vyvíjející systémy generativní umělé inteligence, aby si dali alespoň půlroční pauzu ve vývoji systémů schopnějších než GPT-4.
Jen tak pro zajímavost, ještě nedávno byl Claude od Anthropicu jediný model, který měl přístup k tajným dokumentům. Nyní ho získalo xAI a OpenAI, společnosti, které dovolily rozšířit využití svých modelů k vojenským účelům. Přitom Elon Musk z xAI byl jedním z hlavním proponentů půlroční pauzy ve vývoji AI algoritmů, aby se lidstvo dohodlo na mantinelech, které by se pro vývoj měly nastavit.
