Jack Clark z Anthropicu vyslovil zajímavou myšlenku, kterou už prezentoval i Elon Musk. Navrhuje celosvětové pozastavení AI modelů, které by se mohly vymknout kontrole.
Vývoj algoritmů umělé inteligence probíhá překotným tempem a rostou obavy z toho, čeho všeho budou v budoucnu schopné. Společnost Anthropic např. nedávno omezeně dala k dispozici model Mythos, jehož omezení plynulo i z toho, jak byl potenciálně nebezpečný. Bezprecedentně dokáže nacházet chyby v softwaru, což je skvělé pro vývojáře pro zvyšování bezpečnosti, ale také obrovskou hrozbou, pokud by se dostal do rukou hackerů, kteří by měli naopak bezkonkurenční nástroj k nalézání chyb ke zneužívání. Společnost dále řekla, že její vlastní model Claude už nyní programuje 80 % svého vlastního kódu.
Jack Clark, jeden ze zakladatelů Anthropicu, se tak nedávno pro BBC vyjádřil, že AI průmysl má sice plynový pedál, ale bohužel vůbec nemá ten brzdový. A tak nadhodil, že by nyní přišlo vhod dočasné celosvětové pozastavení vývoje AI modelů, aby měly vlády, vědci, AI společnosti i různé další skupiny dostatek času na to vymyslet, jak by vůbec AI průmysl mohl dlouhodobě řízeně fungovat. Podobnou myšlenku kdysi propagoval i Elon Musk, ale tam to mohlo být dáno i tím, že chtěl získat dostatek času na to, aby jeho xAI mohla dohnat konkurenci.
Clark nicméně dodal, že i když by takové pozastavení nebylo na škodu, patrně by se minulo účinkem, neboť by muselo být skutečně celosvětové, jinak by akorát ty společnosti, které by na pozastavení nepřistoupily, získaly náskok.
