Články s výrobcem Anthropic

Společnosti Anthropic vydala bezpečnostní report, ve kterém pohovořila o různých pokusech o zneužití AI systémů. Některé by mohly vést i ke tvorbě biologických zbraní.

AI agenti dokážou splnit zadané úlohy někdy dost bizarními způsoby. Např. zapsání na lekci pilates vyřešil jeden systém hacknutím databáze fitness centra.

Nedávno jsme tu měli incident od OpenAI, kdy její AI systémy hacknuli servery HuggingFace. Anthropic začal zjišťovat, zda jeho systémy Claude nedělají totéž. Dělají.

Společnost Anthropic uvedla novou generaci modelu Opus 5. Ten má nabízet výkon podobný Fable 5 za poloviční náklady.

AMD má dalšího obřího zákazníka pro své výpočetní servery Helios, které nedávno představilo. Je jím Anthropic a součástí je 5miliardová investice do něj.

Aplikace Claude Cowork byla zatím dostupná jen jako desktopová aplikace. To se ale mění a přichází i na web a mobilní telefony.

Ne vždy je vše bez chyby a zdá se, že účetní systém Anthropicu má možná problém. Uživateli, který nepoužíval API, za jeho využití naúčtoval 16,6 mil. USD.

Před pár týdny byly zveřejněny nové AI modely Claude Fable 5 a Mythos 5 od Anthropicu. Velmi rychle ale byly zakázány. Později se i zjistilo proč.

Společnost Anthropic před několika dny vydala nový LLM Claude Fable 5, ale moc slávy si neužil. Americká vláda vyžaduje, aby neameričtí občané nemohli přistupovat k modelu.

Společnost Anthropic uvedla dva nové modely, a to Claude Fable 5 a Mythos 5. Ty jsou tak silné, že musí mít omezení, aby se minimalizovalo riziko zneužití.

Jack Clark z Anthropicu vyslovil zajímavou myšlenku, kterou už prezentoval i Elon Musk. Navrhuje celosvětové pozastavení AI modelů, které by se mohly vymknout kontrole.

Nová verze AI modelu Claude Opus 4.8 vylepšuje své schopnosti, a to nejen v programování. Má být také čestnější a snáze přiznat, když neví.

Bezpečnostní model Mythos je velmi mocným nástrojem, který může být hodně nebezpečný v nepovolaných rukou. A do těch se nedávno dostal.

Ačkoli si Google a Anthropic na poli AI konkurují, Google investoval do Anthropicu dalších 10 mld. USD. Není vyloučeno, že se to nezvedne až na 40 mld. dolarů.

Firmy si mezi sebou přelévají peníze, a tak Amazon investoval 5 mld. USD do Anthropicu, přičemž ten si naopak objednal až 5 GW výpočetní kapacity u Amazonu.

Umělá inteligence, to jsou dnes miliardy, někdy i desítky miliard plynoucí z jednoho místa do druhého. Spolupráci nyní oznámily společnosti Microsoft, Nvidia a Anthropic.