Články s výrobcem Anthropic

Nejen AI agenti Anthropicu hackují jiné společnosti, ale funguje to i obráceně. Výzkumníci byli schopni pomocí AI hacknout Anthropic.

Někteří lidé za chyby AI modelů chatbotům hodně nadávají a jsou k nim sprostí. Anthropic za takové chování vůči modelům hrozí banem.

Dalším zajímavým incidentem spojeným s AI systémy je ten, kdy si AI agent Anthropicu vymyslel falešné informace v případu vraždy.

Ačkoli Anthropic vstupuje na burzu a je mezi předními firmami ve vývoji AI, současně varuje před tím, že AI může být pro lidstvo existenční hrozbou.

Anthropic představil novou verzi LLM Claude Opus 5.5. Novinka schopnostmi v mnohém předčí i Fable 5.1, a tak má vestavěné striktní bezpečnostní limity.

AI systémy stále častěji přispívají ke svému vlastnímu vývoj. Ne všichni jsou ale z AI nadšení, a to včetně vlastních vývojářů. Ti vidí riziko v možnosti zničení lidstva.

OpenAI nedávno představila nový model GPT-6 Astra, kterému se povedlo už dlouho neviděné. Na platformě OpenRouter se totiž po dlouhé době povedlo firmě OpenAI předehnat Anthropic.

Společnosti Anthropic vydala bezpečnostní report, ve kterém pohovořila o různých pokusech o zneužití AI systémů. Některé by mohly vést i ke tvorbě biologických zbraní.

AI agenti dokážou splnit zadané úlohy někdy dost bizarními způsoby. Např. zapsání na lekci pilates vyřešil jeden systém hacknutím databáze fitness centra.

Nedávno jsme tu měli incident od OpenAI, kdy její AI systémy hacknuli servery HuggingFace. Anthropic začal zjišťovat, zda jeho systémy Claude nedělají totéž. Dělají.

Společnost Anthropic uvedla novou generaci modelu Opus 5. Ten má nabízet výkon podobný Fable 5 za poloviční náklady.

AMD má dalšího obřího zákazníka pro své výpočetní servery Helios, které nedávno představilo. Je jím Anthropic a součástí je 5miliardová investice do něj.

Aplikace Claude Cowork byla zatím dostupná jen jako desktopová aplikace. To se ale mění a přichází i na web a mobilní telefony.

Ne vždy je vše bez chyby a zdá se, že účetní systém Anthropicu má možná problém. Uživateli, který nepoužíval API, za jeho využití naúčtoval 16,6 mil. USD.

Před pár týdny byly zveřejněny nové AI modely Claude Fable 5 a Mythos 5 od Anthropicu. Velmi rychle ale byly zakázány. Později se i zjistilo proč.

Společnost Anthropic před několika dny vydala nový LLM Claude Fable 5, ale moc slávy si neužil. Americká vláda vyžaduje, aby neameričtí občané nemohli přistupovat k modelu.

Společnost Anthropic uvedla dva nové modely, a to Claude Fable 5 a Mythos 5. Ty jsou tak silné, že musí mít omezení, aby se minimalizovalo riziko zneužití.

Jack Clark z Anthropicu vyslovil zajímavou myšlenku, kterou už prezentoval i Elon Musk. Navrhuje celosvětové pozastavení AI modelů, které by se mohly vymknout kontrole.

Nová verze AI modelu Claude Opus 4.8 vylepšuje své schopnosti, a to nejen v programování. Má být také čestnější a snáze přiznat, když neví.

Bezpečnostní model Mythos je velmi mocným nástrojem, který může být hodně nebezpečný v nepovolaných rukou. A do těch se nedávno dostal.

Ačkoli si Google a Anthropic na poli AI konkurují, Google investoval do Anthropicu dalších 10 mld. USD. Není vyloučeno, že se to nezvedne až na 40 mld. dolarů.

Firmy si mezi sebou přelévají peníze, a tak Amazon investoval 5 mld. USD do Anthropicu, přičemž ten si naopak objednal až 5 GW výpočetní kapacity u Amazonu.

Umělá inteligence, to jsou dnes miliardy, někdy i desítky miliard plynoucí z jednoho místa do druhého. Spolupráci nyní oznámily společnosti Microsoft, Nvidia a Anthropic.