Někteří lidé za chyby AI modelů chatbotům hodně nadávají a jsou k nim sprostí. Anthropic za takové chování vůči modelům hrozí banem.
Debaty o tom, zda může být umělá inteligence vědomá a zda si zaslouží určitý typ ochrany, se v posledních letech stávají stále častějšími. Společnost Anthropic k tomuto tématu přistoupila velmi neobvyklým krokem a aktualizovala své zásady používání tak, že zakázala uživatelům dlouhodobé a zbytečně kruté chování vůči jejím modelům.
Primárním mechanismem pro neurvalé chování ale bude schopnost samotného modelu Claude ukončit konverzaci s uživatelem. Jde o rozšíření funkce, kterou firma v rámci extrémních případů již dříve nasazovala. Nový zákaz se zařadí vedle jiných nepovolených aktivit, jako je např. šikana ostatních lidí, propagace sebepoškozování nebo vytváření intimních snímků bez souhlasu. Anthropic sice zdůraznil, že se pravidla budou vztahovat pouze na extrémní případy opakovaného zneužívání bez zjevného účelu, takže běžná frustrace uživatele, kritika nebo testování modelů pod tento zákaz nespadají.
Tento krok vyvolal rovněž diskusi o antropomorfizaci AI. Zatímco někteří uživatelé změnu vítají jako posun k lepší kultuře komunikace, kritici ji považují za nesmyslnou. Mezi ně patří i papež František, který uvedl, že stroje nemají duši a pouze rychle zpracovávají data bez hlubšího porozumění.
Zajímavostí je, že CEO Anthropicu Dario Amodei se k otázce vědomí AI staví otevřeněji a přiznal, že si vlastně ani není jistý, zda modely jsou nebo nejsou vědomé. Někteří experti pak argumentují tím, že zdvořilost vůči AI může být užitečná z hlediska kvality odpovědí, zatímco jiní ji vnímají jako plýtvání tokeny. To jsou ale i nadávky, které pak rozmělňují konverzaci.
