Bing je už zase "hloupý", Microsoft výrazně omezil schopnosti jeho AI
21.2.2023, Milan Šurkala, aktualita
![Bing je už zase "hloupý", Microsoft výrazně omezil schopnosti jeho AI](bing-je-uz-zase-hloupy-microsoft-vyrazne-omezil-schopnosti-jeho-ai/59025/img/microsoft-bing-chatgpt-800.jpg)
Před několika dny spustila společnost Microsoft umělou inteligenci do vyhledávání v prohlížeči Bing. Netrvalo však dlouho a i kvůli několika zvláštním odpovědím Microsoft schopnosti tohoto chatovacího systému výrazně omezil.
Umělá inteligence je velmi komplexním problémem. Spálilo se na ní už několik společností, což platí i pro Microsoft. Ten to nyní ve spolupráci s OpenAI zkouší znovu a systém ChatGPT spouští doslova revoluci. Na jeho základě je postaven i nový chatbot ve vyhledávači Bing, který má pomoci s odpovídáním na otázky ve vyhledávání. Jen po pár dnech ale Microsoft schopnosti tohoto systému do značné míry omezil. Lidé se snažili ptát na citlivé otázky, načež jim např. začal vyznávat lásku, nabádat k opuštění manželky a podobně. Nyní tak po zásahu Microsoft na nevhodné otázky odpovídá, že by raději v dané konverzaci nepokračoval, nebo říká to, že zde není proto, aby mluvil o sobě, ale aby danému uživateli pomohl s vyhledáváním (což je pravdou, to je jeho primární účel). Lidé z něj vytáhli např. to, že se jmenuje Sydney (patrně kódové označení projektu).
![Microsoft Bing](bing-je-uz-zase-hloupy-microsoft-vyrazne-omezil-schopnosti-jeho-ai/59025/img/microsoft-bing-chatgpt-600.jpg)
Aby lidé nerozvíjeli dlouhé konverzace, které by mohly chatbota zmást, a jak už se stalo v minulosti několikrát, udělat z něho něco, co by nebylo vhodné (připomeňme, jak se v roce 2016 povedlo z chatbota Tay udělat za chvíli rasistu), Microsoft omezil počet odpovědí na 5 v rámci jedné konverzace. Poté chatbot vyzve ke změně tématu. Za celý den pak může uživatel provést 50 výměn zpráv. Statistiky ukazují, že jen 1 % konverzací obsahovalo přes 50 zpráv a 90 % z nich se vejde do 15 zpráv.
I když se na jednu stranu dá krok Microsoftu chápat, chatbot v AI má pomáhat s vyhledáváním, nemá sloužit k pokecání si, tyto zásahy ukazují, jak je AI stále nezralá na takovou obecnou konverzaci. Přesto je už extrémně schopná např. na to, aby dělala obrovské vrásky na čele mnoha profesím (zmínit lze např. vzdělávání, kdy už dnes studenti využívají ChatGPT ke generování prací, které by měly psát sami).