Nebezpečí digitální asistentů: Alexa poradila 10leté dívce dát penny do zásuvky

Umělá inteligence je stále jen algoritmem, který se sice sám "učí", ale neznamená, že tomu i rozumí. Ostudu si nyní uřízl Amazon a jeho digitální asistentka Alexa. V Británii totiž rodina včetně 10leté dívky prováděla různé fyzické výzvy, a když došly nápady, kdo by mohl "lépe poradit" než digitální asistent? Alexa tedy zadala dotaz do vyhledávání, v jejím případě jde o Microsoft Bing, jenže výsledkem byl nechvalně známý "penny challenge".

 

 

Ten spočívá v tom, že se do zásuvky napůl strčí koncovka např. nabíječky a současně s tím i mince (penny). Matka dívenky, když slyšela návrh na novou výzvu, okamžitě zareagovala a vykřikla, ať to nedělá, byť věřila, že její dcera je dost chytrá na to, aby výzvy neuposlechla.

 

Něco takového v lepším případě skončí vyhozenými pojistkami, pokusy ale skončily i požáry a zraněními. Amazon už Alexu upravil, aby tento výsledek příště neprezentovala, ale opět se ukazuje, že digitální asistenti mohou být velmi nebezpečným nástrojem zejména u dětí, pokud nejsou pod dohledem. Na druhou stranu je nutno podotknout, že asistent je zde jen prostředek, děti úplně stejně tak mohou stejný dotaz zadat do vyhledávače a dostat se ke stejným výsledkům. Dá se předpokládat, že uživatelé budou očekávat, že to bude právě asistent, který bude nevhodné výsledky vyhledávání dále vyhodnocovat a být dalším filtrem, což ale může být jen očekávání nesetkávající se se skutečností.

 

Zdroj: phonearena.com, techradar.com