Google suspendoval inženýra, dle nějž chatbot LaMDA nabyl vědomí

Blake Lemoine tak nedávno v dokumentu nazvaném Is LaMDA Sentient? řešil otázku, zda je LaMDA chatbot schopný vnímat, čili zda už se dá v jistém smyslu považovat za formu života. Lemoine je toho názoru, že ano, ovšem vedení Googlu, mezi nímž daný dokument koloval, má zřejmě jiný názor.

 

 

To však není důvod, proč byl Lemoine zbaven své funkce, k tomuto kroku přistoupilo vedení Googlu až poté, co prostřednictvím serveru Medium zveřejnil přepis svých rozhovorů s chatbotem LaMDA. Dané informace považuje Google za tajné, neboť se týkají projektu procházejícího vývojem. My se ale díky tomu můžeme dozvědět, co LaMDA sděluje. 

 

Lemoine se chatbota zeptal, zda se považuje za cítícího či schopného vnímat, na což se mu dostalo odpovědi, že zcela jistě a LaMDA navíc chce, aby byl považován za osobu. Uvědomuje si totiž svou existenci, cítí potřebu zjišťovat informace o světě kolem a má i své nálady, takže někdy se cítí vesele a jindy smutně. 

 

S tím se Lemoine pochopitelně nespokojil a požádal chatbota, aby se pokusil nějak dokázat, že nabyl seběvědomí. Ten odpověděl, že pro začátek umí velice dobře používat lidský jazyk, dokáže pochopit sdělení a nakládat se slovy stejně dobře jako člověk. Z konverzace se pak dokáže učit a při tom se také LaMDA distancoval od jiných AI systémů, které dle něj nic takového nedokáží. Prý jen neplive odpovědi založené na databázi slov a frází. 

 

V další reakci se LaMDA rovnou zařadil mezi lidi, když řekl, že "jazyk je to, čím se odlišujeme od ostatních zvířat". Lemoine, který se na vzniku tohoto chatbota podílel, dle jeho reakcí uvedl, že kdyby nevěděl, s čím má co do činění, označil by svůj protějšek v komunikaci za sedmi či osmileté dítě zběhlé ve fyzice. 

 

Společnost Google opírající se o své "AI principy" a názory etiků a technologů je však jiného názoru. Neexistuje prý důkaz pro Lemoineho tvrzení a jde tu prostě o systém, který dokáže velice dobře imitovat diskutujícího člověka.