Dokonce i Google varuje zaměstnance před používáním chatbotů

Chatboti mění svět a mohou přinést velké změny do fungování mnoha zaměstnání. To ale současně může přinášet nemalá rizika. Vedle prezentace fakticky nesprávných informací to může být i únik citlivých dat. Právě to stálo za dubnovým zákazem využívání systému ChatGPT společností Samsung, kdy se zjistilo, že sem zaměstnanci vkládali citlivá data, která se pak mohla objevovat jiným osobám. Stejný důvod nyní prezentuje i společnost Google. Ta sice sama vyvíjí systém umělé inteligence a chatbota Google Bard, nicméně využívání těchto systémů obecně nedoporučuje včetně svého vlastního.

 

 

Využívání chatbotů není v případě Googlu výslovně zakázáno, společnost ale varuje své zaměstnance před tím, aby do systémů zadávali citlivé a tajné informace. Zejména interní data o fungování společnosti a projektech by se v těchto systémech neměla vůbec objevovat. Data, která jsou zadána do chatbotů, jsou totiž zpravidla využívána k jejich dalšímu trénování. Ostatně i FAQ pro samotného Barda uvádí, že při interakci s Bardem Google shromažďuje konverzace, lokaci, zpětnou vazbu od uživatelů a informace o používání k dalšímu vylepšování a vývoji produktů Googlu, jeho služeb a technologií strojového učení. Části konverzací si Google nechává až po dobu 3 let a něco podobného o ponechávání si konverzací pro další trénování systému má i OpenAI a jeho ChatGPT. Další varování ze strany Googlu je i ohledně zdrojových kódů, které chatboti napíšou. Zde výrazně doporučuje, aby je inženýři přímo nepoužívali.

 

Zdroj: techradar.com, zdnet.com