Systémy umělé inteligence dokážou mnohdy nepříjemně překvapit. Není to totiž zdaleka poprvé, co systémy AI spojovaly lidi s tmavou barvou pleti s primáty, což může být urážlivé. Tentokrát se to stalo Facebooku, který se za to omluvil.
Společnost Facebook zaznamenala další průšvih. K videu, kde vystupoval muž tmavé barvy pleti, totiž systém umělé inteligence sám vygeneroval návrhy k dalšímu sledování, kde se objevil nápis "sledovat další videa o primátech". I když člověk biologicky patří mezi primáty, takový návrh může vyznívat ofenzivně a urážlivě, neboť označení primátů si spojujeme spíše s opicemi, jako jsou šimpanzi, gorily a další.
Um. This “keep seeing” prompt is unacceptable, @Facebook. And despite the video being more than a year old, a friend got this prompt yesterday. Friends at FB, please escalate. This is egregious. pic.twitter.com/vEHdnvF8ui
— Darci Groves (@tweetsbydarci) September 2, 2021
Facebook v reakci na to funkci doporučování stáhl a omluvil se všem, které něco takového mohlo urazit. Incident považuje za jednoznačně neakceptovatelnou chybu. Nyní se snaží přijít na to, proč k tomu došlo, a jak zabránit tomu, aby se tak stalo v budoucnu. Facebook v tom zdaleka není sám. V podstatě velmi podobný problém měl v roce 2015 i Flickr a Google.
