Google stáhl AI pro Google Earth už po dni. Kontroverze kolem deepfake

Generativní AI se dnes prosazuje všude, ale někdy je to až moc uspěchané a nedomyšlené. Typickým příkladem je nedávný experiment společnosti Google, která do webové verze Google Earth integrovala svůj AI model Nano Banana 2. Na první pohled si možná hůře představíme, k čemu to mohlo být dobré, nicméně Google to např. cílil na to, že lidé mohou vizualizovat historické rekonstrukce, jako jsou Pompeje v roce 78 n. l., vytvářet koncepty pro realitní projekty na prázdných parcelách nebo generovat vzdělávací infografiky o známých památkách.

i Google

Nano Banana 2 využíval skutečná satelitní a 3D data Google Earth jako strukturální kotvu, takže generované objekty odpovídaly reálnému terénu a měřítku daného místa (obvykle). Nicméně tato schopnost se velmi rychle stala problematickou a kontroverzní. Funkce v Google Earth vydržela v podstatě jen jeden den, protože uživatelé okamžitě začali nástroj zneužívat k tvorbě kontroverzního obsahu.

i Google

AI bez jakéhokoli odporu generovala snímky jaderných elektráren v Íránu, bombových kráterů u nemocnic v Gaze nebo ruských tanků na ukrajinském území, případně hordy uprchlíků na hranicích. Problémem bylo, že tyto fotorealistické obrazy byly pevně spjaty s reálnými místy, což z nich dělalo ideální nástroj pro šíření dezinformací. Google sice implementoval neviditelné vodoznaky SynthID, jenže ty pomáhají pouze při aktivní kontrole v nástrojích Googlu. Jenže spousta lidí si toto ani nikdy neověří a bez rozmyslu takový obsah sdílí.

Tento případ připomíná dřívější chyby firem, které podcenily lidský faktor při nasazování AI. Podobně to bylo např. u chatbota Tay od Microsoftu, který byl po krátkém čase spuštění ukončen, protože se z něj díky interakci s uživateli stal agresivní a rasistický chatbot. Google tak funkci po jednom jediném dni stáhnul, aby mohl implementovat přísnější bezpečnostní filtry.