Etická AI rada Googlu se otřásá po týdnu své existence

Advanced Technology External Advisory Council (ATEAC) je v podstatě obdoba sdružení FATE (Fairness, Accountability, Transparency, and Ethics) firmy Microsoft, které se má také zaměřovat na důležité otázky ohledně umělé inteligence a jejího směřování. My se ale nyní budeme věnovat radě ATEAC, která vyvolala zajímavé ohlasy, jako je tento: 

 

I'd like to share that I've declined the invitation to the ATEAC council. While I'm devoted to research grappling with key ethical issues of fairness, rights & inclusion in AI, I don't believe this is the right forum for me to engage in this important work. I thank (1/2)

— alessandro acquisti (@ssnstudy) 30. března 2019

 

Alessandro Acquisti zabývající se také klíčovými etickými otázkami spojenými s umělou inteligencí dal v sobotu vědět, že odmítl se zapojit do ATEAC, protože nevěří, že je to to pravé uskupení, do nějž by měl patřit. Proč?

 

 

V pondělí samotní zaměstnanci Googlu začali požadovat, aby z ATEAC odešla Kay Cole James, prezidentka Heritage Foundation. a to kvůli jejím údajným výrokům, které byly hodnoceny jako nepřátelské vůči transgender a obecně LGBTQ komunitě i vůči imigrantům. Joanna J. Bryson, jiná členka ATREAC, vidí snahu Googlu v této radě mít prezidentku nadace Heritage jako průhledný pokus o sociální diverzitu.

 

Believe it or not, I know worse about one of the other people. I've only committed to one year. We're not getting paid, though I personally think that makes it less ethical, not more.

— Joanna J Bryson (@j2bryson) 26. března 2019

 

Jak to vypadá, celá věc se točí kolem často zmiňované zaujatosti, která se má vkrádat i do AI technologií. Jde třeba o AI nástroj Amazonu, který firma využívala při najímání nových pracovníků. Toho se zbavila, protože prý byl "zaujatý vůči ženám", přičemž tuto zaujatost v sobě nesl právě na základě toho, jak byl naprogramován. To samé platí třeba pro software pro autonomní řízení, který má daleko lépe identifikovat bílé lidi jako chodce a u tmavších se mu to moc nedaří. Ale že by to mělo něco společného s tím, že tmavá není ve tmě zrovna dobře vidět? Možná, každopádně se to opět řeší jako zaujatost zakořeněná softwaru. Podobný případ se objevil před čtyřmi lety, když Google Photos začaly černochy na fotkách označovat za gorily. 

 

Dá se jistě říci, že je tu problém, ovšem je třeba tento problém správně pojmenovat. Jistě není dobře, když software pro autonomní řízení nedokáže správně identifikovat černocha na chodníku, ale zda lze hned mluvit o "algoritmovém zaujetí", spíše než o technických problémech, to už je věc jiná a je třeba si uvědomit podstatu.

 

Pokud mluvíme o zaujetí, nemusíme si totiž hned představovat LGBT hysterii. Máme tu jeden příklad z nedávné doby, a sice let 302 Etiopských aerolinek, který skončil v moři smrtí všech 189 lidí na palubě. Ukázalo se, že piloti se zoufale mnohokrát snažili vypnout systém MCAS, který se kvůli nesprávným údajům ze senzoru stále zapínal. Dalo by se říci, že i to je příklad algoritmového zaujetí, a to přílišným spoléháním na vlastní senzory. Systém by totiž mohl vzít v potaz, že se jej pilot mnohokrát krátce po sobě zkusil deaktivovat, ale na to nebyl navržen. 

 

To jsou záležitosti, na které se musí myslet zvláště při vývoji systémů umělé inteligence, které budou pracovat s lidmi a budou mít vliv i na jejich bezpečnost. Když vynecháme naprosto nesoudné hlasy, pak nikdo netvrdí, že by programátoři záměrně psali software, který nebude schopen detekovat černochy na ulici, aby byli pak spíše než bílí sráženi autonomně řízenými vozy. Stejně tak Boeing nechtěl vytvořit systém, který měl dovést 189 lidí k záhubě a určitě ne zrovna Afričanů. Ovšem stalo se, a tak s dalším pronikáním umělé inteligence existuje snaha zajistit, aby se uplatnila v systémech, které budou přesné, spolehlivé a zkrátka budou "myslet na všechno". 

 

Horší je, když se do tohoto důležitého tématu míchá očerňování lezbiček, gayů, bisexuálů, metrosexuálů či lumbersexuálů černou prezidentkou nějaké nadace.

 

Zdroj: Wired