Vozidlo Uberu sraženou ženu zaznamenalo, ovšem špatně vyhodnotilo situaci

Sražená chodkyně vedoucí kolo přes víceproudou silnici, a to v noci mimo přechod jistě má na svém osudu velký kus viny, ovšem ze záznamu je zřejmé, že senzory a především lidar ji musely zaznamenat, a přesto autonomně řízené Volvo před střetem vůbec nebrzdilo. I člověk za volantem by měl na reakci přibližně tři sekundy, které by mohly rozhodnout o životě a smrti 49leté Elaine Herzbergové. Jak je tedy možné, že software Volva nezareagoval? 

 

 

Nyní je zřejmé, že senzory automobilu ženu opravdu zaznamenaly, ovšem software ji vyhodnotil buď tak, že se nenacházela v dráze vozu, nebo nepředstavovala žádné nebezpečí či jí žádné nehrozilo. Algoritmy ji tak vyhodnotily jako "falešně pozitivní" nebezpečí, na které musí být ostatně připraveny. Vezměme si třeba případ, kdy automobilu do cesty vletí noviny. Navenek se také jedná o velký objekt, ale žádné nebezpečí nepředstavuje a naopak by bylo velice nevhodné v takovém případě prudce brzdit. Jako takový objekt byla bohužel vyhodnocena i Elaine Herzbergová. 

 

 

Vzhledem k tomu, co vidíme na videu, jde o logické vysvětlení toho, co se stalo. Však i na kameře vidíme ženu v době, kdy do střetu zbývají cca 2 sekundy a i člověk by mnohdy alespoň stačil šlápnout na brzdu. Senzory autonomního vozu ji musely zaznamenat daleko dříve a také se od jeho systémů očekává i velice rychlá reakce. Ostatně výrobce lidaru, který své okolí skenuje podobně jako radar, ale laserovými paprsky, se už dříve vyjádřil, že jeho selhání nepřipadá v úvahu. To by totiž lidar nemohl už předtím auto navigovat skrz ulice a není možné, aby rozpoznal cestu a objekty na ní, a přitom onu ženu neviděl. A vzhledem k technologii lidaru už vůbec nehraje roli to, že byla tma. 

 

Dále bylo možné, že rozpoznávací systém jednoduše nezjistil, že má před sebou člověka s kolem. Nicméně tyto systémy běžně rozpoznávají lidi jedoucí na kolech, kola samotná a samozřejmě i lidi tlačící svá kola, takže toto bylo také vyloučeno. 

Zbyly tak samotné algoritmy vyhodnocující situace, jež nemají reagovat třeba v případě, že auto jede stejným směrem kolem cyklisty či chodce. Zde je ale největší prostor na chyby, neboť dnešní AI rozhodně ještě není dokonalá, a vyšetřovatelé se tak zaměřili na to, zda neudělala chybu a je to ostatně pro ně už poslední možnost selhání. Znamená to tak, že vozy Uberu se nedokáží vždy dobře vypořádat s nestandardními situacemi. 

 

Aktuálně má Uber veškeré své autonomní vozy stažené z amerických silnic a ulic. Pohybovaly se přitom ve Phoenixu, Pittsburghu, San Francisku i v kanadském Torontu. 

 

Zdroj: Extremetech