Vědci na Binghamton University vyvinuli nový algoritmus umělé inteligence, který je schopen na sociální síti Twitter s vysokou úspěšností rozpoznat uživatele, kteří píší agresivní příspěvky s kyberšikanou.
Kyberšikana a agrese ve virtuálním světě je zejména na sociálních sítích velkým problémem. Zejména mladší uživatelé mohou takové útoky brát až příliš vážně, což se může projevit i na skutečných psychických problémech. Aby k něčemu takovému nedocházelo, sítě se samy snaží vyvíjet systémy, které by závadné příspěvky rozpoznávaly. Dokonalé to ale není ani zdaleka. Přidávají se ale i univerzity, např. tým z Binghamton University, jehož nový algoritmus využívajícího strojového učení dokáže agresivní uživatele poznat s 90% úspěšností. Cílem výzkumu bylo najít behaviorální rozdíly mezi normálními uživateli sociální sítě Twitter a pak těmi, kteří se vyjadřovali agresivně, nebo se snažili šikanovat jiné.
Sbírali data z profilů i to, koho uživatelé sledují a kdo sleduje je. Na příspěvky použili vyspělé algoritmy pro porozumění přirozenému jazyku a výsledkem bylo naučení systému na rozpoznávání kyberšikany a kyberagrese. Např. rasistické narážky se mnohdy dají provádět i běžnou mluvou bez sprostých slov, která by jinak byla snadno odhalitelná, což detekci tohoto typu šikany značně komplikuje. Podle výsledků výzkumu se to algoritmu dařilo v již zmíněných 90 % případů, je zde ale jeden problém. Jde pochopitelně o reaktivní systém, takže řeší již vyřčené a napáchané škody na psychickém zdraví napadených už neodčiní, přestože budou účty útočníků zabanovány a příspěvky smazány. Alespoň však zabrání (mnohdy však jen dočasně) další eskalaci celé záležitosti.
