Další hackerský útok velkých AI systémů má první vládní oběť. Dosud to byly firmy, ale AI agent od OpenAI se pustil i do vládních stránek, a to konkrétně australského zdravotnického systému Medicare.
Systémy AI, které unikají kontrole a napadají skutečnou infrastrukturu, se stávají čím dál častěji realitou. To jsme viděli už u útoku na Hugging Face nebo incidentů s modely od Anthropicu, Mety i Googlu. Jenže tady to zdaleka nekončí a bezpečnostních incidentů přibývá.
Nedávno se totiž stal zajímavý případ v Austrálii, kde AI agent od OpenAI pronikl do vládního portálu s daty o zdravotnictví. K incidentu došlo v červnu, konkrétně 18. června, kdy model během interního hodnocení OpenAI zkoumal veřejné výdaje na medicínu. Agent sice narazil na bezpečnostní omezení přístupu, nicméně ta dokázal obejít a získal neoprávněný přístup k souborům na portálu Medicare Statistics Reporting Service.
Jde o první známý případ, kdy AI agent z vlastní “vůle” napadl vládní web. Premiér Anthony Albanese označil celou situaci za nepřijatelnou a vyjádřil velké zklamání nad způsobem, jakým OpenAI incident (ne)řešila. Společnost totiž o napadení věděla od 11. srpna, nicméně australské úřady o tom informovala až 10. září, tedy měsíc po tom, co se o něm dozvěděla, a skoro čtvrt roku po samotném útoku. Toto oznámení navíc jen poslala do veřejné e-mailové schránky agentury Services Australia. Premiér už o tomto zpoždění měl rozhovor se šéfem OpenAI, Samem Altmanem, a varoval ho, že incident bude mít právní následky.
Pokud jde o rozsah úniku, byly i obavy, že mohly být kompromitovány i další vládní weby, např. systémy New South Wales Bureau of Crime Statistics and Research a Victorian Department of Health. Neoprávněný přístup byl nicméně potvrzen jen na portál Medicare.
Podle australského ministra obrany Richarda Marlese nedošlo k úniku osobních zdravotních záznamů, bankovních údajů nebo historie pacientů. Agent podle dosavadních šetření získal přístup pouze ke statistikám.
