Operační systém Windows bude brzy obsahovat AI agenty. Ty jsou už k dispozici pro Insider Preview a Microsoft nám vysvětluje, jak je řešena jejich bezpečnost.
Windows Insiders mají v nejnovější testovací verzi operačního systému Microsoft Windows k dispozici Agent Workspace a Copilot Actions. Jde o technologii AI agentů, tedy systémy, které v počítači na základě příkazů uživatele mohou samy vykonávat nejrůznější akce. Microsoft nyní vysvětluje, jak je řešena bezpečnost těchto AI systémů, které mohou pomoci s organizováním souborů, plánováním schůzek, posíláním e-mailů a dalšími záležitostmi.
Agent Workspace využívá techniky, kdy má každý agent svůj vlastní účet, tedy odlišný od účtu administrátora a uživatelů. Má tedy svá vlastní omezená práva, je autorizován jen k omezenému množství operací a izolován od důležitých součástí systému, ke kterým by neměl mít přístup. Současně má být jasně patrné, co AI agent dělá. Poněvadž má každý AI agent svůj účet, může docházet k situacím, že to, k čemu má přístup jeden, je zapovězeno druhému. V první variantě této architektury si každý agent pracuje ve vlastní instanci Windows (podobně jako když je přihlášeno více uživatelů), což je efektivnější než plně virtuální systém.
Agentické aplikace jako Copilot mohou přistupovat k šesti běžným složkám, a to Dokumenty, Stažené soubory, Plocha, Hudba, Obrázky a Videa. Mohou přistupovat k aplikacím, které jsou k dispozici všem uživatelům (pro limitaci aplikačního přístupu je pak možné nainstalovat aplikaci výhradně jen pro AI agenta). Ve výchozím stavu jde o vypnutou funkci, tu je potřeba explicitně aktivovat (System > AI Components > Experimental agentic features). Nemusíte se tedy bát, že by byl Windows bez vašeho svolení schopen automaticky provádět autonomní kroky pomocí AI.
Microsoft nicméně varuje, že agentické AI systémy přináší ze své podstaty bezpečnostní rizika jako např. prompt injection (XPIA), kdy může být škodlivý kód vložen do UI elementů nebo dokumentů, a jako takový může přepsat instrukce agenta.
