Kvůli obavám z úniku dat blokuje Evropský parlament AI nástroje
Evropský parlament (EP) přistoupil k razantnímu kroku. Na služebních zařízeních svých zaměstnanců i poslanců zablokoval používání vybraných nástrojů umělé inteligence (AI). Důležitá je však i opatrnost samotných uživatelů.
Opatření se týká především funkcí, které jsou přímou součástí kancelářských aplikací a umí pracovat s obsahem dokumentů, e-mailů nebo interních poznámek. Důvodem jsou obavy z kybernetických hrozeb a úniků dat mimo kontrolované prostředí instituce.
Microsoft problém přiznal po několika týdnech
Zákaz vešel v platnost krátce poté, co americká technologická společnost Microsoft potvrdila závažnou chybu ve svém AI nástroji Copilot, který je součástí kancelářského balíčku Office 365. „Copilot vytvářel souhrny důvěrných dokumentů a e-mailů i v případech, kdy byly chráněny bezpečnostními štítky a politikou prevence úniku dat,“ přiznal Microsoft s tím, že nástroj ignoroval nastavená interní pravidla EP.
Data byla následně odesílána poskytovatelům serverů a cloudových služeb, kde byla dále zpracovávána. Microsoft problém interně zaznamenal 21. ledna, veřejně jej ale přiznal až 18. února. Firma zatím neuvedla, kolika uživatelů se incident týká, ani kolik dat systém reálně analyzoval.
Opatření se netýká pouze Copilota, ale také asistentů pro psaní textů, rozšířených virtuálních pomocníků nebo automatických souhrnů webových stránek na služebních tabletech a telefonech. Rozhodnutí padlo na základě posouzení IT oddělení Evropského parlamentu, které dospělo k závěru, že u těchto nástrojů nelze zaručit dostatečnou kontrolu nad tokem dat, a tak je dočasně vypnul.
Tiskové oddělení Evropského parlamentu v reakci na situaci zdůraznilo, že instituce hrozby v oblasti kybernetické bezpečnosti neustále sleduje a pohotově přijímá preventivní opatření. „Správa Evropského parlamentu prostřednictvím svých služeb zkoumá nebo testuje nástroje umělé inteligence na podporu konkrétních provozních potřeb, a to v přísném souladu s interními pokyny a platnými právními předpisy EU,“ píše se ve stanovisku EP.
Podle odborníka jde spíše o preventivní krok
Specialista na kybernetickou bezpečnost Petr Jelínek považuje opatření Evropského parlamentu za pochopitelné. „U takové instituce, která pracuje s chráněnými informacemi, je podobný krok logický,“ uvádí odborník. Stoprocentní jistotu, že generativní nástroje nebudou pracovat s citlivými daty, však podle Jelínka zaručit nelze. „Je to vždy o způsobu nastavení asistenta i celého prostředí. A pořád platí, že největším rizikem jsou zaměstnanci, tedy to, co s AI sami sdílejí.“
Důležitou roli proto hraje nejen technické zabezpečení, ale i školení zaměstnanců. „Lidé jsou schopni pro usnadnění práce porušit pravidla a sdílet data, která by neměli,“ zmiňuje Jelínek. „S tím, jak se IT více prolíná do našich životů, poroste i počet bezpečnostních událostí. Pokud se chce někdo chránit, měl by minimalizovat množství informací, které o sobě v digitálním prostoru zanechává,“ dodává.
Europol před AI varuje
Evropský policejní úřad Europol ve své analytické zprávě z loňského roku upozorňuje, že rychlý technologický pokrok v oblasti umělé inteligence zvyšuje její schopnost obejít tradiční bezpečnostní mechanismy. Z analýzy tak vyvstávají pochybnosti o tom, zda lze za těchto podmínek generativní asistenty ve veřejné správě bezpečně využívat. „Očekáváme, že incidenty s umělou inteligencí se už v roce 2026 stanou nejčastějším typem kybernetické hrozby,“ uvádí zpráva Europolu.
V posledních letech již evropské instituce zpřísnily pravidla pro digitální bezpečnost, mimo jiné kvůli obavám z působení zahraničních technologických dodavatelů. EP zakázal třeba používání TikToku na služebních zařízeních a část poslanců vyzývala k omezení závislosti na amerických softwarech ve prospěch evropských alternativ.
