Pomocí AI obnažují ženy, potrestat je ale zatím nelze
Rakouskou europoslankyni Lenu Schillingovou někdo pomocí umělé inteligence digitálně svlékl. Fotky obletěly internet. Evropská unie by ale od prosince AI nástroje, které se k podobným útokům používají, měla zakázat. Jenže ke skutečné ochraně zákaz nestačí. Omezení jejich „výroby“ je totiž z internetu nevymaže.
Fotografii z jedné z prvních tiskových konferencí kariéry Leny Schillingové, rakouské europoslankyně za stranu Zelených, někdo pomocí AI upravil tak, aby na ní byla nahá. „Byla jsem znechucená,“ uvedla rakouská europoslankyně. „Vidět, že někdo tu fotografii používá, aby mi ublížil a ponížil mě, bylo opravdu těžké pochopit.“ Snímek byl sice falešný, utrpení, které způsobil, ale nikoliv.
A Schillingová zdaleka není jediná. Říjnový výzkum organizace Agora Digitale Transformation odhalil, že se na internetu objevily falešné intimní snímky či související stránky týkající se 50 europoslanců. Celkem 46 z nich byly ženy. A nejde jen o političky. Podle výzkumu amerických a australských vědkyň z roku 2024 se s podobným zneužitím setkalo 2,2 procenta z více než 16 tisíc dotázaných v deseti zemích. K útoku dnes žena nemusí být slavná. Stačí, aby někdo získal její fotografii nebo videozáznam.
Zakázat je snadné, ale smazat mnohem těžší
V těchto situacích už nejde jen o nevinné hraní si s umělou inteligencí. Kdo bez souhlasu promění cizí fotografii v intimní snímek, zachází s obnaženou podobou ženy, jako by mu patřila. Umělá inteligence ponižování žen nevymyslela, jen ho udělala dostupnějším.
Od 2. prosince by měl ovšem měla vzejít v platnost další část AI Actu, který využívání podobných systému zakazuje. Správně. Zveřejnit svou fotografii totiž automaticky neznamená dát komukoliv právo vás digitálně svléknout. Jenomže nový zákaz nesmaže podvrhy, které už kolují po internetu.
EU může zakázat nástroj, ale paragraf sám nenajde snímek, nesmaže jeho kopie a nezabrání dalšímu šíření. Dokud nebude odstranění stejně důležitou prioritou jako zákaz „výroby“ těchto snímků, dostanou ženy pouhý slib, nikoliv ochranu samotnou.
Pár kliknutí pro útočníka, hodiny boje pro ženu
Jenže tady je další háček: s odstraňováním nahých deep fakeů musí pomoct samotné platformy. Ty by podle evropských pravidel měly na nahlášený a nezákonný obsah reagovat včas. Není ale přesně stanoveno, do kdy musí intimní podvrhy smazat. Útočníkovi tak stačí pár kliknutí a dva až tři screenshoty. Žena pak snímek hledá, nahlašuje a čeká, zda zmizí dřív, než ho někdo zveřejní znovu. Proč má následky cizího útoku řešit především ona?
Ve Spojených státech už mají jasno. Podle zákona TAKE IT DOWN Act musí sociální sítě a další internetové služby, na které se zákon vztahuje, odstranit nahlášené intimní snímky zveřejněné bez souhlasu do 48 hodin. Stejně tak musí odstranit jejich totožné kopie. Evropa by měla zavést stejně jasnou lhůtu, důslednou kontrolu a ochranu proti opakovanému nahrávání. Bez vymahatelných pravidel je slib platforem jen zdvořilou prosbou.
Zakázat nástroj je teprve začátek. Skutečným testem bude, zda podvrhy dokážeme rychle odstranit a zabránit jejich návratu. Žena, kterou někdo bez souhlasu digitálně svlékl, by neměla ještě obcházet internet a prosit, aby ji zase oblékl.
