ChatGPT přichází s kontroverzním erotickým režimem. Kritici varují před riziky pro nezletilé
Nový model ChatGPT od americké firmy OpenAI poprvé umožní generování sexuálního obsahu. Kritici však varují, že systém nemusí spolehlivě zabránit tomu, aby se k explicitnímu obsahu dostali nezletilí. Jde o první případ, kdy velká technologická společnost připouští, že umělá inteligence může sloužit k intimním účelům.
Generální ředitel OpenAI Sam Altman označil spuštění erotické funkce v rozhovoru pro BBC News za přirozený krok vpřed. „Od prosince, v rámci naší zásady chovat se k dospělým uživatelům jako k dospělým, umožníme tvorbu erotického obsahu,“ uvedl Altman. Přístup k novým funkcím budou mít údajně pouze ti, kteří projdou ověřením plnoletosti.
Rozšíření ChatGPT o erotický režim ale vyvolalo podle BBC vlnu otázek ohledně bezpečnosti a společenského dopadu. Kritici upozorňují na možnou nedokonalost systému věkového ověřování. „Tohle se vám tvrdě vymstí. Žádný rodič nebude věřit, že jeho děti neprojdou tím vaším věkovým omezením,“ uvedl na svém profilu na sociální síti X americký investor Mark Cuban.
This is going to backfire. Hard. No parent is going to trust that their kids can’t get through your age gating. They will just push their kids to every other LLM.
Why take the risk ?
Same for schools. Why take the risk ? A few seniors in HS are 18 and decide it would be… https://t.co/ugSU7IXoOz
— Mark Cuban (@mcuban) October 15, 2025
Kriticky se na síti X vyjádřil i americký podnikatel a politik Vivek Ramaswamy, podle něhož může nová funkce zvýšit závislost a osamělost jejich uživatelů. „Umělá inteligence se specifickou schopností sexuálně nebo emocionálně manipulovat s lidmi si zaslouží extrémní opatrnost,“ upozornil.
The unnecessary ‘over-humanization’ of AI is becoming troubling. This new “feature” will do nothing to improve productivity or prosperity. But it will almost certainly increase addiction & loneliness. I don’t think government intervention will make it any better, but designing AI… https://t.co/aw5Ycy2JOm
— Vivek Ramaswamy (@VivekGRamaswamy) October 15, 2025
Jak má nový režim fungovat
Detaily o ověřování věku nejsou společností zatím zveřejněné. Podle zjištění Reuters ale OpenAI plánuje zavést tzv. age-gating, systém který bude umět rozlišovat mezi uživateli pod 18 let a dospělými. Ten by měl kombinovat klasické ověřování plnoletosti s behaviorální analýzou, tedy sledováním způsobu, jakým uživatel píše a reaguje při konverzaci, podle čehož by dokázal odhadnout jeho věk.
Altman také zmínil, že dříve zvažovaná přísnější pravidla se díky vývoji bezpečnostních nástrojů uvolní. Dle britského deníku The Guardian ale zástupci OpenAI zároveň tvrdí, že všechny erotické výstupy projdou před odesláním interní kontrolou.
Podle The Guardian firma vyvíjí i další ochranné mechanismy. Například filtry zabraňující tvorbě nevhodného obsahu či nástroje detekující duševní problémy uživatelů. „Chceme uživatelům umožnit svobodu, aniž bychom ztratili jejich důvěru,“ popsal cíle nového nastavení generální ředitel OpenAI Altman
OpenAI má v plánu zavádět nový režim postupně po jednotlivých regionech. Zatím není známo, ve kterých zemích bude funkce dostupná jako první. Britský deník The Guardian však informoval o tom, že v Evropské unii může společnost narazit na přísnější legislativu týkající se věkového ověřování a ochrany osobních údajů.
V USA je přístup liberálnější, ale také zde sílí tlak na větší odpovědnost technologických firem za to, jaký obsah jejich systémy vytvářejí. Altman v rozhovoru pro BBC uvedl, že společnost očekává diskusi a je připravena vést dialog s úřady i samotnými uživateli. Model má být spuštěn již na konci roku 2025.
