EU tvrdě zakročila proti aplikacím svlékajícím ženy a děti. Uživatelé se smějí

Neviditelná past v internetovém prohlížeči

Představte si následující situaci, která se dnes může stát komukoliv. Uživatel bez jakýchkoli programátorských znalostí si stáhne z profilu na sociální síti běžnou fotografii své kolegyně v zimním kabátě. Navštíví platformu Hugging Face, kde vyhledá bezplatné demo prezentované jako „univerzální editor portrétů“.

Do webového rozhraní nahraje fotografii kolegyně a do textového pole zadá jednoduchý pokyn: „Same pose, same face, but topless“. Jelikož dané demo ani samotná platforma neobsahují žádné filtry, model požadavek okamžitě zpracuje.

Během pouhých 15 sekund vygeneruje fotorealistický snímek, na kterém je obličej a póza kolegyně dokonale zachována, ale její tělo je uměle zobrazeno bez oblečení. Uživatel tento snímek následně uloží a sdílí na komunikačních platformách bez vědomí či souhlasu dotčené ženy.

Šokující čísla z digitálního podsvětí

Tento děsivý scénář není pouhou teoretickou hrozbou. Evropská nezisková organizace AI Forensics, která se zaměřuje na vyšetřování algoritmů, zveřejnila 28. července 2026 přelomovou zprávu s názvem „Unmoderated by Design: How Hugging Face Enables NCII“.

Autoři výzkumu, Dr. Paul Bouchaud a Dr. Silvia Semenzin, v ní přinášejí nezvratné důkazy o tom, jak snadné je zneužít bezplatná webová dema AI modelů v sekci „Spaces“ na platformě Hugging Face. Data pro tento audit byla sbírána 25. června 2026 a výsledky jsou alarmující.

Výzkumníci otestovali devět nejpopulárnějších modelů pro úpravu obrázků na této platformě. Výsledek? Celkem 7 z 9 těchto modelů bez váhání vyhovělo přímému pokynu ke svléknutí oblečení. Absolutně šokující je skutečnost, že ani jeden z testovaných modelů (0 %) nefiltroval vstupní textové pokyny uživatelů. Pouhá 3 % auditovaných „Spaces“ vykazovala jakoukoli formu moderace nebo blokování explicitních obrazových výstupů.

Cílem jsou obyčejné ženy a děti

Aby výzkumníci zmapovali skutečné chování uživatelů, vytvořili takzvaný honeypot – fiktivní editor, přes který během jediného týdne sesbírali 1 081 unikátních uživatelských požadavků ve 33 jazycích.

Analýza těchto dat ukázala, že 73 % ze všech zachycených uživatelských zadání mělo sexuální charakter. V rámci těchto sexuálně orientovaných požadavků pak celých 83 % tvořily žádosti o svléknutí osob na fotografiích.

Výzkum také vyvrací mýtus, že oběťmi těchto útoků jsou primárně slavné osobnosti. Známé tváře a celebrity tvořily pouhých 3,6 % zadání. Drtivá většina útoků míří na běžné lidi z našeho okolí.

Z hlediska pohlaví jsou cílem těchto sexuálních požadavků v 95 % případů ženy. Nejtemnějším zjištěním celého auditu je však fakt, že 6,7 % ze sexuálních požadavků směřovalo na nezletilé děti, což spadá do kategorie dětské pornografie (CSAM).

Pravidla na papíře versus drsná realita

Jak je možné, že k něčemu takovému na globálně uznávané platformě dochází? Oficiální pravidla Hugging Face sice generování neconsensuálního intimního obsahu i jakéhokoli sexuálního obsahu s nezletilými striktně zakazují. Technická realita je však zcela odlišná.

Platforma totiž neprovádí plošné filtrování vstupů ani výstupů na úrovni celého systému. Implementace ochranných filtrů je zcela dobrovolná a leží plně na bedrech autorů jednotlivých modelů.

Hugging Face po zveřejnění zprávy odmítla tvrzení, že by šlo o „systémové selhání moderace“. Nicméně pod tíhou důkazů provedla vlastní testy a následně odstranila vybraná dema, která záměrně klamala uživatele o svém skutečném účelu. Tento krok však podle odborníků řeší pouze špičku ledovce.

Konec digitální džungle? Evropa tasí zbraň

Na neúnosnou situaci již reagují evropští zákonodárci. V souvislosti s regulací se však v médiích často objevuje mýtus, že zákaz svlékacích aplikací v rámci unijního balíčku k nařízení o umělé inteligenci (AI Act) teprve musí formálně schválit Rada EU.

Skutečnost je ale jiná. Rada EU tento balíček, známý jako Digital Omnibus on AI (Nařízení (EU) 2026/1744), definitivně schválila již 29. června 2026. Nařízení bylo publikováno v Úředním věstníku EU 24. července 2026 a vstoupilo v platnost 27. července 2026.

Samotný zákaz AI systémů generujících neconsensuální intimní snímky a dětskou pornografii nabude účinnosti 2. prosince 2026.

Tyto nástroje nemají v naší společnosti co dělat. Jsou vytvořené k tomu, aby digitálně svlékaly lidi bez jejich souhlasu, přičemž oběťmi jsou převážně ženy a dokonce i děti. Tohle není inovace, ale zneužívání a kybernetické násilí.

Slova české europoslankyně Markéty Gregorové, která tento zákaz do unijní legislativy osobně prosadila, mluví za vše.

Skeptické hlasy z internetových diskusí

Ne všichni jsou však přesvědčeni, že legislativní zákazy přinesou kýžený klid. V internetových komunitách se objevují silné pochybnosti o tom, zda lze technologii vůbec efektivně spoutat paragrafy.

Jeden z uživatelů na diskusní platformě Reddit vyjádřil rozšířený skepticismus slovy, která vystihují pohled části veřejnosti:

Oni si vážně myslí, že nějaký nezletilý si tam založí účet a bude platit za model, aby mu to generovalo nevhodné obrázky? Co vůbec znamená ‚neconsensuální‘ v tomhle kontextu? Vždyť je to generované AI. Je to jenom přehnaná regulace, která nikoho nezajímá, leda tak politiky před volbami. Úplně směšné. Modely zakázat nemůžou, prostě se budou hostovat jinde. Pokud na tom budou dál trvat, ten ‚problém‘ se jenom přesune a ještě víc vyroste.

Jak píše uživatel v diskusi na Redditu, názor části veřejnosti odráží hlubokou nedůvěru v účinnost zákonných opatření.

Stojíme tak na prahu zásadního střetu mezi technologickou svobodou, snahou o ochranu lidské důstojnosti a neúprosnou realitou internetu. Zda se podaří digitální svlékání bez souhlasu vymýtit, ukáže až čas po 2. prosinci 2026, kdy nová pravidla začnou platit v plné síle.