Umelá inteligencia dnes dokáže vytvárať realistické fotografie aj videá, vrátane erotického obsahu. To nie je domnienka ani futuristická predstava – ide o technologickú realitu. Existujú verejne dostupné nástroje, ktoré umožňujú generovať obrázky a videá na základe textového zadania alebo upravovať existujúce záznamy tak, aby sa v nich objavila tvár inej osoby. Táto technológia sa bežne označuje ako deepfake.
Nasledujúce informácie vychádzajú z verejne zdokumentovaných javov, odborných analýz a medializovaných prípadov.
1. Deepfake pornografia existuje a je rozšírená
Výskumníci už pred niekoľkými rokmi potvrdili, že veľká časť deepfake videí dostupných na internete má pornografický charakter. Tieto materiály často využívajú tváre známych osobností, ktoré v skutočnosti nikdy podobný obsah nenatočili.
Technologicky ide o kombináciu strojového učenia, generatívnych modelov a úprav obrazu. Softvér dokáže nahradiť tvár osoby v existujúcom videu inou tvárou tak, že výsledok pôsobí presvedčivo.
To je fakticky overiteľný jav, o ktorom informovali technologické médiá aj akademické pracoviská.
2. Obsah môže vzniknúť bez súhlasu dotknutej osoby
Je zdokumentované, že mnohé deepfake pornografické videá vznikli bez vedomia alebo súhlasu osoby, ktorej podobizeň bola použitá. V takýchto prípadoch ide o zásah do práva na ochranu osobnosti, súkromia a podobizne.
Viaceré krajiny už prijali alebo pripravujú legislatívu, ktorá umožňuje postihovať výrobu a šírenie takéhoto obsahu bez súhlasu dotknutej osoby. Právna úprava sa však líši podľa štátu a jurisdikcie.
3. Psychologické dopady sú reálne
Odborníci na kybernetickú bezpečnosť a digitálne násilie upozorňujú, že osoby, ktorých tvár sa objaví v manipulovanom erotickom videu, môžu zažívať stres, úzkosť alebo poškodenie reputácie.
Digitálne zneužitie identity sa dnes považuje za jednu z foriem online obťažovania. Tento problém sa týka najmä žien, čo potvrdzujú analýzy organizácií venujúcich sa digitálnym právam.
4. Technológia je čoraz dostupnejšia
Generatívne modely umelej inteligencie sa stali používateľsky jednoduchšími a výkonnejšími. Základné nástroje na úpravu obrazu alebo videa dnes nevyžadujú pokročilé technické znalosti. Niektoré aplikácie fungujú online.
Zároveň sa vyvíjajú technológie na odhaľovanie deepfake obsahu. Výskumné tímy pracujú na algoritmoch, ktoré dokážu rozpoznať manipuláciu v obraze alebo zvuku. Ide však o technologický súboj, v ktorom sa metódy tvorby aj detekcie neustále zlepšujú.
5. Ekonomický rozmer: zatiaľ bez presných čísel
Je pravda, že umelá inteligencia ovplyvňuje kreatívne odvetvia vrátane zábavného priemyslu. Nie je však k dispozícii spoľahlivý verejný údaj, ktorý by presne vyčíslil, koľko ľudí prišlo o prácu v dôsledku AI pornografie alebo aké konkrétne zisky generuje tento segment trhu.
Existujú odhady o raste generatívnych technológií ako celku, no presná ekonomická bilancia AI pornografie ako samostatného segmentu nie je transparentne zdokumentovaná.
6. Regulácia zaostáva za vývojom
Viaceré vlády a regulačné orgány reagujú na rozmach deepfake technológií. Niektoré právne úpravy umožňujú rýchle odstránenie obsahu z platforiem, iné zavádzajú trestnoprávnu zodpovednosť za jeho výrobu bez súhlasu.
Problémom zostáva medzinárodný charakter internetu. Obsah hostovaný mimo konkrétnej krajiny môže byť ťažko vymožiteľný podľa miestnych zákonov.
Čo z toho vyplýva?
Preukázateľným faktom je, že:
- technológia umožňuje generovať realistický erotický obsah
- deepfake pornografia existuje a bola zdokumentovaná
- niektoré prípady vznikajú bez súhlasu dotknutých osôb
- odborníci upozorňujú na psychologické a reputačné riziká
- legislatíva sa postupne prispôsobuje, no nie jednotne
Nie je však možné s istotou tvrdiť konkrétne finančné zisky či presné počty obetí bez oficiálnych dát.
Diskusia o AI pornografii preto nestojí na špekuláciách, ale na reálnych technologických možnostiach a zdokumentovaných prípadoch. Otázkou do budúcnosti zostáva, ako rýchlo sa podarí zosúladiť technický pokrok s právnou ochranou a digitálnou etikou.
