Terwijl AI-gegenereerde pornografie explosief is toegenomen, zeggen menselijke pornosterren dat de nieuwe technologie wordt gebruikt om hen dingen te laten doen of te laten zeggen zonder hun toestemming.
Maandenlang kreeg pornoster Demi Sutra berichten van fans, die haar vroegen om een scène te filmen waarin ze zich als minderjarige voordeed.
Ze zei nee. Net als de meeste andere pornosterren heeft Sutra duidelijke grenzen wat betreft het soort materiaal dat ze wil maken en ageplay, waarbij volwassen pornosterren doen alsof ze minderjarig zijn, is een genre porno dat ze afschuwelijk vindt. Maar ongeveer anderhalf jaar geleden stuurde een fan haar een bericht op Twitter met een foto van haar waarop haar mond was geanimeerd om te bewegen. Ze hoorde een versie van haar eigen stem spreken, die verklaarde dat ze nog maar 16 jaar oud was.
“Ik heb video’s van mezelf waarop ik walgelijke dingen zeg, die ik nooit zou zeggen” vertelde Sutra in een interview aan Forbes. “Ik wil mezelf dat niet zien doen. Ik wil geen deel uitmaken van een negatieve invloed op kinderen. Dit zijn kindmisbruikers. Ik wil daar verdomme geen deel van uitmaken. En op dit moment maak ik daar deel van uit – met geweld.”
Sutra is niet de enige. In interviews hebben drie andere makers van pornocontent hun angst geuit dat AI een chaos zou kunnen veroorzaken voor de principes van affirmatieve, mondelinge toestemming, waarop zij in de reguliere porno-industrie op vertrouwen. Leana Lovings, een pornoster en merkambassadeur voor de website Adult Time, beschreef hoe deze richtlijnen van invloed zijn op de manier waarop scènes worden opgenomen: voordat het filmen begint, ontvangt elke pornoster een checklist met do’s en don’ts. “Iedereen bevestigt hardop wat we die dag bereid zijn om te doen en wat niet” vertelde ze aan Forbes.
Deze regels zijn essentieel geweest voor het overleven van de porno-industrie in een sterk gereguleerde ruimte, waar een misverstand gemakkelijk kan leiden tot geschonden contracten of geschonden regels. Maar plotseling kan iedereen een algoritme gebruiken om het lichaam van een echt persoon over een fictieve scène te leggen of een pornoster iets te laten zeggen of te laten doen waar ze geen toestemming voor heeft gegeven, vaak zonder repercussies.
De zorgvuldigheid (en angst) van de porno-industrie bestaat nog niet in de zich ontwikkelende wereld van AI-porno, waar apps op het internet zijn verschenen, die gebruikers de mogelijkheid beloven om ‘iedereen uit te kleden – volwassen pornosterren, beroemdheden of anderszins’. De niet-consensuele deepfakes en cheapfakes, die zich de gelijkenis van mensen (meestal vrouwen) zonder hun toestemming toe-eigenen, overspoelen zelfs reguliere sites als Reddit en Etsy, die worstelen met moderatie.
“AI staat in de adult industrie nog in de kinderschoenen. We hebben mensen die geen sekswerkers zijn – jullie techneuten en dat soort dingen – die proberen de ruimte binnen te komen zonder dat ze te maken krijgen met de gevolgen van het sekswerker zijn” zegt Siren Obscura, een onafhankelijke regisseur en producent, die werkt met makers van adult content. “Deze mensen proberen te profiteren van de lichamen van sekswerkers.”
De brede toegankelijkheid van AI, die aangepaste porno kan maken, kan ook het vermogen van pornosterren om in hun levensonderhoud te voorzien aantasten. Lovings merkte op dat de dreiging het grootst is voor pornosterren die een groot aantal scènes hebben opgenomen, waarbij hun lichaam in veel contexten en vanuit veel hoeken te zien is. “Hoe meer scènes we hebben opgenomen, hoe beter ze ons kunnen nabootsen” zei ze.
Verschillende artiesten, die met Forbes spraken, maakten vergelijkingen met de vergelijkbare bedreiging die AI vormt voor acteurs, wat één van de kernpunten van de recente staking in Hollywood was. Uiteindelijk won de acteursvakbond de contractbepalingen, die de manieren beperkten waarop werkgevers AI-weergaven van hun leden konden maken. Lovings hoopt dat wetgevers nieuwe rechtsmiddelen voor artiesten creëren van wie de gelijkenis wordt misbruikt. “Ik zou willen dat er meer wetgeving was, die ons in staat zou stellen om actie te ondernemen” vertelde ze aan Forbes.
Er zijn maar weinig wetten, die mensen beschermen van wie de beelden zonder toestemming zijn veranderd door AI. In de VS hebben sommige staatsoverheden de publicatie van deepfakes onder bestaande wetten geschaard, die de verspreiding van wraakporno verbieden (d.w.z. expliciete foto’s of video’s van iemand die zonder hun toestemming zijn gedeeld). Maar wraakpornowetten zijn vaak beperkt tot situaties waarin daders beelden verspreiden om het afgebeelde slachtoffer lastig te vallen of te terroriseren. Bij afbeeldingen of video’s van pornosterren, die dingen doen waar ze geen toestemming voor hebben gegeven, zijn andere motieven aannemelijk: de maker van de afbeelding kan deze hebben gemaakt om te verkopen of om gewoon om er persoonlijk van te genieten.
Sommige wetgevers en experts pleiten voor meer bescherming voor slachtoffers van deepfakes of ze nu gemaakt zijn met de bedoeling om hen lastig te vallen of niet. Rebecca Delfino, een professor in de rechtswetenschappen aan de Loyola Marymount University en expert op het gebied van deepfake wetgeving, merkte op dat veel wetgevende instanties, waaronder het Amerikaanse Huis van Afgevaardigden, nieuwe straffen overwegen voor mensen die deepfake porno maken of verspreiden. “Pornografie verdient, zolang het gebaseerd is op toestemming, bescherming van het Eerste Amendement” vertelde ze aan Forbes. “Maar de afwezigheid van toestemming waarvan we weten dat die waarschijnlijk aanwezig is wanneer iemand het onderwerp is van een deepfake, plaatst het denk ik meer in het kamp naast kinderpornografie, dat we niet moeten zien als iets dat onderhevig is aan bescherming onder het Eerste Amendement.”
Delfino waarschuwde dat het bestraffen van de makers van niet-consensuele content misschien niet genoeg zou zijn, omdat ze moeilijk te identificeren zijn, laat staan ze voor de rechter te slepen. Ze merkte op dat internet serviceproviders een belangrijke rol spelen in het beschikbaar maken van deepfake porno (en de tools die gebruikt worden om het te maken) voor het publiek – en dat, als het zou willen, het Congres een wet zou kunnen aannemen die hen strafbaar stelt voor het verspreiden ervan.
Pornosterren vertelden Forbes ook dat ze hebben gezien dat mensen hun afbeeldingen op verontrustende maar minder technologisch geavanceerde manieren gebruiken. Stella Sedona zei dat het haar doel is om “een inclusieve en veilige ruimte voor mensen te creëren om hun seksualiteit te verkennen” dus ze was geschokt toen ze fan-art ontdekte waarin afbeeldingen van haar lichaam aan racistische taal werden gekoppeld. En hoewel door gebruikers gegenereerde content met de gelijkenis van bekende personen heel gewoon is, zegt Sedona dat het zijn van een volwassen artiest niet helemaal hetzelfde is als het zijn van een normaal publiek figuur. Als een Hollywoodster een superschurk in een film speelt, ziet niemand die persoon als een superschurk als ze de volgende dag over straat lopen. Maar wanneer een persoon wordt afgebeeld in porno “vertegenwoordig je wie je bent als persoon” zegt ze.
Toch krijgen pornosterren in sommige situaties te maken met precies dezelfde vormen van misbruik als andere publieke figuren. Sutra vertelde dat zij en andere pornosterren onophoudelijk worden geïmiteerd door scammers, die producten aanprijzen, vermeende exclusieve content en zelfs persoonlijke ontmoetingen. Dit soort online zwendel richt zich ook vaak op ander beroemdheden (vraag maar aan de slachtoffers van een aantal Elon Musk cryptozwendels), maar makers van sdult content hebben minder bescherming tegen imitatie dan andere publieke figuren. Omdat ze niet geverifieerd kunnen worden op sociale mediaplatforms zoals YouTube en Instagram, is het voor fans moeilijker om te weten welke accounts echt van hen zijn.
Om dit probleem aan te pakken, zeiden alle pornosterren dat ze hoopten dat zowel pornosites als conventionele sociale mediasites sterkere verificatieprocedures zouden ontwikkelen om gebruikers te helpen onderscheid te kunnen maken tussen echte en nep accounts. Kristen Kaye, een marketing executive en talentmanager uit de industrie, ging nog een stapje verder en stelde voor dat pornosites zouden moeten eisen dat iedereen die AI-content uploadt een licentie heeft voor de afbeeldingen die erin worden afgebeeld. Zowel Kaye als Obscura merkten op dat sommige pornosterren zelf zijn begonnen met het experimenteren met nieuwe AI-functies, zoals chatbots die zijn getraind op hun eigen spraak en die 24/7 kunnen communiceren met fans. Ze waren het erover eens dat chatbots een goede zaak zouden kunnen zijn, zolang de pornosterren er maar toestemming voor geven.
Maar over één ding waren alle pornosterren het eens: AI zal niet snel hun baan komen opeisen. Volledig vervalste AI-gegenereerde porno, die geen echt persoon afbeeldt, is ook in opmars maar het is – nog – niet zo goed als het echte werk en pornosterren vragen zich af of dat ook ooit mogelijk zal zijn.
Lovings noemde zichzelf ‘een humanist’ en zei dat ze denkt dat echte menselijke emotie voor een computer niet gemakkelijk na te bootsen is. Sedona is het daarmee eens: “We maken een ambachtelijk product. Als je het echte werk wilt, zul je naar de pagina’s van de makers moeten komen, waar het echt afkomstig is van de persoon, die het maakt. En voor veel mensen is dat waar ze uiteindelijk naar op zoek zijn.”
