Face à l’explosion de la pornographie générée par l’IA, les stars du porno humain affirment que la nouvelle technologie a été utilisée pour leur faire faire ou dire des choses sans leur permission.
Pendant des mois, la star du porno Demi Sutra a reçu des messages de fans lui demandant de tourner une scène dans laquelle elle prétendait être mineure.
Elle a refusé. Comme la plupart des artistes-interprètes pour adultes, Demi Sutra a des limites claires quant au type de contenu qu’elle est prête à créer – et l’ageplay, où des artistes-interprètes pour adultes se font passer pour des mineurs, est un genre de porno qu’elle trouve détestable. Mais il y a environ un an et demi, un fan lui a envoyé un message sur Twitter avec une photo d’elle où sa bouche avait été animée pour bouger. Elle a entendu une version de sa propre voix, déclarant qu’elle n’avait que 16 ans.
« J’ai des vidéos de moi en train de dire des choses dégoûtantes que je ne dirais jamais », a déclaré Sutra dans une interview à Forbes. « Je ne veux pas me voir en train de faire ça. Je ne veux pas participer à l’impact négatif sur les enfants. Ce sont des prédateurs d’enfants. Je ne veux pas en faire partie. Et j’en fais partie, en ce moment même, par la force ».
Sutra n’est pas la seule. Lors d’interviews, trois autres créateurs de contenus pour adultes ont exprimé leur crainte que l’IA ne fasse des ravages sur les principes affirmatifs et vocaux du consentement sur lesquels ils s’appuient dans l’industrie du porno grand public. Leana Lovings, artiste-interprète et ambassadrice de la marque pour le site web Adult Time, a décrit comment ces directives influent sur la manière dont les scènes sont tournées : avant le début du tournage, chaque artiste-interprète reçoit une liste de contrôle des choses à faire et à ne pas faire. « Chacun confirme à haute voix ce qu’il est prêt à faire ce jour-là et ce qu’il n’est pas prêt à faire », a-t-elle déclaré à Forbes.
Ces règles ont été essentielles à la survie de l’industrie pornographique dans un espace très réglementé, où un malentendu peut facilement conduire à une rupture de contrat ou à une infraction à la loi. Mais soudain, n’importe qui peut utiliser un algorithme pour superposer le corps d’une personne réelle à une scène fictive, ou faire dire ou faire faire à un acteur quelque chose qu’il n’a pas consenti à faire, souvent sans aucune répercussion.
Le niveau d’attention (et de crainte) de l’industrie pornographique n’existe pas encore dans le monde en pleine évolution de l’IA pornographique, où des applications ont vu le jour sur l’internet, promettant aux utilisateurs la possibilité de « déshabiller n’importe qui ». – des artistes adultes, des célébrités ou autres. Les deepfakes et cheapfakes non consensuels qui s’approprient l’image de personnes (principalement des femmes) sans leur consentement inondent même des sites grand public tels que Reddit et Etsy, qui ont dû faire face à des problèmes de modération.
« L’IA n’en est qu’à ses balbutiements dans l’espace adulte. Nous avons des gens qui ne sont pas des travailleurs du sexe – les techniciens et autres – qui essaient d’entrer dans l’espace sans avoir à faire face aux ramifications d’un travailleur du sexe », a déclaré Siren Obscura, une réalisatrice et productrice indépendante qui travaille avec des créateurs de contenu pour adultes. « Ces personnes essaient de tirer profit du corps des travailleurs du sexe.
La grande accessibilité de l’IA capable de produire du porno sur mesure pourrait également réduire la capacité des stars du porno à gagner leur vie. Lovings note que la menace est plus prononcée pour les artistes qui ont tourné un grand nombre de scènes, révélant leur corps dans de nombreux contextes et sous de nombreux angles – ce qui rendrait plus facile pour l’IA de se faire passer pour eux. « Plus nous tournons de scènes, plus l’IA sera en mesure de nous imiter », a-t-elle déclaré.
Plusieurs des artistes-interprètes qui ont parlé à Forbes ont fait des comparaisons avec la menace similaire que l’IA fait peser sur les acteurs, ce qui était l’un des principaux problèmes de la récente grève à Hollywood. En fin de compte, le syndicat des acteurs a obtenu des dispositions contractuelles limitant les possibilités pour les employeurs de créer des rendus d’IA de leurs membres. Mme Lovings espère que les législateurs créeront de nouveaux recours pour les artistes-interprètes dont les images sont utilisées à mauvais escient. « J’aimerais qu’il y ait davantage de législation qui nous permette d’agir dans ce domaine », a-t-elle déclaré à Forbes.
Il existe peu de lois protégeant les personnes dont l’image a été modifiée par l’IA sans autorisation. Aux États-Unis, certains États ont classé la publication de « deepfakes » dans la catégorie des lois interdisant la diffusion de « revenge porn » (photos ou vidéos explicites d’une personne partagées sans son consentement). Mais les lois sur le revenge porn se limitent souvent aux situations où les auteurs diffusent des images dans le but de harceler ou de terroriser la victime décrite. Dans le cas d’images ou de vidéos de stars du porno faisant des choses auxquelles elles n’ont pas consenti, d’autres motifs sont plausibles : le créateur de l’image peut l’avoir créée pour la vendre, ou simplement pour en profiter pour son usage personnel.
Certains législateurs et experts préconisent des protections plus solides pour les victimes de « deepfakes », qu’ils aient été créés ou non dans l’intention de harceler. Rebecca Delfino, professeur de droit à l’université Loyola Marymount et spécialiste de la législation sur les deepfakes, note que de nombreuses assemblées législatives, y compris la Chambre des représentants des États-Unis, envisagent de nouvelles sanctions pour les personnes qui créent ou diffusent des deepfakes pornographiques. « La pornographie, tant qu’elle est basée sur le consentement, mérite les protections du premier amendement », a-t-elle déclaré à Forbes. « Mais l’absence de consentement, dont nous savons qu’elle est probablement présente lorsqu’une personne fait l’objet d’un deepfake, la place, je pense, dans le même camp que la pornographie enfantine, que nous ne devrions pas considérer comme une chose susceptible d’être protégée par le premier amendement.
Mme Delfino prévient que la pénalisation des créateurs de contenus non consensuels pourrait ne pas suffire, car il pourrait être difficile de les identifier, et encore plus de les traîner devant un tribunal. Elle a fait remarquer que les fournisseurs d’accès à Internet jouent un rôle important dans la mise à disposition du public du deepfake porn (et des outils utilisés pour le créer) et que, s’il le souhaitait, le Congrès pourrait adopter une loi qui les rendrait passibles de sanctions pour avoir distribué ce type de contenu.
Des stars du porno ont déclaré à Forbes qu’elles avaient également vu des personnes utiliser leurs images de manière troublante, mais avec des moyens moins avancés sur le plan technologique. Stella Sedona a déclaré que son objectif était de créer « un espace inclusif et sûr pour que les gens puissent explorer leur sexualité ». Elle a donc été horrifiée de découvrir des dessins de fans qui associaient des images de son corps à des propos racistes. Bien que les contenus générés par les utilisateurs et représentant des personnalités publiques soient monnaie courante, Mme Sedona souligne que le fait d’être une artiste pour adultes n’est pas tout à fait comparable à celui d’être une personnalité publique ordinaire. Lorsqu’une star hollywoodienne joue le rôle d’un super-vilain dans un film, personne ne voit cette personne comme un super-vilain lorsqu’elle se promène dans la rue le lendemain. En revanche, lorsqu’une personne est représentée dans un film pornographique, « elle représente ce qu’elle est en tant que personne ».
Pourtant, dans certaines situations, les stars du porno sont confrontées aux mêmes types de détournement que les autres personnalités publiques. Sutra a mentionné qu’elle et d’autres artistes-interprètes ont été victimes d’une usurpation d’identité de la part d’escrocs qui leur proposaient des produits, un contenu prétendument exclusif et même des rencontres en personne. Ce type d’escroquerie en ligne vise souvent les célébrités classiques (il suffit de demander aux victimes des escroqueries à la cryptomonnaie d’Elon Musk), mais les créateurs pour adultes sont moins bien protégés contre l’usurpation d’identité que d’autres personnalités publiques. Comme ils ne peuvent pas être vérifiés sur les plateformes de médias sociaux comme YouTube et Instagram, il est plus difficile pour les fans de savoir quels comptes leur appartiennent vraiment.
Pour résoudre ce problème, tous les artistes-interprètes ont déclaré qu’ils espéraient que les sites pornographiques et les sites de médias sociaux conventionnels mettraient en place des procédures de vérification plus strictes afin d’aider les utilisateurs à faire la différence entre les comptes authentiques et les imposteurs. Kristen Kaye, responsable marketing et gestionnaire de talents dans l’industrie, est allée plus loin en suggérant que les sites pornographiques exigent que toute personne téléchargeant du contenu d’IA détienne la licence des images qui y sont représentées. Kaye et Obscura ont tous deux noté que certains artistes-interprètes pour adultes ont commencé à expérimenter de nouvelles fonctions d’IA, comme des chatbots formés à leur propre langage et capables d’interagir avec leurs fans 24 heures sur 24 et 7 jours sur 7. Ils ont convenu que tant que les artistes-interprètes y consentent, les chatbots pourraient être une bonne chose.
Cependant, tous les artistes-interprètes s’accordent à dire que l’IA n’est pas près de s’emparer de leur travail. Le porno entièrement faux généré par l’IA, qui ne représente pas une personne réelle, a également proliféré, mais il n’est pas aussi bon que le vrai – pour l’instant – et les artistes-interprètes se demandent s’il le sera un jour.
Lovings se dit « humaniste » et pense qu’il ne sera pas facile pour un ordinateur de recréer des émotions humaines authentiques. Sedona est d’accord : « Nous créons un produit artisanal. Si vous voulez la vraie chose, vous allez devoir aller sur les pages des créateurs, où cela vient vraiment de la personne qui l’a créé. Et pour beaucoup de gens, c’est ce qu’ils recherchent en fin de compte ».
