Si l’IA est plutôt prometteuse pour le progrès scientifique et le secteur médical, elle a aussi ses côtés sombres. Tombé entre les mains de personnes malveillantes, cet outil surpuissant est capable de générer les pires atrocités. Après le deepfake, utilisé pour falsifier les visages et propager des infox, l’IA s’attèle à créer des faux nudes particulièrement réalistes. Récemment, ce sont des adolescentes espagnoles qui ont été victimes de cette vaste supercherie virtuelle. Des images trafiquées révélant leur corps dénudé ont circulé en masse sur les réseaux sociaux. Et avec ce no man’s land juridique autour de l’IA, difficile pour elles d’obtenir gain de cause. Alors, l’IA est-elle en passe de devenir la nouvelle arme des pervers et autres détraqués sexuels ?
Des adolescentes espagnoles, au coeur de faux nudes viraux
L’IA n’agit pas seulement en faveur de la société. Elle est aussi employée à des fins plus vicieuses. Cet outil, disponible en accès libre, brouille les frontières entre réalité et mensonge. L’IA est tellement performante qu’elle peut désormais contrefaire des sons et composer des œuvres d’art dignes des plus grands monuments de la peinture. Plus ahurissant encore, elle est en mesure de façonner des faux nudes qui n’éveillent pas le moindre doute sur leur imposture. Une fonctionnalité que des êtres venimeux n’ont pas tardé à mettre en pratique.
Plusieurs adolescentes de la commune d’Almendralejo en Espagne se sont faites piéger par ces clichés intimes truqués. Onze d’entre elles ont déposé plainte. Les auteurs présumés de ces images, qui ont été pour certains identifiés, « ont manipulé des photos de jeunes filles mineures » pour transposer leurs visages sur les « corps (dénudés) d’autres personnes », a expliqué une porte-parole de la police le 19 septembre dernier à l’AFP.
Ces faux nudes, concrétisations de fantasmes abjects, se sont répandus comme une traînée de poudre sur les réseaux sociaux. Malgré leur nature « factice », ils ont causé de sérieux dégâts sur l’estime de ces jeunes filles, dont le corps a été bafoué et sali. Au-delà de leur grossièreté, ces faux nudes sont également susceptibles de s’égarer dans les tréfonds des sites « pédopornographiques« ou sur des comptes « Onlyfans« , comme le souligne une maman des victimes.
Un instrument de chantage affolant
Selon les déclarations de la police, une vingtaine d’adolescentes ont été victimes de ces faux nudes. Ces photos, contrefaites sur une appli censée offrir « des possibilités amusantes et artistiques » n’avaient pas seulement pour vocation d’alimenter un imaginaire sexuel crasse ou d’humilier gratuitement des innocentes. Elles étaient aussi un moyen de pression pour obtenir de l’argent. Ces faux nudes engendrés par l’IA sont la poudre à canon de tous les vices possibles et imaginables.
Et pour leur donner vie, nul besoin d’avoir un niveau avancé en informatique ou d’être un geek expérimenté. Selon la police espagnole, les auteurs présumés ont entre 11 et 14 ans. Un âge précoce qui prouve que les dérives de l’IA sont à la portée de toutes les mains, même les plus insoupçonnables. Ce scénario qui semble relever de la science-fiction se généralise à vitesse éclair. Plus l’IA s’affine, plus elle incite aux déviances.
Toutefois, le phénomène des faux nudes est loin d’être inédit. Selon une étude réalisée en 2019 par la société néerlandaise Sensity, spécialisée dans l’IA, 96 % des fausses vidéos en ligne sont de la pornographie non consensuelle et la plupart d’entre elles représentent des femmes. Quelques années en arrière, une application nommée DeepNude se dédiait même à la conception de faux nudes. Elle permettait de déshabiller les femmes à partir d’une simple photo et de produire des clichés illusoires, mais compromettants. Désormais l’appli est interdite, mais elle souligne tous les traits malsains des algorithmes. L’IA ne sert plus seulement à améliorer le futur, elle dope les dangers du présent.
Une manipulation virtuelle qui sévit de plus en plus
Ce scandale actuel des faux nudes ne fait que raviver un problème qui gangrène la webosphère. Depuis son développement fracassant, l’IA alimente une magie noire 2.0. Les personnes qui la sollicitent sont, en plus, immunisées par l’anonymat d’Internet, ce qui leur autorise une plus grande force de frappe. Des personnalités publiques ont d’ailleurs dénoncé cette pratique, qui s’ancre dans le cyberharcèlement. C’était le cas de Jujufitcat, youtubeuse adepte de musculation. Dans une vidéo publiée en janvier, elle brisait le silence autour des faux nudes. Elle-même victime de ces photomontages insolents, elle affirmait leur aspect destructeur et leur terrible répercussion sur la vie privée. Selon elle, les faux nudes encouragent d’autres formes de violence, notamment à l’encontre des femmes.
Combustibles du slut shaming ou du revenge porn, les faux nudes ont souvent pour but d’humilier les femmes et de contaminer leur réputation. Ils servent à fertiliser cette théorie, pourtant révolue, de la femme « objet », du pantin sexuel. Les faux nudes ne sont pas seulement des outils d’intimidation, ils circulent aussi en catimini dans les souterrains obscurs du web. Un immense réseau d’échange de faux nudes a d’ailleurs été démantelé sur le site Telegram en 2020.
Plus de 100 000 contenus de la sorte ont été divulgués sur cette application d’origine russe. Des utilisateurs s’amusaient à repêcher des photos « banales » sur Instagram et à les affubler de connotations sexuelles grâce à une version dérivée de l’appli DeepNude. Même si ce groupe a été fermé, d’autres sites continuent de fournir des faux nudes en toute impunité. Sans aller dans les confins du dark web, il est désormais possible de dévêtir une personne avec quelques jeux de clics. C’est là toute la médiocrité de l’IA.
Faux nudes : que dit la loi ?
La justice autour des faux nudes et tout autre type de détournement d’images est un vaste Far West. Cependant, plusieurs pays du globe tentent de raffermir les condamnations et de poser un meilleur cadre à cette mutilation virtuelle. Le gouvernement britannique a ainsi revu ses lignes juridiques, en classant les deepfakes pornographiques comme un crime, et non plus comme délit. Dans le même sillage, le gouvernement français a lui aussi manifesté sa volonté de sanctionner plus durement ces manœuvres abjectes.
Pour sécuriser davantage l’espace numérique, le Sénat a voté deux amendements en juillet dernier visant à muscler les « peines ». Elles sont portées à deux ans d’emprisonnement et 45 000 € d’amende lorsque la publication du montage ou du contenu généré par un traitement algorithmique a été réalisée en utilisant un service de communication au public en ligne. Pour les montages à caractère sexuel réalisés sans consentement, l’amende s’élève à 60 000 €. La loi française s’adapte donc doucement à ces nouvelles menaces technologiques qui mettent en péril toute une identité numérique.
Malgré son côté progressiste, l’IA immortalise des croyances rétrogrades. Plusieurs études prétendent d’ailleurs qu’elle s’établit sur des valeurs misogynes et anti-féministes. Pas étonnant donc que les faux nudes punissent si drastiquement la gent féminine.
