Une nouvelle technologie pornographique, à l’aide de l’intelligence artificielle (IA), permet de déshabiller une personne à partir d’une photo anodine, rapporte Radio-Canada.

L’impact sur les jeunes de ces sites Web facilement accessibles inquiète de nombreux spécialistes. En quelques étapes, n’importe qui peut, sans expertise particulière, utiliser ces sites qui existent depuis l’été 2023 et qui ont généré jusqu’à 18,5 millions de visites uniques.

En Espagne, une vingtaine de jeunes filles âgées de 12 à 14 ans ont été victimes de ces sites permettant de dénuder une personne à l’aide de l’IA.. Certains garçons de leurs âges ont utilisé leurs photos sur les réseaux sociaux et ont partagé les résultats avec de nombreuses personnes. « Ces photomontages sont ultraréalistes, c’est profondément troublant et un réel scandale », affirme la mère d’une des jeunes filles de 14 ans.

Ces sites ne font qu'accroître la problématique de la pédopornographie. Un homme âgé de 61 ans possède une collection de 80 000 photos d’enfants créées par l’IA. Cette nouvelle technologie devient inquiétante, car le fait de pouvoir consommer ce genre de pornographie facilement peut augmenter les risques de passage à l’acte, selon René Morin, porte-parole du Centre canadien de protection de l’enfance.

Les lois demeurent applicables lors de la modification d’une image par l’IA. Le problème avec ces sites Web est l’absence de consentement, ainsi que le manque de mesures pour empêcher la publication des images, selon l’avocate Éloïse Gratton. 

Références
https://ici.radio-canada.ca/nouvelle/2031358/pornographie-non-consensuelle-intelligence-artificielle
https://abcnews.go.com/US/mobile-apps-fueling-ai-generated-nudes-young-girls/story