Un Britannique génère plus de 1000 images pédopornographiques avec l’IA... et s’en voit interdire l’usage

Un Britannique de 48 ans a été interdit d’accès à l’IA générative, après avoir créé des images pédopornographiques.

Si la possession ou la consultation d’images pédopornographiques est réprimée dans de nombreux pays, qu’en est-il lorsque les enfants représentés sur ces images ne sont pas de vraies personnes, mais des personnages fictifs créés par des intelligences artificielles (IA) génératives ? Un tribunal britannique s’est penché sur la question, et vient pour la première fois de condamner un homme à ne plus utiliser, sans l’autorisation d’un policier, les outils d’intelligence artificielle générative, rapporte le Guardian .

Anthony Dover, un Britannique de 48 ans, a reçu cette injonction de ne plus utiliser, visiter ou accéder à ces outils numériques, comme condition d’une ordonnance judiciaire visant à prévenir des infractions à caractère pédocriminel. L’individu a en effet été reconnu coupable d’avoir créé plus d’un millier d’images mettant en scène des jeunes enfants dans des postures ou des tenues sexualisées, à l’aide de l’IA générative.

» LIRE AUSSI – Les deepfakes pornographiques ciblant Taylor Swift provoquent une prise de conscience sur les dangers de l’IA

Le tribunal de Poole (sud de l’Angleterre) qui lui a interdit l’usage de l’IA pour générer des images pédopornographiques l’a également condamné à une amende de 200 £. Dans le viseur du tribunal, c’est en particulier le logiciel «Stable Diffusion» qui est visé : celui-ci, contrairement à d’autres algorithmes développés par des sociétés privées, est en open source, c’est-à-dire que son code est directement accessible aux usagers. Même si le logiciel prévoit des restrictions d’usage, notamment pour empêcher des usages contraires à certaines lois sur la prévention des deepfakes («hyper-trucages» de photos ou de vidéos) ou justement un usage pédopornographique, ce logiciel est régulièrement détourné par des individus pour créer du contenu à caractère sexuel.

Les IA, des «usines» à «images épouvantables»

Outre la génération d’images pédopornographiques, ce logiciel a été également utilisé pour créer des deepfakes à caractère sexuel de personnes réelles – par exemple de célébrités. Le gouvernement britannique vient justement d’annoncer la semaine dernière que la création de deepfakes à caractère sexuellement explicite, reprenant l’image de personnes n’ayant pas donné leur consentement, serait bientôt interdite par une loi spécifique. Les peines encourues pourront aller jusqu’à de la prison.

Au Royaume-Uni, les lois en vigueur depuis les années 1990 pour interdire la détention d’images pédopornographiques avaient déjà été utilisées pour condamner des personnes ayant effectué des photomontages via des logiciels de retouche d’image.

Plusieurs associations de vigilance sur la criminalité en ligne ont salué la décision du tribunal de Poole, comme l’Internet Watch Foundation (IWF), qui a applaudi dans un communiqué une décision «historique», estimant que les logiciels d’IA générative sont des «usines capables de produire les images les plus épouvantables». La directrice générale de cette association, Susie Hargreaves, a estimé que ce genre de détournement de l’usage de l’IA est «en hausse» et permet de fabriquer des images «de plus en plus réalistes».