BRUXELLES — Les systèmes d’intelligence artificielle capables de générer des deepfakes sexualisés de personnes réelles seraient interdits dans l’UE, selon des propositions vues par POLITICO.
Cette initiative intervient après que Grok, l’outil d’intelligence artificielle de X, a permis aux utilisateurs de générer des millions d’images de personnes réelles en bikini ou entièrement nues, y compris des images d’enfants.
Une proposition, qui devrait être approuvée par les ambassadeurs de l’UE vendredi, rendrait illégale la commercialisation en Europe de tout système d’intelligence artificielle capable de générer des vidéos, des images ou des fichiers audio sexualisés non consentis impliquant des personnes réelles.
Des députés européens ont soutenu l’interdiction lors de discussions distinctes mercredi.
Ces projets, qui pourraient entrer en vigueur dès cet été après des négociations entre les Etats membres et le Parlement européen, soulèvent des questions sur l’avenir d’une multitude d’applications qui permettent aux utilisateurs de créer de fausses images de personnes nues à partir de vraies photos, y compris l’outil d’Elon Musk.
L’UE examine déjà si X a correctement atténué les risques liés à l’intégration de Grok dans sa plateforme afin de prévenir des préjudices causés par des images sexuellement explicites.
“Il ne s’agit pas seulement de Grok”, a souligné Sergey Lagodinsky, eurodéputé allemand des Verts, l’un des nombreux parlementaires qui ont soutenu l’interdiction. “Il s’agit de savoir quel pouvoir nous sommes prêts à donner à l’IA pour porter atteinte à la dignité des gens.”
Un ajout récent
Les capacités de Grok à générer des images sont devenues virales à la fin de l’année 2025.
Selon une estimation du Center for Countering Digital Hate, le chatbot pourrait avoir généré jusqu’à 3 millions d’images sexuelles non consenties et 20 000 images pédopornographiques au cours des onze jours qui ont précédé les changements apportés pour mettre un terme à la diffusion de ces photos.
La plateforme a pris des mesures pour restreindre l’outils le 9 janvier, puis le 14 janvier. En annonçant ces changements, X a déclaré : “Nous restons déterminés à faire de X une plateforme sûre pour tous et continuons à avoir une tolérance zéro pour toute forme d’exploitation sexuelle des enfants, de nudité non consentie et de contenu sexuel non désiré.”
L’UE enquête pour savoir si ces mesures étaient suffisantes.
A la mi-janvier, des dizaines de parlementaires ont demandé l’interdiction des applications et outils d’IA permettant de dénuder. Des eurodéputés ont désormais l’intention de faire de cette interdiction une réalité grâce à un projet de modification des règles de l’UE sur l’IA.
Présentée par la Commission européenne en novembre, la proposition visait initialement à réduire les restrictions imposées aux entreprises spécialisées dans l’intelligence artificielle et à alléger le fardeau réglementaire.
La situation a changé après la découverte que les utilisateurs de Grok déshabillaient des femmes et des enfants : la question est passée en tête des préoccupations des députés européens, dépassant des sujets initialement considérés comme sensibles, notamment les projets visant à retarder les restrictions sur l’intelligence artificielle à haut risque.
Pendant des semaines, Chypre, qui assure la présidence tournante du Conseil de l’UE et qui est chargée de finaliser une position commune entre les Etats membres, n’a pas inclus l’interdiction des outils d’IA permettant de dénuder lors de plusieurs cycles de rédaction.
Les choses ont changé mardi, lorsque les Chypriotes ont présenté un texte quasi définitif qui soutient l’interdiction des systèmes d’intelligence artificielle capables de générer des images, des vidéos ou des sons “des parties intimes d’une personne physique identifiable ou d’une personne physique identifiable se livrant à des activités sexuellement explicites”.
L’inclusion d’une interdiction est une victoire pour des pays tels que l’Espagne, qui avaient fortement insisté sur ce point. Les ambassadeurs de l’UE devraient donner leur feu vert sur ce texte vendredi.
Des députés européens se sont mis d’accord mercredi pour inclure l’interdiction de “tout système d’IA qui modifie, manipule ou génère artificiellement des images ou des vidéos réalistes de manière à représenter des activités sexuellement explicites ou les parties intimes d’une personne physique identifiable, sans le consentement de cette personne”.
Toutefois, l’accord conclu lors d’une réunion politique mercredi indique qu’une interdiction ne s’appliquerait pas aux entreprises “qui ont mis [en place] des mesures de sécurité efficaces pour empêcher la production de telles représentations et éviter leur utilisation abusive”.
Le texte n’est pas encore définitif, les principales commissions du Parlement européen devant se prononcer le 18 mars.
Le Parlement et le Conseil se réuniront ensuite pour approuver une version finale avant que l’interdiction ne devienne une loi.
Mardi, le Parlement a également demandé à la Commission “d’étudier des mesures visant à protéger les individus contre la diffusion d’images numériques, de contenus audio ou vidéo manipulés et générés par l’IA” dans le cadre d’un rapport distinct sur l’IA et le droit d’auteur.
“Ce qui est peut-être une blague pour une personne pendant dix secondes peut causer des dommages durables à la victime”, a pointé Kim van Sparrentak, eurodéputée néerlandaise des Verts, lundi. “Il est grand temps d’interdire toutes ces applications.”
Cet article a d’abord été publié par POLITICO en anglais, puis a été édité en français par Jean-Christophe Catalon.