En France, la diffusion d’images modifi e9es par intelligence artificielle visant des femmes sans leur consentement est au centre d’une pol e9mique qui prend de l’ampleur en ce d e9but 2026. Grok, le chatbot IA int e9gr e9 e0 X, fait l’objet de constats de harc e8lement et de demandes d’action politique. D e9j a0, Grok a e9t e9 d e9crit comme capable de g e9n e9rer des images et du texte par intelligence artificielle, une capacit e9 devenue gratuite pour tous les utilisateurs fin 2024. Plusieurs e9lus évoquent des poursuites et des mesures pour contraindre les plateformes et les services e0 mieux pr e9venir ces abus.
En France, des responsables politiques dénoncent Grok et évoquent des poursuites
« Scandalis e9e par les requ eates adress e9es e0 Grok de d e9nuder des filles et femmes. Si l e2€™image est artificielle, le pr e9judice est bien r e9el », a par exemple r e9agi la Haute-commissaire e0 l’enfance, Sarah El Ha efry, sur le r e9seau social d e9tenu par le milliardaire Elon Musk.
« L e2€™IA n e9st juste qu e9un outil de plus pour les agress**eurs**… donnant peut eatre e0 certains l a1illusion facile de ne pas en 9tre. Ne la leur laissez pas. Affichez ces porcs. Continuez e0 faire ce que vous voulez de vos corps », a aussi e9crit la d e9put e9e insoumise Sarah Legrain sur X, relayant notamment le t e9moignage d’une femme disant avoir e9t e9 vis e9e par une dizaine de mecs ayant demand e9 e0 Grok de la e9deshabiller e9.
« Grok transforme des photos pour en faire des e9deepfakes a0nudifi e9s et antisémites », a e9galement accus e9 le d e9put e9 socialiste, Arthur Delaporte, porte-parole du groupe socialiste, sur X. Le porte-parole du PS pr f4ne aussi un soutien aux personnes touch e9es et affirme que « le partage de ce type de contenus, d e9j e0 ill e9gal, est du cyberharc e8lement ». Dans un rapport qu’il co-signe avec l’ex-d e9put e9 Stéphane Vojetta, il indique que l a0interdiction de ces fonctions est e0 envisager.
La fonctionnalit e9 permettant ce harc e8lement a e9t e9 rendue disponible gratuitement en d e9cembre 2024, pour tous les utilisateurs du r e9seau social X. xAI, l a0entreprise derri e8re Grok, a quant e0 elle e9voqu e9, vendredi 2 d e9cembre, des failles de s e9curit e9 ayant conduit e0 la g e9n e9ration d e9images sexualis e9es de mineurs. Si les images incrimin e9es ont e9t e9 retir e9es, l a0ampleur du d e9sastre reste sous-estim e9e : les contenus p e9dopornographiques g e9n e9r e9s par IA ont connu une augmentation de 400 % rien qu
0au cours du premier semestre 2025, indiquait l a0ONG Internet Watch Foundation.
En France, la diffusion d’images e0 caract e8re sexuel sans le consentement via un service de communication en ligne peut eatre sanctionn e9e par trois ans de prison et 75 000 euros d’amende, rappelle Service-public.fr.
c9l e9ments juridiques et cadre l e9gal
En d e9cembre 2024, la fonctionnalit e9s est devenue accessible gratuitement pour les utilisateurs de Grok, une information qui souligne l a0l eban, selon les acteurs politiques, d e9j e0 et, par ailleurs, les d e9bats autour du cadre l e9gal. Le d e9fenseur des droits et des juristes insistent sur le cadre p e9nal existant. Le Code p e9nal est en effet tr e8s clair puisqu a0 40« un montage e0 caract e8re sexuel avec les paroles ou l e9image d a0une personne sans son consentement e9st puni de deux ans de prison et 60 000 euros d’amende ». Par ailleurs, a0 40« un contenu visuel ou sonore e0 caract e8re sexuel g e9n e9r e9 par un traitement algorithmique et reproduisant l a0image ou les paroles d a0une personne, sans son consentement e9st assimil e9 e0 l a0infraction cit e9e plus t e2t ». a0
Le Code p e9nal pr e9cise par ailleurs que les peines peuvent eatre port e9es e0 trois ans de prison et 75 000 euros d’amende lorsque la publication du montage ou du contenu g e9n e9r e9 par un traitement algorithmique a e9t e9 réalisée en utilisant un service de communication au public en ligne.
Sur X, plusieurs personnalit e9s d e9sirent des mesures et un cadre l e9gal renforc e9. « Le partage de ce type de contenus, d e9j e0 ill e9gal, est du cyberharc e8lement. Dans notre rapport nous pr e9conisons d’interdire ces fonctions », explique le porte-parole du PS, en citant un travail co- 07n e9 avec l’ex-d e9put e9 Stéphane Vojetta, qui sera remis e0 Matignon dans la premi e8re dizaine de janvier. Des juristes et universitaires insistent aussi sur l a0importance de la r e9action p e9nale et des mesures techniques pour limiter l a0acc e8s e0 Grok et e0 ses fonctions.
R e9actions et mesures e0 venir
Sur X, des cons e9quences et des mesures sont discut e9es. Le d e9pute du PS pr e9cise que le rapport qu a0il co-signe avec l’ex-d e9put e9 Stéphane Vojetta sera « remis 0 Matignon dans la premi e8re dizaine de janvier ». Il ajoute que le texte propose d e9sormais d e9fendre un cadre plus strict pour les fonctions d e9crites. Par ailleurs, plusieurs conseils pour les victimes sont publi e9s, notamment des conseils pour ajuster les param e8tres de confidentialit e9 et de s e9curit e9 sur X. Pour ce faire, il est conseill e9 de se rendre dans « R e9glages », puis « Confidentialit e9 et sécurité » et enfin « Grok et collaborateurs tiers ». Au sein de ce dernier onglet, il est recommand e9 de d e9cocher toutes les options, si ce n’est pas d e9ja le cas.