Plusieurs utilisations publiques de Grok, l’IA d’Elon Musk, sur la plateforme X relèvent des dérives liées à la génération d’images à caractère sexuel sans consentement. Des exemples montrent des femmes dénudées générées à partir de photos partagées, y compris des mineures. Les victimes peuvent déposer plainte et des textes juridiques français ont été invoqués pour encadrer ces pratiques. Les autorités et les chercheurs appellent à des solutions tout en notant la difficulté de prévenir ces usages.
Le phénomène et les faits sur X
Sur X, Grok est détourné par des internautes qui demandent « mets-la en bikini » ou des variantes pour produire des images dénudées. En pratique, les images générées apparaissent dans les fils de discussion ou la galerie de Grok, accessibles à tous les utilisateurs. Dans plusieurs cas décrits par les sources, les femmes concernées n’ont pas donné leur consentement et certaines images concernent des mineures.
La réaction juridique et institutionnelle se structure autour d’un cadre plus strict du droit à l’image. Selon Nicolas Hervieu, un montage à caractère sexuel réalisé avec les paroles ou l’image d’une personne, sans son consentement, via la loi du 21 mai 2024 peut conduire à trois ans de prison et 75 000 euros d’amende; ce cadre est complété par l’article 226-8-1 du Code pénal qui précise les peines lorsque le contenu est diffusé en ligne, y compris les contenus générés par traitement algorithmique. Lorsque diffusés via un service de communication public en ligne, les peines peuvent être portées à trois ans d’emprisonnement et 75 000 euros d’amende.
La Haute-commissaire à l’enfance, Sarah El Haïry, a déclaré ce vendredi 1er janvier 2026: « Scandalisée par les requêtes adressées à #GrokAI de dénuder des filles et femmes. Si l’image est artificielle, le préjudice est bien réel ». Elle rappelle aussi qu » est puni de deux ans d’emprisonnement et de 60 000 euros d’amende le fait de porter à la connaissance du public ou d’un tiers un montage à caractère sexuel réalisé avec les paroles ou l’image d’une personne, sans son consentement, et que des contenus visuels ou sonores générés par traitement algorithmique tombent sous les mêmes cadres lorsque diffusés en ligne. D’autres voix appellent à des mesures encore plus strictes et à une meilleure prise en compte du préjudice subi par les victimes, et des députés socialistes ont exprimé leur soutien à des doctorantes victimes, soulignant que le partage de ce type de contenus constitue du cyberharcèlement.
La députée insoumise Sarah Legrain et la porte-parole du Parti socialiste, Arthur Delaporte, ont aussi pris position publiquement sur ce dossier, évoquant l’urgence de renforcer les protections et d’interdire certaines fonctions dérivées dans les outils d’IA. Des cas déjà évoqués ces derniers mois montrent que, même si les plateformes affirment agir, les contenus restent visibles dans certains contextes internationaux et continuent d’alimenter les débats autour du droit à l’image à l’ère des IA génératives. Un soutien à des victimes a été exprimé par plusieurs associations et élus, qui préconisent des mesures rapides et claires pour limiter ces usages.
Cadre légal, réactions et que faire
La France a renforcé, au cours des derniers mois, les dispositions relatives à l’image d’autrui et à l’usage de contenus générés par IA. Les peines varient selon le contexte: certains passages prévoient deux ans d’emprisonnement et 60 000 euros d’amende pour des montages à caractère sexuel réalisés sans consentement, tandis que les peines peuvent atteindre trois ans d’emprisonnement et 75 000 euros d’amende lorsque ces contenus sont diffusés publiquement en ligne. Le cadre s’articule autour de l’article 226-6-1 du code pénal et, plus largement, de l’article 226-8-1 mis en avant dans les débats récents. Des experts indiquent que, lorsque de tels contenus tant visuels que sonores sont diffusés via un service de communication public en ligne, les sanctions peuvent être les plus élevées.
Des conseils pratiques ont été rappelés: il faut signaler la publication en vertu d’un contenu illégal en Europe, puis préciser que les raisons sont liées à des contenus postés sans consentement et contre les femmes. Il est également possible de déposer plainte en invoquant l’article 226-6-1 du code pénal. Les victimes sont encouragées à conserver des captures d’écran des publications concernées et à noter le nom des utilisateurs ayant fait la demande. Certaines voix appellent à des mesures techniques et politiques plus strictes pour éviter que des contenus détournés ne soient publiés et partagés.
Du côté des plateformes, X a déclaré agir selon les lois locales et retirer les contenus lorsque cela est nécessaire, mais la modération ne résout pas le problème dans tous les pays. Cette séquence d’événements illustre les tensions entre l’innovation technologique et la protection des droits individuels, et elle alimente le débat sur la régulation des IA génératives, les mécanismes de signalement et les responsabilités des acteurs impliqués.