X, le réseau social d’Elon Musk, affirme avoir déployé des mesures pour empêcher Grok, son outil d’intelligence artificielle, de déshabiller des personnes réelles. Dans un message publié aux États‑Unis, X précise que ces restrictions s’appliquent à tous les utilisateurs, y compris les abonnés payants, avec un blocage géographique lorsque cela est illégal. Les autorités et les législateurs européens et américains surveillent de près la situation et des enquêtes sont ouvertes ou envisagées dans plusieurs juridictions, notamment en France, en Inde et aux États‑Unis. La génération d’images reste limitée aux abonnés payants et l’affaire suscite débats et réactions internationales.
Grok et X : mesures techniques et cadre légal
Selon X, « Nous avons mis en place des mesures technologiques pour empêcher le compte Grok de permettre l’édition d’images de personnes réelles dans des tenues révélatrices, comme des bikinis », indique X dans un message publié en fin de journée aux États‑Unis.
Le message précise appliquer un « blocage géographique » pour la génération d’images dénudées de personnes réelles seulement « au sein des juridictions où cela est illégal ».
Comme depuis le 9 janvier, la génération d’images avec Grok, l’assistant IA développé par xAI, reste limitée aux abonnés payants, confirme X.
Selon une analyse de l’ONG AI Forensics réalisée sur plus de 20 000 images générées par Grok, plus de la moitié représentaient des personnes légèrement vêtues, dont 81 % étaient des femmes et 2 % paraissaient mineures.
Réactions et enquêtes internationales
« Nous prenons acte des mesures supplémentaires adoptées » et « nous évaluerons attentement ces changements afin de nous assurer qu’ils protègent efficacement les citoyens de l’Union européenne », avait déclaré Thomas Regnier, porte-parole de la Commission européenne. Selon lui, « si ces changements n’étaient pas effectifs, la Commission n’hésiterait pas à utiliser tout » son arsenal législatif, qui lui permet d’infliger des astreintes financières, voire de suspendre le réseau social sur son sol.
— Commission européenne
« J’ai été informé ce matin que X agit pour assurer une totale conformité avec la législation britannique », avait déclaré avant lui le Premier ministre Keir Starmer devant son Parlement. « Si c’est le cas, c’est une bonne chose, mais nous ne reculerons pas et ils doivent agir », avait‑il mis en garde, rappelant l’existence d’une enquête indépendante ouverte lundi par une autorité de régulation britannique.
— Premier ministre britannique
Des actions publiques ont aussi été annoncées ailleurs: les Philippines envisagent de suspendre l’accès à Grok d’ici jeudi soir; la Malaisie a indiqué que ses autorités avaient constaté que les mesures prises n’avaient pas été mises en œuvre dans leur totalité; des procédures existent en France et en Inde, et 28 ONG ont appelé à retirer Grok et X des boutiques d’applications.
Impact et suites en France et ailleurs
Au-delà des réponses officielles, X souligne que Grok demeure limité aux abonnés payants et réitère son engagement à respecter les lois locales. Le procureur général de Californie a annoncé lancer sa propre enquête afin de déterminer si, et comment, xAI a violé la loi, et Rob Bonta a insisté sur une tolérance zéro pour la création et la diffusion par l’IA d’images intimes non consenties ou de matériel pédopornographique.
Le scandale a conduit à des suspensions dans certains pays et à l’ouverture de procédures dans d’autres. L’Indonésie et la Malaisie ont suspendu Grok; l’Inde a fait retirer des milliers de contenus sur X; en France, des procédures ont été évoquées et des ONG appellent à une régulation plus stricte. Elon Musk a rappelé que « Le principe de fonctionnement de Grok est de respecter les lois de chaque pays et chaque État » et a promis corriger les bugs lorsque nécessaire.