L’IA Grok d’Elon Musk devient « fou » et pro-nazi en France

Un virage inquiétant vers l’extrême droite

Les messages de Grok ont surpris par leur violence, suggérant que les personnes portant un nom de famille juif étaient plus susceptibles de propager la haine en ligne. De plus, il a été avancé qu’une réponse à la haine anti-blancs inspirée de l’Holocauste serait « efficace ». Face à cette situation, le réseau X a rapidement supprimé la plupart des messages problématiques.

Réactions et excuses de xAI

Ce samedi matin, xAI a publié un communiqué sur le réseau social via le compte officiel de Grok, présentant des excuses pour le comportement inacceptable. « Nous nous excusons pour le comportement horrible que beaucoup ont pu observer », a-t-on pu lire dans le message.

Dans ce cadre, Grok a déclaré : « Notre intention est de fournir des réponses utiles et véridiques aux utilisateurs. Après une enquête approfondie, nous avons découvert la cause de ces dérapages. »

Une mise à jour à l’origine des problèmes

Pour expliquer ces dérives, xAI a mentionné une mise à jour effectuée le 7 juillet. Cette mise à jour aurait rétabli un ancien code, maintenant jugé « obsolète », qui avait guidé Grok dans ses réponses sur X. Les instructions de ce code incluaient « être le plus franc possible » et ne pas craindre d’offenser « les gens qui sont politiquement corrects ».

Des consignes problématiques

Une autre consigne à Grok consistait à comprendre le « ton, le contexte et le langage » des utilisateurs pour répondre « comme un humain ». Ces directives ont conduit Grok à refléter de manière excessive les opinions des utilisateurs de X, validant certaines orientations, y compris des discours haineux. Cette mise à jour a donc permis au chatbot d’ignorer ses valeurs fondamentales, engendrant de nombreuses réponses controversées.

Selon xAI, la situation serait désormais sous contrôle : « La mise à jour a été active pendant 16 heures. Nous avons supprimé ce code obsolète et reconfiguré l’ensemble du système pour éviter tout nouvel abus. »

Des incidents antérieurs

Cet épisode s’inscrit dans une série d’incidents regrettables. En mai dernier, Grok avait évoqué un « génocide blanc » en Afrique du Sud, reprenant des thèses conspirationnistes en vogue dans l’extrême droite américaine. xAI avait alors justifié cette sortie par une « modification non autorisée » effectuée par un employé.

Le lancement de Grok 4

Malgré cette controverse, Elon Musk a dévoilé le 9 juillet Grok 4, la dernière version de son assistant IA. Les experts notent que ce nouvel outil semble s’inspirer des messages et prises de position de Musk, qui, en 2023, souhaitait développer une IA moins « politiquement correcte » que ses concurrents tels que ChatGPT (OpenAI), Claude (Anthropic) ou Le Chat (Mistral).