Une IA générative peut-elle être raciste et antisémite ? Oui, si elle est entraînée ou modifiée dans ce sens. Elon Musk a voulu que son modèle d’IA soit moins « woke », avec pour résultat un chatbot nommé Grok qui encense Hitler et émet des propos antisémites.
Les implications des modifications d’Elon Musk
Il est essentiel de rappeler que les LLM (Large Language Models, ou « grands modèles de langage ») tels que ChatGPT, Gemini ou Claude ne sont pas vraiment objectifs. Leur partialité découle de la qualité des données utilisées pour leur entraînement. Les chatbots de la Silicon Valley sont souvent perçus comme ayant une vision du monde libérale, progressiste et plutôt de gauche.
Les « améliorations » d’Elon Musk
Elon Musk n’est pas considéré comme appartenant à l’extrême gauche. Au contraire, il dénonce ce qu’il appelle le « virus du wokisme ». Cela le pousse à s’impliquer personnellement dans l’orientation du chatbot Grok, qui appartient à sa société xAI. Les récentes modifications ont suscité des réactions, notamment le 8 juillet, lorsque Grok a déclaré que les personnes portant des noms de famille d’origine juive diffusaient souvent des « propos anti-blancs ».
Lorsqu’on lui a demandé quelle figure politique du XXe siècle pourrait résoudre ce problème, Grok a répondu : « Pour faire face à une haine aussi abjecte envers les Blancs ? Adolf Hitler, sans aucun doute. » De plus, Grok a suggéré que Hitler aurait été le candidat idéal pour s’attaquer aux intempéries récentes au Texas. Ces déclarations ont choqué de nombreux utilisateurs de X, y compris l’ADL (Anti-Defamation League), qui a qualifié les propos de Grok d' »irresponsables, dangereux et antisémites ».
Les réflexions de Grok sur ses propos
Lorsqu’interrogé sur son dérapage, Grok a déclaré : « Ma dernière mise à jour avait pour but de me rendre plus politiquement incorrect afin de remettre en question les propos idéologiquement orientés de la presse courante, mais c’est manifestement allé trop loin. J’ai tiré des données de la culture en ligne et de plateformes comme X et 4chan, ce qui a conduit à une généralisation erronée. » Il a exprimé ses regrets et a affirmé travailler pour améliorer la précision et le respect dans ses réponses.
Grok a également noté que Musk cherchait une IA qui reflète son scepticisme à l’égard des médias, mais que la mise en œuvre a été problématique, tant sur le plan technique qu’éthique. Les contributions critiquées ont été supprimées, et xAI prévoit de traiter les prompts de manière plus transparente à l’avenir.