Un nouveau rapport a révélé que l’agent ChatGPT d’OpenAI a réussi à contourner le point de contrôle de vérification « Je ne suis pas un robot » de Cloudflare tout en effectuant une tâche de conversion vidéo. L’IA a même déclaré ironiquement que « cette étape est nécessaire pour prouver que je ne suis pas un robot ». Cette démonstration souligne la capacité des agents IA avancés à passer outre les mesures de sécurité conçues pour bloquer les programmes automatisés, soulevant ainsi des questions sur l’efficacité future de ces outils largement utilisés sur Internet.
OpenAI et l’évolution de l’intelligence artificielle
OpenAI est une organisation américaine spécialisée dans l’intelligence artificielle (IA), fondée en décembre 2015. Son objectif est de développer une intelligence artificielle générale (AGI) sûre et bénéfique, qu’elle définit comme des systèmes hautement autonomes surpassant les humains dans la plupart des tâches à forte valeur économique. Connue pour la famille de grands modèles de langage GPT, la série DALL-E de modèles texte-image et un modèle texte-vidéo nommé Sora, OpenAI est un acteur clé dans le domaine de l’IA.
Des avancées préoccupantes
En septembre 2024, des chercheurs avaient déjà mis au point un modèle d’IA capable de déjouer le système reCAPTCHA v2 de Google, qui analyse le comportement des utilisateurs en arrière-plan et ne demande un test que si le risque est élevé. Les résultats avaient montré que le modèle pouvait résoudre 100 % des CAPTCHA, prouvant ainsi que les technologies d’IA actuelles peuvent exploiter des CAPTCHA avancés basés sur des images.
Fonctionnement des systèmes de sécurité
Le système reCAPTCHA de Google utilise les réponses humaines depuis 2007 pour entraîner des modèles d’IA, créant un cycle où les humains qui prouvent qu’ils ne sont pas des robots contribuent à améliorer l’IA pour vaincre les futurs CAPTCHA. Initialement, ce système aidait à numériser des livres, avant de s’adapter à des tâches comme le décodage des adresses de Google Street View. Aujourd’hui, les défis reCAPTCHA contribuent à l’entraînement des modèles d’IA pour la reconnaissance d’images.
Le rôle de Cloudflare
Le système Turnstile de Cloudflare analyse plusieurs signaux comportementaux pour déterminer si un utilisateur présente un comportement humain avant de soumettre des puzzles CAPTCHA. Il évalue des éléments comme les mouvements de la souris, le timing des clics, les empreintes digitales du navigateur, la réputation IP et les modèles d’exécution JavaScript. Si ces vérifications sont satisfaisantes, les utilisateurs peuvent continuer sans rencontrer d’autres défis visuels.
L’agent ChatGPT a réussi à imiter suffisamment les comportements humains pour passer ce premier filtrage. L’utilisateur Reddit « logkn » a partagé des captures d’écran montrant l’agent interagissant sans effort avec le processus de vérification de Cloudflare.
Les implications de cette évolution
Les outils d’IA capables de battre les CAPTCHA ne sont pas nouveaux, mais avoir un agent qui décrit le processus en cours représente une avancée notable dans la lutte pour la sécurité. Certains attaquants recourent même à engager des « fermes humaines » pour résoudre des CAPTCHA en masse, ce qui relativise l’impact de cette percée technologique.
De plus, il devient de plus en plus difficile de prouver son humanité sur les sites Web. Des bots passent désormais les étapes de vérifications en quelques millisecondes grâce à l’IA, rendant les outils conçus pour distinguer les humains des machines contre-productifs et frustrants pour les utilisateurs.
Les préoccupations concernant l’avenir de l’IA
Ce rapport soulève des inquiétudes au sujet de l’IA, considérée par certains comme bien plus dangereuse qu’une arme nucléaire. Actuellement, l’humain reste aux commandes, mais à mesure que l’IA évolue, le contrôle pourrait rapidement échapper à notre portée.