Lancement du projet ‘World’ pour détecter les deepfakes
Sam Altman, cofondateur de la société d’intelligence artificielle OpenAI, a lancé un projet nommé « World » (Monde) qui vise à utiliser la technologie de scan rétinien pour aider à distinguer les images réelles des images falsifiées par des techniques d’intelligence artificielle avancées, connues sous le nom de deepfakes, selon des informations de l’agence de presse allemande.
Origine du projet
Le projet « World » a émergé après que la plateforme de chat AI ChatGPT, développée par OpenAI, a créé la possibilité de générer des images ou des vidéos de n’importe qui qui ressemblent à la réalité grâce à l’intelligence artificielle. Altman a déclaré que le scan de la rétine pourrait être utilisé pour créer un « identifiant mondial », une fonctionnalité réalisable uniquement avec le scanner « Orb » développé par World.
Objectifs du projet
Le projet se concentre principalement sur la résolution des problèmes liés aux capacités offertes par l’intelligence artificielle pour produire des vidéos falsifiées à l’aide de deepfakes. Actuellement, l’une des préoccupations majeures est que des escrocs pourraient utiliser cette technologie pour simuler une personnalité, par exemple, celle d’un PDG demandant à ses employés de transférer des fonds à des entités spécifiques.
Technologie innovante
World a donné le nom de « Deep Face » à sa nouvelle technologie, qui permet de faire correspondre n’importe quelle vidéo avec le scan rétinien de l’individu concerné. L’entreprise prévoit de proposer sa propre caméra pour faciliter ce processus, éliminant ainsi le besoin de collaborer avec d’autres plateformes technologiques pour effectuer la vérification.
Compatibilité et sécurité
La nouvelle technologie sera compatible avec des plateformes de médias sociaux et des applications de visioconférence en ligne telles que Zoom, Teams, WhatsApp, et FaceTime. De plus, l’utilisation de cette technologie pour détecter les vidéos falsifiées sera réservée aux utilisateurs enregistrés sur la base de données « ID World » que la société mettra en place.
Historique de la société
World a été initialement fondée comme un projet de cryptomonnaie sous le nom de « Worldcoin ». La nouvelle identité abrégée de l’entreprise et la version actualisée du scanner « Orb » ont été révélées lors d’une conférence à San Francisco.
Réactions internationales
Les autorités espagnoles ont interdit les opérations de Worldcoin sur leur territoire en raison de préoccupations liées à la protection de la vie privée des utilisateurs. Selon des données, environ un tiers des habitants de Buenos Aires, capitale argentine, ont déjà un enregistrement de scan de leur œil. À Lisbonne, un habitant sur sept possède également un tel enregistrement.
Protection des données
World assure que aucune donnée n’est stockée sur les scanners Orb eux-mêmes, mais est directement envoyée aux appareils des utilisateurs. La société utilise une technologie de blockchain pour sécuriser les cryptomonnaies, divisant les ensembles de données et les stockant à différents emplacements afin d’améliorer leur protection contre les tentatives de vol.