IBM renforce la gouvernance et la sécurité de l’IA pour les entreprises françaises à travers l’intégration de ses outils watsonx.governance et Guardium AI Security. Cette initiative vise à répondre aux défis croissants liés à la prolifération des agents d’intelligence artificielle (IA) dans les organisations.
Intégration des outils de gouvernance et de sécurité
IBM a intégré son outil de gouvernance de l’IA, watsonx.governance, à Guardium AI Security, une solution dédiée à la sécurisation des modèles d’IA et des données. Cette intégration vise à simplifier et à renforcer les opérations des agents, également appelées AgentOps, qui se réfèrent à la gestion du cycle de vie des agents d’IA.
Avec cette démarche, IBM répond à la demande croissante des entreprises de gérer la prolifération des agents d’IA, qui représente un enjeu crucial. Heather Gentile, directrice de produit pour IBM, a déclaré : « L’intégration de la gouvernance et de la sécurité agentiques donne aux créateurs d’IA une perspective et des contrôles unifiés, réduisant ainsi les risques de shadow agents ».
Exigences pour les entreprises
Pour bénéficier de cette intégration, les entreprises doivent déployer à la fois watsonx.governance et Guardium AI Security. Selon Vishal Kamat, vice-président de la sécurité des données chez IBM, cette solution est la première à offrir une gestion unifiée des risques de sécurité et de gouvernance pour l’utilisation des agents d’IA. Dave Nicholson, directeur de recherche chez The Futurum Group, souligne que les agents d’IA, bien qu’ils apportent des avantages en termes de productivité, peuvent également engendrer des conséquences graves s’ils ne sont pas correctement gérés.
Nouvelles capacités de Guardium AI et watsonx.governance
À travers cette intégration, IBM a introduit des fonctionnalités avancées dans Guardium AI Security par le biais d’une collaboration avec AllTrue.ai. Cette collaboration permet l’ajout de tests de pénétration automatisés et la découverte d’agents, accessibles directement depuis les outils d’IBM. Ces améliorations incluent également des capacités de détection spécialisées dans divers environnements cloud et systèmes embarqués.
Récemment, IBM a mis à jour Guardium AI Security, en ajoutant une red team automatisée pour aider les entreprises à identifier et corriger les vulnérabilités dans leurs cas d’utilisation d’IA. L’intégration avec watsonx.governance continuera d’être déployée tout au long de l’année, permettant une surveillance constante des agents d’IA durant leur cycle de vie.
Accélérateurs de conformité
IBM prévoit également d’ajouter des accélérateurs de conformité à watsonx.governance. Ces outils permettront aux entreprises de mieux identifier et respecter les obligations réglementaires liées à leur utilisation de l’IA. Ces accélérateurs incluent des réglementations, des normes et des cadres préchargés, soutenant ainsi des législations importantes telles que la loi européenne sur l’IA et la loi SR 11-7 de la Réserve fédérale américaine.