Aux États-Unis, l’Intelligence Artificielle au service de la police
Le programme d’IA Draft One, développé par la société Axon, vise à simplifier le travail des policiers en permettant une rédaction plus rapide des rapports. Toutefois, cette innovation soulève des questions sur l’afficacité de la technologie, connue pour ses hallucinations potentielles, et son impact sur les pratiques policières.
Une utilisation croissante des chatbots dans les forces de l’ordre
Malgré les risques associés, plusieurs services de police aux États-Unis expérimentent l’utilisation de chatbots d’intelligence artificielle pour générer des rapports sur des crimes. La police d’Oklahoma City a notamment adopté cette technologie pour créer des « premières ébauches » de rapports basées sur l’audio capturée par les caméras corporelles. Le sergent Matt Gilmore a décrit comment il a utilisé Draft One pour rédiger un rapport suite à une recherche infructueuse d’un suspect, en moins de huit secondes.
Technologie derrière Draft One
Draft One repose sur le modèle GPT-4 d’OpenAI, qui alimente également ChatGPT. Ce système a été lancé par Axon en avril dernier et se présente comme un « multiplicateur de force immédiat » pour les services de police, permettant ainsi un gain de temps significatif.
Bien que ChatGPT soit sujet à des hallucinations, les responsables d’Axon affirment avoir pris des mesures pour atténuer ce risque. Noah Spitzer-Williams, chef de produit senior, précise que Draft One a été conçu pour réduire le « cadran de créativité » afin d’éviter les embellissements hiérarchiques.
Des résultats variables selon les départements
À Oklahoma City, Draft One est utilisé uniquement pour des incidents mineurs, tandis que d’autres services, comme ceux de Fort Collins (Colorado) et de Lafayette (Indiana), l’ont intégré comme outil principal pour tous les rapports. Un responsable de la police a exprimé que l’application de cette technologie a été « incroyablement populaire ». Cependant, des experts comme Andrew Ferguson expriment des inquiétudes quant à l’automatisation qui pourrait inciter les policiers à être moins attentifs dans leurs écrits.
Les enjeux liés à l’automatisation dans la police
Cette hésitation face à l’adoption de l’IA dans les services de police illustre les défis plus larges associés à l’automatisation. De nombreuses études ont démontré que les outils d’IA peuvent exacerber des problèmes de discrimination systémique. Par exemple, des recherches indiquent que les technologies utilisées dans le recrutement peuvent conduire à des biais dans les processus de sélection.
Axon affirme que chaque rapport généré par Draft One doit être examiné par un agent humain pour garantir son exactitude avant sa soumission, mais cela ne supprime pas les risques liés aux erreurs humaines et aux préjugés déjà présents dans le système policier.
Préjugés linguistiques et IA
Les chercheurs ont également mis en lumière que les grands modèles de langage, tels que GPT-4, peuvent refléter des biais raciaux subtils, particulièrement envers les langues marginalisées. Selon Edward Ongweso Jr. et Jathan Sadowski, ces biais peuvent poser des dangers réels pour les communautés déjà vulnérables.
Axon a mené plusieurs études pour évaluer et tester les biais raciaux dans les rapports générés par Draft One, constatant aucune différence significative dans les formulations produites par rapport aux transcriptions originales.
Prudence dans l’utilisation des séquences vidéo
Bien que Draft One se concentre uniquement sur l’audio, Axon a également exploré l’utilisation de la vision par ordinateur pour analyser des vidéos. Cependant, Rick Smith, le PDG d’Axon, souligne la nécessité d’une approche prudente, prenant en compte les sensibilités autour du maintien de l’ordre et des questions de race.
Visant à réduire de 50 % les décès causés par les interactions entre policiers et civils, Axon veut améliorer les pratiques policières grâce à des preuves objectives. Cependant, malgré l’introduction massive de caméras corporelles, les statistiques montrent une augmentation des décès liés aux fusillades policières depuis 2020, ce qui soulève des interrogations sur l’efficacité des nouvelles technologies.
Il reste à voir si d’autres départements adopteront des outils comme Draft One et quel sera leur impact sur la sécurité publique.