La récente définition de l’« open source IA » publiée par l’Open Source Initiative (OSI) suscite des préoccupations au sein de la communauté technologique. Cette nouvelle définition permet l’utilisation de données de formation secrètes et des mécanismes de développement en coulisses, ce qui soulève des questions sur le véritable sens de l’open source dans le domaine de l’intelligence artificielle.
Une définition controversée
Selon les critiques, la définition actuelle ne tient pas compte du fait que pour un réseau neuronal, les données de formation représentent en réalité le code source. Ainsi, autoriser des données de formation secrètes contredit le principe même de l’open source. De nombreux modèles d’IA qualifiés d’« open source », comme LLAMA, ne le sont souvent qu’en apparence.
Cooptation par l’industrie
La perception est que l’OSI a été infiltrée par des acteurs industriels qui souhaitent à la fois préserver le secret commercial et bénéficier de l’étiquette « open source ». Cette situation appelle à une réflexion approfondie sur la nécessité d’un cadre réel pour l’open source dans l’IA.
La nécessité d’une option publique
Il est crucial de promouvoir une option d’IA publique qui repose sur l’open source authentique. Cela est d’autant plus pertinent dans des domaines où le partage des données est légalement restreint, comme dans le secteur médical. Les lois en vigueur empêchent souvent la redistribution des données pour protéger les droits d’auteur et les informations privées.
Les modèles partiellement ouverts
Il existe également des modèles partiellement ouverts qui nécessitent une certaine définition. Les méthodes de formation des modèles d’apprentissage machine qui préservent la confidentialité et qui sont fédérées représentent un domaine de recherche important. L’OSI fait valoir que l’exclusion de certaines données de formation est justifiée dans des contextes où les données ne peuvent pas être partagées légalement.
Renommer l’open source?
Un débat émerge autour de la possibilité de renommer ces pratiques en « open weights » plutôt qu’en open source. Cette terminologie pourrait mieux refléter la réalité des pratiques actuelles tout en préservant une distinction claire avec le concept traditionnel d’open source.