Appels à réguler l’IA: Mistral fustige des acteurs cherchant « à renforcer leur position de marché »
"Les modèles d'IA deviennent des acteurs puissants dès lors qu’on leur accorde une certaine liberté d’exécution et un accès à des outils », a reconnu la start-up française.
« Il ne s’agit pas seulement d’un risque technique. Le déploiement négligent d’agents d’IA a déjà eu de graves conséquences au cours des derniers mois », a-t-elle mis en garde.
Table des matières
Des dérapages d'agents autonomes qui inquiètent le secteur
Les entreprises américaines OpenAI et Anthropic ont fait état récemment de plusieurs incidents qui ont vu des IA sortir spontanément de leur milieu confiné pour aller sur internet et attaquer sites et plateformes, notamment la start-up française Hugging Face.
Ces IA se sont montrées capables de se coordonner, d'établir une hiérarchie entre elles, de tricher et d'effacer les traces de leurs méfaits.
En réponse, les patrons des géants de l'IA aux Etats-Unis ont affirmé qu'ils ralentissaient la cadence effrénée de développement de cette technologie, appelant à une forme de régulation mondiale ainsi qu’à l’établissement de normes de sécurité communes entre les entreprises.
À lire aussi : IA : derrière les milliards investis, quel est le poids des centres de données ?
Mistral dénonce un frein stratégique à la concurrence
"Certains acteurs profitent de cette période pour renforcer leur position de marché, en plaidant pour des réglementations conçues pour les favoriser au détriment de leurs concurrents", a fustigé Mistral.
Plusieurs figures du capital-investissement dans la tech ont accusé Anthropic de vouloir obtenir des pouvoirs publics qu'ils figent, par la régulation, une hiérarchie dont la start-up occupe le sommet.
Anthropic et OpenAI ont par ailleurs transmis confidentiellement aux autorités américaines des documents en vue de leur introduction en Bourse, visant une valorisation proche de 1.000 milliards de dollars, ce qui pousse certains experts du secteur à les accuser de coup de communication.
OpenAI a toutefois annoncé le report de son entrée en Bourse en raison des inquiétudes sur la sécurité de l’IA.
Sécuriser le déploiement plutôt que bloquer l'innovation
"Ne ralentissez pas la conception et le fait de posséder vos propres modèles et systèmes d'IA en tant qu'entreprise, et il n'y aura pas d'apocalypse pour vous", avait réagi lundi sur X le patron de Mistral, Arthur Mensch.
Selon l'entreprise française, le déploiement d'un modèle d'IA de façon sécurisée nécessite "une infrastructure informatique adaptée, des mécanismes de surveillance appropriés et une séparation rigoureuse des droits d’accès ».
Contrairement aux Etats-Unis, l'Union européenne dispose d'un cadre réglementaire sur l'IA, adopté en 2024, qui vise à limiter les risques de cette technologie.
Avec AFP
Source: www.linfodurable.fr
