La start-up française Mistral AI se retrouve à la dernière place du classement semestriel du Future of Life Institute concernant la gestion des risques liés à l’intelligence artificielle. Un résultat que l’entreprise conteste fermement, estimant la méthodologie de ce centre de réflexion inadaptée. Ce classement, qui évalue notamment l’évaluation des risques et les mesures de sécurité, a intégré Mistral AI pour la première fois. La société française se positionne derrière plusieurs entreprises chinoises comme DeepSeek, Alibaba Cloud et Z.ai, ainsi que xAI.
À l’opposé du classement, Anthropic conserve sa première place, suivi de près par OpenAI, Google DeepMind et Meta. Le Future of Life Institute (FLI) base son évaluation sur des données publiques et les informations fournies par les entreprises, avec un panel de sept experts en gouvernance et recherche. Les risques considérés incluent le détournement potentiel d’un modèle IA pour des cyberattaques ou des actions nuisibles aux humains.
Mistral AI critique la méthodologie, la jugeant conçue principalement pour les modèles dits fermés. L’entreprise souligne que ses nombreux modèles « open-weight », téléchargeables et modifiables par les utilisateurs, sont désavantagés par cette approche. Selon Mistral, cette distinction implique que « les entreprises décident comment ils sont calibrés et déployés, et peuvent bâtir les contrôles de sécurité spécifiques que nécessite leur contexte ». Max Tegmark, président du FLI, a exprimé sa déception, s’attendant à davantage d’efforts de la part de Mistral AI, compte tenu du rôle de l’Europe dans la régulation de l’IA.
Malgré les contacts répétés du FLI, Mistral AI a choisi de ne pas répondre au questionnaire d’évaluation, contrairement à la majorité des autres entreprises. L’entreprise française affirme néanmoins se conformer au règlement européen sur l’IA, adopté en mars 2024. Cette controverse met en lumière les défis de l’évaluation des risques dans un écosystème IA diversifié, où les approches « open-weight » et fermées coexistent et nécessitent potentiellement des cadres d’analyse différents.
