Mistral, le champion français de l’IA, se retrouve en dernière position d'un classement semestriel publié par le Future of Life Institute, sur la gestion des risques relatifs à l’intelligence artificielle, devancé par des sociétés chinoises telles que DeepSeek et Alibaba Cloud. Le groupe français estime néanmoins que la méthodologie de cette évaluation est inadaptée.
Ce classement repose sur une analyse de sept experts en gouvernance, utilisant des informations publiques et celles fournies par les entreprises évaluées. Il couvre six catégories, incluant l'évaluation des risques et les mesures de sécurité.
Les risques identifiés incluent, par exemple, le détournement à des fins malveillantes de modèles d’IA, une préoccupation grandissante dans le secteur. Pour sa première participation, Mistral a obtenu la neuvième place, derrière des entreprises telles que xAI et Z.ai. À l’opposé, des sociétés comme Anthropic, OpenAI, Google DeepMind et Meta figurent en tête du classement.
Interrogé par l'AFP, Mistral a fait valoir que cette classification est surtout adaptée à des modèles « fermés » qui ne partagent pas leur code de programmation, alors que les modèles « open-weight », tels que ceux qu’il propose, évoluent différemment et permettent plus de souplesse aux utilisateurs dans leur mise en œuvre.
Mistral met en avant que les modèles « open-weight » se prêtent à la personnalisation par les entreprises, leur permettant de garantir des contrôles de sécurité adaptés à leur contexte spécifique — une capacité qu’il estime être désavantagée par le classement actuel.
DeepSeek et Alibaba, qui publient également de nombreux modèles ouverts, partagent cette critique quant à la méthodologie. Max Tegmark, président du Future of Life Institute, a reconnu que l'Europe se distingue traditionnellement dans le domaine de la sécurité de l'IA, notant cependant qu'il espérait que Mistral aurait fait plus dans ce domaine.
Mistral a assuré sa conformité au règlement européen sur l’IA, bien que le président du FLI ait mentionné que l’équipe avait tenté plusieurs fois de joindre la start-up française sans obtenir de réponse sur leurs questionnaires, contrairement à d'autres entreprises qui ont participé.
Les préoccupations sur la sécurité et les risques posés par l’IA ont été accentuées par la saga récente autour du modèle Mythos d’Anthropic. En avril, la start-up californienne a restreint l'accès à Mythos pour corriger des milliers de failles identifiées. En juin, le gouvernement américain a interdit l'utilisation du modèle par des ressortissants étrangers pour des raisons de sécurité nationale, rendant la situation encore plus délicate avant d'assouplir cette interdiction plus tard.
Selon Max Tegmark, ces événements alertent les gouvernements du monde entier sur la puissance croissante de l'IA, capable désormais de générer des cyberattaques. "Ce qu'il semblait lointain, aujourd'hui, est devenu une réalité", conclut-il.
