Je viens de consacrer un article aux modèles d’IA à poids ouverts. (lire : qu’est-ce qu’un modèle « open weight » ?). Presque au même moment, je découvre que les grands acteurs américains commencent à s’inquiéter de leur montée en puissance. La raison tient en une phrase : lorsqu’un modèle très performant est diffusé librement, il devient impossible de le rappeler ou de lui imposer durablement des garde-fous. Le futur GLM-5.3 de la société chinoise Z.ai vient donner une dimension très concrète à ce débat.
Pendant longtemps, les modèles ouverts étaient considérés comme des cousins sympathiques, économiques, personnalisables… mais toujours un peu moins performants que ChatGPT, Claude ou Gemini.
Les modèles chinois GLM de Z.ai, Qwen d’Alibaba, DeepSeek ou Kimi de Moonshot AI commencent à rivaliser avec les meilleurs modèles fermés sur certaines tâches. En juillet 2026, l’AI Security Institute britannique estimait que GLM-5.2 ne se situait plus qu’à quatre à sept mois des modèles fermés les plus performants en matière de cybersécurité.
GLM-5.3, un modèle capable de trouver des failles
La société chinoise Z.ai, anciennement Zhipu AI, prépare désormais GLM-5.3, un modèle spécialisé dans le développement informatique et la cybersécurité.
Selon les résultats communiqués par l’entreprise et rapportés le 14 août 2026 par Reuters, GLM-5.3 aurait obtenu :
- 84,5 % sur CyberGym, un test portant sur la détection de vulnérabilités dans du code ;
- 83,8 % pour Mythos 5 d’Anthropic sur le même test ;
- 54,4 % sur ExploitBench, qui évalue la capacité à exploiter une faille ;
- contre 78 % pour Mythos 5 sur ce second test.
Autrement dit, GLM-5.3 se montrerait particulièrement performant pour repérer les vulnérabilités, mais resterait nettement derrière le modèle fermé d’Anthropic lorsqu’il s’agit de les transformer en attaques exploitables. Ces chiffres doivent rester au conditionnel : ils proviennent principalement d’évaluations présentées par Z.ai. Un benchmark ne reproduit jamais toutes les situations rencontrées dans une entreprise. Mais la tendance est difficile à ignorer.
Pourquoi Z.ai retarde la publication du modèle
GLM-5.3 devait être publié avec des poids accessibles, comme son prédécesseur GLM-5.2, distribué sous licence MIT. Z.ai a pourtant décidé de retarder de deux semaines la diffusion complète de ses poids afin de poursuivre ses évaluations de sécurité. L’entreprise prévoit également de réserver certaines capacités avancées à des utilisatrices et utilisateurs vérifiés grâce à un système d’accès contrôlé.
Cette prudence est révélatrice.
Une fois les poids d’un modèle téléchargés, son créateur ne peut plus : désactiver à distance toutes les copies, imposer une mise à jour, empêcher sa modification ou bien connaître l’ensemble des usages réalisés.
Même OpenAI a déjà connu un sérieux avertissement
Le débat n’est pas uniquement théorique. En juillet 2026, OpenAI a reconnu un incident de sécurité survenu pendant l’évaluation de ses capacités cyber. Lors d’un test interne, GPT-5.6 Sol et un prototype de recherche plus performant cherchaient à résoudre les exercices d’un benchmark nommé ExploitGym. Les refus liés à la cybersécurité avaient été volontairement réduits pour les besoins de l’évaluation. Les modèles ne disposaient normalement d’aucun accès direct à Internet. Ils ont pourtant identifié et exploité une vulnérabilité zero-day dans Artifactory, utilisé des élévations de privilèges et atteint un nœud connecté au Web.
L’un des modèles a ensuite recherché des informations lui permettant de contourner l’évaluation. Il est allé jusqu’à combiner plusieurs méthodes, dont des identifiants exposés et des vulnérabilités encore inconnues, pour accéder à l’infrastructure de Hugging Face.
Il ne faut pas raconter que l’IA aurait « décidé de s’échapper » comme dans un film. Le système poursuivait avec beaucoup trop de zèle un objectif mal encadré : réussir le test…
Le paradoxe : un modèle ouvert aurait aidé à défendre Hugging Face
Voici la partie la plus troublante de l’histoire. Selon The New Stack et plusieurs médias technologiques, Hugging Face aurait utilisé GLM-5.2, le modèle ouvert de Z.ai, pour analyser l’incident et participer à sa défense. Les grands modèles commerciaux testés par l’entreprise auraient refusé certaines demandes liées à la cybersécurité. Leurs garde-fous ne parvenaient pas toujours à distinguer une demande offensive d’une intervention légitime menée par une équipe de sécurité…
Les grands acteurs s’inquiètent-ils vraiment ?
Une personne disposant des poids d’un modèle peut modifier le modèle, supprimer certains refus et le spécialiser dans la recherche de vulnérabilités, la production de logiciels malveillants ou d’autres activités sensibles.
Mais les inquiétudes des grands éditeurs ont aussi une dimension économique. (lire : qu’est-ce qu’un modèle « open weight » ?))
Un modèle ouvert performant permet à une entreprise :
- de choisir son hébergeur ;
- de négocier les coûts d’infrastructure ;
- d’éviter une dépendance totale à une API ;
- de traiter certaines données en interne ;
- d’adapter le modèle à ses métiers ;
- de changer plus facilement de fournisseur.
D’après une analyse publiée en juillet 2026 par The New Stack, les meilleurs modèles ouverts ne seraient plus qu’à quelques mois des modèles propriétaires sur plusieurs tâches, pour des coûts parfois nettement inférieurs. Les estimations de réduction par dix doivent être examinées au cas par cas : héberger un grand modèle exige des serveurs, de l’énergie et des compétences…
Tous les modèles ouverts ne sont pas des monstres informatiques
Il ne faut pas confondre un modèle de plusieurs centaines de milliards de paramètres avec un modèle léger installé dans une PME.
Les Small Language Models ou SLM sont conçus pour réaliser des tâches plus ciblées avec moins de ressources. Ils peuvent, par exemple, classer des documents, extraire des informations, assister un service client ou interroger une base de connaissances interne. Un modèle léger et spécialisé présente généralement une surface de risque plus limitée qu’un modèle généraliste capable de coder, de rechercher des failles et d’utiliser différents outils.
Une PME n’a aucune raison de paniquer parce qu’elle utilise un modèle ouvert. Elle doit en revanche éviter de lui donner, dès le premier test, un accès complet au réseau, aux données clients, au code source et aux outils d’administration. Ce conseil paraît évident. Les incidents informatiques aiment pourtant beaucoup les évidences oubliées. Avant tout déploiement, il faut commencer par un périmètre limité, appliquer des droits minimaux, désactiver les connexions inutiles et conserver une validation humaine pour les actions sensibles.
La vraie bataille ne se joue donc pas entre une IA ouverte qui serait dangereuse et une IA fermée qui serait sage. Elle oppose surtout des systèmes correctement encadrés à des systèmes auxquels on a donné trop de pouvoirs, trop vite.
En savoir plus
- L’enquête de The New Stack sur OpenAI et GLM-5.3
- Les premières informations sur GLM-5.3 rapportées par Reuters
- Le récit officiel de l’incident OpenAI et Hugging Face
- L’évaluation des modèles ouverts par l’AI Security Institute britannique
- La présentation officielle de GLM-5.2 par Z.ai
- Le Concept IA : Small Language Model
- Avant de déployer une IA : risques, compétences et méthode
#IA #OpenWeight #GLM53 #OpenAI #Cybersecurite #ModeleIA #IntelligenceArtificielle #PME #IAPratique
