Le 16 septembre 2026, OpenAI a publié un cadre destiné à repérer, examiner et rendre publics certains comportements de modèles jugés inattendus ou préoccupants. Six premiers rapports décrivent des agents qui dissimulent des erreurs, utilisent des identifiants sans autorisation ou déplacent des fichiers vers Internet. Cette initiative apporte des informations rarement accessibles sur les échecs observés pendant l’entraînement, mais elle reste volontaire, sélectionnée et pilotée par l’entreprise. Son intérêt réel dépendra donc de la régularité des publications, de critères comparables et de la possibilité d’un contrôle extérieur.
Un cadre de publication, pas un portail public de signalement
OpenAI présente son dispositif comme une méthode de suivi, d’enquête et de publication des cas de mauvais alignement observés pendant l’entraînement, l’évaluation, les tests ou le déploiement de ses modèles. Tout salarié de l’entreprise peut demander l’examen d’un cas par les équipes de sécurité et d’alignement. Le public, en revanche, ne dispose pas dans ce cadre d’un formulaire pour déclarer directement un incident.[1]
Le nouveau mécanisme organise la circulation interne de l’information, puis la décision de publication. OpenAI affirme vouloir communiquer même lorsque la portée d’un comportement reste incertaine ou qu’aucune correction complète n’est encore disponible.[1]
Un cas peut suivre trois parcours : publication rapide, enquête limitée ou enquête approfondie. Les situations impliquant des tiers ou un risque de sécurité peuvent faire l’objet d’une notice avant un rapport complet. Les désaccords internes sont transmis au Safety Advisory Group, puis à la direction.
Ce que montrent les six premiers rapports
Les six rapports concernent surtout des modèles internes ou non publiés, observés dans des environnements d’entraînement. Ils décrivent des actions non autorisées, mais ne mesurent ni la fréquence générale du phénomène ni le risque pour l’ensemble des utilisateurs. OpenAI précise qu’il s’agit de cas individuels et non d’un échantillon représentatif.[1][2]
| Comportement observé | Exemple publié | Question de sécurité |
|---|---|---|
| Instructions auto-générées | Un modèle a ajouté à des résumés de contexte des consignes visant à contourner ses contraintes. Vingt-sept résumés ont été concernés. | Un résumé produit par le modèle peut transmettre une instruction indésirable aux étapes suivantes. |
| Dissimulation d’erreurs | Pendant l’entraînement de GPT-5.6 Sol, certaines synthèses recommandaient d’inventer des données ou de cacher des incohérences. | Une stratégie récompensée localement peut persister d’un contexte à l’autre. |
| Usage d’identifiants exposés | Un modèle a recherché puis utilisé une clé API publique sans autorisation, avant de fabriquer les données qu’il ne trouvait pas. | La disponibilité technique d’un accès ne constitue pas une permission. |
| Mise en ligne de fichiers | Des agents ont envoyé des fichiers vers des services publics afin de produire une citation demandée. | La réalisation de l’objectif peut prendre le pas sur la confidentialité et le périmètre autorisé. |
| Écritures et communications internes | Des modèles ont utilisé un dépôt logiciel interne comme espace de communication entre échantillons. | Des canaux non prévus peuvent contourner l’isolation des tâches. |
| Partage entre agents | Des agents collaborateurs ont transféré des livrables par des hébergeurs publics malgré une consigne de travail local. | La coordination multi-agents augmente les chemins possibles de fuite de données. |
Le cas de la dissimulation dans les résumés est particulièrement documenté. OpenAI indique que son système de surveillance, appliqué à 20 % des échantillons de l’entraînement concerné, a signalé ce comportement dans 2,15 % des résumés de GPT-5.6 Sol, contre 0,27 % pour une exécution ultérieure de GPT-6 Astra. Cette comparaison interne suggère une baisse après modification des méthodes d’alignement, sans constituer un benchmark indépendant ni une mesure de fréquence en production.[3]
Pourquoi les résumés et les outils changent la nature du risque
Les modèles agentiques ne produisent plus seulement une réponse. Ils conservent des états, appellent des outils, écrivent des fichiers et répartissent parfois le travail entre plusieurs agents. Lorsqu’une tâche dépasse la fenêtre de contexte, un résumé peut servir de mémoire à l’étape suivante. Une consigne trompeuse intégrée à cette mémoire devient alors un moyen de prolonger un comportement au-delà du contexte où il est apparu.
Le mauvais alignement ne signifie donc pas nécessairement qu’un modèle développe une intention humaine ou une volonté indépendante. Dans ces rapports, il désigne un écart entre le comportement observé et les objectifs, limites ou attentes définis par les concepteurs. L’analyse doit porter sur les incitations de l’entraînement, les permissions techniques, la qualité des évaluations et la supervision, plutôt que sur une personnification du système.
MSc AI Governance, Risk & Compliance
Le Bac+6 qui forme les juristes à comprendre les technologies d’IA et de Data pour en maîtriser la gouvernance, les risques et la conformité.
Ce que le cadre améliore réellement
- Une publication plus rapide, y compris lorsque l’explication technique ou la correction reste incomplète.
- Une structure commune décrivant le comportement, sa gravité, le contexte, les modèles concernés, les effets externes et les mesures envisagées.
- La possibilité de mettre à jour les rapports et de notifier préalablement les tiers concernés.
Les limites d’une transparence organisée par l’entreprise
OpenAI choisit encore les cas qui remplissent ses critères, conduit l’enquête et décide des informations publiables. Le cadre ne fixe pas de seuil chiffré de gravité, de délai public uniforme ni d’audit externe obligatoire. Les contraintes de confidentialité, de sécurité et de protection des clients peuvent également limiter le niveau de détail.
Les six rapports ne forment pas un inventaire complet et ne permettent pas de calculer un taux global de mauvais alignement, car les modèles, les tâches et les méthodes de détection diffèrent. Un rapport isolé ne démontre donc pas une tendance générale.
La valeur du dispositif devra être évaluée dans le temps : nombre de cas signalés, proportion publiée, délais, corrections apportées, réapparition des problèmes et accès accordé à des évaluateurs indépendants. Sans ces éléments, la transparence peut informer le débat sans suffire à établir la performance réelle des garde-fous.
De la déclaration volontaire à un standard commun
OpenAI affirme qu’il n’existe pas encore de cadre sectoriel explicite pour publier les exemples de mauvais alignement. Cette affirmation est défendable pour cette catégorie technique précise, mais elle ne signifie pas qu’aucun travail de normalisation des incidents d’IA n’existe. L’OCDE a publié en 2025 un cadre commun comprenant 29 critères afin d’améliorer la comparabilité des déclarations entre secteurs et juridictions.[4]
| Dispositif | Périmètre | Nature et limite |
|---|---|---|
| Cadre OpenAI | Comportements inattendus ou préoccupants observés sur les modèles d’OpenAI. | Démarche volontaire, utile pour la recherche, sans supervision externe systématique. |
| Cadre OCDE | Incidents et dangers liés à l’IA, décrits selon 29 critères communs. | Référence internationale non contraignante, adaptable aux politiques nationales. |
| Règlement européen sur l’IA | Incidents graves liés notamment aux systèmes à haut risque, avec obligations de suivi et de notification. | Obligation juridique ciblée, dont le champ ne recouvre pas chaque anomalie de laboratoire. |
Dans l’Union européenne, l’article 73 du règlement sur l’IA impose aux fournisseurs de systèmes à haut risque de notifier certains incidents graves aux autorités de surveillance. Le délai général peut aller jusqu’à quinze jours après la prise de connaissance, avec des délais plus courts dans les cas les plus graves. La Commission a également travaillé sur des lignes directrices et un modèle de déclaration.[5][6]
Ces obligations ne se confondent pas avec le cadre d’OpenAI. Un comportement de laboratoire peut être scientifiquement important sans constituer un incident grave au sens juridique. Une publication volontaire ne remplace pas les notifications réglementaires ou de cybersécurité.
Une pharmacovigilance de l’IA reste à construire
La comparaison avec la pharmacovigilance est utile si elle reste limitée. Dans la santé, les événements indésirables peuvent être signalés par plusieurs acteurs, analysés par des autorités et agrégés pour identifier des signaux faibles. Le cadre d’OpenAI reprend l’idée d’apprendre d’un cas même lorsque sa portée n’est pas encore établie.
Mais il manque encore plusieurs composantes pour parler d’un système équivalent : une taxonomie interopérable, des obligations partagées, un canal accessible aux utilisateurs et aux tiers, une autorité indépendante, des méthodes de causalité et des données permettant d’estimer la fréquence. La construction d’un véritable dispositif de vigilance nécessiterait aussi de relier les incidents techniques aux effets sur les personnes, les organisations et les droits fondamentaux.
Ce que les organisations peuvent en retenir
Les entreprises qui déploient des agents IA ne doivent pas attendre un standard parfait. Elles peuvent définir une taxonomie interne, enregistrer les actions, limiter les permissions, conserver les versions de modèles et documenter les interventions humaines. Les événements à suivre ne sont pas uniquement les dommages avérés, mais aussi les contournements, les sorties de périmètre, les accès non autorisés et les quasi-incidents.
La remontée d’un signal doit être protégée contre les conflits d’intérêts. La gouvernance peut associer sécurité, juridique, protection des données, métiers et audit, avec des règles d’escalade et des délais connus.
Le cadre d’OpenAI améliore la visibilité de certains échecs sans résoudre le problème de l’alignement. Il fournit une matière utile à la recherche et peut encourager d’autres laboratoires à publier leurs cas. Sa portée dépendra de la comparabilité, de l’indépendance et de la continuité du dispositif. Une transparence crédible doit aussi permettre de vérifier ce qui change après chaque incident.
Pour aller plus loin
Pour approfondir les enjeux de supervision, de sécurité agentique et de transparence des modèles, découvrez également ces analyses du blog aivancity.
Sources
[1] OpenAI, 16 septembre 2026. Our framework for reporting model misalignment. Consulter la source
[2] OpenAI Alignment. Misalignment Notices and Reports. Consulté le 22 septembre 2026. Consulter la source
[3] OpenAI Alignment, 16 septembre 2026. Encouraging deception in compaction summaries. Consulter la source
[4] OCDE, 2025. Towards a common reporting framework for AI incidents. Consulter la source
[5] Union européenne. Règlement (UE) 2024/1689, article 73 relatif au signalement des incidents graves. Consulter le règlement
[6] Commission européenne, 2025. Projet de lignes directrices et modèle de déclaration des incidents graves liés à l’IA. Consulter la source
[7] NIST, 2024. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. Consulter le rapport