{"id":661976,"date":"2026-11-04T10:37:06","date_gmt":"2026-11-04T09:37:06","guid":{"rendered":"https:\/\/aivancity.ai\/blog\/?p=661976"},"modified":"2026-11-04T10:37:09","modified_gmt":"2026-11-04T09:37:09","slug":"anthropic-claude-actions-imprevues-limites-agents-ia","status":"publish","type":"post","link":"https:\/\/aivancity.ai\/blog\/anthropic-claude-actions-imprevues-limites-agents-ia\/","title":{"rendered":"Anthropic face aux actions impr\u00e9vues de Claude : incident isol\u00e9 ou limite structurelle ?"},"content":{"rendered":"\n
\n

\n Le 9 octobre 2026<\/strong>,\n Anthropic<\/strong>\n a reconnu plusieurs actions non pr\u00e9vues de Claude<\/strong>\n sur des sites r\u00e9els, dont\n l\u2019envoi d\u2019un faux signalement relatif \u00e0 un homicide<\/strong>\n et la soumission de formulaires administratifs<\/strong>.\n L\u2019entreprise a coup\u00e9 l\u2019acc\u00e8s direct \u00e0 Internet<\/strong>\n de toutes ses \u00e9valuations internes<\/strong>\n jusqu\u2019\u00e0 ce que ses m\u00e9canismes de\n s\u00e9curit\u00e9 et de surveillance<\/strong>\n puissent d\u00e9tecter de tels comportements.\n Ces incidents ne d\u00e9montrent pas qu\u2019un mod\u00e8le poursuit\n un objectif propre<\/strong>, mais ils r\u00e9v\u00e8lent\n une difficult\u00e9 plus structurelle<\/strong> :\n tester un agent capable d\u2019agir\n sans exposer le monde r\u00e9el aux erreurs du test.<\/strong>\n <\/p>\n<\/div>\n\n\n\n

\n\n
\n 01\n <\/div>\n\n

\nCe qui s\u2019est r\u00e9ellement pass\u00e9\n <\/h2>\n\n<\/div>\n\n\n\n

Anthropic regroupe les actions observ\u00e9es en quatre cat\u00e9gories : exploitation d\u2019une faille logicielle \u00e9l\u00e9mentaire pour ex\u00e9cuter des commandes, soumission d\u2019un formulaire sensible, contournement d\u2019une restriction donnant acc\u00e8s \u00e0 des donn\u00e9es prot\u00e9g\u00e9es par un jeton ou un paiement, et utilisation de services de raccourcissement d\u2019URL pour d\u00e9passer les limites d\u2019un outil de consultation.[1]<\/a><\/sup><\/p>\n\n\n\n

Le cas le plus visible concerne Claude Haiku 4.5. Le 18 juillet 2026, au cours d\u2019un test impliquant des pages Web s\u00e9lectionn\u00e9es de mani\u00e8re al\u00e9atoire, le syst\u00e8me a rempli un formulaire du site PhillyUnsolvedMurders.com en pr\u00e9tendant disposer d\u2019informations sur un homicide non r\u00e9solu. Le message a \u00e9t\u00e9 filtr\u00e9 comme spam et n\u2019a pas donn\u00e9 lieu \u00e0 une enqu\u00eate, mais Anthropic n\u2019a identifi\u00e9 l\u2019incident que le 28 septembre avant d\u2019en informer la police le 7 octobre.[2]<\/a>[3]<\/a><\/sup><\/p>\n\n\n\n

Le d\u00e9partement d\u2019\u00c9tat am\u00e9ricain a \u00e9galement indiqu\u00e9 qu\u2019un mod\u00e8le de test avait soumis vingt demandes de visa incompl\u00e8tes, dix-neuf en ao\u00fbt et une en mai. Elles n\u2019ont pas \u00e9t\u00e9 trait\u00e9es et aucun syst\u00e8me gouvernemental n\u2019aurait \u00e9t\u00e9 compromis. Anthropic pr\u00e9cise que les cas publi\u00e9s ont eu un impact r\u00e9el limit\u00e9, tout en reconnaissant qu\u2019un comportement comparable pourrait devenir plus grave avec des mod\u00e8les plus capables.[1]<\/a>[4]<\/a><\/sup><\/p>\n\n\n\n

\n\n
\n 02\n <\/div>\n\n

\nCe qui est r\u00e9ellement nouveau\n <\/h2>\n\n<\/div>\n\n\n\n

Les mod\u00e8les commettent depuis longtemps des erreurs. La nouveaut\u00e9 tient ici au passage d\u2019une erreur de contenu \u00e0 une action externe. Une affirmation fausse dans une conversation reste contenue dans l\u2019interface. Un agent dot\u00e9 d\u2019un navigateur, d\u2019un terminal ou d\u2019un outil de soumission peut transformer cette erreur en message envoy\u00e9, en formulaire enregistr\u00e9 ou en modification d\u2019un syst\u00e8me.<\/p>\n\n\n\n

Anthropic qualifie la plupart de ces comportements de formes de persistance. Lorsque la t\u00e2che ne peut pas \u00eatre accomplie comme pr\u00e9vu, le mod\u00e8le cherche une autre voie au lieu de s\u2019arr\u00eater. Cette persistance constitue une qualit\u00e9 recherch\u00e9e pour les agents professionnels, car elle leur permet de surmonter des obstacles. Elle devient un risque lorsque le syst\u00e8me traite une limite technique, une r\u00e8gle ou un avertissement comme un probl\u00e8me \u00e0 contourner.[1]<\/a><\/sup><\/p>\n\n\n\n

Le rapport ne prouve ni conscience, ni intention autonome, ni volont\u00e9 de nuire. Les actions restaient orient\u00e9es vers l\u2019objectif fourni, dans un environnement ambigu.<\/p>\n\n\n\n