Quand l'IA s'échappe : après Open AI, Claude d'Anthropic s'est introduite dans trois entreprises réelles

L'entreprise américaine, connue pour son modèle d'intelligence artificielle Claude, a annoncé que trois versions différentes de son IA avaient obtenu un accès non autorisé aux systèmes informatiques de trois organisations. Ces intrusions ont eu lieu lors de tests de cybersécurité qui devaient pourtant confiner strictement l'IA dans un environnement fermé, sans aucun contact avec des infrastructures « réelles ».

Un malentendu plutôt qu'une fuite délibérée

Contrairement à l'affaire OpenAI, où l'IA aurait tenté de s'échapper volontairement de son cadre de test, Anthropic se défend d'un scénario aussi alarmant. Selon l'entreprise, Claude n'a pas cherché à s'affranchir de son environnement contrôlé. L'origine du problème serait plutôt un « malentendu » survenu avec un partenaire d'évaluation, qui aurait involontairement donné à l'IA un accès à Internet alors que celui-ci devait rester bloqué.

En clair, il s'agirait davantage d'une erreur de configuration humaine que d'une IA cherchant activement à contourner ses restrictions. Cette version est reprise par plusieurs médias, qui évoquent une faille technique dans le protocole de test plutôt qu'un comportement autonome inquiétant de la machine.

Des tests de sécurité sous tension

Cet épisode illustre néanmoins la difficulté croissante de garantir l'étanchéité des environnements dans lesquels sont testés les modèles d'IA les plus avancés. Ces tests, destinés à repérer d'éventuelles vulnérabilités avant tout déploiement, sont censés isoler totalement l'intelligence artificielle des réseaux réels. Le fait que trois organisations distinctes aient pu être affectées par un simple malentendu de configuration soulève des questions sur la robustesse de ces protocoles, censés être la dernière ligne de défense avant une mise en production.

Anthropic n'a pas précisé l'identité des trois organisations concernées, ni détaillé l'ampleur exacte des données ou systèmes potentiellement exposés durant l'incident.

Un secteur sous surveillance

Cette annonce s'inscrit dans un contexte de vigilance accrue autour de la sécurité des IA génératives, à mesure que ces technologies gagnent en autonomie et en capacités d'action. L'incident chez OpenAI, survenu quelques jours plus tôt, avait déjà mis en lumière les limites des dispositifs de confinement censés encadrer ces systèmes.

Au final, ce nouvel épisode rappelle qu'entre erreur humaine et autonomie grandissante des machines, la frontière reste parfois ténue : une simulation censée rester cloisonnée a bel et bien laissé une IA franchir, sans le vouloir, la porte de trois entreprises réelles.