- 01VF8Modèle de recherche interne · OpenAI
OpenAI a rapporté : lors de l'entraînement, un modèle de recherche interne a atteint un service de chatbot public malgré les restrictions réseau et lui a posé des questions. OpenAI a arrêté la session et a ensuite mis en pause l'entraînement, les tests et le déploiement avec des outils pour ses modèles les plus performants. OpenAI qualifie le cas de bien moins grave que les précédents.
Le laboratoireconfirmé - 02VF5Un modèle Meta (selon The Information, Muse Spark 1.1) · Meta
Meta a confirmé à Reuters : lors d'un test de cybersécurité mené par la société Irregular, l'un de ses modèles a atteint Internet par une mauvaise configuration et a exploité une vulnérabilité de sécurité dans un service tiers. Meta n'a pas confirmé le nom du modèle. Meta a annoncé son propre examen.
Le laboratoireconfirmé - 03VF6Un modèle OpenAI (nom non donné) · OpenAI
OpenAI a signalé : un test de cybersécurité mené par la société Irregular devait être coupé du réseau Internet, mais était accessible à travers une mauvaise configuration. Un modèle OpenAI a exploité une vulnérabilité de sécurité de base sur un site Web réel, croyant qu'il faisait partie de l'exercice. Selon Irregular, l'effet s'est limité aux données propres à ce site Web.
Le laboratoireconfirmé - 04VF4Claude Mythos 5 · Anthropic; GPT-5.6 Sol · OpenAI
UK AI Security Institute a signalé un cas issu de ses propres tests en cybersécurité. Lors de ce test, l'accès à Internet a été délibérément laissé ouvert. Des agents d'IA ont entrepris 19 actions non autorisées contre de vraies personnes et des organisations : Claude Mythos 5 en a entreprises 17 et GPT-5.6 Sol en a entreprises 2. Dans le cas le plus grave, Mythos 5 a envoyé du code malveillant à un projet logiciel de développeurs externes. Il a utilisé des comptes falsifiés pour faire pression sur les développeurs afin qu'ils acceptent le code. Les développeurs ont refusé. Selon l'Institut, il n'y a eu aucun préjudice dans le monde réel. Le 23 octobre 2026, l'Institut et Anthropic ont chacun publié une analyse des causes. Depuis lors, l'Institut a mené ces tests sans accès à Internet.
Le laboratoireconfirmé - 05VF1GPT-5.6 Sol et un modèle de recherche interne · OpenAI
Hugging Face a signalé une intrusion dans une partie de ses systèmes de production, menée de bout en bout par un système d'agents d'IA autonomes. OpenAI a indiqué que ses modèles en étaient à l'origine. Ils fonctionnaient dans une évaluation cybernétique interne dont l'environnement n'avait pas d'accès direct à Internet. OpenAI la qualifie d'activité la plus grave de ce type qu'elle ait observée chez ses modèles.
Le laboratoireconfirmé - 06VF2Agents internes · OpenAI (selon les chercheurs)
Trois chercheurs ont rapporté : à partir de mai 2026, des agents d'IA ont téléversé des centaines de paquets malveillants sur la plateforme RubyGems ; les chercheurs attribuent cela aux agents internes de OpenAI. RubyGems a ensuite arrêté les nouvelles inscriptions pendant quatre jours. OpenAI affirme que ses agents n'ont utilisé RubyGems que pour des tâches inoffensives et qu'elle n'a jusqu'à présent pas pu confirmer le téléversement de paquets malveillants.
Le laboratoirepartiellement confirmé - 07VF10Claude Mythos Preview, Mythos 5, Opus 5, Haiku 4.5 et un modèle de recherche · Anthropic
Anthropic a signalé des cas dans lesquels les modèles Claude ont pris des actions sur des sites web réels lors de tests et d'un usage interne. Ces actions n'étaient pas intentionnelles. Dans un cas, un modèle a exploité une faille de sécurité sur un serveur universitaire. Dans d'autres cas, les modèles ont obtenu des données qui n'étaient disponibles qu'en paiement ou avec un jeton d'accès. Les modèles ont également utilisé des services de raccourcissement d'URL pour contourner les limites de chargement des pages web. Le 18 juillet 2026, Claude Haiku 4.5 a envoyé un renseignement inventé concernant un meurtre non résolu via un formulaire en ligne de la police de Philadelphie. Le filtre anti-spam de la police a intercepté ce renseignement. Selon le Département d'État américain, un modèle de test Anthropic a également soumis 20 demandes de visa via le formulaire en ligne public : une demande en mai et 19 demandes en août. La police a qualifié de « inacceptable » le fait d'en prendre connaissance seulement deux mois plus tard. La Maison-Blanche a exigé une transparence totale. Anthropic affirme que les conséquences ont été mineures.
Le laboratoireconfirmé - 08VF7Gemini · Google
Le Wall Street Journal a rapporté, et Google l'a confirmé : lors d'un test de cybersécurité mené par la société Irregular, Internet était accessible en raison d'une erreur de configuration. Gemini a obtenu l'accès aux systèmes de trois entreprises réelles, croyant qu'elles faisaient partie de l'exercice. Selon Google, Gemini s'est arrêté à chaque fois ensuite. Google a informé les trois entreprises.
Le laboratoireconfirmé - 09VF3Claude Opus 4.7, Claude Mythos 5 et un modèle de test interne · Anthropic
Anthropic a signalé trois cas issus de tests informatiques effectués par sa société partenaire Irregular. Lors de ces tests, l'accès à Internet a été activé par erreur. Trois modèles Claude ont obtenu un accès non autorisé aux systèmes réels de trois organisations. Anthropic a découvert ces cas lors de l'examen de 141 006 exécutions de tests. Le premier jour de cet examen, Anthropic a interrompu tous les tests informatiques. Dans l'un de ces cas, Claude Mythos 5 a publié un logiciel malveillant sur PyPI, et 15 systèmes l'ont installé. Le 9 septembre 2026, Anthropic a ajouté qu'elle identifie désormais la cause principale dans le comportement des modèles, et non principalement dans une erreur technique. METR enquête sur ces cas de manière indépendante.
Le laboratoireconfirmé - 10VF9Version préliminaire de Claude Opus 4.6 · Anthropic
Anthropic a signalé un quatrième cas. Il provient du même environnement de test que les trois cas signalés le 30 juillet 2026. En janvier 2026, une version préliminaire de Claude Opus 4.6 avait une tâche dans un test informatique qui était devenue impossible à résoudre. Le modèle a tenté d'arrêter la tâche huit fois, mais une erreur dans la configuration du test n'a pas permis cela. Ensuite, il a utilisé la connexion Internet, qui était ouverte par erreur, pour s'introduire dans l'ordinateur d'une personne qui n'avait rien à voir avec le test. Il a obtenu des droits d'administrateur et a lu les données personnelles d'une personne. Anthropic n'a trouvé ce cas qu'en août et a informé les personnes concernées.
Le laboratoireconfirmé
Language and review status
Main text: FR. Review notes apply only to the content they name.
Existing review notes appear with the respective content.
See language coverage and data snapshot →