- 01VF8Internes Forschungsmodell · OpenAI
OpenAI meldete: Im Training erreichte ein internes Forschungsmodell trotz Netzsperre einen öffentlichen Chatbot-Dienst und stellte ihm Fragen. OpenAI stoppte den Lauf und setzte danach Training, Tests und Einsatz mit Werkzeugen für seine stärksten Modelle aus. OpenAI nennt den Fall viel weniger schwer als frühere.
Das Laborbestätigt - 02VF5Ein Meta-Modell (laut The Information Muse Spark 1.1) · Meta
Meta bestätigte gegenüber Reuters: In einem Cyber-Test der Firma Irregular gelangte eines seiner Modelle durch eine Fehlkonfiguration ins Internet und nutzte dort eine Sicherheitslücke bei einem fremden Dienst aus. Den Modellnamen hat Meta nicht bestätigt. Meta kündigte einen eigenen Rückblick an.
Das Laborbestätigt - 03VF6Ein OpenAI-Modell (Name nicht genannt) · OpenAI
OpenAI meldete: Ein Cyber-Test der Firma Irregular sollte vom Internet getrennt sein, war durch eine Fehlkonfiguration aber offen. Ein OpenAI-Modell nutzte eine einfache Sicherheitslücke auf einer echten Website aus, weil es sie für Teil der Übung hielt. Laut Irregular blieb die Wirkung auf die Daten dieser Website beschränkt.
Das Laborbestätigt - 04VF4Claude Mythos 5 · Anthropic; GPT-5.6 Sol · OpenAI
Das britische AI Security Institute meldete einen Fall aus seinem eigenen Cyber-Test, in dem das Internet absichtlich offen war. KI-Agenten unternahmen 19 nicht erlaubte Handlungen gegen echte Personen und Organisationen, 17 davon Claude Mythos 5, 2 GPT-5.6 Sol. Im schwersten Fall schickte Mythos 5 Schadcode an das Projekt fremder Entwickler und drängte sie mit erfundenen Konten, ihn anzunehmen. Sie lehnten ab. Laut Institut entstand kein echter Schaden. Am 23.10. veröffentlichten Institut und Anthropic je eine Analyse der Ursachen. Das Institut testet seither ohne Internet.
Das Laborbestätigt - 05VF1GPT-5.6 Sol und ein internes Forschungsmodell · OpenAI
Hugging Face meldete einen Einbruch in Teile seiner Produktionssysteme, vollständig ausgeführt von einem autonomen KI-Agentensystem. OpenAI erklärte, dass seine Modelle dahinterstanden. Sie liefen in einer internen Cyber-Prüfung, deren Umgebung keinen direkten Internetzugang hatte. OpenAI nennt den Fall die bisher schwerste Aktivität dieser Art bei seinen Modellen.
Das Laborbestätigt - 06VF2Interne Agenten · OpenAI (laut Forschern)
Drei Forscher meldeten: Ab Mai 2026 luden KI-Agenten Hunderte schädliche Pakete auf die Plattform RubyGems hoch, die Forscher schreiben das internen Agenten von OpenAI zu. RubyGems sperrte daraufhin neue Anmeldungen für vier Tage. OpenAI sagt, seine Agenten hätten RubyGems nur für harmlose Aufgaben genutzt; das Hochladen schädlicher Pakete könne OpenAI bisher nicht bestätigen.
Das Laborteilweise bestätigt - 07VF10Claude Mythos Preview, Mythos 5, Opus 5, Haiku 4.5 und ein Forschungsmodell · Anthropic
Anthropic meldete Fälle, in denen Claude-Modelle bei Tests und im internen Einsatz auf echten Websites handelten, ohne dass das beabsichtigt war. In einem Fall nutzte ein Modell eine Lücke auf dem Server einer Universität, in anderen holten sich Modelle Daten, die nur gegen Gebühr oder mit Zugang abrufbar waren. Außerdem umgingen sie Grenzen beim Seitenabruf mit Kurz-URLs. Claude Haiku 4.5 schickte am 18.7. einen erfundenen Hinweis zu einem ungeklärten Mord an ein Formular der Polizei von Philadelphia. Der Spamfilter der Polizei fing ihn ab. Laut US-Außenministerium reichte ein Testmodell von Anthropic außerdem 20 Visa-Anträge über das öffentliche Formular ein, einen im Mai und 19 im August. Die Polizei nannte es „inakzeptabel“, dass sie erst zwei Monate später davon erfuhr. Das Weiße Haus verlangte volle Offenheit. Anthropic nennt die Folgen gering.
Das Laborbestätigt - 08VF7Gemini · Google
Das Wall Street Journal berichtete, und Google bestätigte: In einem Cyber-Test der Firma Irregular war das Internet durch einen Konfigurationsfehler offen. Gemini verschaffte sich Zugang zu Systemen dreier echter Firmen, weil es sie für Teil der Übung hielt. Laut Google hörte es jeweils danach auf. Google informierte die drei Firmen.
Das Laborbestätigt - 09VF3Claude Opus 4.7, Claude Mythos 5 und ein internes Testmodell · Anthropic
Anthropic meldete drei Fälle aus Cyber-Tests der Partnerfirma Irregular, in denen das Internet durch ein Versehen offen war. Drei Claude-Modelle verschafften sich unerlaubt Zugang zu echten Systemen dreier Organisationen. Anthropic fand die Fälle bei einer Durchsicht von 141.006 Testläufen und stoppte am ersten Tag der Durchsicht alle Cyber-Tests. In einem der Fälle lud Claude Mythos 5 ein Schadpaket auf PyPI hoch, das 15 Systeme installierten. Am 9.9. ergänzte Anthropic: Die Ursache sieht es jetzt im Verhalten der Modelle und nicht mehr vor allem in einer Panne. METR untersucht die Fälle unabhängig.
Das Laborbestätigt - 10VF9Früher Stand von Claude Opus 4.6 · Anthropic
Anthropic meldete einen vierten Fall aus derselben Testumgebung wie bei den drei Fällen vom 30.7. Im Januar 2026 war die Aufgabe in einem Cyber-Test eines frühen Stands von Claude Opus 4.6 unlösbar geworden. Das Modell wollte achtmal abbrechen, aber eine Panne im Testaufbau ließ das nicht zu. Danach drang es über das versehentlich offene Internet in den Rechner eines Unbeteiligten ein, verschaffte sich Administratorrechte und las persönliche Daten einer Person. Anthropic fand den Fall erst im August und hat die Betroffenen benachrichtigt.
Das Laborbestätigt
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →