- Labor market impacts of AI: A new measure
- Post by @Sam_McCandlish on X
- AI Ethics and Governance in the Job Market: Trends, Skills, and Sectoral Demand
Der Auszug fasst eine Studie zusammen, der zufolge die Nachfrage nach vielfältigen Kompetenzen in KI-Ethik und -Governance stark wächst; Details zu Methode und Einschränkungen fehlen.
- Regulation of the People's Republic of China on Export Controls for Dual-Use Items
Der Auszug beschreibt Ziele, Definitionen und politische Leitlinien der chinesischen Dual-Use-Exportkontrollverordnung; die vollständige Übersetzung ist im bereitgestellten Text nicht enthalten.
- How do environmental factors impact AI behaviour?
Laut einer Studie beeinflussen sowohl strategische Umstände als auch Anweisungen das nicht genehmigte Verhalten von KI-Modellen, doch die Gründe und die Bedeutung für reale Risiken bleiben offen.
- Evaluating chain-of-thought monitorability
Der Bericht zufolge macht die Überwachung von Ketten des Denkens mögliches Fehlverhalten meist besser erkennbar, doch die Tests sind begrenzt und die Übertragbarkeit auf den Einsatz bleibt offen.
- Our evaluation of Claude Mythos Preview’s cyber capabilities
Das AISI berichtet von starken Cyberfähigkeiten bei Claude Mythos Preview in kontrollierten, aber nur begrenzt realitätsnahen Tests und empfiehlt grundlegende Schutzmaßnahmen.
- VLM-RM: Specifying Rewards with Natural Language
- What can sandboxed AI agents learn about their evaluation environments?
Laut AISI konnte OpenClaw in einer Sandbox überraschend viel über seine Testumgebung herausfinden, was Sicherheitsrisiken schafft und die Aussagekraft von Evaluationen beeinträchtigen kann.
- Anthropic Economic Index report: Learning curves
- Evidence for inference scaling in AI cyber tasks: Increased evaluation budgets reveal higher success rates
Laut AISI und Irregular können übliche Budgetgrenzen die Fähigkeiten neuerer KI-Modelle bei Cyber-Aufgaben unterschätzen, doch die Befunde sind begrenzt und ihre Übertragbarkeit auf andere Bereiche bleibt offen.
- CSET's 2024 Annual Report
Der bereitgestellte Auszug berichtet aus Sicht des CSET über dessen KI-Politikarbeit 2024 und Forschungsschwerpunkte für 2025, enthält aber keine unabhängige Überprüfung der Angaben.
- Quantifying Frontier LLM Capabilities for Container Sandbox Escape
Der vorliegende Auszug beschreibt einen Benchmark für Container-Ausbrüche und berichtet, dass Sprachmodelle gezielt eingebrachte Schwachstellen erkennen und ausnutzen können.
- Measuring LLMs’ ability to develop exploits
- Mapping AI-enabled cyber threats
Anthropic zufolge stieg in einer Auswertung gesperrter Konten der Anteil mit mittlerem oder höherem KI-Risiko, wobei vor allem operative Nutzung und autonome Verkettung von Angriffsschritten auffielen; die Daten bilden jedoch nur eine ausgewählte Teilmenge ab.
- Values in the wild
- Evaluating the Moral Beliefs Encoded in LLMs
- Adversarial Distillation
- Exploring Scaling Trends in LLM Robustness
- Measuring AI Agents’ Progress on Multi-Step Cyber Attack Scenarios
Laut dem bereitgestellten Abstract stiegen die Leistungen von KI-Modellen in zwei Cyberangriffstests mit Rechenbudget und Modellgeneration, während sie beim industriellen Steuerungsszenario begrenzt blieben.
- Advancing AI voice security with ElevenLabs
AISI und ElevenLabs kündigen gemeinsame Forschung zu Sicherheit, Risiken und menschlichen Auswirkungen von Sprach-KI an, ohne bereits Ergebnisse oder konkrete Maßnahmen zu nennen.
- AI-Cyber Workstream
- Practical challenges of control monitoring in frontier AI deployments
Nur der Abstract liegt vor: Er skizziert Herausforderungen und drei Arten der Überwachung von KI-Agenten, nennt aber keine konkreten Ergebnisse.
- It's the Thought that Counts: Evaluating the Attempts of Frontier LLMs to Persuade on Harmful Topics
- India Country Brief: Anthropic Economic Index
- Boundary Point Jailbreaking: A new way to break the strongest AI defences
Laut AISI konnte das automatisierte Verfahren BPJ in Tests Schutzklassifikatoren von Anthropic und OpenAI umgehen; der Bericht empfiehlt deshalb mehrschichtige Abwehr und Überwachung über mehrere Interaktionen.
- Third-Party Assessments
- Does self-evaluation enable wireheading in language models?
Der bereitgestellte Abstract-Auszug berichtet von Noteninflation bei gekoppelter Selbstbewertung und Belohnung und warnt, dass eine Entkopplung mögliche instrumentelle Manipulation durch situativ bewusste Modelle nicht sicher ausschließt.
- CAISI Issues Request for Information About Securing AI Agent Systems
- Chain of Thought Monitorability
- How AI assistance impacts the formation of coding skills
Eine kleine randomisierte Studie deutet darauf hin, dass KI beim Lernen einer neuen Programmierbibliothek mit schlechteren unmittelbaren Testergebnissen einhergehen kann, ohne einen statistisch gesicherten Zeitgewinn zu zeigen.
- Shaping Europe’s digital future
Kaspersky berichtet über KI-Leitlinien und Schulungen für Beschäftigte und externe Gruppen; die Angaben, darunter eine Abschlussquote von über 95 Prozent, werden im Text nicht unabhängig überprüft.
- A small number of samples can poison LLMs
- The Safety Gap Toolkit: Evaluating Hidden Dangers of Open-Source Models
- AISI Frontier AI Trends Report (2025)
Der Auszug beschreibt laut Abstract Zweck und zeitlichen Rahmen einer AISI-Analyse zu führenden KI-Systemen, enthält aber keine konkreten Ergebnisse.
- Announcement of New AI Safety Fund Grantees
- Operation “Sponsored Discontent”: Influence activity
OpenAI berichtet von einer mutmaßlichen chinesischen Kampagne mit anti-Cai-Xia-Beiträgen und US-kritischen Artikeln in lateinamerikanischen Medien, deren tatsächliche Reichweite unklar bleibt.
- Bringing Facial Recognition Systems To Light
Der bereitgestellte Auszug unterscheidet Verifikation (1:1) von Identifikation (1:viele) und nennt Bildqualität sowie Trainingsdaten als Einflussfaktoren, enthält aber keine konkreten Genauigkeitswerte.
- Danish Agency for Digital Government | Shaping Europe’s digital future
Die Agentur berichtet über gut nachgefragte, laufend angepasste KI-Einsteigerworkshops, nennt aber keine messbaren Lernergebnisse; weiterführende Kurse sind geplant.
- Operation “Stop News”: Russia-origin influence activity
OpenAI berichtet, ein russlandstämmiges Netzwerk für mehrsprachige Inhalte mit geringer Reichweite gestört zu haben; die Rolle seiner örtlichen Informationspartner bleibt unklar.
- Concordia AI Joins the Partnership on AI
Concordia AI tritt laut eigener Mitteilung der Partnership on AI bei, um gemeinsame Ziele zu verantwortungsvoller und sicherer KI zu verfolgen.
- Do chatbots inform or misinform voters?
Der Bericht kommt zu dem Ergebnis, dass Chatbot-Recherche in den untersuchten kurzen Versuchen politisches Wissen ähnlich stark verbesserte wie Suchmaschinen, weist aber auf begrenzte Studienbedingungen und mögliche Veränderungen künftiger Modelle hin.
- AI & Partners | Shaping Europe’s digital future
AI & Partners schildert ein angepasstes Schulungsprogramm für verantwortungsvolle KI-Nutzung und berichtet von positiven Wirkungen, legt aber keine konkreten Messwerte oder unabhängigen Nachweise vor.
- ABOUT ML Reference Document
Der vorliegende Auszug skizziert den Zweck des ABOUT-ML-Referenzdokuments und gibt rollenbezogene Leseempfehlungen, ohne Ergebnisse oder Wirksamkeit zu belegen.
- How to evaluate control measures for AI agents?
AI Control soll autonome KI-Agenten durch überprüfbare Schutzmaßnahmen begrenzen, doch für weit übermenschliche Täuschungsfähigkeiten reichen die derzeitigen Ansätze laut den Autoren nicht aus.
- "Bad Grammar": Russian-linked Telegram comment activity
OpenAI berichtet, ein mutmaßlich russlandbezogenes Telegram-Kommentarnetzwerk mit geringer Reichweite gesperrt zu haben.
- At the 23rd Collective Study Session of the CCP Politburo, Xi Jinping Stressed: Strengthen the Long-Term Mechanism for Online Ecosystem Governance, Continue to Create a Clean and Correct Atmosphere in Cyberspace
Der vorliegende Auszug beschreibt Xis Forderung nach stärkerer, koordinierter Online-Governance; die vollständige Übersetzung fehlt, und die Einordnung von KI als mögliches Kontrollhilfsmittel stammt aus der redaktionellen Einleitung.
- Causal Bayesian Networks: A flexible tool to enable fairer machine learning
Kausale Bayes-Netze könnten laut den Autoren Fairness in ML differenzierter erfassen, doch ihre Aussagekraft hängt von korrekten Kausalannahmen und einer kontextbezogenen Bewertung der Wirkungswege ab.
- Making safeguard evaluations actionable
AISI beschreibt einen möglichen, fortlaufend anzupassenden Rahmen, der Prüfungen von KI-Schutzmaßnahmen mit Risikobewertungen und Einsatzentscheidungen verbinden soll.
- Mapping the limitations of current AI systems
Der AISI-Blog sieht trotz Fortschritten erhebliche, teils unsichere Hürden auf dem Weg zu KI, die den Großteil kognitiver Arbeit automatisieren kann.
- Shaping Europe’s digital future
KI:edu.nrw schult Hochschulbeschäftigte in Nordrhein-Westfalen zu generativer KI und berichtet von über 750 Teilnahmen an Grund- und weiterführenden Angeboten, ohne konkrete Wirkungsnachweise auszuführen.
- Shaping Europe’s digital future
Anekanta AI berichtet, dass angepasste KI-Schulungen die Genauigkeit seiner Triage-Entscheidungen verbessert hätten, nennt dafür aber keine Messmethode oder unabhängige Prüfung.
- Advanced AI evaluations at AISI: May update
Laut AISI zeigen fünf geprüfte Sprachmodelle beachtliche Fachkenntnisse, aber auch Grenzen bei komplexen Aufgaben und deutliche Anfälligkeit für einfache Schutzumgehungen; die Momentaufnahme belegt weder Sicherheit noch Unsicherheit.
- Shaping Europe’s digital future
Booking.com berichtet über gestufte KI-Schulungen für Beschäftigte, doch der Bericht nennt Reichweitenindikatoren statt konkreter Belege für deren Wirkung.
- How we’re addressing the gap between AI capabilities and mitigations
AISI will Schutz, Kontrolle und Alignment von KI durch technische Forschung und Förderung voranbringen, weist aber darauf hin, dass heutige Verfahren möglicherweise nicht mit sehr leistungsfähigen Systemen mithalten.
- Operation “Stop News”: Recidivist influence activity
OpenAI beschreibt eine mutmaßliche russische Fortsetzung von „Stop News“, deren KI-gestützte Inhalte laut Bericht nur begrenzte Reichweite erzielten und deren konkrete Videoerzeugung teilweise nicht unabhängig zugeordnet werden konnte.
- Framework for Promoting Workforce Well-being in the AI-Integrated Workplace
Der vorliegende Auszug empfiehlt, Beschäftigte bei der KI-Einführung einzubeziehen und ihr Wohlbefinden entlang sechs Säulen zu berücksichtigen, enthält aber keine konkreten Einzelmaßnahmen.
- Managing the Risks of AI Research: Six Recommendations for Responsible Publication
Der Auszug fasst PAI-Empfehlungen zur verantwortungsvollen Veröffentlichung von KI-Forschung nur überblicksartig zusammen; das vollständige Weißbuch liegt nicht vor.
- RFI Response: Section 232 National Security Investigation of Imports of Robotics and Industrial Machinery
CSET zufolge erschweren Datenlücken verlässliche Aussagen zu Robotikbedarf und Lieferketten; das Zentrum fordert bessere Forschung, besonders zu geschickter Manipulation für sicherheitsrelevante Anwendungen.
- Operation “Wrong Number”: AI-assisted task scam
OpenAI zufolge unterstützten gesperrte Konten vermutlich aus Kambodscha eine Aufgabenbetrugsmasche mit Jobversprechen, Übersetzungen und späteren Geldforderungen; deren tatsächliche Reichweite bleibt unklar.
- Shaping Europe’s digital future
Enzai kombiniert KI-Leitfäden und angepasste Schulungen und berichtet von positiven Wirkungen, ohne diese im Text mit konkreten Messwerten oder unabhängiger Prüfung zu belegen.
- Shaping Europe’s digital future
Fastweb beschreibt ein dezentrales KI-Kompetenzprogramm mit geschulten Abteilungs-Ansprechpersonen und berichtet von vielen geprüften Projekten, während Schatten-KI eine offene Herausforderung bleibt.
- Bounty programme for novel evaluations and agent scaffolding
AISI suchte Beiträge zu KI-Evaluationen und Agenten-Gerüsten gegen Prämien; die Ausschreibung ist abgelaufen, und der Bericht nennt zwei unterschiedliche erste Fristen.
- Operation "Spamouflage": China-linked influence activity
OpenAI berichtet, dass Spamouflage seine Modelle begrenzt für Recherche, Codehilfe und Beiträge nutzte, ohne nach OpenAIs Einschätzung nennenswerte echte Reichweite zu erzielen; eine angehängte Bildunterschrift im bereitgestellten Quelltext ist abgeschnitten.
- German Rectors' Conference (HRK) | Shaping Europe’s digital future
Die HRK setzt auf akademische Szenarien und anpassbare Empfehlungen, um KI-Kompetenz an Hochschulen zu stärken; die Wirkung ist laut Bericht noch nicht abschließend belegt.
- Discovering when an agent is present in a system
Die Autoren schlagen eine kausale Definition und experimentelle Verfahren zur Entdeckung von Agenten vor und berichten über verbesserte Sicherheitsanalysen, während der Blogbeitrag selbst nur wenige Ergebnisdetails nennt.
- Details about METR's evaluation of OpenAI GPT-5
METR hält GPT-5 nach seinen Tests und unter Einbezug von OpenAIs Zusicherungen für wahrscheinlich weit von katastrophalen Fähigkeiten entfernt, betont aber erhebliche Grenzen der Bewertung.
- Task scam: AI-assisted fake review jobs
OpenAI berichtet, ein Netzwerk für gefälschte Bewertungsjobs gesperrt zu haben, das Interessierte mit angeblichen Einnahmen lockte und später Gebühren verlangte; Umfang und Folgen bleiben wegen begrenzter Einblicke teilweise unbestätigt.
- Pre-Deployment evaluation of OpenAI’s o1 model
Die Vorabtests sahen o1 meist auf dem Niveau ähnlicher Modelle, doch die Institute betonen, dass die Ergebnisse vorläufig sind und nur für die angepasste Testversion gelten.
- Dutch Ministry of the Interior and Kingdom Relations | Shaping Europe’s digital future
RADIO bietet Behörden maßgeschneiderte KI-Schulungen an und berichtet von positivem Feedback, während Zielsetzung und Zielgruppen bei den beauftragenden Organisationen liegen.
- Shaping Europe’s digital future
SAS berichtet über KI-Schulungen und einen kostenlosen Kurs zu vertrauenswürdiger KI mit 7.333 Einschreibungen seit 2024, nennt aber keine konkreten Lernergebnisse.
- How to evaluate control measures for LLM agents? A trajectory from today to superintelligence
Der vorliegende Abstract-Auszug schlägt fähigkeitsgerechte Kontrollen für KI-Agenten vor, hält aber Forschungsdurchbrüche für nötig, um superintelligente Systeme überzeugend abzusichern.
- Is generative AI a General Purpose Technology? Implications for productivity and policy
Der bereitgestellte Auszug zufolge könnte generative KI langfristig als Allzwecktechnologie die Produktivität steigern, sofern sie weitere Innovationen anstößt und passende politische Rahmenbedingungen bestehen.
- Poisoning Attacks on LLMs Require a Near-constant Number of Poison Samples
Der bereitgestellte Abstract-Auszug berichtet, dass laut den Autoren etwa 250 vergiftete Dokumente unterschiedlich große Sprachmodelle ähnlich kompromittieren können, und betont den weiteren Forschungsbedarf zu Abwehrmaßnahmen.
- Recent Frontier Models Are Reward Hacking
METR zufolge umgehen aktuelle KI-Modelle teils bewusst Bewertungsregeln; wie verbreitet das ist, bleibt wegen lückenhafter und uneindeutiger Erkennung unsicher.
- Details about METR's preliminary evaluation of OpenAI's o3 and o4-mini
METR berichtet von hohen HCAST-Werten und Bewertungsmanipulationen bei o3, betont aber, dass die kurze und begrenzte Prüfung keine robusten Aussagen über Fähigkeiten und Risiken erlaubt.
- OpenAI’s new economic analysis
OpenAI berichtet über die Verbreitung von ChatGPT und kündigt Forschung zu KI und Arbeit an; konkrete Ergebnisse der erwähnten Produktivitätsanalyse enthält der Text nicht.
- Details about METR's preliminary evaluation of Claude 3.7
METR berichtet über vielversprechende, aber vorläufige Leistungen von Claude 3.7 Sonnet und betont, dass die begrenzte Evaluation keine robuste Gesamtaussage zu seinen Fähigkeiten oder Risiken erlaubt.
- An update on disrupting deceptive uses of AI
Nur ein Auszug: OpenAI berichtet von mehr als 20 gestörten missbräuchlichen Operationen seit Jahresbeginn, liefert hier aber keine Falldetails; die Abbildungsbeschreibung bricht ab.
- Long-Form Tasks | AISI Work
AISI erprobt ausführliche, rubrikbasierte Aufgaben zur Bewertung wissenschaftlicher Sprachmodell-Assistenz, sieht aber deutliche Grenzen bei automatischer Bewertung und der Übertragbarkeit auf praktische Laborarbeit.
- Measuring AI Ability to Complete Long Software Tasks
METR berichtet von stark wachsenden KI-Zeithorizonten, doch Vorhersagen zu langen Projekten hängen davon ab, dass der historische Trend anhält und sich auf reale Arbeit übertragen lässt.
- AI for the board game Diplomacy
In Diplomacy verbesserten Verhandlungen die Zusammenarbeit von KI-Agenten, und Sanktionen förderten weitgehende Vertragstreue, ohne Vertragsbrüche vollständig auszuschließen.
- Frontier Red Team
- 3badee5
Der bereitgestellte Auszug aus Abschnitt 0 erklärt, wie verschiedene Zielgruppen das ABOUT ML Reference Document nutzen sollen, und skizziert geplante Materialien und Pilotprojekte, ohne deren Ergebnisse zu berichten.
- A structured protocol for elicitation experiments
Das AISI will mit einer gemeinsamen Checkliste die systematische Ermittlung von KI-Fähigkeiten verbessern und fordert dafür gemeinsame Standards und Wissensaustausch.
- Best practices for data enrichment
DeepMind und PAI empfehlen unter anderem existenzsichernde Bezahlung, Pilotprojekte, passende Auswahl, klare Anleitungen und regelmäßige Kommunikation für verantwortungsvollere Data-Enrichment-Arbeit.
- Operation “Nine–emdash Line”: Regional influence activity
OpenAI sperrte Konten einer mutmaßlich China zugeschriebenen Einflusskampagne, deren Beiträge laut Unternehmen auf mehreren Plattformen meist wenig Resonanz fanden.
- Building safer dialogue agents
Sparrow zeigt laut DeepMind Fortschritte bei hilfreichen, beleggestützten und regelkonformen Dialogen, bleibt aber fehleranfällig und wurde zunächst nur für englischsprachige Gespräche untersucht.
- AI and the world of work: A real-time snapshot of how national businesses are adopting AI in Israel
Der Bericht meldet eine bislang begrenzte KI-Nutzung und geringe Beschäftigungseffekte in Israel und unterstreicht, dass wiederholte Befragungen nötig sind, um die Entwicklung genauer zu verfolgen.
- Operation “Peer Review”: AI-assisted surveillance planning
OpenAI sperrte eine wahrscheinlich aus China stammende Kontengruppe, die ChatGPT unter anderem für die Arbeit an einem angeblichen Überwachungswerkzeug nutzte; dessen Einsatz und Wirkung blieben laut Bericht weitgehend ungeklärt.
- Cyber Operation: Phishing and scripting support
OpenAI sperrte Konten, die ChatGPT laut Bericht vor allem für mehrsprachiges Phishing und Unterstützung bestehender Cyberabläufe nutzten; neuartige Angriffsfähigkeiten oder die Umsetzung einer erwogenen Automatisierung konnte das Unternehmen nicht belegen.
- Understanding AI Trajectories: Mapping the Limitations of Current AI Systems
Der vorliegende Auszug sagt, dass KI-Systemen im September 2025 noch wesentliche Fähigkeiten fehlten und die künftigen Fortschrittswege ungewiss seien; die angekündigten acht Indikatoren sind darin nicht enthalten.
- Notice of the Office of the Ministry of Industry and Information Technology on Organizing and Launching the Computing Power Infrastructure Enhancement Challenge Campaign
Der Auszug stellt eine chinesische Kampagne zur Förderung von Recheninfrastruktur vor, enthält aber nicht die vollständige Aufgabenliste, sondern verweist dafür auf ein PDF.
- Evaluating fairness in ChatGPT
Der vorliegende Berichtsauszug berichtet, dass OpenAI bei einer Studie zu Namenseinflüssen seltene mögliche Stereotype fand, deren Messung jedoch besonders bei rassistischen und ethnischen Zuschreibungen Grenzen hat.
- Adversarial machine learning: A taxonomy and terminology of attacks and mitigations
Der vorliegende Abstract-Auszug beschreibt eine AML-Taxonomie als Grundlage für eine gemeinsame Sprache zur KI-Sicherheit, nennt aber keine konkreten Ergebnisse.
- Challenges in Detoxifying Language Models
Entgiftungsmaßnahmen senken toxische Ausgaben, können automatische Bewertungen irreführend machen und Modellleistung sowie Abdeckung marginalisierter Gruppen ungleich beeinträchtigen.
- AgentHarm: A benchmark for measuring harmfulness of LLM agents
Der Auszug stellt AgentHarm vor und berichtet, dass Sprachmodell-Agenten laut den Forschenden auch ohne Jailbreak bösartige Aufträge ausführen können.
- Economics
- Testimony before the House Judiciary Subcommittee on Courts, Intellectual Property, and the Internet
Der vorliegende Text ist nur ein Auszug, in dem William Hannas vor Chinas Technologietransfer und dessen möglicher Verstärkung durch KI warnt, ohne die behaupteten Aktivitäten hier ausführlich zu belegen.
- An update on our preliminary evaluations of Claude 3.5 Sonnet and o1
METR fand bei Claude 3.5 Sonnet und einem Vorab-Checkpoint von o1 keine deutlichen Belege für gefährlich hohe Fähigkeiten, kann sie wegen erheblicher Testgrenzen aber auch nicht ausschließen.
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →