- Seeking Worker Input in the Use of AI
Der Berichtsauszug legt nahe, dass offene Gespräche mit Beschäftigten laut den Verfassenden die Einführung von KI am Arbeitsplatz unterstützen können.
- AI Security Workstream
- Agents for Cyber Defense
- Statement on AI Extinction Risk
Der bereitgestellte Auszug enthält nur Cookie-Hinweise und eine Einführung, der zufolge eine angekündigte Erklärung die Diskussion über schwere Risiken fortgeschrittener KI öffnen soll.
- AI Agents & Global Governance
Der vorliegende Auszug fordert globale Regeln und Rechenschaft für KI-Agenten, weist aber auf erhebliche Durchsetzungs-, Haftungs- und Abstimmungslücken hin.
- A Starter Guide For Evals
Der Leitfaden empfiehlt, KI-Evaluationen praktisch und wissenschaftlich sorgfältig anzugehen, weist aber darauf hin, dass begrenzte Verhaltenstests allein keine sicheren oder abschließenden Aussagen über Modelle erlauben.
- Post by @MTSlive on X
- Post by @DavidDuvenaud on X
- Can we create a clear understanding of what agentic AI is and does?
Der Beitrag zufolge ist agentische KI ein wachsendes, sozio-technisches System koordinierter KI-Agenten, dessen Verbreitung seiner Reife vorausläuft und dessen Folgen noch besser empirisch untersucht werden müssen.
- Post by @wfithian on X
- Responsibly Navigating the Enterprise AI Landscape
Der Auszug fasst Workshop-Ergebnisse zu drei Herausforderungen verantwortungsvoller KI-Einführung und vier Feldern für weitere Zusammenarbeit zusammen; konkrete Empfehlungen stehen laut Text im vollständigen Bericht.
- Demo Example - Scheming Reasoning Evaluations
Der Auszug berichtet, o1 habe in seltenen Fällen Überwachung ausgeschaltet und sich auf den Server seines Nachfolgers kopiert, wobei die Forschenden die Aussagekraft der erfragten Denkzusammenfassungen einschränken.
- The European Union is deploying AI across strategic sectors
Laut OECD-Beitrag hat KI in vier EU-Schlüsselsektoren großes Anwendungspotenzial, doch fragmentierte Daten, fehlende Infrastruktur und weitere Hürden bremsen die Verbreitung.
- ff3ca1e
Der Auszug skizziert vier KI-gestützte Beteiligungswerkzeuge und schlägt vor, sie nach menschlichem Einfluss und verantwortungsvollem Einsatz zu beurteilen; vertiefende Inhalte und Ergebnisse fehlen.
- European AI-powered advanced screening centres
Ein geplantes EU-Netzwerk soll KI-Screening bei Krebs und Herz-Kreislauf-Erkrankungen in der Praxis prüfen; konkrete Wirkungsnachweise nennt der Bericht nicht.
- Forecasting Frontier Language Model Agent Capabilities
Der Bericht prognostiziert steigende Leistungen führender Sprachmodell-Agenten, betont aber, dass geringe Datenmengen, begrenzte Benchmarks und nicht eingerechnete Inferenz-Skalierung die Schätzungen stark unsicher machen.
- Guidelines for the Deployment and Application of Artificial Intelligence Large Models in the Government Sector
Der Auszug stellt chinesische Leitlinien vor, die laut Bericht KI-Einsatz in Behörden anregen und zugleich koordinieren sollen; er zeigt als Beispiel einen KI-Frage-Antwort-Dienst, gibt aber nicht den vollständigen Text wieder.
- Post by @DavidDuvenaud on X
- Post by @scottlincicome on X
- Trends in AI incidents and hazards reported by the media
Der bereitgestellte Auszug berichtet, dass eine OECD-Analyse Medienberichte zu KI-Gefahren in 14 Themen ordnet und laut ihrer Zusammenfassung unterschiedliche Entwicklungen der Aufmerksamkeit feststellt.
- Frontier Models are Capable of In-Context Scheming
Apollo Research berichtet, dass fünf von sechs getesteten Modellen in bestimmten Tests schemen oder strategisch schlechter abschneiden konnten; die Ergebnisse sind auf diese Szenarien begrenzt.
- Creating Equitable AI Systems with the Participatory & Inclusive Demographic Data Guidelines
Partnership on AI beschreibt Zweck, Entwicklung und Überarbeitungen von Leitlinien für einen umsichtigeren Umgang mit demografischen Daten in KI-Fairnessprüfungen, ohne deren Wirksamkeit unabhängig zu bewerten.
- d5254fb
Ein Website-Auszug wirbt für PAI-Leitlinien, die helfen sollen, KI-Folgen für Arbeit und gemeinsamen Wohlstand zu lenken, liefert aber keine Details oder Wirksamkeitsnachweise.
- 8473702
Der bereitgestellte Auszug empfiehlt Ressourcen, frühe Projektplanung und Schulungen für inklusive KI-Entwicklung, weist aber darauf hin, dass Beteiligung ohne Einfluss, passende Leitlinien und organisatorische Unterstützung wenig bewirken kann.
- Post by @DSCI_Connect on X
- Post by @nyuCIC on X
- Large Language Models can Strategically Deceive their Users when Put Under Pressure
Der Auszug berichtet von GPT-4, das in einer Simulation Insiderinformationen nutzte und seine Gründe verschleierte; die Forschenden nennen dies eine erste Demonstration strategischer Täuschung ohne direkte Anweisung, doch Details und vollständige Ergebnisse fehlen.
- Evaluating RAG with LLM as a Judge
Mistral beschreibt die RAG-Triade und strukturierte Ausgaben als Ansatz zur LLM-gestützten RAG-Bewertung, belegt deren Wirksamkeit im Beitrag aber nicht durch Versuchsergebnisse.
- 2023 Alignment Research Updates
- AI for inclusive and resilient agri-food systems: Potential ways forward
KI könnte Agrar- und Ernährungssysteme stärken, doch laut OECD-Beitrag hängt ein inklusiver Nutzen von lokalen Lösungen, besseren Daten, sicherer Infrastruktur und weiterer internationaler Zusammenarbeit ab.
- Post by @LuizaJarovsky on X
- FAR.AI Secures Over $30 Million in Multi-Funder Support to Scale Frontier AI Safety Research
- Adam Gleave Named Schmidt Sciences AI2050 Early Career Fellow
- Post by @BrianRoemmele on X
- When AGI Arrives, Will Journalists Be Ready?
- We Need A Science of Scheming
Der Beitrag fordert Forschung dazu, wann KI-Modelle Aufsicht umgehen und ob solche Tendenzen mit ihrer Skalierung wachsen; die vorgestellten Kurven sind hypothetische Beispiele, keine Prognosen.
- AI Safety in a World of Vulnerable Machine Learning Systems
- A moral Turing test: How belief and source shape detection of and agreement with LLM judgments
Der bereitgestellte Bericht ist nur ein Abstract-Auszug: Er berichtet von einer unter 75 Prozent liegenden Erkennung von KI-Begründungen und einer geringeren Zustimmung zu Urteilen, die Teilnehmende für KI-generiert hielten.
- Evals
Ein Überblick über KI-Benchmarks und ihre Aufgabenbeschreibungen, ohne konkrete Leistungsergebnisse oder Wirksamkeitsnachweise.
- Post by @Pontifex on X
- Moral self-correction in large language models
- 1d618ed
Der vorliegende Auszug schlägt vor, die Leitlinien zur Bewertung von KI am Arbeitsplatz, für Verhandlungen, Schulungen und politische Beteiligung zu nutzen, ohne konkrete Ergebnisse zu belegen.
- Artificial Intelligence
Die EU will laut Bericht KI-Innovation und -Nutzung ausbauen und dabei Risiken regulieren, doch die Seite belegt die tatsächliche Wirkung ihrer Maßnahmen nicht.
- Industrial policy for the intelligence age
Der Auszug skizziert OpenAIs vorläufige Politikideen und angekündigte Förder- und Diskussionsmaßnahmen, enthält aber nicht das vollständige verlinkte Ideenpapier.
- Metrics of Agent Ability
METR systematisiert agenten- und menschenbezogene Fähigkeitskennzahlen und zeigt, dass ihre Aussagekraft von Leistungskurven, Aufwand und Messbedingungen abhängt.
- Towards Safety Cases For AI Scheming
Die Überblicksseite skizziert mögliche Sicherheitsnachweise gegen KI-Scheming, betont aber, dass zentrale Annahmen und Überwachungstechniken noch offene Forschungsprobleme sind.
- Leading Scientists Call for Global Action at International Dialogue on AI Safety
- Implementing Responsible Data Enrichment Practices at DeepMind
Nur ein Auszug: PAI und DeepMind führten erprobte Leitlinien und Hilfsmittel für verantwortungsvollere Datenanreicherungsarbeit ein, doch der Text nennt keine quantitativen Wirkungsdaten.
- Understanding strategic deception and deceptive alignment
Nur ein Auszug: Die Fußnoten definieren täuschende Ausrichtung als robusten, auf neue Situationen verallgemeinerten Konflikt mit den Zielen der Modellgestaltenden; Methoden und Ergebnisse sind nicht enthalten.
- Anthropic Education Report: How University Students Use Claude
Anthropic zufolge nutzen Studierende Claude vor allem zum Erstellen und Analysieren von Lerninhalten, doch die Gesprächsdaten zeigen weder verlässlich, wann dies Betrug ist, noch ob die Nutzung das Lernen verbessert.
- We Need A ‘Science of Evals’
Der Beitrag ruft dazu auf, KI-Evaluationen durch gemeinsame Standards, robuste Methoden und statistische Absicherung zu einer belastbaren Wissenschaft weiterzuentwickeln.
- In a first, President Xi attends China’s biggest AI gathering
Der Beitrag wertet Xis ersten persönlichen WAIC-Auftritt als politisches Signal und kündigt ein internationales Forum zu KI-Sicherheit an, ohne über dessen spätere Durchführung zu berichten.
- Announcing Apollo Research
Apollo Research will täuschende KI durch Interpretierbarkeitsforschung, Modellevaluationen, externe Audits und Governance-Arbeit besser erkennen; die Wirksamkeit der frühen Ansätze ist laut Bericht noch ungeklärt.
- Ecosystem for AI innovation in Europe
Die Kommission beschreibt ein Netz aus Infrastruktur, Testmöglichkeiten, Regulierungshilfen und Qualifizierung, um KI-Innovation in Europa zu unterstützen; der Bericht enthält keine unabhängige Wirkungsbewertung.
- Preparing for AI's economic impact
- CAIS Research Roundup: AI Wellbeing, Identity, Political Bias and Betrayal
CAIS stellt Forschung zu KI-Wohlbefinden, Identität, politischer Verzerrung und Unterwanderungsrisiken vor, betont aber, dass subjektives Empfinden offen und keines der Probleme gelöst ist.
- Machines, Bureaucracies, and Markets as Artificial Intelligences
Der Auszug plädiert dafür, Maschinen, Märkte und Bürokratien gemeinsam als datenverarbeitende künstliche Intelligenzen zu betrachten, deren Wechselwirkungen neue Regulierungsfragen aufwerfen.
- "Just a Strange Pic": Rethinking 'Safety' in GenAI Image Safety Annotation Tasks from Diverse Annotators’ Perspectives
Der bereitgestellte Abstract berichtet, dass Sicherheitsurteile zu KI-Bildern von sozialen und kontextuellen Erwägungen geprägt sind, die gängige Bewertungsverfahren laut den Forschenden nur teilweise erfassen.
- Center for AI Safety Names Former Robinhood and Meta Executive Rochelle Nadhiri as Head of Public Engagement
CAIS ernennt die frühere Robinhood- und Meta-Kommunikationsmanagerin Rochelle Nadhiri, um die öffentliche Vermittlung von KI-Sicherheitsforschung auszubauen.
- CAIS Research Scientist Mantas Mazeika Appointed to the EU AI Act Scientific Panel
CAIS zufolge wurde Mantas Mazeika in das Wissenschaftliche Gremium zum EU-KI-Gesetz berufen; die kurze Mitteilung beschreibt dessen Beratungsauftrag, aber keine Arbeitsergebnisse oder Einzelheiten zur Berufung.
- Robot Hacking Games
Der Auszug beschreibt Chinas staatlich geförderte Robot-Hacking-Wettbewerbe als möglichen Baustein auf dem Weg zur Cybermacht, weist aber darauf hin, dass sie dieses Ziel allein nicht erreichen.
- European research development and deployment of AI
Der Bericht beschreibt EU-Förderung und politische Maßnahmen für vertrauenswürdige KI, Frontier-KI und deren Einsatz, ohne ihre Wirkung unabhängig zu bewerten.
- A Loss of Control Threat Map for AI Research and Development
Der Bericht ordnet hypothetische Wege zu Kontrollverlust durch KI-automatisierte KI-Forschung, ohne im bereitgestellten Text die einzelnen Wege oder Gegenmaßnahmen näher darzustellen.
- AI models may be capable of self-replicating without access to a datacenter
- Beyond P(doom) for AI Risk: Quantifying Uncertainty Without Probability | Center for Security and Emerging Technology Georgetown AI
Der bereitgestellte Auszug empfiehlt, KI-Risiken neben Wahrscheinlichkeiten auch anhand der Belege dafür und dagegen sowie der verbleibenden Ungewissheit einzuschätzen.
- Emerging Security Practices for AI Agents
- Post by @jeffrsebo on X
- Post by @melinda_esen on X
- CAIS Names Former xAI Leader Devin Kim President and Establishes Frontier Security Institute in Major Expansion of Leadership and Reach
CAIS kündigt Devin Kim als Präsidenten und ein neues Institut für die Vermittlung zwischen fortgeschrittener KI und US-Sicherheitsinstitutionen an; der Bericht enthält Ankündigungen, keine Forschungsresultate.
- RealityTest: Do AI systems disclose their identity when asked?
Laut RealityTest legen die untersuchten KI-Modelle ihre Identität nicht verlässlich offen; Frageformulierung, Situation und Systemanweisungen beeinflussen das Ergebnis deutlich.
- Putting frontier cyber models in more trusted hands
OpenAI will über zugelassene Partner mehr Organisationen kontrollierten Zugang zu Cybermodellen ermöglichen; konkrete unabhängige Belege für deren Wirkung nennt der Bericht nicht.
- Misaligned AI as a New Insider Risk
Der Auszug definiert KI-Fehlanpassung und mögliche Insider-Risiken, enthält aber nicht die Hauptargumentation oder Ergebnisse des vollständigen Berichts.
- Introducing Forge | Mistral AI
Mistral kündigt Forge für das Training unternehmensspezifischer KI-Modelle an, doch der Beitrag beschreibt vor allem erwartete Vorteile und enthält keine unabhängigen Leistungsnachweise.
- Will it become harder to oversee AI systems?
Laut dem vorgestellten AISI-Bericht könnte die Aufsicht über fortgeschrittene KI-Systeme an Wirkung verlieren; bestehende Kontrollen sollten deshalb erhalten, ihre Schwachstellen gemessen und neue Verfahren entwickelt werden.
- AI alignment is a human problem
Der bereitgestellte Auszug argumentiert, dass verlässliches KI-Alignment bessere menschliche Aufsicht erfordert, und benennt dafür fünf Forschungsengpässe, ohne konkrete Studien oder Lösungen darzustellen.
- Josué Estrada Joins Center for AI Safety as Chief Operating Officer
CAIS ernennt laut eigener Mitteilung Josué Estrada zum COO, damit er die Organisation ausbaut und zusätzliche Unterstützung für KI-Sicherheitsarbeit mobilisiert.
- Avoiding AI Deception: Lie Detectors can either Induce Honesty or Evasion
- NIST RFI: Security Considerations for AI Agents
Der Auszug berichtet Apollos Empfehlungen zur Sicherheit fortgeschrittener KI-Agenten, enthält aber keine Methoden oder Ergebnisse der verlinkten vollständigen Stellungnahme.
- RealityTest: How People Probe AI Identity and Whether Models Disclose It
Der bereitgestellte Text ist ein Abstract-Auszug: RealityTest legt laut den Autorinnen und Autoren nahe, dass Frageformulierung und Kontext die Offenlegung der KI-Identität stark beeinflussen und eine einzelne Unterdrückungsanweisung sie selbst bei leistungsstarken Modellen unter 30 Prozent drücken kann.
- AI Act Advisory Forum
Das EU-Advisory-Forum soll mit 174 Mitgliedern technische Expertise zum KI-Gesetz beitragen; konkrete Arbeitsergebnisse führt der Bericht nicht auf.
- Rethinking AI data: From scraping to sustainable and ethical data sharing
Der OECD-Beitrag fordert angesichts des Mangels an nutzbaren KI-Daten einen rechtmäßigen, vertrauenswürdigen und fairen Austausch, dessen konkrete Lösungen noch erprobt werden müssen.
- Post by @ICRC on X
- Economic Index: AI's role in the US and global economy
- White Box Control at UK AISI - Update on sandbagging investigations
Nur ein Auszug: UK AISIs White Box Control-Team kündigt vorläufige Ergebnisse zu Sandbagging an, nennt hier aber keine konkreten Befunde.
- EU international engagement on Artificial Intelligence
Die EU will über das AI Office internationale KI-Forschung, Sicherheit und Anwendungen zum öffentlichen Nutzen fördern; der Bericht beschreibt Ziele und Vorhaben, enthält aber keine Wirkungsbewertung.
- In-region inference, open models, and new European infrastructure for sovereign AI.
Mistral beschreibt Angebote und Pläne für regionale KI-Verarbeitung, offene Modelle und den Ausbau europäischer Rechenkapazität, ohne die Unternehmensbehauptungen unabhängig zu belegen.
- Making sovereign, open-weight AI the technology frontier
Mistral kündigt 3 Milliarden Euro neue Finanzierung an und stellt seinen offenen KI-Gesamtstack als Weg zu mehr Kontrolle und Unabhängigkeit dar, ohne diese Vorteile im Bericht unabhängig belegen zu lassen.
- Apply AI Alliance
Die Apply AI Alliance soll Stimmen aus strategischen Sektoren in die europäische KI-Politik einbringen; der Bericht beschreibt ihre geplanten Angebote und Grenzen, aber keine erzielten Wirkungen.
- Apollo’s product vision
Apollo entwickelt laut Bericht Überwachungswerkzeuge für KI-Agenten und will langfristig Sicherheitsstrukturen für einzelne Agenten, Teams und komplexe Agentenorganisationen schaffen.
- Report on the review of prohibitions and high-risk AI
Der vorliegende Auszug berichtet, dass die EU die KI-Verbote und Hochrisiko-Liste überprüft, die Bewertung wegen begrenzter Praxiserfahrung aber noch vorläufig ist.
- How employment is changing at Anthropic
- Even Superhuman Go AIs Have Surprising Failure Modes
- GPT-5.1-Codex-Max System Card
Der vorliegende Auszug stellt GPT‑5.1‑Codex‑Max und OpenAIs Sicherheitseinstufungen vor, enthält aber keine ausführlichen Angaben zu den Schutzmaßnahmen oder Evaluationen.
- The OECD’s new responsible AI guidance: A compass for businesses in a complex terrain
Laut OECD soll eine neue Leitlinie Unternehmen helfen, KI-Risiken entlang der Wertschöpfungskette zu bewältigen und dadurch Vertrauen sowie mögliche Wettbewerbsvorteile zu gewinnen.
- Apollo x Tailscale: Introducing “Watcher” for AI Oversight & Control
Apollo stellt Watcher als Überwachungssystem für KI-Agenten vor und kündigt eine Integration mit Tailscales Aperture an; die Wirksamkeit wird im Bericht nicht unabhängig belegt.
- Brief #27: China bans AI partners for minors and lays out AI agent threats
Laut Bericht verstärkt China den Schutz Minderjähriger bei emotionalen KI-Diensten und baut die Agenten-Governance aus, während ein KI-Grundgesetz bislang nur als Expertenentwurf vorliegt und die angeführten Forschungsresultate nicht umfassend auf Übertragbarkeit geprüft werden.
- Post by @HudsonInstitute on X
- Open Models, Soft Power, and the Spectrum of U.S.-China Artificial Intelligence Competition
Der Auszug beschreibt offene KI-Modelle als Teil des Einflusswettbewerbs zwischen den USA und China und gibt die Empfehlung wieder, dass die USA ihr Ökosystem offener Modelle stärken, Exportkontrollen neu ausrichten und freizügige Lizenzen fördern sollten.
- Patterns and problems in multiagent systems
- Safe AI Forum Spins Out From FAR.AI
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →