- Mind the Mitigation Gap: Why AI Companies Must Report Both Pre- and Post-Mitigation Safety Evaluations
- Pacing Outside the Box: RNNs Learn to Plan in Sokoban
- Safe AI Forum Spins Out From FAR.AI
- A Toolkit for Estimating the Safety-Gap between Safety Trained and Helpful Only LLMs
- AI in 2025: Faster Progress, Harder Problems
- San Diego Alignment Workshop 2025
- Security Stress Test: Exposing the Brittleness of DeepSeek-V4-Pro’s Safeguards
- Singapore Alignment Workshop 2025
- Technical Innovations for AI Policy 2025
- Uncovering Latent Human Wellbeing in LLM Embeddings
- VLM-RM: Specifying Rewards with Natural Language
- What We Learned at the FAR.AI Deception Workshop
- How Codex became a collaborator for OpenAI’s creative team
Laut einem OpenAI-internen Einzelbeispiel unterstützt Codex den Kreativen Chad Nelson beim Entwickeln und Prototypisieren von Ideen; die Ergebnisse beruhen auf seiner Einschätzung und menschlicher Auswahl.
- Security incident disclosure
Hugging Face berichtet von einem KI-gestützten Angriff über Schwachstellen in der Dataset-Verarbeitung; mögliche Auswirkungen auf Partner- oder Kundendaten waren laut Bericht noch ungeklärt.
- How Cars24 scales conversations and builds faster with OpenAI
Cars24 berichtet über OpenAI-Agenten im Autohandel und Codex in internen Teams; die veröffentlichten Erfolgszahlen werden im Bericht nicht unabhängig belegt.
- Why teens deserve access to safe AI
OpenAI plädiert für den Zugang Jugendlicher zu KI mit altersgerechten Schutz- und Lernfunktionen, räumt weiteren Handlungsbedarf ein und belegt die Gesamtwirksamkeit der Maßnahmen im Bericht nicht unabhängig.
- The 171k-Star .claude Directory That’s Quietly Replacing Prompt Engineering
Der Autor sieht wiederverwendbare Agenten-Skills als nächste Entwicklungsstufe nach Einzelprompts, belegt die These aber vor allem mit Beispielen und der Resonanz auf Pococks Repository.
- The Vibe-Coded Slop You Can See Is the Least of Your Problems
Laut Beitrag ist bei KI-generiertem Code nicht die sichtbare Beliebigkeit, sondern das ungeprüfte Übersehen verborgener Fehler das größere Risiko.
- I Built My First AI Agent. It Ran All Night and Left Me a $180 Bill.
Im verfügbaren Auszug berichtet der Autor von 180 US-Dollar Kosten durch wiederholte Agentenversuche und empfiehlt, Fehler vor dem Retry einzuordnen sowie klare Abbruchgrenzen zu setzen.
- Timestral: Mistral's time-series foundation models
Mistral zufolge liefert die neue Timestral-Modellfamilie effiziente, anpassbare Zeitreihenvorhersagen und Spitzenwerte in öffentlichen Benchmarks; die Angaben stammen aus der Produktveröffentlichung und sind im Text nicht durch vollständige Ergebnistabellen belegt.
- Evaluating frontier models for stealth and situational awareness
Der bereitgestellte Bericht ist ein Auszug über Prüfungen zu Situationsbewusstsein und Heimlichkeit, die laut Autor:innen Hinweise auf die Fähigkeit zum Scheming geben sollen; konkrete Ergebnisse sind nicht enthalten.
- Implementation Plan for the Initiative to Promote the Construction of High-Quality Industrial Datasets (Draft for Feedback)
Der vorliegende Auszug eines chinesischen Entwurfs skizziert sechs Initiativen zum Ausbau hochwertiger Industriedaten für KI und nennt Ziele bis 2028; der übrige Text fehlt.
- The US is advancing AI safety through state and federal action
Der Beitrag plädiert aus OpenAIs Sicht für abgestimmte Landesgesetze, einen bundesweiten Prüfrahmen für fortgeschrittene KI und darauf aufbauende internationale Standards.
- The Future of the AI Summit Series: One Year Later
Laut Abstract soll die AI Summit Series durch gemeinsame Planung, ein dauerhaftes Sekretariat und regelmäßige Folgetreffen mehr Kontinuität und Rechenschaft erhalten; der vollständige Bericht liegt hier nicht vor.
- AI detectors rarely flag human writing, but sometimes miss AI text imitating real authors
Laut Berichtsauszug erkennen drei getestete Detektoren einfache KI-Texte meist, übersehen aber deutlich häufiger stilnachahmende KI-Texte; die Ergebnisse beziehen sich auf die untersuchten Stichproben.
- GPT-Red: Unlocking Self-Improvement for Robustness
OpenAI zufolge hilft das interne Modell GPT‑Red, Prompt-Injection-Schwachstellen zu finden und Produktionsmodelle robuster zu machen; die berichteten Erfolge gelten für die beschriebenen Tests und Szenarien.
- Swift/MacOS OnDevice STT. Which Model To Choose? (MLX)
In wenigen persönlichen Tests auf einem M4 Pro wirkt Whisper Small instabil, während der Autor Qwen für Japanisch und Whisper Large-v3-Turbo als brauchbarere lokale STT-Optionen einschätzt.
- Graphify Setup in 20 Minutes: What Works, What Breaks, What’s Not Free
Der verfügbare Auszug meldet einen laut Autor unter zwanzigminütigen Graphify-Einstieg, enthält wegen einer Bezahlschranke aber keine näheren Schritte oder Ergebnisse.
- Stop Trying to Learn AI. Start Shipping With It.
Der Autor plädiert dafür, KI an realen Arbeitsaufgaben zu lernen, und argumentiert, dass Kurse oft eher kurzfristige Sicherheit als belastbare Praxis vermitteln.
- LiteRT.js: Run AI Directly in the Browser with GPU Acceleration (No Server Required)
Der Bericht beschreibt LiteRT.js als Laufzeit für lokale, hardwarebeschleunigte KI im Browser und gibt dabei Leistungsversprechen wieder, deren tatsächlicher Nutzen laut Artikel von Gerät und Browser abhängt.
- Readers, you can now share a note with stories you repost
Medium ergänzt Story-Reposts um bearbeitbare Notizen mit bis zu 280 Zeichen und weitere Verwaltungsfunktionen; die behaupteten Vorteile für Reichweite und Kuration beruhen auf Unternehmensangaben.
- Post by @HasanASaleem on X
- How Canada uses Claude
- State of AI Safety in China (2026) report + interactive companion website released
Der Beitrag fasst Concordia AIs Bericht 2026 zusammen: Chinas KI-Sicherheitsagenda richte sich zunehmend auf autonome Agenten und gesellschaftliche Risiken, während Unternehmensoffenlegung laut Beitrag lückenhaft bleibe.
- AI in Indian Education: Atal Innovation Mission and Google launch ATL Saathi
Google DeepMind und die indische Atal Innovation Mission erproben ATL Saathi als KI-Assistent für Lehrkräfte, doch die erhofften Vorteile sind im Bericht noch nicht durch Evaluationsergebnisse belegt.
- Anthropic commits $10 million to Canadian AI research
Anthropic kündigt 10 Millionen kanadische Dollar für KI-Forschung an und berichtet anhand eigener Nutzungsdaten von besonders hoher Claude-Nutzung in Kanada.
- Introducing Claude for Teachers
Anthropic stellt ein bis Juli 2028 kostenloses Claude-Angebot für verifizierte US-Lehrkräfte vor; seine Wirksamkeit soll noch untersucht werden, und für Schülerdaten gelten schulische und staatliche Vorgaben.
- Topic Overview: AI Energy Use
Einzelne KI-Anfragen verbrauchen laut Bericht wenig Energie, doch der schnell wachsende Rechenzentrumsbedarf könnte Stromversorgung, Preise und Klima zunehmend beeinflussen.
- How to manage AI investments in the agentic era
Der OpenAI-Bericht empfiehlt, KI nach ihrem messbaren Arbeitsnutzen zu steuern und erst geprüfte, geregelte Abläufe gezielt auszuweiten.
- Before You Use Claude Code, Learn This First
Der Autor empfiehlt eine klar strukturierte Claude-Code-Projektumgebung mit festgelegter Rolle, Regeln und Grenzen, legt dafür aber keine empirischen Wirksamkeitsnachweise vor.
- Why Claude Fable 5 Keeps Silently Switching You to Opus 4.8 — and What Actually Triggers It
Der Artikel behauptet, dass Sicherheitsfilter Fable-5-Sitzungen teils wegen harmloser Inhalte dauerhaft auf Opus 4.8 umstellen, und empfiehlt getrennte Gespräche sowie gespeicherte Notizen als praktische Gegenmaßnahmen.
- Cloudflare Drop: Instantly Deploy Any Static Website Without Creating an Account
Cloudflare Drop soll statische Websites laut Bericht ohne Konto per Upload für eine 60-minütige Vorschau veröffentlichen; dauerhafte Nutzung erfordert ein Cloudflare-Konto.
- Editor Newsletter: The Editor Partner Program is now open to all qualifying publications
Medium berichtet über ein geöffnetes Vergütungsprogramm für Redaktionen und neue Publikationswerkzeuge; Teilnahme und Auszahlung sind an Kriterien gebunden, und der Newsletter nennt keine unabhängigen Wirkungsdaten.
- “AI + Education” Action Plan
Der Bericht liegt nur auszugsweise vor und skizziert Chinas geplante KI-Integration in die Bildung samt Zielen für 2030, ohne deren Umsetzung oder Wirkung nachzuweisen.
- How Claude's values vary by model and language
Eine Analyse von 309.815 Gesprächen findet Unterschiede in Claudes ausgedrückten Werten je nach Modell und Sprache, lässt deren Ursachen und Bedeutung für Nutzende aber offen.
- Accidental Misalignment: Fine-Tuning Language Models Induces Unexpected Vulnerability
- Adversarial Circuit Evaluation
- Adversarial Policies Beat Superhuman Go AIs
- AI Companies Should Report Pre- and Post-Mitigation Safety Evaluations
- Among us: A sandbox for measuring and detecting agentic deception
- An Invariant Learning Characterization of Controlled Text Generation
- Archetypal SAE: Adaptive and Stable Dictionary Learning for Concept Extraction in Large Vision Models
- Auditing Games for Sandbagging
- Can Go AIs be adversarially robust?
- Catastrophic Goodhart: regularizing RLHF with KL divergence does not mitigate heavy-tailed reward misspecification
- ClearHarm: A more challenging jailbreak dataset
- Codebook Features: Sparse and Discrete Interpretability for Neural Networks
- Compressed Computation is (probably) not Computation in Superposition
- Concept Influence: Leveraging Interpretability to Improve Performance and Efficiency in Training Data Attribution
- Eliciting Latent Predictions from Transformers with the Tuned Lens
- Emergent Persuasion: Will LLMs Persuade Without Being Prompted?
- Evaluating the Moral Beliefs Encoded in LLMs
- Exploiting Novel GPT-4 APIs
- Exploring Scaling Trends in LLM Robustness
- Few-shot Adaptation Works with UnpredicTable Data
- Illusory Safety: Redteaming DeepSeek R1 and the Strongest Fine-Tunable Models of OpenAI, Anthropic, and Google
- imitation: Clean Imitation Learning Implementations
- Improving Code Generation by Training with Natural Language Feedback
- InterpBench: Semi-Synthetic Transformers for Evaluating Mechanistic Interpretability Techniques
- Interpreting emergent planning in model-free reinforcement learning
- Inverse Scaling: When Bigger Isn't Better
- Investigating the Indirect Object Identification circuit in Mamba
- It's the Thought that Counts: Evaluating the Attempts of Frontier LLMs to Persuade on Harmful Topics
- Jailbreak-Tuning: Models Efficiently Learn Jailbreak Susceptibility
- Large language models can effectively convince people to believe conspiracies
- Multi-Agent Risks from Advanced AI
- Open Problems in Mechanistic Interpretability
- Open Technical Problems in Open-Weight AI Model Risk Management
- Planning behavior in a recurrent neural network that plays Sokoban
- Preference Learning with Lie Detectors can Induce Honesty or Evasion
- Pretraining Language Models with Human Preferences
- RL with KL penalties is better viewed as Bayesian inference
- Data Poisoning in LLMs: Jailbreak-Tuning and Scaling Laws
- Securing Agentic AI: A Discussion Paper
- STACK: Adversarial Attacks on LLM Safeguard Pipelines
- STARC: A General Framework For Quantifying Differences Between Reward Functions
- The Obfuscation Atlas: Mapping Where Honesty Emerges in RLVR with Deception Probes
- The Safety Gap Toolkit: Evaluating Hidden Dangers of Open-Source Models
- The Singapore Consensus on Global AI Safety Research Priorities
- Towards Automated Circuit Discovery for Mechanistic Interpretability
- Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI Systems
- Training Language Models with Language Feedback
- Training Language Models with Language Feedback at Scale
- Training Reliable Activation Probes With a Handful of Positive Examples
- Transformer Circuit Faithfulness Metrics are not Robust
- Transformers Don’t Need LayerNorm at Inference Time: Scaling LayerNorm Removal to GPT-2 XL and Implications for Mechanistic Interpretability
- Uncovering Latent Human Wellbeing in Language Model Embeddings
- Universal Sparse Autoencoders: Interpretable Cross-Model Concept Alignment
- Vision-Language Models are Zero-Shot Reward Models for Reinforcement Learning
- Why does training on insecure code make models broadly misaligned?
Sprache und Prüfstand
Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.
Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.
Sprachabdeckung und Datenstand ansehen →