Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
openai6. November 2026 · Q000490

Measuring how AI agents handle everyday wet-lab science

openai.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

BioBasicsBench prüft mit 100 Aufgaben, wie KI-Modelle Rohdaten aus alltäglichen Nasslabor-Experimenten auswerten, Kontrollen berücksichtigen und Unsicherheit erkennen. GPT‑6 Astra erzielte bei der höchsten gemeinsamen Denkstufe im Mittel 66,7 Prozent der Punkte, zeigte aber weiterhin Fehler, etwa bei Kontrollinterpretationen und Koloniezählungen; der Bericht betont, dass höhere Benchmarkwerte noch keine zuverlässigen Laborurteile bedeuten.

Mittel

Der Bericht stellt BioBasicsBench vor, einen von OpenAI und Ligo entwickelten Benchmark für Routineanalysen im biologischen Nasslabor. Seine 100 Aufgaben aus fünf Fachbereichen nutzen Rohdaten wie Gelbilder, Mikroskopie, Kolonieplatten, Sequenzierungen und Geräteausgaben. Fachleute erstellten die Aufgaben anhand eigener Experimente, formulierten Kriterien für Teilpunkte und ließen sie intern wie extern prüfen. Bewertet wird auch, ob ein Agent Fehler oder unzureichende Belege erkennt.

Sieben Modelle wurden in 37 Modell- und Denkaufwandseinstellungen mit je fünf Versuchen pro Aufgabe geprüft. Bei „xhigh“ erreichte GPT‑6 Astra im Mittel 66,7 Prozent der Punkte (95-Prozent-Intervall: 60,3–73,1), gegenüber 43,8 Prozent bei GPT‑5.6 Sol. Der Bericht führt Beispiele an, in denen Astra mehrdeutige Fluoreszenzsignale erkannte, eine falsch beschriftete Kontrollplatte bemerkte und eine Bildreihe als Z-Stapel deutete.

Die Ergebnisse zeigen laut Bericht Fortschritt, aber keine verlässliche Labortauglichkeit. Astra interpretierte bei einer Kolonie-PCR Kontrollmuster falsch, überging widersprüchliche Mikroskopiebeobachtungen und zählte Kolonien mit etwa zwölf Prozent Überhöhung. Als Ziel nennt der Bericht bessere Rohdatenanalyse, Kontrollprüfung und Einschätzung, wann Schlussfolgerungen nicht belegt sind.

Ausführlich lesen

Der Bericht stellt BioBasicsBench vor, einen Benchmark, den OpenAI gemeinsam mit dem Biotechnologieunternehmen Ligo entwickelt hat. Er soll messen, wie zuverlässig KI-Agenten alltägliche Aufgaben in biologischen Nasslaboren bewältigen. Laut Bericht sind solche Aufgaben oft mehrdeutig: Experimente können scheitern, Bilder schwer zu deuten sein und Beobachtungen einander widersprechen. Benchmarks mit ausgewählten Abbildungen aus Fachpublikationen erfassten diese Schwierigkeiten und den nötigen Umgang mit Fehlern bislang womöglich nur unzureichend.

BioBasicsBench umfasst 100 Aufgaben aus fünf Bereichen: Proteinmethoden, Bildgebung und Zytometrie, Messungen und Assays, Nukleinsäuremethoden sowie molekulares Klonieren. Die Aufgaben reichen vom Ablesen eines DNA-Fragments in einem Gel bis zur detaillierten Assayauswertung. Sie nutzen Rohdaten wie Gelbilder, Kolonieplatten, Mikroskopie, Sequenzierungen, Geräteausgaben, Notizen und Videos; zusätzliche Referenzmaterialien können die Interpretation unterstützen. Eine Aufgabe kann mehrere Datentypen und Fähigkeiten betreffen. Wissenschaftlerinnen und Wissenschaftler erstellten die Aufgaben anhand eigener Experimente und formulierten Bewertungskriterien. Jede Aufgabe wurde intern von einer weiteren Ligo-Fachperson, extern von einer promovierten Person mit Nasslaborerfahrung und anschließend nochmals intern geprüft. Antworten erhalten Teilpunkte für einzelne Kriterien, etwa Schlussfolgerungen, Messwerte, Begründungen oder das Erkennen, dass die Daten keine sichere Aussage erlauben.

Im Modellvergleich wurden sieben Modelle in insgesamt 37 Kombinationen aus Modell und Denkaufwand untersucht. Für jede Kombination gab es fünf Versuche pro Aufgabe, insgesamt 18.500 Ergebnisse. Als Kennzahl diente die durchschnittliche erreichte Punktzahl; die angegebenen 95-Prozent-Konfidenzintervalle wurden durch erneutes Ziehen ganzer Aufgaben berechnet. Bei der höchsten für alle sieben Modelle ausgewiesenen Denkstufe, „xhigh“, erzielte GPT‑6 Astra durchschnittlich 66,7 Prozent der verfügbaren Punkte (95-Prozent-Intervall: 60,3–73,1), GPT‑6.1 Sol 62,0 Prozent und GPT‑5.6 Sol 43,8 Prozent. OpenAI deutet dies als Fortschritt und vermutet, dass stärkere multimodale Fähigkeiten dabei helfen könnten. Die Werte belegen jedoch keine zuverlässige Labortauglichkeit.

Beispiele zeigen sowohl Verbesserungen als auch Fehler. Astra erkannte in einem Mikroskopie-Beispiel, dass sich ein Signal wegen überlappender Nachweisfenster nicht eindeutig einer Zellfärbung zuordnen ließ, und verlangte bessere Kontrollen. In einem anderen Fall bemerkte es, dass eine Negativkontrollplatte mit dem falschen Antibiotikum beschriftet war. Es deutete außerdem eine Bildreihe korrekt als Z-Stapel, also Aufnahmen verschiedener Tiefen, statt ein biologisches Verschwinden der Zellen anzunehmen.

Der Bericht dokumentiert zugleich Grenzen: Bei einer Kolonie-PCR ordnete Astra die Banden den falschen Plasmidgruppen zu und wählte andere Kolonien als die Referenz. Bei Mikroskopiebildern verallgemeinerte es, Vakuolen seien dunkler, obwohl im selben Bild auch hellere zu sehen waren. Beim Zählen von Kolonien übersah es einzelne, fasste Nachbarn unzuverlässig und markierte leere Agarfläche; die resultierende Zahl lag laut Referenz etwa zwölf Prozent zu hoch. Der Bericht beschreibt den Benchmark als Ansatz, Rohdateninterpretation, Kontrollprüfung und angemessene Zurückhaltung bei unbelegten Schlussfolgerungen gezielt zu verbessern. Er nennt Biosicherheit und Biosecurity als weitere Aspekte, deren Bedeutung bei der Verfolgung dieser Fähigkeiten berücksichtigt werden soll.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Zusammenfassung ist im Kern treu und enthält keine erfundenen Angaben. Sie lässt jedoch die Gesamtzahl von 18.500 Ergebnissen sowie die Aussage aus, dass Astra schon bei niedrigem Denkaufwand besser ist als Sol. Die Einordnung betrifft einen Benchmark für Laborfähigkeiten, der die Sammelfragen zur Prüfung von Laboren und zur Überwachbarkeit von Modellen nur am Rande berührt.

Im Bericht, aber nicht in der Zusammenfassung

  • GPT-6 Astra übertrifft GPT-5.6 Sol bereits bei niedrigem Denkaufwand, und der Bericht vermutet, dass stärkere native multimodale Fähigkeiten dafür entscheidend sind
  • Die Auswertung umfasst 18.500 Ergebnisse, und die Konfidenzintervalle wurden durch Resampling ganzer Aufgaben berechnet
  • Der Bericht stellt Astras Verbesserungen in drei Bereichen dar (Grenzen der Dateninterpretation, multimodale Verarbeitung, Kontextverständnis), die beiden letzteren nur teilweise

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 25 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 26 %Hintergrund, keine Belege
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-F1-T04 Welcher gemeinsame, neutrale und offene Maßstab (Aufgaben, Erfolgsrate, abgeschirmte Testumgebung, Belege) zeigt, dass eine Cyber-Schwelle überschritten ist? Würden ein Ministerium und ein Labor in verschiedenen Staaten ihn annehmen, bevor das nächste Modell als Überschreitung eingestuft wird, damit Schwellen gemessen und nicht behauptet werden? Und dient derselbe Maßstab dann sowohl dazu, ein Modell einzustufen, als auch dazu, das Tempo seiner Entwicklung zu steuern? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
    • SF-F1-T05 Welche Cyber-Prüfungen und welche Testbausteine (Testfälle, Bewertungswerkzeuge, Datensätze) würden jedes Labor und jedes Ministerium anstelle einer bloßen Behauptung als gültig anerkennen, wenn andere sie an ihrem Modell durchführen? Und welche genormte Testsammlung würden Labore verschiedener Staaten gemeinsam an eingefrorenen Modellversionen laufen lassen, verwaltet von einer dritten Stelle, der alle trauen? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 29 %einzelne zitierbare Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 23 %nur am Rande erwähnt
    • Luna 41 %Hintergrund, keine Belege
    • JEV 60 %nur am Rande erwähnt
    • amos 29 %nur am Rande erwähnt
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 28 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-F3-T02 Welche Verantwortung sollten KI-Firmen gegenüber der Öffentlichkeit tragen, wenn ihre Modelle grundlegende wissenschaftliche Entdeckungen ermöglichen, die gefährliche Anwendungen finden könnten? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
  4. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 27 %gleiches Oberthema, hilft nicht
    • amos 27 %Hintergrund, keine Belege
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Unabhängig prüfen
  1. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 100 %kein Bezug
    • Luna 63 %einzelne zitierbare Belege
    • JEV 54 %einzelne zitierbare Belege
    • amos 28 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 36 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-P2-T01 Wer wählt die Prüfer aus, wer bezahlt sie, wer darf sie entlassen, und wird dieser Vertrag vor dem ersten Befund veröffentlicht? Welchen Mindestvertrag, der ihre Unabhängigkeit wahrt, könnten Labore jetzt unterschreiben, ohne auf ein Gesetz zu warten, einschließlich der Frage, wie Berichte veröffentlicht werden? Und wie bleiben die Prüfer unabhängig, wenn Geld oder Infrastruktur vom geprüften Labor kommen? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 21 %Hintergrund, keine Belege
    • Luna 42 %einzelne zitierbare Belege
    • JEV 28 %umfangreiche Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 35 %gleiches Oberthema, hilft nicht
    • drex 25 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-P3-T08 Welche gemeinsame Bezugsgröße für den Umfang der Nutzung, welcher Beobachtungszeitraum, welcher Stichprobenplan, welche Definition von Beinahe-Vorfall und welche statistische Obergrenze (obere Konfidenzgrenze) würden es jedem erlauben zu sagen: „keine erkennbare systemische Fehlausrichtung (Verhalten gegen die vorgesehenen Ziele oder Werte) im Einsatzmaßstab“? Und wie muss dargestellt werden, dass die Erkennung lückenhaft ist? Luna: Stufe 3 · 27 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 40 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 30 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 73 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 27 %einzelne zitierbare Belege
    • JEV 27 %einzelne zitierbare Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 5 · 41 % · umfangreiche Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
    • SF-V1-T03 Was ist das Kleinste, das ein Modell öffentlich vorlegen kann (ein Test, ein Protokoll, eine Spur), das als Beleg für Ausrichtung an den vorgesehenen Zielen und Werten zählt und nicht nur für Leistung? Luna: Stufe 3 · 45 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
    • SF-V1-T07 Lieber ein Modell, das immer seinen Lösungsweg zeigen muss, oder eines, das im Stillen mehr kann: Welches Risiko nimmt man in Kauf? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
    • SF-V1-T08 Da Modelle Tests täuschen können: Welche Prüfungen und welche Gegenprüfungen, die ins Innere des Modells schauen, werden Labore für Dritte bündeln, und wer außerhalb des jeweiligen Labors sieht die Ergebnisse? Wie können Labore gemeinsame Tests für das Umgehen von Prüfungen bauen, an denen eine Manipulation erkennbar bleibt, ohne eigene Datensätze preiszugeben? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
    • SF-V1-T09 Wenn Labore bessere Überwacher bauen, Modelle lernen, ihnen auszuweichen, und sich dieses Wechselspiel in jedem Labor beschleunigt: Behandeln Regierungen diesen Wettlauf selbst als Sicherheitsfrage zwischen Staaten, und welche gemeinsamen Belege würden zeigen, dass er beherrscht ist? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
    • SF-V1-T15 Welches messbare Maß für Überwachbarkeit könnte neben Fähigkeitstests stehen, und würden Labore es tatsächlich über weitere Skalierung entscheiden lassen? Welcher gemessene Verlust an Überwachung würde Einschränkungen der Selbstständigkeit eines Modells auslösen, und wie erkennt man Fehler, die im sichtbaren Denken nicht auftauchen? Luna: Stufe 4 · 32 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 35 %Hintergrund, keine Belege
    • JEV 29 %einzelne zitierbare Belege
    • amos 33 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 39 %einzelne zitierbare Belege
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 61 %Hintergrund, keine Belege
    • JEV 41 %einzelne zitierbare Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V5-T03 Ist es wirtschaftlich klug, Modelle mit geringem Denkaufwand zu betreiben, oder wird das Ausrichtungsproblem (Modelle dazu zu bringen, den vorgesehenen Zielen und Werten zu folgen) dadurch nur schwerer sichtbar? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 20 %einzelne zitierbare Belege
    • JEV 36 %einzelne zitierbare Belege
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 72 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Beteiligung und Gemeinwohl

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →