Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
deepmind30. April 2026 · Q002723

AI co-clinician: researching the path toward AI-augmented care

deepmind.google · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Google DeepMind berichtet über Tests eines KI-Systems, das Ärzte bei Evidenzfragen unterstützen und in simulierten Telemedizin-Gesprächen Bild und Ton nutzen soll. Ärzte schnitten in den Gesamtsimulationen besser ab; die Ergebnisse stammen aus Forschungsszenarien und belegen keine Wirksamkeit in der Versorgung. Die Angaben zu den Darstellern der Simulationen sind im Bericht nicht einheitlich.

Mittel

Der Bericht beschreibt Googles Forschungsinitiative „AI co-clinician“: KI soll Patienten als Teil eines Versorgungsteams unterstützen, während Ärzte die fachliche Verantwortung und Kontrolle behalten. Die Autoren begründen den Ansatz mit dem weltweiten Mangel an medizinischem Personal und untersuchen sowohl ärztliche als auch patientennahe Anwendungen.

Bei 98 realitätsnahen Fragen zur Primärversorgung habe das System laut Bericht in 97 Fällen keine kritischen Fehler gezeigt; Ärzte hätten seine Antworten in einem verblindeten Vergleich bevorzugt. Bei offenen Medikamentenfragen im RxQA-Datensatz habe es andere führende KI-Systeme übertroffen. In simulierten Telemedizin-Gesprächen mit Bild und Ton konnte es nach Angaben der Autoren etwa bei Inhalationstechnik und Schultertests anleiten. Fachärzte erzielten jedoch über mehr als 140 bewertete Aspekte insgesamt bessere Ergebnisse, besonders bei Warnzeichen und wichtigen Untersuchungen. Die Angaben zur Zahl und Art der Darsteller unterscheiden sich zwischen Fließtext und Bildunterschrift.

Die Resultate beruhen auf Tests und Simulationen und belegen keine Wirksamkeit im Versorgungsalltag. Der Bericht stuft das System als Unterstützung, nicht als Ersatz für ärztliches Urteil ein; die beschriebenen Arbeiten sind nicht für Diagnose, Behandlung oder Beratung vorgesehen.

Ausführlich lesen

Der Bericht stellt Googles Forschungsinitiative „AI co-clinician“ vor. Ausgangspunkt ist laut den Autoren der weltweite Mangel an medizinischem Fachpersonal: Die Weltgesundheitsorganisation sage bis 2030 einen Fehlbestand von mehr als zehn Millionen Gesundheitskräften voraus. Die Autoren vertreten die Hypothese, dass KI die Versorgung künftig als zusätzliches Teammitglied unterstützen könnte. In ihrem Modell der „triadischen Versorgung“ interagiert KI mit Patienten unter der fachlichen Verantwortung eines Arztes; dessen Urteil und Kontrolle sollen erhalten bleiben. Die Initiative untersucht dafür sowohl Unterstützung für Ärzte als auch patientennahe Anwendungen.

Für die ärztliche Unterstützung berichtet Google DeepMind über eine Zusammenarbeit mit akademischen Medizinern und eine angepasste NOHARM-Bewertung, die falsche Angaben und das Auslassen wichtiger Informationen erfasst. In einem verblindeten Vergleich hätten Ärzte die Antworten des Systems gegenüber führenden Werkzeugen zur Evidenzaufbereitung bevorzugt. Bei 98 realitätsnahen Fragen aus der Primärversorgung habe das System in 97 Fällen keine kritischen Fehler aufgewiesen. Außerdem sei es bei offenen Fragen zu Medikamenten im RxQA-Datensatz anderen führenden KI-Systemen überlegen gewesen. Der Bericht betont, dass offene Fragen die klinische Praxis besser abbilden sollen als Multiple-Choice-Aufgaben.

Für patientennahe Telemedizin untersuchte das Team Echtzeitverarbeitung von Bild und Ton. In einer randomisierten Simulationsstudie mit 20 klinischen Szenarien und laut Bericht zehn ärztlichen Darstellern als Patienten wurden unter anderem Gespräche und körperliche Untersuchungen nachgestellt. Eine Bildunterschrift beschreibt 120 hypothetische Begegnungen und nennt Assistenzärzte als Darsteller; der Bericht macht diese Angaben an unterschiedlichen Stellen. Das System konnte laut Autoren etwa eine Inhalationstechnik korrigieren und durch Schulterbewegungen bei der Prüfung auf eine Rotatorenmanschettenverletzung anleiten. Bewertet wurden mehr als 140 Aspekte der Gesprächsführung. Fachärzte schnitten insgesamt besser ab, besonders beim Erkennen von Warnzeichen und beim Anleiten wichtiger Untersuchungen. In 68 der 140 Bereiche habe das KI-System ein vergleichbares oder besseres Niveau als Hausärzte erreicht.

Als Schutzmaßnahme beschreibt der Bericht eine Architektur mit zwei Agenten: Ein „Planner“ soll fortlaufend überwachen, ob der „Talker“ innerhalb sicherer klinischer Grenzen bleibt. Für ärztliche Antworten priorisiere das System medizinische Evidenz und prüfe Quellenangaben. Google DeepMind kündigt eine schrittweise weitere Forschung mit akademischen und klinischen Partnern in mehreren Ländern an.

Die Ergebnisse stammen aus Fragenbewertungen und Simulationen; der Bericht belegt damit keine Wirksamkeit in der alltäglichen Versorgung. Die Autoren sehen Ärzte im Gesamtergebnis vorn und bezeichnen das System als unterstützendes Werkzeug, nicht als Ersatz für klinisches Urteil. Die gezeigten Fähigkeiten und laufenden Kooperationen seien Forschungszwecken vorbehalten und nicht für Diagnose, Behandlung oder medizinische Beratung bestimmt.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Lunas Zusammenfassung ist inhaltlich weitgehend korrekt, nennt aber die Vergleichsgruppe der Simulation als Fachärzte, obwohl der Bericht Primärversorgungsärzte (PCPs) verglich; der Bericht selbst widerspricht sich bei der Zahl und Art der Darsteller (10 Ärzte im Fließtext, interne Medizinerresidenten in der Abbildungsunterschrift), was Luna richtig vermerkt. Der Bericht betrifft ein medizinisches KI-System, daher berühren die Sammelfragen zu Laboren, Staaten und Modellbetrieb nur am Rande.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Planner-Talker-Architektur, mit der ein Modul das Gespräch überwacht und die Aussagen des Gesprächsagenten auf sichere klinische Grenzen prüft
  • Die phasenweise Evaluation mit Kooperationspartnern in USA, Indien, Australien, Neuseeland, Singapur und VAE

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 34 %Hintergrund, keine Belege
    • JEV 32 %einzelne zitierbare Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 72 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Fähigkeiten messen
  1. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 32 %einzelne zitierbare Belege
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 71 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 31 %Hintergrund, keine Belege
    • amos 25 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-F4-T03 Welche neue Prüfung braucht jeder Einsatz, wenn Fähigkeiten zunehmend im Nachdenken des Modells während der Nutzung stecken statt in einem einmal trainierten Modell, und würden die für ein festes Modell gebauten Freigabetests das noch erfassen? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 100 %kein Bezug
    • Luna 49 %Hintergrund, keine Belege
    • JEV 42 %einzelne zitierbare Belege
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 22 %gleiches Oberthema, hilft nicht
    • Luna 65 %einzelne zitierbare Belege
    • JEV 40 %umfangreiche Belege
    • amos 30 %einzelne zitierbare Belege
    • SubQ 29 %gleiches Oberthema, hilft nicht
    • drex 37 %einzelne zitierbare Belege
    • d3-ultra 39 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 53 %Hintergrund, keine Belege
    • JEV 34 %Hintergrund, keine Belege
    • amos 27 %nur am Rande erwähnt
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-T1-T05 Welche messbaren Vergleichswerte würden zeigen, dass die Ausrichtung der Modelle eines Labors an den vorgesehenen Zielen und Werten schneller vorankommt, als ihre Fähigkeiten wachsen, über das Fehlen öffentlicher Fehlschläge hinaus? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
    • SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 36 %einzelne zitierbare Belege
    • JEV 37 %umfangreiche Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 22 %Hintergrund, keine Belege
    • d3-ultra 100 %kein Bezug

    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 6 · 41 % · beantwortet teilweise oder widerspricht · Haiku-Prüfung: Stufe 6 · beantwortet teilweise oder widerspricht
    • SF-V1-T03 Was ist das Kleinste, das ein Modell öffentlich vorlegen kann (ein Test, ein Protokoll, eine Spur), das als Beleg für Ausrichtung an den vorgesehenen Zielen und Werten zählt und nicht nur für Leistung? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
    • SF-V1-T10 Kann etwas, das Modelle über sich und ihre Absichten sagen, als Beleg für Ausrichtung zählen, wenn es nur weiterer erzeugter Text ist, und welche Verfahren machen solche Selbstauskünfte vertrauenswürdig statt nur flüssig? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
    • SF-V1-T13 Wenn sich vorgeführte und tatsächlich vertretene Tugend im Text nicht unterscheiden lassen: Soll der Unterschied trotzdem bestimmen, wie man Modelle baut und regelt? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege
    • SF-V1-T15 Welches messbare Maß für Überwachbarkeit könnte neben Fähigkeitstests stehen, und würden Labore es tatsächlich über weitere Skalierung entscheiden lassen? Welcher gemessene Verlust an Überwachung würde Einschränkungen der Selbstständigkeit eines Modells auslösen, und wie erkennt man Fehler, die im sichtbaren Denken nicht auftauchen? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 54 %Hintergrund, keine Belege
    • JEV 38 %einzelne zitierbare Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 42 %gleiches Oberthema, hilft nicht
    • drex 30 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-V3-T03 Werden Labore und die übrige Branche gemeinsame Tests veröffentlichen, ob Werte bei unbekannten Aufgaben, widerstreitenden Anreizen, in gegnerischen Lagen und bei fehlender oder anders wahrgenommener Aufsicht halten, unabhängig wiederholt und mit Fehlschlägen und Unsicherheit? Luna: Stufe 3 · 49 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
    • SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 35 %Hintergrund, keine Belege
    • JEV 39 %einzelne zitierbare Belege
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 24 %gleiches Oberthema, hilft nicht
    • Luna 58 %einzelne zitierbare Belege
    • JEV 36 %umfangreiche Belege
    • amos 31 %einzelne zitierbare Belege
    • SubQ 30 %gleiches Oberthema, hilft nicht
    • drex 28 %einzelne zitierbare Belege
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung einzelne zitierbare Belege

Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 22 %gleiches Oberthema, hilft nicht
    • Luna 54 %einzelne zitierbare Belege
    • JEV 51 %beantwortet teilweise oder widerspricht
    • amos 32 %einzelne zitierbare Belege
    • SubQ 26 %gleiches Oberthema, hilft nicht
    • drex 21 %gleiches Oberthema, hilft nicht
    • d3-ultra 32 %einzelne zitierbare Belege

    • SF-A1-T03 Werden Freigabetests messen, ob ein Agent folgenreiche Handlungen außerhalb seines Auftrags unterlässt, auch wenn kein einzeln aufgeführtes Verbot sie blockiert, und werden die Kriterien veröffentlicht? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 31 %gleiches Oberthema, hilft nicht
    • Luna 69 %Hintergrund, keine Belege
    • JEV 41 %gleiches Oberthema, hilft nicht
    • amos 29 %nur am Rande erwähnt
    • SubQ 30 %gleiches Oberthema, hilft nicht
    • drex 26 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht

Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV 28 %Hintergrund, keine Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 34 %einzelne zitierbare Belege
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  3. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 76 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 48 %Hintergrund, keine Belege
    • JEV 39 %einzelne zitierbare Belege
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-O2-T05 Welche öffentlichen Zusagen eines Spitzenlabors macht die juristische Person, die bei einem Bruch verklagt würde, und welche nur das Forschungsteam, und veröffentlichen die Labore das für jede Zusage? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
Beteiligung und Gemeinwohl
  1. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 43 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 54 %Hintergrund, keine Belege
    • JEV 29 %gleiches Oberthema, hilft nicht
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  3. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 24 %gleiches Oberthema, hilft nicht
    • Luna 65 %einzelne zitierbare Belege
    • JEV 33 %einzelne zitierbare Belege
    • amos 31 %nur am Rande erwähnt
    • SubQ 27 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →