Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
deepmind5. Juli 2017 · Q004977

Independent Reviewers release first annual report on DeepMind Health

deepmind.google · Originalbericht öffnen ↗

Zusammenfassung

Kurz

DeepMind Health berichtet über den ersten Jahresbericht eines unabhängigen Gremiums, das laut den Autoren vollen Zugang zur Arbeit des Unternehmens hatte. Das Unternehmen sagt Änderungen sowie eine stärkere Einbindung von Patienten und NHS-Gruppen zu, nennt aber weder die konkreten Prüfergebnisse noch die einzelnen Maßnahmen.

Mittel

DeepMind Health kündigt den ersten Jahresbericht eines unabhängigen Gutachtergremiums an. Laut den Autoren erhielten die Fachleute vollen Zugang zur Arbeit des Unternehmens; das Gremium sollte offen prüfen und Kritik üben. DeepMind Health erklärt, als Folge des Verfahrens Änderungen zugesagt zu haben, um höhere Standards anzustreben. Das Unternehmen räumt ein, stärker auf ein breiteres Spektrum aus Medizin und Gesellschaft eingehen zu müssen. Es nennt eine bessere Zusammenarbeit mit Patienten und der Öffentlichkeit sowie weiteren NHS-Gruppen, führt die konkreten Maßnahmen aber nicht aus.

Zudem soll Paul Buchanan als Verantwortlicher für Patienten- und Öffentlichkeitsbeteiligung Patientenstimmen stärker einbringen. Der Beitrag verweist auch auf eine Untersuchung der Informationsbeauftragten zur Partnerschaft mit dem Royal Free London NHS Trust, erläutert deren Ausgang und Lehren hier jedoch nicht. Die Autoren versprechen, weiterhin Kritik einzuholen. Der Text kündigt den Bericht an und fasst Unternehmenszusagen zusammen; seine konkreten Prüfbefunde sind darin nicht enthalten.

Ausführlich lesen

Der Beitrag von Mustafa Suleyman und Dominic King kündigt den ersten Jahresbericht eines unabhängigen Gutachtergremiums zu DeepMind Health an. Die Autoren erklären, das Gremium bestehe aus Fachleuten, die vollen Zugang zu ihrer Arbeit erhalten hätten. Sie bezeichnen dieses Prüfverfahren für ein Technologieunternehmen als ungewöhnlich und hoffen, dass es die Kontrolle verstärkt und die Arbeit verbessert. Suleyman sagt, die Mitglieder seien wegen ihrer Expertise und Integrität ausgewählt worden und sollten offen Kritik üben können.

Laut Beitrag hat DeepMind Health als Reaktion auf den Prüfprozess Änderungen an seiner Arbeit und seinen Praktiken zugesagt, um im zweiten Jahr höhere Standards anzustreben. Das Unternehmen räumt ein, stärker auf die Bedürfnisse eines breiteren Spektrums aus Medizin und Gesellschaft eingehen und Verantwortung übernehmen zu müssen. Genannt werden eine deutliche Verbesserung der Zusammenarbeit mit Patienten und der Öffentlichkeit sowie eine Fortsetzung des Austauschs mit medizinischen Fachgesellschaften, Berufsverbänden und weiteren Gruppen im NHS-Umfeld. Welche konkreten Änderungen vereinbart wurden oder welche Befunde der Jahresbericht enthält, führt der Beitrag nicht aus; dafür verweist er auf verlinkte Dokumente.

Außerdem kündigt DeepMind Health die Zusammenarbeit mit Paul Buchanan als Verantwortlichem für Patienten- und Öffentlichkeitsbeteiligung an. Er wird als Patientenvertreter und früherer Patient Editor des BMJ vorgestellt. Er soll Patientenstimmen stärker in die Arbeit einbringen. Der Beitrag würdigt zugleich die zuvor begonnene Arbeit von Rosamund Snow.

Der Text verweist auf einen am Vortag veröffentlichten Beitrag zur Beilegung einer Untersuchung der britischen Informationsbeauftragten über den Royal Free London NHS Trust und dessen erste Partnerschaft mit DeepMind Health. Die dort gewonnenen Lehren werden hier nicht näher erläutert. Abschließend verspricht Suleyman, weiterhin unabhängige Kritik und Rückmeldungen einzuholen, und lädt zur Kontaktaufnahme ein. Insgesamt ist der vorliegende Text eine Ankündigung und Selbstdarstellung des Unternehmens: Er beschreibt den Prüfprozess und allgemeine Zusagen, liefert aber weder die konkreten Ergebnisse der unabhängigen Prüfung noch Einzelheiten zu den angekündigten Änderungen.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Der Bericht ist ein DeepMind-Blogbeitrag von 2017 und enthält den Prüfbericht selbst nicht. Die Einordnung stützt sich nur auf den Beitragstext. Die Fragen zu Vereinbarungen zwischen Laboren aus dem Jahr 2026 liegen außerhalb seines Gegenstands.

Im Bericht, aber nicht in der Zusammenfassung

  • Paul Buchanan war früher Patient Editor des BMJ
  • Rosamund Snow hat das Patientenengagement zuvor begonnen
  • Der Bericht nennt Royal Colleges und Berufsverbände als Gesprächspartner

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 49 %einzelne zitierbare Belege
    • amos 27 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 30 %einzelne zitierbare Belege
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 43 %einzelne zitierbare Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 28 %gleiches Oberthema, hilft nicht
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 16 %Hintergrund, keine Belege
    • Luna 59 %einzelne zitierbare Belege
    • JEV 52 %einzelne zitierbare Belege
    • amos 34 %einzelne zitierbare Belege
    • SubQ 32 %einzelne zitierbare Belege
    • drex 41 %einzelne zitierbare Belege
    • d3-ultra 36 %einzelne zitierbare Belege
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-P2-T01 Wer wählt die Prüfer aus, wer bezahlt sie, wer darf sie entlassen, und wird dieser Vertrag vor dem ersten Befund veröffentlicht? Welchen Mindestvertrag, der ihre Unabhängigkeit wahrt, könnten Labore jetzt unterschreiben, ohne auf ein Gesetz zu warten, einschließlich der Frage, wie Berichte veröffentlicht werden? Und wie bleiben die Prüfer unabhängig, wenn Geld oder Infrastruktur vom geprüften Labor kommen? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-P2-T04 Werden die Zugangsrechte der Prüfer veröffentlicht, gibt es einen unabhängigen, befristeten Einspruch gegen Schwärzungen, ein unabhängiges Verfahren für den Streit, wenn ein Labor einen Befund als Geschäftsgeheimnis schwärzt und der Prüfer ihn für ein Sicherheitsproblem hält, und ein öffentliches Register verweigerter Zugänge und Schwärzungen, damit das Schweigen eines Prüfers nicht als Zeichen von Sicherheit gelesen wird? Luna: Stufe 3 · 26 % · Hintergrund, keine Belege
    • SF-P2-T06 Wenn ein Laborchef eine Vereinbarung zwischen Laboren andeutet: Welche Labore gehören dazu, und gehören unabhängige Prüfer mit mitarbeiterähnlichem Zugang dazu? Gefragt wurde das zu Sam Altman (OpenAI), der im Fortune-Interview vom 12. September 2026 ein Treffen mit Dario Amodei (Anthropic), Elon Musk (xAI) und Demis Hassabis (Google DeepMind) für wahrscheinlich hielt. Luna: Stufe 3 · 33 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 0 · kein Bezug
  3. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 18 %Hintergrund, keine Belege
    • Luna 36 %Hintergrund, keine Belege
    • JEV 45 %einzelne zitierbare Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 40 %einzelne zitierbare Belege
    • drex 41 %einzelne zitierbare Belege
    • d3-ultra 34 %gleiches Oberthema, hilft nicht

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 25 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 59 %Hintergrund, keine Belege
    • JEV 37 %gleiches Oberthema, hilft nicht
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

    • SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden? Luna: Stufe 4 · 30 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 48 %einzelne zitierbare Belege
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 35 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 23 %gleiches Oberthema, hilft nicht
    • Luna 100 %kein Bezug
    • JEV 29 %Hintergrund, keine Belege
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 44 %gleiches Oberthema, hilft nicht
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra 47 %gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 60 %einzelne zitierbare Belege
    • JEV 46 %einzelne zitierbare Belege
    • amos 23 %einzelne zitierbare Belege
    • SubQ 35 %gleiches Oberthema, hilft nicht
    • drex 28 %gleiches Oberthema, hilft nicht
    • d3-ultra 44 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-O2-T05 Welche öffentlichen Zusagen eines Spitzenlabors macht die juristische Person, die bei einem Bruch verklagt würde, und welche nur das Forschungsteam, und veröffentlichen die Labore das für jede Zusage? Luna: Stufe 4 · 31 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
    • SF-O2-T06 Prüfer mit dauerhaftem Zugang im Labor sollen Nachprüfbarkeit, Transparenz und eine zweite Meinung bringen. Was sollten sie darüber hinaus veröffentlichen, das heute vertraulich bleibt, etwa Beinahe-Vorfälle oder Teilprüfungen noch unveröffentlichter Modelle? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
  2. SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 22 %einzelne zitierbare Belege
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 29 %Hintergrund, keine Belege
    • JEV 42 %einzelne zitierbare Belege
    • amos 28 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 37 %einzelne zitierbare Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 45 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  3. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 30 %Hintergrund, keine Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  4. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 23 %nur am Rande erwähnt
    • Luna 31 %Hintergrund, keine Belege
    • JEV 56 %einzelne zitierbare Belege
    • amos 24 %einzelne zitierbare Belege
    • SubQ 33 %gleiches Oberthema, hilft nicht
    • drex 32 %gleiches Oberthema, hilft nicht
    • d3-ultra 44 %gleiches Oberthema, hilft nicht

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →