Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
deepmind15. Juni 2018 · Q005018

DeepMind Health Response to Independent Reviewers' Report 2018

deepmind.google · Originalbericht öffnen ↗

Zusammenfassung

Kurz

DeepMind Health berichtet, auf frühere Empfehlungen unabhängiger Prüfer zu Beteiligung, Datenverwaltung und klinischem Einsatz reagiert zu haben, und kündigt weitere Schritte an: ein nutzungsbezogenes Geschäftsmodell prüfen, NHS-Verträge transparenter machen, Tests und Öffentlichkeitsarbeit ausbauen sowie Informationsverwaltung stärken. Die Behauptung, Trusts behielten jederzeit die Datenkontrolle, stammt vom Unternehmen; die Stellungnahme belegt die Umsetzung der Vorhaben nicht unabhängig.

Mittel

Die Stellungnahme von DeepMind Health reagiert auf den Jahresbericht unabhängiger Prüfer von 2018. Das Unternehmen erklärt, es habe an den zuvor angesprochenen Fragen zu Stakeholder-Beteiligung, Datenverwaltung und den Auswirkungen neuer Technologien im klinischen Alltag gearbeitet. Die Prüfer hätten Fortschritte anerkannt und weitere Empfehlungen gegeben.

DeepMind Health kündigt an, ein längerfristiges Geschäftsmodell zu entwickeln und ergebnisabhängige Kosten zu prüfen. Es wolle die rechtlichen Grundlagen seiner NHS-Partnerschaften klarer darstellen und Verträge mit Trusts veröffentlichen. Das Unternehmen behauptet, die Trusts behielten die Datenkontrolle und Patientendaten würden nur nach deren Anweisungen verwendet. Weitere Vorhaben sind mehr Tests mit Patienten und Klinikpersonal, der Ausbau des „Verifiable Data Audit“, eine stärkere Einbeziehung der Öffentlichkeit sowie Maßnahmen zu Vielfalt und Zugänglichkeit. Eine Vollzeitkraft für Informationsverwaltung sei bereits eingestellt worden.

Der Text ist eine Unternehmensstellungnahme: Er nennt nicht die Empfehlungen im vollständigen Wortlaut und belegt nicht unabhängig, ob Fortschritte oder Zusagen umgesetzt wurden.

Ausführlich lesen

Der Bericht ist eine Stellungnahme von Dominic King im Namen von DeepMind Health zum Jahresbericht 2018 unabhängiger Prüfer. Er beschreibt, warum DeepMind Health nach eigener Darstellung 2016 zusätzlich ein regelmäßig tagendes Gremium unabhängiger Prüfer eingerichtet hat: Technologie im Gesundheitswesen solle von einer ebenso weitreichenden Aufsicht begleitet werden. Die Prüfer sollten die Arbeit des Unternehmens hinterfragen und Empfehlungen zur Verbesserung geben.

King erklärt, der Bericht des Vorjahres habe Fragen zur Zusammenarbeit mit betroffenen Gruppen, zur Datenverwaltung und zu den Verhaltensweisen aufgeworfen, die beim Einsatz neuer Technologien im klinischen Alltag zu berücksichtigen seien. DeepMind Health gibt an, im vergangenen Jahr an diesen Punkten gearbeitet zu haben. Die Prüfer hätten die erzielten Fortschritte im aktuellen Jahresbericht anerkannt, zugleich aber weitere Empfehlungen ausgesprochen. Die Stellungnahme fasst diese Empfehlungen nicht im Einzelnen zusammen, sondern nennt Bereiche, in denen das Unternehmen weiterarbeiten wolle.

DeepMind Health erklärt, es entwickle noch ein längerfristiges Geschäftsmodell und einen Fahrplan. In der frühen Phase habe der Nachweis, dass die Technologien die Versorgung verbessern und Kosten senken könnten, Vorrang vor einer Gebühr gehabt. Das Unternehmen wolle weiterhin ergebnisabhängige Bestandteile des Geschäftsmodells prüfen, sodass die Kosten zumindest teilweise an den erzielten Nutzen geknüpft wären.

Zur Datenverantwortung kündigt die Stellungnahme an, mehr Klarheit über die verbindlichen rechtlichen Rahmenbedingungen der NHS-Partnerschaften zu schaffen und die Verträge mit den Trusts öffentlich zugänglich zu machen. Zugleich behauptet DeepMind Health, die Trusts behielten jederzeit die Kontrolle über die Daten und das Unternehmen dürfe Patientendaten rechtlich und vertraglich nur nach den Anweisungen seiner Partner verwenden.

Weitere Vorhaben betreffen den Ausbau von Tests mit Ärztinnen, Ärzten und Patientinnen und Patienten, um vielfältigeres Feedback und die Bedingungen des klinischen Alltags stärker zu berücksichtigen. Das Unternehmen verweist auf die zu Jahresbeginn eingestellte Vollzeitkraft für Informationsverwaltung und kündigt an, sein Werkzeug „Verifiable Data Audit“ sowie weitere Instrumente auszubauen, um die Datennutzung nachvollziehbarer zu machen. Außerdem verspricht es, Patienten und Öffentlichkeit über die Website und persönliche Veranstaltungen einzubeziehen und die im Bericht angesprochenen Fragen zu Vielfalt und Zugänglichkeit aufzugreifen.

Die Stellungnahme dankt den Prüfern für ihre kritische Begleitung und stellt diese als Beitrag zu besserer Arbeit für Patienten, medizinisches Personal, Angehörige und weitere Menschen im Gesundheitswesen dar. Als Grenzen gilt: Der Text gibt DeepMind Healths eigene Darstellung und Zusagen wieder. Er enthält weder die vollständigen Prüferempfehlungen noch unabhängige Belege dafür, inwieweit die beschriebenen Fortschritte oder geplanten Maßnahmen umgesetzt wurden.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Zusammenfassung ist im Kern treu; nur die Angabe nutzungsbezogen statt ergebnisbezogen sollte korrigiert werden. Die Einordnung stützt sich allein auf das Unternehmensposting, das keine unabhängigen Belege enthält.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Begründung, warum zunächst kein Entgelt verlangt wird: Erst soll der Nutzen für Patientenversorgung und Kostensenkung belegt werden
  • Die Aussage, dass die kritischen Fragen der Prüfer das Unternehmen besser machen

In der Zusammenfassung, laut Prüfung nicht im Bericht belegt

  • Die Kurzfassung nennt ein nutzungsbezogenes Geschäftsmodell, der Bericht spricht dagegen von ergebnisbezogenen Elementen (outcomes-based)

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 35 %einzelne zitierbare Belege
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 27 %Hintergrund, keine Belege
    • JEV 30 %Hintergrund, keine Belege
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 28 %einzelne zitierbare Belege
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 28 %einzelne zitierbare Belege
    • amos 24 %Hintergrund, keine Belege
    • SubQ 37 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra 48 %gleiches Oberthema, hilft nicht
  2. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 18 %gleiches Oberthema, hilft nicht
    • Luna 49 %einzelne zitierbare Belege
    • JEV 51 %einzelne zitierbare Belege
    • amos 33 %einzelne zitierbare Belege
    • SubQ 40 %einzelne zitierbare Belege
    • drex 39 %einzelne zitierbare Belege
    • d3-ultra 21 %nur am Rande erwähnt
    • Haiku-Prüfung Hintergrund, keine Belege

  3. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 18 %gleiches Oberthema, hilft nicht
    • Luna 47 %Hintergrund, keine Belege
    • JEV 41 %einzelne zitierbare Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 45 %einzelne zitierbare Belege
    • drex 44 %einzelne zitierbare Belege
    • d3-ultra 33 %gleiches Oberthema, hilft nicht

    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 25 % · Hintergrund, keine Belege
    • SF-P3-T08 Welche gemeinsame Bezugsgröße für den Umfang der Nutzung, welcher Beobachtungszeitraum, welcher Stichprobenplan, welche Definition von Beinahe-Vorfall und welche statistische Obergrenze (obere Konfidenzgrenze) würden es jedem erlauben zu sagen: „keine erkennbare systemische Fehlausrichtung (Verhalten gegen die vorgesehenen Ziele oder Werte) im Einsatzmaßstab“? Und wie muss dargestellt werden, dass die Erkennung lückenhaft ist? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 58 %Hintergrund, keine Belege
    • JEV 42 %Hintergrund, keine Belege
    • amos 100 %kein Bezug
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden? Luna: Stufe 4 · 54 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 45 %einzelne zitierbare Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 55 %einzelne zitierbare Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 63 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 43 %einzelne zitierbare Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 37 %gleiches Oberthema, hilft nicht
    • drex 27 %Hintergrund, keine Belege
    • d3-ultra 50 %gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 28 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Modelle teilen und schützen
  1. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 45 %einzelne zitierbare Belege
    • amos 29 %gleiches Oberthema, hilft nicht
    • SubQ 34 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 83 %einzelne zitierbare Belege
    • JEV 35 %beantwortet teilweise oder widerspricht
    • amos 23 %einzelne zitierbare Belege
    • SubQ 30 %gleiches Oberthema, hilft nicht
    • drex 28 %einzelne zitierbare Belege
    • d3-ultra 44 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-O2-T05 Welche öffentlichen Zusagen eines Spitzenlabors macht die juristische Person, die bei einem Bruch verklagt würde, und welche nur das Forschungsteam, und veröffentlichen die Labore das für jede Zusage? Luna: Stufe 4 · 41 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
  2. SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
    • clef 100 %kein Bezug
    • Luna 41 %einzelne zitierbare Belege
    • JEV 37 %nur am Rande erwähnt
    • amos 25 %einzelne zitierbare Belege
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 48 %einzelne zitierbare Belege
    • amos 27 %gleiches Oberthema, hilft nicht
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 56 %einzelne zitierbare Belege
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  3. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 53 %einzelne zitierbare Belege
    • JEV 63 %einzelne zitierbare Belege
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung nur am Rande erwähnt

  4. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 23 %nur am Rande erwähnt
    • Luna 42 %einzelne zitierbare Belege
    • JEV 39 %einzelne zitierbare Belege
    • amos 29 %einzelne zitierbare Belege
    • SubQ 26 %gleiches Oberthema, hilft nicht
    • drex 24 %einzelne zitierbare Belege
    • d3-ultra 33 %gleiches Oberthema, hilft nicht

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
Wirtschaft und Haftung

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →