Royal Free London publishes findings of legal audit in use of Streams
Zusammenfassung
Kurz
Der DeepMind-Beitrag fasst drei Empfehlungen einer externen Prüfung zur Nutzung von Streams beim Royal Free zusammen: eine Ergänzung der Datenverarbeitungsvereinbarung, fortgesetzte Kontrollen genehmigter Fernzugriffe und die Beendigung einer älteren Absichtserklärung. DeepMind erklärt, an den Änderungen zu arbeiten. Der Beitrag gibt nur ausgewählte Empfehlungen wieder und enthält weder den vollständigen Prüfbericht noch eine Bewertung der Umsetzung.
Mittel
Der Blogbeitrag berichtet über eine externe Prüfung der Datenverarbeitung im Zusammenhang mit Streams beim Royal Free London NHS Foundation Trust. Diese Prüfung war Teil von Auflagen nach einer Untersuchung des Information Commissioner. Sie sollte beurteilen, ob die Datenverarbeitung mit DeepMind dem Datenschutzrecht entspricht und die Privatsphäre und Vertraulichkeit der Patientinnen und Patienten wahrt.
Der Beitrag nennt drei Empfehlungen des Prüfberichts für DeepMind Health: Die Vereinbarung zur Auftragsverarbeitung solle DeepMind ausdrücklich verpflichten, den Trust auf mutmaßlich rechtswidrige Anweisungen hinzuweisen; der Fernzugriff genehmigter Mitarbeitender solle weiterhin überprüft und auditiert werden; und der Royal Free solle eine 2016 geschlossene, inzwischen laut DeepMind nicht mehr relevante Absichtserklärung beenden. DeepMind erklärt, an der Vertragsänderung und der Beendigung der MOU mitzuarbeiten.
Der Text kündigt die Fortsetzung der Zusammenarbeit an und verweist auf den vollständigen Auditbericht sowie eine Stellungnahme der Aufsichtsbehörde. Er selbst gibt nur ausgewählte Empfehlungen wieder; vollständige Prüfergebnisse und eine unabhängige Bewertung ihrer Umsetzung enthält er nicht.
Ausführlich lesen
Der Blogbeitrag von Dominic King berichtet über eine Prüfung der Datenverarbeitung beim Einsatz der App Streams am Royal Free London NHS Foundation Trust. Vorausgegangen war eine Untersuchung des britischen Information Commissioner, die im Juli des Vorjahres abgeschlossen worden sei. Im Zuge dessen habe sich der Trust zu mehreren Auflagen verpflichtet. Eine davon war, eine externe Prüfung der aktuellen Datenverarbeitung zwischen dem Royal Free und DeepMind in Auftrag zu geben. Sie sollte nach Darstellung des Beitrags untersuchen, ob die Verarbeitung dem Datenschutzrecht entspricht und die Privatsphäre sowie die Vertraulichkeit der Patientinnen und Patienten wahrt.
Der Beitrag verweist auf den vollständigen Prüfbericht auf der Website des Royal Free und auf eine Stellungnahme des Information Commissioner’s Office. Er fasst drei Empfehlungen des Berichts zusammen, die DeepMind Health betreffen:
Erstens solle die Vereinbarung zur Auftragsverarbeitung geringfügig ergänzt werden. DeepMind solle ausdrücklich verpflichtet sein, den Royal Free zu informieren, wenn DeepMind der Ansicht ist, dass Anweisungen des Trusts gegen Datenschutzrecht verstoßen. Laut Blog arbeiten beide Seiten an dieser Änderung.
Zweitens solle DeepMind weiterhin die Aktivitäten jener Mitarbeitenden prüfen und auditieren, denen genehmigter Fernzugriff auf die betreffenden Systeme erteilt wurde. Der Beitrag beschreibt diese Empfehlung, nennt aber keine Ergebnisse solcher Prüfungen oder Angaben zu ihrer Häufigkeit.
Drittens solle der Royal Free eine frühere Absichtserklärung (Memorandum of Understanding, MOU) mit DeepMind beenden. Das Dokument war laut Beitrag im Januar 2016 unterzeichnet worden, um damals geplante Dienste zu beschreiben. DeepMind erklärt, die Vereinbarung sei für die aktuelle Zusammenarbeit nicht mehr relevant und man werde mit dem Trust an ihrer Beendigung arbeiten.
Abschließend kündigt der Beitrag an, die Zusammenarbeit mit dem Royal Free fortzusetzen, um die Versorgung von Patientinnen und Patienten zu verbessern. Außerdem verweist er auf weitere Informationen zur Verarbeitung und zum Schutz von Patientendaten sowie auf einen früheren Blogbeitrag.
Die vorliegende Quelle ist ein kurzer Blogbeitrag von DeepMind, der ausgewählte Empfehlungen des Audits wiedergibt. Sie enthält weder den vollständigen Auditbericht noch die verlinkte Stellungnahme der Aufsichtsbehörde. Daher lassen sich aus diesem Text allein weder die gesamten Prüfergebnisse noch eine unabhängige Bewertung der Umsetzung oder der tatsächlichen Auswirkungen auf den Datenschutz ableiten.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Lunas Einordnung nennt drei Sammelfragen (SF-P3, SF-O2, SF-T1) und keine Teilfragen, daher wurden nur die drei Sammelfragen bewertet. Die Kurzfassung ist sachlich treu, lässt aber den Anlass und den Zweck der Prüfung aus; die mittlere Fassung deckt beides ab.
Im Bericht, aber nicht in der Zusammenfassung
- Die Kurzfassung nennt nicht den Anlass der Prüfung: eine Auflage (undertakings) nach der ICO-Untersuchung zu Streams und den Prüfzweck, die Datenverarbeitung auf Datenschutzkonformität sowie Privatsphäre und Vertraulichkeit der Patienten zu prüfen.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 24 %Hintergrund, keine Belege
- amos 29 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 58 %einzelne zitierbare Belege
- amos 23 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 26 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 47 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 42 %einzelne zitierbare Belege
- amos 23 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 38 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 39 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 44 %einzelne zitierbare Belege
- JEV 100 %kein Bezug
- amos 26 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 32 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 45 %Hintergrund, keine Belege
- JEV 38 %Hintergrund, keine Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 71 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 52 %einzelne zitierbare Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 41 %einzelne zitierbare Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 70 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 34 %einzelne zitierbare Belege
- amos 27 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 34 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 43 %einzelne zitierbare Belege
- JEV 52 %einzelne zitierbare Belege
- amos 24 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 30 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung umfangreiche Belege
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 24 %nur am Rande erwähnt
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 40 %einzelne zitierbare Belege
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 51 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 30 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 52 %einzelne zitierbare Belege
- amos 29 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv