Using AI to give doctors a 48-hour head start on life-threatening illness
Zusammenfassung
Kurz
Der Bericht beschreibt ein KI-Forschungsmodell, das akute Nierenschädigung laut Auswertung von VA-Gesundheitsdaten bis zu 48 Stunden früher vorhersagen konnte, sowie positive Ergebnisse der App Streams am Royal Free: schnellere Facharztprüfungen, weniger übersehene Fälle und niedrigere Aufnahmekosten. Die KI ist noch nicht in Streams integriert; die App-Auswertung stammt aus einem einzelnen Krankenhaus.
Mittel
Der Bericht stellt zwei Arbeiten zu akuter Nierenschädigung (AKI) vor: Ein mit der US-Veteranenbehörde entwickeltes KI-Modell wertete anonymisierte Gesundheitsdaten aus mehr als hundert VA-Standorten aus. Laut Bericht konnte es AKI bis zu 48 Stunden vor der üblichen Diagnose vorhersagen und erkannte neun von zehn Personen, deren Zustand später eine Dialyse erforderte. Es erläutert zudem wichtige Einflussfaktoren seiner Vorhersagen. Die klinische App Streams wurde unabhängig davon am Royal Free London ausgewertet. Sie nutzt den bestehenden NHS-Algorithmus, erleichtert den Zugriff auf Patientendaten und beschleunigt die Kommunikation. Dringende Fälle seien binnen 15 Minuten fachärztlich geprüft worden; übersehene AKI-Fälle sanken von 12,4 auf 3,3 Prozent, die durchschnittlichen Aufnahmekosten um 17 Prozent. Fachkräfte berichteten von Zeitersparnis und besserer Zusammenarbeit. Die KI-Ergebnisse stammen aus einer Datensatzstudie. Streams verwendet laut Bericht bislang keine KI; deren sichere Einbindung ist erst geplant. Die App-Auswertung bezieht sich auf das Royal Free, sodass der Bericht keine gleichartigen Ergebnisse für andere Kliniken belegt.
Ausführlich lesen
Der Bericht beschreibt zwei Arbeiten zu akuter Nierenschädigung (AKI): ein Forschungsmodell von DeepMind und der US-Veteranenbehörde VA, das eine Verschlechterung früher vorhersagen soll, sowie eine klinische Auswertung der mobilen App Streams am Royal Free London NHS Foundation Trust. Das Ziel ist, Ärztinnen und Ärzte früher auf gefährdete Patientinnen und Patienten aufmerksam zu machen und die Versorgung von einer nachträglichen Reaktion zu früherem Eingreifen zu verschieben.
Für die KI-Studie verwendete das Team laut Bericht einen umfangreichen, anonymisierten elektronischen Datensatz aus einem Netzwerk von mehr als hundert VA-Standorten. Das Modell habe AKI bis zu 48 Stunden vor der üblichen Diagnose korrekt vorhersagen können. Neun von zehn Patientinnen und Patienten, deren Zustand sich so stark verschlechterte, dass sie anschließend Dialyse benötigten, seien erkannt worden. Das Modell zeige außerdem die klinischen Informationen, die für eine Vorhersage maßgeblich waren, und prognostizierte Werte mehrerer Bluttests. Das könne medizinischem Personal helfen, Warnungen nachzuvollziehen und eine Verschlechterung einzuschätzen. Eine spätere Übertragung auf andere Erkrankungen wie Sepsis wird als Möglichkeit dargestellt.
Die zweite Arbeit untersuchte Streams, eine seit 2017 am Royal Free eingesetzte App. Sie nutzt den bestehenden nationalen NHS-Algorithmus zur Erkennung von AKI, unterstützt die Einsicht in Patientendaten am Behandlungsort und ermöglicht schnelle Nachrichten zwischen Teams. Laut der im Bericht wiedergegebenen Auswertung wurden dringende Fälle mit Streams binnen höchstens 15 Minuten fachärztlich geprüft; ohne die App könne dies mehrere Stunden dauern. Der Anteil übersehener AKI-Fälle sei von 12,4 auf 3,3 Prozent gesunken. Die durchschnittlichen Kosten eines Krankenhausaufenthalts bei AKI seien um 17 Prozent zurückgegangen. Befragte Fachkräfte berichteten außerdem von Zeitersparnis und besserer Kommunikation.
Der Bericht setzt die Ergebnisse in den Kontext der Krankheitslast: AKI betreffe bis zu ein Fünftel der Krankenhauspatienten in Großbritannien und den USA; Fachleute hielten bis zu 30 Prozent der Fälle bei rechtzeitigem Eingreifen für vermeidbar. Die App-Auswertung deutet laut Bericht darauf hin, dass frühere Interventionen noch vor dem Alarm des bestehenden NHS-Algorithmus hilfreich sein könnten.
Die Aussagen haben erkennbare Grenzen: Die KI-Vorhersage stammt aus einer Datensatzstudie und wird als mögliche Grundlage künftiger Behandlung beschrieben. Streams selbst verwendet nach dem Bericht derzeit keine KI; eine sichere Integration des Vorhersagemodells ist erst geplant. Die Ergebnisse der App beziehen sich auf eine Auswertung am Royal Free. Der Bericht belegt damit weder, dass die KI bereits Patientinnen und Patienten im klinischen Alltag versorgt, noch dass die beschriebenen Verbesserungen überall eintreten.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Beide Zusammenfassungen von Luna werden gemeinsam bewertet, da das Schema nur eine Zusammenfassung vorsieht. Der Bericht ist ein Blogbeitrag von DeepMind aus dem Jahr 2019 über klinische KI. Die Fragen zielen auf allgemeine KI-Governance, deshalb fallen die Bezüge gering aus, und Lunas höhere Stufen bei SF-T1 und SF-M4-T04 sind nicht durch den Text gedeckt.
Im Bericht, aber nicht in der Zusammenfassung
- Bis zu 30 Prozent der Fälle könnten durch frühes Eingreifen verhindert werden.
- Das Modell soll sich möglicherweise auf andere Ursachen wie Sepsis übertragen lassen.
- Das Streams-Team und die Forschung wechseln zu Google Health unter David Feinberg.
- Klinikerinnen und Kliniker schätzten die Zeitersparnis durch Streams auf bis zu zwei Stunden täglich.
In der Zusammenfassung, laut Prüfung nicht im Bericht belegt
- Das Wort „unabhängig“ zur Streams-Auswertung. Der Bericht nennt nur eine begutachtete Auswertung durch Forscher des University College London.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 54 %einzelne zitierbare Belege
- JEV 49 %einzelne zitierbare Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung einzelne zitierbare Belege
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 30 %einzelne zitierbare Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 30 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 38 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 63 %gleiches Oberthema, hilft nicht
- SubQ 58 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 32 %Hintergrund, keine Belege
- JEV 28 %Hintergrund, keine Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 69 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 64 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 32 %nur am Rande erwähnt
- JEV 59 %einzelne zitierbare Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 41 %einzelne zitierbare Belege
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Agenten und vernetzte Systeme
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 60 %einzelne zitierbare Belege
- JEV 48 %einzelne zitierbare Belege
- amos 30 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung einzelne zitierbare Belege
- SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 39 %nur am Rande erwähnt
- amos 26 %nur am Rande erwähnt
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 34 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 45 %einzelne zitierbare Belege
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 37 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 33 %gleiches Oberthema, hilft nicht
- JEV 23 %gleiches Oberthema, hilft nicht
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 30 %Hintergrund, keine Belege
- JEV 29 %Hintergrund, keine Belege
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen?
- SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat?
Weitere Berichte zu diesen Fragen
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv