A major milestone for the treatment of eye disease
Zusammenfassung
Kurz
DeepMind und Moorfields berichten über ein KI-System, das OCT-Aufnahmen auswerten und Empfehlungen zur Dringlichkeit bei mehr als 50 Augenerkrankungen geben soll. Die Forschenden stellen frühe Ergebnisse vor; vor dem Versorgungseinsatz sind laut Bericht noch Produktentwicklung, klinische Studien und behördliche Zulassung nötig.
Mittel
Der Bericht beschreibt frühe Ergebnisse einer gemeinsamen Forschungsarbeit von DeepMind und dem Moorfields Eye Hospital. Die Forschenden geben an, ihr KI-System könne OCT-Aufnahmen schnell auswerten und Behandlungsempfehlungen für mehr als 50 sehbedrohende Augenerkrankungen so genau geben wie führende Fachärzte. Bei Moorfields würden täglich über 1.000 OCT-Überweisungen eingehen; die aufwendige Auswertung könne dringende Behandlungen verzögern. Das System soll Krankheitsmerkmale binnen Sekunden erkennen und Patientinnen und Patienten nach Dringlichkeit sortieren.
Es nutzt zwei neuronale Netze: Eines erstellt eine Karte erkannter Gewebe und Krankheitsmerkmale, das andere leitet daraus Diagnosen und eine Überweisungsempfehlung samt Prozentangabe zur Sicherheit ab. So sollen Fachkräfte die Empfehlung besser nachvollziehen und weiterhin über die Behandlung entscheiden können. Die Technik soll sich auf unterschiedliche Scanner übertragen lassen.
Ein klinischer Einsatz ist laut Bericht noch nicht belegt: Zunächst müsse das Forschungsergebnis zum Produkt entwickelt und in klinischen Studien geprüft sowie behördlich zugelassen werden. Bei erfolgreicher Validierung plant Moorfields einen zunächst fünfjährigen kostenlosen Einsatz in 30 Einrichtungen. Zusätzlich wurde ein für KI-Forschung aufbereiteter Datensatz erstellt, der bereits neun weitere Studien unterstützt habe.
Ausführlich lesen
Der Bericht schildert die erste Phase einer gemeinsamen Forschungsarbeit von DeepMind und dem Moorfields Eye Hospital. Nach Darstellung der Autorinnen und Autoren kann das entwickelte KI-System OCT-Aufnahmen aus dem klinischen Alltag schnell auswerten und Empfehlungen zur Weiterleitung zur Behandlung für mehr als 50 sehbedrohende Augenerkrankungen so genau geben wie weltweit führende Fachärzte. Die Ergebnisse seien online in *Nature Medicine* veröffentlicht worden. DeepMind betont jedoch, dass es sich um frühe Forschungsergebnisse handelt.
OCT-Aufnahmen liefern dreidimensionale Ansichten des Augenhintergrunds, sind laut Bericht aber schwer auszuwerten und benötigen fachkundige Analyse. Bei Moorfields fallen demnach täglich mehr als 1.000 OCT-Überweisungen an. Die Auswertung könne Behandlungen verzögern, auch bei dringendem Behandlungsbedarf. Das System soll Krankheitsmerkmale binnen Sekunden erkennen und Fälle nach Dringlichkeit sortieren, indem es eine Überweisungsempfehlung abgibt. Die erhoffte Folge wären kürzere Wartezeiten, die etwa bei diabetischen Augenerkrankungen und altersbedingter Makuladegeneration helfen könnten, Sehverlust zu vermeiden. Das wird als mögliches Potenzial beschrieben, nicht als bereits nachgewiesener klinischer Nutzen.
Als Vorgehen gegen das sogenannte Black-Box-Problem kombiniert das System zwei neuronale Netze. Das erste segmentiert die OCT-Aufnahme und erstellt eine Karte von Gewebearten und erkannten Krankheitsmerkmalen, etwa Blutungen, Läsionen oder Flüssigkeit. Das zweite wertet diese Karte aus und erstellt Diagnosen sowie eine Überweisungsempfehlung. Diese wird laut Bericht mit einer Prozentangabe zur Einschätzung der Sicherheit ausgegeben. Die Darstellung soll Fachkräften Einblick in die Grundlage der Empfehlung geben; Entscheidungen über Versorgung und Behandlung sollen weiterhin bei ihnen liegen.
DeepMind erklärt außerdem, die Technologie lasse sich auf unterschiedliche OCT-Scanner übertragen. Damit könnte sie in verschiedenen Kliniken und auch nach einem Austausch von Geräten einsetzbar sein. Eine allgemeine Eignung wird damit jedoch nicht belegt.
Vor einem Einsatz in der Versorgung müsse die Forschung laut Bericht erst in ein Produkt überführt werden. Danach seien strenge klinische Studien und eine behördliche Zulassung erforderlich. Für den Fall einer erfolgreichen Validierung kündigt Moorfields an, die Technik zunächst fünf Jahre lang kostenlos in seinen 30 britischen Krankenhäusern und Gemeindekliniken einzusetzen. Diese versorgten nach den Angaben des Berichts jährlich 300.000 Patientinnen und Patienten und erhielten täglich mehr als 1.000 OCT-Überweisungen.
Als weiteres Ergebnis nennen die Beteiligten eine von Moorfields gehaltene, nicht kommerzielle Datenbank. Der ursprünglich für klinische Nutzung geeignete Datensatz sei für maschinelles Lernen bereinigt, kuratiert und beschriftet worden. Er sei bereits für neun weitere Krankenhausstudien zu verschiedenen Erkrankungen verwendet worden. Moorfields könne das trainierte Modell zudem für künftige nicht kommerzielle Forschung nutzen. Der Bericht stellt somit Forschungsfortschritte und geplante nächste Schritte dar, aber noch keinen zugelassenen oder allgemein klinisch validierten Einsatz.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Die Bewertung stützt sich allein auf den Quelltext des DeepMind-Blogbeitrags von 2018. Die Stufen und Begründungen sind unabhängig von Lunas Einschätzungen vergeben. Die Verlinkung auf das Quellenarchiv wurde nicht geprüft.
Im Bericht, aber nicht in der Zusammenfassung
- Das Moorfields-Datensatz-Projekt wird als nicht-kommerzielles öffentliches Gut von Moorfields gehalten und Moorfields darf das trainierte Modell für künftige nicht-kommerzielle Forschung nutzen
- Veröffentlichung der Studie in Nature Medicine als Open-Access-Arbeit
- Die Angabe von rund 300.000 Patientinnen und Patienten pro Jahr bei Moorfields
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 30 %einzelne zitierbare Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Fähigkeiten messen
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 25 %einzelne zitierbare Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 27 %Hintergrund, keine Belege
- amos 30 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 36 %einzelne zitierbare Belege
- amos 28 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 57 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 48 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden?
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 46 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 48 %einzelne zitierbare Belege
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 60 %einzelne zitierbare Belege
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 44 %einzelne zitierbare Belege
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 41 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 28 %einzelne zitierbare Belege
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 38 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 54 %einzelne zitierbare Belege
- JEV 39 %einzelne zitierbare Belege
- amos 25 %Hintergrund, keine Belege
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung beantwortet teilweise oder widerspricht
Offenlegung und Rechenschaft
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 50 %einzelne zitierbare Belege
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 59 %gleiches Oberthema, hilft nicht
- drex 40 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 31 %nur am Rande erwähnt
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 45 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 83 %einzelne zitierbare Belege
- JEV 40 %umfangreiche Belege
- amos 30 %einzelne zitierbare Belege
- SubQ 100 %kein Bezug
- drex 33 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung beantwortet teilweise oder widerspricht
- SF-E4-T01 Was hieße die Formel von KI als „gemeinsamem Gut der ganzen Menschheit“ praktisch (Zugang, Teilen des Nutzens, gestaffelte Preise, Technologietransfer), so dass jeder Staat sie tatsächlich unterschreiben und prüfen könnte?
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 53 %einzelne zitierbare Belege
- JEV 48 %einzelne zitierbare Belege
- amos 32 %gleiches Oberthema, hilft nicht
- SubQ 37 %gleiches Oberthema, hilft nicht
- drex 42 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung einzelne zitierbare Belege
- SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen?
- SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat?
Weitere Berichte zu diesen Fragen
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv