Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
deepmind14. Oktober 2026 · Q000010

On-Device AI Against Scams: Google DeepMind & MDDI

deepmind.google · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Google DeepMind und GovTech Singapore beschreiben ein zweistufiges, lokal auf Smartphones laufendes System, das verdächtige Gespräche erkennen und vor möglichen Betrugsversuchen warnen soll. Laut Bericht wurden anonymisierte Daten zum Training genutzt und eine Android-Beta von Anti-Scam Pango gestartet; Messwerte zu Erkennungsleistung, Fehlalarmen oder vermiedenen Schäden nennt der Text nicht.

Mittel

Google DeepMind und GovTech Singapore haben laut Bericht ein Betrugserkennungssystem entwickelt, das Nachrichten direkt auf dem Smartphone prüft. Anlass seien Betrugsformen wie falsche Jobangebote, Investmentbetrug und überzeugende Gespräche mit dem Ziel, Geld oder vertrauliche Informationen zu erlangen. Ein zweistufiges Verfahren soll den Stromverbrauch begrenzen: Ein leichter Klassifikator prüft zunächst eingehende Nachrichten; nur Verdachtsfälle analysiert ein feinabgestimmtes Gemma-Modell anhand eines größeren Gesprächsausschnitts. Bei erkannten manipulativen Mustern soll das Gerät eine Warnung anzeigen.

Für das Training seien nach Angaben der Entwickler anonymisierte Daten aus Betrugsmeldungen und Informationsquellen verwendet worden, keine privaten oder personenbezogenen Bürgerdaten. Die Feinabstimmung fand laut Beitrag in einer von GovTech Singapore verwalteten GCP-Umgebung statt. Getestet worden sei mit synthetischen Dialogen und lokalen Datensammlungen. Als nächsten Schritt nennt der Bericht eine offene Beta der Android-App Anti-Scam Pango in Singapur, in der verdächtige Nachrichten markiert werden sollen, während Gespräche auf dem Gerät bleiben. Der Beitrag nennt jedoch keine Messwerte zu Genauigkeit, Fehlalarmen, Stromverbrauch oder vermiedenen Schäden; die behaupteten Vorteile sind damit im Text nicht quantitativ belegt.

Ausführlich lesen

Der Bericht beschreibt eine Zusammenarbeit von Google DeepMind und der Government Technology Agency of Singapore (GovTech Singapore), die Betrugsnachrichten auf Smartphones erkennen soll, ohne private Kommunikation vom Gerät zu übertragen. Als Anlass nennt der Beitrag die Verbreitung von Betrugsdelikten in Singapur: Investmentbetrug, gefälschte Jobangebote und die Vortäuschung öffentlicher Ämter machten laut Bericht mehr als die Hälfte der gemeldeten Straftaten aus. Seit 2019 seien mehr als vier Milliarden Singapur-Dollar verloren gegangen. Zudem entfielen bis zu 80 Prozent der Verluste auf Betrugsformen, bei denen Täter ihre Opfer durch längere, überzeugende Gespräche manipulieren.

Das entwickelte System soll verdächtige Gesprächsmuster erkennen und direkt auf dem Smartphone eine Warnung anzeigen. Nutzerinnen und Nutzer sollen dadurch innehalten, bevor sie sensible Informationen oder Geld weitergeben. Um den Energiebedarf gering zu halten, beschreiben die Autorinnen und Autoren ein zweistufiges Verfahren: Zunächst prüft ein leichter, schneller Klassifikator eingehende Nachrichten mit geringem Stromverbrauch. Nur Nachrichten, die dabei verdächtig erscheinen, werden in einer zweiten Stufe mit einem feinabgestimmten Gemma-Modell und einem größeren Ausschnitt des Gesprächs genauer bewertet. Diese Analyse soll eine Betrugswarnung auslösen oder einen zunächst verdächtigen Fall als unbedenklich einstufen.

Der Beitrag hebt mehrere Schutzvorkehrungen bei der Entwicklung hervor. Das Feinabstimmen habe in einer von GovTech Singapore verwalteten und betriebenen GCP-Umgebung stattgefunden, in der die Trainingsdaten isoliert blieben. Nach Angaben des Berichts wurden keine privaten oder personenbezogenen Daten von Bürgerinnen und Bürgern für das Training verwendet; stattdessen kamen anonymisierte Datensätze aus Betrugsmeldungen und Informationsquellen zur Betrugsaufklärung zum Einsatz. Die Entwickler hätten das Modell außerdem mit synthetischen Dialogen und lokalen Datensammlungen auf verschiedene Betrugsarten und sich verändernde Identitätstäuschungen geprüft.

Vorgestellt wurde die Zusammenarbeit laut Bericht auf der Singapore International Cyber Week 2026. Als nächsten Schritt nennt der Beitrag den Start einer offenen Beta der Android-App Anti-Scam Pango für Nutzende in Singapur bei STACK 2026. Die App solle verdächtige Nachrichten markieren und die Gespräche auf dem jeweiligen Gerät belassen. Während der Beta wollten GovTech Singapore und Google DeepMind die Modelle weiter testen und integrieren.

Der Text stellt das Vorhaben als Beispiel dafür dar, Betrugsschutz mit Ende-zu-Ende-Verschlüsselung und Privatsphäre zu verbinden, und erwägt einen späteren Einsatz ähnlicher Technik in anderen Ländern. Die Ergebnisse werden jedoch überwiegend als Projektbeschreibung und Zielsetzung präsentiert: Der Bericht nennt keine Kennzahlen zur Erkennungsgenauigkeit, zu Fehlalarmen, zur tatsächlichen Verringerung von Schäden oder zum Stromverbrauch im praktischen Einsatz. Auch bleibt offen, wie sich der Beta-Test bewährt. Die genannten Wirksamkeits- und Datenschutzvorteile sind daher Aussagen des Beitrags und werden im vorliegenden Text nicht durch unabhängige Messwerte belegt.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Zusammenfassung ist treu und erfindet nichts; die fehlenden Zahlen zum Betrugsausmaß und der Rahmen der Partnerschaft sind die wichtigsten Lücken. Der Bericht ist ein Blogbeitrag des Unternehmens ohne unabhängige Messwerte, daher bleiben alle Wirksamkeitsaussagen unbelegt und die Einordnung der Fragen fällt überwiegend niedrig aus.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Dimension des Problems: Betrug macht laut Bericht über die Hälfte der gemeldeten Straftaten in Singapur aus, mit über 4 Mrd. S$ Verlusten seit 2019, und Social-Engineering-Betrug macht bis zu 80 % der Verluste aus.
  • Der Rahmen der Zusammenarbeit als Teil der National AI Partnership mit der Regierung Singapurs.
  • Die Vorstellung auf der SICW 2026 und die Aussage, dass das Modell als Vorbild für Messaging-Plattformen mit Ende-zu-Ende-Verschlüsselung dienen kann.
  • Die Ankündigung, die Technik künftig auch in anderen Ländern einsetzen zu wollen.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 42 %Hintergrund, keine Belege
    • JEV 34 %einzelne zitierbare Belege
    • amos 26 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 31 %einzelne zitierbare Belege
    • amos 26 %nur am Rande erwähnt
    • SubQ 36 %gleiches Oberthema, hilft nicht
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV 41 %einzelne zitierbare Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  3. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 46 %einzelne zitierbare Belege
    • JEV 51 %einzelne zitierbare Belege
    • amos 28 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra 47 %gleiches Oberthema, hilft nicht

Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 100 %kein Bezug
    • Luna 67 %einzelne zitierbare Belege
    • JEV 35 %beantwortet teilweise oder widerspricht
    • amos 24 %Hintergrund, keine Belege
    • SubQ 38 %gleiches Oberthema, hilft nicht
    • drex 21 %gleiches Oberthema, hilft nicht
    • d3-ultra 47 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt

  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 39 %einzelne zitierbare Belege
    • JEV 59 %einzelne zitierbare Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 28 %gleiches Oberthema, hilft nicht
    • drex 26 %Hintergrund, keine Belege
    • d3-ultra 45 %gleiches Oberthema, hilft nicht

    • SF-P3-T08 Welche gemeinsame Bezugsgröße für den Umfang der Nutzung, welcher Beobachtungszeitraum, welcher Stichprobenplan, welche Definition von Beinahe-Vorfall und welche statistische Obergrenze (obere Konfidenzgrenze) würden es jedem erlauben zu sagen: „keine erkennbare systemische Fehlausrichtung (Verhalten gegen die vorgesehenen Ziele oder Werte) im Einsatzmaßstab“? Und wie muss dargestellt werden, dass die Erkennung lückenhaft ist? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 42 %Hintergrund, keine Belege
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug

Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 52 %einzelne zitierbare Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 39 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 4 · 42 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
    • SF-V1-T03 Was ist das Kleinste, das ein Modell öffentlich vorlegen kann (ein Test, ein Protokoll, eine Spur), das als Beleg für Ausrichtung an den vorgesehenen Zielen und Werten zählt und nicht nur für Leistung? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
    • SF-V1-T09 Wenn Labore bessere Überwacher bauen, Modelle lernen, ihnen auszuweichen, und sich dieses Wechselspiel in jedem Labor beschleunigt: Behandeln Regierungen diesen Wettlauf selbst als Sicherheitsfrage zwischen Staaten, und welche gemeinsamen Belege würden zeigen, dass er beherrscht ist? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
    • SF-V1-T13 Wenn sich vorgeführte und tatsächlich vertretene Tugend im Text nicht unterscheiden lassen: Soll der Unterschied trotzdem bestimmen, wie man Modelle baut und regelt? Luna: Stufe 4 · 30 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV 27 %einzelne zitierbare Belege
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 27 %Hintergrund, keine Belege
    • JEV 36 %einzelne zitierbare Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug

  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 58 %einzelne zitierbare Belege
    • JEV 35 %einzelne zitierbare Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 35 %gleiches Oberthema, hilft nicht
    • drex 26 %Hintergrund, keine Belege
    • d3-ultra 50 %gleiches Oberthema, hilft nicht

    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
  1. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 100 %kein Bezug
    • Luna 55 %Hintergrund, keine Belege
    • JEV 36 %gleiches Oberthema, hilft nicht
    • amos 26 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
  1. SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
    • clef 100 %kein Bezug
    • Luna 49 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 40 %Hintergrund, keine Belege
    • JEV 26 %Hintergrund, keine Belege
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-H2-T01 Was unterscheidet das Veröffentlichen von Modellgewichten (den gelernten Parametern) oder von Agentenwerkzeugen mit offenem Quellcode vom Freisetzen einer Waffe: die Absicht des Akteurs, die Selbstständigkeit des Modells, seine Verwendung oder der Schaden, den es von sich aus anrichten kann? Und können Staaten diese Grenze gemeinsam festschreiben, bevor ein offenes Modell im Mittelpunkt eines schweren Vorfalls steht? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
  3. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 73 %einzelne zitierbare Belege
    • JEV 47 %einzelne zitierbare Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 27 %einzelne zitierbare Belege
    • d3-ultra 48 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung einzelne zitierbare Belege

Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 75 %einzelne zitierbare Belege
    • JEV 46 %einzelne zitierbare Belege
    • amos 29 %nur am Rande erwähnt
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 28 %gleiches Oberthema, hilft nicht
    • d3-ultra 47 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-O2-T05 Welche öffentlichen Zusagen eines Spitzenlabors macht die juristische Person, die bei einem Bruch verklagt würde, und welche nur das Forschungsteam, und veröffentlichen die Labore das für jede Zusage? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 59 %Hintergrund, keine Belege
    • JEV 35 %gleiches Oberthema, hilft nicht
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra 47 %gleiches Oberthema, hilft nicht

    • SF-E1-T04 Wie bekommen Staaten, in denen kein Spitzenlabor sitzt, einen echten Platz beim Setzen internationaler technischer KI-Normen, damit KI in der Praxis ein gemeinsames Gut bleibt und nicht nur wenige Regierungen und Firmen die Regeln schreiben? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 66 %einzelne zitierbare Belege
    • amos 28 %nur am Rande erwähnt
    • SubQ 39 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht
  3. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 57 %einzelne zitierbare Belege
    • JEV 56 %einzelne zitierbare Belege
    • amos 33 %einzelne zitierbare Belege
    • SubQ 29 %gleiches Oberthema, hilft nicht
    • drex 23 %nur am Rande erwähnt
    • d3-ultra 34 %gleiches Oberthema, hilft nicht
  4. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 75 %Hintergrund, keine Belege
    • JEV 57 %einzelne zitierbare Belege
    • amos 25 %nur am Rande erwähnt
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht

  5. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 36 %einzelne zitierbare Belege
    • JEV 50 %einzelne zitierbare Belege
    • amos 27 %nur am Rande erwähnt
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 36 %gleiches Oberthema, hilft nicht
    • d3-ultra 51 %gleiches Oberthema, hilft nicht

    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 48 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 24 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 24 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →