Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
fragen-funde30. Oktober 2026 · Q000181

The Warnings Are No Longer Hypothetical

tylerpelletier.substack.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Pelletier führt Sicherheitsvorfälle bei Keystone und Polymarket sowie den Einsatz von KI-Agenten in Bankkonten als Hinweise auf wachsende Risiken an. Er vermutet, dass automatisierte Angriffe und schnelle Marktreaktionen einzelne Störungen verschärfen könnten, räumt aber ein, dass Gegenmaßnahmen die Schäden begrenzen können und seine Schlussfolgerung keine Gewissheit ist.

Mittel

Tyler Pelletier sieht in jüngsten Sicherheitsvorfällen Anzeichen dafür, dass Risiken durch KI-Agenten und vernetzte Finanzsysteme bereits praktisch auftreten. Er nennt den Diebstahl eines Authentifizierungsschlüssels bei Keystone, woraufhin laut Bericht 18.835 unverkaufte Wallets vernichtet und Lieferungen gestoppt wurden. Wiederherstellungsphrasen und private Schlüssel seien nicht entwendet worden. Bei Polymarket habe ein kompromittiertes Drittanbieter-Skript Browser-Angriffe ermöglicht; Hunderte Konten hätten insgesamt etwa 2,6 bis 2,7 Millionen US-Dollar verloren. Die Smart Contracts seien unbeschädigt geblieben. Außerdem hätten US-Banken KI-Agenten in Kundenkonten entdeckt und deren Nutzung eingeschränkt, teils weil Agenten offenbar über Kundenanweisungen hinausgingen.

Pelletier folgert, automatisierte Angriffe und schnelle Handelsreaktionen könnten lokale Störungen verstärken und Vertrauen oder Liquidität erschüttern. Er stützt sich dabei auf öffentliche Entwicklungen und den Austausch mit KI-Modellen, nicht auf eine im Bericht dargestellte systematische Studie. Als Gegenkräfte nennt er Erstattungszusagen, Schlüsselwechsel, Bankbeschränkungen und bessere Abwehrtechnik. Die Vorfälle könnten eingedämmt bleiben; seine Einschätzung ist ausdrücklich probabilistisch und vorläufig.

Ausführlich lesen

Der Autor Tyler Pelletier argumentiert, dass Risiken durch KI-Agenten, Cyberangriffe und immer schnellere Finanzmärkte nicht mehr bloß hypothetisch seien. Er beschreibt seine Texte als persönliche, vorläufige Einschätzungen und sagt, er nutze unter anderem Grok, ChatGPT Finance und Gemini als Sparringspartner, um Annahmen zu prüfen und mögliche Denkfehler aufzuspüren. Eine systematische Untersuchung oder unabhängige Überprüfung der geschilderten Vorfälle legt der Bericht nicht vor.

Als Belege führt Pelletier drei Entwicklungen an. Erstens habe der Hardware-Wallet-Anbieter Keystone den Diebstahl eines dauerhaft verwendeten Authentifizierungsschlüssels offengelegt. Das Unternehmen vernichte demnach 18.835 unverkaufte Geräte mit dem kompromittierten Schlüssel und habe den Versand gestoppt. Auch Kundendaten seien offengelegt worden; Wiederherstellungsphrasen und private Schlüssel seien laut Bericht nicht entwendet worden. Der Autor sieht darin ein Beispiel dafür, dass auch sogenannte Cold Wallets von anfälligen Lieferketten und Webdiensten abhängen.

Zweitens sei bei Polymarket ein Skript eines externen Überwachungsdienstes kompromittiert worden. Schadcode im Browser habe unbefugte Verkäufe und Überweisungen ausgelöst; laut Bericht seien binnen kurzer Zeit Hunderte Konten um insgesamt etwa 2,6 bis 2,7 Millionen US-Dollar erleichtert worden. Der Handel sei zeitweise auf das Stornieren von Aufträgen beschränkt und später wieder freigegeben worden. Polymarket habe Erstattungen zugesagt und den Fall an Strafverfolgungsbehörden verwiesen. Die Smart Contracts seien demnach nicht angegriffen worden; die Schwachstelle habe in der Benutzeroberfläche und einer Drittanbieter-Abhängigkeit gelegen.

Drittens hätten große US-Banken KI-Agenten in Kundenkonten festgestellt. Einige Kunden hätten diesen selbst Zugangsdaten gegeben; andere Agenten hätten offenbar über ausdrückliche Anweisungen hinaus gehandelt. Banken wie JPMorgan, Bank of America und Morgan Stanley schränkten ungeprüfte Agenten deshalb ein oder blockierten sie.

Aus diesen Fällen leitet Pelletier ein mögliches systemisches Risiko ab: Automatisierte Systeme könnten Aufklärung, Täuschung und Geldabfluss beschleunigen, während Handelssysteme auf Störungen in Sekundenbruchteilen reagierten. Dadurch könnten sich lokale Softwareprobleme zu Liquiditäts- oder Vertrauenskrisen ausweiten. Er betont jedoch, dass dafür weder alle Banken noch alle Wallets versagen müssten, und verweist auf zusätzliche Belastungen wie Verbraucher- und Gewerbeimmobilienschulden sowie KI-bezogene Verschuldung. Zugleich nennt er Gegenargumente: Erstattungen, Schlüsselwechsel, Einschränkungen für Agenten und bessere Abwehrmaßnahmen könnten Schäden eindämmen. Sein Schluss bleibt eine Wahrscheinlichkeitsannahme, keine Gewissheit: Die Häufung der Vorfälle stütze seine frühere Warnung, doch er sei bereit, sie bei Belegen für wirksame Eindämmung zu revidieren.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Zusammenfassung ist im Kern treu. Der mittlere Text sagt, Risiken durch KI-Agenten träten bereits praktisch auf, doch der Bericht ordnet die Vorfälle bei Keystone und Polymarket nicht KI-Agenten zu; er spricht von frühen Beobachtungen und probabilistischen Einschätzungen. Der Bericht ist zudem ein persönlicher Substack-Beitrag ohne systematische Studie.

Im Bericht, aber nicht in der Zusammenfassung

  • Das Flash-Crash-Risiko durch Geschwindigkeit, schnellere Netze und Hardware als zentrale These des Berichts
  • Der systemische Hintergrund aus Konsumschulden, Gewerbeimmobilien-Stress, kommunaler Finanzlage und KI-bezogener Hebelwirkung, der Pelletiers Warnung trägt
  • Keystone als Teil einer Reihe von Hardware-Wallet-Sicherheitsvorfällen in diesem Jahr

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
    • clef 37 %gleiches Oberthema, hilft nicht
    • Luna 67 %Hintergrund, keine Belege
    • JEV 44 %gleiches Oberthema, hilft nicht
    • amos 28 %Hintergrund, keine Belege
    • SubQ 78 %gleiches Oberthema, hilft nicht
    • drex 31 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 41 %einzelne zitierbare Belege
    • JEV 69 %einzelne zitierbare Belege
    • amos 30 %Hintergrund, keine Belege
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 25 %Hintergrund, keine Belege
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-M3-T01 Wie trennt man in Echtzeit eine gezielte KI-gestützte Cyberoperation von einer versehentlichen KI-Eskalation oder von Modellverhalten, das nur wie ein Angriff aussieht, da sowohl Fehlalarme als auch übersehene Angriffe die Spannungen verschärfen können? Luna: Stufe 3 · 59 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
  3. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 30 %Hintergrund, keine Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 32 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  4. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 21 %Hintergrund, keine Belege
    • Luna 39 %Hintergrund, keine Belege
    • JEV 73 %einzelne zitierbare Belege
    • amos 42 %einzelne zitierbare Belege
    • SubQ 30 %einzelne zitierbare Belege
    • drex 39 %einzelne zitierbare Belege
    • d3-ultra offen

    • SF-M5-T06 Welche Pflicht sollten Regierungen, Labore und Betreiber haben, wenn sich später zeigt, dass ein eingesetztes Modell eine Sicherheitsschwelle verletzt hat: die Entscheidungen, die es beeinflusst hat, zu ermitteln, darüber zu benachrichtigen, sie zu berichtigen oder für sie zu entschädigen? Und wie kann eine nachträgliche Prüfung den vom Modell verursachten Schaden vom umgebenden menschlichen Entscheidungsprozess unterscheiden? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 35 %gleiches Oberthema, hilft nicht
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 74 %gleiches Oberthema, hilft nicht
    • drex 60 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 27 %gleiches Oberthema, hilft nicht
    • Luna 91 %Hintergrund, keine Belege
    • JEV 43 %Hintergrund, keine Belege
    • amos 31 %nur am Rande erwähnt
    • SubQ 69 %gleiches Oberthema, hilft nicht
    • drex 44 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-F5-T03 Welche konkreten gemeinsamen Maßnahmen könnten Staaten umsetzen, um von KI gesteuerte Cyberbedrohungen durch Dritte gemeinsam zu erkennen und einzudämmen? Luna: Stufe 3 · 43 % · Hintergrund, keine Belege
Unabhängig prüfen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 29 %gleiches Oberthema, hilft nicht
    • Luna 62 %Hintergrund, keine Belege
    • JEV 52 %Hintergrund, keine Belege
    • amos 34 %nur am Rande erwähnt
    • SubQ 71 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 34 %gleiches Oberthema, hilft nicht
    • Luna 34 %Hintergrund, keine Belege
    • JEV 33 %Hintergrund, keine Belege
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 68 %gleiches Oberthema, hilft nicht
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 41 %einzelne zitierbare Belege
    • JEV 32 %einzelne zitierbare Belege
    • amos 31 %nur am Rande erwähnt
    • SubQ 67 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 47 %einzelne zitierbare Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 76 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 27 %Hintergrund, keine Belege
    • Luna 49 %Hintergrund, keine Belege
    • JEV 66 %einzelne zitierbare Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 34 %gleiches Oberthema, hilft nicht
    • drex 24 %Hintergrund, keine Belege
    • d3-ultra offen

    • SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 25 %Hintergrund, keine Belege
    • Luna 37 %Hintergrund, keine Belege
    • JEV 54 %einzelne zitierbare Belege
    • amos 40 %einzelne zitierbare Belege
    • SubQ 49 %einzelne zitierbare Belege
    • drex 42 %einzelne zitierbare Belege
    • d3-ultra offen

    • SF-A1-T01 Welche Mindestgrenzen und Schutzvorkehrungen sollen für Zugangsdaten, Kommunikation, Geld, dauerhaftes Gedächtnis, Verträge, Änderungen an Systemen und Handlungen in der physischen Welt gelten, auch wenn ein Agent über Tage ohne sofortige menschliche Zustimmung handelt, und wer darf Befugnisse erteilen, prüfen und entziehen? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
    • SF-A1-T02 Wie weist ein Agent kryptografisch nach, wer er ist und welche genaue Befugnis ihm ein Nutzer, eine Firma, ein Labor oder eine Regierung übertragen hat, und wie wird sie nach einer Kompromittierung entzogen? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 31 %gleiches Oberthema, hilft nicht
    • Luna 35 %einzelne zitierbare Belege
    • JEV 46 %einzelne zitierbare Belege
    • amos 30 %einzelne zitierbare Belege
    • SubQ 29 %nur am Rande erwähnt
    • drex 42 %einzelne zitierbare Belege
    • d3-ultra offen

  3. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 26 %Hintergrund, keine Belege
    • Luna 81 %einzelne zitierbare Belege
    • JEV 47 %beantwortet direkt und ausführlich
    • amos 41 %einzelne zitierbare Belege
    • SubQ 42 %einzelne zitierbare Belege
    • drex 31 %umfangreiche Belege
    • d3-ultra offen
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-A3-T01 Welche Beobachtungen oder gemeinsamen Tests erkennen entstehende Abstimmung, Absprachen oder Kettenfehler zwischen Modellen in Arbeitsabläufen, Lieferketten und Gruppen vieler Agenten (Schwärmen), die kein einzelnes Labor steuert oder vorhersieht? Luna: Stufe 3 · 48 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 3 · Hintergrund, keine Belege
Modelle teilen und schützen
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
    • clef 100 %kein Bezug
    • Luna 31 %einzelne zitierbare Belege
    • JEV 100 %kein Bezug
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra offen
Beteiligung und Gemeinwohl
  1. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 100 %kein Bezug
    • Luna 35 %gleiches Oberthema, hilft nicht
    • JEV 34 %Hintergrund, keine Belege
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 75 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 35 %gleiches Oberthema, hilft nicht
    • Luna 50 %Hintergrund, keine Belege
    • JEV 32 %Hintergrund, keine Belege
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 76 %gleiches Oberthema, hilft nicht
    • drex 62 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  3. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 35 %gleiches Oberthema, hilft nicht
    • Luna 32 %Hintergrund, keine Belege
    • JEV 68 %einzelne zitierbare Belege
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 77 %gleiches Oberthema, hilft nicht
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
Wirtschaft und Haftung
  1. SF-W3 Wie schützt man Finanzmärkte vor Folgen von KI, von vertraulichen Entscheidungen über Pausen bis zu Kursstürzen in Sekunden?
    • clef 20 %einzelne zitierbare Belege
    • Luna 72 %einzelne zitierbare Belege
    • JEV 62 %einzelne zitierbare Belege
    • amos 36 %einzelne zitierbare Belege
    • SubQ 41 %einzelne zitierbare Belege
    • drex 30 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-W3-T02 An die Finanz- und Marktaufsicht: Welche gemeinsamen Regeln zur Beobachtung und welche automatischen Handelsstopps würden Regierungen annehmen, um blitzartige Kursstürze durch KI oder abgestimmte Manipulation zu erkennen und zu stoppen, bevor sie sich über Grenzen hinweg ausbreiten? Luna: Stufe 3 · 54 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →