Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
frank-andrade.medium.com29. August 2024 · Q009934

Is AI Hype Fading Due to Hallucinations?

frank-andrade.medium.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Andrade meint, generative KI werde überschätzt: Halluzinationen und begrenzte Effizienz machten sie für ihn zu einem nützlichen, aber nicht vollständig vertrauenswürdigen Werkzeug. Er plädiert für KI, die stärker auf Mathematik, logischem Denken und der physischen Welt beruht, doch seine Prognosen und die Deutung von Aktienkursen sind im Beitrag nicht systematisch belegt.

Mittel

Frank Andrade hält den Hype um generative KI für überzogen: Die Systeme seien beeindruckend und könnten bei Aufgaben wie ersten E-Mail-Entwürfen oder beim Brainstorming helfen, doch ihre Effizienz bleibe begrenzt und wegen Halluzinationen könne man ihnen nicht vollständig vertrauen. Frühere KI-Erfolge und die größere Zugänglichkeit von ChatGPT hätten die aktuelle Begeisterung verstärkt; ein von ihm beobachteter Rückgang des NVIDIA-Kurses und Verluste bei KI-Unternehmen könnten auf nachlassende Erwartungen hindeuten, seien aber kein Beweis für das Platzen einer Blase.

Das grundlegende Problem sieht Andrade darin, dass Sprachmodelle oft plausible, aber falsche Ergebnisse erzeugen. Mehr Trainingsdaten reichten seiner Ansicht nach nicht, weil Modelle und Menschen unterschiedliche Maßstäbe für Korrektheit hätten. Zudem könnten uneinheitliche Wortbedeutungen logische Beziehungen in den Trainingsdaten verwischen. Für leistungsfähigere KI brauche es daher Modelle, die bei Mathematik und physischer Realität ansetzen und Sprache darauf aufbauen. Er vermutet, dass große Sprachmodelle neu trainiert werden müssten und Investitionen in sie womöglich keine Rendite bringen. Der Beitrag stützt diese Thesen auf Beispiele und Beobachtungen, liefert aber keine systematische Messung oder kausalen Nachweis.

Ausführlich lesen

Frank Andrade fragt, ob der Enthusiasmus für generative KI angesichts ihrer fortbestehenden Fehler nachlässt. Er kritisiert, dass Medien und Unternehmensvertreter KI oft als Lösung für nahezu jedes Geschäftsproblem darstellen und weitreichende Veränderungen, etwa beim Arbeitskräftebedarf, erwarten. Seiner Einschätzung nach sind die Fortschritte beeindruckend und können Abläufe effizienter machen, doch die tatsächlichen Effizienzgewinne seien bislang begrenzt. KI bleibe eine Technologie und werde nicht einfach die Welt übernehmen.

Zur Einordnung erinnert Andrade an frühere öffentliche KI-Erfolge: Deep Blues Schachsieg über Kasparow, IBMs Watson bei „Jeopardy!“ und AlphaGos Sieg gegen Lee Sedol. ChatGPT habe seit 2022 eine neue Begeisterungswelle ausgelöst, auch weil aktuelle Systeme zugänglich und im Gespräch menschenähnlicher wirkten. Dennoch erwartet der Autor, dass die Unterschiede zwischen KI-Fähigkeiten und menschlichem Können deutlicher werden. Er nutzt Sprachmodelle nach eigener Aussage gern für erste E-Mail-Entwürfe und zum Sammeln von Ideen, vertraut ihnen aber nicht vollständig. Halluzinationen schränkten ihre Selbstständigkeit ein.

Als Hinweis auf eine mögliche Ernüchterung nennt Andrade einen Rückgang des NVIDIA-Aktienkurses und allgemein sinkende Kurse bei Unternehmen, die auf eine KI-getriebene industrielle Revolution setzen. Er stellt dies als Beobachtung dar, nicht als Beweis dafür, dass eine KI-Blase tatsächlich platzt. Das Kernproblem verortet er in den Fehlern großer Sprachmodelle: Eine falsche Antwort könne einem korrekten Ergebnis rechnerisch nahe sein und dennoch für Menschen unbrauchbar bleiben. Als Beispiel führt er KI-Bilder von Händen mit sechs Fingern an. Mehr Trainingsdaten allein lösten das Problem seiner Ansicht nach nicht, weil menschliche und modellbasierte Maßstäbe für ein gutes Ergebnis auseinandergehen.

Andrade hält es außerdem für schwierig, symbolisches logisches Denken nachträglich auf bestehende Modelle aufzusetzen. Er beruft sich auf Wittgensteins Idee sprachlicher Unschärfe: Menschen verwendeten Wörter nicht völlig einheitlich, sodass sich logische Beziehungen in Texten aus vielen Quellen verwischen könnten. Daher befürchtet er, bestehende Sprachmodelle müssten womöglich neu trainiert werden. Seine weitergehende These lautet, dass eine wirklich intelligente KI stärker bei Mathematik sowie Modellen der physischen Realität oder realer Umgebungen ansetzen und Sprache erst darauf aufbauen sollte. Daraus leitet er die Möglichkeit ab, dass sich hohe Investitionen in große Sprachmodelle nicht auszahlen. Als wahrscheinliche Gewinner nennt er Unternehmen, die KI mit logischem Denken und Weltmodellen verbinden, darunter NVIDIA und DeepMind.

Der Beitrag entwickelt diese Einschätzungen argumentativ anhand von Beispielen, historischen Rückblicken und einem Aktienkursbild. Er berichtet jedoch keine systematische Untersuchung, quantifiziert weder Halluzinationen noch Effizienzgewinne und belegt nicht, dass Aktienbewegungen auf die genannten technischen Probleme zurückzuführen sind. Seine Prognosen zu AGI, nötigem Neutraining und Investitionsrenditen bleiben daher die Einschätzungen des Autors.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Beide Zusammenfassungen von Luna sind inhaltlich getreu, die mittlere ist die ausführlichere. Die Einordnung der Sammelfragen stützt sich nur auf den Bericht; Teilfragen wurden nicht angegeben.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Gegenposition, KI werde nicht die Welt übernehmen, sowie das Midjourney-Beispiel mit sechs statt fünf Fingern als Beleg für Halluzinationen nahe am richtigen Wert

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
  1. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV 53 %gleiches Oberthema, hilft nicht
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 69 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht
Unabhängig prüfen
Tempo und Grenzen
  1. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 41 %gleiches Oberthema, hilft nicht
    • Luna 50 %Hintergrund, keine Belege
    • JEV 31 %Hintergrund, keine Belege
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 68 %gleiches Oberthema, hilft nicht
    • drex 69 %gleiches Oberthema, hilft nicht
    • d3-ultra 86 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 60 %Hintergrund, keine Belege
    • JEV 40 %gleiches Oberthema, hilft nicht
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra 80 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 74 %gleiches Oberthema, hilft nicht
    • d3-ultra 78 %gleiches Oberthema, hilft nicht
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 64 %beantwortet teilweise oder widerspricht
    • amos 29 %Hintergrund, keine Belege
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 33 %gleiches Oberthema, hilft nicht
    • d3-ultra 64 %gleiches Oberthema, hilft nicht
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 36 %gleiches Oberthema, hilft nicht
    • Luna 60 %Hintergrund, keine Belege
    • JEV 59 %einzelne zitierbare Belege
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 82 %gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 38 %gleiches Oberthema, hilft nicht
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 72 %gleiches Oberthema, hilft nicht
    • d3-ultra 78 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
  1. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 47 %nur am Rande erwähnt
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 63 %gleiches Oberthema, hilft nicht
    • d3-ultra 77 %gleiches Oberthema, hilft nicht
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 36 %gleiches Oberthema, hilft nicht
    • Luna 78 %Hintergrund, keine Belege
    • JEV 28 %Hintergrund, keine Belege
    • amos 52 %gleiches Oberthema, hilft nicht
    • SubQ 73 %gleiches Oberthema, hilft nicht
    • drex 70 %gleiches Oberthema, hilft nicht
    • d3-ultra 81 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 34 %einzelne zitierbare Belege
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 75 %gleiches Oberthema, hilft nicht
    • drex 67 %gleiches Oberthema, hilft nicht
    • d3-ultra 83 %gleiches Oberthema, hilft nicht
Wirtschaft und Haftung
  1. SF-W3 Wie schützt man Finanzmärkte vor Folgen von KI, von vertraulichen Entscheidungen über Pausen bis zu Kursstürzen in Sekunden?
    • clef 29 %gleiches Oberthema, hilft nicht
    • Luna 38 %Hintergrund, keine Belege
    • JEV 44 %gleiches Oberthema, hilft nicht
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 61 %gleiches Oberthema, hilft nicht
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 67 %Hintergrund, keine Belege
    • JEV 40 %gleiches Oberthema, hilft nicht
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 77 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung kein Bezug

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →