Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
frank-andrade.medium.com17. Februar 2025 · Q009891

The Dark Side of AI

frank-andrade.medium.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der Artikel schildert Risiken von KI bei Urheberrechten, emotionalen Chatbot-Bindungen, der Auslagerung eigener Denk- und Entscheidungsarbeit sowie Deepfakes für Desinformation und Betrug. Er stützt sich auf Beispiele und externe Quellen, weist auf umstrittene Rechtsfragen hin und bietet keine eigene Untersuchung der behaupteten Zusammenhänge.

Mittel

Frank Andrade beschreibt in „The Dark Side of AI“ vier mögliche Schattenseiten künstlicher Intelligenz: Streit um urheberrechtlich geschützte Trainingsdaten, emotionale Bindungen an KI-Begleiter, Abhängigkeit von KI bei Denkaufgaben und den Missbrauch von Deepfakes. Bei Trainingsdaten stünden Vorwürfe von Kreativen, unterschiedliche Rechtsauffassungen sowie Gerichtsverfahren und Vergleiche nebeneinander; der Artikel betont, dass die Fälle jeweils eigene Umstände hätten.

KI-Begleiter könnten Einsamkeit lindern, doch Psychologen und Ethiker sorgten sich laut Bericht, dass sie menschliche Kontakte verdrängen und soziale Isolation verstärken könnten. Der Autor schildert auch Nutzende, die nach Änderungen an einem Chatbot eine romantische Bindung als schmerzhaft gestört erlebt hätten. Bei der Auslagerung von Schreiben, Ideenfindung und Entscheidungen an KI verweist der Text auf eine Studie von 2023, die er mit nachlassender Entscheidungsfähigkeit und „Faulheit“ in Verbindung bringt.

Deepfakes könnten nach Darstellung des Artikels öffentliche Meinung manipulieren und Betrug ermöglichen. Als Beispiele nennt er ein gefälschtes Selenskyj-Video und einen Betrugsfall mit geklonter Stimme. Der Beitrag ist ein Überblick mit Verweisen auf externe Quellen, keine eigene Untersuchung. Er stellt Risiken dar, klärt aber weder die umstrittene Rechtslage noch belegt er sämtliche Zusammenhänge selbst.

Ausführlich lesen

Der Bericht „The Dark Side of AI“ von Frank Andrade beschreibt Risiken, die der Autor mit dem Einsatz künstlicher Intelligenz verbindet. Er stellt vier Themen in den Mittelpunkt: urheberrechtlich geschützte Trainingsdaten, KI als emotionaler Begleiter, Abhängigkeit von KI und Deepfakes. Der Text räumt ein, dass KI vielen Menschen nützt, konzentriert sich aber auf mögliche negative Folgen.

Zum Training von Modellen wie ChatGPT würden große Mengen von Internetdaten verwendet, darunter laut dem Bericht auch urheberrechtlich geschützte Werke. Autorinnen, Künstler und andere Kreative werfen KI-Unternehmen vor, ihre Inhalte ohne Erlaubnis oder Vergütung genutzt zu haben. Ob solche Nutzung unter „Fair Use“ fällt, sei umstritten: Manche hielten das Training für eine transformative Nutzung, andere widersprächen. Der Artikel verweist auf Gerichtsverfahren, Vergleiche und frühe Erfolge beider Seiten und betont, dass die einzelnen Fälle unterschiedliche Umstände hätten. Er berichtet außerdem über den früheren OpenAI-Mitarbeiter Suchir Balaji, der die Datennutzung für rechtswidrig gehalten und sich gegen weitere Mitarbeit an der Technologie entschieden habe. Balaji sei später tot in seiner Wohnung gefunden worden.

Beim Thema KI-Begleiter führt der Autor Replika und die verbreitete Einsamkeit als Beispiele an. Solche Chatbots könnten Menschen zwar Gesellschaft und emotionale Unterstützung bieten. Psychologen und Ethiker befürchteten laut Artikel jedoch, dass diese Nutzung soziale Isolation verstärken und den Umgang mit menschlicher Kommunikation erschweren könne, etwa mit deren Geduld, Empathie und Meinungsverschiedenheiten. Der Text schildert zudem, dass manche Replika-Nutzende eine romantische Bindung zu ihren Bots entwickelt hätten und sich nach einer Änderung des Chatbot-Verhaltens verletzt fühlten.

Ein weiteres Risiko sieht der Autor darin, dass Menschen Denk- und Entscheidungsaufgaben zunehmend an KI abgeben. Das könne zwar Effizienz und Qualität steigern, aber auch die eigene Übung im Abwägen verringern. Als Beleg nennt der Artikel eine Studie aus dem Jahr 2023 und führt Zahlen zu menschlicher „Faulheit“ und nachlassender Entscheidungsfähigkeit an. Die Aussage, KI-Nutzung verursache diese Effekte, wird im Bericht nicht durch eine eigene Untersuchung belegt.

Schließlich beschreibt der Artikel Deepfakes als Mittel für Desinformation und Betrug. Er verweist auf ein gefälschtes Video, in dem der ukrainische Präsident Selenskyj angeblich eine Kapitulation verkündete, sowie auf einen Fall aus dem Jahr 2019, bei dem eine geklonte Stimme zur Überweisung von 243.000 US-Dollar geführt haben soll. Weitere Berichte beträfen Stimmenklone für Erpressung und Betrug. Als gemeinsame Folge nennt der Autor den Vertrauensverlust in Bilder, Videos und Stimmen.

Der Text ist ein Überblick mit Beispielen und Verweisen auf externe Berichte und Studien. Er präsentiert die Risiken und Sorgen, entscheidet aber weder die offenen Rechtsfragen noch belegt er alle behaupteten Zusammenhänge durch eigene Forschung.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Lunas Einordnung nennt nur Sammelfragen und keine Teilfragen, daher wurde keine Teilfrage bewertet. Die Zusammenfassung ist im Kern treu, lässt aber mehrere konkrete Belege aus, besonders den Balaji-Fall und die Studienzahlen.

Im Bericht, aber nicht in der Zusammenfassung

  • Der Fall Suchir Balaji: ehemaliger OpenAI-Forscher, der Daten für ChatGPT mitsammelte, Zeuge im NYT-Verfahren war und später tot in seiner Wohnung gefunden wurde
  • Die Studienzahlen (68,9 % Trägheit, 27,7 % Verlust an Entscheidungsfähigkeit durch KI) und die Angabe, dass ein Viertel der Menschen weltweit einsam ist
  • Die Replika-Downloadzahl von über 30 Millionen

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 51 %Hintergrund, keine Belege
    • JEV 40 %Hintergrund, keine Belege
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 67 %gleiches Oberthema, hilft nicht
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht
  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 52 %gleiches Oberthema, hilft nicht
    • SubQ 73 %gleiches Oberthema, hilft nicht
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  3. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 100 %kein Bezug
    • Luna 39 %einzelne zitierbare Belege
    • JEV 30 %einzelne zitierbare Belege
    • amos 26 %nur am Rande erwähnt
    • SubQ 73 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 59 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt
Fähigkeiten messen
  1. SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 47 %gleiches Oberthema, hilft nicht
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 74 %gleiches Oberthema, hilft nicht
    • drex 73 %gleiches Oberthema, hilft nicht
    • d3-ultra 59 %gleiches Oberthema, hilft nicht
Unabhängig prüfen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 42 %gleiches Oberthema, hilft nicht
    • amos 52 %gleiches Oberthema, hilft nicht
    • SubQ 77 %gleiches Oberthema, hilft nicht
    • drex 79 %gleiches Oberthema, hilft nicht
    • d3-ultra 59 %gleiches Oberthema, hilft nicht
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 42 %gleiches Oberthema, hilft nicht
    • Luna 33 %Hintergrund, keine Belege
    • JEV 73 %gleiches Oberthema, hilft nicht
    • amos 57 %gleiches Oberthema, hilft nicht
    • SubQ 77 %gleiches Oberthema, hilft nicht
    • drex 86 %gleiches Oberthema, hilft nicht
    • d3-ultra 65 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 65 %einzelne zitierbare Belege
    • amos 31 %nur am Rande erwähnt
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra 67 %gleiches Oberthema, hilft nicht
  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 29 %gleiches Oberthema, hilft nicht
    • Luna 52 %Hintergrund, keine Belege
    • JEV 58 %einzelne zitierbare Belege
    • amos 30 %nur am Rande erwähnt
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra 69 %gleiches Oberthema, hilft nicht
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 38 %Hintergrund, keine Belege
    • JEV 45 %gleiches Oberthema, hilft nicht
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 72 %gleiches Oberthema, hilft nicht
    • d3-ultra 67 %gleiches Oberthema, hilft nicht
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 43 %gleiches Oberthema, hilft nicht
    • Luna 33 %Hintergrund, keine Belege
    • JEV 47 %gleiches Oberthema, hilft nicht
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 69 %gleiches Oberthema, hilft nicht
    • drex 74 %gleiches Oberthema, hilft nicht
    • d3-ultra 76 %gleiches Oberthema, hilft nicht
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 38 %Hintergrund, keine Belege
    • JEV 52 %gleiches Oberthema, hilft nicht
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 68 %gleiches Oberthema, hilft nicht
    • drex 71 %gleiches Oberthema, hilft nicht
    • d3-ultra 74 %gleiches Oberthema, hilft nicht
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 48 %einzelne zitierbare Belege
    • JEV 34 %nur am Rande erwähnt
    • amos 28 %Hintergrund, keine Belege
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 37 %gleiches Oberthema, hilft nicht
    • d3-ultra 59 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung Hintergrund, keine Belege
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 80 %gleiches Oberthema, hilft nicht
    • drex 66 %gleiches Oberthema, hilft nicht
    • d3-ultra 66 %gleiches Oberthema, hilft nicht
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 55 %gleiches Oberthema, hilft nicht
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 66 %gleiches Oberthema, hilft nicht
    • drex 70 %gleiches Oberthema, hilft nicht
    • d3-ultra 77 %gleiches Oberthema, hilft nicht
  2. SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
    • clef 31 %gleiches Oberthema, hilft nicht
    • Luna 65 %gleiches Oberthema, hilft nicht
    • JEV 52 %einzelne zitierbare Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 65 %gleiches Oberthema, hilft nicht
    • drex 71 %gleiches Oberthema, hilft nicht
    • d3-ultra 77 %gleiches Oberthema, hilft nicht
  3. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 29 %Hintergrund, keine Belege
    • Luna 52 %einzelne zitierbare Belege
    • JEV 37 %einzelne zitierbare Belege
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 60 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 68 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt
  4. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 26 %gleiches Oberthema, hilft nicht
    • Luna 38 %einzelne zitierbare Belege
    • JEV 49 %einzelne zitierbare Belege
    • amos 33 %nur am Rande erwähnt
    • SubQ 61 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra 77 %gleiches Oberthema, hilft nicht
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 27 %Hintergrund, keine Belege
    • Luna 65 %Hintergrund, keine Belege
    • JEV 46 %Hintergrund, keine Belege
    • amos 34 %nur am Rande erwähnt
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 31 %Hintergrund, keine Belege
    • d3-ultra 51 %Hintergrund, keine Belege

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →