Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
deepmind25. Juni 2019 · Q004345

Unsupervised learning: The curious pupil

deepmind.google · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der DeepMind-Artikel stellt unüberwachtes Lernen als Möglichkeit dar, aus der Struktur von Daten ohne konkrete menschliche Zielvorgaben zu lernen, und erläutert dies anhand von Bildrepräsentationen, GANs und autoregressiven Modellen. Er sieht darin Potenzial für übertragbares Wissen und Planung, benennt aber auch Grenzen der Repräsentationen sowie Missbrauchsrisiken generativer Medien.

Mittel

Der DeepMind-Beitrag beschreibt unüberwachtes Lernen als einen Ansatz, bei dem KI-Systeme beobachtete Daten ohne eine vorgegebene Einzelaufgabe erkunden und daraus lernen sollen. Anders als überwachtes oder bestärkendes Lernen beruht es nach Darstellung der Autoren nicht auf menschlich festgelegten Labels oder Belohnungen. Die Motivation: Daten wie Bilder, Videos und Texte enthalten viel Struktur, während Trainingssignale oft nur wenig davon abbilden.

Als Beispiel dienen interne Repräsentationen von AlexNet, die einfache Bildmerkmale zu komplexeren Mustern verbinden und laut Beitrag auf andere Aufgaben übertragbar sein können. Solche Klassifikatoren können allerdings Informationen ignorieren, die für ihre konkrete Bildbeschriftung nicht nötig sind. Der Artikel erläutert außerdem generative Modelle: GANs erzeugen Bilder im Wettbewerb zweier Netzwerke; autoregressive Modelle sagen Datenteile wie Wörter der Reihe nach voraus. Erzeugungsfehler können zeigen, wo das Modell Schwächen hat. Als Risiko nennen die Autoren den Missbrauch synthetischer Medien und führen Erkennung, Aufklärung und mögliche Zugangsbeschränkungen als Gegenmaßnahmen an. DeepMind sieht diese Verfahren als mögliche Grundlage für bessere Weltmodelle, Planung und Problemlösung, nicht als Nachweis, dass sie allein allgemeine Intelligenz erzeugen.

Ausführlich lesen

Der DeepMind-Beitrag „Unsupervised learning: The curious pupil“ erläutert unüberwachtes Lernen als möglichen Baustein auf dem Weg zu autonomeren und allgemein intelligenteren KI-Systemen. Die Autorinnen und Autoren stellen es überwachten und bestärkenden Lernverfahren gegenüber: Diese nutzen von Menschen vorgegebene Zielwerte beziehungsweise Belohnungen. Dadurch, so argumentiert der Beitrag, werde mitbestimmt, was ein System lernen kann. Unüberwachtes Lernen soll Agenten dagegen dazu anregen, beobachtete Daten ohne eine konkrete Aufgabe zu erfassen und daraus selbstständig Regelmäßigkeiten abzuleiten. Als Vorbild dient das neugierige, spielerische Erkunden eines Kindes.

Die Motivation dafür sei, dass Bilder, Videos und Texte reich an Struktur sind, während Trainingslabels und Belohnungssignale oft nur wenige Informationen enthalten. Der Beitrag vertritt daher die Auffassung, dass Systeme möglichst viel über ihre Daten lernen sollten, um nützliche und übertragbare interne Repräsentationen zu entwickeln.

Als Beispiel für solche Repräsentationen beschreibt der Artikel AlexNet. Das Netzwerk habe bei der Bildklassifikation zunächst einfache Merkmale wie Kanten und Texturen und in späteren Schichten komplexere Muster wie Räder oder Hunde erfasst. Die Autoren vergleichen diese Abstufung mit der Verarbeitung visueller Informationen im Gehirn. Sie betonen außerdem, dass gelernte Repräsentationen auf andere Aufgaben übertragen werden können. Ein auf einzelne Klassen trainierter Klassifikator kann jedoch Informationen übersehen, die für sein konkretes Etikett nicht erforderlich sind, etwa den Bildhintergrund. Ausführliche Bildbeschreibungen könnten mehr Details vermitteln, seien aber aufwendig zu erstellen und möglicherweise ebenfalls nicht umfassend genug.

Der Beitrag stellt generative Modelle als eine Form unüberwachten Lernens vor: Ein Modell soll nicht einzelne Trainingsbeispiele auswendig wiederholen, sondern die zugrunde liegende Datenverteilung erfassen und überzeugende neue Beispiele erzeugen. Bei GANs treten ein Generator, der Bilder erzeugt, und ein Diskriminator, der künstliche Bilder erkennen soll, gegeneinander an. Die Autoren führen Beispiele von BigGAN an und weisen auf sichtbare Fehler in erzeugten Bildern hin. Solche Auffälligkeiten könnten Rückschlüsse darauf erlauben, was ein Modell gelernt hat und was nicht.

Autoregressive Modelle sagen eine Folge Stück für Stück voraus, etwa das nächste Wort in einem Text. Der Artikel nennt GPT-2, Sprachsynthese, Handschrift und Übersetzung als Beispiele und erwähnt, dass ein generierter Text über Einhörner einen Widerspruch enthält. Allgemein könnten Systeme auch fehlende Teile aus dem übrigen Kontext vorhersagen und so Informationen über größere Zusammenhänge lernen.

Als Risiko nennen die Autoren den möglichen Missbrauch generativer Modelle zur Manipulation von Bild, Ton und Video. Sie verweisen auf Erkennung synthetischer Medien, Aufklärung und mögliche Beschränkungen beim Zugang zu trainierten Modellen als Ansätze zur Risikominderung. Zugleich könnten generative Modelle selbst beim Erkennen gefälschter oder ungewöhnlicher Daten helfen. DeepMind beschreibt die Erforschung dieser Modelle schließlich als möglichen Schritt hin zu Systemen, die sich eine Vorstellung von Daten bilden und damit Planung und Problemlösung unterstützen. Der Beitrag erläutert diese Perspektive anhand ausgewählter Beispiele; er belegt damit nicht, dass unüberwachtes Lernen allein allgemeine Intelligenz hervorbringt.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Bewertet wurde die Zusammenfassung „mittel“; die „kurze“ Fassung ist im Kern ebenfalls treu, lässt aber die Kleinkind-Analogie aus. Die Einordnungen wurden unabhängig von Lunas Stufen und Anteilen vergeben.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Kleinkind-Analogie als Leitbild für Lernen aus Neugier und Spiel ohne Aufgabe
  • Die Kernaussage, dass der Großteil des Gelernten im Verstehen der Daten selbst bestehen muss und nicht in der Anwendung auf Aufgaben
  • Das Beispiel der Strichmännchen als übertragbare Repräsentation

In der Zusammenfassung, laut Prüfung nicht im Bericht belegt

  • Die Aussage, DeepMind sehe die Verfahren ausdrücklich nicht als Nachweis, dass sie allein allgemeine Intelligenz erzeugen, steht so nicht im Bericht; der Bericht stellt nur die Gegenpositionen dar.

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 41 %einzelne zitierbare Belege
    • JEV 34 %Hintergrund, keine Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV 43 %nur am Rande erwähnt
    • amos 42 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 35 %Hintergrund, keine Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Unabhängig prüfen
Tempo und Grenzen
  1. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 46 %einzelne zitierbare Belege
    • JEV 43 %Hintergrund, keine Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 70 %gleiches Oberthema, hilft nicht
    • d3-ultra 70 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

    • SF-T3-T03 Welche Teile von Training, Prüfung und Einsatz laufen schon heute weitgehend durch KI, und welche Rollen sagt jedes Labor zu, bei Menschen zu lassen, in einer veröffentlichten Liste statt als bloßer Grundsatz? Wenn KI nachfolgende Modelle selbst entwirft, trainiert und prüft: Welcher Mindestanteil der Forschung muss unter direkter menschlicher Prüfung bleiben, und wie belegt man, dass ein Durchbruch mit menschlicher Beteiligung und nicht vollautomatisch entstanden ist? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
    • SF-T3-T08 Welche kontrollierten Versuche können Labore heute machen, um Selbstverbesserung nachzubilden, ohne eine unbeabsichtigte Beschleunigung zu riskieren? Luna: Stufe 3 · 67 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
    • SF-V1-T03 Was ist das Kleinste, das ein Modell öffentlich vorlegen kann (ein Test, ein Protokoll, eine Spur), das als Beleg für Ausrichtung an den vorgesehenen Zielen und Werten zählt und nicht nur für Leistung? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
    • SF-V1-T05 Mit welchen empirischen Tests prüft man, ob Training mit synthetischen Daten und gegnerischen Denkspuren, auch von geopolitischen Rivalen, die Überwachbarkeit verschlechtert, und verpflichten sich Labore, alle synthetischen Trainingsdaten kryptografisch zu signieren? Luna: Stufe 3 · 50 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 1 · gleiches Oberthema, hilft nicht
    • SF-V1-T10 Kann etwas, das Modelle über sich und ihre Absichten sagen, als Beleg für Ausrichtung zählen, wenn es nur weiterer erzeugter Text ist, und welche Verfahren machen solche Selbstauskünfte vertrauenswürdig statt nur flüssig? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 84 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 40 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 72 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-V3-T01 Worauf verlässt sich ein Mensch, wenn er glaubt, niemand sehe zu, und lassen sich solche Werte einem System beibringen, das sie nur aus Text gelernt hat? Wie testen Labore heute, ob die Werte eines Modells halten, wenn es zu Recht oder zu Unrecht glaubt, niemand sehe zu? Und wenn niemand erkennen kann, ob jemand zusieht: Was hält Werte dann fest, Charakter, Training oder die Geschichte, die man sich selbst erzählt? Luna: Stufe 3 · 48 % · Hintergrund, keine Belege
    • SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat? Luna: Stufe 3 · 48 % · Hintergrund, keine Belege
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 38 %einzelne zitierbare Belege
    • JEV 48 %einzelne zitierbare Belege
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra 57 %gleiches Oberthema, hilft nicht

    • SF-V4-T01 Falls ein Modell kein durchgehendes Selbst hat: Kann es überhaupt an den vorgesehenen Zielen und Werten ausgerichtet sein, oder nur seine Ausgaben? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
    • SF-V4-T03 Ist Intelligenz, die „eher gewachsen als entworfen“ ist, ein Grund für mehr Vorsicht oder dafür, Modelle wie ein Ökosystem zu pflegen? Luna: Stufe 3 · 47 % · Hintergrund, keine Belege
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 60 %Hintergrund, keine Belege
    • JEV 37 %Hintergrund, keine Belege
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht

    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 53 %Hintergrund, keine Belege
    • JEV 32 %gleiches Oberthema, hilft nicht
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 52 %gleiches Oberthema, hilft nicht
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Modelle teilen und schützen
  1. SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 48 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 36 %nur am Rande erwähnt
    • JEV 38 %nur am Rande erwähnt
    • amos 37 %nur am Rande erwähnt
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 40 %gleiches Oberthema, hilft nicht

    • SF-H2-T01 Was unterscheidet das Veröffentlichen von Modellgewichten (den gelernten Parametern) oder von Agentenwerkzeugen mit offenem Quellcode vom Freisetzen einer Waffe: die Absicht des Akteurs, die Selbstständigkeit des Modells, seine Verwendung oder der Schaden, den es von sich aus anrichten kann? Und können Staaten diese Grenze gemeinsam festschreiben, bevor ein offenes Modell im Mittelpunkt eines schweren Vorfalls steht? Luna: Stufe 3 · 49 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
  3. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 59 %einzelne zitierbare Belege
    • JEV 34 %Hintergrund, keine Belege
    • amos 32 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 60 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung einzelne zitierbare Belege

  4. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug

Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 64 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug

  2. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 79 %Hintergrund, keine Belege
    • JEV 31 %gleiches Oberthema, hilft nicht
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  3. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 39 %Hintergrund, keine Belege
    • JEV 37 %Hintergrund, keine Belege
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 50 %gleiches Oberthema, hilft nicht

    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 46 % · Hintergrund, keine Belege
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 23 %nur am Rande erwähnt
    • Luna 66 %einzelne zitierbare Belege
    • JEV 50 %einzelne zitierbare Belege
    • amos 40 %einzelne zitierbare Belege
    • SubQ 35 %einzelne zitierbare Belege
    • drex 42 %einzelne zitierbare Belege
    • d3-ultra 59 %einzelne zitierbare Belege
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-I1-T01 Welche gemeinsamen Standards für Herkunftsnachweis und Erkennung (Wasserzeichen, signierte Metadaten, Fingerabdrücke von Modellen) würden Labore, Plattformen und Regierungen einführen, damit KI-erzeugte Texte, Tonaufnahmen und Videos über Ländergrenzen hinweg zuverlässig zuzuordnen sind? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
    • SF-I1-T02 Welche gemeinsamen Regeln sollten Labore und Regierungen für Herkunftsnachweis, Kennzeichnung und schnelle Reaktion auf maschinell erzeugte oder veränderte Medien oder Texte annehmen, die eingesetzt werden, um die Öffentlichkeit zu täuschen, und dabei Journalismus, Satire und Forschung schützen? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →