Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
karpathy.medium.com11. November 2017 · Q009584

Software 2.0

karpathy.medium.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Karpathy beschreibt neuronale Netze als „Software 2.0“: Statt alle Regeln von Hand zu programmieren, werden gewünschte Ergebnisse durch Daten vorgegeben und Modelle darauf trainiert. Er sieht Vorteile und eine Ausbreitung in vielen Bereichen, warnt aber auch vor schwer erklärbaren Modellen, Verzerrungen und unerwarteten Fehlern.

Mittel

Karpathy versteht neuronale Netze nicht bloß als weitere Methode des maschinellen Lernens, sondern als neues Programmierparadigma: „Software 2.0“. Während bei klassischer Software Menschen konkrete Anweisungen schreiben, definieren sie hier gewünschtes Verhalten durch Daten und eine Netzarchitektur. Das Training ermittelt die Modellgewichte; deshalb werde die Pflege beschrifteter Datensätze zunehmend zu einem zentralen Teil der Softwareentwicklung.

Der Autor nennt Bilderkennung, Sprachverarbeitung, Übersetzung, Go und erste Datenbankansätze als Beispiele für den Übergang. Er schreibt Software 2.0 Vorteile wie einheitliche Berechnungen, spezialisierte Hardware, berechenbaren Ressourcenbedarf und Anpassbarkeit durch erneutes Training zu. Für zahlreiche Aufgaben mit Bild, Video und Sprache seien neuronale Netze seiner Ansicht nach leistungsfähiger als von Menschen formulierter Code.

Als Grenzen nennt er schwer erklärbare Modelle, unvorhersehbare Fehler, übernommene Verzerrungen und adversariale Angriffe. Daher brauche es neue Werkzeuge zum Sammeln, Prüfen und Kennzeichnen von Daten sowie zum Teilen trainierter Modelle. Eine weitere Ausbreitung erwartet er besonders dort, wo sich Ergebnisse wiederholt bewerten lassen, der Algorithmus aber schwer von Hand zu entwerfen ist. Seine Aussagen über künftige Entwicklung sind Prognosen des Autors.

Ausführlich lesen

Andrej Karpathy beschreibt neuronale Netze als Beginn eines neuen Programmierparadigmas, das er „Software 2.0“ nennt. Bei herkömmlicher Software („Software 1.0“) schreiben Menschen konkrete Anweisungen in Sprachen wie Python oder C++. Bei Software 2.0 geben sie stattdessen gewünschtes Verhalten vor, etwa anhand beschrifteter Beispiele, und legen mit einer Netzarchitektur den Suchraum fest. Training mit Backpropagation und stochastischem Gradientenabstieg ermittelt die Gewichte des Netzes. Karpathy vergleicht diesen Vorgang mit dem Kompilieren der Daten und Architektur in ein ausführbares Modell.

Weil Architekturen und Trainingssysteme seiner Einschätzung nach zunehmend standardisiert werden, verlagere sich ein großer Teil der Entwicklungsarbeit auf das Sammeln, Kennzeichnen, Prüfen und Bereinigen von Daten. Er beschreibt eine mögliche Arbeitsteilung zwischen Personen, die Datensätze pflegen, und Programmierenden, die Trainingsinfrastruktur, Auswertungen und Werkzeuge betreuen. Wo sich gewünschtes Verhalten leichter anhand von Daten beschreiben als ausdrücklich programmieren lässt, erwartet er einen Wechsel von Software 1.0 zu 2.0.

Als Beispiele für diesen Wandel nennt er Bilderkennung, Spracherkennung und Sprachsynthese, maschinelle Übersetzung sowie Go. In diesen Bereichen hätten neuronale Netze frühere, stärker handentwickelte Verfahren zunehmend verdrängt oder übertroffen. Auch bei Datenbanken sieht er erste Anzeichen: Er verweist auf einen damals veröffentlichten Vorschlag für gelernte Indexstrukturen und berichtet von bis zu 70 Prozent höherer Geschwindigkeit bei zugleich deutlich geringerem Speicherbedarf. Diese Beispiele und Zahlen gibt der Artikel wieder; sie sind hier nicht unabhängig überprüft.

Karpathy führt als Vorteile von Software 2.0 eine vergleichsweise einheitliche Berechnung, leichtere Umsetzung in spezialisierter Hardware, vorhersehbareren Rechen- und Speicherbedarf sowie gute Übertragbarkeit auf verschiedene Rechner an. Netze ließen sich durch erneutes Training anpassen: Weniger Kanäle könnten ein schnelleres, dafür schwächeres Modell ergeben, während mehr Daten oder Rechenleistung die Leistung steigern könnten. Außerdem könnten getrennt trainierte Komponenten gemeinsam optimiert werden. Für viele wertvolle Aufgaben mit Bildern, Videos oder Sprache seien neuronale Netze seiner Ansicht nach menschlich geschriebenem Code überlegen.

Zugleich betont der Autor erhebliche Grenzen. Große Modelle seien oft schwer zu erklären; es könne nötig sein, zwischen einem verständlicheren, weniger genauen und einem genaueren, undurchsichtigeren Modell abzuwägen. Netze könnten auf schwer vorhersehbare Weise versagen, Verzerrungen aus Trainingsdaten unbemerkt übernehmen und anfällig für adversariale Beispiele sein. Der Artikel räumt ein, dass Eigenschaften dieser Systeme noch erforscht werden.

Karpathy fordert deshalb neue Werkzeuge für die Arbeit mit Daten: etwa Systeme, die wahrscheinlich falsch beschriftete Beispiele hervorheben, beim Kennzeichnen helfen oder besonders informative Fälle vorschlagen. Er fragt außerdem nach Gegenstücken zu GitHub und Paketmanagern für Datensätze und trainierte Modelle. Seine Prognose lautet, dass Software 2.0 dort weiter zunehmen dürfte, wo sich Ergebnisse wiederholt und kostengünstig bewerten lassen, während die Regeln schwer explizit zu formulieren sind. Die Erwartung, auch allgemeine künstliche Intelligenz werde auf diese Weise entstehen, ist seine Zukunftseinschätzung, kein im Bericht belegtes Ergebnis.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Lunas Zusammenfassung ist im Kern treu und erfindet nichts. Ihr fehlen vor allem der Strukturwandel in Entwicklungsteams und der Zielkonflikt zwischen Verständlichkeit und Genauigkeit. Bei den Einordnungen liegt Luna bei SF-H3, SF-T3, SF-V4 und SF-V3-T04 zu hoch, weil der Bericht zu diesen Fragen nur am Rande oder gar nichts sagt.

Im Bericht, aber nicht in der Zusammenfassung

  • Software 1.0 wird zunehmend durch 2.0 ersetzt ("Software is eating the world, AI is eating software")
  • Teams teilen sich in Datenbeschrifter (2.0) und wenige Programmierer für Trainingsinfrastruktur (1.0)
  • Konkrete Befunde wie die Datenbank-Beispiele (bis 70 % schneller, eine Größenordnung weniger Speicher) und die Rolle von Google
  • Der Zielkonflikt zwischen einem 90 % genauen, verstandenen Modell und einem 99 % genauen, unverstandenen Modell
  • Die Prognose, dass AGI in Software 2.0 geschrieben werden wird

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 75 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 72 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 51 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 75 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 61 %Hintergrund, keine Belege
    • JEV 32 %gleiches Oberthema, hilft nicht
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 52 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Unabhängig prüfen
  1. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 100 %kein Bezug
    • Luna 38 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
    • clef 100 %kein Bezug
    • Luna 67 %Hintergrund, keine Belege
    • JEV 43 %gleiches Oberthema, hilft nicht
    • amos 46 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 58 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht

Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 73 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 28 %Hintergrund, keine Belege
    • Luna 56 %einzelne zitierbare Belege
    • JEV 34 %einzelne zitierbare Belege
    • amos 29 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra 69 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung nur am Rande erwähnt

Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra 53 %gleiches Oberthema, hilft nicht

    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 3 · 46 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
    • SF-V1-T07 Lieber ein Modell, das immer seinen Lösungsweg zeigen muss, oder eines, das im Stillen mehr kann: Welches Risiko nimmt man in Kauf? Luna: Stufe 6 · 40 % · beantwortet teilweise oder widerspricht · Haiku-Prüfung: Stufe 6 · beantwortet teilweise oder widerspricht
    • SF-V1-T09 Wenn Labore bessere Überwacher bauen, Modelle lernen, ihnen auszuweichen, und sich dieses Wechselspiel in jedem Labor beschleunigt: Behandeln Regierungen diesen Wettlauf selbst als Sicherheitsfrage zwischen Staaten, und welche gemeinsamen Belege würden zeigen, dass er beherrscht ist? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 36 %einzelne zitierbare Belege
    • amos 35 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 63 %gleiches Oberthema, hilft nicht
    • d3-ultra 51 %gleiches Oberthema, hilft nicht

    • SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat? Luna: Stufe 3 · 48 % · Hintergrund, keine Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 38 %einzelne zitierbare Belege
    • JEV 53 %beantwortet teilweise oder widerspricht
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 55 %gleiches Oberthema, hilft nicht
    • d3-ultra 58 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung gleiches Oberthema, hilft nicht

    • SF-V4-T03 Ist Intelligenz, die „eher gewachsen als entworfen“ ist, ein Grund für mehr Vorsicht oder dafür, Modelle wie ein Ökosystem zu pflegen? Luna: Stufe 3 · 45 % · Hintergrund, keine Belege
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 52 %Hintergrund, keine Belege
    • JEV 51 %einzelne zitierbare Belege
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 62 %gleiches Oberthema, hilft nicht

    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 3 · 44 % · Hintergrund, keine Belege
    • SF-V5-T03 Ist es wirtschaftlich klug, Modelle mit geringem Denkaufwand zu betreiben, oder wird das Ausrichtungsproblem (Modelle dazu zu bringen, den vorgesehenen Zielen und Werten zu folgen) dadurch nur schwerer sichtbar? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 70 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 72 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  3. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 100 %kein Bezug
    • Luna 70 %Hintergrund, keine Belege
    • JEV 32 %nur am Rande erwähnt
    • amos 36 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 70 %gleiches Oberthema, hilft nicht
    • d3-ultra 62 %gleiches Oberthema, hilft nicht

Modelle teilen und schützen
  1. SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
    • clef 100 %kein Bezug
    • Luna 62 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 68 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  2. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 53 %Hintergrund, keine Belege
    • JEV 31 %gleiches Oberthema, hilft nicht
    • amos 51 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 72 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht

  3. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 72 %einzelne zitierbare Belege
    • JEV 38 %einzelne zitierbare Belege
    • amos 32 %Hintergrund, keine Belege
    • SubQ 41 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 68 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung Hintergrund, keine Belege

  4. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 69 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 62 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Frieden und Sicherheit
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 54 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 69 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

  2. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 59 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  3. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 87 %Hintergrund, keine Belege
    • JEV 32 %gleiches Oberthema, hilft nicht
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 52 %gleiches Oberthema, hilft nicht
    • drex 71 %gleiches Oberthema, hilft nicht
    • d3-ultra 54 %gleiches Oberthema, hilft nicht

  4. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 68 %Hintergrund, keine Belege
    • JEV 42 %Hintergrund, keine Belege
    • amos 54 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 68 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht

Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 97 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 50 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →