Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
frank-andrade.medium.com25. April 2025 · Q009848

AI Gets the Credit. You Get the Bugs

frank-andrade.medium.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Frank Andrade zufolge beschleunigt KI zwar die Codeerstellung, doch Prüfung, Fehlerbehebung und Wartung können den Zeitgewinn schmälern. Er verweist auf Umfragen und Studien zu umfangreicher Überarbeitung, möglichen Sicherheitsproblemen und zusätzlichem Wartungsaufwand, ohne deren Methoden im Beitrag ausführlich darzustellen. Entwickler sollten KI-Code testen und prüfen; verantwortlich bleiben sie selbst.

Mittel

Frank Andrade beschreibt den Einsatz von KI beim Programmieren als Tausch: Code entsteht schneller, doch Menschen müssen ihn weiterhin prüfen, korrigieren und langfristig warten. Als Vorteile nennt er etwa die schnelle Erzeugung wiederkehrender Codeabschnitte, Funktionen und Tests. Eine angeführte GitHub-Studie mit Accenture-Entwicklern habe eine Beschleunigung um bis zu 55 Prozent ergeben. Zugleich entfielen laut einer im Beitrag zitierten Umfrage durchschnittlich nur 28 Prozent des erzeugten Codes auf KI.

Der Autor warnt, dass KI Projektabsicht und Architektur nicht zuverlässig verstehe. Daher könne ihr Code trotz plausibler Form Fehler, ineffiziente Lösungen, unpassende Abhängigkeiten oder Sicherheitsprobleme enthalten. Einer weiteren Umfrage zufolge überarbeiteten Webentwickler im Mittel 61 Prozent des KI-Codes vor dem Produktionseinsatz. Andrade sieht darin mögliche Folgen wie längere Reviews, technische Schulden, mehr Fehlerbehebung und höhere QA-Last. Er stützt sich auf zitierte Umfragen, Studien und eigene Erfahrungen; deren Methoden werden im Artikel nicht ausführlich dargestellt. Seine Empfehlung: KI-Ausgaben kritisch prüfen, testen und reviewen und zugleich Weiterbildung sowie Mentoring erhalten. Die Verantwortung für den eingesetzten Code bleibe bei den Entwicklern.

Ausführlich lesen

Der Beitrag von Frank Andrade behandelt den Zielkonflikt beim Einsatz von KI zum Programmieren: Die Werkzeuge können Code schnell erzeugen, doch Prüfung, Fehlersuche und spätere Wartung bleiben Aufgaben der Entwicklerinnen und Entwickler. Der Autor erkennt den Nutzen an: KI könne wiederkehrende Aufgaben beschleunigen, API-Aufrufe vorschlagen und Funktionen oder Tests erstellen. Er verweist auf eine GitHub-Studie mit Entwicklern bei Accenture, der zufolge Copilot das Programmieren um bis zu 55 Prozent beschleunigt habe; außerdem hätten 95 Prozent der Befragten angegeben, dass ihnen das Programmieren mit KI für lästige Aufgaben mehr Spaß mache.

Diesen Vorteilen stellt Andrade Grenzen gegenüber. Er nennt eine Umfrage, nach der KI im Durchschnitt 28 Prozent des erzeugten Codes beisteuere; den größeren Anteil schrieben Entwickler demnach weiterhin selbst. KI-generierter Code könne zwar plausibel aussehen oder kompilieren, aber die Absicht hinter dem Programm und dessen Architektur nicht zuverlässig erfassen. Der Autor beschreibt daraus entstehende Fehler, ineffiziente Lösungen und erfundene Inhalte. Laut einer weiteren angeführten Umfrage überarbeiteten Webentwickler im Durchschnitt 61 Prozent des KI-Codes, bevor dieser produktionsreif sei. Diese Zahlen werden im Beitrag berichtet; die Erhebungsmethoden werden dort nicht ausführlich erläutert.

Auch über die erste Umsetzung hinaus sieht der Autor Kosten. Da KI lokale Entwurfsprinzipien, Namenskonventionen oder projektspezifische Entscheidungen nicht automatisch kennt, könne sie unpassende Abstraktionen oder zusätzliche Abhängigkeiten einführen. Das könne technische Schulden, längere Prüfungen, Nachbesserungen nach der Veröffentlichung und mehr Aufwand für Qualitätssicherung zur Folge haben. Andrade stützt diese Einschätzung auf eigene Erfahrungen und auf weitere im Artikel angeführte Berichte. Zudem nennt er Sicherheitsbedenken: Eine Stanford-Studie habe laut seiner Darstellung ergeben, dass Entwickler mit KI-Unterstützung eher unsicheren Code schrieben, der Sicherheitswarnungen auslöste. Architekten sorgten sich außerdem um uneinheitliche Systeme, wenn KI den langfristigen Entwurf nicht berücksichtigt.

Der Beitrag folgert nicht, dass KI Entwickler ersetzt. Vielmehr verändere sie die Arbeit: Code lasse sich leichter schreiben, aber möglicherweise schwieriger langfristig pflegen. Andrade empfiehlt, KI-Ausgaben kritisch zu prüfen, umfassend zu testen und Code-Reviews einzuplanen. Außerdem sollten Teams Weiterbildung und die Betreuung jüngerer Entwickler nicht vernachlässigen. Die zentrale Aussage des Autors lautet, dass Entwickler für den von ihnen verwendeten Code verantwortlich bleiben, unabhängig davon, ob KI bei seiner Erstellung geholfen hat.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Zusammenfassung ist im Kern treu, lässt aber einige im Bericht genannte Befunde weg. Die Einordnung von Luna war bei SF-E5 mit Stufe 4 und bei SF-E4 mit Stufe 3 zu hoch; bei SF-F4 wurde Stufe 3 eher zu niedrig angesetzt. Teilfragen gab es nicht, daher wurden nur die drei Sammelfragen bewertet.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Aussage, dass Entwickler etwa 91 Prozent KI nutzen und 95 Prozent Freude am Programmieren mit KI berichten
  • Die Warnung, dass KI-Code oft wie ein Fehlersuchfall ('AI bug detective') schwer nachvollziehbar ist und Halluzinationen vorkommen
  • Die Sorge der Softwarearchitekten vor fragmentierten Systemen, weil KI die langfristigen Projektziele nicht kennt
  • Die Stanford-Studie zu unsicherem KI-Code wird nur allgemein als Sicherheitsproblem erwähnt, nicht als Befund

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 49 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 100 %kein Bezug
    • Luna 27 %Hintergrund, keine Belege
    • JEV 54 %nur am Rande erwähnt
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 75 %Hintergrund, keine Belege
    • JEV 45 %Hintergrund, keine Belege
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung beantwortet teilweise oder widerspricht
Unabhängig prüfen
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 47 %Hintergrund, keine Belege
    • JEV 42 %Hintergrund, keine Belege
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 54 %gleiches Oberthema, hilft nicht
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Vertrauen in Modelle
  1. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 28 %Hintergrund, keine Belege
    • JEV 52 %beantwortet teilweise oder widerspricht
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 71 %Hintergrund, keine Belege
    • JEV 46 %einzelne zitierbare Belege
    • amos 26 %Hintergrund, keine Belege
    • SubQ 47 %gleiches Oberthema, hilft nicht
    • drex 42 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 100 %kein Bezug
    • Luna 43 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 100 %kein Bezug
    • Luna 46 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 44 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 44 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
Beteiligung und Gemeinwohl
  1. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 100 %kein Bezug
    • Luna 64 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  2. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 91 %Hintergrund, keine Belege
    • JEV 36 %Hintergrund, keine Belege
    • amos 48 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 64 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung gleiches Oberthema, hilft nicht
  3. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 46 %einzelne zitierbare Belege
    • JEV 49 %beantwortet teilweise oder widerspricht
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
    • Haiku-Prüfung nur am Rande erwähnt
Wirtschaft und Haftung
Information und Öffentlichkeit

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →