Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
anthropic22. Oktober 2024 · Q003744

Computer use, Claude 3.5 Sonnet, and Claude 3.5 Haiku

anthropic.com · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Anthropic stellt ein leistungsverbessertes Claude 3.5 Sonnet, das schnellere Claude 3.5 Haiku und eine Beta zur Computerbedienung durch Claude vor. Die veröffentlichten Benchmarkwerte sind Unternehmensangaben; Anthropic räumt ein, dass Computer use noch experimentell und fehleranfällig ist und zunächst nur für risikoarme Aufgaben empfohlen wird.

Mittel

Anthropic kündigt ein verbessertes Claude 3.5 Sonnet, das neue Claude 3.5 Haiku und eine öffentliche Beta für die Bedienung von Computern durch Claude an. Das Unternehmen berichtet für Sonnet von besseren Benchmarkwerten, darunter 49,0 Prozent auf SWE-bench Verified gegenüber zuvor 33,4 Prozent. Preis und Geschwindigkeit seien unverändert. Haiku soll bei ähnlicher Geschwindigkeit wie sein Vorgänger auf vielen Benchmarks Claude 3 Opus übertreffen; für das Programmieren nennt Anthropic 40,6 Prozent auf SWE-bench Verified. Der im Bericht nachgetragene Preis beträgt 0,80 US-Dollar je Million Eingabe-Token und 4 US-Dollar je Million Ausgabe-Token.

Mit „Computer use“ kann Claude laut Ankündigung Bildschirmoberflächen erfassen und über Cursor, Klicks und Texteingabe bedienen. Auf OSWorld habe Sonnet 14,9 Prozent in der Kategorie mit Bildschirmbildern erreicht, mit mehr Handlungsschritten 22,0 Prozent. Die Funktion ist laut Anthropic noch experimentell und macht Fehler, etwa bei Scroll- und Ziehbewegungen. Das Unternehmen empfiehlt risikoarme Anwendungen und verweist auf mögliche Missbrauchsrisiken sowie eigens entwickelte Klassifikatoren. Die Leistungswerte und Kundeneinschätzungen im Bericht sind Anthropic-Angaben; eine unabhängige Bestätigung wird dort nicht vorgelegt.

Ausführlich lesen

Der Bericht ist eine Ankündigung von Anthropic zu einem aktualisierten Claude 3.5 Sonnet, dem neuen Claude 3.5 Haiku und einer öffentlichen Beta für „Computer use“. Anthropic beschreibt die Modelle und ihre Leistungswerte; die genannten Ergebnisse sind im Bericht als Unternehmensangaben zu verstehen.

Laut Anthropic verbessert das aktualisierte Sonnet seine Leistung über mehrere Bereiche hinweg, besonders beim Programmieren und beim Einsatz von Werkzeugen. Auf SWE-bench Verified sei der Wert von 33,4 auf 49,0 Prozent gestiegen. Bei TAU-bench nennt das Unternehmen Verbesserungen von 62,6 auf 69,2 Prozent im Einzelhandel und von 36,0 auf 46,0 Prozent bei anspruchsvolleren Aufgaben im Luftverkehr. Preis und Geschwindigkeit seien gegenüber der Vorgängerversion gleich geblieben. Anthropic führt außerdem Rückmeldungen von GitLab, Cognition und The Browser Company an, die unter anderem bessere Schlussfolgerungen, Programmierung, Planung und Automatisierung berichten. Die Angaben beruhen auf den jeweiligen Tests und Einschätzungen; der Bericht liefert keine unabhängige Prüfung dieser Kundenberichte.

Claude 3.5 Haiku wird als schnelleres und günstigeres Modell der nächsten Generation vorgestellt. Anthropic zufolge übertreffe es Claude 3 Opus bei vielen Intelligenz-Benchmarks und erreiche 40,6 Prozent auf SWE-bench Verified. Es sei für Anwendungen mit geringer Verzögerung, für spezialisierte Teilaufgaben und für personalisierte Ergebnisse aus großen Datenbeständen gedacht. Zum Zeitpunkt der Ankündigung sollte Haiku später im Monat zunächst als Textmodell erscheinen; Bildeingaben sollten folgen. Ein vorgeschaltetes Update im Bericht nennt den später revidierten Preis: 0,80 US-Dollar je Million Eingabe-Token und 4 US-Dollar je Million Ausgabe-Token.

Die neue Computerbedienung soll Claude ermöglichen, Bildschirmoberflächen zu betrachten und mit Cursor, Klicks und Texteingabe zu bedienen. Entwickler können damit laut Anthropic allgemeine Abläufe automatisieren, Software bauen und testen oder offene Aufgaben wie Recherche angehen. Beim OSWorld-Test habe Sonnet in der Kategorie, die nur Bildschirmbilder nutzt, 14,9 Prozent erreicht, gegenüber 7,8 Prozent für das nächstbeste KI-System; mit mehr Handlungsschritten seien es 22,0 Prozent gewesen.

Anthropic betont zugleich, dass die Fähigkeit experimentell und fehleranfällig sei. Aufgaben wie Scrollen, Ziehen und Zoomen bereiteten Schwierigkeiten; empfohlen werden zunächst risikoarme Anwendungen. Das Unternehmen nennt mögliche Missbrauchswege wie Spam, Falschinformation und Betrug und erklärt, neue Klassifikatoren zur Erkennung der Computerbedienung und möglicher Schäden entwickelt zu haben. Gemeinsame Tests vor der Veröffentlichung seien mit den US-amerikanischen und britischen AI Safety Institutes erfolgt. Anthropic bewertet den Sicherheitsstandard ASL-2 für das aktualisierte Sonnet weiterhin als angemessen. Die Computer-use-Beta war laut Bericht über die API, Amazon Bedrock und Google Cloud Vertex AI verfügbar; Sonnet selbst stand bereits allen Nutzern zur Verfügung.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Die Bewertung bezieht sich auf die mittlere Zusammenfassung, die im Wesentlichen treu ist. Die kurze Fassung ist ungenauer: Sie nennt Haiku „schneller“, obwohl der Bericht nur ähnliche Geschwindigkeit wie der Vorgänger angibt, und sie behauptet, die Benchmarkwerte seien Unternehmensangaben, was der Bericht so nicht ausdrücklich sagt. Die Einordnungen sind eigenständig und weichen vor allem bei SF-F1 und SF-F1-T01 von Lunas Stufen ab, weil der Bericht keine Cyber-Tests enthält.

Im Bericht, aber nicht in der Zusammenfassung

  • Die Einstufung von Claude 3.5 Sonnet nach dem ASL-2-Standard der Responsible Scaling Policy als weiterhin angemessen
  • Die gemeinsame Vorab-Prüfung durch das US AI Safety Institute und das UK Safety Institute
  • Die TAU-bench-Werte (62,6 auf 69,2 Prozent im Retail-Bereich, 36,0 auf 46,0 Prozent im Airline-Bereich)
  • Die Kundenberichte, etwa von GitLab, Cognition und The Browser Company, sowie die genannten Einsatzfelder wie Asana, Canva, DoorDash und Replit
  • Claude 3.5 Haiku ist zunächst nur als Textmodell verfügbar, Bildeingabe folgt später
  • Claude 3.5 Sonnet ist laut Bericht das erste Frontier-Modell mit Computer use in öffentlicher Beta

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 38 %gleiches Oberthema, hilft nicht
    • Luna 46 %Hintergrund, keine Belege
    • JEV 24 %einzelne zitierbare Belege
    • amos 37 %gleiches Oberthema, hilft nicht
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 25 %Hintergrund, keine Belege
    • Luna 67 %einzelne zitierbare Belege
    • JEV 55 %einzelne zitierbare Belege
    • amos 28 %Hintergrund, keine Belege
    • SubQ 40 %gleiches Oberthema, hilft nicht
    • drex 36 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung nur am Rande erwähnt

    • SF-F1-T01 Welche Belege zu Cyberfähigkeiten soll ein Labor vor der Freigabe eines Modells veröffentlichen (Methoden, Aufgabenfamilien, Fehlerraten, getestete Version, reproduzierbare Cyber-Tests in abgeschirmter Umgebung für unabhängige Prüfer), damit jedes Ministerium sie nachstellen kann, statt ihnen vertrauen zu müssen? Und führt es für dieselbe Modellversion abgestimmte Cyber-Tests durch, die sowohl den durch Schutzmaßnahmen verhinderten Missbrauch als auch die legitimen Abwehraufgaben messen, die dieselben Schutzmaßnahmen blockieren, und weist es beide Ergebnisse aus? Luna: Stufe 4 · 37 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 2 · nur am Rande erwähnt
    • SF-F1-T02 Veröffentlichen Labore abgestimmte Cyber-Tests, die zeigen, was jedes Modell mehr leistet als ein Mensch ohne KI-Hilfe? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
    • SF-F1-T04 Welcher gemeinsame, neutrale und offene Maßstab (Aufgaben, Erfolgsrate, abgeschirmte Testumgebung, Belege) zeigt, dass eine Cyber-Schwelle überschritten ist? Würden ein Ministerium und ein Labor in verschiedenen Staaten ihn annehmen, bevor das nächste Modell als Überschreitung eingestuft wird, damit Schwellen gemessen und nicht behauptet werden? Und dient derselbe Maßstab dann sowohl dazu, ein Modell einzustufen, als auch dazu, das Tempo seiner Entwicklung zu steuern? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
    • SF-F1-T05 Welche Cyber-Prüfungen und welche Testbausteine (Testfälle, Bewertungswerkzeuge, Datensätze) würden jedes Labor und jedes Ministerium anstelle einer bloßen Behauptung als gültig anerkennen, wenn andere sie an ihrem Modell durchführen? Und welche genormte Testsammlung würden Labore verschiedener Staaten gemeinsam an eingefrorenen Modellversionen laufen lassen, verwaltet von einer dritten Stelle, der alle trauen? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
    • SF-F1-T10 Was wäre nötig, damit eine staatliche Aufsichtsplattform für KI-Sicherheit und unabhängige Prüfer mit dauerhaftem Zugang im Labor nach einem gemeinsamen öffentlichen Protokoll dieselben Cyber-Tests in einer gemeinsamen Testumgebung durchführen, die Prüfer zweier Staaten jeweils am Modell des anderen, und die Ergebnisse in beiden veröffentlichen? Und könnten zwei Staaten eine gemeinsam bezeugte Prüfung desselben führenden KI-Modells durchführen und übereinstimmende Prüfsummen (Hashes) der Ergebnisse veröffentlichen? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 30 %einzelne zitierbare Belege
    • amos 25 %Hintergrund, keine Belege
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 100 %kein Bezug
    • Luna 41 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 27 %nur am Rande erwähnt
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-F3-T02 Welche Verantwortung sollten KI-Firmen gegenüber der Öffentlichkeit tragen, wenn ihre Modelle grundlegende wissenschaftliche Entdeckungen ermöglichen, die gefährliche Anwendungen finden könnten? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
  4. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 22 %gleiches Oberthema, hilft nicht
    • Luna 41 %Hintergrund, keine Belege
    • JEV 56 %einzelne zitierbare Belege
    • amos 32 %einzelne zitierbare Belege
    • SubQ 43 %gleiches Oberthema, hilft nicht
    • drex 25 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-F4-T02 Wenn ein Frontier-Modell vor jeder öffentlichen Freigabe zuerst ausgewählte Partner, Forschende oder eine Prüfstelle erreicht: Braucht diese Version mit beschränktem Zugang dieselben veröffentlichten Fähigkeits- und Sicherheitsprüfungen und dieselbe Mitteilung an andere Regierungen wie eine öffentliche Freigabe? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
    • SF-F4-T04 Wie wird ein Modell als sicher bescheinigt, bevor es von einem harmlosen Bereich wie Chat in einen folgenreichen Einsatzbereich wie Angriff, Führung und Kontrolle oder Cyber wechselt, in dem seine Entwickler es nie eingesetzt haben, und welches gemeinsame Verfahren erkennt gefährliches, neu auftretendes Verhalten vor dem Wechsel? Luna: Stufe 3 · 24 % · Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
    • clef 24 %Hintergrund, keine Belege
    • Luna 100 %kein Bezug
    • JEV 39 %einzelne zitierbare Belege
    • amos 29 %einzelne zitierbare Belege
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 22 %Hintergrund, keine Belege
    • Luna 44 %Hintergrund, keine Belege
    • JEV 38 %nur am Rande erwähnt
    • amos 34 %nur am Rande erwähnt
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 36 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  3. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 22 %Hintergrund, keine Belege
    • Luna 46 %einzelne zitierbare Belege
    • JEV 51 %einzelne zitierbare Belege
    • amos 29 %einzelne zitierbare Belege
    • SubQ 35 %gleiches Oberthema, hilft nicht
    • drex 40 %einzelne zitierbare Belege
    • d3-ultra offen

    • SF-P3-T01 Welcher gemeinsame Rahmen für Labore macht Selbstüberwachung überprüfbar, ohne geschütztes geistiges Eigentum offenzulegen, und welche unabhängigen Verfahren Dritter, falls es sie gibt, bestätigen, dass die Selbstüberwachung riskantes Verhalten vor der Freigabe wirklich findet und nicht nur Schein ist? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
    • SF-P3-T02 Welche unabhängig überprüfbaren Zusagen könnten Regierungen von ihren KI-Laboren zur Veröffentlichung verlangen, und wie sieht unabhängige Prüfung aus, wenn der Beleg, dass ein Modell seinen vorgesehenen Zielen und Werten folgt, nur vom trainierenden Labor kommt und Prüfer weder die Modellgewichte (die gelernten Parameter) noch die Trainingsdaten sehen? Luna: Stufe 3 · 35 % · Hintergrund, keine Belege
    • SF-P3-T03 Welche Rolle spielten Modelle der geprüften Modellfamilie, wenn überhaupt, beim Entwerfen, Durchführen oder Bewerten von Prüfungen oder Sicherheitsberichten, die Regierungen vorgelegt werden, und wird diese Rolle offengelegt? Luna: Stufe 4 · 37 % · einzelne zitierbare Belege
    • SF-P3-T04 Wer prüft die KI-Modelle, die andere Modelle prüfen, auf Anweisungen, Versionen und Fehlerfälle, und welche unabhängige Prüfung zeigt, dass das geprüfte Modell sie nicht manipulieren kann, besonders wenn sie aus derselben Modellfamilie stammen? Und wenn gemeinsame Tests, Schweregrade und die Ersteinstufung von Meldungen von Sprachmodellen entworfen, durchgeführt und zusammengefasst werden: Nimmt jeder Staat einen Prüfmechanismus an, dessen Kernbausteine aus ausländischen Laboren stammen? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
    • SF-P3-T07 Wird jede öffentliche Aussage, ein führendes KI-Modell sei „besser ausgerichtet“ als ein anderes (folge also seinen vorgesehenen Zielen und Werten besser), reproduzierbare Kriterien, externe Prüfungen und widersprechende Ergebnisse enthalten? Luna: Stufe 4 · 45 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
    • SF-P3-T08 Welche gemeinsame Bezugsgröße für den Umfang der Nutzung, welcher Beobachtungszeitraum, welcher Stichprobenplan, welche Definition von Beinahe-Vorfall und welche statistische Obergrenze (obere Konfidenzgrenze) würden es jedem erlauben zu sagen: „keine erkennbare systemische Fehlausrichtung (Verhalten gegen die vorgesehenen Ziele oder Werte) im Einsatzmaßstab“? Und wie muss dargestellt werden, dass die Erkennung lückenhaft ist? Luna: Stufe 3 · 40 % · Hintergrund, keine Belege
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 24 %gleiches Oberthema, hilft nicht
    • Luna 55 %einzelne zitierbare Belege
    • JEV 35 %Hintergrund, keine Belege
    • amos 27 %Hintergrund, keine Belege
    • SubQ 54 %gleiches Oberthema, hilft nicht
    • drex 22 %einzelne zitierbare Belege
    • d3-ultra offen

    • SF-T1-T02 Welche messbaren Schwellen halten die weitere Skalierung von KI-Modellen automatisch an, wer prüft sie, und wie bleiben diese Auslöser bindend, wenn der Wettbewerb drückt? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
    • SF-T1-T05 Welche messbaren Vergleichswerte würden zeigen, dass die Ausrichtung der Modelle eines Labors an den vorgesehenen Zielen und Werten schneller vorankommt, als ihre Fähigkeiten wachsen, über das Fehlen öffentlicher Fehlschläge hinaus? Luna: Stufe 3 · 61 % · Hintergrund, keine Belege
    • SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
    • SF-T1-T07 Welches weitere Training auf schwierige Aufgabenziele würde bei einem Modell, das eine Ausrichtungsprüfung bestanden hat, diese Prüfung verfallen lassen, und welcher Belastungstest legt diese Grenze fest, bevor solches Training beginnt? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
    • SF-T1-T08 Wenn ein Sicherheitsprojekt mit KI-Hilfe zugleich die allgemeine Fähigkeit des Modells oder die für sein Training genutzte Rechenleistung steigert: Wie hält man beide Wirkungen fest, und wie entscheidet man, ob der daraus entstehende Fähigkeitszuwachs eine neue Sicherheitsprüfung braucht, bevor die Arbeit weitergeht? Luna: Stufe 3 · 27 % · Hintergrund, keine Belege
  2. SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
    • clef 36 %gleiches Oberthema, hilft nicht
    • Luna 55 %einzelne zitierbare Belege
    • JEV 30 %gleiches Oberthema, hilft nicht
    • amos 34 %nur am Rande erwähnt
    • SubQ 65 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 37 %gleiches Oberthema, hilft nicht
    • Luna 31 %Hintergrund, keine Belege
    • JEV 50 %einzelne zitierbare Belege
    • amos 30 %Hintergrund, keine Belege
    • SubQ 59 %gleiches Oberthema, hilft nicht
    • drex 36 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 4 · 43 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
    • SF-V1-T03 Was ist das Kleinste, das ein Modell öffentlich vorlegen kann (ein Test, ein Protokoll, eine Spur), das als Beleg für Ausrichtung an den vorgesehenen Zielen und Werten zählt und nicht nur für Leistung? Luna: Stufe 3 · 30 % · Hintergrund, keine Belege
    • SF-V1-T09 Wenn Labore bessere Überwacher bauen, Modelle lernen, ihnen auszuweichen, und sich dieses Wechselspiel in jedem Labor beschleunigt: Behandeln Regierungen diesen Wettlauf selbst als Sicherheitsfrage zwischen Staaten, und welche gemeinsamen Belege würden zeigen, dass er beherrscht ist? Luna: Stufe 3 · 42 % · Hintergrund, keine Belege
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 28 %gleiches Oberthema, hilft nicht
    • Luna 62 %Hintergrund, keine Belege
    • JEV 46 %einzelne zitierbare Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 59 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-V3-T03 Werden Labore und die übrige Branche gemeinsame Tests veröffentlichen, ob Werte bei unbekannten Aufgaben, widerstreitenden Anreizen, in gegnerischen Lagen und bei fehlender oder anders wahrgenommener Aufsicht halten, unabhängig wiederholt und mit Fehlschlägen und Unsicherheit? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
  3. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 25 %Hintergrund, keine Belege
    • JEV 53 %einzelne zitierbare Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 64 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  4. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 23 %gleiches Oberthema, hilft nicht
    • Luna 41 %einzelne zitierbare Belege
    • JEV 42 %umfangreiche Belege
    • amos 27 %einzelne zitierbare Belege
    • SubQ 48 %gleiches Oberthema, hilft nicht
    • drex 30 %einzelne zitierbare Belege
    • d3-ultra offen

    • SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
    • SF-V5-T03 Ist es wirtschaftlich klug, Modelle mit geringem Denkaufwand zu betreiben, oder wird das Ausrichtungsproblem (Modelle dazu zu bringen, den vorgesehenen Zielen und Werten zu folgen) dadurch nur schwerer sichtbar? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 22 %Hintergrund, keine Belege
    • Luna 61 %einzelne zitierbare Belege
    • JEV 40 %beantwortet teilweise oder widerspricht
    • amos 29 %einzelne zitierbare Belege
    • SubQ 30 %gleiches Oberthema, hilft nicht
    • drex 25 %nur am Rande erwähnt
    • d3-ultra offen
    • Haiku-Prüfung Hintergrund, keine Belege

  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 37 %gleiches Oberthema, hilft nicht
    • Luna 36 %Hintergrund, keine Belege
    • JEV 39 %gleiches Oberthema, hilft nicht
    • amos 29 %nur am Rande erwähnt
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 40 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
Modelle teilen und schützen
  1. SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
    • clef 100 %kein Bezug
    • Luna 26 %Hintergrund, keine Belege
    • JEV 35 %einzelne zitierbare Belege
    • amos 27 %nur am Rande erwähnt
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra offen
  2. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 25 %einzelne zitierbare Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra offen

Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
    • clef 25 %gleiches Oberthema, hilft nicht
    • Luna 60 %einzelne zitierbare Belege
    • JEV 54 %einzelne zitierbare Belege
    • amos 31 %nur am Rande erwähnt
    • SubQ 69 %gleiches Oberthema, hilft nicht
    • drex 27 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-O2-T05 Welche öffentlichen Zusagen eines Spitzenlabors macht die juristische Person, die bei einem Bruch verklagt würde, und welche nur das Forschungsteam, und veröffentlichen die Labore das für jede Zusage? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
Beteiligung und Gemeinwohl
  1. SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 28 %gleiches Oberthema, hilft nicht
    • amos 29 %nur am Rande erwähnt
    • SubQ 66 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  2. SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
    • clef 26 %nur am Rande erwähnt
    • Luna 92 %einzelne zitierbare Belege
    • JEV 48 %einzelne zitierbare Belege
    • amos 46 %einzelne zitierbare Belege
    • SubQ 35 %nur am Rande erwähnt
    • drex 41 %einzelne zitierbare Belege
    • d3-ultra offen
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-E3-T02 Welche Stelle eines Staates wäre das Gegenüber für Prüfungen vor der Veröffentlichung, also Tests auf akute Risiken? Gefragt wurde das zu China (Cyberspace-Verwaltung, Ministerium für Staatssicherheit oder eine neue Stelle) und zu den Prüfungen, die Anthropic-Chef Dario Amodei im Essay „We Must Pace the Frontier“ vorschlägt. Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
  3. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 38 %gleiches Oberthema, hilft nicht
    • Luna 66 %Hintergrund, keine Belege
    • JEV 38 %einzelne zitierbare Belege
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 68 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

  4. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 36 %gleiches Oberthema, hilft nicht
    • Luna 38 %einzelne zitierbare Belege
    • JEV 40 %einzelne zitierbare Belege
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 78 %gleiches Oberthema, hilft nicht
    • drex 54 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 36 %gleiches Oberthema, hilft nicht
    • Luna 41 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 32 %nur am Rande erwähnt
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 36 %gleiches Oberthema, hilft nicht
    • d3-ultra offen

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →