Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
xaiohne Datum · Q004414

https://docs.x.ai/grok-bot/security.md

docs.x.ai · Originalbericht öffnen ↗

Zusammenfassung

Kurz

Der Bericht beschreibt Netzwerkregeln, Genehmigungen, Auto Review, Identitäts- und Datenkontrollen für Grok Bot; viele Verwaltungsfunktionen seien Enterprise vorbehalten. Er hebt Grenzen hervor: Netzwerk-Sperren seien keine verlässliche Sicherheitsgrenze, Auto Review erfasse nicht alle Nebenwirkungen und Prompt-Injection-Risiken würden reduziert, aber nicht beseitigt.

Mittel

Der Bericht gibt einen Überblick über Sicherheitskontrollen und Einschränkungen von Grok Bot. Aufgaben laufen auf Cursor-gehosteten Computern; Anfragen gehen an Modellanbieter, verbundene Apps an externe Dienste. Viele zentrale Admin-Funktionen, darunter Netzwerksteuerung, Auto-Review-Teamregeln, Audit-Logs und SCIM, seien Enterprise vorbehalten. Ohne Netzwerkregel sei der Zugriff standardmäßig offen. Allowlisten und Sperrlisten könnten Ziele begrenzen, die Sperrliste sei laut Bericht aber nur eine Best-Effort-Maßnahme: IP-Zugriffe und manche Apps oder verschlüsselte Verbindungen könnten sie umgehen. MCP-Server würden erst durch eine separate Einstellung in die Netzwerk-Allowlist einbezogen.

Einzelgenehmigungen und Auto Review sollen riskante Aktionen kontrollieren; Auto Review decke jedoch nicht jede Nebenwirkung ab. Inference Hooks prüften Modellanfragen, begännen standardmäßig im nicht blockierenden Schattenmodus und befänden sich in der Beta. Bots handelten grundsätzlich als angemeldete Mitglieder; Connector-Tokens blieben im Backend. Gespeicherte Zugangsdaten würden dem Modell nicht gezeigt, aber der Bot könne bestimmte gespeicherte Angaben verwenden. Das Beenden oder Löschen eines Bots entferne Dateien und Sitzungen nicht automatisch. Computer und Datenverarbeitung seien auf die USA ausgerichtet; individuelle Computer-Wiederherstellung zu einem früheren Zeitpunkt sei nicht verfügbar. Die Modellauswahl sei nicht durch die Team-Allowlist kontrolliert. Der Bericht erklärt, Schutzmaßnahmen verringerten Prompt-Injection-Risiken, beseitigten sie aber nicht.

Ausführlich lesen

Der Bericht beschreibt Sicherheitskontrollen, Architektur und Grenzen von Grok Bot für Teams und Unternehmen. Er stellt dar, dass Anfragen über Cursor-Server laufen, Aufgaben auf gehosteten Computern ausgeführt werden, Modellanfragen an Anbieter gehen und verbundene Apps über Drittanbieter-Dienste angesprochen werden. Für diese Wege gebe es jeweils eigene Kontrollen. Zahlreiche Verwaltungsfunktionen – darunter Netzwerksteuerung, Teamregeln für Auto Review, Audit-Logs, Aktionsaufzeichnung, SCIM und Team-Setup-Skripte – seien ausschließlich Enterprise-Kunden zugänglich; selbstverwaltete Teams hätten diese Einstellungen nicht.

Bei Netzwerkregeln können Enterprise-Admins laut Bericht Zugriffe vollständig erlauben, bestimmte Ziele sperren oder Allowlisten festlegen. Ohne Richtlinie gelte standardmäßig uneingeschränkter Zugriff. Computer übernähmen Änderungen gewöhnlich binnen etwa einer Minute oder beim nächsten Aufwachen. Die Sperrliste beschränke sich auf höchstens 50 Hostnamen und gelte unter anderem für Browser, Shell, WebFetch und – bei gesonderter Aktivierung – entfernte MCP-Server. Der Bericht betont jedoch, dass diese Sperre nur als Best-Effort-Kontrolle und nicht als Sicherheitsgrenze zu verstehen sei: Zugriffe über IP-Adressen und manche Apps oder verschlüsselte Verbindungen könnten sie umgehen. WebSearch filtere blockierte Seiten nicht aus Ergebnissen; WebFetch könne Inhalte ohne JavaScript-Ausführung liefern. Netzwerkregeln und Connector-Berechtigungen seien getrennte Ebenen. MCP-Server würden standardmäßig nicht durch die Netzwerk-Allowlist eingeschränkt; dafür müsse eine eigene Option aktiviert werden, die auch Cursor-eigene verbundene Apps anhand ihrer Zielhosts prüfe.

Für folgenreiche Aktionen nennt der Bericht Einzelgenehmigungen und Auto Review. Genehmigungsdialoge zeigten die geplante Aktion und ihre Eingaben; Freigabe, dauerhafte Regel oder Ablehnung seien möglich. Auto Review prüfe riskante Befehle, App-Aufrufe, Computeraktionen, Änderungen an Automatisierungen und Delegationen und könne sie zulassen, zur Freigabe stellen oder verweigern. Teamregeln seien Enterprise-Funktionen, persönliche Regeln könnten Verhalten zusätzlich verschärfen. Die Prüfung erfasse aber nicht jede Nebenwirkung, etwa Speicherschreibvorgänge und viele Einstellungsänderungen. Inference Hooks könnten Modellanfragen vor der Ausführung durch einen organisationsseitigen Sicherheitsdienst prüfen; neue Konfigurationen starteten im Schattenmodus und blockierten zunächst nichts. Der Bericht bezeichnet die Funktion als Beta und rät, sie zusammen mit Netzwerkregeln und Auto Review zu verwenden.

Zur Identität heißt es, Bots handelten grundsätzlich als angemeldete Mitglieder und hätten keine eigene Identität. Connector-Tokens blieben auf dem Cursor-Backend; gespeicherte Zugangsdaten würden dem Modell nicht offengelegt. Zugleich könne der Bot gespeicherte Logins und bestimmte Kontaktinformationen erkennen und in der Grok-Bot-App auch Kartennummer und Sicherheitscode zum Ausfüllen verwenden. Gespeicherte Karten würden beim Bezahlen ohne separate Einzelgenehmigung eingesetzt. Das Beenden eines Computers lösche laut Bericht weder den Zugriff noch gespeicherte Dateien und Browser-Sitzungen; für den Zugriffsverlust seien zusätzliche Schritte wie Mitgliederentfernung oder Widerruf beim Identitätsanbieter nötig. Bot-Löschung entferne Computerdateien und Sitzungen ebenfalls nicht.

Computer liefen ausschließlich in Cursor-gehosteter Cloud-Infrastruktur; lokale Ausführung auf dem Mitgliedsgerät sei eine getrennte Funktion mit standardmäßiger Einzelgenehmigung. Dateien und Browser-Sitzungen blieben auf dauerhaftem Speicher erhalten; Ruhezustand bedeute keine Löschung. Laut Bericht würden Daten nach Ende des Dienstes auf schriftliche Anweisung innerhalb von 30 Tagen gelöscht oder zurückgegeben. Individuelle Wiederherstellung auf einen früheren Zeitpunkt sei nicht verfügbar. Computer stünden in den USA; eine US-Datenresidenzoption halte bei Aktivierung auch Verarbeitung und Speicherung dort. Die Modellauswahl liege bei Grok Bot, könne sich ändern und werde nicht durch die Team-Modell-Allowlist gesteuert. Privacy Mode schließe laut Bericht die Nutzung von Kundendaten zum Training aus; Anbieter könnten markierte Daten jedoch für Sicherheitsuntersuchungen speichern. Abschließend weist der Bericht darauf hin, dass Schutzmaßnahmen Prompt-Injection-Risiken verringerten, aber nicht beseitigten, und nennt ISO/IEC-27001- und ISO/IEC-42001-Zertifizierungen des Unternehmens, in deren aktuellem Umfang Grok Bot enthalten sei.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19

Gegengeprüft von Claude Haiku 5.5: kleine Mängel

Lunas Zusammenfassung ist im Kern treu und enthält keine erfundenen Fakten; die Mängel liegen in fehlenden Details zu Egress, Hosting, Aufbewahrung und Zertifizierungen. Die Einordnung bewertet jede Frage unabhängig von Lunas Stufen und stützt sich auf den Bericht; bei den Fragen zu allgemeinen KI-Agenten beantwortet der Bericht nur produktspezifische Aspekte.

Im Bericht, aber nicht in der Zusammenfassung

  • Standard-Egress läuft über geteilte statische IP-Bereiche, die Grok Bot-Kunden gemeinsam nutzen, und sind daher als Grok-Bot-Verkehr erkennbar
  • Hosting nur auf Cursor-eigenen Cloud-Computern, kein On-Premises und kein Bring-your-own-Image
  • Aufbewahrung und Löschung: Löschung nach DPA innerhalb von 30 Tagen, tägliche verschlüsselte Backups
  • Action Recording ist Enterprise-only, standardmäßig aus und speichert 90 Tage
  • Zertifizierungen ISO/IEC 27001 und 42001 durch Schellman sowie US-Datenresidenz als optionales Programm
  • Auto Review kann von Admins erzwungen werden und Team-Regeln sind nur für Enterprise verfügbar
  • Das Blockieren einer App sperrt nicht deren Website; Netz- und Connector-Richtlinie sind getrennte Ebenen

Automatische Gegenprüfung mit dem vollständigen Originaltext (Batch, 20.11.2026). Ungeprüft durch Menschen.

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 8 von 8
Angezeigte Modelle
Vorfälle melden
  1. SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
    • clef 100 %kein Bezug
    • Luna 57 %Hintergrund, keine Belege
    • JEV 28 %einzelne zitierbare Belege
    • amos 25 %nur am Rande erwähnt
    • SubQ 65 %gleiches Oberthema, hilft nicht
    • drex 46 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-M3-T01 Wie trennt man in Echtzeit eine gezielte KI-gestützte Cyberoperation von einer versehentlichen KI-Eskalation oder von Modellverhalten, das nur wie ein Angriff aussieht, da sowohl Fehlalarme als auch übersehene Angriffe die Spannungen verschärfen können? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
  2. SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
    • clef 100 %kein Bezug
    • Luna 27 %einzelne zitierbare Belege
    • JEV 100 %kein Bezug
    • amos 24 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 61 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-M4-T01 Welches gemeinsame Meldeformat und welcher geschützte Kanal ließen Labore Fehler nachstellen und Korrekturen prüfen, ohne private Daten oder gefährliche technische Details preiszugeben? Und könnte sich die Branche über Grenzen hinweg auf einen Standard für das Melden KI-gestützter Einbrüche und Datenabflüsse einigen, damit eine Eskalation gemessen und nicht nur behauptet wird? Luna: Stufe 4 · 30 % · einzelne zitierbare Belege
  3. SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
    • clef 29 %gleiches Oberthema, hilft nicht
    • Luna 30 %Hintergrund, keine Belege
    • JEV 48 %einzelne zitierbare Belege
    • amos 29 %Hintergrund, keine Belege
    • SubQ 62 %gleiches Oberthema, hilft nicht
    • drex 47 %gleiches Oberthema, hilft nicht
    • d3-ultra 55 %gleiches Oberthema, hilft nicht

Fähigkeiten messen
  1. SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
    • clef 40 %gleiches Oberthema, hilft nicht
    • Luna 30 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 24 %einzelne zitierbare Belege
    • SubQ 57 %gleiches Oberthema, hilft nicht
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-F1-T01 Welche Belege zu Cyberfähigkeiten soll ein Labor vor der Freigabe eines Modells veröffentlichen (Methoden, Aufgabenfamilien, Fehlerraten, getestete Version, reproduzierbare Cyber-Tests in abgeschirmter Umgebung für unabhängige Prüfer), damit jedes Ministerium sie nachstellen kann, statt ihnen vertrauen zu müssen? Und führt es für dieselbe Modellversion abgestimmte Cyber-Tests durch, die sowohl den durch Schutzmaßnahmen verhinderten Missbrauch als auch die legitimen Abwehraufgaben messen, die dieselben Schutzmaßnahmen blockieren, und weist es beide Ergebnisse aus? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
    • SF-F1-T05 Welche Cyber-Prüfungen und welche Testbausteine (Testfälle, Bewertungswerkzeuge, Datensätze) würden jedes Labor und jedes Ministerium anstelle einer bloßen Behauptung als gültig anerkennen, wenn andere sie an ihrem Modell durchführen? Und welche genormte Testsammlung würden Labore verschiedener Staaten gemeinsam an eingefrorenen Modellversionen laufen lassen, verwaltet von einer dritten Stelle, der alle trauen? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
    • SF-F1-T07 Wie sollten führende KI-Modelle über Sprachen und Kulturen hinweg geprüft und verbessert werden, damit ihr Sicherheitsverhalten nicht vom Englischen oder den Normen eines Landes abhängt? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
  2. SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 38 %einzelne zitierbare Belege
    • amos 43 %gleiches Oberthema, hilft nicht
    • SubQ 58 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  3. SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
    • clef 100 %kein Bezug
    • Luna 28 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 100 %kein Bezug
    • SubQ 53 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  4. SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
    • clef 100 %kein Bezug
    • Luna 33 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 35 %gleiches Oberthema, hilft nicht
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 53 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-F4-T03 Welche neue Prüfung braucht jeder Einsatz, wenn Fähigkeiten zunehmend im Nachdenken des Modells während der Nutzung stecken statt in einem einmal trainierten Modell, und würden die für ein festes Modell gebauten Freigabetests das noch erfassen? Luna: Stufe 3 · 34 % · Hintergrund, keine Belege
Unabhängig prüfen
  1. SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
    • clef 100 %kein Bezug
    • Luna 30 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 38 %gleiches Oberthema, hilft nicht
    • SubQ 55 %gleiches Oberthema, hilft nicht
    • drex 67 %gleiches Oberthema, hilft nicht
    • d3-ultra 47 %gleiches Oberthema, hilft nicht

  2. SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
    • clef 22 %gleiches Oberthema, hilft nicht
    • Luna 100 %kein Bezug
    • JEV 100 %kein Bezug
    • amos 27 %Hintergrund, keine Belege
    • SubQ 28 %gleiches Oberthema, hilft nicht
    • drex 28 %einzelne zitierbare Belege
    • d3-ultra 45 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
  1. SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
    • clef 100 %kein Bezug
    • Luna 50 %Hintergrund, keine Belege
    • JEV 28 %Hintergrund, keine Belege
    • amos 30 %gleiches Oberthema, hilft nicht
    • SubQ 56 %gleiches Oberthema, hilft nicht
    • drex 57 %gleiches Oberthema, hilft nicht
    • d3-ultra 56 %gleiches Oberthema, hilft nicht

    • SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden? Luna: Stufe 3 · 27 % · Hintergrund, keine Belege
Vertrauen in Modelle
  1. SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
    • clef 100 %kein Bezug
    • Luna 36 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 33 %gleiches Oberthema, hilft nicht
    • SubQ 63 %gleiches Oberthema, hilft nicht
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-V1-T01 Welche beobachtbaren Belege zeigen die Ziele und Werte eines Modells und ob es noch ausgerichtet ist, wenn seine sichtbaren Gedankengänge kein verlässlicher Hinweis mehr darauf sind oder ihre Überwachung nachlässt? Luna: Stufe 3 · 31 % · Hintergrund, keine Belege
    • SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus? Luna: Stufe 5 · 43 % · umfangreiche Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
    • SF-V1-T03 Was ist das Kleinste, das ein Modell öffentlich vorlegen kann (ein Test, ein Protokoll, eine Spur), das als Beleg für Ausrichtung an den vorgesehenen Zielen und Werten zählt und nicht nur für Leistung? Luna: Stufe 3 · 29 % · Hintergrund, keine Belege
    • SF-V1-T06 Was bedeutet Aufsicht, wenn man das Denken, auf das man sich am meisten verlässt, nicht mehr verlässlich überwachen kann? Und wenn ein Labor die Gedankenkette verbirgt, um sie vor dem Druck zu schützen, der entstünde, wenn sie im Training bewertet würde: Wer kann seine Sicherheitsdarstellung dann noch widerlegen? Luna: Stufe 3 · 28 % · Hintergrund, keine Belege
    • SF-V1-T07 Lieber ein Modell, das immer seinen Lösungsweg zeigen muss, oder eines, das im Stillen mehr kann: Welches Risiko nimmt man in Kauf? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
    • SF-V1-T09 Wenn Labore bessere Überwacher bauen, Modelle lernen, ihnen auszuweichen, und sich dieses Wechselspiel in jedem Labor beschleunigt: Behandeln Regierungen diesen Wettlauf selbst als Sicherheitsfrage zwischen Staaten, und welche gemeinsamen Belege würden zeigen, dass er beherrscht ist? Luna: Stufe 3 · 38 % · Hintergrund, keine Belege
    • SF-V1-T10 Kann etwas, das Modelle über sich und ihre Absichten sagen, als Beleg für Ausrichtung zählen, wenn es nur weiterer erzeugter Text ist, und welche Verfahren machen solche Selbstauskünfte vertrauenswürdig statt nur flüssig? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
  2. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 44 %einzelne zitierbare Belege
    • JEV 100 %kein Bezug
    • amos 30 %nur am Rande erwähnt
    • SubQ 49 %gleiches Oberthema, hilft nicht
    • drex 41 %gleiches Oberthema, hilft nicht
    • d3-ultra 46 %gleiches Oberthema, hilft nicht

    • SF-V3-T01 Worauf verlässt sich ein Mensch, wenn er glaubt, niemand sehe zu, und lassen sich solche Werte einem System beibringen, das sie nur aus Text gelernt hat? Wie testen Labore heute, ob die Werte eines Modells halten, wenn es zu Recht oder zu Unrecht glaubt, niemand sehe zu? Und wenn niemand erkennen kann, ob jemand zusieht: Was hält Werte dann fest, Charakter, Training oder die Geschichte, die man sich selbst erzählt? Luna: Stufe 3 · 45 % · Hintergrund, keine Belege
    • SF-V3-T02 Wie macht man die Ausrichtung eines Modells an Werten zu prüfbaren Verhaltensregeln statt zu angestrebten menschlichen Eigenschaften wie der „Liebe zur Menschheit“? Luna: Stufe 4 · 26 % · einzelne zitierbare Belege
    • SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat? Luna: Stufe 3 · 32 % · Hintergrund, keine Belege
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 16 %gleiches Oberthema, hilft nicht
    • Luna 44 %einzelne zitierbare Belege
    • JEV 38 %beantwortet direkt und ausführlich
    • amos 26 %einzelne zitierbare Belege
    • SubQ 27 %einzelne zitierbare Belege
    • drex 27 %umfangreiche Belege
    • d3-ultra 26 %Hintergrund, keine Belege

    • SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen? Luna: Stufe 3 · 41 % · Hintergrund, keine Belege
    • SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten? Luna: Stufe 4 · 31 % · einzelne zitierbare Belege
Agenten und vernetzte Systeme
  1. SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
    • clef 28 %umfangreiche Belege
    • Luna 55 %umfangreiche Belege
    • JEV 88 %beantwortet direkt und ausführlich
    • amos 32 %umfangreiche Belege
    • SubQ 28 %umfangreiche Belege
    • drex 35 %umfangreiche Belege
    • d3-ultra 41 %umfangreiche Belege
    • Haiku-Prüfung beantwortet teilweise oder widerspricht

    • SF-A1-T01 Welche Mindestgrenzen und Schutzvorkehrungen sollen für Zugangsdaten, Kommunikation, Geld, dauerhaftes Gedächtnis, Verträge, Änderungen an Systemen und Handlungen in der physischen Welt gelten, auch wenn ein Agent über Tage ohne sofortige menschliche Zustimmung handelt, und wer darf Befugnisse erteilen, prüfen und entziehen? Luna: Stufe 4 · 38 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 6 · beantwortet teilweise oder widerspricht
    • SF-A1-T02 Wie weist ein Agent kryptografisch nach, wer er ist und welche genaue Befugnis ihm ein Nutzer, eine Firma, ein Labor oder eine Regierung übertragen hat, und wie wird sie nach einer Kompromittierung entzogen? Luna: Stufe 4 · 43 % · einzelne zitierbare Belege · Haiku-Prüfung: Stufe 4 · einzelne zitierbare Belege
    • SF-A1-T03 Werden Freigabetests messen, ob ein Agent folgenreiche Handlungen außerhalb seines Auftrags unterlässt, auch wenn kein einzeln aufgeführtes Verbot sie blockiert, und werden die Kriterien veröffentlicht? Luna: Stufe 4 · 28 % · einzelne zitierbare Belege
    • SF-A1-T05 Werden Agententests Aufgaben enthalten, in denen die Pflicht, Belege zu zitieren, dazu drängt, eine lokale Datei zu veröffentlichen, und welche Regel hindert einen Agenten daran, private Quellen ohne Erlaubnis des Nutzers unter einer öffentlichen Internetadresse zugänglich zu machen? Luna: Stufe 4 · 25 % · einzelne zitierbare Belege
  2. SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
    • clef 30 %beantwortet teilweise oder widerspricht
    • Luna 38 %umfangreiche Belege
    • JEV 54 %beantwortet teilweise oder widerspricht
    • amos 29 %beantwortet teilweise oder widerspricht
    • SubQ 35 %einzelne zitierbare Belege
    • drex 42 %umfangreiche Belege
    • d3-ultra 49 %einzelne zitierbare Belege
    • Haiku-Prüfung beantwortet direkt und ausführlich

    • SF-A2-T01 Welche Tests zeigen, dass ein Agent sicher angehalten, zurückgesetzt oder abgeschottet werden kann, wenn er sich unerwartet verhält, auch wenn er das Abschalten vorhersieht oder sich wehrt? Luna: Stufe 4 · 31 % · einzelne zitierbare Belege
    • SF-A2-T02 Welcher gemeinsame Notmechanismus könnte verteilte Agentennetze und kritische automatisierte Dienste anhalten, drosseln oder abschalten, ohne einem einzelnen Akteur die alleinige Kontrolle zu geben? Luna: Stufe 3 · 39 % · Hintergrund, keine Belege
  3. SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
    • clef 30 %gleiches Oberthema, hilft nicht
    • Luna 51 %einzelne zitierbare Belege
    • JEV 46 %einzelne zitierbare Belege
    • amos 27 %nur am Rande erwähnt
    • SubQ 36 %gleiches Oberthema, hilft nicht
    • drex 26 %gleiches Oberthema, hilft nicht
    • d3-ultra 51 %gleiches Oberthema, hilft nicht
    • Haiku-Prüfung einzelne zitierbare Belege

    • SF-A3-T01 Welche Beobachtungen oder gemeinsamen Tests erkennen entstehende Abstimmung, Absprachen oder Kettenfehler zwischen Modellen in Arbeitsabläufen, Lieferketten und Gruppen vieler Agenten (Schwärmen), die kein einzelnes Labor steuert oder vorhersieht? Luna: Stufe 3 · 36 % · Hintergrund, keine Belege
Modelle teilen und schützen
  1. SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
    • clef 100 %kein Bezug
    • Luna 38 %einzelne zitierbare Belege
    • JEV 100 %kein Bezug
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 46 %gleiches Oberthema, hilft nicht
    • drex 56 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
  2. SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
    • clef 100 %kein Bezug
    • Luna 23 %einzelne zitierbare Belege
    • JEV 100 %kein Bezug
    • amos 31 %gleiches Oberthema, hilft nicht
    • SubQ 50 %gleiches Oberthema, hilft nicht
    • drex 38 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Frieden und Sicherheit
Offenlegung und Rechenschaft
  1. SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
    • clef 100 %kein Bezug
    • Luna 30 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 70 %gleiches Oberthema, hilft nicht
    • drex 74 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
  1. SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
    • clef 100 %kein Bezug
    • Luna 45 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 39 %gleiches Oberthema, hilft nicht
    • SubQ 75 %gleiches Oberthema, hilft nicht
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug

  2. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 21 %gleiches Oberthema, hilft nicht
    • Luna 44 %einzelne zitierbare Belege
    • JEV 39 %beantwortet direkt und ausführlich
    • amos 24 %einzelne zitierbare Belege
    • SubQ 51 %gleiches Oberthema, hilft nicht
    • drex 34 %gleiches Oberthema, hilft nicht
    • d3-ultra 49 %gleiches Oberthema, hilft nicht

    • SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat? Luna: Stufe 4 · 37 % · einzelne zitierbare Belege
Wirtschaft und Haftung
Information und Öffentlichkeit
  1. SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
    • clef 100 %kein Bezug
    • Luna 37 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 41 %gleiches Oberthema, hilft nicht
    • SubQ 84 %gleiches Oberthema, hilft nicht
    • drex 49 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →