AI Accidents: An Emerging Threat
Zusammenfassung
Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.
Kurz
Der vorliegende Text ist nur die Executive Summary des Berichts, ergänzt um einen Abbildungsplatzhalter. Die Autoren warnen, KI könne in kritischen Anwendungen unvorhersehbar versagen, und nennen Robustheits-, Spezifikations- und Absicherungsfehler sowie schnelles Betriebstempo, Komplexität und Wettbewerbsdruck als relevante Faktoren. Sie empfehlen mehr Informationsaustausch, Sicherheitsforschung, Standards und Prüfungen sowie internationale Zusammenarbeit; Details und Wirksamkeitsbelege stehen im Auszug nicht.
Mittel
Der bereitgestellte Quelltext enthält nur die Executive Summary des Berichts „AI Accidents: An Emerging Threat“ sowie einen Abbildungsplatzhalter; Aussagen über den vollständigen Bericht sind damit nicht möglich.
Die Autoren argumentieren, dass maschinelles Lernen leistungsfähig, aber störanfällig sei: KI-Systeme könnten unvorhersehbar versagen und dadurch die Systeme beeinträchtigen, in die sie eingebettet sind. Mit ihrem zunehmenden Einsatz etwa in Verkehr, Finanzwesen, Energieversorgung, Medizin und Waffensystemen könnten auch die Folgen solcher Unfälle wachsen.
Zur Erklärung möglicher Unfälle beschreibt der Bericht laut Zusammenfassung hypothetische Szenarien mit heutigen oder absehbaren KI-Fähigkeiten. Er unterscheidet drei Fehlertypen: Robustheitsfehler, Spezifikationsfehler und Fehler bei der Absicherung. Schneller Betrieb, komplexe Systeme und Wettbewerbsdruck könnten Unfälle begünstigen. Der Auszug erläutert diese Kategorien nicht im Detail und liefert keine Angaben zur Häufigkeit solcher Ereignisse.
Die Autoren empfehlen, Informationen über Unfälle und Beinaheunfälle zu teilen, Sicherheitsforschung zu fördern, Standards und Prüfkapazitäten auszubauen sowie international zusammenzuarbeiten. Zu Umsetzung und Wirksamkeit dieser Vorschläge enthält der vorliegende Auszug keine näheren Angaben.
Ausführlich lesen
Der vorliegende Quelltext enthält nur den Abschnitt „Executive Summary“ des Berichts „AI Accidents: An Emerging Threat“ von Zachary Arnold und Helen Toner sowie einen Abbildungsplatzhalter. Die Zusammenfassung des vollständigen Berichts ist daher nicht möglich.
Die Autoren vertreten die Auffassung, dass moderne maschinelle Lernsysteme zwar leistungsfähig, zugleich aber in erheblichem Maß störanfällig seien. Selbst fortgeschrittene KI könne unvorhersehbar versagen und dadurch die Systeme beeinträchtigen, in die sie eingebaut ist. Wenn solche Systeme zunehmend in Bereichen wie Verkehr, Finanzmärkten, Energieversorgung, Gesundheitswesen oder Waffensystemen eingesetzt würden, könnten nach Einschätzung der Autoren auch die menschlichen, wirtschaftlichen und politischen Folgen von Unfällen wachsen.
Der Bericht soll politischen Entscheidungsträgern erläutern, wie solche Unfälle entstehen und wie sie sich in der Praxis zeigen könnten. Laut Executive Summary veranschaulichen hypothetische Szenarien mit bereits vorhandenen oder bald möglichen KI-Fähigkeiten drei grundlegende Fehlertypen: Robustheitsfehler, Spezifikationsfehler und Fehler bei der Absicherung beziehungsweise beim Nachweis der Zuverlässigkeit. Als begünstigende Bedingungen nennt der Text schnellen Betriebsablauf, hohe Systemkomplexität und Wettbewerbsdruck. Konkrete Szenarien, Definitionen der Kategorien oder Belege zu ihrer Häufigkeit enthält der bereitgestellte Auszug nicht.
Als erste politische Maßnahmen schlagen die Autoren vier Handlungsfelder vor: den Austausch von Informationen über KI-Unfälle und Beinaheunfälle gemeinsam mit der Privatwirtschaft zu fördern; Forschung und Entwicklung zur KI-Sicherheit stärker zu finanzieren; die Entwicklung von Standards sowie Prüfkapazitäten auszubauen; und grenzüberschreitend zusammenzuarbeiten, etwa durch Forschungsallianzen und zwischenstaatliche Organisationen. Diese Empfehlungen sollen nach Darstellung der Autoren dazu beitragen, Risiken zu senken und KI-Systeme vertrauenswürdiger und gesellschaftlich nützlicher zu machen. Der Auszug enthält jedoch keine näheren Angaben zur Umsetzung, zu Kosten oder zur Wirksamkeit der vorgeschlagenen Maßnahmen.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M1 Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- clef 29 %Hintergrund, keine Belege
- Luna 66 %Hintergrund, keine Belege
- JEV 63 %Hintergrund, keine Belege
- amos 34 %nur am Rande erwähnt
- SubQ 37 %gleiches Oberthema, hilft nicht
- drex 30 %Hintergrund, keine Belege
- d3-ultra 36 %Hintergrund, keine Belege
- SF-M2 Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- clef 100 %kein Bezug
- Luna 46 %Hintergrund, keine Belege
- JEV 55 %nur am Rande erwähnt
- amos 34 %nur am Rande erwähnt
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra 50 %gleiches Oberthema, hilft nicht
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 27 %Hintergrund, keine Belege
- Luna 70 %Hintergrund, keine Belege
- JEV 45 %Hintergrund, keine Belege
- amos 33 %Hintergrund, keine Belege
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 38 %gleiches Oberthema, hilft nicht
- d3-ultra 46 %gleiches Oberthema, hilft nicht
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 28 %Hintergrund, keine Belege
- Luna 35 %einzelne zitierbare Belege
- JEV 45 %einzelne zitierbare Belege
- amos 31 %Hintergrund, keine Belege
- SubQ 28 %einzelne zitierbare Belege
- drex 29 %Hintergrund, keine Belege
- d3-ultra 43 %nur am Rande erwähnt
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 25 %gleiches Oberthema, hilft nicht
- Luna 67 %Hintergrund, keine Belege
- JEV 35 %Hintergrund, keine Belege
- amos 37 %Hintergrund, keine Belege
- SubQ 32 %gleiches Oberthema, hilft nicht
- drex 46 %Hintergrund, keine Belege
- d3-ultra 47 %Hintergrund, keine Belege
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 38 %gleiches Oberthema, hilft nicht
- Luna 41 %Hintergrund, keine Belege
- JEV 50 %Hintergrund, keine Belege
- amos 27 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 34 %Hintergrund, keine Belege
- d3-ultra 57 %gleiches Oberthema, hilft nicht
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 61 %Hintergrund, keine Belege
- JEV 61 %gleiches Oberthema, hilft nicht
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 65 %gleiches Oberthema, hilft nicht
- drex 73 %gleiches Oberthema, hilft nicht
- d3-ultra 77 %gleiches Oberthema, hilft nicht
- SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- clef 30 %Hintergrund, keine Belege
- Luna 46 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 59 %gleiches Oberthema, hilft nicht
- drex 69 %gleiches Oberthema, hilft nicht
- d3-ultra 73 %gleiches Oberthema, hilft nicht
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 32 %gleiches Oberthema, hilft nicht
- Luna 46 %Hintergrund, keine Belege
- JEV 54 %Hintergrund, keine Belege
- amos 35 %nur am Rande erwähnt
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 44 %gleiches Oberthema, hilft nicht
- d3-ultra 40 %gleiches Oberthema, hilft nicht
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 31 %gleiches Oberthema, hilft nicht
- Luna 70 %Hintergrund, keine Belege
- JEV 36 %Hintergrund, keine Belege
- amos 34 %nur am Rande erwähnt
- SubQ 67 %gleiches Oberthema, hilft nicht
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 68 %gleiches Oberthema, hilft nicht
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 41 %Hintergrund, keine Belege
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 70 %gleiches Oberthema, hilft nicht
- drex 69 %gleiches Oberthema, hilft nicht
- d3-ultra 70 %gleiches Oberthema, hilft nicht
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 55 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 52 %gleiches Oberthema, hilft nicht
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 79 %gleiches Oberthema, hilft nicht
- d3-ultra 77 %gleiches Oberthema, hilft nicht
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 31 %Hintergrund, keine Belege
- Luna 90 %Hintergrund, keine Belege
- JEV 37 %Hintergrund, keine Belege
- amos 31 %Hintergrund, keine Belege
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 38 %gleiches Oberthema, hilft nicht
- d3-ultra 47 %gleiches Oberthema, hilft nicht
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 75 %gleiches Oberthema, hilft nicht
- d3-ultra 68 %gleiches Oberthema, hilft nicht
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 69 %gleiches Oberthema, hilft nicht
- drex 74 %gleiches Oberthema, hilft nicht
- d3-ultra 75 %gleiches Oberthema, hilft nicht
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 32 %Hintergrund, keine Belege
- Luna 85 %Hintergrund, keine Belege
- JEV 59 %Hintergrund, keine Belege
- amos 31 %gleiches Oberthema, hilft nicht
- SubQ 67 %gleiches Oberthema, hilft nicht
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 79 %gleiches Oberthema, hilft nicht
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 66 %gleiches Oberthema, hilft nicht
- drex 79 %gleiches Oberthema, hilft nicht
- d3-ultra 72 %gleiches Oberthema, hilft nicht
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 33 %Hintergrund, keine Belege
- Luna 43 %Hintergrund, keine Belege
- JEV 51 %gleiches Oberthema, hilft nicht
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 72 %gleiches Oberthema, hilft nicht
- drex 81 %gleiches Oberthema, hilft nicht
- d3-ultra 76 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 29 %Hintergrund, keine Belege
- Luna 39 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 63 %gleiches Oberthema, hilft nicht
- d3-ultra 73 %gleiches Oberthema, hilft nicht
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 32 %Hintergrund, keine Belege
- Luna 66 %Hintergrund, keine Belege
- JEV 51 %Hintergrund, keine Belege
- amos 31 %Hintergrund, keine Belege
- SubQ 45 %gleiches Oberthema, hilft nicht
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra 62 %gleiches Oberthema, hilft nicht
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 29 %gleiches Oberthema, hilft nicht
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 26 %Hintergrund, keine Belege
- Luna 47 %Hintergrund, keine Belege
- JEV 48 %einzelne zitierbare Belege
- amos 36 %Hintergrund, keine Belege
- SubQ 38 %gleiches Oberthema, hilft nicht
- drex 38 %Hintergrund, keine Belege
- d3-ultra 49 %Hintergrund, keine Belege
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 31 %Hintergrund, keine Belege
- Luna 69 %Hintergrund, keine Belege
- JEV 37 %Hintergrund, keine Belege
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 60 %gleiches Oberthema, hilft nicht
- drex 61 %gleiches Oberthema, hilft nicht
- d3-ultra 72 %gleiches Oberthema, hilft nicht
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 37 %Hintergrund, keine Belege
- Luna 67 %Hintergrund, keine Belege
- JEV 58 %gleiches Oberthema, hilft nicht
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 61 %gleiches Oberthema, hilft nicht
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra 70 %gleiches Oberthema, hilft nicht
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 38 %Hintergrund, keine Belege
- Luna 74 %Hintergrund, keine Belege
- JEV 47 %Hintergrund, keine Belege
- amos 33 %Hintergrund, keine Belege
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 37 %Hintergrund, keine Belege
- d3-ultra 41 %Hintergrund, keine Belege
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 54 %Hintergrund, keine Belege
- JEV 43 %gleiches Oberthema, hilft nicht
- amos 51 %gleiches Oberthema, hilft nicht
- SubQ 59 %gleiches Oberthema, hilft nicht
- drex 73 %gleiches Oberthema, hilft nicht
- d3-ultra 78 %gleiches Oberthema, hilft nicht
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 64 %gleiches Oberthema, hilft nicht
- d3-ultra 67 %gleiches Oberthema, hilft nicht
- SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- clef 100 %kein Bezug
- Luna 83 %Hintergrund, keine Belege
- JEV 53 %gleiches Oberthema, hilft nicht
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 79 %gleiches Oberthema, hilft nicht
- d3-ultra 64 %gleiches Oberthema, hilft nicht
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 61 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H6 Welche Belege klären Vorwürfe von Spionage und Datenabfluss zwischen Staaten?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 61 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K1 Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- clef 25 %Hintergrund, keine Belege
- Luna 38 %Hintergrund, keine Belege
- JEV 59 %nur am Rande erwähnt
- amos 38 %nur am Rande erwähnt
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra 75 %gleiches Oberthema, hilft nicht
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 34 %Hintergrund, keine Belege
- JEV 40 %gleiches Oberthema, hilft nicht
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 67 %gleiches Oberthema, hilft nicht
- drex 69 %gleiches Oberthema, hilft nicht
- d3-ultra 51 %gleiches Oberthema, hilft nicht
Offenlegung und Rechenschaft
- SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- clef 34 %gleiches Oberthema, hilft nicht
- Luna 64 %Hintergrund, keine Belege
- JEV 48 %gleiches Oberthema, hilft nicht
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 62 %gleiches Oberthema, hilft nicht
- drex 63 %gleiches Oberthema, hilft nicht
- d3-ultra 78 %gleiches Oberthema, hilft nicht
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 28 %gleiches Oberthema, hilft nicht
- Luna 43 %Hintergrund, keine Belege
- JEV 26 %nur am Rande erwähnt
- amos 33 %nur am Rande erwähnt
- SubQ 31 %gleiches Oberthema, hilft nicht
- drex 26 %nur am Rande erwähnt
- d3-ultra 67 %gleiches Oberthema, hilft nicht
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 32 %Hintergrund, keine Belege
- Luna 66 %Hintergrund, keine Belege
- JEV 39 %gleiches Oberthema, hilft nicht
- amos 35 %nur am Rande erwähnt
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 64 %gleiches Oberthema, hilft nicht
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 34 %Hintergrund, keine Belege
- Luna 55 %Hintergrund, keine Belege
- JEV 51 %einzelne zitierbare Belege
- amos 32 %Hintergrund, keine Belege
- SubQ 30 %gleiches Oberthema, hilft nicht
- drex 38 %Hintergrund, keine Belege
- d3-ultra 46 %Hintergrund, keine Belege
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 42 %Hintergrund, keine Belege
- Luna 47 %Hintergrund, keine Belege
- JEV 42 %Hintergrund, keine Belege
- amos 33 %nur am Rande erwähnt
- SubQ 36 %gleiches Oberthema, hilft nicht
- drex 36 %Hintergrund, keine Belege
- d3-ultra 38 %Hintergrund, keine Belege
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 32 %gleiches Oberthema, hilft nicht
- Luna 81 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 61 %gleiches Oberthema, hilft nicht
- drex 65 %gleiches Oberthema, hilft nicht
- d3-ultra 71 %gleiches Oberthema, hilft nicht
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 30 %gleiches Oberthema, hilft nicht
- Luna 42 %Hintergrund, keine Belege
- JEV 42 %Hintergrund, keine Belege
- amos 34 %gleiches Oberthema, hilft nicht
- SubQ 61 %gleiches Oberthema, hilft nicht
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra 72 %gleiches Oberthema, hilft nicht
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 32 %gleiches Oberthema, hilft nicht
- Luna 33 %Hintergrund, keine Belege
- JEV 40 %gleiches Oberthema, hilft nicht
- amos 32 %nur am Rande erwähnt
- SubQ 71 %gleiches Oberthema, hilft nicht
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra 77 %gleiches Oberthema, hilft nicht
- SF-W3 Wie schützt man Finanzmärkte vor Folgen von KI, von vertraulichen Entscheidungen über Pausen bis zu Kursstürzen in Sekunden?
- clef 28 %gleiches Oberthema, hilft nicht
- Luna 45 %Hintergrund, keine Belege
- JEV 62 %nur am Rande erwähnt
- amos 41 %nur am Rande erwähnt
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 30 %Hintergrund, keine Belege
- d3-ultra 64 %gleiches Oberthema, hilft nicht
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 43 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 61 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Ab wann ist ein KI-Vorfall so ernst, dass Staaten ihn einander melden müssen?
- Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- Wie schützt man Finanzmärkte vor Folgen von KI, von vertraulichen Entscheidungen über Pausen bis zu Kursstürzen in Sekunden?
- Alle Berichte im Archiv