Anthropic Pays $500K to Lure Professors and Founders Into AI Safety
Zusammenfassung
Kurz
Der Bericht beschreibt Anthropics bezahlte Residency 2026 für erfahrene Fachleute, die sich in Vollzeit der KI-Sicherheitsforschung zuwenden wollen: Die Aufenthalte dauern sechs Wochen bis sechs Monate und bieten Betreuung, Weiterbildung und eine annualisierte Vergütung von 350.000 bis 500.000 US-Dollar. Er skizziert vier Forschungsfelder und Anthropics Annahme, dass Expertise aus anderen Disziplinen übertragbar sei, enthält aber keine unabhängigen Wirksamkeitsbelege oder Ergebnisse des Programms.
Mittel
Der Bericht stellt die Anthropic Residency 2026 vor: ein bezahltes Vollzeitprogramm für erfahrene Forschende, Professorinnen und Professoren, Gründer sowie Senior Engineers, die in KI-Sicherheits- und Alignment-Forschung wechseln möchten. ML-Erfahrung sei laut Anthropic nicht zwingend; Teilnehmende erhielten Lernzeit, Betreuung, Zugang zu Rechenressourcen und aktuellen Modellen. Die Aufenthalte dauerten sechs Wochen bis sechs Monate, bei einer auf Jahresbasis hochgerechneten Vergütung von 350.000 bis 500.000 US-Dollar. San Francisco werde bevorzugt, Fernteilnahme könne besonders bei kurzen Aufenthalten möglich sein.
Mögliche Projekte beträfen Sicherheit und Alignment, KI-Wohlergehen, Belastungstests leistungsfähiger Modelle sowie ML-Systeme und bestärkendes Lernen. Anthropic begründe das Programm damit, dass Forschungsurteil und Fachwissen aus Bereichen wie Physik, Mathematik oder Neurowissenschaften übertragbar sein könnten. Die Residency solle zugleich Quereinsteigenden einen Praxistest und Anthropic eine Möglichkeit zur Einschätzung ihrer Eignung bieten. Trotz der kurzen Option sei die Tätigkeit Vollzeit und könne eine berufliche Freistellung erfordern. Bewerbungen sollten laut Bericht bis zum 22. November eingehen. Er enthält keine Ergebnisse zur Wirksamkeit des Programms.
Ausführlich lesen
Der Bericht beschreibt die Bewerbungsrunde für die Anthropic Residency 2026, ein befristetes, bezahltes Vollzeitprogramm, das erfahrene Fachleute für Forschung zu KI-Sicherheit und Alignment gewinnen soll. Angesprochen werden unter anderem Professorinnen und Professoren mit unbefristeter Stelle, Start-up-Gründer, erfahrene Ingenieurinnen und Ingenieure sowie quantitative Forschende. Laut Bericht ist vorherige Erfahrung mit maschinellem Lernen keine Voraussetzung: Teilnehmende sollen Zeit und Unterstützung erhalten, um aktuelle ML-Methoden zu lernen und ihr Wissen aus anderen Fachgebieten einzubringen. Alignment-Forschung wird als Arbeit daran beschrieben, fortgeschrittene KI-Systeme wie beabsichtigt handeln zu lassen und menschliche Kontrolle über sie zu erhalten.
Die Aufenthalte sollen zwischen sechs Wochen und sechs Monaten dauern; Bewerbende können ihre bevorzugte Dauer angeben. Trotz der flexiblen Laufzeit ist die Arbeit Vollzeit. Als Vergütung nennt der Bericht einen auf ein Jahr hochgerechneten Betrag von 350.000 bis 500.000 US-Dollar. Vorgesehen seien regelmäßige Einzelbetreuung durch Forschende von Anthropic, Lernzeit, Vorträge und Anleitung zu ML und KI-Sicherheit sowie ein eigenes Rechenbudget und Zugang zu leistungsfähigen aktuellen Modellen. San Francisco werde bevorzugt; eine Teilnahme aus der Ferne könne möglich sein, insbesondere bei kürzeren Aufenthalten.
Anthropics Begründung für die Auswahl erfahrener Quereinsteigender: Fähigkeiten wie gute Forschungsfragen zu finden, belastbare Studien zu entwerfen und Belege unter Unsicherheit einzuschätzen, könnten aus anderen Disziplinen übertragbar sein. Der Bericht verweist darauf, dass einige Anthropic-Forschende ursprünglich aus Physik, Mathematik, Neurowissenschaften oder Softwareentwicklung kämen. Die Residency knüpfe an das betreute Fellows-Programm an. Dessen Teilnehmende hätten laut Artikel zu Projekten über subliminales Lernen, einem quelloffenen Prüfwerkzeug namens Petri und sogenannten Persona-Vektoren beigetragen.
Der Bericht nennt vier mögliche Forschungsrichtungen: Sicherheit und Alignment, darunter menschliche Aufsicht über schwer überprüfbare Ausgaben, Robustheit gegen Angriffe, Interpretierbarkeit und kontrollierte Untersuchungen von Fehlverhalten; KI-Wohlergehen und die Frage, ob fortgeschrittene Systeme moralische Berücksichtigung verdienen könnten; Belastungstests, die Fähigkeiten und Grenzen aktueller Modelle etwa in Cybersicherheit, Robotik oder Kryptografie untersuchen; sowie ML-Systeme und bestärkendes Lernen, einschließlich Optimierern, Trainingsdaten, Recheninfrastruktur und Lernumgebungen. Eine veröffentlichte Mentorinnen- und Mentorenliste umfasse Fachleute aus diesen und angrenzenden Gebieten.
Der Artikel deutet das Programm zugleich als Rekrutierungs- und Erprobungsweg: Anthropic könne so den Kreis möglicher Forschender erweitern und beobachten, wie rasch erfahrene Spezialistinnen und Spezialisten ihre Urteilskraft auf KI-Forschung übertragen. Für Bewerbende könne ein kurzer Aufenthalt die Eignung eines Berufswechsels testen; auch sechs Wochen Vollzeitarbeit könnten jedoch eine Freistellung oder Unterbrechung der bisherigen Tätigkeit erfordern. Anthropic erwarte laut Bericht, dass Teilnehmende anschließend für eine Vollzeitstelle in der KI-Forschung vorbereitet seien, bei Anthropic oder anderswo. Bewerbungen sollten bis zum 22. November eingehen; eine Prüfung für das Fellows-Programm sei ebenfalls möglich. Der Bericht beschreibt Ziele, Konditionen und Erwartungen, liefert aber keine Ergebnisse der Residency 2026 oder unabhängige Belege dafür, wie erfolgreich das Modell ist.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Luna hat alle drei Sammelfragen mit Stufe 4 bewertet, die Bewertung ist aber zu hoch, weil der Bericht ein Unternehmensprogramm für Quereinsteigende beschreibt und keine staatlichen oder gesellschaftlichen Regeln behandelt. Ihre Anteilsangaben (43 %, 39 %, 30 %) habe ich nicht geprüft. Die Zusammenfassung ist im Kern treu. Der Bericht nennt das Jahr der Bewerbungsfrist 22. November nicht ausdrücklich.
Im Bericht, aber nicht in der Zusammenfassung
- Anthropic Fellows Program als alternative Option, wenn es besser passt
- Hinweis, dass die Plätze begrenzt sind
- Mentorenliste mit Ethan Perez, Evan Hubinger, Nicholas Carlini, Jascha Sohl-Dickstein und Jack Lindsey
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 55 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 66 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 55 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 68 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 28 %einzelne zitierbare Belege
- JEV
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 41 %gleiches Oberthema, hilft nicht
- drex 30 %gleiches Oberthema, hilft nicht
- d3-ultra 55 %gleiches Oberthema, hilft nicht
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 61 %gleiches Oberthema, hilft nicht
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-F3 Welche Regeln gelten für gefährliche Fähigkeiten jenseits von Cyber, etwa in Biologie, Chemie, bei radioaktiven Stoffen oder in der Nukleartechnik?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 33 %gleiches Oberthema, hilft nicht
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 65 %gleiches Oberthema, hilft nicht
- drex 72 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 67 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra 68 %gleiches Oberthema, hilft nicht
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 44 %Hintergrund, keine Belege
- JEV
- amos 28 %Hintergrund, keine Belege
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 34 %gleiches Oberthema, hilft nicht
- d3-ultra 65 %gleiches Oberthema, hilft nicht
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 46 %gleiches Oberthema, hilft nicht
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 68 %gleiches Oberthema, hilft nicht
- SubQ 68 %gleiches Oberthema, hilft nicht
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 36 %Hintergrund, keine Belege
- JEV
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 60 %gleiches Oberthema, hilft nicht
- d3-ultra 54 %gleiches Oberthema, hilft nicht
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 51 %gleiches Oberthema, hilft nicht
- SubQ 60 %gleiches Oberthema, hilft nicht
- drex 72 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 37 %Hintergrund, keine Belege
- JEV
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 62 %gleiches Oberthema, hilft nicht
- drex 69 %gleiches Oberthema, hilft nicht
- d3-ultra 65 %gleiches Oberthema, hilft nicht
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 36 %Hintergrund, keine Belege
- JEV
- amos 30 %Hintergrund, keine Belege
- SubQ 43 %gleiches Oberthema, hilft nicht
- drex 27 %Hintergrund, keine Belege
- d3-ultra 51 %gleiches Oberthema, hilft nicht
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 63 %Hintergrund, keine Belege
- JEV
- amos 36 %nur am Rande erwähnt
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 32 %nur am Rande erwähnt
- d3-ultra 65 %gleiches Oberthema, hilft nicht
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 34 %nur am Rande erwähnt
- JEV
- amos 39 %nur am Rande erwähnt
- SubQ 36 %gleiches Oberthema, hilft nicht
- drex 42 %nur am Rande erwähnt
- d3-ultra 44 %gleiches Oberthema, hilft nicht
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 39 %einzelne zitierbare Belege
- JEV
- amos 29 %nur am Rande erwähnt
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 36 %gleiches Oberthema, hilft nicht
- d3-ultra 60 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung nur am Rande erwähnt
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra 54 %gleiches Oberthema, hilft nicht
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 100 %kein Bezug
- Luna 44 %Hintergrund, keine Belege
- JEV
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 59 %gleiches Oberthema, hilft nicht
- drex 55 %gleiches Oberthema, hilft nicht
- d3-ultra 62 %gleiches Oberthema, hilft nicht
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 33 %Hintergrund, keine Belege
- JEV
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 61 %gleiches Oberthema, hilft nicht
- drex 63 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Modelle teilen und schützen
- SF-H1 Wo endet die erlaubte Nutzung fremder Modellausgaben, und wo beginnt unerlaubte Destillation, also das Trainieren eines eigenen Modells mit diesen Ausgaben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 58 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 27 %einzelne zitierbare Belege
- JEV
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 44 %gleiches Oberthema, hilft nicht
- drex 39 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K1 Wie stellt man sicher und weist nach, dass Entscheidungen über den Einsatz von Gewalt, vor allem über Atomwaffen, beim Menschen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 52 %gleiches Oberthema, hilft nicht
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 61 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 54 %gleiches Oberthema, hilft nicht
- SubQ 67 %gleiches Oberthema, hilft nicht
- drex 59 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 52 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 66 %Hintergrund, keine Belege
- JEV
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 59 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 60 %gleiches Oberthema, hilft nicht
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E3 Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- clef 100 %kein Bezug
- Luna 43 %einzelne zitierbare Belege
- JEV
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 53 %Hintergrund, keine Belege
- JEV
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 63 %gleiches Oberthema, hilft nicht
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 30 %einzelne zitierbare Belege
- JEV
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 64 %gleiches Oberthema, hilft nicht
- drex 61 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung gleiches Oberthema, hilft nicht
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 50 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 61 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Information und Öffentlichkeit
- SF-I1 Wie erkennt man KI-erzeugte Inhalte und KI-erzeugte Einflussnahme, ohne die Meinungsfreiheit zu beschneiden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- Welche Stellen sind in einem Staat für KI-Sicherheit und Prüfungen zuständig, und was davon gibt es schon?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv