Inside OpenAI’s in-house data agent
Zusammenfassung
Kurz
OpenAI beschreibt einen internen Datenagenten, der mit Kontext aus Metadaten, Code, Unternehmenswissen, gespeicherten Erkenntnissen und Live-Abfragen Analysen in natürlicher Sprache erstellen soll. Der Beitrag erläutert außerdem Evaluierungen, Berechtigungen und praktische Entwicklungslehren; Leistungs- und Sicherheitsvorteile werden dabei vom Unternehmen behauptet und nicht unabhängig belegt.
Mittel
Der Bericht stellt OpenAIs internen Datenagenten vor, der laut Unternehmen Mitarbeitenden helfen soll, Fragen zu Daten in natürlicher Sprache zu beantworten. Er werde von mehreren Fachbereichen genutzt und soll Datensuche, SQL-Abfragen und Auswertung übernehmen. Als Beispiel nennt OpenAI eine Analyse von Taxifahrten, bei der besonders unzuverlässige Strecken anhand typischer und sehr langer Fahrzeiten gesucht werden.
Für den Agenten werden sechs Kontextquellen kombiniert: Tabellenschemata und frühere Abfragen, Fachbeschreibungen, aus dem Code gewonnene Informationen, interne Dokumente, gespeicherte Erkenntnisse sowie aktuelle Abfragen an Datenplattformen. Korrekturen könnten für spätere Antworten gespeichert werden. Die Qualität werde anhand kuratierter Fragen und Referenzabfragen geprüft, wobei auch die Ergebnisse und nicht nur der SQL-Text verglichen würden. Laut OpenAI gelten die vorhandenen Zugriffsrechte weiter; Antworten sollen Annahmen und Schritte offenlegen und auf Abfrageergebnisse verweisen.
Als Lehren nennt der Beitrag weniger überlappende Werkzeuge, flexible Zielvorgaben und ein besseres Verständnis des Codes hinter den Datensätzen. Er beschreibt interne Beispiele und Verfahren, bietet jedoch keine unabhängige Bestätigung der Leistungsversprechen oder quantitativen Evaluationsergebnisse. Die Angaben zu Genauigkeit, Tempo und Sicherheit sind Unternehmensdarstellungen.
Ausführlich lesen
Der Bericht beschreibt OpenAIs internen, eigens entwickelten Datenagenten. OpenAI zufolge soll das Werkzeug Mitarbeitenden ermöglichen, Fragen zur eigenen Datenplattform in natürlicher Sprache zu stellen und schneller zu belastbaren Analysen zu gelangen. Es sei ausschließlich intern verfügbar und werde unter anderem von Teams aus Engineering, Data Science, Go-to-Market, Finance und Research genutzt. Als Größenordnung nennt der Bericht mehr als 3.500 interne Nutzende, über 600 Petabyte Daten und 70.000 Datensätze. Gerade bei ähnlichen Tabellen sei es oft schwierig, die passende Quelle zu finden und Unterschiede oder Einschränkungen zu erkennen.
Der Agent soll den Analyseprozess von der Frage über Datensuche und SQL-Abfragen bis zur Zusammenfassung und Veröffentlichung von Notebooks oder Berichten abdecken. Als Beispiel schildert der Beitrag eine Analyse von New Yorker Taxifahrten: Der Agent soll auffällige Abhol- und Ziel-Postleitzahlen anhand typischer und besonders langer Fahrzeiten identifizieren. Bei Zwischenergebnissen, die unplausibel wirken, könne er seine Vorgehensweise überprüfen und anpassen. Nutzende könnten Rückfragen stellen, den Agenten während einer Analyse unterbrechen oder bei Unklarheiten präzisierende Fragen erhalten. Wiederkehrende Aufgaben ließen sich laut Bericht als wiederverwendbare Arbeitsabläufe speichern.
Als Grundlage für die Antworten nennt OpenAI sechs Kontextschichten: Metadaten und frühere Tabellennutzung, Beschreibungen von Fachleuten, aus dem Code abgeleitete Informationen über Aufbau und Bedeutung von Datensätzen, internes Unternehmenswissen, gespeicherte Lernerfahrungen sowie zur Laufzeit erhobene Informationen. Der Agent könne dafür etwa Slack, Google Docs und Notion heranziehen; Zugriffe würden mit Metadaten und Berechtigungen verknüpft. Ein täglicher Prozess bereite ausgewählte Kontextdaten auf, wandle sie in Embeddings um und stelle sie über Retrieval-Augmented Generation bereit. Bei fehlendem oder veraltetem Kontext könne der Agent Tabellen und weitere interne Plattformdienste direkt abfragen. Korrekturen und neue Erkenntnisse könnten nach Aufforderung gespeichert und später wiederverwendet werden.
Zur Qualitätssicherung beschreibt der Beitrag kuratierte Frage-Antwort-Beispiele mit manuell erstellten Referenz-SQL-Abfragen. Die erzeugten Abfragen und Ergebnisse würden mit den erwarteten Resultaten verglichen; dabei zähle nicht nur, ob der SQL-Text gleich lautet. OpenAI stellt diese laufenden Auswertungen als Mittel dar, Fehler und Rückschritte früh zu erkennen. Sicherheitsseitig, so der Bericht, übernehme der Agent das bestehende Berechtigungsmodell: Nutzende könnten nur Daten abfragen, für die sie bereits Zugriffsrechte hätten. Annahmen und Arbeitsschritte würden zusammengefasst, und ausgeführte Abfragen verlinkten auf Ergebnisse zur Kontrolle.
Als eigene Entwicklungserfahrungen nennt OpenAI, überlappende Werkzeuge zu reduzieren, dem Agenten eher Ziele als starre Einzelschritte vorzugeben und den Code hinter Datensätzen stärker einzubeziehen. Der Beitrag berichtet von Architektur, Beispielen und internen Einsatzweisen, liefert aber keine unabhängige Prüfung der behaupteten Genauigkeits- oder Produktivitätsgewinne und keine quantitativen Evaluationsergebnisse. Die dargestellten Erfolge und Sicherheitsmerkmale sind daher als Aussagen des Unternehmens einzuordnen. OpenAI kündigt weitere Verbesserungen bei mehrdeutigen Fragen, Validierung und Integration in Arbeitsabläufe an.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Beide Zusammenfassungen von Luna (kurz und mittel) wurden gemeinsam bewertet. Sie geben den Bericht sachlich korrekt wieder, lassen aber die Skalenangaben und die Selbstkorrektur-Schleife aus. Die Einordnung stützt sich nur auf den Bericht, der ein Unternehmensbeitrag ohne unabhängige Prüfung ist.
Im Bericht, aber nicht in der Zusammenfassung
- Umfang des Einsatzes: über 3.500 interne Nutzer, mehr als 600 Petabyte Daten und 70.000 Datensätze
- Die geschlossene Schleife, in der der Agent Zwischenergebnisse selbst prüft, Fehler korrigiert und Lernschritte mitführt
- Workflows, die wiederkehrende Analysen als wiederverwendbare Anleitungen bündeln
- Der Hinweis, dass der Agent bei fehlenden Angaben Rückfragen stellt oder Standardannahmen verwendet
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M2 Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 38 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 37 %einzelne zitierbare Belege
- JEV 100 %kein Bezug
- amos 42 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 34 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 35 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 43 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 63 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 45 %einzelne zitierbare Belege
- amos 26 %gleiches Oberthema, hilft nicht
- SubQ 44 %gleiches Oberthema, hilft nicht
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 72 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 37 %gleiches Oberthema, hilft nicht
- SubQ 62 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 35 %gleiches Oberthema, hilft nicht
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 55 %gleiches Oberthema, hilft nicht
- drex 66 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 21 %gleiches Oberthema, hilft nicht
- Luna 58 %einzelne zitierbare Belege
- JEV 27 %beantwortet teilweise oder widerspricht
- amos 31 %einzelne zitierbare Belege
- SubQ 25 %gleiches Oberthema, hilft nicht
- drex 31 %einzelne zitierbare Belege
- d3-ultra
- Haiku-Prüfung Hintergrund, keine Belege
- SF-P3-T06 Wenn getrennte Sicherheitsprüfungen Repositorien, Zwischenspeicher oder andere beschreibbare Dienste teilen: Wie zeigt man, dass Modellinstanzen zwischen den Läufen keine Informationen austauschen und dadurch das gemeldete Ergebnis ungültig machen können?
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 74 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 42 %Hintergrund, keine Belege
- JEV 36 %Hintergrund, keine Belege
- amos 26 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden?
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 66 %gleiches Oberthema, hilft nicht
- drex 76 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 29 %gleiches Oberthema, hilft nicht
- Luna 38 %einzelne zitierbare Belege
- JEV 39 %einzelne zitierbare Belege
- amos 30 %nur am Rande erwähnt
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 53 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-T3-T05 Wenn Selbstverbesserung schneller voranschreitet als der Beobachtungstakt fortlaufender Prüfer: Wie kurz muss dieser Takt sein, und wer darf zwischen zwei Beobachtungen eine Pause durchsetzen: der Prüfer, das Labor oder eine Stelle von außen?
- SF-T3-T07 Wenn mehrere Anbieter je verschiedene Stufen von Forschung, Training und Prüfung automatisieren und erst ihre ausgetauschten Ergebnisse zusammen einen Kreislauf der Selbstverbesserung schließen, ohne dass eine Firma den ganzen Ablauf betreibt: Welche Regel stellt diesen gemeinsamen Kreislauf unter Aufsicht?
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 32 %gleiches Oberthema, hilft nicht
- Luna 47 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 24 %Hintergrund, keine Belege
- SubQ 47 %gleiches Oberthema, hilft nicht
- drex 36 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V1-T01 Welche beobachtbaren Belege zeigen die Ziele und Werte eines Modells und ob es noch ausgerichtet ist, wenn seine sichtbaren Gedankengänge kein verlässlicher Hinweis mehr darauf sind oder ihre Überwachung nachlässt?
- SF-V1-T02 Welche Belege würden Vertrauen in ein KI-System rechtfertigen, über seine flüssigen Erklärungen hinaus?
- SF-V1-T03 Was ist das Kleinste, das ein Modell öffentlich vorlegen kann (ein Test, ein Protokoll, eine Spur), das als Beleg für Ausrichtung an den vorgesehenen Zielen und Werten zählt und nicht nur für Leistung?
- SF-V1-T06 Was bedeutet Aufsicht, wenn man das Denken, auf das man sich am meisten verlässt, nicht mehr verlässlich überwachen kann? Und wenn ein Labor die Gedankenkette verbirgt, um sie vor dem Druck zu schützen, der entstünde, wenn sie im Training bewertet würde: Wer kann seine Sicherheitsdarstellung dann noch widerlegen?
- SF-V1-T07 Lieber ein Modell, das immer seinen Lösungsweg zeigen muss, oder eines, das im Stillen mehr kann: Welches Risiko nimmt man in Kauf?
- SF-V1-T10 Kann etwas, das Modelle über sich und ihre Absichten sagen, als Beleg für Ausrichtung zählen, wenn es nur weiterer erzeugter Text ist, und welche Verfahren machen solche Selbstauskünfte vertrauenswürdig statt nur flüssig?
- SF-V1-T13 Wenn sich vorgeführte und tatsächlich vertretene Tugend im Text nicht unterscheiden lassen: Soll der Unterschied trotzdem bestimmen, wie man Modelle baut und regelt?
- SF-V1-T15 Welches messbare Maß für Überwachbarkeit könnte neben Fähigkeitstests stehen, und würden Labore es tatsächlich über weitere Skalierung entscheiden lassen? Welcher gemessene Verlust an Überwachung würde Einschränkungen der Selbstständigkeit eines Modells auslösen, und wie erkennt man Fehler, die im sichtbaren Denken nicht auftauchen?
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 60 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 28 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V3-T01 Worauf verlässt sich ein Mensch, wenn er glaubt, niemand sehe zu, und lassen sich solche Werte einem System beibringen, das sie nur aus Text gelernt hat? Wie testen Labore heute, ob die Werte eines Modells halten, wenn es zu Recht oder zu Unrecht glaubt, niemand sehe zu? Und wenn niemand erkennen kann, ob jemand zusieht: Was hält Werte dann fest, Charakter, Training oder die Geschichte, die man sich selbst erzählt?
- SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat?
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 23 %Hintergrund, keine Belege
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 24 %gleiches Oberthema, hilft nicht
- Luna 59 %Hintergrund, keine Belege
- JEV 34 %umfangreiche Belege
- amos 26 %Hintergrund, keine Belege
- SubQ 43 %gleiches Oberthema, hilft nicht
- drex 23 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-V5-T01 Was sollte ein Modell schon heute tun, nicht erst bei rekursiver Selbstverbesserung (wenn KI ihre eigene Weiterentwicklung selbst vorantreibt), um äußerste Vorsicht angesichts rasch wachsender maschineller Intelligenz ernst zu nehmen?
- SF-V5-T03 Ist es wirtschaftlich klug, Modelle mit geringem Denkaufwand zu betreiben, oder wird das Ausrichtungsproblem (Modelle dazu zu bringen, den vorgesehenen Zielen und Werten zu folgen) dadurch nur schwerer sichtbar?
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 18 %gleiches Oberthema, hilft nicht
- Luna 55 %einzelne zitierbare Belege
- JEV 45 %beantwortet direkt und ausführlich
- amos 31 %einzelne zitierbare Belege
- SubQ 31 %einzelne zitierbare Belege
- drex 34 %einzelne zitierbare Belege
- d3-ultra
- Haiku-Prüfung beantwortet teilweise oder widerspricht
- SF-A1-T03 Werden Freigabetests messen, ob ein Agent folgenreiche Handlungen außerhalb seines Auftrags unterlässt, auch wenn kein einzeln aufgeführtes Verbot sie blockiert, und werden die Kriterien veröffentlicht?
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 35 %gleiches Oberthema, hilft nicht
- Luna 37 %Hintergrund, keine Belege
- JEV 35 %gleiches Oberthema, hilft nicht
- amos 30 %nur am Rande erwähnt
- SubQ 36 %gleiches Oberthema, hilft nicht
- drex 27 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 100 %kein Bezug
- Luna 39 %Hintergrund, keine Belege
- JEV 24 %gleiches Oberthema, hilft nicht
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
Modelle teilen und schützen
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 67 %gleiches Oberthema, hilft nicht
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 60 %einzelne zitierbare Belege
- JEV 28 %beantwortet teilweise oder widerspricht
- amos 27 %gleiches Oberthema, hilft nicht
- SubQ 34 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- Haiku-Prüfung gleiches Oberthema, hilft nicht
- SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 49 %gleiches Oberthema, hilft nicht
- d3-ultra
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 73 %gleiches Oberthema, hilft nicht
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra
Offenlegung und Rechenschaft
- SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 39 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 41 %gleiches Oberthema, hilft nicht
- SubQ 60 %gleiches Oberthema, hilft nicht
- drex 39 %gleiches Oberthema, hilft nicht
- d3-ultra
- SF-O3 Welcher Text gilt, und wie beweist man, dass ein Dokument nicht verändert wurde?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 57 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 40 %gleiches Oberthema, hilft nicht
- SubQ 51 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 26 %Hintergrund, keine Belege
- JEV 30 %einzelne zitierbare Belege
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra
Weitere Berichte zu diesen Fragen
- Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv