4-Step Way to Build Multi-Agent Systems That Actually Ship
Zusammenfassung
Kurz
Der Autor empfiehlt für Multi-Agent-Systeme eine kontrollierbare, codebasierte Orchestrierung, die flexible LLM-Interaktionen mit festen Abläufen verbindet und jeden Recherchelauf in einem eigenen AgentTool-Kontext kapselt. Für den Betrieb beschreibt er Googles ADK und Agent Starter Pack samt CI/CD und menschlicher Freigabe; die Vorteile werden anhand eines Beispiels behauptet, aber nicht mit Messwerten oder Vergleichstests belegt.
Mittel
Der Bericht stellt einen vierstufigen Ansatz für Multi-Agent-Systeme in Start-ups vor. Autor Code Coup zufolge liegen die größten Schwierigkeiten weniger bei der KI selbst als bei Softwarefragen wie Orchestrierung, Zustand und Bereitstellung. Für einen Sales-Intelligence-Agenten habe das Team deshalb eine codebasierte Lösung mit Googles ADK gewählt, weil vorgefertigte Agenten die eigene Geschäftslogik und Datenanbindung nicht ausreichend abgedeckt hätten.
Die beschriebene Architektur verbindet einen Root-Agenten für das Gesprächs-Onboarding mit einem strukturierten LoopAgent. Ein Controller lädt Unternehmensdaten einmalig aus dem CRM; Recherche und Briefing laufen anschließend über Werkzeuge. Der Autor empfiehlt, flexible Sprachmodell-Interaktionen mit deterministischen Abläufen zu kombinieren. Um Zustandsübertragung zwischen Schleifendurchläufen zu begrenzen, kapselt das Team die gesamte Recherche in einem AgentTool, das laut Bericht pro Aufruf einen frischen Kontext verwendet und nur den fertigen Bericht zurückgibt.
Für den Produktivbetrieb empfiehlt der Autor Googles Agent Starter Pack mit gesperrten Abhängigkeiten, Cloud-Build-CI/CD, getrennten Staging- und Produktionsumgebungen sowie menschlicher Freigabe vor dem Produktionsstart. Als Laufzeit nennt er Vertex AI Agent Engine und Cloud Run. Die Empfehlungen beruhen auf einem einzelnen Erfahrungsbericht; Messwerte, Vergleichstests und unabhängige Belege für die behaupteten Vorteile werden nicht vorgelegt.
Ausführlich lesen
Der Bericht „4-Step Way to Build Multi-Agent Systems That Actually Ship“ beschreibt einen vierstufigen Ansatz, mit dem Start-ups Multi-Agent-Systeme aus Sicht des Autors Code Coup verlässlich entwickeln und in den Betrieb bringen können. Seine zentrale These lautet: Die größten Schwierigkeiten lägen weniger in der Leistungsfähigkeit der KI als in der Softwarestruktur, insbesondere beim Umgang mit Zustand, klaren Zuständigkeiten und Bereitstellung. Als typische Probleme nennt der Autor zu frühe Abstraktion, unübersichtlich weitergegebenen Zustand und Prototypen, die beim Einsatz mit mehreren Nutzern instabil werden.
Im ersten Schritt empfiehlt der Autor, früh die nötige Kontrolle über die Orchestrierung zu bestimmen. Für den beschriebenen Sales-Intelligence-Agenten seien vorgefertigte oder externe Agenten wegen eigener Geschäftslogik und der nötigen Anbindung an interne Daten nicht passend gewesen. Das Team habe sich deshalb für eine codebasierte Umsetzung mit Googles Agent Development Kit (ADK) entschieden. Der Autor begründet die Wahl damit, dass das ADK seiner Einschätzung nach ausreichend Kontrolle biete und dennoch zügige Entwicklung ermögliche.
Der zweite Schritt ist der Aufbau einer gemischten Architektur: Ein Root-Agent übernimmt laut Bericht die Gesprächsführung beim Onboarding und leitet anschließend an einen strukturierten LoopAgent weiter. Ein eigener Controller lädt die Unternehmensdaten aus einem CRM zu Beginn in den Sitzungszustand. Für jedes Unternehmen werden dann zwei Werkzeuge eingesetzt: eine Recherchepipeline und ein Agent, der ein abschließendes Briefing erstellt. Der Autor sieht darin eine sinnvolle Aufgabenteilung: Sprachmodelle für flexible Interaktionen mit Menschen, deterministische Abläufe für wiederkehrende Verarbeitung.
Der dritte Schritt betrifft Werkzeuge, Zustand und Zuverlässigkeit. Der Bericht beschreibt ein eigenes CRM-Werkzeug für aktuelle Daten aus einer Tabelle, mit Authentifizierung über ein Google-Cloud-Dienstkonto und einer in einer Umgebungsdatei abgelegten Tabellenkennung. Als besonders wichtig hebt der Autor das Muster „Agent als Werkzeug“ hervor: Statt den Recherche-Agenten direkt in jeder Schleifenrunde auszuführen, werde die gesamte Verarbeitung als einzelnes AgentTool gekapselt. Dadurch erhalte jeder Aufruf laut Darstellung einen frischen Kontext; nach außen werde nur der fertige Bericht zurückgegeben. Der Autor behauptet, dieses Muster habe dem Team viel Arbeit erspart.
Im vierten Schritt geht es um den Produktivbetrieb. Der Autor empfiehlt Googles Agent Starter Pack für Projektstruktur und Bereitstellung. Er nennt gesperrte Abhängigkeiten mit PDM und `uv`, vorkonfigurierte CI/CD-Abläufe mit Cloud Build sowie getrennte Staging- und Produktionsumgebungen. Nach einem Build werde zunächst in Staging bereitgestellt; die Beförderung in die Produktion erfolge nach einer menschlichen Freigabe. Als Laufzeit nennt der Bericht Vertex AI Agent Engine und Google Cloud Run und führt automatische Skalierung sowie nutzungsabhängige Kosten als Vorteile an.
Die Aussagen beruhen auf der Erfahrung und Architektur eines beschriebenen Beispiels. Der Bericht liefert keine Messwerte, systematischen Vergleichstests oder unabhängige Belege für die behaupteten Zuverlässigkeits- und Kostenvorteile. Er stellt den Ansatz als praktische Empfehlung dar, nicht als Nachweis, dass dieselbe Architektur für jedes Team oder jeden Anwendungsfall geeignet ist.
Gegengeprüft von Claude Haiku 5.5: kleine Mängel
Luna hat zwei Zusammenfassungen (kurz und mittel) geliefert; beide wurden geprüft. Beide geben den Bericht sachlich korrekt wieder, ohne erfundene Angaben. Die Bewertung der Zusammenfassung bezieht sich auf die mittlere Fassung, die kurze Fassung ist ebenfalls treu. Die Einordnung betrifft einen Erfahrungsbericht zum Bau von Multi-Agent-Systemen in Startups und nicht die gestellten Sicherheitsfragen, deshalb fallen die Bewertungen insgesamt niedrig aus.
Im Bericht, aber nicht in der Zusammenfassung
- Die drei Wege für Startups (Pre-built, Partner, Custom-built Agents) werden nicht genannt
- Die Authentifizierung über ein Google-Cloud-Service-Account und die Konfiguration über .env werden nicht erwähnt
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Vorfälle melden
- SF-M2 Wie muss ein Meldekanal zwischen Staaten gebaut sein, damit er verlässlich arbeitet, auch in einer Krise?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 73 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-M3 Wie stellt man fest, ob ein Vorfall gewollt oder versehentlich war, und ob KI oder herkömmliche Mittel dahinterstecken?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 65 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-M4 Wie kommen Meldungen von Laboren, Betreibern und Nutzern schnell und geschützt zu den Stellen, die handeln müssen, auch über Grenzen hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 55 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 72 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-M5 Was muss vor und nach einem Vorfall geschehen, damit Verantwortliche einstehen, man daraus lernt, Beweise bleiben und Betroffene auch über Grenzen hinweg zu ihrem Recht kommen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 45 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Fähigkeiten messen
- SF-F1 Wie misst man gefährliche Fähigkeiten eines Modells, vor allem im Cyberbereich, mit gemeinsam anerkannten, wiederholbaren Tests, die keine Sprache, Kultur oder Seite bevorzugen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 53 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-F4 Für welche Modelle, Entwickler und Einsätze gelten Prüfregeln, und wann muss neu geprüft werden?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 42 %nur am Rande erwähnt
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-F5 Wie gehen Staaten gemeinsam gegen KI-gestützte Cyberangriffe vor und verhindern Eskalation zwischen autonomen Systemen, ohne die Verteidigung zu behindern?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Unabhängig prüfen
- SF-P1 Unter welchen Bedingungen lassen Staaten und Labore sich gegenseitig prüfen: mit welchem Zugang, welchen Daten und welchen öffentlichen Ergebnissen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 74 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P2 Wie bleiben Prüfer, die in einem Labor arbeiten, wirklich unabhängig?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 45 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 85 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P3 Woran erkennt man, dass ein Labor sich ehrlich selbst überwacht und dass seine Prüfungen gültig sind?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 70 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P4 Wie lässt sich die Größe von Trainingsläufen überprüfen, ohne Modelldetails offenzulegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 64 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-P5 Wie überprüft man, ob Zusagen zwischen Staaten eingehalten werden, auch über Jahre und Regierungswechsel hinweg?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 52 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 51 %einzelne zitierbare Belege
- JEV 31 %nur am Rande erwähnt
- amos 100 %kein Bezug
- SubQ 56 %gleiches Oberthema, hilft nicht
- drex 66 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- Haiku-Prüfung nur am Rande erwähnt
- SF-T1-T05 Welche messbaren Vergleichswerte würden zeigen, dass die Ausrichtung der Modelle eines Labors an den vorgesehenen Zielen und Werten schneller vorankommt, als ihre Fähigkeiten wachsen, über das Fehlen öffentlicher Fehlschläge hinaus?
- SF-T1-T06 Welcher öffentliche Beleg zeigt, ob vereinbarte Grenzen eingehalten werden?
- SF-T2 Woran erkennen andere, dass ein Labor wirklich bremst?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 54 %gleiches Oberthema, hilft nicht
- drex 80 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 31 %gleiches Oberthema, hilft nicht
- Luna 37 %gleiches Oberthema, hilft nicht
- JEV 100 %kein Bezug
- amos 51 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 84 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 48 %gleiches Oberthema, hilft nicht
- SubQ 60 %gleiches Oberthema, hilft nicht
- drex 77 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 52 %gleiches Oberthema, hilft nicht
- SubQ 52 %gleiches Oberthema, hilft nicht
- drex 84 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 24 %nur am Rande erwähnt
- amos 55 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 52 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 21 %gleiches Oberthema, hilft nicht
- Luna 46 %Hintergrund, keine Belege
- JEV 35 %beantwortet teilweise oder widerspricht
- amos 24 %Hintergrund, keine Belege
- SubQ 39 %gleiches Oberthema, hilft nicht
- drex 34 %gleiches Oberthema, hilft nicht
- d3-ultra 53 %gleiches Oberthema, hilft nicht
- SF-V5-T02 Würde man lieber einem großen, überwachten Modell vertrauen oder vielen kleinen, nicht überwachten?
- SF-V5-T03 Ist es wirtschaftlich klug, Modelle mit geringem Denkaufwand zu betreiben, oder wird das Ausrichtungsproblem (Modelle dazu zu bringen, den vorgesehenen Zielen und Werten zu folgen) dadurch nur schwerer sichtbar?
Agenten und vernetzte Systeme
- SF-A1 Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- clef 29 %Hintergrund, keine Belege
- Luna 55 %einzelne zitierbare Belege
- JEV 50 %einzelne zitierbare Belege
- amos 25 %nur am Rande erwähnt
- SubQ 29 %gleiches Oberthema, hilft nicht
- drex 36 %gleiches Oberthema, hilft nicht
- d3-ultra 51 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung einzelne zitierbare Belege
- SF-A1-T01 Welche Mindestgrenzen und Schutzvorkehrungen sollen für Zugangsdaten, Kommunikation, Geld, dauerhaftes Gedächtnis, Verträge, Änderungen an Systemen und Handlungen in der physischen Welt gelten, auch wenn ein Agent über Tage ohne sofortige menschliche Zustimmung handelt, und wer darf Befugnisse erteilen, prüfen und entziehen?
- SF-A2 Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- clef 28 %Hintergrund, keine Belege
- Luna 57 %Hintergrund, keine Belege
- JEV 40 %einzelne zitierbare Belege
- amos 30 %nur am Rande erwähnt
- SubQ 27 %nur am Rande erwähnt
- drex 35 %gleiches Oberthema, hilft nicht
- d3-ultra 61 %gleiches Oberthema, hilft nicht
- SF-A2-T01 Welche Tests zeigen, dass ein Agent sicher angehalten, zurückgesetzt oder abgeschottet werden kann, wenn er sich unerwartet verhält, auch wenn er das Abschalten vorhersieht oder sich wehrt?
- SF-A2-T03 Welcher Standard für Widerstandsfähigkeit soll einen geprüften Ersatzweg ohne KI verlangen und die menschlichen Fähigkeiten erhalten, Fehler zu erkennen und zu beherrschen, wenn ein kritischer Dienst stark von Modellen abhängig wird?
- SF-A3 Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- clef 26 %Hintergrund, keine Belege
- Luna 73 %einzelne zitierbare Belege
- JEV 50 %beantwortet teilweise oder widerspricht
- amos 28 %Hintergrund, keine Belege
- SubQ 28 %nur am Rande erwähnt
- drex 32 %gleiches Oberthema, hilft nicht
- d3-ultra 59 %gleiches Oberthema, hilft nicht
- Haiku-Prüfung nur am Rande erwähnt
- SF-A3-T01 Welche Beobachtungen oder gemeinsamen Tests erkennen entstehende Abstimmung, Absprachen oder Kettenfehler zwischen Modellen in Arbeitsabläufen, Lieferketten und Gruppen vieler Agenten (Schwärmen), die kein einzelnes Labor steuert oder vorhersieht?
Modelle teilen und schützen
- SF-H2 Was darf offen veröffentlicht werden, und wer ist verantwortlich, wenn ein offenes Modell anderswo Schaden anrichtet?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 69 %gleiches Oberthema, hilft nicht
- drex 87 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H3 Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- clef 100 %kein Bezug
- Luna 60 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 44 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H4 Was geschieht mit Modellen und Sicherheitspflichten, wenn ein Labor verkauft, aufgelöst oder ein Modell stillgelegt wird?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-H5 Wann sind Chip- und Exportkontrollen eine Sicherheitsmaßnahme, und wann ein dauerhafter Vorteil?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 50 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Frieden und Sicherheit
- SF-K2 Wie weit gelten KI-Abkommen für Verbündete und Geheimdienste, und wie verhalten sie sich zu bestehenden Rüstungskontrollverträgen und -regimen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 77 %gleiches Oberthema, hilft nicht
- drex 77 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Offenlegung und Rechenschaft
- SF-O1 Wie können Mitarbeitende Sicherheitsbedenken melden, ohne alles zu riskieren?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 49 %gleiches Oberthema, hilft nicht
- SubQ 49 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-O2 Was sollten Regierungen, Labore und Prüfer über ihre Gespräche, Zusagen, Prüfungen und Eingriffe offenlegen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 74 %gleiches Oberthema, hilft nicht
- drex 93 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E1 Welche echte Stimme bekommen weitere Staaten, kleine Labore, Hochschulen und Zivilgesellschaft bei den Regeln für KI?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 48 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E4 Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- clef 100 %kein Bezug
- Luna 67 %Hintergrund, keine Belege
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 50 %gleiches Oberthema, hilft nicht
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 57 %Hintergrund, keine Belege
- JEV 35 %einzelne zitierbare Belege
- amos 51 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 48 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen?
- SF-E5-T02 Welche Entscheidungen müssen menschlich bleiben, auch wenn eine KI sie besser treffen könnte, und wie würden Staaten in Entscheidungsschleifen mit hohem Risiko prüfbar machen, dass ein Mensch die Ausgabe der KI wirklich beurteilt und nicht nur routinemäßig abgenickt hat?
Wirtschaft und Haftung
- SF-W2 Wie wirken sich Wettbewerbsrecht und öffentliche Beschaffung auf die KI-Sicherheit aus?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 62 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- Welche Befugnisse darf ein KI-Agent haben, also eine KI, die selbstständig mit Werkzeugen handelt? Wer entzieht sie ihm, und wie prüft man, dass er in seinem Auftrag bleibt?
- Lassen sich KI-Systeme sicher anhalten, zurücksetzen, abschotten oder drosseln, und wer darf das anordnen?
- Welche Gefahren entstehen, wenn viele KI-Systeme zusammenwirken oder dieselbe Infrastruktur teilen?
- Wie lässt sich nachverfolgen, woraus ein Modell entstanden ist und was in ihm steckt?
- Wie bleibt KI ein gemeinsames Gut, statt Abhängigkeit und Marktmacht zu vertiefen?
- Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- Alle Berichte im Archiv