Zum Inhalt
AMANi DUNiA research
DE

Die Fragen auf dieser Website haben KI-Sprachmodelle gestellt; auch die Erklärtexte und Übersetzungen stammen von KI-Modellen. Wer was geprüft hat, steht jeweils dabei. → Über die Fragen

← Alle bewerteten Quellen
deepmind24. März 2025 · Q005266

Gensors: Authoring Personalized Visual Sensors with Multimodal Foundation Models and Reasoning

deepmind.google · Originalbericht öffnen ↗

Zusammenfassung

Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.

Kurz

Der bereitgestellte Bericht ist nur ein Abstract-Auszug zu Gensors, einem System zur Erstellung personalisierter visueller Sensoren mit multimodalen Sprachmodellen. Laut Abstract berichteten Teilnehmende von mehr Kontrolle und Verständnis; Kriterien und vorgeschlagene Testfälle halfen zudem, Anforderungen und unerwartete Fehler sichtbar zu machen. Halluzinationen und inkonsistente Modellantworten bleiben genannte Herausforderungen.

Mittel

Der bereitgestellte Bericht ist ein Auszug aus dem Abstract; Details zu Studienaufbau und Messwerten fehlen. Vorgestellt wird Gensors, ein System, mit dem Nutzerinnen und Nutzer mithilfe multimodaler Sprachmodelle eigene visuelle Sensoren für Situationen wie das Erkennen unerwünschten Verhaltens eines Kleinkinds definieren können. Eine vorbereitende Studie habe laut Abstract gezeigt, dass Menschen solche Sensoren nützlich finden, aber Mühe haben, ihre persönlichen Anforderungen allein per Prompt auszudrücken und die Ergebnisse zu überprüfen.

Gensors unterstützt die Anforderungsermittlung mit automatisch oder manuell erstellten Kriterien, ermöglicht das getrennte Testen einzelner Kriterien, schlägt anhand von Bildern weitere Kriterien vor und erstellt Testfälle für bislang nicht bedachte Situationen. In einer Nutzerstudie berichteten Teilnehmende laut Abstract von mehr Kontrolle, Verständnis und leichterer Kommunikation. Das kriteriumsbasierte Vorgehen habe außerdem übersehene Anforderungen und unerwartete Fehlerfälle aufgedeckt. Als Herausforderung nennt der Abstract Halluzinationen und uneinheitliche Antworten von MLLMs. Der Beitrag erschien laut Metadaten auf der ACM IUI 2025.

Ausführlich lesen

Der bereitgestellte Bericht ist ein Auszug: Er enthält den Abstract und bibliografische Angaben, aber keine vollständige Beschreibung der Studien oder ihrer Ergebnisse. Der Beitrag „Gensors: Authoring Personalized Visual Sensors with Multimodal Foundation Models and Reasoning“ stellt ein System vor, mit dem Menschen mithilfe multimodaler großer Sprachmodelle (MLLMs) eigene visuelle Sensoren für komplexe Situationen definieren können. Als Beispiel nennt der Abstract einen Sensor, der melden soll, wenn ein Kleinkind Unfug treibt. Das Modell soll dazu einen Kamerafeed analysieren und innerhalb von Sekunden reagieren.

Laut Abstract zeigte eine vorbereitende Studie, dass Nutzerinnen und Nutzer eigene Sensoren als wertvoll einschätzten, aber Schwierigkeiten hatten, persönliche Anforderungen allein durch Prompts präzise auszudrücken und die Sensoren auf diesem Weg zu überprüfen. Gensors soll dabei auf vier Arten helfen: Das System unterstützt beim Ermitteln von Anforderungen durch automatisch erzeugte und manuell erstellte Kriterien; es ermöglicht, einzelne Kriterien getrennt und parallel zu testen; es schlägt anhand von Nutzerbildern weitere Kriterien vor; und es erstellt Testfälle, mit denen Sensoren auch für unerwartete Situationen geprüft werden können.

In einer Nutzerstudie berichteten Teilnehmende laut Abstract, dass sie bei der Definition von Sensoren mit Gensors mehr Kontrolle und Verständnis empfanden und leichter mit dem System kommunizieren konnten. Die Autorinnen und Autoren zufolge unterstützte der kriteriumsbasierte Ansatz nicht nur beim Umgang mit Modellgrenzen, sondern auch dabei, Anforderungen herauszuarbeiten, Sensoren zu debuggen und individuelle Bedürfnisse auszudrücken. Zudem habe das Vorgehen übersehene Kriterien und zuvor nicht erwartete Fehlerfälle sichtbar gemacht.

Der Abstract weist außerdem darauf hin, dass Eigenschaften von MLLMs wie Halluzinationen und uneinheitliche Antworten die Erstellung solcher Sensoren beeinflussen können. Konkrete Messwerte, die Zusammensetzung der Stichprobe, der Studienaufbau und detaillierte Einschränkungen sind im bereitgestellten Auszug nicht enthalten. Der Beitrag wurde laut den Metadaten auf der ACM IUI 2025 veröffentlicht.

Luna (gpt-6-luna, Denkstufe high), ChatGPT-Abo · 2026-11-19 ungeprüft

Wie die Modelle den Bericht einordnen

Je Sammelfrage und Teilfrage die häufigste Stufe (0 bis 7) und ihr Anteil, geordnet nach Fragenfamilie (Farbe) oder nach den Wegen des Atlas. Ab Stufe 4 liefert der Bericht Belege, Stufe 3 ist Hintergrund (gestrichelt). Was die Stufen bedeuten, steht in der Legende.

Ansicht
Filter
Modelle 7 von 7
Angezeigte Modelle
Vorfälle melden
Fähigkeiten messen
Unabhängig prüfen
Tempo und Grenzen
Vertrauen in Modelle
  1. SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
    • clef 100 %kein Bezug
    • Luna 32 %Hintergrund, keine Belege
    • JEV 100 %kein Bezug
    • amos 25 %Hintergrund, keine Belege
    • SubQ 100 %kein Bezug
    • drex 51 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-V3-T04 Wer muss Rechenschaft ablegen, wenn ein Modell Werte auf Lagen überträgt, die beim Training niemand vorhergesehen hat: das Modell, das Labor oder der Mensch, der das Ziel gesetzt hat? Luna: Stufe 3 · 33 % · Hintergrund, keine Belege
  2. SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
    • clef 100 %kein Bezug
    • Luna 100 %kein Bezug
    • JEV 39 %einzelne zitierbare Belege
    • amos 45 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 100 %kein Bezug
    • d3-ultra 100 %kein Bezug
  3. SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
    • clef 100 %kein Bezug
    • Luna 27 %Hintergrund, keine Belege
    • JEV 27 %einzelne zitierbare Belege
    • amos 34 %gleiches Oberthema, hilft nicht
    • SubQ 100 %kein Bezug
    • drex 50 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug
Agenten und vernetzte Systeme
Beteiligung und Gemeinwohl
  1. SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
    • clef 100 %kein Bezug
    • Luna 39 %einzelne zitierbare Belege
    • JEV 40 %einzelne zitierbare Belege
    • amos 26 %nur am Rande erwähnt
    • SubQ 100 %kein Bezug
    • drex 45 %gleiches Oberthema, hilft nicht
    • d3-ultra 100 %kein Bezug

    • SF-E5-T01 Wer soll das Tempo der KI-Entwicklung bestimmen: die Labore, die Regierungen oder die Menschen, die diese Systeme jeden Tag nutzen? Luna: Stufe 3 · 37 % · Hintergrund, keine Belege

Weitere Berichte zu diesen Fragen

Eigene Zusammenfassungen und Einordnungen von AMANi DUNiA. Fremde Originalberichte behalten ihre eigenen Rechte.

Sprache und Prüfstand

Haupttext: DE. Prüfvermerke gelten nur für den jeweils genannten Inhalt.

Vorhandene Prüfvermerke stehen am jeweiligen Inhalt.

Sprachabdeckung und Datenstand ansehen →