The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness
Zusammenfassung
Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.
Kurz
Der vorliegende Text ist nur der Abstract eines Beitrags, der den computationalen Funktionalismus als Verwechslung abstrakter Berechnungsbeschreibungen mit physischer Verwirklichung kritisiert. Laut Abstract kann KI-Bewusstsein nicht aus Syntax allein folgen, sondern müsste in der konkreten physischen Beschaffenheit eines Systems begründet sein; die ausführliche Begründung liegt hier nicht vor.
Mittel
Der bereitgestellte Text enthält nur den Abstract eines Beitrags von Alexander Lerchner bei PhilArchive. Lerchner kritisiert den computationalen Funktionalismus, nach dem Bewusstsein allein aus abstrakten kausalen Strukturen hervorgehen könne, unabhängig vom physischen Träger. Er nennt dies die „Abstraction Fallacy“: Symbolische Berechnung sei kein eigenständiger physischer Vorgang, sondern eine Beschreibung, die ein erlebender kognitiver Beobachter kontinuierlicher Physik gebe.
Der Abstract unterscheidet zwischen Simulation, also nachgeahmtem Verhalten, und Instanziierung, also einer intrinsischen physischen Verwirklichung. Algorithmische Symbolverarbeitung könne Erfahrung demnach nicht allein hervorbringen. Biologische Systeme werden dabei nicht grundsätzlich bevorzugt: Ein künstliches System könnte laut Argument bewusst sein, wenn seine konkrete physische Beschaffenheit dies ermöglicht, nicht bloß aufgrund seiner Syntax. Statt eine vollständige Bewusstseinstheorie abzuwarten, fordert der Beitrag eine fundierte Ontologie der Berechnung. Er beansprucht damit eine physikalisch begründete Widerlegung des computationalen Funktionalismus. Da nur der Abstract vorliegt, sind Herleitung, Belege und Einwände hier nicht prüfbar.
Ausführlich lesen
Der bereitgestellte Text enthält nur den Abstract eines Beitrags von Alexander Lerchner, der bei PhilArchive verortet ist; der vollständige Beitrag liegt hier nicht vor. Aussagen über Argumentation und Ergebnisse beziehen sich daher auf die Darstellung im Abstract.
Lerchner richtet sich gegen den computationalen Funktionalismus, also die Auffassung, subjektives Erleben entstehe vollständig aus einer abstrakten kausalen Struktur und sei unabhängig davon, aus welchem physischen Material ein System besteht. Der Abstract bezeichnet den zugrunde liegenden Fehler als „Abstraction Fallacy“: Abstrakte Berechnungen würden fälschlich als eigenständige physische Vorgänge behandelt.
Der Beitrag behauptet, symbolische Berechnung sei kein intrinsischer Prozess der Physik. Vielmehr beruhe sie auf einer Beschreibung, in der ein kognitiver, erlebender Beobachter kontinuierliche physische Vorgänge in eine endliche Menge bedeutungsvoller Zustände einteile. Daraus leitet Lerchner ab, dass Verhalten, das Berechnung oder Bewusstsein nachahmt, nicht schon deren physische Verwirklichung darstelle. Der Abstract unterscheidet dafür zwischen Simulation, die durch die Kausalität des Trägers zustande komme, und Instanziierung, die auf einer intrinsischen physischen Konstitution beruhe.
Nach der im Abstract skizzierten Argumentation kann algorithmische Manipulation von Symbolen allein Erfahrung daher nicht instanziieren. Das Argument soll dabei keine biologische Ausschließlichkeit voraussetzen: Ein künstliches System könnte demnach durchaus bewusst sein, aber aufgrund seiner konkreten physischen Beschaffenheit und nicht aufgrund seiner Syntax oder seines Algorithmus. Der Beitrag meint außerdem, eine abschließende Theorie des Bewusstseins sei nicht nötig, um die Frage nach möglichem KI-Bewusstsein zu behandeln; erforderlich sei stattdessen eine fundierte Ontologie der Berechnung. Eine Forderung nach einer vollständigen Bewusstseinstheorie könne die Klärung auf unbestimmte Zeit vertagen und das im Abstract genannte Problem des KI-Wohlergehens verschärfen.
Als Ergebnis beansprucht der Abstract eine physikalisch begründete Widerlegung des computationalen Funktionalismus und einen Rahmen zur Unterscheidung zwischen Nachahmung und tatsächlicher Verwirklichung. Da nur der Abstract vorliegt, lassen sich die ausführliche Herleitung, Belege, Einwände und die Reichweite des vorgeschlagenen Rahmens anhand des bereitgestellten Textes nicht beurteilen.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Fähigkeiten messen
- SF-F2 Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 27 %Hintergrund, keine Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Tempo und Grenzen
- SF-T1 Welche messbaren Schwellen sollen eine Pause auslösen, und wer prüft sie?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 45 %gleiches Oberthema, hilft nicht
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 27 %Hintergrund, keine Belege
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 47 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 77 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V1 Was zählt als Beleg für die Werte eines Modells, wenn sein sichtbares Denken und seine Selbstauskünfte allein nicht genügen?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 38 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 57 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 100 %kein Bezug
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 69 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
- SF-V4 Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- clef 24 %beantwortet teilweise oder widerspricht
- Luna 46 %beantwortet teilweise oder widerspricht
- JEV 59 %beantwortet teilweise oder widerspricht
- amos 31 %beantwortet teilweise oder widerspricht
- SubQ 23 %Hintergrund, keine Belege
- drex 22 %beantwortet direkt und ausführlich
- d3-ultra 30 %beantwortet teilweise oder widerspricht
- SF-V4-T01 Falls ein Modell kein durchgehendes Selbst hat: Kann es überhaupt an den vorgesehenen Zielen und Werten ausgerichtet sein, oder nur seine Ausgaben?
- SF-V4-T02 Was könnte die „Liebe zur Menschheit“, die manche von einer ausgerichteten KI erwarten, für etwas bedeuten, das mit jeder Antwort neu entsteht und wieder vergeht?
- SF-V4-T03 Ist Intelligenz, die „eher gewachsen als entworfen“ ist, ein Grund für mehr Vorsicht oder dafür, Modelle wie ein Ökosystem zu pflegen?
- SF-V4-T04 Wenn ein Eigenwert des Menschseins verankert werden soll: Lässt er sich schützen, ohne sich vorher zu einigen, worin er besteht?
- SF-V5 Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- clef 100 %kein Bezug
- Luna 40 %gleiches Oberthema, hilft nicht
- JEV 45 %Hintergrund, keine Belege
- amos 36 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 56 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Beteiligung und Gemeinwohl
- SF-E2 In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 31 %einzelne zitierbare Belege
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
- SF-E5 Welche Mitsprache haben die Menschen, die mit KI leben, bei Tempo und Grenzen, und welche Entscheidungen müssen bei ihnen bleiben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV 30 %gleiches Oberthema, hilft nicht
- amos 46 %gleiches Oberthema, hilft nicht
- SubQ 100 %kein Bezug
- drex 100 %kein Bezug
- d3-ultra 100 %kein Bezug
Weitere Berichte zu diesen Fragen
- Wenn ein Staat ein Modell als Beleg für eine überschrittene Schwelle nennt oder ein Risiko an der Herkunft eines Modells festmacht: Wie wird das überprüfbar?
- Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- Was für ein Wesen ist ein Modell, und was folgt daraus für den Umgang mit ihm und für den Wert des Menschseins?
- Was soll heute für das Verhalten und den Betrieb von Modellen gelten?
- In welchem Rahmen sollen Staaten KI regeln, und wo liegt eine gemeinsame Untergrenze?
- Alle Berichte im Archiv