Bridging Algorithmic Information Theory and Machine Learning, Part II: Clustering, Density Estimation, Kolmogorov Complexity-Based Kernels, and Kernel Learning in Unsupervised Learning
Zusammenfassung
Für diesen Bericht lag nur ein Auszug oder keine vollständige Fassung vor. Die Zusammenfassung sagt das selbst.
Kurz
Der bereitgestellte Bericht enthält nur den Abstract, keine vollständige Darstellung des Artikels. Laut Abstract verbindet Marcus Hutter AIT und Kernelmethoden für unüberwachtes Lernen, unter anderem für Clustering und Dichteschätzung; konkrete Versuchsergebnisse und Belege sind im Auszug nicht enthalten.
Mittel
Der bereitgestellte Bericht umfasst nur den Abstract, Stichwörter sowie Angaben zu Autor und Publikationsort; der vollständige Artikel ist nicht enthalten. Laut Abstract untersucht Marcus Hutter, wie Algorithmische Informationstheorie (AIT) und maschinelles Lernen (ML) sich beim unüberwachten Lernen ergänzen können.
In einer Richtung sollen AIT-Konzepte Kernelmethoden prägen: Der Abstract nennt relative Kolmogorow-Komplexität und normalisierte Kompressionsdistanz (NCD) sowie das Loss Rank Principle, mit dem Kernel für die Kerndichteschätzung gelernt werden sollen. In der Gegenrichtung sollen Kernelmethoden Größen wie NCD und Algorithmische Wechselseitige Information (AMI) annähern. Außerdem werde das Hilbert-Schmidt Independence Criterion (HSIC) als Approximation für AMI dargestellt, mit möglichen Anwendungen für Clustering und Abhängigkeitsmessung. Aufbauend auf früheren Arbeiten zu Sparse Kernel Flows werde der Ansatz auf unüberwachtes Lernen erweitert. Der Abstract beansprucht dadurch eine bessere theoretische Fundierung und Interpretierbarkeit. Konkrete Methoden- und Ergebnisdetails sind im Auszug nicht aufgeführt.
Ausführlich lesen
Der bereitgestellte Bericht enthält nur den Abstract sowie Stichwörter, Autor und Publikationsort; der vollständige Artikel liegt hier nicht vor. Laut Abstract untersucht Marcus Hutter, wie Algorithmische Informationstheorie (AIT) und maschinelles Lernen (ML) einander bei unüberwachtem Lernen ergänzen können.
Der Abstract beschreibt zwei Richtungen. Erstens sollen Konzepte der AIT Kernelmethoden inspirieren: Dazu zählt der Einsatz relativer Kolmogorow-Komplexität und der normalisierten Kompressionsdistanz (NCD) beim Entwurf von Kernfunktionen. Außerdem werde das Loss Rank Principle (LoRP) genutzt, um Kernel für die Kerndichteschätzung zu lernen und damit flexible, nichtparametrische Modelle einzubeziehen.
Zweitens sollen Kernelmethoden AIT-Größen annähern können, darunter NCD und Algorithmische Wechselseitige Information (AMI). Der Abstract führt außerdem an, dass das Hilbert-Schmidt Independence Criterion (HSIC) AMI approximiert. Dies biete eine theoretische Grundlage für Clustering und weitere Aufgaben, bei denen Abhängigkeiten gemessen werden. Aufbauend auf früheren Arbeiten zu Sparse Kernel Flows werde der Ansatz auf unüberwachtes Lernen ausgeweitet.
Als Ergebnis beansprucht der Abstract, die theoretische Fundierung und Interpretierbarkeit von ML-Verfahren zu stärken und Kernelmethoden als Verbindung zwischen AIT und ML für Aufgaben des unüberwachten Lernens herauszustellen. Konkrete Versuchsanordnungen, quantitative Resultate und Einzelheiten der Belege sind im vorliegenden Auszug nicht enthalten. Der Beitrag ist mit „Physica D – Nonlinear Phenomena“ angegeben.
Wie die Modelle den Bericht einordnen
Ansicht
Filter
Tempo und Grenzen
- SF-T3 Woran erkennt man, dass KI beginnt, ihre eigene Weiterentwicklung voranzutreiben, und wer darf das erlauben?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 54 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug
Vertrauen in Modelle
- SF-V3 Halten die Werte eines Modells, wenn niemand zusieht oder die Lage neu ist?
- clef 100 %kein Bezug
- Luna 100 %kein Bezug
- JEV
- amos 100 %kein Bezug
- SubQ 100 %kein Bezug
- drex 65 %gleiches Oberthema, hilft nicht
- d3-ultra 100 %kein Bezug