Black-Box- und White-Box-Modelle auf dem Weg zu Explainable AI
Erklärungen aus Black-Box-Modellen erzeugen: mit Modelleigenschaften, lokalen logischen Darstellungen und globalen logischen Darstellungen
4 Min. Lesezeit

Inhalt
Kurze Zusammenfassung: XAI und NSC
Explainable AI (XAI) befasst sich mit der Entwicklung von KI-Modellen, die für Menschen, darunter Nutzer, Entwickler, politische Entscheider und Strafverfolgungsbehörden, von Natur aus leichter verständlich sind. Neuro-Symbolic Computing (NSC) befasst sich damit, subsymbolische Lernalgorithmen mit symbolischen Schlussfolgerungsmethoden zu kombinieren. Wir können daher feststellen, dass Neuro-Symbolic Computing ein Teilgebiet der Explainable AI ist. NSC ist zudem einer der am besten anwendbaren Ansätze, da er auf der Kombination bestehender Methoden und Modelle beruht.
Erklärbarkeit ist die Fähigkeit, Dinge in menschlicher Sprache sinnvoll zu beschreiben. Anders gesagt: die Möglichkeit, Rohinformationen (Daten) auf eine für Menschen sinnvolle symbolische Darstellung abzubilden (z. B. einen deutschen Text)
Indem wir aus Subsymbolen Symbole extrahieren, können wir diese Subsymbole erklärbar machen. Sowohl XAI als auch NSC versuchen, subsymbolische Systeme besser erklärbar zu machen. NSC befasst sich stärker mit der Abbildung von Subsymbolen auf Symbole, mit Erklärbarkeit durch Design mittels Logik: symbolisches Schlussfolgern über subsymbolisch gelernten Darstellungen. XAI ist ein weniger spezifisches Paradigma und befasst sich stärker mit Erklärbarkeit in all ihren Nuancen, selbst wenn sie um nicht erklärbare Modelle herum aufgebaut ist. Wenn das Extrahieren von Symbolen aus Subsymbolen Erklärbarkeit bedeutet, dann umfasst XAI auch NSC.
Sehen wir uns NSC an einem Beispiel an:
Neuro-Symbolic Concept Learner
Mao et al. schlagen ein neues NSC-Modell vor, den Neuro-Symbolic Concept Learner, der diese Schritte befolgt:
Ein Bildklassifikator lernt, aus Bild- oder Textsegmenten die subsymbolischen (numerischen) Darstellungen zu extrahieren. Dann wird jede subsymbolische Darstellung mit einem für Menschen verständlichen Symbol verknüpft. Dann prüft ein symbolischer Schlussfolgerer die Einbettungsähnlichkeiten der Symboldarstellungen. Das Training wird fortgesetzt, bis die Genauigkeit der Ausgabe des Schlussfolgerers durch Aktualisierung der Darstellungen maximiert ist.
White-Box- vs. Black-Box-Modelle
Ein KI-Modell kann (i) White-Box oder (ii) Black-Box sein.
Ein White-Box-Modell ist von Natur aus erklärbar. Es erfordert daher keine zusätzlichen Fähigkeiten, um erklärbar zu sein. Ein Black-Box-Modell ist nicht von sich aus erklärbar. Um ein Black-Box-Modell erklärbar zu machen, müssen wir daher mehrere Techniken anwenden, um Erklärungen aus der inneren Logik oder den Ausgaben des Modells zu extrahieren.
Black-Box-Modelle lassen sich erklärbar machen mit
Modelleigenschaften: Aufzeigen bestimmter Eigenschaften des Modells oder seiner Vorhersagen, etwa (a) Sensitivität gegenüber Attributänderungen oder (b) Identifikation von Komponenten des Modells (z. B. Neuronen oder Knoten), die für eine bestimmte Entscheidung verantwortlich sind. Lokaler Logik: Eine Darstellung der inneren Logik hinter einer einzelnen Entscheidung oder Vorhersage. Globaler Logik: Eine Darstellung der gesamten inneren Logik.
Hier das Diagramm mit den Unterkategorien von KI-Modellen in Bezug auf ihre Erklärbarkeit:
Regelbasierte vs. fallbasierte Erklärbarkeit
Neben der logischen Unterscheidung der erklärbaren Modelle identifizieren wir auch zwei gängige Arten von Erklärungen, die alle oben genannten Modelle ausgeben können:
Regelbasierte Erklärungen: Regelbasierte Erklärbarkeit beruht darauf, eine „Menge formaler logischer Regeln zu erzeugen, die die innere Logik eines gegebenen Modells formulieren.
Fallbasierte Erklärungen: Fallbasierte Erklärbarkeit beruht darauf, aussagekräftige Eingabe-Ausgabe-Paare (sowohl positive als auch negative) bereitzustellen, um eine Intuition für die innere Logik des Modells zu vermitteln. Fallbasierte Erklärungen setzen auf die menschliche Fähigkeit, aus diesen Paaren Logik abzuleiten.
Beispiel für den Vergleich regelbasierter und fallbasierter Lernalgorithmen:
Angenommen, unser Modell muss ein Rezept für einen Apfelkuchen lernen. Wir haben Rezepte für Heidelbeerkuchen, Käsekuchen, Shepherd’s Pie und einen einfachen Rührkuchen. Während der regelbasierte Lernansatz versucht, eine Menge allgemeiner Regeln für die Zubereitung aller Arten von Desserts zu entwickeln (also ein „eager“ Ansatz), verallgemeinert der fallbasierte Lernansatz die Informationen genau so, wie es für bestimmte Aufgaben nötig ist. Er würde daher in den verfügbaren Daten nach den dem Apfelkuchen ähnlichsten Desserts suchen. Anschließend würde er versuchen, mit kleinen Variationen ähnlicher Rezepte anzupassen.
XAI: White-Box-Modelle entwerfen
Einschließlich regelbasierter und fallbasierter Lernsysteme gibt es vier Hauptklassen von White-Box-Entwürfen:
Handgefertigte Expertensysteme; Regelbasierte Lernsysteme: Algorithmen, die logische Regeln aus Daten lernen, etwa induktive logische Programmierung, Entscheidungsbäume usw.; Fallbasierte Lernsysteme: Algorithmen auf Basis fallbasierten Schließens. Sie nutzen Beispiele, Fälle, Präzedenzfälle und/oder Gegenbeispiele, um Systemausgaben zu erklären; und Eingebettete Symbole & Extraktionssysteme: stärker von der Biologie inspirierte Algorithmen wie Neuro-Symbolic Computing.
In den kommenden Teilen dieser Serie zeigen wir praktische Beispiele für diese Methoden.
Abschließende Hinweise
In diesem Beitrag haben wir:
1 — Unterschiede und Gemeinsamkeiten zwischen XAI und NSC kurz behandelt;
2 — Black-Box- und White-Box-Modelle definiert und verglichen;
3 — Ansätze vorgestellt, um Black-Box-Modelle erklärbar zu machen (Modelleigenschaften, lokale Logik, globale Logik);
4 — Regelbasierte und fallbasierte Erklärungen verglichen und mit Beispielen veranschaulicht.
Im nächsten Beitrag behandeln wir die am Markt verfügbaren Bibliotheken und Technologien für die Arbeit an Erklärbarkeit. Mit einigen dieser Bibliotheken extrahieren wir Erklärungen aus Black- und White-Box-Modellen.
Wenn Ihnen dieser Artikel gefällt, lesen Sie auch unsere anderen Artikel.
Weiterlesen

Attribution That Survives Your Tool Stack: Keeping UTMs From Ad to Booking to CRM

Clean Your CRM Data Before You Add AI: Dedupe, Grain and Ownership

Semantic Layer First: Getting Your BI Ready for AI Agents

How F&B CMOs Use Generative AI In Business For Location Decisions

How Real Estate Firms Use Business Analytics For City Parks To Drive Value

Data Storytelling and Visualization

When Does a Business Actually Need Digital Transformation?

Analytics for Product Recommendations

Data Analyst vs. Data Quality Analyst

The Best NoSQL Analytics Tools 2024



