Zum Inhalt springen

Blog

Black-Box- und White-Box-Modelle auf dem Weg zu Explainable AI

Erklärungen aus Black-Box-Modellen erzeugen: mit Modelleigenschaften, lokalen logischen Darstellungen und globalen logischen Darstellungen

4 Min. Lesezeit
Geschlossene schwarze Box neben einer offenen weißen Box.
Facebook-Logo
X-Logo
LinkedIn-Logo
Reddit-Logo
Telegram-Logo

Kurze Zusammenfassung: XAI und NSC

Explainable AI (XAI) befasst sich mit der Entwicklung von KI-Modellen, die für Menschen, darunter Nutzer, Entwickler, politische Entscheider und Strafverfolgungsbehörden, von Natur aus leichter verständlich sind. Neuro-Symbolic Computing (NSC) befasst sich damit, subsymbolische Lernalgorithmen mit symbolischen Schlussfolgerungsmethoden zu kombinieren. Wir können daher feststellen, dass Neuro-Symbolic Computing ein Teilgebiet der Explainable AI ist. NSC ist zudem einer der am besten anwendbaren Ansätze, da er auf der Kombination bestehender Methoden und Modelle beruht.

Erklärbarkeit ist die Fähigkeit, Dinge in menschlicher Sprache sinnvoll zu beschreiben. Anders gesagt: die Möglichkeit, Rohinformationen (Daten) auf eine für Menschen sinnvolle symbolische Darstellung abzubilden (z. B. einen deutschen Text)

Indem wir aus Subsymbolen Symbole extrahieren, können wir diese Subsymbole erklärbar machen. Sowohl XAI als auch NSC versuchen, subsymbolische Systeme besser erklärbar zu machen. NSC befasst sich stärker mit der Abbildung von Subsymbolen auf Symbole, mit Erklärbarkeit durch Design mittels Logik: symbolisches Schlussfolgern über subsymbolisch gelernten Darstellungen. XAI ist ein weniger spezifisches Paradigma und befasst sich stärker mit Erklärbarkeit in all ihren Nuancen, selbst wenn sie um nicht erklärbare Modelle herum aufgebaut ist. Wenn das Extrahieren von Symbolen aus Subsymbolen Erklärbarkeit bedeutet, dann umfasst XAI auch NSC.

Sehen wir uns NSC an einem Beispiel an:

Neuro-Symbolic Concept Learner

Mao et al. schlagen ein neues NSC-Modell vor, den Neuro-Symbolic Concept Learner, der diese Schritte befolgt:

Ein Bildklassifikator lernt, aus Bild- oder Textsegmenten die subsymbolischen (numerischen) Darstellungen zu extrahieren. Dann wird jede subsymbolische Darstellung mit einem für Menschen verständlichen Symbol verknüpft. Dann prüft ein symbolischer Schlussfolgerer die Einbettungsähnlichkeiten der Symboldarstellungen. Das Training wird fortgesetzt, bis die Genauigkeit der Ausgabe des Schlussfolgerers durch Aktualisierung der Darstellungen maximiert ist.

White-Box- vs. Black-Box-Modelle

Ein KI-Modell kann (i) White-Box oder (ii) Black-Box sein.

Ein White-Box-Modell ist von Natur aus erklärbar. Es erfordert daher keine zusätzlichen Fähigkeiten, um erklärbar zu sein. Ein Black-Box-Modell ist nicht von sich aus erklärbar. Um ein Black-Box-Modell erklärbar zu machen, müssen wir daher mehrere Techniken anwenden, um Erklärungen aus der inneren Logik oder den Ausgaben des Modells zu extrahieren.

Black-Box-Modelle lassen sich erklärbar machen mit

Modelleigenschaften: Aufzeigen bestimmter Eigenschaften des Modells oder seiner Vorhersagen, etwa (a) Sensitivität gegenüber Attributänderungen oder (b) Identifikation von Komponenten des Modells (z. B. Neuronen oder Knoten), die für eine bestimmte Entscheidung verantwortlich sind. Lokaler Logik: Eine Darstellung der inneren Logik hinter einer einzelnen Entscheidung oder Vorhersage. Globaler Logik: Eine Darstellung der gesamten inneren Logik.

Hier das Diagramm mit den Unterkategorien von KI-Modellen in Bezug auf ihre Erklärbarkeit:

Regelbasierte vs. fallbasierte Erklärbarkeit

Neben der logischen Unterscheidung der erklärbaren Modelle identifizieren wir auch zwei gängige Arten von Erklärungen, die alle oben genannten Modelle ausgeben können:

Regelbasierte Erklärungen: Regelbasierte Erklärbarkeit beruht darauf, eine „Menge formaler logischer Regeln zu erzeugen, die die innere Logik eines gegebenen Modells formulieren.

Fallbasierte Erklärungen: Fallbasierte Erklärbarkeit beruht darauf, aussagekräftige Eingabe-Ausgabe-Paare (sowohl positive als auch negative) bereitzustellen, um eine Intuition für die innere Logik des Modells zu vermitteln. Fallbasierte Erklärungen setzen auf die menschliche Fähigkeit, aus diesen Paaren Logik abzuleiten.

Beispiel für den Vergleich regelbasierter und fallbasierter Lernalgorithmen:

Angenommen, unser Modell muss ein Rezept für einen Apfelkuchen lernen. Wir haben Rezepte für Heidelbeerkuchen, Käsekuchen, Shepherd’s Pie und einen einfachen Rührkuchen. Während der regelbasierte Lernansatz versucht, eine Menge allgemeiner Regeln für die Zubereitung aller Arten von Desserts zu entwickeln (also ein „eager“ Ansatz), verallgemeinert der fallbasierte Lernansatz die Informationen genau so, wie es für bestimmte Aufgaben nötig ist. Er würde daher in den verfügbaren Daten nach den dem Apfelkuchen ähnlichsten Desserts suchen. Anschließend würde er versuchen, mit kleinen Variationen ähnlicher Rezepte anzupassen.

XAI: White-Box-Modelle entwerfen

Einschließlich regelbasierter und fallbasierter Lernsysteme gibt es vier Hauptklassen von White-Box-Entwürfen:

Handgefertigte Expertensysteme; Regelbasierte Lernsysteme: Algorithmen, die logische Regeln aus Daten lernen, etwa induktive logische Programmierung, Entscheidungsbäume usw.; Fallbasierte Lernsysteme: Algorithmen auf Basis fallbasierten Schließens. Sie nutzen Beispiele, Fälle, Präzedenzfälle und/oder Gegenbeispiele, um Systemausgaben zu erklären; und Eingebettete Symbole & Extraktionssysteme: stärker von der Biologie inspirierte Algorithmen wie Neuro-Symbolic Computing.

In den kommenden Teilen dieser Serie zeigen wir praktische Beispiele für diese Methoden.

Abschließende Hinweise

In diesem Beitrag haben wir:

1 — Unterschiede und Gemeinsamkeiten zwischen XAI und NSC kurz behandelt;

2 — Black-Box- und White-Box-Modelle definiert und verglichen;

3 — Ansätze vorgestellt, um Black-Box-Modelle erklärbar zu machen (Modelleigenschaften, lokale Logik, globale Logik);

4 — Regelbasierte und fallbasierte Erklärungen verglichen und mit Beispielen veranschaulicht.

Im nächsten Beitrag behandeln wir die am Markt verfügbaren Bibliotheken und Technologien für die Arbeit an Erklärbarkeit. Mit einigen dieser Bibliotheken extrahieren wir Erklärungen aus Black- und White-Box-Modellen.

Wenn Ihnen dieser Artikel gefällt, lesen Sie auch unsere anderen Artikel.

Mehr lesen.

Dithered illustration of two marble hands pulling a mason's line taut between stakes across bare ground at dawn, the first course of stones laid along it and a pink knot at the nearest stake.
Your First 30 Days With a Product Studio: What Happens Week by Week
7 Min.

The first 30 days with a product studio: week one sets access and goals, week two tests the riskiest assumption, weeks three and four ship a first slice.

Dithered illustration of a marble hand opening the case of a bracket clock to show a dense hidden mechanism, one small gear deep inside glowing red.
What Does an AI Agent Cost to Run? Tokens, Tools and the Hidden Line Items
6 Min.

An AI agent's running cost is model tokens across every step, plus retries, tool and search fees, hosting, monitoring and human review. Budget per task, not per token.

Dithered illustration of a fragmented marble face looking down at a jeweller's tray where gems are sorted by size, the largest stone glowing amber under a brass lamp.
AI Lead Scoring in Your CRM: Start With the Rules You Already Trust
7 Min.

Add AI lead scoring by writing down the rules sales already trusts, cleaning CRM data, then testing the AI score against those rules before reps use it.

AI-first denken.
Zukunftsschnell handeln.

Lassen Sie uns bauen, was als Nächstes kommt! Von Produktideen und intelligenten Workflows bis zu datengetriebenen Systemen und skalierbaren Growth Operations.

Strategiegespräch buchen