Explainability

Was ist Explainability?

Explainability beschreibt die Fähigkeit eines KI-Systems, verständlich zu machen, warum es eine bestimmte Entscheidung oder Ausgabe produziert hat. Nicht nur das Ergebnis — sondern die Begründung dahinter.

Ein Modell, das eine Kreditanfrage ablehnt, erklärt idealerweise, welche Faktoren zu dieser Entscheidung beigetragen haben. Ein Agent, der eine Aufgabe abgeschlossen hat, kann auf Anfrage seinen Entscheidungsweg darstellen.

Warum Explainability relevant ist

Vertrauen — Menschen vertrauen Entscheidungen eher, wenn sie nachvollziehen können, wie sie zustande kamen.

Kontrolle — Wer eine KI-Entscheidung erklären kann, kann auch erkennen, wenn sie falsch ist. Das ist die Grundlage für sinnvolles [[Human-in-the-Loop|menschliches Eingreifen]].

Recht — Der EU AI Act macht Explainability für Hochrisiko-KI-Systeme ab August 2026 zur Pflicht. Das betrifft Systeme, die in Personalentscheidungen, Kreditvergabe, Strafverfolgung oder kritischer Infrastruktur eingesetzt werden.

Was Explainability nicht bedeutet

Explainability bedeutet nicht, dass das vollständige Innenleben eines Modells offengelegt werden muss. Es bedeutet, dass die relevanten Faktoren einer Entscheidung für Betroffene und Prüfer verständlich gemacht werden können.

Für KMU, die KI einsetzen: Explainability ist weniger ein technisches als ein architektonisches Problem. Wer [[KI-Agent|Agenten]] mit Protokollierung, definierten Eskalationspunkten und nachvollziehbaren Entscheidungsregeln baut, kommt ohne große Mehrkosten zu erklärbaren Systemen.

Bezug zum EU AI Act

Der EU AI Act trat im August 2024 in Kraft und wird schrittweise wirksam. Ab August 2026 gelten für Hochrisiko-Systeme Transparenz- und Erklärbarkeitsanforderungen. Nicht jede KI-Nutzung in KMU fällt darunter — aber wer KI in sensitiven Entscheidungsprozessen einsetzt, sollte das prüfen.