Explainable AI

Die Veranstaltung findet regelmäßig im Wintersemester statt. Aktuelle und weiterführende Informationen erhalten Sie in GRIPS und in der ersten Veranstaltung. Die Termine entnehmen Sie bitte dem Vorlesungsverzeichnis.

Künstliche Intelligenz (AI) findet in immer mehr Bereichen des Alltags Anwendung. Viele Menschen stehen dem Einsatz von AI-Modellen jedoch zurückhaltend gegenüber und begründen dies häufig mit fehlendem Vertrauen aufgrund der nicht gegebenen Erklärbarkeit der Modelle. Zur Adressierung dieses Problems können Entscheidungen von AI-Modellen mithilfe von Verfahren der erklärbaren künstlichen Intelligenz (Explainable AI) analysiert werden, um die Nachvollziehbarkeit und Interpretierbarkeit der Modellentscheidungen für Nutzer zu verbessern. So kann beispielsweise quantifiziert werden, welche Attribute eines Datensatzes Einfluss auf die Modellprognose hatten (Feature Importance) oder welche (geringfügigen) Veränderungen an einer Dateninstanz zur Änderung der Modellentscheidungen führen würden (Counterfactual Explanations).

Inhaltlich umfasst die Veranstaltung folgende Thematiken:

• Grundlagen von Explainable AI
• Konzepte, Methoden und praktische Umsetzung von Explainable AI für Klassifikations- und Regressionsmodelle (z.B. LIME, PDP, ALE)
• Konzepte, Methoden und praktische Umsetzung von Explainable AI auf Bilddaten (z.B. Pixel Attribution, Learned Features)

Die Konzepte aus der Vorlesung werden in der Übung angewendet und vertieft.