Peakly Glossar

Begriff «Erklärbare KI (Explainable AI, XAI)»

Definition:
Erklärbare KI bezeichnet den Bereich der Künstlichen Intelligenz (KI), der darauf abzielt, Entscheidungen und Vorhersagen von KI-Modellen für Menschen verständlicher und nachvollziehbarer zu machen. Erklärbare KI ist wichtig, um sicherzustellen, dass die Nutzer den Prozess und die Basis der Entscheidung eines KI-Systems nachvollziehen können, insbesondere in kritischen Bereichen wie Gesundheitswesen oder Finanzen.

Anwendung

Erklärbare KI wird in Anwendungen eingesetzt, in denen Transparenz und Vertrauen notwendig sind. In der Medizin beispielsweise kann eine erklärbare KI-Analyse den Ärzt*innen helfen, die Entscheidungsgrundlage der KI besser zu verstehen. Auch in der Finanzbranche sind erklärbare KI-Systeme nützlich, um regulatorischen Anforderungen gerecht zu werden.

Praktisches Beispiel

Denk an ein KI-System, das Kreditentscheidungen trifft. Erklärbare KI ermöglicht es, dass die Begründung einer Ablehnung oder Genehmigung eines Kredits für die Kreditnehmer transparent gemacht wird. Der Kreditnehmer könnte zum Beispiel erfahren, dass die Ablehnung darauf basiert, dass er kürzlich einen neuen Kredit aufgenommen hat, was das Risiko aus Sicht der KI erhöht. Dies erhöht das Vertrauen und die Akzeptanz der KI-Entscheidungen.

Peakly AI Glossar