Peakly Glossar

Begriff «Transparenz»

Definition:
Transparenz in der KI bedeutet, dass die Funktionsweise eines Modells und seine Entscheidungsprozesse für Außenstehende nachvollziehbar sind. Transparenz ist wichtig, damit Nutzerinnen und Entwicklerinnen verstehen können, wie ein KI-System zu seinen Ergebnissen kommt. Sie erhöht das Vertrauen in die KI und ermöglicht eine fundierte Bewertung ihrer Genauigkeit und Fairness.

Anwendung

Transparenz ist besonders in sicherheitskritischen und regulierten Bereichen wie dem Finanzwesen, der Medizin und der öffentlichen Verwaltung relevant. Ein transparentes System erlaubt es, die Entscheidungsgrundlage des Modells zu überprüfen und zu verstehen, wodurch eine gezielte Verbesserung oder Anpassung möglich wird.

Praktisches Beispiel

Denk an ein KI-Modell, das Kreditentscheidungen trifft. Transparenz bedeutet hier, dass nachvollziehbar ist, warum ein bestimmter Kredit abgelehnt oder bewilligt wurde. Die Bank und der Kunde können einsehen, welche Faktoren zur Entscheidung beigetragen haben, und sicherstellen, dass diese fair und im Einklang mit den Richtlinien sind.

Peakly AI Glossar