Peakly Glossar

Begriff «Trolley-Problem»

Definition:
Das Trolley-Problem ist ein klassisches ethisches Gedankenexperiment, das oft in der Diskussion um autonome Systeme, insbesondere im Bereich des autonomen Fahrens, verwendet wird. Es stellt eine Dilemmasituation dar, in der man eine Entscheidung treffen muss, die in jedem Fall negative Konsequenzen hat. In der traditionellen Form rast eine führerlose Straßenbahn auf eine Gruppe von fünf Personen zu. Man könnte die Weiche umstellen und die Bahn auf ein anderes Gleis leiten, wo jedoch eine andere Person angekettet ist.

Anwendung

Das Trolley-Problem wird als Metapher verwendet, um die ethischen Herausforderungen aufzuzeigen, die in KI-Systemen auftreten, die autonome Entscheidungen treffen müssen. Entwickler*innen von autonomen Fahrzeugen müssen beispielsweise Algorithmen entwerfen, die in gefährlichen Situationen Entscheidungen treffen können, ohne dabei gegen ethische Grundsätze zu verstoßen.

Praktisches Beispiel

Stell dir ein autonomes Auto vor, das eine Bremsstörung hat und auf eine Gruppe von Fußgängern zurast. Das System könnte so programmiert sein, dass es, wenn möglich, ausweicht – auch wenn dabei ein Risiko für andere Verkehrsteilnehmer besteht. Das Trolley-Problem zeigt, wie schwer es ist, solche Entscheidungen zu programmieren und die ethischen Implikationen zu berücksichtigen.

Peakly AI Glossar