Prinzip 6

Das Prinzip des Profiling

Unfaire Nutzung des Profiling vermeiden

Viele Unternehmen und Staaten erstellen sehr detaillierte und präzise Profile von Ihnen, aus vielen verschiedenen Gründen. Einige Anwendungen des Profiling sind völlig unproblematisch, während andere sehr unfair sind. Das Prinzip des Profiling ist einfach: Vermeiden Sie die unfaire Verwendung von Profilen.

Die Prinzipien der Datenethik

Was genau unternimmt Seluxit in Sachen Datenethik? Seluxit hat die Initiative ergriffen, einen Doktoranden auf dem Gebiet der Philosophie mit einer Spezialisierung in Ethik einzustellen, und schreibt eine Sammlung von Prinzipien der Datenethik.

Diese Prinzipien haben allgemeine Gültigkeit, ergeben sich aber aus Fragen, die sich in unserer täglichen Arbeit stellen. Die Prinzipien dienen als Richtschnur für die Entscheidungen, die wir in unserer Arbeit treffen. Die Prinzipien, die hier auf unserer Website eingesehen werden können, werden in einer Reihe veröffentlicht.

Was ist Profiling?

Profiling bezieht sich oft auf die automatische Verarbeitung von Daten über eine Person, oft mit der Absicht, statistische Vorhersagen über die Person zu treffen. Um präzise Profile zu erstellen, sammeln Unternehmen und Staaten riesige Datenmengen. Auf die Daten werden statistische Algorithmen (Datenanalyse) angewendet, um Muster zu finden.

Diese Muster können verwendet werden, um vorherzusagen, ob Menschen wahrscheinlich ein bestimmtes Produkt kaufen, für eine bestimmte politische Partei stimmen, ein Verbrechen begehen und so weiter. Kurz gesagt, das Profiling wird verwendet, um alle möglichen wichtigen Entscheidungen zu treffen, die einen sehr bedeutenden Einfluss auf das Leben der Menschen haben können.

principle 6

Wann ist das Profiling problematisch?

Das Profiling an sich ist nicht problematisch. Wir alle erstellen in unseren Köpfen ständig Profile voneinander. Wir informieren uns gegenseitig über einander, und wir bilden uns automatisch Meinungen und machen ständig Vorhersagen über den anderen. Wann ist das Profiling also problematisch? Einfach ausgedrückt ist die Erstellung von Profilen problematisch, wenn sie auf schädliche oder unfaire Weise verwendet wird. Sehen wir uns ein Beispiel an.

principle 5 example 6.2

Ein Beispiel

Stellen Sie sich vor, Smith und Peter beantragen beide langfristige Kredite bei derselben Bank, um neue Häuser für ihre jeweiligen Familien zu kaufen. Beide haben das gleiche Alter, das gleiche Einkommen und so weiter. Um zu entscheiden, ob sie für den Kredit in Frage kommen, erstellt die Bank Profile von Smith und Peter. Der Algorithmus empfiehlt, dass Smith nicht für das Darlehen in Frage kommt, Peter hingegen schon.

Smith beschwert sich beim Bankberater Jones und erklärt, dass er und Peter das gleiche Alter, das gleiche Einkommen usw. haben, so dass er nicht versteht, warum er nicht berechtigt ist, warum Peter berechtigt ist. Jones erklärt, dass Menschen, die in Smiths Nachbarschaft leben, historisch gesehen dazu neigen, eine schlechte Erfolgsbilanz zu haben, wenn es um die Rückzahlung langfristiger Kredite geht. Dies, und nur dies, ist der Grund, warum der Algorithmus Smiths Antrag ablehnt und Peters Antrag bewilligt hat.

principle 5 example 5.2

Fairness

Die meisten Menschen werden wahrscheinlich zustimmen, dass die Art und Weise, wie das Profiling im obigen Beispiel verwendet wird, unfair ist. Das Profiling von Smith und Peter ist an sich nicht problematisch, aber es wird in diskriminierender und unfairer Weise angewendet, indem man sie aufgrund der Art und Weise, wie sich die Menschen in Smiths Nachbarschaft in der Vergangenheit verhalten haben, unterschiedlich behandelt.

Da alle Dinge gleich sind, sollte das Profiling auf faire Weise so eingesetzt werden, dass gleiche Fälle gleich behandelt werden. Wenn das Profiling verwendet wird, um festzustellen, ob jemand für ein Darlehen in Frage kommt, sollte es Menschen mit ähnlichem Alter und ähnlichen finanziellen Verhältnissen gleich behandeln. Wenn ein Profil erstellt wird, um festzustellen, ob jemand für ein lebensrettendes medizinisches Verfahren in Frage kommt, sollte es Menschen mit ähnlichen Symptomen und Gesundheitszuständen gleich behandeln und so weiter.

Wenn Menschen Entscheidungen treffen, behandeln sie auch nicht immer gleichartige Fälle gleich. Menschen sind auf alle möglichen Arten voreingenommen. Die Erstellung von Profilen kann helfen, Verzerrungen zu verringern, aber die Erstellung von Profilen kann auch Verzerrungen bestätigen oder verstärken.

Verzerrte Algorithmen

Die Algorithmen, die für das Profiling verwendet werden, sollten nicht nur gleichartige Fälle behandeln, sondern auch keine Verzerrungen bestätigen oder verstärken. Im obigen Beispiel könnte es zutreffen, dass Menschen in der Nachbarschaft von Smith dazu neigen, eine schlechte Erfolgsbilanz zu haben, wenn es um die Rückzahlung langfristiger Kredite geht. Aber die Nachbarschaft selbst ist wahrscheinlich nicht die eigentliche Ursache dafür. Es ist wahrscheinlicher, dass einige Menschen mit einer schlechten Erfolgsbilanz dazu neigen, aus einem anderen Grund in diese Nachbarschaft zu ziehen, zum Beispiel weil sie billig ist. Wenn Smiths Antrag abgelehnt wird, bestätigt der Algorithmus, dass Menschen aus dieser Nachbarschaft keine Kredite gewährt werden sollten.

So weit wie möglich sollten die Profiling-Algorithmen auf echten Ursachen basieren und nicht auf falschen Korrelationen mit Faktoren wie Standort, Rasse, ethnische Zugehörigkeit, physische Erscheinung usw. Generell müssen wir den unfairen Einsatz von Profiling vermeiden.

Vermeiden Sie die unfaire Verwendung von Profiling.

Die Prinzipien der Datenethik

Was genau unternimmt Seluxit in Sachen Datenethik? Seluxit hat die Initiative ergriffen, einen Doktoranden auf dem Gebiet der Philosophie mit einer Spezialisierung in Ethik einzustellen, und schreibt eine Sammlung von Prinzipien der Datenethik.

Diese Prinzipien haben allgemeine Gültigkeit, ergeben sich aber aus Fragen, die sich in unserer täglichen Arbeit stellen. Die Prinzipien dienen als Richtschnur für die Entscheidungen, die wir in unserer Arbeit treffen. Die Prinzipien, die hier auf unserer Website eingesehen werden können, werden in einer Reihe veröffentlicht.