6. Princip

Princippet om Profilering

Undgå Unfair Brug af Profilering

Mange virksomheder, stater og kommuner skaber meget detaljerede og præcise profiler af dig, for mange forskellige formål. Nogle typer af profilering er helt uproblematiske, mens andre er meget unfair. Princippet om profilering er simpelt: Undgå unfair brug af profilering.

Dataetik-Principper

Så hvordan arbejder Seluxit med dataetik? Seluxit har taget initiativ til at ansætte en ph.d-studerende inden for anvendt filosofi, med specialisering i etik, til at udarbejde en række dataetik-principper.

Disse principper er generelle, men udspringer fra spørgsmål, som vi støder på i vores daglige arbejde i virksomheden. Principperne skal guide de beslutninger, vi træffer på daglig basis. Principperne, som man kan finde her på siden, vil blive publiceret i en serie.

Hvad er profilering?

Profilering refererer ofte til en automatisk processering af data om en person, ofte med intentionen om at lave statistiske forudsigelser om personen. For at kunne lave præcise profiler indsamler virksomheder og stater enorme mængder data. Statistiske algoritmer (data analytics) bliver dernæst brugt til at finde mønstre i disse data.

Disse mønstre kan bruges til at forudse, hvorvidt folk er tilbøjelige til at købe et bestemt produkt, stemme på et bestemt parti, begå en forbrydelse osv. Kort sagt, profilering kan bruges til at lave alverdens forudsigelser, som kan have meget stor indflydelse på menneskers liv.

principle 6

Hvornår er profilering problematisk?

Profilering er ikke problematisk i sig selv. Vi mennesker laver trods alt profiler af hinanden i vores hoveder hele tiden. Vi får informationer om hinanden, vi danner meninger om hinanden, og vi forsøge at forudse hinandens adfærd hele tiden. Så hvornår er profilering problematisk? Simpelt sagt er profilering problematisk, når det bliver brugt på en skadelig eller unfair måde. Lad os se på et eksempel.

principle 5 example 6.2

Et Eksempel

Forestil dig at både Smith og Peter ansøger banken om et lån til deres hus. Smith og Peter har samme alder, samme indkomst osv. Banken profilerer Smith og Peter for bedre at kunne beslutte, om de er kvalificerede til at få lånet. Algoritmen siger, at Smith ikke er kvalificeret, mens Peter er.

Smith klager til sin bankrådgiver Jones, og forklarer at både ham og Peter har samme alder, indkomst osv, så han forstår ikke, hvorfor han ikke er kvalificeret, når Peter er. Jones forklarer at historisk set, har folk der bor i Smith’s nabolag været dårlige til at tilbagebetale langsigtede lån. Denne grund, og kun denne grund, forklarer hvorfor Smith algoritmen har anbefalet at afvise Smith’s ansøgning.

principle 5 example 5.2

Retfærdighed

De fleste vil nok være enige i, at den måde profilering blev brugt i eksemplet ovenfor, er unfair. Profileringen af Smith og Peter er ikke problematisk i sig selv, men den blev brugt på en diskriminerende og unfair måde ved at behandle dem forskelligt, på baggrund af hvordan folk i Smith’s nabolag har opført sig i fortiden.

Alt andet lige bør profilering bruges på en måde, der behandler lige sager ens. Hvis profilering bliver brugt til at beslutte om folk er kvalificerede til et lån, bør den behandle folk med lignende alder og økonomi ens. Ligeledes, hvis profilering bruges til at beslutte om nogen er kvalificeret til at modtage en livsvigtig operation, bør algoritmen behandler folk med lignende symptomer og helbredstilstand ens, og så videre.

Når mennesker træffer beslutninger, behandler de ikke altid lige sager ens. Mennesker kan være forudindtagede på alverdens måder. Profilering kan bruges til at mindske forudindtagelser, men profilering kan også bruges til bekræfte eller forstærke menneskelige forudindtagelser.

Forudindtagede Algoritmer

Ud over at behandle ens sager ens, bør algoritmerne ikke bekræfte eller forstærke menneskelige forudindtagelser. I eksemplet ovenfor er det muligvis sandt at folk i Smith’s nabolag historisk set har været dårlige til at tilbagebetale langsigtede lån. Men det skyldes sandsynligvis ikke dét at de bor i netop dette nabolag. Det er mere sandsynligt, at folk der er dårlige til at afbetale lånene ofte flytter til det nabolag af andre grunde, for eksempel af den simple grund, at det er billigt.

Når algoritmen afviser Smith’s ansøgning bekræfter algoritmen, at ansøgninger fra folk i det nabolag skal afvises.

Så vidt muligt bør profilering være baseret på reelle årsager, snarere end sammenhænge med ting som lokation, race, etnicitet, fysisk udseende osv. Generelt gælder princippet at vi bør undgå unfair brug af profilering.

Undgå unfair brug af profilering.

Dataetik-Principper

Så hvordan arbejder Seluxit med dataetik? Seluxit har taget initiativ til at ansætte en ph.d-studerende inden for anvendt filosofi, med specialisering i etik, til at udarbejde en række dataetik-principper.

Disse principper er generelle, men udspringer fra spørgsmål, som vi støder på i vores daglige arbejde i virksomheden. Principperne skal guide de beslutninger, vi træffer på daglig basis. Principperne, som man kan finde her på siden, vil blive publiceret i en serie.