Rapporten Discriminating Systems, som publicerades av forskare från AI Now Institute vid New York University, lyfter problemen med partiska algoritmer. Hur artificiell intelligens lär sig att identifiera och kategorisera människor kommer att påverka samhällets framtid. Dessa algoritmer kan användas för att avgöra vem som får ett lån, vem som blir kallad till en jobbintervju eller vem polisen väljer att hålla extra koll på. Om AI utformas för att återspegla föråldrade fördomar kommer dessa fördomar fortsätta forma samhället.

Rapporten analyserar mer än 150 tidigare studier, och citerar bland annat fall där AI-algoritmer felkategoriserade svarta och där Ubers säkerhetsfunktion misslyckades identifiera transpersoner. Forskningen fann i slutändan att partiska algoritmer återspeglar historiska mönster av diskriminering och drabbar framförallt kvinnor, rasifierade och hbtqi-personer.

I slutändan är AI en formbar teknik och mångfalden bland personer som arbetar med AI borde återspegla mångfalden bland människor som algoritmerna påverkar. Rapporten avslöjar att i dagsläget utgör kvinnor bara 15% av AI-anställda på Facebook, och endast 10% på Google. Ännu mer underrepresenterade är svarta som utgör mellan 2,5% och 4% av anställda på Google, Facebook och Microsoft.

Läs även vår artikel från juni om hur Microsofts AI blev ett exempel på partisk algoritm.