Det kanske mest grundläggande för att något ska fungera bra är att det finns en bred representation bland de som kan tycka till. Olika människor som kan se något från fler infallsvinklar.
Några som inte riktigt lyckats med detta de senaste veckorna är digitaliseringsmyndigheten DIGG med den referensgrupp för AI som annonserades i oktober. Namnkunnigt folk. Men tyvärr var 7 av 8 deltagare vita män. Se listan med referensgruppen på DIGG:s webbplats (www.digg.se/utveckling--innovation/oppna-data-och-datadriven-innovation/regeringsuppdrag-oppna-data-datadriven-innovation-och-ai). Kan en sådan grupp tänka klart kring frågor som när AI riskerar att diskriminera baserat på kön, exempelvis?
Strax sämre än DIGG var Västra Götalandsregionen som har 8 av 9 män i sitt AI-råd som beslutades i september. Detta är bara två exempel från Sverige där obalansen varit anmärkningsvärt stor. Det finns garanterat fler.
Att det är ditt problem att det även internationellt är dålig representation blir det så fort du försöker dra nytta av resultatet av andras arbete. Med dålig representation göms fördomar effektivt i resultatet av både forskning och tillämpningar inom AI.
Rättviseförmedlingen tyvärr stängd
Några som satte fingret på detta var Rättviseförmedlingen som tyvärr la ner under 2019. Dock finns tips på deras webbsida om hur man kan sträva efter mer jämlikhet.
Annars hade en lista med lämpliga kandidater säkert funnit där redan eller inom kort. För de finns, kvinnorna alltså, som kan AI-tekniker. Men det kanske kräver lite mer efterforskning än att välja de största namnen på AI-konferenser. Om man gör det ärver man bara någon annans bias.
Hur många kvinnor behövs?
Studier visar på att grupper behöver mer än en kvinna för att fungera. Beroende på syssla för gruppen kan den prestera bättre rent utav om kvinnor är i majoritet.
“Although generalizations from student‐based studies to the workplace is problematic, the results indicate that groups may be more effective when women outnumber or equal men, especially in complex management activities requiring extensive information management and processing, planning and decision‐making over protracted periods.”
– Effect of Gender Composition on Group Performance - Fenwick - 2001 - Gender, Work & Organization (onlinelibrary.wiley.com/doi/pdf/10.1111/1468-0432.00129) (Wiley Online Library, 2002)
Tokenisering
Har du sett den tecknade serien South Park? De ironiserar med detta fenomen genom sin rollkaraktär som av en händelse heter Token Black, den enda i serien som är mörkhyad.
Tokenism så som det definieras hos Wikipedia:
“Tokenism is the practice of making only a perfunctory or symbolic effort to be inclusive to members of minority groups, especially by recruiting a small number of people from underrepresented groups in order to give the appearance of racial or sexual equality within a workforce.”
– Tokenism (Wikipedia)
Kortfattat att man gör en symbolisk ansträngning för att något inte ska framstå fullt så ensidigt.
Hur svårt är det att finna kvinnor som kan AI?
Tillsammans med Per Axbom togs en lista med 13 kandidater fram. Det tog bara en halvtimme.
Mer om obalansen inom teknologi
- Bok: Technically Wrong av Sara Wachter-Boettcher. Om hur och varför teknikbranschen misslyckas med mångfald.
- Black in AI
- “We’re in a diversity crisis”: cofounder of Black in AI on what’s poisoning algorithms in our lives (www.technologyreview.com/s/610192/were-in-a-diversity-crisis-black-in-ais-founder-on-whats-poisoning-the-algorithms-in-our/) (MIT Technology Review, 2018)
- Per Axbom: Lack of representation in AI puts vulnerable people at risk
Uppdatering i november En lista med kvinnor som kan AI