Synopsis:
EN:

Fascinating study of how even the seemingly impartial world of technology is subject to embedded racism and privilege.
–Brian Tallerico, Roger Ebert

The real issue set out in Coded Bias is that we are stumbling headlong into a world in which major life-changing decisions for every one of us are taken by impersonal unrelenting computer algorithms. (…) The importance of the data sets used to create your machine learning, is the starting point for Coded Bias. Joy Buolamwini, a black MIT student, set up a vanity app on her mirror and then discovered it didn’t work. Not, that is, unless she put on a white face mask. Why? Because the underlying AI was trained on data sets that are mostly male, mostly white. And as you would expect, they are good at identifying men, less good at identifying women and very bad at identifying black women.
–Jane Fae, Eye for Film

FIN:

Koodin runoilijaksi ja keinoälyn supersankariksi kutsuttu Joy Buolamwini on huippuyliopisto MIT:n Media Labin tutkija – ja 31-vuotias musta nainen. Buolamwinin taistelu tekoälyn syrjiviä rakenteita vastaan alkoi sattumalta. Buolamwini huomasi, että kasvojentunnistusteknologiaa hyödyntävä sovellus ei toiminutkaan hänen omilla kasvoillaan – ei, ennen kuin hän asetti kasvoilleen valkoisen maskin. Kun hän alkoi tutkia tätä koodin katseeksi (coded gaze) nimeämäänsä ilmiötä syvällisemmin, vastaan alkoi tulla teknologiaan sisäänrakennettuja syrjiviä rakenteita: ohjelmat tunnistivat miesten kasvot hyvin, naisten kasvot huonommin ja mustien naisten kasvot erittäin huonosti. Kasvojentunnistusteknologian arkipäiväistyminen herättää hankalia kysymyksiä yksityisyyden suojasta. Teknologian väärinkäyttöä on tutkittu ja ruodittu mediassakin, mutta kasvojentunnistusteknologian hyödyntämien algoritmien puolueellisuudesta ja rasismista on puhuttu vähemmän. Buolamwinin johtama tutkimusryhmä – nimeltään Algorithmic Justice League – korjaa tätä epäkohtaa. Älykäs ja sanavalmis Buolamwini on inspiroiva dokumenttielokuvan päähenkilö. Hänen kaltaisiaan uuden sukupolven supersankareita yhä voimakkaammin teknologian nimiin vannova maailmamme tarvitsee.  
–Saija Holm