Rassistlikud robotid rõhuvad vähemusi

Dokumentaalfilm «Coded Bias». Siin pildil on Joy Buolamwini maski taga, sest tema enda nägu tuvastusprogramm ei tunnista. Foto: Filmikaader

Algoritmid on oma loojate nägu, aga loojad on enamasti valged mehed. Nii peegelduvad nende eelarvamused algoritmide tegevuses, mis aga tänapäeval võtavad vastu meie elu mõjutavad otsuseid.

Tuntud on lugu Microsofti programmist Tay, mis lasti 2016. aastal lahti Twitterisse, et see inimestega suheldes õpiks. 16 tundi hiljem oli Microsoft sunnitud Tay kinni keerama, sest sellest oli saanud rassistlikke ja misogüünseid jälkusi pritsiv internetitroll. Algoritmid on tänu andetöötlusvõimele fantastiliselt kiired õppijad, aga me ei tea tegelikult, kuidas masinõpe toimub. Tulemus, nagu filmist näha, võib mõjutada inimsaatusi.