Coded Bias (Viés Codificado, em tradução livre) é um documentário de 2020 dirigido por Shalini Kantayya, que examina alguns dos problemas mais urgentes de nossa época, o nexo de questões sociais como racismo, gênero, preconceito de idade e vários preconceitos e aprendizado de máquina e outras formas de inteligência artificial. Se você tiver a oportunidade de assistir, por favor, assista. Está disponível no Netflix.
Trailer de Coded Bias
Há poucos dias tive a oportunidade de uma transmissão ao vivo do filme seguida de uma conversa Joy Buolamwini (autora de Gender Shades, uma influente pesquisa sobre preconceito racial e tecnologias de reconhecimento facial e cofundadora da Algorithmic Justice League), Cathy O’neill (autor de Weapons of Math Destruction), Ruha Benjamin (autor de People’s Science and Race After Technology) e Zeynep Tufekci, além de outros pesquisadores e ativistas incríveis, em um evento online promovido por African American Policy Forum (AAPF).
Aqui estão alguns trechos do filme e da conversa que considero interessantes ou iniciantes nesta discussão:
- A assimetria do poder (“quem é dono da porra do código“, Buolamwini) na elaboração, coleta e implementação de políticas de tecnologia e dados
- A frase “os dados incorporam o passado“
- Como não há recurso ou responsabilização na implementação da maioria dos sistemas e serviços de inteligência artificial e biometria implantados
- O quão poderoso é o Facebook (e outras plataformas). Eles poderiam dizer aos reguladores ou candidatos políticos: “Se eu transferir X eleitores para você, você não me regulamenta” (uma paráfrase do que realmente foi dito por Zeynep Tufekci).
- Joy perguntando “quem são os guardiões dos empregos?” da chamada 4ª revolução industrial
- Joy dizendo: “as pessoas presumem que se a máquina diz, está correto.“
- Kimberly Crenshaw destacando como a lei protege os interesses econômicos e o mercado por padrão.
- Algoritmos não fazem objeções ou denunciam quando uma empresa, governo ou outra instituição faz algo errado [A propósito: algoritmos, modelos, sistemas automatizados e robôs não discutem e não podem se organizar para exigir melhores condições de trabalho e salários]
- Ruha Benjamin e Joy discutindo como há grande poder em controlar as etiquetas e as decisões de uso de IA e como precisamos criar / alterar a linguagem para destacar e reposicionar questões sociais e o uso relacionado de tecnologia. [O que me lembra como o poder da sátira e da paródia para a mudança positiva da sociedade é subestimado por alguns ativistas e partes da academia]
- Crenshaw chamando a atenção para a importância de lutar pela alfabetização em tecnologia e responsabilização real
Como dito acima, se você tiver a oportunidade de assistir, por favor, assista. Está disponível no Netflix. E se você estiver interessado em marcar uma sessão para assistir e discutir o filme, me avise.
