Coded Bias (Viés Codificado en traducción libre, Prejuicio Cifrado en Colombia) es un documental de 2020, de la directora, que examina algunos de los problemas más urgentes de nuestra época, el nexo de cuestiones sociales como el racismo, el generoismo, la discriminación por edad y varios prejuicios, el aprendizaje automático y otras formas de inteligencia artificial. Si tienes la oportunidad de verlo, hazlo. Ahora está disponible en Netflix.
Coded Bias trailer
Hace unos días tuve la oportunidad de una transmisión en vivo de la película seguida de una conversación Joy Buolamwini (autora de Gender Shades, una influyente investigación sobre prejuicios raciales y tecnologías de reconocimiento facial y cofundadora de Algorithmic Justice League), Cathy O’neill (autora de Weapons of Math Destruction), Ruha Benjamin (autora de People’s Science y Race After Technology) y Zeynep Tufekci, y otros increíbles investigadores y activistas, en un evento en línea de African American Policy Forum (AAPF).
Here are some bits of the movie and the conversation that I think are interesting or newcomers to this discussion:
- La asimetría del poder (“quién posee el maldito código“, Buolamwini) en la creación, recopilación e implementación de la tecnología y la policía de datos.
- “los datos incorporan el pasado“
- Cómo no hay recurso ni rendición de cuetas en la mayoría de los sistemas y servicios de inteligencia artificial y biometría implementados
- Cuán poderoso es Facebook (y otras plataformas para el caso). Podrían decir a los reguladores o candidatos políticos: “Si les doy X votantes, ustedes no me regulan” (una paráfrasis de lo que realmente dijo Zeynep Tufekci).
- Joy preguntando “quiénes son los guardianes de los puestos de trabajo” de la llamada cuarta revolución industrial
- Joy diciendo: “la gente asume que si la máquina dice, es correcto“.
- Kimberly Crenshaw destacando cómo la ley protege los intereses económicos y el mercado por defecto.
- Los algoritmos no objetan ni denuncian cuando una empresa, el gobierno u otra institución hace algo mal [Por cierto: los algoritmos, modelos, sistemas automatizados y robots no discuten y no pueden organizarse para exigir mejores condiciones laborales y salarios]
- Ruha Benjamin y Joy discuten cómo hay un gran poder en el control del etiquetado y las decisiones de usar IA y cómo necesitamos crear / cambiar el lenguaje para resaltar y replantear los problemas sociales y el uso relacionado de la tecnología. [Lo que recuerda cómo algunos activistas y sectores académicos subestiman el poder de la sátira y la parodia para el cambio positivo de la sociedad]
- Crenshaw llamando la atención sobre la importancia de luchar por la alfabetización tecnológica y la rendición de cuentas real
Como se mencionó, si tiene la oportunidad de verlo, hágalo. Ahora está disponible en Netflix. Y si está interesado en organizar una sessión para asistir y discutir la película, hágamelo saber.
