Zeynep Tufekci

Zeynep Tufekci: “We cannot outsource our moral responsibilities to machines”

9 abril, 2021 por Celso Bessa

I really like this quote from Zeynep Tufekci, a researcher on artificial intelligence, machine learning and society. She was feature in the Coded Bias documentary, a great look at some of most pressing problems of our age. If you have the opportunity to watch it, please, do it. Now available on Netflix.

After watching the docmentary, I suggest you should also watch her TED talk: Machine intelligence makes human morals more important.

Prejuicio Cifrado (Coded Bias), un examen de problemas sociales e inteligencia artificial, está disponible en Netflix

9 abril, 2021 por Celso Bessa

Coded Bias (Viés Codificado en traducción libre, Prejuicio Cifrado en Colombia) es un documental de 2020, de la directora, que examina algunos de los problemas más urgentes de nuestra época, el nexo de cuestiones sociales como el racismo, el generoismo, la discriminación por edad y varios prejuicios, el aprendizaje automático y otras formas de inteligencia artificial. Si tienes la oportunidad de verlo, hazlo. Ahora está disponible en Netflix.

Coded Bias trailer

Assista a este vídeo no YouTube

Hace unos días tuve la oportunidad de una transmisión en vivo de la película seguida de una conversación Joy Buolamwini (autora de Gender Shades, una influyente investigación sobre prejuicios raciales y tecnologías de reconocimiento facial y cofundadora de Algorithmic Justice League), Cathy O’neill (autora de Weapons of Math Destruction), Ruha Benjamin (autora de People’s Science y Race After Technology) y Zeynep Tufekci, y otros increíbles investigadores y activistas, en un evento en línea de African American Policy Forum (AAPF).

Here are some bits of the movie and the conversation that I think are interesting or newcomers to this discussion:

La asimetría del poder (“quién posee el maldito código“, Buolamwini) en la creación, recopilación e implementación de la tecnología y la policía de datos.
“los datos incorporan el pasado“
Cómo no hay recurso ni rendición de cuetas en la mayoría de los sistemas y servicios de inteligencia artificial y biometría implementados
Cuán poderoso es Facebook (y otras plataformas para el caso). Podrían decir a los reguladores o candidatos políticos: “Si les doy X votantes, ustedes no me regulan” (una paráfrasis de lo que realmente dijo Zeynep Tufekci).
Joy preguntando “quiénes son los guardianes de los puestos de trabajo” de la llamada cuarta revolución industrial
Joy diciendo: “la gente asume que si la máquina dice, es correcto“.
Kimberly Crenshaw destacando cómo la ley protege los intereses económicos y el mercado por defecto.
Los algoritmos no objetan ni denuncian cuando una empresa, el gobierno u otra institución hace algo mal [Por cierto: los algoritmos, modelos, sistemas automatizados y robots no discuten y no pueden organizarse para exigir mejores condiciones laborales y salarios]
Ruha Benjamin y Joy discuten cómo hay un gran poder en el control del etiquetado y las decisiones de usar IA y cómo necesitamos crear / cambiar el lenguaje para resaltar y replantear los problemas sociales y el uso relacionado de la tecnología. [Lo que recuerda cómo algunos activistas y sectores académicos subestiman el poder de la sátira y la parodia para el cambio positivo de la sociedad]
Crenshaw llamando la atención sobre la importancia de luchar por la alfabetización tecnológica y la rendición de cuentas real

Como se mencionó, si tiene la oportunidad de verlo, hágalo. Ahora está disponible en Netflix. Y si está interesado en organizar una sessión para asistir y discutir la película, hágamelo saber.

un sitio web que muestra una cara blanca digital con algunas formas geométricas encima — Una página del sitio web del documental

Coded Bias, um exame de questões sociais e inteligência artificial, está disponível no Netflix

9 abril, 2021 por Celso Bessa

Coded Bias (Viés Codificado, em tradução livre) é um documentário de 2020 dirigido por Shalini Kantayya, que examina alguns dos problemas mais urgentes de nossa época, o nexo de questões sociais como racismo, gênero, preconceito de idade e vários preconceitos e aprendizado de máquina e outras formas de inteligência artificial. Se você tiver a oportunidade de assistir, por favor, assista. Está disponível no Netflix.

Trailer de Coded Bias

Assista a este vídeo no YouTube

Há poucos dias tive a oportunidade de uma transmissão ao vivo do filme seguida de uma conversa Joy Buolamwini (autora de Gender Shades, uma influente pesquisa sobre preconceito racial e tecnologias de reconhecimento facial e cofundadora da Algorithmic Justice League), Cathy O’neill (autor de Weapons of Math Destruction), Ruha Benjamin (autor de People’s Science and Race After Technology) e Zeynep Tufekci, além de outros pesquisadores e ativistas incríveis, em um evento online promovido por African American Policy Forum (AAPF).

Aqui estão alguns trechos do filme e da conversa que considero interessantes ou iniciantes nesta discussão:

A assimetria do poder (“quem é dono da porra do código“, Buolamwini) na elaboração, coleta e implementação de políticas de tecnologia e dados
A frase “os dados incorporam o passado“
Como não há recurso ou responsabilização na implementação da maioria dos sistemas e serviços de inteligência artificial e biometria implantados
O quão poderoso é o Facebook (e outras plataformas). Eles poderiam dizer aos reguladores ou candidatos políticos: “Se eu transferir X eleitores para você, você não me regulamenta” (uma paráfrase do que realmente foi dito por Zeynep Tufekci).
Joy perguntando “quem são os guardiões dos empregos?” da chamada 4ª revolução industrial
Joy dizendo: “as pessoas presumem que se a máquina diz, está correto.“
Kimberly Crenshaw destacando como a lei protege os interesses econômicos e o mercado por padrão.
Algoritmos não fazem objeções ou denunciam quando uma empresa, governo ou outra instituição faz algo errado [A propósito: algoritmos, modelos, sistemas automatizados e robôs não discutem e não podem se organizar para exigir melhores condições de trabalho e salários]
Ruha Benjamin e Joy discutindo como há grande poder em controlar as etiquetas e as decisões de uso de IA e como precisamos criar / alterar a linguagem para destacar e reposicionar questões sociais e o uso relacionado de tecnologia. [O que me lembra como o poder da sátira e da paródia para a mudança positiva da sociedade é subestimado por alguns ativistas e partes da academia]
Crenshaw chamando a atenção para a importância de lutar pela alfabetização em tecnologia e responsabilização real

Como dito acima, se você tiver a oportunidade de assistir, por favor, assista. Está disponível no Netflix. E se você estiver interessado em marcar uma sessão para assistir e discutir o filme, me avise.

um site exibindo um rosto digital branco com algumas formas geométricas sobre ele — Watch Party pages at the Coded Bias movie website

Coded Bias, an examination of societal issues and artificial intelligence, is available on Netflix

8 abril, 2021 por Celso Bessa

Coded Bias (Shalini Kantayya, 2020) is a documentary examining at some of most pressing problems of our age, the nexus of societal issues like racism, genderism, ageism and several biases and machine learning and other forms of artificial intelligence. If you have the opportunity to watch it, please, do it. It is now available on Netflix.

Coded Bias trailer

Assista a este vídeo no YouTube

A few days ago had the opportunity of a live streaming of the movie followed by a conversation Joy Buolamwini (author of Gender Shades, an influential research on racial bias and facial recognition technologies and co-founder of Algorithmic Justice League), Cathy O’neill (author of Weapons of Math Destruction), Ruha Benjamin (author of People’s Science and Race After Technology) and Zeynep Tufekci, and other incredible researchers and activists, in an online event promoted by the African American Policy Forum (AAPF).

Here are some bits of the movie and the conversation that I think are interesting or newcomers to this discussion:

The assimetry of the power (“who owns the fucking code”, Buolamwini) in the tech and data police making, gathering and implementation
The soundbite “data embbeds the past“
How there is no recourse or accountability most of deployed artificial intelligence and biometrics systems and services
How powerful Facebook (and other platforms for that matter) are. They could say to regulators or political candidates: “If i churn X voters to you, you don’t regulate me” (A paraphrase of what is actually said by Zeynep Tufekci.
Joy asking “who are the gatekeepers of the jobs” of the so-called 4th industrial revolution
Joy saying: “people assume if the machine says, it is correct.”
Kimberly Crenshaw highlighting how the law protect economic interests and the market by default.
Algorithms don’t object or whistleblow when a company,the government or other institution does something wrong [By the way: algorithms, models, automated systems and robots don’t discuss and can’t organize themselves to demand better working conditions and wages]
Ruha Benjamin and Joy discussing how there is great power in controlling the labelling and the decisions of using AI and how we need to create/change the language to highlight and reframe societal issues and related use of tech. [Which reminds of how the power of satire and parody for positive society change is understimated by some activists and parts of the academia]
Crenshaw drawing the attention to the importance of fighting for tech literacy and real accountability

As mentioned, If you have the opportunity to watch it, please, do it. It is now available on Netflix. And if you are interested in setting up a watch party and discuss the movie, let me know.