Sistemas de reconhecimento facial que confundem pessoas negras, entregadores bloqueados depois de mudar o cabelo e ferramentas de inteligência artificial que repetem informações racistas sobre saúde. Esses casos mostram que os avanços tecnológicos também podem reforçar desigualdades que já existem na sociedade.

Esse problema é conhecido como racismo algorítmico. Ele acontece quando sistemas automatizados reproduzem ou aprofundam a discriminação racial por meio de decisões tomadas com base em dados, modelos e critérios que nem sempre são transparentes.

Mas atribuir o problema apenas aos dados usados para treinar uma inteligência artificial pode esconder parte importante da discussão. Afinal, existem escolhas humanas em todas as etapas: desde a coleta das informações até os testes realizados antes de uma ferramenta chegar ao público.

Esse é o tema do novo episódio do Podcast Canaltech. O repórter João Mello conversou com Tarcízio Silva, pesquisador, cofundador da Associação Desvelar e autor do livro “Racismo Algorítmico: Inteligência Artificial e Discriminação nas Redes Digitais”.

Durante a entrevista, Tarcízio explica como o racismo pode aparecer em ferramentas de reconhecimento facial, filtros de imagem e modelos de IA generativa. Ele também alerta para os riscos de sistemas que repetem informações falsas e preconceituosas em áreas sensíveis, como a saúde.

A conversa ainda discute por que ter equipes mais diversas não é suficiente quando essas pessoas não participam das decisões e quais mecanismos podem reduzir os riscos, como a curadoria dos dados, os testes contínuos e os relatórios de impacto algorítmico.

No fim, o pesquisador explica como usuários podem denunciar situações discriminatórias e por que a mobilização coletiva é essencial diante de empresas que concentram tanto poder.



Você também vai conferir: Bill Gates propõe acordo global para evitar o caos com a IA, Apple libera Apple TV e Arcade de graça para assinantes do iCloud+ e Google Tradutor agora traduz conversas por voz mesmo sem internet.

Este podcast foi roteirizado e apresentado por Fernanda Santos e contou com reportagens de Viviane França e Marcelo Fischer. A trilha sonora é de Guilherme Zomer, a edição de Leandro Gomes e a arte da capa é de Erick Teixeira.

Sistemas de reconhecimento facial que confundem pessoas negras, entregadores bloqueados depois de mudar o cabelo e ferramentas de intelig&ecirc;ncia artificial que repetem informa&ccedil;&otilde;es racistas sobre sa&uacute;de. Esses casos mostram que os avan&ccedil;os tecnol&oacute;gicos tamb&eacute;m podem refor&ccedil;ar desigualdades que j&aacute; existem na sociedade.
Esse problema &eacute; conhecido como racismo algor&iacute;tmico. Ele acontece quando sistemas automatizados reproduzem ou aprofundam a discrimina&ccedil;&atilde;o racial por meio de decis&otilde;es tomadas com base em dados, modelos e crit&eacute;rios que nem sempre s&atilde;o transparentes.
Mas atribuir o problema apenas aos dados usados para treinar uma intelig&ecirc;ncia artificial pode esconder parte importante da discuss&atilde;o. Afinal, existem escolhas humanas em todas as etapas: desde a coleta das informa&ccedil;&otilde;es at&eacute; os testes realizados antes de uma ferramenta chegar ao p&uacute;blico.
Esse &eacute; o tema do novo epis&oacute;dio do Podcast Canaltech. O rep&oacute;rter Jo&atilde;o Mello conversou com Tarc&iacute;zio Silva, pesquisador, cofundador da Associa&ccedil;&atilde;o Desvelar e autor do livro &ldquo;Racismo Algor&iacute;tmico: Intelig&ecirc;ncia Artificial e Discrimina&ccedil;&atilde;o nas Redes Digitais&rdquo;.
Durante a entrevista, Tarc&iacute;zio explica como o racismo pode aparecer em ferramentas de reconhecimento facial, filtros de imagem e modelos de IA generativa. Ele tamb&eacute;m alerta para os riscos de sistemas que repetem informa&ccedil;&otilde;es falsas e preconceituosas em &aacute;reas sens&iacute;veis, como a sa&uacute;de.
A conversa ainda discute por que ter equipes mais diversas n&atilde;o &eacute; suficiente quando essas pessoas n&atilde;o participam das decis&otilde;es e quais mecanismos podem reduzir os riscos, como a curadoria dos dados, os testes cont&iacute;nuos e os relat&oacute;rios de impacto algor&iacute;tmico.
No fim, o pesquisador explica como usu&aacute;rios podem denunciar situa&ccedil;&otilde;es discriminat&oacute;rias e por que a mobiliza&ccedil;&atilde;o coletiva &eacute; essencial diante de empresas que concentram tanto poder.

Voc&ecirc; tamb&eacute;m vai conferir: Bill Gates prop&otilde;e acordo global para evitar o caos com a IA, Apple libera Apple TV e Arcade de gra&ccedil;a para assinantes do iCloud+ e Google Tradutor agora traduz conversas por voz mesmo sem internet.
Este podcast foi roteirizado e apresentado por Fernanda Santos e contou com reportagens de Viviane Fran&ccedil;a e Marcelo Fischer. A trilha sonora &eacute; de Guilherme Zomer, a edi&ccedil;&atilde;o de Leandro Gomes e a arte da capa &eacute; de Erick Teixeira.

O Podcast Canaltech é um resumo das notícias de tecnologia, para começar o seu dia. De terça a sábado, a partir das 7h nos seus tocadores de podcasts.

O Podcast Canaltech &eacute; um resumo das not&iacute;cias de tecnologia, para come&ccedil;ar o seu dia. De ter&ccedil;a a s&aacute;bado, a partir das 7h nos seus tocadores de podcasts.

Podcast Canaltech

Bem-vindos ao nosso "jornal" diário com o resumo das principais notícias sobre tecnologia. Com o Canaltech News, em pouco mais de 5 minutos você fica por dentro dos produtos lançados do mercado, da movimentação das principais empresas do segmento, novidades das redes sociais, curiosidades, cultura geek, e muito mais.