*Paulo Rogério Nunes é publicitário, consultor em diversidade na Casé Fala e afiliado ao Berkman Klein Center da Universidade Harvard
Casos recentes de discriminação racial a pessoas conhecidas do público como as atrizes Taís Araújo e Cris Vianna, a jornalista Maria Júlia Coutinho e a miss Brasil 2017, Monalysa Alcântara, escancararam junto à sociedade brasileira um mal crescente nos dias atuais: o discurso de ódio na internet. Os insultos racistas a que todas foram submetidas e as manifestações covardes de agressores, no entanto, não caracterizam um problema exclusivamente nacional. O tema é algo tão alarmante e abrangente que, no mês de junho deste ano, a Universidade Harvard, nos Estados Unidos, por meio do Berkman Klein Center, promoveu um encontro internacional para debater os diversos aspectos envolvidos na manifestação do racismo digital.
Pesquisadores de várias partes do mundo e representantes das empresas do Vale do Silício discutiram sobre caminhos para coibir o avanço de discursos que fomentam o racismo, a xenofobia, o machismo e outras formas de preconceito. Cada país tem a sua legislação própria, mas o sentimento comum aos participantes no evento foio de que é preciso agir em duas frentes de urgência. Primeiro, cobrar de empresas de tecnologia uma postura mais proativa e, segundo, sensibilizar sistemas judiciários para que sejam rápidos em suas punições, quando essas violações forem comprovadas.
O que acontece atualmente é que, em meio a perfis falsos, comentários raivosos e hashtags discriminatórias, há grupos organizados que se aproveitam do anonimato para incitar atos de violência. O discurso é o primeiro passo para ações mais radicais. No livro Cyber Racism: White Supremacy Online and the New Attack on Civil Rights, ainda sem tradução no Brasil, a pesquisadora Jessie Daniels argumenta que o racismo digital é a porta de entrada para um universo de outros crimes que podem levar a ações de violência física, como vimos recentemente em Charlottesville, nos Estados Unidos.
Nesse sentido, costumo propor uma reflexão simples: você já parou para pensar que a pessoa escondida atrás do computador para escrever comentários racistas pode ser a responsável pelo setor de recursos humanos de uma empresa que, “coincidentemente”, não contrata negros? Não é por acaso que, segundo o Instituto Ethos, mulheres negras ocupam menos de 1% dos cargos executivos nas 500 maiores empresas do Brasil.
O discurso racista nas redes sociais legitima a discriminação no cotidiano da vida real. Resolver o problema do racismo “on-line” passa também por atacar a sua versão “off-line”. As duas dimensões estão conectadas e a tendência é que a fronteira entre elas seja cada vez menor.
Centros de pesquisas de universidades americanas como MIT, Stanford e Harvard estão começando a discutir como a falta de diversidade na tecnologia pode influenciar uma escalada ainda maior do racismo. A imensa base de dados com discursos de ódio que estamos produzindo diariamente já está sendo utilizada por algoritmos de inteligência artificial/machine learning.
"Você já parou para pensar que a pessoa escondida atrás do computador para escrever comentários racistas pode ser a responsável pelo setor de recursos humanos de uma empresa que, ‘coincidentemente’, não contrata negros?"
Recentemente, a ONG Desabafo Social lançou uma campanha intitulada “Busca pela Igualdade” e mostrou que já existem sistemas de busca de imagem que não mostram pessoas negras em algumas categorias como "família" e "bebê". Há também dispositivos com sensores que não funcionam em pele negra e o risco de que os sistemas de big data (grande conjunto de dados) influenciem decisões com base em concepções racistas. E existe ainda o caso de um ”robô virtual” que interagia em uma rede social fazendo apologia do nazismo.
Vale lembrar reportagem de 2016 do jornal The Guardian, que cita o primeiro concurso de beleza internacional a utilizar inteligência artificial como júri. O que era para ser absolutamente imparcial acabou quase que excluindo pessoas de pele escura. Isso ocorreu porque o software Beauty.AI, usado na seleção, estabeleceu padrões de beleza a partir de bancos de dados com pouca diversidade étnica. Outro exemplo é o aplicativo FaceApp, que tinha um filtro para “deixar as pessoas atraentes”, mas que, na prática, foi acusado de clarear a cor da pele e ajustar fotos ao padrão fenotípico europeu.
Os exemplos são tantos que a preocupação com a falta de diversidade na tecnologia levou a estudante do MIT Joy Buolamwini a criar uma organização para alertar a sociedade sobre o tema. Em sua famosa palestra na plataforma TED, ela faz a denúncia de que um algoritmo de reconhecimento facial não identifica seu tom de pele. No vídeo, Joy, que é negra, mostra que só consegue ser reconhecida pela câmera do computador quando, literalmente, usa uma máscara branca.
Seja no sistema bancário, saúde ou na segurança pública, essas tecnologias estarão ainda mais presentes em nosso dia a dia. Um relatório do Citibank, em parceria com a Universidade de Oxford, revela que 47% dos empregos nos EUA já estão correndo risco de ser substituídos por inteligência artificial. Os números são ainda maiores em países em desenvolvimento. Como então evitar que as máquinas “aprendam” a reproduzir o racismo do nosso cotidiano?
No ano passado, o YouTube lançou uma série de ações para promover a diversidade de narrativas em sua plataforma, reunindo jovens negras com celebridades para impulsionar seus canais. Nos EUA, programas como Black Girls Code tentamcriar uma geração de profissionais para um Vale do Silício que tem menos de 5% de pessoas negras. No Brasil, sites como o Correio Nagô ajudam a ampliar vozes sub-representadas por meio do jornalismo digital. E em Salvador, estamos criando o Vale do Dendê um ecossistema com empreendedores de economia criativa e digital com mais diversidade.
Os casos de racismo digital não são isolados. Eles fazem parte de um problema sistêmico, com consequências graves. Precisamos, independentemente da cor da pele, incentivar mais diversidade de vozes no mundo digital e denunciar o racismo institucional que impede a melhoria da vida de milhões de pessoas, quando não as ceifa violentamente. É necessário, portanto, agirmos rápido contra o discurso de ódio, enquanto há tempo.