LinkedIn sugere vagas de auxiliar para nutricionista: 'Algoritmo racista'
Bruna de Oliveira é nutricionista e mestre em ciências sociais. Mesmo assim, ela, que é negra, recebe recomendações de vagas de auxiliar de serviços gerais no LinkedIn. Ela acusa a rede social de "racismo algorítmico". A empresa, por sua vez, ite o "erro" nas recomendações, mas nega que a causa seja qualquer tipo de discriminação.
O que aconteceu
Bruna, de 34 anos, é fundadora da Crioula, uma empresa de curadoria alimentar. Ela também trabalha numa ONG internacional de preservação do meio ambiente, é graduada em nutrição e mestre em ciências sociais pela Unisinos (Universidade do Vale do Rio dos Sinos).
A nutricionista afirma que foi vítima de racismo algorítmico. Nos prints publicados por ela, é possível ver que as quatro primeiras recomendações do campo "vagas que mais combinam com seu perfil" são para auxiliar de serviços gerais.
Ao UOL, Bruna contou que viu as recomendações na noite de segunda-feira (26). Ela se preparava para uma conferência sobre sistemas alimentares e sustentabilidade, quando foi surpreendida pela rede social.
Um dia antes desse dia que há 10 anos atrás eu vislumbrava, o LinkedIn quer me colocar dentro do 'quartinho da empregada' que a minha mãe já ocupou, que a minha avó e as minhas tias já ocuparam... As mulheres da minha família disseram: 'vocês vão estudar porque vocês não vão lavar as privadas que a gente lava' Bruna de Oliveira
"De onde ele [LinkedIn] tirou isso?", questiona a nutricionista. "Estou prestes a ar por uma seleção para um doutorado. A minha especialização está muito bem definida no meu perfil. Não há nada que justifique eu receber essas sugestões", reclama.
Bruna afirmou que vai acionar a Justiça contra o LinkedIn e registrar um boletim de ocorrência.
O que é racismo algorítmico?
Algoritmos são instruções dadas aos sistemas de computadores para orientar o uso das plataformas. Eles se baseiam em métricas que estão de acordo com os objetivos de negócios das redes sociais.
Racismo estrutural se reflete nos algoritmos. Levantamento do coletivo Pretalab com a consultoria ThoughtWorks aponta falta de diversidade como um dos motivos. O setor de tecnologia é formado, na sua maioria, por homens brancos, héteros e de classes sociais média ou alta.
Larissa Macêdo, doutora em Comunicação e Semiótica (PUC-SP), reforça que Bruna foi vítima de racismo algorítmico. "É uma extensão do racismo estrutural. Se as vagas sugeridas estão aquém do currículo que ela cadastrou, o que resta de informação que ela colocou na plataforma? A foto dela", analisa a estudiosa, que pesquisa tecnologia e inteligência artificial.
Pesquisadora também questiona o "peso" de cada informação dada no cadastro em relação à sugestão de vagas. "Quando uma pessoa se cadastra, ela também informa o gênero. Qual o peso do gênero escolhido? O que nesse sistema está associando o cadastro de Bruna a essas vagas?", indaga Larissa.
Existe uma coisa chamada viés algorítmico. A programação das redes sociais não é neutra porque é feita por humanos. Tudo vai carregar quem nós somos. A gente precisa ter diversidade em quem constrói os códigos e discutir como eles são escritos Larissa Macêdo, pesquisadora de tecnologia e inteligência artificial
LinkedIn classifica as sugestões de vagas que Bruna recebeu como "equivocadas". "Não foram causadas por discriminação racial. Informações demográficas como idade, raça, nacionalidade ou gênero não são utilizadas para recomendações de vagas", se defende a plataforma, em nota enviada ao UOL. Segundo a empresa, as recomendações são baseadas na atividade do usuário, como busca por emprego e interações na rede social.
A plataforma também disse que os sistemas são avaliados frequentemente. "Para identificar e corrigir possíveis vieses, e contamos com especialistas dedicados em garantir que nossa tecnologia funcione de forma justa para todos", diz trecho do comunicado.
