A expansão da inteligência artificial trouxe novos recursos para diferentes áreas da sociedade, mas também intensificou um problema que já vinha sendo debatido por pesquisadores nos últimos anos: a violência algorítmica. O conceito descreve situações em que algoritmos, plataformas digitais e sistemas automatizados reproduzem ou ampliam desigualdades existentes, afetando especialmente grupos historicamente marginalizados.
O influenciador digital e cientista da comunicação Christian Gonzatti, de 33 anos, afirma conviver com esse fenômeno desde o início da produção de conteúdo voltado ao público LGBTQIA+. Há cerca de uma década, ele percebe que publicações relacionadas ao tema recebem menos alcance ou sofrem restrições nas plataformas.
Na época, Gonzatti mantinha o canal Viado Nerd, dedicado à cultura pop sob uma perspectiva LGBTQIA+. Segundo ele, a própria palavra utilizada no nome da página passou a gerar problemas.
“O algoritmo não lê contexto. Não via ‘viado’ como uma ressignificação, da maneira que historicamente o movimento faz a partir de termos criados originalmente para difamar e caluniar. A página começou a ser denunciada e a plataforma as acatou, como se o espaço fosse de veiculação de discursos de ódio”, recorda.
Mesmo após renomear o projeto para Diversidade Nerd, ele afirma continuar enfrentando limitações. “Se coloco a palavra gay ou lésbica na legenda, por exemplo, o alcance é menor”, diz.
Quando os algoritmos ampliam preconceitos
A violência algorítmica vai além das redes sociais. O conceito também inclui sistemas de reconhecimento facial que apresentam maior índice de erro com pessoas negras, ferramentas de inteligência artificial usadas para criar deep fakes e modelos computacionais capazes de influenciar decisões e comportamentos.
Um motorista de aplicativo que trabalha em São Paulo relata como os mecanismos das plataformas interferem em sua rotina.
“Muitas vezes estou já dirigindo há 10 horas, 12 horas, sem parar e, quando penso em encerrar o dia, recebo mensagem no aplicativo que estou a uma corrida de ganhar um bônus. Quando vejo, fico 14 horas trabalhando direto, sem parar nem para comer”, conta, sob condição de anonimato.
Para o cientista da computação e jornalista Alexandre Gonçalves, professor da Universidade de Illinois Urbana-Champaign, esse também é um exemplo de violência.
“Neste caso, os algoritmos forçam as pessoas a aumentar a produtividade de um jeito que não reconhece os limites naturais da humanidade. É violência”, afirma.
O professor de mídia e democracia Daniel Trielli, da Universidade de Maryland, define o conceito como um “tipo de agressão ou ataque que depende ou se integra a sistemas computacionais automatizados”. Segundo ele, além das redes sociais, entram nesse grupo plataformas de vigilância digital e ferramentas de inteligência artificial.
Trielli cita a circulação de notícias falsas como um exemplo frequente. “Quando alguém espalha esse conteúdo, os algoritmos amplificam o alcance de mensagem que têm apelo emocional”, explica.
Tecnologia não é neutra
Pesquisadores apontam que a expressão violência algorítmica ganhou força ao longo da última década em debates sobre discriminação automatizada, racismo digital e colonialismo de dados.
A assistente social Bruna Irineu destaca que não existe um único criador do termo.
“Não há uma pessoa única que tenha ‘inventado’ a expressão. Ela faz parte de um campo mais amplo de debates sobre discriminação algorítmica, opressão, racismo, colonialismo de dados e injustiça automatizada”, comenta.
No centro da discussão está a ideia de que algoritmos refletem as informações usadas durante seu desenvolvimento. Como esses sistemas aprendem a partir de grandes volumes de dados produzidos por pessoas e instituições, acabam reproduzindo padrões presentes na sociedade.
A antropóloga Larissa Pelúcio resume esse processo.
“Podemos dizer que violência algorítmica acontece quando sistemas automatizados, plataformas digitais, inteligências artificiais, mecanismos de busca, redes sociais ou bancos de dados produzem, reproduzem e amplificam desigualdades sociais.”
Ela acrescenta: “Ela aparece quando uma tecnologia decide quem será visto, quem será silenciado, quem será considerado suspeito, quem terá acesso a oportunidades, crédito, emprego, circulação, reconhecimento ou proteção.”
Irineu ressalta que essas ferramentas não criam as desigualdades, mas ampliam problemas já existentes.
Desafios para o Brasil
Especialistas avaliam que o cenário brasileiro torna a questão ainda mais complexa. Segundo Pelúcio, a combinação entre desigualdade social, violência institucional e uso intenso das plataformas digitais favorece a reprodução desses impactos, sobretudo sobre populações negras, indígenas, periféricas e LGBTQIAPN+.
Os pesquisadores Haide Maria Hupffer e Gabriel Cemin Petry lembram que um levantamento da Defensoria Pública do Estado do Rio de Janeiro apontou que, entre os casos de reconhecimento facial equivocado que levaram pessoas inocentes à prisão preventiva, 83% envolveram pessoas negras.
Na avaliação deles, utilizar bases de dados semelhantes para treinar algoritmos pode automatizar erros e reforçar o racismo estrutural.
Outro fator apontado pelos pesquisadores é o funcionamento das plataformas digitais. Para Irineu, conteúdos que despertam medo, indignação ou conflito costumam receber maior distribuição.
“Os algoritmos de engajamento tendem a favorecer conteúdos que provocam medo, indignação e conflito. Isso faz com que discursos de ódio e desinformação ganhem escala e velocidade”, afirma.
Gonçalves acrescenta que o Brasil também enfrenta limitações por importar grande parte dessas tecnologias, muitas vezes treinadas com dados que não representam a diversidade demográfica do país. “Pode gerar decisões ainda mais enviesadas”, argumenta.
Embora a Constituição Federal tenha passado a reconhecer a proteção de dados pessoais como direito fundamental e a Lei Geral de Proteção de Dados estabeleça o princípio da não discriminação, pesquisadores afirmam que ainda há desafios para garantir a aplicação prática dessas garantias.
Entre as soluções apontadas estão o fortalecimento da educação digital, maior transparência das plataformas, responsabilização das empresas de tecnologia, auditorias independentes e participação dos grupos afetados na construção e revisão desses sistemas. Como resume Irineu: “Não se trata de corrigir viés como se fosse um pequeno defeito técnico, mas de reconhecer que muitos sistemas são construídos sobre desigualdades históricas”.
Fonte: G1
Foto: https://www.magnific.com/br/fotos-gratis/adolescente-sendo-cyberbullied-no-smartphone_36298245.htm