Os riscos da automatização do preconceito

Em tempos de Big Data e Inteligência Artificial (IA), o pesquisador do Instituto de Informática (INF) da Ufrgs e membro do IEEE, Edson Prestes, alerta para o risco de uma prática cada vez mais comum hoje em dia: o casamento (e o uso indiscriminado) dos dados.

Isso acontece, por exemplo, quando os sistemas relacionam as informações de uma compra na internet com a localização das pessoas. Com isso, uma oferta de viagem pode variar de preço de acordo com o local em que o comprador está. Ou, ainda, quando se analisa dados coletados que se propõem a determinar quais são as zonas de maior perigo em uma cidade.

"As regiões da periferia são mais monitoradas que as nobres e, consequentemente, vão produzir mais dados sobre crimes. Se temos 20 carros patrulhando os bairros ricos e 70, os pobres, onde vamos ter mais casos de violência registrados?", questiona Prestes. A interpretação dos dados pode, no caso desse exemplo, levar a situações como uma atuação mais ostensiva da polícia, criação de constrangimento aos moradores e até mesmo impactar os custos do seguro. "Quando você tem um conjunto de dados e os coloca para gerar resultados em série, sem detectar se existe um viés, vai acabar propagando preconceitos que existem na sociedade", avalia.

Em alguns dias, Prestes embarca para Genebra, na Suíça, onde participa, no dia 19 de janeiro, de mais um encontro do The High-level Panel on Digital Cooperation, criado pelo secretário-geral da ONU, António Guterres, para debater questões como segurança dos dados, equidade e direitos humanos na era digital.