Fruto de uma parceria entre o MediaLab.UFRJ, Rede Lavits e Derechos Digitales, a pesquisa é realizada no âmbito do estudo comparado Inteligencia Artificial e Inclusión en América Latina, que analisa quatro casos de adoção de sistemas de decisão automatizados pelo setor público em quatro países latino-americanos (Brasil, Chile, Colômbia e Uruguai), com ênfase nos impactos para os direitos humanos.

O caso brasileiro analisado pela equipe do MediaLab.UFRJ foi o processo de implementação de ferramentas de Inteligência Artificial para a intermediação de mão-de-obra e perfilização no contexto do Sistema Nacional de Emprego (SINE) do Brasil, um dos maiores serviços públicos de emprego do mundo. A implementação é viabilizada por meio de um Acordo de Cooperação Técnica entre o governo brasileiro e a Microsoft, firmado em novembro de 2020.

Apesar dos efeitos de tais ferramentas de IA ainda não poderem ser devidamente avaliados, uma vez que elas estão em fase de implementação, a investigação já permitiu apontar riscos e impactos potenciais. Estes se relacionam, sobretudo, a três pontos:

1. o modo como o funcionamento destas ferramentas incide e regula o campo de oportunidades do trabalhador desempregado, com risco de que a performatividade do próprio sistema impacte negativamente sobre uma parcela de trabalhadores que não conseguem vaga e que são, justamente, o público alvo declarado das políticas públicas de emprego;
2.  a intensa assimetria de poder e falta de transparência envolvidas nesse tipo de modelo e a dificuldade, por parte do trabalhador, tanto de entender e conhecer minimamente as regras de funcionamento do sistema quanto de interferir ou mesmo questionar os resultados da intermediação e das perfilizações às quais está sujeito;
3.  os riscos associados à possibilidade de influência da Microsoft sobre os critérios e desenhos das políticas públicas de emprego, assim como aqueles relacionados ao compartilhamento de informações e dados estratégicos sobre a economia e o mercado de trabalho. Além destes, destaca-se também a fragilidade dos mecanismos de accountability previstos no projeto de implementação.

O relatório final do caso analisado pode ser conferido AQUI. Já o resultado de toda a pesquisa Inteligencia Artificial e inclusión en América Latina você encontra AQUI.