Pesquisadora da LAVITS participa do 1º Diálogo Global da ONU sobre Governança da IA e destaca perspectivas latino-americanas

Jamila Venturini, membro do Conselho Ciborgue da LAVITS e co-diretora executiva da Derechos Digitales participou da primeira sessão do fórum criado pela Assembleia Geral da ONU para discutir os caminhos da governança internacional da inteligência artificial

A pesquisadora Jamila Venturini, integrante do Conselho Ciborgue da Rede LAVITS e co-diretora executiva da organização Derechos Digitales, participou da primeira sessão do Diálogo Global da ONU sobre Governança da Inteligência Artificial, realizado nos dias 6 e 7 de julho, em Genebra, na Suíça.

Criado por mandato da Assembleia Geral das Nações Unidas, o fórum tem como objetivo promover debates internacionais sobre os desafios e caminhos para a governança da inteligência artificial, reunindo representantes de governos, empresas de tecnologia, academia, sociedade civil e comunidade técnica.

A participação de Jamila representa uma conquista importante para a inclusão de perspectivas latino-americanas em um dos principais espaços internacionais de discussão sobre o futuro da IA. Os espaços de fala no encontro foram altamente restritos, e as contribuições apresentadas durante os painéis irão subsidiar diretamente o relatório final do Diálogo Global.

Para a Rede LAVITS, a presença da pesquisadora reforça a importância de inserir, nos processos globais de tomada de decisão, pesquisas, evidências e experiências produzidas a partir da América Latina, uma região diretamente impactada pelo avanço das tecnologias de inteligência artificial, mas historicamente afastada dos espaços que definem seus rumos.

Durante sua participação, Jamila contribuiu para dois debates centrais: os riscos dos padrões de design manipuladores em sistemas de IA e os impactos ambientais associados ao desenvolvimento dessas tecnologias. Confira como foi a fala:

Design manipulador: um problema estrutural, não uma falha técnica

Ao abordar estratégias para prevenir padrões de design manipuladores e inseguros em sistemas de inteligência artificial, tecnologias que influenciam decisões, comportamentos e o acesso das pessoas à informação, Jamila destacou que esse problema não deve ser tratado como uma falha pontual dos sistemas.

“Design manipulador não é um bug nem está restrito a sistemas complexos. Ele combina engenharia social e tecnologia e está incorporado a modelos de negócio que dependem de dados e atenção para gerar receita”, afirmou.

Em sua fala, a pesquisadora destaca que esse tipo de prática amplia a exploração de grupos já vulnerabilizados, como crianças, pessoas idosas e populações historicamente excluídas do acesso significativo às tecnologias digitais. No entanto, seus impactos ultrapassam a dimensão individual, produzindo efeitos coletivos e estruturais que afetam democracias, aprofundam desigualdades e reproduzem processos de discriminação.

Como exemplo, ela apresentou dados sobre o uso de imagens sintéticas, conhecidas como “deepfakes”, para a produção de conteúdos não consensuais. Essas tecnologias têm sido utilizadas de forma desproporcional para gerar material sexual sem consentimento, sendo mulheres as principais vítimas: “99% das pessoas representadas nesses conteúdos eram mulheres, segundo dados de 2023”.

Ela também mencionou uma pesquisa realizada por Ximena Cuzcano-Chávez e Constanza González-Véliz, que analisou mais de 100 aplicativos gratuitos disponíveis na loja de aplicativos do Google e identificou que quase 70% utilizavam imagens de mulheres sexualizadas ou nuas em seus materiais promocionais. Para Jamila, essa escolha não é acidental, mas parte de estratégias de design orientadas por determinados modelos econômicos.

Diante desse cenário, a pesquisadora afirmou que a autorregulação das empresas já demonstrou ser insuficiente para prevenir abusos, uma vez que existem incentivos econômicos associados a práticas manipuladoras. “Colocar a responsabilidade apenas sobre os usuários finais não é suficiente”, destacou.

Para ela, respostas baseadas exclusivamente em educação e letramento digital não podem substituir a responsabilização das plataformas. É necessário enfrentar as condições estruturais que favorecem esses modelos, incluindo políticas de proteção de dados, regulação de plataformas e mecanismos de controle público.

Entre as medidas defendidas, Jamila apontou a necessidade de obrigações de transparência, acesso a dados desagregados e realização de avaliações de impacto em direitos humanos durante todo o ciclo de vida dos sistemas de IA. Também defendeu restrições à circulação de tecnologias cuja segurança e impactos não possam ser adequadamente comprovados.

Os impactos ambientais da IA e o questionamento da ideia de inevitabilidade

Jamila também abordou os impactos ambientais associados à inteligência artificial, incluindo o alto consumo de energia, água e a geração de resíduos eletrônicos.

Sua intervenção partiu de uma crítica a uma narrativa frequentemente presente no debate tecnológico: a ideia de que a expansão da IA seria inevitável.

“Não podemos falar sobre mitigação dos impactos ambientais sem questionar a ideia de que a IA é inevitável. Isso não é verdade”, afirmou.

Segundo a pesquisadora, o desenvolvimento e a implementação dessas tecnologias são conduzidos principalmente por interesses econômicos de um grupo restrito de empresas e países, que também influenciam os atuais processos de governança global.

Jamila destacou que a inteligência artificial depende de uma ampla cadeia produtiva, que envolve desde a mineração de recursos naturais até a infraestrutura necessária para processamento e armazenamento de dados. “As pegadas ambientais da IA são estruturais, não incidentais”, afirmou.

Ela chamou atenção para o fato de que esses impactos recaem principalmente sobre trabalhadores, comunidades e territórios distantes dos principais beneficiários econômicos da expansão da IA. Para a pesquisadora, países do Sul Global frequentemente fornecem recursos naturais e absorvem consequências ambientais e sociais, sem participação proporcional nos ganhos gerados pela economia da inteligência artificial.

Entre suas recomendações, Jamila defendeu a incorporação do princípio da precaução aos marcos globais de governança da IA, com mecanismos transnacionais de transparência, responsabilização e reparação. Esses processos, segundo ela, devem contar com participação efetiva da sociedade civil, especialmente das comunidades mais afetadas.

A pesquisadora também destacou o Acordo de Escazú,  primeiro tratado ambiental da América Latina e do Caribe, como uma referência importante para pensar modelos de governança tecnológica baseados nos direitos de acesso à informação, participação pública e justiça ambiental.

Ao final de sua intervenção, Jamila ressaltou que a documentação dos impactos da IA não pode permanecer restrita a especialistas acadêmicos, já que o ritmo da produção científica muitas vezes não acompanha a urgência vivida pelas comunidades afetadas.

“Não existe uma solução simples para problemas tão complexos. Mais IA ou uma IA melhor não podem resolver os impactos criados pela própria IA”, concluiu.