#9: o paradigma tecno-político criado pela pandemia: o risco e a oportunidade[:es]Lavits_Covid19_#9: el paradigma tecno-político que crea la pandemia: el riesgo y la oportunidad

María Paz Canales*

Há muito se diz que o medo é um mal conselheiro. No contexto atual, o medo da fome e da morte é mais real e tangível do que nunca. Especialmente em um continente marcado pela ausência de redes de proteção social que garantam àqueles que não podem trabalhar apoio para alimentar suas famílias. A combinação de uma pandemia – ocasionada por um vírus rápido no contágio e desconhecido em suas modalidades de ataque – com economias precárias e cujos sistemas de saúde contam com escassos investimentos são os ingredientes para o completo caos.

Nesse contexto, a tecnologia tem sido convocada para cumprir uma série de papeis na mitigação ou controle da pandemia. Eles podem ser caracterizados de maneira ascendente de acordo com seu nível de intrusão no exercício de direitos: informação sobre saúde; auto-diagnóstico; dados integrados para a tomada de decisões de saúde pública; rastreamento de contatos; passaportes de mobilidade e trabalho e vigilância do confinamento.¹

Cada uma das esferas identificadas conta com uma série de possibilidades tecnológicas de implementação que, por sua vez, esteve sujeita a diferentes níveis de escrutínio por parte de especialistas das diferentes disciplinas. Também despertaram uma diversidade de reações na cidadania que as vê proliferar em seus contextos locais e geram diferentes tipos de impacto no exercício de direitos humanos que merecem ser avaliados.

Não foram poucos os que insistiram em alertar sobre as mudanças fundamentais que o papel dado às tecnologias durante a pandemia estão gerando na narrativa sobre o exercício das liberdades públicas.² O discurso que envolve a implementação das tecnologias no contexto da pandemia é tão rico em metáforas que apaga os áridos limites que anos de trabalho em padrões internacionais de direitos humanos tentaram instalar como bandeira.

Não soa tão convincente falar em legalidade, necessidade e proporcionalidade, ou em ponderação de direitos, quando do outro lado se fala em vencer todos juntos ao inimigo invisível, de cuidar-nos juntos. A vigilância que acompanha a instalação da tecnologia é benévola, afinal: qual o problema em usar a tecnologia com a qual o capitalismo de vigilância já nos acostumou para o louvável fim de proteger a vida?

Todos somos necessários na luta. A informação coletada para outros usos por agências públicas ou privadas pode ser redirecionada para ser usada na pandemia. As desconfianças passadas nas capacidades e a probidade das autoridades devem ser suspendidas. A confidencialidade das informações de saúde pode ser flexibilizada. Às empresas que antes ofereciam tecnologia para espiar e perseguir jornalistas e defensoras de direitos humanos ou para exercer controle discriminatório de imigrantes ou minorias étnicas deve ser oferecido o benefício da dúvida de que, agora sim, usarão suas capacidades para o bem público.

Uma narrativa de trocas e compensações (trade-off) se instala para nos conduzir à normalização da vigilância sem orientação política, porque todos somos necessários na luta quando estamos sob uma lógica de guerra contra o inimigo invisível e poderoso. No entanto, essa política de vigilância a serviço do bem comum tem sim uma vítima, que não é precisamente o vírus. As capacidades limitadas das tecnologias em contribuir com o combate à pandemia fazem com que seja mais provável que elas prejudiquem mais, e de forma mais grave, as liberdades públicas do que o SARS-CoV-2.

Particularmente preocupante é que as tecnologias de vigilância se instalem sob estatutos de emergência que – outra vez apelando a lógicas de guerra que excepcionalmente permitem flexibilizar os balanços e controles daqueles no poder público, as liberam da necessidade mínima de prestação de contas, transparência e supervisão que seriam exigidas em qualquer outra contexto. Essa estratégia não é nova e, como toda boa moda, depois de anos de uso intenso na luta contra o terrorismo pós 9/11, retorna revigorada por um inimigo invisível ainda mais fácil de temer e odiar dada sua ausência de humanidade.

A tecnologia de vigilância permite decidir quem está autorizado a participar da vida pública, quem pode trabalhar, quem deve ficar em casa, quem recebe e quem não recebe a ajuda econômica que lhe permitirá sobreviver. Nada disso soa a uma sociedade regida por princípios democráticos ou pelo respeito e promoção dos direitos humanos, senão a um eco das melhoras novelas de ficção que previam um futuro de autoritarismo e controle em nome do bem público.

Fica fácil identificar o risco de que essas narrativas assépticas do papel das tecnologias capturem progressistas e neoliberais sob a promessa de tornar realidade um mundo em que a autoridade da vez nos lidera com o auxílio tecnológico até o futuro que nos foi escolhido para o nosso próprio bem. Qual é a oportunidade, então? A que nasce desse risco. Temos diante de nós a oportunidade de não nos deixar seduzir pela heresia do tecno-otimismo e exigir mais dos contextos que acompanham a implementação das tecnologias. Ninguém defende que elas sejam banidas, mas sim colocadas no modesto lugar que lhes corresponde, em um contexto político e normativo que permita impor limites a seus usos e abusos.

A pandemia reforçou a ubiquidade das tecnologias em nossas vidas e essa é a melhor oportunidade que temos para entender a necessidade urgente de reivindicar de volta o controle individual e coletivo daquela que é instalada nos âmbitos público e privado em nosso nome.

Precisamos nos responsabilizar por propor bases sólidas para que o uso das tecnologias no contexto da pandemia permita alcançar seu potencial máximo, por mais limitado que seja, mas com respeito aos direitos das pessoas cuja proteção deve estar no central da estratégia de mitigação da pandemia.

Para isso é necessário – seja por meio de uma legislação ordinária ou de emergência – obrigar que as soluções tecnológicas a serem implementadas no contexto da pandemia que façam uso de dados pessoais satisfaçam os seguintes componentes:

1. Caracterizar de forma estrita a situação de emergência e/ou o prazo que autoriza o acesso a dados pessoais e sensíveis de saúde nas mãos dos distintos órgãos do Estado;

2. Especificar quem está a cargo do acesso extraordinário a esses dados;

3. Detalhar quais são e como se utilizarão os dados aos quais se solicita acesso extraordinário e, se são coletados diretamente das titulares, que isso ocorra de forma voluntária;

4. Estabelecer provisões de término do acesso e uso extraordinário dos dados com medidas efetivas de controle de acesso ou eliminação, caso necessário;

5. Estabelecer medidas específicas de segurança operacional para evitar o acesso e uso malicioso de dados e determinar que o uso de dados pessoais esteja sujeito a técnicas de pseudonimização ou dissociação (com algoritmos de anonimização suficientemente robustos) quando se trate de disponibilizar informações ao público, além de ter a segurança como requisito indispensável que inclua o uso de criptografia para proteger informações em trânsito e mecanismos de armazenamento seguro e resiliente;

6. Garantir a representatividade dos dados com os quais se nutre a tecnologia e a tomada de decisões de políticas públicas que ela alimenta, tendo em consideração os contextos locais permeados pela marginalização de grupos vulneráveis;

7. Estabelecer mecanismos de prestação de avaliação das tecnologias implementadas em sua efetividade e precisão técnica, mas também em seu impacto ao exercício de direitos humanos e não só à privacidade, e

8. Estabelecer mecanismos de transparência, controle externo e prestação de contas que permitam fiscalizar e sancionar fortemente o desvio de finalidade no acesso e uso dos dados.

São esses controles e contrapesos que nos devolvem a nossos velhos e conhecidos padrões de legalidade, necessidade e proporcionalidade na limitação do exercício de direitos humanos, que seguem sendo uma obrigação positiva de promoção e proteção dos Estados no contexto da pandemia. Aqui a vacina não precisa ser inventada, se encontra disponível nos padrões internacionais de direitos humanos do Sistema Universal e do Sistema Inter-americano de Direitos Humanos.³ Não deixemos que a heresia tecno-otimista que floresce na pandemia nos confunda com seu perfume.

*María Paz Canales é advogada com mestrado em Direito e Tecnologia pela Universidade da Califórnia, Berkeley. Desde 2017 é Diretora Executiva da Derechos Digitales, organização sem fins lucrativos que há 15 anos atua na defesa e promoção dos direitos humanos em ambientes digitais na América Latina. Como membro da Derechos Digitales, participa do comitê de programação da reunião preparatória regional para o Fórum de Governança da Internet (IGF), o LAC IGF, e do Grupo Consultivo Multissetorial (MAG) do IGF. Anteriormente, atuou nos setores privado e acadêmico com foco em regulação das telecomunicações, competição, proteção de dados e propriedade intelectual.

Notas

A Lavits_Covid19: Pandemia, tecnologia e capitalismo de vigilância é um exercício de reflexão sobre as respostas tecnológicas, sociais e políticas que vêm sendo dadas à pandemia do novo coronavírus, com especial atenção aos processos de controle e vigilância. Tais respostas levantam problemas que se furtam a saídas simples. A série nos convoca a reinventar ideias, corpos e conexões em tempos de pandemia.

[:es]María Paz Canales*

El miedo, se ha dicho siempre, es mal consejero. En la circunstancia actual, el miedo al hambre y el miedo a la muerte es real y tangible, en una América Latina carente de redes de protección social que aseguren a quienes no pueden salir a trabajar que recibirán el apoyo que les permita alimentarse y alimentar a sus familias hasta que sea seguro volver a salir. La combinación de una pandemia con economías precarias que viven al día y servicios de salud en los cuales se ha invertido escasamente, son los ingredientes para una tormenta perfecta.

En este contexto, la tecnología ha sido convocada para cumplir una gama de roles en la mitigación o control de la pandemia, que pueden ser brevemente categorizadas de forma ascendente de a cuerdo al grado de intrusividad en el ejercicio de derechos:¹ información de salud; autodiagnóstico; datos integrados para toma de decisiones de salud pública; trazabilidad de contactos; pasaportes de movilidad y trabajo; y vigilancia de confinamiento.

Cada una de las esferas identificadas cuenta con un abanico de posibilidades tecnológicas de implementación y está sujeta a diferentes niveles de escrutinio por parte de expertos de diferentes disciplinas, pero también despiertan una diversidad de reacciones en la ciudadanía, que las ha visto proliferar en sus distintos contextos locales, y tienen diferentes impactos en el ejercicio de derechos humanos, que merecen ser evaluados.

Sin embargo, no han sido pocos los que han insistido en alertar sobre los cambios fundamentales que el rol asignado a la tecnología en pandemia está generando en la narrativa de ejercicio de las libertades públicas.² El discurso que envuelve al despliegue de la tecnología en el contexto de la pandemia es rico en metáforas que intentan desdibujar los áridos límites que años de trabajo en estándares internacionales de derechos humanos han intentado plantar como bandera.

No suena tan convincente hablar de legalidad, necesidad, d y proporcionalidad o d, o ponderación de derechos, cuando del otro lado se habla de vencer todos juntos al enemigo invisible, de cuidarnos juntos. Qué más da usar la tecnología a la cual el capitalismo de vigilancia ya nos ha acostumbrado, ahora sí para un fin loable. Y como todos somos necesarios en la lucha, la información recolectada con otros fines por agencias públicas o privadas puede ser redirigida para ser usada contra la pandemia; las desconfianzas en las capacidades y en la probidad de las autoridades deben ser puestas en suspenso, la confidencialidad de los estados de salud puede ser relajada; a las empresas que antes ofrecían tecnología para espiar y amedrentar periodistas y defensores de derechos humanos, o para ejercer control discriminatorio de migrantes y minorías étnicas, se les debe conceder el beneficio de la duda, pues sus capacidades ahora sí serán usadas para el bien público.

Se ha instalado una narrativa de intercambios y compensaciones (trade-off) que busca la normalización de la vigilancia —sin color político, porque todos somos necesarios en la lucha— bajo una lógica de guerra contra un enemigo invisible y poderoso. Pero esta política de vigilancia al servicio del bien común tiene una víctima y no es el virus. Las limitadas capacidades de contribución de la tecnología a la mitigación de la pandemia hacen más probable que ellas terminen dañando más severamente y a largo plazo a las libertades públicas que al SARS-CoV-2.

Particularmente preocupante es que las tecnologías de vigilancia se desplieguen bajo estatutos de emergencia, amparados en lógicas de guerra que permiten situaciones de excepcionalidad en los balances y controles del poder público, liberándoles de la necesidad de la mínima rendición de cuentas, transparencia y supervisión que sería exigida en otro contexto. Esta estrategia no es nueva y, después de años de uso intensivo en la lucha contra el terrorismo post 9/11, la tenemos de vuelta fresca y revigorada por un enemigo invisible, aún más fácil de temer y odiar por su ausencia de humanidad.

La tecnología de vigilancia permite decidir quién está autorizado a participar de la vida pública, quién puede trabajar, quién debe quedarse en casa, quién recibe la ayuda económica que le permita sobrevivir y quién no. Nada de eso es propio de una sociedad regida por principios democráticos ni el respeto y promoción de los derechos humanos, sino más bien un eco de las mejores novelas de ficción que vaticinaban un futuro de autoritarismo y control en nombre del bien público.

Queda claro el riesgo de que estas narrativas asépticas del rol de la tecnología capturen a progresistas y neoliberales, bajo la promesa de un mundo en que la autoridad de turno nos lidere a través de la tecnología hacia el futuro escogido para nosotros en nuestro propio bien. ¿Cuál es la oportunidad entonces? La que nace de ese riesgo. Tenemos frente a nosotros la oportunidad de no dejarnos seducir por la herejía del tecno-optimismo y pedir más de los contextos que acompañan su implementación. Nadie aboga por desterrar a las tecnologías, sino más bien otorgarles el modesto lugar que les corresponde, en un contexto político y normativo que permita poner límites a sus usos y abusos.

La pandemia ha reforzado la ubicuidad de la tecnología en nuestras vidas, y esta es la mejor oportunidad para entender la necesidad urgente de reclamar de vuelta el control individual y colectivo de aquella que se despliega desde el mundo público y privado en nuestro nombre. Nos toca hacernos cargo de proponer bases sólidas para que el uso de la tecnología en contexto de pandemia se encamine a liberar su máxima potencialidad, por limitada que ella sea, con respeto a los derechos de las personas, cuya protección debe estar estar al centro de la estrategia de mitigación de la pandemia.

Eso requiere que, ya sea a través de una legislación ordinaria o de emergencia, se obligue a que las soluciones tecnológicas a implementarse que usen datos personales como insumo en el contexto de pandemia, satifagan los siguientes componentes: 

1. caracterizar en forma estricta la situación de emergencia y/o el plazo que habilita acceder a los datos personales y sensibles de salud en manos de los distintos órganos del Estado; 

2. especificar quiénes estarán a cargo del acceso extraordinario a tales datos;

3. detallar cuáles son y cómo se utilizarán los datos a los cuales se solicita acceso extraordinario. Y, si son recogidos directamente de sus titulares, que ello se realice en forma voluntaria;

4. establecer provisiones de término del acceso y uso extraordinario a los datos, con medidas efectivas de control de acceso o eliminación, en su caso;

5. ordenar medidas específicas de seguridad operacional para evitar acceso y uso malicioso de los datos; y disponer que el uso de los datos personales se haga bajo técnicas de pseudonimización o disociación (con algoritmos de anonimización suficientemente robustos) cuando se trate de ofrecer información públicamente disponible, además de tener la seguridad como requisito indispensable, incluyendo el tránsito cifrado de la información y su almacenamiento seguro y resiliente;

6. garantizar la representatividad de los datos de los cuales se nutre la tecnología y la toma de decisiones de políticas públicas que ella alimenta, teniendo consideración con los contextos locales que dan cuenta de la marginalización de grupos vulnerables;

7. establecer mecanismos de evaluación de la tecnología implementada, en su efectividad y precisión técnica, pero también en su impacto en el ejercicio de derechos humanos y no solo privacidad; y,

8. establecer mecanismos de transparencia, control externo y rendición de cuentas que permitan fiscalizar y sancionar fuertemente la desviación de finalidad en el acceso y uso de los datos.

Son estos controles y contrapesos que nos devuelven a nuestros viejos y conocidos estándares de legalidad, necesidad y proporcionalidad en la limitación del ejercicio de derechos humanos que siguen constituyendo una obligación positiva de promoción y protección de los Estados en el contexto de pandemia. Aquí la vacuna no necesita ser inventada, se encuentra disponible en los estándares internacionales de derechos humanos del Sistema Universal y del sistema Interamericanos de Derechos Humanos³, no dejemos que la herejía tecno-optimista que florece en pandemia nos confunda con su perfume.

*María Paz Canales es abogada de la Universidad de Chile y magíster en Derecho y Tecnología por la Universidad de California, Berkeley. Desde 2017 es Directora Ejecutiva de Derechos Digitales, una organización sin fines de lucro que hace 15 años lucha por el desarrollo, la defensa y la promoción de los derechos humanos en el entorno digital en América Latina. Como miembro de Derechos Digitales, participa en el comité de programación del Foro de Gobernanza de Internet de América Latina y el Caribe (LAC IGF) y del Multistakeholder Advisory Group (MAG) del Foro de Gobernanza de Internet (IGF) global. Su trabajo anterior en el sector privado y académico ha estado relacionado con el desarrollo y uso de nuevas tecnologías, desde la perspectiva de propiedad intelectual, libre competencia, regulación de telecomunicaciones y privacidad.

Notas

1 He excluido arbitrariamente aquellas categorías referidas a mejora de capacidad diagnóstica (desarrollo de test rápidos, capacidad diagnóstica a través de IA), tratamientos paliativos (retrovirales, medicamentos paliativos, uso paliativo de plasma) e infraestructura de salud (ventiladores, mascarillas, trajes de seguridad) todas estas tecnologías específicas para los servicios de salud.

2 Evgeny Morozov, The tech ‘solutions’ for coronavirus take the surveillance state to the next level, The Guardian, 15 de abril 2020, disponible en: <https://www.theguardian.com/commentisfree/2020/apr/15/tech-coronavirus-surveilance-state-digital-disrupt?CMP=share_btn_link>.

3 Comisión Interamericana de Derechos Humanos, Resolución 1/20. Pandemia y Derechos Humanos en las Américas, 10 de abril 2020, disponible en: <https://www.oas.org/es/cidh/decisiones/pdf/Resolucion-1-20-es.pdf>

Série Lavits_Covid19

A Lavits_Covid19: Pandemia, tecnologia e capitalismo de vigilância é um exercício de reflexão sobre as respostas tecnológicas, sociais e políticas que vêm sendo dadas à pandemia do novo coronavírus, com especial atenção aos processos de controle e vigilância. Tais respostas levantam problemas que se furtam a saídas simples. A série nos convoca a reinventar ideias, corpos e conexões em tempos de pandemia.