{"id":9190,"date":"2021-04-05T15:17:40","date_gmt":"2021-04-05T18:17:40","guid":{"rendered":"https:\/\/lavits.bemvindo.co\/entrevista-rodrigo-firmino-riscos-e-contradicoes-dos-programas-de-vigilancia-tecnologica\/"},"modified":"2021-04-05T15:17:40","modified_gmt":"2021-04-05T18:17:40","slug":"entrevista-rodrigo-firmino-riscos-e-contradicoes-dos-programas-de-vigilancia-tecnologica","status":"publish","type":"post","link":"https:\/\/lavits.org\/en\/entrevista-rodrigo-firmino-riscos-e-contradicoes-dos-programas-de-vigilancia-tecnologica\/","title":{"rendered":"[Rodrigo Firmino] Riscos e contradi\u00e7\u00f5es dos programas de vigil\u00e2ncia tecnol\u00f3gica"},"content":{"rendered":"

Em entrevista ao jornalista Fernando Barros para o Tilt UOL, Rodrigo Firmino discorreu sobre programas de vigil\u00e2ncia estatal a partir do projeto Sharp Eyes do governo chin\u00eas. Parte da conversa pode ser conferida na mat\u00e9ria <\/span>BBB dist\u00f3pico: vigil\u00e2ncia na China faz vizinhos vigiarem uns aos outros<\/span><\/i>, publicada aqui<\/a>.<\/span><\/p>\n

A conversa com Barros, no entanto, n\u00e3o focou apenas no projeto do governo chin\u00eas e abordou outras dimens\u00f5es da vigil\u00e2ncia tecnol\u00f3gica como os riscos \u00e9ticos, legais e sociais da \u201cvigil\u00e2ncia total\u201d e a quest\u00e3o do paradoxo da privacidade\/seguran\u00e7a. Firmino ainda abordou os projetos de vigil\u00e2ncia tecnol\u00f3gica no contexto brasileiro. Confira abaixo a \u00edntegra da entrevista.<\/span><\/p>\n

 <\/p>\n

Fernando Barros:<\/b> O Sharp Eyes \u00e9 um extenso programa de vigil\u00e2ncia na China que busca alcan\u00e7ar 100% de cobertura e nenhum ponto cego com c\u00e2meras de reconhecimento facial espalhadas por diferentes pontos de \u00e1reas urbanas e rurais. As imagens captadas s\u00e3o integradas a um grande banco de dados. O argumento \u00e9 a seguran\u00e7a p\u00fablica, mas quais os riscos de iniciativas como essa?<\/span><\/i><\/p>\n

Rodrigo Firmino:<\/b> H\u00e1 in\u00fameros riscos e inc\u00f4modos jur\u00eddicos e \u00e9ticos relacionados ao que se chama de \u201cvigil\u00e2ncia total\u201d, a partir do uso de sistemas securit\u00e1rios e uma suposta garantia de maior seguran\u00e7a em troca de certos n\u00edveis de liberdade civil e privacidade. Isso n\u00e3o \u00e9 exclusividade da China, e \u00e9 o que se conhece como paradoxo da privacidade\/seguran\u00e7a (<\/span>the privacy paradox<\/span><\/a>), frequentemente usado nas justificativas para a implementa\u00e7\u00e3o de medidas mais r\u00edgidas de seguran\u00e7a e vigil\u00e2ncia, sob a alega\u00e7\u00e3o do famigerado \u201cquem n\u00e3o deve n\u00e3o teme\u201d. Esse mesmo paradoxo se aplica a situa\u00e7\u00f5es mais mundanas do nosso dia-a-dia, quando, por exemplo, aceitamos fornecer dados pessoais em troca de conforto ou entretenimento no uso de algum aplicativo ou servi\u00e7o digital (muitas vezes sem ler as pol\u00edticas de privacidade das empresas). Para al\u00e9m dessa quest\u00e3o, h\u00e1 outro problema ainda mais profundo: apesar da import\u00e2ncia regulat\u00f3ria do Estado, n\u00e3o h\u00e1 garantias que o aparato estatal de sistemas e do conjunto de pol\u00edticas ser\u00e1 sempre usado em nome da \u00e9tica e da justi\u00e7a social. Para falar do ocidente, que conhecemos melhor, temos vivenciado os riscos de mudan\u00e7as de governo e regime em pa\u00edses como EUA e Brasil (com os governos Trump e Bolsonaro, respectivamente), em que os arranjos institucionais democr\u00e1ticos s\u00e3o fragilizados por atitudes autocr\u00e1ticas e a\u00e7\u00f5es de persegui\u00e7\u00e3o a quem pensa diferente do grupo que det\u00e9m o poder executivo. Assim, al\u00e9m dos riscos \u00e9ticos e jur\u00eddicos \u00e0 privacidade de indiv\u00edduos e grupos, h\u00e1 a grave consequ\u00eancia de intensifica\u00e7\u00e3o de persegui\u00e7\u00e3o e elimina\u00e7\u00e3o de minorias e grupos opositores ao regime com poder de controle do aparato tecnol\u00f3gico e institucional de vigil\u00e2ncia e seguran\u00e7a. E sabemos bem que em pa\u00edses como o Brasil, isso significa a persegui\u00e7\u00e3o e elimina\u00e7\u00e3o da popula\u00e7\u00e3o pobre, negra e todos que se levantam como vozes de resist\u00eancia. H\u00e1, ainda, um outro elemento mais espec\u00edfico da sua pergunta que \u00e9 a escalada do uso de um tipo de tecnologia que tem se mostrado extremamente problem\u00e1tico, o reconhecimento facial. V\u00e1rios estudos e experimentos demonstram duas limita\u00e7\u00f5es fundamentais dessa tecnologia: sua falibilidade t\u00e9cnica (problemas de precis\u00e3o de leitura, por exemplo); e, mais importante, um vi\u00e9s de identifica\u00e7\u00e3o marcado pelo racismo e pelo estigma a certos grupos sociais (veja os estudos de Tarc\u00edzio Silva, por exemplo, sobre <\/span>racismo algor\u00edtmico<\/span><\/a>, ou de Joy Buolamwini sobre <\/span>preconceito algor\u00edtmico<\/span><\/a> e <\/span>gender bias<\/span><\/a>). Este \u00e9 um problema estrutural do uso de tecnologias como reconhecimento facial e <\/span>aprendizado de m\u00e1quina<\/span><\/a> (basicamente porque as m\u00e1quinas aprendem a replicar os mesmos problemas e preconceitos que est\u00e3o na base dos processos computacionais, nunca neutros). Essa tecnologia j\u00e1 foi <\/span>banida<\/span><\/a> em v\u00e1rios lugares e existem campanhas ativas para ampliar o banimento de uso por governos e for\u00e7as policiais. No caso da China, esses aparatos t\u00eam sido testados em situa\u00e7\u00f5es de similar persegui\u00e7\u00e3o e exclus\u00e3o, como na prov\u00edncia de Xinjiang.<\/span><\/p>\n

 <\/p>\n

FB:<\/b> O Sharp Eyes parece maximizar a quest\u00e3o da vigil\u00e2ncia tecnol\u00f3gica, n\u00e3o somente dando ao governo, \u00f3rg\u00e3os policiais, etc, acesso \u00e0s c\u00e2meras e buscando integrar c\u00e2meras p\u00fablicas e privadas, como tamb\u00e9m induzindo os pr\u00f3prios cidad\u00e3os a vigiarem uns aos outros. Os residentes das localidades monitoradas podem acessar as c\u00e2meras pela TV e denunciar caso vejam algo suspeito. Temos a\u00ed pavimentados caminhos para um certo flerte com uma distopia, algo como o cen\u00e1rio orwelliano do livro 1984?<\/span><\/i><\/p>\n

RF:<\/b> Pois \u00e9. Acho que as distopias ficcionais se sobrep\u00f5em para ilustrar essas possibilidades de escalada da vigil\u00e2ncia, principalmente por meios tecnol\u00f3gicos. Mas acho que Orwell j\u00e1 n\u00e3o \u00e9 mais capaz de mostrar o cen\u00e1rio atual e as perspectivas de controle que est\u00e3o postas. Creio que haja ao menos duas dimens\u00f5es de vigil\u00e2ncia. Uma, mais cl\u00e1ssica, \u00e9 representada por <\/span>1984<\/span><\/i> e pela ideia do Big Brother, de estados autocr\u00e1ticos ou totalit\u00e1rios exercendo o poder de vigiar e punir e de controlar aspectos importantes da vida nas sociedades modernas. Mas h\u00e1 tamb\u00e9m a dimens\u00e3o do que muitos chamam de <\/span>little brothers<\/span><\/i>, de todos vigiando todos, melhor representada por obras como <\/span>The Circle<\/span><\/i>, de Dave Eggers (que tamb\u00e9m foi parar nas telas do cinema). Sobre essa segunda dimens\u00e3o, a combina\u00e7\u00e3o de capacidades computacionais e principalmente comunicacionais das tecnologias de vigil\u00e2ncia e seguran\u00e7a, com a possibilidade de sistemas e aparelhos trocando informa\u00e7\u00f5es entre si (Internet das Coisas) ininterruptamente, e com a naturaliza\u00e7\u00e3o do uso de m\u00eddias sociais (ou ainda o que o soci\u00f3logo David Lyon chama de \u201dcultura da vigil\u00e2ncia\u201d), transforma qualquer pessoa em um \u201dsistema m\u00f3vel de vigil\u00e2ncia\u201d. Outro soci\u00f3logo, Zigmunt Bauman, contextualiza tudo isso em um est\u00e1gio \u201dp\u00f3s-pan\u00f3ptico\u201d na hist\u00f3ria da modernidade.<\/span><\/p>\n

 <\/p>\n

FB:<\/b> Como avalia a quest\u00e3o da vigil\u00e2ncia tecnol\u00f3gica no Brasil? N\u00e3o sei de um projeto nacional por aqui como o Sharp Eyes, mas temos visto nos \u00faltimos anos surgir iniciativas de reconhecimento facial em espa\u00e7os p\u00fablicos em alguns estados. A sociedade precisa estar mais atenta?<\/span><\/i><\/p>\n

RF:<\/b> \u00c9 verdade. O Brasil tem uma configura\u00e7\u00e3o estatal bastante diferente da China, o que torna mais dif\u00edcil a implementa\u00e7\u00e3o global de um \u00fanico sistema integrado (e que tamb\u00e9m torna mais dif\u00edcil o controle de pandemias e epidemias, diga-se). Mas isso n\u00e3o significa que tentativas de integra\u00e7\u00e3o de sistemas e bancos de dados n\u00e3o sejam feitas, e sem o escrut\u00ednio da popula\u00e7\u00e3o, esquivando-se ao debate p\u00fablico. O risco est\u00e1 presente e \u00e9 necess\u00e1rio estarmos vigilantes, com o perd\u00e3o do trocadilho. O governo de S\u00e3o Paulo tenta, h\u00e1 v\u00e1rios anos, implementar sistemas de vigil\u00e2ncia massiva com uso de tecnologias como as quais tratamos nessas perguntas (inclusive o reconhecimento facial). Neste sentido, o pesquisador Alcides Peron vem estudando os projetos de S\u00e3o Paulo h\u00e1 bastante tempo. H\u00e1 ainda o risco de uso dessas tecnologias por empresas privadas, e isso tem acontecido, em alguns casos em parcerias p\u00fablico-privadas. Felizmente, v\u00e1rias organiza\u00e7\u00f5es, coletivos, ONGs, e grupos ativistas est\u00e3o atentos \u00e0s tentativas de implementa\u00e7\u00e3o desses projetos. Um caso interessante, relativamente recente, que envolveu a tentativa de uso de c\u00e2meras de reconhecimento facial pela Viaquatro na linha amarela do metr\u00f4 de S\u00e3o Paulo, contou com a atua\u00e7\u00e3o do IDEC (Instituto Brasileiro de Direitos do Consumidor) e da <\/span>LAVITS<\/span><\/a> (Rede Latino Americana de Estudos sobre Vigil\u00e2ncia, Tecnologia e Sociedade) em <\/span>a\u00e7\u00e3o civil p\u00fablica<\/span><\/a> para questionar e barrar o projeto. Conseguimos que a justi\u00e7a obrigasse a empresa a adesivar as c\u00e2meras para bloquear a captura de imagens. Em uma mobiliza\u00e7\u00e3o no in\u00edcio de mar\u00e7o, essas e outras organiza\u00e7\u00f5es publicaram uma <\/span>carta aberta ao governador de S\u00e3o Paulo<\/span><\/a> cobrando o veto do projeto de lei 865\/19 que prev\u00ea a implanta\u00e7\u00e3o de c\u00e2meras de reconhecimento facial em todo o sistema de trens metropolitanos e metr\u00f4. A carta aponta os v\u00e1rios problemas dessa tecnologia, como tamb\u00e9m os riscos envolvidos. Al\u00e9m da LAVITS e do IDEC, outros exemplos de grupos atentos ao uso abusivo de tecnologias e pr\u00e1ticas de vigil\u00e2ncia incluem: Artigo19 Brasil, Associa\u00e7\u00e3o Data Privacy Brasil de Pesquisa, Coding Rights, Derechos Digitales, Coaliz\u00e3o Direitos na Rede, e Intervozes. O Brasil tem tradi\u00e7\u00e3o na luta por direitos digitais, que vem dos tempos do movimento software livre at\u00e9 o pioneiro e inovador Marco Civil da Internet, mas este \u00e9 um tipo de luta em que n\u00e3o se pode perder a aten\u00e7\u00e3o. Os debates sobre essas quest\u00f5es precisam extrapolar o limite de atua\u00e7\u00e3o das organiza\u00e7\u00f5es que citei e chegar com mais frequ\u00eancia ao p\u00fablico em geral. As pessoas necessitam compreender todas as dimens\u00f5es envolvidas na ado\u00e7\u00e3o acr\u00edtica de tecnologias de vigil\u00e2ncia e controle e os <\/span>poss\u00edveis riscos \u00e0 liberdades civis e justi\u00e7a digital<\/span><\/a> (para ficar no espec\u00edfico). Esse tipo de aten\u00e7\u00e3o por parte da sociedade \u00e9 crucial, pois a fal\u00e1cia do \u201cquem n\u00e3o deve n\u00e3o teme\u201d costuma funcionar como justificativa rasa e de f\u00e1cil aceita\u00e7\u00e3o quando n\u00e3o se conhecem todos os desdobramentos da forma\u00e7\u00e3o de um arranjo de for\u00e7as e pol\u00edticas em desequil\u00edbrio entre garantias de direitos e a necessidade de sistemas de vigil\u00e2ncia e puni\u00e7\u00e3o.<\/span><\/p>\n

 <\/p>\n

[Ilustra\u00e7\u00e3o: Sahar Baharloo]<\/p>\n","protected":false},"excerpt":{"rendered":"

Em entrevista ao jornalista Fernando Barros para o Tilt UOL, Rodrigo Firmino discorreu sobre programas de vigil\u00e2ncia estatal a partir do projeto Sharp Eyes do governo chin\u00eas. Parte da conversa […]<\/p>\n","protected":false},"author":3,"featured_media":8720,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"inline_featured_image":false,"_EventAllDay":false,"_EventTimezone":"","_EventStartDate":"","_EventEndDate":"","_EventStartDateUTC":"","_EventEndDateUTC":"","_EventShowMap":false,"_EventShowMapLink":false,"_EventURL":"","_EventCost":"","_EventCostDescription":"","_EventCurrencySymbol":"","_EventCurrencyCode":"","_EventCurrencyPosition":"","_EventDateTimeSeparator":"","_EventTimeRangeSeparator":"","_EventOrganizerID":[],"_EventVenueID":[],"_OrganizerEmail":"","_OrganizerPhone":"","_OrganizerWebsite":"","_VenueAddress":"","_VenueCity":"","_VenueCountry":"","_VenueProvince":"","_VenueState":"","_VenueZip":"","_VenuePhone":"","_VenueURL":"","_VenueStateProvince":"","_VenueLat":"","_VenueLng":"","_VenueShowMap":false,"_VenueShowMapLink":false,"footnotes":""},"categories":[956],"tags":[],"tematica":[919,929,939,945,947,952],"destaque":[],"class_list":["post-9190","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-entrevistas-2-en","tematica-lutas-sociais-en","tematica-seguranca-privacidade-en","tematica-tecnopoliticas-en","tematica-vigilancia-en","tematica-vigilancia-e-estado-en","tematica-visibilidade-en"],"blocksy_meta":{"styles_descriptor":{"styles":{"desktop":"","tablet":"","mobile":""},"google_fonts":[],"version":6}},"acf":[],"_links":{"self":[{"href":"https:\/\/lavits.org\/en\/wp-json\/wp\/v2\/posts\/9190","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lavits.org\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/lavits.org\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/lavits.org\/en\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/lavits.org\/en\/wp-json\/wp\/v2\/comments?post=9190"}],"version-history":[{"count":0,"href":"https:\/\/lavits.org\/en\/wp-json\/wp\/v2\/posts\/9190\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/lavits.org\/en\/wp-json\/wp\/v2\/media\/8720"}],"wp:attachment":[{"href":"https:\/\/lavits.org\/en\/wp-json\/wp\/v2\/media?parent=9190"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/lavits.org\/en\/wp-json\/wp\/v2\/categories?post=9190"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/lavits.org\/en\/wp-json\/wp\/v2\/tags?post=9190"},{"taxonomy":"tematica","embeddable":true,"href":"https:\/\/lavits.org\/en\/wp-json\/wp\/v2\/tematica?post=9190"},{"taxonomy":"destaque","embeddable":true,"href":"https:\/\/lavits.org\/en\/wp-json\/wp\/v2\/destaque?post=9190"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}