{"id":9284,"date":"2020-07-30T15:29:34","date_gmt":"2020-07-30T18:29:34","guid":{"rendered":"https:\/\/lavits.bemvindo.co\/o-manifesto-nooscopio-inteligencia-artificial-como-instrumento-de-extrativismo-do-conhecimento\/"},"modified":"2020-07-30T15:29:34","modified_gmt":"2020-07-30T18:29:34","slug":"o-manifesto-nooscopio-inteligencia-artificial-como-instrumento-de-extrativismo-do-conhecimento","status":"publish","type":"post","link":"https:\/\/lavits.org\/es\/o-manifesto-nooscopio-inteligencia-artificial-como-instrumento-de-extrativismo-do-conhecimento\/","title":{"rendered":"O Manifesto Noosc\u00f3pio: Intelig\u00eancia Artificial como Instrumento de Extrativismo do Conhecimento"},"content":{"rendered":"

Este texto \u00e9 uma tradu\u00e7\u00e3o livre para o Portugu\u00eas, publicada pela Lavits em primeira-m\u00e3o, do texto \u00abThe Nooscope Manifested: AI as Instrument of Knowledge Extractivism\u00bb<\/em> de Matteo Pasquinelli e Vladan Joler.<\/p>\n

<\/h5>\n

O Manifesto Noosc\u00f3pio: Intelig\u00eancia Artificial como Instrumento de Extrativismo do Conhecimento<\/strong><\/em><\/h2>\n

*Matteo Pasquinelli e Vladan Joler<\/em><\/p>\n

 <\/p>\n

*Para cita\u00e7\u00e3o: Matteo Pasquinelli e Vladan Joler, \u201cO manifesto Noosc\u00f3pio: Intelig\u00eancia Artificial como Instrumento de Extrativismo do Conhecimento\u201d, [Trad. Leandro M\u00f3dolo & Thais Pimentel] KIM research group (Karlsruhe University of Arts and Design) e Share Lab (Novi Sad), 1 de Maio de 2020. Fonte: https:\/\/nooscope.ai<\/a><\/em><\/p>\n

Acesse o Diagrama de erros, vi\u00e9ses e limita\u00e7\u00f5es do aprendizado de m\u00e1quina <\/strong>completo\u00a0aqui.<\/a><\/p>\n

\"\"\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0<\/strong><\/h2>\n

\u00a0\u00a0 <\/strong><\/h2>\n
    \n
  1. \n

    Algum esclarecimento sobre o projeto para mecanizar a raz\u00e3o.<\/strong><\/h3>\n<\/li>\n<\/ol>\n

    O Noosc\u00f3pio \u00e9 uma cartografia dos limites da intelig\u00eancia artificial (IA), destinado a provocar a ci\u00eancia da computa\u00e7\u00e3o e as humanidades. Qualquer mapa \u00e9 uma perspectiva parcial, uma maneira de provocar debates. Da mesma forma, este mapa \u00e9 um manifesto \u2013 um manifesto de dissidentes da IA. Seu principal objetivo \u00e9 desafiar as mistifica\u00e7\u00f5es sobre intelig\u00eancia artificial. Primeiramente quanto a defini\u00e7\u00e3o t\u00e9cnica de intelig\u00eancia <\/strong>e, em segundo, quanto a forma pol\u00edtica de sua dita autonomia<\/strong> frente \u00e0 sociedade e ao humano.1<\/sup> Na express\u00e3o \u00abintelig\u00eancia artificial\u00bb, o adjetivo \u201cartificial\u201d carrega o mito da autonomia da tecnologia: sugere \u00abmentes alien\u00edgenas\u00bb[1] caricaturais que se auto-reproduzem in s\u00edlico<\/em>, mas, na verdade, mistifica dois processos de aliena\u00e7\u00e3o: a crescente autonomia geopol\u00edtica das empresas de alta tecnologia e a invisibiliza\u00e7\u00e3o da autonomia dos trabalhadores em todo o mundo. O projeto moderno de mecanizar a raz\u00e3o humana claramente se transformou, no s\u00e9c. XXI, em um regime corporativo extrativista do conhecimento e um colonialismo epist\u00eamico.2<\/sup> Isso n\u00e3o \u00e9 surpreendente, uma vez que os algoritmos de aprendizado de m\u00e1quina [machine learning] s\u00e3o os mais poderosos para a compress\u00e3o de informa\u00e7\u00f5es.<\/p>\n

    O objetivo do mapa Noosc\u00f3pio \u00e9 secularizar a IA do seu status ideol\u00f3gico de ‘m\u00e1quina inteligente’ para o de instrumento de conhecimento. Em vez de evocar lendas da cogni\u00e7\u00e3o alien\u00edgena, \u00e9 mais razo\u00e1vel considerar o aprendizado de m\u00e1quina como um instrumento de amplia\u00e7\u00e3o do conhecimento<\/strong> que ajuda a perceber caracter\u00edsticas, padr\u00f5es e correla\u00e7\u00f5es atrav\u00e9s de vastos espa\u00e7os de dados que est\u00e3o al\u00e9m do alcance humano. Na hist\u00f3ria da ci\u00eancia e da tecnologia isso n\u00e3o \u00e9 nenhuma novidade: ele j\u00e1 foi perseguido por instrumentos \u00f3pticos ao longo das hist\u00f3rias da astronomia e da medicina.3<\/sup> Na tradi\u00e7\u00e3o da ci\u00eancia, os algoritmos de aprendizado de m\u00e1quina \u00e9 apenas um Noosc\u00f3pio, um instrumento para ver e navegar no espa\u00e7o do conhecimento (do grego skopein<\/em> \u201cexaminar, olhar\u201d e noos<\/em> \u201cconhecimento\u201d).<\/p>\n

    Tomando emprestada a id\u00e9ia de Gottfried Wilhelm Leibniz, o diagrama Noosc\u00f3pio aplica a analogia da m\u00eddia \u00f3ptica \u00e0 estrutura de todos os aparatos de aprendizado de m\u00e1quina. Discutindo o poder de seu calculus ratiocinator<\/em> e \u201cn\u00fameros caracter\u00edsticos\u201d (a ideia de projetar uma linguagem universal num\u00e9rica para codificar e resolver todos os problemas do racioc\u00ednio humano), Leibniz fez uma analogia com instrumentos de amplia\u00e7\u00e3o visual, como o microsc\u00f3pio e o telesc\u00f3pio. Ele escreveu: \u201cUma vez que os n\u00fameros caracter\u00edsticos sejam estabelecidos para a maioria dos conceitos, a humanidade possuir\u00e1 um novo instrumento que aumentar\u00e1 as capacidades da mente em uma extens\u00e3o muito maior do que os instrumentos \u00f3pticos fortalecem os olhos e substituir\u00e1 o microsc\u00f3pio e o telesc\u00f3pio, na medida em que a raz\u00e3o \u00e9 superior \u00e0 vis\u00e3o.\u201d4<\/sup> Embora o objetivo deste texto n\u00e3o seja reiterar a oposi\u00e7\u00e3o entre culturas quantitativas e qualitativas, a cren\u00e7a de Leibniz n\u00e3o precisa ser seguida. Controv\u00e9rsias n\u00e3o podem ser computadas conclusivamente. O aprendizado de m\u00e1quinas n\u00e3o \u00e9 a forma definitiva de intelig\u00eancia.<\/p>\n

    Instrumentos de medi\u00e7\u00e3o e percep\u00e7\u00e3o sempre v\u00eam com distor\u00e7\u00f5es embutidas. Do mesmo modo que as lentes de microsc\u00f3pios e telesc\u00f3pios nunca s\u00e3o perfeitamente curvil\u00edneas e lisas, as lentes l\u00f3gicas<\/em> do aprendizado de m\u00e1quina incorporam falhas e inclina\u00e7\u00f5es. Entender o aprendizado de m\u00e1quina e registrar seu impacto na sociedade \u00e9 estudar o grau em que os dados sociais s\u00e3o difratados e distorcidos por essas lentes. Isso geralmente \u00e9 conhecido como o debate sobre o vi\u00e9s (inclina\u00e7\u00f5es\/predisposi\u00e7\u00f5es) na IA, mas as implica\u00e7\u00f5es pol\u00edticas da forma l\u00f3gica do aprendizado de m\u00e1quina s\u00e3o mais profundas. O aprendizado de m\u00e1quina n\u00e3o est\u00e1 trazendo uma nova era das trevas, mas uma racionalidade difratada, na qual, como ser\u00e1 mostrado, uma episteme de causalidade \u00e9 substitu\u00edda por uma de correla\u00e7\u00f5es automatizadas. Em geral, a IA \u00e9 um novo regime de verdade, prova cient\u00edfica, normatividade social e racionalidade, que muitas vezes toma a forma de uma alucina\u00e7\u00e3o estat\u00edstica<\/em>. Este manifesto diagrama \u00e9 outra maneira de dizer que a IA, o Rei da computa\u00e7\u00e3o (uma fantasia patriarcal do conhecimento mecanizado, \u201calgoritmo mestre\u201d e alpha machine<\/em>) est\u00e1 nu. Aqui, estamos espiando dentro de sua caixa preta.<\/p>\n

    \"\"<\/p>\n

    Sobre a inven\u00e7\u00e3o de met\u00e1foras como instrumentos de amplia\u00e7\u00e3o do conhecimento. Tesauro, Il cannocchiale<\/em> aristotelico [O telesc\u00f3pio aristot\u00e9lico], frontisp\u00edcio da edi\u00e7\u00e3o de 1670, Turim.<\/p>\n

     <\/p>\n

    [1] N.T \u2013 Optamos traduzir \u201calien\u201d por \u201calien\u00edgena(s)\u201d, uma vez que no campo das ci\u00eancias cognitivas (tal como John Searle, Daniel Dennett, David Chalmers e cia) a express\u00e3o \u00e9 usual e se refere a qualquer \u201cmente\u201d n\u00e3o humana, seja ela maqu\u00ednica, seja um animal, um ET ou zombie etc.\u00a0<\/em><\/p>\n

     <\/p>\n

     <\/p>\n

      \n
    1. \n

      A linha de montagem do aprendizado de m\u00e1quina: Dados, Algoritmo, Modelo<\/strong><\/h3>\n<\/li>\n<\/ol>\n

      A hist\u00f3ria da IA \u00e9 uma hist\u00f3ria de experimentos, falhas de m\u00e1quinas, controv\u00e9rsias acad\u00eamicas, rivalidades \u00e9picas em torno de financiamento militar, popularmente conhecidas como \u201cinvernos da IA\u201d.5<\/sup> Embora a IA corporativa hoje descreva seu poder com a linguagem da \u201cmagia negra\u201d e da \u201ccogni\u00e7\u00e3o sobre-humana\u201d, as t\u00e9cnicas atuais ainda est\u00e3o em est\u00e1gio experimental.6<\/sup> Ela est\u00e1 agora no mesmo est\u00e1gio em que estava o motor a vapor quando foi inventado, antes que as leis da termodin\u00e2mica necess\u00e1rias para explicar e controlar seu funcionamento interno fossem descobertas. Da mesma forma, hoje existem redes neurais eficientes para o reconhecimento de imagens, mas n\u00e3o existe uma teoria da aprendizagem<\/em> para explicar porque elas funcionam t\u00e3o bem e como elas falham tanto. Como qualquer inven\u00e7\u00e3o, o paradigma do aprendizado de m\u00e1quina se consolidou lentamente, neste caso atrav\u00e9s do \u00faltimo meio s\u00e9culo. Um algoritmo mestre n\u00e3o apareceu da noite para o dia. Ao contr\u00e1rio, houve uma constru\u00e7\u00e3o gradual de um m\u00e9todo de computa\u00e7\u00e3o que ainda precisa encontrar uma linguagem comum. Manuais de aprendizado de m\u00e1quina para estudantes, por exemplo, ainda n\u00e3o compartilham uma terminologia comum. Como esbo\u00e7ar, ent\u00e3o, uma gram\u00e1tica cr\u00edtica do aprendizado de m\u00e1quina que pode ser concisa e acess\u00edvel, sem participar do jogo paran\u00f3ico de definir uma Intelig\u00eancia Geral?<\/p>\n

      Como instrumento de conhecimento, o aprendizado de m\u00e1quina \u00e9 composto de um objeto a ser observado (conjuntos de dados de treinamento<\/strong>), um instrumento de observa\u00e7\u00e3o (algoritmo de aprendizagem<\/strong>) e uma representa\u00e7\u00e3o final (modelo estat\u00edstico<\/strong>). A montagem desses tr\u00eas elementos \u00e9 proposta aqui como um diagrama esp\u00fario e barroco de aprendizado de m\u00e1quina, extravagantemente denominado Noosc\u00f3pio.7 <\/sup>Seguindo a analogia da m\u00eddia \u00f3tica, o fluxo de informa\u00e7\u00f5es do aprendizado de m\u00e1quina \u00e9 como um feixe de luz que \u00e9 projetado pelos dados de treinamento, comprimido pelo algoritmo e difratado para o mundo pelas lentes do modelo estat\u00edstico.<\/p>\n

      O diagrama Noosc\u00f3pio tem como objetivo ilustrar dois lados do aprendizado de m\u00e1quina ao mesmo tempo: como ele funciona e como ele falha<\/strong> \u2013 enumerando seus principais componentes, bem como o amplo espectro de erros, limita\u00e7\u00f5es, aproxima\u00e7\u00f5es, inclina\u00e7\u00f5es, falhas, fal\u00e1cias e vulnerabilidades que s\u00e3o nativas ao seu paradigma.8<\/sup> Essa dupla opera\u00e7\u00e3o enfatiza que a IA n\u00e3o \u00e9 um paradigma monol\u00edtico de racionalidade, mas uma arquitetura esp\u00faria feita de t\u00e9cnicas e truques de adapta\u00e7\u00e3o. Al\u00e9m disso, os limites da IA n\u00e3o s\u00e3o simplesmente t\u00e9cnicos, mas s\u00e3o imbricados pelo vi\u00e9s humano. No diagrama do Nooscope, os componentes essenciais do aprendizado de m\u00e1quina est\u00e3o representados no centro, as interven\u00e7\u00f5es e os vieses humanas<\/strong> \u00e0 esquerda, e as limita\u00e7\u00f5es e os vieses<\/strong> t\u00e9cnicas<\/strong> \u00e0 direita. As lentes \u00f3pticas simbolizam os vieses e aproxima\u00e7\u00f5es que representam a compress\u00e3o e distor\u00e7\u00e3o do fluxo de informa\u00e7\u00f5es. O vi\u00e9s total do aprendizado de m\u00e1quina \u00e9 representado pela lente central do modelo estat\u00edstico atrav\u00e9s do qual a percep\u00e7\u00e3o do mundo \u00e9 difratada.<\/p>\n

      As limita\u00e7\u00f5es da IA s\u00e3o geralmente percebidas hoje gra\u00e7as ao discurso sobre os vieses – a amplia\u00e7\u00e3o das discrimina\u00e7\u00f5es de g\u00eanero, ra\u00e7a, habilidades e classe social por algoritmos. No aprendizado de m\u00e1quina, \u00e9 necess\u00e1rio distinguir entre vi\u00e9s hist\u00f3rico, vi\u00e9s do conjuntos de dados e vi\u00e9s algor\u00edtmico, os quais ocorrem em diferentes est\u00e1gios do fluxo de informa\u00e7\u00f5es.9<\/sup> O vi\u00e9s hist\u00f3rico<\/strong> (ou vis\u00e3o de mundo) j\u00e1 \u00e9 aparente na sociedade antes da interven\u00e7\u00e3o tecnol\u00f3gica. No entanto, a naturaliza\u00e7\u00e3o desse vi\u00e9s, que \u00e9 a silenciosa integra\u00e7\u00e3o da desigualdade em uma tecnologia aparentemente neutra, \u00e9 por si s\u00f3 prejudicial.10<\/sup> Parafraseando Michelle Alexander, Ruha Benjamin chamou de New Jim Code: \u201co emprego de novas tecnologias que refletem e reproduzem as desigualdades existentes, mas que s\u00e3o promovidas e percebidas como mais objetivas ou progressistas do que os sistemas discriminat\u00f3rios de uma \u00e9poca anterior\u201d.11<\/sup> O vi\u00e9s do conjunto de dados<\/strong> \u00e9 introduzido atrav\u00e9s da prepara\u00e7\u00e3o do treinamento de dados por operadores humanos. A parte mais delicada do processo \u00e9 a rotulagem de dados, na qual taxonomias antigas e conservadoras podem causar uma vis\u00e3o distorcida do mundo, deturpando diversidades sociais e exacerbando hierarquias sociais (veja abaixo o caso do ImageNet).<\/p>\n

      Vi\u00e9s algor\u00edtmico<\/strong> (tamb\u00e9m conhecido como vi\u00e9s de m\u00e1quina, vi\u00e9s estat\u00edstico ou vi\u00e9s de modelo, ao qual o diagrama Noosc\u00f3pio d\u00e1 aten\u00e7\u00e3o especial) \u00e9 a amplia\u00e7\u00e3o adicional do vi\u00e9s hist\u00f3rico e vi\u00e9s do conjuntos de dados por algoritmos de aprendizado de m\u00e1quina. O problema do vi\u00e9s se originou principalmente do fato de que os algoritmos de aprendizado de m\u00e1quina est\u00e3o entre os mais eficientes para a compress\u00e3o de informa\u00e7\u00f5es<\/strong> [data compression], o que engendra problemas de resolu\u00e7\u00e3o, difra\u00e7\u00e3o e perda de informa\u00e7\u00f5es.12<\/sup> Desde os tempos antigos, os algoritmos t\u00eam sido procedimentos de natureza econ\u00f4mica, projetados para alcan\u00e7ar um resultado com o menor n\u00famero de etapas e com o consumo da menor quantidade de recursos: espa\u00e7o, tempo, energia e trabalho.13<\/sup> A corrida armamentista das empresas de IA ainda est\u00e1 preocupada em encontrar os algoritmos mais simples e r\u00e1pidos com os quais capitalizar dados. Se a compress\u00e3o de informa\u00e7\u00f5es produz a taxa m\u00e1xima de lucro na IA corporativa, do ponto de vista da sociedade, produz discrimina\u00e7\u00e3o e perda de diversidade cultural.<\/p>\n

      Embora as consequ\u00eancias sociais da IA sejam popularmente entendidas sob a quest\u00e3o do vi\u00e9s, o entendimento comum das limita\u00e7\u00f5es t\u00e9cnicas \u00e9 conhecido como o problema caixa preta. O efeito caixa preta<\/strong> \u00e9 uma quest\u00e3o real de redes neurais profundas (que filtram tanto informa\u00e7\u00f5es que sua cadeia de racioc\u00ednio n\u00e3o pode ser revertida), mas se tornou um pretexto gen\u00e9rico para a opini\u00e3o de que os sistemas de IA n\u00e3o s\u00e3o apenas inescrut\u00e1veis e opacos, mas at\u00e9 \u201calien\u00edgenas\u201d e fora de controle.14<\/sup> O efeito caixa preta faz parte da natureza de qualquer m\u00e1quina experimental no est\u00e1gio inicial de desenvolvimento (j\u00e1 foi observado que o funcionamento do motor a vapor permaneceu um mist\u00e9rio por algum tempo, mesmo depois de ter sido testado com sucesso). O problema atual \u00e9 a ret\u00f3rica da caixa preta, que est\u00e1 intimamente ligada a sentimentos conspirativos nos quais a IA figura como um poder oculto que n\u00e3o pode ser estudado, conhecido ou controlado politicamente.<\/p>\n

       <\/p>\n

       <\/p>\n

        \n
      1. \n

        O conjunto de dados de treinamento: as origens sociais da intelig\u00eancia da m\u00e1quina<\/strong><\/h3>\n<\/li>\n<\/ol>\n

        A digitaliza\u00e7\u00e3o em massa, que se expandiu com a Internet nos anos 90 e aumentou com os centros de dados nos anos 2000, disponibilizou vastos recursos de dados que, pela primeira vez na hist\u00f3ria, s\u00e3o gratuitos e n\u00e3o regulamentados. Um regime de extrativismo do conhecimento<\/em> (ent\u00e3o conhecido como Big Data) gradualmente empregou algoritmos eficientes para extrair \u201cintelig\u00eancia\u201d dessas fontes abertas de dados, principalmente com o objetivo de prever o comportamento do consumidor e vender an\u00fancios. A economia do conhecimento se transformou em uma nova forma de capitalismo, chamada capitalismo cognitivo<\/em> e, em seguida, capitalismo de vigil\u00e2ncia<\/em>, por diferentes autores.15<\/sup> Foi a Internet que fez transbordar informa\u00e7\u00f5es, enormes centros de dados, microprocessadores mais r\u00e1pidos e algoritmos de compress\u00e3o de dados lan\u00e7ando as bases para o surgimento dos monop\u00f3lios em IA no s\u00e9culo XXI.<\/p>\n

        Que tipo de objeto t\u00e9cnico e cultural \u00e9 o conjunto de dados que constitui a fonte da IA? A qualidade dos dados de treinamento<\/strong> \u00e9 o fator mais importante que afeta a chamada ‘intelig\u00eancia’ que os algoritmos de aprendizado de m\u00e1quina extraem. H\u00e1 uma perspectiva importante a ser levada em considera\u00e7\u00e3o, a fim de entender a IA como um Noosc\u00f3pio. Os dados s\u00e3o a primeira fonte de valor e intelig\u00eancia. Algoritmos s\u00e3o os segundos; elas s\u00e3o as m\u00e1quinas que computam esse valor e intelig\u00eancia em um modelo. No entanto, os dados de treinamento nunca s\u00e3o brutos, independentes e imparciais (eles pr\u00f3prios j\u00e1 s\u00e3o ‘algor\u00edtmicos’).16<\/sup> A cria\u00e7\u00e3o, formata\u00e7\u00e3o e edi\u00e7\u00e3o dos conjuntos de dados de treinamento \u00e9 uma tarefa trabalhosa e delicada, provavelmente mais significativa para os resultados finais do que os par\u00e2metros t\u00e9cnicos que controlam o algoritmo de aprendizado. O ato de selecionar uma fonte de dados em vez de outra \u00e9 a marca profunda da interven\u00e7\u00e3o humana no dom\u00ednio das mentes \u201cartificiais\u201d.<\/p>\n

        \"Data\"<\/p>\n

        O conjunto de dados de treinamento \u00e9 uma constru\u00e7\u00e3o cultural<\/strong>, n\u00e3o apenas t\u00e9cnica. Isso deralmente inclui dados de input <\/em>associados ao output<\/em> ideal do dados, como imagens com suas descri\u00e7\u00f5es, tamb\u00e9m chamadas de r\u00f3tulos ou metadados.17<\/sup> O exemplo can\u00f4nico seria uma cole\u00e7\u00e3o de museu e seus arquivos, no qual as obras de arte s\u00e3o organizadas por metadados como autor, ano, meio etc. O processo semi\u00f3tico de atribuir um nome ou uma categoria a uma imagem nunca \u00e9 imparcial; essa a\u00e7\u00e3o deixa mais uma marca humana profunda no resultado final da cogni\u00e7\u00e3o da m\u00e1quina. Um conjunto de dados de treinamento para aprendizado de m\u00e1quina geralmente \u00e9 composto pelas seguintes etapas: 1) produ\u00e7\u00e3o: trabalho ou fen\u00f4meno que produz informa\u00e7\u00f5es; 2) captura: codifica\u00e7\u00e3o das informa\u00e7\u00f5es em um formato de dados por um instrumento; 3) formata\u00e7\u00e3o: organiza\u00e7\u00e3o dos dados em um conjunto de dados; 4) rotulagem: no aprendizado supervisionado, a classifica\u00e7\u00e3o dos dados em categorias (metadados).<\/p>\n

        A intelig\u00eancia da m\u00e1quina \u00e9 treinada em vastos conjuntos de dados que s\u00e3o acumulados de maneiras nem tecnicamente neutras nem socialmente imparciais. Os dados brutos n\u00e3o existem, pois dependem do trabalho humano, de dados pessoais e de comportamentos sociais que se acumulam por longos per\u00edodos, por meio de redes estendidas e taxonomias controversas.18<\/sup> Os principais conjuntos de dados de treinamento para aprendizado de m\u00e1quina (NMIST, ImageNet, Labeled Faces in the Wild etc.) tiveram origem em empresas, universidades e ag\u00eancias militares do Norte Global. Mas, olhando com mais cuidado, descobrimos uma divis\u00e3o profunda do trabalho que irriga o Sul Global por meio de plataformas de crowdsourcing<\/em> usadas para editar e validar dados.19<\/sup> A par\u00e1bola do conjunto de dados ImageNet<\/strong> exemplifica os problemas de muitos conjuntos de dados de IA. O ImageNet \u00e9 um conjunto de dados de treinamento para Deep Learning [Aprendizagem profunda] que se tornou a refer\u00eancia de facto para algoritmos de reconhecimento de imagem: deveras, a revolu\u00e7\u00e3o da Deep Learning come\u00e7ou em 2012 quando Alex Krizhevsky, Ilya Sutskever e Geoffrey Hinton venceram o desafio anual do ImageNet com a rede neural convolucional [Convolutional Neural Network] AlexNet.20<\/sup> O ImageNet foi iniciado pela cientista da computa\u00e7\u00e3o Fei-Fei Li em 2006.21<\/sup> A Fei-Fei Li tinha tr\u00eas intui\u00e7\u00f5es para criar um conjunto de dados confi\u00e1vel para o reconhecimento de imagens. Primeiro, fa\u00e7a o download de milh\u00f5es de imagens gratuitas de servi\u00e7os web, como Flickr e Google. Segundo, adote a taxonomia computacional WordNet<\/strong> para r\u00f3tulos de imagens.22<\/sup> Terceiro, terceirize o trabalho de rotular milh\u00f5es de imagens por meio da plataforma de crowdsourcing<\/em> Amazon Mechanical Turk. No final do dia (e da linha de montagem), trabalhadores an\u00f4nimos de todo o planeta recebiam poucos centavos por tarefa para rotular centenas de fotos por minuto, de acordo com a taxonomia do WordNet: tal trabalho resultou na engenharia de uma constru\u00e7\u00e3o cultural controversa. Os estudiosos da IA, Kate Crawford e o artista Trevor Paglen investigaram e divulgaram a sedimenta\u00e7\u00e3o de categorias racistas e sexistas na taxonomia ImageNet: veja a legitima\u00e7\u00e3o da categoria \u201cpessoa fracassada, perdida, iniciante e mal-sucedida\u201d para cem fotos arbitr\u00e1rias de pessoas.23<\/sup><\/p>\n

        O voraz extrativismo de dados da IA causou uma rea\u00e7\u00e3o [backlash] imprevis\u00edvel \u00e0 cultura digital: no in\u00edcio dos anos 2000, Lawrence Lessig n\u00e3o podia prever que o grande reposit\u00f3rio de imagens online creditadas pelas licen\u00e7as Creative Commons<\/strong> se tornaria uma d\u00e9cada mais tarde um recurso n\u00e3o regulamentado para tecnologias de vigil\u00e2ncia por reconhecimento facial. De maneira semelhante, os dados pessoais seguem sendo continuamente incorporados sem transpar\u00eancia aos conjuntos de dados privatizados para aprendizado de m\u00e1quina. Em 2019, o artista e pesquisador de IA Adam Harvey divulgou pela primeira vez o uso n\u00e3o consensual de fotos pessoais em conjuntos de dados de treinamento para reconhecimento facial. A divulga\u00e7\u00e3o de Harvey fez com que a Universidade de Stanford, a Universidade de Duke e a Microsoft retirassem seus conjuntos de dados em meio a um grande esc\u00e2ndalo de viola\u00e7\u00e3o de privacidade<\/strong>.24<\/sup> Os conjuntos de dados de treinamento on-line desencadeiam quest\u00f5es de soberania de dados e direitos civis que as institui\u00e7\u00f5es tradicionais demoram a combater (consulte o Regulamento Geral sobre Prote\u00e7\u00e3o de Dados da Uni\u00e3o Europ\u00e9ia).25<\/sup> Se 2012 foi o ano em que a revolu\u00e7\u00e3o da Deep Learning come\u00e7ou, 2019 foi o ano em que suas fontes foram descobertas vulner\u00e1veis e corrompidas.\u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \"Combinatorial<\/p>\n

        \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 Padr\u00f5es combinat\u00f3rios e Kufic scripts, pergaminho de Topkapi, Ir\u00e3, 1500 d.C.<\/p>\n

         <\/p>\n

         <\/p>\n

          \n
        1. \n

          A hist\u00f3ria da IA como a automa\u00e7\u00e3o da percep\u00e7\u00e3o<\/strong><\/h3>\n<\/li>\n<\/ol>\n

          A necessidade de desmistificar a IA (pelo menos do ponto de vista t\u00e9cnico) tamb\u00e9m \u00e9 entendida no mundo corporativo. O chefe da IA do Facebook e padrinho das redes neurais convolucionais Yann LeCun reitera que os atuais sistemas de IA n\u00e3o s\u00e3o vers\u00f5es sofisticadas de cogni\u00e7\u00e3o, mas sim de percep\u00e7\u00e3o. Da mesma forma, o diagrama Nooscope exp\u00f5e o esqueleto da caixa preta da IA e mostra que a IA n\u00e3o \u00e9 um aut\u00f4mato pensante, mas um algoritmo que executa reconhecimento de padr\u00f5es<\/strong>. A no\u00e7\u00e3o de reconhecimento de padr\u00f5es cont\u00e9m quest\u00f5es que precisam ser elaboradas. A prop\u00f3sito, o que \u00e9 um padr\u00e3o? Um padr\u00e3o \u00e9 exclusivamente uma entidade visual? O que significa ler comportamentos sociais como padr\u00f5es? O reconhecimento de padr\u00f5es \u00e9 uma defini\u00e7\u00e3o exaustiva de intelig\u00eancia? Muito provavelmente, n\u00e3o. Para esclarecer essas quest\u00f5es, seria bom realizar uma breve arqueologia da IA.<\/p>\n

          A m\u00e1quina arquet\u00edpica para reconhecimento de padr\u00f5es \u00e9 a Perceptron<\/strong> de Frank Rosenblatt. Inventada em 1957 no Laborat\u00f3rio Aeron\u00e1utico de Cornell, em Buffalo\/Nova York, seu nome \u00e9 uma abrevia\u00e7\u00e3o de \u201cPercebendo e Reconhecendo o Aut\u00f4mato\u201d.26<\/sup> Dada uma matriz visual de fotorreceptores com 20 x 20, a Perceptron pode aprender a reconhecer letras simples. Um padr\u00e3o visual \u00e9 registrado como uma impress\u00e3o em uma rede de neur\u00f4nios artificiais que s\u00e3o acionados em conjunto com a repeti\u00e7\u00e3o de imagens semelhantes e ativando um \u00fanico neur\u00f4nio de output<\/em>. O neur\u00f4nio de output dispara 1 = verdadeiro, se uma determinada imagem for reconhecida, ou 0 = falso, se uma determinada imagem n\u00e3o for reconhecida.<\/p>\n

          A automa\u00e7\u00e3o da percep\u00e7\u00e3o, como uma montagem visual de pixels ao longo de uma linha de montagem computacional, estava originalmente impl\u00edcita no conceito de redes neurais artificiais de McCulloch e Pitt.27<\/sup> Depois que o algoritmo para reconhecimento visual de padr\u00f5es sobreviveu ao \u201cinverno da IA\u201d e se mostrou eficiente no final dos anos 2000, foi aplicado tamb\u00e9m a conjuntos de dados n\u00e3o visuais, inaugurando propriamente a era do Deep Learning (a aplica\u00e7\u00e3o de t\u00e9cnicas de reconhecimento de padr\u00f5es a todos os tipos de dados, n\u00e3o apenas visuais). Hoje, no caso de carros aut\u00f4nomos, os padr\u00f5es que precisam ser reconhecidos s\u00e3o objetos nos cen\u00e1rios das estradas. No caso da tradu\u00e7\u00e3o autom\u00e1tica, os padr\u00f5es que precisam ser reconhecidos s\u00e3o as sequ\u00eancias de palavras mais comuns nos textos bil\u00edngues. Independentemente de sua complexidade, da perspectiva num\u00e9rica do aprendizado de m\u00e1quina, no\u00e7\u00f5es como imagem, movimento, forma, estilo e decis\u00e3o \u00e9tica podem ser descritas como distribui\u00e7\u00f5es estat\u00edsticas de padr\u00e3o. Nesse sentido, o reconhecimento de padr\u00f5es se tornou verdadeiramente uma nova t\u00e9cnica cultural <\/strong>usada em v\u00e1rios campos. Por motivos de explica\u00e7\u00e3o, o Noosc\u00f3pio \u00e9 descrito como uma m\u00e1quina que opera em tr\u00eas modalidades: treinamento, classifica\u00e7\u00e3o <\/strong>e previs\u00e3o<\/strong>. Em termos mais intuitivos, essas modalidades podem ser chamadas: extra\u00e7\u00e3o de padr\u00f5es, reconhecimento de padr\u00f5es e gera\u00e7\u00e3o de padr\u00f5es.<\/p>\n

          O Perceptron de Rosenblatt foi o primeiro algoritmo que abriu o caminho para o aprendizado de m\u00e1quina no sentido contempor\u00e2neo. Numa \u00e9poca em que a ‘ci\u00eancia da computa\u00e7\u00e3o’ ainda n\u00e3o havia sido adotada como defini\u00e7\u00e3o, o campo foi chamado de ‘geometria computacional’ e especificamente ‘conexionismo’ pelo pr\u00f3prio Rosenblatt. O neg\u00f3cio dessas redes neurais, todavia, era calcular uma infer\u00eancia estat\u00edstica. O que uma rede neural calcula n\u00e3o \u00e9 um padr\u00e3o exato, mas a distribui\u00e7\u00e3o estat\u00edstica de um padr\u00e3o<\/strong>. Apenas raspando a superf\u00edcie do marketing antropom\u00f3rfico da IA, encontramos outro objeto t\u00e9cnico e cultural que precisa ser examinado: o modelo estat\u00edstico. Qual \u00e9 o modelo estat\u00edstico <\/strong>no aprendizado de m\u00e1quina? Como \u00e9 calculado? Qual \u00e9 a rela\u00e7\u00e3o entre um modelo estat\u00edstico e a cogni\u00e7\u00e3o humana? Essas s\u00e3o quest\u00f5es cruciais a serem esclarecidas. Em termos do trabalho de desmistifica\u00e7\u00e3o que precisa ser feito (tamb\u00e9m para dissipar algumas perguntas ing\u00eanuas), seria bom reformular a quest\u00e3o banal \u201cUma m\u00e1quina pode pensar?\u201d nas quest\u00f5es teoricamente mais s\u00f3lidas \u201cUm modelo estat\u00edstico pode pensar?\u201d, \u201cUm modelo estat\u00edstico pode desenvolver uma consci\u00eancia?\u201d, et cetera<\/em>.<\/p>\n

           <\/p>\n

           <\/p>\n

            \n
          1. \n

            O algoritmo de aprendizagem: comprimindo o mundo em um modelo estat\u00edstico<\/strong><\/h3>\n<\/li>\n<\/ol>\n

            Os algoritmos da IA s\u00e3o frequentemente evocados como f\u00f3rmulas alqu\u00edmicas, capazes de destilar formas de intelig\u00eancia ‘alien\u00edgenas’. Mas o que os algoritmos de aprendizado de m\u00e1quina realmente fazem? Poucas pessoas, incluindo os seguidores da Intelig\u00eancia Artificial Geral [Artificial General Intelligence – AGI], se preocupam em fazer essa pergunta. Algoritmo \u00e9 o nome de um processo, pelo qual uma m\u00e1quina faz um c\u00e1lculo. O produto de tais processos de m\u00e1quina \u00e9 um modelo estat\u00edstico (mais precisamente denominado \u00abmodelo estat\u00edstico algor\u00edtmico\u00bb). Na comunidade de desenvolvedores, o termo ‘algoritmo’ \u00e9 cada vez mais substitu\u00eddo por ‘modelo’. Essa confus\u00e3o terminol\u00f3gica surge do fato do modelo estat\u00edstico n\u00e3o existir separadamente do algoritmo: de alguma forma, o modelo estat\u00edstico existe dentro do algoritmo sob a forma de mem\u00f3ria distribu\u00edda atrav\u00e9s de seus par\u00e2metros. Pela mesma raz\u00e3o, \u00e9 essencialmente imposs\u00edvel visualizar um modelo estat\u00edstico algor\u00edtmico, como \u00e9 feito com fun\u00e7\u00f5es matem\u00e1ticas simples. Ainda assim, o desafio vale a pena.<\/p>\n

            No aprendizado de m\u00e1quina, existem muitas arquiteturas algor\u00edtmicas<\/strong>: Perceptron simples, rede neural profunda, Support Vector Machine, rede Bayesiana, cadeia de Markov, autoencoder<\/em>, m\u00e1quina de Boltzmann, etc. Cada uma dessas arquiteturas tem uma hist\u00f3ria diferente (muitas vezes enraizada em ag\u00eancias e corpora\u00e7\u00f5es militares do Norte Global). As redes neurais artificiais come\u00e7aram como estruturas de computa\u00e7\u00e3o simples que evolu\u00edram para estruturas complexas que agora s\u00e3o controladas por alguns hiperpar\u00e2metros<\/strong> que expressam milh\u00f5es de par\u00e2metros<\/strong>.<\/a>28<\/sup> Por exemplo, redes neurais convolucionais s\u00e3o descritas por um conjunto limitado de hiperpar\u00e2metros (n\u00famero de camadas, n\u00famero de neur\u00f4nios por camada, tipo de conex\u00e3o, comportamento dos neur\u00f4nios etc.) que projetam uma topologia complexa de milhares de neur\u00f4nios artificiais com milh\u00f5es de par\u00e2metros no total. O algoritmo inicia como uma folha em branco e, durante o processo chamado treinamento, ou ‘aprendendo com os dados’, ajusta seus par\u00e2metros at\u00e9 atingir uma boa representa\u00e7\u00e3o dos dados de input<\/em>. No reconhecimento de imagens, como j\u00e1 visto, a computa\u00e7\u00e3o de milh\u00f5es de par\u00e2metros deve ser resolvida em um output<\/em> bin\u00e1rio simples: 1=verdadeiro, uma determinada imagem \u00e9 reconhecida; ou 0=falso, uma determinada imagem n\u00e3o \u00e9 reconhecida.29<\/sup><\/p>\n

            \"Source:
            \n\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 <\/sup>\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 Fonte: https:\/\/www.asimovinstitute.org\/neural-network-zoo<\/em><\/p>\n

             <\/p>\n

            Tentando uma explica\u00e7\u00e3o acess\u00edvel da rela\u00e7\u00e3o entre algoritmo e modelo, vamos dar uma olhada no complexo algoritmo Inception v3, uma profunda rede neural convolucional para reconhecimento de imagens projetada no Google e treinada no conjunto de dados ImageNet. Diz-se que a v3 tem uma precis\u00e3o de 78% na identifica\u00e7\u00e3o do r\u00f3tulo de uma imagem, mas o desempenho da ‘intelig\u00eancia da m\u00e1quina’ nesse caso tamb\u00e9m pode ser medido pela propor\u00e7\u00e3o entre o tamanho dos dados de treinamento e o algoritmo (ou modelo) treinado. O ImageNet cont\u00e9m 14 milh\u00f5es de imagens com etiquetas associadas que ocupam aproximadamente 150 gigabytes<\/em> de mem\u00f3ria. Por outro lado, o Inception v3, destinado a representar as informa\u00e7\u00f5es contidas no ImageNet, tem apenas 92 megabytes. A taxa de compress\u00e3o entre os dados de treinamento e o modelo descreve parcialmente tamb\u00e9m a taxa de difra\u00e7\u00e3o de informa\u00e7\u00f5es. Uma tabela da documenta\u00e7\u00e3o da Keras compara esses valores (n\u00famero de par\u00e2metros, profundidade da camada, dimens\u00e3o do arquivo e precis\u00e3o) para os principais modelos de reconhecimento de imagem.30<\/sup> Essa \u00e9 uma maneira grosseira, mas eficaz, de mostrar a rela\u00e7\u00e3o entre modelo e dados, para mostrar como a ‘intelig\u00eancia’ dos algoritmos \u00e9 medida e avaliada na comunidade de desenvolvedores.<\/p>\n

            Documenta\u00e7\u00e3o por modelos individuais<\/em><\/p>\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
            Modelo<\/strong><\/td>\nTamanho<\/strong><\/td>\n Top-1 Precis\u00e3o<\/strong><\/td>\n Top-5 Precis\u00e3o<\/strong><\/td>\n\u00a0\u00a0 Parametros<\/strong><\/td>\nProfundidade<\/strong><\/td>\n<\/tr>\n
            Xception<\/td>\n88 MB<\/td>\n0.790<\/td>\n0.945<\/td>\n22,910,480<\/td>\n126<\/td>\n<\/tr>\n
            VGG16<\/td>\n528 MB<\/td>\n0.713<\/td>\n0.901<\/td>\n138,357,544<\/td>\n23<\/td>\n<\/tr>\n
            VGG19<\/td>\n549 MB<\/td>\n0.713<\/td>\n0.900<\/td>\n143,667,240<\/td>\n26<\/td>\n<\/tr>\n
            ResNet50<\/td>\n98 MB<\/td>\n0.749<\/td>\n0.921<\/td>\n25,636,712<\/td>\n–<\/td>\n<\/tr>\n
            ResNet101<\/td>\n171 MB<\/td>\n0.764<\/td>\n0.928<\/td>\n44,707,176<\/td>\n–<\/td>\n<\/tr>\n
            ResNet152<\/td>\n232 MB<\/td>\n0.766<\/td>\n0.931<\/td>\n60,419,944<\/td>\n–<\/td>\n<\/tr>\n
            ResNet50V2<\/td>\n98 MB<\/td>\n0.760<\/td>\n0.930<\/td>\n25,613,800<\/td>\n–<\/td>\n<\/tr>\n
            ResNet101V2<\/td>\n171 MB<\/td>\n0.772<\/td>\n0.938<\/td>\n44,675,560<\/td>\n–<\/td>\n<\/tr>\n
            ResNet152V2<\/td>\n232 MB<\/td>\n0.780<\/td>\n0.942<\/td>\n60,380,648<\/td>\n–<\/td>\n<\/tr>\n
            InceptionV3<\/td>\n92 MB<\/td>\n0.779<\/td>\n0.937<\/td>\n23,851,784<\/td>\n159<\/td>\n<\/tr>\n
            InceptionResNetV2<\/td>\n215 MB<\/td>\n0.803<\/td>\n0.953<\/td>\n55,873,736<\/td>\n572<\/td>\n<\/tr>\n
            MobileNet<\/td>\n16 MB<\/td>\n0.704<\/td>\n0.895<\/td>\n4,253,864<\/td>\n88<\/td>\n<\/tr>\n
            MobileNetV2<\/td>\n14 MB<\/td>\n0.713<\/td>\n0.901<\/td>\n3,538,984<\/td>\n88<\/td>\n<\/tr>\n
            DenseNet121<\/td>\n33 MB<\/td>\n0.750<\/td>\n0.923<\/td>\n8,062,504<\/td>\n121<\/td>\n<\/tr>\n
            DenseNet169<\/td>\n57 MB<\/td>\n0.762<\/td>\n0.932<\/td>\n14,307,880<\/td>\n169<\/td>\n<\/tr>\n
            DenseNet201<\/td>\n80 MB<\/td>\n0.773<\/td>\n0.936<\/td>\n20,242,984<\/td>\n201<\/td>\n<\/tr>\n
            NASNetMobile<\/td>\n23 MB<\/td>\n0.744<\/td>\n0.919<\/td>\n5,326,716<\/td>\n–<\/td>\n<\/tr>\n
            NASNetLarge<\/td>\n343 MB<\/td>\n0.825<\/td>\n0.960<\/td>\n88,949,818<\/td>\n–<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

            Fonte: keras.io\/applications<\/a><\/p>\n

            Os modelos estat\u00edsticos sempre influenciaram a cultura e a pol\u00edtica. Eles n\u00e3o surgiram apenas com o aprendizado de m\u00e1quina: este \u00e9 apenas uma nova maneira de automatizar a t\u00e9cnica da modelagem estat\u00edstica. Quando Greta Thunberg adverte ‘Ou\u00e7a a ci\u00eancia’, o que ela realmente quer dizer, sendo uma boa aluna de matem\u00e1tica, \u00e9 ‘Ou\u00e7a os modelos estat\u00edsticos da ci\u00eancia clim\u00e1tica’. Sem modelos estat\u00edsticos, sem ci\u00eancia clim\u00e1tica \u2013 e sem ci\u00eancia clim\u00e1tica, sem ativismo clim\u00e1tico. A ci\u00eancia do clima \u00e9 realmente um bom exemplo para come\u00e7ar, a fim de entender modelos estat\u00edsticos. O aquecimento global foi calculado coletando primeiro um vasto conjunto de dados de temperaturas da superf\u00edcie da Terra todos os dias do ano, e segundo, aplicando um modelo matem\u00e1tico que tra\u00e7a a curva das varia\u00e7\u00f5es de temperatura no passado e projeta o mesmo padr\u00e3o no futuro.31<\/sup> Modelos clim\u00e1ticos s\u00e3o artefatos hist\u00f3ricos que s\u00e3o testados e debatidos na comunidade cient\u00edfica<\/strong>, e hoje, tamb\u00e9m para al\u00e9m dela.32<\/sup> Os modelos de aprendizado de m\u00e1quina, pelo contr\u00e1rio, s\u00e3o opacos e inacess\u00edveis ao debate da comunidade. Dado o grau de cria\u00e7\u00e3o de mitos e vi\u00e9s social em torno de suas constru\u00e7\u00f5es matem\u00e1ticas, a IA realmente inaugurou a era da fic\u00e7\u00e3o cient\u00edfica estat\u00edstica<\/em>. Noosc\u00f3pio \u00e9 o projetor deste grande cinema estat\u00edstico.<\/p>\n

             <\/p>\n

             <\/p>\n

              \n
            1. \n

              Todos os modelos est\u00e3o errados, mas alguns s\u00e3o \u00fateis<\/strong><\/h3>\n<\/li>\n<\/ol>\n

              \u00abTodos os modelos est\u00e3o errados, mas alguns s\u00e3o \u00fateis\u00bb – o ditado can\u00f4nico do estat\u00edstico brit\u00e2nico George Box h\u00e1 muito encapsula as limita\u00e7\u00f5es l\u00f3gicas da estat\u00edstica e do aprendizado de m\u00e1quina.33<\/sup> Essa m\u00e1xima, no entanto, \u00e9 frequentemente usada para legitimar o vi\u00e9s da IA corporativa e estatal. Os cientistas da computa\u00e7\u00e3o argumentam que a cogni\u00e7\u00e3o humana reflete a capacidade de abstrair e de se aproximar de padr\u00f5es. Ent\u00e3o, qual \u00e9 o problema das m\u00e1quinas tambem serem formas aproximadas, e fazerem o mesmo? Dentro desse argumento, \u00e9 repetido retoricamente que \u201co mapa n\u00e3o \u00e9 o territ\u00f3rio\u201d. Isso parece razo\u00e1vel. Mas o que deve ser contestado \u00e9 que a IA \u00e9 um mapa fortemente comprimido e distorcido do territ\u00f3rio e que esse mapa, como muitas formas de automa\u00e7\u00e3o, n\u00e3o est\u00e1 aberto \u00e0 negocia\u00e7\u00e3o da comunidade. AI \u00e9 um mapa do territ\u00f3rio sem acesso e consentimento da comunidade.34<\/sup><\/p>\n

              Como o aprendizado de m\u00e1quina tra\u00e7a um mapa estat\u00edstico do mundo? Vamos encarar o caso espec\u00edfico do reconhecimento de imagens (a forma b\u00e1sica do trabalho de percep\u00e7\u00e3o<\/strong>, que foi codificado e automatizado como reconhecimento de padr\u00f5es).35<\/sup> Dada uma imagem a ser classificada, o algoritmo detecta as bordas de um objeto como a distribui\u00e7\u00e3o estat\u00edstica de pixels escuros cercados por pixels claros (um padr\u00e3o visual t\u00edpico). O algoritmo n\u00e3o sabe o que \u00e9 uma imagem, n\u00e3o percebe uma imagem como a cogni\u00e7\u00e3o humana, apenas calcula pixels, valores num\u00e9ricos de brilho e proximidade. O algoritmo \u00e9 programado para registrar apenas a borda escura de um perfil (que se ajusta no padr\u00e3o desejado) e n\u00e3o, exatamente, todos os pixels da imagem (o que resultaria em um superajuste e na repeti\u00e7\u00e3o de todo o campo visual). Diz-se que um modelo estat\u00edstico \u00e9 treinado com sucesso quando pode ajustar<\/strong> [fit] elegantemente apenas os padr\u00f5es importantes dos dados de treinamento e aplicar esses padr\u00f5es tamb\u00e9m aos novos dados \u201cem estado selvagem\u201d. Se um modelo aprende muito bem os dados de treinamento, ele reconhece apenas correspond\u00eancias exatas dos padr\u00f5es originais e ignorar\u00e1 aqueles com semelhan\u00e7as pr\u00f3ximas, \u201cem estado selvagem\u201d. Neste caso, o modelo \u00e9 superajustado<\/strong> [overfitting], porque aprendeu meticulosamente tudo (incluindo os ru\u00eddos) e n\u00e3o \u00e9 capaz de distinguir um padr\u00e3o de seu background<\/em>. Por outro lado, o modelo \u00e9 subajustado<\/strong> [underfitting] quando n\u00e3o for capaz de detectar padr\u00f5es significativos a partir dos dados de treinamento. As no\u00e7\u00f5es de superajuste, ajuste e subajuste de dados podem ser visualizadas em um plano cartesiano.<\/p>\n

               <\/p>\n

              \"Approximation\"<\/p>\n

              O desafio de proteger a precis\u00e3o do aprendizado de m\u00e1quina est\u00e1 na calibra\u00e7\u00e3o do equil\u00edbrio entre o subajuste e o superajusta dos dados, o que \u00e9 dif\u00edcil de executar devido a diferentes vieses da m\u00e1quina. Aprendizado de m\u00e1quina \u00e9 um termo que, tal como \u201cIA\u201d, antropomorfiza uma parte da tecnologia: o aprendizado de m\u00e1quina n\u00e3o aprende nada<\/em> no sentido apropriado da palavra, como um humano; o aprendizado de m\u00e1quina simplesmente mapeia uma distribui\u00e7\u00e3o estat\u00edstica de valores num\u00e9ricos e desenha uma fun\u00e7\u00e3o matem\u00e1tica que, esperan\u00e7osamente, se aproxima da compreens\u00e3o humana. Dito isto, o aprendizado de m\u00e1quina pode, por esse motivo, lan\u00e7ar uma nova luz sobre as maneiras pelas quais os seres humanos compreendem.<\/p>\n

              O modelo estat\u00edstico dos algoritmos de aprendizado de m\u00e1quina tamb\u00e9m \u00e9 uma aproxima\u00e7\u00e3o no sentido de adivinhar as partes ausentes do gr\u00e1fico de dados: por meio de interpola\u00e7\u00e3o<\/strong>, que \u00e9 a previs\u00e3o de um output y<\/em> dentro do intervalo conhecido do input x<\/em> no conjunto de dados de treinamento, ou por extrapola\u00e7\u00e3o<\/strong>, que \u00e9 a previs\u00e3o do output y<\/em> al\u00e9m dos limites de x<\/em>, geralmente com altos riscos de imprecis\u00e3o. Isso \u00e9 o que \u201cintelig\u00eancia\u201d significa hoje em intelig\u00eancia da m\u00e1quina: extrapolar uma fun\u00e7\u00e3o n\u00e3o linear al\u00e9m dos limites de dados conhecidos. Como Dan McQuillian coloca apropriadamente: \u201cN\u00e3o h\u00e1 intelig\u00eancia em intelig\u00eancia artificial, nem aprender, mesmo que seu nome t\u00e9cnico seja aprendizado de m\u00e1quina, ela \u00e9 simplesmente minimiza\u00e7\u00e3o matem\u00e1tica\u201d.36<\/sup><\/p>\n

              \u00c9 importante lembrar que a \u201cintelig\u00eancia\u201d do aprendizado de m\u00e1quina n\u00e3o \u00e9 dirigida por f\u00f3rmulas exatas de an\u00e1lise matem\u00e1tica, mas por algoritmos de aproxima\u00e7\u00e3o de for\u00e7a bruta<\/strong>. O formato da fun\u00e7\u00e3o de correla\u00e7\u00e3o entre a input<\/em> x e a output<\/em> x \u00e9 calculado algoritmicamente, passo a passo, atrav\u00e9s de processos mec\u00e2nicos cansativos de ajuste gradual (como descida do gradiente [gradient descent], por exemplo) que s\u00e3o equivalentes ao c\u00e1lculo diferencial de Leibniz e Newton. Diz-se que as redes neurais est\u00e3o entre os algoritmos mais eficientes, porque esses m\u00e9todos diferenciais podem se aproximar<\/em> da forma de qualquer fun\u00e7\u00e3o, com camadas suficientes de neur\u00f4nios e recursos computacionais abundantes.37<\/sup> A aproxima\u00e7\u00e3o gradual de for\u00e7a bruta de uma fun\u00e7\u00e3o \u00e9 o principal recurso da IA de hoje, e somente dessa perspectiva \u00e9 poss\u00edvel entender suas potencialidades e limita\u00e7\u00f5es \u2013 particularmente a escalada da sua pegada de carbono (o treinamento de redes neurais profundas requer quantidades exorbitantes de energia devido \u00e0 descida do gradiente e algoritmos de treinamento que operam com base em ajustes infinitesimais cont\u00ednuos).38<\/sup><\/p>\n

               <\/p>\n

               <\/p>\n

                \n
              1. \n

                Mundo em vetor<\/strong><\/h3>\n<\/li>\n<\/ol>\n

                As no\u00e7\u00f5es de ajuste, superajuste, subajuste, interpola\u00e7\u00e3o e extrapola\u00e7\u00e3o podem ser facilmente visualizadas em duas dimens\u00f5es, mas os modelos estat\u00edsticos geralmente operam em espa\u00e7os multidimensionais de dados. Antes de serem analisados, os dados s\u00e3o codificados em um espa\u00e7o vetorial multidimensional <\/strong>[multi-dimensional vector space]<\/em> que est\u00e1 longe de ser intuitivo. O que \u00e9 um espa\u00e7o vetorial e por que \u00e9 multidimensional? Cardon, Cointet e Mazi\u00e8re descrevem a vetoriza\u00e7\u00e3o dos dados desta maneira:<\/p>\n

                \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 Uma rede neural requer que os inputs da calculadora assumam a forma de um vetor. Portanto, o mundo deve ser codificado antecipadamente na forma de uma representa\u00e7\u00e3o vetorial puramente digital. Enquanto certos objetos, como imagens, s\u00e3o naturalmente divididos em vetores, outros objetos precisam ser \u00b4incorporados\u00b4 dentro de um espa\u00e7o vetorial antes que seja poss\u00edvel calcul\u00e1-los ou classific\u00e1-los com redes neurais. Este \u00e9 o caso do texto, que \u00e9 o exemplo protot\u00edpico. Para inserir uma palavra em uma rede neural, a t\u00e9cnica Word2vec a \u00abincorpora\u00bb em um espa\u00e7o vetorial que mede sua dist\u00e2ncia de outras palavras no corpus. Assim, as palavras herdam uma posi\u00e7\u00e3o dentro de um espa\u00e7o com v\u00e1rias centenas de dimens\u00f5es. A vantagem de tal representa\u00e7\u00e3o reside nas in\u00fameras opera\u00e7\u00f5es oferecidas por essa transforma\u00e7\u00e3o. Dois termos cujas posi\u00e7\u00f5es inferidas est\u00e3o pr\u00f3ximas umas das outras neste espa\u00e7o s\u00e3o semelhantes semanticamente; diz-se que essas representa\u00e7\u00f5es est\u00e3o distribu\u00eddas: o vetor do conceito ‘apartamento’ [-0,2, 0,3, -4,2, 5,1 …] ser\u00e1 semelhante ao de ‘casa’ [-0,2, 0,3, -4,0, 5,1. ..] (\u2026) Enquanto o processamento de linguagem natural foi pioneiro na \u201cincorpora\u00e7\u00e3o\u201d de palavras em um espa\u00e7o vetorial, hoje estamos testemunhando uma generaliza\u00e7\u00e3o do processo de incorpora\u00e7\u00e3o que se estende progressivamente a todos os campos de aplicativos: graph2vec, textos com paragraph2vec, filmes com movie2vec, significados das palavras com sens2vec, estruturas moleculares com mol2vec, etc. Segundo Yann LeCun, o objetivo dos projetistas de m\u00e1quinas conexionistas \u00e9 colocar o mundo em um vetor (world2vec).39<\/sup><\/em><\/p>\n

                 <\/p>\n

                O espa\u00e7o vetorial multidimensional<\/strong> \u00e9 outra raz\u00e3o pela qual a l\u00f3gica do aprendizado de m\u00e1quina \u00e9 dif\u00edcil de compreender. O espa\u00e7o vetorial \u00e9 outra t\u00e9cnica cultural nova, com a qual vale a pena se familiarizar. O campo das Humanidades Digitais, em particular, tem abordado a t\u00e9cnica de vetoriza\u00e7\u00e3o atrav\u00e9s da qual nosso conhecimento coletivo \u00e9 invisivelmente renderizado e processado. A defini\u00e7\u00e3o original de William Gibson de ciberespa\u00e7o profetizou, muito provavelmente, a chegada de um espa\u00e7o vetorial em vez da realidade virtual: \u201cUma representa\u00e7\u00e3o gr\u00e1fica de dados abstra\u00eddos dos bancos de todos os computadores do sistema humano. Complexidade impens\u00e1vel. Linhas de luz variavam no n\u00e3o-espa\u00e7o da mente, aglomerados [clusters] e constela\u00e7\u00f5es de dados. Como as luzes da cidade, recuando.\u201d40<\/sup><\/p>\n

                 <\/p>\n

                \"Statua<\/p>\n

                A direita: espa\u00e7o vetorial de sete palavras em tr\u00eas contextos 41<\/sup><\/p>\n

                 <\/p>\n

                Deve-se enfatizar, no entanto, que o aprendizado de m\u00e1quina ainda se assemelha mais a um artesanato do que a matem\u00e1tica exata. A IA ainda \u00e9 uma hist\u00f3ria de \u201chacks and tricks\u201d, em vez de intui\u00e7\u00f5es m\u00edsticas. Por exemplo, um truque de compress\u00e3o de informa\u00e7\u00f5es \u00e9 a redu\u00e7\u00e3o dimensional<\/strong>, usada para evitar a Maldi\u00e7\u00e3o da Dimensionalidade, que \u00e9 o crescimento exponencial da variedade de recursos no espa\u00e7o vetorial. As dimens\u00f5es das categorias que mostram baixa varia\u00e7\u00e3o no espa\u00e7o vetorial (ou seja, cujos valores flutuam apenas um pouco) s\u00e3o agregadas para reduzir os custos de c\u00e1lculo. A redu\u00e7\u00e3o dimensional pode ser usada para agrupar significados de palavras (como no modelo word2vec), mas tamb\u00e9m pode levar \u00e0 redu\u00e7\u00e3o categorial<\/strong>, que pode ter um impacto na representa\u00e7\u00e3o da diversidade social. A redu\u00e7\u00e3o dimensional pode reduzir as taxonomias e introduzir vi\u00e9s, normalizando ainda mais a diversidade mundial e obliterando identidades \u00fanicas.42<\/sup><\/p>\n

                 <\/p>\n

                \"Dimensions\"<\/p>\n

                 <\/p>\n

                 <\/p>\n

                  \n
                1. \n

                  A sociedade da classifica\u00e7\u00e3o e previs\u00e3o rob\u00f3tica<\/strong><\/h3>\n<\/li>\n<\/ol>\n

                  A maioria das aplica\u00e7\u00f5es contempor\u00e2neas do aprendizado de m\u00e1quina pode ser descritas de acordo com duas modalidades a de classifica\u00e7\u00e3o e a de previs\u00e3o, que descrevem os contornos de uma nova sociedade de controle e governan\u00e7a estat\u00edstica. A classifica\u00e7\u00e3o \u00e9 conhecida como reconhecimento de padr\u00f5es<\/em>, enquanto a previs\u00e3o pode ser definida tamb\u00e9m como gera\u00e7\u00e3o de padr\u00f5es<\/em>. Um novo padr\u00e3o \u00e9 reconhecido ou gerado ao interrogar o n\u00facleo interno do modelo estat\u00edstico.<\/p>\n

                  A classifica\u00e7\u00e3o<\/strong> de aprendizado de m\u00e1quina geralmente \u00e9 empregada para reconhecer um sinal, um objeto ou um rosto humano e atribuir uma categoria correspondente (etiqueta) de acordo com a taxonomia ou conven\u00e7\u00e3o cultural. Um arquivo de input <\/em>(e.g. um tiro na cabe\u00e7a capturado por uma c\u00e2mera de vigil\u00e2ncia) \u00e9 executado no modelo para determinar se ele est\u00e1 dentro da sua distribui\u00e7\u00e3o estat\u00edstica ou n\u00e3o. Em caso positivo, \u00e9 atribu\u00edda a etiqueta de output<\/em> correspondente. Desde os tempos da Perceptron, a classifica\u00e7\u00e3o tem sido a aplica\u00e7\u00e3o origin\u00e1ria das redes neurais: com a Deep Learning, essa t\u00e9cnica \u00e9 onipresente em classificadores de reconhecimento de rosto, que s\u00e3o implantados por for\u00e7as policiais, assim como por fabricantes de smartphones.<\/p>\n

                  A previs\u00e3o<\/strong> de aprendizado de m\u00e1quina \u00e9 usada para projetar tend\u00eancias e comportamentos futuros de acordo com os passados, ou seja, para completar uma informa\u00e7\u00e3o conhecendo apenas uma parte dela. Na modalidade de previs\u00e3o, uma pequena amostra de dados de input<\/em> (um iniciador) \u00e9 usada para prever a parte ausente das informa\u00e7\u00f5es, seguindo mais uma vez a distribui\u00e7\u00e3o estat\u00edstica do modelo (pode ser a parte de um gr\u00e1fico num\u00e9rico orientado para o futuro ou o parte ausente de uma imagem ou arquivo de \u00e1udio). Ali\u00e1s, existem outras modalidades de aprendizado de m\u00e1quina: a distribui\u00e7\u00e3o estat\u00edstica de um modelo pode ser visualizada dinamicamente por meio de uma t\u00e9cnica chamada explora\u00e7\u00e3o espacial latente e, em algumas aplica\u00e7\u00f5es recentes de design, tamb\u00e9m explora\u00e7\u00e3o de padr\u00f5es<\/em> [pattern exploration].43<\/sup><\/p>\n

                  A classifica\u00e7\u00e3o e a previs\u00e3o de aprendizado de m\u00e1quina est\u00e3o se tornando t\u00e9cnicas onipresentes que constituem novas formas de vigil\u00e2ncia e governan\u00e7a. Alguns aparelhos, como ve\u00edculos aut\u00f4nomos e rob\u00f4s industriais, podem ser uma integra\u00e7\u00e3o de ambas as modalidades. Um ve\u00edculo aut\u00f4nomo \u00e9 treinado para reconhecer diferentes objetos na estrada (pessoas, carros, obst\u00e1culos, placas) e prever a\u00e7\u00f5es futuras com base em decis\u00f5es que um motorista humano tomou em circunst\u00e2ncias semelhantes. Mesmo que reconhecer um obst\u00e1culo na estrada pare\u00e7a um gesto neutro (n\u00e3o \u00e9), identificar um ser humano de acordo com categorias de g\u00eanero, ra\u00e7a e classe (e na recente pandemia do COVID-19 como doente ou imune), como institui\u00e7\u00f5es estatais cada vez mais o fazem, \u00e9 o gesto de um novo regime disciplinar. A soberba da classifica\u00e7\u00e3o automatizada causou o renascimento das t\u00e9cnicas lombrosianas reacion\u00e1rias que se pensava terem sido consignadas \u00e0 hist\u00f3ria, t\u00e9cnicas como o Reconhecimento Autom\u00e1tico de G\u00eanero (AGR), \u201cum subcampo de reconhecimento facial que visa identificar algoritmicamente o g\u00eanero de indiv\u00edduos a partir de fotografias ou v\u00eddeos\u201d.44<\/sup><\/p>\n

                   <\/p>\n

                  \"Modes\"
                  \nRecentemente, a modalidade generativa de aprendizado de m\u00e1quina teve um impacto cultural: seu uso na produ\u00e7\u00e3o de artefatos visuais foi recebido pelos meios de comunica\u00e7\u00e3o de massa como a id\u00e9ia de que a intelig\u00eancia artificial \u00e9 \u201ccriativa\u201d e pode autonomamente fazer arte. Uma obra de arte que se diz ter sido criada pela IA sempre oculta um operador humano, que aplica a modalidade generativa de uma rede neural treinada em um conjunto de dados espec\u00edfico. Nesta modalidade, a rede neural \u00e9 executada ao contr\u00e1rio<\/em> (movendo-se da menor camada de output<\/em> em dire\u00e7\u00e3o \u00e0 maior camada de input<\/em>) para gerar novos padr\u00f5es ap\u00f3s ser treinada para classific\u00e1-los, um processo que geralmente se move da maior camada de input para a menor camada de output. A modalidade generativa, no entanto, tem algumas aplica\u00e7\u00f5es \u00fateis: pode ser usada como uma esp\u00e9cie de verifica\u00e7\u00e3o da realidade para revelar o que o modelo aprendeu, ou seja, para mostrar como o modelo \u201cv\u00ea o mundo\u201d. Pode ser aplicado ao modelo de um carro aut\u00f4nomo, por exemplo, para verificar como o cen\u00e1rio da estrada \u00e9 projetado.<\/p>\n

                  Uma maneira famosa de ilustrar como um modelo estat\u00edstico \u201cv\u00ea o mundo\u201d \u00e9 o Google DeepDream. O DeepDream \u00e9 uma rede neural convolucional baseada no Inception (treinada no conjunto de dados ImageNet mencionado acima) que foi programada por Alexander Mordvintsev para projetar padr\u00f5es alucinat\u00f3rios. Mordvintsev teve a id\u00e9ia de \u201cvirar a rede de cabe\u00e7a para baixo\u201d, ou seja, transformar um classificador em um gerador, usando algum ru\u00eddo aleat\u00f3rio ou imagens gen\u00e9ricas da paisagem como output<\/em>.45<\/sup> Ele descobriu que \u201credes neurais treinadas para discriminar entre diferentes tipos de imagens tamb\u00e9m possuem bastante da informa\u00e7\u00e3o necess\u00e1ria para gerar imagens\u201d. Nos primeiros experimentos do DeepDream, penas de p\u00e1ssaros e olhos de c\u00e3es come\u00e7aram a surgir em toda parte, \u00e0 medida que as ra\u00e7as de c\u00e3es e as esp\u00e9cies de p\u00e1ssaros s\u00e3o amplamente super-representadas no ImageNet. Tamb\u00e9m foi descoberto que a categoria ‘haltere’ era aprendida com um bra\u00e7o humano surreal sempre ligado a ele. Prova de que muitas outras categorias do ImageNet s\u00e3o deturpadas.<\/p>\n

                  As duas principais modalidades de classifica\u00e7\u00e3o e gera\u00e7\u00e3o podem ser montadas em outras arquiteturas, como nas Redes Advers\u00e1rias Generativas (GANs). Na arquitetura GAN, uma rede neural com o papel de discriminador<\/em> (um classificador tradicional) precisa reconhecer uma imagem produzida por uma rede neural com o papel de gerador, em um loop<\/em> de refor\u00e7o que treina os dois modelos estat\u00edsticos simultaneamente. Para algumas propriedades convergentes de seus respectivos modelos estat\u00edsticos, as GANs se mostraram muito boas em gerar imagens altamente realistas. Essa habilidade provocou seu abuso na fabrica\u00e7\u00e3o de ‘falsifica\u00e7\u00f5es profundas’ [deep fakes]46<\/sup>. Em rela\u00e7\u00e3o aos regimes da verdade, uma aplica\u00e7\u00e3o controversa semelhante \u00e9 o uso de GANs para gerar dados sint\u00e9ticos em pesquisas sobre c\u00e2ncer, nas quais redes neurais treinadas em conjuntos de dados desequilibrados de tecidos cancer\u00edgenos come\u00e7aram a alucinar<\/em> o c\u00e2ncer onde n\u00e3o havia.47<\/sup> Nesse caso, \u201cem vez de descobrir coisas, estamos inventando coisas\u201d, observa Fabian Offert, \u201co espa\u00e7o da descoberta \u00e9 id\u00eantico ao espa\u00e7o de conhecimento que a GAN j\u00e1 tinha.(…) Enquanto n\u00f3s pensamos que estamos vendo atrav\u00e9s da GAN \u2013 olhando para algo com a ajuda de uma GAN \u2013 estamos na verdade vendo dentro<\/em> de uma GAN. A vis\u00e3o da GAN n\u00e3o \u00e9 realidade aumentada, \u00e9 realidade virtual. GANs obscurecem a descoberta e a inven\u00e7\u00e3o\u201d.48<\/sup> A simula\u00e7\u00e3o GAN de c\u00e2ncer no c\u00e9rebro \u00e9 um exemplo tr\u00e1gico de alucina\u00e7\u00e3o cient\u00edfica movido a IA.<\/p>\n

                   <\/p>\n

                  \"Tumor\"<\/p>\n

                  Joseph Paul Cohen, Margaux Luck and Sina Honari. \u2018Distribution Matching Losses Can\u2028Hallucinate Features in Medical Image Translation<\/em>\u2019, 2018. Cortesia dos autores.<\/p>\n

                   <\/p>\n

                   <\/p>\n

                    \n
                  1. \n

                    Falhas de um instrumento estat\u00edstico: a n\u00e3o detec\u00e7\u00e3o do novo<\/strong><\/h3>\n<\/li>\n<\/ol>\n

                    O poder normativo da IA no s\u00e9culo XXI tem de ser analisada nestes termos epistemol\u00f3gicos: o que significa enquadrar conhecimento coletivo como padr\u00f5es, e o que significa desenhar espa\u00e7os vetoriais e distribui\u00e7\u00f5es estat\u00edsticas de comportamentos sociais? Segundo Foucault, no in\u00edcio da Fran\u00e7a moderna, o poder estat\u00edstico j\u00e1 era usado para medir normas sociais, discriminando comportamento normal e anormal.49<\/sup> A IA amplia facilmente o \u201cpoder da normaliza\u00e7\u00e3o\u201d das institui\u00e7\u00f5es modernas, como a burocracia, a medicina e a estat\u00edstica (originalmente, o conhecimento num\u00e9rico possu\u00eddo pelo Estado sobre sua popula\u00e7\u00e3o), que agora passam para as m\u00e3os das corpora\u00e7\u00f5es de IA. A norma institucional tornou-se computacional: a classifica\u00e7\u00e3o do sujeito, de corpos e comportamentos parece n\u00e3o ser mais um assunto para registros p\u00fablicos, mas para algoritmos e centro de dados.50<\/sup> \u201cA racionalidade centrada nos dados\u00bb, concluiu Paula Duarte, \u00abdeve ser entendida como uma express\u00e3o da colonialidade do poder.\u201d51<\/sup><\/p>\n

                    Uma lacuna, um atrito, um conflito, no entanto, sempre persiste entre os modelos estat\u00edsticos da IA e o sujeito humano que deve ser medido e controlado. Essa lacuna l\u00f3gica entre os modelos estat\u00edsticos da IA e a sociedade \u00e9 geralmente debatida como vi\u00e9s<\/strong>. Foi amplamente demonstrado como o reconhecimento facial deturpa as minorias sociais e como os bairros negros, por exemplo, s\u00e3o ignorados pelo servi\u00e7o de log\u00edstica e entrega movido a IA.52<\/sup> Se as discrimina\u00e7\u00f5es de g\u00eanero, ra\u00e7a e classe s\u00e3o amplificadas pelos algoritmos de IA, isso tamb\u00e9m faz parte de um problema maior de discrimina\u00e7\u00e3o e normaliza\u00e7\u00e3o no n\u00facleo l\u00f3gico do aprendizado de m\u00e1quina. A limita\u00e7\u00e3o l\u00f3gica e pol\u00edtica da IA \u00e9 a dificuldade da tecnologia no reconhecimento e previs\u00e3o de um novo evento<\/strong>. Como o aprendizado de m\u00e1quina lida com uma anomalia verdadeiramente \u00fanica, um comportamento social incomum, um ato inovador de interrup\u00e7\u00e3o? As duas modalidades de aprendizado de m\u00e1quina exibem uma limita\u00e7\u00e3o que n\u00e3o \u00e9 meramente uma quest\u00e3o de vi\u00e9s.<\/p>\n

                    Um limite l\u00f3gico da classifica\u00e7\u00e3o de aprendizado de m\u00e1quina, ou reconhecimento de padr\u00f5es, \u00e9 a incapacidade de reconhecer uma anomalia \u00fanica <\/strong>que aparece pela primeira vez, como uma nova met\u00e1fora na poesia, uma nova piada na conversa cotidiana ou um obst\u00e1culo incomum (um pedestre? um saco de pl\u00e1stico?) no cen\u00e1rio da estrada. A n\u00e3o detec\u00e7\u00e3o do novo<\/strong> (algo que nunca ‘foi visto’ por um modelo e, portanto, nunca foi classificado antes em uma categoria conhecida) \u00e9 um problema particularmente perigoso para carros aut\u00f4nomos e que j\u00e1 causou mortes. A previs\u00e3o de aprendizado de m\u00e1quina, ou gera\u00e7\u00e3o de padr\u00f5es, mostra falhas semelhantes na adivinha\u00e7\u00e3o de tend\u00eancias e comportamentos futuros. Como uma t\u00e9cnica de compress\u00e3o de informa\u00e7\u00f5es, o aprendizado de m\u00e1quina automatiza a ditadura do passado, de taxonomias e padr\u00f5es comportamentais do passado, sobre o presente. Esse problema pode ser chamado de regenera\u00e7\u00e3o do antigo<\/strong> \u2013 a aplica\u00e7\u00e3o de uma vis\u00e3o espa\u00e7o-temporal homog\u00eanea que restringe a possibilidade de um novo evento hist\u00f3rico.<\/p>\n

                    Curiosamente, no aprendizado de m\u00e1quina, a defini\u00e7\u00e3o l\u00f3gica de um problema de seguran\u00e7a tamb\u00e9m descreve o limite l\u00f3gico de seu potencial criativo. Os problemas caracter\u00edsticos da previs\u00e3o do novo<\/strong> est\u00e3o logicamente relacionados aos que caracterizam a gera\u00e7\u00e3o do novo<\/strong>, porque a maneira como um algoritmo de aprendizado de m\u00e1quina prev\u00ea uma tend\u00eancia em um gr\u00e1fico de tempo \u00e9 id\u00eantica \u00e0 maneira como gera um novo trabalho art\u00edstico a partir de padr\u00f5es aprendidos. A pergunta banal \u201cA IA pode ser criativa?\u201d deve ser reformulado em termos t\u00e9cnicos: o aprendizado de m\u00e1quina \u00e9 capaz de criar obras que n\u00e3o s\u00e3o imita\u00e7\u00f5es do passado? O aprendizado de m\u00e1quina \u00e9 capaz de extrapolar al\u00e9m dos limites estil\u00edsticos de seus dados de treinamento? A ‘criatividade’ do aprendizado de m\u00e1quina \u00e9 limitada \u00e0 detec\u00e7\u00e3o de estilos a partir dos dados de treinamento e, em seguida, \u00e0 improvisa\u00e7\u00e3o aleat\u00f3ria dentro desses estilos. Em outras palavras, o aprendizado de m\u00e1quina pode explorar e improvisar apenas dentro dos limites l\u00f3gicos definidos pelos dados de treinamento. Para todas essas quest\u00f5es, e seu grau de compress\u00e3o de informa\u00e7\u00f5es, seria mais preciso denominar aprendizado de m\u00e1quina como arte estat\u00edstica<\/em>.<\/p>\n

                     <\/p>\n

                    \"Statua
                    \nLewis Fry Richardson, Previs\u00e3o do Tempo por Processo Num\u00e9rico, Cambridge University Press, 1922.<\/p>\n

                     <\/p>\n

                    Outro erro impl\u00edcito do aprendizado de m\u00e1quina \u00e9 que a correla\u00e7\u00e3o estat\u00edstica entre dois fen\u00f4menos \u00e9 frequentemente adotada para explicar a causa de um para o outro. Nas estat\u00edsticas, \u00e9 comumente entendido que a correla\u00e7\u00e3o n\u00e3o implica causalidade<\/strong>, o que significa que apenas uma coincid\u00eancia estat\u00edstica n\u00e3o \u00e9 suficiente para demonstrar a causalidade. Um exemplo tr\u00e1gico pode ser encontrado no trabalho do estat\u00edstico Frederick Hoffman, que em 1896 publicou um relat\u00f3rio de 330 p\u00e1ginas para companhias de seguros para demonstrar uma correla\u00e7\u00e3o racial entre ser um americano negro e ter uma expectativa de vida curta.53<\/sup> Na minera\u00e7\u00e3o superficial de dados, o aprendizado de m\u00e1quina pode construir qualquer correla\u00e7\u00e3o arbitr\u00e1ria que \u00e9, ent\u00e3o, percebida como real. Em 2008, essa fal\u00e1cia l\u00f3gica foi orgulhosamente adotada pelo diretor da Wired, Chris Andersen, que declarou o \u201cfim da teoria\u201d porque \u201co dil\u00favio de dados torna obsoleto o m\u00e9todo cient\u00edfico\u201d.54<\/sup> Segundo Andersen, ele pr\u00f3prio n\u00e3o especialista em m\u00e9todo cient\u00edfico e infer\u00eancia l\u00f3gica, a correla\u00e7\u00e3o estat\u00edstica \u00e9 suficiente para o Google administrar seus neg\u00f3cios de an\u00fancios; portanto, tamb\u00e9m deve ser bom o suficiente para descobrir automaticamente paradigmas cient\u00edficos. At\u00e9 a Judea Pearl, pioneira em redes bayesianas, acredita que o aprendizado de m\u00e1quina \u00e9 obcecado por \u201cajuste de curvas\u201d, registrando correla\u00e7\u00f5es sem fornecer explica\u00e7\u00f5es.55<\/sup> Tal fal\u00e1cia l\u00f3gica j\u00e1 se tornou pol\u00edtica, se considerarmos que as for\u00e7as policiais em todo o mundo adotaram algoritmos de policiamento preditivo.56<\/sup> Segundo Dan McQuillan, quando o aprendizado de m\u00e1quina \u00e9 aplicado \u00e0 sociedade dessa maneira, ele se transforma em um aparato biopol\u00edtico de preemp\u00e7\u00e3o<\/strong>, que produz subjetividades que podem ser posteriormente criminalizadas.57<\/sup> Por fim, o aprendizado de m\u00e1quina obcecado por \u201cajuste de curvas\u201d imp\u00f5e uma cultura estat\u00edstica e substitui a episteme tradicional de causalidade (e responsabilidade [accountability] pol\u00edtica) por uma de correla\u00e7\u00f5es cegamente conduzidas pela automa\u00e7\u00e3o da tomada de decis\u00e3o.<\/p>\n

                    <\/h3>\n

                     <\/p>\n

                      \n
                    1. \n

                      Intelig\u00eancia Adversarial Vs. Intelig\u00eancia Artificial<\/strong><\/h3>\n<\/li>\n<\/ol>\n

                      At\u00e9 agora, as difra\u00e7\u00f5es e alucina\u00e7\u00f5es estat\u00edsticas do aprendizado de m\u00e1quina foram seguidas passo a passo atrav\u00e9s das m\u00faltiplas lentes do Noosc\u00f3pio. Nesse ponto, a orienta\u00e7\u00e3o do instrumento precisa ser revertida: as teorias cient\u00edficas, tanto quanto os dispositivos computacionais, tendem a consolidar uma perspectiva abstrata \u2013 a \u201cvis\u00e3o cient\u00edfica do lugar nenhum\u201d, que geralmente \u00e9 apenas o ponto de vista do poder. O estudo obsessivo da IA pode levar o estudioso a um abismo da computa\u00e7\u00e3o e a ilus\u00e3o de que a forma t\u00e9cnica ilumina a social. Como Paola Ricaurte observa: \u201cO extrativismo de dados assume que tudo \u00e9 uma fonte de dados\u201d.58<\/sup> Como nos emancipar de uma vis\u00e3o do mundo centrada em dados? \u00c9 hora de perceber que n\u00e3o \u00e9 o modelo estat\u00edstico que constr\u00f3i o sujeito, mas o sujeito que estrutura o modelo estat\u00edstico. Os estudos internalistas e externalistas da IA precisam emba\u00e7ar: as subjetividades fazem a matem\u00e1tica do controle a partir de dentro, n\u00e3o de fora. Seguindo o que Guattari disse sobre as m\u00e1quinas em geral, a intelig\u00eancia das m\u00e1quinas tamb\u00e9m \u00e9 constitu\u00edda de \u201cformas hiper-desenvolvidas e hiper-concentradas de certos aspectos da subjetividade humana\u201d.59<\/sup><\/p>\n

                      Em vez de estudar apenas como a tecnologia funciona, a investiga\u00e7\u00e3o cr\u00edtica estuda tamb\u00e9m como ela quebra, como os sujeitos se rebelam contra seu controle normativo e os trabalhadores sabotam suas engrenagens. Nesse sentido, uma maneira de soar os limites da IA \u00e9 observar as pr\u00e1ticas de hackers. O hacking<\/em> \u00e9 um m\u00e9todo importante de produ\u00e7\u00e3o de conhecimento, uma investiga\u00e7\u00e3o epist\u00eamica crucial na obscuridade da IA.60<\/sup> Os sistemas de aprendizagem profunda para reconhecimento facial desencadearam, por exemplo, formas de ativismo de contra-vigil\u00e2ncia. Atrav\u00e9s de t\u00e9cnicas de ofusca\u00e7\u00e3o facial, os seres humanos decidiram tornar-se inintelig\u00edveis \u00e0 intelig\u00eancia artificial: isto \u00e9, tornarem-se, eles pr\u00f3prios, caixas pretas<\/strong>. As t\u00e9cnicas tradicionais de ofusca\u00e7\u00e3o<\/strong> contra a vigil\u00e2ncia adquirem imediatamente uma dimens\u00e3o matem\u00e1tica na era do aprendizado de m\u00e1quina. Por exemplo, o artista e pesquisador de IA Adam Harvey inventou um tecido de camuflagem chamado HyperFace que engana os algoritmos de vis\u00e3o de computador para ver v\u00e1rios rostos humanos onde n\u00e3o h\u00e1 nenhum.61<\/sup> O trabalho de Harvey provoca a pergunta: o que constitui uma face para um olho humano, por um lado, e para um algoritmo de vis\u00e3o computacional, por outro? As falhas neurais do HyperFace exploram essa lacuna cognitiva e revelam qual \u00e9 a apar\u00eancia de um rosto humano para uma m\u00e1quina. Essa lacuna entre a percep\u00e7\u00e3o humana e da m\u00e1quina ajuda a introduzir o crescente campo de ataques adversariais.<\/p>\n

                       <\/p>\n

                      \"Adam
                      \nAdam Harvey, padr\u00e3o HyperFace, 2016<\/p>\n

                       <\/p>\n

                      Os ataques adversariais<\/strong>[2]<\/em> exploram pontos cegos e regi\u00f5es fracas no modelo estat\u00edstico de uma rede neural, geralmente para enganar um classificador e faz\u00ea-lo perceber algo que n\u00e3o existe. No reconhecimento de objetos, um exemplo adversarial pode ser uma imagem manipulada de uma tartaruga, que parece in\u00f3cua para o olho humano, mas \u00e9 classificada erroneamente por uma rede neural como um rifle.62<\/sup> Exemplos adversariais podem ser percebidos como objetos 3D e at\u00e9 adesivos para sinais de tr\u00e2nsito que podem desencaminhar carros aut\u00f4nomos (que podem ler um limite de velocidade de 120 km\/h onde na verdade \u00e9 de 50 km\/h).63<\/sup> Exemplos adversariais s\u00e3o projetados sabendo o que uma m\u00e1quina nunca viu antes. Esse efeito \u00e9 obtido tamb\u00e9m pela engenharia reversa do modelo estat\u00edstico ou poluindo o conjunto de dados de treinamento. Nesse \u00faltimo sentido, a t\u00e9cnica de envenenamento de dados<\/strong> tem como alvo o conjunto de dados de treinamento e apresenta dados medicados. Ao fazer isso, altera a precis\u00e3o do modelo estat\u00edstico e cria uma porta dos fundos que pode eventualmente ser explorada por um ataque adversarial.64<\/sup><\/p>\n

                      O ataque adversarial parece apontar para uma vulnerabilidade matem\u00e1tica comum a todos os modelos de aprendizado de m\u00e1quina: \u201cUm aspecto intrigante dos exemplos adversariais \u00e9 que um exemplo gerado para um modelo \u00e9 frequentemente classificado erroneamente por outros modelos, mesmo quando eles t\u00eam arquiteturas diferentes ou foram treinados em conjuntos de treinamento desconexos.\u201d65<\/sup> Ataques adversariais nos lembram a discrep\u00e2ncia entre a percep\u00e7\u00e3o humana e da m\u00e1quina, e que o limite l\u00f3gico do aprendizado de m\u00e1quina tamb\u00e9m \u00e9 pol\u00edtico. O limite l\u00f3gico e ontol\u00f3gico do aprendizado de m\u00e1quina \u00e9 o sujeito indisciplinado ou evento an\u00f4malo que escapa \u00e0 classifica\u00e7\u00e3o e ao controle. O sujeito do controle algor\u00edtmico contra-ataca. Ataques adversariais s\u00e3o uma maneira de sabotar a linha de montagem do aprendizado de m\u00e1quina, inventando um obst\u00e1culo virtual que pode deixar o aparelho de controle em desacordo. Um exemplo adversarial \u00e9 a sabotagem<\/em> na era da IA.<\/p>\n

                      [2] N.T – Optamos por traduzir \u201cadversarial\u201d por adversarial e adversariais com vista ao uso corrente no campo t\u00e9cnico da Intelig\u00eancia Artificial, vide \u201cArtificial Intelligence: A Modern Approach\u201d (4\u00baEd., 2020) de Stuart J. Russell.e Peter Norvig.<\/em><\/p>\n

                       <\/p>\n

                       <\/p>\n

                        \n
                      1. \n

                        Trabalho na era da IA<\/strong><\/h3>\n<\/li>\n<\/ol>\n

                        As naturezas do input<\/em> e output<\/em> do aprendizado de m\u00e1quina devem ser esclarecidas. Os problemas de IA n\u00e3o s\u00e3o apenas sobre vi\u00e9s de informa\u00e7\u00e3o, mas tamb\u00e9m sobre trabalho. A IA n\u00e3o \u00e9 apenas um aparelho de controle, mas tamb\u00e9m um aparelho produtivo. Como acabamos de mencionar, uma for\u00e7a de trabalho invis\u00edvel est\u00e1 envolvida em cada etapa de sua linha de montagem (composi\u00e7\u00e3o do conjunto de dados, supervis\u00e3o de algoritmo, avalia\u00e7\u00e3o de modelo etc.). Pipelines<\/em> de infinitas tarefas irrigam do Norte Global para o Sul Global; plataformas de trabalhadores da Venezuela, Brasil e It\u00e1lia, por exemplo, s\u00e3o cruciais para ensinar os carros aut\u00f4nomos alem\u00e3es a \u201ccomo ver\u201d.66<\/sup> Contra a id\u00e9ia de intelig\u00eancia alien\u00edgena no trabalho, deve-se enfatizar que, em todo o processo de computa\u00e7\u00e3o da IA o trabalhador humano nunca saiu do circuito, ou, com mais precis\u00e3o, nunca saiu da linha de montagem. Mary Gray e Siddharth Suri cunharam o termo ‘trabalho fantasma<\/strong>‘ para o trabalho invis\u00edvel que faz a IA parecer artificialmente aut\u00f4noma.<\/p>\n

                        Al\u00e9m de algumas decis\u00f5es b\u00e1sicas, a intelig\u00eancia artificial de hoje n\u00e3o pode funcionar sem humanos no circuito. Seja na entrega de um feed de not\u00edcias relevante ou na execu\u00e7\u00e3o de um pedido complicado de pizza, quando a intelig\u00eancia artificial (IA) trope\u00e7a ou n\u00e3o consegue terminar o trabalho, milhares de empresas chamam as pessoas para concluir o projeto silenciosamente. Essa nova linha de montagem digital agrega o input coletivo de trabalhadores distribu\u00eddos, envia pe\u00e7as de projetos em vez de produtos e opera em diversos setores econ\u00f4micos em todos os momentos do dia e da noite.<\/em><\/p>\n

                        \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 \u00a0\u00a0\u00a0 Automa\u00e7\u00e3o \u00e9 um mito porque as m\u00e1quinas, incluindo a IA, pedem constantemente ajuda humana, alguns autores sugeriram substituir ‘automa\u00e7\u00e3o’ pelo termo mais preciso heteroma\u00e7\u00e3o<\/strong>.67<\/sup> Heteroma\u00e7\u00e3o significa que a narrativa familiar da IA como perpetuum mobile<\/em> s\u00f3 \u00e9 poss\u00edvel gra\u00e7as a um ex\u00e9rcito de reserva de trabalhadores.<\/p>\n

                        No entanto, existe uma maneira mais profunda pela qual o trabalho constitui a IA. A fonte de informa\u00e7\u00f5es do aprendizado de m\u00e1quina (qualquer que seja o nome: dados de input<\/em>, dados de treinamento ou apenas dados) \u00e9 sempre uma representa\u00e7\u00e3o de habilidades, atividades e comportamentos humanos, da produ\u00e7\u00e3o social em geral. Todos os conjuntos de dados de treinamento s\u00e3o, implicitamente, um diagrama da divis\u00e3o do trabalho humano que a IA precisa analisar e automatizar. Os conjuntos de dados para reconhecimento de imagem, por exemplo, registram o trabalho visual que os motoristas, guardas e supervisores geralmente executam durante suas tarefas. At\u00e9 conjuntos de dados cient\u00edficos dependem de trabalho cient\u00edfico, planejamento de experimentos, organiza\u00e7\u00e3o de laborat\u00f3rios e observa\u00e7\u00e3o anal\u00edtica.68<\/sup> Em resumo, a origem da intelig\u00eancia das m\u00e1quinas \u00e9 a divis\u00e3o do trabalho<\/strong> e seu principal objetivo \u00e9 a automa\u00e7\u00e3o do trabalho<\/strong> .<\/p>\n

                        Os historiadores da computa\u00e7\u00e3o j\u00e1 salientaram os primeiros passos da intelig\u00eancia de m\u00e1quina no projeto do s\u00e9culo XIX de mecanizar a divis\u00e3o do trabalho mental, especificamente a tarefa de c\u00e1lculo a m\u00e3o.69<\/sup> O empreendimento da computa\u00e7\u00e3o desde ent\u00e3o tem sido uma combina\u00e7\u00e3o de vigil\u00e2ncia e disciplina do trabalho, do c\u00e1lculo \u00f3timo de mais-valia e do planejamento de comportamentos coletivos.70<\/sup> A computa\u00e7\u00e3o foi estabelecida por, e ainda segue assim impondo, um regime de visibilidade e inteligibilidade, n\u00e3o apenas de racioc\u00ednio l\u00f3gico. A genealogia da IA como um aparato de poder \u00e9 confirmada hoje por seu amplo emprego em tecnologias de identifica\u00e7\u00e3o e predi\u00e7\u00e3o, mas a principal anomalia que sempre precisa ser computada \u00e9 a desorganiza\u00e7\u00e3o do trabalho<\/em>.<\/p>\n

                        Como tecnologia de automa\u00e7\u00e3o, a IA ter\u00e1 um tremendo impacto no mercado de trabalho. Se a Deep learning<\/em> tiver uma taxa de erro de 1% no reconhecimento de imagens, por exemplo, significa que aproximadamente 99% do trabalho de rotina baseado em tarefas visuais (por exemplo, seguran\u00e7a aeroportu\u00e1ria) pode ser potencialmente substitu\u00eddo (restri\u00e7\u00f5es legais e oposi\u00e7\u00e3o sindical permitindo). O impacto da IA no trabalho \u00e9 bem descrito (da perspectiva dos trabalhadores, finalmente) em um documento do European Trade Union Institute, que destaca as \u201csete dimens\u00f5es essenciais que a futura regulamenta\u00e7\u00e3o deve abordar para proteger os trabalhadores\u00bb: 1) salvaguardar a privacidade dos trabalhadores e prote\u00e7\u00e3o de dados; 2) abordar o problema da vigil\u00e2ncia, rastreamento e monitoramento; 3) tornar transparente o objetivo dos algoritmos de IA; 4) garantir o exerc\u00edcio do ‘direito \u00e0 explica\u00e7\u00e3o’ em rela\u00e7\u00e3o \u00e0s decis\u00f5es tomadas por algoritmos ou modelos de aprendizado de m\u00e1quina; 5) preservar a seguran\u00e7a e a prote\u00e7\u00e3o dos trabalhadores nas intera\u00e7\u00f5es homem-m\u00e1quina; 6) aumentar a autonomia dos trabalhadores nas intera\u00e7\u00f5es homem-m\u00e1quina; 7) permitir que os trabalhadores se tornem alfabetizados em IA.\u201d71<\/sup><\/p>\n

                        Por fim, o Noosc\u00f3pio se manifesta por uma nova \u201cQuest\u00e3o das m\u00e1quinas\u201d na era da IA. A Quest\u00e3o das m\u00e1quinas foi um debate provocado na Inglaterra durante a revolu\u00e7\u00e3o industrial, quando a resposta ao emprego de m\u00e1quinas e o subsequente desemprego tecnol\u00f3gico dos trabalhadores foi uma campanha social para mais educa\u00e7\u00e3o sobre m\u00e1quinas, que assumiu a forma do Movimento do Instituto de Mec\u00e2nica.72<\/sup> Hoje, \u00e9 necess\u00e1ria uma Quest\u00e3o das M\u00e1quinas Inteligentes<\/strong> para desenvolver mais intelig\u00eancia coletiva sobre ‘intelig\u00eancia de m\u00e1quina’, mais educa\u00e7\u00e3o p\u00fablica em vez de ‘m\u00e1quinas aprendizes’ e seu regime de extrativismo do conhecimento (o que refor\u00e7a antigas rotas coloniais, basta olharmos o mapa da rede das plataformas de crowdsourcing<\/em> hoje). Tamb\u00e9m no Norte Global, essa rela\u00e7\u00e3o colonial entre a IA corporativa e a produ\u00e7\u00e3o de conhecimento como um bem comum deve ser destacada. O objetivo do Noosc\u00f3pio \u00e9 expor a sala oculta da corpora\u00e7\u00e3o Mechanical Turk e iluminar o trabalho invis\u00edvel do conhecimento que faz a intelig\u00eancia da m\u00e1quina parecer ideologicamente viva.<\/p>\n

                        \"mechanical<\/p>\n

                         <\/p>\n

                        Notas<\/strong><\/h3>\n
                          \n
                        1. Sobre a autonomia da tecnologia, veja: Langdon Winner, Autonomous Technology: Technics Out-of-Control as a Theme in Political Thought<\/em>. Cambridge, MA: MIT Press, 2001.<\/li>\n
                        2. Sobre a extens\u00e3o do poder colonial nas opera\u00e7\u00f5es de log\u00edstica, algoritmos e finan\u00e7as, consulte: Sandro Mezzadra e Brett Neilson, The Politics of Operation<\/em>s: Excavating Contemporary Capitalism. Durham: Duke University Press, 2019. Sobre o colonialismo epist\u00eamico da IA, veja: Matteo Pasquinelli, \u2018Three Thousand Years of Algorithmic Rituals\u2019 e-flux<\/em> 101, 2019.<\/li>\n
                        3. Humanidades digitais denominam uma t\u00e9cnica semelhante chamada leitura distante<\/em> [distant reading], que gradualmente envolve an\u00e1lise de dados e aprendizado de m\u00e1quina na hist\u00f3ria liter\u00e1ria e da arte. Veja: Franco Moretti, Distant Reading<\/em>. London: Verso, 2013.<\/li>\n
                        4. Gottfried W. Leibniz, \u2018Preface to the General Science\u2019, 1677. In: Phillip Wiener (ed.) Leibniz Selections<\/em>. New York: Scribner, 1951, 23.<\/li>\n
                        5. Para uma hist\u00f3ria concisa da IA, veja: Dominique Cardon, Jean-Philippe Cointet and Antoine Mazie\u0300res, \u2018Neurons Spike Back<\/em>: The Invention of Inductive Machines and the Artificial Intelligence Controversy.\u2019 Re\u0301seaux 211, 2018.<\/li>\n
                        6. Alexander Campolo and Kate Crawford, \u2018Enchanted Determinism: Power without Control in Artificial Intelligence.\u2019 Engaging Science, Technology, and Society<\/em>, 6, 2020.<\/li>\n
                        7. O uso da analogia visual tamb\u00e9m visa registrar a distin\u00e7\u00e3o entre imagem e l\u00f3gica, representa\u00e7\u00e3o e infer\u00eancia, na composi\u00e7\u00e3o t\u00e9cnica da IA. Os modelos estat\u00edsticos de aprendizado de m\u00e1quina s\u00e3o representa\u00e7\u00f5es operativas (no sentido das imagens operativas de Harun Farocki).<\/li>\n
                        8. Para um estudo sistem\u00e1tico das limita\u00e7\u00f5es l\u00f3gicas do aprendizado de m\u00e1quina, consulte: Momin Mailk, \u2018A Hierarchy of Limitations in Machine Learning.\u2019 Arxiv preprint, 2020. https:\/\/arxiv.org\/abs\/2002.05193<\/li>\n
                        9. Para obter uma lista mais detalhada dos vieses de IA, consulte: John Guttag e Harini Suresh, \u2018A Framework for Understanding Unintended Consequences of Machine Learning.\u2019 Arxiv preprint, 2019. https:\/\/arxiv.org\/abs\/1901.10002 Veja tamb\u00e9m: Aram Galstyan, Kristin Lerman, Ninareh Mehrabi, Fred Morstatter e Nripsuta Saxena, \u2018A Survey on Bias and Fairness in Machine Learning.\u2019 Arxiv preprint, 2019. https:\/\/arxiv.org\/abs\/1908.09635<\/a><\/li>\n
                        10. Virginia Eubanks, Automating Inequality<\/em>. New York: St. Martin\u2019s Press, 2018. Veja tamb\u00e9m: Kate Crawford, \u2018The Trouble with Bias.\u2019 Keynote lecture, Conference on Neural Information Processing Systems, 2017.<\/li>\n
                        11. Ruha Benjamin, Race After Technology<\/em>: Abolitionist Tools for the New Jim Code. Cambridge, UK: Polity, 2019, 5.<\/li>\n
                        12. Cientistas da computa\u00e7\u00e3o argumentam que a IA pertence a um subcampo do processamento [signal processing ] de sinais, que \u00e9 a compress\u00e3o de dados.<\/li>\n
                        13. Matteo Pasquinelli, The Eye of the Master<\/em>. London: Verso, no prelo.<\/li>\n
                        14. Projetos como Explainable Artificial Intelligence, Interpretable Deep Learning e Heatmapping, entre outros, demonstraram que \u00e9 poss\u00edvel invadir a ‘caixa preta’ do aprendizado de m\u00e1quina. No entanto, a total interpretabilidade e explicabilidade dos modelos estat\u00edsticos de aprendizado de m\u00e1quina continua sendo um mito. Veja: Zacharay Lipton, \u2018The Mythos of Model Interpretability.\u2019 ArXiv preprint, 2016. https:\/\/arxiv.org\/abs\/1606.03490<\/li>\n
                        15. A. Corsani, B. Paulre\u0301, C. Vercellone, J.M. Monnier, M. Lazzarato, P. Dieuaide e Y. Moulier-Boutang, \u2018Le Capitalisme cognitif comme sortie de la crise du capitalisme industriel. Un programme de recherch\u00e9\u2019, Paris: Laboratoire Isys Matisse, Maison des Sciences Economiques, 2004. Veja tamb\u00e9m : Zuboff, Shoshana, The Age of Surveillance Capitalism<\/em>: The Fight for a Human Future at the New Frontier of Power. London: Profile Books, 2019.<\/li>\n
                        16. Lisa Gitelman (ed.), \u00ab<\/em>Raw Data\u00bb Is an <\/em>Oxymoron, Cambridge, MA: MIT Press, 2013.<\/li>\n
                        17. Na aprendizagem supervisionada. O aprendizado auto-supervisionado tamb\u00e9m mant\u00e9m formas de interven\u00e7\u00e3o humana.<\/li>\n
                        18. Sobre a taxonomia como forma de conhecimento e poder, veja: Michel Foucault, The Order of Things<\/em>. London: Routledge, 2005.<\/li>\n
                        19. Como o Amazon Mechanical Turk, cinicamente denominado \u00abintelig\u00eancia artificial artificial\u00bb por Jeff Bezos. Veja: J. Jason Pontin, \u2018Artificial Intelligence, With Help from the Humans.\u2019 The New York Times<\/em>, 25 Mar\u00e7o 2007.<\/li>\n
                        20. Embora a arquitetura convolucional remonta ao trabalho de Yann LeCunn no final dos anos 80, a aprendizagem profunda come\u00e7a com este artigo: Geoffrey Hinton, Alex Krizhevsky e Ilya Sutskever, \u2018ImageNet Classification with Deep Convolutional Neural Networks.\u2019 Communications of the ACM<\/em> 60(6), 2017.<\/li>\n
                        21. Para uma avalia\u00e7\u00e3o acess\u00edvel (n\u00e3o muito cr\u00edtica) do desenvolvimento do ImageNet, consulte: Melanie Mitchell, Artificial Intelligence: A Guide for Thinking Humans. London: Penguin, 2019.<\/li>\n
                        22. O WordNet \u00e9\u201dum banco de dados lexical de rela\u00e7\u00f5es sem\u00e2nticas entre palavras\u201d, iniciado por George Armitage na Universidade de Princeton, em 1985. Ele fornece uma r\u00edgida estrutura em \u00e1rvores para defini\u00e7\u00f5es.<\/li>\n
                        23. Kate Crawford e Trevor Paglen, \u2018Excavating AI: The Politics of Training Sets for Machine Learning.\u2019 19 September 2019. https:\/\/excavating.ai<\/li>\n
                        24. Adam Harvey e Jules LaPlace, Megapixel project, 2019. https:\/\/megapixels.cc\/about\/ e : Madhumita Murgia, \u2018Who’s Using Your Face? The Ugly Truth About Facial Recognition.\u2019 Financial Times<\/em>, 19 April 2019.<\/li>\n
                        25. O GDPR (General Data Protection Regulation) que foi aprovado pelo Parlamento Europeu em maio de 2018 \u00e9, no entanto, uma melhoria em compara\u00e7\u00e3o com o regulamento que est\u00e1 faltando nos Estados Unidos.<\/li>\n
                        26. Frank Rosenblatt, \u2018The Perceptron: A Perceiving and Recognizing Automaton.\u2019 Cornell Aeronautical Laboratory Report 85-460-1, 1957.<\/li>\n
                        27. Warren McCulloch e Walter Pitts, \u2018How We Know Universals: The Perception of Auditory and Visual Forms.\u2019 The Bulletin of Mathematical Biophysics<\/em> 9(3): 1947.<\/li>\n
                        28. Os par\u00e2metros de um modelo que s\u00e3o aprendidos com os dados s\u00e3o chamados de \u201cpar\u00e2metros\u201d, enquanto os par\u00e2metros que n\u00e3o s\u00e3o aprendidos com os dados e s\u00e3o corrigidos manualmente s\u00e3o chamados de ‘hiperpar\u00e2metros’ (estes determinam o n\u00famero e as propriedades dos par\u00e2metros).<\/li>\n
                        29. Este valor tamb\u00e9m pode ser um valor percentual entre 1 e 0.<\/li>\n
                        30. https:\/\/keras.io\/applications (documenta\u00e7\u00e3o para modelos individuais).<\/li>\n
                        31. Paul Edwards, A Vast Machine<\/em>: Computer Models, Climate Data, and The Politics of Global Warming. Cambridge, MA.<\/li>\n
                        32. Veja o \u201cModelo do Sistema Terrestre Comunit\u00e1rio\u201d [Community Earth System Model] (CESM) desenvolvido pelo Centro Nacional de Pesquisa Atmosf\u00e9rica em Bolder, Colorado, desde 1996. O CESM \u00e9 uma simula\u00e7\u00e3o num\u00e9rica totalmente acoplada do sistema terrestre que consiste em atmosfera, oceano, gelo, superf\u00edcie terrestre, ciclo do carbono e outros componentes. O CESM inclui um modelo clim\u00e1tico que fornece simula\u00e7\u00f5es de \u00faltima gera\u00e7\u00e3o do passado, presente e futuro da Terra.\u201d http:\/\/www.cesm.ucar.edu<\/li>\n
                        33. George Box, \u2018Robustness in the Strategy of Scientific Model Building.\u2019 Technical Report #1954, Mathematics Research Center, University of Wisconsin-Madison, 1979.<\/li>\n
                        34. As escolas p\u00f3s-coloniais e p\u00f3s-estruturalistas de antropologia e etnologia enfatizaram que nunca h\u00e1 territ\u00f3rio em si, mas sempre um ato de territorializa\u00e7\u00e3o.<\/li>\n
                        35. O reconhecimento de padr\u00f5es \u00e9 uma entre muitas outras economias de aten\u00e7\u00e3o. \u00abOlhar \u00e9 trabalhar\u00bb, como nos lembra Jonathan Beller. In. Jonathan Beller, The Cinematic Mode of Production: Attention Economy and the Society of the Spectacle<\/em>. Lebanon, NH: University Press of New England, 2006, 2.<\/li>\n
                        36. Dan McQuillan, \u2018Manifesto on Algorithmic Humanitarianism.\u2019 Presented at the symposium Reimagining Digital Humanitarianism, Goldsmiths, University of London, February 16, 2018.<\/li>\n
                        37. Conforme comprovado pelo Teorema da Aproxima\u00e7\u00e3o Universal.<\/li>\n
                        38. Ananya Ganesh, Andrew McCallum e Emma Strubell, ‘Considera\u00e7\u00f5es sobre energia e pol\u00edticas para aprendizado profundo em PNL’. Pr\u00e9-impress\u00e3o do ArXiv, 2019. https:\/\/arxiv.org\/abs\/1906.02243<\/li>\n
                        39. Cardon et al., ‘Neurons Spike Back’.<\/li>\n
                        40. William Gibson, Neuromancer<\/em>. Nova York: Ace Books, 1984, 69.<\/li>\n
                        41. Fonte: corpling.hypotheses.org\/495<\/li>\n
                        42. Jamie Morgenstern, Samira Samadi, Mohit Singh, Uthaipon Tantipongpipat e Santosh Vempala, \u2018The Price of Fair PCA: One Extra Dimension.\u2019 Advances in Neural Information Processing Systems<\/em> 31, 2018.<\/li>\n
                        43. Veja a ideia de cria\u00e7\u00e3o assistida e generativa em: Roelof Pieters e Samim Winiger, \u2018Creative AI: On the Democratisation and Escalation of Creativity\u2019 , 2016. http:\/\/www.medium.com\/@creativeai\/creativeai-9d4b2346faf3<\/li>\n
                        44. Os Keyes, \u2018The Misgendering Machines: Trans\/HCI Implications of Automatic Gender Recognition.\u2019 Proceedings of the ACM on Human-Computer Interaction 2(88), November 2018. https:\/\/doi.org\/10.1145\/3274357<\/li>\n
                        45. Alexander Mordvintsev, Christophe Olah e Mike Tyka, \u2018Inceptionism: Going Deeper into Neural Networks.\u2019 Google Research blog, June 17, 2015. https:\/\/ai.googleblog.com\/2015\/06\/ inceptionism-going-deeper-into-neural.html<\/li>\n
                        46. Falsifica\u00e7\u00f5es profundas [deep fakes] s\u00e3o m\u00eddias sint\u00e9ticas, como v\u00eddeos nos quais o rosto de uma pessoa \u00e9 substitu\u00eddo pelos tra\u00e7os faciais de outra pessoa, geralmente com o objetivo de criar not\u00edcias falsas.<\/li>\n
                        47. Joseph Paul Cohen, Sina Honari e Margaux Luck, ‘Distribution Matching Losses Can Hallucinate Features in Medical Image Translation.\u2019 International Conference on Medical Image Computing and Computer-Assisted Intervention. Cham: Springer, 2018. arXiv:1805.08841<\/li>\n
                        48. Fabian Offert, Neural Network Cultures panel, Transmediale festival and KIM HfG Karlsruhe. Berlin, 1 February 2020. http:\/\/kim.hfg-karlsruhe.de\/events\/neural-network-cultures<\/li>\n
                        49. Michel Foucault, Abnormal: Lectures at the Colle\u0300ge de France 1974-1975<\/em>. New York: Picador, 2004, 26.<\/li>\n
                        50. Sobre normas computacionais, veja: Matteo Pasquinelli, \u2018Arcana Mathematica Imperii: The Evolution of Western Computational Norms.\u2019 In: Maria Hlavajova et al. (eds), Former West<\/em>. Cambridge, MA: MIT Press, 2017.<\/li>\n
                        51. Paola Ricaurte, \u2018Data Epistemologies, The Coloniality of Power, and Resistance.\u2019 Television & New Media, 7 March 2019.<\/li>\n
                        52. David Ingold e Spencer Soper, \u2018Amazon Doesn\u2019t Consider the Race of its Customers. Should It?\u2019, Bloomberg, 21 April 2016. https:\/\/www.bloomberg.com\/graphics\/2016-amazon-same-day<\/li>\n
                        53. Cathy O\u2019Neil,Weapons of Math Destruction<\/em>. New York: Broadway Books, 2016, ch9.<\/li>\n
                        54. Chris Anderson, \u2018The End of Theory: The Data Deluge Makes the Scientific Method Obsolete.\u2019 Wired, 23 June 2008. Para uma cr\u00edtica, consulte: Fulvio Mazzocchi, \u2018Could Big Data Be the End of Theory in Science? A Few Remarks on the Epistemology of Data-Driven Science.\u2019 EMBO Reports 16(10), 2015.<\/li>\n
                        55. Judea Pearl e Dana Mackenzie, The Book of Why: The New Science of Cause and Effect<\/em>. New York: Basic Books, 2018.<\/li>\n
                        56. Experi\u00eancias do Departamento de Pol\u00edcia de Nova York desde o final dos anos 80. Veja: Pasquinelli, ‘Arcana Mathematica Imperii’.<\/li>\n
                        57. Dan McQuillan, \u2018People\u2019s Councils for Ethical Machine Learning.\u2019 Social Media and Society<\/em> 4(2), 2018.<\/li>\n
                        58. Ricaurte, \u2018Data Epistemologies.\u2019<\/li>\n
                        59. Felix Guattari, Schizoanalytic Cartographies<\/em>. London: Continuum, 2013, 2.<\/li>\n
                        60. A rela\u00e7\u00e3o entre IA e hackers n\u00e3o \u00e9 t\u00e3o antag\u00f4nica quanto pode parecer: geralmente se resolve em um ciclo de aprendizado, avalia\u00e7\u00e3o e refor\u00e7o m\u00fatuos.<\/li>\n
                        61. Adam Harvey, projeto HyperFace, 2016. https:\/\/ahprojects.com\/hyperface<\/li>\n
                        62. Anish Athalye et al., ‘Synthesizing Robers Adversarial Examples’. Pr\u00e9-impress\u00e3o do ArXiv, 2017. https:\/\/arxiv.org\/abs\/1707.07397<\/li>\n
                        63. Nir Morgulis et al., \u2018Fooling a Real Car with Adversarial Traffic Signs.\u2019 ArXiv preprint, 2019. https:\/\/arxiv.org\/abs\/1907.00374<\/li>\n
                        64. O envenenamento por dados tamb\u00e9m pode ser empregado para proteger a privacidade, inserindo informa\u00e7\u00f5es an\u00f4nimas ou aleat\u00f3rias no conjunto de dados.<\/li>\n
                        65. Ian Goodfellow et al., \u2018Explaining and Harnessing Adversarial Examples.\u2019 ArXiv preprint, 2014. https:\/\/arxiv.org\/abs\/1412.6572<\/li>\n
                        66. Florian Schmidt, \u2018Crowdsourced Production of AI Training Data: How Human Workers Teach Self-Driving Cars to See.\u2019 D\u00fcsseldorf: Hans-B\u00f6ckler-Stiftung, 2019.<\/li>\n
                        67. Hamid Ekbia e Bonnie Nardi, Heteromation, and Other Stories of Computing and Capitalism<\/em>. Cambridge, MA: MIT Press, 2017.<\/li>\n
                        68. Para a id\u00e9ia de intelig\u00eancia anal\u00edtica, veja: Lorraine Daston, \u2018Calculation and the Division of Labour 1750\u20131950.\u2019 Bulletin of the German Historical Institute<\/em> 62, 2018.<\/li>\n
                        69. Simon Schaffer, \u2018Babbage\u2019s Intelligence: Calculating Engines and the Factory System\u2019, Critical Inquiry 21, 1994. Lorraine Daston, \u2018Enlightenment calculations\u2019. Critical Inquiry 21, 1994. Matthew L. Jones, Reckoning with Matter: Calculating Machines, Innovation, and Thinking about Thinking from Pascal to Babbage<\/em>. Chicago: University of Chicago Press, 2016. 62, 2018.<\/li>\n
                        70. Matteo Pasquinelli, \u2018On the Origins of Marx\u2019s General Intellect.\u2019 Radical Philosophy<\/em> 2.06, 2019.<\/li>\n
                        71. Aida Ponce, \u2018Labour in the Age of AI: Why Regulation is Needed to Protect Workers.\u2019 ETUI Research Paper – Foresight Brief 8, 2020. http:\/\/dx.doi.org\/10.2139\/ssrn.3541002<\/li>\n
                        72. Maxine Berg, The Machinery Question and the Making of Political Economy<\/em>. Cambridge, UK: Cambridge University Press, 1980. De fato, at\u00e9 o Economist alertou recentemente sobre ‘o retorno da quest\u00e3o das m\u00e1quinas’ na era da IA. Veja: Tom Standage, \u2018The Return of the Machinery Question.\u2019 The Economist<\/em>, 23 June 2016.<\/li>\n<\/ol>\n","protected":false},"excerpt":{"rendered":"

                          Este texto \u00e9 uma tradu\u00e7\u00e3o livre para o Portugu\u00eas, publicada pela Lavits em primeira-m\u00e3o, do texto \u00abThe Nooscope Manifested: AI as Instrument of Knowledge Extractivism\u00bb de Matteo Pasquinelli e Vladan […]<\/p>\n","protected":false},"author":3,"featured_media":8388,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"inline_featured_image":false,"_EventAllDay":false,"_EventTimezone":"","_EventStartDate":"","_EventEndDate":"","_EventStartDateUTC":"","_EventEndDateUTC":"","_EventShowMap":false,"_EventShowMapLink":false,"_EventURL":"","_EventCost":"","_EventCostDescription":"","_EventCurrencySymbol":"","_EventCurrencyCode":"","_EventCurrencyPosition":"","_EventDateTimeSeparator":"","_EventTimeRangeSeparator":"","_EventOrganizerID":[],"_EventVenueID":[],"_OrganizerEmail":"","_OrganizerPhone":"","_OrganizerWebsite":"","_VenueAddress":"","_VenueCity":"","_VenueCountry":"","_VenueProvince":"","_VenueState":"","_VenueZip":"","_VenuePhone":"","_VenueURL":"","_VenueStateProvince":"","_VenueLat":"","_VenueLng":"","_VenueShowMap":false,"_VenueShowMapLink":false,"footnotes":""},"categories":[966],"tags":[],"tematica":[900,914,916,938,940],"destaque":[],"class_list":["post-9284","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-artigos-2-es","tematica-epistemologias-es","tematica-infraestruturas-tecnologicas-es","tematica-inteligencia-artificial-es","tematica-tecnologias-digitais-es","tematica-tecnopoliticas-es"],"blocksy_meta":{"styles_descriptor":{"styles":{"desktop":"","tablet":"","mobile":""},"google_fonts":[],"version":6}},"acf":[],"_links":{"self":[{"href":"https:\/\/lavits.org\/es\/wp-json\/wp\/v2\/posts\/9284","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lavits.org\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/lavits.org\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/lavits.org\/es\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/lavits.org\/es\/wp-json\/wp\/v2\/comments?post=9284"}],"version-history":[{"count":0,"href":"https:\/\/lavits.org\/es\/wp-json\/wp\/v2\/posts\/9284\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/lavits.org\/es\/wp-json\/wp\/v2\/media\/8388"}],"wp:attachment":[{"href":"https:\/\/lavits.org\/es\/wp-json\/wp\/v2\/media?parent=9284"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/lavits.org\/es\/wp-json\/wp\/v2\/categories?post=9284"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/lavits.org\/es\/wp-json\/wp\/v2\/tags?post=9284"},{"taxonomy":"tematica","embeddable":true,"href":"https:\/\/lavits.org\/es\/wp-json\/wp\/v2\/tematica?post=9284"},{"taxonomy":"destaque","embeddable":true,"href":"https:\/\/lavits.org\/es\/wp-json\/wp\/v2\/destaque?post=9284"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}