2 SILVA, Tarcízio. Racismo algorítmico inteligência artificial e discriminação nas redes digitais

["","\u201cE LES N\u00c3O VIRAM QUE EU ESTAVA com a roupa da escola, m\u00e3e?\u201d A frase foi uma das \u00faltimas ditas por Marcus Vin\u00edcius, 14 anos, morador do Complexo da Mar\u00e9, no Rio de Janeiro. Baleado por policiais durante opera\u00e7\u00e3o, Marcus morreu nos bra\u00e7os da m\u00e3e, que tamb\u00e9m evocou a escola para defender seu filho das acusa\u00e7\u00f5es de criminalidade que sabia que viriam em seguida: \u201cBandido n\u00e3o carrega mochila\u201d, disse Bruna da Silva, ao mostrar a jornalistas a mochila e cadernos do filho148. A plena complexidade simb\u00f3lica das pessoas negras foi sumariamente negada no caso acima, e em centenas de outros anualmente, pelas ferramentas ideol\u00f3gicas do genoc\u00eddio negro149. N\u00e3o podemos compreender os meandros da necropol\u00edtica e do genoc\u00eddio negro no Brasil sem levar em conta de forma franca o abismo de compreens\u00e3o da realidade social e pol\u00edtica promovido pela cultura hegem\u00f4nica que, impulsionada pela supremacia branca, conta uma hist\u00f3ria \u00fanica. No final do s\u00e9culo XIX, o soci\u00f3logo W. E. B. Du Bois prop\u00f4s, a partir de Frederick Douglass, o conceito de \u201clinhas de cor\u201d. O conceito foi elaborado para entender os Estados Unidos, mas pode facilmente ser expandido para parte da realidade afrodiasp\u00f3rica do continente. A permanente e relativa opacidade p\u00fablica da opress\u00e3o f\u00edsica, pol\u00edtica e econ\u00f4mica no p\u00f3s-aboli\u00e7\u00e3o em um pa\u00eds dividido em contrastes foi tornada poss\u00edvel por meio do controle do conhecimento formal, de representa\u00e7\u00f5es oficiais e de curr\u00edculos escolares pela branquitude. Mas a situa\u00e7\u00e3o peculiar das popula\u00e7\u00f5es afrodiasp\u00f3ricas lhes permitiria desenvolver, em alguns momentos, uma dupla consci\u00eancia. Um mundo que n\u00e3o lhe permite produzir uma verdadeira autoconsci\u00eancia, que apenas lhe assegura que se descubra","atrav\u00e9s da revela\u00e7\u00e3o do outro. \u00c9 uma sensa\u00e7\u00e3o peculiar, essa dupla consci\u00eancia, esse sentido de sempre olhar a si pr\u00f3prio atrav\u00e9s dos olhos de outros, de medir um sentimento atrav\u00e9s das medidas de um mundo que o contempla com desprezo e pena.150 Em pa\u00edses como o Brasil, a cren\u00e7a por parte de indiv\u00edduos negros e minorias pol\u00edticas na exist\u00eancia de igualdade e no Estado de Direito s\u00f3 \u00e9 poss\u00edvel gra\u00e7as ao controle de interpreta\u00e7\u00f5es e representa\u00e7\u00f5es da realidade social. Diferentes marcos classificat\u00f3rios sobre os corpos \u201cmat\u00e1veis\u201d agem de forma aparentemente paradoxal. Ao mesmo tempo que a ideologia de institui\u00e7\u00f5es como a pol\u00edcia militar condiciona seus membros a desumanizar os negros, o poder hegem\u00f4nico apaga dados, informa\u00e7\u00f5es e, sobretudo, possibilidades de reflex\u00f5es cr\u00edticas e propositivas sobre a desigualdade abissal existente no pa\u00eds. \u00c9 negado \u00e0 maioria o direito \u00e0 pr\u00f3pria defesa f\u00edsica, intelectual e pol\u00edtica. Acreditar que o uniforme escolar seria um marcador de inoc\u00eancia e respeito pelas regras sociais n\u00e3o permitiu que Marcus Vin\u00edcius compreendesse desde cedo que se torna um alvo da pol\u00edcia, por heur\u00edstica de ra\u00e7a e espacializa\u00e7\u00e3o, ao ser um jovem negro morador de favela. Nas palavras de Beatriz Nascimento, trata-se da exist\u00eancia de uma sociedade dupla ou tripla em termos de direitos, respeito \u00e0 humanidade e enquadramento da representa\u00e7\u00e3o social hegem\u00f4nica. Tal disson\u00e2ncia levaria os negros brasileiros a uma carga maior de esfor\u00e7o social: \u201cUma sociedade branca, em que o seu comportamento tem de ser padronizado segundo os ditames brancos, voc\u00ea como preto se aluna, passa a viver outra vida, flutua sem nenhuma base onde pousar, sem refer\u00eancia e sem par\u00e2metro\u201d151. As classifica\u00e7\u00f5es sociais s\u00e3o instrumentalizadas como exerc\u00edcios de poder e registro \u2013 ou recusa ou falseamento do registro \u2013 do impacto das rela\u00e7\u00f5es raciais. Em uma sociedade pautada pela imbrica\u00e7\u00e3o do racismo nas tecnologias, o processamento de","decis\u00f5es automatizadas sobre indiv\u00edduos e grupos a partir de aprendizado de m\u00e1quina intensifica as tend\u00eancias de apagamento e opacidade das desigualdades. G\u00eanese colonial da necropol\u00edtica e a imagina\u00e7\u00e3o carcer\u00e1ria Como vimos, para tratar de tecnologias de ordenamento e classifica\u00e7\u00e3o dos indiv\u00edduos por l\u00f3gicas racializantes, \u00e9 preciso passar pelo resgate hist\u00f3rico dos processos de normaliza\u00e7\u00e3o da hipervigil\u00e2ncia e controle violento de determinados grupos. O projeto colonial, sobretudo a partir do s\u00e9culo XVIII, transformou a face do mundo e da humanidade \u2013 assim como promoveu a desumaniza\u00e7\u00e3o. Tal projeto, como j\u00e1 havia sido a chamada \u201cconquista\u201d de regi\u00f5es como a Am\u00e9rica, partiu do genoc\u00eddio de povos origin\u00e1rios e chegou \u00e0 produ\u00e7\u00e3o de tecnologias materiais e \u00e0 gest\u00e3o de grandes popula\u00e7\u00f5es em favor dos projetos euroc\u00eantricos. Durante o per\u00edodo, naturalizaram-se pr\u00e1ticas de exterm\u00ednio, expropria\u00e7\u00e3o, domina\u00e7\u00e3o, explora\u00e7\u00e3o, genoc\u00eddio, tortura e viol\u00eancia sexual, em um tipo de hierarquia global em que tais horrores152 passaram a ser estratificados espacialmente. Entretanto, a \u201cordem das coisas no mundo moderno\/colonial \u00e9 tal que as quest\u00f5es sobre coloniza\u00e7\u00e3o e descoloniza\u00e7\u00e3o n\u00e3o podem aparecer, a n\u00e3o ser como mera curiosidade hist\u00f3rica\u201d153, a partir de nega\u00e7\u00f5es que reproduzem a invisibiliza\u00e7\u00e3o do papel exercido pelo projeto colonial e pelo supremacismo branco em institui\u00e7\u00f5es e construtos como pris\u00e3o, cidade, leis, al\u00e9m do aparato policial e suas pr\u00e1ticas. Vigil\u00e2ncia e classifica\u00e7\u00e3o social hierarquicamente racializadas comp\u00f5em o centro da aloca\u00e7\u00e3o diferencial de humanidade que permite a manuten\u00e7\u00e3o global do capitalismo154. O horror ao outro e \u00e0 alteridade, sustentado pelas fic\u00e7\u00f5es de \u201cra\u00e7as\u201d destoantes do padr\u00e3o hegem\u00f4nico euroc\u00eantrico, possibilitou o desenvolvimento de tecnologias de disciplina, controle e puni\u00e7\u00e3o","aperfei\u00e7oadas nas invas\u00f5es e extra\u00e7\u00f5es coloniais. Na importante obra Dark Matters: On the Surveillance of Blackness (\u201cMat\u00e9rias escuras: sobre a vigil\u00e2ncia da negritude\u201d, em tradu\u00e7\u00e3o livre), Simone Browne desvela a g\u00eanese da vigil\u00e2ncia contempor\u00e2nea, sobretudo dos s\u00e9culos de colonialismo escravista nas Am\u00e9ricas. Resgatando o pioneirismo de Frantz Fanon na tem\u00e1tica, Browne nos lembra de que o martinicano prop\u00f4s caracterizar a modernidade como o processo de \u201cfichamento\u201d do homem. Seriam os \u201cregistros, arquivos, folhas de ponto e documentos de identidade que juntos formam uma biografia, e algumas vezes uma biografia n\u00e3o autorizada, do sujeito moderno\u201d155, com reflexos nas representa\u00e7\u00f5es dataficadas dos sujeitos nas bases de dados contempor\u00e2neas. Antes da sistematiza\u00e7\u00e3o da classifica\u00e7\u00e3o social por mecanismos estatais, o projeto colonial-escravista lidou com o desafio de gerir os horrores da imigra\u00e7\u00e3o for\u00e7ada de milh\u00f5es de africanos escravizados por meio de tecnologias da transforma\u00e7\u00e3o do humano em mercadoria, da desumaniza\u00e7\u00e3o dos africanos a partir da ideologia crist\u00e3 e do racismo cient\u00edfico e de t\u00e1ticas de controle, com evita\u00e7\u00e3o de fugas e insurrei\u00e7\u00f5es. Browne argumenta que \u201ca hist\u00f3ria da marca\u00e7\u00e3o a ferro no escravismo transatl\u00e2ntico antecipa os projetos de \u2018classifica\u00e7\u00e3o social\u2019 [...] nas pr\u00e1ticas contempor\u00e2neas de vigil\u00e2ncia\u201d156, tais como em passaportes, documentos de identifica\u00e7\u00e3o e bases de dados de cr\u00e9dito. Compartilhada em diferentes escalas por escravistas ingleses, holandeses, espanh\u00f3is e portugueses, a pr\u00e1tica da marca\u00e7\u00e3o a ferro foi adotada em grande escala, e n\u00e3o s\u00f3 como instrumento de tortura e subjuga\u00e7\u00e3o dos escravizados: tamb\u00e9m foi usada para gest\u00e3o comercial e internacional dos corpos \u2013 algumas marcas distinguiam, antes da marca\u00e7\u00e3o do escravista individual, qual na\u00e7\u00e3o imperial sequestrara os escravizados \u2013 e classifica\u00e7\u00e3o de indiv\u00edduos aptos \u00e0 explora\u00e7\u00e3o. A marca\u00e7\u00e3o era usada, ainda, para imposi\u00e7\u00e3o de um car\u00e1ter extra de marginaliza\u00e7\u00e3o, como no caso da","marca\u00e7\u00e3o de letras como F de \u201cfugido\u201d157, no Brasil. Tais projetos coloniais baseados em m\u00e3o de obra de pessoas escravizadas se assemelharam no que diz respeito \u00e0 adapta\u00e7\u00e3o de tecnologias para controle e criminaliza\u00e7\u00e3o das popula\u00e7\u00f5es. O uso obrigat\u00f3rio de lanternas por escravizados que precisavam se movimentar pela cidade sem levantar suspeitas adicionais foi registrado por historiadores estadunidenses e brasileiros158. A pr\u00e1tica foi usada aqui por escravistas analfabetos quando n\u00e3o conseguiam escrever os bilhetes necess\u00e1rios \u2013 com nome da pessoa escravizada, nome do \u201cpropriet\u00e1rio\u201d e tarefa em andamento \u2013 a seus escravizados em movimenta\u00e7\u00e3o citadina depois do toque de recolher. Na hist\u00f3ria recente, persistem manifesta\u00e7\u00f5es de diferencia\u00e7\u00e3o racial na rela\u00e7\u00e3o entre indiv\u00edduo e documentos de identifica\u00e7\u00e3o em contexto de hipervigil\u00e2ncia no cotidiano. S\u00e3o exemplos disso a valoriza\u00e7\u00e3o de carteiras de trabalho preenchidas como defesa contra as criminalizadoras \u201cleis de vadiagem\u201d, presentes em diversas vers\u00f5es, desde o per\u00edodo imperial at\u00e9 atualidade, especialmente durante a ditadura militar159, e a suspei\u00e7\u00e3o generalizada sobre negros e pobres, que passam a ter um zelo especial no porte de notas fiscais de compra160. Enquanto inst\u00e2ncias do racismo cient\u00edfico-colonial se modernizavam nos campos da frenologia e da criminologia, o exerc\u00edcio biom\u00e9trico seguia sua pr\u00e1xis na persegui\u00e7\u00e3o de pessoas negras e\/ou escravizadas. Browne chamou a aten\u00e7\u00e3o tamb\u00e9m para o papel dos an\u00fancios em jornais sobre pessoas escravizadas em resist\u00eancia e fuga. Trata-se um modo de consumo do sujeito negro por um p\u00fablico presumidamente branco, que subentendia os leitores desses an\u00fancios como uma \u201ccomunidade imagin\u00e1ria de vigil\u00e2ncia: os olhos e ouvidos da espreita, observa\u00e7\u00e3o e regula\u00e7\u00e3o face a face\u201d161. A t\u00e1tica foi comum em diversos locais do mundo escravista, onde o negro violado em seus direitos humanos passou a ser constru\u00eddo ideologicamente tamb\u00e9m nos jornais como \u201ccontr\u00e1rio ao trabalho e \u00e0","liberdade, sendo necess\u00e1ria vigil\u00e2ncia constante\u201d162. Autoridades brasileiras, por meio do \u201crecurso da edi\u00e7\u00e3o de posturas, tentavam a todo custo (e quase sempre sem o sucesso esperado) controlar os passos da popula\u00e7\u00e3o africana e afrodescendente\u201d163, criando instrumentos legais e infraestrutura policial para promover a estratifica\u00e7\u00e3o da sociedade, definindo quais grupos deviam ser postos sob suspei\u00e7\u00e3o perene e vigiados constantemente. Os meios de comunica\u00e7\u00e3o de massa de ent\u00e3o tornaram-se ferramentas n\u00e3o s\u00f3 de suporte da vigil\u00e2ncia, mas tamb\u00e9m de promo\u00e7\u00e3o e normaliza\u00e7\u00e3o da vigil\u00e2ncia distribu\u00edda realizada pelos grupos hegem\u00f4nicos, em conson\u00e2ncia com o Estado racista. No final do s\u00e9culo XIX, em S\u00e3o Paulo, embora o n\u00famero de cativos tenha sido sempre limitado, nem por isso a presen\u00e7a de escravos nas ruas deixou de justificar a ado\u00e7\u00e3o de medidas r\u00edgidas de controle e vigil\u00e2ncia164, o que se intensificou quando a cidade se tornou rota e destino para fluxos de pessoas escravizadas em fuga. Entre o aparato policial militar no Brasil, j\u00e1 em desenvolvimento no in\u00edcio do s\u00e9culo XIX, e as \u201celites\u201d escravocratas e corruptas, desenvolveu-se uma rela\u00e7\u00e3o de depend\u00eancia m\u00fatua, sendo incutidos nas ideologias e pr\u00e1ticas policiais o controle e o genoc\u00eddio das popula\u00e7\u00f5es subalternas, sobretudo com a amea\u00e7a dos movimentos abolicionistas. Entre os in\u00fameros casos registrados da naturaliza\u00e7\u00e3o do uso da for\u00e7a policial pelas classes m\u00e9dias brancas na defesa de privil\u00e9gios corriqueiros, vale citar o da persegui\u00e7\u00e3o a Joaquim Mina, alforriado, na Itu de 1856. Curandeiro e conselheiro de outros negros escravizados, Joaquim foi perseguido por um coletivo de cidad\u00e3os escravistas da cidade. Foi denunciado na pol\u00edcia por supostas pr\u00e1ticas de \u201cfeiti\u00e7aria\u201d e dissemina\u00e7\u00e3o de ideias de insubordina\u00e7\u00e3o que influenciariam os escravizados da regi\u00e3o. Entre os denunciantes, estava o m\u00e9dico Ricardo Gumbleton Daunt, que se apresentou como o mais irritado, pois alegava especial ofensa a sua profiss\u00e3o \u2013 alguns","escravistas preferiam tratar da sa\u00fade de suas v\u00edtimas com o curandeiro, em vez de procurar o m\u00e9dico diplomado e autorizado pelo pr\u00f3prio d. Pedro II. O m\u00e9dico, e isso j\u00e1 em meados do s\u00e9culo XIX, n\u00e3o aceitava a concorr\u00eancia de algu\u00e9m que ele n\u00e3o considerava humano, inclusive por ser o pr\u00f3prio m\u00e9dico tamb\u00e9m escravista. Como poderia aceitar que \u201cum preto desregrado e de comportamento vicioso vinha lhe estragar o \u00fanico escravo que conseguira comprar neste tempo todo?\u201d165. A perman\u00eancia e a intensifica\u00e7\u00e3o da viol\u00eancia racista em pa\u00edses como o Brasil e Estados Unidos at\u00e9 mesmo entre brancos de classe econ\u00f4mica baixa envolvem, de forma estratificada, privil\u00e9gios da branquitude na distribui\u00e7\u00e3o de recursos diversos. Mas tamb\u00e9m \u00e9 importante observar dois aspectos essenciais para a gest\u00e3o da filia\u00e7\u00e3o das classes baixas a aspectos do supremacismo branco em termos econ\u00f4micos e pol\u00edticos: a proje\u00e7\u00e3o individualista e neoliberal da possibilidade de ascens\u00e3o a partir do reflexo cultural hegem\u00f4nico da equival\u00eancia entre branquitude e sucesso; e a introje\u00e7\u00e3o do conhecimento \u2013 ora t\u00e1cito, ora expl\u00edcito \u2013 sobre quais s\u00e3o os grupos \u201cmat\u00e1veis\u201d e pass\u00edveis de exclus\u00e3o. W. E. B. Du Bois chamou de \u201csal\u00e1rio psicol\u00f3gico\u201d o modo pelo qual algumas garantias de respeito \u00e0 humanidade e acesso a recursos p\u00fablicos, ainda que m\u00ednimos, motivaram o proletariado branco estadunidense a priorizar o privil\u00e9gio racial em detrimento do interesse de classe, o que teria impedido a associa\u00e7\u00e3o de amplos estratos populacionais contra a explora\u00e7\u00e3o pelos verdadeiros donos do poder e capital166. De forma similar, nos anos 1960, Abdias Nascimento chamou a aten\u00e7\u00e3o para a percep\u00e7\u00e3o racializada do poder coercivo nas m\u00e3os das classes dirigentes, manipulado como \u201cinstrumento capaz de conceder ou negar ao descendente africano acesso e mobilidade \u00e0s posi\u00e7\u00f5es sociopol\u00edticas e econ\u00f4micas\u201d167. A evolu\u00e7\u00e3o dos meios e tecnologias de comunica\u00e7\u00e3o e informa\u00e7\u00e3o foi direcionada atrav\u00e9s de ideologias filiadas ao","supremacismo branco, resultando na incorpora\u00e7\u00e3o de uma \u201cimagina\u00e7\u00e3o carcer\u00e1ria\u201d na cultura e nos artefatos. O conceito de Ruha Benjamin oferece uma lente para entender a quest\u00e3o. Vis\u00f5es de desenvolvimento e progresso s\u00e3o muitas vezes constru\u00eddas sobre formas de subjuga\u00e7\u00e3o social e pol\u00edtica que exigem atualiza\u00e7\u00e3o na forma de novas t\u00e9cnicas de classifica\u00e7\u00e3o e controle. Quando os pesquisadores se prop\u00f5em a estudar os valores, suposi\u00e7\u00f5es e desejos que moldam a ci\u00eancia e a tecnologia, tamb\u00e9m devemos permanecer atentos \u00e0s ansiedades e medos raciais que moldam o design da tecnoci\u00eancia.168 Compreender as tecnologias carcer\u00e1rias algor\u00edtmicas como a distribui\u00e7\u00e3o do reconhecimento facial passa por compreender que a \u201cimagina\u00e7\u00e3o carcer\u00e1ria\u201d vigente em pa\u00edses moldados pelo colonialismo e pelo supremacismo branco exige entender \u201cquem e o que \u00e9 fixado no mesmo lugar \u2013 classificado, encurralado e\/ou coagido\u201d169 e como as tecnologias e institui\u00e7\u00f5es s\u00e3o criadas para a manuten\u00e7\u00e3o e a promo\u00e7\u00e3o das hierarquias sociais de explora\u00e7\u00e3o. Tal din\u00e2mica, central para o racismo estrutural em vista da constru\u00e7\u00e3o e da atualiza\u00e7\u00e3o constante do negro como representa\u00e7\u00e3o do perigo e da alteridade, casou-se plenamente com a cultura do encarceramento170 como solu\u00e7\u00e3o para os desviantes no pa\u00eds. Se concordamos com Achille Mbembe quando ele afirma que \u201cracismo \u00e9 acima de tudo uma tecnologia destinada a permitir o exerc\u00edcio do biopoder\u201d e sua fun\u00e7\u00e3o \u00e9 \u201cregular a distribui\u00e7\u00e3o da morte e tornar poss\u00edveis as fun\u00e7\u00f5es assassinas do estado\u201d171, o estabelecimento de estruturas de castas raciais mais ou menos difusas em pa\u00edses como Brasil e Estados Unidos172 promoveu introje\u00e7\u00f5es diferenciais sobre a rela\u00e7\u00e3o com a pol\u00edcia e o encarceramento entre os diferentes grupos componentes de tais pa\u00edses.","Reconhecimento facial e tecnochauvinismo Em novembro de 2019, uma reportagem da TV Itapoan, da Bahia, entrevistou a m\u00e3e de um adolescente confundido com um traficante. A partir de identifica\u00e7\u00e3o equivocada em imagens das c\u00e2meras de seguran\u00e7a, foi abordado dentro do metr\u00f4 de Salvador e levado \u00e0 delegacia. Segundo a mulher, n\u00e3o identificada para sua pr\u00f3pria seguran\u00e7a, o filho chegou em casa abalado com a viol\u00eancia policial e precisou de muitos minutos para se acalmar e contar o que acontecera. Posteriormente, ficou \u201ccom medo de ir pra escola, com medo de pegar \u00f4nibus, com medo de pegar metr\u00f4, com o emocional abalado\u201d173. Em janeiro de 2020, Robert Williams, 42 anos, foi abordado por policiais em sua casa, na frente da esposa e das filhas de 2 e 5 anos, acusado de roubar uma loja de rel\u00f3gios em Detroit, Estados Unidos. Os policiais chegaram a seu nome e endere\u00e7o, na cidade vizinha, ao rodar uma imagem das c\u00e2meras de seguran\u00e7a na base de dados de reconhecimento facial do departamento. Sua esposa perguntou ao policial para onde estava sendo levado, recebendo a r\u00edspida resposta \u201cProcure no Google\u201d. Na delegacia, Williams precisou mostrar repetidamente aos policiais o quanto a foto do homem nas imagens da c\u00e2mera de seguran\u00e7a em nada se parecia nem com ele nem com sua foto da base de dados. Apesar disso, os policiais custaram a questionar a autoridade do sistema computacional. Williams precisou pagar fian\u00e7a, depois de 30 horas preso injustamente, e ainda est\u00e1 enfrentando problemas familiares, pessoais e psicol\u00f3gicos pelo ocorrido174. Os dois casos podem chocar, mas se tornam cada vez mais frequentes, ainda que subnotificados. O reconhecimento facial para fins policiais j\u00e1 existe h\u00e1 mais de vinte anos, mas uma combina\u00e7\u00e3o do barateamento da tecnologia, aumento das bases de dados biom\u00e9tricos, leni\u00eancia legislativa e lobby das empresas acelerou sua ado\u00e7\u00e3o nos \u00faltimos tempos. H\u00e1 outros casos t\u00e3o ou mais chocantes","de falsos positivos, mas esses dois tocam em pontos essenciais para a compreens\u00e3o da problem\u00e1tica do reconhecimento facial: sua rela\u00e7\u00e3o com a infraestrutura de transporte p\u00fablico e o direito \u00e0 cidade e a normaliza\u00e7\u00e3o da decis\u00e3o computacional como fuga da individualiza\u00e7\u00e3o da responsabilidade humana. Assim como aconteceu com o fornecimento de dados pessoais \u00e0s plataformas de m\u00eddias sociais, a normaliza\u00e7\u00e3o da coleta e do processamento dos dados biom\u00e9tricos no espa\u00e7o urbano come\u00e7a com a extra\u00e7\u00e3o a partir de benef\u00edcios aparentemente positivos ou inofensivos. Na cidade de S\u00e3o Paulo, por exemplo, a primeira linha de metr\u00f4 concessionada para a iniciativa privada, a ViaQuatro, do grupo CCR, buscou enquadrar em 2018 como inova\u00e7\u00e3o positiva a instala\u00e7\u00e3o de pain\u00e9is publicit\u00e1rios digitais que contavam as pessoas que olhassem para as telas, fazendo reconhecimento de express\u00f5es faciais. A pedido de \u00f3rg\u00e3o de defesa do consumidor, a Justi\u00e7a de S\u00e3o Paulo determinou inicialmente a retirada da tecnologia175. A normaliza\u00e7\u00e3o p\u00fablica da tecnologia no pa\u00eds e no estado tem avan\u00e7ado a passos largos a partir do uso iniciado em redes de transporte. Levantamento explorat\u00f3rio de sistemas de reconhecimento facial adotados pelo poder p\u00fablico mostrou que, do n\u00famero \u2013 crescente \u2013 de casos reportados, 44% se d\u00e3o em equipamentos e infraestrutura de transporte p\u00fablico176. No in\u00edcio de 2020, o governo de S\u00e3o Paulo inaugurou o \u201cLaborat\u00f3rio de Identifica\u00e7\u00e3o Biom\u00e9trica \u2013 Facial e Digital\u201d177 para estabelecer avan\u00e7os na gest\u00e3o de dados biom\u00e9tricos digitais e a promo\u00e7\u00e3o do uso e normaliza\u00e7\u00e3o do reconhecimento facial. Na ocasi\u00e3o, o governador Jo\u00e3o D\u00f3ria festejou de forma tecnicista a inaugura\u00e7\u00e3o do laborat\u00f3rio, que \u201clocaliza o bandido antes que ele execute o crime\u201d (sic) a partir do recurso \u00e0s mais de 30 milh\u00f5es de fotografias de cidad\u00e3os na base de dados. Fechando o discurso, parabenizou o delegado-geral da Pol\u00edcia Civil, \u201cque nunca prendeu tanto quanto nestes 13 meses\u201d178. O laborat\u00f3rio faz parte do Instituto de Identifica\u00e7\u00e3o Ricardo Gumbleton Daunt \u2013 nomeado a partir de","inovador crimin\u00f3logo e datiloscopista que, por sua vez, recebeu o mesmo nome do av\u00f4 m\u00e9dico escravista mencionado na se\u00e7\u00e3o anterior. O lobby das empresas de intelig\u00eancia artificial e tecnologia de repress\u00e3o p\u00fablica tem aproveitado a onda de projetos pol\u00edticos de extrema direita pelo mundo, de Trump a Bolsonaro. Eleito por apoiar as ideias violentas e segregadoras de Bolsonaro, o ent\u00e3o candidato a governador do Rio de Janeiro Wilson Witzel teve como uma de suas propostas centrais bandeiras de fortalecimento da seguran\u00e7a p\u00fablica com sistemas de vigil\u00e2ncia e reconhecimento facial. Adotadas com alarde e a toque de caixa no Carnaval de 2019, com o apoio de empresas parceiras do governo, j\u00e1 no ano seguinte os sistemas foram desativados por supostos impactos da pandemia179. Witzel seria afastado pelo Superior Tribunal de Justi\u00e7a em agosto de 2020 por corrup\u00e7\u00e3o e, em maio de 2021, perderia o cargo, sendo o primeiro governador a sofrer impeachment no pa\u00eds. O clima especialmente reacion\u00e1rio abre espa\u00e7o para que empresas de tecnologia promovam seus produtos junto a projetos pol\u00edticos repressivos. A converg\u00eancia do medo do espa\u00e7o p\u00fablico com a cren\u00e7a de que mais pol\u00edcia e mais dispositivos tecnol\u00f3gicos \u2013 ambos, fatores atravessados pelo racismo \u2013 seriam a solu\u00e7\u00e3o promovem o que Meredith Broussard chamou de tecnochauvinismo. Tecnochauvinismo \u00e9 a cren\u00e7a de que tecnologia \u00e9 sempre a solu\u00e7\u00e3o. [...] usualmente \u00e9 acompanhado por cren\u00e7as pr\u00f3ximas, como meritocracia, nos moldes de Ayn Rand; valores pol\u00edticos tecnolibert\u00e1rios; celebra\u00e7\u00e3o de liberdade de express\u00e3o, a ponto de negar que ass\u00e9dio online \u00e9 um problema; a no\u00e7\u00e3o de que computadores s\u00e3o mais \u201cobjetivos\u201d ou \u201csem vieses\u201d porque eles destilam quest\u00f5es e respostas atrav\u00e9s de avalia\u00e7\u00e3o matem\u00e1tica.180 Um policial que confia mais no sistema algor\u00edtmico do que nos pr\u00f3prios olhos face a face com um suspeito que tenha sido v\u00edtima de","falso positivo do reconhecimento facial representa uma das materializa\u00e7\u00f5es mais loquazes da interface entre racismo e tecnochauvinismo. A dilui\u00e7\u00e3o de responsabilidade que se verifica na atribui\u00e7\u00e3o \u00e0 tecnologia de ag\u00eancia sobre decis\u00f5es relacionadas a abordagem, identifica\u00e7\u00e3o, tipifica\u00e7\u00e3o ou condena\u00e7\u00e3o, por meio de dispositivos como reconhecimento facial, policiamento preditivo e escores de risco, \u00e9 um dos maiores perigos do racismo algor\u00edtmico. Erros e acertos do reconhecimento: seletividade penal Tecnologias de reconhecimento facial s\u00e3o incrivelmente imprecisas. E n\u00e3o se trata de erros desconhecidos pela academia, por ativistas ou pelo poder p\u00fablico. Um n\u00famero crescente de relat\u00f3rios estatais ou independentes tem demonstrado as fragilidades da tecnologia que, n\u00e3o obstante, segue em ampla expans\u00e3o. Al\u00e9m dos estudos mais abrangentes sobre a imprecis\u00e3o da vis\u00e3o computacional citados anteriormente, dois casos merecem aten\u00e7\u00e3o. Pesquisadores da Universidade de Essex acompanharam entre 2016 e 2019 a ado\u00e7\u00e3o de uma s\u00e9rie de procedimentos explorat\u00f3rios de reconhecimento facial pela pol\u00edcia metropolitana de Londres, que instituiu uma watchlist (lista de observa\u00e7\u00e3o) que buscava milhares de faces de pessoas procuradas em diversos espa\u00e7os p\u00fablicos. Entretanto, cerca de 38% das indica\u00e7\u00f5es do programa foram julgadas n\u00e3o cr\u00edveis pelos policiais, mesmo antes da abordagem. E, mesmo com esse filtro, as abordagens realizadas penderam para o erro: cerca de 63% dos indiv\u00edduos abordados foram \u201cfalsos positivos\u201d: pessoas que n\u00e3o eram as procuradas. Entretanto, os l\u00edderes do estudo, Pete Fussey e Daragh Murray, enfatizam tamb\u00e9m um problema particular em termos da rela\u00e7\u00e3o custo-benef\u00edcio do projeto. Ao comparar o n\u00famero dos procurados inclusos nas watchlists com as abordagens indicadas e realizadas, a disparidade \u00e9 ainda maior: bases com mais de 2.400 suspeitos","geraram apenas oito pris\u00f5es. Dados proporcionais ainda piores s\u00e3o reportados no Brasil, onde gigantesca infraestrutura de reconhecimento facial foi adotada na Micareta de Feira de Santana, na Bahia, coletando 1,3 milh\u00f5es de rostos para o cumprimento de apenas 18 mandados181. Tamb\u00e9m foi observado o problema de \u201coficiais de rua n\u00e3o esperarem pelo processo de decis\u00e3o na sala de controle \u2013 um claro exemplo de presun\u00e7\u00e3o em favor da interven\u00e7\u00e3o\u201d182, refor\u00e7ando o perigo da rela\u00e7\u00e3o de tais tecnologias com a cultura policial, independentemente da precis\u00e3o ou imprecis\u00e3o da an\u00e1lise de reconhecimento. Um dos casos relatados no estudo londrino foi uma abordagem violenta contra um jovem negro de 14 anos \u2013 vestido com roupa escolar. Tamb\u00e9m \u201cfalso positivo\u201d. Apesar dos erros, no ano seguinte a pol\u00edcia da cidade declarou que buscava expandir o sistema. Um comiss\u00e1rio de pol\u00edcia afirmou que a institui\u00e7\u00e3o deseja \u201cgarantir que estas implementa\u00e7\u00f5es sejam efetivas no combate ao crime, mas que tamb\u00e9m sejam aceitas pelo p\u00fablico. Londrinos esperam que adotemos esta tecnologia responsavelmente\u201d183. Entretanto, uma investiga\u00e7\u00e3o do Independent mostrou que os indiv\u00edduos abordados n\u00e3o receberam explica\u00e7\u00e3o sobre os motivos e sobre a tecnologia de abordagem nas fases de teste184. *** O National Institute of Standards and Technology (Instituto Nacional de Padr\u00f5es e Tecnologia) dos Estados Unidos analisa recursos de reconhecimento facial e biometria para verifica\u00e7\u00e3o e identifica\u00e7\u00e3o desde 1994, com abrang\u00eancia crescente, por conta da evolu\u00e7\u00e3o desse mercado. Algumas edi\u00e7\u00f5es anteriores inclu\u00edram de forma inconsistente medi\u00e7\u00e3o de vari\u00e1veis demogr\u00e1ficas como ra\u00e7a, g\u00eanero e idade, mas, em 2019, gra\u00e7as \u00e0 press\u00e3o p\u00fablica sobre o tema, foi publicado um detalhado relat\u00f3rio espec\u00edfico sobre efeitos demogr\u00e1ficos em 189 algoritmos testados, provenientes de pa\u00edses","como Estados Unidos e China. O estudo identificou que as taxas de erro relativas a \u201cfalsos positivos\u201d s\u00e3o de dez a cem vezes maiores para fotos de pessoas negras, asi\u00e1ticas ou de povos origin\u00e1rios. No caso da popula\u00e7\u00e3o negra, os erros foram consistentemente mais acentuados nos sistemas usados para fins policiais. Reconhecer o ponto de vista dos autores impl\u00edcito nos riscos apontados no relat\u00f3rio \u00e9 importante. O documento tem como preocupa\u00e7\u00e3o central o controle estatal do acesso e da movimenta\u00e7\u00e3o de pessoas. \u201cEm um controle de acesso um a um, falsos negativos atrapalham usu\u00e1rios leg\u00edtimos; falsos positivos enfraquecem as metas de padr\u00f5es de seguran\u00e7a dos gestores. De outro lado, em um sistema um a muitos, um falso negativo apresenta um problema de seguran\u00e7a, e um falso positivo discriminaria visitantes leg\u00edtimos.\u201d185 A capacidade dos fornecedores de tecnologia de auditar seus pr\u00f3prios sistemas, a aceita\u00e7\u00e3o de taxas de erro, o modo pelo qual os instalam e vendem e, por fim, o modo como compradores governamentais avaliam ou aceitam tais erros s\u00e3o t\u00e3o ou mais importantes que os \u00edndices m\u00e9tricos de acur\u00e1cia ou erro. Em sociedades como a brasileira, em que a seletividade penal racista \u00e9 a regra, tecnologias de rastreamento n\u00e3o poder\u00e3o sen\u00e3o servir ao encarceramento em massa de grupos espec\u00edficos. Com mais de 700 mil pessoas encarceradas, o Brasil tem a terceira maior popula\u00e7\u00e3o carcer\u00e1ria do mundo, atr\u00e1s apenas de Estados Unidos e China. No ano 2000 o n\u00famero era muito menor, totalizava 232 mil pessoas. Raz\u00f5es para o aumento incluem instrumentos de intensifica\u00e7\u00e3o da repress\u00e3o como a Lei 11.343 (\u201cLei Antidrogas\u201d). A morosidade e a desumanidade do Poder Judici\u00e1rio aceitaram tamb\u00e9m que 292 mil pessoas estivessem presas sem condena\u00e7\u00e3o no levantamento de 2016. Quase metade dos presos provis\u00f3rios estava encarcerada havia mais de noventa dias, sem julgamento ou senten\u00e7a186. Entre as pessoas encarceradas, 64% s\u00e3o negras e 75% n\u00e3o puderam realizar o ensino m\u00e9dio. Quando cruzamos esse dado com","as raz\u00f5es para a pris\u00e3o, deparamos com a criminaliza\u00e7\u00e3o da negritude e da pobreza. Entre os homens, 26% est\u00e3o presos por tr\u00e1fico e 12% por furto, enquanto 62% das mulheres respondem por tr\u00e1fico e 11% por furto. Tais disparidades levaram consequentemente a novas camadas de discrep\u00e2ncias imediatas na aplica\u00e7\u00e3o de tecnologias carcer\u00e1rias algor\u00edtmicas. Estudo pioneiro da Rede de Observat\u00f3rios de Seguran\u00e7a mostrou que 90,5% dos presos a partir de reconhecimento facial foram pessoas negras, com os estados da Bahia, Rio de Janeiro e Santa Catarina na lideran\u00e7a no uso dessa t\u00e9cnica187. Os dados foram levantados a partir de cobertura da imprensa sobre abordagens ou declara\u00e7\u00f5es espont\u00e2neas das secretarias de seguran\u00e7a p\u00fablica, mas a precis\u00e3o das informa\u00e7\u00f5es e a transpar\u00eancia por parte de iniciativas estatais ainda deixam a desejar. Pablo Nunes argumenta que sistemas de reconhecimento facial s\u00e3o apresentados como formas de moderniza\u00e7\u00e3o da pr\u00e1tica policial, \u201cmas na verdade t\u00eam representado um retrocesso em rela\u00e7\u00e3o \u00e0 efici\u00eancia, transpar\u00eancia, accountability [presta\u00e7\u00e3o de contas] e prote\u00e7\u00e3o de dados pessoais da popula\u00e7\u00e3o\u201d188. O recrudescimento do respeito a instrumentos de transpar\u00eancia p\u00fablica, como a Lei de Acesso \u00e0 Informa\u00e7\u00e3o, se relaciona com o incentivo social de estigmatiza\u00e7\u00e3o de cidad\u00e3os que entraram de algum modo em contato com o sistema prisional. Juristas observam que, sem a necess\u00e1ria transpar\u00eancia dos \u00f3rg\u00e3os p\u00fablicos sobre os sistemas adotados, os \u00edndices de precis\u00e3o e sobre como s\u00e3o treinados, \u00e9 prov\u00e1vel que \u201ca pol\u00edtica do encarceramento em massa se intensifique cada vez mais e, principalmente, em cima da falsa identifica\u00e7\u00e3o de suspeitas\u201d189. Os dados explorat\u00f3rios apontam que essa \u00e9 uma tend\u00eancia crescente \u2013 e o reconhecimento facial \u00e9 apenas a tecnologia carcer\u00e1ria algor\u00edtmica mais vis\u00edvel no processo.","Riscos espacializados e corporificados Os esfor\u00e7os em restringir a movimenta\u00e7\u00e3o das pessoas no espa\u00e7o p\u00fablico segregado se desdobram em diversas frentes como planejamento urban\u00edstico, meios de transporte e habita\u00e7\u00e3o. Para promo\u00e7\u00e3o do encarceramento de grupos espec\u00edficos, o policiamento diferencial em regi\u00f5es supostamente mais violentas ou problem\u00e1ticas, do ponto de vista do Estado, se confunde com a pr\u00f3pria hist\u00f3ria da institui\u00e7\u00e3o. Entretanto, pela \u00e9gide da efici\u00eancia, pr\u00e1ticas de policiamento preditivo ou escores de risco sobre o espa\u00e7o ou pessoas intensificam essa segrega\u00e7\u00e3o. Os mapas de crime ou hot-spots s\u00e3o recursos tradicionais, que no Brasil remontam \u00e0 \u00e9poca do Imp\u00e9rio190, tendo sido transformados nas \u00faltimas d\u00e9cadas com a digitaliza\u00e7\u00e3o de dados e a sedu\u00e7\u00e3o das potencialidades algor\u00edtmicas. A constru\u00e7\u00e3o de \u201ccentros de controle\u201d fortalece na pr\u00e1tica policial uma esp\u00e9cie de normatividade empresarial191 na gest\u00e3o de informa\u00e7\u00e3o sobre o fazer da seguran\u00e7a p\u00fablica, priorizando indicadores e o alcance e reprodu\u00e7\u00e3o de metas espacializadas. O n\u00facleo da ideia de policiamento preditivo est\u00e1 na aloca\u00e7\u00e3o de recursos humanos \u2013 como rondas e busca por comportamentos suspeitos \u2013 e materiais-tecnol\u00f3gicos, como c\u00e2meras de vigil\u00e2ncia, para direcionar a vigil\u00e2ncia proativa sobre espa\u00e7os em que certos \u00edndices de criminalidade foram medidos a partir de s\u00e9ries hist\u00f3ricas. Entretanto, as pr\u00e1ticas seletivas da pol\u00edcia quanto a seus imagin\u00e1rios de quem \u00e9 o criminoso e os tipos de crimes observados e registrados geram a retroalimenta\u00e7\u00e3o criminalizadora de determinadas regi\u00f5es e grupos de pessoas. Como vimos, tipos penais que geram tanto engajamento policial quanto altos \u00edndices de encarceramento s\u00e3o em grande n\u00famero ligados a crimes como tr\u00e1fico de drogas ou crimes contra a propriedade, como furto. Um levantamento coordenado por Jacqueline Sinhoretto sobre desigualdade racial quanto \u00e0 letalidade","policial e pris\u00f5es em flagrante em S\u00e3o Paulo mostra: \u201cA vigil\u00e2ncia policial privilegia as pessoas negras e as reconhece como suspeitos criminais, flagrando em maior intensidade as suas condutas ilegais, ao passo que os brancos, menos visados pela vigil\u00e2ncia policial, gozam de menor visibilidade diante da pol\u00edcia, sendo surpreendidos com menor frequ\u00eancia em sua pr\u00e1tica delitiva\u201d192. Um dos \u00edndices mais chocantes do estudo \u00e9 o de letalidade policial, no qual 61% das v\u00edtimas no levantamento s\u00e3o negras. Quando comparado com o total da popula\u00e7\u00e3o, tal n\u00famero significa um \u00edndice tr\u00eas vezes maior que o dos cidad\u00e3os brancos. Adicionalmente, 96% das mortes perpetradas pela pol\u00edcia n\u00e3o geraram indiciamento dos policiais ou foram arquivadas. Quando as constru\u00e7\u00f5es estruturais do racismo se somam a essas pr\u00e1ticas, ao enquadramento das favelas e periferias como espa\u00e7os criminalizados e \u00e0 violenta tipifica\u00e7\u00e3o de condutas como tr\u00e1fico de drogas, o poder policial torna-se, em realidade, livre para matar de forma discricion\u00e1ria. Desde o s\u00e9culo XIX, a criminaliza\u00e7\u00e3o de uso, cultivo ou venda de subst\u00e2ncias como as derivadas da cannabis foi realizada pelo medo de subvers\u00e3o ideol\u00f3gica das rela\u00e7\u00f5es sociais ou de trabalho. \u201cFumo de angola\u201d, \u201cplanta africana\u201d ou mesmo despudoramente \u201cfumo de negro\u201d foram termos usados ao longo dos s\u00e9culos XIX e XX para falar da maconha, criminalizada primeiramente no Brasil, que teve um papel relevante nessa hist\u00f3ria. Um m\u00e9dico sergipano, de inspira\u00e7\u00e3o lombrosiana, defendeu a criminaliza\u00e7\u00e3o internacional a partir de uma perspectiva despudoradamente eugenista contra os negros. Com tal heran\u00e7a ideol\u00f3gica, tanto no \u00e2mbito institucional quanto no social justificam-se facilmente assassinatos de pessoas negras e\/ou pobres perpetrados por policiais, sobretudo em periferias e favelas, com frequentes alega\u00e7\u00f5es de que a v\u00edtima participava do tr\u00e1fico de drogas193. A partir da an\u00e1lise de 4 mil senten\u00e7as por tr\u00e1fico em S\u00e3o Paulo, jornalistas da P\u00fablica identificaram como pessoas negras s\u00e3o mais","condenadas por esse delito portando menor quantidade de droga \u2013 no caso da maconha, a m\u00e9dia das apreens\u00f5es variou de 136,5g (pessoas negras) a 482,4g (pessoas brancas) no estudo. A discrep\u00e2ncia mais acentuada esteve na tipifica\u00e7\u00e3o de presos com quantidades de at\u00e9 10 gramas de maconha: 68,4% dos abordados negros foram considerados traficantes contra 18,1% dos brancos194. Mesmo sem contar o uso frequente dos chamados \u201ckits flagrantes\u201d195, a anu\u00eancia acr\u00edtica ao valor de prova testemunhal de agentes policiais na \u201cguerra \u00e0s drogas\u201d \u00e9 a primeira ferramenta usada pelo racismo de estado no estabelecimento de crit\u00e9rios diferentes para encarceramento de negros e pobres. A alimenta\u00e7\u00e3o de sistemas algor\u00edtmicos com dados gerados por institui\u00e7\u00f5es nos funis da seguran\u00e7a p\u00fablica, que aproximam os fatores negritude e pobreza de resultados como encarceramento e morte n\u00e3o pode, portanto, ser naturalizada. Paradigm\u00e1tico, o caso do COMPAS (Correctional Offender Management Profiling for Alternactive Sanctions) tornou-se sin\u00f4nimo de avalia\u00e7\u00e3o algor\u00edtmica na justi\u00e7a criminal, especificamente sobre escores de risco de reincid\u00eancia. O produto principal do COMPAS \u00e9 um conjunto de escores de risco baseados em 137 vari\u00e1veis e quest\u00f5es relacionadas aos r\u00e9us. Oferecendo um escore de risco de reincid\u00eancia que vai de 1 a 10, ajudaria ju\u00edzes e conselhos de liberdade condicional a decidir sobre fian\u00e7as, penas e possibilidades de penas alternativas, levando em conta a prov\u00e1vel ou poss\u00edvel repeti\u00e7\u00e3o de delitos. Jornalistas da ProPublica identificaram a atribui\u00e7\u00e3o de riscos desproporcional a r\u00e9us brancos e negros. Em um caso, um homem branco, Vernon Prater, preso por furto, mas com hist\u00f3rico de assaltos \u00e0 m\u00e3o armada e furtos qualificados, recebeu um escore 3, que representa risco baixo. Uma jovem negra, Brisha Borden, tamb\u00e9m presa por furto, tinha apenas hist\u00f3rico de infra\u00e7\u00f5es juvenis, mas recebeu escore de reincid\u00eancia 8, alto. Se a compara\u00e7\u00e3o das infra\u00e7\u00f5es com o escore assusta, o mesmo ocorre com sua","(in)capacidade preditiva: com escore baixo, Vernon reincidiu, realizando um assalto de grandes propor\u00e7\u00f5es. Brisha, com escore alto, n\u00e3o reincidiu196. Por\u00e9m, as 137 vari\u00e1veis explicam apenas parte do problema. Transcrevo algumas delas: quantos de seus amigos ou conhecidos j\u00e1 foram presos? Quantas vezes se mudou no \u00faltimo ano? Voc\u00ea tem um apelido? Seus amigos ou vizinhos j\u00e1 foram v\u00edtimas de crimes? Quantos amigos seus usam drogas ilegais? J\u00e1 foi suspenso da escola? Com qual frequ\u00eancia voc\u00ea fica entediado? Voc\u00ea concorda que uma pessoa passando fome tem o direito de furtar? Concorda que a lei n\u00e3o ajuda o cidad\u00e3o m\u00e9dio? Al\u00e9m das quest\u00f5es mais \u00f3bvias, como tipo de crime e hist\u00f3rico de infra\u00e7\u00f5es, as vari\u00e1veis supostamente preditivas levantam tamb\u00e9m condi\u00e7\u00f5es sociais, relacionamentos e at\u00e9 a declara\u00e7\u00e3o de atitudes. A soci\u00f3loga Ruha Benjamin aponta que \u201ctodas essas vari\u00e1veis s\u00e3o estruturadas por domina\u00e7\u00e3o racial \u2013 de discrimina\u00e7\u00e3o no mercado de trabalho a faveliza\u00e7\u00e3o \u2013, e o levantamento mede em que medida as chances de vida individuais foram impactadas por racismo sem perguntar a ra\u00e7a do indiv\u00edduo\u201d197. Como resultado agregado a esse processo, a distribui\u00e7\u00e3o de escores de risco de reincid\u00eancia tornou-se extremamente enviesada e prejudicial contra estadunidenses negros, que tiveram os escores distribu\u00eddos de 1 a 10, com alta concentra\u00e7\u00e3o em riscos altos. Para os estadunidenses brancos, a distribui\u00e7\u00e3o foi favor\u00e1vel, com muitos escores m\u00ednimos (1) e poucos escores m\u00e1ximos (10). A ordena\u00e7\u00e3o necropol\u00edtica do mundo envolve uma constante transforma\u00e7\u00e3o dos mecanismos de viol\u00eancia, puni\u00e7\u00e3o e classifica\u00e7\u00e3o dos indiv\u00edduos pelos poderes hegem\u00f4nicos herdeiros do colonialismo. Tecnologias algor\u00edtmicas e a defini\u00e7\u00e3o dos limites aceit\u00e1veis do que \u00e9 considerado qualidade e efici\u00eancia na intelig\u00eancia artificial s\u00e3o moldados por tal estado das rela\u00e7\u00f5es de poder. Como escreve Achille Mbembe, \u201c[a necropol\u00edtica envolve] a produ\u00e7\u00e3o de fronteiras e hierarquias, zonas e enclaves; a subvers\u00e3o","dos regimes de propriedades existentes; a classifica\u00e7\u00e3o das pessoas de acordo com diferentes categorias; extra\u00e7\u00e3o de recursos; e, finalmente, a produ\u00e7\u00e3o de uma ampla reserva de imagin\u00e1rios culturais\u201d198. Os \u00faltimos s\u00e9culos tornaram a pris\u00e3o uma das caracter\u00edsticas mais importantes do nosso imagin\u00e1rio sobre a sociedade, fazendo com que \u201cconsider\u00e1ssemos a exist\u00eancia delas [das pris\u00f5es] algo natural. A pris\u00e3o se tornou um ingrediente essencial do nosso senso comum\u201d199, como aponta Angela Davis. Tais imagin\u00e1rios se apresentam em inst\u00e2ncias estruturais como ideologia e cultura, que s\u00e3o ligadas ao estado em sua condi\u00e7\u00e3o de reprodutor da supremacia branca, mas tamb\u00e9m em sua retroalimenta\u00e7\u00e3o por meio de dados e produ\u00e7\u00f5es de imagin\u00e1rios, estere\u00f3tipos, visualidades e classifica\u00e7\u00f5es perversas sobre vida, morte e viol\u00eancia. Criminaliza\u00e7\u00e3o das visualidades e rostos racializados Tamir Rice, 12 anos, assim como Marcus Vin\u00edcius e milhares de crian\u00e7as negras por todo o mundo, tamb\u00e9m acreditou erroneamente que poderia exercer plenamente sua inf\u00e2ncia como o fazem os garotos brancos estadunidenses. O garoto estava brincando em um parque com uma arma de brinquedo e outro morador do quarteir\u00e3o ligou para a pol\u00edcia, alegando que uma pessoa \u2013 provavelmente um adolescente \u2013 estaria amea\u00e7ando pessoas com uma arma de brinquedo. Os policiais enviados para o local receberam por r\u00e1dio a informa\u00e7\u00e3o de que havia um homem portando uma arma de verdade. Chegaram ao local e assassinaram Tamir imediatamente, em um estado onde \u00e9 legal portar armas no espa\u00e7o p\u00fablico, desde que \u00e0 vista. Reproduzir infer\u00eancias racistas que colocam o negro e outros grupos racializados como violentos em potencial \u00e9 um dos pilares da supremacia branca, na medida em que justifica controle e viol\u00eancia e","impede a solidariedade e o associativismo baseados em classe. Confundir objetos rotineiros com armas, em abordagens de policiais que atiram antes de perguntar, \u00e9 uma pr\u00e1tica frequente no Brasil. Casos recentes incluem o assassinato perpetrado por policiais que alegaram confundir de guarda-chuvas a furadeiras com armas200. Em um experimento divulgado no Twitter, Nicolas Kayser-Bril, membro do AlgorithmWatch, processou no Google Vision duas fotos de pessoas segurando um term\u00f4metro port\u00e1til \u2013 artefato popularizado na pandemia de covid-19. Na fotografia, em que uma m\u00e3o branca segura o term\u00f4metro, a etiqueta com maior \u00edndice de precis\u00e3o para a imagem seria \u201ctechnology\u201d (tecnologia), com 68% de acur\u00e1cia, e n\u00e3o aparece nenhuma etiqueta de conota\u00e7\u00e3o negativa. Na foto que exibe uma m\u00e3o de pessoa negra segurando o term\u00f4metro, \u201cgun\u201d (arma) lidera com 88%, e \u201cfirearm\u201d (arma de fogo) aparece com 65%. Por ter sido divulgado no Twitter, o experimento foi duplamente elucidativo sobre a filia\u00e7\u00e3o de parte da comunidade tecnocient\u00edfica \u00e0 cren\u00e7a da neutralidade na tecnologia. Dezenas de pessoas imediatamente alegaram que a posi\u00e7\u00e3o do term\u00f4metro seria o motivo da diferen\u00e7a na classifica\u00e7\u00e3o. Como resposta, o desenvolvedor Bart Nagel recortou a foto da pessoa negra e processou-a novamente no Google Vision, comparando-a com a mesma foto e uma foto com a m\u00e3o editada para parecer branca. Na primeira, a etiqueta \u201carma\u201d (gun) aparece com 61% de acur\u00e1cia, na segunda a etiqueta n\u00e3o aparece. Em nota emitida \u00e0 AlgorithmWatch, a Google alegou que n\u00e3o discrimina sistematicamente. Pediu desculpas \u201ca quem possa ter se ofendido\u201d e argumentou que n\u00e3o se trata de um vi\u00e9s consistente. A empresa concorda, por\u00e9m, que \u201cquando algu\u00e9m reclama, muitos j\u00e1 foram desproporcionalmente impactados pela performance enviesada do modelo\u201d201. Essa confiss\u00e3o diz bastante sobre a postura apenas reativa sobre poss\u00edveis danos \u2013 lembremos que a empresa tamb\u00e9m oferece produtos e servi\u00e7os para institui\u00e7\u00f5es","militares e policiais. Com um impacto menos imediatamente desastroso, mas calcado em uma mesma base, sistemas automatizados de restri\u00e7\u00e3o e modera\u00e7\u00e3o de conte\u00fado t\u00eam sido empregados em ambientes como Facebook e Instagram para evitar a visibilidade ou a divulga\u00e7\u00e3o de imagens violentas. Entre os casos documentados de problema de \u2013 no m\u00ednimo \u2013 acur\u00e1cia, temos o relatado pelo ilustrador Gabriel Jardim. Em pleno 20 de novembro, Dia Nacional da Consci\u00eancia Negra, uma ilustra\u00e7\u00e3o do artista foi impedida de ser divulgada na plataforma. FIGURA 3","Ilustra\u00e7\u00e3o de Gabriel Jardim em homenagem ao piloto Lewis Hamilton.202 Tentou-se impulsionar a exposi\u00e7\u00e3o da ilustra\u00e7\u00e3o por meio do","servi\u00e7o de an\u00fancios da plataforma Facebook\/Instagram para promover uma loja. Por\u00e9m, isso n\u00e3o foi poss\u00edvel, pois a imagem incluiria \u201cvenda de muni\u00e7\u00e3o, armas de fogo, paintball, armas de chumbinho ou outros tipos de armas\u201d. Na avalia\u00e7\u00e3o do ilustrador, a proibi\u00e7\u00e3o ocorreu porque \u201co desenho se ambienta numa quebrada com personagens pretos\u201d203. Na imagem, reproduzida na Figura 3, \u00e9 poss\u00edvel reconhecer os elementos visuais de favela ou bairro popular, mas nada que indique viol\u00eancia. Por\u00e9m, no Brasil a cultura imag\u00e9tica hegem\u00f4nica privilegia a viol\u00eancia na cobertura jornal\u00edstica ou nas narrativas ficcionais ambientadas em tais espa\u00e7os. Em ambos os casos, a produ\u00e7\u00e3o de sistemas de identifica\u00e7\u00e3o automatizada de objetos ou contextos se baseia no hist\u00f3rico de representa\u00e7\u00f5es, estere\u00f3tipos e enquadramentos que produzem visibilidades e invisibilidades de uma forma desproporcional e vinculada \u00e0s assimetrias das rela\u00e7\u00f5es raciais e de poder. Aos negros brasileiros foram legados espa\u00e7os espec\u00edficos, como \u201co espa\u00e7o do trabalho mal remunerado, da m\u00e3o de obra prec\u00e1ria, do trabalho dom\u00e9stico, da favela, do morro e das pris\u00f5es\u201d204 \u2013 e n\u00e3o \u00e9 permitida ou aceita a constru\u00e7\u00e3o coletiva e criativa de outros imagin\u00e1rios relativos a esses locais. Al\u00e9m dos esc\u00e2ndalos de modera\u00e7\u00e3o citados, outro vazamento de regras de modera\u00e7\u00e3o, desta vez da TikTok, tem parentesco com o caso de criminaliza\u00e7\u00e3o ou rejei\u00e7\u00e3o a percep\u00e7\u00f5es de pobreza que acabamos de relatar. Os documentos vazados denunciaram regras de modera\u00e7\u00e3o humana contra corpos gordos, corpos considerados \u201canormais\u201d, \u201cvelhos\u201d ou \u201cfeios\u201d, e exibi\u00e7\u00e3o de ambientes depredados ou habita\u00e7\u00f5es subnormais como favelas, que n\u00e3o s\u00e3o deletados, mas s\u00e3o escondidos intencionalmente205. *** Al\u00e9m dos objetos e contextos, nota-se que est\u00e1 em curso \u2013 com novos nomes \u2013 um resgate e uma normaliza\u00e7\u00e3o das piores cren\u00e7as do racismo cient\u00edfico do s\u00e9culo XIX, como a frenologia. A tentativa de","se descobrir caracter\u00edsticas faciais ligadas a tend\u00eancias criminosas foi recha\u00e7ada h\u00e1 muito como pseudoci\u00eancia, mas a intelig\u00eancia artificial deu novo f\u00f4lego a alguns defensores dessas ideias. Da Inglaterra \u00e0 China, a tentativa de identificar padr\u00f5es faciais, padr\u00f5es de express\u00e3o ou mesmo de movimenta\u00e7\u00e3o corporal de criminosos \u00e9 um tipo de normaliza\u00e7\u00e3o empreendida por parte da comunidade de aprendizado de m\u00e1quina. De autoria de pesquisadores chineses, um estudo publicado em 2016 alegou identificar padr\u00f5es nos rostos de criminosos, a partir de explora\u00e7\u00e3o de uma base de dados de 2 mil fotos. A comunidade cient\u00edfica refutou \u00e9tica, pol\u00edtica e tecnicamente o estudo, mas os pesquisadores retrucaram em publica\u00e7\u00e3o adicional com o argumento de que, \u201ccomo a maioria das tecnologias, aprendizado de m\u00e1quina \u00e9 neutro\u201d, e que o estudo deveria ser louvado por ser supostamente o \u201cprimeiro a estudar infer\u00eancia induzida por faces sobre criminalidade e livre de quaisquer vieses subjetivos de observadores humanos\u201d206. Entretanto, o estudo n\u00e3o traz absolutamente nenhuma discuss\u00e3o sobre os impactos sociais da eventual aplica\u00e7\u00e3o do sistema, nem mesmo uma reflex\u00e3o sobre criminologia e sobre como aquelas pessoas inclusas na base de dados foram encarceradas. Outras tecnologias, j\u00e1 transformadas em servi\u00e7os, filiam-se a essa simplifica\u00e7\u00e3o do que seriam tra\u00e7os de emo\u00e7\u00f5es e condi\u00e7\u00f5es internas perigosas. Com sede na Inglaterra, a WeSee promete, mesmo com v\u00eddeos de baixa qualidade, ter capacidade de \u201cdeterminar o estado mental ou as inten\u00e7\u00f5es de um indiv\u00edduo a partir de suas express\u00f5es faciais, posturas, gestos e movimentos\u201d207, mesmo que impercept\u00edveis aos olhos humanos. O fato de tais identifica\u00e7\u00f5es simplesmente poderem encorajar a \u201csociedade a dobrar suas prioridades existentes sobre detec\u00e7\u00e3o de crimes\u201d208 relativas a espa\u00e7os, grupos-alvo e tipos penais espec\u00edficos \u00e9 uma motiva\u00e7\u00e3o poss\u00edvel e que n\u00e3o pode ser descartada, para al\u00e9m do interesse comercial de desenvolvedores e empreendedores na imagina\u00e7\u00e3o carcer\u00e1ria. A startup israelense Faception, por exemplo,","foi um empreendimento que ganhou m\u00eddia e aten\u00e7\u00e3o dos investidores ao prometer \u201canal\u00edtica facial de personalidade\u201d. Aplicando reconhecimento facial e t\u00e9cnicas de aprendizado de m\u00e1quina, ela seria capaz de classificar faces entre potenciais pesquisadores, \u201cQI alto\u201d, ped\u00f3filos, jogadores de p\u00f4quer, terroristas ou criminosos de colarinho-branco. Nos materiais de promo\u00e7\u00e3o do produto, a categoria \u201cterrorista\u201d ganha destaque, com aux\u00edlio de um gr\u00e1fico que perfila rostos de homens \u00e1rabes supostamente identificados como potenciais terroristas. Em poucos meses, conseguiu 625 mil d\u00f3lares de investimento de fundos do Vale do Sil\u00edcio209. Al\u00e9m de constituir um retorno preocupante de ideologias e cren\u00e7as pseudocient\u00edficas pr\u00f3prias da fisiognomia210, a aceita\u00e7\u00e3o de discursos e possibilidades de neg\u00f3cio e pol\u00edticas p\u00fablicas baseadas em novas pr\u00e1ticas biom\u00e9tricas de vigil\u00e2ncia reformata o que Simone Browne chama de \u201cepidermiza\u00e7\u00e3o digital\u201d do racismo. Nas fronteiras territoriais, legais ou digitais, questionar as marca\u00e7\u00f5es transformadas em biometria \u201cpoderia permitir repensar criticamente nossos momentos de contato com fronteiras incrementalmente tecnol\u00f3gicas\u201d211. Deixar morrer Um dos principais modos pelos quais os danos do colonialismo e a l\u00f3gica necropol\u00edtica se mant\u00eam \u00e9 seu frequente car\u00e1ter ordenat\u00f3rio de vida e morte mediado pela seletividade opaca ou pela passividade nociva. Literalmente, \u201cdeixar morrer\u201d \u00e9 um importante pilar nesse processo, pois significa uma valora\u00e7\u00e3o diferencial das humanidades classificadas por ra\u00e7a, g\u00eanero e nacionalidade em torno do mundo. A partir das inscri\u00e7\u00f5es sobre biopoder de Foucault, Mbembe afirma: \u201cTal poder se define em rela\u00e7\u00e3o a um campo biol\u00f3gico \u2013 do qual toma o controle e no qual se inscreve. Esse controle pressup\u00f5e a distribui\u00e7\u00e3o da esp\u00e9cie humana em grupos, a subdivis\u00e3o da","popula\u00e7\u00e3o em subgrupos e o estabelecimento de uma cesura biol\u00f3gica entre uns e outros\u201d212. A introje\u00e7\u00e3o dessa cesura biol\u00f3gica, o racismo, se espraia nas pr\u00e1ticas e fazeres, infelizmente incluindo tamb\u00e9m as a\u00e7\u00f5es dos grupos dedicados \u00e0 prote\u00e7\u00e3o da vida e \u00e0 sa\u00fade. Pesquisadores de universidades estadunidenses realizaram importante estudo sobre algoritmos comerciais de predi\u00e7\u00e3o de necessidades de cuidados m\u00e9dicos para identificar poss\u00edveis vieses e resultados discriminat\u00f3rios em subgrupos demogr\u00e1ficos. Descobriu-se que milh\u00f5es de pacientes negros receberam atribui\u00e7\u00e3o a escores de risco que os prejudicava quanto aos cuidados e recursos que receberiam213. Em determinados escores de riscos atribu\u00eddos aos avaliados em triagens m\u00e9dicas, pacientes negros estavam na verdade muito mais doentes do que os pacientes brancos \u2013 e em \u00edndices alarmantes. Ao investigar a origem da disparidade na base de dados, os pesquisadores descobriram duas vari\u00e1veis enviesadas sobre os dados que alimentavam o sistema, baseadas no hist\u00f3rico de recursos e gastos dirigidos a pacientes em mesmas condi\u00e7\u00f5es: pacientes negros, em m\u00e9dia mais pobres, n\u00e3o conseguiam gastar a mesma quantidade de dinheiro em seus pr\u00f3prios tratamentos, enquanto m\u00e9dicos e outros profissionais da sa\u00fade tomavam frequentemente decis\u00f5es de atribuir menos recursos a esse pacientes. Os sistemas algor\u00edtmicos analisados no estudo consideravam que o valor gasto historicamente seria um indicador confi\u00e1vel para representar a gravidade da condi\u00e7\u00e3o m\u00e9dica. Implementar tal premissa em sistemas automatizados ignora as vari\u00e1veis econ\u00f4micas na esfera dos pacientes \u2013 desvantagens em grande medida fruto do racismo; e desconsidera as vari\u00e1veis discriminat\u00f3rias na esfera dos profissionais, brancos em sua maioria, que historicamente n\u00e3o deram aten\u00e7\u00e3o igualit\u00e1ria a seus pacientes. Existe um crescente corpo de pesquisas sobre como o racismo","faz profissionais da sa\u00fade avaliarem e cuidarem de modo discriminat\u00f3rio os pacientes negros. A situa\u00e7\u00e3o \u00e9 especialmente grave na rela\u00e7\u00e3o com g\u00eanero, resultando em \u00edndices desumanos contra mulheres negras, sobretudo gestantes e parturientes. Estudos registram diferen\u00e7as no acesso aos recursos de sa\u00fade214, desigualdade no fornecimento de anestesia215 e um gap no cuidado fornecido a beb\u00eas negros e brancos216, entre outros problemas s\u00e9rios. Quando tratamos, portanto, de tentativas de automatiza\u00e7\u00e3o ou algoritmiza\u00e7\u00e3o de processos e avalia\u00e7\u00f5es no campo da sa\u00fade, devemos levar em conta os chamados \u201cmediadores\u201d, descritos por Jurema Werneck como relativos ao fator humano dos profissionais, al\u00e9m de buscar compreender n\u00e3o apenas sua qualifica\u00e7\u00e3o, mas tamb\u00e9m \u201csuas possibilidades de favorecer ou limitar o acesso de usu\u00e1rios aos diferentes recursos necess\u00e1rios\u201d217. Nesse estudo citado sobre o racismo algor\u00edtmico para escore de criticidade de pacientes, estamos diante de uma m\u00e9trica de valor gasto anteriormente aplicada acriticamente como atalho para supor a condi\u00e7\u00e3o real dos pacientes. Portanto, o sistema algor\u00edtmico reproduziu, intensificou e escondeu decis\u00f5es racistas granulares dos m\u00e9dicos que trabalhavam nos planos de sa\u00fade, cl\u00ednicas e hospitais que forneceram os dados para o treinamento do sistema. O caso aponta para muitos fatos e vari\u00e1veis sobre a \u201cdesintelig\u00eancia\u201d artificial. Os mais \u00f3bvios tratam de incompet\u00eancia, para dizer o m\u00ednimo, dos desenvolvedores, que consideraram a m\u00e9trica de \u201crecursos gastos\u201d como equivalente a \u201ccondi\u00e7\u00f5es de sa\u00fade\u201d, da neglig\u00eancia desumana dos provedores e hospitais particulares de sa\u00fade que usaram o sistema algor\u00edtmico para otimizar custos, sem exigir auditorias pr\u00e9vias. Essas institui\u00e7\u00f5es deveriam ser conscientes da fatualidade discriminat\u00f3ria na sa\u00fade p\u00fablica. O caso tamb\u00e9m evidencia algo al\u00e9m disso. Se a comercializa\u00e7\u00e3o de sistemas algor\u00edtmicos tem como caracter\u00edstica fundamental a","tentativa de impor opacidade aos fluxos de trabalho que os mant\u00eam, o que podemos dizer de sistemas algor\u00edtmicos baseados em aprendizado de m\u00e1quina calcados em milhares ou milh\u00f5es de pontos de dados de decis\u00f5es racistas que j\u00e1 estavam em andamento? A cada vez que um m\u00e9dico ignorou a dor de uma pessoa negra, escolheu um procedimento menos eficaz por ser mais barato ou ofereceu aten\u00e7\u00e3o de forma discriminat\u00f3ria, sua a\u00e7\u00e3o impactou diretamente aquele paciente e se somou, como ponto de dado, \u00e0s bases que permitiriam a automatiza\u00e7\u00e3o em escala das decis\u00f5es racistas218. Ironicamente, a auditoria realizada pelo estudo jogou luz n\u00e3o s\u00f3 sobre a \u201cdesintelig\u00eancia artificial\u201d, mas tamb\u00e9m sobre os horrores das decis\u00f5es realizadas por cossignat\u00e1rios de um contrato racial219 em prol da branquitude violenta, antes que tais decis\u00f5es tivessem sequer se tornado dados. Em estudo oportuno para esta discuss\u00e3o, Sueli Carneiro analisa a rela\u00e7\u00e3o entre racialidade, morbidade e mortalidade espraiadas da delegacia ao hospital: \u201cAs representa\u00e7\u00f5es sobre a racialidade atuam impactando os processos de morbidade e mortalidade, fazendo do biopoder um operador na distribui\u00e7\u00e3o de vitalismo e morte de forma sempre desequilibrada do lado da morte para os grupos raciais considerados indesej\u00e1veis\u201d220. Se, em pa\u00edses como o Brasil, policiais est\u00e3o plenamente vinculados ao exerc\u00edcio do poder de matar, m\u00e9dicos e profissionais da sa\u00fade estariam, em tese, ligados \u00e0 preserva\u00e7\u00e3o da vida. Mas dados desvelados em casos como o citado lembram que o diferencial de escolhas sobre acesso a servi\u00e7os p\u00fablicos ou sobre a qualidade de servi\u00e7os privados gera novas desigualdades quando mediado por sistemas algor\u00edtmicos. Portanto, os algoritmos n\u00e3o podem ser tomados como neutros, sob risco de se promover outra camada de viol\u00eancia racializada. Mesmo que parte das decis\u00f5es racistas tenha sido tomada pelos perpetradores de forma inconsciente, seus atos desembocam em danos muito reais e letais e, paradoxalmente, s\u00e3o agrupados como dados observ\u00e1veis e compar\u00e1veis em um sistema que reproduz tais","decis\u00f5es. E adicione-se a isso outro problema: casos de auditoria como o que acabamos de citar ainda s\u00e3o raros. Apenas uma min\u00fascula parcela dos sistemas algor\u00edtmicos \u00e9 analisada com tal amplitude de dados e n\u00edvel de aten\u00e7\u00e3o221. N\u00e3o podemos, pois, permitir que o agrupamento de a\u00e7\u00f5es discriminat\u00f3rias do cotidiano se transforme em dados para alimentar sistemas de aprendizado de m\u00e1quina antes de se tornar fonte de dados para o escrut\u00ednio coletivo de din\u00e2micas racistas da sociedade. 148 J\u00falia Barbon, \u201c\u2018Bandido n\u00e3o carrega mochila\u2019, diz m\u00e3e de aluno de 14 anos morto no Rio\u201d, Folha de S.Paulo, 21 jun. 2018. 149 Ana Pinheiro Flauzina, \u201cAs fronteiras raciais do genoc\u00eddio\u201d, Direito.UnB, v. 1, n. 1, 2014. 150 W. E. B. Du Bois, The Souls of Black Folk, Trad. Jos\u00e9 Luiz Pereira da Costa. Vers\u00e3o em dom\u00ednio p\u00fablico dispon\u00edvel em: <https:\/\/afrocentricidade.files.wordpress.com\/2016\/04\/as-almas-do-povo-negro-w-e-b- du-bois.pdf>, acesso em: out. 2021. 151 Beatriz Nascimento, Beatriz Nascimento, quilombola e intelectual: possibilidades nos dias de destrui\u00e7\u00e3o, S\u00e3o Paulo: Filhos da \u00c1frica, 2018, p. 249. 152 Nelson Maldonado-Torres, \u201cAnal\u00edtica da colonialidade e da decolonialidade \u2013 algumas dimenses b\u00e1sicas\u201d, in: Joaze Bernardino-Costa; Nelson Maldonado-Torres; Ram\u00f3n Grosfoguel (orgs.), Decolonialidade e pensamento afrodiasp\u00f3rico, Belo Horizonte: Aut\u00eantica, 2018. 153 Ibidem. 154 Silvio Almeida, O que \u00e9 racismo estrutural, Belo Horizonte: Letramento, 2018, p. 56. 155 Simone Browne, Dark Matters: On the Surveillance of Blackness, Londres: Duke University Press, 2015, p. 16. 156 Ibidem, p. 44. 157 Roque F. de Oliveira Filho, Crimes e perd\u00f5es na ordem jur\u00eddica colonial: Bahia (1750\/1808), tese de doutorado, Programa de P\u00f3s-Gradua\u00e7\u00e3o em Hist\u00f3ria, Salvador: Universidade Federal da Bahia, 2009. 158 Wellington Barbosa da Silva, \u201cBurlando a vigil\u00e2ncia: repress\u00e3o policial e resist\u00eancia negra no Recife no s\u00e9culo XIX (1830-1850)\u201d, Revista \u00c1frica e Africanidades, ano 1, n. 1, maio 2008. 159 Thula Rafaela de Oliveira Pires, \u201cColorindo mem\u00f3rias e redefinindo olhares: ditadura militar e racismo no Rio de Janeiro\u201d, relat\u00f3rio da Comiss\u00e3o da Verdade do Rio, Rio de Janeiro, 2015. 160 Elisa Matos Menezes, O inimput\u00e1vel: crimes do Estado contra a juventude criminalizada, monografia, gradua\u00e7\u00e3o em Antropologia, Braslia: Universidade de Bras\u00edlia, 2009.","161 Simone Browne, Dark Matters, op. cit., p. 72. 162 Tenner Inauhiny de Abreu, \u201cNascidos no gr\u00eamio da sociedade\u201d: racializa\u00e7\u00e3o e mesti\u00e7agem entre os trabalhadores na Prov\u00edncia do Amazonas (1850-1889), disserta\u00e7\u00e3o de mestrado, Programa de P\u00f3s-Gradua\u00e7\u00e3o em Hist\u00f3ria, Manaus: Universidade Federal do Amazonas, 2012, p. 95. 163 Wellington Barbosa da Silva, op. cit., p. 2. 164 Maria Helena P. T. Machado, \u201cSendo cativo nas ruas: a escravid\u00e3o urbana na cidade de S\u00e3o Paulo\u201d, in: Paula Porta (org.), Hist\u00f3ria da cidade de S\u00e3o Paulo, S\u00e3o Paulo: Paz e Terra, 2004, p. 85. 165 Adriano B. M. Lima, \u201cFeiti\u00e7o pega sempre: alforrias e curandeirismo no oeste paulista (s\u00e9culo XIX)\u201d, Anais do 4\u00ba Encontro Escravid\u00e3o e Liberdade no Brasil Meridional, Curitiba, 2009. 166 Tamara K. Nopper, op. cit. 167 Abdias Nascimento, op. cit. 168 Ruha Benjamin, \u201cRetomando nosso f\u00f4lego: estudos de ci\u00eancia e tecnologia, teoria racial cr\u00edtica e a imagina\u00e7\u00e3o carcer\u00e1ria\u201d, in Tarc\u00edzio Silva, Comunidades, algoritmos e ativismos digitais: olhares afrodiasp\u00f3ricos, S\u00e3o Paulo: LiteraRUA, 2020, p. 19. 169 Ibidem, p. 20. 170 Juliana Borges, Encarceramento em massa, S\u00e3o Paulo: P\u00f3len, 2019. 171 Achille Mbembe, Necropol\u00edtica, S\u00e3o Paulo: N-1 Edi\u00e7\u00f5es, 2018, p. 18. 172 Michelle Alexander, A nova segrega\u00e7\u00e3o: racismo e encarceramento em massa, S\u00e3o Paulo: Boitempo, 2018. 173 Trecho da mat\u00e9ria inclu\u00edda em: Tarc\u00edzio Silva, \u201cReconhecimento facial na Bahia: mais erros policiais contra negros e pobres\u201d, 21 nov. 2019, dispon\u00edvel em: <https:\/\/tarciziosilva.com.br\/blog\/reconhecimento-facial-na-bahia-mais-erros-policiais- contra-negros-e-pobres\/>, acesso em: out. 2021. 174 Kashmir Hill, \u201cWrongfully Accused by an Algorithm\u201d, NY Times, 24 jun. 2020, dispon\u00edvel em <https:\/\/www.nytimes.com\/2020\/06\/24\/technology\/facial-recognition-arrest.html>, acesso em: out. 2021. 175 \u201cJusti\u00e7a de SP pro\u00edbe uso de c\u00e2meras de reconhecimento facial em painel do Metr\u00f4\u201d, G1 S\u00e3o Paulo, 14 set. 2018, dispon\u00edvel em: <https:\/\/g1.globo.com\/sp\/sao- paulo\/noticia\/2018\/09\/14\/justica-de-sp-proibe-uso-de-cameras-de-reconhecimento- facial-em-painel-do-metro-de-sp.ghtml>, acesso em: out. 2021. 176 Instituto Igarap\u00e9, \u201cInfogr\u00e1fico Reconhecimento Facial no Brasil\u201d, dispon\u00edvel em: <https:\/\/igarape.org.br\/infografico-reconhecimento-facial-no-brasil\/>, acesso em: out. 2021. 177 \u201cGoverno inaugura laborat\u00f3rio de reconhecimento facial e digital da Pol\u00edcia Civil\u201d, Governo do Estado de S\u00e3o Paulo, 28 jan. 2020, dispon\u00edvel em: <https:\/\/www.saopaulo.sp.gov.br\/spnoticias\/governo-inaugura-laboratorio-de- reconhecimento-facial-e-digital-da-policia-civil\/>, acesso em: out. 2021. 178 \u201cDiscurso de Jo\u00e3o Doria na inaugura\u00e7\u00e3o do Laborat\u00f3rio de Identifica\u00e7\u00e3o Biom\u00e9trica em","28 de janeiro\u201d, Governo do Estado de S\u00e3o Paulo, fev. 2020, dispon\u00edvel em: <https:\/\/soundcloud.com\/governosp\/discurso-de-joao-504599548>, acesso em: out. 2021. 179 Carolina Heringer, \u201cUma das principais promessas de campanha de Witzel, c\u00e2meras de reconhecimento facial n\u00e3o funcionam mais desde o fim de 2019\u201d, O Globo Rio, 20 jul. 2020. 180 Meredith Broussard, Artificial (Un)intelligence: How Computers Misunderstand the World, Cambridge, MA: The MIT Press, 2018. 181 \u201cFeira de Santana registra 33 pris\u00f5es por reconhecimento facial durante micareta\u201d, G1 Bahia, 29 abr. 2019, dispon\u00edvel em: <https:\/\/g1.globo.com\/ba\/bahia\/noticia\/2019\/04\/29\/feira-de-santana-registra-33-prisoes- por-reconhecimento-facial-durante-micareta.ghtml>, acesso em: out. 2021. 182 Pete Fussey; Daragh Murray, \u201cIndependent Report on the London Metropolitan Police Service\u2019s Trial of Live Facial Recognition Technology\u201d, The Human Rights, Big Data and Technology Project, jul. 2019, p. 125, dispon\u00edvel em: <https:\/\/www.essex.ac.uk\/research\/showcase\/report-on-the-police-use-of-facial- recognition-technology-identifies-significant-concerns>, acesso em: out. 2021. 183 Lizzie Dearden, \u201cFacial Recognition to Be Rolled Out Across London by Police, Despite Privacy Concerns\u201d, Independent, 24. jan. 2020, dispon\u00edvel em: <https:\/\/www.independent.co.uk\/news\/uk\/crime\/facial-recognition-london-met-police- scotland-yard-privacy-a9299986.html>, acesso em: out. 2021. 184 Idem, \u201cFacial Recognition Cameras Scanning Unwitting Tourists and Christmas Shoppers in London\u2019s West End\u201d, Independent, 17. dez. 2018, dispon\u00edvel em: <https:\/\/www.independent.co.uk\/news\/uk\/home-news\/facial-recognition-cameras- london-met-police-suspects-arrests-identity-a8687481.html>, acesso em: out. 2021. 185 Patrick Grother; Mei Ngan; Kayee Hanaoka, \u201cFace Recognition Vendor Test (FRVT) \u2013 Part 3: Demographic Effects\u201d, National Institute of Standards and Technology, 2019, p. 6. 186 Departamento Penitenci\u00e1rio Nacional, \u201cLevantamento nacional de informa\u00e7\u00f5es penitenci\u00e1rias \u2013 Jun. 2016\u201d, Braslia-DF, 2017. 187 Pablo Nunes, \u201cLevantamento revela que 90,5% dos presos por monitoramento facial no Brasil s\u00e3o negros\u201d, The Intercept Brasil, 21 nov. 2019, dispon\u00edvel em: <https:\/\/theintercept.com\/2019\/11\/21\/presos-monitoramento-facial-brasil-negros>, acesso em out. 2021. 188 J\u00falia Barbon, \u201c151 pessoas s\u00e3o presas por reconhecimento facial no pa\u00eds; 90% s\u00e3o negras\u201d, Folha de S.Paulo, 22 nov. 2019. 189 Rosane Leal Silva; Fernanda dos Santos Rodrigues Silva, \u201cReconhecimento facial e seguran\u00e7a p\u00fablica: os perigos da tecnologia no sistema penal seletivo brasileiro\u201d, Anais do 5\u00ba Congresso Internacional de Direito e Contemporaneidade: m\u00eddias e direitos da sociedade em rede, Santa Maria, 2019. 190 Ricardo Alexandre Ferreira, Crimes em comum: escravid\u00e3o e liberdade sob a pena do Estado imperial brasileiro (1830-1888), S\u00e3o Paulo: Editora Unesp, 2011.","191 Bruno Cardoso, \u201cEstado, tecnologias de seguran\u00e7a e normatividade neoliberal\u201d, in: Fernanda Bruno et al. (orgs.), Tecnopol\u00edticas da vigil\u00e2ncia: perspectivas da margem, S\u00e3o Paulo: Boitempo, 2019. 192 Jacqueline Sinhoretto; Giane Silvestre; Maria Carolina Schlittler, \u201cDesigualdade racial e seguran\u00e7a p\u00fablica em S\u00e3o Paulo: letalidade policial e pris\u00f5es em flagrante\u201d, relat\u00f3rio de pesquisa, S\u00e3o Carlos: Departamento de Sociologia \u2013 UFSCar, 2014, p. 27. 193 Ant\u00f4nio Carlos Ribeiro J\u00fanior, \u201cAs drogas, os inimigos e a necropol\u00edtica\u201d, Cadernos do CEAS, n. 238, 2016. 194 Thiago Domenici; Iuri Barcelos; Bruno Fonseca, op. cit. 195 Porte de quantidades de drogas il\u00edcitas por policiais corruptos, que as carregam com o objetivo de incriminar cidad\u00e3os ao alegar que seriam os propriet\u00e1rios. 196 Julia Angwin et al., \u201cMachine Bias\u201d, ProPublica, 23 maio 2016, dispon\u00edvel em <https:\/\/www.propublica.org\/article\/machine-bias-risk-assessments-in-criminal- sentencing>, acesso em: out. 2021. 197 Ruha Benjamin, Race After Technology, op. cit., p. 150. 198 Achille Mbembe, op. cit., p. 39. 199 Angela Davis, Estar\u00e3o as pris\u00f5es obsoletas?, Rio de Janeiro: Difel, 2018. 200 \u201cMais um jovem negro \u00e9 morto ao ter furadeira confundida com arma no Rio\u201d, Not\u00edcia Preta, 3 abr. 2019, dispon\u00edvel em: <https:\/\/noticiapreta.com.br\/mais-um-jovem-negro-e- morto-ao-ter-furadeira-confundida-com-arma-no-rio\/>, acesso em: out. 2021. 201 Nicolas Kayser-Bril, \u201cGoogle Apologizes After Its Vision AI Produced Racist Results\u201d, AlgorithmWatch, 7 abr. 2020, dispon\u00edvel em: <https:\/\/algorithmwatch.org\/en\/story\/google-vision-racism\/>, acesso em: out. 2021. 202 Gabriel Jardim, Instagram: @ogabrieljardim, 21 nov. 2019, dispon\u00edvel em: <https:\/\/www.instagram.com\/p\/B5HJrglJjHq\/>, acesso em: out. 2021. 203 Ibidem. 204 Suzane Jardim, \u201cA reconstru\u00e7\u00e3o do m\u00ednimo: falsa ordem democr\u00e1tica e exterm\u00ednio\u201d, in: Winnie Bueno et al. (orgs.), Tem sa\u00edda? Ensaios cr\u00edticos sobre o Brasil, Porto Alegre: Zouk, 2017, p. 196. 205 Sam Biddle; Paulo Victor Ribeiro; Tatiana Dias, \u201cCensura inv\u00edsvel\u201d, The Intercept Brasil, 16 mar. 2020, dispon\u00edvel em: <https:\/\/theintercept.com\/2020\/03\/16\/tiktok-censurou- rostos-feios-e-favelas-para-atrair-novos-usuarios\/>, acesso em: out. 2021. 206 Xiaolin Wu; Xi Zhang, \u201cResponses to Critiques on Machine Learning of Criminality Perceptions\u201d, arXiv, 1611.04135v3, 2016, pp. 2 e 9. 207 HK Edition, \u201cFacial Recognition Tech \u2013 HK Can Rise to the Occasion\u201d, China Daily, 27 jul. 2018, dispon\u00edvel em: <http:\/\/www.chinadaily.com.cn\/hkedition\/2018- 07\/27\/content_36654608.htm>, acesso em: out. 2021. 208 Frank Pasquale, \u201cWhen Machine Learning is Facially Invalid\u201d, Communications of The ACM, v. 61, n. 9, 2018, p. 26. 209 Crunchbase, p\u00e1gina da Faception, dispon\u00edvel em: <https:\/\/www.crunchbase.com\/organization\/faception\/company_financials>, acesso em:","out. 2021. 210 Oliver Bendel, \u201cThe Uncanny Return of Physiognomy\u201d, The 2018 AAAI Spring Symposium Series, 2018. 211 Simone Browne, \u201cDigital Epidermalization: Race, Identity and Biometrics\u201d, Critical Sociology, v. 36, n. 1, 2010, p. 139. 212 Achille Mbembe, op. cit, p. 17. 213 Ziad Obermeyer et al., \u201cDissecting Racial Bias in an Algorithm Used to Manage the Health of Populations\u201d, Science, v. 366, n. 6464, 2019. 214 Emanuelle F. Goes; Enilda R. do Nascimento, \u201cMulheres negras e brancas e os n\u00edveis de acesso aos servi\u00e7os preventivos de sa\u00fade: uma an\u00e1lise sobre as desigualdades\u201d, Sa\u00fade em Debate, v. 37, n. 99, 2013. 215 Maria do Carmo Leal; Silvana Granado Nogueira da Gama; Cynthia Braga da Cunha, \u201cDesigualdades raciais, sociodemogr\u00e1ficas e na assist\u00eancia ao pr\u00e9-natal e ao parto, 1999-2001\u201d, Revista de Sa\u00fade P\u00fablica, v. 39, n. 1, 2005. 216 Brad N. Greenwood et al., \u201cPhysician-Patient Racial Concordance and Disparities in Birthing Mortality for Newborns\u201d, Proceedings of the National Academy of Sciences, v. 117, n. 35, 2020, pp. 21194-200. 217 Jurema Werneck, \u201cRacismo institucional e sa\u00fade da popula\u00e7\u00e3o negra\u201d, Sa\u00fade e Sociedade, v. 25, n. 3, 2016, p. 544. 218 Ruha Benjamin, \u201cAssessing Risk, Automating Racism\u201d, Science, v. 366, n. 6464, 2019. 219 Charles W. Mills, The Racial Contract, Nova York: Cornell University Press, 2014. 220 Aparecida Sueli Carneiro, A constru\u00e7\u00e3o do outro como n\u00e3o-ser como fundamento do ser, tese de doutorado, Programa de P\u00f3s-Gradua\u00e7\u00e3o em Educa\u00e7\u00e3o, S\u00e3o Paulo: Universidade de S\u00e3o Paulo, 2005, p. 323. 221 Ziv Epstein et al., \u201cClosing the AI Knowledge Gap\u201d, arXiv, 1803.07233, 2018.","","A LGORITMOS N\u00c3O NASCERAM COM a internet. A rigor, o nome \u201calgoritmo\u201d nasceu no s\u00e9culo IX, com o acad\u00eamico isl\u00e2mico Abu-Abdullah Muhammad ibn-Musa Al-Khwarizmi, interessado em modos de descrever de forma eficaz procedimentos para computar solu\u00e7\u00f5es a equa\u00e7\u00f5es. Ao longo do s\u00e9culo XX, o conceito solidificou-se como \u201cuma sequ\u00eancia finita de instru\u00e7\u00f5es precisas implement\u00e1veis em sistemas computacionais (incluindo, mas n\u00e3o limitadas, a c\u00e9rebros humanos)\u201d222. Entretanto, algoritmos e intelig\u00eancia artificial s\u00e3o discutidos hoje de forma acalorada pelos mais diversos campos, deixando-se de lado a historicidade de din\u00e2micas sociotecnol\u00f3gicas e de pr\u00e1ticas de incorpora\u00e7\u00e3o material de poder que os antecedem. Como \u00e9 habitual em um mundo acelerado que esquece \u2013 e apaga \u2013 hist\u00f3rias de acordo com os interesses hegem\u00f4nicos, \u00e9 preciso dar alguns passos atr\u00e1s para se ver al\u00e9m. Vamos realizar uma digress\u00e3o e percorrer uma pequena parte da hist\u00f3ria recente de racializa\u00e7\u00e3o de tecnologias e artefatos em prol de projetos discriminat\u00f3rios na interse\u00e7\u00e3o entre capitalismo e supremacismo branco. Podemos olhar para aprendizados e tecnologias do passado para, finalmente, ir al\u00e9m e pensar solu\u00e7\u00f5es, rea\u00e7\u00f5es e remedia\u00e7\u00f5es para os problemas das tecnologias contempor\u00e2neas. Estudar artefatos tecnol\u00f3gicos como plataformas, interfaces e algoritmos invariavelmente nos remete a quest\u00f5es recorrentes sobre se, e at\u00e9 que ponto, os \u201cartefatos t\u00eam pol\u00edtica\u201d, nos termos de Langdon Winner223. Partindo do hist\u00f3rico de controv\u00e9rsias sobre tecnologia e cultura, Winner diagnosticou, em 1980, posi\u00e7\u00f5es que poderiam ser resumidas at\u00e9 ent\u00e3o na filia\u00e7\u00e3o ou na rejei\u00e7\u00e3o a ideias deterministas: se as tecnologias definem os homens ou se seriam","meros espelhos dos sistemas sociais e econ\u00f4micos nos quais s\u00e3o constru\u00eddas e empregadas. A quest\u00e3o \u00e9 muito mais complexa que a defini\u00e7\u00e3o de uma simples dire\u00e7\u00e3o determin\u00edstica. Observar continuamente os modos de inter-rela\u00e7\u00e3o, influ\u00eancia ou codetermina\u00e7\u00e3o entre sociedade e tecnologia permite entender melhor artefatos, dispositivos, organiza\u00e7\u00f5es, padr\u00f5es e sistemas em seus impactos efetivos e potenciais permeados por rela\u00e7\u00f5es de poder existentes, desejadas ou rejeitadas. Os estudos de ci\u00eancia, tecnologia e sociedade avan\u00e7aram na interface com in\u00fameros campos direcionados a ideias e frameworks que permitem dar conta da complexidade das redes de media\u00e7\u00e3o e efeitos, como a ideia de flexibilidade interpretativa de Trevor Pinch e Wiebe Bijker224. As tecnologias s\u00e3o constru\u00eddas e interpretadas social e culturalmente com variados graus de flexibilidade interpretativa. Essa flexibilidade significa que diferentes grupos podem apresentar diferen\u00e7as radicais em seus usos e opini\u00f5es sobre uma determinada tecnologia e seus impactos. Quando se trata de objetos industriais ou pol\u00edticas p\u00fablicas, isso pode significar a presen\u00e7a de um per\u00edodo de instabilidade e transforma\u00e7\u00e3o at\u00e9 que um vi\u00e9s interpretativo se sobreponha aos demais (como ocorreu com a defini\u00e7\u00e3o do design t\u00edpico das \u201cbicicletas\u201d, depois de sua inven\u00e7\u00e3o). Em outros casos, a indefini\u00e7\u00e3o \u00e9 mantida e a disputa de pontos de vista permanece. Para citar um exemplo dentro do nosso tema: elites econ\u00f4micas podem construir narrativas sobre o sistema carcer\u00e1rio como impositores de seguran\u00e7a e de puni\u00e7\u00e3o adequada, ao mesmo tempo que fam\u00edlias perif\u00e9ricas e ativistas de direitos humanos podem v\u00ea-lo como reprodutor de injusti\u00e7as estruturais. Na outra face da \u201cinterpreta\u00e7\u00e3o\u201d de uma tecnologia ou sistema est\u00e1 a efetiva gama de possibilidades de usos e rela\u00e7\u00f5es \u2013 intencionais ou parcialmente acidentais \u2013 na sua rela\u00e7\u00e3o com a sociedade. Nascido no debate ecol\u00f3gico225, o conceito de affordance busca dar conta da intera\u00e7\u00e3o entre animal (inclusive o ser humano)","e ambiente (inclusive tecnol\u00f3gico) a partir da percep\u00e7\u00e3o que o primeiro pode ter sobre o mundo e sobre como manipular, interagir e criar a partir e com ele. Por exemplo, entre as primeiras tecnologias humanas, o conceito de affordance ajuda a pensar em como certas peles de animais foram identificadas pelo aparato perceptual de humanos como provedoras de calor, prote\u00e7\u00e3o e camuflagem, dando origem a demandas e padr\u00f5es de ca\u00e7a e vestu\u00e1rio. Mas, se os recursos considerados naturais n\u00e3o foram, pelo menos at\u00e9 recentemente, criados pelos humanos, o mesmo n\u00e3o acontece com as tecnologias digitais. Estudos de affordances das interfaces e funcionalidades de softwares podem dizer muito sobre presun\u00e7\u00f5es dos criadores quanto a din\u00e2micas de intera\u00e7\u00e3o e comunica\u00e7\u00e3o ligadas a cada modelo de neg\u00f3cio226. Pensando em plataformas de m\u00eddias sociais, por exemplo, as affordances dos perfis no Facebook s\u00e3o constru\u00eddas com vistas aos campos que populam a base de dados da corpora\u00e7\u00e3o para segmenta\u00e7\u00e3o de an\u00fancios como modelo de neg\u00f3cio da plataforma, e \u00e9 nessa dire\u00e7\u00e3o que ocorrem suas mudan\u00e7as e seus aperfei\u00e7oamentos. Em rela\u00e7\u00e3o \u00e0 a\u00e7\u00e3o de \u201clike\u201d, central para o funcionamento dessa plataforma, as prefer\u00eancias dos usu\u00e1rios s\u00e3o registradas a partir da publica\u00e7\u00e3o de conte\u00fado em seus perfis e intera\u00e7\u00f5es com outros usu\u00e1rios nas linhas do tempo. O \u201clike\u201d pode tamb\u00e9m significar uma demonstra\u00e7\u00e3o de afeto (para uma pessoa), uma medida de performance (do ponto de vista publicit\u00e1rio), um posicionamento pol\u00edtico (em uma discuss\u00e3o), enquanto sua aus\u00eancia pode significar a invisibilidade social (para um introvertido), entre outras interpreta\u00e7\u00f5es. Todas as interpreta\u00e7\u00f5es, por\u00e9m, convergem na estrutura centralizadora do Facebook, que possui um lugar privilegiado \u2013 ainda que n\u00e3o absoluto \u2013 no enquadramento interpretativo e na extra\u00e7\u00e3o de valor dos rastros e tra\u00e7os gerados por likes. Chegamos, ent\u00e3o, a quest\u00f5es essenciais para entender o que j\u00e1 vimos at\u00e9 aqui sobre racismo algor\u00edtmico: o que as tecnologias","permitem fazer e como elas s\u00e3o constru\u00eddas para permitir, impedir ou promover determinadas a\u00e7\u00f5es, determinados comportamentos e rela\u00e7\u00f5es? Como essas tecnologias podem ser interpretadas e ter impactos distintos para grupos diferentes em posi\u00e7\u00f5es s\u00f3cio- hist\u00f3ricas diametralmente opostas? As (im)possibilidades racializadas nas cidades Uma ponte extremamente baixa pode impedir um \u00f4nibus de passar por baixo dela, assim como os grupos da popula\u00e7\u00e3o dependentes desses \u00f4nibus. Essa realidade material e bruta pode ser planejada e ter impactos perenes na qualidade de vida da popula\u00e7\u00e3o de uma cidade. Em livro ganhador do Pulitzer, Robert Caro227 mapeou o modo como o planejamento urbano de Nova York foi influenciado por um racista declarado e orgulhoso de sua condi\u00e7\u00e3o, Robert Moses. Nas in\u00fameras decis\u00f5es que tomou como presidente da comiss\u00e3o de parques de Long Island entre as d\u00e9cadas de 1920 e 1950, o engenheiro buscou segregar a popula\u00e7\u00e3o. Sua decis\u00e3o mais famosa e controversa foi a ordena\u00e7\u00e3o de pontes baixas o suficiente para supostamente impedir que \u00f4nibus acessassem os parques p\u00fablicos da regi\u00e3o, de modo a dificultar o acesso da popula\u00e7\u00e3o pobre e negra. Apesar da controv\u00e9rsia sobre a efic\u00e1cia das pontes para tal objetivo228, \u00e9 not\u00e1vel como o per\u00edodo moldou padr\u00f5es de planejamento urbano. Sobre Moses, Caro comenta: Ao se certificar de que os amplos sub\u00farbios, \u00e1reas rurais e \u00e1reas esvaziadas fossem preenchidas por um padr\u00e3o de desenvolvimento espalhado de baixa densidade, dependente sobretudo de rodovias em vez de transporte em massa, garantiu que aquele fluxo continuaria por gera\u00e7\u00f5es, qui\u00e7\u00e1 s\u00e9culos, e que a \u00e1rea metropolitana de Nova York seria \u2013 talvez para sempre \u2013 uma regi\u00e3o onde o transporte \u2013 ir de um","lugar ao outro \u2013 permaneceria uma preocupa\u00e7\u00e3o irritante e exaustiva para 14 milh\u00f5es de habitantes.229 Foram 27 bilh\u00f5es de d\u00f3lares gerenciados por Moses em cinco d\u00e9cadas, em v\u00e1rias \u00e1reas e m\u00faltiplos projetos que moldaram fisicamente toda a cidade. Por mais chocante que pare\u00e7a, a pr\u00e1tica de segrega\u00e7\u00e3o racialmente planejada foi e \u00e9 comum em incont\u00e1veis cidades no Ocidente. A distribui\u00e7\u00e3o racializada das cidades brasileiras \u00e9 resultado tanto do ac\u00famulo convergente de in\u00fameras decis\u00f5es e incid\u00eancias da desigualdade e racismo quanto da ado\u00e7\u00e3o de ideologias racistas nas cidades planejadas. Paulo Santar\u00e9m escreveu sobre as escalas de segrega\u00e7\u00e3o que desenharam Bras\u00edlia como um centro planejado rodeado de espa\u00e7os marginais, sendo o transporte coletivo orientado ao controle e \u00e0 domina\u00e7\u00e3o urbana, definindo-se assim quem pode ir, aonde, quando e como230. Comparando a capital de nosso pa\u00eds \u00e0 experi\u00eancia de Soweto, na \u00c1frica do Sul, Guilherme Lemos observa a distribui\u00e7\u00e3o de oportunidades de contatos, \u201cquem pode ou n\u00e3o ocupar espa\u00e7os centrais ou a quem s\u00e3o destinados os espa\u00e7os perif\u00e9ricos, em outras palavras, quem deve fazer viver e quem pode deixar morrer atrav\u00e9s do racismo institucional\u201d231. Entretanto, a rigor n\u00e3o h\u00e1 nada no conceito de estruturas como as citadas pontes, por exemplo, que tornem suas inst\u00e2ncias artefatos segregadores em si. Esses seriam impactos dos arranjos t\u00e9cnicos a partir da ordem social em que esses artefatos s\u00e3o desenhados ou empregados, nos termos de Winner. Pensando em arquitetura, as pontes de Moses podem impressionar por haverem sido desenhadas por ordens explicitamente racistas, mas boa parte da arquitetura ocidental tamb\u00e9m traz barreiras gigantescas, vistas como \u201cn\u00e3o intencionais\u201d, a cadeirantes, por exemplo. As rela\u00e7\u00f5es entre os grupos por meio do balan\u00e7o entre conhecimentos cient\u00edficos, inven\u00e7\u00f5es tecnol\u00f3gicas, direcionamento a lucro ou bem- estar social influenciam diferencialmente o impacto das tecnologias","e artefatos. Independentemente da inten\u00e7\u00e3o, os impactos em grupos espec\u00edficos s\u00e3o efetivos. Inc\u00eandios intencionais e criminosos ou a leni\u00eancia em combat\u00ea- los fazem parte da hist\u00f3ria da segrega\u00e7\u00e3o espacial tanto nos territ\u00f3rios rurais quanto nas grandes cidades. A destrui\u00e7\u00e3o de favelas por fogo virou rotina durante ondas de especula\u00e7\u00e3o imobili\u00e1ria em S\u00e3o Paulo, incluindo casos c\u00e9lebres como o da Favela do Moinho. Pesquisadores cruzaram os dados de inc\u00eandios e descobriram correla\u00e7\u00f5es com \u00e1reas em valoriza\u00e7\u00e3o imobili\u00e1ria e motiva\u00e7\u00e3o higienista de moradores de classe m\u00e9dia dos entornos232. Tamb\u00e9m de Nova York, um modelo computacional proposto pelo think tank RAND Corporation foi um dos piv\u00f4s das ondas de inc\u00eandios que assolaram a cidade na d\u00e9cada de 1970. Um trabalho investigativo mostrou como a aloca\u00e7\u00e3o computacional de recursos de preven\u00e7\u00e3o e combate a inc\u00eandios convergiu para os interesses de especula\u00e7\u00e3o imobili\u00e1ria, ao diminuir a aplica\u00e7\u00e3o de medidas adequadas e a fiscaliza\u00e7\u00e3o. Os inc\u00eandios expulsaram centenas de milhares de pessoas \u2013 popula\u00e7\u00f5es negras, latinas e imigrantes \u2013 de bairros valorizados nos planos de transforma\u00e7\u00e3o da cidade conduzidos por urbanistas do governo e empresas de v\u00e1rios mercados. Ativistas e sindicatos, inclusive dos bombeiros, alertaram sobre os cortes de recursos que a cidade estava promovendo, que prejudicavam sistematicamente bairros negros e porto-riquenhos, mas o think tank \u201cpoderia prover resmas de jarg\u00f5es t\u00e9cnicos e equa\u00e7\u00f5es complicadas que dava um ar de imparcialidade ao processo\u201d233. Em quaisquer decis\u00f5es relativas a tecnologias p\u00fablicas como arquitetura e ordenamento espacial, est\u00e1 em jogo a distribui\u00e7\u00e3o de poder, autoridade e privil\u00e9gio de uma comunidade ou entre comunidades, e as decis\u00f5es que as impactam podem ser diferentes a depender do compromisso e da capacidade de a\u00e7\u00e3o de quem faz pol\u00edticas p\u00fablicas de investimento ou regula\u00e7\u00e3o. Evidentemente, apesar de tamb\u00e9m ser algo relevante, n\u00e3o se trata apenas de boas","ou m\u00e1s inten\u00e7\u00f5es, mas da rede de influ\u00eancias que permite ou impede agenciamentos. Em sociedades neoliberais que privilegiam o lucro em detrimento do bem-estar social, a capacidade de a\u00e7\u00e3o de bons gestores p\u00fablicos ou experts competentes \u00e9 podada por interesses de corpora\u00e7\u00f5es e de outros grupos. Outro modo de artefatos estarem permeados de propriedades pol\u00edticas ocorreria quando tais propriedades lhe s\u00e3o inerentes. Essa percep\u00e7\u00e3o \u00e9 mais controversa, mas, de acordo com esse olhar, \u201ca ado\u00e7\u00e3o de um determinado sistema t\u00e9cnico traz inevitavelmente consigo condi\u00e7\u00f5es para rela\u00e7\u00f5es humanas que possuem uma carga pol\u00edtica distintiva \u2013 por exemplo, centralizadora ou descentralizadora, promotora ou desencorajadora da igualdade, repressora ou libertadora\u201d234. A partir de Engels, Winner discorreu sobre a produ\u00e7\u00e3o fabril e a necessidade de coordena\u00e7\u00e3o em tabelas fixas de hor\u00e1rio para a produ\u00e7\u00e3o disciplinada. Em grandes f\u00e1bricas na virada do s\u00e9culo XIX ao XX, os trabalhadores seriam subordinados \u00e0 l\u00f3gica maqu\u00ednica da produ\u00e7\u00e3o, que seria desp\u00f3tica em si mesma? Mas, para al\u00e9m das defini\u00e7\u00f5es causais simples ou bin\u00e1rias, o fato \u00e9 que temos redes de influ\u00eancia, media\u00e7\u00f5es e rela\u00e7\u00f5es. A estrutura\u00e7\u00e3o de tecnologias e padr\u00f5es de aceita\u00e7\u00e3o das tecnologias no espa\u00e7o p\u00fablico e a ordena\u00e7\u00e3o das rela\u00e7\u00f5es sociais s\u00e3o algo complexo e anterior \u00e0s pr\u00f3prias tecnologias digitais. Precisamos dar um passo adiante e nos inspirar na hist\u00f3ria de outros artefatos e tecnologias para entender melhor o racismo algor\u00edtmico. A seguir, trataremos de alguns modos de politiza\u00e7\u00e3o e racializa\u00e7\u00e3o da tecnologia, relembrando casos documentados de interroga\u00e7\u00e3o de objetos. Respira\u00e7\u00e3o e nega\u00e7\u00e3o da humanidade O espir\u00f4metro \u00e9 um instrumento m\u00e9dico que mede a capacidade pulmonar. Historicamente, sua calibra\u00e7\u00e3o possui uma","particularidade interessante: apresenta categorias racializadas, pois uma configura\u00e7\u00e3o espec\u00edfica pode ser selecionada para dar conta de uma suposta capacidade pulmonar inferior entre negros. Lundy Braun235 investiga a hist\u00f3ria das controv\u00e9rsias sobre essas medidas, mostrando o desenrolar hist\u00f3rico da debilidade desse tipo de mensura\u00e7\u00e3o, ligado desde sua g\u00eanese a projetos de desumaniza\u00e7\u00e3o. Em 1832, Thomas Jefferson listou supostas distin\u00e7\u00f5es, como estrutura do sistema pulmonar, entre os negros escravizados e os colonos brancos nos Estados Unidos. A princ\u00edpio, os argumentos foram usados para defender o condicionamento natural de negros ao trabalho agr\u00edcola. Quando o espir\u00f4metro foi inventado, o fazendeiro escravista Samuel Cartwright construiu um modelo pr\u00f3prio e realizou experimentos em negros escravizados e brancos livres naquele pa\u00eds, enquadrando as diferen\u00e7as encontradas como uma \u201cdefici\u00eancia\u201d de 20%. A partir do enquadramento de Jefferson e Cartwright sobre \u201cdefici\u00eancia\u201d, o governo norte-americano encomendou uma grande pesquisa comparando capacidades f\u00edsicas de soldados negros e soldados brancos ainda no s\u00e9culo XIX, mensurando novamente diferen\u00e7as consider\u00e1veis. O controle de vari\u00e1veis como classe, renda, hist\u00f3rico nutricional e acesso anterior a servi\u00e7os m\u00e9dicos raramente foi considerado nesses estudos. O construto ra\u00e7a foi visto como a vari\u00e1vel essencial nas pesquisas estadunidense e inglesa sobre a tem\u00e1tica, influenciando em todo o mundo o modo como os espir\u00f4metros foram desenvolvidos e usados. Por\u00e9m, o conceito de \u201cra\u00e7a\u201d foi especificado em apenas 17,3% dos estudos emp\u00edricos sobre a diferen\u00e7a, e 94% deles n\u00e3o inclu\u00edram nenhuma medida sobre classe social236. Talvez o caso mais cruel da aplica\u00e7\u00e3o do espir\u00f4metro tenha sido a s\u00e9rie de batalhas legais entre a empresa Owens Corning e seus funcion\u00e1rios, em cidades como Baltimore, nos Estados Unidos.","Quando se descobriram os danos causados aos funcion\u00e1rios pelo amianto, a empresa recorreu \u00e0s supostas diferen\u00e7as entre capacidades pulmonares de brancos e negros para evitar ou minimizar as indeniza\u00e7\u00f5es devidas a estes \u00faltimos. As \u201cno\u00e7\u00f5es culturais de ra\u00e7a tornaram-se incorporadas na arquitetura de um instrumento aparentemente ordin\u00e1rio\u201d237, a partir da solidifica\u00e7\u00e3o de camadas de duzentos anos de racismo imbricado com a explora\u00e7\u00e3o do capital. Voltando centenas de anos, a g\u00eanese da diferen\u00e7a racial como instrumento estruturador de poder sempre teve um car\u00e1ter cambiante ligado aos interesses do supremacismo branco. Gislene dos Santos238 apresenta a genealogia do \u201cser negro\u201d das primeiras explora\u00e7\u00f5es coloniais, dos s\u00e9culos XVI ao XVIII, passando pelo pensamento iluminista instrumentalizante e chegando \u00e0s contradi\u00e7\u00f5es eugenistas dos considerados abolicionistas brancos no s\u00e9culo XIX no Brasil. \u201cO \u2018ser negro\u2019 foi produzido no campo das ideias a partir das necessidades pol\u00edticas que fizeram com que os conceitos elaborados em diferentes \u00e1reas do conhecimento justificassem e reinventassem, a cada momento, o lugar do negro na sociedade.\u201d239 Os pares conceituais \u201cselvagem \u00d7 civilizado\u201d, \u201ccrist\u00e3o \u00d7 pag\u00e3o\u201d, \u201cbranco \u00d7 negro\u201d, \u201ccaucasiano \u00d7 africano\u201d foram exemplos de processos classificat\u00f3rios engendrados a partir de acordos globais de manuten\u00e7\u00e3o de poder e explora\u00e7\u00e3o. O ponto de vista colonizador e euroc\u00eantrico estabeleceu hierarquias em seus projetos de domina\u00e7\u00e3o240, que s\u00e3o especialmente virulentas contra a negritude. O conceito de \u201cra\u00e7a\u201d, portanto, pode ser visto como informa\u00e7\u00e3o e como tecnologia. Como informa\u00e7\u00e3o, ra\u00e7a pode ser enquadrada como transmiss\u00e3o de significados e como transmiss\u00e3o de forma, que pode constituir configura\u00e7\u00e3o, ordem, organiza\u00e7\u00e3o, padr\u00e3o, estrutura ou relacionamento, como aponta Syed Mustafa Ali241. Mais do que sua defini\u00e7\u00e3o como circula\u00e7\u00e3o de padr\u00f5es de ideias sobre hierarquia racial, discrimina\u00e7\u00e3o e domina\u00e7\u00e3o associadas \u00e0","diferen\u00e7a, trata-se de um construto social performativo \u2013 e produtivo, pois cria arranjos, gerando valores e capitais. Mesmo em suas acep\u00e7\u00f5es biologizantes, o objetivo subjacente do conceito sempre foi o de especificar diferentes classes de humanos, n\u00e3o humanos e \u201cquase humanos\u201d do ponto de vista dos centros do poder econ\u00f4mico. S\u00famulas papais, frenologia, ci\u00eancia eugenista e o contempor\u00e2neo resgate de diferen\u00e7as gen\u00e9ticas entre grupos populacionais s\u00e3o exemplos da transforma\u00e7\u00e3o cont\u00ednua do conceito de ra\u00e7a242 do ponto de vista da branquitude, aplicando-o em processos de racializa\u00e7\u00e3o variados hist\u00f3rica e contextualmente. Na concep\u00e7\u00e3o de Beth Coleman, esses sistemas de informa\u00e7\u00e3o racializantes t\u00eam sido usados em diversos mecanismos sociais como \u201cum maquin\u00e1rio de um povo para sujeitar outro. Um conceito ideol\u00f3gico de ra\u00e7a como este carrega um prop\u00f3sito bastante pr\u00e1tico. Vividamente e violentamente produz terrorismo racial, sistemas de apartheid e dor desmoralizante\u201d243. O hist\u00f3rico de opress\u00e3o colonial-escravista se espraia nas mais diversas manifesta\u00e7\u00f5es da cultura eurocentrada, inclusive no fazer tecnol\u00f3gico. Abdias Nascimento prop\u00f4s que a iniquidade seria caracter\u00edstica fundamental do estado brasileiro, que tem sido \u201ca cristaliza\u00e7\u00e3o pol\u00edtico-social dos interesses exclusivos de um segmento elitista, cuja aspira\u00e7\u00e3o \u00e9 atingir o status \u00e1rio-europeu em est\u00e9tica racial, em padr\u00e3o de cultura e civiliza\u00e7\u00e3o\u201d244. Sueli Carneiro, por sua vez, apresenta a ideia de dispositivo de racialidade: \u201cBeneficia-se das representa\u00e7\u00f5es constru\u00eddas sobre o negro durante o per\u00edodo colonial no que tange aos discursos e pr\u00e1ticas que justificaram a constitui\u00e7\u00e3o de senhores e escravos, articulando-os e ressignificando-os \u00e0 luz do racialismo vigente no s\u00e9culo XIX, \u00e9poca em que tais representa\u00e7\u00f5es se constituem\u201d245. Como podemos imaginar, essa ressignifica\u00e7\u00e3o cont\u00ednua se imbricou nas tecnologias de maneiras diversas e elusivas, passando inclusive por ideais imagin\u00e1rios de consumidor e pela defini\u00e7\u00e3o de padr\u00f5es e distribui\u00e7\u00e3o na sociedade de mercado.","Fotografia e invisibilidade Tratar de racismo na tecnologia e nos algoritmos na contemporaneidade, sobretudo quando falamos de tecnologias de m\u00eddia e de informa\u00e7\u00e3o, \u00e9 algo geralmente mais elusivo que os casos que citamos nos t\u00f3picos anteriores, em que intencionalidades expl\u00edcitas podem ser rastreadas inequivocamente no desenho dos artefatos. Tecnologias que buscam construir o \u201cser\u201d branco a partir da anula\u00e7\u00e3o e da invisibiliza\u00e7\u00e3o do outro como \u201cn\u00e3o ser\u201d, como elucidou Sueli Carneiro, foram e s\u00e3o disseminadas a partir de concep\u00e7\u00f5es ao mesmo tempo vulgares e pol\u00edticas de um universalismo da branquitude. Aqui podemos evocar as propostas de Winner sobre a politiza\u00e7\u00e3o da tecnologia, especificamente no que se refere \u00e0s caracter\u00edsticas t\u00e9cnicas e desenhos que d\u00e3o um tom objetivo a artefatos e dispositivos que est\u00e3o longe de o serem. Eles mant\u00eam essa suposta objetividade de apreens\u00e3o ou registro da realidade apenas por serem usados acriticamente pela pr\u00f3pria elite econ\u00f4mico-racial que dominou sua produ\u00e7\u00e3o. \u00c9 dif\u00edcil citar exemplos mais pujantes do que a hist\u00f3ria da constru\u00e7\u00e3o do mercado de equipamentos f\u00edlmicos e fotogr\u00e1ficos. O filme O nascimento de uma na\u00e7\u00e3o foi um marco no cinema estadunidense em 1915 devido a seu enorme or\u00e7amento, sucesso, dura\u00e7\u00e3o, e por ser uma das propagandas racistas mais elaboradas no cinema, sendo inclusive atribu\u00eddo a seu sucesso o renascimento da Ku Klux Klan. Historiadores do cinema percebem um marco no uso das narrativas ficcionais a favor de revisionismo da branquitude, enquadrando a luta abolicionista e emancipa\u00e7\u00e3o dos negros \u2013 representados cruelmente no filme por meio de black face \u2013 como amea\u00e7a a ideais supremacistas da na\u00e7\u00e3o estadunidense246. Pesquisadores sobre representa\u00e7\u00e3o midi\u00e1tica, como Stuart Hall247, estudam as narrativas ficcionais no audiovisual e no jornalismo como componentes de reprodu\u00e7\u00e3o do poder e","marginaliza\u00e7\u00e3o de minorias a partir de narrativas e tropos ideol\u00f3gicos racistas. Esfor\u00e7os de pesquisadores negros t\u00eam avan\u00e7ado no estudo das representa\u00e7\u00f5es em a\u00e7\u00e3o atrav\u00e9s de literacia midi\u00e1tica racial para a promo\u00e7\u00e3o de habilidades, \u201cpara que uma pessoa tenha a capacidade de interpretar o conte\u00fado visual da imagem, de examinar o impacto social das imagens e de discutir o prop\u00f3sito, a audi\u00eancia e a propriedade\u201d248. No entanto, os pr\u00f3prios dispositivos de registro fotogr\u00e1fico e audiovisual possuem hist\u00f3rias que podem dizer muito sobre a imbrica\u00e7\u00e3o de rela\u00e7\u00f5es raciais na tecnologia. Longe de ser algo simples, o registro profissional de imagens por meio de fotografias, filmes e transmiss\u00e3o televisiva requer um aparato de decis\u00f5es sobre elementos como balan\u00e7o de cor, matiz e satura\u00e7\u00e3o. Com base na defini\u00e7\u00e3o de pr\u00e1ticas e padr\u00f5es nos materiais qu\u00edmicos, aparelhos e modos de calibra\u00e7\u00e3o, as ind\u00fastrias da imagem estabeleceram refer\u00eancias do que \u00e9 visto como qualidade da reprodu\u00e7\u00e3o visual. A soci\u00f3loga Lorna Roth249 apresenta a hist\u00f3ria dos cart\u00f5es- refer\u00eancia para balanceamento de cor em filmes fotogr\u00e1ficos. Popularizados pela Kodak, receberam o nome de \u201ccart\u00f5es Shirley\u201d a partir do nome de Shirley Page, primeira modelo a aparecer neles. Os cart\u00f5es eram entregues junto a filmes e insumos para que os est\u00fadios e laborat\u00f3rios de revela\u00e7\u00e3o ajustassem a calibra\u00e7\u00e3o de acordo com uma refer\u00eancia \u2013 a foto de uma mulher branca rodeada de formas geom\u00e9tricas de v\u00e1rias cores do espectro. Estabelecida nos anos 1950, a pr\u00e1tica inaugurada pela Kodak fortaleceu a cor branca de pele como referencial para a produ\u00e7\u00e3o de materiais visuais, gerando resultados aberrantes para africanos, afrodescendentes, indianos e asi\u00e1ticos. Fotografia \u201cn\u00e3o \u00e9 apenas um sistema de calibrar luz, mas uma tecnologia de decis\u00f5es subjetivas\u201d250. Portanto, o embranquecimento em aplicativos de selfies possui precedentes e ancestrais tecnol\u00f3gicos. Ainda antes da defini\u00e7\u00e3o dos cart\u00f5es-refer\u00eancia para calibra\u00e7\u00e3o, as pr\u00f3prias emuls\u00f5es de filmes fotogr\u00e1ficos foram desenvolvidas","ignorando a complexidade de tons marrons, amarelos e vermelhos em compara\u00e7\u00e3o aos demais tons de pele. Somente depois de d\u00e9cadas a press\u00e3o de consumidores afro-americanos e asi\u00e1ticos for\u00e7ou empresas do ramo fotogr\u00e1fico a melhorar tanto seus produtos e configura\u00e7\u00f5es quanto a diversidade em seus manuais. \u00c9 precisa a observa\u00e7\u00e3o da historiadora de arte Sarah Lewis: N\u00e3o importa o t\u00f3pico \u2013 beleza, fam\u00edlia, pol\u00edtica, poder \u2013, a busca por um legado da representa\u00e7\u00e3o de afro-americanos tem sido sobre estas duas coisas [vis\u00e3o e justi\u00e7a]. O esfor\u00e7o de s\u00e9culos para criar uma imag\u00e9tica que honre a plena humanidade da vida negra \u00e9 uma tarefa corretiva, para a qual a fotografia e o cinema t\u00eam sido centrais, at\u00e9 mesmo indispens\u00e1veis.251 Grupos minorit\u00e1rios racializados desenvolveram m\u00e9todos para burlar as limita\u00e7\u00f5es dessa tecnologia em contextos espec\u00edficos, mas o car\u00e1ter pervasivo da equival\u00eancia entre branquitude e humanidade se desdobra na cultura de forma cruel. Intensificando a hiper- representa\u00e7\u00e3o de brancos em detrimento de outros grupos \u00e9tnico- raciais na cultura midi\u00e1tica, os padr\u00f5es tecnol\u00f3gicos \u201cinvis\u00edveis\u201d como esses citados refor\u00e7am o abismo do ac\u00famulo de objetos midi\u00e1ticos e culturais que, por sua vez, alimentam as bases de dados digitais de que tratamos ao longo deste livro. Bases de dados e epistemic\u00eddios Os padr\u00f5es de constru\u00e7\u00e3o e dissemina\u00e7\u00e3o do conhecimento eurocentrado desenvolvidos durante o auge colonialista constitu\u00edram, como face da mesma moeda, o epistemic\u00eddio e a destrui\u00e7\u00e3o f\u00edsica e intelectual das produ\u00e7\u00f5es de pa\u00edses, povos e grupos perif\u00e9ricos e subjugados. Definir a organiza\u00e7\u00e3o do conhecimento em bibliotecas e arquivos \u00e9 um trabalho classificat\u00f3rio artificial, com impactos na representa\u00e7\u00e3o de indiv\u00edduos e grupos,","assim como na descoberta, no resgate ou na recep\u00e7\u00e3o de produ\u00e7\u00e3o intelectual. A partir da Teoria Racial Cr\u00edtica, Jonathan Furner prop\u00f5e uma interpreta\u00e7\u00e3o de sistemas classificat\u00f3rios como a Classifica\u00e7\u00e3o Decimal de Dewey e a Classifica\u00e7\u00e3o Decimal Universal (CDU). Como as categorias para classifica\u00e7\u00e3o bibliogr\u00e1fica enquadram categorias nacionais, raciais e de diferentes grupos em marca\u00e7\u00f5es de valor moral de m\u00e9rito? Para Furner, um esquema de classifica\u00e7\u00e3o bibliogr\u00e1fico \u201c\u00e9 essencialmente uma especifica\u00e7\u00e3o de linguagem ou c\u00f3digos artificiais nos quais afirma\u00e7\u00f5es sobre os assuntos dos materiais s\u00e3o express\u00e1veis\u201d252. Noble cita o caso da Biblioteca do Congresso estadunidense, que manteve durante anos categorias como \u201cA quest\u00e3o judaica\u201d ou \u201cPerigo amarelo\u201d para se referir a grupos \u00e9tnico-raciais especialmente marginalizados em per\u00edodos do s\u00e9culo XX no pa\u00eds \u2013 pr\u00e1tica que tem resson\u00e2ncias em resultados de mecanismos de busca253. Sistemas de registros e indexa\u00e7\u00e3o em vig\u00eancia reproduzem hierarquias de conhecimento e representa\u00e7\u00e3o em diferentes escalas. Ainda sobre a Classifica\u00e7\u00e3o Decimal de Dewey, h\u00e1 sete classes gerais relacionadas a aspectos e institui\u00e7\u00f5es do cristianismo contra apenas uma categoria \u201cOutras religi\u00f5es\u201d, e tamb\u00e9m sete categorias de literaturas regionais da Europa (portuguesa, francesa, inglesa etc.) contra uma categoria \u201cOutras literaturas, literaturas em outras idiomas\u201d. Esses sistemas classificat\u00f3rios refletem as hegemonias hist\u00f3ricas sobre o conhecimento colonial e sua manuten\u00e7\u00e3o reproduz os problemas das ideias \u00e0s pr\u00f3prias materialidades de estantes e espa\u00e7os em bibliotecas. Dandara Ba\u00e7\u00e3 lembra como a CDU (Classifica\u00e7\u00e3o Decimal Universal) n\u00e3o consegue comportar propriamente as religi\u00f5es brasileiras. Assim, religi\u00f5es como o candombl\u00e9, o daime, a umbanda e o xamanismo \u201cs\u00e3o geralmente alocadas em partes diferentes das bibliotecas, em ocultismo. Isso acontece porque a CDU n\u00e3o foi feita para n\u00f3s e nem por n\u00f3s, foi feita para outro saber, outro povo\u201d254."]