Manual de recomendações para uso de VANTs na Segurança Pública

FUNDAÇÃO DE CIÊNCIA TECNOLOGIA E INOVAÇÃO PROGRAMA FORTALEZA MANUAL DE CITILAB RECOMENDAÇÕES 2021 PARA USO DE VANTS NA SEGURANÇA PÚBLICA PREFEITURA MUNICIPAL DE FORTALEZA



MANUAL DE RECOMENDAÇÕES PARA USO DE VANTS NA SEGURANÇA PÚBLICA PROGRAMA FORTALEZA CITILAB - EDIÇÃO III FUNDAÇÃO DE CIÊNCIA TECNOLOGIA E INOVAÇÃO PREFEITURA MUNICIPAL DE FORTALEZA 2021

Esta publicação está sob a Licença Creative Commons Atribuição-NãoComercial-CompartilhaIgual 4.0 Internacional (CC BY-NC-SA 4.0) https://creativecommons.org/licenses/by-nc-sa/4.0/legalcode.pt Você pode copiar e redistribuir esta publicação em qualquer suporte ou formato, bem como remixar, transformar e criar a partir deste material, desde que não tenha objetivo comercial e que sejam citados os autores e a fonte do trabalho original. Quaisquer produtos derivados devem estar sob esta mesma licença.

Manual de recomendações para uso de VANTs na Segurança Pública Programa Fortaleza Citilab - Edição III Fundação de Ciência Tecnologia e Inovação Prefeitura Municipal de Fortaleza 2021 Este manual é oriundo do projeto O uso de VANTs pelo setor de segurança pública em Fortaleza sob uma perspectiva ética, desenvolvido pelos pesquisadores Ralph Leal Heck e Samantha Mourão Farias e apoiado pelo Centro de Estudos em Ciências Humanas Aplicadas à Tecnologia da Informação e Cognição Artificial - CETICA. O projeto foi possível graças ao financiamento da Prefeitura Municipal de Fortaleza, que em 2020 contemplou seis projetos de inovação pelo Programa Fortaleza Citilab Edição III, da Fundação de Ciência Tecnologia e Inovação de Fortaleza - CITINOVA, tornando possível 6 meses de árduo porém gratificante trabalho. Esta publicação tem por finalidade orientar os procedimentos necessários para um uso ético e responsável de Veículos Aéreos Não Tripulados (VANTs), popularmente conhecidos como drones, para fins de segurança pública. Seu conteúdo se aplica aos gestores da área de segurança, bem como técnicos e operadores que pretendam voar em Espaço Aéreo do Município de Fortaleza utilizando aeronaves sem tripulação, pilotadas de forma remota, em operações em prol da manutenção da vida e da segurança dos cidadãos fortalezenses e da redução do sofrimento. Espera-se que este manual favoreça o manuseio adequado do equipamento, preservando sua funcionalidade e contribuição para serviços de inteligência e coleta de dados, sublinhando os princípios legais e éticos de utilização. O material utilizado como base para a elaboração do conteúdo aqui exposto são os relatórios e as demais publicações realizados durante a vigência do projeto de pesquisa supracitado, que podem ser acessados em sua integralidade a partir de solicitação à Fundação CITINOVA ou diretamente aos pesquisadores autores do projeto. Esta forma eletrônica foi pensada para facilitar o acesso e a difusão deste conteúdo. Boa leitura! Ralph Leal Heck Samantha Mourão Farias



PREFEITURA MUNICIPAL DE FORTALEZA Prefeito: José Sarto Nogueira Moreira Vice-prefeito: José Elcio Batista FUNDAÇÃO DE CIÊNCIA TECNOLOGIA E INOVAÇÃO Presidente: Luiz Alberto Aragão Sabóia Vice-presidente: Victor Macedo Lacerda DIRETORIA DE CIÊNCIA DA CIDADE Diretora: Lia Aguiar Carvalho Arruda Gerente de Inovação: Isis Torquato Dantas PROGRAMA FORTALEZA CITILAB - EDIÇÃO III Coordenadora: Lia Aguiar Carvalho Arruda REDAÇÃO DO MANUAL Ralph Leal Heck Samantha Mourão Farias PROJETO GRÁFICO E DIAGRAMAÇÃO Samantha Mourão Farias REVISÃO GERAL Centro de Estudos em Ciências Humanas Aplicadas à Tecnologia da Informação e Cognição Artificial - CETICA

SUMÁRIO 01 INTRODUÇÃO 01 O USO DE VANTS NA SEGURANÇA PÚBLICA 02 CAPÍTULO 1 02 DIRETRIZES MORAIS E ÉTICAS 03 LEGISLAÇÃO PERTINENTE AO USO DE VANTS 03 ICA 100-40 04 MCA 56-3 05 MCA 56-4 06 LGPD, PROTEÇÃO DE DADOS E VANTS 09 CAPÍTULO 2 09 RISCOS DO MAU USO DE TECNOLOGIAS 09 RISCOS GERAIS 10 RISCOS OPERACIONAIS

12 CAPÍTULO 3 12 POTENCIAIS VANTAGENS DO USO DO EQUIPAMENTO 14 VIOLÊNCIA URBANA 15 CAPÍTULO 4 15 POTENCIAIS DESVANTAGENS DO USO DO EQUIPAMENTO 18 PROPOSTAS 19 OS EUA E O REFORÇO DO PRECONCEITO NO POLICIAMENTO PREDITIVO 21 A INGLATERRA E AS FALHAS DE RECONHECIMENTO FACIAL 24 A CHINA E O HACKEAMENTO DE VANTS - SEQUESTRO E VAZAMENTO DE DADOS 27 CAPÍTULO 5 27 DISPOSIÇÕES FINAIS 27 BIBLIOGRAFIA 27 BIBLIOGRAFIA

1 I N T R O D U Ç Ã O1 O USO DE VANTS NA SEGURANÇA PÚBLICA O uso de Veículos Aéreos Não Tripulados (VANTs), A população pode se configurar como um forte popularmente conhecidos como drones, se aliado à eficiência da atuação deste intensificou ao longo da última década como item equipamento. Para tanto, a promoção de recreativo ou com propósitos comerciais, no debates e a apresentação de uma monitoramento de grandes áreas (como fazendas, regulamentação e supervisão robustas no uso redes de transmissão elétricas e rios), no controle de responsável do equipamento são multidões e em pesquisas científicas. Diante disso, imprescindíveis. identificou-se a necessidade de análises acuradas sobre os limites de sua atuação. Por fim, é de fundamental importância que o corpo técnico e demais profissionais que farão Podemos identificar como uma das motivações uso desta ferramenta considerem, desta pesquisa o fato de que a legislação pertinente cuidadosamente, as implicações éticas e morais para VANTs é recente e ainda carece de debate e envolvidas, observando a forma de adequação às particularidades de cada cenário monitoramento para obter vantagens brasileiro, em especial, no âmbito da pesquisa e da institucionais (não em benefícios particulares), investigação humana. É preciso pensar em diretrizes atentando à proteção do bem público e acerca do uso desta tecnologia de modo a antecipar salvaguardando a segurança e as liberdades elementos críticos e garantir que a coleta e retenção individuais. dos dados e informações gerados pelo manuseio de VANTs seja em prol de um bem maior, diante do Em vista das diversas formas de uso do qual a população deva se sentir segura em seus equipamento e motivações para se instituir uma direitos e no agir cotidiano. pesquisa que as satisfaça, o presente estudo tem como ponto central o exame do manuseio desta Além disso, a popularização do uso dos VANTs tecnologia na área de Segurança Pública, demanda conscientização dos cidadãos sobre os pensando na cidade de Fortaleza e pautando-se direitos e deveres associados ao emprego da em categorias como privacidade, consentimento, tecnologia no âmbito da segurança pública direitos humanos e ética da informação.

12 DIRETRIZES MORAIS E ÉTICAS Ao se fazer o emprego de tecnologias, especialmente aquelas que são capazes de veicular a implementação de sistemas inteligentes, deve-se estar atento ao contexto desta aplicação, de forma a assegurar um alinhamento ético deste uso. Pensando nisso, foram organizados os seguintes princípios globais para aplicação de tecnologia (MORLEY, p.2145): Aplicação beneficente - ser benéfico para e respeitoso às pessoas e ao ambiente Não-maleficente - robusto e seguro em suas operações no que tange o ciclo completo de uso do equipamento Autônoma - respeitar os valores humanos Justa - ponderado e equilibrado nas respostas dos algoritmos associados ao equipamento Explicável - ter seu funcionamento explicitável, justificável e compreensível.

3 LEGISLAÇÃO Ele indica os procedimentos de registro e PERTINENTE normas do equipamento, do piloto e do AO EMPREGO voo, regulamentando os procedimentos e DE VANTS responsabilidades para o acesso seguro ao Espaço Aéreo Brasileiro. Apesar do Com o enorme crescimento da utilização de VANTs documento concentrar-se na aeronave, ele tanto pelo setor privado como público, surgiram no indica o caráter de responsabilidade do mundo vários instrumentos reguladores visando, operador em um sentido positivo (p.25): entre outras coisas, a manutenção da privacidade, a proibição de voos em determinados locais - e.g. \"O Explorador UAS é responsável pelo próximo à aeroportos - e a salvaguarda dos dados gerenciamento do seu pessoal (incluindo coletados pelo equipamento. programa de treinamento, composição da equipe, procedimentos de transferência de Em nível nacional existem, para consulta e pilotagem, controle de fadiga etc.), pela orientação acerca do uso de VANTs, documentos manutenção (programa de manutenção, nas formas de instruções e manuais conhecidos registros, aeronavegabilidade continuada, pelas siglas ICA 110-40, MCA 56-3 e MCA 56-4. De modificações e reparos etc.), pela forma complementar, resguardando a questão da documentação (manuais, certificados, coleta, armazenamento, tratamento e licenças, registros, log book, informações compartilhamento de dados, existe a LGPD. etc.), pelos contratos prestados pelos provedores de serviços (por exemplo, A legislação pertinente aos VANTs é recente e prestadores de serviços de comunicação) e ainda carece de divulgação e adaptação às pela proteção e salvaguarda da operação particularidades de cada região. Segue aqui uma (segurança da Estação de Pilotagem exposição dos pontos mais importantes de cada Remota, preservação dos dados etc.\" uma delas para o setor de segurança pública. A qualidade do piloto também é reforçada ICA 110-40 em um sentido amplo de formação (p.26): O primeiro destes documento, ICA 110-40 \"O Piloto Remoto em Comando é peça (AERONAVES NÃO TRIPULADAS E O ACESSO AO fundamental para a segurança das ESPAÇO AÉREO BRASILEIRO), demarca as regras operações UAS, possuindo as mesmas gerais de manuseio de VANTs, não exclusivo ao uso responsabilidades referentes a um piloto para segurança. de uma aeronave tripulada por toda a operação, de acordo com as Regras do Ar, leis, regulamentações e procedimentos publicados. Entretanto, as competências desse piloto devem ser cuidadosamente previstas para assegurar o conhecimento, habilidades, atitudes, capacidade física e mental, proficiência linguística etc., principalmente por não estarem a bordo da aeronave.\"

4 Também são destaque as devidas competências do MCA 56-3 Observador de Aeronave Não Tripulada, que auxilia o piloto na navegação em EVLOS (p.26): O segundo documento de abrangência nacional é o MCA 56-3 (AERONAVES \"Para que o Observador possa assistir o Piloto NÃO TRIPULADAS PARA USO EM Remoto na condução segura do voo de uma PROVEITO DOS ÓRGÃOS LIGADOS AOS Aeronave Não Tripulada, deverá haver comunicação GOVERNOS FEDERAL, ESTADUAL OU confiável, direta e constante entre ambos. Em caso MUNICIPAL). de mais de um Observador ser engajado em uma operação, apenas uma por vez poderá assistir o Dentre os órgãos governamentais Piloto Remoto na condução da Aeronave Não abrangidos pelo documento, encontra- Tripulada. Como membro da equipe, com suas se a Guarda Municipal e as aplicações respectivas responsabilidades, essa atividade não típicas dos VANTs neste âmbito são deverá ser executada por pessoa que não cumpra as (p.17): exigências da ANAC.\" a) Recadastramento imobiliário; O documento também solicita três relatórios b) monitoramento de segurança; analíticos de forma a ter a operação aprovada pelo c) monitoramento e controle ambiental; SARPAS (p.30): 1. Avaliação de Risco Operacional d) combate a endemias. (ARO); Análise de Impacto sobre a Segurança Operacional (AISO); Carta de Acordo Operacional À luz do ICA 100-40, podemos entender (CaOP). Estes documentos se propõem a avaliar o que há um reforço na noção de que os cenário da operação com o VANT em todos os direitos individuais continuam a dever âmbitos envolvidos na manipulação do ser preservados. O que reitera a equipamento. Contudo, os riscos que se procuram necessidade de uma formação ampla do mitigar são de ordem física do equipamento. Como operador e de outros envolvidos como se pode conferir no item Segurança Operacional os observadores auxiliares e os agentes (p.42). que farão o tratamento dos dados coletados pelo VANT. Além disso, o manual evidencia a preocupação que o operador deve ter com a segurança do enlace Isto não se restringe, entretanto, à Piloto-Vant (C2), que deve ser protegido de formação da Guarda. Conforme sabotagem ou interferência (p.46). preconiza o item 4.6, nota 3 p.21: terceiros podem ser contratados para A despeito da concentração na qualificação dos fins de pilotagem de VANTs, sendo procedimento físicos, o manual sublinha que sua corresponsáveis com o Estado no normatização não se sobrepõe às infrações previstas manuseio do equipamento e, por este no direito civil e criminal, de fato, somam-se à elas. modelo, reforça-se a construção de um (p.47). Além de imputar a responsabilidade ao sistema de formação preparado para operador quando do não cumprimento dos \"direitos conscientizar Agentes e Civis das individuais, de terceiros, como privacidade e implicações éticas do uso inadequado imagem das pessoas, ficando sujeito às leis do equipamento. vigentes\" (p.49).

5 Este documento abre a possibilidade da Este documento se mostra de vital construção de protocolos internos aos orgãos de importância, uma vez que, a maioria das modo a (p.22): capitais realizam a atividade de Defesa Civil e Segurança Pública. Nele constam a) adotar medidas internas de prevenção, visando à normativas de mesmo teor que no garantia da segurança da população, de animais e documento MCA 56-3. As questões de propriedades no solo; relevância para pesquisa se mostraram b) estabelecer procedimentos internos redundantes em ambos documentos. padronizados de operação e de segurança de voo. O último documento de abrangência geral Isso significa abertura à possibilidade de em análise é a IS Nº E94-003 que visa procedimentos adequados às especificidades \"procedimentos para elaboração e operacionais de um município. Nestes termos, a utilização de avaliação de risco análise de risco é reiterada como ferramenta vital operacional para operadores de aeronaves (p.26). não tripuladas\". Note que as considerações feitas à luz desta IS são de caráter A documentação IS Nº E94-003 referente à análise aproximativo, tendo em vista que os de risco será avaliada à frente. Deve-se antecipar, quadros e cálculos de risco operacional entretanto, a atenção para a possibilidade de podem ser substituídos por um sistema de emprego de VANTs orgânicos mesmo em gerenciamento de risco operacional (SGSO) procedimentos em desacordo com a normativa interno à PMF. MCA 56-3, como pode-se ver nesta passagem (p.26): A análise de risco é feita cruzando-se em uma matriz níveis de severidade de \"As operações no perfil de Órgãos Diferenciados ocorrências com a probabilidade destas podem apresentar necessidades específicas, ocorrências. Esta combinação de 1 à 5 e de tornando impraticável a total observância e o fiel A à E, respectivamente, constroem uma cumprimento dos parâmetros estabelecidos neste matriz de 1A à 5E. O documento conta com Manual. Sendo necessário operar fora dos exemplos que podem ser usados para parâmetros, torna-se condição essencial uma identificar as situações de risco e suas coordenação antecipada com o Órgão ATS mais formas de mitigação. próximo ou com o Órgão Regional responsável pela área de operação\" Vale ressaltar, contudo, que os riscos avaliados dizem respeito à integridade MCA 56-4 física de objetos, seres vivos e, com atenção especial, de humanos. Portanto, o O terceiro documento de abrangência nacional é o risco operacional não cobre situações de MCA 56-4 (AERONAVES NÃO TRIPULADAS PARA uso do VANT em que o risco de USO EXCLUSIVO EM PROVEITO DOS ÓRGÃOS DE integridade diga respeito à bens imateriais, SEGURANÇA PÚBLICA, DA DEFESA CIVIL E DE privacidade institucional e pessoal ou ao FISCALIZAÇÃO DA RECEITA FEDERAL). risco consolidado após a operação de campo como, por exemplo, a coleta de dados sensíveis.

6 Tais riscos carecem igualmente de um mecanismo O Princípio da Necessidade (art. 6º, IV, da de avaliação e métodos de mitigação. Uma vez que Lei 13.709/2018), que afirma o tratamento a privacidade e os dados podem ser resguardados mínimo necessário para a realização da mediante ferramentas preventivas como um finalidade determinada. instrumental de avaliação de riscos, restrição de acesso, protocolos de criptografia, eliminação dos O Princípio da Segurança (art. 6º, VII, da dados armazenados após o ciclo de operacional, etc. Lei 13.709/2018), que evidencia a Neste sentido, junta-se ao cenário da proteção da necessidade de emprego de medidas privacidade as regulações: Lei Geral do Processo técnicas e administrativas para a proteção Administrativo (Lei nº 9.784, de 29 de janeiro de dos dados, visando os pilares da segurança 1999) , Lei do Habeas Data (Lei nº 9.507, de 12 de da informação (Confidencialidade, novembro de 1997), Lei de Acesso à Informação (Lei Integridade e Disponibilidade). nº 12.527, de 18 de novembro de 2011). O Princípio da Prevenção (art. 6º, VIII, da Convém também observar a LGPD (Lei Geral de Lei 13.709/2018), que evidencia a Proteção aos Dados). importância de medidas que mitiguem danos em razão do tratamento dos dados. LGPD, PROTEÇÃO O Princípio da Não-discriminação (art. 6º, DE DADOS E VANTS IX, da Lei 13.709/2018), que enuncia a proibição da execução de tratamentos de Dentre os preceitos fundamentais da LGPD está o dados pessoais que levem à disciminação artigo 5º, inciso X, da Constituição Federal: “[...] são ilícia ou abusiva. invioláveis a intimidade, a vida privada, a honra e a imagem das pessoas, assegurado o direito a O Princípio da Responsabilização e indenização pelo dano material ou moral decorrente Prestação de Contas (art. 6º, X, da Lei de sua violação” (BRASIL, 1988), além dos princípios 13.709/2018), que demanda do agente que previstos na Constituição Federal: \"o princípio da realiza o tratamento dos dados a dignidade da pessoa humana e o princípio da demonstração de medidas eficazes de autonomia da vontade\" (SOUSA; FRANCO, 2020. tratamento dos dados e a satisfação das p.411). normas de proteção destes dados. Além disso são princípios da LGPD relevantes para a Este último princípio é reforçado pelo avaliação do cenário de uso de Drones: art.23º, III: \"seja indicado um encarregado quando realizarem operações de O Princípio da Finalidade (art. 6º, I, da Lei tratamento de dados pessoais, nos termos 13.709/2018), que afirma a determinação precisa do art. 39 desta Lei\". para a utilização dos dados impedindo a reutilização destes dados tratados para outra finalidade Uma vez que, em ambos os casos, os (individual ou de terceiros). cidadãos se encontram em risco, tanto em razão da perda de controle do objeto físico, quanto em razão do vazamento de dados por transmissão wireless. Assim, tais riscos também devem ser mitigados.

7 Neste sentido, é importante considerar a introdução Recomenda-se a formulação interna, para nos relatórios de manuseio do equipamento, os orgãos das instâncias contempladas no avaliações de situações de risco nestes termos, artigo 4, III, de um relatório de impacto à além de protocolos de operação em resposta a proteção de dados pessoais (RIPD) (DIPA - estes riscos. Além, claro, de procedimentos de Data Protection Impact Assesment) a ser segurança. Desta forma, conforme (SOUSA; preenchido pelo pelo operador conforme FRANCO, 2020. p.412): orientação da própria LGPD (art.5º, XVII, da Lei 13.709/2018): \"Organizações públicas e privadas devem visualizar a proteção de dados como direitos precípuos aos \"Art. 5º Para os fins desta Lei, considera- cidadãos, objetivando a proteção dos direitos se: fundamentais da liberdade e da privacidade; e do XVII – relatório de impacto à proteção de livre desenvolvimento da personalidade da pessoa dados pessoais: documentação do natural titular dos dados pessoais.\" controlador que contém a descrição dos processos de tratamento de dados Apesar de estarem submetidas à LGPD \"as pessoais que podem gerar riscos às autarquias, fundações públicas, as empresas liberdades civis e aos direitos públicas, as sociedades de economia mista e fundamentais, bem como medidas, demais entidades controladas direta ou salvaguardas e mecanismos de mitigação indiretamente pela União, Estados, Distrito Federal de risco.\" e Municípios\" (SOUSA; FRANCO, 2020. p.420), a LGPD não se aplica ao tratamento de dados Orientado pelo artigo 38 que indica os pessoais nos casos de (Art.4º, III, da Lei componentes básicos constantes na 13.709/2018): avaliação de mitigação dos riscos: a) segurança pública; \"Art. 38. A autoridade nacional poderá b) defesa nacional; determinar ao controlador que elabore c) segurança do Estado; ou relatório de impacto à proteção de dados d) atividades de investigação e repressão de pessoais, inclusive de dados sensíveis, infrações penais. referente a suas operações de tratamento de dados, nos termos de regulamento, O que indica a necessidade de obedecer à regência observados os segredos comercial e de legislação específica desenvolvida pelos órgãos industrial. operantes nas instâncias citadas. Parágrafo único. Observado o disposto no Tal legislação deve observar que as medidas de caput deste artigo, o relatório deverá coleta e tratamento acerca dos dados \"sejam conter, no mínimo, a descrição dos tipos proporcionais e estritamente necessárias ao de dados coletados, a metodologia atendimento do interesse público, garantindo-se utilizada para a coleta e para a garantia da assim, o devido processo legal, os princípios gerais segurança das informações e a análise do de proteção e os direitos do titular, a fim de evitar controlador com relação a medidas, excessos e abusos pelos entes públicos.\" (SOUSA; salvaguardas e mecanismos de mitigação FRANCO, 2020. p.435). de risco adotados.\"

8 E conforme observado por SOUSA; FRANCO, 2020. Da perspectiva do software, é importante apud Marcílio Braz (p.432): atentar para a qualidade do programa e sua robustez. “considerando que o mens legis no tocante a necessidade, abrangência (parcialmente) e Aqui, segue-se a recomendação da elementos constitutivos deste relatório inspira-se utilização de softwares livres, uma vez que no GDPR (General Data Protection Regulation) da eles nos permitem acompanhar, a partir de União Europeia, em nossa opinião o diploma legal seu código, todos os processos do pátrio findou por carecer de maiores programa, viabilizando a efetiva posse da esclarecimentos e definições quanto ao escopo e tecnologia, do controle do fluxo da formatação do referido relatório, em contraposição informação e da possibilidade de ao diploma legal europeu”. constantes aprimoramentos em sua funcionalidade e proteção. Isto torna clara a necessidade da construção de um relatório interno, não apenas orientado pelos Além disso, recomenda-se a capacitação de padrões nacionais (LGPD) e internacionais (GDPR), técnicos associados e operadores mas também às peculiaridades de atuação do órgão (principais ou auxiliares) para identificar e aplicante, como é o caso da Secretaria de lidar com eventuais quebras de segurança Segurança do Município em seu emprego de VANTs neste nível de risco. na coleta e tratamento de dados. O Departamento de Controle do Ainda no âmbito dos dados, o emprego de VANTs Espaço Aéreo disponibiliza em possui um conjunto específico de riscos associado seu site legislação e orientações em função de sua configuração de comunicação, para que operadores de VANTs software e hardware, conforme apontam realizem suas atividades de (ALBALAWI, M.; SONG, H. pp.5-6): forma segura e de acordo com os regulamentos em vigor. Os ataques físicos: que podem ser direcionados ao VANT ou à estação de controle. O que demanda um +info protocolo próprio de proteção dos equipamentos, https://www.decea.mil.br/drone/ dos operadores e dos não-anuentes. Outros links úteis Os ataques hacker: que podem ser direcionados ao https://www.gov.br/anac/pt-br sistema de comunicação do VANT (Comando <=> https://antigo.anatel.gov.br/ VANT <=> Satélite (ou equivalente)) ou aos https://www.cobra.org.br/ softwares empregados na operacionalização do equipamento (controle do VANT, coleta, armazenamento e tratamento dos dados). O que demanda observar e integrar aos relatórios (internos) de risco cuidados como o emprego de protocolos de criptografia, sistemas de comunicação auxiliares e outras medidas protetivas do canal de comunicação.

9 CAPÍTULO 2 RISCOS DO Produção de evidências enganosas MAU USO DE A confiabilidade dos dados e do resultado TECNOLOGIAS após seu tratamento depende do quão neutro e livres de preconceitos (biases) são RISCOS GERAIS os algoritmos que viabilizam a tecnologia. O mau uso de equipamentos tecnológicos, em Um resultado incorreto pode conduzir a especial aqueles que dispõem de sensores que uma evidencia enganosa, reduzindo coletam dados ou mesmo sistemas embarcados que substancialmente a eficiência da finalidade emitem resposta por meio de algoritmos de de uso e aumentando a incerteza em inteligência artificial com uso de machine learning relação ao equipamento e a injustiça em alimentados pelos sensores, pode implicar nos função das consequências de seus seguintes riscos gerais (MITTELSTADT et. al., 2016 resultados. apud, MORLEY, 2020. p.2143): Produção de resultados injustos Produção de evidências inescrutáveis Ações resultantes do emprego da A ausência de transparência e explicabilidade dos tecnologia podem ser discriminatórias, softwares e hardwares associados ao equipamento alimentando a desigualdade, possuindo pode levar a dificuldade sistêmica em controlar, um impacto desproporcional com a monitorar e corrigir os resultados da aplicação da situação real sob um determinado grupo tecnologia. social ou étnico. Produção de evidências inconclusivas Produção de efeitos transformativos As inferências que tomam por base resultados Sistemas que trabalham com coleta de tratados dos dados obtidos pelo equipamento dados, geração e consulta de perfis podem devem levar em consideração que o resultado é levar a situações que ponham em risco a emitido probabilisticamente. Ainda que autonomia e a privacidade dos indivíduos, estatisticamente a probabilidade seja de 99%, isto expondo ou tornando vulneráveis dados ainda significa que em 100 casos, 1 terá seu pessoais ou de grupos sem diferenciar e resultado comprometido. gerenciar os diversos níveis de sensibilidade destes dados. Irrastreabilidade Tecnologias que fazem uso de sensores especializados e sistemas de tratamento da informação tendem a ser de difícil identificação a quem imputar a responsabilidade moral pelos resultados danosos que o uso do equipamento pode proporcionar.

10 RISCOS A fim de trazer essas preocupações éticas e OPERACIONAIS morais mais para perto do contexto da Secretaria Municipal da Segurança Cidadã Faz-se necessário considerar também os chamados de Fortaleza (Sesec) e da população riscos operacionais; uma vez que erros éticos na fortalezense, e respeitando os implementação de novas tecnologias arriscam fundamentos constitucionais brasileiros, (ABDUL et. al., 2018): voltamos nossa atenção para o conjunto de leis, decretos e demais documentos Minar a confiança da população na tecnologia e normativos referentes à operacionalização consequentemente impedir sua ampla aceitação, do uso de VANTs no que é pertinente à pondo em risco a efetividade de futuros usos da finalidade de vigilância. tecnologia naquela área Provocar a redução da aceitação e uso de tecnologias semelhantes em outras áreas, levando ao atraso e defasagem tecnológica geral Provocar aumento de custos administrativos devido ao mau uso da tecnologia Responsabilizar incorretamente agentes partícipes das operações envolvendo a tecnologia Além disso, os erros éticos tendem a se sobressair comparados aos benefícios éticos, gerando escândalos, mobilizando negativamente a opinião pública e dificultando a inovação na área de aplicação da tecnologia. No caso específico de drones, ou VANTs, os princípios éticos e funcionais citados anteriormente se traduzem (mas não exaustivamente) em preocupações com a confiabilidade, eficácia, acurácia e integração harmoniosa dos equipamentos às atividades de secretarias e órgãos públicos que utilizam esta tecnologia como incremento ao serviço de segurança oferecido à população.

11 CAPÍTULO 3

12 POTENCIAIS VANTAGENS DO USO DO EQUIPAMENTO Na última década houve um crescimento significativamente grande tanto na variedade de tipos de uso quanto na quantidade de ocorrências de uso de VANTs na área de segurança pública globalmente. Os atributos das autoridades de segurança pública variam e, com isso, varia também o uso e os benefícios em cada contexto. Estes equipamentos são utilizados de forma preventiva para, por exemplo, facilitar o levantamento do número de habitantes de áreas de risco de forma a auxiliar as autoridades locais no planejamento do cadastro destas pessoas para ações posteriores de defesa civil.

13 Essa tecnologia possibilita o mapeamento aéreo Segundo dados de abril de 2019 publicados de bairros ou outras demarcações geográficas no Portal do Governo de São Paulo com o para analisar a real situação de cada localidade e título \"São Paulo terá novo programa Olho descobrir medidas mais efetivas para identificar e de Águia 4.0 com uso de drones\", havia 250 sanar os problemas e ressaltar as qualidades da drones em operação no estado. A estimativa localidade (FLOR, 2018). A coleta de dados é de que o custo operacional de um drone de aéreos para a criação de mapas detalhados alta tecnologia seja 140 vezes menor do que permite um estudo mais aprofundado das o custo de um helicóptero da Polícia Militar. ameaças, riscos e vulnerabilidades de uma localidade, contribuindo para uma intervenção No Rio de Janeiro a prefeitura fez uso de mais precisa e menos dispendiosa. VANTs para coleta de dados e informações básicas para o gerenciamento de No contexto remediativo de ações de socorro, emergências e contingências de risco assistência e reabilitação das populações ambientais e sociais na cidade - mais vitimadas em desastres, VANTs podem ser especificamente no combate à dengue, utilizados na avaliação das catástrofes e na busca mapeando criadouros do aedes aegypti e de vítimas para posteriores resgates e identificando com isso quais áreas teriam salvamentos (PICCOLOTTO, 2020). maior risco de proliferação dessa e de outras doenças causadas pelo mosquito ou outros Os mesmos equipamentos podem ser utilizados problemas advindos de insalubridade para monitoramento costeiro para ajudar no (PICCOLOTTO, 2020). resgate das vítimas de afogamento, tendo a vantagem de serem mais rapidamente acionados Também foram utilizados VANTs em alguns do que o método convencional de uso de casos de monitoramento de incêndios veículos aquáticos e aéreos de médio e grande florestais e de incineração de resíduos. A porte para coleta de dados sobre o local e o extensão do uso depende de fatores como a número de vítimas à serem resgatadas. altura das chamas e velocidade do vento. No Brasil em 2020, VANTs foram usados no Em situações em que se faz necessária a combate ao desmate ilegal e aos efeitos de entrega de materiais de distribuição gratuita desastres ambientais – como o monitoramento (como medicamentos ou alimentos) à de áreas atingidas pelo derramamento de óleo na famílias isoladas geograficamente por região nordeste do país e identificação de áreas motivos de calamidade ou de habitação em com queimadas na região amazônica. Esse tipo locais remotos, o uso do equipamento de ação evidencia não só versatilidade de uso, resulta em maior rapidez e praticidade. mas também uma vantagem econômica do equipamento enquanto alternativa mais Essas mesmas vantagens se estendem à eficiente, mais segura, mais rápida e bem mais proteção de construções históricas, vistoria financeiramente viável que uso de helicópteros de patrimônios públicos e até mesmo em para apoio aéreo, reduzindo gastos desde a casos de emergência e necessidade de aquisição do veículo, passando pela manutenção inspeções de cenas de incêndio, catástrofes e até o abastecimento (GALVÃO, 2017). acidentes de barco, avião e carro.

14 Dentro da esfera pública é possível também Esse tipo de intervenção, como pode ser realizar a avaliação dos bens culturais e visto, dá um retorno que não seria possível equipamentos sociais da cidade, tanto em um utilizando métodos tradicionais de varredura. sentido de urbanização, quanto de uso e interação com a sociedade. Nos locais onde o reconhecimento facial por câmera em VANTs é permitido, como em VIOLÊNCIA países do Leste Asiático, são realizadas URBANA buscas por pessoas desaparecidas, como idosos, e identificação para apreensão de Além de vantagens nas atuações de resgate, pessoas com mandado de prisão em aberto atuações de combate à violência urbana também (RICE, 2019). são beneficiadas pelo uso de VANTs, que participariam da pré operação, das operações e O reconhecimento facial em massa é uma também das pós operações. polêmica tecnologia utilizada em associação a VANTs. Já foi implementada em diversos Com esses equipamentos é possível fazer o países, com destaque à Inglaterra, China e acompanhamento aéreo da equipe in loco em Estados Unidos da América - este último tempo real e dar orientação por rádio, utilizar as inicialmente limitava o uso da tecnologia à imagens gravadas para composição das provas e territórios ocupados no Oriente Médio, mas reconstituição de cenas de crimes, até marcação nos últimos anos expandiu o uso para de suspeitos em fuga através do uso de pacotes vigilância em protestos políticos dentro do de tintas brilhantes que não podem ser lavadas próprio país. facilmente (FLOR, 2018). O problema ético de privacidade gerado pelo Em áreas violentas de difícil acesso por veículo trabalho em conjunto dessas duas terrestre, é possível coletar imagens de alta tecnologias será melhor desenvolvido no resolução - inclusive gerar imagens térmicas para próximo capítulo, onde discutimos as monitoramento noturno - que permitem desvantagens da aplicação de VANTs na direcionar equipes no caso de identificação de segurança pública. movimentações suspeitas com investimento financeiro mínimo. 140x Para a segurança de multidões em eventos é o quão menor é o custo esportivos ou festas, o uso de drone amplia a operacional de um VANT em cobertura do trabalho da guarda e, se utilizado relação à um helicóptero da com sensor detector de metais acoplado ao equipamento, permite uma varredura em um Polícia Militar grande número de pessoas em poucos segundos, potencialmente identificando alguém armado (GALVÃO, 2017).

15 CAPÍTULO 4 POTENCIAIS DESVANTAGENS DO USO DO EQUIPAMENTO O potencial de uso de qualquer tecnologia deve A aplicação de tecnologias de identificação ser refletido não só sob a luz do direito, mas da de suspeitos para a prevenção do crime ética que extrapola os documentos legais. Quando implica em uma coleta massiva e sem se fala por exemplo no uso de VANTs para consentimento de dados de cidadãos, monitoramento de uma região para criar, com violando o direito à privacidade. Além dos base nas imagens registradas pelos equipamentos, riscos associados a maus resultados de uma espécie de banco de imagens de criminosos algoritmos de busca conforme abordado que atuam na região, deve-se levantar questões anteriormente. como: Todos os rostos seriam escaneados pelos drones? Como fica o direito de imagem daqueles Muito se debate sobre a violação de que não foram julgados por crimes mas tiveram privacidade conduzida pelo estado com ou seus dados capturados sem expressa autorização? sem autorização da Justiça. O termo Eyes In A captura das imagens sem autorização e the Sky é utilizado frequentemente em constante vigilância mesmo daqueles que constam publicações internacionais para mencionar o como criminosos não fere nenhum direito? problema.

16 A ideia de melhoria na segurança geral do 910 cidadão em regiões monitoradas pelos drones seria suficiente para justificar sua atuação? agências de segurança nos Afinal, quais regiões seriam alvo desse EUA haviam adquirido drones, monitoramento? Qual parcela da população seria monitorada? Alguma parcela da população será segundo lista de 2018 excluída do monitoramento? Como os cidadãos receberiam esse tipo de vigilância? Ela se difere Na França em 2020, em meio à pandemia das rondas realizadas em carros por quê? de COVID-19, as organizações Quadrature du Net e Liga dos Direitos Humanos foram A tecnologia tem sido utilizada pela Prefeitura de ao tribunal administrativo solicitar o fim São Paulo para o monitoramento de regiões de do uso de drones de vigilância policial alta vulnerabilidade, como a Cracolândia usados como parte dos esforços para (TOLEDO, 2018). A vantagem mais evidente é a impedir a propagação do vírus Sars-Cov-2. identificação de situações de insalubridade e ilegalidade e o potencial mapeamento do local e O pedido foi rejeitado, o que resultou no de seus frequentadores para uso em apelo ao Conselho de Estado, onde o juiz intervenções, tratamentos e investigações. A ordenou que o Estado interrompesse desvantagem fica clara, no entanto, quando imediatamente a vigilância por drones. O consideramos a possibilidade de avaliações que argumento utilizado foi o fato dos drones promovam o preconceito, pondo em risco a estarem equipados com lentes de zoom e privacidade e o vazamento de imagens com poderem voar abaixo de 80 metros, onde intuito de promover comoção pública contra a uma quantidade considerável de dados população adicta. pessoais poderia ser adquirida por eles (ROSOLEN, 2020). São inúmeros os casos de comprometimento ético no uso de VANTs. O que inicialmente A preocupação com a privacidade dos promete apenas uma vantagem com cidadãos (devido a captura de dados policiamento inteligente de uma região pode se pessoais por meio de câmeras) na França revelar, se não houver uma preocupação com prevaleceu em relação à necessidade de princípios morais de uso da tecnologia, como um dispersão de grupos que poderiam risco à liberdade, privacidade e aumentar os casos de transmissão do vírus. autodeterminação. No controle de manifestações hostis os drones possibilitariam atuar pontualmente sobre os incitadores e infratores misturados à população, porém em locais de governo autoritário há como desvantagem o risco real de distorção da finalidade da tecnologia com a possibilidade de perseguição política de indivíduos nos atos de manifestação de sua liberdade de expressão.

17 A captura desses dados fere uma lei anterior que Em consequência dessas descobertas, descreve que \"a tecnologia deve estar a serviço grupos de defesa a direitos e liberdade de todos os cidadãos\" e que \"não violará a civil do país como Electronic Frontier identidade humana, os direitos humanos, a Foundation (EFF) organizam-se para privacidade ou as liberdades individuais ou pressionar por uma legislação federal que públicas\". controle mais o uso de drones de forma a proteger o direito à privacidade dos Ao fim do caso ficou entendido que se a polícia indivíduos. Por enquanto as leis sobre o quiser voltar a usar os drones, será necessário uso de drones, assim como as leis sobre equipá-los com um dispositivo que torne proteção de dados, são estaduais. impossível identificar as pessoas que por acaso estão na visão do equipamento. Essa Além da captura não autorizada da determinação prevê o uso de drones de forma imagem das pessoas, há ainda outro mais restrita, ou seja, não nega o uso de drones problema de segurança que merece como auxílio à polícia, apenas restringe o uso de destaque: o vazamento de dados sensíveis forma a preservar o direito de privacidade dos de imagem capturados pelos drones, que cidadãos. pode ocorrer pelo hackeamento do dispositivo, sequestrando-o para usos Se fosse possível extrapolar essa determinação ilegais. para o Brasil, usos com fins de vigilância de áreas de preservação ambiental ou monitoramento de Durante a RSA Conference, uma série de eventos com grandes aglomerações, poderiam conferências de segurança de Tecnologia ser realizados sem problemas, contanto que não da Informação, o consultor de segurança capturassem dados pessoais. Nil Rodday deu uma palestra mostrando como realizar um ataque à um drone pela Embora na França, como visto aqui, a decisão rede wifi. tenha favorecido a privacidade do cidadão frente ao controle do Estado, países como os Estados O tipo de ataque demonstrado é conhecido Unidos lidam com a questão de forma bem como Man-in-the-Middle, em que os dados diferente. É sabido que em 2013 o diretor do FBI, trocados entre duas partes são de alguma Robert Mueller admitiu que o FBI estava usando forma interceptados, registrados e drones para monitoramento e vigilância dentro possivelmente alterados pelo atacante sem do país, afirmando em entrevista que, apesar que as vítimas percebam. Rodday também disso, \"...temos muito poucos\" (MORROW, 2019). mostrou como remediar o problema alterando e fortalecendo a encriptação das Em 2018 a Bard College publicou um relatório senhas. As formas de ataque são tão que listava 910 agências de segurança e serviços múltiplas quanto as tecnologias utilizadas emergenciais nos EUA que haviam adquirido para fabricação desses equipamentos. drones. A ACLU (ONG americana \"União Americana pelas Liberdades Civis\") obteve provas Sem uma equipe preparada para resolução de uso de drones durante os protestos em de invasões e sequestro de VANTs, seu uso Baltimore em 2015 para vigiar os cidadãos que pelas secretarias de segurança pública fica estavam no protesto, ferindo sua liberdade civil. sujeito à sorte.

1 81 PROPOSTAS A integração dos sistemas de monitoramento e registro de ocorrências deve ser conduzida com adicionais cuidados com os dados que serão usados para treinar os algoritmos. Afinal, a urgência em reduzir a criminalidade em determinada comunidade pode levar a um uso desproporcional da tecnologia sobre uma parcela já fragilizada da população, gerando mais tensão e eventuais revoltas dos cidadãos que deveriam ser beneficiados. Neste sentido é que devemos nos perguntar, a partir da ação de coleta de dados, quais características podem ser usadas para garantir uma justiça algorítmica. Em termos práticos, busca-se a otimização da precisão e da equidade, de modo a encontrar uma maneira de corrigir a disparidade racial (e social) que não comprometa a precisão ou viole nossos compromissos com a justiça, o que pode significar aceitação de algum compromisso metodológico de design do algoritmo que esteja entre a precisão e a equidade. A recomendação é integrar como parte do desenvolvimento da tecnologia de policiamento preditivo um estudo aprofundado que analise não apenas os casos objetivos, como a incidência de crimes em uma localidade, ou o grau de envolvimento de um suspeito ou reincidente com outros criminosos, mas também a relação e o envolvimento do suspeito com sua reabilitação, com uma religião, com um oficio, sua aproximação com os familiares, etc. Em adição à esta recomendação, foram elaboradas propostas de medidas preventivas tantos em relação aos riscos citados anteriormente neste manual quanto em relação à ameaças específicas, encontradas em países cuja administração pública já integra VANTs à atividades de segurança. Serão citados a seguir casos limite nos Estados Unidos da América, Inglaterra e China.

19 OS EUA E O Esta coleta pode tanto habilitar previsões REFORÇO DO voltadas para ações coercivas, quanto ser PRECONCEITO NO usada para ações preventivas e que POLICIAMENTO reduzam indiretamente o índice de PREDITIVO insalubridade e risco de desastres destas comunidades, impactando em longo prazo A possibilidade de cruzamento de dados coletados na redução da criminalidade. pelos VANTs e por outros equipamentos abre um campo de tecnologia aplicada no combate ao Um dos primeiros departamentos policiais crime chamado policiamento preditivo; um americanos a utilizar o policiamento policiamento para \"previsão de crimes ou preditivo foi o Departamento de Polícia de diagnóstico de crimes baseados em inteligência Los Angeles (LAPD), que em 2008 começou artificial\". a trabalhar com agências federais a fim de explorar abordagens de policiamento Esta tecnologia, entretanto, como todas que preventivo. Desde então, ele implementou trabalham com algoritmos, podem ser vários programas desta natureza, incluindo direcionadas consciente ou inadvertidamente a LASER, que identifica áreas onde a utilizar parâmetros e dados que carregam violência armada é considerada provável preconceito e, por isso, deve ser uma preocupação de ocorrer, e PredPol, que calcula “pontos de todo gestor cuidar para que a implementação críticos” com alta probabilidade de crimes da tecnologia não acarrete no aumento de relacionados à propriedade. Ambos os segregação social e perseguição à grupos sociais programas foram financiados pelo *Federal já fragilizados por sua condição de vida. Bureau of Justice Assistance*. O uso do VANT para coleta de dados deve ser Em 2019 o programa foi encerrado depois seguido de uma reflexão sobre quem será que o inspetor geral do LAPD lançou uma observado e o quanto, visto que os algoritmos auditoria interna descobrindo problemas dependem dos dados para lançar suas previsões significativos com o programa, incluindo (*forecast*), onde as condições e o contexto de inconsistências na forma como os coleta direcionam tais resultados. Se o uso dos indivíduos eram selecionados e mantidos VANTs se concentra em monitorar bairros pobres no sistema. com maior presença de população negra, os resultados apenas reforçarão o preconceito de que Denúncias de racismo sendo reforçado o crime está associado aos pobres e negros, pelos algoritmos vem sido realizadas e reforçando o status quo. novas investigações e auditorias requisitadas (HAO, 2019) que afirmam que Além disso, deve-se ter em mente que a coleta de o sistema cai em erros comuns de dados pode ser utilizada por mais de uma frente generalização tanto pela base de dados já de atuação na segurança. existente que usa para treinar o sistema de previsão, quanto pela própria programação que, pelo que tudo indica, não considera o contexto social no qual os dados são coletados.

20 Os VANTs de vigilância e monitoramento Em termos práticos, busca-se a otimização desenvolvidos pelo país se integram a uma cadeia da precisão e da equidade, de modo a de comunicação capaz de coletar e cruzar dados encontrar uma maneira de corrigir a massivos sobre o comportamento das pessoas disparidade racial (e social) que não observadas e, posteriormente, reconhecer comprometa a precisão ou viole nossos comportamentos suspeitos, autorizando ações compromissos com a justiça, o que pode preditivas. A construção de hipóteses do futuro significar aceitação de algum compromisso criminal de sujeitos com base na análise do metodológico de design do algoritmo que passado e do presente transformam riscos esteja entre a precisão e a equidade. hipotéticos em riscos reais que sustentam os ataques antecipativos (PERON, 2017. p.244). Para a realidade de Fortaleza, a proposta é integrar como parte do desenvolvimento O fato destes modelos comportamentais serem da tecnologia de policiamento preditivo resultado de previsões de algoritmos usando um estudo aprofundado que analise não cruzamento automatizado de dados acaba apenas os casos objetivos, como a passando a impressão de imparcialidade, uma vez incidência de crimes em uma localidade, que o fator humano fica oculto dos olhos não ou o grau de envolvimento de um suspeito treinados. ou reincidente com outros criminosos, mas também a relação e o envolvimento do Os números relacionados a identificação de perfis suspeito com sua reabilitação, com uma suspeitos sugerem o contrário, no entanto. Longe religião, com um oficio, sua aproximação de evitar situações discriminatórias, o que ocorre com os familiares, etc. com frequência é uma perpetuação das iniquidades que já existiam previamente à Identificar e coletar estes dados que tecnologia de policiamento preditivo, operem como fatores de mitigação é um especialmente em relação à grupos minoritários. trabalho necessário em muitos sentidos. Indo desde o acerto da previsão, até os Deve-se ter em mente que a integração dos fatores de risco associados a uma incursão sistemas de monitoramento e registro de incorreta e os efeitos negativos disto para ocorrências precisa ser conduzida com adicionais a tecnologia e para a imagem da Secretaria cuidados com os dados que serão usados para Municipal de Segurança Cidadã. treinar os algoritmos. Afinal, a urgência em reduzir a criminalidade em determinada comunidade pode Também deve ser empregada e divulgada levar a um uso desproporcional da tecnologia a transparência dos processos envolvendo sobre uma parcela já fragilizada da população, o uso de VANTs e o algoritmo de previsão gerando mais tensão e eventuais revoltas dos de crimes. Respeitando os níveis de acesso cidadãos que deveriam ser beneficiados. à informação sensível, deve-se ter sempre em mente a importância da documentação Neste sentido é que devemos nos perguntar, a que explique e relate o funcionamento partir da ação de coleta de dados, quais desta tecnologia, de modo a viabilizar características podem ser usadas para garantir sindicância, auditoria, revisão e uma justiça algorítmica. publicização diante de eventos ou processos controversos.

21 Por fim, vale ressaltar que conseguir alcançar tais No Reino unido, que já vem de um resultados demanda um esforço para além dos investimento massivo em vigilância por limites da atividade policial e legal. Não nos circuitos fechados de TV, o uso dos VANTs limitando aos EUA, observamos que muitas forças para finalidade policial ganhou policiais no Reino Unido, por exemplo, possuem notoriedade a partir de 2018, quando a comitês de ética, inclusive comitês de ética de polícia de Londres iniciou o treinamento dados, especificamente. Este é o caso do *West do algoritmo de RF que será usado em Police Comitee and Crime Comissioner* (WEST conjunto com os equipamentos (MCNABB, MIDLANDS PCC, 2020). A instalação de um comitê 2018). nesse sentido em Fortaleza permitiria tomadas de decisão mais precisas sobre políticas públicas que Em 2020, o projeto de vigilância ganhou envolvem o uso dessa tecnologia no município. O escalabilidade e agora representa o comitê idealmente deve ser diverso, contando fundamento de uma nova forma de com profissionais de gestão, desenvolvedores de monitoramento policial. O projeto não é, software e estudiosos convidados da área de ética contudo, livre de críticas e alertas e tecnologia. (VINCENT, 2020). O fato gerou interesse acadêmico e, com isso, um grande número A INGLATERRA E de artigos foram publicados. Um problema AS FALHAS DE comum que se apresenta é a imprecisão de RECONHECIMENTO seus resultados, causando a identificação FACIAL errada de suspeitos. O uso de VANTs para reconhecimento facial (RF) Como sinalizado pela pesquisadora Timnit se tornou uma aplicação comercial da tecnologia Gebru em um artigo de 2018, a em franco crescimento nos últimos anos. No setor probabilidade de falha aumenta ainda mais público, uma das aplicações que podemos dar aos quando o algoritmo é aplicado a pessoas dados coletados pelos sensores dos VANTs é a de negras, em especial mulheres negras. A RF especificamente para localização de foragidos taxa de erro de RF desse grupo era, na da justiça. Para que este sistema funcione é época, de 34,7%, em comparação com necessário um grande volume de dados e de 0,8% do grupo de homens brancos tecnologia integrada, no qual o VANT representa a (HARDESTY, 2018). instância mais externa do processo de reconhecimento e incursão policial. Compartilhando a preocupação no Brasil, um relatório foi feito com defensores Considerando a complexidade da tecnologia, o públicos de 19 varas criminais do estado uso de algoritmos de RF com cruzamento de do Rio de Janeiro, entre 1º de junho de bancos de dados federais e estaduais tornou-se 2019 a 10 de março de 2020. O relatório uma ferramenta valiosa em grandes cidades como reforça o impacto do racismo estrutural em Nova York, Hong Kong, São Paulo e Londres. 58 casos de reconhecimento fotográfico: 70% dos acusados injustamente eram negros, que resultaram em acusações injustas e prisões de pessoas inocentes (BRASIL DE FATO, 2020).

22 Diante desse cenário fica clara a necessidade de Por maior que seja o número de sistemas cautela, bem como de conhecimento técnico de RF, ainda não se tem algoritmos que sobre as limitações da tecnologia e de operem com uma precisão ótima na conhecimento ético e social quanto aos análise de imagens registradas fora de possíveis agravamentos de falhas relacionadas situações ideais (cf. CRUMPLER, 2020). ao encarceramento de pessoas negras anteriores ao desenvolvimento da IA. O cuidado com a É importante salientar que nem todas as aplicação de VANTs com câmeras para captura falhas dos algoritmos são registradas. São de imagem para fim de RF deve ser redobrado, registradas apenas aquelas relacionadas a uma vez que são vários os fatores em ambiente falsos positivos, uma vez que a ausência de não controlado, como as limitações de ângulo detecção ou ausência de identificação de de imagem, que podem ampliar a taxa de erro rostos de foragidos não tem como ser na identificação de suspeitos. registradas. Somente essa parcela de falhas identificadas já é razão suficiente Hoje o RF é utilizado pelos agentes de para preocupação e cuidado por parte do segurança nas ruas de Fortaleza. Segundo dados Estado, pois ela indica riscos para a divulgados pelo Governo do Estado do Ceará, a população. Em uma situação como a de função de RF realiza o cruzamento de fotos Fortaleza, o uso de RF pode levar à tiradas pelos agentes ou baixadas no celular perseguição e ao uso desproporcional do com uma base contendo mais de 8 milhões de poder do Estado sobre indivíduos já em perfis cadastrados no Estado. O procedimento é situação de extrema fragilidade. Pessoas realizado através do Portal de Comando poderão ter suas vidas vasculhadas, Avançado (PCA), aplicativo para celular que perseguidos por exibirem algum traço cruza bases civil e criminal da população do identificado pelo sistema como suspeito, Estado, dados de veículos e motoristas e seja pelo perfil étnico, cultural, econômico biometria. Nesse sentido, Fortaleza já atua com ou político. localização de foragidos com auxílio de tecnologia. O uso de VANTs será um passo Já nos casos de positivos verdadeiros, as natural no sentido de aumentar a agilidade dos preocupações são outras. Teremos diante sistemas já em operação. de nós, a partir do uso inteligente de VANTs, um cenário de uso de RF em Em nível estadual o uso de VANTs no espaços públicos que permitirá a coleta policiamento ostensivo já é um fato. A Polícia sem precedentes de dados Militar tem utilizado o equipamento comportamentais e de movimento sobre principalmente em locais de grande indivíduos, criando oportunidades para movimentação de pessoas, captando imagens exploração econômica, manipulação em uma resolução 4k (SECRETARIA DE política, discriminação, perseguição e SEGURANÇA PÚBLICA E DEFESA SOCIAL, 2019). muito mais. Agentes responsáveis pela formulação de políticas enfrentarão o As medidas de proteção contra erros de desafio de compreender tecnicamente e identificação e uso irresponsável sempre serão eticamente os pontos fortes e os pontos importantes, pois o RF dificilmente será 100% fracos dos sistemas de reconhecimento preciso (e.g. GROTHER; QUINN; NGAN, 2017). facial aliado a VANTs.

23 Para mitigar eficientemente os riscos A este respeito, é importante relembrar o fato mencionados, devemos ter estratégias de de que um grande número de câmeras de implementação para estas tecnologias. vigilância por vídeo já estão em uso em Podemos tomar como referência para isto o espaços públicos de Fortaleza, porém ainda documento Impact Analysis of Facial Recognition de forma fixa - por exemplo, instaladas em Report (CASTELLUCCIA; INRIA, 2020. p.10) que postes de iluminação em praças do Centro. argumenta uma preocupação adicional às já No momento, essas imagens são visualizadas levantadas. ao vivo por agentes supervisores ou a posteriori pelos investigadores. A análise dos É dito que, mesmo em face da 1) superação de impactos do RF neste contexto deve, obstáculos técnicos que possibilite ampla portanto, intensificar a situação pontual de aplicação desta tecnologia, diante de 2) uma supervisão e reconhecimento por agentes regulação legal, no sentido de uma legislação humanos combinada uma implementação consistente e justa, e diante de 3) uma ampla baseada em reconhecimento automático, divulgação e conscientização da população com criando um sistema redundante de a implementação da tecnologia, ainda assim, verificação e resposta, mas nunca como em um cenário de uso intensivo de RF em substituto humano. VANTs, devemos nos perguntar: Uma alternativa proposta pelo relatório de Quais são os possíveis efeitos do uso Castelluccia é a avaliação de risco em 5 intensivo destes mecanismos de vigilância questões que orientam o uso adequado da na sociedade? Esses efeitos são desejáveis tecnologia: ou não? Seu propósito é legítimo? Como os efeitos negativos podem ser evitados ou mitigados e como os efeitos O poder da aplicação da tecnologia é positivos podem ser aumentados ou proporcional à situação e aos envolvidos? amplificados? O uso do reconhecimento facial é efetivo Quais são os princípios fundamentais a neste caso, ele é confiável neste serem aplicados ao desenvolvimento e a contexto? implantação de tecnologias desta natureza e em quais instâncias a tecnologia é válida? A implementação desta tecnologia é aceitável? Quais medidas técnicas, legais e / ou organizacionais podem ser postas em Os riscos com a segurança da informação prática para limitar os riscos de expansão coletada são mitigáveis e aceitáveis? descontrolada? Exemplos com estas preocupações estão Tendo em vista as respostas às questões presentes no relatório The use of live facial anteriores, deverá ser proibida parcialmente recognition technology by law enforcement in ou totalmente a utilização de tecnologias public places do Information of Commissioner's desta natureza? Office (2019).

24 Ele aponta para um esforço consciente do Reino A CHINA E O Unido em implementar tais tecnologias de modo HACKEAMENTO responsável, contando com a participação de DE VANTS - variados especialistas na implementação delas. SEQUESTRO E VAZAMENTO DE Ainda em 2019 foi publicado um outro relatório, DADOS dessa vez pelo London Policing Ethics Panel - LPEP, um painel independente montado pelo A China representa a nação com maior Prefeito de Londres para fins de aconselhamento desenvolvimento em vigilância por VANTs ético acerca de políticas que possam impactar no oriente. Seu desenvolvimento é na confiança da população no setor público equiparável apenas à Inglaterra que detém administrativo. O relatório (SHALE; BOWMAN; o histórico de país com maior índice de SINGH; WENAR, 2019) reconhece a importância vigilância sobre seus cidadãos. de dar passos para construção e manutenção da confiança da população no uso de tecnologias Os usos de VANTs para vigilância no país realizado pela polícia e no comprometimento da são diversos. Em outubro de 2020, um polícia com o que chamam de \"justiça VANT foi usado como cão de caça (hound) algorítmica\". Para tanto, aconselha garantir: no rastreamento e retransmissão de suspeitos em fuga por tráfico de drogas. A Robustez e transparência nos testes de filmagem foi feita pelo equipamento, tecnologias de vigilância em espaços enviada ao operador que estava próximo e públicos retransmitida em tempo real para uma central de monitoramento. Em outra Transparência nas decisões relacionadas à situação, no ano anterior, um homem foi adoção de novas tecnologias identificado por um VANT após permanecer foragido por 17 anos (BBC Diálogo aberto com a população sobre como News - Technology, 2020). Além disso, a essas tecnologias podem e devem ser pandemia de Coronavírus abriu margem usadas para mais aplicações da tecnologia, como o uso do equipamento para constranger Treinamento focado para operadores civis e publicamente cidadãos que não estiverem policiais usando máscaras de proteção nas ruas (PIETSCH, 2020). Houve também o do uso Revisão e análise da recepção das das aeronaves como borrifadores de tecnologias depois da sua implementação desinfectantes e sprays, e o uso como coletores de amostras médicas e ainda O documento conclui que compensa, portanto, como entregadores de medicamentos construir medidas auto limitantes quanto a (YANG; REUTER, 2020). tecnologia de reconhecimento facial em prol da construção da confiança da população e consequente consentimento para adoção de novas tecnologias de apoio à polícia.

25 Apesar de serem exemplos passíveis de O caso do sequestro, por exemplo, implica justificação, todos eles nos levam a seguinte controle do equipamento, que pode ser reflexão: Os VANTs são um tipo de equipamento arremessado contra indivíduos ou utilizado que está se integrando cada vez mais à para fins maliciosos. sociedade e à variados papeis e em níveis diversos de acesso à intimidade dos cidadãos, No Brasil, o uso malicioso de VANTs se então, depois de sua disseminação e integração manifesta por meio do tráfico de drogas e irreversível, qual a garantia de mantermos armas e também com a finalidade de controle sobre este equipamento e sobre os monitoramento das atividades das forças dados gerados a partir do seu uso? de segurança pública (cf. DEFESANET, 2017). A acessibilidade que ele permite, se usada de maneira maliciosa, pode levar a terríveis crises No caso específico de Fortaleza, a de segurança e saúde. Imagine se no lugar do geografia da cidade e sua estrutura desinfectante houvesse um agente patogênico. habitacional com poucos prédios altos, Ou se no lugar de constranger as pessoas por facilita o uso de drones clandestinos. Faz- não usar máscara, fizessem isso por causa de se necessário saber que o crime raça, posição econômica, gênero ou filiação organizado tem se desenvolvido política. Ou ainda mais grave, imagine se enormemente na cidade e que uma das pudessem interceptar um VANT contendo dados suas principais fontes de recursos ilegais é sensíveis e usar este material para fins escusos. o tráfico (SOUZA, 2019) e que, além disso, as facções criminosas têm se expandido No caso do sequestro de VANTs, o problema para as regiões mais ermas e de difícil reside na facilidade de acesso a informações acesso, como são os casos de comunidades para hackeamento na internet e na baixa indígenas na Região da Grande Fortaleza infraestrutura de segurança a nível de software. (FREITAS, 2020). Como aponta Tony Reeves, diretor da empresa Nesse cenário, o uso de VANTs para de consultoria e treinamento Level 7 Expertise e finalidades criminosas se mostra uma ex-oficial da Royal Air Force do Reino Unido ameaça real. Nestes casos, tanto o (PRITCHARD, 2019): policiamento por VANTs, quanto contramedidas ao uso malicioso de \"Existe um site russo - na Internet aberta, não na equipamento é fundamental. dark web - que oferece hacks para todos os produtos DJI. Isso aparentemente remove as A ocorrência deste tipo de falha de limitações de geofencing, altitude e velocidade segurança pode não apenas comprometer [...] então é justo acreditar que um hacker o serviço de inteligência da Secretaria ocidental comprometido [com a prática] poderia Municipal de Segurança Cidadã por meio fazer o mesmo\" da interceptação dos dados, como também pode ser usado por terceiros para coletar Este relato retrata a ampla disseminação de dados sigilosos de cidadãos, visando técnicas e tecnologias de hackeamento de chantagem e desestabilização social e VANTs. política.

26 Para evitar o cenário descrito anteriormente serão Em caso de ameaça terrorista com o necessárias as seguintes medidas: uso de VANT, realizar as contra medidas, os protocolos padrão de A compra de VANTs para o serviço de proteção e mitigação das ameaças. segurança pública deve considerar a procedência do equipamento e a qualificação Restringir o uso de VANTs em locais da empresa fornecedora, idealmente sensíveis e sob risco de ameaças. considerando a prioridade da produção e montagem nacional do equipamento com Solicitar auxílio de outras vistas ao rastreio do hardware e ao sigilo instituições de segurança pública industrial da tecnologia. Além disso, é de para gerenciar eventos de grande fundamental importância considerar o porte ou particularmente sensíveis. treinamento de uma equipe especializada para executar avaliações de segurança de Contactar os legisladores das esferas hardware. municipais, estaduais e federais sobre as situações de uso malicioso Para o caso de sequestro de VANTs, além das de VANTs de modo a suscitar o medidas de segurança de software e hardware debate público sobre uma legislação e do sistema de comunicação, sugere-se a específica para estes casos. inclusão nas análises de risco ao tópico sobre incidentes por perda de controle seguido de Elaborar relatórios periódicos e uso malicioso. Sugere-se também, dispositivos enviá-los à ANAC de modo a de segurança para desativação imediata do demonstrar a necessidade e a VANT e eliminação dos dados por meio de um magnitude da discussão sobre comando acionado remotamente por incidentes desta natureza no âmbito radiofrequência específica e chave nacional. criptográfica. Além destes casos, recomendamos o O uso de VANTs pela Secretaria Municipal de estudo da implementação de um sistema Segurança Cidadã também deve incluir a de identificação remoto no uso de preocupação com o uso desse equipamento VANTs. Isto é, um sistema que, baseados como ameaça criminal por terroristas, em redes como Lora/Wan e similares, traficantes, etc. O relatório sobre o uso do possam identificar um VANT em equipamento por Agências de Segurança funcionamento e através de um sistema Pública de 2020 (Office of Community de identificação facial, ou identificação Oriented Policing Services, 2020. p.84) de registro ou até mesmo abordagem recomenda seis ações efetivas: policial in loco possa localizar o operador e solicitar suas credenciais de O uso de tecnologias de detecção de operação da aeronave. VANTs como sistemas de radar, sistemas de câmera e sensores acústicos que detectam o som emitido pelos equipamentos.

27 DISPOSIÇÕES Prevenir e mitigar os danos, em todas as FINAIS esferas de impacto já consideradas devem ser as máximas ao se pensar na integração Os casos levantados e devidamente permanente e responsável dos VANTs à contextualizados no cenário de Fortaleza nos secretaria. Isto implica se materializar como a permite concluir que o equipamento, uma vez em construção sólida e consistente de um funcionamento e integrado a uma tecnologia de programa de VANTs; isto é, um projeto assistência policial, está sujeito a riscos de devidamente articulado que vise implementar diferentes fontes e magnitudes. Ora envolvendo o uso desta tecnologia considerando não seus dados, ora envolvendo sua própria condição apenas os recursos e o equipamento, mas de objeto material. Desta forma, o uso do todo o impacto que ela proporcionará a curto, responsável do VANT implica em uma médio e longo prazos. consideração de toda a articulação tecnológica e humana que opera como infraestrutura para seu Ademais, tanto os agentes e órgãos públicos, funcionamento efetivo. O que no contexto de quanto a sociedade podem, e recomendamos Fortaleza, implica em advertir para a necessidade fortemente isto, ser educados no sentido de de cuidados preventivos relacionados ao compreender o que são os VANTs como treinamento adequado das pessoas que irão lidar instrumentos de vigilância; como a com a tecnologia, à avaliação da qualidade e da informação é importante para a manutenção confiabilidade do equipamento em uso pela da sociedade e, em especial, para a atividade Secretaria Municipal de Segurança Cidadã, e à de Segurança Pública; e qual é a relação elaboração e ao treinamento de protocolos de entre informação, tecnologias de vigilância, ações em respostas a eventuais acidentes como os privacidade e cidadania. Um plano educativo descritos nos casos avaliados. aplicado a cada grupo de interessados e envolvidos neste cenário surtiria efeitos positivos em curto, médio e em logo prazos, na direção da construção de uma cultura tecnológica consciente, tornando a população uma aliada à missão da secretaria de segurança e colocando a cidade na vanguarda da cultura digital.

28 BIBLIOGRAFIA Esta bibliografia consiste em matérias jornalísticas, artigos acadêmicos, monografias, relatórios técnicos, livros, leis, e diversos outors documentos que, juntos, compõem o material usado como base para o estudo realizado nos anos de 2020 e 2021 a respeito do emprego de VANTs na segurança pública e suas consequências éticas e morais. Além deste manual, a pesquisa resultou em dois relatórios técnicos, uma palestra e um livreto educativo voltado para a população leiga, que podem ser acessados através de solicitação à Fundação CITINOVA, da Prefeitura Municipal de Fortaleza. ABDUL, A.; VERMEULEN, J.; WANG, D.; LIM, B. Y.; KANKANHALLI, M. Trends and trajectories for explainable, accountable and intelligible systems: An HCI research agenda. In: Proceedings of the 2018 CHI conference on human factors in computing systems — CHI’18, 2018. pp. 1–18. ALBALAWI, M.; SONG, H. Data Security and Privacy Issues in Swarms of VANTs. In: IEEE, Vol. 19, 2019. pp.1-11. AMPARO, Thiago. Polícia algorítmica. Centro de Estudos das Relações de Trabalho e Desigualdades, 2020. Disponível em: https://ceert.org.br/noticias/violencia-seguranca/26319/policia-algoritmica. Acesso em: 01/11/2020. ANGWIN, Julia.; GRASSEGGER, Hannes. Machine Bias: Facebook’s Secret Censorship Rules Protect White Men From Hate Speech But Not Black Children. ProPublica, 2017. Disponível em: https://www.propublica.org/article/facebook-hate-speech-censorship-internal-documents-algorithms. Acesso em: 15/10/2020. ASCOM SSPDS. Big Data da Segurança Pública, Spia e videomonitoramento da SSPDS são utilizados na elucidação de crime em Fortaleza. Portal do Governo do Estado do Ceará, 2019. Disponível em: https://www.ceara.gov.br/2019/12/13/big-data-da-seguranca-publica-spia-e-videomonitoramento-da- sspds-sao-utilizados-na-elucidacao-de-crime-em-fortaleza/. Acesso em: 04/11/2020. ASHER, Jeff.; ARTHUR, Rob. Inside the Algorithm That Tries to Predict Gun Violence in Chicago. The New York Times, 2017. Disponível em: https://www.nytimes.com/2017/06/13/upshot/what-an- algorithm-reveals-about-life-on-chicagos-high-risk-list.html. Acesso em: 15/10/2020. BARTNECK, C.; LÜTGE, C.; WAGNER, A.; WELSH, S. An Introduction to Ethics in Robotics and AI. Switzerland: Springer, 2020. BBC News - Technology. VANT used to bust drug deal in China. 13/10/2020. Disponível em: https://www.bbc.com/news/technology-54526515. Acesso em: 23/10/2020.

29 BINDEMANN, Markus; FYSH, Matthew C.; SAGE, Sophie S. K.; DOUGLAS, Kristina; TUMMON, Hannah M. Person identification from aerial footage by a remote-controlled VANT. In: Scientific Reports, v.7, 2017. Disponível em: https://doi.org/10.1038/s41598-017-14026-3. Acesso em: 15/10/2020. BRASIL. Constituição da República Federativa do Brasil de 1988. Palácio do Planalto, 1988. Disponível em: http://www.planalto.gov.br/ccivil_03/constituicao/constituicaocompilado.htm. Acesso em: 28/09/2020. BRASIL. Lei nº. 8.112, de 11 de dezembro de 1990. Dispõe sobre o regime jurídico dos servidores públicos civis da União, das autarquias e das fundações públicas federais. Palácio do Planalto, 1990. Disponível em: http://www.planalto.gov.br/ccivil_03/leis/l8112cons.htm. Acesso em: 28/09/2020. BRASIL. Lei nº. 12.527, de 18 de novembro de 2011. Regula o acesso a informações previsto no inciso XXXIII do art. 5º, no inciso II do § 3º do art. 37 e no § 2º do art. 216 da Constituição Federal; altera a Lei nº 8.112, de 11 de dezembro de 1990; revoga a Lei nº 11.111, de 5 de maio de 2005, e dispositivos da Lei nº 8.159, de 8 de janeiro de 1991; e dá outras providências. Palácio do Planalto, 2011. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2011-2014/2011/lei/l12527.htm. Acesso em: 28/09/2020. BRASIL. Lei nº. 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). (Redação dada pela Lei nº 13.853, de 2019). Palácio do Planalto, 2018. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/L13709.htm. Acesso em: 28/09/2020. BRASIL. Lei nº. 13.853, de 08 de julho de 2019. Altera a Lei nº 13.709, de 14 de agosto de 2018, para dispor sobre a proteção de dados pessoais e para criar a Autoridade Nacional de Proteção de Dados; e dá outras providências. Palácio do Planalto, 2019. Disponível em: http://www.planalto.gov.br/ccivil_03/_Ato2019-2022/2019/Lei/L13853.htm#art1. Acesso em: 28/09/2020. BRASIL. Ministério da Defesa. MCA 56-3: Aeronaves não tripuladas para uso em proveito dos órgãos ligados aos Governos Federal, Estadual ou Municipal. DECEA, 2020. Disponível em: https://www.decea.gov.br/VANT/. Acesso em: 29/09/20. BRASIL. Ministério da Defesa. MCA 56-4: Aeronaves não tripuladas para uso exclusivo em proveito dos órgãos de Segurança Pública, da Defesa Civil e de fiscalização da Receita Federal. DECEA, 2020. Disponível em: https://www.decea.gov.br/VANT/. Acesso em: 29/09/20. BRASIL. Ministério da Defesa. ICA 100-40: Aeronaves não tripuladas e o acesso ao espaço aéreo Brasileiro. DECEA, 2020. Disponível em: https://www.decea.gov.br/VANT/. Acesso em: 29/09/20. BRASIL DE FATO. RJ teve 58 casos de reconhecimento fotográfico com acusações injustas em um ano. Rio de Janeiro, 15 de set de 2020. Caderno Cidades. Disponível em: https://www.brasildefatorj.com.br/2020/09/15/rj-teve-58-casos-de-reconhecimento-fotografico-com- acusacoes-injustas-em-um-ano. Acesso em: 15/10/2020.

30 BRENNAN CENTER FOR JUSTICE. Court Case Tracker: Brennan Center for Justice v. New York Police Department, 2020. Disponível em: https://www.brennancenter.org/our-work/court-cases/brennan- center-justice-v-new-york-police-department. Acesso em: 13/10/2020. BREWSTER, Thomas. London Police Facial Recognition ‘Fails 80% Of The Time And Must Stop Now’. Forbes – Cybersecurity, 2019. Disponível em: https://www.forbes.com/sites/thomasbrewster/2019/07/04/london-police-facial-recognition-fails-80- of-the-time-and-must-stop-now/#1961acebf950. Acesso em: 02/11/2020. BRUNO, F.; CARDOSO, B.; KANASHIRO, M.; GUILHON, L.; MELGAÇO, L.; Tecnopolíticas da Vigilância: Perspectivas de Margem. São Paulo: Boitempo, 2018. CASTELLUCCIA, Claude. INRIA, Daniel Le Métayer. Impact Analysis of Facial Recognition: Towards a Rigorous Methodology. HAL, 2020. Disponível em: https://hal.inria.fr/hal-02480647/document. Acesso em: 21/10/2020. CASTELVECCHI, Davide. Beating Biometric Bias. In: Nature, v.587, 2020. pp.347-349. Disponível em: https://media.nature.com/original/magazine-assets/d41586-020-03186-4/d41586-020-03186-4.pdf. Acesso em: 19/11/2020. COSTA, Leandro O.; CARVALHO, Eveline B. Silva.; RIBEIRO, Elisa de Castro M..; SULIANO, Daniel C.; SALES, Raquel S.; MIRO, Vitor Hugo. OLIVEIRA, Jimmy L. Perfil Populacional do CEARÁ. Fortaleza: IPECE, 2010. Disponível em: https://www.ipece.ce.gov.br/wp- content/uploads/sites/45/2015/02/Perfil_Populacional_do_Ceara.pdf. Acesso em: 20/10/2020. CRUMPLER, William. How Accurate are Facial Recognition Systems – and Why Does It Matter? Center for Strategic & International Studies (CSIS), 2020. Disponível em: https://www.csis.org/blogs/technology-policy-blog/how-accurate-are-facial-recognition-systems-–- and-why-does-it-matter. Acesso em: 20/10/2020. DEFESANET. Forças Armadas cobram da Anac regulamentação de VANTs. 2017. Disponível em: https://www.defesanet.com.br/vant/noticia/25478/Forcas-Armadas-cobram-da-Anac-regulamentacao- de-VANTs/. Acesso em: 19/10/2020. FERRO, Erina; GENNARO, Claudio; NORDIO, Alessandro; PAONESSA, Fabio; VARIO, Claudio; VIRONE, Giuseppe; ARGENTIERI, Arturo; BERTON, Andrea; BRAGAGNINI, Andrea. 5G-Enabled Security Scenarios for Unmanned Aircraft: Experimentation in Urban Environment. In: VANTs, v.4, Issue 2, 2020. p. 22. Disponível em: https://doi.org/10.3390/VANTs4020022. Acesso em: 11/10/2020. FLOR, C. Qual o impacto dos VANTs na segurança e no mapeamento das cidades? MundoGEO, Curitiba, 27/04/2018. Disponível em: https://VANTshowla.com/VANTs-como-eles-impactam-na-seguranca-e-no- mapeamento-de-bairros-numa-cidade/. Acesso em: 20/08/2020.

31 FLORIDI, L. Translating principles into practices of digital ethics: Five risks of being unethical. In: Philosophy & Technology, Vol. 32, 2019. pp.185–193. FLORIDI, L. Soft ethics, the governance of the digital and the general data protection regulation. In: Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, Vol. 376. n.2133, The Royal Society, 2018. pp.1-11. FOUCAULT, M. Vigiar e Punir. Petrópolis: Vozes, 1999. FREIRE, Luciana. 'O policial já foi com a arma na cabeça dele', diz mãe de jovem confundido por reconhecimento facial. Metro 1, 2020. Disponível em: https://www.metro1.com.br/noticias/cidade/85609,o-policial-ja-foi-com-a-arma-na-cabeca-dele-diz- mae-de-jovem-confundido-por-facial-recognition. Acesso em: 02/11/2020. FREITAS, Cadu. Facções criminosas avançam e ocupam territórios indígenas no Ceará. Diário do Nordeste - Segurança, 2020. Disponível em: https://diariodonordeste.verdesmares.com.br/seguranca/faccoes-criminosas-avancam-e-ocupam- territorios-indigenas-no-ceara-1.2198966. Acesso em: 30/10/2020. FORTALEZA. Prefeitura Municipal. Lei complementar nº 0037 de 10 de julho de 2007 [Regulamento Disciplinar Interno da Guarda Municipal e Defesa Civil de Fortaleza]. Diário Oficial do Município, Fortaleza, Ano LV, nº 13.612. Disponível em: https://legislacao.pgm.fortaleza.ce.gov.br/index.php/Leis_Complementares_2007. Acesso em: 29/09/20. FORTALEZA. Prefeitura Municipal. Portaria Conjunta nº 0044/2019 – SESEC/GMF. Diário Oficial do Município, Fortaleza, Ano LXV, nº 16.613. Disponível em: https://diariooficial.fortaleza.ce.gov.br/download-diario.php? objectId=workspace://SpacesStore/e95b8ea2-656b-4c78-8d4d-ddb365fc5bfa;1.0&numero=16613. Acesso em: 29/09/20. FUSSEY, Pete; MURRAY, Daragh. Independent Report on the London Metropolitan Police Service’s Trial of Live Facial Recognition Technology. University of Essex, 2019. Disponível em: https://repository.essex.ac.uk/24946/. Acesso em 30/10/2020. GALVÃO, M. R. VANTs na Segurança Pública. Portal Administradores Negócios Digitais, João Pessoa, 13/07/2017. Disponível em: https://administradores.com.br/artigos/VANTs-na-seguranca-publica. Acesso em: 21/08/2020. GREENWOOD, Faine. Can a Police VANT Recognize Your Face? Sometimes it matters less if you’re being surveilled than if you feel like you are. Slate, 2020. Disponível em: https://slate.com/technology/2020/07/police-VANT-facial-recognition.html. Acesso em: 05/11/2020. GROTHER, Patrick.; QUINN, George.; NGAN, Mei. Face In Video Evaluation (FIVE): Face Recognition of Non-Cooperative Subjects. U.S. Department of Commerce, National Institute of Standards and Technology, 2017. Disponível em: https://nvlpubs.nist.gov/nistpubs/ir/2017/NIST.IR.8173.pdf. Acesso em: 18/10/2020.

32 HABERMAS, J. Moral Consciousness and Communicative Action: Studies in Contemporary German Social Thought. Massachusetts: MIT Press, 1990. HABERMAS, J. The structural transformation of the public sphere: an inquiry into a category of bourgeois society. Massachusetts: MIT Press, 1989. HAO, Karen. Police across the US are training crime-predicting AI on falsified data. MIT Technology Review, 2019. Disponível em: https://www.technologyreview.com/2019/02/13/137444/predictive- policing-algorithms-ai-crime-dirty-data/. Acesso em: 10/10/2020. HARDESTY, Larry. Study finds gender and skin-type bias in commercial artificial-intelligence systems. MIT News, 2018. Disponível em: https://news.mit.edu/2018/study-finds-gender-skin-type-bias-artificial- intelligence-systems-0212. Acesso em: 02/11/2020. HOLANDA, Raul. Recife X Salvador X Fortaleza – As três potências nordestinas. Fala Universidades, 2020. Disponível em: https://falauniversidades.com.br/recife-x-salvador-x-fortaleza-as-tres-potencias- nordestinas/. Acesso em: 03/11/2020. HSU, Hwai-Jung; CHEN, Kuan-Ta. Face Recognition on VANTs: Issues and Limitations. In: Proceedings of the First Workshop on Micro Aerial Vehicle Networks, Systems, and Applications for Civilian Use. pp. 39-44. Nova Iorque, 2015. Disponível em: https://doi.org/10.1145/2750675.2750679. Acesso em: 05/11/2020. INFORMATION COMMISSIONER’S OFFICE. Information Commissioner’s Opinion: The use of live facial recognition technology by law enforcement in public places. United Kingdom, 2019. Disponível em: https://ico.org.uk/media/about-the-ico/documents/2616184/live-frt-law-enforcement-opinion- 20191031.pdf. Acesso em: 22/10/2020. KUNICHOFF, Yana.; SIER, Patrick. The Contradictions of Chicago Police’s Secretive List. Chicago Magazine, 2017. Disponível em: https://www.chicagomag.com/city-life/August-2017/Chicago-Police- Strategic-Subject-List/. Acesso em: 15/10/2020. LEGGETT, T. Police to get new powers to tackle illegal VANT use, 2019. Disponível em: https://www.bbc.com/news/uk-46787730. Acesso em: 29/09/20. LEMES, Marcelle Martins. Inteligência artificial, algoritmos e policiamento preditivo no poder público federal brasileiro. 2019. 110 f. Trabalho de Conclusão de Curso (Bacharelado em Direito) — Universidade de Brasília, Brasília, 2019. Disponível em: https://bdm.unb.br/handle/10483/24565. Acesso em: 18/10/2020. LEVINE, E.; TISCH, J.; TASSO, A.; JOY, Michael. The New York City Police Department’s Domain Awareness System. In: Interfaces. v. 47, 2016. Disponível em: https://doi.org/10.1287/inte.2016.0860. Acesso em: 12/10/2020.

33 MITTELSTADT, B. D., ALLO, P., TADDEO, M., WACHTER, S., & FLORIDI, L. The ethics of algorithms: Mapping the debate. In: Big Data & Society, Vol. 3, n.2, 2016. pp. 1-21. MORLEY, J. FLORIDI, L. KINSEY, L. ELHALAL, A. From What to How: An Initial Review of Publicly Available AI Ethics Tools, Methods and Research to Translate Principles into Practices. In: Science and Engineering Ethics. Vol. 26, Springer: Netherlands, 2020. pp.2141-2168. MORROW, Susan. Beware of the VANT! Privacy and security issues with VANTs. Infosec Resources, 2019. Disponível em: https://resources.infosecinstitute.com/topic/privacy-and-security-issues-with- VANTs/. Acesso em: 22/08/2020. MUGGAH, Robert.; FRANCISCO, Pedro Augusto F. Digitalização da polícia levanta debate sobre liberdades civis. Folha de São Paulo, 2020. Disponível em: https://www1.folha.uol.com.br/ilustrissima/2020/02/digitalizacao-da-policia-levanta-debate-sobre- liberdades-civis.shtml. Acesso em: 01/11/2020. NASCIMENTO, Thatiany. Permanência de famílias na extrema pobreza mantém situações de fome em Fortaleza. G1-Ceará, 2019. Disponível em: https://g1.globo.com/ce/ceara/noticia/2019/07/27/permanencia-de-familias-na-extrema-pobreza- mantem-situacoes-de-fome-em-fortaleza.ghtml. Acesso em: 18/10/2020. NGAN, Mei; GROTHER, Patrick; HANAOKA, Kayee. Ongoing Face Recognition Vendor Test (FRVT)Part 6B: Face recognition accuracy with face masks using post-COVID-19 algorithms. NIST Pubs, 2020. Disponível em: https://doi.org/10.6028/NIST.IR.8331. Acesso em: 22/11/2020. Office of Community Oriented Policing Services. VANTs: A Report on the Use of VANTs by Public Safety Agencies—and a Wake-Up Call about the Threat of Malicious VANT Attacks. In: Police Executive Research Forum. Washington, 2020. Disponível em: https://www.hsdl.org/?view&did=838632. Acesso em: 29/10/2020. O'NEIL, C. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. New York: Crown Ed., 2016. Organização dos Estados Iberoamericanos. Segurança é Maior em Sistemas Livres. Disponível em: https://www.oei.es/historico/divulgacioncientifica/reportajes_151.htm Acesso em 29/09/20. PEIRÓ, Patricia. Assim os algoritmos perpetuam a desigualdade social. El País, 2018. Disponível em: https://brasil.elpais.com/brasil/2018/04/12/tecnologia/1523546166_758362.html. Acesso em: 10/11/2020. PERON, Alcides. Segurança preditiva? A incorporação de técnicas de mineração de dados e perfilização em conflitos internacionais com VANTs pelos EUA e em práticas de vigilância pela polícia militar do estado de São Paulo. In: ¿Nuevos Paradigmas de la Vigilancia? Miradas desde América Latina. Memorias del IV Simpósio Internacional Lavits, Buenos Aires. Córdoba: Fundación Via Libre, 2017. pp. 241-255. Disponível em: https://www.academia.edu/resource/work/35701123. Acesso em: 17/10/2020.

34 PICCOLOTTO, L. Como os VANTs têm transformado nossas vidas – e quais são os seus riscos. Blog GOVTECH Uol, 11/01/2020. Canal Tilt. Disponível em: https://govtech.blogosfera.uol.com.br/2020/01/11/como-os-VANTs-tem-transformado-nossas-vidas-e- quais-sao-os-seus-riscos/. Acesso em: 20/08/2020. PIETSCH, Bryan. China is using VANTs to scold people for going outside and not wearing masks amid the coronavirus outbreak. Business Insider, 2020. Disponível em: https://www.businessinsider.com/china-uses-VANTs-to-patrol-citizens-during-wuhan-coronavirus- outbreak-2020-1. Acesso em: 25/10/2020. PTI. Softwares Livres são considerados mais seguros que os proprietários, 2017. Disponível em: https://www2.pti.org.br/pt-br/content/softwares-livres-são-considerados-mais-seguros-que-os- proprietários. Acesso em 29/09/20. QUINGLEY, M. Encyclopedia of Information Ethics and Security. New York: Information Science Reference, 2016. RABELLO, Flávia.; PAIVA-MORETTE, Gabriela. Brazil: General Data Protection Law is effective as of 27 August 2020. Global Compliance News, 2020. Disponível em: https://globalcompliancenews.com/brazil- general-data-protection-law-is-effective-as-of-27-august-2020-07092020/. Acesso em: 03/11/2020. REBELLO, Aiuri. Da Placa de Carro ao CPF: Conheça o Córtex, sistema de vigilância do governo que integra placa de carro a dados de emprego. The Intercept_ Brasil, 2020. Disponível em: https://theintercept.com/2020/09/21/governo-vigilancia-cortex/. Acesso em: 02/11/2020. RICE, S. 10 Ways That Police Use VANTs To Protect And Serve. Disponível em: https://www.forbes.com/sites/stephenrice1/2019/10/07/10-ways-that-police-use-VANTs-to-protect- and-serve/#42eb62336580. Acesso em: 29/09/20. RICE, S. Eyes In The Sky: The Public Has Privacy Concerns About VANTs. Forbes Media LLC, Jersey City, 02/04/2019. Disponível em: https://www.forbes.com/sites/stephenrice1/2019/02/04/eyes-in-the-sky- the-public-has-privacy-concerns-about-VANTs/amp/. Acesso em: 21/08/2020. RODRIGUES, Rubens. Apenas 5% da população no Ceará se reconhece como preta, aponta Pnad. O Povo, 2019. Disponível em: https://www.opovo.com.br/noticias/fortaleza/2019/05/22/apenas-5--da- populacao-no-ceara-se-reconhece-como-negra--aponta-pnad.html. Acesso em: 18/10/2020. ROSOLEN, F. Juiz francês proíbe uso de VANTs de vigilância pela polícia. Mundo Conectado, Florianópolis, 17/04/2020. Disponível em: https://mundoconectado.com.br/noticias/v/13697/juiz- frances-proibe-uso-de-VANTs-de-vigilancia-pela-policia. Acesso em: 22/08/2020. ROUSSI, Antoaneta. Resisting the rise of facial recognition. In: Nature, v.587, 2020. pp.350-353. Disponível em: https://media.nature.com/original/magazine-assets/d41586-020-03188-2/d41586-020- 03188-2.pdf. Acesso em: 20/11/2020.

35 RYAN-MOSLEY, Tate.; STRONG, Jennifer. The activist dismantling racist police algorithms. MIT Technology Review, 2020. Disponível em: https://www.technologyreview.com/2020/06/05/1002709/the-activist-dismantling-racist-police- algorithms/. Acesso em: 11/10/2020. SANDER, A. B. Relatório de Impacto. Disponível em: https://blog.sanderecella.com.br/2019/08/29/adequacao-a-lgpd-o-que-e-o-relatorio-de-impacto-a- protecao-de-dados-pessoais/. Acesso em: 28/09/2020. SANTOS, F. N. F. dos. Genealogia da Guarda Municipal e Defesa Civil de Fortaleza \"1959 a 2009 Cinquenta Anos de Transformações\". Monografia (Especialização em Policiamento Comunitário: Turma I) - Centro de Treinamento e Desenvolvimento (CETREDE) - Universidade Federal do Ceará. Fortaleza, 2009. SÃO PAULO TERÁ NOVO PROGRAMA OLHO DE ÁGUIA 4.0 COM USO DE VANTS. Portal do Governo, São Paulo, 12/04/2019. Disponível em: https://www.saopaulo.sp.gov.br/ultimas-noticias/sao-paulo-tera- novo-programa-olho-de-aguia-4-0-com-uso-de-VANTs/. Acesso em: 19/08/2020. SECRETARIA DE SEGURANÇA PÚBLICA E DEFESA SOCIAL. Com investimentos da SSPDS, VANTs se tornam aliados em ações das Forças de Segurança. SSPDS-CE, 2019. Disponível em: https://www.sspds.ce.gov.br/2019/01/31/com-investimentos-da-sspds-VANTs-se-tornam-aliados-em- acoes-das-forcas-de-seguranca-no-ceara/. Acesso em: 04/11/2020. SECRETARIA DE SEGURANÇA PÚBLICA E DEFESA SOCIAL. Polícia Civil do CE prende paulista foragido da Justiça do DF com reconhecimento facial. SSPDS-CE, 2020. Disponível em: https://www.sspds.ce.gov.br/2020/08/12/policia-civil-do-ce-prende-paulista-foragido-da-justica-do-df- com-auxilio-do-reconhecimento-facial-da-sspds/. Acesso em: 05/11/2020. SECRETARIA NACIONAL DE JUVENTUDE E FÓRUM BRASILEIRO DE SEGURANÇA PÚBLICA. Índice de vulnerabilidade juvenil à violência 2017: desigualdade racial, municípios com mais de 100 mil habitantes. São Paulo: Fórum Brasileiro de Segurança Pública, 2017. Disponível em: https://forumseguranca.org.br/wp-content/uploads/2020/10/fbsp-vulnerabilidade-juveni-violencia- desigualdade-racial-2017-relatorio.pdf. Acesso em: 20/10/2020. SHALE, Suzanne; BOWMAN, Deborah; SINGH, Priyah; WENAR, Leif. London Policing Ethics Panel: Final Report on Live Facial Recognition. Londres, 2019. Disponível em: http://www.policingethicspanel.london/uploads/4/4/0/7/44076193/live_facial_recognition_final_report _may_2019.pdf. Acesso em: 19/10/2020. SHORTELL, David. DHS warns of 'strong concerns' that Chinese-made VANTs are stealing data. CNN Politics, 2019. Disponível em: https://edition.cnn.com/2019/05/20/politics/dhs-chinese-VANT- warning/index.html. Acesso em: 28/10/2020. SOUZA, Felipe. Ceará sob ataque: como facções locais e nacionais se juntaram para dominar o crime no Estado. BBC News Brasil, 2019. Disponível em: https://www.bbc.com/portuguese/brasil-46789403. Acesso em: 30/10/2020.

36 SOUSA, Z. A. G. de; FRANCO, I. da S. Lei Geral de Proteção de Dados. In: GROSSI, B. M. (Org.). Lei Geral de Proteção de Dados: uma análise preliminar da Lei 13.709/2018 e da experiência de sua implantação no contexto empresarial. Porto Alegre: Editora Fi, 2020. TOLEDO, L. F. Pelo menos 36 órgãos de segurança pública já usam VANTs. Estadão, São Paulo, 15/07/2018. Disponível em: https://brasil.estadao.com.br/noticias/geral,pelo-menos-36-orgaos-de- seguranca-publica-ja-usam-VANTs-no-brasil,70002297742. Acesso em: 22/08/2020. TÚLIO, Demitri.; PAIVA, Thiago. Como a inteligência artificial vai auxiliar no combate ao crime no Ceará. O Povo, 2019. Disponível em: https://www.opovo.com.br/jornal/reportagem/2019/05/02/estado- vigiado--como-a-inteligencia-artificial-vai-auxiliar-no-combate-ao-crime.html. Acesso em: 04/11/2020. VASCONCELOS, Caê. Porque tantos negros são alvo de prisão injusta com base em reconhecimentos. Ponte, 2020. Disponível em: https://ponte.org/por-que-tantos-negros-sao-alvo-de-prisao-injusta-com- base-em-reconhecimentos/. Acesso em: 18/10/2020. VERKERK, M. J.; HOOGLAND, J.; STOEP, J. van der.; VRIES, M. J. de. Filosofia da Tecnologia: Uma Introdução. Viçosa: Ultimato, 2018. VIANA, Theyse. 'Ser preto aqui é ter sua identidade apagada': negros relatam como o racismo afeta o cotidiano de quem vive no Ceará. G1-Ceará, 2020. Disponível em: https://g1.globo.com/ce/ceara/noticia/2020/06/04/ser-preto-aqui-e-ter-sua-identidade-apagada- negros-relatam-como-o-racismo-afeta-o-cotidiano-de-quem-vive-no-ceara.ghtml. Acesso em 10/10/2020. VINCENT, James. London police to deploy facial recognition cameras across the city. The Verge, 2020. Disponível em: https://www.theverge.com/2020/1/24/21079919/facial-recognition-london-cctv- camera-deployment. Acesso em: 21/10/2020. WEST MIDLANDS PCC. Ethics Committee, 2020. Disponível em: https://www.westmidlands- pcc.gov.uk/ethics-committee/. Acesso em: 21/10/2020. YANG, Junwei; REUTER, Timothy. 3 ways China is using VANTs to fight coronavirus. World Economic Forum, 2020. Disponível em: https://www.weforum.org/agenda/2020/03/three-ways-china-is-using- VANTs-to-fight-coronavirus/. Acesso em: 25/10/2020.





FINANCIAMENTO APOIO Centro de Estudos em Ciências Humanas Aplicadas à Tecnologia da Informação e Cognição Artificial - CETICA ESTE MANUAL É ORIUNDO DO PROJETO O USO DE VANTS PELO SETOR DE SEGURANÇA PÚBLICA EM FORTALEZA SOB UMA PERSPECTIVA ÉTICA, CONTEMPLADO PELO PROGRAMA FORTALEZA CITILAB III, DA FUNDAÇÃO CITINOVA, PREFEITURA DE FORTALEZA.