Breves notas sobre as tecnologias de reconhecimento facial, proteção de dados pessoais e protestos: uma reflexão sobre o exercício da cidadania
O ano de 2020 definitivamente não está favorável às tecnologias envolvendo o reconhecimento facial. A gigante do mercado de varejo e tecnologia Amazon informou que suspenderá por um ano o uso da solução de reconhecimento facial chamada Rekognition, que seria mais uma das ferramentas utilizadas pelas forças policiais, objetivando combater a criminalidade[2]. Em virtude dos […]
O ano de 2020 definitivamente não está favorável às tecnologias envolvendo o reconhecimento facial. A gigante do mercado de varejo e tecnologia Amazon informou que suspenderá por um ano o uso da solução de reconhecimento facial chamada Rekognition, que seria mais uma das ferramentas utilizadas pelas forças policiais, objetivando combater a criminalidade[2]. Em virtude dos protestos ocorridos após a violenta morte do norte-americano George Floyd, o CEO da IBM, Arvind Krishna, anunciou que a companhia deixará de oferecer o seu software de reconhecimento facial e solicitará um “diálogo nacional” sobre o uso da tecnologia. Acrescentou ainda que a companhia não tolerará o uso de sistemas para “vigilância em massa, criação de perfis raciais ou violações dos direitos e liberdades básicas do ser humano”, próprias ou de fornecedores[3]. Por fim, o Alto Comissariado da Organização das Nações Unidas (ONU) para os Direitos Humanos solicitou a suspensão de ferramentas de reconhecimento facial em protestos pacíficos em vista do aumento da discriminação, principalmente contra pessoas negras, visto que muitas manifestações de junho de 2020 são contra o racismo[4]. De acordo com a instituição – e este é um ponto extremamente delicado – muitas pessoas deixam de comparecerem as manifestações públicas em razão do temor de serem identificadas e sofrer represálias”[5]. A Alta-comissária da ONU Michelle Bachelet arremata asseverando que: “à medida que as pessoas se reúnem em todo o mundo para protestar contra o racismo, inclusive da parte das forças de ordem, o direito à reunião pacífica nunca foi tão importante”[6].
Grandes nações como os Estados Unidos da América e o Reino Unido não tiveram suas feridas curadas após séculos de escravidão e, consequentemente, fica patente notar a baixíssima representação dos negros e outras minorias étnicas nos mais altos postos de trabalho e na política[7]. Quando se soma essa baixa representatividade étnica com os séculos de opressão e abuso da força policial, temos como resultado inevitável a ebulição de protestos ocorrendo, infelizmente, em plena pandemia de Corona vírus. Ambos os países são democracias fortes, onde os direitos humanos são os pilares que sustentam o sistema político, logo, nada mais natural que o Estado se abstenha de interferir no exercício do direito de manifestação (não violenta) dos seus cidadãos, mesmo durante uma crise sanitária de proporções globais.
Diferentemente do Reino Unido, os Estados Unidos não possuem uma lei geral de proteção de dados pessoais para todo o país, mas, diversos regulamentos em níveis estadual e federal que enfrentam questões relacionadas a transparência, necessidade e finalidade dos dados capturados pelo Estado dos cidadãos americanos. Nesse diapasão, não se excluem os recursos de reconhecimento facial que vem, aparentemente, reproduzindo os mesmos preconceitos dos seus desenvolvedores[8].
Este cenário traz um quadro preocupante, pois os nossos comportamentos e ações atualmente estão se tornando uma biografia digital que se encontra espalhada em servidores de dados do Poder Público, empresas privadas e até nos celulares de indivíduos desconhecidos por meio de fotos, conversas ou vídeos. Por meio do uso de deep learning é possível localizar e segmentar dados de fontes diversas buscando gerar, de forma automatizada, um perfil preciso de qualquer pessoa, como já ocorre na China[9]. Neste caso, discute-se verdadeiramente sobre uma ameaça ao direito de expressão e da plenitude democrática de uma parcela da população semelhante ao futuro diatópico descrito na obra 1984 de George Orwell. O professor Bruno Bioni, ao tratar da tutela jurídica dos dados pessoais, asseverou que é imperativo impor uma nova fronteira aos direitos da personalidade, para que o fluxo informacional não seja corrosivo à esfera relacional da pessoa humana e ao livre desenvolvimento de sua personalidade. Com isso, estaria garantido o pleno exercício das liberdades e garantias fundamentais, a liberdade de expressão, de acesso à informação e de não discriminação. Em última análise, tratar-se-ia da própria capacidade de autodeterminação[10].
Diante do sintético quadro delineado, a suspensão dos sistemas de reconhecimento facial pelas empresas e instituições supranacionais se mostra salutar ante as graves falhas e resultados preocupantes sob o ponto de vista dos indivíduos integrantes de uma minoria étnica. Esta pausa, talvez, seja o momento ideal para os países realizarem uma reflexão em suas respectivas sociedades para compreenderem o caminho que as levaram a este ponto e o que pode ser feito para mitigarem ao máximo o atrito gerado pelas aparentes diferenças, caso se queira progredir com o uso de sistemas de reconhecimento facial. Analisando os resultados do uso dessa tecnologia, é muito provável que se descubra que o debate não seja exclusivamente sobre algoritmos e sistemas, mas sobre a relação entre cidadãos e o papel do Estado na promoção da igualdade e dos direitos cívicos.
[1] BERNARDO DANTAS BARCELOS (OAB/ES 14.643) Advogado e Fundador do escritório DB Advocacia e Consultoria Jurídica; Conselheiro da Câmara de Mediação, Conciliação e Arbitragem da CINDES/FINDES; Membro da Comissão de Startups, Proteção de Dados e Inovação; Professor no curso de direito e coordenador da pós-graduação em direito digital e proteção de dados da Rede Doctum de Ensino; Professor da disciplina direitos fundamentais e proteção de dados na Faculdade Faesa; Master of Laws em Law and Technology pela Universidade de Van Tilburg; Pós-graduação em direito público pela Faculdade São Geraldo; graduado em direito pela FDV, certificação em Privacy & Data Protection pela AdaptNow.
[2] AMAZON. We are implementing a one-year moratorium on police use of Rekognition https://blog.aboutamazon.com/policy/we-are-implementing-a-one-year-moratorium-on-police-use-of-rekognition. Acesso em 27 jun. 2020.
[3] ÉPOCA NEGÓCIOS. IBM anuncia saída do mercado de tecnologia de reconhecimento facial. https://epocanegocios.globo.com/Empresa/noticia/2020/06/ibm-anuncia-saida-do-mercado-de-tecnologias-de-reconhecimento-facial.html. Acesso em 27 jun. 2020.
[4] GATTIS, Nina. ONU pede moratória de reconhecimento facial em protestos pacíficos https://olhardigital.com.br/noticia/onu-pede-moratoria-de-reconhecimento-facial-em-protestos-pacificos/102677. Acesso em 27 jun. 2020
[5] idem
[6] GATTIS, Nina. ONU pede moratória de reconhecimento facial em protestos pacíficos. https://olhardigital.com.br/noticia/onu-pede-moratoria-de-reconhecimento-facial-em-protestos-pacificos/102677. Acesso em 27 jun. 2020
[7] MAGENTA, Matheus; Barrucho, Luis. Protestos por George Floyd: em seis áreas, a desigualdade racial no Brasil e nos EUA https://www.bbc.com/portuguese/brasil-52916100. Acesso em 27 jun. 2020.
[8] FUSSEL, Sidney. É possível criar um sistema de reconhecimento facial não-racista? https://gizmodo.uol.com.br/criar-sistema-reconhecimento-facial-nao-racista/. Acesso em 27 jun. 2020.
[9] ROSA, Natalie. Protestantes de Hong Kong destroem postes com sistemas de reconhecimento facial. https://canaltech.com.br/inteligencia-artificial/protestantes-de-hong-kong-destroem-postes-com-sistemas-de-reconhecimento-facial-147861/. Acesso em 27 jun. 2020.
[10] BIONI, Bruno Ricardo. Proteção de dados pessoais: a função e os limites do consentimento – Rio de Janeiro: Forense, 2019. P. 68