No dia 03 de março deste ano, a Defensoria Pública do Estado de São Paulo e a Defensoria Pública da União, o Instituto Brasileiro de Defesa do Consumidor (Idec), o Intervozes – Coletivo Brasil de Comunicação Social e o Artigo 19 Brasil, propuseram uma nova Ação Civil Pública (“ACP”) em face do Metrô de São Paulo questionando a implementação de um sistema de reconhecimento facial dos usuários nas estações. Conforme informado, o sistema foi contratado após diversos questionamentos judiciais e extrajudiciais e à revelia de diversos diplomas legais, notadamente a Lei Geral de Proteção de Dados (LGPD), Código de Defesa do Consumidor, Código de Usuários de Serviços Públicos, Estatuto da Criança e Adolescente, Constituição Federal e alguns tratados internacionais.

De acordo com os autores, a ACP se propõe a demonstrar que o Metrô:

• Está implementando um sistema de reconhecimento facial em suas estações e faz tratamento de dados pessoais;

• Realiza o reconhecimento facial dos usuários e trata dados pessoais sensíveis (biometria) sem consentimento dos seus titulares;

• Faz reconhecimento facial e trata dados pessoais dos seus usuários sem a devida transparência e disponibilização de informações necessárias aos titulares de referidos dados pessoais, como a finalidade do tratamento;

• Não adotou quaisquer medidas para avaliação de impacto e mitigação de riscos inerentes à tecnologia de reconhecimento facial, conforme exigido em lei;

• Utiliza a tecnologia de reconhecimento facial de forma abusiva, desproporcional e violadora de direitos humanos fundamentais e dos consumidores, ocasionando danos ao usuário do transporte público.

O sistema atualmente utilizado pelo Metrô faz parte de um projeto relativo ao uso de tecnologia no transporte público em prol da segurança pública. Entretanto, os autores afirmam que o sistema de reconhecimento facial possui impacto negativo sobre a população mais vulnerável, em especial pessoas negras e LGBTQIA+, uma vez que o sistema de reconhecimento facial em uso é propenso a falhas resultantes de discriminação algorítmica, que inclusive podem levar cidadãos inocentes a serem confundidos com criminosos.

Na última terça-feira (22), a juíza Cynthia Thomé, da 6ª Vara da Fazenda Pública de São Paulo, proferiu uma decisão liminar determinando que o Metrô deixe de utilizar o sistema de reconhecimento facial, argumentando que “a utilização do sistema para atender órgãos públicos, por ora, não passa de mera conjectura, fato que, por si só, indica a insegurança do sistema que se pretende implantar. Há uma série de questões técnicas que necessitam de dilação probatória para serem dirimidas. Todavia, presente a potencialidade de se atingir direitos fundamentais dos cidadãos com a implantação do sistema”.

A decisão é provisória e dela cabe recurso, devendo o Metrô, no entanto, suspender o uso do sistema enquanto tramita a demanda.

O assunto discutido na ACP é de extrema relevância por tratar do uso de algoritmos pelo Poder Público de maneira não transparente e sem análises prévias mais aprofundadas, discussões coletivas e acesso às informações relevantes sobre o sistema aos titulares (oriundas, por exemplo, da realização de um Relatório de Impacto à Proteção de Dados Pessoais). A título de exemplo, a cidade de São Francisco, nos Estados Unidos, proibiu o uso da tecnologia de reconhecimento facial pela polícia e outros órgãos da administração municipal após discussões com grupos de defesa das liberdades civis que apontaram para o risco do abuso da tecnologia pelas autoridades, que poderia empurrar o país para a direção de um estado de vigilância com potencial opressivo, algo incompatível com uma sociedade democrática.

Para nossa sócia Carolina Mendonça de Barros, “é importante preocupar-se como as novas tecnologias estão sendo criadas, testadas e utilizadas e como a legislação acompanha os novos cenários trazidos por essa evolução. A questão é complexa porque pressupõe uma análise interdisciplinar, que inclui a tecnologia e a ética, conceito mutável diante das alterações das culturas e crenças no tempo”.

#MBarros #LGPD #Metrô #SP #ReconhecimentoFacial #Biometria