Nós já descrevemos e publicamos sobre como as escolas públicas vêm apostando na tecnologia de reconhecimento facial para resolverem demandas diversas, como registro de presença, contagem de alunos para oferta de merenda, segurança etc.
Acesse nosso material e entenda a respeito:
Por ora destrincharemos um outro ponto muito importante e também debatido na publicação da pesquisa da InternetLab. As tecnologias de reconhecimento facial não são – de forma alguma - imunes a erros e falhas significativas.
Como muito bem colocado no texto “Tecnologias de vigilância e educação: um mapeamento das políticas de reconhecimento facial em escolas públicas brasileiras", estas ferramentas têm sido criticadas no mundo todo por possuírem limitações que colocam sob questão o quanto podem ser benéficas ou adequadas para essas situações.
“O professor Roberto Hirata, do IME/USP, pontua diferentes razões que podem levar uma ferramenta de reconhecimento facial a errar. A primeira relaciona-se à própria resolução da imagem: um registro em baixa resolução dificulta a captação dos diferentes pontos da face que levam a tecnologia a identificar alguém, o que, por sua vez, também aumenta as chances de falha nesses casos. A segunda relaciona-se ao envelhecimento e idade das pessoas, já que o rosto de uma pessoa sofre mudanças naturais ao longo do tempo que afetam a capacidade de reconhecimento da ferramenta. Esse efeito, vale dizer, acentua-se para crianças e adolescentes, que sofrem maiores mudanças em suas características físicas em um menor período de tempo”. (Trecho do texto do Relatório do InternetLab)
E uma questão que traz imensa preocupação: existe, sim, a possibilidade de discriminação de grupos historicamente minorizados, como as mulheres, as pessoas negras e LGBTQIA+, pois já existem estudos que mostram como as tecnologias de reconhecimento facial não são tão precisas quando o público-alvo da ferramenta são pessoas não pertencentes ao gênero masculino ou não brancas.
Por qual razão isto acontece?
As tecnologias de reconhecimento facial são treinadas por meio de bancos de dados com pouca diversidade de gênero, raça e registros culturais, permitindo a ocorrência de vieses discriminatórios que podem levar a erros na operação da tecnologia, ou seja, a falsos negativos e/ou falsos positivos.
Mais absurda ainda – no nossos entender – é a existência de empresas que anunciam serviços de previsão de que um estudante tem mais chances de reprovação do que outro. Não fica claro que tipo de dados são usados para fazer este tipo de medição, mas a oferta do “serviço” já sugere a possibilidade de alguma inferência discriminatória.
Atribuir características comportamentais e/ou psíquicas a uma pessoa com base em sua fisionomia, raça e gênero não nos parece ser uma prática adequada; ainda mais em se tratando de crianças e adolescentes.
Outra questão levantada na pesquisa do InternetLab é a probabilidade de ocorrência de incidentes de segurança, como o acesso indevido aos dados armazenados, roubo, perda ou uso indevido do banco de dados. Nela é relatado incidente envolvendo o roubo de aparelho de reconhecimento facial de uma escola no município de Governador Valadares/MG. Eventos assim podem ocorrer, exigindo das instituições de ensino providências duras em relação à segurança no manejo das informações confidenciais.
Outro ponto: quem teria acesso às informações? Frente a um pedido de requisição de acesso aos dados, por exemplo, por parte de um órgão da administração pública, como a instituição de ensino reagiria? Há situações em que o Conselho Tutelar da cidade recebe os dados dos alunos para que se avalie a evasão escolar. E se autoridades de investigação criminal requererem o banco de dados? E se houver falha no sistema?
“Todas essas questões somam-se à falta de transparência relacionada ao uso do reconhecimento facial. Se ferramentas de análise algorítmica já são opacas por natureza, dado que constituídas por sistemas e fórmulas pouco compreensíveis a pessoas leigas, o problema se acentua quando não há preocupação do poder público em divulgar, publicamente, como a tecnologia irá operar.” (trecho do relatório do InternetLab)
Regras e letramento digital
A ANPD ainda não publicou regramento sobre o reconhecimento facial. Algumas tentativas de normatização foram feitas, sem sucesso. O sistema também não é aceito como identificação pessoal nos Códigos Civil e no Código de Processo Penal.
Como também não há regulamentação pelo MEC, as secretarias municipais de Educação possuem autonomia para tomar as decisões a respeito do tema. E cabe às instituições de ensino analisar com cautela a necessidade e adequação do uso da tecnologia, seus benefícios e riscos.
O problema é que também não há letramento suficiente de professores e gestores públicos sobre a adoção da tecnologia e seus impactos. Normalmente os riscos não são sequer considerados porque não estão no repertório destes profissionais. Professores e gestores públicos não estão atentos – de forma geral - para questões relevantes como vieses e racismo algorítmico.
E daí, estando todos nós em um cenário de vácuo normativo, pode haver um caminho ideal para ferir a integridade dos dados de crianças e adolescentes, sem contrapartida ou potenciais benefícios que justifiquem os riscos. Os problemas são de ordem técnica e ética: nenhum debate foi feito de forma satisfatória.
Decisão do Tribunal de Contas
Decisão Monocrática nº 10.000.713/2020 do Tribunal de Contas do Município do Rio de Janeiro (TCMRJ), em processo no qual se discutia o projeto de implementação da tecnologia de reconhecimento facial na rede municipal de ensino do Rio de Janeiro (RJ), suspendeu a licitação para contratação da tecnologia. Na decisão, referendada pela turma do Tribunal em meio à pandemia de COVID-19, constava que não havia sido comprovada a real necessidade de aquisição do dispositivo de reconhecimento facial, e que a coleta de dados para tal implicava conflito com o ECA, que assegura o direito ao respeito, à privacidade e à imagem dos alunos. No caso do município do Rio de Janeiro, a contratação foi suspensa e não houve novas licitações sobre a matéria.
Considerando que, no caso, se tratava de escolas públicas, os custos mensais adicionais também não compensariam naquele momento de ausência de aulas presenciais e em um período de grave crise fiscal. Neste ponto há realmente uma diferença grande entre as instituições de ensino privadas e públicas. Já existe, por exemplo, Projeto de Lei (PL nº 524061) que busca restringir o uso de tecnologias de reconhecimento facial pelo Poder Público em todo o país, em especial para fins de segurança.
Existem outros empecilhos para que esta ferramenta seja utilizada de forma ampla no âmbito público, pois muitas prioridades estão à frente, como melhorar a infraestrutura das escolas, aumentar o número de professores, possibilitar treinamento e atualização destes profissionais, além de enfrentar questões ainda mais nucleares, como a evasão escolar, o trabalho infantil, a insegurança alimentar e a pobreza da população.
E tanto no âmbito público quanto no privado são várias as questões que devem ser debatidas, a exemplo das trazidas pelo InternetLab.
O que se busca resolver, de fato, com o uso do reconhecimento facial?
Há estudos sobre a eficácia do recurso na melhoria do sistema de frequência dos alunos?
Foi constatada demanda de pais ou responsáveis pela necessidade de informação rápida da frequência de estudantes na escola?
O que garante que, após a identificação facial e o registro de presença, o aluno permaneça ou não em sala de aula?
Se os pais não anuírem com a coleta de dados para o reconhecimento facial, a negativa impossibilita o ingresso do aluno na escola ou trará outras consequências?
Como vai ser computada a presença do aluno?
O investimento na ferramenta é essencial?
A máxima de que o melhor interesse da criança deve se sobrepor aos demais – e especialmente aos interesses comerciais - se mantém e deve ser observada quando do debate.
Banimento da tecnologia
Como nosso foco neste momento são os riscos do uso de reconhecimento facial e de tecnologias de vigilância nas escolas, é importante mencionar a existência de ONGs, como a Ação Educativa, que participam de campanhas para banimento total do uso destas tecnologias digitais de reconhecimento facial.
Muitas organizações em todo o mundo entendem que elas – em algum momento – podem ameaçar o exercício de direitos humanos como a proteção de dados, as liberdades de expressão, de reunião e associação, e os direitos à igualdade e à não-discriminação, citando casos de perseguição política, religiosa e condenações baseadas em reconhecimentos equivocados.
O apelo pelo banimento abrange o uso das ferramentas quando forem utilizadas para vigilância em espaços acessíveis ao público e em espaços que as pessoas não podem evitar, mas a ONG salienta que seu uso por atores privados pode representar a mesma ameaça aos direitos dos cidadãos, especialmente quando atores privados se envolvem na vigilância em nome de governos e agências públicas em parcerias público-privadas (ou fornecem informações derivadas dessa vigilância às autoridades).
No entender destas entidades o uso da tecnologia para vigiar pessoas em parques, bibliotecas, locais de trabalho, centros de transporte, estádios esportivos, em espaços online, como plataformas de mídia social e em instituições de ensino constitui uma ameaça existencial aos nossos direitos humanos e deve ser interrompido.
Debate
Entendemos a necessidade de um amplo debate a respeito do tema antes da inserção da tecnologia nas instituições de ensino. Os termos “reconhecimento facial” e “reconhecimento biométrico remoto” são bastante abrangentes; eles representam o sistema de autenticação facial que possibilita o desbloqueio do telefone de uma pessoa; o sistema que autoriza o acesso do indivíduo a certos lugares e também representam as tecnologias que identificam um jeito de andar ou buscam identificar a identidade de gênero ou o estado emocional de alguém.
As perguntas que apresentamos no texto devem ser devidamente respondidas depois de um sério debate ético entre diversos atores sociais e as instituições de ensino devem ter um lugar especial na discussão, assumindo não só o papel de debatedora como o de produtora de conhecimento.
Terminadas as discussões, com mais subsídios, e respeitada eventual legislação promulgada, caberá aos gestores optar ou não pela tecnologia.
Leia também
Gostou deste texto? Faça parte de nossa lista de e-mail para receber regularmente materiais como este. Fazendo seu cadastro você também pode receber notícias sobre nossos cursos, que oferecem informações atualizadas e metodologias adaptadas aos participantes.
Temos cursos regulares já consagrados e modelamos cursos in company sobre temas gerais ou específicos relacionados ao Direito da Educação Superior. Conheça nossas opções e participe de nossos eventos.
Comments