top of page

O uso do reconhecimento facial de emoções por IA nas instituições de ensino é prática questionável

A neurocientista Lisa Feldman Barrett, no artigo “What faces can’t tell us?”,  afirma que realmente parece que podemos  detectar o estado emocional de alguém só olhando para seu rosto. E que na vida cotidiana podemos com frequência “ler” o que alguém está sentindo com uma simples observação.


“Centenas de estudos científicos dão suporte à ideia de que a face é uma espécie de farol emocional, sinalizando clara e universalmente uma série de sentimentos humanos, do medo e raiva à alegria e surpresa.”

Não por outra razão,


“cada vez mais companhias como a Apple e as agências governamentais, como Agência de Segurança nos Transportes, estão apostando nessa transparência, desenvolvendo softwares para identificar os humores dos consumidores ou programas de treinamento para avaliar as intenções de passageiros de companhias aéreas O mesmo pressuposto está sendo admitido no campo da saúde mental, onde enfermidades como o autismo e a esquizofrenia são frequentemente tratadas, em parte, treinando pacientes para distinguir emoções a partir da expressão facial.” (ambas citações são trechos da tradução da obra de Lisa Barrett feita por Flavio Williges  para a disciplina de Filosofia das Emoções).

E aí que mora o problema.  Este pressuposto é falso.


Estudos recentes sugerem que as expressões faciais humanas, vistas isoladamente, não são universalmente compreendidas.


Na medida em que os trabalhos na área foram se aprimorando e o método de estudar o reconhecimento de emoções foi replicado por outros cientistas centenas de vezes, suas falhas,  resultados induzidos e, portanto, enviesados, foram percebidos.


À medida que os estudos foram refinados, as teorias mais antigas foram desafiadas, inclusive a atribuída a Darwin de que os movimentos faciais podem ser comportamentos evolutivos para expressar emoção, percebendo-se  (repita-se) que  o conteúdo emocional das expressões faciais não são  reconhecidas universalmente,


E se as expressões faciais não “falam por si mesmas”, se nós não reconhecemos passivamente as emoções, mas as percebemos ativamente, ainda que involuntariamente, dependendo de uma série de outros sinais contextuais, como podemos programar máquinas que monitorem emoções?


A verdade é que, como relata Lisa Barrett, nós todos, bem como a Apple e a Agência de Segurança nos Transportes Americana, já sabemos que um rosto não conta toda a história.


Leitura de expressão facial em escolas  


No Relatório intitulado Reconhecimento Facial nas Escolas Públicas do Paraná, coordenado por  Carolina Batista Israel e Rodrigo Firmino, professores do Departamento de Geografia da UFPR e do programa de pós-graduação em gestão urbana da PUCPR, respectivamente, consta que, em janeiro de 2023, professores de duas escolas públicas cívico-militares relataram que a leitura de expressão facial seria aplicada de modo experimental em seus colégios em usos e funções que extrapolam o registro de frequência.


Estes professores foram informados pela direção da escola que participariam de um experimento com a câmera do Kit Educatron — composto por computador e câmera presentes em todas as salas de aula do estado.


“A câmera passaria a captar informações faciais de modo contínuo, durante as aulas, para medir o desempenho dos alunos, com o objetivo de gerar gráficos e índices sobre o rendimento da turma. Na oportunidade, a direção teria alegado que não seriam coletadas e armazenadas imagens faciais dos alunos. Toda informação facial seria automaticamente convertida em números e dados de desempenho. Além disso, alegaram que não seriam coletadas imagens, som ou qualquer dados de professores.
...
Dentro desse processo de testagem do uso da câmera Educatron, realizar-se-ia conjuntamente a testagem de um sistema de monitoramento do nível de atenção e dispersão dos alunos, por meio de análise de expressão facial. Desse modo, a câmera ficaria monitorando as aulas para verificar se os alunos estão dispersos ou atentos, para medir o nível de qualidade das aulas”.

Um dado interessante é que o governo do Paraná selecionou empresas para desenvolver softwares que apresentassem soluções às suas necessidades tecnológicas e, quando o fez,  publicou edital que mencionava  o intuito de monitoramento dos alunos, especificando, além de outros objetivos, a análise de “áreas sentimentais e violência/assédio moral (com geração de alarmes)”, o que foi atendido pela  Marinho Corp, que já realiza testagem em escola cívico-militar.  A Diretoria de Tecnologia e Inovação (DTI) da Secretaria de Estado da Educação do Paraná confirmou a informação.


O problema é que, quando a própria Secretaria de Educação do Estado é questionada a respeito pelo Legislativo Estadual, existe a negativa da existência de tais experimentos.


Limitações da tecnologia


Já mencionamos o erro em considerar a possibilidade de inferência de padrões universais para a análise de expressões faciais.


Neste momento nos reportamos novamente ao material Reconhecimento Facial nas Escolas Públicas do Paraná para ressaltar os impactos perniciosos de um sistema automatizado que classifique as emoções de pessoas monitoradas.


Podemos vislumbrar um uso progressivo da classificação de emoções para a tomada de decisões administrativas, afetando o futuro das pessoas, seja no ambiente de trabalho ou escolar.


Também podemos vislumbrar um impacto psicológico e emocional em razão da vigilância contínua de comportamentos emocionais pouco ou não controláveis.


Também, ainda faltam normas de regulamentação adequadas e não há conscientização social que possa restringir o uso abusivo destas tecnologias, podendo levar à perda do direito à liberdade de expressão pelo medo da modulação comportamental.


A ANPD, felizmente, já estabeleceu os temas que terão prioridade para fins de estudos e planejamento das atividades de fiscalização pelos próximos dois anos. E dentre eles estão o tratamento de dados pessoais de crianças e adolescentes no ambiente digital e a inteligência artificial para reconhecimento facial e tratamento de dados pessoais.


Leia nosso texto:


 

Os achados do Relatório


Já se percebe pelas pesquisas mais recentes que não parece boa prática realizar reconhecimento facial de emoções nas escolas.


No entanto, infelizmente, além do sistema de reconhecimento facial como instrumento de registro já estar sendo realizada nas escolas paranaenses - sem consulta pública e sem a garantia do legislativo -, existe a forte possibilidade de se realizar o monitoramento de emoções dos alunos em situação fora do escopo limitado e do consentimento utilizado (e que já está em debate).


Outro ponto relatado pelos pesquisadores é a falta de clareza do governo, que por momentos nega a realização dos experimentos e, por outros, apenas  fornece poucas e vagas informações, impedindo um melhor entendimento da situação.


As únicas certezas no momento são de que ainda possuímos “profundas limitações técnicas e sociais do reconhecimento e monitoramento de emoções por captura de imagens de expressões faciais, e consequente desconsideração dos impactos destes usos para o processo de aprendizado e convivência escolar no médio e longo prazos”.


E de que as implicações de longo prazo da coleta e armazenamento dos dados de expressão facial das crianças permanecem obscuras, sendo que os dados de reconhecimento facial, uma vez capturados, podem ser suscetíveis a violações, uso indevido ou acesso não autorizado.


Além dos possíveis impactos sociais, enfim, não há como evitar graves consequências sobre direitos humanos fundamentais, o que não podemos aceitar.


Leia o Relatório na íntegra e descubra mais sobre outros tópicos, inclusive sobre as recomendações a gestores públicos, úteis a gestores em geral. 


Leia também


 



Gostou deste texto? Faça parte de nossa lista de e-mail para receber regularmente materiais como este. Fazendo seu cadastro você também pode receber notícias sobre nossos cursos, que oferecem informações atualizadas e metodologias adaptadas aos participantes. 

 

Temos cursos regulares já consagrados e modelamos cursos in company sobre temas gerais ou específicos relacionados ao Direito da Educação Superior. Conheça nossas opções e participe de nossos eventos.

 

36 visualizações

Comments


bottom of page