Os impactos da IA em setores da educação

Assim como em praticamente todas as outras áreas, o setor educacional sentiu a aceleração das tecnologias de Inteligência Artificial. Os gestores educacionais se mostram preocupados, inclusive, em atender aos anseios da comunidade escolar e incorporar as ferramentas em seus processos.

A palavra de ordem de especialistas de documentos internacionais ao abordar o uso de IA na educação, todavia, de acordo com pesquisa apresentada pelo InternetLab, especialmente em sua modalidade generativa, é cautela.

Ainda que se reconheça potenciais benefícios, os riscos já identificados são substanciais e precisam ser considerados.

Desigualdade e linguagem

O primeiro deles é o de que o uso de tecnologias de IA aumente as desigualdades existentes, contemplando desproporcionalmente estudantes em contextos já privilegiados. É importante lembrar que os modelos que utilizamos são majoritariamente desenvolvidos e treinados com dados do Norte Global, havendo, em nossas regiões do Sul Global tecnologias pouco representativas da realidade local.

Isto faz com que os sistemas possam assimilar vieses e preconceitos presentes nos dados de treinamento, o que é um problema para contextos culturais e curriculares específicos. A pesquisa do InternetLab se questiona, por exemplo, como a IA trataria a informação de que nossas escolas são obrigadas a terem no currículo o ensino da cultura afro-brasileira e indígena?

Outro ponto importante são os treinamentos das ferramentas majoritariamente em inglês, embora sejam vendidas como multilíngues. Neste pormenor, a UNESCO já alertou que “o conteúdo gerado por IA vem minando o conhecimento, as culturas e as línguas indígenas”.

Perda de senso crítico e autonomia

Estudos também apontam que o uso excessivo de ferramentas de IA (e falamos em geral da IA generativa) pode gerar dependência e afetar a autonomia intelectual, o senso crítico, a criatividade e a capacidade de buscar conhecimento por conta própria.

É uma consequência grave, resultado de uma postura passiva diante da informação.

Como bem explicado no relatório, esse é o risco da “economia da facilidade”, pois a tecnologia oferece promessa de soluções rápidas que não desencorajam o desenvolvimento de habilidades cognitivas essenciais.

O estudante reduz o processo de ensino e aprendizagem a uma “engenharia de prompt”, em que só se ensina a fazer bons “comandos” para a IA.

E, no caso, como ainda faltam evidências científicas acerca do tema, as recomendações são para que nos preservemos ao máximo, especialmente em relação a crianças e adolescentes, pois pode ser que só entendamos o impacto desse processo daqui uma ou duas gerações.

Falta de formação docente, desafios técnicos e éticos

A capacidade crescente das tecnologias de IA de produzir resultados sofisticados desafia os métodos tradicionais de avaliação e levanta dilemas sobre plágio, autoria e como discernir a expressão autêntica do aluno. E se, ao mesmo tempo, os professores sentem falta de formação para orientar os alunos sobre o uso ético e eficaz da IA, o problema não é pequeno.

Para os autores, nos resta repensar os critérios avaliativos, priorizando processos e outras habilidades, como o pensamento crítico e complexo, em vez de concentrar-se no produto final.

Privacidade e proteção de dados

De fato, de acordo com o relatório, há pouco treinamento específico para os professores, que não recebem orientações sobre o manejo ético dessas tecnologias. Não seria de se admirar, por exemplo, acidentes no processamento de informações pessoais ou confidenciais – tanto suas quanto as de seus alunos – em plataformas que não oferecem garantias adequadas de proteção.

E se, em poucos minutos, podemos subir uma base inteira de dados, que acaba sendo incorporada por sistemas de IA sem qualquer tipo de autorização, é preciso definir claramente dentro da instituição de ensino quem, de fato, vai se responsabilizar por fazer esse controle.

Coleta e exploração de dados biométricos

Um alerta importante constante da pesquisa do InternetLab é sobre a implementação de tecnologias de reconhecimento facial e outros sistemas biométricos nas escolas.

É que, embora frequentemente promovida sob a justificativa de maior segurança ou de otimização de processos logísticos, como o controle de frequência de alunos, o aumento desse tipo de ferramentas no Brasil levanta preocupações substanciais relativas à privacidade, à exploração comercial e à amplificação de vieses discriminatórios.

De se lembrar o Comentário Geral N° 25 da ONU sobre os Direitos das Crianças em Relação ao Ambiente Digital, que interpreta e detalha a Convenção sobre os Direitos da Crianças no contexto das tecnologias digitais. Ele enfatiza que deve sempre ser adotado o meio menos invasivo à privacidade capaz de atingir o propósito desejado. Infelizmente, esse princípio raramente é observado na maioria das aplicações disponíveis.

Opacidade na contratação e gestão das tecnologias de IA

No Brasil, especificamente no campo educacional, percebe-se a combinação da liberdade dos entes federados na formulação e gestão de políticas e a autonomia de cada unidade escolar para definir o uso de tecnologias em seus projetos pedagógicos. De acordo com a pesquisa apresentada, essa amplitude de formas de atuação resulta em processos descentralizados e pouco transparentes.

Em alguns casos essa ausência de diretrizes claras e de mecanismos de transparência ativa dificulta e inviabiliza o monitoramento e a avaliação do processo.

Potencialidades e contribuições

Apesar de tudo, as potencialidades do uso da IA na educação têm sido amplamente investigadas e debatidas. Se respeitados os direitos humanos como um todo, a adoção de tecnologias de IA amplia o acesso e assegura o cumprimento do direito à educação, como bem compreendido no Consenso de Pequim — documento final da Conferência Internacional sobre IA e Educação, realizada pela UNESCO em parceria com o Governo da China, em maio de 2019.

Em sequência, algumas dessas possibilidades, que, todavia, sempre devem ser analisadas de acordo com os riscos mencionados.

Personalização do ensino

Sistemas de IA prometem a capacidade de se adaptar às necessidades individuais dos estudantes, sugerindo exercícios específicos, fornecendo feedback em tempo real e adaptando o ritmo das lições.

A personalização é tida como uma promessa para ampliar a equidade e a inclusão, especialmente para crianças e adolescentes com deficiência.

Tecnologias com essa finalidade já foram contratadas em cidades brasileiras (Porto Alegre (RS), Londrina (PR) e Maringá (PR)) para uso em suas redes de ensino, mas, embora exista o potencial anunciado, precisamos de evidências científicas e de mecanismos de implementação e monitoramento dessas ferramentas no contexto escolar, para que sejam, de fato, instrumentos de inclusão e apoio à aprendizagem. Sempre lembrando que a substituição desses sistemas pela modalidade generativa pode fazer com que o conteúdo oferecido aos estudantes seja mais vulnerável a erros e vieses.

Apoio à gestão e análise de políticas públicas

Por fim, é de se lembrar que tecnologias de IA podem viabilizar a análise de múltiplas fontes de dados para orientar a tomada de decisões e otimizar a gestão de recursos em processos administrativos e logísticos, como, por exemplo, a distribuição de recursos ou a atribuição de turmas e unidades educacionais a docentes.

Já o uso de ferramentas de análise preditiva, segundo a pesquisa, já testadas para identificar estudantes em risco de evasão escolar, envolve riscos de vieses e de estigmatização. Aqui existe a necessidade de um reforço na transparência, tanto quanto aos dados que alimentam os modelos quanto em relação às formas de sua utilização.

A propósito, toda a pesquisa do InternetLab, que desaguou no relatório que mencionamos hoje, é muito interessante. Ela trata de educação, mas não só. Cuida também de cultura, crianças e adolescentes e ainda mostra quais temas sofrem de uma lacuna significativa de estudos empíricos — sobretudo longitudinais e interdisciplinares — que permitem compreender os impactos reais da interação contínua com sistemas de IA na vida das pessoas.

Para acessá-la, clique aqui.

Gostou deste texto? Faça parte de nossa lista de e-mail para receber regularmente materiais como este. Fazendo seu cadastro você também pode receber mais informações sobre nossos cursos, que oferecem informações atualizadas e metodologias adaptadas aos participantes.

Temos cursos regulares, já consagrados, dos quais já participaram mais de 800 profissionais das IES. Também modelamos cursos in company sobre temas gerais relacionados ao Direito da Educação Superior, ou mais específicos. Conheça nossas opções e participe de nossos eventos.