top of page

Controvérsias sobre a IA generativa nas instituições de ensino

Ana Luiza Santos e Edgar Jacobs

Como repercutimos em uma de nossas recentes publicações, o debate sobre o uso da IA na educação que se desenrola no Congresso Nacional vem ocorrendo de maneira bastante acirrada, com especialistas indicando caminhos diferentes para que as escolas lidem com a tecnologia, tanto dentro quanto fora de sala de aula.


E o acirramento da discussão não é pra menos. O Guia da Unesco para a IA generativa na educação e na pesquisa nos apresenta de forma pontual as controvérsias e riscos éticos suscitados por todos os sistemas de IAGen e faz considerações importantes sobre suas implicações para a educação.


A par de qualquer regramento que seja publicado, fizemos um compilado de algumas questões às quais todo gestor escolar deve se ater e debater para que possa trabalha-las o quanto antes.


Dados coletados são do Norte Global


Uma questão que deve ser foco de nossa atenção é que as inovações iterativas em arquiteturas de IA e métodos de treinamento na maioria das vezes estão disponíveis apenas para as maiores empresas de tecnologia internacionais, fora do alcance, portanto, da maioria das empresas e da maioria dos países, especialmente aqueles do Sul Global.


Os países e pessoas que não têm acesso a dados suficientes ou que não podem arcar com os custos ficam em uma situação de “pobreza de dados”, situação semelhante ao acesso ao poder computacional. Lembrando que não há como fazer pesquisa ou desenvolver a tecnologia sem uma quantidade massiva de dados e de um enorme poder computacional.


Ou seja, regiões com falta de dados foram ainda mais excluídas e expostas ao risco, de longo prazo, de serem colonizadas pelos padrões incorporados nos modelos GPT. Afinal, os modelos atuais são treinados com dados de usuários online que refletem os valores e as normas do Norte Global, tornando-os inadequados aos “algoritmos de IA localmente relevantes em comunidades carentes de dados em várias partes do Sul Global ou em comunidades mais desfavorecidas do Norte Global” (Guia Unesco para a IA generativa na educação e na pesquisa).


Implicações para a educação e a pesquisa


Pesquisadores, professores e estudantes devem conhecer a falta das regulamentações adequadas para proteger a propriedade dos indivíduos e os direitos dos usuários domésticos da IAGen, bem como para lidar com questões desencadeadas por ela.


E como os modelos de IAGen são construídos a partir de grandes volumes de dados, frequentemente são retirados da Internet sem permissão do proprietário, violando direitos de propriedade intelectual.


Já foi apontado que os GPTs podem violar leis como o Regulamento Geral sobre a Proteção de Dados (GDPR) da União Europeia, especialmente o direito ao esquecimento, pois atualmente é impossível remover os dados de alguém - ou os resultados destes dados - de um modelo GPT.


A maneira como os sistemas “trabalham” também não é transparente para o público, ou seja, eles não são passíveis de inspeção, pelo que não se pode explicar um resultado específico gerado.


A Unesco nos instrui que a falta de transparência e explicabilidade da IAGen é cada vez mais problemática à medida que ela se torna mais complexa, várias vezes produzindo resultados inesperados ou indesejados. Um grande problema é que estes modelos também herdam e perpetuam vieses presentes nos dados usados para treiná-los, os quais são difíceis de detectar e corrigir.


Pesquisadores, professores e estudantes também precisam conhecer os direitos relativos a dados e devem verificar se as ferramentas de IAGen que estão utilizando violam alguma regulamentação vigente. Eles precisam, da mesma maneira, entender que as imagens ou códigos criados com a IAGen podem violar os direitos de propriedade intelectual de outra pessoa, e que as imagens, sons ou código que eles criam e compartilham na Internet podem ser explorados por outras IAGen.


Poluição na net


Os dados usados no treinamento do GPT são normalmente extraídos da Internet e nela, com frequência, presenciamos linguagem discriminatória e outros tipos de linguagem considerados inaceitáveis. Neste ponto, os desenvolvedores tiveram que implementar os chamados guardrails para evitar que os resultados do GPT fossem ofensivos e/ou antiéticos.


Contudo, por falta de regulamentações rigorosas e de mecanismos eficazes de monitoramento, materiais tendenciosos gerados pela IAGen se espalham cada vez mais pela Internet, poluindo, nos dizeres do Guia da Unesco, uma das principais fontes de conteúdo ou conhecimento para a maioria dos estudantes em todo o mundo.


O material gerado pela IAGen, apesar de poder aparentar preciso, pode conter erros e ideias tendenciosas, um risco não só para crianças e jovens. Além de afetar toda a população, se torna um risco recursivo para futuros modelos de GPT, que serão treinados com textos extraídos da própria Internet.


Os GPTs, inclusive, inventam coisas que não existem na vida real, fato conhecido como “alucinação”, embora o uso do termo seja criticado por ser antropomórfico e, portanto, também enganoso.


Trocando em miúdos, a IAGen não é capaz de entender o texto que gerou, embora o pareça. As ferramentas juntam as palavras de maneiras que são comuns na Internet, gerando um texto que também pode estar incorreto e que – quase sempre – representa a visão mais comum ou dominante de mundo à época em que seus dados de treinamento foram produzidos. Não importa se parte dele é problemático ou tendencioso.


Desta maneira, há o risco de limitar e minar o desenvolvimento de opiniões e expressões plurais de ideias. Populações com pobreza de dados, incluindo comunidades marginalizadas no Norte Global, têm mínima ou limitada presença digital online. Suas vozes não estão sendo ouvidas, e suas preocupações não estão representadas nos dados que são usados para treinar os GPTs, aparecendo raramente nos resultados.


Portanto, dada a metodologia de pré-treinamento baseada em dados de páginas da web e conversas em mídias sociais, os modelos GPT podem marginalizar ainda mais as pessoas já desfavorecidas.


Fato é que estudantes, professores e pesquisadores não devem aceitar as informações fornecidas pela IAGen como verdade absoluta e devem sempre avaliá-las de maneira crítica. Eles também devem estar cientes de como as vozes de minorias podem ser negligenciadas, pois, por definição, são menos frequentes nos dados de treinamento.


Gerar deepfakes mais avançados


Um problema gravíssimo das modernas IAGen, além das controvérsias comuns a todas as ferramentas que conhecemos, é que elas podem ser usadas para alterar ou manipular imagens ou vídeos reais para gerar falsificações difíceis de serem distinguidas das versões verdadeiras.


“A IAGen está facilitando cada vez a criação desses deepfakes e das chamadas fake news. Em outras palavras, a IAGen está facilitando que determinados atores cometam atos antiéticos, imorais e criminosos, como disseminar desinformação, promover discursos de ódio e incorporar o rosto de pessoas, sem o conhecimento ou consentimento delas, em materiais audiovisuais completamente falsos e, por vezes, comprometedores.” (Guia para a IA generativa na educação e na pesquisa)

Neste caso, embora a obrigação de proteger os direitos autorais e de imagem dos usuários, pesquisadores, professores e estudantes seja totalmente dos provedores de IAGen, eles também precisam estar cientes de que quaisquer imagens que compartilhem na Internet podem ser incorporadas aos dados de treinamento da IAGen e podem ser manipuladas e usadas de maneiras antiéticas.


Sem conhecimento, consciência e discernimento isto não será viável nem possível. E, em se tratando de crianças e adolescentes, a questão se torna ainda mais complexa, pois necessitam de assistência contínua.


Leitura obrigatória


O Guia da Unesco se fundamenta em uma abordagem humanística e preza pela ideia de que IA não deve usurpar a inteligência humana.


Pelo contrário, vislumbra que a tecnologia nos faz reconsiderar as nossas compreensões estabelecidas sobre nosso conhecimento e a aprendizagem. O documento nos ajuda a redefinir novos horizontes para a educação e embasar nosso pensamento coletivo e ações colaborativas que possam conduzir a futuros de aprendizagem digital centrada no ser humano para todos.


Gostou deste texto? Faça parte de nossa lista de e-mail para receber regularmente materiais como este. Fazendo seu cadastro você também pode receber notícias sobre nossos cursos, que oferecem informações atualizadas e metodologias adaptadas aos participantes.

 

Parceria ILAPE - Jacobs Consultoria. e Ensino. O Edital do Programa Mais Médicos foi modificado. São dias a mais para preparar seus projetos. Quer saber como? Entre em contato.

 

Temos cursos regulares já consagrados e modelamos cursos in company sobre temas gerais ou específicos relacionados ao Direito da Educação Superior. Conheça nossas opções e participe de nossos eventos.

28 visualizações

Comments


bottom of page