top of page

A inteligência artificial generativa e o futuro da educação e da pesquisa: questões essenciais

Ana Luiza Santos e Edgar Jacobs

Neste final de ano publicamos vários textos sobre a inteligência artificial generativa. O assunto efervesce enquanto a tecnologia não para de evoluir, com grande potencial de impactar profundamente na educação e pesquisa.


Como ainda não é totalmente compreendida, suas possíveis implicações de longo prazo exigem atenção imediata e uma revisão aprofundada.


Nesta ocasião, na esteira da publicação da UNESCO, veremos um resumo objetivo das questões éticas levantadas pela agência internacional acerca do tema. Sintetizamos os assuntos em um breve texto e convidamos os gestores e professores a discutir a realidade de sua instituição escolar, analisando previamente, também, por sua importância, o material original em sua integralidade.


Equidade, intelecto e vieses ocultos


Os autores do Guia apresentado pela UNESCO se mostram preocupados com o acesso à tecnologia e a equidade, pois os estudos apontam que os sistemas de IAGen agravam disparidades existentes na apropriação das ferramentas e dos recursos educacionais, o que aprofundaria ainda mais as desigualdades já existentes nesta seara.


Questões relativas à conexão humana, com os sistemas de IAGen potencialmente reduzindo a interação e afetando aspectos socioemocionais essenciais da aprendizagem, devem ser discutidas.


Também relativas ao desenvolvimento intelectual, há inquietação com a limitação da autonomia e iniciativa dos estudantes ao terem ferramentas para fornecer soluções pré-determinadas ou reduzir a variedade de experiências de aprendizagem possíveis.


Fato que já existem sistemas que imitam interações humanas e elas podem ter efeitos desconhecidos a longo prazo no desenvolvimento intelectual e psicológico de jovens estudantes. Nada disto ainda foi investigado.


Não menos importante, sempre bom lembrar dos vieses e da discriminação ocultos: à medida que os sistemas de IAGen mais sofisticados são desenvolvidos e aplicados na educação, é mais provável que surjam novos vieses e formas de discriminação com base nos dados de treinamento e nos métodos usados pelos modelos, o que pode acarretar resultados desconhecidos e potencialmente prejudiciais.


Direitos autorais e propriedade intelectual


Ponto importante da ascensão da tecnologia é a rápida mudança na maneira como obras científicas, artísticas e literárias são criadas, distribuídas e consumidas.


Não raro há cópias, distribuição e o uso não autorizado de obras protegidas por direitos autorais sem autorização/permissão do proprietário, com franca violação de direitos. Treinamentos de modelos de IAgen, inclusive, são acusados de infringirem direitos autorais.


“Em um caso recente, uma música gerada por IA de Drake e The Weeknd (Abel Tesfaye) alcançou milhões de ouvintes antes de ser retirada da Internet devido a uma disputa de direitos autorais (Coscarelli, 2023). Embora os marcos regulatórios emergentes pretendam exigir que os provedores de IAGen reconheçam e protejam a propriedade intelectual dos proprietários do conteúdo usado pelo modelo, está se tornando cada vez mais desafiador determinar a propriedade e originalidade da quantidade avassaladora de obras geradas”. (Guia para a IA generativa na educação e na pesquisa da Unesco)

A falta de rastreabilidade cria preocupações sobre a proteção dos direitos dos criadores, que merecem a garantia de uma compensação por suas contribuições intelectuais. Neste ponto também precisamos perceber os desafios no contexto educacional sobre como os resultados das ferramentas de IAGen podem ser usados de maneira responsável (ou não). Isto pode ter imensas implicações para o sistema de pesquisa.


Fontes de conteúdo e aprendizagem


No entender da UNESCO, as ferramentas de IAGen estão mudando a forma de gerar e fornecer conteúdo de ensino e aprendizagem.


Pense em um futuro no qual o conteúdo gerado por meio de conversas entre humanos e IA pode se tornar uma das principais fontes de produção de conhecimento. Esta realidade pode minar – ainda mais - o envolvimento direto dos estudantes com conteúdo educacional baseado em recursos, livros didáticos e currículos criados e validados por humanos.


E a aparência fidedigna dos textos gerados por IAGen pode confundir crianças e jovens estudantes com pouco repertório para duvidar de imprecisões ou questioná-las efetivamente.


De toda sorte, não há dúvidas de que, pelo menos por enquanto, a IAGen restringe narrativas plurais, pois os resultados gerados tendem a representar e reforçar pontos de vista dominantes. Ou seja, as respostas produzidas pelas ferramentas são homogeneizadas, abafando produções diversas e criativas.


Avaliações e resultados de aprendizagem


Ponto crucial a ser discutido nas instituições de ensino são as implicações da IAGen nas avaliações dos estudantes. Elas devem ir além das preocupações imediatas sobre se eles trapacearam ou não em seus trabalhos escritos.


Nos domínios em que a IA pode superar os humanos e está automatizando unidades de tarefas, os estudantes necessitam ser chamados a desenvolver a criatividade, a colaboração, o pensamento crítico e outras habilidades de pensamento de ordem superior.


Inclusive, se o estudante adquirir novas habilidades que lhe permita desenvolver, operar e trabalhar com ferramentas de IA, precisaremos de novos tipos de avaliação educacional, que reflitam as habilidades profissionais necessárias para empregos que ainda surgirão.


Enfim, com tanta facilidade na obtenção de respostas pelos alunos, as avaliações precisarão incluir novas e diversas habilidades.


Processos de pensamento


A perspectiva mais promissora e fundamental das implicações de longo prazo da IAGen para a educação e a pesquisa continua sendo a relação complementar entre humanos e máquinas. Uma das principais questões expostas pela UNESCO é se os humanos podem delegar níveis básicos de processos de pensamento e aquisição de habilidades para a IA e, no lugar disto, concentrar-se em habilidades de pensamento de ordem superior com base nos resultados por ela fornecidos.


Para conhecimento, de forma resumida, as habilidades de pensamento de ordem superior são aquelas que envolvem mais do que a memorização rotineira e a compreensão básica, alcançando críticas, analíticas e criativas. Elas permitem que um indivíduo resolva problemas complexos, tome decisões informadas e se envolva na resolução avançada de problemas.


A escrita, por exemplo, está normalmente associada à estruturação do pensamento. Com a IAGen, não precisamos começar do zero, mas, sim, a partir de um esboço estruturado fornecido pela IAGen. Alguns especialistas entendem que gerar textos desta forma é “escrever sem pensar” e que, à medida que estas novas práticas se tornarem mais amplamente adotadas, os métodos estabelecidos para a aquisição e avaliação de habilidades de escrita precisarão ser adaptados.


E como ficaremos?


A UNESCO sempre parte da perspectiva de uma abordagem centrada no ser humano para discutir as ferramentas de IA; no seu entender elas devem ser projetadas para ampliar ou aprimorar as habilidades intelectuais e sociais humanas, e não para miná-las, conflitá-las ou usurpá-las.


As ferramentas de IA devem ser integradas como parte dos recursos disponíveis para os seres humanos, a fim de apoiar análises e ações para futuros mais inclusivos e sustentáveis e é isto que se espera delas.


Somente assim podemos garantir que a IA Generativa seja uma ferramenta confiável para pesquisadores, professores e alunos e não um entrave cognitivo para a atual e próximas gerações.


leia também nossas publicações


Gostou deste texto? Faça parte de nossa lista de e-mail para receber regularmente materiais como este. Fazendo seu cadastro você também pode receber notícias sobre nossos cursos, que oferecem informações atualizadas e metodologias adaptadas aos participantes.

  

Temos cursos regulares já consagrados e modelamos cursos in company sobre temas gerais ou específicos relacionados ao Direito da Educação Superior. Conheça nossas opções e participe de nossos eventos.

12 visualizações

Comments


bottom of page