Informação trazida pela Unesco é que, enquanto o ChatGPT alcançou 100 milhões de usuários mensais em 2023, apenas um país apresentou, em julho do mesmo ano, regulação voltada à IA generativa (IAGen). Ou seja, as ferramentas de IAGen disponíveis ao público surgem rapidamente sem regulamentações, deixando, para mencionar uma única mazela, desprotegida a privacidade dos dados dos usuários. Para a Agência, as escolas também não estão preparadas para valida-las.
A primeira orientação global da UNESCO sobre a IAGen na educação é com a pretensão de apoiar os países na implementação de ações imediatas, no planejamento de políticas a longo prazo e no desenvolvimento de capacidades humanas para garantir uma visão centrada no ser humano.
Para tanto publicou um Guia de avaliação dos riscos potenciais que a tecnologia pode representar para os valores humanos fundamentais, incluindo a dignidade, a inclusão, a equidade, a igualdade de gênero e as diversidades linguísticas e culturais, assim como as opiniões e expressões plurais.
Também propõe passos para que as autoridades regulem a utilização da IAGen, abrangendo a obrigatoriedade de proteção da privacidade dos dados e a consideração de limite de idade para sua utilização. A descrição de requisitos a serem cumpridos pelos fornecedores de IAGen é parte importante do Guia.
O material enfatiza a necessidade das instituições educacionais validarem os sistemas IAGen quanto à adequação ética e pedagógica e refletirem sobre seu impacto a longo prazo para o conhecimento, o ensino, a aprendizagem e a avaliação.
A publicação, enfim, oferece recomendações concretas aos legisladores e às instituições de ensino.
Uma tecnologia espetacular
A IA Gen ganhou fama com o lançamento do ChatGPT, que se tornou o aplicativo com crescimento mais rápido da história. Ele tem a habilidade de imitar as capacidades humanas e produzir respostas como textos, imagens, vídeos, músicas e códigos de software, o que causa ‘ampla comoção’, nos dizeres do Relatório da Unesco.
Não por menos, milhões de pessoas utilizam a tecnologia diariamente e o potencial de adaptar os modelos para aplicações de domínios específicos com IA parece ilimitado, com implicações potencialmente enormes para a educação.
Outras empresas também lançaram sistemas semelhantes ou com base no ChatGPT e, em sendo a maioria gratuita, chegaram a uma grande massa, fazendo-nos reconsiderar nossas compreensões sobre o conhecimento e a aprendizagem humana
Neste ponto, antes de continuar a leitura, sugerimos o acesso a nosso texto Controvérsias sobre a IA generativa e suas implicações para a educação, também baseado no Guia da Unesco.
Regular o uso da IA generativa na educação
Pois bem, diante das controvérsias e riscos éticos gerados por todos os sistemas de IAGen, somente uma regulação centrada no ser humano pode garantir a segurança de seu uso com o aproveitamento de seu potencial em vários setores, incluindo a educação.
Nosso texto A recomendação da Unesco sobre as implicações éticas dos sistemas de IA, inclusive na educação, oferece o marco normativo necessário para começar a abordar as múltiplas polêmicas em torno da IA generativa, incluindo aquelas relacionadas à educação e à pesquisa.
O Guia sobre o qual nos debruçamos agora traz estratégias mapeadas e revisadas para regular e facilitar o uso da IAGen. Esta revisão sugere 07 passos que os governos podem seguir e reafirmar o controle público sobre o tema.
O Passo 1 é endossar regulamentações gerais de proteção de dados internacionais ou regionais ou desenvolver regulamentações nacionais. No Brasil estamos protegidos pela LGPD, marco legal necessário para regular a coleta e o processamento de dados pessoais pelos desenvolvedores de IAGen. No entanto, de acordo com a Unesco, ainda é incerto dizer em que medida os frameworks estão sendo devidamente implementados, informando-nos a necessidade de constante monitoramento.
O Passo 2 é adotar ou revisar e financiar estratégias sobre IA abrangentes para todo o setor governamental.
O Passo 3 é consolidar e implementar regulamentações específicas sobre a ética da IA, ou seja, é preciso que princípios éticos sejam traduzidos em leis ou regulamentos aplicáveis, o que raramente acontece, a propósito.
O Passo 4 é ajustar ou garantir o cumprimento das leis de direitos autorais existentes para regular o conteúdo gerado por IA. Até o momento, apenas a China, os países da UE e os EUA adaptaram leis sobre direitos autorais para que elas contemplem as implicações da IA generativa. É urgente que, também no Brasil, as leis existentes sejam adaptadas para considerar a questão.
O Passo 5 é regulamentar as lacunas presentes nas normas e leis locais vigentes.
O Passo 6 é desenvolver capacidades para o uso adequado de IAGen na educação e na pesquisa. Envolve as instituições de ensino, responsáveis por compreender os possíveis benefícios e riscos da IA, incluindo a IAGen, para a educação. O apoio aos professores e pesquisadores no fortalecimento de suas habilidades no uso adequado da IAGen, incluindo treinamento e orientação contínua, também é crucial.
Por fim, o Passo 7 é refletir sobre as implicações de longo prazo da IAGen para a educação e a pesquisa, considerando que o impacto das versões atuais da IAGen está apenas começando a se desdobrar, e seus efeitos na educação ainda estão sendo plenamente explorados e compreendidos.
Agências governamentais reguladoras
A Unesco tem grande foco na abordagem governamental integrada.
Para a agência é preciso:
Que um órgão nacional coordene a cooperação entre todos os setores;
Alinhar a legislação;
Equilibrar a regulamentação da IAGen e a promoção da inovação em IA;
Avaliar e classificar os riscos potenciais da IA;
Proteger a privacidade de dados;
Definir e aplicar a restrição de idade para o uso da IAGen;
Adotar medidas que evitem que dados de uso comercial sejam levados para fora do país para serem explorados exclusivamente por grandes empresas de tecnologia.
Provedores de ferramentas de IAGen
Muitos provedores de ferramentas de IAGen são empresas com sólidos recursos financeiros e eles devem ter ciência de que são os responsáveis pelas questões éticas desde a sua concepção, inclusive pela implementação dos princípios éticos estipulados nas regulamentações.
Eles devem cumprir dez categorias de responsabilidade, quais sejam: ter responsabilidade com a adesão a valores fundamentais e éticos; seguir dados e modelos confiáveis; gerar conteúdo não discriminatório; ser transparente nos modelos de IAGen; rotular o conteúdo de IAGen; apresentar serviço seguro e sustentável ao longo da vida de um sistema IAGen; especificar a adequação de seu uso; reconhecer suas limitações; apresentar formas de reclamações e soluções; monitorar denúncia de uso; revisar e abordar os impactos do uso do app ao longo do tempo e adequar a tecnologia à idade do usuário.
Por fim, temos os usuários individuais, entendidos no Guia da Unesco principalmente como os professores, pesquisadores e estudantes individuais em instituições educacionais. Deles é esperado conhecimento dos termos de referência sobre o uso de IAGen; uso ético de aplicações e monitoramento e denúncia de aplicações ilegais de IAGen.
Estamos aprendendo
Embora não saibamos (ainda) se existem e quais são os impactos de longo prazo no uso da IAGen na educação, precisamos com urgência conduzir debates públicos abertos e diálogos no âmbito político a respeito do tema.
É que a maioria dos países está adotando a IAGen na educação – ainda que de forma inicial – e devemos garantir um uso da IA centrado no ser humano.
Debates inclusivos envolvendo governo, setor privado e outros parceiros devem servir para reunir ideias e contribuições para a atualização progressiva de regulamentações e políticas.
É o que se espera seja feito em todos os âmbitos de nosso governo e que desejamos para os demais. A questão é global e de impacto geral.
Acesse o Guia para a IA generativa na educação e na pesquisa e obtenha as informações na íntegra.
Leia também
Gostou deste texto? Faça parte de nossa lista de e-mail para receber regularmente materiais como este. Fazendo seu cadastro você também pode receber notícias sobre nossos cursos, que oferecem informações atualizadas e metodologias adaptadas aos participantes.
Parceria ILAPE - Jacobs Consultoria. e Ensino. O Edital do Programa Mais Médicos foi modificado. São dias a mais para preparar seus projetos. Quer saber como? Entre em contato.
Temos cursos regulares já consagrados e modelamos cursos in company sobre temas gerais ou específicos relacionados ao Direito da Educação Superior. Conheça nossas opções e participe de nossos eventos.
Comments