top of page

A recomendação da Unesco sobre as implicações éticas dos sistemas de IA, inclusive na educação

A Unesco publicou uma recomendação sobre ética na utilização da Inteligência Artificial para orientar as sociedades a lidar de forma responsável com os impactos conhecidos e desconhecidos da tecnologia nos seres humanos.


O documento aborda sistemas que têm a capacidade de processar dados e informações que se assemelham a um comportamento inteligente e que, normalmente, incluem aspectos de raciocínio, aprendizado, percepção, previsão, planejamento ou controle.


Três elementos têm lugar na abordagem:


  • Os sistemas de IA são tecnologias de processamento de informações (modelos e algoritmos) com capacidade de aprender e realizar tarefas cognitivas que levam a resultados como previsão e tomada de decisão e que operam com graus de autonomia.

  • Questões éticas que dizem respeito a todos os estágios do ciclo de vida do sistema de IA, desde a pesquisa, projeto e desenvolvimento, até implantação e uso, manutenção, operação, comércio, financiamento, monitoramento e avaliação, validação, fim de uso, desmontagem e rescisão.

  • Os sistemas de IA levantam novos tipos de questões éticas que incluem seu impacto na tomada de decisões, emprego e trabalho, interação social, assistência médica, educação, mídia, acesso à informação, exclusão digital, dados pessoais e proteção do consumidor, meio ambiente, democracia, estado de direito, segurança e policiamento, direitos humanos e liberdades fundamentais, incluindo liberdade de expressão, privacidade e não discriminação.


Novos desafios éticos também são criados pelo potencial dos algoritmos de IA de reproduzir e reforçar preconceitos e aumentar formas já existentes de discriminação e estereótipos.


Fato que a Recomendação da Unesco trata das implicações éticas dos sistemas de IA em relação à educação, ciência, cultura, comunicação e informação, temas afeitos à organização e seus objetivos são fornecer uma estrutura universal de valores, princípios e ações para orientar os Estados na formulação de suas legislações e políticas públicas; orientar as ações de indivíduos, grupos, instituições e empresas do setor privado para garantir a incorporação da ética em todas as fases do ciclo de vida do sistema de IA; e proteger, promover e respeitar os direitos humanos e as liberdades fundamentais, dignidade humana e igualdade, incluindo igualdade de gênero.


Salvaguardar os interesses das gerações presentes e futuras; preservar o meio ambiente, a biodiversidade e os ecossistemas; respeitar a diversidade cultural em todos os estágios do ciclo de vida do sistema de IA e construir um consenso sobre questões éticas relacionadas aos sistemas de IA também são objetivos da Unesco.


Valores


Nenhum ser humano ou comunidade deve ser prejudicado ou subordinado, seja fisicamente, economicamente, socialmente, politicamente, culturalmente ou mentalmente durante qualquer fase do ciclo de vida dos sistemas de IA. Nas interações com a IA, as pessoas nunca devem ser objetificadas, nem sua dignidade deve ser prejudicada, ou os direitos humanos e liberdades fundamentais violados ou abusados.


Os direitos humanos e liberdades fundamentais devem ser respeitados, protegidos e promovidos durante o ciclo de vida dos sistemas de IA. Governos, setor privado, sociedade civil, organizações internacionais, comunidades técnicas e acadêmicas devem respeitar os direitos humanos nos processos do ciclo de vida dos sistemas de IA.


Garantir a diversidade e a inclusão


Ao longo do ciclo de vida dos sistemas de IA, deve-se promover a participação ativa de todos os indivíduos ou grupos, independentemente de raça, cor, descendência, gênero, idade, idioma, religião, opinião política, nacionalidade, origem étnica, origem social, condição econômica ou social de nascimento ou deficiência.


Também, os países membros devem se esforçar para superar a falta de infraestrutura tecnológica, educação e habilidades necessárias, bem como de estruturas legais, que afetam as comunidades.


Princípios


Proporcionalidade e não causar danos


O método de IA escolhido deve ser apropriado e proporcional para atingir um determinado objetivo legítimo; não deve infringir os valores fundamentais e seu uso não deve violar ou abusar dos direitos humanos; o método deve ser apropriado ao contexto e baseado em fundamentos científicos rigorosos.


Os sistemas de IA não devem ser usados ​​para fins de pontuação social ou vigilância em massa e, em cenários onde as decisões possam ter impacto irreversível ou difícil de reverter, a determinação humana final deve ser aplicada.


Segurança, proteção, equidade e não discriminação


Obviamente, riscos de segurança devem ser evitados e eliminados ao longo do ciclo de vida dos sistemas de IA e os atores da tecnologia ​​devem buscar a justiça e a não discriminação de qualquer tipo em conformidade com o direito internacional.


Este último ponto implica uma abordagem inclusiva para garantir que os benefícios das tecnologias estejam disponíveis e acessíveis a todos, levando em consideração as necessidades específicas dos diversos cidadãos em cada país. Vale mencionar: diferentes faixas etárias, sistemas culturais, diferentes grupos linguísticos, pessoas com deficiência, meninas e mulheres e pessoas desfavorecidas e marginalizadas e pessoas vulneráveis/em situação de vulnerabilidade.


Direito à privacidade e proteção de dados


A privacidade é um direito essencial para a proteção da dignidade humana e deve ser respeitada, protegida e promovida durante todo o ciclo de vida dos sistemas de IA. Para tanto, para que os dados para sistemas de IA sejam tratados, deve-se respeitar a lei internacional e os valores e princípios estabelecidos na Recomendação da Unesco.


Supervisão e determinação humanas


O que quer dizer? Sistemas de IA precisam passar por supervisão humana, mas não apenas à supervisão humana individual, mas também à supervisão pública inclusiva.


A regra geral é que as decisões de vida e morte jamais sejam cedidas aos sistemas de IA.


Transparência e explicabilidade


As pessoas devem ser completamente informadas quando uma decisão for tomada com base em algoritmos de IA e devem ter a oportunidade de solicitar informações explicativas do ator da IA ou instituições do setor. Além disso, os indivíduos devem ter acesso aos motivos de uma decisão que afete seus direitos e liberdades e ter a opção de fazer observações a um humano designado (do setor privado ou instituição pública) capaz de rever e corrigir a decisão.


Responsabilidade e prestação de contas


Ligados aos princípios acima, dizem respeito à apropriação das responsabilidades éticas e legais, de acordo com a legislação nacional e internacional e com os mecanismos de supervisão, avaliação de impacto, auditoria e devida diligência, incluindo proteção de denunciantes, que devem ser desenvolvidos para garantir a responsabilidade pelos sistemas de IA e seu impacto ao longo de seu ciclo de vida.


Projetos técnicos e institucionais – sejam públicos ou privados - devem garantir a conferência e o funcionamento dos sistemas de IA, em particular para lidar com os conflitos com normas e padrões de direitos humanos e ameaças ao bem-estar ambiental e do ecossistema.


Conscientização e alfabetização do cidadão


A maioria da população não entende a IA. Esta tecnologia e o valor dos dados devem ser ensinados por meio de educação aberta e acessível, engajamento cívico, alfabetização digital e treinamento em ética de IA.


Educação e pesquisa


Aqui a prioridade é a alfabetização adequada em IA ao público em todos os níveis, capacitando as pessoas e reduzindo as desigualdades no acesso digital que surgiram com a adoção de sistemas de IA.


Além da educação em IA, como alfabetização básica, é preciso que existam maiores habilidades digitais, como a alfabetização midiática. A ética deve ser trabalhada e os Estados Membros da ONU devem promover programas de conscientização geral sobre os desenvolvimentos da IA, inclusive sobre as oportunidades e desafios trazidos pelas novas tecnologias, o impacto dos sistemas nos direitos humanos e suas implicações, especialmente os direitos das crianças.


Esses programas devem ser acessíveis tanto para grupos técnicos quanto para grupos não técnicos, cada uma à sua maneira.


A capacitação de professores e alunos também é crucial; ambos os grupos precisam melhorar a sua experiência com a tecnologia, tendo em vista as consequências de seu uso.


Os sistemas de IA usados ​​na aprendizagem, de acordo com a Recomendação da Unesco, devem estar sujeitos a requisitos rígidos quando se trata de monitoramento, avaliação de habilidades ou previsão dos comportamentos dos alunos. A IA pode e deve apoiar o processo de aprendizagem, mas sem reduzir as habilidades cognitivas dos estudantes e sem extrair informações confidenciais.


Os Estados Membros devem desenvolver, de acordo com sua legislação, currículos de ética em IA para todos os níveis educacionais, incluindo cursos on-line e recursos digitais nos idiomas indígenas, levando em conta a diversidade e a acessibilidade de formatos para pessoas com deficiência.


A pesquisa em IA, incluindo a pesquisa ética, deve receber investimentos públicos. Os Estados Membros também devem encorajar as pesquisas realizadas no setor privado, que deve facilitar o acesso da comunidade científica aos seus dados para estudos.


Ainda sobre pesquisas, recomenda-se que se promovam pesquisas interdisciplinares, incluindo à IA disciplinas como Engenharia e Matemática, Estudos Culturais, Educação, Ética, Relações Internacionais, Direito, Linguística, Filosofia, Ciência Política, Sociologia e Psicologia.


Monitoramento e avaliação


Os Estados-Membros devem monitorar e avaliar com credibilidade e transparência as políticas, programas e mecanismos relacionados com a ética da IA. A Unesco sugere apoiar os Estados Membros com algumas medidas práticas, dentre elas o desenvolvimento de uma metodologia para avaliar o impacto ético de tecnologias de IA e a coleta e divulgação de progresso, inovações, relatórios de pesquisa, publicações científicas, dados e estatísticas sobre políticas de ética em IA, inclusive por meio de iniciativas existentes.


O monitoramento e a avaliação do impacto dos sistemas de IA e as políticas e práticas de ética relacionadas devem ser realizadas continuamente e de forma sistemática proporcional aos riscos relevantes.


Estas são, em resumo, as orientações gerais que a Unesco apresentou aos Estados-Membros sobre ética e IA. A organização finaliza recomendando que Estados-Membros e partes interessadas respeitem, promovam e protejam os valores, princípios e padrões éticos previstos e tomem todas as medidas viáveis ​​para a eles dar cumprimento.


Acesse o texto Recommendation on the Ethics of Artificial Intelligence e o leia na íntegra.


Gostou deste texto? Faça parte de nossa lista de e-mail para receber regularmente materiais como este. Fazendo seu cadastro você também pode receber notícias sobre nossos cursos, que oferecem informações atualizadas e metodologias adaptadas aos participantes.


Temos cursos regulares já consagrados e modelamos cursos in company sobre temas gerais ou específicos relacionados ao Direito da Educação Superior. Conheça nossas opções e participe de nossos eventos.

135 visualizações

Comments


bottom of page