top of page

Conselho Europeu aprova primeiro tratado sobre uso da inteligência artificial

A Comissão Europeia publicou uma proposta legislativa que estabeleceu as regras em matéria de inteligência artificial (Regulamento IA) em 24 de abril de 2021. A proposta continha a regulamentação adequada para que os sistemas de IA colocados no mercado da União Europeia fossem seguros em sua utilização e respeitassem seus valores e direitos fundamentais.


A proposta também facilitava o desenvolvimento de um mercado único para aplicações de IA legais, seguras e confiáveis, reforçando a gestão da matéria e a aplicação efetiva da legislação em vigor no que toca os direitos fundamentais e os requisitos de segurança aplicáveis aos sistemas de IA. A garantia da segurança jurídica para facilitar o investimento e a inovação em IA também foram observadas.


Agora, no dia 17 de maio, o Conselho da Europa, em Estrasburgo, aprovou esta proposta, que se tornou o primeiro tratado internacional sobre o uso da inteligência artificial. O princípio fundamental é garantir que a tecnologia seja utilizada sem comprometer os direitos humanos, a lei e a democracia.


Várias comissões do Conselho Europeu trabalharam no projeto, dentre elas a Comissão de Cultura e Educação. O relator do projeto, por exemplo, acolheu proposta desta Comissão e sugeriu algumas alterações, destinadas principalmente a alargar a lista de aplicações de IA de risco elevado nos domínios da educação, dos meios de comunicação social e da cultura. Ele também solicitou que fossem alteradas determinadas disposições relacionadas a práticas proibidas relacionadas aos temas.

 

Tratado vinculante

 

O tratado, que foi aprovado  durante a reunião anual do Comité de Ministros do Conselho da Europa, e que reúne os ministros dos Negócios Estrangeiros dos vários Estados Membros, tem natureza vinculante, isto é, ele se torna obrigatório e não pode ser alterado ou anulado por nenhuma das partes envolvidas.


Ele assume força de lei e é considerado um compromisso irrevogável. Contudo, cada país aderente estabelece posteriormente um mecanismo independente de supervisão da norma para garantir seu cumprimento, fazer a conscientização social e estimular o debate público, de acordo com a respectiva legislação nacional.


Lembrando que são 27 países compondo a União Europeia e muitas outras nações candidatas que desejam aderir à comunidade.


Inteligência Artificial


É interessante ver a definição de IA constante do Tratado. Ela é designada como “uma família de tecnologias em rápida evolução, capaz de oferecer, e que já oferece mesmo, um vasto conjunto de benefícios econômicos, ambientais e sociais a todo o leque de indústrias e atividades sociais, se desenvolvida de acordo com princípios gerais pertinentes em conformidade com a Carta e com os valores em que a União se alicerça.”


O documento salienta que, ao melhorar as previsões, otimizar as operações e a repartição de recursos e personalizar as soluções digitais disponibilizadas às pessoas e às organizações, o uso da IA  pode conferir importantes vantagens competitivas às empresas e contribuir para progressos sociais e ambientais.


São mencionados usos nos cuidados de saúde, na agricultura, na segurança alimentar, na educação e na formação, nos meios de comunicação social, no desporto, na cultura, na gestão das infraestruturas, na energia, nos transportes e logística, na gestão de crises, nos serviços públicos, na segurança, na justiça, na eficiência energética e dos recursos, na monitorização ambiental, na preservação e recuperação da biodiversidade e dos ecossistemas e na atenuação das alterações climáticas e adaptação às mesmas.


Fato que, acima de tudo, a finalidade do regulamento europeu é promover a adoção de uma inteligência artificial confiável e centrada no ser humano, que possa assegurar um elevado nível de proteção da saúde, da segurança, dos direitos fundamentais, da democracia, do Estado de direito e do ambiente contra os efeitos nocivos dos seus próprios sistemas, apoiando simultaneamente a inovação e melhorando o funcionamento do mercado interno.


É, então, estabelecido um quadro jurídico uniforme para o desenvolvimento, a colocação no mercado, a entrada em serviço e a utilização de IA em conformidade com os valores da União Europeia, sem restrição de circulação transfronteiras de produtos e serviços baseados em IA.


Uma preocupação é que determinados sistemas de IA podem ter impacto na democracia, no Estado de direito e no ambiente. Elas  são especificamente abordadas nos setores críticos e enumeradas nos anexos do Tratado.


Instituições de ensino


Ao longo dos debates, a Comissão da Cultura e da Educação atuante no projeto realizou uma reflexão sobre o aumento da implantação de tecnologias de IA nos estabelecimentos de ensino e propôs que se  considerassem, entre as tecnologias de alto risco, também as tecnologias de IA utilizadas para monitorizar os estudantes durante os testes e as tecnologias usadas para determinar as áreas ou programas que eles devem estudar.


Normalmente, as tecnologias de alto risco para a sociedade são consideradas aquelas que afetam crianças e grupos vulneráveis, além das que reproduzem padrões de discriminação. 


Mas não só. Exemplificadamente, podem ser aquelas que digam respeito a:


  •  aplicação da lei que possa interferir com os direitos fundamentais das pessoas (avaliação da fiabilidade das provas, por exemplo);

  • gestão da migração, do asilo e do controle de fronteiras (por exemplo, análise automatizada dos pedidos de visto);

  • administração da justiça e processos democráticos (por exemplo, soluções de IA para procurar decisões judiciais); e

  • ensino ou formação profissional, que pode determinar o acesso à educação e ao curso profissional da vida de uma pessoa (por exemplo, pontuação nos exames).


No que diz respeito à comunicação social e à cultura, o relator da Comissão da Cultura e da Educação sugeriu a inclusão na listagem das tecnologias de IA de alto risco daquelas utilizadas para criar ou divulgar artigos noticiosos gerados por máquinas e utilizadas pelos meios de comunicação social, bem como de tecnologias de IA usadas para recomendar ou ordenar conteúdos audiovisuais.


Houve também o alargamento da proibição de implantação de sistemas de classificação dos cidadãos para utilização por entidades públicas e privadas, pois seria uma prática com risco de discriminação e exclusão de determinados grupos ou indivíduos.


Leia também



Outros riscos considerados no Tratado


Há um bom tempo, com mais ênfase nos últimos meses, a criação de um regramento para o uso da Inteligência Artificial tem fomentado pautas importantes no Judiciário e no Legislativo brasileiro e é de grande importância que exista um amplo debate sobre o tema com a participação de diversos setores interessados.


Além dos debates no Congresso, entidades da sociedade civil têm se reunido com órgãos governamentais para auxiliar na discussão dos tópicos afins. Estas vozes defendem princípios relacionados à liberdade de informação e expressão, privacidade, dados pessoais, entre outros.


Nossos trabalhos estão avançados e podemos dizer que não estão – em absoluto – aquém dos realizados pela União Europeia. Em verdade já existe a observação das experiências internacionais e, com certeza, o Tratado europeu também vai nos inspirar.


E nele, por exemplo, consta o perigo que a implantação de sistemas de identificação biométrica à distância em locais acessíveis ao público representa para os direitos fundamentais dos cidadãos, a liberdade de reunião e o trabalho dos jornalistas de investigação, ativistas e representantes políticos. O uso da inteligência artificial no direito penal e a sua utilização pelas autoridades policiais e judiciárias em casos penais, da mesma maneira, deve ser regulado com máximo critério. 


Leia também



A expectativa, enfim, é que o tratado seja assinado no dia 05 de Setembro, em Vilnius, na Lituânia, na conferência de ministros da União Europeia.


Leia mais:





Gostou deste texto? Faça parte de nossa lista de e-mail para receber regularmente materiais como este. Fazendo seu cadastro você também pode receber notícias sobre nossos cursos, que oferecem informações atualizadas e metodologias adaptadas aos participantes.

 

Temos cursos regulares já consagrados e modelamos cursos in company sobre temas gerais ou específicos relacionados ao Direito da Educação Superior. Conheça nossas opções e participe de nossos eventos.


23 visualizações

Comments


bottom of page