No último dia 03 de outubro, a Autoridade Nacional de Proteção de Dados abriu consulta à sociedade para receber contribuições para um sandbox regulatório sobre inteligência artificial e proteção de dados no Brasil.
O trabalho foi realizado de acordo com a experiência que o CAF-Banco de Desenvolvimento da América Latina e do Caribe criou para o desenvolvimento de sandboxes regulatórios na região; a consulta esmiúça a justificativa do projeto, suas principais características e como a ANPD entende que deve ocorrer a concepção do projeto.
O tema é complexo e a consulta é uma ferramenta para obter elementos para a regulação sobre o tema, aumentar a transparência e o fomento da inovação responsável em IA, coletando perspectivas de diferentes setores interessados que poderão ser afetados.
O que é um sandbox regulatório
Para entender o que é sandbox regulatório precisamos entender o que é, primeiramente, um sandbox.
Este conceito faz parte do desenvolvimento de software. Um sandbox é um espaço de testes. É um espaço para que sejam colocados aplicativos e observar se há algum erro em curso. Também é espaço – seja na nuvem, em um celular ou computador - para experimentação, contemplando tudo o que se relaciona ao software.
O nome “sandbox” vem da ideia das praças infantis, em cujas caixas de areia as crianças podem brincar e experimentar a vontade, sem riscos de se machucar ao cair, pois o lugar é controlado e preparado para tal.
O que fica “sandboxed” fica isolado. Então pode ser testado ou corrigido sem prejudicar outra coisa. Se tudo cer certo – e for um software, por exemplo - dá-se início à produção.
No caso do sandbox regulatório, estamos diante de uma experimentação colaborativa entre o regulador, a entidade regulada e outras partes interessadas. O objetivo é o de testar inovações em uma estrutura regulatória, adotando uma metodologia organizada.
“Ao permitir que as autoridades analisem a interação das inovações tecnológicas com as regulamentações existentes, ajudam a identificar a necessidade de abordar as regulamentações de maneira diferente para promover a inovação enquanto protegem os direitos fundamentais. Também fornecem um ambiente controlado para testes em pequena escala, em um contexto colaborativo, de confiança entre agentes regulados e reguladores. Eles são particularmente aplicáveis em contextos em que tecnologias emergentes têm potencial disruptivo e existem incertezas quanto à conformidade com leis e regulamentos aplicáveis.
Assim, podem suspender temporariamente certas disposições ou requisitos obrigatórios para os participantes, permitindo-lhes experimentar sem o risco de sanções imediatas. No entanto, vale ressaltar que a suspensão de disposições legais nem sempre é necessária. Portanto, não têm como objetivo eliminar a regulamentação, mas sim facilitar um envolvimento regulatório progressivo com menos ações de fiscalização, menos restrições, e com a orientação contínua das autoridades”. (Trecho do material apresentado pela ANPD)
Contextualização
Regulamentar a IA é um desafio para todo o mundo. Na União Europeia, a proposta do AI Act propõe regras para a regulação de sistemas de IA seguindo uma abordagem focada na classificação baseada em risco dos sistemas. No Brasil o movimento é semelhante.
A ANPD já publicou nota técnica em que analisa as convergências entre este Projeto de Lei e a LGPD e os respectivos pontos de atenção; já escrevemos a respeito, inclusive.
Leia:
Foi o Marco Legal das Startups que permitiu que as autoridades reguladoras brasileiras desenvolvessem ambientes de regulamentação experimental (sandboxes regulatórios) e, se necessário, afastassem a incidência de algumas normas durante a experimentação. A Lei de Introdução às Normas do Direito Brasileiro (LINDB) também autoriza a qualquer órgão administrativo, o que inclui a ANPD, a conduzir seu sandbox com uma abordagem regulatória flexível e adaptável, fomentando a inovação ao mesmo tempo em que garante a conformidade com os requisitos de regulação em campos de ponta como o da IA.
Para a ANPD, o sandbox de IA reforça seu papel na inovação e na regulamentação da proteção de dados dentro dos sistemas de IA, mesmo porque as tecnologias de IA muitas vezes dependem de grandes quantidades de dados pessoais. Participando do programa piloto, a ANPD pode monitorar de perto o uso dos dados, suas salvaguardas e a hipótese legal utilizada por esses sistemas, protegendo assim os direitos dos titulares.
Além disso, a ANPD reforça seu papel como possível autoridade central para a regulamentação da IA no Brasil.
Tecnologia a ser testada
A ANPD pretende incluir no projeto tecnologias impulsionadas por aprendizado de máquina, incluindo as relacionadas à IA generativa. Estas tecnologias possuem riscos potenciais que precisam ser bem conhecidos, debatidos e combatidos.
No caso da IA generativa, por exemplo, frequentemente depende de modelos de aprendizado profundo e de redes neurais. No entanto, segundo o material fornecido pela ANPD, de acordo com o relatório “Ghost in the Machine”, do Conselho do Consumidor da Noruega, se não for devidamente gerenciada, a IA generativa pode levantar preocupações quanto ao uso indevido de dados pessoais.
Ela pode coletar dados para treinar seus modelos sem uma base legal adequada e pode criar informações falsas sobre uma pessoa ou grupo de pessoas (o que é conhecido como “alucinação”). Ela pode, se usada incorretamente, manipular o comportamento das pessoas, incluindo discriminação contra indivíduos ou grupos vulneráveis.
O Brasil, no caso, está entre os mercados de crescimento mais rápido no uso de IA generativa e é bem possível que, em vários desses usos, dados pessoais de usuários ou terceiros possam ser compartilhados com o aplicativo, embora não esteja claro como sejam tratados nem se são eventualmente eliminados.
Objetivos
Os objetivos da ANPD em realizar o sandbox regulatório são:
Tornar o funcionamento interno dos paradigmas de Machine Learning, incluindo IA generativa e sistemas de IA, e seus processos de tomada de decisão compreensíveis e explicáveis, identificando potenciais vieses ou práticas discriminatórias;
Fomentar a inovação responsável em IA, como a privacidade desde a concepção, o que inclui garantir práticas adequadas de manuseio de dados e salvaguarda dos direitos dos indivíduos;
Estabelecer um ambiente multissetorial para criar um espaço para discussões sobre princípios éticos e legais relacionados à pesquisa, desenvolvimento e inovação da IA; e
Auxiliar no desenvolvimento de parâmetros para intervenção humana em processos de tomada de decisão automatizados, evitando uma concentração indevida de poder nas tecnologias de IA.
Benefícios da experimentação
A experimentação em sandbox apresenta um ambiente controlado para explorar as implicações práticas da transparência algorítmica em sistemas de IA. Pela testagem das inovações desenvolvidas ou operadas pelos participantes do sandbox, pesquisadores, desenvolvedores, empreendedores, sociedade civil e autoridades reguladoras (como a própria ANPD) podem conhecer o impacto da transparência algorítmica na inovação, na proteção de dados e no direitos dos indivíduos.
O programa também permite que a inovação floresça ao entregar um espaço em que os desenvolvedores possam experimentar novas tecnologias de IA. Isto é crucial, afinal as organizações precisam cumprir os requisitos regulatórios e garantir a privacidade e a proteção de dados. Mas também precisam de certa margem para explorar e inovar com sistemas de IA.
E o ambiente de sandbox permite a experimentação sob supervisão.
Em conclusão, segundo a ANPD, ao experimentar a transparência algorítmica em seu sandbox, as partes interessadas poderão desenvolver sistemas de IA que priorizem a justiça, a proteção de dados e os direitos dos indivíduos, contribuindo para o uso responsável e ético das tecnologias de IA.
Esta experimentação ainda vai gerar dados e conhecimentos proveitosos que poderão informar o desenvolvimento de políticas e estruturas regulatórias em torno da transparência algorítmica, que possuem o condão de moldar diretrizes e regras que equilibram adequadamente a inovação, a privacidade e a proteção de dados.
Acima de tudo, pelo que se percebe, elas permitem que os formuladores de políticas públicas e outras autoridades reguladoras tomem decisões informadas com base em evidências empíricas e construam leis que, embora apoiem o avanço tecnológico, protejam os direitos individuais e coletivos dos cidadãos.
Leia também
Curso de imersão | São Paulo | 25 de outubro de 2023 | 10 às 17 horas
A Jacobs Consultoria e Ensino tem o prazer de apresentar nosso mais recente curso sobre a graduação em medicina no Brasil, abordando especialmente o novo edital do Programa Mais Médicos e as ações judiciais referentes a protocolos de autorização em andamento.
No período da manhã serão apresentadas e debatidas questões relacionadas aos processos judiciais, inclusive no STF, aos processos administrativos no MEC e aos pareceres do Conselho Nacional de Educação (CNE). À tarde o tema será o novo edital do Programa Mais Médicos, suas consequências e as oportunidades que surgem com a volta dos chamamentos públicos.