Em 12 de abril deste ano o Ministério da Justiça e Segurança Pública (MJSP) editou a portaria n. 351/2023, que estabelece diretrizes para a responsabilização das plataformas digitais em casos de veiculação de conteúdos que incentivem ataques ou façam apologia à violência nas escolas. A regra determina a instauração de processo administrativo na Senacon para verificar a responsabilidade das empresas em relação ao "dever geral de segurança e de cuidado em relação à propagação de conteúdos ilícitos, danosos e nocivos".
Além da previsão do processo administrativo, determina que as plataformas têm o dever de avaliar e tomar medidas para diminuir riscos sistêmicos, adotar ferramentas para evitar a disseminação de novas ameaças, políticas de moderação ativa de conteúdo, assim como prestar informações sobre regras de seus sistemas algoritmos de recomendação.
Justificativa
A ideia da normativa é que as medidas administrativas a serem adotadas no âmbito do Ministério da Justiça e Segurança Pública consigam prevenir a disseminação de conteúdos flagrantemente ilícitos, prejudiciais ou danosos por plataformas de redes sociais.
Considera-se, sobretudo, que o art. 220 da Constituição da República garante a liberdade de expressão e manifestação do pensamento, desde que – todavia - respeitados os preceitos constitucionais, aí incluída a proteção dos direitos fundamentais previstos nos artigos 5º e 227 da Constituição que trazem a prioridade absoluta ao atendimento dos direitos das crianças e dos adolescentes, a exemplo do direito à vida e à saúde.
Considera-se também que a circulação de conteúdos ilegais, nocivos e danosos nas plataformas de redes sociais referentes a extremismo violento incentivam ataques a ambiente escolar ou fazem apologia e incitação a esses crimes ou a seus perpetradores.
Ainda, que as plataformas de redes sociais não são simples exibidoras de conteúdos postados por terceiros, mas mediadoras dos conteúdos exibidos para cada um dos seus usuários, definindo o que será exibido, o que pode ser moderado, o alcance das publicações, a recomendação de conteúdos e contas, não sendo, portanto, agentes neutros em relação aos conteúdos que nela transita.
Mais a mais, de acordo com a normativa federal, a interferência no fluxo informacional é um dos motes do modelo de negócios das plataformas de redes sociais e também a fonte de seus lucros, e que esse modelo de negócios gera externalidades negativas para toda a sociedade, incluindo riscos sistêmicos.
Outra consideração preliminar da Portaria é a de que a atividade de intermediação de conteúdo desenvolvida pelas plataformas de redes sociais as caracteriza como fornecedoras de serviços, nos termos do art. 3º do CDC, lei que prevê, como direito básico do consumidor, a proteção da vida, saúde e segurança contra os riscos provocados por práticas no fornecimento de serviços considerados perigosos ou nocivos.
Ainda com base no CDC, dois artigos se aplicariam à situação imposta pelas plataformas de redes sociais aos seus usuários: o art. 14, § 1º caracteriza o serviço como defeituoso quando não fornece segurança dentro da expectativa razoável do consumidor e o art. 51 elenca como cláusulas abusivas, nulas de pleno direito, as que impossibilitem, exonerem ou atenuem a responsabilidade do fornecedor por vícios de qualquer natureza, as que estabeleçam obrigações iníquas, as que coloquem o consumidor em desvantagem exagerada ou sejam incompatíveis com a boa-fé ou com a equidade.
Finalmente, a norma considera o dever geral de cuidado derivado do Código Civil, corolário da boa-fé objetiva, que corresponde a dever indisponível e envolve a conduta ativa das contrapartes de uma relação obrigacional para evitar que dela se originem danos aos contratantes, incluindo contratos de adesão.
Portaria nº 351/2023
Como mencionado, a Portaria dispõe sobre medidas administrativas que deverão ser adotadas no âmbito do Ministério da Justiça como meio de prevenção à disseminação de conteúdos flagrantemente ilícitos, prejudiciais ou danosos por plataformas de redes sociais.
A previsão é que a Secretaria Nacional do Consumidor - SENACON - dentro de suas atribuições, definidas pelo CDC e pelo art. 3º do Decreto nº 2.181/97, seja a responsável por instaurar processo administrativo para apuração e responsabilização das plataformas de rede social pelo eventual descumprimento do dever geral de segurança e de cuidado em relação à propagação de conteúdos ilícitos, danosos e nocivos, referentes a conteúdos que incentivem ataques contra ambiente escolar ou façam apologia e incitação a esses crimes ou a seus perpetradores.
A Secretaria será incumbida de requisitar às plataformas de redes sociais relatório sobre as medidas tomadas para fins de monitoramento, limitação e restrição destes conteúdos, bem como sobre:
as medidas proativas tomadas para limitar a propagação desses conteúdos;
o atendimento das requisições pelas autoridades competentes;
o desenvolvimento de protocolos para situações de crise; e
outras medidas cabíveis.
Riscos
A SENACON, sempre no âmbito de processo administrativo, deverá requisitar que as plataformas de redes sociais avaliem e tomem medidas de redução aos riscos sistêmicos decorrentes do funcionamento dos seus serviços e sistemas relacionados, incluindo os sistemas algorítmicos, avaliação que deverá considerar os efeitos negativos, reais ou previsíveis, da propagação de conteúdos ilícitos, nos termos da Portaria.
Importante o foco da normativa em considerar os potenciais riscos de acesso de crianças e adolescentes a conteúdos inapropriados para idade, além de conteúdos ilegais, nocivos e danosos, assim como riscos de propagação e viralização de conteúdos e perfis que exibam extremismo violento, incentivem ataques a ambiente escolar ou façam apologia e incitação a esses crimes ou a seus perpetradores.
A Secretaria Nacional do Consumidor também será responsável por requisitar às plataformas de redes sociais relatório que considere como os seguintes fatores influenciam os riscos sistêmicos já referidos:
a concepção dos seus sistemas de recomendação e de qualquer outro sistema algorítmico pertinente;
seus sistemas de moderação de conteúdos;
os termos e políticas de uso aplicáveis e a sua aplicação consistente; e
a influência da manipulação maliciosa e intencional no serviço, incluindo a utilização inautêntica ou da exploração automatizada do serviço, bem como a amplificação e difusão potencialmente rápida e alargada de conteúdos ilegais e de informações incompatíveis com os seus termos e políticas de uso.
Infelizmente, não há maiores detalhes de como serão produzidos estes relatórios mencionados, o que entendemos ser uma lacuna a ser suprida na norma.
Operação Escola Segura
Para garantir a efetividade da Operação Escola Segura, a Secretaria Nacional de Segurança Pública - SENASP - coordenará entre as plataformas de redes sociais e as autoridades competentes o compartilhamento de dados que permitam a identificação do usuário ou do terminal da conexão com a Internet daquele que disponibilizou o conteúdo, nos termos do art. 10, § 3º, do Marco Civil da Internet, da Lei das organizações criminosas, e da Lei nº 12.830/13, que dispõe sobre a investigação criminal conduzida pelo delegado de polícia.
A SENASP também deverá orientar as plataformas que impeçam a criação de novos perfis a partir dos endereços de protocolo de Internet (endereço IP) em que já foram detectadas atividades ilegais, danosas e perigosas referentes a conteúdos de extremismo violento que incentivem ataques ao ambiente escolar ou façam apologia e incitação a esses crimes ou a seus perpetradores, no período da operação de investigação.
Uma curiosidade é a determinação de que a SENASP crie um banco de dados de conteúdos ilegais para fins de compartilhamento entre as plataformas de redes sociais, com o objetivo de facilitar a identificação pelos sistemas automatizados. Este banco de dados poderá conter imagens, links e outros conteúdos ilegais aos quais poderá ser atribuído hash exclusivo, entre outros recursos que os identifiquem e auxiliem na limitação da circulação de postagens nas plataformas de redes sociais.
O hash exclusivo, para fins de informação, é o que identifica unicamente cada conteúdo. Uma mesma imagem de violência, por exemplo, terá um hash único, que será monitorada nas diferentes plataformas.
Na ocorrência de circunstâncias extraordinárias que conduzam a uma grave ameaça à segurança pública objetivamente demonstrada, o Ministério da Justiça poderá determinar a adoção de protocolos de crise, a serem observados pelas plataformas de redes sociais com medidas proporcionais e razoáveis. Nestas ocasiões, as plataformas de redes sociais deverão indicar o representante responsável pela comunicação direta, inclusive por via eletrônica, com as autoridades policiais e judiciárias da União, dos Estados e do Distrito Federal, apto a tomar decisões para mitigar a situação de crise.
Caso as plataformas de redes sociais não cumpram as obrigações previstas nesta Portaria, as responsabilidades serão apuradas no âmbito administrativo ou judicial, de acordo com as atribuições dos órgãos competentes.
A Portaria não descreve prazos de ação para as plataformas ou qualquer valor de multa a ser aplicado. Porém, quando do anúncio da medida, o ministro da justiça afirmou que a Senacon poderia adotar o pedido de remoção de conteúdos em até duas horas, utilizando parâmetros do Tribunal Superior Eleitoral. Quanto à multa, afirmou que poderia chegar a R$ 12 milhões.
Segurança Digital
Enfim, a Portaria evidencia que as plataformas de redes sociais não são apenas exibidoras de conteúdo, mas também mediadoras dos conteúdos exibidos, o que as torna fornecedoras de serviços nos termos do Código de Defesa do Consumidor.
É realizada, então, uma interpretação sistemática dos artigos 19 e 21 do Marco Civil com a Constituição Federal, o ECA, o CDC, o Código Civil e os princípios gerais de direito, resultando na conclusão de que as plataformas de redes sociais devem ser responsáveis e obrigadas a prevenir a disseminação de conteúdos ilícitos, prejudiciais ou danosos, em relação aos quais se espera que sejam adotadas medidas de cuidado razoáveis.
Vamos aguardar e observar em quais situações e circunstâncias a Portaria será colocada em prática, certos que, de qualquer forma, agilizará eventual processo judiciário que se inicie em caso de divulgação de violência em redes sociais.
Ameaças de ataques a escolas podem ser comunicadas a um canal criado pelo Ministério da Justiça e Segurança Pública, em parceria com SaferNet Brasil. As denúncias realizadas ao Escola Segura não precisam de identificação e são mantidas sob sigilo.
Gostou deste texto? Faça parte de nossa lista de e-mail para receber regularmente materiais como este. Fazendo seu cadastro você também pode receber notícias sobre nossos cursos, que oferecem informações atualizadas e metodologias adaptadas aos participantes.
Temos cursos regulares já consagrados e modelamos cursos in company sobre temas gerais ou específicos relacionados ao Direito da Educação Superior. Conheça nossas opções e participe de nossos eventos.