A Advocacia-Geral da União (AGU) enviou nesta quarta-feira (1º de abril) uma notificação ao Google, solicitando a remoção de sites que utilizam inteligência artificial (IA) e deepfake para gerar imagens sexualizadas falsas de pessoas reais. A medida busca proteger os direitos humanos e prevenir a violência online contra mulheres, crianças e adolescentes.
A notificação foi encaminhada após uma solicitação da Secretaria de Comunicação Social da Presidência da República (Secom-PR), com base em um estudo intitulado “Desindexação de sites de ‘nudify’ pelo Google: proteção de direitos humanos e prevenção de violência online contra mulheres, crianças e adolescentes”, elaborado pela Fundação Getúlio Vargas do Rio de Janeiro (FGV-Rio).
De acordo com a AGU, a Procuradoria Nacional da União de Defesa da Democracia (PNDD) observou um aumento significativo na busca por termos como “nudify” e expressões relacionadas, especialmente desde o início de 2023. A pesquisa da FGV-Rio destaca que as principais vítimas da chamada “nudificação” sem consentimento são, em sua maioria, mulheres, crianças e adolescentes.
A PNDD propôs duas ações que o Google deve implementar em até cinco dias. A primeira delas é a desindexação dos sites de “nudificação”, com base em uma lista exemplificativa que inclui mais de 40 links encontrados no momento da notificação. A segunda medida pede a criação de filtros algorítmicos que impeçam a indexação futura de sites com conteúdo similar.
Atmosfera Misógina nas Redes Sociais
No comunicado, a AGU também menciona diversas pesquisas e relatórios, incluindo estudos realizados em outros países, que evidenciam o crescimento de uma atmosfera misógina nas redes sociais. Este fenômeno é especialmente agravado pelo uso de ferramentas de IA para gerar deepfakes de mulheres. Um relatório da Children’s Commissioner, uma organização pública independente vinculada ao Departamento de Educação da Inglaterra, expõe essa questão de forma detalhada e será publicado em 2025.
A AGU faz questão de ressaltar que não se pretende eximir de responsabilidade o autor direto do conteúdo ilícito ou o desenvolvedor da ferramenta utilizada para sua criação. Contudo, a AGU argumenta que a disponibilidade e a indexação dessas ferramentas e sites no Google facilitam o acesso a conteúdos ilícitos, posicionando-os no mesmo patamar de outros itens que são normalmente buscados e que são legais.
Esse movimento da AGU representa uma tentativa de abordar uma questão sensível e crescente na sociedade atual, onde a tecnologia pode ser utilizada de maneira prejudicial. A preocupação com a segurança e a privacidade das vítimas de nudificação digital reflete um compromisso com a proteção de direitos fundamentais em um mundo cada vez mais digitalizado.
Além disso, a AGU se compromete a monitorar a eficácia das medidas solicitadas e a reunir mais dados sobre o impacto da desinformação e da violência online, a fim de reforçar sua posição em futuras ações e lutas pela proteção dos direitos humanos no ambiente digital.
Fonte:: convergenciadigital.com.br
