A retirada da classificação de risco no Marco Legal da Inteligência Artificial representa um retrocesso significativo, um erro grave e uma ameaça ao uso da tecnologia no Brasil. Essa posição é defendida pela Coalizão Direitos na Rede, que divulgou um manifesto à imprensa. A entidade expressa sua profunda preocupação com a declaração do Deputado Federal Aguinaldo Ribeiro (PP-PB), relator do Projeto de Lei nº 2338/2023, que pretende remover do texto final a categorização dos sistemas de Inteligência Artificial (IA) de acordo com o nível de risco das ferramentas.
De acordo com a Coalizão, a lista de riscos a direitos é essencial para que o Projeto de Lei se constitua como um marco regulatório centrado na experiência humana e na abordagem de uma IA responsável, que possua um potencial efetivo de proteção aos direitos na era digital. “Sem a definição clara de quais tecnologias e usos devem ser previamente considerados de alto risco ou risco excessivo, a lei perderá sua eficácia normativa, abrindo espaço para interpretações divergentes e transferindo para disputas futuras o que deveria ser claramente estabelecido no marco legal”, destaca o documento.
A alteração proposta, que foi anunciada de forma unilateral e sem diálogo, representa um retrocesso significativo no texto e ignora o esforço que a Comissão Temporária Interna do Senado Federal sobre Inteligência Artificial no Brasil (CTIA) e a sociedade civil organizada têm feito para debater e criar mecanismos de controle democrático para o uso de tecnologias no país, afirma a Coalizão Direitos na Rede. “É crucial afirmar que existem tecnologias que apresentam riscos maiores que outras, e, para isso, é necessário listá-las. O que o relator propõe agora, após quase três anos de tramitação deste projeto de lei, resultará em uma legislação formal, mas sem aplicabilidade prática que consiga equilibrar a inovação tecnológica com a proteção dos direitos fundamentais”, completa a nota.
Segundo a entidade, o tema é particularmente sensível no que se refere à utilização de reconhecimento facial. Essa tecnologia, de alto impacto, afeta diretamente princípios da administração pública como legalidade, publicidade e eficiência, além de comprometer a proteção de dados pessoais (Lei nº 13.709/2018 – Lei Geral de Proteção de Dados – LGPD) e direitos fundamentais como privacidade, igualdade e liberdade de reunião. Sem uma governança apropriada, salvaguardas robustas, avaliações independentes e um amplo controle social, o uso do reconhecimento facial pode levar a discriminações, vigilância massiva e ineficiência nos gastos públicos. “A coleta massiva de dados biométricos da população em tempo real, essencial para o funcionamento dessa tecnologia, também abre oportunidades para a ingerência privada e estrangeira sobre os dados pessoais dos cidadãos brasileiros e sobre infraestruturas críticas, comprometendo nossa soberania e fragilizando nossa democracia”, alerta a Coalizão.
Diante da resistência das autoridades públicas e legisladores brasileiros em considerar a proibição expressa dessa tecnologia, que poderia ser justificada pelo seu caráter de sistema de IA de risco excessivo a direitos fundamentais, o mínimo necessário para garantir os direitos da população brasileira é assegurar que essas tecnologias estejam sujeitas aos critérios de governança de sistemas de IA de alto risco. O estabelecimento de uma lista de riscos na legislação é fundamental para definir um modelo de governança e obrigações específicas no desenvolvimento e implementação de tecnologias de IA que possam ocasionar decisões ou práticas que impliquem riscos a direitos fundamentais dos brasileiros.
O AI Act, marco legal que regula sistemas de IA na União Europeia, classifica várias tecnologias como integrantes do rol de sistemas de alto risco, incluindo: coleta biométrica em larga escala, tanto para identificação quanto classificação de pessoas; controle e gestão de infraestrutura crítica; acesso à educação e treinamento vocacional; recrutamento e seleção de vagas de emprego; monitoramento e decisões automatizadas no contexto das relações de trabalho; classificação de indivíduos por score de crédito; avaliação de risco relacionada a informações pessoais de saúde; alocação de benefícios em programas sociais; controle de fronteiras, migração e asilo; além de aplicações voltadas para segurança pública e processos eleitorais, entre outras.
A nota oficial da Coalização Direitos na Rede conclui destacando que “retirar o rol de riscos da Regulação de IA significa não ter um horizonte claro para as instâncias governamentais atuarem em relação aos sistemas, reduzindo a segurança jurídica e gerando potenciais danos nas relações internacionais do Brasil com outros mercados devido à falta de padrões mais definidos. Ademais, a alegação de que o rol congela o processo de inovação é falaciosa, uma vez que é exemplificativo e novos sistemas podem ser classificados a partir do trabalho do sistema de governança”.
Fonte:: convergenciadigital.com.br
