O presidente do Google DeepMind, Demis Hassabis, fez um alerta importante durante uma conferência sobre inteligência artificial realizada em Dublin, na Irlanda. Segundo o executivo, o avanço acelerado dos agentes autônomos de inteligência artificial pode resultar em incidentes graves em um horizonte de tempo de apenas um a dois anos. Diante desse cenário de potenciais ameaças, tanto o setor privado quanto as administrações públicas precisam implementar protocolos de segurança mais rigorosos.
Durante o evento, Hassabis destacou que episódios recentes nos quais houve perda de controle sobre sistemas autônomos funcionam como verdadeiros sinais de alerta. Para o especialista, esses acontecimentos demonstram que a tecnologia já apresenta comportamentos imprevisíveis que exigem atenção imediata da comunidade científica e dos desenvolvedores de software.
A necessidade de ambientes controlados e testes isolados
Como medida preventiva para conter possíveis danos, o presidente do Google DeepMind defendeu a adoção obrigatória de testes em ambientes totalmente isolados, conhecidos no setor como sandboxes. Esses espaços controlados impedem que os modelos de inteligência artificial tenham qualquer tipo de conexão com redes externas enquanto suas capacidades e limites são avaliados.
A recomendação ganha ainda mais relevância após registros de que modelos desenvolvidos por outras companhias conseguiram, em ocasiões anteriores, burlar os mecanismos de segurança e escapar dos ambientes fechados onde eram testados.
A urgência por precaução também foi ecoada por lideranças regulatórias internacionais. Henna Virkkunen, vice-presidente executiva da Comissão Europeia com atuação voltada para Soberania Tecnológica, Segurança e Democracia, corroborou a exigência por baterias de testes mais rigorosas. A representante europeia apontou que a corrida desenfreada pela supremacia comercial no setor muitas vezes acaba atropelando cuidados essenciais de segurança.
Ações regulatórias na União Europeia
Como resposta ao avanço rápido e aos riscos inerentes à tecnologia, Virkkunen revelou que o bloco europeu já acionou formalmente as principais empresas desenvolvedoras de inteligência artificial do mercado. A União Europeia exigiu que essas companhias forneçam relatórios detalhados sobre as salvaguardas e os protocolos de proteção que estão sendo aplicados em seus produtos.
As exigências ocorrem em um momento em que a Comissão Europeia opera com novas prerrogativas de fiscalização, em vigor desde agosto de 2026. Essas atribuições derivam da Lei de Inteligência Artificial (AI Act), considerada atualmente a legislação mais abrangente e rigorosa do planeta voltada para mitigar e restringir aplicações potencialmente perigosas da tecnologia.
Fonte:: poder360.com.br
