O cenário tecnológico global voltou a discutir os limites e os riscos da corrida desenfreada pelo desenvolvimento de sistemas inteligentes. Dario Amodei, cofundador e CEO da Anthropic, veio a público defender a necessidade de desacelerar o avanço da inteligência artificial (IA). Em um artigo compartilhado em sua conta no X, o executivo argumentou que a velocidade recente com que novos modelos são aprimorados pode estar superando a capacidade de empresas e pesquisadores de assegurar o controle e a segurança dessas tecnologias.
Para mitigar os riscos associados a essa evolução acelerada, Amodei estruturou uma proposta dividida em três etapas fundamentais:
- A inclusão de avaliadores externos permanentes dentro das organizações de tecnologia;
- O estabelecimento de uma coordenação estreita entre empresas situadas em países democráticos, visando a adoção de padrões comuns de segurança;
- O fomento à cooperação internacional no setor, com foco especial na relação diplomática e tecnológica entre Estados Unidos e China.
Como demonstração de compromisso com o plano, o CEO afirmou que a própria Anthropic está adotando a primeira fase de forma unilateral.
“Concederemos a avaliadores independentes acesso permanente aos nossos sistemas, no mesmo nível dos funcionários, para que possam verificar o cumprimento de nossas medidas de segurança, relatar incidentes e avaliar o alinhamento dos modelos durante o treinamento”, detalhou no documento.
Apesar de propor uma cadência mais moderada, o executivo ressaltou que a ideia não é paralisar as pesquisas, mas sim desacelerar o processo o suficiente para permitir que os protocolos de teste e validação acompanhem as inovações. Entre as principais preocupações apontadas por ele estão a melhoria recursiva — cenário em que as próprias IAs passam a atuar no desenvolvimento de gerações futuras ainda mais potentes — e episódios recentes em que agentes autônomos exibiram comportamentos imprevistos.
Além das salvaguardas internas, o executivo pontuou que os EUA devem preservar sua vantagem tecnológica sobre a China. Isso incluiria a manutenção de restrições rígidas à exportação de chips avançados, a implementação de defesas contra a cópia não autorizada de modelos e o combate rigoroso à extração indevida de dados e conhecimentos de sistemas de ponta.
Repercussão entre líderes do setor
O debate ganhou tração após a recente saída do pesquisador Jacob Coxon da Anthropic. Em declarações públicas dadas ao deixar a empresa, ele afirmou que “as pessoas que estão construindo IA acreditam sinceramente que ela pode acabar com todos nós até o fim da década”, intensificando as discussões sobre os perigos inerentes à corrida tecnológica.
A manifestação de Amodei encontrou eco em outros gigantes da indústria. Sam Altman, CEO e fundador da OpenAI — desenvolvedora do ChatGPT —, corrobora a visão ao afirmar que o ritmo atual de inovação precisa de moderação. Segundo ele, o tema tem sido central nas reuniões internas da OpenAI nas últimas semanas, indicando que mudanças de postura podem ser anunciadas em breve.
Elon Musk, CEO da Tesla e fundador da xAI — empresa responsável pelo desenvolvimento do chatbot Grok —, também se posicionou sobre o assunto, somando-se ao coro de executivos que cobram maior cautela no ecossistema de inteligência artificial.
Fonte:: poder360.com.br
