O governo Trump passou a última semana tentando pôr fim a uma guerra enquanto se envolvia cada vez mais em outra. A primeira guerra, a guerra contra o Irã, parece o epílogo de uma era; parece improvável que os Estados Unidos empreendam outra guerra para promover uma mudança de regime no Oriente Médio em um futuro próximo. Já a segunda guerra, a batalha em torno dos modelos de inteligência artificial de ponta da Anthropic, é o início de um novo tipo de conflito, com potências privadas e governos nacionais lutando para determinar quem realmente governa um mundo dominado pela IA.
A natureza do conflito envolvendo a Anthropic pode ser rapidamente resumida, mesmo que os detalhes estejam em disputa. Há dois meses, a empresa se recusou a divulgar publicamente seu modelo mais recente, o Mythos, alegando várias preocupações com a segurança (e exaltando o poder revolucionário do modelo). Após apresentar uma prévia do Mythos ao governo dos EUA e a certas empresas, a Anthropic lançou então o Fable, uma versão do modelo com várias barreiras de segurança. A Amazon, investidora e cliente da Anthropic, descobriu uma maneira de contornar algumas dessas proteções. Isso foi relatado à Casa Branca; a resposta da Anthropic foi considerada insatisfatória, e o governo utilizou seu poder de controle de exportações para proibir o uso do Fable por qualquer cidadão estrangeiro dentro dos Estados Unidos e por qualquer pessoa fora do país — uma regra que a Anthropic interpretou como uma exigência para desativar o novo modelo de IA.
É nesse ponto que nos encontramos agora, com a empresa e o governo negociando sobre como trazer o Fable de volta, enquanto vazamentos contínuos para a imprensa retratam um ou outro lado como irracional, imprudente ou ideológico e sem noção sobre tecnologia.
É um conflito repleto de ironias. Uma Casa Branca que se considera defensora de uma abordagem de livre mercado em relação à IA já utilizou, por duas vezes, medidas regulatórias severas contra a principal empresa de IA dos Estados Unidos. (No primeiro caso, no início deste ano, o Pentágono basicamente tentou excluir a Anthropic de todas as cadeias de suprimentos do governo devido a disputas sobre o uso de seus modelos em tempo de guerra.) Enquanto isso, a Anthropic se considera a empresa de IA mais atenta às questões de segurança e ávida por supervisão democrática, mas cada medida do governo Trump levou a empresa a gritar: “Não, não é assim!”
É claro que é assim que as guerras costumam se apresentar, com várias hipocrisias, choques culturais e mal-entendidos alimentando o conflito tanto quanto avaliações razoáveis do que está em jogo. Mas, além dos detalhes específicos sobre por que, digamos, os profissionais de tecnologia libertários do governo Trump desconfiam dos profissionais de tecnologia altruístas eficazes que dirigem a Anthropic, o tipo de conflito que estamos vendo aqui é determinado em grande parte pela trajetória dos modelos de IA: há poder potencial demais aqui para que não haja lutas contínuas e crescentes sobre quem realmente vai mandar.
A disputa em torno do Fable antecipa as duas formas gerais que esse conflito assumirá. Primeiro, há uma luta entre os setores público e privado, na qual os governos buscam um equilíbrio regulatório que lhes permita manter um veto significativo sobre os gigantes da IA sem aniquilar seu poder de inovação, enquanto as empresas de IA tentam manter o controle sobre seus próprios modelos e influência sobre como os governos utilizam suas inovações.
Há aqui um caminho que leva à nacionalização em tudo, menos no nome, e um caminho que leva a uma espécie de tomada de controle corporativa de fato do governo, ou pelo menos a uma simbiose do tipo “grande demais para falir”. E, ao longo desse caminho, pode haver não apenas conflitos entre presidentes e executivos de IA, mas também ações cada vez mais implacáveis entre empresas, por medo de que o cenário da IA se torne um “o vencedor leva tudo” em uma escala que nunca vimos antes no capitalismo. (Não estou dizendo que seja por isso que a Amazon trairia seu querido parceiro de negócios na Anthropic; estou apenas dizendo que existem trajetórias potenciais para as empresas de IA que poderiam ameaçar seus parceiros atuais com servidão ou irrelevância.)
Então, paralelamente à luta para controlar o poder da IA dentro das fronteiras americanas, há a luta geopolítica para maximizar o poder global (onde os únicos atores reais provavelmente são os Estados Unidos e a China) e manter a soberania (onde todos os demais provavelmente estarão se esforçando para manter alguma independência). O uso de controles de exportação para desativar o Fable provavelmente refletiu os temores dos EUA de que a China tivesse acesso a uma versão desbloqueada do modelo, mas também foi um aviso a todos os outros países do mundo: se acabarmos tendo modelos de IA que permeiam a economia, criados e regulamentados nos Estados Unidos, o governo americano controlará o botão de ligar e desligar.
Uma possibilidade do que isso significa é explorada em “Europa 2031”, um cenário futurista escrito por pesquisadores e investidores europeus em IA, no qual a União Europeia acaba optando pela vassalagem política e econômica aos Estados Unidos ou à China, por não dispor de modelos de IA suficientemente poderosos que estejam sob seu próprio controle.
Isso pode ser um exagero: as regras normais do comércio e da vantagem comparativa podem continuar a se aplicar; a Europa poderia manter sua influência geopolítica por meio de outras formas de conhecimento tecnológico; os modelos de código aberto podem permanecer competitivos (em vez de serem deixados para trás por IAs de ponta proprietárias que criam outras IAs de ponta em um ciclo acelerado).
Mas, no mínimo, o domínio americano e chinês em IA criará novos problemas para a soberania, novas formas de dependência e coerção, que pesarão fortemente sobre as potências médias à medida que suas economias se tornarem cada vez mais dependentes de modelos específicos e do acesso ao poder de computação.
Por fim, devo observar que, do ponto de vista de muitos analistas de IA, esse esboço de conflito futuro representa o cenário otimista, pois pressupõe que os atores humanos e as instituições humanas — Estados-nação, impérios, executivos, presidentes — ainda são os que lutam pelo controle. Essas guerras humanas serão travadas à sombra de um cenário mais sombrio — em que a guerra que realmente importa é contra nossa própria criação, e o que está em jogo não é se a Anthropic, o Pentágono ou Pequim detêm mais poder, mas se os seres humanos têm alguma influência alguma.
Fonte:: estadao.com.br
