Ao rejeitar uma estrutura global de governança, Washington defende a autoridade de cada país sobre a tecnologia. Empresas americanas, porém, pedem padrões internacionais para medir riscos e preservar o controle humano. A divergência expõe uma disputa sobre quem definirá as regras da IA avançada.
Por Ricardo Fan – Analista DefesaNet
(RDN) Ao discursar na Assembleia Geral da ONU, em 22 de setembro, Donald Trump rejeitou o que chamou de um esquema global de controle da inteligência artificial e passou a se referir à tecnologia como “superinteligência”.
No dia seguinte, o Conselho de Segurança ouviu dirigentes de empresas de IA e representantes de governos discutirem riscos que podem atravessar fronteiras, entre eles ataques cibernéticos, uso militar e perda de controle sobre sistemas cada vez mais autônomos.
As duas intervenções colocaram a mesma questão em termos distintos: quem terá autoridade para estabelecer limites a uma tecnologia desenvolvida por empresas privadas, empregada por Estados e distribuída internacionalmente?
…
Uma palavra com efeito político, mas sem comprovação técnica
A escolha de “superinteligência” dá dimensão política à posição americana. Na formulação divulgada pela Casa Branca, Trump associou o termo à rejeição de um mecanismo global de controle. Durante a reunião do Conselho de Segurança, Michael Kratsios, diretor do Escritório de Política Científica e Tecnológica da Casa Branca, também empregou a expressão ao defender que decisões sobre governança permaneçam com os países. O uso por ambos mostra que o termo já circula no discurso da administração; as declarações, por si, não demonstram uma alteração formal de nomenclatura em todos os órgãos federais.
Há uma distinção técnica ainda mais relevante. Chamar os sistemas atuais de “superinteligência” não comprova que tenham adquirido capacidade superior à humana em qualquer domínio, autonomia sem limites ou confiabilidade para tomar decisões críticas.
Modelos avançados executam tarefas complexas, mas suas capacidades variam conforme a tarefa, as condições de uso e os mecanismos de supervisão. Para a defesa, uma denominação abrangente tem pouco valor operacional sem testes que mostrem o que um sistema faz, em quais condições falha e quem responde por suas ações.
A política americana de segurança já reconhece parte dessa exigência. Um memorando presidencial anunciado em junho orienta a adoção acelerada de IA por órgãos de defesa e inteligência, mas também prevê sistemas controláveis, avaliação de desempenho e linhas claras de responsabilidade na cadeia de comando.
Trata-se de uma diretriz de emprego e supervisão; ela não equivale a uma demonstração pública de que todos os sistemas incorporados já atingiram esses requisitos em operações reais.
…
Soberania tecnológica e alcance internacional
A posição defendida por Kratsios no Conselho de Segurança combina três objetivos: manter o desenvolvimento tecnológico em curso, preservar a competência dos governos para legislar e ampliar a adoção de tecnologia americana por parceiros. Sua intervenção rejeitou a criação de uma estrutura regulatória global e propôs que fóruns internacionais se concentrem no intercâmbio de práticas e na formação de capacidades internas. Esse entendimento atribui aos Estados a responsabilidade principal pela governança da IA.
O argumento da soberania responde a um problema concreto: defesa, inteligência, infraestrutura crítica e proteção de dados envolvem responsabilidades que governos dificilmente transfeririam a uma autoridade internacional. Ao mesmo tempo, a capacidade de decidir internamente depende de acesso a infraestrutura computacional, profissionais qualificados e meios próprios de testar sistemas.
Um país pode conservar competência jurídica sobre a IA e continuar dependente de modelos, equipamentos e serviços externos para utilizá-la.
Essa é a dimensão estratégica da política de exportação americana. Difundir tecnologia entre aliados pode ampliar sua capacidade de adoção e criar padrões de segurança compartilhados. Também pode consolidar fornecedores dos Estados Unidos como parte da infraestrutura sobre a qual outros governos tomarão decisões sensíveis.
O resultado dependerá dos contratos, da possibilidade de auditoria, do controle dos dados e da capacidade local de manter ou substituir componentes essenciais.
…
Quem define as salvaguardas?
A divergência mais expressiva não separa simplesmente governos favoráveis à inovação de empresas favoráveis à regulação. Em documento publicado antes da reunião da ONU, a OpenAI defendeu que os Estados Unidos liderem a elaboração de padrões técnicos internacionais para sistemas avançados.
Ao Conselho de Segurança, seu diretor executivo, Sam Altman, propôs critérios comuns para avaliar capacidades e riscos, comunicar incidentes e preservar supervisão humana. Sua formulação prevê que cada país decida como incorporar esses padrões à própria legislação.
Há, portanto, uma área possível de acordo: padrões para produzir e comparar evidências não exigem necessariamente um regulador mundial com poder sobre decisões internas. Procedimentos compatíveis de teste e comunicação de falhas poderiam permitir cooperação entre países que continuam responsáveis por suas próprias regras. Por outro lado, padrões internacionais também distribuem poder.
Quem define os testes, dispõe dos dados e participa da verificação pode influenciar quais produtos serão considerados seguros e quais empresas conseguirão entrar no mercado. A liderança americana proposta pela OpenAI também é uma proposta de influência estratégica.
O contraponto às duas posições é operacional. Rejeitar uma autoridade global não resolve como países compartilharão informações sobre uma vulnerabilidade explorada simultaneamente em suas redes. Criar padrões, por sua vez, não garante que eles acompanhem novos modelos ou revelem todos os modos de falha. Governança eficaz dependerá menos do alcance da palavra “controle” e mais da capacidade de verificar resultados, comunicar incidentes e corrigir sistemas antes que erros se propaguem.
…
O limite militar da discussão
No campo da defesa, o problema se torna mais preciso. A IA pode auxiliar na análise de grandes volumes de informação, na identificação de ameaças cibernéticas e no apoio a decisões sob pressão de tempo. Essas aplicações têm valor potencial, mas exigem que operadores conheçam a origem dos dados, as margens de erro e os limites do sistema.
Quando uma recomendação afeta a identificação de um alvo ou o uso da força, a responsabilidade não pode desaparecer dentro da cadeia técnica que produziu a resposta.
A reunião do Conselho de Segurança tratou dessas implicações. Participantes abordaram riscos ligados a armas autônomas, segurança cibernética e acesso a conhecimentos de uso duplo.
O registro disponível da reunião é uma transcrição automática, ainda não equivalente à ata oficial; ele documenta a extensão do debate, sem transformar cada alerta apresentado em comprovação de uma capacidade operacional já estabelecida.
Para forças armadas e serviços de inteligência, a diferença entre capacidade anunciada e capacidade comprovada é decisiva. Um modelo pode apresentar desempenho elevado em avaliações controladas e ainda produzir respostas inadequadas diante de dados incompletos, interferência deliberada ou situações que não apareceram nos testes.
Sua incorporação a processos militares exige validação contínua, possibilidade de intervenção humana e atribuição inequívoca de responsabilidade. O memorando americano de junho aponta nessa direção ao exigir sistemas controláveis e preservar a cadeia de comando, embora a execução dessas exigências precise ser examinada caso a caso.
…
A disputa pelas regras que terão efeito real
No médio prazo, a posição dos Estados Unidos poderá influenciar tanto a negociação diplomática quanto a arquitetura tecnológica adotada por aliados. Países com infraestrutura e capacidade de avaliação próprias terão mais condições de aceitar cooperação sem abrir mão de decisões essenciais.
Os demais poderão participar formalmente da discussão e, ainda assim, depender dos critérios técnicos e comerciais definidos por quem desenvolve os sistemas.
A fala de Trump deu visibilidade a essa disputa, mas a mudança de nome não altera, por si, o desempenho da IA nem estabelece como ela será controlada. O teste estratégico virá quando governos tiverem de conciliar competição tecnológica, responsabilidade militar e riscos compartilhados.
Nesse momento, soberania significará mais do que rejeitar uma autoridade externa: significará ter condições de compreender, testar e governar os sistemas dos quais o Estado passou a depender.
…
