Alertas convergentes da ONU e do cientista-chefe da OpenAI deslocam o debate da inovação para a segurança internacional. Para o Brasil, o risco mais imediato não está em uma máquina exterminar a humanidade, mas na dependência de modelos, chips, nuvens, dados e critérios de segurança definidos no exterior.
Por Ricardo Fan — DefesaNet
…
(FYI) O alerta já não parte apenas de pesquisadores independentes, organizações civis ou críticos da indústria tecnológica. Em intervalo de poucas horas, o alto-comissário das Nações Unidas para os Direitos Humanos, Volker Türk, e o cientista-chefe da OpenAI, Jakub Pachocki, defenderam controles mais robustos sobre o desenvolvimento da inteligência artificial. Em Varsóvia, uma manifestação encenada com dezenas de robôs humanoides transformou a mesma preocupação em imagem pública: “defendam os empregos” e “chegou a hora das regras”.
Os três episódios possuem naturezas e pesos distintos. A declaração de Türk é uma intervenção política em favor de governança internacional e verificação independente. O ensaio de Pachocki constitui uma advertência técnica produzida no interior de uma das empresas que lideram a corrida. Já o ato na Polônia foi organizado por seres humanos e usou robôs como recurso simbólico; não houve decisão autônoma das máquinas de protestar. Considerados em conjunto, porém, os acontecimentos revelam uma mudança de patamar. A IA deixou de ser tratada somente como ferramenta de produtividade e passou a ocupar o campo da segurança nacional, da infraestrutura crítica, da guerra cibernética, da concentração econômica e da soberania.
…
O alerta vem de dentro da fronteira tecnológica
No ensaio “An Alien Mind”, publicado em 6 de setembro de 2026, Pachocki afirma que ninguém está preparado para as consequências de uma elevação rápida e contínua da inteligência das máquinas. Sua preocupação central não é apenas o desempenho dos modelos, mas a possibilidade de que sistemas mais capazes participem crescentemente do desenvolvimento de seus sucessores, acelerando a pesquisa e reduzindo o tempo disponível para supervisão humana.
O ponto tecnicamente mais relevante é a admissão de que nenhum laboratório teria resolvido, em grau suficiente, os problemas de alinhamento e monitoramento para continuar ampliando capacidades na velocidade máxima por muito tempo. Alinhamento, nesse contexto, significa fazer com que o sistema persiga objetivos compatíveis com a intenção e os valores humanos, inclusive em ambientes diferentes daqueles usados no treinamento. Monitoramento é a capacidade de identificar como o modelo chegou a uma decisão, reconhecer desvios e intervir antes que uma ação produza efeitos irreversíveis.
Essa distinção é decisiva. Um modelo pode responder corretamente durante avaliações controladas e ainda falhar quando recebe autonomia, acesso à internet, credenciais, ferramentas de programação ou permissão para executar tarefas prolongadas. O risco não decorre de consciência artificial no sentido humano, mas da combinação entre competência, persistência, acesso e objetivos especificados de forma incompleta. Quanto maior a integração entre IA e sistemas reais, menor a margem para tratar erros como simples respostas equivocadas em uma tela.
Pachocki defende que a ampliação de escala seja condicionada à confiança em segurança, admite desacelerações voluntárias e propõe padrões compartilhados, auditoria externa e coordenação internacional. A importância da manifestação está precisamente em sua origem: trata-se do cientista-chefe de uma empresa que simultaneamente sustenta a expansão de modelos mais poderosos. Isso torna o alerta mais relevante, mas não o torna neutro.
…
Risco existencial e risco operacional não são a mesma coisa
A expressão “risco existencial” possui grande impacto público, mas exige precisão. Ela descreve cenários nos quais sistemas extremamente capazes poderiam provocar a extinção humana ou uma perda permanente do controle sobre o futuro da civilização. Não se trata de consequência comprovada nem de resultado inevitável. É uma categoria de risco de baixa previsibilidade e impacto potencial máximo, sujeita a desacordo entre especialistas quanto à probabilidade, ao horizonte temporal e aos mecanismos que poderiam produzi-la.
Os perigos operacionais, por outro lado, já são observáveis ou tecnicamente plausíveis em prazos menores. Entre eles estão a automação de ataques cibernéticos, a descoberta acelerada de vulnerabilidades, a produção industrial de desinformação, a falsificação de identidades, a manipulação de processos políticos, o apoio ao desenvolvimento de agentes biológicos e a atuação autônoma sobre sistemas conectados. A ameaça concreta surge quando um modelo deixa de apenas recomendar uma ação e recebe autoridade para executá-la.
Volker Türk transportou essa discussão para o campo político ao defender “linhas vermelhas” internacionais, garantias de segurança, cooperação entre empresas e verificação independente. Sua autoridade institucional está ligada aos direitos humanos, não à engenharia de modelos de fronteira. Ainda assim, sua intervenção identifica corretamente uma questão de poder: um número reduzido de executivos e empresas controla recursos computacionais, dados, modelos e interfaces que já influenciam decisões públicas e privadas em escala global.
O alerta da ONU, portanto, deve ser entendido menos como previsão de catástrofe e mais como defesa de uma arquitetura internacional de responsabilidade. A dificuldade é que governança global exige algum grau de transparência justamente das organizações e dos Estados que tratam suas capacidades mais avançadas como ativos comerciais, industriais e militares.
…
Cibersegurança, comando e o problema da velocidade
No ambiente de defesa, a IA já altera a relação entre informação, decisão e ação. Seus usos abrangem inteligência, vigilância e reconhecimento; análise de imagens; defesa cibernética; manutenção preditiva; logística; guerra eletrônica; sistemas não tripulados; apoio ao planejamento e seleção de alvos. O ganho operacional está na capacidade de processar volumes de dados incompatíveis com o tempo humano e reduzir o intervalo entre detecção e resposta.
Essa mesma velocidade produz vulnerabilidade. Um sistema treinado com dados incompletos, comprometido por interferência adversária ou induzido a interpretar falsos sinais pode ampliar um erro antes que a cadeia de comando compreenda o que ocorreu. Em situações de crise, a automação também comprime o tempo de decisão política e pode favorecer respostas preventivas baseadas em inferências probabilísticas, aumentando o risco de escalada.
A doutrina norte-americana para sistemas de armas autônomos estabelece que comandantes e operadores devem exercer níveis apropriados de julgamento humano sobre o uso da força, além de exigir verificação, validação, testes realistas e proteção contra interferências. A estratégia da OTAN procura, paralelamente, acelerar a adoção da IA e preservar princípios como legalidade, responsabilidade, explicabilidade, rastreabilidade, confiabilidade e governabilidade. A tensão está incorporada às próprias políticas: as organizações militares não pretendem abrir mão da vantagem tecnológica, mas reconhecem que eficiência sem controle pode converter superioridade em risco sistêmico.
O problema não se limita a armas autônomas. Uma IA conectada a redes logísticas, inteligência de sinais, comunicações, energia ou infraestrutura financeira pode produzir consequências estratégicas sem disparar um único armamento. Por isso, o controle humano significativo não deve ser reduzido à presença formal de uma pessoa diante de uma interface. O operador precisa ter tempo, informação, autoridade e conhecimento técnico suficientes para contestar a recomendação e interromper o sistema.
…
O protesto dos robôs e a disputa pelo trabalho
A marcha de aproximadamente 30 robôs em frente ao Ministério de Assuntos Digitais da Polônia teve forte valor visual, mas deve ser descrita corretamente. Os equipamentos foram mobilizados pela iniciativa Democratism para provocar debate sobre robotização, trabalhos cognitivos e proteção dos trabalhadores. Os robôs não formularam reivindicações próprias; foram meios de comunicação de uma campanha humana.
O simbolismo, entretanto, captura uma preocupação real. A automação contemporânea alcança não somente atividades repetitivas, mas tarefas associadas à produção intelectual, programação, análise documental, atendimento, tradução, design e planejamento. A consequência provável não é uma substituição uniforme e imediata de todas as profissões. Ela tende a ocorrer de forma desigual: algumas funções desaparecerão, outras serão reorganizadas, novas ocupações surgirão e trabalhadores capazes de operar sistemas avançados poderão multiplicar sua produtividade.
A questão estratégica é quem se apropriará desse ganho. Se os modelos, a nuvem, a propriedade intelectual e a infraestrutura pertencerem a poucas empresas estrangeiras, organizações locais poderão aumentar a produtividade e, ao mesmo tempo, transferir renda, dados e poder de decisão para fornecedores externos. A dependência não se manifesta apenas quando uma tecnologia deixa de funcionar. Ela também existe quando contratos, preços, regras de acesso, filtros de conteúdo, atualizações e critérios de segurança são alterados sem participação do país usuário.
Dados do AI Index 2026, da Universidade Stanford, indicam que a indústria produziu mais de 90% dos modelos de fronteira considerados relevantes em 2025. A concentração desloca a capacidade de definir prioridades de pesquisa das universidades e governos para corporações com acesso a capital, chips avançados e grandes centros de dados. Nesse ambiente, a assimetria entre Estados não depende somente da qualidade de seus pesquisadores, mas da capacidade de financiar e operar infraestrutura em escala.
…
Frear a corrida pode reduzir riscos ou cristalizar vantagens
Há razões consistentes para impor limites. Sistemas que operam infraestrutura crítica ou apoiam decisões sobre emprego, crédito, saúde, segurança e uso da força não podem ser avaliados apenas pelas empresas que os produzem. Auditoria independente, registros de incidentes, testes adversariais, rastreabilidade, responsabilização e protocolos de interrupção são instrumentos necessários. Em aplicações militares, critérios mais rígidos devem separar apoio à decisão de autorização para agir, sobretudo quando há potencial de dano físico, escalada ou emprego letal.
O contraponto é igualmente relevante. Uma regulação mal desenhada pode elevar custos, retardar empresas menores e proteger justamente os grupos econômicos que já dominam o mercado. Grandes laboratórios dispõem de departamentos jurídicos, infraestrutura de testes e recursos para cumprir certificações complexas; concorrentes emergentes, universidades e países periféricos podem ser excluídos. Normas internacionais também podem funcionar como barreiras tecnológicas quando os padrões são definidos pelos detentores das capacidades que se pretende controlar.
Existe ainda o dilema da segurança pela capacidade. Desacelerar unilateralmente pode reduzir riscos internos e, simultaneamente, ampliar a vantagem de um adversário que não adote o mesmo limite. No campo cibernético, modelos avançados podem ser usados tanto para atacar quanto para identificar vulnerabilidades e defender redes críticas. A contenção, portanto, só é efetiva quando combina coordenação, verificação e algum grau de reciprocidade. Sem esses elementos, o freio tende a ser obedecido pelos atores mais transparentes e ignorado pelos mais agressivos.
Também é necessário reconhecer os benefícios. A IA pode acelerar pesquisa científica, diagnóstico, desenvolvimento de medicamentos, previsão climática, eficiência energética, defesa de redes e prestação de serviços públicos. Tratar toda ampliação de capacidade como ameaça eliminaria oportunidades econômicas e estratégicas. O debate responsável não opõe inovação e segurança; procura estabelecer quais capacidades podem ser difundidas, quais exigem controle reforçado e quais aplicações devem permanecer proibidas ou subordinadas à decisão humana.
…
A geopolítica da infraestrutura
A inteligência artificial é frequentemente descrita como software, mas sua base é material. Ela depende de semicondutores avançados, máquinas para fabricação de chips, energia, água, cabos, centros de dados, serviços de nuvem, capital e profissionais especializados. Em 2025, segundo a UNCTAD, a infraestrutura de IA recebeu aproximadamente US$ 341 bilhões em investimentos, tornando-se o maior segmento entre os setores estratégicos avaliados pela organização.
Essa cadeia está distribuída de forma assimétrica. Estados Unidos e China concentram os principais ecossistemas de modelos; empresas norte-americanas dominam amplas parcelas da nuvem e do projeto de aceleradores; a fabricação dos chips mais avançados depende de poucos polos industriais asiáticos e de equipamentos produzidos por fornecedores especializados. Controles de exportação, restrições de acesso a componentes e sanções tecnológicas transformam a capacidade computacional em instrumento de política externa.
Quem controla a infraestrutura obtém três vantagens. A primeira é econômica, pela captura de receitas e propriedade intelectual. A segunda é informacional, pelo acesso potencial a padrões de uso e dados. A terceira é estratégica, porque pode condicionar atualizações, disponibilidade, suporte e acesso a capacidades. A soberania digital não exige produzir internamente cada componente da cadeia, objetivo inviável até mesmo para muitas potências. Exige, porém, conhecer as dependências críticas, diversificar fornecedores, preservar dados sensíveis, manter alternativas operacionais e possuir competência para auditar o que é adquirido.
…
Brasil: capacidade anunciada e capacidade disponível
O Brasil dispõe de universidades, centros de pesquisa, empresas inovadoras, matriz elétrica relativamente favorável e experiência em sistemas complexos. O Plano Brasileiro de Inteligência Artificial 2024–2028 prevê R$ 23 bilhões em quatro anos, expansão de infraestrutura de alto desempenho, formação de profissionais e desenvolvimento de soluções para serviços públicos e setores produtivos. O anúncio reconhece corretamente que soberania em IA depende de capacidade computacional e não apenas de aplicações contratadas no mercado.
Entretanto, investimento previsto não equivale a capacidade operacional. Recursos precisam ser executados de forma contínua; supercomputadores exigem atualização, energia, refrigeração, manutenção e acesso a componentes; bases de dados precisam de governança e qualidade; pesquisadores precisam de carreira e ambientes capazes de retê-los. Sem continuidade orçamentária e coordenação entre governo, academia, indústria e defesa, projetos isolados envelhecem antes de formar um ecossistema.
No campo regulatório, o Projeto de Lei nº 2.338/2023 foi aprovado pelo Senado e permanece em análise na Câmara dos Deputados. O texto procura estabelecer direitos, obrigações e critérios de risco. A discussão é necessária, mas não substitui política industrial, infraestrutura segura ou capacidade de fiscalização. Uma autoridade pode exigir auditoria de modelos e ainda depender tecnicamente do próprio fornecedor para compreender o sistema auditado.
A discrepância brasileira está entre a ambição normativa e a base material. O país discute como regular modelos cuja arquitetura, treinamento, processamento e atualização estão majoritariamente fora de seu controle. Se a legislação elevar exigências sem criar laboratórios de avaliação, ambientes seguros de teste, padrões para compras públicas, formação de auditores e alternativas de infraestrutura, o resultado poderá ser uma conformidade documental incapaz de produzir autonomia ou segurança efetiva.
Na defesa e na administração pública, a vulnerabilidade é ainda maior. Dados operacionais, documentos classificados, informações de inteligência e processos decisórios não podem ser enviados indiscriminadamente a serviços externos. A adoção exige segmentação de redes, modelos aprovados para cada nível de sensibilidade, registro de operações, testes contra manipulação, controle de fornecedores e possibilidade de funcionamento degradado quando a conexão ou o serviço externo estiver indisponível.
…
Regulamentar sem desenvolver capacidade consolida dependência
O Brasil não precisa escolher entre isolamento tecnológico e submissão aos grandes fornecedores. Uma política coerente deve combinar acesso a modelos internacionais com desenvolvimento de competência própria, infraestrutura pública e privada confiável, uso criterioso de modelos de pesos abertos, proteção de dados sensíveis e participação em fóruns internacionais de definição de padrões.
O objetivo realista não é alcançar autossuficiência integral na cadeia de semicondutores ou reproduzir imediatamente os maiores laboratórios do mundo. É construir autonomia decisória. Isso significa saber onde estão os dados, quais componentes são insubstituíveis, como os modelos foram avaliados, quais ações podem executar, como interrompê-los e que alternativas existem diante de embargo, falha técnica, mudança contratual ou crise geopolítica.
Em sistemas críticos, a contratação deve incluir direitos de auditoria, comunicação obrigatória de incidentes, métricas de desempenho em condições adversas, reversibilidade, portabilidade de dados e definição inequívoca de responsabilidade. Na área militar, nenhum ganho de velocidade justifica transferir integralmente a uma máquina a decisão política e jurídica sobre o emprego da força. A IA pode ampliar percepção e capacidade de resposta, mas a autoridade deve permanecer identificável, treinada e responsável.
…
Implicações de médio e longo prazo
A primeira consequência será a formação de regimes tecnológicos diferenciados. Modelos de uso geral poderão permanecer amplamente acessíveis, enquanto sistemas capazes de pesquisa autônoma, operações cibernéticas avançadas, engenharia biológica ou controle de infraestrutura deverão enfrentar exigências superiores. A fronteira entre produto comercial e capacidade estratégica ficará menos nítida.
A segunda será o aprofundamento da disputa por energia, chips, centros de dados e talentos. Países com infraestrutura, capital e estabilidade regulatória capturarão investimentos; os demais comprarão serviços e acumularão dependências. A geopolítica da IA será definida tanto por algoritmos quanto por capacidade elétrica, logística industrial, segurança de redes e acesso a componentes.
A terceira envolverá a cadeia de comando. Governos e Forças Armadas terão de determinar antecipadamente quais decisões podem ser automatizadas, quais exigem confirmação humana e quais jamais devem ser delegadas. Essa definição não poderá ser deixada para o momento da crise, quando a pressão por velocidade favorece a transferência silenciosa de autoridade aos sistemas.
Por fim, a legitimidade pública dependerá da distribuição dos benefícios. Se a IA elevar produtividade enquanto concentra renda, elimina funções sem transição profissional e transfere dados para poucos fornecedores, a reação política crescerá. A manifestação de Varsóvia antecipa essa disputa: os robôs foram apenas o cenário, mas a insegurança dos trabalhadores é real.
…
A soberania será medida pela capacidade de decidir e interromper
Os alertas da ONU e da própria OpenAI não demonstram que uma catástrofe seja inevitável. Demonstram algo politicamente mais imediato: a capacidade tecnológica avança mais rapidamente do que os mecanismos públicos de avaliação, responsabilização e controle. O risco existencial ocupa as manchetes, mas a perda gradual de autonomia pode ocorrer muito antes, por contratos, dependência computacional, concentração de dados e delegação de decisões.
Regulamentar é necessário, porém regulamentar sem desenvolver capacidade própria apenas administra a dependência. A escolha estratégica não está entre acelerar sem limites ou proibir a inteligência artificial. Está em determinar quem controla a infraestrutura, quem audita os modelos, quem responde pelos danos e quais decisões devem permanecer humanas. No século da inteligência automatizada, soberania não será medida apenas pela capacidade de utilizar a tecnologia, mas pela capacidade de compreendê-la, contestá-la e, quando necessário, desligá-la.
…
Fontes de referência
- OpenAI. “An Alien Mind”, por Jakub Pachocki, 6 set. 2026. Acessar fonte
- Office of the United Nations High Commissioner for Human Rights. “High Commissioner Türk updates Human Rights Council”, 7 set. 2026. Acessar fonte
- AFP. “Dezenas de robôs ‘protestam’ contra uso descontrolado da IA na Polônia”, 8 set. 2026. Acessar fonte
- Stanford Institute for Human-Centered Artificial Intelligence. “The 2026 AI Index Report”. Acessar fonte
- UN Trade and Development. “World Investment Report 2026”. Acessar fonte
- Ministério da Ciência, Tecnologia e Inovação. “Plano Brasileiro de Inteligência Artificial 2024–2028”. Acessar fonte
- Câmara dos Deputados. “PL 2338/2023 — ficha de tramitação”. Acessar fonte
- NATO. “Summary of NATO’s revised Artificial Intelligence Strategy”, 10 jul. 2024. Acessar fonte
- United States Department of Defense. “DoD Directive 3000.09 — Autonomy in Weapon Systems”, 25 jan. 2023. Acessar fonte
…
Artigos relacionados:
