Proposta conjunta de segurança em inteligência artificial

Pesquisadores de instituições renomadas dos EUA e China apresentaram recomendações inovadoras sobre segurança de IA, estabelecendo paralelos com o rigor dos protocolos nucleares internacionais. Segundo especialistas que orientam diálogos oficiais entre Washington e Pequim, sistemas avançados de inteligência artificial poderiam comprometer infraestruturas críticas em questão de minutos, deixando pouca margem para decisões diplomáticas durante crises.

O documento foi divulgado antes de negociações governamentais agendadas e antecede encontro previsto entre Donald Trump e Xi Jinping em 24 de setembro, em Washington. A convergência de visões entre as duas potências representa avanço significativo em discussões sobre segurança de IA, tema que transcende disputas comerciais e tecnológicas tradicionais.

Mecanismos de controle e autoridade humana

Melanie Sisson, pesquisadora sênior da Brookings Institution, defende que apenas seres humanos devem autorizar operações digitais de grande envergadura envolvendo sistemas nucleares. Sua argumentação fundamenta-se no risco de falhas autônomas, extrapolação de instruções ou comprometimento de algoritmos, cenários que complicariam a identificação entre ataques acidentais e deliberados.

Tianjiao Jiang, professor associado da Universidade de Fudan, amplia essa perspectiva propondo barreiras explícitas que impeçam sistemas de IA agirem independentemente sobre armamentos nucleares ou infraestruturas estratégicas. Além disso, sugere definição consensual de "controle humano significativo" para evitar interpretações divergentes entre os países sobre níveis aceitáveis de autonomia tecnológica.

Infraestruturas críticas sob proteção

As recomendações incluem salvaguardas para setores vitais como energia, finanças e saúde. Jiang também propõe linha direta militar exclusiva para incidentes envolvendo IA, reconhecendo que trocas digitais automatizadas podem se intensificar exponencialmente, reduzindo tempo disponível para intervenção humana e aumentando riscos de interpretações equivocadas.

Cenários de escalada rápida e respostas automatizadas

Defensas autônomas de um país poderiam responder instantaneamente a atividades suspeitas, levando o lado oposto a interpretar reação como ataque e retaliar antes de compreender situação real. Comunicação direta entre lideranças permitiria esclarecimentos sobre operações incomuns de IA, informando se foram acidentais, não autorizadas ou ainda sob investigação.

Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins, questiona efetividade de linhas diretas já existentes. Cita recusa chinesa em atender chamadas durante incidente do balão espião em fevereiro de 2023. Hierarquia rígida da burocracia chinesa impede que oficiais de escalão inferior tomem iniciativas em interações com homólogos norte-americanos sem aprovação de altas lideranças, processo que pode consumir dias.

Posicionamentos oficiais e implementação prática

Embora nenhum governo tenha endossado publicamente as propostas Brookings-Tsinghua, China progressivamente integra IA à sua estrutura de controle de armas. A IA constitui área formal do Departamento de Controle de Armas do Ministério das Relações Exteriores chinês, compartilhando responsabilidades com questões nucleares, não proliferação e segurança internacional.

Shen Jian, embaixador chinês para desarmamento, alertou em reunião da ONU em Genebra em junho que IA militar afeta estabilidade estratégica e amplifica riscos de escalada. Ressaltou que armas devem permanecer sob controle humano. Pequim também argumenta que segurança em IA não deve justificar criação de barreiras tecnológicas discriminatórias.

Estrutura institucional norte-americana

Washington carece de órgão único equivalente para controle de armas relacionado a IA. Responsabilidades distribuem-se entre Conselho de Segurança Nacional da Casa Branca, Departamento de Estado, Pentágono e outras agências, criando fragmentação nas políticas públicas.

Cautela estratégica e interesses competitivos

Ambos os governos mantêm-se cautelosos quanto a medidas que desacelerem desenvolvimento tecnológico. Trump advertiu que restrições amplas beneficiariam China, enquanto Pequim interpreta controles tecnológicos norte-americanos como estratégia para preservar liderança global.

O diálogo entre EUA e China sobre IA e segurança nacional, promovido desde 2019 pela Brookings e Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua, reflete crescentes preocupações com sistemas cada vez mais poderosos e autônomos. Chen Yixin, ministro da Segurança do Estado chinês, reconheceu em declarações recentes que IA "transforma fundamentalmente a forma da luta militar", salientando sua evolução de papel coadjuvante para posição central em operações bélicas, incluindo conflitos envolvendo Israel e EUA contra o Irã.