O dilema da IA de fronteira e os desafios à cooperação internacional
A manifestação de Amodei apresenta um desafio enorme a ser superado: a necessidade de cooperação internacional nesse processo de desaceleração, para que os resultados sejam efetivos.
O problema é que os custos de frear a inovação são imediatamente suportados por quem decide fazê-lo, enquanto os benefícios de um ambiente tecnológico mais seguro dependem, em grande medida, de que outros atores adotem comportamento semelhante. A recusa de uns pode, assim, desmotivar outros, por receio de ficarem para trás.
Uma discussão tomou o centro das discussões sobre tecnologia nos últimos dias. Há cerca de uma semana, um pesquisador da Anthropic anunciou seu pedido de demissão e fundamentou sua atitude em uma preocupação com os riscos associados ao desenvolvimento desenfreado dessas ferramentas. À primeira vista, seu pronunciamento dividiu opiniões: para alguns tratava-se de um alerta oportuno e prudente; para outros, não passava de uma teoria alarmista desprovida de embasamento fático consistente.
A polêmica, contudo, ganhou novos contornos – e proporções – quando, poucos dias depois, Dario Amodei, CEO da Anthropic, publicou o ensaio “We Must Pace the Frontier”, defendendo que as empresas de IA deveriam desacelerar o ritmo de desenvolvimento dos modelos de fronteira para que as medidas de segurança pudessem acompanhar o avanço das capacidades.
O argumento central de Amodei é o de que o desenvolvimento dos modelos de IA de fronteira (frontier AI) está avançando mais rapidamente do que a capacidade de compreender, testar e controlar seus riscos. Ele não defende interromper o desenvolvimento da IA, mas reduzir o ritmo de avanço o suficiente para que as medidas de segurança consigam acompanhar. Entre os riscos que o preocupam, estão o uso malicioso dos sistemas, comportamentos autônomos inesperados e, sobretudo, a possibilidade de que modelos cada vez mais capazes passem a contribuir para o desenvolvimento de versões ainda mais avançadas de si mesmos, criando uma dinâmica potencialmente acelerada e difícil de controlar.
Para enfrentar esse problema, ele propõe três frentes principais: avaliações independentes, com acesso real aos sistemas das empresas; padrões de segurança aplicáveis às empresas de IA, inclusive por meio de regulação governamental; e, finalmente, coordenação internacional, inclusive entre países geopoliticamente rivais, porque medidas de segurança adotadas apenas por uma empresa ou por um país poderiam colocá-los em desvantagem diante de concorrentes que continuassem acelerando.
O que causou ainda maior repercussão foi a manifestação pública de apoio à proposta de Amodei publicada por Sam Altman (OpenAI) e Elon Musk (xAI). A notícia sobre a convergência de opinião entre esses três líderes tornou-se notícia ao redor do mundo.
A manifestação de Amodei apresenta um desafio enorme a ser superado: a necessidade de cooperação internacional nesse processo de desaceleração, para que os resultados sejam efetivos. Porque se estamos tratando de uma tecnologia com alcance mundial, utilizada num espaço – o cibernético – transnacional em sua natureza, sem limitações de fronteiras bem estabelecidas, qualquer medida que se decida tomar naturalmente deverá envolver esforços da comunidade internacional, e não se limitar a um grupo de países.
E isso revela um desafio significativo nos esforços pela governança da IA: a falta de incentivos para que países, isoladamente, invistam em medidas que visem ao desenvolvimento tecnológico responsável, ético e compatível com os direitos humanos. Explico: por que um país optaria por desacelerar o desenvolvimento da IA, correndo o risco de perder lugar na disputa pela liderança no setor (o que conversa diretamente com poder), se outros países não seguirem a mesma lógica?
Quais incentivos reais teria uma nação para agir assim, se os riscos criados pelos países que não aderirem ao movimento permanecerão existindo, riscos esses compartilhados por toda a coletividade? Os riscos associados ao desenvolvimento irresponsável da tecnologia alcançam pessoas em todo o mundo, e os benefícios de uma postura responsável também são amplamente distribuídos. O problema é que os custos de frear a inovação são imediatamente suportados por quem decide fazê-lo, enquanto os benefícios de um ambiente tecnológico mais seguro dependem, em grande medida, de que outros atores adotem comportamento semelhante. A recusa de uns pode, assim, desmotivar outros, por receio de ficarem para trás.
Em outras palavras, a ausência de incentivos para um Estado desacelerar unilateralmente o desenvolvimento de IA decorre do fato de que os custos dessa medida (de restrição) são imediatos e nacionalmente concentrados, enquanto os benefícios da segurança são difusos e dependem da reciprocidade de outros atores.
Esse raciocínio se aproxima de uma teoria bastante difundida entre os estudiosos de Relações Internacionais para explicar os desafios à cooperação em contextos de competição. Trata-se do Dilema do Prisioneiro, um modelo clássico da Teoria dos Jogos (Game Theory), utilizado para compreender situações nas quais atores racionais podem ter dificuldades para cooperar mesmo quando todos teriam algo a ganhar com a cooperação.
Pensemos em duas potências internacionais, por exemplo Estados Unidos e China. O melhor cenário possível seria aquele em que ambos os Estados concordam em desacelerar o desenvolvimento da IA (menor risco sistêmico, maior segurança e eventualmente um desenvolvimento mais controlado). O problema é que cada um teria um incentivo individual para não cooperar (liderança internacional sobre essa tecnologia e, consequentemente, vantagens econômicas, militares e estratégicas). Se um deles desacelerar enquanto o outro continuar avançando, aquele que manteve o ritmo poderá obter vantagens econômicas, militares e estratégicas — e, sobretudo, liderança internacional sobre uma tecnologia considerada cada vez mais estratégica. Assim, cada Estado pode preferir que ambos desacelerem, mas, ao mesmo tempo, ter razões para não ser o primeiro a fazê-lo.
E o paradoxo está no fato de que, mesmo quando atores racionais reconhecem que a cooperação produziria um resultado melhor para todos, a incerteza sobre o comportamento do outro pode levá-los a não cooperar.
Há, ainda, outra dimensão para o problema, uma de segurança nacional. Se os Estados acreditam que a IA terá aplicações militares e de inteligência, o desenvolvimento dessa tecnologia deixa de ser apenas uma questão econômica e passa a adquirir dimensão estratégica. Nesse cenário, o avanço tecnológico de um Estado pode ser percebido pelos demais como uma ameaça à sua própria segurança, estimulando-os a acelerar também seus investimentos e capacidades. É uma dinâmica que se aproxima do chamado dilema de segurança, outra teoria utilizada em Relações Internacionais.
E, fatalmente, poderá criar um resultado contrário, uma espécie de corrida armamentista tecnológica. O ponto interessante é que ninguém precisa necessariamente desejar uma corrida. A própria estrutura de incentivos pode produzi-la, mesmo quando os atores prefeririam não estar correndo (uma lógica que ajuda a compreender, em outro contexto histórico, episódios como a Crise dos Mísseis de Cuba).
Portanto, se a cooperação internacional é necessária e o problema não é a falta de consciência sobre os riscos, mas a existência de um incentivo estrutural à não cooperação, torna-se necessário fazer algo mais do que estabelecer normas desejáveis: é preciso alterar a estrutura de incentivos que torna a contenção unilateral uma escolha potencialmente irracional. Se um Estado pode reconhecer os riscos associados ao desenvolvimento acelerado de sistemas avançados de IA e, ainda assim, não ter incentivos suficientes para desacelerar se seus concorrentes não fizerem o mesmo, é justamente nesse ponto que o Direito Internacional e as instituições internacionais devem agir para transformar compromissos individuais em compromissos recíprocos, acompanhados de mecanismos capazes de dar previsibilidade ao comportamento dos demais atores.
Há de se criar condições para que a responsabilidade não se transforme em uma desvantagem competitiva. Nesse sentido, a governança internacional da inteligência artificial traduz um problema clássico de Relações Internacionais: como produzir cooperação entre atores que, embora tenham um interesse comum na redução dos riscos, permanecem submetidos a incentivos que os levam a competir?
Roberta Lopes da Cruz Antonio escreve quinzenalmente para o BE News. Seus textos são publicados às quartas-feiras.
