O algoritmo que o mundo teme liberar

Não é difícil entender por que algumas empresas começam a restringir severamente o acesso a determinados modelos de IA. O governo americano recentemente proibiu a exportação e o uso por estrangeiros de dois sistemas avançados de IA. Pela primeira vez, parte da indústria parece admitir implicitamente que certas ferramentas talvez sejam perigosas demais para circulação irrestrita. O paralelo com material nuclear não surge por acaso.

“Quis custodiet ipsos custodes?” Quem vigiará os vigilantes?

A pergunta ganha nova dimensão justamente no momento em que grandes empresas de tecnologia passam a desenvolver sistemas de inteligência artificial (AI) voltados à defesa cibernética avançada, capazes de identificar vulnerabilidades invisíveis em redes digitais, infraestruturas críticas e sistemas financeiros complexos. Oficialmente, o objetivo é proteger. Mas existe um detalhe impossível de ignorar: toda inteligência artificial capaz de defender sistemas também carrega dentro de si o potencial de atacá-los. E talvez melhor do que qualquer humano!

O debate sobre inteligência artificial sofreu uma mudança silenciosa nos últimos meses. Durante anos, a atenção pública esteve concentrada em temas relativamente previsíveis. Substituição de empregos, automação, fake news, deepfakes e produtividade. Eram preocupações importantes, mas ainda inseridas dentro de uma lógica econômica e social conhecida. Agora começa a surgir algo diferente. A possibilidade de inteligências artificiais capazes de compreender sistemas complexos em profundidade superior à humana, e encontrar vulnerabilidades. A diferença parece sutil, mas é gigantesca.

Não estamos falando apenas de máquinas respondendo perguntas ou produzindo textos sofisticados. Estamos falando de sistemas treinados para encontrar vulnerabilidades escondidas em milhões de linhas de código, identificar padrões invisíveis, correlacionar falhas aparentemente desconectadas e testar possibilidades em velocidade inalcançável para equipes humanas.

A ficção científica sempre imaginou um “algoritmo definitivo”, capaz de atravessar qualquer criptografia ou invadir qualquer sistema. Durante décadas, isso parecia exagero cinematográfico. Afinal, a humanidade depositou enorme confiança na ideia de que a criptografia moderna seria praticamente inviolável. Bancos, bolsas de valores, sistemas militares, satélites, redes elétricas e telecomunicações foram construídos sobre essa crença. Talvez esse seja justamente o problema.

A inteligência artificial talvez nem precise quebrar matematicamente uma criptografia para produzir o mesmo efeito prático. Basta localizar falhas humanas, vulnerabilidades esquecidas, erros de implementação ou pequenas brechas espalhadas em sistemas gigantescos. Nenhum software do planeta foi criado imaginando uma inteligência capaz de testar bilhões de combinações simultaneamente enquanto aprende com cada tentativa.

O problema deixa então de ser apenas tecnológico. Passa a ser civilizacional.

Hoje praticamente tudo depende de sistemas digitais. O dinheiro moderno já não existe fisicamente na maior parte do tempo. Ele é informação. Cadeias logísticas globais operam apoiadas em software. Portos, aeroportos, hospitais, telecomunicações, abastecimento de energia e mercados financeiros dependem de redes cuja complexidade ultrapassa a compreensão integral até de seus próprios criadores.

Existe uma ilusão perigosa na infraestrutura digital contemporânea. A crença de que compreendemos plenamente os sistemas que sustentam o mundo moderno. Não compreendemos.

As próprias empresas responsáveis por plataformas críticas frequentemente desconhecem todas as dependências internas de seus sistemas. Atualizações geram efeitos inesperados. Pequenos erros produzem apagões operacionais gigantescos. Falhas aparentemente banais interrompem aeroportos, hospitais ou cadeias globais de suprimento.

Agora imagine inteligências artificiais treinadas especificamente para encontrar aquilo que engenheiros humanos não conseguem enxergar.

Não é difícil entender por que algumas empresas começam a restringir severamente o acesso a determinados modelos de IA. O governo americano recentemente proibiu a exportação e o uso por estrangeiros de dois sistemas avançados de IA. Pela primeira vez, parte da indústria parece admitir implicitamente que certas ferramentas talvez sejam perigosas demais para circulação irrestrita. O paralelo com material nuclear não surge por acaso.

Ao longo da história, praticamente toda tecnologia revolucionária acabou militarizada. A energia nuclear nasceu cercada pelo discurso do progresso científico e rapidamente se transformou em instrumento geopolítico. Satélites servem tanto para navegação quanto para espionagem. A internet nasceu em ambiente militar antes de se popularizar comercialmente.

Com a inteligência artificial, a dualidade talvez seja ainda mais delicada.

Toda IA defensiva carrega dentro de si uma IA ofensiva potencial.

A ferramenta capaz de identificar vulnerabilidades antes de criminosos ou governos hostis é, essencialmente, a mesma capaz de explorá-las antes que qualquer defesa humana consiga reagir. A diferença entre proteção e ataque passa a depender menos da tecnologia em si, e mais de quem controla o sistema.

É justamente nesse ponto que o debate deixa o campo técnico e invade território político, econômico e moral.

Não por acaso, o Vaticano decidiu entrar diretamente nessa discussão. A recente encíclica do Papa Leão XIV sobre inteligência artificial representa um marco simbólico importante. Quando uma instituição de dois mil anos passa a tratar algoritmos como questão moral e civilizacional, talvez estejamos diante de algo maior do que apenas mais uma revolução tecnológica.

Existe um elemento particularmente inquietante nessa movimentação. A concentração crescente de poder tecnológico em poucas empresas privadas globais. Nunca na história grupos econômicos controlaram simultaneamente tamanha capacidade computacional, volume de dados, influência política e acesso a tecnologias potencialmente estratégicas.

Talvez a verdadeira corrida armamentista do século XXI não esteja acontecendo apenas com mísseis hipersônicos, semicondutores ou computação quântica. Talvez ela já esteja ocorrendo silenciosamente dentro de laboratórios privados de inteligência artificial.

E diferentemente das armas tradicionais, a IA ofensiva possui uma característica singularmente perigosa. Ela é invisível.

Não existem tanques atravessando fronteiras. Não existem imagens espetaculares de destruição imediata. Existe apenas código. Linhas invisíveis capazes de interromper portos, manipular mercados, bloquear hospitais, desorganizar sistemas logísticos ou provocar pânico financeiro em escala global.

Bancos vivem de confiança. Mercados vivem de confiança. Moedas vivem de confiança.

O risco sistêmico da inteligência artificial talvez esteja justamente aí. Não necessariamente em um ataque cinematográfico de grandes proporções, mas na erosão gradual da confiança sobre a qual o mundo digital foi construído.

Durante décadas, acreditamos que o maior medo em relação à inteligência artificial seria ela começar a pensar como humanos. Talvez o verdadeiro problema seja exatamente o contrário. Ela começa a pensar sobre sistemas complexos muito melhor do que nós.

Valter Branco escreve semanalmente para o BE News, com seus textos publicados às segundas-feiras.