O crescimento rápido e impressionante da inteligência artificial tem suscitado muitas preocupações em todo o mundo, mas nenhuma talvez tão pronunciada como a sua disseminação no domínio militar.

Para os pacifistas, bem como para milhões de cidadãos em sofrimento, da Palestina à Ucrânia, o que é ainda mais preocupante é o tipo de atenção que os governos de todo o mundo estão a prestar à IA.

Segundo uma estimativa conservadora, pelo menos 20 países criaram programas militares de IA.

Só o Pentágono tem atualmente em curso mais de 800 projetos relacionados com a IA, que vão desde os veículos autónomos à análise de informações e à assistência à tomada de decisões.

Também a China está a investir fortemente na guerra inteligente.

Assim, a conversa em torno da inteligência artificial e da guerra deixou de ser teórica.

À medida que a IA se integra mais profundamente no planeamento e nas operações militares, está a mudar a forma como as guerras são travadas e a remodelar a dinâmica fundamental dos conflitos, como a escalada e a contenção.

Já em uso

Quando a inteligência artificial entra na conversa sobre a guerra, as primeiras imagens são quase cinematográficas.

Drones autónomos a atingir alvos, unidades cibernéticas a lançar ataques, máquinas a tomar decisões de vida ou morte sem o envolvimento humano.

Isto não é o futuro. A IA já não é uma experiência em curso. Já está a moldar a forma como os militares planeiam, combatem e pensam sobre o poder.

As utilizações são vastas e estão a aumentar. Os sistemas de vigilância da IA podem analisar milhares de feeds ao mesmo tempo e detetar ameaças mais rapidamente do que qualquer equipa humana.

Os veículos autónomos estão a ser treinados para encontrar alvos com pouca supervisão direta. Os sistemas integrados de defesa aérea alimentados por IA são capazes de identificar e neutralizar as ameaças aéreas que se aproximam com uma velocidade e precisão que nenhum sistema operado por humanos consegue igualar.

Tanto os ciberataques como as estratégias de ciber defesa dependem cada vez mais da IA para se superarem e ultrapassarem uns aos outros num campo de batalha digital em constante mutação.

Mesmo as decisões reais no campo de batalha estão a ser cada vez mais orientadas por algoritmos que podem processar a informação mais rapidamente do que as cadeias de comando tradicionais.

Alguns destes desenvolvimentos já estão a suscitar alarme a nível mundial, incluindo a utilização por Israel de sistemas de IA como o Gospel e o Lavender na sua atual guerra em Gaza. Estas plataformas foram utilizadas para gerar recomendações de alvos para ataques aéreos, muitas vezes com uma supervisão humana mínima.

As provas disponíveis apontam para o seu papel no elevado número de mortes de civis e na erosão das distinções entre combatentes e civis.

Nestes casos, a brutalidade a que se assiste não é apenas uma consequência da utilização da IA.

A questão central reside na tomada de decisões políticas sobre a forma como os líderes escolhem empregar estas ferramentas, o nível de risco para os civis que estão dispostos a tolerar e até que ponto vinculam os resultados da IA ao julgamento humano.

Neste caso, a IA serve de espelho aos detentores do poder, racionalizando as escolhas políticas que põem de lado a responsabilidade moral e legal sob o pretexto da eficiência das máquinas.

No entanto, está em curso uma mudança mais profunda. A IA está a começar a remodelar a dinâmica do próprio conflito, como a iniciação e a escalada, de formas que só agora começamos a compreender.

A IA e o conflito

Os académicos das relações internacionais há muito que sublinham elementos como a incerteza, a sinalização e a credibilidade na definição da dinâmica do conflito. A IA está a remodelar cada um destes elementos de formas que exigem grande atenção.

Em primeiro lugar, a capacidade da IA para tomar decisões rápidas e empreender acções autónomas pode reduzir o limiar para o envolvimento em conflitos. Quando as máquinas conseguem avaliar as ameaças e lançar respostas em milissegundos, os custos políticos e operacionais que antes faziam os líderes pensar duas vezes antes de iniciar as hostilidades diminuem.

Esta mudança aumenta o risco de as crises ficarem fora de controlo antes de os decisores humanos poderem intervir. As barreiras tradicionais à escalada, como o tempo de deliberação, a acumulação visível de forças e a fricção da tomada de decisões humanas, estão a desaparecer.

Em segundo lugar, a integração da IA põe em causa os modelos tradicionais de dissuasão. A dissuasão assenta numa comunicação clara e em quadros de retaliação previsíveis.

No entanto, os sistemas de IA podem introduzir novas ambiguidades, criando processos de decisão opacos que tornam mais difícil para os adversários lerem as intenções ou avaliarem a credibilidade das ameaças.

Se uma postura militar baseada em IA parecer capaz de lançar ataques preventivos rápidos, os rivais podem sentir-se pressionados a atuar ainda mais rapidamente, o que alimentaria a instabilidade.

Em terceiro lugar, a IA aumenta o risco de novas formas de escalada.

As interações máquina-máquina, como os drones autónomos que reagem às defesas autónomas contra mísseis, podem produzir ciclos de feedback que os humanos têm dificuldade em antecipar ou interromper.

A escalada pode tornar-se mais difícil de gerir precisamente porque a velocidade e a complexidade dos sistemas de IA ultrapassam as capacidades organizacionais humanas.

No seu conjunto, estas tendências assinalam uma mudança, embora os académicos continuem divididos quanto ao rumo exato desta transformação.

No entanto, o perigo reside na transformação silenciosa das próprias estruturas que historicamente governaram o conflito, tais como os mecanismos de contenção, os processos de sinalização e as vias de desescalada.

A estabilidade estratégica, outrora assente em pressupostos sobre o julgamento e a deliberação humanos, pode ser derrubada por uma nova realidade.

A deliberação torna-se uma responsabilidade na guerra

O envolvimento da IA na guerra não se limita a acelerar dinâmicas familiares. Corre o risco de forçar um mundo construído sobre o tempo humano, a ética humana e os cálculos de risco humanos a enfrentar um espaço de batalha cada vez mais governado pela lógica das máquinas.

No centro desta mudança está a compressão estratégica do tempo de decisão.

Com os sistemas de IA a analisar os dados do campo de batalha em tempo real, a janela entre a deteção e a resposta está a colapsar.

Num mundo assim, a deliberação humana, outrora considerada a essência de uma política prudente, torna-se uma responsabilidade. Quanto mais depressa um militar puder processar e agir, maior será a sua vantagem tática.

Isto implica uma lógica brutal. Numa corrida em que o tempo de reação é decisivo, os militares sentir-se-ão compelidos a automatizar mais e a deliberar menos.

As culturas estratégicas tradicionais, que são construídas em torno de ciclos de reflexão, comunicação e resposta calibrada, podem tornar-se desalinhadas com as realidades do campo de batalha concebidas pelas máquinas.

Neste regime temporal, a estratégia corre o risco de se tornar um artefacto residual de interações automatizadas em vez de uma questão de escolha consciente.

Ao mesmo tempo, a IA permitirá o armamento das lacunas de autonomia.

Sempre que os quadros éticos ou legais limitem a forma como os sistemas autónomos podem agir, os adversários procurarão explorar essas restrições auto-impostas. Consequentemente, as guerras também serão moldadas pelo lado que estiver disposto a aceitar menos restrições à ação das máquinas.

Além disso, o nível de autonomia permitido nos sistemas militares de IA tornar-se-á uma forma de sinalização coerciva.

Ao demonstrarem que os seus sistemas podem funcionar sem salvaguardas humanas, os intervenientes podem dar um sinal de maior vontade de escalar a violência e pressionar os adversários a corresponderem ao risco ou a conterem-se.

Mesmo antes do início de qualquer conflito, uma maior autonomia demonstrada pode intensificar o impacto coercivo.

A integração da IA nos assuntos militares não se resume às novas tecnologias. Os riscos de erro de cálculo, de escalada descontrolada e de erosão moral são cada vez mais acentuados.

O futuro dos conflitos será moldado não só por quem constrói os sistemas mais avançados, mas também por quem escolhe como e até onde os vai libertar.

(Esta é a segunda de uma série de quatro partes sobre como a IA está a mudar o mundo. A seguir: A mudança económica)