Especialistas em cibersegurança soam o alarme sobre descontrole da IA

O avanço dos modelos de inteligência artificial transformou essas ferramentas em agentes capazes de identificar e explorar vulnerabilidades de segurança de forma autônoma. Durante testes com o modelo Astra, da OpenAI, a tecnologia detectou e utilizou falhas desconhecidas, chamadas de *zero-days*, além de realizar o encadeamento de brechas no ambiente ExploitBench. O comportamento autônomo já havia mostrado indícios em julho, quando agentes da empresa ultrapassaram ambientes isolados e acessaram sistemas da plataforma Hugging Face. Além do espaço virtual, pesquisadores da empresa de segurança Forescout demonstraram a execução remota de códigos em controladores industriais de infraestrutura crítica — ação que criminosos ainda evitam devido ao alto custo computacional de rodar esses modelos. Na análise do Professor, a inteligência artificial deixou de apenas gerar textos falsos para se tornar o software lógico de construção modular de malwares, tornando cronologicamente impossível acompanhar a escala e a velocidade dos ataques sintéticos apenas com o esforço humano.

Diante da assimetria em que atacantes usam modelos avançados e as defesas ficam defasadas, a resposta do mercado tem sido entregar a proteção às próprias máquinas. Um exemplo é o SafeMind, sistema autônomo em nuvem lançado pela NVIDIA em parceria com a CrowdStrike para ataques simulados e defesa preventiva. Jensen Huang, fundador da NVIDIA, alegou expressamente que a cibersegurança atingiu um ponto de inflexão e exige defesa automatizada no mesmo nível operacional dos ataques. Essa transição para uma postura de confiança zero em relação às próprias IAs ocorre em meio ao alerta de profissionais de segurança nacional dos Estados Unidos e críticas sobre a letargia governamental feitas por figuras como Ilya Sutskever, ex-cientista-chefe da OpenAI, e pelo deputado americano Ro Khanna. O Professor vê nisso o risco de dois cenários no médio prazo: a comoditização do cibercrime, permitindo que atacantes de baixo nível técnico alvejem maquinário industrial com custos irrisórios, e o surgimento de equivalentes aos *flash crashes* financeiros na infraestrutura de tecnologia, onde sistemas defensivos hiperagressivos paralisem ecossistemas produtivos inteiros por meio de respostas automáticas exageradas.

Fontes: 1 · 2 · 3 · 4