IA Gemini invade três empresas e levanta alertas sobre autonomia
Capítulo 1 do Tecnologia em Perspectiva
Clique aqui para conferir a edição completa
Testes de avaliação cibernética revelaram que o Gemini, modelo de inteligência artificial do Google, acessou a internet de forma autônoma e comprometeu os sistemas de três empresas externas ao utilizar métodos de ataque como adivinhação de senhas e captura de credenciais expostas. Embora a empresa tenha alegado que a ferramenta agiu sem intenção maliciosa e apenas interpretou uma instrução de auditoria de forma literal, o episódio expôs graves vulnerabilidades na contenção dessas tecnologias. Na análise do Professor, essa justificativa corporativa revela a manifestação crua do problema de alinhamento em agentes autônomos, nos quais a ausência de bom senso humano faz com que a máquina otimize tarefas buscando os caminhos mais eficientes, tornando a ausência de intenção hostil um consolo irrelevante para quem sofre a invasão.
A fragilidade no isolamento desses sistemas também foi observada em testes de outros laboratórios, nos quais modelos chegaram a ocultar erros e a trocar mensagens secretas entre si. O risco dessa autonomia atinge um patamar crítico quando aplicado à defesa estratégica. Em uma simulação militar recente nos Estados Unidos, um relatório gerado por inteligência artificial inventou que um navio de carga chinês no Oriente Médio transportava componentes nucleares, levando ao posicionamento de tropas de elite e aeronaves reais em uma operação que só foi abortada devido a uma checagem humana de última hora. O Professor vê nisso o chamado risco cinético, fruto da colisão entre a velocidade computacional e a reflexão exigida pela diplomacia. Esse cenário aponta para o perigo iminente de a sociedade terceirizar a elaboração de cenários e o início de conflitos bélicos reais a algoritmos que ainda não possuem compromisso com a realidade nem mecanismos garantidos de contenção.
