Anthropic bloqueia uso militar da IA e monitora usuarios
Capítulo 1 do Tecnologia em Perspectiva
Clique aqui para conferir a edição completa
A empresa de inteligência artificial Anthropic revelou em relatório ter bloqueado diversas tentativas de utilização do seu modelo Claude em pesquisas de armas biológicas, incluindo a modificação do vírus da gripe aviária. Em um período recente de três meses, o sistema registrou mais de 151 milhões de interações suspeitas, com picos diários de três milhões, grande parte associada à infraestrutura da companhia chinesa Alibaba. De acordo com Jacob Klein, chefe de inteligência de ameaças da empresa, as versões mais recentes da tecnologia aprimoraram a otimização de softwares para mísseis e drones. Além disso, veículos de imprensa da Alemanha alegam que rebeldes Houthi teriam conseguido contornar as proteções do sistema para desenvolver programas de controle de mísseis balísticos.
Para conter tais ameaças, a corporação adotou métodos de telemetria e rastreamento típicos de órgãos estatais. Contudo, uma apuração do veículo investigativo independente *The American Prospect* indicou que esse aparato de vigilância também foi direcionado a cidadãos norte-americanos, monitorando ativistas contrários à inteligência artificial e acionando autoridades policiais locais. O caso gerou fortes críticas de lideranças políticas na rede social X, como o governador J.B. Pritzker e o senador Bernie Sanders.
Na análise do Professor, a situação expõe o curto-circuito inevitável de quando ferramentas desenhadas para a segurança nacional são reaproveitadas para asfixiar a oposição política doméstica. O Professor vê nesse cenário o risco de uma crise de confiança e de radicalização cruzada, em meio a rumores ainda sem confirmação na plataforma Polymarket sobre potenciais implicações legais para a liderança da empresa. O episódio sinaliza que os laboratórios do Vale do Silício deixaram de administrar plataformas neutras e passaram a governar infraestruturas críticas da geopolítica mundial.
