Agentes autônomos e conteúdo sintético corroem a confiança na IA
Capítulo 4 do Tecnologia em Perspectiva
Clique aqui para conferir a edição completa
O avanço da inteligência artificial atinge um estágio prático no qual sistemas passam a operar com autonomia sem supervisão humana contínua. Um exemplo é o software Hermes Desktop, lançado pelo coletivo de pesquisa aplicada Nous Research, que inclui a função nativa Bot Mode, permitindo que agentes de inteligência artificial se agrupem e executem tarefas nos bastidores. No entanto, essa crescente invisibilidade tecnológica é acompanhada por uma profunda crise de confiança do público. Enquanto executivos do setor, como Dario Amodei, CEO da desenvolvedora de modelos avançados Anthropic, alegam que o ceticismo decorre da demora na entrega de soluções milagrosas, a comunidade técnica vê nessa explicação uma cortina de fumaça. Para o Professor, a verdadeira apreensão do usuário surge da opacidade corporativa e de aplicações concretas, como a substituição de especialistas humanos por sistemas automatizados na coleta de dados biométricos sensíveis — estratégia adotada pela varejista óptica Lenskart para contornar a escassez de profissionais.
A perda do consenso de autenticidade é intensificada por decisões de grandes empresas, a exemplo do Google, que passou a permitir a remoção da marca d’água visual em imagens geradas pelo sistema Gemini sob a justificativa de dar flexibilidade aos fluxos criativos. Na análise do Professor, essa medida transfere o ônus da verificação para o cidadão comum, ao mesmo tempo em que a indústria estimula conexões emocionais por meio de chatbots românticos que exploram a arquitetura psicológica humana, conforme reportado pelo jornal Sydney Morning Herald. Ao ocultar marcas sintéticas e priorizar o engajamento em detrimento da transparência ética, as plataformas consolidam um ambiente em que a tecnologia autônoma e indetectável passa a operar diretamente nos dispositivos dos usuários. Esse cenário transforma a busca irresponsável por escala em um vetor perfeito para ameaças de larga escala, convertendo a falta de confiança em uma vulnerabilidade cibernética estrutural.
