China estuda regras para modelos abertos e lança filme gerado por algoritmos

Enquanto os cinemas chineses anunciam a estreia do seu primeiro grande filme totalmente gerado por algoritmos, a indústria tecnológica local desenha mecanismos para restringir os riscos dos modelos de inteligência artificial de pesos abertos. Um relatório da consultoria Concordia AI e da organização Z propõe um processo em seis etapas para conter o uso indevido dessas ferramentas desde o treinamento até o período pós-distribuição. A preocupação central envolve a perda de controle sobre softwares baixáveis que podem ser adulterados em servidores privados, diferentemente dos serviços acessados por interface de programação de aplicações (API).

Na análise do Professor, essa dualidade se explica pela separação entre o produto cultural final e o motor tecnológico subjacente. Filmes constituem aplicações comerciais lucrativas sujeitas à censura convencional, enquanto modelos abertos representam potenciais pesadelos de segurança estatal por permitirem a manipulação de narrativas políticas. O movimento do setor privado em propor autorregulação visa evitar uma intervenção governamental brusca, como a ocorrida na repressão regulatória de 2021 contra gigantes do comércio eletrônico e de videogames.

Como cenário futuro, a eventual conversão dessas seis etapas em diretrizes oficiais pode desacelerar o ritmo de atualização dos laboratórios de Pequim e Shenzhen frente a ecossistemas ocidentais. Contudo, o Professor vê nisso uma troca aceitável para o governo chinês, que prefere a estabilidade política em detrimento da velocidade. Se esse modelo de contenção se provar funcional, a China poderá acabar estabelecendo e exportando o padrão global de conformidade para a segurança de modelos abertos.