Censura Chinesa Aprimorada por IA: Superando o Controle de Conteúdo Online

26/03/2025 Mídia Social

Um banco de dados vazado revela que a China está utilizando IA para aprimorar suas capacidades de censura online, indo muito além dos métodos tradicionais. O sistema, treinado com 133.000 exemplos, sinaliza conteúdo considerado sensível pelo governo chinês.

O sistema de IA parece projetado para censurar cidadãos chineses online e refinar as habilidades de censura dos modelos de IA chineses. Xiao Qiang, pesquisador da UC Berkeley, confirmou o banco de dados como evidência da intenção do governo chinês de usar LLMs para repressão, melhorando o controle de informações liderado pelo estado.

Censura Impulsionada por IA

Regimes autoritários estão adotando rapidamente a tecnologia de IA. A OpenAI relatou entidades chinesas usando LLMs para rastrear postagens antigovernamentais e difamar dissidentes. A Embaixada Chinesa declarou sua oposição a "ataques infundados" e enfatizou a importância do desenvolvimento ético da IA.

O conjunto de dados, encontrado por NetAskari em um servidor Baidu não seguro, contém entradas recentes de dezembro de 2024. O sistema encarrega LLMs de identificar conteúdo relacionado a tópicos sensíveis, marcando itens de "maior prioridade" para atenção imediata.

Conteúdo Alvo

Tópicos prioritários incluem escândalos de poluição, questões de segurança alimentar, fraude financeira e disputas trabalhistas. Sátiras políticas e menções à política de Taiwan são explicitamente alvos. O conjunto de dados cobre extensivamente assuntos militares, incluindo relatórios de movimentos militares e armamentos.

Os 133.000 exemplos incluem postagens sobre policiais corruptos, pobreza rural e funcionários expulsos por corrupção e "superstições". Comentários sobre os militares de Taiwan e caças chineses também estão presentes.

Dissidência sutil, como anedotas sobre a natureza fugaz do poder, também é alvo. O conjunto de dados é destinado ao "trabalho de opinião pública", sugerindo seu uso pela Administração do Ciberespaço da China (CAC) para censura e propaganda.

O objetivo final é salvaguardar as narrativas do governo chinês online, eliminando pontos de vista alternativos. O presidente Xi Jinping descreveu a internet como a "linha de frente" do "trabalho de opinião pública" do PCC.

O relatório da OpenAI mostrou uso semelhante de IA para monitorar mídias sociais e atacar dissidentes. Enquanto a China tradicionalmente usava algoritmos básicos, a tecnologia de IA como LLMs permite uma detecção mais eficiente de críticas sutis. Xiao Qiang enfatiza a crescente sofisticação da censura impulsionada por IA na China.