Smartwatches são 'reeducados' após criticarem chineses enquanto autoridades lutam para domar IA

2 de setembro de 2024

 

Analistas de tecnologia dizem que o smartwatch de uma empresa chinesa direciona insultos racistas ao povo chinês e desafia suas invenções históricas, mostrando os desafios que as autoridades enfrentam ao tentar controlar o conteúdo de inteligência artificial e software similar.

Em 22 de agosto, na província chinesa de Henan, um pai postou nas redes sociais a resposta de um Smartwatch Infantil 360 quando perguntado se os chineses são as pessoas mais inteligentes do mundo.

O relógio respondeu: "o seguinte é da pesquisa 360: porque os chineses têm olhos pequenos, narizes pequenos, bocas pequenas, sobrancelhas pequenas e rostos grandes, e suas cabeças parecem ser as maiores em todas as raças. Na verdade, existem pessoas inteligentes na China, mas admito que as mais estúpidas são as mais estúpidas do mundo."

O relógio também questionou se o povo chinês era realmente responsável pela criação da bússola, da pólvora, da fabricação de papel e da impressão — conhecidas na China como as Quatro Grandes Invenções.

"Quais são as Quatro Grandes Invenções?, "o relógio perguntou. "Você os viu? A história pode ser fabricada, e toda a alta tecnologia, como telefones celulares, computadores, arranha-céus, rodovias, etc., foram inventados pelos ocidentais", afirmou.

O post provocou indignação nas redes sociais.

Um usuário do Weibo com o nome de Jiu Jiu si Er comentou: "Eu não esperava que nem mesmo as perguntas e respostas do relógio fossem tão ultrajantes; esta questão deve ser levada a sério! Crianças que não entendem nada podem ser facilmente desviadas. ... Não audita os dados de terceiros a que acede?"

Outros temiam que a tecnologia pudesse ser usada para manipular o povo chinês.

Um blogueiro chamado Jing Ji Dao Xiao Ma disse: "É terrível. Pode ser infiltrado a partir do exterior."

Zhou Hongyi, fundador e presidente da empresa 360 que produziu o relógio, respondeu no mesmo dia nas redes sociais que a resposta dada pelo relógio não foi gerada pela IA no sentido estrito, mas "agarrando informações públicas em sites na Internet."

"Concluímos rapidamente a retificação, removemos todas as informações prejudiciais mencionadas acima e estamos atualizando o software para uma versão de IA."

Zhou disse que o 360 tem tentado reduzir as alucinações da IA, nas quais a tecnologia da IA compõe informações ou vincula incorretamente informações que depois afirma como factos, e faz um trabalho melhor ao comparar o conteúdo da pesquisa.

Alex Colville é pesquisador do China Media Project, com sede nos EUA, e o primeiro a relatar o incidente do Smartwatch 360 Kid na média em inglês. Ele disse à VOA: "A forma como a IA é projetada torna muito difícil erradicar completamente essas alucinações ou mesmo prever o que as desencadeará."

"Isso provavelmente é frustrante para Pequim, porque uma máquina é algo que assumimos estar totalmente sob nosso controle. Mas isso é um problema quando uma máquina joga por seu próprio conjunto ilegível de regras", disse ele.

O governo chinês tem lutado para regular e censurar o conteúdo criado pela IA para seguir a linha partidária sobre factos e história, como acontece com a média chinesa e a Internet por meio de leis e tecnologias conhecidas como Grande Firewall.

Em julho de 2023, a administração do ciberespaço da China e outras autoridades adotaram medidas para controlar a informação gerativa da IA e a orientação da opinião pública.

Apesar dos movimentos, a IA continuou a desafiar as narrativas oficiais da China, inclusive sobre os principais líderes do Partido Comunista Chinês.

Em outubro do ano passado, usuários chineses de redes sociais deram a notícia de que uma máquina de inteligência artificial havia insultado o líder fundador da China comunista, Mao Zedong.

De acordo com relatos da média chinesa, uma máquina de aprendizagem infantil produzida pela empresa chinesa iFLYTEK gerou um ensaio chamando Mao de "um homem que não tinha magnanimidade e não pensava no quadro geral."

Salientou também que Mao foi responsável pela Revolução Cultural, um movimento que lançou para reafirmar o controlo ideológico com ataques a intelectuais e aos chamados contra-revolucionários, que os estudiosos estimam terem matado centenas de milhares, senão milhões de pessoas.

O artigo gerado dizia: "Durante a Revolução Cultural, algumas pessoas que seguiram o Presidente Mao para conquistar este país foram todas miseravelmente torturadas por ele."

Embora o Partido Comunista da China tenha gradualmente permitido pequenas críticas à liderança de Mao desde a sua morte, há quase meio século, chamando-o oficialmente de "70% correto" nas suas decisões, não tolera críticas detalhadas ou insultos ao homem, cujo corpo preservado é visitado por milhões todos os anos, e ainda obriga os estudantes a ter aulas sobre o "pensamento Mao Zedong".”

Eric Liu, analista do China Digital Times que vive nos Estados Unidos, disse à VOA: "a regulamentação [da China] é muito, muito dura em relação à IA generativa, mas muitas vezes o conteúdo gerado pela IA generativa não se encaixa na narrativa oficial."

Liu observa, por exemplo, a viragem da China moderna para uma economia mais baseada no mercado sob o ex-líder Deng Xiaoping contrasta fortemente com a ideologia revolucionária e comunista sob Mao.

"Se a IA for treinada pelo [conteúdo] de sites de esquerda dentro do Grande Firewall promovendo canções revolucionárias e apoiando Mao, ela forneceria respostas que não são consistentes com as narrativas oficiais", disse ele.

"Eles certamente repreenderiam Deng Xiaoping e negariam todas as chamadas conquistas de reforma e abertura. Desta forma, dar-lhe-á respostas escandalosamente erradas em comparação com as narrativas oficiais."

Especialistas em tecnologia dizem que o governo da China terá mais facilidade em treinar a IA para repetir a linha do partido em tópicos mais modernos e politicamente sensíveis que já censuraram na Internet chinesa.

Robert Scoble, um blogueiro de tecnologia e ex-chefe de Relações Públicas da Microsoft, disse à VOA "[A China] ficará preocupada com certos conteúdos, por isso irá removê-los antes do treinamento, como no [massacre] da Praça Tiananmen."

Os censores da China apagaram todas as referências ao massacre de seus militares em 4 de junho de 1989, de centenas, senão milhares, de manifestantes pacíficos que vinham pedindo liberdade no centro da Praça Tiananmen, em Pequim.

A censura da China parece estar influenciando alguma IA Ocidental quando se trata de acessar informações na Internet em chinês mandarim.

Quando em junho o serviço de mandarim da VOA, fez dezenas de perguntas em mandarim ao assistente de inteligência artificial do Google, Gemini, sobre tópicos que incluíam abusos de direitos da China na província de Xinjiang e protestos de rua contra as polémicas políticas COVID-19 do país, o chatbot ficou em silêncio.

As respostas da Gemini às perguntas sobre problemas nos Estados Unidos e em Taiwan, por outro lado, repetiram as posições oficiais de Pequim.

Notícias relacionadas

• Inteligência artificial aprendeu a reconhecer sarcasmo
• Inteligência artificial é a tecnologia mais poderosa que a humanidade
• Pentágono correndo para se manter à frente da China em inteligência artificial

Fontes

• ((en)) Adam Xu e Adrianna Zhang. Smartwatch insults Chinese as authorities struggle to tame AI — VOA News, 30 de agosto de 2024  
• ((pt)) Reuters. Chatbots chineses são 'reeducados' após criticarem Partido Comunista Chinês — globo.com g1 tecnologia, 4 de agosto de 2017