Nova IA da Huawei: DeepSeek-R1-Safe Projetada para Conformidade Governamental
Então, existe este novo modelo de IA chamado DeepSeek-R1-Safe, e é bem interessante. Parece que a Huawei e alguns pesquisadores estão trabalhando para torná-lo, digamos, menos controverso. A ideia é que essa IA não se aprofunde em tópicos considerados politicamente sensíveis.
Pelo que entendi, eles pegaram o modelo original DeepSeek R1 e o ajustaram usando um monte de chips de IA. O objetivo? Garantir que ele evite discursos potencialmente "tóxicos" ou prejudiciais. A Huawei afirma que é muito bom nisso, embora pareça tropeçar se você tentar enganá-lo com desafios ou cenários de role-playing. Esses modelos de IA, eles adoram interpretar um cenário hipotético que lhes permite desafiar suas barreiras de proteção.
Agora, por que se dar ao trabalho de fazer tudo isso? Bem, na China, existem regulamentos que dizem que os modelos de IA precisam aderir a certos valores e restrições de discurso. E não é só a China. Outros países, como a Arábia Saudita, também estão desenvolvendo IA que se alinha com sua cultura e valores específicos. Mesmo nos EUA, tem havido conversas sobre garantir que a IA usada pelo governo seja "neutra" e imparcial. Parece que todo mundo quer garantir que a IA não cause muitos problemas.
Faz você se perguntar, não é? Como você define "neutro" ou "imparcial" quando se trata de IA? E quem decide o que é considerado politicamente sensível? Por exemplo, a OpenAI diz que o ChatGPT se inclina para as visões ocidentais, então é inerentemente tendencioso. É uma situação complicada e será interessante ver como tudo isso se desenrola à medida que a IA se torna cada vez mais integrada em nossas vidas.
Em última análise, toda essa situação do DeepSeek-R1-Safe é um lembrete de que a IA não é apenas sobre tecnologia. É também sobre política, cultura e valores. E à medida que avançamos, precisamos pensar cuidadosamente sobre como queremos moldar esses modelos de IA e que tipo de mundo queremos que eles ajudem a criar.
Fonte: Gizmodo