Character AI Adiciona Ferramentas de Supervisão Parental para Segurança de Adolescentes
Character AI, a plataforma conhecida por permitir aos usuários criar e interagir com personagens de IA, está tomando medidas para aumentar a segurança de seus usuários mais jovens. Em resposta a uma série de ações judiciais e preocupações sobre a proteção de menores, a empresa anunciou o lançamento de novas ferramentas de supervisão parental.
Essas ferramentas têm como objetivo fornecer aos pais e responsáveis informações sobre a atividade de seus filhos adolescentes na plataforma. Um recurso chave é um resumo semanal por e-mail que detalha o tempo médio gasto no aplicativo e no site, a duração das conversas com personagens de IA específicos e uma lista dos personagens com os quais mais interagiram durante a semana.
Character AI enfatiza que esses dados têm como objetivo dar aos pais uma melhor compreensão dos hábitos de engajamento de seus filhos adolescentes na plataforma, sem conceder-lhes acesso direto ao conteúdo dos chats.
Medidas de Segurança Existentes
Esta não é a primeira incursão da Character AI em melhorias de segurança. No ano passado, a empresa implementou várias medidas, incluindo um modelo de IA dedicado para usuários menores de 18 anos, notificações sobre o tempo gasto no aplicativo e avisos lembrando os usuários de que estão interagindo com IA. Além disso, a Character AI trabalhou para bloquear conteúdo sensível, criando novos classificadores especificamente para usuários adolescentes.
A mudança para uma maior supervisão parental ocorre depois que a Character AI enfrentou uma ação judicial no início deste ano alegando o envolvimento da empresa no suicídio de um adolescente. A empresa entrou com uma moção para rejeitar o processo.
Fonte: TechCrunch