Meta usará IA para avaliação de riscos de produtos
A Meta planeja uma mudança significativa em seu processo de avaliação de risco de produtos. Em vez de depender principalmente de revisores humanos, a empresa está recorrendo cada vez mais à inteligência artificial para acelerar a avaliação de potenciais danos associados a novos recursos e atualizações em suas plataformas, incluindo Instagram e WhatsApp.
Documentos internos sugerem que a Meta pretende que a IA lide com até 90% dessas avaliações. Isso inclui áreas anteriormente supervisionadas por equipes humanas, como risco para jovens e integridade do conteúdo (incluindo conteúdo violento e desinformação).
Preocupações Sobre a Supervisão da IA
No entanto, essa transição gerou preocupações entre funcionários atuais e antigos. Eles expressam apreensão de que a IA possa ignorar riscos críticos facilmente identificáveis por revisores humanos. O potencial para aumento de externalidades negativas resultantes de um escrutínio menos rigoroso é uma preocupação significativa.
Embora a Meta afirme que continuará a utilizar a experiência humana para questões complexas, a crescente dependência da IA para decisões de "baixo risco" levanta questões sobre a robustez dessa abordagem. A velocidade e a eficiência oferecidas pela IA são inegáveis, mas a compensação em termos de potencial supervisão permanece um ponto de discórdia.
Relatórios de integridade recentes da Meta revelam uma diminuição na remoção de conteúdo após mudanças de políticas, juntamente com um leve aumento em bullying, assédio e conteúdo violento. Esses dados alimentam ainda mais a discussão sobre as potenciais consequências da mudança para um sistema de revisão mais centrado em IA.
1 Imagem de Mudança IA Meta:
Fonte: Engadget