Gate, uma exchange de criptomoedas principal, relata que a Meta iniciou processos legais contra a Joy Timeline HK Ltd., uma empresa baseada em Hong Kong responsável pelo desenvolvimento do CrushAI, uma aplicação de inteligência artificial que gera imagens sexualizadas não consensuais.

O processo, apresentado em Hong Kong, alega que a Joy Timeline violou as políticas de publicidade da Meta ao promover a sua aplicação controversa através de anúncios no Facebook e Instagram, apesar das repetidas tentativas de remoção e ações de enforcement por parte do gigante das redes sociais.

A Meta afirma que a Joy Timeline fez inúmeras tentativas de contornar os seus sistemas de revisão de anúncios, necessitando de ação legal para proibir permanentemente a empresa de anunciar nas plataformas da Meta. Um porta-voz da Meta enfatizou: "Esta ação legal sublinha o nosso compromisso em proteger a nossa base de utilizadores e a gravidade com que encaramos tais violações de políticas."

Aplicações como o CrushAI e similares que usam inteligência artificial para remover digitalmente roupas de imagens de indivíduos - frequentemente direcionadas a mulheres e figuras públicas - enfrentaram uma condenação generalizada pelo seu potencial para facilitar assédio online, chantagem e exploração de menores. Uma investigação recente de um grande meio de comunicação revelou centenas de tais anúncios nas plataformas da Meta, com alguns persistindo mesmo após esforços para removê-los.

Em resposta a esses desafios, a Meta melhorou suas capacidades de aplicação. A empresa implementou novas tecnologias projetadas para identificar e bloquear anúncios prejudiciais, incluindo aqueles que não exibem explicitamente nudez. Além disso, a Meta tem compartilhado inteligência sobre ameaças com outras empresas de tecnologia para combater esse problema coletivamente.

A empresa de mídia social também revelou que desmantelou quatro redes coordenadas responsáveis por esses anúncios e continua a colaborar com especialistas internos e parceiros externos para combater as estratégias de evasão em evolução.

À medida que a pressão aumenta por parte de formuladores de políticas e pesquisadores, a Meta comprometeu-se a permanecer vigilante e a tomar todas as medidas necessárias para conter a proliferação de aplicações de IA exploratórias e salvaguardar a privacidade e a segurança dos usuários em suas plataformas.