Gate, une plateforme d'échange de cryptomonnaies leading, rapporte que Meta a engagé des poursuites judiciaires contre Joy Timeline HK Ltd., une entreprise basée à Hong Kong responsable du développement de CrushAI, une application d'intelligence artificielle qui génère des images sexualisées non consensuelles.

Le recours, déposé à Hong Kong, allègue que Joy Timeline a violé les politiques publicitaires de Meta en promouvant leur application controversée par le biais de publicités sur Facebook et Instagram, malgré des tentatives répétées de suppression et des actions d'exécution de la part du géant des médias sociaux.

Meta affirme que Joy Timeline a tenté à plusieurs reprises de contourner ses systèmes de révision des publicités, ce qui a nécessité une action en justice pour interdire définitivement à l'entreprise de faire de la publicité sur les plateformes de Meta. Un porte-parole de Meta a souligné : "Cette action en justice souligne notre engagement à protéger notre base d'utilisateurs et la gravité avec laquelle nous considérons de telles violations de politique."

Les applications CrushAI et similaires de "nudification", qui utilisent l'IA pour retirer numériquement des vêtements des images d'individus - souvent en ciblant des femmes et des figures publiques - ont fait l'objet d'une condamnation généralisée en raison de leur potentiel à faciliter le harcèlement en ligne, le chantage et l'exploitation des mineurs. Une enquête récente menée par un grand média a révélé des centaines de telles publicités sur les plateformes de Meta, certaines persistant même après des efforts pour les retirer.

En réponse à ces défis, Meta a renforcé ses capacités d'application. L'entreprise a mis en place de nouvelles technologies conçues pour identifier et bloquer les publicités nuisibles, y compris celles qui n'affichent pas explicitement de nudité. De plus, Meta a partagé des renseignements sur les menaces avec d'autres entreprises technologiques pour lutter collectivement contre ce problème.

La société de médias sociaux a également révélé qu'elle avait démantelé quatre réseaux coordonnés responsables de ces publicités et continue de collaborer avec des experts internes et des partenaires externes pour contrer les stratégies d'évasion évolutives.

Alors que la pression monte de la part des décideurs et des chercheurs, Meta s'est engagé à rester vigilant et à prendre toutes les mesures nécessaires pour freiner la prolifération des applications d'IA exploitantes et protéger la vie privée et la sécurité des utilisateurs sur ses plateformes.