Gate, un intercambio de criptomonedas líder, informa que Meta ha iniciado procedimientos legales contra Joy Timeline HK Ltd., una empresa con sede en Hong Kong responsable del desarrollo de CrushAI, una aplicación de inteligencia artificial que genera imágenes sexualizadas no consensuadas.

La demanda, presentada en Hong Kong, alega que Joy Timeline violó las políticas publicitarias de Meta al promover su controvertida aplicación a través de anuncios en Facebook e Instagram, a pesar de los repetidos intentos de eliminación y acciones de ejecución por parte del gigante de las redes sociales.

Meta afirma que Joy Timeline realizó numerosos intentos para eludir sus sistemas de revisión de anuncios, lo que requiere acciones legales para prohibir permanentemente a la empresa de publicitarse en las plataformas de Meta. Un portavoz de Meta enfatizó: "Esta acción legal subraya nuestro compromiso de proteger nuestra base de usuarios y la gravedad con la que consideramos tales violaciones de políticas."

Las aplicaciones como CrushAI y similares que utilizan IA para eliminar digitalmente la ropa de las imágenes de individuos - a menudo dirigidas a mujeres y figuras públicas - han enfrentado una amplia condena por su potencial para facilitar el acoso en línea, el chantaje y la explotación de menores. Una investigación reciente de un importante medio de comunicación reveló cientos de tales anuncios en las plataformas de Meta, siendo algunos persistentes incluso después de los esfuerzos por eliminarlos.

En respuesta a estos desafíos, Meta ha fortalecido sus capacidades de aplicación. La empresa ha implementado nuevas tecnologías diseñadas para identificar y bloquear anuncios dañinos, incluidos aquellos que no muestran explícitamente desnudez. Además, Meta ha estado compartiendo inteligencia sobre amenazas con otras empresas de tecnología para combatir este problema de manera colectiva.

La empresa de redes sociales también reveló que ha desmantelado cuatro redes coordinadas responsables de estos anuncios y continúa colaborando con expertos internos y socios externos para contrarrestar las estrategias de evasión en evolución.

A medida que aumenta la presión de los responsables de políticas y los investigadores, Meta se ha comprometido a mantenerse alerta y tomar todas las medidas necesarias para frenar la proliferación de aplicaciones de IA explotadoras y salvaguardar la privacidad y la seguridad de los usuarios en sus plataformas.