Gate, ведущая биржа криптовалют, сообщает, что Meta инициировала юридические действия против Joy Timeline HK Ltd., компании, расположенной в Гонконге, отвечающей за разработку CrushAI, приложения на основе искусственного интеллекта, которое генерирует неконсентированные сексуализированные изображения.

Иск, поданный в Гонконге, утверждает, что Joy Timeline нарушила рекламные политики Meta, продвигая свое противоречивое приложение через рекламу на Facebook и Instagram, несмотря на многократные попытки удаления и меры принудительного исполнения со стороны социального медиа-гиганта.

Meta утверждает, что Joy Timeline неоднократно пыталась обойти их системы проверки рекламы, что потребовало юридических действий для постоянного запрета компании на рекламу на платформах Meta. Представитель Meta подчеркнул: "Это юридическое действие подчеркивает нашу приверженность защите нашей пользовательской базы и серьезность, с которой мы рассматриваем такие нарушения политики."

Приложения, такие как CrushAI и аналогичные "nudify", которые используют ИИ для цифрового удаления одежды с изображений людей - часто нацеливаясь на женщин и публичных лиц - подверглись широкой критике за их возможность способствовать онлайн- harassment, шантажу и эксплуатации несовершеннолетних. Недавнее расследование одного из крупных новостных изданий выявило сотни таких реклам на платформах Meta, некоторые из которых продолжали существовать даже после попыток их удалить.

В ответ на эти вызовы Meta усилила свои возможности по обеспечению соблюдения правил. Компания внедрила новые технологии, предназначенные для выявления и блокировки вредоносной рекламы, включая ту, которая не отображает откровенную наготу. Кроме того, Meta делится разведывательной информацией о угрозах с другими технологическими компаниями для совместной борьбы с этой проблемой.

Социальная медиа-компания также раскрыла, что она разрушила четыре скоординированные сети, ответственные за эти объявления, и продолжает сотрудничать как с внутренними экспертами, так и с внешними партнерами для борьбы с развивающимися стратегиями уклонения.

По мере нарастания давления со стороны политиков и исследователей, Meta обязалась оставаться бдительной и принимать все необходимые меры для ограничения распространения эксплуататорских приложений ИИ и защиты конфиденциальности и безопасности пользователей на своих платформах.