Gate, một sàn giao dịch tiền điện tử dẫn đầu, báo cáo rằng Meta đã khởi xướng các thủ tục pháp lý chống lại Joy Timeline HK Ltd., một công ty có trụ sở tại Hồng Kông chịu trách nhiệm phát triển CrushAI, một ứng dụng trí tuệ nhân tạo tạo ra hình ảnh tình dục không có sự đồng ý.

Đơn kiện, được nộp tại Hồng Kông, cáo buộc rằng Joy Timeline đã vi phạm các chính sách quảng cáo của Meta bằng cách quảng bá ứng dụng gây tranh cãi của họ thông qua các quảng cáo trên Facebook và Instagram, bất chấp việc nhiều lần bị gỡ bỏ và các biện pháp thực thi của gã khổng lồ mạng xã hội.

Meta tuyên bố rằng Joy Timeline đã thực hiện nhiều nỗ lực để vượt qua hệ thống xem xét quảng cáo của họ, điều này cần thiết phải có hành động pháp lý để cấm vĩnh viễn công ty này quảng cáo trên các nền tảng của Meta. Một người phát ngôn của Meta nhấn mạnh, "Hành động pháp lý này nhấn mạnh cam kết của chúng tôi trong việc bảo vệ cơ sở người dùng và mức độ nghiêm trọng mà chúng tôi nhìn nhận đối với những vi phạm chính sách như vậy."

CrushAI và các ứng dụng "nudify" tương tự, sử dụng AI để loại bỏ quần áo một cách kỹ thuật số từ hình ảnh của các cá nhân - thường nhắm đến phụ nữ và các nhân vật công chúng - đã phải đối mặt với sự chỉ trích rộng rãi vì khả năng của chúng trong việc tạo điều kiện cho việc quấy rối trực tuyến, tống tiền và khai thác trẻ vị thành niên. Một cuộc điều tra gần đây của một hãng tin lớn đã tiết lộ hàng trăm quảng cáo như vậy trên các nền tảng của Meta, với một số quảng cáo vẫn tồn tại ngay cả sau những nỗ lực để gỡ bỏ chúng.

Để đối phó với những thách thức này, Meta đã tăng cường khả năng thực thi của mình. Công ty đã triển khai các công nghệ mới nhằm xác định và chặn các quảng cáo gây hại, bao gồm cả những quảng cáo không hiển thị khiêu dâm một cách rõ ràng. Thêm vào đó, Meta đã chia sẻ thông tin về các mối đe dọa với các công ty công nghệ khác để cùng nhau giải quyết vấn đề này.

Công ty truyền thông xã hội cũng tiết lộ rằng họ đã triệt phá bốn mạng lưới phối hợp chịu trách nhiệm cho những quảng cáo này và tiếp tục hợp tác với cả chuyên gia nội bộ và đối tác bên ngoài để đối phó với những chiến lược lẩn tránh đang phát triển.

Khi áp lực từ các nhà hoạch định chính sách và các nhà nghiên cứu gia tăng, Meta đã cam kết sẽ luôn cảnh giác và thực hiện tất cả các biện pháp cần thiết để hạn chế sự phát triển của các ứng dụng AI khai thác và bảo vệ quyền riêng tư cũng như an toàn của người dùng trên các nền tảng của mình.