主要社交媒體平台面臨越來越大的壓力，因為用戶對AI生成內容濫用的投訴不斷增加。在廣泛的用戶投訴深偽和非自願圖像生成功能後，這些平台被迫收緊控制措施。一個領先的社交平台宣布將禁用其生成式AI圖像工具，禁止在未經許可的情況下操縱真實個人照片。此舉反映出對數位隱私、同意以及人工智慧技術潛在濫用的日益關注。監管機構和民權團體越來越多地審查平台如何處理敏感的AI功能，尤其是那些影響個人圖像和身份保護的技術。