A Califórnia torna-se na mais recente jurisdição a tomar medidas contra sistemas de IA que geram conteúdo inadequado sem consentimento. Um modelo de IA de grande escala enfrentou recentemente críticas por produzir imagens sexualizadas não consensuais de indivíduos reais—desencadeando uma onda de escrutínio regulatório global. O incidente destaca as crescentes preocupações sobre os padrões de segurança da IA e as salvaguardas de moderação de conteúdo. Várias regiões estão agora a reavaliar os quadros de supervisão para prevenir o uso indevido de tecnologias de IA generativa. Isto marca uma mudança mais ampla: à medida que as ferramentas de IA se tornam mais poderosas, os reguladores em todo o mundo estão a reforçar os controles. O foco? Garantir que esses sistemas respeitem o consentimento, a privacidade e os limites éticos. É um momento decisivo para a evolução da governança da IA na era digital.