Minnesota Berencana Melarang Aplikasi AI yang Menghasilkan Gambar Telanjang Palsu

Singkatnya

• Pembuat undang-undang Minnesota menyetujui RUU yang melarang alat AI yang menghasilkan gambar telanjang palsu.
• Pelanggar dapat dikenai denda hingga $500.000 per penggunaan dan potensi ganti rugi tiga kali lipat.
• Hukum ini mempertahankan perlindungan Bagian 230 dan akan berlaku mulai 1 Agustus jika disahkan menjadi undang-undang.

Pembuat undang-undang Minnesota telah menyetujui sebuah RUU yang bertujuan menghentikan bentuk penyalahgunaan AI yang semakin berkembang dengan menargetkan platform yang memfasilitasi hal tersebut. Pada hari Kamis, Senat Minnesota memilih 65-0 untuk menyetujui House File 1606, mengirimkannya kepada Gubernur Tim Walz untuk ditandatangani. Langkah ini melarang situs web dan aplikasi dari menawarkan alat yang menghasilkan gambar telanjang palsu yang realistis dari orang yang dapat diidentifikasi. Di bawah RUU ini, perusahaan yang mengendalikan sebuah situs web, aplikasi, atau layanan perangkat lunak tidak boleh mengizinkan pengguna mengakses atau menggunakan alat untuk membuat gambar ini atau menghasilkannya atas nama pengguna. Mengiklankan atau mempromosikan layanan semacam itu juga dilarang.

Langkah ini memungkinkan korban untuk menuntut orang atau perusahaan yang mengoperasikan atau mengendalikan alat nudifikasi, seperti situs web, aplikasi, atau perangkat lunak yang menghasilkan gambar telanjang palsu. Orang yang digambarkan dalam gambar telanjang yang dihasilkan AI dapat mencari ganti rugi, termasuk untuk penderitaan mental, dan pengadilan dapat memberikan hingga tiga kali lipat dari kerugian nyata, bersama dengan ganti rugi hukuman, biaya pengacara, dan perintah untuk menghentikan perilaku tersebut.  RUU ini juga memberi kekuasaan kepada jaksa agung negara bagian untuk menegakkan hukum, dengan sanksi sipil hingga $500.000 per penggunaan. Menurut RUU ini, sanksi tersebut dialokasikan ke dana umum negara bagian dan kemudian dialokasikan untuk layanan korban, termasuk dukungan bagi penyintas kekerasan seksual, kekerasan dalam rumah tangga, dan pelecehan anak. RUU ini menargetkan alat yang membutuhkan sedikit keahlian teknis dan telah menjadi sangat mudah diakses, termasuk oleh anak di bawah umur. Jika disahkan, hukum ini berlaku mulai 1 Agustus dan berlaku untuk kasus baru dari tanggal tersebut ke depan.

Meskipun RUU baru ini tidak menyebutkan satu pengembang AI pun, berita ini muncul setelah serangkaian insiden terkenal di platform sosial X, termasuk pada Agustus 2025, ketika alat xAI Elon Musk, Grok, menghasilkan deepfake telanjang dari Taylor Swift. Superstar pop ini mengajukan merek dagang suaranya dan kemiripannya ke Kantor Paten AS pada bulan April, mungkin sebagai langkah untuk mencegah reproduksi AI di masa depan. Musk juga menghadapi tekanan hukum yang meningkat, termasuk gugatan class action federal yang diajukan oleh tiga anak di Tennessee yang menuduh Grok menghasilkan materi pelecehan seksual anak dari gambar mereka. Selain itu, gugatan perlindungan konsumen dari kota Baltimore mengklaim bahwa perusahaan secara sadar menggunakan sistem yang memproduksi dan menyebarkan konten seksual yang tidak disetujui, termasuk yang melibatkan anak di bawah umur. Presiden Citizens United, Robert Weissman, mengatakan penyebaran alat ini mencerminkan seberapa cepat AI telah menurunkan hambatan untuk menciptakan gambar intim tanpa persetujuan dan memperluas jangkauannya. “Aplikasi ini 99% menargetkan wanita, lebih dari 90% di antaranya berusia di bawah 18 tahun. Ini adalah alat intimidasi dan pelecehan terhadap wanita dengan konsekuensi psikologis yang sangat serius,” kata Weissman kepada Decrypt. “Anda telah melihat ini di seluruh negara dan dunia. Jadi kebutuhan akan intervensi dan regulasi pemerintah sangat mendesak.” Weissman menambahkan bahwa undang-undang tingkat negara bagian dapat berperan bersama upaya federal, terutama dalam hal penegakan hukum. Dia mengatakan bahwa otoritas lokal mungkin lebih mampu bertindak cepat dalam kasus-kasus individual, sementara badan federal mungkin tidak memprioritaskan atau mengejar mereka sama sekali. Hukum Minnesota juga muncul di tengah perjuangan yang sedang berlangsung antara pemerintahan Presiden Donald Trump dan negara bagian mengenai siapa yang harus mengendalikan regulasi AI. Take It Down Act, yang disahkan menjadi undang-undang oleh Presiden Donald Trump pada Mei 2025, mengkriminalisasi distribusi gambar intim tanpa persetujuan dan memberikan jalur bagi korban untuk menuntut ganti rugi sipil. “Saya pikir memiliki standar federal dan negara bagian yang saling melengkapi adalah hal yang positif, terutama secara teori. Kita berbicara tentang sistem penegakan hukum dan badan penegak hukum yang berbeda,” kata Weissman. “Jadi mungkin ada standar federal, tetapi mungkin tidak ada kapasitas federal untuk melakukan tindakan penegakan hukum.” Kantor Gubernur Walz tidak segera menanggapi permintaan komentar dari Decrypt.