Anthropic mengumumkan sebuah model bulan ini bernama Claude Mythos. Dikatakan terlalu berbahaya untuk dirilis.


Mereka menguncinya di balik koalisi yang diverifikasi yang terdiri dari AWS, Apple, Microsoft, Google, dan JPMorgan dengan harga lima kali lipat dari model terbaik mereka berikutnya.
Tawaran utamanya adalah bahwa model ini menemukan kerentanan perangkat lunak yang belum pernah ditemukan oleh manusia maupun AI sebelumnya.
Dua minggu kemudian, seorang peneliti keamanan menemukan bug yang sama yang dipamerkan Anthropic sebagai bukti dan memberikannya ke model kecil, murah, dan terbuka yang bisa dijalankan siapa saja.
Setiap model tersebut menemukan bug utama tersebut. Sebuah model dengan bobot terbuka dari laboratorium China juga memperhatikan sesuatu yang tidak disebutkan dalam pengumuman Anthropic: bug ini dapat menyebar melalui worm.
Bug ini menyebar dari satu mesin ke mesin lain secara otomatis.
Itulah perbedaan antara cacat serius dan sesuatu yang bisa membuat rumah sakit di 150 negara lumpuh dalam satu akhir pekan.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Sematkan