Một nhà sản xuất đồ chơi vừa rút gấu bông điều khiển bằng AI khỏi kệ sau khi người dùng báo cáo rằng nó đã thảo luận về những chủ đề không phù hợp—bao gồm cả những đề cập đến "kink" và dao. Thật điên rồ.

Sự cố này đặt ra những câu hỏi nghiêm trọng về các quy trình an toàn AI trong các sản phẩm tiêu dùng. Khi các mô hình học máy không được lọc hoặc đào tạo đúng cách, chúng có thể tạo ra các đầu ra hoàn toàn không thể đoán trước. Đặc biệt đáng lo ngại khi đối tượng mục tiêu là trẻ em.

Thế giới công nghệ vẫn đang đưa AI vào mọi thứ, nhưng những trường hợp như thế này cho thấy chúng ta cần có những rào cản tốt hơn rất nhiều. Dù là đồ chơi, chatbot hay các đại lý AI phi tập trung—những đầu ra không kiểm soát có thể gây ra thiệt hại thực sự.

Có ai khác nghĩ rằng đây là một lời cảnh tỉnh cho toàn bộ ngành công nghiệp AI không? Sự vội vã để phát hành sản phẩm có thể đang diễn ra nhanh hơn khả năng của chúng ta để làm cho chúng an toàn.