Các gã khổng lồ AI kêu gọi tạm dừng phát triển AGI, dư luận toàn cầu ủng hộ quy định

Các nhà trí thức AI Geoffrey Hinton và Yoshua Bengio, cùng với hàng trăm nhà khoa học, giám đốc công nghệ, nghệ sĩ và chính trị gia, đã đưa ra một tuyên bố kêu gọi ngừng phát triển trí tuệ nhân tạo tổng quát (AGI). Họ lập luận rằng AGI có thể gây ra mối đe dọa nghiêm trọng đối với nhân loại và nên bị cấm cho đến khi an toàn, khả năng kiểm soát và sự đồng thuận xã hội được đảm bảo.

Tuyên bố đã được phát hành vào ngày 22 tháng 10 thông qua trang web của tổ chức phi lợi nhuận Future of Life Institute. Nó nhấn mạnh rằng “sự phát triển của siêu trí tuệ nên bị cấm nếu không có sự đồng thuận khoa học rộng rãi và sự ủng hộ của công chúng.”

Cảnh báo này được phản ánh trong các cuộc thăm dò ý kiến gần đây. Một cuộc khảo sát với 2.000 người lớn tại Mỹ cho thấy 64% ủng hộ việc hoãn lại hoặc hoàn toàn cấm phát triển AI siêu nhân, cho thấy nỗi lo ngại sâu sắc của công chúng về công nghệ này.

Hinton, người đã giành giải Nobel Vật lý năm ngoái cho nghiên cứu AI của mình, đã phát triển thuật toán lan truyền ngược rất quan trọng cho việc học của mạng nơ-ron. Bengio, người đã chia sẻ Giải Turing với Hinton, là người tiên phong trong các kỹ thuật nhúng và cơ chế chú ý, nền tảng cho các mô hình ngôn ngữ lớn ngày nay.

Tuyên bố này cũng được ký bởi 4 giải Nobel khác, nhiều giáo sư nổi bật, đồng sáng lập Apple Steve Wozniak, và các nhân vật như Hoàng tử Harry, Meghan Markle và Richard Branson, cho thấy sự lan rộng của các yêu cầu về quy định AGI trong xã hội.

Đáng chú ý, hai nhân viên hiện tại của OpenAI và Anthropic cũng đã ký, mặc dù có thể ảnh hưởng đến chiến lược phát triển AGI của các công ty họ.

Điều này theo sau một bức thư ngỏ vào tháng 6 năm 2022, nơi các nhân viên cũ và hiện tại của các phòng thí nghiệm AI hàng đầu kêu gọi nhiều sự minh bạch và trách nhiệm hơn từ các tập đoàn liên quan đến rủi ro AI.

Lời kêu gọi thống nhất của các nhà nghiên cứu nổi tiếng thế giới và các nhà lãnh đạo xã hội yêu cầu ngừng phát triển AGI nhấn mạnh tầm quan trọng ngày càng tăng của việc kiểm soát chủ động và xác minh xã hội so với tiến bộ công nghệ vô điều kiện. Khi ảnh hưởng của AI mở rộng qua đời sống hàng ngày và ngành công nghiệp, nhân loại phải thiết lập các tiêu chuẩn phát triển mới tập trung vào quyền lợi và an toàn.