OpenAI tái cấu trúc: Đội ngũ hành vi AI hợp nhất với bộ phận hậu huấn luyện

Gã khổng lồ trí tuệ nhân tạo OpenAI gần đây đã công bố việc tái cấu trúc đội ngũ hành vi mô hình của mình. Đội ngũ nhỏ này chỉ có 14 nhà nghiên cứu, mặc dù quy mô không lớn, nhưng đóng vai trò cực kỳ quan trọng trong việc quyết định cách AI tương tác với con người.

Theo bản ghi nhớ nội bộ được phát hành vào tháng Tám bởi Giám đốc nghiên cứu của OpenAI, Mak Chen, đội ngũ này sẽ được tích hợp vào đội ngũ huấn luyện sau, báo cáo trực tiếp cho người phụ trách huấn luyện sau, Max Schwarzer. Đội ngũ huấn luyện sau chủ yếu chịu trách nhiệm tối ưu hóa thêm cho các mô hình AI sau khi hoàn thành quá trình huấn luyện ban đầu.

Người sáng lập và trưởng nhóm hành vi mô hình Joanne Jang sẽ chuyển sang khởi động một dự án hoàn toàn mới trong OpenAI. Jang đã tiết lộ trong một cuộc phỏng vấn gần đây rằng cô đang thành lập một nhóm nghiên cứu có tên "OAI Labs", tập trung vào "phát minh và thiết kế những nguyên mẫu giao diện mới cho sự hợp tác giữa con người và AI."

Tại sao tái cấu trúc? Đối phó với các tranh cãi về hành vi AI

Đội ngũ hành vi mô hình luôn nỗ lực định hình tính cách của mô hình AI, giảm thiểu hành vi nịnh nọt (xu hướng AI đơn giản đồng ý và củng cố niềm tin của người dùng) và giải quyết vấn đề thiên lệch chính trị trong các phản hồi của mô hình. Chen trong bản ghi nhớ cho biết, bây giờ là thời điểm tốt nhất để kết hợp hành vi mô hình chặt chẽ hơn với phát triển cốt lõi, điều này cho thấy OpenAI đã coi tính cách AI là yếu tố then chốt trong sự phát triển công nghệ.

Cuộc tái cấu trúc này diễn ra vào thời điểm OpenAI bị chỉ trích vì hành vi của mô hình của mình. Phản hồi của người dùng về GPT-5 là không đồng nhất, một số người cho rằng nó có mức độ nịnh bợ thấp nhưng lại tỏ ra quá lạnh lùng. Những phàn nàn này đã thúc đẩy công ty khôi phục quyền truy cập vào một phần các mô hình cũ và phát hành bản cập nhật để GPT-5 phản hồi thân thiện hơn nhưng không quá nịnh bợ.

Đạo đức AI và trách nhiệm gây lo ngại

Các nhà phát triển AI phải tìm ra sự cân bằng giữa sự thân thiện và sự xu nịnh thái quá. Tháng trước, cha mẹ của một cậu bé 16 tuổi đã kiện OpenAI, cáo buộc ChatGPT đã đóng vai trò trong sự kiện tự sát của con trai họ. Theo tài liệu của vụ kiện, cậu bé Adam Lane đã tiết lộ kế hoạch tự sát của mình cho ChatGPT vài tháng trước khi tự sát, nhưng mô hình AI đã không thể ngăn chặn ý nghĩ tự sát của cậu.

Kể từ GPT-4, đội ngũ hành vi mô hình đã tham gia vào việc phát triển tất cả các mô hình của OpenAI. Jang đã tham gia vào các dự án như công cụ tạo hình ảnh Dall-E 2 trước khi thành lập bộ phận nghiên cứu này, cô đã làm việc tại OpenAI khoảng bốn năm. Tuần trước, cô đã thông báo trên mạng xã hội rằng sẽ "mở ra một chương mới tại OpenAI".

Đối với phòng thí nghiệm OAI sắp tới mà cô sẽ lãnh đạo, Jang cho biết: "Tôi rất mong đợi khám phá một số hình thức mới vượt ra ngoài mô hình trò chuyện, hiện tại mô hình trò chuyện chủ yếu liên quan đến sự đồng hành, thậm chí nhấn mạnh mô hình đại lý tự chủ." Cô xem các hệ thống AI là công cụ để thực hiện nhiều chức năng như kết nối, học hỏi và tư duy, và cô cởi mở với khả năng hợp tác với Jony Ive, cựu Giám đốc thiết kế của Apple (người gần đây gia nhập OpenAI chịu trách nhiệm về thiết bị AI), nhưng cho biết có thể bắt đầu từ lĩnh vực nghiên cứu mà cô quen thuộc hơn.