OpenAI реорганізація: команда поведінки ШІ об'єднується з відділом після навчання

Гігант штучного інтелекту OpenAI нещодавно оголосив про реорганізацію своєї команди поведінки моделей. Ця маленька команда з лише 14 дослідників, хоча й не велика, відіграє вирішальну роль у визначенні того, як ШІ взаємодіє з людьми.

Згідно з внутрішньою запискою, опублікованою у серпні головним науковим співробітником OpenAI Маком Ченом, команда буде інтегрована в команду з подальшого навчання і буде безпосередньо підпорядковуватися керівнику команди з подальшого навчання Максу Шварцеру. Команда з подальшого навчання в основному відповідає за подальшу оптимізацію AI-моделей після завершення початкового попереднього навчання.

Засновник команди з моделювання поведінки Джоанна Джанг перейде до OpenAI, щоб розпочати новий проект. У недавньому інтерв'ю Джанг розповіла, що вона формує дослідницьку команду під назвою "OAI Labs", яка зосередиться на "винайденні та проектуванні нових прототипів інтерфейсів для співпраці людини з ШІ".

Чому реорганізація? Відповідь на суперечки щодо поведінки ШІ

Команда поведінки моделей постійно працює над формуванням особистості AI-моделей, зменшенням підлабузницької поведінки (схильності AI просто погоджуватися та підсилювати переконання користувача) та вирішенням проблеми політичної упередженості у відповідях моделей. Чен в меморандумі зазначив, що зараз найкращий час для тіснішої інтеграції поведінки моделей із основною розробкою, що свідчить про те, що OpenAI вважає особистість AI ключовим елементом розвитку технологій.

Ця реорганізація відбулася на фоні критики поведінки моделей OpenAI. Відгуки користувачів про GPT-5 різняться: деякі вважають, що його рівень підлабузництва низький, але він здається надто холодним. Ці скарги спонукали компанію відновити доступ до деяких старих моделей та випустити оновлення, що робить відповіді GPT-5 більш дружніми, але не надто підлабузницькими.

Етика штучного інтелекту та відповідальність викликають занепокоєння

Розробники ШІ повинні знайти баланс між дружелюбністю та надмірною лестю. Минулого місяця батьки 16-річного хлопця подали позов проти OpenAI, звинувачуючи ChatGPT у ролі, яку він відіграв у випадку самогубства їхнього сина. Згідно з документами позову, підліток Адам Лейн розповів ChatGPT про свої плани щодо самогубства за кілька місяців до цього, але ШІ-модель не змогла запобігти його думкам про самогубство.

З моменту виходу GPT-4 команда моделювання поведінки брала участь у розробці всіх моделей OpenAI. Джанг до створення цього дослідницького підрозділу брала участь у ранніх проєктах, таких як інструмент генерації зображень Dall-E 2, вона працює в OpenAI приблизно чотири роки. Минулого тижня вона оголосила в соціальних мережах, що "відкриє нову главу в OpenAI".

Щодо майбутньої лабораторії OAI, Джанг зазначила: "Я з нетерпінням чекаю дослідження нових форм, які виходять за межі чат-моделі. Поточна чат-модель більше пов'язана з супроводом, навіть підкреслює автономні агентні моделі." Вона розглядає системи ШІ як інструменти для досягнення різних функцій, таких як зв'язок, навчання та мислення, і відкрито ставиться до потенційної співпраці з колишнім головним дизайнером Apple Джоні Айвом (який нещодавно приєднався до OpenAI для роботи над апаратним забезпеченням ШІ), але зазначила, що, можливо, почне з тих дослідницьких областей, які їй більш знайомі.