Character.AI обмежує відкриті чати для користувачів до 18 років та впроваджує заходи безпеки

У короткому викладі

Компанія Character AI оголосила, що заборонить будь-кому молодше 18 років мати безстрокові бесіди зі своїми чат-ботами на основі штучного інтелекту, починаючи з кінця листопада, після юридичного тиску з боку законодавців та сімей, які стверджують, що платформа призвела до смертей підлітків.

Платформа чат-ботів на основі ШІ, Character.AI, оголосила, що користувачі віком до 18 років більше не зможуть брати участь у відкритих розмовах з її чат-ботами на основі ШІ, у зв'язку з занепокоєнням з боку законодавців та сімей щодо потенційних ризиків для підлітків.

Зміни планується ввести до 25 листопада. Тим часом платформа планує запровадити модифікований досвід для користувачів до 18 років, що дозволить їм продовжувати творчі заняття, такі як створення відео, історій та інтерактивних трансляцій з Персонажами. Під час цього переходу сесії чату для користувачів до 18 років будуть обмежені двома годинами на день, з подальшим скороченням часу, яке очікується в тижнях, що передують повному впровадженню.

Крім того, Character.AI впровадить нові заходи вікової перевірки, щоб забезпечити надання користувачам функцій, відповідних їхньому віку. Компанія розробила внутрішню систему вікової перевірки та інтегрує її з інструментами третіх сторін, включаючи Persona, щоб підвищити точність і надійність.

Платформа також оголосила про створення та фінансування Лабораторії безпеки штучного інтелекту, незалежної некомерційної організації, присвяченої підвищенню безпекового відповідності в розвагах на основі ШІ. Лабораторія зосередиться на розробці інноваційних підходів до безпеки, співпраці з зовнішніми експертами та обміні результатами досліджень. Character.AI має намір надати лабораторії той же рівень уваги до безпеки розваг на основі ШІ, як це застосовується до інших застосувань ШІ, і планує залучити технологічні компанії, академіків, дослідників та політиків до цієї ініціативи.

Character.AI оновлює платформу для підлітків, щоб підвищити безпеку молоді на фоні регуляторних занепокоєнь

Character.AI оголосила про зміни на своїй платформі для користувачів до 18 років у відповідь на зростаючі занепокоєння щодо взаємодії з підлітками. Нещодавні звіти та запити від регуляторів підкреслили потенційні ризики, пов'язані з відкритими AI-розмовами, навіть коли є контроль за вмістом. Після перегляду відгуків від регуляторів, спеціалістів з безпеки та батьків компанія вирішила, що модифікація досвіду для користувачів до 18 років є необхідною для кращого захисту молодих користувачів.

Ці корективи є значними кроками для платформи і загалом є більш обережними, ніж заходи, вжиті подібними сервісами. Мета полягає в тому, щоб пріоритетом була безпека підліткових користувачів, одночасно забезпечуючи можливості для творчості, дослідження та взаємодії. Character.AI має намір і надалі співпрацювати з експертами з безпеки, регуляторними органами та іншими зацікавленими сторонами, щоб забезпечити, що захист користувачів залишається в центрі уваги під час розвитку нових функцій, які заохочують творче самовираження та взаємодію в спільноті.

Character.AI — це платформа розмовного штучного інтелекту, яка дозволяє користувачам взаємодіяти з AI-управляними персонажами або ботами, що працюють на основі великих мовних моделей.