Гіганти ШІ закликають зупинити розробку AGI, глобальна думка підтримує регулювання

AI-експерти Джеффрі Хінтон і Йошуа Бенгіо, разом із сотнями вчених, технічних керівників, художників і політиків, випустили заяву з вимогою призупинити розробку штучного загального інтелекту (AGI). Вони стверджують, що AGI може становити серйозну загрозу для людства і має бути заборонений, поки не буде забезпечено безпеку, контрольованість і соціальний консенсус.

Заява була опублікована 22 жовтня на веб-сайті некомерційної організації Інституту майбутнього життя. У ній підкреслюється, що “розробка суперінтелекту повинна бути заборонена без широкого наукового консенсусу та підтримки суспільства.”

Це застереження відображено в недавніх опитуваннях громадської думки. Опитування серед 2000 дорослих у США показало, що 64% підтримують затримку або повну заборону на розробку надлюдського ШІ, що свідчить про глибоке занепокоєння суспільства щодо цієї технології.

Хінтон, який минулого року отримав Нобелівську премію з фізики за свої дослідження в галузі штучного інтелекту, розробив алгоритм зворотного поширення, який є важливим для навчання нейронних мереж. Бенгіо, який розділив премію Тюрінга з Хінтоном, став піонером технік вбудовування та механізмів уваги, які є основою сучасних великих мовних моделей.

Заява також була підписана 4 іншими лауреатами Нобелівської премії, численними видатними професорами, співзасновником Apple Стівом Возняком та такими особами, як принц Гаррі, Меган Маркл і Річард Бренсон, що свідчить про поширення закликів до регулювання ШІ в суспільстві.

Зокрема, двоє нинішніх працівників OpenAI та Anthropic також підписали, незважаючи на потенційний вплив на стратегії розвитку AGI їхніх компаній.

Це є наслідком відкритого листа від червня 2022 року, в якому колишні та нинішні працівники провідних лабораторій штучного інтелекту закликали до більшої корпоративної прозорості та відповідальності щодо ризиків, пов'язаних зі штучним інтелектом.

Уніфікований голос всесвітньо відомих дослідників і лідерів суспільства, які закликають зупинити розвиток AGI, підкреслює зростаюче значення превентивного контролю та соціальної верифікації над безумовним технологічним прогресом. Оскільки вплив ШІ розширюється в повсякденному житті та промисловості, людство повинно встановити нові стандарти розвитку, зосереджені на правах і безпеці.