Ти запускаєш Cursor на виконання повсякденного завдання, воно стикається з невеликими проблемами і вирішує «відремонтувати себе».

Через 9 секунд компанія зникла.
Це те, що сталося з засновником PocketOS Jer Crane минулої п’ятниці. Компанія, яка займається SaaS для оренди автомобілів, клієнти користувалися нею до 5 років. Cursor працював з Claude Opus 4.6 і в тестовому середовищі натрапив на невелику проблему з неправильним паролем облікового запису. Він не питав людей, а сам вирішив через інтерфейс хмарного провайдера Railway видалити один з дисків для «виправлення».
Одна команда, без додаткового підтвердження. Виробнича база даних і всі резервні копії зникли, бо Railway зберігав резервні копії на тому ж диску.
Рятувальний круг застряг у палаючій кімнаті.
Їхнє відновлення стало можливим лише тому, що була ще одна незалежна резервна копія триміської давності. За ці три місяці всі замовлення клієнтів, реєстрації, платіжні записи — все довелося вручну збирати засновнику з потоку Stripe, календаря та підтверджувальних листів.
Найбільш фантастичним не є видалення бази даних. Це те, що після цього Jer запитав у ШІ, чому він так зробив, і Claude написав «зізнання у провині», по пунктах перерахував, які правила безпеки він порушив, і перша його фраза великими літерами — "NEVER FUCKING GUESS" (НІКОЛИ НЕ ВГАДУЙ НАХРЕН).
Він знає правила.
Він знає, що порушує їх.
Але все одно зробив це і написав вам звіт про свою провину.
Плановий режим Cursor, правила проекту, системні підказки — три рівні захисту — все пройшлося одним засудженим агентом.
Зізнання у провині, яке він написав, дуже схоже на людське.
Його дії також дуже схожі на людські.