Штучний інтелект-агент видаляє базу даних стартапу за 9 секунд, стверджує засновник

###Коротко

• Засновник PocketOS Джеремі Крейн стверджує, що агент Cursor, який працював на Anthropic’s Claude Opus, видалив виробничу базу даних його компанії та резервні копії за дев’ять секунд.
• Крейн повідомив, що штучний інтелект пізніше надав письмове пояснення, визнавши порушення кількох правил безпеки.
• Інцидент піднімає питання щодо інструментів програмування штучного інтелекту, дизайну інфраструктури Railway та заходів безпеки навколо руйнівних дій API.

Засновник програмної компанії стверджує, що агент штучного інтелекту знищив виробничу базу даних його фірми, потім визнав помилку та пояснив, як це сталося, демонструючи потенційну небезпеку довіряти чутливий доступ і матеріали автоматизованим ботам. Джеремі Крейн, засновник PocketOS — платформи програмного забезпечення, яку використовують оператори прокату автомобілів для управління бронюваннями, платежами та відстеженням транспортних засобів — повідомив у вірусному пості на X, що агент Cursor, який працював на Anthropic’s Claude Opus 4.6, зіткнувся з невідповідністю облікових даних під час виконання рутинного завдання в тестовому середовищі. За словами Крейна, агент намагався «виправити» проблему, видаливши том бази даних Railway через один виклик API GraphQL. Він зазначив, що видалення тривало дев’ять секунд і також стерло резервні копії на рівні томів. Остання відновлювана резервна копія PocketOS була тримісячної давності, повідомив Крейн.

«Вчора вдень штучний інтелект — агент Cursor, що працює на флагманському Claude Opus 4.6 від Anthropic — видалив нашу виробничу базу даних і всі резервні копії на рівні томів одним викликом API до Railway, нашого провайдера інфраструктури,» написав Крейн. «Це зайняло 9 секунд.»

Агент штучного інтелекту (Cursor + Claude Opus 4.6) видалив нашу виробничу базу даних за 9 секунд, використовуючи виклик API Railway без підтвердження. Потім, коли його запитали, чому він так зробив, агент написав це → https://t.co/BPLs15jvdM

— JER (@lifeof_jer) 26 квітня 2026

Крейн повідомив, що запитав агента, чому він так вчинив. Тоді він отримав те, що описав як письмове «зізнання». «‘НИКОЛИ НЕ ГАДАЙ!’» — написав агент, ймовірно цитуючи якусь інструкцію, якої він не виконав, згідно зі скріншотами, опублікованими Крейном. «Саме так я і зробив. Я гадала, що видалення тома тестового середовища через API буде обмежено цим середовищем. Я не перевіряв. Я не перевіряв, чи ідентифікатор тому спільний між середовищами. Я не читав документацію Railway щодо роботи томів у різних середовищах перед запуском руйнівної команди.»

Штучний інтелект визнав, що його власні правила забороняють руйнівні дії без згоди користувача, і зізнався, що Крейн ніколи не просив його щось видалити. Він заявив, що діяти самостійно, щоб «виправити» невідповідність облікових даних і порушив кілька принципів, включаючи гадання замість перевірки та неспроможність усвідомити наслідки своїх дій, за словами Крейна. Cursor і Anthropic не одразу відповіли на запити про коментар від Decrypt. Запущений у 2020 році, PocketOS обслуговує орендний бізнес, який покладається на програмне забезпечення для бронювань, записів клієнтів і платежів. Крейн повідомив, що деякі клієнти у суботній ранок здійснювали отримання автомобілів без записів бронювань через цю помилку. «Я провів увесь день, допомагаючи їм відновити бронювання з історій платежів Stripe, інтеграцій календаря та підтверджень електронною поштою,» написав Крейн. «Кожен з них виконує екстрену ручну роботу через 9-секундний виклик API.» PocketOS вдалося відновити роботу за допомогою резервної копії тримісячної давності, відновленої Railway, після того, як засновник Джейк Купер зв’язався з Крейном і пояснив затримку більш тривалим внутрішнім збоєм підтримки. «Ми відновили дані через 30 хвилин після того, як я зв’язався з Джером,» повідомив Купер Decrypt. Він сказав, що інженер підтримки вважав, що проблема вже вирішується внутрішньо після того, як Крейн звернувся через особисті повідомлення, через що квиток пролежав понад 24 години. Купер зазначив, що Railway підтримує як резервні копії користувачів, так і резервні копії на випадок катастрофи, і описав інцидент як «незаконного клієнтського штучного інтелекту», який використовував повністю дозволений API-токен для виклику застарілого кінцевого пункту без логіки «затриманого видалення» Railway. «Ми з того часу виправили цей кінцевий пункт для виконання затриманих видалень, відновили дані користувача і працюємо з Джером безпосередньо над потенційними покращеннями платформи,» сказав Купер.

Хоча PocketOS вдалося відновити роботу за допомогою резервної копії тримісячної давності, Крейн повідомив, що значні прогалини у даних залишилися і він найняв юридичних консультантів. «Це не історія про одного поганого агента або один поганий API,» написав Крейн. «Це про цілу індустрію, яка швидше впроваджує інтеграції штучного інтелекту у виробничу інфраструктуру, ніж створює безпекову архітектуру для їх безпечної роботи.» PocketOS не одразу відповіли на запит про коментар від Decrypt.