Модель Anthropic рівня міфу Claude Mythos не доступна для публіки

Anthropic сьогодні оголосила план: Project Glasswing (план «Glasswing»), причиною для запуску якого стало те, що Anthropic підготувала абсолютно нову надпотужну модель Claude Mythos Preview — це, по суті, та сама модель, про яку йшлося в протіканні коду, згаданому в останні дні.

У проєкті беруть участь Amazon AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, NVIDIA, Palo Alto Networks, а також сама Anthropic — разом 12 установ, які спільно ініціювали проєкт.

Якщо сказати простими словами: через те, що ця модель надто потужна, вони запроваджують режим безпекового тестування — надають доступ лише авторизованим установам для внутрішнього використання, не відкриваючи її назовні. Наскільки вона потужна — дивіться напряму дані, можливості в коді та в логіці/міркуванні б’ють opus 4.6:

Код:

Міркування:

Пошук і використання комп’ютера

Слово opus буквально означає «шедевр», Mythos буквально означає «міф». Генеральний директор Anthropic та ціла низка партнерів і поважних керівників вийшли, щоб підтримати цей план.

Anthropic чітко заявляє, що не планує відкривати Claude Mythos Preview для публіки. Але довгострокова мета — щоб користувачі могли безпечно використовувати моделі з таким самим рівнем можливостей. Заради цього вони планують спочатку розробити та перевірити відповідні механізми безпеки на найближчій моделі Claude Opus, виконати ітерації в умовах, коли ризики контрольовані, а потім поступово рухатися далі — можливо, дуже скоро буде випущено нову версію opus, яка надасть відповідні можливості.

Давайте детально подивимось, що саме таке Project Glasswing

Що виявила ця модель?

Протягом останніх кількох тижнів Anthropic за допомогою Claude Mythos Preview сканувала провідні операційні системи, браузери та інші важливі програми у світі.

Результат: виявлено тисячі раніше невідомих уразливостей нульового дня, причому значна частина була віднесена до категорії високого ризику.

Кілька конкретних прикладів:

В OpenBSD — уразливість, що існувала 27 років. OpenBSD відома своєю безпекою і використовується для роботи таких критично важливих інфраструктур, як фаєрволи. Ця уразливість дозволяє атакувальнику, лише під’єднавшись до цільової машини, спричинити її віддалене аварійне завершення.

У FFmpeg — уразливість, що існувала 16 років. FFmpeg використовується безліччю програм для відео-кодування/декодування. Рядок коду, у якому модель знайшла уразливість, раніше було проскановано автоматизованими інструментами тестування 5 мільйонів разів — але її так і не виявили.

У ядрі Linux модель автономно виявила та «скомпонувала» кілька уразливостей, тож атакувальник може підвищити права від звичайного користувача до повного контролю над усією машиною.

Усі ці уразливості вже повідомлено відповідним підтримувачам програмного забезпечення, і всі вони вже виправлені. Інші уразливості Anthropic заздалегідь опублікувала у вигляді зашифрованих хеш-значень — після завершення виправлень вони будуть опубліковані з конкретними деталями.

Навіщо було робити це?

Оцінка Anthropic така: здатність AI знаходити й використовувати програмні вразливості вже перевищила можливості всіх, крім кількох топових людських експертів.

Поширення цієї здатності — це питання часу, а не питання того, чи станеться це.

Економічні збитки від кіберзлочинності в усьому світі щороку оцінюються приблизно в 5000 мільярдів доларів США. Атаки на медичні системи, енергетичну інфраструктуру та державні установи вже завдали відчутної шкоди й уже створюють постійну загрозу для цивільної та військової інфраструктури.

AI суттєво знижує вартість, поріг і рівень професійності, потрібні для запуску таких атак.

Логіка Anthropic полягає в тому, що замість того щоб чекати, доки хтось інший спершу застосує ці можливості для нападу, краще активно використати їх для оборони.

Як саме планують це реалізувати?

Project Glasswing наразі включає два рівні.

Перший рівень — це 12 засновницьких партнерів. Вони отримають доступ до Claude Mythos Preview для сканування та виправлення вразливостей у власних ключових системах. Основні напрями включають детекцію локальних уразливостей, тестування двійкового «чорного ящика», безпеку кінцевих пристроїв, тестування на проникнення тощо.

Другий рівень — це понад 40 інших організацій, які створюють або підтримують критичну програмну інфраструктуру. Вони також отримають доступ до моделі для сканування власних і відкритих систем (open-source).

Anthropic зобов’язується надати ліміт на використання моделі щонайбільше 100 мільйонів доларів США. Після завершення дослідницького preview-періоду Claude Mythos Preview буде надано учасникам для комерційного доступу. Вартість становитиме 25/125 доларів США за кожен мільйон токенів вхід/вихід, а також підтримуватиметься доступ через Claude API, Amazon Bedrock, Google Cloud Vertex AI та Microsoft Foundry.

Крім того, Anthropic через Linux Foundation пожертвує 2,5 мільйона доларів США Alpha-Omega та 1,5 мільйона доларів США OpenSSF, загалом 4 мільйони доларів США, для підтримки підтримувачів open-source програмного забезпечення в умовах цієї нової ситуації. Підтримувачі open-source програмного забезпечення можуть подати заявку на доступ через проєкт Claude for Open Source.

Наступні плани

У частині обміну інформацією партнери намагатимуться максимально обмінюватися інформацією та найкращими практиками. Anthropic зобов’язується протягом 90 днів опублікувати звіт про прогрес досліджень, який включатиме кількість виявлених уразливостей, проблеми, які вже виправлено, а також результати покращень, які можна буде розкрити.

У частині рекомендацій щодо політик Anthropic співпрацюватиме з провідними безпековими організаціями, щоб сформувати практичні рекомендації за такими напрямами: процес розкриття вразливостей, процес оновлення програмного забезпечення, безпека open-source і ланцюгів постачання, безпечна розробка програмного забезпечення (SDLC), стандарти для регульованих сфер, масштабування та автоматизація класифікації вразливостей, автоматизація патчів.

Повну інформацію див. в офіційному першоджерелі: https://www.anthropic.com/glasswing