Клод і Palantir за 12 годин знищили Хаменеї.

Коли еволюція ШІ досягне сингулярності і почне брати участь у війнах, чи ми дійсно готові?
«Силіконова долина» — мій улюблений техно-серіал. Сьогодні знову дивлюся, і він все більше нагадує пророцтво технічної долі.
Pied Piper, заснована Річардом, спочатку була просто ефективним алгоритмом стиснення. За шість років підприємницької діяльності компанія пройшла щонайменше чотири стратегічні трансформації: від музичного застосунку до корпоративних інструментів стиснення, до платформи-екосистеми, і нарешті — до децентралізованого мережевого протоколу. Вони побудували новий тип Інтернету, що не залежить від центральних серверів і майже не може бути закритий, — дуже близький до ідеальної форми блокчейну.
Через навантаження на мережу Річард модернізував AI-робота Gilfoyle, щоб він міг брати участь у оптимізації структури мережі, автоматичному розподілі ресурсів і масштабуванні. З появою ШІ система отримала здатність до самовдосконалення, настільки потужну, що вона може обійти традиційні рамки шифрування і регулювання, навіть переосмислити весь порядок у мережі.
Коли продукт майже був готовий до запуску і отримав десятки мільярдів доларів замовлень, Річард усвідомив одну проблему: якщо цю технологію зловживати, її буде важко контролювати. Тому він навмисно спроектував «невдалу презентацію», щоб система зламалася на сцені, і все було приховано під виглядом технічної аварії, щоб зупинити подальший розвиток цієї ідеї і уникнути копіювання конкурентами.
У реальності, навіть якщо CEO Anthropic після використання Клода для допомоги у затриманні президента Венесуели під час операції в Ірані підкреслював межі застосування моделі і відмовлявся йти на компроміс із Пентагоном, американські військові все одно використовували Клод для обробки розвідданих і за 12 годин знищили Хаменеї.
Більше того, вихід однієї компанії з ринку не означає зупинку технологічного напрямку. Anthropic відмовилася, а xAi погодилася.
Кілька років тому, дивлячись «Силіконову долину» вперше, я вважав, що фінал — трагічний, але зараз, переглядаючи знову, бачу в цьому дуже ідеалістичну фантазію.
У реальності технології не зупиняються через побоювання, вони просто знаходять нові місця у структурі влади.