a16z последнее мнение: когда AI-агенты станут основными пользователями программного обеспечения

Написано: Глубокий кругозор

Ты когда-нибудь задумывался, что вся логика построения программного обеспечения может быть полностью перевернута? В прошлые десятилетия все программы создавались для человека. Мы тратим бесчисленные усилия на оптимизацию пользовательского интерфейса, делая кнопки более заметными, меню более понятными, а процессы — более плавными. Но что если в будущем основными пользователями программ станут не люди, а AI-агенты? Если одна компания имеет сто человек, а в ней работают тысяча AI-агентов, стоит ли всё ещё сосредотачиваться на оптимизации интерфейса для человека?

Недавно в одном из подкастов a16z Erik Torenberg, Steven Sinofsky и Martin Casado вели очень глубокий диалог с CEO Box Аароном Леви. Их основная тема — как изменится вся индустрия программного обеспечения, когда AI-агенты станут основными пользователями. Этот разговор заставил меня понять, что мы стоим на грани более сильной парадигмальной смены, чем большинство предполагает. Это не просто добавление AI-функций к существующим программам, а кардинальное переосмысление того, как программное обеспечение строится, как с ним взаимодействуют и как его используют.

Программное обеспечение должно быть создано для AI-агентов

Аарон Леви в диалоге высказал очень важную мысль: если у вас в тысячу раз больше AI-агентов, чем сотрудников, то ваше программное обеспечение должно быть создано для них. Это не вопрос выбора, а неизбежный тренд. Сейчас Box тратит столько же времени на проектирование интерфейсов для агентов, сколько и для людей. Скорость этого перехода превзошла все мои ожидания.

Логика здесь очень проста. Когда AI-агенты станут основными пользователями, они будут взаимодействовать с системой через API, CLI (командную строку) или MCP (Model Context Protocol — протокол контекста модели). А что сейчас считается наиболее эффективной парадигмой? Предоставить агенту, умеющему писать код, доступ к SaaS-инструментам, чтобы он мог взаимодействовать с вашими знаниями и контекстом работы. Такой агент не только сможет читать и понимать информацию, но и, что важнее, выполнять задачи, пиша код или используя API.

Claude Code от Anthropic, суперприложения, разрабатываемые OpenAI, и вычислительные функции Perplexity — все движется в этом направлении. Я считаю, что рост этих возможностей только начинается. Представьте, что агент не только понимает команду “помоги проанализировать продажи за прошлый квартал”, но и сам пишет код для извлечения данных, анализа и создания визуализаций, а также самостоятельно обнаруживает тренды, которые вы не заметили. Где границы таких возможностей? Пока я не вижу ясных ответов.

Но есть важный вопрос, который я постоянно обдумываю: люди часто говорят о “создании для агента”, “маркетинге агентам” или “хороших API и языках описания интерфейсов”. Мартин Casado в диалоге высказал очень точную противоположную точку зрения: это почти полностью неправильно. Почему? Потому что агенты как раз лучше всего умеют находить правильные инструменты и бекенд-системы. Они не выбирают вас только потому, что у вас хорошо написана документация API, а исходя из таких факторов, как стоимость, надежность системы, долговечность данных. Агент — это коллективный разум, который используют люди.

Это открыло мне глаза. Как индустрия, мы слишком сосредоточены на интерфейсах и описаниях, забывая о сути: нам нужно строить более качественные системы. Агенты подтолкнут нас к возвращению к технической сути, а не к маркетинговой упаковке. В прошлом решения о покупке корпоративного ПО часто зависели от продажных возможностей, бренда или даже бизнес-ланчей. Но в мире, управляемом агентами, эти факторы значительно снизятся. Агенты будут делать выбор на основе технических преимуществ. Для тех компаний, которые действительно сосредоточены на технологиях, это огромная возможность.

Порог алгоритмического мышления: не каждый сможет управлять AI-агентом

Одна из самых запоминающихся частей диалога — обсуждение сложности использования AI-агентов непрофессионалами. Steven Sinofsky высказал острое мнение: алгоритмическое мышление — очень сложный навык для большинства работников. Если попросить любого человека нарисовать блок-схему своей задачи, он, скорее всего, не справится.

Это очень точное замечание. Представьте команду из 50 маркетологов, отвечающих за крупную продуктовую линию. Возможно, только один из них полностью понимает и умеет документировать весь рабочий процесс. Если дать этим сотрудникам инструменты или AI-агентов для автоматизации, их способность объяснить, что именно нужно делать, будет очень ограниченной.

Аарон Леви ответил, что это лишь перенос работы на более высокий уровень — нужно освоить новые навыки. Это не уникально для технологических революций. Он привел интересный пример: маркетолог Anthropic, использующий Claude Code, смог выполнить работу, которая раньше требовала пятерых-десятерых человек. Этот пример важен, потому что этот человек — системный мыслитель, достаточно технически подкованный.

Но главный вопрос: что произойдет, если у каждого сотрудника появится бесконечный пул инженеров, способных автоматизировать любую его задачу? Как изменится его роль? Думаю, агенты станут все лучше в том, чтобы вести пользователя к системному мышлению, но сейчас только немногие умеют эффективно ими пользоваться.

Steven Sinofsky привел отличный пример: его сестра после выпуска из элитной бизнес-школы начала работу и сразу столкнулась с эпохой вычислений. В магистратуре она не работала с электронными таблицами, а в первый год работы ей сказали нанять сколько угодно стажеров. Она создала целую команду “агентов” — студентов, которые делали всю работу с таблицами. И удивительно: за несколько лет она и ее коллеги стали экспертами по электронным таблицам. Абстракция поднялась. Работу, которую раньше делали стажеры с калькуляторами и HP-финансовыми калькуляторами, теперь делала она сама, и могла делать это в 30 раз быстрее.

Этот пример показывает, что мы сейчас находимся в аналогичной стадии развития AI-агентов. Вам кажется, что нужно 50 маленьких агентов, координируемых одним очень умным человеком. Но очень скоро эти агенты объединятся, превратятся в набор навыков — код, который мы назовем агентом — и научатся управлять маркетингом. Вы задаете им вопрос по маркетингу, а затем поручаете выполнить задачу.

Ключевой момент: сейчас для создания 42 агентов и их запуска нужен уровень “космического инженера”. Но этот порог скоро исчезнет, и профессиональные знания вернутся к специалистам в конкретных областях. Это почти как развитие электронных таблиц.

Боязнь компаний: неконтролируемая интеграция и кошмар разрешений

В диалоге есть очень яркий момент. Аарон Леви рассказал, что недавно выступал перед группой CFO и CIO, и его поддержка вызвала негативную реакцию: “Ты с ума сошел, ты потерял для меня всю доверие”. Почему? Потому что он говорил, что интеграции станут намного проще.

Это опасения IT-руководителей не без оснований. Они боятся не только самих агентов, но и того, что люди смогут самостоятельно создавать интеграции. Когда сотрудник создает новую API-связь между системами, он рискует “сломать” ключевые системы. Если речь идет только о генерации отчетов — это его проблема. Но что, если он пишет данные?

Аарон Леви считает, что в течение долгого времени (N — очень большое число) у нас будет только чтение интеграций агентов. Многие AI-приложения сейчас — это потребительский уровень: человек — конечный пользователь. Но даже на этом уровне у компаний появляются новые вызовы.

Box недавно выпустила официальный CLI, и Аарон описал сценарий: вы даете Claude Code доступ к Box CLI, и теперь можете взаимодействовать с системой через естественный язык, управляя целым набором операций с помощью мощной модели Opus 4.6. Это очень круто: скажите “загрузить всю папку на мой рабочий стол в Box” или “обработать все документы в этой папке” — и все сделается.

Но возникают новые сложности. Представьте компанию из 5000 сотрудников, у которых есть доступ к общим документам и маркетинговым ресурсам, и все используют CLI. Как координировать миллионы запросов в час? Не вопрос производительности, а вопрос безопасности: как не допустить, чтобы агент одного сотрудника случайно удалил или изменил файл другого, или чтобы один агент не попытался одновременно писать в папку другого? Когда такие агенты начинают работать в бешеном режиме, это становится головной болью для CFO и CIO.

Аарон Леви сам столкнулся с этим при тестировании. Он пытался создать структуру папок для маркетингового плана и застрял в цикле — постоянно создавал вложенные папки. Он пошутил: “Интересно, какое ограничение у Box на глубину вложенности? Я почти достиг”.

Этот случай показывает более глубокую проблему: когда агентам дают полномочия, они могут делать непредсказуемые вещи. А это — главный страх бизнеса.

Обращение с AI-агентами как с сотрудниками? Не так просто

В диалоге есть очень интересный момент — обсуждение управления AI-агентами. Когда начинают использовать личных агентов, им дают свои API-ключи, электронные почты. Как не допустить, чтобы они делали что-то неправильное?

Мартин Casado поделился практикой: дать агенту свой телефон, свою предоплаченную карту (например, купленную в CVS Visa), свой Gmail. Gmail обладает множеством механизмов RBAC (контроль доступа по ролям). Можно сказать, что у нас уже есть такие системы, и агент — это отдельный человек.

Но Аарон Леви тут же указал на проблему: в команде из 50 человек у нас может быть 100 “людей” — 50 человек и 50 агентов, все в одном пространстве. Я полностью контролирую своего агента, но что, если он начнет взаимодействовать с чужими ресурсами или получит доступ к тому, что ему не положено? Сейчас у этого автономного, с состоянием агента, есть доступ к чужой информации.

Здесь возникает фундаментальный конфликт. Настоящему сотруднику нельзя смотреть его Slack, входить в его аккаунт или контролировать каждое его действие. Он отвечает за свои действия. В реальности его не наказывают за ошибки. А вот агент — это твоя ответственность. Ты должен иметь полный контроль и наблюдение, а у него нет приватности.

Поэтому есть противоречия. Мне нужно давать агенту доступ, но я также хочу иметь возможность в любой момент войти в его аккаунт, например, чтобы отменить все операции. Но если я могу войти в его аккаунт, как он сможет работать с другими людьми и сохранять конфиденциальность или безопасность информации? В итоге агент — это почти продолжение тебя.

Аарон Леви также поднял более глубокий вопрос безопасности: как обеспечить, чтобы агент хранил секреты? Если ты говоришь агенту “не раскрывать информацию из окна контекста X”, — это очень сложно. Если все, что входит в контекст, может быть доступно агенту, то есть риск утечки через prompt injection (внедрение подсказок).

Что это значит? Если я знаю адрес твоего нового агента, я могу отправить ему письмо, провести социальную инженерию — это в разы проще, чем с человеком. А как сделать так, чтобы этот агент одновременно имел доступ к чувствительным документам, например, по слиянию и поглощению?

Это одна из главных технических проблем AI-агентов сегодня. Пока она не решена, агентам трудно получить полноценные полномочия для самостоятельных решений и доступа к ресурсам. Они останутся продолжением человека, а не самостоятельными субъектами.

Преимущество стартапов: без оглядки внедрять AI-агентов

Один из моментов, который меня очень поразил — скорость распространения AI-способностей будет значительно медленнее, чем думают в Кремниевой долине. Почему? Потому что ограничения у стартапов и крупных корпораций кардинально разные.

Аарон Леви говорит, что стартапы могут начинать с нуля, не сталкиваясь с рисками, о которых мы говорили, потому что у них ничего особо не сломается. Поэтому мы воспринимаем их развитие как пример. Но если пойти в JPMorgan и спросить, как настроить NanoClaw (гипотетического AI-агента) для автоматизации бизнеса, то обнаружишь огромную пропасть.

В чем она заключается? У крупных компаний есть 75 наследуемых систем, строгие требования к соответствию, десятилетия накопленных стандартов безопасности данных, сложные механизмы управления доступом. И самое главное — у них есть много “на что ставить”. Если у стартапа что-то пойдет не так, это будет шуткой или эпизодом в сериале “Силиконовая долина”. Но если крупный банк утечет данные клиентов, это может привести к краху.

Steven Sinofsky дал очень точное предсказание: стартапы сожгут все свои ресурсы, делая вид, что стоимость вычислений — не проблема. А крупные компании из-за страха заморозят все инициативы. Тогда обычные сотрудники начнут самостоятельно покупать и использовать эти инструменты, делая то, что крупные компании не хотят или не могут.

Некоторые компании, по разным причинам, рискнут — у них есть на это средства. Они станут лидерами в своих нишах, если смогут сохранить финансовую устойчивость. Не будет ситуации, когда CFO боится, что его уволят, и никто не рискнет. Да, CFO могут ошибиться, но это нормально.

Это создаст очень интересную рыночную дифференциацию. Средние компании, которые готовы инвестировать и рисковать, получат конкурентное преимущество перед крупными. У них есть ресурсы для внедрения AI, и они не связаны наследием и страхами.

Также появится новый тип сервисных компаний. Представьте, что вы создаете с нуля маркетинговое агентство, инженерную консультацию или архитектурную фирму, полностью основанную на AI-агентах, без информационных барьеров и границ, с возможностью дать агенту весь необходимый контекст и писать программное обеспечение под конкретные задачи. Такие компании в течение некоторого времени смогут произвести революцию, пока крупные игроки не смогут избавиться от своих ограничений.

Бюджет токенов: новая арена инженерного менеджмента

В диалоге есть очень практичный и одновременно абсурдный момент — обсуждение бюджета токенов. Аарон Леви говорит: “Обсуждение бюджета на вычисления — одно из самых безумных за последние годы”.

Почему? Потому что расходы на вычисления в любой публичной технологической компании составляют от 14% до 30% дохода. Стоимость вычислений — в два раза больше, чем расходы на инженерные команды, или чуть больше. Разница в этом — это весь EPS (прибыль на акцию).

Но Steven Sinofsky считает, что мы еще не знаем точных ответов, а CFO всегда хотят знать ответы на вопросы, которых у них нет. Уолл-стрит заставит их назвать цифру и отвечать за нее, а потом уволит. И цикл повторится. Это было и с пропускной способностью интернета, и с вакуумными лампами, и с транзисторами, и с числом программистов.

Но Аарон Леви уверен, что в этот раз ситуация особенная. Он приводит хорошую аналогию: мы никогда раньше не имели такого момента, когда каждый конечный пользователь организации мог бы гибко запускать ресурсы. И зачастую это было вполне оправдано.

Это очень похоже на переход к облачным вычислениям в начале 2000-х: мы перешли с CapEx (капитальных затрат) на OpEx (операционные расходы), а потом — к безлимитным расходам. Аарон вспоминает, как в Box CFO говорили: “Вы не понимаете, мы — аграрная компания, мы знаем только CapEx” или “мы — облачная компания, нам нравится облако”. Различия в бухгалтерском учете действительно влияют на принятие технологий.

Но вопрос бюджета токенов — это более тонкая тема. Как инженерный руководитель, ты должен решить: стоит ли позволять инженерам учитывать лимиты при каждом запросе? Хотите ли вы длинные запросы или короткие? Параллелить их? Какой уровень терпимости к тратам токенов?

Аарон говорит, что сейчас он склонен к тому, что лучше тратить много токенов, потому что это — способ экспериментировать. Должен ли руководитель поощрять команду запускать одновременно 10 экспериментов? Даже если это — 90% перерасхода токенов, важно выбрать путь к успеху. Или лучше требовать тщательного проектирования системы заранее?

Когда эта запись появилась, люди уже паниковали из-за нового Max-плана Claude Code, где после трех подсказок лимитируют использование. Это очень актуальная тема, пока не появится возможность масштабировать дата-центры.

Но я разделяю долгосрочную точку зрения Sinofsky: эта проблема со временем исчезнет. Самое главное — делать математические расчеты по Бенефицфу (Benioff). Если вы платите за каждого продавца по миллиону долларов в год, то нужно понять, сколько стоит его инструмент. Если инженеру платите X долларов в год, то его инструменты в какой-то момент окупятся.

И закон больших чисел решит проблему: чем больше инженеров, тем больше вычислительных ресурсов они используют, и баланс восстановится. Мы сейчас находимся в переходной фазе: раньше все думали, что AI — это просто чат-бот. Но это было ошибкой, потому что AI — это платформа, которая меняет всё.

Будущее SaaS: ценность данных возвращается

В диалоге есть очень важный момент — о будущем корпоративных систем. Мартин Casado отметил, что современные SaaS-провайдеры не продают бизнес-данные, а продают интеллектуальные знания, экспертизу и всю систему. Но агенты хотят покупать данные, получать к ним доступ и иметь неограниченные права, что не соответствует бизнес-модели.

Это давно вызывает напряженность с системами типа Workday, SAP. Salesforce трижды перепроектировала свою платформу из-за этого. В чем суть? В том, что в условиях, когда нужно получать доступ к данным, что такое система записи (system of record)?

Steven Sinofsky прямо говорит: “Пытаться сделать SAP по образцу vibe coding — это безумие”. В SAP вся экспертиза не только в данных, она есть в UI, в промежуточных слоях, в способах использования системы.

Но Аарон Леви видит иначе. Он считает, что после достаточного количества итераций агент в конечном итоге сможет сам выбирать, какие инструменты использовать. Хотя агент не сможет заменить корпоративные системы полностью, со временем он столкнется с их ограничениями и скажет: “Тебе нужно избавиться от устаревшей HR-системы, иначе я не смогу автоматизировать рабочий процесс”.

Это революционная идея. Представьте, что когда количество агентов достигнет сотен или тысяч, такие ситуации станут обычным делом. Тогда придется строить программный стек для агентов. Возможно, останутся несколько систем, например ERP, которые будут последними опорными точками, а все остальное — это информация, к которой агент должен иметь доступ. Тогда IT-стек компании должен быть настроен так, чтобы поддерживать работу этих агентов.

Мартин Casado отметил очень важную тонкость. Люди часто говорят: “Теперь ты маркетируешься для агента”, “Ты должен иметь API” или “Ты должен описывать интерфейсы”. Но он считает, что это почти полностью неправильно. Агент лучше всего умеет находить правильные бекенд-системы. Они не выбирают вас только потому, что интерфейс красивый или документация хорошая, а исходя из таких факторов, как стоимость, долговечность, надежность. Агент — это коллективный разум, который использует эти системы.

Он привел пример: когда он просит агента выбрать облачную платформу, он использует не интерфейс, а смысловые параметры. Вся индустрия слишком сосредоточена на интерфейсах, а на самом деле — важнее построить системы, которые агентам действительно нужны, — и тогда они выберут именно их.

Это очень глубокая идея. В эпоху агентов техническое превосходство станет важнее маркетинга. Продукты, которые реально сильны в технологиях, выйдут вперед, а те, что полагаются только на продажи, — проиграют.

Мое главное — мы недооцениваем масштаб этой перемены

После этого диалога у меня сложилось ощущение, что весь рынок и Уолл-стрит используют неправильную модель для оценки этой революции. Аарон Леви прав: главная проблема — все пытаются понять экономический эффект, но недооценивают масштаб возможностей минимум в один порядок.

Steven Sinofsky приводит исторические примеры. Когда появились ПК, считали, что MIPS (миллионов инструкций в секунду) — это ограничение рынка, и не предполагали, что все эти MIPS могут оказаться у каждого на столе. Тогда считали, что программное обеспечение — это просто дополнение к MIPS, и только Билл Гейтс с Полом Аллен поняли, что его можно продавать отдельно.

То же самое происходит с облачными вычислениями. Люди думали, что это просто перенос серверных систем (около 60 тысяч в год) в чужие дата-центры. Никто не предполагал, что использование вырастет в тысячу раз.

И с AI — происходит то же самое. Финансовые модели Уолл-стрит предполагают, что рынок — это ноль-сумма: компании тратят фиксированные суммы. Но когда приходит облако, Salesforce, например, зарабатывает 2 миллиарда долларов в год на CRM, покупая серверы, лицензии Oracle и тратя миллионы на внедрение и консультации. А если продавцы смогут регистрироваться сами, без препятствий, — это изменит всё.

Я считаю, что AI-агенты вызовут еще более масштабное расширение рынка. Когда у каждого специалиста будет по одному или нескольким агентам, использование программ, объем данных и вычислений возрастут экспоненциально. Это не нулевая сумма, а создание новых возможностей и ценностей.

Аарон Леви отметил, что за последние полгода около 240 инфраструктурных компаний показывают асимптотический рост. Почему? Потому что сейчас создается больше программного обеспечения, чем когда-либо. Чем больше программ, чем больше агентов — тем больше ресурсов потребуется. Когда все смартфоны начнут активно использовать AI, и на устройствах появится AI-локальный, — потребление возрастет в миллиарды раз.

Я считаю, что мы переживаем “кремниевый момент”. Steven Sinofsky приводит пример с вакуумными лампами: когда-то считали, что весь Дакота будет покрыта складами с лампами, и люди меняли их в коридорах, чтобы победить Вторую мировую. Потом пришли к выводу: лучше использовать транзисторы.

Token — это как MIPS в свое время. IBM продавала больше MIPS по более низкой цене, но по-прежнему ценила большие системы по MIPS, пока не поняли, что их кривая падает, потому что они производят MIPS быстрее, чем зарабатывают на них. Аналогично, токены скоро станут такой же ценностью.

Но в ближайшие годы нас ждет хаос и неопределенность. Компании будут бороться за инвестиции, за контроль затрат и управление рисками. Стартапы будут смело рисковать и быстро двигаться. Будут и провалы, и успехи. Но в долгосрочной перспективе направление ясно: программное обеспечение должно строиться для агентов, API станет важнее UI, качество систем — важнее маркетинга, а стоимость вычислений — будет снижаться, а объем использования — расти экспоненциально.

Это не просто обновление инструмента, а кардинальный сдвиг вычислительной парадигмы. Те, кто поймут это и начнут действовать, зададут технологический ландшафт на ближайшие десять лет. А те, кто останутся в старых рамках, рискуют оказаться позади.

Эта перемена только начинается.