Генеральный директор DeepMind выразил сожаление, что коммерциализация ИИ происходит слишком быстро: если бы оставили лаборатории еще на несколько лет, человечество, возможно, уже победило бы рак

Генеральный директор Google DeepMind Хасабиус выразил сожаление, что конкуренция в области ИИ развивается слишком поспешно, и если бы технологии могли больше времени оттачиваться в лабораториях, возможно, человечество уже победило бы рак.

ИИ быстро меняет человечество: каждые несколько недель или даже дней появляются новые технологии и инструменты, но один из ключевых участников этой волны — генеральный директор Google DeepMind и лауреат Нобелевской премии по химии 2024 года, Демис Хасабиус (Demis Hassabis), считает, что гонка за развитием ИИ слишком поспешна, и если бы он имел возможность, ИИ мог бы в лабораториях отработать несколько лет, и, возможно, человечество уже победило бы рак.

Хасабиус рассказал об этом в подкасте видеорежиссера Клео Абрам (Cleo Abram), выразив свое разочарование текущим развитием ИИ. В прошлом, в интервью журналу «Тайм», он позиционировал себя как ученого, подчеркивая, что все исследования в области ИИ — это поиск знаний и понимания мира.

Он отметил, что его первоначальная мотивация входа в сферу ИИ заключалась не в создании чат-ботов, а в ускорении научных открытий. Их наиболее известное достижение — AlphaFold, система, решившая «проблему сворачивания белков», неразрешенную в биологии более 50 лет. Хасабиус подчеркнул, что это принесло пользу более чем 3 миллионам ученых по всему миру, особенно в исследованиях болезней, таких как малярия, где ИИ предоставляет бесплатные базы структурных данных, позволяя исследователям пропускать базовые эксперименты и сразу переходить к разработке лекарств.

Источник изображения: Youtube. Результаты исследования AlphaFold сделали Хасабиуса одним из лауреатов Нобелевской премии.

Он считает, что если бы ИИ мог больше времени оставаться в лабораториях, сосредоточившись на таких ключевых вопросах, человечество, возможно, уже достигло бы более решающих прорывов в лечении рака или материаловедении.

Передовые технологии попадают в руки широкой публики всего за несколько месяцев, но при этом ключевые проблемы остаются без достаточного финансирования

Хасабиус в интервью описал свою идеальную модель развития ИИ — так называемый «модель ЦЕРН». Он надеется, что процесс разработки универсального искусственного интеллекта будет похож на работу Европейской организации по ядерным исследованиям (CERN), которая управляет Большим адронным коллайдером, — с осторожностью, тщательностью и научным подходом, чтобы гарантировать, что каждый шаг полностью понимается и контролируется.

Однако реальность отклонилась от этого сценария: в конце 2022 года популярность ChatGPT и прорывы в генеративном ИИ вызвали хаос в мировой бизнес-среде. Он признает, что это ускорило внедрение технологий ИИ, и передовые разработки за несколько месяцев попадают в массы, но при этом ключевые проблемы остаются без должных ресурсов.

Чтобы захватить рынок и сохранить технологическое лидерство, темпы разработки были вынуждены ускориться. Хасабиус признает, что они уже не могут развивать технологии так же осторожно и философски, как он мечтал много лет назад, оценивая каждый следующий шаг.

Хотя чат-боты очень полезны для суммирования информации и мозгового штурма, они по сути все еще имеют недостатки, такие как галлюцинации, — однако коммерческое давление заставляет быстро выводить эти экспериментальные продукты на рынок. В результате значительные ресурсы и исследования вынуждены сосредоточиться на массовых базовых моделях, выпускаемых для широкой аудитории.

Чтобы найти баланс между реальностью и идеалом, Хасабиус занимает более прагматичный подход: с одной стороны, он руководит разработкой потребительских ИИ-продуктов Google, таких как Gemini, а с другой — инвестирует в развитие прикладного ИИ (Narrow AI). Он считает, что ждать появления универсального ИИ не обязательно: системы вроде AlphaFold, решающие конкретные задачи, уже позволяют получать реальные выгоды в энергетике, материаловедении и медицине.

Игра в Го и гениальный ход, раскрывающий потенциал ИИ превосходства над человеческим мышлением

Уверенность Хасабиуса в ИИ во многом основана на поразительной партии AlphaGo против корейского гроссмейстера Ли Седоля в 2016 году. В этой партии AlphaGo сделала знаменитый ход «37-й», который сначала критиковали за кажущуюся нелогичность, но в итоге привел к победе системы.

Источник изображения: gogameguru.com. Ход AlphaGo, который казался невозможным для человека, был признан Хасабиусом как пример прорыва ИИ в выходе за рамки человеческого мышления.

Из этого сигнала он понял, что ИИ уже способен превосходить человеческий опыт и искать новые решения. Он хочет применить эту способность к научным открытиям.

AlphaFold — яркий пример такого мышления. Традиционные методы требуют сотен тысяч долларов и нескольких лет для определения структуры одного белка. А AlphaFold 2 уже предсказала почти 200 миллионов известных структур белков.

Сейчас Хасабиус ведет команду в более глубоком направлении разработки лекарств: традиционный процесс занимает около 10 лет и имеет всего 10% успеха. Он создал компанию Isomorphic Labs, которая использует AlphaFold 3 и последующие модели для «виртуального скрининга»: с помощью ИИ можно за несколько минут моделировать сотни тысяч соединений и белков, проверяя их на токсичность для более чем 20 тысяч белков человека, что позволяет на этапе моделирования исключить большинство неудачных вариантов и оставить только наиболее перспективные кандидаты для лабораторных испытаний.

Обеспокоенность двумя рисками ИИ

Однако с развитием технологий ИИ и переходом к эпохе ИИ-агентов, у Хасабиуса появляется все больше опасений. Он сводит риски к двум основным категориям: первая — «злонамеренные акторы» (Bad Actors), будь то отдельные лица или государства, которые могут использовать технологии, изначально предназначенные для лечения болезней или разработки новых материалов, в вредоносных целях.

Вторая — более фантастическая, но реальная угроза — «сбежавший ИИ» (Going rogue). Когда системы станут чрезвычайно умными и автономными, возникает сложная задача — обеспечить их точное выполнение целей человека и предотвратить обход систем безопасности, что является очень сложной технической проблемой.

В ответ на эти вызовы Хасабиус призывает ведущие исследовательские организации, правительства и академические круги создать международные механизмы сотрудничества, подчеркнув необходимость усиления исследований безопасности на пути к AGI (общему искусственному интеллекту).

Несмотря на сожаление, что ИИ не смог задержаться в лабораториях подольше, Хасабиус остается оптимистом на ближайшие 50 лет. Он уверен, что ИИ поможет человечеству решить задачи ядерного синтеза, обнаружить сверхпроводники при комнатной температуре и снизить стоимость космических путешествий. Для него ИИ — не просто технология, а увеличительное стекло для поиска истинных законов мира, и независимо от ответов он жаждет узнать правду.

• Статья опубликована с разрешения: «Цифровая эпоха»
• Оригинальный заголовок: «Лауреат Нобелевской премии жалуется: «Коммерциализация ИИ слишком быстрая»: если бы в лабораториях задержались на несколько лет, человечество уже победило бы рак!»
• Автор оригинала: Чэнь Цзяньцзюнь