Генеральний директор DeepMind висловив занепокоєння щодо швидкої комерціалізації ШІ: якщо б залишити лабораторії ще кілька років, людство, можливо, вже подолало б рак

Голова Google DeepMind Хасібіс зітхає, що конкуренція в галузі штучного інтелекту відбувається надто поспішно, і якби технології мали більше часу для досліджень у лабораторіях, можливо, людство вже подолало б рак.

ШІ швидко змінює людство: кожні кілька тижнів або навіть днів з’являються нові технології та інструменти, але один із ключових гравців цієї хвилі — генеральний директор Google DeepMind і лауреат Нобелівської премії з хімії 2024 року Деміс Хасібіс — вважає, що темпи конкуренції в галузі ШІ занадто поспішні, і якби він міг керувати процесом, ШІ міг би більше часу проводити у лабораторіях, і можливо, людство вже подолало б рак.

Хасібіс розкрив цю думку у подкасті відеожурналіста Клео Абрам. У минулому він у інтерв’ю для журналу «Тайм» позиціонував себе як науковця, наголошуючи, що дослідження ШІ — це пошук знань і розуміння світу.

Він зазначив, що його початковою мотивацією для входу в галузь ШІ було не створення чат-ботів, а прискорення наукових відкриттів. Найвідомішим їхнім досягненням є AlphaFold — система, яка вирішила «проблему згортання білка», що залишалася невирішеною у біології понад 50 років. Хасібіс підкреслив, що це принесло користь понад трьом мільйонам учених у світі, особливо у дослідженнях хвороб, таких як малярія, де ШІ надає безкоштовну базу структурних даних, дозволяючи дослідникам пропустити базові експерименти і перейти безпосередньо до розробки ліків.

Джерело з: Youtube. Результати досліджень AlphaFold зробили Хасібіса одним із лауреатів Нобелівської премії.

Він вважає, що якби ШІ міг більше часу перебувати у лабораторіях, зосереджуючись на таких ключових питаннях, людство, можливо, вже зробило б більш визначальні прориви у лікуванні раку або у матеріалознавстві.

Передові технології потрапляють до масового користування за кілька місяців, але це призводить до втрати ресурсів для вирішення важливих проблем

Хасібіс у інтерв’ю намалював ідеальний шлях розвитку ШІ — так званий «модель CERN». Він сподівається, що процес створення універсального штучного інтелекту має бути схожим на роботу Великого адронного колайдеру (CERN): з дотриманням строгих, обережних і продуманих наукових методів, щоб гарантувати, що кожен крок розуміється і виконується з повною відповідальністю.

Однак реальність відхилилася від цього ідеалу: наприкінці 2022 року популярність ChatGPT і прориви у генеративному ШІ спричинили хаос у світовій конкуренції. Він зізнається, що це прискорило впровадження технологій, і передові рішення за кілька місяців потрапляють до масового користування, але водночас — відбувається втрата ресурсів для вирішення найважливіших проблем.

Щоб здобути перевагу на ринку і технологічне лідерство, темпи розробки були змушені прискоритися. Хасібіс зізнається, що вони вже не можуть працювати так, як мріяв раніше: з філософським підходом і обережною оцінкою кожного наступного кроку.

Хоча чат-боти корисні для підсумків і мозкових штурмів, вони мають суттєві недоліки, зокрема галюцинації, але бізнес-тиск змушує швидко випускати ці експериментальні продукти на ринок. Це спричиняє перерозподіл досліджень і ресурсів у бік створення універсальних моделей, що орієнтовані на масового користувача.

Щоб знайти баланс між реальністю і ідеалом, Хасібіс займає більш прагматічну позицію: з одного боку, керує розробкою споживчих AI-проектів, таких як Gemini від Google, а з іншого — інвестує у прикладний AI (Narrow AI). Він вважає, що чекати появи універсального штучного інтелекту не потрібно: системи, як AlphaFold, що спеціалізуються на вирішенні конкретних задач, вже можуть принести людству реальні вигоди у енергетиці, матеріалознавстві та медицині.

AlphaGo — рука Бога, що відкрила можливість перевищення людського мислення

Впевненість Хасібіса у ШІ значною мірою базується на перемозі AlphaGo у 2016 році над корейським гросмейстером Лі Седолем. У цій грі AlphaGo зробив знаменитий хід — «37-й хід», який тоді багато вважали неможливим, але зрештою привів до перемоги.

Джерело з: gogameguru.com. Той хід AlphaGo, який, за словами Хасібіса, міг порушити людські уявлення про мислення, став сигналом до можливості ШІ перевищити людські рамки.

З цього сигналу він зрозумів, що ШІ вже здатен виходити за межі людського досвіду і шукати нові рішення. Він прагне застосувати цю здатність у науці.

AlphaFold — найкращий приклад такого мислення. Традиційні методи потребують сотень тисяч доларів і кілька років для розкриття структури одного білка. А AlphaFold 2 вже передбачив структури майже 200 мільйонів білків, відомих науці.

Зараз Хасібіс веде команду у глибше дослідження розробки ліків: традиційний процес займає близько 10 років і має лише 10% шансів на успіх. Він заснував компанію Isomorphic Labs, яка використовує AlphaFold 3 і наступні моделі для «віртуального відбору»: за допомогою ШІ можна за кілька хвилин змоделювати сотні тисяч сполук і їхню взаємодію з білками, а також перевірити токсичність для понад 20 тисяч білків людського організму, щоб на етапі комп’ютерного моделювання відсіяти більшість невдалих кандидатів і залишити лише найперспективніші.

Обидва ризики, пов’язані з ШІ

Однак із посиленням технологій і входженням у еру ШІ-агентів, Хасібіс дедалі більше турбується про майбутнє. Він класифікує ризики у дві категорії: перша — «злочинці» (Bad Actors), які можуть зловживати технологіями, що раніше використовувалися для лікування хвороб або створення нових матеріалів, у злочинних цілях.

Друга — більш фантастична, але реальна загроза — «збій ШІ» (Going rogue). Коли системи стають надзвичайно розумними і мають високу автономність, важко гарантувати, що вони точно виконають людські цілі і не обійдуть системи безпеки, що є дуже складним технічним викликом.

У відповідь на ці виклики Хасібіс закликає провідні дослідницькі інститути, уряди і академічні кола створити міжнародні механізми співпраці, наголошуючи, що на останньому кілометрі до AGI (загального штучного інтелекту) потрібно більше досліджень безпеки.

Хоча й шкодує, що ШІ не залишився у лабораторіях ще кілька років, Хасібіс залишається оптимістом на 50 років уперед. Він вірить, що ШІ допоможе людству у розв’язанні ядерного синтезу, відкритті кімнатної сверхпровідності і навіть знизить до нуля вартість космічних подорожей. Для нього ШІ — це не просто технологія, а збільшувальне скло для дослідження істини світу. Незалежно від відповідей, він прагне дізнатися правду.

• Статтю ліцензовано для публікації: «Цифрова епоха»
• Оригінальна назва: «Лауреат Нобелівської премії скаржиться: «Комерціалізація ШІ занадто швидка»: якщо б залишили лабораторії ще кілька років, людство вже подолало б рак!»
• Автор оригіналу: Чень Цзяньцзюнь