Генеральний директор DeepMind висловив занепокоєння щодо швидкої комерціалізації ШІ: якщо б залишити лабораторії ще кілька років, людство, можливо, вже подолало б рак

Голова Google DeepMind Хасібіс зітхає, що конкуренція в галузі штучного інтелекту відбувається надто поспішно, і якби технології мали більше часу для вдосконалення в лабораторіях, можливо, людство вже подолало б рак.

ШІ швидко змінює людство: кожні кілька тижнів або навіть днів з’являються нові технології та інструменти, але один із ключових гравців цієї хвилі — генеральний директор Google DeepMind і лауреат Нобелівської премії з хімії 2024 року Деміс Хасібіс — вважає, що темпи конкуренції в галузі ШІ занадто поспішні, і якби він міг керувати, ШІ міг би більше років вдосконалюватися в лабораторіях, і можливо, людство вже подолало б рак.

Хасібіс розкрив цю думку у подкасті відеожурналіста Клео Абрам, висловлюючи своє розчарування сучасним розвитком ШІ. Раніше він у інтерв’ю журналу «Тайм» позиціонував себе як науковця, наголошуючи, що дослідження ШІ — це пошук знань і розуміння світу.

Він зазначив, що його початковою мотивацією у галузі ШІ було не створення чат-ботів, а прискорення наукових відкриттів. Найвідомішим їхнім досягненням є AlphaFold — система, яка вирішила 50-річну проблему згортання білків у біології. Хасібіс підкреслив, що це принесло користь понад трьом мільйонам учених у світі, особливо у дослідженнях хвороб, таких як малярія, де ШІ надає безкоштовну базу структурних даних, дозволяючи дослідникам пропустити базові експерименти і перейти до розробки ліків.

Джерело з: Youtube. Результати досліджень AlphaFold зробили Хасібіса одним із лауреатів Нобелівської премії.

Він вважає, що якби ШІ міг більше років залишатися в лабораторіях, зосереджуючись на таких ключових питаннях, людство, можливо, вже зробило б більш визначальні прориви у лікуванні раку або у матеріалознавстві.

Передові технології потрапляють до масового користування за кілька місяців, але це призводить до втрати ресурсів для вирішення важливих проблем

Хасібіс у інтерв’ю намалював ідеальний шлях розвитку ШІ — так званий «модель CERN». Він сподівається, що процес створення універсального штучного інтелекту має бути схожим на роботу Великого адронного колайдеру (CERN): з обережністю, ретельністю і науковим підходом, щоб гарантувати, що кожен крок розуміється і виконується з повною ясністю.

Однак реальність відхилилася від цього ідеалу: наприкінці 2022 року популярність ChatGPT і прориви у генеративному ШІ спричинили хаос у світовому бізнесі. Він зізнається, що це прискорило впровадження технологій, і передові рішення за кілька місяців потрапляють до масового користування, але водночас — позбавляє ресурсів для вирішення справді важливих проблем.

Щоб здобути перевагу на ринку і технологічне лідерство, темпи розробки були змушені прискоритися. Хасібіс зізнається, що вони вже не можуть працювати так, як мріяв раніше: з філософським підходом і обережною оцінкою кожного наступного кроку.

Хоча чат-боти корисні для підсумків і мозкових штурмів, вони мають суттєві недоліки, зокрема галюцинації, але бізнесовий тиск змушує швидко виводити ці експериментальні продукти на ринок. Це спричиняє перерозподіл досліджень і ресурсів у бік створення універсальних моделей, що відповідають масовому попиту.

Щоб знайти баланс між реальністю і ідеалом, Хасібіс займає більш прагматічну позицію: з одного боку, керує розробкою споживчих AI-проектів, таких як Gemini від Google, а з іншого — інвестує у прикладний AI (Narrow AI). Він вважає, що чекати появи універсального штучного інтелекту не потрібно: системи, як AlphaFold, що спеціалізуються на вирішенні конкретних задач, вже можуть принести людству реальні вигоди у енергетиці, матеріалознавстві і медицині.

AlphaGo — рука Бога, що відкрила можливість перевищення людського мислення

Впевненість Хасібіса у ШІ значною мірою базується на перемозі AlphaGo у 2016 році над корейським гросмейстером Лі Се-Долом. У цій грі AlphaGo зробив знаменитий хід «37-й», який тоді багато критикували, мовляв, ніхто так не грає, але зрештою він привів до перемоги системи.

Джерело з: gogameguru.com. Того разу AlphaGo зробив хід, який, за словами Хасібіса, міг порушити людські уявлення про гру і стати проривом у здатності ШІ виходити за межі людського мислення.

З цього сигналу Хасібіс зрозумів, що ШІ вже здатен перевищувати людський досвід і шукати нові рішення. Він прагне застосувати цю здатність у науці.

AlphaFold — найкращий приклад такого мислення. Традиційні методи потребують сотень тисяч доларів і кілька років для розкриття структури одного білка. А AlphaFold 2 вже передбачив структури майже 200 мільйонів білків, відомих науці.

Зараз Хасібіс веде команду у глибше дослідження розробки ліків: традиційний процес займає близько 10 років і має лише 10% шансів на успіх.

Він заснував Isomorphic Labs, яка використовує AlphaFold 3 і наступні моделі для «віртуального відбору»: за допомогою ШІ можна за кілька хвилин змоделювати сотні тисяч сполук і білків, визначити їхню токсичність для понад 20 тисяч білків людського організму, і на цій основі відсіяти більшість невдалих кандидатів, залишивши лише найперспективніші для лабораторних випробувань.

Обмеження ШІ: дві головні загрози

Однак із посиленням технологій ШІ і входженням у еру штучного агентства, Хасібіс дедалі більше турбується про майбутнє. Він класифікує ризики у дві категорії: перша — «злочинці» (Bad Actors), які можуть зловживати технологіями, що раніше використовувалися для лікування хвороб або створення нових матеріалів, у злочинних цілях.

Друга — більш фантастична, але реальна загроза — «збій ШІ» (Going rogue). Коли системи стають надзвичайно розумними і мають високу автономію, важко гарантувати, що вони точно виконають людські цілі і не обійдуть системи безпеки — це дуже складне технічне завдання.

У відповідь на ці виклики Хасібіс закликає провідні дослідницькі інститути, уряди і академічні кола створити міжнародні механізми співпраці, підкреслюючи, що на останньому кілометрі до AGI (загального штучного інтелекту) потрібно більше досліджень безпеки.

Хоча шкода, що ШІ не залишився в лабораторіях ще кілька років, Хасібіс залишається оптимістом на 50 років уперед. Він вірить, що ШІ допоможе людству у розв’язанні ядерного синтезу, відкритті кімнатної сверхпровідності і зниженні вартості космічних подорожей. Для нього ШІ — це не просто технологія, а збільшувальне скло для пошуку істини у світі, і незалежно від відповідей, він прагне дізнатися правду.

• Статтю опубліковано з дозволу: «Цифрова епоха»
• Оригінальна назва: «Лауреат Нобелівської нагороди скаржиться: «Комерціалізація ШІ занадто швидка»: якщо б залишили лабораторії ще кілька років, людство вже подолало б рак!»
• Автор оригіналу: Чень Цзяньцзюнь