Керівники великих технологічних компаній, які грають у «російську рулетку» у гонці озброєнь штучним інтелектом, можуть ризикувати людським вимиранням, попереджає провідний дослідник

Глобальна боротьба за домінування в галузі штучного інтелекту досягла критичної точки, але один із провідних світових комп’ютерних науковців попередив, що великі технологічні компанії безвідповідально грають із майбутнім людства.

Рекомендоване відео

Найгучніші голоси в галузі ШІ зазвичай поділяються на дві групи: ті, хто хвалить технологію як змінювач світу, та ті, хто закликає до обережності — або навіть стримування — перш ніж вона стане неконтрольованою загрозою. Стюарт Расселл, піонер у галузі штучного інтелекту з Каліфорнійського університету в Берклі, твердо належить до другої групи. Однією з його головних турбот є те, що уряди та регулятори зусиллями намагаються наздогнати швидкий розвиток технології, залишаючи приватний сектор у гонитві до фінішу, яка ризикує перетворитися на небезпечну конкуренцію, не відмінну від тієї, що була в часи холодної війни.

«Для урядів дозволяти приватним компаніям фактично грати в російську рулетку з кожною людиною на планеті — це, на мою думку, повна зневага обов’язками», — сказав Расселл AFP на Саміті з впливу ШІ в Нью-Делі.

Поки керівники технологічних компаній змагаються у «гонці озброєнь» за створення найкращої моделі штучного інтелекту, що, за словами галузі, згодом принесе величезні досягнення у медичних дослідженнях та підвищенні продуктивності, багато хто ігнорує або зменшує значення ризиків, стверджує Расселл. У найгіршому випадку він вважає, що швидкість інновацій без регулювання може призвести до вимирання людства.

Расселл має знати про екзистенційні ризики, що лежать в основі швидкого впровадження ШІ. Британсько-народжений комп’ютерний науковець досліджує ШІ понад 40 років і ще у 1995 році опублікував один із найавторитетніших підручників з цієї теми. У 2016 році він заснував дослідницький центр у Берклі, який зосереджений на безпеці ШІ, що пропагує «доказово корисні» системи штучного інтелекту для людства.

У Нью-Делі Расселл зазначив, наскільки далеко компанії та уряди відстали від цієї мети. Його критика зосереджена на швидкому розвитку систем, які з часом можуть перевершити своїх творців, залишаючи людську цивілізацію «побічним ефектом у цьому процесі».

Керівники великих компаній у галузі ШІ усвідомлюють ці екзистенційні небезпеки, але опиняються у пастці через ринкові сили. «Кожен із керівників основних компаній ШІ, я вважаю, прагне роззброїтися», — сказав Расселл, але вони не можуть зробити це «односторонньо», оскільки їхню позицію швидко зайняли б конкуренти, і вони опинилися б під тиском інвесторів.

Нова холодна війна

Розмови про екзистенційний ризик і можливе знищення людства колись були зарезервовані для загрози неконтрольованого ядерного розповсюдження під час холодної війни, коли великі держави накопичували зброю через страх, що суперники їх перевищать. Але скептики, такі як Стюарт Расселл, все частіше застосовують цю ж саму модель до епохи штучного інтелекту. Конкуренція між США та Китаєм часто описується як «гонка озброєнь» у галузі ШІ, з секретністю, терміновістю та високими ставками, що визначали ядерне протистояння між Вашингтоном і Москвою у другій половині 20 століття.

Володимир Путін, президент Росії, майже десять років тому коротко підсумував величезні ставки: «Хто стане лідером у цій сфері, той стане правителем світу», — сказав він у 2017 році.

Хоча сучасна гонка озброєнь не вимірюється ядерними боєголовками, її масштаб відображається у величезних обсягах капіталовкладень. Країни та корпорації наразі витрачають сотні мільярдів доларів на енергоємні дата-центри для навчання та роботи ШІ. В США, за оцінками аналітиків, капітальні витрати на ШІ цього року перевищать 600 мільярдів доларів.

Але агресивні дії корпорацій ще не були збалансовані стриманістю через регуляторні заходи, зазначив Расселл. «Дуже важливо, щоб кожна з урядових структур усвідомлювала цю проблему. І саме тому я тут», — сказав він, маючи на увазі саміт в Індії.

Китай та ЄС — серед тих держав, які взяли більш жорстку позицію щодо регулювання технології ШІ. В інших країнах ситуація більш ліберальна. В Індії уряд обрав здебільшого дерегулятивний підхід. У США адміністрація Трампа підтримувала ідеї про відкритий ринок для ШІ і прагнула скасувати більшість регуляцій на рівні штатів, щоб дати компаніям свободу дій.

Приєднуйтесь до нас на Саміті інновацій у сфері праці Fortune 19–20 травня 2026 року в Атланті. Наступна ера інновацій у сфері праці вже тут — і старий сценарій переписується заново. На цьому ексклюзивному, енергійному заході зберуться найінноваційніші лідери світу, щоб дослідити, як ШІ, людство і стратегія знову переформатовують майбутнє роботи. Реєструйтеся зараз.