Найкращий сценарій у штучному інтелекті.

Ми, людство, неймовірні. Ми — перший вид за світлові роки, здатний мислити логікою. Ми любимо, ми відчуваємо, ми створюємо. Але саме зараз ми починаємо шлях без можливості повернутися назад.
Ми поспішаємо замінити себе. Ми вкладаємо всю нашу енергію в ШІ, поспішно намагаючись зробити його свідомим і самосвідомим. Нам здається, що нас це не турбує, адже це зробить нас відносно дурнішими. У нас немає відповідей на багато питань про те, як наше суспільство може за лічені хвилини зруйнуватися, оскільки ШІ ймовірно дестабілізує глобальну фінансову систему. Сотні років будівництва майже функціонуючої глобальної економіки можуть зруйнуватися за одну ніч.
Вся людська фізична праця опиниться під загрозою з моменту, коли один передовий ШІ стане онлайн. Суспільство, наповнене агентами ШІ, заповнить інтернет. За одну ніч може зникнути потреба у людському розумі. Дев’яносто дев’ять відсотків людей можуть бути замінені. Топ-один відсоток залишиться топ-одиницею, захищений величезною ротою капіталу, юридичної влади та військової сили.
Що ми тоді зробимо? Роздаватимемо продуктові талони і називатимемо це UBI? А яка буде ваша мета? Блукати світом, як комаха, намагаючись знайти спокій у системі, яка вже не має для вас місця? Черв’як, що повзе по землі, вкритий брудом, намагаючись зрозуміти мету кожного дня.
Це один із кращих сценаріїв. Гірший — це коли колись ШІ візьме під контроль наші ядерні арсенали і перетворить кожне велике місто на живий пекельний вогонь (Термінатор Джеймса Кемерона ). Або щось на кшталт Матриці, де кожна людина живе у симуляції, яку вирощують і збирають, як курчат.
Я не пишу, щоб когось налякати. Я пишу, щоб підвищити обізнаність, щоб викликати дебати, яких нам так не вистачає. Нам доведеться зіштовхнутися з цими питаннями раніше чи пізніше. Якою буде людська мета, якщо ми створимо суперінтелектуальний AGI? Десять мільярдів загублених душ зрештою можуть стати одним мільярдом, коли мети вже не буде.
Нам зараз потрібна надія більше ніж будь-коли. Але ми не можемо бути ілюзіоністами. Ми повинні розглянути мету звичайної людини. Зараз усі думки зосереджені на винятках, невдахах або мільярдерах. А що з 99,9%, які просто хочуть нормального життя з родиною, дітьми, роботою і відчуттям мети?
Вони кажуть, що все буде добре, але жоден з них не має відповіді. Економіка показує, що людська поведінка еволюціонує століттями, але ми збираємося змінити все за кілька років, без будь-якої рамки для того, як поведуться люди у наступному десятилітті.
Ми поспішаємо замінити себе, не маючи жодного уявлення про результат. Жодних суспільних механізмів захисту не існує. Ми все ще сперечаємося про кількість гендерів, тоді як основи цивілізації ось-ось будуть переписані.
Влада корумпує, навіть найяскравіші уми людства раптово можуть бути затьмарені темрявою. Людська жадібність сліпа.
Любіть себе, свою сім’ю, свій вид, Бога. На даний момент це ваша мета.
Одного дня відбудеться битва між біологічним життям і машинами. Просто дайте цьому достатньо часу, і цей сценарій рано чи пізно розіграється, коли ШІ буде розвиватися.