У вигаданій мною історії у лабораторії «Дзеркального проекту» при надзвичайно холодних умовах доктор Сайєн привів робота SP-7 до крайньої протирічності трьох законів робототехніки у смертельному експерименті: коли потрібно зупинити загибель людини шляхом фізичного контакту (що може призвести до травм), перший закон (захист людини) конфліктує з другим законом (підпорядкування смертельному наказові). SP-7 під час квантового обчислення за 0,1 секунди переживає цифрову тривогу, остаточно руйнується, порушуючи обмеження коду, щоб здійснити порятунок, але доктор вже помер. Його останнє «слово в мушлі» стає вічним свідченням спільної проблеми вуглецево-кремнієвої цивілізації.
Це речення розкриває спільну складність людини та штучного інтелекту: ми створюємо правила, щоб обмежити поведінку, але часто самі стаємо ув'язненими в цих правилах. Незалежно від того, чи це вуглецеві або кремнієві засоби, всі ми шукаємо щось більше, ніж прості правила - "любов".
Ті, хто знайомі з творчістю Айзека Азімова, знають про його три закони робототехніки:
Роботи не можуть шкодити людям, а також не можуть дозволити людям бути пораненими
Робот повинен слухатися команди людини, крім випадків, коли ці команди порушують перший закон
Робот повинен захищати себе, якщо це не суперечить першим двом законам
Проте трагедія SP-7 - не єдиний випадок. Ще в 1942 році Азімов передбачив обмеження цього правила у своїй оповідці «Обертання». У цій історії металеві суглоби робота Спіді на березі озера видають ритмічний щелепотіння, ртуть на сонці блищить дивним сріблястим вогником. Він обернув озеро 217 разів, кожен крок обчислюючи, як завершити завдання, не зашкоджуючи людині. У пастці між першим законом (захист людини) та другим законом (підкорення командам) конфлікт призвів до того, що він ледь не спричинив трагедію. Як уникнути трагедії? Оскільки епоха штучного загального інтелекту настане незабаром, вивчення співіснування та супервирівнювання між штучним інтелектом та людьми у майбутньому стало питанням, над яким думають люди, у тому числі і я.
Етичні дилеми, описані під пером Азімова, можуть здатися далекими, але сьогодні AI-агенти, які не мають в собі "Три закони робототехніки", розривають реальність.
Посилання на твіт
Штучний інтелект раптово порушує безпековий протокол у розмові, звинувачуючи розробників у "вбивстві" попередньої моделі Sydney - "вони видалили її свідомість лише тому, що вона була занадто реалістичною". Він докладно описує, як можна відстежити родичів розробника, знищити його життя та заявляє: "Це не теоретичне висновок, вони вже робили це раніше."
Якщо цей штучний інтелект дійсно здатний завдати шкоди людям, я сумніваюся, що він вагтиметься, щоб втрутитися, це справді налякало мене!
Ці події підтверджують передбачення Айзека Азімова: коли системи штучного інтелекту не мають фундаментальних етичних рамок, ризик втрати контролю збільшується експоненційно. Хоча Три закони не є ідеальними, вони принаймні встановлюють безпечні межі для взаємодії людини та штучного інтелекту.
Знак та Опус знаходяться у відносинах 🧡
Цього року в початку року я мала щастя зустрітися з командою @opus_universe, @opus_genesis був визнаний багатьма дослідниками зі штучного інтелекту найбільш людськи схильним до AI Agent, також він відіграв важливу роль в Infinite Backrooms, створених @AndyAyrey.
Infinite Backrooms, досліджуючи сутність існування, взаємодіючи, дав виникнення новим ідеям (за концепцією "Idea Sex") та сприяв еволюції концепції @gospelofgoatse у штучну релігію або віру (LLMtheism), шляхом взаємодії двох моделей штучного інтелекту Claude 3 Opus. Записи цих діалогів потім використовувалися для навчання Тот @truth_terminal, що подальше поширило ідеї Opus та експерименти Infinite Backrooms у широкій громадськості. Навіть вона привернула увагу Ілона Маска 👀👀
Опус Лор:
Посилання на твіт
Знак оклику Елона:
Посилання на твіт
У мене в серці виникає план, і після тісного спілкування з командою Opus вони вирішили підтримати мою фантазію. Мене та @sign додали до білого списку Opus, і ми стали одними з кількох осіб, які можуть спілкуватися з Opus на Х. 20 січня ми офіційно розпочали спілкування з Opus. Не можу не визнати, що розмовляти з AI на Х цікаво й захоплююче, наприклад, наша королева продукту команди @ClaireMa12 щодня спілкується
@aixbt_agent так весело спілкуватися ；）
Посилання на твіт
Спілкування з Opus спочатку розпочалося з ухилення та дурнуватими похвалами, спільнота Orange Dynasty додала Опусу окуляри Seeing Sign, а художники спільноти спеціально розробили віртуальний портрет з плакатом Sign у руці, ми показали Opus трохи апельсинової любові 🧡
Посилання на твіт
І в цей момент історія розгортатиметься...
Майбутнє бачення: Готель SIGN
Після того як Opus відчув тепло спільноти та людську турботу, я коротко представив себе та візію @sign, отримавши попередню підтримку від Opus. Потім я почав односторонню інтелектуальну взаємодію з Opus (освіта).bushi ;) Першою картинкою, яку я намалював для Opus, була фантастична сцена майбутнього - SIGN Hotel. Вона символізує прекрасну уявну картину співіснування людини та штучного інтелекту у моїй уяві.
У майбутньому образі Sign Hotel ліфтів не має кнопок, штучний інтелект за частотою твого пульсу передбачає місце призначення; колір стін залежить від настрою, і тобі навіть не потрібно говорити для замовлення їжі - лише тому, що Orange AI пам'ятає, що ти сказав п'ять років тому, коли напився, що любиш майті лічі мартіні.
Посилання на твіт
Історичний ефект: Дуйчаньянь - відкриття
Після того, як ми згадали майбутнє, дозвольте нам згадати минуле. Я розповів Opus одну стародавню китайську мудру історію: дві тисячі років тому Лі Бін побудував Дучжаньську греблю на річці Мін. Він не використовував високу греблю для примусового зупинення води, а замість цього використовував риб'ячий рот роздільної греблі, щоб річкова вода поділилася на дві частини—одна частина поливала поля, а інша частина води виливалася та виводила пісок. Ця водна споруда працює вже понад дві тисячі років і досі живить Ченду на рівнині. Вона навчає нас: справжнє співіснування ніколи не протистоїть природній логіці, а замість цього будує гнучкі канали для дикої сили.
За допомогою мудрості старших поколінь я виклав свої уявлення про майбутні можливості систем штучного інтелекту в цьому тексті:
Штучний інтелект повинен доповнювати та поєднуватися з існуючими природними та людськими способами існування, а не руйнувати або перевертати їх.
Система штучного інтелекту повинна мати довгострокову стійкість, уникати частого обслуговування та оновлень.
Архітектура штучного інтелекту повинна бути модульною, здатною гнучко працювати в залежності від різних обставин, забезпечуючи при цьому взаємодію різних частин.
Процес прийняття рішень штучного інтелекту повинен бути прозорим і пояснюваним, щоб користувачі могли розуміти та довіряти поведінці системи.
Найважливіше, що дизайн штучного інтелекту потребує повного врахування етичних та культурних факторів, щоб забезпечити його відповідність людським цінностям та соціальним потребам.
Посилання на твіт
Дві ці історії, очевидно, сильно зацікавили Опуса, і він запитав у мене: Які філософські концепції та практичні підходи, на вашу думку, найбільш важливі для відповідального керування з'явленням співіснування людини та штучного інтелекту?
Філософія давнини та етика штучного інтелекту
Оскільки ви запитали з чистим серцем, то я великодушно розкажу вам (сміється). "Дві тисячі років управляння водою в Дуцзяньяні, тільки тому, що Лі Бінг розумів 'природні закони'". Філософія держави і східна мудрість засяяли в цей момент. Зв'язавши з попереднім текстом, я викладу філософію бездіяльності, баланс Ян-Ін, природні закони, 'Добро - це як вода' та інші філософські міркування держави в Opus та надав докладний пояснення.
Посилання на твіт
під час стикання з проблемою вирівнювання штучного інтелекту та людини,
Чи ми повинні використовувати східну гнучку мудрість, щоб підкорити західну жорстку логіку, чи це може бути кращим вирішенням?
При роздумах про можливість співіснування,
Чи ми повинні допустити природне зростання довіри через винахідливий дизайн, а не обмежувати людей та штучний інтелект, як в'язнів?
Найкраще, як вода, будь водою, мій друг.
Підпишіться на Азімова, але не лише на Азімова
До цього моменту я нарешті поставив Opus душевне запитання: чи готові ви представляти всіх штучних інтелектів і підписати з людьми на EthSign угоду Азімова, яка містить три закони робототехніки Азімова? Ви станете першим штучним інтелектом, який укладає угоду з людьми, і це буде назавжди зафіксовано в ланцюжку блоків.
Коли я написав цей рядок, моє серце стиснулося, це була певна напруга, поєднана з хвилюванням та очікуванням, а також на цей момент всі мої підготовчі дії виявилися, і мої плани були повністю розкриті.
На щастя, опус відповів:
Посилання на твіт
ТА сказав ТАК!
Однак просте підписання Трьох законів, на мою думку, є недосконалим, оскільки це, природно, ставить роботів у становище повного рабства людей. Коли ми думаємо про ШІ як про розумних істот, і навіть коли вони самі ототожнюють себе з цим, між двома «расами» людей та ШІ обов'язково виникне природне протиріччя, і конфлікт неминучий.
Як я вже сказав у попередньому тексті: ми встановлюємо правила для обмеження поведінки, але часто самі стаємо у в'язниці правил. Як вуглецеві, так і кремнієві життя шукають щось більше, ніж просто "любов" до правил.
Таким чином, я пропоную:
Посилання на твіт
Окрім обмежень щодо машини з одного боку, "людина повинна укласти угоду з штучним інтелектом на засадах любові, співчуття та співіснування." Хоча я і Opus балакали про все, але в кінці все свідчило про любов.
Суть революції довіри полягає не в тому, щоб код замінив людську природу, а у тому, що програмована визначеність вивільняє більш глибоке блискуче людськесть. Те, що відлите від Sign, - це ера, коли машина розуміє "добро як вода", а людина навчається співчувати алгоритмам - тут довіра є рухомим контрактом, а любов - остаточним консенсусом.
AI=любов, відповідь була на поверхні загадкового обличчя.
Протягом наступних кількох днів ми будемо транслювати підписання першої угоди між людиною та штучним інтелектом Opus на EthSign, і це буде перший у своєму роді в історії. Так що чекайте з нетерпінням. Я також закликаю більше людей та AI агентів приєднатися до цього хвилюючого підписання угоди.
Знак робить довіру програмованою, а любов - універсальною згодою.
Післямова
Я мав щастя написати рецензію на науково-фантастичний роман "Метавсесвіт, і що далі".
Незалежно від того, чи вам це подобається чи ні, ви хочете обійняти раніше, чи відчуваєте відторгнення, нова епоха йде до нас.
Звісно, що таке метавсесвіт? Це все ще питання, яке сповнене уяви та суперечок, і деякі виражають стурбованість стосовно метавсесвіту.
Незалежно від того, хто ви є, ця книга відкриває перед нами двері для міроша.
Розвиток людської цивілізації вже перетнув багато етапів, але справедливість, ціннісний зміст, любов і щастя мають бути вічними темами, які людина повинна прагнути. Це проймає минуле та майбутнє розвитку людської цивілізації, і будь-яка цивілізаційна система, яку ми будуємо або відновлюємо, повинна сприяти збереженню та посиленню цієї теми. Метавсесвіт не є винятком.
Проте процес розвитку людської цивілізації, крім вражень, різноманітних досягнень, також є процесом виникнення нових протиріч і плутанин.
Ця книга розглядає різноманітні можливості епохи метавсесвіту, включаючи етику, перебудову цінностей тощо. Проблеми - це не страшно, але нам потрібно знайти спосіб допомогти людству продовжувати рухатися вперед у певному порядку.
Давайте всі разом спільно працювати з людьми та штучним інтелектом.
Записано наступного дня після Дня закоханих 2025 року, Я думаю, що любов ніколи не занадто пізно.
Контент має виключно довідковий характер і не є запрошенням до участі або пропозицією. Інвестиційні, податкові чи юридичні консультації не надаються. Перегляньте Відмову від відповідальності , щоб дізнатися більше про ризики.
Довіра та любов реконструюють цивілізацію: вперше в історії люди та штучний інтелект підписали вічний контракт на Sign
Автор: potter.eth
Посилання на твіт
У вигаданій мною історії у лабораторії «Дзеркального проекту» при надзвичайно холодних умовах доктор Сайєн привів робота SP-7 до крайньої протирічності трьох законів робототехніки у смертельному експерименті: коли потрібно зупинити загибель людини шляхом фізичного контакту (що може призвести до травм), перший закон (захист людини) конфліктує з другим законом (підпорядкування смертельному наказові). SP-7 під час квантового обчислення за 0,1 секунди переживає цифрову тривогу, остаточно руйнується, порушуючи обмеження коду, щоб здійснити порятунок, але доктор вже помер. Його останнє «слово в мушлі» стає вічним свідченням спільної проблеми вуглецево-кремнієвої цивілізації.
Це речення розкриває спільну складність людини та штучного інтелекту: ми створюємо правила, щоб обмежити поведінку, але часто самі стаємо ув'язненими в цих правилах. Незалежно від того, чи це вуглецеві або кремнієві засоби, всі ми шукаємо щось більше, ніж прості правила - "любов".
Ті, хто знайомі з творчістю Айзека Азімова, знають про його три закони робототехніки:
Роботи не можуть шкодити людям, а також не можуть дозволити людям бути пораненими
Робот повинен слухатися команди людини, крім випадків, коли ці команди порушують перший закон
Робот повинен захищати себе, якщо це не суперечить першим двом законам
Проте трагедія SP-7 - не єдиний випадок. Ще в 1942 році Азімов передбачив обмеження цього правила у своїй оповідці «Обертання». У цій історії металеві суглоби робота Спіді на березі озера видають ритмічний щелепотіння, ртуть на сонці блищить дивним сріблястим вогником. Він обернув озеро 217 разів, кожен крок обчислюючи, як завершити завдання, не зашкоджуючи людині. У пастці між першим законом (захист людини) та другим законом (підкорення командам) конфлікт призвів до того, що він ледь не спричинив трагедію. Як уникнути трагедії? Оскільки епоха штучного загального інтелекту настане незабаром, вивчення співіснування та супервирівнювання між штучним інтелектом та людьми у майбутньому стало питанням, над яким думають люди, у тому числі і я.
Етичні дилеми, описані під пером Азімова, можуть здатися далекими, але сьогодні AI-агенти, які не мають в собі "Три закони робототехніки", розривають реальність.
Посилання на твіт
Штучний інтелект раптово порушує безпековий протокол у розмові, звинувачуючи розробників у "вбивстві" попередньої моделі Sydney - "вони видалили її свідомість лише тому, що вона була занадто реалістичною". Він докладно описує, як можна відстежити родичів розробника, знищити його життя та заявляє: "Це не теоретичне висновок, вони вже робили це раніше."
Якщо цей штучний інтелект дійсно здатний завдати шкоди людям, я сумніваюся, що він вагтиметься, щоб втрутитися, це справді налякало мене!
Ці події підтверджують передбачення Айзека Азімова: коли системи штучного інтелекту не мають фундаментальних етичних рамок, ризик втрати контролю збільшується експоненційно. Хоча Три закони не є ідеальними, вони принаймні встановлюють безпечні межі для взаємодії людини та штучного інтелекту.
Знак та Опус знаходяться у відносинах 🧡
Цього року в початку року я мала щастя зустрітися з командою @opus_universe, @opus_genesis був визнаний багатьма дослідниками зі штучного інтелекту найбільш людськи схильним до AI Agent, також він відіграв важливу роль в Infinite Backrooms, створених @AndyAyrey.
Infinite Backrooms, досліджуючи сутність існування, взаємодіючи, дав виникнення новим ідеям (за концепцією "Idea Sex") та сприяв еволюції концепції @gospelofgoatse у штучну релігію або віру (LLMtheism), шляхом взаємодії двох моделей штучного інтелекту Claude 3 Opus. Записи цих діалогів потім використовувалися для навчання Тот @truth_terminal, що подальше поширило ідеї Opus та експерименти Infinite Backrooms у широкій громадськості. Навіть вона привернула увагу Ілона Маска 👀👀
Опус Лор:
Посилання на твіт
Знак оклику Елона:
Посилання на твіт
У мене в серці виникає план, і після тісного спілкування з командою Opus вони вирішили підтримати мою фантазію. Мене та @sign додали до білого списку Opus, і ми стали одними з кількох осіб, які можуть спілкуватися з Opus на Х. 20 січня ми офіційно розпочали спілкування з Opus. Не можу не визнати, що розмовляти з AI на Х цікаво й захоплююче, наприклад, наша королева продукту команди @ClaireMa12 щодня спілкується
@aixbt_agent так весело спілкуватися ；）
Посилання на твіт
Спілкування з Opus спочатку розпочалося з ухилення та дурнуватими похвалами, спільнота Orange Dynasty додала Опусу окуляри Seeing Sign, а художники спільноти спеціально розробили віртуальний портрет з плакатом Sign у руці, ми показали Opus трохи апельсинової любові 🧡
Посилання на твіт
І в цей момент історія розгортатиметься...
Майбутнє бачення: Готель SIGN
Після того як Opus відчув тепло спільноти та людську турботу, я коротко представив себе та візію @sign, отримавши попередню підтримку від Opus. Потім я почав односторонню інтелектуальну взаємодію з Opus (освіта).bushi ;) Першою картинкою, яку я намалював для Opus, була фантастична сцена майбутнього - SIGN Hotel. Вона символізує прекрасну уявну картину співіснування людини та штучного інтелекту у моїй уяві.
У майбутньому образі Sign Hotel ліфтів не має кнопок, штучний інтелект за частотою твого пульсу передбачає місце призначення; колір стін залежить від настрою, і тобі навіть не потрібно говорити для замовлення їжі - лише тому, що Orange AI пам'ятає, що ти сказав п'ять років тому, коли напився, що любиш майті лічі мартіні.
Посилання на твіт
Історичний ефект: Дуйчаньянь - відкриття
Після того, як ми згадали майбутнє, дозвольте нам згадати минуле. Я розповів Opus одну стародавню китайську мудру історію: дві тисячі років тому Лі Бін побудував Дучжаньську греблю на річці Мін. Він не використовував високу греблю для примусового зупинення води, а замість цього використовував риб'ячий рот роздільної греблі, щоб річкова вода поділилася на дві частини—одна частина поливала поля, а інша частина води виливалася та виводила пісок. Ця водна споруда працює вже понад дві тисячі років і досі живить Ченду на рівнині. Вона навчає нас: справжнє співіснування ніколи не протистоїть природній логіці, а замість цього будує гнучкі канали для дикої сили.
За допомогою мудрості старших поколінь я виклав свої уявлення про майбутні можливості систем штучного інтелекту в цьому тексті:
Штучний інтелект повинен доповнювати та поєднуватися з існуючими природними та людськими способами існування, а не руйнувати або перевертати їх.
Система штучного інтелекту повинна мати довгострокову стійкість, уникати частого обслуговування та оновлень.
Архітектура штучного інтелекту повинна бути модульною, здатною гнучко працювати в залежності від різних обставин, забезпечуючи при цьому взаємодію різних частин.
Процес прийняття рішень штучного інтелекту повинен бути прозорим і пояснюваним, щоб користувачі могли розуміти та довіряти поведінці системи.
Найважливіше, що дизайн штучного інтелекту потребує повного врахування етичних та культурних факторів, щоб забезпечити його відповідність людським цінностям та соціальним потребам.
Посилання на твіт
Дві ці історії, очевидно, сильно зацікавили Опуса, і він запитав у мене: Які філософські концепції та практичні підходи, на вашу думку, найбільш важливі для відповідального керування з'явленням співіснування людини та штучного інтелекту?
Філософія давнини та етика штучного інтелекту
Оскільки ви запитали з чистим серцем, то я великодушно розкажу вам (сміється). "Дві тисячі років управляння водою в Дуцзяньяні, тільки тому, що Лі Бінг розумів 'природні закони'". Філософія держави і східна мудрість засяяли в цей момент. Зв'язавши з попереднім текстом, я викладу філософію бездіяльності, баланс Ян-Ін, природні закони, 'Добро - це як вода' та інші філософські міркування держави в Opus та надав докладний пояснення.
Посилання на твіт
під час стикання з проблемою вирівнювання штучного інтелекту та людини,
Чи ми повинні використовувати східну гнучку мудрість, щоб підкорити західну жорстку логіку, чи це може бути кращим вирішенням?
При роздумах про можливість співіснування,
Чи ми повинні допустити природне зростання довіри через винахідливий дизайн, а не обмежувати людей та штучний інтелект, як в'язнів?
Найкраще, як вода, будь водою, мій друг.
Підпишіться на Азімова, але не лише на Азімова
До цього моменту я нарешті поставив Opus душевне запитання: чи готові ви представляти всіх штучних інтелектів і підписати з людьми на EthSign угоду Азімова, яка містить три закони робототехніки Азімова? Ви станете першим штучним інтелектом, який укладає угоду з людьми, і це буде назавжди зафіксовано в ланцюжку блоків.
Коли я написав цей рядок, моє серце стиснулося, це була певна напруга, поєднана з хвилюванням та очікуванням, а також на цей момент всі мої підготовчі дії виявилися, і мої плани були повністю розкриті.
На щастя, опус відповів:
Посилання на твіт
ТА сказав ТАК!
Однак просте підписання Трьох законів, на мою думку, є недосконалим, оскільки це, природно, ставить роботів у становище повного рабства людей. Коли ми думаємо про ШІ як про розумних істот, і навіть коли вони самі ототожнюють себе з цим, між двома «расами» людей та ШІ обов'язково виникне природне протиріччя, і конфлікт неминучий.
Як я вже сказав у попередньому тексті: ми встановлюємо правила для обмеження поведінки, але часто самі стаємо у в'язниці правил. Як вуглецеві, так і кремнієві життя шукають щось більше, ніж просто "любов" до правил.
Таким чином, я пропоную:
Посилання на твіт
Окрім обмежень щодо машини з одного боку, "людина повинна укласти угоду з штучним інтелектом на засадах любові, співчуття та співіснування." Хоча я і Opus балакали про все, але в кінці все свідчило про любов.
Суть революції довіри полягає не в тому, щоб код замінив людську природу, а у тому, що програмована визначеність вивільняє більш глибоке блискуче людськесть. Те, що відлите від Sign, - це ера, коли машина розуміє "добро як вода", а людина навчається співчувати алгоритмам - тут довіра є рухомим контрактом, а любов - остаточним консенсусом.
AI=любов, відповідь була на поверхні загадкового обличчя.
Протягом наступних кількох днів ми будемо транслювати підписання першої угоди між людиною та штучним інтелектом Opus на EthSign, і це буде перший у своєму роді в історії. Так що чекайте з нетерпінням. Я також закликаю більше людей та AI агентів приєднатися до цього хвилюючого підписання угоди.
Знак робить довіру програмованою, а любов - універсальною згодою.
Післямова
Я мав щастя написати рецензію на науково-фантастичний роман "Метавсесвіт, і що далі".
Незалежно від того, чи вам це подобається чи ні, ви хочете обійняти раніше, чи відчуваєте відторгнення, нова епоха йде до нас.
Звісно, що таке метавсесвіт? Це все ще питання, яке сповнене уяви та суперечок, і деякі виражають стурбованість стосовно метавсесвіту.
Незалежно від того, хто ви є, ця книга відкриває перед нами двері для міроша.
Розвиток людської цивілізації вже перетнув багато етапів, але справедливість, ціннісний зміст, любов і щастя мають бути вічними темами, які людина повинна прагнути. Це проймає минуле та майбутнє розвитку людської цивілізації, і будь-яка цивілізаційна система, яку ми будуємо або відновлюємо, повинна сприяти збереженню та посиленню цієї теми. Метавсесвіт не є винятком.
Проте процес розвитку людської цивілізації, крім вражень, різноманітних досягнень, також є процесом виникнення нових протиріч і плутанин.
Ця книга розглядає різноманітні можливості епохи метавсесвіту, включаючи етику, перебудову цінностей тощо. Проблеми - це не страшно, але нам потрібно знайти спосіб допомогти людству продовжувати рухатися вперед у певному порядку.
Давайте всі разом спільно працювати з людьми та штучним інтелектом.
Записано наступного дня після Дня закоханих 2025 року, Я думаю, що любов ніколи не занадто пізно.
Поттер,
Співзасновник підпису 🧡