Тема безопасности ИИ снова в центре внимания. Согласно сообщениям, после того как один из помощников ИИ был обвинен в неправильном использовании, его создатель недавно предложил создать "моральную конституцию" для регулирования поведения инструментов. Этот призыв отражает обеспокоенность отрасли потенциальными рисками ИИ — будь то языковые модели или другие автономные системы, — как обеспечить соответствие их вывода этическим стандартам, становится общей заботой разработчиков и пользователей.

В настоящее время многие крупные платформы ИИ исследуют более строгие механизмы проверки контента и кодексы поведения. С технической точки зрения, это включает отбор данных для обучения моделей, ограничения в процессе рассуждения и совершенствование механизмов обратной связи. Но для по-настоящему реализации "моральных ограничений" одного усилия компании недостаточно — необходима согласованность всей отрасли и даже формирование единой управленческой рамки. Эта дискуссия о этике ИИ в конечном итоге может повлиять на то, как в будущих Web3-приложениях будут интегрированы функции ИИ, а также как децентрализованные системы смогут сохранять свободу действий, одновременно обеспечивая безопасность.