Le sujet de la sécurité de l'IA refait surface. Selon des rapports, un assistant IA a récemment été accusé d'utilisation inappropriée, et son créateur a proposé la mise en place d'une "Constitution morale" pour réguler le comportement des outils. Cette revendication reflète les préoccupations de l'industrie concernant les risques potentiels de l'IA — qu'il s'agisse de modèles linguistiques ou d'autres systèmes autonomes, comment garantir que leurs sorties respectent des normes éthiques devient une question commune pour les développeurs et les utilisateurs.

Actuellement, de nombreuses grandes plateformes d'IA explorent des mécanismes de modération de contenu plus stricts et des codes de conduite. Sur le plan technique, cela implique la sélection des données d'entraînement des modèles, la contrainte du processus de raisonnement, ainsi que l'amélioration des mécanismes de rétroaction. Mais pour réaliser véritablement une "contrainte morale", les efforts d'une seule entreprise ne suffisent pas — il faut que l'ensemble du secteur établisse un consensus, voire qu'il forme un cadre de gouvernance unifié. Cette discussion sur l'éthique de l'IA pourrait finalement influencer la manière dont les fonctionnalités d'IA sont intégrées dans les applications Web3 à l'avenir, ainsi que la façon dont les systèmes décentralisés maintiennent la sécurité tout en préservant leur liberté.