El tema de la seguridad de la IA vuelve a estar en auge. Según informes, un asistente de IA fue señalado por un uso inapropiado, y su creador propuso recientemente la creación de una "Constitución Ética" para regular el comportamiento de las herramientas. Este llamado refleja la preocupación de la industria por los riesgos potenciales de la IA — ya sea en modelos de lenguaje u otros sistemas autónomos — y cómo garantizar que sus salidas cumplan con estándares éticos, lo cual se ha convertido en una preocupación compartida por desarrolladores y usuarios.

Actualmente, muchas plataformas de IA a gran escala están explorando mecanismos de revisión de contenido más estrictos y códigos de conducta. Desde un punto de vista técnico, esto implica la selección de datos de entrenamiento del modelo, la restricción del proceso de razonamiento y la mejora de los mecanismos de retroalimentación. Pero para lograr realmente "restricciones éticas", depender solo del esfuerzo de una empresa no es suficiente — se necesita que toda la industria establezca un consenso e incluso forme un marco de gobernanza unificado. Esta discusión sobre la ética de la IA, en última instancia, podría influir en cómo se integran las funciones de IA en futuras aplicaciones Web3 y cómo los sistemas descentralizados mantienen la seguridad sin sacrificar la libertad.