Así que hay una historia salvaje sobre cómo se financió uno de los mayores fondos de guerra en políticas de IA, y empieza con una moneda de perro y un armario en Canadá.

En 2021, los creadores de Shiba Inu simplemente enviaron un montón de tokens SHIB a la cartera de Vitalik Buterin sin pedir permiso. Movimiento clásico: poner "Vitalik posee la mitad de nuestra oferta" en los materiales de marketing y esperar que la asociación te lleve a la fama del nivel Dogecoin. Excepto que los tokens en realidad se inflaron mucho. Estamos hablando de más de $1 mil millones en valor en libros.

Buterin quería salir antes de que todo colapsara. Últimamente ha estado describiendo el proceso: llamar a su madrastra en Canadá, hacer que rebusque en su armario, leerle un número de 78 dígitos para combinarlo con otro código de 78 dígitos de su mochila. Honestamente, absurdo. Logró vender algunos por ETH y donó $50 millones a GiveWell, pero todavía tenía en sus manos una gran cantidad de SHIB.

Dividió lo que quedaba en dos. Una mitad fue a CryptoRelief para infraestructura médica en India y su propia investigación Balvi. La otra mitad fue al Future of Life Institute, una organización que trabaja en riesgos existenciales de la IA, biotecnología y armas nucleares. FLI le propuso una hoja de ruta sólida que cubría las principales categorías de riesgo además de iniciativas pro-paz. Peroerin pensó que podrían cobrar unos $10-25 millones dado que la liquidez de SHIB era escasa. En cambio, FLI liquidó aproximadamente $500 millones de su mitad. CryptoRelief hizo números similares. Una moneda meme que nadie tomó en serio acaba de crear un evento filantrópico de mil millones de dólares.

Pero aquí es donde se pone interesante. FLI pasó por un cambio interno y se inclinó hacia campañas políticas y culturales agresivas sobre la IA como su estrategia principal. Completamente diferente del enfoque original que Buterin esperaba.

Este cambio es la razón por la que Buterin publicó sobre ello recientemente. Su preocupación es sencilla: la acción política coordinada a gran escala con enormes fondos tiende a crear consecuencias no deseadas, reacciones adversas y soluciones que terminan siendo tanto autoritarias como frágiles, incluso cuando esa no era la intención original.

Señaló el enfoque de bioseguridad de FLI como un estudio de caso. Han estado intentando incorporar límites en los modelos de IA para que rechacen salidas peligrosas. Suena bien en teoría, pero Buterin lo llamó "muy frágil" — las jailbreaks y las soluciones de ajuste fino hacen que esas restricciones sean fáciles de evadir. El extremo lógico de ese pensamiento se vuelve "prohibamos la IA de código abierto", lo que luego lleva a "apoyemos a una buena empresa de IA para dominar globalmente y no dejemos que nadie más alcance ese nivel". Estas estrategias fracasan estrepitosamente y hacen que el resto del mundo sea tu enemigo.

También hay un problema estructural con los enfoques centrados en la regulación. Cuando los gobiernos restringen tecnologías peligrosas, las organizaciones de seguridad nacional quedan exentas — y esas mismas organizaciones a menudo son parte del riesgo en sí mismas. Mira los programas de fuga en laboratorios gubernamentales.

Peroerin mencionó que se sintió alentado por algunos trabajos recientes de FLI, en particular una declaración de "IA pro-humana" que reúne a conservadores, progresistas, libertarios y diferentes regiones. También señaló que están investigando problemas de concentración de poder.

Pero el mensaje principal es claro. Una donación no planificada de tokens que él nunca quiso financió una organización que se alejó de lo que él creía, y ahora están desplegando cientos de millones de maneras que le incomodan. Había expresado sus preocupaciones a FLI varias veces antes de hacerlo público.

Es una ventana fascinante a cómo los tokens inu accidentalmente se convirtieron en un actor principal en los debates sobre políticas de IA, y las complicaciones que surgen cuando una financiación masiva cambia repentinamente la dirección de una organización.