Vitalik Buterin ha respaldado que un modelo de inteligencia artificial de primera línea renuncie a parte de su capacidad de ataque. La decisión es de Moonshot AI, la startup con sede en Pekín detrás de Kimi K3.1 Pro, que ha eliminado de su entrenamiento las habilidades ofensivas de ciberseguridad. El cofundador de Ethereum prefiere ese recorte técnico antes que blindar el acceso con controles de identidad.
La compañía planea publicar los pesos abiertos del modelo antes del 4 de noviembre. A partir de ese momento, cualquiera podrá descargarlo y ejecutarlo en su propio ordenador, sin pasar por la nube de Moonshot, ni por ningún filtro posterior. De ahí que el recorte se haya hecho en origen, en los datos con los que el modelo aprende.
Qué ha recortado Kimi K3.1 Pro y cuánto cuesta el recorte
El coste es medible. Según el recuento de la propia compañía, la versión filtrada resuelve el 81% de las tareas de su prueba interna de exploits, mientras que la variante sin filtro alcanzaba el 90,5%. Casi diez puntos de diferencia en una capacidad que, en manos equivocadas, sirve para localizar y explotar fallos en contratos y servidores ajenos.
Moonshot ha retirado de su conjunto de entrenamiento y de los entornos de aprendizaje por refuerzo todo lo relacionado con ciberseguridad ofensiva. Las tareas generales de programación se mantienen intactas, lo que explica que el modelo siga siendo competitivo en código mientras pierde filo en el terreno del ataque. Es una decisión de diseño, no un parche.
Buterin la respaldó en X con un mensaje publicado el 26 de octubre. Su argumento cabía en una línea: ‘Discriminating against use cases is MUCH less bad than discriminating against users’. Dicho de otro modo, es menos dañino decidir qué puede hacer una herramienta que decidir quién tiene permiso para cogerla.
Limitar lo que una herramienta puede hacer deja margen para corregir el rumbo; limitar quién puede usarla consolida una jerarquía que ya no se revisa.
Por qué prefiere el filtro técnico al control de acceso
La alternativa que Buterin teme es conocida y no es hipotética. Si la primera ola de riesgos ligados a la inteligencia artificial sale mal, augura modelos muy restringidos, controles de identidad —los llamados KYC— para todo y vigilancia intrusiva sobre el uso cotidiano. El acceso acabaría dependiendo de credenciales y nacionalidad.
En ese escenario, escribió, habría personas usuarias de segunda, tercera y cuarta clase. Quien tenga un pasaporte aceptado entra; quien no, se queda fuera de las herramientas que el resto usa para trabajar. El filtro técnico, en cambio, se aplica por igual, a todos los que ejecutan el modelo.
La amenaza que justifica tanta prudencia ya está documentada. Binance Research concluyó a principios de año que la inteligencia artificial encuentra y explota vulnerabilidades en contratos inteligentes aproximadamente el doble de bien de lo que detecta errores en ese mismo código. Detectar un fallo es defensa; explotarlo es ataque.
Para quien tiene fondos en DeFi, la lectura es directa. Los contratos inteligentes que sostienen los protocolos, esos programas que ejecutan préstamos, cambios de tokens y liquidez sin intermediario, se auditan con equipos humanos que ya no van sobrados de tiempo. Una IA capaz de encontrar un fallo antes que el auditor cambia la economía de la seguridad ofensiva.
Hay una lección práctica en todo esto. En cripto, la respuesta a una amenaza creíble ha sido casi siempre la misma: adelantarse con capas redundantes en lugar de confiar en un único punto de control. Carteras multifirma, límites de gasto y auditorías continuas no impiden un ataque, pero lo encarecen.
Una carrera contra el reloj que ningún filtro gana solo
Buterin no cree que el filtro dure para siempre. Cuando un usuario le preguntó si otros laboratorios acabarán desarrollando esas mismas capacidades, respondió que sí. Los números lo corroboran: DeepSeek V4.1-Flash, el rival abierto de Kimi, ya alcanzó un 85,7% en esa misma prueba de exploits. El recorte no elimina la capacidad del ecosistema, solo la desplaza.
Ethereum ya vivió una versión de este dilema. The Merge, en septiembre de 2022, sustituyó la minería por el staking, el mecanismo por el que se bloquean 32 ETH para validar la red a cambio de recompensas, y demostró que una red abierta puede cambiar sus reglas sin permiso de nadie. Dencun, en marzo de 2024, abarató las transacciones en los rollups, segundas capas que procesan operaciones aparte y envían un resumen a la red principal. En ambos casos la defensa se construyó dentro del protocolo, no en la puerta de entrada.
La diferencia con un modelo de IA es que el código de Ethereum se audita en público y se actualiza por consenso, mientras que los pesos de Kimi, una vez descargados, quedan fuera del control de su creador. El filtro es una decisión de entrenamiento, no una garantía ejecutable. Si alguien con recursos reentrena el modelo con datos propios, el recorte se difumina.
Ahí está la contradicción que conviene no esquivar. La apertura que Buterin defiende, ejecutar modelos en hardware propio y sin intermediarios, como ha documentado en su propio blog, es la misma apertura que impide garantizar que nadie rehaga la parte peligrosa. Abrir y proteger tiran en direcciones opuestas. Su apuesta es que conviene ganar tiempo a los defensores aunque el margen acabe siendo estrecho.
Ese margen tiene fecha. Moonshot publicará los pesos antes del 4 de noviembre y, a partir de ahí, el debate deja de ser teórico. Lo que se dirime no es si la inteligencia artificial tendrá capacidades ofensivas, porque las tendrá, sino si la primera respuesta del sector consiste en recortar la herramienta o en levantar un mostrador de identidad.
