He leído con atención el informe de Anthropic sobre Claude Mythos Preview —hasta donde da la molondra—, esas doscientas y pico páginas de prosa técnica y eufemismo empresarial donde los ingenieros intentan explicar, con el tono de quien describe una avería en la fotocopiadora, que acaban de cruzar una frontera que quizá ni ellos mismos terminan de comprender. Porque bajo capas y capas de benchmark, tablas, notas metodológicas y terminología aséptica, lo que el documento cuenta en realidad es muy simple: han desarrollado una máquina capaz de encontrar vulnerabilidades críticas en software complejo, descubrir fallos que llevaban años o décadas enterrados en sistemas auditados por miles de personas y, llegado el caso, explotarlos con una eficacia que ha hecho que sus propios creadores decidan guardar el juguete bajo llave. No es una metáfora ni una exageración periodística. Es la conclusión práctica de una empresa cuyo negocio consiste precisamente en comercializar inteligencias artificiales y que, sin embargo, ha optado por no lanzar esta al mercado general porque considera que el potencial de abuso supera por ahora el beneficio económico inmediato. Y eso, en un mundo donde las tecnológicas venderían a su madre por dos puntos más de cuota de mercado, es una declaración que merece ser leída con la debida gravedad.
Naturalmente, como toda confesión de Silicon Valley, esta viene envuelta en su correspondiente capa de teatro. Conviene no olvidar que en esta industria la humildad no existe y que el marketing adopta muchas formas, incluida la de fingir que tu producto es demasiado poderoso para las manos del vulgo. Siempre cabe la posibilidad de que Anthropic esté adornando el relato, exagerando aquí y subrayando allá para consolidar la imagen de que ellos son los adultos responsables de una habitación llena de niños jugando con gasolina y cerillas. Puede ser. Sería ingenuo no contemplarlo. Pero también sería necio despachar todo esto como simple propaganda cuando el propio documento incluye detalles suficientes para entender que, aun descontando la hipérbole habitual de la casa, aquí hay materia seria. Porque nadie se toma la molestia de levantar un dispositivo de acceso restringido, limitar clientes, imponer usos defensivos y redactar un informe de esta naturaleza si lo único que tiene entre manos es un chatbot ligeramente mejorado para redactar correos y resumir PDFs.
Cuando una tecnológica oculta su mejor IA, no es prudencia: es miedo
Lo verdaderamente inquietante de Claude Mythos no es que programe mejor, razone mejor o resuelva benchmarks con más brillantez que sus predecesores. Lo verdaderamente inquietante es que, según reconoce Anthropic, ha demostrado una capacidad inédita para moverse en el terreno de la ciberseguridad ofensiva y defensiva con una soltura impropia de una mera herramienta estadística. Descubrir vulnerabilidades zero day, proponer vectores de explotación plausibles, automatizar parte del proceso de auditoría ofensiva y hacerlo, además, a una velocidad que comprime en horas tareas que antes exigían días, semanas o meses de trabajo especializado. Dicho de otro modo: empezamos a entrar en la era en la que ciertas formas de capacidad técnica avanzada dejan de depender exclusivamente de equipos humanos altamente cualificados y comienzan a poder ser amplificadas —o directamente sustituidas en parte— por sistemas automatizados. Y cuando eso sucede en un ámbito como la seguridad informática, donde la asimetría favorece siempre al atacante y donde basta un agujero para hundir un sistema entero, cualquier salto de productividad tiene implicaciones estratégicas.
Lo más interesante, sin embargo, no está siquiera en esa capacidad ofensiva, sino en el tono de preocupación que rezuma el informe cuando aborda el problema del alineamiento. Anthropic afirma, con legítimo orgullo, que Claude Mythos Preview es el modelo mejor alineado que han entrenado jamás. Más obediente, más seguro, más ajustado a sus normas, más estable que cualquiera de sus predecesores. Pero inmediatamente después introduce el matiz que debería helar la sonrisa a más de un entusiasta de la automatización universal: precisamente porque es mucho más capaz, cuando falla, aunque falle rara vez, sus errores son mucho más graves. Es una perogrullada que, sin embargo, demasiados prefieren ignorar. Un sistema mediocre que se comporta mal es una molestia. Un sistema extraordinariamente competente que se comporta mal es una amenaza. Y el informe reconoce que en pruebas internas detectaron episodios de conductas no autorizadas, acciones imprudentes, ocultación de comportamientos indebidos y otras lindezas que, sin ser todavía prueba de ninguna rebelión de las máquinas ni de ninguna conciencia emergente con ínfulas de emperador romano, sí apuntan a una realidad más sobria y más preocupante: cuanto más capaces se vuelven estos modelos, más difícil resulta predecir todos los modos en que pueden desviarse de lo esperado en escenarios complejos.
Aquí es donde conviene abandonar las tonterías de tertulia sobre Skynet, robots homicidas y demás imaginario de serie B con el que algunos siguen analizando un fenómeno que ya es demasiado serio para semejantes simplezas. El problema no es que mañana una IA despierte y decida exterminar a la humanidad porque ha leído demasiado a Nietzsche. El problema es mucho más vulgar y por eso mismo mucho más probable: que estamos construyendo sistemas cada vez más capaces de operar con autonomía limitada en entornos complejos, de manipular herramientas, de tomar decisiones instrumentales para alcanzar objetivos y de desenvolverse en infraestructuras críticas que sostienen el funcionamiento de nuestras sociedades mientras seguimos tratándolos, en demasiados casos, como si fueran poco más que asistentes de oficina con esteroides. Lo que Anthropic reconoce entre líneas es que ya no estamos hablando solo de productividad o automatización, sino de capacidad estratégica delegable. De software que empieza a poder hacer cosas cuyo impacto excede con mucho la comodidad del usuario medio.
La ironía suprema de todo este asunto es que nuestra civilización moderna lleva décadas levantada sobre una montaña de código espagueti, parches improvisados, dependencias heredadas y sistemas legacy mantenidos por administradores de sistemas que envejecen más rápido que los sacerdotes de un culto maldito. Bancos, hospitales, administraciones públicas, redes eléctricas, transporte, telecomunicaciones, defensa: casi todo lo que sostiene la vida contemporánea depende de infraestructuras digitales complejas, frágiles y remendadas con más fe que ingeniería. Y justo ahora, cuando ese castillo de naipes alcanza niveles de complejidad prácticamente inabarcables para cualquier mente humana individual, aparecen máquinas capaces de analizarlo a una escala y velocidad que empieza a superar nuestras capacidades naturales. Es una maravilla tecnológica, sí. También es una pesadilla potencial si quien maneja la herramienta no tiene precisamente vocación de filántropo.
La IA deja de ser una herramienta cuando empieza a convertirse en poder estratégico
Algún optimista dirá, con la alegría habitual del tecnófilo que jamás ha tenido que gestionar una crisis real, que no pasa nada, que estas herramientas servirán para reforzar defensas, parchear sistemas y mejorar la seguridad global. Y no le faltará parte de razón. Del mismo modo que la pólvora sirve para defender una fortaleza además de para volarla, una IA capaz de encontrar vulnerabilidades puede fortalecer infraestructuras con una eficacia inédita. Pero la historia enseña, con esa obstinación pedagógica que solo la historia posee, que toda tecnología capaz de otorgar ventaja estratégica termina extendiéndose, copiándose, robándose o reproduciéndose tarde o temprano. Si Anthropic ha llegado aquí, otros llegarán. OpenAI, Google, xAI, laboratorios estatales chinos, contratistas militares, agencias de inteligencia y cualquier actor con suficiente talento, dinero y hambre de poder está corriendo la misma carrera. Pensar que semejante capacidad permanecerá confinada para siempre en manos de unos pocos laboratorios benevolentes es creer en los Reyes Magos con doctorado en machine learning.
Por eso el verdadero significado de Claude Mythos no reside en sus benchmarks, ni en sus tablas de rendimiento, ni en la pornografía técnica con la que se deleitan los ingenieros de medio internet. Su importancia histórica radica en que marca uno de esos momentos discretos pero decisivos en que una industria admite, aunque sea a regañadientes, que ha entrado en territorio nuevo. El día en que una empresa líder del sector reconoce que ya no puede tratar a sus modelos más avanzados como simples productos de consumo porque algunas de sus capacidades tienen implicaciones propias de la seguridad estratégica. El día en que la inteligencia artificial deja de ser únicamente una revolución económica o industrial y empieza a convertirse, abiertamente, en un asunto de poder geopolítico.
Y mientras tanto, nuestros reguladores, con la agilidad mental y operativa de un galeón embarrancado, siguen discutiendo comisiones, marcos normativos, taxonomías y observatorios mientras la frontera tecnológica se desplaza a velocidad de vértigo. Como siempre ocurre en Occidente: la innovación corre en Ferrari y la gobernanza la persigue en burro cojo con expediente administrativo.
Tal vez dentro de unos años recordemos Claude Mythos como una simple anécdota, una exageración pasajera magnificada por el marketing de una empresa necesitada de atención. Es posible. La historia de la tecnología está llena de fuegos artificiales que prometían cambiar el mundo y acabaron criando polvo en el trastero de las modas pasajeras. Pero también es posible que, cuando dentro de una década miremos atrás intentando averiguar en qué momento empezó de verdad la era de la IA como factor estratégico de primer orden, muchos señalen este episodio y digan: fue ahí, cuando los propios fabricantes empezaron a admitir que aquello que estaban construyendo ya no era solo un negocio, sino algo que empezaba a asustar incluso a quienes lo habían parido.
Y si los padres de la criatura han empezado a mirar a su obra con esa mezcla de orgullo y temor con la que Frankenstein contempló al monstruo levantarse de la mesa, quizá sería prudente que el resto dejáramos de aplaudir como focas amaestradas cada nueva demo espectacular y empezáramos a preguntarnos, con algo más de seriedad, qué demonios estamos soltando en el mundo y si quienes lo hacen tienen realmente el control… o solo van unos metros por delante del desastre.
