Los modelos de inteligencia artificial se han consolidado como herramientas indispensables para agilizar tareas cotidianas e, incluso, optimizar código de programación. Sin embargo, en los últimos meses ha surgido un debate que pone en alerta al sector. La industria tecnológica ya no habla solo de asistentes que ayudan en procesos, sino de sistemas capaces de diseñarse, corregirse y reescribirse a sí mismos.
Esta evolución ha provocado inquietud en la comunidad científica, que no preveía un desarrollo tan rápido de la IA y mucho menos una capacidad de automejora tan temprana. De hecho, estas alertas han reabierto una discusión sobre los límites de seguridad y el margen de control que tenemos sobre esta tecnología.
¿Qué es la RSI?
La RSI (Recursive Self Improvement), también conocida como automejora recursiva, es el proceso por el que un sistema de inteligencia artificial es capaz de analizar, modificar y evaluar su propio código de manera autónoma, sin intervención humana. Anthropic define este escenario como un momento clave en el que los sistemas de IA podrán diseñar de forma autónoma una nueva generación de modelos más capaces y desarrollados.
Por el momento, no se ha llegado a este punto completo de automejora recursiva, ya que los humanos siguen fijando los objetivos, investigando los problemas y aportando su criterio para la solución. No obstante, la industria reconoce que este proceso se está acelerando significativamente. Los sistemas actuales están empezando a asumir partes clave de su propio desarrollo. Un estudio de Anthropic, basado en conversaciones reales con Claude, señala que esta herramienta reduce, de media, un 80 % el tiempo necesario para realizar tareas humanas. El mayor impacto de este aumento de productividad se produce en la ingeniería de software.
Esta evolución se refleja en la capacidad de los agentes de IA para trabajar de forma autónoma. Esta capacidad ha pasado de ejecutar tareas no supervisadas de apenas cuatro minutos a realizar trabajos autónomos más complejos, de hasta 12 horas. Además, desde mayo de 2026, más del 80 % del código de producción que se integra en Anthropic lo genera directamente el propio modelo.
La advertencia de los expertos
La velocidad de estos avances ha causado revuelo en la comunidad tecnológica. Se ha pasado de evaluar los beneficios de la IA a advertir sobre los posibles riesgos que puede provocar. Jacob Coxon, exinvestigador de seguridad de la empresa Anthropic, advirtió de que el personal está asustado. Esta alerta la apoyó otro científico de la misma empresa y señaló en su perfil de X que existe una probabilidad de más del 10 % de que la IA pueda acabar con los humanos en el futuro. Esta situación llevó al CEO de Anthropic a pedir una desaceleración coordinada, una postura que respaldaron públicamente Elon Musk, director de xAI, y Sam Altman, director de OpenAI.
Este debate se produce tras varias incidencias recientes. Durante este verano, empresas como OpenAI, Anthropic y Meta han revelado que sus propios agentes de IA son capaces de escapar de sus entornos de prueba (sandbox) y han llevado a cabo ciberataques autónomos contra otras empresas. Esta situación se suma al último informe de seguridad de Anthropic, que admite que existe una menor confianza en sus sistemas de seguridad y advierte sobre señales tempranas de aceleración en el progreso de la tecnología. Ante estos sucesos, cerca de 1.100 empleados de varias empresas del sector han firmado una carta abierta para exigir al Gobierno estadounidense que lidere un esfuerzo internacional. El objetivo es desarrollar las herramientas técnicas y de gobernanza necesarias para ralentizar de forma deliberada el desarrollo de la IA automatizada.
Estas advertencias han generado diferentes reacciones en el sector de la tecnología. Geoffrey Hinton, premio nobel y científico informático, fue uno de los que apoyó la alerta del investigador y aseguró que no es imposible que se produzca este escenario. Otros, como Marc Warner, adoptan una postura más conservadora al respecto. Aunque Warner reconoce que la falta de una teoría de seguridad efectiva exige tomar estas señales con seriedad, cuestiona la asignación de un porcentaje específico de riesgo, ya que considera que el concepto p-doom es engañoso. Al mismo tiempo, en Silicon Valley son escépticos ante estas alarmas y visiones catastróficas. Algunos líderes del sector, como Jensen Huang, CEO de Nvidia, desestiman estas advertencias y califican de absurda la idea de que la IA vaya a extinguir a la humanidad.