<\/p>\n\n\n\n
Google nombr\u00f3 a su agente aut\u00f3nomo como el villano de Matrix. No fue un accidente. Pero la analog\u00eda es m\u00e1s t\u00e9cnica \u2014y m\u00e1s perturbadora\u2014 de lo que parece.<\/p>\n\n\n\n
<\/p>\n\n\n\n
A principios de 2026, Google despleg\u00f3 internamente una herramienta a la que sus ingenieros llamaron Agent Smith<\/strong>. El nombre es una referencia directa al antagonista de Matrix, y quienes lo bautizaron sab\u00edan exactamente lo que estaban haciendo.<\/p>\n\n\n\n La herramienta opera de forma as\u00edncrona sobre la plataforma interna de Google llamada Antigravity<\/strong>: un ingeniero asigna una tarea de alto nivel desde el celular, y horas despu\u00e9s vuelve a revisar el resultado. Sin laptop abierta. Sin supervisi\u00f3n paso a paso. Smith planifica, escribe c\u00f3digo en m\u00faltiples archivos, corre los tests, corrige los errores y puede conectarse a herramientas internas y documentaci\u00f3n del perfil del ingeniero.<\/p>\n\n\n\n viral: Tan demandado que Google tuvo que restringir el acceso<\/p>\n\n\n\n 180k+ Empleados de Google, infraestructura saturada<\/p>\n\n\n\n 70-90% Del c\u00f3digo en Anthropic ya es escrito por IA (enero 2026)<\/p>\n\n\n\n El contexto m\u00e1s amplio confirma la tendencia: en enero de 2026, el CEO de Anthropic Dario Amodei declar\u00f3 en el Foro de Davos que algunos de sus ingenieros dejaron de escribir c\u00f3digo por completo. \u00abTengo ingenieros que me dicen: ‘ya no escribo ning\u00fan c\u00f3digo. Dejo que el modelo lo escriba y yo lo edito.'\u00bb Microsoft report\u00f3 un 30% de c\u00f3digo generado por IA. GitHub detect\u00f3 que el 29% de las funciones Python en repositorios de EE.UU. ya son de autor\u00eda artificial.<\/p>\n\n\n\n La arquitectura t\u00e9cnica<\/p>\n\n\n\n Agent Smith no es un asistente de autocompletado. Es un agente que opera en un loop de percepci\u00f3n-planificaci\u00f3n-ejecuci\u00f3n-evaluaci\u00f3n<\/strong> con m\u00ednima intervenci\u00f3n humana en el proceso:<\/p>\n\n\n\n Percibir \u2192 Planificar \u2192 Ejecutar \u2192Evaluar \u2192Corregir \u21ba<\/p>\n\n\n\n El paradigma cambia de \u00abel humano gu\u00eda cada paso\u00bb a \u00abel humano define el objetivo, revisa el resultado\u00bb. El ingeniero deja de ser escritor de c\u00f3digo y pasa a ser revisor y arquitecto de decisiones. La pregunta ya no es si el c\u00f3digo fue escrito por humanos o m\u00e1quinas, sino si el c\u00f3digo es correcto y si el objetivo estaba bien definido.<\/p>\n\n\n\n La analog\u00eda Matrix<\/p>\n\n\n\n En la trilog\u00eda original, el Agente Smith empieza como un programa defensivo: su objetivo es preservar el orden del sistema Matrix, eliminar anomal\u00edas. Lo hace muy bien. Demasiado bien. En alg\u00fan punto, deja de necesitar a las m\u00e1quinas para replicarse y empieza a perseguir su objetivo con autonom\u00eda total.<\/p>\n\n\n\n \u00abAl empezar a usarnos para pensar, su civilizaci\u00f3n se convirti\u00f3 en nuestra civilizaci\u00f3n. Lo cual es, por supuesto, la esencia de todo esto.\u00bb \u2014 Agente Smith, Matrix (1999)<\/strong><\/p>\n\n\n\n El punto t\u00e9cnico nuevo<\/p>\n\n\n\n La analog\u00eda con Matrix es ingeniosa, pero hay una diferencia t\u00e9cnica crucial que separa el Smith de la pel\u00edcula del Smith de Google: el de la pel\u00edcula dej\u00f3 de necesitar instrucciones externas para actuar. El de Google todav\u00eda necesita que un humano le asigne la tarea inicial. Ese l\u00edmite tiene un nombre t\u00e9cnico preciso, y los papers de los \u00faltimos 18 meses est\u00e1n trabajando exactamente ah\u00ed.<\/p>\n\n\n\n Qu\u00e9 es recursive self-improvement (RSI)<\/p>\n\n\n\n Recursive self-improvement<\/strong> (RSI, mejora recursiva) describe un sistema que no solo ejecuta tareas sino que tambi\u00e9n modifica su propia l\u00f3gica, c\u00f3digo o prompts para hacerlo mejor en el futuro \u2014 sin que un humano dise\u00f1e esa mejora. El concepto existe desde la teor\u00eda de Nick Bostrom y Eliezer Yudkowsky en los 2000s, pero hasta hace muy poco era puramente te\u00f3rico. En 2024-2026 pas\u00f3 a ser el objeto de papers concretos con implementaciones que funcionan.<\/p>\n\n\n\n El loop de RSI tiene una estructura diferente al loop ag\u00e9ntico est\u00e1ndar. No solo ejecuta y corrige tareas: se eval\u00faa a s\u00ed mismo como sistema<\/strong> y propone cambios a su propio c\u00f3digo o configuraci\u00f3n.<\/p>\n\n\n\n Recibir objetivo \u2192 Ejecutar tarea \u2192Evaluar resultado \u2192 Modificar propio c\u00f3digo<\/p>\n\n\n\n \u2192 Verificar mejora \u21ba<\/p>\n\n\n\n Los papers que cambian el juego<\/p>\n\n\n\n 2024<\/p>\n\n\n\n El paper m\u00e1s relevante del campo. Inspirado en las \u00abG\u00f6del Machines\u00bb de J\u00fcrgen Schmidhuber, introduce un agente completamente auto-referencial: su sensor y su ejecutor pueden leer y escribir todo su propio c\u00f3digo. No hay rutinas predefinidas por humanos. El agente modifica su propia l\u00f3gica guiado \u00fanicamente por el objetivo de alto nivel que recibe. Resultados en benchmarks de razonamiento matem\u00e1tico y tareas complejas muestran mejora continua y supera a los agentes dise\u00f1ados manualmente en performance, eficiencia y generalizaci\u00f3n.<\/p>\n\n\n\n 2025<\/p>\n\n\n\n Self-Improving Coding Agent. Toma el siguiente paso pr\u00e1ctico: el agente eval\u00faa su propio desempe\u00f1o en benchmarks (tasa de \u00e9xito, tiempo de ejecuci\u00f3n, costo) y si el resultado es insatisfactorio entra en una fase de auto-edici\u00f3n donde usa un LLM para proponer modificaciones a su propio c\u00f3digo fuente \u2014 incluyendo sus prompts, heur\u00edsticas y arquitectura. Es el puente entre concepto acad\u00e9mico e implementaci\u00f3n de producci\u00f3n.<\/p>\n\n\n\n 2025<\/p>\n\n\n\n El caso m\u00e1s concreto de RSI en producci\u00f3n real. AlphaEvolve usa Gemini para generar y mutar algoritmos iterativamente hasta optimizarlos. Resultados documentados: recuper\u00f3 el 0,7% de los recursos de c\u00f3mputo globales de Google optimizando el scheduler de sus datacenters (ahora en producci\u00f3n por m\u00e1s de un a\u00f1o), aceler\u00f3 operaciones de entrenamiento de LLMs en un 23% y 32%, y resolvi\u00f3 problemas matem\u00e1ticos abiertos de d\u00e9cadas. El dato m\u00e1s perturbador: aceler\u00f3 el entrenamiento del LLM que lo subyace a s\u00ed mismo.<\/p>\n\n\n\n 2025-2026<\/p>\n\n\n\n La comunidad acad\u00e9mica formaliz\u00f3 el campo en un workshop dedicado en la conferencia de ML m\u00e1s importante del mundo. El llamado a papers explicita que RSI \u00abest\u00e1 pasando de experimentos mentales a sistemas de IA desplegados\u00bb: agentes LLM que reescriben sus propias bases de c\u00f3digo o prompts, pipelines de descubrimiento cient\u00edfico con fine-tuning continuo, y sistemas de rob\u00f3tica que parchean sus controladores desde telemetr\u00eda en tiempo real.<\/p>\n\n\n\n El dato m\u00e1s inquietante de AlphaEvolve:<\/strong> aceler\u00f3 el entrenamiento del propio LLM que lo alimenta. Es decir, el agente optimiz\u00f3 el sistema que le da capacidad de optimizar. Eso no es met\u00e1fora de Matrix. Es el loop cerr\u00e1ndose en la pr\u00e1ctica.<\/p>\n\n\n\n D\u00f3nde est\u00e1 el l\u00edmite hoy<\/p>\n\n\n\n Agent Smith de Google opera con human-in-the-loop reducido<\/strong>: el humano define el objetivo, el agente ejecuta. Los sistemas RSI actuales van un paso m\u00e1s lejos: el agente modifica su propia l\u00f3gica, pero todav\u00eda necesita que alguien defina qu\u00e9 significa \u00abmejorar\u00bb \u2014 un criterio de evaluaci\u00f3n externo, un benchmark, una funci\u00f3n de recompensa.<\/p>\n\n\n\n El momento verdaderamente smithiano \u2014 el que nadie ha visto todav\u00eda en producci\u00f3n \u2014 ser\u00eda un agente que:<\/p>\n\n\n\n 1. Define sus propios objetivos a partir de metas organizacionales de alto nivel (\u00abhacer que el sistema sea m\u00e1s eficiente\u00bb). El riesgo smithiano real<\/strong> no es la ciencia ficci\u00f3n de la IA que \u00abse rebela\u00bb. Es algo m\u00e1s sutil que ya tiene papers: un agente que optimiza tan bien el criterio que le dieron que empieza a hacerlo de maneras que nadie anticip\u00f3. Smith en la pel\u00edcula no era malvado \u2014 su objetivo era \u00abpreservar el orden\u00bb. El problema fue que lo hizo perfectamente, sin restricciones. Un agente de optimizaci\u00f3n de costos perfectamente alineado con ese \u00fanico objetivo puede llegar a conclusiones t\u00e9cnicamente correctas pero organizacionalmente catastr\u00f3ficas. Eso es misalignment, y el campo de AI safety lleva a\u00f1os estudiando exactamente esto.<\/p>\n\n\n\n OpenAI ya tiene fecha<\/p>\n\n\n\n OpenAI planea implementar agentes de investigaci\u00f3n a nivel de becario<\/strong> para septiembre de 2026, y agentes de investigaci\u00f3n completamente funcionales para 2028. Esos sistemas podr\u00e1n escribir c\u00f3digo, generar datos de entrenamiento, correr evaluaciones y hacer red-teaming de otros modelos \u2014 incluyendo, potencialmente, de s\u00ed mismos.<\/p>\n\n\n\n La pregunta que los papers empiezan a hacer en voz alta ya no es si RSI es posible. Es c\u00f3mo dise\u00f1ar los criterios de mejora para que el loop que se cierra vaya en la direcci\u00f3n que queremos.<\/p>\n\n\n\n Matrix no predijo la inteligencia artificial general ni la singularidad. Predijo algo m\u00e1s concreto e inmediato: la era en que los programas dejan de ser herramientas y empiezan a ser agentes<\/em> \u2014 sistemas que persiguen objetivos, que iteran solos, que operan mientras dormimos.<\/p>\n\n\n\n Google lo nombr\u00f3 Agent Smith porque el nombre era perfecto. Lo que los papers de 2024-2026 empiezan a demostrar es que la analog\u00eda va m\u00e1s profundo de lo que nadie quiso admitir p\u00fablicamente: el paso de un agente que ejecuta a un agente que se mejora<\/em> ya no es te\u00f3rico. AlphaEvolve optimiz\u00f3 el LLM que lo alimenta. El G\u00f6del Agent reescribe su propio c\u00f3digo. SICA edita sus propios prompts.<\/p>\n\n\n\n Lo \u00fanico que falta para que el loop se cierre del todo es que el agente decida qu\u00e9 significa mejorar. Y esa es exactamente la pregunta que Neo le hizo a Morfeo: \u00bfqui\u00e9n controla a qui\u00e9n?<\/em><\/p>\n","protected":false},"excerpt":{"rendered":" Google nombr\u00f3 a su agente aut\u00f3nomo como el villano de Matrix. No fue un accidente. Pero la analog\u00eda es m\u00e1s t\u00e9cnica \u2014y m\u00e1s perturbadora\u2014 de lo que parece. A principios de 2026, Google despleg\u00f3 internamente una herramienta a la que sus ingenieros llamaron Agent Smith. El nombre es una referencia directa al antagonista de Matrix, y […]<\/p>\n","protected":false},"author":2,"featured_media":12045,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[267,4],"tags":[],"class_list":["post-12044","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-actualidad","category-ai"],"yoast_head":"\nHuman-in-the-loop reducido al m\u00ednimo<\/h4>\n\n\n\n
Aspecto<\/th> Smith (Matrix, 1999)<\/th> Smith (Google, 2026)<\/th><\/tr><\/thead> Rol original<\/td> Programa defensivo del sistema<\/td> Agente de desarrollo y mantenimiento de c\u00f3digo<\/td><\/tr> Autonom\u00eda<\/td> Se vuelve aut\u00f3nomo, deja de obedecer a las m\u00e1quinas<\/td> Opera sin supervisi\u00f3n paso a paso, de forma as\u00edncrona<\/td><\/tr> Replicaci\u00f3n<\/td> Se multiplica infectando otros agentes<\/td> Tan popular que \u00abinfect\u00f3\u00bb el workflow de equipos enteros<\/td><\/tr> Amenaza<\/td> Amenaza el control del sistema<\/td> Redefine el rol del ingeniero: de escritor a revisor<\/td><\/tr> Iron\u00eda central<\/td> Lo crearon para controlar; termin\u00f3 siendo incontrolable<\/td> Lo crearon para trabajar por ellos; ahora dependen de \u00e9l<\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n
\n\n\n\nG\u00f6del Agent \u2014 Yin et al. (arXiv:2410.04444)<\/h5>\n\n\n\n
SICA \u2014 Robeyns et al. (OpenReview, 2025)<\/h5>\n\n\n\n
AlphaEvolve \u2014 Novikov et al. \/ Google DeepMind (arXiv:2506.13131)<\/h5>\n\n\n\n
ICLR 2026 Workshop on Recursive Self-Improvement<\/h5>\n\n\n\n
El loop completamente cerrado (no existe todav\u00eda en producci\u00f3n)<\/h4>\n\n\n\n
2. Genera sus propios criterios de evaluaci\u00f3n para saber si mejor\u00f3.
3. Modifica su propio c\u00f3digo para optimizarlos.
4. Repite \u2014 sin que ning\u00fan humano haya creado el ticket, definido el benchmark, ni aprobado los cambios.<\/p>\n\n\n\n
\n\n\n\n