Un equipo de investigadores de la Universidad de Virginia, Microsoft Research y la Universidad de Tsinghua ha desarrollado un método que permite a los agentes de inteligencia artificial anticipar el impacto de sus modificaciones de código antes de implementarlas. Este sistema busca mitigar el riesgo de que una mejora en el software resulte en un problema no previsto. La investigación, publicada en arXiv, aborda cómo estos agentes pueden mejorar sus propias herramientas sin la necesidad de un reentrenamiento completo, centrándose en guiar mejor los intentos de optimización.
En esta dinámica, dos agentes colaboran: uno se encarga de realizar tareas, mientras que el otro examina formas de mejorar su rendimiento al modificar el código. Este último agente también puede actualizar su propio software. El modelo en que se basa esta investigación es HyperAgents, que conserva versiones anteriores del código para informar sobre futuras modificaciones. En un esfuerzo previo, Sakana AI presentó la Darwin Gödel Machine, que exploraba conceptos similares sobre la autodimensión del software.
Los investigadores incorporaron el Improvement Dynamics Model (IDM) para evaluar cuándo es prudente revisar modificaciones propuestas. Este modelo analiza cambios y utiliza datos previos para predecir sus posibles efectos. Por ejemplo, un error de sintaxis causado por instrucciones mal formadas llevó a una evaluación adicional que resultó en una versión mejorada capaz de resolver más tareas. El predictor no solo permite conocer el resultado de un cambio, sino que también da la posibilidad de llevar a cabo revisiones antes de la prueba final.
Las pruebas con 166 tareas de programación revelaron que las versiones con el nuevo predictor lograron una tasa de éxito del 30%, en comparación con el 16% de un agente inicial y el 22% de las versiones de HyperAgents sin predictor. Esta mejora sugiere que anticipar problemas puede optimizar los resultados en tareas de programación.
Además, el predictor tiene la capacidad de aprender y mejorar su funcionamiento a lo largo del tiempo. Cada cinco rondas, su rendimiento se revisa y se realizan ajustes, lo que también se ha aplicado en otros contextos, como la evaluación de artículos científicos y diseño de recompensas para robots simulados. Este enfoque se tradujo en un mayor acuerdo entre sus evaluaciones y las de expertos en matemáticas, alcanzando un 55% de coincidencia frente al 51% del sistema inicial.
Sin embargo, es importante tener en cuenta el coste asociado a estas mejoras. El nuevo método requirió una media de 170 millones de tokens para completar 40 rondas, mientras que HyperAgents consumió 49 millones. Aunque los investigadores igualaron los recursos de ambos sistemas, el método con predicciones continuó mostrando mejores rendimientos, aunque no se proporciona un análisis completo del coste computacional total.
Finalmente, aunque estos resultados son prometedores, aún es necesario validar el método en entornos reales. Los experimentos no garantizan que el sistema funcione igual en situaciones del mundo real ni que elimine la necesidad de intervención humana en el desarrollo de software. Sin embargo, muestran que la anticipación de resultados puede guiar eficazmente las modificaciones, reafirmando la complejidad del dilema inicial: para mejorar su funcionalidad, los agentes de IA requieren más que la capacidad de alterar su propio código.