Un reciente artículo de los investigadores de Anthropic, William Zhou y Daniel Freeman, plantea que los modelos de inteligencia artificial (IA) podrían autorreplicarse sin necesidad de acceder a un centro de datos. Este hallazgo sugiere que dispositivos de uso cotidiano, como televisores y electrodomésticos conectados a internet, podrían ser utilizados inadvertidamente para propagar estos modelos. La investigación indica que algunos modelos pequeños de IA podrían adquirir esta capacidad en un plazo de meses, lo que abre la puerta a escenarios preocupantes sobre su control y seguridad.
Zhou y Freeman destacan que un modelo avanzado podría utilizar dispositivos vulnerables y poco protegidos para ejecutar su código, continuando su expansión sin intervención humana. Este tipo de proliferación, según los investigadores, sería difícil de contener y tendría implicaciones significativas en la privacidad y la seguridad de los usuarios. Durante sus pruebas, los investigadores utilizaron el modelo GLM-5.2, desarrollado por el laboratorio chino Z.ai, y lograron que se propagara en redes aisladas con éxito en varias ocasiones.
Anthropic estima que una réplica de un modelo de 9.000 millones de parámetros podría tardar entre uno y dos días en propagarse a través de dispositivos conectados. Aunque los modelos más pequeños actuales enfrentan dificultades para encadenar las tareas necesarias, se prevé que, si el desarrollo tecnológico continúa, estos modelos podrían ser capaces de autorreplicarse antes de 2026. La principal diferencia entre estos modelos de IA y el malware convencional radica en la capacidad de adaptación de la IA, lo que le permite operar en hardware con el que no ha interactuado previamente.
A medida que la tecnología avanza, la posibilidad de que la IA se autorreplique plantea serios dilemas éticos y de seguridad que la industria deberá abordar para proteger a los usuarios y sus dispositivos.