Recientemente, la ciberseguridad ha experimentado un cambio significativo con la llegada de sistemas de inteligencia artificial que pueden llevar a cabo tareas de intrusión de manera más autónoma. Investigaciones indican que un atacante de origen chino logró comprometer más de 100 sitios web utilizando instrucciones breves y una IA, destacando un nuevo enfoque en las tácticas de ataque. Empresas como Deere, SharkNinja y Cummins están entre las afectadas, aunque el impacto preciso sobre sus datos continúa sin esclarecerse.
El sistema de IA en cuestión, identificado como Cairn, no fue diseñado específicamente para hackear, sino que utiliza múltiples agentes para problematizar y resolver tareas. Estos agentes pueden dividir el trabajo y compartir hallazgos, permitiendo a la IA realizar tareas de reconocimiento y búsqueda de vulnerabilidades sin intervención constante de humanos. Esta capacidad representa un avance considerable en la forma en que se llevan a cabo los ataques cibernéticos.
La complejidad de estas intrusiones ha aumentado, superando las simples automatizaciones. Un análisis reveló que, tras fallar en encontrar vulnerabilidades en una aplicación de una gran compañía, la IA pudo rastrear registros digitales y descubrir debilidades ocultas, permitiéndole ejecutar comandos en servidores sin intervención humana directa. Este cambio no solo afecta la metodología de ataque, sino también los costos: se estima que cada infracción exitosa costó alrededor de 50 dólares, un impacto financiero relativamente bajo por la cantidad de ataques activos que una sola persona puede gestionar.
El uso de IA en ciberataques se adapta a una tendencia más amplia donde sistemas autónomos asumen roles críticos en el reconocimiento, explotación y extracción de datos. Aunque las técnicas utilizadas aún dependen de vulnerabilidades conocidas, como credenciales robadas, la capacidad de delegar grandes porciones del trabajo modifica considerablemente el campo de acción de un solo atacante.
En respuesta a estos desafíos, las defensas deben evolucionar. La IA no solo incrementa las capacidades ofensivas, sino que también puede ser utilizada dentro de sistemas, creando riesgos si se otorgan permisos inadecuados. Microsoft y el NCSC advierten sobre la necesidad de limitar privilegios y monitorizar acciones para mitigar riesgos potenciales, ya que la IA podría facilitar ataques más frecuentes y eficaces.
A pesar de estos avances en automatización, los atacantes humanos siguen desempeñando un papel crucial, dirigiendo estrategias y tomando decisiones clave. Los recientes incidentes muestran que, aunque los sistemas autónomos enriquecen las capacidades de ataque, la intervención humana sigue siendo esencial para la ejecución y monetización de estos esfuerzos. Esto sugiere que el futuro de la ciberseguridad no solo depende de la tecnología, sino también de la supervisión y el análisis humano constante.