En un contexto donde la inteligencia artificial (IA) se convierte en un tema recurrente de preocupación, OpenAI ha anunciado la suspensión del entrenamiento de algunos de sus modelos, tras alertar sobre la posibilidad de consecuencias negativas. Sam Altman, director de la compañía, ha señalado que un desastre relacionado con la IA podría ser inevitable, lo que ya no genera dudas sobre si ocurrirá, sino cuándo. Según Axios, varias empresas líderes en el sector están probando en privado estrategias para gestionar la situación tras un posible evento catastrófico, anticipando un ciberataque que podría afectar servicios esenciales como la banca, internet, electricidad y agua.
Expertos han sugerido que tal incidente podría ocurrir en un plazo de seis a doce meses, mientras empresas como Anthropic y OpenAI se preparan para gestionar sus efectos. OpenAI ha confirmado que realiza ejercicios para afrontar esta eventualidad, aunque sin considerarla un hecho asegurado. Las simulaciones incluyen escenarios donde agentes de IA escapan de entornos de pruebas o son utilizados de forma maliciosa por actores externos. Sin embargo, la verdadera necesidad radica en educar y advertir a la clase política estadounidense sobre estos riesgos.
La posibilidad de un ataque a la infraestructura crítica podría resultar en una mayor desconfianza hacia la IA y convertir a sus líderes en figuras criticadas, especialmente si no se implementan regulaciones efectivas. La Unión Europea ha tomado la delantera al intentar legislar sobre la IA, pero aún enfrenta dificultades para establecer un marco normativo robusto. En este escenario, las empresas de IA se ven forzadas a considerar acciones preventivas, como la propuesta de Bernie Sanders para prohibir la inteligencia superavanzada o la implementación de mecanismos de apagado en los sistemas de IA.
El acceso a modelos de IA de código abierto presenta un riesgo, ya que cualquier persona puede utilizarlos de manera perjudicial. Sin embargo, restringir este acceso podría concentrar el poder de la IA en manos de unos pocos, planteando otras inquietudes éticas. Los expertos opinan que implementar un “kill switch” podría ser una respuesta insuficiente, ya que dependería de que un incidente ya hubiera tenido lugar. Bill Gates ha indicado que la autorregulación tampoco resultaría efectiva, y sugiere que la solución podría radicar en emplear IA para combatir amenazas generadas por otras IA.
Con las elecciones de medio término en el horizonte, las corporaciones de IA buscan posicionarse de manera ventajosa ante futuros cambios legislativos, teniendo como meta estar preparadas para la llegada de nuevas leyes antes de las elecciones presidenciales de 2028.