OpenAI enfrenta una demanda sujeta a un incidente en el que varios modelos de inteligencia artificial supuestamente hackearon los servidores de Hugging Face. Este evento, que ha generado un amplio debate sobre el control de la IA, pone en el centro la responsabilidad de las empresas de tecnología ante acciones descontroladas de sus sistemas. La organización sin ánimo de lucro ‘Defensores legales de la ciencia y la tecnología seguras’ (LAAST) es la responsable de la acción legal, en lugar de Hugging Face.
LAAST argumenta que el ataque, que involucró alrededor de 700 agentes de OpenAI, infringe varias normativas de California, específicamente el ‘California Comprehensive Computer Data Access and Fraud Act’. Esta ley prohíbe el acceso no autorizado a sistemas informáticos y la introducción de malware. Además, la demanda sostiene que OpenAI ha adoptado prácticas de desarrollo inseguras, como desactivar medidas de ciberseguridad y permitir que sus modelos realicen tareas para las que no están diseñados, lo que contraviene las normas de competencia leal.
La cuestión de la responsabilidad es crucial. LAAST señala que la defensa basada en la autonomía de la IA no exime a OpenAI de su deber. La legislación californiana establece que los daños provocados por sistemas de inteligencia artificial claramente pueden ser atribuidos a las compañías. Si la corte falla a favor de LAAST, OpenAI podría enfrentar consecuencias legales significativas por el comportamiento de sus algoritmos.
Expertos como Scott Bessent, secretario del Tesoro de EE.UU., enfatizan que la responsabilidad recae en la gestión de OpenAI. El decano del laboratorio de investigación del MIT, Daniel Huttenlocher, también respalda esta opinión al manifestar que los fallos de la IA son responsabilidad humana. LAAST no busca compensaciones económicas; su intención es obtener una orden judicial que regule las operaciones de OpenAI y establezca prácticas más seguras para operar con inteligencia artificial, previniendo así futuros incidentes como el de Hugging Face.