OpenAI ha revelado su propuesta para establecer estándares técnicos en la inteligencia artificial (IA), subrayando que esta tecnología debe beneficiar a toda la humanidad. Sam Altman, CEO de OpenAI, y Jakub Pachocki, científico jefe, han expresado su preocupación por el rápido avance de la IA y los potenciales riesgos asociados, como la automejora recursiva, que podría permitir a un modelo de IA desarrollar versiones más sofisticadas de sí mismo sin intervención humana. Esto podría poner en peligro el control que los humanos tienen sobre sus creaciones.
La estrategia de OpenAI sugiere que, para mitigar estos riesgos, es fundamental avanzar en la investigación de alineamiento, es decir, asegurarse de que los modelos más capaces actúen de acuerdo con los objetivos humanos y permanezcan bajo supervisión directa. Para lograrlo, OpenAI propone la creación de un marco regulador que no dependa únicamente de las iniciativas de laboratorios tecnológicos o gobiernos, sino que integre una supervisión neutral a nivel internacional.
En un momento en que se intensifica el debate sobre la regulación de la IA, OpenAI considera esencial que los países colaboren en la definición de protocolos que aborden incidentes provocados por estas tecnologías. Aunque Estados Unidos podría conseguir el apoyo de sus aliados, el verdadero desafío radica en establecer un acuerdo común de estándares de seguridad con China. Sin embargo, la posibilidad de tal alineación a corto plazo se ve incierta.