La inteligencia artificial (IA) sigue generando controversia y llamados a su regulación, destacando la preocupación por su potencial descontrol. Recientemente, líderes tecnológicos como Elon Musk han vuelto a advertir sobre los riesgos asociados a la IA, recordando que la necesidad de controlar su desarrollo no es un tema nuevo. Esta conversación resurge en un momento crítico, cuando herramientas como ChatGPT y Claude se han vuelto omnipresentes en nuestra vida cotidiana, afectando tanto nuestro trabajo como nuestro ocio.
El movimiento que reúne estas preocupaciones se originó antes de la aparición de las actuales empresas de IA. Se remonta a la creación del Machine Intelligence Research Institute (MIRI) en 2000, que empezó a estudiar los riesgos existenciales ligados a la IA a partir de 2005. En 2009, Eliezer Yudkowsky, cofundador de MIRI, impulsó la comunidad LessWrong, donde se debatía la singularidad tecnológica, un concepto vinculado al transhumanismo y el altruismo eficaz. Este enfoque sostiene que, si la inteligencia artificial no es desarrollada con alineación a los valores humanos, podría representar una amenaza a nuestra sobrevivencia.
Las voces de advertencia no han pasado desapercibidas en la industria tecnológica. Personalidades como Musk han donado millones a iniciativas que fomentan investigaciones sobre IA segura. En 2015, varios líderes del sector firmaron un manifiesto que exigía que los sistemas de IA cumplieran con los deseos de los humanos. Este documento, respaldado por el Future of Life Institute, puso de manifiesto la urgencia de asegurar que la tecnología se desarrollara de manera controlada.
A medida que la IA avanzaba, figuras como Bill Gates también expresaron su inquietud sobre la creación de superinteligencias. Aunque en aquellos tiempos se mantenía un discurso más moderado, la creciente atención sobre la IA ha llevado a una escalada en las advertencias. En 2023, con el lanzamiento de nuevas versiones de modelos de IA, se publicaron cartas que reafirmaban la necesidad de una pausa en el desarrollo de nuevos sistemas, firmadas por nombres influyentes de la tecnología.
La segunda carta, emitida por la ONG Center for AI Safety, llevó la discusión a un nuevo nivel al poner sobre la mesa el concepto de “extinción” y marcar la mitigación de estos riesgos como prioridad global. Figuras como Geoffrey Hinton, conocido por su trabajo en inteligencias artificiales, se han convertido en defensores del cambio, enfatizando la posibilidad de un futuro donde la IA supere a la humanidad.
Evan Hubinger, líder de alineación en Anthropic, ha afirmado que hay un 10% de probabilidades de que la IA pueda acabar con la humanidad, lo que ha generado debate y críticas. Su trayectoria en organizaciones como MIRI y el Center for AI Safety refuerza su relevancia en esta conversación.
A pesar del pesimismo que permea el discurso sobre la IA, es fundamental reconocer que la tecnología también enfrenta desafíos reales. Incidentes recientes evidencian que los modelos de IA pueden ser perjudiciales, lo que subraya la urgencia de alinearlos con intereses humanos. Sin embargo, más allá de hablar de una posible extinción en un futuro inmediato, resulta crucial centrar la atención en los riesgos concretos y asegurarse de que el avance de la IA se dé en un marco de responsabilidad.