El reciente lanzamiento de Claude Mythos Preview por parte de Anthropic ha resurgido el debate sobre el peligro asociado a la inteligencia artificial. Esta nueva herramienta, descrita como el “mejor modelo de IA jamás creado”, ha generado reacciones encontradas en la industria y la comunidad tecnológica. Algunos analistas, como los de Mozilla, la han calificado como altamente efectiva en ciberseguridad, aunque no necesariamente revolucionaria. Sin embargo, el gobierno de Estados Unidos ha restringido su acceso, limitando a los no ciudadanos, bajo la premisa de que el modelo puede ser “demasiado potente” y suscitar vulnerabilidades si cae en manos equivocadas.
Yann LeCun, un destacado pionero en el campo de la IA, ha cuestionado esa narrativa de miedo. En un reciente coloquio en Vivatech, LeCun arguyó que ver la IA como una herramienta peligrosa es una postura arcaica y que se asemeja al “oscurantismo medieval”. Criticó a empresas como Anthropic por intentar evitar que la IA se convierta en un recurso de código abierto, aduciendo que su argumento sobre los riesgos es más un intento de controlar el acceso a la tecnología que una preocupación genuina por la seguridad.
LeCun comparó los modelos de lenguaje actuales a versiones avanzadas de herramientas de búsqueda, afirmando que funcionan como un tipo de “Wikipedia mejorada” en lugar de generar nuevo conocimiento de manera autónoma. Para él, la IA debería facilitar el acceso al conocimiento humano y no ser objeto de restricción. En el debate, se refirió a la importancia de permitir que las personas tengan libertad en el uso de estas herramientas, comparando la situación actual con el control histórico que ejercía la iglesia sobre el conocimiento.
A lo largo de su intervención, LeCun también abordó las limitaciones actuales de los modelos de lenguaje. Si bien reconoció que estos pueden ser efectivos para tareas específicas como matemáticas y programación, enfatizó que no son la solución definitiva para crear IA con capacidades de razonamiento más sofisticadas. Según él, la verdadera revolución en el campo llegará con la creación de sistemas que puedan anticipar acciones y sus consecuencias, algo que actualmente los modelos de lenguaje no pueden lograr adecuadamente.
LeCun ha invertido años en investigar el aprendizaje autosupervisado y la predicción en el ámbito del video, un área que considera esencial para el desarrollo de agentes inteligentes más avanzados. Aunque el camino hacia esta meta sigue siendo complicado y lleno de desafíos, él es optimista respecto a los avances que está logrando.