OpenAI y la Carrera hacia la Superinteligencia
En un mundo donde el progreso de la inteligencia artificial (IA) avanza a pasos agigantados, OpenAI se enfoca en una misión crucial: desarrollar métodos para controlar y regular las IAs que superen la inteligencia humana. Este artículo explora los últimos esfuerzos de OpenAI para abordar uno de los desafíos técnicos más importantes de nuestra era: la alineación de sistemas de superinteligencia.
Gonzalo Sandoval Cordova
12/20/20231 min read
En julio, OpenAI formó el equipo de Superalignment para desarrollar métodos de regulación y gobierno para sistemas de IA superinteligentes, teóricamente capaces de superar la inteligencia y capacidad humana. El equipo, liderado por el cofundador y científico jefe de OpenAI, Ilya Sutskever, trabaja en encontrar formas de alinear modelos que superen la inteligencia humana, una tarea mucho más compleja y menos obvia que alinear modelos con inteligencia a nivel humano o inferior.
Superalignmen es un tema delicado en la comunidad de investigación de IA. Mientras algunos expertos argumentan que el campo es prematuro o incluso un señuelo, otros, incluido Sutskever, creen sinceramente que la IA podría representar una amenaza existencial para la humanidad en algún momento.
El equipo de Superalignmen se enfoca en construir marcos de gobernanza y control que sean aplicables a poderosos sistemas de IA en el futuro. Aunque la definición de "superinteligencia" y si un sistema de IA la ha logrado es motivo de debate, el equipo ha optado por utilizar modelos de IA menos sofisticados para guiar a modelos más avanzados en direcciones deseables y alejarlos de las no deseadas. Este enfoque intenta imitar la supervisión humana y podría llevar a avances significativos, incluso en el área de las "alucinaciones" de la IA.
OpenAI ha lanzado un programa de subvenciones de 10 millones de dólares para apoyar la investigación técnica en la alineación de superinteligencia. Este programa está destinado a laboratorios académicos, organizaciones sin fines de lucro, investigadores individuales y estudiantes de posgrado. Además, OpenAI planea organizar una conferencia académica sobre Superalignmen a principios de 2025.
