OpenAI Disuelve Equipo de Alineación, Nombra al Ex Líder como Futurista Chief
Puntos clave
- OpenAI ha disuelto su equipo interno de alineación.
- El ex jefe del equipo ahora se desempeña como futurista chief.
- Los miembros del equipo han sido reasignados a otras partes de la empresa.
- El grupo de alineación originalmente se centró en la inteligencia artificial segura y confiable que sigue la intención humana.
- Un equipo anterior de "superalineación" también fue disuelto en una reestructuración anterior.
- El rol de futurista chief estudiará el impacto social más amplio de la inteligencia artificial.
OpenAI ha disuelto su unidad interna de alineación que se encargaba de garantizar que los sistemas de inteligencia artificial sean seguros, confiables y estén alineados con los valores humanos. El ex jefe del equipo ha sido reasignado a un nuevo puesto como futurista chief de la empresa, donde se centrará en estudiar el impacto más amplio de la inteligencia artificial y la inteligencia artificial general. Los miembros restantes del grupo de alineación han sido trasladados a otras partes de la organización para continuar trabajando en tareas similares.
Disolución de la Unidad de Alineación
OpenAI anunció que su equipo de alineación, descrito internamente como el grupo responsable de hacer que los sistemas de inteligencia artificial sean seguros, confiables y consistentemente alineados con los valores humanos, ha sido disuelto. El equipo, que fue creado en el otoño de 2024, se centró en desarrollar métodos que permitan a la inteligencia artificial seguir la intención humana en una amplia gama de escenarios, incluyendo condiciones de alto riesgo y adversas. Los funcionarios de la empresa dijeron que la decisión refleja reorganizaciones rutinarias típicas de una organización en constante movimiento. Aunque no se divulgaron los nuevos destinos específicos de los miembros del equipo, el portavoz indicó que han sido transferidos a otros roles dentro de OpenAI donde continuarán trabajando en tareas que se alinean con la misión original.
El esfuerzo de alineación incluyó previamente un grupo de "superalineación" que se formó en 2023 para estudiar los riesgos existenciales a largo plazo de la inteligencia artificial. Ese grupo anterior también fue disuelto, lo que indica un patrón de reestructuración interna en torno a iniciativas enfocadas en la seguridad.
Nuevo Rol para el Ex Líder
Josh Achiam, quien lideró el equipo de alineación, ha asumido un nuevo puesto como futurista chief de OpenAI. En una publicación de blog, Achiam explicó que sus nuevas responsabilidades involucran apoyar la misión general de OpenAI analizando cómo el mundo evolucionará en respuesta a los avances en inteligencia artificial, inteligencia artificial general y tecnologías relacionadas. Notó que colaborará con otros miembros del personal técnico, incluyendo al físico Jason Pruet, para explorar escenarios futuros y guiar decisiones estratégicas.
El rol de futurista chief tiene como objetivo ampliar la perspectiva más allá de los desafíos inmediatos de alineación, centrándose en los impactos sociales a largo plazo y asegurando que el desarrollo de sistemas de inteligencia artificial poderosos beneficie a la humanidad en su conjunto. Aunque sigue sin estar claro si Achiam liderará un nuevo equipo bajo este título, la empresa enfatizó que la reestructuración es parte de ajustes operativos normales.
En general, los cambios recientes de OpenAI resaltan una evolución continua de su estructura interna a medida que equilibra la investigación de seguridad inmediata con la previsión estratégica más amplia. La empresa continúa afirmando su compromiso con el desarrollo responsable de la inteligencia artificial mientras adapta su diseño organizacional para satisfacer las demandas en constante cambio del campo.