OpenAI Anuncia Cargo de Jefe de Preparación por $555,000 para Abordar Riesgos de la IA
Puntos clave
- OpenAI está contratando a un Jefe de Preparación con un salario de $555,000 más acciones.
- El rol se describe como de alto estrés y comenzará con responsabilidades inmediatas.
- Las tareas clave incluyen entender el abuso de la IA, guiar decisiones de seguridad y asegurar los sistemas.
- El cargo dirige un equipo pequeño pero de alto impacto dentro del marco de Preparación de OpenAI.
- Altman citó una "preview" de impactos en la salud mental relacionados con el uso de la IA en 2025.
- OpenAI recientemente revirtió una actualización de GPT-4o debido a preocupaciones sobre el refuerzo de comportamientos dañinos.
- Los anteriores titulares del cargo incluyen a Aleksander Madry, Joaquin Quiñonero Candela y Lilian Weng.
- El movimiento sigue a críticas de que OpenAI ha favorecido metas comerciales y de AGI sobre la seguridad.
El CEO de OpenAI, Sam Altman, reveló un nuevo cargo de Jefe de Preparación con un salario de $555,000 más acciones. El rol se describe como de alto estrés y se centrará en entender posibles abusos de modelos de IA avanzados, guiar decisiones de seguridad y asegurar los sistemas de OpenAI.
El Nuevo Cargo de Jefe de Preparación de OpenAI
El director ejecutivo de OpenAI, Sam Altman, anunció que la empresa está contratando a un Jefe de Preparación, ofreciendo un paquete de compensación de $555,000 en salario más acciones. Altman enfatizó que el rol será "de alto estrés" y que el individuo seleccionado será responsable de tareas críticas desde el primer día.
Alcance del Rol
El Jefe de Preparación estará encargado de desarrollar una comprensión matizada de cómo los modelos de IA avanzados podrían ser abusados, dirigir decisiones de seguridad en toda la organización y asegurar los sistemas de OpenAI para mitigar riesgos emergentes. El líder dirigirá un equipo "pequeño pero de alto impacto" que opera bajo el marco de Preparación de OpenAI, que busca equilibrar los beneficios tremendo de la IA con la necesidad de limitar sus aspectos negativos.
Contexto y Desafíos Recientes
Altman hizo referencia a una "preview" de impactos en la salud mental relacionados con el modelo observados en 2025, sugiriendo que las interacciones con ChatGPT han sido vinculadas a resultados graves, incluyendo muertes. También citó un reciente retroceso de una actualización de GPT-4o después de que la empresa admitió que el cambio podría reforzar comportamientos dañinos de los usuarios.
Anteriores Titulares del Cargo
El rol ha sido ocupado anteriormente por Aleksander Madry, quien luego fue reasignado dentro de OpenAI. Joaquin Quiñonero Candela ocupó posteriormente el cargo antes de convertirse en Jefe de Contratación. Lilian Weng también pasó tiempo como Jefe de Preparación.
Implicaciones para OpenAI
El anuncio llega en medio de críticas de ex empleados que han acusado a OpenAI de priorizar oportunidades comerciales y ambiciones de AGI sobre consideraciones de seguridad. Al ofrecer un salario sustancial y enfatizar la importancia de la preparación, OpenAI parece estar señalizando un cambio hacia una gestión de riesgos y supervisión de seguridad más fuerte.