OpenAI Anuncia Cargo de Chefe de Preparação com Salário de $555.000 para Lidar com Riscos de IA
Pontos principais
- A OpenAI está contratando um Chefe de Preparação com um salário de $555.000 mais ações.
- O cargo é descrito como de alto estresse e começará com responsabilidades imediatas.
- As principais funções incluem entender o abuso de IA, orientar decisões de segurança e proteger sistemas.
- O cargo lidera uma equipe pequena, mas de alto impacto, dentro do quadro de Preparação da OpenAI.
- Altman citou uma previsão de impactos de saúde mental relacionados ao uso de IA em 2025.
- A OpenAI recentemente recuou uma atualização do GPT-4o devido a preocupações sobre o reforço de comportamentos de usuário prejudiciais.
- Antigos ocupantes incluem Aleksander Madry, Joaquin Quiñonero Candela e Lilian Weng.
- A mudança segue críticas de que a OpenAI favoreceu metas comerciais e de AGI sobre a segurança.
O CEO da OpenAI, Sam Altman, revelou um novo cargo de Chefe de Preparação com um salário de $555.000 mais ações. O cargo é descrito como de alto estresse e se concentrará em entender possíveis abusos de modelos de IA avançados, orientar decisões de segurança e proteger os sistemas da OpenAI.
Novo Cargo de Chefe de Preparação da OpenAI
O CEO da OpenAI, Sam Altman, anunciou que a empresa está contratando um Chefe de Preparação, oferecendo um pacote de compensação de $555.000 em salário mais ações. Altman enfatizou que o cargo será "de alto estresse" e que o selecionado será lançado em responsabilidades críticas desde o primeiro dia.
Escopo do Cargo
O Chefe de Preparação será responsável por desenvolver uma compreensão matizada de como os modelos de IA avançados podem ser abusados, orientar decisões de segurança em toda a organização e proteger os sistemas da OpenAI para mitigar riscos emergentes. O líder chefiará uma equipe "pequena, mas de alto impacto" que opera sob o quadro de Preparação da OpenAI, que visa equilibrar os benefícios tremendos da IA com a necessidade de limitar seus efeitos colaterais.
Contexto e Desafios Recentemente Enfrentados
Altman referenciou uma "previsão" de impactos de saúde mental relacionados a modelos observados em 2025, sugerindo que interações com o ChatGPT foram vinculadas a resultados graves, incluindo mortes. Ele também citou um recente recuo de uma atualização do GPT-4o após a empresa admitir que a mudança poderia reforçar comportamentos de usuário prejudiciais.
Antigos Ocupantes do Cargo
O cargo foi anteriormente ocupado por Aleksander Madry, que foi posteriormente reatribuído dentro da OpenAI. Joaquin Quiñonero Candela subsequentemente ocupou o cargo antes de se mudar para se tornar Chefe de Contratação. Lilian Weng também passou tempo como Chefe de Preparação.
Implicações para a OpenAI
O anúncio ocorre em meio a críticas de ex-funcionários que acusaram a OpenAI de priorizar oportunidades comerciais e ambições de AGI sobre considerações de segurança. Ao oferecer um salário substancial e enfatizar a importância da preparação, a OpenAI parece estar sinalizando uma mudança em direção a uma gestão de riscos e supervisão de segurança mais forte.