Governo Canadense Obtém Novos Compromissos de Segurança da OpenAI
Pontos principais
- O ministro canadense de inteligência artificial, Evan Solomon, se reuniu com o CEO da OpenAI, Sam Altman.
- A OpenAI concordou em fortalecer os protocolos de segurança após um tiroteio em uma escola de ensino médio.
- Novas medidas se concentram em notificações à polícia para atividades suspeitas.
- Especialistas canadenses em privacidade, saúde mental e aplicação da lei se juntarão ao processo de revisão.
- A OpenAI fornecerá um relatório detalhando os novos protocolos e os aplicará retroativamente.
- O compromisso segue medidas anteriores para ajustar os sistemas de detecção e banir reincidentes.
O governo canadense anunciou que o CEO da OpenAI, Sam Altman, concordou em implementar medidas de segurança adicionais para seus serviços de IA. A medida segue um tiroteio em uma escola de ensino médio onde a OpenAI identificou o suspeito, mas não alertou as autoridades. Novos protocolos se concentrarão em notificações à polícia, revisão retroativa de atividades suspeitas e colaboração com especialistas canadenses em privacidade, saúde mental e aplicação da lei.
Contexto
Um tiroteio em massa em uma escola de ensino médio canadense trouxe escrutínio para o papel das plataformas de inteligência artificial na identificação de potenciais ameaças. A OpenAI identificou a atividade do suspeito em seu serviço de chatbot, mas não notificou a polícia, levantando preocupações entre os funcionários sobre lacunas na segurança e coordenação de segurança pública.
Ação do Governo
O ministro canadense de inteligência artificial, Evan Solomon, se reuniu diretamente com o CEO da OpenAI, Sam Altman. Durante uma reunião virtual, Solomon "pediu que a OpenAI tomasse várias ações, que Altman concordou em fazer". As demandas do governo se concentram em protocolos de segurança mais fortes que envolvem notificações imediatas à polícia quando os usuários exibem comportamento potencialmente violento.
Resposta da OpenAI
A OpenAI se comprometeu a incorporar especialistas canadenses em privacidade, saúde mental e aplicação da lei em seu processo de revisão para casos de alto risco envolvendo usuários canadenses. A empresa também se comprometeu a produzir um relatório detalhando os novos protocolos e a aplicá-los retroativamente, revisando incidentes suspeitos anteriores e compartilhando dados relevantes com as autoridades quando apropriado.
Medidas Anteriores
Este acordo se baseia em medidas anteriores anunciadas pela vice-presidente de política global da OpenAI, Ann O’Leary, que indicou que a empresa ajustaria seus sistemas de detecção para melhor prevenir que usuários banidos retornassem à plataforma. Os compromissos recentes visam fechar a lacuna que permitiu que a conta do atirador original fosse suspensa, mas posteriormente recriada.
Implicações e Próximos Passos
O novo quadro de segurança é esperado para estabelecer um precedente para como os provedores de IA colaboram com as autoridades nacionais em questões de segurança pública. Embora a OpenAI não tenha confirmado se os protocolos serão exclusivos do Canadá, o governo planeja monitorar a implementação e avaliar a eficácia das medidas para prevenir incidentes futuros.