Relatório de Educação sobre Ética de IA é Maculado por Citações Fabricadas
Pontos principais
- Relatório de educação defende a integração ética de IA nas escolas.
- Especialistas descobrem múltiplas citações fabricadas dentro do documento.
- Críticos atribuem erros a modelos de linguagem de IA que geram referências plausíveis, mas falsas.
- Co-presidentes do relatório prometem investigar e corrigir as citações.
- Departamento de Educação reconhece um pequeno número de erros de citação e planeja atualizações.
- O incidente destaca os riscos de confiar na IA para a pesquisa de política sem uma verificação rigorosa.
- Defesas de uma supervisão editorial mais forte e procedimentos de verificação em rascunhos assistidos por IA
Um recente relatório de política educacional que defende o uso ético de IA nas escolas está sendo criticado após vários especialistas identificarem citações fabricadas ao longo do documento. Críticos dizem que os erros revelam como os modelos de linguagem de IA podem gerar referências plausíveis, mas falsas, minando a confiança na pesquisa de política. Os co-presidentes do relatório prometeram revisar e corrigir os erros, enquanto o Departamento de Educação reconhece um "número pequeno de possíveis erros" e planeja atualizar a versão online. O incidente destaca as crescentes preocupações sobre a confiabilidade do conteúdo gerado por IA na política pública.
Visão Geral do Relatório e Recomendações
O departamento de educação lançou um relatório abrangente que defende a integração de conhecimentos essenciais de IA nos currículos, enfatizando ética, privacidade de dados e uso responsável da tecnologia. O documento descreve uma série de recomendações destinadas a preparar aprendizes e educadores para o papel cada vez mais importante da inteligência artificial nas escolas.
Descoberta de Citações Fabricadas
Logo após a publicação, acadêmicos e revisores identificaram numerous citações que não puderam ser localizadas em nenhuma fonte conhecida. Entre os que expressaram preocupações estavam Josh Lepawsky, ex-presidente da Associação de Faculdade da Universidade Memorial, que descreveu a questão como um "processo profundamente falho". Sarah Martin, professora de ciência política da Universidade Memorial, passou dias examinando o relatório e relatou que várias referências simplesmente não existiam, chamando a situação de "inaceitável para um documento de política importante"