Informe de Educación sobre Ética de la IA Arruinado por Citas Falsas
Puntos clave
- El informe de educación llama a la integración ética de la IA en las escuelas.
- Los expertos descubrieron múltiples citaciones falsas dentro del documento.
- Los críticos atribuyen los errores a los modelos de lenguaje de la IA que generan referencias plausibles pero falsas.
- Los copresidentes del informe han prometido investigar y corregir las citaciones.
- El Departamento de Educación reconoce un pequeño número de errores de citación y planea actualizar la versión en línea.
- El incidente destaca los riesgos de confiar en la IA para la investigación de políticas sin una verificación estricta.
- Llamadas a una supervisión editorial más estricta y procedimientos de verificación en la redacción asistida por la IA.
Un reciente informe de política educativa que insta al uso ético de la IA en las escuelas ha sido criticado después de que múltiples expertos identificaron citaciones falsas en todo el documento. Los críticos dicen que los errores revelan cómo los modelos de lenguaje de la IA pueden generar referencias plausibles pero falsas, lo que socava la confianza en la investigación de políticas. Los copresidentes del informe han prometido revisar y corregir los errores, mientras que el Departamento de Educación reconoce un "número pequeño de posibles errores" y planea actualizar la versión en línea. El incidente destaca las crecientes preocupaciones sobre la confiabilidad del contenido generado por la IA en la política pública.
Resumen del Informe y Recomendaciones
El departamento de educación publicó un informe integral que llama a la integración de conocimientos esenciales de la IA en los currículos, enfatizando la ética, la privacidad de los datos y el uso responsable de la tecnología. El documento describe una serie de recomendaciones destinadas a preparar a los estudiantes y educadores para el papel cada vez más importante de la inteligencia artificial en las escuelas.
Descubrimiento de Citas Falsas
Poco después de la publicación, académicos y revisores identificaron numerosas citaciones que no se podían ubicar en ninguna fuente conocida. Entre los que expresaron preocupación estaban Josh Lepawsky, ex presidente de la Asociación de Facultad de la Universidad Memorial, quien describió el problema como un "proceso profundamente defectuoso". Sarah Martin, profesora de ciencia política de la Universidad Memorial, dedicó días a examinar el informe y reportó que varias referencias simplemente no existían, calificando la situación de "inaceptable para un documento de política importante"