Documental 'Fantasma en la Máquina' Examina las Raíces Racistas de la Inteligencia Artificial Generativa

La directora Valerie Veatch, inicialmente intrigada por el modelo de texto a video Sora de OpenAI en 2024, se alarmó por los resultados racistas y sexistas de la tecnología. Su frustración llevó a la creación del documental 'Fantasma en la Máquina', que remonta la inteligencia artificial generativa a la era victoriana y la eugenesia, y el trabajo estadístico de Francis Galton y Karl Pearson. La película entrevista a investigadores e historiadores, destaca los encuentros de Veatch con resultados de inteligencia artificial sesgados y critica la indiferencia de la industria. Estará disponible en Kinema desde el 26 de marzo hasta el 28 de marzo antes de una transmisión en PBS en el otoño.

Antecedentes y Motivación

Valerie Veatch, una cineasta, notó por primera vez el modelo de inteligencia artificial generativa de texto a video Sora de OpenAI cuando se lanzó en 2024. Aunque estaba curiosa por las posibilidades creativas, rápidamente observó que el modelo producía frecuentemente imágenes que estaban impregnadas de racismo y sexismo. La falta de preocupación de sus compañeros entusiastas de la inteligencia artificial profundizó su malestar y la llevó a investigar las causas subyacentes de estos resultados dañinos.

Raíces Históricas de la Inteligencia Artificial Generativa

El documental de Veatch, Fantasma en la Máquina, argumenta que los problemas vistos en la inteligencia artificial generativa moderna no son nuevos. Traza una línea que comienza en la Inglaterra de la era victoriana con el desarrollo de la eugenesia por Francis Galton, un primo de Charles Darwin. La creencia de Galton en mejorar la humanidad a través de la eliminación de las 'razas inferiores' informó las primeras ciencias sociales. Su trabajo en modelado multidimensional influyó en Karl Pearson, quien más tarde creó herramientas estadísticas como la regresión logística, técnicas que ahora forman parte central de los algoritmos de aprendizaje automático.

La película también destaca que el término 'inteligencia artificial' fue acuñado en 1956 por el científico informático John McCarthy como una frase de marketing para atraer financiamiento, una etiqueta que ha persistido a pesar de su significado vago.

Encuentros Personales de Veatch con el Sesgo

Mientras experimentaba con una versión temprana de Sora en un canal de Slack para artistas, Veatch presenció los intentos de una mujer de color de generar imágenes de sí misma siendo 'blanqueadas'. El modelo retuvo sus trenzas y moda pero la colocó en una galería 'espacio blanco', lo que llevó a Veatch a reaccionar con incredulidad. Contactó a OpenAI para reportar los resultados racistas, sexistas y misóginos, como imágenes que agregaban senos extra o forzaban una pose de twerking, pero recibió una respuesta desdeñosa de que el problema no podía ser cambiado.

Contenido y Perspectiva del Documental

Fantasma en la Máquina reúne a investigadores de inteligencia artificial, historiadores y teóricos críticos que argumentan que el sesgo en la inteligencia artificial generativa está arraigado en sus conexiones históricas con campos científicos construidos sobre visiones del mundo discriminatorias. Veatch se niega a presentar un retrato halagador de los líderes de la industria, afirmando que no abrazaría a Sam Altman en cámara porque eso se convertiría en propaganda.

Información de Lanzamiento

El documental estará disponible para streaming en Kinema desde el 26 de marzo hasta el 28 de marzo, después de lo cual se transmitirá en PBS en el otoño. Una nota de corrección en el artículo original aclara que el término correcto es 'regresión logística', no 'regresión lógica'.