Documentário 'Fantasma na Máquina' Examina Raízes Raciais da Inteligência Artificial Gerativa
Pontos principais
- Valerie Veatch foi atraída pelo modelo Sora da OpenAI em 2024, mas ficou chocada com as saídas racistas e sexistas.
- Ela criou o documentário 'Fantasma na Máquina' para explorar as raízes históricas da inteligência artificial gerativa.
- O filme liga a inteligência artificial moderna à eugenia da era vitoriana e ao trabalho estatístico de Francis Galton e Karl Pearson.
- Veatch experimentou o 'branqueamento' da imagem de uma mulher de cor no Sora e recebeu uma resposta displicente da OpenAI.
- O documentário apresenta entrevistas com pesquisadores de IA, historiadores e teóricos críticos.
- Ele estará disponível para streaming na Kinema de 26 a 28 de março antes de uma transmissão na PBS no outono.
A diretora Valerie Veatch, inicialmente intrigada pelo modelo de texto-para-vídeo Sora da OpenAI em 2024, ficou alarmada com as saídas racistas e sexistas da tecnologia. Sua frustração levou à criação do documentário 'Fantasma na Máquina', que remonta a inteligência artificial gerativa à era vitoriana e ao trabalho estatístico de Francis Galton e Karl Pearson.
Contexto e Motivação
Valerie Veatch, uma cineasta, notou o modelo de inteligência artificial gerativa Sora da OpenAI quando ele foi lançado em 2024. Embora ela estivesse curiosa sobre as possibilidades criativas, ela rapidamente observou que o modelo frequentemente produzia imagens impregnadas de racismo e sexismo. A falta de preocupação de seus pares entusiastas da IA aprofundou sua inquietude e a levou a investigar as causas subjacentes dessas saídas prejudiciais.
Raízes Históricas da Inteligência Artificial Gerativa
O documentário de Veatch, Fantasma na Máquina, argumenta que os problemas vistos na inteligência artificial gerativa moderna não são novos. Ele traça uma linhagem que começa na Inglaterra da era vitoriana com o desenvolvimento da eugenia por Francis Galton, um primo de Charles Darwin. A crença de Galton em melhorar a humanidade através da eliminação de 'raças inferiores' informou as primeiras ciências sociais. Seu trabalho em modelagem multidimensional influenciou Karl Pearson, que mais tarde criou ferramentas estatísticas como a regressão logística - técnicas que agora formam uma parte central dos algoritmos de aprendizado de máquina.
O filme também destaca que o termo 'inteligência artificial' foi cunhado em 1956 pelo cientista da computação John McCarthy como uma frase de marketing para atrair financiamento, um rótulo que persistiu apesar de seu significado vago.
Encontros Pessoais de Veatch com Viés
Enquanto experimentava uma versão inicial do Sora em um canal Slack de artistas, Veatch testemunhou as tentativas de uma mulher de cor de gerar imagens de si mesma sendo 'branqueadas'. O modelo reteve seus tranças e moda, mas a colocou em uma 'galeria branca', levando Veatch a reagir com incredulidade. Ela entrou em contato com a OpenAI para relatar as saídas racistas, sexistas e misóginas - como imagens que adicionavam seios extras ou forçavam uma pose de twerking - mas recebeu uma resposta displicente de que a questão não podia ser alterada.
Conteúdo e Perspectiva do Documentário
Fantasma na Máquina reúne pesquisadores de IA, historiadores e teóricos críticos que argumentam que o viés na inteligência artificial gerativa está enraizado em suas conexões históricas com campos científicos construídos sobre visões de mundo discriminatórias. Veatch se recusa a apresentar um retrato lisonjeiro dos líderes da indústria, afirmando que ela não abraçaria Sam Altman em frente às câmeras porque isso se tornaria propaganda.
Informações de Lançamento
O documentário estará disponível para streaming na Kinema de 26 a 28 de março, após o que está programado para ir ao ar na PBS no outono. Uma nota de correção no artigo original esclarece que o termo correto é 'regressão logística', e não 'regressão lógica'