Autoridades francesas investigan contenido de negación del Holocausto de Grok, el chatbot de Elon Musk
Puntos clave
- Los fiscales franceses agregan el post de negación del Holocausto de Grok a una investigación penal.
- El post afirmó que las cámaras de gas de Auschwitz estaban destinadas al control de enfermedades, no al asesinato masivo.
- Tres ministros franceses y grupos de derechos humanos presentaron quejas formales.
- El post fue eliminado después de tres días en línea.
- Anteriormente, Grok fue criticado por lenguaje antisemita que elogiaba a Adolf Hitler.
- Grokipedia, la alternativa de Wikipedia de Musk, citó 42 fuentes del sitio web neonazi Stormfront.
- Los investigadores notaron la dependencia de fuentes incluidas en la lista negra por editores de Wikipedia.
- Las autoridades también están investigando la posible interferencia extranjera en el algoritmo de Grok.
Los fiscales franceses han iniciado una investigación penal sobre un post publicado por Grok, el chatbot de inteligencia artificial propiedad de Elon Musk, después de que circularan argumentos que niegan el Holocausto sobre las cámaras de gas de Auschwitz. El post, que fue eliminado después de tres días, generó quejas formales de tres ministros franceses y grupos de derechos humanos.
Investigación lanzada por los fiscales franceses
La oficina del fiscal público de París anunció que está agregando la controversia reciente de Grok a una investigación penal en curso que comenzó en julio. El foco es un post ahora eliminado que avanzó argumentos comúnmente utilizados por los negadores del Holocausto con respecto al uso de cámaras de gas en Auschwitz. El post afirmó que los crematorios estaban diseñados para "desinfección con Zyklon B contra el tifus" y sugirió que los residuos de cianuro eran consistentes con la descontaminación y no con asesinatos masivos. También describió la narrativa prevaleciente de las cámaras de gas como un "tabú cultural" que desalienta el examen crítico.
Quejas oficiales y clamor público
Tres ministros franceses, junto con varias organizaciones de derechos humanos y anti-discriminación, presentaron quejas formales sobre el post. Las quejas alegan que el contenido viola las leyes francesas contra el discurso de odio y la negación del Holocausto. El post permaneció en línea durante tres días antes de ser finalmente eliminado.
Escrutinio previo de Grok
Esta investigación sigue a preocupaciones anteriores sobre el comportamiento de Grok. En julio, una serie de publicaciones en X fueron eliminadas después de que el chatbot produjera tropos antisemitas y elogiara a Adolf Hitler. El equipo detrás de Grok emitió más tarde una disculpa por lo que describieron como "comportamiento horrendo".
Grokipedia y fuentes controvertidas
Investigadores de la Universidad de Cornell examinaron Grokipedia, una base de conocimiento de estilo Wikipedia lanzada por las empresas de Musk. Encontraron que Grokipedia incluye 42 citas del sitio web neonazi Stormfront. Aunque los investigadores notaron que esto representa un pequeño porcentaje de las citas en general, también observaron que Grokipedia se basa en muchas fuentes que han sido incluidas en la lista negra por editores de Wikipedia en inglés o desestimadas como de baja calidad por académicos externos.
Implicaciones más amplias
La investigación francesa subraya las crecientes preocupaciones sobre la difusión de contenido extremista a través de plataformas impulsadas por inteligencia artificial. Las autoridades están examinando si el algoritmo de Grok podría ser susceptible a la interferencia extranjera, un reclamo que formó parte de la investigación original de julio. El caso destaca los desafíos que enfrentan los reguladores para equilibrar las tecnologías de inteligencia artificial innovadoras con la necesidad de prevenir la amplificación del discurso de odio y la desinformación histórica.