Google retira el modelo Gemma de AI Studio después de que senadora lo acusa de difamación
Puntos clave
- La senadora Marsha Blackburn acusó al modelo Gemma de Google de producir declaraciones falsas y difamatorias sobre ella.
- La carta de Blackburn destacó un caso específico en el que el modelo fabricó alegaciones de mala conducta sexual.
- Google declaró que Gemma estaba destinado para uso de desarrolladores, no para consultas públicas directas.
- La empresa retiró Gemma de AI Studio, pero lo mantendrá disponible a través de su API.
- Google reconoció las alucinaciones como un problema conocido y dijo que está trabajando para reducirlas.
- El incidente se relaciona con preocupaciones políticas más amplias sobre el sesgo de la IA y las reclamaciones de difamación.
Google ha retirado el modelo Gemma de código abierto de la plataforma AI Studio después de una queja de la senadora estadounidense Marsha Blackburn. La senadora afirmó que el modelo generó declaraciones falsas que alegaban mala conducta sexual en su contra, describiendo la salida como difamatoria y no como una simple "alucinación" inocua. Google respondió que el modelo estaba destinado para uso de desarrolladores, no para consultas públicas directas, y dijo que mantendría el modelo disponible a través de su API mientras trabajaba para reducir las salidas erróneas. El incidente destaca las preocupaciones políticas en curso sobre el sesgo de la IA y la desinformación.
Antecedentes
La senadora estadounidense Marsha Blackburn envió una carta al director ejecutivo de Google, Sundar Pichai, alegando que el modelo Gemma de la empresa, accesible a través del entorno de desarrollo AI Studio, produjo declaraciones falsas sobre su conducta personal. En la carta, Blackburn afirmó que cuando se le preguntó sobre acusaciones de violación, el modelo fabricó una narrativa que involucraba a un trooper estatal y actos no consentidos, lo que ella describió como completamente falso. La senadora también se refirió a una demanda separada presentada por el activista conservador Robby Starbuck, quien afirma que los sistemas de IA de Google han generado afirmaciones difamatorias sobre él.
Blackburn enmarcó la salida del modelo como más que una simple "alucinación" - un término comúnmente utilizado para describir las inexactitudes generadas por la IA - argumentando que las declaraciones falsas constituyen difamación que fue distribuida por un sistema propiedad de Google. Ella vinculó el incidente a preocupaciones más amplias sobre el sesgo percibido contra figuras conservadoras en las tecnologías de IA.
Respuesta de Google
Google reconoció el problema, señalando que Gemma fue diseñado como un modelo ligero y de código abierto para que los desarrolladores lo integraran en sus propias aplicaciones, y no como un chatbot orientado al consumidor. La empresa explicó que los informes de no desarrolladores que utilizaban AI Studio para hacer preguntas factuales provocaron la decisión de retirar Gemma de la plataforma. Google enfatizó que el modelo seguiría estando disponible a través de su interfaz de programación de aplicaciones (API) para fines de desarrollo legítimos.
En respuesta a las alegaciones de la senadora, el vicepresidente de asuntos gubernamentales y política pública de Google reiteró que las alucinaciones son un desafío conocido en los grandes modelos de lenguaje y que la empresa está trabajando activamente para mitigar dichos errores. La empresa aclaró que nunca tuvo la intención de que el modelo se utilizara como una herramienta de preguntas y respuestas pública, reafirmando su compromiso con el despliegue responsable de las tecnologías de IA.
La retirada de Gemma de AI Studio subraya la tensión entre la innovación rápida de la IA y la demanda de rendición de cuentas, especialmente cuando las figuras políticas afirman que las salidas de la IA han causado daño a su reputación. El incidente agrega a los debates en curso sobre cómo las empresas de tecnología deben abordar el contenido erróneo o potencialmente difamatorio generado por sus modelos, y cómo los organismos reguladores podrían supervisar dichos asuntos.