Google retira el modelo de inteligencia artificial Gemma después de que senadora lo acusa de fabricar alegaciones
Puntos clave
- Google retiró su modelo de inteligencia artificial Gemma de la plataforma AI Studio.
- La senadora Marsha Blackburn alegó que el modelo fabricó una alegación criminal sobre ella.
- Gemma está destinada a uso de desarrolladores, no para responder preguntas factuales del público.
- Google seguirá ofreciendo Gemma a través de API para desarrolladores.
- La empresa enfatizó su compromiso de reducir las alucinaciones de la inteligencia artificial.
- La afirmación falsa involucraba una supuesta campaña de 1987, mientras que la campaña real fue en 1998.
- Los enlaces proporcionados por el modelo llevaron a páginas de error o artículos no relacionados.
Google anunció que su familia de modelos de inteligencia artificial Gemma ha sido retirada de la plataforma AI Studio después de que la senadora republicana Marsha Blackburn afirmara que el modelo fabricó una grave alegación criminal sobre ella. La empresa dijo que Gemma está destinada a desarrolladores, no para responder preguntas factuales del público, y seguirá siendo accesible a través de API. Google reiteró su compromiso de reducir las alucinaciones en sus modelos mientras aborda las preocupaciones de difamación planteadas por la senadora.
Antecedentes
La serie Gemma de Google se comercializa como una familia de modelos de inteligencia artificial diseñados para que los desarrolladores los integren en aplicaciones. Los modelos se ofrecen a través de la plataforma AI Studio de Google y, por separado, a través de una API para uso de desarrolladores. Google ha enfatizado que Gemma no es un chatbot orientado al consumidor y no debe usarse para responder preguntas factuales.
Queja de la senadora
La senadora Marsha Blackburn, republicana de Tennessee, escribió al director ejecutivo de Google, Sundar Pichai, alegando que Gemma generó una declaración falsa que afirmaba que ella había sido acusada de una relación sexual con un trooper estatal durante su campaña de 1987 para el senado estatal. El modelo también proporcionó una lista de artículos de noticias falsificados para respaldar la afirmación. Blackburn señaló que el año de la campaña alegada era incorrecto; su campaña real ocurrió en 1998, y los enlaces proporcionados por el modelo llevaron a páginas de error o contenido no relacionado. Ella caracterizó la respuesta como difamación y exigió que Google cerrara el modelo hasta que pudiera ser controlado.
Respuesta de Google
En una publicación en X, la cuenta de noticias oficial de Google, la empresa dijo que había "visto informes de no desarrolladores que intentan usar Gemma en AI Studio y hacerle preguntas factuales". Para evitar más confusiones, Google eliminó el acceso a Gemma desde AI Studio, afirmando que el modelo seguiría siendo accesible para desarrolladores a través de la API. La empresa reiteró su compromiso de "minimizar las alucinaciones y mejorar continuamente todos nuestros modelos".
Implicaciones
El incidente destaca los desafíos continuos con las alucinaciones de la inteligencia artificial: situaciones en las que los modelos generan información falsa o engañosa que parece factual. Si bien Google reconoce estos problemas, el episodio subraya la tensión entre las herramientas de inteligencia artificial orientadas a desarrolladores y las expectativas públicas de precisión, especialmente cuando se involucran figuras políticas. La queja de la senadora agrega una dimensión política, lo que genera escrutinio sobre cómo las salidas de la inteligencia artificial pueden afectar las reputaciones y la importancia de salvaguardias sólidas contra la difamación.