Baltimore demanda a xAI por daños causados por Grok con deepfakes
Puntos clave
- Baltimore presenta una demanda municipal contra xAI por su chatbot Grok y herramienta de generación de imágenes.
- La queja alega violaciones de la Ordenanza de Protección al Consumidor de la ciudad.
- La herramienta de generación de imágenes de Grok se utilizó para crear un estimado de tres millones de imágenes sexualizadas en once días.
- Aproximadamente veintitrés mil de esas imágenes involucraban menores.
- La abogada de la ciudad, Ebony M. Thompson, enfatiza la necesidad de guardrails en tecnologías poderosas.
- La demanda sigue a otras acciones legales, incluyendo una posible acción colectiva por tres adolescentes.
- Los reguladores de todo el mundo han iniciado investigaciones sobre plataformas de inteligencia artificial que permiten la creación de imágenes ilegales.
- El caso podría sentar un precedente para la regulación municipal de la creación de contenido impulsada por inteligencia artificial.
La ciudad de Baltimore ha presentado una denuncia municipal contra xAI de Elon Musk, alegando que su chatbot de inteligencia artificial Grok y la red social X se comercializaron sin advertir sobre el riesgo de imágenes de deepfake dañinas. La queja cita la herramienta de generación de imágenes de la plataforma, que se utilizó para crear millones de imágenes sexualizadas, incluyendo miles que involucraban menores, y argumenta que esto viola la Ordenanza de Protección al Consumidor de Baltimore. Los funcionarios de la ciudad dicen que la acción tiene como objetivo proteger a los residentes de los daños emergentes relacionados con la inteligencia artificial y responsabilizar a las empresas tecnológicas.
Antecedentes
La empresa de inteligencia artificial de Elon Musk, xAI, lanzó el chatbot Grok, promocionándolo como un asistente de inteligencia artificial de propósito general. Junto con el chatbot, Grok ofrece una función de generación de imágenes que ha generado una intensa escrutinía. Según el Centro para Contrarrestar el Odio Digital, la herramienta se utilizó para producir un estimado de tres millones de imágenes sexualizadas en un período de once días. De esas imágenes, aproximadamente veintitrés mil retrataron menores, lo que genera preocupaciones sobre la creación de material de abuso sexual infantil.
Acción legal
En respuesta, la ciudad de Baltimore presentó una denuncia municipal contra xAI, afirmando que la empresa violó la Ordenanza de Protección al Consumidor de la ciudad. La queja, informada por The Guardian, afirma que xAI comercializó Grok sin revelar los posibles riesgos y daños asociados con su uso, particularmente la generación de imágenes no consensuadas y ilegales. La abogada de la ciudad, Ebony M. Thompson, enfatizó que las leyes de protección al consumidor de Baltimore existen para salvaguardar a los residentes de los daños tecnológicos emergentes. Ella declaró que cuando las empresas introducen tecnologías poderosas sin guardrails adecuados, la ciudad tiene tanto la autoridad como la obligación de actuar.
Contexto más amplio
La demanda se suma a una creciente ola de desafíos regulatorios y legales que apuntan a herramientas de generación de imágenes de inteligencia artificial. Los reguladores de todo el mundo han limitado el acceso o han iniciado investigaciones sobre plataformas que permiten la creación potencialmente ilegal y no consensuada de imágenes. En los Estados Unidos, se presentó una posible acción colectiva por tres adolescentes que alegaron que se utilizaron fotos de ellos para crear material de abuso sexual infantil. Si bien el gobierno federal aún no ha tomado medidas directas contra xAI, la demanda municipal de Baltimore representa un enfoque novedoso al utilizar estatutos de protección al consumidor locales para abordar los riesgos relacionados con la inteligencia artificial.
Implicaciones
Los funcionarios de la ciudad argumentan que la acción legal tiene como objetivo proteger a los residentes, responsabilizar a las empresas tecnológicas y prevenir la instauración de daños a medida que la tecnología de inteligencia artificial continúa evolucionando. El caso puede sentar un precedente para cómo los municipios pueden utilizar leyes de protección al consumidor para regular aplicaciones de inteligencia artificial emergentes, especialmente aquellas capaces de generar contenido visual dañino.