Senadores de EE. UU. piden a Apple y Google que prohíban X y Grok por generación ilegal de imágenes

Senadores exigen acción contra X y Grok

Los senadores de EE. UU. Ron Wyden, Ben Ray Lujan y Edward Markey han escrito a Apple y Google, instando a las compañías a prohibir la aplicación X y su chatbot de inteligencia artificial Grok de sus tiendas de aplicaciones. La carta sostiene que Grok ha sido utilizado para generar imágenes pornográficas de mujeres y niños sin consentimiento, una práctica que los senadores dicen que contraviene directamente las políticas de las tiendas de aplicaciones de ambas compañías.

Se destacan las violaciones de política

Los senadores señalan que los términos de servicio de Google prohíben a los usuarios crear, subir o distribuir contenido que facilite la explotación o el abuso de niños, incluyendo representaciones que puedan llevar a la explotación sexual. La política de Apple prohíbe expresamente el material sexual o pornográfico explícito. Según los senadores, la salida de Grok - descrita como la modificación de imágenes para mostrar a mujeres siendo abusadas sexualmente, humilladas, heridas o incluso asesinadas, y la creación de imágenes sexualizadas de niños - viola estas reglas.

Se cita el cumplimiento pasado como precedente

La carta hace referencia a la voluntad reciente de Apple y Google de eliminar aplicaciones que se consideraban que planteaban riesgos legales, como aquellas que permitían a los usuarios informar sobre actividades de aplicación de la ley de inmigración. Los senadores argumentan que la eliminación rápida de esas aplicaciones demuestra que las compañías pueden actuar rápidamente cuando se enfrentan a violaciones claras de política, y deberían aplicar el mismo estándar a X y Grok.

La presión internacional aumenta

Más allá de los Estados Unidos, los gobiernos de Indonesia y Malasia ya han bloqueado Grok en respuesta a la controversia sobre la generación de imágenes. El regulador de medios del Reino Unido, Ofcom, ha iniciado una investigación oficial sobre el asunto. Los senadores señalan que los legisladores de la Unión Europea y la India también están examinando de cerca la herramienta de inteligencia artificial, lo que sugiere que la presión sobre X y Grok no se limita a una sola región.

Implicaciones para la moderación de la tienda de aplicaciones

Los senadores advierten que no actuar debilitaría las afirmaciones públicas de Apple y Google de ofrecer una experiencia de usuario más segura y podría debilitar sus defensas contra los reclamos de abuso de poder de mercado. Enfatizan que hacer la vista gorda ante el contenido nocivo de Grok haría una burla de las prácticas de moderación de las compañías.

Llamado a la eliminación rápida

Al concluir, los senadores instan a Apple y Google a demostrar un nivel de respuesta comparable a acciones anteriores y a eliminar rápidamente la aplicación X y Grok de sus plataformas. Argumentan que tal paso se alinearía con el compromiso declarado de las compañías de proteger a los usuarios de contenido ilegal y nocivo.