Las reseñas generadas por IA amenazan la confianza en Amazon, según un estudio
Puntos clave
- Un estudio de ~30.000 reseñas de Amazon encontró contenido generado por IA en productos de múltiples categorías.
- Los productos para bebés tuvieron la tasa de reseñas de IA más alta, con aproximadamente el 5,2%; los artículos de jardinería fueron los más bajos, con el 1,7%.
- Las reseñas escritas por IA se inclinan fuertemente hacia lo positivo, con aproximadamente el 74% que reciben calificaciones de cinco estrellas.
- El 93% de las reseñas sospechosas de ser generadas por IA fueron marcadas como compras verificadas, lo que realza la autenticidad percibida.
- La FTC trata las reseñas falsas generadas por IA como ilegales; los reguladores del Reino Unido también se centran en las reseñas engañosas.
- Los expertos recomiendan que Amazon y los formuladores de políticas incluyan explícitamente el texto generado por IA en las definiciones de reseñas falsas.
- Se urge a los consumidores a evitar el uso de herramientas de IA para escribir sus propias reseñas para mantener la confianza.
Un análisis de miles de reseñas de productos de Amazon reveló una notable presencia de contenido generado por IA, particularmente en las categorías de bebés, belleza y bienestar. El estudio mostró que las reseñas escritas por IA son más propensas a ser de cinco estrellas y marcadas como compras verificadas, lo que plantea preocupaciones sobre la confianza del consumidor.
Hallazgos del estudio
Un análisis sistemático de casi 30.000 reseñas de clientes para 500 artículos best-seller de Amazon reveló que el texto generado por IA aparece en múltiples categorías de productos. Los productos para bebés mostraron la mayor incidencia, con aproximadamente el 5,2% de las 3.037 reseñas examinadas que contenían lenguaje generado por grandes modelos de lenguaje. Las categorías de belleza y bienestar y relajación siguieron de cerca, cada una con aproximadamente el 5% y el 4,4% de reseñas escritas por IA, respectivamente. En contraste, los artículos de jardinería exhibieron la tasa más baja, aproximadamente el 1,7%.
El análisis también destacó una tendencia hacia el sentimiento positivo en las reseñas generadas por IA. Aproximadamente el 74% de las reseñas identificadas como escritas por IA fueron de cinco estrellas, en comparación con el 56% para las reseñas escritas por humanos, mientras que solo aproximadamente el 10% de las reseñas generadas por IA fueron de una estrella, en comparación con el 21% para las reseñas no generadas por IA. Un sorprendente 93% de las reseñas sospechosas de ser generadas por IA fueron marcadas como compras verificadas, lo que les da una apariencia de autenticidad.
Implicaciones para los consumidores y las marcas
La presencia de reseñas creadas por IA plantea serias preguntas sobre la confiabilidad del sistema de calificaciones de Amazon. Las reseñas positivas y verificadas que en realidad son generadas por algoritmos pueden inflar artificialmente las calificaciones de los productos, lo que podría engañar a los compradores que confían en la retroalimentación de sus pares para tomar decisiones de compra. Por el contrario, la menor prevalencia de reseñas generadas por IA negativas sugiere que la tecnología se está utilizando principalmente para mejorar la percepción del producto en lugar de proporcionar una crítica equilibrada.
Para las marcas, especialmente aquellas que competen en mercados saturados como la belleza y el cuidado de bebés, la tentación de emplear herramientas de IA para generar comentarios favorables es evidente. Sin embargo, esta práctica riesgos erosionar la confianza del consumidor si se descubre, y puede atraer la atención de los reguladores.
Respuestas regulatorias y de la plataforma
En los Estados Unidos, la Comisión Federal de Comercio (FTC) trata las reseñas falsas, incluidas aquellas producidas por inteligencia artificial, como ilegales según la ley federal y puede perseguir sanciones civiles contra los infractores. La Autoridad de Competencia y Mercados del Reino Unido (CMA) también ha señalado su intento de frenar las reseñas engañosas, aunque su orientación no hace referencia explícita al contenido generado por IA.
Los expertos llaman a Amazon a fortalecer sus mecanismos de detección y a los reguladores a asegurarse de que las definiciones de "reseña falsa" abarquen explícitamente el texto generado por IA. Sin estas medidas, la utilidad de los resúmenes de reseñas generados por IA de Amazon —párrafos cortos que resumen temas comunes en miles de reseñas— podría verse comprometida a medida que crece la proporción de contenido no auténtico.
Llamadas a la acción
Los interesados urgen un enfoque de dos pasos: primero, reconocer la amenaza emergente de las reseñas generadas por IA; segundo, ampliar las políticas legales y de la plataforma para etiquetar claramente dicho contenido como falso. Mientras tanto, se aconseja a los consumidores que sean cautelosos y eviten subcontratar la escritura de reseñas a grandes modelos de lenguaje, preservando la integridad de sus propias experiencias de compra.