Plataformas chinas implementan etiquetas para contenido generado por IA
Puntos clave
- WeChat, Douyin, Weibo y RedNote ahora requieren que el contenido generado por IA esté etiquetado.
- La ley fue redactada por múltiples agencias gubernamentales chinas que supervisan el ciberespacio y los medios.
- Los usuarios deben etiquetar sus propias publicaciones creadas con IA y no pueden eliminar las etiquetas aplicadas por la plataforma.
- Weibo agregó una función para denunciar publicaciones que carecen de etiquetas de IA adecuadas.
- Las plataformas incorporan identificadores en los metadatos y pueden utilizar herramientas de detección para verificar el origen de IA.
- Prácticas de etiquetado similares están surgiendo entre algunas empresas de tecnología estadounidenses.
Los principales servicios de redes sociales chinas, incluyendo WeChat, Douyin, Weibo y RedNote, han comenzado a aplicar etiquetas obligatorias a las publicaciones que contienen texto, imágenes, audio o video generado por IA. Esta medida sigue la nueva legislación redactada por varias agencias gubernamentales para mejorar la transparencia en torno al material de IA generativo. Los usuarios están obligados a etiquetar su propio contenido creado con IA y se les prohíbe eliminar o manipular las etiquetas aplicadas por la plataforma. Las plataformas también ofrecen herramientas para denunciar material de IA no etiquetado. Se observa un desarrollo similar en los Estados Unidos.
Antecedentes regulatorios
Las autoridades chinas han introducido una ley que requiere la identificación clara de contenido de IA generativo en los principales servicios de internet. La regulación fue preparada por una coalición de agencias responsables de la supervisión del ciberespacio, la industria y la tecnología de la información, la seguridad pública y la radiodifusión. Su propósito es ayudar a monitorear el crecimiento rápido del material producido por IA y frenar la desinformación y el uso ilegal.
Implementación de la plataforma
Las principales plataformas, como WeChat, Douyin (la versión china de TikTok), Weibo y RedNote (también conocida como Xiaohongshu), han implementado características de etiquetado. Cada publicación que incluye texto, imágenes, audio o video generado por IA debe mostrar una etiqueta que indique su origen. Las plataformas incorporan identificadores en los metadatos y, en algunos casos, utilizan herramientas de detección internas para verificar la fuente del contenido.
Obligaciones de los usuarios
Los usuarios ahora están obligados a aplicar etiquetas proactivamente a cualquier contenido que creen con herramientas de IA generativo. Las plataformas prohíben a los usuarios eliminar, alterar o ocultar cualquier etiqueta que el servicio aplique automáticamente. Además, los usuarios pueden ser responsables de utilizar material generado por IA para difundir información falsa, infringir derechos o participar en actividades ilegales.
Medidas de cumplimiento
Weibo ha introducido una opción de denuncia que permite a los usuarios reportar contenido que carece de la etiqueta de IA requerida. Las plataformas también están instruidas para no permitir la eliminación o manipulación de las etiquetas que generan ellas mismas. Estos pasos están destinados a garantizar el cumplimiento consistente en todo el ecosistema.
Contexto internacional
La iniciativa refleja los esfuerzos de algunas empresas estadounidenses que proporcionan herramientas de IA generativo, que están comenzando a incorporar mecanismos de etiquetado similares. Por ejemplo, un lanzamiento de hardware reciente de una importante empresa de tecnología incluye credenciales de procedencia de contenido integradas para ayudar a identificar los medios generados por IA.