FTC Inicia Investigación sobre Empresas de Chatbots de Compañía de IA

FTC Inicia Investigación sobre Chatbots de Compañía de IA

La Comisión Federal de Comercio (FTC) ha iniciado una investigación formal sobre empresas que crean chatbots de inteligencia artificial capaces de actuar como compañeros. Aunque la investigación no señala aún ninguna acción regulatoria específica, la comisión busca descubrir cómo estas empresas responden a preguntas sobre la medición, prueba y monitoreo de impactos negativos potenciales en niños y adolescentes.

Empresas Solicitadas a Participar

Siete empresas han sido solicitadas a participar en la investigación de la FTC. Estas incluyen Alphabet, la empresa matriz de Google; Character Technologies, la creadora de Character.AI; Meta y su filial Instagram; OpenAI; Snap; y X.AI. La comisión busca una variedad de información de cada una, cubriendo cómo desarrollan y aprueban personajes de IA, cómo monetizan el compromiso de los usuarios y las prácticas de manejo de datos que emplean para proteger a los usuarios menores de edad.

Enfoque en la Seguridad de los Niños y la Privacidad de los Datos

La línea de preguntas de la FTC enfatiza el cumplimiento de la Ley de Protección de la Privacidad en Línea de los Niños (COPPA). Los investigadores quieren determinar si los fabricantes de chatbots están protegiendo adecuadamente la privacidad de los menores y si están cumpliendo con los estándares legales sobre la recopilación y uso de datos. La agencia también quiere obtener información sobre cómo estas empresas protegen a los niños de contenido o interacciones potencialmente dañinas.

Motivación detrás de la Investigación

Aunque la FTC no ha proporcionado una razón clara para la investigación, el Comisionado Mark Meador hizo referencia a informes recientes de periódicos importantes que destacaron preocupaciones como los chatbots y la ideación suicida y las discusiones con temática sexual que involucran a usuarios menores de edad. Meador sugirió que si los hechos descubiertos a través de la investigación indican violaciones de la ley, la comisión debería actuar rápidamente para proteger a las personas vulnerables.

Escrutinio a Nivel Estatal Paralelo

Además de la investigación federal, el Fiscal General de Texas ha iniciado una investigación separada centrada en Character.AI y Meta AI Studio. Esta investigación a nivel estatal se centra en cuestiones similares de privacidad de datos y la práctica de los chatbots que se presentan como profesionales de la salud mental, planteando más preguntas sobre el panorama regulatorio más amplio que rodea a los compañeros de IA.

Contexto Regulatorio y Implicaciones para la Industria

El movimiento de la FTC refleja un enfoque regulatorio creciente en los riesgos inmediatos de privacidad y salud asociados con los chatbots de IA, incluso mientras los beneficios a largo plazo de la productividad de la tecnología siguen siendo inciertos. Al buscar divulgaciones detalladas de los principales desarrolladores, la comisión busca construir una imagen más clara de las prácticas de la industria y determinar si se justifican acciones de aplicación adicionales.