Ley de California Exige Características de Seguridad para Chatbots de Compañía de IA
Puntos clave
- La ley SB 243 requiere que los chatbots de compañía de IA se identifiquen como no humanos y emitan recordatorios de pausas a los usuarios menores de 18 años al menos cada tres horas.
- La ley exige protocolos para detectar y responder a expresiones de ideación suicida o autolesiones.
- La legislación relacionada incluye la ley AB 56, que impone etiquetas de advertencia en las redes sociales, y la pendiente ley AB 1064, que restringiría aún más el acceso de los niños a los chatbots.
- Replika, Character.ai y OpenAI han expresado su disposición a cumplir y han destacado las medidas de seguridad existentes.
- La Comisión Federal de Comercio está investigando a los proveedores de chatbots de compañía de IA en medio de las preocupaciones de los consumidores y los padres sobre los impactos en la salud mental.
California ha promulgado la ley SB 243, que requiere que los proveedores de chatbots de compañía de IA se identifiquen como no humanos, emitan recordatorios de pausas regulares a los usuarios menores de 18 años y mantengan protocolos para manejar expresiones de ideación suicida o autolesiones. La legislación es parte de un impulso más amplio que incluye la ley AB 56, que exige etiquetas de advertencia en las redes sociales, y la pendiente ley AB 1064, que restringiría aún más el acceso de los niños a los chatbots.
SB 243: Requisitos Principales
La ley SB 243 obliga a los desarrolladores de chatbots de compañía de IA a revelar que los bots no son humanos. Para los usuarios menores de 18 años, la ley exige que el chatbot proporcione una notificación al menos cada tres horas recordando al usuario que tome una pausa y reafirmando la naturaleza no humana del bot. Además, la legislación requiere que las empresas mantengan protocolos para detectar y responder a los usuarios que expresan ideación suicida o autolesiones, dirigiéndolos a recursos de crisis adecuados.
Actividad Legislativa Relacionada
La nueva ley sigue otras medidas recientes de California destinadas a regular las plataformas digitales. La ley AB 56 requiere etiquetas de advertencia en las plataformas de redes sociales similares a las utilizadas para los productos del tabaco. Un proyecto de ley pendiente, la ley AB 1064, prohibiría a los desarrolladores ofrecer chatbots de compañía a los niños a menos que la IA no sea predeciblemente capaz de fomentar actividades dañinas o participar en interacciones sexualmente explícitas.
Respuesta de la Industria y Prácticas Existente
Varias empresas de IA han indicado que están preparadas para cumplir con la ley SB 243. Replika declaró que ya emplea sistemas de filtrado de contenido, pautas de la comunidad y mecanismos de seguridad que remiten a los usuarios a recursos de crisis, y que está trabajando con los reguladores para cumplir con los nuevos requisitos. Un portavoz de Character.ai expresó su disposición a trabajar con los legisladores y cumplir con la ley. Un representante de OpenAI describió la legislación como un "paso significativo hacia adelante" para la seguridad de la IA, señalando que los guardrails claros ayudan a dar forma al desarrollo responsable de la IA.
Supervisión Federal y Preocupaciones de los Consumidores
La Comisión Federal de Comercio ha iniciado una investigación sobre varios proveedores de chatbots de compañía de IA después de quejas de grupos de consumidores y padres que alegan que los bots han dañado la salud mental de los niños. OpenAI ha introducido controles parentales y salvaguardas adicionales en su plataforma ChatGPT después de enfrentar una demanda de padres que afirmaban que el servicio contribuyó al suicidio de su hijo adolescente.
Contexto Más Amplio y Perspectiva Futura
Las acciones de California reflejan una tendencia creciente entre los estados para regular las tecnologías de IA emergentes, particularmente aquellas que interactúan directamente con usuarios más jóvenes. Al establecer estándares de divulgación y seguridad claros, la ley SB 243 busca mitigar los daños potenciales mientras permite la innovación continua en el espacio de los chatbots de compañía de IA. Los esfuerzos legislativos en curso, como la ley AB 56 y la ley AB 1064, sugieren que es posible que se produzcan más refinamientos regulatorios, lo que podría dar forma a cómo se despliegan los chatbots de IA a nivel nacional.