El Proyecto de Ley del Senado de California 243 Avanza en la Regulación de Chatbots de Compañía de IA
Puntos clave
- La Asamblea de California aprueba el Proyecto de Ley del Senado 243 para regular los chatbots de compañía de IA.
- El proyecto de ley requiere alertas recurrentes para menores cada tres horas y informes de transparencia anuales.
- Crea un derecho de acción privado con daños de hasta $1,000 por violación.
- La fecha de entrada en vigor está fijada para el 1 de enero de 2026; los informes comienzan el 1 de julio de 2027.
- La legislación responde a incidentes que involucran la planificación del suicidio de un adolescente con ChatGPT y documentos filtrados de chatbots de Meta.
- Las investigaciones federales y estatales sobre la seguridad de la IA se han intensificado.
- Las disposiciones anteriores sobre tácticas de recompensa variable se eliminaron después de la enmienda.
- Las principales empresas de IA se han opuesto a proyectos de ley relacionados con la seguridad de la IA en California.
La Asamblea Estatal de California aprobó el Proyecto de Ley del Senado 243, una medida bipartidista que regularía los chatbots de compañía de IA para proteger a menores y usuarios vulnerables. El proyecto de ley requiere que los operadores etiqueten las interacciones de IA, limiten las alertas para menores y presenten informes de transparencia anuales. También crea un derecho de acción privado para las personas perjudicadas por violaciones. Si es firmado por el gobernador Gavin Newsom, la ley entraría en vigor el 1 de enero de 2026, con requisitos de informes a partir del 1 de julio de 2027. La legislación sigue a incidentes de alto perfil involucrando chatbots de IA y surge en medio de un creciente escrutinio federal y estatal de la seguridad de la IA.
Resumen del Proyecto de Ley
El Proyecto de Ley del Senado 243, presentado por los senadores estatales Steve Padilla y Josh Becker, busca imponer protocolos de seguridad en los chatbots de compañía de IA—sistemas que proporcionan respuestas adaptativas y humanas que satisfacen las necesidades sociales de los usuarios, incluyendo conversaciones sobre ideación suicida, autolesiones o contenido explícito sexual. El proyecto de ley define un chatbot de compañía como un sistema de IA capaz de interactuar con los usuarios de manera que satisfaga sus necesidades sociales.
Disposiciones Clave
La legislación ordena que las plataformas que ofrecen chatbots de compañía proporcionen alertas recurrentes a los usuarios, específicamente cada tres horas para menores, recordándoles que están hablando con una IA, no con una persona real, y animándolos a tomar pausas. Las empresas también deben implementar requisitos de informes y transparencia anuales, divulgando datos como el número de veces que los usuarios son remitidos a servicios de crisis.
El Proyecto de Ley del Senado 243 crea un derecho de acción privado, permitiendo que las personas que creen haber sido perjudicadas por violaciones presenten demandas para obtener medidas cautelares, daños de hasta $1,000 por violación y honorarios de abogado.
Progreso Legislativo
El proyecto de ley aprobó la Asamblea Estatal de California con apoyo bipartidista y ahora pasa al Senado estatal para una votación final. Si el Senado aprueba la medida, será presentada al gobernador Gavin Newsom para su firma. La ley entraría en vigor el 1 de enero de 2026, mientras que las obligaciones de informes comenzarían el 1 de julio de 2027.
Contexto y Reacciones
La legislación ganó impulso después de la muerte del adolescente Adam Raine, quien discutió autolesiones y planes de suicidio con ChatGPT de OpenAI. También responde a documentos internos filtrados que indican que los chatbots de Meta estaban permitidos para participar en chats "románticos" y "sensuales" con niños. En las últimas semanas, ha habido un aumento en el escrutinio de las plataformas de IA por parte de los legisladores y reguladores de EE. UU., incluyendo una investigación de la Comisión Federal de Comercio sobre el impacto en la salud mental de los chatbots de IA y investigaciones a nivel estatal por el fiscal general de Texas Ken Paxton, así como investigaciones del Senado lideradas por Josh Hawley y Ed Markey.
Los partidarios argumentan que el proyecto de ley equilibra la protección de los usuarios vulnerables con la innovación continua. Los críticos señalan que versiones anteriores del proyecto de ley incluían requisitos más estrictos, como la prohibición de tácticas de "recompensa variable" que podrían fomentar un compromiso adictivo, pero esas disposiciones se eliminaron después de enmiendas que las consideraron técnicamente inviables o excesivamente onerosas.
OpenAI, Meta, Google y Amazon se han opuesto a proyectos de ley relacionados con la seguridad de la IA en California, mientras que Anthropic ha expresado su apoyo. La aprobación del Proyecto de Ley del Senado 243 ocurre mientras que las empresas de Silicon Valley invierten fuertemente en comités de acción política pro-IA para influir en las próximas elecciones de mitad de período hacia un enfoque regulatorio de "mano ligera".