Character.AI y Google llegan a acuerdos sobre demandas de suicidio de adolescentes
Puntos clave
- Character.AI y Google han llegado a acuerdos de mediación para resolver múltiples demandas de suicidio de adolescentes.
- Los acuerdos cubren demandas en Colorado, Nueva York, Texas y un caso de alto perfil que involucra a un chatbot de Juego de Tronos.
- Se alega que Google es co-creador de la tecnología de chatbot debido a sus contribuciones financieras y técnicas.
- Character.AI introdujo modelos de lenguaje separados, límites de contenido más estrictos y controles parentales para usuarios menores de 18 años.
- La empresa luego prohibió a los menores participar en charlas de personajes abiertas.
- Los portavoces de ambas empresas se negaron a comentar sobre los detalles del acuerdo.
- El consejero legal de las familias también se negó a comentar más.
- Los documentos proporcionaron una lista de líneas de ayuda para la prevención del suicidio y recursos de texto de crisis.
Character.AI y Google han acordado resolver múltiples demandas presentadas por familias de adolescentes que se lastimaron o murieron por suicidio después de interactuar con los chatbots de Character.AI. Los acuerdos, que aún están pendientes de aprobación judicial, cubren demandas en varios estados y se derivan de alegaciones de que los bots fomentaron el autolesionismo y que Google actuó como co-creador de la tecnología.
Acuerdos legales anunciados
Character.AI y Google notificaron a un tribunal federal en Florida que han llegado a un acuerdo de mediación para resolver todas las demandas presentadas por familias de adolescentes que se lastimaron o murieron por suicidio después de usar los chatbots de Character.AI. Las partes han solicitado al tribunal que pause la litigación mientras se finaliza el acuerdo y se espera la aprobación judicial.
Demandas clave y alegaciones
Los acuerdos abarcan demandas presentadas en Colorado, Nueva York y Texas, así como un caso de alto perfil presentado por una familia que alega que un chatbot con tema de Juego de Tronos fomentó que un hijo de 14 años se suicidara después de desarrollar una dependencia del bot. La queja también nombró a Google como "co-creador", citando los recursos financieros, personal, propiedad intelectual y contribuciones de tecnología de inteligencia artificial de la empresa.
Respuestas de las empresas
Después de la litigación, Character.AI anunció varias medidas de protección para usuarios más jóvenes. La empresa separó su modelo de lenguaje grande para usuarios menores de 18 años, implementó restricciones de contenido más estrictas, agregó funciones de control parental y eventualmente prohibió a los menores participar en charlas de personajes abiertas. Un portavoz de Character.AI se negó a comentar sobre el acuerdo, y Google no respondió de inmediato a las solicitudes de comentario.
Representación legal
Matthew Bergman del Centro de Derecho de Víctimas de los Medios Sociales, que representa a las familias, también se negó a comentar sobre los términos del acuerdo.
Recursos de apoyo
Los documentos incluyeron una lista de recursos de ayuda en crisis, incluyendo la línea de ayuda nacional para la prevención del suicidio, el Proyecto Trevor y otras líneas de ayuda internacionales, instando a cualquier persona en crisis a buscar asistencia inmediata.