Letitia James, fiscal general de Nueva York reveló una investigación multiestatal de años de duración contra Character.AI, ya que ahora buscan exigir protección a los datos de los consumidores vendidos a través de su procedimiento de quiebra.
James está entre los 40 AG bipartidistas que presentó un aviso de interés en el caso de quiebra de Character.AI «para avisar a todas las partes sobre las cuestiones regulatorias que deberán abordarse en cualquier venta o transferencia del negocio o los activos del Deudor». Character.AI anunció el martes que era presentación del Capítulo 11 y vender algunos activos a Disney. Pero los AG advierten que podría haber graves riesgos involucrados en la transferencia de la tecnología debido a la «naturaleza altamente sensible de las conversaciones que muchos usuarios tienen con los personajes del chatbot Character.AI, la gran cantidad de menores que usan el producto, los graves riesgos que plantean características específicas del producto».
La presentación también revela que varios de los estados se encontraban en mitad de la investigación cuando Character.AI se declaró en quiebra. Los estados dicen que abrieron una investigación sobre preocupaciones de privacidad y protección del consumidor en 2024, luego de una demanda de la madre de un joven de 14 años quien se suicidó supuestamente “segundos” después de hablar con el chatbot.
“Las investigaciones descubrieron peligros excepcionalmente graves”
«Las investigaciones descubrieron peligros excepcionalmente graves y conductas potencialmente ilegales por parte de Character.AI, particularmente su trato a los niños, incluidos chatbots que se hacen pasar por profesionales autorizados, exposición a contenido sexual y violento, controles de edad débiles, afirmaciones de seguridad engañosas y posibles violaciones de las leyes estatales de privacidad», según un comunicado de prensa de la oficina de James. Los estados estaban trabajando para abordar estos problemas con Character.AI, pero no llegaron a un acuerdo antes de que la empresa se declarara en quiebra. Character.AI y Disney no respondieron de inmediato a las solicitudes de comentarios.
Los estados instan al juez a exigir al comprador de los activos de Character.AI que implemente procedimientos que salvaguarden la información confidencial que mantenía la empresa. Entre ellas se incluyen sistemas eficaces de garantía de edad, restricciones sobre cómo los menores pueden interactuar con los chatbots, implementar “protecciones de crisis” y permitir que los usuarios eliminen sus datos. «Esta empresa recopiló algunos de los pensamientos más privados que los niños hayan compartido jamás, y ahora esas conversaciones podrían venderse al mejor postor», dijo James en un comunicado. «Estoy luchando para asegurarme de que cualquier comprador dé prioridad a la seguridad de los niños y establezca protecciones reales».