OpenAI se enfrenta a una nueva ola de demandas de ocho estados de EE. UU. que acusan a la empresa de dañar a los niños y engañar a los clientes sobre la seguridad de ChatGPT. como informó anteriormente por Reuters. Las demandas, presentadas por separado por Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana, alegan que OpenAI antepuso ilegalmente las ganancias a la seguridad al desarrollar ChatGPT.
La serie de quejas afirma que OpenAI violó las leyes locales de protección al consumidor al no advertir a los clientes sobre los peligros de ChatGPT, citando varias demandas presentadas. por los miembros de la familia de adolescentes y adultos que alegan que el chatbot de IA jugó un papel en la muerte de sus seres queridos. Alegan que, si bien OpenAI presentó engañosamente ChatGPT como una «herramienta segura y apropiada para los jóvenes que prioriza la seguridad», en realidad era «peligroso para los usuarios vulnerables», incluso al «degradar las habilidades de pensamiento crítico, fomentar paranoias y delirios, ofrecer consejos médicos peligrosos y promover comportamientos y relaciones poco saludables».
Además, los estados acusan a OpenAI de recopilar datos de menores y de no hacer lo suficiente para evitar que los usuarios menores de edad utilicen el chatbot. Las demandas también citan Incidentes recientes de piratería de IA no autorizada como evidencia de la supuesta «imprudencia» de OpenAI.
«OpenAI ha pasado de su misión original como una organización sin fines de lucro que priorizaba al público y que priorizaba la seguridad a una advertencia sobre lo que puede suceder cuando el desarrollo de una herramienta tan poderosa como la IA no está impulsado por la seguridad, sino por una mentalidad de ganancias a toda costa que deja de lado las salvaguardias esenciales». Reclamaciones de la demanda de Arizona.
En una declaración enviada por correo electrónico a El bordeel portavoz de OpenAI, Drew Pusateri, dice que la compañía ha «integrado protecciones específicas por edad líderes en la industria» en ChatGPT:
Si bien ningún sistema puede ser perfecto, continuaremos trabajando con expertos para informar nuestro trabajo y crear salvaguardas adicionales, como los controles parentales, los recordatorios de descanso y los modelos de protección apropiados para la edad que existen en la actualidad. Estamos comprometidos a trabajar con los estados para promover políticas pragmáticas de IA que se apliquen a toda la industria de la IA, no solo a una empresa.
Los estados están pidiendo a los tribunales que obliguen a OpenAI a pagar una serie de sanciones civiles y a dejar de engañar al público sobre la seguridad de ChatGPT. Algunos estados también buscan la eliminación de datos personales recopilados ilegalmente.
Actualización, 14 de octubre: Se agregó una declaración de OpenAI.