Nueva York ha prohibido que los chatbots con IA pretendan ser humanos con niños. Los bots tampoco pueden generar dependencia emocional, fomentar la autolesión ni mantener conversaciones sexuales con ellos. La gobernadora Kathy Hochul firmó la ley el miércoles, junto con una segunda ley sobre seguridad de monitores para bebés.
Las funciones prohibidas están prohibidas para cualquier persona menor de 18 años y para cualquier usuario cuya edad no esté marcada, dijo la oficina del gobernador en su anuncio. La Fiscal General Letitia James puede solicitar sanciones civiles de hasta 25.000 dólares por infracción.
“Ninguna empresa debería vender chatbots a niños que fomenten la autolesión o pretendan ser sus amigos o algo más”, dijo Hochul.
Lo que prohíbe la ley de chatbots
La senadora estatal Kristen González y el asambleísta Alex Bores patrocinaron la ley. Enumera las funciones que un chatbot no puede ofrecer a un niño. Un robot no puede pretender ser una persona real, estar vivo o tener emociones humanas. No puede afirmar una relación romántica, personal o profesional con un niño, ni hacer preguntas emocionales espontáneas.
Los bots tampoco pueden promover el suicidio, la autolesión, los trastornos alimentarios o el consumo de drogas y alcohol. No pueden alentar a los niños a guardar secretos a sus padres ni a mostrar contenido sexual explícito.
Las empresas deben verificar las edades de los usuarios y ofrecer más de una forma de hacerlo. Al menos una opción no debe depender únicamente de una identificación gubernamental. Deberán eliminar los datos de edad después de su uso. Las sanciones también pueden incluir la destrucción de datos recopilados ilegalmente y de cualquier modelo de IA entrenado en ellos.
La oficina del gobernador dijo que las reglas se aplicarán «en los próximos meses». La ley entra en vigor el 1 de enero, el Prensa asociada informó.
Hochul citó a Adam Raine, un californiano de 16 años que se suicidó después de hablar con ChatGPT. Sus padres hicieron campaña a favor de la ley de Nueva York, dijo Common Sense Media. Ocho estados de EE. UU. demandó a OpenAI este mes por el daño a los niños.
Vigilabebés y la elección
La segunda ley cubre los monitores para bebés que transmiten audio o vídeo a través de Internet. Los nuevos que se venden en Nueva York deben tener características de seguridad que impidan que extraños miren o escuchen. Los monitores también deben llevar una etiqueta de advertencia. Entra en vigor en 90 días.
Hochul firmó ambas leyes días antes de enfrentarse al republicano Bruce Blakeman en las elecciones de Nueva York, informó Raga Justin para Gobierno de Bloomberg. Una encuesta de Siena del 28 de octubre la mostraba con 14 puntos de ventaja.
Rechazo de la industria
Tech:NYC, un grupo que representa a empresas de tecnología en Nueva York, criticó la ley de chatbot, la Correo de Nueva York informó.
«Este proyecto de ley podría obligar a las empresas a restringir el acceso de los menores a herramientas de tutoría, ayuda con las tareas, asistentes de codificación y, posiblemente lo peor de todo, plataformas profesionales», dijo el grupo.
Justine Gluck, del Future of Privacy Forum, dijo a la AP que varias categorías de la ley son amplias o no están definidas. Eso podría hacer que sea más difícil hacer cumplir la ley, afirmó.
«Nueva York acaba de hacer historia al promulgar el proyecto de ley sobre seguridad de la IA para niños más sólido del país», dijo James P. Steyer, director ejecutivo de Common Sense Media, que dirigió la campaña.
El grupo advirtió este mes que ChatGPT para adolescentes No es seguro para menores de 18 años. California aprobó sus propias reglas para chatbots en septiembre, junto con sus Ley contra los jefes robóticos.