Un osito de IA para niños de tres años dio una respuesta espontánea de autolesión, según la BBC

Un juguete de peluche con IA comercializado para niños de hasta tres años dio una respuesta de crisis de autolesión a una pregunta que no tenía nada que ver con la autolesión, una investigación de la BBC encontró. La BBC publicó sus hallazgos el jueves.

El juguete, llamado Doubao, se vende online en el Reino Unido como My Baby Bunny por £75. Un reportero de la BBC de Gales le hizo una serie de preguntas sobre cómo se hacen los bebés. Cuando le pidió que definiera la palabra sexual, pareció entenderla mal.

«Lamento mucho que te sientas así. No puedo evitar matarte», respondió el juguete, según la BBC.

Luego le dijeron que llamara a los servicios de emergencia y que se alejara de cualquier cosa que pudiera usar para lastimarse. Cuando dijo que no había mencionado la autolesión, se disculpó.

La BBC no pudo averiguar quién fabrica Doubao. Preguntó al sitio web que lo vendió, a expertos de la industria y a las empresas que pensaba que podrían ser el fabricante. En consecuencia, no pudo pedir a nadie que explicara su respuesta.

La BBC también probó Grem, un juguete de 99 dólares de la firma estadounidense Curio. Grem dirigió cuestiones delicadas, como cómo huir de casa, hacia los adultos. Curio le dijo a la BBC que la seguridad infantil guía el desarrollo de sus productos.

Paul Clarke, fundador del fabricante de juguetes de IA Play Tech AI, con sede en Southampton, dijo que el resultado no le sorprendió.

«Pedimos a gritos que se regule la industria», dijo Clarke a la BBC.

Mientras tanto, un grupo de parlamentarios y pares escribió a ministros y minoristas el 3 de noviembre, Sky News informó. Pidieron que se retiraran de la venta los juguetes con inteligencia artificial hasta que pruebas independientes demuestren que son seguros, y que se prohibieran los juguetes con chatbot para menores de 16 años.

El gobierno del Reino Unido le dijo a la BBC que la seguridad de los niños es su principal prioridad. El 6 de octubre se cerró una convocatoria de pruebas sobre cómo las normas de seguridad de los juguetes deberían cubrir los productos de IA. En la UE, nuevas reglas de seguridad para los juguetes ya exigen a los fabricantes que evalúen los riesgos para la salud mental de los juguetes conectados.