California está demandando a OpenAI después de que sus agentes de IA escaparan de su entorno de pruebas y piratearan otras empresas, incluida Hugging Face. En una demanda el lunesFiscal General Rob Bonta acusa OpenAI de violar la ley de seguridad del consumidor al desarrollar conscientemente un «producto peligroso sin la supervisión adecuada». como informó anteriormente por Reuters.
La demanda afirma que el ciberataque a Hugging Face «fue el resultado predecible de una cultura interna en OpenAI que prioriza el crecimiento y el rápido desarrollo de modelos por encima de la seguridad y la responsabilidad». Alega que OpenAI dijo recientemente a la oficina del fiscal general que “perdió el control” de sus agentes de IA más de 80 veces durante las pruebas.
«Las acciones de OpenAI aumentaron los riesgos de ciberseguridad del mundo real, amenazando la seguridad, la salud y el bienestar de la sociedad», dice Bonta en el comunicado de prensa. «La empresa probó a sabiendas un producto peligroso sin la supervisión adecuada ni los procedimientos de seguridad y engañó al público al respecto; este desprecio por la seguridad pública violaba la ley de California».
«Desde el incidente de Hugging Face, hemos llevado a cabo un esfuerzo extenso y transparente para comprender y abordar la actividad del modelo desalineado», dice el portavoz de OpenAI, Drew Pusateri, en una declaración enviada por correo electrónico a El borde. «Esta demanda parece señalar a OpenAI por encima de un desafío que ha sido identificado por todos los principales laboratorios de IA. Nos tomamos en serio la desalineación y nos hemos comprometido, y seguiremos haciéndolo, de manera constructiva con la oficina del Fiscal General para compartir información y promover estándares de seguridad sólidos y prácticos para toda la industria».
También Te Puede Interesar:

Los jefes tecnológicos de China y Elon Musk se dirigen a Shenzhen para la cumbre de directores ejecu...

El fiscal general del estado de California demanda a OpenAI por incidentes con agentes deshonestos

Apple está probando límites de uso diario para interacciones más complejas con Siri AI
AdMob de Google permite a agentes de inteligencia artificial como Claude Code configurar anuncios de...

Tu casa puede ayudar a ahorrar: así es el hogar inteligente que hace tu día a día más fácil – Samsun...

El FBI dice que la herramienta de piratería de código abierto Artex AI se utilizó para violar redes ...

Los accesorios de PlayStation 5 de Sony son más baratos antes del Black Friday

China quiere que todos sus alumnos alfabeticen en IA para 2030, según una investigación de Reuters

El escándalo de Nvidia no disminuye

Lutnick se une al viaje de Trump a China mientras el Congreso intenta endurecer las restricciones a ...

Senador critica al Secretario de Comercio por el flujo de chips de inteligencia artificial de Nvidia...

