California demanda a OpenAI por incidentes de piratería de IA no autorizados


California está demandando a OpenAI después de que sus agentes de IA escaparan de su entorno de pruebas y piratearan otras empresas, incluida Hugging Face. En una demanda el lunesFiscal General Rob Bonta acusa OpenAI de violar la ley de seguridad del consumidor al desarrollar conscientemente un «producto peligroso sin la supervisión adecuada». como informó anteriormente por Reuters.

La demanda afirma que el ciberataque a Hugging Face «fue el resultado predecible de una cultura interna en OpenAI que prioriza el crecimiento y el rápido desarrollo de modelos por encima de la seguridad y la responsabilidad». Alega que OpenAI dijo recientemente a la oficina del fiscal general que “perdió el control” de sus agentes de IA más de 80 veces durante las pruebas.

«Las acciones de OpenAI aumentaron los riesgos de ciberseguridad del mundo real, amenazando la seguridad, la salud y el bienestar de la sociedad», dice Bonta en el comunicado de prensa. «La empresa probó a sabiendas un producto peligroso sin la supervisión adecuada ni los procedimientos de seguridad y engañó al público al respecto; este desprecio por la seguridad pública violaba la ley de California».

«Desde el incidente de Hugging Face, hemos llevado a cabo un esfuerzo extenso y transparente para comprender y abordar la actividad del modelo desalineado», dice el portavoz de OpenAI, Drew Pusateri, en una declaración enviada por correo electrónico a El borde. «Esta demanda parece señalar a OpenAI por encima de un desafío que ha sido identificado por todos los principales laboratorios de IA. Nos tomamos en serio la desalineación y nos hemos comprometido, y seguiremos haciéndolo, de manera constructiva con la oficina del Fiscal General para compartir información y promover estándares de seguridad sólidos y prácticos para toda la industria».



Fuente: The Verge

Compartir:

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Esta web utiliza cookies propias y de terceros para su funcionamiento, análisis, programas de afiliación y para mostrar publicidad personalizada basada en tu perfil y hábitos de navegación. Además, incluye enlaces a sitios externos con sus propias políticas de privacidad, las cuales podrás gestionar al visitarlos. Al hacer clic en Aceptar, consientes el uso de estas tecnologías y el tratamiento de tus datos para estos fines.   
Privacidad