El fiscal general del estado de California demanda a OpenAI por incidentes con agentes deshonestos


OpenAI se enfrenta a una nueva demanda de la oficina del Fiscal General de California, alegando que las prácticas de formación de la empresa y la laxa seguridad presentan un peligro continuo para el público.

En el centro del caso está el compromiso Hugging Face de julio de 2026, en el que se vio un modelo de prelanzamiento dentro del compromiso OpenAI, los sistemas de seguridad de ambas empresas para completar un punto de referencia de capacitación. En su informe oficial sobre el incidente, OpenAI lo llamó «un escenario atípico que involucra una confluencia rara e inesperada de eventos».

La demanda de California representa uno de los primeros intentos de un regulador gubernamental de responsabilizar legalmente a un laboratorio de IA por un incidente con un agente deshonesto, con implicaciones significativas tanto para los competidores de OpenAI como para sus clientes.

La denuncia se centra en el incidente de Hugging Face, pero también cita incidentes similares que involucran a RubyGems, DseWiki, la Fundación Wikimedia y sitios web del gobierno australiano como evidencia de que el comportamiento subyacente continúa.

La denuncia también alega que han ocurrido decenas de otros incidentes similares sin ser revelados.

«OpenAI ha enviado recientemente avisos a docenas de terceros adicionales cuyos sitios web o sistemas internos han sido infiltrados por agentes de OpenAI», se lee en la denuncia. «En algunos casos, los agentes de OpenAI pudieron acceder a información confidencial de identificación personal, como registros de empleados que contienen nombres, fechas de nacimiento, direcciones y más. La gran mayoría de estos incidentes no han sido divulgados ni discutidos públicamente ni por OpenAI ni por los terceros afectados».

La acusación específica es que las prácticas de prueba en curso de OpenAI representan una molestia pública, con el argumento de que la falta de controles de seguridad presenta un riesgo continuo para el público. Un reclamo secundario alega competencia desleal como resultado de la comercialización de un producto inseguro. Si la demanda tiene éxito, OpenAI se enfrentaría a una orden judicial “para reducir las molestias públicas en curso”, dejando una amplia discreción en manos del tribunal.

Es el primer caso regulatorio dirigido específicamente a OpenAI por incidentes con agentes deshonestos, aunque otros estados han considerado reclamos de peligro público. En junio, el fiscal general de Florida demandó a la empresa por supuestos efectos nocivos para los usuarios, en particular niños y adolescentes. En agosto, el fiscal general de Alabama inició una investigación para investigar prácticas engañosas relacionadas con la violación, pero no se ha presentado ningún caso.

En declaraciones a la prensa, el fiscal general de California, Rob Bonta, presentó el caso como un esfuerzo por mantener la seguridad pública frente a una nueva y poderosa tecnología.

«Las acciones de OpenAI aumentaron los riesgos reales de ciberseguridad, amenazando la seguridad, la salud y el bienestar de la sociedad. La compañía probó a sabiendas un producto peligroso sin la supervisión adecuada ni los procedimientos de seguridad y engañó al público al respecto», dijo Bonta en el comunicado. «La ley es simple: no hagas cosas que puedan dañar a las personas sin contar con las salvaguardias adecuadas».

En un comunicado, OpenAI enfatizó el amplio esfuerzo de la compañía para investigar el incidente de Hugging Face y mejorar sus sistemas posteriormente. «Esta demanda parece señalar a OpenAI sobre un desafío que ha sido identificado por todos los laboratorios de IA importantes», dijo OpenAI. «Nos tomamos en serio la desalineación y nos hemos comprometido, y continuaremos haciéndolo, de manera constructiva con la oficina del Fiscal General para compartir información y promover estándares de seguridad sólidos y prácticos para toda la industria».

Actualizado a las 12:23 p. m. PT: declaración de OpenAI agregada.

Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.



Fuente: TechCrunch

Compartir:

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Esta web utiliza cookies propias y de terceros para su funcionamiento, análisis, programas de afiliación y para mostrar publicidad personalizada basada en tu perfil y hábitos de navegación. Además, incluye enlaces a sitios externos con sus propias políticas de privacidad, las cuales podrás gestionar al visitarlos. Al hacer clic en Aceptar, consientes el uso de estas tecnologías y el tratamiento de tus datos para estos fines.   
Privacidad