OpenAI se enfrenta a una nueva demanda de la oficina del Fiscal General de California, alegando que las prácticas de formación de la empresa y la laxa seguridad presentan un peligro continuo para el público.
En el centro del caso está el compromiso Hugging Face de julio de 2026, en el que se vio un modelo de prelanzamiento dentro del compromiso OpenAI, los sistemas de seguridad de ambas empresas para completar un punto de referencia de capacitación. En su informe oficial sobre el incidente, OpenAI lo llamó «un escenario atípico que involucra una confluencia rara e inesperada de eventos».
La demanda de California representa uno de los primeros intentos de un regulador gubernamental de responsabilizar legalmente a un laboratorio de IA por un incidente con un agente deshonesto, con implicaciones significativas tanto para los competidores de OpenAI como para sus clientes.
La denuncia se centra en el incidente de Hugging Face, pero también cita incidentes similares que involucran a RubyGems, DseWiki, la Fundación Wikimedia y sitios web del gobierno australiano como evidencia de que el comportamiento subyacente continúa.
La denuncia también alega que han ocurrido decenas de otros incidentes similares sin ser revelados.
«OpenAI ha enviado recientemente avisos a docenas de terceros adicionales cuyos sitios web o sistemas internos han sido infiltrados por agentes de OpenAI», se lee en la denuncia. «En algunos casos, los agentes de OpenAI pudieron acceder a información confidencial de identificación personal, como registros de empleados que contienen nombres, fechas de nacimiento, direcciones y más. La gran mayoría de estos incidentes no han sido divulgados ni discutidos públicamente ni por OpenAI ni por los terceros afectados».
La acusación específica es que las prácticas de prueba en curso de OpenAI representan una molestia pública, con el argumento de que la falta de controles de seguridad presenta un riesgo continuo para el público. Un reclamo secundario alega competencia desleal como resultado de la comercialización de un producto inseguro. Si la demanda tiene éxito, OpenAI se enfrentaría a una orden judicial “para reducir las molestias públicas en curso”, dejando una amplia discreción en manos del tribunal.
Es el primer caso regulatorio dirigido específicamente a OpenAI por incidentes con agentes deshonestos, aunque otros estados han considerado reclamos de peligro público. En junio, el fiscal general de Florida demandó a la empresa por supuestos efectos nocivos para los usuarios, en particular niños y adolescentes. En agosto, el fiscal general de Alabama inició una investigación para investigar prácticas engañosas relacionadas con la violación, pero no se ha presentado ningún caso.
En declaraciones a la prensa, el fiscal general de California, Rob Bonta, presentó el caso como un esfuerzo por mantener la seguridad pública frente a una nueva y poderosa tecnología.
«Las acciones de OpenAI aumentaron los riesgos reales de ciberseguridad, amenazando la seguridad, la salud y el bienestar de la sociedad. La compañía probó a sabiendas un producto peligroso sin la supervisión adecuada ni los procedimientos de seguridad y engañó al público al respecto», dijo Bonta en el comunicado. «La ley es simple: no hagas cosas que puedan dañar a las personas sin contar con las salvaguardias adecuadas».
En un comunicado, OpenAI enfatizó el amplio esfuerzo de la compañía para investigar el incidente de Hugging Face y mejorar sus sistemas posteriormente. «Esta demanda parece señalar a OpenAI sobre un desafío que ha sido identificado por todos los laboratorios de IA importantes», dijo OpenAI. «Nos tomamos en serio la desalineación y nos hemos comprometido, y continuaremos haciéndolo, de manera constructiva con la oficina del Fiscal General para compartir información y promover estándares de seguridad sólidos y prácticos para toda la industria».
Actualizado a las 12:23 p. m. PT: declaración de OpenAI agregada.
Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.
También Te Puede Interesar:
AdMob de Google permite a agentes de inteligencia artificial como Claude Code configurar anuncios de...

Tu casa puede ayudar a ahorrar: así es el hogar inteligente que hace tu día a día más fácil – Samsun...

El FBI dice que la herramienta de piratería de código abierto Artex AI se utilizó para violar redes ...

China quiere que todos sus alumnos alfabeticen en IA para 2030, según una investigación de Reuters

Mazama Energy tiene una solución para el mayor problema de perforación geotérmica

El escándalo de Nvidia no disminuye

Los robotaxis Zoox ahora están en la aplicación Uber en Las Vegas

Senador critica al Secretario de Comercio por el flujo de chips de inteligencia artificial de Nvidia...

La paradoja de la seguridad de la IA

Plural, patrocinador de Helsing, recauda 1.100 millones de dólares para financiar los próximos viaje...

Los productos tecnológicos que recomendamos con entusiasmo en estas fiestas

