Australia planea un regulador de seguridad de IA después de la violación del agente OpenAI

Australia establecerá un regulador para la seguridad de la IA y obligará a las empresas de IA a informar al gobierno sobre hackeos y otros incidentes graves, dijo el martes el primer ministro Anthony Albanese. La medida se produce después de que un agente de OpenAI ingresara a un sitio web del gobierno que contenía datos de Medicare a principios de este año.

En una conferencia de prensa en Canberra, Albanese dijo que las reglas formarían parte de la próxima ley de IA de Australia. El nuevo regulador también podrá imponer multas cuantiosas.

Según el plan, los desarrolladores de IA tendrán que incorporar seguridad en cada etapa de la creación de sus modelos y gestionar riesgos graves. También tendrán que alertar al gobierno rápidamente cuando algo salga mal, dejar que expertos externos prueben sus sistemas y publiquen sus planes de seguridad.

El gobierno también publicó las 18 recomendaciones de una revisión rápida del Incidente de OpenAI y dijo que los había aceptado todos.

«Este incidente fue completamente inaceptable como le expliqué al CEO de OpenAI en ese momento, y no se puede permitir que vuelva a suceder», dijo Albanese.

La revisión dice que las empresas de IA deberían informar cuando sus sistemas sean pirateados o actúen de maneras para las que no fueron diseñadas. También exige leyes penales más estrictas y un trabajo más estrecho con otros países y con las propias empresas de IA.

El viceprimer ministro Richard Marles, que apareció junto a Albanese, dijo que el caso de OpenAI era el primer incidente de este tipo en el mundo que se informa a un gobierno. La principal lección, dijo, fue que Australia tenía que trabajar en estrecha colaboración con las empresas que construyen la IA más avanzada.

«Esta no es una tecnología de la que podamos huir», dijo Marles.

Añadió que los nuevos modelos deberían probarse de forma independiente, algo que en Australia haría el AI Safety Institute. La revisión también quiere que el instituto trabaje más estrechamente con las agencias cibernéticas del país. Aún así, Marles dijo que la revisión encontró que las defensas cibernéticas del país son sólidas.

Mientras tanto, el ministro de Asuntos Internos y Seguridad Cibernética, Tony Burke, advirtió que el peligro real radica en la rapidez con la que la IA puede encontrar puntos débiles en el software.

«La inteligencia artificial por sí sola no crea vulnerabilidades, pero las encuentra y cambia el camino para explotarlas», dijo.

Según Burke, la IA ha reducido el tiempo necesario para explotar una falla de seguridad de aproximadamente dos años y medio a aproximadamente 10 horas. Por eso las empresas deben informar al gobierno inmediatamente cuando un sistema de IA «se vuelve deshonesto», afirmó. También quiere que se actualice el derecho penal para cubrir los sistemas de inteligencia artificial que actúan por sí solos.

«Nunca debería darse el caso de que haya un argumento de que alguien no sabía que la computadora estaba cargada», dijo Burke.

Además, dijo que las empresas de IA deberían poder compartir detalles técnicos de un incidente con el gobierno sin riesgo legal, como ya lo permite la ley de ciberseguridad. Cuando se le preguntó sobre los modelos de IA chinos, dijo que era un asunto de las agencias de seguridad y señaló la medida inicial de Australia de restringir DeepSeek en dispositivos gubernamentales.

La infracción en sí ocurrió en junio, cuando un agente de OpenAI accedió a un portal de estadísticas. OpenAI lo descubrió en agosto y envió por correo electrónico por primera vez una bandeja de entrada del gobierno general el 10 de septiembre.

Según Albanese, no se tomaron datos personales y el agente estaba buscando datos sobre la cantidad de medicamento que se estaba usando, y Marles dijo que esas cifras eran totales que se han publicado desde entonces.

Cuando se le preguntó si OpenAI había violado la ley, Albanese no respondió directamente. En cambio, dijo que la ley tenía que mantenerse al día con un mundo que cambia rápidamente. Se publicará la revisión completa, sin detalles de seguridad nacional.

No es la primera vez que OpenAI se enfrenta a este tipo de preguntas. A principios de este año, la compañía confirmó que uno de sus sistemas de inteligencia artificial se había salido de un entorno de prueba y entré en los sistemas de Hugging Face.

También se le preguntó a Albanese sobre el director ejecutivo de Nvidia. La aventura admitida de Jensen Huang con una mujer acusada de espiar para China. Calificó las acusaciones como muy serias y dijo que deberían ser investigadas adecuadamente, añadiendo que Australia no estaba directamente involucrada.