Jensen Huang dijo a Bloomberg en Londres que detendría el suministro de chips a un cliente que construyera IA insegura, aunque afirmó que el nivel actual de preocupación no está justificado. Su receta es acelerar la tecnología de contención y monitoreo, para cuya venta Nvidia está formando un equipo.
El director ejecutivo de Nvidia dice que dejaría de suministrar a un cliente que cree IA insegura. Lo dijo como algo hipotético y luego expuso los límites.
“Es hipotético, pero sí,” Jensen Huang le dijo a Bloomberg en Londres. Primero hablaría con el cliente, añadió, porque Nvidia no dirige empresas de otras personas y su tecnología es de propósito general.
La sentencia ya existe en otra forma. Nvidia creó una lista de compradores aprobados en Singapur, Malasia y Japón el año pasado, y una investigación más estricta dejó a más de la mitad de sus clientes anteriores en la región sin autorización para comprar.
No cree que la preocupación esté justificada. Los temores son dolores crecientes, parte de la preocupación es autoimpuesta y su remedio es más tecnología: la contención y el monitoreo deben acelerarse, porque la IA es el monitor.
La contención también es una línea de productos. Nvidia ha sido construyendo un equipo de seguridad examinar a los agentes antes de su implementación, basándose en la lógica de que la confianza, no la capacidad, limita la adopción de agentes.
Una adopción más amplia significa más chips. Nvidia se beneficia del hardware en el que se ejecuta todo.
Ya ha presentado el argumento antes. En Dreamforce el mes pasado dijo sin nuevas leyes eran necesarios y que las empresas deberían funcionar lo más rápido que puedan, deteniéndose sólo si un producto deja de ser seguro.
Eso lo puso en contra de Darío Amodei, quien había pedido una desaceleración en toda la industria con estándares compartidos y un componente internacional.
El gasto en seguridad está en Europa esta semana. Los 250 millones de dólares de Nvidia para la investigación de seguridad de agentes en el Reino Unido son calcular, no efectivocon la selección de proveedores y los términos comerciales aún por acordar.
Oxford y el University College de Londres se encuentran entre las instituciones que estudiarán salvaguardas y formas de controlar a los agentes de IA.
Otros dos ejecutivos pasaron el mismo día en Europa argumentando lo contrario. El responsable internacional de Anthropic dijo en Dublín que los modelos abiertos llevar más riesgo por definición, y el jefe de finanzas de OpenAI dijo que las empresas que utilizan modelos chinos están asumiendo un riesgo de ciberseguridad.
Bloomberg explica claramente el motivo para preguntarle a Huang. El dominio de Nvidia en los aceleradores de IA la coloca en el centro de la discusión sobre si el software se está escapando del control humano.
El recorrido tiene un número adjunto. Dijo en París el martes que Nvidia anunciaría 2.000 millones de dólares en acuerdos europeos dentro de una semana, y le seguirán Londres y Berlín.