El fundador y director ejecutivo de Nvidia, Jensen Huang, dejó muy clara su posición sobre los peligros que plantea la IA mientras hablaba en la conferencia Dreamforce de Salesforce el martes. Para él, la IA no es una nueva forma de “mente alienígena”, como la ha descrito al menos un investigador de seguridad de OpenAI. Es sólo hardware y software, afirma, construidos por humanos. Esto significa, en su opinión, que puede ser controlado por humanos y por las leyes existentes.
«La seguridad es un problema de ingeniería, no legal», afirmó. «Después de todo, estamos desarrollando software. Después de todo, estamos desarrollando sistemas informáticos. Es un sistema informático complicado, pero en última instancia es un sistema informático».
Por lo tanto, no hay necesidad de nuevas leyes o regulaciones que lo regulen, argumenta. De hecho, Huang ve poca necesidad de nuevas leyes. El libre mercado, sostiene, será suficiente para presionar a las empresas para que no lancen productos inseguros.
«Si no confiamos en la seguridad de los productos, como todas las empresas, como usted y yo, todas las empresas aquí, si construye un producto o servicio y no confía en su funcionalidad, capacidad o seguridad, entonces no lo publique. Y eso es algo muy obvio», dijo.
Continuó: «Hay que controlar el ritmo hasta estar seguro de que se está lanzando algo que el mercado apreciaría. Las fuerzas del mercado ya están ahí. No necesitamos nuevas leyes. No necesitamos nuevas regulaciones. Sólo necesitamos que las empresas decidan eso cuando [to] correr lo más rápido que puedan. Creo que la innovación, la velocidad y los productos seguros… es una elección falsa. Definitivamente podrías tener ambos al mismo tiempo. Así que corre lo más rápido que puedas. Pero si en algún momento siente que la empresa está fuera de control o que el producto no va a ser seguro, haga una pausa y asegúrese de hacerlo bien”.
En cierto modo, este es un pensamiento reconfortante. Si alguien en el mundo conoce la IA, es el fundador de Nvidia, quien ha estado construyendo los cerebros de hardware de la IA desde mucho antes de que existiera ChatGPT y ahora dirige una empresa que también fabrica modelos, agentes, arneses y sandboxes de código abierto.
Por otra parte, si somos cínicos, su punto de vista tampoco es sorprendente para alguien que ha tenido su pan tan bien cubierto por el auge de la IA. ¿Por qué querría que apareciera una regulación que añadiera una capa de obstáculos que podría ralentizar la búsqueda de Nvidia de vender cada vez más sistemas y software de IA? Como también dijo en la entrevista: «Soy más ambicioso que nunca. Como resultado de nuestra ambición, y con el aumento de la productividad del producto que obtenemos de la IA, el cielo es el límite para nosotros. El cielo es el límite para nuestra empresa. El cielo es el límite para cada industria, para cada país».
Desafortunadamente, incluso las empresas con las mejores intenciones envían productos defectuosos con consecuencias no deseadas, incluso software. ¿Recuerda el fiasco de la pantalla azul de la muerte de CrowdStrike de 2024 que dejó en tierra miles de vuelos y causó otros estragos en las empresas? Luego están las empresas acusadas de actuar deliberadamente con malas intenciones. Meta acaba de pagar 18 mil millones de dólares para resolver una demanda por los daños a los niños en las redes sociales.
Y la IA también ha causado daño, cualesquiera que sean las intenciones o las pruebas de seguridad involucradas, desde un modelo OpenAI que pirateó Hugging Face hasta demandas contra el laboratorio de IA por los suicidios de jóvenes que entablaron largas conversaciones con su chatbot.
La estrategia de “dejarlos en paz”, que permitiría a estas empresas lanzar productos como mejor les parezca, podría ser un enfoque imprudente para la seguridad de la IA en lo que respecta a la sociedad. Aunque Huang tiene razón en que es posible que las leyes de responsabilidad de productos existentes puedan cubrir la IA, si la IA de alguna manera no nos mata a todos antes de que lleguen a los tribunales suficientes casos para probar esa teoría.
No habló de la otra ruta, que parece estar cerca de tomar forma: la autorregulación de la industria. El enfoque de Huang ha sido más bien defender los modelos de peso abierto y el uso de ellos por parte de las empresas como contrapeso competitivo a los laboratorios de IA propietarios.
Pero en este momento, la industria tiene un breve período para instituir la autorregulación y alentar a los laboratorios de IA de todo el mundo, incluso los de China, a ver la conveniencia de participar. Como dijo el CEO de Microsoft, Satya Nadella, en la Cumbre All-In el lunes, «China también debería preocuparse profundamente por las mismas preocupaciones de seguridad si Estados Unidos se preocupa por ellos, ¿verdad? ¿Por qué debería ser diferente para ellos? No es que no vayan a tener el mismo problema de piratería informática. No es que no quieran asegurarse de que sus ciudadanos se beneficien de la IA, tal como nosotros quisiéramos que nuestros ciudadanos se beneficiaran de la IA».
Por ahora, sin embargo, si Huang rechaza cualquier nueva regulación de la IA, puede ser lo suficientemente influyente como para salirse con la suya. También demostró esta semana que, literalmente, tiene el oído del presidente Trump.
Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.