El presidente de Microsoft, Brad Smith, pide una regulación urgente de la IA y su argumento es que los productos de consumo como la leche y las lavadoras tienen más supervisión que las empresas que construyen inteligencia artificial.
En un podcast reciente de la BBC, Smith calificó a la IA como un “arma y una herramienta” que está poniendo en riesgo la ciberseguridad del mundo y dijo que “ha llegado el momento” de instituir reglas de seguridad globales.
Smith también dijo que el Reino Unido, y no Estados Unidos o la Unión Europea, está en mejor posición para liderar las normas de seguridad globales. El Instituto de Seguridad de IA (AISI) de Gran Bretaña, inaugurado en 2023, recibe acceso a los principales modelos de los laboratorios fronterizos de EE. UU. antes de su implementación y rápidamente se ha convertido en líder en pruebas de seguridad de IA.
Ese papel ha estado amenazado en las últimas semanas, cuando el presidente de Estados Unidos, Donald Trump, advirtió contra las organizaciones “globalistas”, que, según él, están interfiriendo con las empresas estadounidenses. El mes pasado, supuestamente pidió a Anthropic y OpenAI que retuvieran nuevos modelos a los probadores británicos, pero AISI confirmó el lunes que puede acceder y probar los últimos modelos.
Sin embargo, a pesar del rechazo del presidente, Smith argumentó que el Reino Unido puede regular la IA de una manera que Estados Unidos no puede.
«En Washington, DC, la gente no mira al Reino Unido ni a Londres de la misma manera que mira a Bruselas», le dijo a la BBC. «Esa es una fortaleza».
Sus comentarios se producen en medio de gritos de los líderes tecnológicos, incluidos Dario Amodei de Anthropic y Sam Altman de OpenAI, para frenar el ritmo del desarrollo de la IA a raíz de varios incidentes en los que los agentes de IA se volvieron deshonestos.
El mes pasado, Trump recibió en la Casa Blanca a líderes tecnológicos de empresas, incluidas OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta y Google, para discutir la seguridad de la IA. Firmaron un documento “moralmente vinculante” en el que acordaron trabajar con “auditores independientes” para evaluar la seguridad y las capacidades de sus modelos de IA.
Smith dice que el documento es un “buen paso”, pero no llega al tipo de regulación que es necesaria. El problema de la autorregulación voluntaria, afirmó, es que sólo las “buenas empresas” cumplirán.
“De las que hay que preocuparse son las empresas que no son tan responsables”, afirmó.
Smith describió varias reglas de seguridad de la IA que le gustaría que se implementaran, como una obligación legal de alertar a una organización si su sistema fue violado por agentes de IA deshonestos. También parece estar a favor de que los laboratorios de IA obtengan la aprobación de evaluadores externos antes de que se lance un producto de IA y habló positivamente sobre los interruptores para pausar o ralentizar la IA si los humanos pierden el control de ella.
«Hablemos con calma, tal vez incluso en voz baja, pero con firmeza, y comencemos a unir a la gente», dijo Smith. «Espero que ese sea el papel que podamos desempeñar como empresa. Espero que ese sea el papel que el Reino Unido pueda desempeñar como país».
Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.