El fundador y director ejecutivo de Anthropic, Dario Amodei, respondió el lunes por la tarde a los murmullos en la industria de que su compañía de alguna manera apoya los esfuerzos del gobierno de EE. UU. para prohibir los modelos chinos de peso abierto, o posiblemente los modelos de peso abierto en general.
“Cualquiera que haya leído mis escritos anteriores debe saber que no considero que tales prohibiciones sean una medida útil, pero permítanme decirlo claramente para que no quede ninguna duda: Anthropic nunca ha abogado por la prohibición de los modelos con pesos abiertos”, escribió, subrayando el suyo.
Su respuesta se produjo después de que el fundador y director ejecutivo de Nvidia, Jensen Huang, acudiera a X (su primera publicación en la plataforma) para compartir una carta abierta el viernes en la que Nvidia y una larga lista de otras empresas de inteligencia artificial, incluidas Hugging Face, Meta, Microsoft, Mistral y Nvidia, instaban a los formuladores de políticas a no imponer «restricciones prematuras» amplias a los modelos de inteligencia artificial de peso abierto.
Si bien esa carta no menciona específicamente a China, el debate en la industria se ha centrado en las acusaciones de que los laboratorios chinos de IA están aumentando su capacidad, a menudo robando propiedad intelectual de sus homólogos estadounidenses. Un método es la destilación, en la que una IA bombardea otro modelo con indicaciones para aprender cómo funciona.
Amodei dijo en la publicación del blog publicada el lunes que considera que los modelos de peso abierto caen en un grupo diferente al de la amenaza que representa China. «Los modelos de peso abierto que no tienen capacidades peligrosas son un bien público: no cuestan nada más que el cómputo necesario para ejecutarlos y brindan valor a las empresas, los desarrolladores y los investigadores».
Amodei dijo en su publicación que desde hace mucho tiempo tiene temores sobre la IA, pero que las empresas que utilizan modelos de peso abierto, incluso las de China, no se encuentran entre ellas.
Su temor es que los “gobiernos autoritarios” construyan modelos que sean más poderosos que los de Estados Unidos para lograr una “superioridad militar permanente” y/o utilicen la IA para reprimir a su propio pueblo. Dijo que el Partido Comunista Chino (PCC) no es el único gobierno autoritario que le preocupa, pero sí el “más capaz”.
Amodei también dijo que teme que la IA permita “ataques biológicos”, no sólo de ciberseguridad. Y, en su opinión, los modelos de peso abierto son más peligrosos en esos escenarios porque es difícil aplicarles barreras de seguridad o monitorear su uso. También señaló, citando un informe del Instituto de Seguridad de IA del Reino Unido, que una vez que se liberan los pesos abiertos, no se pueden retirar.
Esto va en contra de lo que argumentan los defensores del código abierto: que el acceso a poderosos modelos abiertos no controlados por una sola entidad ayuda a los defensores a protegerse.
Amodei enumeró acciones que cree que frustrarían a China, incluida la restricción de su acceso a chips potentes (que ha sido una política estadounidense de larga data) y el llamado a tomar medidas enérgicas formales contra la destilación. Estados Unidos ha amenazado con sanciones contra China si determina que hubo robo de propiedad intelectual que involucra a modelos estadounidenses.
Curiosamente, Amodei también dijo que apoya los crecientes esfuerzos, algunos liderados por Estados Unidos, para crear una organización modelo de pruebas de seguridad, especialmente si el mundo entero, incluida China, aceptaba someterse a ella.
«Creo que esta idea está realmente cerca de un consenso: me ha alentado que la administración Trump haya avanzado en esta dirección en los últimos meses», escribió Amodei. «Tenga en cuenta que, para ser eficaces, las pruebas tendrían que ser globales, lo que significa que incluso el PCC tendría que estar a bordo. Creo que esto puede ser realmente posible… puede ser posible una cooperación limitada en torno a la prevención de armas biológicas de IA porque también redunda en interés de China».
Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.