TL;DR
Amodei dice que Anthropic nunca ha pedido que se prohíban los modelos de pesos abiertos. Apoya los controles de exportación de chips, la adopción de medidas enérgicas contra la destilación y las pruebas de seguridad obligatorias para todos los modelos suficientemente capaces, abiertos y cerrados.
Dario Amodei publicó la posición formal de Anthropic sobre modelos de peso abierto el domingo, rompiendo un silencio que había generado acusaciones de que la compañía quería prohibir la IA de peso abierto para proteger su negocio. “Anthropic nunca ha abogado por la prohibición de los modelos de peso abierto,«, escribió Amodei. «Los modelos de peso abierto que no tienen capacidades peligrosas son un bien público.La publicación se produjo después de que Jensen Huang de Nvidia y docenas de empresas de tecnología firmaran una carta abierta apoyando los pesos abiertos, y después de que funcionarios estadounidenses supuestamente consideraran prohibir los modelos chinos de pesos abiertos.
Amodei describió tres medidas que apoya en lugar de una prohibición. Primero, hacer cumplir los controles de exportación de chips y tomar medidas enérgicas contra el «contrabando desenfrenado» solía introducir chips avanzados en China, porque sin chips estadounidenses, las leyes de escalamiento impiden que China entrene modelos más potentes que los estadounidenses. En segundo lugar, detener las operaciones de destilación a escala industrial que permiten a los laboratorios chinos construir modelos capaces a un costo mucho más barato que entrenar desde cero. En tercer lugar, pruebas de seguridad obligatorias para todos los modelos suficientemente capaces, abiertas y cerradas, independientemente del país de origen, con los modelos menos capaces de las nuevas empresas y el mundo académico completamente exentos.
En la carta abierta respaldada por Nvidia, Amodei estuvo de acuerdo en que los pesos abiertos amplían el acceso y la competencia, pero no estuvo de acuerdo en que necesariamente ayudan más a los defensores que a los atacantes. Citó las armas biológicas como el ejemplo más claro: un modelo suficientemente capaz podría convertir rápidamente en arma un virus de nivel pandémico utilizando materiales ampliamente disponibles, mientras que la defensa contra tales agentes lleva años. TNW informó la semana pasada que el silencio de Anthropic sobre la carta de pesos abiertos se estaba volviendo notorio. como la empresa que sufrió el daño comercial más directo debido a la destilación. Esta publicación es la respuesta.
El punto de destilación es el de mayor carga comercial. Anthropic acusó al laboratorio Qwen de Alibaba de realizar la mayor campaña de destilación jamás realizada contra Claudeutilizando 25.000 cuentas falsas para 29 millones de intercambios. Amodei reconoció que tomar medidas enérgicas contra la destilación es “desafiante» porque las cuentas a menudo sólo pueden identificarse después de que se haya producido una destilación sustancial. Pidió una intervención política en lugar de depender de la aplicación de la ley por parte de una sola empresa. La posición está cuidadosamente construida: Anthropic no está en contra de las pesas abiertas, está en contra de las pesas abiertas que se construyen robando de sus modelos cerrados, entrenadas con chips de contrabando y liberadas sin pruebas de seguridad. Si esa distinción sobrevive al apetito de Washington por narrativas más simples es la pregunta política para la que se escribió la publicación.