Como el presidente Donald Trump se prepara para reunirse con directores ejecutivos de tecnología e inteligencia artificial En Washington, el representante Ro Khanna (D-CA) pide un tratado entre Estados Unidos y China para evitar que la IA cause estragos en el mundo. Pero lograr que los líderes de ambos países tomen medidas podría ser una posibilidad remota.
En cartas compartidas exclusivamente con El bordeKhanna, el principal demócrata en el Comité Selecto de la Cámara de Representantes sobre China y posible contendiente presidencial, preguntó a una agencia de inteligencia estadounidense y a compañías chinas de inteligencia artificial si estarían preparadas para un incidente como el hackeo de Hugging Face por parte de agentes de OpenAI este verano. Las empresas incluían DeepSeek, Alibaba y Moonshot AI, todas las cuales persiguen inteligencia artificial de alto nivel.
Los intereses estadounidenses y chinos “no podrían ser más diferentes en muchos temas”, escribe Khanna en la carta al director de Inteligencia Nacional, Jay Clayton, “pero en esta discreta preocupación, no beneficia a ninguno de los dos países que la humanidad pierda el control de nuestro destino”.
“[I]No beneficia a ningún país que la humanidad pierda el control de nuestro destino”
Khanna solicita a la Oficina del Director de Inteligencia Nacional (ODNI) que evalúe la eficacia con la que Estados Unidos podría responder si un laboratorio de inteligencia artificial pierde el control de sus robots, un escenario que se ha vuelto cada vez más común en los últimos meses. Además, pidió a la agencia que evaluara el enfoque del gobierno chino para evaluar los riesgos catastróficos de la IA. La información, dice, ayudará al Congreso y, eventualmente, a la Casa Blanca a elaborar un acuerdo con sus homólogos chinos.
Las cartas a DeepSeek, Alibaba y Moonshot AI solicitan documentación sobre sus esfuerzos para lograr la “superinteligencia” y la superación personal recursiva (RSI), un hito en el que los sistemas de IA pueden mejorar por sí mismos. Pregunta sobre cualquier esfuerzo para implementar salvaguardias y “interruptores de apagado” para la tecnología, así como si las empresas se comprometerían a realizar inspecciones por parte de una agencia no gubernamental si se firmara un tratado. Las empresas y ODNI no respondieron de inmediato a las solicitudes de comentarios de El borde.
La medida de Khanna se produce tras una reunión entre el presidente chino Xi Jinping y el presidente estadounidense Donald Trump en la Casa Blanca la semana pasada. Ambos hombres, dice, no reconocen el riesgo y la urgencia en torno a la IA. «Creo que fue constructivo que Trump y Xi Jinping al menos acordaran hablar sobre la IA y mantener un diálogo continuo al respecto, pero no es ni de cerca lo adecuado», dijo Khanna. El borde en una entrevista el lunes.
También se muestra escéptico sobre una reunión prevista para el martes entre la Casa Blanca, el presidente de la Cámara de Representantes, Mike Johnson (R-LA), y varios ejecutivos tecnológicos estadounidenses. «Creo que es un esfuerzo por asegurarle al pueblo estadounidense que estas empresas tecnológicas van a ser responsables, y es un ejercicio de promoción de marca», dice Khanna. «¿Pero por qué deberíamos confiar en que las empresas que tienen un motivo para maximizar las ganancias establezcan las reglas sobre lo que es seguro? No es que sean malas personas, pero ¿confiarías en los ejecutivos farmacéuticos para determinar las reglas sobre qué medicamentos son seguros?»
“¿Por qué deberíamos confiar en que las empresas que tienen un motivo para maximizar las ganancias establezcan las reglas sobre lo que es seguro?”
Khanna en última instancia busca un tratado entre Estados Unidos y China que prohíbe la RSI y el seguimiento de los laboratorios fronterizos de IA, pero reconoce que es poco probable que eso suceda pronto. El senador Bernie Sanders (I-VT) ha También pidió un tratado sobre IA. entre los países, aunque republicanos como el presidente del Comité de China de la Cámara de Representantes, John Moolenaar (R-MI), han sido escépticosl el gobierno chino cumpliría su parte del trato. Mientras tanto, Khanna dice que le gustaría que un grupo de trabajo con expertos de ambos países sugiera recomendaciones de seguridad y métodos para garantizar el cumplimiento.
Pero Trump y sus aliados se han resistido a la mayoría de las regulaciones o acuerdos. La mañana de su reunión con Xi la semana pasada, Trump publicado en Verdad Social«La superinteligencia (SI) será un gran tema de discusión, pero quiero dejarla exactamente donde está. Esa es también la posición de China». Johnson dicho en Fox Business que esperaba que la conversación girara en torno a lograr “el equilibrio adecuado” de supervisión sin sofocar la innovación, advirtiendo contra perder la carrera de la IA contra China. Sin embargo, las principales empresas estadounidenses de IA tienen Pidió a Estados Unidos coordinarse con China. para frenar el ritmo de desarrollo
En la carta a las empresas chinas de IA, Khanna reconoce que es poco probable que respondan en su totalidad. Dijo que no respondieron a las solicitudes en una carta anterior pidiendo un compromiso para frenar el desarrollo de la IA junto con OpenAI y Anthropic. Khanna dice El borde su objetivo es “avergonzarlos” y “provocar un debate” entre las empresas chinas de IA sobre la seguridad. Si bien también critica a las empresas estadounidenses de inteligencia artificial, dice, «al menos están entablando conversaciones sobre seguridad».
Khanna sigue confiando en que Estados Unidos impulsará los estándares de seguridad de la IA, en parte porque cree que muchos modelos chinos son destilado de Modelos estadounidenses. Y aunque los líderes mundiales tal vez no reconozcan la amenaza, están «fuera de contacto con los científicos y tecnólogos de sus propios países», dice. «Necesitamos que los tecnólogos e ingenieros que entienden esto realmente impulsen el debate, no los directores ejecutivos que tienen un interés personal en obtener ganancias, ni los políticos que carecen de experiencia técnica y que están más preocupados por el poder».