Masayoshi Son, que ha invertido 64.600 millones de dólares en OpenAI y califica de absurdo el discurso sobre burbujas, dijo en Kioto que la superinteligencia en las manos equivocadas podría volverse súper peligrosa y que los países deben cooperar para controlarla. Habló junto a Michael Kratsios, quien lanzó una declaración de 17 países escrita en el vocabulario renombrado por Washington y respaldada por Alemania, Italia, Polonia, Grecia, Bulgaria, Chipre y el Reino Unido.
Masayoshi Son dice que le preocupa la seguridad de la IA. Ha invertido 64.600 millones de dólares en OpenAI y pasó el año pasado calificando de absurdo el discurso sobre burbujas. Estaba hablando junto al asesor científico de Trump en Kioto.
La superinteligencia en manos equivocadas puede convertirse en “súper peligroso“, dijo Son el domingo, como Bloomberg informó. “Ya no podemos darnos el lujo de tener humanos luchando contra humanos.«Los países tienen que generar confianza para controlar la amenaza», afirmó.
Bloomberg calificó el comentario como inusual y lo comparó con las violaciones de seguridad cometidas por los modelos de IA en los últimos meses. Son ha estado invirtiendo dinero de SoftBank en OpenAI desde 2024 y argumentando durante la mayor parte de ese tiempo que la tecnología lo compensaría.
El gasto no se ha desacelerado.
SoftBank terminó de pagar un tramo de 30.000 millones de dólares este mes, tomando su total en OpenAI a 64.600 millones de dólares y aproximadamente el 13% de la empresa. Los últimos 10 mil millones de dólares surgieron de la mayor venta de bonos corporativos de alto rendimiento jamás registrada, recaudada hace quince días.
Michael Kratsios estaba en Kioto por otra cosa. Dirige la oficina científica de la Casa Blanca y llegó con un plan para orientar la tecnología a la investigación científica.
Diecisiete países respaldaron su Visión de Kioto para una Edad Dorada de la Ciencia, que imagina laboratorios robóticos ejecutando cientos de experimentos a la vez. La declaración llama a la tecnología superinteligencia en todo momento, cinco días después de la orden ejecutiva eso la convirtió en palabra del gobierno estadounidense.
Siete de los diecisiete son europeos.
Alemania, Italia, Polonia, Grecia, Bulgaria, Chipre y el Reino Unido lo respaldaron. Seis son estados miembros de la UE, sujetos a una ley llamada Ley de Inteligencia Artificial, cuyo reglas de etiquetado comenzó a aplicar en agosto.
China no se encuentra entre los patrocinadores. Argentina, Chile, Indonesia, Kazajstán y Nueva Zelanda lo son.
El pronóstico económico de Son no era nuevo. Dijo en julio que la IA sería una quinta parte de la producción mundial para 2040, una cifra que ahora cifra en 46 billones de dólares.
La declaración misma dice que los países se esfuerzan por actuar, cuatro veces más, y nunca dice que prometieron o se comprometieron con nada. El comunicado de la Casa Blanca que lo anuncia dice que los ministros prometieron y se comprometieron. Ninguno de los que respaldaron el texto se ha opuesto a la descripción más contundente.
Son dijo que la siguiente fase, la de las máquinas que actúan en el mundo físico, comenzará el próximo año. SoftBank lideró una Ronda de 200 millones de dólares en Gravis Robotics de Zurich en agosto y ha estado en conversaciones sobre Agile Robots de Munich.