Andrew Ng, que ayudó a iniciar Google Brain y Coursera, dijo a Bloomberg TV que las advertencias sobre la extinción humana a causa de la IA son mucho más ciencia ficción que ciencia, y que la industria las alimenta con fines publicitarios y para dar forma a la regulación. La Ley de IA de la UE ya enumera en el mismo considerando tanto los riesgos de ingeniería que quiere que se prioricen como los riesgos de pérdida de control que descarta.
Andrew Ng ha emitido advertencias sobre el riesgo existencial de la IA «Mucha más ciencia ficción que ciencia.“, en una entrevista con BloombergTV. Ayudó a iniciar Google Brain y Coursera, y trabajó con Dario Amodei y Sam Altman al principio de sus carreras.
Fue más allá de estar en desacuerdo.
Ng dijo que la industria avivó temores de catástrofe al principio del auge para ganar publicidad y dar forma a la regulación, y que lo mismo está sucediendo ahora. La ola a la que se refiere comenzó cuando un investigador antrópico dimitió el 8 de septiembreacusando a sus antiguos empleadores de jugar con la vida de las personas.
La acusación no es nueva.
Ng dijo en un foro del Senado de EE. UU. en diciembre de 2023 que las grandes empresas exageran el miedo para crear reglas que “levanta la escalera» contra los nuevos participantes. En la misma declaración, calificó las probabilidades de que la IA cause la extinción humana en aproximadamente una entre 10 millones en un siglo.
Tres años después, la redacción apenas ha cambiado.
Lo que ha cambiado es el volumen. La publicación de renuncia alcanzó 150 millones de visitas y, en cuestión de días, los trabajadores tecnológicos tenían cambió el formato en una broma interna, cambiando las líneas de extinción por otras absurdas.
Ng lo interpreta como una campaña. Nuestros propios informes encontraron imitación más que coordinación.
Europa resolvió el argumento mediante la ley antes de que estallara. La Ley de IA lista de riesgos sistémicos cubre la reducción de barreras a las armas químicas, biológicas, radiológicas y nucleares, la capacidad cibernética, la desinformación y los accidentes graves en sectores críticos.
También cubre la pérdida de control. El mismo considerando menciona cuestiones no intencionadas de control relacionadas con la alineación con la intención humana y modelos que hacen copias de sí mismos. Tanto los riesgos que Ng quiere que se prioricen como el que él llama ficción se encuentran en un solo párrafo de la ley europea.
Las obligaciones ya están vivas. La jefa de tecnología de la Comisión, Henna Virkkunen, dijo este mes que la ley de la UE exige que Anthropic y OpenAI evaluar el riesgo de perder el control de un modelo, y que éste no es el caso a nivel mundial.
Esa es la ingeniería práctica de Ng, hecha obligatoria.
Esos deberes sólo se aplican por encima de un umbral de cómputo, por lo que recaen en los desarrolladores más grandes y en nadie más. Ésa es la forma de la escalera que Ng describió en 2023, construida por un regulador en lugar de un laboratorio.