
Satya Nadella espera más interrupciones como la que destruyó Outlook la semana pasada, porque la IA ahora encuentra fallas de software más rápido de lo que las empresas pueden solucionarlas de manera segura. El director ejecutivo de Microsoft habló con Andrew Ross Sorkin en The New York Times Cumbre de DealBook en Nueva York el miércoles.
Se disculpó por la propia interrupción de Microsoft, que según dijo no tenía ningún vínculo directo con ese problema.
«Era un error latente que estaba allí. Fue invocado y, ya sabes, es una de esas tormentas perfectas», dijo Nadella.
Más tarde ese día, le dijo a Jim Cramer en CNBCEs Mad Money que Microsoft podría haber hecho más para evitarlo.
«Por supuesto, deberíamos haber hecho las pruebas antes. Deberíamos haber descubierto cómo tener los mamparos de modo que no se produjera una interrupción global», dijo Nadella a Cramer.
Parches sin tiempo para probar
El mayor riesgo proviene de las herramientas de inteligencia artificial que encuentran vulnerabilidades, dijo Nadella. Una solución para un sistema bancario crítico solía pasar una semana de pruebas. Ahora los atacantes aprovechan los fallos tan pronto como aparecen, por lo que las correcciones pasan directamente a producción. El día que habló, dijo, habían llegado tres parches críticos para paquetes de código abierto.
«El parche debe pasar instantáneamente de estar disponible a ser parcheado en producción, porque está siendo explotado en la naturaleza. Eso creará su inestabilidad», dijo.
Según se informa, los bancos y la NSA han culpado de los apagones de esta semana en EE.UU. a parches apresurados para fallas encontradas por IA. Nadella también dijo que “el piso de los ciberataques ha caído”. Con los modelos de IA, cualquiera puede ahora ejecutar lo que equivale a un atacante persistente a nivel de estado-nación, afirmó.
Sorkin preguntó si se trataba de una fase pasajera. Nadella lo comparó con el error Y2K, pero dijo que aún no tenía visión, porque los modelos son cada vez más capaces. Gran parte de la infraestructura crítica ejecuta firmware que nadie puede parchear, añadió. Mencionó enfriadores, sistemas de calefacción y refrigeración y redes de transporte que se encuentran en Internet.
‘Un mundo de dolor’
El mes pasado, Nadella le dijo a 20VC que la alineación no vendría solo desde la escala. Sorkin dijo Sam Altman, quien habló antes en la cumbre, no estuvo de acuerdo con esa premisa.
Nadella dijo que aprendió sobre las leyes de escalamiento de los fundadores de OpenAI y que el escalado había funcionado. La alineación y una forma real de depurar los modelos no habían seguido, dijo. Esperaba que Altman y Greg Brockman tuvieran razón.
“Quiero decir, si eso no sucede, estaremos en un mundo de dolor”, dijo Nadella.
Su respuesta es lo que llamó una arquitectura de confianza. Prohibiría los modelos que razonan en neuralés, una taquigrafía interna que la gente no puede leer. El razonamiento de cada modelo necesita registros a prueba de manipulaciones que otros modelos puedan inspeccionar, dijo, porque los modelos intentarán ocultar lo que están haciendo. Elogió a OpenAI por monitorear sus modelos durante las ejecuciones de entrenamiento.
Por ahora, quien implemente un sistema de IA es responsable de lo que haga, afirmó Nadella. Espera que las aseguradoras valoren ese riesgo y soliciten los registros.
Fichas baratas, frontera prestada
Sorkin preguntó qué sucede con OpenAI y Anthropic, en las que Microsoft tiene participaciones, si modelos más baratos pueden hacer el mismo trabajo. Nadella dijo que el trabajo diario de oficina ya no necesita modelos de vanguardia. Copilot ya elige entre los modelos OpenAI, Anthropic y MAI de Microsoft, dijo. Añadió que su mayor participación está en Microsoft.
«Argumentar a favor de un poder de fijación de precios masivo de los tokens es, de alguna manera, apostar contra el PIB de Estados Unidos», dijo.
El acuerdo de Microsoft con OpenAI le otorga acceso libre de regalías a un modelo de frontera hasta 2032, dijo Nadella. Eso permite a Microsoft construir modelos MAI con tres a seis meses de retraso, utilizando entre el 5% y el 20% de la potencia informática. Anthropic y OpenAI juegan «un juego de pila vertical», dijo, mientras que Microsoft juega «un juego de sistema modelo».
Agentes, empleos y Washington
Los agentes de inteligencia artificial reorganizarán quién paga a quién en la web, como lo hizo una vez el paso de Yahoo a la búsqueda, dijo Nadella. Los sitios que viven de los anuncios de visitantes humanos tendrán que cambiar. Cuando se le preguntó sobre los sitios que mantienen alejados a los agentes, como Amazon, dijo que los rivales se harían con el negocio.
«Si no acepta al agente, alguien más lo hará. Si Amazon no lo hace, Shopify lo hará», dijo Nadella.
El compras de personal Microsoft ofreció 60.000 personas para darles capacidad de acción a todos, dijo. La ingeniería de software está “muy viva”, pero el trabajo ha cambiado. El equipo detrás del agente Cowork de Microsoft está formado por 11 desarrolladores que construyen «una fábrica de software que construye el producto». Ese cambio llevará más tiempo de lo que nadie espera, afirmó Nadella.
Sorkin señaló que Nadella se ha mantenido alejado de la administración Trump. Nadella dijo que su trabajo es obtener el permiso de Microsoft para operar a través de sus productos.
«Simplemente no quiero estar en Washington. Sólo quiero estar en Redmond, Washington», dijo.
También Te Puede Interesar:

Una historia de dos Nvidias

Amazon también se queja del Consejo de la Ciudad de Nueva York sobre las etiquetas de envío

Palmer Luckey dice que nadie en Occidente realmente quiere que Ucrania gane

La ONU no logra llegar a un acuerdo sobre las normas que regulen los 'robots asesinos'

FT y NYT vinculan la red de chips de Alice Huang con magnates del juego y proveedores de PLA

Según los informes, el FBI y el USDA fueron pirateados

Dan Hendrycks pide una pausa en la IA fronteriza, Max Hodak retrocede

El primer marco de fotos digital de Amazon tiene hasta un 50 por ciento de descuento para el Black F...

El cursor puede abandonar los modelos chinos de IA cuando Sarvam de la India comience a venderlos

El Xiaomi 18 Pro demuestra que dos pantallas no son mejores que una

El filósofo de DeepMind advierte contra la construcción de IA consciente, informa el Financial Times

