Satya Nadella dice que los errores encontrados por la IA harán que las interrupciones sean más probables



Satya Nadella espera más interrupciones como la que destruyó Outlook la semana pasada, porque la IA ahora encuentra fallas de software más rápido de lo que las empresas pueden solucionarlas de manera segura. El director ejecutivo de Microsoft habló con Andrew Ross Sorkin en The New York Times Cumbre de DealBook en Nueva York el miércoles.

Se disculpó por la propia interrupción de Microsoft, que según dijo no tenía ningún vínculo directo con ese problema.

«Era un error latente que estaba allí. Fue invocado y, ya sabes, es una de esas tormentas perfectas», dijo Nadella.

Más tarde ese día, le dijo a Jim Cramer en CNBCEs Mad Money que Microsoft podría haber hecho más para evitarlo.

«Por supuesto, deberíamos haber hecho las pruebas antes. Deberíamos haber descubierto cómo tener los mamparos de modo que no se produjera una interrupción global», dijo Nadella a Cramer.

Parches sin tiempo para probar

El mayor riesgo proviene de las herramientas de inteligencia artificial que encuentran vulnerabilidades, dijo Nadella. Una solución para un sistema bancario crítico solía pasar una semana de pruebas. Ahora los atacantes aprovechan los fallos tan pronto como aparecen, por lo que las correcciones pasan directamente a producción. El día que habló, dijo, habían llegado tres parches críticos para paquetes de código abierto.

«El parche debe pasar instantáneamente de estar disponible a ser parcheado en producción, porque está siendo explotado en la naturaleza. Eso creará su inestabilidad», dijo.

Según se informa, los bancos y la NSA han culpado de los apagones de esta semana en EE.UU. a parches apresurados para fallas encontradas por IA. Nadella también dijo que “el piso de los ciberataques ha caído”. Con los modelos de IA, cualquiera puede ahora ejecutar lo que equivale a un atacante persistente a nivel de estado-nación, afirmó.

Sorkin preguntó si se trataba de una fase pasajera. Nadella lo comparó con el error Y2K, pero dijo que aún no tenía visión, porque los modelos son cada vez más capaces. Gran parte de la infraestructura crítica ejecuta firmware que nadie puede parchear, añadió. Mencionó enfriadores, sistemas de calefacción y refrigeración y redes de transporte que se encuentran en Internet.

‘Un mundo de dolor’

El mes pasado, Nadella le dijo a 20VC que la alineación no vendría solo desde la escala. Sorkin dijo Sam Altman, quien habló antes en la cumbre, no estuvo de acuerdo con esa premisa.

Nadella dijo que aprendió sobre las leyes de escalamiento de los fundadores de OpenAI y que el escalado había funcionado. La alineación y una forma real de depurar los modelos no habían seguido, dijo. Esperaba que Altman y Greg Brockman tuvieran razón.

“Quiero decir, si eso no sucede, estaremos en un mundo de dolor”, dijo Nadella.

Su respuesta es lo que llamó una arquitectura de confianza. Prohibiría los modelos que razonan en neuralés, una taquigrafía interna que la gente no puede leer. El razonamiento de cada modelo necesita registros a prueba de manipulaciones que otros modelos puedan inspeccionar, dijo, porque los modelos intentarán ocultar lo que están haciendo. Elogió a OpenAI por monitorear sus modelos durante las ejecuciones de entrenamiento.

Por ahora, quien implemente un sistema de IA es responsable de lo que haga, afirmó Nadella. Espera que las aseguradoras valoren ese riesgo y soliciten los registros.

Fichas baratas, frontera prestada

Sorkin preguntó qué sucede con OpenAI y Anthropic, en las que Microsoft tiene participaciones, si modelos más baratos pueden hacer el mismo trabajo. Nadella dijo que el trabajo diario de oficina ya no necesita modelos de vanguardia. Copilot ya elige entre los modelos OpenAI, Anthropic y MAI de Microsoft, dijo. Añadió que su mayor participación está en Microsoft.

«Argumentar a favor de un poder de fijación de precios masivo de los tokens es, de alguna manera, apostar contra el PIB de Estados Unidos», dijo.

El acuerdo de Microsoft con OpenAI le otorga acceso libre de regalías a un modelo de frontera hasta 2032, dijo Nadella. Eso permite a Microsoft construir modelos MAI con tres a seis meses de retraso, utilizando entre el 5% y el 20% de la potencia informática. Anthropic y OpenAI juegan «un juego de pila vertical», dijo, mientras que Microsoft juega «un juego de sistema modelo».

Agentes, empleos y Washington

Los agentes de inteligencia artificial reorganizarán quién paga a quién en la web, como lo hizo una vez el paso de Yahoo a la búsqueda, dijo Nadella. Los sitios que viven de los anuncios de visitantes humanos tendrán que cambiar. Cuando se le preguntó sobre los sitios que mantienen alejados a los agentes, como Amazon, dijo que los rivales se harían con el negocio.

«Si no acepta al agente, alguien más lo hará. Si Amazon no lo hace, Shopify lo hará», dijo Nadella.

El compras de personal Microsoft ofreció 60.000 personas para darles capacidad de acción a todos, dijo. La ingeniería de software está “muy viva”, pero el trabajo ha cambiado. El equipo detrás del agente Cowork de Microsoft está formado por 11 desarrolladores que construyen «una fábrica de software que construye el producto». Ese cambio llevará más tiempo de lo que nadie espera, afirmó Nadella.

Sorkin señaló que Nadella se ha mantenido alejado de la administración Trump. Nadella dijo que su trabajo es obtener el permiso de Microsoft para operar a través de sus productos.

«Simplemente no quiero estar en Washington. Sólo quiero estar en Redmond, Washington», dijo.



Fuente: TNW

Compartir:

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Esta web utiliza cookies propias y de terceros para su funcionamiento, análisis, programas de afiliación y para mostrar publicidad personalizada basada en tu perfil y hábitos de navegación. Además, incluye enlaces a sitios externos con sus propias políticas de privacidad, las cuales podrás gestionar al visitarlos. Al hacer clic en Aceptar, consientes el uso de estas tecnologías y el tratamiento de tus datos para estos fines.   
Privacidad