Satya Nadella, de Microsoft, dice que cada empresa que utiliza IA está pagando dos veces por ella, una en efectivo y otra con los secretos que entrega para hacerla útil. Lo llama la paradoja de la información inversa. También dirige la empresa que ayudó a construir la trampa.
Satya Nadella tiene una advertencia para todos los que compren IA. Lo estás pagando dos veces. Y el segundo pago son las joyas de la corona.
en un ensayo largo sobre X que atrajo 10 millones de visitas, el jefe de Microsoft expuso una idea que llama la paradoja de la información inversa. Es agudo, un poco torpe y más que un poco incómodo viniendo de él.
Paga una vez en efectivo, otra vez en secretos
El nombre es una versión del economista Nobel Kenneth Arrow. La paradoja original de Arrow fue el problema del vendedor. Para vender información, a menudo hay que revelarla y, una vez que se revela, ¿por qué alguien pagaría?
Nadella le da la vuelta. En la era de la IA, sostiene, el riesgo recae en el comprador. Para que un modelo sea realmente útil, hay que alimentarlo con conocimientos exclusivos. Cuanto más quieras que funcione, más lo alimentarás.
Así, usted paga con dinero y luego con algo que vale más: el know-how que hace suya su empresa. «El vendedor aprende más y más sobre usted a medida que utiliza lo que compró», escribió, «mientras que usted aprende muy poco sobre lo que el vendedor aprende a cambio».
La fuga que no puedes ver
La parte inteligente es donde, según él, se escapa el conocimiento. No a través de alguna brecha obvia, sino a través de lo que él llama “agotamiento”: las indicaciones que escribes, las herramientas que usan tus agentes y, sobre todo, las correcciones que haces cuando el modelo falla en algo.
Cada solución enseña al modelo. «Es el tipo de conocimiento que un competidor nunca podría comprar», escribió Nadella, «y el tipo de conocimiento que se filtra casi imperceptiblemente: rastro por rastro, corrección por corrección, evaluación por evaluación».
Su veredicto es contundente. Si el aprendizaje solo fluye en una dirección, el dinero fluye con él, hacia quien posee la IA, no hacia quien posee el conocimiento.
La ironía está trabajando mucho.
Aquí está el truco. Éste es Microsoft hablando.
Redmond invirtió miles de millones en OpenAI y alojó ChatGPT en Azure. Es Copiloto El asistente está diseñado para acceder profundamente al correo electrónico, los archivos y el chat de una empresa. En 2024, aproximadamente la mitad de los jefes de datos en una encuesta habían detenido o frenado a Copilot exactamente por este miedo. como señaló el Registro.
Hay que reconocer que Nadella menciona el doble rasero de su propio bando. Los laboratorios de IA exigen derechos de uso legítimo para entrenar en la web pública y luego impiden que los clientes hagan lo mismo con los resultados del modelo. No se equivoca. También está vendiendo la solución.
La respuesta de Nadella y su discurso.
La solución, afirma, es un “límite de confianza” estricto en torno a los datos, las evaluaciones y la memoria de una empresa. Nada lo cruza, “ni siquiera el agotamiento de la inteligencia, sin consentimiento”. Toma prestada una frase de Alex Karp de Palantir sobre querer poseer los medios de producción.
Su lista de verificación incluye cinco puntos. Sea dueño de sus evaluaciones. Construya entornos de aprendizaje dentro del suyo propio límite del inquilino. Mantenga el capa de orquestación libre de cualquier modelo único. Luego deja que todo se combine. Microsoft, naturalmente, vende productos que hacen cada una de estas cosas.
Si eliminamos el tono, el punto central sigue siendo válido. Este es el mismo ejecutivo que Se volvió contra los gigantes de la IA que ayudó a construir.. Los laboratorios de vanguardia están amasando silenciosamente una fortuna gracias al conocimiento de otras empresas. Y las empresas que lo entregan lo hacen, por ahora, de forma gratuita.