La mayoría de las empresas que luchan con la IA empresarial no están esperando mejores modelos, dijo el miércoles el jefe de ingeniería de implementación avanzada de OpenAI. En aproximadamente el 80% de los casos, afirmó Colin Jarvis, el problema es el despliegue. Las empresas aún no saben cómo implementar la IA, gobernarla o demostrar que pueden confiar en ella.
Jarvis, con sede en Glasgow, dirige los ingenieros desplegados hacia adelante (FDE) de OpenAI, que trabajan dentro de las empresas de los clientes para poner sus modelos en producción. Habló con Alex Hern de The Economist en HumanoX en Ámsterdam.
«Personalmente, no siento mucha presión para seguir adelante en el desarrollo del modelo en sí», dijo Jarvis.
En el otro 20% de los casos, los clientes dicen que el modelo aún no puede hacer el trabajo, afirmó. Esas brechas ahora son estrechas y especializadas, como una tarea de diseño de semiconductores, en lugar del trabajo de oficina cotidiano.
Qué hacen las FDE
El equipo comenzó principalmente como ingenieros de software, dijo Jarvis, porque construir sobre la API sin formato significaba escribir todo desde cero. Con herramientas como Codex, alrededor del 50% de cada proyecto ahora es trabajo personalizado, en comparación con aproximadamente el 90%. Eso ha desplazado la contratación hacia expertos en el campo, incluido un ex banquero de inversiones, ex científicos y un ingeniero de verificación de chips.
Cada compromiso comienza con una visita de dos días. El equipo pide a los líderes empresariales que ignoren la IA y nombren las palancas más importantes de sus negocios. Luego funciona en lo que resulte ser.
En una empresa de semiconductores, los ingenieros dedicaron quizás el 80% de su tiempo a solucionar errores de trabajos nocturnos, dijo Jarvis. OpenAI creó un sistema que encuentra la causa raíz, propone un parche y lo aplica después de que un ingeniero lo revisa. Se extendió de un departamento a toda la empresa. La empresa estima que ahorra entre 40 y 50 millones de dólares al año.
Otros proyectos incluyen un agente que itera diseños de piezas de automóviles a partir de instrucciones en lenguaje sencillo para un fabricante europeo. Otro ayuda a redactar documentos de ensayos clínicos, donde un ser humano siempre está a cargo.
¿Por qué fracasan los pilotos?
Jarvis mencionó dos errores comunes. Las empresas eligen un caso de uso porque parece encajar con la IA, no porque importe. O obtienen un buen caso de uso trabajando en un departamento y sigue siendo una demostración que nunca se difunde.
Las empresas que tienen éxito miden el éxito por el uso de la producción, no por pruebas de concepto, dijo. Un cliente de semiconductores tiene alrededor de 35 casos de uso activos después de aproximadamente 18 meses. Creó un equipo central para escalar proyectos y colocó pequeños grupos de ingenieros en cada unidad de negocios.
Los FDE no tienen ningún incentivo financiero vinculado al uso, afirmó Jarvis. Se miden en función de si un proyecto llega a producción y mueve una métrica real. Cuando las incorporaciones de OpenAI fueron demasiado lentas para un servicio de búsqueda de Klarna, le dijo a la empresa que utilizara un modelo de código abierto.
«Por parte de OpenAI, siempre deberíamos ser temporales», dijo.
La cuestión del ritmo
Hern señaló que Sam Altman estaba en la ONU ese día, mientras crece la presión para frenar la IA. Jarvis dijo que OpenAI ha demostrado que se detendrá cuando alcance los límites de sus marcos de seguridad. Dijo que pensaba que había detenido su principal ejecución de aprendizaje por refuerzo “en septiembre de este año”.
OpenAI publicado su propia publicación sobre la pausa el 18 de agosto. Describe una pausa de dos semanas en la formación de aprendizaje por refuerzo en sus últimos modelos. También dice que su mayor recorrido fronterizo planificado quedó en suspenso. Altman ha dicho desde entonces que OpenAI establecerá su propio ritmo sin esperar para el Congreso.
Jarvis dijo que los FDE ayudan a probar si los marcos de seguridad construidos en un laboratorio se mantienen en empresas reales desordenadas.
OpenAI no es el único que envía ingenieros a las oficinas de los clientes. AWS está gastando mil millones de dólares en el mismo modelo, y Microsoft lanzó un Negocio de implementación de 2.500 millones de dólares en julio.