El enfoque centrado en el ser humano de IBM es el único plan que su startup de IA necesita

IBM se ha ido solo por sus iniciales durante tanto tiempo que muchos de nosotros tenemos que detenernos y pensar en lo que significan las letras. Máquinas de negocios internacionales.

Recordé el enfoque singular de la corporación la semana pasada durante la Conferencia TNW 2022 cuando Seth Dobrin, el primer director de IA de IBM, subió al escenario para hablar sobre inteligencia artificial.

Como dijo Dobrin, IBM «no hace IA de consumo». No descargará el asistente virtual de IBM para su teléfono inteligente en el corto plazo. Big Blue no entrará en el juego de filtro AI de la aplicación selfie.

Saludos humanoides

Suscríbase a nuestro boletín ahora para recibir un resumen semanal de nuestras historias favoritas de IA en su bandeja de entrada.

En pocas palabras, IBM está aquí para brindar valor a sus clientes y socios y para crear modelos de IA que hagan que la vida humana sea más fácil, mejor o ambas cosas.

Todo eso es bastante fácil de decir. Pero, ¿cómo una empresa que no está enfocada en crear productos y servicios para el consumidor individual realmente camina ese tipo de conversación?

Según Dobrin, no es difícil: preocúpese por cómo los humanos individuales se verán afectados por los modelos que monetiza:

Somos muy estrictos con el tipo de datos que ingerimos y con los que ganamos dinero.

Durante una discusión con Tim Bradshaw del Financial Times durante la conferencia, Dobrin usó el ejemplo de modelos de parámetros grandes como GPT-3 y DALL-E 2 como una forma de describir el enfoque de IBM.

Describió esos modelos como «juguetes», y por una buena razón: es divertido jugar con ellos, pero en última instancia no son muy útiles. Son propensos a la imprevisibilidad en forma de tonterías, discursos de odio y el potencial de generar información personal privada. Esto los hace peligrosos para implementar fuera de los laboratorios.

Sin embargo, Dobrin le dijo a Bradshaw y a la audiencia que IBM también estaba trabajando en un sistema similar. Se refirió a estos agentes como «modelos fundamentales», lo que significa que pueden usarse para múltiples aplicaciones una vez desarrollados y entrenados.

La diferencia de IBM, sin embargo, es que la empresa está adoptando un enfoque centrado en el ser humano para el desarrollo de sus modelos fundamentales.

Bajo el liderazgo de Dobrin, la empresa selecciona conjuntos de datos de una variedad de fuentes y luego les aplica términos y condiciones internos antes de su integración en modelos o sistemas.

Una cosa es que si GPT-3 escupe accidentalmente algo ofensivo, este tipo de cosas se esperan en los laboratorios. Pero es una situación completamente diferente cuando, como ejemplo hipotético, el modelo de lenguaje de producción de un banco comienza a generar información privada o sin sentido para los clientes.

Afortunadamente, IBM (una empresa que trabaja con corporaciones en un espectro de industrias que incluyen banca, transporte y energía) no cree en meter una base de datos gigante de datos no verificados en un modelo y esperar lo mejor.

Lo que nos lleva a lo que quizás sea lo más interesante de la conversación de Dobrin con Bradshaw: «prepárate para las regulaciones».

Como dice el viejo refrán: BS adentro, BS afuera. Si no tiene el control de los datos con los que está entrenando, la vida se pondrá difícil para su inicio de IA cuando llegue el momento de la regulación.

Y el Lejano Oeste de las adquisiciones de IA llegará a su fin pronto a medida que más y más organismos reguladores busquen proteger a los ciudadanos de las empresas depredadoras de IA y la extralimitación corporativa.

Si su startup de IA crea modelos que no cumplirán o no podrán cumplir a tiempo para su uso en la UE o los EE. UU. una vez que caigan las regulaciones, sus posibilidades de venderlos o ser adquiridos por una corporación que hace negocios a nivel internacional son escasas. ninguna.

No importa cómo lo corte, IBM es un caso atípico. Aparentemente, él y Dobrin disfrutan la idea de ofrecer soluciones listas para el cumplimiento que ayuden a proteger la privacidad de las personas.

Mientras que el resto de las grandes tecnológicas gasta miles de millones de dólares en la construcción de modelos que dañan el medioambiente y que no tienen otro propósito que aprobar puntos de referencia arbitrarios, IBM está más preocupada por los resultados que por la especulación.

Y eso es raro. No es así como la mayoría de la industria hace negocios.

IBM y Dobrin están tratando de redefinir cuál es la posición de la gran tecnología en el sector de la IA. Y resulta que, cuando su resultado final no se basa en los ingresos publicitarios, el número de suscriptores o las expectativas futuras, puede crear soluciones que sean tan eficaces como éticas.

Y eso deja a la gran mayoría de las personas en el mundo de las startups de IA con algunas preguntas que responder.

¿Tu startup está preparada para el futuro? ¿Está entrenando modelos de manera ética, considerando los resultados humanos y capaz de explicar los sesgos integrados en sus sistemas? ¿Se pueden hacer que sus modelos cumplan con GDPR, EU AI e Illinois BIPA?

Si el modo gratuito actual se extingue y los capitalistas de riesgo dejan de gastar dinero en modelos de predicción y otros productos basados ​​en vaporware o prestidigitación, ¿pueden sus modelos seguir proporcionando valor comercial?

Probablemente todavía quede un poco de dinero por ganar para las empresas y las nuevas empresas que saltan a bordo del tren exagerado, pero podría decirse que hay mucho más por hacer para aquellos cuyos productos realmente pueden resistir un invierno de IA.

Las tecnologías de IA centradas en el ser humano no son solo una buena idea porque mejoran la vida de los humanos, sino que también son las únicas aplicaciones de aprendizaje automático por las que vale la pena apostar a largo plazo.

Cuando el polvo se asiente, y todos estemos menos impresionados por la prestidigitación y los trucos de salón en los que las grandes tecnologías gastan miles de millones de dólares, IBM seguirá utilizando los recursos energéticos limitados de nuestro planeta para desarrollar soluciones con resultados humanos individuales en mente.

Esa es la definición misma de «sostenibilidad» y la razón por la que IBM está a punto de convertirse en el líder tecnológico de facto en la comunidad global de inteligencia artificial bajo el hasta ahora experto liderazgo de Dobrin.