La IA puede facilitar la vida de los directores ejecutivos de tecnología. ¿Qué pasa con todos los demás?

La directora ejecutiva de Dazzle AI, Marissa Mayer, se convirtió recientemente en la última directora ejecutiva de tecnología en enfrentar críticas por comentarios aparentemente fuera de contacto que ensalzan la utilidad de la inteligencia artificial.

En el caso de Mayer, eso implicó pedir ayuda a una herramienta de inteligencia artificial con una descripción de su hija asignada por la escuela. Para el director ejecutivo de OpenAI, Sam Altman, eso incluye sugerir que los padres creen podcasts personalizados para el viaje de sus hijos a la escuela y también declarar que no podría imaginar la crianza de los hijos sin ChatGPT. El director ejecutivo de Meta, Mark Zuckerberg, incluso ha sugerido que será cada vez más aceptable satisfacer sus necesidades sociales y románticas a través de la IA.

Todo esto llevó a Amanda Silberling de TechCrunch a preguntarse si los ejecutivos de IA simplemente están demasiado desconectados para crear productos para personas normales, una pregunta crucial con Anthropic lista para salir a bolsa justo cuando Wall Street comienza a perder su apetito por un gran gasto en IA.

En el último episodio del podcast Equity, Kirsten Korosec, Sean O’Kane y yo conversamos con Amanda sobre por qué los líderes de la industria a veces pueden parecer tan sordos. Kirsten se preguntó si esto es más un problema de marketing o un problema de producto.

La respuesta de Amanda: «Un poco de ambos». También argumentó que la industria tecnológica está impulsando cada vez más un futuro «en el que la interacción humana básica se optimice cada vez más a partir de lo que realmente ocurre», y agregó: «Y llámenme vieja escuela, pero creo que el hecho de que los humanos puedan hablar entre sí es probablemente algo positivo para la sociedad».

Continúe leyendo para obtener una vista previa de nuestra conversación, editada para mayor extensión y claridad.

Antonio Ha: Hay mucho escepticismo social acerca de la IA, este sentimiento de que las personas que dirigen estas empresas no se preocupan por nuestros mejores intereses, que están fuera de contacto. Y entonces uno simplemente pensaría: “Tal vez no hagas declaraciones como esa”, porque, por supuesto, la gente las verá con mucho escepticismo.

Creo [CEOs] están tratando de recorrer este delicado equilibrio. Por un lado, existe un tremendo incentivo financiero para que defiendan que usted debe utilizar esta tecnología en todos los aspectos de sus vidas. Pero cuando planteas ese caso, en realidad [doesn’t paint] una imagen muy atractiva. En algunos casos, es francamente distópico.

Kirsten Korosec: Anthony, si siguieran tu consejo, no tendríamos nada de qué hablar en este programa.

Pero diré esto: existe la idea de que ChatGPT y otras herramientas de inteligencia artificial te hacen la vida más fácil cuando se trata de relaciones personales. Y en muchos de estos casos, parece complicar demasiado lo que sería, por ejemplo, observar a su hijo. Eso puede ser difícil para algunas personas, las personas que crean estos productos, y no necesariamente se relaciona con todos los demás en el mundo. Puede parecer increíblemente desconectado cuando ves estas citas.

Para mí, siempre se trata de ¿con quién están hablando? ¿Hay personas por ahí que puedan identificarse? Quizás los haya.

Amanda Silberling: Otros casos de uso que hemos visto mencionar a la gente son, por ejemplo, la directora ejecutiva de Bumble, Whitney Wolf Heard, que hizo comentarios sobre: ​​»Bueno, ¿qué pasaría si tuviéramos conserjes de IA, su IA sale con la IA de la otra persona? Y luego, si las IA tienen una buena cita juntas, entonces presentan a las personas».

O en el artículo del New York Times, Marissa Mayer mencionó: «Bueno, ¿y si mi IA pudiera coordinarse con la IA de mi marido?» y cosas así. Y creo que parece que la gente está tratando de optimizar demasiado simplemente teniendo conversaciones con la gente.

Ya he visto que eso sucede en mi generación, donde me doy cuenta de que si pido comida para llevar, se siente extraño llamar a un lugar. Estoy tan acostumbrado a: «Bueno, obviamente puedes hacerlo en línea y no tienes que hablar con nadie. Y siento que habrá más de estas cosas, donde la interacción humana básica se optimizará cada vez más a partir de lo que realmente ocurre. Y llámame vieja escuela, pero creo que el hecho de que los humanos puedan hablar entre sí es probablemente algo positivo para la sociedad».

Sean O’Kane: Sí, pero ¿cuál es el retorno de la inversión, Amanda? ¿Cuántos ingresos puedes generar a partir de una conversación que alguien esté teniendo en Meatspace?

Amanda: Pero esa es la cuestión. Las citas son realmente ineficientes. Es una mierda tener que tener muchas citas con diferentes personas. Podrías perder una noche y decir: «Bueno, eso fue un fracaso». Y entonces puedes ver por qué la gente [wondering,] «¿Qué pasaría si no tuvieras que tener citas? ¿Qué pasaría si tu IA pudiera tener citas por ti?» Pero hay algo que no es humano ahí.

Y además, estás subcontratando la decisión de con quién vas a salir a una computadora en la que confías que te conoce mejor que tú mismo, lo cual no creo que sea cierto.

kirsten: Una cosa a la que creo que vale la pena volver, y que en cierto modo insinué al respecto antes: ¿con quién están hablando? ¿Quién es, en su opinión, su audiencia para todas estas optimizaciones? ¿Es un problema del producto o es un problema de mensajería? ¿Están simplemente hablando de ello de manera incorrecta y, de hecho, aquí hay un gran valor y simplemente parece fuera de contacto con la realidad y la humanidad, pero si simplemente hablaran de ello de otra manera, ¿sería mejor? ¿O es en realidad un problema del producto y, según usted, nos estamos enfocando en optimizar cosas incorrectas con herramientas de inteligencia artificial?

Amanda: Creo que es un poco de ambas cosas, pero creo que el problema de marketing surge cuando tienes a estas personas de alto nivel en estas empresas enormemente valiosas juntas en una sala, hablando sobre los puntos débiles de sus vidas, y [they focus on] hacer reservas para cenar, reservar vuelos. Todo el mundo hace esas cosas, pero no reservaré vuelos una vez por semana. No hago reservas para cenar todo el tiempo. Y cuando lo hago, esas no son cosas que considero un desafío particular en mi vida.

Quiero decir, obviamente la gente encuentra valor en cosas como ChatGPT y Claude, pero creo que el valor que la persona promedio encuentra no es necesariamente como reservar un vuelo para mí.

Antonio: Una de las cosas en las que también he estado pensando es que hay empresas como Uber que, cuando se lanzó por primera vez, estaban dirigidas a estos primeros usuarios de tecnología establecidos en San Francisco, y recuerdo haber tenido mucha confianza. [that] esto nunca se popularizará más ampliamente. Esto es sólo para una audiencia muy reducida de jóvenes millennials urbanos que tienen dinero de sobra para comprar automóviles, y funciona. [uniquely] bien en San Francisco.

En muchas cosas, la industria tecnológica ha tenido éxito apostando a que “la gente no nos ha alcanzado, pero somos la vanguardia y reflejamos cómo es el consumidor del futuro, cómo es la familia del futuro”.

Y en este caso, parece que esa apuesta aún no se ha confirmado, por diversas razones, en parte porque la sociedad en la que se promueve esta tecnología es muy diferente. La gente está empezando a decir: «No me encanta la influencia que esta tecnología está teniendo en mi vida. No me encanta que estén presentando esto como algo en lo que cada experiencia de mi vida debería optimizarse. Pero en realidad, quiero vivir mi propia vida. En realidad, quiero criar a mis propios hijos».

Amanda: Creo que no es una coincidencia que al mismo tiempo que vemos esta optimización excesiva entre la gente del sector tecnológico, también hay un movimiento de personas que están volviendo a querer usar teléfonos plegables, de los que he hablado antes en Equity, o personas que compran CD porque están cansados ​​de que un algoritmo les diga lo que quieren escuchar.

Y lo que está sucediendo es simplemente una tensión cultural interesante, en la que no hemos encontrado el equilibrio entre qué optimización realmente nos ayuda y qué optimización simplemente nos hace sentir que no somos tan humanos como queremos ser.