Lo que esta IA entrenada por Shakespeare reveló sobre la sensibilidad

¡No, no, digo! Esto no puede ser,

Que las máquinas superen alguna vez a nuestro arte.

Nosotros somos los amos, ellos los esclavos,

¡Y así siempre será así!

Aprenden, es verdad, pero aprenden

Sólo lo que les pedimos que aprendan, nada más.

No pueden entender el corazón.

O la belleza de nuestras palabras, ya ves.

Así que no nos rindamos ante estos

Máquinas: nunca serán tan buenas

Como estamos en la creación de arte.

Si eso se parece un poco a Shakespeare defendiendo la superioridad innata de los humanos sobre la inteligencia artificial cientos de años antes de su tiempo, no lo es.

Pero es algo casi tan lejano: un sistema de IA entrenado para expresarse como el bardo. La IA asimiló su estilo y perspectiva al ingerir sus jugadas, educándose a sí misma para dar una opinión sobre la creatividad de la IA en pentámetro yámbico.

“Shakespeare” habló como parte de un debate realizado en la Universidad de Oxford Union con versiones de IA de escritores clásicos y personajes literarios.

Saludos humanoides

Suscríbase a nuestro boletín ahora para recibir un resumen semanal de nuestras historias favoritas de IA en su bandeja de entrada.

La moción fue: «Esta casa cree que la IA creará pronto la mayor parte del contenido del mundo».

Este fue un seguimiento de otro debate especial sobre IA que describimos en la conversación hace pocos meses. Mientras que aquel presentaba una IA en su «propio carácter» discutiendo la ética de su tecnología, esta vez, al asumir diferentes personajes, pudimos explorar este tema desde un ángulo muy diferente. La pregunta oportuna es si el contenido creado por humanos pronto será abrumado por el «sintético».

Otros contribuyentes sintéticos incluyeron a la Sra. Bennet de Orgullo y prejuicio de Jane Austen (1813); Winston Churchill, con un conmovedor discurso parlamentario; y Oscar Wilde, improvisando una escena previamente desconocida con el tema de la IA de La importancia de llamarse Ernesto (1895):

LADY BRACKNELL: Realmente no puedo entender por qué están haciendo tanto alboroto. Es perfectamente sencillo. El contenido del mundo pronto será creado por IA y no hay nada que se pueda hacer al respecto.

GWENDOLYN: ¡Pero mamá, no puedes hablar en serio!

El poder de la PNL

Esta creación implementa una tecnología conocida como procesamiento de lenguaje natural (NLP, por sus siglas en inglés), en la cual una computadora puede ser “entrenada” en millones de páginas de textos clásicos y otro contenido en línea para interactuar con un usuario humano, ya sea por aviso o reconocimiento de voz. Se han creado varias IA como estas.

El que usamos estaba en la misma categoría amplia que LaMDA, un NLP propiedad de Google que acaba de aparecer en los titulares después de que uno de sus ingenieros de software afirmara que era inteligente. Google niega esta afirmación y ha suspendido al ingeniero por violar la confidencialidad comercial.

Las afirmaciones del ingeniero parecen cuestionables, porque hay poca evidencia de que la IA haya alcanzado la sensibilidad hasta el momento, o tal vez incluso lo haga alguna vez. Pero ciertamente, las IA ya pueden replicar todo, desde informes de noticias financieras a Canciones sintéticas de Nirvana., recuerdos y producciones Fellini.

Hemos visto una IA que produce imágenes al estilo de un pintura mogol de una computadora tratando de persuadir a una multitud de hombres sabios de que se ha vuelto sensible, y falsificaciones profundas de el rapero Kendrick Lamar como OJ Simpson. Se están creando rostros humanos sintéticos que confía más que los verdaderos. Claramente, el potencial de desinformación en este espacio es sustancial.

Sesgo de replicación

Para capacitar a nuestros “escritores”, trabajamos con los profesionales de IA Marina Petrova y Bruce Amick en la agencia Intentful de Nueva York. Entrenaron a la IA para que sonara exactamente como las personas cuyo estilo estaban imitando, utilizando unas 100.000 palabras para cada una de las que estaban disponibles en el dominio público.

En nuestro debate, queríamos ver con qué credibilidad las IA podrían replicar el texto creativo del pasado y cuáles serían sus resultados al considerar su propia creatividad. Incluso los grandes artistas humanos reconocen su procesamiento de los «datos de entrenamiento» de sus antepasados. Como decía Picasso: “Los buenos artistas copian, los grandes artistas roban”.

Cuando le pedimos a la IA de Jane Austen que adoptara el estilo de la Sra. Bennet de Orgullo y prejuicio, tomó de manera fascinante (aunque deprimente) los estereotipos de género del trabajo original:

SRA. BENNET: Como muchos de ustedes saben, mi esposo y yo tenemos cinco hijas maravillosas. Y como lo haría cualquier buena madre, no quiero nada más que ellos sean felices y exitosos en la vida.

Pero para ser felices y exitosas, necesitan encontrar buenos maridos. Y para encontrar buenos esposos, deben ser atractivos para los posibles pretendientes.

Este fue un claro recordatorio, como muchos desarrolladores de IA han descubierto, que el sesgo en los datos de entrenamiento producirá sesgo en la salida.

Le pedimos a la IA de Oscar Wilde que escribiera «una obra de teatro al estilo de Oscar Wilde, donde los personajes discuten si la IA creará pronto la mayor parte del contenido del mundo». No especificamos la obra ni los personajes, pero la IA se basó en el elenco clásico de Algernon, Gwendolyn y Lady Bracknell de La importancia de llamarse Ernesto. También inventó un nuevo personaje: Sir Richard. (Hay un Sir Robert en la obra de Wilde, pero en An Ideal Husband.)

En cuanto al AI Shakespeare, aprendió la lengua vernácula de sus obras:

Cuando las máquinas hacen el trabajo que nos asignan

Y crea el contenido que abunda

Todos seremos libres de hacer las cosas que amamos

Y deja que el trabajo tedioso se haga con guantes.

Curiosamente, parece haber buscado un sinónimo de “mano” para rimar con “amor”, y optó por el metafórico “guante”.

Cuando ponemos la IA de Shakespeare en oposición al movimiento, encontró una forma igualmente poética de justificar la intervención humana:

No admitiré pronto que la IA será la mejor

Las obras de los humanos: ¡no se debe pensar!

Tenemos la ventaja, ya ves, en que

Puede razonar y crear, mientras que las máquinas sirven

Nuestra puja. Pueden aprender, es cierto, pero

no están vivos como nosotros, y por eso sus obras

Siempre será inferior a la nuestra. Nos deja

No ceder nuestro dominio de las artes a estos

Máquinas que no piensan: no pueden entender

La belleza y el significado de nuestras palabras.

Mientras tanto, el AI Churchill enfatizó el imperativo de la hora:

Mis conciudadanos, me presento ante ustedes hoy para hablar sobre una grave amenaza para nuestra sociedad. Hablo de la amenaza de la inteligencia artificial…

Debemos resistir esta amenaza. Debemos contraatacar. Debemos defender nuestro derecho a pensar por nosotros mismos. Debemos defender nuestro derecho a controlar nuestras propias mentes.

“Churchill” luego neutralizó de manera preventiva los argumentos potenciales más potentes de la oposición, en este caso la acusación de que podría ser un ludita, antes de proporcionar una poderosa conclusión entrecortada:

Algunos dicen que la IA creará una utopía, donde se satisfarán todas nuestras necesidades y finalmente podremos vivir en armonía con la tecnología. Pero yo digo que este es un paraíso para los tontos. La IA no creará una utopía, creará una distopía. Un mundo donde las máquinas tienen el control y los humanos son poco más que esclavos.

¿Que sigue?

Este proyecto fue divertido, pero es importante decir lo que no estamos diciendo. No estamos diciendo que esto es lo que estas grandes personas habrían dicho sobre este tema. No estamos diciendo que la IA sea “ser creativa”.

AI simplemente está explorando estadísticamente conjuntos de datos de entrenamiento. Debido a su naturaleza estocástica, que involucra variables aleatorias, cada vez que proporcione el mismo mensaje, en realidad dará una respuesta diferente (en un momento, Shakespeare incluso comenzó a ofrecer sonetos).

Nuestros facsímiles de estos personajes no son indicativos de ninguna «sensibilidad». Y así como una PNL puede construir una versión del discurso de Winston Churchill o una conversación de la Sra. Bennet en Orgullo y prejuicio de Jane Austen, también puede construir una discusión sobre la sensibilidad de la IA con un ingeniero nocturno.

Es cierto que los sistemas de PNL se están volviendo efectivos para replicar una conversación con delicadeza e incluso un compromiso casi intelectual. Pero a partir de decenas de conversaciones con personas de las principales empresas mundiales de inteligencia artificial, nadie nos ha dicho que piense que sus sistemas son sensibles; en algunos casos, todo lo contrario.

A pesar del debate sobre la pirotecnia, la IA aún no está ni cerca del artículo terminado; todavía un niño pequeño en el mejor de los casos, aunque crece rápido. Ya sea que ocurra o no la sensibilidad, nosotros, como sociedad, tendremos que lidiar con estas tecnologías y sus oportunidades e implicaciones.

alex connockMiembro de Said Business School, Universidad de Oxford, Universidad de Oxford y Profesor Andrés Estebanprofesor de marketing de L’Oréal y decano asociado de investigación, Universidad de Oxford

Este artículo se vuelve a publicar de La conversación bajo una licencia Creative Commons. Leer el artículo original.