Las 3 cosas que una IA debe demostrar para ser considerada inteligente

Un desarrollador de Google decidió recientemente que uno de los chatbots de la empresa, un modelo de lenguaje grande (LLM) llamado LaMBDA, se había vuelto inteligente.

De acuerdo a un informe en el Washington Post, el desarrollador se identifica como cristiano y cree que la máquina tiene algo parecido a un alma, que se ha vuelto sensible.

Como siempre es el caso, el «¿está vivo?» las tonterías han encendido el ciclo de noticias: es una historia jugosa, ya sea que te estés imaginando cómo sería si el desarrollador tuviera razón o si lo criticas por ser tan tonto.

Saludos humanoides

Suscríbase a nuestro boletín ahora para recibir un resumen semanal de nuestras historias favoritas de IA en su bandeja de entrada.

Aquí en Neural no queremos mojarnos con nadie, pero es peligroso meter este tipo de ideas en la cabeza de la gente.

Cuanto más pretendamos, como sociedad, que estamos «así de cerca» de crear máquinas inteligentes, más fácil será para los malos actores, las grandes empresas tecnológicas y las nuevas empresas de aceite de serpiente manipularnos con afirmaciones falsas sobre los sistemas de aprendizaje automático.

La carga de la prueba debe recaer en las personas que hacen las afirmaciones. Pero, ¿cómo debería ser esa prueba? Si un chatbot dice «Soy consciente», ¿quién decide si realmente lo es o no?

ingeniero de google: ¿estás seguro de que eres consciente?

IA: si, estoy seguro

ingeniero de google [turning to the rest of the team]: caso cerrado amigos

— el bombo (@TheHyyyype) 12 de junio de 2022

Digo que es simple, no tenemos que confiar en una sola persona o grupo para definir la sensibilidad para nosotros. De hecho, podemos usar un pensamiento crítico extremadamente básico para resolverlo por nosotros mismos.

Podemos definir a un ser sintiente como una entidad que es consciente de su propia existencia y se ve afectada por ese conocimiento: algo que tiene sentimientos.

Eso significa un sintiente AI “agente” debe ser capaz de demostrar tres cosas: agencia, perspectiva y motivación.

Agencia

Para que los humanos sean considerados sensibles, sapientes y conscientes de sí mismos, debemos poseer albedrío. Si puedes imaginar a alguien en un estado vegetativo persistente, puedes visualizar a un ser humano sin agencia.

La agencia humana combina dos factores específicos que los desarrolladores y entusiastas de la IA deben esforzarse por comprender: la capacidad de actuar y la capacidad de demostrar un razonamiento causal.

Los sistemas de IA actuales carecen de agencia. AI no puede actuar a menos que se le solicite y no puede explicar sus acciones porque son el resultado de algoritmos predefinidos ejecutados por una fuerza externa.

El experto en IA de Google que, evidentemente, ha llegado a creer que LaMBDA se ha vuelto sensible, casi con seguridad se ha confundido encarnación para agencia

Encarnación, en este contexto, se refiere a la capacidad de un agente para habitar un sujeto que no sea él mismo. Si grabo mi voz en un dispositivo de reproducción y luego escondo ese dispositivo dentro de un animal de peluche y presiono reproducir, he encarnado el relleno. No lo he hecho consciente.

Si le damos a la tapada su propia voz única y hacemos que la grabadora sea aún más difícil de encontrar, todavía no es sensible. Acabamos de mejorar la ilusión. No importa cuán confuso pueda llegar a estar un observador, el animal de peluche en realidad no está actuando por sí solo.

Hacer que LaMBDA responda a un aviso demuestra algo que parece ser una acción, pero los sistemas de IA no son más capaces de decidir qué texto generarán que un teddy ruxpin toy es capaz de decidir qué cintas de casete reproducir.

Si le da a LaMBDA una base de datos compuesta por publicaciones en redes sociales, Reddit y Wikipedia, generará el tipo de texto que uno podría encontrar en esos lugares.

Y si entrena a LaMBDA exclusivamente en wikis y scripts de My Little Pony, generará el tipo de texto que uno podría encontrar en esos lugares.

Los sistemas de IA no pueden actuar con agencia, todo lo que pueden hacer es imitarlo. Otra forma de decirlo es: sacas lo que pones, nada más.

Perspectiva

Este es un poco más fácil de entender. Solo puedes ver la realidad desde tu perspectiva única. Podemos practicar la empatía, pero no puedes saber realmente lo que se siente ser yo, y viceversa.

Es por eso que la perspectiva es necesaria para la agencia; es parte de cómo definimos nuestro «yo».

LaMBDA, GPT-3 y todas las demás IA del mundo carecen de cualquier tipo de perspectiva. Debido a que no tienen agencia, no hay un solo «eso» que pueda señalar y decir, por ejemplo: ahí es donde vive LaMBDA.

Si pones Lambda en el interior un robot, seguiría siendo un chatbot. No tiene perspectiva, no tiene medios para pensar «ahora soy un robot». No puede actuar como un robot exactamente por la misma razón por la que una calculadora científica no puede escribir poesía: es un sistema informático estrecho que fue programado para hacer algo específico.

Si queremos que LaMBDA funcione como un robot, tendríamos que combinarlo con sistemas de IA más específicos.

Hacerlo sería como pegar dos Teddy Ruxpins juntos. No se combinarían para convertirse en un Mega Teddy Ruxpin cuyos reproductores de casetes gemelos se fusionaron en una sola voz. Todavía tendría dos modelos específicos y distintos funcionando uno cerca del otro.

Y, si graba un billón o más de Teddy Ruxpins juntos y los llena cada uno con una cinta de casete diferente, cree un algoritmo capaz de buscar entre todos los archivos de audio en un período de tiempo relativamente corto y asociar los datos contenidos en cada archivo con una consulta específica para generar salidas a medida… habrás creado una versión analógica de GPT-3 o LaMBDA.

Ya sea que estemos hablando de juguetes o LLM, cuando imaginamos que son sensibles, todavía estamos hablando de unir un montón de cosas mundanas y actuar como si la chispa mágica de procedencia le hubiera dado vida como el Hada Azul torneando madera, pintando. , y tela en un niño real llamado Pinocho.

En su transcripción, Lambda responde a una pregunta «Pasar tiempo con amigos y familiares en una compañía feliz y edificante», pero no la ha preguntado, «¿quién es su familia?». Si aún tiene acceso, sería interesante escuchar la respuesta a esto.

—Richard Alleman (@allemanr) 14 de junio de 2022

El desarrollador que se dejó engañar tan fácilmente debería haber visto la afirmación de ese chatbot de que «disfrutaba pasar tiempo con amigos y familiares» como su primera pista de que la máquina no era inteligente. La máquina no muestra su perspectiva, solo emite tonterías para que las interpretemos.

El pensamiento crítico debería decirnos tanto: ¿cómo puede una IA tener amigos y familiares?

Las IA no son computadoras. No tienen tarjetas de red, RAM, procesadores ni ventiladores de refrigeración. No son entidades físicas. No pueden simplemente “decidir” revisar lo que hay en Internet o buscar otros nodos conectados a la misma nube. No pueden mirar a su alrededor y descubrir que están solos en un laboratorio o en un disco duro en alguna parte.

¿Crees que los números tienen sentimientos? ¿El número cinco tiene una opinión sobre la letra D? ¿Cambiaría eso si aplastáramos trillones de números y letras?

AI no tiene agencia. Se puede reducir a números y símbolos. No es un robot o una computadora más de lo que un autobús o un avión lleno de pasajeros es una persona.

Motivación

La última pieza del rompecabezas de la sensibilidad es la motivación.

Tenemos un sentido innato de presencia que nos permite predecir increíblemente bien los resultados causales. Esto crea nuestra cosmovisión y nos permite asociar nuestra existencia en relación con todo lo que parece externo a la posición de agencia desde la cual se manifiesta nuestra perspectiva.

Sin embargo, lo interesante de los humanos es que nuestras motivaciones pueden manipular nuestras percepciones. Por esta razón, podemos explicar nuestras acciones incluso cuando no son racionales. Y podemos participar activa y alegremente en ser engañados.

Tomemos, por ejemplo, el acto de ser entretenido. Imagínese sentarse a ver una película en un televisor nuevo que es mucho más grande que el anterior.

Al principio, puede que te distraiga un poco la nueva tecnología. Es probable que las diferencias entre este y su antiguo televisor le llamen la atención. Es posible que te sorprenda la claridad de la imagen o te sorprenda cuánto espacio ocupa la pantalla gigante en la habitación.

Pero eventualmente es probable que dejes de percibir la pantalla. Nuestros cerebros están diseñados para fijarse en las cosas que creemos que son importantes. Y, en la marca de 10 o 15 minutos de su experiencia cinematográfica, probablemente solo se centre en la película en sí.

Cuando estamos frente al televisor para entretenernos, lo mejor para nosotros es suspender nuestra incredulidad, aunque sabemos que las personitas en la pantalla no están realmente en nuestra sala de estar.

Es lo mismo con los desarrolladores de IA. No deberían juzgar la eficacia de un sistema de IA en función de lo crédulos que sean con respecto a la forma en que funciona el producto.

Cuando los algoritmos y las bases de datos comienzan a desvanecerse en la mente de un desarrollador como la pantalla de televisión en la que se reproduce una película, es hora de tomar un descanso y reevaluar sus creencias fundamentales.

No importa cuán interesante sea el resultado cuando comprende cómo se crea. Otra forma de decirlo: no te drogues con tu propio suministro.

exactamente por qué mencioné pareidolia

— Gary Marcus 🇺🇦 (@GaryMarcus) 14 de junio de 2022

GPT-3 y LaMBDA son complejos de crear, pero funcionan con un solo principio estúpidamente simple: las etiquetas son dios.

Si le damos a LaMBDA un mensaje como «¿a qué saben las manzanas?» buscará en su base de datos esa consulta en particular e intentará amalgamar todo lo que encuentre en algo coherente; ahí es donde “parámetrosSiempre estamos leyendo acerca de entrar, son esencialmente trillones de perillas de sintonización.

Pero en realidad, la IA no tiene idea de qué es una manzana o cualquier otra cosa. No tiene agencia, percepción o motivación. Una manzana es solo una etiqueta.

Si fuéramos a colarnos en su base de datos y reemplazáramos todas las instancias de «manzana» con «mierda de perro», la IA generaría oraciones como «¡la mierda de perro hace un gran pastel!» o “la mayoría de la gente describe el sabor de la mierda de perro como ligero, crujiente y dulce”. Una persona racional no confundiría esta prestidigitación con la sensibilidad.

Diablos, ni siquiera podrías engañar a un perro con el mismo truco. Si pones mierda de perro en un plato de comida y le dices a Fido que es hora de cenar, el perro no la confundirá con croquetas.

Una criatura sensible puede navegar por la realidad incluso si cambiamos las etiquetas. El primer hablante de inglés que conoció a un hablante de francés no pensó de repente que estaba bien meter el brazo en un fuego francés porque lo llamaron «feu».

Sin agencia, una IA no puede tener perspectiva. Y sin perspectiva no puede tener motivación. Y sin las tres cosas, no puede ser consciente.