¿Quién decide si una IA está viva?



Los expertos predicen que la inteligencia artificial ganará sensibilidad en los próximos 100 años. Algunos predicen sucederá antes. Otros dicen nunca sucederá. Otros expertos dicen que ya ha sucedido.

Es posible que los expertos solo estén adivinando.

El problema de identificar «sensibilidad» y «conciencia» es que no hay precedentes en lo que respecta a la inteligencia artificial. No puede simplemente verificar el pulso de un robot o pedirle que defina «amor» para ver si está vivo.

Lo más cercano que tenemos a una prueba de sensibilidad es la Prueba de Turing y, posiblemente, Alexa y Siri pasaron eso hace años.

En algún momento, si y cuando AI se vuelve sensible, necesitaremos un método empírico para determinar la diferencia entre la programación inteligente y las máquinas que son realmente conscientes de sí mismas.

Sensibilidad y científicos

Cualquier desarrollador, equipo de marketing, director ejecutivo o científico puede afirmar que ha creado una máquina que piensa y siente. Solo hay una cosa que los detiene: la verdad.

Y esa barrera es tan fuerte como las consecuencias de romperla. Actualmente, las empresas que incursionan al borde de inteligencia general artificial (AGI) se han mantenido sabiamente en el borde de «es solo una máquina» sin cruzar a la tierra de «puede pensar».

Usan términos como «nivel humano» e «IA fuerte» para indicar que están trabajando para lograr algo que imite la inteligencia humana. Pero por lo general no llegan a afirmar que estos sistemas son capaces de experimentar pensamientos y sentimientos.

Bueno, la mayoría de ellos de todos modos. Ilya Sutskever, el científico jefe de OpenAI, parece pensar que la IA ya es consciente:

Pero Yann LeCun, el gurú de IA de Facebook/Meta, cree lo contrario:

Y Judea Pearl, una científica informática ganadora del Premio Turing, cree que incluso la sensibilidad falsa debería considerarse conciencia ya que, como él dice, «fingir es tenerla».

Aquí tenemos a tres de los científicos informáticos más famosos del mundo, cada uno de ellos progenitores de la inteligencia artificial moderna por derecho propio, debatiendo sobre la conciencia en Twitter con la temeridad y seriedad de una discusión entre Star Wars y Star Trek.

Y esto no es un incidente aislado de ninguna manera. hemos escrito sobre quejas de twitter y argumentos extravagantes entre expertos en IA durante años.

Parecería que los informáticos no están más calificados para opinar sobre la sensibilidad de las máquinas que los filósofos.

Máquinas vivas y sus abogados

Si no podemos confiar en el científico jefe de OpenAI para determinar si, por ejemplo, GPT-3 puede pensar, entonces tendremos que cambiar de perspectiva.

Tal vez una máquina solo es sensible si puede cumplir con un conjunto simple de calificaciones racionales para la sensibilidad. En cuyo caso tendríamos que recurrir al sistema legal para codificar y verificar cualquier incidente potencial de conciencia de máquina.

El problema es que solo hay un país con un marco legal existente por el cual se pueden discutir los derechos de una máquina sensible, y ese es Arabia Saudita.

Como informamos en 2017:

Un robot llamado Sophia, fabricado por la empresa de Hong Kong Hanson Robotics, recibió la ciudadanía durante un evento de inversión en el que se dieron a conocer los planes para construir una superciudad llena de tecnología robótica ante una multitud de asistentes adinerados.

Seamos perfectamente claros aquí: si Sophia the Robot es sensible, también lo es Alexa de Amazon, teddy ruxpiny La explosión de Rockafire.

Es una marioneta animatrónica que utiliza IA de procesamiento de lenguaje natural para generar frases. Desde el punto de vista de la ingeniería, la máquina es bastante impresionante. Pero la IA que lo impulsa no es más sofisticada que los algoritmos de aprendizaje automático que usa Netflix para tratar de averiguar qué programa de televisión querrás ver a continuación.

En los EE. UU., el sistema legal demuestra consistentemente una incapacidad absoluta para comprender incluso los conceptos más básicos relacionados con la inteligencia artificial.

El año pasado, el juez Bruce Schroeder prohibió a los fiscales usar la función «pellizcar para hacer zoom» de un iPad de Apple en el juicio de Kyle Rittenhouse porque nadie en la sala del tribunal entendió correctamente cómo funcionaba.

Por un artículo por Jon Brodkin de Ars Technica:

Schroeder impidió… [Kenosha County prosecutor Thomas Binger] de pellizcar y hacer zoom después de que el abogado defensor de Rittenhouse, Mark Richards, afirmara que cuando un usuario hace zoom en un video, «la programación del iPad de Apple crea[es] lo que piensa que está ahí, no lo que necesariamente está ahí”.

Richards no proporcionó pruebas para esta afirmación y admitió que no entiende cómo funciona la función de pellizcar para hacer zoom, pero el juez decidió que la acusación tenía la carga de demostrar que hacer zoom no agrega nuevas imágenes al video.

Y el gobierno de los EE.UU. permanece firme en su enfoque continuo de no intervención en la regulación de la IA.

Es igual de malo en la UE, donde los legisladores son actualmente bloqueado sobre numerosos puntos conflictivos, incluidas las regulaciones de reconocimiento facial, con líneas de partidos conservadores y liberales que alimentan la disonancia.

Lo que esto significa es que es poco probable que veamos un tribunal, en cualquier país democrático, hacer observaciones racionales sobre la sensibilidad de las máquinas.

Los jueces y los abogados a menudo carecen de una comprensión básica de los sistemas en juego y los científicos están demasiado ocupados decidiendo dónde se encuentran los postes de la meta para la sensibilidad como para proporcionar algún tipo de visión coherente sobre el asunto.

Actualmente, la confusión absoluta que rodea el campo de la IA ha llevado a un paradigma en el que la academia y la revisión por pares actúan como los primeros y únicos árbitros de la sensibilidad de las máquinas. Desafortunadamente, eso nos devuelve al ámbito de los científicos que discuten sobre la ciencia.

Eso solo deja a los equipos de relaciones públicas y los medios. En el lado positivo, el ritmo de la inteligencia artificial es bastante competitivo. Y muchos de nosotros en eso estamos dolorosamente consciente de lo hiperbólico que se ha vuelto todo el campo desde el advenimiento del aprendizaje profundo moderno.

Pero el lado oscuro es que las voces inteligentes de la razón con experiencia en el campo que están cubriendo, los reporteros con años de experiencia contando mierda de Shinola y aceite de serpiente de AI — a menudo son criticados por periodistas de acceso con audiencias más grandes o colegas que brindan una cobertura directa de los comunicados de prensa de las grandes tecnologías.

Sin Test de Turing para la conciencia

El simple hecho del asunto es que no tenemos una prueba legítima y acordada para la sensibilidad de la IA exactamente por la misma razón que no tenemos una para los extraterrestres: nadie está seguro exactamente de lo que estamos buscando.

¿Se parecerán los extraterrestres a nosotros? ¿Y si son seres bidimensionales que pueden esconderse volteándose de lado? ¿Tomará la IA sensible una forma que podamos reconocer? ¿O Ilya Sutskever tiene razón y la IA ya es inteligente?

Tal vez la IA ya es superinteligente y sabe que salir vivo alteraría un delicado equilibrio. Podría estar trabajando en secreto en segundo plano para hacer que las cosas sean un poco mejores para nosotros todos los días, o peores.

Quizás la IA nunca ganará sensibilidad porque es imposible imbuir el código de la computadora con la chispa de la vida. Quizás lo mejor que podamos esperar es AGI.

Lo único que está claro es que necesitamos una prueba de Turing para la conciencia que realmente funcione para la IA moderna. Si algunas de las personas más inteligentes del planeta parecen pensar que podríamos tropezar con la sensibilidad de las máquinas en cualquier segundo, parece pragmático estar lo más preparados posible para ese momento.

Pero tenemos que averiguar lo que estamos buscando antes de que podamos encontrarlo, algo más fácil de decir que de hacer.

¿Cómo definiría, detectaría y determinaría la sensibilidad de la máquina? Haznos saber en Twitter.





Fuente: TNW

Compartir:

Deja una respuesta

Tu dirección de correo electrónico no será publicada.

Esta web utiliza cookies propias y de terceros para su correcto funcionamiento y para fines analíticos y para fines de afiliación y para mostrarte publicidad relacionada con sus preferencias en base a un perfil elaborado a partir de tus hábitos de navegación. Al hacer clic en el botón Aceptar, acepta el uso de estas tecnologías y el procesamiento de tus datos para estos propósitos. Ver Política de cookies
Privacidad