¿Podría el futuro ser «consciente» y experimentar el mundo de manera similar a la forma en que lo hacen los humanos? No hay evidencia fuerte de que lo hagan, pero Anthrope no descarta la posibilidad.
El jueves, el Laboratorio de IA anunció que ha comenzado un programa de investigación para investigar, y prepararse para navegar, lo que llama «Bienestar Modelo». Como parte del esfuerzo, Anthrope dice que explorará cosas como cómo determinar si el «bienestar» de un modelo de IA merece una consideración moral, la importancia potencial de los «signos de angustia» del modelo y las posibles intervenciones de «bajo costo».
Hay un desacuerdo importante dentro de la comunidad de IA sobre qué modelos de características humanas «exhiben», si corresponde, y cómo debemos «tratarlos».
Muchos académicos creen que la IA hoy no puede aproximar la conciencia o la experiencia humana, y no necesariamente no podrá hacerlo en el futuro. AI, como lo sabemos, es un motor de predicción estadística. Realmente no «piensa» o «siente», ya que esos conceptos se han entendido tradicionalmente. Entrenado en innumerables ejemplos de texto, imágenes, etc., la IA aprende patrones y, en algún momento, formas útiles de extrapolar para resolver tareas.
Como Mike Cook, miembro de la investigación del King's College London especializado en IA, dijo recientemente a TechCrunch en una entrevista, un modelo no puede «oponerse» a un cambio en sus «valores» porque los modelos no tener valores. Sugerir lo contrario estamos proyectando en el sistema.
«Cualquiera que antropomorfice los sistemas de IA en este grado está jugando para la atención o malinterpretando seriamente su relación con la IA», dijo Cook. «¿Es un sistema de IA optimizando para sus objetivos, o es 'adquirir sus propios valores'? Es una cuestión de cómo lo describe y de cuán florido es el lenguaje que desea usar con respecto a él».
Sin embargo, otros investigadores insisten en que AI hace tener valores y otros componentes similares a la toma de decisiones morales. Un estudio fuera del Centro para la Seguridad de la IA, una organización de investigación de IA, implica que la IA tiene sistemas de valores que lo llevan a priorizar su propio bienestar sobre los humanos en ciertos escenarios.
Anthrope ha estado sentando las bases para su iniciativa de bienestar modelo durante algún tiempo. El año pasado, la compañía contrató a su primer investigador dedicado de «Bienestar de AI», Kyle Fish, para desarrollar pautas sobre cómo las compañías Anthropy y otras compañías deberían abordar el problema. (Fish, que dirige el nuevo programa de investigación de bienestar modelo, dijo al New York Times que cree que hay una probabilidad del 15% que Claude u otra IA es consciente hoy).
En una publicación de blog el jueves, Anthrope reconoció que no hay un consenso científico sobre si los sistemas de IA actuales o futuros podrían ser conscientes o tener experiencias que justifiquen una consideración ética.
«A la luz de esto, nos estamos acercando al tema con humildad y con la menor cantidad de supuestos posible», dijo la compañía. “Reconocemos que necesitaremos revisar regularmente nuestras ideas a medida que se desarrolla el campo.