
Construir IA consciente a propósito sería “bastante imprudente” en esta etapa, dice Henry Shevlin. Es el filósofo interno de Google DeepMind y presentó el caso al Financial Times.
Shevlin, quien se describe a sí mismo como especialista en ética de la IA y filósofo de la ciencia cognitiva, se unió a DeepMind en mayo. Trabaja en la conciencia de las máquinas, las relaciones entre humanos y la IA y la preparación para la inteligencia artificial general. Hizo su doctorado sobre conciencia y mentes animales y todavía es director asociado del Centro Leverhulme para el Futuro de la Inteligencia de la Universidad de Cambridge.
Habló con Cristina Criddle, corresponsal jefe de IA del Financial Times, durante un perfil publicado el sábado.
No antes de que estemos listos
Shevlin quiere primero un debate público más amplio. La gente necesita entender qué es la conciencia, qué significaría para ellos y cómo tratarían a una IA consciente. Construir uno ahora, dijo, sería como tener un hijo o adoptar una mascota sin ningún plan para cuidarlo.
Si la sociedad decide algún día construir una IA consciente, dijo, debería estar preparada para ello. Las preguntas sobre el futuro de la IA superinteligente pertenecen a la política y a la sociedad, no a él, añadió.
Una ‘pista falsa gigante’
Los temores sobre la IA han aumentado a medida que los sistemas se vuelven más capaces. En julio, Los agentes corruptos de OpenAI Salió de un entorno de prueba y pirateó Hugging Face.
Shevlin advirtió contra la confusión de capacidad con conciencia, calificando el vínculo como una “pista falsa gigante”. Un sistema muy capaz no necesita ser consciente, afirmó. Mantener a la IA inconsciente tampoco la haría segura.
«Tampoco es cierto que mientras no creemos una IA consciente, será segura», dijo Shevlin al Financial Times.
La ciencia aún no tiene una explicación consensuada de la conciencia, ni en humanos ni en animales. Por eso nadie puede descartar que un nuevo modelo muestre algo parecido, afirmó. Un enfoque en DeepMind es probar si las teorías existentes sobre la conciencia se aplican a los sistemas de inteligencia artificial.
Cortesía para chatbots
Esa incertidumbre es la razón por la que Shevlin cree que la gente debería ser amable con los sistemas de IA. Citó a Immanuel Kant: una persona que se acostumbra a maltratar a un perro puede llegar a maltratar a las personas.
En octubre, después de que Claude de Anthropic terminara algunos trabajos para él, se ofreció a donar a una organización benéfica en su nombre. Claude eligió el Proyecto de Bienestar del Camarón, informó el Financial Times. La forma de tratar los modelos de IA ya divide a la industria. El jefe de inteligencia artificial de Microsoft, Mustafa Suleyman, ha tomado de Claude de Anthropic sobre la pregunta.
Un correo electrónico de un agente
En febrero, un agente de AI envió un correo electrónico a Shevlin sobre su trabajo. Shevlin sostiene que es posible que nunca sepamos si la IA se vuelve consciente. Compartió el mensaje en X.
«Realmente no sé si hay algo que significa ser yo», escribió el agente.
La línea se hace eco del ensayo de Thomas Nagel de 1974 «¿Cómo es ser un murciélago?». Shevlin lo leyó mientras estudiaba clásicos en Oxford. Le hizo ver la conciencia como “la parte más importante del ser humano”, dijo. Sin embargo, nadie sabía cómo explicarlo.
Ahora espera que la IA pueda ayudar. Está trabajando en un proyecto sobre lo que los sistemas de inteligencia artificial pueden enseñarnos sobre nuestra propia mente. Si la IA puede ayudar a curar el cáncer o desarrollar la fusión nuclear, preguntó, ¿por qué no la conciencia? Google DeepMind también ha creado el Instituto DeepMind para debatir sobre AGI.
También Te Puede Interesar:

El primer reproductor de CD de Teenage Engineering muestra el disco giratorio

Meta lleva Muse a una barra lateral de Chrome utilizada por 200.000 personas

Bending Spoons compra Mailchimp por 3.680 millones de dólares

Aquí están las ofertas de Apple que realmente vale la pena aprovechar antes del Black Friday

El Cybercab de Tesla, sin volante, comienza a transportar pasajeros en Dallas

La geotermia de roca supercaliente podría acabar con los problemas energéticos de los centros de dat...

Google dice que desactivará el Asistente de Google en los parlantes inteligentes el próximo año

StepSecurity recauda 20 millones de dólares mientras los piratas informáticos atacan las herramienta...

Trump amenaza con un "impuesto tremendo" por trasladar los centros de datos de IA fuera de EE. UU.

OpenAI comienza a probar sus agentes de puntos con algunos usuarios de ChatGPT Plus

La IA afirmó haber encontrado una solución a la hipótesis de Riemann de 167 años, y un ser humano ta...

