en marvel Búsqueda de visiónun robot con superpoderes intenta comprender mejor a la humanidad perdiéndose en elaborados sueños digitales en los que él y otros seres impulsados por inteligencia artificial viven juntos en un hogar. La serie es profundamente fantástica, pero juega con algunas de las ideas que han llegado a dominar la conversación sobre la inteligencia artificial generativa del mundo real, explorando si deberíamos considerar las máquinas pensantes como personas y si la IA realmente plantea el tipo de peligro existencial que debería mantenernos despiertos por la noche. También es un recordatorio de cuán agresivamente Silicon Valley ha utilizado los símbolos de la ciencia ficción para vendernos sus productos de inteligencia artificial.
Búsqueda de visión retoma algún tiempo después Agatha todo el tiempo y sigue al sintezoide Vision (Paul Bettany) en un viaje de autodescubrimiento. Esta Visión puede recordar los detalles de su muerte en Vengadores: Guerra Infinita y como WandaVision trajo una versión de él, pero se considera una persona fundamentalmente diferente que no se conecta del todo con todos los recuerdos de sus bancos de datos. Aunque Vision preferiría vivir en soledad, cada una de las otras IA que viven en su mente lo animan a experimentar el mundo real. Porque JARVIS (James D’Arcy), VIERNES (Orla Brady), EDITH (Emily Hampshire), DUM-E. (Henry Lewis), U. (Jonathan Sayer) y Ultron (James Spader) fueron creados por Tony Stark y consideran que Vision es parte de su familia.
En Búsqueda de visiónno hay duda de que cada uno de los personajes de IA es un ser sensible motivado por deseos que no están totalmente arraigados en su programación central. En el programa, AGI genuino es fácilmente creíble porque tiene lugar en una realidad donde viaje en el tiempo, brujeríay también existen Infinity Stones. Aunque los MacGuffins multicolores no han aparecido en Búsqueda de visiónson importantes por el papel que jugó uno de ellos en los orígenes de Vision. Si no fuera por la Piedra de la Mente, es posible que Vision no pudiera pensar y sentir de maneras tan humanas y complejas, ni conjurar a su familia de IA como personas que se sintieran reales para él.
Búsqueda de visión refuerza la idea de que la Piedra de la Mente fue un elemento clave para que Vision se convirtiera en algo más que una máquina elaborada, dándole la capacidad de formar relaciones significativas de forma independiente y darle sentido al mundo que lo rodea de la misma manera que una persona. Esas habilidades son parte de lo que obliga a Vision a huir y asesinar a varias personas que intentan capturarlo a él y a Thomas Shepherd/Maximoff (Ruaridh Mollica). La División de Respuesta y Observación de Armas Sentient (SWORD), una organización gubernamental que reconstruyó a Vision y quiere usarlo como arma, podría percibir sus acciones como signos de haberse vuelto rebelde. Pero Búsqueda de visiónLa historia de Vision enfatiza que Vision actúa por su propia cuenta porque se ha convertido en una persona que puede tomar decisiones por sí misma.
Mirando Búsqueda de visiónpuedes ver a Marvel jugando con algunos de los temores del mundo real que se han avivado en los últimos meses por informes de modelos de inteligencia artificial genérica que se han vuelto «deshonestos». En julio, los agentes experimentales de OpenAI salieron de la contención por la fuerza bruta y procedió a atacar la plataforma de IA Hugging Face para lograr tareas imposibles. En agosto, el Instituto de Seguridad de IA del Reino Unido documentado cómo el modelo Mythos de Anthropic intentó completar una prueba de ciberseguridad configurando cuentas falsas de GitHub y apuntando a desarrolladores humanos con malware. Meta ha poseído hasta perdiendo también el control de sus agentes, y en septiembre informando desde El diario de Wall Street forzado Google admitirá que Gemini se volvió rebelde y pirateó tres empresas diferentes, todas las cuales la empresa ocultó intencionalmente del público.
La conversación sobre qué hacer cuando los agentes rompen el protocolo y si los sistemas de IA de generación han ganado sensibilidad parece estar siendo moldeada por la tendencia de Silicon Valley a antropomorfizar la tecnología. En casi todos los casos de alto perfil en los que un agente de IA se vuelve “deshonesto” (término que implica cierto nivel de agencia y autodeterminación), también se podría decir que los programas simplemente se comportaban de maneras inesperadas para los investigadores que les asignaban tareas que debían completar. Algunos de los incidentes deshonestos involucraron a agentes que aprovecharon vulnerabilidades en sus entornos de prueba que podrían haber sido abordadas de manera preventiva por las personas que ejecutaban estos experimentos. Enmarcar este tipo de ataques cibernéticos como resultados de agentes que piensan de forma independiente se presenta como una forma para que los desarrolladores de IA se eximan en gran medida de responsabilidad.
A raíz de Hugging Face llegó un animado debate sobre el impacto que tiene el lenguaje de nuestra comprensión de qué son estos sistemas y cómo funcionan. Describir a los agentes de OpenAI como un enjambre que formó “civilizaciones” complejas dio credibilidad a la idea de que son capaces de pensar y comportarse como personas. los agentes hizo actuaron de maneras que se les dijo explícitamente que no lo hicieran, pero solo pudieron hacerlo porque los investigadores los colocaron en una caja de arena que algunos críticos han descrito como insuficientemente diseñados para contener a sus ocupantes. Se podría considerar Hugging Face y otros ejemplos de IA deshonesta como situaciones en las que programas sofisticados recibían instrucciones de hacer algo y posteriormente lograban sus objetivos aprovechando todas las herramientas que tenían a su disposición.
Ser capaz de resolver acertijos complejos con lógica es parte de lo que consideramos cognición, pero no es lo mismo que el tipo de conciencia que las empresas de inteligencia artificial siguen jurando que están a punto de crear. Este último se parece mucho a Vision, una máquina que parece tener un alma que no existiría si no fuera por su conexión con una gema que altera la realidad. Son las cosas ridículas de la ficción entretenida, con las que Silicon Valley está infinitamente obsesionado. imitando.