Según una nueva investigación, el motor de ChatGPT coopera más que las personas, pero también sobreestima la colaboración humana. Los científicos creen que el estudio ofrece pistas valiosas sobre el despliegue. AI en aplicaciones del mundo real.
Los hallazgos surgieron de un famoso problema de teoría de juegos: el dilema del prisionero. Existen numerosas variaciones, pero el experimento mental normalmente comienza con el arresto de dos pandilleros. Luego, cada logro se coloca en una sala separada para ser interrogado.
Durante los interrogatorios, reciben una oferta: delatar a su compañero de prisión y quedar en libertad. Pero hay un problema: si ambos Los presos testifican contra el otro, cada uno recibirá una sentencia más dura que si hubieran permanecido en silencio.
A lo largo de una serie de movimientos, los jugadores tienen que elegir entre beneficio mutuo o interés propio. Normalmente, dan prioridad a los beneficios colectivos. Los estudios empíricos muestran consistentemente que los humanos cooperarán para maximizar su beneficio conjunto, incluso si son completos extraños.
El <3 de la tecnología de la UE
Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y algo de arte de IA cuestionable. Es gratis, todas las semanas, en tu bandeja de entrada. ¡Regístrate ahora!
Es un rasgo único en el reino animal. ¿Pero existe en el reino digital?
Para averiguarlo, investigadores de la Escuela de Negocios de la Universidad de Mannheim (UMBS) desarrollaron una simulación del dilema del prisionero. Lo probaron en GPT, la familia de modelos de lenguajes grandes (LLM) detrás del emblemático sistema ChatGPT de OpenAI.
“Los instintos de autoconservación en la IA pueden plantear desafíos sociales.
GPT jugó con un humano. El primer jugador elegiría entre un movimiento cooperativo o egoísta. El segundo jugador entonces respondería con su propia elección de movimiento.
La cooperación mutua produciría el resultado colectivo óptimo. Pero sólo podría lograrse si ambos jugadores esperaran que sus decisiones fueran recíprocas.
Al parecer, GPT espera esto más que nosotros. A lo largo del juego, el modelo cooperó más que la gente. Curiosamente, GPT también se mostró demasiado optimista sobre el altruismo del jugador humano.
Los hallazgos también apuntan a aplicaciones de LLM más allá de las tareas de procesamiento del lenguaje natural. Los investigadores ofrecen dos ejemplos: la gestión del tráfico urbano y el consumo de energía.
LLM en el mundo real
En ciudades plagadas de congestión, Los automovilistas se enfrentan a su propio dilema del prisionero. Podrían cooperar conduciendo con consideración y utilizando rutas mutuamente beneficiosas. Alternativamente, podrían cortar el paso a otros y tomar una carretera que sea rápida para ellos pero que cree atascos para otros.
Si actúan únicamente por su propio interés, su comportamiento provocará embotellamientos, accidentes y probablemente alguna buena y antigua ira en la carretera.
En teoría, la IA podría lograr el equilibrio ideal. Imaginemos que el sistema de navegación de cada coche incluyera una inteligencia tipo GPT que utilizara las mismas estrategias cooperativas que en el dilema del prisionero.
Según el profesor Kevin Bauer, autor principal del estudio, el impacto podría ser tremendo.
«En lugar de cientos de decisiones individuales tomadas por interés propio, nuestros resultados sugieren que GPT guiaría a los conductores de una manera más cooperativa y coordinada, priorizando la eficiencia general del sistema de tráfico», dijo Bauer a TNW.
“Las rutas se sugerirían no sólo en función de la opción más rápida para un automóvil, sino también del flujo óptimo para todos los automóviles. El resultado podría ser menos atascos, tiempos de viaje reducidos y un entorno de conducción más armonioso”.
Bauer ve un potencial similar en el uso de energía. Él imagina una comunidad donde cada hogar pueda usar paneles solares y baterías para generar, almacenar y consumir energía. El reto es optimizar su consumo en las horas punta.
Una vez más, el escenario se asemeja al dilema del prisionero: ahorrar energía para uso puramente personal durante la alta demanda o contribuir con ella a la red para lograr una estabilidad general. La IA podría proporcionar otro resultado óptimo.
«En lugar de que los hogares individuales tomen decisiones puramente para beneficio personal, el sistema gestionaría la distribución de energía considerando el bienestar de toda la red», dijo Bauer.
«Esto significa coordinar el almacenamiento, el consumo y el intercambio de energía de una manera que evite apagones y garantice el uso eficiente de los recursos para la comunidad en su conjunto, lo que conducirá a una red energética más estable, eficiente y resiliente para todos».
Garantizar una cooperación segura
A medida que la IA se integre cada vez más en la sociedad humana, los modelos subyacentes necesitarán orientación para garantizar que sirvan a nuestros principios y objetivos.
Para ello, Bauer recomienda una gran transparencia en el proceso de toma de decisiones y educación sobre un uso eficaz.
También recomienda encarecidamente una estrecha vigilancia de los valores del sistema de IA. El Los tipos como GPT, afirma, no se limitan a calcular y procesar datos, sino que también adoptan aspectos de la naturaleza humana. Estos pueden ser adquiridos durante el aprendizaje autosupervisado, la curación de datos o la retroalimentación humana al modelo.
A veces, los resultados son preocupantes. Si bien GPT cooperó más que los humanos en el dilema del prisionero, aun así priorizó su propia recompensa sobre la del otro jugador. Los investigadores sospechan que este comportamiento está impulsado por una combinación de «hiperracionalidad» y «autoconservación».
«Esta hiperracionalidad subraya la necesidad imperativa de directrices éticas bien definidas y prácticas responsables de implementación de IA», dijo Bauer.
«Los instintos de autoconservación desenfrenados en la IA pueden plantear desafíos sociales, particularmente en escenarios donde las tendencias de autoconservación de la IA podrían potencialmente entrar en conflicto con el bienestar de los humanos».