La paradoja de la seguridad de la IA



Cuando era niño soñaba con comprender el universo. Ese sueño finalmente me llevó a la física y, más tarde, de forma algo inesperada, a la inteligencia artificial. Rápidamente descubrí que la IA ofrecía la misma emoción intelectual, junto con un misterio completamente nuevo que explorar: la inteligencia misma. El desafío me enganchó. Lo que me hizo quedarme fue la creciente incomodidad en torno a la forma en que lo estábamos construyendo.

En Google DeepMind, trabajé junto a algunos de los investigadores más brillantes y ambiciosos del mundo. Sin embargo, nunca pude entender cómo tantas personas podían estar tan absortas en mejorar los modelos sin siquiera cuestionar lo que realmente estábamos construyendo. Parecía que a muy pocas personas realmente les importaba lo que sucedería una vez que comenzaran a usarlos.

Como persona responsable de tomar algunas de las decisiones más delicadas sobre los datos con los que entrenaríamos a Gemini, no podía ignorar esas preguntas. Además, rara vez llegaban con una respuesta sencilla. Me tomé esa responsabilidad tan en serio que a menudo me mantenía despierto por la noche. En un entorno de tanto riesgo, obviamente sabía que no había garantía de que mi voz fuera escuchada; aun así, esperaba que estar dentro me permitiera marcar la diferencia.

Dejando Google DeepMind

Cuando esa esperanza se desvaneció, el peso de una responsabilidad en la que ya no podía influir significativamente se volvió demasiado difícil de soportar. Sabía que no podía quedarme. Sin embargo, me fui con un miedo diferente: que algún día vería las consecuencias desde afuera y tal vez me arrepentiría de haberme alejado.

No pasó mucho tiempo antes de que mis temores se sintieran justificados. Irme me dio la libertad de cuestionar los supuestos en los que había trabajado. Habiendo contribuido a la creación de algunos de los LLM más potentes, conocía de primera mano las limitaciones de cómo aprendían de los datos. Quería volver a los primeros principios en lugar de crear otro LLM mejor o herramientas para corregir sus debilidades.

Por eso decidí empezar disonancia.

El manifiesto de la disonancia: repensar la inteligencia

La IA actual es buena para recordar información. Pero recordar no es lo mismo que comprender.

Los sistemas de inteligencia artificial como ChatGPT, Claude y Gemini pueden procesar enormes cantidades de información, responder preguntas complejas y mantener conversaciones. Sin embargo, todavía luchan con algo fundamental: dar sentido a la información contradictoria, reconocer cuándo se equivocan y actualizar continuamente lo que entienden.

Creemos que el próximo gran avance en IA no vendrá de darle a las máquinas más información o memorias más grandes. Vendrá de enseñarles cómo manejar situaciones ambiguas.

Más allá de la memoria: construyendo comprensión

Imagínese leer docenas de libros pero nunca conectar las ideas, cuestionar las contradicciones o cambiar de opinión cuando aprende algo nuevo.

Es una de las limitaciones más importantes que vemos en la IA hoy en día.

La verdadera inteligencia no se trata sólo de recopilar hechos. Se trata de comprender cómo encajan esos hechos, reconocer cuándo algo no tiene sentido y ajustar su pensamiento a medida que haya nueva información disponible.

La IA debe ir más allá de recordar más y comprender mejor.

Enseñar a la IA a pensar, no sólo a hablar

La IA actual se basa en gran medida en torno al lenguaje. Aprende patrones en palabras y los usa para generar respuestas.

Pero comunicar una idea y comprenderla realmente son dos cosas diferentes.

Hemos adoptado un enfoque diferente respecto de la IA: construir un sistema que desarrolle y refine continuamente su propia comprensión de la información; un motor de razonamiento de sentido común.

En lugar de simplemente almacenar hechos, estos sistemas mantendrían interpretaciones en evolución que pueden cambiar a medida que emergen nuevas pruebas.

Piense en ello como la diferencia entre memorizar las respuestas de un examen y comprender verdaderamente el tema.

Por qué son importantes las contradicciones

Algunos de nuestros mayores descubrimientos comienzan cuando algo no cuadra.

Los científicos cuestionan resultados inesperados. Los detectives investigan pistas contradictorias. Los emprendedores reconocen problemas que otros han pasado por alto.

Creemos que la inteligencia funciona de la misma manera.

Cuando la nueva información entra en conflicto con lo que creemos saber, esa contradicción crea una oportunidad para aprender.

Por primera vez, la IA tiene ahora la capacidad de detectar estas disonancias.

En lugar de ignorar las contradicciones o simplemente almacenar más información, la IA debería trabajar activamente para resolverlas.

La capacidad de reconocer lo que no tiene sentido y descubrir por qué es la definición misma de inteligencia.

Intuición de ingeniería

Nuestra visión va más allá de hacer que la IA responda mejor a las preguntas.

Queremos ayudar a construir la tecnología subyacente que permita a los sistemas de IA razonar, aprender, adaptarse y desarrollar una interpretación más consistente del mundo.

Piense en ello como crear una base que puedan compartir diferentes capacidades de IA, en lugar de pedirle a un sistema que lo haga todo.

Con este enfoque, la IA podría volverse más adaptable, su razonamiento más fácil de evaluar y sus capacidades más fáciles de mejorar y combinar.

Nuestra Misión

disonancia existe para repensar los fundamentos de la inteligencia artificial.

Creemos que el futuro de la IA no se trata simplemente de modelos más grandes, respuestas más rápidas o una memoria más potente.

Se trata de construir sistemas que puedan cuestionar, aprender, adaptarse y entender mejor el mundo continuamente.

El futuro de la IA no se trata de recordar más. Se trata de comprender mejor.

Contribuido por Dra. Jennifer Prendki, PhD



Fuente: TNW

Compartir:

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Esta web utiliza cookies propias y de terceros para su funcionamiento, análisis, programas de afiliación y para mostrar publicidad personalizada basada en tu perfil y hábitos de navegación. Además, incluye enlaces a sitios externos con sus propias políticas de privacidad, las cuales podrás gestionar al visitarlos. Al hacer clic en Aceptar, consientes el uso de estas tecnologías y el tratamiento de tus datos para estos fines.   
Privacidad