“En mi opinión, la posibilidad de extinción humana es cuestión de lanzar una moneda al aire”, dijo en una nueva entrevista Geoffrey Irving, ex empleado de OpenAI y Google DeepMind. es uno de una docena de entrevistas con investigadores de IA, incluidos empleados actuales y anteriores de OpenAI, Google y Anthropic. Palisade Research, que dice ser una organización sin fines de lucro que estudia las capacidades y motivaciones de las IA, recopiló y publicó las entrevistas en desdeinside.ai.
Varios de los investigadores se unieron a Irving para advertir sobre la posibilidad de que la IA pudiera extinguir a los humanos. Neel Nanda, científico investigador de Google DeepMind, dijo que hay «al menos un 10 por ciento de posibilidades de que cause la extinción humana, y eso es ridículamente alto». Tomamos nota de los comentarios de Nanda e Irving en un informe reciente sobre la comunidad de «seguridad de la IA», y qué difícil es precisar qué significa ese términoo lo que alguien debería hacer al respecto, e incluso estos videos no tienen una solución coherente que ofrecer.
El ex investigador de OpenAI, Daniel Kokotajlo, llegó incluso a afirmar que la IA superinteligente «básicamente sería poderosa como un dios» y añadió: «desafortunadamente no sabemos cómo controlarlas en absoluto. Por lo tanto, probablemente nadie las controlaría. Esto es exactamente tan peligroso como parece y no se debe permitir que suceda».
Si bien cada video está disponible en su totalidad, el sitio también recopila segmentos de varias personas que hablan sobre temas similares, incluido si todo esto es solo publicidad o marketing, y por qué trabajarían en algo que creen que es tan peligroso. Algunas de las respuestas incluyen a Mary Phuong de Google diciendo: «Creo que absolutamente deberías sospechar de lo que estoy diciendo porque el laboratorio me paga», y la explicación de Nanda de que «si no creyera que mi trabajo estaba reduciendo directamente estos riesgos existenciales, renunciaría… Estas empresas no van a dejar de fabricar estos sistemas sólo porque yo renuncie».