En 2017, los cofundadores de OpenAI, Greg Brockman e Ilya Sutskever, propusieron subastar los derechos del futuro AGI de la empresa a gobiernos, incluidos Estados Unidos, China y Rusia. Kevin Roose informa sobre el plan en un extracto de su libro, publicado por The Atlantic el martes. Darío Amodei se opuso. Fue una de varias disputas que lo llevaron a irse y fundar Anthropic, escribe Roose.
El extracto, publicado en El Atlánticoproviene del próximo libro de Roose, The AGI Chronicles. Cinco personas familiarizadas con el plan se lo describieron.
El ‘plan de países’
La idea surgió cuando Elon Musk se estaba alejando de OpenAI y el laboratorio necesitaba nueva financiación, escribe Roose. Comenzó como una propuesta para una coalición internacional para gestionar los riesgos de AGI. Cuando Brockman y Sutskever lo presentaron al personal ese invierno, se había convertido en una estrategia de recaudación de fondos conocida internamente como el “plan de países”.
Dos personas familiarizadas con su pensamiento dijeron que ambos esperaban que los gobiernos confiscaran AGI de las empresas que lo construyeron. Entonces preguntaron por qué OpenAI no debería venderlo ahora, cuando necesitaba el dinero.
«Parecía como si gente de tecnología estuviera lanzando una nueva empresa demente, donde tenían este plan loco y luego, al final del plan, decían: Haremos que el gobierno pague por ello», le dijo a Roose una persona que escuchó la presentación.
OpenAI «consideró brevemente si convertir OpenAI en un esfuerzo cooperativo internacional», pero «no consideró vender AGI a China o Rusia», dijo un portavoz de OpenAI a Roose.
OpenAI abandonó el plan después de encontrar financiación de Microsoft.
En diciembre de 2017, Amodei envió un correo electrónico a Brockman, Sutskever y otros ejecutivos para objetar, según el extracto.
«En mi opinión, este plan exacerbaría, en lugar de reducir, las carreras armamentistas, potencialmente permitiría atrocidades contra los derechos humanos… y socavaría la legitimidad moral de OpenAI», escribió Amodei.
Kanye West y la beta de GPT-3
Amodei mantuvo una lista de las veces que sintió que Altman lo había engañado, escribe Roose. Uno se refería a una lista de clientes GPT-3 aprobados. Otro se refería a los términos de seguridad en el acuerdo de Microsoft por mil millones de dólares.
En 2020, Altman le ofreció a Kanye West acceso a la versión beta privada de GPT-3, le dijeron dos personas a Roose. Jack Clark, entonces director de políticas de OpenAI, lo detuvo.
Ese año, Amodei y seis colegas se marcharon para fundar Anthropic. Llamaron a los términos de salida “el divorcio”. El grupo podría contratar personal de OpenAI durante varias semanas y ambas partes acordaron no menospreciarse mutuamente en público. Según el extracto, la empresa inicialmente planeó llamarse Sparrow Systems.
Todavía peleando
Dario y Daniela Amodei “todavía desprecian” a Altman y Brockman, según varias personas que los conocen, escribe Roose. Dario ha llamado a Altman y OpenAI «malvados» en mensajes internos de Slack. Algunas personas en OpenAI describen a los Amodeis como “señaladores de virtudes hambrientos de poder”, dice el extracto.
El lunes, TNW informó que Altman y Amodei ambos omitir una consulta australiana. Anthropic se prepara para cotizar en bolsa y su prospecto así lo demuestra perdió 42 mil millones de dólares en 2025. El miércoles, Brockman abandonó una promesa de 25 millones de dólares a un super PAC de IA.