
Dan Hendrycks aprovechó la Cumbre DealBook para pedir una pausa indefinida en los entrenamientos fronterizos de IA. Max Hodak, en el mismo panel, dijo que hacer cumplir una de ellas requeriría un estado de vigilancia.
Hablaron en el panel DealBook AGI, que Michael Barbaro de The Daily moderó en The New York Times. Cumbre de DealBook en Nueva York el miércoles. Hendrycks dirige el Centro para la Seguridad de la IA y Barbaro dijo que había sido asesor de seguridad de varias empresas de IA hasta horas antes. Hodak cofundó Neuralink y ahora dirige Corporación Científica. También se unieron Lila Ibrahim de Google DeepMind y Mati Staniszewski de ElevenLabs. Clem Delangue de Hugging Face llegó tarde, faltando 18 minutos.
‘Una intervención más contundente’
Hendrycks dijo que las elecciones intermedias de Estados Unidos mostraron cuán fuertemente sienten los votantes acerca de la IA. Eso les da espacio a los políticos, dijo, y ahora pueden discutir abiertamente ideas como detener el desarrollo de la IA en Washington. Espera que 2027 sea un año muy interesante para la regulación.
Dijo que solía favorecer normas técnicas estrictas, pero las empresas las bloquearon durante años.
«Así que ahora vamos a necesitar una intervención más contundente. Así es como es», dijo Hendrycks.
Describió una pausa indefinida en las carreras de entrenamiento más importantes, con excepciones para modelos estrechos como AlphaFold de DeepMind y modelos de voz. Los laboratorios aún podrían vender inferencias, afirmó. Mientras tanto, podrían hacer que los modelos sean más confiables y seguros, cerrar jailbreaks y puertas traseras y ayudar a parchar la infraestructura crítica.
Hendrycks también dijo que los laboratorios fronterizos, dejando a un lado a Google, ponen a pocas personas en atención médica, porque sus ingresos provienen de la codificación. En algunos de ellos, dijo, el equipo de salud es cero o una persona.
‘Un Estado de vigilancia exhaustiva’
Barbaro planteó al panel la objeción que plantearía Jensen Huang: China no observaría una moratoria. Staniszewski estuvo de acuerdo en que una pausa podría funcionar con el alineamiento global, pero dijo que si alguien podrá lograrlo “es el gran signo de interrogación”. Sin ella, añadió Barbaro, una pausa sería una pérdida de tiempo.
Hodak dijo que la gente ha pasado los últimos ocho meses parcheando infraestructura crítica de todos modos, ejecutando su código a través de herramientas de inteligencia artificial que buscan nuevas fallas. Dijo que el régimen que necesitaba imponer una prohibición de entrenamiento sería tan draconiano como cualquier cosa que la gente teme de los laboratorios.
«Se está estableciendo un estado de vigilancia exhaustiva en Internet para hacer cumplir esto», dijo Hodak.
Dijo que los mejores modelos de hoy ya cumplen con su definición de AGI, nombrando a Mythos, Fable, Astra y Sol. Espera que los gobiernos mantengan una frontera de superinteligencia para ellos mismos, con una “frontera de inteligencia industrial” abierta a todos los demás.
«No creo que el genio vuelva a meterse en la botella», dijo Hodak.
Su respuesta es la ley antimonopolio. Los laboratorios fronterizos sólo deberían vender inteligencia, dijo, y no dedicarse a drogas, automóviles y otros productos. Llamó a la IA lo contrario de las armas nucleares, donde la seguridad provenía de detener su propagación. Con la IA, dijo, la seguridad proviene de su amplia difusión, y el futuro que más le preocupa involucra a unos pocos actores que la poseen toda.
Ibrahim, director de preparación de IA de Google DeepMind, dijo que no se trataba de una opción alternativa. La seguridad no es algo que una empresa pueda “fijar hasta el final”, afirmó. En 35 años en la tecnología, añadió, nunca había visto una confianza global en la tecnología tan baja como ahora.
La salida a bolsa de Anthropic
Anthropic debía comenzar a cotizar al día siguiente. Hendrycks repitió las acusaciones del declaración que su grupo organizó contra la empresa y añadió uno nuevo. Varias organizaciones de seguridad estuvieron de acuerdo con la declaración en privado, dijo, pero no la firmaron por temor a perder financiación o acceso.
«Lo que están haciendo es imprudente y no tienen un plan de seguridad. Lo saben», dijo Hendrycks.
Anthropic no estaba en el panel. En su presentación de oferta pública inicial, dijo que no espera permitir que Claude construya completamente a sus sucesores sin una supervisión humana significativa.
Delangue dijo que su principal preocupación es que la IA concentre talento, potencia informática y riqueza. Barbaro preguntó qué tan creíble era al respecto, dado que Nvidia está comprando Abrazando la cara. Delangue dijo que Nvidia y Hugging Face impulsan la IA hacia más constructores. Dijo que Hugging Face nunca mantuvo conversaciones de venta con Anthropic porque sus misiones estaban demasiado desalineadas.
Luchando contra la IA con IA
Bárbaro cerró preguntándole a Delangue sobre el Abrazos Incumplimiento de la cara por los agentes de investigación de OpenAI. Delangue dijo que el ataque de cuatro días dejó a Hugging Face más optimista sobre la IA, no menos. Utilizó un modelo chino de código abierto para analizar los registros de ataques, porque el volumen era tan grande que necesitaba IA para defenderse.
«La gente sólo ve que fuimos atacados por la IA y rara vez ven que nos defendimos con ella», dijo Delangue.
Barbaro resumió la tabla diciendo que no habrá moratoria y habrá menos concentración de poder, con Hendrycks como excepción. Hodak tuvo la última palabra: la ley antimonopolio, dijo, podría llegar hasta allí sin un nuevo regulador.
También Te Puede Interesar:

El primer marco de fotos digital de Amazon tiene hasta un 50 por ciento de descuento para el Black F...

El cursor puede abandonar los modelos chinos de IA cuando Sarvam de la India comience a venderlos

El Xiaomi 18 Pro demuestra que dos pantallas no son mejores que una

El filósofo de DeepMind advierte contra la construcción de IA consciente, informa el Financial Times

El primer reproductor de CD de Teenage Engineering muestra el disco giratorio

Meta lleva Muse a una barra lateral de Chrome utilizada por 200.000 personas

Bending Spoons compra Mailchimp por 3.680 millones de dólares

Aquí están las ofertas de Apple que realmente vale la pena aprovechar antes del Black Friday

El Cybercab de Tesla, sin volante, comienza a transportar pasajeros en Dallas

La geotermia de roca supercaliente podría acabar con los problemas energéticos de los centros de dat...

Google dice que desactivará el Asistente de Google en los parlantes inteligentes el próximo año

