Estamos viendo un gran debate sobre la seguridad de la IA y una posible desaceleración, ya que el CEO de Anthropic, Dario Amodei, publicó recientemente un plan para «pasar la frontera», mientras que el CEO de Nvidia, Jensen Huang, se hizo eco públicamente de las afirmaciones del presidente Donald Trump de que la reacción de la IA es un engaño y la regulación es innecesaria.
En el último episodio del podcast Equity de TechCrunch, Kirsten Korosec, Sean O’Kane y yo discutimos si ejecutivos como Amodei y el CEO de OpenAI, Sam Altman, toman en serio el deseo de reducir la velocidad.
Si bien me sorprendió la cantidad de líderes de la industria que parecían apoyar el plan de Amodei, Sean señaló que el plan parecía corto en detalles.
Y cuando Kristen preguntó si una combinación de la regulación existente y el funcionamiento del libre mercado podría proporcionar suficientes salvaguardias por sí solas, Sean respondió: «Tenemos un gobierno federal en este momento que ciertamente no parece dispuesto a hacer cumplir las regulaciones en términos generales, y mucho menos específicamente en este caso».
Además, argumentó, «no parece que haya muchas opciones para los consumidores impulsando este mercado, en el sentido de, está bien, si una de estas empresas hace algo realmente malo, verán un impacto en la cantidad de cancelaciones que hay o lo que sea».
Continúe leyendo para obtener una vista previa de nuestra conversación, editada para mayor extensión y claridad.
Antonio Ha: Sean, ¿qué opinas? ¿Realmente vamos a “pasar la frontera”?
Sean O’Kane: Eso suena, por alguna razón, como algo de “Point Break”. Es simplemente una declaración muy californiana, como: «Vamos a recorrer la frontera, hermano».
No sé. Dije en este programa la semana pasada que no creía que nos dirigiéramos a una desaceleración de ningún tipo, en gran parte porque no creo que estas empresas estén estructuradas de una manera que funcione.
Así que este fue un cambio bastante inmediato de lo que dije hace una semana, escuchar esto de Dario en Anthropic y Sam en OpenAI e incluso de Elon Musk hasta cierto punto, y podemos entrar en si lo creemos o no. Diré que no creo que estuviera completamente equivocado, porque incluso con estos planes imprecisos que Darío expuso en una publicación de blog y de los que algunos de los otros líderes han hablado, siento que todavía nos faltan muchos detalles aquí, no solo sobre algunas de las afirmaciones sobre por qué estas personas piensan que hay peligros y riesgos, sino también detalles sobre lo que quieren decir con desaceleración.
Anthony, sé que leíste esto con mucha atención el fin de semana pasado, ya que todo estaba saliendo a la luz, así que tengo curiosidad por saber si quizás eres más generoso que yo, en cuanto a entender qué es lo que están tratando de decir aquí.
Antonio: Quiero decir, yo también tengo preguntas. Lo que realmente me llamó la atención es el hecho de que tanta gente en la industria pareció unirse en torno a esto con bastante rapidez. Incluso antes de que Amodei publicara su blog, veía a otras personas publicar alguna versión de esto. [plan,] sólo en los días previos.
Según tengo entendido, estas sugerencias que han surgido de la comunidad de seguridad de la IA; Estas son cosas que se han estado filtrando por un tiempo. No son sólo cosas que [Amodei] pensado por su cuenta. Pero parecía que mucha gente estaba dispuesta a aceptar esto y, de alguna manera, [it’s] Es alentador ver que hay consenso. Pero también me hace un poco escéptico que esto represente pasos importantes y genuinos hacia una desaceleración.
Kirsten Korosec: En primer lugar, el consenso puede ser algo bueno. Además, puede ser el comienzo de la formación de un cartel. Y entonces, seamos claros [about] de quién estamos hablando aquí. Estamos hablando de laboratorios de inteligencia artificial de vanguardia. y eso es específico e importante.
Usted dijo hace un minuto que los detalles no están realmente claros, pero sí sabemos que la idea general aquí es que vendrían evaluadores externos independientes que trabajarían internamente. [companies] como Anthropic u OpenAI y monitorear las prácticas e incidentes de seguridad de la IA. Pero hay mucha vaguedad al respecto.
Luego hay otra propuesta para que las principales empresas de IA en países democráticos coordinen los estándares y límites de seguridad. Y luego esta pieza de coordinación internacional. Entonces esas son las ideas generales sobre esto.
También agregaré que ha habido un rechazo muy considerable por parte de personas muy específicas. Y, sorprendentemente, algunas personas que no pensé que se opondrían a esto. El más obvio, supongo, sería el CEO de Nvidia, Jensen Huang, quien tuvo algunas palabras bonitas. No se que piensa ninguno de ustedes […] algunos de sus comentarios y la llamada que recibió del presidente Trump en el escenario [at the All-In Summit]
sean: Creo que Jensen entiende que, hasta cierto punto, aquí lo ven como el adulto en la sala. Lo cual es interesante, porque creo que es una dinámica que ha cambiado. Si le hubieran preguntado a la gente hace un año, casi dos años, quién estaba desempeñando ese papel cuando estas empresas de inteligencia artificial realmente estaban comenzando a explotar a lo grande, creo que mucha gente habría señalado a Microsoft y Satya Nadella, y siento que Microsoft, por una serie de razones que no es necesario abordar ahora, ha perdido el control de ser el adulto en la sala. Ciertamente, en parte porque Nadella dijo que iba a hacer bailar a Google, y eso nunca sucedió. y de hecho, sucedió lo contrario, en muchos sentidos.
Creo que Jensen entiende no sólo que necesita complacer a la mayor cantidad de personas y por eso quiere decir lo más mesurado, sino que también es uno de los enlaces más útiles entre este campo y esta administración, hasta el punto de que está recibiendo una llamada del presidente mientras está en el escenario en esta conferencia de alto perfil y muy concurrida que les permitió a ambos responder a todo este lío.
kirsten: [To] Su punto acerca de que él es el adulto en la sala y el enlace es que está en una posición en la que podría hacer eso. Pero en mi opinión, diría que [his appearance,] que se sintió un poco escenificado, fue demasiado lejos y realmente destacó el hecho de que Nvidia se beneficia enormemente de que la IA avance sin ritmo.
Odio ser cínico al respecto, pero esa fue mi reacción inicial.
Antonio: Los intereses de Trump y Huang están alineados, y también [Huang’s] narración [Trump] lo que quiere escuchar.
Pensé que vale la pena analizar un poco algunas de las cosas en las que se estaba centrando específicamente. Primero habló de la idea de: «No vamos a tener una desaceleración». Es interesante esa frase “desaceleración”, que ha surgido mucho, pero al mismo tiempo, tanto Altman como Amade [will] Usan el lenguaje de desaceleración, pero la palabra que les gusta usar más es «ritmo». ¿bien?
Y estas tres propuestas, las que usted acaba de describir, Kirsten, en teoría podrían hacer que las cosas se desaceleren, pero no lo dicen explícitamente. Dice: «Oye, estamos tomando algunas medidas de seguridad básicas y haciendo que algunas personas nos vigilen». Pero ninguna de esas cosas dice intrínsecamente que las cosas tengan que ir más lento de lo que van ahora, al menos según tengo entendido.
kirsten: Entonces tengo una pregunta para Sean. ¿No se podría argumentar que en una sociedad de libre mercado contamos con regulaciones vigentes y también [in] ¿En el entorno competitivo en el que no hay proteccionismo, si hay algo inseguro que lanza una empresa, ya no podría ser una empresa viable? ¿Y hoy existen reguladores que podrían perseguir a estas empresas? ¿O rechazas esa idea?
sean: En el vacío, o en un mercado que no está siendo distorsionado por un montón de presiones externas diferentes, sí, creo que hay un elemento de eso. Pero en este momento tenemos un gobierno federal que ciertamente no parece dispuesto a hacer cumplir las regulaciones en términos generales, y mucho menos específicamente en este caso.
Y también estamos en esta extraña situación en la que, realmente no sé la forma correcta de decirlo, pero no parece que haya muchas opciones para los consumidores impulsando este mercado, en el sentido de, está bien, si una de estas empresas hace algo realmente malo, verán un impacto en la cantidad de cancelaciones que hay o lo que sea.
Especialmente ahora, cuando se han mudado al ámbito empresarial y están ganando mucho más dinero vendiendo sus servicios a empresas, naturalmente es más difícil votar con su dinero allí. Las corporaciones no van a hacer las maletas y mudarse de [OpenAI’s] Códice a [Anthropic’s] Claude Code solo porque no están de acuerdo por principio con algo que hizo OpenAI.
Y luego también están flotando con tanto dinero de inversión que les resulta más fácil absorber cualquiera de esas pérdidas si realmente las enfrentan. Así que creo que es una buena idea en teoría, pero siento que en la práctica nada de eso sucede realmente.
Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.