A principios de esta semana, el quién es quién de la IA parecía, al menos tentativamente, del lado de la regulación de la IA. Durante el fin de semana, el director ejecutivo de Anthropic, Dario Amodei, propuso un plan de tres pasos para frenar el desarrollo de la IA, que incluía incorporar evaluadores externos en los laboratorios, coordinar toda la industria nacional y forjar acuerdos internacionales potencialmente con asistencia gubernamental. El director ejecutivo de OpenAI, Sam Altman, el cofundador de Google DeepMind, Demis Hassabis, e incluso el director ejecutivo de SpaceX, Elon Musk, parecieron públicamente estar de acuerdo en aspectos de las tres cosas.
Anthropic y OpenAI ya habían sido goteante pistas que ellos y otros laboratorios estaban trabajando en algún tipo de marco industrial. Aparentar estar a favor de la regulación parecía una buena medida de relaciones públicas y, potencialmente, una forma para que las empresas abordaran las consecuencias de progresivamente más sobre incidentes de piratería.
Por ahora, cualquier participación del gobierno en este proceso parece imposible. La administración Trump ha atacado la idea de una crisis de seguridad en la IA, calificándola de “engaño”. El propio mundo de la IA también está dividido. El director ejecutivo de Meta, Mark Zuckerberg, rápidamente se manifestó en contra de limitar la autonomía de las empresas y, a principios de esta semana, el Diario de Wall Street informó que Zuckerberg, Musk y el director ejecutivo de Nvidia, Jensen Huang, echaron a perder propuestas para un regulador independiente financiado por la industria para la industria de la IA, similar a la Autoridad Reguladora de la Industria Financiera (FINRA), un regulador privado sin fines de lucro en el sector financiero. Pero partes de la industria no están renunciando a la idea, incluida OpenAI.
«La gente quiere saber que la IA se está desarrollando de forma segura», dijo Chris Lehane, jefe de asuntos globales de OpenAI. El borde. «Eso comienza con los pasos que empresas como la nuestra dan por su cuenta, pero el gobierno también tiene un papel importante. La ventana de políticas de IA está abierta, con un creciente apoyo bipartidista a estándares nacionales obligatorios de seguridad para la IA fronteriza. El Congreso debería convertir ese impulso en un marco que fortalezca la seguridad, apoye la innovación estadounidense y mantenga a Estados Unidos a la cabeza en IA».
Un capitalista de riesgo de IA, que solicitó el anonimato debido a sus inversiones actuales, estuvo de acuerdo en que la regulación era necesaria. “Se ven estos momentos en cada tecnología, ya sea electricidad, automóviles o aviones, donde, en algún momento, la industria tuvo que unirse para encontrar una manera de decir: ‘¿Cómo aceptamos colectivamente lo que significa seguridad?’ Los automóviles no eran seguros, los aviones no eran seguros y luego tuvimos que crear estándares de seguridad que todos adoptaran y que en realidad hicieron que la tecnología se generalizara más. Pero los primeros días siempre son un poco salvajes y rebeldes, y así es como se desarrolla la tecnología”.
Anthropic declinó hacer comentarios, pero Amodei escribió en su ensayo que la compañía “siempre ha… defendido[ed] «Necesitamos una regulación bien pensada de la IA, incluso cuando esto nos haga acusar de exageración, ‘doomerismo’ o captura regulatoria».
Otras empresas se han mantenido calladas. Safe Superintelligence Inc., SpaceX y Google no respondieron a una solicitud de comentarios. Thinking Machines Lab declinó hacer comentarios. Y Meta señaló un X publicación por Zuckerberg, en el que se distanció de los llamados a una desaceleración y regulación, escribiendo: “Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de manera segura, y la capacidad de tomar sus propias acciones para garantizar que eso suceda”.
La línea de pensamiento de Zuckerberg parece estar de moda entre Trump en este momento. El presidente fue noticia la semana pasada por calificar de “engaño” los recientes temores sobre los riesgos de la IA. Él llamado huang mientras que este último estaba en el escenario de una conferencia y le dijo a una multitud por altavoz que “los robots no tomarán el control”. Ese mismo día, él también al corriente en las redes sociales que “el único control o ‘barandillas’ que la IA necesita es un PRESIDENTE FUERTE E INTELIGENTE (¡alto coeficiente intelectual!), ¡y Estados Unidos tiene eso, con creces!” Añadió que la administración Trump ya ha “impedido que las ‘personas’ de IA hagan ‘cosas’ malas o potencialmente malas», utilizando su «tremendo poder CRIMINAL y REGULATORIO existente sobre estas empresas». Denunció una “conspiración ENFERMA” contra la IA y los centros de datos y que quien gane en IA gana en general. “Teóricos de la conspiración, traidores, traidores y filtradores, ¡CUIDADO!” él escribió.
Para Nick Reese, profesor adjunto de la Universidad de Nueva York y exdirector de políticas tecnológicas emergentes del Departamento de Seguridad Nacional, las actuales declaraciones antirregulatorias de Trump sobre la IA son confusas porque trabajó con la primera administración de Trump para desarrollar la Orden Ejecutiva 13960, que Trump firmó y no ha sido derogada. La orden se centró en la creación de un conjunto de principios para el uso federal de la IA que protegerían “la privacidad, los derechos civiles, [and] libertades civiles”.
«Hace seis años, la Administración Trump firmó una acción ejecutiva sobre la seguridad de la IA, por lo que hay un cambio real en la posición del presidente sobre el tema», dijo Reese. «La seguridad de la IA requiere más que las capacidades intelectuales de un funcionario electo».
Como dice el blogger de la industria de la IA, Zvi Mowshowitz ponloTrump no es necesariamente totalmente contrario a la regulación; después de todo, fue él quien impuso algunas restricciones a los laboratorios fronterizos, como pruebas previas al lanzamiento por el gobierno. Pero, en palabras de Mowshowitz, lo impulsan más las “vibraciones” que una política consistente. “Trump todavía no se cree esto del ‘riesgo existencial’, eso son las ‘fuerzas negativas’”, escribió Mowshowitz. Por lo tanto, las medidas de seguridad gubernamentales no están exactamente descartadas, pero pueden tener poco parecido con lo que OpenAI o Anthropic quieren, y mucho menos con los planes de defensores independientes y menos poderosos de la seguridad de la IA.
En general, las posiciones de la administración sobre la regulación de la IA han sido «tambaleantes e inconsistentes», dijo Reese. «El resultado de esto es que ahora estamos enmarcando la seguridad de la IA en este escenario apocalíptico en el que los robots vienen a buscarnos. Pero enmarcarlo como ‘los robots vienen a buscarnos’ realmente distorsiona cuál es el problema central en realidad. El problema central es que tenemos una IA que no es física ni está encarnada en un robot y que ahora está dañando a los humanos».
Trump escribió en su publicación en Truth Social que la administración actualmente tiene poder tanto criminal como regulatorio sobre los laboratorios de IA, pero Reese dijo que no estamos ni cerca de tener suficiente autoridad regulatoria sobre la industria de la IA. A medida que la tecnología avanza y el público en general continúa rechazando… protestas, boicotsy grito sobre el poder concentrado de la industria de la IA en manos de unos pocos: los pedidos de regulación no hacen más que aumentar, y esa presión podría influir en la posición actual de Trump.
Reese dijo que la oposición a la regulación se reduce a una idea «cansada» de que siempre es mala para la innovación. En cambio, dice, es importante pensar por qué se regula algo.
«Regulamos cosas en las que no podemos tolerar ningún fallo… como el sector financiero o las aerolíneas», dijo. «Construimos sistemas, controles, garantía de calidad y mecanismos alternativos para asegurarnos de que esas cosas no dañen la vida o nos dañen sistémicamente. Pero de alguna manera estamos eximiendo a la IA de eso».