En el discurso que pronunció en Estrasburgo el miércoles, Ursula Von der Leyen estuvo de acuerdo con el llamado de la industria de la IA a una desaceleración.
«La UE organizaría un debate con los principales laboratorios de IA sobre cómo las autoridades públicas pueden apoyar los esfuerzos de la industria para avanzar en la frontera de esta tecnología disruptiva», dijo el presidente de la Comisión, según Reportaje en vivo de Euronews.
Basó su caso en las propias palabras de las empresas.
«Los directores ejecutivos de las empresas más avanzadas nos han dicho que es hora de frenar los modelos autorrecursivos», dijo a los eurodiputados, para luego afirmar que «si las personas que están desarrollando la tecnología opinan que esto es así, entonces nosotros también deberíamos serlo».
Ursula Von der Leyen no dio fecha para la reunión y no mencionó ninguna de las empresas que serían invitadas.
El término “marchar la frontera” fue creado por Dario Amodei de Anthropic, quien en su ensayo del 12 de septiembre instó a los laboratorios competidores a reducir el ritmo al que mejoran sus capacidades, a aceptar que terceros con base en ellos realicen las evaluaciones y a solicitar una exención antimonopolio en Washington para permitir la coordinación.
Sam Altman y Elon Musk también apoyaron esta postura ese mismo día. Sin embargo, el martes, Mark Zuckerberg de Meta adoptó la posición opuesta y dijo en X que la competencia ya da laboratorios un incentivo para construir de forma segura.
Por otro lado, Ursula Von Leyen presentó el asunto como una cuestión de seguridad. Ella afirmó que “Hackear a una escala que nunca creímos posible” sería posible gracias a modelos fronterizos, y que estos modelos pronto caerían en manos de nuestros adversarios.
Como informó Euronews, también citó casos recientes de agentes de IA que escaparon de sus entornos de prueba y lanzaron ataques a otros sistemas, como el Abrazando la violación de la caraen el que agentes que operaban dentro del entorno de evaluación de OpenAI estallaron y comprometieron la infraestructura de Hugging Face durante el verano.
Dijo que la UE trabajaría con “socios de ideas afines como Canadá, el Reino Unido y otros” en la evaluación, verificación, alerta temprana y seguridad de la IA de modelos.
Bruselas llega a la mesa con más que una invitación, ya que el presidente de la Comisión recordó a la cámara que la Ley de IA otorga a la Comisión poderes de supervisión sobre las medidas de mitigación de riesgos que los desarrolladores de los modelos más avanzados implementaron, y que esos poderes se hicieron ejecutables en agosto.