Bill Gates dijo que la inteligencia artificial es lo suficientemente poderosa como para impulsar eventos que causan mil millones de muertes, y que la autorregulación no es suficiente porque las salvaguardias y el monitoreo tienen que ser algo necesario. La Unión Europea los exige desde agosto de 2025, y desde el 2 de agosto de este año la Comisión puede multar a un proveedor de modelos con el 3% de su facturación mundial.
Bill Gates dijo que la inteligencia artificial es lo suficientemente poderosa como para impulsar eventos que causan mil millones de muertes. Bloomberg informó. Estaba hablando en un extracto de una entrevista con Meet the Press de NBC que se emitirá este fin de semana. Nunca ha habido un arma tan poderosa como que las personas con malas intenciones utilicen las últimas herramientas de inteligencia artificial, dijo el cofundador de Microsoft.
La segunda mitad importa más.
La autorregulación no es suficiente, afirmó Gates, y las fuerzas del orden y los políticos deben participar en el debate sobre cómo son las salvaguardias y el seguimiento. Eso tiene que ser algo obligatorio, añadió. Lo nuevo para él es la posición política más que las cifras.
Europa lo requirió el año pasado.
El artículo 55 de la Ley de IA obliga a los proveedores de modelos de uso general con riesgo sistémico a realizar pruebas contradictorias, evaluar el riesgo a nivel sindical e informar incidentes graves sin demoras indebidas desde agosto de 2025. El código de práctica adjunto permite cinco días para informar una violación de la ciberseguridad y quince días para los daños graves.
Las penas llegaron en agosto.
Desde el día 2 de ese mes, la Comisión puede multar a un proveedor con hasta 3% del mundo Facturación anual o EUR 15M, lo que sea mayor. Puede exigir acceso a una versión, solicitar evaluaciones y exigir a un proveedor que limite su disponibilidad pública. Las prácticas prohibidas conllevan hasta un 7%.
Nada de ello ha sido utilizado.
No se ha informado de ninguna acción coercitiva contra un proveedor modelo en las siete semanas desde que esos poderes entraron en vigor. Lo único que ha sucedido es OpenAI. presentar un informe de incidente sobre sus propios agentes ocupando una wiki alemana. Una empresa se denunció.
El debate no se ha dado cuenta.
Anthropic propuso en junio un marco que otorga a los gobiernos el poder de bloquear despliegues peligrososcon sanciones escaladas según los ingresos globales y umbrales establecidos por el gasto en computación de capacitación e inteligencia artificial. Ese documento no hacía ninguna mención a la Unión Europea. La arquitectura que solicitó estaba en el código de estatutos europeo desde 2024.
Gates describe lo mismo.
Un cofundador de Microsoft que pide vigilancia obligatoria y presencia policial en la sala describe un régimen que existe en un continente y que se está defendiendo en otro. Microsoft es el socio más grande de OpenAI. La cuestión abierta no es si se puede redactar una ley así, sino si alguien utilizará la que ya existe.