David Robinson solía escribir los informes de seguridad que acompañaban a cada lanzamiento de modelo importante en OpenAI. Esta semana renunció a su cargo y ahora habla en un editorial en El Atlántico.
Es comprensible si te sientes un poco cínico porque de repente todos salen de la nada para advertir sobre lo peligroso que es lo que ayudaron a construir. Después de todo, ellos hicieron este desastre. Pero eso no significa que debamos descartar sus advertencias.
Robinson dice que la cultura en la industria está fundamentalmente rota. Que se trata de una cuestión más profunda que simplemente imponer algunas reglas o regulaciones nuevas sobre cómo manejamos los modelos de capacitación. Silicon Valley ha operado con “extrema confianza” y “aceleraciones perpetuas”, dice, construyendo modelos mejores y más grandes con “optimismo sin obstáculos” que ignora o subestima los problemas potenciales.
Dice que ha llegado el momento de que las empresas de IA desarrollen un sentido de humildad y miren más allá del mundo insular, rápido y rompedor de la industria tecnológica. Específicamente, dice que la IA necesita salvaguardias a nivel nuclear:
Dados los riesgos actuales, los laboratorios fronterizos deben funcionar como plantas de energía nuclear o aeropuertos concurridos, con capas de redundancia y una planificación cuidadosa y que requiere mucho tiempo, para que el error humano ocasional e inevitable no abra la puerta al desastre.