en un publicación larga en Xel director ejecutivo de Microsoft expuso su opinión sobre los peligros que plantean los modelos de IA muy avanzados y cómo afrontar esos riesgos. Nadella dice que ya no podemos aceptar un mundo en el que la IA sea tratada como un “conjunto de cajas negras anidadas” cuyos consejos y acciones simplemente aceptamos o rechazamos. Pide construir un sistema más transparente donde los modelos puedan contenerse, observarse y dejar atrás «evidencia legible por humanos a prueba de manipulaciones».
Muchas de sus recomendaciones se alinean con lo que hemos escuchado de otros en la industria: divulgación oportuna de incidentes, auditorías independientes, datos verificables y contención. Es en este último punto donde parece ir un poco más lejos que otros en el campo, diciendo:
Debemos asumir que un modelo está comprometido y contenerlo desde el principio. Piense en ello como un freno de emergencia. Una persona autorizada siempre debería poder pausar o apagar un modelo a mitad de una tarea. Los modelos más avanzados requerirán tecnologías de contención más avanzadas que debemos estandarizar.
Desafortunadamente, Nadella también se refiere a la IA como «superinteligencia» en toda la publicación.
