Sam Altman contrata a alguien para que se preocupe por los peligros de la IA

OpenAI está contratando un Jefe de Preparación. O, en otras palabras, alguien cuyo trabajo principal es pensar en todas las formas en que la IA podría salir terriblemente mal. en un publicar en XSam Altman anunció el cargo reconociendo que la rápida mejora de los modelos de IA plantea «algunos desafíos reales». La publicación continúa señalando específicamente el impacto potencial en la salud mental de las personas y los peligros de las armas de ciberseguridad impulsadas por IA.

El listado de trabajo dice que la persona en el puesto sería responsable de:

«Seguimiento y preparación para capacidades de vanguardia que crean nuevos riesgos de daños graves. Usted será el líder directamente responsable de crear y coordinar evaluaciones de capacidades, modelos de amenazas y mitigaciones que formen un proceso de seguridad coherente, riguroso y operativamente escalable».

Altman también dice que, de cara al futuro, esta persona sería responsable de ejecutar el «marco de preparación» de la empresa, asegurar los modelos de IA para la liberación de «capacidades biológicas» e incluso establecer barreras para los sistemas de mejora automática. También afirma que será un “trabajo estresante”, lo que parece quedarse corto.