El jefe de Tencent AI advierte que los modelos pronto plantearán riesgos biológicos, informa SCMP

El científico jefe de IA de Tencent ha advertido que los modelos de IA pronto podrán causar daño en biología, como ya lo hacen en ciberseguridad. Yao Shunyu habló en un evento científico en Hong Kong el sábado, según el South China Morning Post. reportado.

“Las capacidades cibernéticas de [AI] modelos y pronto [the] La biocapacidad de los modelos alcanzará un umbral en el que realmente es posible causar daño”, dijo Yao, según el SCMP.

Dijo que las empresas chinas que lanzan modelos abiertos, que cualquiera puede descargar y modificar, deben tomarse la seguridad muy en serio. También advirtió que los riesgos biológicos pueden ser más difíciles de gestionar que los riesgos cibernéticos.

Yao, de 29 años, se unió a Tencent el año pasado después de un año en OpenAI. Habló días después de que Tencent lanzara Hy4, su nuevo modelo insignia, el 4 de noviembre.

en su anuncio de lanzamientoTencent dijo que dejó material sobre la explotación de fallas de software fuera de los datos de entrenamiento de Hy4. En cambio, el modelo fue entrenado con datos de seguridad defensiva, dijo la compañía.

Tencent también dijo que Hy4 tiene sólidos conocimientos básicos de biología, pero es más débil que los modelos líderes en el diseño de experimentos. Dijo que se basó en revisiones de expertos internos. TNW no ha probado el modelo.

La compañía planea publicar los pesos de Hy4 y un informe sobre sus pruebas de seguridad en los próximos días. Reuters informó. Hy4 se ubica como el segundo mejor modelo chino, según la firma de evaluación comparativa Artificial Analysis, dijo el SCMP.

Yao dijo que firmas estadounidenses como Anthropic presentan argumentos sólidos para mantener cerrados los modelos más importantes. Sin embargo, argumentó que una combinación de modelos abiertos y cerrados podría funcionar mejor, porque los modelos abiertos también pueden ayudar a los defensores.