Durante el año pasado, surgieron preocupaciones sobre los peligros potenciales que plantea la inteligencia artificial y se desarrollaron debates sobre el camino adecuado para la seguridad de la IA. Ahora, Anthropic parece haber presentado su propia visión sobre cómo el gobierno podría regular su industria.
Politico informó recientemente que el laboratorio de IA ha estado analizando un nuevo proyecto de ley sobre seguridad de la IA que espera que el Congreso considere adoptar. La legislación plantea ciertos escenarios en los que se podría bloquear la distribución del lanzamiento de un modelo de IA.
Esos escenarios implican un “riesgo previsible e inminente”, uno en el que más de 50 personas corren el riesgo de morir o si podrían producirse más de mil millones de dólares en daños a la propiedad, escribe Politico. El riesgo catastrófico en cuestión debe “derivarse de la creación o liberación de un arma biológica, del modelo que elude los controles de su desarrollador o de un ciberataque”, señala el medio.
Las métricas que se ofrecen aquí (50 personas y mil millones de dólares) son similares a las de una legislación de California que se convirtió recientemente en ley, el Proyecto de Ley 53 del Senado, que de manera similar definió esos escenarios como equivalentes a “riesgo catastrófico”.
El proyecto de ley de Anthropic sugiere que se podría llegar a un análisis del potencial de desastre de un modelo mediante el uso de “evaluadores independientes” que estarían registrados en el Departamento de Comercio de Estados Unidos. Estos evaluadores podrían recibir pagos de los propios laboratorios de IA, siempre y cuando “el pago no dependa de los resultados de las evaluaciones”, escribe Politico.
No está claro cómo este sistema propuesto garantizaría que los pagos no puedan influir en la evaluación. Demis Hassabis, presidente de DeepMind, postuló hace algunos meses que un organismo regulador de IA autónomo debería imitar a la Autoridad Reguladora de la Industria Financiera (FINRA) de la industria financiera.
En el proyecto de ley de Anthropic, cuando los evaluadores determinen que existe un riesgo catastrófico inminente, tendrían 72 horas para comunicarse con el Departamento de Comercio al respecto. El Departamento de Comercio tendría entonces que solicitar a un juez de DC que detuviera la publicación del modelo. La legislación prohibiría expresamente que cualquier agencia federal tenga la discreción de detener la distribución del modelo por sí sola, escribe Politico.
Anthropic no respondió de inmediato a una solicitud de comentarios de TechCrunch, pero un portavoz confirmó el proyecto de ley a Politico. «Este proyecto de ley representa las propuestas descritas en el Marco Avanzado de IA de Anthropic, que hemos estado defendiendo ante los legisladores federales y estatales desde junio», dijo el portavoz.
Los riesgos teóricos que ofrece el borrador de la política están un poco alejados de los tipos de incidentes que últimamente han sido una prioridad para la industria tecnológica. Si bien hay personas que advierten sobre la posibilidad de muerte humana, la principal preocupación ha sido en gran medida la amenaza de piratería informática. Una serie de incidentes en los que programas de inteligencia artificial aparentemente desobedecieron a sus operadores humanos y piratearon sitios web en la Internet abierta han generado preocupación de que los modelos carezcan de controles de seguridad adecuados.
En un esfuerzo por presentar una solución al espectáculo de crisis que los propios laboratorios han ayudado a provocar, empresas como Anthropic han ofrecido sus propias soluciones preferidas.
De hecho, a pesar de las constantes advertencias de los laboratorios de que la tecnología que venden podría provocar la desaparición de la civilización humana, en gran medida se han resistido a la supervisión gubernamental obligatoria. En cambio, han sugerido un sistema voluntario de evaluadores integrados: observadores externos supuestamente “neutrales” que se colocan dentro de las organizaciones de IA para que puedan monitorear los modelos en busca de posibles signos de riesgo o abuso.
Aún así, la mera sugerencia de legislación de Anthropic parece ir un poco más allá que otras propuestas regulatorias ofrecidas por la industria, incluida Nvidia, cuyo director ejecutivo, Jensen Huang, argumentó recientemente que la industria de la inteligencia artificial no necesitaba ninguna ley nueva en absoluto.
Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.