El Pentágono ya reemplazó los modelos de inteligencia artificial de Anthropic, sin impacto operativo, dijo el director de tecnología de Palantir, Shyam Sankar, en CBS. Enfréntate a la nación el domingo.
«Ya ha sido reemplazado», dijo Sankar.
El Pentágono dejó de utilizar los productos de Anthropic después de una disputa sobre sus salvaguardias para la IA militar. Calificó a la empresa como riesgo de la cadena de suministro. Claude de Anthropic era parte del sistema inteligente Maven de Palantir, que utiliza el Pentágono.
El Departamento ahora utiliza modelos de xAI, OpenAI y Google, y modelos de peso abierto como Nemotron de Nvidia, dijo Sankar. Los usuarios que crean aplicaciones de IA eligen los modelos que utilizan.
La capacidad de elegir y cambiar de modelo es lo que ha impulsado el crecimiento comercial de Palantir, añadió.
Un “culto apocalíptico”
Sankar culpó al altruismo efectivo de gran parte del miedo en torno a la IA. Dijo que la mayoría de los aproximadamente 2.000 investigadores de IA de Estados Unidos comparten su visión del mundo.
«Es realmente este culto milenario apocalíptico que se encuentra con un complejo mesiánico llamado altruismo efectivo», dijo.
Citó al investigador Jacob Coxonquien ha puesto un 10% de posibilidades de que la IA acabe con la humanidad. Sankar llamó a esto una crítica teológica más que científica.
También hizo un reclamo sobre fumar.
«Muchos investigadores de IA han comenzado a fumar como una forma de indicar a otros investigadores cuánto creen en la IA», dijo Sankar.
No nombró a ningún investigador ni proporcionó pruebas para la afirmación.
La focalización como proceso
Sankar describió los objetivos militares como un proceso más que una elección hecha por AI. Ejecutar 1.000 ataques en un solo día alguna vez requirió dos semanas de planificación por parte de 50 personas, dijo. Con IA, una persona puede hacerlo en cuatro horas.
«La gente salta inmediatamente a algo como que la IA escoja los objetivos. Eso no es lo que está sucediendo», dijo.
La presentadora Margaret Brennan preguntó sobre el ataque estadounidense a una escuela en Minab, Irán. En septiembre, Bloomberg informó que parte del personal del Comando Central dependía demasiado de la IA en Maven antes del ataque, citando a funcionarios involucrados en una revisión inédita del Pentágono. El ataque mató al menos a 123 niños, informó Bloomberg.
Sankar dijo que los informes eran inexactos y que la causa probable fue un error humano, y agregó que todos deberían esperar el informe final. Después de la huelga, Palantir contrató agentes de inteligencia artificial adicionales para verificar el trabajo en una parte del proceso que no es de su propiedad, dijo.
Dijo que no sabía cuándo publicaría el Pentágono su informe. Un grupo de 120 demócratas de la Cámara de Representantes escribió al secretario de Defensa, Pete Hegseth, sobre el ataque. Sankar dijo que Palantir ha informado al Congreso sobre Maven. En junio, el director ejecutivo de Anthropic dijo que no sabía si alguien había utilizado a Claude en el Huelga escolar en Irán.
Responsabilidad y reglas
En el Incidente de la cara de abrazolos modelos sólo hicieron lo que alguien les dijo que hicieran, dijo Sankar. Lo llamó producto defectuoso y dijo que las empresas de inteligencia artificial serían responsables.
Las agencias existentes, como la FDA, deberían regular cómo las personas aplican la IA, afirmó. Las leyes existentes dan una “gran ventaja”, dijo, aunque será necesario un régimen de respuesta y notificación de incidentes.
Palantir no firmó el acuerdo de IA de la Casa Blanca el mes pasado. Sankar dijo que el acuerdo era para empresas que fabrican modelos de inteligencia artificial, algo que Palantir no hace. Cedió ante el nuevo zar de la IA, Jay Claytonsobre quién debería dirigir el régimen de presentación de informes.
Sankar también es teniente coronel en el Cuerpo de Innovación Ejecutiva de la Reserva del Ejército, donde trabaja en recursos humanos del Ejército.