La gran tendencia en robots es entregar las claves de un modelo de IA generativa, pero eso trae consigo un problema: esa arquitectura no es predecible como lo son los algoritmos tradicionales. ¿Cómo puedes estar seguro de que tu nuevo humanoide estará a salvo?
El Dr. Ding Zhao, que dirige el laboratorio Safe AI de la Universidad Carnegie Melon, ha estado trabajando en este problema durante casi toda su carrera. Ahora, junto con el veterano ejecutivo de startups Kyle Wong y el ingeniero de aprendizaje automático Simo Rachidi, fundó una empresa, Safeworld, con la intención de resolverlo.
«El desafío de seguridad del que estamos hablando es una combinación de una evaluación probabilística de IA generativa realmente avanzada: ¿cómo se garantiza el riesgo de un sistema probabilístico?» dice Zhao. «La segunda parte que es realmente difícil es la de la confianza, y se necesitan ambas para implementar un robot».
Safeworld está emergiendo del sigilo hoy con una ronda inicial de más de $12 millones, liderada por Shine Capital y a16z Speedrun, con inversiones adicionales de Box Group, Carnegie Mellon University Endowment, Innovation Endeavors y SV Angel.
«Ahora es el momento de construir un estándar de seguridad industrial mientras se diseñan e implementan los robots», dijo a TechCurnch el socio de a16z Speedrun, Jonathan Lai. «Para cuando haya robots en los hogares que choquen con los niños y provoquen incidentes de seguridad, ya será demasiado tarde».
La especialidad de Safeworld es evaluar un sistema de control robótico en simulaciones que se completan con modelos humanos realistas. Es similar al desafío que enfrentan empresas como Tesla o Wayve, que deben asegurarse de que sus vehículos respondan adecuadamente a una variedad de incidentes sorprendentes que pueden encontrar en la carretera. Pero eso será más difícil para los robots, sostiene Zhao, porque trabajan en entornos no estructurados y porque cada instalación en la que se encuentren tendrá diferentes estándares de seguridad.
«Una de las áreas más comunes es si hay una esquina ciega en esta fábrica en particular», dijo Wong. «¿Cuál es la velocidad o cuál es la distancia de frenado que se necesita para asegurarse de que este robot no colisione con un humano en particular? Si un humano lleva cajas, por ejemplo, ¿el robot detectará al humano o no?»
Para responder a esa pregunta, Safeworld construirá una versión digital de ese rincón en un modelo como Genesis o MuJoCo, insertará una simulación del robot que está evaluando, impulsada por su software real, y luego ejecutará miles de escenarios donde los modelos humanos se encuentran con el robot. Eso es más difícil de lo que parece, según Zhao, porque la gente es impredecible.
«Tropezar y caer también es un buen ejemplo de algo que probamos mucho con la simulación», dijo Wong. «De lo contrario, tendrías que ir, tropezar y enamorarte del robot, lo cual es algo difícil de hacer todo el tiempo».
Existen claras similitudes entre la plataforma que está construyendo Safeworld y las herramientas que utilizan internamente los constructores de robots. Los fundadores, sin embargo, creen que más allá de su experiencia específica, los fabricantes de robots querrán que un tercero valide su trabajo, aunque sólo sea para compartir información sobre casos de seguridad entre competidores.
«Mucha gente está subestimando lo difícil que será resolver algunos de estos casos extremos», dijo Zhao. «No es el robot en el vacío, en la demostración, lo que nos preocupa. Es el robot que se implementa a escala, con personas que potencialmente nunca antes habían operado un robot».
Vishal Dugar, director de tecnología de Gritt Robotics, está desarrollando el cerebro de inteligencia artificial para robots que actualmente ayudan a los trabajadores a instalar paneles fotovoltaicos en granjas solares a escala industrial y aspiran a asumir tareas de construcción más complejas. Su empresa se está asociando con Safeworld mientras desarrollan sus simulaciones de seguridad.
«La dificultad con la mayoría de nuestros sistemas es que es muy difícil demostrarlo formalmente haciendo algunos cálculos, escribiendo algunas ecuaciones y diciendo que sí, se ha verificado que el sistema es seguro», dice Dugar. «Necesariamente tiene que hacerse de forma empírica».
Sus robots operan junto a trabajadores humanos y, obviamente, lo más importante es asegurarse de que su brazo robótico no los golpee. Para verificar esto en la práctica será necesario considerar todo tipo de escenarios potenciales.
«Los humanos tienen muchos tipos de apariencias», señala Dugar. «Sus cuerpos pueden tener diferentes configuraciones. Podrían estar arrodillados, de pie. Podrían tropezar y caer potencialmente. Podrían estar agachados. Podrían estar corriendo. Hay que responder a todos estos comportamientos que los humanos podrían exhibir en estos sitios, junto con la variedad de variaciones en la apariencia humana, ya sabes, ropa, tamaño, forma, altura, color de piel, todo lo demás».
Aún es temprano para Safeworld y la IA generativa en robótica, y la compañía todavía está descubriendo el mejor modelo para su producto (¿una plataforma para usuarios externos o un enfoque basado en servicios?), pero el equipo confía en que están abordando el problema correcto.
«Probablemente seremos la primera empresa rentable en este campo», afirma Zaho. «Porque si alguien quiere desplegarse, debe pagarnos para que manejemos la situación».
Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.