Si hay una lección que nos enseñó el incidente de OpenAI-Hugging Face es que los agentes de IA pueden ser impredecibles.
«Imagínese si algo así sucediera en el mundo físico», dijo a TechCrunch Howie Sun, director ejecutivo y cofundador de Laplace Intelligence. «Los agentes de IA están pasando de las computadoras al mundo real, y realmente no queremos que la IA física falle en el mundo real».
Laplace, con sede en Ann Arbor, está creando equipos rojos automatizados (esencialmente, sometiendo a prueba un sistema intentando deliberadamente hacerlo fallar) para la robótica y la IA física. La compañía apuesta a que la única forma de garantizar que la IA física sea segura es hacer que la IA la pruebe.
«Nuestro objetivo es ayudar a las empresas a descubrir y solucionar problemas antes de la implementación y, con el tiempo, construir una base compartida de evidencia en la que los clientes, las aseguradoras y los reguladores puedan confiar», dijo Sun.
Laplace es una de las 20 nuevas empresas que compiten en Startup Battlefield, la competencia de presentación de tres días de TechCrunch Disrupt en el centro de San Francisco. Se presentará en el escenario Startup Battlefield el lunes 13 de octubre por la tarde.
Sun, junto con su cofundador y científico jefe Henry Liu, fundaron Laplace hace un año en la Universidad de Michigan. Sun ha pasado los últimos ocho años en el mundo académico investigando cómo desafiar la IA de conducción autónoma en la simulación. En 2023, él y Liu, su entonces asesor de doctorado, publicaron un artículo sobre el tema que apareció en la portada de la importante revista científica Nature. Fue entonces cuando empezaron a llegar llamadas de empresas de vehículos autónomos interesadas en implementar sus ideas.
«Me di cuenta de que quería crear esto y convertirlo de una investigación puramente académica en un producto que fuera útil en el mundo real», dijo Sun.
Utilizando su investigación académica como base, Sun y Liu construyeron Laplace, llamado así por el “demonio de Laplace”, un experimento mental de 1814 realizado por el erudito francés Pierre-Simon Laplace que imaginaba que si se conocía el estado exacto de todo en el universo, se podía predecir el futuro con total precisión.
«Básicamente estamos utilizando la simulación para predecir el futuro del mundo real», dijo Sun.
En el núcleo de la startup hay una simulación de alta fidelidad reconstruida a partir del mundo real, combinada con un agente de inteligencia artificial que busca constantemente debilidades y puntos de falla. El objetivo es garantizar que cualquier IA física, ya sea un robot, un vehículo autónomo o una solución de ciudad inteligente, esté segura en la simulación antes de implementarse en el mundo real.
El entorno de simulación es una versión post-entrenada de Cosmos de Nvidia, una plataforma de simulación mundial de IA, que se basa en el mundo real, lo que permite a Laplace reconstruir cualquier cosa, desde una autopista de Arizona hasta un cruce de peatones en París. Las simulaciones se generan combinando una malla de diferente información del mundo real. Una imagen de Google Street View podría servir como referencia a partir de la cual se genera una calle completa. Pero en lugar de generar algo aleatorio, el simulador combina datos de mapas del mundo real para recrear un entorno fiel a escala.
Luego, los desarrolladores pueden usar indicaciones de idioma para cambiar la configuración en tiempo real, como agregar tráfico por la tarde. Sun dice que Laplace obtiene información sobre el tráfico y la congestión en tiempo real de proveedores de navegación como TomTom.
Dentro de las simulaciones de Laplace no sólo se simula el entorno, sino también el comportamiento de otros actores. Por ejemplo, durante una demostración, Sun ordenó al vehículo del agente de pruebas que se desviara hacia el tráfico que venía en sentido contrario. El automóvil que habría chocado (o atravesado, como es común entre algunos modelos del mundo generativo) se apartó de su camino para evitar una colisión.
«Es verdaderamente un entorno de simulación interactivo», dijo Sun. «Todo el mundo reacciona a todo… Esto es más como un modelo mundial con participantes interactivos».
Si bien el entorno simulado es una parte importante del producto de Laplace, el verdadero punto de venta único son los agentes de IA que la startup está desarrollando para diseñar automáticamente casos de esquina (escenarios complicados y raros que podrían hacer tropezar un sistema de IA) sacando al ser humano aún más del circuito.
«Pueden diseñar a partir de las noticias, de los informes policiales sobre colisiones: todo tipo de información para desafiar activamente a los vehículos autónomos y otros agentes físicos de IA», dijo Sun.
Hoy en día, los desarrolladores de vehículos autónomos entrenan principalmente una IA para manejar casos extremos utilizando imágenes grabadas que luego convierten en una simulación, o confiando en humanos para generar nuevas ideas y diseñarlas. Si bien muchas empresas audiovisuales han hecho lo que Laplace propone y han comenzado a adoptar la IA para crear casos extremos para la capacitación (me viene a la mente la empresa de camiones autónomos Waabi), la necesidad de este tipo de tecnología realmente se hará evidente cuando comencemos a colocar robots generalizados en el mundo real.
«Hay menos datos sobre la robótica generalizada», dijo Sun. «Nadie sabe cuáles serán los casos extremos en el mundo real».
A pesar de que Sun y Liu provienen del mundo académico y no tienen un pedigrí brillante en empresas tecnológicas de Silicon Valley, los dos han logrado comenzar a generar ingresos e incluso obtener una ganancia modesta. La mayor parte del dinero proviene de casos de uso de conducción autónoma, entre cuyos clientes se incluyen el fabricante japonés de camiones Isuzu y la empresa de camiones autónomos Bot Auto, con sede en Texas.
Nvidia también es un cliente, afirma Sun. Las dos empresas, junto con T-Mobile, están trabajando juntas en un piloto gratuito de ciudad inteligente para la ciudad de San José para proporcionar operaciones de tráfico de alto nivel. Laplace también se encuentra en las primeras etapas de trabajo con socios que construyen robótica humanoide para almacenes.
Actualmente, la mayoría de los contratos con clientes de Laplace se basan en proyectos y la compañía está trabajando para convertirlos en ingresos recurrentes. El objetivo a corto plazo de la startup, que espera que se vea favorecido al competir en Disrupt, es recaudar fondos y escalar para poder competir con sus rivales.
El principal de sus rivales es Applied Intuition, una startup de última etapa que ha recaudado 1.200 millones de dólares hasta la fecha con una valoración post-dinero de 15.000 millones de dólares. Isuzu también es cliente de Applied.
Sun no está demasiado preocupado. Él cree que la metodología central de Laplace de usar IA para probar la IA es un «nuevo paradigma que cambia por completo las pruebas de la IA física», convirtiéndola en un «proceso de prueba interactivo dinámico».
«Ese será el foso más grande», dijo.
Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.