La empresa derivada del Barcelona Supercomputing Center, fundada hace dieciocho meses, utiliza IA para generar escenarios de prueba realistas que exponen fallas, alucinaciones, sesgos y riesgos de seguridad antes de que los agentes de IA empresarial entren en funcionamiento. 42CAP lideró la ronda; Mozilla Ventures participó.
La brecha entre un agente de IA que trabaja en una demostración y uno que trabaja en producción es, cada vez más, un problema de prueba. Crear un producto de IA generativa ya no es la parte difícil, los modelos existen, las API son accesibles y las herramientas de desarrollo han madurado.
Lo que no ha seguido el ritmo es la infraestructura para saber si lo que usted construyó se comportará de manera confiable una vez que los usuarios reales comiencen a interactuar con él a escala.
Galteauna startup con sede en Barcelona surgida del Centro de Supercomputación de Barcelona en octubre de 2024, está construyendo esa infraestructura. Ha recaudado 3,2 millones de dólares en financiación inicial para continuar el trabajo.
La ronda fue liderada por 42CAP, el fondo de tecnología en etapa inicial con sede en Munich, con la participación de Mozilla Ventures, cuya tesis de inversión se centra en IA confiable, y los inversores existentes JME Ventures, Masia y ABAC Nest Ventures. La financiación total asciende ahora a 4,1 millones de dólares. El nuevo capital se destinará a ampliar los equipos comerciales y de ingeniería de Galtea y a desarrollar aún más la plataforma.
El producto principal de Galtea genera casos de prueba y simulaciones sintéticas de usuarios a partir de descripciones de cómo se supone que debe comportarse un agente de IA. La idea es crear escenarios adversarios y extremos automáticamente, a escala, sin necesidad de que los equipos de ingeniería los escriban a mano, un proceso que requiere mucho tiempo, es costoso y, en la práctica, rara vez se completa.
La plataforma evalúa modelos en función de las tasas de alucinación, el sesgo, las vulnerabilidades de seguridad y la toxicidad, y genera métricas estructuradas que los desarrolladores y los equipos de cumplimiento pueden utilizar para tomar decisiones de implementación. Esta semana, la compañía también lanzó un nivel de autoservicio con una prueba gratuita, ampliando el acceso más allá de su base de clientes empresariales existente.
Los fundadores son inusuales para este espacio. Jorge Palomar, CEO, trabajó en Amazon y dentro del grupo de investigación de Tecnologías del Lenguaje del BSC antes de fundar Galtea; Su cofundador Baybars Külebi, CTO, tiene un doctorado en Astrofísica, ha cofundado varios proyectos anteriores de tecnología de lenguaje y audio y pasó años como experto en aprendizaje automático en el BSC.
La tecnología en sí se desarrolló originalmente en el BSC para evaluar grandes modelos de lenguaje con fines de investigación interna, ejecutándose en MareNostrum 5, uno de los superordenadores más potentes de Europa. Esa procedencia le da a Galtea un grado inusual de profundidad científica para una empresa que tiene dieciocho meses de existencia.
El timing comercial está estructurado. El Ley de IA de la UE ahora exige a las empresas que implementan IA en aplicaciones de alto riesgo que documenten y validen la seguridad y el cumplimiento de sus modelos, con multas de hasta 35 millones de euros por infracciones.
Para las empresas europeas que han sido construyendo productos de IA Sin una infraestructura de pruebas sistemática, la regulación ha creado urgencia. La plataforma de Galtea se encuentra directamente en esa brecha: ayudar a los equipos legales y de desarrollo a producir la evidencia de cumplimiento que exige la regulación, sin reconstruir los flujos de trabajo desde cero.
La participación de Mozilla Ventures, en particular, indica que la ronda se enmarcó en parte en torno a la narrativa de IA confiable que ha definido la tesis de la cartera del fondo desde su lanzamiento en 2022.