Startups e inversión
Pramaana Labs recauda USD 27 millones para llevar la verificación formal a la IA
Pramaana Labs recaudó USD 27 millones en una ronda de financiación semilla para combinar LLMs con herramientas de verificación formal, con el objetivo de mejorar la fiabilidad en sectores sensibles como el derecho y los impuestos.
El miércoles, Pramaana Labs anunció una ronda de financiación semilla de USD 27 millones. La inversión fue liderada por Khosla Ventures, con un sindicato de inversionistas participantes que incluye a:
- Accel
- BoldCap
- Nexus Venture Partners
- Premji Invest
- Unbound
La empresa emergente busca abordar las alucinaciones y errores de la inteligencia artificial (IA) mediante la introducción de la verificación formal: el uso de métodos matemáticos para comprobar si un sistema se comporta correctamente. Pramaana Labs utiliza el lenguaje de programación LEAN (un lenguaje de código abierto para verificar pruebas matemáticas) para construir una capa determinista sobre los modelos de lenguaje extensos (LLMs) convencionales. Esta configuración permite que el sistema procese lenguaje natural mientras garantiza que sus resultados sigan reglas estrictas y verificables. Rajagopalan comparó la estructura de estos dominios con las matemáticas, señalando que operan bajo un conjunto estricto de reglas que deben seguirse. Explicó que, una vez que se codifican las reglas de un dominio, el razonamiento construido sobre ellas se vuelve determinista.
Pramaana Labs se centrará en verticales sensibles, incluyendo el derecho, el descubrimiento de fármacos y la preparación de impuestos. Estas son áreas donde equivocarse puede costarle a alguien su salud, dinero o libertad. Rajagopalan afirmó que los problemas más difíciles del mundo no son irresolubles, sino que no están formalizados. “Todo dominio donde equivocarse puede costarle a alguien su salud, dinero o libertad tiene reglas”, dijo Ranjan Rajagopalan, cofundador y CEO de Pramaana Labs.
Para construir estos sistemas de verificación, la empresa se está asociando con expertos en el dominio e instituciones académicas. Para sus sistemas fiscales, Pramaana Labs trabaja con el excomisionado del IRS, Danny Werfel. Para sus sistemas de ciberseguridad y descubrimiento de fármacos, la empresa colabora con socios académicos de IIT Delhi, IIT Madras y UC Berkeley.
Este enfoque de formalizar marcos regulatorios complejos tiene precedentes. Rajagopalan señaló el proyecto CATALA en Francia (proyecto que formaliza sistemas fiscales en código ejecutable). Al aplicar métodos de verificación formal similares a la IA, Pramaana Labs planea construir sistemas de verificación personalizados para cada una de sus industrias objetivo, asegurando que los resultados de los LLMs puedan ser validados matemáticamente antes de ser implementados en entornos de alto riesgo.
Por qué importa
Pramaana Labs intenta resolver los problemas de fiabilidad de la IA en verticales sensibles combinando LLMs convencionales con herramientas de verificación formal determinista. De tener éxito, este enfoque híbrido podría permitir a las empresas implementar IA en verticales sensibles donde los errores conllevan consecuencias graves.