Probably obtiene USD 9 millones en capital semilla para construir un validador de IA determinista

Probably, una empresa de inteligencia artificial (IA), recaudó USD 9 millones en una ronda de capital semilla liderada por la firma de capital de riesgo Andreessen Horowitz. La empresa tiene como objetivo evitar que las alucinaciones y los errores fácticos en los modelos de IA lleguen al usuario. Según el fundador Peter Elias, la meta es alcanzar una tasa de precisión del 99.99%, algo común en sistemas deterministas pero históricamente difícil de lograr con la IA generativa.

Para abordar esto, Probably utiliza un sistema validador determinista para verificar las respuestas de los modelos de lenguaje extenso (LLM, por sus siglas en inglés) contra un conjunto de datos. Elias se refiere a este sistema como un “traje mecánico de ciencia de datos” (data science mech suit). Bajo esta configuración, las respuestas de primera pasada del LLM se verifican contra el validador determinista, que rechaza cualquier resultado que no coincida con el conjunto de datos. El LLM se entrena contra este validador y todo el sistema está optimizado para ofrecer respuestas rápidas y precisas. Elias explicó que el proceso de desarrollo de la empresa reveló que una mejor ingeniería de arnés permite el uso de modelos subyacentes más débiles. “Si puedes refinar el contexto lo suficiente, el modelo no tiene que esforzarse mucho para hacer lo correcto. Básicamente, es un ejercicio de reducción de la ambigüedad”, dijo Elias.

Este proceso de validación permite a Probably ejecutar modelos de IA más pequeños que pueden operar en hardware local, como una computadora de escritorio, en lugar de depender de modelos de frontera (frontier models). El sistema de la empresa funciona con un modelo que es cuatro clases más débil que los modelos de frontera típicos. Debido a que el sistema puede ejecutarse localmente en lugar de en un centro de datos en la nube, reduce significativamente los costos de tokens asociados con la ejecución de consultas de IA, ofreciendo una alternativa para las empresas que gestionan presupuestos de IA ajustados.

Elias argumenta que el sistema puede aplicarse a cualquier caso de uso sensible a la precisión. También señaló que los principales laboratorios de IA no han intentado construir sistemas de validación similares porque están incentivados a no hacerlo. Según Elias, estos grandes laboratorios se benefician de las correcciones de los modelos, lo que los motiva financieramente a permitir errores que los usuarios deben pagar para corregir.

Por qué importa

El enfoque de Probably desafía la tendencia de la industria de depender de modelos de frontera masivos y costosos mediante el uso de validación determinista para garantizar la precisión, lo que potencialmente reduce los costos y permite la implementación local.