Valuación de $800 millones para Inferact, startup que comercializa tecnologías de inferencia en inteligencia artificial.
En un momento en que la inteligencia artificial (IA) se centra en desplegar modelos en aplicaciones, más que entrenarlos, las tecnologías que aceleran y facilitan el uso de estas herramientas IA están llamando la atención de los inversionistas. Dos proyectos pioneros en este campo son vLLM e SGLang, creados en el laboratorio del profesor Ion Stoica en la Universidad de California en Berkeley.
El proyecto vLLM, que se convirtió en el startup Inferact con un atractivo valoración de $800 millones y una financiación de $150 millones en sus etapas iniciales, es un ejemplo clave de esta tendencia. La transición de vLLM a Inferact fue liderada por Andreessen Horowitz y Lightspeed Venture Partners, lo que confirma la información anterior según la cual vLLM había recibido financiamiento de a16z.
**La importancia del despliegue de modelos en aplicaciones**
El enfoque en el despliegue de modelos en aplicaciones es un cambio fundamental en la forma en que se aborda la IA. En lugar de enfatizar solo en entrenar modelos, los desarrolladores y los investigadores se centran en integrar estos modelos en aplicaciones reales y facilitar su uso.
**La creciente demanda de tecnologías de inferencia**
Las tecnologías como vLLM e SGLang que permiten a los modelos IA ejecutarse más rápido y a un costo más asequible están atraiendo la atención de los inversionistas. La confirmación de esta tendencia se ve reflejada en la transición de RadixArk, otro proyecto incubado en el laboratorio del profesor Stoica, que recibió financiamiento a una valoración de $400 millones.
**La visión de Simon Mo**
Simon Mo, CEO de Inferact y uno de los creadores originales del proyecto vLLM, destaca la importancia de la colaboración entre desarrolladores y usuarios finales. En declaraciones a Bloomberg, Mo destacó que existen ya usuarios de vLLM, incluyendo Amazon's cloud service y la aplicación de compras.
**Análisis de riesgo**
La transformación de proyectos de código abierto en startups con financiamiento puede llevar a una mayor centralización de poder y control sobre el desarrollo y la implementación de tecnologías. Sin embargo, también puede impulsar la innovación y la colaboración al hacer que los desarrolladores y los usuarios finales trabajen juntos más estrechamente.
Es importante considerar que la creciente demanda de tecnologías de inferencia puede llevar a una mayor dependencia de la IA en aplicaciones críticas, lo que aumenta el riesgo de errores o fallos. Además, la falta de transparencia y accountability en la implementación de modelos IA puede generar preocupaciones sobre la privacidad y la seguridad de los datos.
En resumen, la transformación de proyectos de código abierto en startups con financiamiento es un paso importante hacia el despliegue de modelos IA en aplicaciones reales. Sin embargo, también es fundamental considerar los riesgos y las implicaciones éticas asociadas con esta tendencia.