Deci presenta DeciLM 6B y DeciLM 6B-Instruct, nuevos Modelos de Lenguaje Grande (LLMs) que ofrecen alto rendimiento y eficiencia computacional. Con 5.7 mil millones de parámetros, estos modelos establecen un nuevo punto de referencia para la eficiencia y velocidad de inferencia, y se pueden utilizar en una amplia gama de aplicaciones de IA generativa.
La arquitectura única de DeciLM fue generada utilizando AutoNAC, el motor de búsqueda de arquitectura neuronal de Deci. Junto con el SDK de inferencia de Deci, estos modelos ofrecen una mejora sustancial en el rendimiento, lo que resulta en una mejor experiencia del usuario, una reducción en el costo de inferencia y una huella de carbono más pequeña.