Deci stellt DeciLM 6B und DeciLM 6B-Instruct vor, neue Large Language Models (LLMs), die hohe Leistungsfähigkeit und Rechenleistung bieten. Mit 5,7 Milliarden Parametern setzen diese Modelle einen neuen Maßstab für Inference-Effizienz und Geschwindigkeit und können in einer Vielzahl von generativen KI-Anwendungen eingesetzt werden.
Die einzigartige Architektur von DeciLM wurde mit AutoNAC, Deci's Neural Architecture Search Engine, generiert. In Kombination mit Deci's Inference SDK bieten diese Modelle eine deutliche Steigerung der Durchsatzleistung, was zu einer verbesserten Benutzererfahrung, einer Reduzierung der Inferenzkosten und einem geringeren Umwelteinfluss führt.