DeciLM 6B介紹：一個高效的大型語言模型 (deci.ai)

摘要:

• Deci介紹了DeciLM 6B和DeciLM 6B-Instruct，這是新的大型語言模型（LLM），提供高性能和計算效率。這些模型擁有57億個參數，建立了推理效率和速度的新基準，可應用於各種生成式AI應用。
• DeciLM的獨特架構是使用Deci的神經架構搜索引擎AutoNAC生成的。結合Deci的推理SDK，這些模型提供了顯著的吞吐量增強，從而改善了用戶體驗，降低了推理成本，並減少了碳足跡。