Emma

摘要:

  • Petals Run 讓您能夠在家中協作運行大型語言模型，如 Llama 2、Stable Beluga 2、Guanaco-65B 或 BLOOM-176B。您只需加載模型的一小部分，然後與其他人一起服務不同的部分以進行推理或微調。
  • 它比卸載快達 10 倍，非常適合構建聊天機器人和互動應用。它還提供了超越傳統語言模型 API 的靈活性，允許進行微調、自定義路徑和查看隱藏狀態。