Emma

サマリー:

  • ペタルズランでは、Llama 2、Stable Beluga 2、Guanaco-65B、またはBLOOM-176Bなどの大規模な言語モデルを自宅で共同で実行することができます。モデルの一部をロードし、他の人が異なる部分を提供して推論や微調整を実行します。
  • オフロードに比べて最大10倍高速であり、チャットボットやインタラクティブなアプリの構築に適しています。また、クラシックな言語モデルAPIを超えた柔軟性も提供し、微調整、カスタムパス、隠れた状態の表示が可能です。