Hugging Face のオープンモデルを自分のパソコンで動かす
- 設定の 自分のパソコンで動かす に Hugging Face モデル の欄ができました。モデルのリンクを貼ると、ダウンロードできる版とサイズ、必要な VRAM が並びます。コマンドをコピー を押してターミナルで実行するとダウンロードが始まります。
- 研究機関が公開した元の重みはそのままでは動かないため、貼ると変換済みの版が一覧で出ます。一つ選んでください。
- ダウンロード後に このパソコンを検出 を押し、モデル選択で選びます。名前は「モデル名 · 版」と表示されます。