手動でダウンロードしたGGUFモデルをLM Studioにインポートする方法

手動でダウンロードした GGUF モデルを LM Studio にインポートすると、組み込みの検索エンジンに頼ることなく、Hugging Face などのプラットフォームからダウンロードした LLM を使用できます。インポート方法は 2 つあります。ローカル ディレクトリ内のファイルを手動で整理するか、ターミナルでコマンドを実行するかの 2 つです。次に、 カスタムモデルをLM Studioに統合する方法をステップごとに見ていきましょう。.

手動でダウンロードしたGGUFモデルをLM Studioにインポートする理由

手動でダウンロードしたGGUFモデルをLM Studioにインポートすることで、ハードウェアの性能を最大限に引き出し、完全にプライベートな環境で作業を行うことができます。ツール以外からダウンロードしたモデルをインポートすることが推奨される状況はどのような場合ですか？ インポートすることをお勧めします。 アプリの内部検索が不十分だったり、実際のワークフローに合わなかったりする場合主な使用理由は以下のとおりです。

• 記載されていないモデル 抱きしめる顔 またはプライベート： 独自のモデルをトレーニングしている場合、または開発者が公開リポジトリに公開されていないプライベートな .gguf ファイルを共有した場合。
• ダウンロードの中断または外部マネージャー: アプリに内蔵されているダウンロードマネージャーは、接続速度が遅かったり不安定だったりすると、うまく機能しないことがよくあります。wgetのようなツールを使用すれば、ダウンロードを一時停止/再開したり、10GBから50GBまでのファイルをより確実にダウンロードしたりできます。
• 実験版またはカスタム変更版： モデル作成者がカスタム量子化を含むバリアントを公開している場合は、手動でダウンロードしたGGUFモデルをLM Studioにインポートすることも検討できます。
• インターネット接続がない場合： インターネットに接続できない場所にいる場合は、USBドライブまたはローカルネットワークを使用してGGUFファイルを転送し、LM Studioに直接統合することができます。

手動でダウンロードしたGGUFモデルをLM Studioにインポートする方法。

次に説明します 手動でダウンロードしたGGUFモデルをLM Studioにインポートする手順をステップバイステップで説明します。まず、LM Studioの内部モデルフォルダ内のファイルを手動で整理する方法を見ていきます。次に、ターミナルでコマンドを実行してインポートする方法を説明します。

ファイルを手動で整理する

手動でダウンロードした GGUF モデルを LM Studio にインポートするには、 アプリケーションが必要とするフォルダ構造に従い、内部モデルフォルダ内に配置してください。これを行うには、次の手順に従います。

1. ローカルモデルフォルダを開きます。 LM Studioを開き、「マイモデル」タブ（左側のサイドバーにあるフォルダアイコン）に移動し、「モデルディレクトリを開く」をクリックします。ファイルエクスプローラーから手動で参照する場合は、次の手順に従ってください。
   • Windows: C:\Users\YOUR_USER\.cache\lm-studio\models
   • macOS/Linux: ~/.cache/lm-studio/models
2. サブフォルダ構造を作成します。 LM Studioでは、モデルは作成者フォルダとモデルサブフォルダ内に配置する必要があります。以下のパスに従ってフォルダを作成してください：models / [作成者名] / [モデル名]。例：models/QuantFactory/Llama-3-8B-Instruct-GGUF
3. .gguf ファイルを配置します。 .gguf ファイルを、先ほど作成したモデルのサブフォルダに直接移動またはコピーしてください。
4. 再読み込みしてモデルを選択してください。 LM Studioに戻ります。「マイモデル」タブ、または上部のモデル選択ドロップダウンメニューで、「再読み込み/更新」アイコンをクリックします（すぐに検出されない場合は、アプリケーションを再起動してください）。モデルがメモリに読み込める状態になります。

時々、 LM Studio はモデルを読み込むことができません前回の記事では、 よくある間違いとその解決策 手順を一つずつ説明しているので、参考にしてみてください。モデルを読み込めない場合に何が起こっているのか、そしてどうすれば解決できるのかが分かります。

LMSインポートを使用する

手動でダウンロードした GGUF モデルを LM Studio にインポートするもう 1 つの方法は、 ターミナルで以下のコマンドを実行してください。

• LMSインポート画面に表示される指示に従って、インポートプロセスを完了してください。
• これはLM Studioの想定されるモデルディレクトリ構造です。
  • ~/.lmstudio/models/
    出版社/
    モデル/
    モデルファイル.gguf
• 例えば、infra-ai が公開した ocelot-v1 というモデルがある場合、構造は次のようになります。
  • ~/.lmstudio/models/
    インフラAI/
    オセロット-v1/
    ocelot-v1-instruct-q4_0.gguf

LM StudioのネイティブCLIを使用する

LM Studioには、コマンドラインツールが含まれています。 グラフィカルインターフェースを開かずにモデルを管理および実行する手動でダウンロードしたGGUFモデルをLM Studioにインポートするには、以下の手順を実行することもできます。

1. lmsコマンドをインストールしてください。 LM Studioを開き、サイドバーの「開発者 / CLI」タブに移動して、「'lms'コマンドラインツールをインストール」をクリックします（または、ターミナルで「lms Bootstrap」を実行します）。
2. LMSを使用してモデルをロードします。 .gguf ファイルがモデルフォルダにある場合は、lms load –gpu max を実行します。
3. 対話型の会話を始めましょう： LMSチャット。
4. OpenAIに対応したローカルサーバーを起動します。 LMSサーバーが起動します。

手動でダウンロードしたGGUFモデルをLM Studioにインポートする利点：

手動でダウンロードした GGUF モデルを LM Studio にインポートすると、いくつかの利点があります。 パフォーマンス、アクセシビリティ、カスタマイズ性に関して言えば、主な利点は主なメリットは以下のとおりです。

• より高速で安定したダウンロード： 外部ダウンロードマネージャーは、内蔵クライアントよりも低速または不安定な接続に優れています。そのため、大容量のダウンロードを中断したり再開したりしても、進行状況が失われることはありません。
• 自社モデルまたはプライベートモデルの使用： 独自のローカルモデルをトレーニングした場合、それらが公開リポジトリにホストされていない限り、これらの方法のいずれかを使用して手動でインポートする必要があります。
• オフライン環境との互換性： これにより、モデルをUSBドライブやローカルネットワークに転送して、セキュリティの高いコンピュータやインターネットに接続できないコンピュータで作業することが可能になります。
• ディスク容量の節約: llama.cpp、Ollama、AnythingLLMなどの他の環境で既に同じ.ggufファイルを使用している場合は、ファイルの重複を避けることができます。それらのファイルをLM Studioのモデルフォルダに移動またはリンクするだけで済みます。
• より高度なバージョン管理： ソースリポジトリでモデルが変更されたり、予期せず更新されたりするリスクなしに、モデルの正確な改訂版を使用することが保証されます。

結論として、GGUF モデルを LM Studio に手動でインポートすると、ローカル環境を完全に制御できます。ファイルをサブフォルダーに整理するか、ターミナルを使用するかにかかわらず、この手順により、カスタム量子化を活用したり、オフラインで作業したり、リソースを効率的に管理したりできます。この記事で説明したアイデアを適用することで、 開発体験をパーソナライズし、AIプロジェクトを強化しましょう.