犬飼たつきちのWindowsライフ

#Windows #自作PC #STEAM #ハードウェア

このブログは、アフィリエイトプログラムやアドセンスを利用しています。

【ミドル以上のGPU持ってる人必見】自分のPCでLLM(AIチャット)を簡単に動かす方法【電気代だけ】

動作環境

OS : Windows11

メインメモリ : 32GB

CPU : AMD Ryzen 5 2600

GPU : NVIDIA GeForce RTX 4060

アプリをダウンロード

lmstudio.ai

上記からアプリをダウンロードします。

モデルのダウンロード場所の指定

フォルダタブのchangeからモデルをダウンロードする場所を選択することができます。

どこでもいいよという人は変える必要はありません。(アプリのデフォルトの場所になります。)

モデルのダウンロード

Home画面からモデルのダウンロードができます。

青色のダウンロードボタンを押すだけで完了です。

AIとチャットしよう

真ん中のチャットタブで、ダウンロードしたAIモデルとチャットしましょう

おまけ

さすがのLlama3.1 8B

以下略

日本語苦手なMistral 7B

英語でプログラミングの質問するとバチクソ流暢になるMistral 7B

おわり