2 野に咲く名無し@転載禁止 2024/08/24 (土) 19:26:42.241 ID:h0PxhSFoy主
簡単な使い方(Windows)
ディスクリートGPUのついたPCがあればたいてい動くと思います
1 koboldcppをダウンロードして適当な場所に置く
https://github.com/LostRuins/koboldcpp/releases
2 Hugging Faceから適当な日本語対応GGUFモデルをダウンロードする
https://huggingface.co/Aratako/Oumuamua-7b-RP-GGUF
https://huggingface.co/MCZK/Ninja-V2-7B-GGUF
https://huggingface.co/MCZK/Vecteus-V2-7B-GGUF
のQ6_Kでテスト済み
3 koboldcppを起動し、Modelを選択し起動
4 KoboldAI Liteが起動したらこんこちゃんのV2カードをドラッグアンドドロップ
5 いろいろ入力して遊ぶ