https://files.catbox.moe/kij8b4.png
V2カードなのでSillytavernとかkoboldAI liteで読み込めます
確認済みモデルはOumuamua-7b-RP、Ninja-V2、Vecteus-V2
GPT系、Claudeはテストしてません
簡単な使い方(Windows)
ディスクリートGPUのついたPCがあればたいてい動くと思います
1 koboldcppをダウンロードして適当な場所に置く
https://github.com/LostRuins/koboldcpp/releases
2 Hugging Faceから適当な日本語対応GGUFモデルをダウンロードする
https://huggingface.co/Aratako/Oumuamua-7b-RP-GGUF
https://huggingface.co/MCZK/Ninja-V2-7B-GGUF
https://huggingface.co/MCZK/Vecteus-V2-7B-GGUF
のQ6_Kでテスト済み
3 koboldcppを起動し、Modelを選択し起動
4 KoboldAI Liteが起動したらこんこちゃんのV2カードをドラッグアンドドロップ
5 いろいろ入力して遊ぶ
このまえたってたスレのやつ？
>>3
こんなことぷゆしかやってなさそうだし多分そう
立てたスレはこれ
AIこんこちゃんと安価でチャットする(α版)
http://tulip-kako.fox-tools.workers.dev/test/read.cgi/tulipplantation/1723894905/
AIこんこちゃんと安価で会話する(α0.2)
http://tulip-kako.fox-tools.workers.dev/test/read.cgi/tulipplantation/1724417754/
うおおお🥺
2回目かなりいいかんじだったよね
よく分かんないけどすごい😳
!pay:40:ID:h0PxhSFoy主
-
★ID:h0PxhSFoyに40g??を送りました。
すごい😳
!pay:300:ID:h0PxhSFoy主
-
★ID:h0PxhSFoyに300g??を送りました。
ようやっとる Qwen2しか試してないけど動いたよ
!pay:40:ID:h0PxhSFoy主
-
★ID:h0PxhSFoyに40g??を送りました。
ってことは大抵の日本語モデルで動くのかな？
ぷゆみたいなスレ立てるなり改造したり楽しく使ってね
商用利用はNG
試してみる
もう公開されたのか🥺