1 エッヂの名無し 2025/02/01(土) 11:24:43.775 ID:xBmWmmWA1
秒間2トークンだけどすごくてくさ
https://i.imgur.com/uWTjJlN.png
https://i.imgur.com/HMmnC1q.png
2 エッヂの名無し 2025/02/01(土) 11:25:18.282 ID:dDE5juQeH
よくわからんけどすごそう
3 エッヂの名無し 2025/02/01(土) 11:25:40.851 ID:.ePiNOB6t
ちなvram代わりにssd使えばよくねってアプローチは10年ぐらい前からある
4 エッヂの名無し 2025/02/01(土) 11:25:56.767 ID:qtU.LcqmW
使いまくればSSDに何十何百GBもの読み書きが発生して一気に寿命縮むんでない？
5 エッヂの名無し 2025/02/01(土) 11:25:59.926 ID:IbIAifQO2
そんなんできるんか
7 エッヂの名無し 2025/02/01(土) 11:26:23.334 ID:NACa5raRA
AIのオープンソースばらまかれたってやっぱやばいよなぁ
9 エッヂの名無し 2025/02/01(土) 11:27:19.082 ID:FCSnpK46E
スワップ？
10 エッヂの名無し 2025/02/01(土) 11:27:32.836 ID:xBmWmmWA1
>>3-4
MoEで推論時に大半のパラメーターへのアクセスがないDeepSeekだから有効なんじゃないかな
11 エッヂの名無し 2025/02/01(土) 11:27:33.282 ID:3TM4wyy19
SSD逝く
12 エッヂの名無し 2025/02/01(土) 11:28:35.496 ID:L03YoX9Ev
クッソ遅くて草
13 エッヂの名無し 2025/02/01(土) 11:28:44.807 ID:IbIAifQO2
ほんまVRAM足らんの困るわ
GPGPUにしか使わんからもっと安くいっぱい積んでくれ
14 エッヂの名無し 2025/02/01(土) 11:29:07.616 ID:U1lwt8eNC
AIゴリゴリ研究してるやつすごいよな
こういう低レイヤの話全くわからん
17 エッヂの名無し 2025/02/01(土) 11:30:47.539 ID:4u/t1FNCN
SSDの寿命がマッハなんだが
18 エッヂの名無し 2025/02/01(土) 11:30:56.617 ID:oA7.m6nng
結局やってることは仮想メモリだろ？
実用性の問題で見向きもされなかっただけで
19 エッヂの名無し 2025/02/01(土) 11:31:23.291 ID:nGZ2jSJmd
SSDより普通のメモリのが早いんじゃないの？そっちは使えないんか
20 エッヂの名無し 2025/02/01(土) 11:31:37.052 ID:lK4L6Fq49
激遅定期
21 エッヂの名無し 2025/02/01(土) 11:32:04.172 ID:9WZpcfXP2
22 エッヂの名無し 2025/02/01(土) 11:32:35.462 ID:YcBBKcrYD
そら動かすだけならできるんとちゃう
23 エッヂの名無し 2025/02/01(土) 11:35:13.416 ID:eg1DEpGwT
遅すぎて使い物にならんやろ
ちょっとした3万文字の小説とか要約やレビューに入れるだけで30000トークンとか行くんだぞ？
毎回15000秒待てとか地獄やろ
24 エッヂの名無し (sage) 2025/02/01(土) 11:35:19.818 ID:olGODQ79/
>>19
それは前からあるで
遅くて実用性ないからみんな切ってる
ビデオカードない人でどうしても動かしたい人向けやな
26 エッヂの名無し 2025/02/01(土) 11:37:59.290 ID:.zfyQZAyV
CUDAは？
29 エッヂの名無し 2025/02/01(土) 11:38:48.876 ID:6wuRGkd4s
ただの仮想メモリやんけ
