qqys
发表于 2025-2-3 22:03
我觉得要是能设个专题论坛就好了!
1ee2y
发表于 2025-2-3 22:14
guois 发表于 2025-2-3 21:32
32B Q4km的会解答的更详细一些
我电脑跑32B Q4就只有一秒一个字的速度了
windlau
发表于 2025-2-3 22:16
感谢大佬
柳紫烟
发表于 2025-2-3 22:45
看看,试试
muyu633
发表于 2025-2-4 21:36
谢谢楼主分享。
muyu633
发表于 2025-2-4 21:37
deepseek-r是最好谢谢!
muyu633
发表于 2025-2-4 21:38
笔记本10U能用吗?
hiv002
发表于 2025-2-4 22:33
rubycon 发表于 2025-1-28 18:00
没有 RTX4090\5090,还是算了吧。
确实是的。
zjlyx007
发表于 2025-2-5 10:50
感谢分享~~~~~~~~~~~
yxyshadow
发表于 2025-2-5 11:14
mark,有空试一下。
浪情人
发表于 2025-2-5 11:49
多谢分享,deepseek好东西
muyu633
发表于 2025-2-5 12:53
首回
感谢大佬
天际云飞
发表于 2025-2-5 13:31
感谢分享
大嘴兔
发表于 2025-2-5 13:34
本子配置不够{:5_272:}
cglinux74380
发表于 2025-2-5 15:48
下载备用
CHTKA
发表于 2025-2-5 19:58
谢谢分享
李文杜
发表于 2025-2-5 20:57
谢谢分享资料。
jimis
发表于 2025-2-5 22:33
今天在电脑上部署了一个8b模型,试了试还是很满意
Kobato
发表于 2025-2-5 22:39
破电脑就不用试了,等升级到量子电脑再考虑
明天的明天
发表于 2025-2-6 08:52
JARK006 发表于 2025-1-28 15:16
如果显卡一般,也可以参考我这种方法跑蒸馏版CPU版,蹦字较慢:
1. 去 https://github.com/ggerganov/llam ...
学习了
页:
1
2
3
4
5
6
7
8
[9]
10
11
12