chinachailei 发表于 2025-2-8 09:10

AMD黑苹果跑deepseek r1 14b大模型测试

我电脑配置是系统：
MacOS Sequoia 15.2
CPU：　 AMD5600G2TB硬盘，48GB，RX6650XT，跑系统：deepseek r1 14b，思考时间比较长，速度4.62 tokens/秒，显卡基本没动静，只有很少波动，内存也没压力，主要是cpu在跑，这效率还不如M1芯片的性能，大家还是换白果玩吧，黑苹果跑不了



bobo211 发表于 2025-2-8 09:43

m1pro 和m4 都不错 与1080ti 速度差不多

coolchou 发表于 2025-2-8 09:59

我用Mac Mini M4跑起来了~~~就是感觉反应有点慢~~~{:5_277:}

番茄炒西红柿 发表于 2025-2-8 16:04

M2芯片跑DeepSeek-R1-Distill-Qwen-14B-Q4，生成速度10tok/sec，CPU占用很低，大概10左右，GPU跑满，没用到ANE来跑

chinachailei 发表于 2025-2-8 16:42

番茄炒西红柿 发表于 2025-2-8 16:04
M2芯片跑DeepSeek-R1-Distill-Qwen-14B-Q4，生成速度10tok/sec，CPU占用很低，大概10左右，GPU跑满，没用到 ...

黑苹果负优化，显卡不出力

lwx1901 发表于 2025-2-8 16:57

中国的DeepSeek大模型，秒杀美国的OpenAI大模型，而且DeepSeek开源，这下OpenAI赚不到钱了

xiaomiao888 发表于 2025-2-10 10:30

chinachailei 发表于 2025-2-8 16:42
黑苹果负优化，显卡不出力

你说的好像有道理啊，可能还真是。我是12400的芯片，在黑果下跑14B，还真没在右上的监测里看到6600显卡有啥大波动。反应很慢，安8B时响应时长还可以。

amobaishi 发表于 2025-2-11 10:29

m1pro 有十多个token

aniu289 发表于 2025-2-11 10:42

现在硬件优化还跟不上，再过段时间看看
页: [1]
查看完整版本: AMD黑苹果跑deepseek r1 14b大模型测试