麦克雷

标题: Mac Studio顶配版能本地部署671B版本的吗？ [打印本页]

作者: 艾的民 时间: 2025-3-20 19:08
标题: Mac Studio顶配版能本地部署671B版本的吗？
单人单用户，本地部署，DeepSeek 671B版本，能带动吗？

(, 下载次数: 7)

(, 下载次数: 7)

作者: 艾的民 时间: 2025-3-20 19:08
(, 下载次数: 7)

作者: WilliamOi 时间: 2025-3-20 19:09
幽默

作者: RichardPep 时间: 2025-3-20 19:10
B站有M2 Ultra顶配的测试跑671B的视频，推理速度是15tok/s还是多少，反正不算低的，M3U估计能更快一点吧，相对平民而言，这个部署方案可能比较算是有性价比的了（对比能推理和流畅推理而言）

作者: cdixeji 时间: 2025-3-20 19:10
可以，不过最多q4

欢迎光临麦克雷 (http://imac.ly/)