站在局外看DeepSeek本地部署

jyssysz · 发表于 2025-2-12 09:20:04

2025年春节，DeepSeek 引发了一场声势浩大的 AI“淘金热”，国内主流电商平台也开始一茬接一茬地收割韭菜。
得益于 DeepSeek 的开源策略，本地部署 DeepSeek R1 的教程也成为新一轮收割韭菜的 AI 秘籍。
尽管许多卖课博主声称能轻松运行满血版 DeepSeek R1，但满血版 R1 模型参数高达 671B，仅模型文件就需要 404GB 存储空间，运行时更需要约 1300GB 显存。
对于普通玩家来说，运行的条件苛刻，且门槛极高。
海外博主已经整理出相关配置供大家参考。只要 GPU 等于或超过 VRAM 要求，模型仍然可以在规格较低的 GPU 上运行。但是设置不是最佳的，并且可能需要进行一些调整。

Hugging Face 的工程师马修·卡里根在 X 平台展示了运行完整 DeepSeek-R1 模型，Q8 量化，无蒸馏的硬件 + 软件设置，成本大约为 6000 美元。

在本地部署效果就不尽如人意。面对具体问题时，它无法准确“按图索骥”，或者干脆胡编乱造，准确率堪忧。
对绝大多数用户来说，老老实实用官方版或者使用第三方平台才是目前最优解，它不需要投入昂贵的硬件成本，也不用担心性能受限。

新空气 · 发表于 2025-2-12 10:20:03

没折腾，瞧瞧GPU配置，看来只能看看
网上利用DeepSeek的各种捞金手段层出不穷

e0yue · 发表于 2025-2-12 12:41:33

必须是用不起，有免费的就用免费的吧。

jyssysz · 发表于 2025-2-12 22:57:29

现在割韭菜的人一批又一批，韭菜一茬又一茬！

e0yue · 发表于 2025-2-13 14:42:52

jyssysz 发表于 2025-2-12 22:57
现在割韭菜的人一批又一批，韭菜一茬又一茬！

这个必须有矿才能用得起，因为硬件要求很高。

e0yue · 发表于 2025-2-22 11:40:45

老板说让我部署一个，请问我要怎么操作？版主

jyssysz · 发表于 2025-2-22 23:05:33

给领导看看deepseek对硬件的要求，说明不同硬件的用户体验。看领导意愿，然后申请经费，开始部署。
多少钱办多大事！

jyssysz · 发表于 2025-2-22 23:08:03

设备参数等最好多找几个专业人事一起建议。部署也几个人一起。
分散风险，共同承担。

[折腾] 站在局外看DeepSeek本地部署