2025年春节,DeepSeek 引发了一场声势浩大的 AI“淘金热”,国内主流电商平台也开始一茬接一茬地收割韭菜。
得益于 DeepSeek 的开源策略,本地部署 DeepSeek R1 的教程也成为新一轮收割韭菜的 AI 秘籍。
尽管许多卖课博主声称能轻松运行满血版 DeepSeek R1,但满血版 R1 模型参数高达 671B,仅模型文件就需要 404GB 存储空间,运行时更需要约 1300GB 显存。
对于普通玩家来说,运行的条件苛刻,且门槛极高。
海外博主已经整理出相关配置供大家参考。只要 GPU 等于或超过 VRAM 要求,模型仍然可以在规格较低的 GPU 上运行。但是设置不是最佳的,并且可能需要进行一些调整。
Hugging Face 的工程师马修·卡里根在 X 平台展示了运行完整 DeepSeek-R1 模型,Q8 量化,无蒸馏的硬件 + 软件设置,成本大约为 6000 美元。
在本地部署效果就不尽如人意。面对具体问题时,它无法准确“按图索骥”,或者干脆胡编乱造,准确率堪忧。
对绝大多数用户来说,老老实实用官方版或者使用第三方平台才是目前最优解,它不需要投入昂贵的硬件成本,也不用担心性能受限。