分享一下个人DIY的低配电脑部署deepseek-r1

电脑配置:

  • CPU 和内存(CPU经过物理飞升,正常睿频4.10GHZ,实测能到4.5GHZ
    image
  • 显卡(二手水洗卡,现在价格400多)

本地部署ollama。安装deepseek-r1:7b

image

使用时

文字回复速度还可以,是正常人的阅读速度,但是CPU直接拉满了,不确定在回答问题时是否可以使用其他idea开发工具(个人感觉够呛)。

我的上一个问题是
有一个15边形边长为2.5cm,我想知道一个顶点到相邻的第二个顶点的直线距离是多少cm
思考过程不错,有计算、有纠错,个人感觉本地部署和优化还可以

2 个赞

感谢分享

樱佬还是速度啊!

家宽杠杠的

7B手机都能跑:joy:

个人部署的基本上没有什么实用价值。聊胜于无。

ww不过感觉小模型意义不是特别大…?

看网上评论说这个7B的跟弱智差不了多少,不知道对不对?

还好吧,主要是我想在本地做一些小应用,比如说个人助手(告诉它我要做什么然后记录提醒之类的),或者一些小文本的分析啥的,具体还没想好

1 个赞

这个就需要具体要看跟哪个量化版本比了

try一下嘛,寻思看看性能瓶颈

我的感觉70B的蒸馏版本都有点笨了。。。

如果要用于生产力,14B还是有必要的,用7B的话记得结合这个插件,参数量不够内容不足,主要使用它的COT,打开网页搜索功能和RAG,基本就能用了

1 个赞

感谢大佬!

2 个赞

这是gpt的回答,我没算过,不知道对不对

请问什么是水洗卡?

就是批量翻新的2手卡,一般都是从矿场淘汰下来的

此话题已在最后回复的 30 天后被自动关闭。不再允许新回复。