想本地部署个AI模型

佬友们推荐一下部署上好用且免费部署,deepseek一堆要我v50

可供参考
下载ollama,复制符合条件的下面的命令,就可以部署

8 个赞

哇!看起来好厉害,感谢佬!

ollama 或者 lmstudio

哇优秀的网站,收藏了

Snipaste_2025-04-13_16-14-00
打开我的电脑一看 :raised_hand: :sob: :raised_back_of_hand:

推荐该贴

2 个赞

别小看集显,我拿来打游戏一点问题都没有。
只是现在ollama没有足够的优化,用不了这种集显的共享显存。

我这不是核显吗 :thinking:
玩steam里面有些游戏还是比较吃力的,打瓦都有一点点吃力

部署过ollama表示,没有超级强大的显卡和内容还是别玩,不然就是一顿操作猛如虎,一用就是250.小模型一言难尽哪。。

4060只能跑8B这种智障模型啊

内存32以上可以跑14B
我是64G,跑14B尝试没有压力
不过不如用现成的

1 个赞

有时没网啊啊很难受

本地部署后好像是能断网使用的

所以部署 不过google的gmana和deepseek哪个好点 内存还有100+GB

建议立省60G使用佬友Api白嫖 :tieba_087:

api倒不缺 佬友的根本用不完,况且我也用的少 不怎么玩酒馆

这不 DeepChat 嘛 :bili_040:

QWQ和deepseek部署哪个好些呀

此话题已在最后回复的 30 天后被自动关闭。不再允许新回复。