求建议,求主机推荐,I need help(11.7)

某不知名厂AI应用工作,目前主要设备是 macbook air。16+512 上下班用。
但是没有主机的话 想玩玩服务,部署一些小模型玩玩不太方便(还有nas的想法,不过硬盘先不整,有个1t的移动硬盘,这个可以等等看)。

完全不打游戏,,,不需要考虑游戏性能。

目前主要在想 macmini 还是整个 mini主机 or 轻便一点的小台式机。主要顾虑:

1.macmini, 我比较想直接上 32g内存,256硬盘 m4或m4pro。这个主要是价格,之前618的时候价格不错,但当时还没上班,没咬咬牙买下来,现在价格贵的离谱,有点不忍心。
2.mini主机,看了铭凡和零刻的一些,大几千的性能好像还行?不过不知道如果是这种主机 cpu 部署 4b、9b 这种模型跑起来有没有 macmini 快。
3.小机箱主机,目前主要顾虑是内存条,现在太贵了,考虑扩展的话机箱又比较难选。找贴吧老哥推荐了一套配置,内存条1500左右(2),其余价格就不透露先:

cpu 7800x3d 
主板 微星B850MGAMING WIFI 
内存 金百达16G 6400 DDR5*2 32G 
显卡 七彩虹战斧RTX5060ti 16G 
固态 西数SN5000 2T M2 4.0
散热 七星利民AE240 
电源 航嘉WD650金牌 
机箱 未知玩家手提X200 
总计 1w左右。去掉显卡大概6500不到。

这个主要顾虑是显卡,因为我寻思估计不会跑什么太重的模型,9b能流畅跑(有个15tokens/s就行),太重的模型不需要考虑,能跑通就丢服务器上就行。如果 macmini 和 mini主机就可以的话,花大几千上个显卡感觉划不来。

或者说如果是自己装,不需要windows系统会不会更便宜,但我对硬件这方面毫无经验。自己上学的时候是日用 linux,windows其实不太会用。请各位佬给点意见,,,考虑价格和需求,如果有合适的二手 macmini 也可以考虑。另外如果是贴吧老哥给的这个配置,去掉显卡的话能不能凑合用。

1 个赞

我投M4 Pro的Mac Mini 一票, 不打游戏的话直接上Mac

目前比较中意的是 24+256 pro, 好像得8000+, 618那会应该6200左右就能拿下,,,, 可恶。

不玩游戏没必要用windows的,你这配置加显卡,算下来也要1万多了.不如买mac

主要现在mac 价格很不美丽。。。

7800x3d换96/700x 5060ti换3080 性能提一个档次

windows内存不够用的, 特别是跑AI模型, 32G明显是不行的.

你说的这个u 和显卡 不是,,降档了么? 为啥性能能更好

好吧 :rofl:

可以查下5060ti和3080的对比实测 而且3080比5060ti目前一个价位
至于7800x3d你又不打游戏你要什么x3d

跑qwen生图模型
3080 30秒
5060ti 41秒

不过3080是靠高功耗硬拉算力, 技术没有5060ti先进, 同时没必要买过保的显卡.

只在性价比上做建议 而且我是卖游戏主机的 4K这块3080甩5060ti五条街
ps.某些小厂有全新(翻新存疑)的3080/3080ti 享新卡一样质保

这样么。。。。。。 配主机的话,感觉一头雾水,也不知道什么价合适,,,, 害。

纯游戏性能确实3080强很多, 5060ti主要是新技术强, fp4的模型支持, 纳米工艺带来的低功耗和节能.

我个人来说, 挺在意低功耗的, 发热量低意味着显卡寿命更长, 并且高负载时相对比较静音.

所以,还是直接无脑macmini比较实在么? :rofl:

如果你想itx 那你就要做好钱包被掏空的准备 小板 小机箱 小电源 都要比普通的贵

功耗确实是硬伤 但是lz的小机箱就算是5060ti估计也和静音搭不上边了

买什么看需求啊, 你跑游戏还是跑模型, 跑模型具体是什么类型的模型, 选择都不太一样.

(有些fp4最新绘图模型, 就只能买50系显卡, 根本没别的选择性)

macmini不建议买 等m5,真手痒直接租云服务

现在内存完全溢价 国内这帮子人炒的厉害,今年618是个不错的diy机会,但双十一不是

最多跑跑9b的吧,不怎么涉及图。主要还是工作之余自己瞎玩玩,有个 vps,穿透挂挂博客、nas共享文件、简单点的 ocr (4 5b的样子)。毕竟做ai开发这一方面,自己有个主机也能玩玩简单的项目,,,