搞个llama-3.1-405b-instruct玩玩，随便跑，管够

资源荟萃
1

网址:

拿去，随便跑，尽管跑！

33 个赞
2

自顶贴

1 个赞
3

感谢分享

1 个赞
4

感谢

1 个赞
5

顶顶顶

6

这么大是如何跑起来的

7

英伟达那个？

8

调得api吧

9

是的

10

主要是玩玩

11

自顶贴。。

12

感谢分享

13

为啥速度这么快

15

这速度也太快了！！

1 个赞
16

大佬太有实力了

1 个赞
17

不是本地部署啊。

1 个赞
18

感谢

19

感谢！怎么楼主这模型响应这么快！（流式输出比三巨头慢些，但响应神速），另外楼主这 NextChat 怎么功能这么全的？连 Stable Diffusion 都有。

20

nextchat我习惯用爆改版本

21

顶一下