deepseek-r1:1.5b 真的有点用吗？

[Grok]

用过的来说一说。。。1.5b 呀。。。

[jwangkun]

7B 还是很强

[handsome (大帅哥)]

太小了吧

[jxjz (剑啸九粥)]

1.5感觉有点呆

[admini]

{
“architectures”: [
“Qwen2ForCausalLM”
],
“attention_dropout”: 0.0,
“bos_token_id”: 151643,
“eos_token_id”: 151643,
“hidden_act”: “silu”,
“hidden_size”: 1536,
“initializer_range”: 0.02,
“intermediate_size”: 8960,
“max_position_embeddings”: 131072,
“max_window_layers”: 21,
“model_type”: “qwen2”,
“num_attention_heads”: 12,
“num_hidden_layers”: 28,
“num_key_value_heads”: 2,
“rms_norm_eps”: 1e-06,
“rope_theta”: 10000,
“sliding_window”: 4096,
“tie_word_embeddings”: false,
“torch_dtype”: “bfloat16”,
“transformers_version”: “4.44.0”,
“use_cache”: true,
“use_mrope”: false,
“use_sliding_window”: false,
“vocab_size”: 151936
}
这个直接部署会很强。蒸馏的就不行了。

[jxjz (剑啸九粥)]

mark一下

[ares.andy]

官网现在是不是就是R1？

[jxjz (剑啸九粥)]

开启深度思考后是

[ZoroAster (llliiilll)]

我的评价是比较拉跨，基本上只能做对比较出名的几个题目和他的变种，换一道题就不会了，甚至单词都认不对。

[codecow]

用了，确实不太好用，至少7b起步把。30能好点

[ZoroAster (llliiilll)]

横向对比了一波，感觉32B和14B的性价比比较高。

[vczf (街满)]

有prompt能不输出思考过程吗

[Daryl_Lee (爷今天高兴)]

部署了个玩了下， 很拉跨，问了个问题，想了几分钟，到后面都开始输出一堆英文，最后还给了个错误答案

[yqyan (Grogu)]

竟然答对了，关键是速度飞飞的

[yqyan (Grogu)]

再来一遍，竟然是这样的答案，这思路比较奇葩，但也不能说不对

[yqyan (Grogu)]

这个虽然回复的是英文，但也对了，感觉还能撮合着玩，重点是回复速度杠杠的

[bbxxx]

deepseek-r1-7B-Q4量化的回答，这是我见过最差的模型，没有之一

[yqyan (Grogu)]

你这玩法不正确，不同的模型适合的场景不同
要不佬友问问 Qwen2.5-7B “3.11和3.9哪个大” 试试，大概率它就成“人工智障”了

[yqyan (Grogu)]

佬友部署的哪种量化版本的？

[jxjz (剑啸九粥)]

14B 需要多大的显存呢？