FEATURED SERIES / BONSAI
Bonsai 量化教程
三值编码、QAT 和推理实验。
先在浏览器里改几个数,试试三值打包,再看训练、检查点恢复和推理。需要大显卡的实验会单独写明硬件要求。
- 01BROWSER & CPU / START SMALL
三值编码与 CPU 测试
先在浏览器里打包五个三值,再按需复制 Python 示例,或在 Linux CPU 上运行量化、梯度和恢复测试。
- 0235B MoE / 2×B300
35B 全专家 QAT
从两步控制学习教师、专家主权重和检查点恢复;长程训练已暂停。
- 0327B · 35B · 122B / RTX 5090
三款模型下载与部署
权重已公开,按各自加载器运行;速度口径不同,质量仍有限制。
01 / 调试练习
同一个文件名,套进列表就下载失败了
切换文件名与传参形式,看看路径在哪一步变了。沿着 fsspec 的一次真实修复,学习怎样复现错误、保留正常输入的对照,再用 Python 重跑。
开始学习 · 约 7 分钟→
想继续读模型代码?可以从 minimind-diffusion 的模型测试 ↗ 开始。测试能帮助理解张量形状和计算过程;生成效果还要另行评估。