04 GUIDES

LEARNING / HANDS ON

动手试试

从浏览器小实验、CPU 推箱子,到模型训练与量化。每篇先说明需要什么,再带你动手跑一遍。

FEATURED SERIES / BONSAI

Bonsai 量化教程

三值编码、QAT 和推理实验。

先在浏览器里改几个数,试试三值打包,再看训练、检查点恢复和推理。需要大显卡的实验会单独写明硬件要求。

  1. 01
    BROWSER & CPU / START SMALL

    三值编码与 CPU 测试

    先在浏览器里打包五个三值,再按需复制 Python 示例,或在 Linux CPU 上运行量化、梯度和恢复测试。

  2. 02
    35B MoE / 2×B300

    35B 全专家 QAT

    从两步控制学习教师、专家主权重和检查点恢复;长程训练已暂停。

  3. 03
    27B · 35B · 122B / RTX 5090

    三款模型下载与部署

    权重已公开,按各自加载器运行;速度口径不同,质量仍有限制。

01 / 调试练习

同一个文件名,套进列表就下载失败了

切换文件名与传参形式,看看路径在哪一步变了。沿着 fsspec 的一次真实修复,学习怎样复现错误、保留正常输入的对照,再用 Python 重跑。

  • 浏览器演示
  • Python
  • 路径处理
  • 回归测试
开始学习 · 约 7 分钟→

02 / 决策模型

Jev 决策模型:从推箱子学候选打分

先用 CPU 试玩随附策略,再看模型怎样给候选动作打分。接着可以自己训练推箱子策略,或试试本地页面按钮选择。

  • CPU 起步
  • PyTorch
  • 候选打分
  • 训练与评测
开始学习 · 约 6 分钟→
Jev 推箱子本地演示,比较训练前后与随机策略,显示棋盘和候选动作概率
仓库随附演示 · CPU 可运行

03 / 推理小实验

文件名没变,缓存为什么会返回旧结果?

改了文件内容,缓存为什么还返回旧结果?在浏览器里点几下就能看到,不需要模型或 GPU。

  • 零安装
  • 可交互
  • 缓存
开始学习 · 约 8 分钟→
想继续读模型代码?可以从 minimind-diffusion 的模型测试 ↗ 开始。测试能帮助理解张量形状和计算过程;生成效果还要另行评估。