搜索你想找的开源项目

输入名称、用途或关键词,也可粘贴 GitHub 仓库链接

分享到微信

当前解读页的微信分享二维码

用微信扫一扫打开,点击右上角「···」分享给朋友或朋友圈。

手机上可截屏后,在微信扫一扫中从相册识别二维码。

ninetyhe-90/training-explore

学习资源

交互式大模型训练课程,可播放、单步并核对小规模 Transformer 的真实前向数值。

105
12
TypeScript
创建于 3 天前

项目介绍

Training Explorer 把 Transformer 和大模型训练的知识放进一个可操作的工作区:选择课程后,可以播放或单步执行计算事件,同时查看真实数值、张量形状,以及对应的推导、代码和实验。它面向已经见过公式、但想在 Token 到 Logits 之间看清形状、因果 Mask、残差通路和损失如何变化的学习者。

Transformer 样板课采用一组可手算的小配置:Batch 1、4 个 Token、模型维度 4、2 个注意力头、FFN 隐藏维度 8、词表大小 6。矩阵和注意力概率由固定输入实时计算,而不是随机热图;可以沿 [B,T] 一直跟踪到 [B,T,V],事件表会把每一帧对应到具体操作和张量规模 Transformer 数值实验。

快速使用

需要 Node.js 18 或更新版本。克隆仓库后安装依赖并启动 Vite 开发服务器:

git clone <repository-url>
cd training-explore
npm install
npm run dev

打开终端中 Vite 输出的本地地址,通常是 http://localhost:5173 快速开始。如需本地检查生产构建,依次运行 npm run build 和 npm run preview 构建与预览。项目不需要数据库、API Key 或任何云端服务 无需后端。

进入界面后,用 Play、Step、Reset 以及事件表或时序条播放和跳转事件,课程侧栏可直接跳到某章的第一个事件。深入面板展示当前章节的推导、数值例、Python/PyTorch 代码和实验;语言与主题按钮可切换中英文、浅色和深色模式 操作方式。

内容范围

目前提供 14 门交互课程,覆盖训练主循环、分词与嵌入、Transformer 完整前向、反向传播与梯度、优化器、分布式训练、混合精度与显存、推理与 KV 缓存、AI Infra 量化分析、微调与对齐(SFT、DPO、RLHF、GRPO)、训练调试、最小 Agent Loop、Agent Harness 工程,以及评测、可观测性与安全 课程列表。每门课程都以原始论文、官方文档或源码资料作为参考入口。

当前只有 Transformer 样板课使用确定性的数值场景;后续计划把更多课程升级为可核对的数值状态动画,补充逐算子的反向传播演示,并让 Python 示例可自动执行、带预期输出 后续计划。

使用约束

界面使用 TypeScript、Vite 和原生 SVG,不依赖前端框架 实现原理。数值场景按事件索引从固定输入重新计算前向状态,因此连续播放、后退、跳转和主题切换不依赖上一帧残留的 DOM 状态 事件映射。

事件表里的时间用于展示教学顺序,不是真实模型延迟;缩小后的维度是教学假设,不代表生产规模、参数或输出质量。Roofline 和规模公式是估算方法,最终结果仍需在目标设备上测量 教学内容边界。Python/PyTorch 示例是配套学习材料,逐示例自动执行和结果快照仍在计划中,尚未实现 开发验证。课程、语言、主题和完成状态保存在浏览器本地,不需要账号 本地进度。

仓库未声明许可证,如需复用或再分发内容,需要自行确认授权。

HotRepo 点评

在 HotRepo 的新项目榜中,该项目以 TypeScript 项目出现,截至 2026-11-07 有 105 个 Star 和 12 个 Fork;记录的约 1.5 小时新项目窗口内新增 5 个 Star、1 个 Fork。只有这一条短周期快照,且没有记录到 GitHub 日榜名次,因此数据只能说明早期关注度,不足以判断趋势或质量。技术上值得注意的是它明确区分真实计算、教学假设和性能测量,并用事件索引到数值快照的确定性映射驱动动画;如果关心动画是否反映真实数学,这部分最值得先核对。

本文由 AI 根据项目 README 生成,更新于 ,以项目官方文档为准。