3 块钱、2 小时，从零亲手训一个能对话的大模型

实战教程 · 2026-09-22 · 大模型训练

大家好我是六六爸比，一个 85 后科技 IT 爱好者。

想搞懂大模型的人，大多卡在同一道坎上：动辄几百亿参数，个人电脑连部署都费劲；好不容易跑起来，用的又是 transformers 那种十几行代码封装好的黑盒——你会调、会微调，但始终没真正打开过那个"盒子"。上面那句话，就是 MiniMind 作者对这个现象的评价。

而有个中国开发者，把这件事反了过来。他做的开源项目 jingyaogong/minimind（63,168 星，10-05 经 API 核验），口号就一句"大道至简"，主张是：只花 3 块钱、2 小时，从 0 开始亲手训练一个约 64M 参数的超小语言模型。

▲ 从零把一颗"小大脑"亲手拼出来（概念图）

01

它到底是什么

一个把大模型"从零到能对话"整条链路彻底拆开、摊平、开源的教学型项目。它不是让你去调 GPT，而是给你一套极简结构 + 完整训练代码，让你在普通 GPU 上，从写第一行模型结构开始，亲手把一个小语言模型训出来。

作者特意强调：主线最小版本，体积约为 GPT-3 的 1/2700。小，正是它的价值——小到你读得完每一行、跑得起、改得动。

02

"从零"到底零到什么程度

这是它最硬核的地方：所有核心算法用 PyTorch 原生手写实现，不依赖第三方框架提供的高层抽象。Tokenizer、模型结构、训练循环，你都能一行行看进去。而且它给的不是"一个片段"，是整条现代大模型的训练流水线：

▲ 从数据清洗到模型蒸馏的完整链路（本文据官方 README 绘制）

数据清洗 → 预训练 Pretrain → 监督微调 SFT → LoRA → RLHF(DPO) → RLAIF(PPO/GRPO/CISPO) → 工具调用 Tool Use → 模型蒸馏，连 MoE、自适应思考都覆盖了。换句话说，现在主流大模型"怎么被喂大、怎么学会对齐、怎么学会用工具"这一整套，它都用一个能跑通的小模型给你演示了一遍。

03

"3 块钱、2 小时"是真的吗

这点作者自己写得很诚实，我原样转给你："2 小时"指的是 SFT 阶段在单张 NVIDIA 3090 上跑完 1 个 epoch 的实测耗时；"3 块钱"指对应时段的 GPU 租用成本。也就是说，它是"跑通一遍训练链路"的真实门槛，不是"训出一个能打的大模型"。

所以别误会——64M 的 MiniMind 不会跟 GPT、DeepSeek 比能力。它的意义是：用极低的成本，让你把"大模型是怎么被造出来的"这件事，亲手走一遍。这恰恰是那些动辄上亿的付费课，最不愿意认真教的部分。

04

为什么值得花这个时间

05

几个数据

作者 gongjy（国内开发者），配套 B 站视频 + ModelScope 在线体验 + HuggingFace 合集，长期霸榜 GitHub Trending，是中文 LLM 教学开源里的头部项目。

06

适合谁，不适合谁

07

我的判断

这一年所有人都在教你"怎么用大模型"，MiniMind 却回头教你"大模型是怎么被造出来的"。它训出的模型很弱，但它给的那个"从 0 到 1 亲手走一遍"的机会，在满是黑盒和付费课的中文 AI 圈里，稀缺得让人想给它打个星。

仓库放这儿：github.com/jingyaogong/minimind。

数据来源：jingyaogong/minimind 总星 63,168（2026-10-05 经 api.github.com 核验）、建库 2024-07、主语言 Python、Apache-2.0；功能、训练链路、"3 块钱/2 小时"口径、兼容生态均取自仓库 README 原文。文中两张配图为本文据官方信息绘制。细节以仓库为准。作者：六六爸比。

写在最后 · 几句掏心窝的话

关于学习：封装越好的库，越容易让你"会用但不懂"。MiniMind 的价值不是那个 64M 的小模型，而是逼你把每一行核心代码看懂——慢，才是快。

关于开源：一个中国开发者，把大模型训练的全链路免费摊开给所有人看，还配中文教程。这种"把知识还给社区"的项目，值得被更多人 star。

关于成本：别被"要几十张 A100"吓退。理解原理这件事，门槛已经低到 3 块钱、一张 3090、一个周末。真正的门槛从来不是钱，是你愿不愿意动手。

关于你自己：如果你一直说"想搞懂大模型却没搞懂"，这个周末就用 MiniMind 跑通一次 SFT。亲手训出来的那个"小东西"会跟你对话的那一刻，比看十篇科普都管用。

与君共勉:
1. AI 是打破信息茧房的利器。是我们追求信息平等的手段。
2. 警惕上来就忽悠你学各种所谓高大上的工具 Agent, 让你买教程的。
3. AI 时代你只要懂逻辑, 懂中文, 独立思考能力! 一定会有所作为!
4. 与君共勉, 与君一道踏破这 AI 门槛, 让 AI 真正为你所用!

留言区聊聊：你学 AI 时，最想看透哪个"黑盒"？

如果这篇对你有帮助，，让更多被"大模型黑盒"挡在门外的人看到这条路。

更多技术干货，关注公众号 丁卯生人（mp.weixin.qq.com/s/dingmaoshengren-home）每周更新。

— 六六爸比