我和女朋友,走进了《非凡之爱》
用本地 MiniMax H3 和 ComfyUI,把《非凡之爱》的主角换成我和女朋友。从角色设计、逐镜参考图到批量生成,再到七个镜头的返修,记录这支约 85 秒复古动画短片的制作过程。
Blog
围绕 Agent、LLM 系统、论文阅读、工程实践和设计思考的长期写作。
用本地 MiniMax H3 和 ComfyUI,把《非凡之爱》的主角换成我和女朋友。从角色设计、逐镜参考图到批量生成,再到七个镜头的返修,记录这支约 85 秒复古动画短片的制作过程。
刷到“大法师”海克斯时,往往已经来不及查当前英雄适合哪些技能组合、每个技能该点几级。我做了一个互刷研究所,把技能资料、加点搭配和急速门槛放在同一个页面里。
从人脑的参数量、终身语言输入和 Chinchilla 法则出发,追问个体认知的真正边界:即使学习高效,一生的信息带宽是否仍然有限?机器的可复制性与可扩展性,又改变了什么?
逐行拆解 MiniMind 的完整训练管线:预训练、SFT 与 LoRA、DPO / PPO / GRPO 强化学习,以及 GRPO / DAPO / GSPO 的策略损失推导——数据构造、损失函数与关键工程细节。
Predictable scaling 让大模型开发从盲目的算力竞赛变成了可预期的工程决策——用小模型外推大模型的上限。但 loss 可预测,不代表能力和校准性也可预测。
Transformer 的关键不是注意力更聪明,而是把信号传递路径压成常数。代价是 O(n²) 计算——这笔交易在 2017 年成立,到现在还没结清。
GPT-3 的重点不是 1750 亿参数,而是把任务适应从微调阶段挪到了上下文中。