開源項目MiniMind兩年獲約六萬星
GitHub項目MiniMind以約64M參數、單卡NVIDIA 3090約兩小時、租卡約人民幣3元從零訓出可對話小模型爲賣點,倉庫約2024年7月創建,星標升至約6萬量級。
作者賬號jingyaogong主頁標註Nanjing University,提交高度集中於一人。文檔寫明“兩小時、三元”對應單卡3090上SFT階段1個epoch的實測與租卡價,不是全鏈路總價;預訓練單獨約1.21小時、約1.57元。主線minimind-3爲8層、隱藏維768、詞表6400,結構對齊Qwen3;另有MoE版總參約198M、激活約64M。實現用原生PyTorch覆蓋預訓練、SFT、LoRA、DPO、PPO/GRPO/CISPO、蒸餾、工具調用與Agentic RL,不依賴transformers、trl、peft高層封裝。推理可接llama.cpp、vLLM、ollama,並提供兼容OpenAI協議的服務與網頁聊天。衍生MiniMind-V、MiniMind-O與擴散語言模型分支。
64M約等於GPT-3參數量的1/2700,能做基礎多輪與簡單工具調用,不承擔前沿模型任務。項目把教學對象從“會調LoRA”改成“能讀完一條訓練循環”。
市場機制上,這是開源教學倉庫對雲上微調課的分流。受益方是要看懂循環的個人開發者與租卡平臺的短時訂單;承壓方是隻賣封裝微調模板的教程商。星標是注意力,不是收入。資金停在每小時約1.3元的3090租金,不進入新的基礎模型公司。
星標增速證明題目有效。模型能力邊界仍由64M決定,全鏈路腳本不等於可商用底座。
來源:公開信息
ABAB AI 解讀
把訓練循環寫成可在一張消費卡上跑完的教材,是對“大模型只能看論文”的反擊。作者幾乎單人提交,說明這類項目仍靠個人把算法從庫裏拆回原算子。Qwen3對齊降低了詞表與推理生態的摩擦,卻也把小模型綁在既有中文生態上。三元鉤子賣的是SFT一小時,全鏈路加上預訓練與強化學習會回到數十元與數十小時,文檔自己把口徑收窄。
資本不會按6萬星給64M估值。會按“工程師是否真正理解GRPO”給人力估值。高層封裝課繼續賣速度,原生實現倉庫賣可讀性,兩條市場並行。衍生視覺與全模態是同一作者把課程擴展成系列,而不是數據中心級預訓練。
對照nanoGPT、Karpathy課程與各校從零寫Transformer作業。行業從調用API進入復現循環:誰能在一張卡上走完對齊算法,誰就具備改算法的資格。
這屬於技術替代:黑盒微調課被可逐步運行的最小閉環替代。機制是參數裁到消費卡能裝下,算法留全,成本敘事才能傳開。
ABAB News · 認知定律
能在一張卡上跑完的循環,比只會點微調更接近原算法
兩小時三元寫的是一階段,不是全部訓練史
星標衡量題目好不好懂,不衡量模型有多強