Transformer革命：八位發明者如何重寫AI架構與權力格局
發明邊界
先把“誰發明了 Transformer”這件事說清楚。按公開文獻最嚴格的口徑，Transformer 不是某一個人的單獨發明，而是 2017 年論文《Attention Is All You Need》的八位共同作者的集體發明：Ashish Vaswani、Noam Shazeer、Niki Parmar、Jakob Uszkoreit、Llion Jones、Aidan Gomez、Lukasz Kaiser、Illia Polosukhin。論文腳註明確寫了“Equal contribution. Listing order is random.”，並且逐一寫明八人的具體分工。這個腳註非常關鍵，因爲它直接否定了“只有第一作者纔是真正發明者”的常見誤讀。
這一發明不是憑空出現的。它發生在 sequence transduction 遇到瓶頸的時刻：當時主流是 RNN、LSTM、GRU、以及帶 attention 的 encoder-decoder 體系，但這些方法要麼訓練路徑長、要麼難並行、要麼對長距離依賴不夠友好。Transformer 的 radical 之處不在於“第一次想到 attention”，而在於把路線推到最極端：把 recurrence 和 convolution 全部拿掉，只保留 self-attention 作爲核心計算組織方式。這讓模型更適合 GPU/TPU 這類並行硬件，也改變了後面整整一代大模型的擴展方式。
原始論文的成績在當時已經不是“有點意思”，而是直接打到 SOTA。論文報告：在 WMT 2014 English-to-German 任務上，模型達到 28.4 BLEU；在 English-to-French 上，單模型達到 41.0 BLEU；大模型在 8 塊 P100 GPU 上訓練 3.5 天即可完成，而基礎模型甚至只需約 12 小時。這意味着它不只是更準，也更便宜、更適合規模化訓練。後來的大模型浪潮，首先不是“更會聊天”，而是“更能被訓練出來”。
從命名到敘事，Transformer 一開始就帶着一種“泛化野心”。據論文同期的官方博客和後來的採訪重建，這個模型從 day zero 就被當作一種可遷移到多任務、跨模態的通用架構，而不是隻爲機器翻譯做的局部改良。官方博客在 2017 年 8 月已經寫得很清楚：團隊很快就把它延展到 parsing，並且預告會繼續用於圖像、視頻等不同輸入輸出形式。也就是說，Transformer 從誕生那天起，就不是“翻譯模型”，而是“可擴展的學習計算框架”。
到 2026 年，這篇論文的引用量已經進入“不同數據庫口徑不同，但無論怎麼算都極其誇張”的區間。Google Research 頁面與 NeurIPS 頁面顯示其引用數超過 24 萬；Semantic Scholar 給出的口徑約爲 17.3 萬。數字之所以不同，是數據庫收錄與統計規則不同；但結論沒有分歧：它已經是 21 世紀最具影響力的一批 AI 論文之一。
共同發明者畫像
Vaswani 的成長路徑，最像“工程師轉向基礎研究，再轉向平臺創業”的模板。公開採訪顯示，他是建築師與醫生的兒子，童年主要在阿曼長大，15 歲後回到那格浦爾；少年時期同時受印度科學家與微軟創業故事影響。完成Birla Institute of Technology Mesra計算機專業學習後，他先在 IT 行業工作，之後離職去University of Southern California讀碩士、再讀博士，2014 年完成題爲《Smaller, Faster, and Accurate Models for Statistical Machine Translation》的博士論文。對他影響最大的，不是某個單一導師神話，而是“我意識到 deep learning 纔是突破要發生的地方”這類方向判斷。
職業上，Vaswani 在Google Brain完成了自己最重要的研究躍遷：從統計機器翻譯與自然語言處理走向更普遍的深度學習架構設計。論文腳註說明，最早的 Transformer 模型由 Jakob 提出“用 self-attention 替代 RNN”的方向後，主要由 Ashish 與 Illia 設計和實現第一批可工作的模型；腳註還特別強調他“幾乎參與了這項工作的每一個層面”。論文之後，他在 2021 年共同創辦Adept AI Labs，2023 年再與 Niki 等人創辦Essential AI並擔任 CEO。Adept 走“模型驅動軟件動作自動化”，Essential 則更強調 full-stack enterprise AI 與 open science。
Shazeer 的公開形象更像“極強的系統型研究員 + 產品化野心極強的創業者”。家庭背景公開資料有限，但職業軌跡相當清楚：他畢業於Duke University，2000 年進入Google，先做搜索拼寫糾錯，後參與 AdSense 核心算法。到 Transformer 時，他已經是組內資深者。其個人網站明確把 multi-head attention、residual architecture、首個優於 SOTA 的工作實現列爲自己的關鍵貢獻；Google Research 當前頁面則顯示，他如今是 Gemini 的 co-Tech-Lead。2021 年他共同創辦Character.AI，2024 年又通過與谷歌的許可與回聘安排回到Google DeepMind體系；2026 年，他當選美國國家工程院院士。
Parmar 的故事，和“標準精英學術路徑”幾乎相反。她在浦那一個 lower-middle-class 家庭長大；母親年輕時想學建築卻未能實現，這種“未完成的願望”反過來推動女兒更堅定地去追自己想做的事。她沒有進入 IIT，而是轉向自學 AI；赴美讀研初期，父親和叔叔還曾四處借錢支撐她度過最初幾個月。關於她本科就讀學校，公開資料說法不一：NDTV 的訪談寫成 Pune Institute of Technology，而 Forbes India 則寫成 Pune Institute of Computer Technology；可以確認的是，她 2013 至 2015 年在 USC 完成計算機碩士，之後進入谷歌。
Parmar 在發明過程中的位置，遠比外界常見的“第三作者”表述重要。原論文腳註寫得很具體：她在原始代碼與 Tensor2Tensor 體系裏設計、實現、調參並評估了“countless model variants”。也就是說，她不是負責包裝、不是隻寫論文，而是負責把不穩定的發明變成大規模可比較、可複製、可迭代的研究程序。2015 年加入谷歌時，她年僅 24 歲，是團隊中最年輕、也是唯一沒有 PhD 的成員之一；後來她共同創辦 Adept，出任 CTO，又共同創辦 Essential；到 2025 年前後，她已進入Anthropic任技術崗位。她的長期價值，不只是“女性共同作者”這一象徵意義，而是她把 Transformer 從語言繼續推向圖像、音頻、3D 視覺等更廣泛場景。
Uszkoreit 是八人裏最像“架構總設計師”的那位。和很多 AI 創業者不同，他的家庭環境本身就高度語言學與計算機化：他在 a16z 的長訪談裏直接說，父親是 computer scientist 與 computational linguist，家裏的晚餐話題會討論 Turing machines 與 finite automata。更關鍵的是，他後來回憶自己 2005 年在谷歌實習期間，被 Google Translate 那種“既有科學難題、又能立刻推動產品”的環境說服，最終放棄原有博士方向回到谷歌。公開資料對其完整學歷細節披露並不充分，但他的職業軌跡很明確：從 Google Translate、Google Assistant 語義解析，到柏林 Google Brain 團隊，再到創辦Inceptive。
從原始分工看，Uszkoreit 是“提出方向的人”。論文腳註寫明：是 Jakob 提議用 self-attention 替代 RNN，並開啓了驗證這一想法的工作。後來在官方博客裏，發佈論文的也是他。再往後，他把這種“把語言當作可學習結構”的世界觀，遷移到 RNA 和生物設計，創辦 Inceptive，試圖把深度學習和高通量實驗結合起來設計“biological software”。這條路線很能說明他在整個結構裏的位置：不是做單點算法技巧，而是不斷尋找“序列—表示—生成”這一統一框架能改造的新領域。
Jones 的公開私人背景資料相對少，但他的教育與職業路線很清楚：他來自英國威爾士背景，在University of Birmingham完成 AI & Computer Science 本科以及 Advanced Computer Science 碩士。學校 alumni 頁面裏，他明確說自己之所以能在沒有 referral 的情況下進入谷歌，很大程度上靠的是伯明翰計算機學院的履歷背書。職業上，他在谷歌工作超過十年，後來與 David Ha、Ren Ito 共同創辦Sakana AI，擔任 CTO。
Jones 在 Transformer 發明過程中的價值也非常具體。論文腳註說，他負責 initial codebase、efficient inference、visualizations，並持續嘗試新的模型變體。這個角色很像“把發明轉成真實研究系統的人”：沒有這類人，概念無法快速跑出結果、無法做足夠多的 ablation，也無法向組織內部證明它值得繼續投入。後來的 Sakana 路線同樣延續這一氣質：不是做一個閉門的通用聊天產品，而是做研究導向、機制導向、帶有日本本地化與開源色彩的新型 AI 實驗室。
Gomez 是八人裏最年輕、也最早把 Transformer 影響力轉成企業平臺的人之一。公開資料顯示，他在University of Toronto讀本科時就進入 Roger Grosse 的研究體系，又在谷歌實習與工作，先後與 Jakob、Jeff Dean、Łukasz Kaiser、Geoffrey Hinton 合作；個人主頁寫得很直接：他曾是 U of T 的 undergraduate researcher、是 Oxford 的 doctoral student、也是 Google Brain 的 student researcher。家庭側，McKinsey 的人物簡介顯示，他的父母都極重視學習，母親是英國人，大學讀舞蹈，移居加拿大後成爲 librarian；這種“技術 + 閱讀 + 藝術”混合的成長環境，對他後來強調 human side 的企業敘事影響很大。
Gomez 最關鍵的職業決策有兩個。第一，是在本科階段就進入 Google Brain，把自己從“優秀學生”直接推進到“核心技術共創者”；2017 年時，CNBC 仍把他描述成當年在谷歌實習、幫助共同寫出該論文的人。第二，是離開學術/半學術軌道，創辦Cohere，把自身影響力綁定到 enterprise AI 賽道，而不是消費級聊天熱潮本身。至於他在University of Oxford的博士是否正式完成，公開資料存在不同表述：官方研究組頁面長期稱其爲 doctoral student，而 LinkedIn 則顯示 2018–2024 的學習區間。
Kaiser 是八人裏最“理論計算機科學轉深度學習”的那位。公開資料顯示，他出生於波蘭弗羅茨瓦夫，在University of Wroclaw學習數學和計算機科學，隨後在RWTH Aachen University完成博士；之後曾在巴黎第七大學任 tenured researcher，研究 logic 與 automata theory，然後進入谷歌做 semantic parsing，再加入 Brain。家庭背景公開資料有限，但知識結構很清楚：他不是從“應用工程”入場，而是從邏輯、自動機、形式理論一路走進大規模神經網絡。
在 Transformer 發明中，Kaiser 更像“研究基礎設施與可擴展性設計者”。論文腳註寫明，他和 Gomez 花了“countless long days”設計並實現 Tensor2Tensor，替代早期代碼庫，顯著改善結果並大幅加速研究。後續職業上，他沒有像其他幾位那樣把名聲迅速兌換成創業品牌，而是繼續在研究機構內做高槓杆工作：公開資料顯示，他後來進入OpenAI，參與 GPT-4 長上下文相關工作，並在後續 2025 年左右的研究與演講中繼續以“co-authored Transformers and the TensorFlow system”的身份出現。
Polosukhin 是八人中最早把 Transformer 身份轉向“去中心化 AI 基礎設施”的人。公開資料顯示，他出生於烏克蘭，在National Technical University Kharkiv Polytechnic Institute學習應用數學與計算機科學，畢業後前往加州做機器學習項目，隨後加入 Google Research。Wired 的採訪重建寫得很清楚：他在谷歌主要做的是搜索框直接問答這類對延遲極度敏感的系統，因此他對“必須非常便宜、非常快”的要求感受很強，這也讓他對更高效的架構變得格外敏感。
原論文腳註顯示，Polosukhin 與 Vaswani 一起設計並實現了第一批 Transformer 模型；但更重要的轉折發生在論文正式引爆世界之前：他在 2017 年初就離開谷歌創業，後來於 2018 年與 Alexander Skidanov 共同創辦NEAR Protocol。在今天的公開敘事裏，他的身份已經不只是“Transformer 共同作者”，而是“去中心化、可驗證、user-owned AI”的佈道者；2026 年的商業報道則顯示，他如今公開強調 AI agents 需要可審計、可私有、不過度依賴單一公司的基礎設施。
協作過程與關鍵轉折
八個人在論文中的實際分工，幾乎就是這項發明爲什麼能成功的答案。Uszkoreit 給出“用 self-attention 替換 RNN”的方向；Vaswani 與 Polosukhin做出第一批真正能跑的模型；Shazeer 提出 scaled dot-product attention、multi-head attention 與 parameter-free position representation，並深入所有細節；Parmar 與 Jones 不斷做變體、調參、優化代碼、提升推理與可視化；Kaiser 與 Gomez 則通過 Tensor2Tensor 把研究速度和實驗質量拉到另一個層級。換句話說，Transformer 不是“一個想法”，而是“想法 + 實現 + 系統 + 調參 + 工具鏈 + 組織協作”同時成熟的結果。
這也是它爲什麼更像工業研究的勝利，而不是浪漫化的個人天才故事。Uszkoreit 自己在後來回顧中說得很直白：像 Transformer 這樣的項目，不太像“一個閃光時刻改變一切”，而更像不同專長的人把先前論文裏的機制、優化器、實現技巧、硬件適配與數據規模，擰成一個終於可行的體系。這個判斷非常重要，因爲它解釋了爲什麼後來複製 Transformer 成功的，不是單篇論文模仿者，而是擁有完整工程鏈條和算力預算的實驗室。
時間線也很清楚。2017 年 6 月 12 日，論文首先以 arXiv 形式公開；2017 年 8 月 31 日，官方博客由 Jakob 發佈，對外解釋架構思想；2017 年底，論文進入 NeurIPS。也就是說，從“可運行想法”到“公開定義一個時代語言”，中間只隔了幾個月。很多技術革命是慢熱擴散，Transformer 不是；它是少見的“論文—開源工具—後續實驗—產業採用”連續加速。
如果把後續十年濃縮成幾筆，關鍵年份大致可以這樣看：2017 年，論文定義新架構；2019 至 2021 年，作者羣開始分流，學術影響轉向產品化與組織化；2021 年，Adept 成立，Noam也走向 Character.AI；2019 到 2024 年間，Cohere 從學術創業變成企業平臺；2023 年，Essential 與 Sakana 獲得首輪強勢資本背書；2023 至 2025 年，Inceptive、NEAR AI、Anthropic、OpenAI、Google Gemini 等不同路線繼續把原始 Transformer 邏輯推進到生物、企業、開源代理、前沿閉源模型等多條分支。
組織、資本與商業模式
如果只看論文，八個人是一篇論文的作者；如果把時間拉長到 2026 年，他們更像一個“從Google Research外溢出來的產業網絡”。這張網絡橫跨 enterprise AI、consumer chatbot、frontier labs、bio-AI、Japan-based research lab、crypto/agent infrastructure。八人裏，公開路線最不創業化的是 Lukasz；其餘七人，都不同程度地把學術影響力轉成了公司、平臺、基金關係或生態權力。
Vaswani 與 Parmar 的商業路線最像“從 research architecture 到 software agents，再到 enterprise foundation stack”。Adept 的目標是讓模型去執行軟件動作，而不是隻生成文本；2023 年 Reuters 報道其完成 3.5 億美元新融資，總融資額約 4.15 億美元。兩人離開後又創辦 Essential。Essential 在 2023 年宣佈 5650 萬美元 Series A，投資方包括 Google、NVIDIA、AMD、Thrive Capital 等。這裏能看出他們真正的資產，不只是股權，而是“誰相信這兩個人能繼續定義下一代基礎軟件層”。
Shazeer 的商業模式則最接近“研究能力直接商品化爲 AI personality / dialogue product，再由巨頭回收”。Character.AI 在消費者產品層面最早做出大規模陪伴式、角色式聊天體驗之一；Reuters 2024 報道提到，它此前已融資 1.93 億美元、2023 年估值約 10 億美元。後續更關鍵的是 Google 與 Character 的技術許可和人才迴流安排：這不只是一次回聘，而是把單個研究者的市場價值直接抬升到 multibillion-dollar deal 的尺度。
Gomez 的商業模式，比很多同行更早完成了從“研究明星”到“企業軟件 CEO”的轉型。Cohere 沒有把自己定義成“另一個 ChatGPT”，而是刻意靠近合規、私有部署、長期合同、企業工作流集成。Reuters 在 2025 年報道，其 annualized revenue 已達到 1 億美元，大約 85% 業務來自 private deployments，主要依靠長期合同；同年不同報道口徑下，公司估值處在 55 億到 68 億美元之間。它真正的“資產”並不只是模型權重，而是安全部署架構、客戶信任、企業銷售渠道與治理姿態。
Uszkoreit 的 Inceptive 代表了另一種資產化方式：把 Transformer 的序列建模直覺遷移到 RNA 與藥物設計。公開資料顯示，Inceptive 先拿到約 2000 萬美元 seed，後又在 2023 年拿到 1 億美元融資，投資方包括 NVIDIA、Andreessen Horowitz、Obvious Ventures 等。這裏的商業模式不是賣 API，而是建設高通量實驗 + 深度學習平臺，目標是藥物與分子設計。也就是說，他把“語言的表示學習”轉成了“生物序列的設計學習”。
Jones 的 Sakana 則強調 research lab 氣質、東京區位優勢、以及部分開源的分發方式。公司 2024 年宣佈 3000 萬美元 seed，主張用 nature-inspired intelligence 研發新的 foundation models，並很快推出日語模型，其中一部分開源。它的資產既包括股權和團隊，也包括一個非常清晰的品牌位置：不做硅谷大廠複製品，而做“日本出發、研究先行”的替代型 AI 敘事。
Polosukhin 的 NEAR 路線又不同。NEAR Protocol 在表層上屬於 blockchain 網絡，但其當前敘事已明顯轉向 NEAR AI、AI agents、privacy-preserving infrastructure、user-owned AI。它依賴的不是傳統 VC 到 IPO 的單一路徑，而是協議、生態、代幣、開發者網絡與 AI 基礎設施結合的資源網絡。對他來說，真正的“資產”不是單個產品，而是定義一套新的 AI ownership 模式。
Kaiser 的情況最特別。他沒有把個人品牌綁定到獨立創業公司，而是把價值沉到研究基礎設施與前沿模型內部：從 TensorFlow、Tensor2Tensor、Transformer，到後續在 OpenAI 的 GPT-4 長上下文與更晚階段的 reasoning 相關工作。這類人擁有的不是公衆可見的“公司資產”，而是實驗體系、研究信譽、核心模型路線的話語權。
成就、爭議與現實位置
這八個人最成功的地方，不是發表了一篇高被引論文，而是重寫了 AI 的默認構建單元。2017 年之前，很多 NLP 人還在把 recurrence 視作自然默認值；2017 年之後，self-attention 逐漸變成默認骨架。更重要的是，它之後不只改寫 NLP，還一路進入圖像、音樂、代碼、生物、代理系統與多模態模型。Google 官方博客在論文剛發出來時就已經預告圖像與視頻方向，而後續作者們的職業路線，事實上就是這些擴展方向的真人版時間線。
外界今天之所以記住他們，不是因爲八個名字都家喻戶曉，而是因爲他們幾乎覆蓋了現代 AI 產業的關鍵分叉口：Shazeer 站在 consumer chatbot 與 Gemini 主幹線上；Gomez 站在 enterprise AI 平臺線上；Vaswani 與 Parmar 站在 agent automation 與 enterprise foundation stack 線上；Uszkoreit 站在 AI x biology 線上；Jones 站在新研究實驗室與日本本土模型線上；Polosukhin 站在 decentralized AI 基礎設施線上；Kaiser 站在 frontier-model engineering 線上。換句話說，這組作者不是“歷史人物”，而是仍在實時塑造現實。
公開可見的主要爭議，更多集中在後續商業化路徑，而不是 2017 論文本身。主流報道里，並沒有把這篇論文放在嚴重學術不端爭議中討論；更常見的爭論，是圍繞閉源還是開放、消費產品還是企業部署、巨頭回收人才還是獨立公司成長。例如，Google 與 Character 的許可加回聘安排，被放在大廠以交易方式吸納 AI 人才的監管語境中審視；Cohere 公開押注 enterprise 而非大衆聊天爆款；Vaswani 公開主張 open science；Polosukhin 則不斷強調 user-owned、可驗證、隱私優先的 AI。爭議的實質，不是誰寫了論文，而是誰將決定 Transformer 時代的權力分配。
如果把所有線索壓成一句話，那麼結論是：Transformer 的“發明者”不是單個人，而是一支在同一時間把理論判斷、實現能力、系統工具、組織資源和產業野心拼接到一起的八人團隊；而他們後來的分流，則幾乎構成了現代 AI 產業版圖的縮影。 你今天看到的 ChatGPT 式對話、企業私有部署、代理自動化、RNA 設計、日語本地模型、去中心化 AI、長上下文與推理模型，很多都能沿着這八個人的後續軌跡回溯到 2017 年那個腳註寫得非常老實的共同發明時刻。