每經(jīng)記者｜岳楚鵬    每經(jīng)編輯｜蘭素英    

OpenAI怎么也沒(méi)想到，o3還在畫(huà)餅階段，中國(guó)一夜之間就冒出來(lái)兩個(gè)能和o1打?qū)ε_(tái)的模型。

1月20日，月之暗面正式推出多模態(tài)思考模型Kimi k1.5，并首次公開(kāi)該模型的訓(xùn)練技術(shù)報(bào)告。其中，Kimi k1.5在short-CoT（短鏈思考）方面達(dá)到領(lǐng)先水平，在其他多個(gè)測(cè)試中也大幅超越GPT-4和Claude Sonnet 3.5。在long-CoT（長(zhǎng)鏈思考）方面，該模型在多個(gè)領(lǐng)域的表現(xiàn)也與o1持平。

同一天，DeepSeek正式開(kāi)源R1推理模型，并發(fā)布技術(shù)報(bào)告。R1在多個(gè)基準(zhǔn)測(cè)試中與o1持平，并且成本只有o1的三十分之一。

隨著R1模型的開(kāi)源，英偉達(dá)高級(jí)研究科學(xué)家Jim Fan稱：“我們生活在這樣一個(gè)時(shí)代：由非美國(guó)公司保持OpenAI 最初的使命——做真正開(kāi)放的前沿研究、為所有人賦能。”Perplexity CEO Aravind Srinivas更是直言：“DeepSeek才配叫做OpenAI。”

不過(guò)，R1依然面臨著開(kāi)源模型V3一樣的毛病。有網(wǎng)友向他提問(wèn)“誰(shuí)訓(xùn)練你的”時(shí)，它回答道：“我是被OpenAI開(kāi)發(fā)的”。

新模型硬剛OpenAI

北京時(shí)間1月20日，月之暗面發(fā)布了多模態(tài)思考模型Kimi k1.5。

在short-CoT模式下，Kimi k1.5的數(shù)學(xué)、代碼、視覺(jué)多模態(tài)和通用能力大幅超越了GPT-4o和Claude 3.5 Sonnet，領(lǐng)先幅度高達(dá)550%。在long-CoT模式下，Kimi k1.5的數(shù)學(xué)、代碼、多模態(tài)推理能力達(dá)到了OpenAI o1正式版的水平。

月之暗面表示，這應(yīng)該是全球范圍內(nèi)，首次有OpenAI之外的公司實(shí)現(xiàn)o1正式版的多模態(tài)推理性能。

同一天，DeepSeek正式開(kāi)源R1推理模型，允許所有人在遵循MIT License（注：被廣泛使用的一種軟件許可條款）的情況下，蒸餾R1訓(xùn)練其他模型。

在數(shù)學(xué)、代碼和自然語(yǔ)言推理等任務(wù)上，R1的性能比肩o1正式版。同時(shí)根據(jù)DeepSeek公布的測(cè)試數(shù)據(jù)，R1在美國(guó)AIME 2024、MATH- 500 和 SWE- bench Verified測(cè)試中的比分均高于o1。AIME 2024和MATH-500測(cè)試專注于數(shù)學(xué)能力，SWE-bench Verified則用于評(píng)估AI模型解決現(xiàn)實(shí)世界軟件問(wèn)題的能力。

更重要的是，R1的價(jià)格只有o1的約三十分之一，百萬(wàn)token（文本處理的基本單元）輸出只需16元人民幣。相較而言，o1的百萬(wàn)token輸出需要60美元（約合人民幣436元）。

另外，R1的參數(shù)量較低，開(kāi)發(fā)人員可以用相對(duì)較低的成本在本地運(yùn)行模型。Exo Lab創(chuàng)始人Alex Cheema在家使用7個(gè)MacMini串聯(lián)一個(gè)MacBook成功運(yùn)行起了R1模型。他感嘆道：“AGI（通用人工智能）到家了。”

大佬紛紛點(diǎn)贊DeepSeek

R1的技術(shù)文檔發(fā)布后，Jim Fan第一時(shí)間對(duì)論文進(jìn)行研究，之后發(fā)出了這樣的感慨：“我們生活在這樣一個(gè)時(shí)代：由非美國(guó)公司保持OpenAI 最初的使命——做真正開(kāi)放的前沿研究、為所有人賦能。”

他補(bǔ)充道：“DeepSeek-R1不僅開(kāi)源了大量模型，還泄露了所有訓(xùn)練秘密。他們可能是第一個(gè)顯示RL（強(qiáng)化學(xué)習(xí)）飛輪發(fā)揮主要作用、持續(xù)增長(zhǎng)的OSS項(xiàng)目。（對(duì)AI研究的）影響不僅可以通過(guò)‘內(nèi)部實(shí)現(xiàn)ASI’或‘草莓計(jì)劃’等神話名稱來(lái)實(shí)現(xiàn)，也可以通過(guò)簡(jiǎn)單的轉(zhuǎn)儲(chǔ)原始算法和matplotlib學(xué)習(xí)曲線來(lái)產(chǎn)生影響。”

Jim Fan的每一句話都在戳喜歡搞神秘、賣期貨的OpenAI的肺管子。

實(shí)際上，業(yè)界有這種看法的人還不少。Abacus ai的CEO Bindu Reddy評(píng)價(jià)道：“這是開(kāi)源AGI的勝利，一家來(lái)自中國(guó)的小型初創(chuàng)公司擊敗了所有人”。

UC Berkeley 教 授 Alex Dimakis也認(rèn)為，DeepSeek現(xiàn)在已經(jīng)處于領(lǐng)先位置，美國(guó)公司可能需要迎頭趕上了。

Aravind Srinivas 更是直言：“DeepSeek才配叫做OpenAI。”

除了對(duì)OpenAI的諷刺之外，Jim Fan還深入解讀了R1模型的創(chuàng)新之處。他表示，R1模型純粹由RL驅(qū)動(dòng)，完全沒(méi)有SFT（冷啟動(dòng)）。這讓人想起AlphaZero，從頭開(kāi)始掌握圍棋、將棋和國(guó)際象棋，而無(wú)需先模仿人類大師級(jí)的動(dòng)作。

而且，R1使用由硬編碼規(guī)則計(jì)算的真值獎(jiǎng)勵(lì)，避免使用任何RL容易攻擊的學(xué)習(xí)獎(jiǎng)勵(lì)模型。隨著訓(xùn)練的進(jìn)行，模型的思考時(shí)間穩(wěn)步增加。Jim Fan強(qiáng)調(diào)，這不是預(yù)先編程好的，而是一種模型自主的突發(fā)特性，并且模型也出現(xiàn)了自我反省和探索行為。

DeepSeek還使用了一種名為GRPO（組相對(duì)策略優(yōu)化）的新優(yōu)化方法，有效減少了內(nèi)存使用。GRPO 由 DeepSeek 于2024年2月發(fā)明。這也是為什么家用設(shè)備也能完整運(yùn)行R1的原因。

基于此，有網(wǎng)友指出，鑒于Deepseek仍在使用GRPO等GPU性能較差的方法，可以推斷出，該公司可能沒(méi)有很多功能強(qiáng)大的Hopper GPU。這意味著，算力訓(xùn)練成本也是極低的。

有網(wǎng)友評(píng)價(jià)，這是AI的“頓悟時(shí)刻”：“R1-Zero（注：R1是R1-Zero調(diào)整后的模型）證明模型可以自我開(kāi)發(fā)推理策略。舉個(gè)例子：當(dāng)遇到問(wèn)題時(shí)，它學(xué)會(huì)了回溯并質(zhì)疑其最初的假設(shè)——這是一種從未明確編程的行為。”這代表著DeepSeek的新模型已經(jīng)能夠具有像人類一樣的自主學(xué)習(xí)能力。

知名AI評(píng)測(cè)員Matthew Berman表示，R1擁有他所見(jiàn)過(guò)的最像人類的內(nèi)心獨(dú)白。