近日，人工智能領(lǐng)域迎來(lái)了一項(xiàng)引人注目的新突破。一項(xiàng)由斯坦福大學(xué)與華盛頓大學(xué)聯(lián)手完成的研究顯示，科學(xué)家們僅花費(fèi)不到50美元（當(dāng)前匯率約364元人民幣）的云計(jì)算成本，便成功打造出一個(gè)具備卓越“推理”能力的人工智能模型，命名為s1。
s1模型在數(shù)學(xué)邏輯與編程能力測(cè)試中，展現(xiàn)出了與業(yè)界頂尖推理模型，如OpenAI的o1和DeepSeek的r1不相上下的表現(xiàn)。更令人矚目的是，s1模型及其訓(xùn)練數(shù)據(jù)和代碼已在GitHub平臺(tái)全面開(kāi)源，供全球開(kāi)發(fā)者學(xué)習(xí)與研究。
s1團(tuán)隊(duì)透露，該模型的誕生得益于“蒸餾”技術(shù)，這是一種通過(guò)訓(xùn)練模型來(lái)模仿另一模型的答案，從而提煉出“推理”能力的創(chuàng)新方法。s1正是從谷歌的Gemini 2.0 Flash Thinking Experimental模型中蒸餾而來(lái)。值得注意的是，加州大學(xué)伯克利分校的研究團(tuán)隊(duì)也采用了同樣的蒸餾方法，以約450美元的成本開(kāi)發(fā)出了一款人工智能推理模型。
s1模型的橫空出世，引發(fā)了業(yè)界對(duì)于人工智能模型商品化的深刻反思。若能以極低的成本復(fù)制出價(jià)值數(shù)百萬(wàn)美元的模型，大型科技公司的競(jìng)爭(zhēng)優(yōu)勢(shì)何在？這一話題引發(fā)了廣泛討論。不出所料，OpenAI等人工智能巨頭對(duì)此表示擔(dān)憂，此前就曾指責(zé)DeepSeek不當(dāng)獲取其API數(shù)據(jù)用于模型蒸餾。
s1團(tuán)隊(duì)則致力于探索實(shí)現(xiàn)高效推理性能和“測(cè)試時(shí)擴(kuò)展”的最簡(jiǎn)化路徑，這些正是OpenAI的o1模型所展現(xiàn)出的突破性進(jìn)展。s1的論文指出，通過(guò)監(jiān)督微調(diào)（SFT）方法，即便使用較小的數(shù)據(jù)集也能成功蒸餾出推理模型。在SFT過(guò)程中，模型被明確指示模仿特定行為，相較于DeepSeek用于訓(xùn)練R1模型的大規(guī)模強(qiáng)化學(xué)習(xí)方法，SFT更具成本效益。
谷歌通過(guò)其Google AI Studio平臺(tái)免費(fèi)提供Gemini 2.0 Flash Thinking Experimental模型的訪問(wèn)權(quán)限，但每日使用有限制，并明確禁止逆向工程以開(kāi)發(fā)競(jìng)爭(zhēng)服務(wù)。然而，s1團(tuán)隊(duì)巧妙地利用了這一資源。他們基于阿里巴巴旗下中國(guó)人工智能實(shí)驗(yàn)室Qwen提供的一款小型免費(fèi)模型，創(chuàng)建了僅包含1000個(gè)精心挑選的問(wèn)題及其答案的數(shù)據(jù)集，并引入了谷歌Gemini 2.0 Flash Thinking Experimental為每個(gè)答案提供的“思考”過(guò)程。
在訓(xùn)練過(guò)程中，s1團(tuán)隊(duì)使用了16個(gè)Nvidia H100 GPU，耗時(shí)不到30分鐘便完成了訓(xùn)練，成本僅為約20美元。訓(xùn)練后的s1在某些人工智能基準(zhǔn)測(cè)試中取得了優(yōu)異成績(jī)。斯坦福大學(xué)參與該項(xiàng)目的研究員Niklas Muennighoff向TechCrunch透露了這一信息。
s1團(tuán)隊(duì)還采用了一個(gè)獨(dú)特的技巧來(lái)提升模型的準(zhǔn)確性：讓s1在推理過(guò)程中“等待”。論文顯示，在推理步驟中加入“等待”一詞，有助于模型獲得更精確的答案。這一創(chuàng)新方法無(wú)疑為人工智能領(lǐng)域帶來(lái)了新的啟示。
