近日，有外媒報道稱，百度在人工智能領(lǐng)域的一項重大發(fā)現(xiàn)，可能比OpenAI更早地揭示了“Scaling Law”這一重要原則。這一消息引起了科技界的廣泛關(guān)注。
所謂“Scaling Law”，簡而言之，即模型的智能能力會隨著訓練數(shù)據(jù)和模型參數(shù)的增加而增強。長久以來，這一思想被廣泛認為是OpenAI在2020年發(fā)布的論文《Scaling Laws for Neural Language Models》中首次提出的。
然而，在最近的一期播客節(jié)目中，前OpenAI研究副總裁、Anthropic創(chuàng)始人Dario Amodei透露了一個令人驚訝的信息。他表示，早在2014年，當他在百度與吳恩達共同研究AI時，就已經(jīng)觀察到了模型發(fā)展中的“Scaling Law”現(xiàn)象。這一說法，無疑對“Scaling Law”的起源提出了新的見解。
不僅如此，還有行業(yè)專家通過發(fā)文指出，關(guān)于“Scaling Law”的原始研究，實際上可以追溯到2017年的百度公司。這一發(fā)現(xiàn)，進一步加劇了關(guān)于“Scaling Law”起源的爭議。
百度在人工智能領(lǐng)域的深耕細作，以及其在“Scaling Law”方面的早期發(fā)現(xiàn)，無疑展示了其在該領(lǐng)域的深厚底蘊和前瞻視野。盡管關(guān)于“Scaling Law”起源的爭議仍在持續(xù)，但百度在這一領(lǐng)域的貢獻和影響力，已經(jīng)得到了業(yè)界的廣泛認可。
