在人工智能領(lǐng)域，關(guān)于AI基礎設施（AI Infra）的討論正逐漸升溫。近期，DeepSeek V3.1的發(fā)布以及其對下一代國產(chǎn)芯片的適配，引發(fā)了市場對寒武紀市值的積極預估。同時，百度昆侖芯在中國移動集采項目中中標十億級訂單，進一步點燃了業(yè)界對AI基礎軟硬件的熱情。
這一系列動態(tài)背后，AI Infra為何突然成為焦點？其背后的原因何在？要實現(xiàn)符合產(chǎn)業(yè)期待的AI Infra，又需要哪些條件？
談及AI Infra，不禁讓人聯(lián)想到《變形金剛》中的擎天柱。這一角色不僅擁有強大的戰(zhàn)斗力，更象征著堅實可靠的支撐。在AI時代，我們同樣需要這樣一座“擎天柱”，來支撐AI技術(shù)的不斷突破和創(chuàng)新。
近日，在北京舉辦的2025百度云智大會上，全面升級的百舸5.0或許正是這樣一座AI領(lǐng)域的“擎天柱”。AI Infra，即部署、運行、管理和優(yōu)化AI模型的軟硬件體系，過去雖已存在，但近期才受到廣泛關(guān)注。這主要是因為，隨著大模型與產(chǎn)業(yè)場景的深度融合，基礎設施的重要性日益凸顯。
過去，業(yè)界對AI Infra的要求主要聚焦于能夠支撐大模型的訓練和推理。然而，如今大家逐漸認識到，基礎設施還能為模型創(chuàng)造新價值，強化模型的訓推效率和用戶體驗。因此，AI Infra已成為贏得未來的關(guān)鍵。
以DeepSeek為例，雖然可在多個平臺應用，但不同平臺間的體驗效果卻大相徑庭。用戶往往會選擇那些更流暢、快捷的平臺。這正是AI Infra差異帶來的競爭力差距。
在AI Infra的相關(guān)能力中，AI算力無疑是最關(guān)鍵的一環(huán)。良好的AI算力供給不僅是模型推訓的基礎支撐，更是模型效果與商業(yè)前景的決定性因素。它決定了模型的訪問體驗是否流暢、服務是否穩(wěn)定以及資源利用率的高低。
百度智能云最新發(fā)布的百舸AI計算平臺5.0，在網(wǎng)絡、計算、推理系統(tǒng)以及訓推一體效率上進行了全面升級，實現(xiàn)了跨越式的迭代，打破了AI計算的效率瓶頸。百舸5.0的支柱作用，由三大穩(wěn)固的支點構(gòu)成：
首先是網(wǎng)絡支柱。百舸5.0對VPC、RDMA和X-Link網(wǎng)絡進行了全面升級，支持巨型幀傳輸，提升了模型的訓推效率。自研的HPN網(wǎng)絡支持單集群10萬卡RDMA網(wǎng)絡互聯(lián)，并將端到端延遲壓縮至4微秒。針對超大參數(shù)規(guī)模的MoE模型，百舸還打造了自研的X-Link協(xié)議，實現(xiàn)了更快的專家間通信。
其次是計算支柱。面對超大模型對大規(guī)模AI計算集群的需求，百舸進行了超節(jié)點的全新探索。昆侖芯超節(jié)點采用了百度全棧自研的昆侖芯，通過將64張卡組成超節(jié)點，實現(xiàn)了單卡性能的大幅提升和單實例推理能力的顯著增強。公有云成為企業(yè)獲取大規(guī)模AI算力的最佳途徑，基于百舸，用戶可輕松在幾分鐘內(nèi)利用1個云實例運行萬億參數(shù)的大模型。
最后是推理支柱。隨著大模型成為越來越多用戶的日常剛需，模型推理能力的提升進入了關(guān)鍵階段。百舸5.0全新升級了推理系統(tǒng)，通過“解耦”“自適應”和“智能調(diào)度”三大核心策略，對AI推理的算力、內(nèi)存、網(wǎng)絡等資源進行了極致精細化的管理和優(yōu)化，實現(xiàn)了性能的數(shù)量級提升。
百舸5.0的三大支柱加持，使其能夠?qū)⒋竽Ｐ偷挠嬎阈侍嵘翗O致。這一基礎設施的強度，正是讓模型進一步打破極限、自由探索智能奧義的關(guān)鍵。在現(xiàn)實世界，“企業(yè)智能化，基于AI Infra變形出發(fā)”已成為百舸5.0的口號。
通過具體案例，我們可以看到百舸如何打破產(chǎn)業(yè)局限，將基礎設施轉(zhuǎn)化為AI生產(chǎn)力。例如，在具身智能領(lǐng)域，百度智能云支持了包括北京、上海等地的創(chuàng)新中心，并為產(chǎn)業(yè)鏈上多家重點企業(yè)提供算力支持。百舸在算力高效調(diào)度、模型訓推加速等方面的積累，大幅提升了具身智能模型的開發(fā)效率。
另一案例是Vast，一家專注于通用模型研發(fā)的AI公司。通過使用百舸平臺，Vast獲得了高性能云原生AI計算支持，有效降低了大模型訓練時間、節(jié)約了資源成本，并降低了模型訓推的綜合門檻。這使得Vast能夠更快、更好地開發(fā)出新一代3D大模型，為設計師與內(nèi)容創(chuàng)作者提供了高效探索AI可能性的方案。
百度智能云在AI云領(lǐng)域的深厚積累，使百舸能夠深度理解智能化業(yè)務并提供強有力的AI算力支撐。這一能力在公有云市場中十分稀缺，也成為了百度智能云堅固的護城河。百舸5.0作為AI領(lǐng)域的“擎天柱”，正托舉著企業(yè)打破AI時代的天花板，探索未知的智能世界。
