本報記者 張偉
隨著大模型應(yīng)用從“能不能用”邁入“如何長期、穩(wěn)定、規(guī)?;\行”的新階段,模型 API 服務(wù)的真實表現(xiàn)、穩(wěn)定性與調(diào)用效率正成為產(chǎn)業(yè)關(guān)注的核心議題。1月29日,在清華系國產(chǎn)算力軟件企業(yè)北京清程極智科技有限公司舉辦的清程 AI Ping 產(chǎn)品發(fā)布會上,來自政府部門、科研機構(gòu)、云服務(wù)平臺、大模型服務(wù)商及應(yīng)用企業(yè)的多方代表,圍繞大模型 API 服務(wù)的評測體系、工程化使用與生態(tài)協(xié)同展開了深入交流。

在政府側(cè),中關(guān)村科學(xué)城管理委員會產(chǎn)業(yè)促進一處處長李楠強調(diào),中關(guān)村科學(xué)城管委會始終支持企業(yè)圍繞產(chǎn)業(yè)共性需求開展協(xié)同探索,通過更加開放的合作模式,讓核心技術(shù)在更大范圍內(nèi)實現(xiàn)復(fù)用與驗證,推動模型應(yīng)用更好地實現(xiàn)價值釋放,北京市海淀區(qū)將一如既往地為各類創(chuàng)新主體快速發(fā)展保駕護航。
在科研側(cè),清華大學(xué)教授鄭緯民指出,當(dāng)前人工智能基礎(chǔ)設(shè)施的核心任務(wù)正在發(fā)生變化。過去,AI Infra 主要服務(wù)于大模型的訓(xùn)練與推理,解決“如何生產(chǎn)智能”的問題;隨著模型生態(tài)不斷豐富和智能體廣泛應(yīng)用,行業(yè)正在進入以“智能流通”為核心的新階段,更加關(guān)注模型能力如何在真實業(yè)務(wù)中高效、穩(wěn)定地被使用。
他表示,實現(xiàn)智能流通的關(guān)鍵在于智能路由能力建設(shè),其中既包括在多模型環(huán)境下為不同任務(wù)選擇最合適模型的“模型路由”,也包括在同一模型的多種 API 服務(wù)提供者之間進行性能與成本優(yōu)化調(diào)度的“服務(wù)路由”。兩類路由能力協(xié)同發(fā)展,將形成完整的 AI 任務(wù)分發(fā)網(wǎng)絡(luò),決定人工智能系統(tǒng)的最終效率和使用成本。
在企業(yè)側(cè),清程極智 CEO 湯雄超表示,從大模型訓(xùn)練與微調(diào),到推理部署的高性價比實現(xiàn),再到應(yīng)用階段對服務(wù)穩(wěn)定性和使用效率的更高要求,AI Infra 的關(guān)注重點正在不斷演進。因此,清程極智長期圍繞大模型訓(xùn)練、推理和應(yīng)用三類核心場景開展技術(shù)實踐,先后推出八卦爐訓(xùn)練系統(tǒng)和赤兔推理引擎,支撐模型在多種算力環(huán)境下的高效訓(xùn)練與部署。隨著 AI 應(yīng)用和智能體快速發(fā)展,模型能力如何在真實業(yè)務(wù)中高效流通成為新的關(guān)鍵問題。基于這一背景,清程極智推出 AI Ping,一站式AI評測與API服務(wù)智能路由平臺,完善大模型應(yīng)用階段的基礎(chǔ)設(shè)施能力。
會上,清程極智聯(lián)合20余家大模型API服務(wù)商,共同啟動《智能、可持續(xù)大模型 API 服務(wù)生態(tài)計劃》。該計劃未來將圍繞模型服務(wù)能力評估、評測方法論建設(shè)、行業(yè)交流與成果發(fā)布等方向持續(xù)推進,推動模型 API 服務(wù)從“可用”向“好用、易用、高性價比”演進。
人工智能工委會智算集群工作組同步帶來了《2025 大模型 API 服務(wù)能力》實踐案例分享。來自阿里云百煉、百度智能云、華為云、火山方舟、騰訊云等多家平臺與服務(wù)商的案例,系統(tǒng)展示了模型 API 服務(wù)在性能優(yōu)化、成本控制與穩(wěn)定運行方面的多樣化探索,為行業(yè)提供了可參考的實踐樣本。
會上發(fā)布的《2025 大模型 API 服務(wù)行業(yè)分析報告》指出,在模型與服務(wù)商高度多樣化的背景下,API 服務(wù)的核心競爭要素正從“價格差異”轉(zhuǎn)向“交付質(zhì)量”,包括響應(yīng)時延、吞吐能力、穩(wěn)定性與上下文支持等關(guān)鍵指標(biāo)。同時,報告通過實證數(shù)據(jù)表明,在同一模型條件下,引入智能路由機制可在保障可用性的前提下,實現(xiàn)顯著的性能提升與成本優(yōu)化,為大模型 API 服務(wù)走向規(guī)?;㈤L期化使用提供了可驗證的工程路徑。
“隨著 AI Ping 平臺的正式發(fā)布及生態(tài)計劃的啟動,模型 API 服務(wù)這一長期處于‘幕后’的關(guān)鍵環(huán)節(jié)正逐步走向臺前?!痹趫A桌論壇環(huán)節(jié),與會嘉賓結(jié)合各自在模型研發(fā)、平臺服務(wù)與應(yīng)用落地中的實踐經(jīng)驗一致認(rèn)為,隨著大模型應(yīng)用不斷深化,模型服務(wù)正在從“可用”階段邁向精細化運營階段,評測體系、服務(wù)路由與統(tǒng)一管理能力將逐步成為支撐下一階段規(guī)?;瘧?yīng)用的重要基礎(chǔ)設(shè)施。
主辦方供圖
友情鏈接: 政府 高新園區(qū)合作媒體
Copyright 1999-2026 中國高新網(wǎng)chinahightech.com All Rights Reserved.京ICP備14033264號-5
電信與信息服務(wù)業(yè)務(wù)經(jīng)營許可證060344號主辦單位:《中國高新技術(shù)產(chǎn)業(yè)導(dǎo)報》社有限責(zé)任公司