本報訊(記者 張偉) 1月29日,在清華系國產(chǎn)算力軟件企業(yè)北京清程極智科技有限公司(以下簡稱“清程極智”)舉行的清程AI Ping產(chǎn)品發(fā)布會上,來自政府部門、科研機(jī)構(gòu)、云服務(wù)平臺、大模型服務(wù)商及應(yīng)用企業(yè)等多方代表,圍繞大模型API(應(yīng)用程序編程接口)服務(wù)的評測體系、生態(tài)協(xié)同展開深入交流。
清華大學(xué)教授鄭緯民表示,當(dāng)前,人工智能基礎(chǔ)設(shè)施(AI Infra)的核心任務(wù)正在發(fā)生變化。過去,AI Infra主要服務(wù)于大模型的訓(xùn)練與推理,解決“如何生產(chǎn)智能”的問題;隨著模型生態(tài)不斷豐富和智能體廣泛應(yīng)用,行業(yè)正在進(jìn)入以“智能流通”為核心的新階段,更加關(guān)注模型能力如何在真實業(yè)務(wù)中高效、穩(wěn)定地被使用。
鄭緯民說,實現(xiàn)“智能流通”的關(guān)鍵在于智能路由能力建設(shè),既包括在多模型環(huán)境下為不同任務(wù)選擇最合適模型的“模型路由”,也包括在同一模型的多種API服務(wù)提供者之間進(jìn)行性能與成本優(yōu)化調(diào)度的“服務(wù)路由”。兩類路由能力協(xié)同發(fā)展,將形成完整的AI任務(wù)分發(fā)網(wǎng)絡(luò),決定AI系統(tǒng)的最終效率和使用成本。
清程極智CEO湯雄超表示,AI Infra的關(guān)注重點(diǎn)正在不斷演進(jìn),從大模型訓(xùn)練與微調(diào)到推理部署的高性價比實現(xiàn),再到應(yīng)用階段對服務(wù)穩(wěn)定性和使用效率的更高要求。因此,清程極智長期圍繞大模型訓(xùn)練、推理和應(yīng)用3類核心場景開展技術(shù)實踐,先后推出八卦爐訓(xùn)練系統(tǒng)和赤兔推理引擎,支撐大模型在多種算力環(huán)境下的高效訓(xùn)練與部署。隨著AI應(yīng)用和智能體快速發(fā)展,模型能力如何在真實業(yè)務(wù)中高效流通成為新的關(guān)鍵問題?;谶@一背景,清程極智推出AI Ping平臺(一站式AI評測與API服務(wù)智能路由平臺),完善大模型應(yīng)用階段的基礎(chǔ)設(shè)施能力。
會上,清程極智聯(lián)合20余家大模型API服務(wù)商共同啟動“智能、可持續(xù)大模型API服務(wù)生態(tài)計劃”,未來將圍繞模型服務(wù)能力評估、評測方法論建設(shè)、行業(yè)交流與成果發(fā)布等方向持續(xù)推進(jìn),推動模型API服務(wù)從“可用”向“好用、易用、高性價比”演進(jìn)。
同時發(fā)布的《2025大模型API服務(wù)行業(yè)分析報告》顯示,在模型與服務(wù)商高度多樣化的背景下,API服務(wù)的核心競爭要素正從“價格差異”轉(zhuǎn)向“交付質(zhì)量”,包括響應(yīng)時延、吞吐能力、穩(wěn)定性與上下文支持等關(guān)鍵指標(biāo)。實證數(shù)據(jù)表明,在同一模型條件下,引入智能路由機(jī)制,在保障可用性的前提下可實現(xiàn)顯著的性能提升與成本優(yōu)化,為大模型 API 服務(wù)走向規(guī)?;㈤L期化使用提供可驗證的工程路徑。
“隨著AI Ping平臺的發(fā)布及生態(tài)計劃的啟動,大模型API服務(wù)這一長期處于‘幕后’的關(guān)鍵環(huán)節(jié)正逐步走向臺前應(yīng)用編程接口?!迸c會嘉賓認(rèn)為,隨著大模型應(yīng)用不斷深化,模型服務(wù)正在從可用階段邁向精細(xì)化運(yùn)營階段,評測體系、服務(wù)路由與統(tǒng)一管理能力將逐步成為支撐下一階段規(guī)?;瘧?yīng)用的重要基礎(chǔ)設(shè)施。
友情鏈接: 政府 高新園區(qū)合作媒體
Copyright 1999-2026 中國高新網(wǎng)chinahightech.com All Rights Reserved.京ICP備14033264號-5
電信與信息服務(wù)業(yè)務(wù)經(jīng)營許可證060344號主辦單位:《中國高新技術(shù)產(chǎn)業(yè)導(dǎo)報》社有限責(zé)任公司