本報訊(記者 張偉) 1月29日,在清華系國產算力軟件企業(yè)北京清程極智科技有限公司(以下簡稱“清程極智”)舉行的清程AI Ping產品發(fā)布會上,來自政府部門、科研機構、云服務平臺、大模型服務商及應用企業(yè)等多方代表,圍繞大模型API(應用程序編程接口)服務的評測體系、生態(tài)協(xié)同展開深入交流。
清華大學教授鄭緯民表示,當前,人工智能基礎設施(AI Infra)的核心任務正在發(fā)生變化。過去,AI Infra主要服務于大模型的訓練與推理,解決“如何生產智能”的問題;隨著模型生態(tài)不斷豐富和智能體廣泛應用,行業(yè)正在進入以“智能流通”為核心的新階段,更加關注模型能力如何在真實業(yè)務中高效、穩(wěn)定地被使用。
鄭緯民說,實現(xiàn)“智能流通”的關鍵在于智能路由能力建設,既包括在多模型環(huán)境下為不同任務選擇最合適模型的“模型路由”,也包括在同一模型的多種API服務提供者之間進行性能與成本優(yōu)化調度的“服務路由”。兩類路由能力協(xié)同發(fā)展,將形成完整的AI任務分發(fā)網絡,決定AI系統(tǒng)的最終效率和使用成本。
清程極智CEO湯雄超表示,AI Infra的關注重點正在不斷演進,從大模型訓練與微調到推理部署的高性價比實現(xiàn),再到應用階段對服務穩(wěn)定性和使用效率的更高要求。因此,清程極智長期圍繞大模型訓練、推理和應用3類核心場景開展技術實踐,先后推出八卦爐訓練系統(tǒng)和赤兔推理引擎,支撐大模型在多種算力環(huán)境下的高效訓練與部署。隨著AI應用和智能體快速發(fā)展,模型能力如何在真實業(yè)務中高效流通成為新的關鍵問題?;谶@一背景,清程極智推出AI Ping平臺(一站式AI評測與API服務智能路由平臺),完善大模型應用階段的基礎設施能力。
會上,清程極智聯(lián)合20余家大模型API服務商共同啟動“智能、可持續(xù)大模型API服務生態(tài)計劃”,未來將圍繞模型服務能力評估、評測方法論建設、行業(yè)交流與成果發(fā)布等方向持續(xù)推進,推動模型API服務從“可用”向“好用、易用、高性價比”演進。
同時發(fā)布的《2025大模型API服務行業(yè)分析報告》顯示,在模型與服務商高度多樣化的背景下,API服務的核心競爭要素正從“價格差異”轉向“交付質量”,包括響應時延、吞吐能力、穩(wěn)定性與上下文支持等關鍵指標。實證數據表明,在同一模型條件下,引入智能路由機制,在保障可用性的前提下可實現(xiàn)顯著的性能提升與成本優(yōu)化,為大模型 API 服務走向規(guī)?;?、長期化使用提供可驗證的工程路徑。
“隨著AI Ping平臺的發(fā)布及生態(tài)計劃的啟動,大模型API服務這一長期處于‘幕后’的關鍵環(huán)節(jié)正逐步走向臺前應用編程接口?!迸c會嘉賓認為,隨著大模型應用不斷深化,模型服務正在從可用階段邁向精細化運營階段,評測體系、服務路由與統(tǒng)一管理能力將逐步成為支撐下一階段規(guī)模化應用的重要基礎設施。
友情鏈接: 政府 高新園區(qū)合作媒體
Copyright 1999-2026 中國高新網chinahightech.com All Rights Reserved.京ICP備14033264號-5
電信與信息服務業(yè)務經營許可證060344號主辦單位:《中國高新技術產業(yè)導報》社有限責任公司