8月12日，2025金融AI推理應(yīng)用落地與發(fā)展論壇在上海舉行。中國(guó)銀聯(lián)執(zhí)行副總裁涂曉軍、華為數(shù)字金融軍團(tuán)CEO曹沖出席本次論壇并發(fā)表致辭。論壇上，華為公司副總裁、數(shù)據(jù)存儲(chǔ)產(chǎn)品線總裁周躍峰博士發(fā)布AI推理創(chuàng)新技術(shù)——UCM推理記憶數(shù)據(jù)管理器，旨在推動(dòng)AI推理體驗(yàn)升級(jí)，提升推理性價(jià)比，加速AI商業(yè)正循環(huán)。同時(shí)，華為攜手中國(guó)銀聯(lián)率先在金融典型場(chǎng)景開展UCM技術(shù)試點(diǎn)應(yīng)用，并聯(lián)合發(fā)布智慧金融AI推理加速方案應(yīng)用成果。

當(dāng)前，人工智能已步入發(fā)展深水區(qū)，AI推理正成為下一個(gè)爆發(fā)式增長(zhǎng)的關(guān)鍵階段，推理體驗(yàn)和推理成本成為了衡量模型價(jià)值的黃金標(biāo)尺。周躍峰在論壇上強(qiáng)調(diào)：“AI時(shí)代，模型訓(xùn)練、推理效率與體驗(yàn)的量綱都以Token數(shù)為表征，Token經(jīng)濟(jì)已經(jīng)到來(lái)”。為保障流暢的推理體驗(yàn)，企業(yè)需持續(xù)加大算力投入，但如何在推理效率與成本之間找到最佳平衡點(diǎn)，成為了全行業(yè)亟待解決的重要課題。

為此，華為重磅推出UCM推理記憶數(shù)據(jù)管理器，包括對(duì)接不同引擎與算力的推理引擎插件(Connector)、支持多級(jí)KV Cache管理及加速算法的功能庫(kù)(Accelerator)、高性能KV Cache存取適配器(Adapter)三大組件，通過(guò)推理框架、算力、存儲(chǔ)三層協(xié)同，實(shí)現(xiàn)AI推理“更優(yōu)體驗(yàn)、更低成本”：

更優(yōu)的推理體驗(yàn)：依托UCM層級(jí)化自適應(yīng)的全局前綴緩存技術(shù)，系統(tǒng)能直接調(diào)用KV緩存數(shù)據(jù)，避免重復(fù)計(jì)算，使首Token時(shí)延最大降低90%。同時(shí)，UCM將超長(zhǎng)序列Cache分層卸載至外置專業(yè)存儲(chǔ)，通過(guò)算法創(chuàng)新突破模型和資源限制，實(shí)現(xiàn)推理上下文窗口10倍級(jí)擴(kuò)展，滿足長(zhǎng)文本處理需求。

更低的推理成本：UCM具備智能分級(jí)緩存能力，可根據(jù)記憶熱度在HBM、DRAM、SSD等存儲(chǔ)介質(zhì)中實(shí)現(xiàn)按需流動(dòng);同時(shí)融合多種稀疏注意力算法，實(shí)現(xiàn)存算深度協(xié)同，使長(zhǎng)序列場(chǎng)景下TPS(每秒處理token數(shù))提升2-22倍，顯著降低每Token推理成本，為企業(yè)減負(fù)增效。

在與中國(guó)銀聯(lián)的聯(lián)合創(chuàng)新技術(shù)試點(diǎn)中，UCM的技術(shù)價(jià)值得到充分驗(yàn)證。在中國(guó)銀聯(lián)“客戶之聲”業(yè)務(wù)場(chǎng)景下，借助UCM技術(shù)及工程化手段，大模型推理速度提升125倍，僅需10秒即可精準(zhǔn)識(shí)別客戶高頻問(wèn)題，促進(jìn)服務(wù)質(zhì)量提升。未來(lái)，中國(guó)銀聯(lián)將依托國(guó)家人工智能應(yīng)用中試基地，聯(lián)合華為等生態(tài)伙伴共建“AI+金融”示范應(yīng)用，推動(dòng)技術(shù)成果從“實(shí)驗(yàn)室驗(yàn)證”走向“規(guī)?；瘧?yīng)用”。

論壇現(xiàn)場(chǎng)，華為正式公布了UCM開源計(jì)劃。UCM通過(guò)開放統(tǒng)一的南北向接口，可適配多類型推理引擎框架、算力及存儲(chǔ)系統(tǒng)。今年9月，UCM將正式開源，后續(xù)逐步貢獻(xiàn)給業(yè)界主流推理引擎社區(qū)，攜手全產(chǎn)業(yè)共同推動(dòng)AI推理生態(tài)的繁榮發(fā)展。

（來(lái)源：華為）