2025-08-12 13:29:24
每經AI快訊，據央視新聞，8月12日，在2025金融AI推理應用落地與發展論壇上，華為將發布AI推理創新技術UCM（推理記憶數據管理器）。作為一款以KV Cache為中心的推理加速套件，其融合了多類型緩存加速算法工具，分級管理推理過程中產生的KV Cache記憶數據，擴大了推理上下文窗口，以實現高吞吐、低時延的推理體驗，降低每Token的推理成本。
據介紹，推理體驗直接關系到用戶與AI交互時的感受，包括回答問題的時延、答案的準確度以及復雜上下文的推理能力等方面。當前，隨著AI產業已從“追求模型能力的極限”轉向“追求推理體驗的最優化”，推理體驗直接關聯用戶滿意度、商業可行性等，成為衡量模型價值的黃金標尺。
特別提醒：如果我們使用了您的圖片，請作者與本站聯系索取稿酬。如您不希望作品出現在本站，可聯系我們要求撤下您的作品。
歡迎關注每日經濟新聞APP
Copyright ? 2025 每日經濟新聞報社版權所有，未經許可不得轉載使用，違者必究。
廣告熱線? 北京: 010-57613265，?上海: 021-61283008，?廣州: 020-84201861，?深圳: 0755-83520159，?成都: 028-86512112
