騰訊吳運聲：騰訊云MaaS，打造一站式行業大模型精選商店
2023-06-20 11:20:53 來源：中關村在線
6月19日，騰訊云在國家科技傳播中心召開行業大模型及智能應用技術峰會，首次公布騰訊云行業大模型研發進展，依托騰訊云TI平臺打造行業大模型精選商店，為客戶提供MaaS（Model-as-a-Service）一站式服務，助力客戶構建專屬大模型及智能應用。
峰會上，騰訊云副總裁、騰訊云智能負責人、優圖實驗室負責人吳運聲發表《騰訊云MaaS，打造一站式行業大模型精選商店》的主題演講，分享了騰訊云在行業大模型方面的技術方案，以及產業客戶實踐、行業大模型標準體系構建的進展。
(資料圖片)
騰訊云副總裁、騰訊云智能負責人、優圖實驗室負責人 吳運聲
吳運聲認為，大模型驅動“智慧涌現”，產業場景已成為最佳練兵場，在智能問答、內容創作、智能決策、智能風控等很多業務場景，具有非常廣泛的應用價值。騰訊云希望為客戶和伙伴打造一站式的行業大模型精選商店，加速大模型在產業領域的創新實踐。
企業在應用大模型時，常常面臨計算資源少、數據質量差、投入成本高、專業經驗少等挑戰，吳運聲表示，騰訊云將通過TI平臺，面向客戶全面輸出MaaS能力，可以滿足客戶模型預訓練、模型精調、智能應用開發等多樣化需求，讓客戶可根據自身業務場景需求，定制不同參數、不同規格的專屬模型。
峰會現場，吳運聲展示了文旅客服大模型場景的精調過程及效果。通過加入文旅行業垂直場景數據、接入文旅客戶API接口后，模型不僅可以為用戶制訂細致的旅行攻略，提供非常人性化的服務體驗，也讓智能客服系統，實現服務商業化的閉環。而未來隨著更多高質量數據的增加，模型的精調效果還會更好。
目前，騰訊云已經攜手傳媒、文旅、金融、政務、教育等行業的頭部企業，在十余個行業探索了超50個行業大模型的應用解決方案。
以下為演講全文：
尊敬的各位嘉賓、媒體朋友們，大家下午好！
我是騰訊的吳運聲，今天我的分享主題是《騰訊云MaaS，打造一站式行業大模型精選商店》。這是我們的定位，也是我們努力的方向。
依托騰訊云的高性能計算、行業大模型能力，以及我們多年深耕產業互聯網積累的行業經驗，我們希望為客戶和伙伴，打造一站式的行業大模型精選商店，加速大模型在產業領域的創新實踐。
大模型驅動“智慧涌現”，產業場景已成為最佳練兵場，在智能問答、內容創作、智能決策、智能風控等很多業務場景，具有非常廣泛的應用價值。那么，如何將大模型快速應用到自己的業務場景中？怎么才能在新一輪技術浪潮中不掉隊？
最近半年多的時間里，我們收到了非常多來自客戶的問詢。對于很多企業而言，想要用好大模型，確實面臨不少挑戰。
第一，是計算資源少。大模型的訓練和推理對計算資源和存儲資源有很高的需求，對很多客戶來說門檻太高。
第二，數據質量差。構建大模型是成本極高的系統工程，大模型需要大量的高質量數據進行訓練，數據還必須經過清洗和預處理。數據質量差，會導致模型的效果和效率無法得到保障。
第三，投入成本高。為確保業務使用的效果需要投入大量的數據、計算資源來訓練，還需要持續的調試和優化。
第四，專業經驗少。大模型的部署需要考慮到計算資源、網絡帶寬等多個方面的問題，大模型的開發和落地需要很多的技術和人力資源。此外，安全、合規，也是企業需要考慮的關鍵因素。
那么，如何解決產業客戶落地大模型，所面臨的成本、數據、安全等一系列問題呢？依托騰訊云大模型高性能計算集群和行業大模型能力，我們通過騰訊云TI平臺，面向客戶全面輸出MaaS能力，可以滿足客戶模型預訓練、模型精調、智能應用開發等多樣化需求。
騰訊云TI平臺行業大模型精調解決方案，具備完整大模型精調工具鏈，支持客戶加入自己獨有的場景數據，進行精調訓練，客戶可根據自身業務場景需求，定制不同參數、不同規格的專屬模型。
實際上，在過去一段時間里，我們已經攜手一些行業頭部企業，探索了多個行業大模型的應用場景。通過演示，我們可以看到在文旅客服大模型場景中，模型不僅給到了不同檔次的酒店推薦、介紹，甚至可以直接提供預訂鏈接。給用戶提供了非常人性化的服務體驗，也讓智能客服系統，實現服務商業化的閉環。
當然，現在這個效果，仍有很大提升空間，未來隨著更多高質量數據的增加，相信效果會更好。行業大模型有望重塑企業生產力、提升市場競爭力。
騰訊云TI平臺行業大模型精調解決方案，具備四大優勢，包括高質量的行業大模型、完善的平臺工具、成熟的流程方法、全面配套服務，可以為客戶提供從模型選擇、到落地部署的一站式服務。
首先，基于騰訊云多年深耕產業互聯網的經驗，騰訊云TI平臺內置了多個高質量行業大模型，涵蓋金融、傳媒、文旅、政務、工業等多個行業場景，同時開放支持客戶多模型訓練任務，滿足個性化需求。比如針對客服等場景中的“對話問答”、“相似問生成”等任務，有較好的優化，使用時僅需少量訓練數據，便可達到較好的精調效果。
其次，TI-ONE平臺提供完善的大模型工具鏈，包括數據標注、訓練、評估、測試和部署等全套工具，同時具備強大的多機多卡訓練加速能力，客戶可快速在TI-ONE平臺上進行一站式的大模型精調。
其中，大模型訓練，算力是基礎。騰訊云在大模型算力方面擁有領先優勢。早在今年4月，騰訊云便發布了面向大模型訓練的新一代HCC高性能計算集群，采用最新一代騰訊云星星海自研服務器，結合多層加速的高性能存儲系統，具備3.2Tbps業界最高互聯帶寬，算力性能提升3倍。
全新升級框架加速能力太極Angel，可以提供更優的訓練和推理加速能力。在傳統CV、NLP算法模型的基礎上，新增了對大模型的訓練和推理加速能力，通過異步調度優化、顯存優化、計算優化等方式，相比行業常用方案性能提升超過30%。
同時，支持更適合AI運算的向量數據庫，將幫助高效處理圖像、音頻和文本等非結構化數據，支持日處理千億級的檢索，將為客戶模型訓練提供充沛動力。
針對成本高、落地難的問題，騰訊云TI平臺實現針對行業場景的低成本落地。在少量算力的基礎上，提升特定任務的效果，比如智能客服場景，訓練性能可提升10倍，訓練成本下降90%。
我們沉淀了行業大模型全生命周期一體化的完整方法論，覆蓋“模型選型-訓練共建-部署應用”全流程，保障客戶需求的順利交付。
在配套服務方面，騰訊云提供本地化的訓練、落地及陪跑優化服務，為客戶掃清落地障礙；針對客戶需求，提供私有化部署、公有云托管多種靈活部署方案，助力企業快速創建和部署AI應用。
大模型的應用，安全、合規是前提，騰訊云在這方面有成熟的技術積累和經驗。在問題側、模型側、答案側三個層面進行敏感信息的過濾和規避，讓最終的答案符合安全、規范的要求。同時，依托騰訊多年的安全經驗和天御風控能力，提供AIGC全鏈路內容合規解決方案，確保大模型可信、可靠、可用。
行業大模型與AI助手的結合，可以快速提升“對話理解”和“智能問答”能力。比如，在學習了汽車場景的數據后，車載語音助手可根據車輛狀態、用戶狀態、歷史數據等信息，做主動觸達和場景運營，提供更人性化的場景服務。
前段時間，我們推出了騰訊云數智人工廠，內置超過10個AI算法模型。騰訊云MaaS能力，可以讓數智人分身復刻縮短至24小時，大幅降低成本。
在文旅領域，我們聯合一家線上旅游OTA公司，共同探索了文旅行業大模型的應用。其傳統智能客服需要人工進行對話配置，知識維護量大、耗時長，且涉及訂單等復雜業務場景，在無配置的情況下，無法通過機器人閉環解決問題。精調后的客戶專屬模型，無需配置對話流程，即可實現端到端解決業務問題。提升任務完成率，降低整體成本。
在金融領域，我們探索了OCR大模型，在銀行單據處理場景中的應用。傳統的OCR深度學習模型不具備閱讀理解和推理能力、模型指標上限低，不同場景下模型能力無法復制，定制成本高。我們聯合一家頭部銀行，基于OCR大模型，上線了4類票據的自動化識別流程，信息錄入準確率提升50%。
在行業大模型標準體系方面，我們正在聯合中國信通院，共同構建行業大模型的標準體系及能力架構，包括1套ILMOps方法論、60多項能力建設指標。這個標準體系覆蓋多個行業，涵蓋模型行業能力、模型工程化性能、模型算力網絡、模型安全可靠等方面。
