當前聚焦：百度工程師首次現場演示：“文心千帆”如何可視化微調大模型

5月9日，百度智能云在北京舉行文心大模型技術交流會，向在場的百家企業展示文心大模型在產品技術、場景研發、生態建設等領域的最新進展。

大模型引發的AI再造產業趨勢已經勢不可擋。但當下企業最大的難題是，如何高效、低成本得獲取大模型能力，如何挑選到最合適的大模型服務。

(資料圖片僅供參考)

百度智能云方面表示，正在內測的“文心千帆大模型平臺”，是全球首個一站式的企業級大模型生產平臺，不但提供包括文心一言在內的大模型服務及第三方大模型服務，還提供大模型開發和應用的整套工具鏈。

未來，文心千帆將提供兩種服務：第一，文心千帆將以文心一言為核心，提供大模型服務，幫助客戶改造產品和生產流程。第二，作為一個大模型生產平臺，企業可以在文心千帆上基于任何開源或閉源的大模型，開發自己的專屬大模型。

百度集團副總裁侯震宇表示，大模型時代下，企業的創新要脫穎而出，不但需要智能的算力、靈活的框架平臺、豐富的大模型體系以及優質的應用方案，還需要這四者之間端到端的適配與優化，這是一個“既要、又要、還要”的端到端創新工程。

現場，百度智能云與聯想集團、用友、寶蘭德等14家文心千帆生態伙伴舉行簽約儀式。

用友網絡副總裁、用友研究院院長呂建偉表示，中國企業關注大模型的落地能力，一個簡單的智能問答背后有著非常復雜的加工過程。我們期望和百度智能云一起，把微調、性能調優等工具簡化，推動大模型應用。

北京寶蘭德軟件董事長易存道表示，如何把大模型在垂直行業做好，是目前各個企業都要考慮的問題，多數企業無法像百度一樣有能力建設大模型。怎么能夠把百度的大模型能力和企業業務有效結合起來，創造更高的價值，是企業非常好的彎道超車機會。

事實上，目前企業應用大模型面臨諸多難點：模型體積大，訓練難度高；算力規模大，性能要求高；數據規模大，數據質量參差不齊。大模型產業化需要云計算廠商將模型開發、訓練、調優、運營等復雜過程封裝起來，通過低門檻、高效率的企業級服務平臺深入產業，為千行百業提供服務。

侯震宇表示，文心千帆大模型平臺是全球首個一站式的企業級大模型平臺。之所以稱為全球首個一站式平臺，是因為它不但提供包括文心一言在內的大模型服務，還提供大模型開發和應用的整套工具鏈。此外，該平臺還支持各類第三方大模型，未來將成為大模型生產和分發的集散地。

目前，文心千帆大模型平臺提供公有云服務、私有化部署兩大交付模式。

在公有云服務方面，將提供推理（直接調用大模型的推理能力）、微調（通過高質量精標業務數據，高效訓練出特定行業的大模型）、托管（將模型發布在百度智能云，以實現更加穩定高效的運行）三種服務，大幅降低企業部署大模型的門檻。

百度智能云AI與大數據平臺總經理忻舟在現場演示了如何微調大模型，這也是國內首次演示如何微調行業專屬大模型的全過程。文心千帆大模型平臺提供了可視化開發工具鏈，提供了數據生成、標注、回流的數據閉環管理功能。客戶以少量數據即可發起模型微調，最快幾分鐘就可獲得自己的專屬大模型。

在私有化部署方面，文心千帆大模型平臺支持軟件授權（提供在企業環境中運行的大模型服務）、軟硬一體（提供整套大模型服務及對應的硬件基礎設施），租賃服務（提供機器和平臺的租賃滿足客戶低頻需求）三種方式。私有化部屬能夠滿足對數據監管有嚴格要求的企業客戶需求。

忻舟總結，文心千帆大模型平臺有六大特點：更易用，開箱即用，節約客戶機會成本；更全面，提供覆蓋全生命周期的工具鏈；更高效，可以端到端的全流程優化；更安全；更開放；更集成，更多插件拓展模型能力邊界。

“快且收斂，是大模型應用訓練中一個非常重要的指標。”忻舟說，“只快不收斂，大模型的訓練是沒有用的。文心千帆在多機多卡訓練性能方面，可以更快達到收斂的狀態，在全球權威AI基準評測MLPerf榜單中排名世界第一。”

（文章來源：證券日報）