在上海世博中心開幕,眾多專家學者、科技領軍人才、企業代表共同探討人工智能賦能產業發展的全新變化,展望技術新趨勢。百度首席技術官、深度學習技術及應用國家工程研究中心主任王海峰解讀文心大模型3.5版核心技術,發布飛槳生態最新進展,闡述人工智能產業模式,為人工智能技術及產業最新發聲。
飛槳已凝聚750萬名開發者,文心3.5效果提升50%,推理速度提升30倍
當前,以大語言模型為代表的人工智能技術在全球掀起科技和產業創新浪潮,加速產業升級和經濟增長,各行各業都將發生巨大變化。IT技術棧發生根本性改變,從芯片、操作系統和應用三層架構,轉變為芯片、框架、模型、應用四層架構。深度學習框架和大模型構成了產業智能化基座,將支撐各行各業的應用智能化重構,促進經濟高質量發展。
據了解,百度在人工智能四層技術棧均有布局和領先的自研技術,尤其在位于四層架構核心的框架層和模型層。文心大模型的最新成果,也得益于飛槳深度學習平臺和文心的聯合優化。飛槳是我國第一個自主研發的產業級深度學習開源開放平臺,在中國深度學習平臺綜合市場份額上連續兩年位居第一。王海峰現場透露,截至目前飛槳已凝聚750萬名開發者,這也是百度2023年以來首次對外披露飛槳生態最新數據。
百度自2019年3月文心大模型發布1.0版后,歷經四年技術深耕和研發迭代,現已升級到文心大模型3.5。王海峰表示,文心大模型3.5效果、功能、性能全面提升,實現了基礎模型升級、精調技術創新、知識點增強、邏輯推理增強等,模型效果提升50%,訓練速度提升2倍,推理速度提升30倍。
核心技術持續突破,效果和效率齊躍升
今年3月,百度在全球大型科技公司中第一個發布了大語言模型文心一言。文心一言是知識增強的大語言模型,首先從數萬億數據和數千億知識中融合學習得到預訓練大模型,在此基礎上采用有監督精調、人類反饋的強化學習和提示等技術,并具備知識增強、檢索增強和對話增強等技術優勢。
王海峰解讀了文心大模型3.5的核心技術創新,在基礎模型訓練上,采用了飛槳最先進的自適應混合并行訓練技術及混合精度計算策略,并采用多種策略優化數據源及數據分布,加快了模型迭代速度,顯著提升了模型效果和安全性。同時,創新了多類型多階段有監督精調、多層次多粒度獎勵模型、多損失函數混合優化策略、雙飛輪結合的模型優化等技術,進一步提升模型效果及場景適配能力。
在知識增強和檢索增強基礎上,文心大模型3.5提出了“知識點增強技術”,對用戶輸入的查詢、問題等進行分析理解,解析出生成答案所需要的相關知識點,之后運用知識圖譜和搜索引擎為這些知識點找到相應答案,最后再用這些知識點構造輸入給大模型的提示,為大模型注入更具體、更詳細、更專業的知識點,顯著提升大模型對世界知識的掌握和運用。
在推理方面,通過大規模邏輯數據構建、邏輯知識建模、多粒度語義知識組合以及符號神經網絡技術,提升文心大模型3.5在邏輯推理、數學計算及代碼生成等任務上的表現。
新增插件機制,拓展大模型能力邊界
文心大模型3.5新增了插件機制,文心一言已經于6月17日對外發布官方插件百度搜索和ChatFile。百度搜索是默認的內置插件,使得文心一言具備生成實時準確信息的能力。ChatFile是長文本摘要和問答插件,支持超長文本輸入。
王海峰表示,文心一言將發布更多優質的百度官方和第三方插件,讓用戶能夠更好地應用文心大模型,同時也將逐步開放插件生態,幫助開發者基于文心大模型打造自己的應用。
廣泛應用于各類場景,加速產業智能化升級
現場王海峰展現了文心一言在辦公、會議、編碼等場景的應用,文心一言成為工作中的“超級助理”,幫助總結工作溝通要點,實時記錄會議內容,形成會議議題、摘要及總結等關鍵信息,可以通過各類插件完成指令任務,包括查詢日程、創建會議、設置待辦、申請休假等,也可以在工程師編碼過程中自動推薦和生成代碼。據悉,目前這些功能已通過智能工作平臺“如流”應用于百度的工作流程中,幫助提升工作效率,提高決策質量。
王海峰表示,凡是要跟語言文字或程序代碼打交道的應用場景,都可能有文心一言的用武之地。已經有很多在積極應用文心一言的場景,例如能源、金融、教育、辦公、媒體,等等。在文心一言這類大模型產業落地的進程中,可以采用“集約化生產,平臺化應用”的模式,即具有算法、算力和數據綜合優勢的企業將模型生產的復雜過程封裝起來,通過低門檻、高效率的生產平臺,為千行百業提供大模型服務。
鄭重聲明:此文內容為本網站轉載企業宣傳資訊,目的在于傳播更多信息,與本站立場無關。僅供讀者參考,并請自行核實相關內容。