百川智能正式發布全鏈路領域增強大模型

來源：環球網

【環球網科技綜合報道】12月23日，百川智能發布全鏈路領域增強大模型Baichuan4-Finance。

如何讓模型在提升專業能力的同時不損失通用能力，是當下大模型落地具體場景最大的阻礙。為解決這一問題，百川智能打造了一套全鏈路領域增強方案，該方案覆蓋了高質量數據集構建、模型預訓練、微調、強化學習等從模型研發到場景應用的全流程。

在模型訓練階段，通過領域自約束訓練技術，百川智能實現了模型專項能力和通用能力同步提升的效果，極大提升了模型多元場景的可用性。而Baichuan4-Finance正是這一方案的最新成果，全鏈路金融領域增強讓其既掌握了扎實的金融理論基礎，又具備了豐富的多場景實踐應用能力。

具體而言，Baichuan4-Finance的高質量金融數據集既包含金融專業教材與學術著作、頂級金融期刊論文、監管機構政策文件、金融法律法規等核心專業金融知識數據，也覆蓋了金融專業問答集、企業財報與年度報告、金融類研究分析報告等實踐應用類數據，為提升模型金融能力提供了良好的底層支撐。

在此基礎上，Baichuan4-Finance還在領域自約束訓練過程中引入了更高精的通用數據，與高質量金融數據一起進行混合訓練，最終實現了模型通用能力不下降，金融能力穩定增長的效果。

此外，百川智能在后訓練環節也做了大量增強工作，如：通過合成數據、指令數據對模型進行有監督的微調；在強化學習策略中，針對數學計算等金融領域特別關注的場景進行樣本增強等，進一步提升了模型性能。

值得一提的是，為了更好地助力金融企業將大模型應用到各種真實場景，百川智能還在官網發布了Baichuan4-Finance全鏈路領域增強的技術報告，詳細闡述了包括“領域自約束訓練”在內的各項技術細節。（青云）