大模型高效微調(diào)新突破，奇富科技PrAd框架入選EMNLP 2025

在全球人工智能技術激烈競爭、大模型加速賦能產(chǎn)業(yè)的關鍵階段，高效微調(diào)技術成為推動落地的核心突破口。近日，奇富科技在大模型高效參數(shù)微調(diào)領域的最新研究成果PrAd: Prompt Adaptive Tuning for Decoder-only Language Models被國際頂級NLP學術會議EMNLP 2025 Findings收錄。這意味著中國科技企業(yè)在人工智能基礎研究方面再次獲得國際學術界的認可。

EMNLP（Conference on Empirical Methods in Natural Language Processing）是自然語言處理（NLP）領域最頂級、最具影響力的國際學術會議之一，與ACL和NAACL共同構成NLP領域的“三大頂會”。其以極嚴的評審流程、極低的錄取比例著稱，是全球NLP研究者發(fā)布成果、交流思想的首選平臺。此次奇富科技的研究成果被 EMNLP 2025 收錄，標志著公司在人工智能基礎研究與技術創(chuàng)新方面持續(xù)取得重要進展。

隨著大語言模型在各實際業(yè)務場景中廣泛落地，如何高效、低成本地實現(xiàn)多任務適配成為行業(yè)共性難題。傳統(tǒng)的全參數(shù)微調(diào)方法雖效果顯著，但計算和存儲成本極高；而現(xiàn)有的參數(shù)高效微調(diào)方法如Prompt Tuning和Adapter Tuning等，仍存在訓練不穩(wěn)定、推理延遲高、序列膨脹等局限。

為解決這些痛點，奇富科技研究團隊提出了一種面向Decoder-only架構大模型的全新微調(diào)框架PrAd。該方法創(chuàng)新性地將結構優(yōu)化與推理流程深度融合，僅在預填充（Prefill）階段引入輕量Adapter模塊對提示進行特征變換，而在解碼（Decoding）階段則完全保持原始結構，不引入任何額外計算。

PrAd框架在三個方面實現(xiàn)顯著突破：

訓練效率高：不增加輸入長度，初始化簡單，訓練穩(wěn)定性強，效果可比甚至超越主流基線；

推理高效：僅在第一個token生成時增加微小延遲，后續(xù)解碼不引入額外開銷，支持多任務共享批推理，實測速度在多任務場景下較LoRA提升最高超10倍；

運維成本大幅降低：Adapter管理規(guī)模和顯存占用降幅可達50%，簡化多任務模型的部署與批量推理流程。

實驗結果表明，PrAd在六項多樣化NLP任務上均取得了與最優(yōu)方法相當或更優(yōu)的表現(xiàn)，同時在推理效率和資源利用率方面展現(xiàn)出顯著優(yōu)勢，尤其適用于金融領域常見的多任務、高并發(fā)、低延遲應用場景。

奇富科技首席算法科學家費浩峻表示：“PrAd不僅是一項技術突破，更是奇富‘科技賦能金融’理念的具體實踐。我們致力于推動大模型在金融場景中的高效、可靠、規(guī)?；瘧?。”未來，奇富科技將繼續(xù)加大在 AI 基礎模型、高效微調(diào)、可信計算等方向的研發(fā)投入，推動更多科研成果轉(zhuǎn)化為實際生產(chǎn)力，助力金融行業(yè)智能化升級。