頂刊獨立一作！她從學科破壁走向交叉前沿

打開百度APP暢享高清圖片

還記得

“文轉工”的復旦女生徐凝雨嗎？

三年前

她從中國語言文學系畢業

以優異成績

直博計算機科學技術學院

（現為計算與智能創新學院）

就在幾天前

她作為計算與智能創新學院2022級博士生

以獨立第一作者身份

在國際權威期刊

《美國科學院院刊》（pnas）發表論文

揭示大語言模型中的類人概念表征

復旦大學自然語言處理實驗室

黃萱菁教授、邱錫鵬教授

現代語言學研究院、智能復雜體系實驗室

張夢翰研究員

共同擔任通訊作者

從打破專業界限

到實現學科交叉深入探索

在復旦

徐凝雨找到了自己的學術方向

也用行動詮釋了不受定義的發展可能

交叉研究背后的深度思考

2022年底，chatgpt橫空出世，人們驚嘆于其強大的能力。

“它不只有語言能力，還展現出了很強的認知能力?！碑敃r，剛成為直博生的徐凝雨，敏銳地捕捉到了這一現象背后的學術價值。

在深入研究過程中，她發現，要探究人工智能模型產生特定行為的原因，就必須打破“黑盒”的壁壘。而認知科學，這門探究人類思維奧秘的學科，似乎成為了解鎖ai行為機制的關鍵鑰匙。

基于自己在概念可解釋性方向的學習研究，她開始思考，能否從概念層面，將認知科學、語言學，甚至神經科學，同人工智能緊密串聯起來，構建一個跨學科的研究框架。

她不僅請教了自己的導師黃萱菁教授及同為自然語言處理實驗室教授的邱錫鵬等，也與現代語言學研究院、智能復雜體系實驗室研究員張夢翰等不同學科領域專家進行了深入探討。

“隨著ai的發展，大模型是否具備概念學習和概念表征能力引發了激烈的爭論。雖然這表面上是一個關于模型能力的問題，但在探討其定義時，我們發現這并非單純的技術問題，而是一個涉及到心理學、認知科學等多學科交叉的基礎問題。”在張夢翰看來，如果未來人工智能想更趨近人類，那就應弄清楚它和人在概念涌現、表征和學習上有多大的距離。

語言模型是否能形成概念表示？語言模型提取的概念表示是否以及在多大程度上與人類對齊？語言模型提取的概念表示是否具有生物學基礎？又能否映射到人類大腦的神經活動？……一系列關鍵問題，也在交流中浮出水面。

以問題為導向，徐凝雨在不同學科專家指導下，結合認知科學、人工智能和神經科學等領域的理論與方法，基于大語言模型的預測行為及內部表示，深入剖析了模型概念空間的構建方式，系統揭示出大語言模型能夠接近并再現人類概念的關鍵特征。

這一研究結果表明，“預測下一個詞”的訓練能夠讓大語言模型在缺乏現實世界聯結（real-world grounding）的情況下學習到和人類相似的概念表示。這種概念表示成功融合了人類概念的關鍵屬性，能夠有效解釋人類行為以及大腦中的概念編碼，為解決人類概念是如何表征和組織的這一核心認知問題提供了新的假設和啟發。

通過與人類行為及腦成像數據的比較，研究也發現，和人類概念相比，大語言模型的概念表示在捕捉與感知經驗相關的特征（如顏色、形狀、紋理）方面存在不足，這提示僅依賴語言輸入可能難以學習到相關信息。

獨立一作是種學習方式

從確定研究問題，到論文發表，徐凝雨在這項略顯“小眾”的交叉研究上投入了近兩年時間。

在此之前，她曾兩次以獨立一作身份，在國際會議“自然語言處理經驗方法會議（conference on empirical methods in natural language processing）”發文。相比之下，她此次作為獨立一作在pnas發文，所用的時間精力都超過之前。

于她而言，獨立一作更像是一種學習方式。徐凝雨坦言，相比本科就學習計算機相關專業的同學，自己的基礎“不算特別扎實”。成為獨立一作，則讓她得到了更系統全面的科研訓練，“一方面可以鍛煉獨立科研的能力，一方面也可以打好計算機方面的基礎?！?/p>

實際上，學科交叉并非單純的“加法”。研究者需要掌握不同學科的體系框架和研究方法，同時將各學科有機融合。這也正是交叉研究的難點所在。

正因如此，這一研究起初的投稿過程并不算順利?！皩徃迦思扔衅嬎銠C領域的，也有偏認知科學領域的，他們都從自己的專業角度提出了意見。當時我們的實驗可能還沒有辦法解決他們的疑問。”談起初期的拒稿經歷，徐凝雨記憶猶新。

壓力之下，她沒有選擇放棄，而是充分吸收了審稿人的建設性意見。這恰恰對后續完善論文起到了關鍵幫助，“我覺得解決這些問題，對論文有很大提升。”

在完善研究的過程中，徐凝雨試圖從多學科視角出發，深入探討語言模型與人腦在語言理解上是否存在相似現象，并致力于分析和解釋其背后的機制。這也使得此次的論文作者中既有計算機、語言學領域的專家，也有神經科學、認知科學方向的學者。

通過這一過程，她也對開展交叉學科研究有了更深入的認識，“要對不同學科都有比較深的掌握，否則你可能都找不到一個好的問題。”徐凝雨說，“講清楚你的研究對不同學科的意義，也是比較重要的?！?/p>

人才培養與學科發展的更多可能

談到自己的博士生涯，徐凝雨對指導自己開展研究的老師們充滿感激。這其中既有她所在的自然語言處理實驗室黃萱菁、邱錫鵬、張奇等人工智能領域專家，也有從事文理交叉前沿研究的張夢翰等學者，還有多位來自認知科學研究領域的研究者。

在她看來，能有機會開展這樣的跨學科合作，不僅得益于復旦綜合型大學的多學科優勢，也因導師黃萱菁的包容支持。

“黃老師給了我很大的自由度，讓我能夠自主地去探索研究方向?！毙炷暾f，即使在論文被拒的低谷期，導師黃萱菁也依然給予她鼓勵和支持。

她坦言，與其他計算機專業的同學相比，自己發表論文的速度并不算快，“但黃老師從未因此給我施加壓力，而是讓我按照自己的興趣和節奏去探索。這種支持和信任，對我來說意義非凡?！?/p>

徐凝雨（左）與導師黃萱菁（右）

從中文到人工智能，再到如今的交叉學科前沿，徐凝雨的成長軌跡讓黃萱菁看到了人才培養的更多可能。

“那時候，還沒有‘漢語言+人工智能’‘外語+計算機’這樣的雙學位項目。這些項目為學生提供了明確的跨學科學習路徑，包括該學哪些數學、計算機課程，但凝雨那時候更多是靠自己摸索?！秉S萱菁說。

為了夯實數理基礎，徐凝雨在本科階段主動增加了數學課程的學習。這份主動性與學習能力，給黃萱菁留下深刻印象。

在她看來，復旦計算機領域交叉人才培養當時還處在探索階段，而如今的培養路徑則更加多元完善，“這給了學生們更體系化的培養，為他們的未來創造了更多的可能?！?/p>

徐凝雨在學科交叉領域的探索，對于張夢翰而言，也是復旦發展“新文科”的有益嘗試。“大家一直在討論‘新文科’應該做什么，我覺得這其實是一個路徑，當然也不是唯一的路徑。”

他所在的現代語言學研究院，如今匯聚了一批交叉學科領域的杰出青年學者。作為復旦探索學科交叉的一塊“試驗田”，該研究院近年來已在校級層面開展了多項人文學科與其他學科的交叉研究工作。

談及未來，徐凝雨的眼中閃爍著憧憬。她期待沿著自己的研究方向繼續深入，去探尋那些關鍵問題的答案，讓思想的種子最終長成一片新綠。

組 稿

校融媒體中心

文 字

汪蒙琪

圖 片

受訪者供圖

王子逸飛

責 編

汪蒙琪

上觀號作者：復旦大學