如何加強生物安全以應對人工智能驅動的生物恐怖主義威脅

2025年8月，美國戰略與國際研究中心（CSIS）下屬的瓦德瓦尼人工智能中心發布了題為《人工智能驅動的生物恐怖主義：美國強化生物安全的契機與政策要點》（Opportunities to Strengthen U.S. Biosecurity from AI-Enabled Bioterrorism: What Policymakers Should Know）的報告。系統闡述了人工智能與生物技術融合所帶來的雙重性挑戰：一方面催生了前所未有的科學突破和全球健康機遇，另一方面卻顯著降低了生物武器的開發門檻，對生物安全構成了嚴峻且前所未有的威脅。該報告深入剖析了人工智能賦能生物恐怖主義的兩大核心路徑——即大語言模型（LLM）瓦解傳統信息壁壘的能力，以及生物設計工具（BDT）生成新型高致病性病原體的巨大潛力。該報告指出，美國現有的生物安全防御體系在面對這些新興威脅時存在根本性不足。對此報告提出了三項核心建議，旨在推動美國盡快構建一套能夠有效應對人工智能時代挑戰的新型生物防御體系。啟元洞見編譯該報告主要內容，旨在為讀者了解相關研究提供參考。

一、新興威脅：人工智能降低生物武器開發門檻

人工智能技術正在以前所未有的速度降低生物武器開發的傳統壁壘。回顧歷史，開發生物武器是一項需要國家級投入的龐大工程，涉及巨額資金和高度專業化的科研團隊。例如，在二戰時期，美國的生物武器計劃耗資高達數千萬美元，并雇傭了近4500名專業人員。而進入現代，技術的進步已經大幅壓縮了這項成本與難度——一個常被引用的例證是，兩名加拿大科學家僅以10萬美元的微小代價就成功合成了馬痘病毒。人工智能的介入，更使得這一門檻呈現斷崖式下降。具體而言，威脅主要通過兩種路徑實現：大語言模型充當了知識普及與技術指導的角色，而生物設計工具則直接提供了生成致命病原體的潛在能力。

在大語言模型方面，來自OpenAI、Anthropic等領先機構的內部評估顯示，它們最先進的模型已經能夠就病毒學、病原體獲取與培養等具有明顯雙重用途性質的主題，提供堪比甚至超越人類專家的詳細建議。在某些特定測試場景中，這些模型的表現優于94%的人類專家。盡管模型開發公司出于責任倫理已經實施了一系列防護措施，例如內容過濾和政策約束，但現實表明，通過“越獄”（jailbreaking）技術破解模型限制，或通過對開源模型進行有針對性的“微調”（fine-tuning），惡意行為者完全可以繞過這些安全護欄。這意味著，即使是一個缺乏生物學專業背景的個體，也有可能借助人工智能獲取到進行生物武器開發所需的關鍵技術信息和步驟指導，從而極大地擴大了潛在的威脅來源。

在生物設計工具方面，其威脅更具根本性和顛覆性。以2025年2月發布的Evo 2模型為例，該模型基于高達12.8萬個基因組數據進行訓練，不僅能夠精準預測基因突變對功能的影響，更具備了設計全新、自然界中不存在的生物序列的能力。盡管目前最先進的生物設計工具尚無法真正從頭設計出能夠自我復制的完整病原體，但其技術能力正以驚人的速度演進。研究機構Epoch AI的分析指出，在2017至2021年間，頂級生物設計工具模型訓練所消耗的計算算力正以年均21倍的幅度增長，而用于訓練的數據量也以年均10倍的速度擴張。按照這一指數級發展軌跡預測，未來的三到五年內，生物設計工具極有可能突破現有的技術瓶頸，獲得設計出兼具高傳染性（如麻疹病毒水平）和高致死率（如埃博拉病毒水平）的全新病原體的能力，這將是一場生物安全領域的范式轉移。

二、現有生物安全措施的挑戰

報告指出，面對急速演進的人工智能生物威脅，美國當前賴以維持生物安全的防御體系顯得陳舊和脆弱，其主要依賴的兩大支柱——生物設計工具模型自身防護和核酸合成篩查，在人工智能時代暴露出了致命的局限性。

在生物設計工具模型防護方面，現有的措施極易被規避。例如，盡管Evo系列模型的開發者出于安全考慮，從其訓練數據集中移除了所有已知的真核病毒序列，但這種防護是靜態且脆弱的。惡意用戶可以通過對模型進行微調，輕而易舉地將有害的序列數據重新注入，從而“教會”模型生成危險的設計。更令人擔憂的是，整個行業的生物模型安全狀況極不樂觀。Epoch AI的調查數據顯示，目前僅有不到3%的生物設計工具配備了任何形式的安全防護措施（包括嚴格的訪問控制、訓練數據過濾或輸出審查），而這些已部署的防護措施本身也普遍存在漏洞，安全性并不可靠。這種整體性的安全缺失狀態，使得強大的生物設計能力可能毫無阻礙地擴散至非國家行為體手中。

在核酸合成篩選方面，美國及國際社會現行的體系建立在“管制病原體與毒素清單”的基礎之上，其局限性日益凸顯。美國政府的清單僅包含63種病原體和毒素，即便算上國際訂單中需篩查的出口管制物品，總數也不過150種左右。這種基于有限、靜態名單的篩選方法，完全無法應對由人工智能生成的全新生物序列威脅。2024年進行的測試結果觸目驚心，主流的商業合成篩查軟件對經過人工智能改造的毒素序列的漏檢率高達100%，意味著這些已知的篩查工具完全無法識別出非清單上的、由人工智能設計的新型生物威脅。雖然業界和政府已認識到問題，并啟動了擴展“關注序列”（Sequence of Concern, SOC）數據庫的倡議，旨在覆蓋更廣泛的潛在威脅序列，但這一努力面臨著缺乏標準化、更新嚴重滯后、不同篩查機構間數據孤島化等一系列挑戰，其演進速度遠遠跟不上人工智能生成新型威脅序列的步伐。

三、政策建議：構建人工智能時代的生物防御體系

鑒于威脅的緊迫性和現有措施的不足，報告為政策制定者勾勒出了一套構建人工智能時代生物防御體系的核心行動方案。

首要建議是確保關鍵機構獲得充足的資金支持以強化政府評估與標準制定能力。美國國家標準與技術研究院（NIST）及其下屬新成立的美國人工智能安全研究所被確定為推進人工智能生物安全評估、開發和制定篩查標準的核心機構。它們的工作對于建立全國統一的測試基準、風險評估框架和數據共享標準至關重要。然而，當前特朗普政府提交的2026財年預算提案中，計劃削減國家標準與技術研究院高達30%的經費，這一舉措將嚴重削弱甚至癱瘓其執行上述關鍵任務的能力。因此，立法者必須意識到其中的戰略風險，確保為NIST和CSIS提供充足且穩定的資金流，支持其開展前沿模型測試、推動數據標準化進程以及進行必要的國際協調與合作。

第二項核心建議是由CSIS主導，定期對最前沿的生物設計工具進行系統性的能力評估與紅隊測試。CSIS應當聯合跨部門的“人工智能與國家安全測試風險工作組”（TRAINS），并吸納國際合作伙伴及頂尖學術機構，共同對市場上商業流通及實驗室中非商業的最強大生物設計工具模型進行持續評估。評估焦點應明確放在那些最危險的能力上，例如設計全新病原體、優化病原體的抗原性以逃避現有免疫系統、或設計能夠規避現有篩查工具的序列。為了在安全與創新之間取得平衡，測試對象應聚焦于“能力最強”的模型（基于計算算力、訓練數據量等客觀閾值），避免監管范圍過度擴大而扼殺有益的科研創新和產業發展。

第三項建議是技術升級，呼吁開發新一代人工智能賦能的標準化核酸合成篩選系統。報告建議由美國白宮科技政策辦公室（OSTP）牽頭，協調美國衛生部、美國商務部、美國國土安全部等部門，并聯合私營合成生物學企業，共同開發和部署一套統一的、智能化的合成序列篩查系統。這套系統必須超越過去的靜態名單比對，深度整合人工智能的預測能力，對每一筆合成序列訂單實施動態的、分層級的風險評估。其工作流程可設計為：與現有數據庫無任何相似性的序列被劃為低風險，可快速放行；與已知威脅序列存在部分相似性的序列被列為中風險，自動觸發對客戶背景和用途的更深入核查；與已知威脅序列高度相似或經人工智能預測模型判定為具有潛在有害功能的序列被視為高風險，此類訂單需暫緩并由政府監管部門進行批準審查；對于那些被高度確信具有引發大流行潛力的極端危險序列，系統應立即終止訂單并自動向執法和國家安全機構發出警報。整個系統的設計必須精心權衡安全與效率，最大化安全效益的同時，盡量避免給蓬勃發展的合成生物學行業帶來過重的合規負擔和時間成本。

四、結論：緊迫性與平衡之道

人工智能技術正在以指數級速度重塑生物技術的研發范式，其強大的雙重用途特性要求國家的應對之策必須同時服務于兩個有時相互競爭的目標：堅決防范任何惡意濫用行為，同時積極保護和促進負責任的科學創新與產業發展。分析表明，美國現有的生物安全措施，無論是在模型防護還是合成篩查方面，都已無法有效應對由人工智能生成或賦能的新型生物威脅。拖延和不作為的風險極高。雖然特朗普政府近期發布的《人工智能行動計劃》體現了對這一問題的高度關注，并邁出了重要的第一步，但現在亟需將其中的原則性聲明加速轉化為具體、可操作、有資金支持的法律法規和政策工具。通過果斷投資于美國國家標準與技術研究院和美國戰略與國際研究中心的基礎能力建設、建立對前沿生物設計工具模型的持續評估機制、以及徹底升級國家的核酸合成篩選基礎設施，美國可以推行一項“高回報、低成本”的先發制人式生物防御戰略。其最終目標是構建一個多層次的強大防御體系，確保無論技術如何演進，開發生物武器始終是一項極其困難、極其昂貴、極易被察覺和阻止的行動，從而牢牢守住生物安全的底線，避免最壞情況的發生。

免責聲明：本文轉自啟元洞見。文章內容系原作者個人觀點，本公眾號編譯/轉載僅為分享、傳達不同觀點，如有任何異議，歡迎聯系我們！

轉自丨啟元洞見

研究所簡介

國際技術經濟研究所（IITE）成立于1985年11月，是隸屬于國務院發展研究中心的非營利性研究機構，主要職能是研究我國經濟、科技社會發展中的重大政策性、戰略性、前瞻性問題，跟蹤和分析世界科技、經濟發展態勢，為中央和有關部委提供決策咨詢服務。“全球技術地圖”為國際技術經濟研究所官方微信賬號，致力于向公眾傳遞前沿技術資訊和科技創新洞見。

地址：北京市海淀區小南莊20號樓A座

電話：010-82635522

微信：iite_er