為什么說智能體是生成式AI的下一個前沿領(lǐng)域？

文章來源丨麥肯錫公司：Lareina Yee、Michael Chui、Roger Roberts 和 Stephen Xu，慎思行采編翻譯

個人微信丨hello_SSX

在過去幾年里，生成式人工智能（Gen AI）所釋放出的能力和可能性令世人驚嘆不已。大型語言模型（LLMs）等基礎(chǔ)模型可以在文本、音頻、圖像和視頻等多種媒介中提取洞察并生成內(nèi)容，工作表現(xiàn)令人印象深刻。但是，生成式人工智能的下一階段可能會更具變革性。

我們正從基于知識的生成式AI工具——例如回答問題和生成內(nèi)容的聊天機器人——向生成式AI驅(qū)動的“智能體”演進(jìn)，這些智能體利用基礎(chǔ)模型在數(shù)字世界中執(zhí)行復(fù)雜的多步驟工作流程。簡而言之，技術(shù)正在從“思想”轉(zhuǎn)向“行動”。

廣義上講，"智能體"系統(tǒng)指的是能夠在動態(tài)世界中獨立互動的數(shù)字系統(tǒng)。雖然這些軟件系統(tǒng)的版本已經(jīng)存在多年，但是生成式AI的自然語言能力展現(xiàn)了新的可能性，使系統(tǒng)能夠規(guī)劃行動、使用在線工具完成任務(wù)、與其他智能體和人類協(xié)作，并通過學(xué)習(xí)改善表現(xiàn)。生成式AI智能體最終可能成為熟練的虛擬同事，以無縫且自然的方式與人類合作。例如，虛擬助手可以規(guī)劃和預(yù)訂復(fù)雜的個性化旅游行程，處理多個跨平臺的物流。工程師可以使用日常語言向程序員智能體描述新的軟件功能，然后智能體會編寫代碼、測試、迭代并部署它幫助創(chuàng)建的工具。

傳統(tǒng)上，智能體系統(tǒng)很難實現(xiàn)，需要基于規(guī)則的繁瑣編程或機器學(xué)習(xí)模型經(jīng)過高度疼的訓(xùn)練來實現(xiàn)，Gen AI改變了這一點。

當(dāng)智能體系統(tǒng)使用基礎(chǔ)模型（這些模型在極其龐大且多樣的非結(jié)構(gòu)化數(shù)據(jù)集上進(jìn)行了訓(xùn)練）而不是預(yù)定義規(guī)則來構(gòu)建時，它們就有可能以類似于LLMs的方式對未經(jīng)明確訓(xùn)練的提示做出智能回應(yīng)，適應(yīng)不同場景。此外，人類用戶可以使用自然語言而不是編程代碼，指揮Gen AI智能體系統(tǒng)完成復(fù)雜的工作流程。

然后，多智能體系統(tǒng)可以將這一工作流程解釋和組織為可執(zhí)行的任務(wù)，將工作分配給專門的智能體，使用數(shù)字工具生態(tài)系統(tǒng)執(zhí)行這些細(xì)化任務(wù)，并與其他智能體和人類合作，不斷改進(jìn)其行動的質(zhì)量。

在本文中，我們將探討使用Gen AI智能體所帶來的機遇。盡管該技術(shù)仍處于初級階段，在商業(yè)部署之前還需要進(jìn)一步的技術(shù)開發(fā)，但它正在迅速吸引關(guān)注。僅在過去一年，谷歌、微軟、OpenAI 等公司就已投資于支持智能體功能的軟件庫和框架。由LLM驅(qū)動的應(yīng)用程序，如微軟Copilot、亞馬遜Q和谷歌即將推出的Project Astra，正從知識型向行動型轉(zhuǎn)變。Adept、crewAI 和 Imbue 等公司和研究實驗室也在開發(fā)基于智能體的模型和多智能體系統(tǒng)。鑒于Gen AI的發(fā)展速度，智能體可能會像今天的聊天機器人一樣普及。

智能體能為企業(yè)帶來什么價值？

智能體所能釋放的價值，源于其自動化處理大量復(fù)雜用例的潛力——這些用例通常具有高度可變的輸入和輸出，并且長期以來一直難以通過減少成本或時間的方式解決。以看似簡單的商務(wù)旅行為例，它可能涉及涵蓋涉及不同航空公司和航班的多種可能行程，更不必說酒店會員獎勵計劃、餐廳預(yù)訂和休閑活動安排，所有這些都必須在不同的平臺進(jìn)行處理。雖然部分流程已經(jīng)實現(xiàn)了自動化，但大部分仍需手動完成。這在很大程度上是因為潛在的輸入和輸出差異很大，導(dǎo)致整個流程過于復(fù)雜、成本過高或時間過長，難以實現(xiàn)自動化。

Gen AI驅(qū)動的智能體可以通過以下三種重要方式簡化復(fù)雜和開放式用例的自動化：

1. 智能體可以處理多樣性管理

許多商業(yè)用例和流程都具有線性工作流程的特點——明確的起點、一系列導(dǎo)向特定解決方案或結(jié)果的步驟。這種相對簡單的特點使其很容易通過基于規(guī)則的系統(tǒng)編碼和自動化。但基于規(guī)則的系統(tǒng)往往表現(xiàn)出“脆弱性”，即當(dāng)遇到規(guī)則設(shè)計者未明確考慮的情況時，系統(tǒng)就會崩潰。例如，許多工作流程的可預(yù)測性要低得多，充斥著意想不到的波折和多種潛在結(jié)果；這些工作流程需要特殊處理和細(xì)致判斷，這使得基于規(guī)則的自動化極具挑戰(zhàn)性。

但是，Gen AI智能體系統(tǒng)基于基礎(chǔ)模型構(gòu)建，能夠針對特定用例應(yīng)對各種低概率場景，實時動態(tài)調(diào)整，以執(zhí)行完成流程所需的專項任務(wù)。

2.智能體系統(tǒng)可以通過自然語言指令驅(qū)動

目前，要實現(xiàn)一個用例的自動化，首先必須將其分解為一系列可編碼的規(guī)則和步驟。這些步驟通常要轉(zhuǎn)化為計算機代碼，并集成到軟件系統(tǒng)中——這一過程通常既費錢又費力，還需要大量的專業(yè)技術(shù)知識。由于智能體系統(tǒng)以自然語言作為指令形式，即使是復(fù)雜的工作流也能更快、更輕松地實現(xiàn)編碼。更重要的是，該流程可能由非技術(shù)人員（而不是軟件工程師）完成。這不僅便于整合領(lǐng)域?qū)I(yè)知識，還拓寬了使用Gen AI和AI工具的普及范圍，同時簡化了技術(shù)與非技術(shù)團隊之間的協(xié)作。

3.智能體系統(tǒng)能夠與現(xiàn)有軟件工具和平臺協(xié)同工作

除了分析和生成知識，智能體系統(tǒng)還可以使用工具并在更廣泛的數(shù)字生態(tài)系統(tǒng)中進(jìn)行交互。例如，可以指導(dǎo)智能體與軟件應(yīng)用（如圖表繪制工具）協(xié)作、在互聯(lián)網(wǎng)上檢索信息、收集并整合人工反饋，甚至調(diào)用其他基礎(chǔ)模型。數(shù)字工具的使用既是智能體的核心特征（這是智能體在真實場景中產(chǎn)生實際行動的方式之一），也是Gen AI能夠得以發(fā)揮獨特作用的途徑。基礎(chǔ)模型能夠?qū)W習(xí)如何通過自然語言或其他接口與工具交互。如果沒有基礎(chǔ)模型，這些能力將需要大量的手動工作來集成系統(tǒng)，例如使用ETL（提取、轉(zhuǎn)換和加載）工具），或通過繁瑣的人工操作來整理不同軟件系統(tǒng)的輸出結(jié)果。

Gen AI智能體如何工作？

智能體系統(tǒng)能夠支持跨行業(yè)和業(yè)務(wù)職能部門的高復(fù)雜度用例，尤其適用于涉及耗時任務(wù)或需要多種專業(yè)定性和定量分析的工作流。其核心能力在于通過遞歸方式分解復(fù)雜流程，并基于專項指令和數(shù)據(jù)源執(zhí)行子任務(wù)，以達(dá)成最終目標(biāo)。這一流程通常遵循以下四個步驟：

1.用戶指令輸入

用戶通過自然語言指令與AI系統(tǒng)交互（類似對可信賴的員工下達(dá)任務(wù)）。系統(tǒng)識別目標(biāo)用例，并在必要時要求用戶進(jìn)一步說明需求。

2.智能體系統(tǒng)規(guī)劃、分配和執(zhí)行工作

智能體系統(tǒng)將指令處理成工作流程，分解為任務(wù)和子任務(wù)，并由管理型子智能體分配給其他專業(yè)子智能體。這些子智能體依托領(lǐng)域知識、工具，先前 "經(jīng)驗 "和已編碼化的專業(yè)知識，協(xié)同調(diào)用組織數(shù)據(jù)與系統(tǒng)來執(zhí)行這些任務(wù)。

3.智能體系統(tǒng)不斷改進(jìn)輸出

在整個過程中，智能體可能會要求用戶補充輸入，以確保準(zhǔn)確性和相關(guān)性。最后，智能體系統(tǒng)會結(jié)合用戶反饋迭代優(yōu)化，直至提供最終輸出結(jié)果。

4.智能體執(zhí)行操作

智能體在實際操作中執(zhí)行所以的必要行動，以徹底完成用戶請求的任務(wù)。

可能性探索：三大潛在應(yīng)用場景

這類系統(tǒng)對企業(yè)意味著什么？以下三個假設(shè)性用例揭示了不遠(yuǎn)的將來的可能圖景。

用例 1：貸款核銷

金融機構(gòu)需通過撰寫信貸風(fēng)險備忘錄來評估向借款方提供信貸或貸款的風(fēng)險。這一過程涉及收集、分析和審核與借款方、貸款類型和其他因素相關(guān)的各種類信息。由于信貸風(fēng)險評估場景多樣且需多維度分析，該流程往往耗時且高度依賴協(xié)作——客戶經(jīng)理需與借款方、利益相關(guān)方和信貸分析師合作進(jìn)行專項分析，然后提交給信貸經(jīng)理進(jìn)行審核并補充專業(yè)意見。

基于智能體的潛在解決方案：一套由多個智能體組成的系統(tǒng)（每個智能體都承擔(dān)特定任務(wù)角色），可設(shè)計用于處理廣泛的信用風(fēng)險場景。用戶可通過自然語言輸入高層級的工作計劃，明確規(guī)則、標(biāo)準(zhǔn)與條件。隨后，智能體團隊會將工作拆解為可執(zhí)行的子任務(wù)。

例如，一個智能體可以扮演客戶關(guān)系經(jīng)理的角色，處理借款方與金融機構(gòu)之間的溝通事宜。執(zhí)行智能體可以整理必要的文件，并轉(zhuǎn)發(fā)給財務(wù)分析智能體，后者將分析現(xiàn)金流量表中的債務(wù)數(shù)據(jù)，并計算相關(guān)財務(wù)比率，隨后由審核智能體進(jìn)行審查識別矛盾并提供反饋。這種分解、分析、優(yōu)化和審核的過程會不斷重復(fù)，直到最終完成信貸風(fēng)險備忘錄。

與傳統(tǒng)的生成式AI架構(gòu)不同，智能體系統(tǒng)可以生成高質(zhì)量的內(nèi)容，將審核周期縮短 20% 至 60%。智能體還能跨多個系統(tǒng)，整合多來源的數(shù)據(jù)。最后，智能體可以展示其工作過程：信貸分析師可以快速追溯生成的文本或數(shù)字，訪問完整的任務(wù)鏈及數(shù)據(jù)來源，從而高效驗證輸出結(jié)果的可靠性。

用例 2：代碼文檔和現(xiàn)代化改造

大型企業(yè)的遺留軟件應(yīng)用程序和系統(tǒng)往往會帶來安全風(fēng)險，并可能減緩業(yè)務(wù)創(chuàng)新的步伐。但實現(xiàn)對這些系統(tǒng)的現(xiàn)代化改造過程復(fù)雜、成本昂貴且耗時費力，需要工程師審查和理解數(shù)百萬行的舊代碼庫和業(yè)務(wù)邏輯的手工文檔，然后將這些邏輯遷移至更新后的代碼庫，并與其他系統(tǒng)進(jìn)行整合。

基于智能體的潛在解決方案：AI智能體有望大大簡化這一流程。

可以部署一個專門化的遺留軟件專家智能體，通過分析舊代碼實現(xiàn)文檔化處理和代碼片段的記錄與翻譯。與此同時，質(zhì)量保障智能體可以審核這些文檔并生成測試用例，幫助AI系統(tǒng)迭代優(yōu)化其輸出結(jié)果，確保其準(zhǔn)確性和對組織標(biāo)準(zhǔn)的遵從性。

此外，這種可重復(fù)的流程還將產(chǎn)生飛輪效應(yīng)，即智能體框架的組件可在整個組織的其他軟件遷移項目中重復(fù)使用，從而顯著提高開發(fā)效率并降低軟件開發(fā)的總體成本。

用例 3：創(chuàng)建在線營銷活動

設(shè)計、啟動和運行在線營銷活動往往涉及一系列

不同的軟件工具、應(yīng)用程序和平臺。在線營銷活動的工作流程也非常復(fù)雜：企業(yè)需要將業(yè)務(wù)目標(biāo)和市場趨勢轉(zhuǎn)化為富有創(chuàng)意的營銷理念；針對不同客戶的細(xì)分市場和地域定制文字和視覺素材；還需通過不同平臺的用戶群體測試活動效果。為了完成這些任務(wù)，營銷團隊通常需要使用多種形式的軟件，并將產(chǎn)出從一個工具遷移到另一個工具，這一過程往往繁瑣且耗時。

基于智能體的潛在解決方案：智能體可以幫助連接這個數(shù)字營銷生態(tài)系統(tǒng)。例如，營銷人員可以用自然語言描述目標(biāo)用戶、初始創(chuàng)意、目標(biāo)渠道和其他參數(shù)。然后，在營銷人員的協(xié)助下，由智能體系統(tǒng)幫助開發(fā)、測試和迭代不同的營銷活動創(chuàng)意。數(shù)字營銷戰(zhàn)略智能體可以利用在線調(diào)查、客戶關(guān)系管理解決方案中的分析結(jié)果，以及其他市場研究平臺來收集洞察，借助多模態(tài)基礎(chǔ)模型制定戰(zhàn)略。然后，內(nèi)容營銷、文案撰寫和設(shè)計智能體可以創(chuàng)建定制化內(nèi)容，并由人工審核員評估其品牌契合度。這些智能體將合作迭代和完善產(chǎn)出內(nèi)容，并朝著既能優(yōu)化活動影響又能最大限度降低品牌風(fēng)險的方向努力。

領(lǐng)導(dǎo)者應(yīng)如何為智能體時代做好準(zhǔn)備？

雖然智能體技術(shù)剛剛起步，但隨著對相關(guān)工具的持續(xù)投資，智能體系統(tǒng)有望在未來幾年實現(xiàn)重大突破并大規(guī)模部署。

因此，企業(yè)領(lǐng)導(dǎo)者現(xiàn)在開始深入了解智能體技術(shù)，并考慮是否可以借助智能體系統(tǒng)來加速一些核心業(yè)務(wù)流程或戰(zhàn)略目標(biāo)，時機正好。這種了解可以為未來的路線圖規(guī)劃提供依據(jù)，幫助企業(yè)在創(chuàng)新浪潮中保持競爭優(yōu)勢。一旦明確潛在用例，企業(yè)就可以通過API、工具包和庫（例如，微軟 Autogen、Hugging Face 和 LangChain）探索不斷發(fā)展的智能體環(huán)境，逐步篩選適配自身需求的解決方案

為迎接智能體系統(tǒng)的到來，企業(yè)應(yīng)重點關(guān)注以下三個因素，這些要素將決定此類系統(tǒng)能否充分發(fā)揮其潛力：

1. 相關(guān)知識的系統(tǒng)化編碼

復(fù)雜用例的實施要求企業(yè)定義業(yè)務(wù)流程并文檔化為結(jié)構(gòu)化工作流程，用于培訓(xùn)智能體。同時，企業(yè)需思考如何將專業(yè)知轉(zhuǎn)化為自然語言指令，從而通過智能體簡化復(fù)雜的流程。

2.戰(zhàn)略性技術(shù)規(guī)劃

企業(yè)需重新梳理數(shù)據(jù)和 IT 系統(tǒng)架構(gòu)，確保智能體系統(tǒng)能與現(xiàn)有基礎(chǔ)設(shè)施有效對接。這包括采集用戶交互數(shù)據(jù)以獲得持續(xù)反饋并優(yōu)化模型，以及構(gòu)建靈活的技術(shù)框架以便在不干擾現(xiàn)有運營的情況下整合新興技術(shù)。

3. 人機協(xié)同控制機制

當(dāng)AI智能體開始與現(xiàn)實世界互動時，控制機制對于平衡自主性和風(fēng)險至關(guān)重要（見 "理解智能體系統(tǒng)的獨特風(fēng)險"）。人類必須驗證輸出的準(zhǔn)確性、合規(guī)性和公平性；與領(lǐng)域?qū)＜覅f(xié)作維護(hù)和擴展智能體系統(tǒng)；并建立持續(xù)改進(jìn)的學(xué)習(xí)飛輪。企業(yè)應(yīng)盡早明確人機協(xié)同機制的適用場景與部署方式。

了解智能智能體系統(tǒng)的獨特風(fēng)險

眾所周知，當(dāng)前的大型語言模型（LLMs）存在錯誤和“幻覺”問題。由于智能體系統(tǒng)處理的是 LLM生成的連續(xù)輸出序列，若缺乏保護(hù)措施，單個輸出中的“幻覺”可能產(chǎn)生連鎖反應(yīng)。此外，由于智能體系統(tǒng)被設(shè)計為自主運行，企業(yè)領(lǐng)導(dǎo)者必須考慮額外的監(jiān)督機制和防護(hù)措施。雖然很難完全預(yù)測智能體機構(gòu)會帶來的所有風(fēng)險，但以下是一些應(yīng)該考慮的風(fēng)險。

01

潛在有害輸出：大語言模型的輸出并非總是準(zhǔn)確，可能會提供不正確的信息或執(zhí)行具有不良后果的操作。隨著生成式人工智能（gen AI）智能體在千變?nèi)f化的場景中獨立使用數(shù)字工具和數(shù)據(jù)執(zhí)行任務(wù)，此類風(fēng)險也隨之加劇。例如，智能體可能會批準(zhǔn)一筆高風(fēng)險貸款，從而導(dǎo)致經(jīng)濟損失，也可能會代表客戶進(jìn)行不可退款的高額消費。

緩解策略：企業(yè)應(yīng)實施強有力的問責(zé)機制，明確界定智能體與人類的責(zé)任邊界，并確保智能體輸出結(jié)果的可解釋性。具體措施包括：

• 開發(fā)框架管理智能體的自主權(quán)：例如，根據(jù)用例的復(fù)雜度限制智能體的行動范圍。

• 確保人工監(jiān)督：例如，在執(zhí)行前驗證智能體的輸出，并對智能體的決策進(jìn)行定期審核。

• 構(gòu)建透明度和可追溯性機制，幫助用戶了解智能體的決策過程，及早發(fā)現(xiàn)潛在的問題

02

工具濫用風(fēng)險：智能體能夠訪問工具和數(shù)據(jù)，如果被故意濫用，可能會引發(fā)危險。例如，智能體可能被用來編寫易受攻擊的代碼、制造仿真的網(wǎng)絡(luò)釣魚騙局或竊取敏感信息。

緩解策略：針對高風(fēng)險場景，企業(yè)應(yīng)建立防護(hù)機制（例如設(shè)置訪問控制與操作權(quán)限限制），并為智能體創(chuàng)建封閉的環(huán)境（例如限制智能體的可訪問的工具與數(shù)據(jù)源）。此外，企業(yè)還應(yīng)對智能體活動進(jìn)行實時監(jiān)控，對可疑行為自動發(fā)出警報。定期開展審核合規(guī)性檢查，確保防護(hù)機制持續(xù)有效。

03

人機信任失衡問題：正如人類與同事之間的關(guān)系一樣，人類與AI智能體之間的互動也建立在信任的基礎(chǔ)上。如果用戶缺乏對智能體系統(tǒng)的信任，可能減少必要的人機交互與信息共享，阻礙智能體系統(tǒng)的學(xué)習(xí)優(yōu)化。反之，隨著智能體越來越擅長模仿人類的行為，部分用戶可能過度信任智能體智能體，賦予其人類水平的理解力和判斷力，導(dǎo)致用戶不加批判地接受建議，或在沒有充分監(jiān)督的情況下給予智能體過多的自主權(quán)。

緩解策略：組織可以通過提升智能體決策的透明度來管理這些問題。在此過程中，我們需要確保用戶接受了負(fù)責(zé)任地使用智能體的培訓(xùn)，并建立人機協(xié)同流程來管理智能體行為，人工監(jiān)督智能體程序是確保用戶保持平衡視角的關(guān)鍵所在。此外，通過關(guān)鍵績效指標(biāo)（例如，客戶滿意度、票據(jù)的成功完成率）評估智能體效能，并保留智能體行動的最終權(quán)力和責(zé)任。

除上述風(fēng)險外，企業(yè)還應(yīng)關(guān)注Gen AI智能體引發(fā)的更廣泛問題：

• 價值觀一致：由于智能體與同事關(guān)系密切，他們的行為應(yīng)體現(xiàn)組織的價值觀。智能體應(yīng)在其決策中遵循哪些價值觀？如何對通過定期評估和培訓(xùn)確保價值觀對齊？

• 勞動力結(jié)構(gòu)轉(zhuǎn)型：通過獨立完成任務(wù)，智能體系統(tǒng)將極大地改變完成工作的方式，從而有可能讓人類更加專注于需要批判性思維和管理技能的高層次任務(wù)。各業(yè)務(wù)職能部門的角色和職責(zé)將如何轉(zhuǎn)變？如何為員工提供再培訓(xùn)機會？是否有新的合作模式可以加強人機協(xié)作模式？

• 擬人化風(fēng)險治理：隨著智能體的擬人化程度提升，用戶可能會產(chǎn)生過度依賴，或誤以為AI助手完全符合自己的興趣和價值觀。智能體應(yīng)融入多多少人類特征？可以創(chuàng)建哪些流程來實時檢測人機交互中的潛在危害？

麥肯錫最近的《人工智能現(xiàn)狀 》調(diào)查顯示，超過 72% 的受訪企業(yè)正在部署AI解決方案，而且對Gen AI的興趣與日俱增。在此背景下，企業(yè)將AI智能體等前沿技術(shù)納入其戰(zhàn)略規(guī)劃和未來AI路線圖已是大勢所趨。智能體驅(qū)動的自動化展現(xiàn)出革命性的潛力，有望以全新行動速度重塑工作模式。

盡管如此，這項技術(shù)仍處于早期階段，其全部功能的釋放尚需持續(xù)開發(fā)。系統(tǒng)復(fù)雜性和自主性的不斷提高，會帶來一系列挑戰(zhàn)和風(fēng)險。若將AI智能體視為團隊中的“新成員”，正如人類員工需要磨合一樣，企業(yè)在信任智能體獨立運作前，必須投入大量測試、培訓(xùn)和指導(dǎo)。然而，即便在技術(shù)萌芽期，我們也不難預(yù)見新一代“虛擬同事”可能釋放的廣闊機遇。

編輯 | Jiaru

清流學(xué)苑2025Q1課程安排

我們也將在3月29~30日在上海推出我們的清流學(xué)苑的新晉課程《關(guān)鍵洞察營》，歡迎感興趣的朋友掃碼了解和報名。

進(jìn)一步交流

進(jìn)入專業(yè)社群展開深度討論

慎思行通過微信等平臺覆蓋超過10萬戰(zhàn)略人、咨詢?nèi)说雀黝悓I(yè)人士。我們也構(gòu)建了專業(yè)社群，推動戰(zhàn)略與咨詢領(lǐng)域的問題討論、信息交流和機會分享，社群已有超過5年歷史，并成為了頂尖專業(yè)人士感知市場前沿，獲得實踐經(jīng)驗的首要選擇。入群請?zhí)砑由魉季⑿?，并提供名片?/p>

現(xiàn)在微信公眾號更改規(guī)則，如果你不特地點進(jìn)來，很可能看不到我們的推送了。希望喜歡【慎思行】的讀者朋友們將本號【設(shè)為星標(biāo)★】，方便找到我們；也歡迎點擊右下角的【在看】。

＞企業(yè)應(yīng)用AI智能體的前景與現(xiàn)實

＞AI能幫我們獲得洞察和解決問題嗎？

＞AI將如何改變戰(zhàn)略？