NeurIPS 2023 | AI Agents先行者CAMEL：首個基于大模型的多智能體框架

——人工智能先驅 馬文·明斯基（Marvin Minsky）[1]

目前來看，在機器通向高級智能的道路上，以 ChatGPT 為代表的大模型（LLMs）應該是必須經(jīng)過的里程碑之一，它們以聊天對話的人機交互方式在多個領域的復雜任務解決方面取得了非常耀眼的成就。

• “CAMEL”（駱駝：大模型心智交互框架）- 發(fā)布于 2023.3.21
• “AutoGPT” - 發(fā)布于 2023.3.30
• “BabyGPT” - 發(fā)布于 2023.4.3
• “Westworld” simulation（斯坦福西部世界小鎮(zhèn)） — 發(fā)布于 2023.4.7

作為最早基于 ChatGPT 的 autonomous agents 知名項目，CAMEL 重點探索了一種稱為角色扮演（role-playing）的新型合作代理框架，該框架可以有效緩解智能體對話過程中出現(xiàn)的錯誤現(xiàn)象，從而有效引導智能體完成各種復雜的任務，人類用戶只需要輸入一個初步的想法就可以啟動整個過程。目前，CAMEL 已經(jīng)被國際人工智能頂級會議 NeurIPS 2023 錄用。

CAMEL框架

下圖展示了 CAMEL 中的 role-playing 框架，人類用戶需要首先制定一個想要實現(xiàn)的想法或目標，例如：開發(fā)一個用于股票市場的交易機器人。這項任務涉及的角色是 AI 助理智能體（使其扮演 Python 程序員角色）和 AI 用戶智能體（使其扮演股票交易員角色）。

作者首先為 CAMEL 設置了一個任務細化器（Task Specifier），該細化器會根據(jù)輸入的想法來制定一個較為詳細的實現(xiàn)步驟，隨后 AI 助理智能體（AI Assistant）和 AI 用戶智能體（AI User）通過聊天的方式來進行協(xié)作通信，各自一步步完成指定的任務。

CAMEL使用示例

2.1 協(xié)作角色扮演（cooperate role-playing）

在 role-playing 框架中，AI 智能體都具有特定領域的專業(yè)知識，此時我們只需要指定一個原始想法的 Prompt，隨后兩個AI智能體就會圍繞著這一想法展開工作，在上圖中，用戶智能體提出交易機器人需要有對股票評論的情緒分析功能，隨后助理智能體直接給出了安裝情緒分析和股票交易所需的 python 庫的腳本。

上圖展示了 CAMEL 通過使用 embodied agent 調(diào)用 HuggingFace 提供的 Stable Diffusion 工具鏈生成駱駝科圖像的樣例，在這一過程中，embodied agent 首先會推理出駱駝科所包含的所有動物，隨后調(diào)用擴散模型生成圖像并進行保存。

2.3 critic在環(huán)（critic-in-the-loop）

為了增強 role-playing 框架的可控性，作者團隊還為 CAMEL 設計了一種 critic-in-the-loop，這種機制受到了蒙特卡洛樹搜索（MTCS）方法的啟發(fā)，它可以結合人類偏好實現(xiàn)樹搜索的決策邏輯來解決任務，CAMEL 可以設置一個中間評價智能體（critic）來根據(jù)用戶智能體和助理智能體出的各種觀點進行決策來完成最終任務，整體流程如下圖所示。

考慮這樣一個場景，我們讓 CAMEL 主持一場很具體的科研項目討論會，而科研項目的主題“大型語言模型”，CAMEL 可以將用戶智能體的角色設置為一個博士后，將助理智能體的角色設置為博士生，而中間評價智能體的角色設置為教授。任務指示博士生來幫助博士后制定研究計劃，需要圍繞大模型的倫理展開研究。

實驗效果

作者首先從 AI Society 數(shù)據(jù)集開始，讓模型了解人類的互動常識和社會動態(tài)，隨后 AI Code 和其他數(shù)據(jù)集的注入，模型獲得了編程邏輯和語法的知識，同時拓寬了模型對科學理論、經(jīng)驗觀察和實驗方法的理解。

為了進一步評估 CAMEL 框架的代碼編寫任務解決能力，作者在 HumanEval 和 HumanEval+ 兩個評估基準上進行了實驗，實驗結果如下表所示。

參考文獻

[1]Minsky M. Society of mind[M]. Simon and Schuster, 1988.

[2] https://towardsdatascience.com/4-autonomous-ai-agents-you-need-to-know-d612a643fa92