稚暉君獨(dú)家撰文：具身智能即將為通用機(jī)器人補(bǔ)全最后一塊拼圖

具身智能新紀(jì)元。

*本文為稚暉君獨(dú)家供稿，「甲子光年」經(jīng)智元機(jī)器人授權(quán)發(fā)布。稚暉君本名彭志輝，先后任職OPPO、華為，現(xiàn)為智元機(jī)器人CTO、首席架構(gòu)師。

在ChatGPT之后，又一個大模型概念火了——具身智能（Embodied AI）。

在學(xué)術(shù)界，圖靈獎得主、上海期智研究院院長姚期智認(rèn)為，人工智能領(lǐng)域下一個挑戰(zhàn)將是實(shí)現(xiàn)“具身通用人工智能”；清華大學(xué)計(jì)算機(jī)系教授張鈸院士，也在某產(chǎn)業(yè)智能論壇上提出，隨著基礎(chǔ)模型的突破，通用智能機(jī)器人（具身智能）是未來的發(fā)展方向。

在產(chǎn)業(yè)界，微軟、谷歌、英偉達(dá)等大廠均開展了相關(guān)研究，比如谷歌RT-2、英偉達(dá)VIMA等。英偉達(dá)創(chuàng)始人兼CEO黃仁勛在ITF World 2023 半導(dǎo)體大會上表示，AI下一個浪潮將是“具身智能”。

具身智能作為人工智能發(fā)展的一個重要分支，正在迅速嶄露頭角，成為科技界和大眾關(guān)注的熱門話題，同時在各個領(lǐng)域中展現(xiàn)出巨大的潛力和吸引力。

1. 什么是具身智能？

具身智能通過在物理世界和數(shù)字世界的學(xué)習(xí)和進(jìn)化，達(dá)到理解世界、互動交互并完成任務(wù)的目標(biāo)。

具身智能是由“本體”和“智能體”耦合而成且能夠在復(fù)雜環(huán)境中執(zhí)行任務(wù)的智能系統(tǒng)。一般認(rèn)為，具身智能具有如下的幾個核心要素：

第一是本體，作為實(shí)際的執(zhí)行者，是在物理或者虛擬世界進(jìn)行感知和任務(wù)執(zhí)行的機(jī)構(gòu)。

本體通常是具有物理實(shí)體的機(jī)器人，可以有多種形態(tài)。本體的能力邊界會限制智能體的能力發(fā)揮，所以，具有廣泛適應(yīng)性的機(jī)器人本體是非常必要的。

隨著機(jī)器人技術(shù)的進(jìn)步，本體越來越呈現(xiàn)多樣化和靈活性。比如，四足機(jī)器人可以具有良好的運(yùn)動能力和通過性，復(fù)合機(jī)器人則把運(yùn)動和操作機(jī)構(gòu)整合，具有較好的任務(wù)能力；而人形機(jī)器人作為適應(yīng)性更加廣泛，通用能力更強(qiáng)的本體形態(tài)，得到了長足的進(jìn)步，已經(jīng)到了可以商業(yè)化的前夕。

本體具備環(huán)境感知能力、運(yùn)動能力和操作執(zhí)行能力，是連接數(shù)字世界和物理世界的載體。

具身智能的第二個要素是智能體（Embodied Agents），是具身于本體之上的智能核心，負(fù)責(zé)感知、理解、決策、控制等的核心工作。

智能體可以感知復(fù)雜環(huán)境，理解環(huán)境所包含的語義信息，能夠和環(huán)境進(jìn)行交互；可以理解具體任務(wù)，并且根據(jù)環(huán)境的變化和目標(biāo)狀態(tài)做出決策，進(jìn)而控制本體完成任務(wù)。

隨著深度學(xué)習(xí)的發(fā)展，現(xiàn)代智能體通常由深度網(wǎng)絡(luò)模型驅(qū)動，尤其是隨著大語言模型（LLM）的發(fā)展，結(jié)合視覺等多種傳感器的復(fù)雜多模態(tài)模型，已經(jīng)開始成為新一代智能體的趨勢。

同時，智能體也分化為多種任務(wù)形態(tài)，處理不同層次和模態(tài)的任務(wù)。智能體要能夠從復(fù)雜的數(shù)據(jù)中學(xué)習(xí)決策和控制的范式，并且能夠持續(xù)的自我演進(jìn)，進(jìn)而適應(yīng)更復(fù)雜的任務(wù)和環(huán)境。

智能體設(shè)計(jì)是具身智能的核心。具有通用能力的LLM和VLM等模型，賦予了通用本體強(qiáng)大的泛化能力，使得機(jī)器人從程序執(zhí)行導(dǎo)向轉(zhuǎn)向任務(wù)目標(biāo)導(dǎo)向，向通用機(jī)器人邁出了堅(jiān)實(shí)的步伐。

具身智能的第三個要素是數(shù)據(jù)?！皵?shù)據(jù)是泛化的關(guān)鍵，但涉及機(jī)器人的數(shù)據(jù)稀缺且昂貴?！?/p>

為了適應(yīng)復(fù)雜環(huán)境和任務(wù)的泛化性，智能體規(guī)模變的越來越大，而大規(guī)模的模型對于海量數(shù)據(jù)更為渴求?，F(xiàn)在的LLM通常需要web-scale級別的數(shù)據(jù)來驅(qū)動基礎(chǔ)的預(yù)訓(xùn)練過程，而針對具身智能的場景則更為復(fù)雜多樣，這造成了多變的環(huán)境和任務(wù)，以及圍繞著復(fù)雜任務(wù)鏈的規(guī)劃決策控制數(shù)據(jù)。尤其是針對行業(yè)場景的高質(zhì)量數(shù)據(jù)，將是未來具身智能成功應(yīng)用落地的關(guān)鍵支撐。

具身智能的第四個要素是學(xué)習(xí)和進(jìn)化架構(gòu)。智能體通過和物理世界（虛擬的或真實(shí)的）的交互，來適應(yīng)新環(huán)境、學(xué)習(xí)新知識并強(qiáng)化出新的解決問題方法。

采用虛擬仿真環(huán)境進(jìn)行部分學(xué)習(xí)是合理的設(shè)計(jì)，比如英偉達(dá)的元宇宙開發(fā)平臺Omniverse，就是構(gòu)建了物理仿真的虛擬世界，來加速智能體的演進(jìn)。

但真實(shí)環(huán)境的復(fù)雜度通常超過仿真環(huán)境，如何耦合仿真和真實(shí)世界，進(jìn)行高效率的遷移（Sim2Real），也是架構(gòu)設(shè)計(jì)的關(guān)鍵。

2. 具身智能的科研和技術(shù)進(jìn)展

在基于Transformer的大語言模型浪潮帶領(lǐng)下，微軟、谷歌、英偉達(dá)等大廠，以及斯坦福、卡耐基梅隆等高等學(xué)府均開展了具身智能的相關(guān)研究。

微軟基于ChatGPT的強(qiáng)大自然語言理解和推理能力，生成控制機(jī)器人的相關(guān)代碼；

英偉達(dá)VIMA基于T5模型，將文本和多模態(tài)輸入交錯融合，結(jié)合歷史信息預(yù)測機(jī)器人的下一步行動動作；

斯坦福大學(xué)利用LLM的理解、推理和代碼能力，與VLM交互并生成3D value map，來規(guī)劃機(jī)械臂的運(yùn)行軌跡；

谷歌具身智能路線較多，包括從PaLM衍生來的PaLM-E，從Gato迭代來的RoboCat，以及最新基于RT-1和PaLM-E升級得到的RT-2。

谷歌在具身智能的研究上更具有廣泛性和延續(xù)性。與其他大廠相比，谷歌依托旗下兩大AI科研機(jī)構(gòu)，Google Brain和DeepMind（2023年4月兩大機(jī)構(gòu)合并為Google DeepMind），在具身智能上研究了更多的技術(shù)路線，且各路線之間有很好的技術(shù)延續(xù)性。

其中基于RT-1研究成果，谷歌融合了VLM（PaLM-E是其中一種）和RT-1中收集的大量機(jī)器人真實(shí)動作數(shù)據(jù)，提出了視覺語言動作（VLA）模型 RT-2，在直接預(yù)測機(jī)器人動作的同時，受益于互聯(lián)網(wǎng)級別的訓(xùn)練數(shù)據(jù)，實(shí)現(xiàn)了更好的泛化性和涌現(xiàn)性。

從RT-2的實(shí)驗(yàn)結(jié)果看，一方面，面對訓(xùn)練數(shù)據(jù)中沒見過的物體、背景、環(huán)境，RT-2系列模型能夠仍能實(shí)現(xiàn)較高的成功率，遠(yuǎn)超基線對比模型，證明了模型有較強(qiáng)的泛化能力。

另一方面，對于符號理解、推理和人類識別三類不存在于機(jī)器人訓(xùn)練數(shù)據(jù)中的涌現(xiàn)任務(wù)，RT-2系列模型也能以較高正確率完成，表明語義知識從視覺語言數(shù)據(jù)中轉(zhuǎn)移到RT-2 中，證明了模型的涌現(xiàn)性能。同時，思維鏈（CoT）推理能夠讓RT-2完成更復(fù)雜的任務(wù)。

任何的訓(xùn)練都需要數(shù)據(jù)的支撐。目前來看，機(jī)器人數(shù)據(jù)來源通常是真實(shí)數(shù)據(jù)和合成數(shù)據(jù)。

真實(shí)數(shù)據(jù)效果更好，但需要耗費(fèi)大量的人力和物力，不是一般的企業(yè)或機(jī)構(gòu)能夠負(fù)擔(dān)的。谷歌憑借自己的資金和科研實(shí)力，耗費(fèi)17個月時間收集了13臺機(jī)器人的13萬條機(jī)器人真實(shí)數(shù)據(jù)，為RT-1和RT-2的良好性能打下根基。

谷歌的另一項(xiàng)研究RoboCat，在面對新的任務(wù)和場景時，會先收集100-1000個真實(shí)的人類專家示例，再合成更多數(shù)據(jù)，用于后續(xù)訓(xùn)練，是經(jīng)濟(jì)性和性能的權(quán)衡。

除了數(shù)據(jù)來源問題，還有一個就是具身智能體的預(yù)測如何映射到機(jī)器人的動作，這主要取決于預(yù)測結(jié)果的層級。

以谷歌PaLM-E和微軟ChatGPT for Robotics為例，預(yù)測結(jié)果處于高級別設(shè)計(jì)層級：PaLM-E實(shí)現(xiàn)了對具身任務(wù)的決策方案預(yù)測，但不涉及機(jī)器人動作的實(shí)際控制，需要依賴低級別的現(xiàn)成策略或規(guī)劃器來將決策方案“翻譯”為機(jī)器人動作。

微軟默認(rèn)提供控制機(jī)器人的低層級 API，ChatGPT 輸出是更高層級的代碼，只需調(diào)用到機(jī)器人低層級的庫或API，從而實(shí)現(xiàn)對機(jī)器人動作的映射和控制。

還有一種情況就是預(yù)測結(jié)果已經(jīng)到了低級別動作層級。例如，RT-2輸出的一系列字符串，是可以直接對應(yīng)到機(jī)器人的坐標(biāo)、旋轉(zhuǎn)角等信息；VoxPoser規(guī)劃的結(jié)果直接就是機(jī)器人運(yùn)行軌跡；VIMA也可以借助現(xiàn)有方法將預(yù)測的動作token映射到離散的機(jī)器人手臂姿勢，即不需要再經(jīng)過復(fù)雜的翻譯將高層級設(shè)計(jì)映射到低層級動作。

3. 具身智能的難點(diǎn)剖析

具身智能作為邁向通用人工智能（AGI）的重要一步，是學(xué)術(shù)界和產(chǎn)業(yè)界的熱點(diǎn)，隨著大模型的泛化能力進(jìn)一步提升，各種具身方法和智能體不斷涌現(xiàn)，但是要實(shí)現(xiàn)好的具身智能，會面臨算法、工程技術(shù)、數(shù)據(jù)、場景和復(fù)雜軟硬件等的諸多挑戰(zhàn)。

首先，要有強(qiáng)大的通用本體平臺。如何解決硬件的關(guān)鍵零部件技術(shù)突破，形成具有優(yōu)秀運(yùn)動能力和操作能力的平臺級通用機(jī)器人產(chǎn)品，將具身本體的可靠性、成本和通用能力做到平衡，是一個巨大的挑戰(zhàn)。

從基礎(chǔ)的電機(jī)、減速器、控制器到靈巧手等各部分，都需要持續(xù)進(jìn)行技術(shù)突破，才能夠滿足大規(guī)模商用的落地需求。

同時，考慮到通用能力，人形機(jī)器人被認(rèn)為是具身智能的終極形態(tài)。這方面的研發(fā)，也將持續(xù)成為熱點(diǎn)和核心挑戰(zhàn)。

其次，需要設(shè)計(jì)強(qiáng)大的智能體系統(tǒng)。

作為具身智能的核心，具備復(fù)雜環(huán)境感知認(rèn)知能力的智能體，將需要解決諸多挑戰(zhàn)，包括：物理3D環(huán)境精確感知、任務(wù)編排與執(zhí)行、強(qiáng)大的通識能力、多級語義推理能力、人機(jī)口語多輪交互能力、long-term記憶能力、個性化情感關(guān)懷能力、強(qiáng)大的任務(wù)泛化與自學(xué)遷移能力等。

同時，具身智能要求實(shí)時感知和決策能力，以適應(yīng)復(fù)雜和變化的環(huán)境。這要求高速的數(shù)據(jù)采集、傳輸和處理，以及實(shí)時的決策反應(yīng)，尤其是LLM所消耗的算力規(guī)模巨大，對于資源有限的機(jī)器人處理系統(tǒng)將形成巨大的數(shù)據(jù)量、AI計(jì)算能力和低延遲的挑戰(zhàn)。

再者，高質(zhì)量的行業(yè)數(shù)據(jù)將成為巨大挑戰(zhàn)。

現(xiàn)實(shí)場景的復(fù)雜多變，使得現(xiàn)階段缺乏足夠的場景數(shù)據(jù)來訓(xùn)練一個完全通用的大模型，進(jìn)而讓智能體自我進(jìn)化。

而且，耦合的本體，需要實(shí)際部署到真實(shí)環(huán)境中，才能夠采集數(shù)據(jù)，這也是和非具身智能的明顯不同。

比如，在工廠作業(yè)中，由于機(jī)器人本體并未參與到實(shí)際業(yè)務(wù)，則很多實(shí)際運(yùn)行數(shù)據(jù)就無法采集，而大量的人類操作數(shù)據(jù)雖然可以彌補(bǔ)部分不足，但仍然需要實(shí)際業(yè)務(wù)的數(shù)據(jù)。

當(dāng)然，通過大模型的涌現(xiàn)能力和思維鏈能力，部分任務(wù)可以零樣本學(xué)習(xí)到，但對于關(guān)鍵業(yè)務(wù)，要求成功率，則仍然需要高質(zhì)量的垂域數(shù)據(jù)。同時，通過層次化的智能體設(shè)計(jì)，將不同任務(wù)限定到特定領(lǐng)域，則是一個解決泛化和成功率的有效嘗試。

最后，通過虛擬和真實(shí)的交互，持續(xù)學(xué)習(xí)和進(jìn)化的能力，則是具身智能演進(jìn)的重要技術(shù)途徑。

億萬年的生物演化過程，造就了形態(tài)豐富的生命形式。而學(xué)習(xí)新任務(wù)來適應(yīng)環(huán)境的變化，則是持續(xù)改進(jìn)的動力。形態(tài)適配環(huán)境合適的智能體，則可以快速的學(xué)習(xí)到解決問題能力，進(jìn)而更好的適應(yīng)變化。

但是，由于形態(tài)的變化空間無窮巨大，搜索所有可能的選擇在有限的計(jì)算資源情況下變的幾乎不可能。本體的自由度設(shè)計(jì)，也會物理上約束智能體的任務(wù)執(zhí)行能力，進(jìn)而限制了控制器的學(xué)習(xí)效果。

在復(fù)雜環(huán)境、形態(tài)演化和任務(wù)的可學(xué)習(xí)性之間，存在著未可知的隱式關(guān)系，如何快速學(xué)習(xí)到合理的規(guī)劃和決策能力，則成為具身智能的重要一環(huán)。

4. 智元機(jī)器人的實(shí)踐

8月18日，智元機(jī)器人在具身智能遠(yuǎn)征A1的發(fā)布會提出了一種具身智腦的概念：

具身智腦EI-Brain（Embodied Intelligence Brain）把機(jī)器人的具身智能思維系統(tǒng)分為云端的超腦、端側(cè)的大腦、小腦，以及腦干這樣四層，分別對應(yīng)于機(jī)器人任務(wù)級、技能級、指令級以及伺服級的能力。

?腦?于完成前?提到的語義級多段推理任務(wù)，結(jié)合上下文進(jìn)行任務(wù)理解，?且如果模型的通識能?不滿?任務(wù)需求，還可以借?更強(qiáng)的云端超腦的互聯(lián)?能?。

小腦則負(fù)責(zé)結(jié)合各種傳感器的信息進(jìn)行運(yùn)動指令?成，就跟?類?樣，?家?路的時候并不會想著怎么精確地控制每塊肌?收縮，而是由?腦發(fā)出?個宏觀指令后，由?腦完成身體的平衡和各種運(yùn)動學(xué)動?學(xué)的控制，運(yùn)控算法都跑在這?層。

最后在硬件底層，由腦?來進(jìn)?精確的伺服閉環(huán)控制每個電機(jī)?效精準(zhǔn)地執(zhí)?。

在EI-Brain的設(shè)計(jì)中，上層大模型聚焦于具體的感知決策和計(jì)劃生成，不用依賴于具體的機(jī)器人載體硬件；下層視控模型和運(yùn)控算法聚焦于底層的具體場景的特定動作執(zhí)行，不用決策整個任務(wù)如何完成。超腦、大腦與小腦、腦干能夠相互解耦，不用相互依賴，實(shí)現(xiàn)了具身智能系統(tǒng)的層級劃分。

智元遠(yuǎn)征A1是為了完成重復(fù)性的通用任務(wù)而設(shè)計(jì)，設(shè)計(jì)時考慮了2個非常重要的指標(biāo)，“任務(wù)泛化率”和“任務(wù)執(zhí)行成功率”。

任務(wù)泛化率指的是對未見過的任務(wù)的泛化能力，是否能夠按照上述生成的指令計(jì)劃進(jìn)行精準(zhǔn)執(zhí)行。這個指標(biāo)主要針對是對上層的云端超腦和大腦來說，大模型是否能夠?qū)τ脩舾鞣N新說法和新的3D環(huán)境進(jìn)行精確的感知決策和指令計(jì)劃生成。

任務(wù)執(zhí)行成功率指的是機(jī)器人載體在實(shí)際物理環(huán)境中，執(zhí)行具體任務(wù)的成功率等，這個指標(biāo)主要針對下層的小腦和腦干來說，視控模型和運(yùn)控算法是否能夠按照上述生成的指令計(jì)劃進(jìn)行精準(zhǔn)執(zhí)行。

EI-Brain具身智能系統(tǒng)層級有效保證了這兩個指標(biāo)參數(shù)的實(shí)現(xiàn)，極大地提升了機(jī)器人的智能水平和工作效率，使其在完成復(fù)雜任務(wù)、泛化任務(wù)時，更加得心應(yīng)手。

類似?動駕駛L1到L5的發(fā)展過程，全場景適?的通?機(jī)器?的實(shí)現(xiàn)也不會是?步到位的。在技能級模型層?，智元機(jī)器人定義了?系列的元操作（Meta-Skill）庫，在元操作庫范圍限定的這些有限泛化場景內(nèi)，機(jī)器?能夠?主推理決策出端到端完成任務(wù)所需要的動作編排。?且隨著元操作庫列表的不斷擴(kuò)充，機(jī)器?能夠勝任的任務(wù)空間將呈指數(shù)級增?，在交互中學(xué)習(xí)進(jìn)化，最終實(shí)現(xiàn)全場景的覆蓋，切?千?百業(yè)。

智元遠(yuǎn)征A1本體是當(dāng)前國內(nèi)通用機(jī)器人領(lǐng)域最領(lǐng)先的。智元遠(yuǎn)征A1形態(tài)與人類相似，身高175cm，重量55kg，最高步速可達(dá)7km/h，全身49個自由度，整機(jī)承重80kg，單臂最大負(fù)載5kg。

智元遠(yuǎn)征A1全身搭載了包含諧波?體關(guān)節(jié)、?星伺服、直線驅(qū)動器、空?杯電機(jī)等在內(nèi)的49個各類執(zhí)?器，也就是說這?版機(jī)器?擁有49個?由度。

在硬件層面，智元自研了關(guān)節(jié)電機(jī)PowerFlow、靈巧手SkillHand、反曲膝設(shè)計(jì)等關(guān)鍵零部件，以此提升具身智能機(jī)器人的能力、同時降低成本。

在軟件層面，智元自研了AgiROS，是一套機(jī)器人運(yùn)行時中間件系統(tǒng)，在AI感知決策與視覺控制等大模型算法方面，能夠?qū)崿F(xiàn)自主任務(wù)編排、常識推理與規(guī)劃執(zhí)行等。

未來智元將緊跟算法前沿，尤其是大模型的前沿技術(shù)，重視數(shù)據(jù)原始積累和數(shù)據(jù)平臺建設(shè)，形成數(shù)據(jù)閉環(huán)，為算法打下堅(jiān)實(shí)的基礎(chǔ)。結(jié)合硬件自研優(yōu)勢，以具身智能人形機(jī)器人為載體，構(gòu)建豐富的meta-skills技能庫，快速落地相關(guān)商業(yè)垂域應(yīng)用場景，在實(shí)驗(yàn)室上的學(xué)術(shù)探索基礎(chǔ)上邁出商業(yè)落地的最為關(guān)鍵一步。