0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

新的AI研究為自主機(jī)器人手術(shù)提供未來方向

NVIDIA英偉達(dá)企業(yè)解決方案 ? 來源:NVIDIA英偉達(dá)企業(yè)解決方案 ? 2024-12-31 10:01 ? 次閱讀

一款常用于常規(guī)手術(shù)的由外科醫(yī)生手動操作的機(jī)器人,如今已能像人類一樣精準(zhǔn)地自主執(zhí)行關(guān)鍵手術(shù)任務(wù)。

約翰斯·霍普金斯大學(xué)和斯坦福大學(xué)的研究人員透露,他們將一個經(jīng)過數(shù)小時手術(shù)視頻訓(xùn)練的視覺語言模型(VLM)與廣泛使用的達(dá)芬奇外科手術(shù)機(jī)器人系統(tǒng)進(jìn)行了整合。

基于這一視覺語言模型,達(dá)芬奇機(jī)器人的微型夾爪(即“手”)可以自主執(zhí)行三項關(guān)鍵手術(shù)任務(wù):小心提起人體組織、操控手術(shù)針以及縫合傷口。

傳統(tǒng)的機(jī)器人訓(xùn)練方法需要對機(jī)器人動作的每個組成部分進(jìn)行詳細(xì)編程,與之不同的是,經(jīng)過改裝的達(dá)芬奇機(jī)器人僅通過模仿學(xué)習(xí)就能完成“零樣本”手術(shù)任務(wù)。僅依靠其視覺語言模型,這款機(jī)器人就能實現(xiàn)模仿手術(shù)視頻中醫(yī)生的操作。

這一成果讓我們得以窺見未來完全由自主機(jī)器人開展的手術(shù)可能會是什么樣子。

“這些機(jī)器人如今能夠自主完成如此復(fù)雜的任務(wù),實在令人驚嘆,”約翰斯?霍普金斯大學(xué)的博士后研究員 Ji Woong Brian Kim 說道,“通過模仿學(xué)習(xí)來為機(jī)器人編程,使其能夠進(jìn)行手術(shù)操作,這是機(jī)器人技術(shù)發(fā)展的一項重要突破。我認(rèn)為,這是自主手術(shù)機(jī)器人的未來發(fā)展方向。”

為了訓(xùn)練模型,研究人員使用了NVIDIA GeForce RTX GPU、PyTorch 以及NVIDIA CUDA - X。

11 月,研究人員在慕尼黑舉行的機(jī)器人學(xué)習(xí)大會(Conference on Robot Learning)上公布了這一研究成果。在這項實驗中,機(jī)器人專家們使用了達(dá)芬奇外科手術(shù)機(jī)器人,機(jī)器人最多可配備四個機(jī)械臂,如今已經(jīng)被全球各地的外科醫(yī)生廣泛應(yīng)用于各類腹腔鏡手術(shù)。

為了訓(xùn)練視覺語言模型(VLM),Kim 博士和他的同事將微型攝像機(jī)連接到三臺達(dá)芬奇機(jī)器人的機(jī)械臂上。這三臺機(jī)器人由約翰斯?霍普金斯大學(xué)提供,用于此次實驗。

Kim 博士和他的同事使用醫(yī)生常用來練習(xí)手術(shù)技巧的小型硅膠墊,以腹腔鏡手術(shù)的方式操控機(jī)器人進(jìn)行操作。

Kim 博士錄制了約 20 小時的視頻,記錄自己操控達(dá)芬奇機(jī)器人夾爪(這些夾爪合起來大約只有一便士硬幣那么大)完成三項操作的過程:提起模擬人體組織、操控手術(shù)針以及用手術(shù)線打結(jié)。

他還記錄了與夾爪手動操作相關(guān)的運(yùn)動學(xué)數(shù)據(jù)。這些運(yùn)動學(xué)數(shù)據(jù)包含了 Kim 博士在每個手術(shù)步驟中操控機(jī)器人時所使用的角度和壓力等精確信息。

在用手術(shù)視頻和運(yùn)動學(xué)數(shù)據(jù)對 VLM 進(jìn)行訓(xùn)練后,研究人員將該模型與達(dá)芬奇機(jī)器人連接起來,并指示機(jī)器人執(zhí)行這三項手術(shù)任務(wù)。

研究人員用雞肉和豬肉進(jìn)行實驗,這些動物肉模仿了人體組織的外觀和觸感,而且機(jī)器人此前也從未接觸過相似的操作。

令他們欣喜的是,在“零樣本”環(huán)境下,機(jī)器人近乎完美地完成了這些手術(shù)操作。

Kim 博士表示,機(jī)器人能夠自主解決一些未曾預(yù)料到的難題,這一點非常令人驚喜。

實驗中有一次,手術(shù)針意外從夾爪中掉落,盡管從未接受過應(yīng)對這種情況的明確訓(xùn)練,機(jī)器人還是撿起了手術(shù)針,并繼續(xù)進(jìn)行手術(shù)任務(wù)。

“我們從未訓(xùn)練模型處理豬肉或雞肉組織,也沒有教它如何拾起掉落的手術(shù)針,”Kim 博士表示,“看到機(jī)器人在這種完全超出訓(xùn)練范圍的全新環(huán)境中能夠自主運(yùn)作,我們感到非常激動?!?/p>

Kim 博士目前正在撰寫一篇新的論文,詳細(xì)闡述在動物身上開展的最新研究成果。他還在開發(fā)更多的訓(xùn)練數(shù)據(jù),以進(jìn)一步拓展達(dá)芬奇機(jī)器人的能力。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 機(jī)器人
    +關(guān)注

    關(guān)注

    211

    文章

    28466

    瀏覽量

    207327
  • NVIDIA
    +關(guān)注

    關(guān)注

    14

    文章

    4994

    瀏覽量

    103163
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    30998

    瀏覽量

    269302

原文標(biāo)題:新的 AI 研究為自主機(jī)器人手術(shù)提供未來方向

文章出處:【微信號:NVIDIA-Enterprise,微信公眾號:NVIDIA英偉達(dá)企業(yè)解決方案】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    【「具身智能機(jī)器人系統(tǒng)」閱讀體驗】2.具身智能機(jī)器人大模型

    的設(shè)計不僅提高了機(jī)器人對環(huán)境的理解能力,還使其能夠更精準(zhǔn)地執(zhí)行復(fù)雜任務(wù)。 擴(kuò)散模型的新思路 除了大模型,擴(kuò)散模型的引入機(jī)器人控制開辟了新的研究方向
    發(fā)表于 12-29 23:04

    【「具身智能機(jī)器人系統(tǒng)」閱讀體驗】1.初步理解具身智能

    對人工智能、機(jī)器人技術(shù)和計算系統(tǒng)交叉領(lǐng)域感興趣的讀者來說不可或缺的書。這本書深入探討了具身智能這一結(jié)合物理機(jī)器人和智能算法的領(lǐng)域,該領(lǐng)域正在塑造自主系統(tǒng)及其應(yīng)用的未來。 開篇部分探討了
    發(fā)表于 12-28 21:12

    【「具身智能機(jī)器人系統(tǒng)」閱讀體驗】+初品的體驗

    的快速發(fā)展,相關(guān)人才的需求也在不斷增加,通過閱讀該書可以幫助大家系統(tǒng)性地了解和分析當(dāng)前具身智能機(jī)器人系統(tǒng)的發(fā)展現(xiàn)狀和前沿研究,未來研究
    發(fā)表于 12-20 19:17

    《具身智能機(jī)器人系統(tǒng)》第1-6章閱讀心得之具身智能機(jī)器人系統(tǒng)背景知識與基礎(chǔ)模塊

    智能機(jī)器人的歷史與未來”中,布魯克斯的觀點給我?guī)砩羁虇l(fā)。他在20世紀(jì)80年代提出的觀點至今仍具參考價值:智能行為源于實際的物理互動,而非單純依靠預(yù)設(shè)算法。這打破了傳統(tǒng)AI僅關(guān)注算法優(yōu)化的局限,將
    發(fā)表于 12-19 22:26

    【書籍評測活動NO.51】具身智能機(jī)器人系統(tǒng) | 了解AI的下一個浪潮!

    的互動形成。 隨著具身智能機(jī)器人技術(shù)的快速發(fā)展,相關(guān)人才的需求也在不斷增加,為了幫助大家系統(tǒng)性地總結(jié)和分析當(dāng)前具身智能機(jī)器人系統(tǒng)的發(fā)展現(xiàn)狀和前沿研究,
    發(fā)表于 11-11 10:20

    王耀南院士:AI大模型賦能人形機(jī)器人未來趨勢

    研究現(xiàn)狀,關(guān)鍵技術(shù)賦能具身智能人形機(jī)器人,以及未來的發(fā)展趨勢與展望四個方面進(jìn)行匯報。 王院士認(rèn)為人工智能大模型推動人形機(jī)器人在感知、認(rèn)知、思考、分析、判斷、推理、交互的智能
    的頭像 發(fā)表于 11-08 11:03 ?767次閱讀
    王耀南院士:<b class='flag-5'>AI</b>大模型賦能人形<b class='flag-5'>機(jī)器人</b>及<b class='flag-5'>未來</b>趨勢

    Al大模型機(jī)器人

    金航標(biāo)kinghelm薩科微slkor總經(jīng)理宋仕強(qiáng)介紹說,薩科微Al大模型機(jī)器人有哪些的優(yōu)勢?薩科微AI大模型機(jī)器人由清華大學(xué)畢業(yè)的天才少年N博士和王博士團(tuán)隊開發(fā),與同行相比具有許多優(yōu)勢:語言
    發(fā)表于 07-05 08:52

    NVIDIA邊緣計算助力uAI-MERITS革新機(jī)器人手術(shù)

    是一個以強(qiáng)大的 AI 技術(shù)底座的元宇宙生態(tài)系統(tǒng),旨在變革機(jī)器人手術(shù)、治療和介入領(lǐng)域。通過 NVIDIA 的IGX Orin平臺和Holoscan SDK提供的強(qiáng)大算力和實時信號處理
    的頭像 發(fā)表于 07-02 11:46 ?622次閱讀

    微型導(dǎo)軌:手術(shù)機(jī)器人的高精度“骨骼”

    微型導(dǎo)軌精度高,摩擦系數(shù)小,自重輕,結(jié)構(gòu)緊湊,被廣泛應(yīng)用在醫(yī)療器械中,尤其是在手術(shù)機(jī)器人中的應(yīng)用,通過手術(shù)機(jī)器人,外科醫(yī)生可以遠(yuǎn)離手術(shù)臺操縱
    的頭像 發(fā)表于 06-25 17:57 ?788次閱讀
    微型導(dǎo)軌:<b class='flag-5'>手術(shù)</b><b class='flag-5'>機(jī)器人</b>的高精度“骨骼”

    FMEA在手術(shù)機(jī)器人研發(fā)中的應(yīng)用

    在醫(yī)療科技飛速發(fā)展的今天,手術(shù)機(jī)器人已經(jīng)成為精準(zhǔn)醫(yī)療的重要工具。然而,如何確保手術(shù)機(jī)器人在研發(fā)過程中能夠穩(wěn)定、可靠地運(yùn)行,避免潛在的風(fēng)險和失誤,是擺在研發(fā)團(tuán)隊面前的一大挑戰(zhàn)。此時,失效
    的頭像 發(fā)表于 06-18 11:25 ?511次閱讀

    全球機(jī)器人開發(fā)領(lǐng)域采用NVIDIA 機(jī)器人開發(fā)和生產(chǎn)

    機(jī)器人開發(fā)領(lǐng)域的領(lǐng)先企業(yè)正在采用NVIDIA Isaac機(jī)器人平臺來研究、開發(fā)和生產(chǎn)下一代 AI 賦能的自主機(jī)器
    的頭像 發(fā)表于 06-03 18:25 ?1261次閱讀

    啟揚(yáng)RK3568核心板,助力外科手術(shù)機(jī)器人邁向智能診療之路

    ,外科手術(shù)機(jī)器人在醫(yī)療領(lǐng)域的應(yīng)用推動外科手術(shù)向準(zhǔn)確、微創(chuàng)、智能化方向發(fā)展。圖片來源于網(wǎng)絡(luò)在外科手術(shù)機(jī)器
    的頭像 發(fā)表于 03-16 08:00 ?571次閱讀
    啟揚(yáng)RK3568核心板,助力外科<b class='flag-5'>手術(shù)</b><b class='flag-5'>機(jī)器人</b>邁向智能診療之路

    高壓放大器在介電彈性體折紙術(shù)軟體機(jī)器人中的應(yīng)用

      實驗名稱:柔性驅(qū)動器的性能測試   研究方向機(jī)器人的發(fā)展史已經(jīng)超過了100年,機(jī)器人也逐漸從復(fù)雜笨重,功能單一的傳統(tǒng)機(jī)器人進(jìn)化為更為智
    發(fā)表于 02-27 17:15

    達(dá)芬奇手術(shù)機(jī)器人的應(yīng)用領(lǐng)域

    廣泛應(yīng)用于世界各地的醫(yī)療機(jī)構(gòu)。達(dá)芬奇手術(shù)機(jī)器人結(jié)合了高精度的機(jī)械手臂、先進(jìn)的影像系統(tǒng)和精確的控制系統(tǒng),外科醫(yī)生提供了更精確、更穩(wěn)定的手術(shù)
    的頭像 發(fā)表于 01-11 09:16 ?1922次閱讀

    5個問題,洞悉自主移動機(jī)器人未來發(fā)展方向

    隨著科技的日新月異,人類與機(jī)器人的互動將愈發(fā)頻繁。從早晨在本地咖啡店里,協(xié)作機(jī)器人(cobot)顧客精心沖泡咖啡,到在倉庫中,自主移動機(jī)器人
    的頭像 發(fā)表于 01-09 08:30 ?695次閱讀
    5個問題,洞悉<b class='flag-5'>自主</b>移動<b class='flag-5'>機(jī)器人</b><b class='flag-5'>未來</b>發(fā)展<b class='flag-5'>方向</b>