AI智能體規(guī)?；瘧?yīng)用前夜:英偉達(dá)NeMo Guardrails筑牢安全防線

隨著AI智能體的快速發(fā)展，它們正變得日益復(fù)雜、自主且功能多樣，應(yīng)用范圍也在持續(xù)擴(kuò)大。然而，在AI智能體即將步入“規(guī)模就業(yè)”的新階段之前，安全問(wèn)題成為了企業(yè)不可忽視的重大挑戰(zhàn)。為了確保AI智能體的廣泛應(yīng)用，企業(yè)必須在信任、物理安全、網(wǎng)絡(luò)安全以及合規(guī)性等方面做好充分準(zhǔn)備。

為了應(yīng)對(duì)這些挑戰(zhàn)，英偉達(dá)近日推出了全新的NVIDIA NIM AI Guardrail微服務(wù)。作為NVIDIA NeMo Guardrails軟件工具系列的重要組成部分，該微服務(wù)旨在幫助開發(fā)者在大語(yǔ)言模型（LLM）應(yīng)用中集成和管理AI護(hù)欄，從而確保AI智能體的安全可控。目前，包括Amdocs、Cerence AI以及勞氏公司（Lowe‘s）在內(nèi)的眾多行業(yè)領(lǐng)軍企業(yè)，都在使用NeMo Guardrails來(lái)保護(hù)其AI應(yīng)用的安全。

一項(xiàng)針對(duì)企業(yè)組織采用AI智能體的調(diào)研顯示，絕大多數(shù)組織對(duì)AI智能體持積極態(tài)度。其中，10%的組織已經(jīng)在使用AI智能體，52%計(jì)劃在未來(lái)2-3年內(nèi)實(shí)施，而30%則計(jì)劃在明年內(nèi)就引入AI代理。僅有7%的組織表示尚未考慮使用AI智能體。這表明，未來(lái)兩三年內(nèi)，AI智能體有望在眾多組織中實(shí)現(xiàn)廣泛應(yīng)用。

然而，企業(yè)在部署AI智能體的過(guò)程中，仍需面臨諸多挑戰(zhàn)。英偉達(dá)指出，安全性、數(shù)據(jù)隱私、治理以及性能是四大關(guān)鍵因素。為了確保AI智能體的安全可控，NVIDIA NeMo Guardrails提供了一套全面的解決方案，涵蓋了定義、編排和執(zhí)行三個(gè)關(guān)鍵環(huán)節(jié)。

在定義環(huán)節(jié)，企業(yè)可以根據(jù)自身需求定制安全規(guī)則；在編排環(huán)節(jié)，NeMo Guardrails能夠高效整合多個(gè)專業(yè)化的安全規(guī)則；在執(zhí)行環(huán)節(jié)，則確保AI智能體在保持高性能的同時(shí)，嚴(yán)格遵守安全規(guī)則。

為了進(jìn)一步提升AI智能體的安全性和合規(guī)性，NeMo Guardrails引入了三項(xiàng)全新的NIM微服務(wù)：內(nèi)容安全NIM微服務(wù)、話題控制NIM微服務(wù)和越獄檢測(cè)NIM微服務(wù)。這些微服務(wù)能夠防止AI生成有偏見或有害的輸出，確保對(duì)話內(nèi)容符合道德標(biāo)準(zhǔn)，并增加對(duì)越獄企圖的防護(hù)。

據(jù)英偉達(dá)介紹，由于“一刀切”的方法無(wú)法有效保護(hù)和控制復(fù)雜的代理式AI工作流，因此NeMo Guardrails采用了多個(gè)輕量級(jí)專業(yè)模型作為護(hù)欄。這種方法不僅能夠彌補(bǔ)全局策略和保護(hù)措施的不足，還能在不顯著影響性能的情況下，顯著提高AI智能體的安全性和合規(guī)性。

相關(guān)測(cè)試結(jié)果顯示，在添加了AI安全護(hù)欄后，響應(yīng)延遲僅為半秒，而合規(guī)性則提高了1.5倍。這表明NeMo Guardrails能夠在保持高性能的同時(shí)，顯著提升AI代理的安全性和合規(guī)性。

此外，NeMo Guardrails還使用了Aegis內(nèi)容安全數(shù)據(jù)集進(jìn)行訓(xùn)練，該數(shù)據(jù)集是同類中質(zhì)量較高的人工注釋數(shù)據(jù)源之一。這使得NeMo Guardrails在審核內(nèi)容安全方面更具優(yōu)勢(shì)。

借助全新的NVIDIA NIM AI Guardrail微服務(wù)，開發(fā)者可以構(gòu)建更加安全、可信的AI智能體。這些智能體能夠遵循特定語(yǔ)境準(zhǔn)則做出安全、適當(dāng)?shù)幕卮?，并有效抵御越獄企圖。它們可被廣泛應(yīng)用于汽車、金融、醫(yī)療、制造、零售等行業(yè)，提高客戶滿意度和信任度。

目前，多個(gè)行業(yè)已經(jīng)開始采用NVIDIA的NeMo Guardrails來(lái)增強(qiáng)AI應(yīng)用的安全性和可控性。作為一個(gè)開源工具，NeMo Guardrails允許開發(fā)者通過(guò)編排AI策略來(lái)提升大型語(yǔ)言模型應(yīng)用的安全性。同時(shí)，NVIDIA還與多家領(lǐng)先企業(yè)合作，將NeMo Guardrails集成到他們的解決方案中，以提供更安全、可靠的生成式AI應(yīng)用。

未來(lái)，隨著AI智能體的廣泛應(yīng)用，NeMo Guardrails的開放性和可擴(kuò)展性將使其能夠集成更多的AI安全模型和防護(hù)提供商的生態(tài)系統(tǒng)，以及AI可觀察性和開發(fā)工具。這將進(jìn)一步增強(qiáng)NeMo Guardrails的監(jiān)控和推理能力，為AI智能體的安全可控提供更加堅(jiān)實(shí)的保障。