16家科技巨頭保證AI模型安全開(kāi)發(fā)
據(jù)路透社報(bào)道，微軟、谷歌以及OpenAI等16家全球科技巨頭在5月21至22日舉行的“人工智能（AI）首爾峰會(huì)”上，公開(kāi)表態(tài)承諾進(jìn)行AI模型的安全開(kāi)發(fā)，并在無(wú)法有效控制最極端風(fēng)險(xiǎn)時(shí)，對(duì)其尖端系統(tǒng)進(jìn)行關(guān)閉。
此次峰會(huì)上，與會(huì)公司還包含了中國(guó)本土的科技力量如智譜AI（IT之家備注：騰訊、阿里、美團(tuán)和小米曾對(duì)其投資）、IBM、亞馬遜、Meta及三星等知名企業(yè)。
此外，這些公司在會(huì)議中就安全性問(wèn)題達(dá)成共識(shí)，包括發(fā)布明確的評(píng)估框架，用以衡量模型可能帶來(lái)的風(fēng)險(xiǎn)。若風(fēng)險(xiǎn)嚴(yán)重且無(wú)法承受，人工智能公司將被迫按下緊急停止按鈕，暫停模型和系統(tǒng)的開(kāi)發(fā)或部署。
然而，這并非人工智能行業(yè)首次提出此類看似高尚卻缺乏實(shí)際約束力的安全承諾。早在去年，亞馬遜、谷歌、Meta及微軟便已簽署由美國(guó)政府推動(dòng)的自愿保障措施，以確保其產(chǎn)品在上市前具備足夠的安全性。
盡管如此，被譽(yù)為“人工智能教父”的計(jì)算機(jī)科學(xué)家約書(shū)亞·本吉奧對(duì)此類承諾表示歡迎，同時(shí)也強(qiáng)調(diào)自愿承諾需伴隨著嚴(yán)格的監(jiān)管機(jī)制。
聲明：本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題，請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
微軟
+關(guān)注
關(guān)注
4文章
6619瀏覽量
104230 -
人工智能
+關(guān)注
關(guān)注
1792文章
47508瀏覽量
239225 -
模型
+關(guān)注
關(guān)注
1文章
3279瀏覽量
48974
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
NVIDIA推出加速物理AI開(kāi)發(fā)的Cosmos世界基礎(chǔ)模型
經(jīng)數(shù)百萬(wàn)小時(shí)的駕駛和機(jī)器人視頻數(shù)據(jù)訓(xùn)練的先進(jìn)模型，可用于普及物理 AI 開(kāi)發(fā)，并以開(kāi)放模型許可形式提供。
AI大語(yǔ)言模型開(kāi)發(fā)步驟
開(kāi)發(fā)一個(gè)高效、準(zhǔn)確的大語(yǔ)言模型是一個(gè)復(fù)雜且多階段的過(guò)程，涉及數(shù)據(jù)收集與預(yù)處理、模型架構(gòu)設(shè)計(jì)、訓(xùn)練與優(yōu)化、評(píng)估與調(diào)試等多個(gè)環(huán)節(jié)。接下來(lái)，AI部落小編為大家詳細(xì)闡述
智能網(wǎng)聯(lián)汽車ISO 26262?功能安全開(kāi)發(fā)解決方案
，經(jīng)緯恒潤(rùn)功能安全服務(wù)團(tuán)隊(duì)提供覆蓋功能安全流程咨詢及ISO26262功能安全認(rèn)證、產(chǎn)品開(kāi)發(fā)及認(rèn)證、功能安全開(kāi)發(fā)及工具平臺(tái)的綜合解決方案。
LG AI Research使用亞馬遜云科技開(kāi)發(fā)AI模型 加快癌癥診斷速度
16日 /美通社/ -- 亞馬遜云科技在2024 re:Invent全球大會(huì)上宣布，韓國(guó)LG集團(tuán)旗下人工智能研究中心LG AI Research基于全球領(lǐng)先的云計(jì)算平臺(tái)開(kāi)發(fā)了新的病理基礎(chǔ)模型
大語(yǔ)言模型開(kāi)發(fā)框架是什么
大語(yǔ)言模型開(kāi)發(fā)框架是指用于訓(xùn)練、推理和部署大型語(yǔ)言模型的軟件工具和庫(kù)。下面，AI部落小編為您介紹大語(yǔ)言模型
AMD發(fā)布10億參數(shù)開(kāi)源AI模型OLMo
AMD公司近日宣布了一項(xiàng)重大進(jìn)展，推出了首個(gè)完全開(kāi)放的10億參數(shù)語(yǔ)言模型系列——AMD OLMo。這一舉措為開(kāi)發(fā)者和研究人員提供了強(qiáng)大的AI研究工具，有助于推動(dòng)
格陸博科技榮獲ISO/SAE 21434《道路車輛-網(wǎng)絡(luò)安全開(kāi)發(fā)流程認(rèn)證》
近日，格陸博科技正式獲得國(guó)際知名第三方認(rèn)證機(jī)構(gòu)TüV NORD（杭州漢德質(zhì)量認(rèn)證服務(wù)有限公司）授予ISO/SAE 21434《道路車輛-網(wǎng)絡(luò)安全開(kāi)發(fā)流程認(rèn)證》，標(biāo)志著格陸博科技現(xiàn)有
微軟、英偉達(dá)、OpenAI等公司宣布成立安全人工智能聯(lián)盟
與持續(xù)進(jìn)化，并加速其在各類應(yīng)用中的融合。然而，這股AI浪潮也伴隨著安全開(kāi)發(fā)與應(yīng)用的嚴(yán)峻挑戰(zhàn)，如何確保AI的合理、安全利用，防止濫用，以及保障數(shù)據(jù)在開(kāi)
谷歌等14家科技巨頭聯(lián)合成立安全AI聯(lián)盟
在7月18日舉行的阿斯彭安全論壇上，全球科技界的領(lǐng)軍力量——谷歌、微軟、亞馬遜、英特爾、英偉達(dá)、IBM、思科、Paypal、OpenAI等14家頂尖企業(yè)，共同宣布了一個(gè)具有里程碑意義的舉措：成立安全人工智能聯(lián)盟（CoSAI）。這
聆思CSK6視覺(jué)語(yǔ)音大模型AI開(kāi)發(fā)板入門(mén)資源合集（硬件資料、大模型語(yǔ)音/多模態(tài)交互/英語(yǔ)評(píng)測(cè)SDK合集）
本帖最后由 jf_40317719 于 2024-6-18 17:39 編輯
視覺(jué)語(yǔ)音大模型 AI 開(kāi)發(fā)套件( CSK6-MIX )是圍繞 CSK6011A 芯片設(shè)計(jì)的具備豐富語(yǔ)音圖像功能
發(fā)表于 06-18 17:33
微軟、谷歌等科技巨頭承諾安全開(kāi)發(fā)AI模型
近日，微軟、谷歌、OpenAI等16家科技巨頭在“人工智能（AI）首爾峰會(huì)”上達(dá)成共識(shí)，承諾在AI模型
英國(guó)AI安全研究所推出AI模型安全評(píng)估平臺(tái)
據(jù)報(bào)道，英國(guó)人工智能安全研究院近日發(fā)布了名為“Inspect”的AI模型安全評(píng)估平臺(tái)，此平臺(tái)采用開(kāi)源技術(shù)且對(duì)全球AI工程師免費(fèi)開(kāi)放，旨在提升
微軟開(kāi)發(fā)新AI語(yǔ)言模型MAI-1，挑戰(zhàn)行業(yè)巨頭
據(jù)最新消息，微軟正積極開(kāi)發(fā)一款新型AI語(yǔ)言模型MAI-1，以提升在快速發(fā)展的AI市場(chǎng)中的競(jìng)爭(zhēng)力。
AI安全基準(zhǔn)測(cè)試 v0.5: 聚焦通用聊天文本模型安全性
隨著AI技術(shù)的快速發(fā)展，相關(guān)安全問(wèn)題也日益凸顯。僅過(guò)去數(shù)周內(nèi)，便有LastPass公司遭遇音頻深度偽造攻擊等案例浮出水面。為了應(yīng)對(duì)這一挑戰(zhàn)，新推出的AI Safety基準(zhǔn)測(cè)試將成為模型
防止AI大模型被黑客病毒入侵控制（原創(chuàng)）聆思大模型AI開(kāi)發(fā)套件評(píng)測(cè)4
搭建的AI大模型安全防護(hù)系統(tǒng)
module ai_model_protection(
input logic clk, // 好比是AI心
發(fā)表于 03-19 11:18
工商網(wǎng)監(jiān)
評(píng)論