英國(guó)AI安全研究所推出AI模型安全評(píng)估平臺(tái)
據(jù)報(bào)道，英國(guó)人工智能安全研究院近日發(fā)布了名為“Inspect”的AI模型安全評(píng)估平臺(tái)，此平臺(tái)采用開(kāi)源技術(shù)且對(duì)全球AI工程師免費(fèi)開(kāi)放，旨在提升模型性能與安全測(cè)評(píng)效率。
Inspect平臺(tái)包括“數(shù)據(jù)集”、“求解器（Solver）”、“評(píng)分器”三大模塊，用于評(píng)估AI模型在核心知識(shí)儲(chǔ)備、推理能力和自主能力等方面的表現(xiàn)。
根據(jù)模型測(cè)試結(jié)果，這些模塊會(huì)對(duì)各項(xiàng)指標(biāo)進(jìn)行評(píng)分。此外，Inspect平臺(tái)還支持Python外掛其他測(cè)試框架。
英國(guó)AI安全研究院院長(zhǎng)Ian Hogarth表示，他們推出Inspect平臺(tái)的初衷在于“堅(jiān)信開(kāi)源的力量”，希望通過(guò)該平臺(tái)激發(fā)更多人參與貢獻(xiàn)，提高AI模型透明度和可重復(fù)性，并降低工程師的研發(fā)成本。
聲明：本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題，請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
人工智能
+關(guān)注
關(guān)注
1791文章
47279瀏覽量
238493 -
模型
+關(guān)注
關(guān)注
1文章
3243瀏覽量
48840 -
開(kāi)源技術(shù)
+關(guān)注
關(guān)注
0文章
389瀏覽量
7933
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
美商務(wù)部推動(dòng)AI模型預(yù)部署測(cè)試
性和可靠性，同時(shí)推動(dòng)行業(yè)的健康發(fā)展。 除了與這些企業(yè)的合作，美國(guó)人工智能安全研究所還與英國(guó)的安全研究所攜手，共同發(fā)布了首個(gè)聯(lián)合政府高級(jí)人工智
使用NVIDIA AI平臺(tái)確保醫(yī)療數(shù)據(jù)安全
三井物產(chǎn)株式會(huì)社子公司借助 NVIDIA AI 平臺(tái)實(shí)現(xiàn)數(shù)據(jù)集的安全共享并使用在這些數(shù)據(jù)集上建立的強(qiáng)大模型加速藥物研發(fā)。
AI即服務(wù)平臺(tái)的安全性分析
AIaaS平臺(tái)降低AI應(yīng)用門(mén)檻，但面臨數(shù)據(jù)泄露、惡意攻擊等安全威脅。需加強(qiáng)數(shù)據(jù)加密、訪問(wèn)控制、模型加固、供應(yīng)鏈安全等措施，確保合法合規(guī)，提供
如何評(píng)估AI大模型的效果
評(píng)估AI大模型的效果是一個(gè)復(fù)雜且多維度的過(guò)程，涉及多個(gè)方面的考量。以下是一些關(guān)鍵的評(píng)估方法和步驟： 一、基準(zhǔn)測(cè)試（Benchmarking） 使用標(biāo)準(zhǔn)數(shù)據(jù)集和任務(wù)來(lái)
AI大模型的最新研究進(jìn)展
AI大模型的最新研究進(jìn)展體現(xiàn)在多個(gè)方面，以下是對(duì)其最新進(jìn)展的介紹： 一、技術(shù)創(chuàng)新與突破 生成式AI技術(shù)的爆發(fā) ： 生成式AI技術(shù)正在迅速發(fā)展
《AI for Science：人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第二章AI for Science的技術(shù)支撐學(xué)習(xí)心得
的訓(xùn)練和推理提供了強(qiáng)大的算力支持，使得AI在科學(xué)研究中的應(yīng)用更加廣泛和深入。
3. 數(shù)據(jù)驅(qū)動(dòng)的研究范式
第二章還強(qiáng)調(diào)了數(shù)據(jù)在AI for Science中的核心地位。數(shù)據(jù)是
發(fā)表于 10-14 09:16
OpenAI與Anthropic新模型將受美政府評(píng)估
近日，美國(guó)政府宣布了一項(xiàng)重要合作，旨在加強(qiáng)人工智能安全監(jiān)管。根據(jù)協(xié)議，OpenAI與Anthropic兩大AI領(lǐng)軍企業(yè)同意，在推出新的AI模型
微創(chuàng)軟件推出AI大模型應(yīng)用平臺(tái)WISE
微創(chuàng)軟件在“2024微創(chuàng)人工智能戰(zhàn)略發(fā)布會(huì)”上，正式推出了企業(yè)級(jí)AI大模型應(yīng)用平臺(tái)WISE。該平臺(tái)以其獨(dú)特的技術(shù)架構(gòu)和卓越性能，為企業(yè)開(kāi)發(fā)
STM CUBE AI錯(cuò)誤導(dǎo)入onnx模型報(bào)錯(cuò)的原因？
使用cube-AI分析模型時(shí)報(bào)錯(cuò)，該模型是pytorch的cnn轉(zhuǎn)化成onnx
```
Neural Network Tools for STM32AI v1.7.0 (STM.
發(fā)表于 05-27 07:15
AI安全基準(zhǔn)測(cè)試 v0.5: 聚焦通用聊天文本模型安全性
隨著AI技術(shù)的快速發(fā)展，相關(guān)安全問(wèn)題也日益凸顯。僅過(guò)去數(shù)周內(nèi)，便有LastPass公司遭遇音頻深度偽造攻擊等案例浮出水面。為了應(yīng)對(duì)這一挑戰(zhàn)，新推出的AI Safety基準(zhǔn)測(cè)試將成為
防止AI大模型被黑客病毒入侵控制（原創(chuàng)）聆思大模型AI開(kāi)發(fā)套件評(píng)測(cè)4
模型并為其提供了輸入數(shù)據(jù)。最后，我運(yùn)行了模型的推理，并輸出了預(yù)測(cè)結(jié)果。此外，還需要考慮其他因素，如模型的優(yōu)化器、損失函數(shù)和評(píng)估指標(biāo)等。
為了防止A
發(fā)表于 03-19 11:18
使用cube-AI分析模型時(shí)報(bào)錯(cuò)的原因有哪些？
使用cube-AI分析模型時(shí)報(bào)錯(cuò)，該模型是pytorch的cnn轉(zhuǎn)化成onnx
```
Neural Network Tools for STM32AI v1.7.0 (STM.
發(fā)表于 03-14 07:09
NanoEdge AI的技術(shù)原理、應(yīng)用場(chǎng)景及優(yōu)勢(shì)
，可以減少數(shù)據(jù)在傳輸過(guò)程中被竊取或篡改的風(fēng)險(xiǎn)，提高數(shù)據(jù)安全性。
- 低能耗：通過(guò)優(yōu)化神經(jīng)網(wǎng)絡(luò)模型和硬件設(shè)計(jì)，NanoEdge AI 可以在有限的資源下實(shí)現(xiàn)高效的計(jì)算，降低設(shè)備的能耗。
發(fā)表于 03-12 08:09
工商網(wǎng)監(jiān)
評(píng)論