人工智能安全方法論小議

一：底層生物學(xué)邏輯

生物進(jìn)化上來說，霍金是對(duì)的，不好好控制人工智能，那人類其實(shí)沒有優(yōu)勢(shì)，未來的發(fā)展方向是人--人機(jī)結(jié)合--強(qiáng)人工智能，這種存活率更高，而且有飛向太空的可能。

無人駕駛Level 5，其實(shí)就是部分的機(jī)器人了，只不過運(yùn)動(dòng)自由度只有

- x軸前后

- y軸不可

- z軸旋轉(zhuǎn)

其他方向我們認(rèn)為是惡性事件，但如果里面坐的是機(jī)器人呢？同時(shí)飛行汽車。

我們對(duì)于SAE Level 5的刻畫不到位，反而是機(jī)器人的刻畫會(huì)更準(zhǔn)確，一個(gè)具有多自由度的運(yùn)動(dòng)載體，兩種發(fā)展方向

1.高度自主化的機(jī)器人

2.可多自由度的出行工具，例如cybertruck

3.人開車的不安全性，ODD過于狹小，而真正機(jī)器人開車ODD的可行性。ODD的大小，取決于兩方面，一個(gè)是機(jī)器人道德安全，一個(gè)是機(jī)器人的能力，一個(gè)是機(jī)器人高度思維及意識(shí)的產(chǎn)生。

4.當(dāng)前萬物互聯(lián)得本質(zhì)，是機(jī)器之間的通訊，而linux等操作系統(tǒng)，更像是構(gòu)建生物體的過程。

二：安全的定位

功能安全本質(zhì)討論機(jī)器以人或環(huán)境為主體，防止受不合理EE的攻擊和風(fēng)險(xiǎn)。

網(wǎng)絡(luò)安全本質(zhì)討論資產(chǎn)受外部攻擊的過程。

隨著人工智能演化：

1.功能安全保護(hù)人還是保護(hù)環(huán)境等資產(chǎn)優(yōu)先？這是第一個(gè)道德風(fēng)險(xiǎn)問題，不過AI安全是以人為保護(hù)主體，所以人生命是第一位，這也是網(wǎng)絡(luò)安全的第一性，其他網(wǎng)絡(luò)安全目標(biāo)比這個(gè)目標(biāo)次要，因而我們建議21434中的impact rating，本質(zhì)的框架仍然不足，采用集合進(jìn)行更好：

if for one attack：decision_set（element1…） = （）

impact rating= （element1，element2，…）*（coupling factor1，…）*（effect1…）

這種方式更可以刻畫線性特征，因而，21434的影響分析要素是弱化版本之后，此處的集合要求封閉且攻擊目的可判定

2.網(wǎng)絡(luò)安全本質(zhì)探討被保護(hù)主體即資產(chǎn)本身，如果有一天網(wǎng)絡(luò)安全和功能安全的對(duì)象相同，則一個(gè)外部黑客非物理攻擊和內(nèi)部故障或weakness造成的問題，一個(gè)從內(nèi)部故障出發(fā)造成的影響面，二者的區(qū)別及實(shí)踐，汽車行業(yè)正在進(jìn)行中，我輩一起努力，此處的結(jié)合，會(huì)和工業(yè)級(jí)大不相同，有一天DFA必須分析security的影響，而cyber必須考慮safety的失效率及誤用等因素

3.談?wù)勅诵?。人性不可測(cè)，同時(shí)人性是善或惡，千百年來已有大量討論。網(wǎng)絡(luò)安全假設(shè)前提人本惡即故意舉動(dòng)，功能安全假設(shè)前提理性人，且沒有故意害人的舉動(dòng)，也就代表誤用，漏用。

-故意舉動(dòng)，對(duì)資產(chǎn)沒有影響，無效攻擊，需防御

-故意舉動(dòng)，對(duì)資產(chǎn)有影響，有效攻擊，需按照攻擊強(qiáng)度上防御強(qiáng)度，故藍(lán)隊(duì)多重防御

-非故意舉動(dòng)，對(duì)資產(chǎn)無影響，不需防御

-非故意舉動(dòng)，對(duì)資產(chǎn)有影響，需防御

-故意舉動(dòng)，對(duì)人生命有傷害，侵犯法律，以及功能安全的要求

-故意舉動(dòng)，對(duì)人生命無直接傷害，但對(duì)隱私等間接屬性有上海，則違反法律，以及產(chǎn)品質(zhì)量要求

-誤用，對(duì)人生命有直接傷害，違反法律和功能安全要求

-誤用，對(duì)人生命無直接傷害，但對(duì)隱私等有傷害，違反法律

-濫用，對(duì)人生命有直接傷害，例如毒品或吸煙，酒精因素，超速開車，醉駕，心不在焉開車，非規(guī)定狀態(tài)開車，違反法律和功能安全要求

-濫用，對(duì)人生命無直接傷害，例如抽煙，大麻等，違反法律條款。

以上，同時(shí)抽煙等對(duì)人壽命影響行為，是可靠性問題，我們?cè)谄渌黝}討論。