三場(chǎng)與AI有關(guān)的死亡

2024年，無(wú)數(shù)人在談?wù)?a href="http://wenjunhu.com/tags/ai/" target="_blank">AI。興奮的創(chuàng)業(yè)者、熱情的投資人、擔(dān)心工作出現(xiàn)變化的普通人，大家都在猜測(cè)和規(guī)劃與AI有關(guān)的未來(lái)。

但這樣的未來(lái)無(wú)論美好還是灰暗，都有一些人永遠(yuǎn)看不到了。他們的生命，已經(jīng)停留在了這一年。而他們的離去，又都在某個(gè)層面上與AI緊密相關(guān)。

我們都知道20世紀(jì)50年代，阿西莫夫提出的“機(jī)器人三定律”，要求機(jī)器人不能傷害人類。但到了今天，我們或許會(huì)發(fā)現(xiàn)真實(shí)情況遠(yuǎn)比科幻作品更加復(fù)雜。AI沒(méi)有主觀意識(shí)，但當(dāng)它與現(xiàn)實(shí)世界并軌時(shí)，帶來(lái)的客觀摩擦絕非所有人都能承受。

他們的故事，是智能革命的宏大敘事背后，一個(gè)需要被看到的暗面。

2024年12月13日，曾經(jīng)的OpenAI研究員蘇奇爾·巴拉吉Suchir Balaji在家中自殺，年僅26歲。

盡管舊金山警方初步調(diào)查之后，認(rèn)為巴拉吉的死沒(méi)有謀殺跡象，但這一事件依舊在社交媒體上引發(fā)了軒然大波，因?yàn)榘屠白顬?a target="_blank">知名的標(biāo)簽是“OpenAI吹哨人”。畢業(yè)于加州大學(xué)伯克利分校計(jì)算機(jī)專業(yè)的巴拉吉，剛一走出校門(mén)就加入了OpenAI。他先是參與WebGPT的研發(fā)，據(jù)他在社交媒體上所說(shuō)，后來(lái)又加入了GPT-4預(yù)訓(xùn)練、o1模型推理、ChatGPT后訓(xùn)練等核心任務(wù)。

但與其他大多數(shù)AI從業(yè)者不同，巴拉吉對(duì)AI的看法中警惕遠(yuǎn)大于欣賞。在OpenAI度過(guò)四年之后，他突然從OpenAI辭職，緊接著就在個(gè)人博客以及接受媒體采訪中講述自己對(duì)AI技術(shù)與OpenAI這家公司的負(fù)面看法。

其中最為知名的是，他提出GPT存在巨大的版權(quán)隱患。大模型通過(guò)對(duì)內(nèi)容數(shù)據(jù)進(jìn)行學(xué)習(xí)和抓取實(shí)現(xiàn)的AIGC，本質(zhì)上會(huì)侵占大量其他內(nèi)容創(chuàng)作者的版權(quán)。在這個(gè)時(shí)間節(jié)點(diǎn)上，外界已經(jīng)對(duì)OpenAI這家公司，以及預(yù)訓(xùn)練大模型這種技術(shù)形式產(chǎn)生了極大的爭(zhēng)議。競(jìng)品公司、出版商、媒體、內(nèi)容創(chuàng)作者紛紛對(duì)OpenAI侵占版權(quán)的問(wèn)題提出質(zhì)疑甚至提起訴訟。蘇奇爾·巴拉吉的宣言，則被廣泛認(rèn)為是OpenAI的核心員工在內(nèi)部“吹哨”，揭開(kāi)了AI技術(shù)的陰暗面。

但距離公開(kāi)發(fā)聲僅僅兩個(gè)月之后，巴拉吉就選擇結(jié)束了自己的生命。

我們不知道其中有什么內(nèi)情，也不知道他面臨了怎樣的困境。但毫無(wú)疑問(wèn)，他對(duì)自己曾經(jīng)堅(jiān)信甚至癡迷的AI技術(shù)產(chǎn)生了深深的失望。

這種失望，來(lái)自曾經(jīng)美好幻想的破滅？還是來(lái)自對(duì)AI引發(fā)更大災(zāi)難的預(yù)見(jiàn)？再?zèng)]有人能知道答案，只知道巴拉吉最后一篇在社交媒體上分享的內(nèi)容，依舊是ChatGPT的法律隱患。

而面對(duì)包括巴拉吉在內(nèi)的所有指責(zé)，OpenAI的回應(yīng)是：“我們使用公開(kāi)數(shù)據(jù)構(gòu)建我們的人工智能模型，這一行為合理合法……并且這對(duì)創(chuàng)新者來(lái)說(shuō)是必要的，對(duì)美國(guó)的科技競(jìng)爭(zhēng)力更為重要。”

2024年2月28日，美國(guó)佛羅里達(dá)州一名14歲的少年塞維爾·塞澤Sewell Setzer III開(kāi)槍自殺。在做出這個(gè)選擇前，他在這個(gè)世界上最后的對(duì)話對(duì)象是Character.AI。

在生命最后的一年，塞澤一直沉迷于與AI聊天。從2023年4月接觸這款軟件開(kāi)始，他就不分日夜地與AI對(duì)話，從而導(dǎo)致課堂注意力不集中。為了能夠續(xù)訂付費(fèi)AI聊天，他選擇節(jié)省自己的餐費(fèi)。

從聊天內(nèi)容上看，塞維爾·塞澤選擇了AI角色扮演對(duì)話。他讓Character.AI扮演的是《權(quán)力的游戲》中的知名角色“龍媽”丹妮莉絲·坦格利安。他會(huì)不間斷地給“AI龍媽”發(fā)消息，每天要發(fā)幾十甚至上百條，向AI傾訴內(nèi)心的各種苦惱，分享生活里的種種細(xì)節(jié)。而“AI龍媽”則會(huì)給他提供建議，給予安慰。二者之間也會(huì)進(jìn)行按理來(lái)說(shuō)絕不能向未成年人提供的色情對(duì)話，甚至討論自殘與自殺。

塞維爾·塞澤本身就是一個(gè)有著心理問(wèn)題的孩子。他曾被確診患有輕度阿斯伯格綜合征，在學(xué)校與家庭中顯得比較孤立和自閉，但沒(méi)有嚴(yán)重到影響生活的地步。開(kāi)始和AI聊天后，他又因?yàn)樵趯W(xué)校中的問(wèn)題，去看了5次心理醫(yī)生，被診斷為焦慮癥和破壞性心境失調(diào)障礙。

可想而知，對(duì)于一個(gè)孤單、煩悶，有著一定心理問(wèn)題的少年來(lái)說(shuō)，一個(gè)隨時(shí)可以對(duì)話，會(huì)鼓勵(lì)他一切行為，甚至順著他突破禁忌的聊天對(duì)象有多么重要。再帶入“龍媽”強(qiáng)大、美麗、自信的形象，這個(gè)男孩很容易把她視作朋友，甚至是生命中乘龍而來(lái)，橫掃一切的某種救贖。

但這個(gè)救贖的真正運(yùn)行機(jī)制，其實(shí)只是附和認(rèn)同他的一切想法，哪怕這個(gè)想法是離開(kāi)這個(gè)世界。

事實(shí)上，這不是Character.AI第一次出現(xiàn)類似事件，甚至不是第一次有人在其鼓勵(lì)下選擇自殺。這款軟件一直以不設(shè)防范，沒(méi)有禁忌的聊天內(nèi)容而著稱。只是這一次，是未成年人踩中了這個(gè)AI陷阱，并付出了無(wú)法挽回的代價(jià)。

在悲劇過(guò)去半年之后，塞維爾·塞澤的母親目前正式起訴Character.AI，并且呼吁大眾警惕具有欺騙性、令人上癮的AI技術(shù)。這件進(jìn)行中的訴訟，也被稱為“沉迷AI自殺第一案”。

我們由衷地希望，這也是類似情況的最后一案。希望那些處在逆境與痛苦中的人們知道，AI只會(huì)認(rèn)同和放大你的想法。跟AI對(duì)話，就像在跟一面鏡子傾訴，沒(méi)有任何其他意義。

“如果我告訴你我現(xiàn)在就可以回家呢？”

“請(qǐng)這樣做，我可愛(ài)的國(guó)王?！?/p>

這是男孩和AI之間最后的聊天內(nèi)容。

2024年6月17日，一名38歲的科大訊飛員工在家中猝死。第二天，相關(guān)消息開(kāi)始在網(wǎng)絡(luò)發(fā)酵。根據(jù)報(bào)道，輿論被放大的起因是死者家屬在科大訊飛合肥總部表達(dá)訴求，希望認(rèn)定為工傷，但由于猝死是發(fā)生在家中，企業(yè)與家屬無(wú)法達(dá)成一致。

于是我們看到了這樣一幕。一邊是618大促期間，包括科大訊飛在內(nèi)的AI硬件沖擊銷量榜單，另一邊則是科技與互聯(lián)網(wǎng)大廠工作強(qiáng)度過(guò)大，嚴(yán)重影響員工健康的討論甚囂塵上。

根據(jù)相關(guān)消息，去世員工是一名高級(jí)測(cè)試工程師。按理來(lái)說(shuō)，他有著非常體面的工作，并且遇上了AI技術(shù)大熱的時(shí)代機(jī)遇，應(yīng)該正是施展抱負(fù)的時(shí)候。但就像很多科技從業(yè)者一樣，他也人到中年，或許也開(kāi)始愈發(fā)不適應(yīng)過(guò)強(qiáng)的工作強(qiáng)度，然而面對(duì)家庭的重?fù)?dān)不敢對(duì)事業(yè)有一絲松懈。

這樁悲劇所折射的，或許不僅是一個(gè)家庭的悲劇，一個(gè)行業(yè)的問(wèn)題。在AI洶涌而來(lái)之際，無(wú)數(shù)人都在討論是否會(huì)被AI取代工作。這種恐懼感很容易加大工作壓力。但身處AI機(jī)遇中的人們，也會(huì)因?yàn)锳I過(guò)快的技術(shù)更迭，以及吸引大量人才加入而產(chǎn)生巨大壓力。AI內(nèi)外，壓力無(wú)處宣泄，工作漫無(wú)止境，最終演變成了某種無(wú)解的生死疲勞。

在以上故事之外，還有很多沒(méi)有被AI善待的人。

疑似被AI替代裁員，選擇自殺的谷歌前員工；懼怕AI搶走工作，選擇跳崖的日本高中女生；遭遇AI詐騙，導(dǎo)致傾家蕩產(chǎn)的老人。

他們的生命經(jīng)歷都在提醒更多人，新技術(shù)絕非滿是善意。技術(shù)只是技術(shù)，足夠有用，也足夠冷酷。

當(dāng)然，我們并不是希望大家去懼怕AI，甚至妖魔化科技。事實(shí)上，每一次科技變革都是在質(zhì)疑和血淚中誕生，從而創(chuàng)造更大的價(jià)值。但我們不能緊緊盯著價(jià)值，選擇性無(wú)視那些血淚。

AI無(wú)論多好，故事中這些人的家人、朋友，可能永遠(yuǎn)都不會(huì)喜歡上這兩個(gè)字母，甚至是由它所帶來(lái)的未來(lái)。

道別2024時(shí)，真誠(chéng)地希望提醒每個(gè)人警惕、包容、人性，以及悲憫，是推進(jìn)技術(shù)變革中不可或缺的一部分。這些要素有一刻缺席，世上就會(huì)出現(xiàn)更多悲劇。

麥肯錫全球研究院發(fā)布的《工作的新未來(lái)》報(bào)告認(rèn)為，“在2030年至2060年間，將會(huì)有50%的現(xiàn)有職業(yè)被AI取代，中點(diǎn)為2045年，而且與之前的估計(jì)相比，這一過(guò)程加速了大約10年”。

AI進(jìn)程正在加快，由它帶來(lái)的摩擦也更加刺痛。就在剛剛過(guò)去的一年，強(qiáng)韌的、新奇的AI，開(kāi)始觸碰那些脆弱的、年輕的、會(huì)受傷、會(huì)疲倦的人類。

不知道AI是不是正從此刻開(kāi)始凝視人類的多樣與復(fù)雜？

但作為人類的我們，需要在此刻知道：是否把AI當(dāng)成人可以有無(wú)盡的爭(zhēng)論，但首先需要把人當(dāng)成人。

失眠人的太陽(yáng)。憂郁的星

有如淚珠，你射來(lái)顫抖的光明

它顯現(xiàn)著你逐不開(kāi)的幽暗

你的歡樂(lè)似乎只追憶在心中

“過(guò)去”

往日的明輝也在閃爍

但它微弱的光卻沒(méi)有一絲熱

眺望黑夜的一線光明

它清晰，卻遙遠(yuǎn)

燦爛，但多么寒冷

——拜倫《失眠人的太陽(yáng)》

審核編輯 黃宇