近日，由中國計算機(jī)學(xué)會主辦的我國計算領(lǐng)域最大、最具影響力的學(xué)術(shù)、技術(shù)、教育和產(chǎn)業(yè)盛會CNCC 2022中國計算機(jī)大會以線上會議形式隆重舉辦。

商湯科技受邀出席大會“如何構(gòu)建數(shù)字世界的倫理秩序”分論壇，并發(fā)布《“以實為本”的數(shù)字世界發(fā)展觀——元宇宙可持續(xù)發(fā)展報告》。

報告指出，元宇宙的可持續(xù)發(fā)展正面臨多種倫理挑戰(zhàn)。商湯致力于發(fā)展“負(fù)責(zé)任且可評估”的人工智能，結(jié)合數(shù)字經(jīng)濟(jì)可持續(xù)發(fā)展的內(nèi)在需求，提出“以實為本”的數(shù)字世界發(fā)展觀，為推動數(shù)字世界的健康可持續(xù)發(fā)展貢獻(xiàn)商湯的思考與實踐。

“以虛強(qiáng)實”，“以實為本”的數(shù)字世界發(fā)展觀

數(shù)字經(jīng)濟(jì)作為繼農(nóng)業(yè)經(jīng)濟(jì)和工業(yè)經(jīng)濟(jì)之后一種全新經(jīng)濟(jì)形態(tài)，如今已從數(shù)字產(chǎn)業(yè)化進(jìn)入產(chǎn)業(yè)數(shù)字化的“下半場”。

隨著人工智能、5G、XR等新一代數(shù)字技術(shù)加速向傳統(tǒng)行業(yè)滲透，“元宇宙”概念由此而生，它將實現(xiàn)“人、物、場”在數(shù)字世界和現(xiàn)實世界的實時交互、融合共生，為產(chǎn)業(yè)數(shù)字化帶來新的想象空間。

從“復(fù)活”古生物，到線上問診的AI數(shù)字醫(yī)生，再到方便快捷的AR購物，元宇宙為物質(zhì)層面的產(chǎn)業(yè)升級及精神層面的文藝復(fù)興提供了新的發(fā)展機(jī)遇，助推現(xiàn)實世界可持續(xù)發(fā)展，“以虛強(qiáng)實”成為基本共識。

伴隨技術(shù)不斷迭代，元宇宙的發(fā)展將經(jīng)歷從數(shù)字孿生到數(shù)字原生，再到數(shù)實共生的演進(jìn)過程，“人、物、場”也將在不同發(fā)展階段產(chǎn)生出不同的創(chuàng)新應(yīng)用模式。但與此同時，元宇宙作為多種新興數(shù)字技術(shù)的交匯點，數(shù)字世界和現(xiàn)實世界的融合體，與“人、物、場”相關(guān)的信息和應(yīng)用被誤用、濫用的問題和倫理風(fēng)險，也會更加突出而復(fù)雜，給不同階段元宇宙的發(fā)展帶來諸多挑戰(zhàn)。

“數(shù)字孿生”階段主要實現(xiàn)對于現(xiàn)實世界的動態(tài)復(fù)刻。

對于“人”而言，人們在通過XR設(shè)備進(jìn)入元宇宙過程中所產(chǎn)生的大量敏感個人身份數(shù)據(jù)，存在被竊取冒用的風(fēng)險。

對于“物”來說，文化產(chǎn)品、歷史文物在轉(zhuǎn)為數(shù)字資產(chǎn)后，也會為產(chǎn)權(quán)信息竊取等不法行為帶來可乘之機(jī);

針對城市、工廠、園區(qū)、自然環(huán)境等“場”的可視化呈現(xiàn)，意味著可能存在地理空間和經(jīng)濟(jì)活動等敏感信息的暴露。

在“數(shù)字原生”階段，元宇宙將在AIGC技術(shù)的支持下逐漸超越真實場景，拓展時空體驗。AIGC將激發(fā)虛擬形象在各行各業(yè)廣泛應(yīng)用，隨之也會出現(xiàn)“數(shù)字替身行為不軌”、“AI藝術(shù)剽竊”等問題，成為“人”的一大挑戰(zhàn);而在“物”方面，NFT數(shù)字藏品促進(jìn)了元宇宙的活躍度，卻也引發(fā)投機(jī)炒作等問題;“場”方面，人們在根據(jù)自身喜好構(gòu)建不同虛擬場景的同時，則容易對虛擬場景產(chǎn)生精神依賴，形成“信息繭房”。

到“數(shù)實共生”階段，數(shù)實交互將帶來更具真實感、臨場感和沉浸感的交互體驗。相應(yīng)地，數(shù)實交互也意味著“人”受到侵害時的感知會愈發(fā)真實;針對“物”的高實時交互技術(shù)，在生產(chǎn)流程中的應(yīng)用也存在被篡改、盜取的風(fēng)險;以數(shù)字孿生城市為代表的“場”的數(shù)實交互，同樣有著被入侵干擾而帶來隱私安全、經(jīng)濟(jì)安全等風(fēng)險。

元宇宙發(fā)展所存在的這些倫理風(fēng)險，將會對“以虛強(qiáng)實”發(fā)展路徑的可持續(xù)性造成影響。

對此，商湯認(rèn)為，數(shù)字世界的可持續(xù)發(fā)展應(yīng)當(dāng)遵循“以實為本”的發(fā)展觀，以“滿足現(xiàn)實需求”為根本定位、以“遵循現(xiàn)實規(guī)則”為基本原則、以“符合現(xiàn)實利益”為最終目標(biāo)。

其中，“滿足現(xiàn)實需求”是指數(shù)字世界的發(fā)展應(yīng)有利于回應(yīng)現(xiàn)實世界的發(fā)展問題和訴求;

“遵循現(xiàn)實規(guī)則”是指數(shù)字世界的規(guī)范發(fā)展應(yīng)以現(xiàn)實世界的規(guī)則體系為基礎(chǔ);

“符合現(xiàn)實利益”是指數(shù)字世界的發(fā)展應(yīng)服務(wù)于現(xiàn)實世界的發(fā)展利益。

做好元宇宙的倫理治理，可以為數(shù)字技術(shù)在經(jīng)濟(jì)社會重要行業(yè)領(lǐng)域中的規(guī)?；瘧?yīng)用提供有效保障。

“以實為本”，實現(xiàn)數(shù)字世界發(fā)展三大“現(xiàn)實”目標(biāo)

作為人工智能治理的實踐者，商湯已將“以實為本”的數(shù)字世界發(fā)展觀，貫徹到了自身的實踐發(fā)展中，通過技術(shù)創(chuàng)新和實體產(chǎn)業(yè)結(jié)合，實現(xiàn)“滿足現(xiàn)實需求”、“遵循現(xiàn)實規(guī)則”、“符合現(xiàn)實利益”的目標(biāo)，推動數(shù)字經(jīng)濟(jì)與實體經(jīng)濟(jì)的融合發(fā)展。

圍繞“滿足現(xiàn)實需求”目標(biāo)，商湯致力于通過多套技術(shù)工具，在保證數(shù)據(jù)隱私安全前提下，更好地實現(xiàn)數(shù)據(jù)要素的流通，滿足生產(chǎn)、消費等發(fā)展需求。商湯開發(fā)的敏感信息脫敏技術(shù)工具，不僅可對生物特征數(shù)據(jù)、自動駕駛等各類業(yè)務(wù)的敏感數(shù)據(jù)進(jìn)行脫敏，還備有敏感信息檢測、可還原脫敏等功能。商湯還建立了產(chǎn)品研發(fā)全流程的個人信息保護(hù)評估審核機(jī)制，確保產(chǎn)品和服務(wù)達(dá)到嚴(yán)格的隱私安全保護(hù)水平。

為促進(jìn)數(shù)據(jù)要素的流通利用，商湯創(chuàng)新提出了數(shù)據(jù)沙箱，可實現(xiàn)數(shù)據(jù)不搬家，數(shù)據(jù)可用不可見，在保證數(shù)據(jù)隱私安全的前期下實現(xiàn)數(shù)據(jù)價值轉(zhuǎn)化。面向系統(tǒng)安全需求，商湯自研的模型體檢工具能夠面向活體識別、圖像分類、目標(biāo)檢測等商業(yè)化應(yīng)用開展對抗安全檢測、魯棒安全檢測、后門安全檢測，不僅能夠支持多種任務(wù)類型，還能夠開箱即用，提供一鍵式測評反饋，目前已應(yīng)用于商湯的大量商業(yè)化模型的檢測。

圍繞“遵循現(xiàn)實規(guī)則”目標(biāo)，商湯自研了魯棒數(shù)字水印技術(shù)，基于深度學(xué)習(xí)對數(shù)字內(nèi)容實施加密數(shù)字水印，實現(xiàn)版權(quán)保護(hù)、內(nèi)容溯源，促進(jìn)元宇宙數(shù)字內(nèi)容的健康有序發(fā)展。商湯還將自研一系列技術(shù)工具賦能創(chuàng)作版權(quán)審查、創(chuàng)作風(fēng)格審查、特定信息內(nèi)容審查等不同類型的數(shù)字內(nèi)容審查需求，促進(jìn)數(shù)字內(nèi)容創(chuàng)作實現(xiàn)合法合規(guī)，同時還建立了覆蓋產(chǎn)品全生命周期的倫理審查體系，確保技術(shù)創(chuàng)新和產(chǎn)品應(yīng)用的每個環(huán)節(jié)都合乎倫理。

圍繞“符合現(xiàn)實利益”目標(biāo)，商湯已開發(fā)并落地多種AI應(yīng)用，讓技術(shù)發(fā)展符合包括人類、經(jīng)濟(jì)、社會、環(huán)境的可持續(xù)發(fā)展利益。諸如疫情期間的AI基礎(chǔ)教育“停課不停學(xué)”解決方案，AI+AR電網(wǎng)運維巡檢等，都是數(shù)字技術(shù)服務(wù)人類現(xiàn)實利益的典型范例。

元宇宙作為AI賦能實體經(jīng)濟(jì)的重要創(chuàng)新應(yīng)用領(lǐng)域，勢必將成為技術(shù)倫理治理的重要陣地。近年來，商湯積極探索人工智能倫理治理工作體系建設(shè)，并全面納入到自身的產(chǎn)品研發(fā)體系中，形成從理論到實踐的倫理治理閉環(huán)。

此次《元宇宙可持續(xù)發(fā)展報告》的發(fā)布，不僅是商湯首份聚焦商業(yè)應(yīng)用場景的倫理治理研究報告，也是商湯AI倫理治理工作向商業(yè)場景延伸的新起點。

審核編輯：湯梓紅