英特爾攜手星環(huán)科技WAIC展現(xiàn)AI Infra

日前，2024世界人工智能大會暨人工智能全球治理高級別會議于上海盛大開幕。今年早些時候，已在達沃斯論壇上向全世界推薦大會的中國國務(wù)院總理李強特別出席2024世界人工智能大會開幕式并致辭。

中國國務(wù)院總理李強強調(diào)，人工智能發(fā)展迫切需要各國深入探討、凝聚共識，共抓機遇、共克挑戰(zhàn)。中國愿與各國一道，推動人工智能更好服務(wù)全球發(fā)展、增進人類福祉，共同走向更加美好的智能未來。

本屆大會超過1000位全球領(lǐng)軍人物，圖靈獎、馬爾獎、菲爾茲獎得主，國內(nèi)外院士，國內(nèi)外學(xué)術(shù)代表，以及世界500強企業(yè)代表等全球各界大咖齊聚上海，聚焦大模型、AI基礎(chǔ)設(shè)施等重點領(lǐng)域，著重剖析當(dāng)下AI產(chǎn)業(yè)的全球性戰(zhàn)略趨勢，共話人工智能應(yīng)用前景與未來。

星環(huán)科技作為大會戰(zhàn)略合作伙伴重磅亮相2024世界人工智能大會（WAIC），在300+㎡展位集中展示了星環(huán)科技AI Infra系列成果，包括星環(huán)知識平臺TKH，星環(huán)語料開發(fā)工具TCS，無涯?問知AI PC版等。此外，星環(huán)主辦的“新質(zhì)生產(chǎn)力：AI Infra構(gòu)筑企業(yè)新動能”主題論壇同時亮相上海世博中心，邀請了包括英特爾在內(nèi)的多家業(yè)界大咖，展望AI基礎(chǔ)設(shè)施建設(shè)趨勢，探討如何基于大模型，多模數(shù)據(jù)庫、AI Infra等技術(shù)構(gòu)建企業(yè)級與個人知識庫，實現(xiàn)生產(chǎn)力變革。

大模型應(yīng)用大放異彩

“無涯·問知”AI PC版正式開放注冊

“無涯·問知”AI PC版作為一款專為個人用戶設(shè)計的大模型產(chǎn)品，吸引了眾多熱情的觀眾?！盁o涯·問知”AI PC版充分利用端側(cè)AI算力，把AI帶給了更多個人用戶，極大豐富個人用戶獲取和應(yīng)用知識的方式，提高工作效率和知識管理能力。

“無涯·問知”AI PC版現(xiàn)已在配備英特爾酷睿Ultra的主流個人電腦上實現(xiàn)了流暢運行。該應(yīng)用不僅具備了泛行業(yè)的知識獲取能力，更能以高效的計算和分析能力，助力用戶從私域的多模態(tài)數(shù)據(jù)中更準確地提取信息從而極大地提升學(xué)習(xí)和工作的效率。

“無涯·問知”AI PC版知識助理是采用星環(huán)科技自主從0到1預(yù)訓(xùn)練的無涯大模型，同時依托自研本地向量數(shù)據(jù)庫、知識圖譜等技術(shù)基礎(chǔ)構(gòu)建可完全運行在PC端的專業(yè)RAG+LLM應(yīng)用，充分利用英特爾酷睿Ultra中集成的CPU/iGPU/NPU的強大算力，全面提升了PC用戶的AI體驗，在公私域智能問答、內(nèi)置數(shù)據(jù)源、多模態(tài)多源頭知識問答等方面表現(xiàn)優(yōu)異。

TKH引領(lǐng)企業(yè)構(gòu)建高效AI基礎(chǔ)設(shè)施

TKH星環(huán)知識平臺，集成了從語料到模型再到應(yīng)用的完整AI Infra工具集產(chǎn)品，可以實現(xiàn)企業(yè)內(nèi)部所有資料知識化的目標，并且可以統(tǒng)管企業(yè)Al Infra算力、語料、模型和應(yīng)用，助力企業(yè)打造安全可控AI Infra。TKH的推出不僅能夠幫助企業(yè)高效地構(gòu)建和管理自己的知識庫，還能通過智能化的方式，提升企業(yè)的數(shù)據(jù)處理能力和業(yè)務(wù)決策效率。

圖.TKH星環(huán)知識平臺總體架構(gòu)

星環(huán)數(shù)據(jù)庫助力企業(yè)打造AI數(shù)字底座

隨著AI模型變得越來越復(fù)雜，并開始處理文本、音頻、圖像和視頻等各種類型數(shù)據(jù)，對快速數(shù)據(jù)處理的需求變得更加迫切。星環(huán)科技提供企業(yè)級多模態(tài)知識存儲與服務(wù)，助力企業(yè)打造新一代一站式多模型數(shù)字底座。在現(xiàn)場，星環(huán)科技還展示了大數(shù)據(jù)與云基礎(chǔ)平臺、分布式關(guān)系型數(shù)據(jù)庫、大數(shù)據(jù)開發(fā)與智能分析工具等產(chǎn)品系列，以及智慧能源、智慧金融、數(shù)字政府、智慧制造、智慧交通、智慧醫(yī)療等行業(yè)成果。

星環(huán)科技分布式向量數(shù)據(jù)庫Transwarp Hippo作為一款企業(yè)級云原生分布式向量數(shù)據(jù)庫，與開源的向量數(shù)據(jù)庫不同，具備高可用、高性能、易拓展等特點，支持多種向量搜索索引，支持數(shù)據(jù)分區(qū)分片、數(shù)據(jù)持久化、增量數(shù)據(jù)攝取、向量標量字段過濾混合查詢等功能，很好地滿足了企業(yè)針對海量向量數(shù)據(jù)的高實時性檢索等場景。

第五代英特爾 至強 處理器助力星環(huán)科技分布式向量數(shù)據(jù)庫Transwarp Hippo實現(xiàn)大幅性能提升

基于第五代英特爾至強可擴展處理器的星環(huán)科技分布式向量數(shù)據(jù)庫Transwarp Hippo能夠?qū)崿F(xiàn)海量、高維度向量數(shù)據(jù)處理，并具備低時延、高精確度等優(yōu)勢，可以滿足大模型訓(xùn)練等場景對于數(shù)據(jù)處理能力的苛刻要求。

對比第三代英特爾至強可擴展處理器，基于第五代英特爾至強可擴展處理器的Transwarp Hippo實現(xiàn)了約2倍的代際性能提升1，可有效滿足大模型時代海量、高維向量的存儲和計算需求，能夠幫助企業(yè)更好地應(yīng)對大模型時代海量、多維向量數(shù)據(jù)的高并發(fā)和實時計算等挑戰(zhàn)。

圖.基于不同代際英特爾 至強 可擴展處理器的Transwarp Hippo性能對比

針對數(shù)據(jù)庫的需求，英特爾持續(xù)推動至強可擴展處理器的迭代。新一代的英特爾 至強 處理器不僅具備更多核心、更高的主頻，而且配備更大三級緩存、更快內(nèi)存。這些特性使得英特爾 至強 可擴展處理器成為構(gòu)建高性能數(shù)據(jù)庫的服務(wù)器平臺的重要選擇。英特爾 至強 可擴展處理器同時內(nèi)置了豐富的加速器，包括英特爾 存內(nèi)分析加速器（英特爾 IAA）、英特爾 高級矩陣擴展（英特爾 AMX）、英特爾 高級矢量擴展 512（英特爾 AVX-512）等，在配合英特爾 OneAPIDPC++/C++ 編譯器等軟件工具之后，有助于提升數(shù)據(jù)庫性能，幫助用戶從數(shù)據(jù)中更快獲取洞察，顯著提高生產(chǎn)力。在數(shù)據(jù)庫安全性方面，英特爾 至強 可擴展處理器提供的英特爾 軟件防護擴展(Software Guard Extensions,SGX)、英特爾 可信域擴展(TDX)技術(shù)等技術(shù)也有助于化解數(shù)據(jù)庫安全風(fēng)險。

圖.基于英特爾 架構(gòu)的加速器與軟件工具

英特爾加速中國數(shù)據(jù)智能產(chǎn)業(yè)發(fā)展

英特爾正在積極拓展生態(tài)體系，增加整個生態(tài)系統(tǒng)協(xié)作方面的努力和投入，與包括獨立軟件提供商、系統(tǒng)集成商、硬件設(shè)備制造商等在內(nèi)的合作伙伴，以及互聯(lián)網(wǎng)及行業(yè)企業(yè)用戶一起，加快數(shù)智化轉(zhuǎn)型的腳步，推動生成式人工智能、大數(shù)據(jù)、數(shù)據(jù)庫等軟件與算力硬件的協(xié)同優(yōu)化，賦能數(shù)據(jù)智能產(chǎn)業(yè)的健康發(fā)展。

英特爾還通過在服務(wù)器平臺等基礎(chǔ)設(shè)施產(chǎn)品的不斷創(chuàng)新，加速數(shù)據(jù)庫工作負載運行，幫助客戶構(gòu)建高性能、彈性伸縮、高可用、高安全的數(shù)據(jù)基礎(chǔ)設(shè)施，為生成式人工智能技術(shù)的發(fā)展夯實了基礎(chǔ)；更通過長遠布局，將產(chǎn)品線拓展到更多領(lǐng)域，推出全生態(tài)解決方案，讓Data Infra和AI Infra一起為企業(yè)注入新質(zhì)生產(chǎn)力。