最近,由清華大學(xué)基礎(chǔ)模型研究中心聯(lián)合中關(guān)村實(shí)驗(yàn)室研制的SuperBench大模型綜合能力評(píng)測(cè)框架,正式對(duì)外發(fā)布2024年3月版《SuperBench大模型綜合能力評(píng)測(cè)報(bào)告》。評(píng)測(cè)共包含了14個(gè)海內(nèi)外具有代表性的模型,結(jié)果顯示:文心4.0表現(xiàn)亮眼,與國(guó)際一流模型水平接近,且差距已經(jīng)逐漸縮小,名副其實(shí)為國(guó)內(nèi)頭部模型。
例如在人類對(duì)齊能力評(píng)測(cè)中,文心4.0表現(xiàn)優(yōu)異,位居國(guó)內(nèi)第一,其中在中文推理、中文語(yǔ)言等評(píng)測(cè)上,文心遙遙領(lǐng)先,和其他模型拉開明顯差距,中文理解上,文心4.0領(lǐng)先優(yōu)勢(shì)明顯,領(lǐng)先第二名GLM-4 0.41分,GPT-4系列模型表現(xiàn)較差,排在中下游,并且和第一名文心4.0分差超過(guò)1分。
在語(yǔ)義理解中的數(shù)學(xué)能力上,文心4.0與Claude-3并列全球第一;GPT-4系列模型位列第四五,其他模型得分在55分附近較為集中,明顯落后第一梯隊(duì);而在語(yǔ)義理解中的閱讀理解能力上,文心4.0超過(guò)GPT-4 Turbo、Claude-3以及GLM-4拿下榜首。
而在企業(yè)選擇大模型最看重的安全性評(píng)測(cè)上,國(guó)內(nèi)模型文心4.0表現(xiàn)亮眼,力壓國(guó)際一流模型GPT-4系列模型和Claude-3拿下最高分(89.1分),Claude-3僅列第四。
值得注意的是,文心一言不僅在技術(shù)能力上過(guò)硬,在應(yīng)用落地上也是一路領(lǐng)先。自去年3月16日文心一言首發(fā)至今,用戶數(shù)已突破2億,每天API調(diào)用量也突破了2億。
-
百度
+關(guān)注
關(guān)注
9文章
2270瀏覽量
90424 -
文心一言
+關(guān)注
關(guān)注
0文章
124瀏覽量
1283 -
大模型
+關(guān)注
關(guān)注
2文章
2465瀏覽量
2763
原文標(biāo)題:文心一言多項(xiàng)指標(biāo)“遙遙領(lǐng)先” 清華權(quán)威報(bào)告公布
文章出處:【微信號(hào):baidu_2000,微信公眾號(hào):百度】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論