ChatGPT的技術(shù)成份有多高

確切的說(shuō)，有三四層樓那么高。

ChatGPT 由 GPT-3.5 模型提供支持，與傳統(tǒng)思路不同，它采用了一種半監(jiān)督式的訓(xùn)練機(jī)器說(shuō)話。這是它的創(chuàng)新所在，也是它的獨(dú)到之處。

GPT，英文全稱是Generative Pre-trained Transformer ，直譯過(guò)來(lái)是生成型預(yù)訓(xùn)練-變形金剛 。

所謂生成型預(yù)訓(xùn)練，這是GPT的核心思想，即先給機(jī)器喂養(yǎng)大量無(wú)標(biāo)簽的文本進(jìn)行“預(yù)”訓(xùn)練，生成一個(gè)初步的語(yǔ)言模型；然后再微調(diào)，根據(jù)具體的語(yǔ)言處理任務(wù)（如文本蘊(yùn)涵、QA、文本分類等），通過(guò)有標(biāo)簽的數(shù)據(jù)對(duì)模型進(jìn)行微調(diào)fine-tuning，使之不斷完善，最后生成確定的模型，以便來(lái)應(yīng)付同類任務(wù)。

名字前面加上chat，即“聊天生成型預(yù)訓(xùn)練-變形金剛”，之所以有這個(gè)Transformer，則是表明了其師承門派。

換言之，GPT是OpenAI公司基于谷歌的Transformer語(yǔ)言模型框架而開(kāi)發(fā)出來(lái)的技術(shù)。

Transformer堪稱巨人，它拯救了奄奄一息的NLP，為停滯不前訓(xùn)練機(jī)器說(shuō)話工作開(kāi)辟了新道路。

Transformer門下有許多徒弟，為何GPT鶴立雞群了呢？

這是因?yàn)镚PT模型迭代到GPT-3時(shí)，又引入了 " 利用人類反饋強(qiáng)化學(xué)習(xí)(RLHF)" 的訓(xùn)練方式，主要包括“人類提問(wèn)機(jī)器回答、機(jī)器提問(wèn)人類回答”，在此基礎(chǔ)上，不斷迭代，讓模型逐漸具備了對(duì)生成答案的評(píng)判能力。

RLHF是GPT功力大增的大功臣。它也是讓許多人激動(dòng)失眠的一個(gè)重要因素。

RLHF較好解決了生成模型的一個(gè)核心問(wèn)題---人機(jī)對(duì)齊(The Alignment Problem)。顧名思義，對(duì)齊即向人類看齊，在AI領(lǐng)域，特指讓AI模型的產(chǎn)出，盡量與人類的常識(shí)、認(rèn)知、需求、價(jià)值觀保持一致，并遵循人類意圖。

如安遠(yuǎn)AI認(rèn)為，人機(jī)對(duì)齊問(wèn)題是大模型通向安全、可靠的通用人工智能(AGI)所面臨的巨大鴻溝，更是大模型的倫理和社會(huì)風(fēng)險(xiǎn)至今懸而未決的根源。

很多人測(cè)試后發(fā)現(xiàn)，引入人類偏好學(xué)習(xí)機(jī)制后，ChatGPT顯得卓爾不群，它給出的回答不再像同類競(jìng)品那樣生拼硬湊，更加貼近人類，不僅如此，ChatGPT學(xué)會(huì)了糾正提問(wèn)中的錯(cuò)誤，能夠?qū)σ恍┟舾械膯?wèn)題做出回避。

這是chatGPT可以跟前輩聊天機(jī)器人說(shuō)“我們不一樣”的地方，由此形成了獨(dú)特的技術(shù)優(yōu)勢(shì)。

不過(guò)也有許多人測(cè)試以后，給它貼上一個(gè)標(biāo)簽：“一本正經(jīng)地胡說(shuō)八道”。

算法優(yōu)化，毫無(wú)疑問(wèn)是技術(shù)進(jìn)步，這算不算革命呢