芯片設(shè)計(jì)中先進(jìn)的學(xué)術(shù)算法對(duì)比

一項(xiàng)研究試圖解決圍繞谷歌人工智能工具的激烈分歧。

芯片設(shè)計(jì)大會(huì)上的討論很少白熱化。不過(guò)，一年前，在國(guó)際物理設(shè)計(jì)研討會(huì)（ISPD）上，事態(tài)失控了。觀察人員用“火車(chē)碰撞”和“埋伏偷襲”來(lái)比喻當(dāng)時(shí)的事態(tài)。沖突的癥結(jié)是芯片設(shè)計(jì)難題，即谷歌借助人工智能（AI）的解決方案是否真的比人工和最先進(jìn)的算法好。為此，一位知名的男性電子設(shè)計(jì)自動(dòng)化（EDA）專(zhuān)家與谷歌的兩名年輕女性計(jì)算機(jī)科學(xué)家針?shù)h相對(duì)，由此引發(fā)的爭(zhēng)論已經(jīng)導(dǎo)致一名谷歌研究員被解雇。

2023年，同樣是在國(guó)際物理設(shè)計(jì)研討會(huì)上，該領(lǐng)域的領(lǐng)導(dǎo)者、IEEE會(huì)士安德魯?卡恩（Andrew Kahng）希望一勞永逸地結(jié)束這場(chǎng)爭(zhēng)論。他和加州大學(xué)圣地亞哥分校（UCSD）的同事對(duì)谷歌的強(qiáng)化學(xué)習(xí)方法進(jìn)行了“公開(kāi)透明的操作和評(píng)估”。他們使用了谷歌名為“循環(huán)訓(xùn)練”（Circuit Training）的開(kāi)源版本，并對(duì)卡恩團(tuán)隊(duì)不夠清晰的部分進(jìn)行了逆向工程，他們將強(qiáng)化學(xué)習(xí)與人類(lèi)設(shè)計(jì)師、商業(yè)軟件和最先進(jìn)的學(xué)術(shù)算法進(jìn)行了對(duì)比。

在大多數(shù)情況下，循環(huán)訓(xùn)練并不是贏家，但它具有競(jìng)爭(zhēng)性。由于各種原因，該研究沒(méi)有測(cè)試循環(huán)訓(xùn)練的招牌功能：通過(guò)學(xué)習(xí)其他芯片設(shè)計(jì)來(lái)提高其性能。

“我們的目標(biāo)很明確，就是推動(dòng)社區(qū)不斷進(jìn)步?！彼?023年國(guó)際物理設(shè)計(jì)研討會(huì)上告訴工程師們。只有時(shí)間能證明這是否可行。

如何與何時(shí)

工程師討論的問(wèn)題被稱(chēng)為布局，即確定邏輯或內(nèi)存塊應(yīng)該放在芯片的什么位置。布局時(shí)必須考慮權(quán)衡各種矛盾的因素，最大限度地提高芯片的工作頻率，同時(shí)最大限度地降低其功耗和占用空間。找到這個(gè)問(wèn)題的最佳解決方案是最困難的部分之一，可能的排列組合比圍棋還多。

不過(guò)，圍棋最終被一款名為深度強(qiáng)化學(xué)習(xí)的人工智能打敗了，這正是前谷歌大腦研究員阿扎利亞?米爾霍西尼（Azalia Mirhoseini）和安娜?戈?duì)柕希ˋnna Goldie）在布局問(wèn)題上應(yīng)用的方案。該方案當(dāng)時(shí)被稱(chēng)為Morpheus，它將放置大塊電路（稱(chēng)為“宏”）視為一個(gè)游戲，學(xué)習(xí)如何在游戲的過(guò)程中找到最佳解決方案。（宏的位置對(duì)芯片特性有巨大的影響。在循環(huán)訓(xùn)練和Morpheus中，用一種被稱(chēng)為標(biāo)準(zhǔn)單元單獨(dú)的算法在空白處來(lái)填充小部件。針對(duì)宏和標(biāo)準(zhǔn)單元，其他方法使用同樣的過(guò)程。）

簡(jiǎn)而言之，其工作原理如下：芯片的設(shè)計(jì)文件從網(wǎng)表開(kāi)始，在網(wǎng)表中指定哪些宏和單元根據(jù)什么約束條件連接到其他宏和單元。為了幫助加快訓(xùn)練過(guò)程，標(biāo)準(zhǔn)單元隨后被收集到該集群。之后，循環(huán)訓(xùn)練會(huì)開(kāi)始將宏一次一個(gè)地放置到芯片“畫(huà)布”上。當(dāng)最后一個(gè)宏放置后，單獨(dú)的算法在空白處填充標(biāo)準(zhǔn)單元，系統(tǒng)會(huì)嘗試進(jìn)行快速評(píng)估，包括布線(xiàn)的長(zhǎng)度（越長(zhǎng)越差）、密集程度（越密集越差）及其擁擠程度（越擁擠越差）。這被稱(chēng)為代理成本，就像電子游戲中的分?jǐn)?shù)一樣。該分?jǐn)?shù)作為反饋，用于調(diào)整神經(jīng)網(wǎng)絡(luò)，然后系統(tǒng)會(huì)再次嘗試。洗滌、漂洗、重復(fù)。系統(tǒng)最終學(xué)會(huì)任務(wù)，商業(yè)軟件對(duì)整個(gè)布局進(jìn)行全面的評(píng)估，生成芯片設(shè)計(jì)者關(guān)心的各種指標(biāo)，如面積、功耗和約束頻率等。

經(jīng)過(guò)7個(gè)月的審核過(guò)程，米爾霍西尼和戈?duì)柕嫌?021年6月在美國(guó)《自然》雜志上發(fā)表了Morpheus的研究結(jié)果和方法。（卡恩是第三位審查員。）該技術(shù)用于設(shè)計(jì)多代谷歌的張量處理單元（TPU）人工智能加速器芯片。2022年1月，谷歌在GitHub上發(fā)布了循環(huán)訓(xùn)練的開(kāi)源版本，但卡恩和其他人表示，即使是這個(gè)版本也不夠完整，無(wú)法復(fù)制該項(xiàng)研究。

為了回應(yīng)《自然》雜志上發(fā)表的內(nèi)容，一個(gè)主要由谷歌內(nèi)部工程師組成的獨(dú)立團(tuán)隊(duì)開(kāi)始研究自己的方法，并認(rèn)為該方法可以更好地將強(qiáng)化學(xué)習(xí)與現(xiàn)有算法進(jìn)行對(duì)比。不過(guò)，這種競(jìng)爭(zhēng)并不友好。據(jù)新聞報(bào)道，該小組的領(lǐng)導(dǎo)人、谷歌研究員薩特拉吉特?查特吉（Satrajit Chatterjee）多次暗中損害米爾霍西尼和戈?duì)柕系膫€(gè)人利益，并于2022年因此被解雇。

查特吉仍在谷歌就職時(shí)，他的團(tuán)隊(duì)發(fā)表了一篇題為《更強(qiáng)大的基線(xiàn)》（Stronger Baselines）的論文，批評(píng)了發(fā)表在《自然》雜志上的研究。他試圖將論文提交給一個(gè)大會(huì)，但經(jīng)過(guò)獨(dú)立決議委員會(huì)審查后，谷歌拒絕了。在他被解雇后，就在2022年國(guó)際物理設(shè)計(jì)研討會(huì)之前，該論文的早期版本被一個(gè)匿名推特賬戶(hù)泄露，從而引發(fā)了公眾的對(duì)峙。

基準(zhǔn)、基線(xiàn)和再現(xiàn)性

《科技縱覽》在2022年國(guó)際物理設(shè)計(jì)研討會(huì)之后與電子設(shè)計(jì)自動(dòng)化專(zhuān)家探討時(shí)發(fā)現(xiàn)，批評(píng)者有3個(gè)相互關(guān)聯(lián)的關(guān)注點(diǎn)：基準(zhǔn)、基線(xiàn)和再現(xiàn)性。

基準(zhǔn)是公開(kāi)可用的電路設(shè)計(jì)，研究人員可以在基準(zhǔn)上測(cè)試新的算法。谷歌在開(kāi)始工作時(shí)常用的基準(zhǔn)來(lái)源于已經(jīng)有大約20年歷史的設(shè)計(jì)。盡管其與現(xiàn)代芯片的相關(guān)性存在一些爭(zhēng)論，但它們?nèi)匀坏玫搅藦V泛的支持。

《自然》雜志的論文主要關(guān)注的不是這些基準(zhǔn)，而是谷歌張量處理單元的布局，這是一種復(fù)雜且前沿的芯片，該公司以外的研究人員無(wú)法設(shè)計(jì)。

基線(xiàn)是與新系統(tǒng)競(jìng)爭(zhēng)的最先進(jìn)的算法?！蹲匀弧冯s志上的那篇論文將強(qiáng)化學(xué)習(xí)比作人類(lèi)專(zhuān)家和當(dāng)時(shí)領(lǐng)先的學(xué)術(shù)算法RePlAce?！陡鼜?qiáng)大的基線(xiàn)》一文則認(rèn)為，《自然》雜志的工作并未恰當(dāng)?shù)貓?zhí)行RePlAce，而另一種算法模擬退火也需要進(jìn)行比較。

而實(shí)際上，卡恩真正關(guān)注的是再現(xiàn)性。他認(rèn)為，發(fā)布在GitHub上的循環(huán)訓(xùn)練無(wú)法讓另外一個(gè)獨(dú)立小組完全重復(fù)全過(guò)程。因此加州大學(xué)圣地亞哥分校團(tuán)隊(duì)對(duì)卡恩認(rèn)為缺失的元素和參數(shù)進(jìn)行了逆向工程。

重要的是，卡恩的團(tuán)隊(duì)公開(kāi)記錄了進(jìn)展、代碼、數(shù)據(jù)集和過(guò)程，作為此類(lèi)工作可提高再現(xiàn)性的示例。

加州大學(xué)圣地亞哥分校的工作被稱(chēng)為MacroPlacement，它不是對(duì)《自然》雜志論文的一對(duì)一的重做。除了使用公共基準(zhǔn)，其中兩個(gè)已在2020年和2021年無(wú)法使用，MacroPlacement還分別將循環(huán)訓(xùn)練與Cadence的商業(yè)工具Innovus并發(fā)宏放置器（CMP）和英偉達(dá)開(kāi)發(fā)的一種名為AutoDMP的方法進(jìn)行對(duì)比，后者是在卡恩發(fā)言前幾分鐘在2023年國(guó)際物理設(shè)計(jì)研討會(huì)上公開(kāi)推出的。

另一個(gè)關(guān)鍵區(qū)別在于，每個(gè)Macro-Placement結(jié)果都來(lái)自以前從未見(jiàn)過(guò)設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)。而在《自然》雜志論文的實(shí)驗(yàn)中，研究人員曾用20個(gè)張量處理單元電路樣本對(duì)該網(wǎng)絡(luò)進(jìn)行了預(yù)訓(xùn)練，然后將其結(jié)果與其他方法的結(jié)果進(jìn)行比較。米爾霍西尼和戈?duì)柕险J(rèn)為缺少預(yù)訓(xùn)練剝奪了該方法的主要優(yōu)勢(shì)。她們?cè)谝环怆娮余]件中寫(xiě)道，循環(huán)訓(xùn)練“與其他任何方法都不同，它能夠從經(jīng)驗(yàn)中學(xué)習(xí)，針對(duì)其看到的每一個(gè)問(wèn)題，快速產(chǎn)生更好的布局”。

按照MacroPlacement常見(jiàn)問(wèn)題解答（FAQ），沒(méi)有測(cè)試預(yù)訓(xùn)練是因?yàn)槭褂妙A(yù)訓(xùn)練網(wǎng)絡(luò)的代碼沒(méi)有在循環(huán)訓(xùn)練中發(fā)布，而且沒(méi)有可用的設(shè)計(jì)能與《自然》雜志論文中完成的訓(xùn)練相匹配。此外，對(duì)于該團(tuán)隊(duì)測(cè)試的最小基準(zhǔn)Ariane，谷歌已經(jīng)表明，預(yù)訓(xùn)練的結(jié)果不會(huì)產(chǎn)生比《自然》雜志上已發(fā)表內(nèi)容更好。

循環(huán)訓(xùn)練與其他技術(shù)的比較

卡恩的論文報(bào)告使用兩種工藝技術(shù)，實(shí)現(xiàn)3種基準(zhǔn)設(shè)計(jì)的結(jié)果。該團(tuán)隊(duì)測(cè)量的指標(biāo)與米爾霍西尼和戈?duì)柕显谄洹蹲匀弧冯s志論文中所做的指標(biāo)相同，包括面積、布線(xiàn)長(zhǎng)度、功率、兩個(gè)時(shí)序指標(biāo)和前文所述的代理成本。（代理成本并不是生產(chǎn)中使用的實(shí)際指標(biāo)，包含該指標(biāo)是為了對(duì)應(yīng)《自然》雜志論文。）結(jié)果是好壞參半。

正如《自然》雜志原始論文中所述，在大多數(shù)面對(duì)面比較的指標(biāo)上，強(qiáng)化學(xué)習(xí)打敗了RePlAce。（對(duì)3種設(shè)計(jì)中最大的一種，RePlAce未能生成布局。）與人類(lèi)專(zhuān)家相比，循環(huán)訓(xùn)練經(jīng)常失??；與模擬退火相比，結(jié)果多為平局。

最大的贏家是商業(yè)工具CMP和新加入的AutoDMP，與其他方法相比，它們能在更多情況下提供最佳指標(biāo)。

繼續(xù)前行

毫無(wú)疑問(wèn)，這場(chǎng)爭(zhēng)端帶來(lái)的后果大多數(shù)都是負(fù)面的。查特吉陷入了與谷歌不當(dāng)終止合同的訴訟?？ǘ骷捌鋱F(tuán)隊(duì)花費(fèi)了大量的時(shí)間和精力來(lái)重建幾年前完成的工作，而且可能是多次重建。多年來(lái)，戈?duì)柕虾兔谞柣粑髂嵩诔惺芤梦窗l(fā)表和未審查研究的批評(píng)后，離開(kāi)了這一歷來(lái)難以吸引女性人才的工程領(lǐng)域。從2022年8月以來(lái)，她們一直在人工智能研究公司Anthropic從事有關(guān)大型語(yǔ)言模型的強(qiáng)化學(xué)習(xí)工作。

如果說(shuō)有積極的一面，那么就是卡恩的工作為開(kāi)源和可重現(xiàn)研究提供了一個(gè)模型，并增加了公開(kāi)可用工具，從而推動(dòng)了芯片設(shè)計(jì)中的這一部分向前發(fā)展。盡管如此，機(jī)器學(xué)習(xí)在芯片設(shè)計(jì)中的應(yīng)用已經(jīng)開(kāi)始傳播開(kāi)來(lái)，如今，它正在幫助了新思科技（Synopsys）和楷登電子（Cadence）的商業(yè)電子設(shè)計(jì)自動(dòng)化工具在不斷發(fā)展。

然而，沒(méi)有這些不愉快，所有的好事也會(huì)出現(xiàn)。

作者：Samuel K. Moore

編輯：黃飛

?