OpenAI發(fā)布了Microscope

OpenAI今天發(fā)布了Microscope，這是一個(gè)神經(jīng)元可視化庫(kù)，從九個(gè)流行的或大量的神經(jīng)網(wǎng)絡(luò)開(kāi)始?？偠灾摷习瑪?shù)百萬(wàn)張圖像。Microscope可以像實(shí)驗(yàn)室中的顯微鏡一樣工作，可以幫助AI研究人員更好地理解具有成千上萬(wàn)個(gè)神經(jīng)元的神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和行為。

Microscope的初始模型包括歷史上重要且普遍研究的計(jì)算機(jī)視覺(jué)模型，如2012年ImageNet挑戰(zhàn)賽冠軍AlexNet，AlexNet在研究中被引用超過(guò)50000次，還有2014年的ImageNet冠軍GoogleNet（又名Inception V1）和ResNet v2。每個(gè)模型可視化都有一些場(chǎng)景，圖像可以在OpenAI Lucid庫(kù)中使用，以便在Creative Commons許可下重用。

OpenAI在今早介紹Microscope的博客中說(shuō)，它希望Microscope將有助于通過(guò)理解神經(jīng)元之間的連接來(lái)反向工程神經(jīng)網(wǎng)絡(luò)的電路協(xié)作工作。

除了Microscope下的神經(jīng)元可視化之外，近年來(lái)的一些工作還試圖可視化機(jī)器學(xué)習(xí)模型的活動(dòng)。Facebook的Captum于去年秋天推出，它使用可視化技術(shù)來(lái)解釋機(jī)器學(xué)習(xí)模型做出的決策；在2019年3月，OpenAI和谷歌發(fā)布了用于可視化機(jī)器學(xué)習(xí)算法做出的決策的激活地圖技術(shù)；還有一個(gè)流行的TensorBoard工具，用于訓(xùn)練機(jī)器學(xué)習(xí)模型時(shí)的可視化。

對(duì)于此次發(fā)布的Microscope，主要價(jià)值在于提供持久的共享工件以促進(jìn)對(duì)這些模型的長(zhǎng)期比較研究，可以讓具有相鄰專(zhuān)業(yè)知識(shí)的研究人員（例如神經(jīng)學(xué)）能夠更輕松地處理這些視覺(jué)模型，這將對(duì)很多科技領(lǐng)域帶來(lái)一個(gè)提升。