NumPy是Python的最重要的擴展程序庫之一,也是入門機器學習編程的必備工具。然而對初學者來說,NumPy的大量運算方法非常難記。
最近,國外有位程序員講NumPy的基本運算以圖解的方式寫下來,讓學習過程變得輕松有趣。在Reddit機器學習社區(qū)發(fā)布不到半天就收獲了500+贊。
下面就讓我們跟隨他的教程一起來學習吧!
教程內(nèi)容分為向量(一維數(shù)組)、矩陣(二維數(shù)組)、三維與更高維數(shù)組3個部分。
Numpy數(shù)組與Python列表
在介紹正式內(nèi)容之前,先讓我們先來了解一下Numpy數(shù)組與Python列表的區(qū)別。
乍一看,NumPy數(shù)組類似于Python列表。它們都可以用作容器,具有獲?。╣etting)和設置(setting)元素以及插入和移除元素的功能。
兩者有很多相似之處,以下是二者在運算時的一個示例:
和Python列表相比,Numpy數(shù)組具有以下特點:
更緊湊,尤其是在一維以上的維度;向量化操作時比Python列表快,但在末尾添加元素比Python列表慢。
△在末尾添加元素時,Python列表復雜度為O(1),NumPy復雜度為O(N)
向量運算
向量初始化
創(chuàng)建NumPy數(shù)組的一種方法是從Python列表直接轉(zhuǎn)換,數(shù)組元素的類型與列表元素類型相同。
NumPy數(shù)組無法像Python列表那樣加長,因為在數(shù)組末尾沒有保留空間。
因此,常見的做法是定義一個Python列表,對它進行操作,然后再轉(zhuǎn)換為NumPy數(shù)組,或者用np.zeros和np.empty初始化數(shù)組,預分配必要的空間:
有時我們需要創(chuàng)建一個空數(shù)組,大小和元素類型與現(xiàn)有數(shù)組相同:
實際上,所有用常量填充創(chuàng)建的數(shù)組的函數(shù)都有一個_like對應項,來創(chuàng)建相同類型的常數(shù)數(shù)組:
在NumPy中,可以用arange或者linspace來初始化單調(diào)序列數(shù)組:
如果需要類似[0., 1., 2.]的浮點數(shù)組,可以更改arange輸出的類型:arange(3).astype(float)。
但是有更好的方法:arange函數(shù)對數(shù)據(jù)類型敏感,如果將整數(shù)作為參數(shù),生成整數(shù)數(shù)組;如果輸入浮點數(shù)(例如arange(3.)),則生成浮點數(shù)組。
但是arange在處理浮點數(shù)方面并不是特別擅長:
這是因為0.1對于我們來說是一個有限的十進制數(shù),但對計算機而言卻不是。在二進制下,0.1是一個無窮小數(shù),必須在某處截斷。
這就是為什么將小數(shù)部分加到步驟arange通常是一個不太好的方法:我們可能會遇到一個bug,導致數(shù)組的元素個數(shù)不是我們想要的數(shù),這會降低代碼的可讀性和可維護性。
這時候,linspace會派上用場。它不受舍入錯誤的影響,并始終生成要求的元素數(shù)。
出于測試目的,通常需要生成隨機數(shù)組,NumPy提供隨機整數(shù)、均勻分布、正態(tài)分布等幾種隨機數(shù)形式:
向量索引
一旦將數(shù)據(jù)存儲在數(shù)組中,NumPy便會提供簡單的方法將其取出:
上面展示了各式各樣的索引,例如取出某個特定區(qū)間,從右往左索引、只取出奇數(shù)位等等。
但它們都是所謂的view,也就是不存儲原始數(shù)據(jù)。并且如果原始數(shù)組在被索引后進行更改,則不會反映原始數(shù)組的改變。
這些索引方法允許分配修改原始數(shù)組的內(nèi)容,因此需要特別注意:只有下面最后一種方法才是復制數(shù)組,如果用其他方法都可能破壞原始數(shù)據(jù):
從NumPy數(shù)組中獲取數(shù)據(jù)的另一種超級有用的方法是布爾索引,它允許使用各種邏輯運算符,來檢索符合條件的元素:
注意:Python中的三元比較3<=a<=5在NumPy數(shù)組中不起作用。
如上所述,布爾索引也會改寫數(shù)組。它有兩個常見的函數(shù),分別是np.where和np.clip:
向量運算
算術運算是NumPy速度最引入注目的地方之一。NumPy的向量運算符已達到C++級別,避免了Python的慢循環(huán)。
NumPy允許像普通數(shù)字一樣操作整個數(shù)組(加減乘除、整除、冪):
△和Python中一樣,a//b表示div b(整除),x**n表示x?
向量還可以與標量進行類似的運算,方法相同:
大多數(shù)的數(shù)學函數(shù)都有NumPy對應項用于處理向量:
向量的點積、叉積也有運算符:
我們也可以進行三角函數(shù)、反三角函數(shù)、求斜邊運算:
數(shù)組可以四舍五入為整數(shù):
△floor取下界;ceil取上界;round為四舍六入五取偶
NumPy還可以執(zhí)行以下基本的統(tǒng)計運算(最大最小值、平均值、方差、標準差):
不過排序函數(shù)的功能比Python列表對應函數(shù)更少:
搜索向量中的元素
與Python列表相反,NumPy數(shù)組沒有index方法。
查找元素的一種方法是np.where(a==x)[0][0],它既不優(yōu)雅也不快速,因為要查找的項需要從開頭遍歷數(shù)組的所有元素。
更快的方式是通過Numba中的next((i[0] for i, v in np.ndenumerate(a) if v==x), -1)來加速。
一旦對數(shù)組進行排序,情況就會變得更好:v = np.searchsorted(a, x); return v if a[v]==x else -1的復雜度為O(log N),確實非??欤鞘紫刃枰狾(N log N)的排序時間。
比較浮點數(shù)
函數(shù)np.allclose(a, b)用于比較具有給定公差的浮點數(shù)組:
np.allclose假設所有的比較數(shù)字的等級是1個單位。例如在上圖中,它就認為1e-9和2e-9相同,如果要進行更細致的比較,需要通過atol指定比較等級1:np.allclose(1e-9, 2e-9, atol=1e-17) == False。
math.isclose進行比較沒有假設前提,而是基于用戶給出的一個合理abs_tol值:math.isclose(0.1+0.2–0.3, abs_tol=1e-8) == True。
除此之外np.allclose在絕對和相對公差公式中還存在一些小問題,例如,對某些數(shù)存在allclose(a, b) != allclose(b, a)。這些問題已在math.isclose函數(shù)中得到解決。
矩陣運算
NumPy中曾經(jīng)有一個專用的類matrix,但現(xiàn)在已棄用,因此下面將交替使用矩陣和2D數(shù)組兩個詞。
矩陣初始化語法與向量相似:
這里需要雙括號,因為第二個位置參數(shù)是為dtype保留的。
隨機矩陣的生成也類似于向量的生成:
二維索引語法比嵌套列表更方便:
和一維數(shù)組一樣,上圖的view表示,切片數(shù)組實際上并未進行任何復制。修改數(shù)組后,更改也將反映在切片中。
axis參數(shù)
在許多操作(例如求和)中,我們需要告訴NumPy是否要跨行或跨列進行操作。為了使用任意維數(shù)的通用表示法,NumPy引入了axis的概念:axis參數(shù)實際上是所討論索引的數(shù)量:第一個索引是axis=0,第二個索引是axis=1,等等。
因此在二維數(shù)組中,如果axis=0是按列,那么axis=1就是按行。
矩陣運算
除了普通的運算符(如+,-,*,/,//和**)以元素方式計算外,還有一個@運算符可計算矩陣乘積:
在第一部分中,我們已經(jīng)看到向量乘積的運算,NumPy允許向量和矩陣之間,甚至兩個向量之間進行元素的混合運算:
行向量與列向量
從上面的示例可以看出,在二維數(shù)組中,行向量和列向量被不同地對待。
默認情況下,一維數(shù)組在二維操作中被視為行向量。因此,將矩陣乘以行向量時,可以使用(n,)或(1,n),結果將相同。
如果需要列向量,則有轉(zhuǎn)置方法對其進行操作:
能夠從一維數(shù)組中生成二位數(shù)組列向量的兩個操作是使用命令reshape重排和newaxis建立新索引:
這里的-1參數(shù)表示reshape自動計算第二個維度上的數(shù)組長度,None在方括號中充當np.newaxis的快捷方式,該快捷方式在指定位置添加了一個空axis。
因此,NumPy中總共有三種類型的向量:一維數(shù)組,二維行向量和二維列向量。這是兩者之間顯式轉(zhuǎn)換的示意圖:
根據(jù)規(guī)則,一維數(shù)組被隱式解釋為二維行向量,因此通常不必在這兩個數(shù)組之間進行轉(zhuǎn)換,相應區(qū)域用灰色標出。
矩陣操作
連接矩陣有兩個主要函數(shù):
這兩個函數(shù)只堆疊矩陣或只堆疊向量時,都可以正常工作。但是當涉及一維數(shù)組與矩陣之間的混合堆疊時,vstack可以正常工作:hstack會出現(xiàn)尺寸不匹配錯誤。
因為如上所述,一維數(shù)組被解釋為行向量,而不是列向量。解決方法是將其轉(zhuǎn)換為列向量,或者使用column_stack自動執(zhí)行:
堆疊的逆向操作是分裂:
矩陣可以通過兩種方式完成復制:tile類似于復制粘貼,repeat類似于分頁打印。
特定的列和行可以用delete進行刪除:
逆運算為插入:
append就像hstack一樣,該函數(shù)無法自動轉(zhuǎn)置一維數(shù)組,因此再次需要對向量進行轉(zhuǎn)置或添加長度,或者使用column_stack代替:
實際上,如果我們需要做的就是向數(shù)組的邊界添加常量值,那么pad函數(shù)就足夠了:
Meshgrid
如果我們要創(chuàng)建以下矩陣:
兩種方法都很慢,因為它們使用的是Python循環(huán)。在MATLAB處理這類問題的方法是創(chuàng)建一個meshgrid:
該meshgrid函數(shù)接受任意一組索引,mgrid僅是切片,indices只能生成完整的索引范圍。fromfunction如上所述,僅使用I和J參數(shù)一次調(diào)用提供的函數(shù)。
但是實際上,在NumPy中有一種更好的方法。無需在整個矩陣上耗費存儲空間。僅存儲大小正確的矢量就足夠了,運算規(guī)則將處理其余的內(nèi)容:
在沒有indexing=’ij’參數(shù)的情況下,meshgrid將更改參數(shù)的順序:J, I= np.meshgrid(j, i)—這是一種“ xy”模式,用于可視化3D圖。
除了在二維或三維數(shù)組上初始化外,meshgrid還可以用于索引數(shù)組:
矩陣統(tǒng)計
就像之前提到的統(tǒng)計函數(shù)一樣,二維數(shù)組接受到axis參數(shù)后,會采取相應的統(tǒng)計運算:
二維及更高維度中,argmin和argmax函數(shù)返回最大最小值的索引:
all和any兩個函數(shù)也能使用axis參數(shù):
矩陣排序
盡管axis參數(shù)對上面列出的函數(shù)很有用,但對二維排序卻沒有幫助:
axis絕不是Python列表key參數(shù)的替代。不過NumPy具有多個函數(shù),允許按列進行排序:
1、按第一列對數(shù)組排序:a[a[:,0].argsort()]
argsort排序后,此處返回原始數(shù)組的索引數(shù)組。
此技巧可以重復,但是必須小心,以免下一個排序混淆前一個排序的結果:
a = a[a[:,2].argsort()]a = a[a[:,1].argsort(kind=’stable’)]a = a[a[:,0].argsort(kind=’stable’)]
2、有一個輔助函數(shù)lexsort,該函數(shù)按上述方式對所有可用列進行排序,但始終按行執(zhí)行,例如:
a[np.lexsort(np.flipud(a[2,5].T))]:先通過第2列排序,再通過第5列排序;
a[np.lexsort(np.flipud(a.T))]:按從左到右所有列依次進行排序。
3、還有一個參數(shù)order,但是如果從普通(非結構化)數(shù)組開始,則既不快速也不容易使用。
4、因為這個特殊的操作方式更具可讀性和它可能是一個更好的選擇,這樣做的pandas不易出錯:
pd.DataFrame(a).sort_values(by=[2,5]).to_numpy():通過第2列再通過第5列進行排序。
pd.DataFrame(a).sort_values().to_numpy():通過從左向右所有列進行排序
高維數(shù)組運算
通過重排一維向量或轉(zhuǎn)換嵌套的Python列表來創(chuàng)建3D數(shù)組時,索引的含義為(z,y,x)。
第一個索引是平面的編號,然后才是在該平面上的移動:
這種索引順序很方便,例如用于保留一堆灰度圖像:這a[i]是引用第i個圖像的快捷方式。
但是此索引順序不是通用的。處理RGB圖像時,通常使用(y,x,z)順序:前兩個是像素坐標,最后一個是顏色坐標(Matplotlib中是RGB ,OpenCV中是BGR ):
這樣,可以方便地引用特定像素:a[i,j]給出像素的RGB元組(i,j)。
因此,創(chuàng)建特定幾何形狀的實際命令取決于正在處理的域的約定:
顯然,NumPy函數(shù)像hstack、vstack或dstack不知道這些約定。其中硬編碼的索引順序是(y,x,z),RGB圖像順序是:
△RGB圖像數(shù)組(為簡便起見,上圖僅2種顏色)
如果數(shù)據(jù)的布局不同,則使用concatenate命令堆疊圖像,并在axis參數(shù)中提供顯式索引數(shù)會更方便:
如果不方便使用axis,可以將數(shù)組轉(zhuǎn)換硬編碼為hstack的形式:
這種轉(zhuǎn)換沒有實際的復制發(fā)生。它只是混合索引的順序。
混合索引順序的另一個操作是數(shù)組轉(zhuǎn)置。檢查它可能會讓我們對三維數(shù)組更加熟悉。
根據(jù)我們決定的axis順序,轉(zhuǎn)置數(shù)組所有平面的實際命令將有所不同:對于通用數(shù)組,它交換索引1和2,對于RGB圖像,它交換0和1:
有趣的是,(和唯一的操作模式)默認的axes參數(shù)顛倒了索引順序,這與上述兩個索引順序約定都不相符。
最后,還有一個函數(shù),可以在處理多維數(shù)組時節(jié)省很多Python循環(huán),并使代碼更簡潔,這就是愛因斯坦求和函數(shù)einsum:
它將沿重復索引的數(shù)組求和。
最后,若要掌握NumPy,可以前去GitHub上的項目——100道NumPy練習題,驗證自己的學習成果。
原文鏈接:
https://medium.com/better-programming/numpy-illustrated-the-visual-guide-to-numpy-3b1d4976de1d
編輯:jq
-
編程
+關注
關注
88文章
3623瀏覽量
93796 -
機器學習
+關注
關注
66文章
8423瀏覽量
132744 -
python
+關注
關注
56文章
4797瀏覽量
84787
原文標題:臥槽!圖解NumPy,這一篇就夠了
文章出處:【微信號:TheBigData1024,微信公眾號:人工智能與大數(shù)據(jù)技術】歡迎添加關注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關推薦
評論