我們都知道Pandas和NumPy是兩種非常好用的函數(shù),它們?cè)谖覀內(nèi)粘5臄?shù)據(jù)分析中起著至關(guān)重要的作用。沒(méi)有Pandas和NumPy,我們將在這個(gè)龐大的數(shù)據(jù)分析和科學(xué)世界中失去方向。今天,我將分享12個(gè)非常實(shí)用的Pandas和NumPy函數(shù),這些函數(shù)將使你的數(shù)據(jù)分析變得比以前容易得多。最后,本文中所用代碼的Jupyter Notebook文檔都在文章最后分享給你。
NumPyNumPy是使用Python進(jìn)行科學(xué)計(jì)算的基本軟件包。它包含以下內(nèi)容:
強(qiáng)大的N維數(shù)組對(duì)象復(fù)雜的(廣播)功能集成C / C ++和Fortran代碼的工具有用的線性代數(shù),傅立葉變換和隨機(jī)數(shù)功能除了其明顯的科學(xué)用途外,NumPy還可以用作通用數(shù)據(jù)的高效多維容器??梢远x任意數(shù)據(jù)類型。這使NumPy能夠無(wú)縫,快速地與各種數(shù)據(jù)庫(kù)集成。
1.argpartition()
NumPy具有此驚人的功能,可以找到N個(gè)最大值索引。輸出將是N個(gè)最大值索引,然后可以根據(jù)需要對(duì)值進(jìn)行排序。
x = np.array([12, 10, 12, 0, 6, 8, 9, 1, 16, 4, 6, 0])
index_val = np.argpartition(x, -4)[-4:]
index_val
array([1, 8, 2, 0], dtype=int64)
np.sort(x[index_val])
array([10, 12, 12, 16])
2. allclose()
Allclose()用于匹配兩個(gè)數(shù)組,并根據(jù)布爾值獲取輸出。如果兩個(gè)數(shù)組中的項(xiàng)在公差范圍內(nèi)不相等,則將返回False。檢查兩個(gè)數(shù)組是否相似的好方法,實(shí)際上很難手動(dòng)實(shí)現(xiàn)。
array1 = np.array([0.12,0.17,0.24,0.29])
array2 = np.array([0.13,0.19,0.26,0.31])
#公差為0.1,應(yīng)返回False:
np.allclose(array1, array2,0.1)
False
#公差為0.2,應(yīng)返回True:
np.allclose(array1,array2,0.2)
True
3. clip()
Clip()用于將值保留在一個(gè)間隔內(nèi)的數(shù)組中。有時(shí),我們需要將值保持在上限和下限之內(nèi)。出于上述目的,我們可以使用NumPy的clip()。給定一個(gè)間隔,該間隔以外的值將被裁剪到間隔邊緣。
x = np.array([3,17,14,23,2,2,6,8,1,1,2,16,0])
np.clip(x,2,5)
array([ 3,5,5 ,5、2、2、5、5、2、2、5、2])
4. extract()
顧名思義,Extract()用于根據(jù)特定條件從數(shù)組中提取特定元素。通過(guò)extract(),我們還可以使用諸如and和or的條件。
#隨機(jī)整數(shù)
array = np.random.randint(20,size = 12)
array
array([ 0,1,8,19,16,18,10,11,2,2,13,14,3 ])
#除以2并檢查余數(shù)是否為1
cond = np.mod(array,2)== 1
cond
array([False,True,F(xiàn)alse,True,F(xiàn)alse,F(xiàn)alse,F(xiàn)alse,True,F(xiàn)alse,True,F(xiàn)alse,True])
#使用提取以獲取值
np.extract(cond,array)
array([ 1,19,11,13,3 ])
#將條件直接應(yīng)用于提取
np.extract((((array <3)|(array> 15)) ,array)
array([0,1,19,16,18,2])
5. where()
where()用于從滿足特定條件的數(shù)組中返回元素。它返回在特定條件下的值的索引位置。這幾乎類似于我們?cè)赟QL中使用的where條件,我將在下面的示例中進(jìn)行演示。
y = np.array([1,5,6,8,1,7,3,6,9])
# y大于5時(shí),返回索引位置
np.where(y>5)
array([2, 3, 5, 7, 8], dtype=int64),)
# 首先將替換符合條件的值,
# 其次將不替換
np.where(y>5, "Hit", "Miss")
array(['Miss', 'Miss', 'Hit', 'Hit', 'Miss', 'Hit', 'Miss', 'Hit', 'Hit'],dtype='<U4')
6. percentile()
Percentile()用于計(jì)算沿指定軸的數(shù)組元素的第n個(gè)百分點(diǎn)。
a = np.array([1,5,6,8,1,7,3,6,9])
print("50th Percentile of a, axis = 0 : ",
np.percentile(a, 50, axis =0))
50th Percentile of a, axis = 0 : 6.0
b = np.array([[10, 7, 4], [3, 2, 1]])
print("30th Percentile of b, axis = 0 : ",
np.percentile(b, 30, axis =0))
30th Percentile of b, axis = 0 : [5.1 3.5 1.9]
如果你以前使用過(guò)這些函數(shù),那么你一定了解,這些函數(shù)對(duì)你有多大幫助!
pandas是一個(gè)Python軟件包,提供快速,靈活和富于表現(xiàn)力的數(shù)據(jù)結(jié)構(gòu),旨在使處理結(jié)構(gòu)化(表格,多維,潛在異構(gòu))和時(shí)間序列數(shù)據(jù)既簡(jiǎn)單又直觀。
pandas非常適合許多不同類型的數(shù)據(jù):
具有異構(gòu)類型列的表格數(shù)據(jù),例如在SQL表或Excel電子表格中有序和無(wú)序(不一定是固定頻率)時(shí)間序列數(shù)據(jù)。具有行和列標(biāo)簽的任意矩陣數(shù)據(jù)(同類型或異類)觀察/統(tǒng)計(jì)數(shù)據(jù)集的任何其他形式。實(shí)際上,數(shù)據(jù)根本不需要標(biāo)記即可放入pandas數(shù)據(jù)結(jié)構(gòu)。以下是pandas擅長(zhǎng)處理的一些事情:
輕松處理浮點(diǎn)數(shù)據(jù)和非浮點(diǎn)數(shù)據(jù)中的缺失數(shù)據(jù)(表示為NaN)大小可變性:可以從DataFrame和更高維度的對(duì)象中插入和刪除列自動(dòng)和顯式的數(shù)據(jù)對(duì)齊:可以將對(duì)象顯式地對(duì)齊到一組標(biāo)簽,或者用戶可以簡(jiǎn)單地忽略標(biāo)簽并讓Series,DataFrame等自動(dòng)為您對(duì)齊數(shù)據(jù)強(qiáng)大,靈活的分組功能,可對(duì)數(shù)據(jù)集執(zhí)行拆分應(yīng)用合并操作,以匯總和轉(zhuǎn)換數(shù)據(jù)輕松將其他Python和NumPy數(shù)據(jù)結(jié)構(gòu)中的衣衫,、索引不同的數(shù)據(jù)轉(zhuǎn)換為DataFrame對(duì)象基于智能標(biāo)簽的切片,花式索引和大數(shù)據(jù)集子集直觀的合并和聯(lián)接數(shù)據(jù)集靈活地重塑和旋轉(zhuǎn)數(shù)據(jù)集軸的分層標(biāo)簽(每個(gè)刻度可能有多個(gè)標(biāo)簽)強(qiáng)大的IO工具,用于從平面文件(CSV和定界的文件),Excel文件,數(shù)據(jù)庫(kù)加載數(shù)據(jù),以及從超快HDF5格式保存/加載數(shù)據(jù)特定于時(shí)間序列的功能:日期范圍生成和頻率轉(zhuǎn)換,移動(dòng)窗口統(tǒng)計(jì)信息,日期移動(dòng)和滯后。1.read_csv(nrows = n)
可能你已經(jīng)知道 read_csv 函數(shù)的使用。但是,即使不需要,我們大多數(shù)人仍然會(huì)錯(cuò)誤地讀取整個(gè).csv文件。讓我們考慮第一種情況,即我們不知道10gb的.csv文件中的列和數(shù)據(jù),在這里讀取整個(gè).csv文件將不是一個(gè)明智的決定,因?yàn)檫@將不必要地占用我們的內(nèi)存,并且會(huì)花費(fèi)很多時(shí)間。我們可以從.csv文件中導(dǎo)入幾行,然后根據(jù)需要進(jìn)行進(jìn)一步操作。
import io
import requests
# 、為了讓你們更輕松地使用,在這里我們將使用在線數(shù)據(jù)集
url = "https://raw.github.com/vincentarelbundock/Rdatasets/master/csv/datasets/AirPassengers.csv"
s = requests.get(url).content
# 僅讀取前10行
df = pd.read_csv(io.StringIO(s.decode('utf-8')),nrows=10 , index_col=0)
2. map()
map()函數(shù)用于根據(jù)輸入對(duì)應(yīng)關(guān)系映射Series的值。用于將系列中的每個(gè)值替換為可以從函數(shù),字典或系列中得出的另一個(gè)值。
#創(chuàng)建一個(gè)數(shù)據(jù)
dframe = pd.DataFrame(np.random.randn(4, 3), columns=list('bde'), index=['India', 'USA', 'China', 'Russia'])
#根據(jù)幀中的每個(gè)浮點(diǎn)值計(jì)算格式化的字符串
changefn = lambda x: '%.2f' % x
# 按元素進(jìn)行更改
dframe['d'].map(changefn)
3. apply()
apply()允許用戶傳遞一個(gè)函數(shù)并將其應(yīng)用于Pandas系列的每個(gè)單個(gè)值。
# 最大值減去最小值的混合 lambda fn
fn = lambda x: x.max() - x.min()
# 將其應(yīng)用于上面剛剛創(chuàng)建的dframe
dframe.apply(fn)
4. isin()
isin()用于過(guò)濾數(shù)據(jù)幀。isin()幫助選擇在特定列中具有特定(或多個(gè))值的行。這是我遇到的最有用的功能。
#使用我們?yōu)閞ead_csv創(chuàng)建的數(shù)據(jù)框
filter1 = df [“ value”]。isin([112])
filter2 = df [“ time”]。isin([1949.000000])
df [filter1&filter2]
5. copy()
copy()用于創(chuàng)建Pandas對(duì)象的副本。將數(shù)據(jù)幀分配給另一個(gè)數(shù)據(jù)幀時(shí),在另一個(gè)數(shù)據(jù)幀中進(jìn)行更改時(shí)其值也會(huì)更改。為了防止出現(xiàn)上述問(wèn)題,我們可以使用copy()。
#創(chuàng)建樣本系列
data = pd.Series(['India', 'Pakistan', 'China', 'Mongolia'])
#分配我們面臨的問(wèn)題
data1 = data
#修改值
data1 [0] ='USA'
#還要更改舊數(shù)據(jù)框中的值
#為防止這種情況,我們使用
#創(chuàng)建系列的副本
new = data.copy()
#分配新的值
new [1] ='Changed value'
#打印數(shù)據(jù)
print(new)
print(data)
6. select_dtypes()
select_dtypes()函數(shù)基于列dtypes返回?cái)?shù)據(jù)框的列的子集。可以將此函數(shù)的參數(shù)設(shè)置為包括具有某些特定數(shù)據(jù)類型的所有列,也可以設(shè)置為排除具有某些特定數(shù)據(jù)類型的所有那些列。
#我們將使用read_csv
framex = df.select_dtypes(include="float64")
#僅返回時(shí)間列
其他的收獲:數(shù)據(jù)透視表()
Pandas 最神奇、最有用的功能是 pivot_table。如果你還在猶豫使用 groupby 并想擴(kuò)展其功能,那么可以很好試試 pivot_table 。如果你知道數(shù)據(jù)透視表在excel中是如何工作的,那么對(duì)你來(lái)說(shuō)可能就是小菜一碟。數(shù)據(jù)透視表中的級(jí)別將存儲(chǔ)在結(jié)果 DataFrame 的索引和列上的MultiIndex對(duì)象(分層索引)中。
#創(chuàng)建一個(gè)樣本數(shù)據(jù)
school = pd.DataFrame({'A': ['Jay', 'Usher', 'Nicky', 'Romero', 'Will'],
'B': ['Masters', 'Graduate', 'Graduate', 'Masters', 'Graduate'],
'C': [26, 22, 20, 23, 24]})
#讓我們根據(jù)年齡和課程來(lái)創(chuàng)建數(shù)據(jù)透視表
table = pd.pivot_table(school, values ='A', index =['B', 'C'],
columns =['B'], aggfunc = np.sum, fill_value="Not Available")
table
學(xué)習(xí)是為了更加方便我們的工作,這12個(gè)函數(shù),不僅能方便我們處理數(shù)據(jù),還能提高我們的工作效率。希望能對(duì)你帶來(lái)收獲!
以上所有代碼都給你整理好了:https : //github.com/kunaldhariwal/Medium-12-Amazing-Pandas-NumPy-Functions
本文由未艾信息(www.weainfo.net)編譯,
查看更多最新資訊,歡迎大家點(diǎn)擊閱讀原文登錄我們的AI社區(qū)。
以及關(guān)注我們的公眾號(hào):為AI吶喊(weainahan)