想成為高效數據科學家？不會Pandas怎麼行

科技 02-11

選自

towardsdatascience

作者：

Félix Revert

機器之心編譯

參與：

Nurhachu Null、張倩

Pandas 是為了解決數據分析任務而創建的一種基於 NumPy 的工具包，囊括了許多其他工具包的功能，具有易用、直觀、快速等優點。要想成為一名高效的數據科學家，不會 Pandas 怎麼行？

Python 是開源的，它很棒，但是也無法避免開源的一些固有問題：很多包都在做（或者在嘗試做）同樣的事情。如果你是 Python 新手，那麼你很難知道某個特定任務的最佳包是哪個，你需要有經驗的人告訴你。有一個用於數據科學的包絕對是必需的，它就是 pandas。

pandas 最有趣的地方在於裡面隱藏了很多包。它是一個核心包，裡面有很多其他包的功能。這點很棒，因為你只需要使用 pandas 就可以完成工作。

pandas 相當於 python 中 excel：它使用表（也就是 dataframe)，能在數據上做各種變換，但還有其他很多功能。

如果你早已熟知 python 的使用，可以直接跳到第三段。

讓我們開始吧：

import

 pandas as
 pd

別問為什麼是「pd」而不是「p」，就是這樣。用就行了:)

pandas 最基本的功能

讀取數據

data = pd.read_csv(

"my_file.csv"

)
data = pd.read_csv("my_file.csv"
, sep=";"
, encoding="latin-1"
, nrows=1000
, skiprows=[2
,5
])

sep 代表的是分隔符。如果你在使用法語數據，excel 中 csv 分隔符是「;」，因此你需要顯式地指定它。編碼設置為"latin-1"來讀取法語字元。nrows=1000 表示讀取前 1000 行數據。skiprows=[2,5] 表示你在讀取文件的時候會移除第 2 行和第 5 行。

最常用的功能：read_csv, read_excel

其他一些很棒的功能：read_clipboard, read_sql

寫數據

data.to_csv(

"my_new_file.csv"

, index=None
)

index=None 表示將會以數據本來的樣子寫入。如果沒有寫 index=None，你會多出一個第一列，內容是 1，2，3，...，一直到最後一行。

我通常不會去使用其他的函數，像.to_excel, .to_json, .to_pickle 等等，因為.to_csv 就能很好地完成工作，並且 csv 是最常用的表格保存方式。

檢查數據

Gives (

#rows, #columns)

給出行數和列數

data.describe()

計算基本的統計數據

查看數據

data.head(

3

列印出數據的前 3 行。與之類似，.tail() 對應的是數據的最後一行。

data.loc[

8

列印出第八行

data.loc[

8

, "column_1"
]

列印第八行名為「column_1」的列

data.loc[range(

4

,6
)]

第四到第六行（左閉右開）的數據子集

pandas 的基本函數

邏輯運算

data[data[

"column_1"

]=="french"
 
]
data[(data[
"column_1"
]=="french"
) & (data["year_born"
]==1990
)]
data[(data["column_1"
]=="french"
) & (data["year_born"
]==1990
) & ~(data["city"
]=="London"

)]

通過邏輯運算來取數據子集。要使用 & (AND)、 ~ (NOT) 和 | (OR)，必須在邏輯運算前後加上「and」。

data[data[

"column_1"

].isin(["french"
, "english"
])]

除了可以在同一列使用多個 OR，你還可以使用.isin() 函數。

基本繪圖

matplotlib 包使得這項功能成為可能。正如我們在介紹中所說，它可以直接在 pandas 中使用。

data[

"column_numerical"

].plot()

（）.plot() 輸出的示例

data[

"column_numerical"

].hist()

畫出數據分布（直方圖）

.hist() 輸出的示例

%matplotlib inline

如果你在使用 Jupyter，不要忘記在畫圖之前加上以上代碼。

更新數據

data.loc[

8

, "column_1"
] = "english"

將第八行名為 column_1 的列替換為「english」

data.loc[data[

"column_1"

]=="french"
, "column_1"
] = "French"

在一行代碼中改變多列的值

好了，現在你可以做一些在 excel 中可以輕鬆訪問的事情了。下面讓我們深入研究 excel 中無法實現的一些令人驚奇的操作吧。

中級函數

統計出現的次數

data[

"column_1"

].value_counts()

.value_counts() 函數輸出示例

在所有的行、列或者全數據上進行操作

data[

"column_1"

].map(len)

len() 函數被應用在了「column_1」列中的每一個元素上

.map() 運算給一列中的每一個元素應用一個函數

data[

"column_1"

].map(len).map(lambda
 x: x/100
).plot()

pandas 的一個很好的功能就是鏈式方法

（https://tomaugspurger.github.io/method-chaining）。它可以幫助你在一行中更加簡單、高效地執行多個操作（.map() 和.plot()）。

data.apply(sum)

.apply() 會給一個列應用一個函數。

.applymap() 會給表 (DataFrame) 中的所有單元應用一個函數。

tqdm, 唯一的

在處理大規模數據集時，pandas 會花費一些時間來進行.map()、.apply()、.applymap() 等操作。tqdm 是一個可以用來幫助預測這些操作的執行何時完成的包（是的，我說謊了，我之前說我們只會使用到 pandas）。

from

 tqdm import
 tqdm_notebook
tqdm_notebook().pandas()

用 pandas 設置 tqdm

data[

"column_1"

].progress_map(lambda
 x: x.count("e"
))

用 .progress_map() 代替.map()、.apply() 和.applymap() 也是類似的。

在 Jupyter 中使用 tqdm 和 pandas 得到的進度條

相關性和散射矩陣

data.corr() data.corr().applymap(

lambda

 x: int(x*100
)/100
)

.corr() 會給出相關性矩陣

pd.plotting.scatter_matrix(data, figsize=(

12

,8
))

散點矩陣的例子。它在同一幅圖中畫出了兩列的所有組合。

pandas 中的高級操作

The SQL 關聯

在 pandas 中實現關聯是非常非常簡單的

data.merge(other_data, on=[

"column_1"

, "column_2"
, "column_3"
])

關聯三列只需要一行代碼

分組

一開始並不是那麼簡單，你首先需要掌握語法，然後你會發現你一直在使用這個功能。

data.groupby(

"column_1"

)["column_2"
].apply(sum).reset_index()

按一個列分組，選擇另一個列來執行一個函數。.reset_index() 會將數據重構成一個表。

正如前面解釋過的，為了優化代碼，在一行中將你的函數連接起來。

行迭代

dictionary = {}


for
 i,row in
 data.iterrows():
 dictionary[row["column_1"
]] = row["column_2"
]

.iterrows() 使用兩個變數一起循環：行索引和行的數據 (上面的 i 和 row)

總而言之，pandas 是 python 成為出色的編程語言的原因之一

我本可以展示更多有趣的 pandas 功能，但是已經寫出來的這些足以讓人理解為何數據科學家離不開 pandas。總結一下，pandas 有以下優點：

易用，將所有複雜、抽象的計算都隱藏在背後了；

直觀；

快速，即使不是最快的也是非常快的。

它有助於數據科學家快速讀取和理解數據，提高其工作效率。

原文鏈接：https://towardsdatascience.com/be-a-more-efficient-data-scientist-today-master-pandas-with-this-guide-ea362d27386

本文為機器之心編譯，

轉載請聯繫本公眾號獲得授權

。

?------------------------------------------------

加入機器之心（全職記者 / 實習生）：hr@jiqizhixin.com

投稿或尋求報道：

content

@jiqizhixin.com

廣告 & 商務合作：bd@jiqizhixin.com

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！

本站內容充實豐富，博大精深，小編精選每日熱門資訊，隨時更新，點擊「搶先收到最新資訊」瀏覽吧！

請您繼續閱讀更多來自 機器之心 的精彩文章:

※讓普通視頻變成慢動作：「AI加幀」技術現已開源
※2018人工智慧期末考試複習資料（一）：學術篇

TAG:機器之心 |