使用Python加速數(shù)據(jù)分析的10個簡單技巧
提示和技巧,尤其是在編程領(lǐng)域,可能是非常有用的。有時,一個小技巧可以節(jié)省時間和生命。一個小的快捷方式或附加組件有時會被證明是天賜之物,并能真正提高生產(chǎn)力。因此,下面是我最喜歡的一些提示和技巧,我將它們以本文的形式一起使用和編譯。有些可能是我們相當(dāng)熟悉的,有些可能是新的,但我確信它們將在你下一次處理數(shù)據(jù)分析項目時派上用場。
1.分析pandas數(shù)據(jù)幀
Profiling(分析)是一個幫助我們理解數(shù)據(jù)的過程,而Pandas Profiling就是執(zhí)行這一過程的python包。這是一種對Pandas Dataframe(數(shù)據(jù)幀)進(jìn)行探索性數(shù)據(jù)分析的簡便、快速的方法。Pandas的df.describe()和df.info()函數(shù)通常用作EDA過程的第一步。但是,它只提供了一個非?;镜臄?shù)據(jù)概覽,對于大型數(shù)據(jù)集的情況并沒有多大幫助。另一方面,Pandas Profiling(分析)函數(shù)使用df.profile_report()對pandas數(shù)據(jù)幀進(jìn)行了擴(kuò)展,以便快速進(jìn)行數(shù)據(jù)分析。它用一行代碼顯示了很多信息,在交互式HTML報告中也是如此。
對于一個給定的數(shù)據(jù)集,pandas profiling(分析)包會計算以下統(tǒng)計數(shù)據(jù):

Pandas Profiling 包計算出的統(tǒng)計數(shù)據(jù)。
安裝

用法
我們來使用古老的titanic數(shù)據(jù)集來演示多功能python分析器的功能。

編者注:本文發(fā)布一周后,Pandas-Profiling發(fā)布了一個重大的升級版本——2.0.0。語法發(fā)生了一些變化,事實上,它的功能已經(jīng)包含在pandas本身中了,并且報告也變得更加全面。下面是最新的用法語法:
Usage
要在 Jupyter notebook中顯示報告,請運行以下代碼:

你只需要這一行代碼就可以在一個Jupyter notebook中顯示數(shù)據(jù)分析報告。報告非常詳細(xì),包括了必要的圖表。

你也可以使用以下代碼將這個報告輸出到一個交互式HTML文件中。


2.為pandas 圖表帶來交互性
Pandas有一個內(nèi)置的.plot()函數(shù),它是DataFrame類的一部分。然而,使用該函數(shù)呈現(xiàn)的可視化效果并不具有交互性,這使得它的吸引力降低。相反,也不能排除使用pandas. datafram .plot()函數(shù)繪制圖表的方便性。如果我們不需要對代碼進(jìn)行重大修改,就可以使用pandas繪制出像plotly那樣的交互式圖表,那會怎么樣呢?實際上,你可以使用Cufflinks庫做到這一點。
Cufflinks庫結(jié)合了plotly的強大功能和pandas的靈活性,便于輕松繪圖。現(xiàn)在我們來看看如何安裝這個庫并讓它在pandas中運行。
安裝

用法

是時候看看使用Titanic數(shù)據(jù)集展開的神奇之處了。


df.iplot() 對比 df.plot()
右邊的可視化顯示的是靜態(tài)圖表,而左邊的圖表是交互式的,并且更加詳細(xì),所有這些都沒有對語法進(jìn)行任何重大更改。
3. 一點魔法
魔法命令是Jupyter Notebook中的一組方便的函數(shù),旨在解決標(biāo)準(zhǔn)數(shù)據(jù)分析中的一些常見問題。你可以通過%lsmagic命令來查看所有可用的魔法命令。

所有可用魔法函數(shù)的列表
魔法命令有兩種類型: line magics(行魔法)和cell magics(單元魔法),前者以單個%字符作為前綴,并在一行輸入上進(jìn)行操作;后者與兩個%%前綴關(guān)聯(lián),并在多行輸入上進(jìn)行操作。如果將魔法函數(shù)的選項設(shè)置為1時,不需要鍵入初始%就可調(diào)用它。
我們來看看在常見的數(shù)據(jù)分析任務(wù)中可能有用的一些魔法函數(shù):
% pastebin
%pastebin將代碼上傳到Pastebin并返回其url。Pastebin是一個在線內(nèi)容托管服務(wù),我們可以在其中存儲純文本,如源代碼片段,然后可以將url與他人共享。事實上,Github gist也類似于Pastebin,盡管它有版本控制。
我們假設(shè)有一個包含以下內(nèi)容的python腳本file.py:

在Jupyter Notebook中使用%pastebin生成一個pastebin的url地址。

%matplotlib notebook
%matplotlib inline函數(shù)用于在Jupyter notebook中呈現(xiàn)靜態(tài)matplotlib繪圖。嘗試用notebook替換inline部分,你就可以輕松獲得可縮放和可調(diào)整大小的繪圖。確保在導(dǎo)入matplotlib庫之前調(diào)用該函數(shù)。

%matplotlib inline 對比 %matplotlib notebook
%run
%run函數(shù)會在一個notebook中運行一個python腳本。

%%writefile
%%writefile 會將單元格的內(nèi)容寫入文件。這里的代碼將被寫入一個名為foo.py的文件,并保存在當(dāng)前目錄中。

%%latex
%%latex函數(shù)會將單元格的內(nèi)容呈現(xiàn)為LaTeX。它對在單元格中編寫數(shù)學(xué)公式和方程很有用。

4.發(fā)現(xiàn)和消除錯誤
Interactive debugger(交互式調(diào)試器)也是一個magic函數(shù),但是我已經(jīng)將它單獨歸為一類。如果在運行代碼單元格時出現(xiàn)異常,請在一個新行中鍵入%debug并運行它。這會打開一個交互式調(diào)試環(huán)境,它會將你帶到異常發(fā)生的位置。你還可以檢查程序中分配的變量的值,并在這里執(zhí)行操作。要退出這個調(diào)試器,請按q。

5. 打印輸出也可以很漂亮
如果你想為你的數(shù)據(jù)結(jié)構(gòu)生成美觀的表示形式,pprint是首選模塊。它在打印字典或JSON數(shù)據(jù)時特別有用。我們來看一個同時使用print和pprint顯示輸出的例子。


6. 讓注釋突出顯示。
我們可以在Jupyter Notebook中使用信息提示/備注框來醒目顯示一些重要的或任何需要突出的東西。注釋的顏色取決于你指定的提示類型。你只需在需要高亮顯示的單元格中添加以下任何或所有代碼即可。
藍(lán)色信息提示框: 信息

黃色信息提示框: 警告

綠色提示框: 成功

紅色提示框: 危險

7.打印一個單元格中的所有輸出
假設(shè)有一個含有以下代碼行的Jupyter Notebook單元格:

只打印最后一個輸出是單元格的一個正常屬性,而對于其他輸出,我們需要添加print()函數(shù)。事實上,我們只要在notebook的頂部添加以下代碼片段,就可以打印出所有輸出。

現(xiàn)在所有的輸出一個接一個的被打印出。

還原到原始設(shè)置:

8.使用‘i’選項運行Python腳本
從命令行運行python腳本的一種典型方法是: python hello.py。但是,如果你在運行相同的腳本時添加一個附加的-i,例如python -i hello.py,它會提供更多的優(yōu)點。我們來一探究竟。
首先,一旦程序結(jié)束,python并不會退出解釋器。因此,我們可以檢查變量的值和程序中定義的函數(shù)的正確性。

其次,我們可以很容易地使用以下代碼調(diào)用python調(diào)試器,因為我們?nèi)匀辉诮忉屍髦校?/p>

這會將我們帶到異常發(fā)生的位置,然后我們就可以處理代碼。

這個技巧的初始來源。(http://www.bnikolic.co.uk/blog/python-running-cline.html )
9.自動對代碼進(jìn)行注釋
Ctrl/Cmd + / 會自動注釋單元格中選定的行。再次敲擊該組合鍵將取消對同一行代碼的注釋。

10.能刪除是人,能恢復(fù)是神。
你是否曾經(jīng)不小心刪除了Jupyter Notebook中的一個單元格?如果是,那么這里有一個快捷方式可以撤消此刪除操作。
- 如果你刪除了一個單元格的內(nèi)容,按CTRL/CMD+Z可以很容易地恢復(fù)它
- 如果你需要恢復(fù)一個全部刪除的單元格,請點擊ESC+Z或EDIT > Undo Delete Cells

結(jié)論
在本文中,我列出了在使用Python和JupyterNotebook時收集到的主要技巧。我相信它們會對你有用,你也會從這篇文章中學(xué)到一些東西,從而實現(xiàn)輕松編碼!



























