成人国产在线小视频_日韩寡妇人妻调教在线播放_色成人www永久在线观看_2018国产精品久久_亚洲欧美高清在线30p_亚洲少妇综合一区_黄色在线播放国产_亚洲另类技巧小说校园_国产主播xx日韩_a级毛片在线免费

資訊專欄INFORMATION COLUMN

99%的人都不知道的pandas騷操作(一)

Jonathan Shieber / 1185人閱讀

摘要:沒錯,在中你一樣可以這樣簡單的操作,而不同的是你操作的是一整列的字符串數(shù)據(jù)。因為對于類型的,字符的操作發(fā)生在的非重復(fù)值上,而并非原上的所有元素上。下面的這些屬性基本都是關(guān)于查看和操作數(shù)據(jù)類型的。

作者:xiaoyu

微信公眾號:Python數(shù)據(jù)科學(xué)

知乎:python數(shù)據(jù)分析師



pandas有一種功能非常強大的方法,它就是accessor,可以將它理解為一種屬性接口,通過它可以獲得額外的方法。其實這樣說還是很籠統(tǒng),下面我們通過代碼和實例來理解一下。

>>> pd.Series._accessors
{"cat", "str", "dt"}

對于Series數(shù)據(jù)結(jié)構(gòu)使用_accessors方法,我們得到了3個對象:cat,str,dt。

.cat:用于分類數(shù)據(jù)(Categorical data)

.str:用于字符數(shù)據(jù)(String Object data)

.dt:用于時間數(shù)據(jù)(datetime-like data)

下面我們依次看一下這三個對象是如何使用的。

str對象的使用
Series數(shù)據(jù)類型:str字符串
# 定義一個Series序列
>>> addr = pd.Series([
...     "Washington, D.C. 20003",
...     "Brooklyn, NY 11211-1755",
...     "Omaha, NE 68154",
...     "Pittsburgh, PA 15211"
... ]) 

>>> addr.str.upper()
0     WASHINGTON, D.C. 20003
1    BROOKLYN, NY 11211-1755
2            OMAHA, NE 68154
3       PITTSBURGH, PA 15211
dtype: object

>>> addr.str.count(r"d") 
0    5
1    9
2    5
3    5
dtype: int64

關(guān)于以上str對象的2個方法說明:

Series.str.upper:將Series中所有字符串變?yōu)榇髮懀?/p>

Series.str.count:對Series中所有字符串的個數(shù)進行計數(shù);

其實不難發(fā)現(xiàn),該用法的使用與Python中字符串的操作很相似。沒錯,在pandas中你一樣可以這樣簡單的操作,而不同的是你操作的是一整列的字符串數(shù)據(jù)。仍然基于以上數(shù)據(jù)集,再看它的另一個操作:

>>> regex = (r"(?P[A-Za-z ]+), "      # 一個或更多字母
...          r"(?P[A-Z]{2}) "        # 兩個大寫字母
...          r"(?Pd{5}(?:-d{4})?)")  # 可選的4個延伸數(shù)字
...
>>> addr.str.replace(".", "").str.extract(regex)
         city state         zip
0  Washington    DC       20003
1    Brooklyn    NY  11211-1755
2       Omaha    NE       68154
3  Pittsburgh    PA       15211

關(guān)于以上str對象的2個方法說明:

Series.str.replace:將Series中指定字符串替換;

Series.str.extract:通過正則表達式提取字符串中的數(shù)據(jù)信息;

這個用法就有點復(fù)雜了,因為很明顯看到,這是一個鏈式的用法。通過replace將 " . " 替換為"",即為空,緊接著又使用了3個正則表達式(分別對應(yīng)city,state,zip)通過extract對數(shù)據(jù)進行了提取,并由原來的Series數(shù)據(jù)結(jié)構(gòu)變?yōu)榱薉ataFrame數(shù)據(jù)結(jié)構(gòu)。

當然,除了以上用法外,常用的屬性和方法還有rstrip.contains,split等,我們通過下面代碼查看一下str屬性的完整列表:

>>> [i for i in dir(pd.Series.str) if not i.startswith("_")]
["capitalize",
 "cat",
 "center",
 "contains",
 "count",
 "decode",
 "encode",
 "endswith",
 "extract",
 "extractall",
 "find",
 "findall",
 "get",
 "get_dummies",
 "index",
 "isalnum",
 "isalpha",
 "isdecimal",
 "isdigit",
 "islower",
 "isnumeric",
 "isspace",
 "istitle",
 "isupper",
 "join",
 "len",
 "ljust",
 "lower",
 "lstrip",
 "match",
 "normalize",
 "pad",
 "partition",
 "repeat",
 "replace",
 "rfind",
 "rindex",
 "rjust",
 "rpartition",
 "rsplit",
 "rstrip",
 "slice",
 "slice_replace",
 "split",
 "startswith",
 "strip",
 "swapcase",
 "title",
 "translate",
 "upper",
 "wrap",
 "zfill"]

屬性有很多,對于具體的用法,如果感興趣可以自己進行摸索練習(xí)。

dt對象的使用
Series數(shù)據(jù)類型:datetime

因為數(shù)據(jù)需要datetime類型,所以下面使用pandas的date_range()生成了一組日期datetime演示如何進行dt對象操作。

>>> daterng = pd.Series(pd.date_range("2017", periods=9, freq="Q"))
>>> daterng
0   2017-03-31
1   2017-06-30
2   2017-09-30
3   2017-12-31
4   2018-03-31
5   2018-06-30
6   2018-09-30
7   2018-12-31
8   2019-03-31
dtype: datetime64[ns]

>>>  daterng.dt.day_name()
0      Friday
1      Friday
2    Saturday
3      Sunday
4    Saturday
5    Saturday
6      Sunday
7      Monday
8      Sunday
dtype: object

>>> # 查看下半年
>>> daterng[daterng.dt.quarter > 2]
2   2017-09-30
3   2017-12-31
6   2018-09-30
7   2018-12-31
dtype: datetime64[ns]

>>> daterng[daterng.dt.is_year_end]
3   2017-12-31
7   2018-12-31
dtype: datetime64[ns]

以上關(guān)于dt的3種方法說明:

Series.dt.day_name():從日期判斷出所處星期數(shù);

Series.dt.quarter:從日期判斷所處季節(jié);

Series.dt.is_year_end:從日期判斷是否處在年底;

其它方法也都是基于datetime的一些變換,并通過變換來查看具體微觀或者宏觀日期。

cat對象的使用
Series數(shù)據(jù)類型:Category

在說cat對象的使用前,先說一下Category這個數(shù)據(jù)類型,它的作用很強大。雖然我們沒有經(jīng)常性的在內(nèi)存中運行上g的數(shù)據(jù),但是我們也總會遇到執(zhí)行幾行代碼會等待很久的情況。使用Category數(shù)據(jù)的一個好處就是:可以很好的節(jié)省在時間和空間的消耗。下面我們通過幾個實例來學(xué)習(xí)一下。

>>> colors = pd.Series([
...     "periwinkle",
...     "mint green",
...     "burnt orange",
...     "periwinkle",
...     "burnt orange",
...     "rose",
...     "rose",
...     "mint green",
...     "rose",
...     "navy"
... ])
...
>>> import sys
>>> colors.apply(sys.getsizeof)
0    59
1    59
2    61
3    59
4    61
5    53
6    53
7    59
8    53
9    53
dtype: int64
上面我們通過使用sys.getsizeof來顯示內(nèi)存占用的情況,數(shù)字代表字節(jié)數(shù)。
還有另一種計算內(nèi)容占用的方法:memory_usage(),后面會使用。

現(xiàn)在我們將上面colors的不重復(fù)值映射為一組整數(shù),然后再看一下占用的內(nèi)存。

>>> mapper = {v: k for k, v in enumerate(colors.unique())}
>>> mapper
{"periwinkle": 0, "mint green": 1, "burnt orange": 2, "rose": 3, "navy": 4}

>>> as_int = colors.map(mapper)
>>> as_int
0    0
1    1
2    2
3    0
4    2
5    3
6    3
7    1
8    3
9    4
dtype: int64

>>> as_int.apply(sys.getsizeof)
0    24
1    28
2    28
3    24
4    28
5    28
6    28
7    28
8    28
9    28
dtype: int64
注:對于以上的整數(shù)值映射也可以使用更簡單的pd.factorize()方法代替。

我們發(fā)現(xiàn)上面所占用的內(nèi)存是使用object類型時的一半。其實,這種情況就類似于Category data類型內(nèi)部的原理。

內(nèi)存占用區(qū)別:Categorical所占用的內(nèi)存與Categorical分類的數(shù)量和數(shù)據(jù)的長度成正比,相反,object所占用的內(nèi)存則是一個常數(shù)乘以數(shù)據(jù)的長度。

下面是object內(nèi)存使用和category內(nèi)存使用的情況對比。

>>> colors.memory_usage(index=False, deep=True)
650
>>> colors.astype("category").memory_usage(index=False, deep=True)
495

上面結(jié)果是使用objectCategory兩種情況下內(nèi)存的占用情況。我們發(fā)現(xiàn)效果并沒有我們想象中的那么好。但是注意Category內(nèi)存是成比例的,如果數(shù)據(jù)集的數(shù)據(jù)量很大,但不重復(fù)分類(unique)值很少的情況下,那么Category的內(nèi)存占用可以節(jié)省達到10倍以上,比如下面數(shù)據(jù)量增大的情況:

>>> manycolors = colors.repeat(10)
>>> len(manycolors) / manycolors.nunique() 
20.0

>>> manycolors.memory_usage(index=False, deep=True)
6500
>>> manycolors.astype("category").memory_usage(index=False, deep=True)
585

可以看到,在數(shù)據(jù)量增加10倍以后,使用Category所占內(nèi)容節(jié)省了10倍以上。

除了占用內(nèi)存節(jié)省外,另一個額外的好處是計算效率有了很大的提升。因為對于Category類型的Series,str字符的操作發(fā)生在.cat.categories的非重復(fù)值上,而并非原Series上的所有元素上。也就是說對于每個非重復(fù)值都只做一次操作,然后再向與非重復(fù)值同類的值映射過去。

對于Category的數(shù)據(jù)類型,可以使用accessor的cat對象,以及相應(yīng)的屬性和方法來操作Category數(shù)據(jù)。

>>> ccolors = colors.astype("category")
>>> ccolors.cat.categories
Index(["burnt orange", "mint green", "navy", "periwinkle", "rose"], dtype="object")

實際上,對于開始的整數(shù)類型映射,我們可以先通過reorder_categories進行重新排序,然后再使用cat.codes來實現(xiàn)對整數(shù)的映射,來達到同樣的效果。

>>> ccolors.cat.reorder_categories(mapper).cat.codes
0    0
1    1
2    2
3    0
4    2
5    3
6    3
7    1
8    3
9    4
dtype: int8

dtype類型是Numpyint8(-127~128)??梢钥闯鲆陨现恍枰粋€單字節(jié)就可以在內(nèi)存中包含所有的值。我們開始的做法默認使用了int64類型,然而通過pandas的使用可以很智能的將Category數(shù)據(jù)類型變?yōu)樽钚〉念愋汀?/p>

讓我們來看一下cat還有什么其它的屬性和方法可以使用。下面cat的這些屬性基本都是關(guān)于查看和操作Category數(shù)據(jù)類型的。

>>> [i for i in dir(ccolors.cat) if not i.startswith("_")]
["add_categories",
 "as_ordered",
 "as_unordered",
 "categories",
 "codes",
 "ordered",
 "remove_categories",
 "remove_unused_categories",
 "rename_categories",
 "reorder_categories",
 "set_categories"]

但是Category數(shù)據(jù)的使用不是很靈活。例如,插入一個之前沒有的值,首先需要將這個值添加到.categories的容器中,然后再添加值。

>>> ccolors.iloc[5] = "a new color"
# ...
ValueError: Cannot setitem on a Categorical with a new category,
set the categories first

>>> ccolors = ccolors.cat.add_categories(["a new color"])
>>> ccolors.iloc[5] = "a new color"  
如果你想設(shè)置值或重塑數(shù)據(jù),而非進行新的運算操作,那么Category類型不是那么有用。

以上就是本次騷操作的介紹,你get到了沒有?

關(guān)注微信公眾號:Python數(shù)據(jù)科學(xué),發(fā)現(xiàn)更多精彩內(nèi)容。

文章版權(quán)歸作者所有,未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。

轉(zhuǎn)載請注明本文地址:http://systransis.cn/yun/19804.html

相關(guān)文章

  • 99%都不知道pandas操作

    摘要:沒錯,在中你一樣可以這樣簡單的操作,而不同的是你操作的是一整列的字符串數(shù)據(jù)。因為對于類型的,字符的操作發(fā)生在的非重復(fù)值上,而并非原上的所有元素上。下面的這些屬性基本都是關(guān)于查看和操作數(shù)據(jù)類型的。 作者:xiaoyu 微信公眾號:Python數(shù)據(jù)科學(xué) 知乎:python數(shù)據(jù)分析師 showImg(https://segmentfault.com/img/remote/146000001...

    ShevaKuilin 評論0 收藏0
  • 99%都不知道春節(jié)搶票背后云計算在加持

    摘要:春節(jié)搶票應(yīng)該是每個在外游子的必修課,還有不足一個月就要過春節(jié)了,現(xiàn)在的你,是不是還奮戰(zhàn)在搶票一線呢說到搶票,之所以現(xiàn)在大家能享受到流暢的移動互聯(lián)網(wǎng)購票服務(wù),其實背后都是云計算在加持,沒想到吧,原來看似高深的云計算離我們?nèi)绱酥?。春?jié)搶票應(yīng)該是每個在外游子的必修課,還有不足一個月就要過春節(jié)了,現(xiàn)在的你,是不是還奮戰(zhàn)在搶票一線呢?說到搶票,之所以現(xiàn)在大家能享受到流暢的移動互聯(lián)網(wǎng)購票服務(wù),其實背后...

    megatron 評論0 收藏0
  • 深拷貝終極探索(99%都不知道

    摘要:劃重點,這是一道面試必考題,我靠這道題刷掉了多少面試者嘿嘿首先這是一道非常棒的面試題,可以考察面試者的很多方面,比如基本功,代碼能力,邏輯能力,而且進可攻,退可守,針對不同級別的人可以考察不同難度,比如漂亮妹子就出題,要是個帥哥那就得上了, 劃重點,這是一道面試必考題,我靠這道題刷掉了多少面試者?(? ? ??)嘿嘿 首先這是一道非常棒的面試題,可以考察面試者的很多方面,比如基本功,代...

    qingshanli1988 評論0 收藏0
  • HTTP中GET與POST區(qū)別 99%錯誤認識

    摘要:不會產(chǎn)生動作意味著和的請求不會在服務(wù)器上產(chǎn)生任何結(jié)果。對長度的限制是字節(jié)。起限制作用的是服務(wù)器的處理程序的處理能力。很可能受到中文名稱跨站請求偽造攻擊。而數(shù)據(jù)大小,則是因為瀏覽器的限制造成的。請開始你的表演參考文章的人都理解錯了中與的區(qū)別 本篇文章分兩部分,第一部分可以列為初為新人的裝逼失敗模式,第二部分列為修煉低調(diào)模式。裝逼失敗模式:99%的人對GET和POST的認識修煉低調(diào)模式:1...

    Bowman_han 評論0 收藏0
  • HTTP中GET與POST區(qū)別 99%錯誤認識

    摘要:不會產(chǎn)生動作意味著和的請求不會在服務(wù)器上產(chǎn)生任何結(jié)果。對長度的限制是字節(jié)。起限制作用的是服務(wù)器的處理程序的處理能力。很可能受到中文名稱跨站請求偽造攻擊。而數(shù)據(jù)大小,則是因為瀏覽器的限制造成的。請開始你的表演參考文章的人都理解錯了中與的區(qū)別 本篇文章分兩部分,第一部分可以列為初為新人的裝逼失敗模式,第二部分列為修煉低調(diào)模式。裝逼失敗模式:99%的人對GET和POST的認識修煉低調(diào)模式:1...

    isaced 評論0 收藏0

發(fā)表評論

0條評論

最新活動
閱讀需要支付1元查看
<