Python 爲了提高性能,竟運用了共享經濟

你們或許知道,Python 爲了提升內存的利用效率,採用了一套共用對象內存的分配策略。python

例如,對於那些數值較小的數字對象([-5, 256])、布爾值對象、None 對象、較短的字符串對象(**一般** 是 20)等等,字面量相等的對象其實是同一個對象。性能

# 共用內存地址的例子
a = 100
b = 100
s = "python_cat"
t = "python_cat"

id(a) == id(b) # 結果:True
id(s) == id(t) # 結果:True複製代碼

我很早的時候曾寫過一篇《Python中的「特權種族」是什麼?》,把這些對象統稱爲「特權種族」,它們是 Python 在內存管理機制上使用的優化技巧。優化

前不久,我還寫了一篇《Python 內存分配時的小祕密》,也是介紹內存管理的技巧。spa

這兩篇文章有所區別:舊文主要涉及了內存共用與對象駐留的機制,而新文介紹的是內存分配、動態擴容以及內存回收的相關機制。翻譯

它們令我不禁自主地想到兩個詞:共享經濟與供需平衡。3d

若是你沒有讀過那兩篇文章,我強烈建議你先回看一下,而後再看看個人聯想是否有道理:那幾類特權種族對象實際上是在共享內存,表面上的不一樣對象,實際上是在循環利用;至於供需平衡也好理解,建立某些對象時,按照預期的訴求去分配內存,在擴容時則靈活調節,達到了供需之間的平衡。code

透過現象看本質,Python 能夠頗有趣。cdn

可是,Python 的有趣之處還不止於此,本文要繼續分享另外一種內存管理機制,在某種程度上,它實現了共享經濟與供需平衡的融合,咱們從中可揭開 Python 的另外一重身份……對象

一、不可變對象的共享經濟

上面列出的"特權種族"都是不可變對象(而「供需平衡」主要出現於可變對象),對於這些不變的對象,當出現多處使用時,共用一個對象彷佛是種不錯的優化方法。blog

我曾有一種猜測:Python 的不可變對象均可能是特權種族。

我沒有試圖去徹底證明它,本文只想考察其中一種不可變對象:元組。它是不可變對象,那麼,是否有共用對象的機制呢?

下面把它跟列表做一下對比:

# 空對象的差異
a = []
b = []
c = ()
d = ()

print(id(a)==id(b))  # 結果:False
print(id(c)==id(d))  # 結果:True複製代碼

因而可知,兩個空列表是不一樣的對象,而兩個空元組實際上是同一個對象。這至少說明了,空元組在內存中只有一個,它屬於已提到的特權種族。

將實驗延伸到集合與字典,它們是可變對象,你會發現結果跟列表同樣,存在多個副本,即不是特權種族。我就不舉例了。

由上述的實驗結果,還能引出兩個問題,可是它們偏離了本文主題,我不打算深刻辨析,簡單列一下:

  • 除了空元組,還有什麼樣的元組是「特權種族」?(PS:從元素的數量、類型、元素自身的大小考慮,就我小範圍試驗,還沒發現。因此,空元組是獨特的惟一?)
  • 編譯期與運行期有所區別,這在以前寫字符串的 intern 機制時(《Intern機制的軟肋》)也分析過。(PS:print(id([]) == id([])),結果爲 True,與上例先賦值再比較不一樣。)

二、可變對象的共享經濟

空元組體現了共享經濟,但因爲它是不可變對象,因此不存在動態擴容,就只體現了極少的供需平衡。

做爲對照,列表等可變對象充分表現了供需平衡,卻彷佛沒辦法體現共享經濟。

好比說,咱們把一個列表想象成一個可自增的杯子(畢竟它是某種容器),再把它的元素想象成不一樣種類的液體(水、可樂、酒……)。

那麼,咱們的問題是:兩杯東西是否能夠共享爲一個對象呢?或者說,有沒有可能共享那隻杯子呢?這樣就能夠節省內存(在那篇講小祕密的文章中展現過:「空杯子」佔用的內存可很多),提高效率啦。

對於第一個問題,答案爲否,驗證過程略。對於第二個問題,在上一節中,咱們已驗證過兩個空杯子(即空列表),答案也爲否。

可是,第二個問題還有其它的可能!下面讓咱們換一種實驗方法:

# 實驗版本:Python 3.6.1
a = [[] for i in range(4)]
print(id(a))

for i in range(len(a)):
    print(f'{i} -- {id(a[i])}')
    # a[i] = 1 # PS:可去除註釋,再執行一次,結果的順序有差異

del a
print("after del")

b = [[] for i in range(4)]
print(id(b))

for i in range(len(b)):
    print(f'{i} -- {id(b[i])}')複製代碼

以上代碼在不一樣環境中,執行結果可能有所差別。我執行的一次結果以下:

2012909395656
0 -- 2012909395272
1 -- 2012909406472
2 -- 2012909395208
3 -- 2012909395144
after del
2012909395656
0 -- 2012909395272
1 -- 2012909406472
2 -- 2012909395208
3 -- 2012909395144複製代碼

分析結果可知:列表對象在被回收以後,並不會完全消除,它的內存地址會傳遞給新建立的列表,也就是說,新建立的列表其實共享了舊列表的內存地址!

再結合前面的例子,咱們能夠說,前後靜態建立的兩個列表會分配不一樣的內存地址,可是,通過動態回收以後,前後建立的列表多是同一個內存地址!(注意:這裏說的是「可能」,由於在新列表建立前,如有其它地方也在建立列表,那後者可能奪去先機。)

延伸到其它基本的可變對象,例如集合與字典,也有一樣的共享策略,其目的顯而易見:循環利用這些對象的「殘軀」,能夠避免內存碎片,提升執行性能。

共享一隻杯子,總比從新創造一隻杯子,要更高效便捷,對吧?

Python 解釋器在實現這個機制時,使用了一個叫作free_list 的全局變量,其工做原理是:

  • 當建立新的對象時,則檢查 free_list 內是否有可用對象,有則取出使用,沒有則建立
  • 當這些對象被析構時,則檢查 free_list 是否有剩餘空間,有則存入其中
  • 某類對象存入 free_list 時,只保留「軀殼」,而清空其內部全部的元素(即只共享杯子,不共享杯中物)

圖片來源:https://dwz.cn/QWD6RxOx

好了,如今咱們能夠說,列表、集合與字典這些可變對象,它們都不是前文所說的特權種族,可是,在它們背後都藏着循環使用的共享思想,這一點倒是相通的。

Python 解釋器在內存管理上真是煞費苦心啊,在那些司空見慣的基本對象上,它施加了諸多的小魔法,在咱們絕不覺察的時候,它們有條不紊地運做,而當咱們終於見識清楚後,就不得不感嘆它的精妙了。

Python 算得上是一個精打細算的「經濟學家」了。

回顧全文,最後做一個小結:

  • 較小的數字、較短的字符串、布爾值與空元組等不可變對象,它們存在着「共享經濟」的機制,提高了內存的使用效率
  • 列表、集合與字典等可變對象,它們存在着預分配及超額分配等「供需平衡」的機制,提高了內存的分配效率
  • 列表等對象還存在着共享「容器外殼」的機制,循環利用空閒資源,綜合提高程序性能

PS:本文寫做過半時,我以爲應該把它寫入「喵星來客」系列,但思前想後,最終做罷了(主要是懶)。它們的思辨力及洞察力是一脈相承的,若你喜歡本文的話,我推薦閱讀「喵星來客」系列(其中兩篇):

Python對象的身份迷思:從全體公民到萬物皆數

Python對象的空間邊界:獨善其身與開放包容

公衆號【Python貓】, 本號連載優質的系列文章,有喵星哲學貓系列、Python進階系列、好書推薦系列、技術寫做、優質英文推薦與翻譯等等,歡迎關注哦。

相關文章
相關標籤/搜索