TCMalloc - 細節

1，釋放速度控制

    在將一個Span刪除掉的時候，會優先將它加入到normal隊列中，這以後會嘗試從normal隊列中釋放一部分一樣大小的內存給系統。

    釋放內存給系統的時候，tcmalloc使用了一個延時回收機制，若是此次一個page都沒釋放，那麼默認要等1<<18個page（4k的page的話，是1GB）的釋放請求以後纔會真正作釋放操做；若是此次釋放了n個page，那麼要等1000 * n 個page釋放請求以後纔會真正作釋放操做，這個地方有個上限，上限是1<<20個page（4k的page的話，是4GB）。

    這樣作的緣由，多是想積攢若干個連續的頁再釋放，由於反覆向操做系統釋放和申請內存是一個很重的操做。

 

2，每一個線程cache的大小

默認狀況下，每一個線程的Cache上線是4MB：

static const size_t kMaxThreadCacheSize = 4 << 20;

 

每一個線程的Cache下限是512KB

static const size_t kMinThreadCacheSize = kMaxSize * 2;

 

默認狀況下，全部線程的Cache上限是32MB：

static const size_t kDefaultOverallThreadCacheSize = 8u * kMaxThreadCacheSize;

 

MallocExtension::GetStats的輸出：

MALLOC:     3966097008 ( 3782.4 MiB) Bytes in use by application

MALLOC: +            0 (    0.0 MiB) Bytes in page heap freelist

MALLOC: +     25925136 (   24.7 MiB) Bytes in central cache freelist

MALLOC: +      8526848 (    8.1 MiB) Bytes in transfer cache freelist

MALLOC: +     24049536 (   22.9 MiB) Bytes in thread cache freelists

MALLOC: +     18952344 (   18.1 MiB) Bytes in malloc metadata

MALLOC:   ------------

MALLOC: =   4043550872 ( 3856.2 MiB) Actual memory used (physical + swap)

MALLOC: +   8285011968 ( 7901.2 MiB) Bytes released to OS (aka unmapped)

MALLOC:   ------------

MALLOC: =  12328562840 (11757.4 MiB) Virtual address space used

MALLOC:

MALLOC:         107257              Spans in use

MALLOC:             67              Thread heaps in use

MALLOC:           8192              Tcmalloc page size

 

各個數字的計算：

1， Virtual address space used

    const uint64_t virtual_memory_used = (stats.pageheap.system_bytes  // pageheap經過TCMalloc_SystemAlloc分配的內存

                                                          + stats.metadata_bytes);  // tcmalloc元數據佔用的內存

stats.pageheap.system_bytes 內存只增不減，由於tcmalloc在內存不足時會優先利用madvise向OS釋放的內存

 

2，Actual memory used (physical + swap)

    const uint64_t physical_memory_used = (virtual_memory_used  

                                        - stats.pageheap.unmapped_bytes);  // 經過madvise向OS釋放的內存

Actual memory used 是指全部向系統申請的內存減去向系統釋放的內存。

 

3，Bytes in use by application:

const uint64_t bytes_in_use_by_app = (physical_memory_used

                                        - stats.metadata_bytes  

                                        - stats.pageheap.free_bytes  // pageheap全部normal隊列中的span長度之和

                                        - stats.central_bytes

                                        - stats.transfer_bytes

                                        - stats.thread_bytes);

Bytes in use by application是指全部被應用使用的內存（全部物理內存減去全部Free list中的內存）。

 

Unmapped Bytes的含義是那些已經經過madvise釋放給操做系統，可是依然在returned鏈表上的span的長度之和。