尷尬的事情又發生Newtonsoft.Json vs Protobuf.net

寫程序作下性能測試都是例行的事情了，通常在普通電腦上測試一下若是比較理想那基本不出什麼意外！但世事難料,代碼寫得很差常常擔憂CPU不夠用，其實寫得好但不能徹底發揮出CPU資源的優點更是一件悲劇的事情！此次事件已經發生了兩回，其實還真的很折磨人的。話很少說回到今天的正題Newtonsoft.Json vs Protobuf.net,對於二者的性能我相信大部分人會站在Protobuf.net這一邊，的確Protobuf.net做爲進制序列化比JSON文本的序列化要高效也是正常事情；但總會有些狀況讓人難以預料的！接下來看一下測試狀況

低置下測試

測試硬件:配置是E3-1230V2 測試用例:返回指定數據量的客戶列表信息

Newtonsoft.Json

D:\>bombardier.exe -c 100 -n 10000000 http://192.168.2.18:8080/customers_json/3
Bombarding http://192.168.2.18:8080/customers_json/3 with 10000000 request(s) us
ing 100 connection(s)
 10000000 / 10000000 [==========================================] 100.00% 1m16s
Done!
Statistics        Avg      Stdev        Max
  Reqs/sec    131290.96   14813.10  146691.93
  Latency      757.08us     1.13ms   398.02ms
  HTTP codes:
    1xx - 0, 2xx - 10000000, 3xx - 0, 4xx - 0, 5xx - 0
    others - 0
  Throughput:   118.21MB/s

protobuf.net

D:\>bombardier.exe -c 100 -n 10000000 http://192.168.2.18:8080/customers_protobu
f/3
Bombarding http://192.168.2.18:8080/customers_protobuf/3 with 10000000 request(s
) using 100 connection(s)
 10000000 / 10000000 [===========================================] 100.00% 1m5s
Done!
Statistics        Avg      Stdev        Max
  Reqs/sec    152160.79   14677.95  163191.02
  Latency      653.08us     1.10ms   396.02ms
  HTTP codes:
    1xx - 0, 2xx - 10000000, 3xx - 0, 4xx - 0, 5xx - 0
    others - 0
  Throughput:    86.35MB/s

因爲數據都是字符類型的字段，因此Protobuf.net在性能上並沒佔有多大的優點，不過的確能夠節省大量的帶寬，大概能節少40%的帶寬資源。其實從測試結果看來JSON處理也並無想像中那麼慢，性能差距在20-30%之間，其實仍是能夠接受的。

高配置下測試

既然在低配置的機器上Protobuf.net有優點，那高配置的服務器按理也不會存在什麼問題。但測試結果告訴咱們，Protobuf.net輸給了Newtonsoft.Json! 測試硬件:配置是E5-2670V2*2 測試用例:返回指定數據量的客戶列表信息

獲取３個客戶信息

JSON

G:\>bombardier.exe -c 100 -n 10000000 http://192.168.2.19:8080/customers_json/3
Bombarding http://192.168.2.19:8080/customers_json/3 with 10000000 request(s) us
ing 100 connection(s)
 10000000 / 10000000 [============================================] 100.00% 36s
Done!
Statistics        Avg      Stdev        Max
  Reqs/sec    271738.73   67774.12  329181.89
  Latency      361.86us     4.37ms      3.06s
  HTTP codes:
    1xx - 0, 2xx - 10000000, 3xx - 0, 4xx - 0, 5xx - 0
    others - 0
  Throughput:   244.72MB/s

Protobuf

G:\>bombardier.exe -c 100 -n 10000000 http://192.168.2.19:8080/customers_protobu
f/3
Bombarding http://192.168.2.19:8080/customers_protobuf/3 with 10000000 request(s
) using 100 connection(s)
 10000000 / 10000000 [============================================] 100.00% 41s
Done!
Statistics        Avg      Stdev        Max
  Reqs/sec    243710.66   28345.63  275334.86
  Latency      406.47us   829.25us   394.02ms
  HTTP codes:
    1xx - 0, 2xx - 10000000, 3xx - 0, 4xx - 0, 5xx - 0
    others - 0
  Throughput:   138.26MB/s

獲取10個客戶信息

JSON

G:\>bombardier.exe -c 100 -n 10000000 http://192.168.2.19:8080/customers_json/10

Bombarding http://192.168.2.19:8080/customers_json/10 with 10000000 request(s) u
sing 100 connection(s)
 10000000 / 10000000 [============================================] 100.00% 51s
Done!
Statistics        Avg      Stdev        Max
  Reqs/sec    196290.74   66381.50  263699.22
  Latency      502.81us     4.00ms      3.05s
  HTTP codes:
    1xx - 0, 2xx - 10000000, 3xx - 0, 4xx - 0, 5xx - 0
    others - 0
  Throughput:   513.10MB/s

Protobuf

G:\>bombardier.exe -c 100 -n 10000000 http://192.168.2.19:8080/customers_protobu
f/10
Bombarding http://192.168.2.19:8080/customers_protobuf/10 with 10000000 request(
s) using 100 connection(s)
 10000000 / 10000000 [==========================================] 100.00% 1m14s
Done!
Statistics        Avg      Stdev        Max
  Reqs/sec    135254.64   24971.37  165490.90
  Latency      737.06us     1.24ms   513.03ms
  HTTP codes:
    1xx - 0, 2xx - 10000000, 3xx - 0, 4xx - 0, 5xx - 0
    others - 0
  Throughput:   200.84MB/s

獲取20個客戶信息

JSON

G:\>bombardier.exe -c 100 -n 10000000 http://192.168.2.19:8080/customers_json/20

Bombarding http://192.168.2.19:8080/customers_json/20 with 10000000 request(s) u
sing 100 connection(s)
 10000000 / 10000000 [============================================] 100.00% 54s
Done!
Statistics        Avg      Stdev        Max
  Reqs/sec    182806.15   37623.75  209487.43
  Latency      541.37us     1.48ms      0.90s
  HTTP codes:
    1xx - 0, 2xx - 10000000, 3xx - 0, 4xx - 0, 5xx - 0
    others - 0
  Throughput:     0.89GB/s

Protobuf

G:\>bombardier.exe -c 100 -n 10000000 http://192.168.2.19:8080/customers_protobu
f/20
Bombarding http://192.168.2.19:8080/customers_protobuf/20 with 10000000 request(
s) using 100 connection(s)
 10000000 / 10000000 [==========================================] 100.00% 1m50s
Done!
Statistics        Avg      Stdev        Max
  Reqs/sec     90249.67    9611.23  102294.37
  Latency        1.10ms     1.04ms   518.03ms
  HTTP codes:
    1xx - 0, 2xx - 10000000, 3xx - 0, 4xx - 0, 5xx - 0
    others - 0
  Throughput:   246.07MB/s

隨着返回的列表數據越大，Protobuf.net的響應延時就越高，但服務器的ＣＰＵ資源佔用率比較低。而Newtonsoft.Json雖然損耗了大量的CPU資源，但它能經過CPU資源能夠有效地把併發數量提高起來；當在獲取２０個客戶信息的時候，基本把１０Ｇb的帶寬佔滿並達到180000RPS。Protobuf.net在CPU資源佔用率上來講雖然比'Newtonsoft.Json'要低不少，但面對一個悲劇的事情就是沒法把RPS提高上去，在最後的測試結果裏落後了Newtonsoft.Json一倍的RPS.

總結

隨着硬件資源大規模化，在測試程序的時候也要考慮這狀況，程序沒法在高配置資源徹底發揮硬件資源的優點這種狀況針對我我的而言已是第二次了，這種事情剛開始真讓人感受到至關無助，由於這真的很難讓人接受的事實！其實出現這狀況都是程序的某個功能點在多線程併發上出現了擁擠的狀況，第一次出現這狀況是.net core的ServerGC設置，而這一次看了Protobuf.Net的代碼發現有些關鍵方法靜態方法上出現的多對象鎖的代碼，多是這些鎖致使在更多線程資源使用的時候沒法達到一個更好的併發效果。最後在這裏提醒一下測試的朋友，程序的性能很重要，但有一點也很重要的就是徹底發揮全部硬件資源處理更多的事情。

若是感興趣這個測試的代碼，能夠經過如下地址獲取:https://github.com/IKende/FastHttpApi/blob/master/WebApi_json_vs_protobuf.zip