極客時間-左耳聽風-程序員攻略-異步I/O模型和Lock-Free編程

異步 I/O 模型

異步 I/O 模型其中的設計模式或是解決方法能夠借鑑到分佈式架構上來。

史蒂文斯（Stevens）在《UNIX 網絡編程》一書 6.2 I/O Models 中介紹了五種 I/O 模型。

• 阻塞 I/O
• 非阻塞 I/O
• I/O 的多路複用（select 和 poll）
• 信號驅動的 I/O（SIGIO）
• 異步 I/O（POSIX 的 aio_functions）

C10K Problem ，瞭解 I/O 模型

Thousands of Threads and Blocking I/O: The Old Way to Write Java Servers Is New Again (and Way Better) ， Java 相關的 I/O 模型的文章，這個 PPT 中不只回顧和比較了各類 I/O 模型，並且還有各類比較細節的方案和說明。

Scalable IO in Java，Java 相關的 PPT。

異步 I/O 的實現和設計方式。

• IBM - Boost application performance using asynchronous I/O ，於 AIO 的文章。
• Lazy Asynchronous I/O For Event-Driven Servers
• Windows I/O Completion Ports 異步 I/O 模型中IOCP。 Inside I/O Completion Ports
• Windows Internals 這本書仔細讀一下，其中有一節 I/O Processing 也是很不錯的，網上免費的連接I/O Processing 能夠看看 Windows 是怎麼玩的。
• Libevent 2.0 book、國人寫的電子書 《Libevent 深刻淺出》。
• 官網的 Libuv Design Overview

基本上來講，異步 I/O 模型的發展技術是： select -> poll -> epoll -> aio -> libevent -> libuv。

編程模式——Reactor 模式。下面是這個模式的相關文章（讀這三篇就夠了）。

• Understanding Reactor Pattern: Thread-Based and Event-Driven
• Reactor Pattern
• The reactor pattern and non-blocking IO

幾篇有意思的延伸閱讀文章。

• The Secret To 10 Million Concurrent Connections -The Kernel Is The Problem, Not The Solution - C10M 問題來了……
• 還有幾篇可能有爭議的文章，讓你從不一樣的角度思考。
  • Select is fundamentally broken
  • Epoll is fundamentally broken 1/2
  • Epoll is fundamentally broken 2/2

Lock-Free 編程相關

Lock-Free - 因此若是想開發出一個高性能的程序，你就很是有必要學習 Lock-Free 的編程方式。關於無鎖的數據結構。

• Dr.Dobb’s: Lock-Free Data Structures
• Andrei Alexandrescu: Lock-Free Data Structures

Is Parallel Programming Hard, And, If So, What Can You Do About It? ，書堪稱並行編程的經典書。

併發編程中的一些概念：Non-blocking algorithm 、Read-copy-update 和 Seqlock。

兩篇論文 。

• Implementing Lock-Free Queues， 文章爲「無鎖隊列的實現」。
• Simple, Fast, and Practical Non-Blocking and Blocking Concurrent Queue Algorithms ，這篇論文給出了一個無阻塞和阻塞的併發隊列算法。

有幾個博客要訂閱一下。

• 1024cores - 德米特里·伐由科夫（Dmitry Vyukov）的和 lock-free 編程相關的網站。
• Paul E. McKenney - 保羅（Paul）的我的網站。
• Concurrency Freaks - 關於併發算法和相關模式的網站。
• Preshing on Programming - 加拿大程序員傑夫·普萊辛（Jeff Preshing）的技術博客，主要關注 C++ 和 Python 兩門編程語言。他用 C++11 實現了類的反射機制，用 C++ 編寫了 3D 小遊戲 Hop Out，還爲該遊戲編寫了一個遊戲引擎。他還討論了不少 C++ 的用法，好比 C++14 推薦的代碼寫法、新增的某些語言構造等，和 Python 很類似。閱讀這個技術博客上的內容可以深深感覺到博主對編程世界的崇敬和癡迷。
• Sutter’s Mill - 赫布·薩特（Herb Sutter）是一位傑出的 C++ 專家，曾擔任 ISO C++ 標準委員會祕書和召集人超過 10 年。他的博客有關於 C++ 語言標準最新進展的信息，其中也有他的演講視頻。博客中還討論了其餘技術和 C++ 的差別，如 C# 和 JavaScript，它們的性能特色、怎樣避免引入性能方面的缺陷等。
• Mechanical Sympathy - 博主是馬丁·湯普森（Martin Thompson），他是一名英國的技術極客，探索現代硬件的功能，並提供開發、培訓、性能調優和諮詢服務。他的博客主題是 Hardware and software working together in harmony，裏面探討了如何設計和編寫軟件使得它在硬件上能高性能地運行。很是值得一看。

編程相關的一些 C/C++ 的類庫，這樣你就不用從頭再造輪子了（對於 Java 的，請參看 JDK 裏的 Concurrent 開頭的一系列的類）。

• Boost.Lockfree - Boost 庫中的無鎖數據結構。
• ConcurrencyKit - 併發性編程的原語。
• Folly - Facebook 的開源庫（它對 MPMC 隊列作了一個很好的實現）。
• Junction - C++ 中的併發數據結構。
• MPMCQueue - 一個用 C++11 編寫的有邊界的「多生產者 - 多消費者」無鎖隊列。
• SPSCQueue - 一個有邊界的「單生產者 - 單消費者」的無等待、無鎖的隊列。
• Seqlock - 用 C++ 實現的 Seqlock。
• Userspace RCU - liburcu 是一個用戶空間的 RCU（Read-copy-update，讀 - 拷貝 - 更新）庫。
• libcds - 一個併發數據結構的 C++ 庫。
• liblfds - 一個用 C 語言編寫的可移植、無許可證、無鎖的數據結構庫。

其餘

• All about 64-bit programming in one place，關於 64 位編程相關的收集頁面，其中包括相關的文章、28 節課程，還有知識庫和相關的 blog。

• What Scalable Programs Need from Transactional Memory ，事務性內存（TM）一直是許多研究的重點，它在諸如 IBM Blue Gene/Q 和 Intel Haswell 等處理器中獲得了支持。許多研究都使用 STAMP 基準測試套件來評估其設計。

  例如，在 IBM Blue Gene/Q 上有 64 個線程，咱們觀察到使用 Blue Gene/Q 硬件事務內存（HTM）的中值加速比爲 1.4 倍，使用軟件事務內存（STM）的中值加速比爲 4.1 倍。什麼限制了這些 TM 基準的性能？在本論文中，做者認爲問題在於用於編寫它們的編程模型和數據結構上，只要使用合適的模型和數據結構，程序的性能能夠有 10 多倍的提高。

• Improving OpenSSL Performance ，這篇文章除了教你如何提升 OpenSSL 的執行性能，還講了一些底層的性能調優知識。

• 關於壓縮的內容，兩篇實踐性很強的文章。
  • How eBay’s Shopping Cart used compression techniques to solve network I/O bottlenecks ，講述了 eBay 是如何經過壓縮數據來提升總體服務性能的，其中有幾個比較好的壓縮算法。
  • Linkedin: Boosting Site Speed Using Brotli Compression ，LinkedIn 在 2017 年早些時候開始使用 Brotli 來替換 gzip，以此帶來更快的訪問，這篇文章講述了什麼是 Brotli 以及與其它壓縮程序的比較和所帶來的性能提高。
• Performance Testing with SSDs, Part 1 和 Performance Testing with SSDs Part 2 ，這兩篇文章介紹了測試 SSD 硬盤性能以及相關的操做系統調優方法。

• Secure Programming HOWTO - Creating Secure Software ，其中有繁體中文的翻譯，這本電子書講了 Linux/Unix 下的一些安全編程方面的知識。

相關論文

• Hints for Computer System Design ，計算機設計的忠告，這是 ACM 圖靈獎得主 Butler Lampson 在 Xerox PARC 工做時的一篇論文。這篇論文簡明扼要地總結了他在作系統設計時的一些想法，很是值得一讀。（用他的話來講，「Studying the design and implementation of a number of computer has led to some general hints for system design. They are described here and illustrated by many examples, ranging from hardware such as the Alto and the Dorado to application programs such as Bravo and Star「。）

• The 5 minute rule for trading memory for disc accesses and the 5 byte rule for trading memory for CPU time ，根據文章名稱也能夠看出，5 分鐘法則是用來衡量內存與磁盤的，而 5 字節法則則是在內存和 CPU 之間的權衡。這兩個法則是 Jim Gray 和 Franco Putzolu 在 1986 年的文章。

  在該論文發表 10 年後的 1997 年，Jim Gray 和 Goetz Graefe 又在 The Five-Minute Rule Ten Years Later and Other Computer Storage Rules of Thumb 中對該法則進行了從新審視。2007 年，也就是該論文發表 20 年後，這年的 1 月 28 日，Jim Gray 駕駛一艘 40 英尺長的船從舊金山港出海，目的是航行到附近的費拉隆島，在那裏撒下母親的骨灰。出海以後，他就同朋友和親屬失去了聯繫。爲了記念和向大師致敬，時隔 10 多年後的 2009 年 Goetz Graefe 又發表了 The Five-Minute Rule 20 Years Later (and How Falsh Memory Changes the Rules)。

  註明一下，Jim Gray 是關係型數據庫領域的大師。因在數據庫和事務處理研究和實現方面的開創性貢獻而得到 1998 年圖靈獎。美國科學院、工程院兩院院士，ACM 和 IEEE 兩會會士。他 25 歲成爲加州大學伯克利分校計算機科學學院第一位博士。在 IBM 工做期間參與和主持了 IMS、System R、SQL／DS、DB2 等項目的開發。後任職於微軟研究院，主要關注應用數據庫技術來處理各學科的海量信息。

小結

異步 I/O 模型、 Lock-Free 。其它一些重要知識，如 64 位編程、提升 OpenSSL 的執行性能、壓縮、SSD 硬盤性能測試等。最後介紹了幾篇對學習和鞏固這些知識很是有幫助的論文