高性能數值計算項目介紹：MPI和CUDA

MPI 簡介 在程序中，不同的進程需要相互的數據交換，特別是在科學計算中，需要大規模的計算與數據交換，集羣可以很好解決單節點計算力不足的問題，但在集羣中大規模的數據交換是很耗費時間的，因此需要一種在多節點的情況下能快速進行數據交流的標準，這就是MPI。 MPI是一組用於多節點數據通信的標準，而非一種語言或者接口。具體的使用方法需要依賴它的具體實現(mpich or openmpi等)。 mpi的目

>>阅读原文<<