目標檢測faster rcnn error == cudaSuccess (2 vs. 0) out of memory

想嘗試 更深更強的網絡，或者本身寫了一個費顯存的層，發現1080 ti的11G顯存不夠用了，老師報顯存不夠怎麼辦？

Check failed: error == cudaSuccess (2 vs. 0)  out of memory

調小batch_size的大小。

 

怎麼調呢？

調這個文件：

experiments/cfgs/faster_rcnn_end2end.yml

 

EXP_DIR: faster_rcnn_end2end
TRAIN:
HAS_RPN: True
IMS_PER_BATCH: 1
BBOX_NORMALIZE_TARGETS_PRECOMPUTED: True
RPN_POSITIVE_OVERLAP: 0.7
#RPN_BATCHSIZE: 256
RPN_BATCHSIZE: 160
PROPOSAL_METHOD: gt
BG_THRESH_LO: 0.0
#BATCH_SIZE: 64
BATCH_SIZE: 32
#RPN_POST_NMS_TOP_N: 700
RPN_POST_NMS_TOP_N: 500
USE_OHEM: True
ASPECT_GROUPING: False
TEST:
HAS_RPN: True

 

 

固然，寫代碼的方式也能夠。好比說寫一個batch_norm層，來歸一化參數。讓每一層的參數沒那麼凌亂。不過這個減小的顯存仍是比較小的。