python數據類型導致的問題

計算過程中，uint8數據類型導致的算數溢出，注意計算過程中儘量保持數據類型爲float型，避免算數溢出。 問題描述： Cb和cr的數據類型爲uint8（數值範圍[0,255]）,因此在計算過程中改變128的數據類型出現out_3和out_4結果相同，但是out_5和out_6結果截然不同。 下面是兩組實驗： 128的int型和float型對計算結果的影響，表達式out_3、out_4與out_5

>>阅读原文<<