spark dataframe 將null 改爲 nan

由於我要疊加rdd某列的數據,如果加數中出現nan,結果也需要是nan,nan可以做到,但我要處理的數據源中的nan是以null的形式出現的,null不能疊加,而且我也不能刪掉含null的行,於是我用了sparksql 的 ISNULL和CASE WHEN方法: Case When 方法: 如果obs_PRE_1h列有值則不變,沒有則變爲nan,注意這裏的nan需要寫成 float(‘NaN’) 
相關文章
相關標籤/搜索