spark任務java.lang.IllegalArgumentException: Size exceeds Integer.MAX_VALUE

crash:「Caused by: java.lang.RuntimeException: java.lang.IllegalArgumentException: Size exceeds Integer.MAX_VALUE」 這是 spark 的一個經典錯誤,很有可能就是 shuffle 的時候有太大的 key 或 value 造成的(當然,此 crash 也有可能涉及 序列化、反序列化、cac
相關文章
相關標籤/搜索