Spark内存空间管理

1. 概述 Spark应用在yarn运行模式下,其以Executor Container的形式存在,container能申请到的最大内存受yarn.scheduler.maximum-allocation-mb限制。下面说的大部分内容其实与yarn等没有多少直接关系,知识均为通用的。 ...

2023-03-16 19:34 · 14 min · 6553 words · Reid