限制
Lightning Engine:映像檔版本
3.0不支援 Lightning Engine。使用 Hive 4.2 的 Metastore:映像檔版本
3.0不支援 BigQuery Metastore、BigLake Metastore 或使用 Hive 4.2 的 Dataproc Metastore (不支援使用這些 Metastore 的直接 Hive 查詢)。Delta Lake 搭配 Hive:Managed Service for Apache Spark 映像檔版本
3.0內含的 Delta Lake4.x不支援 Hive (無法在 Hive 上執行 Delta Lake 4.2 資料表的查詢)。Iceberg with Hive:Managed Service for Apache Spark 映像檔版本
3.0包含 Hive 4.2,可透過 Iceberg REST 目錄支援 Iceberg。GPU 叢集:除了
3.0-ml-ubuntu以外,所有3.0映像檔版本都會啟用cgroups V2。由於啟用cgroups V2時,YARN 不支援 GPU 探索功能,因此建立含 GPU 的叢集時,必須使用3.0-ml-ubuntu映像檔。Hudi:映像檔版本
3.0不支援 Apache Hudi。
注意:
版本
3.0是輕量型映像檔,只包含核心元件,可減少常見安全漏洞與弱點 (CVE) 的風險。如需更高的安全法規遵循要求,請在建立 Managed Service for Apache Spark 叢集時使用2.3以上版本的映像檔。使用
3.0映像檔建立 Managed Service for Apache Spark 叢集時,若選擇安裝選用元件,系統會在叢集建立期間下載並安裝這些元件,此舉可能會延長叢集啟動時間。為避免此延遲,可建立一個預先安裝選用元件的自訂映像檔,方法是執行generate_custom_image.py並加上--optional-components旗標。3.0 映像檔支援下列選用元件:
- Apache Flink
- Apache Hive WebHCat
- Apache Iceberg
- Apache Pig
- Apache Ranger
- Apache Solr
- Apache Zeppelin 筆記本
- Apache Zookeeper
- Delta Lake
- Docker
- JupyterLab Notebook
- Trino
3.0 版映像檔預設會啟用
yarn.nodemanager.recovery.enabled和 HDFS 稽核記錄功能。Pixi 會隨 Python 安裝程序一併安裝,並用於安裝 Python 套件,取代 Conda。
YARN 的預設資源計算機已從 DefaultResourceCalculator 變更為 DominantResourceCalculator,後者採用「主導資源」概念來決定資源 (例如記憶體和 CPU) 的分配。這項變更會影響自動配置器,因其調度資源的方式,正是取決於叢集的主導資源使用情況。
從映像檔版本
3.0開始,如果您建立叢集時未指定叢集節點的機型,Managed Service for Apache Spark 會根據彈性 VM 機型的排名清單指定節點,例如 N4、N2 和 E2 系列機型的排名清單,並根據資源可用性進行最佳化。