Problèmes et limites connus de la version 2.2 de l'image :
Les anciens agents ne sont pas installés dans les clusters de la version 2.2 de l'image. monitoring-agent-defaults n'est pas disponible, sauf si l'agent Ops est installé. Remarque : Les métriques et la journalisation OSS sont disponibles pour les composants Managed Service pour Apache Spark.
La journalisation ou la surveillance des applications tierces ne sont pas disponibles sauf si l'agent Ops est installé.
Remarques :
2.2.x-*-armimages ne sont compatibles qu'avec les composants préinstallés et les composants facultatifs suivants. Les autres composants facultatifs de la version 2.2 et toutes les actions d'initialisation ne sont pas compatibles :- Apache Hive WebHCat
- Apache Pig (à partir de
2.2.75-ubuntu22-arm) - Docker
- Zeppelin
- Zookeeper (installé dans les clusters à haute disponibilité ; composant facultatif dans les autres clusters)
Le code source des bibliothèques de l'image 2.2, qui sont disponibles sous des licences réciproques et restreintes, est disponible dans le chemin d'accès
/usr/local/share/google/managed-spark/third-party-sourcessur les VM de cluster Managed Service pour Apache Spark.Les procédures Hudi suivantes ne fonctionnent pas sur une table Hudi basée sur le système de fichiers Cloud Storage :
run_clusteringrun_compaction
Le calculateur de ressources par défaut pour YARN est passé de DefaultResourceCalculator à DominantResourceCalculator, qui utilise le concept de ressource dominante pour déterminer l'allocation des ressources, telles que la mémoire et l'allocation du processeur. Cette modification a un impact sur Autoscaler, qui effectue un scaling en fonction de l'utilisation des ressources dominantes du cluster.
Version d'Apache Iceberg : dans les images 2.2, Apache Iceberg est disponible dans les versions
1.6.1et1.10. La version par défaut est1.6.1. Pour spécifier la version d'Iceberg sur n'importe quel cluster 2.2, définissez la propriété de clusterdataproc:dataproc.iceberg.versionsur1.10(ou1.6) lors de la création du cluster.