Azure Synapse Runtime pour Apache Spark 3.4 (déconseillé)

Avertissement

Azure Synapse Runtime pour Apache Spark 3.4 a atteint la fin du support le 31 mars 2026. Bien que les charges de travail existantes puissent continuer à fonctionner pendant une période limitée au-delà de cette date, l’exécution n’est plus prise en charge et ne reçoit plus de corrections de bugs, de mises à jour de sécurité ou de corrections de vulnérabilités. En conséquence, les charges de travail fonctionnant sous Spark 3.4 sont exposées à des risques opérationnels et de sécurité croissants au fil du temps.

De plus, la désactivation progressive des emplois Spark 3.4 débutera prochainement, et rien ne garantit que les charges de travail Spark 3.4 continueront à fonctionner à l’avenir. Pour minimiser les perturbations et rester sur une plateforme prise en charge, nous vous recommandons vivement de mettre à niveau vos charges de travail basées sur Apache Spark 3.4 vers Azure Synapse Runtime for Apache Spark 3.5 (GA) dès que possible.

Azure Synapse Analytics prend en charge plusieurs runtimes pour Apache Spark. Ce document couvre les composants et versions d’exécution du runtime Azure Synapse pour Apache Spark 3.4.

Versions des composants

Composant Version
Apache Spark 3.4.1
Système d’exploitation Mariner 2.0
Java 11
Langage de programmation Scala 2.12.17
Lac Delta 2.4.0
Python 3.10
R 4.2.2

Conseil

Pour obtenir des informations à jour, une liste détaillée des modifications et des notes de publication spécifiques pour les runtimes Spark, vérifiez et abonnez-vous aux versions et mises à jour des runtimes Spark.

Bibliothèques

Pour vérifier les bibliothèques incluses dans Azure Synapse Runtime pour Apache Spark 3.4 pour Java/Scala, Python et R, accédez aux notes de publication d’Azure Synapse Runtime pour Apache Spark 3.4.

Conseil

spark.memoryOverheadFactor.preferred : Si c’est réglé sur true, Spark priorisera spark.driver.memoryOverheadFactor et spark.executor.memoryOverheadFactor plutôt que les valeurs explicites définies par spark.driver.memoryOverhead et spark.executor.memoryOverhead. Lorsqu’elle est activée, la surcharge est toujours calculée à l’aide du facteur, et les réglages explicites de la surcharge sont ignorés. Le défaut est faux pour la rétrocompatibilité.