unpersist

Marque le DataFrame comme non persistant et supprime tous les blocs pour celui-ci de la mémoire et du disque.

Syntaxe

unpersist(blocking: bool = False)

Paramètres

Paramètre Type Description
blocking bool Indique s’il faut bloquer jusqu’à ce que tous les blocs soient supprimés.

Retours

DataFrame: DataFrame nonpersisté.

Remarques

blocking la valeur par défaut a changé pour correspondre à False Scala dans la version 2.0.

Sur le calcul classique, les données mises en cache sont partagées entre toutes les sessions Spark du cluster, donc la non-persistance affecte toutes les sessions.

En calcul serverless, unpersist() marque le résultat mis en cache comme prêt à être récupéré et ignore blocking. Après cela, le DataFrame et les DataFrames dérivés ne peuvent plus être utilisés. Voir Cache DataFrames sur le calcul serverless.

Exemples

df = spark.range(1)
df.persist()
# DataFrame[id: bigint]
df.unpersist()
# DataFrame[id: bigint]
df = spark.range(1)
df.unpersist(True)
# DataFrame[id: bigint]