特牛网址导航

PysparkNote005---批量写入Redis_pyspark 并发写redis-CSDN博客

网友收藏
文章浏览阅读1.8k次。Intro  批量写redis,主要考虑两个点:数据分批-spark的foreachPartition批数据的分批插入redis,redis pipeline提交Code直接看代码import redisimport jsonimport randomimport pandas as pdimport functoolskey_list = [f"test_{str(i).zfill(3)}" for i in range(100)]value_list = [json.dum_pyspark 并发写redis