特牛网址导航

大数据最佳实践-spark structstreaming_spark structured streaming的window-CSDN博客

网友收藏
文章浏览阅读992次。目录概述APIwatermarking概述结构化流是基于Spark SQL引擎构建的可伸缩且容错的流处理引擎。您可以像对静态数据进行批处理计算一样,来表示流计算。当流数据继续到达时,Spark SQL引擎将负责递增地,连续地运行它并更新最终结果。您可以在Scala,Java,Python或R中使用Dataset / DataFrame API来表示流聚合,事件时间窗口,流到批处理联接等。计算是在同一优化的Spark SQL引擎上执行的。最后,该系统通过检查点和预写日志来确保端到端的一次容错保证。简而言之_spark structured streaming的window