小标
2018-12-05
来源 :
阅读 1268
评论 0
摘要:本文主要向大家介绍了【云计算】SparkStreaming之粗粒度和细粒度总结,通过具体的内容向大家展现,希望对大家学习云计算有所帮助。
本文主要向大家介绍了【云计算】SparkStreaming之粗粒度和细粒度总结,通过具体的内容向大家展现,希望对大家学习云计算有所帮助。
一、粗粒度
1.工作原理:
(1)Spark Streaming接收到实时数据流(data stream)
(2)Spark Streaming把数据按照指定的时间段切成一片片小的数据块(小批次)
(3)然后Spark Streaming把小的数据块传给Spark Engine处理
(4)Spark Engine处理后,输出处理后的数据(processed result)
二、细粒度
1.工作原理:
(1)driver:启动spark应用程序,构建StreamingContext
(2)executor:启动receiver接收器,接收数据
(3)executor:接收input Stream,然后拆分不同block(小块)
(4)executor:receiver将block存储信息发送给StreamingContext
(5)driver:启动job,然后将task提交到对应executor上执行
(未完待续~)
本文由职坐标整理并发布,希望对同学们有所帮助。了解更多详情请关注职坐标大数据云计算大数据安全频道!
喜欢 | 0
不喜欢 | 0
您输入的评论内容中包含违禁敏感词
我知道了

请输入正确的手机号码
请输入正确的验证码
您今天的短信下发次数太多了,明天再试试吧!
我们会在第一时间安排职业规划师联系您!
您也可以联系我们的职业规划师咨询:
版权所有 职坐标-一站式AI+学习就业服务平台 沪ICP备13042190号-4
上海海同信息科技有限公司 Copyright ©2015 www.zhizuobiao.com,All Rights Reserved.
沪公网安备 31011502005948号