小标
2019-01-07
来源 :
阅读 1579
评论 0
摘要:本文主要向大家介绍了【云计算】Spark问题总结,通过具体的内容向大家展现,希望对大家学习云计算有所帮助。
本文主要向大家介绍了【云计算】Spark问题总结,通过具体的内容向大家展现,希望对大家学习云计算有所帮助。
1、问题描述:在scala类中设置拦截地址时报错
原因分析:设置拦截时,拦截地址书写格式不对
解决方法:将@RequestMapping("/connect")改写成@RequestMapping(value=Array("/connect"))
2、问题描述:在SpringBoot项目中编写scala代码,启动时报错:Error:scalac:package macros contains object and package with same name:blockbox
原因分析:类的名称不符合规范
解决方法:在定义scala类的时候,选择class,不要选择object,否则添加拦截会报错
3、问题描述:scala中将list类型的数据转成json串返回,启动时报错
原因分析:根据提示,调用的JSON.toJSONString()方法存在重载,toJSONString(x$1:Any)和toJSONString(x$1: Any, x$2: com.alibaba.fastjson.serializer.SerializerFeature*),同时匹配了两个方法的引用,导致报错
解决方法:引用第二种方法,避免调用方法时存在方法重载错误出现的可能
4、问题描述:spark API提交作业时报异常:WARN TaskSchedulerImpl: Initial job has not accepted any resources; check your cluster uito ensure that workers are registered and have sufficient memory
原因分析:当前的集群的可用资源不能满足应用程序所请求的资源。这个首先要检查一下spark-env.sh文件里面分给每个worker的executor的memory是多少。当app中上述的参数超过这个数值,那么app就不会找这个worker进行工作,而是去找满足数值条件的worker。
一般来说,每个节点的分配都是一样的,所以遇到这种情况基本是因为参数超过了分配给worker的executor的memory的数值。
解决方法:到spark-env.sh配置文件中修改executor(worker)的数值(当然前提是你有那么多内存),配置如下
5、问题描述:工程报错,Scala Version Problem
问题分析:编写工程的scala版本和运行工程的版本不一致
解决方法:调整开发工具的scala版本
本文由职坐标整理并发布,希望对同学们有所帮助。了解更多详情请关注职坐标大数据云计算大数据安全频道!
喜欢 | 0
不喜欢 | 0
您输入的评论内容中包含违禁敏感词
我知道了

请输入正确的手机号码
请输入正确的验证码
您今天的短信下发次数太多了,明天再试试吧!
我们会在第一时间安排职业规划师联系您!
您也可以联系我们的职业规划师咨询:
版权所有 职坐标-一站式AI+学习就业服务平台 沪ICP备13042190号-4
上海海同信息科技有限公司 Copyright ©2015 www.zhizuobiao.com,All Rights Reserved.
沪公网安备 31011502005948号