摘要:本文主要向大家介绍【云计算】kafka有的partition停止消费问题了,通过具体的内容向大家展现,希望对大家学习云计算有所帮助。
本文主要向大家介绍【云计算】kafka有的partition停止消费问题了,通过具体的内容向大家展现,希望对大家学习云计算有所帮助。
这个问题是在kafka0.10.0上出现的。在测试集群重现问题,问题如下图所示(offsetmonitor的监控页面)
上图中可以看到好多partition都在几小时前就停止了消费。
这种情况下,我们的消费者代码(kafka旧的高阶api)是不会报错的。排查过程
1.查看topic,看这几个partition的leader在哪几台broker上。
2.去kafka解压目录查看log,看server.log.yyyy-MM-dd-HH的log。看看有什么异常
我们的是因为消息过大,kafka报java堆内存溢出。
解决方法是,进入kafka/bin目录下
1-修改kafka-server-start.sh将KAFKA_HEAP_OPTS="-Xmx1G -Xms1G"调大
2-修改kafka-run-class.sh将KAFKA_HEAP_OPTS="-Xmx256M"调大
本文由职坐标整理并发布,希望对同学们有所帮助。了解更多详情请关注职坐标大数据云计算大数据安全频道!
您输入的评论内容中包含违禁敏感词
我知道了
请输入正确的手机号码
请输入正确的验证码
您今天的短信下发次数太多了,明天再试试吧!
我们会在第一时间安排职业规划师联系您!
您也可以联系我们的职业规划师咨询:
版权所有 职坐标-一站式IT培训就业服务领导者 沪ICP备13042190号-4
上海海同信息科技有限公司 Copyright ©2015 www.zhizuobiao.com,All Rights Reserved.
沪公网安备 31011502005948号