蓝盟IT外包,为什么KubeMQ会取代Kafka?

发布者:上海IT外包来源:http://www.lanmon.net点击数:1857


在消息队列领域也有供应商。 大型云平台(如Amazon  web服务、Microsoft  Azure和谷歌云)有自己的产品。 AWS简单队列服务、Azure服务总线、谷歌Pub/Sub  )。 还有独立的通用消息代理,如RabbitMQ、Apache的ActiveMQ和Kafka。
在这篇文章中,我们介绍了一个叫KubeMQ的现代Kubernetes本机消息队列,并尝试了已经在Kubernetes上使用kafka的组织可以如何受益。
什么是Apache  Kafka
要了解KubeMQ的所有价值,首先需要花时间了解Kafka。 Kafka最初由LinkedIn工程师创建,用作跟踪LinkedIn用户活动的软件总线。 随后作为开源产品发布,今天,Kafka由Apache软件基金会开发和管理。
Apache指出,《财富》100强中有80%以上的公司信任并使用Kafka。 众所周知,它虽然是开源的,但却是一个可以连接广大活动生产者和消费者的高度可扩展的系统。 可以将数据流配置为执行复杂的功能,从而在有限的网络环境中也可以正常工作。 Kafka通过在线用户社区广泛提供的支持,还提供了各种各样的商业产品。 例如,AWS提供主机Kafka,Confluent也是如此。
Kafka的极限
虽然采用率很高,但是Kafka不一定是最适合作为消息队列系统的。 具有适合于本地群集或高端多虚拟机配置的单体体系结构。 考虑到Kafka所需的内存和存储容量,在独立的工作站上快速启动多节点群集进行测试可能很困难。
简单来说,整合Kafka和基础架构整合所需的所有复杂部分并不容易。 在基于Kubernetes的体系结构中尤其如此。
基于Kubernetes的Kafka部署包括许多活动部分,如下图所示。 除了基本的Kubernetes群集基础计算、网络和存储基础架构的配置外,如果要在本地实施,请安装所有Kafka部分,然后使用软件包管理(如Helm  ) 这些组件可以包括ZooKeeper和Mesos等协调员,用于管理Kafka代理和主题。 其他需要注意的地方包括依赖关系、日志和分区。 如果缺少一个元素或配置错误,要成功部署——kafka就不容易了。Kubernetes体系结构
将新的Kafka节点添加到Kubernetes群集需要复杂的手动平衡以保持最佳的资源使用量。 因此,没有简单的方法来管理和确保可靠的备份和恢复战略。 对在很多节点上运行的Kafka集群进行防灾并不容易。 与Kubernetes群集中的数据存储在pod之外且调度程序自动启动失败的pod不同,Kafka没有这种本机故障防止机制。
最后,要有效监控Kafka/ZooKeeper/Kubernetes的部署,需要第三方工具。

IT外包
>
400-635-8089
立即
咨询
电话咨询
服务热线
400-635-8089
微信咨询
微信咨询
微信咨询
公众号
公众号
公众号
返回顶部