消息队列技术
消息队列是异步通信的基础设施,用于解耦系统组件、提高系统的可扩展性和可靠性。
消费者:向消息队列投递消息的是生产者
生产者:消费消息的是消费者
Queue:
- RabbitMQ:队列,类似于链表的进程,按照消息进入到先后顺序存放消息
- RocketMQ:类似于 Kafka 的 Partition,不过 RocketMQ 在队列中只存放偏移,实际消息放在 commitlog 上,需要两次读取,但是全部顺序读写,性能也不差
RabbitMQ
- Exchange:交换器,类似于 APIGW,生产者生产的消息通过这个分发到对应的 Queue,可以通过类似正则的方式绑定想要分发到 Queue,这个绑定关系称为元数据
- 优先级队列:一个最小堆,投递消息时,为消息标上优先级,消费者总是先消费高优先级的消息
Kafka
- Topic:消息的分类,不同的类别的消息分别生产和消费,一个 topic 一个队列
- Partition:将单个队列拆分成多段,每段就是一个 partition,类似于 mysql 的水平分表,还可以分库,将不同的 partition 放在不同的机器
- 底层通过多个 segment 存放消息,单个 segment 内部是顺序读写,多个之间是随机读写,有性能瓶颈
- broker:
- kafka/RabbitMQ:多个 partition 的集合,一个 broker 包含一个队列的部分 partition
- rabbitMQ:多个 Queue+1 个 Exchange 的集合
- replicas:partition 的副本,分为 leader 和 follower,保证高可用,不同的 replicas 放在不同的 broker 上
- retention policy:消息持久化的保留策略,比如超过多长时间进行清理
- consumer group:消费组,多个消费者分成多个组,不同的组维护自己的消费进度,互不打搅
- ZooKeeper:通用的分布式协调服务,可以用作服务注册和发现,还可以用于分布式锁、配置管理等场景
RocketMQ
- nameserver:ZooKeeper 的轻量化实现
功能:
- 削峰填谷:避免上游流量忽高忽低导致服务不可用
- 降低系统耦合:系统过大,拆解组件
- 保护服务:如秒杀活动
📋 主要技术
Kafka
- 定位:高吞吐量分布式流处理平台
- 特点:支持大规模数据流处理,具备优秀的性能和可扩展性
- 适用场景:大数据处理、实时流计算、日志收集
RabbitMQ
- 定位:功能丰富的消息代理
- 特点:支持多种消息协议,提供丰富的路由功能
- 适用场景:企业应用集成、复杂路由需求、事务消息
RocketMQ
- 定位:阿里巴巴开源的分布式消息中间件
- 特点:支持事务消息、顺序消息、定时消息
- 适用场景:电商业务、金融支付、订单处理
🎯 核心概念
消息模型
- 点对点模式(Queue):一对一消息传递
- 发布订阅模式(Topic):一对多消息广播
- 消息分区:提高并发处理能力
- 消费者组:实现负载均衡和故障转移
可靠性保证
- 消息持久化:防止消息丢失
- 消息确认机制:确保消息被成功处理
- 重试机制:处理失败消息的重新投递
- 死信队列:处理无法消费的消息
性能优化
- 批量处理:提高吞吐量
- 异步处理:减少响应时间
- 消息压缩:减少网络传输开销
- 分区策略:优化负载分布
💡 面试要点
技术选型
- 不同MQ的技术特点和适用场景对比
- 如何根据业务需求选择合适的消息队列
- 性能、可靠性、复杂度的权衡
架构设计
- 消息队列在微服务架构中的作用
- 如何设计高可用的消息系统
- 消息顺序性和幂等性的保证
实战经验
- 大流量场景下的性能调优
- 常见问题的排查和解决
- 监控和运维的最佳实践
🔍 深入学习
- 消息语义:至少一次、至多一次、恰好一次
- 一致性模型:最终一致性、强一致性
- 分布式事务:基于消息的分布式事务实现
- 流处理:实时数据处理和分析
