2020最新RabbitMQ图文教程通俗易懂版(上)【内附视频链接】

RabbitMQ学习目标

MQ简介

在计算机科学中,消息队列(英语:Message queue)是一种进程间通信或同一进程的不同线程间的通信方式,软件的贮列用来处理一系列的输入,通常是来自用户。消息队列提供了异步的通信协议,每一个贮列中的纪录包含详细说明的数据,包含发生的时间,输入设备的种类,以及特定的输入参数,也就是说:消息的发送者和接收者不需要同时与消息队列互交。消息会保存在队列中,直到接收者取回它。

实现

​ 消息队列常常保存在链表结构中。拥有权限的进程可以向消息队列中写入或读取消息。

目前,有很多消息队列有很多开源的实现,包括 JBoss MessagingJORAMApache ActiveMQSun Open Message QueueIBM MQApache QpidHTTPSQS

当前使用较多的消息队列有 RabbitMQRocketMQActiveMQKafkaZeroMQMetaMq 等,而部分数据库如 RedisMysql 以及 phxsql 也可实现消息队列的功能。

特点

​ MQ是消费者-生产者模型的一个典型的代表,一端往消息队列中不断写入消息,而另一端则可以读取或者订阅队列中的消息。MQ和JMS类似,但不同的是JMS是SUN JAVA消息中间件服务的一个标准和API定义,而MQ则是遵循了AMQP协议的具体实现和产品。

​ 注意:

  1. AMQP ,即Advanced Message Queuing Protocol,一个提供统一消息服务的应用层标准高级消息队列协议,是应用层协议的一个开放标准,为面向消息的中间件设计。基于此协议的客户端与消息中间件可传递消息,并不受客户端/中间件不同产品,不同的开发语言等条件的限制。
  2. JMS ,Java消息服务(Java Message Service)应用程序接口,是一个Java平台中关于面向消息中间件的API,用于在两个应用程序之间,或分布式系统中发送消息,进行异步通信。 Java消息服务是一个与具体平台无关的API,绝大多数MOM提供商都对JMS提供支持。常见的消息队列,大部分都实现了JMS API,如 ActiveMQRedis 以及 RabbitMQ 等。

优缺点

优点

应用耦合、异步处理、流量削锋

  • 解耦

    传统模式:

传统模式的缺点:

系统间耦合性太强,如上图所示,系统A在代码中直接调用系统B和系统C的代码,如果将来D系统接入,系统A还需要修改代码,过于麻烦!

中间件模式

中间件模式的的优点:

将消息写入消息队列,需要消息的系统自己从消息队列中订阅,从而系统A不需要做任何修改。

  • 异步

传统模式:

传统模式的缺点:

一些非必要的业务逻辑以同步的方式运行,太耗费时间。

中间件模式:

中间件模式的的优点:

将消息写入消息队列,需要消息的系统自己从消息队列中订阅,从而系统A不需要做任何修改。

  • 削峰

传统模式:

传统模式的缺点:

并发量大的时候,所有的请求直接怼到数据库,造成数据库连接异常

中间件模式:

中间件模式的的优点:

系统A慢慢的按照数据库能处理的并发量,从消息队列中慢慢拉取消息。在生产中,这个短暂的高峰期积压是允许的。

缺点

系统可用性降低、系统复杂性增加

使用场景

消息队列,是分布式系统中重要的组件,其通用的使用场景可以简单地描述为: 当不需要立即获得结果,但是并发量又需要进行控制的时候,差不多就是需要使用消息队列的时候

​ 在项目中,将一些无需即时返回且耗时的操作提取出来,进行了异步处理,而这种异步处理的方式大大的节省了服务器的请求响应时间,从而提高了系统的吞吐量。

为什么使用RabbitMQ

AMQP,即Advanced Message Queuing Protocol,高级消息队列协议,是应用层协议的一个开放标准,为面向消息的中间件设计。消息中间件主要用于组件之间的解耦,消息的发送者无需知道消息使用者的存在,反之亦然。

AMQP的主要特征是面向消息、队列、路由(包括点对点和发布/订阅)、可靠性、安全。

RabbitMQ是一个开源的AMQP实现,服务器端用Erlang语言编写,支持多种客户端,如: PythonRuby.NETJavaJMSCPHPActionScriptXMPPSTOMP 等,支持AJAX。用于在分布式系统中存储转发消息,在易用性、扩展性、高可用性等方面表现不俗。

​ 总结如下:

  • 基于AMQP协议
  • 高并发(是一个容量的概念,服务器可以接受的最大任务数量)
  • 高性能(是一个速度的概念,单位时间内服务器可以处理的任务数)
  • 高可用(是一个持久的概念,单位时间内服务器可以正常工作的时间比例)
  • 强大的社区支持,以及很多公司都在使用
  • 支持插件
  • 支持多语言

安装

安装Erlang

官网提示: https://www.erlang-solutions….

安装erlang

yum -y install esl-erlang_23.0.2-1_centos_7_amd64.rpm

检测erlang

安装RabbitMQ

文件下载

官网下载地址: http://www.rabbitmq.com/downl…

安装rabbitmq

yum -y install rabbitmq-server-3.8.5-1.el7.noarch.rpm

安装UI插件

rabbitmq-plugins enable rabbitmq_management

启用rabbitmq服务

systemctl start rabbitmq-server.service

检测服务

systemctl status rabbitmq-server.service

修改防火墙,添加规则

-A INPUT -p tcp -m state --state NEW -m tcp --dport 15672 -j ACCEPT
-A INPUT -p tcp -m state --state NEW -m tcp --dport 5672 -j ACCEPT

重启防火墙

systemctl restart iptables.service

访问

guest用户默认只可以localhost(本机)访问

在rabbitmq的配置文件目录下(默认为:/etc/rabbitmq)创建一个 rabbitmq.config 文件。

文件中添加如下配置(请不要忘记那个“ . ”):

[{rabbit, [{loopback_users, []}]}].

重启rabbitmq服务

systemctl restart rabbitmq-server.service

重新访问

管理界面基本操作

管理界面添加用户与权限分配

RabbitMQ默认提供guest用户,密码为guest用于登录MQ主页面

添加用户

添加用户,默认用户 guest 角色为管理员,一般开发环境下会创建新的用户并对权限进行分配。

添加ego用户并对权限进行分配

用户添加完毕,用户列表显示用户状态是 No access ,代表用户未进行权限分配,不能进行任何操作,这里创建用户分配权限可以类比数据库中创建用户并分配权限操作。

分配权限

创建 virtual hosts 可以类比创建数据库,分配用户操作权限

创建完成以后可以看到默认分配了 guest 用户

点击/shop进入权限分配页面,添加用户

添加shop用户

添加成功如下,Clear代表清除用户

返回Users,现在shop用户只有可以操作/shop的权限,配置/操作权限

点击ego进入权限分配页面

添加/操作权限

添加成功如下,Clear代表清除用户

重新登录

现在我们就可以使用shop用户登录RabbitMQ

角色,权限讲解

RabbitMQ角色分类

  • none:不能访问 management plugin(管理插件)
  • impersonator:演员???
  • management:

    用户可以通过AMQP做的任何事外加:

    • 列出自己可以通过AMQP登入的virtual hosts
    • 查看自己的virtual hosts中的queues, exchanges 和 bindings
    • 查看和关闭自己的channels 和 connections
    • 查看有关自己的virtual hosts的“全局”的统计信息,包含其他用户在这些virtual hosts中的活动。
  • policymaker

    management可以做的任何事外加:

    • 查看、创建和删除自己的virtual hosts所属的policies和parameters
  • monitoring

    management可以做的任何事外加:

    • 列出所有virtual hosts,包括他们不能登录的virtual hosts
    • 查看其他用户的connections和channels
    • 查看节点级别的数据如clustering和memory使用情况
    • 查看真正的关于所有virtual hosts的全局的统计信息
  • administrator

    policymaker和monitoring可以做的任何事外加:

    • 创建和删除virtual hosts
    • 查看、创建和删除users
    • 查看创建和删除permissions
    • 关闭其他用户的connections

RabbitMQ权限控制

默认virtual host:”/”

默认用户:guest

guest具有 "/" 上的全部权限,仅能有localhost访问RabbitMQ包括Plugin,建议删除或更改密码。可通过将配置文件中 loopback_users 置空来取消其本地访问的限制: [{rabbit, [{loopback_users, []}]}]

用户仅能对其所能访问的virtual hosts中的资源进行操作。这里的资源指的是virtual hosts中的exchanges、queues等,操作包括对资源进行配置、写、读。配置权限可创建、删除资源并修改资源的行为,写权限可向资源发送消息,读权限从资源获取消息。

比如:

  • exchange和queue的declare与delete分别需要exchange和queue上的配置权限
  • exchange的bind与unbind需要exchange的读写权限
  • queue的bind与unbind需要queue写权限exchange的读权限
  • 发消息(publish)需exchange的写权限
  • 获取或清除(get、consume、purge)消息需queue的读权限
  • 对何种资源具有配置、写、读的权限通过正则表达式来匹配,具体命令如下: set_permissions [-p <vhostpath>] <user> <conf> <write> <read> ,其中, <conf> <write> <read> 的位置分别用正则表达式来匹配特定的资源,如 '^(amq\.gen.*|amq\.default)$' 可以匹配server生成的和默认的exchange, '^$' 不匹配任何资源

要注意的是RabbitMQ会缓存每个connection或channel的权限验证结果、因此权限发生变化后需要重连才能生效。

RabbitMQ专业术语

​ 官网地址: http://www.rabbitmq.com/getst…

Producing

​ Producing意思不仅仅是发送消息。发送消息的程序叫做producer生产者。

Queue

​ Queue是一个消息盒子的名称。它存活在 RabbitMQ 里。虽然消息流经 RabbitMQ 和你的应用程序,但是他们只能在 Queue 里才能被保存。Queue 没有任何边界的限制,你想存多少消息都可以,它本质上是一个无限的缓存。许多生产者都可以向一个 Queue 里发送消息,许多消费者都可以从一个 Queue 里接收消息。

Consuming

​ Consuming 的意思和接收类似。等待接收消息的程序叫做消费者。

注意:生产者,消费者和代理不一定非要在同一台机器上。

ConnectionFactory、Connection、Channel

ConnectionFactoryConnectionChannel 都是RabbitMQ对外提供的API中最基本的对象。

Connection 是RabbitMQ的 socket 连接,它封装了 socket 协议相关部分逻辑。

ConnectionFactory 为Connection的制造工厂。

Channel 是我们与RabbitMQ打交道的最重要的一个接口,我们大部分的业务操作是在Channel这个接口中完成的,包括定义 Queue 、定义 Exchange 、绑定 QueueExchange 、发布消息等。

Message acknowledgment

在实际应用中,可能会发生消费者收到 Queue 中的消息,但没有处理完成就宕机(或出现其他意外)的情况,这种情况下就可能会导致消息丢失。为了避免这种情况发生,我们可以要求消费者在消费完消息后发送一个回执给RabbitMQ,RabbitMQ收到消息回执( Message acknowledgment )后才将该消息从 Queue 中移除;如果RabbitMQ没有收到回执并检测到消费者的RabbitMQ连接断开,则RabbitMQ会将该消息发送给其他消费者(如果存在多个消费者)进行处理。这里不存在timeout概念,一个消费者处理消息时间再长也不会导致该消息被发送给其他消费者,除非它的RabbitMQ连接断开。

这里会产生另外一个问题,如果我们的开发人员在处理完业务逻辑后,忘记发送回执给RabbitMQ,这将会导致严重的bug—— Queue 中堆积的消息会越来越多;消费者重启后会重复消费这些消息并重复执行业务逻辑…

Message durability

​ 如果我们希望即使在RabbitMQ服务重启的情况下,也不会丢失消息,我们可以将Queue与Message都设置为可持久化的(durable),这样可以保证绝大部分情况下我们的RabbitMQ消息不会丢失。但依然解决不了小概率丢失事件的发生(比如RabbitMQ服务器已经接收到生产者的消息,但还没来得及持久化该消息时RabbitMQ服务器就断电了),如果我们需要对这种小概率事件也要管理起来,那么我们要用到事务。

Prefetch count

前面我们讲到如果有多个消费者同时订阅同一个 Queue 中的消息, Queue 中的消息会被平摊给多个消费者。这时如果每个消息的处理时间不同,就有可能会导致某些消费者一直在忙,而另外一些消费者很快就处理完手头工作并一直空闲的情况。我们可以通过设置 prefetchCount 来限制 Queue 每次发送给每个消费者的消息数,比如我们设置prefetchCount=1,则 Queue 每次给每个消费者发送一条消息;消费者处理完这条消息后 Queue 会再给该消费者发送一条消息。

Exchange

生产者将消息投递到 Queue 中,实际上这在RabbitMQ中这种事情永远都不会发生。实际的情况是,生产者将消息发送到Exchange(交换器,下图中的X),由Exchange将消息路由到一个或多个 Queue 中(或者丢弃)。

Exchange是按照什么逻辑将消息路由到 Queue 的?这个将在Binding一节介绍。

RabbitMQ中的Exchange有四种类型,不同的类型有着不同的路由策略,这将在Exchange Types一节介绍。

routing key

生产者在将消息发送给Exchange的时候,一般会指定一个 routing key ,来指定这个消息的路由规则,而这个 routing key 需要与 Exchange Typebinding key 联合使用才能最终生效。

Exchange Typebinding key 固定的情况下(在正常使用时一般这些内容都是固定配置好的),我们的生产者就可以在发送消息给Exchange时,通过指定 routing key 来决定消息流向哪里。

RabbitMQ为 routing key 设定的长度限制为255 bytes。

Binding

RabbitMQ中通过Binding将Exchange与Queue关联起来,这样RabbitMQ就知道如何正确地将消息路由到指定的Queue了。

Binding key

在绑定(Binding)Exchange与 Queue 的同时,一般会指定一个 binding key ;消费者将消息发送给Exchange时,一般会指定一个 routing key ;当 binding keyrouting key 相匹配时,消息将会被路由到对应的Queue中。这个将在Exchange Types章节会列举实际的例子加以说明。

在绑定多个Queue到同一个Exchange的时候,这些Binding允许使用相同的 binding key

binding key 并不是在所有情况下都生效,它依赖于Exchange Type,比如 fanout 类型的Exchange就会无视 binding key ,而是将消息路由到所有绑定到该Exchange的Queue。

Exchange Types

RabbitMQ常用的Exchange Type有 fanoutdirecttopicheaders 这四种(AMQP规范里还提到两种Exchange Type,分别为 system自定义 ,这里不予以描述),下面分别进行介绍。

fanout

fanout 类型的Exchange路由规则非常简单,它会把所有发送到该Exchange的消息路由到所有与它绑定的Queue中。

上图中,生产者(P)发送到Exchange(X)的所有消息都会路由到图中的两个Queue,并最终被两个消费者(C1与C2)消费。

direct

direct 类型的Exchange路由规则也很简单,它会把消息路由到那些 binding keyrouting key 完全匹配的Queue中。

以上图的配置为例,我们以 routingKey=”error” 发送消息到Exchange,则消息会路由到Queue1(amqp.gen-S9b…,这是由RabbitMQ自动生成的Queue名称)和Queue2(amqp.gen-Agl…);如果我们以 routingKey=”info”routingKey=”warning” 来发送消息,则消息只会路由到Queue2。如果我们以其他routingKey发送消息,则消息不会路由到这两个Queue中。

topic

前面讲到direct类型的Exchange路由规则是完全匹配 binding keyrouting key ,但这种严格的匹配方式在很多情况下不能满足实际业务需求。topic类型的Exchange在匹配规则上进行了扩展,它与direct类型的Exchage相似,也是将消息路由到 binding keyrouting key 相匹配的Queue中,但这里的匹配规则有些不同,它约定:

  • routing key为一个句点号 . 分隔的字符串(我们将被句点号 . 分隔开的每一段独立的字符串称为一个单词),如“stock.usd.nyse”、“nyse.vmw”、“quick.orange.rabbit”
  • binding key与routing key一样也是句点号 . 分隔的字符串
  • binding key中可以存在两种特殊字符 *# ,用于做模糊匹配,其中 * 用于匹配一个单词, # 用于匹配多个单词(可以是零个)

以上图中的配置为例, routingKey=”quick.orange.rabbit” 的消息会同时路由到Q1与Q2, routingKey=”lazy.orange.fox” 的消息会路由到Q1, routingKey=”lazy.brown.fox” 的消息会路由到Q2, routingKey=”lazy.pink.rabbit” 的消息会路由到Q2(只会投递给Q2一次,虽然这个routingKey与Q2的两个bindingKey都匹配); routingKey=”quick.brown.fox”routingKey=”orange”routingKey=”quick.orange.male.rabbit” 的消息将会被丢弃,因为它们没有匹配任何bindingKey。

headers

headers类型的Exchange不依赖于 routing keybinding key 的匹配规则来路由消息,而是根据发送的消息内容中的headers属性进行匹配。

在绑定Queue与Exchange时指定一组键值对;当消息发送到Exchange时,RabbitMQ会取到该消息的headers(也是一个键值对的形式),对比其中的键值对是否完全匹配Queue与Exchange绑定时指定的键值对;如果完全匹配则消息会路由到该Queue,否则不会路由到该Queue。

该类型的Exchange目前用的不多(不过也应该很有用武之地),因此不做重点介绍。

RPC

MQ本身是基于异步的消息处理,前面的示例中所有的生产者(P)将消息发送到RabbitMQ后不会知道消费者(C)处理成功或者失败(甚至连有没有消费者来处理这条消息都不知道)。

但实际的应用场景中,我们很可能需要一些同步处理,需要同步等待服务端将我的消息处理完成后再进行下一步处理。这相当于RPC(Remote Procedure Call,远程过程调用)。在RabbitMQ中也支持RPC。

RabbitMQ中实现RPC的机制是:

  • 客户端发送请求(消息)时,在消息的属性( MessageProperties ,在AMQP协议中定义了14种properties,这些属性会随着消息一起发送)中设置两个值 replyTo (一个Queue名称,用于告诉服务器处理完成后将通知我的消息发送到这个Queue中)和 correlationId (此次请求的标识号,服务器处理完成后需要将此属性返还,客户端将根据这个id了解哪条请求被成功执行了或执行失败)
  • 服务器端收到消息并处理
  • 服务器端处理完消息后,将生成一条应答消息到 replyTo 指定的Queue,同时带上 correlationId 属性
  • 客户端之前已订阅 replyTo 指定的Queue,从中收到服务器的应答消息后,根据其中的 correlationId 属性分析哪条请求被执行了,根据执行结果进行后续业务处理

去看视频了解

SegmentFault博客
我还没有学会写个人说明!
上一篇

2020年即将结束,Flash Player究竟能否继续使用?

下一篇

英在银河系深处找到“化石星系”

你也可能喜欢

评论已经被关闭。

插入图片