PHP高级编程之消息队列原理与实现方法详解

本文实例讲述了PHP高级编程之消息队列原理与实现方法。分享给大家供大家参考,具体如下:

1. 什么是消息队列

消息队列(英语:Message queue)是一种进程间通信或同一进程的不同线程间的通信方式

2. 为什么使用消息队列

消息队列技术是分布式应用间交换信息的一种技术。消息队列可驻留在内存或磁盘上,队列存储消息直到它们被应用程序读出。通过消息队列,应用程序可独立地执行,它们不需要知道彼此的位置、或在继续执行前不需要等待接收程序接收此消息。

3. 什么场合使用消息队列

你首先需要弄清楚,消息队列与远程过程调用的区别,在很多读者咨询我的时候,我发现他们需要的是RPC(远程过程调用),而不是消息队列。

消息队列有同步或异步实现方式,通常我们采用异步方式使用消息队列,远程过程调用多采用同步方式。

MQ与RPC有什么不同? MQ通常传递无规则协议,这个协议由用户定义并且实现存储转发;而RPC通常是专用协议,调用过程返回结果。

4. 什么时候使用消息队列

同步需求,远程过程调用(PRC)更适合你。

异步需求,消息队列更适合你。

目前很多消息队列软件同时支持RPC功能,很多RPC系统也能异步调用。

消息队列用来实现下列需求

① 存储转发

② 分布式事务

③ 发布订阅

④ 基于内容的路由

⑤ 点对点连接

5. 谁负责处理消息队列

通常的做法,如果小的项目团队可以有一个人实现,包括消息的推送,接收处理。如果大型团队,通常是定义好消息协议,然后各自开发各自的部分,例如一个团队负责写推送协议部分,另一个团队负责写接收与处理部分。

那么为什么我们不讲消息队列框架化呢?

框架化有几个好处:

① 开发者不用学习消息队列接口
② 开发者不需要关心消息推送与接收
③ 开发者通过统一的API推送消息
④ 开发者的重点是实现业务逻辑功能

6. 怎么实现消息队列框架

下面是作者开发的一个SOA框架,该框架提供了三种接口,分别是SOAP,RESTful,AMQP(RabbitMQ),理解了该框架思想,你很容易进一步扩展,例如增加XML-RPC, ZeroMQ等等支持。

https://github.com/netkiller/SOA

本文只讲消息队列框架部分。

6.1. 守护进程

消息队列框架是本地应用程序(命令行程序),我们为了让他在后台运行,需要实现守护进程。

https://github.com/netkiller/SOA/blob/master/bin/rabbitmq.php

每个实例处理一组队列,实例化需要提供三个参数,$queueName = '队列名', $exchangeName = '交换名', $routeKey = '路由'

$daemon = new \framework\RabbitDaemon($queueName = 'email', $exchangeName = 'email', $routeKey = 'email');

守护进程需要使用root用户运行,运行后会切换到普通用户,同时创建进程ID文件,以便进程停止的时候使用。

守护进程核心代码https://github.com/netkiller/SOA/blob/master/system/rabbitdaemon.class.php

6.2. 消息队列协议

消息协议是一个数组,将数组序列化或者转为JSON推送到消息队列服务器,这里使用json格式的协议。

$msg = array(
    'Namespace'=>'namespace',
    "Class"=>"Email",
    "Method"=>"smtp",
    "Param" => array(
        $mail, $subject, $message, null
    )
);

序列化后的协议

{"Namespace":"single","Class":"Email","Method":"smtp","Param":["netkiller@msn.com","Hello"," TestHelloWorld",null]}

使用json格式是考虑到通用性,这样推送端可以使用任何语言。如果不考虑兼容,建议使用二进制序列化,例如msgpack效率更好。

6.3. 消息队列处理

消息队列处理核心代码

https://github.com/netkiller/SOA/blob/master/system/rabbitmq.class.php

所以消息的处理在下面一段代码中进行

$this->queue->consume(function($envelope, $queue) {
    $speed = microtime(true);
    $msg = $envelope->getBody();
    $result = $this->loader($msg);
    $queue->ack($envelope->getDeliveryTag()); //手动发送ACK应答
    //$this->logging->info(''.$msg.' '.$result)
    $this->logging->debug('Protocol: '.$msg.' ');
    $this->logging->debug('Result: '. $result.' ');
    $this->logging->debug('Time: '. (microtime(true) - $speed) .'');
});

public function loader($msg = null) 负责拆解协议,然后载入对应的类文件,传递参数,运行方法,反馈结果。

Time 可以输出程序运行所花费的时间,对于后期优化十分有用。

提示

loader() 可以进一步优化,使用多线程每次调用loader将任务提交到线程池中,这样便可以多线程处理消息队列。

6.4. 测试

测试代码 https://github.com/netkiller/SOA/blob/master/test/queue/email.php

<?php
$queueName = 'example';
$exchangeName = 'email';
$routeKey = 'email';
$mail = $argv[1];
$subject = $argv[2];
$message = empty($argv[3]) ? 'Hello World!' : ' '.$argv[3];
$connection = new AMQPConnection(array(
    'host' => '192.168.4.1',
    'port' => '5672',
    'vhost' => '/',
    'login' => 'guest',
    'password' => 'guest'
    ));
$connection->connect() or die("Cannot connect to the broker!\n");
$channel = new AMQPChannel($connection);
$exchange = new AMQPExchange($channel);
$exchange->setName($exchangeName);
$queue = new AMQPQueue($channel);
$queue->setName($queueName);
$queue->setFlags(AMQP_DURABLE);
$queue->declareQueue();
$msg = array(
    'Namespace'=>'namespace',
    "Class"=>"Email",
    "Method"=>"smtp",
    "Param" => array(
        $mail, $subject, $message, null
    )
);
$exchange->publish(json_encode($msg), $routeKey);
printf("[x] Sent %s \r\n", json_encode($msg));
$connection->disconnect();

这里只给出了少量测试与演示程序,如有疑问请到渎者群,或者公众号询问。

7. 多线程

上面消息队列 核心代码如下

$this->queue->consume(function($envelope, $queue) {
    $msg = $envelope->getBody();
    $result = $this->loader($msg);
    $queue->ack($envelope->getDeliveryTag());
});

这段代码生产环境使用了半年,发现效率比较低。有些业务场入队非常快,但处理起来所花的时间就比较长,容易出现队列堆积现象。

增加多线程可能更有效利用硬件资源,提高业务处理能力。代码如下

<?php
namespace framework;
require_once( __DIR__.'/autoload.class.php' );
class RabbitThread extends \Threaded {
    private $queue;
    public $classspath;
    protected $msg;
    public function __construct($queue, $logging, $msg) {
        $this->classspath = __DIR__.'/../queue';
        $this->msg = $msg;
        $this->logging = $logging;
        $this->queue = $queue;
    }
    public function run() {
        $speed = microtime(true);
        $result = $this->loader($this->msg);
        $this->logging->debug('Result: '. $result.' ');
        $this->logging->debug('Time: '. (microtime(true) - $speed) .'');
    }
    // private
    public function loader($msg = null){
        $protocol     = json_decode($msg,true);
        $namespace    = $protocol['Namespace'];
        $class         = $protocol['Class'];
        $method     = $protocol['Method'];
        $param         = $protocol['Param'];
        $result     = null;
        $classspath = $this->classspath.'/'.$this->queue.'/'.$namespace.'/'.strtolower($class) . '.class.php';
        if( is_file($classspath) ){
            require_once($classspath);
            //$class = ucfirst(substr($request_uri, strrpos($request_uri, '/')+1));
            if (class_exists($class)) {
                if(method_exists($class, $method)){
                    $obj = new $class;
                    if (!$param){
                        $tmp = $obj->$method();
                        $result = json_encode($tmp);
                        $this->logging->info($class.'->'.$method.'()');
                    }else{
                        $tmp = call_user_func_array(array($obj, $method), $param);
                        $result = (json_encode($tmp));
                        $this->logging->info($class.'->'.$method.'("'.implode('","', $param).'")');
                    }
                }else{
                    $this->logging->error('Object '. $class. '->' . $method. ' is not exist.');
                }
            }else{
                $msg = sprintf("Object is not exist. (%s)", $class);
                $this->logging->error($msg);
            }
        }else{
            $msg = sprintf("Cannot loading interface! (%s)", $classspath);
            $this->logging->error($msg);
        }
        return $result;
    }
}
class RabbitMQ {
    const loop = 10;
    protected $queue;
    protected $pool;
    public function __construct($queueName = '', $exchangeName = '', $routeKey = '') {
        $this->config = new \framework\Config('rabbitmq.ini');
        $this->logfile = __DIR__.'/../log/rabbitmq.%s.log';
        $this->logqueue = __DIR__.'/../log/queue.%s.log';
        $this->logging = new \framework\log\Logging($this->logfile, $debug=true);
 //.H:i:s
        $this->queueName    = $queueName;
        $this->exchangeName    = $exchangeName;
        $this->routeKey        = $routeKey;
        $this->pool = new \Pool($this->config->get('pool')['thread']);
    }
    public function main(){
        $connection = new \AMQPConnection($this->config->get('rabbitmq'));
        try {
            $connection->connect();
            if (!$connection->isConnected()) {
                $this->logging->exception("Cannot connect to the broker!"
.PHP_EOL);
            }
            $this->channel = new \AMQPChannel($connection);
            $this->exchange = new \AMQPExchange($this->channel);
            $this->exchange->setName($this->exchangeName);
            $this->exchange->setType(AMQP_EX_TYPE_DIRECT); //direct类型
            $this->exchange->setFlags(AMQP_DURABLE); //持久�?
            $this->exchange->declareExchange();
            $this->queue = new \AMQPQueue($this->channel);
            $this->queue->setName($this->queueName);
            $this->queue->setFlags(AMQP_DURABLE); //持久�?
            $this->queue->declareQueue();
            $this->queue->bind($this->exchangeName, $this->routeKey);
            $this->queue->consume(function($envelope, $queue) {
                $msg = $envelope->getBody();
                $this->logging->debug('Protocol: '.$msg.' ');
                //$result = $this->loader($msg);
                $this->pool->submit(new RabbitThread($this->queueName,
new \framework\log\Logging($this->logqueue, $debug=true), $msg));
                $queue->ack($envelope->getDeliveryTag());
            });
            $this->channel->qos(0,1);
        }
        catch(\AMQPConnectionException $e){
            $this->logging->exception($e->__toString());
        }
        catch(\Exception $e){
            $this->logging->exception($e->__toString());
            $connection->disconnect();
            $this->pool->shutdown();
        }
    }
    private function fault($tag, $msg){
        $this->logging->exception($msg);
        throw new \Exception($tag.': '.$msg);
    }
    public function __destruct() {
    }
}

更多关于PHP相关内容感兴趣的读者可查看本站专题:《PHP数据结构与算法教程》、《php程序设计算法总结》、《php字符串(string)用法总结》、《PHP数组(Array)操作技巧大全》、《PHP常用遍历算法与技巧总结》及《PHP数学运算技巧总结》

希望本文所述对大家PHP程序设计有所帮助。

(0)

相关推荐

  • PHP消息队列实现及应用详解【队列处理订单系统和配送系统】

    本文实例讲述了PHP消息队列实现及应用.分享给大家供大家参考,具体如下: 在互联网项目开发者经常会遇到『给用户群发短信』.『订单系统有大量的日志需要记录』或者在秒杀业务的时候服务器无法承受瞬间并发的压力. 这种情况下,我们怎么保证系统正常有效的运行呢? 这个时候,我们可以引入一个叫『消息队列』的概念来解决上面的需求. 消息队列的概念.原理和场景 在高并发的时候,程序往往无法做到及时的处理.我们引入一个中间的系统,来进行分流和减压. 所以从本质上讲:消息队列就是一个队列结构的中间件.也就是说,你把

  • PHP使用ActiveMQ实现消息队列的方法详解

    本文实例讲述了PHP使用ActiveMQ实现消息队列的方法.分享给大家供大家参考,具体如下: 前面我们已经学了如何部署ActiveMQ, 我们知道通过ActiveMQ的一个管理后台可以查看任务队列. 今天 用PHP来操作ActiveMQ,我们可以借助一个第三方扩展. 下载: composer require fusesource/stomp-php:2.0.* 然后新建test.php: <?php require __DIR__.'/vendor/autoload.php'; //引入自动加载

  • PHP+memcache实现消息队列案例分享

    memche消息队列的原理就是在key上做文章,用以做一个连续的数字加上前缀记录序列化以后消息或者日志.然后通过定时程序将内容落地到文件或者数据库. php实现消息队列的用处比如在做发送邮件时发送大量邮件很费时间的问题,那么可以采取队列.方便实现队列的轻量级队列服务器是:starling支持memcache协议的轻量级持久化服务器https://github.com/starling/starlingBeanstalkd轻量.高效,支持持久化,每秒可处理3000左右的队列http://kr.gi

  • phpredis提高消息队列的实时性方法(推荐)

    数据库存贮都用list形式 要存2个队列 1个用作消息队列保存到数据 还有个 就是用来实时读取数据在redis $redis->lpush($queenkey, json_encode($array)); $redis->lpush($listkey, json_encode($array)); /*消息队列实例*/ public function insertinfo() { $infos = array('info1' => mt_rand(10,100), 'info2' =>

  • PHP多进程通信-消息队列使用

    向消息队列发送数据和获取数据的测试 <?php $key=ftok(__FILE__,'a'); //获取消息队列 $queue=msg_get_queue($key,0666); //发送消息 //msg_send($queue, 1, "Hello, 1"); //接收消息,如果接收不到会阻塞 msg_receive($queue, 1, $message_type, 1024, $message1); //移除消息 //msg_remove_queue($queue); /

  • php Memcache 中实现消息队列

    对于一个很大的消息队列,频繁进行进行大数据库的序列化 和 反序列化,有太耗费.下面是我用PHP 实现的一个消息队列,只需要在尾部插入一个数据,就操作尾部,不用操作整个消息队列进行读取,与操作.但是,这个消息队列不是线程安全的,我只是尽量的避免了冲突的可能性.如果消息不是非常的密集,比如几秒钟才一个,还是可以考虑这样使用的. 如果你要实现线程安全的,一个建议是通过文件进行锁定,然后进行操作.下面是代码: 复制代码 代码如下: class Memcache_Queue { private $memc

  • PHP PDO和消息队列的个人理解与应用实例分析

    本文实例讲述了PHP PDO和消息队列的个人理解与应用.分享给大家供大家参考,具体如下: 什么是消息队列,百度百科说,···消息队列····是在消息的传输过程中保存消息的容器. 看着网上林林总总的文章,都说是为了应对高并发,处理数据量超级大的一种数据容器,也可以说是利用各种方式,先把数据存储在一个···容器···中,然后,再慢慢从这个容器中获取数据,实现·····异步操作数据库·····的方式,以便降低数据库的压力. 不管消息队列是什么,个人姑且认为它就是一种存储数据的···容器···,就这么简

  • 使用PHP访问RabbitMQ消息队列的方法示例

    本文实例讲述了使用PHP访问RabbitMQ消息队列的方法.分享给大家供大家参考,具体如下: 扩展安装 PHP访问RabbitMQ实际使用的是AMQP协议,所以我们只要安装epel库中的php-pecl-amqp这个包即可 rpm -ivh http://mirror.neu.edu.cn/fedora/epel/6/x86_64/epel-release-6-8.noarch.rpm yum install php-pecl-amqp 交换建立 <?php $connection = new

  • php+redis消息队列实现抢购功能

    本文实例为大家分享了php+redis消息队列实现抢购的具体代码,供大家参考,具体内容如下 实现功能: 1. 基于redis队列,防止高并发的超卖 2. 基于mysql的事务加排它锁,防止高并发的超卖 基于redis队列工作流程: 1. 管理员根据goods表中的库存,创建redis商品库存队列 2. 客户端访问秒杀API 3. web服务器先从redis的商品库存队列中查询剩余库存重点内容 4. redis队列中有剩余,则在mysql中创建订单,去库存,抢购成功 5. redis队列中没有剩余

  • PHP消息队列用法实例分析

    本文实例讲述了PHP消息队列用法.分享给大家供大家参考,具体如下: 该消息队列用于linux下,进程通信 #根据路径和后缀创建一个id $key = ftok(__DIR__, 'R'); #获取队列中的消息 $q = msg_get_queue($key); #删除队列 msg_remove_queue($q); #获取队列的状态信息 $status = msg_stat_queue($q); print_r($status); echo "\n"; for($i=0;$i<1

随机推荐