Django celery实现异步任务操作,并在后台运行(守护进程)
没废话,直接上代码。
环境说明:
python3.6
django2.0.5
我们使用redis的作为celery任务队列,有一个合成包可以直接安装两者一起使用需要的安装包
直接在终端键入
pip install celery-with-redis
就可以安装需要的依赖包了
构建项目过程略过,直接开始进行celery配置
一、celery配置。
我们的项目名称为myproject,首先setting配置,添加
# celery settings # celery中间人 redis://redis服务所在的ip地址:端口/数据库号 BROKER_URL = 'redis://localhost:6379/3' # celery结果返回,可用于跟踪结果 CELERY_RESULT_BACKEND = 'redis://localhost:6379/3' # celery内容等消息的格式设置 CELERY_ACCEPT_CONTENT = ['application/json', ] CELERY_TASK_SERIALIZER = 'json' CELERY_RESULT_SERIALIZER = 'json' # celery时区设置,使用settings中TIME_ZONE同样的时区 CELERY_TIMEZONE = TIME_ZONE
然后在PATH/myproject/myproject/即setting的同级目录下创建celery.py,初始化celery。
from __future__ import absolute_import, unicode_literals from celery import Celery from django.conf import settings import os # 获取当前文件夹名,即为该Django的项目名 project_name = os.path.split(os.path.abspath('.'))[-1] project_settings = '%s.settings' % project_name # 设置环境变量 os.environ.setdefault('DJANGO_SETTINGS_MODULE', project_settings) # 实例化Celery app = Celery(project_name) # 使用django的settings文件配置celery app.config_from_object('django.conf:settings') # Celery加载所有注册的应用 app.autodiscover_tasks(lambda: settings.INSTALLED_APPS)
这里第一行输入不能换位置,只能在首行,否则会报错。
这里的实例化celery的app我们在别处要导入,为了方便导入,我们把它放到__init__.py里,所以在/myproject/myproject/__init__.py我们加入
from __future__ import absolute_import, unicode_literals # 引入celery实例对象 from .celery import app as celery_app
这样同时也能告知django celery.py文件的存在。
二、用celery装饰我们的需要进行的异步函数。
我们在项目根目录下创建celery_tasks模块,即在PATH/myproject/下创建该模块,然后在该模块下创建tasks.py,把我们的耗时程序写进去。
from myproject import celery_app import time @celery_app.task def time_consuming_fun(): for i in range(5): time.sleep(1) print(i) return 'ok'
直接用我们的celery_app下的task方法装饰需要进行异步处理的函数即可。
三、调用异步函数。
在view中调用,这里用的是Django的类视图。
from celery_tasks.tasks import time_consuming_fun from django.views import View from django.http import JsonResponse # Create your views here. class MyView(View): def get(self,request): #异步调用 time_consuming_fun.delay() #直接调用 #time_consuming_fun() return JsonResponse({'msg':'ok','code':200})
配置好url即可。
四、启动celery。
在项目根目录下,即managy同级文件目录下,输入命令:
celery -A myproject worker -l info
此时celery在终端窗口运行,关闭终端celery就会停止。
输入命令
celery multi start w1 -A myproject -l info --logfile = celerylog.log --pidfile = celerypid.pid
此时celery为守护进程,日志记录在celerylog.log里。
日志文件可以指定路径PATH/celerylog.log,此时会在指定路径下创建日志文件。进程号文件类似。
停止或重启将开始换为stop或restart即可,所以需记录w1,即需记录woker的名称来方便重启和停止。
补充:Django项目后台不挂断运行
方法一:
1、进入项目目录下,运行下面程序:
nohup python manage.py runserver 0.0.0.0:5008 &
nohup(no hang up)用途:不挂断的运行命令
&用途:在后台运行
nohup /root/start.sh &
在shell中回车后提示:
[~]$ appending output to nohup.out
原程序的的标准输出被自动改向到当前目录下的nohup.out文件,起到了log的作用。
注意:在nohup执行成功后直接点击关闭程序按钮关闭终端,会断掉该命令对应的session,导致nohup对应的进程被通知一起shutdown。所以在使用nohup命令后台运行命令之后,需要使用exit正常退出当前账户,这样才能保证命令一直在后台运行。
方法二:这个比较高级,使用screen
1、安装screen
yum install -y screen
2、新建一个screen
screen -S xiedi
这样会新开一个窗口,然后执行命令即可
python manage.py runserver 0.0.0.0:9000
3、重开一个窗口,列出所有screen进程,如下
[root@docker ~]# screen -ls There are screens on: 3029.xiedi (Attached)
4、如果想链接上这个会话,执行命令即可
screen -r 3029
以上为个人经验,希望能给大家一个参考,也希望大家多多支持我们。如有错误或未考虑完全的地方,望不吝赐教。