Python执行时间计算方法以及优化总结

目录
  • 一、时间不一致的猜想
  • 二、原因探索
    • 1.方法一
    • 2.方法二
    • 3.方法三
  • 三、python 运行效率慢的原因
    • 1.简介
    • 2.运行效率慢的原因
  • 四、python 优化

一、时间不一致的猜想

python脚本运行时间远远大于python脚本中统计的计算时间

猜想:

1.python中用到的是py2neo的写数据异步,阻塞进程运行;

2.python脚本使用统计时间的方式是time.clock(),而这种方式统计的是CPU的执行时间,不是程序的执行时间。

程序执行时间 = CPU运行时间 + IO时间 + 休眠或等待时间

二、原因探索

1.方法一

import asyncio
import datetime
starttime = datetime.datetime.now()
# long running
# do something other

async def sayhi():
    print("你好,若竹")
    await asyncio.sleep(10)
    print("用余生去守护")

asyncio.run(sayhi())

endtime = datetime.datetime.now()
print(("程序运行时间为:")+ str((endtime-starttime).seconds)+"秒")

输出:

你好,若竹
用余生去守护
程序运行时间为:10秒

datetime.datetime.now()获取的是当前日期,在程序执行结束之后,这个方式获得的时间值为程序执行的时间。

2.方法二

import asyncio
import datetime
import time

starttime = time.time()
# long running
# do something other

async def sayhi():
    print("你好,若竹")
    await asyncio.sleep(10)
    print("用余生去守护")

asyncio.run(sayhi())

endtime = time.time()
print("程序运行时间为:"+ str(float(endtime-starttime))+"秒")

输出:

你好,若竹
用余生去守护
程序运行时间为:10.002257108688354秒

time.time()获取自纪元以来的当前时间(以秒为单位)。如果系统时钟提供它们,则可能存在秒的分数,所以这个地方返回的是一个浮点型类型。这里获取的也是程序的执行时间。

3.方法三

import asyncio
import datetime
import time

starttime = time.clock()
# long running
# do something other

async def sayhi():
    print("你好,若竹")
    await asyncio.sleep(10)
    print("用余生去守护")

asyncio.run(sayhi())

endtime = time.clock()
print("程序运行时间为:"+ str(float(endtime-starttime))+"秒")

输出:

.\py_study.py:807: DeprecationWarning: time.clock has been deprecated in Python 3.3 and will be removed from Python 3.8: use time.perf_counter or time.process_time instead
  starttime = time.clock()
你好,若竹
用余生去守护
.\py_study.py:818: DeprecationWarning: time.clock has been deprecated in Python 3.3 and will be removed from Python 3.8: use time.perf_counter or time.process_time instead
  endtime = time.clock()
程序运行时间为:10.0219916秒

Deprecation Warning: time. clock has been deprecated in Python 3.3 and will be removed from Python 3.8: use time. perf_counter or time. process_time instead

弃用警告:时间。clock在Python 3.3中已弃用,并将从Python 3.8中移除:使用time。perf_counter或时间。process_time代替。

代码如下:

import asyncio
import datetime
import time

starttime = time.perf_counter()
# long running
# do something other

async def sayhi():
    print("你好,若竹")
    await asyncio.sleep(10)
    print("用余生去守护")

asyncio.run(sayhi())

endtime = time.perf_counter()
print("程序运行时间为:"+ str(float(endtime-starttime))+"秒")

输出:

你好,若竹
用余生去守护
程序运行时间为:10.060287599999999秒

三、python 运行效率慢的原因

1.简介

编程语言的效率一方面指开发效率,即程序员完成编码所需的时间,另一方面是运行效率,即计算任务所需的时间。编码效率和运行效率往往很难兼顾。

2.运行效率慢的原因

1.python 是动态语言,造成运行时的不确定性影响运行效率;

动态语言是一类在运行时可以改变其结构的语言,如新的函数、对象、代码可以被引入,已有的函数可以被删除或其他结构上的变化等,该类语言更具有活性,但是不可避免的因为运行时的不确定性也影响运行效率。数据的比较和转换类型的开销很大,每次读取、写入或引用一个变量,都要检查类型。很难优化一种极具动态性的语言。Python的许多替代语言之所以快得多,原因在于它们为了性能在灵活性方面作出了牺牲。

2.python 是解释执行,不支持JIT(just in time compiler);

相比于C语言编译性语言编写的程序,Python是解释执行语言,其运行过程是Python运行文件程序时,Python解释器将源代码转换为字节码,然后再由Python解释器来执行这些字节码。其每次运行都要进行转换成字节码,然后再由虚拟机把字节码转换成机器语言,最后才能在硬件上运行,与编译性语言相比,其过程更复杂,性能肯定会受影响。

3.python 中一切皆对象,每个对象都需要维护引用计数,增加额外工作;

Python是一门面向对象的编程语言,其设计理念是一切皆是对象,如数字、字符串、元组、列表、字典、函数、方法、类、模块等都是对象,包括代码,每个对象都需要维护引用计数,因此,增加了额外工作,影响了性能。

4.python GIL,全局解释器锁导致无法实现真正的并发;

GIL是Python最为诟病的一点,因为GIL,Python中的多线程并不能真正的并发,即使在单线程,GIL也会带来很大的性能影响,因为python每执行100个opcode就会尝试线程的切换,因此,影响Python运行效率。

5.垃圾回收机制,会中断正在执行的程序,造成所谓的卡顿;

Python采用标记和分代的垃圾回收策略,每次垃圾回收的时候都会中断正在执行的程序,造成所谓的顿卡,影响运行效率。

四、python 优化

1.优化算法:时间复杂度

算法的时间复杂度对程序的执行效率影响最大,在python 中可以通过选择合适的数据结构来优化时间复杂度,如list和set查找某一个元素的时间复杂度分别是O(n)和O(1).不同的场景有不同的优化方式,总的来说,一般有分治,分支界限,贪心,动态规划等。

20减少冗余数据

如用上三角或下三角的方式去保存一个大的对称矩阵。在0元素占大多数的矩阵里使用稀疏矩阵表示。

3.合理使用copy与deepcopy

对于dict和list等数据结构的对象,直接赋值使用的是引用的方式。而有些情况下需要复制整个对象,这时可以使用copy包里的copy和deepcopy,这两个函数的不同之处在于后者是递归复制的。效率也不一样:(以下程序在ipython中运行)

4.使用dict或set查找元素

5.合理使用生成器(generator)和yield

6.优化循环

7.优化包含多个判断表达式的顺序

8.使用join合并迭代器中的字符串

9.选择合适的格式化字符方式

10.不借助中间变量交换两个变量的值

11.使用if is

12.使用级联比较x < y < z

13.while 1 比 while True 更快

14.使用**而不是pow

15.使用 cProfile, cStringIO 和 cPickle等用c实现相同功能(分别对应profile, StringIO, pickle)的包

16.使用最佳的反序列化方式

17.使用C扩展(Extension)

18.并行编程

19.终级大杀器:PyPy

20.使用性能分析工具

到此这篇关于Python执行时间计算方法以及优化总结的文章就介绍到这了,更多相关Python执行时间内容请搜索我们以前的文章或继续浏览下面的相关文章希望大家以后多多支持我们!

(0)

相关推荐

  • Python如何计算语句执行时间

    这篇文章主要介绍了Python如何计算语句执行时间,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下 魔法命令 In [1]: #%time 对单个语句执行时间计时用法放在需要计算的语句前面 %time sum(range(1000)) Wall time: 0 ns Out[1]: 499500 In [2]: #这个操作很快,可以用%timeit计算,该命令重复计算很多次以得到更精确的时间,重复次数自动调整 %timeit sum(range(

  • Python执行时间的几种计算方法

    首先说一下我遇到的坑,生产上遇到的问题,我调度Python脚本执行并监控这个进程,python脚本运行时间远远大于python脚本中自己统计的程序执行时间. 监控python脚本执行的时间是36个小时,而python脚本中统计自己执行的时间是4个小时左右. 问题暴漏之后首先想到的是linux出了问题,查找各种日志未发现有何异常. 然后是想到python中用到的py2neo的写数据异步,阻塞进程执行. 最后,终于找到问题的所在:python脚本使用统计时间的方式是time.clock(),而这种方

  • Python定时任务随机时间执行的实现方法

    背景: 有一个爬虫服务,需要定时从公开网站上拉取一些数据,为了避免被识别为爬虫(防爬虫的识别需要根据很多特征,时间仅仅是其中一个维度),需要在指定的时间内,随机生成一个时间爬取 脚本是python写的,直接上代码... import logging import traceback from datetime import datetime from apscheduler.schedulers.background import BackgroundScheduler scheduler =

  • Python执行时间的计算方法小结

    首先说一下我遇到的坑,生产上遇到的问题,我调度Python脚本执行并监控这个进程,python脚本运行时间远远大于python脚本中自己统计的程序执行时间. 监控python脚本执行的时间是36个小时,而python脚本中统计自己执行的时间是4个小时左右. 问题暴漏之后首先想到的是Linux出了问题,查找各种日志未发现有何异常. 然后是想到python中用到的py2neo的写数据异步,阻塞进程执行. 最后,终于找到问题的所在:python脚本使用统计时间的方式是time.clock(),而这种方

  • Python执行时间计算方法以及优化总结

    目录 一.时间不一致的猜想 二.原因探索 1.方法一 2.方法二 3.方法三 三.python 运行效率慢的原因 1.简介 2.运行效率慢的原因 四.python 优化 一.时间不一致的猜想 python脚本运行时间远远大于python脚本中统计的计算时间 猜想: 1.python中用到的是py2neo的写数据异步,阻塞进程运行: 2.python脚本使用统计时间的方式是time.clock(),而这种方式统计的是CPU的执行时间,不是程序的执行时间. 程序执行时间 = CPU运行时间 + IO

  • 利用python实现PSO算法优化二元函数

    python实现PSO算法优化二元函数,具体代码如下所示: import numpy as np import random import matplotlib.pyplot as plt from mpl_toolkits.mplot3d import Axes3D #----------------------PSO参数设置--------------------------------- class PSO(): def __init__(self,pN,dim,max_iter): #初

  • Python机器学习入门(六)优化模型

    目录 1.集成算法 1.1袋装算法 1.1.1袋装决策树 1.1.2随机森林 1.1.3极端随机树 1.2提升算法 1.2.1AdaBoost 1.2.2随机梯度提升 1.3投票算法 2.算法调参 2.1网络搜索优化参数 2.2随机搜索优化参数 总结 有时提升一个模型的准确度很困难.你会尝试所有曾学习过的策略和算法,但模型正确率并没有改善.这时你会觉得无助和困顿,这也正是90%的数据科学家开始放弃的时候.不过,这才是考验真正本领的时候!这也是普通的数据科学家和大师级数据科学家的差距所在. 1.集

  • Python&Matlab实现灰狼优化算法的示例代码

    目录 1 灰狼优化算法基本思想 2 灰狼捕食猎物过程 2.1 社会等级分层 2.2 包围猎物 2.3 狩猎 2.4 攻击猎物 2.5 寻找猎物 3 实现步骤及程序框图 3.1 步骤 3.2 程序框图 4 Python代码实现 5 Matlab实现 1 灰狼优化算法基本思想 灰狼优化算法是一种群智能优化算法,它的独特之处在于一小部分拥有绝对话语权的灰狼带领一群灰狼向猎物前进.在了解灰狼优化算法的特点之前,我们有必要了解灰狼群中的等级制度. 灰狼群一般分为4个等级:处于第一等级的灰狼用α表示,处于第

  • 详解Python如何实现尾递归优化

    目录 一般递归与尾递归 一般递归 尾递归 C中尾递归的优化 Python开启尾递归优化 一般递归与尾递归 一般递归 def normal_recursion(n): if n == 1: return 1 else: return n + normal_recursion(n-1) 执行: normal_recursion(5)5 + normal_recursion(4)5 + 4 + normal_recursion(3)5 + 4 + 3 + normal_recursion(2)5 +

  • Python占用的内存优化教程

    概述 如果程序处理的数据比较多.比较复杂,那么在程序运行的时候,会占用大量的内存,当内存占用到达一定的数值,程序就有可能被操作系统终止,特别是在限制程序所使用的内存大小的场景,更容易发生问题.下面我就给出几个优化Python占用内存的几个方法. 说明:以下代码运行在Python3. 举个栗子 我们举个简单的场景,使用Python存储一个三维坐标数据,x,y,z. Dict 使用Python内置的数据结构Dict来实现上述例子的需求很简单. >>> ob = {'x':1, 'y':2,

  • Python 代码性能优化技巧分享

    如何进行 Python 性能优化,是本文探讨的主要问题.本文会涉及常见的代码优化方法,性能优化工具的使用以及如何诊断代码的性能瓶颈等内容,希望可以给 Python 开发人员一定的参考. Python 代码优化常见技巧 代码优化能够让程序运行更快,它是在不改变程序运行结果的情况下使得程序的运行效率更高,根据 80/20 原则,实现程序的重构.优化.扩展以及文档相关的事情通常需要消耗 80% 的工作量.优化通常包含两方面的内容:减小代码的体积,提高代码的运行效率. 改进算法,选择合适的数据结构 一个

  • Python中使用装饰器来优化尾递归的示例

    尾递归简介 尾递归是函数返回最后一个操作是递归调用,则该函数是尾递归. 递归是线性的比如factorial函数每一次调用都会创建一个新的栈(last-in-first-out)通过不断的压栈,来创建递归, 很容易导致栈的溢出.而尾递归则使用当前栈通过数据覆盖来优化递归函数. 阶乘函数factorial, 通过把计算值传递的方法完成了尾递归.但是python不支出编译器优化尾递归所以当递归多次的话还是会报错(学习用). eg: def factorial(n, x): if n == 0: ret

随机推荐