10种检测Python程序运行时间、CPU和内存占用的方法
作者：Marina Mele
字体：[ ] 类型：转载 时间：
这篇文章主要介绍了10种检测Python程序运行时间、CPU和内存占用的方法,包括利用Python装饰器或是外部的Unix Shell命令等，需要的朋友可以参考下
在运行复杂的Python程序时，执行时间会很长，这时也许想提高程序的执行效率。但该怎么做呢？
首先，要有个工具能够检测代码中的瓶颈，例如，找到哪一部分执行时间比较长。接着，就针对这一部分进行优化。
同时，还需要控制内存和CPU的使用，这样可以在另一方面优化代码。
因此，在这篇文章中我将介绍7个不同的Python工具，来检查代码中函数的执行时间以及内存和CPU的使用。
1. 使用装饰器来衡量函数执行时间
有一个简单方法，那就是定义一个装饰器来测量函数的执行时间，并输出结果：
import time
from functools import wraps
def fn_timer(function):
@wraps(function)
def function_timer(*args, **kwargs):
t0 = time.time()
result = function(*args, **kwargs)
t1 = time.time()
print ("Total time running %s: %s seconds" %
(function.func_name, str(t1-t0))
return result
return function_timer
接着，将这个装饰器添加到需要测量的函数之前，如下所示：
def myfunction(...):
例如，这里检测一个函数排序含有200万个随机数字的数组所需的时间：
def random_sort(n):
return sorted([random.random() for i in range(n)])
if __name__ == "__main__":
random_sort(2000000)
执行脚本时，会看到下面的结果：
Total time running random_sort: 1. seconds
2. 使用timeit模块
另一种方法是使用timeit模块，用来计算平均时间消耗。
执行下面的脚本可以运行该模块。
python -m timeit -n 4 -r 5 -s "import timing_functions" "timing_functions.random_sort(2000000)"
这里的timing_functions是Python脚本文件名称。
在输出的末尾，可以看到以下结果：
4 loops, best of 5: 2.08 sec per loop
这表示测试了4次，平均每次测试重复5次，最好的测试结果是2.08秒。
如果不指定测试或重复次数，默认值为10次测试，每次重复5次。
3. 使用Unix系统中的time命令
然而，装饰器和timeit都是基于Python的。在外部环境测试Python时，unix time实用工具就非常有用。
运行time实用工具：
$ time -p python timing_functions.py
输出结果为：
Total time running random_sort: 1. seconds
第一行来自预定义的装饰器，其他三行为：
&&& real表示的是执行脚本的总时间
&&& user表示的是执行脚本消耗的CPU时间。
&&& sys表示的是执行内核函数消耗的时间。
注意：根据，内核是一个计算机程序，用来管理软件的输入输出，并将其翻译成CPU和其他计算机中的电子设备能够执行的数据处理指令。
因此，Real执行时间和User+Sys执行时间的差就是消耗在输入/输出和系统执行其他任务时消耗的时间。
4. 使用cProfile模块
如果想知道每个函数和方法消耗了多少时间，以及这些函数被调用了多少次，可以使用cProfile模块。
$ python -m cProfile -s cumulative timing_functions.py
现在可以看到代码中函数的详细描述，其中含有每个函数调用的次数，由于使用了-s选项（累加），最终结果会根据每个函数的累计执行时间排序。
读者会发现执行脚本所需的总时间比以前要多。这是由于测量每个函数的执行时间这个操作本身也是需要时间。
5. 使用line_profiler模块
line_profiler模块可以给出执行每行代码所需占用的CPU时间。
首先，安装该模块：
$ pip install line_profiler
接着，需要指定用@profile检测哪个函数（不需要在代码中用import导入模块）：
def random_sort2(n):
l = [random.random() for i in range(n)]
if __name__ == "__main__":
random_sort2(2000000)
最好，可以通过下面的命令获得关于random_sort2函数的逐行描述。
$ kernprof -l -v timing_functions.py
其中-l表示逐行解释，-v表示表示输出详细结果。通过这种方法，我们看到构建数组消耗了44%的计算时间，而sort()方法消耗了剩余的56%的时间。
同样，由于需要检测执行时间，脚本的执行时间更长了。
6. 使用memory_profiler模块
memory_profiler模块用来基于逐行测量代码的内存使用。使用这个模块会让代码运行的更慢。
安装方法如下：
pip install memory_profiler
另外，建议安装psutil包，这样memory_profile会运行的快一点：
$ pip install psutil
与line_profiler相似，使用@profile装饰器来标识需要追踪的函数。接着，输入：
$ python -m memory_profiler timing_functions.py
脚本的执行时间比以前长1或2秒。如果没有安装psutil包，也许会更长。
从结果可以看出，内存使用是以MiB为单位衡量的，表示的mebibyte（1MiB = 1.05MB）。
7. 使用guppy包
最后，通过这个包可以知道在代码执行的每个阶段中，每种类型（str、tuple、dict等）分别创建了多少对象。
安装方法如下：
$ pip install guppy
接着，将其添加到代码中：
from guppy import hpy
def random_sort3(n):
hp = hpy()
print "Heap at the beginning of the functionn", hp.heap()
l = [random.random() for i in range(n)]
print "Heap at the end of the functionn", hp.heap()
if __name__ == "__main__":
random_sort3(2000000)
运行代码：
$ python timing_functions.py
可以看到输出结果为：
通过在代码中将heap()放置在不同的位置，可以了解到脚本中的对象创建和删除操作的流程。
如果想学习更多关于Python代码速度优化方面的知识，我建议你去读这本书《.》
希望这篇文章能偶帮到你！^_^
您可能感兴趣的文章:
大家感兴趣的内容
12345678910
最近更新的内容
常用在线小工具python脚本设置超时机制系统时间的方法
作者：juejiang
字体：[ ] 类型：转载 时间：
这篇文章主要介绍了python脚本设置超时机制系统时间的方法,感兴趣的小伙伴们可以参考一下
本文为大家介绍了python脚本设置系统时间的方法，一共有两种，其一是调用socket直接发送udp包到国家授时中心，其二是调用ntplib包。我在本地电脑ping 国家授时中心地址cn.pool.ntp.org有时出现丢包，然而，二者都没有检查udp是否丢包的机制，方法一在udp丢包后一直处于阻塞状态无法退出，方法二虽然会提示超时，但是不再做其它尝试，比如重新发包，或者向同一个域名的不同IP地址发包。于是，尝试在方法一的代码基础上，增加了超时机制，并且尝试向同一个域名的不同IP地址发包。
具体修改后的完整代码如下：
#-*- coding:utf-8 -*-
import socket
import struct
import time
import win32api
def getTime(TimeServerAddresses):
TIME_1970 = L
client = socket.socket(socket.AF_INET, socket.SOCK_DGRAM)
client.settimeout(3)
data = '\x1b' + 47 * '\0'
#TimeServer_ip=socket.gethostbyname('cn.pool.ntp.org')
#TimeServer_ip='202.118.1.130'
for address in TimeServerAddresses:
success=False
while not success and count&3:
print address,count
client.sendto(data, (address, Port))
data, address = client.recvfrom(1024)
success=True
except socket.timeout:
print 'Request timed out!'
count=count+1
if success==True:a
data_result = struct.unpack('!12I', data)[10]
data_result -= TIME_1970
return data_result
def setSystemTime(now_time):
tm_year, tm_mon, tm_mday, tm_hour, tm_min, tm_sec, tm_wday, tm_yday, tm_isdst = time.gmtime(now_time)
win32api.SetSystemTime(tm_year, tm_mon, tm_wday, tm_mday, tm_hour, tm_min, tm_sec, 0)
print "Set System OK!"
def getServerIP():
res1=os.popen('nslookup cn.pool.ntp.org')
result1=res1.read()
addresses=result1.split('\n\n')[1].split('\n')[1][12:].split(',')
return addresses
#for address in addresses:
res=os.popen('ping -n 2 '+address)
result=res.read()
received_num=int(re.findall('Received = [0-9]',result)[0].split('=')[1])
if received_num & 1:
#TimeServer=address
if __name__ == '__main__':
addresses=getServerIP()
now_time=getTime(addresses)
setSystemTime(now_time)
print "%d-%d-%d %d:%d:%d" % time.localtime(now_time)[:6]
以上就是本文的全部内容，希望对大家的学习有所帮助。
您可能感兴趣的文章:
大家感兴趣的内容
12345678910
最近更新的内容
常用在线小工具用 Python 脚本如何实现，启动 Python 脚本的脚本，例如在 shell 中执行 “python test.py”？ - 知乎30被浏览7347分享邀请回答93 条评论分享收藏感谢收起f = open("test.py")
exec(f.read())
31 条评论分享收藏感谢收起查看更多回答2016年4月 扩充话题大版内专家分月排行榜第二2015年10月 扩充话题大版内专家分月排行榜第二2015年9月 扩充话题大版内专家分月排行榜第二
2011年9月 C/C++大版内专家分月排行榜第二2011年4月 C/C++大版内专家分月排行榜第二2010年11月 C/C++大版内专家分月排行榜第二
2011年6月 C/C++大版内专家分月排行榜第三
匿名用户不能发表回复！|
每天回帖即可获得10分可用分！小技巧：
你还可以输入10000个字符
(Ctrl+Enter)
请遵守CSDN，不得违反国家法律法规。
转载文章请注明出自“CSDN（www.csdn.net）”。如是商业用途请联系原作者。小木虫 --- 600万学术达人喜爱的学术科研平台
热门搜索：
&&查看话题
如何在VASP内运行python的脚本
我想运行一个用来计算frequency的python程序，这个程序如下
from ase.units import kB
from ase.io import read
from ase.vibrations import Vibrations
from ase.calculators.vasp import Vasp
calc = Vasp(xc='PBE', encut=400, kpts=(3,3,1), ismear=0, sigma=0.1, ediff=1e-8, prec='accurate',
& && && && &lcharg=False, lwave=False, nelmin=4, nelmdl=6, npar=2, algo='fast', lreal='auto')
atoms = read('../CONTCAR')
atoms.set_calculator(calc)
indices =&&# Only vibrating the adsorbate
vib = Vibrations(atoms, name='co', indices=indices) # Define a Vibrations object
vib.run() # Run vibrations
vib.summary() # Print a summary
问题是这个脚本可以在python下运行，但是会报错说需要POTCAR，而如果在我的VASP的工作目录下运行，则前四行就会报错，因为VASP的文件里没有ase，请问什么代码可以调用python程序里的ase.unit？
能具体一点吗？你是说这个代码是错的？
学术必备与600万学术达人在线互动！
扫描下载送金币