python中的函数、生成器的工作原理

Dimples 2020-01-04

1.python中函数的工作原理

def foo():
    bar()

def bar():
    pass

python的解释器,也就是python.exe(c编写)会用PyEval_EvalFramEx(c函数)运行foo()函数
首先会创建一个栈帧(stack Frame),在栈帧对象的上下文里面去运行这个字节码。

import dis
print(dis.dis(foo))  #打印字节码

可以尝试着去打印foo的字节码:

python中的函数、生成器的工作原理

关于字节码的解释:

LOAD_GLOBAL:首先导入bar这个函数
CALL_FUNCTION:执行bar函数
POP_TOP:从栈的顶端去把元素打印出来
LOAD_CONST:返回结果,这里没有return,就是None
RETURN_VALUE:返回结果

打印bar的字节码:

print(dis.dis(bar))

python中的函数、生成器的工作原理

这个字节码全局是唯一的,函数是全局唯一的,然后在函数里面会调用另外一个函数。

当foo调用函数bar,又会创建一个栈帧,然后将这个函数的控制权交给这个栈帧。

所有的栈帧都分配在内存中,它不是放在栈的内存上,而是放在堆的内存上,你不去释放它就会一直存在我们的内存当中。

这就决定了栈帧可以独立于调用者存在,比如就算函数不存在了,只要有指针指向bar这个栈帧,就可以对其进行控制。

(python中一切皆对象,栈帧也是对象,是一个字节码对象)

import inspect
frame = None  #保存frame

def foo():
    bar()

def bar():
    global frame  #引入全局变量
    frame = inspect.currentframe()  #将bar的frame赋给全局变量

foo()
print(frame.f_code.co_name)  #bar  函数退出之后,依然可以拿到bar函数的栈帧
caller_frame = frame.f_back
print(caller_frame.f_code.co_name)  #foo  也可以拿到foo函数的栈帧

2.生成器的实现原理

在静态语言中,函数调用的时候是一个栈的形式,函数调用完成之后栈就会被销毁。
下面是函数的调用过程:

python中的函数、生成器的工作原理

PyEval_evalFrameEx会创建一个foo的栈帧对象,这个对象里面有两个属性。f_back为None,因为没有上层函数,f_code指向foo的字节码

同时PyEval_evalFrameEx也会创建一个bar的栈帧对象,f_back指向foo,f_code指向bar的字节码。
最大的特点就是栈帧对象存在于堆内存中,这样生成器才有实现的可能。

def gen_func():
    yield 1
    name = "ming"
    yield 2
    age = 28
    return "kebi"  #在早期的生成器版本中不能使用return

当python解释器在读取gen_fun()这个函数的时候,发现yield关键字就会将其标记为生成器函数。
gen_func()
当我们来调用这个函数的时候,就会返回一个生成器对象。
这个生成器对象是将PyFrame做了一层封装。

python中的函数、生成器的工作原理
在PyFrameObject和PyCodeObject上面又封装了一层PyGenObject,就是python的生成器对象。
PyGenObject中gi_frame属性指向PyGrameObject,gi_code属性指向PyCodeObject。
PyFrameObject又有f_lasti和f_locals属性。
f_lasti会指向最近执行的这个代码。

可以尝试打印字节码:

def gen_func():
    yield 1
    name = "ming"
    yield 2
    age = 28
    return "kebi"  #在早期的生成器版本中不能使用return
    
import dis
gen = gen_func()
print(dis.dis(gen))

查看结果:
python中的函数、生成器的工作原理
这里面可以看到有两次yield。当我们每一次对生成器做一次调用的时候,它遇到yield就会停止。
停止了之后,就会记录f_lasti(位置)和f_locals(变量)这两个值。

可以尝试着调用打印取每一个值,f_lasti和f_locals的变化

print(gen.gi_frame.f_lasti)  #-1
print(gen.gi_frame.f_locals) #{}
next(gen)                       
print(gen.gi_frame.f_lasti)  #2
print(gen.gi_frame.f_locals) #{}
next(gen)
print(gen.gi_frame.f_lasti)  #12
print(gen.gi_frame.f_locals) #{'name':'ming'}

与上方字节码是一样的。

python中的函数、生成器的工作原理

这样整个生成器对象就存在与堆内存中,可以独立存在,每次执行一次函数,就会生成一个栈帧对象。
我们可以在任何地方,只要能拿到这个栈帧对象就能够往前走。这也是python中协程的一个理论基础。

此时我们可以知道为什么生成器是一个一个返回。

3.pyc文件

当你在执行python代码的时候,会发现执行目录下面会出现.pyc文件。

[ resources]# ls
r1.py  r1.pyc  r2.py  r3.py
[ resources]# cat r1.pyc
 
?:]
dZdS(tname_r1N(R(((s/tmp/demo/resources/r1.py<module>s

r1.pyc是一个二进制文件,当执行的文件中存在包的引入就会编译生成二进制文件。

当python程序运行时,编译的结果则是保存在位于内存中的PyCodeObject中,当Python程序运行结束时,Python解释器则将PyCodeObject写回到pyc文件中。

当python程序第二次运行时,首先程序会在硬盘中寻找pyc文件,如果找到,则直接载入,否则就重复上面的过程。

所以我们应该这样来定位PyCodeObject和pyc文件,我们说pyc文件其实是PyCodeObject的一种持久化保存方式。

相关推荐