Python自动化运维之协程函数赋值过程
一、协程
1.1 协程的概念
协程，又称微线程，纤程。英文名coroutine。一句话说明什么是线程：协程是一种用户态的轻量级线程。（其实并没有说明白~）那么这么来理解协程比较容易：
线程是系统级别的，它们是由操作系统调度；协程是程序级别的，由程序员根据需要自己调度。我们把一个线程中的一个个函数叫做子程序，那么子程序在执行过程中可以中断去执行别的子程序；别的子程序也可以中断回来继续执行之前的子程序，这就是协程。也就是说同一线程下的一段代码执行着执行着就可以中断，然后跳去执行另一段代码，当再次回来执行代码块的时候，接着从之前中断的地方开始执行。
比较专业的理解是：协程拥有自己的寄存器上下文和栈。协程调度切换时，将寄存器上下文和栈保存到其他地方，在切回来的时候，恢复先前保存的寄存器上下文和栈。因此：协程能保留上一次调用时的状态（即所有局部状态的一个特定组合），每次过程重入时，就相当于进入上一次调用的状态，换种说法：进入上一次离开时所处逻辑流的位置。
1.2 协程的优缺点
协程的优点：（1）无需线程上下文切换的开销，协程避免了无意义的调度，由此可以提高性能（但也因此，程序员必须自己承担调度的责任，同时，协程也失去了标准线程使用多cpu的能力）（2）无需原子操作锁定及同步的开销（3）方便切换控制流，简化编程模型（4）高并发+高扩展性+低成本：一个cpu支持上万的协程都不是问题。所以很适合用于高并发处理。
协程的缺点：（1）无法利用多核资源：协程的本质是个单线程,它不能同时将 单个cpu 的多个核用上,协程需要和进程配合才能运行在多cpu上.当然我们日常所编写的绝大部分应用都没有这个必要，除非是cpu密集型应用。（2）进行阻塞（blocking）操作（如io时）会阻塞掉整个程序
二、python中如何实现协程
2.1 yield实现协程
前文所述“子程序（函数）在执行过程中可以中断去执行别的子程序；别的子程序也可以中断回来继续执行之前的子程序”，那么很容易想到python的yield，显然yield是可以实现这种切换的。
def eater(name): print(%s eat food %name) while true: food = yield print(done)g = eater(gangdan)print(g)
执行结果：
由执行结果可以证明g现在就是生成器函数
2.2 协程函数赋值过程
用的是yield的表达式形式，要先运行next()，让函数初始化并停在yield，然后再send() ，send会在触发下一次代码的执行时，给yield赋值
next()和send() 都是让函数在上次暂停的位置继续运行：
def creater(name): print('%s start to eat food' %name) food_list = [] while true: food = yield food_list print('%s get %s ,to start eat' %(name,food)) food_list.append(food)# 获取生成器builder = creater('tom')# 现在是运行函数，让函数初始化next(builder)print(builder.send('包子'))print(builder.send('骨头'))print(builder.send('菜汤'))
运行结果：
tom start to eat foodtom get 包子 ,to start eat['包子']tom get 骨头 ,to start eat['包子', '骨头']tom get 菜汤 ,to start eat['包子', '骨头', '菜汤']
需要注意的是每次都需要先运行next()函数，让程序停留在yield位置。
如果有多个这样的函数都需要执行next()函数，让程序停留在yield位置。为了防止忘记初始化next操作，需要用到装饰器来解决此问题。
def init(func): def wrapper(*args,**kwargs): builder = func(*args,**kwargs) next(builder) # 这个地方是关键可以使用builder.send(none)，第一次必须传入none。 return builder return wrapper@initdef creater(name): print('%s start to eat food' %name) food_list = [] while true: food = yield food_list print('%s get %s ,to start eat' %(name,food)) food_list.append(food)# 获取生成器builder = creater(tom)# 现在是直接运行函数，无须再函数初始化print(builder.send('包子'))print(builder.send('骨头'))print(builder.send('菜汤'))
执行结果：
tom start to eat foodtom get 包子 ,to start eat['包子']tom get 骨头 ,to start eat['包子', '骨头']tom get 菜汤 ,to start eat['包子', '骨头', '菜汤']
2.3 协程函数简单应用
请给tom投喂食物：
def init(func): def wrapper(*args,**kwargs): builder = func(*args,**kwargs) next(builder) return builder return wrapper@initdef creater(name): print('%s start to eat food' %name) food_list = [] while true: food = yield food_list print('%s get %s ,to start eat' %(name,food)) food_list.append(food)def food(): builder = creater(tom) while true: food = input(请给tom投喂食物：).strip() if food == q: print(投喂结束) return 0 else: builder.send(food)if __name__ == '__main__': food()
执行结果：
tom start to eat food请给tom投喂食物：骨头tom get 骨头 ,to start eat请给tom投喂食物：菜汤tom get 菜汤 ,to start eat请给tom投喂食物：q投喂结束
2.4 协程函数的应用
实现linux中grep -rl error 命令，过滤一个文件下的子文件、字文件夹的内容中的相应的内容的功能程序。
首先了解一个os模块中的walk方法,能够把参数中的路径下的文件夹打开并返回一个元组。
>>> import os # 导入模块>>> os.walk(re:pythonscript) #使用r 是让字符串中的符号没有特殊意义，针对的是转义>>> g = os.walk(re:pythonscript)>>> next(g)('e:\python\script', ['.idea', '函数'], [])
返回的是一个元组，第一个元素是文件的路径，第二个是文件夹，第三个是该路径下的文件。
这里需要用到一个写程序的思想：面向过程编程。
三、面向过程编程
面向过程：核心是过程二字，过程及即解决问题的步骤，基于面向过程设计程序就是一条工业流水线，是一种机械式的思维方式。流水线式的编程思想，在设计程序时，需要把整个流程设计出来。
优点：1：体系结构更加清晰2：简化程序的复杂度
缺点：可扩展性极其的差，所以说面向过程的应用场景是：不需要经常变化的软件，如：linux内核，httpd，git等软件下面就根据面向过程的思想完成协程函数应用中的功能。
目录结构：
test├── aa│ ├── bb1│ │ └── file2.txt│ └── bb2│ └── file3.txt└─ file1.txt文件内容：file1.txt：error123file2.txt：123file3.txt：123error
程序流程：第一阶段：找到所有文件的绝对路径第二阶段：打开文件第三阶段：循环读取每一行第四阶段：过滤“error”第五阶段：打印该行属于的文件名第一阶段：找到所有文件的绝对路径
g是一个生成器，就能够用next()执行，每次next就是运行一次，这里的运行结果是依次打开文件的路径：
>>> import os>>> g = os.walk(re:pythonscript函数 est)>>> next(g)('e:\python\script\函数\test', ['aa'], [])>>> next(g)('e:\python\script\函数\test\aa', ['bb1', 'bb2'], ['file1.txt'])>>> next(g)('e:\python\script\函数\test\aa\bb1', [], ['file2.txt'])>>> next(g)('e:\python\script\函数\test\aa\bb2', [], ['file3.txt'])>>> next(g)traceback (most recent call last): file , line 1, in stopiteration
我们在打开文件的时候需要找到文件的绝对路径，现在可以通过字符串拼接的方法把第一部分和第三部分进行拼接。
用循环打开：
import osdir_g = os.walk(re:pythonscript函数 est)for dir_path in dir_g: print(dir_path)
结果：
('e:\python\script\函数\test', ['aa'], [])('e:\python\script\函数\test\aa', ['bb1', 'bb2'], ['file1.txt'])('e:\python\script\函数\test\aa\bb1', [], ['file2.txt'])('e:\python\script\函数\test\aa\bb2', [], ['file3.txt'])
将查询出来的文件和路径进行拼接，拼接成绝对路径
import osdir_g = os.walk(re:pythonscript函数 est)for dir_path in dir_g: for file in dir_path[2]: file = %s\%s %(dir_path[0],file) print(file)
执行结果：
e:pythonscript函数testaaile1.txte:pythonscript函数testaab1ile2.txte:pythonscript函数testaab2ile3.txt
用函数实现:
import osdef search(): while true: dir_name = yield dir_g = os.walk(dir_name) for dir_path in dir_g: for file in dir_path[2]: file = %s\%s %(dir_path[0],file) print(file)g = search()next(g)g.send(re:pythonscript函数 est)
为了把结果返回给下一流程
@init # 初始化生成器def search(target): while true: dir_name = yield dir_g = os.walk(dir_name) for pardir,_,files in dir_g: for file in files: abspath = r%s%s %(pardir,file) target.send(abspath)
第二阶段：打开文件
@initdef opener(target): while true: abspath=yield with open(abspath,'rb') as f: target.send((abspath,f))
第三阶段：循环读出每一行内容
@initdef cat(target): while true: abspath,f=yield #(abspath,f) for line in f: res=target.send((abspath,line)) if res:break
第四阶段：过滤
@initdef grep(pattern,target): tag=false while true: abspath,line=yield tag tag=false if pattern in line: target.send(abspath) tag=true
第五阶段：打印该行属于的文件名
@initdef printer(): while true: abspath=yield print(abspath)g = search(opener(cat(grep('error'.encode('utf-8'), printer()))))g.send(r'e:pythonscript函数 est')
执行结果：
e:pythonscript函数testaaile1.txte:pythonscript函数testaab2ile3.txt
4路网络信号输入光盘硬盘同步刻录录播机
明年鸿蒙生态设备将达8至10亿台！Apple Watch禁售如何解套？大众集团宣布拥抱特斯拉充电标准/热点科技新闻点
增强现实和虚拟现实的区别
plc是什么_单片机是什么_plc和单片机哪个简单好学
黄致列都不信 ，来《我是歌手》踢馆的小AI是个什么鬼？
Python自动化运维之协程函数赋值过程
机器人替代劳动力77%工作岗位？ 暂时有困难
你对于区块链钱包了解吗
三星表示将会在后期发布的手机中采用骁龙865＋芯片
关于封装市场的新格局的分析和介绍
GT900系列显卡和GT10系列显卡性能到底差多少？笔记本显卡怎么选？
解读2016年LED照明行业八大专利诉讼案
联想凌拓宣布正式成立，致力于中国存储与数据管理市场
湖北省首个“智能化安防管理油库”，实现综合智能化安防联动
截至2018年4月底，北京全市累计建成约12.7万个充电桩
物联网的隐私安全令人担忧国家应如何采取应对措施
真全面屏vivo APEX手机现身？ 搭载骁龙845看头满满！
卷积神经网络结构_卷积神经网络训练过程
巨大的应用市场是创业良机,为什么会选择ADAS行业创业？
Mirrorcle携最新MEMS微镜应用亮相CES 2019
1.1 协程的概念
协程，又称微线程，纤程。英文名coroutine。一句话说明什么是线程：协程是一种用户态的轻量级线程。（其实并没有说明白~）那么这么来理解协程比较容易：
线程是系统级别的，它们是由操作系统调度；协程是程序级别的，由程序员根据需要自己调度。我们把一个线程中的一个个函数叫做子程序，那么子程序在执行过程中可以中断去执行别的子程序；别的子程序也可以中断回来继续执行之前的子程序，这就是协程。也就是说同一线程下的一段代码执行着执行着就可以中断，然后跳去执行另一段代码，当再次回来执行代码块的时候，接着从之前中断的地方开始执行。
比较专业的理解是：协程拥有自己的寄存器上下文和栈。协程调度切换时，将寄存器上下文和栈保存到其他地方，在切回来的时候，恢复先前保存的寄存器上下文和栈。因此：协程能保留上一次调用时的状态（即所有局部状态的一个特定组合），每次过程重入时，就相当于进入上一次调用的状态，换种说法：进入上一次离开时所处逻辑流的位置。
1.2 协程的优缺点
协程的优点：（1）无需线程上下文切换的开销，协程避免了无意义的调度，由此可以提高性能（但也因此，程序员必须自己承担调度的责任，同时，协程也失去了标准线程使用多cpu的能力）（2）无需原子操作锁定及同步的开销（3）方便切换控制流，简化编程模型（4）高并发+高扩展性+低成本：一个cpu支持上万的协程都不是问题。所以很适合用于高并发处理。
协程的缺点：（1）无法利用多核资源：协程的本质是个单线程,它不能同时将 单个cpu 的多个核用上,协程需要和进程配合才能运行在多cpu上.当然我们日常所编写的绝大部分应用都没有这个必要，除非是cpu密集型应用。（2）进行阻塞（blocking）操作（如io时）会阻塞掉整个程序
二、python中如何实现协程
2.1 yield实现协程
前文所述“子程序（函数）在执行过程中可以中断去执行别的子程序；别的子程序也可以中断回来继续执行之前的子程序”，那么很容易想到python的yield，显然yield是可以实现这种切换的。
def eater(name): print(%s eat food %name) while true: food = yield print(done)g = eater(gangdan)print(g)
执行结果：
由执行结果可以证明g现在就是生成器函数
2.2 协程函数赋值过程
用的是yield的表达式形式，要先运行next()，让函数初始化并停在yield，然后再send() ，send会在触发下一次代码的执行时，给yield赋值
next()和send() 都是让函数在上次暂停的位置继续运行：
def creater(name): print('%s start to eat food' %name) food_list = [] while true: food = yield food_list print('%s get %s ,to start eat' %(name,food)) food_list.append(food)# 获取生成器builder = creater('tom')# 现在是运行函数，让函数初始化next(builder)print(builder.send('包子'))print(builder.send('骨头'))print(builder.send('菜汤'))
运行结果：
tom start to eat foodtom get 包子 ,to start eat['包子']tom get 骨头 ,to start eat['包子', '骨头']tom get 菜汤 ,to start eat['包子', '骨头', '菜汤']
需要注意的是每次都需要先运行next()函数，让程序停留在yield位置。
如果有多个这样的函数都需要执行next()函数，让程序停留在yield位置。为了防止忘记初始化next操作，需要用到装饰器来解决此问题。
def init(func): def wrapper(*args,**kwargs): builder = func(*args,**kwargs) next(builder) # 这个地方是关键可以使用builder.send(none)，第一次必须传入none。 return builder return wrapper@initdef creater(name): print('%s start to eat food' %name) food_list = [] while true: food = yield food_list print('%s get %s ,to start eat' %(name,food)) food_list.append(food)# 获取生成器builder = creater(tom)# 现在是直接运行函数，无须再函数初始化print(builder.send('包子'))print(builder.send('骨头'))print(builder.send('菜汤'))
执行结果：
tom start to eat foodtom get 包子 ,to start eat['包子']tom get 骨头 ,to start eat['包子', '骨头']tom get 菜汤 ,to start eat['包子', '骨头', '菜汤']
2.3 协程函数简单应用
请给tom投喂食物：
def init(func): def wrapper(*args,**kwargs): builder = func(*args,**kwargs) next(builder) return builder return wrapper@initdef creater(name): print('%s start to eat food' %name) food_list = [] while true: food = yield food_list print('%s get %s ,to start eat' %(name,food)) food_list.append(food)def food(): builder = creater(tom) while true: food = input(请给tom投喂食物：).strip() if food == q: print(投喂结束) return 0 else: builder.send(food)if __name__ == '__main__': food()
执行结果：
tom start to eat food请给tom投喂食物：骨头tom get 骨头 ,to start eat请给tom投喂食物：菜汤tom get 菜汤 ,to start eat请给tom投喂食物：q投喂结束
2.4 协程函数的应用
实现linux中grep -rl error 命令，过滤一个文件下的子文件、字文件夹的内容中的相应的内容的功能程序。
首先了解一个os模块中的walk方法,能够把参数中的路径下的文件夹打开并返回一个元组。
>>> import os # 导入模块>>> os.walk(re:pythonscript) #使用r 是让字符串中的符号没有特殊意义，针对的是转义>>> g = os.walk(re:pythonscript)>>> next(g)('e:\python\script', ['.idea', '函数'], [])
返回的是一个元组，第一个元素是文件的路径，第二个是文件夹，第三个是该路径下的文件。
这里需要用到一个写程序的思想：面向过程编程。
三、面向过程编程
面向过程：核心是过程二字，过程及即解决问题的步骤，基于面向过程设计程序就是一条工业流水线，是一种机械式的思维方式。流水线式的编程思想，在设计程序时，需要把整个流程设计出来。
优点：1：体系结构更加清晰2：简化程序的复杂度
缺点：可扩展性极其的差，所以说面向过程的应用场景是：不需要经常变化的软件，如：linux内核，httpd，git等软件下面就根据面向过程的思想完成协程函数应用中的功能。
目录结构：
test├── aa│ ├── bb1│ │ └── file2.txt│ └── bb2│ └── file3.txt└─ file1.txt文件内容：file1.txt：error123file2.txt：123file3.txt：123error
程序流程：第一阶段：找到所有文件的绝对路径第二阶段：打开文件第三阶段：循环读取每一行第四阶段：过滤“error”第五阶段：打印该行属于的文件名第一阶段：找到所有文件的绝对路径
g是一个生成器，就能够用next()执行，每次next就是运行一次，这里的运行结果是依次打开文件的路径：
>>> import os>>> g = os.walk(re:pythonscript函数 est)>>> next(g)('e:\python\script\函数\test', ['aa'], [])>>> next(g)('e:\python\script\函数\test\aa', ['bb1', 'bb2'], ['file1.txt'])>>> next(g)('e:\python\script\函数\test\aa\bb1', [], ['file2.txt'])>>> next(g)('e:\python\script\函数\test\aa\bb2', [], ['file3.txt'])>>> next(g)traceback (most recent call last): file , line 1, in stopiteration
我们在打开文件的时候需要找到文件的绝对路径，现在可以通过字符串拼接的方法把第一部分和第三部分进行拼接。
用循环打开：
import osdir_g = os.walk(re:pythonscript函数 est)for dir_path in dir_g: print(dir_path)
结果：
('e:\python\script\函数\test', ['aa'], [])('e:\python\script\函数\test\aa', ['bb1', 'bb2'], ['file1.txt'])('e:\python\script\函数\test\aa\bb1', [], ['file2.txt'])('e:\python\script\函数\test\aa\bb2', [], ['file3.txt'])
将查询出来的文件和路径进行拼接，拼接成绝对路径
import osdir_g = os.walk(re:pythonscript函数 est)for dir_path in dir_g: for file in dir_path[2]: file = %s\%s %(dir_path[0],file) print(file)
执行结果：
e:pythonscript函数testaaile1.txte:pythonscript函数testaab1ile2.txte:pythonscript函数testaab2ile3.txt
用函数实现:
import osdef search(): while true: dir_name = yield dir_g = os.walk(dir_name) for dir_path in dir_g: for file in dir_path[2]: file = %s\%s %(dir_path[0],file) print(file)g = search()next(g)g.send(re:pythonscript函数 est)
为了把结果返回给下一流程
@init # 初始化生成器def search(target): while true: dir_name = yield dir_g = os.walk(dir_name) for pardir,_,files in dir_g: for file in files: abspath = r%s%s %(pardir,file) target.send(abspath)
第二阶段：打开文件
@initdef opener(target): while true: abspath=yield with open(abspath,'rb') as f: target.send((abspath,f))
第三阶段：循环读出每一行内容
@initdef cat(target): while true: abspath,f=yield #(abspath,f) for line in f: res=target.send((abspath,line)) if res:break
第四阶段：过滤
@initdef grep(pattern,target): tag=false while true: abspath,line=yield tag tag=false if pattern in line: target.send(abspath) tag=true
第五阶段：打印该行属于的文件名
@initdef printer(): while true: abspath=yield print(abspath)g = search(opener(cat(grep('error'.encode('utf-8'), printer()))))g.send(r'e:pythonscript函数 est')
执行结果：
e:pythonscript函数testaaile1.txte:pythonscript函数testaab2ile3.txt
4路网络信号输入光盘硬盘同步刻录录播机
明年鸿蒙生态设备将达8至10亿台！Apple Watch禁售如何解套？大众集团宣布拥抱特斯拉充电标准/热点科技新闻点
增强现实和虚拟现实的区别
plc是什么_单片机是什么_plc和单片机哪个简单好学
黄致列都不信 ，来《我是歌手》踢馆的小AI是个什么鬼？
Python自动化运维之协程函数赋值过程
机器人替代劳动力77%工作岗位？ 暂时有困难
你对于区块链钱包了解吗
三星表示将会在后期发布的手机中采用骁龙865＋芯片
关于封装市场的新格局的分析和介绍
GT900系列显卡和GT10系列显卡性能到底差多少？笔记本显卡怎么选？
解读2016年LED照明行业八大专利诉讼案
联想凌拓宣布正式成立，致力于中国存储与数据管理市场
湖北省首个“智能化安防管理油库”，实现综合智能化安防联动
截至2018年4月底，北京全市累计建成约12.7万个充电桩
物联网的隐私安全令人担忧国家应如何采取应对措施
真全面屏vivo APEX手机现身？ 搭载骁龙845看头满满！
卷积神经网络结构_卷积神经网络训练过程
巨大的应用市场是创业良机,为什么会选择ADAS行业创业？
Mirrorcle携最新MEMS微镜应用亮相CES 2019