深入读了读python的官方文档,发觉Python自带的multiprocessing模块有很多预制的接口可以方便的实现多个主机之间的通讯,进而实现典型的生产者-消费者模式的分布式任务架构。
之前,为了在Python中实现生产者-消费者模式,往往就会选择一个额外的队列系统,比如rabbitMQ之类。此外,你有可能还要设计一套任务对象的序列化方式以便塞入队列。如果没有队列的支持,那不排除有些同学不得不从socket服务器做起,直接跟TCP/IP打起交道来。
其实multiprocessing.managers中有个BaseManager就为开发者提供了这样一个快速接口。
我们假定的场景是1个生产者(producer.py)+8个消费者(worker.py)的系统,还有一个中央节点负责协调(server.py)实现如下:
server.py
from multiprocessing.managers import BaseManager import Queue queue = Queue.Queue() #初始化一个Q,用于消息传递 class QueueManager(BaseManager): pass QueueManager.register('get_queue', callable=lambda:queue) # 在系统中发布get_queue这个业务 if __name__ == '__main__': m = QueueManager(address=('10.239.85.193', 50000),authkey='abr' ) # 监听所有10.239.85.193的50000口 s = m.get_server() s.serve_forever()
worker.py
from multiprocessing.managers import BaseManager from multiprocessing import Pool class QueueManager(BaseManager): pass QueueManager.register('get_queue') def feb(i): #经典的'山羊增殖' if i < 2: return 1 if i < 5 : return feb(i-1) + feb(i-2) return feb(i-1) + feb(i-2) - feb(i-5) def worker(i): m = QueueManager(address=('10.239.85.193', 50000), authkey='abr') #连接server m.connect() while True: queue = m.get_queue() # 获取Q c = queue.get() print feb(c) if __name__ == '__main__': p = Pool(8) # 分进程启动8个worker p.map(worker, range(8)) producer.py from multiprocessing.managers import BaseManager class QueueManager(BaseManager): pass QueueManager.register('get_queue') if __name__ == '__main__': m = QueueManager(address=('10.239.85.193', 50000), authkey='abr') m.connect() i = 0 while True: queue = m.get_queue() queue.put(48) i+=1
系统会直接将Queue() 对象中的数据直接封装后通过TCP 50000端口在主机之间传递。不过需要注意的是,由于authkey的缘故,各个节点要求python的版本一致。
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。
免责声明:本站文章均来自网站采集或用户投稿,网站不提供任何软件下载或自行开发的软件! 如有用户或公司发现本站内容信息存在侵权行为,请邮件告知! 858582#qq.com
《魔兽世界》大逃杀!60人新游玩模式《强袭风暴》3月21日上线
暴雪近日发布了《魔兽世界》10.2.6 更新内容,新游玩模式《强袭风暴》即将于3月21 日在亚服上线,届时玩家将前往阿拉希高地展开一场 60 人大逃杀对战。
艾泽拉斯的冒险者已经征服了艾泽拉斯的大地及遥远的彼岸。他们在对抗世界上最致命的敌人时展现出过人的手腕,并且成功阻止终结宇宙等级的威胁。当他们在为即将于《魔兽世界》资料片《地心之战》中来袭的萨拉塔斯势力做战斗准备时,他们还需要在熟悉的阿拉希高地面对一个全新的敌人──那就是彼此。在《巨龙崛起》10.2.6 更新的《强袭风暴》中,玩家将会进入一个全新的海盗主题大逃杀式限时活动,其中包含极高的风险和史诗级的奖励。
《强袭风暴》不是普通的战场,作为一个独立于主游戏之外的活动,玩家可以用大逃杀的风格来体验《魔兽世界》,不分职业、不分装备(除了你在赛局中捡到的),光是技巧和战略的强弱之分就能决定出谁才是能坚持到最后的赢家。本次活动将会开放单人和双人模式,玩家在加入海盗主题的预赛大厅区域前,可以从强袭风暴角色画面新增好友。游玩游戏将可以累计名望轨迹,《巨龙崛起》和《魔兽世界:巫妖王之怒 经典版》的玩家都可以获得奖励。