`
san_yun
  • 浏览: 2663915 次
  • 来自: 杭州
文章分类
社区版块
存档分类
最新评论

gevent初步

 
阅读更多

话说gevent也没个logo啥的,于是就摆了这张图= =|||,首先这是一种叫做greenlet的鸟,而在python里,按照官方解释greenlet是轻量级的并行编程,而gevent呢,就是利用 greenlet实现的基于协程的python的网络library,好了,关系理清了。。。

话 说pycon没有白去阿,了解了很多以前不知道的东西,比如说协程,gevent,greenlet,eventlet。说说协程,进程和线程大家平时了 解的都比较多,而协程算是一种轻量级进程,但又不能叫进程,因为操作系统并不知道它的存在。什么意思呢,就是说,协程像是一种在程序级别来模拟系统级别的 进程,由于是单进程,并且少了上下文切换,于是相对来说系统消耗很少,而且网上的各种测试也表明,协程确实拥有惊人的速度。并且在实现过程中,协程可以用 以前同步思路的写法,而运行起来确是异步的,也确实很有意思。话说有一种说法就是说进化历程是多进程->多线程->异步->协程,暂且 不论说的对不对,单从诸多赞誉来看,协程还是有必要理解一下的。

比较惭愧,greenlet没怎么看就直接看gevent,官方文档 还是可以看看的,尤其是源码里的examples都相当不错,有助于理解gevent的使用。

gevent封装了很多很方便的接口,其中一个就是monkey

  1. from gevent import monkey
  2. monkey.patch_all ( )

这样两行,就可以使用python以前的socket之类的,因为gevent已经给你自动转化了,真是超级方便阿。

而且安装gevent也是很方便,首先安装依赖libevent和greenlet,再利用pypi安装即可

  1. sudo apt-get install libevent-dev
  2. sudo apt-get install python-dev
  3. sudo easy-install gevent

然后,gevent中的event,有wait,set等api,方便你可以让某些协程在某些地方等待条件,然后用另一个去唤醒他们。

再就是gevent实现了wsgi可以很方便的当作python的web server服务器使。

最后放送一个我利用gevent实现的一个带有缓存的dns server

 

     # -*- coding: UTF-8 -*-
     
    import gevent
    import dnslib
    from gevent import socket
    from gevent import event
     
    rev=socket.socket(socket.AF_INET,socket.SOCK_DGRAM)
    rev.bind(('',53))
    ip=[]
    cur=0
     
    def preload():
        for i in open('ip'):
            ip.append(i)
        print "load "+str(len(ip))+" ip"
     
    def send_request(data):
        global cur
        ret=rev.sendto(data,(ip[cur],53))
        cur=(cur+1)%len(ip)
     
    class Cache:
        def __init__(self):
            self.c={}
        def get(self,key):
            return self.c.get(key,None)
        def set(self,key,value):
            self.c[key]=value
        def remove(self,key):
            self.c.pop(key,None)
     
    cache=Cache()
     
    def handle_request(s,data,addr):
        req=dnslib.DNSRecord.parse(data)
        qname=str(req.q.qname)
        qid=req.header.id
        ret=cache.get(qname)
        if ret:
            ret=dnslib.DNSRecord.parse(ret)
            ret.header.id=qid;
            s.sendto(ret.pack(),addr)
        else:
            e=event.Event()
            cache.set(qname+"e",e)
            send_request(data)
            e.wait(60)
            tmp=cache.get(qname)
            if tmp:
                tmp=dnslib.DNSRecord.parse(tmp)
                tmp.header.id=qid;
                s.sendto(tmp.pack(),addr)
     
    def handle_response(data):
        req=dnslib.DNSRecord.parse(data)
        qname=str(req.q.qname)
        print qname
        cache.set(qname,data)
        e=cache.get(qname+"e")
        cache.remove(qname+"e")
        if e:
            e.set()
            e.clear()
     
    def handler(s,data,addr):
        req=dnslib.DNSRecord.parse(data)
        if req.header.qr:
            handle_response(data)
        else:handle_request(s,data,addr)
     
    def main():
        preload()
        while True:
            data,addr=rev.recvfrom(8192)
            gevent.spawn(handler,rev,data,addr)
     
    if __name__ == '__main__':
        main()

 

参考:http://www.isnowfy.com/introduction-to-gevent/

分享到:
评论

相关推荐

    graphql-python-subscriptions:使用gevent websockets和redis的apollographql python订阅端口

    使用gevent websockets和redis的apollographql python订阅端口这是Python中graphql订阅的实现。 它使用apollographql 和软件包作为基础。 当前,它使用实现pubsub,并使用进行并发。 它还大量使用 python实现来镜像...

    智慧校园考试系统程序-python

    Python的库如gevent或asyncio可以用来处理并发请求,确保系统在大量用户同时在线时仍能保持响应速度。 自动评分模块可能利用正则表达式匹配答案,或者通过解析题目的结构化信息来评判。对于主观性较强的题目,如...

    人工智能培训课程大纲doc.doc

    - **并发技术**:介绍多线程并发、线程同步与互斥锁、死锁概念、进度池,以及Python中的协程(greenlet和gevent)。 - **数据库编程**:学习数据库理论,如MySQL的基本使用,SQL查询语句,以及Python与MySQL的数据...

    python课程设计作业,网络爬虫设计

    总的来说,Python网络爬虫设计是学习数据获取和初步处理的重要实践,它能帮助我们理解互联网数据的结构,为后续的数据分析和挖掘奠定基础。通过课程设计,学生将掌握从网页抓取数据、处理数据、存储数据等一系列步骤...

    人工智能培训课程大纲.doc.pdf

    2. **并发编程**:涉及多线程、线程同步与互斥锁、死锁、多进程、进程间通信、进程池、迭代器和生成器、协程(如greenlet和gevent)。 这使学员能够处理并发任务,高效地进行数据处理。 ### 人工智能+Python就业班...

Global site tag (gtag.js) - Google Analytics