`
wx1568016009
  • 浏览: 23498 次
文章分类
社区版块
存档分类
最新评论

Python中的GIL是个什么玩意?

 
阅读更多

关于 Python的多线程,经常我们会听到老手说:“python下多线程是鸡肋,推荐使用多进程!”,但是为什么这么说呢?


要知其然,更要知其所以然。所以有了下面的深入研究:

首先强调背景:

1、GIL是什么?GIL的全称是Global Interpreter Lock(全局解释器锁),来源是python设计之初的考虑,为了数据安全所做的决定。

2、每个CPU在同一时间只能执行一个线程(在单核CPU下的多线程其实都只是并发,不是并行,并发和并行从宏观上来讲都是同时处理多路请求的概念。但并发和并行又有区别,并行是指两个或者多个事件在同一时刻发生;而并发是指两个或多个事件在同一时间间隔内发生。) 在Python多线程下,每个线程的执行方式: 1.获取GIL 2.执行代码直到sleep或者是python虚拟机将其挂起。 3.释放GIL 



可见,某个线程想要执行,必须先拿到GIL,我们可以把GIL看作是“通行证”,并且在一个python进程中,GIL只有一个。拿不到通行证的线程,就不允许进入CPU执行。

在python2.x里,GIL的释放逻辑是当前线程遇见IO操作或者ticks计数达到100(ticks可以看作是python自身的一个计数器,专门做用于GIL,每次释放后归零,这个计数可以通过 sys.setcheckinterval 来调整),进行释放。

而每次释放GIL锁,线程进行锁竞争、切换线程,会消耗资源。并且由于GIL锁存在,python里一个进程永远只能同时执行一个线程(拿到GIL的线程才能执行),这就是为什么在多核CPU上,python的多线程效率并不高。

那么是不是python的多线程就完全没用了呢?

在这里我们进行分类讨论:

1、CPU密集型代码(各种循环处理、计数等等),在这种情况下,ticks计数很快就会达到阈值,然后触发GIL的释放与再竞争(多个线程来回切换当然是需要消耗资源的),所以python下的多线程对CPU密集型代码并不友好。

2、IO密集型代码(文件处理、网络爬虫等),多线程能够有效提升效率(单线程下有IO操作会进行IO等待,造成不必要的时间浪费,而开启多线程能在线程A等待时,自动切换到线程B,可以不浪费CPU的资源,从而能提升程序执行效率)。所以python的多线程对IO密集型代码比较友好。

而在python3.x中,GIL不使用ticks计数,改为使用计时器(执行时间达到阈值后,当前线程释放GIL),这样对CPU密集型程序更加友好,但依然没有解决GIL导致的同一时间只能执行一个线程的问题,所以效率依然不尽如人意。

多核多线程比单核多线程更差,原因是单核下多线程,每次释放GIL,唤醒的那个线程都能获取到GIL锁,所以能够无缝执行,但多核下,CPU0释放GIL后,其他CPU上的线程都会进行竞争,但GIL可能会马上又被CPU0拿到,导致其他几个CPU上被唤醒后的线程会醒着等待到切换时间后又进入待调度状态,这样会造成线程颠簸(thrashing),导致效率更低

回到最开始的问题:经常我们会听到老手说:“python下想要充分利用多核CPU,就用多进程”,原因是什么呢?

原因是:每个进程有各自独立的GIL,互不干扰,这样就可以真正意义上的并行执行,所以在python中,多进程的执行效率优于多线程(仅仅针对多核CPU而言)。

所以我们能够得出结论:多核下,想做并行提升效率,比较通用的方法是使用多进程,能够有效提高执行效率。

今天就到这里吧!

640?wx_fmt=jpeg

分享到:
评论

相关推荐

    《再谈Python的GIL》测试用例

    Python的全局解释器锁(Global Interpreter Lock,简称GIL)是Python编程中一个重要的概念,尤其是在多线程编程中。GIL的存在是为了保护Python的内存管理机制,避免在多线程环境下出现数据竞争的问题。然而,这也...

    使用进程池规避Python的GIL限制

    Python中的全局解释器锁(GIL)是一个经常被提及的特性,它对多线程的CPU密集型程序有一定的影响。要理解如何规避GIL限制,我们首先需要了解GIL是什么,以及它为何会成为性能瓶颈,之后再探讨通过进程池来绕过GIL...

    python GIL详细解释

    在深入解释Python GIL之前,我们需要了解几个关键概念,首先是Python线程的概念,其次是Python中的多线程为何受限制,以及GIL是如何对多线程程序性能产生影响的。 ### Python线程概念 Python中的线程,实际上是由...

    Inside the Python GIL

    全局解释锁(Global Interpreter Lock,简称GIL)是Python中的一个重要概念,它在解释器层面上限制了多线程程序利用多核处理器的能力。GIL的存在引发了广泛的讨论与争议,尤其是在探讨Python并发编程时。本文将详细...

    Python中GIL的使用详解

    python的代码执行由python虚拟机(也叫解释器主循环,CPython版本)来控制,python在设计之初就考虑到在解释器的主循环中,同时只有一个线程在运行。即在任意时刻只有一个线程在解释器中运行。对python虚拟机访问的...

    gil.gilgil

    在IT行业中,"gil"通常指的是“全局解释器锁”(Global Interpreter Lock),这是一个与Python编程语言相关的概念。全局解释器锁是Python解释器为了保证线程安全而引入的一个机制,它确保任何时候只有一个线程执行...

    Python GIL资料(深入理解GIL)

    Python语言的全局解释锁GIL详解,由David Beazley写的文档,分析了单核CPU、多核CPU下的Python多线程的效率,并分析线程调度,CPU竞争,以及在NEW GIL等内容,相信看完后会对Python的GIL有一个深入的理解。

    inside the python gil

    ### Python中的全局解释器锁(GIL)解析 #### GIL简介 在深入探讨之前,我们首先需要了解全局解释器锁(Global Interpreter Lock,简称GIL)的基本概念及其在Python中的作用。GIL是CPython解释器(Python的标准...

    Python GIL解析

    在多线程环境中,GIL的存在使得同一时刻只有一个线程能够执行Python字节码。这种设计在单核处理器时代有效地避免了数据竞争和线程安全问题,但在多核处理器环境下却成为性能瓶颈之一。 #### 二、GIL的历史与背景 ...

    Python threading 5 不一定有效率 GIL (多线程 教学教程tutorial)

    Python_threading_5_不一定有效率_GIL_(多线程_教学教程tutorial)

    线程安全及Python中的GIL原理分析

    本文讲述了线程安全及Python中的GIL。分享给大家供大家参考,具体如下: 摘要 什么是线程安全? 为什么python会使用GIL的机制? 在多核时代的到来的背景下,基于多线程来充分利用硬件的编程方法也不断发展起来, 但是...

    python基础超强总结

    ⼆、python中为何会有GIL锁? 2.1 python的内存管理 2.2 GIL锁的产生 2.3不同语言中的GIL锁 三、GIL锁的影响 3.1 CPU限制程序 3.2 图像化展示GIL锁的影响 3.3 结论 四、解决方案 计算机网络 深入浅出TCP三次握手 1、...

    Python面试题 最常见的36道Python面试题你能答对多少?附带答案 共27页.pdf

    但由于GIL(全局解释器锁)的存在,Python的多线程在CPU密集型任务中并不能实现真正的并行执行,但在IO密集型任务中,通过线程切换可以提高效率。 6. **继承** 继承是面向对象编程的关键特性,允许子类继承父类的...

    Python面试题 Python练习题 2018年最常见的36道Python面试题你能答对多少?附带答案 共27页.pdf

    但由于GIL(全局解释器锁),Python的多线程在CPU密集型任务中无法实现真正的并行执行,但在IO密集型任务中可以提高效率。 6. **继承**: - 继承是面向对象编程的重要概念,允许子类从父类继承属性和方法,实现...

    (最新整理)2018年最常见的36道Python面试题你能答对多少?附带答案.docx

    但由于GIL(全局解释器锁),Python的多线程无法实现真正的并行计算,但可以实现任务的并发执行。 6. **继承**: - **继承**是面向对象编程的一个重要概念,允许一个类(子类)继承另一个类(父类)的属性和方法,...

    (最新整理)2018年最常见的36道Python面试题你能答对多少?附带答案.pdf

    Python提供了`threading`模块来实现多线程,但由于GIL(全局解释器锁)的存在,Python的多线程并不能实现真正的并行计算,而是线程间的交替执行。多线程适合于I/O密集型任务,而不是CPU密集型任务。 6. **Python的...

    Python中文手册v2.4

    8. **多线程**:Python 2.4中,`threading`模块提供了多线程编程的基础,但需要注意的是,由于全局解释器锁(GIL),Python在多核环境下并行计算的能力有限。 9. **字符串和Unicode**:Python 2.x中,字符串是字节...

    python2.7和3.7两个版本

    4. GIL(全局解释器锁):Python 2中的多线程由于GIL限制,无法充分利用多核处理器,但可以通过多进程实现并行计算。 5. 兼容性问题:Python 2.7不支持许多现代编程特性,如print函数、新的字符串表示方式以及异常...

Global site tag (gtag.js) - Google Analytics