- 浏览: 1334122 次
- 性别:
- 来自: 成都
文章分类
- 全部博客 (471)
- 原创文章 (4)
- Database (84)
- J2SE (63)
- Web (26)
- Javascript (30)
- Lucene (11)
- os (13)
- 算法 (8)
- Webservice (1)
- Open projects (18)
- Hibernate (18)
- Spring (15)
- Css (2)
- J2ee (2)
- 综合技术 (18)
- 安全管理 (13)
- PatternsInJava (27)
- NIO (5)
- Ibatis (2)
- 书籍收藏 (1)
- quartz (7)
- 并发编程 (15)
- oracle问题 (2)
- ios (60)
- coco2d-iphone (3)
- C++ (6)
- Zookeeper (2)
- golang (4)
- animation (2)
- android (1)
最新评论
-
dandingge123:
【引用】限制UITextField输入长度的方法 -
qja:
...
对List顺序,逆序,随机排列实例代码 -
安静听歌:
现在在搞这个,,,,,哎~头都大了,,,又freemarker ...
通用大型网站页面静态化解决方案(一) -
springdata-jpa:
java quartz定时任务demo教程源代码下载,地址:h ...
Quartz 配置参考 -
马清天:
[b][/b][list][*]引用[u][/u][/list ...
通用大型网站页面静态化解决方案(一)
转自http://www.dreamingwish.com/dream-2012/gcd%E5%AE%9E%E6%88%982%EF%BC%9A%E8%B5%84%E6%BA%90%E7%AB%9E%E4%BA%89.html
概述
我将分四步来带大家研究研究程序的并发计算。第一步是基本的串行程序,然后使用GCD把它并行计算化。如果你想顺着步骤来尝试这些程序的话,可以下载源码。注意,别运行imagegcd2.m,这是个反面教材。。
imagegcd.zip (8.4 KB, 79 次)
原始程序
我们的程序只是简单地遍历~/Pictures然后生成缩略图。这个程序是个命令行程序,没有图形界面(尽管是使用Cocoa开发库的),主函数如下:
int main(int argc, char **argv) { NSAutoreleasePool *outerPool = [NSAutoreleasePool new]; NSApplicationLoad(); NSString *destination = @"/tmp/imagegcd"; [[NSFileManager defaultManager] removeItemAtPath: destination error: NULL]; [[NSFileManager defaultManager] createDirectoryAtPath: destination withIntermediateDirectories: YES attributes: nil error: NULL]; Start(); NSString *dir = [@"~/Pictures" stringByExpandingTildeInPath]; NSDirectoryEnumerator *enumerator = [[NSFileManager defaultManager] enumeratorAtPath: dir]; int count = 0; for(NSString *path in enumerator) { NSAutoreleasePool *innerPool = [NSAutoreleasePool new]; if([[[path pathExtension] lowercaseString] isEqual: @"jpg"]) { path = [dir stringByAppendingPathComponent: path]; NSData *data = [NSData dataWithContentsOfFile: path]; if(data) { NSData *thumbnailData = ThumbnailDataForData(data); if(thumbnailData) { NSString *thumbnailName = [NSString stringWithFormat: @"%d.jpg", count++]; NSString *thumbnailPath = [destination stringByAppendingPathComponent: thumbnailName]; [thumbnailData writeToFile: thumbnailPath atomically: NO]; } } } [innerPool release]; } End(); [outerPool release]; }
如果你要看到所有的副主函数的话,到文章顶部下载源代码吧。当前这个程序是imagegcd1.m。程序中重要的部分都在这里了。. Start
函数和 End
函数只是简单的计时函数(内部实现是使用的gettimeofday函数
)。ThumbnailDataForData函数使用Cocoa库来加载图片数据生成Image对象,然后将图片缩小到320×320大小,最后将其编码为JPEG格式。
简单而天真的并发
乍一看,我们感觉将这个程序并发计算化,很容易。循环中的每个迭代器都可以放入GCD global queue中。我们可以使用dispatch queue来等待它们完成。为了保证每次迭代都会得到唯一的文件名数字,我们使用OSAtomicIncrement32来原子操作级别的增加count数:
dispatch_queue_t globalQueue = dispatch_get_global_queue(0, 0); dispatch_group_t group = dispatch_group_create(); __block uint32_t count = -1; for(NSString *path in enumerator) { dispatch_group_async(group, globalQueue, BlockWithAutoreleasePool(^{ if([[[path pathExtension] lowercaseString] isEqual: @"jpg"]) { NSString *fullPath = [dir stringByAppendingPathComponent: path]; NSData *data = [NSData dataWithContentsOfFile: fullPath]; if(data) { NSData *thumbnailData = ThumbnailDataForData(data); if(thumbnailData) { NSString *thumbnailName = [NSString stringWithFormat: @"%d.jpg", OSAtomicIncrement32(&count;)]; NSString *thumbnailPath = [destination stringByAppendingPathComponent: thumbnailName]; [thumbnailData writeToFile: thumbnailPath atomically: NO]; } } } }); } dispatch_group_wait(group, DISPATCH_TIME_FOREVER);
这个就是imagegcd2.m,但是,注意,别运行这个程序,有很大的问题。
如果你无视我的警告还是运行这个imagegcd2.m了,你现在很有可能是在重启了电脑后,又打开了我的页面。。如果你乖乖地没有运行这个程序的话,运行这个程序发生的情况就是(如果你有很多很多图片在~/Pictures中):电脑没反应,好久好久都不动,假死了。。
问题在哪
问题出在哪?就在于GCD的智能上。GCD将任务放到全局线程池中运行,这个线程池的大小根据系统负载来随时改变。例如,我的电脑有四核,所以如果我使用GCD加载任务,GCD会为我每个cpu核创建一个线程,也就是四个线程。如果电脑上其他任务需要进行的话,GCD会减少线程数来使其他任务得以占用cpu资源来完成。
但是,GCD也可以增加活动线程数。它会在其他某个线程阻塞时增加活动线程数。假设现在有四个线程正在运行,突然某个线程要做一个操作,比如,读文件,这个线程就会等待磁盘响应,此时cpu核心会处于未充分利用的状态。这是GCD就会发现这个状态,然后创建另一个线程来填补这个资源浪费空缺。
现在,想想上面的程序发生了啥?主线程非常迅速地将任务不断放入global queue中。GCD以一个少量工作线程的状态开始,然后开始执行任务。这些任务执行了一些很轻量的工作后,就开始等待磁盘资源,慢得不像话的磁盘资源。
我们别忘记磁盘资源的特性,除非你使用的是SSD或者牛逼的RAID,否则磁盘资源会在竞争的时候变得异常的慢。。
刚开始的四个任务很轻松地就同时访问到了磁盘资源,然后开始等待磁盘资源返回。这时GCD发现CPU开始空闲了,它继续增加工作线程。然后,这些线程执行更多的磁盘读取任务,然后GCD再创建更多的工资线程。。。
可能在某个时间文件读取任务有完成的了。现在,线程池中可不止有四个线程,相反,有成百上千个。。。GCD又会尝试将工作线程减少(太多使用CPU资源的线程),但是减少线程是由条件的,GCD不可以将一个正在执行任务的线程杀掉,并且也不能将这样的任务暂停。它必须等待这个任务完成。所有这些情况都导致GCD无法减少工作线程数。
然后所有这上百个线程开始一个个完成了他们的磁盘读取工作。它们开始竞争CPU资源,当然CPU在处理竞争上比磁盘先进多了。问题在于,这些线程读完文件后开始编码这些图片,如果你有很多很多图片,那么你的内存将开始爆仓。。然后内存耗尽咋办?虚拟内存啊,虚拟内存是啥,磁盘资源啊。Oh shit!~
然后进入了一个恶性循环,磁盘资源竞争导致更多的线程被创建,这些线程导致更多的内存使用,然后内存爆仓导致虚拟内存交换,直至GCD创建了系统规定的线程数上限(可能是512个),而这些线程又没法被杀掉或暂停。。。
这就是使用GCD时,要注意的。GCD能智能地根据CPU情况来调整工作线程数,但是它却无法监视其他类型的资源状况。如果你的任务牵涉大量IO或者其他会导致线程block的东西,你需要把握好这个问题。
修正
问题的根源来自于磁盘IO,然后导致恶性循环。解决了磁盘资源碰撞,就解决了这个问题。
GCD的custom queue使得这个问题易于解决。Custom queue是串行的。如果我们创建一个custom queue然后将所有的文件读写任务放入这个队列,磁盘资源的同时访问数会大大降低,资源访问碰撞就避免了。
虾米是我们修正后的代码,使用IO queue(也就是我们创建的custom queue专门用来读写磁盘):
dispatch_queue_t globalQueue = dispatch_get_global_queue(0, 0); dispatch_queue_t ioQueue = dispatch_queue_create("com.mikeash.imagegcd.io", NULL); dispatch_group_t group = dispatch_group_create(); __block uint32_t count = -1; for(NSString *path in enumerator) { if([[[path pathExtension] lowercaseString] isEqual: @"jpg"]) { NSString *fullPath = [dir stringByAppendingPathComponent: path]; dispatch_group_async(group, ioQueue, BlockWithAutoreleasePool(^{ NSData *data = [NSData dataWithContentsOfFile: fullPath]; if(data) dispatch_group_async(group, globalQueue, BlockWithAutoreleasePool(^{ NSData *thumbnailData = ThumbnailDataForData(data); if(thumbnailData) { NSString *thumbnailName = [NSString stringWithFormat: @"%d.jpg", OSAtomicIncrement32(&count;)]; NSString *thumbnailPath = [destination stringByAppendingPathComponent: thumbnailName]; dispatch_group_async(group, ioQueue, BlockWithAutoreleasePool(^{ [thumbnailData writeToFile: thumbnailPath atomically: NO]; })); } })); })); } } dispatch_group_wait(group, DISPATCH_TIME_FOREVER);
这个就是我们的 imagegcd3.m
.
GCD使得我们很容易就将任务的不同部分放入相同的队列中去(简单地嵌套一下dispatch)。这次我们的程序将会表现地很好。。。我是说多数情况。。。。
问题在于任务中的不同部分不是同步的,导致了整个程序的不稳定。我们的新程序的整个流程如下:
Main Thread IO Queue Concurrent Queue find paths ------> read -----------> process ... write <----------- process
图中的箭头是非阻塞的,并且会简单地将内存中的对象进行缓冲。
现在假设一个机器的磁盘足够快,快到比CPU处理任务(也就是图片处理)要快。其实不难想象:虽然CPU的动作很快,但是它的工作更繁重,解码、压缩、编码。从磁盘读取的数据开始填满IO queue,数据会占用内存,很可能越占越多(如果你的~/Pictures中有很多很多图片的话)。
然后你就会内存爆仓,然后开始虚拟内存交换。。。又来了。。
这就会像第一次一样导致恶性循环。一旦任何东西导致工作线程阻塞,GCD就会创建更多的线程,这个线程执行的任务又会占用内存(从磁盘读取的数据),然后又开始交换内存。。
结果:这个程序要么就是运行地很顺畅,要么就是很低效。
注意如果磁盘速度比较慢的话,这个问题依旧会出现,因为缩略图会被缓冲在内存里,不过这个问题导致的低效比较不容易出现,因为缩略图占的内存少得多。
真正的修复
由于上一次我们的尝试出现的问题在于没有同步不同部分的操作,所以让我写出同步的代码。最简单的方法就是使用信号量来限制同时执行的任务数量。
那么,我们需要限制为多少呢?
显然我们需要根据CPU的核数来限制这个量,我们又想马儿好又想马儿不吃草,我们就设置为cpu核数的两倍吧。不过这里只是简单地这样处理,GCD的作用之一就是让我们不用关心操作系统的内部信息(比如cpu数),现在又来读取cpu核数,确实不太妙。也许我们在实际应用中,可以根据其他需求来定义这个限制量。
现在我们的主循环代码就是这样了:
dispatch_queue_t ioQueue = dispatch_queue_create("com.mikeash.imagegcd.io", NULL); int cpuCount = [[NSProcessInfo processInfo] processorCount]; dispatch_semaphore_t jobSemaphore = dispatch_semaphore_create(cpuCount * 2); dispatch_group_t group = dispatch_group_create(); __block uint32_t count = -1; for(NSString *path in enumerator) { WithAutoreleasePool(^{ if([[[path pathExtension] lowercaseString] isEqual: @"jpg"]) { NSString *fullPath = [dir stringByAppendingPathComponent: path]; dispatch_semaphore_wait(jobSemaphore, DISPATCH_TIME_FOREVER); dispatch_group_async(group, ioQueue, BlockWithAutoreleasePool(^{ NSData *data = [NSData dataWithContentsOfFile: fullPath]; dispatch_group_async(group, globalQueue, BlockWithAutoreleasePool(^{ NSData *thumbnailData = ThumbnailDataForData(data); if(thumbnailData) { NSString *thumbnailName = [NSString stringWithFormat: @"%d.jpg", OSAtomicIncrement32(&count;)]; NSString *thumbnailPath = [destination stringByAppendingPathComponent: thumbnailName]; dispatch_group_async(group, ioQueue, BlockWithAutoreleasePool(^{ [thumbnailData writeToFile: thumbnailPath atomically: NO]; dispatch_semaphore_signal(jobSemaphore); })); } else dispatch_semaphore_signal(jobSemaphore); })); })); } }); } dispatch_group_wait(group, DISPATCH_TIME_FOREVER);
最终我们写出了一个能平滑运行且又快速处理的程序。
基准测试
我测试了一些运行时间,对7913张图片:
imagegcd1.m |
984 |
imagegcd2.m |
没运行,这个还是别运行了 |
imagegcd3.m |
300 |
imagegcd4.m |
279 |
注意,因为我比较懒。所以我在运行这些测试的时候,没有关闭电脑上的其他程序。。。严格的进行对照的话,实在是太蛋疼了。。
所以这个数值我们只是参考一下。
比较有意思的是,3和4的执行状况差不多,大概是因为我电脑有15g可用内存吧。。。内存比较小的话,这个imagegcd3应该跑的很吃力,因为我发现它使用最多的时候,占用了10g内存。而4的话,没有占多少内存。
结论
GCD是个比较范特西的技术,可以办到很多事儿,但是它不能为你办所有的事儿。所以,对于进行IO操作并且可能会使用大量内存的任务,我们必须仔细斟酌。当然,即使这样,GCD还是为我们提供了简单有效的方法来进行并发计算。
发表评论
-
ios 声音合成
2013-08-18 13:20 1292http://stackoverflow.com/ques ... -
__bridge,__bridge_retained和__bridge_transfer的意思,区别与使用 20 三
2012-12-24 01:41 1717使用ARC能帮我们减轻不少内存管理方面的负担,尤其是对用 ... -
CAAnimation
2012-12-23 01:09 2350CAAnimation采用了CAMediaTi ... -
UIViewAnimation动画与Core Animation的CATransition类动画
2012-12-23 01:06 2750使用UIView类函数实现://U ... -
GCD实战一:使用串行队列实现简单的预加载
2012-12-22 17:10 2909转自 http://www.dreamingwish.c ... -
GCD介绍(四): 完结
2012-12-22 17:08 1406转自 http://www.dreamingwish.c ... -
GCD介绍(三): Dispatch Sources
2012-12-22 17:07 1657转自 http://www.dreamingwish.com/ ... -
GCD介绍(二): 多核心的性能
2012-12-22 17:05 1208转自http://www.dreamingwish.co ... -
基本概念和Dispatch Queue
2012-12-22 17:03 1385转自 http://www.dreamingwish.c ... -
Best Audio Format for iPhone Audio Programming
2012-12-19 16:26 2563I had never done audio p ... -
LAME 是一个开源的MP3解码编码工具
2012-12-19 13:09 8611MP3 Encoding * 编码MP3文件必须按如下 ... -
sqlite3中的数据类型
2012-12-10 21:37 1339(转)http://www.cnblogs.com/kfqco ... -
ios随机数,and()、random()、arc4random()
2012-11-15 11:06 4729原文:http://bj007.blog.51cto.c ... -
IPHONE GIF 播放的方式
2012-10-11 18:30 1457转 http://blog.csdn.net/zltia ... -
在新线程中使用NSTimer
2012-10-11 18:21 1589转自 http://blog.csdn.net/sjzs ... -
Creating an iPhone Daemon – Part 5
2012-09-02 15:29 1540Creating an iPhone Daemon – ... -
Creating an iPhone Daemon – Part 4
2012-09-02 15:28 1408Creating an iPhone Daemon – ... -
Creating an iPhone Daemon – Part 3
2012-09-02 15:25 1507This is part three of the bl ... -
Creating an iPhone Daemon – Part 2
2012-09-02 15:24 1261Here is part two of the blog ... -
Creating an iPhone Daemon – Part 1
2012-09-02 15:23 1167So I thought I would start t ...
相关推荐
【GCD实战二:资源竞争】是关于Grand Central Dispatch(GCD)在处理多线程中的资源竞争问题的讨论。GCD是Apple开发的一种并行编程技术,它可以帮助开发者更高效地利用多核处理器,通过任务队列和工作线程管理来简化...
串行队列确保了队列中的任务按照添加的顺序依次执行,避免了并行执行可能导致的数据竞争问题。 在提供的代码片段中,我们看到了一个`DWAppDelegate`类的实现,其中有两个重要的成员变量:`_serialQueue`和`_...
GCD资源竞争Demo。注意,别运行imagegcd2.m,这是个反面教材。
功能:GCD提供了一个易于使用的、基于任务的并发模型,可以将任务提交给系统,系统会自动管理线程的创建、销毁和调度,以实现最佳的性能和资源利用率。 应用:在iOS和macOS等苹果操作系统中广泛应用于多线程编程,可...
2. GCD可以自动平衡负载,避免过度消耗系统资源。 六、GCD应用实例 1. 图像处理:在后台队列解码图片,然后在主线程上更新UI。 2. 数据下载:异步下载数据,避免阻塞主线程,提高用户体验。 3. 文件操作:对文件...
2. **GCD的优势:** - **易用性:** GCD通过block机制简化了多线程的使用,使得代码的编写更加直观。它简化了任务间的上下文切换,允许程序员更关注于业务逻辑而非线程管理。 - **效率:** GCD的执行效率很高,它...
信号量(Semaphores)用于控制并发访问资源,防止资源竞争。`DispatchSemaphore`可以用来限制同时访问某资源的线程数量。 9. **GCD的Task优先级** 全局并行队列有四个优先级:`high`, `default`, `low`, 和 `...
关于标签中的“bootstrap-daterangepicker-master”,这似乎与GCD计算无关,它是Bootstrap日期范围选择器的一个资源包。Bootstrap是一款流行的前端框架,用于构建响应式和移动优先的网页应用。daterangepicker是其...
2. **欧几里得算法(Euclidean Algorithm)**:这是计算GCD最常用的方法,基于“两个数的较大数除以较小数的余数等于较小数”的原理,不断迭代直到余数为0。最后的除数即为GCD。 3. **只使用加法和减法求GCD**:虽然...
2. 任务与队列:GCD中有两种主要概念——任务(block)和队列(queue)。任务是你想要执行的工作,而队列则是存放任务的地方。队列分为串行队列和并行队列。 二、异步获取图片的重要性 1. UI更新:异步加载图片可以...
标题 作者 日期 输出 GettingAndCleaningData_Project_ReadMe 道格·奥尔森(Doug Olson) 2015年6月20日 ... 接下来是我的run_analysis.R脚本的演练,并添加了dim()和str()的一些额外实例(希望如此)有助于澄清...
获取和清理数据 - 编程作业 自述文件 获取和清理数据:课程项目 这个自述文件解释了如何使用和运行 run_analysis.R 脚本 ##目的和数据来源 该脚本是为 Coursera“获取和清理数据”课程项目编写的,该项目使用从三星 ...
If we need to verify the fact that a Polynomial has...a) A function to compute the GCD of 2 Polynomials. Since I could not find a Standard Matlab function for this, I created this function : Poly_GCD.m :
gcd-项目获取和清理数据课程项目gcd-project 存储库包括以下文件: 'README.md' '密码本.md' 'run_analysis.R' '整理数据.txt' 笔记 : Run_analysis 脚本位于“UCI HAR 数据集”目录中,该目录还包含训练和测试...
2. 设计数据类型和信号:VHDL中的数据类型可以自定义,根据需要求解的最大整数范围选择合适的数据类型。信号则用于在进程中传递数据。 3. 编写计算过程:使用一个进程来实现算法逻辑,包括比较、减法和条件判断操作...
DS-GCD课程计划该项目的目的是演示如何从给定的数据集中准备整齐的数据集。 对于此项目,使用了现有数据集,该数据集是从Samsung Galaxy S智能手机的加速度计中收集的。 有关此数据的完整描述,请参见。 用于项目的...
当向并发队列提交任务时,GCD会根据系统资源动态调整任务的执行,可能在一个核心上执行,也可能在多个核心上并发执行,这取决于任务的数量和系统的负载。 三、异步执行任务 在GCD中,可以使用`dispatch_async`函数...
GCD_课程项目获取和清理数据课程项目###Repo 此 Repo 包含以下文件和目录: 输入原始数据: UCI HAR 数据集,来源: ://d396qusza40orc.cloudfront.net/getdata/projectfiles/UCI HAR Dataset.zip 。 完整说明可在...
标题 作者 日期 输出 自述文件 赛阿斯兰 2015 年 1 月 25 日,星期日 ... 这是“获取和清理数据课程项目工作”的提交。 该提交仅包含一个名为 run_analysis.R 的脚本。... 脚本中名为 run_analysis 的这个函数只接受一个...
GCD_课程项目 获取和清理数据课程项目文件包括: 包含在 repo 中的 README.md 文件 CodeBook.md 描述变量、数据以及为清理数据而执行的任何转换或工作的代码簿 run_analysis.R 脚本 ================== 运行脚本 a)...