`

linux下释放经常拷贝文件导致的缓存占用

阅读更多

由于Linux下频繁存取文件后,物理内存会很快被用光,当程序结束后,内存不会被正常释放,而是一直作为caching.

 

分析一下缓存的原理和原因

以下引用http://www.wujianrong.com/archives/2007/09/linux_free.html

 

在Linux下查看内存我们一般用command free
[root@nonamelinux ~]# free
total used free shared buffers cached
Mem: 386024 377116 8908 0 21280 155468
-/+ buffers/cache: 200368 185656
Swap: 393552 0 393552
下面是对这些数值的解释:
第二行(mem):
total:总计物理内存的大小。
used:已使用多大。
free:可用有多少。
Shared:多个进程共享的内存总额。
Buffers/cached:磁盘缓存的大小。
第三行(-/+ buffers/cached):
used:已使用多大。
free:可用有多少。
第四行就不多解释了。
区别:
第二行(mem)的used/free与第三行(-/+ buffers/cache) used/free的区别。
这 两个的区别在于使用的角度来看,第一行是从OS的角度来看,因为对于OS,buffers/cached 都是属于被使用,所以他的可用内存是8908KB,已用内存是377116KB,其中包括,内核(OS)使用+Application(X, oracle,etc)使用的+buffers+cached.
第三行所指的是从应用程序角度来看,对于应用程序来说,buffers/cached 是等于可用的,因为buffer/cached是为了提高文件读取的性能,当应用程序需在用到内存的时候,buffer/cached会很快地被回收。
所以从应用程序的角度来说,可用内存=系统free memory+buffers+cached.
如上例:
185656=8908+21280+155468
接下来解释什么时候内存会被交换,以及按什么方交换。
当可用内存少于额定值的时候,就会开会进行交换.
如何看额定值(RHEL4.0):
#cat /proc/meminfo
交换将通过三个途径来减少系统中使用的物理页面的个数: 
1.减少缓冲与页面cache的大小,
2.将系统V类型的内存页面交换出去, 
3.换出或者丢弃页面。(Application 占用的内存页,也就是物理内存不足)。
事实上,少量地使用swap是不是影响到系统性能的。

下面是buffers与cached的区别。
buffers是指用来给块设备做的缓冲大小,他只记录文件系统的metadata以及 tracking in-flight pages.
cached是用来给文件做缓冲。
那就是说:buffers是用来存储,目录里面有什么内容,权限等等。
而cached直接用来记忆我们打开的文件,如果你想知道他是不是真的生效,你可以试一下,先后执行两次命令#man X ,你就可以明显的感觉到第二次的开打的速度快很多。
实验:在一台没有什么应用的机器上做会看得比较明显。记得实验只能做一次,如果想多做请换一个文件名。
#free
#man X
#free
#man X
#free
你可以先后比较一下free后显示buffers的大小。
另一个实验:
#free
#ls /dev
#free
你比较一下两个的大小,当然这个buffers随时都在增加,但你有ls过的话,增加的速度会变得快,这个就是buffers/chached的区别。

因为Linux将你暂时不使用的内存作为文件和数据缓存,以提高系统性能,当你需要这些内存时,系统会自动释放(不像windows那样,即使你有很多空闲内存,他也要访问一下磁盘中的pagefiles)  
使用free命令  
将used的值减去   buffer和cache的值就是你当前真实内存使用

 

 

再来说一下释放这种文件缓存的方法

[root@server ~]# sync
[root@server ~]# echo 3 > /proc/sys/vm/drop_caches
[root@server ~]# free -m 

 

这回再用free命令查看一下内存情况。

 

设置了这个参数后不是一直起作用,或者是以后就不缓存了。而是只有再执行清除缓存命令的时候才生效。清除完缓存后如果继续进行文件的读取等操作,还会产生缓存。

 

想再次释放缓存还得执行上面的3个命令。

0
0
分享到:
评论

相关推荐

    linux下释放经常拷贝文件导致的缓存占用[归类].pdf

    Linux 下释放经常拷贝文件导致的缓存占用 什么是缓存? 缓存是一种机制,用于提高文件读取的性能。当我们频繁地存取文件时,Linux 会将这些文件缓存在内存中,以便下次快速访问。这使得系统性能得到了提高。 缓存...

    linux下释放经常拷贝文件导致的缓存占用.pdf

    本文将深入探讨Linux内核的缓存机制、内存使用情况的查看方法以及如何有效地释放因文件操作而占用的缓存。 首先,我们需要了解Linux系统中内存状态的几个关键概念。通过运行`free`命令,我们可以得到如下的信息: ...

    Linux - 零拷贝技术.pdf

    总结来说,Linux的零拷贝技术是通过减少CPU参与的数据拷贝和上下文切换来提升I/O性能,利用DMA和内核缓存优化数据传输过程。这对于处理高带宽、大数据量的网络和存储操作至关重要,能够有效提高系统资源利用率,特别...

    DMA收集拷贝

    Linux 2.4 版本中的 socket 缓冲区就可以满足这种条件,使用 DMA 收集拷贝技术可以减少因为多次上下文切换所带来的开销,同时也减少了处理器造成的数据副本的个数。 DMA 收集拷贝技术的工作流程如下:首先,send...

    Linux直接I/O机制介绍

    在这种模式下,操作系统会利用其内核缓冲区来缓存I/O数据,具体过程如下: - **数据读取**:当应用程序尝试读取数据时,数据首先被复制到操作系统内核的缓冲区(页缓存)中,然后再从页缓存复制到应用程序的地址...

    用内存映射文件方法处理大文件

    1. **内存占用**:尽管内存映射文件可以按需加载,但如果文件过大且程序试图访问所有数据,可能导致内存占用过高,甚至引发交换到磁盘,降低性能。 2. **错误处理**:内存映射文件的错误处理可能比普通文件I/O更...

    linux kernel常见面试题及部分答案.pdf

    进程退出时,无论是正常退出还是异常退出,内核都会释放进程所占用的内存资源,取消线性空间与物理内存的映射关系。如果线程在没有释放资源的情况下退出,系统并不会立即回收这些资源,因为线程共享进程的堆区,直至...

    零拷贝实现有效数据传输1

    【零拷贝技术详解】 零拷贝是一种优化数据传输的技术,尤其适用于I/O密集型的Java应用...对于那些需要大量读取和发送文件内容的应用,如Web服务器提供静态内容,采用零拷贝技术能够显著降低CPU占用,提升用户体验。

    嵌入式Linux性能详解

    本专题“嵌入式Linux性能详解”旨在帮助读者深入理解如何提升嵌入式系统的运行效率,确保系统在有限的硬件资源下达到最佳性能。 首先,我们需要了解嵌入式Linux的基本概念。嵌入式Linux是Linux操作系统的一种特定...

    The Linux Kernel API

    - **shrink_dcache_sb()**、**shrink_dcache_parent()**:用于减少目录缓存占用的内存,前者针对特定的超级块,后者针对父目录。 - **d_alloc()**、**d_instantiate()**、**d_alloc_root()**:分别用于分配、实例化...

    基于Linux的高性能网络数据捕获技术研究.pdf

    PF_RING是Linux内核下的一种高性能数据包处理机制,它具有内置缓存,能够减少数据包在内核和用户空间之间的拷贝。文章详细描述了PF_RING在Linux核心中的实现过程,包括如何利用PF_RING优化数据捕获流程,以及如何...

    linux 网络驱动开发

    - **资源限制**: 避免驱动占用过多资源导致系统不稳定。 - **权限控制**: 确保只有授权进程能够访问网络设备。 #### 十、案例分析 - **以太网驱动**: 如`e1000e`驱动,支持Intel以太网卡。 - **无线网络驱动**: 如...

    Linux命令列表[收集].pdf

    - `cp` 拷贝文件或目录。 - `dd` 用于数据转换和复制,常用于磁盘克隆或格式转换。 - `df` 显示磁盘空间使用情况。 - `diff` 比较两个文本文件的差异。 - `du` 统计文件或目录占用的磁盘空间。 - `file` 识别文件...

    BusyBox构建根文件系统.docx

    此外,还需要将主机上的关键文件如`/etc/passwd`, `/etc/group`, `/etc/shadow`拷贝到`rootfs/etc`下,以便系统识别用户账户和权限。 构建根文件系统的整个过程就是这样,通过BusyBox可以高效地创建一个轻量级但...

    Linux桌面系统性能评价的负载测试.pdf

    在进行负载测试时,通常会执行一系列预设的任务,如打开大量文件、同时运行多个应用程序、进行大文件拷贝等,以观察系统在这些操作下的响应时间和资源占用。通过对测试结果的分析,可以找出系统的性能瓶颈,比如CPU...

    Linux操作系统基础教程

    下,它占用系统资源较少,可以使一台 Intel486摇身一变成为高效工作站。对于想要学习 UNIX的用户来说,使他们熟悉 UNIX 操作环境,通往"骨灰级"高手境界的一大捷径。最重 要的是,Linux 上有公认的 C 语言世界最好的...

    嵌入式Linux环境下高效率GUI的设计与实现.pdf

    在嵌入式Linux环境下设计和实现高效率的GUI是一项关键任务,它涉及到多个层面的技术集成。GUI(图形用户界面)作为嵌入式系统的重要组成部分,其性能和效率直接影响到用户体验和系统的整体性能。在嵌入式领域,GUI...

Global site tag (gtag.js) - Google Analytics