- 浏览: 141040 次
文章分类
最新评论
readv 和 writev 函数可用于在一次函数调用中读、写多个非连续缓冲区,有时也称这两个函数为散布读(scatter read)和聚集写(gather write)。
这两个函数的第二个参数 iov 都是指向 iovec 结构数组的一个指针,该数组中的元素由 iovcnt 指定,其最大值受限于 IOV_MAX。readv 函数将读入的数据按 iov[0]、iov[1] 直至 iov[iovcnt-1] 的顺序散布到缓冲区中。它总是先填满一个缓冲区后再填写下一个。writev 函数则按照同样的顺序将缓冲区中的数据聚集输出到文件中。
存储映射 I/O 能将一个磁盘文件映射到存储空间中的一个缓冲区上,通过操作该缓冲区可以在不使用 read 和 write 的情况下间接地操作底层文件。为使用这种功能,应首先告诉内核将一个给定的文件映射到一个存储区域中。这可用 mmap 函数来实现。
其中,addr 参数用于指定映射存储区的起始地址,通常将其设置为 0,表示由系统来选择。len 参数是映射的字节数,fd 参数是要映射文件的描述符,off 参数要映射字节在文件中的起始偏移量。
prot 参数指定了映射存储区的保护要求,其可选值如下表所示。
prot 可设置为 PROT_NONE,也可设置为另外三个的按位或,但对指定映射存储区的保护要求不能超过文件 open 模式访问权限。
flag 参数可以影响映射存储区的多种属性,其可取值如下(其他实现可能还有另外一些,可参考具体实现的 mmap(2) 手册页)。
* MAP_FIXED:要求返回值必须等于 addr,因为不利于移植,所以不鼓励使用。如果未指定此标志,而且 addr 非 0,则内核只把 addr 视为在何处设置映射区的一种建议,但不保证会使用所要求的地址。将 addr 设置为 0 可获得最大可移植性。
* MAP_SHARED:此标志指定存储操作将修改映射文件。必须指定本标志或者下一个标志(MAP_PRIVATE)。
* MAP_PRIVATE:此标志说明对映射区的存储操作会导致创建该映射文件的一个私有副本,所有后来对该映射区的引用都是引用该副本。该标志的一种用途是用于调试程序,它将程序文件的正文部分映射至存储区,但允许用户修改其中的指令,而不影响原文件。
下图所示是典型的存储映射文件的基本情况,图中的“起始地址”是 mmap 的返回值。
off 和 addr(如果指定了 MAP_FIXED)的值通常被要求是系统虚拟存储页长度的倍数(虚拟存储页长可用带参数 _SC_PAGESIZE 或 _SC_PAGE_SIZE 的 sysconf 函数得到,通常为 4096 字节)。如果映射区的长度不是页长的整数倍时,那么为了 mmap 能将数据添加到文件中,可能需要先加长该文件。不过因为这两个参数常常指定为 0,所以这种要求一般不重要。
与映射区相关的信号有 SIGSEGV 和 SIGBUS。SIGSEGV 信号通常用于指示进程试图访问对它不可用的存储区。当进程试图将数据存入一个被 mmap 指定为只读的映射存储区时,也会产生此信号。而如果映射区的某个部分在访问时已不存在,就会产生 SIGBUS 信号,比如进程试图访问一个被截断了的文件的已截去部分的映射区时。
子进程能通过 fork 继承存储映射区,因为它复制了父进程的地址空间,而存储映射区是该地址空间中的一部分。但新程序则由于同样的原因不能通过 exec 继承存储映射区。
映射存储区分配好后,就可以使用下面一组函数来操作。
mprotect 函数可以更改一个现有映射的权限。如果修改的页是通过 MAP_SHARED 标志映射到地址空间中的,那么修改不会立即写回到文件中,何时写回脏页是由内核的守护进程根据系统负载和用来限制在系统失败事件中的数据损失的配置参数决定的。因此,即使只修改了一页中的一个字节,当修改被写回到文件中时也会写整个页。
msync 函数可以将共享映射中被修改的页冲洗到映射的文件中,私有映射不会修改被映射的文件。flags 参数可以控制如何冲洗存储区:MS_ASYNC 标志可用来简单地调试要写的页,MS_SYNC 标志可让函数在返回之前等待写操作完成。这两个标志必须指定一个。还有一个可选的标志 MS_INVALIDATE 可用来通知操作系统丢弃那些与底层存储器没有同步的页。
进程终止或者直接调用 munmap 函数都可以解除映射区,而关闭映射存储区使用的文件描述符不会解除映射区。调用 munmap 不会使映射区的内容写到磁盘文件上。对于 MAP_SHARED 区磁盘文件的更新,会在将数据写到存储映射区后的某个时刻,按内核虚拟存储算法自动进行。在存储区解除映射后,对 MAP_PRIVATE 存储区的修改会被丢弃。
下面这个示例使用存储映射 I/O 来模拟 cp 命令复制文件。
注意,本示例中如果不使用 ftruncate 或类似的函数来设置输出文件的长度,则对输出文件调用 mmap 虽然也可以,但是对相关存储区的第一次引用将会产生 SIGBUS 信号。在映射文件中的后一部分数据前,需要先解除前一部分数据的映射。在从输入缓冲区 src 取数据时,内核自动读输入文件;在将数据存入输出缓冲区 dst 时,内核自动将数据写到输出文件中。
对比系统调用 read 和 write,这两者将数据从内核缓冲区中复制到应用缓冲区(read),然后再把数据从应用缓冲区复制到内核缓冲区(write),而 mmap 和 memcpy 是直接把数据从映射到地址空间的一个内核缓冲区复制到另一个内核缓冲区,但当引用尚不存在的内存页时,这样的复制过程就会作为处理页错误(错页读或错页写)的结果而出现。如果系统调用及额外的复制操作的开销和页错误的开销不同,那么这两种方法中就会有一种比另一种表现更好。
#include <sys/uio.h> ssize_t readv(int fd, const struct iovec *iov, int iovcnt); ssize_t writev(int fd, const struct iovec *iov, int iovcnt); /* 两个函数的返回值:已读或已写的字节数;若出错,返回 -1 */ struct iovec{ void *iov_base; // starting address of buffer size_t iov_len; // size of buffer };
这两个函数的第二个参数 iov 都是指向 iovec 结构数组的一个指针,该数组中的元素由 iovcnt 指定,其最大值受限于 IOV_MAX。readv 函数将读入的数据按 iov[0]、iov[1] 直至 iov[iovcnt-1] 的顺序散布到缓冲区中。它总是先填满一个缓冲区后再填写下一个。writev 函数则按照同样的顺序将缓冲区中的数据聚集输出到文件中。
存储映射 I/O 能将一个磁盘文件映射到存储空间中的一个缓冲区上,通过操作该缓冲区可以在不使用 read 和 write 的情况下间接地操作底层文件。为使用这种功能,应首先告诉内核将一个给定的文件映射到一个存储区域中。这可用 mmap 函数来实现。
#include <sys/mman.h> void * mmap(void *addr, size_t len, int prot, int flag, int fd, off_t off); /* 返回值:若成功,返回映射区的起始地址;否则,返回 MAP_FAILED */
其中,addr 参数用于指定映射存储区的起始地址,通常将其设置为 0,表示由系统来选择。len 参数是映射的字节数,fd 参数是要映射文件的描述符,off 参数要映射字节在文件中的起始偏移量。
prot 参数指定了映射存储区的保护要求,其可选值如下表所示。
prot 可设置为 PROT_NONE,也可设置为另外三个的按位或,但对指定映射存储区的保护要求不能超过文件 open 模式访问权限。
flag 参数可以影响映射存储区的多种属性,其可取值如下(其他实现可能还有另外一些,可参考具体实现的 mmap(2) 手册页)。
* MAP_FIXED:要求返回值必须等于 addr,因为不利于移植,所以不鼓励使用。如果未指定此标志,而且 addr 非 0,则内核只把 addr 视为在何处设置映射区的一种建议,但不保证会使用所要求的地址。将 addr 设置为 0 可获得最大可移植性。
* MAP_SHARED:此标志指定存储操作将修改映射文件。必须指定本标志或者下一个标志(MAP_PRIVATE)。
* MAP_PRIVATE:此标志说明对映射区的存储操作会导致创建该映射文件的一个私有副本,所有后来对该映射区的引用都是引用该副本。该标志的一种用途是用于调试程序,它将程序文件的正文部分映射至存储区,但允许用户修改其中的指令,而不影响原文件。
下图所示是典型的存储映射文件的基本情况,图中的“起始地址”是 mmap 的返回值。
off 和 addr(如果指定了 MAP_FIXED)的值通常被要求是系统虚拟存储页长度的倍数(虚拟存储页长可用带参数 _SC_PAGESIZE 或 _SC_PAGE_SIZE 的 sysconf 函数得到,通常为 4096 字节)。如果映射区的长度不是页长的整数倍时,那么为了 mmap 能将数据添加到文件中,可能需要先加长该文件。不过因为这两个参数常常指定为 0,所以这种要求一般不重要。
与映射区相关的信号有 SIGSEGV 和 SIGBUS。SIGSEGV 信号通常用于指示进程试图访问对它不可用的存储区。当进程试图将数据存入一个被 mmap 指定为只读的映射存储区时,也会产生此信号。而如果映射区的某个部分在访问时已不存在,就会产生 SIGBUS 信号,比如进程试图访问一个被截断了的文件的已截去部分的映射区时。
子进程能通过 fork 继承存储映射区,因为它复制了父进程的地址空间,而存储映射区是该地址空间中的一部分。但新程序则由于同样的原因不能通过 exec 继承存储映射区。
映射存储区分配好后,就可以使用下面一组函数来操作。
#include <sys/mman.h> int mprotect(void *addr, size_t len, int prot); int msync(void *addr, size_t len, int flags); int munmap(void *addr, size_t len); /* 三个函数的返回值:若成功,返回 0;否则,返回 -1 */
mprotect 函数可以更改一个现有映射的权限。如果修改的页是通过 MAP_SHARED 标志映射到地址空间中的,那么修改不会立即写回到文件中,何时写回脏页是由内核的守护进程根据系统负载和用来限制在系统失败事件中的数据损失的配置参数决定的。因此,即使只修改了一页中的一个字节,当修改被写回到文件中时也会写整个页。
msync 函数可以将共享映射中被修改的页冲洗到映射的文件中,私有映射不会修改被映射的文件。flags 参数可以控制如何冲洗存储区:MS_ASYNC 标志可用来简单地调试要写的页,MS_SYNC 标志可让函数在返回之前等待写操作完成。这两个标志必须指定一个。还有一个可选的标志 MS_INVALIDATE 可用来通知操作系统丢弃那些与底层存储器没有同步的页。
进程终止或者直接调用 munmap 函数都可以解除映射区,而关闭映射存储区使用的文件描述符不会解除映射区。调用 munmap 不会使映射区的内容写到磁盘文件上。对于 MAP_SHARED 区磁盘文件的更新,会在将数据写到存储映射区后的某个时刻,按内核虚拟存储算法自动进行。在存储区解除映射后,对 MAP_PRIVATE 存储区的修改会被丢弃。
下面这个示例使用存储映射 I/O 来模拟 cp 命令复制文件。
#include <stdio.h> #include <stdlib.h> #include <unistd.h> #include <fcntl.h> #include <string.h> #include <sys/stat.h> #include <sys/mman.h> #define COPYINCR (1024*1024) // 1 GB = 256 * 4096 KB #define FILE_MODE (S_IRUSR|S_IWUSR|S_IRGRP|S_IROTH) int main(int argc, char *argv[]){ if(argc < 3){ printf("Usage: %s <fromFile> <toFile>\n", argv[0]); exit(1); } int fdin = open(argv[1], O_RDONLY); int fdout = open(argv[2], O_RDWR|O_CREAT|O_TRUNC, FILE_MODE); struct stat fin_stat; fstat(fdin, &fin_stat); if( ftruncate(fdout, fin_stat.st_size) < 0){ printf("ftruncate error\n"); exit(1); } void *src, *dst; off_t fsz = 0; // 要为虚拟存储页(一般为4096字节)的倍数 while(fsz < fin_stat.st_size){ size_t copysz = fin_stat.st_size - fsz; if(copysz > COPYINCR) copysz = COPYINCR; if((src=mmap(0, copysz, PROT_READ, MAP_SHARED, fdin, fsz)) == MAP_FAILED){ printf("Failed to map input file\n"); exit(1); } if((dst=mmap(0, copysz, PROT_WRITE|PROT_READ, MAP_SHARED, fdout, fsz)) == MAP_FAILED){ printf("Failed to map output file\n"); exit(1); } memcpy(dst, src, copysz); // does the file copy munmap(src, copysz); munmap(dst, copysz); fsz += copysz; } exit(0); }
注意,本示例中如果不使用 ftruncate 或类似的函数来设置输出文件的长度,则对输出文件调用 mmap 虽然也可以,但是对相关存储区的第一次引用将会产生 SIGBUS 信号。在映射文件中的后一部分数据前,需要先解除前一部分数据的映射。在从输入缓冲区 src 取数据时,内核自动读输入文件;在将数据存入输出缓冲区 dst 时,内核自动将数据写到输出文件中。
对比系统调用 read 和 write,这两者将数据从内核缓冲区中复制到应用缓冲区(read),然后再把数据从应用缓冲区复制到内核缓冲区(write),而 mmap 和 memcpy 是直接把数据从映射到地址空间的一个内核缓冲区复制到另一个内核缓冲区,但当引用尚不存在的内存页时,这样的复制过程就会作为处理页错误(错页读或错页写)的结果而出现。如果系统调用及额外的复制操作的开销和页错误的开销不同,那么这两种方法中就会有一种比另一种表现更好。
发表评论
-
打开伪终端设备
2018-07-09 20:50 1249在伪终端概述一节中已对 PTY进行了初步的介绍。尽管 ... -
伪终端概述
2018-06-02 11:05 1535伪终端就是指,一个应用程序看上去像一个终端,但事实上它 ... -
终端窗口大小和 termcap
2018-05-29 22:39 791多数 UNIX 系统都提供了一种跟踪当前终端窗口大小的 ... -
终端规范模式和非规范模式
2018-05-29 00:25 943终端规范模式很简单:发一个读请求,当一行已经输入后,终 ... -
终端标识
2018-05-23 11:18 566尽管控制终端的名字在多数 UNIX 系统上都是 /de ... -
波特率和行控制函数
2018-05-22 07:53 935虽然大多数终端设 ... -
终端属性和选项标志
2018-05-20 07:40 707tcgetattr 和 tcsetattr ... -
终端特殊输入字符
2018-05-17 06:33 810终端支持下表所示的特殊输入字符。 为了更改 ... -
终端 I/O 综述
2018-05-10 07:56 432终端设备可认为是由内核中的终端驱动程序控制的。每个终端 ... -
POSIX 信号量
2018-05-09 00:03 575在XSI IPC通信之信 ... -
XSI IPC 通信之共享存储
2018-04-25 07:18 943在XSI IPC通信之消息队列和XSI IPC通信之信 ... -
XSI IPC通信之信号量
2018-04-17 23:38 612在XSI IPC通信之消 ... -
XSI IPC通信之消息队列
2018-04-15 10:54 490消息队列是消息的链接表,存储在内核中,由消息队列标识符 ... -
XSI IPC 相似特征介绍
2018-02-08 23:48 480有 3 种称作 XSI IPC ... -
IPC 通信之 FIFO
2018-02-06 22:55 412FIFO 也被称为命名管道,未命名的管道只能在两个相关 ... -
IPC 通信之管道
2018-01-30 22:22 383管道是 UNIX 系统 IPC 的最古老但也是最常用的 ... -
POSIX 异步 I/O
2018-01-16 21:33 450POSIX 异步 I/O 接口为对不同类型的文件进行异 ... -
fcntl 记录锁
2018-01-06 23:48 588记录锁的功能是:当有进程正在读或修改文件的某个部分时, ... -
守护进程惯例
2018-01-06 23:52 432UNIX 系统中,守护进程遵循下列通用惯例。 ... -
守护进程编写规则与出错记录
2017-12-26 01:53 450在编写守护进程程 ...
相关推荐
14.7 readv和writev函数 14.8 readn和writen函数 14.9 存储映射I/O 14.10 小结 习题 第15章 进程间通信 15.1 引言 15.2 管道 15.3 popen和pclose函数 15.4 协同进程 15.5 FIFO ...
14. 高级I/O:包括记录锁、SysVSTREAMS机制、非阻塞I/O、I/O多路转接、异步I/O、readv和writev函数、存储映射I/O等。 15. 进程间通信:详细讨论了几种UNIX进程间通信的机制,如管道、协同进程、命名管道(FIFO)、...
`uio.h`则涉及到用户I/O操作,通常用于处理大量数据的读写,比如内存映射I/O(mmap)或散列I/O(readv, writev)。这些函数允许程序以非连续的方式读写数据,提高了效率。 `types.h`通常包含各种基本类型(如int, ...
- **readv/writev函数**:分散读取/写入多个缓冲区。 - **readn/writen函数**:确保完整读取/写入指定数量的字节。 - **存储映射I/O**:将文件映射到进程的地址空间。 #### 第13章:精灵进程 - **精灵进程的特征**...
12.7 readv和writev函数 12.8 readn和 writen函数 12.9 存储映射I/O 12.10 小结 习题 第13章 精灵进程 13.1 引言 13.2 精灵进程的特征 13.3 编程规则 13.4 出错记录 13.4.1 SVR4流log驱动程序 13.4.2 4.3+BSD ...
12.7 readv和writev函数 304 12.8 readn和writen函数 306 12.9 存储映射I/O 307 12.10 小结 311 习题 311 第13章 精灵进程 312 13.1 引言 312 13.2 精灵进程的特征 312 13.3 编程规则 313 13.4 出错记录 314 13.5 ...
14.7 readv和writev函数 387 14.8 readn和writen函数 389 14.9 存储映射I/O 390 14.10 小结 395 习题 396 第15章 进程间通信 397 15.1 引言 397 15.2 管道 398 15.3 popen和pclose函数 403 15.4 ...
357 14.4 STREAMS 370 14.5 I/O多路转接 379 14.5.1 select和pselect函数 381 14.5.2 poll函数 384 14.6 异步I/O 386 14.6.1 系统V异步I/O 386 14.6.2 BSD异步I/O 387 14.7 readv和writev函数 ...
12.7 readv和writev函数 304 12.8 readn和writen函数 306 12.9 存储映射I/O 307 12.10 小结 311 习题 311 第13章 精灵进程 312 13.1 引言 312 13.2 精灵进程的特征 312 13.3 编程规则 313 13.4 出错记录 314 13.4.1 ...
12.7 readv和writev函数 304 12.8 readn和writen函数 306 12.9 存储映射I/O 307 12.10 小结 311 习题 311 第13章 精灵进程 312 13.1 引言 312 13.2 精灵进程的特征 312 13.3 编程规则 313 13.4 出错记录 ...
12.7 readv和writev函数 304 12.8 readn和writen函数 306 12.9 存储映射I/O 307 12.10 小结 311 习题 311 第13章 精灵进程 312 13.1 引言 312 13.2 精灵进程的特征 312 13.3 编程规则 313 13.4 出错记录 314 13.4.1 ...
12.7 readv和writev函数 304 12.8 readn和writen函数 306 12.9 存储映射I/O 307 12.10 小结 311 习题 311 第13章 精灵进程 312 13.1 引言 312 13.2 精灵进程的特征 312 13.3 编程规则 313 13.4 出错记录 314 13.4.1 ...
12.7 readv和writev函数 304 12.8 readn和writen函数 306 12.9 存储映射I/O 307 12.10 小结 311 习题 311 第13章 精灵进程 312 13.1 引言 312 13.2 精灵进程的特征 312 13.3 编程规则 313 13.4 出错记录 314 13.4.1 ...
12.7 readv和writev函数 304 12.8 readn和writen函数 306 12.9 存储映射I/O 307 12.10 小结 311 习题 311 第13章 精灵进程 312 13.1 引言 312 13.2 精灵进程的特征 312 13.3 编程规则 313 13.4 出错记录 314 13.4.1 ...
12.7 readv和writev函数 304 12.8 readn和writen函数 306 12.9 存储映射I/O 307 12.10 小结 311 习题 311 第13章 精灵进程 312 13.1 引言 312 13.2 精灵进程的特征 312 13.3 编程规则 313 13.4 出错记录 314 13.4.1 ...
12.7 readv和writev函数 304 12.8 readn和writen函数 306 12.9 存储映射I/O 307 12.10 小结 311 习题 311 第13章 精灵进程 312 13.1 引言 312 13.2 精灵进程的特征 312 13.3 编程规则 313 13.4 出错记录 314 13.4.1 ...