`
gelongmei
  • 浏览: 208682 次
  • 性别: Icon_minigender_1
  • 来自: 深圳
文章分类
社区版块
存档分类
最新评论

本文收集了一堆的shell脚本技巧

阅读更多
本文收集了一堆的shell脚本技巧

csplit
mkfifo
Linux-Shell-使用mkfifo实现多任务并发及并发数控制


#####################################

0. shell 调试

复制代码 代码如下:
sh -x somefile.sh

在somefile.sh 文件里加上set+x set-x
1. 用 && || 简化if else
复制代码 代码如下:
gzip -t a.tar.gz
if [[ 0 == $? ]]; then
    echo "good zip"
else
    echo "bad zip"
fi
可以简化为:

复制代码 代码如下:
gzip  -t a.tar.gz && echo "good zip" || echo "bad zip"
2. 判断文件非空

复制代码 代码如下:
if [[ -s $file ]]; then
    echo "not empty"
fi
3. 获取文件大小

复制代码 代码如下:
stat -c %s $file
stat --printf='%s\n' $file
wc -c $file
4. 字符串替换

复制代码 代码如下:
${string//pattern/replacement}
a='a,b,c'
echo ${a//,/ /}
5. Contains 子字符串?
string="My string"
if [[ $string == *My* ]]; then
    echo "It's there!"
fi
6. rsync备份

复制代码 代码如下:
rsync -r -t -v /source_folder /destination_folder
rsync -r -t -v /source_folder [user@host:/destination_folder
7. 批量重命名文件

为所有txt文件加上.bak 后缀:
复制代码 代码如下:
rename '.txt' '.txt.bak' *.txt

去掉所有的bak后缀:
复制代码 代码如下:
rename '*.bak' '' *.bak

把所有的空格改成下划线:
复制代码 代码如下:
find path -type f -exec rename 's/ /_/g' {} \;

把文件名都改成大写:
复制代码 代码如下:
find path -type f -exec rename 'y/a-z/A-Z/' {} \;
8. for/while 循环

复制代码 代码如下:

for ((i=0; i < 10; i++)); do echo $i; done
for line in $(cat a.txt); do echo $line; done
for f in *.txt; do echo $f; done
while read line ; do echo $line; done < a.txt
cat a.txt | while read line; do echo $line; done

9. 删除空行
复制代码 代码如下:

cat a.txt | sed -e '/^$/d'
(echo "abc"; echo ""; echo "ddd";) | awk '{if (0 != NF) print $0;}'

10. 比较文件的修改时间
复制代码 代码如下:

[[ file1.txt -nt file2.txt ]] && echo true || echo false
[[ file1.txt -ot file2.txt ]] && echo true || echo false

11. 实现Dictionary结构
复制代码 代码如下:
hput() {
        eval "hkey_$1"="$2"
}
hget() {
        eval echo '${'"hkey_$1"'}'
        }
$ hput k1 aaa
$ hget k1
aaa
12. 去掉第二列

复制代码 代码如下:

$echo 'a b c d e f' | cut -d ' ' -f1,3-
$a c d e f

13. 把stderr输出保存到变量
复制代码 代码如下:

$ a=$( (echo 'out'; echo 'error' 1>&2) 2>&1 1>/dev/null)
$ echo $a
error
14. 删除前3行

复制代码 代码如下:

$cat a.txt | sed 1,3d

15. 读取多个域到变量
复制代码 代码如下:

read a b c <<< "xxx yyy zzz"

16. 遍历数组
复制代码 代码如下:
array=( one two three )
for i in ${array[@]}
        do
echo $i
done
17. 查看目录大小

复制代码 代码如下:
$ du –sh ~/apps
18. 查看CPU信息

复制代码 代码如下:
$ cat /proc/cpuinfo
19. date

复制代码 代码如下:
$ date +%Y-%m-%d
2012-12-24
$ date +%Y-%m-%d –date ‘-1 day'
2012-12-23
$ date +%Y-m-%d –date ‘Dec 25'
2011-12-25
$ date +%Y-m-%d –date ‘Dec 25 – 10 days'
2011-12-15
20. 获取路径名和文件名

复制代码 代码如下:

$ dirname ‘/home/lalor/a.txt'
/home/lalor
$ basename ‘/home/lalor/a.txt'
a.txt
21. 并集和交集

comm 可以用来求并集,交集,差集,假设现在有两个文件a和b,它们的内容如下:
复制代码 代码如下:
$cat a
1
3
5
$cat b
3
4
5
6
7

$comm a b
1
        3
    4
        5
    6
    7

$comm -1 -2 a b #交集
3
5

$comm a b | sed 's/\t//g' #并集
1
2
3
4
5
6
7

$comm -1 -3 a b | sed 's/\t//g' #b-a
4
6
7

22. awk复杂分隔符

多字符作分隔符
复制代码 代码如下:
$ echo "a||b||c||d" | awk -F '[|][|]' '{print $3}'
  c
多种分隔符1
复制代码 代码如下:

$echo "a||b,#c d" | awk -F '[| ,#]+' '{print $4}'
  d

多种分隔符2
复制代码 代码如下:
$echo "a||b##c|#d" | awk -F '([|][|])|([#][#])' '{print $NF}'
  c|#d
23. 产生一个随机数

复制代码 代码如下:

echo $RANDOM

24. 按照模式split 文件
复制代码 代码如下:
csplit server.log /PATTERN/ -n 2 -s {*} -f server_result -b "%02d.log" -z
/PATTERN/ 用来匹配某一行,分割过程由此开始
{*} 根据匹配,重复执行分割
-s 静默模式
-n 分割后文件名后缀中,数字的个数
-f 分割后的文件名前缀
-b 指定后缀格式

25. 获取文件名或者扩展名

复制代码 代码如下:
var=hack.fun.book.txt
echo ${var%.*}
hack.fun.book
echo ${var%%.*}
hack
echo ${var#.*}
fun.book.txt
echo ${var##.*}
txt
26. 以 root 帐户执行上一条命令。

复制代码 代码如下:

$sudo !!

其中: * !! 是指上一条命令 * !$ 上一条命令的最后一个参数 * !* 上一条命令的所有参数 * !:3 上一条命令的第3个参数
例如:
复制代码 代码如下:

$ls /tmp/somedir
ls: cannot access /tmp/somedir: No such file or directory
$mkdir !$
madir /tmp/somedir
27. 利用 python 搭建一个简单的 Web 服务器,可通过 http://$HOSTNAME:8000 访问。

复制代码 代码如下:

python -m SimpleHTTPServer

28. 在 Vim 中无需权限保存编辑的文件。
复制代码 代码如下:
:w !sudo tee %

29. 将上一条命令中的 foo 替换为 bar,并执行。
复制代码 代码如下:
^foo^bar

30. 快速备份或复制文件。
复制代码 代码如下:
cp filename{,.bak}

31. 将 ssh keys 复制到 user@host 以启用无密码 SSH 登录。
复制代码 代码如下:
$ssh-copy-id user@host

32. 把 linux 桌面录制为视频。
复制代码 代码如下:
ffmpeg -f x11grab -s wxga -r 25 -i :0.0 -sameq /tmp/out.mpg

33. man 妙用
复制代码 代码如下:
man ascii
man test

34. 在 vim 中编辑上一条命令
复制代码 代码如下:
fc

35. 删除0 字节文件或垃圾文件
复制代码 代码如下:
find . -type f -size 0 -delete
find . -type f -exec rm -rf {} \;
find . -type f -name "a.out" -exec rm -rf {} \;
find . type f -name "a.out" -delete
find . type f -name "*.txt" -print0 | xargs -0 rm -f
36. 在编写SHELL 时显示多行信息

复制代码 代码如下:

cat << EOF
+--------------------------------------------------------------+
| === Welcome to Tunoff services === |
+--------------------------------------------------------------+
EOF

注意,在指定结束符时,它必须是该行的唯一内容,并且该行必须以这个字符开头。
37. 如何给mysql建软链接
复制代码 代码如下:
cd /usr/local/mysql/bin
for i in *
do ln /usr/local/mysql/bin/$i /usr/bin/$i
done

38. 获取IP地址:
复制代码 代码如下:
ifconfig eth0 |grep "inet addr:" |awk '{print $2}'|cut -c 6-

39. 打开文件数目
复制代码 代码如下:
lsof

40. 清除僵尸进程
复制代码 代码如下:
ps -eal | awk '{ if ($2 == "Z"){ print $4}}' | kill -9

41. 打印唯一行
复制代码 代码如下:
awk '!a[$0]++' file

42. 打印奇数行
复制代码 代码如下:
awk 'i=!i' file
awk 'NR%2' file

43. 打印匹配行后的某一行
复制代码 代码如下:
seq 10 | awk '/4/{f=4};--f==0{print;exit}'

44. 打印某行后后面的10行
复制代码 代码如下:
cat file | grep -A100 string
cat file | grep -B100 string #前面
cat file | grep -C100 string #前后
sed -n '/string/,+100p'

awk '/string/{f=100}--f>=0'


45. 获取命令行最后一个参数
复制代码 代码如下:
echo ${!#}
echo ${$#} #错误的尝试
46. 输出重定向

如果你愿你,可以将STDERR 和 STDOUT 的输出重定向到一个输出文件,为此,bash 提供了特殊的重定向符号 &>
复制代码 代码如下:
ls file nofile &> /dev/null

我们如何在脚本里面重定向呢?没有什么特别之处,和普通重定向一样。
复制代码 代码如下:
#!/bin/bash
#redirecting output to different locations
echo "now redirecting all output to another location" &>/dev/null

问题就来了,如果我们要将所有的输出都重定向到某个文件呢?我们都不希望每次输出的时候都重定向一下吧,正所谓,山人自有妙计。我们可以用exec 来永久重定向,如下所示:
复制代码 代码如下:
#!/bin/bash
#redirecting output to different locations
exec 2>testerror
echo "This is the start of the script"
echo "now redirecting all output to another location"
exec 1>testout
echo "This output should go to testout file"
echo "but this should go the the testerror file" >& 2

输出结果如下所示:
复制代码 代码如下:
This is the start of the script
now redirecting all output to another location
lalor@lalor:~/temp$ cat testout
This output should go to testout file
lalor@lalor:~/temp$ cat testerror
but this should go the the testerror file
lalor@lalor:~/temp$

以追加的方式重定向:
复制代码 代码如下:
exec 3 >> testout

取消重定向:
复制代码 代码如下:
exec 3> -
47. 函数

任何地方定义的变量都是全局变量,如果要定义局部变量,需加local 关键字
shell中的函数也可以用递归
复制代码 代码如下:
#!/bin/bash
  function factorial {
      if [[ $1 -eq 1 ]]; then
          echo 1
      else
          local temp=$[ $1 - 1 ]
          local result=`factorial $temp`
          echo $[ $result * $1 ]
      fi
  }

  result=`factorial 5`
  echo $result
创建函数库

将函数定一个在另一个文件,然后通过source 命令加载到当前文件

在命令行使用函数

将函数定义在~/.bashrc 中即可

向函数传递数组
复制代码 代码如下:

#!/bin/bash
  #adding values in an array
  function addarray {
      local sum=0
      local newarray
      newarray=(`echo "$@"`)
      for value in ${newarray
  • }
  •       do
              sum=$[ $sum+$value ]
          done
          echo $sum
      }

      myarray=(1 2 3 4 5)
      echo "The original array is: ${myarray
  • }"
  •   arg1=`echo ${myarray
  • }`
  •   result=`addarray $arg1`
      echo "The result is $result"
    48.正则表达式

    匹配中文字符的正则表达式:[u4e00-u9fa5]
    评注:匹配中文还真是个头疼的事,有了这个表达式就好办了
    匹配双字节字符(包括汉字在内):[^x00-xff]
    评注:可以用来计算字符串的长度(一个双字节字符长度计2,ASCII字符计1)
    匹配空白行的正则表达式:^ *$
    评注:可以用来删除空白行
    匹配HTML标记的正则表达式:<(S*?)[^>]*>.*?</1>|<.*? />
    评注:网上流传的版本太糟糕,上面这个也仅仅能匹配部分,对于复杂的嵌套标记依旧无能为力
    匹配首尾空白字符的正则表达式:^s*|s*$
    评注:可以用来删除行首行尾的空白字符(包括空格、制表符、换页符等等),非常有用的表达式
    匹配Email地址的正则表达式:w+([-+.]w+)*@w+([-.]w+)*.w+([-.]w+)*
    评注:表单验证时很实用
    匹配网址URL的正则表达式:[a-zA-z]+://[^s]*
    评注:网上流传的版本功能很有限,上面这个基本可以满足需求
    匹配帐号是否合法(字母开头,允许5-16字节,允许字母数字下划线):^[a-zA-Z][a-zA-Z0-9_]{4,15}$
    评注:表单验证时很实用
    匹配国内电话号码:d{3}-d{8}|d{4}-d{7}
    评注:匹配形式如0511-4405222或021-87888822
    匹配腾讯QQ号:[1-9][0-9]{4,}
    评注:腾讯QQ号从10000开始
    匹配中国邮政编码:[1-9]d{5}(?!d)
    评注:中国邮政编码为6位数字
    匹配身份证:d{15}|d{18}
    评注:中国的身份证为15位或18位
    匹配ip地址:d+.d+.d+.d+
    评注:提取ip地址时有用
    匹配特定数字:
    ^[1-9]d*$  //匹配正整数
    ^-[1-9]d*$ //匹配负整数
    ^-?[1-9]d*$  //匹配整数
    ^[1-9]d*|0$ //匹配非负整数(正整数+ 0)
    ^-[1-9]d*|0$  //匹配非正整数(负整数+ 0)
    ^[1-9]d*.d*|0.d*[1-9]d*$  //匹配正浮点数
    ^-([1-9]d*.d*|0.d*[1-9]d*)$ //匹配负浮点数
    ^-?([1-9]d*.d*|0.d*[1-9]d*|0?.0+|0)$ //匹配浮点数
    ^[1-9]d*.d*|0.d*[1-9]d*|0?.0+|0$  //匹配非负浮点数(正浮点数+ 0)
    ^(-([1-9]d*.d*|0.d*[1-9]d*))|0?.0+|0$  //匹配非正浮点数(负浮点数+ 0)
    评注:处理大量数据时有用,具体应用时注意修正
    匹配特定字符串:
    ^[A-Za-z]+$  //匹配由26个英文字母组成的字符串
    ^[A-Z]+$  //匹配由26个英文字母的大写组成的字符串
    ^[a-z]+$  //匹配由26个英文字母的小写组成的字符串
    ^[A-Za-z0-9]+$  //匹配由数字和26个英文字母组成的字符串
    ^w+$  //匹配由数字、26个英文字母或者下划线组成的字符串
    分享到:
    评论

    相关推荐

      LinuxShell脚本学习基础视频

      资源名称:Linux Shell脚本学习基础视频资源目录:【】11a00d99b60c4e2eba3440b8aa3a6bdd【】linux_shell脚本编程_01认识shell,如何编写shell脚本和执行【】linux_shell脚本编程_02vivim简单的常用操作【】linux_...

      109个shell脚本合集.pdf

      Shell脚本是一种脚本语言,利用Shell的命令解释的功能,对一个纯文本的文件进行解析,然后执行这些功能。 Shell脚本可以直接使用在Windows、Unix、Linux上面,并且可以调用大量系统内部的功能来解释执行程序。如果...

      Shell脚本学习教程PDF版

      Shell脚本,作为Linux/Unix系统中的编程工具,是一种强大的自动化任务执行手段。它基于Bourne shell或者其扩展版本,如bash(Bourne-Again SHell),提供了一种编写简单或复杂程序的方式,使得用户能够通过命令行...

      shell脚本编程100例

      shell脚本可以用于编写nginx启动脚本,例如使用shell脚本编写一个nginx启动脚本的程序,实现自动化Web服务器管理。 使用shell脚本批量创建用户 shell脚本可以用于批量创建用户,例如使用shell脚本编写一个批量创建...

      Shell脚本编程100例

      Shell脚本编程是Linux系统管理中的重要技能,它允许用户自动化执行一系列命令,大大提高工作效率。以下是一些关于Shell脚本编程的关键知识点: 1. **Hello World脚本**:这是所有编程语言的基础,用于验证环境设置...

      Shell脚本中获取进程ID的方法

      当我在执行shell脚本时,它会启动一个叫子shell的进程。作为主shell的子进程,子shell将shell脚本中的命令作为批处理运行(因此称为“批处理进程”)。 在某些情况下,你也许想要知道运行中的子shell的PID。这个PID...

      IDEA中编写并运行shell脚本的实现

      IDEA中编写并运行shell脚本的实现 IDEA中编写并运行shell脚本的实现是指在Integrated Development Environment(IDE)中编写、配置和运行shell脚本的过程。该过程需要安装bashsupport插件,配置插件,安装git软件,...

      250个shell脚本

      本文档收集了250个实用的Shell脚本实例,涵盖了多个应用场景,包括系统管理、安全防护、数据库备份等核心知识点。 1. Dos攻击防范:通过监控Nginx的日志文件,检测到异常频繁的IP访问后,脚本会自动使用iptables...

      shell脚本与Makefile区别.docx

      本文将详细介绍 shell 脚本和 Makefile 的区别。 首先,shell 脚本和 Makefile 都有自己独立的通配符,不能互用。shell 脚本中的通配符是 *,表示所有的字符,而 Makefile 中的通配符是 %,表示所有的字符。 其次...

      shell脚本大全

      在IT领域,Shell脚本是Linux和Unix操作系统中不可或缺的一部分,它是一种强大的自动化工具,能够帮助用户执行一系列命令,简化日常任务。"shell脚本大全"这个资源可能包含了大量的示例脚本,涵盖了各种用途和场景,...

      解决Unity不能调用shell脚本传递参数的问题

      具体表现为:Unity试图通过`Process.Start`方法启动一个shell脚本,但是传递给脚本的参数没有被正确解析或使用。 #### 代码分析 在给出的Unity脚本示例中,可以看到如下关键代码: ```csharp [MenuItem("Tools/1...

      C语言中文网shell脚本教程

      通过这些教程,学习者可以全面了解Shell脚本编程的基础知识,掌握编写高效、可靠的Shell脚本的技巧,从而更好地管理和自动化Linux系统。每个HTML文件都包含了丰富的实例和实践指导,是提升Shell脚本技能的理想资源。

      shell脚本学习指南

      本文将深入探讨shell脚本的基础知识,包括语法、变量、控制结构、函数以及在实际应用中的常见技巧。 一、Shell脚本基础 1. **什么是Shell**:Shell是操作系统提供的一种命令行界面,它允许用户通过输入指令来与...

      linux下shell脚本实现数据的导出

      本文将深入讲解如何使用shell脚本来实现数据的导出,并结合Java代码进行调用。 首先,让我们分析给出的`backup.sh`脚本: ```bash su - oracle -c " exp cg23/sa tables=exp_table1,exp_table2 file=/home/oracle/...

      如何让Android系统或Android应用执行shell脚本

      Android 系统或 Android 应用执行 shell 脚本是 Android 开发中的一项重要技术,通过执行 shell 脚本,可以实现一些复杂的操作,例如设置网络参数、启动服务等。下面我们将介绍两种让 Android 系统或 Android 应用...

      shell脚本如何获取随机数random

      掌握在shell脚本中生成随机数的技巧对于IT专业人员来说是非常有用的。文章中提到的生成随机数的方法可以分为以下几点: 首先,可以使用C语言中的srand和rand函数来生成随机数。srand函数用于设置rand函数生成随机数...

      shell 脚本 实例 shell 脚本 实例

      在IT行业中,Shell脚本是一种极其重要的自动化工具,特别是在Linux和Unix系统中。Shell脚本允许用户通过编写简单的命令序列来执行复杂的任务,极大地提高了工作效率。以下是对"shell 脚本 实例"这一主题的详细说明。...

    Global site tag (gtag.js) - Google Analytics