shell脚本之sed详细用法详解

2024-09-26 19:56:58

sed的作用

sed是Stream Editor（流编辑器）的缩写，简称流编辑器；用来处理文件的

sed是一行一行读取文件内容并按照要求进行处理，把处理后的结果输出到屏幕

首先sed读取文件中的一行内容，把其保存在一个临时缓存区中（也称为模式空间）
然后根据需求处理临时缓冲区中的行，完成后把该行发送到屏幕上

总结：

由于sed把每一行都存在临时缓冲区中，对这个副本进行编辑，所以不会直接修改原文件
Sed主要用来自动编辑一个或多个文件；简化对文件的反复操作,对文件进行过滤和转换操作

sed使用方法介绍

sed常见的语法格式有两种，一种叫命令行模式，另一种叫脚本模式。

命令行格式

sed [options] ‘处理动作’ 文件名

常用选项

选项	说明	备注
-e	进行多项(多次)编辑	可以编辑多个匹配参数
-n	取消默认输出	不自动打印模式空间
-r	使用扩展正则表达式
-i	原地编辑	会修改源文件
-f	指定sed脚本的文件名

常见处理动作

以下所有的动作都要在单引号里

动作	说明	备注
‘p’	打印
‘i’ 在指定行之前插入内容	类似vim里的大写O
‘a’	在指定行之后插入内容	类似vim里的小写o
‘c’	替换指定行所有内容	很常用
‘d’	删除指定行

举例说明

文件准备

vim a.txt  

root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
adm:x:3:4:adm:/var/adm:/sbin/nologin
lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
298374837483
172.16.0.254
10.1.1.1

对文件进行增、删、改、查操作

打印文件内容

sed ''  a.txt                        对文件什么都不做
sed -n 'p'  a.txt                    打印每一行，并取消默认输出
sed -n '1p'  a.txt                    打印第1行
sed -n '2p'  a.txt                    打印第2行
sed -n '1,5p'  a.txt                打印1到5行
sed -n '$p' a.txt                     打印最后1行

增加文件内容

i地址定位的上面插入

a下面插入

 sed '$a99999' a.txt              文件最后一行下面增加内容
sed 'a99999' a.txt                文件每行下面增加内容
sed '5a99999' a.txt               文件第5行下面增加内容
sed '$i99999' a.txt               文件最后一行上一行增加内容
sed 'i99999' a.txt                文件每行上一行增加内容
sed '6i99999' a.txt               文件第6行上一行增加内容
sed '/^adm/ihello'                以adm开头行的上一行插入内容

c 替换指定的整行内容

sed '5chello world' a.txt       替换文件第5行内容
sed 'chello world' a.txt        替换文件所有内容
sed '1,5chello world' a.txt     替换文件1到5号内容为hello world
sed '/^daemon/c888888' a.txt    替换以user01开头的行

删除文件内容

sed '1d' a.txt                   删除文件第1行
sed '1,5d' a.txt                 删除文件1到5行
sed '$d' a.txt                   删除文件最后一行

对文件进行搜索替换操作

语法：sed 选项 ‘s/搜索的内容/替换的内容/动作’ 需要处理的文件
其中，s表示search搜索；斜杠==/表示分隔符，可以自己定义;动作一般是打印p和全局替换g==（默认只替换每行第一个匹配到的内容）

sed -n 's/root/ROOT/p' 1.txt
sed -n 's/root/ROOT/gp' 1.txt
sed -n 's/^#//gp' 1.txt
sed -n 's@/sbin/nologin@itcast@gp' a.txt
sed -n 's/\/sbin\/nologin/itcast/gp' a.txt
sed -n '10s#/sbin/nologin#itcast#p' a.txt
uucp:x:10:14:uucp:/var/spool/uucp:itcast

sed -n 's@/sbin/nologin@itcastheima@p' 2.txt
注意：搜索替换中的分隔符可以自己指定

sed -n '1,5s/^/#/p' a.txt         注释掉文件的1-5行内容
#root:x:0:0:root:/root:/bin/bash
#bin:x:1:1:bin:/bin:/sbin/nologin
#daemon:x:2:2:daemon:/sbin:/sbin/nologin
#adm:x:3:4:adm:/var/adm:/sbin/nologin
#lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

其他命令

命令	解释	备注
r	从另外文件中读取内容
w	内容另存为
&	保存查找串以便在替换串中引用	和()相同
=	打印行号
！	对所选行以外的所有行应用命令，放到行数之后	‘1,5!’
q	退出

举例说明：

r    从文件中读取输入行
w    将所选的行写入文件

sed '3r /etc/hosts' 2.txt
sed '$r /etc/hosts' 2.txt
sed '/root/w a.txt' 2.txt
sed '/[0-9]{4}/w a.txt' 2.txt
sed  -r '/([0-9]{1,3}\.){3}[0-9]{1,3}/w b.txt' 2.txt

!    对所选行以外的所有行应用命令，放到行数之后
sed -n '1!p' 1.txt
sed -n '4p' 1.txt
sed -n '4!p' 1.txt
cat -n 1.txt
sed -n '1,17p' 1.txt
sed -n '1,17!p' 1.txt 

&   保存查找串以便在替换串中引用   \(\)

sed -n '/root/p' a.txt
root:x:0:0:root:/root:/bin/bash
sed -n 's/root/#&/p' a.txt
#root:x:0:0:root:/root:/bin/bash

sed -n 's/^root/#&/p' passwd   注释掉以root开头的行
sed -n -r 's/^root|^stu/#&/p' /etc/passwd    注释掉以root开头或者以stu开头的行
sed -n '1,5s/^[a-z].*/#&/p' passwd  注释掉1~5行中以任意小写字母开头的行
sed -n '1,5s/^/#/p' /etc/passwd  注释1~5行
或者
sed -n '1,5s/^/#/p' passwd 以空开头的加上#
sed -n '1,5s/^#//p' passwd 以#开头的替换成空

sed -n '/^root/p' 1.txt
sed -n 's/^root/#&/p' 1.txt
sed -n 's/\(^root\)/#\1/p' 1.txt
sed -nr '/^root|^stu/p' 1.txt
sed -nr 's/^root|^stu/#&/p' 1.txt 

=     打印行号
sed -n '/bash$/=' passwd    打印以bash结尾的行的行号
sed -ne '/root/=' -ne '/root/p' passwd
sed -n '/nologin$/=;/nologin$/p' 1.txt
sed -ne '/nologin$/=' -ne '/nologin$/p' 1.txt

q    退出
sed '5q' 1.txt
sed '/mail/q' 1.txt
sed -r '/^yunwei|^mail/q' 1.txt

sed -n '/bash$/p;10q' 1.txt
ROOT:x:0:0:root:/root:/bin/bash

综合运用：
sed -n '1,5s/^/#&/p' 1.txt
#root:x:0:0:root:/root:/bin/bash
#bin:x:1:1:bin:/bin:/sbin/nologin
#daemon:x:2:2:daemon:/sbin:/sbin/nologin
#adm:x:3:4:adm:/var/adm:/sbin/nologin
#lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

sed -n '1,5s/\(^\)/#\1/p' 1.txt
#root:x:0:0:root:/root:/bin/bash
#bin:x:1:1:bin:/bin:/sbin/nologin
#daemon:x:2:2:daemon:/sbin:/sbin/nologin
#adm:x:3:4:adm:/var/adm:/sbin/nologin
#lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

其他选项

-e 多项编辑
-r    扩展正则
-i 修改原文件

sed -ne '/root/p' 1.txt -ne '/root/='
root:x:0:0:root:/root:/bin/bash
1
sed -ne '/root/=' -ne '/root/p' 1.txt
1
root:x:0:0:root:/root:/bin/bash

在1.txt文件中的第5行的前面插入“hello world”;在1.txt文件的第8行下面插入“猫猫猫”

sed -e '5ihello world' -e '8a猫猫猫' 1.txt  -e '5=;8='

sed -n '1,5p' 1.txt
sed -ne '1p' -ne '5p' 1.txt
sed -ne '1p;5p' 1.txt

过滤vsftpd.conf文件中以#开头和空行：

grep -Ev '^#|^$' /etc/vsftpd/vsftpd.conf
sed -e '/^#/d' -e '/^$/d' /etc/vsftpd/vsftpd.conf
[sed '/^#/d;/^$/d' /etc/vsftpd/vsftpd.conf
sed -r '/^#|^$/d' /etc/vsftpd/vsftpd.conf

过滤smb.conf文件中生效的行：
sed -e '/^#/d' -e '/^;/d' -e '/^$/d' -e '/^\t$/d' -e '/^\t#/d' smb.conf
sed -r '/^(#|$|;|\t#|\t$)/d' smb.conf 

sed -e '/^#/d' -e '/^;/d' -e '/^$/d' -e '/^\t$/d' -e '/^\t#/' smb.conf

grep '^[^a-z]' 1.txt

sed -n '/^[^a-z]/p' 1.txt

过滤出文件中的IP地址：
grep -E '([0-9]{1,3}\.){3}[0-9]{1,3}' 1.txt
192.168.0.254
sed -nr '/([0-9]{1,3}\.){3}[0-9]{1,3}/p' 1.txt
192.168.0.254

grep -o -E '([0-9]{1,3}\.){3}[0-9]{1,3}' 2.txt
10.1.1.1
10.1.1.255
255.255.255.0

sed -nr '/([0-9]{1,3}\.){3}[0-9]{1,3}/p' 2.txt
10.1.1.1
10.1.1.255
255.255.255.0

过滤出ifcfg-eth0文件中的IP、子网掩码、广播地址
grep -Eo '([0-9]{1,3}\.){3}[0-9]{1,3}' ifcfg-eth0
10.1.1.1
255.255.255.0
10.1.1.254

sed -nr '/([0-9]{1,3}\.){3}[0-9]{1,3}/p' ifcfg-eth0|cut -d'=' -f2
10.1.1.1
255.255.255.0
10.1.1.254

sed -nr '/([0-9]{1,3}\.){3}[0-9]{1,3}/p' ifcfg-eth0|sed -n 's/[A-Z=]//gp'
10.1.1.1
255.255.255.0
10.1.1.254

ifconfig eth0|sed -n '2p'|sed -n 's/[:a-Z]//gp'|sed -n 's/ /\n/gp'|sed '/^$/d'
10.1.1.1
10.1.1.255
255.255.255.0

ifconfig | sed -nr '/([0-9]{1,3}\.)[0-9]{1,3}/p' | head -1|sed -r 's/([a-z:]|[A-Z/t])//g'|sed 's/ /\n/g'|sed  '/^$/d'

ifconfig eth0|sed -n '2p'|sed -n 's/.*addr:\(.*\) Bcast:\(.*\) Mask:\(.*\)/\1\n\2\n\3/p'
10.1.1.1
10.1.1.255
255.255.255.0

-i 选项  直接修改原文件
sed -i 's/root/ROOT/;s/stu/STU/' 11.txt
sed -i '17{s/YUNWEI/yunwei/;s#/bin/bash#/sbin/nologin#}' 1.txt
sed -i '1,5s/^/#&/' a.txt

注意：
-ni  不要一起使用
p命令 不要再使用-i时使用

sed结合正则使用

sed 选项 ‘sed命令或者正则表达式或者地址定位’ 文件名

定址用于决定对哪些行进行编辑。地址的形式可以是数字、正则表达式、或二者的结合。

如果没有指定地址，sed将处理输入文件的所有行。

正则	说明	备注
/key/	查询包含关键字的行	sed -n ‘/root/p’ 1.txt
/key1/,/key2/	匹配包含两个关键字之间的行	sed -n ‘/^adm/,/^mysql/p’ 1.txt
/key/,x	从匹配关键字的行开始到文件第x行之间的行（包含关键字所在行）	sed -n ‘/^ftp/,7p’
x,/key/	从文件的第x行开始到与关键字的匹配行之间的行
x,y!	不包含x到y行
/key/!	不包括关键字的行	sed -n ‘/bash$/!p’ 1.txt

补充扩展总结

1、正则表达式必须以”/“前后规范间隔
例如：sed '/root/d' file
例如：sed '/^root/d' file

2、如果匹配的是扩展正则表达式，需要使用-r选来扩展sed
grep -E
sed -r
+ ? () {n,m} | \d

注意：
在正则表达式中如果出现特殊字符(^$.*/[]),需要以前导 "\" 号做转义
eg：sed '/\$foo/p' file

3、逗号分隔符
例如：sed '5,7d' file                  删除5到7行
例如：sed '/root/,/ftp/d' file
删除第一个匹配字符串"root"到第一个匹配字符串"ftp"的所有行本行不找 循环执行

4、组合方式
例如：sed '1,/foo/d' file            删除第一行到第一个匹配字符串"foo"的所有行
例如：sed '/foo/,+4d' file            删除从匹配字符串”foo“开始到其后四行为止的行
例如：sed '/foo/,~3d' file            删除从匹配字符串”foo“开始删除到3的倍数行（文件中）
例如：sed '1~5d' file                从第一行开始删每五行删除一行
例如：sed -nr '/foo|bar/p' file    显示配置字符串"foo"或"bar"的行
例如：sed -n '/foo/,/bar/p' file    显示匹配从foo到bar的行
例如：sed '1~2d'  file                删除奇数行
例如：sed '0-2d'   file                删除偶数行 sed '1~2!d'  file

5、特殊情况
例如：sed '$d' file                    删除最后一行
例如：sed '1d' file                    删除第一行

6、其他：
sed 's/.//' a.txt                        删除每一行中的第一个字符
sed 's/.//2' a.txt                    删除每一行中的第二个字符
sed 's/.//N' a.txt                    从文件中第N行开始，删除每行中第N个字符（N>2）
sed 's/.$//' a.txt                    删除每一行中的最后一个字符

总结

到此这篇关于shell脚本之sed详细用法的文章就介绍到这了,更多相关shell脚本sed用法内容请搜索我们以前的文章或继续浏览下面的相关文章希望大家以后多多支持我们！

shell脚本之正则表达式、grep、sed、awk

--正则-- 基础正则 ^word ##搜索以word开头的 vi/vim中 ^ 一行的开头 word$ ##搜索以word结尾的 vi/vim中 $ 一行的结尾 ^$ ##表示空行 . ##代表且只能代表任意一个字符 \ ##例:\. 只代表点本身,转义符号,让有特殊身份意义的字符,脱掉马甲,还原 \n ##换行符 \r ##匹配回车 \w ##匹配任意一个字符和数字 *
shell脚本--sed的用法详解

sed在处理文本时是逐行读取文件内容,读到匹配的行就根据指令做操作,不匹配就跳过. sed是Linux下一款功能强大的非交互流式文本编辑器,可以对文本文件进行增.删.改.查等操作,支持按行.按字段.按正则匹配文本内容,灵活方便,特别适合于大文件的编辑.本文主要介绍sed的一些基本用法,并通过shell脚本演示sed的使用实例. 1.sed的使用方法,调用sed 命令的语法有两种: 一.在命令行指定sed指令对文本进行处理:sed +选项 '指令' 文件二.先将sed指令保存到文件中,将该文件
shell脚本之sed详细用法详解

目录 sed的作用 sed使用方法介绍命令行格式举例说明对文件进行增.删.改.查操作增加文件内容对文件进行搜索替换操作其他命令其他选项 sed结合正则使用补充扩展总结总结 sed的作用 sed是Stream Editor(流编辑器)的缩写,简称流编辑器:用来处理文件的 sed是一行一行读取文件内容并按照要求进行处理,把处理后的结果输出到屏幕首先sed读取文件中的一行内容,把其保存在一个临时缓存区中(也称为模式空间) 然后根据需求处理临时缓冲区中的行,完成后把该行发送到屏幕上
shell中的for循环用法详解

for 命令: for i in 的各种用法 : for i in "file1" "file2" "file3" for i in /boot/* for i in /etc/*.conf for i in $(seq -w 10) -->等宽的01-10 for i in {1-10} for i in $( ls ) for I in $(< file) for i in "$@" -->取所有位置参数
shell中set指令的用法详解

语法 set [-可选参数] [-o 选项] 功能说明 set 指令可根据不同的需求来设置当前所使用 shell 的执行方式,同时也可以用来设置或显示 shell 变量的值.当指定某个单一的选项时将设置 shell 的常用特性,如果在选项后使用 -o 参数将打开特殊特性,若是 +o 将关闭相应的特殊特性.而不带任何参数的 set 指令将显示当前 shell 中的全部变量,且总是返回 true,除非遇到非法的选项. 参数说明可选参数及其说明如下: 参数说明 -a 标示已修改的变量,以供输出至环
Linux 在Shell脚本中使用函数实例详解

Linux 在Shell脚本中使用函数实例详解 Shell的函数 Shell程序也支持函数.函数能完成一特定的功能,可以重复调用这个函数. 函数格式如下: 函数名() { 函数体 } 函数调用方式: 函数名参数列表实例:编写一函数add求两个数的和,这两个数用位置参数传入,最后输出结果. root@ubuntu:/home/study# vi test3 #!/bin/bash add(){ a=$1; b=$2; z=`expr $a + $b`; echo "The sum is $z&
Windows bat脚本之for循环用法详解

Windows bat脚本的for语句基本形态如下: 在cmd窗口中:for %I in (command1) do command2 在批处理文件中:for %%I in (command1) do command2 之所以要区分cmd窗口和批处理文件两种环境,是因为在这两种环境下,命令语句表现出来的行为虽然基本一样,但是在细节上还是稍有不同,最明显的一个差异就是:在cmd窗口中,for之后的形式变量I必须使用单百分号引用,即%I:而在批处理文件中,引用形式变量I必须使用双百分号,即%%I.为
shell 里 awk print 的用法详解

首先, 你需要先了解awk 的工作原理: 1.AWK读取输入文件一次一行. 2.对于每一行,它匹配在给定的顺序模式,如果匹配,执行相应的动作. 3.如果没有模式匹配,将执行任何行动. 4.在上面的语法,无论是搜索模式,或行动是可选的,但不能同时. 5.如果没有给出搜索模式,然后awk要执行每一行输入给定的行动. 6.如果没有给出动作,打印,这是默认的操作与模式相匹配的所有行. 7.空出的任何行动括号什么都不做.它不会执行默认的打印操作. 8.中的每个行动的声明应该用分号分隔.让我们创建emplo
隐藏shell脚本内容的工具 shc详解

目录简介安装常用选项编译脚本实例1 实例2 设置过期时间如何引用二进制脚本安全性小结从事 Linux 开发的同学,经常需要编写 shell 脚本,有时脚本中会涉及到一些敏感内容,比如一些 IP 地址,用户名以及密码等,或者脚本中有一些关键的代码, 所有这些内容你都不想别人阅读或者修改,更进一步,你希望对脚本设置过期时间,超过指定时间时间之后,脚本就无法使用在不改变脚本内容.功能以及执行方式的情况下,有没有办法实现上面的需求呢? 答案是:有的, 在Linux下,我们可以使用 s
shell脚本加密工具shc使用详解

shell脚本加密工具shc shc是一个加密shell脚本的工具.它的作用是把shell脚本转换为一个可执行的二进制文件. 应用场景用shell脚本对系统进行自动化维护,简单,便捷而且可移植性好.但shell脚本是可读写的,很有可能会泄露敏感信息,如用户名,密码,路径,IP等. 对于脚本中含有一些敏感信息的,通常我们都想做成二进制程序,不让用户看到源码,对于有这种需求的通常我们一般采用shc或者gzexe,我个人还是比较推荐shc. shc 安装和使用 yum -y install shc
利用Python+Java调用Shell脚本时的死锁陷阱详解

前言最近有一项需求,要定时判断任务执行条件是否满足并触发 Spark 任务,平时编写 Spark 任务时都是封装为一个 Jar 包,然后采用 Shell 脚本形式传入所需参数执行,考虑到本次判断条件逻辑复杂,只用 Shell 脚本完成不利于开发测试,所以调研使用了 Python 和 Java 分别调用 Spark 脚本的方法. 使用版本为 Python 3.6.4 及 JDK 8 Python 主要使用 subprocess 库.Python 的 API 变动比较频繁,在 3.5 之后新增了