【转帖】linux sort,uniq,cut,wc,tr,xargs命令详解

【转帖】linux sort,uniq,cut,wc,tr,xargs命令详解,第1张

概述linux sort,uniq,cut,wc,tr,xargs命令详解 http://embeddedlinux.org.cn/emb-linux/entry-level/201607/21-5550.html 2015年时 曾经培训过 一次 大数据 当时 用wc 做例子 自己当时不知道wc 是gnu内建的命令 很难理解 四年时间自己简单学习了一些 linux 还是很有收获的。   <--目录-- linux sort,uniq,cut,wc,tr,xargs命令详解
http://embeddedlinux.org.cn/emb-linux/entry-level/201607/21-5550.HTML

2015年时 曾经培训过 一次 大数据 当时 用wc 做例子 自己当时不知道wc 是gnu内建的命令 很难理解

四年时间自己简单学习了一些 linux 还是很有收获的。

 


<--目录-->
1)sort
2)uniq
3)cut
4)wc
5)tr
6)xargs

【sort】
sort 命令对 file 参数指定的文件中的行排序,并将结果写到标准输出。如果 file 参数指定多个文件,那么 sort 命令将这些文件连接起来,并当作一个文件进行排序。

sort语法

复制代码
[[email protected] ~]# sort [-fbMnrtuk] [file or stdin]
选项与参数:
-f :忽略大小写的差异,例如 A 与 a 视为编码相同;
-b :忽略最前面的空格符部分;
-M :以月份的名字来排序,例如 JAN,DEC 等等的排序方法;
-n :使用『纯数字』进行排序(默认是以文字型态来排序的);
-r :反向排序;
-u :就是 uniq ,相同的数据中,仅出现一行代表;
-t :分隔符,默认是用 [tab] 键来分隔;
-k :以那个区间 (fIEld) 来进行排序的意思
复制代码

对/etc/passwd 的账号进行排序
[[email protected] ~]# cat /etc/passwd | sort
adm:x:3:4:adm:/var/adm:/sbin/nologin
apache:x:48:48:Apache:/var/www:/sbin/nologin
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
sort 是默认以第一个数据来排序,而且默认是以字符串形式来排序,所以由字母 a 开始升序排序。



/etc/passwd 内容是以 : 来分隔的,我想以第三栏来排序,该如何

[[email protected] ~]# cat /etc/passwd | sort -t ‘:‘ -k 3
root:x:0:0:root:/root:/bin/bash
uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin
operator:x:11:0:operator:/root:/sbin/nologin
bin:x:1:1:bin:/bin:/sbin/nologin
games:x:12:100:games:/usr/games:/sbin/nologin
默认是以字符串来排序的,如果想要使用数字排序:

cat /etc/passwd | sort -t ‘:‘ -k 3n
root:x:0:0:root:/root:/bin/bash
daemon:x:1:1:daemon:/usr/sbin:/bin/sh
bin:x:2:2:bin:/bin:/bin/sh
默认是升序排序,如果要倒序排序,如下

cat /etc/passwd | sort -t ‘:‘ -k 3nr
nobody:x:65534:65534:nobody:/nonexistent:/bin/sh
ntp:x:106:113::/home/ntp:/bin/false
messagebus:x:105:109::/var/run/dbus:/bin/false
sshd:x:104:65534::/var/run/sshd:/usr/sbin/nologin


如果要对/etc/passwd,先以第六个域的第2个字符到第4个字符进行正向排序,再基于第一个域进行反向排序。

cat /etc/passwd | sort -t‘:‘ -k 6.2,6.4 -k 1r
sync:x:4:65534:sync:/bin:/bin/sync
proxy:x:13:13:proxy:/bin:/bin/sh
bin:x:2:2:bin:/bin:/bin/sh
sys:x:3:3:sys:/dev:/bin/sh


查看/etc/passwd有多少个shell:对/etc/passwd的第七个域进行排序,然后去重:

cat /etc/passwd | sort -t‘:‘ -k 7 -u
root:x:0:0:root:/root:/bin/bash
syslog:x:101:102::/home/syslog:/bin/false
daemon:x:1:1:daemon:/usr/sbin:/bin/sh
sync:x:4:65534:sync:/bin:/bin/sync
sshd:x:104:65534::/var/run/sshd:/usr/sbin/nologin


【uniq】
uniq命令可以去除排序过的文件中的重复行,因此uniq经常和sort合用。也就是说,为了使uniq起作用,所有的重复行必须是相邻的。

uniq语法

[[email protected] ~]# uniq [-icu]
选项与参数:
-i :忽略大小写字符的不同;
-c :进行计数
-u :只显示唯一的行


testfile的内容如下

复制代码
cat testfile
hello
world
frIEnd
hello
world
hello
复制代码


直接删除未经排序的文件,将会发现没有任何行被删除

复制代码
#uniq testfile
hello
world
frIEnd
hello
world
hello
复制代码


排序文件,默认是去重

#cat words | sort |uniq
frIEnd
hello
world


排序之后删除了重复行,同时在行首位置输出该行重复的次数

#sort testfile | uniq -c
1 frIEnd
3 hello
2 world


仅显示存在重复的行,并在行首显示该行重复的次数

#sort testfile | uniq -dc
3 hello
2 world


仅显示不重复的行

sort testfile | uniq -u
frIEnd


【cut】
cut命令可以从一个文本文件或者文本流中提取文本列。

cut语法

[[email protected] ~]# cut -d‘分隔字符‘ -f fIElds <==用于有特定分隔字符
[[email protected] ~]# cut -c 字符区间 <==用于排列整齐的信息
选项与参数:
-d :后面接分隔字符。与 -f 一起使用;
-f :依据 -d 的分隔字符将一段信息分割成为数段,用 -f 取出第几段的意思;
-c :以字符 (characters) 的单位取出固定字符区间;


PATH 变量如下

[[email protected] ~]# echo $PATH
/bin:/usr/bin:/sbin:/usr/sbin:/usr/local/bin:/usr/X11R6/bin:/usr/games
# 1 | 2 | 3 | 4 | 5 | 6 | 7


将 PATH 变量取出,我要找出第五个路径。

#echo $PATH | cut -d ‘:‘ -f 5
/usr/local/bin


将 PATH 变量取出,我要找出第三和第五个路径。

#echo $PATH | cut -d ‘:‘ -f 3,5
/sbin:/usr/local/bin


将 PATH 变量取出,我要找出第三到最后一个路径。

echo $PATH | cut -d ‘:‘ -f 3-
/sbin:/usr/sbin:/usr/local/bin:/usr/X11R6/bin:/usr/games


将 PATH 变量取出,我要找出第一到第三个路径。

#echo $PATH | cut -d ‘:‘ -f 1-3
/bin:/usr/bin:/sbin:



将 PATH 变量取出,我要找出第一到第三,还有第五个路径。

echo $PATH | cut -d ‘:‘ -f 1-3,5
/bin:/usr/bin:/sbin:/usr/local/bin

md5sum /etc/shadow | cut -b -5
显示前五个字符

实用例子:只显示/etc/passwd的用户和shell

#cat /etc/passwd | cut -d ‘:‘ -f 1,7
root:/bin/bash
daemon:/bin/sh
bin:/bin/sh


【wc】
统计文件里面有多少单词,多少行,多少字符。

wc语法

[[email protected] ~]# wc [-lwm]选项与参数:-l :仅列出行;-w :仅列出多少字(英文单字);-m :多少字符;默认使用wc统计/etc/passwd#wc /etc/passwd40 45 1719 /etc/passwd40是行数,45是单词数,1719是字节数wc的命令比较简单使用,每个参数使用如下:复制代码#wc -l /etc/passwd #统计行数,在对记录数时,很常用40 /etc/passwd #表示系统有40个账户#wc -w /etc/passwd #统计单词出现次数45 /etc/passwd#wc -m /etc/passwd #统计文件的字节数1719【tr】tr主要用于删除文件中控制字符或进行字符转换。带有最常用选项的tr命令格式为:tr -c -d -s ["string1_to_translate_from"] ["string2_to_translate_to"] < input-file这里:-c 用字符串1中字符集的补集替换此字符集,要求字符集为ASCII。-d 删除字符串1中所有输入字符。-s 删除所有重复出现字符序列,只保留第一个;即将重复出现字符串压缩为一个字符串。input-file是转换文件名。虽然可以使用其他格式输入,但这种格式最常用。2、字符范围指定字符串1或字符串2的内容时,只能使用单字符或字符串范围或列表。[a-z] a-z内的字符组成的字符串。[A-Z] A-Z内的字符组成的字符串。[0-9] 数字串。\octal 一个三位的八进制数,对应有效的ASCII字符。[O*n] 表示字符O重复出现指定次数n。因此[O*2]匹配OO的字符串。tr中特定控制字符的不同表达方式速记符含义八进制方式\a Ctrl-G 铃声\007\b Ctrl-H 退格符\010\f Ctrl-L 走行换页\014\n Ctrl-J 新行\012\r Ctrl-M 回车\015\t Ctrl-I tab键\011\v Ctrl-X \030实例:将文件file中出现的"abc"替换为"xyz"# cat file | tr "abc" "xyz" > new_file注意:这里,凡是在file中出现的"a"字母,都替换成"x"字母,"b"字母替换为"y"字母,"c"字母替换为"z"字母。而不是将字符串"abc"替换为字符串"xyz"。2、使用tr命令“统一”字母大小写(小写 --> 大写)# cat file | tr [a-z] [A-Z] > new_file(大写 --> 小写)# cat file | tr [A-Z] [a-z] > new_file3、把文件中的数字0-9替换为a-j# cat file | tr [0-9] [a-j] > new_file4、删除文件file中出现的"Snail"字符# cat file | tr -d "Snail" > new_file注意:这里,凡是在file文件中出现的‘S‘,‘n‘,‘a‘,‘i‘,‘l‘字符都会被删除!而不是紧紧删除出现的"Snail”字符串。5、删除文件file中出现的换行‘\n‘、制表‘\t‘字符# cat file | tr -d "\n\t" > new_file不可见字符都得用转义字符来表示的,这个都是统一的。6、删除“连续着的”重复字母,只保留第一个# cat file | tr -s [a-zA-Z] > new_file7、删除空行# cat file | tr -s "\n" > new_file8、删除windows文件“造成”的‘^M‘字符# cat file | tr -d "\r" > new_file或者# cat file | tr -s "\r" "\n" > new_file注意:这里-s后面是两个参数"\r"和"\n",用后者替换前者9、用空格符\040替换制表符\011# cat file | tr -s "\011" "\040" > new_file10、把路径变量中的冒号":",替换成换行符"\n"# echo $PATH | tr -s ":" "\n"

总结

以上是内存溢出为你收集整理的【转帖】linux sort,uniq,cut,wc,tr,xargs命令详解全部内容,希望文章能够帮你解决【转帖】linux sort,uniq,cut,wc,tr,xargs命令详解所遇到的程序开发问题。

如果觉得内存溢出网站内容还不错,欢迎将内存溢出网站推荐给程序员好友。

欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/yw/1022542.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-05-23
下一篇 2022-05-23

发表评论

登录后才能评论

评论列表(0条)

保存