Shell脚本去重的几种方法实例
测试文件
[root@bogon ~]# cat >test
jason
jason
jason
fffff
jason
按 Ctr + D保存
1、sort -u
[root@bogon ~]# sort -u test
fffff
jason
2、uniq
[root@bogon ~]# uniq test
jason
fffff
jason
由此可见,uniq需要先排序后才能去重
3、sort、管道和uniq结合运用
去除重复并保留一份重复的数据
[root@bogon ~]# sort test|uniq
fffff
jason
去除所有重复的行(不保留重复的行),并计算行数
[root@bogon ~]# sort test|uniq -uc
1 fffff
找出所有重复的行,并计算行数
[root@bogon ~]# sort test|uniq -dc
4 jason
根据某个字段去重
将原有数据改为
[root@bogon ~]# more test
jason 1
jason 2
jason 1
fffff 2
jason 3
[root@bogon ~]# sort -k 1,1 -u test
fffff 2
jason 1
man sort查看sort的用法,-k参数是这么描述的:
-k, --key=POS1[,POS2]
start a key at POS1 (origin 1), end it at POS2 (default end of line)
也就是说-k哪几个列进行排序,pos1是开始列,pos2是结束列
相关推荐
-
Shell脚本去重的几种方法实例
测试文件 复制代码 代码如下: [root@bogon ~]# cat >test jason jason jason fffff jason 按 Ctr + D保存 1.sort -u 复制代码 代码如下: [root@bogon ~]# sort -u test fffff jason 2.uniq 复制代码 代码如下: [root@bogon ~]# uniq test jason fffff jason 由此可见,uniq需要先排序后才能去重 3.sort.管道和uniq结合运用 去除重
-
python运行脚本文件的三种方法实例
目录 python脚本执行的3种方法: 方法一:交互模式直接执行语句 方法二:通过脚本输出 方法三:脚本中指定 python 路径,修改文件为可执行文件 总结 python脚本执行的3种方法: (找到自己能够使用的方法,能用的方法就是好方法) 方法一:交互模式直接执行语句 交互模式下直接编写执行 Python语句,不用再创建脚本文件 Windows下: 打开并进入命令提示符-------->输入python并回车-------->即可进入交互模式 Linux 下: 打开终端模拟器-------
-
SQL数据去重的3种方法实例详解
目录 1.使用distinct去重 2.使用group by 3.使用ROW_NUMBER() OVER 或 GROUP BY 和 COLLECT_SET/COLLECT_LIST 3.1 ROW_NUMBER() OVER 3.2 GROUP BY 和 COLLECT_SET/COLLECT_LIST distinct与group by的去重方面的区别 使用去重distinct方法的示例详解 总结 1.使用distinct去重 distinct用来查询不重复记录的条数,用count(disti
-
CentOS下对shell脚本加密的二种方法
第一种方法(gzexe): 这种加密方式不是非常保险的方法,但是能够满足一般的加密用途,可以隐蔽脚本中的密码等信息. 它是使用系统自带的gzexe程序,它不但加密,同时压缩文件. 使用方法: 复制代码 代码如下: gzexe file.sh 它会把原来没有加密的文件备份为 file.sh~ ,同时 file.sh 即被变成加密文件: 第二种方法(shc): 使用 shc 对 Linux shell 脚本加密. shc是一个专业的加密shell脚本的工具.它的作用是把shell脚本转换为一个可执行
-
shell脚本中取消重定向的方法实例
在上一篇关于shell编程的例子中,有讲到把shell脚本进行扩展之后重定向到一个文件中,以便进行查看和调试http://www.jb51.net/article/62435.htm.但是,若是有另一种情况:只是在某些地方进行重定向,而其他地方不进行重定向.那么我们就来修改一下上一篇中的例子来进行这种需求的满足: 复制代码 代码如下: #!/bin/bash function setlogfile { if ! [ -z "$1" ]; then echo &q
-
使用shell脚本判断文件后缀的方法实例
目录 shell脚本判断文件后缀 附shell提取文件后缀名,并判断其是否为特定字符串 总结 shell脚本判断文件后缀 有时候需要判断文件名后缀来区分文件类型,进而进行不同的操作.以下是获取文件名后缀和文件名前缀的两个函数,由于shell脚本函数只能返回0-255,为了将结果返回,就直接使用echo输出,可以用$()进行捕获. #!/bin/bash # ----------------------------------------------------------------------
-
JS数组去重的6种方法完整实例
本文实例讲述了JS数组去重的6种方法.分享给大家供大家参考,具体如下: <!DOCTYPE html> <html> <head> <meta charset="UTF-8"> <title>www.jb51.net 数组去重</title> </head> <body> <script> //1.filter:(indexOf)方法创建一个新的数组,新数组中的元素是通过检查指定
-
JavaScript数组去重的五种方法
javascript数组去重是一个比较常见的需求,解决方法也有很多种,网上都可以找到答案的,下面小编给大家整理了一份关于同类型的数组去重的方法,先给大家介绍下简单实现思路. 思路: 遍历数组,一一比较,比较到相同的就删除后面的 遍历数组,一一比较,比较到相同的,跳过前面重复的,不相同的放入新数组 任取一个数组元素放入新数组,遍历剩下的数组元素任取一个,与新数组的元素一一比较,如果有不同的,放入新数组. 遍历数组,取一个元素,作为对象的属性,判断属性是否存在 1. 删除后面重复的: functio
-
使用shell脚本取出服务器图片的方法
Shell 教程 Shell 是一个用 C 语言编写的程序,它是用户使用 Linux 的桥梁.Shell 既是一种命令语言,又是一种程序设计语言. Shell 是指一种应用程序,这个应用程序提供了一个界面,用户通过这个界面访问操作系统内核的服务. Ken Thompson 的 sh 是第一种 Unix Shell,Windows Explorer 是一个典型的图形界面 Shell. 一 ,SHELL 是什么 (1)shell是一种命令行解释器. (2)是用户和Linux内核之间沟通的桥梁,属于中
-
浅谈shell脚本免交互的四大方法
在写shell脚本的过程中,我们经常碰到一些操作需要我们取实时指定一些参数,这就需要用到免交互了.免交互让我们的shell脚本更加强大. 介绍几种免交互的方式 1.管道符 不同命令间协调工作,位于 | 左侧命令的输出结果,将作为右侧命令的输入(处理对象) 例1 免交互修改账户密码 vim pswd.sh #!/bin/bash echo "Abc1357 Abc1357" | passwd --stdin yu [root@node1 ~]# sh pswd.sh 更改用户 yu 的密
随机推荐
- 详解Sea.js中Module.exports和exports的区别
- golang使用sort接口实现排序示例
- Python的Flask框架中使用Flask-SQLAlchemy管理数据库的教程
- js用Date对象的setDate()函数对日期进行加减操作
- jQuery使用after()方法在元素后面添加多项内容的方法
- PHP容易忘记的知识点分享
- PHP完整的日历类(CLASS)
- Android中手机录屏并转换GIF的两种方式
- MySQL replace into 语句浅析(一)
- javascript 判断是否是微信浏览器的方法
- 基于jQuery 实现bootstrapValidator下的全局验证
- javascript开发技术大全-第3章 js数据类型
- C#基础继承和多态详解
- 详解C#中的System.Timers.Timer定时器的使用和定时自动清理内存应用
- 文件上传程序的全部源码
- 详解Android之图片加载框架Fresco基本使用(一)
- nodejs基于express实现文件上传的方法
- 使用FormData进行Ajax请求上传文件的实例代码
- JS 实现微信扫一扫功能
- 通过python实现弹窗广告拦截过程详解