linux命令行解析 linux命令行解析框架

Linux sed 命令详解

sed命令行格式：sed [options] 'command' file(s)

泰宁网站建设公司创新互联公司,泰宁网站设计制作，有大型网站制作公司丰富经验。已为泰宁1000多家提供企业网站建设服务。企业网站搭建\外贸网站建设要多少钱，请找那个售后服务好的泰宁做网站的公司定做！

options常用选项：

-n或--quiet或——silent：仅显示script处理后的结果;

-e：以选项中的指定的script来处理输入的文本文件;

-f：以选项中指定的script文件来处理输入的文本文件;

-r∶sed 的动作支援的是延伸型正规表示法的语法;

-i∶直接修改读取的档案内容，而不是由萤幕输出;

-h或--help：显示帮助;

-V或--version：显示版本信息。

Command常用命令：

a：新增，a 的后面可以接字符串，而这些字符串会在新的一行出现(目前的下一行);

c：取代，c 的后面可以接字符串，这些字符串可以取代 n1,n2 之间的行;

d：删除，d 后面通常不接任何字符串;

i：插入，i 的后面可以接字符串，而这些字符串会在新的一行出现(目前的上一行);

p：列印，亦即将某个选择的资料印出。通常 p 会与参数 sed -n 一起运作;

s：取代，可以直接进行取代的工作，通常与正规表达式搭配使用。

实例说明：

新增操作：a命令

sed '/^bird/a\test' file将test追加到 以bird开头的行后面

删除操作：d命令

sed '/^$/d' file #删除空白行;

sed '2d' file #删除第二行;

sed '2,$d' file #删除第2行到最后一行;

sed '$d' file #删除最后一行;

sed '/^bird/'d file #删除所有开头是bird的行;

插入操作：i命令

sed -i '3i\bird ' bird.conf #在bird.conf文件第3行之前插入bird

替换文本中的字符串：s命令

sed 's/bird/birds/' file #将文本中的bird替换成birds;

sed -i 's/ bird / birds /g' file #将file文件中每一行的第一个bird替换为birds;

Linux常见日志统计分析命令

在上文中，我们已经详细介绍 linux 三剑客的基本使用，接下来我们看看具体在性能测试领域的运用，本文主要介绍的是在 Tomcat 和 Nginx access日志的统计分析。

server.xml 使用配置方式，%D-请求时间，%F-响应时间

字段说明如下：

日志样例：

使用默认 combined 的经典格式上扩展 response_timeupstream_response_time

nginx.conf 使用配置方式：

字段说明如下：

日志示例：

为了能理解 AWK 程序，我们下面概述其基本知识。

模式( pattern ) 用于匹配输入中的每行文本。对于匹配上的每行文本，awk 都执行对应的 动作( action )。模式和动作之间使用花括号隔开。awk 顺序扫描每一行文本，并使用 记录分隔符（一般是换行符）将读到的每一行作为 记录，使用 域分隔符( 一般是空格符或制表符 ) 将一行文本分割为多个 域， 每个域分别可以使用 2, … 表示。1 表示第一个域，表示第二个域，n 表示第 n 个域。 $0 表示整个记录。模式或动作都可以不指定，缺省模式的情况下，将匹配所有行。缺省动作的情况下，将执行动作 {print}，即打印整个记录。

此处使用Nginx access.log 举例，Tomcat 日志自己举一反三。 使用 awk 分解出Nginx access日志中的信息

以此类推…… 当我们使用默认的域分割符时，我们可以从日志中解析出下面不同类型的信息：

我们不难发现，仅使用默认的域分隔符，不方便解析出请求行、引用页和浏览器类型等其他信息，因为这些信息之中包含不确定个数的空格。 因此，我们需要把域分隔符修改为 “ ，就能够轻松读出这些信息。

注意：这里为了避免 Linux Shell 误解 “ 为字符串开始，我们使用了反斜杠，转义了 “ 。 现在，我们已经掌握了 awk 的基本知识，以及它是怎样解析日志的。

此处使用Nginx access.log 举例，Tomcat 日志自己举一反三。

如果我们想知道那些类型的浏览器访问过网站，并按出现的次数倒序排列，我可以使用下面的命令：

此命令行首先解析出浏览器域，然后使用管道将输出作为第一个 sort 命令的输入。第一个 sort 命令主要是为了方便 uniq 命令统计出不同浏览器出现的次数。最后一个 sort 命令将把之前的统计结果倒序排列并输出。

我们可以使用下面的命令行，统计服务器返回的状态码，发现系统可能存在的问题。

正常情况下，状态码 200 或 30x 应该是出现次数最多的。40x 一般表示客户端访问问题。50x 一般表示服务器端问题。 下面是一些常见的状态码：

HTTP 协议状态码定义可以参阅：

查找并显示所有状态码为 404 的请求

统计所有状态码为 404 的请求

现在我们假设某个请求 ( 例如 : URI: /path/to/notfound ) 产生了大量的 404 错误，我们可以通过下面的命令找到这个请求是来自于哪一个引用页，和来自于什么浏览器。

有时候会发现其他网站出于某种原因，在他们的网站上使用保存在自己网站上的图片。如果您想知道究竟是谁未经授权使用自己网站上的图片，我们可以使用下面的命令：

注意：使用前，将 修改为自己网站的域名。

统计共有多少个不同的 IP 访问：

统计每一个 IP 访问了多少个页面：

将每个 IP 访问的页面数进行从小到大排序：

统计 2018 年 8 月 31 日 14 时内有多少 IP 访问 :

统计访问最多的前十个 IP 地址

查看某一个 IP访问了哪些页面：

统计某个 IP 的详细访问情况,按访问频率排序

列出传输大小最大的几个文件

列出输出大于 204800 byte ( 200kb) 的页面以及对应页面发生次数

列出访问最频的页面(TOP100)

列出访问最频的页面([排除php页面】(TOP100)

列出页面访问次数超过100次的页面

列出最近1000条记录，访问量最高的页面

统计每分钟的请求数,top100的时间点(精确到分钟)

统计每小时的请求数,top100的时间点(精确到小时)

统计每秒的请求数,top100的时间点(精确到秒)

统计当天的 pv

说明：

可以使用下面的命令统计出所有响应时间超过 3 秒的日志记录。

注意：NF 是当前记录中域的个数。$NF 即最后一个域。

列出php页面请求时间超过3秒的页面，并统计其出现的次数，显示前100条

列出相应时间超过 5 秒的请求，显示前20条

统计蜘蛛抓取次数

统计蜘蛛抓取404的次数

通过本文的介绍，我相信同学们一定会发现 linux三剑客强大之处。在命令行中，它还能够接受，和执行外部的 AWK 程序文件，可以对文本信息进行非常复杂的处理，可以说“只有想不到的，没有它做不到的”。

Linux 命令行展开介绍及示例

   在Linux bash中可以使用命令行展开特性一步完成需要分开成多步完成的操作，达到事半功倍的效果。在Linux指令参数位置使用"{}" 将相应的参数括起来,括号中的参数以逗号分隔，然后bash在执行这一指令时会自动将括号中的内容进行展开。

示例1：

   同时创建多个目录，在/tmp目录下创建a_c,a_d,b_c,b_d等目录，只需要在命令行中执行如下命令即可，无须单个创建：

执行结果如下：

示例2：

   需要在/tmp/mylinux 目录下创建如下目录树。

创建命令如下：

执行结果如下：

在这里可以使用指令tree来查看目录的层级结构，以更直观的方式将目录树显示出来：

Linux常用命令详解 | find

find 命令的基本结构如下：

find 命令手册 ： man find

find 命令中的 -name 选项可以根据文件名称进行检索（ 区分大小写 ）。如需要忽略文件名中的大小写，可以使用 -iname 选项。

-name 和 -iname 两个选项都支持 wildcards 。如：

例1：查找 /usr 目录下所有文件名以 .txt 结尾的文件

例2：查找 /usr 目录下所有文件名刚好为 4 个字符的文件

例3：查以大写字母开头的文件

例4：查以两个小写字母和两个数字开头的txt文件

类似的还有：

-lname -ilname

-path -ipath

-regx -iregx

有些时候，你需要在搜索时匹配某个文件或目录的 完整路径 ，而不仅仅是匹配文件名。可以使用 -path 或 -ipath 选项。

例1：如查找 /usr 下所有文件名以 .txt 结尾的文件或目录，且该文件的父目录必须是 src 。可以使用以下命令：

例2：在当前目录除aa之外的子目录内搜索 txt文件

例3：在当前目录，不再子目录中，查找txt文件

如果只想搜索得到文件 或 目录，即不想它们同时出现在结果中。可以使用 -type 选项指定文件类型。

-type 选项最常用的参数如下：

例：检索 /usr 下所有文件名以 python 开头的目录

find 命令支持 -empty 选项用来检索 为空 的文件或目录。空文件即文件里没有任何内容，空目录即目录中没有任何文件或子目录。

例：检索用户主目录下所有的空目录

find 命令也允许用户对当前的匹配条件进行 “反义” （类似于 逻辑非 操作）。

如需要检索 /usr 下所有文件名 不 以 .txt 为后缀的文件。可以使用以下命令：

也可以“翻转”任何其他的筛选条件，如：检索 /usr 下所有内容不为空的文件

为了检索归属于特定用户的文件或目录，可以使用 -user 选项。

例：检索根目录下所有属主为 starky 的文件

类似于 -user 选项， -group 选项则可以根据文件或目录的 属组 进行检索。

有些时候，需要根据文件创建或修改的时间进行检索。

Linux 系统中，与文件相关联的时间参数有以下三种：

与此对应的是 find 命令中的 -mtime ， -atime 和 -ctime 三个选项。

这三个选项的使用遵循以下示例中的规则：

检索 /usr 下两天前被修改过的文件

如果觉得 -mtime 等选项以 天 为单位时间有点长，还可以使用 -mmin ， -amin ， -cmin 三个选项。

查找比 aa.txt 新 的文件

查找比 aa.txt 旧 的文件

查找比aa.txt新，比bb.txt旧的文件

-size 选项允许用户通过文件大小进行搜索（只适用于文件，目录没有大小……）。

表示文件大小的单位由以下字符组成：

另外，还可以使用 + 或 - 符号表示 大于 或 小于 当前条件。

检索文件大小高于 1 GB 的文件

find 命令可以使用 -perm 选项以文件权限为依据进行搜索。

9.1使用符号形式

例1：如需要检索 /usr 目录下权限为 rwxr-xr-x 的文件，可以使用以下命令：

例2：搜索 /usr 目录下所有权限为 r-xr-xr-x （即系统中的所有用户都只有读写权限）的文件和目录，可以使用以下命令：

很多时候，我们只想匹配文件权限的一个 子集 。比如，检索可以直接被任何用户执行的文件，即只关心文件的执行权限，而不用管其读写权限是什么。

上述的需求可以通过以下命令实现：

其中 a=x 前面的 / 符号即用来表示只匹配权限的某个子集（执行权限），而不用关心其他权限的具体设置。

9.2使用数字形式

例如：搜索 /usr 目录下权限为 644 （即 rwxr-xr-x ）的文件

find 命令默认是以 递归 的方式检索项目的，这有时候会导致得到的结果数量非常巨大。可以使用 -maxdepth 限制 find 命令递归的层数。

例如：搜索时向下递归的层数最大为 3

在之前的例子中有出现多个搜索条件的 组合 以及对某个搜索条件的 反转 。

实际上 find 命令支持 “and” 和 “or” 两种逻辑运算，对应的命令选项分别是 -a 和 -o 。通过这两个选项可以对搜索条件进行更复杂的组合。

此外还可以使用 小括号 对搜索条件进行 分组 。注意 find 命令中的小括号常需要用 单引号 包裹起来。因小括号在 Shell 中有特殊的含义。

如检索 /usr 下文件名以 python 开头且类型为目录的文件

该命令等同于：

更复杂的组合形式如：

例4：在除dir0及子目录以外的目录下查找txt后缀文件

说明：-a 应该是and的缩写，意思是逻辑运算符‘与’(); -o应该是or的缩写,意思是逻辑运算符‘或’(||), -not 表示非.

命令行的意思是：如果目录dir0存在（即-a左边为真），则求-prune的值，-prune 返回真，‘与’逻辑表达式为真（即-path './dir0*' -a -prune 为真），find命令将在除这个目录以外的目录下查找txt后缀文件并打印出来；如果目录dir0不存在（即-a左边为假），则不求值-prune ，‘与’逻辑表达式为假，则在当前目录下查找所有txt后缀文件。

-delete 选项可以用来删除搜索到的文件和目录。

例如：删除 home 目录下所有的空目录：

-exec 选项可以对搜索到的结果执行执行该参数所给出的shell命令。形式为 command {} \; ，注意{}与\;之间有空格 。每当 find 命令检索到一个符合条件的文件，会使用其完整路径取代命令中的 {} ，然后执行 -exec 后面的命令一次。

例1：如需要将 home 目录下所有的 MP3 音频文件复制到移动存储设备（假设路径是 /media/MyDrive ），可使用下面的命令：

其中的 大括号 （ {} ）作为检索到的文件的 占位符 ，而分号（ ; ）作为命令结束的标志。因为分号是 Shell 中有特殊含义的符号，所以需要使用单引号括起来或前面加上转义符 \ 。

例2：查看当前目录下的所有普通文件，并在 - exec 选项中使用 ls -l 命令将它们列出

例3：在多个文件中检索某个指定的字符串。如在用户主目录下的所有文件中检索字符串 hello ，可以使用如下命令：

创建 Gzip 格式的压缩文件的命令为：

现在假设需要将用户主目录下所有的 MP3 文件添加到压缩包 music.tar.gz 中，直观的感觉是，其命令应为如下形式：

实际情况是，这样得到的 music.tar.gz 其实只包含一个 MP3 文件。原因是 find 命令 每次 发现一个音频文件，都会再执行一次 -exec 选项后面的压缩命令。导致先前生成的压缩包被覆盖。

可以先让 find 命令检索出所有符合条件的音频文件，再将得到的 文件列表 传递给后面的压缩命令。完整的命令如下：

如果想浏览搜索到的文件（目录）的详细信息（如权限和大小等），可以直接使用 -ls 选项。

例如：浏览所有 1G 以上大小的文件的详细信息

与exec作用相同，区别在于，在执行命令之前，都会给出提示，让用户确认是否执行

与 exec 作用相同 ，起承接作用。区别在于 |xargs 主要用于承接删除操作 ，而 -exec 都可用 如复制、移动、重命名等

例1：查找以ap或may开头的文件

例2：查硬连接数大于2的文件或目录

例3：查找含特定字符串的文件。查找当前目录下含有"the string you want find…"字符串的文件：

例4：从根目录开始查tmpfile，一旦查到马上删除

例5：如何用find查找某一天更改的文件？可以使用这一行命令来实现：

A Guide to the Linux “Find” Command