当前位置:首页 > 科技  > 软件

提升效率必备!学习 awk 命令,轻松搞定数据

来源: 责编: 时间:2024-09-10 09:45:05 204观看
导读在日常的工作中,无论是数据处理、日志分析,还是格式化输出,AWK命令都是不可或缺的利器。AWK是一种强大的文本处理工具,能让你轻松处理复杂的数据,提升工作效率。本文将为你介绍AWK的基本功能及一些实用场景,帮助你快速掌握

在日常的工作中,无论是数据处理、日志分析,还是格式化输出,AWK命令都是不可或缺的利器。AWK是一种强大的文本处理工具,能让你轻松处理复杂的数据,提升工作效率。本文将为你介绍AWK的基本功能及一些实用场景,帮助你快速掌握这门工具。JPX28资讯网——每日最新资讯28at.com

JPX28资讯网——每日最新资讯28at.com

awk选项

awk 命令的使用方式如下:JPX28资讯网——每日最新资讯28at.com

awk options program file

awk 可以采用以下选项:JPX28资讯网——每日最新资讯28at.com

  • -F:fs指定文件分隔符。
  • -f:文件指定包含 awk 脚本的文件。
  • -v:var=值声明变量。

我们将了解如何使用awk处理文件和打印结果。JPX28资讯网——每日最新资讯28at.com

读取AWK脚本

要定义awk脚本,请使用用单引号括起来的大括号,如下所示:JPX28资讯网——每日最新资讯28at.com

awk '{print "Welcome to awk command tutorial "}'

如果您键入任何内容,它将返回我们提供的相同欢迎字符串。如下图所示:JPX28资讯网——每日最新资讯28at.com

JPX28资讯网——每日最新资讯28at.com

要终止程序,请按Ctrl+D。看起来很棘手,不要惊慌,最好的还没有到来。JPX28资讯网——每日最新资讯28at.com

使用变量

使用awk,可以处理文本文件。Awk为找到的每个数据字段分配一些变量:JPX28资讯网——每日最新资讯28at.com

  • $0:是输出整行的内容。
  • $1:是输出第一个字段。
  • $2:是输出第二个字段。
  • $n:表示第n个字段。

在awk中,空格或制表符等空白字符是字段之间的默认分隔符。看看这个例子,看看awk是如何处理它的:JPX28资讯网——每日最新资讯28at.com

JPX28资讯网——每日最新资讯28at.com

上面的示例打印了每行的第一个单词。JPX28资讯网——每日最新资讯28at.com

有时某些文件中的分隔符不是空格或tab,而是其他内容。您可以使用–F选项指定它:JPX28资讯网——每日最新资讯28at.com

awk -F ':' '{print $1}' /etc/passwd

JPX28资讯网——每日最新资讯28at.com

此命令将打印passwd文件中的第一个字段。我们使用冒号作为分隔符,因为passwd文件使用它。JPX28资讯网——每日最新资讯28at.com

使用多个命令

要运行多个命令,请用分号分隔它们,如下所示:JPX28资讯网——每日最新资讯28at.com

root@didiplus:~# echo "Hello Tom" | awk '{$2="Adam"; print $0}'Hello Adam

第一个命令使 $2字段等于Adam。第二个命令打印整行。JPX28资讯网——每日最新资讯28at.com

JPX28资讯网——每日最新资讯28at.com

从文件中读取脚本

您可以在文件中键入awk脚本,并使用 -f 选项指定该文件。我们的文件包含以下脚本:JPX28资讯网——每日最新资讯28at.com

{print $1 " home at " $6}
 awk -F: -f testfile /etc/passwd

JPX28资讯网——每日最新资讯28at.com

在这里,我们从 /etc/passwd打印用户名和他的主路径,当然分隔符是用大写的-F指定的,即冒号。JPX28资讯网——每日最新资讯28at.com

你可以像这样awk脚本文件:JPX28资讯网——每日最新资讯28at.com

{text = $1 " home at " $6print t

awk预处理

如果您需要为结果创建标题或表头等。您可以使用BEGIN关键字来实现此目的。它在处理数据之前运行:JPX28资讯网——每日最新资讯28at.com

awk 'BEGIN {print "this Title"} {print $0}' myfile

执行上述代码输入如下图的结果:JPX28资讯网——每日最新资讯28at.com

JPX28资讯网——每日最新资讯28at.com

awk后处理

要在处理数据后运行脚本,请使用END关键字:JPX28资讯网——每日最新资讯28at.com

awk 'BEGIN {print "this Title"} {print $0} END {print "this footer"}' myfile

执行上述代码输出如下图的结果:JPX28资讯网——每日最新资讯28at.com

JPX28资讯网——每日最新资讯28at.com

这很有用,例如,您可以使用它来添加页脚。让我们将它们组合到一个脚本文件中:JPX28资讯网——每日最新资讯28at.com

BEGIN {print "Users and thier corresponding home"print " UserName /t HomePath"print "___________ /t __________"FS=":"}{print $1 "  /t  " $6}END {print "The end"

首先,使用BEGIN关键字创建顶部部分。然后我们定义FS并在末尾打印页脚。JPX28资讯网——每日最新资讯28at.com

 awk -f myscript  /etc/passwd

JPX28资讯网——每日最新资讯28at.com

内置变量

我们看到数据字段变量$1,$2,$3等用于提取数据字段,我们还处理字段分隔符FS。JPX28资讯网——每日最新资讯28at.com

但这些并不是唯一的变量,还有更多的内置变量。JPX28资讯网——每日最新资讯28at.com

下面列出了一些内置变量:JPX28资讯网——每日最新资讯28at.com

  • FIELDWIDTHS:指定字段宽度。
  • RS:指定记录分隔符。
  • FS:指定字段分隔符。
  • OFS:输出分隔符。
  • ORS:输出分隔符。

默认情况下,OFS变量是空格,你可以设置OFS变量来指定你需要的分隔符:JPX28资讯网——每日最新资讯28at.com

awk 'BEGIN {FS=":";OFS="---"} {print $1,$6,$7}' /etc/passwd

JPX28资讯网——每日最新资讯28at.com

有时,字段的分布没有固定的分隔符。在这些情况下,FIELDWIDTHS 变量可以解决问题。JPX28资讯网——每日最新资讯28at.com

假设我们有以下内容:JPX28资讯网——每日最新资讯28at.com

1235.96521927-8.365236257.8157
awk 'BEGIN{FIELDWIDTHS="3 4 3"}{print $1,$2,$3}' testfile

查看输出。输出字段为每行3个,每个字段长度都基于我们由FIELDWIDTH分配的字段。JPX28资讯网——每日最新资讯28at.com

JPX28资讯网——每日最新资讯28at.com

更多的变量

还有一些其他变量可以帮助你获取更多信息:JPX28资讯网——每日最新资讯28at.com

  • ARGC:获取传递的参数数量。
  • ARGV:获取命令行参数。
  • ENVIRON :shell环境变量及其对应值的数组
  • FILENAME:awk处理的文件名。
  • NF :Fields正在处理的行数。
  • NR:检索处理过的记录总数。
  • FNR:被处理的记录。

IGNORECASE:忽略字符的大小写。JPX28资讯网——每日最新资讯28at.com

让我们测试一下。JPX28资讯网——每日最新资讯28at.com

root@didiplus:~#  awk 'BEGIN{print ARGC,ARGV[1]}' myfile2 myfile

ENVIRON变量检索shell环境变量,如下所示:JPX28资讯网——每日最新资讯28at.com

root@didiplus:~# awk 'BEGIN {print ENVIRON["PATH"]}'/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/snap/bin

您可以使用不带ENVIRON变量的 bash 变量,如下所示:JPX28资讯网——每日最新资讯28at.com

root@didiplus:~# echo | awk -v home=$HOME '{print "My home is" home}'My home is/root

NF变量指定记录中的最后一个字段,但不知道其位置:JPX28资讯网——每日最新资讯28at.com

awk 'BEGIN{FS=":"; OFS=":"} {print $1,$NF}' /etc/passwd

JPX28资讯网——每日最新资讯28at.com

如果像这样键入NF变量,则可以将其用作数据字段变量:$NF。JPX28资讯网——每日最新资讯28at.com

JPX28资讯网——每日最新资讯28at.com

让我们看一下这两个例子来了解FNR和NR变量之间的区别:JPX28资讯网——每日最新资讯28at.com

awk 'BEGIN{FS=","}{print $1,"FNR="FNR}' myfile myfile

JPX28资讯网——每日最新资讯28at.com

在此示例中,awk命令定义两个输入文件。相同的文件,但处理了两次。输出是第一个字段值和FNR变量。JPX28资讯网——每日最新资讯28at.com

现在,检查NR变量并查看差异:JPX28资讯网——每日最新资讯28at.com

$ awk 'BEGIN {FS=","}{print $1,"FNR="FNR,"NR="NR}END{print "Total",NR,"processed lines"}' myfile myfile

JPX28资讯网——每日最新资讯28at.com

当涉及到第二个文件时,FNR变量变为1,但NR变量保留其值。JPX28资讯网——每日最新资讯28at.com

JPX28资讯网——每日最新资讯28at.com

用户自定义变量

变量名称可以是任何内容,但不能以数字开头。您可以像在shell脚本中一样分配变量,如下所示:JPX28资讯网——每日最新资讯28at.com

awk 'BEGIN{test="Welcome to LikeGeeks website"print test}'

执行上述命令后,输出如下结果:JPX28资讯网——每日最新资讯28at.com

JPX28资讯网——每日最新资讯28at.com

结构化命令

1.if循环

awk脚本语言支持if条件语句。testfile包含以下内容:JPX28资讯网——每日最新资讯28at.com

101563345
root@didiplus:~# awk '{if ($1 > 30) print $1}' testfile3345

如果要运行多个语句,则应使用大括号:JPX28资讯网——每日最新资讯28at.com

root@didiplus:~# awk '{if ($1 > 30){x = $1 * 3print x}}' testfile99

您可以使用如下所示的else语句:JPX28资讯网——每日最新资讯28at.com

root@didiplus:~# awk '{if ($1 > 30){x = $1 * 3print x} else{x = $1 / 2print x}}' testfile57.5399135

或者在同一行中键入它们,并用分号分隔 if 语句,如下所示:JPX28资讯网——每日最新资讯28at.com

root@didiplus:~# awk '{ if ($1>20) print $1*2;else print $1/2}' testfile57.536690

2.while循环

您可以使用while循环遍历具有条件的数据。JPX28资讯网——每日最新资讯28at.com

awk '{sum = 0i = 1while (i < 5){sum += $ii++}average = sum / 3print "Average:",average}' testfile
  • $i:是取到testfile的每一列的值
  • while循环运行,每次它都会向sum变量加$i的值,直到 i 变量变为 4。

JPX28资讯网——每日最新资讯28at.com

您可以使用break命令退出循环,如下所示:JPX28资讯网——每日最新资讯28at.com

awk '{sum = 0i = 1while (i < 5){sum += $iif (i == 3) breaki++}average = sum / 3print "Average:",average}' testfile

结果还是和上面的输出的一样。JPX28资讯网——每日最新资讯28at.com

JPX28资讯网——每日最新资讯28at.com

3.for循环

awk脚本语言支持for循环:JPX28资讯网——每日最新资讯28at.com

awk '{total = 0for (var = 1; var < 5; var++){total += $var}avg = total / 3print "Average:",avg}' testfile

格式化打印

awk中的printf命令允许你使用格式说明符打印出格式化的输出。JPX28资讯网——每日最新资讯28at.com

格式说明符如下所示:JPX28资讯网——每日最新资讯28at.com

%[modifier]control-letter

下面列出了可用于printf的格式说明符:JPX28资讯网——每日最新资讯28at.com

  • c:以字符串的形式打印数值输出。
  • d:打印一个整数值。
  • e:打印科学数字。
  • f:打印浮点数。
  • o:打印一个八进制值。
  • s:打印文本字符串。

这里我们使用printf来格式化输出:JPX28资讯网——每日最新资讯28at.com

awk 'BEGIN{x = 100 * 100printf "The result is: %e/n", x}'

JPX28资讯网——每日最新资讯28at.com

内置函数

Awk提供了几个内置函数,例如:JPX28资讯网——每日最新资讯28at.com

1.数学函数

如果你喜欢数学,你可以在awk脚本中使用这些函数:JPX28资讯网——每日最新资讯28at.com

  • sin(x)
  • cos(x)
  • sqrt(x)
  • exp(x)
  • log(x)
  • rand()

而且它们可以正常使用:JPX28资讯网——每日最新资讯28at.com

root@didiplus:~# awk 'BEGIN{x=exp(5); print x}'148.413

2.字符串函数

有很多字符串函数,你可以查看列表,但我们将其中一个作为示例来研究,其余的都是一样的:JPX28资讯网——每日最新资讯28at.com

root@didiplus:~# awk 'BEGIN{x = "likegeeks"; print toupper(x)}'LIKEGEEKS

函数 toupper将传递的字符串的字符大小写转换为大写。JPX28资讯网——每日最新资讯28at.com

JPX28资讯网——每日最新资讯28at.com

3.用户自定义函数

您可以定义您的函数并像这样使用它们:JPX28资讯网——每日最新资讯28at.com

awk 'function myfunc(){printf "The user %s has home path at %s/n", $1,$6}BEGIN{FS=":"}{myfunc()}' /etc/passwd

在这里,我们定义了一个名为myprint的函数,然后在脚本中使用它通过printf函数打印输出。JPX28资讯网——每日最新资讯28at.com

JPX28资讯网——每日最新资讯28at.com

总结

AWK是一款功能强大的数据处理工具,它能够高效地处理复杂的文本文件和数据集。无论你是需要处理日志、统计数据,还是生成格式化的报表,AWK都能轻松胜任。通过熟练掌握AWK命令,你可以极大提升工作效率,轻松应对各种数据处理任务。JPX28资讯网——每日最新资讯28at.com

JPX28资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-26-112708-0.html提升效率必备!学习 awk 命令,轻松搞定数据

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: WPF 入门知识:XAML 详解

下一篇: 将目标检测模型导出到C++|RT-DETR、YOLO-NAS、YOLOv10、YOLOv9、YOLOv8

标签:
  • 热门焦点
  • 鸿蒙OS 4.0公测机型公布:甚至连nova6都支持

    华为全新的HarmonyOS 4.0操作系统将于今天下午正式登场,官方在发布会之前也已经正式给出了可升级的机型产品,这意味着这些机型会率先支持升级享用。这次的HarmonyOS 4.0支持
  • 5月安卓手机好评榜:魅族20 Pro夺冠

    性能榜和性价比榜之后,我们来看最后的安卓手机好评榜,数据来源安兔兔评测,收集时间2023年5月1日至5月31日,仅限国内市场。第一名:魅族20 Pro好评率:97.50%不得不感慨魅族老品牌还
  • 不容错过的MSBuild技巧,必备用法详解和实践指南

    一、MSBuild简介MSBuild是一种基于XML的构建引擎,用于在.NET Framework和.NET Core应用程序中自动化构建过程。它是Visual Studio的构建引擎,可在命令行或其他构建工具中使用
  • Flowable工作流引擎的科普与实践

    一.引言当我们在日常工作和业务中需要进行各种审批流程时,可能会面临一系列技术和业务上的挑战。手动处理这些审批流程可能会导致开发成本的增加以及业务复杂度的上升。在这
  • 如何通过Python线程池实现异步编程?

    线程池的概念和基本原理线程池是一种并发处理机制,它可以在程序启动时创建一组线程,并将它们置于等待任务的状态。当任务到达时,线程池中的某个线程会被唤醒并执行任务,执行完任
  • 虚拟键盘 API 的妙用

    你是否在遇到过这样的问题:移动设备上有一个固定元素,当激活虚拟键盘时,该元素被隐藏在了键盘下方?多年来,这一直是 Web 上的默认行为,在本文中,我们将探讨这个问题、为什么会发生
  • 携众多高端产品亮相ChinaJoy,小米带来一场科技与人文的视听盛宴

    7月28日,全球数字娱乐领域最具知名度与影响力的年度盛会中国国际数码互动娱乐展览会(简称ChinaJoy)在上海新国际博览中心盛大开幕。作为全球领先的科
  • 造车两年股价跌六成,小米的估值逻辑变了吗?

    如果从小米官宣造车后的首个交易日起持有小米集团的股票,那么截至2023年上半年最后一个交易日,投资者将浮亏59.16%,同区间的恒生科技指数跌幅为52.78%
  • 网传小米汽车开始筛选交付中心 建筑面积不低于3000平方米

    7月7日消息,近日有微博网友@长三角行健者爆料称,据经销商集团反馈,小米汽车目前已经开始了交付中心的筛选工作,要求候选场地至少有120个车位,建筑不能低
Top