当前位置:首页 > 科技  > 软件

提升效率必备!学习 awk 命令,轻松搞定数据

来源: 责编: 时间:2024-09-10 09:45:05 192观看
导读在日常的工作中,无论是数据处理、日志分析,还是格式化输出,AWK命令都是不可或缺的利器。AWK是一种强大的文本处理工具,能让你轻松处理复杂的数据,提升工作效率。本文将为你介绍AWK的基本功能及一些实用场景,帮助你快速掌握

在日常的工作中,无论是数据处理、日志分析,还是格式化输出,AWK命令都是不可或缺的利器。AWK是一种强大的文本处理工具,能让你轻松处理复杂的数据,提升工作效率。本文将为你介绍AWK的基本功能及一些实用场景,帮助你快速掌握这门工具。tWH28资讯网——每日最新资讯28at.com

tWH28资讯网——每日最新资讯28at.com

awk选项

awk 命令的使用方式如下:tWH28资讯网——每日最新资讯28at.com

awk options program file

awk 可以采用以下选项:tWH28资讯网——每日最新资讯28at.com

  • -F:fs指定文件分隔符。
  • -f:文件指定包含 awk 脚本的文件。
  • -v:var=值声明变量。

我们将了解如何使用awk处理文件和打印结果。tWH28资讯网——每日最新资讯28at.com

读取AWK脚本

要定义awk脚本,请使用用单引号括起来的大括号,如下所示:tWH28资讯网——每日最新资讯28at.com

awk '{print "Welcome to awk command tutorial "}'

如果您键入任何内容,它将返回我们提供的相同欢迎字符串。如下图所示:tWH28资讯网——每日最新资讯28at.com

tWH28资讯网——每日最新资讯28at.com

要终止程序,请按Ctrl+D。看起来很棘手,不要惊慌,最好的还没有到来。tWH28资讯网——每日最新资讯28at.com

使用变量

使用awk,可以处理文本文件。Awk为找到的每个数据字段分配一些变量:tWH28资讯网——每日最新资讯28at.com

  • $0:是输出整行的内容。
  • $1:是输出第一个字段。
  • $2:是输出第二个字段。
  • $n:表示第n个字段。

在awk中,空格或制表符等空白字符是字段之间的默认分隔符。看看这个例子,看看awk是如何处理它的:tWH28资讯网——每日最新资讯28at.com

tWH28资讯网——每日最新资讯28at.com

上面的示例打印了每行的第一个单词。tWH28资讯网——每日最新资讯28at.com

有时某些文件中的分隔符不是空格或tab,而是其他内容。您可以使用–F选项指定它:tWH28资讯网——每日最新资讯28at.com

awk -F ':' '{print $1}' /etc/passwd

tWH28资讯网——每日最新资讯28at.com

此命令将打印passwd文件中的第一个字段。我们使用冒号作为分隔符,因为passwd文件使用它。tWH28资讯网——每日最新资讯28at.com

使用多个命令

要运行多个命令,请用分号分隔它们,如下所示:tWH28资讯网——每日最新资讯28at.com

root@didiplus:~# echo "Hello Tom" | awk '{$2="Adam"; print $0}'Hello Adam

第一个命令使 $2字段等于Adam。第二个命令打印整行。tWH28资讯网——每日最新资讯28at.com

tWH28资讯网——每日最新资讯28at.com

从文件中读取脚本

您可以在文件中键入awk脚本,并使用 -f 选项指定该文件。我们的文件包含以下脚本:tWH28资讯网——每日最新资讯28at.com

{print $1 " home at " $6}
 awk -F: -f testfile /etc/passwd

tWH28资讯网——每日最新资讯28at.com

在这里,我们从 /etc/passwd打印用户名和他的主路径,当然分隔符是用大写的-F指定的,即冒号。tWH28资讯网——每日最新资讯28at.com

你可以像这样awk脚本文件:tWH28资讯网——每日最新资讯28at.com

{text = $1 " home at " $6print t

awk预处理

如果您需要为结果创建标题或表头等。您可以使用BEGIN关键字来实现此目的。它在处理数据之前运行:tWH28资讯网——每日最新资讯28at.com

awk 'BEGIN {print "this Title"} {print $0}' myfile

执行上述代码输入如下图的结果:tWH28资讯网——每日最新资讯28at.com

tWH28资讯网——每日最新资讯28at.com

awk后处理

要在处理数据后运行脚本,请使用END关键字:tWH28资讯网——每日最新资讯28at.com

awk 'BEGIN {print "this Title"} {print $0} END {print "this footer"}' myfile

执行上述代码输出如下图的结果:tWH28资讯网——每日最新资讯28at.com

tWH28资讯网——每日最新资讯28at.com

这很有用,例如,您可以使用它来添加页脚。让我们将它们组合到一个脚本文件中:tWH28资讯网——每日最新资讯28at.com

BEGIN {print "Users and thier corresponding home"print " UserName /t HomePath"print "___________ /t __________"FS=":"}{print $1 "  /t  " $6}END {print "The end"

首先,使用BEGIN关键字创建顶部部分。然后我们定义FS并在末尾打印页脚。tWH28资讯网——每日最新资讯28at.com

 awk -f myscript  /etc/passwd

tWH28资讯网——每日最新资讯28at.com

内置变量

我们看到数据字段变量$1,$2,$3等用于提取数据字段,我们还处理字段分隔符FS。tWH28资讯网——每日最新资讯28at.com

但这些并不是唯一的变量,还有更多的内置变量。tWH28资讯网——每日最新资讯28at.com

下面列出了一些内置变量:tWH28资讯网——每日最新资讯28at.com

  • FIELDWIDTHS:指定字段宽度。
  • RS:指定记录分隔符。
  • FS:指定字段分隔符。
  • OFS:输出分隔符。
  • ORS:输出分隔符。

默认情况下,OFS变量是空格,你可以设置OFS变量来指定你需要的分隔符:tWH28资讯网——每日最新资讯28at.com

awk 'BEGIN {FS=":";OFS="---"} {print $1,$6,$7}' /etc/passwd

tWH28资讯网——每日最新资讯28at.com

有时,字段的分布没有固定的分隔符。在这些情况下,FIELDWIDTHS 变量可以解决问题。tWH28资讯网——每日最新资讯28at.com

假设我们有以下内容:tWH28资讯网——每日最新资讯28at.com

1235.96521927-8.365236257.8157
awk 'BEGIN{FIELDWIDTHS="3 4 3"}{print $1,$2,$3}' testfile

查看输出。输出字段为每行3个,每个字段长度都基于我们由FIELDWIDTH分配的字段。tWH28资讯网——每日最新资讯28at.com

tWH28资讯网——每日最新资讯28at.com

更多的变量

还有一些其他变量可以帮助你获取更多信息:tWH28资讯网——每日最新资讯28at.com

  • ARGC:获取传递的参数数量。
  • ARGV:获取命令行参数。
  • ENVIRON :shell环境变量及其对应值的数组
  • FILENAME:awk处理的文件名。
  • NF :Fields正在处理的行数。
  • NR:检索处理过的记录总数。
  • FNR:被处理的记录。

IGNORECASE:忽略字符的大小写。tWH28资讯网——每日最新资讯28at.com

让我们测试一下。tWH28资讯网——每日最新资讯28at.com

root@didiplus:~#  awk 'BEGIN{print ARGC,ARGV[1]}' myfile2 myfile

ENVIRON变量检索shell环境变量,如下所示:tWH28资讯网——每日最新资讯28at.com

root@didiplus:~# awk 'BEGIN {print ENVIRON["PATH"]}'/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/snap/bin

您可以使用不带ENVIRON变量的 bash 变量,如下所示:tWH28资讯网——每日最新资讯28at.com

root@didiplus:~# echo | awk -v home=$HOME '{print "My home is" home}'My home is/root

NF变量指定记录中的最后一个字段,但不知道其位置:tWH28资讯网——每日最新资讯28at.com

awk 'BEGIN{FS=":"; OFS=":"} {print $1,$NF}' /etc/passwd

tWH28资讯网——每日最新资讯28at.com

如果像这样键入NF变量,则可以将其用作数据字段变量:$NF。tWH28资讯网——每日最新资讯28at.com

tWH28资讯网——每日最新资讯28at.com

让我们看一下这两个例子来了解FNR和NR变量之间的区别:tWH28资讯网——每日最新资讯28at.com

awk 'BEGIN{FS=","}{print $1,"FNR="FNR}' myfile myfile

tWH28资讯网——每日最新资讯28at.com

在此示例中,awk命令定义两个输入文件。相同的文件,但处理了两次。输出是第一个字段值和FNR变量。tWH28资讯网——每日最新资讯28at.com

现在,检查NR变量并查看差异:tWH28资讯网——每日最新资讯28at.com

$ awk 'BEGIN {FS=","}{print $1,"FNR="FNR,"NR="NR}END{print "Total",NR,"processed lines"}' myfile myfile

tWH28资讯网——每日最新资讯28at.com

当涉及到第二个文件时,FNR变量变为1,但NR变量保留其值。tWH28资讯网——每日最新资讯28at.com

tWH28资讯网——每日最新资讯28at.com

用户自定义变量

变量名称可以是任何内容,但不能以数字开头。您可以像在shell脚本中一样分配变量,如下所示:tWH28资讯网——每日最新资讯28at.com

awk 'BEGIN{test="Welcome to LikeGeeks website"print test}'

执行上述命令后,输出如下结果:tWH28资讯网——每日最新资讯28at.com

tWH28资讯网——每日最新资讯28at.com

结构化命令

1.if循环

awk脚本语言支持if条件语句。testfile包含以下内容:tWH28资讯网——每日最新资讯28at.com

101563345
root@didiplus:~# awk '{if ($1 > 30) print $1}' testfile3345

如果要运行多个语句,则应使用大括号:tWH28资讯网——每日最新资讯28at.com

root@didiplus:~# awk '{if ($1 > 30){x = $1 * 3print x}}' testfile99

您可以使用如下所示的else语句:tWH28资讯网——每日最新资讯28at.com

root@didiplus:~# awk '{if ($1 > 30){x = $1 * 3print x} else{x = $1 / 2print x}}' testfile57.5399135

或者在同一行中键入它们,并用分号分隔 if 语句,如下所示:tWH28资讯网——每日最新资讯28at.com

root@didiplus:~# awk '{ if ($1>20) print $1*2;else print $1/2}' testfile57.536690

2.while循环

您可以使用while循环遍历具有条件的数据。tWH28资讯网——每日最新资讯28at.com

awk '{sum = 0i = 1while (i < 5){sum += $ii++}average = sum / 3print "Average:",average}' testfile
  • $i:是取到testfile的每一列的值
  • while循环运行,每次它都会向sum变量加$i的值,直到 i 变量变为 4。

tWH28资讯网——每日最新资讯28at.com

您可以使用break命令退出循环,如下所示:tWH28资讯网——每日最新资讯28at.com

awk '{sum = 0i = 1while (i < 5){sum += $iif (i == 3) breaki++}average = sum / 3print "Average:",average}' testfile

结果还是和上面的输出的一样。tWH28资讯网——每日最新资讯28at.com

tWH28资讯网——每日最新资讯28at.com

3.for循环

awk脚本语言支持for循环:tWH28资讯网——每日最新资讯28at.com

awk '{total = 0for (var = 1; var < 5; var++){total += $var}avg = total / 3print "Average:",avg}' testfile

格式化打印

awk中的printf命令允许你使用格式说明符打印出格式化的输出。tWH28资讯网——每日最新资讯28at.com

格式说明符如下所示:tWH28资讯网——每日最新资讯28at.com

%[modifier]control-letter

下面列出了可用于printf的格式说明符:tWH28资讯网——每日最新资讯28at.com

  • c:以字符串的形式打印数值输出。
  • d:打印一个整数值。
  • e:打印科学数字。
  • f:打印浮点数。
  • o:打印一个八进制值。
  • s:打印文本字符串。

这里我们使用printf来格式化输出:tWH28资讯网——每日最新资讯28at.com

awk 'BEGIN{x = 100 * 100printf "The result is: %e/n", x}'

tWH28资讯网——每日最新资讯28at.com

内置函数

Awk提供了几个内置函数,例如:tWH28资讯网——每日最新资讯28at.com

1.数学函数

如果你喜欢数学,你可以在awk脚本中使用这些函数:tWH28资讯网——每日最新资讯28at.com

  • sin(x)
  • cos(x)
  • sqrt(x)
  • exp(x)
  • log(x)
  • rand()

而且它们可以正常使用:tWH28资讯网——每日最新资讯28at.com

root@didiplus:~# awk 'BEGIN{x=exp(5); print x}'148.413

2.字符串函数

有很多字符串函数,你可以查看列表,但我们将其中一个作为示例来研究,其余的都是一样的:tWH28资讯网——每日最新资讯28at.com

root@didiplus:~# awk 'BEGIN{x = "likegeeks"; print toupper(x)}'LIKEGEEKS

函数 toupper将传递的字符串的字符大小写转换为大写。tWH28资讯网——每日最新资讯28at.com

tWH28资讯网——每日最新资讯28at.com

3.用户自定义函数

您可以定义您的函数并像这样使用它们:tWH28资讯网——每日最新资讯28at.com

awk 'function myfunc(){printf "The user %s has home path at %s/n", $1,$6}BEGIN{FS=":"}{myfunc()}' /etc/passwd

在这里,我们定义了一个名为myprint的函数,然后在脚本中使用它通过printf函数打印输出。tWH28资讯网——每日最新资讯28at.com

tWH28资讯网——每日最新资讯28at.com

总结

AWK是一款功能强大的数据处理工具,它能够高效地处理复杂的文本文件和数据集。无论你是需要处理日志、统计数据,还是生成格式化的报表,AWK都能轻松胜任。通过熟练掌握AWK命令,你可以极大提升工作效率,轻松应对各种数据处理任务。tWH28资讯网——每日最新资讯28at.com

tWH28资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-26-112708-0.html提升效率必备!学习 awk 命令,轻松搞定数据

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: WPF 入门知识:XAML 详解

下一篇: 将目标检测模型导出到C++|RT-DETR、YOLO-NAS、YOLOv10、YOLOv9、YOLOv8

标签:
  • 热门焦点
  • K60至尊版刚预热 一加Ace2 Pro正面硬刚

    Redmi这边刚如火如荼的宣传了K60 Ultra的各种技术和硬件配置,作为竞品的一加也坐不住了。一加中国区总裁李杰发布了两条微博,表示在自家的一加Ace2上早就已经采用了和PixelWo
  • 石头智能洗地机A10 Plus体验:双向自清洁治好了我的懒癌

    一、前言和介绍专为家庭请假懒人而生的石头科技在近日又带来了自己的全新旗舰新品,石头智能洗地机A10 Plus。从这个产品名上就不难看出,这次石头推出的并不是常见的扫地机器
  • Raft算法:保障分布式系统共识的稳健之道

    1. 什么是Raft算法?Raft 是英文”Reliable、Replicated、Redundant、And Fault-Tolerant”(“可靠、可复制、可冗余、可容错”)的首字母缩写。Raft算法是一种用于在分布式系统
  • 虚拟键盘 API 的妙用

    你是否在遇到过这样的问题:移动设备上有一个固定元素,当激活虚拟键盘时,该元素被隐藏在了键盘下方?多年来,这一直是 Web 上的默认行为,在本文中,我们将探讨这个问题、为什么会发生
  • 猿辅导与新东方的两种“归途”

    作者|卓心月 出品|零态LT(ID:LingTai_LT)如何成为一家伟大企业?答案一定是对&ldquo;势&rdquo;的把握,这其中最关键的当属对企业战略的制定,且能够站在未来看现在,即使这其中的
  • 三星电子Q2营收60万亿韩元 存储业务营收同比仍下滑超过50%

    7月27日消息,据外媒报道,从三星电子所发布的财报来看,他们主要利润来源的存储芯片业务在今年二季度仍不乐观,营收同比仍在大幅下滑,所在的设备解决方案
  • iQOO 11S评测:行业唯一的200W标准版旗舰

    【Techweb评测】去年底,iQOO推出了“电竞旗舰”iQOO 11系列,作为一款性能强机,该机不仅全球首发2K 144Hz E6全感屏,搭载了第二代骁龙8平台及144Hz电竞
  • OPPO K11采用全方位护眼屏:三大护眼能力减轻视觉疲劳

    日前OPPO官方宣布,全新的OPPO K11将于7月25日正式发布,将主打旗舰影像,和同档位竞品相比,其最大的卖点就是将配备索尼IMX890主摄,堪称是2000档位影像表
  • 北京:科技教育体验基地开始登记

      北京“科技馆之城”科技教育体验基地登记和认证工作日前启动。首批北京科技教育体验基地拟于2023年全国科普日期间挂牌,后续还将开展常态化登记。  北京科技教育体验基
Top