当前位置:首页 > 科技  > 软件

实操 OpenTelemetry:通过 Demo 掌握微服务监控的艺术

来源: 责编: 时间:2024-05-27 17:21:33 203观看
导读项目介绍我们参考官方文档构建几个 spring boot 、Golang 项目再配合 Agent 其实也可以很方便的集成 OpenTelemetry。但是要完整的体验 OpenTelemetry 的所有功能,包含 trace、logs、metrics,还有社区这么多语言的支持

项目介绍

我们参考官方文档构建几个 spring boot 、Golang 项目再配合 Agent 其实也可以很方便的集成 OpenTelemetry。2CH28资讯网——每日最新资讯28at.com

但是要完整的体验 OpenTelemetry 的所有功能,包含 trace、logs、metrics,还有社区这么多语言的支持其实还是比较麻烦的。2CH28资讯网——每日最新资讯28at.com

我们还需要单独部署 collector、存储的 backend service 等组件、包括 trace UI 展示所需要的 Jaeger,metric 所需要的 grafana 等。2CH28资讯网——每日最新资讯28at.com

这些所有东西都自己从头弄的话还是比较费时,不过好在社区已经将这些步骤都考虑到了。2CH28资讯网——每日最新资讯28at.com

特地为大家写了一个 opentelemetry-demo。2CH28资讯网——每日最新资讯28at.com

这个项目模拟了一个微服务版本的电子商城,主要包含了以下一些项目:2CH28资讯网——每日最新资讯28at.com

Service
2CH28资讯网——每日最新资讯28at.com

Language
2CH28资讯网——每日最新资讯28at.com

Description
2CH28资讯网——每日最新资讯28at.com

accountingservice
2CH28资讯网——每日最新资讯28at.com

Go
2CH28资讯网——每日最新资讯28at.com

处理和计算订单数据
2CH28资讯网——每日最新资讯28at.com

adservice
2CH28资讯网——每日最新资讯28at.com

Java
2CH28资讯网——每日最新资讯28at.com

广告服务
2CH28资讯网——每日最新资讯28at.com

cartservice
2CH28资讯网——每日最新资讯28at.com

.NET
2CH28资讯网——每日最新资讯28at.com

购物车服务,主要会依赖 Redis
2CH28资讯网——每日最新资讯28at.com

checkoutservice
2CH28资讯网——每日最新资讯28at.com

Go
2CH28资讯网——每日最新资讯28at.com

checkout
2CH28资讯网——每日最新资讯28at.com

currencyservice
2CH28资讯网——每日最新资讯28at.com

C++
2CH28资讯网——每日最新资讯28at.com

货币转换服务,提供了较高的 QPS 能力。
2CH28资讯网——每日最新资讯28at.com

emailservice
2CH28资讯网——每日最新资讯28at.com

Ruby
2CH28资讯网——每日最新资讯28at.com

邮件服务
2CH28资讯网——每日最新资讯28at.com

frauddetectionservice
2CH28资讯网——每日最新资讯28at.com

Kotlin
2CH28资讯网——每日最新资讯28at.com

风控服务
2CH28资讯网——每日最新资讯28at.com

frontend
2CH28资讯网——每日最新资讯28at.com

JavaScript
2CH28资讯网——每日最新资讯28at.com

前端应用
2CH28资讯网——每日最新资讯28at.com

loadgenerator
2CH28资讯网——每日最新资讯28at.com

Python/Locust
2CH28资讯网——每日最新资讯28at.com

模拟压测服务
2CH28资讯网——每日最新资讯28at.com

paymentservice
2CH28资讯网——每日最新资讯28at.com

JavaScript
2CH28资讯网——每日最新资讯28at.com

支付服务
2CH28资讯网——每日最新资讯28at.com

productcatalogservice
2CH28资讯网——每日最新资讯28at.com

Go
2CH28资讯网——每日最新资讯28at.com

商品服务
2CH28资讯网——每日最新资讯28at.com

quoteservice
2CH28资讯网——每日最新资讯28at.com

PHP
2CH28资讯网——每日最新资讯28at.com

成本服务
2CH28资讯网——每日最新资讯28at.com

recommendationservice
2CH28资讯网——每日最新资讯28at.com

Python
2CH28资讯网——每日最新资讯28at.com

推荐服务
2CH28资讯网——每日最新资讯28at.com

shippingservice
2CH28资讯网——每日最新资讯28at.com

Rust
2CH28资讯网——每日最新资讯28at.com

shipping service
2CH28资讯网——每日最新资讯28at.com

可以发现在这个 demo 中提供了许多的服务,而且包含了几乎所有主流的语言,可以很好的模拟我们实际的使用场景了。
2CH28资讯网——每日最新资讯28at.com


2CH28资讯网——每日最新资讯28at.com


2CH28资讯网——每日最新资讯28at.com

图片图片2CH28资讯网——每日最新资讯28at.com

通过这张图可以更直观的查看各个服务之间的关系。2CH28资讯网——每日最新资讯28at.com

整体来说前端所有的请求都会通过 front-end-proxy 这个组件代理,最终再由 front 这个服务进行转发到不同的后端服务中。2CH28资讯网——每日最新资讯28at.com

图片图片2CH28资讯网——每日最新资讯28at.com

除了一个项目的架构图之外,还有一个关于 OpenTelemetry 的数据流转图。2CH28资讯网——每日最新资讯28at.com

在 OpenTelemetry 中数据流转是它的特点也是非常重要的核心,这点在上一篇文章中讲过,用户可以自由定制数据的流转以及任意的处理数据,在这个图中就将数据流转可视化了。2CH28资讯网——每日最新资讯28at.com

  • 客户端可以通过 OTLP 协议或者是 HTTP 将数据上传到 OTel Collector 中。
  • 在 collector 中会根据我们配置的 Process pipeline 处理数据。
  • Metric 数据通过  OTLP HTTP exporter 将数据导入到 Prometheus 中。

Prometheus 已经于 23 年七月份支持 OTLP 格式的 metric 数据导入了。2CH28资讯网——每日最新资讯28at.com

  • Trace 数据则是通过 OTLP Exporter 写入到 Jaeger 中进行存储,最后通过 Jaeger 的 UI 进行查询展示。
  • 而存入 Prometheus 中的 metric 数据则是有 grafana 进行查询。

关于 collector 的配置会在后文讲解。2CH28资讯网——每日最新资讯28at.com

部署

接下来便是安装 Demo 了,我更推荐使用 helm 安装。2CH28资讯网——每日最新资讯28at.com

这里的版本要求是:2CH28资讯网——每日最新资讯28at.com

  • Kubernetes 1.24+
  • Helm 3.9+
helm repo add open-telemetry https://open-telemetry.github.io/opentelemetry-helm-chartshelm repo updatehelm install my-otel-demo open-telemetry/opentelemetry-demo

这样就可以很简单的将 demo 所涉及到的所有组件和服务都安装到 default 命名空间中。2CH28资讯网——每日最新资讯28at.com

helm show values open-telemetry/opentelemetry-demo > demo.yaml

不过在安装前还是建议先导出一份 value.yaml,之后可以使用这个 yaml 定制需要安装的组件。2CH28资讯网——每日最新资讯28at.com

在这个 yaml 中我们可以看到有哪些组件和服务可以定制:2CH28资讯网——每日最新资讯28at.com

图片图片2CH28资讯网——每日最新资讯28at.com

可以看到这里包含了我们刚才提到的所有服务,以及这些服务所依赖的 Kafka、redis、Prometheus 等中间件,都可以自己进行定制修改。2CH28资讯网——每日最新资讯28at.com

图片图片2CH28资讯网——每日最新资讯28at.com

当所有的 Pod 都成功运行之后表示安装成功。2CH28资讯网——每日最新资讯28at.com

正常情况下安装不会有什么问题,最大可能的问题就是镜像拉取失败,此时我们可以先在本地手动 docker pull 下来镜像后再上传到私服,然后修改 deployment 中的镜像地址即可。2CH28资讯网——每日最新资讯28at.com

暴露服务

为了方便使用我们可以用这个 demo 进行测试,还需要将 front-proxy 的服务暴露出来可以在本地访问:2CH28资讯网——每日最新资讯28at.com

kubectl port-forward svc/my-otel-demo-frontendproxy 8080:8080

Component
2CH28资讯网——每日最新资讯28at.com

Path
2CH28资讯网——每日最新资讯28at.com

Shop 首页
2CH28资讯网——每日最新资讯28at.com

http://localhost:80802CH28资讯网——每日最新资讯28at.com

Grafana
2CH28资讯网——每日最新资讯28at.com

http://localhost:8080/grafana2CH28资讯网——每日最新资讯28at.com

压测页面
2CH28资讯网——每日最新资讯28at.com

http://localhost:8080/loadgen2CH28资讯网——每日最新资讯28at.com

Jaeger UI
2CH28资讯网——每日最新资讯28at.com

http://localhost:8080/jaeger/ui2CH28资讯网——每日最新资讯28at.com

正常情况下就可以打开这些页面进行访问了。
2CH28资讯网——每日最新资讯28at.com


2CH28资讯网——每日最新资讯28at.com

不过使用 port-forward 转发的方式只是临时方案,使用 ctrl+c 就会停止暴露服务,所以如果想要一个稳定的访问链接时便可以配置一个 ingress。2CH28资讯网——每日最新资讯28at.com

components:  frontendProxy:    ingress:      enabled: true      annotations: {}      hosts:        - host: otel-demo.my-domain.com          paths:            - path: /              pathType: Prefix              port: 8080

在之前的 helm 的 value.yaml 中配置即可,本地测试的话需要将这个 host 和 ingress 暴露出来的 IP 进行绑定才可以使用这个域名机进行访问。2CH28资讯网——每日最新资讯28at.com

更多关于 ingress 的使用可以参考我之前的文章:2CH28资讯网——每日最新资讯28at.com

  • k8s入门到实战-使用Ingress

当然简单起见也可以直接将 front-proxy 的 service 类型改为 LoadBalancer。(默认是 ClusterIP 只可以在集群内访问)2CH28资讯网——每日最新资讯28at.com

这样就可以直接通过这个 service 的 IP 进行访问了。2CH28资讯网——每日最新资讯28at.com

components:  frontendProxy:    service:      type: LoadBalancer

不过需要注意的是如果 demo 安装完成之后是不可以再次修改 service 的类型的,需要手动这个 service 删掉之后再次新建才可以。2CH28资讯网——每日最新资讯28at.com

临时测试使用的话还是推荐直接使用 port-forward 进行转发。2CH28资讯网——每日最新资讯28at.com

查看 Trace

通过之前的项目架构图可以得知,我们在项目首页刷新会直接请求 AdService 来获取广告。2CH28资讯网——每日最新资讯28at.com

为了简单起见我们只查询这一链路的调用情况:2CH28资讯网——每日最新资讯28at.com

图片图片2CH28资讯网——每日最新资讯28at.com

打开 http://localhost:8080/jaeger/ui/search Jeager 的 UI 页面便可以筛选服务,之后点击查找 Traces 就可以列出一段时间内的访问 trace。2CH28资讯网——每日最新资讯28at.com

图片图片2CH28资讯网——每日最新资讯28at.com

可以看到这个请求链路是从前端访问到 adService 中的 getAds()接口,然后在这个接口中再访问了 getAdsByCategory 函数。2CH28资讯网——每日最新资讯28at.com

图片图片2CH28资讯网——每日最新资讯28at.com

最终在源码中也可以看到符合链路的调用代码。2CH28资讯网——每日最新资讯28at.com

在刚才的链路图的右下角有一个 spanID,整个 trace 是由这些小的 span 组成,每一个 span 也会有唯一 spanID;trace 也会有一个 traceID 将这些 span 串联起来;更多关于 trace 的内容会在后面的文章进行分析。2CH28资讯网——每日最新资讯28at.com

查看 Metrics

我们再打开 grafana 便可以看到刚才访问的 adService 的延迟和接口的 QPS 情况:2CH28资讯网——每日最新资讯28at.com

图片图片2CH28资讯网——每日最新资讯28at.com

在opentelemetry-collector-data-flow 面板中还可以看到 OpenTelemetry 的数据流转。2CH28资讯网——每日最新资讯28at.com

图片图片2CH28资讯网——每日最新资讯28at.com

更多监控信息可以查看其它的面板。2CH28资讯网——每日最新资讯28at.com

而刚才面板中的数据流转规则则是在我们的 collector 中进行配置的:2CH28资讯网——每日最新资讯28at.com

receivers:  otlp:    protocols:      grpc:      http:        cors:          allowed_origins:            - "http://*"            - "https://*"  httpcheck/frontendproxy:    targets:      - endpoint: http://frontendproxy:${env:ENVOY_PORT}exporters:  debug:  otlp:    endpoint: "jaeger:4317"    tls:      insecure: true  otlphttp/prometheus:    endpoint: "http://prometheus:9090/api/v1/otlp"    tls:      insecure: true  opensearch:    logs_index: otel    http:      endpoint: "http://opensearch:9200"      tls:        insecure: trueprocessors:  batch:connectors:  spanmetrics:service:  pipelines:    traces:      receivers: [otlp]      processors: [batch]      exporters: [otlp, debug, spanmetrics]    metrics:      receivers: [httpcheck/frontendproxy, otlp, spanmetrics]      processors: [batch]      exporters: [otlphttp/prometheus, debug]    logs:      receivers: [otlp]      processors: [batch]      exporters: [opensearch, debug]

重点的就是这里的 service.piplines,可以进行任意的组装。2CH28资讯网——每日最新资讯28at.com

更多关于 collector 的配置也会在后续文章中继续讲解。2CH28资讯网——每日最新资讯28at.com

我们也可以继续访问这个 demo 网站,模拟加入购物车、下单等行为,再结合 trace 和 metric 观察系统的变化。2CH28资讯网——每日最新资讯28at.com

这样一个完整的 OpenTelemetry-Demo 就搭建完毕了,我们实际在生产环境使时完全可以参考这个 demo 进行配置,可以少踩很多坑。2CH28资讯网——每日最新资讯28at.com

参考链接:2CH28资讯网——每日最新资讯28at.com

  • https://github.com/open-telemetry/opentelemetry-demo/blob/main/src/adservice/Dockerfile
  • https://github.com/open-telemetry/opentelemetry-demo
  • https://github.com/prometheus/prometheus/pull/12571
  • https://github.com/open-telemetry/opentelemetry-demo/blob/main/src/otelcollector/otelcol-config.yml

本文链接:http://www.28at.com/showinfo-26-91019-0.html实操 OpenTelemetry:通过 Demo 掌握微服务监控的艺术

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 亿级流量下通用的高并发架构设计

下一篇: 阿里面试:NIO为什么会导致CPU 100% ?

标签:
  • 热门焦点
  • 印度登月最关键一步!月船三号今晚进入环月轨道

    8月5日消息,据印度官方消息,月船三号将于北京时间今晚21时30分左右开始近月制动进入环月轨道。这是该探测器能够成功的最关键步骤之一,如果成功将开始围
  • K6:面向开发人员的现代负载测试工具

    K6 是一个开源负载测试工具,可以轻松编写、运行和分析性能测试。它建立在 Go 和 JavaScript 之上,它被设计为功能强大、可扩展且易于使用。k6 可用于测试各种应用程序,包括 Web
  • 一篇聊聊Go错误封装机制

    %w 是用于错误包装(Error Wrapping)的格式化动词。它是用于 fmt.Errorf 和 fmt.Sprintf 函数中的一个特殊格式化动词,用于将一个错误(或其他可打印的值)包装在一个新的错误中。使
  • 只需五步,使用start.spring.io快速入门Spring编程

    步骤1打开https://start.spring.io/,按照屏幕截图中的内容创建项目,添加 Spring Web 依赖项,并单击“生成”按钮下载 .zip 文件,为下一步做准备。请在进入步骤2之前进行解压。图
  • 中国家电海外掘金正当时|出海专题

    作者|吴南南编辑|胡展嘉运营|陈佳慧出品|零态LT(ID:LingTai_LT)2023年,出海市场战况空前,中国创业者在海外纷纷摩拳擦掌,以期能够把中国的商业模式、创业理念、战略打法输出海外,他们依
  • 疑似小米14外观设计图曝光:后置相机模组变化不大

    下半年的大幕已经开启,而谁将成为下半年手机圈的主角就成为了大家关注的焦点,其中被传有望拿下新一代骁龙8 Gen3旗舰芯片的小米14系列更是备受大家瞩
  • Android 14发布:首批适配机型公布

    5月11日消息,谷歌在今天凌晨举行了I/O大会,本次发布会谷歌带来了自家的AI语言模型PaLM 2、谷歌Pixel Fold折叠屏、谷歌Pixel 7a手机,同时发布了Androi
  • DRAM存储器10月价格下跌,NAND闪存本月价格与上月持平

    10月30日,据韩国媒体消息,自今年年初以来一直在上涨的 DRAM 存储器的交易价格仅在本月就下跌了近 10%,此次是全年首次降价,而NAND 闪存本月价格与上月持平。市
  • “买真退假” 这种“羊毛”不能薅

    □ 法治日报 记者 王春   □ 本报通讯员 胡佳丽  2020年初,还在上大学的小东加入了一个大学生兼职QQ群。群主“七王”在群里介绍一些刷单赚
Top