当前位置:首页>滚动 > >正文

prometheus 服务发现原理

  • 2023-03-23 14:19:28来源:腾讯云

服务发现

概述

如上图,Prometheus核心功能包括服务发现、数据采集和数据存储。服务发现模块专门负责发现需要监控的目标采集点(target)信息,数据采集模块从服务发现模块订阅该信息,获取到target信息后,其中就包含协议(scheme)、主机地址:端口(instance)、请求路径(metrics_path)、请求参数(params)等;然后数据采集模块就可以基于这些信息构建出一个完整的Http Request请求,定时通过pull http协议不断的去目标采集点(target)拉取监控样本数据(sample);最后,将采集到监控样本数据交由TSDB模块进行数据存储。

为什么需要服务发现模块?

类似于微服务通过引入注册中心组件解决众多微服务间错综复杂的依赖调用。无论是服务主动停止,意外挂掉,还是因为流量增加对服务实现进行扩容,这些服务数据或状态上的动态变化,通过注册中心屏蔽服务状态变更造成的影响,简化了调用方处理逻辑。


(资料图片)

同理,Prometheus最开始设计是一个面向云原生应用程序的,云原生、容器场景下按需的资源使用方式对于监控系统而言就意味着没有了一个固定的监控目标,所有的监控对象(基础设施、应用、服务)都在动态的变化。Prometheus解决方案就是引入一个中间的代理人,这个代理人掌握着当前所有监控目标的访问信息,Prometheus只需要向这个代理人询问有哪些监控目标即可,这种模式被称为服务发现(service discovery)。

目前,Prometheus支持的服务发现协议是非常丰富的,最新版本(2.41)已支持接近三十种服务发现协议:

服务发现配置解析

1、Prometheus服务启动加载prometheus.yml配置文件会被解析Config结构体:

Config结构体是配置类的最顶层结构,内部包含6个字段分别对应prometheus配置的6大组成部分。

2、其中数据采集配置部分ScrapeConfigs对应的是一个*ScrapeConfig类型切片,一个ScrapeConfig对应的是scrape_configs配置下的一个job抓取任务,服务发现协议配置对应其中ServiceDiscoveryConfigs字段:

3、discovery.Configs对应的是Config切片:

type Configs []Config

所以,一个job抓取任务下可以配置多个服务发现协议,如:

- job_name: "prometheus"  metrics_path: /metrics  static_configs:    - targets: ["124.222.45.207:9090"]  file_sd_configs:    - files:      - targets/t1.json      - targets/t2.json      refresh_interval: 5m

4、Config是一个接口:

Config是一个接口的定义,每种服务发现协议都会存在一个对应Config接口的实现(见下图)。该接口主要定义两个方法:

1、Name() string:定义服务发现协议类型,如eureka、kubernetes等等;2、NewDiscoverer(DiscovererOptions) (Discoverer, error):返回一个Discoverer类型变量,该类型也是一个接口,其只定义了一个方法Run方法,即Discoverer是对应的服务发现协议具体运行逻辑封装,通过Run方法提供统一的运行入口。
服务发现核心原理

说明:

Prometheus服务发现核心逻辑的入口主要关注Manager结构体的ApplyConfig方法:基于服务发现的配置使其生效;

ApplyConfig方法包括四个主要步骤:

type provider struct { name   string d      Discoverer subs   []string config interface{}}

❝一个job下一个服务发现协议对应一个Discoverer。❞

provider还有额外三个字段:

1、nameprovider名称,格式:fmt.Sprintf("%s/%d", typ, len(m.providers))

2、subsstring切片,存放job名称,因为可能不同job下存在一致的服务发现配置,就只会生成一个provider,然后subs存放job列表;

3、config:服务发现配置

启动Discoverer接口Run方法,让服务发现逻辑运行;协程中运行updater方法;Discoverer接口Run方法主要基于具体服务发现协议发现target,然后通过通道传递给updater处理逻辑,将其解析处理放入到Manager结构体中targets字段中,并向triggerSend通道发送信号,表示当前targets发生变更;Manager结构体sender方法每5秒监听triggerSend通道信号,并将Manager结构体中targets字段处理后放入到syncCh通道中;数据采集模块(scrape)监听syncCh通道,就可以获取到服务发现生成的targets信息,然后reloadtarget纳入监控开始抓取监控指标。启动provider:遍历Manager结构体中providers切片,启动每个provider,该步骤主要是启动两个协程:❝Manager结构体sender方法是在Prometheus启动时discoveryManagerScrape.Run()方法中启动。❞取消服务发现:配置变更也会调用ApplyConfig方法,这时就要把基于之前配置运行的服务发现服务取消,然后基于当前配置重新生成;清空:主要清空discoverCanceltargetsproviders几个容器元素,因为要基于当前配置重新生成;注册providerprovider是对Discoverer的封装,不同服务发现协议都会实现Config接口,其中NewDiscoverer方法就是创建Discoverer

「Prometheus服务发现核心就是三个协程之间协作:」

「协程1:」负责运行Discoverer接口Run方法,基于协议发现采集点;「协程2:」负责将协程1发现的采集点信息更新到Manager结构体中targets字段的map中;「协程3:」负责将Manager结构体中targets字段的数据通过通道发送给scrape模块;

scrape模块获取到采集点如何进行数据采集后续scrape模块分析。

监控指标

Prometheus服务发现通用指标主要有如下5个,都定义在discovery/manager.go中:

prometheus_sd_discovered_targetsprometheus_sd_failed_configsprometheus_sd_received_updates_totalprometheus_sd_updates_delayed_totalprometheus_sd_updates_total

「1、采集点数量指标」

服务发现主要基于协议发现采集目标,prometheus_sd_discovered_targets指标反馈各个job发现的采集目标数:

prometheus_sd_discovered_targets:gauge类型,当前发现的目标数config:job名称name:取值scrape和notify,区分指标抓取服务发现还是告警通知服务发现示例:prometheus_sd_discovered_targets{config="auth_es1", name="scrape"}  12

❝这里基于协议发现的目标数,还未进入采集模块,并不能区分是在线还是离线。❞

「2、服务发现协议异常错误指标」

服务发现会给每个发现配置项生成一个provider,并为每个provider使用协程运行,如果基于配置项生成provider错误就可以通过prometheus_sd_failed_configs指标反馈:

prometheus_sd_failed_configs:gauge类型,当前无法加载的服务发现配置数配置数:一个job可能存在多个服务发现协议配置,对应配置项则是多个示例:prometheus_sd_failed_configs{name="scrape"}  10prometheus_sd_failed_configs{name="notify"} 5

一个job可能对应多个服务发现配置项,如下:这个job下配置了static_configsfile_sd_configs两个服务发现协议配置,则对应两个服务发现配置项,注册两个provider,每个provider在独立协程中运行:

scrape_configs:  # The job name is added as a label `job=` to any timeseries scraped from this config.  - job_name: "test"    static_configs:    - targets: ["localhost:9090"]    file_sd_configs:    - refresh_interval: 5m      files:      - targets/manual.*.json

「3、协程交互指标」

服务发现主要涉及3类协程:

Discoverer协程(多个):封装provider,基于协议发现采集点,这里可能会存在多个,一个provider对应一个Discoverer协程updater协程(1个):Discoverer协程发现采集点,通过channel通道通知到updater协程updater协程将采集点更新到Manager结构体targets字段中,然后向Manager结构体triggerSend通道写入数据,告诉sender协程targets有更新;sender协程(1个):sender协程每5秒检测triggerSend通道数据,检测到更新则将Manager结构体targets数据处理封装写入到Manager结构体syncCh通道中,scrape模块监测该通道,即完成将服务发现模块scrape模块交互。

这其中涉及三个指标:

prometheus_sd_received_updates_totalprometheus_sd_updates_delayed_totalprometheus_sd_updates_total

标签:

延伸阅读

推荐阅读

从秀场到生活场,小红书携手上海时装周时尚周末,引领时尚潮流新趋势

【携手上海时装周时尚周末,引领时尚潮流新趋势】上海时装周的影响力正在不断扩大,并成为上海这座城市和中国时尚产业链接全球的名片和代表

“康健说”公益讲座走进校园 普及心理健康知识

“康健说”公益讲座走进校园普及心理健康知识2023年09月09日14:50中国网财经

中到大雨,个别地点有暴雨!还要警惕强对流!

点击标题下「河北新闻广播」可快速关注昨晚开始,我省迎来新一场降雨。

桂林这个以辣椒命名的小山村太美了

六漫村在大多数市民看来词语“六漫”和“辣椒”毫不相关但是在龙胜各族

教师节前夕 这位老师捐髓救学生

教师节前夕这位老师捐髓救学生

王建涛:逆袭的工人院士|圳青年

02:21如果用一个词来形容王建涛的经历,那就是“逆袭”。王建涛生于197

不再是大号手环?小米新手表曝光

近期,网友爆料小米即将发布的全新智能手表,可能命名为小米Watch2Pro

股票行情快报:昊华科技(600378)9月8日主力资金净卖出650.83万元

截至2023年9月8日收盘,昊华科技(600378)报收于34 02元,下跌0 53%,换

火箭瞄准勇士旧将,格林离队进入倒计时!斯通寻找新中锋取得进展

他为火箭队搭建的阵容似乎有些过于年轻化,在今年的休赛期,他们先后和

这些汽车被曝“大量收集数据”!其中最严重的是

来源:参考消息网参考消息网9月8日报道据法新社9月6日报道,一项研究6

外交部回应美方调查华为手机芯片

9月8日,外交部发言人毛宁就美国对华为手机芯片展开调查一事回答媒体问

深圳一商贩激流中淡定卖炒饭 太不容易了!

【深圳一商贩激流中淡定卖炒饭】7日晚,受暴雨侵袭,深圳多个路段出现

就在刚刚!局势突变,国际传来六个消息

就在刚刚!局势突变,国际传来六个消息,巴西,海盗,索马里,大堡礁,珊瑚

智慧社区场景化创新助力城市美好生活“零距离”

自2014年5月住房和城乡建设部印发《智慧社区建设指南(试行)》开始,中

男人怎样通过吃来补肾,大虾、韭菜等阳性食物?

男人怎样通过吃来补肾,大虾、韭菜等阳性食物?1、第一:如果是肾阳虚

幸福蓝海9月8日快速回调

以下是幸福蓝海在北京时间9月8日13:55分盘口异动快照:9月8日,幸福蓝

沙钞!足球报:斯坦丘税后年薪200万欧+奖金条款,高于在中超收入

沙钞!足球报:斯坦丘税后年薪200万欧+奖金条款,高于在中超收入,国民,

英伦星光(关于英伦星光简述)

,你们好,今天0471房产来聊聊一篇伦星光,伦星光简述的文章,网友们对

2023年全国中小学消防安全公开课直播回放入口汇总

2023秋季全国中小学消防安全公开课9月8日15时,2023年秋季全国中小学消

安徽池州通报3起建筑施工事故,共造成3人死亡

安徽池州市应急管理局9月7日通报3起建筑施工领域事故,3起事故前后在近

responseentity下载文件(下载的Res.rdb文件可以修改么)

1、好像有的可以改。2、有的不可以;要根据文件而定;也就是说有的文件

走进沉浸式文旅新场景:拓展体验空间,挖掘消费潜力

走进沉浸式文旅新场景:拓展体验空间,挖掘消费潜力-

滁州市人民代表大会常务委员会任免人员名单

滁州市人民代表大会常务委员会任命人员名单(2023年8月30日滁州市第七

朗科科技:截至8月18日 公司股东人数约1.89万

朗科科技8月31日在投资者互动平台表示,公司看好存储行业前景,积极围

下一页下一页下一集(下一页下一页)

导读1、能吸引人的才会有下一页。本文到此讲解完毕了,希望对大家有帮

龙洞堡国际机场综合性指定监管场地通过现场验收 | 暑运黔游“热”

8月30日,贵州首个综合性指定监管场地—贵阳龙洞堡国际机场综合指定监

从张之臻到中国军团,突破永不停歇

体坛加,体坛+,艾迪,美网,张之臻,吴易昺,王欣瑜,朱琳,从张之臻到中国军

草原上的“丰收那达慕”!2023年《中国农民丰收节晚会》落地伊金霍洛旗

“庆丰收、促和美”,第六个“中国农民丰收节”将在9月23日农历秋分如

驾驶证如何期满换证?

驾驶证期满换证方式如下:根据《机动车驾驶证申领和使用规定》162号令

突发!足协做出英明决定,申花大连人成大赢家,吴金贵谢晖安心了

对此,《足球报》这样写道:“根据时间点来看,足协杯半决赛与亚运会男

猜您喜欢

Copyright ©  2015-2022 大河服装网版权所有  备案号:京ICP备2022022245号-75   联系邮箱:435 226 40@qq.com