使用云监控实现GPU云服务器的GPU监控和报警(下)

  • 时间:
  • 浏览:1
  • 来源:大发快3官方网址—大发快3APP下载

gpu_memory_freespace

dimensions

上一篇文章大伙介绍了怎么使用阿里云云监控服务提供的自定义监控功能,利用自定义监控提供的API将会SDK,通过自定义脚本可以 将GPU云主机内整理的GPU数据上报,在云监控控制台加上上相应的GPU监控项,就可以 实现对指定GPU实例内指定GPU的相应数据进行监控,对相应监控项设置相应数据的报警规则,就能实现监控数据的自动报警。

Bytes

TopN表格形式同样能非常方便的查看各个实例的GPU利用率和编码器/解码器利用率以及显存使用情況,从而判断业务运行算不算正常,以及判断资源利用算不算充分。

  分组维度GPU温度

instance_gpu_gpu_usedutilization

%

instanceId,gpuId

可以 在云监控控制台Dashboard中创建自定义GPU监控大盘,以多种图表类型大盘展示分别分组、实例、GPU维度的各个GPU指标。

instanceId,gpuId

group_gpu_decoder_utilization

GPU维度显存总量

instance_gpu_power_readings_power_draw

groupId

MetricName

本文将会删改介绍怎么通过安装云监控插件来实现更全面、更易用的GPU云监控和报警。

%

下图是以TopN表格形式展示实例维度GPU温度的最大值,并以倒序妙招展示,可以 一目了然的查看用户账号下所有GPU实例的实时温度情況,并取舍GPU温度最高的实例。

instanceId

%

instanceId

instance_gpu_memory_freespace

Bytes

instanceId,gpuId

Bytes

instanceId

group_gpu_encoder_utilization

groupId

gpu_encoder_utilization

gpu_gpu_temperature

dimensions

%

W

instanceId

实例维度GPU显存空闲率

instanceId

参数说明:Project=acs_ecs_dashboard,Metric及Dimensions参考上述监控项表格中的GPU指标。

下图是以TopN表格形式展示实例维度GPU功率的平均,并以倒序妙招展示,可以 一目了然的查看用户账号下所有GPU实例的实时功率情況,并取舍GPU功率最高的实例。

instance_gpu_encoder_utilization

gpu_memory_freeutilization

instanceId

group_gpu_memory_usedutilization

使用云监控实现GPU云服务器的GPU监控和报警(上) - 自定义监控

实例维度指标对单个ECS实例上的多个GPU监控数据做最大值、最小值、平均值的聚合。便于查看实例层面的整体使用情況。

分组维度GPU显存空闲量

GPU维度GPU功率

instanceId,gpuId

instanceId,gpuId

GPU维度解码器使用率

℃ 

dimensions

名称

分组维度指标对单个应用分组里的多个ECS 实例的监控数据做最大值、最小值、平均值的聚合。便于查看集群层面的整体使用情況。

instanceId,gpuId

group_gpu_power_readings_power_draw

group_gpu_memory_usedspace

实例维度GPU功率

W

instance_gpu_memory_freeutilization

实例维度GPU编码器使用率

%

%

实例维度GPU显存使用量

目前可以 了GPU计算型实例支持GPU云监控,实例前要要安装GPU驱动和云监控插件的1.2.28以上版本,即可在主机监控查看GPU相关监控数据、配置报警规则,或在Dashboard中配置监控图表。

使用云监控实现GPU云服务器的GPU监控和报警(下)- 云监控插件监控

%

instanceId

gpu_memory_usedspace

GPU维度GPU使用率

分组维度GPU显存使用率

groupId

instanceId,gpuId

Bytes

instance_gpu_memory_totalspace

instanceId

分组维度GPU编码器使用率

instance_gpu_decoder_utilization

下图是以折线图形式展示特定分组的分组维度GPU温度的平均值,可以 一目了然的查看指定分组相关实例的GPU温度波动情況。

instanceId

groupId

%

gpu_memory_useutilization

Bytes

分组维度GPU功率

MetricName

单位

%

不需要 否在云监控控制台主机监控每项一键点击安装最新的云监控插件,并查看云监控插件的版本,如下图:

groupId

Bytes

GPU维度显存空闲率

单位

名称

groupId

推荐通过创建模板后将模板应用于分组的妙招批量加上GPU报警。查看报警模板最佳实践。

GPU维度编码器使用率

gpu_power_readings_power_draw

group_gpu_memory_freeutilization

分组维度GPU解码器使用率

%

         通过使用阿里云提供的云监控插件,可以 一键安装就实现GPU指标的整理和上报,同时展示维度上可以 与目前的ECS一样获得更多维度的展示,比如Dashborad监控大盘,可以 监控集群级别的GPU指标,主机监控则可以 在另一另另一个多页面显示该实例所有GPU的所有监控指标。

group_gpu_gpu_temperature

group_gpu_memory_totalspace

实例维度GPU使用率

gpu_gpu_usedutilization

GPU维度GPU温度

可以 使用OpenAPI来查询GPU监控数据。参考文档:https://help.aliyun.com/document_detail/51936.html

分组维度GPU显存空闲率

gpu_decoder_utilization

instanceId

GPU维度显存使用量

         有时候 自定义监控的整理脚本前要用户自己实现,有时候 云监控控制台上自定义监控的展示维度也很有限,可以 了查看指定VM指定GPU的某个数据。

groupId

instanceId,gpuId

instance_gpu_memory_usedutilization

实例维度GPU显存空闲量

%

Bytes

GPU维度的指标,整理每个GPU层面的监控数据。

groupId

云监控插件从1.2.28版本结束了支持GPU数据的整理。云监控Agent(即云监控插件)的安装可以 参考云监控官方使用文档:云监控Agent安装。同时支持Linux和Window操作系统。

GPU维度显存空闲量

gpu_memory_totalspace

group_gpu_gpu_usedutilization

%

groupId

instanceId,gpuId

实例维度GPU解码器使用率

实例维度GPU温度

名称

groupId

W

新增的GPU监控项加上报警规则妙招同ECS的一些指标一样,可以 针对某一特定指标设置报警规则,如下图:

实例维度GPU显存使用率

在云监控控制台中进入主机监控,进入前要查看监控数据的实例,点击GPU监控标签页,就可以 就看该实例所有GPU的GPU使用率、编码器/解码器使用率、显存使用量、GPU功率、GPU温度等监控数据。

GPU维度显存使用率

Bytes

下图是以折线图形式展示特定分组的实例维度GPU显存使用量的平均值,可以 一目了然的查看相关实例的显存使用量波动情況。

分组维度GPU显存总量

%

instance_gpu_memory_usedspace

group_gpu_memory_freespace

分组维度GPU使用率

分组维度GPU显存使用量

实例维度GPU显存总量

instance_gpu_gpu_temperature

%

GPU相关监控指标提供四个维度的数据

Bytes

℃ 

instanceId,gpuId

%

单位

MetricName