在审

智能计算中心基于算力的推理任务监控告警方法及装置

周战江、刘鑫洋、王清臣
北京九章云极科技股份有限公司
周战江机构 暂无
技术领域 暂无
刘鑫洋机构 暂无
技术领域 暂无
王清臣机构 暂无
技术领域 暂无

摘要

本发明提供一种智能计算中心基于算力的推理任务监控告警方法及装置,涉及算力基础设施技术领域,该方法包括:获取目标推理任务的任务类型信息;根据所述目标推理任务的任务类型信息,确定所述目标推理任务的监控指标和告警触发条件;基于所述监控指标监测所述目标推理任务在运行过程中产生的指标数据;在所述指标数据满足所述告警触发条件的情况下,基于预设信息模板向用户端发送告警信息。这样,通过对目标推理任务的类型识别、监控指标和告警条件设定、实时监测以及及时告警,形成了一个完整的智能计算中心基于算力的推理任务监控和管理体系,能够有效保障目标推理任务的稳定、高效运行。

暂无引用专利