(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211352910.7 (22)申请日 2022.11.01 (71)申请人 之江实验室 地址 311100 浙江省杭州市余杭区中泰街 道之江实验室南湖总部 (72)发明人 刘通　郏维强　陈志伟　马树楷　 (74)专利代理 机构 杭州浙科专利事务所(普通 合伙) 33213 专利代理师 孙孟辉 (51)Int.Cl. G06Q 10/00(2012.01) G06Q 10/04(2012.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 一种基于多专家混合网络的多任务预测性 维护方法 (57)摘要 本发明公开一种基于多专家混合网络的多 任务预测性维护方法， 包括： 步骤S1： 将设备的传 感器数据处理成传感器特征张量， 输入多专家网 络模块， 计算得到相应的专家子网络张量； 步骤 S2： 将传感器特征张量输入多任务门控网络， 得 到多任务门控网络输出向量； 步骤S3： 对于每个 任务， 结合对应多任务门控网络输出向量， 对多 专家网络模块中各个专家子网络的输出作加权 求和， 计算得到每个任务的编码器张量； 步骤S4： 将计算得到的编码器张量输入任务相关的解码 器网络， 再通过多个任务联合优化， 同时计算并 输出预测性维护场景各个子任务的目标值。 本发 明解决了错误传递问题， 可 以缓解跷跷板效应， 减小预测性维护任务的计算成本， 提升预测效 率。 权利要求书3页 说明书7页 附图3页 CN 115409217 A 2022.11.29 CN 115409217 A 1.一种基于多专 家混合网络的多任务预测性维护方法， 其特 征在于， 包括以下步骤： 步骤S1： 将工业设备的传感器数据处理成传感器特征张量， 输入多专家网络模块， 通过 多专家网络模块的每 个专家子网络， 计算得到相应的专 家子网络张量； 步骤S2： 将传感器特征张量输入多任务门控网络， 使用多任务门控网络中的门控单元 计算专家子网络各个专 家的权重， 得到多任务门控网络 输出向量； 步骤S3： 对于每个任务， 结合对应的多任务门控 网络输出向量， 对多专家网络模块中各 个专家子网络的输出作加权求和， 计算得到每 个任务的编码器张量； 步骤S4： 将计算得到的每个任务的编码器张量输入任务相关的解码器网络， 计算得到 输出结果， 再通过多个任务联合优化， 同时计算并输出预测性维护场景各个子任务的目标 值。 2.如权利要求1所述的一种基于多专家混合网络的多任务预测性维护方法， 其特征在 于， 所述步骤S1具体包括以下子步骤： 步骤S11： 利用预处理神经网络模块， 将输入的传感器数据转化为传感器特征张量 ， 其中 是传感器数据时间窗口大小， 为传感器特 征张量的隐藏层维度； 步骤S12： 将传感器特征张量 作为多专家网络模块的输入， 通过所述专多家网络模 块中的 个专家子网络， 计算得到 个维度一致的专家子网络张量  { ,  ,  , ...,  }， 其中第 个专家子网络的输出向量 ， 、 分别为专家子 网络输出隐藏层 的维度。 3.如权利要求2所述的一种基于多专家混合网络的多任务预测性维护方法， 其特征在 于， 所述传感器数据是一个2D时间序列矩 阵： 其中每 列是一个时间步上的数据， 为传感器数量， 对于每 个时间步： 中每行是单个传感器在时间窗口内采集到的数据， 为第 个传感器在时刻 的读 数； 对于传感器 ， 在所选时间窗口内的时间序列为： 。 4.如权利要求3所述的一种基于多专家混合网络的多任务预测性维护方法， 其特征在 于， 所述预处理神经网络模块采用单层的LSTM网络， 传感器数据 输入到LSTM网络， 计算得 到传感器特 征张量为 ， 其中 是LSTM网络层输出张量隐藏层的维度。 5.如权利要求2所述的一种基于多专家混合网络的多任务预测性维护方法， 其特征在 于， 所述多专家网络模块采用 个结构相同但相互独立的双层LSTM网络， 对于第 个专家子 网络， 输出为：权　利　要　求　书 1/3 页 2 CN 115409217 A 2其中， 、 分别为专 家子网络隐层维度， 整个多专 家网络模块的输出为： 。 6.如权利要求5所述的一种基于多专家混合网络的多任务预测性维护方法， 其特征在 于， 所述步骤S2具体为： 将传感器特征张量 输入多任务门控网络， 对于每个任务 ， 有相 对独立的门控单元 ， 其中每个门控单元由两层全 连接层组成， 第一层使用ReLU非线 性 单元激活， 第二层 使用Softmax函数激活， 对于第 个任务， 相应的多任务门控网络中的门控 单元输出向量 为： 其中， 、 分别为第 个任务的门控单元中， 第一层与第 二 层的网络参数矩阵； 、 为相应的偏置项； 此处 为门控网络的 隐藏单元大小， 为专家子网络的数量。 7.如权利要求6所述的一种基于多专家混合网络的多任务预测性维护方法， 其特征在 于， 所述步骤S3具体为： 通过多任务门控网络对多专家网络模块的输出作混合， 对于第 个 任务， 计算得到相应的混合专 家网络模块的编码器张量： 。 8. 如权利要求7所述的一种基于多专家混合网络的多任务预测性维护方法， 其特征在 于， 所述步骤S4具体为： 将混合专家网络模块的编码器张量输入到相应的任务解码器网络 中， 计算得到相应的输出 ， 通过多任务预测性维护模型同时计算并输出 个任务的结果{ ,  , ...,  }。 9.如权利要求8所述的一种基于多专家混合网络的多任务预测性维护方法， 其特征在 于， 所述 个任务中， 当任务 为二分类任务， 其对应的解码器结构由三层全连接网络构 成， 前两层的激活函数为ReLU， 最后一层为输出层， 激活函数为Sigmoid函数， 将结果映射到 0、 1两种值， 表达式如下： 其中， 分别为任务 解码器中三个全连接层相应的权 重； 当任务 为回归任务， 其对应的解码器结构由三层全连接网络构成， 前两层的激活函权　利　要　求　书 2/3 页 3 CN 115409217 A 3