(19)国家知识产权局 (12)发明 专利 (10)授权公告 号 (45)授权公告日 (21)申请 号 202211126215.9 (22)申请日 2022.09.16 (65)同一申请的已公布的文献号 申请公布号 CN 115204535 A (43)申请公布日 2022.10.18 (73)专利权人 湖北信通 通信有限公司 地址 430000 湖北省武汉市江岸区惠济路 10号 (72)发明人 卢华　陈晶　陈挚　 (74)专利代理 机构 武汉科皓知识产权代理事务 所(特殊普通 合伙) 42222 专利代理师 肖明洲 (51)Int.Cl. G06Q 10/04(2012.01) G06Q 10/08(2012.01)G06Q 10/06(2012.01) G06F 16/2458(2019.01) G06N 3/04(2006.01) G06N 3/08(2006.01) 审查员 陈敏 (54)发明名称 基于动态多元时间序列的采购业务量预测 方法及电子设备 (57)摘要 本发明公开了一种基于动态多元时间序列 的采购业务量预测方法及电子设备， 采用包括时 间卷积模块， 多阶段注意力模块， 自回归模块的 机器人流程自动化数据采集网络。 本发明解决了 采购业务量预测中人工提取特征不全面的问题， 提出的时间卷积模块提取静态时间序列的非线 性特征。 本发 明解决了采购业务量预测进行长周 期时间序列预测时， 由于时间间隔过长而导致的 梯度消失和梯度爆炸问题， 提出的多阶段注意力 模块自适应地选择重要的特征来建模长时间间 隔的状态之间的依赖关系。 本发 明解决了非线性 模块无法处理采购业务量预测 中的动态时间序 列的预测问题， 提出的自回归模块处理周期不固 定的动态时间序列。 权利要求书4页 说明书8页 附图4页 CN 115204535 B 2022.12.06 CN 115204535 B 1.一种基于动态多元时间序列的采购业务量预测方法， 其特征在于： 将通过机器人流 程自动化数据采集网络获得的数据， 输入到机器人流程自动化采购业务量预测网络中， 进 行采购业 务量预测； 所述机器人流程自动化数据采集网络， 按照关键词表提取业务采购量所需指标数据， 将 数 据 按 照 时 间 进 行 整 理 ， 得 到 N 个 指 标 的 时 间 序 列 数 据 作 为 外 部 序 列 ， 其中N表示指标的个数， T为外部序列的长度； 每个指标 分别为一个变量， 第 n个指标的时间序列数据即为第 n个单变量时间序列数据 为第n个指标的时间序列数据； 所有指标的 时间序列数据组成动态多元时间序列数据作为所述机器人流程自动化采购业务量预测网 络的输入变量X； 所述机器人流程自动化采购业务量预测网络， 包括 时间卷积模块， 多阶段注意力模块、 全连接层和自回归 模块； 所述时间卷积模块， 由K个卷积核， 每个卷积核大小为F ×M， 其中F为卷积核的宽度， M为 卷积核的深度， 将除采购业务量指标的其他N个静态指标 的时间序列数据作为输入外部序 列X输入卷积核后， 最终得到大小为P ×K的输出特征序列 H， 其中P为 的维度， 也为单变量 时间序列的长度； 所述多阶段注意力模块， 包括顺序连接的第一阶段注意力层、 第二阶段注意力层和时 间注意力 层； 所述输出特征序列H经过所述第一阶段注意力 层， 自适应选择外部序列进行学 习， 并通过所述第二阶段注意力层将第一阶段注 意力层的输出外部序列与对应时间的目标 序列连接， 最后通过所述时间注意力 层将前两层中的隐藏状态相结合学习到更长时间依赖 的特征， 输出 ； 所述自回归 模块， 将动态多元时间序列数据作为输入向量X， 输出 ； ； 其中， 为超参数， 为可学习的权重向量， X为输入向量， U为 输入权重矩阵，b为偏置向量， 为t时刻的噪声， 为方差， 与时间无关； 所述机器人流程自动化数据采集网络， 最终输出最小化采购业务量的预测值 。 2.根据权利要求1所述的基于动态多元时间序列的采购业务量预测方法， 其特征在于： 所述时间卷积模块中， 将输入变量X依次输入K个卷积核， 将X输入到第 k个卷积核得到的输 出变量 ， 其中Wk为第k个卷积核的权重参数， *代表卷积运 算， RELU为非线性激活函数， RELU函数定义 为 ；bk为偏置向量。权　利　要　求　书 1/4 页 2 CN 115204535 B 23.根据权利要求1所述的基于动态多元时间序列的采购业务量预测方法， 其特征在于： 所述第一阶段注意力层， 将上一步的输出特征序列H作为本步骤的输入序列X， 不考虑目标 序列y， 根据长短期记忆网络LSTMt ‑1时刻的记忆单元状态St‑1以及t‑1时刻的隐藏层状态 ht‑1构造第k个输入序列Xk在t时刻的注意力值 ： ； 其中， 是需要学习的参数， 为状 态权重矩阵， u为隐藏层状态ht‑1的维度， 即长短期记忆网络LSTM的隐藏层节点数， Um为输入 权重矩阵 ， bm为偏置向量 ， 为非线性激活函数 ， Xk为第k个输入序列 ， ； 根据t时刻的输入注意 计算注意力权重 ， 计算第一阶段注意 力输出 ； 和t时刻时的 隐藏状态 ， 其中 为用作编码器的长短期记 忆网络LSTM 。 4.根据权利要求3所述的基于动态多元时间序列的采购业务量预测方法， 其特征在于： 所述第二阶段注意力层， 构造第二注意力阶段在 t时刻的输入序列， 第 k个输入序列 ， 其中为y目标序列， 表示矩阵的纵向连接； 计算所述第二阶段注意力层的中间状态 ： ； 其中 是需要学习的参数； 为状态 权重矩阵， u为隐藏层状态ht‑1的维度， 即长短期记忆网络LSTM的隐藏层节点数， Us为输入权 重矩阵，bs为偏置向量， tanh  ()为非线性激活函数； 根据所述中间状态 计算第二阶段权 重 ： ； 根据输入注意力 和权重 ， 计算第二阶段注意力层输出 ： ； 其中 为超参数， 为第二阶段注意力权 重， 为第二阶段输入序 列。权　利　要　求　书 2/4 页 3 CN 115204535 B 3