(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111507467.1 (22)申请日 2021.12.10 (71)申请人 中信银行股份有限公司 地址 100020 北京市朝阳区光 华路10号院1 号楼6-30层、 32-42层 (72)发明人 马凯璇　 (74)专利代理 机构 北京市兰台律师事务所 11354 代理人 操飞越　张峰 (51)Int.Cl. G06Q 10/04(2012.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 一种基于双阶段注意力机制的网站访问量 预测方法及系统 (57)摘要 本申请公开了一种基于双阶段注意力机制 的网站访问量预测方法及系统， 涉及时间序列预 测领域， 所述方法包括： 获得网站访问量的原始 时间序列数据； 对原始时间序列数据进行预处 理， 并生成训练集数据、 验证集数据和测试集数 据； 构建基于双阶段注意力机制的网站访问量预 测模型； 对训练集数据进行训练， 基于验证集数 据设置超参数， 获得训练完成的双阶段注意力机 制预测模型； 将测试集数据输入至所述双阶段注 意力机制预测模型进行训练， 获得第二训练结 果， 第二训练结果包括对所述原始时间序列数据 的网站访问量预测结果。 解决了现有技术中存在 的传统时间序列预测方法难以捕获网站访问量 历史信息的长期依赖性的输入特 征的技术问题。 权利要求书2页 说明书10页 附图3页 CN 114239949 A 2022.03.25 CN 114239949 A 1.一种基于双阶段注意力机制的网站访问量预测方法， 其中， 所述方法应用于一种基 于双阶段注意力机制的网站访问量预测系统， 所述方法包括： 获得网站访问量的原 始时间序列数据； 对所述原始时间序列数据进行预处理， 且进行比例划分， 生成训练集数据、 验证集数据 和测试集数据； 构建基于双阶段注意力机制的网站访问量预测模型； 将所述训练集数据输入至所述网站访问量预测模型进行训练， 基于所述验证集数据设 置超参数， 获得第一训练结果， 所述第一训练结果包括训练完成的双阶段注意力机制预测 模型； 将所述测试集数据输入至所述双阶段注意力 机制预测模型进行训练， 获得第 二训练结 果， 所述第二训练结果包括对所述原 始时间序列数据的网站访问量预测结果。 2.如权利要求1所述的方法， 其中， 所述对所述原 始时间序列数据进行 预处理， 包括： 基于均值补差法， 对所述原 始时间序列数据中的缺失值进行填充； 对所述填充后的数据集进行最小 ‑最大归一化处理， 生成所述原始时间序列数据的预 处理数据集。 3.如权利要求1所述的方法， 其中， 所述进行比例划分， 包括： 基于第一预设比例值， 对所述预处 理数据集进行比例划分， 生成所述训练集数据； 基于第二预设比例值， 对所述预处 理数据集进行比例划分， 生成所述验证集数据； 基于第三预设比例值， 对所述预处 理数据集进行比例划分， 生成所述测试集数据。 4.如权利要求1所述的方法， 其中， 所述第 一训练结果包括训练完成的双阶段注意力 机 制预测模型， 包括： 基于第一 LSTM网络作为映射 函数， 构建输入序列Xt到编码器隐藏层状态ht的映射关系； 根据所述映射关系， 计算第k个驱动序列的Xk的权重， 生成第一计算结果； 对所述第一计算结果进行归一 化处理。 5.如权利要求 4所述的方法， 其中， 所述对所述第一计算结果进行归一 化处理， 包括： 根据公式： 对所述 第一计算结果进行归一 化处理； 其中， 为待学习的参数。 6.如权利要求5所述的方法， 其中， 所述方法包括： 基于第二 LSTM网络， 进行解码器解码， 获得目标序列输出 7.一种基于双阶段注意力机制的网站访问量预测系统， 其中， 所述系统包括： 第一获得第单 元： 所述第一获得 单元用于获得网站访问量的原 始时间序列数据； 第一生成单元： 所述第一生成单元用于对所述原始时间序列数据进行预处理， 且进行 比例划分， 生成训练集数据、 验证集数据和 测试集数据； 第一构建单元： 所述第 一构建单元用于构建基于双阶段注意力 机制的网站访问量预测 模型； 第一输入单元： 所述第 一输入单元用于将所述训练集数据输入至所述网站访问量预测权　利　要　求　书 1/2 页 2 CN 114239949 A 2模型进行训练， 基于所述验证集数据设置超参数， 获得第一训练结果， 所述第一训练结果包 括训练完成的双阶段注意力机制预测模型； 第二输入单元： 所述第 二输入单元用于将所述测试集数据输入至所述双阶段注意力 机 制预测模型进行训练， 获得第二训练结果， 所述第二训练结果包括对所述原始 时间序列数 据的网站访问量预测结果。 8.一种基于双阶段注意力机制的网站访问量预测系统， 包括存储器、 处理器及存储在 存储器上并可在处理器上运行 的计算机程序， 其中， 所述处理器执行所述程序时实现权利 要求1‑6任一项所述方法的步骤。权　利　要　求　书 2/2 页 3 CN 114239949 A 3