(19)中华 人民共和国 国家知识产权局 (12)发明 专利 (10)授权公告 号 (45)授权公告日 (21)申请 号 202111653883.2 (22)申请日 2021.12.31 (65)同一申请的已公布的文献号 申请公布号 CN 114004352 A (43)申请公布日 2022.02.01 (73)专利权人 杭州雄迈集成电路技 术股份有限 公司 地址 311400 浙江省杭州市富阳区银湖街 道富闲路9号银湖创新中心 9号楼四层 (72)发明人 朱旭东　吴春选　 (74)专利代理 机构 杭州裕阳联合专利代理有限 公司 33289 代理人 张解翠 (51)Int.Cl. G06N 3/063(2006.01)G06N 3/04(2006.01) G06K 9/62(2022.01) (56)对比文件 CN 111401550 A,2020.07.10 CN 1091020 64 A,2018.12.28 审查员 赵会玲 (54)发明名称 一种仿真实现方法、 神经网络编译器以及计 算机可读存 储介质 (57)摘要 本申请公开了一种仿真实现方法、 神经网络 编译器以及计算机可读存储介质， 涉及深度学习 技术领域， 其中， 仿真实现方法包括以下步骤： 量 化集图片通过神经网络编译器对神经网络模型 进行量化生成可执行文件， 万人测试集通过神经 网络编译器生成第一输入数据、 第一定点特征文 件和浮点特征文件， 若精度表格的统计结果符合 预设的精度范围， 则读取可执行文件和第一输入 数据进行神经网络模型的仿真。 有益效果在于实 现多个不同类型的神经网络模型的批量仿真， 确 保移植到芯片或FPGA的正确性， 针对不同类型的 神经网络模 型逐层进行仿真， 覆盖了更多的仿真 验证点， 防止芯片流片 的风险， 同时用于统计神 经网络模型的精度表格进行了全面的精度验证 。 权利要求书3页 说明书9页 附图1页 CN 114004352 B 2022.04.26 CN 114004352 B 1.一种仿真实现方法， 其特 征在于， 包括以下步骤： 构建神经网络编译器， 用于接收量化集图片、 多个不同类型的神经网络模型以及万人 测试集， 所述神经网络编译器进行精度验证后， 对所述神经网络模型 逐层进行仿真； 所述量化集图片通过所述神经网络编译器对所述神经网络模型进行量化生成可执行 文件， 所述万人测试集通过所述神经网络编译器生成第一输入数据、 第一定点特征文件和 浮点特征文件； 对比所述第 一定点特征文件和所述浮点特征文件， 输出用于统计所述神经网络模型的 精度表格； 若所述精度表格的统计结果符合预设的精度 范围， 则读取所述可执行文件和所述第 一 输入数据进行 所述神经网络模型的仿真； 其中， 量化集图片为不同类型的神经网络模型以及不同场景下采集的图片， 万人测试 集为图片集 合。 2.如权利要求1所述的一种仿真实现方法， 其特 征在于， 还 包括步骤： 搭建所述神经网络编译器的环境， 安装所述神经网络编译器， 测试所述神经网络编译 器是否安装成功； 其中， 所述神经网络编译器的搭建环境设置为与仿真系统相同的操作系统。 3.如权利要求1所述的一种仿真实现方法， 其特征在于， 所述量化集图片通过所述神经 网络编译器对所述神经网络模型进行量 化生成可执行文件， 具体包括以下步骤： 准备不同类型的神经网络模型以及不同场景 下的量化集图片； 运行所述神经网络编译器， 根据所述量化集图片对所述神经网络模型进行量化生成所 述可执行文件； 其中， 所述可执行文件包括神经网络名标识、 输入层的层标识、 中间层的层标识、 输出 层的层标识、 量化后的权重值、 量化后的偏移 值、 层操作名、 层参数信息、 层关联信息和层内 存信息。 4.如权利要求1所述的一种仿真实现方法， 其特 征在于， 还 包括步骤： 预设所述神经网络模型的数量， 设置初始的循环次数为0， 判断循环次数是否符合预设 的所述神经网络模型的数量； 若循环次数不符合预设的所述神经网络模型的数量， 则所述量化集图片通过所述神经 网络编译器对所述神经网络模型进行量化生成所述可执行文件， 所述万人测试集通过所述 神经网络编译器生成所述第一输入数据、 所述第一定点特 征文件和所述 浮点特征文件； 若循环次数符合预设的所述神经网络模型的数量， 则结束流 程。 5.如权利要求1所述的一种仿真实现方法， 其特征在于， 所述万人测试集通过所述神经 网络编译器生成第一输入数据、 第一定点特 征文件和浮 点特征文件， 具体包括以下步骤： 根据不同的所述神经网络模型准备不同的万人测试集； 所述万人测试集通过缩放函数生成网络分辨率大小的第 一输入数据， 对所述万人测试 集进行仿真生成第一定点特 征文件和浮 点特征文件。 6.如权利要求1所述的一种仿真实现方法， 其特征在于， 对比所述第 一定点特征文件和 所述浮点特征文件， 输出用于统计所述神经网络模型的精度表格， 具体包括以下步骤： 所述浮点特征文件包含第 一浮点特征数据， 将所述第 一定点特征文件中的定点特征数权　利　要　求　书 1/3 页 2 CN 114004352 B 2据转成换浮 点特征数据， 生成第二 浮点特征数据； 对比所述第 一浮点特征数据和所述第 二浮点特征数据的相似度， 若相似度在预设的变 量内， 则满足精度需求； 若相似度不在预设的变量内， 则不满足精度需求； 将所述第一浮点特征数据和所述第二浮点特征数据的相似度统计结果以表格的形式 输出。 7.如权利要求1所述的一种仿真实现方法， 其特征在于， 若所述精度表格的统计结果符 合预设的精度范围， 则读取所述可执行文件和所述第一输入数据进行所述神经网络模型的 仿真， 具体包括以下步骤： 对所述精度表格进行计数， 计数的统计结果需符合预设的精度范围； 读取所述可执行文件， 根据 所述可执行文件对硬件进行配置， 读取所述第 一输入数据， 根据所述第一输入数据启动对所述神经网络模型的仿真， 生成第二定点特 征文件； 对比所述第一定点特征文件和所述第二定点特征文件， 若不相同， 则保存所述第二定 点特征文件中的错 误数据。 8.如权利要求1所述的一种仿真实现方法， 其特 征在于， 还 包括步骤： 建立第一文件夹， 在第一文件夹下自动生成第一主文件夹， 所述第一主文件夹用于存 放所述可 执行文件； 在第一文件夹下自动生成第 一副文件夹， 所述第 一副文件夹用于存放所述第 一定点特 征文件； 在第一文件夹下自动生成输入数据文件夹， 所述输入数据文件夹用于存放所述第 一输 入数据。 9.如权利要求3所述的一种仿真实现方法， 其特征在于， 准备不同类型的神经网络模型 和量化集图片， 具体包括以下步骤： 建立第二文件夹， 在第二文件夹下生成第二主文件夹， 所述第二主文件夹用于存放所 述不同类型的神经网络模型、 所述 量化集图片和所述 浮点特征文件。 10.如权利要求5所述的一种仿真实现方法， 其特征在于， 根据不同的所述神经网络模 型准备不同的万人测试集， 具体包括以下步骤： 建立第二文件夹， 在所述第二文件夹下生成第二主文件夹， 在所述第二主文件夹下建 立第二副文件夹， 所述第二副文件夹用于存放所述 万人测试集。 11.一种神经网络编译器， 其特征在于， 应用于如权利要求1所述的仿真实现方法， 包 括： 依次连接的网络解析模组、 网络量化模组、 网络合并模组、 网络存储模组和网络前向执 行模组； 网络解析模组， 用于接收量化集图片、 多个不同类型的神经网络模型以及万人测试集， 逐层解析并重构神经网络模型 的结构， 至少获取所述神经网络模型 的输入层、 输出层以及 中间层的层操作名、 层参数信息和层关联信息中的一种； 网络量化模组， 用于根据重构后的神经网络模型的结构生成偏移值、 转换值以及将浮 点型的权 重值转化为定点型的权 重值； 网络合并模组， 用于合并所述神经网络模型中卷积层、 池化层和激活层的流水操作指 令； 网络存储模组， 用于将所述网络解析模组、 所述网络量化模组和所述网络合并模组中权　利　要　求　书 2/3 页 3 CN 114004352 B 3