(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111662213.7 (22)申请日 2021.12.31 (71)申请人 厦门大学 地址 361005 福建省厦门市思明南路42 2号 (72)发明人 朱锦锋　熊健凯　高源　 (74)专利代理 机构 北京中济纬天专利代理有限 公司 11429 代理人 张娟娟 (51)Int.Cl. G16C 60/00(2019.01) G16C 10/00(2019.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 一种基于Tran sformer的电磁超材料复杂光 谱高精度预测方法 (57)摘要 本发明公开了一种基于Tran sformer的电磁 超材料复杂光谱高精度预测方法， 预测方法的构 建基于Transformer神经网络模型， 利用严格耦 合波分析法RCWA在给定的电磁超材料物理模型 结构参数范围内随机组合计算得到样本数据， 将 样本数据按4： 1分为训练集和验证集， 用于神经 网 络 模 型的 训练 和验 证 ， 输 入 训练 集 至 Transformer神经网络模型进行训练， 验证集用 于验证神经网络模型性能。 能根据输入的电磁超 材料结构参数准确快速的预测光学响应， 克服传 统数值模拟方法求解麦克斯韦方程组复杂耗时 的缺点， 可以做到对光谱实时准确预测， 降低时 间和硬件成本。 能极大加快电磁超材料设计周 期， 易于推广其它电磁超材 料模型中。 权利要求书1页 说明书5页 附图3页 CN 114334041 A 2022.04.12 CN 114334041 A 1.一种基于Transformer的电磁超材料复杂光谱高精度预测方法， 其特征在于， 所述预 测方法的构建基于Transformer神经网络模型， 利用严格耦合波分析法RCWA在给定的电磁 超材料物理模型结构参数范围内随机组合计算得到样本数据， 将样本数据按照4： 1分为训 练集和验证集， 用于神经网络模 型的训练和验证， 输入训练集至Transformer神经网络模 型 进行训练， 验证集用于验证神经网络模 型性能， 根据训练完成的Transformer神经网络模 型 预测得到电磁超材 料结构参数对应的光学响应。 2.根据权利要求1所述的一种基于Transformer的电磁超材料复杂光谱高精度预测方 法， 其特征在于， 使用严格耦合波分析法RCWA在给定的层状金属/电介质结构参数范围内随 机组合计算得到对应的反射率， 用于Transformer神经网络模型的训练与验证， 使 Transformer神经网络模型能得到层状金属/电介质结构参数与反射率之间复杂的非线性 映射关系。 3.根据权利要求2所述的一种基于Transformer的电磁超材料复杂光谱高精度预测方 法， 其特征在于， 所述的层状金属/电介质结构由多层垂直周期性交替金属/电介质层状纳 米结构单元构成， 几何形状是长方形、 椭圆形、 三角形几何图案中的任意一种， 每个单元中 的左右柱子宽度分别为w 1和w2， 基底的金属层厚度为h， 所述金属为氧化铝、 二氧化硅、 氟化 镁、 锗、 金、 银、 铝、 或钛中的任一种或多种复合， 所述电介质层 的材质为二氧化硅、 一氧化 硅、 氟化镁、 氧化铝中的任意 一种材料。 4.根据权利要求2所述的一种基于Transformer的电磁超材料复杂光谱高精度预测方 法， 其特征在于， 所述Transformer神经网络模型包括依次设置的输入层、 位置编码层、 8个 串联Transformer编码器、 非线性层、 输出层； 输入层作用为矩阵维度变化， 输入 的10个结构参数分别通过10个长度为512的全连接 层， 输入数据的矩阵维度由64 ×10变为64 ×10×512； 位置编码层由维度为1 ×10×512的可学习矩阵构成， 与每个输入矩阵相加， 为输入数 据添加位置信息； Transformer编码器包括多头注意力机制模块、 残差连接、 归一化层、 Dropout随机丢弃 层、 前向反馈层； 多头注意力机制模块的输出表达式为： 其中Q、 K、 V为三个可学习矩阵Wiq、 Wik、 Wiv分别与位置编码层的输出相乘得到， Wq、 Wk、 Wv 均为一个整体 的标识符号， i表示多头注意力机制中第 几个头； dk表示一个整体 的标识符， 代表一个缩放因子； q、 k、 v不是一个单独的参量， 分别与Wq、 Wk、 Wv组成符号； 非线性层由一个 长度为1024的全连接层和一个ReLU激活函数构建； 输出层由一个长度为100的全连接层构 建， 将输出 数据变为与光谱 采样点大小一 致的矩阵。权　利　要　求　书 1/1 页 2 CN 114334041 A 2一种基于 Transformer的电磁超材料复杂光谱 高精度预测 方法 技术领域 [0001]本发明涉及电磁超材料与人工智能技术领域， 具体为一种基于Transformer的电 磁超材料复杂光谱高精度预测方法。 背景技术 [0002]电磁超材料超是具有微结构的人造复合材料， 它们具有天然材料所不具备的非凡 物理特性， 能够在纳米尺度实现对电磁波相位、 振幅和偏振灵活有效的调控。 基于电磁超材 料的器件具备体积小、 灵敏度高、 灵活度高等优势， 广泛应用于传感、 检测、 能量存储和热辐 射等。 [0003]电磁超材料器件尺寸在纳米级别， 其制 备依赖精密的加工手段， 需要在加工前对 光学响应进行精确模拟以优化器件结构。 时域有限差分法(FDTD)或者有限元法(FEM)是两 种模拟电磁超材料光学响应的通用数值计算方法。 这些方法往往需要较大的计算时间成本 和硬件成本， 且随着器件结构复杂度增 加， 计算过程将变得越来越困难。 [0004]随着机器学习的发展， 深度学习在语音识别、 图像识别、 自然语言处理等领域已经 展现出其强大的能力， 深度学习是一种数据驱动算法， 通过大量数据的训练， 可以表示数据 之间复杂的非线性关系， 与数值计算方法相比可以在毫秒级时间内给出计算结果， 且计算 时间成本和硬件不随器件结构复杂度增 加而增加。 [0005]深度学习辅助电磁超材料设计引起了不少研究者关注， 并且已经成功被应用于电 磁学多个领域。 目前基于深度学习的电磁超材料设计方案主要有两类网络： 1.根据电磁超 材料结构参数预测光学响应， 即正向网络； 2.根据目标光学响应预测电磁超材料结构参数， 即逆向网络。 正向网络不仅可以替代数值计算方法高效快速的预测光学响应而且对逆向网 络的训练至 关重要， 例如通过训练好的正向网络协助逆向网络来训练以解决光谱和结构参 数之间存在的非唯一映射问题。 目前常用于正向网络的深度学习模型包括多层感知机 (MLP)、 卷积神经网络(CNN)、 自编码器(AE)等。 这些模 型在训练样 本量充足或光谱复杂度不 高的情况 下通常具有较好的预测精度。 [0006]特别的， 电磁超材料训练数据的收集不可避免的会使用到数值计算方法， 可获得 的数据量有限， 这要求神经网络模型要在低样 本量的情况下， 尽可能多的提升学习能力， 充 分利用已有训练集。 针对复杂的光谱曲线， 传统的神经网络模型在光谱变化较大 的位置往 往具有较大 的预测误差， 而这些位置往往蕴含着重要的物理信息， 提升正向网络对复杂光 谱的预测精度是至关重要的。 发明内容 [0007]针对现有技术存在的不足， 本发明提出了一种基于Transformer的电磁超材料复 杂光谱高精度预测方法， 旨在解决现有技 术对复杂光谱预测一 致性不高的问题。 [0008]本发明提供了如下的技术方案： 一种基于Transformer的电磁超材料复杂光谱高说　明　书 1/5 页 3 CN 114334041 A 3