(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210646271.9 (22)申请日 2022.06.08 (71)申请人 清华大学 地址 100084 北京市海淀区清华园1号 (72)发明人 翟季冬　马子轩　王豪杰　冯冠宇　 张晨　 (74)专利代理 机构 北京林达刘知识产权代理事 务所(普通 合伙) 11277 专利代理师 刘新宇 (51)Int.Cl. G06V 10/82(2022.01) G06V 10/74(2022.01) G06V 10/776(2022.01) (54)发明名称 一种数据处 理方法、 装置及存 储介质 (57)摘要 本公开涉及一种数据处理方法、 装置及存储 介质， 其中， 该方法可以包括获取深度学习模型 中的待处理数据组； 确定与待处理数据组中各待 处理数据相匹配的模拟方式， 模拟方式用于基于 不同于待处理数据的数据类型的其他数据类型， 表示待处理数据的数据类型； 根据各待处理数据 相匹配的模拟方式对各待处理数据进行处理， 生 成各待处理数据对应的模拟数据， 模拟数据通过 所述其他数据类型表示； 对各待处理数据对应的 模拟数据进行处理， 得到数据处理结果。 通过本 公开， 在保证数据处理精度的情况下， 进行数据 加速处理， 提供了高效计算能力， 有效提升了加 速器的性能； 同时， 扩展了加速器的使用场景， 有 效降低了对加速 器的硬件 要求。 权利要求书4页 说明书21页 附图8页 CN 114972955 A 2022.08.30 CN 114972955 A 1.一种数据处 理方法， 其特 征在于， 所述方法包括： 获取深度 学习模型中的待处理数据组； 所述待处理数据组包括深度学习 模型在对图像 进行识别过程中处 理的输入数据或中间数据； 确定与所述待处理数据组中各待处理数据相匹配的模拟方式， 所述模拟方式用于基于 不同于待处 理数据的数据类型的其 他数据类型， 表示待处 理数据的数据类型； 根据所述各待处理数据相匹配的模拟方式对所述各待处理数据进行处理， 生成所述各 待处理数据对应的模拟数据， 所述模拟数据通过 所述其他数据类型表示； 对所述各待处理数据对应的模拟数据进行处理， 得到数据处理结果， 所述数据处理结 果包括深度学习模型对图像进行识别的最终结果或中间结果。 2.根据权利要求1所述的方法， 其特征在于， 所述各待处理数据的数据类型为FP32， 所 述模拟方式包括： FP32 ‑F、 FP32‑B、 FP32‑T中的一个或多个， 其中， 所述FP32 ‑F表示基于FP16 类型数据模拟FP32 类型数据的方式， 所述FP32 ‑B表示基于BF16类型数据模拟FP32类型数据 的方式， 所述FP32 ‑T表示基于TF32类型 数据模拟FP32类型 数据的方式。 3.根据权利 要求1或2所述的方法， 其特征在于， 所述各待处理数据的数据类型为FP32， 所述各待处理数据相匹配的模拟方式包括FP 32‑F； 所述各待处理数据对应的模拟数据包括 FP16类型的第一数据及第二数据； 所述根据 所述各待处理数据相匹配的模拟方式对所述各待处理数据进行处理， 生成所 述各待处 理数据对应的模拟数据， 包括： 将所述各待 处理数据进行FP32类型到FP16类型的变换， 得到所述各待处理数据对应的 第一数据； 将所述第一数据进行FP16类型到FP32类型的变换， 并计算各待 处理数据与变换结果的 第一差值； 对所述第一差值与第一预设系数的乘积， 进行FP32类型到FP16类型的变换， 得到所述 各待处理数据对应的第二数据。 4.根据权利 要求1或2所述的方法， 其特征在于， 所述各待处理数据的数据类型为FP32， 所述各待处理数据相匹配的模拟方式包括FP 32‑T； 所述各待处理数据对应的模拟数据包括 TF32类型的第三数据及第四数据； 所述根据 所述各待处理数据相匹配的模拟方式对所述各待处理数据进行处理， 生成所 述各待处 理数据对应的模拟数据， 包括： 将所述各待 处理数据进行FP32类型到TF32类型的变换， 得到所述各待处理数据对应的 第三数据； 将所述各待处理数据与所述第三数据的差值， 进行FP32类型到TF32类型的变换， 得到 所述各待处 理数据对应的第四数据。 5.根据权利要求4所述的方法， 其特征在于， 所述将所述各待处理数据与所述第 三数据 的差值， 进行 FP32类型到TF32类型的变换， 得到所述各待处 理数据对应的第四数据， 包括： 计算所述各待处理数据与 所述第三数据的第 二差值， 并计算所述第 二差值与第 一预设 系数的乘积； 对乘积结果进行FP32类型到FP16类型的变换， 得到所述各待处理数据对应的第四数 据。权　利　要　求　书 1/4 页 2 CN 114972955 A 26.根据权利 要求1或2所述的方法， 其特征在于， 所述待处理数据的数据类型为FP32， 所 述各待处理数据相 匹配的模拟方式包括FP32 ‑B； 所述各待处理数据对应的模拟数据包括 BF16类型的第五数据、 第六 数据及第七数据； 所述根据 所述各待处理数据相匹配的模拟方式对所述各待处理数据进行处理， 生成所 述各待处 理数据对应的模拟数据， 包括： 将所述各待 处理数据进行FP32类型到B F16类型的变换， 得到所述各待处理数据对应的 第五数据； 将所述各待处理数据与所述第五数据的第三差值， 进行FP32类型到BF16类型的变换， 得到所述各待处 理数据对应的第六 数据； 对所述第三差值与所述第六数据的差值， 进行FP32类型到BF16类型的变换， 得到所述 各待处理数据对应的第七数据。 7.根据权利要求6所述的方法， 其特征在于， 所述将所述各待处理数据与所述第五数据 的第三差值， 进 行FP32类型到BF16类型的变换， 得到所述各待处理数据对应的第六数据， 包 括： 计算所述第三差值与第二预设系数的乘积； 将所述乘积结果进行FP32类型到B F16类型的变换， 得到所述各待 处理数据对应的第六 数据； 所述对所述第三差值与所述第六数据的差值， 进行FP32类型到BF16类型的变换， 得到 所述各待处 理数据对应的第七数据， 包括： 计算所述第三差值与所述第六 数据占所述第二预设系数比值的第四差值； 计算所述第四差值与所述第二预设系数的乘积； 对乘积结果进行FP32类型到BF16类型的变换， 得到所述各待处理数据对应的第七数 据。 8.根据权利要求3所述的方法， 其特征在于， 所述待处理数据组包括第 一待处理数据及 第二待处 理数据； 所述对所述各待处 理数据对应的模拟数据进行处 理， 得到数据处 理结果， 包括： 将所述第一待处理数据对应的第一数据与所述第二待处理数据对应的第一数据进行 乘法运算， 得到第一 运算结果； 分别将所述第 一待处理数据对应的第 一数据与 所述第二待处理数据对应的第 二数据、 所述第一待处理数据对应的第二数据与所述第二待处理数据对应的第一数据进行乘法运 算， 并将乘法运 算结果求和， 得到第二 运算结果； 将所述第二运算结果占所述第 一预设系数的比值与所述第 一运算结果进行求和运算， 得到所述数据处 理结果。 9.根据权利要求4所述的方法， 其特征在于， 所述待处理数据组包括第 一待处理数据及 第二待处 理数据； 所述对所述各待处 理数据对应的模拟数据进行处 理， 得到数据处 理结果， 包括： 将所述第一待处理数据对应的第三数据与所述第二待处理数据对应的第三数据进行 乘法运算， 得到第三 运算结果； 分别将所述第 一待处理数据对应的第 三数据与 所述第二待处理数据对应的第四数据、权　利　要　求　书 2/4 页 3 CN 114972955 A 3