(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211056672.5 (22)申请日 2022.08.31 (71)申请人 成都知道创宇信息技 术有限公司 地址 610000 四川省成 都市高新区中国(四 川)自由贸易试验区天府大道北段28 号C座9楼 (72)发明人 牟波　 (74)专利代理 机构 北京超凡宏宇专利代理事务 所(特殊普通 合伙) 11463 专利代理师 张欣欣 (51)Int.Cl. G06V 10/764(2022.01) G06F 16/55(2019.01) G06V 10/774(2022.01) G06V 10/82(2022.01)G06V 10/74(2022.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 违规图像检测方法、 装置、 计算机设备及存 储介质 (57)摘要 本发明提供的一种违规图像检测方法、 装 置、 计算机设备及存储介质， 涉及图像检测领域。 所述方法： 首先， 获取待检测图像； 然后， 将待检 测图像输入 预先训练的违规图像检测模型， 得到 用于表征待检测图像为违规图像的置信度； 若置 信度小于 预设阈值， 则利用预先建立的违规图像 库， 确认待检测图像是否为违规图像， 从而在避 免人工检测所耗费的大量人力成本、 提高检测效 率的同时， 提高检测结果的准确性。 权利要求书2页 说明书8页 附图3页 CN 115439687 A 2022.12.06 CN 115439687 A 1.一种违规图像 检测方法， 其特 征在于， 所述方法包括： 获取待检测图像； 将所述待检测图像输入预先训练的违规图像检测模型， 得到用于表征所述待检测图像 为违规图像的置信度； 若所述置信度小于预设阈值， 则利用预先建立的违规图像库， 确认所述待检测图像是 否为违规图像。 2.如权利要求1所述的方法， 其特征在于， 所述违规图像库包括多 张参考图像和每张所 述参考图像的指纹， 所述利用预先建立的违规图像库， 确认所述待检测图像是否为违规图 像的步骤 包括： 基于所述待检测图像的指纹和每张所述参考图像的指纹， 判断所述多张参考图像 中是 否存在与所述待检测图像相似的目标图像； 若存在所述目标图像， 则判定所述待检测图像为违规图像； 若不存在所述目标图像， 则判定所述待检测图像不 为违规图像。 3.如权利要求2所述的方法， 其特征在于， 所述基于所述待检测图像的指纹和每张所述 参考图像的指纹， 判断所述多张参考图像中是否存在与所述待检测图像相似的目标图像的 步骤包括： 针对每张所述参考图像， 利用所述待检测图像的指纹和所述参考图像的指纹， 计算所 述待检测图像与所述参考图像的汉明距离， 得到所述待检测图像与每张所述参考图像的汉 明距离； 若所述待检测图像与每张所述参考图像的汉明距离均不在预设区间内， 则判定所述多 张参考图像中不存在所述目标图像； 若所述待检测图像与至少一张所述参考图像的汉明距离在所述预设区间内， 则判定所 述多张参 考图像中存在所述目标图像。 4.如权利要求1所述的方法， 其特征在于， 在所述获取待检测图像的步骤之前， 所述方 法还包括建立违规图像库的步骤， 其包括： 获取多张 网络图像， 每张所述网络图像均包 含违规内容； 对所述多张网络 图像进行清洗， 并标注清洗后的每张所述网络 图像中的违规内容， 得 到多张参 考图像； 计算每张所述 参考图像的指纹； 基于所述多张参 考图像和每张所述 参考图像的指纹， 建立所述违规图像库。 5.如权利要求1所述的方法， 其特征在于， 所述违规图像库包括多张参考图像， 在所述 获取待检测图像的步骤之前， 所述方法还 包括训练违规图像 检测模型的步骤， 其包括： 按照预设比例将所述多张参 考图像划分为训练样本集和 测试样本集； 利用所述训练样本集对预先构建的YOLO  v4模型进行训练， 得到训练后 的YOLO v4模 型； 利用所述测试样本集对所述训练后的YOLO  v4模型进行测试， 得到所述训练后的YOLO   v4模型的测试 结果； 若所述测试结果满足预设条件， 则将所述训练后的YOLO  v4模型作为所述违规 图像检 测模型。权　利　要　求　书 1/2 页 2 CN 115439687 A 26.一种违规图像 检测装置， 其特 征在于， 所述装置包括： 获取模块， 用于获取待检测图像； 检测模块， 用于： 将所述待检测图像输入预先训练的违规图像检测模型， 得到用于表征所述待检测图像 为违规图像的置信度； 若所述置信度小于预设阈值， 则利用预先建立的违规图像库， 确认所述待检测图像是 否为违规图像。 7.如权利要求6所述的装置， 其特 征在于， 所述装置还 包括建立模型； 所述建立模块， 用于： 获取多张 网络图像， 每张所述网络图像均包 含违规内容； 对所述多张网络 图像进行清洗， 并标注清洗后的每张所述网络 图像中的违规内容， 得 到多张参 考图像； 计算每张所述 参考图像的指纹； 基于所述多张参 考图像和每张所述 参考图像的指纹， 建立所述违规图像库。 8.如权利要求6所述的装置， 其特 征在于， 所述装置还 包括训练模块； 所述训练模块， 用于： 按照预设比例将所述多张参 考图像划分为训练样本集和 测试样本集； 利用所述训练样本集对预先构建的YOLO  v4模型进行训练， 得到训练后 的YOLO v4模 型； 利用所述测试样本集对所述训练后的YOLO  v4模型进行测试， 得到所述训练后的YOLO   v4模型的测试 结果； 若所述测试结果满足预设条件， 则将所述训练后的YOLO  v4模型作为所述违规 图像检 测模型。 9.一种计算机设备， 其特征在于， 其包括存储器和处理器， 所述存储器存储有计算机程 序， 所述处理器在执行所述计算机程序时实现如权利要求 1～5任一项 所述的违规图像检测 方法。 10.一种计算机可读存储介质， 其存储有计算机程序， 其特征在于， 所述计算机程序被 处理器执行时实现如权利要求1～5任一项所述的违规图像 检测方法。权　利　要　求　书 2/2 页 3 CN 115439687 A 3