“胥迤潇”申请（专利权）人搜索_中国专利权人_发明人_技术持有人_科研专家_钻瓜专利网

钻瓜专利网为您找到相关结果10个，建议您升级VIP下载更多相关专利

[发明专利]一种基于条件对抗样本的模型投毒方法及系统-CN202210353815.2有效
发明人：刘小垒;胥迤潇;辛邦洲;王玉龙;杨润;殷明勇 -专利权人：中国工程物理研究院计算机应用研究所
申请日： 2022-04-01 - 公布日： 2023-09-19 - 主分类号： G06N3/094 文献下载
摘要：本发明公开了一种基于条件对抗样本的模型投毒方法及系统，属于人工智能安全技术领域，解决现有技术容易出现无效投毒的情况，从而造成数据被防御，无法使模型的性能降低。本发明获取训练数据集，其中，训练数据集包括多个不同类别的子集，各子集包括多个正常样本；在训练数据集中任选一个子集或多个子集，给子集中各正常样本初始化两个扰动；基于已预训练的检测模型对正常样本和两个扰动进行检测，若满足要求，得到正常样本与两个扰动之和，即条件对抗样本，若不满足要求，更新扰动后再次执行步骤3；将得到条件对抗样本的正常样本替换为条件对抗样本，替换完成后得到新的训练数据集，并基于新的训练数据集训练检测模型。本发明用于模型投毒。
一种基于条件对抗样本模型投毒方法系统

[发明专利]一种基于图像固有特征的模型水印植入和验证方法及系统-CN202310320554.9有效
发明人：刘小垒;易鸣;丁康一;胡腾;胥迤潇;殷明勇 -专利权人：中国工程物理研究院计算机应用研究所
申请日： 2023-03-29 - 公布日： 2023-09-12 - 主分类号： G06T1/00 文献下载
摘要：本发明公开了一种基于图像固有特征的模型水印植入和验证方法及系统，属于人工智能安全技术领域，解决现有技术使验证水印存在的方法失效的问题。本发明版权所有者选择图片的任一全局特征作为植入水印的基础，并基于选择的全局特征确定全局特征量化函数；给定阈值，并结合全局特征量化函数来构建输出结果为True或False的标准判断函数；基于全局特征量化函数和标准判断函数判断各图片对应的输出结果；若为True时，版权所有者将对应图片的原始标签y修改为验证标签，得到变更后的图片；版权所有者利用变更后的图片作为训练集训练模型，即在此训练过程中以全局特征为触发器的水印将被植入到受保护的模型中，得到训练后的模型。本发明用于模型水印植入和验证。
一种基于图像固有特征模型水印植入验证方法系统

[发明专利]一种基于NES算法的黑盒模型反演攻击方法及系统-CN202211155036.8有效
发明人：刘小垒;易鸣;殷明勇;胥迤潇;许思博 -专利权人：中国工程物理研究院计算机应用研究所
申请日： 2022-09-21 - 公布日： 2023-09-08 - 主分类号： G06F21/56 文献下载
摘要：本发明公开了一种基于NES算法的黑盒模型反演攻击方法及系统，属于人工智能安全领域，解决现有技术中基于优化的反演攻击方法实用性相对较低，和基于模型训练的反演攻击方法隐藏性差、耗时长等问题。本发明基于给定的数据集训练一对GAN模型，包括与被攻击模型的输入类型相同的G模型和对G模型的输出进行评分的D模型，其中，被攻击模型即为目标模型；基于训练好的G模型和D模型，结合目标模型的输出，对目标模型发起反演攻击得到重构图像。本发明用于黑盒模型反演攻击。
一种基于 nes 算法黑盒模型反演攻击方法系统

[发明专利]一种基于多元特征交互的模型后门检测方法、装置及存储介质-CN202211178731.6有效
发明人：刘小垒;易鸣;殷明勇;邓凯;胥迤潇;许思博 -专利权人：中国工程物理研究院计算机应用研究所
申请日： 2022-09-26 - 公布日： 2023-06-06 - 主分类号： G06F18/214 文献下载
摘要：本发明涉及机器学习安全领域，提供了一种基于多元特征交互的模型后门检测方法、装置及存储介质。主旨在于提高模型后门的识别率以及降低检测实现的计算开销。主要方案包括对于一个k分类模型F，对于每个类别i∈{1，2，...，k}，防御者准备大小为s的数据集将数据集的单个数据输入给模型F，得到模型F的logits层的输出向量然后对向量按类别做向量和得到用于判断后门的k维向量r，其中rm为向量r的第m个分量，rm代表所有步骤1准备的数据在F模型的logits层上第m类预测结果的logits累计值，给定阈值b，当第m类的logits累计值rm高于b时，则此类受到了模型后门攻击。
一种基于多元特征交互模型后门检测方法装置存储介质

[发明专利]一种基于博弈交互的对抗样本检测方法及系统-CN202210352808.0有效
发明人：刘小垒;胥迤潇;胡腾;丁康一 -专利权人：中国工程物理研究院计算机应用研究所
申请日： 2022-04-01 - 公布日： 2023-04-18 - 主分类号： G06V10/774 文献下载
摘要：本发明公开了一种基于博弈交互的对抗样本检测方法及系统，属于对抗样本识别技术领域，解决现有技术采用对抗训练会降低深度学习模型在正常样本数据集上的性能。本发明包括将图像或视频在空间域上划分为N个区域；对N个区域依次进行编号，得到所有编号组成的集合φ，同时定义Θ为集合φ所有子集构成的超集；根据超集Θ计算超集Θ中每个元素对应的沙普利中间值，并基于所有沙普利中间值得到沙普利矩阵；基于沙普利矩阵中各沙普利中间值计算相邻两个区域的组合沙普利值，最终得到N‑1个组合沙普利值；基于N‑1个组合沙普利值计算沙普利均值，若沙普利值均值大于给定的边界阈值，则判定图像或视频为对抗样本，否则判断为正常样本。本发明用于对抗样本检测方法。
一种基于博弈交互对抗样本检测方法系统

[发明专利]基于梯度热力图和关键区域检测对抗样本的方法及系统-CN202210353949.4有效
发明人：刘小垒;胥迤潇;杨润;辛邦洲;王玉龙;殷明勇 -专利权人：中国工程物理研究院计算机应用研究所
申请日： 2022-04-01 - 公布日： 2023-04-07 - 主分类号： G06V10/774 文献下载
摘要：本发明公开了一种基于梯度热力图和关键区域检测对抗样本的方法及系统，属于对抗样本识别技术领域，解决现有对抗样本检测方法的误报率和漏报率较高的问题。本发明基于图像关键区域识别方法对图像或视频进行关键区域识别；针对深度学习模型，利用热点区域检测方法对图像或视频进行热点区域识别；对关键区域和热点区域进行重合度计算，得到重合度值；判断重合度值是否大于给定的边界值，若大于边界值，则图像或视频为正常样本，否则判断为对抗样本。本发明用于对抗样本识别。
基于梯度力图关键区域检测对抗样本方法系统

[发明专利]一种基于触发条件的对抗样本生成方法及系统-CN202210353186.3有效
发明人：刘小垒;胥迤潇 -专利权人：中国工程物理研究院计算机应用研究所
申请日： 2022-04-01 - 公布日： 2023-03-24 - 主分类号： G06N3/084 文献下载
摘要：本发明公开了一种基于触发条件的对抗样本生成方法及系统，属于人工智能安全领域，解决现有对抗样本生成方法生成的对抗样本在任何条件下对目标模型都具有对抗性，同时由于对抗样本的迁移性，对其它模型也可能产生对抗性，从而不利于对目标模型进行针对性的鲁棒性测试和评估。本发明获取数据集，给数据集中的各样本初始化两个扰动，其中，两个扰动分别为触发条件和触发扰动；基于目标模型对各样本和两个扰动进行检测，若满足要求，得到样本与两个扰动之和，即条件对抗样本，若不满足要求，更新扰动后再次执行。本发明用于生成对抗样本。
一种基于触发条件对抗样本生成方法系统

[发明专利]一种基于稀疏扰动的黑盒视频对抗样本生成方法-CN202110413133.1有效
发明人：刘小垒;胥迤潇;殷明勇;邓虎;路海 -专利权人：中国工程物理研究院计算机应用研究所
申请日： 2021-04-16 - 公布日： 2021-07-27 - 主分类号： G06K9/62 文献下载
摘要：本发明公开了一种基于稀疏扰动的黑盒视频对抗样本生成方法，属于对抗样本生成方法技术领域，解决现有技术对视频的每个视频帧都添加扰动，对抗样本的生成效率低，生成的对抗样本扰动率高、隐蔽性差的问题。本发明获取视频，基于关键帧识别方法选取视频中的关键帧；基于关键区域识别技术评估各关键帧中的关键区域；将对抗样本生成系统生成的关键区域的扰动添加到关键区域上，得到初始化的视频对抗样本；基于初始化的视频对抗样本，利用黑盒梯度估计方法进行梯度的优化，生成最终的视频对抗样本。本发明用于生成视频对抗样本。
一种基于稀疏扰动黑盒视频对抗样本生成方法

[发明专利]一种基于生成对抗网络的视频隐私保护方法-CN202110409156.5有效
发明人：刘小垒;胥迤潇;邓虎;路海;殷明勇 -专利权人：中国工程物理研究院计算机应用研究所
申请日： 2021-04-16 - 公布日： 2021-06-22 - 主分类号： G06F21/62 文献下载
摘要：本发明公开了一种基于生成对抗网络的视频隐私保护方法，属于人工智能安全领域，解决现有技术中的隐私保护方法无法对视频进行隐私保护。本发明将点对点的图像生成系统作为对抗网络生成器，并基于视频数据集Image‑net训练得到一系列的视频对抗样本；将三种不同架构的视频分类系统作为对抗网络鉴别器，并基于一系列的对抗样本和对应的原始视频对对抗网络鉴别器进行训练，若训练后能分辨出对抗样本和原始视频的区别，根据训练后的对抗网络鉴别器的参数，利用梯度下降方法对中训练后的对抗网络生成器进行优化，并再次执行，否则，得到训练好的对抗网络生成器对隐私保护的视频进行处理，得到视频对抗样本。本发明用于视频隐私保护。
一种基于生成对抗网络视频隐私保护方法

[发明专利]针对黑盒对抗样本攻击的视频分类系统安全性增强方法-CN202110416397.2有效
发明人：刘小垒;胥迤潇;殷明勇;邓虎;路海 -专利权人：中国工程物理研究院计算机应用研究所
申请日： 2021-04-19 - 公布日： 2021-06-18 - 主分类号： G06K9/62 文献下载
摘要：本发明公开了一种针对黑盒对抗样本攻击的视频分类系统安全性增强方法，属于人工智能安全领域，解决现有深度神经网络对添加了扰动后的违规视频的检测效率低的问题，即解决现有违规视频检测系统针对对抗样本没有抵抗能力的问题。本发明获取一违规视频作为原始样本，基于已训练好的、三种不同架构的白盒视频对抗样本生成模型分别对原始样本进行处理，得到预样本；基于区域划分函数，对预样本进行区域划分；利用黑盒梯度估计算法按划分的区域对预样本进行基于梯度的优化，生成对抗样本；基于生成的对抗样本对目标视频分类系统进行训练，并基于训练后的目标视频分类系统对视频进行分类。本发明用于违规视频检测。
针对黑盒对抗样本攻击视频分类系统安全性增强方法

1
共 10 条