“刘小垒”申请（专利权）人搜索_中国专利权人_发明人_技术持有人_科研专家_钻瓜专利网

钻瓜专利网为您找到相关结果34个，建议您升级VIP下载更多相关专利

[发明专利]一种基于条件对抗样本的模型投毒方法及系统-CN202210353815.2有效
发明人： 刘小垒;胥迤潇;辛邦洲;王玉龙;杨润;殷明勇 -专利权人：中国工程物理研究院计算机应用研究所
申请日： 2022-04-01 - 公布日： 2023-09-19 - 主分类号： G06N3/094 文献下载
摘要：本发明公开了一种基于条件对抗样本的模型投毒方法及系统，属于人工智能安全技术领域，解决现有技术容易出现无效投毒的情况，从而造成数据被防御，无法使模型的性能降低。本发明获取训练数据集，其中，训练数据集包括多个不同类别的子集，各子集包括多个正常样本；在训练数据集中任选一个子集或多个子集，给子集中各正常样本初始化两个扰动；基于已预训练的检测模型对正常样本和两个扰动进行检测，若满足要求，得到正常样本与两个扰动之和，即条件对抗样本，若不满足要求，更新扰动后再次执行步骤3；将得到条件对抗样本的正常样本替换为条件对抗样本，替换完成后得到新的训练数据集，并基于新的训练数据集训练检测模型。本发明用于模型投毒。
一种基于条件对抗样本模型投毒方法系统

[发明专利]一种基于图像固有特征的模型水印植入和验证方法及系统-CN202310320554.9有效
发明人： 刘小垒;易鸣;丁康一;胡腾;胥迤潇;殷明勇 -专利权人：中国工程物理研究院计算机应用研究所
申请日： 2023-03-29 - 公布日： 2023-09-12 - 主分类号： G06T1/00 文献下载
摘要：本发明公开了一种基于图像固有特征的模型水印植入和验证方法及系统，属于人工智能安全技术领域，解决现有技术使验证水印存在的方法失效的问题。本发明版权所有者选择图片的任一全局特征作为植入水印的基础，并基于选择的全局特征确定全局特征量化函数；给定阈值，并结合全局特征量化函数来构建输出结果为True或False的标准判断函数；基于全局特征量化函数和标准判断函数判断各图片对应的输出结果；若为True时，版权所有者将对应图片的原始标签y修改为验证标签，得到变更后的图片；版权所有者利用变更后的图片作为训练集训练模型，即在此训练过程中以全局特征为触发器的水印将被植入到受保护的模型中，得到训练后的模型。本发明用于模型水印植入和验证。
一种基于图像固有特征模型水印植入验证方法系统

[发明专利]一种基于NES算法的黑盒模型反演攻击方法及系统-CN202211155036.8有效
发明人： 刘小垒;易鸣;殷明勇;胥迤潇;许思博 -专利权人：中国工程物理研究院计算机应用研究所
申请日： 2022-09-21 - 公布日： 2023-09-08 - 主分类号： G06F21/56 文献下载
摘要：本发明公开了一种基于NES算法的黑盒模型反演攻击方法及系统，属于人工智能安全领域，解决现有技术中基于优化的反演攻击方法实用性相对较低，和基于模型训练的反演攻击方法隐藏性差、耗时长等问题。本发明基于给定的数据集训练一对GAN模型，包括与被攻击模型的输入类型相同的G模型和对G模型的输出进行评分的D模型，其中，被攻击模型即为目标模型；基于训练好的G模型和D模型，结合目标模型的输出，对目标模型发起反演攻击得到重构图像。本发明用于黑盒模型反演攻击。
一种基于 nes 算法黑盒模型反演攻击方法系统

[发明专利]一种基于交易和LSTM的恶意智能合约监测方法-CN202210984459.4在审
发明人：胡腾;路鹏;刘小垒;孟凡治;楼芳;殷明勇;周椿入;王刚;张华;刘东 -专利权人：中国工程物理研究院计算机应用研究所
申请日： 2022-08-17 - 公布日： 2023-08-22 - 主分类号： G06Q30/0201 文献下载
摘要：本发明实施例公开了一种基于交易和LSTM的恶意智能合约监测方法，属于区块链安全监测技术领域，解决现有方法在监测效率方面的不足，以及无法在线对智能合约持续监测的问题。本发明基于智能合约的交易数据实现对恶意智能合约的监测，与其他监测方法相比，本发明不需要智能合约源代码和字节码可实现对恶意智能合约的监测，并且通过持续采集智能合约后续的交易数据，能够持续地对智能合约行为进行监测，提高了适用范围和实用性。
一种基于交易 lstm 恶意智能合约监测方法

[发明专利]一种基于多元特征交互的模型后门检测方法、装置及存储介质-CN202211178731.6有效
发明人： 刘小垒;易鸣;殷明勇;邓凯;胥迤潇;许思博 -专利权人：中国工程物理研究院计算机应用研究所
申请日： 2022-09-26 - 公布日： 2023-06-06 - 主分类号： G06F18/214 文献下载
摘要：本发明涉及机器学习安全领域，提供了一种基于多元特征交互的模型后门检测方法、装置及存储介质。主旨在于提高模型后门的识别率以及降低检测实现的计算开销。主要方案包括对于一个k分类模型F，对于每个类别i∈{1，2，...，k}，防御者准备大小为s的数据集将数据集的单个数据输入给模型F，得到模型F的logits层的输出向量然后对向量按类别做向量和得到用于判断后门的k维向量r，其中rm为向量r的第m个分量，rm代表所有步骤1准备的数据在F模型的logits层上第m类预测结果的logits累计值，给定阈值b，当第m类的logits累计值rm高于b时，则此类受到了模型后门攻击。
一种基于多元特征交互模型后门检测方法装置存储介质

[发明专利]一种满足差分隐私的敏感数据生成方法-CN202211475616.5在审
发明人：辛邦洲;杨润;王玉龙;刘小垒;胡腾;殷明勇;谢家俊 -专利权人：中国工程物理研究院计算机应用研究所
申请日： 2022-11-23 - 公布日： 2023-05-12 - 主分类号： G06F21/62 文献下载
摘要：本发明公开了一种满足差分隐私的敏感数据生成方法，服务器将初始生成模型发送给任意一个客户端，客户端使用接收到的生成模型生成合成数据，并将合成数据添加到本地训练集中，然后采用生成对抗网络进行训练，客户端完成训练后，将训练过的模型随机传递给一个剩余的客户端，直到所有的客户端都参加了训练，然后将最终的模型返回给服务器；本发明能够在保障数据隐私安全的前提下，克服多个训练参与方不能在线同时训练的困难，顺序地在各参与方上训练机器学习模型，并且能解决因为数据非独立同分布而带来的模型发散的问题。最终得到的生成模型可以无限生成逼真的合成数据，改善由隐私导致的数据短缺问题。
一种满足隐私敏感数据生成方法

[发明专利]一种基于博弈交互的对抗样本检测方法及系统-CN202210352808.0有效
发明人： 刘小垒;胥迤潇;胡腾;丁康一 -专利权人：中国工程物理研究院计算机应用研究所
申请日： 2022-04-01 - 公布日： 2023-04-18 - 主分类号： G06V10/774 文献下载
摘要：本发明公开了一种基于博弈交互的对抗样本检测方法及系统，属于对抗样本识别技术领域，解决现有技术采用对抗训练会降低深度学习模型在正常样本数据集上的性能。本发明包括将图像或视频在空间域上划分为N个区域；对N个区域依次进行编号，得到所有编号组成的集合φ，同时定义Θ为集合φ所有子集构成的超集；根据超集Θ计算超集Θ中每个元素对应的沙普利中间值，并基于所有沙普利中间值得到沙普利矩阵；基于沙普利矩阵中各沙普利中间值计算相邻两个区域的组合沙普利值，最终得到N‑1个组合沙普利值；基于N‑1个组合沙普利值计算沙普利均值，若沙普利值均值大于给定的边界阈值，则判定图像或视频为对抗样本，否则判断为正常样本。本发明用于对抗样本检测方法。
一种基于博弈交互对抗样本检测方法系统

[发明专利]基于梯度热力图和关键区域检测对抗样本的方法及系统-CN202210353949.4有效
发明人： 刘小垒;胥迤潇;杨润;辛邦洲;王玉龙;殷明勇 -专利权人：中国工程物理研究院计算机应用研究所
申请日： 2022-04-01 - 公布日： 2023-04-07 - 主分类号： G06V10/774 文献下载
摘要：本发明公开了一种基于梯度热力图和关键区域检测对抗样本的方法及系统，属于对抗样本识别技术领域，解决现有对抗样本检测方法的误报率和漏报率较高的问题。本发明基于图像关键区域识别方法对图像或视频进行关键区域识别；针对深度学习模型，利用热点区域检测方法对图像或视频进行热点区域识别；对关键区域和热点区域进行重合度计算，得到重合度值；判断重合度值是否大于给定的边界值，若大于边界值，则图像或视频为正常样本，否则判断为对抗样本。本发明用于对抗样本识别。
基于梯度力图关键区域检测对抗样本方法系统

[发明专利]一种基于触发条件的对抗样本生成方法及系统-CN202210353186.3有效
发明人： 刘小垒;胥迤潇 -专利权人：中国工程物理研究院计算机应用研究所
申请日： 2022-04-01 - 公布日： 2023-03-24 - 主分类号： G06N3/084 文献下载
摘要：本发明公开了一种基于触发条件的对抗样本生成方法及系统，属于人工智能安全领域，解决现有对抗样本生成方法生成的对抗样本在任何条件下对目标模型都具有对抗性，同时由于对抗样本的迁移性，对其它模型也可能产生对抗性，从而不利于对目标模型进行针对性的鲁棒性测试和评估。本发明获取数据集，给数据集中的各样本初始化两个扰动，其中，两个扰动分别为触发条件和触发扰动；基于目标模型对各样本和两个扰动进行检测，若满足要求，得到样本与两个扰动之和，即条件对抗样本，若不满足要求，更新扰动后再次执行。本发明用于生成对抗样本。
一种基于触发条件对抗样本生成方法系统

[发明专利]一种针对视频识别场景的物理干扰方法及系统-CN202110797548.3有效
发明人： 刘小垒;李璐璇;胡腾;王玉龙;杨润;辛邦洲 -专利权人：中国工程物理研究院计算机应用研究所
申请日： 2021-07-14 - 公布日： 2021-11-02 - 主分类号： G06K9/62 文献下载
摘要：本发明公开了一种针对视频识别场景的物理干扰方法及系统，属于信息安全测试技术领域，解决现有技术在网络层面对视频进行干扰，干扰效果差的问题。本发明基于获取的已授权的摄像设备的视频、白盒分类系统和对抗样本生成系统在网络层获取初始的视频对抗样本；基于初始化的视频对抗样本，利用白盒分类系统对干扰进行优化，生成网络层面最终的视频对抗样本，即视频的通用干扰值；获取视频前，基于最终的视频对抗样本调节摄像设备在RGB通道的可调节滤镜，形成物理干扰。本发明用于对视频识别场景的物理干扰。
一种针对视频识别场景物理干扰方法系统

[发明专利]一种用于人机识别的图形识别码生成方法-CN202110578878.3有效
发明人： 刘小垒;李璐璇;殷明勇;路海 -专利权人：中国工程物理研究院计算机应用研究所
申请日： 2021-05-26 - 公布日： 2021-07-27 - 主分类号： G06K19/06 文献下载
摘要：本发明公开了一种用于人机识别的图形识别码生成方法，属于网络安全测试领域，解决现有验证码容易被基于机器学习技术训练的机器人自动识别并跳过，以及现有的图片对抗样本生成方式处理时间长和计算规模大的问题。本发明预设图片尺寸,基于图片尺寸选取图片集，将图片集和图片集的分类结果输入对抗样本生成系统生成扰动，再将扰动添加在图片集的图片边框上,得到初始化的图片对抗样本集；基于初始化的图片对抗样本集，利用白盒训练模型对干扰进行优化，生成最终的图片对抗样本，即图片干扰边框；将图片干扰边框加入待干扰图片上，形成图片识别码，即图片验证码，其中，待干扰图片的尺寸与图片集中的图片的尺寸大小相同。本发明用于生成干扰框架。
一种用于人机识别图形识别码生成方法

[发明专利]一种基于稀疏扰动的黑盒视频对抗样本生成方法-CN202110413133.1有效
发明人： 刘小垒;胥迤潇;殷明勇;邓虎;路海 -专利权人：中国工程物理研究院计算机应用研究所
申请日： 2021-04-16 - 公布日： 2021-07-27 - 主分类号： G06K9/62 文献下载
摘要：本发明公开了一种基于稀疏扰动的黑盒视频对抗样本生成方法，属于对抗样本生成方法技术领域，解决现有技术对视频的每个视频帧都添加扰动，对抗样本的生成效率低，生成的对抗样本扰动率高、隐蔽性差的问题。本发明获取视频，基于关键帧识别方法选取视频中的关键帧；基于关键区域识别技术评估各关键帧中的关键区域；将对抗样本生成系统生成的关键区域的扰动添加到关键区域上，得到初始化的视频对抗样本；基于初始化的视频对抗样本，利用黑盒梯度估计方法进行梯度的优化，生成最终的视频对抗样本。本发明用于生成视频对抗样本。
一种基于稀疏扰动黑盒视频对抗样本生成方法

[发明专利]一种基于生成对抗网络的视频隐私保护方法-CN202110409156.5有效
发明人： 刘小垒;胥迤潇;邓虎;路海;殷明勇 -专利权人：中国工程物理研究院计算机应用研究所
申请日： 2021-04-16 - 公布日： 2021-06-22 - 主分类号： G06F21/62 文献下载
摘要：本发明公开了一种基于生成对抗网络的视频隐私保护方法，属于人工智能安全领域，解决现有技术中的隐私保护方法无法对视频进行隐私保护。本发明将点对点的图像生成系统作为对抗网络生成器，并基于视频数据集Image‑net训练得到一系列的视频对抗样本；将三种不同架构的视频分类系统作为对抗网络鉴别器，并基于一系列的对抗样本和对应的原始视频对对抗网络鉴别器进行训练，若训练后能分辨出对抗样本和原始视频的区别，根据训练后的对抗网络鉴别器的参数，利用梯度下降方法对中训练后的对抗网络生成器进行优化，并再次执行，否则，得到训练好的对抗网络生成器对隐私保护的视频进行处理，得到视频对抗样本。本发明用于视频隐私保护。
一种基于生成对抗网络视频隐私保护方法

[发明专利]针对黑盒对抗样本攻击的视频分类系统安全性增强方法-CN202110416397.2有效
发明人： 刘小垒;胥迤潇;殷明勇;邓虎;路海 -专利权人：中国工程物理研究院计算机应用研究所
申请日： 2021-04-19 - 公布日： 2021-06-18 - 主分类号： G06K9/62 文献下载
摘要：本发明公开了一种针对黑盒对抗样本攻击的视频分类系统安全性增强方法，属于人工智能安全领域，解决现有深度神经网络对添加了扰动后的违规视频的检测效率低的问题，即解决现有违规视频检测系统针对对抗样本没有抵抗能力的问题。本发明获取一违规视频作为原始样本，基于已训练好的、三种不同架构的白盒视频对抗样本生成模型分别对原始样本进行处理，得到预样本；基于区域划分函数，对预样本进行区域划分；利用黑盒梯度估计算法按划分的区域对预样本进行基于梯度的优化，生成对抗样本；基于生成的对抗样本对目标视频分类系统进行训练，并基于训练后的目标视频分类系统对视频进行分类。本发明用于违规视频检测。
针对黑盒对抗样本攻击视频分类系统安全性增强方法

[发明专利]一种基于收敛加密的数据块动态操作方法-CN201710544167.8有效
发明人：张小松;黄可;牛伟纳;刘小垒 -专利权人：电子科技大学
申请日： 2017-07-05 - 公布日： 2021-05-28 - 主分类号： H04L9/06 文献下载
摘要：本发明公开了一种基于收敛加密的数据块动态操作方法，属于网络安全技术领域，解决现有收敛加密技术下实现动态操作，会存在数据完整性冲突、持有权管理和访问控制以及密钥更新难的问题。本发明具体步骤如下：步骤1、用户选择安全参数，根据安全参数输出公开参数发送给服务器；步骤2、服务器根据公开参数，对原文件进行收敛加密的同时对原文件动态修改；步骤3、用户对步骤2得到的结果进行回取，补全服务器中被更新后的文件缺失的元数据信息。本发明用于在数据加密和去重复的同时，提供数据块动态操作。
一种基于收敛加密数据动态操作方法

1
2
3
下一页»
尾页
共 34 条