“萧子豪”申请（专利权）人搜索_中国专利权人_发明人_技术持有人_科研专家_钻瓜专利网

钻瓜专利网为您找到相关结果16个，建议您升级VIP下载更多相关专利

[发明专利]音频验证方法、相关装置、存储介质及程序产品-CN202310606668.X有效
发明人：郭军军;程晓娟;萧子豪 -专利权人：北京瑞莱智慧科技有限公司
申请日： 2023-05-26 - 公布日： 2023-08-22 - 主分类号： G10L17/06 文献下载
摘要：本申请实施例公开了一种音频验证方法、相关装置、存储介质及程序产品。所述方法包括：基于待验证音频数据获取多个类型的声纹特征，所述声纹特征包括频域特征和向量特征中的至少一种类型的特征；对多个所述声纹特征进行特征融合处理，以确定所述待验证音频数据的目标测试声纹向量特征；确定所述目标测试声纹向量特征与注册音频数据的注册声纹向量特征的目标相似度分数，所述目标相似度分数用于确定所述待验证音频数据的验证结果。本方案融合了待验证音频数据多个类型的声纹特征确定目标测试声纹向量特征，使得目标测试声纹向量特征的特征维度更高，通过更高维度的特征进行音频验证处理，可以提高音频验证结果的准确率。
音频验证方法相关装置存储介质程序产品

[发明专利]多样本对抗扰动生成方法、装置、存储介质和计算设备-CN202010883710.9有效
发明人： 萧子豪;高威;田天 -专利权人：北京瑞莱智慧科技有限公司
申请日： 2020-08-28 - 公布日： 2022-09-02 - 主分类号： G06V10/764 文献下载
摘要：本发明的实施方式提供了一种多样本对抗扰动生成方法、装置、存储介质和计算设备。所述方法包括获取至少一个样本图像和对抗扰动；计算所述至少一个样本图像和对抗扰动在判别模型下的损失，基于所述损失能够得到所述至少一个样本图像和对抗扰动在判别模型下的分类错误率；根据样本图像正确标签下的分类置信度，赋予所述损失对应的权重并计算；基于计算得到的损失优化所述对抗扰动。可以根据样本具体情况赋予对应的权重，能够强调特定的样本，提高了样本的利用效率和多样本对抗样本的攻击成功率。
多样对抗扰动生成方法装置存储介质计算设备

[发明专利]模型的后门检测方法、装置、介质和计算设备-CN202011418502.8有效
发明人：张旭东;萧子豪;董胤蓬;朱建威;唐家渝;田天 -专利权人：北京瑞莱智慧科技有限公司
申请日： 2020-12-07 - 公布日： 2021-09-21 - 主分类号： G06K9/62 文献下载
摘要：本发明提供了一种模型的后门检测方法、装置、介质和计算设备。该方法包括：提供用于检测后门的材料，其中，所述材料至少包括用于检测模型是否存在后门的检测样本集；基于所述检测样本集对所述模型的每一类别的输出进行搜索，以得到针对所述模型的每一类别的输出的多个还原结果，其中，所述还原结果用于表征基于一个或多个同类别检测样本，使所述模型的输出结果出错的修改量；根据所述模型的不同类别的输出的还原结果确定所述模型是否存在后门。根据本发明的技术方案，可以采用任何样本检测模型是否存在后门，而不必须是训练模型时使用的样本，给用户带来了更加方便的体验。且仅需提供输入输出反馈，无需模型具体结构和参数，保护了用户知识产权。
模型后门检测方法装置介质计算设备

[发明专利]一种对抗样本的生成方法、装置及电子设备-CN202011214726.7有效
发明人： 萧子豪;高先峰;田天 -专利权人：北京瑞莱智慧科技有限公司
申请日： 2020-11-04 - 公布日： 2021-09-14 - 主分类号： G06K9/00 文献下载
摘要：本公开提供了一种对抗样本的生成方法、装置及电子设备，涉及人工智能技术领域，该方法包括：获取攻击对象的第一人脸图像集合；基于目标隐变量和预先训练好的生成式模型，生成目标对抗补丁；将目标对抗补丁添加至第一人脸图像集合的每张图像上，得到对抗样本集合。本公开能够有效提升对抗补丁攻击的隐蔽性和稳定性，并强化对抗补丁的黑盒迁移攻击成功率。
一种对抗样本生成方法装置电子设备

[发明专利]评估图像识别模型、攻击方法性能的方法、装置和介质-CN202010566866.4有效
发明人： 萧子豪;高威;董胤蓬;田天;朱军 -专利权人：北京瑞莱智慧科技有限公司
申请日： 2020-06-19 - 公布日： 2021-07-16 - 主分类号： G06K9/62 文献下载
摘要：本发明提供了一种评估图像识别模型、攻击方法性能的方法、装置和介质。该评估图像识别模型性能的方法，包括：获取原始样本及基于所述原始样本生成的对抗样本；采用待评估的图像识别模型对所述原始样本和对抗样本分别进行识别以得到各自的识别结果；根据识别结果中的目标数量和/或目标分类情况确定所述图像识别模型的性能。该评估图像识别模型攻击方法性能的方法，包括：获取原始样本及采用待评估的攻击方法基于所述原始样本生成的对抗样本；采用图像识别模型对所述原始样本和对抗样本分别进行识别以得到各自的识别结果；根据识别结果中的目标数量和/或目标分类情况确定所述待评估的攻击方法的性能。可以更好地评价攻击算法和待攻击模型的性能。
评估图像识别模型攻击方法性能装置介质

[发明专利]模型安全性评估方法、介质、装置和计算设备-CN202010830714.0有效
发明人： 萧子豪;唐家渝;张旭东;董胤鹏;田天 -专利权人：北京瑞莱智慧科技有限公司
申请日： 2020-08-18 - 公布日： 2021-07-09 - 主分类号： G06F21/57 文献下载
摘要：本发明的实施方式提供了一种模型安全性评估方法、装置、介质和计算设备。该方法包括：读取待评估模型及相关信息；根据待评估模型和相关信息构建评估任务，其中，所述评估任务包括多个执行不同攻击策略的评估子任务；执行各个评估子任务以得到相应的子任务评估结果；基于各个子任务评估结果及其对应的权值得到最终的评估结果。本发明的方法在进行评估时选择多种策略进行，从而显著地提高了评估的全面性和可靠性，为用户带来了更好的体验。
模型安全性评估方法介质装置计算设备

[发明专利]基于代理模型的对抗样本生成方法和装置-CN202110000730.1有效
发明人： 萧子豪;田天 -专利权人：北京智源人工智能研究院
申请日： 2021-01-04 - 公布日： 2021-05-07 - 主分类号： G06K9/62 文献下载
摘要：本发明提供了一种基于代理模型的对抗样本生成方法和装置。该方法包括：提供代理模型、原始样本和一基于迭代的对抗样本生成算法；基于代理模型、原始样本和对抗样本生成算法迭代生成对抗样本，直到达到预设终止条件；在每个迭代轮次中：获取上一轮次迭代生成对抗样本时，代理模型的各个参数自身的权重；基于各个参数的权重计算对应参数的重要性分数，所述重要性分数用于表示相应轮次中代理模型的对应参数对生成的对抗样本的影响程度；根据预设规则以及所述代理模型的各个参数的重要性分数剪除所述代理模型的部分参数；根据剪除部分参数后保留的各个参数更新所述代理模型；将达到预设终止条件时生成的对抗样本作为最终的对抗样本。
基于代理模型对抗样本生成方法装置

[发明专利]基于代理模型的对抗样本生成方法和装置-CN202110000728.4有效
发明人： 萧子豪;田天 -专利权人：北京智源人工智能研究院
申请日： 2021-01-04 - 公布日： 2021-04-16 - 主分类号： G06N3/04 文献下载
摘要：本发明提供了一种基于代理模型的对抗样本生成方法和装置。该方法包括：提供代理模型、原始样本和一基于迭代的对抗样本生成算法；基于代理模型、原始样本和对抗样本生成算法迭代生成对抗样本，直到达到预设终止条件；在每个迭代轮次中：获取上一轮次迭代生成对抗样本时，所述代理模型的损失结果和各个参数自身的权重；基于所述代理模型的损失结果和所述参数自身的权重计算各个参数自身的梯度；将各个参数的梯度作为对应参数的重要性分数；根据预设规则以及所述代理模型的各个参数的重要性分数剪除所述代理模型的部分参数；根据剪除部分参数后保留的各个参数更新所述代理模型；将达到预设终止条件时生成的对抗样本作为最终的对抗样本。
基于代理模型对抗样本生成方法装置

[发明专利]基于代理模型的对抗样本生成方法和装置-CN202110000718.0有效
发明人： 萧子豪;田天 -专利权人：北京智源人工智能研究院
申请日： 2021-01-04 - 公布日： 2021-04-13 - 主分类号： G06N3/04 文献下载
摘要：本发明提供了一种基于代理模型的对抗样本生成方法和装置。该方法包括：提供基于卷积神经网络构建的白盒模型、原始样本和一基于迭代的对抗攻击算法；基于白盒模型、原始样本和基于迭代的对抗攻击算法迭代生成对抗样本，直到达到预设终止条件；在每个迭代轮次中：获取上一轮次迭代生成对抗样本时，所述白盒模型中的各个批归一化层的斜率系数；将各个批归一化层的斜率系数作为对应的批归一化层之前设置的非批归一化层的重要性分数；根据预设规则以及所述白盒模型的各个非批归一化层的重要性分数剪除所述白盒模型的部分层级；更新剪除部分层级后的白盒模型；将达到预设终止条件时生成的对抗样本作为最终的对抗样本以对其他模型进行迁移攻击。
基于代理模型对抗样本生成方法装置

[发明专利]基于代理模型的对抗样本生成方法、装置和计算设备-CN202110000722.7在审
发明人： 萧子豪;田天 -专利权人：北京智源人工智能研究院
申请日： 2021-01-04 - 公布日： 2021-02-05 - 主分类号： G06K9/62 文献下载
摘要：本发明提供了一种基于代理模型的对抗样本生成方法、装置和计算设备。该方法包括：提供代理模型、原始样本和一基于迭代的对抗样本生成算法并迭代生成对抗样本，直到达到预设终止条件；在每个迭代轮次中：获取上一轮次迭代生成对抗样本时，代理模型的每一卷积核的各个参数自身的权重与梯度；根据每一卷积核的各个参数的权重和梯度计算每一卷积核的重要性分数；根据预设规则以及所述代理模型的各个卷积核的重要性分数剪除所述代理模型的部分卷积核；根据剪除部分卷积核后保留的各个卷积核更新所述代理模型；将达到预设终止条件时生成的对抗样本作为最终的对抗样本。该方法具备更强的迁移性能以及更高的黑盒攻击的成功率。
基于代理模型对抗样本生成方法装置计算设备

[发明专利]模型处理方法、装置、介质和计算设备-CN202010938923.7有效
发明人：张旭东;唐家渝;萧子豪;田天 -专利权人：北京瑞莱智慧科技有限公司
申请日： 2020-09-09 - 公布日： 2021-01-15 - 主分类号： G06F11/36 文献下载
摘要：本发明提供了一种模型处理方法、装置、介质和计算设备，该方法包括：通过预设方式得到待处理的模型；提供处理所述模型的信息，基于所述信息至少能够得到处理任务的目标和与所述处理任务相关的数据集；根据提供的信息配置处理方案，其中，所述处理方案至少包括攻击算法信息和攻击参数信息；执行所述处理方案以得到所述模型的处理结果，其中，所述处理结果至少包括所述模型的安全性测评结果。本发明能够根据提供的模型和相关信息自动配置处理任务，简化了用户的操作流程，并且最后可以自动汇总执行测评任务后得到的测评结果，大大方便了用户，使得用户能够通过简单易学的操作得到模型的安全性能，而无需花费大量的时间精力学习开源测试工具。
模型处理方法装置介质计算设备

[发明专利]多样本对抗扰动生成方法、装置、存储介质和计算设备-CN202010884302.5有效
发明人： 萧子豪;朱军;田天 -专利权人：北京智源人工智能研究院
申请日： 2020-08-28 - 公布日： 2020-12-29 - 主分类号： G06K9/62 文献下载
摘要：本发明提供了一种多样本对抗扰动生成方法、装置、存储介质和计算设备，该方法包括获取多个样本图像和对抗扰动；根据所述多个样本图像和对抗扰动生成对应的多个对抗样本；将所述多个对抗样本输入预设的判别模型，得到所述多个对抗样本的识别结果；根据所述多个对抗样本的识别结果以及所述多个对抗样本对应的样本图像的标签得到所述多个对抗样本的识别置信度；按照由大到小的顺序根据所述识别置信度为所述多个对抗样本排序；选取排序在前的预设比例的多个对抗样本；根据第一损失函数基于选取到的多个对抗样本获取在判别模型下的损失；根据所述损失优化所述对抗扰动。从而生成的对抗扰动能够与更广泛的样本图像配合成功攻击图像识别模型。
多样对抗扰动生成方法装置存储介质计算设备

[发明专利]多样本对抗扰动生成方法、装置、存储介质和计算设备-CN202010883725.5有效
发明人： 萧子豪;高威;田天 -专利权人：北京智源人工智能研究院
申请日： 2020-08-28 - 公布日： 2020-11-24 - 主分类号： G06K9/62 文献下载
摘要：本发明提供了一种多样本对抗扰动生成方法、装置、存储介质和计算设备，该方法包括：根据多个样本图像和对抗扰动生成对应的多个对抗样本；将所述多个对抗样本输入预设的判别模型，以得到所述多个对抗样本在正确标签下的识别置信度；基于所述识别置信度对所述多个对抗样本进行筛选，选取其中识别置信度符合预设阈值的至少一个对抗样本；根据第一损失函数基于选取到的至少一个对抗样本获取在判别模型下的损失；根据所述损失优化所述对抗扰动。本发明的方法能够筛选样本图像中更加不容易被攻击的样本图像，并以此为基础迭代对抗扰动，使得最后生成的对抗扰动能够与更广泛的样本图像配合成功攻击图像识别模型。
多样对抗扰动生成方法装置存储介质计算设备

[发明专利]对抗样本及其生成方法、介质、装置和计算设备-CN201910988796.9有效
发明人： 萧子豪 -专利权人：北京瑞莱智慧科技有限公司
申请日： 2019-10-17 - 公布日： 2020-10-23 - 主分类号： G06K9/62 文献下载
摘要：本发明的实施方式提供了一种对抗样本生成方法，该方法包括：分别获取攻击对象的图像和被攻击对象的图像；根据被攻击对象的图像选取待融合的特征图像；基于攻击对象的图像以及所述特征图像进行图像融合；基于融合后的图像得到对抗样本。本发明所公开的技术方案在生成对抗样本时，不需要获取和/或运行与被攻击模型相同或相似的模型，节省了计算资源，此外，根据本发明公开的一个技术方案，可以采用基于图像融合的对抗样本作为初始化，能够显著提升现有的基于优化的对抗样本生成方法的攻击成功率，本发明的实施方式提供了一种对抗样本生成装置、介质和计算设备。
对抗样本及其生成方法介质装置计算设备

[发明专利]对抗样本生成方法、装置、介质和计算设备-CN201910491156.7有效
发明人： 萧子豪;董胤蓬;杨定澄 -专利权人：北京瑞莱智慧科技有限公司
申请日： 2019-06-06 - 公布日： 2020-10-09 - 主分类号： G06K9/00 文献下载
摘要：本发明提供了对抗样本生成的方法，包括：获取第一样本图像，其中，所述第一样本图像为攻击对象的图像；基于所述第一样本图像，以预设的白盒替代模型的识别对象的相似度函数在不同拍摄条件下的数学期望为目标函数进行求解，生成特定区域的干扰图像；将所述第一样本图像叠加所述干扰图像，生成对抗样本。本发明利用白盒替代模型生成对抗样本，可以提升攻击效率，快速检测图像识别模型是否存在潜在漏洞，提高图像识别模型的评估，提升图像识别模型的安全性。此外，本发明的实施方式提供了一种对抗样本生成装置、介质和计算设备。
对抗样本生成方法装置介质计算设备

1
2
下一页»
尾页
共 16 条