[发明专利]一种人工智能产品的技术风险评估方法及系统

说明书

本发明公开了一种人工智能产品的技术风险评估方法及系统，建立面向人工智能产品的“风险域—风险子域—度量元”层次化的技术风险模型，每个风险域均有对应的风险子域，每个风险子域包含对应的度量元；根据待评估产品特性及评估需求确定该产品的风险域对应的风险子域及度量元，制定针对具体的技术风险模型；根据待评估人工智能产品的技术风险模型，收集技术风险评估要求的多个度量元结果；根据预先建立的技术风险评估通过准则对多个度量元结果进行评估，得出技术风险评估结论。本发明从多个角度考虑人工智能产品的技术风险，建立了人工智能产品的开发和应用全生命周期涉及的人工智能技术风险评估方法，解决了人工智能产品的技术风险评估模型缺失的问题。

技术领域

本发明涉及风险评估技术领域，具体涉及一种人工智能产品的技术风险评估方法及系统。

背景技术

近年来，人工智能(Artificial Intelligence，AI)技术出现了第三次发展高潮，强大的硬件基础、海量数据和先进的人工智能算法均为人工智能技术赋予了强大的动力，人工智能产品已经在智慧医疗、智慧交通、智慧司法、智能教育等方面取得了较大的突破。

但是，人工智能在给人类生活带来种种益处的同时，也带来了许多风险。确保人工智能技术平稳安全落地，积极做好人工智能的政策引导与合理规制，推进人工智能风险评估研究，对实现人工智能产品健康持续发展显得尤为重要。但是现有技术中并没有较为全面的评估技术针对人工智能产品的进行风险评估。

发明内容

因此，本发明要解决的技术问题在于克服现有技术中人工智能产品的技术风险评估方法缺乏的不足，从而提供一种人工智能产品的技术风险评估方法及系统。

为达到上述目的，本发明提供如下技术方案：

第一方面，本发明实施例提供一种人工智能产品的技术风险评估方法，包括如下步骤：

建立面向人工智能产品的“风险域——风险子域——度量元”层次化的技术风险模型，其中每个风险域均有对应的风险子域，每个风险子域包含对应的度量元；

根据待评估人工智能产品特性及评估需求，确定待评估人工智能产品的风险域对应的风险子域及度量元，制定针对所述待评估人工智能产品的技术风险模型；

根据所述待评估人工智能产品的技术风险模型，收集技术风险评估要求的多个度量元结果；

根据预先建立的技术风险评估通过准则对多个度量元结果进行评估，得出技术风险评估结论。

在一实施例中，风险域包括：数据集风险、算法模型风险、系统运行风险；其中，

数据集风险的风险子域包括：无偏性、完整性、有效性、保密性、准确性和数据集分布平衡性；

算法模型风险的风险子域包括：鲁棒性、模型覆盖率、准确性、透明性、算法依赖性、可解释性和抗欺骗攻击性；

系统运行风险的风险子域包括：功能安全性、可预测性、可复现性、容错性、可追溯性、可控性和适应性。

在一实施例中，数据集完整性的度量元包括：数据集模型完整性、数据集模型属性完整性、元数据完整性；

数据集有效性的度量元包括：数据集有效性比率、数据元素有效性；

数据集保密性的度量元包括：加密使用和非脆弱性；

数据集准确性的度量元包括：语义准确性、数据集不准确性风险、元数据准确性；

数据集分布平衡性的度量元包括：类别平衡和错分成本平衡；

算法模型鲁棒性的度量元包括：非正常样本中输出正确率、局部对抗鲁棒性、全局对抗鲁棒性；

算法模型准确性的度量元包括：精准率和准确率；