[发明专利]基于社交网络隐私协商系统的智能体行为追责方法

说明书

本发明公开了一种基于社交网络隐私协商系统的智能体行为追责方法，通过定性追责和定量追责过程实现智能体行为追责，在定性追责过程中采用正向模拟协商过程和逆向复现协商过程的方法，准确判断隐私协商智能体是否存在不当行为并在存在不当行为时精准锁定其具体发生位置。进一步提出了简单量化方法、加权马氏距离方法、改进Minhash方法共3种定量追责方法，能够求得隐私协商智能体的责任量化值，从而对不当行为的严重程度进行量化。本发明解决了当前社交网络隐私协商系统中智能体存在的不可信、不安全、恶意行为问题。

技术领域

本发明涉及网络隐私保护技术领域，尤其涉及一种基于社交网络隐私协商系统的智能体行为追责方法。

背景技术

快速发展的社交网络在一定程度上改变了人们之间传统的沟通交流方式，促进了信息分享的广泛发生，但也带来了严重的隐私泄露问题。

除去传统隐私保护技术，基于神经网络等人工智能技术的隐私保护方法日益兴起。此类方法将人工智能技术与隐私保护机制相结合，解决不公平、隐私侵犯、模型不安全等问题，达到高效保护用户分享的信息(如照片)等目的。如Kekulluoglu等人基于描述逻辑建立了基于智能体的互惠隐私协商体系，以协助社交网络用户在信息分享前达成隐私保护共识，起到提前避免隐私泄露的效果。在借助智能体进行隐私协商的同时，能够对智能体的行为进行追责，对于提升系统的透明、可解释性具有重要的意义。但目前关于追责的研究主要聚焦于电子投票、安全协议等方面，较少关注智能体领域。

发明内容

本发明的目的在于提供一种基于社交网络隐私协商系统的智能体行为追责方法，旨在解决当前社交网络隐私协商系统中智能体存在的不可信、不安全、恶意行为问题。

为实现上述目的，本发明采用的一种基于社交网络隐私协商系统的智能体行为追责方法，包括下列步骤：

步骤1、确定参与协商的智能体，从协商数据库中提取实际协商数据；

步骤2、判断是否进行了协商，若未进行协商，直接转到步骤6，否则，继续执行下一步骤；

步骤3、正向模拟协商过程获得所需协商过程数据，并将所述所需协商过程数据设置为正向阈值；

步骤4、逆向复现协商过程计算各个所述智能体应有的行为数据，并将所述行为数据设置为逆向阈值；

步骤5、综合所述正向阈值和所述逆向阈值判断智能体不当行为及所述不当行为的发生位置；

步骤6、输出定性追责结果，若存在责任，继续执行下一步，否则，结束追责；

步骤7、提取定性追责确定的不当行为，使用简单量化方法验证定性追责结果；

步骤8、计算责任量化值，输出定量追责结果。

其中，在步骤5综合所述正向阈值和所述逆向阈值判断智能体不当行为及所述不当行为的发生位置的过程中，还需要判断是否判别完所有的交互过程，

若已完成，继续执行步骤6；

若未完成，转回执行步骤3。

其中，所述实际协商数据包括协商过程的各智能体及其各次交互过程中的行为数据。

其中，所述正向模拟协商过程为模拟智能体完全诚实可信情况下的协商过程。

其中，在综合所述正向阈值和所述逆向阈值判断智能体不当行为及所述不当行为的发生位置的过程中，借助所述正向阈值粗略判断智能体不当行为及所述不当行为的发生位置，同时借助逆向阈值准确判断智能体不当行为及所述不当行为的发生位置。

其中，在计算责任量化值的步骤，包括：判断所述实际协商数据中是否包含文本型数据，

若无文本型数据，即仅包含数值型数据，则使用加权马氏距离方法计算；