CN113837235B - 基于社交网络隐私协商系统的智能体行为追责方法 - Google Patents
基于社交网络隐私协商系统的智能体行为追责方法 Download PDFInfo
- Publication number
- CN113837235B CN113837235B CN202111008500.6A CN202111008500A CN113837235B CN 113837235 B CN113837235 B CN 113837235B CN 202111008500 A CN202111008500 A CN 202111008500A CN 113837235 B CN113837235 B CN 113837235B
- Authority
- CN
- China
- Prior art keywords
- negotiation
- agent
- responsibility
- data
- behavior
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 149
- 230000006399 behavior Effects 0.000 claims abstract description 103
- 230000008569 process Effects 0.000 claims abstract description 83
- 238000013139 quantization Methods 0.000 claims abstract description 15
- 238000004088 simulation Methods 0.000 claims abstract description 11
- 239000003795 chemical substances by application Substances 0.000 claims description 142
- 230000003993 interaction Effects 0.000 claims description 44
- 239000003999 initiator Substances 0.000 claims description 31
- 238000004364 calculation method Methods 0.000 claims description 11
- 238000011002 quantification Methods 0.000 claims description 11
- 230000002452 interceptive effect Effects 0.000 claims 1
- 230000006870 function Effects 0.000 description 7
- 239000011159 matrix material Substances 0.000 description 6
- 230000004044 response Effects 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 230000010354 integration Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 230000003542 behavioural effect Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000009191 jumping Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
- G06F21/55—Detecting local intrusion or implementing counter-measures
- G06F21/552—Detecting local intrusion or implementing counter-measures involving long-term monitoring or reporting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/194—Calculation of difference between files
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Computer Security & Cryptography (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Computation (AREA)
- Evolutionary Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Hardware Design (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种基于社交网络隐私协商系统的智能体行为追责方法，通过定性追责和定量追责过程实现智能体行为追责，在定性追责过程中采用正向模拟协商过程和逆向复现协商过程的方法，准确判断隐私协商智能体是否存在不当行为并在存在不当行为时精准锁定其具体发生位置。进一步提出了简单量化方法、加权马氏距离方法、改进Minhash方法共3种定量追责方法，能够求得隐私协商智能体的责任量化值，从而对不当行为的严重程度进行量化。本发明解决了当前社交网络隐私协商系统中智能体存在的不可信、不安全、恶意行为问题。
Description
技术领域
本发明涉及网络隐私保护技术领域，尤其涉及一种基于社交网络隐私协商系统的智能体行为追责方法。
背景技术
快速发展的社交网络在一定程度上改变了人们之间传统的沟通交流方式，促进了信息分享的广泛发生，但也带来了严重的隐私泄露问题。
除去传统隐私保护技术，基于神经网络等人工智能技术的隐私保护方法日益兴起。此类方法将人工智能技术与隐私保护机制相结合，解决不公平、隐私侵犯、模型不安全等问题，达到高效保护用户分享的信息(如照片)等目的。如Kekulluoglu等人基于描述逻辑建立了基于智能体的互惠隐私协商体系，以协助社交网络用户在信息分享前达成隐私保护共识，起到提前避免隐私泄露的效果。在借助智能体进行隐私协商的同时，能够对智能体的行为进行追责，对于提升系统的透明、可解释性具有重要的意义。但目前关于追责的研究主要聚焦于电子投票、安全协议等方面，较少关注智能体领域。
发明内容
本发明的目的在于提供一种基于社交网络隐私协商系统的智能体行为追责方法，旨在解决当前社交网络隐私协商系统中智能体存在的不可信、不安全、恶意行为问题。
为实现上述目的，本发明采用的一种基于社交网络隐私协商系统的智能体行为追责方法，包括下列步骤：
步骤1、确定参与协商的智能体，从协商数据库中提取实际协商数据；
步骤2、判断是否进行了协商，若未进行协商，直接转到步骤6，否则，继续执行下一步骤；
步骤3、正向模拟协商过程获得所需协商过程数据，并将所述所需协商过程数据设置为正向阈值；
步骤4、逆向复现协商过程计算各个所述智能体应有的行为数据，并将所述行为数据设置为逆向阈值；
步骤5、综合所述正向阈值和所述逆向阈值判断智能体不当行为及所述不当行为的发生位置；
步骤6、输出定性追责结果，若存在责任，继续执行下一步，否则，结束追责；
步骤7、提取定性追责确定的不当行为，使用简单量化方法验证定性追责结果；
步骤8、计算责任量化值，输出定量追责结果。
其中，在步骤5综合所述正向阈值和所述逆向阈值判断智能体不当行为及所述不当行为的发生位置的过程中，还需要判断是否判别完所有的交互过程，
若已完成，继续执行步骤6；
若未完成，转回执行步骤3。
其中，所述实际协商数据包括协商过程的各智能体及其各次交互过程中的行为数据。
其中，所述正向模拟协商过程为模拟智能体完全诚实可信情况下的协商过程。
其中，在综合所述正向阈值和所述逆向阈值判断智能体不当行为及所述不当行为的发生位置的过程中，借助所述正向阈值粗略判断智能体不当行为及所述不当行为的发生位置，同时借助逆向阈值准确判断智能体不当行为及所述不当行为的发生位置。
其中，在计算责任量化值的步骤，包括：判断所述实际协商数据中是否包含文本型数据，
若无文本型数据，即仅包含数值型数据，则使用加权马氏距离方法计算；
若包含文本型数据，则使用改进Minhash方法计算。
本发明的一种基于社交网络隐私协商系统的智能体行为追责方法，以Kekulluoglu等人提出的基于智能体的互惠隐私协商体系为基础，设计实现了用于社交网络隐私协商、具有定性追责和定量追责的智能体行为追责方法，其中，定性追责方法可以准确判断隐私协商智能体是否存在不当行为并能够精准锁定不当行为具体发生位置；定量追责包含简单量化、加权马氏距离和改进Minhash 三种方法，能够量化智能体不当行为的严重程度。本发明解决了当前社交网络隐私协商系统中智能体存在的不可信、不安全、恶意行为问题。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本发明的基于社交网络隐私协商系统的智能体行为追责方法的流程示意图。
图2是本发明的定性追责流程图。
图3是本发明的简单量化流程图。
图4是本发明的加权马氏距离方法流程图。
图5是本发明的改进Minhash方法实现过程示意图。
具体实施方式
下面详细描述本发明的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本发明，而不能理解为对本发明的限制。
请参阅图1，本发明提出了一种基于社交网络隐私协商系统的智能体行为追责方法，包括下列步骤：
步骤1、确定参与协商的智能体，从协商数据库中提取实际协商数据；
步骤2、判断是否进行了协商，若未进行协商，直接转到步骤6，否则，继续执行下一步骤；
步骤3、正向模拟协商过程获得所需协商过程数据，并将所述所需协商过程数据设置为正向阈值；
步骤4、逆向复现协商过程计算各个所述智能体应有的行为数据，并将所述行为数据设置为逆向阈值；
步骤5、综合所述正向阈值和所述逆向阈值判断智能体不当行为及所述不当行为的发生位置；
步骤6、输出定性追责结果，若存在责任，继续执行下一步，否则，结束追责；
步骤7、提取定性追责确定的不当行为，使用简单量化方法验证定性追责结果；
步骤8、计算责任量化值，输出定量追责结果。
在步骤5综合所述正向阈值和所述逆向阈值判断智能体不当行为及所述不当行为的发生位置的过程中，还需要判断是否判别完所有的交互过程，
若已完成，继续执行步骤6；
若未完成，转回执行步骤3。
所述实际协商数据包括协商过程的各智能体及其各次交互过程中的行为数据。
所述正向模拟协商过程为模拟智能体完全诚实可信情况下的协商过程。
在综合所述正向阈值和所述逆向阈值判断智能体不当行为及所述不当行为的发生位置的过程中，借助所述正向阈值粗略判断智能体不当行为及所述不当行为的发生位置，同时借助逆向阈值准确判断智能体不当行为及所述不当行为的发生位置。
在计算责任量化值的步骤，包括：判断所述实际协商数据中是否包含文本型数据，
若无文本型数据，即仅包含数值型数据，则使用加权马氏距离方法计算；
若包含文本型数据，则使用改进Minhash方法计算。
所述基于社交网络隐私协商系统的智能体行为追责方法包含两个过程，分别是定性追责过程和定量追责过程。以下结合具体实例，并参照附图，对本发明进一步详细阐述。
请参阅图2，展示的是定性追责流程图，定性追责过程包含6个步骤：
步骤1、确定参与协商的智能体，从协商数据库中提取实际协商数据；
在本发明中使用的数据集为隐私协商系统中的真实协商数据，该数据集包含了协商过程的各智能体及其各次交互过程中的行为数据。由于协商数据中包含了多个智能体间的多次协商，在追责前需要提取出涉及隐私泄露的智能体相关协商数据进行后续的追责。
步骤2、判断是否进行了协商，若未进行协商，直接转到步骤6，否则，继续执行下一步骤；
主要判断获取的智能体协商数据是否为空，若为空，说明发起者智能体未进行协商便分享信息造成隐私泄露，可直接判定责任；若进行了协商，则进行后续的步骤。
步骤3、正向模拟协商过程获得所需协商过程数据，并将所述所需协商过程数据设置为正向阈值；
正向模拟协商过程主要是模拟智能体完全诚实可信环境下进行隐私协商过程，获取各智能体相关行为指标的阈值。
针对发起者智能体(in)的正向阈值为：观众列表指标(Au)包含观众数量和观众姓名集合两个正向阈值，分别表示交互过程中的观众数量和具体观众的姓名，主要用于判别交互过程中发起者智能体有无隐瞒观众的行为；积分指标(Pin)正向阈值为交互过程中发起者智能体拟支付的积分，该阈值为理论上发起者智能体支付的积分；效用指标(Uin)正向阈值需要通过效用函数计算；协商结果指标(Cr)主要用来分析发起者智能体在交互过程中的行为(如，修改信息分享请求)，并与协商者智能体在上次交互中的回应进行比较，判定发起者智能体是否存在不当行为。
针对协商者智能体(ng)的正向阈值为：敏感观众列表指标(Vng)包含敏感观众数量和敏感观众姓名集合两个正向阈值，分别表示交互过程中的敏感观众数量和具体敏感观众的姓名；权重指标(W)包含3个正向阈值，第一个为权重集合，表示不同敏感观众对协商者智能体的隐私造成损害的程度各异，第二个、第三个分别表示按照权重大小排序后的敏感观众姓名集合、敏感观众数量集合。本方法中，在可信环境下推理敏感观众列表指标阈值的同时，也会分类出不同权重及各权重下的观众集合，并统计该集合的数量；效用指标(Ung)的正向阈值为协商者智能体理论效用；积分指标(Png)的正向阈值为交互过程中协商者智能体期望得到的积分；协商结果(Cr)的正向阈值为协商者智能体对发起者智能体请求的回应结果。
步骤4、逆向复现协商过程计算各个所述智能体应有的行为数据，并将所述行为数据设置为逆向阈值；
逆向复现协商过程即从协商结果出发，依次逆向计算各个智能体应有的行为数据。
逆向阈值是完成定性追责过程的关键因素，因此对各指标的阈值获取方式进行详细介绍：
假设协商过程包含n次交互，i为协商过程中的第i次交互。
步骤4.1、判断交互次数，若为第一次(i＝1)转到步骤4.2，若为中间次(1<i<n) 转到步骤4.3，若为最后一次(i＝n)转到步骤4.4；
步骤4.2、计算第一次交互中发起者智能体观众、积分、协商结果的行为指标阈值，并计算协商者智能体敏感观众、权重、协商结果的行为指标阈值；
步骤4.3、计算中间次交互中发起者智能体观众、积分、效用值、协商结果的行为指标阈值，并计算协商者智能体敏感观众、权重、效用值、协商结果的行为指标阈值；
步骤4.4、计算最后一次发起者智能体观众、积分、效用值、协商结果的行为指标阈值，并计算协商者智能体敏感观众、权重、效用值、协商结果的行为指标阈值；
针对发起者智能体：
积分指标包含两个逆向阈值，第1个为逆向复现协商过程中根据下式(1) 求得的发起者智能体应支付的积分主要用于衡量发起者智能体是否按照要求修改支付积分；第2个为逆向复现协商过程中根据下式(3)求得的协商者智能体持有积分的增加值/>在智能体协商完成后，即最后一次交互结束后交互双方会展示最终积分持有数，依据最终积分值及最初积分值可以衡量交互过程中积分的实际变化并进行对比，公式(3)仅在步骤4.4中使用。
公式(1)中为协商者智能体在第i次交互中关于信息分享请求的效用值，umax是协商过程中最大效用，wmax是敏感观众的最大权重，vr是协商者智能体首次指出的敏感观众总数(即最初违反隐私规则的用户总数)，K为协商者智能体隐私规则的总数，/>是第k条隐私规则rk的效用值(采用式(2)计算，其中/>表示隐私规则rk的权重，/>表示违反隐私规则rk的敏感观众数)。P0代表智能体最初持有的积分，/>为协商者智能体的积分权重(设置为0.5)。
公式(3)中，表示协商结束后协商者智能体持有的积分。依据协商者智能体积分变化情况，判断发起者智能体积分支付行为。
效用指标包含两个逆向阈值：第1个阈值为发起者智能体根据修改后的分享请求计算出的效用值由公式(4)计算；第2个阈值为发起者智能体根据协商者智能体的回应计算出的效用值/>由公式(5)计算。
公式(5)中，tin为发起者智能体效用值的最低要求，为第i次交互过程中发起者智能体拟支付的积分，/>为发起者智能体的积分权重，/>为第i次交互过程中发起者智能体根据修改后的分享请求计算出的效用值。
针对协商者智能体：
效用指标包含两个逆向阈值：第1个阈值为不包含积分效用时协商者智能体的效用值第2个阈值为包含积分效用时协商者智能体的效用值/>分别由公式(6)、(7)计算。
公式(6)中，tng为协商过程中协商者智能体效用值的最低要求，为第i 次交互过程中协商者智能体拟支付的积分，/>表示第i次交互时协商者智能体基于信息分享请求计算出的效用值。
积分指标包含一个逆向阈值：逆向阈值为根据公式(8)求得的协商者智能体期望得到的积分
公式(8)中，a0表示发起者智能体最初信息分享请求中包含的观众，ai表示第i次交互时发起者智能体信息分享请求中包含的观众，为发起者智能体在第i次交互中关于信息分享请求的效用值。
协商结果指标包含一个逆向阈值：根据下式(9)求得的逆向阈值表示协商者智能体第i次交互对发起者智能体请求的回应结果，其中，Y表示同意请求，N表示不同意请求。
最后，发起者智能体和协商者智能体各指标之间也是有关联性的，当发起者智能体衡量结束发现第i次交互存在问题，需要对协商者智能体第i次及之后的交互再分析一次，得到更准确具体的衡量结果；当协商者智能体衡量结束发现第i次交互存在问题，需要对发起者智能体第i次及之后的交互再分析一次，得到更准确具体的衡量结果。
步骤5、综合所述正向阈值和所述逆向阈值判断智能体不当行为及其发生位置，判断结束后检查是否判别完所有的交互过程，若已完成，继续执行步骤6；若未完成，转回执行步骤3；
追责过程中，借助正向阈值粗略判断智能体不当行为的发生位置，同时借助逆向阈值准确判断智能体不当行为的发生位置，从而得到追责结果。在每次判断结束后，需要检查是否判别完所有的交互过程，若没有，跳转到步骤2，否则，继续后续步骤；
假设Dp是实际协商过程中的行为数据集合，Rp表示协商者智能体对信息分享请求的最终回应。追责服务器对发起者智能体在协商过程中是否存在不当行为的判定公式如(10)所示：
其中，为发起者智能体的正向阈值指标集合，/>为发起者智能体的逆向阈值指标集合。/>为发起者智能体的正向阈值，/>为发起者智能体的逆向阈值。Diin(Dp)为Dp过程中发起者智能体在第i交互的追责结果，当/>中的任意元素/>满足/>且/>中的任意元素/>满足/>且协商者智能体对信息分享请求的最终回应为同意时，该发起者智能体无责任；当/>中存在元素/>满足/>或者/>中存在元素/>满足/>时，该发起者智能体有责任，指标存在不当行为；否则继续进行追责。
追责服务器对协商者智能体在协商过程中是否存在不当行为的判定公式如式(11)所示。
其中，为协商者智能体的正向阈值指标集合，/>为协商者智能体的逆向阈值指标集合。/>为协商者智能体的正向阈值，/>为协商者智能体的逆向阈值。Ding(Dp)为Dp过程中协商者智能体在第i交互的追责结果，当/>中的任意元素/>满足/>且/>中的任意元素/>满足/>时，该协商者智能体无责任；当中存在元素/>满足/>或者/>中存在元素/>满足/>时，该协商者智能体有责任，指标存在不当行为；否则继续进行追责。
步骤6、综合定性追责判别过程数据，输出定性追责结果，若存在责任，继续执行下一步，否则，结束追责。
请参阅图3，展示的是简单量化流程图，定量追责过程包括以下步骤：
步骤7、提取定性追责确定的不当行为，使用简单量化方法验证定性追责结果；
简单量化方法不仅可以对定性追责结果进行验证，还能以较高效率对智能体的不当行为进行简单量化。其在考虑实际协商过程数据和对应阈值的同时，计算智能体在协商过程中不当行为相关数据的变化区间、并为不同行为指标设置不同权重(具体数值由智能体按照所代理用户的隐私保护需求决定)，以表示各指标对于智能体隐私保护的重要性。
简单量化方法的定义为：假设智能体的实际协商过程数据为各指标阈值为TtINDEX，借助于简单量化方法对智能体进行定量追责的公式如下：
公式(12)中，Qen表示对智能体不当行为的整体简单量化， |INDEX|表示集合INDEX中行为指标的总数，ind 为第ind个行为指标。INDEXind表示集合INDEX中第ind个行为指标，Wind表示集合 INDEX中第ind个行为指标的权重，W表示智能体行为权重之和,/>为集合 INDEX中第ind个行为指标对应的实际协商过程数据，/>为集合INDEX中第ind个行为指标对应的阈值，Dconfine为设置的行为相关数据变化区间边界值之差，该变化区间主要依据实际协商过程数据及行为指标阈值获得。
具体实现步骤为：
步骤7.1、计算实际协商过程的值与对应阈值/>的差值，以及变化区间的距离Dconfine；
步骤7.2、计算各指标权重的占比
步骤7.3、借助于公式(12)，计算步骤7.1中的差值与区间距离的比值，与对应的权重占比相乘并求和，得到责任量化结果；
步骤7.4、判断是否计算完所有的交互过程，若完成，则输出简单量化结果；否则，跳转到步骤7.1。
步骤8、计算责任量化值，输出定量追责结果具体步骤如下：判断数据集中是否包含文本型数据，若不包含文本型数据，则使用加权马氏距离方法，从步骤8.a1开始执行；否则，使用改进Minhash方法，从步骤8.b1开始执行。计算结束后，输出定量追责结果。
鉴于传统的马氏距离方法无法计算包含带权重样本的集合间的距离，而为多个行为指标设置不同的权重有助于区分用户对不同行为指标的关注程度，从而使定量追责更具针对性，本发明对传统马氏距离方法进行了改进，提出了加权马氏距离方法，具体流程图如图4所示。该方法用于步骤8中无文本型数据集的计算，具体计算公式如下：
X＝diag(W(xINDEX-tINDEX)) (13)
其中，xINDEX为向量形式表示的实际协商过程数据，tINDEX为向量形式表示的行为指标阈值，W＝(WAu，WPin，WUin，WCr，WVng，WW，WUng，WPng，WCr) 为各行为指标的权重向量，C-1为协方差矩阵。
基于加权马氏距离进行定量追责的步骤如下：
步骤8.a1、通过在限定区间(与简单量化方法中不当行为相关数据的变化区间相同)内随机模拟智能体行为，生成用于训练协方差矩阵的训练集，进一步获得协方差矩阵C-1；
步骤8.a2、借助于式(14)，求得加权马氏距离值dQ'；
步骤8.a3、计算实际数据与其限定区间左右边界间的距离d1、d2；
步骤8.a4、借助于式(15)，求得责任量化值Qm。
步骤8.a5、判断是否计算完所有的交互过程，若完成，则输出加权马氏距离结果；否则，跳转到步骤8.1。
图5是改进Minhash方法实现过程。该方法用于步骤8中包含文本型数据集的计算。
Minhash：给定通用集U及其子集假设有D个hash函数，表示为/>其中，hd:U→U，S的Minhash集合(也称为签名矩阵)是指每个hash函数中哈希值最小的元素组成的集合，表示为/>
根据Minhash相关理论，集合生成相同Minhash值的概率等于其Jaccard相似度：
针对同时包含数值和文本的数据，在使用传统Minhash方法计算数据间的相似度时，若不对数据进行划分，将导致计算准确度差；若使用Shingling方法对数据进行划分，数值型数据被视作文本强行划分，破坏数值型数据的本源意义；同时Minhash方法中存在数据去重现象(将多个相同数据并为单个数据进行处理)，将降低计算准确度。为缓解这些问题，本发明提出了改进Minhash 方法：首先，对数据进行分类，以针对不同类型的数据分别进行hash计算，并采用Shingling方法对文本型数据进行划分；其次，引入权重的概念，区分不同数据的重要程度；第三，为避免数据去重的发生，对重复数据进行了单一化处理。
改进Minhash方法的具体实现步骤如下：
步骤8.b1、将数据分为文本型数据和数值型数据，并采用shingling方法将文本型数据划分为多个独立的文本块；
步骤8.b2、对分类/划分后的数据赋予权重，并根据权重进行数据的局部单一化处理。单一化处理的基本思想是在保证数据可行且不影响实验结果的前提下，修改重复数据：对于数值型数据，通过加(或减)适当的值来生成新的数据，如：初始数据为{10；15}，权重设置为{3；2}，加入权重及进行局部单一化处理后的数据为{10,15,20；15,20}；对于文本型数据，通过添加不同标记生成新的数据，如数据John的权重为3，基于权重进行数据扩充及单一化处理后的结果为John，John’，John”；
步骤8.b3、对加入权重后的数据进行全局单一化处理，其基本思想同数据的局部单一化处理；如：将{10,15,20；15,20}进行全局单一化处理后的结果为 {10,15,20；16,21}。需要注意的是，在调整数值时要同步考虑两个数据集中的相同位置，即如果对应位置的数据相同，修改后也需要相同；如果不同，修改后则需不同；
步骤8.b4、进行数据间的相似度计算，并计算最终的责任量化值。
假设数据向量为x，为x中指标/>的权重，带权重的hash计算公式如下：
公式(17)中，1≤d≤D，D为hash函数总量，D个hash函数的最小值构成数据向量x的签名矩阵同上，数据向量y的签名矩阵为/>
进一步地，计算数据向量x与数据向量y间的相似度。本发明中采用了两种相似度计算公式，分别如式(18)、式(19)所示。
其中，当hd(x)＝hd(y)成立时，IF{hd(x)＝hd(y)}＝1，否则，IF{hd(x)＝hd(y)}＝0.
同时，计算的交集和并集，并采用如下公式计算Jaccard 相似度：
最后借助公式(20)(21)分别计算最终的责任量化值.
QMinhash＝1-simMinhash (20)
QJaccard＝1-simJaccard (21)
以上所揭露的仅为本发明一种较佳实施例而已，当然不能以此来限定本发明之权利范围，本领域普通技术人员可以理解实现上述实施例的全部或部分流程，并依本发明权利要求所作的等同变化，仍属于发明所涵盖的范围。
Claims (5)
1.一种基于社交网络隐私协商系统的智能体行为追责方法，其特征在于，包括下列步骤：
步骤1、确定参与协商的智能体，从协商数据库中提取实际协商数据；
步骤2、判断是否进行了协商，若未进行协商，直接转到步骤6，否则，继续执行下一步骤；
步骤3、正向模拟协商过程获得所需协商过程数据，并将所述所需协商过程数据设置为正向阈值；
步骤4、逆向复现协商过程计算各个所述智能体应有的行为数据，并将所述行为数据设置为逆向阈值；
逆向复现协商过程即从协商结果出发，依次逆向计算各个智能体应有的行为数据，具体为计算交互中发起者智能体观众、积分、效用值、协商结果的行为指标阈值，并计算协商者智能体敏感观众、权重、效用值、协商结果的行为指标阈值；
步骤5、综合所述正向阈值和所述逆向阈值判断智能体不当行为及所述不当行为的发生位置；
步骤6、输出定性追责结果，若存在责任，继续执行下一步，否则，结束追责；
步骤7、提取定性追责确定的不当行为，使用简单量化方法验证定性追责结果；
步骤8、计算责任量化值，输出定量追责结果；
在计算责任量化值的步骤中，判断所述实际协商数据中是否包含文本型数据，
若无文本型数据，即仅包含数值型数据，则使用加权马氏距离方法计算；若包含文本型数据，则使用改进Minhash方法计算。
2.如权利要求1所述的基于社交网络隐私协商系统的智能体行为追责方法，其特征在于，在步骤5综合所述正向阈值和所述逆向阈值判断智能体不当行为及所述不当行为的发生位置的过程中，还需要判断是否判别完所有的交互过程，
若已完成，继续执行步骤6；
若未完成，转回执行步骤3。
3.如权利要求1所述的基于社交网络隐私协商系统的智能体行为追责方法，其特征在于，所述实际协商数据包括协商过程的各智能体及其各次交互过程中的行为数据。
4.如权利要求1所述的基于社交网络隐私协商系统的智能体行为追责方法，其特征在于，所述正向模拟协商过程为模拟智能体完全诚实可信情况下的协商过程。
5.如权利要求1所述的基于社交网络隐私协商系统的智能体行为追责方法，其特征在于，在综合所述正向阈值和所述逆向阈值判断智能体不当行为及所述不当行为的发生位置的过程中，借助所述正向阈值粗略判断智能体不当行为及所述不当行为的发生位置，同时借助逆向阈值准确判断智能体不当行为及所述不当行为的发生位置。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111008500.6A CN113837235B (zh) | 2021-08-31 | 2021-08-31 | 基于社交网络隐私协商系统的智能体行为追责方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111008500.6A CN113837235B (zh) | 2021-08-31 | 2021-08-31 | 基于社交网络隐私协商系统的智能体行为追责方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113837235A CN113837235A (zh) | 2021-12-24 |
| CN113837235B true CN113837235B (zh) | 2024-02-09 |
Family
ID=78961671
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111008500.6A Active CN113837235B (zh) | 2021-08-31 | 2021-08-31 | 基于社交网络隐私协商系统的智能体行为追责方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113837235B (zh) |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109271806A (zh) * | 2018-08-14 | 2019-01-25 | 同济大学 | 基于用户行为的隐私保护机制研究 |
| CN109993212A (zh) * | 2019-03-06 | 2019-07-09 | 西安电子科技大学 | 社交网络图片分享中的位置隐私保护方法、社交网络平台 |
| CN110175327A (zh) * | 2019-05-11 | 2019-08-27 | 复旦大学 | 一种基于隐私信息检测的数据隐私性量化评估方法 |
| CN110378142A (zh) * | 2019-04-16 | 2019-10-25 | 江苏慧中数据科技有限公司 | 基于李雅普诺夫优化对无限数据流差分隐私保护的方法 |
-
2021
- 2021-08-31 CN CN202111008500.6A patent/CN113837235B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109271806A (zh) * | 2018-08-14 | 2019-01-25 | 同济大学 | 基于用户行为的隐私保护机制研究 |
| CN109993212A (zh) * | 2019-03-06 | 2019-07-09 | 西安电子科技大学 | 社交网络图片分享中的位置隐私保护方法、社交网络平台 |
| CN110378142A (zh) * | 2019-04-16 | 2019-10-25 | 江苏慧中数据科技有限公司 | 基于李雅普诺夫优化对无限数据流差分隐私保护的方法 |
| CN110175327A (zh) * | 2019-05-11 | 2019-08-27 | 复旦大学 | 一种基于隐私信息检测的数据隐私性量化评估方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113837235A (zh) | 2021-12-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Busuioc | Accountable artificial intelligence: Holding algorithms to account | |
| CN108428132B (zh) | 欺诈交易识别方法、装置、服务器及存储介质 | |
| WO2021147486A1 (zh) | 一种数据处理方法及装置 | |
| US10346782B2 (en) | Adaptive augmented decision engine | |
| TW201944305A (zh) | 確定業務請求事件的風險機率的方法及裝置 | |
| CN111681091B (zh) | 基于时间域信息的金融风险预测方法、装置及存储介质 | |
| CN111401558A (zh) | 数据处理模型训练方法、数据处理方法、装置、电子设备 | |
| CN106874253A (zh) | 识别敏感信息的方法及装置 | |
| CN111191642B (zh) | 基于多任务分类的指纹防伪识别方法、装置及电子设备 | |
| Treleaven et al. | Algorithms: law and regulation | |
| US10546106B2 (en) | Biometric verification | |
| WO2022116438A1 (zh) | 客服违规质检方法、装置、计算机设备及存储介质 | |
| CN112214402B (zh) | 一种代码验证算法的选择方法、装置及存储介质 | |
| CN111861238A (zh) | 高速公路桥梁工程风险评估方法、装置及计算机设备 | |
| CN112634017A (zh) | 远程开卡激活方法、装置、电子设备及计算机存储介质 | |
| CN113330462A (zh) | 使用软最近邻损失的神经网络训练 | |
| CN113837235B (zh) | 基于社交网络隐私协商系统的智能体行为追责方法 | |
| Oliseenko et al. | How old users are? Community analysis | |
| CN116777646A (zh) | 基于人工智能的风险识别方法、装置、设备及存储介质 | |
| CN112364136B (zh) | 关键词生成方法、装置、设备及存储介质 | |
| CN110717037A (zh) | 对用户分类的方法和装置 | |
| CN110362981B (zh) | 基于可信设备指纹判断异常行为的方法及系统 | |
| CN113887214A (zh) | 基于人工智能的意愿推测方法、及其相关设备 | |
| CN114169007A (zh) | 基于动态神经网络的医疗隐私数据识别方法 | |
| CN110648048A (zh) | 小程序签约事件处理方法、装置、服务器及可读存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| TA01 | Transfer of patent application right |
Effective date of registration: 20231219 Address after: 541004 1 Jinji Road, Qixing District, Guilin, the Guangxi Zhuang Autonomous Region Applicant after: GUILIN University OF ELECTRONIC TECHNOLOGY Applicant after: Jinan University Address before: 510632 No. 601, Whampoa Avenue, Guangzhou, Guangdong Applicant before: Jinan University |
|
| TA01 | Transfer of patent application right | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |