CN112733114B - 一种面向智能家居的隐私保护人脸识别系统及方法 - Google Patents

一种面向智能家居的隐私保护人脸识别系统及方法 Download PDF

Info

Publication number
CN112733114B
CN112733114B CN202110050032.2A CN202110050032A CN112733114B CN 112733114 B CN112733114 B CN 112733114B CN 202110050032 A CN202110050032 A CN 202110050032A CN 112733114 B CN112733114 B CN 112733114B
Authority
CN
China
Prior art keywords
face
module
user
data
identity information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110050032.2A
Other languages
English (en)
Other versions
CN112733114A (zh
Inventor
高雪松
李克秋
刘秀龙
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tianjin University
Original Assignee
Tianjin University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tianjin University filed Critical Tianjin University
Priority to CN202110050032.2A priority Critical patent/CN112733114B/zh
Publication of CN112733114A publication Critical patent/CN112733114A/zh
Application granted granted Critical
Publication of CN112733114B publication Critical patent/CN112733114B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31User authentication
    • G06F21/32User authentication using biometric data, e.g. fingerprints, iris scans or voiceprints
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60Protecting data
    • G06F21/602Providing cryptographic facilities or services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60Protecting data
    • G06F21/64Protecting data integrity, e.g. using checksums, certificates or signatures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Security & Cryptography (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Computer Hardware Design (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computational Linguistics (AREA)
  • Bioethics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Biophysics (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Collating Specific Patterns (AREA)

Abstract

本发明公开了一种面向智能家居的隐私保护人脸识别系统及方法,包括用户端、家居终端设备和认证服务端;提取人脸特征数据,生成并保存加密所需要的密钥,对人脸特征数据加密并保存,并且在用户登录识别时,接收已加密的人脸特征数据,然后进行对比计算,并将识别结果返回给家居终端设备。与现有技术相比,本发明实现了数据资源的隐私保护;可以抵御多种网络攻击手段;保证了密钥在本地的安全,使攻击者的破坏更加难以实现,同时还将通信开销与算法空间复杂度降到最低。

Description

一种面向智能家居的隐私保护人脸识别系统及方法
技术领域
本发明属于信息安全技术领域,尤其涉及一种面向智能家居的隐私保护人脸识别方法及系统、移动终端。
背景技术
随着无线通信,智能感知的进一步发展,物联网技术得到了人们的广泛关注和发展。智能家居是在物联网的影响下家居环境物联化的体现。智能家居通过物联网技术将家中的各种设备(门禁系统、访问控制系统、音视频设备、照明系统、窗帘控制、空调控制、安防系统、网络家电等)连接到一起,提供家电控制、照明控制、窗帘控制、电话远程控制、室内外遥控、防盗报警、环境监测、暖通控制、红外转发以及可编程定时控制等多种功能和手段。然而,智能家居在给人们带来巨大便利的同时,隐私保护也面临了巨大的挑战,并且研究人员在设计之初很少考虑智能家居中的安全性、隐私性问题,传统网络中的安全机制往往不适用于智能家居,使得智能家居在安全方面面临着严峻挑战。并且随着信息科技与人工智能的日益发展,基于生物特征的身份识别是现在及未来身份识别的主要发展方向。人脸识别由于其低成本、非接触、易于提取及易于实现等优势,成为最受欢迎的身份识别方式,并广泛用于银行、移动支付、访问控制等领域。然而,人脸识别系统存在很多安全威胁。一旦攻击者获取了服务提供者存储在数据库中用户们的人脸模板数据,那么这些攻击者/服务提供者可以根据这些模板数据在其他人脸识别系统中进行威胁最大的欺骗攻击即生成对应的人脸假冒用户通过各项人脸识别系统的检测。因此,人脸模板数据不能以明文的形式暴露出来。然而,考虑到隐私保护和识别效率的需求,实现一个面向智能家居的隐私保护人脸识别系统是具有挑战性的。为了找出一种解决上述问题的方法,人们提出了一些解决方案,其中:现有技术“一种基于深度学习人脸识别技术的课堂快速点名签到方法”公开了一种基于深度学习人脸识别技术的课堂快速点名签到方法。这种方法具体是让可移动端摄像头快速采集目标人脸视频,并生成IP地址;服务端在ubuntu系统下连接移动端提供的IP地址,生成一帧一帧图片;根据MTCNN算法检测人脸图片的关键点,选择Procrustes analysis分析方法人脸对齐;根据已对齐后的人脸图片,选择FaceNet算法进行人脸向量特征化;将收集的人脸向量与数据库中人脸图片的特征向量进行对比,按一定阀值找出与目标人脸图片最相似的人脸图片,并生成文本文件。该方法使得在登录时提高了人脸密码作为认证手段的可用性,提高了人脸匹配的性能。但是该方法由于设计者考虑不周,存在人脸模型没有加密,用户数据隐私没有被保护的问题。一旦人脸模型被窃取,不但用户隐私会泄漏,攻击者还可以伪装成用户进行认证,会造成极大危害。
综上所述,现有技术存在的问题是:现有的人脸识别方法存在识别准确度与通信开销和时间开销无法兼顾,用户数据无加密;在应用中会造成用户隐私泄露,且容易被伪造人脸攻击以及认错率高或者通信开销大。
解决上述技术问题的难度和意义:传统的人脸识别技术没有加密模块,一旦系统被攻击就容易泄露用户隐私,同时攻击者还可以伪装用户进行识别,使系统风险大大提高。而同态加密技术又会带来较大的通信开销和计算时间,物联网终端设备的硬件条件无法支持如此巨大的开销。同时,也不能使用可恢复的对称加密,因为会将敏感数据暴露给服务端。因此,需要为智能家居环境下人脸识别找到新型高效隐私保护的加密方法,能够在不影响人脸识别效率和准确率的情况下,实现用户隐私数据的保护,即使数据被窃取也无法被利用。
发明内容
针对现有技术存在的问题,本发明提供了一种面向智能家居的隐私保护人脸识别方法及系统,实现了智能家居环境下人脸识别找到新型高效隐私保护的加密方法,在不影响人脸识别效率和准确率的情况下,实现用户隐私数据的保护。
本发明的一种面向智能家居的隐私保护人脸识别系统,该系统包括依序连接的用户端、家居终端设备和认证服务端;其中:
所述用户端用于采集人脸特征数据和用户身份信息,与用户请求一起提交至家居终端设备;
所述家居终端设备用于接收用户的请求和所采集的人脸特征数据和用户身份信息,将用户请求、人脸特征数据和用户身份信息提交至认证服务端的模型训练模块;
所述认证服务端用于提取人脸特征数据,生成并保存加密所需要的密钥,对人脸特征数据加密并保存,并且在用户登录识别时,接收已加密的人脸特征数据,然后进行对比计算,并将识别结果返回给家居终端设备;
所述认证服务端进一步包括模型训练模块、用户身份信息采集模块、Paillier加密模块、密钥管理模块、安全加密模块、信息存储模块以及身份识别模块:其中:
模型训练模块,用于完成系统初始化,预先选取好计算中要用到的训练模型;所述模型训练模块进一步包括系统初始化模块和数据处理模块:
系统初始化模块用于完成系统初始化,生成训练好的模型数据,生成加密需要的密钥,该模块还包括数据模型生成子模块、密钥生成子模块;所述密钥生成子模块用于生成安全加密模块进行加密计算时所需的密钥,并将注册时生成的密钥存储在本地数据库,以便在身份识别时提取出来使用;所述数据模型生成子模块用于生成神经网络训练所需的数据模型;
数据处理模块用于对人脸特征数据进行人脸检测、人脸图像的剪裁以及归一化预处理和对预处理后的人脸数据提取相应的人脸特征模板向量,该模块还包括人脸数据集预处理子模块、特征向量提取子模块;
密钥管理模块用于将初始化时生成的密钥存储在本地,在进行身份识别时提取出来使用,该模块还包括可信存储子模块;
Paillier加密模块用于采用生成的密钥对提取出的人脸特征向量进行加密,在进行相似度计算过程中将加密后的向量提取出来;Paillier加密模块进一步包括人脸特征模板向量加密模块、向量求模模块;
安全加密模块用于在注册时对人脸特征向量和用户身份信息加密并保存在本地,以便在身份进行识别时提取出来;安全加密模块进一步包括注册加密子模块;
用户身份信息采集模块用于采集提交至认证服务端的人脸特征数据和用户身份信息,并生成人脸特征向量;用户身份信息采集模块进一步包括人脸数据采集子模块、身份信息采集子模块;
信息存储模块用于存储注册阶段已加密的人脸特征向量、认证阶段的人脸特征向量和用户身份信息,并在识别阶段提供用户注册时输入的已加密的人脸特征向量;信息存储模块进一步包括身份信息存储子模块、加密向量存储子模块;
身份识别模块用于在用户进行身份识别时,对比计算识别时输入的人脸特征向量和注册时输入的人脸征向量,产生识别结果并发送给家居终端设备;身份识别模块进一步包括识别信息计算子模块。
本发明的一种面向智能家居的隐私保护人脸识别方法,具体包括以下步骤:
S201:系统初始化,模型训练模块生成注册和识别阶段需要用到神经网络训练的数据模型和密钥;
S202:执行用户人脸注册,步骤具体包括:在家居终端设备收集用户的身份信息以及人脸数据,通过数据处理模块提取人脸特征向量,然后随机生成密钥并发送给安全加密模块和可信存储模块,由安全加密模块将身份信息以及特征向量加密后上传给信息存储模块;
S203:执行用户人脸识别,步骤具体包括:身份识别模块根据身份信息查询用户注册时的人脸特征向量;根据注册的人脸数据计算获得识别结果,最后将结果发送给家居终端设备;用户人脸识别流程包括以下步骤:
步骤51、从用户端录入人脸特征数据和用户身份信息;
步骤52、通过家居终端设备采集人脸数据和用户身份信息;
步骤53、认证服务端获取到认证阶段的人脸模板特征向量y=[y1,y2,…,yn]以及用户身份信息Ii并计算向量的模
Figure GDA0003472292320000051
步骤54、认证服务端将人脸特征向量放入身份识别信息,从而得到向量
Figure GDA0003472292320000052
步骤55、认证服务端根据身份信息从存储模块取出加密后的注册人脸信息
Figure GDA0003472292320000053
放入身份识别模块;
步骤56、身份识别模块使用用户查询的
Figure GDA0003472292320000054
针对数据库中的每一个注册模板对使用下式计算欧氏距离,得到两个模板之间的匹配度,实现模板之间的比对;
步骤57、匹配度是否在规定范围内,该匹配度阈值根据系统安全性与便捷性需求进行自行调整,如果在规定范围内,则表示通过识别,否则认为该用户人脸与注册人脸不匹配;
步骤58、家居终端设备选择结果集EurDistance中得分最低的那个作为匹配结果;在为所有加密人脸模板x计算所有EurDistance之后,家居终端设备找到与y具有最大相似度的{Ii,cx}。
与现有技术相比,本发明具有以下积极的技术效果:
(1)实现了数据资源的隐私保护;在数据传输前对其加密,并且在数据处理过程中保持了加密状态,大大提高了数据的隐私性和安全性,防止物联网终端设备的数据泄露,并且将泄漏损失降到最低;
(2)可以抵御多种网络攻击手段;例如可以抵御中间人攻击,恶意篡改,重放攻击等,大大增强了数据传输的安全性;
(3)采用TrustZone技术,保证了密钥在本地的安全,使攻击者的破坏更加难以实现,同时还将通信开销与算法空间复杂度降到最低,以满足物联网设备的硬件条件。
附图说明
图1是本发明的一种面向智能家居的隐私保护人脸识别系统框架图;
图2是本发明的一种面向智能家居的隐私保护人脸识别方法整体流程图;
图3是本发明实施例的系统初始化流程图;
图4是本发明实施例的用户人脸注册流程图;
图5是本发明实施例的用户人脸识别流程图。
具体实施方式
下面结合附图和实施例对本发明的技术方案进一步说明。
如图1所示,为本发明的一种面向智能家居的隐私保护人脸识别系统结构示意图。该系统包括用户端、家居终端设备和认证服务端三个组成部分。其中:
用户端用于采集人脸特征数据和用户身份信息,与用户请求一起提交至家居终端设备。
家居终端设备用于接收用户的请求和所采集的人脸特征数据和用户身份信息,将请求和信息提交至认证服务端的模型训练模块,模型训练模块包括系统初始化模块和数据处理模块;
认证服务端(例如为智能家居中心主机)用于提取人脸特征数据,生成并保存加密所需要的密钥,对人脸特征数据加密并保存,并且在用户登录识别时,接收已加密的人脸特征数据,然后进行对比计算,并将识别结果返回给家居终端设备;认证服务端进一步包括模型训练模块、用户身份信息采集模块、Paillier加密模块、密钥管理模块、安全加密模块、信息存储模块以及身份识别模块:
模型训练模块,用于完成系统初始化,预先选取好计算中要用到的训练模型;所述模型训练模块进一步包括系统初始化模块和数据处理模块:
系统初始化模块用于完成系统初始化步骤,生成训练好的模型数据,生成加密需要的密钥,该模块还包括数据模型生成子模块、密钥生成子模块;所述密钥生成子模块用于生成安全加密模块进行加密计算时所需的密钥,并将注册时生成的密钥存储在本地数据库,以便在身份识别时提取出来使用;所述数据模型生成子模块用于生成神经网络训练所需的数据模型;
数据处理模块用于对人脸特征数据进行人脸检测、人脸图像的剪裁以及归一化等预处理和对预处理后的人脸数据提取相应的人脸特征模板向量,该模块还包括人脸数据集预处理子模块、特征向量提取子模块。
密钥管理模块用于将初始化时生成的密钥存储在本地,在进行身份识别时提取出来使用,该模块还包括可信存储子模块(TrustZone);
Paillier加密模块用于采用生成的密钥对提取出的人脸特征向量进行加密,在进行相似度计算过程中将加密后的向量提取出来;Paillier加密模块进一步包括人脸特征模板向量加密模块、向量求模模块;
安全加密模块用于在注册时对人脸特征向量和用户身份信息加密并保存在本地,以便在身份进行识别时提取出来;安全加密模块进一步包括注册加密子模块;
用户身份信息采集模块用于采集提交至认证服务端的人脸特征数据和用户身份信息,并生成人脸特征向量;用户身份信息采集模块进一步包括人脸数据采集子模块、身份信息采集子模块;
信息存储模块用于存储注册阶段已加密的人脸特征向量、认证阶段的人脸特征向量和用户身份信息,并在识别阶段提供用户注册时输入的已加密的人脸特征向量;信息存储模块进一步包括身份信息存储子模块、加密向量存储子模块;
身份识别模块用于在用户进行身份识别时,对比计算识别时输入的人脸特征向量和注册时输入的人脸征向量,产生识别结果并发送给家居终端设备;身份识别模块进一步包括识别信息计算子模块。
如图2所示,为本发明的面向物联网服务的隐私保护人脸识别方法流程图。该方法具体包括以下步骤:
S201:系统初始化,模型训练模块生成注册和识别阶段需要用到神经网络训练的数据模型和密钥;
S202:执行用户人脸注册,步骤具体包括:在家居终端设备收集用户的身份信息以及人脸数据,通过数据处理模块提取人脸特征向量,然后随机生成密钥并发送给安全加密模块和可信存储模块,由安全加密模块将身份信息以及特征向量加密后上传给信息存储模块;
S203:执行用户人脸识别,步骤具体包括:身份识别模块根据身份信息查询用户注册时的人脸特征向量;根据注册的人脸数据计算获得识别结果,最后将结果发送给家居终端设备。
本发明实施例描述如下:
用户身份信息采集模块采集用户的人脸信息和身份信息,并生成人脸特征向量x和身份信息Ii,然后将{x,Ii}发送给安全加密模块。
密钥管理模块随机生成密钥pk和sk并将密钥存储起来,然后发送给安全加密模块。
安全加密模块在用户注册时,将用户的人脸特征向量x和身份信息Ii加密生成对应的密文cx=[cx1,cx2,…,cxn],n为模板维数,然后保存到信息存储模块。
在信息存储模块存储用户在注册时客户端上传的已加密的人脸特征向量cx和身份信息Ii,并在用户进行登录识别时提取出来进行识别计算。
身份识别模块在用户申请登录识别操作时,对识别时输入的人脸特征向量y和注册时输入的密文人脸特征向量cx进行比较计算,并将识别结果返回给家居终端设备。
Paillier加密模块采用生成的密钥对提取出的人脸特征向量进行加密,在进行相似度计算过程中将加密后的人脸特征向量提取出来。
如图3所示,为本发明实施例的系统初始化流程图。系统初始化流程包括如下步骤:
步骤31、利用模型训练模块预处理人脸数据:服务提供商首先将采集到的人脸进行检测并剪裁到固定尺寸;
步骤32、利用模型训练模块训练神经网络:基于提取的特征向量,服务提供商基于三元损失函数进行训练,根据特征向量得到最优化模型。首先选择一张图像作为瞄点,从其他样本图像中选取与瞄点同属一个主体的图像作为正样本,另从其他非该主体的图像中选取一个负样本。训练策略为:使瞄点与正样本距离更近,与负样本距离更远。(最小化类内距离,最大化类间距离)。这样的三张图片的组合称为三元组(瞄点、正样本、负样本),三元组采取的选择标准是对于每一个最小批中的样本再来考虑三元组的选择。设置最小批大小为64;对于整个训练数据集,希望模型能达到以下效果:
Figure GDA0003472292320000091
损失函数loss定义如下:
Figure GDA0003472292320000092
其中,xi表示输入样本,f(x)表示通过网络后嵌入空间的向量,xi a表示瞄点样本;xi p表示正样本;xi n表示负样本,由此可以得到优化后的模型,使得嵌入空间下瞄点与正样本的距离小于瞄点与负样本间的距离;
步骤33、提取人脸特征向量:服务提供商对预处理过的人脸采用卷积神经网络提取特征,再对提取出的特征进行归一化处理生成128d的特征向量;
步骤34、通过密钥生成模块实现初始化密钥,包括以下操作:
(1)服务端随机选择两个彼此独立的较大质数p和q,满足以下关系式:
gcd(pq,(p-1)(q-1))=1
这个属性是为了保证两个质数长度相等;
(2)计算n=pq,λ=1cm(p-1)(q-1),其中lcm()为最小公倍数函数;
(3)随机选择一个整数g,
Figure GDA0003472292320000093
Z*为非零整数集合;
(4)计算μ=(L(gλmodn2))-1,这里L被定义为L(x)=(x-1)/n,这里x为自变量,n为(1)中对应的n值,λ为(2)中的λ值;
(5)得到公钥public key:pk=(n,g);私钥secret key:sk=(λ,μ)。
如图4所示,是本发明实施例的用户人脸注册流程图。具体包括以下步骤:
步骤41、从用户端录入人脸特征数据和用户身份信息;
步骤42、通过家居终端设备采集人脸数据和用户身份信息;
步骤43、认证服务端接收人脸数据,并从中提取人脸特征向量x=[x1,x2,…,xn]和用户身份信息Ii,计算人脸特征向量的模
Figure GDA0003472292320000104
步骤44、认证服务端对人脸特征向量加密,即通过安全加密模块对{x,Ii}按照注册阶段paillier加密算法进行加密,得到cx=[cx1,cx2,…,cxn],n为模板维数;加密算法具体如下处理:
(1)输入人脸模板向量;
(2)以m来表示要加密的明文;
(3)随机里选取一个整数r,
Figure GDA0003472292320000101
与n互质,满足下式:
gcd(r,n)=1
(4)计算密文,表达式如下:
c=E(m,r)=gr*rnmodn2
cx=c
返回cx;
(3)将密钥pk和sk保存在可信域中,防止其他应用窥探;
(4)服务端将
Figure GDA0003472292320000102
存储到数据库。
如图5所示,是本发明实施例的用户人脸识别流程图。具体包括以下步骤:
步骤51、从用户端录入人脸特征数据和用户身份信息;
步骤52、通过家居终端设备采集人脸数据和用户身份信息;
步骤53、认证服务端获取到人脸模板特征向量y=[y1,y2,…,yn]以及用户身份信息Ii并计算向量的模
Figure GDA0003472292320000103
步骤54、认证服务端将人脸特征向量放入身份识别信息,从而得到向量
Figure GDA0003472292320000111
步骤55、认证服务端根据身份信息从存储模块取出加密后的注册人脸信息
Figure GDA0003472292320000112
放入身份识别模块;
步骤56、身份识别模块使用用户查询的
Figure GDA0003472292320000113
针对数据库中的每一个注册模板对使用下式计算欧氏距离:
Figure GDA0003472292320000114
得到两个模板之间的匹配度,实现模板之间的比对;
步骤57、匹配度是否在规定范围内,该匹配阈值根据系统安全性与便捷性需求进行自行调整,如果在规定范围内,则表示通过识别,否则认为该用户人脸与注册人脸不匹配;在强调安全性的场合,如金融领域,可调低阈值(即距离)以保障误识率的要求;而对于一般民用系统,如公司考勤机、家庭环境认证,可调高阈值(欧氏距离)放宽误识率的要求;
步骤58、家居终端设备选择结果集EurDistance中得分最低的那个作为匹配结果;在为所有加密人脸模板x计算所有EurDistance之后,家居终端设备可以找到与y具有最大相似度的{Ii,Ci,cx}。
在实际模拟智能家居的通信网络环境的测试中,使用最新安卓手机作为客户端进行测试,考虑到向量维度n是影响方案最重要的因素,人脸模板向量投射维度选取从64-512。经测试,本发明在从发出请求到收到回复的人脸识别服务的整体性能的阶段中,需要3s左右,完全不影响用户日常生活中的实际使用。在安全性相当的基础上,本发明整体性能也优于对比方案,时间开销只有对比方案的40%,且与未进行隐私保护的人脸识别方案相比,增加的时间开销可以忽略不计。

Claims (4)

1.一种面向智能家居的隐私保护人脸识别系统,其特征在于,该系统包括依序连接的用户端、家居终端设备和认证服务端;其中:
所述用户端用于采集人脸特征数据和用户身份信息,与用户请求一起提交至家居终端设备;
所述家居终端设备用于接收用户的请求和所采集的人脸特征数据和用户身份信息,将用户请求、人脸特征数据和用户身份信息提交至认证服务端的模型训练模块;
所述认证服务端用于提取人脸特征数据,生成并保存加密所需要的密钥,对人脸特征数据加密并保存,并且在用户登录识别时,接收已加密的人脸特征数据,然后进行对比计算,并将识别结果返回给家居终端设备;
所述认证服务端进一步包括模型训练模块、用户身份信息采集模块、Paillier加密模块、密钥管理模块、安全加密模块、信息存储模块以及身份识别模块:其中:
模型训练模块,用于完成系统初始化,预先选取好计算中要用到的训练模型;所述模型训练模块进一步包括系统初始化模块和数据处理模块:
系统初始化模块用于完成系统初始化,生成训练好的模型数据,生成加密需要的密钥,所述系统初始化模块还包括数据模型生成子模块、密钥生成子模块;所述密钥生成子模块用于生成安全加密模块进行加密计算时所需的密钥,并将注册时生成的密钥存储在本地数据库,以便在身份识别时提取出来使用;所述数据模型生成子模块用于生成神经网络训练所需的数据模型;
数据处理模块用于对人脸特征数据进行人脸检测、人脸图像的剪裁以及归一化预处理和对预处理后的人脸数据提取相应的人脸特征模板向量,所述数据处理模块还包括人脸数据集预处理子模块、特征向量提取子模块;
密钥管理模块用于将初始化时生成的密钥存储在本地,在进行身份识别时提取出来使用,所述密钥管理模块还包括可信存储子模块;
Paillier加密模块用于采用生成的密钥对提取出的人脸特征向量进行加密,在进行相似度计算过程中将加密后的向量提取出来;所述Paillier加密模块进一步包括人脸特征模板向量加密模块、向量求模模块;
安全加密模块用于在注册时对人脸特征向量和用户身份信息加密并保存在本地,以便在身份进行识别时提取出来;所述安全加密模块进一步包括注册加密子模块;
用户身份信息采集模块用于采集提交至认证服务端的人脸特征数据和用户身份信息,并生成人脸特征向量;所述用户身份信息采集模块进一步包括人脸数据采集子模块、身份信息采集子模块;
信息存储模块用于存储注册阶段已加密的人脸特征向量、认证阶段的人脸特征向量和用户身份信息,并在识别阶段提供用户注册时输入的已加密的人脸特征向量;所述信息存储模块进一步包括身份信息存储子模块、加密向量存储子模块;
身份识别模块用于在用户进行身份识别时,对比计算识别时输入的人脸特征向量和注册时输入的人脸征向量,产生识别结果并发送给家居终端设备;所述身份识别模块进一步包括识别信息计算子模块。
2.一种面向智能家居的隐私保护人脸识别方法,其特征在于,该方法具体包括以下步骤:
S201:系统初始化,模型训练模块生成注册和识别阶段需要用到神经网络训练的数据模型和密钥;
S202:执行用户人脸注册,步骤具体包括:在家居终端设备收集用户的身份信息以及人脸数据,通过数据处理模块提取人脸特征向量,然后随机生成密钥并发送给安全加密模块和可信存储模块,由安全加密模块将身份信息以及特征向量加密后上传给信息存储模块;
S203:执行用户人脸识别,步骤具体包括:身份识别模块根据身份信息查询用户注册时的人脸特征向量;根据注册的人脸数据计算获得识别结果,最后将结果发送给家居终端设备;用户人脸识别流程包括以下步骤:
步骤51、从用户端录入人脸特征数据和用户身份信息;
步骤52、通过家居终端设备采集人脸数据和用户身份信息;
步骤53、认证服务端获取到认证阶段的人脸模板特征向量y=[y1,y2,…,yn]以及用户身份信息Ii并计算向量的模
Figure FDA0003500333770000031
步骤54、认证服务端将人脸特征向量放入身份识别信息,从而得到向量
Figure FDA0003500333770000032
步骤55、认证服务端根据身份信息从存储模块取出加密后的注册人脸信息
Figure FDA0003500333770000033
放入身份识别模块;
步骤56、身份识别模块使用用户查询的
Figure FDA0003500333770000034
针对数据库中的每一个注册模板对使用下式计算欧氏距离,得到两个模板之间的匹配度,实现模板之间的比对;
步骤57、匹配度是否在规定范围内,该匹配度的阈值根据系统安全性与便捷性需求进行自行调整,如果在规定范围内,则表示通过识别,否则认为该用户人脸与注册人脸不匹配;
步骤58、家居终端设备选择结果集EurDistance中得分最低的那个作为匹配结果;在为所有加密人脸模板x计算所有EurDistance之后,家居终端设备找到与y具有最大相似度的{Ii,cx}。
3.如权利要求2所述的一种面向智能家居的隐私保护人脸识别方法,其特征在于,该系统初始化的流程包括以下步骤:
步骤31、利用模型训练模块预处理人脸数据:服务提供商首先将采集到的人脸进行检测并剪裁到固定尺寸;
步骤32、利用模型训练模块训练神经网络;
步骤33、提取人脸特征向量:服务提供商对预处理过的人脸采用卷积神经网络提取特征,再对提取出的特征进行归一化处理生成128d的特征向量;
步骤34、通过密钥生成模块实现初始化密钥。
4.如权利要求2所述的一种面向智能家居的隐私保护人脸识别方法,其特征在于,该用户人脸注册的流程包括以下步骤:
步骤41、从用户端录入人脸特征数据和用户身份信息;
步骤42、通过家居终端设备采集人脸数据和用户身份信息;
步骤43、认证服务端接收人脸数据,并从中提取人脸特征向量x=[x1,x2,…,xn]和用户身份信息Ii,计算人脸特征向量的模
Figure FDA0003500333770000041
步骤44、认证服务端对人脸特征向量加密,即通过安全加密模块对{x,Ii}按照注册阶段paillier加密算法进行加密,得到对应的密文cx=[cx1,cx2,…,cxn]。
CN202110050032.2A 2021-01-14 2021-01-14 一种面向智能家居的隐私保护人脸识别系统及方法 Active CN112733114B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110050032.2A CN112733114B (zh) 2021-01-14 2021-01-14 一种面向智能家居的隐私保护人脸识别系统及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110050032.2A CN112733114B (zh) 2021-01-14 2021-01-14 一种面向智能家居的隐私保护人脸识别系统及方法

Publications (2)

Publication Number Publication Date
CN112733114A CN112733114A (zh) 2021-04-30
CN112733114B true CN112733114B (zh) 2022-03-29

Family

ID=75593158

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110050032.2A Active CN112733114B (zh) 2021-01-14 2021-01-14 一种面向智能家居的隐私保护人脸识别系统及方法

Country Status (1)

Country Link
CN (1) CN112733114B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115695048B (zh) * 2022-12-29 2023-03-21 南京马斯克信息技术有限公司 一种安全网络数据处理方法及系统
CN116305281B (zh) * 2023-03-24 2024-01-23 江苏洋井公用管廊有限公司 一种基于感官认知的人脸识别系统及人脸识别方法
CN117235694A (zh) * 2023-09-14 2023-12-15 黑龙江都越科技有限公司 基于人脸识别大数据的登录系统及方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102231277A (zh) * 2011-06-29 2011-11-02 电子科技大学 基于声纹识别的移动终端隐私保护方法
US10867025B2 (en) * 2016-05-19 2020-12-15 UnifyID, Inc. Opportunistically collecting sensor data from a mobile device to facilitate user identification
CN108259158B (zh) * 2018-01-11 2021-03-23 西安电子科技大学 一种云计算环境下高效和隐私保护的单层感知机学习方法
CN109543569A (zh) * 2018-11-06 2019-03-29 深圳绿米联创科技有限公司 目标识别方法、装置、视觉传感器及智能家居系统
CN110166424B (zh) * 2019-04-03 2022-03-25 西安电子科技大学 面向物联网服务隐私保护声纹识别方法及系统、移动终端
CN112070207A (zh) * 2020-07-31 2020-12-11 华为技术有限公司 一种模型训练方法及装置

Also Published As

Publication number Publication date
CN112733114A (zh) 2021-04-30

Similar Documents

Publication Publication Date Title
CN112733114B (zh) 一种面向智能家居的隐私保护人脸识别系统及方法
US10158621B2 (en) Method, apparatus, and system for providing a security check
CN109802942B (zh) 一种隐私保护的声纹认证方法
CN108173871B (zh) 基于射频指纹和生物指纹无线网接入认证系统及方法
Zhu et al. An efficient and privacy-preserving biometric identification scheme in cloud computing
CN110166424B (zh) 面向物联网服务隐私保护声纹识别方法及系统、移动终端
US11063941B2 (en) Authentication system, authentication method, and program
US20160100314A1 (en) Mobile data communication using biometric encryption
CN111241514B (zh) 一种基于人脸验证系统的安全人脸验证方法
CN101420301A (zh) 人脸识别身份认证系统
CN105635099A (zh) 身份认证方法、身份认证系统、终端和服务器
CN111954211A (zh) 一种移动终端新型认证密钥协商系统
CN114996727A (zh) 基于掌纹掌静脉识别的生物特征隐私加密方法及系统
Kwon et al. CCTV-based multi-factor authentication system
Zhu et al. QuickAuth: two-factor quick authentication based on ambient sound
Lei et al. PRIVFACE: fast privacy-preserving face authentication with revocable and reusable biometric credentials
Rzouga Haddada et al. Double watermarking‐based biometric access control for radio frequency identification card
WO2015179640A1 (en) Method, apparatus, and system for providing a security check
KR101468192B1 (ko) 스마트워크 환경에서의 얼굴인식기반 사용자인증 기법
CN111698253A (zh) 一种计算机网络安全系统
Lami et al. LocBiometrics: Mobile phone based multifactor biometric authentication with time and location assurance
CN109992942B (zh) 基于秘密共享的隐私保护人脸认证方法及系统、智能终端
EP1387550A2 (en) Method and system for preventing unauthorized access to the internet
Iftikhar et al. Symmetric-key multi-factor biometric authentication scheme
CN110505199A (zh) 基于轻量级非对称身份的Email安全登录方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant