KR102557639B1 - 인공지능 학습장치 및 인공지능 학습장치의 동작방법 - Google Patents

인공지능 학습장치 및 인공지능 학습장치의 동작방법 Download PDF

Info

Publication number
KR102557639B1
KR102557639B1 KR1020210050876A KR20210050876A KR102557639B1 KR 102557639 B1 KR102557639 B1 KR 102557639B1 KR 1020210050876 A KR1020210050876 A KR 1020210050876A KR 20210050876 A KR20210050876 A KR 20210050876A KR 102557639 B1 KR102557639 B1 KR 102557639B1
Authority
KR
South Korea
Prior art keywords
information
learning
artificial intelligence
input
learning information
Prior art date
Application number
KR1020210050876A
Other languages
English (en)
Other versions
KR20220144502A (ko
Inventor
박새롬
Original Assignee
성신여자대학교 연구 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 성신여자대학교 연구 산학협력단 filed Critical 성신여자대학교 연구 산학협력단
Priority to KR1020210050876A priority Critical patent/KR102557639B1/ko
Publication of KR20220144502A publication Critical patent/KR20220144502A/ko
Application granted granted Critical
Publication of KR102557639B1 publication Critical patent/KR102557639B1/ko

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/02—Knowledge representation; Symbolic representation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L9/00—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols
    • H04L9/008—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols involving homomorphic encryption

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Signal Processing (AREA)
  • Computational Linguistics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Security & Cryptography (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

본 발명의 실시예에 따른 인공지능 학습장치는 학습정보 제공부 및 모델러를 포함할 수 있다. 학습정보 제공부는 입력 학습정보, 입력 학습정보에 상응하는 출력 예상정보 및 미리 설정되는 민감 학습정보에 해당하는 정보를 암호화하여 암호화 학습정보를 제공할 수 있다. 모델러는 입력 학습정보, 출력 예상정보 및 암호화 학습정보에 기초하여 인공지능 학습을 수행할 수 있다.
본 발명에 따른 인공지능 학습장치는 동형암호화 방식으로 민감 학습정보를 암호화한 암호화 학습정보를 제공하여 인공지능 학습을 수행함으로써 민감정보에 포함되는 프라이버시를 보호하고, 공정한 분류 알고리즘 학습이 가능할 수 있다.

Description

인공지능 학습장치 및 인공지능 학습장치의 동작방법{ARTIFICIAL INTELLIGENCE LEARNING DEVICE AND OPERATING MEHTOD THEREOF}
본 발명은 인공지능 학습장치 및 인공지능 학습장치의 동작방법에 관한 것이다.
인공지능 학습을 위해서 사용되는 학습데이터에 따라 인공지능의 성능이 상이할 수 있다. 또한, 학습데이터에 포함되는 민감정보에 따라 인공지능 학습이 편향되게 이루어질 수도 있다. 최근, 이와 같은 인공지능학습에 있어서 편향되지 않고, 공정한 학습을 수행하면서 인공지능의 성능을 높일 수 있는 다양한 연구들이 진행되고 있다.
(한국등록특허) 제10-1975782호 (등록일자, 2019.04.30)
본 발명에서 이루고자 하는 기술적 과제는 동형암호화 방식으로 민감 학습정보를 암호화한 암호화 학습정보를 제공하여 인공지능 학습을 수행함으로써 민감정보에 포함되는 프라이버시를 보호하고, 공정한 분류 알고리즘 학습이 가능한 인공지능 학습장치를 제공하는 것이다.
이러한 과제를 해결하기 위하여 본 발명의 실시예에 따른 인공지능 학습장치는 학습정보 제공부 및 모델러를 포함할 수 있다. 학습정보 제공부는 입력 학습정보, 상기 입력 학습정보에 상응하는 출력 예상정보 및 미리 설정되는 민감 학습정보에 해당하는 정보를 암호화하여 암호화 학습정보를 제공할 수 있다. 모델러는 상기 입력 학습정보, 상기 출력 예상정보 및 상기 암호화 학습정보에 기초하여 인공지능 학습을 수행할 수 있다.
일 실시예에 있어서, 상기 민감 학습정보는 동형암호화 방식으로 암호화되어 상기 암호화 학습정보로서 상기 모델러에 제공될 수 있다. 상기 모델러는 상기 민감 학습정보가 암호화된 상태에 해당하는 상기 암호화 학습정보를 이용하여 연산할 수 있다.
일 실시예에 있어서, 상기 민감 학습정보는 성별 및 나이를 포함한 개인의 프라이버시와 관련되는 정보일 수 있다. 여기서, 민감 학습 정보는 공정성을 판단하는 기준이 되는 정보일 수 있다.
일 실시예에 있어서, 상기 모델러는 상기 입력 학습정보 및 상기 암호화 학습정보에 따라 결정되는 공정성 조건에 기초하여 산출되는 제1 학습 결과 팩터 및 제2 학습 결과 팩터를 제공할 수 있다.
일 실시예에 있어서, 상기 공정성 조건에 포함되는 공정성 제약상수를 조절하는 경우, 상기 제1 학습 결과 팩터 및 상기 제2 학습 결과 팩터가 변경될 수 있다.
일 실시예에 있어서, 상기 모델러는 슈어보수(Schur complenent)를 이용하여 상기 암호화 학습정보와 연산이 요구되는 부분을 구분할 수 있다.
일 실시예에 있어서, 상기 인공지능 학습장치는 로우-랭크 근사화(Low-Rank Approximation)을 이용하여 상기 동형암호화를 수행할 수 있다.
이러한 과제를 해결하기 위하여 본 발명의 실시예에 따른 인공지능 장치는 입력부 및 인공지능부를 포함할 수 있다. 입력부는 입력정보 및 미리 설정되는 민감 입력정보에 해당하는 정보를 암호화하여 암호화 입력정보를 제공할 수 있다. 인공지능부는 상기 입력정보 및 상기 암호화 입력정보에 상응하는 결과정보를 제공할 수 있다. 상기 인공지능부는 입력 학습정보, 상기 입력 학습정보에 상응하는 출력 예상정보 및 미리 설정되는 민감 학습정보에 해당하는 정보를 동형 암호화 방식으로 암호화한 암호화 학습정보에 기초하여 학습될 수 있다.
일 실시예에 있어서, 상기 인공지능부는 상기 입력 학습정보 및 상기 암호화 학습정보에 따라 결정되는 공정성 조건에 기초하여 산출되는 제1 학습 결과 팩터 및 제2 학습 결과 팩터를 서버에 제공하는 경우, 상기 제1 학습 결과 팩터 및 상기 제2 학습 결과 팩터에 노이즈 정보를 추가하여 암호화한 후 상기 서버에 제공할 수 있다.
일 실시예에 있어서, 상기 인공지능 장치는 암호화를 위해서 공개키를 사용하고, 복호화를 위해서 개인키를 사용하는 비대칭키 방식을 사용할 수 있다.
이러한 과제를 해결하기 위하여 본 발명의 실시예에 따른 인공지능 학습장치의 동작방법에서는, 학습정보 제공부가 입력 학습정보, 상기 입력 학습정보에 상응하는 출력 예상정보 및 미리 설정되는 민감 학습정보에 해당하는 정보를 암호화하여 암호화 학습정보를 제공할 수 있다. 모델러가 상기 입력 학습정보, 상기 출력 예상정보 및 상기 암호화 학습정보에 기초하여 학습할 수 있다.
일 실시예에 있어서, 상기 민감 학습정보는 동형암호화 방식으로 암호화되어 상기 암호화 학습정보로서 상기 모델러에 제공될 수 있다.
이러한 과제를 해결하기 위하여 본 발명의 실시예에 따른 인공지능 장치의 동작방법에서는, 입력부가 입력정보 및 미리 설정되는 민감 입력정보에 해당하는 정보를 암호화하여 암호화 입력정보를 제공할 수 있다. 인공지능부가 상기 입력정보 및 상기 암호화 입력정보에 상응하는 결과정보를 제공할 수 있다. 상기 인공지능부는 입력 학습정보, 상기 입력 학습정보에 상응하는 출력 예상정보 및 미리 설정되는 민감 학습정보에 해당하는 정보를 동형 암호화 방식으로 암호화한 암호화 학습정보에 기초하여 학습될 수 있다.
일 실시예에 있어서, 상기 인공지능부는 로우-랭크 근사화(Low-Rank Approximation)을 이용하여 상기 동형암호화를 수행할 수 있다.
위에서 언급된 본 발명의 기술적 과제 외에도, 본 발명의 다른 특징 및 이점들이 이하에서 기술되거나, 그러한 기술 및 설명으로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
이상과 같은 본 발명에 따르면 다음과 같은 효과가 있다.
본 발명에 따른 인공지능 학습장치는 동형암호화 방식으로 민감 학습정보를 암호화한 암호화 학습정보를 제공하여 인공지능 학습을 수행함으로써 민감정보에 포함되는 프라이버시를 보호하고, 공정한 분류 알고리즘 학습이 가능할 수 있다.
이 밖에도, 본 발명의 실시 예들을 통해 본 발명의 또 다른 특징 및 이점들이 새롭게 파악될 수도 있을 것이다.
도 1은 본 발명의 실시예들에 따른 인공지능 학습장치를 나타내는 도면이다.
도 2는 도 1의 인공지능 학습장치에서 사용되는 입력 학습정보 및 출력 예상정보를 설명하기 위한 도면이다.
도 3은 도 1의 인공지능 학습장치에서 사용되는 민감 학습정보 및 암호화 학습정보를 설명하기 위한 도면이다.
도 4는 본 발명의 실시예들에 따른 인공지능 장치를 나타내는 도면이다.
도 5는 도 4의 인공지능 장치의 일 실시예를 설명하기 위한 도면이다.
도 6은 본 발명의 실시예들에 따른 인공지능 학습장치의 동작방법을 나타내는 순서도이다.
도 7은 본 발명의 실시예들에 따른 인공지능 장치의 동작방법을 나타내는 순서도이다.
본 명세서에서 각 도면의 구성 요소들에 참조번호를 부가함에 있어서 동일한 구성 요소들에 한해서는 비록 다른 도면상에 표시되더라도 가능한한 동일한 번호를 가지도록 하고 있음에 유의하여야 한다.
한편, 본 명세서에서 서술되는 용어의 의미는 다음과 같이 이해되어야 할 것이다.
단수의 표현은 문맥상 명백하게 다르게 정의하지 않는 한, 복수의 표현을 포함하는 것으로 이해되어야 하는 것으로, 이들 용어들에 의해 권리범위가 한정되어서는 아니 된다.
"포함하다" 또는 "가지다" 등의 용어는 하나 또는 그 이상의 다른 특징이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
이하, 첨부되는 도면을 참고하여 상기 문제점을 해결하기 위해 고안된 본 발명의 바람직한 실시예들에 대해 상세히 설명한다.
도 1은 본 발명의 실시예들에 따른 인공지능 학습장치를 나타내는 도면이고, 도 2는 도 1의 인공지능 학습장치에서 사용되는 입력 학습정보 및 출력 예상정보를 설명하기 위한 도면이고, 도 3은 도 1의 인공지능 학습장치에서 사용되는 민감 학습정보 및 암호화 학습정보를 설명하기 위한 도면이다.
도 1 내지 3을 참조하면, 본 발명의 실시예에 따른 인공지능 학습장치(10)는 학습정보 제공부(100) 및 모델러(200)를 포함할 수 있다. 학습정보 제공부(100)는 입력 학습정보(IHI), 입력 학습정보(IHI)에 상응하는 출력 예상정보(OPI) 및 미리 설정되는 민감 학습정보(MHI)에 해당하는 정보를 암호화하여 암호화 학습정보(EHI)를 제공할 수 있다. 예를 들어, 복수의 입력 학습정보(IHI)들은 본 발명에 따른 인공지능 학습장치(10)를 학습하기 위해 입력값으로 입력되는 정보들일 수 있고, 복수의 입력 학습정보(IHI)들은 제1 입력 학습정보(X1), 제2 입력 학습정보(X2) 및 제3 입력 학습정보(X3)를 포함할 수 있다. 복수의 출력 예상정보(OPI)들은 복수의 입력 학습정보(IHI)들에 상응하여 출력될 것으로 예상되는 정보들일 수 있고, 복수의 출력 예상정보(OPI)들은 제1 출력 예상정보(Y1), 제2 출력 예상정보(Y2) 및 제3 출력 예상정보(Y3)를 포함할 수 있다.
제1 입력 학습정보(X1)에 상응하는 출력 예상정보(OPI)는 제1 출력 예상정보(Y1)일 수 있고, 제2 입력 학습정보(X2)에 상응하는 출력 예상정보(OPI)는 제2 출력 예상정보(Y2)일 수 있다. 또한, 제3 입력 학습정보(X3)에 상응하는 출력 예상정보(OPI)는 제3 출력 예상정보(Y3)일 수 있다.
또한, 예를 들어, 민감 학습정보(MHI)는 본 발명에 따른 인공지능 학습장치(10)를 학습하기 위해 제공되는 프라이버스와 관련되는 정보들일 수 있고, 프라이버시와 관련된 정보는 나이 및 성별정보를 포함할 수 있다. 여기서, 민감 학습 정보는 공정성을 판단하는 기준이 되는 정보일 수 있다. 복수의 민감 학습정보(MHI)들은 제1 민감 학습정보(MHI1), 제2 민감 학습정보(MHI2) 및 제3 민감 학습정보(MHI3)를 포함할 수 있다. 제1 민감 학습정보(MHI1)에 포함되는 나이는 20대고, 성별은 남성일 수 있고, 제2 민감 학습정보(MHI2)에 포함되는 나이는 30대고, 성별은 여성일 수 있다. 또한, 제3 민감 학습정보(MHI3)에 포함되는 나이는 40대고, 성별은 여성일 수 있다. 민감 학습 정보의 경우, 수치 데이터가 아닌 명목 데이터일 수 있다. 나이 변수의 경우, 구체적인 수치보다는 20대, 30대 및 40대 등과 같이 정해진 분류 기준들로 표현될 수 있다. 또한, 실시예에 따라서 민감 학습정보는 나이를 제외한 인종 및 성별정보를 포함할 수도 있다.
민감 학습정보(MHI)는 동형 암호화 방식으로 암호화되어 암호화 학습정보(EHI)로서 모델러(200)에 제공될 수 있다. 동형 암호화 방식은 새로운 암호기술로서 기존의 암호화 방식과 달리 암호화된 상태에서 암호화 학습정보(EHI)를 결합하고, 연산 및 분석할 수 있는 방법을 제공할 수 있다. 예를 들어, 제1 민감 학습정보(MHI1)를 동형 암호화하는 경우, 제1 암호화 학습정보(EHI1)가 생성될 수 있고, 제2 민감 학습정보(MHI2)를 동형 암호화하는 경우, 제2 암호화 학습정보(EHI2)가 생성될 수 있다. 또한, 제3 민감 학습정보(MHI3)를 동형 암호화하는 경우, 제3 암호화 학습정보(EHI3)가 생성될 수 있다. 학습정보 제공부(100)는 동형 암호화된 제1 암호화 학습정보(EHI1) 내지 제3 암호화 학습정보(EHI3)를 모델러(200)에 제공하여 인공지능 학습함으로써 인공지능 학습을 수행함에 있어서, 민감정보에 포함되는 프라이버시를 보호하고, 공정한 분류 알고리즘 학습이 가능할 수 있다.
또한, 본 발명에서 공정성의 판단기준이 되는 변수는 민감 정보(성별, 인종 등)일 수 있고, 공정성을 판단해야 하는 변수가 주로 민감 변수이기 때문에 암호화를 수행하여 모델러에 제공할 수 있다.
모델러(200)는 입력 학습정보(IHI), 출력 예상정보(OPI) 및 암호화 학습정보(EHI)에 기초하여 인공지능 학습을 수행할 수 있다. 일 실시예에 있어서, 모델러(200)는 민감 학습정보(MHI)가 암호화된 상태에 해당하는 암호화 학습정보(EHI)를 이용하여 연산할 수 있고, 민감 학습정보(MHI)는 성별 및 나이를 포함한 개인의 프라이버시와 관련되는 정보일 수 있다.
일 실시예에 있어서, 모델러(200)는 입력 학습정보(IHI) 및 암호화 학습정보(EHI)에 따라 결정되는 공정성 조건에 기초하여 산출되는 제1 학습 결과 팩터(AP) 및 제2 학습 결과 팩터(BE)를 제공할 수 있다. 예를 들어, 공정성 조건은 아래 [수학식1]과 같이 표현될 수 있다.
[수학식1]
여기서, 는 SVM(Support Vector Machine)모형의 원문제의 학습 파라미터, C1은 제1 상수, C2는 공정성 제약조건의 강도를 나타내는 공정성 제약상수, 는 함수 예측 오류관련 변수, 는 민감정보와 함수 예측의 공분산 측도 관련 변수, 는 입력 학습정보, 는 암호화 학습정보(EHI)일 수 있다.
또한, [수학식2]를 통해서 제1 학습 결과 팩터(alpha) 및 제2 학습 결과 팩터(beta)를 획득할 수 있다. 보충하여 설명하면, 위의 최적화 문제가 원 문제라고 하면, 라그랑지안을 이용해서 쌍대 문제 대신에 [수학식2]와 같은 선형 시스템을 얻을 수 있다.
[수학식2]
여기서, K는 커널행렬, In은 항등행렬, 는 Z에서 Z에 포함되는 원소들의 평균값을 뺀 값이고, 는 제1 학습 결과 팩터(AP), 는 제2 학습 결과 팩터(BE)일 수 있다.
여기서, 아래 행렬 [수학식3]에 대한 역행렬은 [수학식4]와 같이 나타낼 수 있고, [수학식4]를 이용하여 제1 학습 결과 팩터 및 제2 학습 결과 팩터(BE)를 구할 수 있다.
[수학식3]
[수학식4]
여기서, [수학식4]의 원소들(B11, B12, B21, B22)은 [수학식3]의 역행렬 원소들일 수 있고, B12 및 B21은 동일할 수 있다.
일 실시예에 있어서, 모델러(200)는 슈어보수(Schur complenent)를 이용하여 암호화 학습정보(EHI)와 연산이 요구되는 부분을 구분할 수 있다. 일 실시예에 있어서, 인공지능 학습장치(10)는 로우-랭크 근사화(Low-Rank Approximation)을 이용하여 동형암호화를 수행할 수 있다. 예를 들어, 로우-랭크 근사화를 통해서 동형암호화를 수행하는 경우, 연산속도를 증가시킬 수 있다.
일 실시예에 있어서, 공정성 조건에 포함되는 공정성 제약상수를 조절하는 경우, 제1 학습 결과 팩터(AP) 및 제2 학습 결과 팩터(BE)가 변경될 수 있다. 본 발명에 따른 인공지능 학습장치(10)는 동형암호화 방식으로 민감 학습정보(MHI)를 암호화한 암호화 학습정보(EHI)를 제공하여 인공지능 학습을 수행함으로써 민감정보에 포함되는 프라이버시를 보호하고, 공정한 분류 알고리즘 학습이 가능할 수 있다.
도 4는 본 발명의 실시예들에 따른 인공지능 장치를 나타내는 도면이고, 도 5는 도 4의 인공지능 장치의 일 실시예를 설명하기 위한 도면이다.
도 1 내지 5를 참조하면, 본 발명의 실시예에 따른 인공지능 장치(20)는 입력부(300) 및 인공지능부(400)를 포함할 수 있다. 입력부(300)는 입력정보(IJ) 및 미리 설정되는 민감 입력정보에 해당하는 정보를 암호화하여 암호화 입력정보(AJ)를 제공할 수 있다. 인공지능부(400)는 입력정보(IJ) 및 암호화 입력정보(AJ)에 상응하는 결과정보(RJ)를 제공할 수 있다. 민감 입력정보는 나이 및 성별을 포함한 프라이버시 관련 정보를 포함할 수 있다. 인공지능부(400)는 입력 학습정보(IHI), 입력 학습정보(IHI)에 상응하는 출력 예상정보(OPI) 및 미리 설정되는 민감 학습정보(MHI)에 해당하는 정보를 동형 암호화 방식으로 암호화한 암호화 학습정보(EHI)에 기초하여 학습될 수 있다.
일 실시예에 있어서, 인공지능부(400)는 입력 학습정보(IHI) 및 암호화 학습정보(EHI)에 따라 결정되는 공정성 조건에 기초하여 산출되는 제1 학습 결과 팩터(AP) 및 제2 학습 결과 팩터(BE)를 서버(500)에 제공하는 경우, 제1 학습 결과 팩터(AP) 및 제2 학습 결과 팩터(BE)에 노이즈 정보를 추가하여 암호화한 후 서버(500)에 제공할 수 있다. 인공지능부(400)는 제1 학습 결과 팩터(AP) 및 제2 학습 결과 팩터(BE)에 미리 알고 있는 노이즈 정보를 추가하여 암호화함으로써 보안성을 높일 수 있다. 일 실시예에 있어서, 인공지능 장치(20)는 암호화를 위해서 공개키를 사용하고, 복호화를 위해서 개인키를 사용하는 비대칭키 방식을 사용할 수 있다.
도 6은 본 발명의 실시예들에 따른 인공지능 학습장치의 동작방법을 나타내는 순서도이고, 도 7은 본 발명의 실시예들에 따른 인공지능 장치의 동작방법을 나타내는 순서도이다.
도 1 내지 7을 참조하면, 본 발명의 실시예에 따른 인공지능 학습장치(10)의 동작방법에서는, 학습정보 제공부(100)가 입력 학습정보(IHI), 입력 학습정보(IHI)에 상응하는 출력 예상정보(OPI) 및 미리 설정되는 민감 학습정보(MHI)에 해당하는 정보를 암호화하여 암호화 학습정보(EHI)를 제공할 수 있다(S100). 모델러(200)가 입력 학습정보(IHI), 출력 예상정보(OPI) 및 암호화 학습정보(EHI)에 기초하여 학습할 수 있다(S200). 일 실시예에 있어서, 민감 학습정보(MHI)는 동형암호화 방식으로 암호화되어 암호화 학습정보(EHI)로서 모델러(200)에 제공될 수 있다.
이러한 과제를 해결하기 위하여 본 발명의 실시예에 따른 인공지능 장치(20)의 동작방법에서는, 입력부(300)가 입력정보 및 미리 설정되는 민감 입력정보(MJ)에 해당하는 정보를 암호화하여 암호화 입력정보(AJ)를 제공할 수 있다(S300). 인공지능부(400)가 입력정보(IJ) 및 암호화 입력정보(AJ)에 상응하는 결과정보(RJ)를 제공할 수 있다. 인공지능부(400)는 입력 학습정보(IHI), 입력 학습정보(IHI)에 상응하는 출력 예상정보(OPI) 및 미리 설정되는 민감 학습정보(MHI)에 해당하는 정보를 동형 암호화 방식으로 암호화한 암호화 학습정보(EHI)에 기초하여 학습될 수 있다(S400). 일 실시예에 있어서, 인공지능부(400)는 로우-랭크 근사화(Low-Rank Approximation)을 이용하여 동형암호화를 수행할 수 있다.
일 실시예에 있어서, 사용자가 공정하게 학습된 모형을 활용할 경우에는 본인의 민감 정보(Z)를 제공하지 않더라도 일반 입력정보(X) 정보만 제공하여 입력정보에 상응하는 예측 결과를 얻을 수 있다. 하지만, 경우에 따라서 사용자가 추가적으로 모델러에게 본인의 민감하지 않은 정보(X)도 노출시키고 싶지 않을 수 있다. 이 경우, 본인의 민감하지 않은 정보(X)를 암호화해서 보내어 예측 결과를 얻을 수도 있다.
본 발명에 따른 인공지능 장치(20)의 동작방법에서는 동형암호화 방식으로 민감 학습정보(MHI)를 암호화한 암호화 학습정보(EHI)를 제공하여 인공지능 학습을 수행함으로써 민감정보에 포함되는 프라이버시를 보호하고, 공정한 분류 알고리즘 학습이 가능할 수 있다.
10: 인공지능 학습장치 20: 인공지능 장치
100: 학습정보 제공부 200: 모델러
300: 입력부 400: 인공지능부

Claims (14)

  1. 입력 학습정보, 상기 입력 학습정보에 상응하는 출력 예상정보 및 미리 설정되는 민감 학습정보에 해당하는 정보를 암호화하여 암호화 학습정보를 제공하는 학습정보 제공부; 및
    상기 입력 학습정보, 상기 출력 예상정보 및 상기 암호화 학습정보에 기초하여 학습하는 모델러를 포함하고,
    상기 모델러는 상기 입력 학습정보 및 상기 암호화 학습정보에 따라 결정되는 공정성 조건에 기초하여 산출되는 제1 학습 결과 팩터 및 제2 학습 결과 팩터를 제공하는 것을 특징으로 하는 인공지능 학습장치.
  2. 제1항에 있어서,
    상기 민감 학습정보는 동형암호화 방식으로 암호화되어 상기 암호화 학습정보로서 상기 모델러에 제공되고,
    상기 모델러는 상기 민감 학습정보가 암호화된 상태에 해당하는 상기 암호화 학습정보를 이용하여 연산하는 것을 특징으로 하는 인공지능 학습장치.
  3. 제2항에 있어서,
    상기 민감 학습정보는 성별 및 나이를 포함한 개인의 프라이버시와 관련되는 정보인 것을 특징으로 하는 인공지능 학습장치.
  4. 삭제
  5. 제3항에 있어서,
    상기 공정성 조건에 포함되는 공정성 제약상수를 조절하는 경우, 상기 제1 학습 결과 팩터 및 상기 제2 학습 결과 팩터가 변경되는 것을 특징으로 하는 인공지능 학습장치.
  6. 제5항에 있어서,
    상기 모델러는 슈어보수(Schur complenent)를 이용하여 상기 암호화 학습정보와 연산이 요구되는 부분을 구분하는 것을 특징으로 하는 인공지능 학습장치.
  7. 제6항에 있어서,
    상기 인공지능 학습장치는 로우-랭크 근사화(Low-Rank Approximation)을 이용하여 상기 동형암호화를 수행하는 것을 특징으로 하는 인공지능 학습장치.
  8. 입력정보 및 미리 설정되는 민감 입력정보에 해당하는 정보를 암호화하여 암호화 입력정보를 제공하는 입력부; 및
    상기 입력정보 및 상기 암호화 입력정보에 상응하는 결과정보를 제공하는 인공지능부를 포함하고,
    상기 인공지능부는 입력 학습정보, 상기 입력 학습정보에 상응하는 출력 예상정보 및 미리 설정되는 민감 학습정보에 해당하는 정보를 동형 암호화 방식으로 암호화한 암호화 학습정보에 기초하여 학습되고,
    상기 인공지능부는 상기 입력 학습정보 및 상기 암호화 학습정보에 따라 결정되는 공정성 조건에 기초하여 산출되는 제1 학습 결과 팩터 및 제2 학습 결과 팩터를 서버에 제공하는 경우,
    상기 제1 학습 결과 팩터 및 상기 제2 학습 결과 팩터에 노이즈 정보를 추가하여 암호화한 후 상기 서버에 제공하는 것을 특징으로 하는 인공지능 장치.
  9. 삭제
  10. 제8항에 있어서,
    상기 인공지능 장치는 암호화를 위해서 공개키를 사용하고, 복호화를 위해서 개인키를 사용하는 비대칭키 방식을 사용하는 것을 특징으로 하는 인공지능 장치.
  11. 삭제
  12. 삭제
  13. 삭제
  14. 삭제
KR1020210050876A 2021-04-20 2021-04-20 인공지능 학습장치 및 인공지능 학습장치의 동작방법 KR102557639B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210050876A KR102557639B1 (ko) 2021-04-20 2021-04-20 인공지능 학습장치 및 인공지능 학습장치의 동작방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210050876A KR102557639B1 (ko) 2021-04-20 2021-04-20 인공지능 학습장치 및 인공지능 학습장치의 동작방법

Publications (2)

Publication Number Publication Date
KR20220144502A KR20220144502A (ko) 2022-10-27
KR102557639B1 true KR102557639B1 (ko) 2023-07-19

Family

ID=83810254

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210050876A KR102557639B1 (ko) 2021-04-20 2021-04-20 인공지능 학습장치 및 인공지능 학습장치의 동작방법

Country Status (1)

Country Link
KR (1) KR102557639B1 (ko)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019046460A (ja) 2017-08-30 2019-03-22 株式会社アクセル 推論装置、及び推論方法
JP2020525814A (ja) 2019-01-11 2020-08-27 アリババ・グループ・ホールディング・リミテッドＡｌｉｂａｂａ Ｇｒｏｕｐ Ｈｏｌｄｉｎｇ Ｌｉｍｉｔｅｄ 秘密分散を使用したロジスティック回帰モデリング方式
JP2020187723A (ja) * 2019-05-13 2020-11-19 エスアーペー エスエー プライバシーを保護しながら分散された顧客データ上で機械学習すること

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101975782B1 (ko) 2018-12-07 2019-05-08 주식회사 클래스팅 인공지능 기반 학습자 맞춤형 수준 향상 시스템
US11128435B2 (en) * 2019-07-08 2021-09-21 Tencent America LLC Distributed and collaborative analytics of encrypted data using deep polynomial networks
CN112016632B (zh) * 2020-09-25 2024-04-26 北京百度网讯科技有限公司 模型联合训练方法、装置、设备和存储介质
KR20220075981A (ko) * 2020-11-30 2022-06-08 주식회사 이피아이랩 음성 정보 서비스 시스템의 인공지능 학습 모델 서비스 제공 방법

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019046460A (ja) 2017-08-30 2019-03-22 株式会社アクセル 推論装置、及び推論方法
JP2020525814A (ja) 2019-01-11 2020-08-27 アリババ・グループ・ホールディング・リミテッドＡｌｉｂａｂａ Ｇｒｏｕｐ Ｈｏｌｄｉｎｇ Ｌｉｍｉｔｅｄ 秘密分散を使用したロジスティック回帰モデリング方式
JP2020187723A (ja) * 2019-05-13 2020-11-19 エスアーペー エスエー プライバシーを保護しながら分散された顧客データ上で機械学習すること

Non-Patent Citations (6)

* Cited by examiner, † Cited by third party
Title
Chen, H et al. "Logistic regression over encrypted data from fully homomorphic encryption." BMC medical genomics, 11(4) (2018): 3-12.
Fatemehsadat Mireshghallah et al. "Privacy in Deep Learning: A Survey" arXiv:2004.12254v5 [cs.LG] 7 Nov 2020
M. Sumathi et al. "A group-key-based sensitive attribute protection in cloud storage using modified random Fibonacci cryptography" Complex & Intelligent Systems (2021) 7:1733-1747. 2020.06.16.*
Park, S., Byun, J., Lee, J., Cheon, J. H., and Lee, J., HE-friendly algorithm for privacy - preserving SVM training. IEEE Access, 8, (2020): 57414-57425.
Ryo Yonetani et al. "Privacy-Preserving Visual Learning Using Doubly Permuted Homomorphic Encryption" Proceedings of the IEEE International Conference on Computer Vision (ICCV), 2017, pp. 2040-2050
박새롬. "부분 민감 정보를 포함한 안전한 SVM 학습 방법론" 한국컴퓨터정보학회논문지, 2021.04.30., vol.26, no.4, 통권 205호 pp. 1-9 (9 pages)

Also Published As

Publication number Publication date
KR20220144502A (ko) 2022-10-27

Similar Documents

Publication Publication Date Title
WO2021149518A1 (ja) 秘密計算用変換装置、秘密計算システム、秘密計算用変換方法、および秘密計算用変換プログラム
CN112766514B (zh) 一种联合训练机器学习模型的方法、系统及装置
CN110611662B (zh) 一种基于属性基加密的雾协同云数据共享方法
El Mestari et al. Preserving data privacy in machine learning systems
Kaur et al. A secure data classification model in cloud computing using machine learning approach
Sethuraman et al. Fuzzy genetic elliptic curve Diffie Hellman algorithm for secured communication in networks
Ibarrondo et al. Banners: Binarized neural networks with replicated secret sharing
Raja et al. Opposition based joint grey wolf-whale optimization algorithm based attribute based encryption in secure wireless communication
CN113849828B (zh) 经处理的数据的匿名生成和证明
CN112380404B (zh) 数据过滤方法、装置及系统
CN112906052A (zh) 联邦学习中多用户梯度置换的聚合方法
KR102557639B1 (ko) 인공지능 학습장치 및 인공지능 학습장치의 동작방법
CN111859440B (zh) 基于混合协议的分布式隐私保护逻辑回归模型的样本分类方法
CN111737756B (zh) 经由两个数据拥有方进行的xgb模型预测方法、装置及系统
Singh et al. Practical personalized genomics in the encrypted domain
CN116842559A (zh) 一种基于区块链的数据加密存储模型及数据加密存储方法
EP3364397B1 (en) Secret authentication code adding device, secret authentification code adding method, and program
JP2023081816A (ja) 機械学習装置、機械学習システム、機械学習方法、および機械学習プログラム
KR20240004830A (ko) 완전 동형 암호화에서 사용하기 위한 블라인드 회전
Swetha et al. Cloud based secure multimedia medical data using optimized convolutional neural network and cryptography mechanism
CN114338090A (zh) 数据安全性检测方法、装置及电子设备
JP7112151B1 (ja) 機械学習装置、機械学習システム、機械学習方法、および機械学習プログラム
WO2023021931A1 (ja) 情報処理プログラムおよび情報処理装置
EP3902194A1 (en) Method and apparatus for training analysis model
CN113543120B (zh) 一种基于联邦学习的移动终端信用反欺诈预估方法及系统

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant