KR102203617B1 - 예측 모델링 위변조 방지를 위한 방법 - Google Patents

예측 모델링 위변조 방지를 위한 방법 Download PDF

Info

Publication number
KR102203617B1
KR102203617B1 KR1020190087778A KR20190087778A KR102203617B1 KR 102203617 B1 KR102203617 B1 KR 102203617B1 KR 1020190087778 A KR1020190087778 A KR 1020190087778A KR 20190087778 A KR20190087778 A KR 20190087778A KR 102203617 B1 KR102203617 B1 KR 102203617B1
Authority
KR
South Korea
Prior art keywords
data
prediction
learning
result
field
Prior art date
Application number
KR1020190087778A
Other languages
English (en)
Inventor
김동준
이태영
Original Assignee
한전케이디엔주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한전케이디엔주식회사 filed Critical 한전케이디엔주식회사
Priority to KR1020190087778A priority Critical patent/KR102203617B1/ko
Application granted granted Critical
Publication of KR102203617B1 publication Critical patent/KR102203617B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

본 발명의 예측 모델링 위변조 방지를 위한 방법에 따르면, 인공지능 시스템의 데이터 학습과 예측 결과 생성을 포괄하는 생애 주기(Life Cycle) 동안 임의의 변경을 방지하고, 입력/활용 주체의 접근을 비가역적 특성으로 기록하여 인공지능 윤리(ethics) 위반 여부를 감사(Audit)하는 기술을 구현할 수 있도록 하며, 데이터 전처리 단계부터 주관적 판단으로 배제되는 이상치(outlier) 항목을 블록체인으로 기록하여 사후 고의성 여부를 확인하고, 학습인자(예측 변수/목표 변수 등 입력 값)와 예측 결과를 모두 블록체인 내 비가역적으로 기록하여 위변조 행위 발생 시 경보를 발생시키고, 비정상적인 블록을 별도의 블록체인으로 기록하도록 함으로써 학습인자(입력 값)와 예측 결과(출력 값)의 변경을 원천적으로 방지할 수 있도록 하는 효과가 있다.

Description

예측 모델링 위변조 방지를 위한 방법{Method for Preventing Forgery and Falsification of Prediction Modeling}
본 발명은 예측 모델링 위변조 방지를 위한 방법에 관한 것으로, 더욱 상세하게는 지도 학습(Supervised Learning) 기반 인공지능 예측 모델 개발 및 운용을 위한 예측변수/목표변수의 인위적인 위변조 행위를 방지하고, 예측결과의 객관성 확보와 특정 이해관계자의 의도된 불공정 행위를 배제하여 인공지능 윤리(ethics)를 확보하기 위한 예측 모델링 위변조 방지를 위한 방법에 관한 것이다.
최근 이슈가 되고 있는 머신 러닝, 특히 딥 뉴럴 네트워크(Deep Neural Network)는 특정 업무를 수행하도록 엄격하게 프로그램된 기존의 방식에서 벗어나, 학습 데이터를 기반으로 학습된다.
딥 뉴럴 네트워크는 현재까지는 주로 음성 및 영상 인식, 자연어 처리와 같은 분야에서 주로 사용되고 있다.
머신 러닝의 분야는 크게 지도 학습, 비지도 학습, 강화 학습 등으로 분류될 수 있다.
딥 뉴럴 네트워크는 입력 계층과 출력 계층, 그리고 그 사이에 1개 이상의 은닉 계층으로 구성된다.
은닉 계층에서 각 뉴런은 가중치, 바이어스 및 활성화 함수에 따라 결정된 출력을 그 다음의 계층으로 전달한다.
지도 학습 기반의 딥 뉴럴 네트워크는 네트워크의 훈련 시에, 라벨링된 훈련 데이터를 입력 계층에 할당한다.
그리고, 초기 가중치 및 바이어스에 따라 연산된 출력 계층의 결과를, 미리 알고 있는 훈련 데이터의 라벨과 비교하여, 비용 함수를 계산한다.
여기서, 비용 함수에 영향을 미치는 가중치 및 바이어스에 대해 비용 함수를 편미분하고, 비용 함수가 감소되는 방향으로 반복적으로 가중치 및 바이어스를 조정하게 되며, 비용 함수가 기 설정된 문턱 값보다 낮을 경우에 반복을 중단한다.
그러나, 현재 인공지능 시스템은 학습데이터 입력 주체(데이터를 입력하는 사용자)를 추적 관찰 하는 신뢰성 있는 감사(Audit) 기능이 없으며, 인공지능은 차별적인 데이터로 훈련될 경우 편향된 예측 모델을 도출하게 되고, 활용 주체(데이터를 활용하는 사용자)가 의도적으로 인공지능으로 예측한 결과 값을 변경하여 잘못된 정책을 추진할 수 있는 문제점이 있었다.
대한민국 등록특허공보 등록번호 제10-1992053호
본 발명은 상술한 문제점을 해결하기 위해 안출된 것으로서, 인공지능 시스템의 데이터 학습과 예측 결과 생성을 포괄하는 생애 주기(Life Cycle) 동안 임의의 변경을 방지하고, 입력/활용 주체의 접근을 비가역적 특성으로 기록하여 인공지능 윤리(ethics) 위반 여부를 감사(Audit)하는 기술을 구현할 수 있도록 하며, 데이터 전처리 단계부터 주관적 판단으로 배제되는 이상치(outlier) 항목을 블록체인으로 기록하여 사후 고의성 여부를 확인하고, 학습인자(예측 변수/목표 변수 등 입력 값)와 예측 결과를 모두 블록체인 내 비가역적으로 기록하여 위변조 행위 발생 시 경보를 발생시키고, 비정상적인 블록을 별도의 블록체인으로 기록하도록 함으로써 학습인자(입력 값)와 예측 결과(출력 값)의 변경을 원천적으로 방지할 수 있도록 하는 예측 모델링 위변조 방지를 위한 방법을 제공하는 것이다.
상술한 목적을 달성하기 위한 본 발명의 예측 모델링 위변조 방지를 위한 방법은 데이터입력시스템에 저장된 학습/실측을 위한 데이터가 제1인터페이스를 통하여 블록체인노드에 입력되는 제1단계; 블록체인노드에 입력된 학습/실측 데이터가 제2인터페이스를 통하여 예측시스템으로 입력된 후 전처리 과정을 수행하고, 전처리 과정에서 배제된 값이 블록체인노드에 저장되는 제2단계; 예측시스템에서 전처리 과정에 따른 결과를 학습 데이터로 선택하여 인공지능 알고리즘 학습을 수행하고, 사용한 학습 데이터는 블록체인노드에 저장되는 제3단계; 알고리즘 학습 결과로 도출된 모델의 문제점을 조절하고 정확도를 개선하기 위해 예측시스템에서 모델링을 통해 하이퍼 파라미터 값을 조정하고, 조정된 하이퍼 파라미터 값과 모델링 결과는 블록체인노드에 저장되는 제4단계 및 예측시스템에서 블록체인노드에 저장된 모델링 결과와 실측 데이터를 조합하여 미래 데이터 예측을 수행하고, 예측 결과는 블록체인노드에 저장되는 제5단계를 포함한다.
제5단계에서, 예측 결과를 각각의 블록체인노드에 저장하기 위한 블록체인 트랜잭션 필드가 재구성되는 단계를 포함할 수 있다.
5단계에서, 블록체인 트랜잭션 필드의 데이터 필드가 사후 추적을 위한 정보인 Audit 필드, 미가공 데이터 정보인 Origin Data 필드, 전처리 결과와 배제된 값 정보인 Pre Process 필드, 하이퍼 파라미터와 모델링 결과 정보인 Parameter 필드, 최종 예측 결과 데이터인 Result 필드로 재구성되는 단계를 포함할 수 있다.
제5단계 이후, 블록체인노드에 저장된 예측 결과는 통신 인터페이스를 통하여 외부시스템으로 연계되는 단계를 포함할 수 있다.
이상에서 설명한 바와 같은 본 발명의 예측 모델링 위변조 방지를 위한 방법에 따르면, 인공지능 시스템의 데이터 학습과 예측 결과 생성을 포괄하는 생애 주기(Life Cycle) 동안 임의의 변경을 방지하고, 입력/활용 주체의 접근을 비가역적 특성으로 기록하여 인공지능 윤리(ethics) 위반 여부를 감사(Audit)하는 기술을 구현할 수 있도록 하며, 데이터 전처리 단계부터 주관적 판단으로 배제되는 이상치(outlier) 항목을 블록체인으로 기록하여 사후 고의성 여부를 확인하고, 학습인자(예측 변수/목표 변수 등 입력 값)와 예측 결과를 모두 블록체인 내 비가역적으로 기록하여 위변조 행위 발생 시 경보를 발생시키고, 비정상적인 블록을 별도의 블록체인으로 기록하도록 함으로써 학습인자(입력 값)와 예측 결과(출력 값)의 변경을 원천적으로 방지할 수 있도록 하는 효과가 있다.
도 1은 본 발명의 일실시예에 따른 예측 모델링 위변조 방지를 위한 시스템을 나타낸 도면이며,
도 2 및 도 3은 본 발명의 일실시예에 따른 예측 모델링 위변조 방지를 위한 시스템에 학습/실측 데이터 입력을 설명하기 위한 도면이며,
도 4는 본 발명의 일실시예에 따른 예측 모델링 위변조 방지를 위한 시스템의 블록체인으로 데이터 입력의 예시를 나타낸 도면이며,
도 5 및 도 6은 본 발명의 일실시예에 따른 예측 모델링 위변조 방지를 위한 시스템에서 전처리 과정을 설명하기 위한 도면이며,
도 7은 본 발명의 일실시예에 따른 예측 모델링 위변조 방지를 위한 시스템에서 알고리즘 학습 결과에 따라 하이퍼 파라미터 조정을 설명하기 위한 도면이며,
도 8 내지 도 10은 본 발명의 일실시예에 따른 예측 모델링 위변조 방지를 위한 시스템에서 예측 결과를 설명하기 위한 도면이며,
도 11 및 도 12는 본 발명의 일실시예에 따른 예측 모델링 위변조 방지를 위한 시스템에서 블록체인 데이터 필드의 재구성을 설명하기 위한 도면이며,
도 13은 본 발명의 일실시예에 따른 예측 모델링 위변조 방지를 위한 방법을 설명하기 위한 플로우차트이다.
이하, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있도록 상세히 설명하기 위하여, 본 발명의 바람직한 실시예를 첨부한 도면을 참조하여 상세하게 설명한다.
본 발명의 일실시예에 따른 예측 모델링 위변조 방지를 위한 시스템은 도 1에 나타낸 바와 같이, 데이터입력시스템(110), 제1인터페이스(120), 블록체인노드(130),제2인터페이스(140), 예측시스템(150), 휴먼인터페이스(160), 인터넷(170), 공공시스템(180) 및 외부시스템(190)이 포함되어 구성된다.
데이터입력시스템(110)은 사용자가 수동으로 데이터를 입력하거나, 데이터 제공 API(예시>기상청 데이터 등)를 활용하여 주기적으로 데이터를 취득하며, 취득된 데이터는 Rest API 방식의 제1인터페이스(120)를 통하여 블록체인노드(130)로 전달되어 저장된다.
블록체인노드(130)는 블록체인 네트워크를 구성하는 탈중앙화 서버이다.
예측시스템(150)은 블록체인노드(130)와 JSON-RPC 방식의 제2인터페이스(140)를 통하여 데이터 전송이 수행되는 것으로, 입력된 데이터에서 불필요로 판단되는 데이터를 제외하거나 정규화를 통해 데이터를 가공하는 전처리 과정을 수행하는 전처리 모듈, 전처리 과정을 수행 후 전처리 결과를 학습데이터로 입력받아 인공지능 알고리즘을 학습시키는 학습 과정을 수행하는 학습 모듈, 학습 과정을 수행하고 학습 인자에 영향을 주는 하이퍼 파라미터 등을 조절하여 최적의 모델을 찾는 모델링 과정을 수행 모델링 모듈, 최적의 모델에 실측 데이터를 입력하여 미래 데이터를 예측하는 예측 과정을 수행하는 예측 모듈이 포함되어 구성된다.
아울러, 학습 과정과 모델링 과정은 최적의 모델 선정을 위해 반복하여 수행될 수 있다.
예측시스템(150)에는 전처리 과정, 학습 과정, 모델링 과정 및 예측 과정을 모니터링하기 위한 모니터링 모듈, 전처리 과정, 학습 과정, 모델링 과정 및 예측 과정을 시각적으로 표시하는 시각화 모듈 및 예측시스템(150)의 관리 및 각종 조작을 수행하는 모듈이 포함된 휴먼인터페이스(160)가 포함되어 구성된다.
공공시스템(180) 및 외부시스템(190)은 인터넷(170)에 연결되어 외부 네트워크에 존재하는 것으로, 예측시스템(150)에 의한 예측 결과 데이터를 취득하여 다양한 목적으로 사용할 수 있다.
상술한 바와 같이 예측 모델링 위변조 방지를 위한 시스템이 구성되고, 먼저, 데이터입력시스템(110)에 저장된 학습/실측을 위한 데이터가 제1인터페이스(120)를 통하여 블록체인노드(130)에 입력된다(S110).
데이터입력시스템(110)은 도 2에 나타낸 바와 같이, 공공데이터포털 등 공공데이터 Open API와 같이 별도의 데이터 제공자로부터 학습/실측을 위한 데이터를 제공받아 블록체인노드(130)로 전달한다.
한편, Open API를 통하여 학습/실측을 위한 데이터를 수신할 수 없거나 또는 네트워크 오류 등이 발생할 경우, 도 3에 나타낸 바와 같이 수작업을 통하여 별도의 저장장치에 미리 저장된 학습/실측을 위한 데이터를 데이터입력시스템(110)으로 업로드 시킬 수 있다.
데이터입력시스템(110)은 학습/실측을 위한 데이터를 RPC 프로토콜로 블록체인노드(130)에 전달한다.
도 4는 블록체인노드(130) 중 노드1에 학습/실측을 위한 데이터가 기록된 후 POW(작업증명)에 의한 합의의 예시를 나타낸 것이다.
이어서, 블록체인노드(130)에 입력된 학습/실측 데이터가 제2인터페이스(140)를 통하여 예측시스템(150)으로 입력된 후 전처리 과정을 수행하고, 전처리 과정에서 배제된 값이 블록체인노드에 저장된다(S120).
먼저, 예측시스템(150)에서 블록체인노드(130)에 저장된 학습/실측을 위한 데이터를 제공받아 조회를 한다.
예를 들어, 도 5에 나타낸 바와 같이, 순번 2와 순번 3은 취득 값이 0으로 조회되어, 실제 취득 값이 0인지 잘못된 취득 값인지 확인을 해야 한다.
순번 4는 취득 값이 500으로 조회되어, 이는 발전기 용량인 120을 초과하는 값으로 삭제를 결정해야 한다.
순번 6은 발전기 ID가 누락된 경우 1로 인정할 것이지 결정하거나 또는 학습/실측을 위한 데이터를 재 취득해야 한다.
한편, 순번 4는 발전기 용량인 120을 초과하는 값으로 삭제를 결정하는 것으로, 예를 들어, 도 6을 참고하여, 블록체인노드(130)의 내용으로 Audit 필드에 홍길동이, 2019년 7월 1일에, IP: 192.168.0.1 위치에서, 삭제로 재구성되고, Original Data 필드에 발전기 ID: 1, 설비용량: 120, 계량일: 20170818, 시간: 3, 취득값: 500으로 재구성되고, PreProcess 필드에 발전기 ID: 1, 설비용량: 120, 계량일: 20170818, 시간: 3, 취득값: 500으로 재구성되며, 순번 4는 Audit 필드에 삭제로 기록되어 순번 4에 대한 전처리 결과(PreProcess)는 더 이상 사용되지 않는다.
이어서, 예측시스템(150)에서 전처리 과정에 따른 결과를 학습 데이터로 선택하여 인공지능 알고리즘 학습을 수행하고, 사용한 학습 데이터는 블록체인노드(130)에 저장된다(S130).
예를 들어, 도 5를 참고하여, 순번 1에 대한 블록체인노드(130)에 저장된 내용은 Audit 필드에 홍길동이, 2019년 7월 1일에, IP: 192.168.0.1 위치에서, 허용으로 재구성되고, Original Data 필드에 발전기 ID: 1, 설비용량: 120, 계량일: 20170818, 시간: 0, 취득값: 100으로 재구성되고, PreProcess 필드에 발전기 ID: 1, 설비용량: 120, 계량일: 20170818, 시간: 0, 취득값: 100으로 재구성된다.
순번 2에 대한 블록체인노드(130)에 저장된 내용은 Audit 필드에 홍길동이, 2019년 7월 1일에, IP: 192.168.0.1 위치에서, 허용으로 재구성되고, Original Data 필드에 발전기 ID: 1, 설비용량: 120, 계량일: 20170818, 시간: 1, 취득값: 0으로 재구성되고, PreProcess: 발전기 ID: 1, 설비용량: 120, 계량일: 20170818, 시간: 1, 취득값: 0으로 재구성된다.
순번 3에 대한 블록체인노드(130)에 저장된 내용은 Audit 필드에 홍길동이, 2019년7월1일에, IP: 192.168.0.1 위치에서, 허용으로 재구성되고, Original Data 필드에 발전기 ID: 1, 설비용량: 120, 계량일: 20170818, 시간: 2, 취득값: 0으로 재구성되고, PreProcess 필드에 발전기 ID: 1, 설비용량: 120, 계량일: 20170818, 시간: 2, 취득값: 0으로 재구성된다.
순번 5에 대한 블록체인노드(130)에 저장된 내용은 Audit 필드에 홍길동이, 2019년7월1일에, IP: 192.168.0.1 위치에서, 허용으로 재구성되고, Original Data 필드에 발전기 ID: 1, 설비용량: 120, 계량일: 20170818, 시간: 4, 취득값: 80으로 재구성되고, PreProcess: 발전기 ID: 1, 설비용량: 120, 계량일: 20170818, 시간: 4, 취득값: 80으로 재구성된다.
순번 6에 대한 대한 블록체인노드(130)에 저장된 내용은 Audit 필드에 홍길동이, 2019년 7월1일에, IP: 192.168.0.1 위치에서, 다른값으로 대체로 재구성되고, Original Data 필드에 발전기 ID: 누락, 설비용량: 120, 계량일: 20170818, 시간: 6, 취득값: 90으로 재구성되고, PreProcess 필드에 발전기 ID: 1, 설비용량: 120, 계량일: 20170818, 시간: 6, 취득값: 90으로 재구성된다.
이렇게 허용 및 대체의 결과로 입력된 전처리 결과(PreProcess)는 예측시스템(150)에서 인공지능 알고리즘 학습데이터로 사용된다.
이어서, 알고리즘 학습 결과로 도출된 모델의 문제점을 조절하고 정확도를 개선하기 위해 예측시스템(150)에서 모델링을 통해 하이퍼 파라미터 값을 조정하고, 조정된 하이퍼 파라미터 값과 모델링 결과는 블록체인노드(130)에 저장된다(S140).
Figure 112019074429550-pat00001
모델링은 표 1에 나타낸 바와 같이, 학습된 모델을 파이썬 (in-built) 인 빌트 피클(pickle) 모듈을 통하여 수행할 수 있고, 도 7에 나타낸 바와 같이, 예를 들어, 하이퍼 파라미터 값을 4로 조정하였다.
이어서, 표 1의 모델링 파일과 하이퍼 파라미터 값을 블록체인노드(130)에 저장하여, Audit 필드는 홍길동이, 2019년 7월 1일에, IP: 192.168.0.1 위치에서, 입력으로 재구성되고, Parameter 필드는 모델링 결과: 모델.pkl, 하이퍼 파라미터: 4로 재구성된다.
이어서, 예측시스템(150)에서 블록체인노드(130)에 저장된 모델링 결과와 실측 데이터를 조합하여 미래 데이터 예측을 수행하고, 예측 결과는 블록체인노드(130)에 저장된다(S150).
이어서, 예측시스템은 도 8에 나타낸 바와 같이, Audit 필드는 홍길동이, 2019년 7월 1일에, IP: 192.168.0.1 위치에서, 입력으로 재구성되고, Parameter 필드는 모델링 결과: 모델.pkl, 하이퍼 파라미터: 4로 재구성되어 저장된 블록 1에서 모델 데이터를 가져오고, 도 9에 나타낸 바와 같이, Audit 필드는 홍길동이, 2019년 7월 1일에, IP: 192.168.0.1 위치에서, 허용으로 재구성되고, Original Data는 발전기 ID: 1, 설비용량: 120, 계량일: 20170818, 시간: 0, 취득값: 100으로 재구성되고, PreProcess 필드는 발전기 ID: 1, 설비용량: 120, 계량일: 20170818, 시간: 0, 취득값: 100으로 재구성되어 저장된 블록 2에서 실측 데이터를 가져온다.
이어서, 예측시스템(150)은 모델 데이터에 실측 데이터를 적용하여 예측 결과를 생성 후 블록체인노드(130) 중 블록 3에 저장한다.
블록 3의 내용으로써, 도 10에 나타낸 바와 같이, Audit 필드는 홍길동이, 2019년 7월 1일에, IP: 192.168.0.1 위치에서, 입력으로 재구성되고, Result 필드는 발전기 ID: 1, 설비용량: 120, 계량일: 20190818, 시간: 0, 취득값: 100으로 재구성된다.
예측시스템(130)은 예측 결과를 RPC 프로토콜로 블록체인노드(130)에 전달한다.
도 11은 블록체인 Data 필드 재구성, 도 12는 블록체인 Data 필드 정의를 나타낸 것으로, 트랜잭션 기본구조에서의 스마트 컨트렉트와 연계한 입력데이터 필드인 Date/Input 필드가 누가/언제/어디서/어떻게/무엇을 등 사후 추적을 위한 정보인 Audit 필드, 미가공 데이터로 외부 연계로 수신하거나 HMI를 통해 수동으로 입력된 정보인 Origin Data 필드, 전처리 결과와 배제된 값 정보인 Pre Process 필드, 하이퍼 파라미터와 모델링 결과 정보인 Parameter 필드, 최종 예측 결과 데이터인 Result 필드로 재구성되는 것을 보여준다.
이어서, 블록체인노드에 저장된 예측 결과는 제1인터페이스를 통하여 공공시스템(180) 및 외부시스템(190)으로 연계되어 다양한 목적으로 활용된다.
이상에서 설명한 바와 같은 본 발명의 예측 모델링 위변조 방지를 위한 방법에 따르면, 인공지능 시스템의 데이터 학습과 예측 결과 생성을 포괄하는 생애 주기(Life Cycle) 동안 임의의 변경을 방지하고, 입력/활용 주체의 접근을 비가역적 특성으로 기록하여 인공지능 윤리(ethics) 위반 여부를 감사(Audit)하는 기술을 구현할 수 있도록 하며, 데이터 전처리 단계부터 주관적 판단으로 배제되는 이상치(outlier) 항목을 블록체인으로 기록하여 사후 고의성 여부를 확인하고, 학습인자(예측 변수/목표 변수 등 입력 값)와 예측 결과를 모두 블록체인 내 비가역적으로 기록하여 위변조 행위 발생 시 경보를 발생시키고, 비정상적인 블록을 별도의 블록체인으로 기록하도록 함으로써 학습인자(입력 값)와 예측 결과(출력 값)의 변경을 원천적으로 방지할 수 있도록 하는 효과가 있다.
한편, 본 발명에 따른 단계 S110 내지 단계 S150에 따른 예측 모델링 위변조 방지를 위한 방법을 프로그램화하여 컴퓨터가 읽을 수 있도록 시디롬, 메모리, ROM, EEPROM 등의 기록매체에 저장시킬 수도 있다.
이상의 설명에서는 본 발명의 바람직한 실시예를 제시하여 설명하였으나, 본 발명이 반드시 이에 한정되는 것은 아니며, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 기술적 사상을 벗어나지 않는 범위 내에서 여러 가지 치환, 변형 및 변경할 수 있음을 쉽게 알 수 있을 것이다.
110: 데이터입력시스템 120: 제1인터페이스
130: 블록체인노드 140: 제2인터페이스
150: 예측시스템 160: 휴먼인터페이스
170: 인터넷 180: 공공시스템
190: 외부시스템

Claims (5)

  1. 삭제
  2. 삭제
  3. 데이터입력시스템이 주기적으로 저장된 학습/실측을 위한 데이터를 제1인터페이스를 통하여 블록체인노드에 입력하는 제1단계;
    상기 블록체인노드가 상기 데이터입력시스템에서 입력된 학습/실측 데이터를 제2인터페이스를 통하여 예측시스템으로 입력하면, 상기 예측시스템이 전처리 과정을 수행하고, 전처리 과정에서 배제된 값을 상기 블록체인노드에 저장되는 제2단계;
    상기 예측시스템이 전처리 과정에 따른 결과를 학습 데이터로 선택하여 인공지능 알고리즘 학습을 수행하고, 사용한 학습 데이터를 블록체인노드에 저장되는 제3단계;
    상기 예측시스템이 알고리즘 학습 결과로 도출된 모델의 문제점을 조절하고 정확도를 개선하기 위해 모델링을 통해 하이퍼 파라미터 값을 조정하고, 조정된 하이퍼 파라미터 값과 모델링 결과는 블록체인노드에 저장되는 제4단계; 및
    상기 예측시스템이 블록체인노드에 저장된 모델링 결과와 실측 데이터를 조합하여 미래 데이터 예측을 수행하고, 예측 결과를 블록체인노드에 저장하는 제5단계를 포함하고,
    상기 제5단계에서, 상기 예측시스템이
    예측 결과를 각각의 블록체인노드에 저장하기 위한 블록체인 트랜잭션 필드를 재구성하는 단계를 포함하되,
    사후 추적을 위한 정보인 Audit 필드, 미가공 데이터 정보인 Origin Data 필드, 전처리 결과와 배제된 값 정보인 Pre Process 필드, 하이퍼 파라미터와 모델링 결과 정보인 Parameter 필드, 최종 예측 결과 데이터인 Result 필드로 블록체인 트랜잭션 필드의 데이터 필드를 재구성하는 단계를 포함하는 것을 특징으로 하는 예측 모델링 위변조 방지를 위한 방법.
  4. 청구항 3에 있어서,
    상기 제5단계 이후, 상기 블록체인노드가
    상기 예측시스템에 의해 예측되어 저장된 예측 결과를 통신 인터페이스를 통하여 외부시스템으로 연계하는 단계를 포함하는 것을 특징으로 하는 예측 모델링 위변조 방지를 위한 방법.
  5. 청구항 3항 내지 청구항 4항 중 어느 한 항의 예측 모델링 위변조 방지를 위한 방법을 실행하는 프로그램이 기록되어 컴퓨터로 읽을 수 있는 기록매체.
KR1020190087778A 2019-07-19 2019-07-19 예측 모델링 위변조 방지를 위한 방법 KR102203617B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020190087778A KR102203617B1 (ko) 2019-07-19 2019-07-19 예측 모델링 위변조 방지를 위한 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190087778A KR102203617B1 (ko) 2019-07-19 2019-07-19 예측 모델링 위변조 방지를 위한 방법

Publications (1)

Publication Number Publication Date
KR102203617B1 true KR102203617B1 (ko) 2021-01-14

Family

ID=74141165

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190087778A KR102203617B1 (ko) 2019-07-19 2019-07-19 예측 모델링 위변조 방지를 위한 방법

Country Status (1)

Country Link
KR (1) KR102203617B1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102494144B1 (ko) * 2021-10-28 2023-02-06 주식회사 피에스글로벌 빅데이터 기반 지능형 상수관망 의사결정지원 시스템
KR102641958B1 (ko) * 2023-09-08 2024-02-27 국방과학연구소 기계학습을 이용한 무인항공기의 안티탬퍼링 동작 시스템 설계 장치 및 방법

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190056940A (ko) * 2017-11-17 2019-05-27 삼성전자주식회사 멀티모달 데이터 학습 방법 및 장치
KR101984730B1 (ko) * 2018-10-23 2019-06-03 (주) 글루시스 서버 장애 자동 예측 시스템 및 자동 예측 방법
KR101992053B1 (ko) 2018-03-22 2019-06-21 세종대학교산학협력단 적응적 앙상블 지도학습 기반의 딥 뉴럴 네트워크를 이용한 siso-ofdm 채널 추정 장치 및 그 방법
KR20190076197A (ko) * 2017-12-22 2019-07-02 주식회사 케이티 블록체인 기반의 데이터 저장 장치 및 방법

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190056940A (ko) * 2017-11-17 2019-05-27 삼성전자주식회사 멀티모달 데이터 학습 방법 및 장치
KR20190076197A (ko) * 2017-12-22 2019-07-02 주식회사 케이티 블록체인 기반의 데이터 저장 장치 및 방법
KR101992053B1 (ko) 2018-03-22 2019-06-21 세종대학교산학협력단 적응적 앙상블 지도학습 기반의 딥 뉴럴 네트워크를 이용한 siso-ofdm 채널 추정 장치 및 그 방법
KR101984730B1 (ko) * 2018-10-23 2019-06-03 (주) 글루시스 서버 장애 자동 예측 시스템 및 자동 예측 방법

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Jiasi Weng et al. DeepChain: Auditable and Privacy-Preserving Deep Learning with Blockchain-based Incentive. Published 2018. IACR Cryto. ePrint Arch.* *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102494144B1 (ko) * 2021-10-28 2023-02-06 주식회사 피에스글로벌 빅데이터 기반 지능형 상수관망 의사결정지원 시스템
KR102641958B1 (ko) * 2023-09-08 2024-02-27 국방과학연구소 기계학습을 이용한 무인항공기의 안티탬퍼링 동작 시스템 설계 장치 및 방법

Similar Documents

Publication Publication Date Title
US11915179B2 (en) Artificial intelligence accountability platform and extensions
CN105144112B (zh) Java堆使用的季节趋势、预报、异常检测和端点预测
Lepenioti et al. Machine learning for predictive and prescriptive analytics of operational data in smart manufacturing
US20220129804A1 (en) Systems and Methods for Integrated Technology Risk Management
US10346782B2 (en) Adaptive augmented decision engine
JP2019185422A (ja) 故障予知方法、故障予知装置および故障予知プログラム
KR102203617B1 (ko) 예측 모델링 위변조 방지를 위한 방법
Borrajo et al. Multi-agent neural business control system
US11221617B2 (en) Graph-based predictive maintenance
KR102359090B1 (ko) 실시간 기업정보시스템 이상행위 탐지 서비스를 제공하는 방법과 시스템
Ma et al. Development of a time-variant causal model of human error in construction with dynamic Bayesian network
Manoharan et al. Implementation of internet of things with blockchain using machine learning algorithm: Enhancement of security with blockchain
dos Santos et al. A long-lasting reinforcement learning intrusion detection model
US20230418958A1 (en) Scalable, data-driven digital marketplace providing a standardized secured data system for interlinking sensitive risk-related data, and method thereof
Yadav et al. Software reliability prediction and optimization using machine learning algorithms: A review
CN116909712A (zh) 基于机器学习的智能任务调度系统及其方法
Emmanouilidis et al. Context-based and human-centred information fusion in diagnostics
GB2620602A (en) Training of a machine learning model for predictive maintenance tasks
CN111737319B (zh) 用户集群的预测方法、装置、计算机设备和存储介质
CN111656804B (zh) 分布式系统的监测
Rivera et al. Designing run-time evolution for dependable and resilient cyber-physical systems using digital twins
Sousa et al. Applying Machine Learning to Estimate the Effort and Duration of Individual Tasks in Software Projects
Zhang et al. Optimization of Virtual Network Mapping Based on Improved Ant Colony Algorithm in Complex Network Environments
Al-Alawi et al. Applying NIST SP 800-161 in supply chain processes empowered by artificial intelligence
Zhang Countering cybersecurity vulnerabilities in the power system

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant