KR20140028784A - 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템 및 그 능동학습방법 - Google Patents

클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템 및 그 능동학습방법 Download PDF

Info

Publication number
KR20140028784A
KR20140028784A KR1020120095856A KR20120095856A KR20140028784A KR 20140028784 A KR20140028784 A KR 20140028784A KR 1020120095856 A KR1020120095856 A KR 1020120095856A KR 20120095856 A KR20120095856 A KR 20120095856A KR 20140028784 A KR20140028784 A KR 20140028784A
Authority
KR
South Korea
Prior art keywords
learning
artificial
function
active
knowledge
Prior art date
Application number
KR1020120095856A
Other languages
English (en)
Other versions
KR101456554B1 (ko
Inventor
이수영
김호경
길이만
Original Assignee
한국과학기술원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국과학기술원 filed Critical 한국과학기술원
Priority to KR1020120095856A priority Critical patent/KR101456554B1/ko
Publication of KR20140028784A publication Critical patent/KR20140028784A/ko
Application granted granted Critical
Publication of KR101456554B1 publication Critical patent/KR101456554B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations
    • G06F17/18—Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Operations Research (AREA)
  • Probability & Statistics with Applications (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Algebra (AREA)
  • Evolutionary Biology (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Manipulator (AREA)
  • Feedback Control In General (AREA)

Abstract

본 발명은 인공인지제어부가 카메라와 마이크를 통해 영상 혹은 음성형태로 입력되는 학습자료 또는 인터페이스부를 통해 유,무선으로 입력되는 학습자료에 대해 지식체계를 구성하는 제1 과정과; 상기 제1 과정후에 상기 구성된 지식체계에 따른 해당학습자료의 신뢰도를 기 설정된 능동형 지식증식 모델에 따라 예측한후 그 예측된 결과에 따라 능동형 지식증식 모델 형태의 능동학습을 실행하는 제2 과정과; 상기 제1 과정중에 상기 능동학습에 대한 성능을 분석한 후 그 결과에 따라 능동형 지식증식 모델에 포함된 계산모델을 수정 보완하는 제3 과정을 포함하는 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템 및 그 능동학습방법을 제공한다.
상기와 같은 본 발명은 정보공학적 기법과 뇌인지과학적 기법을 복합적으로 사용하여 뇌인지기능의 계산모델을 개발하고 지능로봇용 클래스 확률 출력망에 기초한 불확실성 측도를 이용하여 능동학습을 실행하므로써, 지능로봇이 스스로 인지기능을 향상시키는 효과가 있다.

Description

클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템 및 그 능동학습방법{Artificial Cognitive System having a proactive studying function using an Uncertainty Measure based on Class Probability Output Networks and proactive studying method for the same}
본 발명은 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템 및 그 능동학습방법에 관한것으로, 특히 지능로봇용 클래스 확률 출력망에 기초한 불확실성 측도를 이용하여 능동학습을 실행하므로써, 지능로봇이 스스로 인지기능을 향상시키는 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템 및 그 능동학습방법에 관한것이다.
일반적으로 로봇 기술은 1990년대에 들어와, 산업용 로봇에서 비산업용 로봇으로의 전환이 시도되면서 많은 발전이 이루어져왔다. 특히, 상기 로봇은 사용자가 원하는 서비스를 제공하기 위해서, 그 주어진 명령을 이해하고, 주변환경을 인식하여 스스로 판단할 수 있어야 하며, 이러한 기능을 갖기 위해서는 로봇은 인공지능을 갖고 있어야 한다. 상기와 같은 인공지능(人工知能 Artificial Intelligence)이란 학습이나 의사결정과 같은 인간의 능력과 유사한 동작을 컴퓨터가 대행할 수 있도록 하는 기술을 말하는 것으로서, 1950년대 중반에 연구가 시작되었으며 현재는 게임, 수학적 증명, 컴퓨터비전, 음성 인식, 자연어 인식, 전문가 시스템, 로봇공학, 생산자동화 등의 분야에서 널리 연구, 활용되고 있다. 그리고 상기와 같은 인공지능 기술은 전문가 시스템과 같이, 모든 지식과 추론 형태를 미리 저장해 두고, 이를 기반으로 하여 상징적(symbolic)인 환경을 모델링하고, 상기 모델을 바탕으로 상황을 판단하고 결정하도록 구성되어 왔다.
여기서 상기와 같은 인공지능로봇과 관련된 선행기술로는 (주)유진로보틱스에 의해 출원공개된 한국공개특허공보 제 10-2003-0019125호(발명의 명칭: 로봇의 지능 보완 방법 및 시스템, 이에 의한 로봇을이용한 다이나믹 교육 방법 및 시스템; 공개일: 2003년03월06일)가 공지되어 있다.
그러면, 상기와 같은 종래 인공지능로봇을 도 1을 참고로 살펴보면, 여러가지 상황에 대한 로봇(70)의 행동을 정의한 데이타를 저장관리하고, 새로운 상황이 발생시 로봇(70)의 행동정의데이타를 새로 갱신하여 관리하는 관리서버(71)와;
상기 관리서버(71)에 무선인터넷을 통해 접속되며, 자유롭게 이동가능하고, 외부에서 또는 자체 판단에 의해 명령 생성시, 자체 행동정의데이타베이스 및 통신네트워크를 통해 접속된 관리서버(71)의 행동 정의 데이타베이스를 검색하여 인식된 명령에 대한 적절한 행동 정의를 검색하여 수행하는 로봇(70)과;
상기 관리서버(71)와 로봇(70)간에 데이타통신을 가능하게 하는 통신네트워크(72)로 이루어진다.
한편, 상기와 같은 종래 인공지능로봇의 동작은 먼저, 로봇(70)에서 새로운 명령 발생시 내부 프로그램된 행동정의가 없는 경우 로봇(70)이 상기 관리서버(71)에 통신네트워크(72)를 통해 접속한 후 관리서버(71)의 데이타를 검색하여 적절한 행동정의를 검색하고, 검색된 행동정의데이타를 수신받아 설정된 작업을 수행한다. 외부에서 행동정의데이타를 입력할 필요가 있을 경우 클라이언트단말기(73)를 통해 관리서버(71)를 경유하여 로봇(70)으로 해당 데이타를 전송하여 로봇(70)을 제어하게된다.
그런데, 상기와 같은 종래 전문가 시스템에 기반한 기존의 인공지능로봇은 모든 법칙을 개발자가 프로그램밍을 하여야 하는데, 이렇게 할 경우 미래의 실세계 상황을 전부 다 고려하는 것은 현실적으로 불가능하다. 그래서 그 대안으로 학습에 기반한 신경회로망 기법이 인공지능을 대신하여 왔으나, 비교적 단순한 패턴인식 등에서만 성공을 거두었을 뿐이다. 따라서, 상기와 같은 종래 인공지능로봇은 사용자나 다른 로봇등과 상호작용하며 스스로 능력을 개발해 나가는 방향으로 진행하고 있다.이렇게하는 것은 마치, 갓 태어난 어린아이가 생명유지 및 학습기능 만을 갖지만, 부모 및 사회로부터 배움으로서 상식을 발전시켜 성인이 되고, 더 나아가 전문지식을 학습함으로서 전문가가 되는 것을 모델로 하는것이다. 물론, 이렇게하는 것은 전문가에 의해 개발된 지능로봇의 두뇌는 복사되어 다른 로봇의 두뇌로 사용될 수 있으며, 사용자에 따라 적응하여 더욱 발전시킬 수 있다.
그러나, 상기와 같은 종래 인공지능로봇은 공학적 전문지식과 뇌인지과학적 지식을 결합하기가 매우 어렵다는 기술적 한계가 있었고, 인간의 인지기능은 매우 복잡하고 우수하여, 수학적 공학적 접근방법으로 구현된 지능로봇의 성능은 매우 제한될 수 밖에 없다는 문제점이 있었다.
이에 본 발명은 상기와 같은 종래 기술의 제반 문제점을 해결하기위해 발명된 것으로, 정보공학적 기법과 뇌인지과학적 기법을 복합적으로 사용하여 뇌인지기능의 계산모델을 개발하고 지능로봇용 클래스 확률 출력망에 기초한 불확실성 측도를 이용하여 능동학습을 실행하므로써, 지능로봇이 스스로 인지기능을 향상시키는 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템 및 그 능동학습방법을 제공함에 그 목적이 있다.
상기와 같은 목적을 달성하기위한 본 발명은 몸체의 일측에 센서와 팔부재 및 바퀴부재를 장착하고 그 몸체의 상부에 카메라와 마이크가 연결된 인공지능이 설치된 인공지능로봇을 제어하는 인공인지시스템에 있어서,
상기 인공지능로봇의 일측에 설치되어 외부의 인터넷 혹은 스마트장비와 유,무선접속되어 각종 학습자료들을 송수신처리하는 인터페이스부와;
상기 카메라 혹은 마이크을 통해 영상 혹은 음성형태로 입력되는 학습자료 또는 인터페이스부를 통해 유,무선으로 입력되는 학습자료에 대해 지식체계를 구성하고 해당자료의 신뢰도를 기 설정된 능동형 지식증식 모델에 따라 예측한후 그 예측된 결과에 따라 능동학습의 실행을 제어하는 인공인지제어부와;
상기 인공인지제어부의 능동학습제어신호에 따라 신뢰도가 검증된 지식체계에 따른 학습자료를 능동학습하는 인식학습모듈부를 포함하는 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템을 제공한다.
본 발명의 또 다른 특징은 인공인지제어부가 카메라와 마이크를 통해 영상 혹은 음성형태로 입력되는 학습자료 또는 인터페이스부를 통해 유,무선으로 입력되는 학습자료에 대해 지식체계를 구성하는 제1 과정과;
상기 제1 과정후에 상기 구성된 지식체계에 따른 해당학습자료의 신뢰도를 기 설정된 능동형 지식증식 모델에 따라 예측한후 그 예측된 결과에 따라 능동형 지식증식 모델 형태의 능동학습을 실행하는 제2 과정과;
상기 제1 과정중에 상기 능동학습에 대한 성능을 분석한 후 그 결과에 따라 능동형 지식증식 모델에 포함된 계산모델을 수정 보완하는 제3 과정을 포함하는 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템의 능동학습방법을 제공한다.
상기와 같은 본 발명에 의하면, 정보공학적 기법과 뇌인지과학적 기법을 복합적으로 사용하여 뇌인지기능의 계산모델을 개발하고 지능로봇용 클래스 확률 출력망에 기초한 불확실성 측도를 이용하여 능동학습을 실행하므로써, 지능로봇이 스스로 인지기능을 향상시키는 효과가 있다.
또한, 상기와 같은 본 발명은 인공지능로봇이 스스로 자신의 지식체계에서 부족한 부분을 파악하고, 누구에게 어떻게 물어야 하는지도 스스로 결정하고, 그 답을 자신의 지식체계에 융합시켜 발전시키는 능동적(proactive) 지식발전을 추구하므로써, 비정형화된 환경(사람, 다른 지능로봇, 사물 및 가상세계)을 인지하고 환경과 상호작용하는 능동형로봇의 기술발전을 극대화시키는 효과도 있다.
이에 더하여, 상기와 같은 본 발명은 본 발명의 인공인지시스템에 적용되는 능동학습이 인간-로봇 상호작용 기반 능동형 학습모델을 적용하므로써, 휴먼형 로봇에 대한 개발환경을 진일보시키는 효과도 있다.
도 1은 종래 인공지능로봇을 설명하는 설명도.
도 2는 본 발명의 인공인지시스템을 개략적으로 설명하는 설명도.
도 3은 본 발명의 플로우차트.
도 4는 본 발명의 방법이 적용되는 베타 확률분포의 장점을 확인하기위해 적은 수의 특징과 많은 수의 자료를 가지는 가상 자료를 나타내는 설명도.
도 5는 상기 도 4의 가상자료를 이용한 본 발명의 방법이 적용되는 3가지 학습 방법에 대한 학습 곡선 비교 실험을 나타내는 그래프.
도 6은 음성자료를 이용한 본 발명의 방법이 적용되는 3가지 학습 방법에 대한 학습 곡선 비교 실험을 나타내는 그래프.
도 7은 본 발명 시스템의 또 다른 실시예를 설명하는 설명도.
이하, 본 발명을 첨부된 예시도면에 의거 상세히 설명한다.
본 발명 시스템은 도 2에 도시된 바와 같이 인공지능로봇(1)의 몸체 일측에 설치된 카메라(2)를 통해 주변의 사물을 촬상하여 전송한 영상신호를 처리하는 영상신호처리모듈부(3)와;
상기 인공지능로봇(1)의 몸체 일측에 설치된 마이크(4)을 통해 외부로부터 입력되는 음성신호를 처리하거나 혹은 음성신호를 생성하여 외부로 방출시키는 음성신호처리모듈부(5)와;
상기 카메라(2) 혹은 마이크(4)을 통해 영상 혹은 음성형태로 입력되는 학습자료 또는 인터페이스부를 통해 유,무선으로 입력되는 학습자료에 대해 지식체계를 구성하고 해당자료의 신뢰도를 기 설정된 능동형 지식증식 모델에 따라 예측한후 그 예측된 결과에 따라 능동학습의 실행을 제어하는 인공인지제어부(6)와;
상기 인공인지제어부(6)의 능동학습제어신호에 따라 신뢰도가 검증된 지식체계에 따른 학습자료를 능동학습하는 인식학습모듈부(7)와;
상기 인공인지제어부(6)에 의해 처리되는 각종 처리정보들을 저장시키는 메모리부(8)와;
상기 인공인지제어부(6)의 기능제어신호에 따라 외부의 인터넷 혹은 스마트장비(10)와 유,무선접속되어 각종 학습자료들을 송수신처리하는 인터페이스부(9)를 포함한다.
여기서, 상기 인식학습모듈부(7)는 그 설계에 특별한 제한은 없으나, 인식 성능이 우수한 SVM (Support Vector Machine)을 사용할 수 있다. 또한 상기 능동형 지식증식모델은 인공지능로봇(1)에 구비된 센서로부터의 상향식(bottom-up) 및 고차 뇌기능 부위로 부터의 하향식(top-down) 주의집중(bottom-up attention)의 공진(resonance) 모델형태로 설계된다.
그리고, 상기 인공지능로봇(1)은 몸체 하부에 두발 혹은 바퀴부재(11)가 설치되고, 몸체의 양측에는 두 팔부재(12)가 설치된다. 또한, 상기 인공지능로봇(1)의 상부에는 인공두뇌가 설치되는데, 이 인공두뇌에는 예컨대, 2개의 카메라, 2개의 마이크, 1개의 스피커가 설치될 수 있고, 목, 얼굴, 눈동자, 눈썹, 입술 등의 움직임을 포함한다.
여기서, 상기와 같은 본 발명의 인공인지시스템(13)의 다른 실시예로는 도 7에 도시된 바와같이 인공지능로봇(1)의 내부에 설치되고 인공지능로봇(1)의 인지기능에 심각한 오류가 발생될 경우 외부에서 인터페이스부(9)를 통해 암호화된 오류강제수정데이터를 전송받아 인공인지제어부(6)의 기능제어신호에 따라 암호를 해제한후 그 해제된 오류강제수정데이터에 따라 인공지능로봇(1)의 학습된 데이터 혹은 자료를 강제수정시키는 오류강제수정모듈(14)를 더 포함한다.
더 나아가, 상기와 같은 본 발명의 인공인지시스템(13)의 또 다른 실시예로는 도 7에 도시된 바와같이 인공지능로봇(1)의 내부에 설치되고 인공인지제어부(6)의 기능제어신호에 따라 인공지능로봇(1)에 저장된 학습 데이터 혹은 동영상 또는 정지화상데이터를 홀로그램데이터로 변환하는 홀로그램데이터 변환부(15)와;
상기 홀로그램데이터 변환부(15)에 의해 변환된 홀로그램데이터를 인공지능로봇(1)의 몸체 근처의 공간에 홀로그램형태로 표시시키는 홀로그램생성부(16)를 더 구비한다.
한편, 본 발명의 인공인지시스템(13)은 기능별 회귀구조 연구수행 방법을 실제로 구현하게되는데, 이러한 구현방법은 목표 기능을 구체화한 후, 이의 계산모델 구현에 필요한 인지과학적 지식을 문헌검색을 통해 이해하는 문헌검색이해과정과;
상기 문헌검색이해과정후에 어느 정도의 지식이 존재할 경우, 이를 바탕으로 하고 부족한 부분을 정보과학 지식으로 보충한 후 계산모델을 개발하고, 그 계산모델을 하드웨어 또는 소프트웨어로 기능을 구현하여 인지성능에 따른 검증을 실행하는 인지성능검증과정과;
상기 인지성능검증과정후에 성능분석 후 필요시 계산모델을 수정 보완하는 수정보완과정과;
상기 수정보완과정후에 관련분야 기존 지식이 너무 부족할 경우, 스스로 인지실험을 설계하여 실행한 후 지식을 확보하는 지식능동확보과정을 포함한다.
여기서, 본 발명의 인공인지시스템에 구현되는 인지실험은 다음과 같이 실행될 수 있다.
인지실험
먼저, 본 발명의 인공인지제어부(6)는 인공지능로봇(1)에서 요구되는 인지기능에 대한 뇌과학적 이해가 시청각 초기단계 이외에서 매우 부족하기때문에, 설계된 계산모델에 대한 구체적 목표를 가지고 뇌인지과학 문헌을 재탐색한다.
이때, 찾고자하는 인지기능을 구체화 할수록 관련 연구내용의 파악이 효율적이 된다. 즉, 상기 인공인지제어부(6)는 하향식 주의집중 개념 활용하여, 구체적인 인지기능을 방대한 문헌으로부터 검색하게 된다. 그러나, 일부 연구목표에 대해서는 기존의 연구결과가 없으므로, 자체의 인지실험 설계 및 수행이 필요하다. 인지실험이 간접적인 측정이라는 한계를 고려하여, 인지기능 별 대체적인 세부기능의 순서를 파악하거나, 이를 통해 가설 모델의 적합성 여부만 판단하는 실험을 설계한다.
또한, 본 발명의 인공인지시스(13)템에 구현되는 계산모델 개발은 다음과 같다.
계산모델 개발
상기와 같은 본 발명의 계산모델은 발전시켜온 다층구조 궤환 신경회로망(Multi-layer Recurrent Neural Networks)에 기반하며, hierachical cluster 구조가 포함된다. 그리고 상기 계산모델의 학습 법칙으로는 자율학습(unsupervised learning)과 지도학습(supervised learning)이 모두 포함된다. 여기서, 상기와 같이 각 인지기능을 담당하는 cluster 내의 학습이 먼저 시작되고, 이들을 결합하는 전체 시스템의 학습이 후에 병행된다.
다음에는 상기와 같은 구성으로 된 본 발명시스템의 능동학습방법을 설명한다.
본 발명의 방법은 도 3에 도시된 바와같이 초기상태(S1)에서 인공인지제어부가 카메라와 마이크를 통해 영상 혹은 음성형태로 입력되는 학습자료 또는 인터페이스부를 통해 유,무선으로 입력되는 학습자료에 대해 지식체계를 구성하는 제1 과정(S2)과;
상기 제1 과정(S2)후에 상기 구성된 지식체계에 따른 해당학습자료의 신뢰도를 기 설정된 능동형 지식증식 모델에 따라 예측한후 그 예측된 결과에 따라 능동형 지식증식 모델 형태의 능동학습을 실행하는 제2 과정(S3)과;
상기 제2 과정(S3)중에 상기 능동학습에 대한 성능을 분석한 후 그 결과에 따라 능동형 지식증식 모델에 포함된 계산모델을 수정 보완하는 제3 과정(S4)을 포함한다.
그리고 상기 제3 과정(S4)은 인공인지제어부(6)가 상기 학습자료를 설정된 기준값에 따라 판단한 결과 관련분야의 기존 지식이 부족하다고 판단할 경우 인지실험을 설계하고 그 설계된 인지실험을 수행하여 관련분야 지식을 확보하는 인지실험단계를 더 포함한다.
또한, 상기 제1 과정(S2)에는, 입력된 학습자료로부터 인식학습모듈부(7)를 통해 지식체계를 구성하여 학습시키는 제1-1단계와;
상기 제1-1단계후에 지식체계의 신뢰도가 떨어지는 입력영역이 어느 입력영역인지를 확인하는 제1-2단계와;
상기 제1-2단계후에 신뢰도가 떨어지는 영역이 없거나 기준치 이하일경우 능동학습을 멈추거나 아니면 다음단계로 진행하는 제1-3단계와;
상기 제1-3단계후에 현재 구성된 학습자료중 신뢰도가 떨어지는 영역의 학습자료를 구하는 제1-4단계와;
상기 제1-4단계에 의해 새로운 학습자료가 구해질 경우 해당 새로운 학습자료를 기존의 학습자료에 추가하여 지식체계를 재구성한 후 인식학습모듈부(7)를 통해 재학습 시킨 후 상기 제1-2단계로 진행하는 제1-5단계를 포함하여 구성된다.
여기서, 상기 제1-4단계는 신뢰도가 떨어지는 영역의 학습자료를 구할때 사용자에게 질문하거나 혹은 인터넷을 검색하여 구하는 학습자료획득단계를 더 포함한다.
한편, 상기 제 1과정(S2)과 제2 과정(S3)에서의 지식체계 형성 및 신뢰도 예측과 인식성능을 검증하기위해 beta 분포 기법을 사용한다. 그리고 상기 beta 분포 기법은 측정된 자료에 대한 선험적 정보를 확률분포로 활용하는 것으로, 하향식(top-down) 주의집중(bottom-up attention) 기법의 한 형태이다. 즉, 측정자료에 의한 상향식 정보와 선험적 지식에 의한 하향식 정보의 융합 모델이다.
여기서, 상기와 같은 beta 분포함수를 이용한 신뢰도 예측을 통해 자료의 불확실정을 측정할 수 있으며, 이러한 학습자료의 클래스 정보가 불확실한 자료인지를 판단하는 것은 beta 분포 함수로부터의 조건부 확률을 이용함으로써 알 수 있다.
이를 위해 2개 class의 인식을 위한 Support Vector Machine(SVM)의 출력값을 beta 분포함수로 모델링하게된다.
그리고 상기 베타 함수는 단일한 극대값을 갖는 함수의 일반적인 모델로서 2진 함수의 연속적 분포의 표현에 적합하다.
이러한 모델링을 이용하여 추정된 통계적 변수들에 대한 확신구간이 사용될 수 있다. 분류를 위한 이 확신구간 레벨이 불확실성 척도가 되며, 이와 같은 방법으로 얼마나 분류기의 결과가 확실한지를 나타내 줄 수 있다.
따라서, 상기 제2 과정(S3)의 능동학습에 적용되는 beta 분포함수는 아래와 같은 수학식 1로 정의 된다.
Figure pat00001
여기서,
Figure pat00002
이때, 상기 학습된 인식학습모듈부(7) 예컨대, SVM 출력을 이용하여 α 와 β 값을 구하게된다.
따라서, 상기와 같이 구해진 α 와 β 값을 이용하여 각각의 자료에 대한 beta 함수로 모델링 된 조건부 확률을 구할 수 있게 되며, 그 식은 아래 수학식 2와 같다.
Figure pat00003
한편, 상기와 같이 주어진 자료에 대한 조건부 확률을 추정하여 분류하는 방법은 분류기의 성능 향상에 있어 효과적인 방법이다.
그러나 실제로는 학습할 자료의 개수가 적은 경우 추정된 조건부 확률(앞서의 beta 분포함수 모델링)은 부정확할 수 있으며, 또한 불확실성을 내포하고 있을 수 있다.
이러한 경우 불확실성 측정하는 것은 더 나은 분류 결과를 만들어 낼 수 있으며, 더 나아가 능동학습에 사용되는 선택적 추출에 도움을 줄 수 있다.
불확실성 측정은 분류기의 출력인 추정된 조건부 확률과 가설검증을 이용해 구할 수 있다.
먼저 각 확신 구간의 크기는 클래스의 자료 수(
Figure pat00004
)와 관계가 있는데, 다음과 같이 수학식 3으로 주어질 수 있다.
여기서 확률 함수는 Kolmogorov-Smirnov 분포 함수를 이용하며, 이는 가설 검증에서 많이 쓰이는 분포 함수이다.
Figure pat00005
여기서,
Figure pat00006

이와 같이 얻어지는 확신 구간 크기를 이용하여 각 조건부 한 방향 확신 구간은 하기의 수학식 4와 수학식 5와 같이 주어진다.
Figure pat00007
Figure pat00008
여기서, 상기 (
Figure pat00009
)와 (
Figure pat00010
)는 추정된 beta 확률 함수 값을 다시 균등 분포로 추정한 값이며, 이는 계산 량을 줄여줄 수 있는 좀 더 간단한 가설검증 방법을 사용하기 위함이다.
이렇게 주어지는 2개의 확신구간을 분리하는 값을 찾으면 이것이 바로 불확실성을 나타내는 척도로 쓰일 수 있는데, 이는 수학식 6과 같이 구해진다.
Figure pat00011
상기 수학식 6과 같이 구해진
Figure pat00012
를 이용하여
Figure pat00013
값을 찾으면 다음 수학식 7과 같다.
Figure pat00014
여기서,
Figure pat00015
이다.
이러한 결과 불확실성 (
Figure pat00016
)값은 0과 0.5 사이의 값으로 나타내 질 수 있으며, 그 값이 0에 가까울수록 자료의 클래스 정보가 확실하며, 0.5에 가까울수록 어떤 클래스에 속할지에 대한 정보가 불확실하다고 간주 된다.
먼저 육안으로 확인 가능한 자료를 통해 능동학습의 우수성을 보이기 위해 적은 수의 특징과 많은 수의 자료를 가지는 가상 자료를 도 4에 도시된 바와같이 만들었다. 예컨대, 상기 도 4은 2차 특징을 가지는 이진 클래스의 자료형태, 각 클래스는 500개의 자료를 갖는 것이 도시된다.
상기의 가상 학습 자료를 통해 능동학습를 진행해 보았다. 위의 초기 학습 자료는 전체 학습 자료의 1%로 시작하여 보았고, 학습이 진행됨에 따라 신뢰도가 가장 낮은 자료 3개씩을 골라 다음 학습 자료에 추가하여 학습을 진행 하였다.
여기서, 상기 실험중 총 3가지의 방법을 비교하였는데, 일반적으로 많이 사용하는 무작위 추출방법(random), 대표적인 능동학습법인 SVM의 경계면을 기준으로 하여 그 거리가 가장 작은 데이터를 고르는 방법(margin-based), 그리고 마지막으로 margin-based 방법과 앞서 서술한 beta분포 모델링 기반의 자료 추출법을 통합한 방법을 사용하였다. 그 학습결과는 도 5와 같이 산출되었다.
상기 실제자료를 통한 실험에서 무작위 추출법에 대해서는 학습이 진행됨에 따라 그 인식 성능이 급격히 증가하지 않는 것을 알 수 있었지만, 본 발명의 방법에 의한 beta 분포 모델링과 margin-based 추출법을 통합한 능동학습에 대해서는 인식 성능이 학습 초반에 급격히 증가하는 것을 확인 할 수 있었다.
상기 실험을 결론적으로 정리하면, 본 발명의 방법에 따른 능동학습 기법이 적은 수의 자료에서도 매우 우수한 인식률을 보임을 확인할 수 있었다.
이후 가상 자료를 이용하여 제안하는 능동학습법을 검증한 후 실제 음성 자료에 대한 검증도 이루어 졌다. 여기서 음성 자료로는 널리 쓰이는 TIMIT을 이용하였다. TIMIT은 화자 당 문장 발화(speech signal) 만을 제공하므로 음성 자료로부터 주파수 분석을 통해 의미 있는 정보(MFCC)를 추출한 뒤 제안하는 능동학습법에 적용해 보았다.
하나의 문장 발화 안에는 다양한 음소가 포함 되어 있는데 이 중 그 분포가 비슷하여 분류가 어려울 것으로 예상되는 음소들을 선택하였다. 여기서는 음소 ‘aw’ 와 'ae'를 학습 자료로 만들어 인식 성능을 비교해 보았다. 초기 학습 자료는 전체 자료 중 임의로 추출한 40개(전체 자료의 약 0.1%)로 시작하여 보았다. 그리고 학습이 진행됨에 따라 신뢰도가 가장 낮은 혹은 불확실성 측정 결과가 가장 높은 자료 1개씩을 골라 다음 학습 자료에 추가하여 학습을 진행 하였다. 비교한 방법과 사용한 인식기는 가상 자료 경우와 동일하게 하였으며, 그 학습결과는 도 6와 같이 산출되었다.
전체적으로 앞서의 가상 자료의 결과에 비해 학습이 진행됨에 따라 인식률 변동이 감소한 것을 알 수 있었다. 오히려 실제 데이터에 적용하였을 때 안정된 성능을 보임을 확인할 수 있었다. 가상 자료와 마찬가지로 beta 분포 모델링, SVM을 사용하였을 때 무작위 추출법에 대해서는 학습이 진행됨에 따라 그 인식 성능의 증가 폭이 적었다. Margin 추출법은 두 인식기 모두에 대해 그 성능이 무작위 추출법과 비교해 학습이 진행됨에 따라 크게 증가하였다. 그러나 beta 분포 모델링과 제안하는 신뢰도 예측 기법을 통합하였을 때 적은 수의 자료로도 가장 큰 인식률 증가를 보임을 확인하였다.
한편, 상기와 같은 본 발명의 인공인지시스템(13)은 인공지능로봇(1)의 인지기능에 심각한 오류가 발생될 경우 외부에서 인공인지시스템(13)의 인터페이스부(9)를 통해 암호화된 오류강제수정데이터를 오류강제수정모듈(14)로 전송시킨다. 이때 상기 오류강제수정모듈(14)은 인공인지제어부(6)의 기능제어신호에 따라 그 수신받은 오류강제수정데이터에 대한 암호를 해제한후 그 해제된 오류강제수정데이터에 따라 인공지능로봇(1)의 학습된 데이터 혹은 자료를 강제수정시킨다. 더 나아가, 상기 인공인지시스템(13)은 또 다른 실시예로서, 인공지능로봇(1)이 가지고 있는 데이터들을 홀로그램으로 표현할 수 있는데, 예컨대, 기능이 설정될 경우 홀로그램데이터 변환부(15)는 인공인지제어부(6)의 기능제어신호에 따라 인공지능로봇(1)에 저장된 학습 데이터 혹은 동영상 또는 정지화상데이터를 홀로그램데이터로 변환하여 홀로그램생성부(16)로 출력시킨다. 그러면, 상기 홀로그램생성부(16)는 홀로그램데이터 변환부(15)에 의해 변환된 홀로그램데이터를 인공지능로봇(1)의 몸체 근처의 공간에 홀로그램형태로 표시시키게 된다.
1 : 인공지능로봇 2: 카메라
3 : 영상신호처리모듈부 4 : 마이크
5 : 음성신호처리모듈부 6 : 인공인지제어부
7 : 인식학습모듈부 8 : 메모리부
9 : 인터페이스부 10: 스마트장비
11: 바퀴부재 12: 팔부재
13: 인공인지시스템 14: 오류강제수정모듈
15: 홀로그램데이터 변환부 16: 홀로그램생성부

Claims (15)

  1. 인공지능로봇을 제어하는 인공인지시스템에 있어서,
    상기 인공지능로봇의 일측에 설치되어 외부의 인터넷 혹은 스마트장비와 유,무선접속되어 각종 학습자료들을 송수신처리하는 인터페이스부와;
    상기 인공지능 로봇에 구비된 카메라 혹은 마이크를 통해 영상 혹은 음성형태로 입력되는 학습자료, 또는 상기 인터페이스부를 통해 유,무선으로 입력되는 학습자료에 대해 지식체계를 구성하고 해당자료의 신뢰도를 기 설정된 능동형 지식증식 모델에 따라 예측한 후, 그 예측된 결과에 따라 능동학습의 실행을 제어하는 인공인지제어부와;
    상기 인공인지제어부의 능동학습제어신호에 따라 신뢰도가 검증된 지식체계에 따른 학습자료를 능동학습하는 인식학습모듈부를 포함하는 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템.
  2. 제1항에 있어서, 상기 인식학습모듈부는 SVM (Support Vector Machine)을 사용하는 것을 특징으로 하는 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템.
  3. 제1항에 있어서, 상기 능동형 지식증식모델은 인공지능로봇에 구비된 센서로부터의 상향식(bottom-up) 및 고차 뇌기능 부위로 부터의 하향식(top-down) 주의집중(bottom-up attention)의 공진(resonance) 모델형태로 설계되는 것을 특징으로 하는 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템.
  4. 인공인지제어부가 카메라와 마이크를 통해 영상 혹은 음성형태로 입력되는 학습자료 또는 인터페이스부를 통해 유,무선으로 입력되는 학습자료에 대해 지식체계를 구성하는 제1 과정과;
    상기 제1 과정후에 상기 구성된 지식체계에 따른 해당학습자료의 신뢰도를 기 설정된 능동형 지식증식 모델에 따라 예측한후 그 예측된 결과에 따라 능동형 지식증식 모델 형태의 능동학습을 실행하는 제2 과정과;
    상기 제1 과정중에 상기 능동학습에 대한 성능을 분석한 후 그 결과에 따라 능동형 지식증식 모델에 포함된 계산모델을 수정 보완하는 제3 과정을 포함하는 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템의 능동학습방법.
  5. 제4항에 있어서, 상기 제3 과정은 인공인지제어부가 상기 학습자료를 설정된 기준값에 따라 판단한 결과 관련분야의 기존 지식이 부족하다고 판단할 경우 인지실험을 설계하고 그 설계된 인지실험을 수행하여 관련분야 지식을 확보하는 인지실험단계를 더 포함하는 것을 특징으로 하는 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템의 능동학습방법.
  6. 제4항에 있어서, 상기 제1 과정은, 입력된 학습자료로부터 인식학습모듈부를 통해 지식체계를 구성하여 학습시키는 제1-1단계와;
    상기 제1-1단계후에 지식체계의 신뢰도가 떨어지는 입력영역이 어느 입력영역인지를 확인하는 제1-2단계와;
    상기 제1-2단계후에 신뢰도가 떨어지는 영역이 없거나 기준치 이하일경우 능동학습을 멈추거나 아니면 다음단계로 진행하는 제1-3단계와;
    상기 제1-3단계후에 현재 구성된 학습자료중 신뢰도가 떨어지는 영역의 학습자료를 구하는 제1-4단계와;
    상기 제1-4단계에 의해 새로운 학습자료가 구해질 경우 해당 새로운 학습자료를 기존의 학습자료에 추가하여 지식체계를 재구성한 후 인식학습모듈부(7)를 통해 재학습 시킨 후 상기 제1-2단계로 진행하는 제1-5단계를 더 포함하는 것을 특징으로 하는 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템의 능동학습방법.
  7. 제4항에 있어서, 상기 제1-4단계는 신뢰도가 떨어지는 영역의 학습자료를 구할때 사용자에게 질문하거나 혹은 인터넷을 검색하여 구하는 학습자료획득단계를 더 포함하는 것을 특징으로 하는 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템의 능동학습방법.
  8. 제4항에 있어서, 상기 제2 과정의 능동학습은 신뢰도 예측과 인식성능을 검증하기위해 beta 분포 기법을 사용하는 것을 특징으로 하는 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템의 능동학습방법.
  9. 제8항에 있어서, 상기 능동학습에는 2개의 클래스(class)의 인식을 위한 SVM(Support Vector Machine)의 출력값을 beta 분포함수로 모델링하는 것을 특징으로 하는 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템의 능동학습방법.
  10. 제9항에 있어서, 상기 베타 함수는 하기의 수학식 1로 정의되는 것을 특징으로 하는 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템의 능동학습방법.
    [수학식 1]
    Figure pat00017

    여기서,
    Figure pat00018
  11. 제10항에 있어서, 상기 베타 함수는 학습된 인식학습모듈부가 SVM 출력을 이용하여 α 와 β 값을 구하고 그 구해진 α 와 β 값을 이용하여 각각의 자료에 대한 beta 함수로 모델링 된 조건부 확률을 하기 수학식 2에 넣어 구하는 것을 특징으로 하는 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템의 능동학습방법.
    [수학식 2]
    Figure pat00019
  12. 제11항에 있어서, 상기 베타 함수의 불확실성 측정하는 과정에는 각 확신 구간의 크기를 클래스의 자료 수(
    Figure pat00020
    )와의 관계로 설정하고 하기의 수학식 3으로 검증하는 것을 특징으로 하는 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템의 능동학습방법.
    [수학식 3]
    Figure pat00021

    여기서,
    Figure pat00022

  13. 제11항에 있어서, 상기 베타 함수의 불확실성을 나타내는 척도는 얻어지는 확신 구간 크기를 이용하여 각 조건부 한 방향 확신 구간을 하기의 수학식 4와 수학식 5로 설정한 후 수학식 6의 함수를 통해 산출되는 것을 특징으로 하는 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템의 능동학습방법.
    [수학식 4]
    Figure pat00023

    [수학식 5]
    Figure pat00024

    [수학식 6]
    Figure pat00025

  14. 제13항에 있어서, 상기 수학식 6과 같이 구해진
    Figure pat00026
    를 이용하여 불확실성
    Figure pat00027
    값은 하기의 수학식 7에 의해 구해지는 것을 특징으로 하는 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템의 능동학습방법.
    [수학식 7]
    Figure pat00028

    여기서,
    Figure pat00029
  15. 제14항에 있어서, 상기 이러한 결과 불확실성 (
    Figure pat00030
    )값은 그 값이 0에 가까울수록 자료의 클래스 정보가 확실한 것으로 인식하고, 0.5에 가까울수록 어떤 클래스에 속할지에 대한 정보가 불확실한 것으로 간주하는 것을 특징으로 하는 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템의 능동학습방법.


KR1020120095856A 2012-08-30 2012-08-30 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템 및 그 능동학습방법 KR101456554B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020120095856A KR101456554B1 (ko) 2012-08-30 2012-08-30 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템 및 그 능동학습방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020120095856A KR101456554B1 (ko) 2012-08-30 2012-08-30 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템 및 그 능동학습방법

Publications (2)

Publication Number Publication Date
KR20140028784A true KR20140028784A (ko) 2014-03-10
KR101456554B1 KR101456554B1 (ko) 2014-10-31

Family

ID=50642110

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020120095856A KR101456554B1 (ko) 2012-08-30 2012-08-30 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템 및 그 능동학습방법

Country Status (1)

Country Link
KR (1) KR101456554B1 (ko)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017191874A1 (ko) * 2016-05-03 2017-11-09 엘지전자 주식회사 전자 장치 및 그 제어 방법
CN109118860A (zh) * 2018-09-19 2019-01-01 江苏金惠甫山软件科技有限公司 基于人工智能的英语培训系统及方法
KR20200017595A (ko) * 2018-07-31 2020-02-19 한국과학기술원 뇌 기반 인공지능 기술을 이용한 행동 및 신경 수준에서의 인간의 학습/추론 과정 비침습적 제어 방법 및 시스템
KR20220032698A (ko) * 2020-09-08 2022-03-15 한림대학교 산학협력단 뉴럴 네트워크 모델을 이용하여 제어 명령을 결정하는 사물 인터넷 장치 및 이의 명령 결정 방법, 프로그램

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102159880B1 (ko) * 2019-05-15 2020-09-24 한국과학기술원 메타 인지 기반 고속 환경 탐색 방법 및 장치

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100486382B1 (ko) * 2001-08-28 2005-04-29 주식회사유진로보틱스 로봇의 지능 보완 방법 및 시스템, 이에 의한 로봇을이용한 다이나믹 교육 방법 및 시스템

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017191874A1 (ko) * 2016-05-03 2017-11-09 엘지전자 주식회사 전자 장치 및 그 제어 방법
US11030996B2 (en) 2016-05-03 2021-06-08 Lg Electronics Inc. Electronic device and control method thereof
KR20200017595A (ko) * 2018-07-31 2020-02-19 한국과학기술원 뇌 기반 인공지능 기술을 이용한 행동 및 신경 수준에서의 인간의 학습/추론 과정 비침습적 제어 방법 및 시스템
CN109118860A (zh) * 2018-09-19 2019-01-01 江苏金惠甫山软件科技有限公司 基于人工智能的英语培训系统及方法
KR20220032698A (ko) * 2020-09-08 2022-03-15 한림대학교 산학협력단 뉴럴 네트워크 모델을 이용하여 제어 명령을 결정하는 사물 인터넷 장치 및 이의 명령 결정 방법, 프로그램

Also Published As

Publication number Publication date
KR101456554B1 (ko) 2014-10-31

Similar Documents

Publication Publication Date Title
US11584020B2 (en) Human augmented cloud-based robotics intelligence framework and associated methods
JP6828001B2 (ja) 音声ウェイクアップ方法及び装置
KR102137151B1 (ko) 노이즈 캔슬링 장치 및 그 방법
Amiri et al. Adventures in data analysis: A systematic review of Deep Learning techniques for pattern recognition in cyber-physical-social systems
KR102281590B1 (ko) 음성인식 성능 향상을 위한 비 지도 가중치 적용 학습 시스템 및 방법, 그리고 기록 매체
KR101986002B1 (ko) 행동-인식 연결 학습 기반 의도 이해 장치, 방법 및 그 방법을 수행하기 위한 기록 매체
US11436848B2 (en) Automatic labeling apparatus and method for object recognition
US11776544B2 (en) Artificial intelligence apparatus for recognizing speech of user and method for the same
US20190391666A1 (en) Gesture recognition apparatus and method
KR101456554B1 (ko) 클래스 확률 출력망에 기초한 불확실성 측도를 이용한 능동학습기능이 구비된 인공인지시스템 및 그 능동학습방법
US20210134274A1 (en) Device with convolutional neural network for acquiring multiple intent words, and method thereof
US20200057937A1 (en) Electronic apparatus and controlling method thereof
US10916240B2 (en) Mobile terminal and method of operating the same
KR20200094608A (ko) 이미지를 처리하기 위한 방법 및 그에 따른 장치
US20210365769A1 (en) Artificial intelligence apparatus for controlling auto stop system based on driving information and method for the same
WO2019018533A1 (en) NEURO-BAYESIAN ARCHITECTURE FOR THE IMPLEMENTATION OF GENERAL ARTIFICIAL INTELLIGENCE
Bersani et al. Towards better trust in human-machine teaming through explainable dependability
Pineda et al. Ioca: Interaction-oriented cognitive architecture
US20210103811A1 (en) Apparatus and method for suggesting action item based on speech
KR102546355B1 (ko) 대변 이미지 분석 기반 영양 정보 제공 방법,　장치 및 시스템
KR20230069010A (ko) 정규화를 시행하는 딥 뉴럴 네트워크 학습 장치 및 그 방법
Saikia et al. Unsupervised pre-training on improving the performance of neural network in regression
KR20210115250A (ko) 하이브리드 심층 학습 시스템 및 방법
KR102478367B1 (ko) 이미지 인식 기반 음원 매칭 및 추천 방법, 장치 및 시스템
KR102475552B1 (ko) 진동 데이터 형성 장치 및 방법과, 그를 저장하는 컴퓨터 판독 가능한 기록 매체

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20170928

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20181002

Year of fee payment: 5