KR20140096250A - 모션에 의해 제어되는 전자기기 및 그 제어 방법 - Google Patents

모션에 의해 제어되는 전자기기 및 그 제어 방법 Download PDF

Info

Publication number
KR20140096250A
KR20140096250A KR1020140081937A KR20140081937A KR20140096250A KR 20140096250 A KR20140096250 A KR 20140096250A KR 1020140081937 A KR1020140081937 A KR 1020140081937A KR 20140081937 A KR20140081937 A KR 20140081937A KR 20140096250 A KR20140096250 A KR 20140096250A
Authority
KR
South Korea
Prior art keywords
motion
unit
recognition mode
determined
channel
Prior art date
Application number
KR1020140081937A
Other languages
English (en)
Inventor
류희섭
박승권
장종혁
최찬희
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020140081937A priority Critical patent/KR20140096250A/ko
Publication of KR20140096250A publication Critical patent/KR20140096250A/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002Specific input/output arrangements not covered by G06F3/01 - G06F3/16
    • G06F3/005Input arrangements through a video camera
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4227Providing Remote input by a user located remotely from the client device, e.g. at work

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

전자기기가 개시된다. 본 전자기기는, 모션을 인식하기 위한 모션 인식부, 전자기기의 전방에 위치한 객체가 전자기기 방향으로 이동하는 푸쉬 모션이 인식되면 모션 인식 모드를 활성화하고, 푸쉬 모션을 취한 객체의 이동을 추적(tracking)하여 객체의 후속 모션에 대응되는 동작을 수행하는 제어부를 포함한다. 여기서, 제어부는, 모션 인식 모드가 활성화 되어 있는 상태에서, 객체가 일 방향으로 이동하여 사용자의 신체면 또는 사물에 접하게 되는 종료 모션이 인식되면, 모션 인식 모드를 비활성화시킬 수도 있다.

Description

모션에 의해 제어되는 전자기기 및 그 제어 방법{ELECTRONIC DEVICE CONTROLED BY A MOTION, AND CONTROL METHOD THEREOF}
본 발명은 전자기기 및 그 제어 방법에 대한 것으로, 보다 구체적으로는 모션을 이용하여 제어할 수 있는 전자기기 및 그 제어 방법에 대한 것이다.
전자 기술의 발달에 힘입어, 다양한 종류의 최신 전자기기들이 개발되어 보급되고 있다. 최신 제품들에는 사용자가 해당 제품을 좀 더 편리하고 효과적으로 이용할 수 있도록 하기 위한 최신 기술들이 적용되고 있다. 그러한 기술들의 예를 들면, 모션 인식 기술, 음성 인식 기술 등이 있을 수 있다.
모션 인식 기술이란 모션 센서 등을 이용하여 사용자의 움직임, 즉, 모션을 센싱한 후, 그 센싱 결과를 이용하는 기술을 의미한다. 음성 인식 기술이란 사용자의 음성 명령어를 입력받아 분석한 후, 그 분석 결과를 이용하는 기술을 의미한다.
이와 같은 인식 기술들은, 사용자가 편리하게 이용할 수는 있으나 모션이나 음성 명령어를 정확하게 입력하지 않으면, 의도하지 않은 기능을 수행하거나 입력 자체가 이루어지지 않아 수차례 반복 입력하여야 하는 번거로움이 있을 수 있다.
특히 모션 인식의 경우, 사용자가 모션 제어를 수행하기 위하여 취하는 모션인지, 무의식적으로 취하는 모션인지를 분간하기에 어려움이 있다. 또한, 3차원 공간에서의 모션을 감지하여야 하기 때문에, 연산 부담이 가중된다는 문제점도 있었다.
따라서, 상대적으로 연산 부담을 경감시키면서도, 정확하게 사용자의 의사를 반영하여 동작을 취할 수 있는 모션 인식 기술에 대한 필요성이 대두되고 있다.
본 발명은 상술한 필요성에 따른 것으로, 본 발명의 목적은, 효과적인 모션 인식 기술을 사용하여 제어할 수 있는 전자기기 및 그 제어방법을 제공함에 있다.
이상과 같은 목적을 달성하기 위한 본 발명의 일 실시 예에 따른 전자기기는, 모션을 인식하기 위한 모션 인식부, 전자기기의 전방에 위치한 객체가 상기 전자기기 방향으로 이동하는 푸쉬 모션이, 상기 모션 인식부에 의해 인식되면, 모션 인식 모드를 활성화하고, 상기 푸쉬 모션을 취한 객체의 이동을 추적(tracking)하여 상기 객체의 후속 모션에 대응되는 동작을 수행하는 제어부를 포함한다.
여기서, 상기 제어부는, 상기 모션 인식 모드가 활성화 되어 있는 상태에서, 상기 객체가 일 방향으로 이동하여 사용자의 신체면 또는 사물에 접하게 되는 모션이 상기 모션 인식부에 의해 인식되면, 상기 모션 인식 모드를 비활성화시킬 수 있다.
그리고, 상기 모션 인식부는, 상기 객체를 촬영하여 뎁스 정보를 포함하는 촬영 이미지 데이터를 생성하는 촬영부, 상기 촬영 이미지 데이터 상에서 상기 객체에 해당하는 픽셀군의 뎁스 정보가 변경되면 상기 푸쉬 모션이 이루어진 것으로 판단하는 판단부를 포함할 수 있다.
한편, 본 전자기기는, 음성 입력을 수신하기 위한 음성 입력부를 더 포함할 수 있다. 이 경우, 상기 제어부는, 음성 인식 모드를 상징하는 제1 모션이 인식되면, 음성 인식 모드로 전환하여, 상기 음성 입력에 대응되는 동작을 수행할 수 있다.
이 경우, 상기 제어부는, 상기 제1 모션의 반대 형태인 제2 모션이 인식되면, 상기 음성 인식 모드를 비활성화시킬 수도 있다.
한편, 본 전자기기는, 상기 객체의 형태 및 크기에 대한 정보가 저장되는 저장부를 더 포함할 수도 있다. 여기서, 상기 객체의 형태 및 크기에 대한 정보는 사용자 설정에 따라 변경 가능하다.
그리고, 상기 푸쉬 모션은 상기 객체가 상기 전자기기 방향으로 이동하였다가 반대 방향으로 이동하는 푸쉬-풀 모션 또는 상기 객체가 상기 전자기기 방향으로 이동한 상태에서 정지하는 푸쉬-스톱 모션이 될 수 있다.
한편, 본 발명의 일 실시 예에 따르면, 전자기기의 제어 방법은, 상기 전자기기의 전방에 위치한 객체를 촬영하여, 상기 객체가 상기 전자기기 방향으로 이동하는 푸쉬 모션을 인식하는 단계, 상기 푸쉬 모션이 인식되면, 모션 인식 모드를 활성화하는 단계, 상기 푸쉬 모션을 취한 객체의 이동을 추적(tracking)하여 상기 객체의 모션에 대응되는 동작을 수행하는 단계를 포함한다.
이 경우, 상기 모션 인식 모드가 활성화된 상태에서, 상기 객체가 일 방향으로 이동하여 사용자의 신체면 또는 사물에 접하게 되는 모션이 인식되면, 상기 모션 인식 모드를 비활성화시키는 단계를 더 포함할 수 있다.
한편, 상기 객체의 푸쉬 모션을 인식하는 단계는, 상기 전자기기의 전방을 촬영하여 촬영 이미지 데이터를 생성하는 단계, 상기 촬영 이미지 데이터 상에서 상기 객체에 해당하는 픽셀군의 뎁스 정보가 변경되면 상기 푸쉬 모션이 이루어진 것으로 판단하는 판단 단계를 포함할 수 있다.
여기서, 상기 판단 단계는, 상기 객체에 해당하는 픽셀군의 형태 및 크기에 대하여 기 저장된 정보를 독출하는 단계, 상기 촬영 이미지 데이터의 전체 픽셀들 중에서 뎁스 정보가 변경된 부분의 형태 및 크기를 상기 기 저장된 정보와 비교하여, 매칭되면 상기 객체의 푸쉬 모션이 이루어진 것으로 판단하는 단계를 포함할 수 있다. 여기서, 상기 정보는 사용자 설정에 따라 변경 가능할 수 있다.
한편, 본 제어 방법은, 음성 인식 모드를 상징하는 제1 모션이 인식되면, 음성 인식 모드로 전환하여, 상기 음성 입력에 대응되는 동작을 수행하는 단계를 더 포함할 수 있다.
이 경우, 상기 제1 모션의 반대인 제2 모션이 인식되면, 상기 음성 인식 모드를 비활성화시키는 단계를 더 포함할 수도 있다.
그리고, 상기 푸쉬 모션은 상기 객체가 상기 전자기기 방향으로 이동하였다가 반대 방향으로 이동하는 푸쉬-풀 모션 또는 상기 객체가 상기 전자기기 방향으로 이동한 상태에서 정지하는 푸쉬-스톱 모션이 될 수 있다.
이상과 같은 본 발명의 다양한 실시 예에 따르면, 사용자는 푸쉬 모션을 취하여 모션 인식 모드를 이용할 수 있게 된다. 이에 따라, 연산량을 줄이면서, 모션 인식의 오작동을 방지할 수 있게 된다.
도 1은 본 발명의 일 실시 예에 따른 전자기기의 구성을 나타내는 블럭도,
도 2는 본 발명의 다양한 실시 예를 설명하기 위한 전자기기의 세부구성을 나타내는 블럭도,
도 3은 푸쉬 모션을 설명하기 위한 도면,
도 4 및 도 5는 모션 인식 모드를 종료하기 위한 종료 모션의 다양한 예를 나타내는 도면,
도 6 내지 8은 음성 인식 모드를 활성화 또는 비활성화시키기 위한 모션의 다양한 예를 나타내는 도면,
도 9는 푸쉬 모션을 인식하는 과정을 설명하기 위한 도면,
도 10은 푸쉬-풀 모션을 설명하기 위한 도면, 그리고,
도 11은 본 발명의 다양한 실시 예에 따른 전자기기의 제어 방법을 설명하기 위한 흐름도이다.
이하에서, 첨부된 도면을 참조하여 본 발명에 대하여 구체적으로 설명한다.
도 1은 본 발명의 일 실시 예에 따른 전자기기의 구성을 나타내는 블럭도이다. 본 전자기기는 TV, 휴대폰, 모니터, 노트북 PC, 전자 액자, 전자 책, PDA, 네비게이션 등과 같이 디스플레이 유닛을 구비한 디스플레이 장치로 구현될 수도 있고, 그 밖에, 냉장고나, 에어컨, 오디오 등과 같은 다양한 가전 제품으로 구현될 수도 있다.
도 1에 따르면, 본 전자기기(100)는 모션 인식부(110) 및 제어부(120)를 포함한다. 모션 인식부(110)는 전자기기(100)를 사용하는 사용자의 움직임, 즉, 모션을 센싱하여, 어떠한 모션이 이루어졌는지를 인식하는 구성이다.
이를 위해, 모션 인식부(110)는 카메라와 같은 촬영 수단을 포함할 수 있다. 모션 인식부(110)는 촬영 수단의 촬영 범위 내에 존재하는 사용자 등을 촬영하여, 그 결과를 분석하여 모션을 인식한다. 구체적으로는, 모션 인식부(110)는 깊이 정보를 포함하는 촬영 이미지 데이터를 생성할 수 있는 깊이 카메라(depth camera)와 같은 촬영수단을 포함할 수 있다.
이에 따라, 모션 인식부(110)는 촬영 범위 내의 일 객체가 전자기기(100) 방향으로 이동하는 푸쉬 모션을 인식할 수 있다. 구체적으로는, 객체가 놓여진 지점에 3차원 좌표계를 적용하면, 전자기기(100)를 기준으로 상측을 향하도록 배치되는 Y축, Y축과 직교하면서 우측을 향하도록 배치되는 X축과, X축 및 Y축이 이루는 평면으로부터 전자기기(100)를 향하도록 배치되는 Z축으로 설명할 수 있다. 푸쉬 모션이란 Z축 방향으로의 모션을 의미한다.
제어부(120)는 푸쉬 모션이 인식되면, 모션 인식 모드로 동작하는 것으로 판단하고, 모션 인식 모드로 전환한다. 즉, 푸쉬 모션이 인식되기 이전까지는 일반 모드로 동작하여, 사용자의 리모콘 조작이나 전자기기(100) 본체에 구비된 키조작에 따른 제어 동작을 수행한다. 이러한 상태에서 모션 인식 모드로 전환되면, 제어부(120)는 이후부터는 사용자의 모션을 인식하여 그 모션에 부합되는 동작을 수행한다.
이 경우, 제어부(120)는 최초 푸쉬 모션을 수행한 객체의 움직임을 추적하여, 해당 객체의 모션을 인식하고, 그 인식된 모션에 대응되는 동작을 수행한다. 이러한 동작의 예로는 파워 턴-온, 턴-오프, 채널 변경, 볼륨 변경, 이전 페이지 또는 상위 페이지로의 전환, 각종 메뉴 또는 아이콘 선택, 커서 이동 등과 같은 다양한 동작이 있을 수 있다.
모션 인식 모드로 전환된 경우, 제어부(120)는 모션 이외의 입력은 수용하지 않을 수도 있으나, 이와 다른 실시 예에서는 모션 인식 모드로 전환된 상태에서도 제어부(120)는 리모콘이나 본체 키 조작이 있으면, 그 키조작에 따른 동작도 함께 수행할 수도 있다. 즉, 모션 인식 모드가 반드시 모션에 의해서만 제어되는 모드인 것은 아니다.
한편, 제어부(120)는 기 설정된 특정 모션이 모션인식부(110)에 의해 인식되면, 모션 인식 모드를 종료한다. 모션 인식 모드를 종료시키기 위한 모션을 이하에서는 종료 모션이라 명명한다. 종료 모션은 다양하게 정해질 수 있다. 일 예로는, 객체가 사용자의 손바닥이라면, 종료 모션은 손바닥 부분이 더이상 인식되지 않도록 객체가 사용자의 신체나 타 사물에 접하게 되는 모션이 될 수 있다. 이에 대해서는 후술하는 부분에서 도면과 함께 설명한다.
상술한 바와 같이 푸쉬 모션을 이용하여 모션 인식 모드를 개시하게 되면, Z축 방향으로의 움직임이 감지되기 이전까지는 굳이 X축 및 Y축 방향으로의 모션을 분석할 필요가 없어진다. 이에 따라, 촬영 이미지 데이터 파싱으로 인한 연산 부담이 경감될 수 있다. 또한, X 및 Y축 방향으로의 움직임은 사용자의 일상 생활에서 무심코 취할 수 있는 것이 대부분이나, 전자기기 방향으로 손바닥을 뻗어서 푸쉬하는 푸쉬 모션은 사용자가 제어를 위한 의도를 가지고 수행하는 동작이라고 볼 수 있다. 따라서, X축 및 Y축 방향으로의 움직임을 이용하여 모션을 인식하는 것보다, 좀 더 정확하게 사용자의 의도를 이해하여 모션 인식 제어를 수행할 수 있게 된다.
도 2는 본 발명의 다양한 실시 예에 따른 전자기기의 구성을 설명하기 위한 블럭도이다. 구체적으로는, 도 2는 TV와 같이 방송 신호 채널을 튜닝하여 방송 데이터를 출력할 수 있는 디스플레이 장치의 구성을 예로 들어 설명한다.
도 2에 따르면, 본 전자기기(100)는 모션 인식부(110) 및 제어부(120) 이외에, 튜너부(130), 신호처리부(140), 출력부(150), 입력부(160), 음성 입력부(170), 저장부(180)를 포함할 수 있다.
튜너부(130)는 방송 신호 채널을 선국하여, 그에 따른 방송 신호를 수신하고, 다운 컨버팅하여 신호처리부(140)로 제공하는 구성을 의미한다.
신호 처리부(140)는 튜너부(130)에서 제공되는 신호에 대하여 복호화, 등화(equalizing), 디코딩, 스케일링 등의 신호 처리를 수행하여, 출력부(150)로 제공한다.
출력부(150)는 신호 처리부(140)에서 처리된 영상 신호 및 음성 신호 등을 디스플레이 유닛이나, 스피커 등과 같은 출력 소자들을 이용하여 출력하는 구성이다.
입력부(160)는 전자기기(100) 본체에 구비된 키 또는 외부 리모콘에 구비된 키의 조작에 따른 사용자 선택 신호를 입력받는 구성이다. 구체적으로는, 입력부(160)는 키패드 및 IR 신호 수신 램프 등을 포함할 수 있다.
음성 입력부(170)는 사용자가 발음하는 음성 입력을 수신하는 구성이다. 음성 입력부(170)는 사용자의 음성 입력이 수신되면, 음성 인식 기술을 이용하여 음성 입력을 분석할 수 있다.
음성 입력부(170)의 내부 구성은 그 사용되는 기술의 종류에 따라 다양하게 변형될 수 있다. 일 예로, 단어 인식 기술이 사용된다면, 음성 입력부(170)는 음성 입력을 수집하는 마이크부, 수집된 음성 입력을 분석하는 분석부, 분석 결과를 이용하여 음운을 인식하는 음운 인식부, 인식된 음운을 이용하여 단어를 인식하는 단어 인식부, 인식된 단어를 제어부로 제공하는 처리부(이상, 미도시) 등을 포함할 수 있다.
분석부는, 수신된 음성 입력 신호에 대해 약 20~30㎳의 짧은 구간마다 주파수분석 또는 선형예측분석과 같은 수학적인 변환 처리를 수행하고, 이를 이용하여 특징 벡터 계열의 신호를 출력한다. 음운 인식부는, 출력되는 신호의 특징을 이용하여 세그먼테이션(segmentation)을 수행하여, 음성 신호의 각 구간을 하나의 단위로 하여 모음 및 자음을 인식한다. 인식 결과는 음운 래티스(phoneme lattice) 형태로 단어 인식부로 제공될 수 있다. 단어 인식부는 단어의 음형이 기록되어 있는 단어 사전을 참조하여, 음운 래티스를 단어 래티스로 변환한다. 단어 사전은 음성 입력부(170) 내부 또는 전자기기(100) 자체에 마련된 메모리에 저장되어 있을 수 있다. 처리부는, 단어 래티스에 포함된 단어를 이용하여 의미적으로 정합되는 단어열을 구성한다.
저장부(180)는 전자기기(100)와 관련된 각종 정보를 저장하는 구성을 의미한다. 일 예로, 저장부(180)에는 객체에 대한 정보가 저장될 수 있다. 객체에 대한 정보란 객체의 형태나 크기 등이 될 수 있으며, 사용자에 의해 적절하게 변경될 수도 있다.
즉, 상술한 바와 같이 사용자의 손바닥이 객체로 사용된다면, 사용자는 자신의 손바닥을 미리 모션 인식부(110)를 통해 촬영하여 그 형태 및 크기에 대한 정보를 저장부(180)에 등록시켜둘 수 있다. 이에 따라, 객체 등록이 되지 않은 타 사용자들에 대해서는, 모션 인식 제어가 불가능하도록 설정해 둘 수도 있다. 이에 따라, 전자기기(100)에 대한 사용 권한을 사용자만이 가지도록 구현할 수도 있다.
또는, 다른 실시 예에 따르면, 저장부(180)에 저장되는 객체 관련 정보는 전자기기(100)의 제작시에 디폴트로 결정되어 저장부(180)에 저장될 수도 있다.
한편, 다른 실시 예에서는, 저장부(180)에 미리 객체 관련 정보를 저장해 두지 않고, 촬영 이미지 데이터 내에서 특정 부분이 푸쉬 모션을 취한 것으로 인식되면, 그 부분의 형태나 크기 등에 상관없이 바로 모션 인식 모드로 전환되도록 구현할 수도 있다.
또한, 복수의 사용자들이 함께 시청하는 경우, 그 중 제일 먼저 푸쉬 모션을 취한 사용자의 객체만을 추적하여, 그 객체에 따른 제어를 수행하도록 구현될 수도 있다.
한편, 도 2에 따르면, 모션 인식부(110)는 촬영부(111) 및 판단부(112)를 포함한다. 촬영부(111)는 전자기기 방향으로의 움직임을 센싱하기 위하여 3차원 깊이 카메라를 구비할 수 있다. 3차원 깊이 카메라는 적외선을 방사하고, 그 적외선이 물체에 닿았다가 되돌아오는 시간을 측정해 물체까지의 거리를 산출한다. 깊이 카메라에서 얻은 이미지는 그레이 레벨로 출력되며, 각 픽셀 별로 가로, 세로, 거리와 같은 좌표 값이 표현된다. 즉, 픽셀 별로 뎁스 정보가 마련되는 촬영 이미지 데이터를 생성한다.
판단부(112)는 촬영부(111)에서 생성된 촬영 이미지 데이터를 분석하여, 푸쉬 모션이 발생하였는지 여부를 판단한다. 구체적으로는, 상술한 객체에 해당하는 픽셀 군을 탐색하고, 해당 픽셀 군의 뎁스 정보가 변경되었는지 여부를 판단한다. 이 경우, 판단부(112)는 객체와의 거리가 전자기기로부터 멀어지는 경우로 판단되면 푸쉬 모션이라고 판단하지 않고, 전자기기로 가까워지는 경우로 판단될 때만 푸쉬 모션이라고 판단한다.
다른 실시 예에 따르면, 판단부(112)는 촬영 이미지 데이터 중에서 깊이 정보가 변경된 부분이 있는지 판단한다. 이에 따라, 깊이 정보가 변경되어 Z축 방향으로 이동한 상태인 것으로 판단되면, 푸쉬 모션이 이루어진 것으로 바로 판단할 수 있다. 또는, 이 경우, 판단부(112)는 기 등록된 객체 관련 정보가 있으면, 깊이 정보가 변경된 픽셀군의 크기 및 형태를 등록된 객체 관련 정보와 비교하여 유사성이 있는지 여부를 판단한다. 이에 따라, 매칭된다고 볼 수 있을 정도로 유사성이 있으면 푸쉬 모션으로 판단한다.
상술한 바와 같이, 모션 인식 모드로 전환하기 위한 모션은 전자기기 방향으로 객체가 이동하는 푸쉬 모션이 사용된다. 푸쉬 모션은 Z축 방향으로의 이동이므로, 일반 모드 하에서 모션 인식부(110)는 촬영 이미지 데이터의 깊이 정보 변화 여부만을 체크하여 푸쉬 모션이 이루어졌는지를 판단한다. 이에 따라, 푸쉬 모션이 이루어져서 모션 인식 모드로 전환되면, 그 이후부터는 모션 인식부(110)는 Z축 뿐만 아니라 X축 및 Y축 방향으로의 움직임도 모두 체크하여, 객체의 움직임을 분석한다.
제어부(120)는 모션 인식부(110)에서 인식된 결과에 따라 모션 인식 모드로 전환되면, 이후부터 인식되는 모션, 즉, 후속 모션에 대응되는 동작을 수행한다. 모션 별로 대응되는 동작에 대한 정보는 저장부(180)에 저장되어 있을 수 있다. 제어부(120)는 모션 인식 모드로 전환된 상태에서 모션 인식부(110)에서 모션이 인식되면, 인식된 모션에 대응되는 동작 정보가 저장부(180)에 저장되어 있는지 확인한다. 이에 따라, 확인된 정보가 있으면, 제어부(120)는 해당 동작을 수행하기 위하여, 튜너부(130), 신호처리부(140), 출력부(150), 입력부(160), 음성 입력부(170), 저장부(180) 등의 구성요소들을 제어한다.
일 예로, 제어부(120)는 채널 변경 명령을 의미하는 모션이 인식되면, 그 모션에 따라 튜너부(130)를 제어하여 다른 채널을 선국하도록 한다.
한편, 다른 실시 예에 따르면, 제어부(120)는 일반 모드나 모션 인식 모드로 동작하는 중에 특정 모션이 감지되면, 음성 인식 모드로 전환할 수도 있다. 음성 입력부(170)는 이러한 실시 예의 경우에 사용되는 구성이다. 즉, 제어부(120)는 음성 인식 모드로 진입하기 위하여 설정된 모션이 감지되면, 음성 입력부(170)를 활성화하여 그 이후부터 사용자가 발음하는 음성 명령어를 입력받는다. 이에 따라, 그 음성 명령어에 대응되는 동작을 수행할 수 있다.
일 예에 따르면, 제어부(120)는 모션 인식 모드로 동작하는 중에 음성 인식 모드로 진입하기 위한 모션이 감지될 경우, 모션 인식 모드를 자동으로 종료하고 음성 인식 모드에 따라 음성 제어만을 수행하도록 구현될 수 있다. 이 경우, 제어부(120)는 모션 인식부(110)를 자동으로 비활성화시킬 수도 있다. 여기서 비활성화란 전원 공급을 차단하는 동작이 될 수 있다.
한편, 다른 예에 따르면, 제어부(120)는 모션 인식 모드 자체가 종료되지 않은 상태에서 음성 인식 모드로 진입하기 위한 모션이 감지될 경우, 모션 제어와 음성 제어를 모두 수행하도록 구현될 수도 있다. 즉, 모션 인식부(110)와 음성 입력부(170) 모두를 활성화시켜서 사용자의 모션이나 음성 모두에 반응하여, 대응되는 동작을 수행할 수 있다.
그 밖에, 제어부(120)는 음성 인식 모드로 동작하거나, 모션 인식 모드로 동작하는 경우에도 입력부(160)를 통해 입력되는 사용자 선택 신호에 따른 동작을 수행할 수 있다.
한편, 도 2에서는 입력부(160), 음성 입력부(170), 모션 인식부(110) 등을 모두 포함하고 있는 구성을 도시하였으나, 반드시 이와 같이 구현될 필요는 없다. 즉, 음성 인식 모드를 지원하지 않는 경우에는 음성 입력부(170)가 배제될 수도 있다.
도 3은 푸쉬 모션을 설명하기 위한 도면이다. 도 3과 같이, 전자기기(100)는 TV로 구현될 수 있다. 이 경우, 촬영부(111)는 TV를 이용하는 사용자가 위치하는 주된 위치인 전방을 향하여 배치될 수 있다. 이러한 상태에서, 사용자는 손을 들어서 손바닥을 전자기기(100) 측으로 미는 동작, 즉, 푸쉬 모션을 수행한다. 따라서, 손 또는 손바닥이 상술한 객체에 해당한다. 한편, 손이나 손바닥 이외에 특정한 사물, 예를 들어, 지휘봉이나 특정 카드 등을 객체로 활용할 수도 있다.
상술한 바와 같이 사용자가 있는 지점에서 X축 및 Y축은 디스플레이 화면과 수평한 평면을 이루도록 배치되고, Z축은 X축 및 Y축 평면에 수직하도록 전자기기(100)를 향하도록 배치된 축을 의미한다. 객체(11)가 Z축을 따라 전자기기(100) 방향으로 이동하는 것이 푸쉬 모션이다.
도 4는 모션 인식 모드를 종료하기 위한 모션의 일 예를 나타내는 도면이다. 도 4에 따르면, 객체(11)를 사용자의 신체 일부에 붙이는 모션을 종료 모션으로 사용할 수 있다. 객체(11)를 추적하여 촬영하던 전자기기(100)는 추적중이던 객체(11)가 하측으로 이동하면서, 객체(11)에 해당하는 픽셀 군의 크기가 감소하여 사라지면, 종료 모션으로 인식하고 모션 인식 모드를 비활성화시킨다.
도 5는 모션 인식 모드를 종료하기 위한 모션의 다른 예를 나타내는 도면이다. 도 5에 따르면, 객체(11)를 사용자의 신체가 아닌 다른 사물에 붙이는 모션을 종료 모션으로 사용할 수 있다. 도 4에서와 마찬가지로 손, 즉, 객체(11)를 사물에 붙이게 되면, 객체(11)에 해당하는 픽셀 군의 크기가 감소하여 사라지게 되므로, 이를 종료 모션으로 인식하여 모션 인식 모드를 비활성화시킬 수 있다.
실험적으로, 사용자는 손을 이용하여 모션 제어를 하는 것이 대부분이다.
이상과 같은 본 발명의 다양한 실시 예들에 따르면, 손을 들어서 전자기기(100)를 향하게 되면 푸쉬 모션으로 인식되어 모션 인식 모드가 자동으로 개시되고, 이 후에는 손을 이용하여 여러 모션을 취하여 모션 제어를 하다가 단순히 손을 내리기만 하면 모션 인식 모드가 자동으로 종료된다. 따라서, 별도의 어려운 모션을 취하지 않더라도 모션 제어를 손쉽게 개시하고 종료시킬 수 있다.
한편, 도 4 및 도 5에서는 객체(11)를 내리면서 사용자의 다리나 사물에 붙이는 모션이 수행되었을 때 모션 인식 모드를 종료하게 되지만, 반드시 이에 한정되지 않으며, 모션 인식 모드를 종료하기 위한 특정 키가 입력되었을 경우에도 모션 인식 모드가 종료될 수 있다.
또는, 모션 인식 모드가 개시된 이후, 기 설정된 임계 시간 이상(예를 들어, 1분 정도) 별다른 모션이 감지되지 않으면 모션 인식 모드를 바로 비활성화시킬 수도 있다.
도 6은 음성 인식 모드를 활성화시키기 위한 모션의 일 예를 나타낸다. 도 6에 따르면, 사용자는 음성 인식 모드를 상징하는 제1 모션을 수행하여 음성 인식 모드를 개시할 수 있다. 음성 인식 모드를 상징한다는 것은, 사용자가 음성 인식 모드를 연상할 수 있는 모션이라는 의미이다. 도 6에 따르면, "Voice"를 의미하는 "V" 형태의 제1 모션을 취하게 되면, 음성 인식 모드가 개시된다.
음성 인식 모드가 개시된 이후에는 사용자는 다양한 음성 명령어를 발음하여 음성 제어를 수행할 수 있다. 음성 인식 모드 하에서 사용자가 특정한 모션을 다시 취하거나, 일정 시간 동안 음성 입력이 없으면 음성 인식 모드는 자동으로 종료될 수 있다.
도 7은 음성 인식 모드를 비활성화시키기 위한 모션의 일 예를 나타낸다. 도 7에 따르면, 사용자의 객체(11)가 제1 모션의 반대 형태인 제2 모션, 즉, "V"자가 거꾸로 뒤집혀진 형태의 곡선을 그리게 되면, 음성 인식 모드를 비활성화시키게 된다.
도 8은 음성 인식 모드를 활성화 또는 비활성화시키기 위한 또 다른 모션의 예를 나타낸다. 도 8에 따르면, "Speech"를 의미하는 "S"자 형태의 곡선이 음성 인식 모드를 활성화 또는 비활성화시키는 모션으로 사용될 수 있다.
*한편, 상술한 바와 같이 사용자는 일반 모드 하에서도 도 6 또는 도 8과 같은 모션을 취하여 음성 인식 모드를 활성화시킬 수 있다.
또는, 모션 인식 모드로 전환하는 중에도 도 6 또는 도 8과 같은 모션을 취하여 음성 인식 모드를 활성화시킬 수도 있다. 이 경우, 음성 인식 모드를 비활성화시키기 위한 모션(즉, 도 7과 같은 모션)이나, 음성 명령어, 키입력신호 등이 입력되면, 전자기기(100)는 모션 인식 모드로 전환될 수 있다.
한편, 상술한 여러 실시 예들에서는 전자기기(100)가 3차원 뎁스 카메라를 이용하여 깊이 정보를 포함하는 촬영 이미지 데이터를 분석하여 푸쉬 모션을 감지하는 것으로 설명하였으나, 3차원 뎁스 카메라를 이용하지 않고도 2차원 평면 상에서의 크기 변화를 인식하여 푸쉬 모션인지 여부를 감지할 수도 있다.
도 9는 푸쉬 모션을 인식하기 위하여 촬영 이미지 데이터를 분석하는 것을 나타내는 도면이다. 도 9에 따르면, 전자기기(100)는 객체가 촬영된 촬영 이미지 데이터의 각 프레임을 복수 개의 블록으로 구분하여, 객체에 해당하는 블록의 개수를 확인한다. 도 9의 좌측 도면과 우측 도면은 각각 현재 프레임 및 다음 프레임(또는, 일정 시간 이후의 프레임)을 나타낸다. 도 9에서와 같이, 현재 프레임에 비해 다음 프레임에서 객체(11)에 해당하는 블록의 개수가 더 증대하면, 푸쉬 모션으로 판단할 수 있다. 객체(11)에 해당하는 블록이란, 평균 픽셀값 등이 객체(11)의 평균 픽셀값과 유사한 범위 내에 있으며 연속적으로 이어지는 블록들을 의미한다.
한편, 도 10은 객체(11), 즉, 손을 전자기기 방향으로 뻗었다가 다시 오무리는 동작, 즉, 푸쉬-풀 모션을 나타낸다. 실험에 따르면, 사용자는 푸쉬 모션을 취하기 위하여 손을 뻗었다가 반사적으로 다시 오무리는 것이 일반적이다. 따라서, 단순히 손을 앞으로 뻗는 동작과의 차별화를 위하여, 푸쉬-풀 모션이 감지되었을 때 모션 인식 모드를 개시할 수 있다. 전자기기는 Z축 방향으로의 깊이 정보가 커졌다가 다시 작아지는지 여부를 판단하여, 푸쉬-풀 모션을 인식할 수 있다.
그 밖에, 손을 뻗고 그 상태를 그대로 유지하는 푸쉬-스톱 모션이 일어났을 때, 모션 인식 모드를 개시할 수도 있다.
이와 같이, 푸쉬 모션은 푸쉬-풀 모션이나 푸쉬-스톱 모션을 포함할 수 있다.
도 11은 본 발명의 일 실시 예에 따른 전자기기의 제어 방법을 설명하기 위한 흐름도이다. 도 11에 따르면, 푸쉬 모션이 일어난 것으로 판단되면(S1110), 모션 인식 모드로 전환한다(S1120).
푸쉬 모션이 일어났는지 여부를 판단하는 판단 단계는, 다양한 실시 예로 구현될 수 있다. 일 예로, 객체에 해당하는 픽셀군의 형태 및 크기에 대하여 기 저장된 정보를 독출하고, 촬영 이미지 데이터의 전체 픽셀들 중에서 뎁스 정보가 변경된 부분의 형태 및 크기를 독출된 정보와 비교할 수 있다. 비교 결과 서로 매칭되면 객체의 푸쉬 모션이 이루어진 것으로 판단할 수 있다. 객체와 관련된 상술한 정보들은 사용자 또는 제조자 등에 의해 상이하게 변경될 수도 있다.
모션 인식 모드로 전환된 상태에서 후속하는 모션이 인식되면(S1130), 인식된 모션에 대응되는 동작을 수행한다(S1140).
예를 들면, 전자기기는, 손을 흔드는 모션이 있으면, 이전 페이지 또는 상위 페이지로 전환하는 동작을 수행하고, 손을 일 방향으로 이동시키면 그 방향으로 커서를 이동시키는 동작을 수행할 수 있다. 또한, 커서가 특정 메뉴 상에 위치한 상태에서 손이 일정시간 정지하는 홀드 모션이 있으면, 해당 메뉴를 선택하여 그 기능을 실행할 수 있다. 그 밖에, 채널 조정 메뉴, 또는 볼륨 조정 메뉴 등이 선택된 상태에서는 손의 이동 방향 및 이동 거리에 따라 채널 조정 또는 볼륨 조정을 수행할 수도 있다.
또한, 음성 인식 모드를 활성화시키기 위한 모션이 입력되면, 음성 인식 모드를 활성화시킬 수도 있다. 즉, 사용자는 전자기기에서 일반모드로 이용하다가 음성 인식 모드를 이용하고 싶은 경우, 손을 들고 앞으로 뻗어서 푸쉬 모션을 취한 후 도 6이나 도 8과 같은 모션을 취하고 손을 내리면 된다. 이에 따라, 바로 음성 인식 모드로 들어갈 수 있다.
한편, 모션 인식 모드로 동작하는 경우, 전자기기는 모션의 속도나 거리에 따라 동작의 수행 정도를 다르게 적용할 수 있다. 예를 들어, 채널 변경을 수행하는 모션이 수행될 때, 일반적인 속도 또는 일반적인 거리만큼 모션을 수행하게 되면 1채널 단위로 채널 변경을 수행할 수 있다. 반면, 임계값 이상으로 빠른 속도 또는 먼 거리만큼 모션을 수행하게 되면 5 채널 단위 또는 10 채널 단위와 같이 더 큰 단위로 채널 변경을 수행할 수 있다. 이와 같이, 모션에 따른 동작의 수행 단위는 모션 속도나 모션 거리에 따라 상이하게 설정할 수 있다.
또한, 모션이 수행되었는 지 여부는, 모션이 일어난 후 정지할 때까지의 시간이나, 반복 횟수, 모션이 이루어진 거리 등을 종합적으로 고려하여 인식할 수 있다.
한편, 이상과 같은 제어 방법을 수행하기 위한 프로그램 코드는 다양한 유형의 기록 매체에 저장될 수 있다. 구체적으로는, RAM(Random Access Memory), 플레시메모리, ROM(Read Only Memory), EPROM(Erasable Programmable ROM), EEPROM(Electronically Erasable and Programmable ROM), 레지스터, 하드디스크, 리무버블 디스크, 메모리 카드, USB 메모리, CD-ROM 등과 같이, 단말기에서 판독 가능한 다양한 유형의 기록 매체에 저장되어 있을 수 있다.
이에 따라, 모션 인식이 가능한 각종 장치에, 상술한 프로그램 코드가 기록된 기록 매체가 연결되거나 탑재된다면, 상술한 제어 방법이 지원될 수 있게 된다.
또한, 이상에서는 본 발명의 바람직한 실시예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시예에 한정되지 아니하며, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어져서는 안될 것이다.
110 : 모션 인식부 120 : 제어부
130 : 튜너부 140 : 신호처리부
150 : 출력부 160 : 입력부
170 : 음성 입력부 180 : 저장부

Claims (14)

  1. TV에 있어서,
    이미지를 획득하는 촬영부;
    상기 촬영부에서 획득한 상기 이미지로부터 객체를 식별하고, 상기 객체의 움직임에 대응되는 모션을 결정하는 판단부; 및
    상기 판단부에서 결정된 모션에 대응되는 상기 TV의 기능을 제어하는 제어부;를 포함하는 TV.
  2. 제1항에 있어서,
    상기 제어부는,
    상기 판단부에서 결정된 모션이 제1 모션인 경우 상기 TV의 채널을 조정하고, 상기 판단부에서 결정된 모션이 제2 모션인 경우 상기 TV의 볼륨을 조정하도록 제어하는 것을 특징으로 하는 TV.
  3. 제1항에 있어서,
    상기 제어부는,
    상기 TV의 채널 또는 볼륨을 조정하는 경우, 상기 판단부에서 식별된 객체의 이동 방향 및 이동 거리에 따라, 상기 TV의 채널 또는 볼륨을 조정하는 것을 특징으로 하는 TV.
  4. 제3항에 있어서,
    상기 제어부는,
    상기 TV의 채널 또는 볼륨을 조정하는 경우, 상기 판단부에서 식별된 객체가 임의의 방향으로 임계값 미만의 속도로 이동하면 1개 단위로 상기 채널 또는 상기 볼륨을 조정하고, 상기 판단부에서 식별된 객체가 임의의 방향으로 상기 임계값 이상의 속도로 이동하면 5개 단위로 상기 채널 또는 상기 볼륨을 조정하는 것을 특징으로 하는 TV.
  5. 제1항에 있어서,
    디스플레이부;를 더 포함하고
    상기 제어부는,
    상기 판단부에서 결정된 모션이 손을 흔드는 모션인 경우 상기 디스플레이부에 디스플레이된 영상을 이전 페이지 또는 상위 페이지로 전환하는 동작을 수행하고, 상기 판단부에서 결정된 모션이 손을 일 방향으로 이동하는 모션인 경우 상기 디스플레이부에 디스플레이된 커서를 상기 일 방향에 대응되는 방향으로 이동하도록 제어하는 것을 특징으로 하는 TV.
  6. 제1항에 있어서,
    상기 제어부는,
    상기 판단부에서 결정된 모션이 손을 앞으로 뻗는 푸쉬 모션인 경우, 상기 TV의 모션 인식 모드를 활성화하도록 제어하는 것을 특징으로 하는 TV.
  7. 제6항에 있어서,
    상기 제어부는,
    상기 모션 인식 모드가 활성화되고, 상기 판단부에서 결정된 모션이 사용자의 신체면 또는 사용자 외부 사물에 접촉하는 모션인 경우, 상기 TV의 모션 인식 모드를 비활성화하도록 제어하는 것을 특징으로 하는 TV.
  8. TV의 제어 방법에 있어서,
    이미지를 획득하는 단계;
    상기 획득한 이미지로부터 객체를 식별하고, 상기 객체의 움직임에 대응되는 모션을 결정하는 단계; 및
    상기 결정된 모션에 대응되는 상기 TV의 기능을 제어하는 단계;를 포함하는 제어 방법.
  9. 제8항에 있어서,
    상기 제어하는 단계는,
    상기 결정된 모션이 제1 모션인 경우 상기 TV의 채널을 조정하고, 상기 결정된 모션이 제2 모션인 경우 상기 TV의 볼륨을 조정하도록 제어하는 것을 특징으로 하는 제어 방법.
  10. 제8항에 있어서,
    상기 제어하는 단계는,
    상기 채널 또는 상기 볼륨을 조정하는 경우, 상기 식별된 객체의 이동 방향 및 이동 거리에 따라, 상기 채널 또는 상기 볼륨을 조정하는 것을 특징으로 하는 제어 방법.
  11. 제10항에 있어서,
    상기 제어하는 단계는,
    상기 채널 또는 상기 볼륨을 조정하는 경우, 상기 식별된 객체가 임의의 방향으로 임계값 미만의 속도로 이동하면 1개 단위로 상기 채널 또는 상기 볼륨을 조정하고, 상기 식별된 객체가 임의의 방향으로 상기 임계값 이상의 속도로 이동하면 5개 단위로 상기 채널 또는 상기 볼륨을 조정하는 것을 특징으로 하는 제어 방법.
  12. 제8항에 있어서,
    영상 또는 커서를 디스플레이하는 단계;를 더 포함하고
    상기 제어하는 단계는,
    상기 결정된 모션이 손을 흔드는 모션인 경우 상기 디스플레이된 영상을 이전 페이지 또는 상위 페이지로 전환하는 동작을 수행하고, 상기 결정된 모션이 손을 일 방향으로 이동하는 모션인 경우 상기 디스플레이된 커서를 상기 일 방향에 대응되는 방향으로 이동하도록 제어하는 것을 특징으로 하는 제어 방법.
  13. 제8항에 있어서,
    상기 제어하는 단계는,
    상기 결정된 모션이 손을 앞으로 뻗는 푸쉬 모션인 경우, 상기 TV의 모션 인식 모드를 활성화하도록 제어하는 것을 특징으로 하는 제어 방법.
  14. 제13항에 있어서,
    상기 제어하는 단계는,
    상기 모션 인식 모드가 활성화되고, 상기 결정된 모션이 사용자의 신체면 또는 사용자 외부 사물에 접촉하는 모션인 경우, 상기 TV의 모션 인식 모드를 비활성화하도록 제어하는 것을 특징으로 하는 제어 방법.
KR1020140081937A 2014-07-01 2014-07-01 모션에 의해 제어되는 전자기기 및 그 제어 방법 KR20140096250A (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020140081937A KR20140096250A (ko) 2014-07-01 2014-07-01 모션에 의해 제어되는 전자기기 및 그 제어 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020140081937A KR20140096250A (ko) 2014-07-01 2014-07-01 모션에 의해 제어되는 전자기기 및 그 제어 방법

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
KR1020110001522A Division KR101795574B1 (ko) 2011-01-06 2011-01-06 모션에 의해 제어되는 전자기기 및 그 제어 방법

Publications (1)

Publication Number Publication Date
KR20140096250A true KR20140096250A (ko) 2014-08-05

Family

ID=51744240

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020140081937A KR20140096250A (ko) 2014-07-01 2014-07-01 모션에 의해 제어되는 전자기기 및 그 제어 방법

Country Status (1)

Country Link
KR (1) KR20140096250A (ko)

Similar Documents

Publication Publication Date Title
KR101795574B1 (ko) 모션에 의해 제어되는 전자기기 및 그 제어 방법
KR101858531B1 (ko) 모션에 의해 제어되는 디스플레이 장치 및 그 모션 제어 방법
US20120176305A1 (en) Display apparatus controlled by a motion, and motion control method thereof
EP2839357B1 (en) Rapid gesture re-engagement
US11809637B2 (en) Method and device for adjusting the control-display gain of a gesture controlled electronic device
US9927974B2 (en) Automatic customization of keypad key appearance
US20130211843A1 (en) Engagement-dependent gesture recognition
US20120050530A1 (en) Use camera to augment input for portable electronic device
US20120304067A1 (en) Apparatus and method for controlling user interface using sound recognition
US10089061B2 (en) Electronic device and method
WO2012011614A1 (en) Information device, control method thereof and system
KR20080104099A (ko) 입력 장치 및 그 입력 방법
KR20160106691A (ko) 제스처를 사용하여 미디어의 재생을 제어하기 위한 시스템 및 방법
US20150077381A1 (en) Method and apparatus for controlling display of region in mobile device
KR20160133305A (ko) 제스쳐 인식 방법, 컴퓨팅 장치 및 제어 장치
CN112256126A (zh) 用于识别手势的方法、电子电路、电子设备和介质
US20150116209A1 (en) Electronic device and method for controlling buttons of electronic device
KR20140096250A (ko) 모션에 의해 제어되는 전자기기 및 그 제어 방법
CN103984499A (zh) 一种动作指令控制方法及电子设备
KR101348763B1 (ko) 손동작에 의한 인터페이스 조작 장치 및 방법, 그리고 컴퓨터로 읽을 수 있는 기록매체
KR101414345B1 (ko) 카메라를 이용한 입력장치 및 그 방법

Legal Events

Date Code Title Description
A107 Divisional application of patent
A201 Request for examination
PA0107 Divisional application

Comment text: Divisional Application of Patent

Patent event date: 20140701

Patent event code: PA01071R01D

Filing date: 20110106

Application number text: 1020110001522

PA0201 Request for examination
PG1501 Laying open of application
E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

Comment text: Notification of reason for refusal

Patent event date: 20140829

Patent event code: PE09021S01D

AMND Amendment
E601 Decision to refuse application
PE0601 Decision on rejection of patent

Patent event date: 20150424

Comment text: Decision to Refuse Application

Patent event code: PE06012S01D

Patent event date: 20140829

Comment text: Notification of reason for refusal

Patent event code: PE06011S01I

AMND Amendment
PX0901 Re-examination

Patent event code: PX09011S01I

Patent event date: 20150424

Comment text: Decision to Refuse Application

Patent event code: PX09012R01I

Patent event date: 20141029

Comment text: Amendment to Specification, etc.

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

Comment text: Notification of reason for refusal

Patent event date: 20150630

Patent event code: PE09021S01D

AMND Amendment
PX0601 Decision of rejection after re-examination

Comment text: Decision to Refuse Application

Patent event code: PX06014S01D

Patent event date: 20160129

Comment text: Amendment to Specification, etc.

Patent event code: PX06012R01I

Patent event date: 20150831

Comment text: Notification of reason for refusal

Patent event code: PX06013S01I

Patent event date: 20150630

Comment text: Amendment to Specification, etc.

Patent event code: PX06012R01I

Patent event date: 20150527

Comment text: Decision to Refuse Application

Patent event code: PX06011S01I

Patent event date: 20150424

Comment text: Amendment to Specification, etc.

Patent event code: PX06012R01I

Patent event date: 20141029

Comment text: Notification of reason for refusal

Patent event code: PX06013S01I

Patent event date: 20140829