KR101163084B1 - 디바이스 제어를 위한 방법 및 시스템 - Google Patents

디바이스 제어를 위한 방법 및 시스템 Download PDF

Info

Publication number
KR101163084B1
KR101163084B1 KR1020067012004A KR20067012004A KR101163084B1 KR 101163084 B1 KR101163084 B1 KR 101163084B1 KR 1020067012004 A KR1020067012004 A KR 1020067012004A KR 20067012004 A KR20067012004 A KR 20067012004A KR 101163084 B1 KR101163084 B1 KR 101163084B1
Authority
KR
South Korea
Prior art keywords
pointing device
visual representation
target area
user
image
Prior art date
Application number
KR1020067012004A
Other languages
English (en)
Other versions
KR20060107811A (ko
Inventor
에릭 텔렌
Original Assignee
코닌클리케 필립스 일렉트로닉스 엔.브이.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 코닌클리케 필립스 일렉트로닉스 엔.브이. filed Critical 코닌클리케 필립스 일렉트로닉스 엔.브이.
Publication of KR20060107811A publication Critical patent/KR20060107811A/ko
Application granted granted Critical
Publication of KR101163084B1 publication Critical patent/KR101163084B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/038Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
    • G06F3/0386Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry for light pen
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04QSELECTING
    • H04Q9/00Arrangements in telecontrol or telemetry systems for selectively calling a substation from a main station, in which substation desired apparatus is selected for applying a control signal thereto or for obtaining measured values therefrom
    • H04Q9/04Arrangements for synchronous operation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • GPHYSICS
    • G08SIGNALLING
    • G08CTRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
    • G08C17/00Arrangements for transmitting signals characterised by the use of a wireless electrical link
    • G08C17/02Arrangements for transmitting signals characterised by the use of a wireless electrical link using a radio link
    • GPHYSICS
    • G08SIGNALLING
    • G08CTRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
    • G08C19/00Electric signal transmission systems
    • G08C19/16Electric signal transmission systems in which transmission is by pulses
    • G08C19/28Electric signal transmission systems in which transmission is by pulses using pulse code
    • GPHYSICS
    • G08SIGNALLING
    • G08CTRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
    • G08C23/00Non-electrical signal transmission systems, e.g. optical systems
    • G08C23/04Non-electrical signal transmission systems, e.g. optical systems using light waves, e.g. infrared
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42204User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223Cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • H04N21/4316Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations for displaying supplemental content in a region of the screen, e.g. an advertisement in a separate window
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • H04N21/43615Interfacing a Home Network, e.g. for connecting the client to a plurality of peripherals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/4728End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for selecting a Region Of Interest [ROI], e.g. for requesting a higher resolution version of a selected region
    • GPHYSICS
    • G08SIGNALLING
    • G08CTRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
    • G08C2201/00Transmission systems of control signals via wireless link
    • G08C2201/70Device selection
    • G08C2201/71Directional beams
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Databases & Information Systems (AREA)
  • Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Position Input By Displaying (AREA)
  • User Interface Of Digital Computer (AREA)
  • Details Of Television Systems (AREA)

Abstract

본 발명은 디바이스(1a, 1b, 1c)의 제어를 위한 방법을 기술한다. 방법은 제어될 디바이스(1a, 1b, 1c)에 대한 다수의 사용자 옵션을 시각적으로 제시하고, 원하는 옵션을 고르기 위해서 카메라(3)를 포함한 포인팅 디바이스(2)를 사용자 옵션들의 시각적 표현(4a, 4b, 4c, 4d, 4e)에 조준하고, 포인팅 디바이스(2)에 의해 조준된 타겟 영역(6)의 이미지(5)를 생성하고 타겟 영역 이미지(5)를 시각적 표현((4a, 4b, 4c, 4d, 4e))의 미리 규정된 템플릿과 비교하여 선택된 옵션을 판정하는 것을 포함한다.
템플릿, 포인팅 디바이스, 시각적 표현, 타겟 영역 이미지, 이미지 인터프리터

Description

디바이스 제어를 위한 방법 및 시스템{Method and system for control of a device}
본 발명은 일반적으로 디바이스의 제어를 위한 방법 및 시스템에 관한 것으로, 특히 예를 들면 텔레비전(TV), 비디오 카세트 레코더(VCR), 디지털 비디오 디스크(DVD) 플레이어, 개인용 컴퓨터(PC) 등과 같은 오디오-비쥬얼 디바이스인 소비자 전자 디바이스의 원격 제어를 위한 방법 및 시스템에 관한 것이다.
오늘날 원격 제어들은 거의 임의의 소비자 전자 디바이스, 예를 들면 텔레비전, DVD 플레이어, 튜너 등과 함께 사용된다. 평균적인 가전에서, 복수의 원격 제어기들 - 흔히 각각의 소비자 전자 디바이스마다 하나씩 - 이 요구될 수 있다. 자신이 소유하는 소비자 전자 디바이스들을 잘 알고 있는 사람조차도, 각 원격 제어기 상의 각 버튼이 실제로 무엇을 위한 것인지를 기억하는 것은 과제이다. 또한, 일부 소비자 전자 디바이스들에서 제공되는 온-스크린 메뉴-구동방식의 네비게이션은 특히 디바이스에서 사용가능의 옵션들을 상세히 알지 못할 수도 있을 사용자들에게 있어서는 대부분 덜 직관적이다. 결과는 사용자가 자신이 찾고 있는 옵션을 어디 있는지를 찾기 위해 스크린 상에 나타난 메뉴를 계속적으로 조사해야 하고 적합한 버튼을 찾기 위해서 원격 제어기를 내려다보아야 하는 것이다. 또한, 원격 제어기 상의 버튼은 먼저 모드 버튼을 누름으로써 액세싱되는 다른 기능을 수행할 수도 있을 것이다. 최근의 소비자 전자 디바이스들에 사용가능의 복수의 옵션들이란 불행하게도 대부분의 사용자들에게 있어서, 디바이스와 같은 프로그래밍이 낭패를 겪을 수 있게 됨을 의미한다. 상당수의 버튼들 및 비직관적 메뉴 옵션들은 디바이스의 프로그래밍을 필요한 것보다 더 어렵게 만들 수 있고 구입한 디바이스들로부터 대부분을 얻지 못하게 된다.
거의 모든 소비자 전자 디바이스가 최근 자신의 원격 제어 디바이스와 함께 제공되는 사실에 의해서 모든 자신의 소비자 전자 디바이스들을 최대한 사용하는 것을 훨씬 더 어렵게 만들고 있다. 대부분의 원격 제어기 버튼의 약어들 및 심볼들은 다른 언어들의 나라들에서 동일 원격 제어 디바이스를 판매할 수 있게 하기 위해 현재 표준화하고 있으나, 그렇게 하여도 서로 다른 약어들 혹은 심볼들이 동일 기능을 수행하게 서로 다른 원격 제어기들에서 사용되는 것이 있을 수가 있는데, 예를 들면 약어로서 "CH" 및 "PR"은 근본적으로 동일한 것을 의미하는 "채널" 혹은 "프로그램"을 나타내는데 사용될 수도 있을 것이다. 원격 제어기들은 형상, 크기 전체 외양 및 심지어 배터리 요건들도 다르다.
이러한 복수의 원격 제어기들에 의해 야기되는 혼란을 줄이려는 노력으로, "만능 원격 제어기들"이라는 새로운 제품 카테고리가 개발되었다. 그러나, 만능 원격 제어기조차도, 특히 새로운 기술들 및 부가기능들이 계속하여 개발되고 있기 때 문에, 최근 시장에서 판매되는 모든 소비자 전자 디바이스에 의해 제공되는 모든 기능들을 액세싱하는 것을 희망할 수 없다. 또한, 최근의 소비자 전자 디바이스들에 의해 제공되는 광범위하게 다양한 기능들은 이들 기능들을 작동시키기 위해 대응하는 많은 수의 버튼들을 필요로 하여, 불편하게 많은 원격 제어기에게 모든 버튼들을 수용할 것을 요구한다.
소비자 전자 디바이스들의 간단한 원격 제어기의 문제를 해결하려는 많은 개발을 시도하고 있다. 예를 들면 EP 0372674 호는 카메라 및 고정 광원 -둘 다 마이크로컴퓨터에 연결된- 을 사용하는 방법을 제시한다. 렌즈 및 검출기를 내장한 이동가능 카메라가 사용자의 머리에 장착된다. 카메라 내 검출기에 의해 검출된 고정된 광원에 대한 사용자의 머리의 움직임들은 텔레비전 스크린 상에 커서의 움직임들로 전환된다. 이러한 방법의 자명한 문제는 사용자가 자신의 머리에 카메라를 착용해야 한다는 것이다. 사용자는 원하는 위치로 커서를 지향시키고 있는지 알기 위해서 스크린을 계속적으로 보면서, 스크린 상에 커서를 이동시키기 위해 여러 방향들로 자신의 머리를 움직여야 한다.
그러므로, 본 발명의 목적은 디바이스의 편리하고 직관적인 원격 제어를 위한 방법 및 사용자 인터페이스를 제공하는 것이다.
이를 위해서, 본 발명은 제어할 디바이스에 대한 다수의 사용자 옵션들을 시각적으로 제시하는 단계; 카메라를 포함하는 포인팅 디바이스를 원하는 옵션을 고르기 위해 사용자 옵션들의 시각적 표현에 조준(aiming)하는 단계; 상기 포인팅 디바이스에 의해 조준된 타겟 영역의 이미지를 생성하는 단계; 상기 타겟 영역 이미지를 상기 시각적 표현의 미리 규정된 템플릿(template)과 비교하여 상기 선택된 옵션을 판정하는 단계를 포함하는, 디바이스의 제어를 위한 방법을 제공한다. "타겟 영역 이미지"는 최광의의 가능한 의미로 이해되어야 하며, 예를 들면 타겟 영역 이미지는 전체 이미지의 특기할 점들, 예를 들면 강조된 콘투어들, 코너들, 에지들 등에 관한 이미지 데이터만을 포함할 수도 있을 것이다.
디바이스의 원격 제어를 위한 적합한 사용자 인터페이스는 제어할 상기 디바이스에 대한 사용자 옵션들의 시각적 표현들과 연관된 미리 규정된 템플릿들에 액세싱하기 위한 액세싱 유닛; 상기 사용자 옵션들의 시각적 표현에서 원하는 옵션을 조준하기 위한 것이고, 상기 시각적 표현의 적어도 일부의 타겟 영역의 이미지를 생성하는 것인 포인팅 디바이스; 상기 선택된 옵션을 판정하기 위해서 상기 타겟 영역 혹은 미리 규정된 템플릿에서 상기 타겟 영역의 포인트를 찾는 이미지 인터프리터를 포함한다.
방법 및 사용자 인터페이스는 선택중에 소비자 전자 디바이스에서 눈길을 돌릴 필요없이, 그리고 우선적으로 다수의 버튼들에 정통하게 되어야할 필요없이 옵션 선택을 하기 위해 간단히 콤팩트한 휴대 포인팅 디바이스를 조준함으로써 임의의 디바이스를 사용자가 제어하는 편리한 방법을 제공한다.
종속 청구항들 및 그에 이은 설명은 본 발명의 특히 이점이 있는 실시예들 및 특징들을 개시한다.
소비자 전자 디바이스에 대한 사용자 옵션들은 사용자에게 다수의 방식들로, 정적 및 동적으로 제시될 수 있다. 정적 형태로 디바이스에 대한 사용자 옵션들의 가장 간단한 시각적 표현은 디바이스 자신의 전면으로서, 이 경우 각종의 옵션들은 예를 들면, VCR 상의 정지, 고속감기, 녹화 및 재생 버튼들인 버튼들 혹은 노브들의 형태로 사용이 가능하다. 정적 시각적 표현의 또 다른 예는 사용자 옵션들을 인쇄된 형태로, 예를 들면 컴퓨터 프린트아웃, 혹은 TV 잡지에서 프로그램 가이드로 보여주는 것일 수도 있을 것이다. 특히, 텔레비전에 연결될 수 있는 TV, 혹은 DVD 플레이어와 같은 디바이스에 있어서, 옵션들은 디바이스 전면 상의 버튼들로서 정적 형태로 사용자가 이용할 수 있고, 쉽게 동적으로 텔레비전 스크린상에 디스플레이될 수도 있다. 여기서, 옵션들은 메뉴 항목들 형태로 혹은 아이콘들로서 보여질 수도 있을 것이다. 특히 본 발명의 바람직한 실시예에서, 둘 이상의 디바이스에 대한 사용자 옵션들은 하나의 시각적 표현에서 동시에 보여질 수 있다. 예를 들면, 튜너 옵션들 및 DCD 옵션들, 특히 두 디바이스들에 관계된 옵션들이 함께 디스플레이될 수도 있을 것이다. 옵션들의 이러한 조합의 한 예는 와이드 스크린, 서브-타이트들 등과 같은 DVD 옵션들과 함께, 서라운드 사운드, 돌비 등과 같은 한 세트의 튜너 오디오 옵션들을 디스플레이할 수도 있을 것이다. 이에 따라 사용자는 시청을 개시하기 전에 두 디바이스들에 대한 옵션들을 쉽고 신속하게 개인화할 수 있다.
디바이스에 대한 사용자 옵션들을 동적 형태로 시각적으로 제시하는 다른 방법은 이들을 이미지 백드롭(image backdrop)으로서 표면, 예를 들면 벽이나 스크린에 투사하는 것일 수도 있다. 또한, 본 발명은 예를 들면 사용자가 시력이 약하다면 한 번에 스크린에 적은 수의 옵션들만을 디스플레이함으로써 디바이스에 대한 옵션들을 개인화하는 수단을 사용자에게 쉽게 제공할 수도 있을 것이다. 또한, 사용자는 특정하게, 전혀 필요하지 않을 것 같은 기능들을 생략하기로 결정할 수도 있는데, 예를 들면 자신의 DVD 플레이어에 있어서, 사용자는 외국어 서브타이트들이 동반되는 영화를 결코 시청하고 싶지 않을 수도 있을 것이다. 이 경우, 사용자는 시각적 표현에서 이들 옵션들을 생략하게 사용자 인터페이스를 개인화할 수 있다. 텔레비전과 같은 디바이스는 일부 사용자들에게, 사용가능한 옵션들 중 일부만이 액세싱될 수 있게 구성될 수 있다. 이렇게 하여, 예를 들면 어린이들을 이들 연령층에 부적합한 프로그램들을 시청하지 못하게 어떤 채널들은 권한있는 사용자들만에 의해 액세싱되게 할 수 있다.
사용자 옵션들의 시각적 표현을 카메라를 내장한 포인팅 디바이스가 조준함으로써 사용가능의 옵션들 중에서 사용자가 고를 수 있는 것이 본 발명의 중심점이다. 카메라는 포인팅 디바이스 내 내장되는 것이 바람직하나, 마찬가지로 포인팅 디바이스 상에 장착될 수도 있고, 사용자에 의해 타겟이 된 포인팅 디바이스 전면의 영역의 이미지들을 생성하는 방향으로 놓이는 것이 바람직하다. 타겟 영역의 이미지는 전체 시각적 표면의 적은 일부만일 수도 있고 시각적 표현을 전체가 커버할 수도 있고, 아니면 시각적 표현을 둘러싼 영역을 포함할 수도 있을 것이다. 전체 시각적 표현에 관련하여 타겟 영역 이미지의 크기는 시각적 표현의 크기, 포인팅 디바이스와 표현간의 거리, 및 카메라 자체의 기능들에 좌우될 수도 있을 것이다. 사용자는 예를 들면 사용자가 텔레비전을 시청하면서 착석하고 있을 때 시각적 표현으로부터 어떤 거리에 있도록 하는 위치에 있을 수도 있을 것이다. 마찬가지로, 사용자는 잡지형태의 TV 프로그램 가이드에 포인팅 디바이스를 사용자가 조준할 때 일어날 수도 있는 것으로서, 시각적 표현에 매우 가까이서 포인팅 디바이스를 유지할 수도 있을 것이다.
본 발명의 바람직한 실시예에서, 광원은 포인팅 디바이스 내 혹은 위에 장착될 수도 있을 것이다. 광원은 포인팅 디바이스가 조준되는 영역을 조사하게 동작할 수도 있을 것이므로 사용자는 주변이 어두울지라도 시각적 표현을 쉽게 볼 수 있다. 마찬가지로, 광원은 포인팅 방향으로 방출되는 광의 집중된 빔의 레이저 광원의 소스일 수도 있을 것이므로, 광점이 사용자가 조준하고 있는 시각적 표현 상의 타겟 점에 혹은 그 근처에 나타나, 사용자가 원하는 옵션을 조준할 수 있게 시각적 위치적 피드백을 제공한다. 간단한 실현은 적합한 방식으로 포인팅 디바이스 내 혹은 디바이스 상에 내장된 레이저 광원일 수도 있을 것이다. 그러므로, 다음에서는 - 어떤 식으로든 본 발명을 한정하지 않고 - 집중 광원이 레이저 빔임을 가정한다.
용이한 사용을 위해서, 포인팅 디바이스는 사용자에 의해 편리하게 쥘 수 있는 연장된 형태의 완드(wand) 혹은 펜(pen) 형상일 수 있다. 이에 따라 사용자는 시각적 표현으로부터 편안한 시청거리에 있으면서 시각적 표현 내 타겟 점에 포인팅 디바이스를 지향시킬 수 있다. 마찬가지로, 포인팅 디바이스는 피스톨 형태일 수도 있을 것이다.
포인팅 디바이스는 사용자에 의해 시각적 표현 내 특정 옵션, 예를 들면 VCR 디바이스 전면 상의 플레이 버튼에, 혹은 TV 스크린상에 디스플레이된 DVD 옵션에, 혹은 TV 잡지에서 선택된 프로그램에 조준될 수도 있을 것이다. 특정 선택이 행해지고 있음을 나타내기 위해서, 사용자는 시각적 표현에서 포인팅 디바이스를 미리 규정된 방식으로, 예를 들면 원하는 옵션 주위에 루프 혹은 원 형태를 묘사함으로써 이동시킬 수도 있을 것이다. 사용자는 시각적 표현에서 벗어난 거리로 공간을 통해 포인팅 디바이스를 이동시킬 수도 있을 것이며, 혹은 포인팅 디버이스를 시각적 표현에 직접 혹은 이에 매우 가까이 이동시킬 수도 있을 것이다. 특정 옵션 선택을 나타내는 다른 방법은 미리 규정된 시간 길이 동안 옵션에 계속적으로 포인팅 디바이스를 조준하는 것일 수도 있을 것이다. 마찬가지로, 사용자는 시각적 표현을 스크린에서 제거한 후에 정규 프로그램 시청으로, 혹은 이전 메뉴 레벨로의 리턴을 나타내기 위해서 시각적 표현을 가로질러 포인팅 디바이스를 플릭(flick)할 수도 있을 것이다. 시각적 표현에 대한 포인팅 디바이스의 이동은 바람직하게는 제어 유닛에 이미지 처리 소프트웨어에 의해 검출될 수도 있을 것이고, 혹은 포인팅 디바이스 내 모션 센서에 의해 검출될 수도 있을 것이다. 또 다른 가능성은 포인팅 디바이스가 조준하는 옵션의 선택을 나타내기 위해서 포인팅 디바이스 상의 버튼을 누르는 것일 수도 있을 것이다. 바람직한 실시예에서, 제어 유닛은 사용자의 조작들을 정확하게 해석하였음을 확정하기 위해서, 예를 들면 사용자가 버튼을 누르거나 미리 규정된 방식으로 포인팅 디바이스를 이동시키면서 옵션의 광학적 중심으로부터 상당히 벗어난 지점을 조준하였는지를 확정하기 위해서 확인 다이알로그를 개시할 수 있다. 이 경우, 제어 유닛은 선택된 옵션 혹은 기능을 개시하기 전에 확인을 요청할 수도 있을 것이다.
바람직하게 제어 유닛은 어떤 방식들로, 예를 들면 옵션을 플래시되게 하거나 아마도 가청 "클릭" 음을 동반하여 사용자에 의해 조준된 시각적 표현 내 영역을 강조표시함으로써, 선택된 옵션을 강조표시하기 위해 시각적 표현을 변경할 수 있다. 또한, 포인팅 디바이스는 특히 사용자가 큰 콘텐츠 공간들을 네비게이트해야 할 때 예를 들면 버퍼된 DVD 영화 데이터를 나타내는 아이콘을 쓰레기통을 나타내는 또 다른 아이콘으로 드래그하여, 버퍼링된 데이터가 메모리로부터 삭제됨을 지시함으로써, "드래그 앤 드롭" 기술을 사용하여 시각적 표현에서 기능을 선택할 수도 있을 것이다. 여러 가지 기능들이 사용자에 의해 개시될 수도 있는데, 이에 의해서 사용자는 "더블-클릭"과 유사한 방식으로, 예를 들면 미리 규정된 방식으로 포인팅 디바이스의 움직임을 반복하거나 포인팅 디바이스 상의 버튼을 2회 누름으로써 옵션을 선택한다.
본 발명의 특히 이점이 있는 실시예에서, 타겟 영역의 이미지는 예를 들면 블루투스 혹은 802.11b 표준들을 사용하여 무선으로 포인팅 디바이스에서, 제어될 디바이스에 할당된 제어 유닛에 송신된다. 제어 유닛은 바람직하게는 타겟 영역 이미지들을 수신하는 수신기 및 프로세서 혹은 제어기 형태일 수도 있는 이미지 인터프리터를 포함한다. 타겟 영역 이미지들은 제어 유닛에 포인팅 디바이스를 부착하는 케이블에 의해 제어 유닛에 마찬가지로 전송될 수도 있을 것이다.
사용자에 의해 어떤 옵션이 선택되었는지를 판정하기 위해서, 이미지 인터프리터는 수신된 타겟 영역 이미지들을 시각적 표현의 다수의 미리 규정된 템플릿들과 비교한다. 단일의 미리 규정된 템플릿이 비교에 충분할 수도 있을 것이고, 혹은 성공적 비교를 하기 위해서 하나 이상의 템플릿을 적용하는 것이 필요할 수도 있다.
미리 규정된 템플릿들은 내부 메모리에 저장될 수 있고, 혹은 마찬가지로 외부원으로부터 액세싱될 수도 있을 것이다. 바람직하게, 제어 유닛은 제어될 디바이스의 시각적 표현에 대한 미리 규정된 템플릿들을, 예를 들면 내부 혹은 외부 메모리, 메모리 스틱, 인트라넷 혹은 인터넷으로부터 얻기 위한 적합한 인터페이스를 구비한 액세싱 유닛을 포함한다. 템플릿은 제어될 디바이스의 전면의 그래픽 표현일 수 있고, 예를 들면 사용가능의 사용자 옵션들을 특징짓는 VCR 디바이스의 전면의 간이화된 표현, 예를 들면 재생, 고속감기, 되감기, 정지 및 녹화기능들을 나타내는 버튼들의 표현일 수 있다. 템플릿은 TV 스크린상에 디스플레이된 옵션 메뉴의 그래픽 표현일 수도 있고, 시각적 표현의 특정 영역들과 연관된 이용 가능한 디바이스 옵션들의 위치들을 나타낼 수도 있을 것이다. 예를 들면, 재생, 고속감기, 서브-타이트들, 언어 등과 같은 DVD 플레이어용의 사용자 옵션들은 TV 스크린 상에 시각적으로 제시될 수도 있다. 템플릿은 시각적 표현 주위의 영역을 묘사할 수 있는데 예를 들면 디바이스의 하우징을 포함할 수도 있고 디바이스의 인접한 주변들의 일부를 포함할 수도 있다.
스크린 상의 이들을 디스플레이할 수 있는 디바이스에 대한 사용자 옵션들은 메뉴 형태로 흔히 제시될 수 있고, 이 경우 사용자는 원하는 옵션 혹은 기능에 도달하기 위해 메뉴를 가로지를 수 있다. 본 발명의 바람직한 실시예에서, 제어될 디바이스에 대한 각각의 가능한 메뉴 레벨에 대한 템플릿이 존재하고, 따라서 사용자는 디바이스의 제어의 어떤 레벨에서 가용 옵션들 중 어느 하나에 포인팅 디바이스를 조준할 수 있다. 또 다른 유형의 템플릿은 잡지에서 TV 프로그램 가이드의 외양을 취할 수도 있을 것이다. 여기서, TV 가이드 내 페이지들의 레이아웃을 위한 템플릿들은 예를 들면 매일 혹은 주 단위로 액세싱 유닛에 의해 얻어지고 및/또는 업데이트될 수도 있을 것이다. 바람직하게, 이미지 해석 소프트웨어는 TV 가이드 페이지들의 포맷과 호환된다. 바람직하게 템플릿들은 사용자가 사용할 수 있는 각종 프로그램 옵션들의 페이지들 상의 위치들을 특징화하는 것이 바람직하다. 사용자는 특정 옵션을 선택하기 위해 실제 TV 프로그램 가이드의 페이지 형태로 시각적 표현에 포인팅 디바이스를 조준할 수도 있을 것이며, 혹은 가이드는 가용 옵션들 간에 선택하기 위해서 사용자가 포인팅 디바이스를 조준할 수 있는 TV 스크린상에 시각적으로 제시될 수도 있을 것이다.
선택된 옵션을 판정하기 위해 타겟 영역 이미지를 처리함에 있어, 사용자가 조준한 시각적 표현 내 점, 즉 타겟 점을 발견하기 위해서 컴퓨터 비전 기술들을 적용하는 것이 편리하다.
본 발명의 일 실시예에서, 타겟 영역 이미지 내 고정된 점, 바람직하게는 포인팅 디바이스의 길이 방향 축의 방향으로 가상의 선을 시각적 표현까지 연장하여 얻어진 타겟 영역 이미지의 중심이 타겟 점으로서 사용될 수도 있을 것이다.
컴퓨터 비전 알고리즘들을 사용하여 시각적 표현의 타겟 영역 이미지들을 처리하는 방법은 타겟 이미지에서 구별되는 점들을 검출하는 단계; 상기 시각적 표현의 상기 템플릿 내 대응하는 점들을 결정하는 단계; 상기 타겟 이미지 내 상기 점들을 상기 템플릿 내 상기 대응하는 점들에 매핑하기 위한 변환을 전개하는 단계를 포함할 수도 있을 것이다. 타겟 영역 이미지의 구별되는 점들은 시각적 표현의 점들일 수도 있을 것이며 혹은 시각적 표현을 둘러싼 영역, 예를 들면 텔레비전 스크린의 코너들 내 점들, 혹은 제어될 디바이스 근처의, 미리 규정된 템플릿들에도 기록되어 있는 대상에 속하는 점들일 수도 있을 것이다. 이 변환을 사용하여, 시각적 표현에 대한 포인팅 디바이스의 위치 및 애스펙트(aspect)를 판정하므로, 포인팅 디바이스의 어떤 축의 시각적 표현과의 교차점이 템플릿에서 찾아질 수 있다. 템플릿에서 이러한 교차의 위치는 시각적 표현 상의 타겟 점에 대응하며, 옵션들 중 어느 것이 사용자에 의해 타겟이 되었는지를 쉽게 판정하는데 사용될 수 있다. 미리 규정된 템플릿 내 타겟 점의 위치는 사용자에 의해 선택된 옵션을 나타낸다. 따라서, 타겟 영역 이미지를 미리 규정된 템플릿과 비교하는 것은 구별적인 코너 점들과 같은 특징적 점들만을 식별하여 비교하는 것으로 제약된다. 이 발명에서 적용가능한 "비교"라는 용어는 광의로 이해되어야 하는 것으로, 즉 사용자가 조준하고 있는 점을 신속하게 확인하기 위해서 충분한 특징들을 비교하는 하는 것만으로 이해되어야 한다.
사용자에 의해 선택된 옵션을 판정하는 다른 가능한 방법은 타겟 점을 중심으로 하는 수신된 타겟 영역 이미지를 직접 미리 규정된 템플릿과 비교하여 패턴-매칭과 같은 방법들을 사용하여 시각적 표현에서 타겟이 된 점을 찾는 것이다. 타겟 영역 이미지를 미리 규정된 템플릿과 비교하는 또 다른 방법은 구별적인 코너 점들과 같은 특징적 점들만을 확인하여 비교하는 것으로 제약한다.
본 발명의 다른 실시예에 있어서, 타겟 영역 이미지의 일부로서 제어 유닛 내 수신기에 전송된, 레이저 점의 위치는 사용자에 의해 선택된 옵션을 찾기 위해 타겟 점으로서 사용될 수도 있을 것이다. 레이저 점은 타겟 영역 이미지의 중심에 중첩될 수도 있으나, 마찬가지로 타겟 영역 이미지의 중심에서 벗어날 수도 있다.
제어 유닛은 단일의 디바이스를 제어하는데 사용될 수 있으나, 마찬가지로 복수의 이러한 디바이스들을 제어하는데 사용될 수도 있을 것이며 예를 들면 하나의 제어 유닛은 TV, DVD 플레이어, 튜너 및 VCR에 할당될 수도 있을 것이다. 따라서, 포인팅 디바이스는 다수의 소비자 전자 디바이스들을 제어하는데 사용될 수 있고, 각각은 이들 자신의 전용의 제어 유닛들을 내장한다. 또한, 다수의 포인팅 디바이스들은 제어 유닛에 할당될 수 있으므로, 예를 들면, 가전의 각각은 자신의 포인팅 디바이스를 갖는다. 한편, 예를 들면 사용자가 사무실에서뿐만 아니라 가정에서 디바이스들을 제어하기 위해 자신의 포인팅 디바이스를 사용할 수 있도록 서로 다른 환경들에서 다수의 제어 유닛들에 하나의 포인팅 디바이스가 할당될 수도 있을 것이다.
본 발명의 바람직한 실시예에서, 제어 유닛은 이미지 백드롭 형태로 다수의 디바이스들에 대한 사용자 옵션의 시각적 표현들을 예를 들면 벽과 같은 적합한 표면에 투사할 수 있는 프로젝터에 연결될 수도 있을 것이다. 제어 유닛은 별도의 스크린을 이용할 수도 있을 것이며, 혹은 제어할 디바이스들 중 하나의 스크린을 사용할 수도 있을 것이다. 따라서, 사용자 옵션들은 디바이스에 대해 편한한 방식으로 -이렇지 않았다면 예를 들면 비디오 레코더에 있어서 디스플레이를 모사하지 않음- 제시될 수 있다. 디바이스의 콤팩트한 전면 상의 버튼들에 의해 표현된 옵션들은 예를 들면 선택의 용이함을 위해 보다 큰 이미지 백드롭에 메뉴 옵션들로서 제시될 수 있다. 본 발명의 다른 바람직한 실시예에서, 제어 유닛은 시각적 표현의 하드카피를 생성할 수 있고, 예를 들면 프로그램 선택을 프린트 아웃할 수 있다.
본 발명의 다른 목적들 및 특징들은 첨부한 도면에 관련하여 고찰된 다음의 상세한 설명으로부터 명백하게 될 것이다. 그러나, 도면들은 예시목적으로만 설계되고 본 발명의 제한들의 정의로서 설계된 것은 아니다.
도 1은 포인팅 디바이스를 가진 사용자 및 제어할 디바이스를 도시한 개략도.
도 2는 본 발명의 실시예에 따라 포인팅 디바이스의 개략도.
도 3은 제어할 디바이스 및 연관된 타겟 영역 이미지의 시각적 표현의 개략도.
도 4는 본 발명의 실시예에 따라 제어 유닛과 포인팅 디바이스를 포함한 제어할 디바이스의 개략도.
도 5는 본 발명의 실시예에 따라 제어 유닛 및 제어할 복수의 디바이스들의 개략도.
도 6은 본 발명의 실시예에 따라 시각적 표현 및 대응하는 타겟 영역 이미지를 도시한 개략도.
도 1은 이 경우 텔레비전(1a)인 제어될 디바이스(Ia)에 포인팅 디바이스(2)를 조준하는 사용자(8)를 도시한 것이다. 이 실시예에서, 사용자 옵션들의 시각적 표현(4a)은 텔레비전 스크린상에 동적으로 디스플레이된다. 포인팅 디바이스(2)는 시간적 표현(4) 상의 타겟으로 하는 영역들의 이미지들을 생성한다. 텔레비전(1)은 포인팅 디바이스(2)로부터 송신되는 이미지들을 수신하는 제어 유닛을 내장한다.
도 2는 포인팅 방향(D)으로 포인팅 디바이스(2) 앞의 영역의 이미지들을 생성하는, 카메라(3)를 내장한 포인팅 디바이스(2)를 도시한 것이다. 포인팅 디바이스는 긴 형태의 특징을 이루고 있으므로, 포인팅 방향(D)은 포인팅 디바이스(2)의 길이 방향 축을 따라 놓이게 된다. 카메라(3)는 포인팅 디바이스(2)의 앞쪽으로 위치되므로 사용자(8)가 조준하고 있는 포인팅 디바이스(2) 앞에 영역의 이미지들이 생성된다. 이미지들은 포인팅 디바이스(2)의 하우징 내 수용된 송신기(14)에 의해 송신되고 무선형태로, 예를 들면 블루투스 혹은 802.11b 표준으로 송신된다. 포인팅 디바이스(2) 상에 장착된 레이저 광원(7)은 포인팅 방향(D)으로 포인팅 디바이스(2)의 길이 방향 축에 평행한 레이저 광(L)의 빔을 방출한다. 이 실시예에서 포인팅 디바이스(2)는 버튼(11)을 모사한다. 버튼(11)은 예를 들면 사용자가 선택한 것을 확인하여 타겟 영역의 이미지를 송신하기 위해 사용자에 의해 눌려질 수 있다. 대안적으로, 이러한 버튼(11)은 시각적 표현의 디스플레이를 활성화 혹은 비활성화하는데에도 사용될 수도 있을 것이므로, 사용자 인터페이스 옵션들은 사용자에 의해 실제로 요구될 때만 디스플레이된다. 대안적으로, 버튼(11)의 기능은 포인팅 디바이스 상에 장착된 광원(7)을 활성화 혹은 비활성화하거나, 포인팅 디바이스(2) 자신을 활성화 혹은 비활성하는 것일 수도 있을 것이다. 마찬가지로, 포인팅 디바이스는 포인팅 디바이스(2) 내 내장된 모션 센서에 의해 활성화될 수도 있을 것이므로, 사용자가 포인팅 디바이스(2)를 쥐고 있을 때 시간적 표현이 자동으로 디스플레이된다. 포인팅 디바이스(2)는 이의 파워를 도시하지 않은 하나 이상의 배터리들로부터 가져온다. 포인팅 디바이스의 사용에 따라, 포인팅 디바이스(2)를 사용하지 않을 때 배터리들을 재충전하기 위해 포인팅 디바이스(2)를 놓아둘 수 있는 크래들을 제공하는 것이 필요할 수도 있다.
도 3은 제어할 디바이스에 대한 다수의 사용자 옵션들의 시각적 표현(4a) - 텔레비전 스크린에 디스플레이된 혹은 적합한 백드롭(backdrop)에 투사된 - 을 도시한 것이다. 도면에 도시하지 않은 포인팅 디바이스는 시각적 표현(4a)의 타겟 영역(6)을 조준하고 있다. 포인팅 디바이스 상의 레이저 광원에 의해 생성된 레이저 포인트(PL)의 도움으로, 사용자는 시각적 표현(4a)에 나타낸 메뉴 옵션들(M1, M2, M3, M4) 중 하나를 선택할 수 있다. 포인팅 디바이스 내 카메라는 이미지 중심점(PT)을 중심으로 하는 타겟 영역(6)의 이미지(5)를 생성한다. 또한, 레이저 점(PL)이 타겟 영역 이미지(5)에 나타난다. 레이저 점(PL)은 이미지 중심점(PG)로부터 옮겨진 거리일 수도 있고, 혹은 이미지 중심점(PT)과 일치할 수도 있을 것이다.
도 4는 디스플레이, 예를 들면 텔레비전 스크린 및 제어 유닛(16)을 내장한 소비자 전자 디바이스(1)를 도시한 것이다. 제어 유닛(16)은 이 경우 디바이스(1)의 스크린상에 디스플레이된 것으로 시각적 표현(4a)을 조준한 포인팅 디바이스(2)로부터 송신된 시각적 표현(4a)의 타겟 영역 데이터(18)를 수신할 수 있는 수신기(17)를 도시한 것이다. 타겟 영역 이미지 데이터(18)는 이미지 인터프리터(13)에 보내진다. 액세싱 유닛(12)은 예를 들면 내부 메모리(19), 혹은 외부 메모리(20) 혹은 인터넷(21)으로부터의, 미리 규정된 템플릿들에 액세싱할 수 있다. 이상적으로, 액세싱 유닛(12)은 외부 데이터(20)에 액세싱할 수 있게 하여주는 다수의 인터페이스들을 구비하는데, 예를 들면 사용자는 플로피 디스크, 혹은 CD 혹은 DVD와 같은 메모리 매체(20)에 저장된 미리 규정된 템플릿들을 제공할 수도 있을 것이다. 템플릿들은 예를 들면 제어 유닛(16)에 대한 훈련 세션에서 -이 경우 사용자는 템플릿 상의 특정의 영역들간의 상관을 특정 함수들로 특정한다- 사용자에 의해 구성될 수도 있다.
이미지 인터프리터(13)는 사용자에 의해 선택된 옵션을 판정하기 위해서 타겟 영역 이미지들(18)을 미리 규정된 템플릿들과 비교하는 컴퓨터 비전 알고리즘들을 이용한다. 선택된 옵션에 관한 정보는 다이알로그 제어기(10)에 보내지며, 이 다이알로그 제어기(10)는 예를 들면 선택된 채널로 전환시키는 옵션과 연관된 기능을 수행하게 디바이스(1)에 지시하게 동작하며, 또한 예를 들면 다른 메뉴 레벨을 보이기 위해 시각적 표현(4a)을 업데이트하거나 시각적 표현(4a)을 비활성화하는 시간 표현 제어기(9)에 지시한다.
도 5는 제어 유닛(16)에 연결된 다수의 소비자 전자 디바이스들(1a, 1b , 1c)를 도시한 것이다. 디바이스들(1a, 1b , 1c)은 이들이 제시하는 옵션들을 사용자에게 시각적으로 표현하는 다른 수단을 모사한다. 디바이스(1a)는 예를 들면 텔레비전이며 이의 사용자 옵션들을 자신의 스크린(4a)에 디스플레이한다. 사용자는 텔레비전 스크린(4a)상에 디스플레이된 옵션들, 예를 들면 채널들을 바꾸는 것, 스피커 볼륨을 바꾸는 것, 비디오텍스트를 보는 것 등을 포인팅 디바이스가 조준할 수 있다. 디바이스들(1b, 1c), 예를 들면 DVD 플레이어 혹은 VCR의 전면은 이들 디바이스들에 대한 사용자 옵션들을 디스플레이하며 시각적 표현들(4b 및 4c)로서 사용된다.
여기서, 사용자는 예를 들면 디바이스 내 들어있는 DVD 혹은 비디오 카세트의 고속감기를 위해서 Ib 혹은 Ic 중 하나를 포인팅 디바이스가 조준할 수 있다.
다른 시각적 표현(4e)이 TV 프로그램 가이드(Ie) 형태로 도시되었다. 사용자는 원하는 프로그램을 선택하기 위해 프로그램 가이드(4e)의 페이지들에 포인팅 디바이스를 조준할 수 있다. 그러면, 제어 유닛(16)은 이에 따라 예를 들면 프로그램이 이미 작동하고 있을 경우 적합한 채널로 전환하라는 명령들을 텔레비전(1a)에 발행함으로써 동작한다. 프로그램이 나중에 시작한다면, 제어 유닛(16)은 예를 들면 프로그램이 VCR(1c)에 의해 나중에 기록할 것인지에 대해 텔레비전 스크린(4a) 상에 적합한 프롬프트들을 디스플레이할 수도 있을 것이다. 이미지 해석 소프트웨어와 TV 가이드 포맷간에 항시 호환성이 있기 위해서, 소프트웨어는 정기적으로 혹은 필요할 때 인터넷(21)으로부터 최신 버전들을 다운로드받음으로써 업데이트될 수 있다.
비머(beamer) 혹은 프로젝터(15)는 1a, 1b, 1c 중 하나 이상을 1e에 혹은 도시되지 않은 다른 디바이스와 연관될 수도 있을 이미지 백드롭 형태로 다른 시각적 표현(4d)을 벽 혹은 이외 적합한 표면에 디스플레이한다. 포인팅 디바이스로부터 송신된 시각적 표현들(4e) 중 어느 하나의 타겟 영역들의 이미지들(도시없음)은 제어 유닛(16)에 의해 수신되고 시각적 표현들(4a, 4b, 4c, 4d, 4e)의 미리 규정된 템플릿들과 비교된다. 미리 규정된 템플릿들은 제어 유닛 내에 저장될 수 있다. 예를 들면, 디바이스들(1b, 1c)에 대한 미리 규정된 템플릿들은 이러한 디바이스의 전면이 정적 상태에 머물러 있기 때문에, 제어 유닛에 한 차례 저장될 수 있다. 텔레비전(1a)과 같은 디바이스에 대한 시각적 표현을 위한 템플릿들은 간헐적으로 변경될 수도 있는데, 예를 들면 메뉴 구동방식 조작을 커스터마이즈하기 위해 디바이스를 사용자가 프로그램하는 것이 가능할 수도 있을 것이므로, 메뉴 레벨들 및 이들의 대응하는 템플릿들은 상이한 외양을 취할 수도 있을 것이다. TV 프로그램 가이드를 위한 템플릿들은 프로그램 가이드의 매 발행에 의해 제어 유닛에 의해 업데이트된다. 이들 템플릿들은 적합한 인터페이스에 의해 인터넷(21)으로부터 다운로드된다. 제어 유닛(16)은 시각적 표현들(4a, 4b, 4c, 4d) 중 어느 것을 타겟으로 하였는지, 및 어떤 옵션이 선택되었는지를 판정한다. 그러면, 제어 유닛은 요청된 기능을 수행하기 위해서 디바이스들에 적합한 명령들을 발행한다.
도 6은 포인팅 디바이스(2)에 의해 발생된 타겟 영역 이미지(5) 및 시각적 표현(4a)에 대한 템플릿을 개략적으로 나타낸 것이다. 포인팅 디바이스는 어떤 거리 및 비스듬한 각도에서 시각적 표현을 조준하고 있어, 시각적 표현(4a)에서 요소들(M1, M2, M3)의 스케일 및 원근은 타겟 영역 이미지(5)에서 왜곡되어 보인다. 사용자에 의해 선택된 옵션을 판정하기 위해서, 이 실시예에서 시각적 표현(4a)에서 포인팅 디바이스(2)의 길이 방향 축의 교차점(PT)을 찾는다. 선택된 옵션을 판정하기 위해서 교차점(PT)에 대응하는 템플릿 내 점을 찾을 수 있다. 이를 위해서, 에지 코너 검출방법들을 사용한 컴퓨터 비전 알고리즘들을 적용하여 시각적 표현(4a)의 템플릿[(xa',ya'), (xb',yb'), (xc',yc')] 내 점들에 대응하는 타겟 영역 이미지 내 점들[(xa, ya), (xb, yb), (xc, yc)]을 찾는다.
각 점은 벡터로서 표현될 수 있는데, 예를 들면 점(xa, ya)은
Figure 112006042332824-pct00001
로서 표현될 수 있다. 다음 단계로서, 변환함수 Tλ를 전개하여 타겟 영역 이미지를 템플릿에 매핑한다:
Figure 112006042332824-pct00002
여기서 벡터
Figure 712012001846619-pct00003
는 타겟 영역 이미지 내 좌표 쌍(xi, yi)을 나타내고 벡터
Figure 712012001846619-pct00004
는 템플릿 내 대응하는 좌표 쌍(xi', yi')을 나타낸다. 시각적 표현(4a)에 관하여 포인팅 디바이스(2)의 위치 및 애스펙트를 판정하기 위해서, 함수에 대한 가장 비용효율적 해를 제공하는 이미지의 회전 및 이동을 위한 파라미터들을 포함하는 파라미터 세트 λ를 적용할 수 있다. 컴퓨터 비전 알고리즘들은 포인팅 디바이스(2) 내 카메라(3)가 고정되어 있고 포인팅 동작 방향으로 "본다"는 사실을 이용한다. 다음 단계는 시각적 표현(4a)의 평면에서 포인팅 방향(D)으로 포인팅 디바이스(2)의 길이 방향 축의 교차점을 계산하는 것이다. 이 점은 타겟 영역 이미지(PT)의 중심이 되도록 취해질 수도 있고, 혹은 디바이스가 레이저 포인터를 구비하고 있다면, 레이저 점(PL)이 대신으로 사용될 수 있다. 일단 교차점의 좌표들이 계산되었으면, 시각적 표현(4a)의 템플릿 내에서 이 점을 찾는 것은 간단한 것이고, 따라서 사용자가 선택한 옵션을 판정할 수 있다.
본 발명이 바람직한 실시예 형태 및 이의 변형예 형태로 개시되었지만, 본 발명의 범위 내에서 많은 추가적 수정 및 변형들이 행해질 수도 있을 것임을 알 것이다. 원격 제어 포인팅 디바이스는 가정에서 혹은 비즈니스 프리젠테이션을 통한 네비게이션을 위한 만능 사용자 인터페이스 디바이스로서 사용될 수 있다. 요컨대, 사용자의 의도가 포인팅에 의해 표현될 수 있을 때는 언제든 이점이 있으며, 이것 은 근본적으로 어떠한 종류의 사용자 인터페이스에 대해서도 사용될 수 있음을 의미한다. 이의 소형 폼 팩터 및 이의 편리하고 직관적 사용은 이러한 간단한 포인팅 디바이스를 강력한 만능 원격 제어기로 승격시킬 수 있다. 복수의 디바이스들을 제어하는데 사용되는 능력으로, 디바이스의 사용자 인터페이스 옵션들의 개인화를 할 수 있게 하고 또한 디바이스들의 콘텐츠 아이템들에 액세스를 제공하므로 강력한 도구로 만든다. 펜 형태에 대한 대안으로서, 포인팅 디바이스는 예를 들면 카메라가 내장된 PDA(personal digital assistant), 혹은 카메라가 내장된 이동전화일 수도 있을 것이다. 포인팅 디바이스는 그 외 통상적인 원격 제어의 부가기능들, 예를 들면, 긴 리스트의 항목들을 빠르게 스크롤하거나, 제어할 디바이스의 콘텐츠 항목들에 직접적인 액세스를 위한 음성제어와 같은 전용의 기능들을 수행하기 위한 추가의 버튼들이 조합될 수도 있을 것이다.
포인팅 디바이스의 유용성은 소비자 전자 디바이스들의 제어로 제한할 필요는 없으며, 예를 들면, 의료환경 내에서, 혹은 가정에서, 혹은 사무실 환경에서, 혹은 산업에서 똑같이 적용될 수 있다. 예를 들면, 가정 환경에서, 이러한 포인팅 디바이스는 제어 유닛에 의해 제어될 수 있는 거의 임의의 전기제품, 예를 들면, 세탁기, 쿠커, 난방기구, 조명기구를 제어하는데 사용될 수도 있을 것이다. 이러한 포인팅 디바이스는 장애가 있거나 이동에 제약이 있어 기기들에 도달할 수 없거나 이들을 일상적으로 조작할 수 없는 사용자들에게 상당히 용이하게 생활하게 할 수도 있을 것이다.
명료하게 하기 위해서, 본원에서 단수표현의 사용은 복수를 배제하지 않으며, "포함하다"라는 것은 다른 단계들 혹은 요소들을 배제하는 것은 아니다. "유닛"은, 단일의 엔티티로서 명백하게 기술되지 않는 한, 다수의 블록들 혹은 디바이스들을 포함할 수 있다.

Claims (21)

  1. 다수의 사용자 옵션들을 갖는 디바이스(1a, 1b, 1c)의 제어를 위한 방법에 있어서:
    - 원하는 옵션을 선택하기 위해 카메라(3)를 포함하는 포인팅 디바이스(2)가 상기 사용자 옵션들의 시각적 표현(4a, 4b, 4c, 4d, 4e)에 조준(aiming)되고;
    - 상기 포인팅 디바이스(2)에 의해 조준된 타겟 영역(6)의 이미지(5)가 생성되고, 상기 타겟 영역(6)은 상기 선택된 옵션의 상기 시각적 표현의 적어도 일부를 포함하는, 상기 디바이스 제어 방법에 있어서;
    - 상기 선택된 옵션을 판정하기 위해 상기 타겟 영역의 이미지(5)를 상기 시각적 표현(4a, 4b, 4c, 4d, 4e)의 미리 규정된 템플릿(template)과 비교하는 단계를 포함하는, 디바이스 제어 방법.
  2. 제 1 항에 있어서,
    상기 포인팅 디바이스(2)에 부착된 광의 집중된 빔원(7)은 상기 포인팅 디바이스(2)가 조준되는 상기 시각적 표현(4a, 4b, 4c, 4d, 4e) 내의 광점(PL)을 상기 사용자(8)에게 보여주는, 디바이스 제어 방법.
  3. 제 1 항 또는 제 2 항에 있어서,
    상기 선택된 옵션은 상기 사용자(8)가 상기 포인팅 디바이스(2)를 조준한 상기 시각적 표현(4a, 4b, 4c, 4d, 4e) 내의 타겟 포인트에 대응하는 상기 템플릿 내의 포인트를 찾아냄으로써 판정되는, 디바이스 제어 방법.
  4. 제 3 항에 있어서,
    상기 광점(PL)은 상기 타겟 영역 이미지(5) 내에 있으며 상기 타겟 포인트로서 취해지는, 디바이스 제어 방법.
  5. 제 3 항에 있어서,
    상기 타겟 영역 이미지(5) 내의 고정 포인트(PT)가 상기 타겟 포인트로서 취해지는, 디바이스 제어 방법.
  6. 제 1 항 또는 제 2 항에 있어서,
    상기 시각적 표현(4a, 4b, 4c, 4d, 4e) 내의 원하는 옵션에 상기 포인팅 디바이스(2)를 조준하고 상기 포인팅 디바이스(2) 상의 버튼(11)을 누름으로써, 상기 사용자(8)에 의해 상기 원하는 옵션이 선택되는, 디바이스 제어 방법.
  7. 제 1 항 또는 제 2 항에 있어서,
    상기 원하는 옵션은 미리 규정된 패턴으로 상기 시각적 표현(4a, 4b, 4c, 4d, 4e) 상의 상기 포인팅 디바이스(2)를 이동시킴으로써 상기 사용자(8)에 의해 선택되는, 디바이스 제어 방법.
  8. 제 1 항 또는 제 2 항에 있어서,
    상기 타겟 포인트는 컴퓨터 비젼 알고리즘들(computer vision algorithms)을 사용하여 판정되는, 디바이스 제어 방법.
  9. 제 1 항 또는 제 2 항에 있어서,
    상기 타겟 포인트는,
    - 상기 시각적 표현(4a, 4b, 4c, 4d, 4e)의 상기 타겟 이미지(5)에서 구별되는 포인트들을 검출하는 단계;
    - 상기 시각적 표현(4a, 4b, 4c, 4d, 4e)의 상기 템플릿 내 대응하는 포인트들을 판정하는 단계;
    - 상기 타겟 이미지(5) 내의 상기 포인트들을 상기 템플릿 내의 상기 대응하는 포인트들에 매핑하기 위한 변환을 전개하는 단계;
    - 상기 시각적 표현(4a, 4b, 4c, 4d, 4e)에 대한 상기 포인팅 디바이스(2)의 위치 및 애스펙트(aspect)를 판정하기 위해 상기 변환을 사용하는 단계; 및
    - 상기 시각적 표현(4a, 4b, 4c, 4d, 4e)과 상기 포인팅 디바이스(2)의 어떤 축의 교차점을 찾는 단계를 포함하는 방법에 의해 판정되는, 디바이스 제어 방법.
  10. 제 1 항 또는 제 2 항에 있어서,
    상기 디바이스 옵션들(4b, 4c, 4e)의 상기 시각적 표현은 정적 형태(static form)로 제시되는, 디바이스 제어 방법.
  11. 제 1 항 또는 제 2 항에 있어서,
    상기 디바이스 옵션들(4a, 4d)의 상기 시각적 표현은 동적으로 제시되는, 디바이스 제어 방법.
  12. 제 1 항 또는 제 2 항에 있어서,
    제어될 복수의 디바이스들(1a, 1b , 1c)에 대한 사용자 옵션들의 하나 이상의 타겟 영역 이미지들(5)이 생성되고 미리 규정된 템플릿들과 비교되고, 선택된 상기 옵션에 의존하여, 상기 복수의 디바이스들(1a, 1b, 1c) 중 하나 이상이 그에 따라 제어되는, 디바이스 제어 방법.
  13. 디바이스(1a, 1b , 1c)의 제어를 위한 시스템에 있어서:
    - 제어될 상기 디바이스(1a, 1b , 1c)에 대한 사용자 옵션들의 시각적 표현들과 연관된 미리 규정된 템플릿들에 액세싱하기 위한 액세싱 유닛(12);
    - 원하는 옵션을 선택하기 위해 상기 사용자 옵션들의 시각적 표현(4a, 4b, 4c, 4d, 4e)에 조준하기 위한 포인팅 디바이스(2)로서, 상기 선택된 옵션의 상기 시각적 표현(4a, 4b, 4c, 4d, 4e)의 적어도 일부를 포함하는 타겟 영역(6)의 이미지(5)를 생성하는 카메라(3)를 포함하는, 상기 포인팅 디바이스(2); 및
    - 상기 선택된 옵션을 판정하기 위하여 미리 규정된 템플릿 내의 상기 타겟 영역(6)의 포인트 또는 상기 타겟 영역(6)을 찾기 위한 이미지 인터프리터(13)를 포함하는, 디바이스 제어 시스템.
  14. 제 13 항에 있어서,
    디바이스(1a, 1b, 1c)에 할당된 제어 유닛(16)에 상기 이미지들(5)을 송신하기 위한 송신 인터페이스(14)를 포함하는, 디바이스 제어 시스템.
  15. 제 13 항 또는 제 14 항에 있어서,
    제어될 상기 디바이스(1a, 1b , 1c)에 대한 상기 사용자 옵션들의 시각적 표현(4d)을 동적으로 디스플레이하는 디스플레이 유닛(15)을 포함하는, 디바이스 제어 시스템.
  16. 제 13 항 또는 제 14 항에 있어서,
    제어될 상기 디바이스(1a, 1b , 1c)에 대한 상기 사용자 옵션들의 정적 시각적 표현을 생성하기 위한 하드카피 출력 유닛/모듈을 포함하는, 디바이스 제어 시스템.
  17. 상기 포인팅 디바이스(2)가 조준되는 방향(D)으로 타겟 영역(6)의 이미지(5)를 생성하기 위한 카메라(3)를 포함하는, 제 13 항 또는 제 14 항에 따른 디바이스 제어 시스템용 포인팅 디바이스(2).
  18. 제 17 항에 있어서,
    상기 포인팅 디바이스(2)가 조준되는 상기 타겟 영역(6)을 조명하는 광원(7)을 포함하는, 포인팅 디바이스(2).
  19. 세로 방향 축을 따라 연장하는 포인팅 디바이스(2)에 있어서:
    상기 포인팅 디바이스(2)가 조준되는, 상기 포인팅 디바이스(2)의 상기 세로 방향 축에 따라, 방향(D)으로 상기 포인팅 디바이스(2)의 전방에 타겟 영역(6)의 이미지(5)를 카메라(3)가 생성하도록, 상기 포인팅 디바이스(2) 내에 배치된 상기 카메라(3)를 포함하는 포인팅 디바이스(2).
  20. 제어 유닛(16)에 있어서:
    - 포인팅 디바이스(2)로부터 타겟 영역 이미지들(5)을 수신하는 수신기(17)로서, 상기 수신된 타겟 영역 이미지들(5)은 제어될 디바이스(1a, 1b, 1c)에 대한 사용자 옵션들의 선택된 옵션의 시각적 표현의 적어도 일부를 포함하는 상기 수신기(17);
    - 상기 사용자 옵션들의 시각적 표현들(4a, 4b, 4c, 4d, 4e)과 연관된 미리 규정된 템플릿들에 액세싱하는 액세싱 유닛(12); 및
    - 상기 선택된 옵션을 판정하기 위하여 미리 규정된 템플릿 내의 상기 수신된 타겟 영역 이미지들(5)의 상기 타겟 영역(5)의 포인트 또는 상기 타겟 영역(5)을 찾기 위한 이미지 인터프리터(13)를 포함하는, 제어 유닛(16).
  21. 제 20 항에 따른 제어 유닛(16)을 포함하는 디바이스(1a).
KR1020067012004A 2003-12-18 2004-12-10 디바이스 제어를 위한 방법 및 시스템 KR101163084B1 (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP03104808 2003-12-18
EP03104808.5 2003-12-18
PCT/IB2004/052761 WO2005062273A1 (en) 2003-12-18 2004-12-10 Method and system for control of a device

Publications (2)

Publication Number Publication Date
KR20060107811A KR20060107811A (ko) 2006-10-16
KR101163084B1 true KR101163084B1 (ko) 2012-07-06

Family

ID=34707263

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020067012004A KR101163084B1 (ko) 2003-12-18 2004-12-10 디바이스 제어를 위한 방법 및 시스템

Country Status (10)

Country Link
US (1) US7869618B2 (ko)
EP (1) EP1697911B1 (ko)
JP (1) JP2007519989A (ko)
KR (1) KR101163084B1 (ko)
CN (1) CN1898708B (ko)
BR (1) BRPI0417655A (ko)
MX (1) MXPA06006736A (ko)
RU (1) RU2006121437A (ko)
TW (1) TWI358685B (ko)
WO (1) WO2005062273A1 (ko)

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006018775A2 (en) * 2004-08-12 2006-02-23 Philips Intellectual Property & Standards Gmbh Method and system for controlling a display
US8456534B2 (en) 2004-10-25 2013-06-04 I-Interactive Llc Multi-directional remote control system and method
US8760522B2 (en) 2005-10-21 2014-06-24 I-Interactive Llc Multi-directional remote control system and method
US7864159B2 (en) 2005-01-12 2011-01-04 Thinkoptics, Inc. Handheld vision based absolute pointing system
US9465450B2 (en) 2005-06-30 2016-10-11 Koninklijke Philips N.V. Method of controlling a system
RU2421776C2 (ru) 2005-07-11 2011-06-20 Конинклейке Филипс Электроникс Н.В. Способ управления позицией контрольной точки в командной области и способ управления устройством
US8708822B2 (en) 2005-09-01 2014-04-29 Nintendo Co., Ltd. Information processing system and program
JP4907129B2 (ja) * 2005-09-01 2012-03-28 任天堂株式会社 情報処理システムおよびプログラム
JP4773170B2 (ja) 2005-09-14 2011-09-14 任天堂株式会社 ゲームプログラムおよびゲームシステム
DE102006015045A1 (de) * 2006-03-31 2007-10-04 Siemens Ag Fernbedienung, Gebäudesteuerungssystem und Verfahren zur Gebäudesteuerung
US8913003B2 (en) * 2006-07-17 2014-12-16 Thinkoptics, Inc. Free-space multi-dimensional absolute pointer using a projection marker system
US8438480B2 (en) * 2007-03-26 2013-05-07 Avago Technologies General Ip (Singapore) Pte. Ltd. System and method for tracking an input device using a display screen in captured frames of image data
US9176598B2 (en) * 2007-05-08 2015-11-03 Thinkoptics, Inc. Free-space multi-dimensional absolute pointer with improved performance
US20090285443A1 (en) * 2008-05-15 2009-11-19 Sony Ericsson Mobile Communications Ab Remote Control Based on Image Recognition
EP2362299B1 (en) * 2008-11-28 2014-05-07 Fujitsu Limited Control device, control system, control method, and computer program
CN102422306B (zh) 2009-04-08 2015-09-09 高通股份有限公司 增强型手持式屏幕感测指针
WO2011079208A1 (en) * 2009-12-24 2011-06-30 Flir Systems, Inc. Cameras with on-board reporting capabilities
US8577146B2 (en) * 2010-04-09 2013-11-05 Sony Corporation Methods and devices that use an image-captured pointer for selecting a portion of a captured image
US8717289B2 (en) * 2010-06-22 2014-05-06 Hsni Llc System and method for integrating an electronic pointing device into digital image data
CN103135791A (zh) * 2011-12-02 2013-06-05 捷达世软件(深圳)有限公司 电子装置控制系统及方法
US9128562B2 (en) 2012-05-25 2015-09-08 Sony Corporation Terminal apparatus, display system, display method, and recording medium for switching between pointer mode and touch-panel mode based on handheld activation
JP6476117B2 (ja) * 2012-09-21 2019-02-27 ホーム コントロール シンガポール プライベート リミテッド リモート制御出力モードを有するハンドヘルド情報処理デバイス
TWI526879B (zh) * 2015-01-30 2016-03-21 原相科技股份有限公司 互動系統、遙控器及其運作方法
CN114071095A (zh) 2020-07-30 2022-02-18 奥图码科技股份有限公司 投影设备以及投影影像的直接设定方法
TWI781596B (zh) * 2021-04-26 2022-10-21 中強光電股份有限公司 投影機及其操作方法
US11617017B2 (en) * 2021-06-30 2023-03-28 Rovi Guides, Inc. Systems and methods of presenting video overlays

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030030622A1 (en) * 2001-04-18 2003-02-13 Jani Vaarala Presentation of images
WO2003056505A1 (en) * 2001-12-21 2003-07-10 British Telecommunications Public Limited Company Device and method for calculating a location on a display

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5045843B1 (en) 1988-12-06 1996-07-16 Selectech Ltd Optical pointing device
JPH07271507A (ja) * 1994-03-30 1995-10-20 Nippon Telegr & Teleph Corp <Ntt> 情報入力方法とその装置および情報提供システム
JP3517482B2 (ja) * 1995-06-08 2004-04-12 キヤノン株式会社 座標検出装置及び方法
CN1175345C (zh) * 1999-03-31 2004-11-10 皇家菲利浦电子有限公司 用于显示装置的遥控器
JP2000338599A (ja) 1999-05-28 2000-12-08 Univ De Liege 投影表示システム用光学装置およびホログラフィックミラーの製造方法。
US6275214B1 (en) * 1999-07-06 2001-08-14 Karl C. Hansen Computer presentation system and method with optical tracking of wireless pointer
JP2001155139A (ja) * 1999-11-30 2001-06-08 Hitachi Ltd カメラ付きペン型入力装置用記憶媒体
AU2001227797A1 (en) * 2000-01-10 2001-07-24 Ic Tech, Inc. Method and system for interacting with a display
JP3811025B2 (ja) 2001-07-03 2006-08-16 株式会社日立製作所 ネットワーク・システム
JP2003099713A (ja) 2001-09-25 2003-04-04 Ricoh Co Ltd 手書き情報処理装置、手書き情報処理方法、手書き情報処理プログラム、そのプログラムが記録された記録媒体、及び電子黒板
US7129986B2 (en) * 2002-01-23 2006-10-31 Guan-Wu Wang Wireless camera system
PT1573498E (pt) * 2002-11-20 2012-03-22 Koninkl Philips Electronics Nv Sistema de interface de utilizador com base num dispositivo de apontador
US20060176274A1 (en) * 2003-02-25 2006-08-10 Chiu-Hao Cheng Photographic type pointer positioning device
CN1258135C (zh) * 2003-03-19 2006-05-31 松下电器产业株式会社 基于视频画面检测的遥控装置及其方法
US20040228504A1 (en) * 2003-05-13 2004-11-18 Viswis, Inc. Method and apparatus for processing image

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030030622A1 (en) * 2001-04-18 2003-02-13 Jani Vaarala Presentation of images
WO2003056505A1 (en) * 2001-12-21 2003-07-10 British Telecommunications Public Limited Company Device and method for calculating a location on a display

Also Published As

Publication number Publication date
US20090245568A1 (en) 2009-10-01
JP2007519989A (ja) 2007-07-19
MXPA06006736A (es) 2006-08-31
CN1898708A (zh) 2007-01-17
CN1898708B (zh) 2012-01-11
BRPI0417655A (pt) 2007-04-03
RU2006121437A (ru) 2007-12-27
TW200535743A (en) 2005-11-01
US7869618B2 (en) 2011-01-11
KR20060107811A (ko) 2006-10-16
EP1697911A1 (en) 2006-09-06
TWI358685B (en) 2012-02-21
WO2005062273A1 (en) 2005-07-07
EP1697911B1 (en) 2012-10-17

Similar Documents

Publication Publication Date Title
KR101163084B1 (ko) 디바이스 제어를 위한 방법 및 시스템
US8994656B2 (en) Method of controlling a control point position on a command area and method for control of a device
JP5214968B2 (ja) オブジェクト発見方法及びシステム、装置制御方法及びシステム及びインターフェース、ポインティング装置
KR19980018618A (ko) 리모트컨트롤장치
US20080094354A1 (en) Pointing device and method for item location and/or selection assistance
KR101795204B1 (ko) 정보 처리 장치 및 기록 매체
JP2008508587A (ja) 機器の制御方法
KR20150104711A (ko) 디스플레이 장치 및 그의 동작 방법
US20080249777A1 (en) Method And System For Control Of An Application
US8451224B2 (en) Mapping detected movement of an interference pattern of a coherent light beam to cursor movement to effect navigation of a user interface
US9201584B2 (en) Audio/visual device user interface with tactile feedback
KR102360628B1 (ko) 영상 투사 장치 및 그의 동작 방법
KR20080017194A (ko) 무선 마우스 및 그의 구동 방법

Legal Events

Date Code Title Description
A201 Request for examination
AMND Amendment
E902 Notification of reason for refusal
AMND Amendment
E601 Decision to refuse application
AMND Amendment
J201 Request for trial against refusal decision
B701 Decision to grant
GRNT Written decision to grant
LAPS Lapse due to unpaid annual fee