KR20140107918A - 촬영부를 이용한 원격 제어 시스템 및 방법 - Google Patents

촬영부를 이용한 원격 제어 시스템 및 방법 Download PDF

Info

Publication number
KR20140107918A
KR20140107918A KR1020130022129A KR20130022129A KR20140107918A KR 20140107918 A KR20140107918 A KR 20140107918A KR 1020130022129 A KR1020130022129 A KR 1020130022129A KR 20130022129 A KR20130022129 A KR 20130022129A KR 20140107918 A KR20140107918 A KR 20140107918A
Authority
KR
South Korea
Prior art keywords
remote control
display device
lines
screen
image
Prior art date
Application number
KR1020130022129A
Other languages
English (en)
Other versions
KR101439178B1 (ko
Inventor
송영재
Original Assignee
주식회사 도담시스템스
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 도담시스템스 filed Critical 주식회사 도담시스템스
Priority to KR1020130022129A priority Critical patent/KR101439178B1/ko
Publication of KR20140107918A publication Critical patent/KR20140107918A/ko
Application granted granted Critical
Publication of KR101439178B1 publication Critical patent/KR101439178B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42204—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
    • H04N21/42206—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor characterized by hardware details
    • H04N21/42225—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor characterized by hardware details characterized by types of remote control, e.g. universal remote control
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T3/02—Affine transformations
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42204—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
    • H04N21/42206—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor characterized by hardware details
    • H04N21/42208—Display device provided on the remote control
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223—Cameras
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4227—Providing Remote input by a user located remotely from the client device, e.g. at work

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

본 발명은 촬영부를 이용한 원격 제어 시스템 및 방법에 관한 것으로, 원격 제어 애플리케이션이 실행되면, 구비된 촬영부를 통해 디스플레이 장치에 출력된 영상을 획득하여 표시하고, 상기 표시된 영상에서 라인들을 추출하며, 상기 추출된 라인들을 기초로 상기 디스플레이 장치의 화면을 인식하고, 상기 인식된 화면을 통해 입력된 원격 제어 명령을 상기 디스플레이 장치로 전송하는 원격 제어 장치, 영상을 출력하고, 상기 원격 제어 장치로부터 원격 제어 명령이 수신된 경우, 상기 원격 제어 명령에 해당하는 동작을 수행하는 디스플레이 장치를 포함한다.

Description

촬영부를 이용한 원격 제어 시스템 및 방법{System and Method for remote control using camera}
본 발명은 촬영부를 이용한 원격 제어 시스템 및 방법에 관한 것으로, 보다 상세하게는, 원격 제어 장치가 촬영부를 통해 획득된 디스플레이 장치의 영상에서 라인들을 추출하고, 그 추출된 라인들을 기초로 디스플레이 장치의 화면을 인식하며, 인식된 화면을 통해 원격 제어 명령이 입력된 경우, 원격 제어 명령을 근거리 통신 모듈을 통해 디스플레이 장치로 전송하면, 디스플레이 장치가 원격 제어 명령에 해당하는 동작을 수행하는 촬영부를 이용한 원격 제어 시스템 및 방법에 관한 것이다.
최근 스마트 TV와 같은 디스플레이 장치는 영상을 표시할 뿐만 아니라, 사용자의 편의에 맞춰 다양한 서비스를 제공하고 있다. 예를 들면, 현재 표시되고 있는 영상에 대한 플레이 시간 정보, 제목, 출연진 등 부가적인 내용을 추가로 보여주거나 녹화 여부의 조작, 현재 방송되고 있는 다른 채널에 대한 정보를 보여주는 등 다양한 서비스를 제공하고 있다.
이처럼 디스플레이 장치가 다양한 서비스를 제공할 때, 사용자는 특정 서비스를 선택하기 위해 리모콘과 같은 원격 제어 장치를 이용하고, 디스플레이 장치와 원격 제어 장치는 상호 작용성(인터랙티브성)이 요구되고 있다.
이에 따라, 디스플레이 장치의 제어가 갈수록 복잡해지고, 리모콘 장치들의 제품 크기가 커지며, 가격이 상승하게 되었다. 특히, 스마트 TV를 학교 수업 등에 적용하기 위해서는 원격 제어 장치로서 기존의 리모콘 이외에 컴퓨터의 키보드, 마우스, 키패드, 터치스크린 등을 사용할 수 있어야, 효과적이면서 효율적인 수업전개가 가능하다.
그러나, 학교와 같은 곳에서는 투자를 하여 가능하나, 가정과 같은 곳에서는 장소 및 투자의 문제가 수반되어 디스플레이 장치의 양방향 상호작용성의 장점을 살리기 어려운 단점이 있다.
또한, 다수의 사용자가 하나의 디스플레이 장치를 동시에 제어할 수 있는 방법이 없었다. 즉, 1:N 사용자라고 가정했을 때, 모든 사용자에게 리모콘을 제공할 수 없으며, 특히 공공시설의 스마트 TV인 경우, 원격에서 스마트 TV를 제어할 수 있는 방법이 전혀 없었다.
또한, 원격 제어 장치는 특징점 또는 인공 마크의 인식을 통해 디스플레이 장치의 화면을 인식하였는데, 이 방법은 과도한 연산 처리량을 요구하고 있어, 연산 능력이 떨어지는 모바일 장치에서 실시간으로 인식하기에는 어려운 단점이 있다.
한국공개특허 제10-2012-0019674호, 발명의 명칭 '디스플레이 시스템 원격제어 방법'
본 발명의 목적은 사용자 단말에 구비된 촬영부를 통해 획득된 디스플레이 장치 영상에서 라인들을 추출하고, 그 추출된 라인들을 기초로 디스플레이 장치의 화면을 인식하는 촬영부를 이용한 원격 제어 시스템 및 방법을 제공하는데 있다.
본 발명의 다른 목적은 공공 장소에 설치된 디스플레이 장치를 다수의 사용자가 자신의 단말을 이용하여 원격에서 제어할 수 있는 촬영부를 이용한 원격 제어 시스템 및 방법을 제공하는데 있다.
본 발명의 또 다른 목적은 사용자 단말에 구비된 촬영부를 통해 디스플레이 장치에 출력된 영상을 촬영하고, 그 촬영된 영상에서 라인들을 추출하며, 그 추출된 라인들을 기초로 디스플레이 장치의 화면을 인식하고, 인식된 디스플레이 장치 화면을 통해 원격에서 디스플레이 장치를 제어할 수 있는 촬영부를 이용한 원격 제어 시스템 및 방법을 제공하는데 있다.
본 발명의 일 측면에 따르면, 원격 제어 애플리케이션이 실행되면, 구비된 촬영부를 통해 디스플레이 장치에 출력된 영상을 획득하여 표시하고, 상기 표시된 영상에서 라인들을 추출하며, 상기 추출된 라인들을 기초로 상기 디스플레이 장치의 화면을 인식하고, 상기 인식된 화면을 통해 입력된 원격 제어 명령을 상기 디스플레이 장치로 전송하는 원격 제어 장치, 영상을 출력하고, 상기 원격 제어 장치로부터 원격 제어 명령이 수신된 경우, 상기 원격 제어 명령에 해당하는 동작을 수행하는 디스플레이 장치를 포함하는 촬영부를 이용한 원격 제어 시스템이 제공된다.
상기 원격 제어 장치는 상기 표시된 영상에서 코너 검출을 수행하여 특징점들을 추출하고, 상기 추출된 특징점들을 연결하여 라인들을 추출한 후, 상기 추출된 라인들 중에서 4개의 접점을 가진 라인들에 의한 영역을 디스플레이 장치의 화면으로 인식할 수 있다.
본 발명의 다른 측면에 따르면, 통신망을 통해 통신하기 위한 통신부, 촬영부, 표시부, 상기 촬영부를 구동시켜 디스플레이 장치에 출력된 영상을 획득 및 표시부에 표시하고, 상기 표시된 영상에서 라인들을 추출하며, 상기 추출된 라인들 중에서 4개의 접점을 가진 라인들에 의한 영역을 디스플레이 장치의 화면으로 인식하는 제어부를 포함하는 원격 제어 장치가 제공된다.
상기 원격 제어 장치는 상기 인식된 화면을 통해 사용자로부터 원격 제어 명령을 입력받는 제어 명령 입력부를 더 포함하고, 상기 제어부는 상기 원격 제어 명령을 상기 통신부를 통해 상기 디스플레이 장치로 전송할 수 있다.
상기 제어부는 상기 표시된 영상에서 코너 검출을 수행하여 특징점들을 추출하고, 상기 추출된 특징점들을 연결하여 라인들을 추출한 후, 상기 추출된 라인들 중에서 4개의 접점을 가진 라인들에 의한 영역을 디스플레이 장치의 화면으로 인식할 수 있다.
상기 제어부는 디스플레이 장치의 화면 움직임이 감지된 경우, 아핀 변환을 이용한 움직임 보상을 통해 상기 디스플레이 장치의 화면을 변형 처리할 수 있다.
본 발명의 또 다른 측면에 따르면, (a) 원격 제어 장치는 원격 제어 애플리케이션이 실행된 경우, 구비된 촬영부를 구동시키고, 상기 촬영부를 통해 디스플레이 장치에 출력된 영상을 획득하여 터치 스크린상에 표시하는 단계, (b) 상기 원격 제어 장치는 상기 표시된 영상에서 라인들을 추출하고, 상기 추출된 라인들을 기초로 상기 디스플레이 장치의 화면을 인식하는 단계, (c) 상기 원격 제어 장치는 상기 인식된 화면에서 터치 입력이 감지된 경우, 상기 터치 입력의 좌표 및 제스처 타입을 포함하는 원격 제어 명령을 상기 디스플레이 장치로 전송하는 단계, (d) 상기 디스플레이 장치는 원격 제어 장치로부터 수신된 원격 제어 명령에 해당하는 동작을 수행하는 단계를 포함하는 촬영부를 이용한 원격 제어 방법이 제공된다.
상기 (b) 단계는, 상기 표시된 영상에서 코너 검출을 수행하여 특징점들을 추출하는 단계, 상기 추출된 특징점들을 연결하여 라인들을 추출하는 단계, 상기 추출된 라인들 중에서 4개의 접점을 가진 라인들에 의한 영역을 디스플레이 장치의 화면으로 인식하는 단계를 포함할 수 있다.
본 발명의 또 다른 측면에 따르면, 원격 제어 장치가 디스플레이 장치를 원격 제어하기 위한 방법에 있어서, 구비된 촬영부를 구동시켜 상기 디스플레이 장치에 출력된 영상을 획득 및 표시하는 단계, 상기 표시된 영상에서 코너 검출을 수행하여 특징점들을 추출하는 단계, 상기 추출된 특징점들을 연결하여 라인들을 추출하는 단계, 상기 추출된 라인들 중에서 4개의 접점을 가진 라인들에 의한 영역을 디스플레이 장치의 화면으로 인식하는 단계를 포함하는 촬영부를 이용한 원격 제어 방법이 제공된다.
상기 촬영부를 이용한 원격 제어 방법은 상기 디스플레이 장치의 화면 움직임이 감지된 경우, 아핀 변환을 이용한 움직임 보상을 통해 상기 디스플레이 장치의 화면을 변형 처리하는 단계를 더 포함할 수 있다.
또한, 촬영부를 이용한 원격 제어 방법은 상기 인식된 화면에서 터치 입력이 감지된 경우, 상기 터치 입력의 좌표 및 제스처 타입을 포함하는 원격 제어 명령을 상기 디스플레이 장치로 전송하는 단계를 더 포함할 수 있다.
본 발명에 따르면, 사용자 단말에 구비된 촬영부를 통해 촬영된 디스플레이 장치 영상에서 라인들을 추출하고, 그 추출된 라인들을 기초로 디스플레이 장치의 화면을 인식함으로써, 디스플레이 장치 화면 인식을 위한 연산 처리량이 줄어들어, 연산 능력이 떨어지는 모바일 장치도 실시간 빠른 속도로 디스플레이 장치 화면을 인식할 수 있다.
또한, 공공 장소에 설치된 디스플레이 장치를 다수의 사용자가 자신의 단말을 이용하여 원격에서 제어할 수 있다.
또한, 사용자 단말에 구비된 촬영부를 통해 디스플레이 장치에 출력된 영상을 촬영하고, 촬영된 영상에서 라인들을 추출하며, 추출된 라인들을 기초로 디스플레이 장치 화면을 인식하고, 인식된 디스플레이 장치 화면을 통해 원격에서 디스플레이 장치를 제어할 수 있으므로, 촬영부와 근거리 통신 모듈을 구비한 단말을 소유한 사용자는 다양한 장소에 설치된 디스플레이 장치에서 제공하는 서비스를 이용할 수 있다.
도 1은 본 발명의 실시예에 따른 촬영부를 이용한 원격 제어 시스템을 나타낸 도면.
도 2는 본 발명의 실시예에 따른 원격 제어 장치의 구성을 개략적으로 나타낸 블럭도.
도 3은 본 발명의 실시예에 따른 디스플레이 장치의 구성을 개략적으로 나타낸 블럭도.
도 4는 본 발명의 실시예에 따른 터치 스크린이 구비된 원격 제어 장치가 디스플레이 장치를 원격 제어하는 방법을 나타낸 도면.
도 5는 본 발명의 실시예에 따른 원격 제어 장치가 디스플레이 장치의 화면을 인식하는 방법을 나타낸 흐름도.
본 발명의 전술한 목적과 기술적 구성 및 그에 따른 작용 효과에 관한 자세한 사항은 본 발명의 명세서에 첨부된 도면에 의거한 이하 상세한 설명에 의해 보다 명확하게 이해될 것이다.
도 1은 본 발명의 실시예에 따른 촬영부를 이용한 원격 제어 시스템을 나타낸 도면이다.
도 1을 참조하면, 촬영부를 이용한 원격 제어 시스템은 사용자로부터 원격 제어 명령을 입력받는 원격 제어 장치(100), 원격 제어 장치(100)로부터 전송된 원격 제어 명령에 해당하는 동작을 수행하는 디스플레이 장치(200)를 포함한다.
원격 제어 장치(100)는 원격 제어 애플리케이션이 실행되면, 구비된 촬영부를 통해 디스플레이 장치(200)에 출력된 영상을 획득하여 표시한다. 원격 제어 장치(100)는 표시된 영상에서 라인들을 추출하고, 추출된 라인들을 기초로 디스플레이 장치(200)의 화면을 인식하며, 인식된 화면을 통해 입력된 원격 제어 명령을 디스플레이 장치(200)로 전송한다. 여기서, 영상은 동영상, 정지 영상 등을 포함할 수 있다.
설명의 편의를 위해 원격 제어 장치(100)가 터치 스크린을 구비한 경우를 예로 하여 설명하기로 한다.
원격 제어 장치(100)는 터치 스크린이 구비된 경우, 촬영부를 통해 획득된 영상을 터치 스크린상에 표시하고, 그 표시된 영상에서 코너 검출을 수행하여 특징점들을 추출한다. 그런 후, 원격 제어 장치(100)는 추출된 특징점들을 연결하여 라인들을 추출하고, 추출된 라인들 중에서 4개의 접점을 가진 라인들에 의한 영역을 디스플레이 장치(200)의 화면으로 인식한다. 추출된 특징점들 중에서 특징점들을 연결하면 직선 방정식을 만족하는 특징점들이 존재하는데, 원격 제어 장치(100)는 그 특징점들을 연결하여 라인을 추출할 수 있다.
디스플레이 장치(200)의 화면 인식 후, 터치 스크린에서 터치 입력이 감지되면, 원격 제어 장치(100)는 터치 입력의 좌표 및 제스처 타입을 포함하는 원격 제어 명령을 디스플레이 장치(200)로 전송한다.
따라서, 사용자가 터치 스크린상의 한 지점을 터치하면, 원격 제어 장치(100)는 터치한 위치의 좌표를 포함하는 원격 제어 명령을 디스플레이 장치(200)로 송신하고, 디스플레이 장치(200)는 원격 제어 명령에 포함된 좌표에 해당하는 영상의 위치를 클릭한 것으로 인식하여 해당하는 동작을 수행할 수 있다. 또한, 사용자가 터치 스크린 상을 드래그하면, 원격 제어 장치(100)는 드래그한 좌표, 즉 터치의 이동 경로 좌표를 포함하는 원격 제어 명령을 디스플레이 장치(200)로 송신하고, 디스플레이 장치(200)는 그 좌표를 기반으로 표시부 상에서 커서를 이동시킬 수 있다. 마찬가지 방식으로 원격 제어 장치(100)를 통해 드래그 앤 드랍, 플리킹 등 임의의 제스처에 따른 명령을 디스플레이 장치(200)로 송신할 수 있다.
원격 제어 장치(100)는 터치 스크린에서 검출된 입력에 대한 터치, 드래그, 드래그 앤 드랍, 플리킹 등의 제스처 타입과 해당 좌표를 포함하는 원격 제어 명령을 디스플레이 장치(200)로 전송함으로써, 디스플레이 장치(200)가 그에 따른 명령을 수행하도록 할 수 있다. 이때, 원격 제어 장치(100)는 원격 제어 명령을 와이파이, 블루투스, 지그비, 적외선 등의 근거리 통신 기능을 통해 디스플레이 장치(200)로 전송할 수 있다.
여기에서는 원격 제어 명령을 입력하기 위한 수단을 터치 스크린으로 하여 설명하였으나, 조이스틱, 키 버튼, 마우스 등 다양하게 구성할 수 있다.
이러한 원격 제어 장치(100)는 근거리 통신 기능을 탑재한 사용자 장치라면 어느 것이라도 적용될 수 있다. 예를 들면, 노트북, 무선통신 단말, 스마트폰(Smart phone), PMP(Portable Media Player), PDA(Personal Digital Assistant), 타블렛 PC(Tablet PC) 등 다양한 장치가 될 수 있다.
원격 제어 장치(100)에 대한 상세한 설명은 도 2를 참조하기로 한다.
디스플레이 장치(200)는 영상을 출력하고, 원격 제어 장치(100)로부터 전송된 원격 제어 명령에 해당하는 동작을 수행한다. 즉, 디스플레이 장치(200)는 원격 제어 명령에 포함된 좌표 및 제스처 타입을 기반으로 커서를 이동하거나 클릭 또는 드래그 명령을 수행한다. 이러한 디스플레이 장치(200)는 스마트 TV, 개인용 컴퓨터, 노트북, 전광판 등을 포함할 수 있고, 집과 같은 실내, 타임 스퀘어 등과 같은 공공장소 등 다양한 장소에 설치될 수 있다. 예를 들어, 디스플레이 장치(200)가 공공장소에 설치된 전광판인 경우, 촬영부가 탑재된 장치를 가진 사용자들은 자신의 장치를 이용하여 전광판에 출력된 영상을 촬영하고, 그 촬영된 영상을 통해 원격 제어 명령을 입력하여, 디스플레이 장치(200)를 제어할 수 있다.
디스플레이 장치(200)에 대한 상세한 설명은 도 3을 참조하기로 한다.
원격 제어 장치(100)와 디스플레이 장치(200)는 근거리 통신망을 통해 연결될 수 있다.
상기와 같이 구성된 시스템을 통해 공공 장소에 설치된 디스플레이 장치(200)를 다수의 사용자가 자신의 단말을 이용하여 원격에서 제어할 수 있다.
도 2는 본 발명의 실시예에 따른 원격 제어 장치의 구성을 개략적으로 나타낸 블럭도이다.
도 2를 참조하면, 원격 제어 장치(100)는 통신부(110), 저장부(120), 촬영부(130), 표시부(140), 제어 명령 입력부(150), 제어부(160)를 포함한다.
통신부(110)는 원격 제어 장치(100)와 디스플레이 장치를 통신망을 통해 상호 연결시키는 통신 수단으로서, 예를 들어 WiFi, 블루투스, Zigbee, 적외선 송수신 모듈 등 임의의 근거리 통신 모듈을 포함할 수 있다.
저장부(120)는 원격 제어 장치(100)의 동작에 필요한 프로그램 및 데이터를 저장하는 역할을 수행한다.
저장부(120)는 제어부(160)의 동작을 위한 프로그램을 저장할 수 있고, 입출력되는 데이터를 임시 저장할 수도 있다. 저장부(120)는 터치 스크린상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.
저장부(120)에는 원격 제어 애플리케이션이 저장되어 있다.
촬영부(130)는 제어부(160)의 제어에 의해 구동되어, 디스플레이 장치에 출력된 영상을 촬영한다. 즉, 촬영부(130)는 영상을 촬영하여, 표시부(140)에 표시되도록 하는 것으로, 예를 들면, 카메라 등을 포함할 수 있다.
촬영부(130)는 제어부(160)의 제어에 의해 구동되며, 렌즈를 통해 입사되는 피사체의 광학적 신호를 이미지 센서를 통해 입사된 광학적 신호에 상응하는 전기적 신호로 변환하고, 아날로그 디지털 컨버터를 통해 상기 변환된 전기적 신호를 이에 대응되는 디지털 영상으로 변환한 후 표시부(140)에 표시되도록 한다.
표시부(140)는 애플리케이션 구동에 따른 화면 정보를 디스플레이하는 디스플레이 수단, 예를 들어 LCD(Liquid Crystal Display), OLED(Organic Light Emitting Diodes) 등의 디스플레이 장치로 구현되는 것이 바람직하며, 후술할 제어 명령 입력부(150)와 겹쳐 터치 스크린 형태로 구현될 수 있다.
제어 명령 입력부(150)는 사용자로부터 원격 제어 명령을 입력받는 수단으로, 터치 스크린, 키 버튼, 조이스틱, 마우스 등으로 구현될 수 있다.
제어 명령 입력부(150)가 터치 스크린으로 구현된 경우, 터치 스크린은 사용자의 터치 입력을 검출하고, 그 검출된 터치 입력을 제어부(160)로 전송한다. 터치 스크린은 터치 기구가 접촉되는지의 여부를 감지하고, 터치 신호를 발생시켜 제어부(160)로 전송한다. 터치 기구는 사용자의 손, 터치 펜, 스타일러스 펜, 조이스틱, 마우스 등을 포함할 수 있고, 터치 신호는 터치가 입력된 좌표 및 제스처 타입 등을 포함할 수 있다.
제어부(160)는 촬영부(130)를 구동시키고, 촬영부(130)를 통해 디스플레이 장치에 출력된 영상을 획득하여 표시부(140)에 표시되도록 하고, 그 표시된 영상에서 라인들을 추출하며, 추출된 라인들을 기초로 디스플레이 장치의 화면을 인식한다. 즉, 제어부(160)는 표시부(140)에 표시된 영상에서 코너 검출을 수행하여 특징점들을 추출한다. 이때, 제어부(160)는 해리스 코너 검출기(Harris corner detector)를 이용하여 코너를 검출할 수 있다. 그런 후, 제어부(160)는 추출된 특징점들 중에서 직선 방정식을 만족하는 특징점들을 연결하여 라인들을 추출하고, 추출된 라인들 중에서 4개의 접점을 가진 라인들에 의한 영역을 디스플레이 장치의 화면으로 인식한다. 이때, 제어부(160)는 hough transform 등의 알고리즘을 이용하여 라인을 추출할 수 있다. 상기와 같은 방법으로 디스플레이 장치의 화면을 인식하기 위해, 디스플레이 장치의 형태는 사각형이고, 촬영부(130)로 디스플레이 장치를 촬영할 때 주요 초점은 디스플레이 장치를 향하므로, 가장 큰 사각형을 가지고 있다는 것을 가정한다.
또한, 제어부(160)는 촬영부(130)를 통해 획득된 영상의 움직임이 감지되면, 아핀 변환(affine transformation)을 이용한 움직임 보상을 통해 디스플레이 장치의 화면을 변형 처리하여 표시부(140)에 표시한다. 즉, 제어부(160)는 디스플레이 장치로부터 거리가 멀어지거나 가까워진 경우, 촬영부(130)를 좌우상하로 회전하는 경우에 움직임이 감지된 것으로 판단하고, 평행 이동, 회전, 확대, 축소 등을 포함하는 변형 처리를 실시하여, 움직임 보상 영상을 생성한다. 이때, 제어부(160)는 표시부(140)에 표시된 모든 블록을 대상으로 하지 않고, 회전, 확대, 축소 등의 아핀 변환을 가지는 디스플레이 장치 화면(객체)이 있다고 고려되는 블럭에 대해서만 아핀(affine) 변환 기법의 움직임 보상을 수행함으로써, 복잡도의 증가를 최소화할 수 있다. 상기와 같이 촬영부(130)를 움직이는 상황에서는 아핀 변환(affine transformation)으로 디스플레이 장치 화면을 변형 처리함으로써, 촬영부(130)를 통해 획득된 디스플레이 장치 화면이 찌그러짐, 마름모꼴 등으로 변형되어도, 사각형의 디스플레이 장치 화면으로 표현할 수 있다.
제어부(160)는 원격 제어 애플리케이션 실행에 따라, 인식된 디스플레이 장치의 화면에서 제어 명령 입력부(150)를 통해 입력된 원격 제어 명령을 디스플레이 장치로 전송한다.
제어부(160)는 제어 명령 입력부(150)가 터치 스크린으로 구현된 경우와 키 버튼, 조이스틱, 마우스 중 적어도 하나로 구현된 경우에 따라 다르게 동작할 수 있다.
먼저, 제어 명령 입력부(150)가 터치 스크린으로 구현된 경우에 대해 설명하기로 한다.
이 경우, 제어부(160)는 촬영부(130)를 통해 획득된 영상을 터치 스크린상에 표시하고, 터치 스크린에서 터치 입력이 감지된 경우, 터치 입력의 좌표 및 제스처 타입을 포함하는 원격 제어 명령을 디스플레이 장치로 전송한다. 여기서, 제스처 타입은 터치, 드래그, 드래그 앤 드랍, 플리킹 등을 포함할 수 있고, 촬영부(130)를 통해 획득된 영상은 디스플레이 장치에 출력된 영상의 일부 또는 전체일 수 있다. 따라서, 제어부(160)는 촬영부(130)를 통해 획득된 영상의 좌표를 디스플레이 장치의 좌표로 인식할 수 있어야 한다.
상기와 같이 제어부(160)는 원격 제어 장치(100)의 전체 동작을 제어하고, 터치 스크린으로부터 검출된 사용자의 제스처로부터 좌표 및 제스처 타입을 판단한다. 제어부(160)로는 임의의 범용 프로세서 또는 전용 프로세서를 사용할 수 있으며, FPGA, ASIC 등으로 구현할 수 있다.
다음으로, 제어 명령 입력부(150)가 키 버튼, 조이스틱, 마우스 중 적어도 하나로 구현된 경우에 대해 설명하기로 한다.
이 경우, 제어부(160)는 촬영부(130)를 통해 획득된 영상을 기초로 디스플레이 장치의 제어를 위한 제어 화면을 구성하고, 그 제어 화면을 통해 제어 명령 입력부(150)로부터 원격 제어 명령을 입력받아 디스플레이 장치로 전송한다. 즉, 제어부(160)는 촬영부(130)를 통해 디스플레이 장치에 출력된 영상이 수신되면, 디스플레이 장치에 상기 영상에 대한 메타 데이터 및 디스플레이 장치 정보를 요청한다. 그런 후, 디스플레이 장치로부터 메타 데이터 및 디스플레이 장치 정보가 수신되면, 제어부(160)는 수신된 메타 데이터를 기초로 영상의 종류를 인식하고, 디스플레이 장치 정보를 기초로 디스플레이 장치의 종류를 인식한다. 그런 후, 제어부(160)는 인식된 영상의 종류 및 디스플레이 장치의 종류에 따른 제어 화면을 구성한다. 예컨대, 디스플레이 장치로부터 수신된 메타 데이터가 "MBC 뉴스 데스크"이고, 디스플레이 장치 정보가 "삼성 스마트 TV"인 경우, 제어부(160)는 삼성 스마트 TV에서 제공하는 제어 화면을 구성할 수 있다. 제어 화면은 촬영부(130)를 통해 수신된 영상 위에 오버레이 하여 표시할 수 있고, 현재 표시된 영상에 대한 부가 서비스 메뉴, 디스플레이 장치가 제공할 수 있는 다양한 서비스 메뉴 등을 포함할 수 있다.
사용자가 키 버튼, 조이스틱, 마우스 등을 이용하여 제어 화면에 표시된 부가 서비스 메뉴 중에서 특정 메뉴를 선택하면, 제어부(160)는 그 선택된 특정 메뉴를 원격 제어 명령으로 디스플레이 장치로 전송할 수 있다. 그러면, 디스플레이 장치는 원격 제어 명령에 해당하는 동작을 수행할 수 있다.
도 3은 본 발명의 실시예에 따른 디스플레이 장치의 구성을 개략적으로 나타낸 블럭도이다.
도 3을 참조하면, 디스플레이 장치(200)는 통신부(210), 디스플레이부(220), 저장부(230), 제어부(240)를 포함한다.
통신부(210)는 디스플레이 장치(200)와 원격 제어 장치를 근거리 통신망을 통해 상호 연결시키는 통신 수단으로서, 예를 들어 WiFi, 블루투스, Zigbee, 적외선 송수신 모듈 등 임의의 근거리 통신 모듈을 포함할 수 있다.
디스플레이부(220)는 LCD, PDP(Plasma display panel) OLED(organic luminescence emitting diode display) 등 다양한 영상 표시 장치로 구현될 수 있다. 디스플레이부(220)는 제어부(240)를 통해 디코딩된 영상 및 제어를 위한 GUI를 표시할 수 있다.
저장부(230)는 디스플레이 장치(200)의 동작에 필요한 프로그램 및 데이터를 저장하는 역할을 수행한다.
제어부(240)는 통신부(210)를 통해 원격 제어 장치로부터 원격 제어 명령이 수신된 경우, 상기 원격 제어 명령에 해당하는 동작을 수행한다.
즉, 제어부(240)는 원격 제어 장치로부터 수신된 원격 제어 명령이 좌표 및 제스처 타입을 포함하는 경우, 디스플레이부(220)에 표시된 영상에서 상기 좌표 및 제스처 타입에 대응하는 동작을 수행한다.
제어부(240)는 원격 제어 장치로부터 메타 데이터 및 디스플레이 장치 정보가 요청된 경우, 현재 디스플레이부(220)를 통해 출력된 영상에 대한 메타 데이터와 저장부(230)에 저장된 디스플레이 장치 정보를 획득하여 원격 제어 장치로 전송할 수 있다.
디스플레이 장치(200)가 스마트 티브이로 구현되는 경우, 디스플레이 장치(200)는 안테나, 튜너, 역다중화부, 영상 신호 처리부, 사용자 입력부 등을 더 포함할 수 있고, 이 구성들은 공지되어 있으므로, 그 설명은 생략하기로 한다.
위 구성요소들 중 튜너, 역다중화부 및 영상 신호 처리부는 방송신호를 수신하여 다양한 처리를 통해 디스플레이부를 통해 출력 가능한 형태로 처리하는 하나의 방송 처리부를 구성할 수 있다.
도 4는 본 발명의 실시예에 따른 터치 스크린이 구비된 원격 제어 장치가 디스플레이 장치를 원격 제어하는 방법을 나타낸 도면이다.
도 4를 참조하면, 원격 제어 장치는 원격 제어 애플리케이션이 구동되면(S402), 구비된 촬영부를 구동시키고, 촬영부를 통해 촬영된 디스플레이 장치에 출력된 영상을 터치 스크린상에 표시한다(S404). 이때, 원격 제어 장치 사용자는 촬영부를 이용하여 디스플레이 장치에 출력된 영상의 일부 또는 전체를 촬영할 수 있다. 그러면, 원격 제어 장치의 터치 스크린상에는 디스플레이 장치에 출력된 영상의 일부 또는 전체가 표시될 수 있다.
단계 S404가 수행되면, 원격 제어 장치는 촬영된 영상에서 디스플레이 장치의 화면을 인식한다(S406). 원격 제어 장치가 디스플레이 장치의 화면을 인식하는 방법에 대한 상세한 설명은 도 5를 참조하기로 한다.
디스플레이 장치의 화면이 인식된 상태에서 사용자의 터치 입력이 감지되면(S408), 원격 제어 장치는 터치 입력에 대한 원격 제어 명령을 생성하고(S410), 생성된 원격 제어 명령을 디스플레이 장치로 전송한다(S412). 이때, 원격 제어 장치는 터치 입력에 대한 좌표 및 제스처 타입을 판단하고, 판단된 좌표 및 제스처 타입을 포함하는 원격 제어 명령을 생성하여 디스플레이 장치로 전송한다.
그러면, 디스플레이 장치는 원격 제어 장치로부터 수신된 원격 제어 명령에 해당하는 동작을 수행한다(S414). 즉, 디스플레이 장치는 원격 제어 명령을 분석하여 좌표 및 제스처 타입을 확인하고, 확인된 좌표에 제스처 타입에 따른 동작을 수행한다.
상기와 같이 방법을 통해 공공 장소에 설치된 디스플레이 장치를 다수의 사용자가 자신의 단말을 이용하여 원격에서 제어할 수 있다.
도 5는 본 발명의 실시예에 따른 원격 제어 장치가 디스플레이 장치의 화면을 인식하는 방법을 나타낸 흐름도이다.
도 5를 참조하면, 원격 제어 장치는 촬영부를 통해 획득된 영상에서 코너 검출을 수행하여 특징점을 추출한다(S502).
그런 후, 원격 제어 장치는 추출된 특징점을 이용하여 라인들을 추출하고(S504), 추출된 라인들 중에서 사각형을 형성하는 영역을 디스플레이 장치의 화면으로 인식한다(S506). 디스플레이 장치의 화면이 인식되면, 원격 제어 장치는 사용자로부터 원격 제어 명령을 입력받고, 그 원격 제어 명령을 디스플레이 장치로 전송하여, 디스플레이 장치를 원격에서 제어할 수 있다.
원격 제어 장치가 디스플레이 장치를 원격 제어하는 중에 화면 움직임이 감지되면(S508), 원격 제어 장치는 아핀 변환을 이용한 움직임 보상을 통해 디스플레이 장치의 화면을 변형 처리한다(S510). 즉, 원격 제어 장치는 디스플레이 장치로부터 거리가 멀어지거나 가까워진 경우, 카메라를 좌우상하로 회전하는 경우에 움직임이 감지된 것으로 판단하고, 평행 이동, 회전, 확대, 축소 등을 포함하는 변형 처리를 실시하여, 움직임 보상 화상을 생성한다.
한편, 촬영부를 이용한 원격 제어 방법은 프로그램으로 작성 가능하며, 프로그램을 구성하는 코드들 및 코드 세그먼트들은 당해 분야의 프로그래머에 의하여 용이하게 추론될 수 있다.
이와 같이, 본 발명이 속하는 기술분야의 당업자는 본 발명이 그 기술적 사상이나 필수적 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적인 것이 아닌 것으로서 이해해야만 한다. 본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 등가개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.
100 : 원격 제어 장치 110, 210 : 통신부
120, 230 : 저장부 130 : 촬영부
140 : 표시부 150 : 제어 명령 입력부
160, 240 : 제어부 200 : 디스플레이 장치
220 : 디스플레이부

Claims (11)

  1. 원격 제어 애플리케이션이 실행되면, 구비된 촬영부를 통해 디스플레이 장치에 출력된 영상을 획득하여 표시하고, 상기 표시된 영상에서 라인들을 추출하며, 상기 추출된 라인들을 기초로 상기 디스플레이 장치의 화면을 인식하고, 상기 인식된 화면을 통해 입력된 원격 제어 명령을 상기 디스플레이 장치로 전송하는 원격 제어 장치; 및
    영상을 출력하고, 상기 원격 제어 장치로부터 원격 제어 명령이 수신된 경우, 상기 원격 제어 명령에 해당하는 동작을 수행하는 디스플레이 장치;
    를 포함하는 촬영부를 이용한 원격 제어 시스템.
  2. 제1항에 있어서,
    상기 원격 제어 장치는 상기 표시된 영상에서 코너 검출을 수행하여 특징점들을 추출하고, 상기 추출된 특징점들을 연결하여 라인들을 추출한 후, 상기 추출된 라인들 중에서 4개의 접점을 가진 라인들에 의한 영역을 디스플레이 장치의 화면으로 인식하는 것을 특징으로 하는 촬영부를 이용한 원격 제어 시스템.
  3. 통신망을 통해 통신하기 위한 통신부;
    촬영부;
    표시부; 및
    상기 촬영부를 구동시켜 디스플레이 장치에 출력된 영상을 획득 및 표시부에 표시하고, 상기 표시된 영상에서 라인들을 추출하며, 상기 추출된 라인들 중에서 4개의 접점을 가진 라인들에 의한 영역을 디스플레이 장치의 화면으로 인식하는 제어부;
    를 포함하는 원격 제어 장치.
  4. 제3항에 있어서,
    상기 인식된 화면을 통해 사용자로부터 원격 제어 명령을 입력받는 제어 명령 입력부를 더 포함하고,
    상기 제어부는 상기 원격 제어 명령을 상기 통신부를 통해 상기 디스플레이 장치로 전송하는 것을 특징으로 하는 원격 제어 장치.
  5. 제3항에 있어서,
    상기 제어부는 상기 표시된 영상에서 코너 검출을 수행하여 특징점들을 추출하고, 상기 추출된 특징점들을 연결하여 라인들을 추출한 후, 상기 추출된 라인들 중에서 4개의 접점을 가진 라인들에 의한 영역을 디스플레이 장치의 화면으로 인식하는 것을 특징으로 하는 원격 제어 장치.
  6. 제5항에 있어서,
    상기 제어부는 디스플레이 장치의 화면 움직임이 감지된 경우, 아핀 변환을 이용한 움직임 보상을 통해 디스플레이 장치의 화면을 변형 처리하는 것을 특징으로 하는 원격 제어 장치.

  7. (a) 원격 제어 장치는 원격 제어 애플리케이션이 실행된 경우, 구비된 촬영부를 구동시키고, 상기 촬영부를 통해 디스플레이 장치에 출력된 영상을 획득하여 터치 스크린상에 표시하는 단계;
    (b) 상기 원격 제어 장치는 상기 표시된 영상에서 라인들을 추출하고, 상기 추출된 라인들을 기초로 상기 디스플레이 장치의 화면을 인식하는 단계;
    (c) 상기 원격 제어 장치는 상기 인식된 화면에서 터치 입력이 감지된 경우, 상기 터치 입력의 좌표 및 제스처 타입을 포함하는 원격 제어 명령을 상기 디스플레이 장치로 전송하는 단계; 및
    (d) 상기 디스플레이 장치는 원격 제어 장치로부터 수신된 원격 제어 명령에 해당하는 동작을 수행하는 단계;
    를 포함하는 촬영부를 이용한 원격 제어 방법.
  8. 제7항에 있어서,
    상기 (b) 단계는,
    상기 표시된 영상에서 코너 검출을 수행하여 특징점들을 추출하는 단계;
    상기 추출된 특징점들을 연결하여 라인들을 추출하는 단계; 및
    상기 추출된 라인들 중에서 4개의 접점을 가진 라인들에 의한 영역을 디스플레이 장치의 화면으로 인식하는 단계를 포함하는 것을 특징으로 하는 촬영부를 이용한 원격 제어 방법.
  9. 원격 제어 장치가 디스플레이 장치를 원격 제어하기 위한 방법에 있어서,
    구비된 촬영부를 구동시켜 상기 디스플레이 장치에 출력된 영상을 획득 및 표시하는 단계;
    상기 표시된 영상에서 코너 검출을 수행하여 특징점들을 추출하는 단계;
    상기 추출된 특징점들을 연결하여 라인들을 추출하는 단계; 및
    상기 추출된 라인들 중에서 4개의 접점을 가진 라인들에 의한 영역을 디스플레이 장치의 화면으로 인식하는 단계;
    를 포함하는 촬영부를 이용한 원격 제어 방법.
  10. 제9항에 있어서,
    상기 디스플레이 장치의 화면 움직임이 감지된 경우, 아핀 변환을 이용한 움직임 보상을 통해 상기 디스플레이 장치의 화면을 변형 처리하는 단계를 더 포함하는 촬영부를 이용한 원격 제어 방법.
  11. 제9항에 있어서,
    상기 인식된 화면에서 터치 입력이 감지된 경우, 상기 터치 입력의 좌표 및 제스처 타입을 포함하는 원격 제어 명령을 상기 디스플레이 장치로 전송하는 단계를 더 포함하는 촬영부를 이용한 원격 제어 방법.
KR1020130022129A 2013-02-28 2013-02-28 촬영부를 이용한 원격 제어 시스템 및 방법 KR101439178B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020130022129A KR101439178B1 (ko) 2013-02-28 2013-02-28 촬영부를 이용한 원격 제어 시스템 및 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020130022129A KR101439178B1 (ko) 2013-02-28 2013-02-28 촬영부를 이용한 원격 제어 시스템 및 방법

Publications (2)

Publication Number Publication Date
KR20140107918A true KR20140107918A (ko) 2014-09-05
KR101439178B1 KR101439178B1 (ko) 2014-09-12

Family

ID=51755350

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020130022129A KR101439178B1 (ko) 2013-02-28 2013-02-28 촬영부를 이용한 원격 제어 시스템 및 방법

Country Status (1)

Country Link
KR (1) KR101439178B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160092088A (ko) * 2015-01-26 2016-08-04 엔에이치엔엔터테인먼트 주식회사 무선통신단말의 원격제어 시스템

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20000017542U (ko) * 1999-02-27 2000-09-25 전주범 다기능 리모콘을 이용한 방송프로그램 예약 제어장치
KR20100122790A (ko) * 2009-05-13 2010-11-23 엘지이노텍 주식회사 아이피티비용 리모컨

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160092088A (ko) * 2015-01-26 2016-08-04 엔에이치엔엔터테인먼트 주식회사 무선통신단말의 원격제어 시스템

Also Published As

Publication number Publication date
KR101439178B1 (ko) 2014-09-12

Similar Documents

Publication Publication Date Title
KR102091028B1 (ko) 사용자 기기의 오브젝트 운용 방법 및 장치
KR101434295B1 (ko) 디스플레이 장치에 표시된 화면의 일부분을 전자장치를통해 ｇｕｉ로 제공하는 방법 및 이를 적용한 전자장치
CN102662498B (zh) 一种投影演示的无线控制方法及系统
US20130176244A1 (en) Electronic apparatus and display control method
US9158391B2 (en) Method and apparatus for controlling content on remote screen
CN111031398A (zh) 一种视频控制方法及电子设备
US11025980B2 (en) User terminal apparatus, electronic apparatus, system, and control method thereof
TW201331824A (zh) 顯示控制設備，顯示控制方法，及程式
US10810789B2 (en) Image display apparatus, mobile device, and methods of operating the same
CN107343215A (zh) 图像显示装置及其操作方法
KR20150031986A (ko) 디스플레이장치 및 그 제어방법
US20230291955A1 (en) User terminal apparatus, electronic apparatus, system, and control method thereof
TW201435651A (zh) 行動通訊裝置以及其人機介面操作方法
US20150350587A1 (en) Method of controlling display device and remote controller thereof
US20150193613A1 (en) Portable apparatus and method of connecting to external apparatus
CN112328158A (zh) 交互方法、显示装置、发射装置、交互系统及存储介质
KR102204676B1 (ko) 디스플레이 장치, 모바일 장치, 이를 포함하는 시스템 및 그 접속 제어방법
EP3057313A1 (en) Display apparatus and display method
CN104914985A (zh) 手势控制方法及系统与视频流处理装置
KR101439178B1 (ko) 촬영부를 이용한 원격 제어 시스템 및 방법
KR101491648B1 (ko) 촬영부를 이용한 원격 제어 시스템 및 방법
KR20110013076A (ko) 카메라 시스템을 이용한 손짓 및 터치형 양손 반지 마우스 입력 장치
KR102620363B1 (ko) 모바일 장치 및 모바일 장치의 제어 방법
TWM454051U (zh) 手勢辨識無線控制系統
Kim et al. Long-range touch gesture interface for Smart TV

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20170904

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20181203

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20190827

Year of fee payment: 6