KR20030021988A - Finger remote-controller using image processing - Google Patents

Finger remote-controller using image processing Download PDF

Info

Publication number
KR20030021988A
KR20030021988A KR1020010055630A KR20010055630A KR20030021988A KR 20030021988 A KR20030021988 A KR 20030021988A KR 1020010055630 A KR1020010055630 A KR 1020010055630A KR 20010055630 A KR20010055630 A KR 20010055630A KR 20030021988 A KR20030021988 A KR 20030021988A
Authority
KR
South Korea
Prior art keywords
finger
image
user
command
signal
Prior art date
Application number
KR1020010055630A
Other languages
Korean (ko)
Inventor
이민호
김원철
이규봉
Original Assignee
이민호
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 이민호 filed Critical 이민호
Priority to KR1020010055630A priority Critical patent/KR20030021988A/en
Publication of KR20030021988A publication Critical patent/KR20030021988A/en

Links

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08CTRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
    • G08C17/00Arrangements for transmitting signals characterised by the use of a wireless electrical link
    • G08C17/02Arrangements for transmitting signals characterised by the use of a wireless electrical link using a radio link
    • GPHYSICS
    • G08SIGNALLING
    • G08CTRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
    • G08C2201/00Transmission systems of control signals via wireless link
    • G08C2201/30User interface
    • G08C2201/32Remote control based on movements, attitude of remote control device
    • GPHYSICS
    • G08SIGNALLING
    • G08CTRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
    • G08C2201/00Transmission systems of control signals via wireless link
    • G08C2201/90Additional features
    • G08C2201/92Universal remote control

Abstract

PURPOSE: A finger remote controller by using image process is provided to be operated by only a finger signal using image process result information by accurately search a finger of a user in a real time, analyze the pattern of the finger, and processing an image of the finger. CONSTITUTION: An image input unit receives information of user environment by using an image acquisition board. An image information storage device continuously stores images inputted in a real time, and provides the stored images to a finger signal recognizing device in a real time. The finger signal recognizing device analyzes finger information of a televiewer from the inputted image. An operation function selecting device converts a command of the televiewer into a function of a finger remote controller using information obtained in the finger signal recognizing device. An operation command signal generating device converts a command of the finger remote controller into an electric signal for operating a TV and household appliances.

Description

영상처리를 이용한 원격 손가락 조종기{Finger remote-controller using image processing}Finger remote controller using image processing {Finger remote-controller using image processing}

영상처리를 이용한 원격 손가락 조종기는 인간 친화적인 TV시청 및 가전제품을 작동시키기 위한 사용자 중심의 기계환경 실현의 일부분이고 인간과 기계간의 의사전달 시스템을 구현하는 인간-기계 인터페이스((Human-Machine Interface)연구의 일부분이다. 원격 손가락 조종기 발명의 주목적은 사용자가 명령하는 수신호만으로 가전제품 및 사무용 전자제품을 조정하는 것으로, 이는 사용자에게 기계조작의 편의성과 사용환경의 단순화 및 전자제품의 양적인 간소화를 위함이다. 본 발명의 전체 시스템 구성은 도면 1과 같다. 도면 1에서 사용자의 수신호로 전자제품을 조정하고, TV나 컴퓨터 등의 조작대상물에 부착되는 영상입력장치는 사용자의 수신호를 영상으로 획득하여 원격 손가락 조정기의 입력으로 전송하고, 원격 손가락 조종기는 수신호를 해석하여 그에 합당한 동작을 수행한다. 도면 2는 원격 손가락 조종기의 전체적인 동작 순서이다. 실시간으로 표현되는 수신호를 영상으로 획득하여 저장장치에 저장하고, 수신호 인식장치에서 수신호를 해석한다. 원격 손가락 조종기는 해석된 정보를 바탕으로 합당한 동작을 지시한다. 수신호 해석과 원격 손가락 조종기의 상세한 동작은 도면 3과 같다. 배경의 잡음이 포함된 입력영상에서 손가락에 해당하는 부분영상을 추출하고, 추출된 손가락 영상을 사전에 수집해 둔 사용자의 손가락영상 견본과 비교하여 사용자의 현재 손가락의 의미를 정확히 판별하게 된다.The remote finger controller using image processing is part of the realization of user-centered machine environment for operating human-friendly TV viewing and home appliances, and the human-machine interface that implements the human-machine communication system. The main purpose of the remote finger controller is to control home appliances and office electronics with only a hand signal commanded by the user, for convenience of machine operation, simplifying the use environment, and quantitative simplification of the electronic product. The overall system configuration of the present invention is as shown in Fig. 1. In Fig. 1, an image input device which adjusts electronic products with a user's hand signal, and is attached to an operation object such as a TV or a computer, acquires the user's hand signal as an image and then uses a remote finger. Transmits to the input of the controller, and the remote finger controller interprets the hand signal Fig. 2 is a general operation sequence of the remote finger controller, which acquires a hand signal expressed in real time as an image, stores it in a storage device, and analyzes the hand signal in the hand signal recognition device. Based on the information, a proper operation is indicated The detailed operation of the hand signal analysis and the remote finger controller is as shown in Fig. 3. The partial image corresponding to the finger is extracted from the input image including the background noise, and the extracted finger image is preliminary. The meaning of the user's current finger is accurately determined by comparison with the user's finger image sample collected in.

그리고 판별과정이 수행된 후 사용자의 수신호가 의미하는 것에 합당한 동작을 확정한다. 마지막으로 원격 손가락 조종기는 앞에서 처리된 정보를 이용해 동작할 원격 손가락 조종기의 기능을 결정하고, 전용의 프로세서가 부착된 원격 손가락 조종기의 제어부에서 조작 대상물인 전자제품에 필요한 동작신호를 지시하여 사용자가 손짓으로 지시한 동작을 수행하게 된다.After the discrimination process is performed, the operation appropriate to the hand signal of the user is determined. Finally, the remote finger controller uses the information processed above to determine the function of the remote finger controller to operate, and the user's hand gestures by instructing the control signal of the remote finger controller equipped with the dedicated processor for the electronic product to be operated. Will perform the operation indicated by.

영상처리를 이용한 원격 손가락 조종기의 개발로 인간 친화적인 TV시청과 가전제품 및 사무용 전자제품의 동작 환경 구현Development of remote finger controller using image processing to realize human-friendly TV viewing and operation environment of home appliances and office electronics

본 발명은 현재 새로운 연구 분야로 활발한 연구가 진행되고 있는 인간 친화적인 기술개발 분야와 인간의 의사소통방식과 유사하게 기계에 정보를 전달하는 인간-기계 인터페이스 연구 분야이다. 가전제품과 사무용 전자제품의 사용자가 수신호로 명령을 내리고 개발된 패턴인식 영상처리 기법으로 수신호를 인식하여 이를 조작하는 시스템은 없다. 관련 기술분야는 실시간으로 영상을 획득 및 저장하는 영상처리 기술, 움직이는 대상 물체를 감지하여 인식하고 추적하는 영상 분할과 영상인식 기술, 영상처리 정보를 바탕으로 원격 조종기(remote controller)를 제작하는 하드웨어 및 소프트웨어 기술이다. 이러한 기술들이 영상처리를 이용한 원격 조종기에 적용된 사례가 없다.The present invention is in the field of human-friendly technology development, which is currently being actively researched as a new field of research, and in the field of human-machine interface research, which transmits information to machines similar to human communication. There is no system for recognizing and manipulating hand signals using the pattern recognition image processing technique developed by users of home appliances and office electronics. Related technical fields include image processing technology for acquiring and storing images in real time, image segmentation and image recognition technology for detecting, recognizing and tracking moving objects, hardware for manufacturing a remote controller based on image processing information, and Software technology. No such technique has been applied to remote controls using image processing.

일반 가정의 TV시청 환경처럼 주위의 방해물이나 배경의 잡음 속에서 움직이며 그 형태가 변하는 사용자의 손가락을 실시간으로 정확히 찾아내어, 형태를 분석하는 패턴 인식 영상처리 기술의 개발, 그리고 영상처리의 결과 정보를 이용해 사용자의 손가락 모양인 수신호만으로 동작하는 원격 조종기를 개발하는 것이 이루고자 하는 기술적 과제이다.Development of pattern recognition image processing technology that accurately detects and analyzes the shape of user's finger in real time, moving in the obstacles and background noises of surroundings, as in general TV viewing environment, and the result information of image processing It is a technical problem to achieve by developing a remote controller that operates only by the hand signal of the user's finger shape.

도면 1은 영상처리 방법으로 작동되는 원격 손가락 조종기의 전체 시스템 구성도이다.1 is an overall system diagram of a remote finger controller operated by an image processing method.

도면 2는 원격 손가락 조종기의 전체적인 동작 순서이다. 실시간으로 수신호 영상을 획득 및 저장하는 영상처리와, 입력영상에서 손가락 모양에 해당하는 수신호를 인식하고 판독하는 수신호 인식처리와 최종으로 동작 명령을 발생하는 동작 조정 과정이다.2 is an overall operation sequence of the remote finger controller. Image processing for acquiring and storing a hand signal image in real time, hand signal recognition processing for recognizing and reading a hand signal corresponding to a finger shape in an input image, and finally an operation adjustment process for generating an operation command.

도면 3은 수신호 인식기와 원격 손가락 조종기의 상세 기능 설명이다. 수신호 인식기는 손가락 인식부와 수신호 해독부로 구성되고, 원격 손가락 조종기는 기능 선택부와 명령 제어부로 구성된다.3 is a detailed functional description of the hand signal recognizer and the remote finger controller. The hand signal recognizer includes a finger recognizer and a hand signal decoder, and the remote finger controller includes a function selector and a command controller.

본 발명의 구성은 실시간 영상처리 시스템과 수신호 인식 시스템, 원격 손가락 조종기로 구성된다. 실시간 영상처리 시스템은 사용자의 손가락 영상을 실시간으로 획득하는 영상처리입력기와 영상을 저장하는 메모리, 그리고 영상처리 시스템을 관장하는 전용 프로세서로 구성된다. 수신호 인식시스템은 입력되는 영상에서 사용자가 의도하는 수신호를 인식하고 해석하는 시스템이다. 원격 손가락 조종기는 해석된 수신호를 동작 신호로 변환하여 실제 동작을 이루는 시스템으로 구성된다.The configuration of the present invention consists of a real-time image processing system, a hand signal recognition system, and a remote finger controller. The real-time image processing system includes an image processing input unit for acquiring a user's finger image in real time, a memory for storing the image, and a dedicated processor for managing the image processing system. The hand signal recognition system is a system that recognizes and interprets a hand signal intended by a user from an input image. The remote finger controller is composed of a system that converts the interpreted hand signal into a motion signal to achieve actual motion.

본 발명은 TV시청자 및 가전제품 사용자들에게 원격 조작의 간편성을 제공할 수 있다. 별도의 리모콘 장치가 필요 없이 손가락의 조작으로 동작을 조종하기 때문에 최소한의 육체적인 부하로 필요한 동작을 수행한다. 또한 기술적, 학문적으로 관련 기술을 선점함으로 인간 친화적인 인간-기계 인터페이스 기술의 응용분야를 개척하여 국가적으로 우수 선진기술을 확보하고, 관련 경제분야에서 고부가가치의 이윤창출을 기대할 수 있다. 그리고 향후 연구가 지속될 인간친화형 제품개발에 영상처리를 이용한 방법의 실현 가능성을 제시함으로 새로운 기술개발의 초석이 될 것으로 기대된다. 또한 앞으로 PC와 가전제품의 일체화 성향이 가속화될 것을 고려하면, 보급된 PC카메라 및 CCD카메라와 PC의 고속 프로세서를 이용하여 원격 손가락 조종기의 개발단가를 절감시키고 TV 및 가전제품의 원격 조작 기능을 보다 쉽게 구현할 수 있을 것이다.The present invention can provide TV viewers and home appliance users with the simplicity of remote operation. Since the remote control device does not require a separate remote control device, the operation is performed by the manipulation of a finger, thus performing the necessary operation with a minimum physical load. In addition, by pioneering technical and academic related technologies, we can pioneer the field of application of human-friendly human-machine interface technology to secure excellent advanced technology in the country, and create high value-added profits in related economic fields. In addition, it is expected to be the cornerstone of new technology development by suggesting the feasibility of using image processing for human-friendly product development that will be continued. In addition, considering that the propensity to integrate PCs and home appliances will be accelerated in the future, using PC cameras, CCD cameras, and high-speed processors of PCs, the development cost of remote finger controllers can be reduced, and remote control functions of TVs and home appliances can be improved. It will be easy to implement.

Claims (2)

영상처리 기법으로 TV시청자 및 가전제품 사용자의 손가락의 위치와 형태를 인식하여 수신호로 동작하는 원격 손가락 조종기(Finger remocon)시스템을 구현함에 있어서,In realizing the remote finger remocon system which operates by hand signal by recognizing the position and shape of the finger of TV viewer and home appliance user through image processing technique, CCD 카메라와 같은 영상정보입력기로부터 입력되는 사용자의 손가락이 중심이 되는 시청자 환경에 대한 영상정보를 실시간으로 획득하는 단계와,Acquiring in real time image information about a viewer environment in which a user's finger is input from an image information input device such as a CCD camera; 입력된 사용자 환경에 대한 영상에서 배경잡음을 고려하여 사용자의 손가락을 찾아서 매 순간 변하는 모양을 정확히 인식하는 수신호 해석 단계와,A hand signal analysis step of accurately recognizing the shape changing every moment by finding the user's finger in consideration of the background noise in the image of the input user environment; 해석된 사용자 수신호 정보를 사전에 정해둔 수신호 명령 패턴과 비교해서 사용자가 TV 및 가전제품에 지시하는 수신호 명령을 판독하는 단계와,Comparing the interpreted user hand signal information with a predetermined hand signal command pattern to read a hand signal command instructing a TV and a home appliance by a user; 판독된 수신호 명령을 바탕으로 수행해야 될 TV 및 가전제품의 동작을 결정하는 원격 손가락 조종기의 기능선택 단계와,A function selection step of the remote finger controller for determining the operation of the TV and the home appliance to be performed based on the received hand signal command; 결정된 수행 명령을 TV 및 가전제품에 전달하여 대상 시스템이 명령을 수행하도록 하는 원격 손가락 조정기의 명령신호 발생하는 방법.A method of generating a command signal of a remote finger adjuster for delivering the determined execution command to the TV and the home appliance, thereby causing the target system to execute the command. 영상처리 기법으로 TV시청자 및 가전제품 사용자의 손가락의 위치와 형태를 인식하여 수신호로 동작하는 원격 손가락 조종기(Finger remocon)시스템을 구현함에 있어서,In realizing the remote finger remocon system which operates by hand signal by recognizing the position and shape of the finger of TV viewer and home appliance user through image processing technique, CCD카메라와 같은 영상정보 입력장치로부터 입력되는 사용자 환경에 대한 영상정보를 받아들이기 위해 사용자 환경의 정보를 영상 획득 보드를 이용해서 입력받는 영상 입력부와,An image input unit which receives information of the user environment using an image acquisition board to receive image information about the user environment input from an image information input device such as a CCD camera; 실시간으로 입력되는 영상을 계속해서 저장하고 실시간으로 수신호 인식기의 입력으로 제공하기 위한 영상정보 저장 장치부와,An image information storage unit for continuously storing an image input in real time and providing the received image signal as an input of a hand signal recognizer in real time; 입력영상으로부터 시청자의 손가락 정보를 분석하는 패턴인식 영상처리 기법으로 구성된 시청자 수신호 인식 장치부와,A viewer number signal recognition device configured with a pattern recognition image processing method for analyzing finger information of the viewer from an input image; 인식 장치에서 구해진 정보를 이용해 사용자의 명령을 원격 손가락 조정기의 기능으로 변화하는 동작 기능 선택장치와,A motion function selection device that converts a user's command into a function of a remote finger controller using information obtained from a recognition device; TV 및 가전제품을 작동시키기 위해 원격 손가락 조종기의 명령을 전기적인 신호로 변환하는 동작 명령신호 발생장치.An operation command signal generator for converting a command of a remote finger controller into an electric signal to operate a TV and a home appliance.
KR1020010055630A 2001-09-07 2001-09-07 Finger remote-controller using image processing KR20030021988A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020010055630A KR20030021988A (en) 2001-09-07 2001-09-07 Finger remote-controller using image processing

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020010055630A KR20030021988A (en) 2001-09-07 2001-09-07 Finger remote-controller using image processing

Publications (1)

Publication Number Publication Date
KR20030021988A true KR20030021988A (en) 2003-03-15

Family

ID=27723348

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020010055630A KR20030021988A (en) 2001-09-07 2001-09-07 Finger remote-controller using image processing

Country Status (1)

Country Link
KR (1) KR20030021988A (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100457929B1 (en) * 2001-11-05 2004-11-18 한국과학기술원 System of Soft Remote Controller Using Hand Pointing Recognition
US8009865B2 (en) 2006-11-03 2011-08-30 Samsung Electronics Co., Ltd. Apparatus, method, and medium for tracking gesture
WO2013162236A1 (en) * 2012-04-23 2013-10-31 Kim Seok-Joong Transparent display virtual touch apparatus not displaying pointer
US8694053B2 (en) 2005-06-20 2014-04-08 Samsung Electronics Co., Ltd. Method for realizing user interface using camera and mobile communication terminal for the same

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100457929B1 (en) * 2001-11-05 2004-11-18 한국과학기술원 System of Soft Remote Controller Using Hand Pointing Recognition
US8694053B2 (en) 2005-06-20 2014-04-08 Samsung Electronics Co., Ltd. Method for realizing user interface using camera and mobile communication terminal for the same
US8965452B2 (en) 2005-06-20 2015-02-24 Samsung Electronics Co., Ltd Method for realizing user interface using camera and mobile communication terminal for the same
US9836196B2 (en) 2005-06-20 2017-12-05 Samsung Electronics Co., Ltd. Method for realizing user interface using camera and mobile communication terminal for the same
US10545645B2 (en) 2005-06-20 2020-01-28 Samsung Electronics Co., Ltd Method for realizing user interface using camera and mobile communication terminal for the same
US8009865B2 (en) 2006-11-03 2011-08-30 Samsung Electronics Co., Ltd. Apparatus, method, and medium for tracking gesture
WO2013162236A1 (en) * 2012-04-23 2013-10-31 Kim Seok-Joong Transparent display virtual touch apparatus not displaying pointer
KR101343748B1 (en) * 2012-04-23 2014-01-08 주식회사 브이터치 Transparent display virtual touch apparatus without pointer
CN104246664A (en) * 2012-04-23 2014-12-24 维塔驰有限公司 Transparent display virtual touch apparatus not displaying pointer
CN104246664B (en) * 2012-04-23 2017-03-15 维塔驰有限公司 The transparent display virtual touch device of pointer is not shown

Similar Documents

Publication Publication Date Title
KR102211014B1 (en) Identification and control of smart devices
US11561519B2 (en) Systems and methods of gestural interaction in a pervasive computing environment
EP2093650B1 (en) User interface system based on pointing device
CN107703872B (en) Terminal control method and device of household appliance and terminal
TWI524210B (en) Natural gesture based user interface methods and systems
CN101546476B (en) System and method to control a device using a remote control device and a soft remote control
JP2009134718A5 (en)
US7843425B2 (en) Motion recognition system and method for controlling electronic devices
KR101224351B1 (en) Method for locating an object associated with a device to be controlled and a method for controlling the device
CN106105247B (en) Display device and control method thereof
JP2010134629A (en) Information processing apparatus and method
CN102339125A (en) Information equipment and control method and system thereof
KR20110109883A (en) Information processor, information processing method and program
KR20070043807A (en) Method for control of a device
Verdadero et al. Hand gesture recognition system as an alternative interface for remote controlled home appliances
CN103135746A (en) Non-touch control method and non-touch control system and non-touch control device based on static postures and dynamic postures
Goto et al. Development of an Information Projection Interface Using a Projector–Camera System
KR20030021988A (en) Finger remote-controller using image processing
KR20160054799A (en) Remote controll device and operating method thereof
Nawaz et al. Infotainment devices control by eye gaze and gesture recognition fusion
KR100849532B1 (en) Device having function of non-contact mouse and method thereof
KR101491648B1 (en) System and Method for remote control using camera
CN113885710A (en) Control method and control device of intelligent equipment and intelligent system
CN117908679A (en) Non-contact interaction gesture control sound function intervention method and electronic equipment

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E601 Decision to refuse application