KR20020037106A - System for three-dimensional sensing of the end portion of object including human body - Google Patents

System for three-dimensional sensing of the end portion of object including human body Download PDF

Info

Publication number
KR20020037106A
KR20020037106A KR1020000067090A KR20000067090A KR20020037106A KR 20020037106 A KR20020037106 A KR 20020037106A KR 1020000067090 A KR1020000067090 A KR 1020000067090A KR 20000067090 A KR20000067090 A KR 20000067090A KR 20020037106 A KR20020037106 A KR 20020037106A
Authority
KR
South Korea
Prior art keywords
information
tip
tip information
array
light emitting
Prior art date
Application number
KR1020000067090A
Other languages
Korean (ko)
Inventor
하영균
채승훈
Original Assignee
오희범
주식회사 디지털 피봇
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 오희범, 주식회사 디지털 피봇 filed Critical 오희범
Priority to KR1020000067090A priority Critical patent/KR20020037106A/en
Publication of KR20020037106A publication Critical patent/KR20020037106A/en

Links

Classifications

    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/55Controlling game characters or game objects based on the game progress
    • A63F13/56Computing the motion of game characters with respect to other game characters, game objects or elements of the game scene, e.g. for simulating the behaviour of a group of virtual soldiers or for path finding
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game

Abstract

PURPOSE: A system for three-dimensionally sensing protruded end portions of the human body and an object handled by the human body is provided to sense the three-dimensional position, angle, velocity, angular velocity, acceleration, angular acceleration of the protruded portion to use the sensed ones as input signals of a computer input device, virtual system input device and a game system input device. CONSTITUTION: A system for three-dimensionally sensing a protruded end portion of the human body or an object handled by the human body includes a space forming portion for forming a space for sensing the protruded end portion, a video signal capturing portion(110) for capturing a video signal detected by the space forming portion, and a video processor(120) for data-processing the video signal. The system further includes an information extracting portion(130) for extracting information about the protruded end portion of the object from the data processed by the video processor, and an information correcting portion(140) for correcting the extracted information. The system also has an information outputting portion(150) for outputting the information to a related system such as a computer, and an information utilizing portion(160) for applying the information to the related system.

Description

신체와 신체가 조작하는 물체의 인입 선단부의 3차원 감지 시스템{System for three-dimensional sensing of the end portion of object including human body}System for three-dimensional sensing of the end portion of object including human body}

본 발명은 신체와 신체가 조작하는 물체의 인입 돌출부를 3차원으로 감지하는 시스템에 관한 것으로서, 더 상세하게는 신체 혹은 신체가 조작하는 물체의 인입(침입) 돌출부(선단), 예를 들어 손끝, 발끝, 머리앞쪽, 테니스라켓 끝단 등 신체 혹은 신체가 조작하는 물체의 맨앞쪽 부분을 감지하는 소정의 공간을 카메라 혹은 센서로 형성하고 상기 공간에서 그 침입부분 혹은 상기 공간 내의 돌출부의 3차원 위치, 각도, 속도, 각속도, 가속도, 각가속도 등을 감지하여 이를 입력신호화하여 컴퓨터의 입력장치, 가상현실시스템의 입력장치 및 게임시스템 등의 입력장치 등으로 이용할 수 있게 함으로써, 조작자가 입력행위를 편리하고 직관적인 방법으로 수행할 수 있게 하고, 게임시 게임 조작자에게 입력행위에 따른 체감도 및 입력 만족도를 증대시킬 수 있도록 하고, 입력장치를 비접촉 비부착식 화하여 입력장치의 조작성을 증대시킴과 아울러 조작준비 시간을 단축시킬 수 있도록 한 신체와 신체가 조작하는 물체의 인입 선단부의 3차원 감지 시스템에 관한 것이다.The present invention relates to a system for sensing the body and the incoming projections of the object manipulated by the body in three dimensions, and more particularly, the incoming (intrusion) projections (tip) of the body or the object manipulated by the body, for example, fingertips, A camera or a sensor forms a predetermined space that detects the front part of the body or the body that the body manipulates, such as the tip of the foot, the front of the head, the end of the tennis racket, and the three-dimensional position and angle of the intrusion or protrusion in the space. It detects speed, angular velocity, acceleration, angular acceleration, etc. and makes it an input signal so that it can be used as input device of computer, input device of virtual reality system, game system, etc. Can be performed in a smart way, and can increase game experience and input satisfaction to game operators during the game. To, and screen input device unattached contact to increase the operability of the input device and to Sikkim addition relates to a body and three-dimensional sensing system of the drawing the leading end of the object to the body is operated so as to shorten the operation preparation time.

한편, 본 발명은 마우스를 대치하여 게임, 정보검색, 키오스크(Kiosk) 제어, 프리젠테이션(Presentation)과 클릭/드래그/드롭(Click/Drag/Drop) 효과를 구현하고, 권투/발차기/탁구/축구/펜싱/골프 등 3차원 액션게임의 입력장치로 이용할 수 있으며, 기존의 2,3차원 공간관련 정보를 컴퓨터에 입력하는 장치와 가상현실(Virtual Reality) 시스템에서 입력장치로 사용되는 신체 부착 장치들 및 인체의 운동내용이 게임내용과 직결되는 게임 시스템에서 기존의 조작 입력장치를대체할 수 있도록 된 신체와 신체가 조작하는 물체의 인입 선단부의 3차원 감지 시스템에 관한 것이다.On the other hand, the present invention replaces the mouse to implement the game, information search, kiosk control, presentation and click / drag / drop effects, boxing / kick / table tennis / It can be used as an input device for 3D action games such as soccer / fencing / golf, and it is a device for inputting existing 2D and 3D space related information into a computer and a body attachment device used as an input device in a virtual reality system. It relates to a three-dimensional sensing system of the body and the leading end of the object that the body manipulates to replace the existing operation input device in the game system in which the movement of the field and the human body is directly connected to the game content.

일반적으로, 사람(man)이 기계(machine)를 사용하거나 조작할 때 소위 입력장치를 이용하게 되는데, 이러한 입력장치는 맨-머신(man-machine) 인터페이스 수단의 일종이라고 볼 수 있다. 예를 들어, 컴퓨터를 사용할 때 사람은 키보드 혹은 마우스와 같은 입력장치를 이용하며, 게임기를 사용할 때는 조이스틱 혹은 핸들, 버튼과 같은 조작 입력수단을 이용한다.In general, when a man uses or manipulates a machine, a so-called input device is used, which can be regarded as a kind of man-machine interface means. For example, when using a computer, a person uses an input device such as a keyboard or a mouse, and when using a game machine, a joystick or a manipulation input means such as a handle or a button.

한편, 사용자가 마치 어떤 실제의 세계에 놓여 있는 것처럼 느낄 수 있도록 하는 가상현실(Virtual Reality) 시스템에서도 몸이나 손의 움직임을 감지하는 입력장치를 사용한다.On the other hand, a virtual reality system, which allows a user to feel as if lying in a real world, uses an input device that detects the movement of a body or a hand.

그런데, 상기와 같은 기존의 입력장치들에 있어서, 키보드 방향키와 마우스, 조이스틱, 터치스크린 등은 인체가 반드시 이들 입력장치에 접촉하여야 하는 사용상 불편함과, 상황에 따라 입력해야 할 공간정보와 입력장치의 작동이 직관적이지 못한 문제점과, 입력자의 입력행위가 입력장치의 기계적 한계에 의해 크게 제한을 받는 문제점 등을 가지고 있었다.However, in the existing input devices as described above, the keyboard direction keys, the mouse, the joystick, the touch screen, and the like are inconvenient in use when the human body must contact these input devices, and the space information and the input device to be input depending on the situation. There is a problem that the operation of is not intuitive and the input behavior of the inputter is greatly limited by the mechanical limitation of the input apparatus.

또한, 기존의 입력장치들에 있어서, 데이터 글러브(Data Globe), 신체에 부착되도록 변현된 마우스와 조이스틱, 모션캡쳐(Motion Capture)용 각종 신체부착 센서류(예; 광학식 마커(Marker), 자석 또는 자기장 센서) 및 공간위치 검출 시스템과 같은 가상현실 시스템에서 입력장치로 사용되는 신체 부착장치는, 그 모두가 신체에 부착하여야 하며 그 종류에 따라 부착이 매우 불편하고, 조작자가 바뀌는 경우 재 부착작업이 매우 번거로운 문제점이 있었다. 그리고, 여러사람이 동일 장치를 사용함에 따른 불쾌감을 일으키고, 모션캡쳐류 장비의 경우 그 가격이 매우 고가인 문제점이 있었다.In addition, in the existing input devices, a data globe, a mouse and a joystick transformed to be attached to the body, various body attachment sensors for motion capture (e.g., an optical marker, a magnet, or a magnetic field) Body attachment devices used as input devices in virtual reality systems, such as sensors) and spatial position detection systems, must all be attached to the body, and the attachment is very inconvenient depending on the type, and reattachment work is very difficult when the operator changes. There was a troublesome problem. In addition, many people cause discomfort due to the use of the same device, the motion capture equipment has a problem that the price is very expensive.

그리고, 기존의 입력장치들에 있어서, 전자접점류(예; 버튼, 키패드, 페달(Pedal), 등등), 조이스틱, 특정위치 검출 광센서와 같은 인체의 운동내용이 게임내용에 직결되는 컴퓨터 게임 조작 입력장치는, 게임에서의 캐릭터 운동 조작시 운동내용과 무관한 미리 정의된 전자식 접점을 눌러야 하는 문제점과; 운동내용과 조작자의 조작내용이 정의된 방식만을 따라해야만 하기 때문에 직관적이고 자연스럽지 못한 문제점과; 전자접점류 혹은 조이스틱의 경우 조작자의 신체가 반드시 접촉해야 하는 문제점과; 특정위치 검출 광센서의 경우 조작자가 접촉없이 운동을 행하기는 하나 실제 게임 내용과 불일치하는 운동을 하거나 다양한 운동명령이 가능하지 않고 특정행동만 가능한 문제점;이 있었다.And, in the existing input devices, computer game operations in which the movements of the human body such as electronic contact points (eg, buttons, keypads, pedals, etc.), joysticks, specific position detection optical sensors are directly connected to the game contents. The input device has a problem of pressing a predefined electronic contact that is irrelevant to the exercise contents during the character movement manipulation in the game; Intuitive and unnatural problems because the exercise content and the operator's operation content must follow only the defined manner; In case of electronic contact or joystick, the operator must contact the body; In the case of a specific position detection optical sensor, the operator performs the movement without contact, but there is a problem that only a specific action is possible without the movement or the various movement commands that are inconsistent with the actual game contents.

본 발명은 상기와 같은 문제점을 해결하기 위하여 창출된 것으로서, 신체 혹은 신체가 조작하는 물체의 인입(침입) 돌출부, 예를 들어 손끝, 발끝, 머리앞쪽, 테니스라켓 끝단 등 신체와 신체가 조작하는 물체의 맨앞쪽 (침입)부분, 즉 돌출부를 감지하는 소정의 공간을 카메라 혹은 센서로 형성하고 상기 공간에서 그 침입부분 혹은 상기 공간 내의 돌출부분의 3차원 위치, 각도, 속도, 각속도, 가속도, 각가속도 등을 감지하여 이를 입력신호화하여 컴퓨터의 입력장치, 가상현실시스템의입력장치 및 게임시스템 등의 입력장치 등으로 이용할 수 있게 함으로써, 조작자가 입력행위를 편리하고 직관적인 방법으로 수행할 수 있게 하고, 게임시 게임 조작자에게 입력행위에 따른 체감도 및 입력 만족도를 증대시킬 수 있도록 하고, 입력장치를 비접촉 비부착식 화하여 입력장치의 조작성을 증대시킴과 아울러 조작준비 시간을 단축시킬 수 있도록 한 신체와 신체가 조작하는 물체의 인입 선단부의 3차원 감지 시스템을 제공함에 그 목적이 있다.The present invention was created to solve the above problems, the body (or intrusion) protrusion of the body or the object manipulated by the body, for example, fingertips, toes, heads, tennis racket ends, such as the body and the object manipulated by the body A predetermined space for detecting the front (intrusion) portion of the projection, that is, the projection, is formed by a camera or a sensor, and the three-dimensional position, angle, speed, angular velocity, acceleration, angular acceleration, etc., of the intrusion or projection in the space. By detecting the input signal and making it an input signal, it can be used as an input device such as a computer input device, a virtual reality system input device, and a game system, so that an operator can perform the input operation in a convenient and intuitive manner. It is possible to increase game experience and input satisfaction according to the input behavior to game operators during the game. It is an object of the present invention to provide a three-dimensional sensing system of a body and a leading end of an object manipulated by the body to increase the operability of the input device and to shorten the preparation time for the operation.

본 발명의 다른 목적은 마우스를 대치하여 게임, 정보검색, 키오스크(Kiosk) 제어, 프리젠테이션(Presentation)과 클릭/드래그/드롭(Click/Drag/Drop) 효과를 구현하고, 권투/발차기/탁구/축구/펜싱/골프 등 3차원 액션게임 입력장치로 이용할 수 있으며, 기존의 2,3차원 공간관련 정보를 컴퓨터에 입력하는 장치와 가상현실(Virtual Reality) 시스템에서 입력장치로 사용되는 신체 부착 장치들 및 인체의 운동내용이 게임내용과 직결되는 게임 시스템에서 기존의 조작 입력장치를 대체할 수 있도록 된 신체와 신체가 조작하는 물체의 인입 선단부의 3차원 감지 시스템을 제공하는데 있다.Another object of the present invention is to replace the mouse to implement the game, information search, kiosk control, presentation and click / drag / drop effects, boxing / kick / table tennis It can be used as a 3D action game input device such as / soccer / fencing / golf, and it is a device for inputting existing 2D and 3D space related information into a computer and a body attachment device used as an input device in a virtual reality system. It is to provide a three-dimensional sensing system of the body and the leading end of the object that the body manipulates to replace the existing operation input device in the game system in which the movement contents of the field and the human body are directly connected to the game contents.

본 발명의 또 다른 목적은 아래와 같은 효과를 갖는 신체와 신체가 조작하는 물체의 인입 선단부의 3차원 감지 시스템을 제공하는데 있다.It is still another object of the present invention to provide a three-dimensional sensing system of a body having an effect as follows and a leading end of an object manipulated by the body.

- 입력자가 보다 현실감 있고, 입력할 정보 내용과 친밀하고 직관적인 상황으로 정보의 입력이 가능하다.-It is possible for the inputter to input information in a more realistic and intimate and intuitive context with the information to be input.

- 입력자가 아무런 장치도 부착하지 않은 상태에서 자연스럽고 직관적인 행동으로 입력자의 의지가 직결된 공간정보를 가상현실 시스템에 입력할 수 있다.-The user can input spatial information directly connected to the user's will through the virtual reality system with natural and intuitive behavior without any device attached.

- 조작자의 직관적이고 자연스러운 행동에 따른 가상현실의 체감효과를 극대화시킨다.-Maximize the haptic effect of virtual reality according to the operator's intuitive and natural behavior.

- 게임내용과 직결된 형태로 조작자가 운동을 하게 되어 조작자가 쉽고 편리하게 게임을 즐길 수 있다.-The operator can exercise in a form directly related to the contents of the game so that the operator can easily and conveniently enjoy the game.

- 게임을 통한 조작자의 운동효과의 목적이 있는 경우 이를 자연스럽게 달성할 수 있다.-If the purpose of the movement effect of the operator through the game can be achieved naturally.

- 체감게임의 경우, 그 체감효과를 극대화시킬 수 있다.-In case of haptic game, the haptic effect can be maximized.

- 조작자의 의지와 컴퓨터 시스템의 작동상황이 직결된 형태로 조작자가 입력행위를 수행할 수 있다.-The operator can perform the input action in a form that is directly related to the operator's will and the operation of the computer system.

- 조작의 자연스러움, 직결성, 편이성, 조작법 학습 용이성을 달성한다.-Achieve naturalness, directness, ease of use and ease of learning of manipulation.

도 1은 본 발명에 따른 신체와 신체가 조작하는 물체의 인입 선단부의 3차원 감지 시스템의 제1 실시예의 구성도.BRIEF DESCRIPTION OF THE DRAWINGS Fig. 1 is a block diagram of a first embodiment of a three-dimensional sensing system of a body and a leading end of an object manipulated by the body according to the present invention.

도 2는 본 발명에 따른 신체와 신체가 조작하는 물체의 인입 선단부의 3차원 감지 시스템의 제2 실시예의 구성도.Figure 2 is a block diagram of a second embodiment of the three-dimensional sensing system of the body and the leading end of the object according to the present invention the body manipulated.

도 3은 2대의 카메라에 의해 형성된 인입(침입) 선단부(끝단)를 감지하는 공간의 개념도.3 is a conceptual view of a space for detecting an inlet (intrusion) tip (end) formed by two cameras.

도 4a는 본 발명에 따른 2차원(2D) 발광/수광 센서 어레이에 의해 형성된 인입 선단부를 감지하는 공간의 개념도.Figure 4a is a conceptual diagram of a space for detecting the leading end formed by the two-dimensional (2D) light emission / light reception sensor array according to the present invention.

도 4b는 본 발명에 따른 광센서들이 m*n 매트릭스 형태로 구성된 2차원 발광/수광 센서 어레이의 일실시예도.Figure 4b is an embodiment of a two-dimensional light emitting / light receiving sensor array in which the optical sensors according to the present invention in the form of an m * n matrix.

도 5는 본 발명 신체와 신체가 조작하는 물체의 인입 선단부의 3차원 감지 시스템의 적용 개념도.Figure 5 is a conceptual view of the application of the three-dimensional sensing system of the leading end of the present invention body and the object manipulated by the body.

도 6은 본 발명에 따른 신체와 신체가 조작하는 물체의 인입 선단부를 인식하는 알고리즘 흐름도.6 is an algorithm flow diagram for recognizing the body and the leading end of the object manipulated by the body according to the present invention.

도 7은 본 발명에 따른 신체와 신체가 조작하는 물체의 다양한 인입 선단부의 위치 검출 예시도.7 is an exemplary view of detecting the position of various leading ends of a body and an object manipulated by the body according to the present invention.

도 8은 본 발명에 따른 3차원 감지 시스템이 3차원 공간 마우스 입력장치로 적용되는 경우의 예시도.8 is an exemplary diagram when a three-dimensional sensing system according to the present invention is applied as a three-dimensional space mouse input device.

도 9는 본 발명에 따른 3차원 감지 시스템이 액션게임의 입력장치로 적용되는 경우의 예시도.Figure 9 is an illustration of a case where the three-dimensional sensing system according to the present invention is applied as an input device of the action game.

도 10은 본 발명에 따라 해당 물체의 위치 자세 정보를 구하기 위한 예시도.10 is an exemplary view for obtaining the positional posture information of the object in accordance with the present invention.

<도면의 주요부분에 대한 부호의 설명><Description of the code | symbol about the principal part of drawing>

1 : 인입선단부 감지공간10,20 : 카메라1: Inlet end detection space 10, 20: Camera

30,40 : 광센서 어레이60 : 신체(물체)30,40: optical sensor array 60: body (object)

70 : 선단(끝단)100 : 모듈70: tip (end) 100: module

110 : 영상신호 획득부115 : 광 송수신 어레이 제어부110: image signal acquisition unit 115: optical transmission and reception array control unit

120 : 영상 처리부125 : 잡음신호 제거부120: image processing unit 125: noise signal removal unit

130 : 선단정보 추출부140 : 선단정보 보정부130: tip information extraction unit 140: tip information correction unit

150 : 선단정보 출력부160 : 선단정보 해석 이용부150: tip information output unit 160: tip information analysis unit

200 : 관련장치(컴퓨터)200: related device (computer)

상기 목적을 달성하기 위한 본 발명에 따른 제1 실시예의 신체와 신체가 조작하는 물체의 인입돌출부를 3차원으로 감지하는 시스템은,In order to achieve the above object, a system for sensing a body and an incoming protrusion of an object manipulated by the body of the first embodiment in three dimensions is provided.

그 공간영역 내에 있는 신체와 신체가 조작하는 물체의 선단부(끝단)를 감지하도록 소정의 공간영역을 형성하는 공간형성 수단과; 상기 공간형성 수단에 의해 감지된 영상신호를 획득하기 위한 영상신호 획득수단과; 상기 영상신호 획득수단에 의해 획득된 상기 영상신호를 데이터 처리하기 위한 영상처리 수단과; 상기 영상처리 수단에 의해 처리된 데이터에서 상기 물체의 선단부에 대한 정보를 추출하기 위한 물체 선단정보 추출수단과; 상기 물체 선단정보 추출수단에 의해 추출된 상기물체의 선단 정보를 보정하기 위한 선단정보 보정수단과; 상기 선단정보 보정수단을 경유한 물체의 선단 정보를 이 선단 정보를 이용하는 컴퓨터와 같은 관련장치로 출력하는 선단정보 출력수단과; 상기 컴퓨터와 같은 관련장치에 설치되어 상기 물체의 선단 정보가 상기 관련장치에 적용되어 이용되도록 하기 위한 선단정보 해석 이용수단;을 포함하고,Space forming means for forming a predetermined space area so as to sense a body within the space area and a tip (end) of an object manipulated by the body; Image signal acquiring means for acquiring an image signal sensed by the space forming means; Image processing means for data processing the video signal acquired by the video signal obtaining means; Object tip information extracting means for extracting information on the tip of the object from data processed by the image processing means; Tip information correction means for correcting tip information of the object extracted by the object tip information extraction means; Tip information output means for outputting tip information of the object via the tip information correction means to an associated device such as a computer using the tip information; A tip information analyzing and using means installed in an associated device such as the computer so that the tip information of the object is applied to and used in the related device.

상기 선단정보는 해당 물체의 소정의 벡터 정보와 연관되어 상기 해당 물체의 위치 자세 정보를 구하는데 이용되도록 된 점에 그 특징이 있다.The tip information is characterized in that it is used to obtain position attitude information of the object in association with predetermined vector information of the object.

본 발명 제1 실시예의 바람직한 실시예에 있어서, 상기 공간형성 수단은 상기 공간영역을 형성하는 X-Z좌표 영역을 촬영하는 제1 카메라와, Y-Z좌표 영역을 촬영하는 제2 카메라를 포함한다.In a preferred embodiment of the first embodiment of the present invention, the space forming means includes a first camera for photographing the X-Z coordinate region forming the space region, and a second camera for photographing the Y-Z coordinate region.

그리고, 상기 목적을 달성하기 위한 본 발명에 따른 제2 실시예의 신체와 신체가 조작하는 물체의 인입돌출부를 3차원으로 감지하는 시스템은,And, in order to achieve the above object the system of the second embodiment according to the present invention and the system for sensing the incoming projection of the object manipulated by the body in three dimensions,

소정의 공간영역을 형성하여 그 공간영역 내에 있는 신체와 신체가 조작하는 물체의 선단부(끝단)를 감지하도록 복수개의 발광 센서와 수광 센서가 매트릭스 배열의 어레이 구조로 된 공간형성 수단과; 상기 어레이 구조의 발광 센서와 수광 센서의 광 송수신을 제어하는 광 송수신 어레이 제어수단과; 상기 어레이 제어수단에서 출력된 상기 물체의 선단부와 관련한 신호에 포함된 잡음신호를 제거하기 위한 잡음신호 제거수단과; 상기 잡음신호 제거수단을 경유한 상기 신호에서 상기 물체의 선단부에 대한 정보를 추출하기 위한 물체 선단정보 추출수단과; 상기 물체 선단정보 추출수단에 의해 추출된 상기 물체의 선단 정보를 보정하기 위한 선단정보보정수단과; 상기 선단정보 보정수단을 경유한 물체의 선단정보를 이 선단정보를 이용하는 컴퓨터와 같은 관련장치로 출력하는 선단정보 출력수단과; 상기 컴퓨터와 같은 관련장치에 설치되어 상기 물체의 선단 정보가 상기 관련장치에 적용되어 이용되도록 하기 위한 선단정보 해석 이용수단;을 포함하고,Space forming means in which a plurality of light emitting sensors and light receiving sensors have an array structure of a matrix arrangement so as to form a predetermined spatial region and detect a front end (end) of the body and the object manipulated by the body in the spatial region; Optical transmission and reception array control means for controlling the optical transmission and reception of the light emitting sensor and the light receiving sensor of the array structure; Noise signal removing means for removing a noise signal included in a signal related to the tip of the object output from the array control means; Object tip information extracting means for extracting information on a tip of the object from the signal via the noise signal removing means; Tip information correction means for correcting tip information of the object extracted by the object tip information extraction means; Tip information output means for outputting tip information of the object via the tip information correction means to an associated device such as a computer using the tip information; A tip information analyzing and using means installed in an associated device such as the computer so that the tip information of the object is applied to and used in the related device.

상기 선단정보는 해당 물체의 소정의 벡터 정보와 연관되어 상기 해당 물체의 위치 자세 정보를 구하는데 이용되도록 된 점에 그 특징이 있다.The tip information is characterized in that it is used to obtain position attitude information of the object in association with predetermined vector information of the object.

본 발명 제2 실시예의 바람직한 실시예에 있어서, 상기 공간형성 수단은,In a preferred embodiment of the second embodiment of the present invention, the space forming means,

상기 공간영역을 형성하는 X-Z좌표 영역을 형성하기 위해 복수개의 발광 센서가 매트릭스 배열로 구성된 제1 발광 어레이부와, 상기 제1 발광 어레이부와 대향되게 설치되며 복수개의 수광 센서가 매트릭스 배열로 구성된 제1 수광 어레이부로 이루어진 X-Z좌표 영역 형성 어레이부와; 상기 공간영역을 형성하는 Y-Z좌표 영역을 형성하기 위해 복수개의 발광 센서가 매트릭스 배열로 구성된 제2 발광 어레이부와, 상기 제2 발광 어레이부와 대향되게 설치되며 복수개의 수광 센서가 매트릭스 배열로 구성된 제2 수광 어레이부로 이루어진 Y-Z좌표 영역 형성 어레이부;를 포함한다.A first light emitting array unit having a plurality of light emitting sensors arranged in a matrix array to form an XZ coordinate region forming the spatial region, and a first light emitting array unit facing the first light emitting array unit and having a plurality of light receiving sensors arranged in a matrix array; An XZ coordinate region forming array portion comprising one light receiving array portion; A second light emitting array unit having a plurality of light emitting sensors arranged in a matrix array to form a YZ coordinate region forming the spatial region, and a plurality of light receiving sensors arranged in a matrix array opposite to the second light emitting array unit; And a YZ coordinate region forming array portion including two light receiving array portions.

이하, 첨부한 도면을 참조하면서 본 발명에 따른 신체와 신체가 조작하는 물체의 인입 선단부의 3차원 감지 시스템의 바람직한 실시예를 상세하게 설명한다.Hereinafter, with reference to the accompanying drawings will be described in detail a preferred embodiment of the three-dimensional sensing system of the body and the leading end of the object manipulated by the body according to the present invention.

도 1은 본 발명에 따른 신체와 신체가 조작하는 물체의 인입선단부의 3차원 감지 시스템의 제1 실시예의 구성도이고, 도 2는 본 발명에 따른 신체와 신체가 조작하는 물체의 인입선단부의 3차원 감지 시스템의 제2 실시예의 구성도이다. 도 3은 2대의 카메라에 의해 형성된 인입(침입) 선단부(끝단)를 감지하는 공간의 구성도이고, 도 4a는 2차원(2D) 발광/수광 센서 어레이에 의해 형성된 인입 선단부를 감지하는 공간의 구성도, 도 4b는 광센서(예; 적외선 다이오드)들이 m*n 매트릭스 형태로 구성된 2차원 발광/수광 센서 어레이의 일실시예도이다.1 is a block diagram of a first embodiment of a three-dimensional sensing system of the body and the leading end of the object manipulated by the body according to the present invention, Figure 2 is a 3 of the leading end of the body and the body manipulated in accordance with the present invention The configuration diagram of the second embodiment of the dimensional sensing system. 3 is a configuration diagram of a space for detecting an inlet (intrusion) tip (end) formed by two cameras, and FIG. 4A is a configuration of a space for detecting an inlet tip formed by a two-dimensional (2D) light emission / reception sensor array. FIG. 4B is an embodiment diagram of a two-dimensional light emission / reception sensor array in which light sensors (eg, infrared diodes) are configured in an m * n matrix.

도 5는 본 발명 신체와 신체가 조작하는 물체의 인입선단부의 3차원 감지 시스템의 적용 개념도이고, 도 6은 본 발명에 따른 신체와 신체가 조작하는 물체의 인입 선단부를 인식하는 알고리즘 흐름도이고, 도 7은 본 발명에 따른 신체와 신체가 조작하는 물체의 다양한 인입 선단부의 위치 검출 예시도, 도 8은 본 발명에 따른 3차원 감지 시스템이 3차원 공간 마우스 입력장치로 적용되는 개념도, 도 9는 본 발명에 따른 3차원 감지 시스템이 액션게임의 입력장치로 적용되는 개념도이다. 도 10은 본 발명에 따라 해당 물체의 위치 자세 정보를 구하기 위한 예시도이다.FIG. 5 is a conceptual diagram illustrating a three-dimensional sensing system of the body and the leading end of an object manipulated by the body of the present invention, and FIG. 6 is an algorithm flow diagram for recognizing the leading end of the body and the body of the body operated by the present invention. 7 is a diagram illustrating a position detection of various leading ends of a body and an object manipulated by the body according to the present invention. FIG. 8 is a conceptual diagram in which a three-dimensional sensing system according to the present invention is applied as a three-dimensional space mouse input device. 3D sensing system according to the invention is a conceptual diagram applied to the input device of the action game. 10 is an exemplary diagram for obtaining positional posture information of a corresponding object according to the present invention.

먼저, 도 1과 도 3 및 도 6을 참조하면, 본 발명 제1 실시예의 시스템은 공간영역(1) 내에 있는 신체(60)와 신체가 조작하는 물체(60)(이하, 신체와 신체가 조작하는 물체는 "물체"라 약칭한다), 바람직하게는 물체(60)의 선단부(끝단)(70)를 감지하도록 소정의 3차원 공간영역 (A-B-C-D-E-F-G)(1)을 형성하는 2대의 카메라(10)(20)를 포함한다. 이 카메라(10)(20)는 신체를 포함한 물체(60)를 감지할 수 있는 어떤 것이라도 상관없지만 바람직하게는 CCD 카메라를 사용한다. 여기서, 2대의 카메라(10)(20)중 그 하나는 도시한 바와 같이 해당 공간영역(1)의 X-Z좌표 영역을 촬영 감지하고, 다른 하나는 해당 공간영역(1)의 Y-Z좌표 영역을 촬영 감지한다. 2대의 카메라(10)(20)의 배치는 직각으로 하는 것이 바람직하지만 다른 각도로배치하여도 상관없다. 이는 카메라(10)(20)에 의한 영상정보를 각도 배치에 따른 수학적인 계산을 통하여 얻기 때문이다.First, referring to Figures 1, 3 and 6, the system of the first embodiment of the present invention is the body 60 in the space region 1 and the object 60 (manipulated by the body and body) to be manipulated Object is abbreviated as " object ", preferably two cameras 10 forming a predetermined three-dimensional space area (ABCDEFG) 1 so as to sense the tip (end) 70 of the object 60. And 20. The cameras 10 and 20 may be anything that can detect an object 60 including a body, but preferably a CCD camera is used. Here, one of the two cameras 10 and 20 photographs and detects the XZ coordinate region of the corresponding spatial region 1 as illustrated, and the other photographs and detects the YZ coordinate region of the corresponding spatial region 1. do. The two cameras 10 and 20 are preferably arranged at right angles, but may be arranged at different angles. This is because the image information obtained by the cameras 10 and 20 is obtained through mathematical calculation according to the angle arrangement.

그리고, 본 발명 제1 실시예의 시스템은, 2대의 카메라(10)(20)에 의해 감지된 영상신호를 획득하기 위한 영상신호 획득부(110)와, 이 영상신호 획득부(110)에 의해 획득된 상기 영상신호를 소정의 영상처리 이론을 적용하여 데이터 처리하기 위한 영상처리부(120)와, 영상처리부(120)에 의해 처리된 데이터에서 대상 물체(60)의 선단부(70)에 대한 정보를 추출하기 위한 물체 선단정보 추출부(130)와, 물체 선단정보 추출부(130)에 의해 추출된 대상 물체(60)의 선단정보를 적절히 보정하기 위한 선단정보 보정부(140)와, 선단정보 보정부(140)을 경유한 물체의 선단정보를 이 선단정보를 이용하는 컴퓨터 시스템과 같은 관련장치(200)로 출력하는 선단정보 출력부(150), 및 컴퓨터 시스템과 같은 관련장치(200)에 설치되어 대상 물체(60)의 선단정보가 관련장치(200)에 적용되어 이용되도록 하기 위한 선단정보 해석 이용부(160)를 포함하여 구성된다. 여기서, 상기 선단정보 해석 이용부(160)는 바람직하게 소정의 알고리즘이 프로그램화된 프로그램(소프트웨어) 패키지(Package)일 수 있으며, 상기 각 부(110..160)는 통합되어 하나의 독립적인 모듈(100)로 바람직하게 구성될 수 있다.In addition, the system of the first embodiment of the present invention includes an image signal acquisition unit 110 for acquiring image signals sensed by two cameras 10 and 20 and the image signal acquisition unit 110. Extracts information about the front end portion 70 of the target object 60 from the image processing unit 120 and data processed by the image processing unit 120 to apply the predetermined image processing theory. An object tip information extraction unit 130, a tip information correction unit 140 for properly correcting the tip information of the target object 60 extracted by the object tip information extraction unit 130, and a tip information correction unit The tip information output unit 150 for outputting the tip information of the object via 140 to the related device 200 such as a computer system using the tip information, and the related device 200 such as a computer system The tip information of the object 60 is applied to the related device 200 It is configured to include the tip information analysis using unit 160 to be used. Here, the tip information analysis using unit 160 may preferably be a program (software) package in which a predetermined algorithm is programmed, and each unit 110..160 is integrated to form one independent module. It may be preferably composed of (100).

도 2와 도 4 및 도 5를 참조하면, 본 발명의 제2 실시예의 시스템은, 소정의 공간영역(1)을 형성하여 그 공간영역(1) 내에 있는 물체(60)의 선단부(70)를 감지하도록 복수개의 발광 센서(t)와 수광 센서(r)가 각각 매트릭스 배열(예; m*n 매트릭스, m과 n은 정수)의 어레이 구조로 된 발광/수광센서 매트릭스어레이(30t)(40t)(30r)(40t)를 포함한다.2, 4, and 5, the system of the second embodiment of the present invention forms a predetermined spatial region 1 and defines the tip 70 of the object 60 within the spatial region 1. A light emitting / receiving sensor matrix array 30t (40t) in which a plurality of light emitting sensors t and a light receiving sensor r each have an array structure of a matrix array (e.g., m * n matrix, m and n are integers) for sensing. 30r and 40t.

본 발명 제1 실시예의 공간영역과 제2 실시예의 공간영역은 모두 물체(60) 및 물체(60)의 끝단(70)을 측정하는 대상공간, 즉 인입 선단부 감지공간(1)인 육면체(A-B-C-D-E-F-G-H)의 직각인 두 면을 이용하여 영상정보를 얻는 측면에서는 동일하다. 즉, 제1 실시예에서 카메라(10)(20)를 이용하는 경우에는 카메라(10)(20)의 화면 가로/세로 해상도를 예를 들어 m,n이라 하면, m*n 화면 해상도의 영상정보를 얻는 것이고, 광센서 매트릭스 어레이(30)(40)를 이용하는 경우에는 한면에 배열된 광센서(적외선 다이오드)(r)(t)의 가로/세로 배치 갯수를 m,n이라 하면, m*n 화면 해상도의 영상정보를 얻는 것이다.The spatial area of the first embodiment of the present invention and the spatial area of the second embodiment both have a cube (ABCDEFGH) which is an object space for measuring the object 60 and the end 70 of the object 60, that is, the inlet tip detection space 1. It is the same in terms of obtaining image information using two sides perpendicular to. That is, in the case of using the cameras 10 and 20 in the first embodiment, when the screen horizontal / vertical resolution of the cameras 10 and 20 is m, n, for example, image information of m * n screen resolution is obtained. In the case of using the optical sensor matrix arrays 30 and 40, the m / n screen is assumed when the number of horizontal and vertical arrangements of the optical sensors (infrared diodes) r and t arranged on one surface is m and n. It is to obtain the image information of the resolution.

그리고, 본 발명 제2 실시예는, 상기 어레이 구조의 발광 센서(t)들과 수광 센서(r)들의 광 송수신을 제어하는 광 송수신 어레이 제어부(115)와; 어레이 제어부(115)에서 출력된 물체(60)의 선단부(70)와 관련한 신호에 포함된 잡음신호를 제거하기 위한 잡음신호 제거부(125)와; 잡음신호 제거부(125)를 경유한 상기 신호에서 물체(60)의 선단부(70)에 대한 정보를 추출하기 위한 물체 선단정보 추출부(130)와; 물체 선단정보 추출부(130)에 의해 추출된 상기 물체의 선단 정보를 보정하기 위한 선단정보 보정부(140)와; 선단정보 보정부(140)를 경유한 물체(60)의 선단정보를 이 선단정보를 이용하는 컴퓨터와 같은 관련장치(200)로 출력하는 선단정보 출력부(150)와; 상기 컴퓨터와 같은 관련장치(200)에 설치되어 물체(60)의 선단정보가 상기 관련장치(200)에 적용되어 이용되도록 하기 위한 선단정보 해석 이용부(160);를 포함하여 구성된다.In addition, the second embodiment of the present invention, the optical transmission and reception array control unit 115 for controlling the optical transmission and reception of the light emitting sensors (t) and the light receiving sensors (r) of the array structure; A noise signal removing unit 125 for removing a noise signal included in a signal related to the front end portion 70 of the object 60 output from the array control unit 115; An object tip information extracting unit 130 for extracting information on the tip 70 of the object 60 from the signal via the noise signal removing unit 125; A tip information correction unit 140 for correcting tip information of the object extracted by the object tip information extraction unit 130; A tip information output unit 150 for outputting tip information of the object 60 via the tip information correction unit 140 to an associated device 200 such as a computer using the tip information; And a tip information analysis using unit 160 installed in the related device 200 such as the computer so that the tip information of the object 60 is applied to and used in the related device 200.

상기한 선단정보 추출부(130)와, 선단정보 보정부(140), 선단정보 출력부(150) 및 선단정보 해석 이용부(160)는 본 발명 시스템의 제1,2 실시예 모두에 동일하게 적용된다.The tip information extracting unit 130, the tip information correcting unit 140, the tip information output unit 150, and the tip information analysis using unit 160 are the same in both the first and second embodiments of the present system. Apply.

본 발명 제2 실시예의 발광/수광센서 매트릭스 어레이는, 인입선단부 감지공간(1)을 형성하는 X-Z좌표 영역을 형성하기 위해 복수개의 발광 센서(t)가 매트릭스 배열로 구성된 제1 발광 어레이부(30t)와, 제1 발광 어레이부(30t)와 대향되게 설치되며 복수개의 수광 센서(r)가 매트릭스 배열로 구성된 제1 수광 어레이부(30r)로 이루어진 X-Z좌표 영역 형성 어레이부(30)와; 인입선단부 감지공간(1)을 형성하는 Y-Z좌표 영역을 형성하기 위해 복수개의 발광 센서(t)가 매트릭스 배열로 구성된 제2 발광 어레이부(40t)와, 제2 발광 어레이부(40t)와 대향되게 설치되며 복수개의 수광 센서(r)가 매트릭스 배열로 구성된 제2 수광 어레이부(40)로 이루어진 Y-Z좌표 영역 형성 어레이부(40);로 구성된다.In the light emitting / light receiving sensor matrix array of the second embodiment of the present invention, the first light emitting array unit 30t having a plurality of light emitting sensors t formed in a matrix array to form an XZ coordinate region forming the leading end sensing space 1. And an XZ coordinate region forming array portion 30 which is provided to face the first light emitting array portion 30t and includes a first light receiving array portion 30r in which a plurality of light receiving sensors r are arranged in a matrix arrangement; In order to form the YZ coordinate region that forms the leading end sensing space 1, the plurality of light emitting sensors t are arranged to face the second light emitting array unit 40t and the second light emitting array unit 40t in a matrix arrangement. And a YZ coordinate region forming array unit 40 having a plurality of light receiving sensors r formed of a second light receiving array unit 40 formed in a matrix array.

도 1 및 도 2에서 미설명된 도면부호 210은 컴퓨터 시스템 혹은 게임기와 같은 본 발명과 관련되어 사용되는 관련장치(200)의 주변기기이고, 220은 모니터와 같은 관련장치(200)의 디스플레이부이고, 230은 가상현실을 체험하기 위해 착용될 수 있는 HMD(Head Mounted Display)이다.Reference numeral 210, which is not described in FIG. 1 and FIG. 2, is a peripheral device of the related device 200 used in connection with the present invention, such as a computer system or a game machine, and 220 is a display unit of the related device 200 such as a monitor. 230 is a head mounted display (HMD) that can be worn to experience virtual reality.

상기와 같이 구성된 본 발명 신체와 신체가 조작하는 물체의 인입 선단부의 3차원 감지 시스템의 작용을 도 1 내지 도 9를 참조하여 설명한다.The operation of the three-dimensional sensing system of the present invention configured as described above and the leading end of the object manipulated by the body will be described with reference to FIGS. 1 to 9.

먼저, 도 5를 참조하면 사람(m)이 본 발명에 의해 형성된 인입선단부 감지공간(1)에 손가락 같은 신체부분을 넣으면, 신체부분을 넣는 순간 인입선단부 감지공간(1)을 형성하는 카메라(10)(20) 혹은 광센서 어레이(30)(40)에 의해 상기 감지공간(1) 영역에 침입(인입)한 또는 상기 감지공간(1) 내에 있는 신체(60)의 해당 부분, 즉 돌출부분이 감지된다.First, referring to FIG. 5, when a person (m) puts a body part such as a finger into the leading edge detecting space 1 formed by the present invention, the camera 10 forms the leading edge detecting space 1 at the moment of inserting the body portion. 20 or the corresponding part of the body 60 that is intruded into the sensing space 1 area by the optical sensor array 30 or 40 or in the sensing space 1, that is, the protruding portion Is detected.

상기와 같이 해서 감지된 신체(60)의 해당 부분에 대한 영상 혹은 신호는, 제1 실시예의 경우는 영상신호 획득부(110)에 의해 획득되어 영상 처리부(120)에 의해 처리되고, 제2 실시예의 경우는 광송수신 어레이 제어부(115)에 의해 제어되어 잡음신호 제거부(125)에서 신호에 포함된 잡음신호가 제거된다.In the first embodiment, the image or the signal of the corresponding part of the body 60 detected as described above is acquired by the image signal acquisition unit 110 and processed by the image processing unit 120. In the example, the noise signal included in the signal is controlled by the optical transmission / reception array controller 115 to remove the noise signal included in the signal.

제1 실시예의 영상 처리부(120)에 의해 처리된 신체(60)의 해당부분에 대한 정보와, 제2 실시예의 잡음신호 제거부(125)에 의해 잡음신호가 제거된 신체(60)의 해당부분에 대한 정보 각각은, 모두 선단(끝단) 정보 추출부(130)에 의해 해당 신체부분의 선단 정보가 추출된다.Information on the corresponding part of the body 60 processed by the image processor 120 of the first embodiment and the corresponding part of the body 60 from which the noise signal is removed by the noise signal removing unit 125 of the second embodiment. For each piece of information about the tip, the tip information extraction unit 130 extracts tip information of the corresponding body part.

도 6을 참조하면, 도시한 바와 같이 인입 선단부 감지공간(1)에 들어온 신체(60)의 해당 부분은 바람직하게 평면(X-Z)와 측면(Y-Z)로 구분되어 화상처리 이론에 따라 그 선단위치(Px,Py,Pz)가 파악된다.Referring to FIG. 6, the corresponding part of the body 60 entering the leading end sensing space 1 as shown in FIG. 6 is preferably divided into a plane XZ and a side YZ, and according to the image processing theory, Px, Py, Pz) is found.

선단 정보 추출부(130)에서 추출된 선단 정보와 선단 위치 정보는 보다 정확한 정보 처리를 위해 선단 정보 보정부(140)에 입력된다. 선단 정보 보정부(140)에 입력된 선단 정보는 카메라(10)(20)의 뷰(View) 각도 보정계산 혹은 광센서 어레이(30)(40)의 위치 보정계산을 거쳐 선단 정보 출력부(150)에 입력된다.The tip information and the tip position information extracted by the tip information extractor 130 are input to the tip information corrector 140 for more accurate information processing. The tip information inputted to the tip information correcting unit 140 is obtained through the view angle correction calculation of the cameras 10 and 20 or the position correction calculation of the optical sensor arrays 30 and 40. ) Is entered.

선단 정보 출력부(150)에 입력된 보정계산된 선단 정보는 3차원 공간상에 해당하는 선단정보(Qx,Qy,Qz; 도 6)로 계산되어 선단정보 해석 이용부(160)에 입력된다.The calibrated tip information input to the tip information output unit 150 is calculated as tip information (Qx, Qy, Qz; FIG. 6) corresponding to a three-dimensional space and input to the tip information analysis using unit 160.

상기한 선단정보(Qx,Qy,Qz)의 각도 계산은 바람직하게 선단정보 2개를 추적(trace)하여 벡터 2개를 얻은 다음 이들에 대한 평균값을 취해 구할 수 있음은 당업자에게 자명할 것이다.It will be apparent to those skilled in the art that the above-described angle calculation of the tip information Qx, Qy, and Qz can be obtained by tracing two tip information, obtaining two vectors, and then taking an average of them.

상기와 같이 선단 정보 출력부(150)에서 처리된 선단 정보(Qx,Qy,Qz)가 통상 본 발명 시스템을 입력장치로 사용하게 되는 컴퓨터와 같은 관련장치(200)에 내장되어 사용되는 선단정보 해석 이용부(160)에 입력되면, 선단정보 해석 이용부(160)는 도 8과 도 9에 도시한 바와 같이 관련장치(200)에서 3차원 공간 마우스 혹은 게임기의 입력장치로 이용될 수 있게 처리한다.Tip information analysis, which is processed in the tip information output unit 150 as described above, is embedded in a related device 200 such as a computer that normally uses the system of the present invention as an input device. When input to the use unit 160, the tip information analysis using unit 160 is processed so that it can be used as the input device of the three-dimensional space mouse or game machine in the associated device 200, as shown in Figs. .

즉, 도 8을 참조하면, 본 발명 시스템이 3차원 공간 마우스로 사용되는 경우 사용자가 인입선단 감지공간(1)내에서 도시한 바와 같이 손(60)을 넣어 손가락 끝(70)을 움직이다가(cursor move) 안쪽으로 넣고(button down; click) 빼면(button up), 이는 실제 마우스를 이용할 때 커서를 움직이다가 클릭하고 클릭상태를 해제하는 것과 같게 되는 것이다. 또한, 손가락 끝(70)을 안쪽으로 넣은 상태(button down; click) 상태에서 움직이다가(drag) 바깥쪽으로 빼면(button up; drop), 이는 실제 마우스를 이용할 때 마우스를 클릭한 상태에서 드래그하다가 드롭하는 것과 같게 된다.That is, referring to FIG. 8, when the system of the present invention is used as a three-dimensional space mouse, the user moves the fingertip 70 by inserting the hand 60 as shown in the inlet sensing space 1. (cursor move) If you put it down (button down; click) and button up, it becomes the same as moving the cursor, clicking and releasing the click state when using the actual mouse. In addition, when the fingertip 70 is moved in a button down (click) state and then dragged out (button up; drop), it is possible to click and drag the mouse when using a real mouse. It's like dropping.

그리고, 도 5와 도 9를 참조하면, 게임기와 같은 관련장치(200)와 연관하여 본 발명 시스템이 사용될 때, 게임 플레이어(조작자)(m)가 인입선단부 감지공간(1)에서 주먹을 휘두르면, 조작자(m)의 주먹끝 위치 입력 신호와 연동하여 게임기의모니터(7) 화면에 표출되는 가상의 주먹이 움직이게 되어 권투와 같은 게임을 실감나게 할 수 있다. 도 5와 9에서 조작자(m)의 주먹끝 위치와 연동하여 게임기의 모니터 화면에 표출되는 가상의 주먹과, 상대방 캐릭터는 널리 알려진 공지공용의 기술을 이용하여 게임기 제작시 용이하게 만들 수 있음은 당업자에게 자명할 것이고, 이는 본 발명의 범주를 벗어나는 것이므로 이에 대한 상세한 설명은 생략한다.5 and 9, when the present system is used in connection with an associated device 200 such as a game machine, when a game player (operator) m makes a fist in the leading end detection space 1, The virtual fist displayed on the monitor 7 screen of the game machine moves in conjunction with the fist-tip position input signal of the operator m, so that a game such as boxing can be realized. 5 and 9, the virtual fist displayed on the monitor screen of the game machine in conjunction with the fist position of the operator (m), and the opponent character can be easily made during the production of the game machine using a well-known and publicly known technology. It will be apparent to those skilled in the art, which is beyond the scope of the present invention and a detailed description thereof will be omitted.

한편, 본 발명 시스템은 도 7에 도시한 바와 같이 머리(60)의 끝단(70)과 발끝(70)을 검출함으로써 축구와 같은 게임기에서도 실감나게 이용될 수 있고, 테니스 라켓(60)의 끝단(70)을 검출함으로써 테니스 게임기에 바람직하게 적용될 수 있음은 물론이다.On the other hand, the system of the present invention can be used realistically even in a game machine such as football by detecting the tip 70 and the tip of the head 60, as shown in Figure 7, the end of the tennis racket 60 ( 70) can be preferably applied to a tennis game machine.

그리고, 본 발명에 따르면, 지금까지 설명한 물체의 인입선단부 정보를 토대로 해서 해당 물체의 자세 및 위치를 측정할 수 있는데, 이에 대해 설명하면 다음과 같다.Further, according to the present invention, the posture and the position of the object can be measured based on the leading edge information of the object described so far, which will be described below.

도 10을 참조하면, 물체의 선단부(A)(70; 도6) 정보를 전술한 바와 같이 구한 다음, 이 물체의 선단부(A) 정보를 이용하거나 아니면 별개의 계산 처리과정을 거쳐 도시한 바와 같이 해당 물체(60)의 외곽부에 해당하는 소정길이(일정길이)의 벡터(B, C)를 구한다. 상기 해당 물체(60)의 외곽부에 해당하는 벡터(B, C)를 구함에 있어, 도시한 바와 같이 2개의 벡터를 구하는 것이 바람직하지만 본 발명 각 부(130..150)에서 처리되는 계산의 간략화, 고속화를 위해 1개의 벡터를 구해도 상관없다.Referring to FIG. 10, the information of the tip A (70) of the object (70) is obtained as described above, and then the information of the tip A of the object is used or otherwise shown through a separate calculation process. The vectors B and C of a predetermined length (constant length) corresponding to the outer portion of the object 60 are obtained. In obtaining the vectors B and C corresponding to the outer portion of the object 60, it is preferable to obtain two vectors as shown in the figure. One vector may be obtained for the sake of simplicity and speed.

도 10에서 해당 물체(60)의 외곽부에 해당하는 전체길이의 벡터 대신 일정길이의 벡터를 구하는 이유는 해당 물체(60)의 길이(또는, 크기)는 본 발명 시스템 설정시 이미 알고 있는 정보이기 때문이다. 즉, 해당 물체(60)는 본 발명 시스템과 연관되어 이용될 물체이거나 아니면 해당 물체들의 통계적인 평균치를 설정할 수 있기 때문에 계산의 복잡화와 저속의 처리속도를 수반하는 해당 물체(60)의 전체길이(크기)를 검출할 필요가 없는 것이다.The reason for obtaining a constant length vector instead of the full length vector corresponding to the outer portion of the corresponding object 60 in FIG. 10 is that the length (or size) of the corresponding object 60 is information already known when setting up the system of the present invention. Because. That is, since the object 60 is an object to be used in connection with the system of the present invention, or the statistical average value of the objects can be set, the total length of the object 60 accompanying the complexity of the calculation and the low processing speed ( Size does not need to be detected.

상기와 같이 해서, 해당 물체(60)의 선단부(A)와 외곽부 벡터(B, C)를 구한 다음, 이들을 통해 방향 벡터(D)를 구하는데, 방향 벡터(D)는 외곽부 벡터(B, C)의 평균값을 취하거나 선단부(A) 정보와 벡터(B 혹은 C)를 이용하여 구한다. 이와 같이 해서 구해진 벡터(D)에 미리 알고 있는 해당 물체(60)의 크기(길이) 정보를 이용하면, 3차원 공간내에서 물체의 위치 및 위치각이 결정됨은 물론 이 정보들을 이용하여 해당 물체의 선단부(A)만이 아닌 물체의 속도, 각속도, 가속도, 각가속도 정보를 계산하고 이를 통해 궁극적으로 물체의 위치 자세를 3차원 공간에서 구하여 이용할 수 있게 된다.As described above, the tip A and the outline vectors B and C of the object 60 are obtained, and then the direction vector D is obtained through them, and the direction vector D is the outline vector B. , C) is taken or obtained using the tip (A) information and the vector (B or C). When the size (length) information of the corresponding object 60 is known to the vector D obtained in this way, the position and the angle of the object in the three-dimensional space are determined, as well as the information of the object Calculate the velocity, angular velocity, acceleration, and angular acceleration information of the object, not just the tip A, and ultimately obtain the positional position of the object in three-dimensional space.

참고로, 본 발명에 따라 물체의 선단부(A) 정보와 벡터(B,C,D)를 토대로 물체의 자세 위치 정보까지 구하는 이유는 도 10에 도시한 바와 같이 해당 물체(예; 칼, 야구 방망이 등)를 검출해서 사용하는 부분이 몸통부분(P)과 같은 부분이 있을 수 있기 때문인데, 이는 칼이나 야구 방망이와 같은 물체는 선단부 정보와 길이/방향 정보(끝단점이 아닌 물체의 자세 및 위치정보)까지 필요한 경우가 있을 수 있기 때문이다.For reference, the reason for obtaining the posture position information of the object based on the tip A information of the object and the vectors B, C, and D according to the present invention is as shown in FIG. 10. Etc.) can be used to detect and use parts such as the body part (P), because objects such as knives and baseball bats have tip information and length / direction information (posture and position of the object, not the end point). Information may be required).

이상 본 발명의 바람직한 실시예에 대해 상세히 기술하었지만, 본 발명이 속하는 기술분야에 있어서 통상의 지식을 가진 사람이라면, 첨부된 청구 범위에 정의된 본 발명의 정신 및 범위를 벗어나지 않으면서 본 발명을 여러 가지로 변형 또는 변경하여 실시할 수 있음을 알 수 있을 것이다. 따라서 본 발명의 앞으로의 실시예들의 변경은 본 발명의 기술을 벗어날 수 없을 것이다.Although preferred embodiments of the present invention have been described in detail above, those of ordinary skill in the art will appreciate that the present invention may be made without departing from the spirit and scope of the invention as defined in the appended claims. It will be appreciated that various modifications or changes can be made. Therefore, changes in the future embodiments of the present invention will not be able to escape the technology of the present invention.

이상에서 살펴본 바와 같이, 본 발명에 따르면 신체와 신체가 조작하는 물체의 인입(침입) 돌출부, 예를 들어 손끝, 발끝, 머리앞쪽, 테니스라켓 끝단 등 신체 혹은 신체가 조작하는 물체의 맨앞쪽 부분(돌출부분)을 감지하는 소정의 공간을 카메라 혹은 센서로 형성하고 상기 공간에서 그 침입부분 또는 상기 공간 내에 있는 돌출부분의 3차원 위치, 각도, 속도, 각속도, 가속도, 각가속도 등을 탐지하여 이를 입력신호화하여 컴퓨터의 입력장치, 가상현실시스템의 입력장치 및 게임시스템 등의 입력장치 등으로 이용할 수 있게 함으로써, 조작자가 입력행위를 편리하고 직관적인 방법으로 수행할 수 있게 하고, 게임시 게임 조작자에게 입력행위에 따른 체감도 및 입력 만족도를 증대시킬 수 있도록 하고, 입력장치를 비접촉 비부착식 화하여 입력장치의 조작성을 증대시킴과 아울러 조작준비 시간을 단축시킬 수 있다.As described above, according to the present invention, the body (entrance) protrusion of the body and the object manipulated by the body, for example, the front part of the body or the object manipulated by the body or the body such as the fingertips, toes, the front of the head, the end of the tennis racket ( A predetermined space for detecting a protrusion) is formed by a camera or a sensor, and the input signal is detected by detecting the three-dimensional position, angle, speed, angular velocity, acceleration, angular acceleration, etc. of the intrusion portion or the protrusion in the space. By inputting it into a computer input device, a virtual reality system input device, and a game system input device, so that the operator can perform the input operation in a convenient and intuitive manner, and input it to the game operator during the game. It is possible to increase the sensation of experience and input satisfaction according to the behavior. In addition to increasing the preparation time, the preparation time for the operation can be shortened.

한편, 본 발명은 마우스를 대치하여 게임, 정보검색, 키오스크(Kiosk) 제어, 프리젠테이션(Presentation)과 클릭/드래그/드롭(Click/Drag/Drop) 효과를 구현하고, 권투/발차기/탁구/축구/펜싱/골프 등 3차원 액션게임 입력장치로 이용할 수 있으며, 기존의 2,3차원 공간관련 정보를 컴퓨터에 입력하는 장치와 가상현실(Virtual Reality) 시스템에서 입력장치로 사용되는 신체 부착 장치들 및 인체의 운동내용이 게임내용과 직결되는 게임 시스템에서 기존의 조작 입력장치를 대체할 수 있도록 하는 이점을 제공하며, 아래와 같은 기타 여러 가지 효과를 갖는다.On the other hand, the present invention replaces the mouse to implement the game, information search, kiosk control, presentation and click / drag / drop effects, boxing / kick / table tennis / It can be used as a 3D action game input device such as soccer / fencing / golf, and it is a device for inputting existing 2D and 3D space related information to a computer and body attachment devices used as an input device in a virtual reality system. And it provides an advantage that can replace the existing operation input device in the game system that the motion content of the human body is directly connected to the game content, and has various other effects as follows.

1. 입력자가 보다 현실감 있고, 입력할 정보 내용과 친밀하고 직관적인 상황으로 정보의 입력이 가능하다.1. The inputter can enter the information in a more realistic and intimate and intuitive context.

2. 입력자가 아무런 장치도 부착하지 않은 상태에서 자연스럽고 직관적인 행동으로 입력자의 의지가 직결된 공간정보를 가상현실 시스템에 입력할 수 있다.2. The user can input spatial information directly connected to the user's will through the virtual reality system with natural and intuitive behavior without any device attached.

3. 조작자의 직관적이고 자연스러운 행동에 따른 가상현실의 체감효과를 극대화시킨다.3. Maximize the haptic effect of virtual reality according to the operator's intuitive and natural behavior.

4. 게임내용과 직결된 형태로 조작자가 운동을 하게 되어 조작자가 쉽고 편리하게 게임을 즐길 수 있다.4. The operator can exercise in the form directly connected to the game content, the operator can easily and conveniently enjoy the game.

5. 게임을 통한 조작자의 운동효과의 목적이 있는 경우 이를 자연스럽게 달성할 수 있다.5. If the purpose of the movement effect of the operator through the game can be achieved naturally.

6. 체감게임의 경우, 그 체감효과를 극대화시킬 수 있다.6. In the case of haptic games, the haptic effect can be maximized.

7. 조작자의 의지와 컴퓨터 시스템의 작동상황이 직결된 형태로 조작자가 입력행위를 수행할 수 있다.7. Operators can perform input actions in a way that is directly linked to the operator's will and the operational status of the computer system.

8. 조작의 자연스러움, 직결성, 편이성, 조작법 학습 용이성을 달성한다.8. Achieve naturalness, directness, convenience, and ease of learning of manipulation.

Claims (5)

신체와 신체가 조작하는 물체의 인입돌출부를 3차원으로 감지하는 시스템에 있어서,In the system for sensing the incoming projections of the body and the object manipulated by the body in three dimensions, 그 공간영역 내에 있는 신체와 신체가 조작하는 물체의 선단부(끝단)를 감지하도록 소정의 공간영역을 형성하는 공간형성 수단;Space forming means for forming a predetermined space area so as to sense a body within the space area and a tip (end) of an object manipulated by the body; 상기 공간형성 수단에 의해 감지된 영상신호를 획득하기 위한 영상신호 획득수단;Image signal acquiring means for acquiring an image signal sensed by the space forming means; 상기 영상신호 획득수단에 의해 획득된 상기 영상신호를 데이터 처리하기 위한 영상처리 수단;Image processing means for data processing the video signal acquired by the video signal obtaining means; 상기 영상처리 수단에 의해 처리된 데이터에서 상기 물체의 선단부에 대한 정보를 추출하기 위한 물체 선단정보 추출수단;Object tip information extracting means for extracting information on the tip of the object from the data processed by the image processing means; 상기 물체 선단정보 추출수단에 의해 추출된 상기 물체의 선단정보를 보정하기 위한 선단정보 보정수단;Tip information correction means for correcting tip information of the object extracted by the object tip information extraction means; 상기 선단정보 보정수단을 경유한 물체의 선단정보를 이 선단정보를 이용하는 컴퓨터와 같은 관련장치로 출력하는 선단정보 출력수단;Tip information output means for outputting tip information of an object via the tip information correction means to an associated device such as a computer using the tip information; 상기 컴퓨터와 같은 관련장치에 설치되어 상기 물체의 선단정보가 상기 관련장치에 적용되어 이용되도록 하기 위한 선단정보 해석 이용수단;를 포함하고,A tip information analysis using means installed in an associated device such as the computer so that the tip information of the object is applied to and used in the related device. 상기 선단정보는 해당 물체의 소정의 벡터 정보와 연관되어 상기 해당 물체의 위치 자세 정보를 구하는데 이용되도록 된 것을 특징으로 하는 신체와 신체가조작하는 물체의 인입 선단부의 3차원 감지 시스템.And the tip information is used to obtain position posture information of the corresponding object in association with predetermined vector information of the corresponding object. 제 1 항에 있어서, 상기 공간형성 수단은,The method of claim 1, wherein the space forming means, 상기 공간영역을 형성하는 X-Z좌표 영역을 촬영하는 제1 카메라와, Y-Z좌표 영역을 촬영하는 제2 카메라를 포함하여 된 것을 특징으로 하는 신체와 신체가 조작하는 물체의 인입 선단부의 3차원 감지 시스템.And a first camera for photographing an X-Z coordinate region forming the spatial region, and a second camera for photographing a Y-Z coordinate region. 제 1 항 또는 제 2 항에 있어서, 상기 선단정보 해석 이용수단은 소정의 알고리즘이 프로그램화된 프로그램 패키지이고,The method of claim 1 or 2, wherein the tip information analyzing and using means is a program package in which a predetermined algorithm is programmed, 상기 공간 형성수단을 제외한 상기 각 수단은 통합되어 하나의 독립적인 모듈로 구성되도록 된 것을 특징으로 하는 신체와 신체가 조작하는 물체의 인입 선단부의 3차원 감지 시스템.The three-dimensional sensing system of the leading end of the body and the object manipulated by the body, characterized in that each means except the space forming means is integrated to be configured as one independent module. 신체와 신체가 조작하는 물체의 인입돌출부를 3차원으로 감지하는 시스템에 있어서,In the system for sensing the incoming projections of the body and the object manipulated by the body in three dimensions, 소정의 공간영역을 형성하여 그 공간영역에 들어온 신체와 신체가 조작하는 물체의 선단부(끝단)를 감지하도록 복수개의 발광 센서와 수광 센서가 매트릭스 배열의 어레이 구조로 된 공간형성 수단;Space forming means in which a plurality of light emitting sensors and light receiving sensors are arranged in an array structure in a matrix arrangement so as to form a predetermined spatial region and detect a front end portion (end) of the body and the object manipulated by the body in the spatial region; 상기 어레이 구조의 발광 센서와 수광 센서의 광 송수신을 제어하는 광 송수신 어레이 제어수단;Optical transmission and reception array control means for controlling the optical transmission and reception of the light emitting sensor and the light receiving sensor of the array structure; 상기 어레이 제어수단에서 출력된 상기 물체의 선단부와 관련한 신호에 포함된 잡음신호를 제거하기 위한 잡음신호 제거수단;Noise signal removing means for removing a noise signal included in a signal related to the tip of the object output from the array control means; 상기 잡음신호 제거수단을 경유한 상기 신호에서 상기 물체의 선단부에 대한 정보를 추출하기 위한 물체 선단정보 추출수단;Object tip information extracting means for extracting information on a tip of the object from the signal via the noise signal removing means; 상기 물체 선단정보 추출수단에 의해 추출된 상기 물체의 선단 정보를 보정하기 위한 선단정보 보정수단;Tip information correction means for correcting tip information of the object extracted by the object tip information extraction means; 상기 선단정보 보정수단을 경유한 물체의 선단정보를 이 선단정보를 이용하는 컴퓨터와 같은 관련장치로 출력하는 선단정보 출력수단;Tip information output means for outputting tip information of an object via the tip information correction means to an associated device such as a computer using the tip information; 상기 컴퓨터와 같은 관련장치에 설치되어 상기 물체의 선단정보가 상기 관련장치에 적용되어 이용되도록 하기 위한 선단정보 해석 이용수단;를 포함하고,A tip information analysis using means installed in an associated device such as the computer so that the tip information of the object is applied to and used in the related device. 상기 선단정보는 해당 물체의 소정의 벡터 정보와 연관되어 상기 해당 물체의 위치 자세 정보를 구하는데 이용되도록 된 것을 특징으로 하는 신체와 신체가 조작하는 물체의 인입 선단부의 3차원 감지 시스템.And the tip information is used to obtain position posture information of the corresponding object in association with predetermined vector information of the corresponding object. 제 3 항에 있어서, 상기 공간형성 수단은,The method of claim 3, wherein the space forming means, 상기 공간영역을 형성하는 X-Z좌표 영역을 형성하기 위해 복수개의 발광 센서가 매트릭스 배열로 구성된 제1 발광 어레이부와, 상기 제1 발광 어레이부와 대향되게 설치되며 복수개의 수광 센서가 매트릭스 배열로 구성된 제1 수광 어레이부로 이루어진 X-Z좌표 영역 형성 어레이부;A first light emitting array unit having a plurality of light emitting sensors arranged in a matrix array to form an XZ coordinate region forming the spatial region, and a first light emitting array unit facing the first light emitting array unit and having a plurality of light receiving sensors arranged in a matrix array; An XZ coordinate region forming array portion comprising one light receiving array portion; 상기 공간영역을 형성하는 Y-Z좌표 영역을 형성하기 위해 복수개의 발광 센서가 매트릭스 배열로 구성된 제2 발광 어레이부와, 상기 제2 발광 어레이부와 대향되게 설치되며 복수개의 수광 센서가 매트릭스 배열로 구성된 제2 수광 어레이부로 이루어진 Y-Z좌표 영역 형성 어레이부;를 포함하여 된 것을 특징으로 하는 신체와 신체가 조작하는 물체의 인입 선단부의 3차원 감지 시스템.A second light emitting array unit having a plurality of light emitting sensors arranged in a matrix array to form a YZ coordinate region forming the spatial region, and a plurality of light receiving sensors arranged in a matrix array opposite to the second light emitting array unit; YZ coordinate region forming array unit consisting of two light-receiving array unit; 3D detection system of the leading end portion of the body and the object manipulated by the body.
KR1020000067090A 2000-11-13 2000-11-13 System for three-dimensional sensing of the end portion of object including human body KR20020037106A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020000067090A KR20020037106A (en) 2000-11-13 2000-11-13 System for three-dimensional sensing of the end portion of object including human body

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020000067090A KR20020037106A (en) 2000-11-13 2000-11-13 System for three-dimensional sensing of the end portion of object including human body

Publications (1)

Publication Number Publication Date
KR20020037106A true KR20020037106A (en) 2002-05-18

Family

ID=19698585

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020000067090A KR20020037106A (en) 2000-11-13 2000-11-13 System for three-dimensional sensing of the end portion of object including human body

Country Status (1)

Country Link
KR (1) KR20020037106A (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101004671B1 (en) * 2008-03-28 2011-01-03 전자부품연구원 Network Apparatus having Function of Space Projection and Space Touch and the Controlling Method thereof
KR101307732B1 (en) * 2012-05-23 2013-09-11 동신대학교산학협력단 The method for 3d rhythm action games

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR920006835A (en) * 1990-09-28 1992-04-28 다카도리 수나오 Computer input device
JPH07281817A (en) * 1994-04-04 1995-10-27 Hitachi Ltd Information processor and its command input method
JPH0844490A (en) * 1994-07-28 1996-02-16 Matsushita Electric Ind Co Ltd Interface device
KR19990046909A (en) * 1997-12-01 1999-07-05 정선종 Computer window control device using hand gesture and method thereof
JP2000187551A (en) * 1998-12-21 2000-07-04 Tadaaki Rikihisa Input device

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR920006835A (en) * 1990-09-28 1992-04-28 다카도리 수나오 Computer input device
JPH07281817A (en) * 1994-04-04 1995-10-27 Hitachi Ltd Information processor and its command input method
JPH0844490A (en) * 1994-07-28 1996-02-16 Matsushita Electric Ind Co Ltd Interface device
KR19990046909A (en) * 1997-12-01 1999-07-05 정선종 Computer window control device using hand gesture and method thereof
JP2000187551A (en) * 1998-12-21 2000-07-04 Tadaaki Rikihisa Input device

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101004671B1 (en) * 2008-03-28 2011-01-03 전자부품연구원 Network Apparatus having Function of Space Projection and Space Touch and the Controlling Method thereof
KR101307732B1 (en) * 2012-05-23 2013-09-11 동신대학교산학협력단 The method for 3d rhythm action games

Similar Documents

Publication Publication Date Title
US8223147B1 (en) Method and system for vision-based interaction in a virtual environment
US8696458B2 (en) Motion tracking system and method using camera and non-camera sensors
JP4234677B2 (en) Man-machine interface using deformable device
CN104272218B (en) Virtual hand based on joint data
US8487871B2 (en) Virtual desktop coordinate transformation
EP1816552A2 (en) Storage medium storing subject selecting program and subject selecting apparatus
US20090104993A1 (en) Electronic game controller with motion-sensing capability
KR20120138329A (en) Apparatus for 3d using virtual touch and apparatus for 3d game of the same
KR100452917B1 (en) Method and System for sensing Three-Dimensional body motion using color marker
WO2018012062A1 (en) Information processing apparatus, information processing method, and program
CN115129164A (en) Interaction control method and system based on virtual reality and virtual reality equipment
CN110520822B (en) Control device, information processing system, control method, and program
CN114167997B (en) Model display method, device, equipment and storage medium
KR20020037106A (en) System for three-dimensional sensing of the end portion of object including human body
KR20110033318A (en) Virtual mouse system using image recognition
Yusof et al. Virtual Block Augmented Reality Game Using Freehand Gesture Interaction
JP2746251B2 (en) Experience input device
CN117472189B (en) Typing or touch control realization method with physical sense
Lin et al. Hand gesture recognition in a leg sport system
KR100817647B1 (en) Man-machine interface using a deformable device
US20140320506A1 (en) Manipulating, capturing, and constraining movement
JPH03224027A (en) Computer system and determination of input data therefor
Takase et al. Gestural interface and the intuitive interaction with virtual objects
Lim 3D interaction design and application development

Legal Events

Date Code Title Description
A201 Request for examination
E701 Decision to grant or registration of patent right
NORF Unpaid initial registration fee