KR101230344B1 - A method and an appratus for photographing an image in a stereo-vision system - Google Patents
A method and an appratus for photographing an image in a stereo-vision system Download PDFInfo
- Publication number
- KR101230344B1 KR101230344B1 KR1020110145883A KR20110145883A KR101230344B1 KR 101230344 B1 KR101230344 B1 KR 101230344B1 KR 1020110145883 A KR1020110145883 A KR 1020110145883A KR 20110145883 A KR20110145883 A KR 20110145883A KR 101230344 B1 KR101230344 B1 KR 101230344B1
- Authority
- KR
- South Korea
- Prior art keywords
- camera
- image
- image information
- unit
- subject
- Prior art date
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/56—Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
Abstract
Description
본 발명은 스테레오 비전 시스템의 영상촬영방법 및 그 장치에 관한 것으로, 더 상세하게는 스테레오 비전 시스템에 있어서 복수의 카메라를 이용하여 교차로 영상을 그랩함으로써, 성능이 낮은 카메라를 이용하여 성능이 높은 카메라의 효과를 얻을 수 있는 스테레오 비전 시스템의 영상촬영방법 및 그 장치에 관한 것이다.The present invention relates to an image capturing method of a stereo vision system and a device thereof, and more particularly, to grasping an intersection image using a plurality of cameras in a stereo vision system, thereby providing a high performance camera using a low performance camera. The present invention relates to an image capturing method of a stereo vision system and a device thereof.
또한, 본 발명은 스테레오 비전 시스템에 있어서 복수의 카메라를 이용하여 교차로 영상을 그랩함으로써, 성능이 낮은 카메라를 이용하여 고속으로 움직이는 피사체를 근접에서 촬영할 수 있는 스테레오 비전 시스템의 영상촬영방법 및 그 장치에 관한 것이다.In addition, the present invention provides a method and apparatus for imaging a stereo vision system that can take a close-up image of a moving subject at high speed using a low-performance camera by grabbing the intersection image using a plurality of cameras in the stereo vision system It is about.
정지하거나 움직이는 피사체를 촬영함으로써 획득된 영상 정보를 이용하여, 피사체의 물리적 정보(예컨대, 피사체의 속도, 방향, 회전 등)를 획득하는 영상촬영장치가 다수 소개되고 있다.Background Art A number of image photographing apparatuses that acquire physical information (eg, speed, direction, rotation, etc. of a subject) of a subject by using image information obtained by photographing a still or moving subject have been introduced.
특히, 최근에는 DSLR(Digital Single Lens Reflex) 등의 디지털카메라가 널리 보급되어 영상촬영장치는 대다수의 소비자들에게 널리 사용되고 있으며, 관련 기술의 발달로 성능이 매우 우수하면서 저가인 영상촬영장치가 널리 보급되고 있다.In particular, recently, digital cameras such as DSLR (Digital Single Lens Reflex) have been widely used, and the image capturing device is widely used by the majority of consumers, and due to the development of related technology, the low cost image capturing device is widely used. It is becoming.
영상촬영장치의 목적 중에 하나는 획득된 영상 정보로부터 피사체를 찾아내거나 인식하는 것이라 할 수 있는데, 이는 하나의 카메라를 이용해서는 구현될 수 없고 적어도 2개 이상의 카메라가 필요하며 이를 구현하기 위해 이용되는 기술이 스테레오 비전 시스템(SVS; Stereo Vision System)이다. One of the objectives of the image capturing apparatus is to find or recognize a subject from the acquired image information, which cannot be implemented using a single camera, but requires at least two cameras and is used to implement the technique. This is a stereo vision system (SVS).
스테레오 비전 시스템은 인간의 시각체계를 구현하기 위한 컴퓨터 비전의 적용 분야로 좌ㆍ우측으로 구성된 2대의 카메라에 의해 얻어지는 영상 시스템을 의미하며, 이는 산업분야에서 자동차의 자동주차 및 무인 주행 시스템에 이용될 수 있을 뿐만 아니라 운동 경기에서는 선수의 움직임 및 속도 등을 확인하거나 볼(ball)을 이용하는 야구, 골프, 축구 등의 경기에서는 획득된 영상 정보에 기초하여 피사체인 볼의 이동 속도, 방향 등을 확인하는데 이용될 수 있다.Stereo vision system is an application field of computer vision for realizing human visual system, and it means an imaging system obtained by two cameras composed of left and right, which is used for auto parking and unmanned driving system of automobiles in industry. In addition, in athletic games, the movement and speed of a player may be checked, or in a game such as baseball, golf, and soccer, which uses a ball, the movement speed and direction of a ball, which is a subject, may be checked based on the acquired image information. Can be used.
한편, 피사체가 매우 빠른 속도로 이동하거나 피사체와 매우 근접한 거리에서 영상을 촬영할 경우에는, 필름이 카메라의 노출 장치를 통과하여 촬영되는 속도를 나타내는 카메라 속도(camera speed)가 매우 높아야 하나 카메라 속도가 높을 경우, 가격이 매우 비싸지므로 이러한 카메라를 이용하여 스테레오 비전 시스템을 구현하기는 매우 어렵다.On the other hand, if the subject moves at a very high speed, or if the image is taken very close to the subject, the camera speed, which indicates the speed at which the film is shot through the camera's exposure device, must be very high, but the camera speed must be high. In this case, it is very expensive to implement a stereo vision system using such a camera.
따라서, 성능이 낮은 저가의 카메라를 이용하여, 성능이 좋은 카메라와 동일한 스테레오 비전 시스템을 구현할 수 있는 방법이 요구되고 있다.Therefore, there is a demand for a method capable of implementing the same stereo vision system as a high performance camera using a low cost camera having a low performance.
본 발명은 상기와 같은 문제점을 해결하기 위해 창안된 것으로서, 스테레오 비전 시스템에 이용되는 2개의 카메라가 시간 동기화되지 않고 소정의 시간 차이를 두고 교차로 피사체의 영상을 그랩하여 영상정보를 획득함으로써, 가격이 비교적 저렴한 카메라 속도가 낮은 카메라를 이용하여 성능이 좋은 카메라와 유사한 스테레오 비전 시스템을 구현할 수 있는 스테레오 비전 시스템의 영상촬영방법 및 장치의 제공을 그 목적으로 한다.The present invention was devised to solve the above problems, and the two cameras used in the stereo vision system are not time-synchronized, and the image is obtained by grabbing an image of a subject at an intersection with a predetermined time difference, thereby obtaining a price. An object of the present invention is to provide a method and apparatus for imaging a stereo vision system that can implement a stereo vision system similar to a high performance camera using a camera having a relatively low camera speed.
본 발명의 또 다른 목적은, 스테레오 비전 시스템에 포함된 복수의 카메라로부터 획득한 영상정보를 기초로 예측 영상정보를 획득하고, 이를 통해 피사체의 물리적 특성 등을 확인할 수 있는 스테레오 비전 시스템의 영상촬영방법 및 장치의 제공을 그 목적으로 한다.Still another object of the present invention is to obtain predictive image information based on image information obtained from a plurality of cameras included in the stereo vision system, through which the image capturing method of the stereo vision system that can determine the physical characteristics of the subject And provision of the device.
본 발명의 해결과제는 이상에서 언급된 것들에 한정되지 않으며, 언급되지 아니한 다른 해결과제들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있다.The problems of the present invention are not limited to those mentioned above, and other problems not mentioned above may be clearly understood by those skilled in the art from the following description.
상기와 같은 목적을 달성하기 위하여 본 발명에 따른 스테레오 비전 시스템의 영상촬영장치는, 피사체를 촬영하여 영상정보를 획득하는 제1 카메라 및 제2 카메라와 촬영시 섬광을 일으키는 조명부를 포함하는 영상 촬영부; 및 상기 제1 카메라와 제2 카메라가 시간 동기화되지 않고 소정의 시간 차이를 두고 교차로 피사체의 영상을 그랩하여 영상정보를 획득하도록 제어하는 카메라 제어부를 포함하는 것을 특징으로 한다.In order to achieve the above object, the image photographing apparatus of the stereo vision system according to the present invention includes an image capturing unit including a first camera and a second camera for photographing a subject and an illumination unit for generating a flash when photographing a subject; ; And a camera controller which controls the first camera and the second camera to grab an image of the subject at an intersection and acquire image information at a predetermined time difference without time synchronization.
본 발명은, 조명부가 상기 제1 카메라 및 제2 카메라에 의한 영상의 그랩과 시간 동기화하여 동작하도록 제어하는 조명 제어부를 더 포함하는 것을 특징으로 한다.The present invention is characterized in that it further comprises a lighting control unit for controlling the lighting unit to operate in time synchronization with the grab of the image by the first camera and the second camera.
본 발명은, 카메라 제어부는, 상기 제1 카메라가 450fps의 속도로 영상을 그랩하고, 상기 제2 카메라는 450fps의 속도로 상기 제1 카메라의 영상 그랩이 이루어지고 1/900초 후에 영상을 그랩하도록 제어하고, 상기 조명 제어부는 1/900초마다 상기 조명부가 동작하도록 제어하는 것을 특징으로 한다.The camera controller may be configured such that the first camera grabs an image at a speed of 450 fps, and the second camera grabs an
본 발명은, 상기 제1 카메라 및 상기 제2 카메라로부터 획득한 영상정보를 기초로 예측 영상정보를 획득하는 영상 추정부를 더 포함하는 것을 특징으로 한다.The present invention may further include an image estimator for obtaining predictive image information based on image information obtained from the first camera and the second camera.
본 발명은, 상기 영상 추정부는 상기 제1 카메라로부터 획득한 제1 영상 정보 및 제2 영상 정보와 상기 제2 카메라로부터 획득한 제3 영상 정보를 이용하여, 제1 예측 영상 정보를 획득하는 것을 특징으로 한다.The image estimating unit obtains first predictive image information by using first image information and second image information obtained from the first camera, and third image information obtained from the second camera. It is done.
본 발명은, 상기 제1 영상정보와 제2 영상정보는 상기 제1 카메라로부터 획득한 연속된 프레임의 영상을 나타내고, 상기 제3 영상정보는 제2 카메라부터 상기 제1 영상정보와 제2 영상정보 사이에 획득한 프레임을 나타내는 것을 특징으로 한다.The first image information and the second image information indicate an image of a continuous frame obtained from the first camera, and the third image information includes the first image information and the second image information from a second camera. It characterized in that the frame obtained in between.
본 발명은, 상기 영상 촬영부로부터 획득한 영상정보 및 상기 영상 추정부로부터 획득한 예측 영상정보에 기초하여 피사체의 물리적 특성을 획득하는 영상 처리부를 더 포함하는 것을 특징으로 한다.The present invention may further include an image processor which acquires physical characteristics of the subject based on the image information obtained from the image capturing unit and the predicted image information obtained from the image estimating unit.
상기와 같은 목적을 달성하기 위하여 본 발명에 따른 스테레오 비전 시스템의 영상촬영방법은 제1 카메라 및 제2 카메라와 촬영시 섬광을 일으키는 조명부를 포함하는 영상 촬영부를 이용하여 피사체의 영상정보를 획득하는 단계; 상기 획득한 영상정보를 기초로 예측 영상정보를 획득하는 단계; 및 상기 영상정보 및 예측 영상정보에 기초하여 피사체의 물리적 특성에 관한 정보를 획득하는 단계를 포함하되, 상기 제1 카메라와 제2 카메라는 시간 동기화되지 않고 소정의 시간 차이를 두고 교차로 피사체의 영상을 그랩하여 영상정보를 획득하는 것을 특징으로 한다.In order to achieve the above object, an image capturing method of a stereo vision system according to the present invention includes: acquiring image information of a subject using an image capturing unit including a first camera and a second camera and an illumination unit for generating a glare during photographing; ; Obtaining predictive image information based on the acquired image information; And acquiring information about a physical characteristic of the subject based on the image information and the predicted image information, wherein the first camera and the second camera are not time-synchronized, and the image of the subject of intersection is separated by a predetermined time difference. Grab to obtain the image information.
본 발명은, 상기 조명부는 상기 제1 카메라 및 제2 카메라에 의한 영상의 그랩과 시간 동기화하여 동작하는 것을 특징으로 한다.The present invention is characterized in that the lighting unit operates in time synchronization with the grab of the image by the first camera and the second camera.
본 발명은, 상기 예측 영상정보는 상기 제1 카메라로부터 획득한 제1 영상 정보 및 제2 영상 정보와 상기 제2 카메라로부터 획득한 제3 영상 정보를 이용하여 획득되는 것을 특징으로 한다.The present invention is characterized in that the prediction image information is obtained by using the first image information and second image information obtained from the first camera and the third image information obtained from the second camera.
본 발명은, 상기 제1 영상정보와 제2 영상정보는 상기 제1 카메라로부터 획득한 연속된 프레임의 영상을 나타내고, 상기 제3 영상정보는 제2 카메라부터 상기 제1 영상정보와 제2 영상정보 사이에 획득한 프레임을 나타내는 것을 특징으로 한다.The first image information and the second image information indicate an image of a continuous frame obtained from the first camera, and the third image information includes the first image information and the second image information from a second camera. It characterized in that the frame obtained in between.
본 발명은 다음과 같은 효과와 이점을 제공한다.The present invention provides the following advantages and advantages.
우선, 스테레오 비전 시스템에 이용되는 2개의 카메라가 시간 동기화되지 않고 소정의 시간 차이를 두고 교차로 피사체의 영상을 그랩하여 영상정보를 획득함으로써, 가격이 비교적 저렴한 카메라 속도가 낮은 카메라를 이용하여 성능이 좋은 카메라와 동일한 스테레오 비전 시스템을 구현할 수 있다.First of all, the two cameras used in the stereo vision system are not time-synchronized and acquire image information by grabbing an image of a subject at an intersection with a predetermined time difference. The same stereo vision system as a camera can be implemented.
둘째, 스테레오 비전 시스템에 포함된 복수의 카메라로부터 획득한 영상정보를 기초로 예측 영상정보를 획득하고, 이를 통해 피사체의 물리적 특성 등을 확인하므로 예측 영상정보의 정확성을 높일 수 있다.Second, the prediction image information is obtained based on the image information obtained from the plurality of cameras included in the stereo vision system, and through this, the physical characteristics of the subject may be checked, thereby increasing the accuracy of the prediction image information.
본 발명의 효과는 이상에서 언급된 것들에 한정되지 않으며, 언급되지 아니한 다른 효과들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있다.The effects of the present invention are not limited to those mentioned above, and other effects not mentioned can be clearly understood by those skilled in the art from the following description.
도 1은 스테레오 비전 시스템을 설명하기 위한 도면이다.
도 2는 스테레오 비전 시스템에서 카메라를 설치하는 방법을 나타낸 도면이다.
도 3은 일반적인 스테레오 비전 시스템에서 카메라에 의해 영상이 그랩되는시퀀스를 나타내는 도면이다.
도 4는 본 발명의 일실시예에 따른 스테레오 비전용 영상촬영장치의 구성을 나타내는 블록도이다.
도 5는 도 4에 도시된 영상촬영장치의 구체적인 구성 및 추가적인 구성과 각 구성요소들의 기능에 관하여 나타낸 블록도이다.
도 6은 본 발명의 실시예에 따른 영상촬영장치에서 카메라에 의해 영상이 그랩되는 시퀀스를 나타내는 도면이다.
도 7은 본 발명의 실시예에 따른 영상촬영장치를 이용하여 촬영된 영상을 나타내는 도면이다.
도 9는 본 발명의 실시예에 따른 영상촬영장치를 이용하여 촬영된 영상을 이용하여 영상을 추정하는 방법을 나타내는 도면이다.
도 10은 도 9에 도시된 가상 골프 시뮬레이션을 위한 센싱장치의 구성을 나타내는 블록도이다.
도 11은 본 발명의 일실시예에 따른 센싱장치의 타격 감지부에 의해 사용자가 피사체인 볼을 타격하였는지 여부를 감지하는 과정을 나타낸 도면이다.1 is a view for explaining a stereo vision system.
2 is a diagram illustrating a method of installing a camera in a stereo vision system.
3 is a diagram illustrating a sequence of grabbing an image by a camera in a general stereo vision system.
4 is a block diagram showing the configuration of a stereo vision imaging apparatus according to an embodiment of the present invention.
FIG. 5 is a block diagram illustrating a specific configuration, additional configuration, and function of each component of the image photographing apparatus shown in FIG. 4.
6 is a diagram illustrating a sequence of grabbing an image by a camera in the image photographing apparatus according to an exemplary embodiment of the present invention.
7 is a diagram illustrating an image photographed using an image photographing apparatus according to an exemplary embodiment of the present invention.
9 is a diagram illustrating a method of estimating an image using an image photographed using an image photographing apparatus according to an exemplary embodiment of the present invention.
FIG. 10 is a block diagram illustrating a configuration of a sensing device for a virtual golf simulation shown in FIG. 9.
FIG. 11 is a diagram illustrating a process of detecting whether a user hits a ball, which is a subject, by a hit detection unit of a sensing device according to an embodiment of the present invention.
이하 첨부된 도면을 참조로 본 발명의 바람직한 실시예를 상세히 설명하기로 한다. 이에 앞서, 본 명세서 및 청구범위에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 아니되며, 발명자는 그 자신의 발명을 가장 최선의 방법으로 설명하기 위해 용어의 개념을 적절하게 정의할 수 있다는 원칙에 입각하여 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야만 한다. 따라서, 본 명세서에 기재된 실시예와 도면에 도시된 구성은 본 발명의 가장 바람직한 일실시예에 불과할 뿐이고 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형예들이 있을 수 있음을 이해하여야 한다. Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings. Prior to this, terms or words used in the specification and claims should not be construed as having a conventional or dictionary meaning, and the inventors should properly explain the concept of terms in order to best explain their own invention. Based on the principle that can be defined, it should be interpreted as meaning and concept corresponding to the technical idea of the present invention. Therefore, the embodiments described in the specification and the drawings shown in the drawings are only one of the most preferred embodiments of the present invention and do not represent all of the technical idea of the present invention, various modifications that can be replaced at the time of the present application It should be understood that there may be equivalents and variations.
특히, 본 명세서에서 정보(information)란, 값(values), 파라미터(parameters), 계수(coefficients), 성분(elements) 등을 모두 포함하는 용어로서, 경우에 따라 그 의미는 달리 해석될 수 있으므로 본 발명은 이에 한정되지 아니한다.In particular, in the present specification, information is a term that includes values, parameters, coefficients, elements, and the like, and in some cases, the meaning may be interpreted differently. The invention is not limited to this.
도 1은 스테레오 비전 시스템을 설명하기 위한 도면이다.1 is a view for explaining a stereo vision system.
도 1a을 참조하면, 사람이 물체를 입체적으로 인식할 수 있는 것은 오른쪽 눈과 왼쪽 눈이 각각 다른 영상을 인식하기 때문이다. 양안에 의해 얻어진 망막의 영상이 뇌(100)에서 서로 합성됨으로써 얻어지게 되며, 이는 양안에 의해 취득된 영상의 미세한 차에 의해 얻어진다. 이러한 미세한 차이로 취득된 영상이 망막의 시신경을 통해 뇌의 처리 부분에 전달되고, 전달된 전기적 신호는 뇌의 여러 가지 처리 과정을 통해 특징을 찾아내고, 뇌에 기억되어 있는 정보와 비교하여 대상 물체를 인식하게 된다.Referring to FIG. 1A, a person may recognize an object in three dimensions because the right eye and the left eye recognize different images. Images of the retina obtained by the binocular are obtained by synthesizing each other in the
도 1b를 참조하면, 사람이 양안을 통해 대상물체를 인식하는 과정을 컴퓨터 비전에 도입한 것이 스테레오 비전 시스템(stereovision system)이다. 따라서 스테레오 비전 시스템은 사람의 눈에 해당하는 카메라(110) 및 사람의 시각체계에 해당하는 컴퓨터(120)를 포함한다.Referring to FIG. 1B, it is a stereo vision system that introduces a process of recognizing a target object through both eyes to computer vision. Therefore, the stereo vision system includes a
도 2는 스테레오 비전 시스템에서 카메라를 설치하는 방법을 나타낸 도면이다.2 is a diagram illustrating a method of installing a camera in a stereo vision system.
도 2를 참조하면, 스테레오 비전 시스템에서 카메라를 설치하는 방법은 크게 순차식과 동시식으로 나눌 수 있다. 순차식은 카메라를 동시에 설치하지 않고 하나의 카메라를 이용하여 순서에 따라 영상을 입력하는 방식이다. Referring to FIG. 2, a method of installing a camera in a stereo vision system may be divided into sequential and simultaneous methods. The sequential method is a method of inputting images in order using one camera without installing cameras at the same time.
한편, 동시식은 두 개의 카메라를 모두 설치하여 동시에 영상을 취득하는 것으로 현재 스테레오 비전 시스템에서 일반적으로 사용하고 있는 방법이다. 동시식은 카메라의 구성에 따라 다시 (a) 평행식(Parallel Camera Setup)과 (b) 교차식(Crossing Camera Setup)으로 나누어지는데, 이는 카메라의 광축을 어떻게 구성하느냐에 따른 분류이다. 평행식은 수직 또는 수평으로 평행한 것을 말하며, 교차식은 카메라의 광축이 일치하는 곳을 만드는 방법으로 사람의 눈 구조와 가깝다.On the other hand, the simultaneous method is to install both cameras to acquire images at the same time is a method commonly used in current stereo vision system. Synchronous type is divided into (a) Parallel Camera Setup and (b) Crossing Camera Setup depending on the camera configuration, which is classified according to how the optical axis of the camera is configured. Parallel expressions are parallel to the vertical or horizontal, and cross expressions are close to the human eye structure by making the camera's optical axis coincide.
평행식 설치법은 거리 측정이 용이하다는 장점이 있으나, 입체 영상의 시차 조절 기능이 없어 양질의 입체 영상을 만들 수 없다는 단점을 가지며, 교차식 설치법은 평행식에 비해 고속 움직임을 갖는 물체의 거리 측정이 가능하다는 장점을 갖는다.The parallel installation method has the advantage of easy distance measurement, but it has the disadvantage that it is impossible to make a high quality stereoscopic image because there is no parallax adjustment function of the stereoscopic image. It has the advantage of being possible.
도 3은 일반적인 스테레오 비전 시스템에서 카메라에 의해 영상이 그랩되는시퀀스를 나타내는 도면이다.3 is a diagram illustrating a sequence of grabbing an image by a camera in a general stereo vision system.
도 3에 도시된 바와 같이, 4개의 프레임(frame)을 기준으로, 일반적인 스테레오 비전 시스템에서의 영상의 그랩은 두 대의 다른 카메라에서 찍은 시간 동기화된 영상의 교집합 부분에서 이루어진다. As shown in FIG. 3, grabbing of an image in a typical stereo vision system is based on an intersection of time-synchronized images taken by two different cameras based on four frames.
예컨대, 도 3에 도시된 바와 같이 450fps(frame per second)의 촬영속도를 갖는 두 대의 카메라로 영상을 촬영할 경우, 각 카메라를 통해 초당 450프레임의 영상을 획득할 수 있으며, 각 카메라를 통해 획득한 시간 동기화된 영상을 이용하여 촬영된 피사체의 거리, 방향 등을 확인할 수 있다.For example, as shown in FIG. 3, when capturing an image with two cameras having a shooting speed of 450 fps (frame per second), an image of 450 frames per second can be obtained through each camera. The distance and direction of the photographed subject may be checked using the time synchronized image.
그러나 만약 고속의 움직임을 갖는 피사체를 매우 근접하여 촬영하기 위해서는 더 높은 성능을 갖는 카메라가 필요할 수밖에 없으며, 예컨대 900fps의 성능을 갖는 카메라 두 대를 이용하여 피사체를 촬영하여야 한다면, 카메라의 가격 등이 매우 비싸서 스테레오 비전 시스템을 구성하는 것이 어려울 수밖에 없다.However, if you want to shoot a close-up subject very fast, you will need a camera with higher performance. For example, if you need to shoot a subject using two cameras with 900 fps performance, the price of the camera is very high. It is expensive and it is difficult to construct a stereo vision system.
따라서, 고속의 움직임을 갖는 피사체를 근접 촬영하기 위해, 고가의 카메라를 사용하지 않고 저가의 카메라를 이용하여 스테레오 비전 시스템을 구성할 수 있는 방법이 요구된다.Accordingly, there is a need for a method capable of constructing a stereo vision system using a low cost camera without using an expensive camera in order to photograph a subject having a high speed of movement in close proximity.
도 4는 본 발명의 일실시예에 따른 스테레오 비전용 영상촬영장치의 구성을 나타내는 블록도이며, 도 5는 도 4에 도시된 영상촬영장치의 구체적인 구성 및 추가적인 구성과 각 구성요소들의 기능에 관하여 나타낸 블록도이다.4 is a block diagram showing a configuration of a stereo vision imaging apparatus according to an embodiment of the present invention, Figure 5 is a detailed configuration and additional configuration and the function of each component of the image recording apparatus shown in FIG. The block diagram shown.
도 4에 도시된 바와 같이, 본 발명에 따른 스테레오 비전용 영상촬영장치(400)는 영상 촬영부(410) 및 제어부(420)를 포함하여 구성된다. 또한, 상기 영상 촬영부(410)는 스테레오 비전 시스템을 구성하기 위해 복수의 카메라(430)와 촬영시 섬광을 일으키는 적어도 하나 이상의 조명을 포함하는 조명부(440)를 포함한다.As shown in FIG. 4, the stereo non-dedicated
도 3을 참조하여 상술한 바와 같이, 일반적인 스테레오 비전용 영상촬영장치는 하나 이상의 프레임 단위로 시간 동기화하여 연속적으로 피사체의 영상을 촬영하도록 구성되어 있으나, 본 발명에 따른 영상촬영장치(400)는 각 카메라가 교차로 피사체의 영상을 촬영하는 것을 특징으로 한다.As described above with reference to FIG. 3, the general stereo vision imaging apparatus is configured to continuously capture an image of a subject by synchronizing time by one or more frames. The camera may take an image of the subject at the intersection.
예컨대, 450fps의 속도를 갖는 두 대의 카메라로 이루어진 영상촬영장치인 경우, 첫 번째 카메라(Camera #1)를 이용한 영상의 그랩이 이루어지고 1/900초 후에 두 번째 카메라(Camera #2)를 이용한 영상의 그랩이 이루어지도록 구성한다면, 450fps의 속도를 갖는 두 대의 카메라를 이용하여 900fps의 속도를 갖는 카메라로 촬영한 효과를 얻을 수 있다. 물론 이 경우 서로 다른 위치에서 피사체를 촬영하기 때문에 촬영된 영상으로부터 3D 정보를 추출하기 위해서는 각 카메라의 앞/뒤 영상을 추출하여 중간의 빈 영상을 추정하는 과정이 추가적으로 요구된다.For example, in the case of an image recording device consisting of two cameras having a speed of 450 fps, the grabbing of the image using the first camera (Camera # 1) is made, and the image using the second camera (Camera # 2) 1/900 seconds later. If it is configured to grab, the effect of shooting with a camera having a speed of 900fps by using two cameras having a speed of 450fps can be obtained. Of course, in this case, since the subjects are photographed at different positions, in order to extract 3D information from the captured images, a process of estimating a blank image in the middle by extracting front and rear images of each camera is additionally required.
제어부(420)는 영상 촬영부(410)의 복수의 카메라(430)가 소정의 시간 차를 두고 영상을 그랩하도록 제어하는 한편, 복수의 카메라(430)가 영상을 그랩할 때 조명부(440)가 동작할 수 있도록 제어하는 역할을 수행한다.The
도 5를 참조하여 도 4에 도시된 영상촬영장치(400)에 관한 구체적인 구성과 각 구성요소의 기능에 관하여 설명한다.A detailed configuration of the
도 4 및 도 5에 도시된 바와 같이, 본 발명에 따른 영상촬영장치(400)에서 정보의 흐름은 영상 촬영부(410) -> 영상 추정부(470) -> 영상 처리부(480)의 순서로 이루어지며, 제어부(420)는 카메라 제어부(450) 및 조명 제어부(460)를 포함하여 복수의 카메라(430) 및 조명부(440)를 제어한다.As shown in FIGS. 4 and 5, the flow of information in the
영상 촬영부(410)는 카메라 제어부(450)의 신호에 따라 복수의 카메라가 소정의 시간 차를 두고 영상을 그랩하며, 조명부(440)는 조명 제어부(460)의 신호에 따라 복수의 카메라(430)가 영상을 그랩하는 속도에 맞춰 조명을 제공한다.The
예컨대, 카메라 제어부(450)는 450fps의 속도를 갖는 두 대의 카메라에 있어, 첫 번째 카메라(Camera #1)를 이용한 영상의 그랩이 이루어지고 1/900초 후에 두 번째 카메라(Camera #2)를 이용한 영상의 그랩이 이루어지도록 제어하고, 조명 제어부(460)는 900fps의 속도로 카메라가 영상을 촬영할 수 있는 광학적 환경이 제공되도록 조명부를 제어할 수 있다.For example, the
카메라 제어부(450)의 신호에 따라 영상 촬영부(410)의 제1 카메라(예컨대, 좌측에 위치한 카메라) 및 제2 카메라(예컨대, 우측에 위치한 카메라)는 소정의 시간 차를 두고 교차로 영상을 촬영하여 영상 정보를 획득한다. 그러나 상술한 바와 같이, 상기 획득된 영상 정보는 시간 동기화하여 촬영된 영상에 관한 정보가 아니므로(즉, 상기 제1 카메라 및 제2 카메라를 통해 획득된 영상 정보는 교집합이 발생하지 않음), 해당 영상 정보를 기초로 3D 정보와 같은 피사체의 물리적 특성에 관한 정보를 획득할 수 없다.In response to a signal from the
영상 추정부(470)는 상기 제1 카메라 및 제2 카메라로부터 획득한 영상 정보를 기초로 예측 영상정보를 획득한다. 구체적으로는, 상기 제1 카메라로부터 획득한 제1 영상 정보 및 제2 영상 정보와 상기 제2 카메라로부터 획득한 제3 영상 정보를 이용하여 제1 예측 영상정보를 획득한다. The
한편, 상기 제1 영상정보와 제2 영상정보는 상기 제1 카메라로부터 획득한 연속된 프레임의 영상을 나타내고, 상기 제3 영상정보는 제2 카메라로부터 상기 제1 영상정보와 제2 영상정보 사이에 획득한 프레임의 영상을 나타낸다. 영상 추정부(470)가 예측 영상정보를 획득하는 과정에 관한 상세한 설명은 도 8을 참조하여 후술한다.Meanwhile, the first image information and the second image information represent an image of a continuous frame obtained from the first camera, and the third image information is provided between the first image information and the second image information from a second camera. The image of the acquired frame is shown. A detailed description of the process of obtaining the predictive image information by the
본 발명에 따른 영상촬영장치는 영상 촬영부(410)에 의해 촬영된 전기적인 영상신호를 디지털화하는 그래버(미도시) 및 영상 촬영부(410)로부터 획득한 영상 정보 및 영상 추정부(470)로부터 획득한 예측 영상정보를 저장하는 데이터베이스(미도시)를 추가적으로 포함할 수 있다.The image capturing apparatus according to the present invention includes a grabber (not shown) for digitizing an electric image signal captured by the
영상 처리부(480)는 영상 촬영부(410)로부터 획득한 영상 정보, 영상 추정부(470)로부터 획득한 예측 영상정보 또는 데이터베이스에 저장된 정보를 이용하여 피사체의 물리적 특성에 관한 정보 등을 획득한다. 예컨대, 영상 촬영부(410)를 이용하여 움직이는 피사체를 촬영한 경우, 영상 처리부(480)는 상기 정보를 이용하여 해당 피사체까지의 거리, 피사체의 속도 및 방향 등에 관한 정보를 획득할 수 있다.The
도 3에 도시된 바와 같이, 각 프레임에서 첫 번째 카메라(camera #1)와 두 번째 카메라(camera #2)가 시간 동기화하여 영상을 촬영할 경우, 고속의 움직임을 갖는 피사체를 근접 촬영하기 위해서는 고성능을 갖는 고가의 카메라가 필요하다.As shown in FIG. 3, when the first camera (camera # 1) and the second camera (camera # 2) take time-synchronized images in each frame, high performance is required to take a close-up image of a subject having high speed movement. There is a need for an expensive camera.
본 발명은 영상을 교차로 촬영함으로써, 즉 그랩 시퀀스(grab sequence)를 조정하여 저성능의 카메라를 이용하여 고성능의 카메라로 영상을 촬영한 효과를 얻을 수 있는 방법을 제안한다.The present invention proposes a method of obtaining an effect of capturing images with a high performance camera by using a low performance camera by adjusting a grab sequence by taking images at an intersection.
이하, 도 6을 참조하여 본 발명의 실시예에 따른 영상촬영장치의 동작에 대해 설명한다. 한편 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 영상을 그랩하는 동작 이외의 영상촬영장치에 대해 이해할 수 있을 것이므로, 이하의 설명에서는 영상을 그랩하는 동작을 중심으로 설명한다.Hereinafter, the operation of the image photographing apparatus according to the embodiment of the present invention will be described with reference to FIG. 6. On the other hand, those skilled in the art will be able to understand the image photographing apparatus other than the operation of grabbing the image, the following description will be mainly focused on the operation of grabbing the image.
도 6은 본 발명의 실시예에 따른 영상촬영장치에서 카메라에 의해 영상이 그랩되는 시퀀스를 나타내는 도면이다.6 is a diagram illustrating a sequence of grabbing an image by a camera in the image photographing apparatus according to an exemplary embodiment of the present invention.
도 6에 도시된 바와 같이, 본 발명의 실시예에 따른 영상촬영장치(400)는 두 대의 카메라가 교차로 영상을 그랩하는 것을 특징으로 한다.As shown in FIG. 6, the
즉, N fps(frame per second) (N > 0, 여기서, N은 카메라 속도를 의미함)의 성능을 갖는 두 대의 카메라를 이용하여 영상을 촬영할 경우, 첫 번째 카메라(camera #1)가 작동한 후 1/2N초 후에 두 번째 카메라(camera #2)가 작동하도록 구성을 한다. 이 경우, 2N fps의 성능을 갖는 카메라를 이용하여 영상을 촬영하는 효과를 얻을 수 있다.In other words, when shooting images using two cameras with the performance of N fps (N> 0, where N means camera speed), the first camera (camera # 1) After 1 / 2N seconds, configure the second camera (camera # 2) to work. In this case, an effect of photographing an image using a camera having a performance of 2N fps can be obtained.
예컨대, 도 6에 도시된 바와 같이, 450fps의 성능을 갖는 두 대의 카메라를 이용하여 영상을 촬영할 경우, 첫 번째 카메라(camera #1)의 그랩 시작 후 1/900초 후에 두 번째 카메라(camera #2)가 영상을 그랩할 경우 900fps의 성능을 갖는 카메라로 영상을 그랩하는 효과를 얻을 수 있다.For example, as shown in FIG. 6, when capturing an image using two cameras having a performance of 450 fps, the second camera (
이러한 본 발명의 원리는 도 5를 참조하여 상술한 바와 같이, 카메라 제어부(450)가 복수의 카메라를 제어하도록 함으로써 구현될 수 있다. 즉, 카메라 제어부(450)는 첫 번째 카메라(camera #1)가 영상을 그랩하고 소정의 시간 후에(예컨대, 도 6에서는 1/900초 후) 두 번째 카메라(camera #2)가 영상을 그랩하도록 제어한다.As described above with reference to FIG. 5, the principles of the present invention can be implemented by allowing the
도 7은 본 발명의 실시예에 따른 영상촬영장치를 이용하여 촬영된 영상을 나타내는 도면이다.7 is a diagram illustrating an image photographed using an image photographing apparatus according to an exemplary embodiment of the present invention.
도 7에 도시된 바와 같이, 본 발명의 실시예에 따른 영상촬영장치(400)를 이용하여 촬영된 영상은 첫 번째 카메라(camera #1)와 두 번째 카메라(camera #2)가 교차로 영상을 획득한다.As shown in FIG. 7, an image photographed using the
이 경우, 두 카메라의 영상의 교집합 부분이 발생하지 않으므로, 피사체의 3D 정보 등을 획득하는 것이 불가능하다. 따라서 교차로 획득된 영상을 이용하여 각 카메라의 획득된 영상 사이의 영상을 획득하는 과정이 필요하다.In this case, since the intersection of the images of the two cameras does not occur, it is impossible to obtain 3D information or the like of the subject. Therefore, a process of acquiring an image between the acquired images of each camera by using the acquired images at the intersection is necessary.
도 8은 본 발명의 실시예에 따른 영상촬영장치를 이용하여 촬영된 영상을 이용하여 영상을 추정하는 방법을 나타내는 도면이다.8 is a diagram illustrating a method of estimating an image using an image photographed using an image photographing apparatus according to an exemplary embodiment of the present invention.
본 발명의 실시예에 따른 영상촬영장치(400)를 이용하여 촬영된 영상은 두 대의 카메라를 이용하여 교차로 영상을 그랩하기 때문에 직접적으로 시간 동기화된 영상을 획득할 수 없다.Images captured using the
따라서 도 8에 도시된 바와 같이, 첫 번째 카메라(camera #1)의 첫 번째 프레임에서 획득한 영상(frame #1_1)과 두 번째 프레임에서 획득한 영상(frame #1_2)을 이용하여 첫 번째 예측된(Predicted) 영상(P_frame #1_1)을 획득할 수 있고, 동일한 방식으로 첫 번째 카메라(camera #1)의 두 번째 프레임에서 획득한 영상(frame #1_2)과 세 번째 프레임에서 획득한 영상(frame #1_3)을 이용하여 두 번째 예측된 영상(P_frame #1_2)을 획득할 수 있다.Therefore, as shown in FIG. 8, the first predicted image is obtained by using the image (frame # 1_1) acquired in the first frame of the first camera (camera # 1) and the image (frame # 1_2) acquired in the second frame. (Predicted) The image (P_frame # 1_1) can be obtained, the same image obtained in the second frame of the first camera (camera # 1) (frame # 1_2) and the image obtained in the third frame (frame # 1_3), a second predicted image P_frame # 1_2 may be obtained.
한편, 상술한 방법을 이용하여, 고속으로 움직이는 피사체(예컨대 골프경기에서 골프공의 움직임, 야구경기에서 야구공의 움직임 등)의 영상을 추정할 경우에는, 골프공 또는 야구공의 속도, 방향, 회전 등을 예측하는 것이 매우 어려우며 그 정확성이 매우 낮을 수밖에 없다.On the other hand, when estimating an image of a subject moving at high speed (for example, the movement of a golf ball in a golf game, the movement of a baseball in a baseball game, etc.) using the above-described method, the speed, direction, It is very difficult to predict the rotation and so on, and its accuracy is very low.
따라서 본 발명의 일실시예에 따른 영상촬영장치(400)는 예측된 영상의 정확성을 높이기 위해, 첫 번째 카메라(camera #1)의 첫 번째 프레임에서 획득한 영상(frame #1_1)과 두 번째 프레임에서 획득한 영상(frame #1_2) 뿐만 아니라 두 번째 카메라(camera #2)의 첫 번째 프레임에서 획득한 영상(frame #2_1)을 포함하는 3개의 영상을 이용하여 첫 번째 예측된 영상(P_frame #1_1)을 획득한다.Therefore, in order to increase the accuracy of the predicted image, the
즉, 도 2a의 평행식 스테레오 카메라인 경우, 첫 번째 카메라(camera #1)를 이용하여 촬영한 영상과 두 번째 카메라(camera #2)를 이용하여 촬영한 영상은 x, y, z좌표 상에서 두 개의 좌표값이 동일하며, 도 2b의 교차식 스테레오 카메라인 경우, 한 개의 좌표값이 동일하다. 따라서 상술한 바와 같이 두 개의 영상(frame #1_1, frame #1_2)을 이용하는 것보다는 세 개의 영상(frame #1_1, frame #1_2, frame #2_1)을 이용하는 것이 예측된 영상(P_frame #1_1)의 정확성을 높일 수 있다.That is, in the case of the parallel stereo camera of FIG. 2A, an image photographed using the first camera (camera # 1) and an image photographed using the second camera (camera # 2) are displayed on the x, y, and z coordinates. Coordinate values are the same, and in the case of the crossover stereo camera of FIG. 2B, one coordinate value is the same. Therefore, as described above, using three images (frame # 1_1, frame # 1_2 and frame # 2_1) is more accurate than using two images (frame # 1_1 and frame # 1_2). Can increase.
본 발명의 일실시예에 따른 영상촬영장치(400)에서 세 개의 영상을 이용하여 영상을 예측하는 것은 다양한 방법을 이용하여 구현이 가능하다. 예컨대, 이전 영상과 현재 영상의 차를 이용하거나, 하나의 영상을 블록으로 나누어 피사체의 움직임을 통해 영상을 추정하는 방법 등을 이용할 수 있다. 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 상술한 방법 이외에 영상을 추정하는 본 발명의 영상촬영장치에 대해 이해할 수 있을 것이다.Prediction of an image using three images in the
전술한 것처럼, 본 발명에 따른 영상촬영장치는 다양한 산업분야 및 스포츠 분야 등에 이용될 수 있다. 이하에서는, 본 발명에 따른 영상촬영장치를 이용하여 가상 골프 시뮬레이션을 위한 센싱장치를 구현한 본 발명의 일실시예를 설명한다.As described above, the image photographing apparatus according to the present invention can be used in various industrial fields and sports fields. Hereinafter, an embodiment of the present invention for implementing a sensing device for a virtual golf simulation using the image photographing apparatus according to the present invention.
도 9는 본 발명의 일실시예에 따른 영상촬영장치를 포함한 가상 골프 시뮬레이션을 위한 센싱장치를 나타내고, 도 10은 도 9에 도시된 가상 골프 시뮬레이션을 위한 센싱장치의 구성을 나타내는 블록도이다.9 illustrates a sensing device for a virtual golf simulation including an image photographing apparatus according to an embodiment of the present invention, and FIG. 10 is a block diagram illustrating a configuration of a sensing device for a virtual golf simulation shown in FIG. 9.
일반적으로, 가상 골프 시뮬레이션을 위해서는 사용자가 볼을 타격하는 것을 센싱하기 위한 센싱장치(900)와, 가상의 골프코스에 관한 영상을 구현하며 상기 센싱장치(900)의 센싱 결과에 따라 가상의 골프코스에서 볼의 궤적에 대한 시뮬레이션 영상을 제공하도록 하여 가상 골프 시뮬레이션을 진행하는 시뮬레이터(미도시)를 포함하도록 구성된다.In general, for a virtual golf simulation, a
도 9에 도시된 바와 같이, 가상 골프 시뮬레이션 장치는, 소정 크기의 공간을 제공하는 골프 부스의 바닥에 사용자가 골프 스윙을 할 수 있는 타석(920)이 마련되고, 상기 타석(920)의 일측에는 타격매트(925)가 마련되어 사용자는 타석(920)에서 타격매트(925)에 놓인 볼을 골프 스윙에 의해 타격할 수 있도록 하며, 전방에는 스크린이 마련되어 시뮬레이터로부터 영상 정보를 받은 영상출력을 위한 장치가 스크린 상에 영상을 투영시키도록 구성될 수 있다.As shown in FIG. 9, in the virtual golf simulation apparatus, a
도 9 및 도 10에 도시된 바와 같이, 본 발명의 일실시예에 따른 센싱장치(900)는 복수개의 카메라(905, 910)와 조명부(915)를 포함하는 영상 촬영부(930) 및 상기 영상 촬영부(930)로부터 촬영한 영상을 처리하여 움직이는 볼의 물리적 특성을 추출하는 센싱처리부(935) 및 센싱처리부(935)로부터 센싱 결과에 따른 정보 및 영상정보를 전달받아 가상의 골프코스에 관한 영상이나 가상의 골프코스에서 펼쳐지는 볼의 궤적에 대한 시뮬레이션 영상 등을 구현하기 위한 소정의 영상 처리를 하는 영상 처리부(985), 상기 영상 처리부(985)로부터 전달받은 영상 정보를 스크린 상에 출력하여 사용자가 볼 수 있도록 하는 영상 출력부(990), 영상 촬영부(930)로부터 획득한 영상 정보 등을 저장하는 데이터베이스(995) 및 상기 영상 처리부(985), 영상 출력부(990) 및 데이터베이스(995)등의 동작을 제어하는 영상 제어부(970)를 포함한다.9 and 10, the
영상 촬영부(930)는 시간 동기화된 두 개의 카메라를 포함하여 스테레오 비전 시스템을 구성할 수도 있으나 저가의 카메라를 이용하여 고속으로 움직이는 골프공을 가까이에서 촬영하여 볼의 물리적 특성(예컨대, 볼의 속도, 볼의 이동 방향, 볼의 회전 등)을 추출하기 위해서는 상술한 바와 같이 교차로 두 개의 카메라를 이용하여 영상을 스냅하도록 구성될 수 있다.Although the
센싱처리부(935)는 상기 영상 촬영부(930)를 통해 획득한 영상을 프레임 단위로 순차적으로 입수하여 수집하는 그래버(955), 상기 그래버(955)로부터 전송되는 이미지를 전달받아 처리함으로써 타격 준비 완료 여부 및 사용자에 의해 타격이 이루어졌는지 여부를 감지하는 타격 감지부(960), 상기 타격 감지부(960)에 의해 타격이 감지된 경우, 타격 시점을 확인하여 타격 시점 전/후의 영상정보를 상기 데이터베이스로부터 추출하여, 상기 영상정보를 기초로 예측 영상정보를 획득하는 영상 추정부(965), 상기 타격 시점 전/후의 영상정보 및 상기 예측 영상정보에 기초하여 피사체인 볼의 물리적 특성을 추출하는 볼 영상 처리부(970) 및 상기 영상 촬영부(930)로부터 획득한 영상 정보 및 영상 추정부(965)로부터 획득한 예측 영상정보를 서로 매칭하여 영상 촬영부(930) 내의 각각의 카메라에 대한 2차원 정보를 3차원 정보로 변환하거나, 반대로 복수개의 카메라에 대한 정보를 서로 매칭하여 추출한 3차원 정보를 2차원 정보로 역변환하는 변환부(975)를 포함하여 구성된다.The
영상 처리부(985)는 가상의 골프코스에 관한 영상이나 가상의 골프코스에서 펼쳐지는 볼의 궤적에 대한 시뮬레이션 영상 등을 구현하기 위한 소정의 영상 처리를 수행하며, 영상 출력부(990)는 상기 영상 처리부(985)로부터 전달받은 영상 정보를 스크린 상에 출력하여 사용자가 시각적으로 인식할 수 있도록 하며, 데이터베이스(995)는 센싱장치(900)와 관련된 모든 데이터를 저장한다.The
도 11은 본 발명의 일실시예에 따른 센싱장치의 타격 감지부에 의해 사용자가 피사체인 볼을 타격하였는지 여부를 감지하는 과정을 나타낸 도면이다.FIG. 11 is a diagram illustrating a process of detecting whether a user hits a ball, which is a subject, by a hit detection unit of a sensing device according to an embodiment of the present invention.
도 11a에 도시된 바와 같이, 타격 감지부(960)는 여러 프레임의 소스 영상에서 타격 영역을 설정하여 분리한 후 그로부터 볼을 찾는데, 일반적으로는 타격매트(925)에 해당하는 영역을 타격영역으로 설정한다. 이처럼, 타격영역을 분리하여 그 안에서만 볼을 찾음으로써 소스 영상 전체에서 볼을 찾는 것보다 훨씬 빠르고 정확하게 볼을 찾을 수 있다.As shown in FIG. 11A, the
타격 감지부(960)가 볼을 찾는 과정은 다양한 방법에 의해 수행될 수 있으며, 예컨대 볼에 대한 기준 이미지로서 미리 설정되어 저장된 볼 템플릿과 타격영역 내에 존재하는 특정 객체가 서로 유사한 정도를 분석하여 일정 수준 이상으로 유사한 경우에는 상기 특정 객체를 볼로 판단할 수 있다.The process of finding the ball by the
도 11b에 도시된 바와 같이, 감지된 볼을 중심으로 볼 하나 정도가 여유 있게 포함될 수 있는 정도의 소정 크기의 감지영역(1100)을 설정하고, 상기 감지영역(1100) 내에 볼이 존재하는지 여부를 통해 사용자가 타격을 했는지 여부를 판단할 수 있다.As shown in FIG. 11B, a
즉, 도 11b에 도시된 상태에서 도 11c에 도시된 바와 같이 감지영역(1100) 내에 볼이 존재하지 않게 된 것을 감지함으로써 사용자가 타격을 했는지 여부를 판단할 수 있다. 타격 감지부(960)가 피사체인 볼이 사용자에 의해 타격이 이루어진 것으로 감지한 경우, 타격 감지부(960)는 감지된 시점 이전에 입수된 복수 프레임의 영상을 조사하여 볼이 움직이기 시작한 정확한 시점, 즉 임팩트 시점을 파악하고, 임팩트 시점 전/후의 복수 프레임의 영상 정보를 데이터베이스(995)에 저장하는 한편, 영상 추정부(965)로 전송하고 영상 추정부(965)는 상기 영상 정보를 기초로 예측 영상정보를 획득한다.That is, in the state shown in FIG. 11B, as shown in FIG. 11C, it is possible to determine whether the user is hit by detecting that the ball does not exist in the
볼 영상 처리부(970)는 타격 감지부(960)로부터 전송받은 임팩트 시점 전/후의 영상정보와 영상 추정부(965)로부터 전송받은 예측 영상정보에 기초하여 운동하는 볼의 속도, 방향, 회전 등을 포함하는 볼의 물리적 특성 정보를 산출한다.The
상기 볼 영상 처리부(970)를 통해 획득된 볼의 물리적 특성 정보는 시뮬레이터(미도시)로 전달되고, 시뮬레이터는 이를 기초로 가상의 골프코스에서 볼이 이동하는 시뮬레이션 영상을 영상 출력부(990)를 통해 출력함으로써 가상 골프 시뮬레이션이 진행된다.The physical characteristic information of the ball obtained through the ball
상술한 바와 같이, 본 발명은 스테레오 비전 시스템에 이용되는 2개의 카메라가 시간 동기화되지 않고 소정의 시간 차이를 두고 교차로 피사체의 영상을 그랩하여 영상정보를 획득함으로써, 가격이 비교적 저렴한 카메라 속도가 낮은 카메라를 이용하여 성능이 좋은 카메라와 동일한 스테레오 비전 시스템을 구현할 수 있는 스테레오 비전 시스템의 영상촬영방법 및 장치를 제공할 수 있다.As described above, in the present invention, two cameras used in a stereo vision system are not time-synchronized, and grab an image of a subject at an intersection with a predetermined time difference to obtain image information, so that a camera having a relatively low cost and a low speed camera By using the present invention can provide a method and apparatus for imaging the stereo vision system that can implement the same stereo vision system with a good camera.
또한, 본 발명은 스테레오 비전 시스템에 포함된 복수의 카메라부터 획득한 영상정보를 기초로 예측 영상정보를 획득하고, 이를 통해 피사체의 물리적 특성 등을 확인할 수 있는 스테레오 비전 시스템의 영상촬영방법 및 장치를 제공할 수 있다.The present invention also provides a method and apparatus for photographing a stereo vision system that can obtain predictive image information based on image information obtained from a plurality of cameras included in a stereo vision system, and thereby confirm physical characteristics of a subject. Can provide.
이상과 같이, 본 발명은 비록 한정된 실시예와 도면에 의해 설명되었으나, 본 발명은 이것에 의해 한정되지 않으며 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 본 발명의 기술사상과 아래에 기재될 특허청구범위의 균등범위 내에서 다양한 수정 및 변형이 가능함은 물론이다.While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it is to be understood that the invention is not limited to the disclosed exemplary embodiments. It will be understood that various modifications and changes may be made without departing from the scope of the appended claims.
Claims (11)
상기 제1 카메라와 제2 카메라가 시간 동기화되지 않고 소정의 시간 차이를 두고 교차로 피사체의 영상을 그랩하여 교집합 부분이 발생하지 않은 영상정보를 획득하도록 제어하는 카메라 제어부;
상기 제1 카메라 및 상기 제2 카메라로부터 획득한 영상 정보 중 3개의 영상정보를 기초로 예측 영상 정보를 획득하되, 상기 제1 카메라로부터 획득한 연속된 두 프레임 영상과, 상기 제2 카메라로부터 상기 제1 카메라로부터 획득한 연속된 두 프레임 영상 사이에 획득한 프레임 영상을 포함하는 3개의 영상 정보를 이용하여 상기 제1 카메라로부터 획득한 연속된 두 프레임 사이에 해당하는 제1 예측 영상 정보를 획득하고, 상기 제2 카메라로부터 획득한 연속된 두 프레임 영상과, 상기 제1 카메라로부터 상기 제2 카메라로부터 획득한 연속된 두 프레임 영상 사이에 획득한 프레임 영상을 포함하는 3개의 영상 정보를 이용하여 상기 제2 카메라로부터 획득한 연속된 두 프레임 사이에 해당하는 제2 예측 영상 정보를 획득하는 영상 추정부; 및
상기 제1 카메라 및 상기 제2 카메라로부터 획득한 영상 정보와, 상기 제1 및 제2 예측 영상 정보를 이용하여 3D 정보를 추출하는 영상 처리부;를 포함하는 것을 특징으로 하는 스테레오 비전 시스템의 영상촬영장치.
An image capturing unit including a first camera and a second camera capturing a subject to obtain image information, and an illuminator generating a flash when photographing the subject;
A camera controller which controls the first camera and the second camera to grab an image of a subject at an intersection at a predetermined time interval without time synchronization and to acquire image information in which an intersection portion does not occur;
Acquire predictive image information based on three image information among the image information obtained from the first camera and the second camera, wherein two consecutive frame images obtained from the first camera and the second camera from the second camera; Acquiring first prediction image information corresponding to two consecutive frames obtained from the first camera by using three image information including a frame image acquired between two consecutive frame images obtained from a first camera, The second image using three image information including two consecutive frame images obtained from the second camera and a frame image obtained between two consecutive frame images obtained from the second camera from the first camera; An image estimator obtaining second predictive image information corresponding to two consecutive frames obtained from a camera; And
And an image processing unit for extracting 3D information using the image information obtained from the first camera and the second camera and the first and second prediction image information. .
상기 조명부가 상기 제1 카메라 및 제2 카메라에 의한 영상의 그랩과 시간 동기화하여 동작하도록 제어하는 조명 제어부를 더 포함하는 것을 특징으로 하는 스테레오 비전 시스템의 영상촬영장치.
The method of claim 1,
And a lighting control unit for controlling the lighting unit to operate in synchronization with the grabbing of the images of the first and second cameras in time.
상기 카메라 제어부는, 상기 제1 카메라가 450fps의 속도로 영상을 그랩하고, 상기 제2 카메라는 450fps의 속도로 상기 제1 카메라의 영상 그랩이 이루어지고 1/900초 후에 영상을 그랩하도록 제어하고,
상기 조명 제어부는 1/900초마다 상기 조명부가 동작하도록 제어하는 것을 특징으로 하는 스테레오 비전 시스템의 영상촬영장치.
The method of claim 2,
The camera controller controls the first camera to grab an image at a speed of 450 fps, and the second camera to grab an image 1/900 seconds after an image grab of the first camera is performed at a speed of 450 fps,
The lighting controller is an image photographing apparatus of a stereo vision system, characterized in that for controlling the operation of the lighting unit every 1/900 seconds.
상기 영상 처리부는 상기 영상 촬영부로부터 획득한 영상 정보 및 상기 영상 추정부로부터 획득한 예측 영상정보에 기초하여 상기 3D 정보를 추출하여 피사체의 물리적 특성을 획득하는 것을 특징으로 하는 스테레오 비전 시스템의 영상촬영장치.
The method of claim 1,
The image processing unit extracts the 3D information based on the image information obtained from the image capturing unit and the predicted image information obtained from the image estimating unit, and acquires physical characteristics of the subject. Device.
상기 제1 카메라로부터 획득한 연속된 두 프레임 영상과, 상기 제2 카메라로부터 상기 제1 카메라로부터 획득한 연속된 두 프레임 영상 사이에 획득한 프레임 영상을 포함하는 3개의 영상 정보를 이용하여 상기 제1 카메라로부터 획득한 연속된 두 프레임 사이에 해당하는 제1 예측 영상 정보를 획득하고, 상기 제2 카메라로부터 획득한 연속된 두 프레임 영상과, 상기 제1 카메라로부터 상기 제2 카메라로부터 획득한 연속된 두 프레임 영상 사이에 획득한 프레임 영상을 포함하는 3개의 영상 정보를 이용하여 상기 제2 카메라로부터 획득한 연속된 두 프레임 사이에 해당하는 제2 예측 영상 정보를 획득하는 단계; 및
상기 제1 카메라 및 상기 제2 카메라로부터 획득한 영상 정보와, 상기 제1 및 제2 예측 영상 정보를 기초로 3D 정보를 추출하여 피사체의 물리적 특성에 관한 정보를 획득하는 단계를 포함하되,
상기 제1 카메라와 제2 카메라는 시간 동기화되지 않고 소정의 시간 차이를 두고 교차로 피사체의 영상을 그랩하여 교집합 부분이 발생하지 않은 영상정보를 획득하는 것을 특징으로 하는 스테레오 비전 시스템의 영상촬영방법.
Acquiring image information of a subject by using an image photographing unit including a first camera and a second camera and an illumination unit for generating a flash when shooting;
The first image using three image information including two consecutive frame images obtained from the first camera and a frame image obtained between two consecutive frame images obtained from the first camera from the second camera; Acquiring first prediction image information corresponding to two consecutive frames obtained from a camera, and performing two consecutive frame images obtained from the second camera, and two consecutive two images acquired from the second camera from the first camera. Acquiring second prediction image information corresponding to two consecutive frames obtained from the second camera by using three image information including frame images acquired between frame images; And
And extracting 3D information based on the image information obtained from the first camera and the second camera and the first and second prediction image information to obtain information about a physical characteristic of the subject.
And the first camera and the second camera are not time-synchronized and grab an image of a subject at an intersection with a predetermined time difference to obtain image information in which an intersection portion does not occur.
상기 조명부는 상기 제1 카메라 및 제2 카메라에 의한 영상의 그랩과 시간 동기화하여 동작하는 것을 특징으로 하는 스테레오 비전 시스템의 영상촬영방법.
The method of claim 8,
And the lighting unit operates in time synchronization with grabs of images by the first and second cameras.
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020110145883A KR101230344B1 (en) | 2011-12-29 | 2011-12-29 | A method and an appratus for photographing an image in a stereo-vision system |
CN201180076317.8A CN104094595B (en) | 2011-12-29 | 2011-12-30 | For processing method and the device thereof of image in stereo visual system |
US14/369,191 US10045008B2 (en) | 2011-12-29 | 2011-12-30 | Method for processing images in a stereo vision system and apparatus for same |
JP2014549949A JP5988113B2 (en) | 2011-12-29 | 2011-12-30 | Image processing method and apparatus for stereo vision system |
PCT/KR2011/010383 WO2013100239A1 (en) | 2011-12-29 | 2011-12-30 | Method for processing images in a stereo vision system and apparatus for same |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020110145883A KR101230344B1 (en) | 2011-12-29 | 2011-12-29 | A method and an appratus for photographing an image in a stereo-vision system |
Publications (1)
Publication Number | Publication Date |
---|---|
KR101230344B1 true KR101230344B1 (en) | 2013-02-06 |
Family
ID=47898983
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020110145883A KR101230344B1 (en) | 2011-12-29 | 2011-12-29 | A method and an appratus for photographing an image in a stereo-vision system |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101230344B1 (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20220128176A (en) | 2021-03-12 | 2022-09-20 | 김영득 | Vision Camera Installation Bracket for Screen Golf |
CN115366098A (en) * | 2022-07-29 | 2022-11-22 | 山东浪潮科学研究院有限公司 | Sheet-like object grabbing system based on visual guidance |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100697626B1 (en) * | 2006-06-07 | 2007-03-21 | 삼성전자주식회사 | Mobile device with dual camera module and method of taking serial photographs using the same |
KR101048090B1 (en) * | 2011-03-22 | 2011-07-08 | (주) 골프존 | Apparatus for virtual golf simulation, and sensing device and method used to the same |
-
2011
- 2011-12-29 KR KR1020110145883A patent/KR101230344B1/en active IP Right Grant
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100697626B1 (en) * | 2006-06-07 | 2007-03-21 | 삼성전자주식회사 | Mobile device with dual camera module and method of taking serial photographs using the same |
KR101048090B1 (en) * | 2011-03-22 | 2011-07-08 | (주) 골프존 | Apparatus for virtual golf simulation, and sensing device and method used to the same |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20220128176A (en) | 2021-03-12 | 2022-09-20 | 김영득 | Vision Camera Installation Bracket for Screen Golf |
CN115366098A (en) * | 2022-07-29 | 2022-11-22 | 山东浪潮科学研究院有限公司 | Sheet-like object grabbing system based on visual guidance |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5988113B2 (en) | Image processing method and apparatus for stereo vision system | |
JP5335161B2 (en) | 3D camera with foreground subject distance sensing | |
US8456518B2 (en) | Stereoscopic camera with automatic obstruction removal | |
CN102907105A (en) | Video camera providing videos with perceived depth | |
KR20170089260A (en) | Apparatus and Method for Generating 3D Face Model using Mobile Device | |
KR20150050172A (en) | Apparatus and Method for Selecting Multi-Camera Dynamically to Track Interested Object | |
CN107368192B (en) | Real-scene observation method of VR glasses and VR glasses | |
WO2018107781A1 (en) | Method and system for implementing virtual reality | |
KR101270025B1 (en) | Stereo Camera Appratus and Vergence Control Method thereof | |
US9426446B2 (en) | System and method for providing 3-dimensional images | |
US20140168375A1 (en) | Image conversion device, camera, video system, image conversion method and recording medium recording a program | |
JP3988574B2 (en) | Image processing device | |
KR101230344B1 (en) | A method and an appratus for photographing an image in a stereo-vision system | |
KR101230345B1 (en) | A method and an appratus for photographing an image in a stereo-vision system capable of transferring photographing modes | |
Andiel et al. | Eye tracking for autostereoscopic displays using web cams | |
KR101230346B1 (en) | A method and an appratus for photographing an image in a stereo-vision system with adjustable intensity of radiation | |
WO2019137186A1 (en) | Food identification method and apparatus, storage medium and computer device | |
JPH09322053A (en) | Image pickup method for object in automatic image pickup camera system | |
CN106131448A (en) | The 3 d stereoscopic vision system of brightness of image can be automatically adjusted | |
CN111726515A (en) | Depth camera system | |
JP7240258B2 (en) | IMAGE PROCESSING DEVICE, CONTROL METHOD AND PROGRAM OF IMAGE PROCESSING DEVICE | |
JP2580516B2 (en) | Real-time three-dimensional motion measuring apparatus and method | |
KR101920468B1 (en) | Dual shooting mode low-speed camera based object automatic recognition apparatus and method therefor | |
US9654763B2 (en) | Controlling method of detecting image-capturing gesture | |
JP2014206640A (en) | Imaging apparatus and control method therefor |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
A302 | Request for accelerated examination | ||
E902 | Notification of reason for refusal | ||
AMND | Amendment | ||
E601 | Decision to refuse application | ||
X091 | Application refused [patent] | ||
AMND | Amendment | ||
X701 | Decision to grant (after re-examination) | ||
GRNT | Written decision to grant | ||
FPAY | Annual fee payment |
Payment date: 20151228 Year of fee payment: 4 |
|
FPAY | Annual fee payment |
Payment date: 20161228 Year of fee payment: 5 |
|
FPAY | Annual fee payment |
Payment date: 20171207 Year of fee payment: 6 |
|
FPAY | Annual fee payment |
Payment date: 20181218 Year of fee payment: 7 |
|
FPAY | Annual fee payment |
Payment date: 20200102 Year of fee payment: 8 |