KR102262886B1 - Haptic type sports recognition system using Infrared depth camera sensor - Google Patents
Haptic type sports recognition system using Infrared depth camera sensor Download PDFInfo
- Publication number
- KR102262886B1 KR102262886B1 KR1020190081970A KR20190081970A KR102262886B1 KR 102262886 B1 KR102262886 B1 KR 102262886B1 KR 1020190081970 A KR1020190081970 A KR 1020190081970A KR 20190081970 A KR20190081970 A KR 20190081970A KR 102262886 B1 KR102262886 B1 KR 102262886B1
- Authority
- KR
- South Korea
- Prior art keywords
- ball
- image
- screen
- bat
- infrared
- Prior art date
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63B—APPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
- A63B71/00—Games or sports accessories not covered in groups A63B1/00 - A63B69/00
- A63B71/04—Games or sports accessories not covered in groups A63B1/00 - A63B69/00 for small-room or indoor sporting games
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63B—APPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
- A63B24/00—Electric or electronic controls for exercising apparatus of preceding groups; Controlling or monitoring of exercises, sportive games, training or athletic performances
- A63B24/0021—Tracking a path or terminating locations
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63B—APPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
- A63B71/00—Games or sports accessories not covered in groups A63B1/00 - A63B69/00
- A63B71/06—Indicating or scoring devices for games or players, or for other sports activities
- A63B71/0619—Displays, user interfaces and indicating devices, specially adapted for sport equipment, e.g. display mounted on treadmills
- A63B71/0622—Visual, audio or audio-visual systems for entertaining, instructing or motivating the user
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B21/00—Projectors or projection-type viewers; Accessories therefor
- G03B21/14—Details
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/695—Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
-
- H04N5/23299—
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63B—APPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
- A63B24/00—Electric or electronic controls for exercising apparatus of preceding groups; Controlling or monitoring of exercises, sportive games, training or athletic performances
- A63B24/0021—Tracking a path or terminating locations
- A63B2024/0028—Tracking the path of an object, e.g. a ball inside a soccer pitch
-
- A63B2069/0002—
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63B—APPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
- A63B2220/00—Measuring of physical parameters relating to sporting activity
- A63B2220/30—Speed
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63B—APPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
- A63B2220/00—Measuring of physical parameters relating to sporting activity
- A63B2220/80—Special sensors, transducers or devices therefor
- A63B2220/803—Motion sensors
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63B—APPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
- A63B2243/00—Specific ball sports not provided for in A63B2102/00 - A63B2102/38
- A63B2243/0025—Football
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Physical Education & Sports Medicine (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Signal Processing (AREA)
- Human Computer Interaction (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
본 발명은 뎁스 카메라센서를 이용한 체감형 스포츠 동작인식시스템에 관한 것으로서 더욱 상세하게는 체감형 구기 스포츠 시스템에서 볼 또는 사용자의 동작인식, 궤적인식 및 트리거인식을 한 종류인 뎁스 카메라센서로 통합인식이 가능함에 따라 필요 구성이 간단하여 설치 및 사용이 용이하며, 타석 위치 또는 스크린 위치 조정 후 뎁스 카메라센서를 통한 수평, 수직 캘리브레이션이 수행되어 타석과 스크린이 수시 이동되더라도 캘리브레이션 프로세스가 간편하게 이루어질 수 있는 뎁스 카메라센서를 이용한 체감형 스포츠 동작인식시스템에 관한 것이다.
이를 위해 본 발명은 실내 또는 실외에 설치되며 사용자가 볼을 타격하는 위치에 이동가능하도록 배치되는 타석과; 상기 타석과 일정 간격 이격되어 마주하며 이동가능하도록 설치되는 스크린과; 상기 스크린의 상부 일측에 설치되어 스크린으로 영상데이터를 조사하여 스크린에 영상정보가 투영되도록 하는 빔프로젝터와; 상기 스크린의 상부 일측에 설치되어 타석에 위치하는 사용자를 감지하고, 사용자가 볼을 타격하는 경우 사용자의 모션 및 볼 궤적을 추적하는 적외선 뎁스카메라 센서;를 포함한다.
여기서 상기 적외선 뎁스카메라 센서는 촬영하는 객체로 도트를 조사하는 도트프로젝터와와, 상기 도트프로젝터를 통해 조사되는 도트 패턴을 판독하고 적외선 이미지를 촬영하여 영상이미지 및 뎁스이미지를 생성하는 적외선 카메라와, 상기 적외선 카메라로부터 촬영된 이미지정보를 전달받으며, 타석 또는 스크린이 이동할 경우에 캘리브레이션을 수행하며, 트리거 인식, 사용자의 모션인식 또는 볼 궤적 추적데이터를 생성하는 제어부를 포함한다. The present invention relates to a tangible sports motion recognition system using a depth camera sensor, and more particularly, integrated recognition with a depth camera sensor that recognizes a ball or user's motion, trajectory, and trigger in a tangible ball sports system. If possible, the required configuration is simple, so it is easy to install and use, and after adjusting the position of the bat or the screen, horizontal and vertical calibration is performed through the depth camera sensor, so even if the bat and the screen are moved at any time, the calibration process is easy. It relates to a tactile sports motion recognition system using a sensor.
To this end, the present invention provides a batting table installed indoors or outdoors and arranged to be movable at a position where a user hits a ball; a screen facing the at-bat at a predetermined interval and installed to be movable; a beam projector installed on an upper side of the screen to irradiate image data to the screen to project image information on the screen; and an infrared depth camera sensor installed on one upper side of the screen to detect a user positioned at the bat and to track the user's motion and ball trajectory when the user hits the ball.
Here, the infrared depth camera sensor includes: a dot projector that irradiates dots as an object to be photographed; an infrared camera that reads a dot pattern irradiated through the dot projector and captures an infrared image to generate a video image and a depth image; It includes a control unit that receives image information captured from the infrared camera, performs calibration when the batting pad or the screen moves, and generates trigger recognition, user motion recognition, or ball trajectory tracking data.
Description
본 발명은 뎁스 카메라센서를 이용한 체감형 스포츠 인식시스템에 관한 것으로서 더욱 상세하게는 체감형 구기 스포츠 시스템에서 볼 또는 사용자의 동작인식, 궤적인식 및 트리거인식을 한 종류인 뎁스 카메라센서로 통합인식이 가능함에 따라 필요 구성이 간단하여 설치 및 사용이 용이하며, 타석 위치 또는 스크린 위치 조정 후 뎁스 카메라센서를 통한 수평, 수직 캘리브레이션이 수행되어 타석과 스크린이 수시 이동되더라도 캘리브레이션 프로세스가 간편하게 이루어질 수 있는 뎁스 카메라센서를 이용한 체감형 스포츠 인식시스템에 관한 것이다. The present invention relates to a tangible sports recognition system using a depth camera sensor, and more particularly, in a tangible ball sports system, integrated recognition is possible with a depth camera sensor that recognizes a ball or user's motion, trajectory, and trigger recognition. The required configuration is simple, so it is easy to install and use, and after adjusting the position of the plate at bat or the screen position, horizontal and vertical calibration is performed through the depth camera sensor, so even if the bat and screen are frequently moved, the calibration process can be easily performed. It relates to a tangible sports recognition system using
스크린 야구, 스크린 축구 또는 스크린 발야구 등 체감형 구기 스포츠 게임은, 영상이 투사되는 스크린에 볼을 타격하여 사용자가 투사되는 영상을 보며 실재 야구, 축구 또는 발야구 경기와 유사하게 진행되는 가상 체감형 게임을 의미한다.A tangible ball sports game such as screen baseball, screen soccer, or screen baseball is a virtual tangible game that is similar to an actual baseball, soccer or foot baseball game while seeing the projected image by hitting a ball on the screen on which the image is projected. it means.
구체적으로, 스크린 축구의 경우 스크린 반대편에 위치한 타석에서 사용자는 스크린을 향하여 볼을 타격하고 타격된 공은 실제 진행 방향 및 수비수 또는 골키퍼의 행동에 따라 골의 여부가 결정되게 된다. Specifically, in the case of screen soccer, the user hits the ball toward the screen at the plate located opposite the screen, and whether the hit ball is a goal is determined according to the actual progress direction and the action of the defender or goalkeeper.
이와 같은 체감형 구기 스포츠 시스템은 공간의 제약이 있으며 별도의 수비수가 없다. 따라서, 각종 센서가 타격된 볼의 속도와 방향 등을 센싱하면, 이를 이용하여 타격된 볼의 궤적이 자동으로 연산되고, 연산된 궤적에 따라 골 여부가 결정됨으로써 축구 경기가 진행된다.Such a tangible ball sports system has limited space and does not have a separate defender. Accordingly, when various sensors sense the speed and direction of the hit ball, the trajectory of the hit ball is automatically calculated using this, and whether or not a goal is scored is determined according to the calculated trajectory, so that the soccer game proceeds.
이와 같이 체감형 구기 스포츠 시스템의 가장 중요한 구성으로 타석에 들어서는 사용자가 볼을 타격하는 시작점을 인식하는 트리거 센서, 타격된 볼의 궤적을 인식하는 볼 궤적 센서 및 사용자의 모션을 인식하는 모션인식 센서 등이 구비되는데, 이러한 트리거 센서, 볼 궤적 센서 및 모션인식 센서를 통해 트리거 신호가 인식되면 볼 궤적을 연산하고, 사용자의 모션 인식 정보와 함께 결과 데이터를 사용자에게 제공하게 된다. As the most important configuration of the tangible ball sports system, a trigger sensor that recognizes the starting point of hitting the ball by a user entering the bat, a ball trajectory sensor that recognizes the trajectory of the hit ball, and a motion recognition sensor that recognizes the user's motion is provided, when a trigger signal is recognized through the trigger sensor, the ball trajectory sensor, and the motion recognition sensor, the ball trajectory is calculated, and the result data is provided to the user along with the user's motion recognition information.
하지만 다양한 센서가 구비되어야 함에 따라 설치 및 사용상에 많은 불편함이 발생되고, 타석 또는 스크린이 이동되는 경우 숙련자의 통해 각 센서별로 캘리브레이션을 수행하여야 함에 따라 설정시간이 소요됨은 물론 작업 난이도를 증대시키는 문제가 있다. However, as various sensors must be provided, a lot of inconvenience occurs in installation and use, and when the batting pad or screen is moved, it takes time to set up and increases the difficulty of work as each sensor must be calibrated by an expert. there is
(특허문헌1) 한국등록특허 KR 10-1548511B1(Patent Document 1) Korean Patent KR 10-1548511B1
(특허문헌2) 한국등록특허 KR 10-1505931B1(Patent Document 2) Korean Patent KR 10-1505931B1
본 발명은 상기의 문제점을 해결하기 위해 안출된 것으로서 체감형 구기 스포츠 시스템에서 볼 또는 사용자의 동작인식, 궤적인식 및 트리거인식을 한 종류인 뎁스 카메라센서로 통합인식이 가능함에 따라 트리거 센서, 볼 궤적 센서 및 모션 인식 센서 등 다수 구성이 구비되지 않아도 설치 및 사용이 용이하며, 타석 위치 또는 스크린 위치 조정 후 뎁스 카메라센서를 통한 수평, 수직 캘리브레이션이 수행되어 타석과 스크린이 수시 이동되더라도 캘리브레이션 프로세스가 간편하게 이루어질 수 있는 뎁스 카메라센서를 이용한 체감형 스포츠 인식시스템을 제공함에 그 목적이 있다. The present invention has been devised to solve the above problems, and as it is possible to integrate recognition of a ball or user's motion recognition, trajectory expression and trigger recognition with a depth camera sensor, which is one type of trigger sensor, ball trajectory in a tangible ball sports system. It is easy to install and use even without multiple components such as sensors and motion recognition sensors, and after adjusting the position of the bat or screen, horizontal and vertical calibration is performed through the depth camera sensor, making the calibration process simple even if the bat and screen are moved at any time. An object of the present invention is to provide a tangible sports recognition system using a depth camera sensor.
본 발명은 상기의 목적을 달성하기 위해 아래와 같은 특징을 갖는다.The present invention has the following features to achieve the above object.
본 발명은 실내 또는 실외에 설치되며 사용자가 볼을 타격하는 위치에 이동가능하도록 배치되는 타석과; 상기 타석과 일정 간격 이격되어 마주하며 이동가능하도록 설치되는 스크린과; 상기 스크린의 상부 일측에 설치되어 스크린으로 영상데이터를 조사하여 스크린에 영상정보가 투영되도록 하는 빔프로젝터와; 상기 스크린의 상부 일측에 설치되어 타석에 위치하는 사용자를 감지하고, 사용자가 볼을 타격하는 경우 사용자의 모션 및 볼 궤적을 추적하는 적외선 뎁스카메라 센서;를 포함한다. The present invention provides a batting table installed indoors or outdoors and arranged to be movable at a position where a user strikes a ball; a screen facing the at-bat at a predetermined interval and installed to be movable; a beam projector installed on an upper side of the screen to project image information onto the screen by irradiating image data to the screen; and an infrared depth camera sensor installed on one upper side of the screen to detect a user positioned at the bat and to track the user's motion and ball trajectory when the user hits the ball.
여기서 상기 적외선 뎁스카메라 센서는 촬영하는 객체로 도트를 조사하는 도트프로젝터와와, 상기 도트프로젝터를 통해 조사되는 도트 패턴을 판독하고 적외선 이미지를 촬영하여 영상이미지 및 뎁스이미지를 생성하는 적외선 카메라와, 상기 적외선 카메라로부터 촬영된 이미지정보를 전달받으며, 타석 또는 스크린이 이동할 경우에 캘리브레이션을 수행하며, 트리거 인식, 사용자의 모션인식 또는 볼 궤적 추적데이터를 생성하는 제어부를 포함한다. Here, the infrared depth camera sensor includes: a dot projector that irradiates dots as an object to be photographed; an infrared camera that reads a dot pattern irradiated through the dot projector and captures an infrared image to generate a video image and a depth image; It includes a control unit that receives image information captured from the infrared camera, performs calibration when the bat or the screen moves, and generates trigger recognition, user motion recognition, or ball trajectory tracking data.
상기 제어부는 설정 또는 사용자의 요청에 따라 적외선 카메라의 수평캘리브레이션 및 수직캘리브레이션을 수행하는 캘리브레이션 수행부와, 상기 캘리브레이션 수행부에 의해 캘리브레이션이 수행된 후 적외선 카메라로부터 촬영되는 영상정보를 전달받아 타석 위치를 기준으로 볼이 위치하는지 여부를 판단하고 볼영역의 뎁스값 변화를 추적하여 트리거 신호 발생여부를 판단하는 트리거 신호발생부와, 상기 트리거 신호발생부에 의해 트리거 신호가 발생된 경우 적외선 카메라로부터 촬영되는 영상정보를 전달받아 영상이미지로부터 볼의 2차원 좌표궤적데이터를 생성하고 뎁스이미지를 통해 3차원 합산좌표 궤적데이터를 생성한 다음 볼의 3차원 진행방향 및 가속도 정보를 추출하는 볼궤적 추적부를 포함한다. The control unit includes a calibration performing unit that performs horizontal and vertical calibration of the infrared camera according to a setting or a user's request, and receives image information photographed from the infrared camera after the calibration is performed by the calibration performing unit to determine the position at bat A trigger signal generator that determines whether the ball is positioned as a reference and tracks a change in the depth value of the ball area to determine whether a trigger signal is generated, and when a trigger signal is generated by the trigger signal generator, the image is taken from an infrared camera It includes a ball trajectory tracking unit that receives image information and generates two-dimensional coordinate trajectory data of a ball from an image image, generates three-dimensional combined coordinate trajectory data through a depth image, and then extracts three-dimensional moving direction and acceleration information of the ball .
아울러 상기 캘리브레이션 수행부는 설정 또는 사용자의 요청에 따라 수평캘리브레이션 및 수직캘리브레이션을 순차적으로 수행하며, 수평캘리브레이션은 적외선 카메라로부터 타석방향으로 촬영된 영상을 빔프로젝터로 조사하여 화면 수평 중앙에 타석이 위치하는지 여부를 제공하여 타석의 수평위치 이동여부가 결정되도록 하며 수직캘리브레이션은 수평캘리브레이션이 수행된 후 적외선 카메라로부터 타석방향으로 촬영된 영상을 빔프로젝터로 재조사하여 수평캘리브레이션 결과값 수직선 상에 타석이 위치하는지 여부를 제공하여 수평캘리브레이션 재실행 여부가 결정되도록 한다. In addition, the calibration performing unit sequentially performs horizontal and vertical calibration according to the setting or user's request, and the horizontal calibration is performed by irradiating the image taken from the infrared camera in the batting direction with a beam projector to determine whether the bat is located in the horizontal center of the screen. is provided to determine whether the horizontal position of the turn at bat is moved. In the vertical calibration, the image taken from the infrared camera in the direction of the plate at bat is re-irradiated with a beam projector after the horizontal calibration is performed to determine whether the result of the horizontal calibration is located on the vertical line. to determine whether to re-execute the horizontal calibration.
또한 상기 트리거 신호발생부는 캘리브레이션이 완료된 타석 위치를 기준으로 뎁스이미지상에서 추출한 볼형상에 해당하는 영역의 컬러 이미지와 기저장된 볼형상의 컬러 이미지를 비교하여 볼이 위치하고 있는지 판단하고, 볼이 위치하고 있는 것으로 판단되는 경우 볼영역 확정 및 뎁스값 변화를 추적하여 설정치 이상의 변화가 발생되는 경우 트리거 신호를 발생시킨다. In addition, the trigger signal generator compares the color image of the area corresponding to the ball shape extracted from the depth image with the color image of the ball shape extracted from the depth image based on the position at bat where the calibration is completed, and determines whether the ball is located, and determines that the ball is located. If it is determined, the ball area is determined and the change in the depth value is tracked, and when a change more than the set value occurs, a trigger signal is generated.
또한, 본 발명은 상기 타석(10)으로부터 소정거리 이격되게 설치되어 볼 타격 후 바닥에 일정영역으로 표시되는 공격수 주행영역으로 이동하여 제자리 주행하는 공격수의 주행속도를 측정하는 공격수 주행속도 측정센서와, 상기 공격수 주행속도 측정센서와 서로 대향되는 위치에 마련되어 볼 타격 후 바닥에 일정영역으로 표시되는 수비수 주행영역으로 이동하여 제자리 주행하는 수비수의 주행속도를 측정하는 수비수 주행속도 측정센서를 더 포함할 수 있다.In addition, the present invention provides a striker running speed measuring sensor that is installed to be spaced apart from the
또한 상기 빔프로젝터(30)는 적외선 뎁스카메라 센서(40)로부터 수신된 볼 궤적정보와 상기 공격수 및 수비수 주행속도 측정센서로부터 수신된 공격수 및 수비수의 주행속도 정보에 따라 상기 영상데이터를 스크린에 조사할 수 있다.In addition, the
본 발명에 따르면 체감형 스포츠 게임을 수행하는 데 다양한 센서를 구비할 필요없이 하나의 적외선 카메라센서만으로 트리거 인식 및 볼 궤적 추적이 가능함에 따라 설치 및 운용이 간편하며 각 센서별로 캘리브레이션을 수행하여야 하는 불편함이 제거되며, 캘리브레이션 과정이 신속하고 용이하게 이루어짐에 따라 타석 및 스크린을 쉽게 이동할 수 있다.According to the present invention, since trigger recognition and ball trajectory tracking are possible with only one infrared camera sensor without needing various sensors to perform a tangible sports game, installation and operation are simple, and the inconvenience of performing calibration for each sensor The box is removed and the plate and screen can be moved easily as the calibration process is quick and easy.
또한, 본 발명은 타격 후에 공격수 및 수비수의 실제 주행속도를 측정하여 경기진행 정보에 반영함으로써 보다 실감있는 경기진행이 이루어져 사용자가 적극적으로 게임에 참여하도록 유도할 수 있다.In addition, the present invention can induce a more realistic game progress by measuring the actual running speed of the striker and the defender after hitting and reflecting it in the game progress information so that the user can actively participate in the game.
도 1은 본 발명의 일실시예에 따른 스포츠 인식시스템의 개략적인 구성을 나타내는 도면이다.
도 2는 본 발명의 일실시예에 따른 스포츠 인식시스템의 적외선 뎁스카메라 센서 내부 구성을 나타내는 블럭도이다.
도 3은 본 발명의 일실시예에 따른 캘리브레이션 과정을 나타내는 순서도이다.
도 4는 본 발명의 일실시예에 따른 트리거 인식과정을 나타내는 순서도이다.
도 5는 본 발명의 일실시예에 따른 트리거 인식모습을 나타내는 사진이다.
도 6은 본 발명의 일실시예에 따른 볼 궤적 추적과정을 나타내는 순서도이다.
도 7은 도 6에 따라 볼 궤적을 추적하는 일예를 나타내는 그래프이다.
도 8은 본 발명의 일실시예에 따른 볼 궤적 및 모션 인식모습을 나타내는 사진이다.1 is a diagram showing a schematic configuration of a sports recognition system according to an embodiment of the present invention.
2 is a block diagram illustrating the internal configuration of an infrared depth camera sensor of a sports recognition system according to an embodiment of the present invention.
3 is a flowchart illustrating a calibration process according to an embodiment of the present invention.
4 is a flowchart illustrating a trigger recognition process according to an embodiment of the present invention.
5 is a photograph showing a trigger recognition state according to an embodiment of the present invention.
6 is a flowchart illustrating a ball trajectory tracking process according to an embodiment of the present invention.
7 is a graph illustrating an example of tracking a ball trajectory according to FIG. 6 .
8 is a photograph showing a ball trajectory and motion recognition according to an embodiment of the present invention.
본 발명과 본 발명의 동작상의 이점 및 본 발명의 실시에 의하여 달성되는 목적을 설명하기 위하여 이하에서는 본 발명의 바람직한 실시예를 예시하고 이를 참조하여 살펴본다.In order to explain the present invention, the operational advantages of the present invention, and the objects achieved by the practice of the present invention, preferred embodiments of the present invention are exemplified below and will be described with reference to them.
먼저, 본 출원에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로서, 본 발명을 한정하려는 의도가 아니며, 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 또한 본 출원에서, "포함하다" 또는 "가지다" 등의 용어는 명세서 상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.First, the terms used in the present application are only used to describe specific embodiments, and are not intended to limit the present invention, and the singular expression may include a plural expression unless the context clearly indicates otherwise. Also in the present application, terms such as “comprise” or “have” are intended to designate that a feature, number, step, operation, component, part, or combination thereof described in the specification exists, but one or more other It is to be understood that this does not preclude the possibility of addition or presence of features or numbers, steps, operations, components, parts, or combinations thereof.
본 발명을 설명함에 있어서, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략한다.In describing the present invention, if it is determined that a detailed description of a related known configuration or function may obscure the gist of the present invention, the detailed description thereof will be omitted.
도 1은 본 발명의 일실시예에 따른 스포츠 인식시스템의 개략적인 구성을 나타내는 도면이며, 도 2는 본 발명의 일실시예에 따른 스포츠 인식시스템의 적외선 뎁스카메라 센서 내부 구성을 나타내는 블럭도이다. 1 is a diagram showing a schematic configuration of a sports recognition system according to an embodiment of the present invention, and FIG. 2 is a block diagram showing an internal configuration of an infrared depth camera sensor of the sports recognition system according to an embodiment of the present invention.
도면을 참조하면, 본 발명에 따른 스포츠 인식시스템(100)은 크게 실내 또는 실외에 설치되며 사용자가 볼을 타격하는 위치에 이동가능하도록 배치되는 타석(10)과, 상기 타석(10)과 일정 간격 이격되어 마주하며 이동가능하도록 설치되는 스크린(20)과, 상기 스크린(20)의 상부 일측에 설치되어 스크린(20)으로 영상데이터를 조사하여 스크린(20)에 영상정보가 투영되도록 하는 빔프로젝터(30)와, 상기 스크린(20)의 상부 일측에 설치되어 타석(10)에 위치하는 사용자를 감지하고, 사용자가 볼을 타격하는 경우 사용자의 모션 및 볼 궤적을 추적하는 적외선 뎁스카메라 센서(40), 및 타격 후 볼을 타격하는 사람(공격수)과 수비수의 주행속도를 측정하는 사용자 주행속도 측정센서(50)를 포함하여 이루어진다. Referring to the drawings, the sports recognition system 100 according to the present invention is largely installed indoors or outdoors and includes a seat at
본 발명에 적용되는 체감형 스포츠는 스크린(20)에 표시되는 가상 영상에 대해 사용자가 타석에서 볼을 타격하고 볼의 궤적 및 사용자의 동작 모션을 인식하여 해당 스포츠의 룰에 따라 게임이 진행될 수 있는 스포츠라면 어느 스포츠에 적용될 수 있으며, 일예로 스크린 축구, 스크린 야구, 스크린 발야구 등이 해당될 것이다. In the tangible sports applied to the present invention, the user hits the ball at the plate with respect to the virtual image displayed on the
스크린 발야구의 경우 타석에서 사용자가 볼을 지면에 배치시킨 후 발로 해당 볼을 타격하면, 스크린(20)에 가상 수비자를 표시하여 해당 가상 수비자의 일정 영역 내로 볼이 뜬공으로 근접할 경우 아웃으로 판단하고 수비자들 사이로 볼이 진행할 경우 안타로 판단한다. 즉, 타격시 측정된 볼의 궤적과 볼을 추적하는 수비수의 주행속도와 루상을 주행하는 공격수의 주행속도가 설정되어 있어 이에 따라 아웃, 안타, 2루타, 3루타 및 홈런 중 설정에 따라 판단한다. In the case of screen-footed baseball, when the user places the ball on the ground at bat and hits the ball with his foot, a virtual defender is displayed on the
한편, 본 발명에서는 실제 타격이 이루어진 후 공격수 및 수비수의 주행속도를 측정하여 이를 실제 경기에 반영함으로써 보다 실감 있는 경기진행이 이루어질 수 있는데, 이에 대해서는 후술토록 한다.On the other hand, in the present invention, a more realistic game progress can be made by measuring the running speeds of the striker and the defender after the actual hitting is made and reflecting this in the actual game, which will be described later.
이와 같이 적용되는 체감형 스포츠 종목에 따라 구체적인 컨텐츠의 내용을 달리 설정될 수 있으며, 본 발명은 사용자가 볼을 타격하는 시점의 트리거 인식, 사용자의 모션 인식 및 타격되어 진행되는 볼 궤적을 추적하기 위한 인식시스템으로 이러한 인식 데이터정보에 따라 해당 스포츠 종목별 세부 설정으로 게임이 진행되도록 하는 것이다. The content of specific content can be set differently depending on the tangible sports event applied as described above, and the present invention is for tracking the trigger recognition at the time the user hits the ball, the user's motion recognition and the tracking of the ball trajectory being hit. The recognition system allows the game to proceed with detailed settings for each sport according to this recognition data information.
이러한 본 발명의 체감형 스포츠 인식시스템(100)에 적용되는 타석(10)은 볼이 배치되는 기준점으로 적외선 뎁스카메라 센서(40)가 해당 타석(10)을 촬영한 영상을 분석하여 트리거 인식, 사용자의 모션 인식 및 볼 궤적 추적이 이루어지게 된다. The turn at
본 발명에 따른 타석(10) 및 후술할 스크린(20)은 위치이동가능하도록 구성되며, 필요에 따라 위치이동이 이루어지며 사용자의 요청에 따라 적외선 뎁스카메라 센서(40)의 캘리브레이션이 수행되도록 할 수 있다. The turn at
기존 체감형 스포츠 인식시스템의 경우 트리거 센서, 볼 궤적 추적센서, 사용자 모션인식센서 등이 다양하게 구비됨에 따라 스크린(20) 또는 타석(10)이 이동할 경우 각 센서별로 캘리브레이션이 수행되어야 함에 따라 캘리브레이션 과정이 복잡하고 작업자의 숙련도에 따라 작업 시간 증대 및 시스템 정확도 저하를 야기할 수 있는 문제가 있어 일반적으로 이동형이 아닌 고정형으로 구성되어야 했다. In the case of the existing tangible sports recognition system, as a trigger sensor, a ball trajectory tracking sensor, a user motion recognition sensor, etc. are provided in various ways, when the
하지만, 본 발명의 경우 트리거 인식, 사용자의 모션 인식 및 볼 궤적 추적을 한 종류인 적외선 뎁스카메라 센서(40)만으로 가능함에 따라 캘리브레이션 과정이 신속하고 용이하여 이동형으로 구성될 수 있는 것이다. However, in the case of the present invention, since trigger recognition, user motion recognition, and ball trajectory tracking are possible with only one type of infrared
한편 상기 스크린(20)은 사용자에게 체감형 스포츠를 즐길 수 있도록 영상정보를 제공하며 상기 스크린(20)에는 별도의 지지바 또는 지지프레임이 설치되어 후술할 빔프로젝터(30) 및 적외선 뎁스카메라 센서(40)가 상부측에 설치된다. On the other hand, the
아울러 본 발명에 따른 스크린(20)은 전술한 타석(10)과 마찬가지로 이동가능하도록 구성되며 필요에 따라 용이하게 이동하도록 스크린(20)의 하부측에 이동롤러 등이 설치될 수 있다. In addition, the
또한 상기 빔프로젝터(30)는 체감형 스포츠 수행을 위해 사용자에게 컨텐츠 영상을 스크린(20)으로 조사하여 제공하는데, 컨텐츠 영상이 저장되는 영상저장부(31), 적외선 뎁스카메라 센서(40)와 사용자 주행속도 측정센서(50)와 무선으로 데이터를 송수신하는 무선통신부(32), 적외선 뎁스카메라 센서(40)로부터 측정된 볼 궤적 정보와 사용자 주행속도 측정센서(50)로부터 측정된 공격수 및 수비수의 주행속도 정보에 따라 아웃, 안타 등의 경기진행 정보를 판단하여 영상저장부(31)에 저장된 컨텐츠 영상을 출력하는 영상출력부(32)를 구비하여 이루어진다.In addition, the
이러한 상기 빔프로젝터(30)는 본 발명의 일실시예에 따라 스크린(20) 상에 거치하여 스크린(20)으로 컨텐츠 영상을 조사하도록 구성할 수 있으며, 이경우 초단초점방식의 빔프로젝터(30)를 적용하여야 할 것이다. The
물론 상기 빔프로젝터(30)를 타석 후방부에 위치시켜 조사하거나 천정부에 거치하여 조사할 수도 있으나, 타석 후방부에 위치시킨 경우 타석에 위치하는 사용자에 의해 컨텐츠 영상이 원활하게 조사되기 어렵고 천정부에 거치하는 경우 스크린을 이동할 때 함께 이동 거치하여야 하는 불편함이 발생된다. Of course, the
한편 상기 적외선 뎁스카메라 센서(40)는 상기 스크린(20)의 상부 일측에 설치되어 타석(10)에 위치하는 사용자를 감지하고, 사용자가 볼을 타격하는 경우 사용자의 모션 및 볼 궤적을 추적하도록 구비되는데, 이러한 적외선 뎁스카메라 센서(40)는 촬영하는 객체로 도트를 조사하는 도트프로젝터와(41)와, 상기 도트프로젝터(41)를 통해 조사되는 도트 패턴을 판독하고 적외선 이미지를 촬영하여 영상이미지 및 뎁스이미지를 생성하는 적외선 카메라(42)와, 상기 적외선 카메라(42)로부터 촬영된 이미지정보를 전달받으며, 타석(10) 또는 스크린(20)이 이동할 경우에 캘리브레이션을 수행하며, 트리거 인식, 사용자의 모션인식 또는 볼 궤적 추적데이터를 생성하는 제어부(43), 및 제어부(43)에서 측정된 볼 궤적 데이터를 빔프로젝터(30)로 전송하는 무선통신부(미도시)로 구성된다. Meanwhile, the infrared
여기서 상기 도트프로젝터(41)는 촬영하는 객체에 도트를 조사하여 적외선 카메라(42)가 도트를 촬영하도록 한다. 이에 따라 촬영 대상인 사용자, 타석(10) 및 볼의 거리에 따라 투사되는 도트의 위치가 실시간으로 변하게 되며, 상기의 적외선 카메라(42)가 이러한 도트정보가 포함된 적외선 이미지를 촬영하여 영상이미지 및 뎁스이미지를 생성하고, 이를 제어부(43)로 전달한다. Here, the
아울러 제어부(43)는 적외선 카메라(42)로부터 전달받은 이미지 정보를 통해 캘리브레이션, 트리거 인식, 사용자의 모션인식 및 볼 궤적 추적을 수행하게 되는데, 이와 같은 제어부(43)는 설정 또는 사용자의 요청에 따라 적외선 카메라(42)의 수평캘리브레이션 및 수직캘리브레이션을 수행하는 캘리브레이션 수행부(43a)와, 상기 캘리브레이션 수행부(43a)에 의해 캘리브레이션이 수행된 후 적외선 카메라(42)로부터 촬영되는 영상정보를 전달받아 타석 위치를 기준으로 볼이 위치하는지 여부를 판단하고 볼영역의 뎁스값 변화를 추적하여 트리거 신호 발생여부를 판단하는 트리거 신호발생부(43b)와, 상기 트리거 신호발생부(43b)에 의해 트리거 신호가 발생된 경우 적외선 카메라(42)로부터 촬영되는 영상정보를 전달받아 영상이미지로부터 볼의 2차원 좌표궤적데이터를 생성하고 뎁스이미지를 통해 3차원 합산좌표 궤적데이터를 생성한 다음 볼의 3차원 진행방향 및 가속도 정보를 추출하는 볼궤적 추적부(43c)를 포함한다. In addition, the
한편, 본 발명의 다른 실시예에 따르면 보다 실감있는 경기진행을 위하여 볼의 타격 후 볼을 타격하는 사람(공격수)과 수비수의 주행속도를 측정할 수 있도록 사용자 주행속도 측정센서(50)를 더 구비할 수 있다. 사용자 주행속도 측정센서(50)는 타석(10)으로부터 소정거리 이격되게 설치되는 공격수 주행속도 측정센서와, 상기 공격수 주행속도 측정센서와 서로 대향되는 위치에 마련되는 수비수 주행속도 측정센서로 이루어지는데, 공격수 주행속도 측정센서는 볼 타격 후 바닥에 일정영역으로 표시되는 공격수 주행영역으로 이동하여 제자리 주행하는 공격수의 주행속도를 설정된 소정시간 동안 측정하며(예를 들어 3초 내지 5초), 수비수 주행속도 측정센서는 마찬가지로 볼 타격 후 바닥에 일정영역으로 표시되는 수비수 주행영역으로 이동하여 제자리 주행하는 수비수의 주행속도를 측정한다. 사용자 주행속도 측정센서(50)는 측정된 사용자의 주행속도가 설정된 주행속도 등급(예를 들어, 5단계 등급-매우빠름(1단계), 빠름(2단계), 보통(3단계), 느림(4단계), 아주느림(5단계)중 어느 등급인지 판단하여 주행속도 등급정보를 무선통신 모듈을 통하여 빔프로젝터(30)로 전송한다. 사용자 주행속도 측정센서(50)로는 전술한 뎁스 카메라 센서가 사용될 수 있는데, 사용자에게 도트를 조사하는 도트프로젝터와, 상기 도트프로젝터를 통해 조사되는 도트 패턴을 판독하고 적외선 이미지를 촬영하여 영상이미지 및 뎁스이미지를 생성하는 적외선 카메라와, 상기 적외선 카메라로부터 촬영된 이미지정보를 전달받아 사용자의 움직임 데이터를 생성하는 제어부를 포함하여 이루어진다. On the other hand, according to another embodiment of the present invention, a user driving speed measuring sensor 50 is further provided to measure the driving speed of a person (attacker) and a defender hitting the ball after hitting the ball for more realistic game progress can do. The user driving speed measuring sensor 50 is composed of a striker driving speed measuring sensor installed to be spaced apart from the
이와 같이 적외선 뎁스카메라 센서(40)와 사용자 주행속도 측정센서(50)에 무선으로 연결되는 빔프로젝터(30)는 설정된 가상 수비수 및 공격수와 수신된 볼 궤적정보를 함께 스크린(20)으로 영상을 출력하는데, 볼 궤적정보와 공격수 및 수비수의 주행속도 정보에 따라 공격수가 아웃인지 안타인지, 안타라면 몇 루타인지와 같은 경기진행 정보를 판단한다. 경기진행 정보는 사전에 설정된 볼 궤적정보와 수비수 및 공격수의 주행속도를 기준으로 타격 후 수신된 볼 궤적정보와 수비수 및 공격수의 실제 주행숙도를 비교하여 판단하다. In this way, the
따라서, 본 발명에 따르면 타격 후에 공격수 및 수비수의 실제 주행속도를 측정하여 경기진행 정보에 반영함으로써 보다 실감있는 경기진행이 이루어져 사용자가 적극적으로 게임에 참여하도록 유도할 수 있다.Therefore, according to the present invention, by measuring the actual running speed of the striker and the defender after hitting and reflecting it in the game progress information, more realistic game progress can be made and the user can be induced to actively participate in the game.
도 3은 본 발명의 일실시예에 따른 캘리브레이션 과정을 나타내는 순서도이다. 3 is a flowchart illustrating a calibration process according to an embodiment of the present invention.
도면을 참조하면, 본 발명의 일실시예에 따른 제어부(43)의 캘리브레이션 수행부(43a)는 도시된 바와 같이 수평캘리브레이션과 수직캘리브레이션 과정을 수행하는데, 우선 수평캘리브레이션은 타석(10) 및 스크린(20)의 이동에 의해 사용자가 요청하거나 별도의 감지수단을 캘리브레이션이 필요한 것으로 판단되는 경우 수행하도록 구성할 수 있다. Referring to the drawings, the
아울러 설정에 따라 일정 시간별로 진행하거나 적외선 뎁스카메라 센서(40)의 온/오프 또는 별도의 설정 조건에 의해 캘리브레이션을 수행하도록 구성할 수 있다. In addition, it may be configured to proceed for a predetermined time according to the setting or to perform calibration according to on/off of the infrared
이에 따라 캘리브레이션을 수행하는 경우(S10) 상기 캘리브레이션 수행부(43a)는 우선 적외선 뎁스카메라 센서(40)의 적외선 카메라(42)를 온시켜 촬영정보를 빔프로젝터(30)로 전달함으로써 스크린(20)에 촬영정보가 투사되도록 한다(S20). Accordingly, when performing the calibration (S10), the
이에 따라 스크린(20) 화면의 중앙부에 타석(10)이 위치하는지 여부를 판단하고(S30) 위치하지 않을 경우 사용자에게 타석의 수평위치를 이동하도록 요청하여(S31) 화면의 중앙부에 타석(10)이 위치하는지 재판별하는 과정을 수행한다. Accordingly, it is determined whether the turn at
이를 통해 타석(10)이 중앙부에 위치할 경우 기설정된 타석(10) 크기와 적외선 카메라(42)로부터 전달되는 뎁스이미지 상의 뎁스값 매핑을 통해 타석과의 거리를 판단하고(S40) 타격위치, 좌단위거리 우단위거리 화면 매핑을 수행한다(S50). Through this, when the turn at
이와 같이 타석(10)과의 거리값이 생성되고, 타격위치, 좌단위거리 우단위거리 화면 매핑이 완료되면 수직캘리브레이션을 수행하는데(S60), 수직캘리브레이션은 수평캘리브레이션과 마찬가지로 적외선 카메라(42)의 촬영 영상정보를 스크린(20)에 투사되도록 하고(S70) 수평캘리브레이션의 결과값 수직선 상에 타석이 위치하는지 여부를 판단하게 된다(S80). In this way, the distance value with the
이러한 판단여부에 따라 수평캘리브레이션 결과값 수직선 상에 타석이 위치하지 않는 경우 수평캘리브레이션 과정을 재수행하고(S81) 위치하는 경우 타격위치의 위단위거리를 매핑하는 것으로(S90) 캘리브레이션 과정이 완료되게 된다. If the batting stone is not located on the vertical line of the horizontal calibration result value according to such determination, the horizontal calibration process is re-performed (S81). If it is located, the calibration process is completed by mapping the upper unit distance of the hitting position (S90).
도 4는 본 발명의 일실시예에 따른 트리거 인식과정을 나타내는 순서도이며, 도 5는 본 발명의 일실시예에 따른 트리거 인식모습을 나타내는 사진이다.4 is a flowchart illustrating a trigger recognition process according to an embodiment of the present invention, and FIG. 5 is a photograph showing a trigger recognition process according to an embodiment of the present invention.
도면을 참조하면, 본 발명에 따른 제어부(43)의 트리거 신호발생부(43b)는 캘리브레이션이 완료된 타석 위치를 기준으로 뎁스이미지상에서 추출한 볼형상에 해당하는 영역의 컬러 이미지와 기저장된 볼형상의 컬러 이미지를 비교하여 볼이 위치하고 있는지 판단하고, 볼이 위치하고 있는 것으로 판단되는 경우 볼영역 확정 및 뎁스값 변화를 추적하여 설정치 이상의 변화가 발생되는 경우 트리거 신호를 발생시키도록 구성된다. Referring to the drawings, the trigger
구체적으로 수행 과정을 살펴보면 우선 캘리브레이션이 완료된 타석 위치를 기준으로 뎁스이미지 상의 볼 형상을 추출하고(S100), 추출된 볼 형상의 위치기준 후면 영상과 전면 영상을 거리정보를 이용하여 제거한다(S110). Specifically, looking at the execution process, first, the ball shape on the depth image is extracted based on the position at bat where the calibration is completed (S100), and the rear image and the front image based on the position of the extracted ball shape are removed using distance information (S110) .
이에 따라 추출된 볼 형상에 해당하는 영역의 컬러이미지와 미리 저장된 볼 이미지를 비교하여(S120) 볼로 판별할 수 있는 설정치 범위 내인지 판단한다(S130). Accordingly, by comparing the color image of the region corresponding to the extracted ball shape with the previously stored ball image (S120), it is determined whether it is within a set value range that can be determined as a ball (S130).
만일 설정치 범위 내가 아닌 경우 계속하여 볼 형상을 추출하고 설정치 범위 내인 경우 볼영역을 확정하고 해당 영역의 뎁스값 변화를 추적한다(S140). If it is not within the set value range, the ball shape is continuously extracted, and if it is within the set value range, the ball area is determined and the change in the depth value of the corresponding area is tracked (S140).
뎁스값의 변화가 기 설정된 한계점 이상으로 이루어지면 트리거로 판단하여 트리거 신호를 발생시키고, 볼 궤적 및 사용자 모션 변화를 추적한다. When the change in the depth value exceeds a preset threshold, it is determined as a trigger to generate a trigger signal, and the ball trajectory and user motion change are tracked.
이러한 볼 궤적 및 사용자 모션 변화는 트리거 신호발생부(43b)에서 트리거 신호가 발생되면 볼궤적 추적부(43c)에서 수행한다. The ball trajectory and user motion change are performed by the ball
물론 스포츠 게임의 종류에 따라 사용자 모션을 인식할 필요가 있는 스포츠에서는 사용자 모션의 변화에 데이터를 생성하고 필요가 없는 스포츠에서는 생략할 수 있다. Of course, according to the type of sports game, data may be generated on a change in user motion in sports requiring recognition of user motion, and may be omitted in sports that do not need it.
도 6은 본 발명의 일실시예에 따른 볼 궤적 추적과정을 나타내는 순서도이며, 도 7은 도 6에 따라 볼 궤적을 추적하는 일예를 나타내는 그래프이고, 도 8은 본 발명의 일실시예에 따른 볼 궤적 및 모션 인식모습을 나타내는 사진이다.6 is a flowchart illustrating a ball trajectory tracking process according to an embodiment of the present invention, FIG. 7 is a graph showing an example of tracing a ball trajectory according to FIG. 6, and FIG. 8 is a ball according to an embodiment of the present invention This is a picture showing the trajectory and motion recognition.
도면을 참조하면 본 발명의 일실시예에 따른 제어부(43)의 볼궤적 추적부(43c)는 상기 트리거 신호발생부(43b)에 의해 트리거 신호가 발생된 경우 적외선 카메라(42)로부터 촬영되는 영상정보를 전달받아 영상이미지로부터 볼의 2차원 좌표궤적데이터를 생성하고 뎁스이미지를 통해 3차원 합산좌표 궤적데이터를 생성한 다음 볼의 3차원 진행방향 및 가속도 정보를 추출하도록 구비된다. Referring to the drawings, the ball
도 7에 도시된 바와 같이 볼궤적 추적부(43c)는 우선 적외선 카메라(42)로부터 영상이미지 및 뎁스이미지를 전달받아 영상이미지를 통해 볼의 2차원 궤적 데이터를 생성하고(S200), 해당 2차원 궤적 데이터에 뎁스이미지의 뎁스 정보를 취합하여 3차원 궤적 데이터를 생성한다(S210). As shown in FIG. 7 , the ball
도출된 3차원 궤적 데이터에서 단위 시간을 이용하여 발사각 및 가속도를 추출하고 이를 통해 볼의 탄도방정식을 구성하게 된다(S220). The launch angle and acceleration are extracted using the unit time from the derived three-dimensional trajectory data, and the ballistic equation is constructed through this (S220).
상기와 같이 본 발명에 따른 체험형 스포츠 인식시스템은 적외선 뎁스카메라 센서(40)를 통해 트리거 인식, 사용자 모션 인식, 볼 궤적 추적이 가능함에 따라 캘리브레이션 과정이 신속하고 용이하게 수행될 수 있고, 타석 및 스크린의 이동성이 보다 용이해지게 된다. As described above, in the experiential sports recognition system according to the present invention, as trigger recognition, user motion recognition, and ball trajectory tracking are possible through the infrared
이와 같이 본 발명은 도면에 도시된 일실시예를 참고로 설명되었으나, 이는 예시적인 것에 불과하며, 본 기술 분야의 통상의 지식을 가진 자라면 이로부터 다양한 변형 및 균등한 타 실시예가 가능하다는 점을 이해할 것이다. As such, the present invention has been described with reference to one embodiment shown in the drawings, but this is merely exemplary, and those of ordinary skill in the art will appreciate that various modifications and equivalent other embodiments are possible therefrom. will understand
따라서, 본 발명의 진정한 기술적 보호범위는 첨부된 특허청구범위의 기술적 사상에 의해 정해져야 할 것이다.Accordingly, the true technical protection scope of the present invention should be defined by the technical spirit of the appended claims.
10 : 타석 20 : 스크린
30 : 빔프로젝터 40 : 적외선 뎁스카메라 센서
41 : 도트프로젝터 42 : 적외선 카메라
43 : 제어부 100 : 체감형 스포츠 인식시스템10: at bat 20: screen
30: beam projector 40: infrared depth camera sensor
41: dot projector 42: infrared camera
43: control unit 100: tangible sports recognition system
Claims (7)
상기 타석(10)과 일정 간격 이격되어 마주하며 이동가능하도록 설치되는 스크린(20)과;
상기 스크린(20)의 상부 일측에 설치되어 스크린(20)으로 영상데이터를 조사하여 스크린(20)에 영상정보가 투영되도록 하는 빔프로젝터(30)와;
상기 스크린(20)의 상부 일측에 설치되어 타석(10)에 위치하는 사용자를 감지하고, 사용자가 볼을 타격하는 경우 사용자의 모션 및 볼 궤적을 추적하도록, 촬영하는 객체로 도트를 조사하는 도트프로젝터(41)와, 상기 도트프로젝터(41)를 통해 조사되는 도트 패턴을 판독하고 적외선 이미지를 촬영하여 영상이미지 및 뎁스이미지를 생성하는 적외선 카메라(42)와, 상기 적외선 카메라(42)로부터 촬영된 이미지정보를 전달받으며, 타석(10) 또는 스크린(20)이 이동할 경우에 캘리브레이션을 수행하며, 트리거 인식, 사용자의 모션인식 또는 볼 궤적 추적데이터를 생성하는 제어부(43)를 포함하는 적외선 뎁스카메라 센서(40);를 포함하며,
상기 제어부(43)는,
설정 또는 사용자의 요청에 따라 적외선 카메라(42)의 수평캘리브레이션 및 수직캘리브레이션을 수행하는 캘리브레이션 수행부(43a)와,
상기 캘리브레이션 수행부(43a)에 의해 캘리브레이션이 수행된 후 적외선 카메라(42)로부터 촬영되는 영상정보를 전달받아 타석 위치를 기준으로 볼이 위치하는지 여부를 판단하고 볼영역의 뎁스값 변화를 추적하여 트리거 신호 발생여부를 판단하는 트리거 신호발생부(43b)와,
상기 트리거 신호발생부(43b)에 의해 트리거 신호가 발생된 경우 적외선 카메라(42)로부터 촬영되는 영상정보를 전달받아 영상이미지로부터 볼의 2차원 좌표궤적데이터를 생성하고 뎁스이미지를 통해 3차원 합산좌표 궤적데이터를 생성한 다음 볼의 3차원 진행방향 및 가속도 정보를 추출하는 볼궤적 추적부(43c)를 포함하는 것을 특징으로 하는 적외선 뎁스 카메라센서를 이용한 체감형 스포츠 인식시스템. a batting table 10 installed indoors or outdoors and arranged to be movable at a position where a user strikes the ball;
a screen (20) installed to face the batting table (10) at a predetermined distance and to be movable;
a beam projector 30 installed on one upper side of the screen 20 to project image information onto the screen 20 by irradiating image data to the screen 20;
A dot projector installed on one upper side of the screen 20 to detect a user positioned on the bat 10 and to irradiate dots with a photographing object so as to track the user's motion and ball trajectory when the user hits the ball. 41, and an infrared camera 42 that reads the dot pattern irradiated through the dot projector 41 and captures an infrared image to generate a video image and a depth image, and the image taken from the infrared camera 42 An infrared depth camera sensor including a controller 43 that receives information, performs calibration when the bat 10 or screen 20 moves, and generates trigger recognition, user motion recognition, or ball trajectory tracking data ( 40); including;
The control unit 43,
A calibration performing unit 43a for performing horizontal calibration and vertical calibration of the infrared camera 42 according to setting or a user's request;
After the calibration is performed by the calibration performing unit 43a, image information photographed from the infrared camera 42 is received to determine whether the ball is positioned based on the position of the turn at bat, and the change in the depth value of the ball area is tracked to trigger the trigger. A trigger signal generating unit 43b for determining whether a signal is generated, and
When a trigger signal is generated by the trigger signal generator 43b, the image information photographed from the infrared camera 42 is received, the two-dimensional coordinate trajectory data of the ball is generated from the image image, and the three-dimensional summed coordinates are obtained through the depth image. A tangible sports recognition system using an infrared depth camera sensor, characterized in that it includes a ball trajectory tracking unit (43c) that generates trajectory data and then extracts the three-dimensional moving direction and acceleration information of the ball.
상기 캘리브레이션 수행부(43a)는
설정 또는 사용자의 요청에 따라 수평캘리브레이션 및 수직캘리브레이션을 순차적으로 수행하며, 수평캘리브레이션은 적외선 카메라(42)로부터 타석방향으로 촬영된 영상을 빔프로젝터(30)로 조사하여 화면 수평 중앙에 타석이 위치하는지 여부를 제공하여 타석의 수평위치 이동여부가 결정되도록 하며 수직캘리브레이션은 수평캘리브레이션이 수행된 후 적외선 카메라(42)로부터 타석방향으로 촬영된 영상을 빔프로젝터(30)로 재조사하여 수평캘리브레이션 결과값 수직선 상에 타석이 위치하는지 여부를 제공하여 수평캘리브레이션 재실행 여부가 결정되도록 하는 것을 특징으로 하는 적외선 뎁스 카메라센서를 이용한 체감형 스포츠 인식시스템. According to claim 1,
The calibration performing unit 43a is
Horizontal calibration and vertical calibration are sequentially performed according to the setting or user's request. The horizontal calibration is performed by irradiating the image taken in the direction of the bat from the infrared camera 42 with the beam projector 30 to determine whether the bat is located in the horizontal center of the screen. In the vertical calibration, the image taken from the infrared camera 42 in the direction of the plate at bat is re-irradiated with the beam projector 30 after the horizontal calibration is performed to determine whether the horizontal position of the turn at bat is moved. A tangible sports recognition system using an infrared depth camera sensor, characterized in that it is determined whether to re-execute horizontal calibration by providing whether the bat is positioned on the bat.
상기 트리거 신호발생부(43b)는
캘리브레이션이 완료된 타석 위치를 기준으로 뎁스이미지상에서 추출한 볼형상에 해당하는 영역의 컬러 이미지와 기저장된 볼형상의 컬러 이미지를 비교하여 볼이 위치하고 있는지 판단하고, 볼이 위치하고 있는 것으로 판단되는 경우 볼영역 확정 및 뎁스값 변화를 추적하여 설정치 이상의 변화가 발생되는 경우 트리거 신호를 발생시키는 것을 특징으로 하는 적외선 뎁스 카메라센서를 이용한 체감형 스포츠 인식시스템. According to claim 1,
The trigger signal generator 43b
By comparing the color image of the area corresponding to the ball shape extracted from the depth image and the pre-stored color image of the ball shape based on the position at bat where the calibration has been completed, it is determined whether the ball is located, and if it is determined that the ball is located, the ball area is determined and a tangible sports recognition system using an infrared depth camera sensor, characterized in that by tracking a change in a depth value and generating a trigger signal when a change more than a set value occurs.
상기 타석(10)으로부터 소정거리 이격되게 설치되어 볼 타격 후 바닥에 일정영역으로 표시되는 공격수 주행영역으로 이동하여 제자리 주행하는 공격수의 주행속도를 측정하는 공격수 주행속도 측정센서와, 상기 공격수 주행속도 측정센서와 서로 대향되는 위치에 마련되어 볼 타격 후 바닥에 일정영역으로 표시되는 수비수 주행영역으로 이동하여 제자리 주행하는 수비수의 주행속도를 측정하는 수비수 주행속도 측정센서를 더 포함하는 것을 특징으로 하는 적외선 뎁스 카메라센서를 이용한 체감형 스포츠 인식시스템. According to claim 1,
A striker running speed measuring sensor installed to be spaced apart from the bat 10 by a predetermined distance and measuring the running speed of the striker who moves to the striker's running area displayed as a certain area on the floor after hitting the ball and drives in place; and the striker's running speed measurement Infrared depth camera, characterized in that it further comprises a defender traveling speed measuring sensor that is provided at a position opposite to the sensor and measures the traveling speed of the defender who moves to the defender traveling area displayed as a predetermined area on the floor after hitting the ball and moves in place Sensor-based tangible sports recognition system.
상기 빔프로젝터(30)는 적외선 뎁스카메라 센서(40)로부터 수신된 볼 궤적정보와 상기 공격수 및 수비수 주행속도 측정센서로부터 수신된 공격수 및 수비수의 주행속도 정보에 따라 상기 영상데이터를 스크린에 조사하는 것을 특징으로 하는 적외선 뎁스 카메라센서를 이용한 체감형 스포츠 인식시스템.7. The method of claim 6,
The beam projector 30 irradiates the image data on the screen according to the ball trajectory information received from the infrared depth camera sensor 40 and the traveling speed information of the striker and defender received from the striker and defender travel speed measurement sensor. A tangible sports recognition system using an infrared depth camera sensor.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020190081970A KR102262886B1 (en) | 2019-07-08 | 2019-07-08 | Haptic type sports recognition system using Infrared depth camera sensor |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020190081970A KR102262886B1 (en) | 2019-07-08 | 2019-07-08 | Haptic type sports recognition system using Infrared depth camera sensor |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20210006549A KR20210006549A (en) | 2021-01-19 |
KR102262886B1 true KR102262886B1 (en) | 2021-06-10 |
Family
ID=74237447
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020190081970A KR102262886B1 (en) | 2019-07-08 | 2019-07-08 | Haptic type sports recognition system using Infrared depth camera sensor |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR102262886B1 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN118506556B (en) * | 2024-07-19 | 2024-10-15 | 国网浙江省电力有限公司建德市供电公司 | Intelligent infrared protection alarm device, method and system |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101737892B1 (en) * | 2016-06-15 | 2017-05-19 | (주)클라우드게이트 | Baseball game system |
KR101784623B1 (en) * | 2016-08-23 | 2017-10-12 | 주식회사 골프존뉴딘 | Screen base-ball system and method for realizing left-handed pitcher and right-handed pitcher using the same |
KR101945257B1 (en) * | 2016-09-23 | 2019-02-08 | 한국전자통신연구원 | Apparatus and method for motion analyzing of screen baseball |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102469273B1 (en) * | 2016-02-01 | 2022-11-22 | 한국전자통신연구원 | Gaze tracking apparatus and gaze tracking method |
-
2019
- 2019-07-08 KR KR1020190081970A patent/KR102262886B1/en active IP Right Grant
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101737892B1 (en) * | 2016-06-15 | 2017-05-19 | (주)클라우드게이트 | Baseball game system |
KR101784623B1 (en) * | 2016-08-23 | 2017-10-12 | 주식회사 골프존뉴딘 | Screen base-ball system and method for realizing left-handed pitcher and right-handed pitcher using the same |
KR101945257B1 (en) * | 2016-09-23 | 2019-02-08 | 한국전자통신연구원 | Apparatus and method for motion analyzing of screen baseball |
Also Published As
Publication number | Publication date |
---|---|
KR20210006549A (en) | 2021-01-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101744042B1 (en) | Apparatus for base-ball practice, sensing device and sensing method used to the same and control method for the same | |
JP6983172B2 (en) | Methods and equipment for performing motion analysis of sports equipment | |
KR101048090B1 (en) | Apparatus for virtual golf simulation, and sensing device and method used to the same | |
CA2830497C (en) | Virtual golf simulation apparatus and sensing device and method used for the same | |
KR102408358B1 (en) | An assembly comprising a radar and an imaging element | |
US20180207508A1 (en) | Screen baseball system using camera sensor and method thereof | |
KR101031384B1 (en) | Aiming device providing aiming line and apparatus and method for virtual golf simulation using the same | |
KR101019823B1 (en) | Apparatus and method for sensing moving object and virtual golf simulation device using the same | |
KR101737892B1 (en) | Baseball game system | |
KR101912126B1 (en) | Apparatus for base-ball practice, sensing device and sensing method used to the same and control method for the same | |
KR102262886B1 (en) | Haptic type sports recognition system using Infrared depth camera sensor | |
KR20200022918A (en) | Pitch position guided screen baseball game system and it's method | |
KR101019829B1 (en) | Sensing processing device and method for moving object, and virtual golf simulation device using the same | |
KR20170085460A (en) | Apparatus for base-ball practice, sensing device and sensing method used to the same and control method for the same | |
KR101938458B1 (en) | shooting method with rotating mapped images | |
KR101862145B1 (en) | Sensing device for calculating information on golf shot of user and sensing method using the same | |
KR101019798B1 (en) | Apparatus and method for sensing moving object and virtual golf simulation device using the same | |
KR101078954B1 (en) | Apparatus for virtual golf simulation, and sensing device and method used to the same | |
KR20130001534A (en) | Ball mark tracking system | |
KR101865579B1 (en) | Apparatus for base-ball practice, sensing device and sensing method used to the same and control method for the same | |
KR102439549B1 (en) | Device for sensing golf swing and method for sensing impact position on club head using the same | |
KR20240110536A (en) | Method, system, and non-transitory computer-readable recording medium for supporting a virtual golf simulation | |
KR101845270B1 (en) | Baseball game system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |