KR101813373B1 - Helmet Tracking System and Helmet Tracking Method using the same - Google Patents
Helmet Tracking System and Helmet Tracking Method using the same Download PDFInfo
- Publication number
- KR101813373B1 KR101813373B1 KR1020160057995A KR20160057995A KR101813373B1 KR 101813373 B1 KR101813373 B1 KR 101813373B1 KR 1020160057995 A KR1020160057995 A KR 1020160057995A KR 20160057995 A KR20160057995 A KR 20160057995A KR 101813373 B1 KR101813373 B1 KR 101813373B1
- Authority
- KR
- South Korea
- Prior art keywords
- helmet
- signal processing
- infrared camera
- dimensional coordinates
- light
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 23
- 230000005540 biological transmission Effects 0.000 abstract description 8
- 230000003287 optical effect Effects 0.000 description 6
- 230000008901 benefit Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 238000004904 shortening Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 230000000052 comparative effect Effects 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000011664 signaling Effects 0.000 description 1
- 230000004083 survival effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0179—Display position adjusting means not related to the information to be displayed
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64D—EQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENT OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
- B64D11/00—Passenger or crew accommodation; Flight-deck installations not otherwise provided for
- B64D11/06—Arrangements of seats, or adaptations or details specially adapted for aircraft seats
- B64D11/0689—Arrangements of seats, or adaptations or details specially adapted for aircraft seats specially adapted for pilots
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B27/0103—Head-up displays characterised by optical features comprising holographic elements
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0141—Head-up displays characterised by optical features characterised by the informative content of the display
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0179—Display position adjusting means not related to the information to be displayed
- G02B2027/0187—Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Engineering & Computer Science (AREA)
- Aviation & Aerospace Engineering (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
본 발명은 헬멧자세 추적장치 및 이를 이용한 헬멧자세 추적방법에 관한 것으로 적외선 카메라로 조종사의 머리에 착용된 헬멧에서 발광된 발광체들을 촬영한 후 발광체의 2차원 좌표를 획득한 후 상기 발광체의 2차원 좌표를 2차원 좌표로 헬멧의 자세를 추적할 수 있는 신호처리모듈부로 전송하여 전송 데이터량을 최소화하며 이로써 영상 데이터 전송에 의해 발생되는 시간지연과 낮은 갱신률 문제를 해결하여 헬멧의 자세를 실시간으로 정확하게 추적할 수 있다.The present invention relates to a helmet attitude tracking system and a method for tracking a helmet attitude using the helmet attitude tracking system. The method includes capturing luminous bodies emitted from a helmet worn on the head of a pilot using an infrared camera, acquiring two-dimensional coordinates of the luminous body, To the signal processing module section which can track the attitude of the helmet in two-dimensional coordinates, thereby minimizing the amount of data to be transmitted. This solves the problem of time delay and low renewal rate caused by image data transmission, You can trace.
Description
본 발명은 헬멧자세 추적장치 및 이를 이용한 헬멧자세 추적방법에 관한 것으로 더 상세하게는 광학방식의 헬멧자세 추적장치에서 시간 지연 문제와 갱신률 저하 문제를 해결하고 자세 정확도를 향상시킨 헬멧자세 추적장치 및 이를 이용한 헬멧자세 추적방법에 관한 발명이다.The present invention relates to a helmet attitude tracking device and a helmet attitude tracking method using the helmet attitude tracking device, and more particularly, to a helmet attitude tracking device and a helmet attitude tracking device, which solve the time delay problem, And a helmet posture tracking method using the same.
일반적으로 헬멧자세 추적장치(HTS ; Helmet Tracking System)는 항공기 동체와 조종사 헬멧 사이의 상대 자세를 추정하는 장치로써, 추정한 헬멧의 자세를 통해 항법정보, 비행정보, 생존정보, 상태 정보등을 함께 조종사에게 제공하여 임무 수행능력의 향상을 가져온다.In general, a helmet tracking system (HTS) is a device for estimating the relative attitude between an aircraft body and a pilot's helmet. The helmet tracking system includes navigation information, flight information, survival information, and status information Provide pilots with improved mission performance.
상기 헬멧자세 추적장치는 헬멧의 상대 자세를 측정하기 위하여 사용하는 매커니즘에 따라 마그네틱 방식, 초음파, 관성 방식, 광학방식 등이 사용되고 있다.The helmet attitude tracking system uses a magnetic system, an ultrasonic wave, an inertial system, an optical system, or the like in accordance with a mechanism used to measure the relative attitude of the helmet.
자기장 방식의 헬멧자세 추적장치는 높은 해상도를 가지며 가벼우면서도 센서가 자유롭게 3차원 공간상을 이동할 수 있다는 장점이 있으나 고가의 비용이 소요되고, 자기장이 항공기의 전자장비에 영향을 주어 전자장비의 오류를 발생시킬 위험이 있어 특히, 정밀하고 복잡한 항공 전자장비를 포함하며 전자장비의 오류발생 시 위험이 크게 발생하게 되는 전투기에 적용이 사실상 불가능한 문제점이 있다. The magnetic field type helmet posture tracking system has the advantages of high resolution and light weight, but the sensor can freely move in three-dimensional space, but it is expensive and the magnetic field affects the electronic equipment of the aircraft, There is a problem that it is practically impossible to apply to a fighter aircraft which includes precise and complicated aviation electronic equipment and in which the risk of occurrence of a failure of an electronic equipment is greatly increased.
또한, 관성 방식의 헬멧자세 추적장치는 고속 움직임에 대한 추적이 용이하다는 장점이 있는 반면, 시간에 따른 부유 오차(drift error)로 인하여 추정값이 발산하는 문제점이 있다.In addition, the inertial-type helmet attitude tracking apparatus has an advantage in that it can be easily tracked at a high speed movement, but there is a problem that the estimated value diverges due to a drift error over time.
광학 방식의 헬멧자세 추적장치는 높은 정밀도를 가진다는 장점이 있지만, 영상 처리에 따른 과부하 때문에 실시간으로 시스템을 운용하는데 어려움이 있다. The optical helmet attitude tracking system has the advantage of high accuracy, but it is difficult to operate the system in real time due to overload due to image processing.
특히, 광학 방식의 트랙커는 Outside-in 방식과 Inside-out 방식 둘로 나눠진다. Outside-in 방식은 물체에 표적을 달고 주변에 카메라를 배치하는 방식으로 표적의 움직임이 작기 때문에 높은 해상도의 카메라가 필요한 문제점이 있다. In particular, optical trackers are divided into two categories: outside-in and inside-out. Outside-in method has a problem that a high-resolution camera is necessary because a target is placed on a target and a camera is disposed around the target, and the movement of the target is small.
반면에 Inside-out 방식은 추적하려는 물체에 카메라를 달고 주변에 표적을 배치하는 방식으로 카메라의 해상도는 낮아도 되지만 많은 수의 표적이 필요한 문제점이 있다. On the other hand, the inside-out method has a problem in that a camera is placed on an object to be tracked and a target is placed around the camera, so that the resolution of the camera can be low, but a large number of targets are required.
따라서, 광학 방식의 헬멧자세 추적장치는, 영상 분석시 계산 결과도 많고 그에 따라 오차 또한 발생하는 문제점이 있다. Therefore, in the optical system of the helmet attitude tracking system, there are many computation results in the image analysis and there is a problem that an error also occurs.
본 발명의 목적은 광학방식의 헬멧자세 추적방식의 문제점인 시간 지연 문제와 갱신률 저하 문제를 해결하고 자세 정확도를 향상하며 기존 카메라의 구조문제를 해결하는 헬멧자세 추적장치 및 이를 이용한 헬멧자세 추적방법을 제공하는 데 있다. An object of the present invention is to provide a helmet attitude tracking device for solving a time delay problem and a renewal rate lowering problem which are problems of an optical type helmet attitude tracking method, .
상기 목적을 달성하기 위한 본 발명의 일 실시예에 의한 헬멧자세 추적장치는 조종사의 머리에 착용되며 외측면에 빛을 발광하는 다수의 발광체가 구비된 헬멧, 조종석 내에 설치되며 상기 헬멧의 발광체를 촬영하는 적외선 카메라 및 상기 적외선 카메라로부터 상기 발광체의 2차원 좌표를 전송받아 헬멧자세를 추적하는 신호처리모듈부를 포함하며, 상기 적외선 카메라는 촬영된 영상을 통해 상기 발광체의 2차원 좌표를 획득하고 획득된 2차원 좌표를 상기 신호처리모듈부로 전송하는 센서신호처리부를 포함하는 것을 특징으로 한다. According to an aspect of the present invention, there is provided a helmet posture tracking apparatus including: a helmet mounted on a head of a pilot and having a plurality of illuminants emitting light on an outer surface thereof; Dimensional coordinates of the light emitting body from the infrared camera and a signal processing module unit for tracking the helmet posture by receiving the two dimensional coordinates of the light emitting body from the infrared camera. The infrared camera acquires two-dimensional coordinates of the light emitting body through the captured image, And a sensor signal processing unit for transmitting the dimensional coordinates to the signal processing module unit.
본 발명에서 상기 적외선 카메라는 렌즈부, 상기 렌즈부를 통해 영상을 센싱하고 촬영된 영상을 상기 신호처리모듈부로 전달하는 이미지 센서부, 상기 렌즈부, 상기 이미지 센서부, 상기 신호처리모듈부가 내장되는 카메라 하우징, 상기 카메라 하우징 내에 장착되어 상기 렌즈부로 상기 헬멧의 발광체를 촬영할 수 있게 하는 반사경부재를 더 포함할 수 있다.In the present invention, the infrared camera includes a lens unit, an image sensor unit that senses an image through the lens unit and transmits the sensed image to the signal processing module unit, a lens unit, an image sensor unit, A housing, and a reflector member mounted in the camera housing, the reflector member being capable of photographing the light emitting body of the helmet with the lens unit.
본 발명에서 상기 센서신호처리부는 상기 신호처리모듈부로부터 동기화의 목적으로 카메라 촬영 트리거 신호를 수신하며 계산된 발광체의 2차원 좌표를 상기 신호처리모듈부로 전송하는 인터페이스를 가질 수 있다.In the present invention, the sensor signal processing unit may have an interface for receiving a camera photographing trigger signal for the purpose of synchronization from the signal processing module and transmitting the calculated two-dimensional coordinates of the illuminant to the signal processing module.
본 발명에서 상기 신호처리모듈부는 다음번의 헬멧의 자세를 추적하기 위한 상기 적외선 카메라의 촬영 시 다수의 발광체 중 발광이 필요한 발광체를 선택하고, 선택된 발광체 정보를 상기 헬멧에 전달하는 발광체 선택모듈을 더 포함하고, 상기 헬멧에는 상기 발광체 선택모듈로부터 선택된 발광체를 발광시키는 발광체 작동제어부가 구비될 수 있다.In the present invention, the signal processing module may further include a light emitter selection module for selecting a light emitter requiring light emission among a plurality of light emitters and for transmitting the selected light emitter information to the helmet during shooting of the infrared camera for tracking the posture of the next helmet The helmet may include an illuminant operation controller for illuminating the illuminant selected from the illuminant selection module.
본 발명에서 상기 헬멧은 외측면에 서로 다른 각도를 가지며 평면으로 형성되는 복수의 경사면을 포함하고, 각각의 상기 경사면에는 함께 발광하는 복수의 발광체를 포함하는 발광체 그룹이 구비될 수 있다. In the present invention, the helmet may include a plurality of light emitting units including a plurality of light emitting units that emit light at the inclined surfaces, each having a plurality of inclined surfaces formed at planes with different angles.
상기 목적을 달성하기 위한 본 발명의 일 실시예에 의한 헬멧자세 추적방법은 적외선 카메라로 조종사의 머리에 착용된 헬멧에서 발광된 발광체들을 촬영하는 발광체 촬영단계, 상기 발광체 촬영단계에서 촬영된 영상에서 발광체의 2차원 좌표를 적외선 카메라 내 센서신호처리부로 획득하는 2차원 좌표계산단계, 상기 2차원 좌표계산단계에서 계산된 2차원 좌표를 2차원 좌표로 헬멧의 자세를 추적할 수 있는 신호처리모듈부로 전송하는 좌표전송단계 및 상기 좌표전송단계로 전송받은 발광체의 2차원 좌표로 헬멧의 자세를 추정하는 헬멧자세 계산단계를 포함하는 것을 특징으로 한다.According to another aspect of the present invention, there is provided a method of tracing a helmet posture, comprising the steps of: capturing a light emitted from a helmet mounted on a head of a pilot with an infrared camera; Dimensional coordinate of the helmet is acquired by the sensor signal processing unit in the infrared camera, and the two-dimensional coordinate calculated in the two-dimensional coordinate calculation step is transmitted to the signal processing module unit capable of tracking the posture of the helmet in two- And a helmet posture calculation step of estimating a posture of the helmet with two-dimensional coordinates of the light emitting body transmitted to the coordinate transmitting step.
본 발명의 일 실시예에 의한 헬멧자세 추적방법은 상기 적외선 카메라의 첫 촬영 후 반복되는 상기 발광체 촬영단계 이전에 조종석에서 조종자가 착용한 헬멧의 자세를 추적하기 위해 선택된 발광체들만 발광시키는 선택 발광체 발광단계를 더 포함할 수 있다.The helmet attitude tracking method according to an embodiment of the present invention may include a selective emitter light emission step for emitting only the selected illuminants to track the attitude of the helmet worn by the driver in the cockpit before the emitter shooting step repeated after the first shooting of the infrared camera As shown in FIG.
본 발명에서 상기 선택 발광체 발광단계는 상기 헬멧의 외측면에 구비되며 평면으로 형성되고 서로 다른 방향으로 기울어진 복수의 경사면에서 어느 한 경사면의 발광체 그룹을 선택하여 상기 발광체 그룹 내 복수의 발광체를 함께 발광시킬 수 있다. In the present invention, the electroluminescent light emission step may include a step of selecting a group of luminous elements on an inclined plane provided on the outer surface of the helmet, the luminous bodies being formed in a plane and inclined in different directions, .
본 발명은 적외선 카메라 내에서 영상데이터의 수신과 함께 발광체들의 2차원 중심점 좌표를 획득하고 2차원 좌표 데이터를 헬멧의 자세 추정을 위한 신호처류모듈로 전송함으로써 전송 데이터량을 최소화하며 이로써 영상 데이터 전송에 의해 발생되는 시간지연과 낮은 갱신률 문제를 해결하는 효과가 있다.The present invention minimizes the amount of transmitted data by acquiring the two-dimensional center coordinates of the luminous bodies together with the reception of the image data in the infrared camera and transmitting the two-dimensional coordinate data to the signal processing module for posture estimation of the helmet, And the problem of low update rate is solved.
본 발명은 데이터 전송 시간을 최소화하고, 헬멧자세의 추정이 갱신되는 주기를 단축시킴으로써 헬멧의 자세를 실시간으로 정확하게 추적할 수 있도록 하는 효과가 있다.The present invention has the effect of minimizing the data transfer time and shortening the period in which the estimation of the helmet posture is updated, thereby accurately tracking the posture of the helmet in real time.
본 발명은 조종석 내에 적외선 카메라의 설치 문제를 해결하여 적외선 카메라의 구조에서 고성능 렌즈를 적용할 수 있도록 하여 헬멧자세 추적장치에 사용되는 적외선 카메라의 성능을 향상시키고, 이로써 헬멧의 자세를 더 정확하게 추적할 수 있도록 하는 효과가 있다. The present invention solves the problem of installation of an infrared camera in a cockpit and enables a high performance lens to be applied in the structure of an infrared camera to improve the performance of an infrared camera used in the helmet attitude tracking device, There is an effect to be able to.
도 1은 본 발명에 따른 헬멧자세 추적장치의 일 실시예를 도시한 개략도.
도 2는 본 발명에 따른 헬멧자세 추적장치에서 사용하는 적외선 카메라의 센서신호처리부의 기능 구성도.
도 3은 본 발명에 따른 헬멧자세 추적장치에서 사용하는 적외선 카메라의 하드웨어 구성을 도시한 개략도.
도 4는 본 발명에 따른 헬멧자세 추적장치에서 사용하는 헬멧의 일 실시예를 도시한 사시도.
도 5는 본 발명에 따른 헬멧자세 추적방법의 일 실시예를 도시한 공정도.1 is a schematic view showing an embodiment of a helmet attitude tracking apparatus according to the present invention;
2 is a functional block diagram of a sensor signal processing unit of an infrared camera used in a helmet attitude tracking apparatus according to the present invention.
3 is a schematic view showing a hardware configuration of an infrared camera used in the helmet attitude tracking apparatus according to the present invention.
4 is a perspective view showing an embodiment of a helmet used in the helmet attitude tracking apparatus according to the present invention.
5 is a process diagram showing an embodiment of a helmet attitude tracking method according to the present invention.
본 발명을 첨부된 도면을 참조하여 상세히 설명하면 다음과 같다. 여기서, 반복되는 설명, 본 발명의 요지를 불필요하게 흐릴 수 있는 공지 기능, 및 구성에 대한 상세한 설명은 생략한다. 본 발명의 실시형태는 당 업계에서 평균적인 지식을 가진 자에게 본 발명을 보다 완전하게 설명하기 위해서 제공되는 것이다. 따라서, 도면에서의 요소들의 형상 및 크기 등은 보다 명확한 설명을 위해 과장될 수 있다.The present invention will now be described in detail with reference to the accompanying drawings. Hereinafter, a repeated description, a known function that may obscure the gist of the present invention, and a detailed description of the configuration will be omitted. Embodiments of the present invention are provided to more fully describe the present invention to those skilled in the art. Accordingly, the shapes and sizes of the elements in the drawings and the like can be exaggerated for clarity.
도 1은 본 발명에 따른 헬멧자세 추적장치의 일 실시예를 도시한 개략도이다. 1 is a schematic view showing an embodiment of a helmet attitude tracking apparatus according to the present invention.
도 1을 참고하면 본 발명에 따른 헬멧자세 추적장치는 조종사의 머리에 착용되며 외측면에 빛을 발광하는 다수의 발광체(110)가 구비된 헬멧(100), 조종석 내에 설치되며 상기 헬멧(100)의 발광체(110)를 촬영하는 적외선 카메라(200) 및 상기 적외선 카메라(200)로부터 상기 발광체(110)의 2차원 좌표를 전송받아 헬멧자세를 추적하는 신호처리모듈부(300)를 포함한다.Referring to FIG. 1, the helmet attitude tracking system according to the present invention includes a
상기 적외선 카메라(200)는 촬영된 영상을 통해 상기 발광체(110)의 2차원 좌표를 획득하고 획득된 2차원 좌표를 상기 신호처리모듈부(300)로 전송하는 센서신호처리부(230)를 포함한다.The
상기 발광체(110)는 LED이고, 더 상세하게 적외선 LED인 것을 일 예로 하며 이외에도 전기전원을 공급받아 발광할 수 있는 어떠한 발광체로도 변형실시 가능함을 밝혀둔다.The
더 상세하게 상기 적외선 카메라(200)는 렌즈부(210), 상기 렌즈부(210)를 통해 영상을 센싱하는 이미지 센서부(220), 상기 이미지 센서부(220)를 통해 촬영된 영상에서 촬영된 영상을 통해 상기 발광체(110)의 2차원 좌표를 획득하고 획득된 2차원 좌표를 상기 신호처리모듈부(300)로 전송하는 센서신호처리부(230)를 포함한다.More specifically, the
상기 적외선 카메라(200)는 하나의 회로기판 상에 상기 이미지 센서부(220)와 상기 센서신호처리부(230)가 구비되어 촬영된 영상에서 바로 상기 발광체(110)의 2차원 좌표를 획득하고, 획득된 2차원 좌표를 즉시 상기 신호처리모듈부(300)로 전송하게 되는 것이다.The
상기 센서신호처리부(230)는 상기 신호처리모듈부(300)로부터 동기화의 목적으로 카메라 촬영 트리거 신호를 수신하며 계산된 발광체(110)의 2차원 좌표를 상기 신호처리모듈부(300)로 전송하는 인터페이스를 가진다.The sensor
상기 신호처리모듈부(300)는 수신한 상기 발광체(110)의 2차원 좌표를 이용하여 헬멧자세를 추정하는 헬멧자세 추적모듈(310) 및 상기 헬멧자세 추적모듈(310)에서 추정된 결과를 출력하는 헬멧자세 추적출력부(320)를 포함한다. The
도 2는 본 발명에 따른 헬멧자세 추적장치에서 사용하는 적외선 카메라(200)의 센서신호처리부(230)의 기능 구성도로써, 도 2를 참고하면 상기 센서신호처리부(230)는 상기 이미지 센서부(220)로부터 센서 데이터를 수신하는 영상데이터 수신모듈(231), 상기 영상데이터 수신모듈(231)로부터 전달받은 영상으로부터 발광체(110)의 2차원 좌표를 계산하는 좌표계산모듈(232) 및 상기 좌표계산모듈(232)로부터 계산된 2차원 좌표를 상기 신호처리모듈부(300)로 전송하는 좌표 출력모듈(233)을 포함한다. FIG. 2 is a functional block diagram of the sensor
상기 좌표계산모듈(232)은 각 발광체(110)의 2차원 중심점 좌표를 계산하여 획득하는 것이다.The
즉, 상기 적외선 카메라(200)는 별도의 프로세스를 사용하지 않고 상기 이미지 센서부(220)로부터 영상데이터를 수신하는 FPGA(현장 프로그래머블 게이트 어레이) 즉, 센서신호처리부(230)에서 영상데이터 수신과 동시에 발광체(110)의 2차원 중심점 좌표계산을 하여 계산된 2차원 좌표를 상기 신호처리모듈부(300)로 전송하는 것이다. That is, the
또한, 헬멧(100)의 자세를 추적하기 위하여 상기 적외선 카메라(200)는 발광체(110)를 촬영하고, 촬영된 영상에서 2차원 중심점 좌표를 계산하고, 계산된 발광체(110)의 2차원 중심점 좌표를 상기 신호처리모듈부(300)로 전송하는 것을 반복한다. In order to track the attitude of the
상기 신호처리모듈부(300)는 다음번의 헬멧(100)의 자세를 추적하기 위한 상기 적외선 카메라(200)의 촬영 시 다수의 발광체(110) 중 발광이 필요한 발광체(110)를 선택하고, 선택된 발광체 정보를 상기 헬멧(100)에 전달하는 발광체 선택모듈(330)을 더 포함하고, 상기 헬멧(100)에는 상기 발광체 선택모듈(330)로부터 선택된 발광체(110)를 발광시키는 발광체 작동제어부(미도시)가 구비된다.The
즉, 상기 발광체 작동제어부는 헬멧(100)의 자세를 추적하기 위한 상기 적외선 카메라(200)의 상기 발광체 선택모듈(330)로부터 선택되어지는 해당 발광체(110)의 정보를 전달받아 전달받은 해당 발광체(110)들만 발광되도록 상기 발광체(110)들의 작동을 제어하는 것이다.That is, the luminous body operation control unit receives the information of the
본 발명에 따른 헬멧자세 추적장치는 적외선 카메라(200) 내에서 영상데이터의 수신과 동시에 발광체(110)들의 2차원 중심점 좌표를 획득하고 2차원 좌표 데이터를 헬멧(100)의 자세 추정을 위한 신호처리모듈부(300)로 전송함으로써 전송 데이터량을 최소화하고 데이터 전송 시 소요되는 시간을 크게 단축시키고, 데이터 전송에 따른 시간지연을 해소하며 데이터 전송 주기 즉, 상기 발광체(110)들의 2차원 좌표 데이터의 전송 주기를 최대한 짧게 하여 헬멧(100)의 자세를 짧은 주기로 빠르게 추정할 수 있는 것이다.The helmet attitude tracking apparatus according to the present invention acquires the two-dimensional center point coordinates of the
본 발명의 비교예로 적외선 카메라(200)가 촬영된 영상을 신호처리모듈부(300)로 전송하는 역할만 수행하고, 상기 신호처리모듈부(300)에서 헬멧(100)에 구비되는 다수의 발광체(110)에 대한 좌표 계산을 위한 영상처리를 담당할 수 있다. 항공기 Cockpit(조종석)에 장착되는 통상의 적외선 카메라(200)는 장착 공간의 협소함과 조종사 안전을 이유로 소형화가 요구되므로 단순히 카메라가 촬영된 영상을 전송하는 역할만 하도록 구성되는 것이다. The
그러나, 본 발명의 비교예의 경우 적외선 카메라(200)에서 촬영된 영상을 전송하므로 적외선 카메라(200)와 신호처리모듈 사이의 영상데이터 전송시간 및 프로세서를 이용한 영상처리 시간은 자세계산의 시간 지연으로 이어져 동적 상황에서의 자세 정확도 및 갱신률 저하의 문제점을 가지게 된다. 더 나아가 영상 데이터 전송은 발광체(110)의 좌표 정확도 향상을 위한 고해상도 센서 사용도 불가능하게 하는 문제를 안고 있다.However, in the comparative example of the present invention, since the image captured by the
한편, 도 3은 본 발명에 따른 헬멧자세 추적장치에서 사용하는 적외선 카메라(200)의 하드웨어 구성을 도시한 개략도이고, 도 3을 참고하면 상기 적외선 카메라(200)는 렌즈부(210), 상기 렌즈부(210)를 통해 영상을 센싱하는 이미지 센서부(220), 상기 이미지 센서부(220)를 통해 촬영된 영상에서 촬영된 영상을 통해 상기 발광체(110)의 2차원 좌표를 획득하고 획득된 2차원 좌표를 상기 신호처리모듈부(300), 상기 렌즈부(210), 상기 이미지 센서부(220), 상기 신호처리모듈부(300)가 내장되는 카메라 하우징(200a), 상기 카메라 하우징(200a) 내에 장착되어 상기 렌즈부(210)로 상기 헬멧(100)의 발광체(110)를 촬영할 수 있게 하는 반사경부재(200b)를 더 포함할 수 있다.3 is a schematic view illustrating a hardware configuration of an
상기 반사경부재(200b)는 카메라 장착면을 기준으로 한 상기 렌즈부(210)의 방향을 헬멧(100)을 향한 수직방향이 아닌 가로방향으로 배치할 수 있어 수직방향으로 배치 시 적외선 카메라(200)의 높이가 높아지는 것을 방지할 수 있다. The
상기 카메라 하우징(200a)의 하부에는 상기 반사경을 노출시키는 촬영용 개방부가 형성되고, 상기 반사경은 상기 촬영용 개방부에 대응되게 상기 카메라 하우징(200a)의 내부에서 기울어져 상기 렌즈부(210)에 마주보도록 배치됨으로써 상기 촬영용 개방부를 통해 상기 렌즈부(210)에서 상기 헬멧(100)의 발광체(110)를 촬영할 수 있게 한다.The camera housing 200a is provided at its lower portion with a photographing opening for exposing the reflecting mirror. The reflecting mirror is inclined inside the camera housing 200a to face the
본 발명에 따른 헬멧자세 추적장치는 상기 카메라 하우징(200a) 내에 상기 렌즈부(210)와 마주보게 설치되고, 하향되게 기울어져 배치되는 상기 반사경부재(200b)를 이용함에 따라 조종석에 상기 적외선 카메라(200)의 장착면과의 이격거리(a)를 상기 이미지 센서부(220)와 렌즈부(210)의 거리(b)와 무관하게 함에 따라 상기 적외선 카메라(200)의 장착문제를 해결한다.The helmet attitude tracking apparatus according to the present invention is installed in the camera housing 200a so as to face the
즉, 상기 렌즈부(210)는 헬멧(100)의 수직 상부에서 수직 하향으로 배치되어야 하는데 상기 반사경을 통해 상기 헬멧(100)의 수직 상부에 위치하는 카메라 장착면을 기준으로 가로로 배치될 수 있어 상기 적외선 카메라(200)는 설치 시 상기 적외선 카메라(200)의 높이 즉, 조종자의 헬멧(100)과의 거리를 충분히 확보할 수 있으며 상기 렌즈부(210)의 길이제한없이 고성능 렌즈를 선택하여 사용할 수 있다. That is, the
한편, 도 4는 본 발명에 따른 헬멧자세 추적장치에서 사용하는 헬멧(100)의 일 실시예를 도시한 사시도이고, 도 4를 참고하면 상기 헬멧(100)은 외측면에 서로 다른 각도를 가지며 평면으로 형성되는 복수의 경사면(100a)을 포함하고, 각각의 상기 경사면(100a)에는 함께 발광하는 복수의 발광체(110)를 포함하는 발광체 그룹(100b)이 구비되는 것이 바람직하다.4 is a perspective view illustrating an embodiment of a
즉, 상기 헬멧(100)에는 함께 발광하는 복수의 발광체(110)를 포함하는 복수의 발광체 그룹(100b)이 구비되고, 각 발광체 그룹(100b)의 복수의 발광체(110)는 3차원 공간 상에서 동일한 평면에 구비되는 것이다. That is, the
광학방식의 헬멧자세 추적장치에서 자세 추적의 정확도는 발광체(110)들 즉, 적외선 LED들이 장착되는 면과 카메라가 바라보는 방향에 따라 결정됨에 따라 함께 발광하는 헬멧(100)에 부착되는 발광체(110)들을 일정한 경사로 기울어지고 평면을 가지는 경사면(100a) 상에 함께 장착되도록 설계함으로 상기 발광체 선택모듈(330)에서 헬멧자세를 예상하여 발광체(110)를 선택함에 따라 상기 헬멧(100)의 자세 추적에 대한 정확도를 향상시키게 된다.The accuracy of attitude tracking in the optical type helmet attitude tracking apparatus is determined by the face on which the
도 5는 본 발명에 따른 헬멧자세 추적방법의 일 실시예를 도시한 공정도이고, 도 5를 참고하면 본 발명의 일 실시예에 의한 헬멧자세 추적방법은, 적외선 카메라(200)로 조종사의 머리에 착용된 헬멧에서 발광된 발광체들을 촬영하는 발광체 촬영단계(S100), 상기 발광체 촬영단계(S100)에서 촬영된 영상에서 발광체의 2차원 좌표를 적외선 카메라(200) 내 센서신호처리부(230)로 획득하는 2차원 좌표계산단계(S200), 상기 2차원 좌표계산단계(S200)에서 계산된 2차원 좌표를 2차원 좌표로 헬멧의 자세를 추적할 수 있는 신호처리모듈부(300)로 전송하는 좌표전송단계(S300); 및 상기 좌표전송단계(S300)로 전송받은 발광체의 2차원 좌표로 헬멧의 자세를 추정하는 헬멧자세 계산단계(S400)를 포함한다. FIG. 5 is a process chart showing an embodiment of a helmet attitude tracking method according to the present invention. Referring to FIG. 5, a method of tracking a helmet attitude according to an embodiment of the present invention includes: Dimensional coordinates of the illuminant in the image captured in the illuminant photographing step S100 is acquired by the
상기 2차원 좌표계산단계(S200)는 발광된 각 발광체의 2차원 중심좌표를 계산하여 획득하는 것을 일 예로 한다. The two-dimensional coordinate calculation step (S200) is an example in which the two-dimensional center coordinates of each light emitting body are calculated and acquired.
본 발명에 따른 헬멧자세 추적방법은 상기 발광체 촬영단계(S100), 상기 2차원 좌표계산단계(S200), 상기 좌표전송단계(S300), 상기 헬멧자세 계산단계(S400)를 반복하여 조종석에서 조종석에서 조종자가 착용한 헬멧의 자세를 추적한다.The helmet attitude tracking method according to the present invention is a method for tracking a helmet attitude according to the present invention by repeating the illuminant photographing step S100, the two-dimensional coordinate calculating step S200, the coordinate transmitting step S300, and the helmet posture calculating step S400, Track the posture of the helmet worn by the pilot.
또한, 본 발명에 따른 헬멧자세 추적방법은 상기 헬멧자세 계산단계(S400)에서 계산된 헬멧의 자세를 출력하는 헬멧자세 출력단계(S500)를 더 포함할 수 있다. The helmet attitude tracking method according to the present invention may further include a helmet attitude output step S500 for outputting the attitude of the helmet calculated in the helmet attitude calculation step S400.
또한, 본 발명에 따른 헬멧자세 추적방법의 일 실시예는 상기 적외선 카메라(200)의 첫 촬영 후 반복되는 상기 발광체 촬영단계(S100) 이전에 조종석에서 조종자가 착용한 헬멧의 자세를 추적하기 위해 선택된 발광체들만 발광시키는 선택 발광체 발광단계를 더 포함할 수 있다. In addition, an embodiment of the helmet attitude tracking method according to the present invention is configured to track the attitude of the helmet worn by the driver in the cockpit before the step S100 of repeating the radiator after the first photographing of the
상기 선택 발광체 발광단계에서 함께 발광되는 발광체는 3차원 공간 상에서 동일한 평면에 구비되며 더 상세하게 도 4를 참고하면 상기 헬멧(100)의 외측면에는 서로 다른 각도를 가지며 평면으로 형성되는 복수의 경사면(100a)을 포함하고, 각각의 상기 경사면(100a)에는 함께 발광하는 복수의 발광체(110)를 포함하는 발광체 그룹(100b)이 구비된다. Referring to FIG. 4, the outer surface of the
상기 선택 발광체 발광단계는 상기 헬멧(100)의 외측면에 구비되며 평면으로 형성되고 서로 다른 방향으로 기울어진 복수의 경사면(100a)에서 어느 한 경사면(100a)의 발광체 그룹(100b)을 선택하여 상기 발광체 그룹(100b) 내 복수의 발광체(110)를 함께 발광시키는 것이다. The electroluminescent light emitting step may include a step of selecting a
본 발명은 적외선 카메라(200) 내에서 영상데이터의 수신과 함께 발광한 LED들의 2차원 중심점 좌표를 획득하고 2차원 좌표 데이터를 헬멧의 자세 추정을 위한 신호처류모듈로 전송함으로써 전송 데이터량을 최소화하며 이로써 영상 데이터 전송에 의해 발생되는 시간지연과 낮은 갱신률 문제를 해결한다. The present invention minimizes the amount of transmitted data by acquiring the two-dimensional coordinates of the center of the LEDs that emit light together with the reception of the image data in the
본 발명은 데이터 전송 시간을 최소화하고, 헬멧자세의 추정이 갱신되는 주기를 단축시킴으로써 헬멧의 자세를 실시간으로 정확하게 추적할 수 있다.The present invention minimizes the data transfer time and shortens the cycle in which the estimation of the helmet attitude is updated, so that the attitude of the helmet can be accurately tracked in real time.
본 발명은 조종석 내에 적외선 카메라(200)의 설치 문제를 해결하여 적외선 카메라(200)의 구조에서 고성능 렌즈를 적용할 수 있도록 하여 헬멧자세 추적장치에 사용되는 적외선 카메라(200)의 성능을 향상시키고, 이로써 헬멧의 자세를 더 정확하게 추적할 수 있다.The present invention solves the problem of installing an infrared camera (200) in a cockpit and enables a high performance lens to be applied to the structure of the infrared camera (200), thereby improving the performance of the infrared camera (200) This allows more accurate tracking of the helmet's posture.
이와 같은 본 발명의 기본적인 기술적 사상의 범주 내에서, 당업계의 통상의 지식을 가진 자에게 있어서는 다른 많은 변형이 가능함은 물론이고, 본 발명의 권리범위는 첨부한 특허청구 범위에 기초하여 해석되어야 할 것이다.While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it is evident that many alternatives, modifications, and variations will be apparent to those skilled in the art in light of the above teachings. will be.
100 : 헬멧 100a : 경사면
100b : 발광체 그룹 110 : 발광체
200 : 적외선 카메라 200a : 카메라 하우징
200b : 반사경부재 210 : 렌즈부
220 : 이미지 센서부 230 : 센서신호처리부
231 : 영상데이터 수신모듈 232 : 좌표계산모듈
233 : 좌표 출력모듈 300 : 신호처리모듈부
310 : 헬멧자세 추적모듈 320 : 헬멧자세 추적출력부
330 : 발광체 선택모듈100:
100b: illuminant group 110: illuminant
200: infrared camera 200a: camera housing
200b: Reflector member 210:
220: image sensor unit 230: sensor signal processor
231: image data reception module 232: coordinate calculation module
233: Coordinate output module 300: Signal processing module part
310: helmet posture tracking module 320: helmet posture tracking output
330: illuminator selection module
Claims (8)
조종석 내에 설치되며 상기 헬멧의 발광체를 촬영하는 적외선 카메라; 및
상기 적외선 카메라로부터 상기 발광체의 2차원 좌표를 전송받아 헬멧자세를 추적하는 신호처리모듈부를 포함하며,
상기 적외선 카메라는 촬영된 영상을 통해 상기 발광체의 2차원 좌표를 획득하고 획득된 2차원 좌표를 상기 신호처리모듈부로 전송하는 센서신호처리부를 포함하며,
상기 신호처리모듈부는 다음번의 헬멧의 자세를 추적하기 위한 상기 적외선 카메라의 촬영 시 다수의 발광체 중 발광이 필요한 발광체를 선택하고, 선택된 발광체 정보를 상기 헬멧에 전달하는 발광체 선택모듈을 더 포함하고,
상기 헬멧에는 상기 발광체 선택모듈로부터 선택된 발광체를 발광시키는 발광체 작동제어부가 구비되며,
상기 헬멧은 외측면에 서로 다른 각도를 가지며 평면으로 형성되는 복수의 경사면을 포함하고, 각각의 상기 경사면에는 함께 발광하는 복수의 발광체를 포함하는 발광체 그룹이 구비되는 것을 특징으로 하는 헬멧자세 추적장치.A helmet mounted on a head of a pilot and having a plurality of luminous bodies emitting light on an outer surface thereof;
An infrared camera installed in the cockpit for photographing a light emitting body of the helmet; And
And a signal processing module for receiving the two-dimensional coordinates of the illuminant from the infrared camera and tracking the helmet posture,
Wherein the infrared camera includes a sensor signal processing unit for obtaining two-dimensional coordinates of the illuminant through a photographed image and transmitting the obtained two-dimensional coordinates to the signal processing module,
The signal processing module further includes a light emitter selecting module for selecting a light emitter requiring light emission among a plurality of light emitters and for transmitting the selected light emitter information to the helmet during shooting of the infrared camera for tracking the posture of the next helmet,
The helmet includes a light emitter operation control unit for emitting a light emitter selected from the light emitter selection module,
Wherein the helmet comprises a group of luminous elements including a plurality of inclined planes formed at planes with different angles on the outer surface, and a plurality of luminous bodies emitting light together on the respective inclined planes.
상기 적외선 카메라는 렌즈부, 상기 렌즈부를 통해 영상을 센싱하고 촬영된 영상을 상기 신호처리모듈부로 전달하는 이미지 센서부;
상기 렌즈부, 상기 이미지 센서부, 상기 신호처리모듈부가 내장되는 카메라 하우징, 상기 카메라 하우징 내에 장착되어 상기 렌즈부로 상기 헬멧의 발광체를 촬영할 수 있게 하는 반사경부재를 더 포함하는 것을 특징으로 하는 헬멧자세 추적장치.The method according to claim 1,
The infrared camera includes a lens unit, an image sensor unit that senses an image through the lens unit, and transmits the sensed image to the signal processing module unit;
Further comprising a reflector member mounted in the camera housing and capable of photographing an illuminant of the helmet with the lens unit, the image sensor unit, the camera housing in which the signal processing module is embedded, Device.
상기 센서신호처리부는 상기 신호처리모듈부로부터 동기화의 목적으로 카메라 촬영 트리거 신호를 수신하며 계산된 발광체의 2차원 좌표를 상기 신호처리모듈부로 전송하는 인터페이스를 가지는 것을 특징으로 하는 헬멧자세 추적장치.The method according to claim 1,
Wherein the sensor signal processing unit has an interface for receiving a camera photographing trigger signal for the purpose of synchronization from the signal processing module and transmitting the calculated two-dimensional coordinates of the illuminant to the signal processing module.
상기 발광체 촬영단계에서 촬영된 영상에서 발광체의 2차원 좌표를 적외선 카메라 내 센서신호처리부로 획득하는 2차원 좌표계산단계;
상기 2차원 좌표계산단계에서 계산된 2차원 좌표를 2차원 좌표로 헬멧의 자세를 추적할 수 있는 신호처리모듈부로 전송하는 좌표전송단계; 및
상기 좌표전송단계로 전송받은 발광체의 2차원 좌표로 헬멧의 자세를 추정하는 헬멧자세 계산단계를 포함하며,
상기 적외선 카메라의 첫 촬영 후 반복되는 상기 발광체 촬영단계 이전에 조종석에서 조종자가 착용한 헬멧의 자세를 추적하기 위해 선택된 발광체들만 발광시키는 선택 발광체 발광단계를 더 포함하며,
상기 선택 발광체 발광단계는 상기 헬멧의 외측면에 구비되며 평면으로 형성되고 서로 다른 방향으로 기울어진 복수의 경사면에서 어느 한 경사면의 발광체 그룹을 선택하여 상기 발광체 그룹 내 복수의 발광체를 함께 발광시키는 것을 특징으로 하는 헬멧자세 추적방법.
A radiator photographing step of photographing luminous luminous bodies from a helmet worn on the head of a pilot with an infrared camera;
A two-dimensional coordinate calculation step of obtaining the two-dimensional coordinates of the illuminant in the image photographed in the illuminant photographing step with the sensor signal processing unit in the infrared camera;
A coordinate transmitting step of transmitting the two-dimensional coordinates calculated in the two-dimensional coordinate calculating step to a signal processing module section capable of tracking the posture of the helmet in two-dimensional coordinates; And
And a helmet posture calculation step of estimating a posture of the helmet in two-dimensional coordinates of the light emitting body transmitted to the coordinate transmitting step,
Further comprising a selective illuminator light emission step of illuminating only selected illuminants to track the posture of the helmet worn by the operator in the cockpit before the step of shooting the infrared light repeatedly after the first shooting of the infrared camera,
The selective light emitting body light emitting step is provided on the outer surface of the helmet and selects a group of light emitting elements having a slope on a plurality of inclined faces formed in a plane and inclined in different directions to emit a plurality of light emitting bodies in the light emitting body group together A helmet posture tracking method.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020160057995A KR101813373B1 (en) | 2016-05-12 | 2016-05-12 | Helmet Tracking System and Helmet Tracking Method using the same |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020160057995A KR101813373B1 (en) | 2016-05-12 | 2016-05-12 | Helmet Tracking System and Helmet Tracking Method using the same |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20170127658A KR20170127658A (en) | 2017-11-22 |
KR101813373B1 true KR101813373B1 (en) | 2017-12-28 |
Family
ID=60809901
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020160057995A KR101813373B1 (en) | 2016-05-12 | 2016-05-12 | Helmet Tracking System and Helmet Tracking Method using the same |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101813373B1 (en) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005529427A (en) * | 2002-06-13 | 2005-09-29 | カールツァイス アーゲー | Method and apparatus for sensing the spatial position of an object |
JP2010125882A (en) * | 2008-11-25 | 2010-06-10 | Toyota Motor Corp | Occupant state detector |
-
2016
- 2016-05-12 KR KR1020160057995A patent/KR101813373B1/en active IP Right Grant
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005529427A (en) * | 2002-06-13 | 2005-09-29 | カールツァイス アーゲー | Method and apparatus for sensing the spatial position of an object |
JP2010125882A (en) * | 2008-11-25 | 2010-06-10 | Toyota Motor Corp | Occupant state detector |
Also Published As
Publication number | Publication date |
---|---|
KR20170127658A (en) | 2017-11-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3586165B1 (en) | Single-frequency time-of-flight depth computation using stereoscopic disambiguation | |
US9361818B2 (en) | Operation input device and manipulator system | |
US9826217B2 (en) | System and method for adjusting a baseline of an imaging system with microlens array | |
CN108957425B (en) | Analog device for LiDAR photometry system | |
US20220210335A1 (en) | Autofocusing camera and systems | |
JP5594944B2 (en) | Motion tracker device | |
RU2669200C2 (en) | Obstacle detection device with crossing planes and method of detecting thereby | |
US10705195B2 (en) | Distance measuring apparatus and distance measuring method | |
KR101600862B1 (en) | stereo vision system using a plurality of uav | |
US20190120966A1 (en) | Depth map measuring device and depth map measuring method | |
JP2011095112A (en) | Three-dimensional position measuring apparatus, mapping system of flying object, and computer program | |
KR20180027847A (en) | Apparatus of detecting charging position for unmanned air vehicle | |
CN105829912B (en) | Compact optical tracker | |
KR101813373B1 (en) | Helmet Tracking System and Helmet Tracking Method using the same | |
JP5029531B2 (en) | Motion tracker system and coordinate system setting method thereof | |
TW201901371A (en) | Three-dimensional positioning system and method thereof | |
JP4905311B2 (en) | Head motion tracker system and calibration device used therefor | |
US20230090576A1 (en) | Dynamic control and configuration of autonomous navigation systems | |
KR101957662B1 (en) | Apparatus for calculating target information, method thereof and flight control system comprising the same | |
CN115808161A (en) | Measurement data processing device, measurement data processing method, and measurement data processing program | |
KR101590889B1 (en) | Target position estimation equipment using imaging sensors for analyzing an accuracy of target tracking method | |
JP6670682B2 (en) | Position detection method and position detection system | |
US11915512B2 (en) | Three-dimensional sensing system | |
RU2692205C1 (en) | Device for orientation of observation equipment carried on board a manned vehicle | |
US20230375343A1 (en) | Photogrammetry system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |