KR20190070825A - 광학 카메라 통신을 이용하는 광원 검출 방법 및 장치 - Google Patents

광학 카메라 통신을 이용하는 광원 검출 방법 및 장치 Download PDF

Info

Publication number
KR20190070825A
KR20190070825A KR1020170184849A KR20170184849A KR20190070825A KR 20190070825 A KR20190070825 A KR 20190070825A KR 1020170184849 A KR1020170184849 A KR 1020170184849A KR 20170184849 A KR20170184849 A KR 20170184849A KR 20190070825 A KR20190070825 A KR 20190070825A
Authority
KR
South Korea
Prior art keywords
light source
image
data
image sensor
exposure time
Prior art date
Application number
KR1020170184849A
Other languages
English (en)
Other versions
KR101993063B1 (ko
Inventor
장영민
응웬반장
Original Assignee
국민대학교산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 국민대학교산학협력단 filed Critical 국민대학교산학협력단
Publication of KR20190070825A publication Critical patent/KR20190070825A/ko
Application granted granted Critical
Publication of KR101993063B1 publication Critical patent/KR101993063B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04B—TRANSMISSION
    • H04B10/00—Transmission systems employing electromagnetic waves other than radio-waves, e.g. infrared, visible or ultraviolet light, or employing corpuscular radiation, e.g. quantum communication
    • H04B10/11—Arrangements specific to free-space transmission, i.e. transmission through air or vacuum
    • H04B10/114—Indoor or close-range type systems
    • H04B10/116—Visible light communication
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04B—TRANSMISSION
    • H04B10/00—Transmission systems employing electromagnetic waves other than radio-waves, e.g. infrared, visible or ultraviolet light, or employing corpuscular radiation, e.g. quantum communication
    • H04B10/50—Transmitters
    • H04B10/501—Structural aspects
    • H04B10/502—LED transmitters
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04B—TRANSMISSION
    • H04B10/00—Transmission systems employing electromagnetic waves other than radio-waves, e.g. infrared, visible or ultraviolet light, or employing corpuscular radiation, e.g. quantum communication
    • H04B10/60—Receivers
    • H04B10/66—Non-coherent receivers, e.g. using direct detection

Landscapes

  • Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Optical Communication System (AREA)

Abstract

본 발명의 일 실시예에 의한 광학 카메라 통신(Optical Camera Communication; OCC)을 이용하는 광원 검출 방법은 광수신 장치가 이미지 센서로부터 점멸하는 광원을 촬영한 이미지의 데이터를 획득하는 단계, 상기 광수신 장치가 상기 데이터에 대해 필터링을 수행하는 단계, 및 상기 광수신 장치가 상기 필터링된 데이터를 기반으로 상기 이미지 내의 상기 광원의 영역을 검출하여 상기 광원의 위치 정보를 추정하는 단계를 포함한다.

Description

광학 카메라 통신을 이용하는 광원 검출 방법 및 장치{Method and apparatus for detecting light source using optical camera communication}
본 발명은 광학 카메라 통신을 이용하는 광원 검출 방법 및 장치에 관한 것이다.
최근 백열전구와 형광등과 같은 조명이 반도체 LED(Light Emitting Diode) 조명으로 교체되는 인프라를 이용하여 가시광 파장에 통신기능을 부가하여 무선 통신을 가능하게 하는 기술인 가시광 통신(Visible Light Communication; VLC) 기술이 활발히 연구되고 있으며, IEEE 802.15.7 국제표준규격도 완료되어 상용화를 위한 비즈니스 모델 발굴을 추진하고 있다. 그러나 IEEE 802.15.7은 주로 광 검출기(Photo Diode; PD)를 이용한 데이터 전송에 국한되어 있어 VLC 동글 등의 전용 통신 장치를 사용해야 하는 문제점이 있다. 이에 따라 광검출기보다는 주로 스마트폰의 카메라와 같은 이미지 센서를 이용하는 광학 카메라 통신(Optical Camera Communication; OCC)의 국제표준화가 IEEE 802.15.7m OWC TG(Task Group)에서 진행되고 있다.
본 발명은 광학 카메라 통신을 이용하는 광원 검출 방법 및 장치를 제공한다.
본 발명의 일 실시예에 의한 광학 카메라 통신(Optical Camera Communication; OCC)을 이용하는 광원 검출 방법은, 광수신 장치가 이미지 센서로부터 점멸하는 광원을 촬영한 이미지의 데이터를 획득하는 단계, 상기 광수신 장치가 상기 데이터에 대해 필터링을 수행하는 단계, 및 상기 광수신 장치가 상기 필터링된 데이터를 기반으로 상기 이미지 내의 상기 광원의 영역을 검출하여 상기 광원의 위치 정보를 추정하는 단계를 포함한다.
일 실시예에서, 상기 이미지는 롤링 셔터 방식으로 촬영될 수 있다.
일 실시예에서, 상기 필터링을 수행하는 단계는, 상기 데이터에 평균 필터(mean filter)를 적용하는 단계를 포함할 수 있다.
일 실시예에서, 상기 평균 필터는 상기 데이터의 열 방향으로 적용될 수 있다.
일 실시예에서, 상기 평균 필터는 상기 광원의 점멸 주기에 해당하는 데이터에 대한 평균을 산출하는 필터일 수 있다.
일 실시예에서, 상기 평균 필터를 적용하는 단계는, 상기 데이터를 상기 광원의 점멸 주기에 해당하는 블록들로 구분하는 단계, 및 상기 구분된 블록들 각각의 평균을 산출하는 단계를 포함할 수 있다.
일 실시예에서, 상기 광수신 장치는, 상기 이미지 센서의 행 샘플링 레이트를 기초로 상기 광원의 점멸 주기에 해당하는 데이터의 수를 결정할 수 있다.
일 실시예에서, 상기 광원의 위치 정보를 추정하는 단계는, 상기 필터링된 데이터를 기 설정된 임계값과 비교하여 상기 광원의 영역을 검출할 수 있다.
일 실시예에서, 상기 광원의 위치 정보를 추정하는 단계는, 상기 광원의 영역의 경계의 좌표 정보를 기반으로 상기 광원의 중심 좌표를 계산하는 단계, 및 상기 광원의 중심 좌표를 상기 광원의 위치 정보로 결정하는 단계를 포함할 수 있다.
본 발명의 다른 실시예에 의한 광학 카메라 통신을 이용하는 광원 검출 방법은, 광수신 장치가 제1 이미지 센서로부터 점멸하는 광원을 제1 노출 시간으로 촬영한 제1 이미지의 데이터를 획득하는 단계, 상기 광수신 장치가 제2 이미지 센서로부터 상기 광원을 제2 노출 시간으로 촬영한 제2 이미지의 데이터를 획득하는 단계, 상기 광수신 장치가 상기 제1 이미지의 데이터에 기초하여 상기 이미지 내 광원의 영역을 검출하여 상기 광원의 위치 정보를 추정하는 단계, 및 상기 광수신 장치가 상기 제2 이미지의 데이터에 기초하여 상기 광원이 송신하는 전송 데이터를 복원하는 단계를 포함한다.
일 실시예에서, 상기 제1 이미지와 상기 제2 이미지는 동시에 촬영될 수 있다.
본 발명의 또 다른 실시예에 의한 광학 카메라 통신을 이용하는 광원 검출 방법은, 광수신 장치가 이미지 센서로부터 점멸하는 광원을 제1 노출 시간으로 촬영한 제1 이미지의 데이터를 획득하는 단계, 상기 광수신 장치가 상기 이미지 센서로부터 상기 광원을 제2 노출 시간으로 촬영한 제2 이미지의 데이터를 획득하는 단계, 상기 광수신 장치가 상기 제1 이미지의 데이터에 기초하여 상기 이미지 내 광원의 영역을 검출하여 상기 광원의 위치 정보를 추정하는 단계, 및 상기 광수신 장치가 상기 제2 이미지의 데이터에 기초하여 상기 광원이 송신하는 전송 데이터를 복원하는 단계를 포함한다.
일 실시예에서, 상기 이미지 센서는 소정의 개수의 상기 제2 이미지를 촬영할 때마다 하나의 상기 제1 이미지를 촬영할 수 있다.
일 실시예에서, 상기 제1 노출 시간은 상기 광원의 점멸 주기보다 길고, 상기 제2 노출 시간은 상기 광원의 점멸 주기보다 짧은 것을 특징으로 한다.
일 실시예에서, 상기 제1 노출 시간은 상기 광원의 점멸 주기의 정수배일 수 있다.
본 발명의 또 다른 실시예에 의한 광학 카메라 통신을 이용하는 광원 검출 방법은, 광수신 장치가 이미지 센서로부터 점멸하는 광원을 연속적으로 촬영한 이미지들의 시퀀스를 획득하는 단계, 상기 광수신 장치가 상기 이미지들의 시퀀스의 각 이미지 내의 상기 광원의 영역을 검출하여 상기 광원의 위치 정보를 추정하는 단계, 및 상기 광수신 장치가 이산 웨이블릿 변환(Discrete Wavelet Transform)을 이용하여 상기 광원의 위치 정보를 보정하는 단계를 포함한다.
일 실시예에서, 상기 광원의 위치 정보를 보정하는 단계는, 상기 이미지들의 시퀀스에 대해 추정된 광원의 위치의 x 좌표 시퀀스와 y 좌표 시퀀스 각각에 대해 이산 웨이블릿 변환을 수행하는 단계를 포함할 수 있다.
일 실시예에서, 상기 이산 웨이블릿 변환의 레벨은 다음 식에 의해 결정될 수 있다.
Figure pat00001
여기서, Fthreshold는 주파수 임계값일 수 있다.
일 실시예에서, 상기 광원의 위치 정보를 보정하는 단계는, 상기 이산 웨이블릿 변환을 수행한 결과에 대해 상세 계수(detail coefficient)들을 0으로 설정한 후 역 이산 웨이블릿 변환을 수행하는 단계를 포함할 수 있다.
본 발명의 일 실시예에 의한 광학 카메라 통신을 이용하는 광수신 장치는, 이미지 센서로부터 점멸하는 광원을 촬영한 이미지의 데이터를 획득하는 수신기, 및 상기 데이터에 대해 필터링을 수행하고, 상기 필터링된 데이터를 기반으로 상기 이미지 내의 상기 광원의 영역을 검출하여 상기 광원의 위치 정보를 추정하는 광원 검출기를 포함한다.
본 발명의 다른 실시예에 의한 광학 카메라 통신을 이용하는 광수신 장치는, 제1 이미지 센서로부터 점멸하는 광원을 제1 노출 시간으로 촬영한 제1 이미지의 데이터를 획득하고, 제2 이미지 센서로부터 상기 광원을 제2 노출 시간으로 촬영한 제2 이미지의 데이터를 획득하는 수신기, 상기 제1 이미지의 데이터에 기초하여 상기 이미지 내 광원의 영역을 검출하여 상기 광원의 위치 정보를 추정하는 광원 검출기, 및 상기 제2 이미지의 데이터에 기초하여 상기 광원이 송신하는 전송 데이터를 복원하는 복조기를 포함한다.
본 발명의 또 다른 실시예에 의한 광학 카메라 통신을 이용하는 광수신 장치는, 이미지 센서로부터 점멸하는 광원을 제1 노출 시간으로 촬영한 제1 이미지의 데이터를 획득하고, 상기 이미지 센서로부터 상기 광원을 제2 노출 시간으로 촬영한 제2 이미지의 데이터를 획득하는 수신기, 상기 제1 이미지의 데이터에 기초하여 상기 이미지 내 광원의 영역을 검출하여 상기 광원의 위치 정보를 추정하는 광원 검출기, 및 상기 제2 이미지의 데이터에 기초하여 상기 광원이 송신하는 전송 데이터를 복원하는 복조기를 포함한다.
본 발명의 또 다른 실시예에 의한 광학 카메라 통신을 이용하는 광수신 장치는, 이미지 센서로부터 점멸하는 광원을 연속적으로 촬영한 이미지들의 시퀀스를 획득하는 수신기, 및 상기 이미지들의 시퀀스의 각 이미지 내의 상기 광원의 영역을 검출하여 상기 광원의 위치 정보를 추정하고, 이산 웨이블릿 변환(Discrete Wavelet Transform)을 이용하여 상기 광원의 위치 정보를 보정하는 광원 검출기를 포함한다.
본 발명은, 본 발명의 일 실시예에 의한 방법을 컴퓨터에서 실행시키기 위하여 매체에 저장된 컴퓨터프로그램을 포함한다.
본 발명은, 본 발명의 일 실시예에 의한 방법을 수행하는 프로그램이 기록된 컴퓨터로 읽을 수 있는 기록매체를 포함한다.
본 발명에 따르면, 광학 카메라 통신을 이용하여 획득한 이미지 데이터로부터 광원 검출을 효과적으로 수행할 수 있다.
도 1은 본 발명의 일 실시예에 따른 광학 카메라 통신(Optical Camera Communication; OCC) 시스템의 구성을 개략적으로 도시한 도면이다.
도 2는 본 발명의 일 실시예에 따른 광학 카메라 통신을 이용하는 광원 검출 방법의 흐름을 개략적으로 나타낸 도면이다.
도 3은 본 발명의 일 실시예에 따라 이미지의 데이터에 대해 평균 필터를 적용하는 일례를 나타낸 도면이다.
도 4 및 도 5는 본 발명의 일 실시예에 따라 이미지 센서로부터 점멸하는 광원을 촬영한 이미지와 이미지에 대해 평균 필터를 적용한 결과를 나타낸 도면이다.
도 6은 본 발명의 일 실시예에 따라 필터링된 데이터를 기반으로 이미지 내의 광원의 영역을 검출하여 광원의 위치 정보를 추정하는 일례를 나타낸 도면이다.
도 7은 이미지 센서의 노출 시간이 짧은 경우 샘플링된 광원의 점멸 상태를 나타낸 도면이다.
도 8은 이미지 센서의 노출 시간이 긴 경우 샘플링된 광원의 점멸 상태를 나타낸 도면이다.
도 9는 본 발명의 다른 실시예에 따른 광학 카메라 통신을 이용하는 광원 검출 방법의 흐름을 개략적으로 나타낸 도면이다.
도 10 내지 도 13은 본 발명의 일 실시예에 따라 이미지들의 시퀀스에 대해 추정된 광원의 x 좌표 시퀀스와 y 좌표 시퀀스 각각에 대해 이산 웨이블릿 변환을 수행한 결과를 나타낸 도면이다.
이하에서 본 발명의 기술적 사상을 명확화하기 위하여 첨부된 도면을 참조하여 본 발명의 바람직한 실시예를 상세하게 설명하도록 한다. 본 발명을 설명함에 있어서, 관련된 공지 기능 또는 구성요소에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략할 것이다. 도면들 중 실질적으로 동일한 기능구성을 갖는 구성요소들에 대하여는 비록 다른 도면상에 표시되더라도 가능한 한 동일한 참조번호들 및 부호들을 부여하였다. 설명의 편의를 위하여 필요한 경우에는 장치와 방법을 함께 서술하도록 한다.
도 1은 본 발명의 일 실시예에 따른 광학 카메라 통신(Optical Camera Communication; OCC) 시스템의 구성을 개략적으로 도시한 도면이다.
도 1을 참조하면, 본 발명의 일 실시예에 따른 광학 카메라 통신 시스템은 광학 카메라 통신 송신 장치(100) 및 광학 카메라 통신 수신 장치(200)를 포함한다.
광학 카메라 통신 송신 장치(100)는 변조기(110)와 송신기(120)를 포함할 수 있다.
변조기(110)는 전송하고자 하는 비트 열(bit sequence)인 이진 데이터 신호를 입력받아, 변조된 펄스 파형을 갖는 이진 데이터 신호를 생성한다.
송신기(120)는 이진 데이터 신호에 따라 광원(121, 122)을 점멸시킴으로써 데이터를 송신한다. 여기서, 점멸(on/off)이라 함은 반드시 광원이 완전히 켜지고 완전히 꺼지는 방식만을 나타내는 것이 아니라, 광원의 밝기 변화를 이용해 이진값 0과 1 두 가지 상태를 나타내는 모든 방식을 포함한다. 광원의 점멸 주파수가 일정값(예: 200Hz) 이상이면 사람은 광원의 점멸을 느끼지 못한다.
광학 카메라 통신 수신 장치(200)는 수신기(210), 광원 검출기(220), 및 복조기(230)를 포함할 수 있다.
수신기(210)는 이미지 센서가 광원들을 연속적으로 촬영(샘플링)한 이미지 열(image sequence)을 수신한다. 광원 검출기(220)는 수신한 이미지에서 광원들의 위치를 검출한다. 복조기(230)는 광원들의 점멸 상태로부터 데이터 신호를 복조한다.
도 2는 본 발명의 일 실시예에 따른 광학 카메라 통신을 이용하는 광원 검출 방법의 흐름을 개략적으로 나타낸 도면이다.
도 2를 참조하면, 광학 카메라 통신 수신 장치(200)의 수신기(210)는 이미지 센서로부터 점멸하는 광원을 촬영한 이미지의 데이터를 획득할 수 있다. 이때, 이미지는 이미지 센서에서 롤링 셔터 방식으로 촬영될 수 있다.
광학 카메라 통신 수신 장치(200)의 광원 검출기(220)는 이미지의 데이터에 대해 필터링을 수행하고, 필터링된 데이터를 기반으로 이미지 내의 광원의 영역을 검출하여 광원의 위치 정보를 추정할 수 있다.
일 실시예로, 광원 검출기(220)는 이미지의 데이터에 대해 평균 필터(mean filter)를 적용할 수 있다. 평균 필터는 이미지의 열 방향으로 적용되며, 광원의 점멸 주기에 해당하는 데이터에 대한 평균을 산출할 수 있다. 상술한 바와 같이, 수신기(210)에 의해 획득된 이미지는 이미지 센서에서 롤링 셔터 방식으로 촬영되므로 행 단위로 샘플링될 수 있다. 롤링 셔터 방식을 이용하는 광학 카메라 통신에서는 통상적으로 이미지 센서의 행 샘플링 레이트가 광원의 클럭 레이트보다 높으므로, 광원의 점멸하는 펄스가 행 단위로 나타나게 된다. 이러한 행 단위의 펄스를 제거하기 위해서 열 방향으로(세로 방향으로) 평균 필터를 적용하는 것이 효과적이다. 따라서, 광원 검출기(220)는 이미지 내에서 동일한 열의 데이터에 대해 평균을 산출할 수 있다. 이때, 평균 필터는 통상적인 필터와 같이 컨벌루션을 이용해 이동 평균(moving average)을 산출하는 것일 수도 있고, 간결성과 신속성을 위해 블록 단위로(block by block) 평균을 산출할 수도 있다. 일례로, 광원 검출기(220)는 이미지의 데이터를 광원의 점멸 주기에 해당하는 블록들로 구분하고, 구분된 블록들 각각의 평균을 산출할 수 있다. 광원 검출기(220)는 블록 단위로 평균을 산출하기 위한 샘플(데이터)의 수를 결정할 수 있으며, 일 실시예로 이미지 센서의 행 샘플링 레이트를 기초로 광원의 점멸 주기에 해당하는 데이터의 수를 결정하여 평균을 산출할 수 있다.
도 3은 본 발명의 일 실시예에 따라 이미지의 데이터에 대해 평균 필터를 적용하는 일례를 나타낸 도면이다. 도 3에 도시된 바와 같이, 광원의 점멸 주기에 해당하는 데이터에 대해 평균 필터를 적용하면 해당 주기 내에서 평균값으로 출력되므로 광원의 점멸하는 펄스를 제거할 수 있다.
도 4 및 도 5는 본 발명의 일 실시예에 따라 이미지 센서로부터 점멸하는 광원을 촬영한 이미지와 이미지에 대해 평균 필터를 적용한 결과를 나타낸 도면이다. 도 4의 (a) 및 도 5의 (a)가 이미지 센서로부터 점멸하는 광원을 촬영한 이미지를 나타낸 것이고, 도 4의 (b) 및 도 5의 (b)가 이미지에 대해 평균 필터를 적용한 결과를 나타낸 것이다.
광원 검출기(220)는 필터링된 데이터를 기 설정된 임계값과 비교하여 이미지 내 광원의 영역을 검출하고, 검출된 광원 영역의 좌표 정보를 기반으로 광원의 위치 정보를 추정할 수 있다. 일 실시예로, 광원 검출기(220)는 광원 영역의 경계의 좌표 정보를 기반으로 광원의 중심 좌표를 계산할 수 있고, 광원의 중심 좌표를 광원의 위치 정보로 결정할 수 있다. 도 6은 본 발명의 일 실시예에 따라 필터링된 데이터를 기반으로 이미지 내의 광원의 영역을 검출하여 광원의 위치 정보를 추정하는 일례를 나타낸 도면이다.
한편, 본 발명에서는 광원 검출을 위해서 상술한 바와 같이 저역 통과 필터(예: 평균 필터)를 사용할 수도 있으며, 또는 이미지 센서의 노출 시간을 제어할 수도 있다. 이미지 센서의 노출 시간을 제어하면 저역 통과 필터와 동일한 효과를 얻을 수 있다. 예를 들어, 이미지 센서의 셔터 속도가 빠르면(노출 시간이 짧은 경우) 광원의 점멸 상태, 즉 광원 영역 내의 신호 파형을 샘플링할 수 있으며, 이미지 센서의 셔터 속도가 느리면(노출 시간이 긴 경우) 광원 영역 내의 신호 파형이 흐려지거나 제거될 수 있다. 도 7은 이미지 센서의 노출 시간이 짧은 경우 샘플링된 광원의 점멸 상태를 나타낸 도면이고, 도 8은 이미지 센서의 노출 시간이 긴 경우 샘플링된 광원의 점멸 상태를 나타낸 도면이다.
본 발명의 일 실시예에 따르면, 광학 카메라 통신 수신 장치(200)의 수신기(210)는 점멸하는 광원을 제1 이미지 센서로부터 제1 노출 시간으로 촬영한 제1 이미지의 데이터를 획득하고, 제2 이미지 센서로부터 제2 노출 시간으로 촬영한 제2 이미지의 데이터를 획득할 수 있다. 이때, 제1 이미지와 제2 이미지는 제1 이미지 센서 및 제2 이미지 센서에서 동시에 촬영될 수 있다. 제1 노출 시간은 광원의 점멸 주기보다 길고, 제2 노출 시간은 광원의 점멸 주기보다 짧을 수 있다. 일 실시예로, 제1 노출 시간은 광원의 점멸 주기의 정수배로 설정될 수 있다.
광학 카메라 통신 수신 장치(200)의 광원 검출기(220)는 제1 이미지의 데이터에 기초하여 이미지 내 광원의 영역을 검출하여 광원의 위치 정보를 추정할 수 있다. 제1 이미지의 데이터는 광원의 점멸 주기보다 긴 노출 시간으로 제어하여 샘플링된 경우이므로, 광원의 영역 내 신호 파형이 저역 통과 필터를 적용한 것과 같이 나타날 수 있다. 따라서, 제1 이미지의 데이터에 기초하여 효과적으로 이미지 내 광원 영역을 검출할 수 있다.
광학 카메라 통신 수신 장치(200)의 복조기(230)는 제2 이미지의 데이터에 기초하여 광원이 송신하는 전송 데이터를 복원할 수 있다. 제2 이미지의 데이터는 광원의 점멸 주기보다 짧은 노출 시간으로 제어하여 샘플링된 경우이므로, 광원의 영역 내 신호 파형이 광원 점멸 상태를 반영하고 있다. 따라서, 제2 이미지의 데이터에 기초하여 효과적으로 전송 데이터를 복원할 수 있다.
본 발명의 다른 실시예에 따르면, 광학 카메라 통신 수신 장치(200)의 수신기(210)는 점멸하는 광원을 이미지 센서로부터 제1 노출 시간으로 촬영한 제1 이미지의 데이터를 획득하고, 제2 노출 시간으로 촬영한 제2 이미지의 데이터를 획득할 수 있다. 이때, 이미지 센서는 소정의 개수의 제2 이미지를 촬영할 때마다 하나의 제1 이미지를 촬영할 수 있다. 제1 노출 시간은 광원의 점멸 주기보다 길고, 제2 노출 시간은 광원의 점멸 주기보다 짧을 수 있다. 일 실시예로, 제1 노출 시간은 광원의 점멸 주기의 정수배로 설정될 수 있다. 예를 들면, 이미지 센서는 짧은 노출 시간으로 10장의 이미지를 촬영할 때마다 긴 노출 시간으로 1장의 이미지를 촬영할 수 있다.
광학 카메라 통신 수신 장치(200)의 광원 검출기(220)는 제1 이미지의 데이터에 기초하여 이미지 내 광원의 영역을 검출하여 광원의 위치 정보를 추정할 수 있다. 상술한 바와 같이, 제1 이미지의 데이터는 광원의 점멸 주기보다 긴 노출 시간으로 제어하여 샘플링된 경우이므로, 광원의 영역 내 신호 파형이 저역 통과 필터를 적용한 것과 같이 나타날 수 있다. 따라서, 제1 이미지의 데이터에 기초하여 효과적으로 이미지 내 광원 영역을 검출할 수 있다.
광학 카메라 통신 수신 장치(200)의 복조기(230)는 제2 이미지의 데이터에 기초하여 광원이 송신하는 전송 데이터를 복원할 수 있다. 상술한 바와 같이, 제2 이미지의 데이터는 광원의 점멸 주기보다 짧은 노출 시간으로 제어하여 샘플링된 경우이므로, 광원의 영역 내 신호 파형이 광원 점멸 상태를 반영하고 있다. 따라서, 제2 이미지의 데이터에 기초하여 효과적으로 전송 데이터를 복원할 수 있다.
도 9는 본 발명의 다른 실시예에 따른 광학 카메라 통신을 이용하는 광원 검출 방법의 흐름을 개략적으로 나타낸 도면이다.
도 9를 참조하면, 광학 카메라 통신 수신 장치(200)의 수신기(210)는 이미지 센서로부터 점멸하는 광원을 연속적으로 촬영한 이미지들의 시퀀스를 획득할 수 있다.
광학 카메라 통신 수신 장치(200)의 광원 검출기(220)는 이미지들의 시퀀스로부터 각 이미지 내의 광원의 영역을 검출하고, 검출된 광원 영역을 기반으로 광원의 위치 정보를 추정할 수 있다. 일 실시예로, 광원 검출기(220)는 광원 영역의 경계의 좌표 정보를 기반으로 광원의 중심 좌표를 계산할 수 있고, 광원의 중심 좌표를 광원의 위치 정보로 결정할 수 있다.
또한, 광원 검출기(220)는 이산 웨이블릿 변환(Discrete Wavelet Transform)을 이용하여 광원의 위치 정보를 보정할 수 있다. 일 실시예로, 광원 검출기(220)는 이미지들의 시퀀스에 대해 추정된 광원의 위치의 x 좌표 시퀀스와 y 좌표 시퀀스 각각에 대해 이산 웨이블릿 변환을 수행할 수 있다. 이산 웨이블릿 변환은 다음과 같이 수행될 수 있다.
입력값으로는 샘플링 레이트 Fs인 N개의 샘플, 고주파 제거를 위한 주파수 임계값 Fthreshold이 필요하며, 이때 조건은 Fthreshold < Fs/2 일 수 있다.
이산 웨이블릿 변환의 레벨은 다음 수학식 1에 의해 결정될 수 있다.
Figure pat00002
수학식 1에 의해 결정된 레벨의 이산 웨이블릿 변환을 수행하고, 이때 이산 웨이블릿 변환의 수행 결과에 대해 상세 계수(detail coefficient)들을 0으로 설정할 수 있다. 이산 웨이블릿 변환을 수행하면 근사 계수(approximation coefficient)들과 상세 계수들이 생성되므로, 이 중 고주파 성분인 상세 계수들을 0으로 설정함으로써 고주파 노이즈를 제거할 수 있다. 또한 이산 웨이블릿 변환을 이용하면 매우 적은 수(예: 10개)의 샘플들에 대하여 효과적으로 노이즈를 제거할 수 있다.
출력값으로 고주파수가 제거된 N개의 샘플들의 이미지 내 위치 정보를 획득할 수 있다.
이산 웨이블릿 변환을 수행한 후 출력 계수들을 시간 영역의 파형으로 다시 변환하려면 역 이산 웨이블릿 변환을 수행할 수 있다.
도 10 내지 도 13은 본 발명의 일 실시예에 따라 이미지들의 시퀀스에 대해 추정된 광원의 x 좌표 시퀀스와 y 좌표 시퀀스 각각에 대해 이산 웨이블릿 변환을 수행한 결과를 나타낸 도면이다. 광원의 위치를 추정하는 동안 발생한 고주파 노이즈는 상술한 바와 같은 이산 웨이블릿 변환을 수행함으로써 제거되므로, 도 10 내지 도 13에 도시된 바와 같이 광원의 x 좌표 시퀀스 및 y 좌표 시퀀스 각각의 위치가 보정될 수 있다.
본 발명은 또한 컴퓨터로 읽을 수 있는 기록 매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 기록 매체는 마그네틱 저장 매체, 광학적 판독 매체 등 모든 저장매체를 포함한다. 또한, 본 발명에서 사용되는 메시지의 데이터 포맷을 기록 매체에 기록하는 것이 가능하다.
지금까지 본 발명에 대하여 도면에 도시된 바람직한 실시예들을 중심으로 상세히 살펴보았다. 이러한 실시예들은 이 발명을 한정하려는 것이 아니라 예시적인 것에 불과하며, 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 발명의 진정한 기술적 보호범위는 전술한 설명이 아니라 첨부된 특허청구범위의 기술적 사상에 의해서 정해져야 할 것이다. 비록 본 명세서에 특정한 용어들이 사용되었으나 이는 단지 본 발명의 개념을 설명하기 위한 목적에서 사용된 것이지 의미한정이나 특허청구범위에 기재된 본 발명의 범위를 제한하기 위하여 사용된 것은 아니다. 본 발명의 각 단계는 반드시 기재된 순서대로 수행되어야 할 필요는 없고, 병렬적, 선택적 또는 개별적으로 수행될 수 있다. 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 특허청구범위에서 청구하는 본 발명의 본질적인 기술사상에서 벗어나지 않는 범위에서 다양한 변형 형태 및 균등한 타 실시예가 가능하다는 점을 이해할 것이다. 균등물은 현재 공지된 균등물뿐만 아니라 장래에 개발될 균등물 즉 구조와 무관하게 동일한 기능을 수행하도록 발명된 모든 구성요소를 포함하는 것으로 이해되어야 한다.

Claims (25)

  1. 광학 카메라 통신(Optical Camera Communication; OCC)을 이용하는 광원 검출 방법에 있어서,
    광수신 장치가 이미지 센서로부터 점멸하는 광원을 촬영한 이미지의 데이터를 획득하는 단계;
    상기 광수신 장치가 상기 데이터에 대해 필터링을 수행하는 단계; 및
    상기 광수신 장치가 상기 필터링된 데이터를 기반으로 상기 이미지 내의 상기 광원의 영역을 검출하여 상기 광원의 위치 정보를 추정하는 단계를 포함하는 것을 특징으로 하는 광원 검출 방법.
  2. 제1항에 있어서,
    상기 이미지는 롤링 셔터 방식으로 촬영되는 것을 특징으로 하는 광원 검출 방법.
  3. 제2항에 있어서,
    상기 필터링을 수행하는 단계는,
    상기 데이터에 평균 필터(mean filter)를 적용하는 단계를 포함하는 것을 특징으로 하는 광원 검출 방법.
  4. 제3항에 있어서,
    상기 평균 필터는 상기 데이터의 열 방향으로 적용되는 것을 특징으로 하는 광원 검출 방법.
  5. 제4항에 있어서,
    상기 평균 필터는 상기 광원의 점멸 주기에 해당하는 데이터에 대한 평균을 산출하는 필터인 것을 특징으로 하는 광원 검출 방법.
  6. 제5항에 있어서,
    상기 평균 필터를 적용하는 단계는,
    상기 데이터를 상기 광원의 점멸 주기에 해당하는 블록들로 구분하는 단계; 및
    상기 구분된 블록들 각각의 평균을 산출하는 단계를 포함하는 것을 특징으로 하는 광원 검출 방법.
  7. 제5항에 있어서,
    상기 광수신 장치는,
    상기 이미지 센서의 행 샘플링 레이트를 기초로 상기 광원의 점멸 주기에 해당하는 데이터의 수를 결정하는 것을 특징으로 하는 광원 검출 방법.
  8. 제1항에 있어서,
    상기 광원의 위치 정보를 추정하는 단계는,
    상기 필터링된 데이터를 기 설정된 임계값과 비교하여 상기 광원의 영역을 검출하는 것을 특징으로 하는 광원 검출 방법.
  9. 제1항에 있어서,
    상기 광원의 위치 정보를 추정하는 단계는,
    상기 광원의 영역의 경계의 좌표 정보를 기반으로 상기 광원의 중심 좌표를 계산하는 단계; 및
    상기 광원의 중심 좌표를 상기 광원의 위치 정보로 결정하는 단계를 포함하는 것을 특징으로 하는 광원 검출 방법.
  10. 광학 카메라 통신을 이용하는 광원 검출 방법에 있어서,
    광수신 장치가 제1 이미지 센서로부터 점멸하는 광원을 제1 노출 시간으로 촬영한 제1 이미지의 데이터를 획득하는 단계;
    상기 광수신 장치가 제2 이미지 센서로부터 상기 광원을 제2 노출 시간으로 촬영한 제2 이미지의 데이터를 획득하는 단계;
    상기 광수신 장치가 상기 제1 이미지의 데이터에 기초하여 상기 이미지 내 광원의 영역을 검출하여 상기 광원의 위치 정보를 추정하는 단계; 및
    상기 광수신 장치가 상기 제2 이미지의 데이터에 기초하여 상기 광원이 송신하는 전송 데이터를 복원하는 단계를 포함하는 것을 특징으로 하는 광원 검출 방법.
  11. 제10항에 있어서,
    상기 제1 이미지와 상기 제2 이미지는 동시에 촬영되는 것을 특징으로 하는 광원 검출 방법.
  12. 광학 카메라 통신을 이용하는 광원 검출 방법에 있어서,
    광수신 장치가 이미지 센서로부터 점멸하는 광원을 제1 노출 시간으로 촬영한 제1 이미지의 데이터를 획득하는 단계;
    상기 광수신 장치가 상기 이미지 센서로부터 상기 광원을 제2 노출 시간으로 촬영한 제2 이미지의 데이터를 획득하는 단계;
    상기 광수신 장치가 상기 제1 이미지의 데이터에 기초하여 상기 이미지 내 광원의 영역을 검출하여 상기 광원의 위치 정보를 추정하는 단계; 및
    상기 광수신 장치가 상기 제2 이미지의 데이터에 기초하여 상기 광원이 송신하는 전송 데이터를 복원하는 단계를 포함하는 것을 특징으로 하는 광원 검출 방법.
  13. 제12항에 있어서,
    상기 이미지 센서는 소정의 개수의 상기 제2 이미지를 촬영할 때마다 하나의 상기 제1 이미지를 촬영하는 것을 특징으로 하는 광원 검출 방법.
  14. 제10항 또는 제12항에 있어서,
    상기 제1 노출 시간은 상기 광원의 점멸 주기보다 길고, 상기 제2 노출 시간은 상기 광원의 점멸 주기보다 짧은 것을 특징으로 하는 광원 검출 방법.
  15. 제14항에 있어서,
    상기 제1 노출 시간은 상기 광원의 점멸 주기의 정수배인 것을 특징으로 하는 광원 검출 방법.
  16. 광학 카메라 통신을 이용하는 광원 검출 방법에 있어서,
    광수신 장치가 이미지 센서로부터 점멸하는 광원을 연속적으로 촬영한 이미지들의 시퀀스를 획득하는 단계;
    상기 광수신 장치가 상기 이미지들의 시퀀스의 각 이미지 내의 상기 광원의 영역을 검출하여 상기 광원의 위치 정보를 추정하는 단계; 및
    상기 광수신 장치가 이산 웨이블릿 변환(Discrete Wavelet Transform)을 이용하여 상기 광원의 위치 정보를 보정하는 단계를 포함하는 것을 특징으로 하는 광원 검출 방법.
  17. 제16항에 있어서,
    상기 광원의 위치 정보를 보정하는 단계는,
    상기 이미지들의 시퀀스에 대해 추정된 광원의 위치의 x 좌표 시퀀스와 y 좌표 시퀀스 각각에 대해 이산 웨이블릿 변환을 수행하는 단계를 포함하는 것을 특징으로 하는 광원 검출 방법.
  18. 제17항에 있어서,
    상기 이산 웨이블릿 변환의 레벨은 다음 식에 의해 결정되는 것을 특징으로 하는 광원 검출 방법.
    Figure pat00003

    (여기서, Fthreshold는 주파수 임계값)
  19. 제17항에 있어서,
    상기 광원의 위치 정보를 보정하는 단계는,
    상기 이산 웨이블릿 변환을 수행한 결과에 대해 상세 계수(detail coefficient)들을 0으로 설정한 후 역 이산 웨이블릿 변환을 수행하는 단계를 포함하는 것을 특징으로 하는 광원 검출 방법.
  20. 광학 카메라 통신을 이용하는 광수신 장치에 있어서,
    이미지 센서로부터 점멸하는 광원을 촬영한 이미지의 데이터를 획득하는 수신기; 및
    상기 데이터에 대해 필터링을 수행하고, 상기 필터링된 데이터를 기반으로 상기 이미지 내의 상기 광원의 영역을 검출하여 상기 광원의 위치 정보를 추정하는 광원 검출기를 포함하는 것을 특징으로 하는 광수신 장치.
  21. 광학 카메라 통신을 이용하는 광수신 장치에 있어서,
    제1 이미지 센서로부터 점멸하는 광원을 제1 노출 시간으로 촬영한 제1 이미지의 데이터를 획득하고, 제2 이미지 센서로부터 상기 광원을 제2 노출 시간으로 촬영한 제2 이미지의 데이터를 획득하는 수신기;
    상기 제1 이미지의 데이터에 기초하여 상기 이미지 내 광원의 영역을 검출하여 상기 광원의 위치 정보를 추정하는 광원 검출기; 및
    상기 제2 이미지의 데이터에 기초하여 상기 광원이 송신하는 전송 데이터를 복원하는 복조기를 포함하는 것을 특징으로 하는 광수신 장치.
  22. 광학 카메라 통신을 이용하는 광수신 장치에 있어서,
    이미지 센서로부터 점멸하는 광원을 제1 노출 시간으로 촬영한 제1 이미지의 데이터를 획득하고, 상기 이미지 센서로부터 상기 광원을 제2 노출 시간으로 촬영한 제2 이미지의 데이터를 획득하는 수신기;
    상기 제1 이미지의 데이터에 기초하여 상기 이미지 내 광원의 영역을 검출하여 상기 광원의 위치 정보를 추정하는 광원 검출기; 및
    상기 제2 이미지의 데이터에 기초하여 상기 광원이 송신하는 전송 데이터를 복원하는 복조기를 포함하는 것을 특징으로 하는 광수신 장치.
  23. 광학 카메라 통신을 이용하는 광수신 장치에 있어서,
    이미지 센서로부터 점멸하는 광원을 연속적으로 촬영한 이미지들의 시퀀스를 획득하는 수신기; 및
    상기 이미지들의 시퀀스의 각 이미지 내의 상기 광원의 영역을 검출하여 상기 광원의 위치 정보를 추정하고, 이산 웨이블릿 변환(Discrete Wavelet Transform)을 이용하여 상기 광원의 위치 정보를 보정하는 광원 검출기를 포함하는 것을 특징으로 하는 광수신 장치.
  24. 제1항 내지 제19항 중 어느 한 항의 방법을 컴퓨터에서 실행시키기 위하여 매체에 저장된 컴퓨터프로그램.
  25. 제1항 내지 제19항 중 어느 한 항의 방법을 수행하는 프로그램이 기록된 컴퓨터로 읽을 수 있는 기록매체.
KR1020170184849A 2017-12-13 2017-12-29 광학 카메라 통신을 이용하는 광원 검출 방법 및 장치 KR101993063B1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20170171280 2017-12-13
KR1020170171280 2017-12-13

Related Child Applications (1)

Application Number Title Priority Date Filing Date
KR1020180162177A Division KR102089875B1 (ko) 2017-12-13 2018-12-14 광학 카메라 통신을 이용하는 광원 검출 방법 및 장치

Publications (2)

Publication Number Publication Date
KR20190070825A true KR20190070825A (ko) 2019-06-21
KR101993063B1 KR101993063B1 (ko) 2019-06-26

Family

ID=67056767

Family Applications (2)

Application Number Title Priority Date Filing Date
KR1020170184849A KR101993063B1 (ko) 2017-12-13 2017-12-29 광학 카메라 통신을 이용하는 광원 검출 방법 및 장치
KR1020180162177A KR102089875B1 (ko) 2017-12-13 2018-12-14 광학 카메라 통신을 이용하는 광원 검출 방법 및 장치

Family Applications After (1)

Application Number Title Priority Date Filing Date
KR1020180162177A KR102089875B1 (ko) 2017-12-13 2018-12-14 광학 카메라 통신을 이용하는 광원 검출 방법 및 장치

Country Status (1)

Country Link
KR (2) KR101993063B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210105268A (ko) * 2020-02-18 2021-08-26 국민대학교산학협력단 하이브리드 무선 통신 시스템에서의 네트워크 스위칭 방법 및 장치

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009532928A (ja) * 2006-05-08 2009-09-10 ミツビシ・エレクトリック・リサーチ・ラボラトリーズ・インコーポレイテッド シーンの画像におけるぶれを低減する方法及びシーンの画像のぶれを除去する装置
KR101364727B1 (ko) * 2012-09-28 2014-02-20 (주)한일에스티엠 촬영된 영상의 처리를 이용한 안개 감지 방법 및 장치
KR20140142646A (ko) * 2013-06-04 2014-12-12 유니버링크 가부시키가이샤 가시광 수신 방법 및 그 장치
KR20150022076A (ko) * 2013-08-22 2015-03-04 주식회사 만도 차량 카메라의 영상 처리 방법 및 이를 이용하는 영상 처리 장치
KR101568943B1 (ko) * 2014-12-29 2015-11-13 영남대학교 산학협력단 가시광 통신 시스템에서 데이터 송수신 방법 및 장치
JP2016534321A (ja) * 2013-07-04 2016-11-04 フィリップス ライティング ホールディング ビー ヴィ 距離又は位置の決定

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101025569B1 (ko) * 2009-10-13 2011-03-28 중앙대학교 산학협력단 이산 웨이블렛 변환을 기반으로 하는 영상의 노이즈 제거 장치 및 방법
KR101844371B1 (ko) * 2014-03-19 2018-04-02 삼성전자주식회사 영상 처리 방법 및 장치
JP2015210538A (ja) * 2014-04-23 2015-11-24 本田技研工業株式会社 光源検出装置、前照灯制御システム、および光源検出方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009532928A (ja) * 2006-05-08 2009-09-10 ミツビシ・エレクトリック・リサーチ・ラボラトリーズ・インコーポレイテッド シーンの画像におけるぶれを低減する方法及びシーンの画像のぶれを除去する装置
KR101364727B1 (ko) * 2012-09-28 2014-02-20 (주)한일에스티엠 촬영된 영상의 처리를 이용한 안개 감지 방법 및 장치
KR20140142646A (ko) * 2013-06-04 2014-12-12 유니버링크 가부시키가이샤 가시광 수신 방법 및 그 장치
JP2016534321A (ja) * 2013-07-04 2016-11-04 フィリップス ライティング ホールディング ビー ヴィ 距離又は位置の決定
KR20150022076A (ko) * 2013-08-22 2015-03-04 주식회사 만도 차량 카메라의 영상 처리 방법 및 이를 이용하는 영상 처리 장치
KR101568943B1 (ko) * 2014-12-29 2015-11-13 영남대학교 산학협력단 가시광 통신 시스템에서 데이터 송수신 방법 및 장치

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210105268A (ko) * 2020-02-18 2021-08-26 국민대학교산학협력단 하이브리드 무선 통신 시스템에서의 네트워크 스위칭 방법 및 장치

Also Published As

Publication number Publication date
KR102089875B1 (ko) 2020-03-16
KR20190070893A (ko) 2019-06-21
KR101993063B1 (ko) 2019-06-26

Similar Documents

Publication Publication Date Title
JP7357624B2 (ja) イベントベースセンサからの信号を処理する方法および装置
CN107743638B (zh) 用于实时运动伪影处理和去噪的方法和系统
KR101971370B1 (ko) 광학 카메라 통신을 이용하는 차량 위치 추정 방법 및 장치
KR102040152B1 (ko) 3차원 영상 획득 장치 및 3차원 영상 획득 장치에서의 깊이 영상 생성 방법
WO2005093654A3 (en) Method and apparatus to correct digital image blur due to motion of subject or imaging device
US20150302593A1 (en) Front-End Architecture for Image Processing
US10354413B2 (en) Detection system and picture filtering method thereof
CN109697701B (zh) 用于检测场景中的雾的方法和图像捕获设备
KR102092496B1 (ko) S2-psk 광학 무선 통신 방법 및 장치
KR102516495B1 (ko) 스테레오-시간적 이미지 시퀀스들로부터 향상된 3-d 데이터 재구성을 위한 방법들 및 장치
KR101929557B1 (ko) 블러 처리 장치 및 방법
CN109788216A (zh) 用于tof的抗干扰方法、装置及tof传感器芯片
US9929807B2 (en) Visible light receiving method
KR101993063B1 (ko) 광학 카메라 통신을 이용하는 광원 검출 방법 및 장치
CN113498473A (zh) 使用动态视觉传感器和图案投影的三维成像和感测
KR102179127B1 (ko) RoI 기반 광학 무선 통신 방법 및 장치
US8542281B2 (en) System and method for acquiring a still image from a moving image
KR102259055B1 (ko) 하이브리드 occ 및 lifi 시스템
JP2023517966A (ja) イベントベースのイメージセンサを動作させるためのイベントフィルタリング方法
KR20170085953A (ko) 2d 컬러 코드 광학 무선 통신 방법 및 장치
JP6948172B2 (ja) 画像センサのためのピクセルユニット、画像センサ、光信号をセンシングする方法、ピクセルユニットを制御する方法、およびピクセルユニットを利用して画像を生起する方法
US10803625B2 (en) Detection system and picturing filtering method thereof
US20180006724A1 (en) Multi-transmitter vlc positioning system for rolling-shutter receivers
CN101742089B (zh) 用于处理图像的设备和方法
CN109586791A (zh) 一种可见光通信方法及装置

Legal Events

Date Code Title Description
PA0109 Patent application

Patent event code: PA01091R01D

Comment text: Patent Application

Patent event date: 20171229

A201 Request for examination
PA0201 Request for examination

Patent event code: PA02012R01D

Patent event date: 20180627

Comment text: Request for Examination of Application

Patent event code: PA02011R01I

Patent event date: 20171229

Comment text: Patent Application

A302 Request for accelerated examination
PA0302 Request for accelerated examination

Patent event date: 20180816

Patent event code: PA03022R01D

Comment text: Request for Accelerated Examination

Patent event date: 20171229

Patent event code: PA03021R01I

Comment text: Patent Application

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

Comment text: Notification of reason for refusal

Patent event date: 20181016

Patent event code: PE09021S01D

A107 Divisional application of patent
PA0107 Divisional application

Comment text: Divisional Application of Patent

Patent event date: 20181214

Patent event code: PA01071R01D

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

Comment text: Notification of reason for refusal

Patent event date: 20190221

Patent event code: PE09021S01D

E701 Decision to grant or registration of patent right
PE0701 Decision of registration

Patent event code: PE07011S01D

Comment text: Decision to Grant Registration

Patent event date: 20190611

GRNT Written decision to grant
PR0701 Registration of establishment

Comment text: Registration of Establishment

Patent event date: 20190619

Patent event code: PR07011E01D

PR1002 Payment of registration fee

Payment date: 20190619

End annual number: 3

Start annual number: 1

PG1501 Laying open of application
PG1601 Publication of registration
PR1001 Payment of annual fee

Payment date: 20220329

Start annual number: 4

End annual number: 4

PR1001 Payment of annual fee

Payment date: 20230321

Start annual number: 5

End annual number: 5