KR102347283B1 - 변형거울 없는 인공지능 적응광학 시스템 - Google Patents

변형거울 없는 인공지능 적응광학 시스템 Download PDF

Info

Publication number
KR102347283B1
KR102347283B1 KR1020200145923A KR20200145923A KR102347283B1 KR 102347283 B1 KR102347283 B1 KR 102347283B1 KR 1020200145923 A KR1020200145923 A KR 1020200145923A KR 20200145923 A KR20200145923 A KR 20200145923A KR 102347283 B1 KR102347283 B1 KR 102347283B1
Authority
KR
South Korea
Prior art keywords
image
images
optical system
correction unit
divided
Prior art date
Application number
KR1020200145923A
Other languages
English (en)
Inventor
최성환
백지혜
김지헌
박종엽
양희수
한정열
Original Assignee
한국 천문 연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국 천문 연구원 filed Critical 한국 천문 연구원
Priority to KR1020200145923A priority Critical patent/KR102347283B1/ko
Priority to EP21889464.0A priority patent/EP4243397A1/en
Priority to PCT/KR2021/015376 priority patent/WO2022097999A1/ko
Priority to US18/251,723 priority patent/US20240022828A1/en
Application granted granted Critical
Publication of KR102347283B1 publication Critical patent/KR102347283B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N5/217
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J9/00Measuring optical phase difference; Determining degree of coherence; Measuring optical wavelength
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B17/00Systems with reflecting surfaces, with or without refracting elements
    • G02B17/02Catoptric systems, e.g. image erecting and reversing system
    • G02B17/06Catoptric systems, e.g. image erecting and reversing system using mirrors only, i.e. having only one curved mirror
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B26/00Optical devices or arrangements for the control of light using movable or deformable optical elements
    • G02B26/06Optical devices or arrangements for the control of light using movable or deformable optical elements for controlling the phase of light
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/28Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for polarising
    • G02B27/283Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for polarising used for beam splitting or combining
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/10Beam splitting or combining systems
    • G02B27/106Beam splitting or combining systems for splitting or combining a plurality of identical beams or images, e.g. image replication
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Optics & Photonics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)

Abstract

본 발명은 상대적으로 고가의 장비인 표면이 변경되는 반사경을 사용하지 않고도 왜곡이 없거나 최소화된 이미지를 생성할 수 있고, 높은 품질의 이미지를 생성할 수 있는 변형거울 없는 인공지능 적응광학 시스템을 제공함에 있다.

Description

변형거울 없는 인공지능 적응광학 시스템{Adaptive optical system using artificial intelligence}
본 발명은 광학 시스템에 관한 것으로, 보다 상세히는 인공지능을 이용한 광학 시스템에 관한 것이다.
광학 시스템은 일상생활을 비롯하여 주변의 다양한 분야에서 사용되고 있다. 광학 시스템의 일예 중 하나는 입사되는 빛을 일측으로 반사시키는 반사경, 상기 반사경으로부터 입사되는 빛을 분할하는 빔 스플리터, 상기 빔 스플리터에서 분할된 빛 중 하나가 입사되어 영상을 촬영하는 카메라, 상기 빔 스플리터에서 분할된 빛 중 나머지가 입사되어, 입사되는 빛의 파면을 검출하는 광파면 센서를 포함할 수 있다. 광학 시스템은 피사체의 특징에 따라 노출시간을 달리하는 방식으로 상대적으로 선명한 이미지를 생성한다. 일예로, 광학 시스템을 이용해 역동성이 낮은 천체를 촬영할 경우, 노출시간을 길게하여 미약하게 입사되는 빛을 모아 선명한 이미지를 생성하고, 역동성이 높은 차량과 같은 피사체를 촬영할 경우, 노출시간을 짧게 하여 선명한 이미지를 생성한다. 이때, 피사체와 광학 시스템 사이에는 대기가 존재하여, 대기의 변화(흐름, 온도변화, 대기 굴절률)에 따른 오차가 발생하는 문제가 있으며, 상대적으로 먼 거리에 위치한 천체의 경우 대기의 변화에 따른 오차가 더욱 커진다.
이러한 광학적인 왜곡현상을 감소시키기 위해 입사되는 빛의 파면의 왜곡을 측정하고 이를 보정하는 방법을 적응 광학이라고 한다. 적응 광학은 고성능/고분해능의 대형 망원경에는 꼭 필요한 기술이며, 천문우주과학 연구를 수행하기 위해 고해상도 관측 영상을 얻기 위해서는 필수적인 장비이다. 종래의 적응 광학 시스템은 광파면 센서에서 검출되는 빛의 파면의 정보에 따라, 반사경의 표면을 액티브하게 변경시키는 방식으로 카메라로 입사되는 빛의 파면을 평탄화하는 방식을 사용하고 있었다. 즉, 종래의 광학 시스템에서는 광파면 센서에서 획득되는 파면정보를 토대로 반사경의 표면이 제어되는데, 이러한 방식은 반사경의 표면을 변경하기 위해 상대적으로 고가의 장비인 변형거울이 필요한 문제가 있었다.
한국 등록특허공보 제10-1726771호("스트렐 비율을 이용한 변형거울의 평활화 방법 및 장치", 공고일 2017.04.13.)
본 발명은 상기한 바와 같은 문제점을 해결하기 위해 안출된 것으로써, 본 발명에 의한 변형거울 없는 인공지능 적응광학 시스템의 목적은, 상대적으로 고가의 장비인 변형거울을 사용하지 않고도 왜곡이 없거나 왜곡을 최소화된 이미지를 생성할 수 있는 인공지능 적응광학 시스템을 제공함에 있다.
상기한 바와 같은 문제점을 해결하기 위한 본 발명에 의한 변형거울 없는 인공지능 적응광학 시스템은, 입사되는 빛을 일측으로 반사하는 반사경, 상기 반사경으로부터 입사되는 빛을 제1방향과 제2방향으로 분할하는 빔 스플리터, 상기 빔 스플리터의 상기 제1방향에 위치하여 상기 빔 스플리터에서 분할된 빛이 입사되고, 입사된 빛을 제1주기로 촬영하여 제1시점에서 1개의 제1이미지를 생성하는 카메라, 상기 빔 스플리터의 상기 제2방향에 위치하여 상기 빔 스플리터에서 분할된 빛이 입사되고, 입사된 빛의 파면을 검출하며, 입사된 빛을 상기 제1주기보다 빠른 제2주기로 촬영하여 상기 제1시점에서 각기 서로 다른 광파면 정보를 포함하는 n개의 제2이미지를 생성하는 적어도 하나 이상의 광파면 센서 및 상기 제1이미지와 상기 제2이미지의 광파면 정보를 이용해 보정된 n개의 제3이미지를 생성하고, n개의 상기 제3이미지를 이용해 상기 제1시점에서의 최적이미지를 출력하는 보정부를 포함하는 것을 특징으로 한다.
또한, 상기 보정부는, 소정의 기준으로 이미지의 피사체의 역동성이 높고 낮음을 판단하고, 이미지의 피사체의 역동성이 낮을 경우, n개의 상기 제3이미지들 중, 선명도 및 명도비 중 선택되는 적어도 하나 이상이 가장 높은 이미지를 상기 최적이미지로 출력하는 것을 특징으로 한다.
또한, 상기 보정부는, 상기 제1시점 다음의 제2시점에서 생성된 n개의 제3이미지들과 상기 제1시점에서 출력된 상기 최적이미지들의 변화율을 비교하여, 변화율이 가장 낮은 제3이미지를 선택하여 상기 제2시점의 최적이미지로 출력하는 것을 특징으로 한다.
또한, 상기 보정부는, 소정의 기준으로 이미지의 피사체의 역동성이 높고 낮음을 판단하고, 이미지의 피사체의 역동성이 높을 경우, n개의 상기 제3이미지들 각각을 소정 영역으로 분할하고, 분할된 영역들 중, 선명도 또는 명도비가 높은 영역을 조합해 상기 최적이미지를 생성 후 출력하는 것을 특징으로 한다.
또한, 상기 보정부는, n개의 상기 제3이미지들 각각을 소정 영역으로 분할하되, 단일의 상기 제3이미지에서 분할된 하나의 영역은, 인접한 다른 영역과 일정부분이 겹치도록 분할된 것을 특징으로 한다.
또한, 상기 보정부는, n개의 상기 제3이미지들 각각을 소정 영역으로 분할하기 이전에, 상기 피사체의 특정 부분을 기준점으로 상기 기준점이 이미지의 동일한 부분에 위치하도록 n개의 상기 제3이미지들을 정렬하는 것을 특징으로 한다.
또한, 상기 보정부는, n개의 상기 제3이미지들 각각을 상기 피사체와 배경화면으로 구분하고, 상기 피사체를 소정 영역으로 분할하고, 상기 배경화면을 소정 영역으로 분할하는 것을 특징으로 한다.
또한, 상기 보정부는, n개의 상기 제3이미지들 중 명도비가 기준치 이상인 이미지들을 하나로 합쳐, 최적이미지를 생성 후 출력하는 것을 특징으로 한다.
또한, 상기 보정부는, n개의 상기 제3이미지들을 하나로 합치기 이전에, 피사체의 특정 부분을 기준점으로 상기 기준점이 이미지의 동일한 부분에 위치하도록 n개의 상기 제3이미지들을 정렬하는 것을 특징으로 한다.
또한, 상기 보정부는, n개의 상기 제3이미지들 각각을 소정 영역으로 분할하고, 분할된 영역들 중 명도비가 기준치 이상인 영역을 하나로 합쳐 상기 최적이미지를 생성 및 출력하는 것을 특징으로 한다.
상기한 바와 같은 본 발명에 의한 변형거울 없는 인공지능 적응광학 시스템에 의하면, 반사면이 변화하는 반사경을 사용하지 않더라도, 광파면 센서에서 검출되는 빛의 파면 정보를 이용해 보정부에서 소프트웨어적인 방식을 통해 이미지의 왜곡을 보정하므로, 상대적으로 저가인 왜곡이 없는 이미지를 얻을 수 있는 적응 광학 시스템을 구현할 수 있는 효과가 있다.
또한 본 발명에 의하면, 보정부에서 피사체의 역동성을 고려하여 다양한 방식을 통해 이미지의 왜곡을 제거하거나 최소화함과 동시에, 이미지 자체의 품질을 향상시킬 수 있는 효과가 있다.
도 1은 본 발명의 일실시예에 의한 변형거울 없는 인공지능 적응광학 시스템의 개략도.
도 2는 본 발명의 일실시예에 의한 변형거울 없는 인공지능 적응광학 시스템에서 사용되는 제1이미지와 제2이미지의 개념도.
도 3은 본 발명의 일실시예에 의한 변형거울 없는 인공지능 적응광학 시스템의 보정부에서 피사체의 역동성이 높은 경우 최적이미지를 도출하는 일실시예의 개략도.
도 4는 본 발명의 일실시예에 의한 변형거울 없는 인공지능 적응광학 시스템의 보정부에서 제3이미지를 정렬하는 과정의 개략도.
도 5는 본 발명의 일실시예에 의한 변형거울 없는 인공지능 적응광학 시스템에서 피사체의 역동성이 높은 경우 최적이미지를 도출하는 다른 실시예의 개략도.
도 6은 보정부의 학습에 필요한 입력값과 출력값의 개략도.
이하 첨부된 도면을 참고하여 본 발명에 의한 변형거울 없는 인공지능 적응광학 시스템의 바람직한 실시예에 관하여 상세히 설명한다.
본 발명의 다양한 실시예에 의한 변형거울 없는 인공지능 적응광학 시스템은, 기본적으로 천체를 관측하는데 그 목적이 있지만, 사용하는 용도를 이에 한정하는 것은 아니며, 영상을 촬영하는 다양한 분야에서 사용 가능하다. 본 발명의 다양한 실시예에 의한 변형거울 없는 인공지능 적응광학 시스템이 사용되는 분야는 상술한 천체관측 외에도 국방분야, 안광항 및 기타분야에서도 사용될 수 있다.
도 1은 본 발명의 일실시예에 의한 변형거울 없는 인공지능 적응광학 시스템의 개략도이다.
도 1에 도시된 바와 같이, 본 발명의 일실시예에 의한 변형거울 없는 인공지능 적응광학 시스템은, 반사경(100), 빔 스플리터(200), 카메라(300), 광파면 센서(400) 및 보정부(500)를 포함할 수 있다.
도 1에 도시된 반사경(100)은 피사체(1)에서 입사되는 빛을 일측인 빔 스플리터(200)측으로 반사시킨다. 반사경(100)은 종래에 사용되던 반사면이 액티브하게 움직이는 상대적으로 고가의 반사경이 아닌, 반사면이 고정된 일반적인 반사경일 수 있다. 반사경(100) 자체는 빛이 입사되는 방향을 결정하므로, 본 발명은 반사경을 움직이거나 각도를 변경할 수 있는 이동부를 더 포함할 수 있으며, 사용자의 조작이나, 특정 조건하게 자동으로 반사경이 이동하거나 각도가 변경될 수 있다. 특히, 본 발명의 다양한 실시예에 의한 변형거울 없는 인공지능 적응광학 시스템을 천체를 관측하는데 사용할 때에는 반사경이 관측 대상인 천체를 트래킹하도록 미리 프로그래밍될 수 있다.
빔 스플리터(200)는 반사경(100)으로부터 입사되는 빛을 제1방향과 제2방향으로 분할한다. 여기서 제1방향은 반사경(100)에서 빔 스플리터(200)로 입사되는 방향과 동일하고, 제2방향은 제1방향과 수직한 방향일 수 있다. 단, 본 발명은 빔 스플리터(200)에서 분할하는 제1방향과 제2방향을 도 1에 도시된 바와 같이 서로 수직한 방향으로 한정하는 것은 아니며, 빔 스플리터(200)의 규격이나 설치되는 위치에 따라 다양한 방향의 제1방향과 제2방향이 있을 수 있다.
빔 스플리터(200)에서 분할된 빛은 분할되기 이전의 빛에 비해 세기가 서로 다를 수 있다. 제1방향과 제2방향 각각으로 분할된 빛을 제1분할광(10)과 제2분할광(20)이라고 할 때, 본 실시예에서 제1분할광(10)과 제2분할광(20) 각각의 세기는 분할되기 전의 빛에 비해 50%일 수 있으나, 본 발명은 제1분할광(10)과 제2분할광(20) 각각의 세기를 이에 한정하는 것은 아니며, 빔 스플리터(200)는 다양한 세기로 입사되는 빛을 분할할 수 있다.
카메라(300)는 빔 스플리터(200)의 제1방향에 위치하여, 빔 스플리터(200)로부터 분할된 제1분할광(10)이 입사된다. 카메라(300)는 입사된 빛을 제1주기로 촬영하여 제1이미지를 생성한다.
광파면 센서(400)는 빔 스플리터(200)의 제2방향에 위치하여, 빔 스플리터(200)에서 분할된 제2분할광(20)이 입사된다. 광파면 센서(400)는 다수개의 마이크로렌즈가 제2분할광(20)이 입사되는 면에 실장되어 있는 형태일 수 있다. 광파면 센서(400)는 카메라(300)가 촬영하는 주기인 제1주기보다 빠른 제2주기로 입사된 빛을 촬영하여, 제2분할광(20)의 광파면 정보를 포함하는 제2이미지를 생성한다. 상술한 제1주기와 제2주기는 카메라에서 설명하는 노출시간을 의미하는 것으로, 카메라(300)는 노출시간이 긴 경우이고, 광파면 센서(400)는 노출시간이 짧은 경우일 수 있다. 제1이미지는 상대적으로 왜곡이 심하되, 해상도가 높은 이미지일 수 있으며, 본 발명은 제1이미지를 보정하여 왜곡 없이 깨끗한 이미지를 출력하는 것을 목표로 한다. 도 1에 도시된 바와 같이, 본 실시예에서는 하나의 광파면 센서(400)만이 사용되지만, 본 발명은 광파면 센서(400)의 개수를 이에 한정하는 것은 아니며, 다수개의 광파면 센서(400)가 사용될 수 있다.
도 2는 상술한 제1이미지와 제2이미지를 설명하기 위한 개략도이다.
상술한 카메라(300)의 촬영 주기인 제1주기와 광파면 센서(400)의 촬영 주기인 제2주기는 다양한 비율로 조절될 수 있다. 본 실시예에서는 제1주기가 10일 때, 제2주기는 1일 수 있다. 보다 구체적으로, 제1주기는 1초이고, 제2주기는 0.1초일 수 있으며, 도 2에 도시된 바와 같이, 동일한 제1시점(1초)에 카메라(300)는 1개의 제1이미지(31)를 생성하고, 광파면 센서(400)는 10개의 제2이미지(31-1, 31-2,..., 31-10)를 생성한다.
보정부(500)는 상술한 10개의 제2이미지와 1개의 제1이미지를 이용해 보정된 10개의 제3이미지를 생성할 수 있다. 보정부(500)는 제2이미지에 포함되는 광파면 정보를 이용해 제1이미지를 보정할 수 있다. 제2이미지 자체 또한 서로 다른 시간대에 촬영된 이미지이기 때문에, 서로 다른 광파면 정보를 포함한다. 따라서 보정부(500)에서 생성된 제3이미지 또한 서로 다른 품질을 가질 수 있으며, 본 발명에서 보정부(500)는 몇몇 기준을 이용해 생성된 제3이미지들 중 최적의 이미지를 선택하여 출력할 수 있고, 이하 이에 관하여 설명한다.
보정부(500)에서 제3이미지들 중 하나를 선택할 때 첫 번째로 고려해야할 것은 피사체(1)의 역동성일 수 있다. 보다 구체적으로, 보정부(500)는 피사체(1)의 역동성이 기준치보다 높은 경우와 낮은 경우를 구분하여 10개의 제3이미지들 중 최적의 이미지를 선택하여 출력할 수 있다. 이때 역동성이 높은지 또는 낮은지에 대해서 사용자가 본 발명에 의한 변형거울 없는 인공지능 적응광학 시스템을 사용하기 이전에 피사체(1)의 종류에 따라 관측 이전에 수동으로 설정할 수 있고, 사용자가 별도로 설정하지 않을 경우, 시점의 경과에 따라 생성되는 제3이미지의 변화율(직전 이미지와 픽셀의 변화를 비교)을 기준치와 비교하여 역동성이 높고 낮은지를 판단할 수 있다. 피사체의 역동성을 판단하는 기준치 또한 사용자가 미리 설정하거나, 후술할 보정부(500)에 따라 자동으로 설정될 수 있다. 또한, 본 발명은 보정부(500)가 소정의 기준을 통해 피사체의 역동성을 판단하고, 사용자가 보정부(500)가 피사체의 역동성을 판단한 결과를 평가한 데이터 셋(data set)을 형성하며, 상기한 데이터 셋을 통해 보정부(500)를 지속적으로 기계학습(machine learning)시켜 보정부(500)의 판단을 보다 정확하게 할 수 있으며, 보정부(500)는 이러한 기계학습 과정에서 피사체의 역동성을 판단하는 기준치를 도출할 수 있다.
피사체의 역동성이 낮다면 보정부(500)는 10개의 제3이미지들 중 선명도(sharpness) 및 명도비(contrast) 중 적어도 하나가 가장 높은 이미지를 선택하여 출력할 수 있다. 이하 보정부(500)가 제3이미지들 중 선택하여 출력하는 이미지를 최적이미지라 하며, 최적이미지의 경우 왜곡이 최소화되거나 없는 이미지일 수 있다. 보정부(500)가 최적이미지를 선택하는 과정에서, 경우에 따라 10개의 제3이미지들 중 선명도와 명도비가 가장 높은 하나의 제3이미지가 있을 수 있지만, 하나의 제3이미지는 다른 제3이미지보다 선명도는 높은데 반해, 명도비는 낮은 경우가 있을 수 있다. 이러한 경우, 선명도 및 명도비 중 선택되는 하나를 우선 판단기준으로 설정하여 이미지를 선택하거나, 선명도와 명도비를 소정 기준으로 수치화하고, 이미지별 선명도와 명도비를 합산한 값을 서로 비교하여 하나의 이미지를 선택할 수 있다.
보정부(500)는 모든 시점에 걸쳐 모든 제3이미지들의 선명도와 명도비를 체크해 최적이미지를 선택하여 출력할 수 있지만, 상기한 방식은 모든 시점(예를 들어 1초 간격)에 걸쳐 모든 이미지들의 선명도와 명도비를 측정하여 최적이미지를 선택해야 하기 때문에, 보정부(500)자체의 연산량이 높아질 수 있다. 이러한 문제를 해결하기 위해, 본 실시예에서는 최초의 제1시점에서 10개의 제3이미지들 중 선명도와 명도비가 가장 높은 이미지를 선택하여 출력한 후, 제2시점에서는 해당 시점에서의 10개의 제3이미지들을 제1시점에서 선택된 제3이미지와 비교해, 가장 변화율이 적은 이미지를 선택하여, 제2시점에서의 이미지를 출력할 수 있다. 이때 변화율이란, 픽셀의 변화율을 의미하는 것일 수 있으며, 이러한 보정부(500)의 동작은 시점이 경과함에 따라 지속적으로 수행되어 제1시점 이후에도 다수개의 최적이미지를 도출할 수 있으며, 다수의 최적이미지를 이용해 영상 또한 생성할 수 있다.
상기한 방식으로 최적이미지를 선택하여 출력하는 방식은 피사체(1)가 역동성이 높은 경우 사용하기 어려울 수 있다. 특히, 역동성이 높은 경우 제3이미지는, 특정 영역의 선명도 또는 명도비는 높지만, 다른 영역의 선명도 또는 명도비가 낮은 등, 하나의 이미지가 균일한 품질을 가지지 않을 수 있어, 다른 방식으로 최적이미지를 도출해야 했다.
도 3은 피사체의 역동성이 높은 경우 보정부(500)가 최적이미지를 도출하는 하나의 개략적인 실시예를 도시한 것으로, 도 3에서는 피사체의 역동성이 높은 경우를 설명하기 위해, 피사체가 천체가 아닌 개와 함께 산책하는 사람이다.
도 3에 도시된 바와 같이, 보정부(500)는 총 10개의 제3이미지(33-1, 33-2,... 33-10) 각각을 소정 영역으로 분할한다. 본 실시예에서는 10개의 10개의 제3이미지(33-1, 33-2,... 33-10) 각각을 9개의 영역으로 분할하고, 분할된 영역들 중, 선명도 또는 명도비가 높은 영역을 선택하고, 선택된 영역들을 모두 모아 하나의 최적이미지(40)를 생성한다. 이러한 방식에서, 동일한 영역들 중 선명도 또는 명도비가 가장 높은 영역을 선택하여 최적이미지(40)를 생성하므로, 10개의 제3이미지(3-1, 33-2,... 33-10)들 중에서 영역이 사용되지 않는 제3이미지도 있을 수 있으며, 하나가 아닌, 두 개 이상의 영역이 사용되는 제3이미지가 있을 수 있다.
이러한 방식은, 10개의 제3이미지(33) 각각을 소정 영역으로 분할하기 이전에 제3이미지(33)가 모두 같은 위치를 촬영하도록 보정할 필요가 있다. 즉, 제3이미지(33)들 모두 중심점을 맞출 필요가 있다.
제3이미지(33)의 중심점을 맞추는 방법은, 도 4에 도시된 바와 같이, 피사체(1)의 특정 부분을 기준점으로 하여, 상기한 기준점이 제3이미지의 정중앙으로 오도록 제3이미지(33-1, 33-2, 33-3, 33-4)들을 가로 및 세로 방향으로 이동시키는 방식이 될 수 있다. 이때 기준점은 피사체(1)의 특징적인 부분이 될 수 있으며, 도 4에 도시된 산책중인 사람과 강아지를 촬영 후 보정된 네 개의 제3이미지(33-1, 33-2, 33-3, 33-4) 경우, 사람의 손을 기준으로 제3이미지(33-1, 33-2, 33-3, 33-4)들을 가로 또는 세로 방향으로 이동시킬 수 있다. 이때 선택되는 기준점은 보정부(500)가 특징으로 잡기 쉬운 부분을 임의 또는 소정 기준을 통해 선택할 수 있으며, 일예로, 보정부(500)는 중앙점에서 일정 범위 이내에 위치한 부분들 중, 선명도가 높은 부분을 기준점으로 선택하여, 제3이미지(33-1, 33-2, 33-3, 33-4)들을 중앙부분으로 쉬프트(shift)하여, 각각의 이미지들을 서로 정렬시킬 수 있다.
앞서 제3이미지를 영역으로 분할하고, 하나의 최적이미지를 생성하는 방식에서, 제3이미지를 분할한 영역은 인접한 영역끼리 분할선이 서로 맞닿았다. 그러나 이러한 방식은 모든 제3이미지의 중심점을 정렬하더라도, 일정 정도의 오차가 발생할 수 있으며, 따라서 선택되는 영역을 모두 모아 최적이미지를 생성하더라도, 일정 정도의 이미지 손실이 발생할 수 있다. 이를 방지하기 위해, 도 5에 도시된 바와 같이, 본 실시예에서 보정부(500)는 도 3에 도시된 바와 같이 딱 들어맞게 제3이미지를 다수개의 영역으로 분할하는 것이 아닌, 분할된 인접한 영역들 끼리 일정 정도가 겹쳐지도록 다수개의 영역으로 분할하고, 최적이미지를 생성할 때, 선택된 영역들을 서로 겹쳐지도록 보정하여 최적이미지를 생성할 수 있다.
또한, 앞서 도 3과 도 5를 통해 설명한 방식은 제3이미지를 격자형태의 영역으로 분할하였으나, 본 발명은 이에 한정하지 않고, 피사체의 형상 또는 특징에 따라 원형 또는 다각형 등으로 분할하는 방식 또한 있을 수 있다. 이 외에도, 보정부(500)는 제3이미지에 포함되는 피사체와 배경화면을 나눈 후, 피사체와 배경을 소정 영역으로 분할하고, 분할된 영역들 중 선명도 또는 명도비가 높은 부분만을 선택해 하나의 최적이미지로 만드는 방식 또한 있을 수 있다. 보정부(500)에서 피사체와 배경화면을 나눌 때에는 일반적인 영상처리기법에서 특정 객체와 배경을 분리하기 위해, 객체와 배경의 선명도를 증가시켜, 모서리(엣지, edge)를 강화하는 엣지 디텍팅(edge detecting)이 사용될 수 있다. 엣지 디텍팅은 이미지를 미분하거나, 엣지 또는 코너 검출 필터/마스크를 사용하는 방식으로 구현될 수 있다. 또한, 제3이미지에 포함되는 피사체의 특징을 추출하고, 각 특징의 위치정보를 중심으로 제3이미지를 소정 영역으로 분할하는 방식 또한 사용될 수 있다. 이 또한 보정부(500)가 제3이미지를 모서리를 검출하는 필터 또는 마스크를 사용하는 영상처리기법을 통해 구현될 수 있다.
상술한 제3이미지를 소정 영역으로 분할하고, 각각의 영역을 하나로 합쳐 최적이미지를 생성하는 방법 이외에도, 제3이미지들 중, 명도비가 높은 이미지들을 하나로 합쳐, 최적이미지를 생성하는 방법 또한 있을 수 있다. 이 경우, 총 10개의 제3이미지들 중, 명도비가 낮은 제3이미지는 제외하고, 나머지 제3이미지들을 하나로 합치는 방법이 사용될 수 있다. 제3이미지들을 서로 합쳐 최적이미지를 생성할 때, 도 4를 참조하여 설명한 기준점을 활용해 제3이미지들을 정렬한 후, 제3이미지들을 서로 합쳐 최적이미지를 생성할 수 있다. 또한, 제3이미지 전체를 합쳐 최적이미지를 생성할 수 도 있지만, 제3이미지를 소정 영역으로 나누고, 명도비가 높은 영역을 별도로 합쳐 최적이미지를 생성하는 실시예 또한 있을 수 있다.
상술한 바와 같은 변형거울 없는 인공지능 적응광학 시스템은 천체관측뿐 아니라 일상의 다양한 분양에서 사용될 수 있다. 또한, 본 명세서에서 역동성이 낮은 피사체로 천체를 예로 들어 설명했는데, 태양과 같은 일부 천체의 경우 일부분은 역동성이 높고,(태양의 표면에서 폭발이 발생할 경우) 다른 부분은 역동성이 낮을 수 있다. 따라서 본 발명의 보정부(500)는 피사체에 따라 일부분만 역동성이 높고 나머지 부분은 역동성이 낮을 경우, 상술한 방식들을 혼합하여 최적이미지를 생성 및 출력할 수 있다. 태양을 예로 설명하면, 보정부(500)가 제3이미지들을 태양의 중앙부분, 태양의 표면부분, 그 외의 부분으로 분할하고, 역동성이 낮은 태양의 중앙부분과 그 외의 부분의 경우, 선명도 또는 명암비가 가장 높은 부분을 선택하고, 역동성이 높은 태양의 표면 부분은 분할된 부분들을 서로 겹쳐 하나의 부분 이미지로 생성하거나, 태양의 표면 부분을 소정 영역으로 분할하여 조합하는 방식으로 부분 이미지로 생성하여, 역동성이 낮은 경우 선택된 부분과 조합하여 최적이미지를 도출하는 방식 또한 사용될 수 있다.
상술한 보정부(500)는 일종의 인공지능모델일 수 있으며, 소정의 데이터셋을 이용해 학습될 수 있다.
도 6은 보정부(500)의 학습에 필요한 입력값과 출력값을 개략적으로 도시한 것이다.
보정부(500)는 도 6에 도시된 인공지능 모델일 수 있으며, 기존의 일반적인 적응 광학 시스템에서 관측한 보정 전 이미지와 보정 후의 이미지 데이터 셋과, 광파면 센서(400)를 통해 얻은 광파면 정보(파면정보, 샥하트만 센서 영상, 제르니케 다항식 계수)를 입력 값을 사용하여 학습시킬 수 있으며, 이를 왜곡된 이미지의 보정에 사용할 수 있다. 모델 학습을 위한 이미지 데이터 셋은 실험실 환경과 실제 관측 환경에 대해 모두 필요하며, 관측 수행시 보정 전후의 이미지를 실시간으로 보정부(500)에 입력하여 보정부(500)의 성능을 높이는데 사용할 수 있으며, 이를 통해 본 발명은 광파면의 왜곡 정도를 계산하거나 변형거울을 조작하는 등의 복잡한 과정을 거치지 않아 기존 시스템에 비해 속도가 빠르고 단순한 시스템을 구성할 수 있다.
본 발명은 상기한 실시예에 한정되지 아니하며, 적용범위가 다양함은 물론이고, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 다양한 변형 실시가 가능한 것은 물론이다.
1 : 피사체
10 : 제1분할광
20 : 제2분할광
31 : 제1이미지
32-1, 32-2, ... , 32-10 : 제2이미지
33-1, 33-2, ... , 33-10 : 제3이미지
40 : 최적이미지
100 : 반사경
200 : 빔 스플리터
300 : 카메라
400 : 광파면 센서
500 : 보정부

Claims (10)

  1. 입사되는 빛을 일측으로 반사하는 반사경;
    상기 반사경으로부터 입사되는 빛을 제1방향과 제2방향으로 분할하는 빔 스플리터;
    상기 빔 스플리터의 상기 제1방향에 위치하여 상기 빔 스플리터에서 분할된 빛이 입사되고, 입사된 빛을 제1주기로 촬영하여 제1시점에서 1개의 제1이미지를 생성하는 카메라;
    상기 빔 스플리터의 상기 제2방향에 위치하여 상기 빔 스플리터에서 분할된 빛이 입사되고, 입사된 빛의 파면을 검출하며, 입사된 빛을 상기 제1주기보다 빠른 제2주기로 촬영하여 상기 제1시점에서 각기 서로 다른 광파면 정보를 포함하는 n개의 제2이미지를 생성하는 적어도 하나 이상의 광파면 센서; 및
    상기 제1이미지와 상기 제2이미지의 광파면 정보를 이용해 보정된 n개의 제3이미지를 생성하고, n개의 상기 제3이미지를 이용해 상기 제1시점에서의 최적이미지를 출력하는 보정부;
    를 포함하고,
    상기 보정부는,
    소정의 기준으로 이미지의 피사체의 역동성이 높고 낮음을 판단하고,
    이미지의 피사체의 역동성이 낮을 경우, n개의 상기 제3이미지들 중, 선명도 및 명도비 중 선택되는 적어도 하나 이상이 가장 높은 이미지를 상기 최적이미지로 출력하며,
    상기 보정부는,
    상기 제1시점 다음의 제2시점에서 생성된 n개의 제3이미지들과 상기 제1시점에서 출력된 상기 최적이미지들의 변화율을 비교하여, 변화율이 가장 낮은 제3이미지를 선택하여 상기 제2시점의 최적이미지로 출력하는 것을 특징으로 하는 변형거울 없는 인공지능 적응광학 시스템.
  2. 삭제
  3. 삭제
  4. 제1항에 있어서,
    상기 보정부는,
    소정의 기준으로 이미지의 피사체의 역동성이 높고 낮음을 판단하고,
    이미지의 피사체의 역동성이 높을 경우, n개의 상기 제3이미지들 각각을 소정 영역으로 분할하고, 분할된 영역들 중, 선명도 또는 명도비가 높은 영역을 조합해 상기 최적이미지를 생성 후 출력하는 것을 특징으로 하는 변형거울 없는 인공지능 적응광학 시스템.
  5. 제4항에 있어서,
    상기 보정부는,
    n개의 상기 제3이미지들 각각을 소정 영역으로 분할하되, 단일의 상기 제3이미지에서 분할된 하나의 영역은, 인접한 다른 영역과 일정부분이 겹치도록 분할된 것을 특징으로 하는 변형거울 없는 인공지능 적응광학 시스템.
  6. 제4항에 있어서,
    상기 보정부는,
    n개의 상기 제3이미지들 각각을 소정 영역으로 분할하기 이전에, 상기 피사체의 특정 부분을 기준점으로 상기 기준점이 이미지의 동일한 부분에 위치하도록 n개의 상기 제3이미지들을 정렬하는 것을 특징으로 하는 변형거울 없는 인공지능 적응광학 시스템.
  7. 제4항에 있어서,
    상기 보정부는,
    n개의 상기 제3이미지들 각각을 상기 피사체와 배경화면으로 구분하고, 상기 피사체를 소정 영역으로 분할하고, 상기 배경화면을 소정 영역으로 분할하는 것을 특징으로 하는 변형거울 없는 인공지능 적응광학 시스템.
  8. 제1항에 있어서,
    상기 보정부는,
    n개의 상기 제3이미지들 중 명도비가 기준치 이상인 이미지들을 하나로 합쳐, 최적이미지를 생성 후 출력하는 것을 특징으로 하는 변형거울 없는 인공지능 적응광학 시스템.
  9. 제8항에 있어서,
    상기 보정부는,
    n개의 상기 제3이미지들을 하나로 합치기 이전에, 피사체의 특정 부분을 기준점으로 상기 기준점이 이미지의 동일한 부분에 위치하도록 n개의 상기 제3이미지들을 정렬하는 것을 특징으로 하는 변형거울 없는 인공지능 적응광학 시스템.
  10. 제8항에 있어서,
    상기 보정부는,
    n개의 상기 제3이미지들 각각을 소정 영역으로 분할하고, 분할된 영역들 중 명도비가 기준치 이상인 영역을 하나로 합쳐 상기 최적이미지를 생성 및 출력하는 것을 특징으로 하는 변형거울 없는 인공지능 적응광학 시스템.
KR1020200145923A 2020-11-04 2020-11-04 변형거울 없는 인공지능 적응광학 시스템 KR102347283B1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020200145923A KR102347283B1 (ko) 2020-11-04 2020-11-04 변형거울 없는 인공지능 적응광학 시스템
EP21889464.0A EP4243397A1 (en) 2020-11-04 2021-10-29 Adaptive optical system using artificial intelligence and not having deformable mirror
PCT/KR2021/015376 WO2022097999A1 (ko) 2020-11-04 2021-10-29 변형거울 없는 인공지능 적응광학 시스템
US18/251,723 US20240022828A1 (en) 2020-11-04 2021-10-29 Adaptive optical system using artificial intelligence and not having deformable mirror

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200145923A KR102347283B1 (ko) 2020-11-04 2020-11-04 변형거울 없는 인공지능 적응광학 시스템

Publications (1)

Publication Number Publication Date
KR102347283B1 true KR102347283B1 (ko) 2022-01-07

Family

ID=79355108

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200145923A KR102347283B1 (ko) 2020-11-04 2020-11-04 변형거울 없는 인공지능 적응광학 시스템

Country Status (4)

Country Link
US (1) US20240022828A1 (ko)
EP (1) EP4243397A1 (ko)
KR (1) KR102347283B1 (ko)
WO (1) WO2022097999A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002290822A (ja) * 2001-03-23 2002-10-04 Minolta Co Ltd 撮像装置及び画像再生システム
KR20060009308A (ko) * 2003-05-09 2006-01-31 쓰리엠 이노베이티브 프로퍼티즈 컴파니 파면 센서를 가진 스캐닝 레이저 현미경
KR20150026268A (ko) * 2013-09-02 2015-03-11 삼성전자주식회사 이미지 안정화 방법 그 전자 장치
JP2016054423A (ja) * 2014-09-04 2016-04-14 キヤノン株式会社 撮像装置、その制御方法およびプログラム
KR101726771B1 (ko) 2016-03-16 2017-04-13 국방과학연구소 스트렐 비율을 이용한 변형거울의 평활화 방법 및 장치

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014154982A (ja) * 2013-02-06 2014-08-25 Canon Inc 撮像装置およびその制御方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002290822A (ja) * 2001-03-23 2002-10-04 Minolta Co Ltd 撮像装置及び画像再生システム
KR20060009308A (ko) * 2003-05-09 2006-01-31 쓰리엠 이노베이티브 프로퍼티즈 컴파니 파면 센서를 가진 스캐닝 레이저 현미경
KR20150026268A (ko) * 2013-09-02 2015-03-11 삼성전자주식회사 이미지 안정화 방법 그 전자 장치
JP2016054423A (ja) * 2014-09-04 2016-04-14 キヤノン株式会社 撮像装置、その制御方法およびプログラム
KR101726771B1 (ko) 2016-03-16 2017-04-13 국방과학연구소 스트렐 비율을 이용한 변형거울의 평활화 방법 및 장치

Also Published As

Publication number Publication date
EP4243397A1 (en) 2023-09-13
WO2022097999A1 (ko) 2022-05-12
US20240022828A1 (en) 2024-01-18

Similar Documents

Publication Publication Date Title
RU2716843C1 (ru) Цифровая коррекция аберраций оптической системы
US11195257B2 (en) Image processing method, image processing apparatus, imaging apparatus, lens apparatus, storage medium, and image processing system
JP4440341B2 (ja) キャリブレーション方法、キャリブレーション装置及びその装置を備えるキャリブレーションシステム
US9749614B2 (en) Image capturing system obtaining scene depth information and focusing method thereof
US8908026B2 (en) Imaging method and microscope device
CN103003665B (zh) 立体测距装置
CN107113370A (zh) 图像捕获装置及图像捕获方法
CN102968761A (zh) 图像处理设备和图像处理方法
CN109883391B (zh) 基于微透镜阵列数字成像的单目测距方法
CN106878700B (zh) 广角镜头校正系统及其方法
JP6991957B2 (ja) 画像処理装置、撮像装置及び画像処理方法
CN107077722A (zh) 图像捕获装置及图像捕获方法
CN114860196A (zh) 一种望远镜主光路导星装置及导星偏移量的计算方法
US10264164B2 (en) System and method of correcting imaging errors for a telescope by referencing a field of view of the telescope
KR102347283B1 (ko) 변형거울 없는 인공지능 적응광학 시스템
WO2013124664A1 (en) A method and apparatus for imaging through a time-varying inhomogeneous medium
CN104754316B (zh) 一种3d成像方法、装置及成像系统
KR100764436B1 (ko) 오토포커싱을 위한 이미지의 컬러 채널별 선명도를비교하는 방법
JP2020030569A (ja) 画像処理方法、画像処理装置、撮像装置、レンズ装置、プログラム、および、記憶媒体
JP7373297B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP7009219B2 (ja) 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体
JP7254440B2 (ja) 画像処理装置、撮像装置、画像処理方法、および、プログラム
JP6448324B2 (ja) 画像処理装置、撮像装置、画像処理システム、画像処理方法、および画像処理プログラム
KR101482637B1 (ko) 다중대역 비열화보상 광학시스템의 온도변화에 따른 시계편차 보정 방법
CN112866550B (zh) 相位差获取方法和装置、电子设备、计算机可读存储介质

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant