KR20200096027A - 딥러닝을 이용한 디포커스 제거 장치 및 그것의 동작 방법 - Google Patents
딥러닝을 이용한 디포커스 제거 장치 및 그것의 동작 방법 Download PDFInfo
- Publication number
- KR20200096027A KR20200096027A KR1020190042869A KR20190042869A KR20200096027A KR 20200096027 A KR20200096027 A KR 20200096027A KR 1020190042869 A KR1020190042869 A KR 1020190042869A KR 20190042869 A KR20190042869 A KR 20190042869A KR 20200096027 A KR20200096027 A KR 20200096027A
- Authority
- KR
- South Korea
- Prior art keywords
- defocus
- image
- removal
- defocused
- model
- Prior art date
Links
- 238000013135 deep learning Methods 0.000 title claims abstract description 27
- 238000011017 operating method Methods 0.000 title 1
- 238000000034 method Methods 0.000 claims abstract description 41
- 238000013527 convolutional neural network Methods 0.000 claims description 14
- 230000004913 activation Effects 0.000 claims description 3
- 238000010606 normalization Methods 0.000 claims description 3
- 238000010586 diagram Methods 0.000 description 17
- 238000012545 processing Methods 0.000 description 11
- 230000008569 process Effects 0.000 description 6
- 238000013528 artificial neural network Methods 0.000 description 4
- 238000012549 training Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000001093 holography Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- G06T5/003—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
본 발명에 따른 디포커스 제거 장치의 동작 방법은, 디포커스 영상 및 상기 디포커스 영상에 대응하는 디포커스 제거 영상을 수집하는 단계, 상기 수집된 디포커스 영상 및 상기 디포커스 제거 영상에 대한 딥러닝을 통하여 디포커스 제거 모델을 생성하는 단계, 및 상기 디포커스 제거 모델을 이용하여 객체에 대한 영상에 대한 디포커스를 제거하는 단계를 포함할 수 있다.
Description
본 발명은 딥러닝을 이용한 디포커스 제거 장치 및 그것의 동작 방법에 관한 것이다.
일반적으로, 사용자가 사진을 촬영할 때, 사용자가 원하는 물체에 초점을 맞추어 초점이 맞는 부분을 선명하게 나오도록 촬영한다. 이때, 초점을 맞춘 부분은 선명하게 나타나지만, 그 외의 부분은 초점이 맞지 않아서 흐릿하게 나타난다. 하지만, 상황에 따라서 하나의 물체가 아닌 여러 개의 물체에 동시에 초점을 맞추어 선명한 영상을 획득하고 싶을 경우도 있고, 영상자체를 전반적으로 선명하게 나타나기를 원하는 경우도 있다. 일반적으로 이렇게 초점이 맞지 않아 흐릿한 디포커스를 제거하기 위하여 영상을 분석하여 디포커스 영역과 디포커스 필터를 추정하고, 이를 통하여 디포커스 영역과 디포커스 필터를 이용하여 선명한 영상을 추정하고 있다.
본 발명의 목적은 사진촬영시 초점이 맞지 않은 피사체나 배경 등에 디포커스로 인하여 흐릿하게 나타나는 경우 이러한 디포커스를 제거하고, 초점이 잘 맞은 선명한 영역은 기존 선명한 영상을 그대로 출력하여 최종적으로 디포커스를 제거한 전반적으로 선명한 영상을 생성하는 디포커스 제거 장치 및 그것의 동작 방법을 제공하는데 있다.
본 발명의 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 아래의 기재들로부터 당업자에게 명확하게 이해될 수 있을 것이다
본 발명의 실시 예에 따른 디포커스 제거 장치의 동작 방법은, 디포커스 영상 및 상기 디포커스 영상에 대응하는 디포커스 제거 영상을 수집하는 단계; 상기 수집된 디포커스 영상 및 상기 디포커스 제거 영상에 대한 딥러닝을 통하여 디포커스 제거 모델을 생성하는 단계; 및 상기 디포커스 제거 모델을 이용하여 객체에 대한 영상에 대한 디포커스를 제거하는 단계를 포함할 수 있다.
실시 예에 있어서, 상기 수집된 디포커스 영상 및 상기 디포커스 제거 영상을 데이터베이스에 저장하는 단계를 더 포함할 수 있다.
실시 예에 있어서, 상기 디포커스 영상 및 상기 디포커스 제거 영상을 수집하는 단계는, 서로 다른 초점들에 따른 복수의 영상들로부터 상기 디포커스 영상을 획득하는 단계; 및 상기 서로 다른 초점들에 따른 상기 복수의 영상들을 이용하여 상기 디포커스 제거 영상을 획득하는 단계를 포함할 수 있다.
실시 예에 있어서, 상기 서로 다른 초점들에 따른 복수의 영상들은 복수의 카메라들 혹은 다초점 카메라를 통하여 획득되는 것을 특징으로 한다.
실시 예에 있어서, 상기 디포커스 영상 및 상기 디포커스 제거 영상을 수집하는 단계는, 모든 영역에 초점이 잘 맞는 디포커스 제거 영상과 특정 위치 혹은 깊이에서 초점이 잘 맞는 디포커스 영상을 촬영함으로써 데이터베이스를 구성하는 단계를 더 포함하는 것을 특징으로 한다.
실시 예에 있어서, 상기 딥러닝은 합성곱 신경망(Convolutional Neural Network, CNN)을 포함하는 것을 특징으로 한다.
실시 예에 있어서, 상기 디포커스를 제거하는 단계는, 상기 디포커스 제거 모델을 이용하여 상기 객체에 대한 영상에서 디포커스 영역을 검출하는 단계를 포함하는 더 포함할 수 있다.
실시 예에 있어서, 상기 디포커스를 제거하는 단계는, 상기 디포커스 제거 모델을 이용하여 상기 검출된 디포커스 영역에 대해서 디포커스 제거를 수행하는 단계를 더 포함할 수 있다.
실시 예에 있어서, 상기 객체에 대한 영상에서 디포커스를 제거한 후에, 상기 디포커스 제거 모델의 가중치를 업데이트 하는 단계를 더 포함할 수 있다.
본 발명의 실시 예에 따른 디포커스 제거 장치는, 적어도 하나의 프로세서 및 적어도 하나의 프로세서에 의해 실행되는 적어도 하나의 인스트럭션을 저장하는 메모리를 포함하고, 상기 적어도 하나의 인스트럭션은, 적어도 하나의 프로세서 및 적어도 하나의 프로세서에 의해 실행되는 적어도 하나의 인스트럭션을 저장하는 메모리를 포함하고, 상기 적어도 하나의 인스트럭션은, 데이터베이스로부터 디포커스 영상 및 상기 디포커스 영상에 대응하는 디포커스 제거 영상으로 구성된 영상 세트에 대한 딥러닝을 통하여 디포커스 제거 모델을 생성하고; 및 상기 디포커스 제거 모델을 이용하여 객체에 대한 영상에서 디포커스를 제거하도록 적어도 하나의 프로세서에서 실행되는 것을 특징으로 한다.
실시 예에 있어서, 카메라를 통하여 상기 객체에 대한 영상이 획득되는 것을 특징으로 한다.
실시 예에 있어서, 상기 디포커스 제거 모델을 이용하여 상기 객체에 대한 영상에서 디포커스 영역이 검출되는 것을 특징으로 한다.
실시 예에 있어서, 상기 디포커스 제거 모델을 이용하여 상기 검출된 디포커스 영역에 대한 디포커스가 제거되는 것을 특징으로 한다.
실시 예에 있어서, 상기 디포커스 제거 모델을 통해 출력된 영상과 상기 디포커스 제거 영상 사이의 차이가 최소화 되도록 상기 디포커스 제거 모델의 가중치가 업데이트 되는 것을 특징으로 한다.
본 발명의 실시 예에 따른 전자 장치는, 객체를 촬영하는 카메라; 디포커스 영상 및 상기 디포커스 영상에 대응하는 디포커스 제거 영상으로 구성된 영상 세트를 저장하는 데이터베이스; 및 상기 데이터베이스로부터 상기 영상 세트를 읽어오고, 상기 읽혀진 영상 세트에 대한 딥러닝을 통하여 디포커스 제거 모델을 생성하고, 상기 디포커스 제거 모델을 이용하여 상기 객체에 대한 영상의 디포커스를 제거하는 디포커스 제거 장치를 포함할 수 있다.
실시 예에 있어서, 상기 딥러닝은 합성곱 레이어, 배치 정규화 레이어, 및 활성화 레이어를 조합함으로써 구현되는 것을 특징으로 한다.
실시 예에 있어서, 상기 디포커스 제거 모델을 이용하여 상기 객체에 대한 영상에 대한 디포커스 영역이 자동으로 검출되고, 상기 검출된 디포커스 영역의 디포커스가 제거되는 것을 특징으로 한다.
본 발명의 실시 예에 따른 디포커스 제거 장치 및 그것의 동작 방법은, 딥러닝을 이용하여 어느 영역이 디포커스 영역인지 파악하고, 그 영역에 적절하게 디포커스 제거를 수행하여 최종적으로 영상의 모든 영역에서 선명한 영상을 획득할 수 있다.
이하에 첨부되는 도면들은 본 실시 예에 관한 이해를 돕기 위한 것으로, 상세한 설명과 함께 실시 예들을 제공한다. 다만, 본 실시예의 기술적 특징이 특정 도면에 한정되는 것은 아니며, 각 도면에서 개시하는 특징들은 서로 조합되어 새로운 실시 예로 구성될 수 있다.
도 1은 본 발명의 실시 예에 따른 디포커스 제거 장치(100)를 예시적으로 보여주는 도면이다.
도 2는 본 발명의 실시 예에 따른 디포커스 제거 모델 학습부(110)의 동작을 예시적으로 보여주는 도면이다.
도 3는 본 발명의 실시 예에 따른 디포커스 영상과 디포커스 제거 영상에 대한 영상 세트를 얻는 과정을 예시적으로 보여주는 도면이다.
도 4는 본 발명의 실시 예에 따른 디포커스 제거 실행부(120)의 동작을 예시적으로 보여주는 도면이다.
도 5는 학습과정에서 사용한 기존에 공개되어있는 데이터베이스에서 획득한 디포커스 영상을 예시적으로 보여주는 도면이다.
도 6은 동일한 데이터베이스에서 획득한 디포커스가 없는 선명한 영상을 예시적으로 보여주는 도면이다.
도 7은 도 5의 디포커스 영상과 도 6의 선명한 영상들을 이용하여 디포커스 제거 모델을 학습하고, 이렇게 학습된 모델에 도 5의 디포커스 영상을 입력으로 적용한 결과를 예시적으로 보여주는 도면이다.
도 8은 본 발명의 실시 예에 따른 디포커스 제거 장치(100)의 동작 방법을 예시적으로 보여주는 도면이다.
도 9는 본 발명의 실시 예에 따른 디포커스 제거 장치(1000)를 예시적으로 보여주는 도면이다.
도 1은 본 발명의 실시 예에 따른 디포커스 제거 장치(100)를 예시적으로 보여주는 도면이다.
도 2는 본 발명의 실시 예에 따른 디포커스 제거 모델 학습부(110)의 동작을 예시적으로 보여주는 도면이다.
도 3는 본 발명의 실시 예에 따른 디포커스 영상과 디포커스 제거 영상에 대한 영상 세트를 얻는 과정을 예시적으로 보여주는 도면이다.
도 4는 본 발명의 실시 예에 따른 디포커스 제거 실행부(120)의 동작을 예시적으로 보여주는 도면이다.
도 5는 학습과정에서 사용한 기존에 공개되어있는 데이터베이스에서 획득한 디포커스 영상을 예시적으로 보여주는 도면이다.
도 6은 동일한 데이터베이스에서 획득한 디포커스가 없는 선명한 영상을 예시적으로 보여주는 도면이다.
도 7은 도 5의 디포커스 영상과 도 6의 선명한 영상들을 이용하여 디포커스 제거 모델을 학습하고, 이렇게 학습된 모델에 도 5의 디포커스 영상을 입력으로 적용한 결과를 예시적으로 보여주는 도면이다.
도 8은 본 발명의 실시 예에 따른 디포커스 제거 장치(100)의 동작 방법을 예시적으로 보여주는 도면이다.
도 9는 본 발명의 실시 예에 따른 디포커스 제거 장치(1000)를 예시적으로 보여주는 도면이다.
아래에서는 도면들을 이용하여 본 발명의 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있을 정도로 본 발명의 내용을 명확하고 상세하게 기재할 것이다.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 형태를 가질 수 있는바, 특정 실시 예들을 도면에 예시하고 본문에 상세하게 설명하고자 한다. 그러나 이는 본 발명을 특정한 개시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 제 1, 제 2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로 사용될 수 있다. 예를 들어, 본 발명의 권리 범위로부터 이탈되지 않은 채 제 1 구성요소는 제 2 구성요소로 명명될 수 있고, 유사하게 제 2 구성요소도 제 1 구성요소로 명명될 수 있다. 어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 혹은 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
본 출원에서 사용한 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 혹은 "가지다" 등의 용어는 실시된 특징, 숫자, 단계, 동작, 구성요소, 부분품 혹은 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 혹은 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부분품 혹은 이들을 조합한 것들의 존재 혹은 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다. 다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미이다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미인 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
도 1은 본 발명의 실시 예에 따른 디포커스 제거 장치(100)를 예시적으로 보여주는 도면이다. 도 1을 참조하면, 디포커스 제거 장치(100)는 디포커스 제거 모델 학습부(110) 및 디포커스 제거 실행부(120)를 포함할 수 있다.
모델 학습부(110)는 학습을 통하여 디포커스 제거 모델을 생성하도록 구현될 수 있다. 실시 예에 있어서, 모델 학습부(110)는 디포커스가 포함된 영상과 디포커스가 제거된 영상을 입력 받아 다양한 방식으로 학습을 진행할 수 있다. 예를 들어, 학습은 딥러닝(deep learning)을 포함할 수 있다. 딥러닝은 합성곱 신경망(Convolutional Neural Networks, CNN), 리커런트 뉴럴 네트워크(Recurrent Neural Networks, RNN), Deep Belief Networks, Restricted Boltzman Machines 등에 해당될 수 있다. 아래에서는, 딥러닝이 합성곱 신경망(CNN)으로 설명되지만, 본 발명에 여기에 제한되지 않는다고 이해되어야 할 것이다.
디포커스 제거 실행부(120)는 디포커스 제거 모델을 이용하여 영상의 디포커스를 제거하도록 구현될 수 있다.
한편, 도 1에 도시된 디포커스 제거 모델 학습부(110) 및 디포커스 제거 실행부(120)는 하드웨어/소프트웨어/펌웨어적으로 구현될 수 있다.
본 발명의 실시 예에 따른 디포커스 제거 장치(100)는 디포커스 제거 모델을 이용하여 움직임으로 인한 디포커스 영상에서 디포커스한 영역을 제거하고, 선명한 영상을 출력할 수 있다.
종래의 디포커스 제거 장치는 디포커스의 형태를 미리 예측한 뒤, 반복적으로 선명한 영상에 디포커스 필터링을 적용하여 디포커스 영상과의 차이를 줄이는 방향으로 선명한 영상을 업데이트한다. 반면에, 본 발명의 실시 예에 따른 디포커스 제거 장치(100)는 딥러닝을 이용하여 어느 영역이 디포커스 영역인지 파악하고, 그 영역에 적절하게 디포커스 제거를 수행하여 최종적으로 영상의 모든 영역에서 선명한 영상을 획득할 수 있다.
도 2는 본 발명의 실시 예에 따른 디포커스 제거 모델 학습부(110)의 동작을 예시적으로 보여주는 도면이다. 도 2를 참조하면, 디포커스 제거 모델 학습부(110)는 우선 디포커스 영상과 이에 대응하는 디포커스가 없는 영상 세트를 수신할 수 있다. 이미 존재하고 있는 데이터베이스에서 디포커스 영상과 선명한 영상으로 구성된 영상 세트가 디포커스 제거 모델을 생성하는데 사용될 수 있다. 이러한 영상 세트를 갖는 데이터베이스는 모든 영역에 초점이 잘 맞는 영상과 특정위치 혹은 깊이에서 초점이 잘 맞는 영상을 촬영함으로서 구현될 수 있다.
실시 예에 있어서, 디포커스 제거 모델은 딥러닝 기반의 합성곱 신경망 모델을 사용하여 생성될 수 있다. 여기서 합성곱 신경망 모델은 크게 합성곱 레이어, 배치 정규화 레이어, 활성화 레이어로 구성될 수 있다. 실시 예에 있어서, 디포커스 제거를 위하여 이러한 세가지 레이어들이 다양하게 조합하여 모델 학습에 사용될 수 있다. 최종적으로 디포커스 제거 모델을 통해 출력된 영상과 디포커스가 없는 선명한 영상간의 차이를 최소화 하는 방향으로 모델의 가중치가 갱신될 수 있다.
한편, 디포커스 영상과 디포커스 제거 영상에 대한 영상 세트는 다양한 방식에 의해 얻어질 수 있다.
도 3는 본 발명의 실시 예에 따른 디포커스 영상과 디포커스 제거 영상에 대한 영상 세트를 얻는 과정을 예시적으로 보여주는 도면이다. 도 3을 참조하면, 다중 포커스의 복수의 영상들로부터 영상 세트가 얻어질 수 있다. 예를 들어, 객체에 대하여 다중 포커스 영상들 중에서 다중 포커스 영상의 조합으로 하나의포커스 영상이 생성되고, 다중 포커스 영상들은 디포커스 영상일 수 있다.
도 4는 본 발명의 실시 예에 따른 디포커스 제거 실행부(120)의 동작을 예시적으로 보여주는 도면이다. 도 4를 참조하면, 디포커스 제거 실행부(120)는 사용자가 카메라로 움직이는 객체를 촬영하면, 초점이 맞이 않아 흐릿한 영역이 있는 영상이 출력되고, 이렇게 출력된 영상을 디포커스 제거 모델 학습부(110)에서 미리 학습된 디포커스 제거 모델의 입력으로 하면, 최종적으로 디포커스가 제거된 선명한 영상을 출력할 수 있다.
도 5는 학습과정에서 사용한 기존에 공개되어있는 데이터베이스에서 획득한 디포커스 영상을 예시적으로 보여주는 도면이다. 네모 박스를 확대하여 영상의 오른쪽 끝에 도시된다.
도 6은 동일한 데이터베이스에서 획득한 디포커스가 없는 선명한 영상을 예시적으로 보여주는 도면이다.
도 7은 도 5의 디포커스 영상과 도 6의 선명한 디포커스 제거 영상을 이용하여 디포커스 제거 모델을 학습하고, 이렇게 학습된 모델에 도 5의 디포커스 영상을 입력으로 적용한 결과를 예시적으로 보여주는 도면이다. 도 7의 영상은 도 5의 디포커스가 거의 제거되어 도 6의 선명한 영상과 유사하다.
본 발명의 실시 예에 따른 딥러닝을 이용한 움직임에 따른 디포커스 제거 방법 및 장치는 딥러닝의 합성곱 신경망 기반 움직임에 따른 디포커스 영역 자동검출 및 디포커스 제거 모델을 생성할 수 있다.
도 8은 본 발명의 실시 예에 따른 디포커스 제거 장치(100)의 동작 방법을 예시적으로 보여주는 도면이다. 도 1 내지 도 8을 참조하면, 영상 디포커스 제거 장치(100)는 다음과 같이 동작할 수 있다.
학습을 위하여 디포커스 영상 및 디포커스 제거 영상의 영상 세트가 수집될 수 있다(S110). 도 3에서 설명된 바와 같이 영상 세트가 획득되고 데이터베이스에 저장될 수 있다. 모델 학습부(110, 도 1 참조)는 데이터베이스로부터 디포커스 영상과 디포커스 제거 영상을 수신하고, 딥러닝(예를 들어, 합성곱 신경망)을 통하여 디포커스 제거 모델을 발생할 수 있다(S120). 디포커스 제거 실행부(120, 도 1 참조)는 디포커스 제거 모델을 이용하여 카메라로부터 획득된 영상의 디포커스를 제거할 수 있다(S130).
실시 예에 있어서, 수집된 디포커스 영상 및 디포커스 제거 영상은 데이터베이스에 저장될 수 있다. 실시 예에 있어서, 서로 다른 초점들에 따른 복수의 영상들로부터 디포커스 영상이 획득되고; 및 서로 다른 초점들에 따른 복수의 영상들을 이용하여 디포커스 제거 영상이 획득될 수 있다.
실시 예에 있어서, 서로 다른 초점들에 따른 복수의 영상들은 복수의 카메라들 혹은 다초점 카메라를 통하여 획득될 수 있다. 실시 예에 있어서, 모든 영역에 초점이 잘 맞는 디포커스 제거 영상과 특정 위치 혹은 깊이에서 초점이 잘 맞는 디포커스 영상을 촬영함으로써 데이터베이스가 구성될 수 있다.
실시 예에 있어서, 딥러닝은 합성곱 신경망(Convolutional Neural Network, CNN)을 포함할 수 있다. 실시 예에 있어서, 디포커스 제거 모델을 이용하여 객체에 대한 영상에서 디포커스 영역이 검출되고, 디포커스 제거 모델을 이용하여 검출된 디포커스 영역에 대해서 디포커스 제거가 수행될 수 있다.
실시 예에 있어서, 객체에 대한 영상에서 디포커스를 제거한 후에, 디포커스 제거 모델의 가중치가 업데이트될 수 있다.
도 9는 본 발명의 실시 예에 따른 디포커스 제거 장치(1000)를 예시적으로 보여주는 도면이다. 도 9를 참조하면, 디포커스 제거 장치(1000)는 적어도 하나의 프로세서(1100), 네트워크 인터페이스(1200), 메모리(1300), 디스플레이(1400), 및 입출력 장치(1500)를 포함할 수 있다.
프로세서(1100)는 도 1 내지 도 8을 통하여 적어도 하나의 장치를 포함하거나, 도 1 내지 도 8을 통하여 전술한 적어도 하나의 방법으로 구현될 수 있다. 프로세서(1100)는, 상술된 바와 같이, 디포커스 영상 및 디포커스 제거 영상의 영상 세트를 수집하고, 학습을 통하여 디포커스 제거 모델을 생성하고, 디포커스 제거 모델을 이용하여 객체에 대한 영상의 디포커스를 제거하도록 인스트럭션들(instructions)을 실행할 수 있다.
또한, 프로세서(1110)는 메모리(1300)로부터 뉴럴 네트워크 데이터, 예를 들어 이미지 데이터, 피처맵 데이터, 커널 데이터 등을 읽기/쓰고(read/write), 읽고/쓰기된 데이터를 이용하여 뉴럴 네트워크를 실행할 수 있다. 뉴럴 네트워크가 실행될 때, 프로세서(1100)는 출력 피처맵에 관한 데이터를 생성하기 위하여, 입력 피처맵과 커널 간의 컨볼루션 연산을 반복적으로 수행할 수 있다. 이때, 입력 피처맵의 채널 수, 커널의 채널 수, 입력 피처맵의 크기, 커널의 크기, 값의 정밀도(precision) 등의 다양한 팩터들에 의존하여 컨볼루션 연산의 연산량이 결정될 수 있다.
또한, 프로세서(1100)는 프로그램을 실행하고, 디포커스 제거 장치(1000)를 제어할 수 있다. 디포커스 제거 장치(1000)는 입출력 장치(1500)를 통하여 외부 장치(예를 들어, 퍼스널 컴퓨터 혹은 네트워크)에 연결되고, 데이터를 교환할 수 있다. 디포커스 제거 장치(1000)는 이동 전화, 스마트 폰, PDA, 태블릿 컴퓨터, 랩톱 컴퓨터 등 모바일 장치, 퍼스널 컴퓨터, 태블릿 컴퓨터, 넷북 등 컴퓨팅 장치, 혹은 텔레비전, 스마트 텔레비전, 게이트 제어를 위한 보안 장치 등 전자 제품 등 다양한 전자 장치에 포함될 수 있다.
네트워크 인터페이스(1200)는 외부의 네트워크와 다양한 유/무선 방식에 의해 통신을 수행하도록 구현될 수 있다.
메모리(1300)는 컴퓨터에서 읽을 수 있는 명령어(instruction)를 포함할 수 있다. 프로세서(1100)는 메모리(1300)에 저장된 명령어가 프로세서(1100)에서 실행됨에 따라 앞서 언급된 동작들을 수행할 수 있다. 메모리(1300)는 휘발성 메모리 혹은 비휘발성 메모리일 수 있다. 메모리(1300)는 사용자의 데이터를 저장하도록 저장 장치를 포함할 수 있다. 저장 장치는 eMMC(embedded multimedia card), SSD(solid state drive), UFS(universal flash storage) 등 일 수 있다. 저장 장치는 적어도 하나의 비휘발성 메모리 장치를 포함할 수 있다. 비휘발성 메모리 장치는, 낸드 플래시 메모리(NAND Flash Memory), 수직형 낸드 플래시 메모리(Vertical NAND; VNAND), 노아 플래시 메모리(NOR Flash Memory), 저항성 램(Resistive Random Access Memory: RRAM), 상변화 메모리(Phase-Change Memory: PRAM), 자기저항 메모리(Magnetoresistive Random Access Memory: MRAM), 강유전체 메모리(Ferroelectric Random Access Memory: FRAM), 스핀주입 자화반전 메모리(Spin Transfer Torque Random Access Memory: STT-RAM) 등이 될 수 있다.
이상에서 설명된 실시 예들은 하드웨어 구성요소, 소프트웨어 구성요소, 및/혹은 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치, 방법 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(Arithmetic Logic Unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(Field Programmable Gate Array), PLU(Programmable Logic Unit), 마이크로프로세서, 혹은 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 혹은 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(Operating System; OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다.
또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 대응하는 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소 (processing element) 및/혹은 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수의 프로세서 혹은 하나의 프로세서 및 하나의 제어기(controller)를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 혹은 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 혹은 결합적으로 (collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/혹은 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 혹은 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 혹은 장치, 혹은 전송되는 신호파(signal wave)에 영구적으로, 혹은 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
본 발명의 실시 예에 따른 디포커스 제거 장치(1000)는, 적어도 하나의 프로세서(1100) 및 적어도 하나의 프로세서(1100)에 의해 실행되는 적어도 하나의 인스트럭션을 저장하는 메모리(1300)를 포함하고, 적어도 하나의 인스트럭션은, 데이터베이스로부터 디포커스 영상 및 디포커스 영상에 대응하는 디포커스 제거 영상으로 구성된 영상 세트에 대한 딥러닝을 통하여 디포커스 제거 모델을 생성하고 및 디포커스 제거 모델을 이용하여 객체에 대한 영상에서 디포커스를 제거하도록 적어도 하나의 프로세서(1100)에서 실행될 수 있다.
실시 예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 혹은 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시 예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체 (magneto-optical media), 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
본 발명의 실시 예에 따른 딥러닝을 이용한 디포커스 제거 장치는, 사용자가 카메라로 촬영하면, 디포커스가 존재하는 영상이 출력하는 디포커스 제거 실행부; 및 미리 학습된 디포커스 제거 모델의 입력으로 하면, 최종적으로 디포커스가 제거된 선명한 영상을 출력하는 디포커스 제거 모델 학습부를 포함하고, 상기 디포커스 제거 모델 학습부는 우선 디포커스 영상과 이에 대응하는 디포커스가 없는 영상 세트를 포함할 수 있다.
한편, 상술 된 본 발명의 내용은 발명을 실시하기 위한 구체적인 실시 예들에 불과하다. 본 발명은 구체적이고 실제로 이용할 수 있는 수단 자체뿐 아니라, 장차 기술로 활용할 수 있는 추상적이고 개념적인 아이디어인 기술적 사상을 포함할 것이다.
100, 1000: 디포커스 제거 장치
110: 디포커스 제거 모델 학습부
120: 디포커스 제거 실행부
110: 디포커스 제거 모델 학습부
120: 디포커스 제거 실행부
Claims (17)
- 디포커스 제거 장치의 동작 방법에 있어서,
디포커스 영상 및 상기 디포커스 영상에 대응하는 디포커스 제거 영상을 수집하는 단계;
상기 수집된 디포커스 영상 및 상기 디포커스 제거 영상에 대한 딥러닝을 통하여 디포커스 제거 모델을 생성하는 단계; 및
상기 디포커스 제거 모델을 이용하여 객체에 대한 영상에 대한 디포커스를 제거하는 단계를 포함하는 방법. - 제 1 항에 있어서,
상기 수집된 디포커스 영상 및 상기 디포커스 제거 영상을 데이터베이스에 저장하는 단계를 더 포함하는 방법. - 제 1 항에 있어서,
상기 디포커스 영상 및 상기 디포커스 제거 영상을 수집하는 단계는,
서로 다른 초점들에 따른 복수의 영상들로부터 상기 디포커스 영상을 획득하는 단계; 및
상기 서로 다른 초점들에 따른 상기 복수의 영상들을 이용하여 상기 디포커스 제거 영상을 획득하는 단계를 포함하는 방법. - 제 3 항에 있어서,
상기 서로 다른 초점들에 따른 복수의 영상들은 복수의 카메라들 혹은 다초점 카메라를 통하여 획득되는 것을 특징으로 하는 방법. - 제 1 항에 있어서,
상기 디포커스 영상 및 상기 디포커스 제거 영상을 수집하는 단계는,
모든 영역에 초점이 잘 맞는 디포커스 제거 영상과 특정 위치 혹은 깊이에서 초점이 잘 맞는 디포커스 영상을 촬영함으로써 데이터베이스를 구성하는 단계를 더 포함하는 것을 특징으로 하는 방법. - 제 1 항에 있어서,
상기 딥러닝은 합성곱 신경망(Convolutional Neural Network, CNN)을 포함하는 것을 특징으로 하는 방법. - 제 1 항에 있어서,
상기 디포커스를 제거하는 단계는,
상기 디포커스 제거 모델을 이용하여 상기 객체에 대한 영상에서 디포커스 영역을 검출하는 단계를 포함하는 더 포함하는 방법. - 제 7 항에 있어서,
상기 디포커스를 제거하는 단계는,
상기 디포커스 제거 모델을 이용하여 상기 검출된 디포커스 영역에 대해서 디포커스 제거를 수행하는 단계를 더 포함하는 방법. - 제 1 항에 있어서,
상기 객체에 대한 영상에서 디포커스를 제거한 후에, 상기 디포커스 제거 모델의 가중치를 업데이트 하는 단계를 더 포함하는 방법. - 적어도 하나의 프로세서 및 적어도 하나의 프로세서에 의해 실행되는 적어도 하나의 인스트럭션을 저장하는 메모리를 포함하고,
상기 적어도 하나의 인스트럭션은,
적어도 하나의 프로세서 및 적어도 하나의 프로세서에 의해 실행되는 적어도 하나의 인스트럭션을 저장하는 메모리를 포함하고,
상기 적어도 하나의 인스트럭션은,
데이터베이스로부터 디포커스 영상 및 상기 디포커스 영상에 대응하는 디포커스 제거 영상으로 구성된 영상 세트에 대한 딥러닝을 통하여 디포커스 제거 모델을 생성하고; 및
상기 디포커스 제거 모델을 이용하여 객체에 대한 영상에서 디포커스를 제거하도록 적어도 하나의 프로세서에서 실행되는 것을 특징으로 하는 디포커스 제거 장치. - 제 10 항에 있어서,
카메라를 통하여 상기 객체에 대한 영상이 획득되는 것을 특징으로 하는 디포커스 제거 장치. - 제 11 항에 있어서,
상기 디포커스 제거 모델을 이용하여 상기 객체에 대한 영상에서 디포커스 영역이 검출되는 것을 특징으로 하는 디포커스 제거 장치. - 제 12 항에 있어서,
상기 디포커스 제거 모델을 이용하여 상기 검출된 디포커스 영역에 대한 디포커스가 제거되는 것을 특징으로 하는 디포커스 제거 장치. - 제 12 항에 있어서,
상기 디포커스 제거 모델을 통해 출력된 영상과 상기 디포커스 제거 영상 사이의 차이가 최소화 되도록 상기 디포커스 제거 모델의 가중치가 업데이트 되는 것을 특징으로 하는 디포커스 제거 장치. - 객체를 촬영하는 카메라;
디포커스 영상 및 상기 디포커스 영상에 대응하는 디포커스 제거 영상으로 구성된 영상 세트를 저장하는 데이터베이스; 및
상기 데이터베이스로부터 상기 영상 세트를 읽어오고, 상기 읽혀진 영상 세트에 대한 딥러닝을 통하여 디포커스 제거 모델을 생성하고, 상기 디포커스 제거 모델을 이용하여 상기 객체에 대한 영상의 디포커스를 제거하는 디포커스 제거 장치를 포함하는 전자 장치. - 제 15 항에 있어서,
상기 딥러닝은 합성곱 레이어, 배치 정규화 레이어, 및 활성화 레이어를 조합함으로써 구현되는 것을 특징으로 하는 전자 장치. - 제 15 항에 있어서,
상기 디포커스 제거 모델을 이용하여 상기 객체에 대한 영상에 대한 디포커스 영역이 자동으로 검출되고, 상기 검출된 디포커스 영역의 디포커스가 제거되는 것을 특징으로 하는 전자 장치.
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR20190013928 | 2019-02-01 | ||
| KR1020190013928 | 2019-02-01 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| KR20200096027A true KR20200096027A (ko) | 2020-08-11 |
Family
ID=72048366
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020190042869A KR20200096027A (ko) | 2019-02-01 | 2019-04-12 | 딥러닝을 이용한 디포커스 제거 장치 및 그것의 동작 방법 |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR20200096027A (ko) |
Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20170099266A (ko) | 2016-02-23 | 2017-08-31 | 주식회사 딥이메진 | 딥러닝 기반 단일 실물 사진 인증 시스템 |
-
2019
- 2019-04-12 KR KR1020190042869A patent/KR20200096027A/ko unknown
Patent Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20170099266A (ko) | 2016-02-23 | 2017-08-31 | 주식회사 딥이메진 | 딥러닝 기반 단일 실물 사진 인증 시스템 |
Non-Patent Citations (1)
| Title |
|---|
| 중국공개특허: CN 108089425, 공개일: 2018년 5월 29일, 제목: Deep learning based optical scanning holography defocus noise eleminating method. |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6803899B2 (ja) | 画像処理方法、画像処理装置および電子機器 | |
| US10257502B2 (en) | Methods and apparatus for controlling light field capture | |
| KR20200096026A (ko) | 딥러닝을 이용한 움직임 블러제거 장치 및 동작 방법 | |
| CN110751160B (zh) | 图像中物体的检测方法、装置及系统 | |
| CN104469147B (zh) | 光场采集控制方法和装置、光场采集设备 | |
| CN110189285A (zh) | 一种多帧图像融合方法及装置 | |
| US20200118249A1 (en) | Device configured to perform neural network operation and method of operating same | |
| US20170213359A1 (en) | Method and apparatus for positioning feature point | |
| US20200364567A1 (en) | Neural network device for selecting action corresponding to current state based on gaussian value distribution and action selecting method using the neural network device | |
| KR20210028218A (ko) | 이미지 처리 방법과 장치, 전자 기기 및 저장 매체 | |
| CN103795917A (zh) | 成像装置和控制方法 | |
| EP2897354B1 (en) | Method for setting image capture conditions and electronic device performing the same | |
| US20210166352A1 (en) | Method and apparatus for restoring image | |
| JP2019067388A (ja) | ライトフィールド画像を操作するためのユーザインターフェイス | |
| US20220368877A1 (en) | Image processing method, image processing apparatus, storage medium, manufacturing method of learned model, and image processing system | |
| Paramanand et al. | Shape from sharp and motion-blurred image pair | |
| US11405547B2 (en) | Method and apparatus for generating all-in-focus image using multi-focus image | |
| KR102365735B1 (ko) | 플렌옵틱 영상 처리 장치, 그것을 포함하는 플렌옵틱 영상 처리 시스템 및 그것의 객체 분할 방법 | |
| JP2019191429A (ja) | 制御装置、撮像装置、制御方法、及びプログラム | |
| CN107003730A (zh) | 一种电子设备、拍照方法及拍照装置 | |
| CN114254731A (zh) | 用于神经网络操作的方法和设备 | |
| KR20200096027A (ko) | 딥러닝을 이용한 디포커스 제거 장치 및 그것의 동작 방법 | |
| US20160212328A1 (en) | Haptic interface of image photographing device and control method thereof | |
| KR102669255B1 (ko) | 다중 초점 영상을 이용한 올인포커스 영상 생성 방법 및 장치 | |
| WO2022004302A1 (ja) | 画像処理装置、撮像装置、画像処理方法、及びプログラム |