KR20230021442A

KR20230021442A - 이미지 데이터의 디블러링을 지원하는 전자 장치 및 방법

Info

Publication number: KR20230021442A
Application number: KR1020210103312A
Authority: KR
Inventors: 박민규; 임성준; 김동오
Original assignee: 삼성전자주식회사
Priority date: 2021-08-05
Filing date: 2021-08-05
Publication date: 2023-02-14
Also published as: WO2023014122A1

Abstract

본 기재의 실시 예에 따른 전자 장치는 이미지 데이터를 생성하는 카메라 모듈, 이미지 데이터를 수신하고, 그리고 이미지 데이터에 기반하여 복원된 이미지 데이터를 생성하는 프로세서, 그리고 복원된 이미지 데이터를 표시하는 디스플레이 모듈을 포함한다. 프로세서는 이미지 데이터의 클래스를 분류하고, 클래스에 대응하는 필터를 선택하고, 그리고 선택된 필터를 이미지 데이터에 적용하여 복원된 이미지 데이터를 생성한다.

Description

이미지 데이터의 디블러링을 지원하는 전자 장치 및 방법{ELECTRONIC DEVICE AND METHOD FOR SUPPORTING DEBLURRING OF IMAGE DATA}

본 기재는 전자 장치에 관한 것으로, 더 상세하게는 이미지 데이터의 디블러링을 지원하는 전자 장치 및 방법에 관한 것이다.

전자 장치들은 카메라 모듈을 이용하여 이미지 데이터를 획득할 수 있다. 카메라 모듈에 의해 획득된 이미지 데이터는 다양한 이유들로 인한 블러링(blurring)을 포함할 수 있다. 블러링은 이미지 데이터의 품질을 떨어뜨리고, 때때로 이미지 데이터를 사용 불가능하게 할 수 있다. 블러링의 이유들 중 일부는 이미지 데이터를 촬영할 때의 조건들을 포함할 수 있다. 예를 들어, 명확하지 않은 초점, 촬영 대상의 갑작스러운 움직임, 보정 범위를 벗어난 손떨림 등은 이미지 데이터에서 블러링을 유발할 수 있다. 이미지 데이터를 촬영할 때의 조건들로 인해 발생하는 블러링은 이미지 데이터를 재촬영 함으로써 극복될 수 있다. 블러링의 이유들 중 다른 일부는 전자 장치 또는 카메라 모듈의 물리적 특성으로 인해 발생할 수 있다. 전자 장치 또는 카메라 모듈의 물리적 특성으로 인한 블러링은 이미지 데이터를 촬영할 때마다 상시적으로 발생할 수 있다. 전자 장치 또는 카메라 모듈의 물리적 특성으로 인한 블러링은 이미지 데이터의 재촬영을 통해서도 극복될 수 없다.

본 기재의 목적은 전자 장치 또는 카메라 모듈의 물리적 특성으로 인해 발생하는 블러링을 빠른 속도로 디블러링 하는 것을 지원하는 전자 장치 및 방법을 제공하는 데에 있다.

본 기재의 실시 예에 따른 전자 장치는 이미지 데이터를 생성하는 카메라 모듈; 상기 이미지 데이터를 수신하고, 그리고 상기 이미지 데이터에 기반하여 복원된 이미지 데이터를 생성하는 프로세서; 그리고 상기 복원된 이미지 데이터를 표시하는 디스플레이 모듈을 포함한다. 상기 프로세서는 상기 이미지 데이터의 클래스를 분류하고, 상기 클래스에 대응하는 필터를 선택하고, 그리고 상기 선택된 필터를 상기 이미지 데이터에 적용하여 상기 복원된 이미지 데이터를 생성한다.

본 기재의 실시 예에 따른 전자 장치는 이미지 데이터 및 열화된 이미지 데이터를 저장하는 스토리지 장치; 상기 이미지 데이터 및 상기 열화된 이미지 데이터를 수신하고, 상기 열화된 이미지 데이터에서 클래스들을 분류하고, 그리고 상기 열화된 이미지 데이터를 상기 이미지 데이터로 복원하는 상기 클래스들에 각각 대응하는 필터들을 선택하는 프로세서; 그리고 상기 클래스들 및 상기 선택된 필터들 사이의 연관 정보를 포함하는 검색표를 저장하는 메모리를 포함한다.

본 기재의 실시 예에 따른 이미지 데이터를 디블러링 하는 방법은, 원본 이미지 데이터 및 제1 열화된 이미지 데이터를 수신하는 단계; 상기 제1 열화된 이미지 데이터에서 클래스들을 분류하는 단계; 상기 제1 열화된 이미지 데이터를 상기 원본 이미지 데이터에 근접하게 복원하는, 상기 클래스들에 각각 대응하는 필터들을 탐색하는 단계; 제2 열화된 이미지 데이터를 수신하는 단계; 상기 제2 열화된 이미지 데이터에서 상기 클래스들을 분류하는 단계; 그리고 상기 클래스들에 각각 대응하는 상기 필터들을 상기 제2 열화된 이미지 데이터에 적용하여 복원된 이미지 데이터를 생성하는 단계를 포함한다.

본 기재에 따르면, 이미지 데이터의 클래스가 실시간으로 분류되고, 그리고 클래스에 대응하는 필터를 이용하여 디블러링이 수행된다. 따라서, 물리적 특성으로 인한 블러링을 실시간으로 디블러링하는 전자 장치 및 방법이 제공된다.

도 1은 본 기재의 제1 실시 예에 따른 전자 장치를 보여준다.
도 2a, 도 2b, 도 2c, 도 2d 및 도 2e는 본 기재의 전자 장치가 제1 실시 예에 따라 스마트 폰으로 구현된 예들을 보여준다.
도 3a, 도 3b, 도 3c, 도 3d 및 도 3e는 본 기재의 전자 장치가 제2 실시 예에 따라 스마트 폰으로 구현된 예들을 보여준다.
도 4는 본 기재의 실시 예에 따른 필터 학습을 수행하는 전자 장치를 보여주는 블록도이다.
도 5는 도 4의 전자 장치의 프로세서에 의해 실행되는 학습 모듈의 예를 보여준다.
도 6은 학습 모듈이 검색표를 생성하는 과정의 예를 보여준다.
도 7은 도 6의 방법에 따라 열화된 이미지 데이터가 분류되고 그리고 필터가 선택된 예를 보여준다.
도 8은 학습 모듈이 필터들을 반복 적용함으로써 클래스별 필터를 선택하는 과정의 예를 보여준다.
도 9는 심층 학습 기반의 디블러링 모듈로 기준 에러를 계산하는 예를 보여준다.
도 10은 필터 검출기가 심층 학습에 기반하여 필터들을 선택하는 예를 보여준다.
도 11은 도 3e의 점 확산 함수를 복원하는 필터의 3차원 모델링의 예를 보여준다.
도 12는 감소된 사이즈를 갖는 필터의 3차원 모델링의 예를 보여준다.
도 13은 학습 모듈이 클래스 별 필터의 사이즈를 줄이는 과정의 예를 보여준다.
도 14는 다양한 실시 예들에 따른 네트워크 환경 내의 전자 장치의 블록도이다.
도 15는 도 14의 전자 장치가 필터를 이용하여 디블러링을 수행하는 과정의 예를 보여준다.
도 16은 프로세서에 의해 실행되는 필터 기반의 디블러링 모듈의 예를 보여준다.
도 17은 다양한 실시 예들에 따른 카메라 모듈을 예시하는 블럭도이다.

이하에서, 본 기재의 기술 분야에서 통상의 지식을 가진 자가 본 기재를 용이하게 실시할 수 있을 정도로, 본 기재의 실시 예들이 명확하고 상세하게 기재될 것이다.

도 1은 본 기재의 제1 실시 예에 따른 전자 장치(100)를 보여준다. 도 1을 참조하면, 전자 장치(100)는 프로세서(110), 메모리(120), 카메라 모듈(130), 그리고 디스플레이 모듈(140)을 포함할 수 있다. 프로세서(110)는 전자 장치(100)의 운영 체제, 미들 웨어 또는 응용들을 실행할 수 있다. 프로세서(110)는 메인 프로세서(111) 및 보조 프로세서(113)를 포함할 수 있다. 메인 프로세서(111)는 중앙 처리 장치(CPU) 또는 응용 프로세서(AP)를 포함할 수 있다.

보조 프로세서(113)는 그래픽 프로세서(GPU), 뉴럴 프로세서(NPU), 뉴로모픽 프로세서(Neuromorphic Processor), 이미지 시그널 프로세서(ISP), 디지털 시그널 프로세서(DSP), 센서 허브 프로세서, 또는 커뮤니케이션 프로세서를 포함할 수 있다. 보조 프로세서(113)는 메인 프로세서(111)의 요청에 따라, 메인 프로세서(111)의 작업들 중 일부를 대신하여 처리할 수 있다.

메모리(120)는 데이터를 저장하는데 사용될 수 있다. 메모리(120)는 휘발성 메모리(122) 및 비휘발성 메모리(124)를 포함할 수 있다. 휘발성 메모리(122)는 정적 랜덤 액세스 메모리, 동적 랜덤 액세스 메모리, 상 변화 랜덤 액세스 메모리, 강유전체 랜덤 액세스 메모리, 자기 랜덤 액세스 메모리, 또는 저항성 랜덤 액세스 메모리 등과 같은 다양한 메모리들을 포함할 수 있다. 휘발성 메모리(122)는 전자 장치(100)의 메인 메모리로 사용될 수 있다. 예를 들어, 휘발성 메모리(122)는 운영 체제, 미들 웨어, 또는 응용들에 의해 실행되는 코드들을 임시로 저장할 수 있다. 휘발성 메모리(122)는 운영 체제, 미들 웨어, 또는 응용들에 의해 생성되는 데이터를 임시로 저장할 수 있다. 비휘발성 메모리(124)는 낸드 플래시 메모리, 상 변화 메모리, 강유전체 메모리, 자기 메모리, 또는 저항성 메모리 등과 같은 다양한 비휘발성 메모리들을 포함할 수 있다. 비휘발성 메모리(124)는 전자 장치(100)의 보조 메모리로 사용될 수 있다. 예를 들어, 비휘발성 메모리는 운영 체제, 미들 웨어, 또는 응용들에 의해 실행되는 코드들의 원본들을 저장할 수 있다. 비휘발성 메모리는 운영 체제, 미들 웨어, 또는 응용들에 의해 생성되는 데이터의 원본들을 저장할 수 있다.

카메라 모듈(130)은 정지 영상 또는 동영상을 촬영할 수 있다. 카메라 모듈(130)은 적어도 하나의 렌즈를 포함하고, 그리고 적어도 하나의 렌즈를 통해 입사되는 빛들에 기반하여, 정해진 해상도에 대응하는 이미지 데이터를 생성할 수 있다. 이미지 데이터는 프로세서(110)를 통해 메모리(120)에 저장될 수 있다.

디스플레이 모듈(140)은 메모리(120)로부터 프로세서(110)를 통해 이미지 데이터를 수신할 수 있다. 디스플레이 모듈(140)은 수신된 이미지 데이터를 표시할 수 있다. 예시적으로, 디스플레이 모듈(140)은 터치 패드와 같은 입력 수단과 결합되어 구현될 수 있다.

예시적으로, 전자 장치(100)는 스마트 폰 또는 스마트 패드와 같은 모바일 장치로 구현될 수 있다. 이하에서, 전자 장치(100)가 스마트 폰으로 구현된 예들을 참조하여 본 기재의 기술적 사상이 설명되지만, 본 기재는 스마트 폰에 적용되는 것으로 한정되지 않는다.

도 2a, 도 2b, 도 2c, 도 2d 및 도 2e는 본 기재의 전자 장치(100)가 제1 실시 예에 따라 스마트 폰(100a)으로 구현된 예들을 보여준다. 도 2a는 스마트 폰(100a)의 전면부를 보여주고, 도 2b는 스마트 폰(100a)의 후면부를 보여준다. 도 2c는 스마트 폰(100a)의 분해 사시도를 보여준다. 도 2d는 도 2e의 I-I'선에 따른 단면도의 예를 보여준다. 도 2e는 스마트 폰(100a)이 이미지 데이터를 촬영할 때에 적용되는 물리적 특성의 예를 보여준다.

도 1 및 도 2a를 참조하면, 스마트 폰(100a)의 전면부에 전자 장치(100)의 디스플레이 모듈(140)에 대응하는 디스플레이 모듈(140)이 제공될 수 있다. 디스플레이 모듈(140)의 적어도 일부를 관통하여, 도 1의 전자 장치(100)의 카메라 모듈(130)의 적어도 일부에 대응하는 제1 카메라 모듈(131)이 제공될 수 있다.

도 1 및 도 2b를 참조하면, 스마트 폰(100a)의 후면부에 전자 장치(100)의 카메라 모듈(130)의 적어도 나머지 일부에 대응하는 제2 카메라 모듈(132)이 제공될 수 있다. 예를 들어, 제2 카메라 모듈(132)은 와이드 카메라, 울트라 와이드 카메라, 망원(tele) 카메라, 거리 측정 카메라, 적외선 카메라, 또는 플래시 라이트 등과 같은 다양한 구성 요소들을 포함하도록 구현될 수 있다.

도 1 및 도 2c를 참조하면, 스마트 폰(100a)의 디스플레이 모듈(140)과 후면 커버(101)의 사이에, 프로세서(110), 메모리(120), 그리고 제1 카메라 모듈(131)이 제공될 수 있다. 제2 카메라 모듈(132)은 가려질 수 있지만, 참조를 위하여 점선으로 도시된다. 제2 부분(102)의 디스플레이 모듈(140)은 홀(140h)을 가질 수 있다. 홀(140h)의 위치는 제1 카메라 모듈(131)의 렌즈의 위치에 대응할 수 있다.

도 1, 도 2c 및 도 2d를 참조하면, 디스플레이 모듈(140)은 윈도우(W) 및 하부 부재(LM)를 포함할 수 있다. 하부 부재(LM)는 반사 방지 필름, 터치 센서, 표시 패널, 기능성 부재 등을 포함할 수 있다. 예시적으로, 표시 패널의 픽셀들(PX)이 도 2d에 도시되어 있다. 홀(140h)은 하부 부재(LM)를 관통하는 빈 공간일 수 있다. 예시적으로, 홀(140h)은 제1 카메라 모듈(131)의 렌즈와 정렬될 수 있다.

도 2e는 제1 카메라 모듈(131)의 점 확산 함수(PSF)(Point Spread Function)의 예를 보여준다. 점 확산 함수는 제1 카메라 모듈(131)을 이용하여 점을 촬영할 때에, 하나의 점이 영상에서 얼마나 퍼져 있는지에 대한 정도를 표현하는 데이터를 나타낼 수 있다. 점 확산 함수는 카메라 모듈(131)의 물리적 특성에 기반할 수 있다.

예를 들어, 점 확산 함수는 홀(140h)을 채우는 물질의 종류 및 특성, 제1 카메라 모듈(131)의 렌즈의 종류 및 특성, 제1 카메라 모듈(131)의 렌즈의 구조, 또는 제1 카메라 모듈(131)의 이미지 센서의 종류 및 특성과 같은 다양한 물리적 특성들에 기반하여 정해질 수 있다.

도 2e에 도시된 바와 같이, 제1 카메라 모듈(131)을 이용하여 점을 촬영할 때에, 점을 둘러싸는 원형의 이미지 데이터가 획득될 수 있다. 점 확산 함수는 제1 카메라 모듈(131)을 이용하여 생성되는 이미지 데이터에서 블러링(blurring)을 유발할 수 있다. 점 확산 함수는 제1 카메라 모듈(131)의 물리적 특성에 기반하므로, 점 확산 함수로 인한 블러링은 이미지 데이터에서 상시적으로 발생할 수 있다.

점 확산 함수로 인한 블러링은 제1 카메라 모듈(131)뿐 아니라 제2 카메라 모듈(132)에서도 유사하게 발생할 수 있다. 즉, 제2 카메라 모듈(132)을 이용하여 생성되는 이미지 데이터에서도 블러링이 상시적으로 발생할 수 있다.

도 1 및 도 3a를 참조하면, 스마트 폰(100b)의 전면부에 전자 장치(100)의 디스플레이 모듈(140)에 대응하는 디스플레이 모듈(140)이 제공될 수 있다. 디스플레이 모듈(140)은 광 투과영역(140t)을 포함할 수 있다. 광 투과영역(140t)은 외부로부터 입사되는 빛들을 통과시킬 수 있다. 도 1 및 도 3b를 참조하면, 스마트 폰(100b)의 후면부에 전자 장치(100)의 카메라 모듈(130)의 적어도 나머지 일부에 대응하는 제2 카메라 모듈(132)이 제공될 수 있다. 예를 들어, 제2 카메라 모듈(132)은 와이드 카메라, 울트라 와이드 카메라, 망원(tele) 카메라, 거리 측정 카메라, 적외선 카메라, 또는 플래시 라이트 등과 같은 다양한 구성 요소들을 포함하도록 구현될 수 있다.

도 1 및 도 3c를 참조하면, 스마트 폰(100b)의 디스플레이 모듈(140)과 후면 커버(101)의 사이에, 프로세서(110), 메모리(120), 그리고 제1 카메라 모듈(131)이 제공될 수 있다. 제2 카메라 모듈(132)은 가려질 수 있지만, 참조를 위하여 점선으로 도시된다. 광 투과영역(140t)의 위치는 제1 카메라 모듈(131)의 렌즈의 위치에 대응할 수 있다. 예시적으로, 제1 카메라 모듈(131)은 UDC(Under Display Camera)로 구현될 수 있다.

도 1, 도 3c 및 도 3d를 참조하면, 디스플레이 모듈(140)은 윈도우(W) 및 하부 부재(LM)를 포함할 수 있다. 하부 부재(LM)는 반사 방지 필름, 터치 센서, 표시 패널, 기능성 부재 등을 포함할 수 있다. 예시적으로, 표시 패널의 픽셀들(PX)이 도 3d에 도시되어 있다. 광 투과영역(140t)에 배치되는 픽셀들(PX)의 개수, 또는 밀도는 광 투과영역(140t)이 아닌 곳에 배치되는 픽셀들(PX)의 개수, 또는 밀도 보다 작을 수 있다. 광 투과영역(140t) 내에서 픽셀들(PX)이 배치되지 않은 영역을 통하여, 빛이 제1 카메라 모듈(131)로 전달될 수 있다. 광 투과영역(140t)의 픽셀들(PX)의 아래에는 빛을 차단하기 위한 BML(Bottom Metal layer)가 배치될 수 있다. BML은 트랜지스터들이 빛이 전달되는 것을 차단하여, 트랜지스터들이 오동작하는 것을 방지할 수 있다. BML(Bottom Metal layer)은 후술하는 빛의 회절을 야기하는 요인이 될 수 있다.

도 3e는 제1 카메라 모듈(131)의 점 확산 함수(PSF)(Point Spread Function)의 예를 보여준다. 점 확산 함수는 제1 카메라 모듈(131)을 이용하여 점을 촬영할 때에, 하나의 점이 영상에서 얼마나 퍼져 있는지에 대한 정도를 표현하는 데이터를 나타낼 수 있다. 점 확산 함수는 제1 카메라 모듈(131)의 물리적 특성에 기반할 수 있다.

예를 들어, 점 확산 함수는 광 투과영역(140t)에 배치된 물질의 종류 및 특성, 제1 카메라 모듈(131)의 렌즈의 종류 및 특성, 제1 카메라 모듈(131)의 렌즈의 구조, 제1 카메라 모듈(131)의 이미지 센서의 종류 및 특성과 같은 다양한 물리적 특성들에 기반하여 정해질 수 있다.

도 3e에 도시된 바와 같이, 제1 카메라 모듈(131)을 이용하여 점을 촬영할 때에, 점을 중심으로 제1 방향(예를 들어 가로 방향) 및 제2 방향(예를 들어, 세로 방향)으로 돌출되고, 그리고 제1 방향 및 제2 방향의 사이에서 산란되는 형태의 이미지 데이터가 획득될 수 있다. 점 확산 함수는 제1 카메라 모듈(131)을 이용하여 생성되는 이미지 데이터에서 블러링(blurring)을 유발할 수 있다. 점 확산 함수는 제1 카메라 모듈(131)의 물리적 특성에 기반하므로, 점 확산 함수로 인한 블러링은 이미지 데이터에서 상시적으로 발생할 수 있다.

도 2e의 점 확산 함수와 비교하면, 도 3e의 점 확산 함수는 제1 방향(D1) 및 제1 방향과 수직한 제2 방향(D2)을 따라 돌출되는 형태를 가질 수 있다. 도 2d의 디스플레이 모듈(140)의 홀(140h)이 대부분 빈 공간으로 구현되는 것과 달리, 도 3d의 디스플레이 모듈(140)의 광 투과영역(140t)은 픽셀들을 포함하고, 그리고 픽셀들과 연관된 BML을 포함할 수 있다. 광 투과영역(140t)을 통과하는 빛은 BML, 픽셀들과 같은 디스플레이 모듈(140)의 광 투과영역(140t)의 구성 요소들의 사이를 통과하는 동안 회절될 수 있다. 따라서, UDC로 구현되는 제1 카메라 모듈(131)의 점 확산 함수는 비-UDC로 구현되는 제1 카메라 모듈(131)의 점 확산 함수보다 넓은 범위를 차지할 수 있다. UDC로 구현되는 제1 카메라 모듈(131)에서 생성되는 이미지 데이터는 비-UDC로 구현되는 제1 카메라 모듈(131)에서 생성되는 이미지 데이터보다 더 큰 블러링을 상시적으로 가질 수 있다.

점 확산 함수로 인한 블러링을 제거하기 위하여, 즉 디블러링을 수행하기 위하여, 심층 학습(deep learning)이 사용될 수 있다. 예를 들어, 점 확산 함수로 인한 블러링을 복원하는 디블러링 모듈이 심층 학습에 기반하여 학습될 수 있다. 도 1의 프로세서(110)는 카메라 모듈(130)에 의해 생성된 이미지 데이터에 대해 디블러링 모듈을 적용함으로써, 점 확산 함수의 블러링을 제거할 수 있다.

그러나 심층 학습에 기반한 디블러링 모듈은 동작 속도가 느린 단점을 갖는다. 디블러링 모듈은 복수의 콘볼루션 연산들 및 리사이즈(resize) 연산을 수행하며, 따라서 실시간 디블러링이 불가능할 수 있다. 디블러링 모듈은 전자 장치(100)가 이미지 데이터를 생성하는 시간을 지연시키며, 특히 전자 장치(100)가 동영상을 생성하는 것에 큰 레이턴시를 발생시킬 수 있다.

본 기재는 고속으로 실시간 처리가 가능하면서, 심층 학습 기반의 디블러링 모듈과 유사한 품질로 점 확산 함수로 인한 블러링을 제거(또는 복원)하는 장치 또는 방법을 제공할 수 있다.

도 4는 본 기재의 실시 예에 따른 필터 학습을 수행하는 전자 장치(200)를 보여주는 블록도이다. 전자 장치(200)는 이미지 데이터의 종류에 따라 적합한 디블러링 필터들을 탐색하는 필터 학습을 수행할 수 있다. 예시적으로, 전자 장치(200)는 컴퓨터, 워크스테이션 등과 같은 고성능의 고정식 장치를 포함할 수 있다.

도 4를 참조하면, 전자 장치(200)는 프로세서(210), 메모리(220), 장치 드라이버(230), 스토리지 장치(240), 모뎀(250), 사용자 출력 인터페이스(260), 그리고 사용자 입력 인터페이스(270)를 포함할 수 있다.

프로세서(210)는 전자 장치(200)의 운영 체제, 미들 웨어 또는 응용들을 실행할 수 있다. 프로세서(210)는 메인 프로세서(211) 및 보조 프로세서(213)를 포함할 수 있다. 메인 프로세서(211)는 중앙 처리 장치(CPU) 또는 응용 프로세서(AP)를 포함할 수 있다.

보조 프로세서(213)는 그래픽 프로세서(GPU), 뉴럴 프로세서(NPU), 뉴로모픽 프로세서(Neuromorphic Processor), 이미지 시그널 프로세서(ISP), 디지털 시그널 프로세서(DSP), 센서 허브 프로세서, 또는 커뮤니케이션 프로세서를 포함할 수 있다. 보조 프로세서(213)는 메인 프로세서(211)의 요청에 따라, 메인 프로세서(211)의 작업들 중 일부를 대신하여 처리할 수 있다.

메모리(220)는 프로세서(210)의 동작 메모리로 사용되고, 전자 장치(200)의 주 메모리 또는 시스템 메모리로 사용될 수 있다. 메모리(220)는 동적 랜덤 액세스 메모리 또는 정적 랜덤 액세스 메모리와 같은 휘발성 메모리, 또는 상 변화 랜덤 액세스 메모리, 강유전체 랜덤 액세스 메모리, 자기 랜덤 액세스 메모리, 또는 저항성 랜덤 액세스 메모리와 같은 불휘발성 메모리를 포함할 수 있다.

장치 드라이버(230)는 프로세서(210)의 요청에 따라 스토리지 장치(240), 모뎀(250), 사용자 출력 인터페이스(260), 사용자 입력 인터페이스(270) 등과 같은 주변 장치들을 제어할 수 있다. 스토리지 장치(240)는 하드 디스크 드라이브, 솔리드 스테이트 드라이브 등과 같은 고정식 스토리지 장치, 또는 외장형 하드 디스크 드라이브, 외장형 솔리드 스테이트 드라이브, 착탈식 메모리 카드 등과 같은 착탈식 스토리지 장치를 포함할 수 있다.

모뎀(250)은 외부의 장치와 원격 통신을 제공할 수 있다. 모뎀(250)은 외부의 장치와 무선 또는 유선 통신을 수행할 수 있다. 모뎀(250)은 이더넷, 와이파이, LTE, 5G 모바일 이동 통신 등과 같은 다양한 통신 형태들 중 적어도 하나를 통해 외부의 장치와 통신할 수 있다.

사용자 출력 인터페이스(260)는 디스플레이 장치(261), 스피커(262) 등과 같은 사용자에게 정보를 제공하는 장치들을 포함할 수 있다. 사용자 입력 인터페이스(270)는 마우스(271), 키보드(272) 등과 같은 사용자로부터 정보를 수신하는 장치들을 포함할 수 있다.

도 5는 도 4의 전자 장치(200)의 프로세서(210)에 의해 실행되는 학습 모듈(300)의 예를 보여준다. 예시적으로, 학습 모듈(300)은 이미지 데이터의 특징들에 적합한 필터들을 탐색하는 필터 학습을 수행할 수 있다.

도 4 및 도 5를 참조하면, 학습 모듈(300)은 이미지 데이터(ID), 열화된 이미지 데이터(DID), 메타 데이터(MD), 그리고 촬영 데이터(CD)를 수신할 수 있다. 이미지 데이터(ID)는 점 확산 함수로 인한 블러링이 제거된 데이터일 수 있다. 예를 들어, 이미지 데이터(ID)는 도 2a, 도 2b 및 도 2c의 스마트 폰(100a)을 이용하여 촬영된 이미지 데이터에 디콘볼루션 필터(또는 디블러링 모듈)를 적용함으로써 획득될 수 있다.

열화된 이미지 데이터(DID)는 이미지 데이터(ID)를 열화시킴으로써 생성될 수 있다. 예를 들어, 전자 장치(200)는 이미지 데이터(ID)를 수신하고, 그리고 이미지 데이터(ID)를 열화시켜 열화된 이미지 데이터(DID)를 생성할 수 있다. 전자 장치(200)는 도 2e의 점 확산 함수 또는 도 3e의 점 확산 함수를 이미지 데이터(ID)에 적용(예를 들어, 콘볼루션 연산)함으로써, 열화된 이미지 데이터(DID)를 생성할 수 있다. 또는, 카메라 모듈(130)을 이용하여 획득되는 로 이미지 데이터(raw image data), 예를 들어 점 확산 함수의 영향이 보정되지 않은 이미지 데이터가 열화된 이미지 데이터(DID)로 사용될 수 있다.

메타 데이터(MD)는 이미지 데이터(ID) 또는 열화된 이미지 데이터(DID)에 대한 정보를 포함할 수 있다. 메타 데이터(MD)는 이미지 데이터(ID) 또는 열화된 이미지 데이터(DID)에서 얼굴이 인식되었는지의 여부, 이미지 데이터(ID) 또는 열화된 이미지 데이터(DID)의 밝기 정보, 이미지 데이터(ID) 또는 열화된 이미지 데이터(DID)의 잡음 정보, 그리고 이미지 데이터(ID) 또는 열화된 이미지 데이터(DID)가 연무(Haze), 박무(Mist) 또는 안개(Fog)를 포함하는지의 여부 중 적어도 하나를 포함할 수 있다. 예를 들어, 메타 데이터(MD)는 카메라 모듈에 의해 이미지 데이터(ID)가 생성될 때에 함께 생성될 수 있다.

촬영 데이터(CD)는 이미지 데이터(ID)의 촬영 시의 상태 정보를 포함할 수 있다. 예를 들어, 촬영 데이터(CD)는 이미지 데이터(ID)의 사이즈 정보, 이미지 데이터(ID)의 장면 식별(scene classification) 정보, 이미지 데이터(ID)의 윤곽선 방향(edge direction) 정보, 이미지 데이터(ID)를 촬영할 때의 오토 포커스(AF)(Auto Focus) 정보, 이미지 데이터(ID)를 촬영할 때의 오토 화이트 밸런스(AWE)(Auto White Balance) 정보, 그리고 이미지 데이터(ID)를 촬영할 때의 오토 익스포저(AE)(Auto Exposure) 정보 중 적어도 하나를 포함할 수 있다. 예를 들어, 장면 식별 정보는 원경, 근경, 인물, 야간, 주간, 실내, 또는 실외 등의 정보를 포함할 수 있다.

이미지 데이터(ID), 열화된 이미지 데이터(DID), 메타 데이터(MD), 그리고 촬영 데이터(CD)는 스토리지 장치(240)에 저장되고, 그리고 프로세서(210)(예를 들어, 프로세서(210)에 의해 실행되는 학습 모듈(300))로 전달될 수 있다.

프로세서(210)(예를 들어, 프로세서(210)에 의해 실행되는 학습 모듈(300))은 이미지 데이터(ID), 열화된 이미지 데이터(DID), 메타 데이터(MD) 그리고 촬영 데이터(CD)에 기반하여 이미지 데이터의 클래스들을 분류하고, 그리고 클래스들에 각각 대응하는 필터들을 선택(또는 검출 또는 학습)할 수 있다. 학습 모듈(300)은 클래스 검출기(310), 필터 검출기(320), 그리고 필터 검색표(330)를 포함할 수 있다.

클래스 검출기(310)는 열화된 이미지 데이터(DID), 메타 데이터(MD) 및 촬영 데이터(CD)를 수신할 수 있다. 클래스 검출기(310)는 열화된 이미지 데이터(DID), 메타 데이터(MD), 그리고 촬영 데이터(CD) 중 적어도 하나에 기반하여, 열화된 이미지 데이터(DID)의 클래스를 분류할 수 있다. 클래스 검출기(310)는 실시간으로 열화된 이미지 데이터(DID)의 클래스를 분류하고, 그리고 분류된 클래스 정보(CI)를 필터 검출기(320)로 전달할 수 있다.

일 예로서, 클래스 검출기(310)는 메타 데이터(MD) 또는 촬영 데이터(CD)에 포함된 정보의 값들에 기반하여 클래스를 분류할 수 있다. 메타 데이터(MD) 또는 촬영 데이터(CD)에 포함된 정보의 값들이 어느 범위에 속하는지에 따라, 클래스 검출기(310)는 열화된 이미지 데이터(DID)의 클래스를 분류할 수 있다.

다른 예로서, 클래스 검출기(310)는 심층 학습에 기반하여 학습된 모듈을 이용하여 열화된 이미지 데이터(DID)의 클래스를 분류할 수 있다. 클래스 검출기(310)는 열화된 이미지 데이터(DID), 메타 데이터(MD), 또는 촬영 데이터(CD)를 심층 학습 기반의 모듈에 입력할 수 있다. 심층 학습 기반의 모듈은 클래스 정보(CI)를 출력할 수 있다.

필터 검출기(320)는 이미지 데이터(ID), 열화된 이미지 데이터(DID) 및 클래스 정보(CI)를 수신할 수 있다. 필터 검출기(320)는 복수의 필터들 또는 복수의 필터들의 정보를 포함할 수 있다. 필터 검출기(320)는 열화된 이미지 데이터(DID)를 이미지 데이터(ID)에 가장 가깝게 복원하는 필터를 검출(또는 학습)할 수 있다. 필터 검출기(320)는 클래스 정보(CI) 및 필터 정보(FI)를 필터 검색표(330)로 출력할 수 있다.

필터 검색표(330)는 클래스 정보(CI) 및 클래스 정보(CI)에 대응하는 필터 정보(FI)를 서로 연관하여 저장할 수 있다. 예를 들어, 필터 검색표(330)는 메모리(220) 또는 스토리지 장치(240)에 저장될 수 있으며, 모뎀(250)을 통해 외부의 장치와 통신될 수 있다.

도 6은 학습 모듈(300)이 검색표(330)를 생성하는 과정의 예를 보여준다. 도 5 및 도 6을 참조하면, S110 단계에서 학습 모듈(300)은 이미지 데이터(ID) 및 열화된 이미지 데이터(DID)를 수신할 수 있다. 예시적으로, 학습 모듈(300)은 이미지 데이터(ID) 또는 열화된 이미지 데이터(DID)의 정보를 포함하는 메타 데이터(MD) 또는 촬영 정보를 포함하는 촬영 데이터(CD)를 더 수신할 수 있다.

S120 단계에서, 학습 모듈(300)의 클래스 검출기(310)는 제1 특징에 따라 이미지 데이터(ID)를 복수의 그룹들로 분류할 수 있다. 제1 특징은 메타 데이터(MD) 또는 촬영 데이터(CD) 중에서 선택되거나 또는 메타 데이터(MD) 또는 촬영 데이터(CD)로부터 생성될 수 있다.

S130 단계에서, 클래스 검출기(310)는 각 그룹에서 제2 특징에 따라 이미지 데이터(ID)를 복수의 클래스들로 분류할 수 있다. 제2 특징은 메타 데이터(MD) 또는 촬영 데이터(CD) 중에서 선택되거나 또는 메타 데이터(MD) 또는 촬영 데이터(CD)로부터 생성될 수 있다.

S140 단계에서, 필터 검출기(320)는 각 클래스에 적합한 필터를 탐색할 수 있다. S150 단계에서, 필터 검출기(320)는 클래스 별 필터 정보를 필터 검색표(330)에 저장할 수 있다.

예시적으로, 클래스들은 서로 다른 콘텐츠들에 대응할 수 있다. 예를 들어, 이미지 데이터가 얼굴, 실내, 실외, 주간, 야간, 도심, 자연과 같은 서로 다른 콘텐츠를 포함할 때, 서로 다른 콘텐츠에서 점 확산 함수가 유발하는 블러링의 양태들(aspects)은 다를 수 있다. 블러링의 양태들이 다름에 따라, 디블러링에 적합한 필터들의 종류 또한 다를 수 있다. 본 기재의 필터 검출기(320)는 클래스 별로 적합한 필터들을 탐색함으로써, 이미지 데이터의 블러링을 적응적으로 억제(또는 복원)할 수 있다. 따라서, 심층 학습 기반의 디블러링 모듈과 근접한 성능으로 디블러링을 수행할 수 있다.

도 7은 도 6의 방법에 따라 열화된 이미지 데이터(DID)가 분류되고 그리고 필터가 선택된 예를 보여준다. 도 5, 도 6 및 도 7을 참조하면, 열화된 이미지 데이터(DID)는 제1 특징에 따라 제1 그룹, 제2 그룹 및 제3 그룹으로 분류될 수 있다. 제1 그룹은 제2 특징에 따라 제1 클래스 및 제2 클래스로 분류될 수 있다. 제2 그룹은 제2 특징에 따라 제3 클래스 및 제4 클래스로 분류될 수 있다. 제3 그룹은 제2 특징에 따라 제5 클래스 및 제6 클래스로 분류될 수 있다.

일 예로서, 제1 특징은 메타 데이터(MD) 및 촬영 데이터(CD) 중에서 열화된 이미지 데이터(ID)의 콘텐츠의 종류, 예를 들어 장면 식별 정보로 선택될 수 있다. 얼굴, 실내, 실외, 주간, 야간, 도심, 또는 자연과 같은 서로 다른 콘텐츠들에 속한 열화된 이미지 데이터(DID)는 서로 다른 그룹들로 분류될 수 있다. 예시적으로, 제1 특징은 장면 식별 정보 중에서 얼굴과 같은 특정한 장면 식별 정보로 선택될 수 있다.

제2 특징은 메타 데이터(MD) 또는 촬영 데이터(CD)의 나머지 정보들 중에서 선택될 수 있다. 예를 들어, 제2 특징은 열화된 이미지 데이터(DID) 또는 열화된 이미지 데이터(DID)에 포함된 대상의 사이즈 정보, 열화된 이미지 데이터(DID)의 밝기 레벨 정보, 열화된 이미지 데이터(DID)의 잡음 레벨 정보, 열화된 이미지 데이터(DID)가 연무(Haze), 박무(Mist) 또는 안개(Fog)를 포함하는지의 여부를 나타내는 정보, 열화된 이미지 데이터(DID)의 윤곽선 정보, 열화된 이미지 데이터(DID)를 촬영할 때의 오토 포커스 정보, 열화된 이미지 데이터(DID)를 촬영할 때의 오토 화이트 밸런스 정보, 또는 열화된 이미지 데이터(DID)를 촬영할 때의 오토 익스포저 정보 중에서 선택될 수 있다. 예시적으로, 제2 특징은 장면 식별 정보 중에서 제1 특징으로 선택되지 않은 나머지 장면 식별 정보로 선택될 수 있다.

다른 예로서, 제1 특징은 열화된 이미지 데이터(DID) 또는 열화된 이미지 데이터(DID)에 포함된 대상의 사이즈 정보, 열화된 이미지 데이터(DID)의 밝기 레벨 정보, 열화된 이미지 데이터(DID)의 잡음 레벨 정보, 열화된 이미지 데이터(DID)가 연무(Haze), 박무(Mist) 또는 안개(Fog)를 포함하는지의 여부를 나타내는 정보, 열화된 이미지 데이터(DID)의 윤곽선 정보, 열화된 이미지 데이터(DID)를 촬영할 때의 오토 포커스 정보, 열화된 이미지 데이터(DID)를 촬영할 때의 오토 화이트 밸런스 정보, 또는 열화된 이미지 데이터(DID)를 촬영할 때의 오토 익스포저 정보 중에서 하나로 선택될 수 있다. 제2 특징은 메타 데이터(MD) 또는 촬영 데이터(CD)의 정보들 중에서 제1 특징으로 선택되지 않은 나머지 정보들 중에서 선택될 수 있다.

제1 내지 제6 클래스들에 대해 제1 내지 제6 필터들이 각각 선택될 수 있다. 제1 내지 제6 필터들 중 일부 필터들은 서로 다를 수 있다. 예를 들어, 열화된 이미지 데이터(DID)의 클래스가 달라지면, 필터의 종류가 달라질 수 있다. 제1 내지 제6 필터들 중 다른 일부 필터들은 동일할 수 있다. 예를 들어, 열화된 이미지 데이터(DID)의 클래스가 달라져도, 필터의 종류는 달라지지 않을 수 있다. 서로 다른 클래스들에서 동일한 종류의 필터들이 사용되는 경우에도, 서로 다른 클래스들의 필터들에 적용되는 필터링 계수들은 다를 수 있다. 예시적으로, 제1 내지 제6 필터들의 각각은 디콘볼루션(deconvolution) 필터, 와이너(weiner) 필터, 또는 CLS(City Light Suppression) 필터를 포함하는 필터 풀(pool)의 다양한 필터들 중에서 선택될 수 있다.

예시적으로, 얼굴을 포함하는 이미지 데이터는 다른 이미지 데이터와 구별하여 관리될 수 있다. 제1 특징 또는 제2 특징으로 장면 식별 정보가 사용되지 않더라도, 얼굴을 포함하는 이미지 데이터는 하나의 그룹 또는 클래스로 관리될 수 있다. 즉, 얼굴을 포함하는 이미지 데이터에 우선 순위가 부여될 수 있다.

도 8은 학습 모듈(300)이 필터들을 반복 적용함으로써 클래스별 필터를 선택하는 과정의 예를 보여준다. 도 5, 도 7 및 도 8을 참조하면, S210 단계에서, 학습 모듈(300)의 필터 검출기(320)는 그룹을 선택할 수 있다. 예를 들어, 필터 검출기(320)는 제1 내지 제3 그룹들 중에서 하나의 그룹을 선택할 수 있다.

S220 단계에서, 필터 검출기(320)는 클래스를 선택할 수 있다. 예를 들어, 필터 검출기(320)는 선택된 그룹에 속한 클래스들 중에서 하나를 선택할 수 있다. S230 단계에서, 필터 검출기(320)는 필터 풀의 다양한 필터들 중에서 하나의 필터를 수행할 수 있다. S240 단계에서, 필터 검출기(320)는 선택된 그룹의 선택된 클래스의 열화된 이미지 데이터(DID)에 선택된 필터를 적용하여 필터링을 수행할 수 있다.

S250 단계에서, 필터 검출기(320)는 에러를 계산할 수 있다. 예를 들어, 필터 검출기(320)는 열화된 이미지 데이터(DID)와 연관된 이미지 데이터(ID) 및 필터링된 이미지 데이터 사이의 차이를 에러로 계산할 수 있다. 예를 들어, 필터 검출기(320)는 SSIM(Structural Similarity Image Metric)에 기반하여 에러를 계산할 수 있다. 필터 검출기(320)는 동일한 클래스에 속한 복수의 열화된 이미지 데이터들 및 복수의 열화된 이미지 데이터들에 대응하는 복수의 이미지 데이터들 사이의 평균 에러를 계산할 수 있다.

S260 단계에서, 필터 검출기(320)는 선택된 필터가 필터 풀의 마지막 필터인지 판단할 수 있다. 예를 들어, 필터 검출기(320)는 필터 풀의 모든 필터들에 대해 S230 단계 내지 S250 단계가 수행되었는지 판단할 수 있다. 필터 풀의 모든 필터들에 대해 S230 단계 내지 S250 단계가 수행되지 않았으면, 필터 검출기(320)는 S230 단계에서 아직까지 선택되지 않은 필터를 선택하고, 그리고 S240 단계 및 S250 단계를 수행할 수 있다.

필터 풀의 모든 필터들에 대해 S230 단계 내지 S250 단계가 수행되었으면, 필터 검출기(320)는 S270 단계를 수행할 수 있다. S270 단계에서, 필터 검출기(320)는 선택된 그룹의 선택된 클래스의 필터로서, 평균 에러가 기준 에러보다 적은 필터들 중 평균 에러가 가장 적은 필터를 선택 할 수 있다. 예시적으로, 기준 에러는 필터들을 이용한 디블러링을 수행할 때의 목표 에러일 수 있다. 기준 에러는 필터가 심층 학습 기반의 디블러링 모듈을 대체하여 사용될 수 있는 문턱으로 작용할 수 있다. 기준 에러는 목표 성능에 기반하여 정해질 수 있고, 임의로 정해질 수 있고, 또는 심층 학습 기반의 디블러링 모듈의 성능(예를 들어, 에러)에 기반하여 정해질 수 있다. 예를 들어, 기준 에러는 심층 학습 기반의 디블러링 모듈의 에러의 실수배로 정해질 수 있다.

S280 단계에서, 필터 검출기(320)는 선택된 클래스가 선택된 그룹의 마지막 클래스인지 판단할 수 있다. 예를 들어, 필터 검출기(320)는 선택된 그룹의 모든 클래스들에 대해 S220 단계 내지 S270 단계가 수행되었는지 판단할 수 있다. 선택된 그룹의 모든 클래스들에 대해 S220 단계 내지 S270 단계가 수행되지 않았으면, 필터 검출기(320)는 S220 단계에서 선택된 그룹의 클래스들 중에서 아직까지 선택되지 않은 클래스를 선택하고, 그리고 S230 단계 및 S270 단계를 수행할 수 있다. 선택된 그룹의 모든 클래스들에 대해 S220 단계 내지 S270 단계가 수행되었으면, 필터 검출기(320)는 S290 단계를 수행할 수 있다.

S290 단계에서, 필터 검출기(320)는 선택된 그룹이 마지막 그룹인지 판단할 수 있다. 예를 들어, 필터 검출기(320)는 모든 그룹들에 대해 S220 단계 내지 S280 단계가 수행되었는지 판단할 수 있다. 모든 그룹들에 대해 S220 단계 내지 S280 단계가 수행되지 않았으면, 필터 검출기(320)는 S210 단계에서 아직까지 선택되지 않은 그룹을 선택하고, 그리고 S220 단계 및 S280 단계를 수행할 수 있다. 모든 그룹들에 대해 S210 단계 내지 S280 단계가 수행되었으면, 학습 모듈(300)은 필터의 검출을 종료할 수 있다.

상술된 바와 같이, 학습 모듈(300)은 각 클래스에 속한 열화된 이미지 데이터(DID)에 대해 필터 풀의 필터들을 순차적으로 적용하고, 그리고 에러(예를 들어, 평균 에러)가 가장 적고 그리고 에러가 기준 에러보다 적은 필터를 해당 클래스의 필터로 선택할 수 있다. 따라서, 열화된 이미지 데이터(DID)의 특징(예를 들어, 제1 특징 및 제2 특징)에 따라 적응적으로 디블러링 필터가 선택될 수 있으며, 디블러링의 효과가 증대된다.

도 9는 심층 학습 기반의 디블러링 모듈로 기준 에러를 계산하는 예를 보여준다. 도 4 및 도 9를 참조하면, 프로세서(210)는 심층 학습에 기반하여 디블러링을 수행하도록 학습된 디블러링 모듈을 실행할 수 있다. S310 단계에서, 프로세서(210)는 열화된 이미지 데이터(DID)를 선택할 수 있다.

S320 단계에서, 프로세서(210)는 심층 학습 기반의 디블러링을 수행할 수 있다. S330 단계에서, 프로세서(210)는 에러 체크를 수행할 수 있다. 예를 들어, 프로세서(210)는 열화된 이미지 데이터(DID)에 대응하는 디블러링 이미지 데이터와 이미지 데이터(ID) 사이의 차이를 에러로 계산할 수 있다. 에러 체크는 SSIM에 기반하여 수행될 수 있다.

S340 단계에서, 프로세서(210)는 선택된 이미지 데이터가 마지막 이미지 데이터인지 판단할 수 있다. 예를 들어, 프로세서(210)는 모든 열화된 이미지 데이터(DID)에 대해 S310 단계 내지 S330 단계가 수행되었는지 판단할 수 있다. 모든 열화된 이미지 데이터(DID)에 대해 S310 단계 내지 S330 단계가 수행되지 않았으면, 프로세서(210)는 S310 단계에서 아직까지 선택되지 않은 이미지 데이터를 선택하고, 그리고 S320 단계 및 S330 단계를 수행할 수 있다.

모든 열화된 이미지 데이터(DID)에 대해 S310 단계 내지 S330 단계가 수행되었으면, S350 단계에서 프로세서(210)는 평균 에러를 기준 에러로 계산할 수 있다. 예를 들어, 프로세서(210)는 열화된 이미지 데이터(DID)의 전체의 평균 에러를 기준 에러로 계산할 수 있다. 프로세서(210)는 열화된 이미지 데이터(DID)의 그룹별 평균 에러들을 그룹별 기준 에러들로 계산할 수 있다. 프로세서(210)는 열화된 이미지 데이터(DID)의 클래스별 평균 에러들을 클래스별 기준 에러들로 계산할 수 있다. 계산된 기준 에러(들)는 도 8에서 필터를 선택하는 기준으로 사용될 수 있다.

도 10은 필터 검출기(320)가 심층 학습에 기반하여 필터들을 선택하는 예를 보여준다. 도 5 및 도 10을 참조하면, S410 단계에서 학습 모듈(300)의 필터 검출기(320)는 이미지 데이터(ID), 열화된 이미지 데이터(DID), 그리고 클래스 정보(CI)를 수신할 수 있다.

S420 단계에서, 필터 검출기(320)는 심층 학습 기반으로 학습된 모듈을 이용하여, 클래스 별로 에러가 가장 적은 필터를 탐색할 수 있다. 예를 들어, 필터 검출기(320)는 열화된 이미지 데이터(DID)를 이미지 데이터(ID)에 가장 근접하게 보정하는 필터를 클래스 별로 탐색할 수 있다. 필터 검출기(320)는 기준 에러에 근접한 에러를 갖는 필터를 클래스 별로 탐색할 수 있다. S430 단계에서, 필터 검출기(320)는 클래스 정보(CI) 및 필터 정보(FI)를 서로 연관하여 필터 검색표(330)에 저장할 수 있다.

상술된 바와 같이, 필터 검출기(320)는 필터를 탐색하도록 심층 학습에 기반하여 학습된 모듈을 이용하여 클래스 별 필터를 선택할 수 있다. 예시적으로, 필터 정보(FI)는 필터의 종류 및 필터에 적용되는 필터링 계수(filtering coefficient)의 값을 포함할 수 있다.

도 11은 도 3e의 점 확산 함수를 복원하는 필터의 3차원 모델링의 예를 보여준다. 도 3e에 도시된 바와 같이, 점 확산 함수는 제1 방향(D1) 및 제1 방향과 수직한 제2 방향(D2)으로 돌출될 수 있다. 이러한 점 확산 함수를 복원하기 위하여, 도 11에 도시된 바와 같이 필터의 커널 사이즈가 제1 방향(D1) 및 제2 방향(D2)으로 커질 수 있다. 예시적으로, 도 11에서 필터의 커널들은 이미지 데이터에 대응하는 영역의 전체에서 값들(V)을 가질 수 있다. 필터의 커널 사이즈가 커지면, 필터링의 연산 시간이 증가할 수 있다.

도 12는 감소된 사이즈를 갖는 필터의 3차원 모델링의 예를 보여준다. 도 11의 필터의 커널은 전체 영역에서 유효한 값을 갖는다. 반면, 도 12를 참조하면, 박스(BX)로 표시된 부분을 제외한 커널의 값들(V)은 '0'일 수 있다. 따라서, 필터링의 연산 시간이 감소하고, 실시간 필터링이 가능해질 수 있다.

도 13은 학습 모듈(300)이 클래스 별 필터의 사이즈를 줄이는 과정의 예를 보여준다. 도 5, 도 7 및 도 13을 참조하면, S510 단계에서, 학습 모듈(300)의 필터 검출기(320)는 그룹을 선택할 수 있다. 예를 들어, 필터 검출기(320)는 제1 내지 제3 그룹들 중에서 하나의 그룹을 선택할 수 있다.

S520 단계에서, 필터 검출기(320)는 클래스를 선택할 수 있다. 예를 들어, 필터 검출기(320)는 선택된 그룹에 속한 클래스들 중에서 하나를 선택할 수 있다. S530 단계에서, 필터 검출기(320)는 선택된 클래스의 필터의 사이즈를 줄일 수 있다. 예를 들어, 필터 검출기(320)는 선택된 클래스의 필터의 커널의 값들 중 일부를 '0'으로 변경할 수 있다. 예를 들어, 필터 검출기(320)는 커널의 유효한 값들 중 최 외곽의 위치에 해당하는 부분의 값들을 '0'으로 변경할 수 있다. 또는, 필터 검출기(320)는 커널의 중심으로부터 서로 다른 폭들을 갖는 동심원들로 영역들을 구분할 수 있다. 필터 검출기(320)는 최 외곽 영역의 커널의 값들을 '0'으로 변경할 수 있다. S540 단계에서, 필터 검출기(320)는 선택된 그룹의 선택된 클래스의 열화된 이미지 데이터(DID)에 사이즈가 변경된 필터를 적용하여 필터링을 수행할 수 있다.

S550 단계에서, 필터 검출기(320)는 에러를 계산할 수 있다. 예를 들어, 필터 검출기(320)는 열화된 이미지 데이터(DID)와 연관된 이미지 데이터(ID) 및 필터링된 이미지 데이터 사이의 차이를 에러로 계산할 수 있다. 예를 들어, 필터 검출기(320)는 SSIM(Structural Similarity Image Metric)에 기반하여 에러를 계산할 수 있다.

S560 단계에서, 필터 검출기(320)는 평균 에러가 문턱값 이상인지 판단할 수 있다. 또는, 필터 검출기(320)는 평균 에러와 기준 에러의 차이가 문턱값 이상인지 판단할 수 있다. 평균 에러가 기준 에러보다 크지 안으면, 또는 평균 에러가 기준 에러보다 제2 문턱값 이상 크지 않으면, S530 단계에서 필터 검출기(320)는 필터의 사이즈를 더 줄일 수 있다. 예를 들어, 필터 검출기는 커널에서 유효한 값을 갖는 최 외곽 영역의 값들을 '0'으로 변경할 수 있다. 이후에 필터 검출기(S520)는 S550 단계 및 S560 단계를 다시 수행할 수 있다. S560 단계에서, 평균 에러가 기준 에러 이상이면, 또는 평균 에러가 기준 에러보다 제2 문턱값 이상 크면, S570 단계에서 필터 검출기(320)는 바로 이전의 사이즈를 필터의 사이즈로 선택할 수 있다. 제2 문턱값은 디블러링의 고속화 및 단순화를 위하여 희생될 수 있는 이미지 데이터의 품질에 대응할 수 있다. 제2 문턱값은 전자 장치(100)의 사양(specification), 예를 들어 카메라 모듈(130)의 성능 및 물리적 특성, 프로세서(110)의 성능, 메모리(120)의 성능, 또는 디스플레이 모듈(140)의 성능에 기반하여 정해질 수 있다.

S580 단계에서, 필터 검출기(320)는 선택된 클래스가 선택된 그룹의 마지막 클래스인지 판단할 수 있다. 예를 들어, 필터 검출기(320)는 선택된 그룹의 모든 클래스들에 대해 S520 단계 내지 S570 단계가 수행되었는지 판단할 수 있다. 선택된 그룹의 모든 클래스들에 대해 S520 단계 내지 S570 단계가 수행되지 않았으면, 필터 검출기(320)는 S520 단계에서 선택된 그룹의 클래스들 중에서 아직까지 선택되지 않은 클래스를 선택하고, 그리고 S530 단계 및 S570 단계를 수행할 수 있다. 선택된 그룹의 모든 클래스들에 대해 S520 단계 내지 S570 단계가 수행되었으면, 필터 검출기(320)는 S590 단계를 수행할 수 있다.

S590 단계에서, 필터 검출기(320)는 선택된 그룹이 마지막 그룹인지 판단할 수 있다. 예를 들어, 필터 검출기(320)는 모든 그룹들에 대해 S510 단계 내지 S580 단계가 수행되었는지 판단할 수 있다. 모든 그룹들에 대해 S510 단계 내지 S580 단계가 수행되지 않았으면, 필터 검출기(320)는 S510 단계에서 아직까지 선택되지 않은 그룹을 선택하고, 그리고 S520 단계 및 S580 단계를 수행할 수 있다. 모든 그룹들에 대해 S510 단계 내지 S580 단계가 수행되었으면, 학습 모듈(300)은 필터의 검출을 종료할 수 있다.

상술된 바와 같이, 학습 모듈(300)은 평균 에러의 증가가 제2 문턱값 보다 작은 범위에서, 필터의 커널의 사이즈를 단계적으로 줄이는 것으로 여겨질 수 있다. 따라서, 허용 가능한 범위의 에러를 가지며 감소된 필터링 연산 시간을 갖는 필터가 선택될 수 있다. 도 13의 필터의 사이즈를 줄이는 방법은 도 9의 반복적인 필터링을 통해 필터를 선택한 때와 도 10의 심층 학습에 기반한 모듈을 이용하여 필터를 선택한 때 모두에 적용될 수 있다.

도 14는 다양한 실시 예들에 따른 네트워크 환경(400) 내의 전자 장치(401)의 블록도이다. 예시적으로, 전자 장치(401)는 도 1의 전자 장치(100)의 확장된 구현 예를 보여준다. 예시적으로, 전자 장치(401)는 도 4의 전자 장치(200)에 의해 필터 학습이 수행된 결과를 수신할 수 있다. 전자 장치(401)는 이미지 데이터의 클래스들 및 클래스들에 각각 대응하는 필터들의 정보를 도 4의 전자 장치(200)로부터 전달받을 수 있다. 전자 장치(401)는 전달받은 정보에 기반하여 디블러링을 수행할 수 있다. 예를 들어, 전자 장치(401)는 카메라 모듈(480)을 이용하여 이미지 데이터를 생성하고, 이미지 데이터의 클래스를 분류하고, 전달받은 정보를 이용하여 필터를 선택하고, 그리고 선택된 필터를 이용하여 이미지 데이터에 대해 디블러링을 수행할 수 있다.

도 14를 참조하면, 네트워크 환경(400)에서 전자 장치(401)는 제1 네트워크(498)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(402)와 통신하거나, 또는 제2 네트워크(499)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(404) 또는 서버(408) 중 적어도 하나와 통신할 수 있다. 일 실시 예에 따르면, 전자 장치(401)는 서버(408)를 통하여 전자 장치(404)와 통신할 수 있다. 일 실시 예에 따르면, 전자 장치(401)는 프로세서(420), 메모리(430), 입력 모듈(450), 음향 출력 모듈(455), 디스플레이 모듈(460), 오디오 모듈(470), 센서 모듈(476), 인터페이스(477), 연결 단자(478), 햅틱 모듈(479), 카메라 모듈(480), 전력 관리 모듈(488), 배터리(489), 통신 모듈(490), 가입자 식별 모듈(496), 또는 안테나 모듈(497)을 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(401)에는, 이 구성요소들 중 적어도 하나(예: 연결 단자(478))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시 예에서는, 이 구성요소들 중 일부들(예: 센서 모듈(476), 카메라 모듈(480), 또는 안테나 모듈(497))은 하나의 구성요소(예: 디스플레이 모듈(460))로 통합될 수 있다.

프로세서(420)는, 예를 들면, 소프트웨어(예: 프로그램(440))를 실행하여 프로세서(420)에 연결된 전자 장치(401)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일 실시 예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(420)는 다른 구성요소(예: 센서 모듈(476) 또는 통신 모듈(490))로부터 수신된 명령 또는 데이터를 휘발성 메모리(432)에 저장하고, 휘발성 메모리(432)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(434)에 저장할 수 있다. 일 실시 예에 따르면, 프로세서(420)는 메인 프로세서(421)(예: 중앙 처리 장치 또는 어플리케이션 프로세서) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(423)(예: 그래픽 처리 장치, 신경망 처리 장치(NPU: neural processing unit), 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 예를 들어, 전자 장치(401)가 메인 프로세서(421) 및 보조 프로세서(423)를 포함하는 경우, 보조 프로세서(423)는 메인 프로세서(421)보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(423)는 메인 프로세서(421)와 별개로, 또는 그 일부로서 구현될 수 있다.

보조 프로세서(423)는, 예를 들면, 메인 프로세서(421)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(421)를 대신하여, 또는 메인 프로세서(421)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(421)와 함께, 전자 장치(401)의 구성요소들 중 적어도 하나의 구성요소(예: 디스플레이 모듈(460), 센서 모듈(476), 또는 통신 모듈(490))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일 실시 예에 따르면, 보조 프로세서(423)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(480) 또는 통신 모듈(490))의 일부로서 구현될 수 있다. 일 실시 예에 따르면, 보조 프로세서(423)(예: 신경망 처리 장치)는 인공지능 모델의 처리에 특화된 하드웨어 구조를 포함할 수 있다. 인공지능 모델은 기계 학습을 통해 생성될 수 있다. 이러한 학습은, 예를 들어, 인공지능 모델이 수행되는 전자 장치(401) 자체에서 수행될 수 있고, 별도의 서버(예: 서버(408))를 통해 수행될 수도 있다. 학습 알고리즘은, 예를 들어, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은, 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 심층 Q-네트워크(deep Q-networks) 또는 상기 중 둘 이상의 조합 중 하나일 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.

예시적으로, 프로세서(420)는 도 1의 전자 장치(100)의 프로세서(110)에 대응할 수 있다. 메인 프로세서(421) 및 보조 프로세서(423)는 도 1의 메인 프로세서(111) 및 보조 프로세서(113)에 각각 대응할 수 있다.

메모리(430)는, 전자 장치(401)의 적어도 하나의 구성요소(예: 프로세서(420) 또는 센서 모듈(476))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(440)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(430)는, 휘발성 메모리(432) 또는 비휘발성 메모리(434)를 포함할 수 있다.

예시적으로, 메모리(430)는 도 1의 전자 장치(100)의 메모리(120)에 대응할 수 있다. 휘발성 메모리(432) 및 비휘발성 메모리(434)는 도 1의 휘발성 메모리(122) 및 비휘발성 메모리(124)에 각각 대응할 수 있다.

프로그램(440)은 메모리(430)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(442), 미들 웨어(444) 또는 어플리케이션(446)을 포함할 수 있다.

입력 모듈(450)은, 전자 장치(401)의 구성요소(예: 프로세서(420))에 사용될 명령 또는 데이터를 전자 장치(401)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 모듈(450)은, 예를 들면, 마이크, 마우스, 키보드, 키(예: 버튼), 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.

음향 출력 모듈(455)은 음향 신호를 전자 장치(401)의 외부로 출력할 수 있다. 음향 출력 모듈(455)은, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다. 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일 실시 예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.

디스플레이 모듈(460)은 전자 장치(401)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 디스플레이 모듈(460)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일 실시 예에 따르면, 디스플레이 모듈(460)은 터치를 감지하도록 설정된 터치 센서, 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다. 예시적으로, 디스플레이 모듈(460)은 도 1의 전자 장치(100)의 디스플레이 모듈(140)에 대응할 수 있다.

오디오 모듈(470)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일 실시 예에 따르면, 오디오 모듈(470)은, 입력 모듈(450)을 통해 소리를 획득하거나, 음향 출력 모듈(455), 또는 전자 장치(401)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(402))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.

센서 모듈(476)은 전자 장치(401)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일 실시 예에 따르면, 센서 모듈(476)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.

인터페이스(477)는 전자 장치(401)가 외부 전자 장치(예: 전자 장치(402))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일 실시 예에 따르면, 인터페이스(477)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.

연결 단자(478)는, 그를 통해서 전자 장치(401)가 외부 전자 장치(예: 전자 장치(402))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일 실시 예에 따르면, 연결 단자(478)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.

햅틱 모듈(479)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일 실시 예에 따르면, 햅틱 모듈(479)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.

카메라 모듈(480)은 정지 영상 및 동영상을 촬영할 수 있다. 일 실시 예에 따르면, 카메라 모듈(480)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다. 예시적으로, 카메라 모듈(480)은 도 1의 전자 장치(100)의 카메라 모듈(130)에 대응할 수 있다.

전력 관리 모듈(488)은 전자 장치(401)에 공급되는 전력을 관리할 수 있다. 일 실시 예에 따르면, 전력 관리 모듈(488)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.

배터리(489)는 전자 장치(401)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일 실시 예에 따르면, 배터리(489)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.

통신 모듈(490)은 전자 장치(401)와 외부 전자 장치(예: 전자 장치(402), 전자 장치(404), 또는 서버(408)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(490)은 프로세서(420)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일 실시 예에 따르면, 통신 모듈(490)은 무선 통신 모듈(492)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(494)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제1 네트워크(498)(예: 블루투스, WiFi(wireless fidelity) direct 또는 IrDA(infrared data association)와 같은 근거리 통신 네트워크) 또는 제2 네트워크(499)(예: 레거시 셀룰러 네트워크, 5G 네트워크, 차세대 통신 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부의 전자 장치(404)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(492)은 가입자 식별 모듈(496)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제1 네트워크(498) 또는 제2 네트워크(499)와 같은 통신 네트워크 내에서 전자 장치(401)를 확인 또는 인증할 수 있다.

무선 통신 모듈(492)은 4G 네트워크 이후의 5G 네트워크 및 차세대 통신 기술, 예를 들어, NR 접속 기술(new radio access technology)을 지원할 수 있다. NR 접속 기술은 고용량 데이터의 고속 전송(eMBB(enhanced mobile broadband)), 단말 전력 최소화와 다수 단말의 접속(mMTC(massive machine type communications)), 또는 고신뢰도와 저지연(URLLC(ultra-reliable and low-latency communications))을 지원할 수 있다. 무선 통신 모듈(492)은, 예를 들어, 높은 데이터 전송률 달성을 위해, 고주파 대역(예: mmWave 대역)을 지원할 수 있다. 무선 통신 모듈(492)은 고주파 대역에서의 성능 확보를 위한 다양한 기술들, 예를 들어, 빔포밍(beamforming), 거대 배열 다중 입출력(massive MIMO(multiple-input and multiple-output)), 전차원 다중입출력(FD-MIMO: full dimensional MIMO), 어레이 안테나(array antenna), 아날로그 빔형성(analog beam-forming), 또는 대규모 안테나(large scale antenna)와 같은 기술들을 지원할 수 있다. 무선 통신 모듈(492)은 전자 장치(401), 외부 전자 장치(예: 전자 장치(404)) 또는 네트워크 시스템(예: 제2 네트워크(499))에 규정되는 다양한 요구사항을 지원할 수 있다. 일 실시 예에 따르면, 무선 통신 모듈(492)은 eMBB 실현을 위한 Peak data rate(예: 20Gbps 이상), mMTC 실현을 위한 손실 Coverage(예: 164dB 이하), 또는 URLLC 실현을 위한 U-plane latency(예: 다운링크(DL) 및 업링크(UL) 각각 0.5ms 이하, 또는 라운드 트립 1ms 이하)를 지원할 수 있다.

안테나 모듈(497)은 신호 또는 전력을 외부(예: 외부의 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일 실시 예에 따르면, 안테나 모듈(497)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 안테나를 포함할 수 있다. 일 실시 예에 따르면, 안테나 모듈(497)은 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다. 이런 경우, 제1 네트워크(498) 또는 제2 네트워크(499)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(490)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(490)과 외부의 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시 예에 따르면, 방사체 이외에 다른 부품(예: RFIC(radio frequency integrated circuit))이 추가로 안테나 모듈(497)의 일부로 형성될 수 있다.

다양한 실시 예에 따르면, 안테나 모듈(497)은 mmWave 안테나 모듈을 형성할 수 있다. 일 실시 예에 따르면, mmWave 안테나 모듈은 인쇄 회로 기판, 상기 인쇄 회로 기판의 제1 면(예: 아래 면)에 또는 그에 인접하여 배치되고 지정된 고주파 대역(예: mmWave 대역)을 지원할 수 있는 RFIC, 및 상기 인쇄 회로 기판의 제2 면(예: 윗면 또는 측면)에 또는 그에 인접하여 배치되고 상기 지정된 고주파 대역의 신호를 송신 또는 수신할 수 있는 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다.

상기 구성요소들 중 적어도 일부는 주변 기기들 간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.

일 실시 예에 따르면, 명령 또는 데이터는 제2 네트워크(499)에 연결된 서버(408)를 통해서 전자 장치(401)와 외부의 전자 장치(404) 간에 송신 또는 수신될 수 있다. 외부의 전자 장치(402, 또는 304) 각각은 전자 장치(401)와 동일한 또는 다른 종류의 장치일 수 있다. 일 실시 예에 따르면, 전자 장치(401)에서 실행되는 동작들의 전부 또는 일부는 외부의 전자 장치들(402, 304, 또는 308) 중 하나 이상의 외부의 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(401)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(401)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부의 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부의 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(401)로 전달할 수 있다. 전자 장치(401)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 모바일 에지 컴퓨팅(MEC: mobile edge computing), 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다. 전자 장치(401)는, 예를 들어, 분산 컴퓨팅 또는 모바일 에지 컴퓨팅을 이용하여 초저지연 서비스를 제공할 수 있다. 다른 실시 예에 있어서, 외부의 전자 장치(404)는 IoT(internet of things) 기기를 포함할 수 있다. 서버(408)는 기계 학습 및/또는 신경망을 이용한 지능형 서버일 수 있다. 일 실시 예에 따르면, 외부의 전자 장치(404) 또는 서버(408)는 제2 네트워크(499) 내에 포함될 수 있다. 전자 장치(401)는 5G 통신 기술 및 IoT 관련 기술을 기반으로 지능형 서비스(예: 스마트 홈, 스마트 시티, 스마트 카, 또는 헬스 케어)에 적용될 수 있다.

도 15는 도 14의 전자 장치(401)가 필터를 이용하여 디블러링을 수행하는 과정의 예를 보여준다. 도 14 및 도 15를 참조하면, S610 단계에서 카메라 모듈(480)은 이미지를 촬영하여 이미지 데이터, 메타 데이터 및 촬영 데이터를 생성할 수 있다.

예시적으로, 카메라 모듈(480)이 도 2a, 도 2b, 도 2c 및 도 2d를 참조하여 설명된 바와 같이 비-UDC로 구현될 때, 이미지 데이터는 도 2e를 참조하여 설명된 점 확산 함수의 영향을 받을 수 있다. 카메라 모듈(480)이 도 3a, 도 3b, 도 3c 및 도 3d를 참조하여 설명된 바와 같이 UDC로 구현될 때, 이미지 데이터는 도 3e를 참조하여 설명된 점 확산 함수의 영향을 받을 수 있다. 이미지 데이터, 메타 데이터 또는 촬영 데이터는 프로세서(420)를 통해 메모리(430)에 저장될 수 있다.

S620 단계에서, 프로세서(420)는 메모리(430)로부터 이미지 데이터, 메타 데이터 또는 촬영 데이터를 읽을 수 있다. 프로세서(420)는 메타 데이터 및 촬영 데이터에 기반하여 이미지 데이터의 필터를 선택할 수 있다. 예를 들어, 프로세서(420)는 이미지 데이터의 콘텐츠의 종류에 따라 서로 다른 필터들을 선택할 수 있다.

S630 단계에서, 프로세서(420)는 선택된 필터를 이용하여 이미지 데이터에 대해 필터링을 수행할 수 있다. 선택된 필터는 이미지 데이터로부터 점 확산 함수를 제거(또는 억제)할 수 있다. 필터링된 이미지 데이터는 메모리(430)에 저장될 수 있다. 이후에, 디스플레이 모듈(460)은 메모리(430)로부터 필터링된 이미지 데이터를 수신하고, 그리고 필터링된 이미지 데이터를 표시할 수 있다.

도 16은 도 14의 프로세서(420)에 의해 실행되는 필터 기반의 디블러링 모듈(500)의 예를 보여준다. 도 14 및 도 16을 참조하면, 필터 기반의 디블러링 모듈(500)은 클래스 검출기(510), 필터 검색표(520), 그리고 디블러 모듈(530)을 포함할 수 있다.

클래스 검출기(510)는 이미지 데이터(ID), 메타 데이터(MD), 그리고 촬영 데이터(CD)를 수신할 수 있다. 클래스 검출기(510)는 이미지 데이터(ID), 메타 데이터(MD) 또는 촬영 데이터(CD)에 기반하여 이미지 데이터(ID)의 클래스를 분류할 수 있다. 클래스 검출기(510)는 분류된 클래스의 정보를 클래스 정보(CI)로 출력할 수 있다.

예시적으로, 클래스 검출기(510)는 도 5의 클래스 검출기(310)와 동일하게 동작하고, 그리고 동일하게 구성될 수 있다. 클래스 검출기(510)는 실시간으로 이미지 데이터(ID)의 클래스를 분류할 수 있다. 클래스 검출기(510)는 메타 데이터(MD) 또는 촬영 데이터(CD)의 정보의 값들에 기반하여, 또는 심층 학습 기반으로 학습된 모듈을 이용하여 클래스를 분류할 수 있다.

예시적으로, 클래스 검출기(510)는 이미지 데이터(ID) 중 일부의 클래스 분류에 실패할 수 있다. 클래스 분류가 실패한 경우, 클래스 검출기(510)는 클래스 분류가 실패하였음을 또는 클래스가 없음을 나타내는 정보를 클래스 정보(CI)로 출력할 수 있다.

필터 검색표(520)는 도 5의 필터 검색표(330)에 대응할 수 있다. 필터 검색표(520)는 학습 모듈(300)의 학습 결과에 기반하여 생성된 필터 정보(FI) 및 클래스 정보(CI)를 연관하여 저장할 수 있다. 클래스 검출기(510)로부터 클래스 정보(CI)가 전달되면, 필터 검색표(520)는 클래스 정보(CI)에 대응하는 필터 정보(FI)를 출력할 수 있다. 필터 정보(FI)는 필터의 종류 및 필터링 계수(들)의 값(들)을 포함할 수 있다.

예시적으로, 클래스 정보(CI)가 클래스 분류가 실패하였음을 또는 클래스가 없음을 나타낼 때, 필터 검색표(520)는 기본(default) 필터의 정보를 필터 정보(FI)로 출력할 수 있다. 예를 들어, 기본 필터는 클래스들에 대응하는 필터들 중 하나일 수 있다. 다른 예로서, 기본 필터는 클래스들에 대응하는 필터들과 다른 종류의 또는 다른 필터링 계수를 갖는 필터일 수 있다.

디블러 모듈(530)은 필터 정보(FI)에 기반하여 필터를 구현할 수 있다. 예를 들어, 디블러 모듈(530)은 서로 다른 필터 모듈들을 포함할 수 있다. 디블러 모듈(530)은 필터 정보(FI)에 기반하여 필터 모듈들 중 하나를 선택하고, 그리고 필터링 계수들을 설정할 수 있다. 디블러 모듈(530)은 설정된 필터에 기반하여 이미지 데이터(ID)를 필터링할 수 있다.

상술된 바와 같이 전자 장치(401)는 이미지 데이터(ID)로부터 실시간으로 클래스를 분류하고, 그리고 클래스에 따라 실시간으로 필터를 구현할 수 있다. 실시간으로 구현된 필터를 이용하여 필터링을 수행함으로써, 점 확산 함수에 의한 블러링이 실시간으로 제거될 수 있다.

도 17은 다양한 실시 예들에 따른 도 14의 카메라 모듈(480)을 예시하는 블럭도(600)이다. 도 17을 참조하면, 카메라 모듈(480)은 렌즈 어셈블리(610), 플래쉬(620), 이미지 센서(630), 이미지 스태빌라이저(640), 메모리(650)(예: 버퍼 메모리), 또는 이미지 시그널 프로세서(660)를 포함할 수 있다. 렌즈 어셈블리(610)는 이미지 촬영의 대상인 피사체로부터 방출되는 빛을 수집할 수 있다. 렌즈 어셈블리(610)는 하나 또는 그 이상의 렌즈들을 포함할 수 있다. 일 실시 예에 따르면, 카메라 모듈(480)은 복수의 렌즈 어셈블리(610)들을 포함할 수 있다. 이런 경우, 카메라 모듈(480)은, 예를 들면, 듀얼 카메라, 360도 카메라, 또는 구형 카메라(spherical camera)를 형성할 수 있다. 복수의 렌즈 어셈블리(610)들 중 일부는 동일한 렌즈 속성(예: 화각, 초점 거리, 자동 초점, f 넘버(f number), 또는 광학 줌)을 갖거나, 또는 적어도 하나의 렌즈 어셈블리는 다른 렌즈 어셈블리의 렌즈 속성들과 다른 하나 이상의 렌즈 속성들을 가질 수 있다. 렌즈 어셈블리(610)는, 예를 들면, 광각 렌즈 또는 망원 렌즈를 포함할 수 있다.

플래쉬(620)는 피사체로부터 방출 또는 반사되는 빛을 강화하기 위하여 사용되는 빛을 방출할 수 있다. 일 실시 예에 따르면, 플래쉬(620)는 하나 이상의 발광 다이오드들(예: RGB(red-green-blue) LED, white LED, infrared LED, 또는 ultraviolet LED), 또는 xenon lamp를 포함할 수 있다. 이미지 센서(630)는 피사체로부터 방출 또는 반사되어 렌즈 어셈블리(610)를 통해 전달된 빛을 전기적인 신호로 변환함으로써, 상기 피사체에 대응하는 이미지를 획득할 수 있다. 일 실시 예에 따르면, 이미지 센서(630)는, 예를 들면, RGB 센서, BW(black and white) 센서, IR 센서, 또는 UV 센서와 같이 속성이 다른 이미지 센서들 중 선택된 하나의 이미지 센서, 동일한 속성을 갖는 복수의 이미지 센서들, 또는 다른 속성을 갖는 복수의 이미지 센서들을 포함할 수 있다. 이미지 센서(630)에 포함된 각각의 이미지 센서는, 예를 들면, CCD(charged coupled device) 센서 또는 CMOS(complementary metal oxide semiconductor) 센서를 이용하여 구현될 수 있다.

이미지 스태빌라이저(640)는 카메라 모듈(480) 또는 이를 포함하는 전자 장치(401)의 움직임에 반응하여, 렌즈 어셈블리(610)에 포함된 적어도 하나의 렌즈 또는 이미지 센서(630)를 특정한 방향으로 움직이거나 이미지 센서(630)의 동작 특성을 제어(예: 리드 아웃(read-out) 타이밍을 조정 등)할 수 있다. 이는 촬영되는 이미지에 대한 상기 움직임에 의한 부정적인 영향의 적어도 일부를 보상하게 해 준다. 일 실시 예에 따르면, 이미지 스태빌라이저(640)는, 일 실시 예에 따르면, 이미지 스태빌라이저(640)는 카메라 모듈(480)의 내부 또는 외부에 배치된 자이로 센서(미도시) 또는 가속도 센서(미도시)를 이용하여 카메라 모듈(480) 또는 전자 장치(401)의 그런 움직임을 감지할 수 있다. 일 실시 예에 따르면, 이미지 스태빌라이저(640)는, 예를 들면, 광학식 이미지 스태빌라이저로 구현될 수 있다. 메모리(650)는 이미지 센서(630)를 통하여 획득된 이미지의 적어도 일부를 다음 이미지 처리 작업을 위하여 적어도 일시 저장할 수 있다. 예를 들어, 셔터에 따른 이미지 획득이 지연되거나, 또는 복수의 이미지들이 고속으로 획득되는 경우, 획득된 원본 이미지(예: Bayer-patterned 이미지 또는 높은 해상도의 이미지)는 메모리(650)에 저장이 되고, 그에 대응하는 사본 이미지(예: 낮은 해상도의 이미지)는 디스플레이 모듈(460)을 통하여 프리뷰될 수 있다. 이후, 지정된 조건이 만족되면(예: 사용자 입력 또는 시스템 명령) 메모리(650)에 저장되었던 원본 이미지의 적어도 일부가, 예를 들면, 이미지 시그널 프로세서(660)에 의해 획득되어 처리될 수 있다. 일 실시 예에 따르면, 메모리(650)는 메모리(430)의 적어도 일부로, 또는 이와는 독립적으로 운영되는 별도의 메모리로 구성될 수 있다.

이미지 시그널 프로세서(660)는 이미지 센서(630)를 통하여 획득된 이미지 또는 메모리(650)에 저장된 이미지에 대하여 하나 이상의 이미지 처리들을 수행할 수 있다. 상기 하나 이상의 이미지 처리들은, 예를 들면, 깊이 지도(depth map) 생성, 3차원 모델링, 파노라마 생성, 특징점 추출, 이미지 합성, 또는 이미지 보상(예: 노이즈 감소, 해상도 조정, 밝기 조정, 블러링(blurring), 샤프닝(sharpening), 또는 소프트닝(softening)을 포함할 수 있다. 추가적으로 또는 대체적으로, 이미지 시그널 프로세서(660)는 카메라 모듈(480)에 포함된 구성 요소들 중 적어도 하나(예: 이미지 센서(630))에 대한 제어(예: 노출 시간 제어, 또는 리드 아웃 타이밍 제어 등)를 수행할 수 있다. 이미지 시그널 프로세서(660)에 의해 처리된 이미지는 추가 처리를 위하여 메모리(650)에 다시 저장되거나 카메라 모듈(480)의 외부 구성 요소(예: 메모리(430), 디스플레이 모듈(460), 전자 장치(402), 전자 장치(404), 또는 서버(408))로 제공될 수 있다. 일 실시 예에 따르면, 이미지 시그널 프로세서(660)는 프로세서(420)의 적어도 일부로 구성되거나, 프로세서(420)와 독립적으로 운영되는 별도의 프로세서로 구성될 수 있다. 이미지 시그널 프로세서(660)가 프로세서(420)와 별도의 프로세서로 구성된 경우, 이미지 시그널 프로세서(660)에 의해 처리된 적어도 하나의 이미지는 프로세서(420)에 의하여 그대로 또는 추가의 이미지 처리를 거친 후 디스플레이 모듈(460)을 통해 표시될 수 있다.

일 실시 예에 따르면, 전자 장치(401)는 각각 다른 속성 또는 기능을 가진 복수의 카메라 모듈(480)들을 포함할 수 있다. 이런 경우, 예를 들면, 상기 복수의 카메라 모듈(480)들 중 적어도 하나는 광각 카메라이고, 적어도 다른 하나는 망원 카메라일 수 있다. 유사하게, 상기 복수의 카메라 모듈(480)들 중 적어도 하나는 전면 카메라(도 2a, 도 2b, 도 2c, 도 3a, 도 3b 및 도 3c의 131 참조)이고, 적어도 다른 하나는 후면 카메라(도 2a, 도 2b, 도 2c, 도 3a, 도 3b 및 도 3c의 132 참조)일 수 있다.

본 기재의 다양한 실시 예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트 폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 기재의 실시 예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.

본 기재의 다양한 실시 예들 및 이에 사용된 용어들은 본 기재의 기술적 특징들을 특정한 실시 예들로 한정하려는 것이 아니며, 해당 실시 예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 기재에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제1", "제2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제1) 구성요소가 다른(예: 제2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.

본 기재의 다양한 실시 예들에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일 실시 예에 따르면, 모듈은 IC (Integrated Circuit), ASIC(application-specific integrated circuit), FPGA (Field Programmable Gate Array), CPLD (Complex Programmable Logic Device) 등의 형태로 구현될 수 있다.

본 기재의 다양한 실시 예들은 기기(machine)(예: 전자 장치(401)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(436) 또는 외장 메모리(438))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(440))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(401))의 프로세서(예: 프로세서(420))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.

일 실시 예에 따르면, 본 기재의 다양한 실시 예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어^TM)를 통해 또는 두 개의 사용자 장치들(예: 스마트 폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.

다양한 실시 예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있으며, 복수의 개체 중 일부는 다른 구성요소에 분리 배치될 수도 있다. 다양한 실시 예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시 예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.

상술된 내용은 본 기재를 실시하기 위한 구체적인 실시 예들이다. 본 기재는 상술된 실시 예들뿐만 아니라, 단순하게 설계 변경되거나 용이하게 변경할 수 있는 실시 예들 또한 포함할 것이다. 또한, 본 기재는 실시 예들을 이용하여 용이하게 변형하여 실시할 수 있는 기술들도 포함될 것이다. 따라서, 본 기재의 범위는 상술된 실시 예들에 국한되어 정해져서는 안되며 후술하는 특허청구범위뿐만 아니라 이 기재의 특허청구범위와 균등한 것들에 의해 정해져야 할 것이다.

100: 전자 장치
110: 프로세서
111: 메인 프로세서
113: 보조 프로세서
120: 메모리
122: 휘발성 메모리
124: 비휘발성 메모리
130: 카메라 모듈
140: 디스플레이 모듈

Claims

이미지 데이터를 생성하는 카메라 모듈;
상기 이미지 데이터를 수신하고, 그리고 상기 이미지 데이터에 기반하여 복원된 이미지 데이터를 생성하는 프로세서; 그리고
상기 복원된 이미지 데이터를 표시하는 디스플레이 모듈을 포함하고,
상기 프로세서는:
상기 이미지 데이터의 클래스를 분류하고,
상기 클래스에 대응하는 필터를 선택하고, 그리고
상기 선택된 필터를 상기 이미지 데이터에 적용하여 상기 복원된 이미지 데이터를 생성하는 전자 장치.
제1항에 있어서,
상기 필터는 상기 카메라 모듈의 점 확산 함수(PSF)(Point Spread Function)를 보상하는 전자 장치.
제1항에 있어서,
상기 이미지 데이터의 클래스가 달라지면, 상기 선택된 필터가 달라지는 전자 장치.
제1항에 있어서,
상기 프로세서는 상기 이미지 데이터의 메타 데이터에 기반하여 상기 클래스를 분류하고,
상기 메타 데이터는 상기 이미지 데이터에서 얼굴이 인식되었는지의 여부에 대한 정보, 상기 이미지 데이터의 밝기 정보, 상기 이미지 데이터의 잡음 정보, 상기 이미지 데이터가 연무(Haze), 박무(Mist) 또는 안개(Fog)를 포함하는지의 여부에 대한 정보 중 적어도 하나를 포함하는 전자 장치.
제1항에 있어서,
상기 프로세서는 상기 이미지 데이터의 촬영 데이터에 기반하여 상기 클래스를 분류하고,
상기 촬영 데이터는 상기 이미지 데이터의 사이즈 정보, 상기 이미지 데이터의 장면 식별 정보, 상기 이미지 데이터의 윤곽선 방향 정보, 상기 이미지 데이터의 촬영 시의 오토 화이트 밸런스(AWE)(Auto White Balance) 정보, 상기 이미지 데이터의 촬영 시의 오토 포커스(AF)(Auto Focus) 정보, 그리고 상기 이미지 데이터의 촬영 시의 오토 익스포저(AE)(Auto Exposure) 정보 중 적어도 하나를 포함하는 전자 장치.
제1항에 있어서,
기계 학습에 기반한 학습에 의해 생성되고, 그리고 상기 프로세서에 의해 실행되는, 모듈에 기반하여, 상기 클래스가 분류되는 전자 장치.
제1항에 있어서,
기계 학습에 기반한 학습에 의해 생성되고, 그리고 상기 프로세서에 의해 실행되는, 모듈에 기반하여, 상기 클래스가 분류되고 그리고 상기 필터가 선택되는 전자 장치.
제1항에 있어서,
상기 카메라 모듈은 제1 영역 및 제2 영역을 포함하고, 그리고
상기 카메라 모듈은 상기 제2 영역을 통해 상기 이미지 데이터를 생성하는 전자 장치.
제8항에 있어서,
상기 카메라 모듈은 제1 방향 및 상기 제1 방향과 수직한 제2 방향을 따라 돌출되는 형태의 점 확산 함수(PSF)(Point Spread Function)를 갖는 전자 장치.
제1항에 있어서,
상기 프로세서는 디콘볼루션(deconvolution) 필터, 와이너(weiner) 필터, ㄱ그리고 S(City Light Suppression) 필터를 포함하는 필터들 중 하나의 필터를 선택하는 전자 장치.
제1항에 있어서,
상기 이미지 데이터의 클래스의 분류가 실패하면, 상기 프로세서는 기본(default) 필터를 선택하는 전자 장치.
이미지 데이터 및 열화된 이미지 데이터를 저장하는 스토리지 장치;
상기 이미지 데이터 및 상기 열화된 이미지 데이터를 수신하고, 상기 열화된 이미지 데이터에서 클래스들을 분류하고, 그리고 상기 열화된 이미지 데이터를 상기 이미지 데이터로 복원하는 상기 클래스들에 각각 대응하는 필터들을 선택하는 프로세서; 그리고
상기 클래스들 및 상기 선택된 필터들 사이의 연관 정보를 포함하는 검색표를 저장하는 메모리를 포함하는 전자 장치.
제12항에 있어서,
상기 이미지 데이터의 클래스가 달라지면, 상기 선택된 필터가 달라지는 전자 장치.
제12항에 있어서,
상기 프로세서는 상기 이미지 데이터에 카메라 모듈의 점 확산 함수(PSF)(Point Spread Function)를 적용하여 상기 열화된 이미지 데이터를 생성하는 전자 장치.
제12항에 있어서,
기계 학습에 기반하여 학습에 의해 생성되고, 그리고 상기 프로세서에 의해 실행되는, 모듈에 기반하여, 상기 열화된 이미지 데이터로부터 복원된 이미지 데이터가 생성되는 전자 장치.
제15항에 있어서,
상기 프로세서는 상기 열화된 이미지 데이터로부터 상기 필터들 기반하여 복원된 이미지 데이터와 상기 이미지 데이터 사이의 차이 및 기준 에러에에 기반하여, 상기 필터들을 선택하고,
상기 기준 에러는 상기 열화된 이미지 데이터로부터 상기 모듈에 기반하여 복원된 이미지 데이터 사이의 차이에 기반하는 전자 장치.
제12항에 있어서,
상기 프로세서는 상기 선택된 필터들 각각의 사이즈를 감소시키는 전자 장치.
제17항에 있어서,
상기 프로세서는 상기 선택된 필터들 각각의 사이즈를 감소시키는 것에 의해 증가하는 에러가 문턱값보다 작도록, 상기 선택된 필터들 각각의 사이즈를 감소시키는 전자 장치.
이미지 데이터를 디블러링 하는 방법에 있어서:
원본 이미지 데이터 및 제1 열화된 이미지 데이터를 수신하는 단계;
상기 제1 열화된 이미지 데이터에서 클래스들을 분류하는 단계;
상기 제1 열화된 이미지 데이터를 상기 원본 이미지 데이터에 근접하게 복원하는, 상기 클래스들에 각각 대응하는 필터들을 탐색하는 단계;
제2 열화된 이미지 데이터를 수신하는 단계;
상기 제2 열화된 이미지 데이터에서 상기 클래스들을 분류하는 단계; 그리고
상기 클래스들에 각각 대응하는 상기 필터들을 상기 제2 열화된 이미지 데이터에 적용하여 복원된 이미지 데이터를 생성하는 단계를 포함하는 방법.
제19항에 있어서,
상기 필터는 카메라 모듈의 점 확산 함수(PSF)(Point Spread Function)를 보상하는 방법.