KR20190038440A - 심도 맵에서 스퓨리어스 픽셀들을 필터링하기 위한 방법 - Google Patents
심도 맵에서 스퓨리어스 픽셀들을 필터링하기 위한 방법 Download PDFInfo
- Publication number
- KR20190038440A KR20190038440A KR1020180116272A KR20180116272A KR20190038440A KR 20190038440 A KR20190038440 A KR 20190038440A KR 1020180116272 A KR1020180116272 A KR 1020180116272A KR 20180116272 A KR20180116272 A KR 20180116272A KR 20190038440 A KR20190038440 A KR 20190038440A
- Authority
- KR
- South Korea
- Prior art keywords
- pixels
- weighting function
- pixel
- intensity
- depth map
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 28
- 238000001914 filtration Methods 0.000 title claims abstract description 27
- 230000006870 function Effects 0.000 claims description 118
- 238000004590 computer program Methods 0.000 claims description 3
- 230000001052 transient effect Effects 0.000 claims description 2
- 238000009499 grossing Methods 0.000 abstract description 3
- 238000013459 approach Methods 0.000 abstract description 2
- 230000002146 bilateral effect Effects 0.000 abstract 4
- 230000002457 bidirectional effect Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 230000003628 erosive effect Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- G06T5/002—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/77—Retouching; Inpainting; Scratch removal
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/128—Adjusting depth or disparity
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20024—Filtering details
- G06T2207/20028—Bilateral filtering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20024—Filtering details
- G06T2207/20032—Median filtering
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Processing (AREA)
Abstract
본 발명은 심도 맵에서 스퓨리어스 픽셀들을 필터링하기 위한 방법에 관한 것이다. 스퓨리어스 픽셀들을 제거하기 위해 심도 맵을 필터링하는 것은 중요하다. 스퓨리어스 픽셀들을 필터링할 때 한가지 문제점은, 심도 맵의 실제 디테일들의 경계들을 유지하면서 이들을 제거하는 것이다. 스퓨리어스 픽셀들을 필터링하기 위한 알려진 접근법은 양방향 필터를 사용하는 것이다. 양방향 필터는 희미한 디테일들 또는 잡음을 평활화하면서 심도 맵의 급격한 에지들을 유지하는 것이 가능한 효율적인 필터링을 제공한다.
그러나, 양방향 필터는 스퓨리어스 픽셀들을 제거하는데 효율적이지 않다. 실제로, 스퓨리어스 픽셀들은 그들을 직접 둘러싸는 픽셀들에 대비하여 급격한 에지들을 보여준다. 다시 말해서, 양방향 필터는 필터링의 수 회 반복들 이후에도 스퓨리어스 픽셀들을 보유한다.
제안된 해결책은 심도 맵의 급격한 에지들을 유지하고 희미한 디테일들 또는 잡음을 평활화하면서 심도 맵에서 스퓨리어스 픽셀들을 제거하는 것이 가능하다.
그러나, 양방향 필터는 스퓨리어스 픽셀들을 제거하는데 효율적이지 않다. 실제로, 스퓨리어스 픽셀들은 그들을 직접 둘러싸는 픽셀들에 대비하여 급격한 에지들을 보여준다. 다시 말해서, 양방향 필터는 필터링의 수 회 반복들 이후에도 스퓨리어스 픽셀들을 보유한다.
제안된 해결책은 심도 맵의 급격한 에지들을 유지하고 희미한 디테일들 또는 잡음을 평활화하면서 심도 맵에서 스퓨리어스 픽셀들을 제거하는 것이 가능하다.
Description
본 발명은 심도 맵들에 관한 것으로, 특히 이미지 프로세싱을 수행할 때 심도 맵들의 사용에 영향을 미치는 스퓨리어스 픽셀들을 필터링하기 위한 방법에 관한 것이다.
심도 맵들은 특수한 이미지들이고, 각 픽셀은 카메라에 대하여 그 위치에서 관측되는 오브젝트들의 거리, 거리의 역, 또는 거리의 함수인 임의의 정보를 기록한다. 심도 맵은 예컨대, 동일한 시계를 관측하고 뷰들 사이의 시차들의 변화로 심도를 추론하는 몇몇 카메라들을 사용하여 계산될 수도 있다. 실제로, 추정된 심도 맵들은 스퓨리어스 픽셀들을 보여주고 있다. 많은 이유들이 깊이 맵 추정을 어렵게 만들며, 예를 들어: 오브젝트들이 하나의 카메라에서 다음 카메라로 부분적으로 마스킹되는 것; 오브젝트로부터 반사된 광의 변화가 상이한 위치에서 관측되는 것; 텍스처를 갖지 않거나 약간의 텍스처들을 갖는 표면들이 시차 추정을 어렵게 하는 것; 카메라들 간의 감도 변화 때문이다.
스퓨리어스 픽셀들을 제거하기 위해 깊이 맵을 필터링하는 것이 중요하다. 스퓨리어스 픽셀을 필터링할 때 하나의 문제는, 깊이 맵의 실제 디테일들의 경계들을 유지하면서 픽셀들을 제거하는 것이다.
스퓨리어스 픽셀들을 필터링하는 공지된 접근법은 양방향 필터 (bi-lateral filter) 를 사용하는 것이다. 양방향 필터는 픽셀 에 연관된 가중 함수 를 정의한다. 좌표들 은 중심 픽셀 및 가중치가 계산되는 픽셀 간의 쉬프트를 표시한다.
이다.
가중 함수 w 는 2 개의 파라미터들: 얼마나 많이 픽셀 이 중심 픽셀 보다 동일한 강도를 가져야만 하는지를 조절하는 ; 및 얼마나 많이 거리 가 컨벌루션 필터에 영향을 미치는지를 조절하는 에 의존한다. 픽셀의 강도는 픽셀과 카메라 간의 거리의 함수이다.
양방향 필터는 희미한 디테일들 또는 잡음을 평활화하면서 심도 맵의 급격한 에지들을 유지하는 것을 가능하게 하는 효율적인 필터링을 제공한다.
그러나, 양방향 필터는 스퓨리어스 픽셀들을 제거하는데 효율적이지 않다. 사실, 스퓨리어스 픽셀들은 그들을 직접 둘러싸는 픽셀들에 대비하여 급격한 에지들을 보여주고 있다. 에 위치된 스퓨리어스 픽셀에 대하여 계산된 가중 함수 는 와 유사한 비교할만한 진폭을 갖는 둘러싸는 픽셀들에 대해서만 높은 가중치를 갖는다. 따라서, 스퓨리어스 픽셀들은 양방향 필터링 스테이지 이후에 제거되지 않는다. 다시 말해서, 양방향 필터는 필터링의 몇 회 반복들 이후에도 스퓨리어스 픽셀들을 보존한다. 한가지 옵션은 파라미터 를 증가시키는 것이지만, 이는 스퓨리어스 픽셀들이 사라지는 (dissolve) 것 뿐만 아니라 오브젝트 경계들의 급격한 에지들을 초래할 것이다.
본 발명은 앞의 내용을 염두에 두고 고안되었다.
본 발명의 제 1 양태에 따르면, 심도 맵에서 스퓨리어스 픽셀들을 필터링하기 위한 컴퓨터 구현 방법이 제공되며, 그 방법은 현재 픽셀로 불리는 심도 맵의 픽셀에 대하여,
- 현재 픽셀에 중심이 있는 상기 심도 맵의 픽셀들의 그룹에 속하는, 이웃 픽셀로 불리는 적어도 하나의 픽셀에 대한 적어도 하나의 가중치를 결정하는 단계로서, 상기 가중치는 현재 픽셀과 상기 적어도 하나의 이웃 픽셀 간의 기하학적 거리 뿐만 아니라, 현재 픽셀에 인접하는 픽셀의 강도와 상기 적어도 하나의 이웃 픽셀의 강도의 함수인, 상기 적어도 하나의 가중치를 결정하는 단계,
- 결정된 상기 가중치가 계수들인, 적어도 하나의 인접 픽셀에 대응하는 가중 함수를 결정하는 단계,
- 모든 계수들의 합을 최대화하는 정규화된 가중 함수에 대응하는 컨벌루션 필터를 적용함으로써 상기 현재 픽셀들을 필터링하는 단계
를 포함한다.
제안된 해결책은 최소 또는 최대 필터들의 경우 심도 맵에서 스퓨리어스 픽셀들을 제거하면서 양방향 필터의 경우 심도 맵의 급격한 에지들을 유지하고 희미한 디테일들 또는 잡음들을 평활화하는 것을 가능하게 한다.
사실, 현재 픽셀이 스퓨리어스 픽셀이라면, 그 가중 함수의 모든 계수들의 합은 인접 픽셀들의 강도를 사용하여 결정된 다른 가중 함수들의 계수들의 합들과 비교하여 최대가 아닌데, 이는 인접 픽셀들 중에서는 스퓨리어스 픽셀들이 덜 빈번하기 때문이다.
최소/최대 필터들 해결책에서, 필터링된 픽셀은 이웃 픽셀들의 최소치:
또는 이웃 픽셀들의 최대치:
와 동일하다.
이미지 상에 최소 필터 및 그 다음에 최대 필터를 연속하여 호출하는 것은 이미지 침식 (image erosion) 으로 불린다. 이미지 상에 최대 필터 및 그 다음에 최소 필터를 연속하여 호출하는 것은 이미지 확장 (image dilatation) 으로 불린다. 침식 필터는 스퓨리어스 픽셀들의 직접적인 주변부보다 더 큰 진폭을 갖는 스퓨리어스 픽셀들을 제거하는 것을 허용한다. 반면에, 확장 필터는 스퓨리어스 픽셀들의 직접적인 주변부보다 작은 진폭을 갖는 스퓨리어스 픽셀들을 제거하는 것을 허용한다. 실제로, 침식 필터 또는 확장 필터는 스퓨리어스 픽셀들을 제거하는 것이 가능하지만, 실제 오브젝트들의 경계들에 심각한 영향을 미친다.
양방향 필터 해결책에서, 현재 픽셀은 가중 함수의 계산에 있어서 중요한 역할을 한다. 현재 픽셀이 스퓨리어스 픽셀이라면, 가중 함수는 현재 픽셀과 유사한 이웃 픽셀들을 강조한다. 따라서, 필터링 후에, 스퓨리어스 픽셀들은 사라지거나 소거되는 대신, 온전하게 유지된다.
본 발명의 일 실시형태에 따른 해결책에서, 발명자들은 가중 함수의 가중치들을 계산할 때 현재 픽셀의 강도를 인접 픽셀의 강도로 대체함으로써 가중 함수의 계산시 현재 픽셀의 역할을 제한하는 것을 제안한다. 따라서, 본 발명에 따른 방법은 현재 픽셀에 인접하는 픽셀들의 수 만큼 많은 가중 함수들을 생성하는 것이 가능하다. 현재 픽셀을 필터링하기 위해, 가중 함수는 복수의 생성된 가중 함수들 중에서 선택된다. 선택된 가중 함수는 대응하는 가중 함수의 모든 계수의 합을 최대화하는 것이다. 그 후에, 하나의 컨볼루션 필터가 선택된 가중 함수로부터 생성된다.
본 발명의 일 실시형태에 따르면, 적어도 인접 픽셀의 가중치는:
로 주어지며, 여기서 r 은 레퍼런스 값이고, T 는 심도 맵의 픽셀과 레퍼런스 값 r 간의 차이 기준이며, 는 현재 픽셀의 좌표들이고, 는 현재 픽셀 과 가중치가 결정되는 이웃 픽셀 간의 쉬프트를 나타낸다.
상기 간략화된 가중 함수는 스마트 폰들에 임베딩된 것들과 같은, 제한된 계산 능력을 갖는 프로세서들에 의해 실행될 수 있다.
본 발명의 일 실시형태에 따르면, 가중 함수는 1 차원 필터이고, 심도 맵의 배향과 직교한다.
본 발명의 일 실시형태에 따르면, 가중 함수의 배향은 각도 α 를 계산하는 것에 의해 결정되며, 각도 α 의 값은 제 1 변수 x 중에서 현재 픽셀의 강도의 국부 도함수 (local derivative) 와 제 2 변수 y 중에서 현재 픽셀의 강도의 국부 도함수의 비율의 아크 탄젠트이다.
본 발명의 일 실시형태에 따르면, 그 방법은:
- 계수들이 인접 픽셀들 중에서 최고 강도를 가지는 인접 픽셀의 강도의 함수로서 결정되는, 제 1 가중 함수를 결정하는 단계,
- 계수들이 인접 픽셀들 중에서 최저 강도를 가지는 인접 픽셀의 강도의 함수로서 결정되는, 제 2 가중 함수를 결정하는 단계,
- 계수들이 현재 픽셀의 강도의 함수로서 결정되는, 제 3 가중 함수를 결정하는 단계,
- 계수들이 인접 픽셀들의 강도들의 중간값인 강도의 함수로서 결정되는, 제 4 가중 함수를 결정하는 단계,
- 4 개의 가중 함수들 중에서 모든 계수들의 합을 최대화한 가중 함수에 대응하는 컨벌루션 필터를 적용함으로써 상기 현재 픽셀을 필터링하는 단계
를 더 포함한다.
오직 4 개의 가중 함수들을 생성하는 것은 스퓨리어스 픽셀들을 필터링하기 위해 요구되는 계산 부하를 감소시킨다. 이 4 개의 가중 함수들은 또한, 스마트 폰들에 임베딩된 GPU 에 의해 제공되는 벡터 계산을 이용한다.
본 발명의 다른 목적은 심도 맵에서 스퓨리어스 픽셀들을 필터링하는 것이 가능한 디바이스에 관한 것이며, 상기 디바이스는 적어도 하나의 하드웨어 프로세서를 포함하고, 적어도 하나의 하드웨어 프로세서는 현재 픽셀로 불리는 심도 맵의 픽셀에 대하여,
- 현재 픽셀에 중심이 있는 상기 심도 맵의 픽셀들의 그룹에 속하는, 이웃 픽셀로 불리는 적어도 하나의 픽셀에 대한 적어도 하나의 가중치를 결정하는 것으로서, 상기 가중치는 현재 픽셀과 상기 적어도 하나의 이웃 픽셀 간의 기하학적 거리 뿐만 아니라, 현재 픽셀에 인접하는 픽셀의 강도와 상기 적어도 하나의 이웃 픽셀의 강도의 함수인, 상기 적어도 하나의 가중치를 결정하고,
- 결정된 상기 가중치가 계수들인, 적어도 하나의 인접 픽셀에 대응하는 가중 함수를 결정하고,
- 모든 계수들의 합을 최대화하는 정규화된 가중 함수에 대응하는 컨벌루션 필터를 적용함으로써 상기 현재 픽셀들을 필터링하도록
구성된다.
본 발명의 일 실시형태에 따르면, 적어도 인접 픽셀의 가중치는:
로 주어지며, 여기서 r 은 레퍼런스 값이고, T 는 심도 맵의 픽셀과 레퍼런스 값 r 간의 차이 기준이며, 는 현재 픽셀의 좌표들이고, 는 현재 픽셀 과 가중치가 결정되는 이웃 픽셀 간의 쉬프트를 나타낸다.
본 발명의 일 실시형태에 따르면, 가중 함수는 1 차원 필터이고, 심도 맵의 에지들의 배향과 직교한다.
본 발명의 일 실시형태에 따르면, 가중 함수의 배향은 각도 α 를 계산하는 것에 의해 결정되며, 각도 α 의 값은 제 1 변수 x 중에서 현재 픽셀의 강도의 국부 도함수와 제 2 변수 y 중에서 현재 픽셀의 강도의 국부 도함수의 비율의 아크 탄젠트이다.
본 발명의 일 실시형태에 따르면, 하드웨어 프로세서는 추가로:
- 계수들이 인접 픽셀들 중에서 최고 강도를 가지는 인접 픽셀의 강도의 함수로서 결정되는, 제 1 가중 함수를 결정하고,
- 계수들이 인접 픽셀들 중에서 최저 강도를 가지는 인접 픽셀의 강도의 함수로서 결정되는, 제 2 가중 함수를 결정하고,
- 계수들이 현재 픽셀의 강도의 함수로서 결정되는, 제 3 가중 함수를 결정하고,
- 계수들이 인접 픽셀들의 강도들의 중간값인 강도의 함수로서 결정되는, 제 4 가중 함수를 결정하고,
- 4 개의 가중 함수들 중에서 모든 계수들의 합을 최대화하는 정규화된 가중 함수에 대응하는 컨벌루션 필터를 적용함으로써 상기 현재 픽셀을 필터링하도록
구성된다.
본 발명의 엘리먼트들에 의해 구현된 일부 프로세스들은 컴퓨터 구현될 수도 있다. 따라서, 상기 엘리먼트들은 완전히 하드웨어 실시형태, (펌웨어, 상주 소프트웨어, 마이크로-코드, 등을 포함하는) 완전히 소프트웨어 실시형태 또는 본원에서 모두 일반적으로 "회로", "모듈" 또는 "시스템" 으로 지칭될 수도 있는 소프트웨어 및 하드웨어 양태들을 결합한 실시형태의 형태를 취할 수도 있다. 추가로, 그러한 엘리먼트들은 매체에 수록된 컴퓨터 사용가능 프로그램 코드를 갖는 표현의 임의의 유형의 매체에 수록된 컴퓨터 프로그램 제품의 형태를 취할 수도 있다.
본 발명의 엘리먼트들이 소프트웨어로 구현될 수 있지만, 본 발명은 임의의 적절한 캐리어 매체 상에 프로그래밍가능한 장치에 제공하기 위한 컴퓨터 판독가능 코드로서 구현될 수 있다. 유형의 캐리어 매체는 프롤피 디스크, CD-ROM, 하드 디스크 드라이브, 자기 테이프 디바이스 또는 솔리드 상태 메모리 디바이스 등과 같은 저장 매체를 포함할 수도 있다. 일시적인 캐리어 매체는 전기 신호, 전자 신호, 과학 신호, 음향 신호, 자기 신호 또는 전자기 신호, 예컨대 마이크로파 EH는 RF 신호와 같은 신호를 포함할 수도 있다.
당업자에 의해 인식되는 것과 같이, 본 발명의 원리들의 양태들은 시스템, 방법 또는 컴퓨터 판독가능 매체로 구현될 수 있다. 따라서, 본 발명의 원리들의 양태들은 완전히 하드웨어 실시형태, (펌웨어, 상주 소프트웨어, 마이크로-코드, 등을 포함하는) 완전히 소프트웨어 실시형태, 또는 본원에서 모두 일반적으로 "회로", "모듈" 또는 "시스템" 으로 지칭될 수도 있는 소프트웨어 및 하드웨어 양태들을 결합한 실시형태의 형태를 취할 수 있다. 추가로, 본 발명의 원리들의 양태들은 컴퓨터 판독가능 저장 매체의 형태를 취할 수 있다. 하나 이상으 컴퓨터 판독가능 저장 매체(들)의 임의의 조합이 활용될 수도 있다.
도 1 은 본 발명의 실시형태에 따른 방법들을 실행하는 것이 가능한 디바이스의 일 예를 도시하는 개략 블록 다이어그램이다.
장치 (100) 는 버스 (106) 에 의해 접속되는, 프로세서 (101), 저장 유닛(102), 입력 디바이스 (103), 디스플레이 디바이스 (104), 인터페이스 유닛 (105) 을 포함한다. 물론, 컴퓨터 장치 (100) 의 구성 엘리먼트들은 버스 접속 이외의 접속에 의해 접속될 수도 있다.
프로세서 (101) 는 장치 (100) 의 동작들을 제어한다. 저장 유닛 (102) 은 프로세서 (101) 에 의해 실행될 적어도 하나의 프로그램, 심도 맵들, 프로세서 (101) 에 의해 수행될 계산들에 의해 사용된 파라미터들, 프로세서 (101) 에 의해 수행된 계산들의 중간 데이터, 등을 포함하는 다양한 데이터를 저장한다. 프로세서 (101) 는 임의의 알려진 적절한 하드웨어, 또는 소프트웨어, 또는 하드웨어와 소프트웨어의 조합에 의해 형성될 수도 있다. 예를 들어, 프로세서 (101) 는 프로세싱 회로와 같은 전용 하드웨어에 의해, 또는 그 메모리에 저장된 프로그램을 실행하는 중앙 프로세싱 유닛 (CPU) 과 같은 프로그래밍가능 프로세싱 유닛에 의해 형성될 수도 있다.
저장 유닛 (102) 은 프로그램, 데이터 등을 컴퓨터 판독가능한 방식으로 저장할 수 있는 임의의 적절한 스토리지 또는 수단에 의해 형성될 수도 있다. 저장 유닛 (102) 의 예들은 반도체 메모리 디바이스들과 같은 비-일시적 컴퓨터 판독가능 저장 매체 및 판독 및 기록 유닛으로 로드된 자기, 광학 또는 자기-광학 기록 매체를 포함한다. 프로그램은 프로세서 (101) 로 하여금, 도 3 및 도 4 를 참조하여 설명되는 것과 같은 본 개시물의 일 실시형태에 따른 라이트-필드 이미지를 조종하기 위한 프로세스를 수행하게 한다.
입력 디바이스 (103) 는 사용자가 커맨드들을 입력하기 위해 사용하는 키보드, 마우스와 같은 포인팅 디바이스, 등에 의해 형성될 수도 있다. 출력 디바이스 (104) 는 예컨대, 그래픽 사용자 인터페이스 (GUI) 를 디스플레이하기 위해 디스플레이 디바이스에 의해 형성될 수도 있다. 입력 디바이스 (103) 와 출력 디바이스 (104) 는 예컨대, 터치 스크린 패널에 의해 통합하여 형성될 수도 있다.
인터페이스 유닛 (105) 은 장치 (100) 와 외부 장치 간에 인터페이스를 제공한다. 인터페이스 유닛 (105) 은 케이블 또는 무선 통신을 통해 외부 장치와 통신가능할 수도 있다.
장치 (100) 는 예컨대, 태블릿 또는 스마트폰과 같은 휴대용 디바이스일 수도 있다.
도 2 는 본 발명의 실시형태에 따른 심도 맵의 스퓨리어스 픽셀들을 필터링하기 위한 방법의 단계들의 흐름도를 나타낸다. 다음 단계들은 심도 맵의 모든 픽셀들에 대하여 실행된다.
단계 (200) 에서, 디바이스 (100) 의 프로세서 (101) 는 이웃 픽셀들로 불리는 도 3 에 표현된 것과 같은 현재 픽셀에 중심이 있는 픽셀들의 그룹을 정의한다. 도 3 에서 이웃 픽셀들의 그룹은 5x5 그룹이다.
단계 (201) 에서, 디바이스 (100) 의 프로세서 (101) 는 현재 픽셀에 연관된 제 1 가중 함수 의 가중치들을 계산하며, 여기서 는 중심도 맵에서 현재 픽셀의 좌표들이다.
가중치는 강도 항: (여기서 는 현재 픽셀의 강도이고 는 가중치가 결정되는 이웃 픽셀의 강도임); 및 픽셀 값들에 독립적인 기하학적 거리 항 에 의존한다. 본 발명의 일 실시형태에서, 함수들 r 및 d 은:
이다.
가중치 w 는 2 개의 파라미터들: 얼마나 많이 고려된 이웃 픽셀이 현재 픽셀보다 동일한 강도를 가져야만 하는지를 조절하는 ; 및 얼마나 많이 거리 가 가중 함수에 영향을 미치는지를 조절하는 에 의존한다.
상기 가중치들은 현재 픽셀의 모든 이웃 픽셀들에 대하여 계산된다.
로 주어진다.
단계 (203) 에서, 디바이스 (100) 의 프로세서 (101) 는 현재 픽셀에 연관된 제 2 가중 함수의 가중치들 을 계산한다.
여기서 는 현재 픽셀 간의 쉬프트를 표시하고, 는 현재 픽셀에 인접하는 고려되는 픽셀 및 좌표들이 가중치가 계산되는 인 이웃 픽셀의 좌표들이다. 본 발명의 일 실시형태에서, 9 개의 가중 함수들을 계산하기 위해 를 정의할 수 있다.
본 발명의 일 실시형태에서, 함수들 r 및 d 은:
이다.
그러한 가중치들은 현재 픽셀의 모든 이웃 픽셀들에 대하여 계산된다.
본 발명의 일 실시형태에서, 단계들 (203 및 204) 은 현재 픽셀에 인접하는 각 픽셀에 대하여 실행되어 동수의 가중 함수들을 생성한다.
본 발명의 다른 실시형태에서, 단계들 (203 및 204) 은 3 회 실행되어 3 개의 가중 함수들을 생성한다.
단계 (205) 에서, 현재 픽셀을 필터링하기 위해 적용될 컨벌루션 필터는 단계들 (201 내지 204) 동안 생성된 복수의 컨벌루션 필터 중에서 선택된다.
본 발명에 따르면, 현재 픽셀이 스퓨리어스 픽셀일 때, 그 가중 함수 는 다른 가중 함수들과 비교하여 작은 합 을 가지며, 이는 가중 함수 가 계산되는 P 개의 인접 픽셀들에서, 스퓨리어스 픽셀들이 덜 빈번하기 때문이다.
본 발명의 일 실시형태에서, 선택된 가중 함수는 그 적분이 1.0 과 동일하도록 정규화된다.
도 2 를 참조하여 설명된 방법은 심도 맵의 모든 픽셀들에 적용될 수도 있다. 가능하면 그 방법은 수 회 반복된다. 본 발명의 일 실시형태에서, 파라미터들 및 은 눈 검사에 기초하여 사용자에 의해 수동적으로 선택된다.
본 발명의 일 실시형태에서,
로 정의된 더 간단한 가중치가 사용되며, 여기서 r 는 레퍼런스 값이고, T 는 심도 맵 픽셀 대 레퍼런스 값 r 간의 차이 기준이다. 이 가중치는 2 개의 명령들에서 w 를 추정하는 것을 허용하는 및 와 같은 GPU 명령들로 용이하게 계산된다.
본 발명의 다른 실시형태에서, 가중 함수는 2P+1 픽셀들로 이루어진 1 차원 (1D) 가중 함수이다. 1D 가중 함수는 심도 맵 이미지의 윤곽들에 수직으로 배향된다.
로 주어진다.
본 발명의 상기 실시형태에서, 현재 픽셀에 적용된 컨벌루션 필터는:
이다.
이 경우에, 에 접근하기 위한 픽셀 좌표는 정수가 아니다. GPU 구현에서, 비-정수 좌표들에 접근하는 것은 이중 선형 보간법 (bi-linear interpolation) 에 의해 간단해진다. GPU들은 정수 좌표들만큼 효율적으로 비-정수에 접근하도록 최적화된다.
본 발명은 특정 실시형태들을 참조하여 앞서 설명되었지만, 본 발명은 특정 실시형태들에 제한되는 것이 아니라, 본 발명의 범위 내에 있는 수정들이 당업자에게 명백할 것이다.
다수의 추가의 수정들 및 변경들은, 첨부된 청구항들에 의해서만 결정되는, 오직 예로서 제공되고 본 발명의 범위를 제한하려는 것이 아닌 앞의 예시적인 실시형태들을 참조하여 당업자에게 그들 자체를 제안할 것이다. 특히 상이한 실시형태들로부터의 상이한 특징들이 적절한 경우, 상호교환될 수도 있다.
101
프로세서
102 저장 유닛
103 입력 디바이스
104 출력 디바이스
105 인터페이스 유닛
102 저장 유닛
103 입력 디바이스
104 출력 디바이스
105 인터페이스 유닛
Claims (13)
- 심도 맵에서 픽셀들을 필터링하기 위한 컴퓨터 구현 방법으로서,
현재 픽셀로 불리는 상기 심도 맵의 픽셀에 대하여,
- 상기 현재 픽셀에 중심이 있는 상기 심도 맵의 픽셀들의 그룹에 속하는, 이웃 픽셀로 불리는 적어도 하나의 픽셀에 대한 적어도 하나의 가중치를 결정하는 단계로서, 상기 가중치는 상기 현재 픽셀과 적어도 하나의 상기 이웃 픽셀 간의 기하학적 거리 뿐만 아니라, 상기 현재 픽셀에 인접하는 픽셀의 강도와 상기 적어도 하나의 이웃 픽셀의 강도의 함수인, 상기 적어도 하나의 가중치를 결정하는 단계,
- 적어도 하나의 인접 픽셀에 대응하는 가중 함수를 결정하는 단계로서, 상기 가중 함수의 계수들은 결정된 상기 가중치인, 상기 가중 함수를 결정하는 단계,
- 모든 계수들의 합을 최대화한 가중 함수에 대응하는 컨벌루션 필터를 적용함으로써 상기 현재 픽셀을 필터링하는 단계
를 포함하는, 심도 맵에서 픽셀들을 필터링하기 위한 컴퓨터 구현 방법. - 제 1 항에 있어서,
상기 가중 함수는 1 차원 필터이고, 상기 심도 맵의 배향과 직교하는, 심도 맵에서 픽셀들을 필터링하기 위한 컴퓨터 구현 방법. - 제 3 항에 있어서,
상기 가중 함수의 배향은 각도 α 를 계산하는 것에 의해 결정되며, 상기 각도 α 의 값은 제 1 변수 x 중에서 상기 현재 픽셀의 강도의 국부 도함수 (local derivative) 와 제 2 변수 y 중에서 상기 현재 픽셀의 강도의 국부 도함수의 비율의 아크 탄젠트인, 심도 맵에서 픽셀들을 필터링하기 위한 컴퓨터 구현 방법. - 제 1 항 내지 제 4 항 중 어느 한 항에 있어서,
- 제 1 가중 함수를 결정하는 단계로서, 상기 제 1 가중 함수의 계수들은 인접 픽셀들 중에서 최고 강도를 가지는 인접 픽셀의 강도의 함수로서 결정되는, 상기 제 1 가중 함수를 결정하는 단계,
- 제 2 가중 함수를 결정하는 단계로서, 상기 제 2 가중 함수의 계수들은 상기 인접 픽셀들 중에서 최저 강도를 가지는 인접 픽셀의 강도의 함수로서 결정되는, 상기 제 2 가중 함수를 결정하는 단계,
- 제 3 가중 함수를 결정하는 단계로서, 상기 제 3 가중 함수의 계수들은 상기 현재 픽셀의 강도의 함수로서 결정되는, 상기 제 3 가중 함수를 결정하는 단계,
- 제 4 가중 함수를 결정하는 단계로서, 상기 제 4 가중 함수의 계수들은 상기 인접 픽셀들의 강도들의 중간값인 강도의 함수로서 결정되는, 상기 제 4 가중 함수를 결정하는 단계,
- 4 개의 가중 함수들 중에서 모든 계수들의 합을 최대화한 가중 함수에 대응하는 컨벌루션 필터를 적용함으로써 상기 현재 픽셀을 필터링하는 단계를 포함하는, 심도 맵에서 픽셀들을 필터링하기 위한 컴퓨터 구현 방법. - 심도 맵에서 픽셀들을 필터링하는 것이 가능한 디바이스로서,
상기 디바이스는 적어도 하나의 하드웨어 프로세서를 포함하고,
상기 적어도 하나의 하드웨어 프로세서는, 현재 픽셀로 불리는 상기 심도 맵의 픽셀에 대하여,
- 상기 현재 픽셀에 중심이 있는 상기 심도 맵의 픽셀들의 그룹에 속하는, 이웃 픽셀로 불리는 적어도 하나의 픽셀에 대한 적어도 하나의 가중치를 결정하는 것으로서, 상기 가중치는 상기 현재 픽셀과 적어도 하나의 상기 이웃 픽셀 간의 기하학적 거리 뿐만 아니라, 상기 현재 픽셀에 인접하는 픽셀의 강도와 상기 적어도 하나의 이웃 픽셀의 강도의 함수인, 상기 적어도 하나의 가중치를 결정하고,
- 적어도 하나의 인접 픽셀에 대응하는 가중 함수를 결정하는 것으로서, 상기 가중 함수의 계수들은 결정된 상기 가중치인, 상기 가중 함수를 결정하고,
- 모든 계수들의 합을 최대화한 가중 함수에 대응하는 컨벌루션 필터를 적용함으로써 상기 현재 픽셀들을 필터링하도록
구성되는, 심도 맵에서 픽셀들을 필터링하는 것이 가능한 디바이스. - 제 6 항에 있어서,
상기 가중 함수는 1 차원 필터이고, 상기 심도 맵의 배향과 직교하는, 심도 맵에서 픽셀들을 필터링하는 것이 가능한 디바이스. - 제 8 항에 있어서,
상기 가중 함수의 배향은 각도 α 를 계산하는 것에 의해 결정되며, 상기 각도 α 의 값은 제 1 변수 x 중에서 상기 현재 픽셀의 강도의 국부 도함수와 제 2 변수 y 중에서 상기 현재 픽셀의 강도의 국부 도함수의 비율의 아크 탄젠트인, 심도 맵에서 픽셀들을 필터링하는 것이 가능한 디바이스. - 제 6 항 내지 제 9 항 중 어느 한 항에 있어서,
상기 하드웨어 프로세서는 추가로:
- 제 1 가중 함수를 결정하는 것으로서, 상기 제 1 가중 함수의 계수들은 인접 픽셀들 중에서 최고 강도를 가지는 인접 픽셀의 강도의 함수로서 결정되는, 상기 제 1 가중 함수를 결정하고,
- 제 2 가중 함수를 결정하는 것으로서, 상기 제 2 가중 함수의 계수들은 상기 인접 픽셀들 중에서 최저 강도를 가지는 인접 픽셀의 강도의 함수로서 결정되는, 상기 제 2 가중 함수를 결정하고,
- 제 3 가중 함수를 결정하는 것으로서, 상기 제 3 가중 함수의 계수들은 상기 현재 픽셀의 강도의 함수로서 결정되는, 상기 제 3 가중 함수를 결정하고,
- 제 4 가중 함수를 결정하는 것으로서, 상기 제 4 가중 함수의 계수들은 상기 인접 픽셀들의 강도들의 중간값인 강도의 함수로서 결정되는, 상기 제 4 가중 함수를 결정하고,
- 4 개의 가중 함수들 중에서 모든 계수들의 합을 최대화한 가중 함수에 대응하는 컨벌루션 필터를 적용함으로써 상기 현재 픽셀을 필터링하도록
구성되는, 심도 맵에서 픽셀들을 필터링하는 것이 가능한 디바이스. - 컴퓨터 프로그램이 프로세서에 의해 실행될 때, 제 1 항에 기재된 방법의 구현을 위한 프로그램 코드 명령들을 포함하는 것을 특징으로 하는 컴퓨터 프로그램.
- 프로세서로 하여금 제 1 항에 기재된 방법을 수행하게 하기 위한 명령들이 저장된 프로세서 판독가능 매체.
- 프로그램이 컴퓨팅 디바이스 상에서 실행될 때, 제 1 항에 기재된 방법을 실행하기 위한 프로그램 코드의 명령들을 수록하는 비-일시적 저장 매체.
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP17306301.7A EP3462408A1 (en) | 2017-09-29 | 2017-09-29 | A method for filtering spurious pixels in a depth-map |
EP17306301.7 | 2017-09-29 |
Publications (1)
Publication Number | Publication Date |
---|---|
KR20190038440A true KR20190038440A (ko) | 2019-04-08 |
Family
ID=60083904
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020180116272A KR20190038440A (ko) | 2017-09-29 | 2018-09-28 | 심도 맵에서 스퓨리어스 픽셀들을 필터링하기 위한 방법 |
Country Status (5)
Country | Link |
---|---|
US (1) | US10832382B2 (ko) |
EP (2) | EP3462408A1 (ko) |
JP (1) | JP2019082998A (ko) |
KR (1) | KR20190038440A (ko) |
CN (1) | CN109636730B (ko) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3462408A1 (en) * | 2017-09-29 | 2019-04-03 | Thomson Licensing | A method for filtering spurious pixels in a depth-map |
US11436706B2 (en) * | 2018-03-19 | 2022-09-06 | Sony Corporation | Image processing apparatus and image processing method for improving quality of images by removing weather elements |
JP7469298B2 (ja) | 2019-04-24 | 2024-04-16 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | 到来方向推定装置、システム、及び、到来方向推定方法 |
CN110458850B (zh) * | 2019-08-01 | 2020-12-11 | 北京灵医灵科技有限公司 | 一种大关节组织的分割方法和分割系统 |
CN113096024B (zh) * | 2020-01-09 | 2023-05-09 | 舜宇光学(浙江)研究院有限公司 | 用于深度数据的去飞点方法及其系统和电子设备 |
Family Cites Families (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP0478040A3 (en) | 1990-09-28 | 1993-06-16 | Ampex Corporation | Four direction adaptive error concealment system for component digital television signals |
JP2006135521A (ja) | 2004-11-04 | 2006-05-25 | Ricoh Co Ltd | 画像処理装置、画像処理方法、プログラム及び情報記録媒体 |
EP2087466B1 (en) * | 2006-11-21 | 2020-06-17 | Koninklijke Philips N.V. | Generation of depth map for an image |
DE102006056650A1 (de) * | 2006-12-11 | 2008-04-17 | Siemens Ag | Verfahren zur bilateralen Filterung digitaler Bilddaten |
US8395642B2 (en) * | 2009-03-17 | 2013-03-12 | Mitsubishi Electric Research Laboratories, Inc. | Method for virtual image synthesis |
US8270752B2 (en) | 2009-03-17 | 2012-09-18 | Mitsubishi Electric Research Laboratories, Inc. | Depth reconstruction filter for depth coding videos |
KR101807886B1 (ko) * | 2009-10-14 | 2017-12-11 | 돌비 인터네셔널 에이비 | 깊이 맵 처리를 위한 방법 및 디바이스 |
US9008457B2 (en) * | 2010-05-31 | 2015-04-14 | Pesonify, Inc. | Systems and methods for illumination correction of an image |
US20130222377A1 (en) * | 2010-11-04 | 2013-08-29 | Koninklijke Philips Electronics N.V. | Generation of depth indication maps |
US9007441B2 (en) * | 2011-08-04 | 2015-04-14 | Semiconductor Components Industries, Llc | Method of depth-based imaging using an automatic trilateral filter for 3D stereo imagers |
EP2786580B1 (en) | 2011-11-30 | 2015-12-16 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Spatio-temporal disparity-map smoothing by joint multilateral filtering |
KR20130090846A (ko) | 2012-02-06 | 2013-08-14 | 한국전자통신연구원 | 깊이 영상 복호화 방법 및 장치 |
US9509977B2 (en) * | 2012-03-28 | 2016-11-29 | Olympus Corporation | Image processing system and microscope system including the same |
BR112017024765A2 (pt) * | 2015-05-21 | 2018-07-31 | Koninklijke Philips N.V. | aparelho para determinar um mapa de profundidade para uma imagem, método para determinar um mapa de profundidade para uma imagem, e produto de programa de computador |
US9852495B2 (en) * | 2015-12-22 | 2017-12-26 | Intel Corporation | Morphological and geometric edge filters for edge enhancement in depth images |
US10121231B2 (en) * | 2016-02-01 | 2018-11-06 | Texas Instruments Incorporated | Adaptive bilateral (BL) filtering for computer vision |
EP3462408A1 (en) * | 2017-09-29 | 2019-04-03 | Thomson Licensing | A method for filtering spurious pixels in a depth-map |
-
2017
- 2017-09-29 EP EP17306301.7A patent/EP3462408A1/en not_active Withdrawn
-
2018
- 2018-09-25 JP JP2018179276A patent/JP2019082998A/ja active Pending
- 2018-09-26 EP EP18196924.7A patent/EP3462409B1/en active Active
- 2018-09-28 KR KR1020180116272A patent/KR20190038440A/ko unknown
- 2018-09-29 US US16/147,660 patent/US10832382B2/en active Active
- 2018-09-29 CN CN201811147509.3A patent/CN109636730B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
EP3462409B1 (en) | 2021-08-04 |
JP2019082998A (ja) | 2019-05-30 |
EP3462408A1 (en) | 2019-04-03 |
US20190102867A1 (en) | 2019-04-04 |
CN109636730A (zh) | 2019-04-16 |
US10832382B2 (en) | 2020-11-10 |
CN109636730B (zh) | 2024-05-10 |
EP3462409A1 (en) | 2019-04-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR20190038440A (ko) | 심도 맵에서 스퓨리어스 픽셀들을 필터링하기 위한 방법 | |
JP6507846B2 (ja) | 画像ノイズ除去方法及び画像ノイズ除去装置 | |
US9292928B2 (en) | Depth constrained superpixel-based depth map refinement | |
CN104375797B (zh) | 一种信息处理方法及电子设备 | |
Gunturk | Fast bilateral filter with arbitrary range and domain kernels | |
US8406518B2 (en) | Smoothed local histogram filters for computer graphics | |
KR20150037369A (ko) | 영상의 노이즈를 저감하는 방법 및 이를 이용한 영상 처리 장치 | |
JP6369150B2 (ja) | アンチエイリアシングエッジを回復するフィルタリング方法及びフィルタリング装置 | |
JP2010508570A (ja) | 結合された強度の投影 | |
CN108846818A (zh) | 去除摩尔纹的方法、装置、终端及计算机可读存储介质 | |
EP2898668A1 (en) | System for photograph enhancement by user controlled local image enhancement | |
GB2600808A (en) | Denoising images rendered using Monte Carlo renderings | |
CN113436112A (zh) | 一种图像增强方法、装置及设备 | |
KR20160066425A (ko) | 이미지 블러링 방법 및 장치 | |
JP2016197377A (ja) | 画像補正用コンピュータプログラム、画像補正装置及び画像補正方法 | |
Jose et al. | Bilateral edge detectors | |
US11030791B2 (en) | Centroid selection for variable rate shading | |
KR102638038B1 (ko) | 비지역적 평균 기반의 노이즈 제거 장치 및 방법 | |
US10121253B2 (en) | Method and apparatus for modeling target object to represent smooth silhouette | |
CN107330866B (zh) | 高光区域的消除方法、装置及终端 | |
WO2020124355A1 (zh) | 图像处理方法、图像处理装置和无人机 | |
EP4372673A1 (en) | Method and apparatus for processing image based on neural network | |
CN104360854A (zh) | 一种信息处理方法及电子设备 | |
KR101595257B1 (ko) | 디지털 영상 처리 장치 및 방법과 이를 위한 기록매체 | |
CN116309657A (zh) | 边缘检测方法、装置、电子设备和存储介质 |