KR101284414B1 - 광 촬상을 위한 방법, 장치 및 영상 처리 장치 - Google Patents

광 촬상을 위한 방법, 장치 및 영상 처리 장치 Download PDF

Info

Publication number
KR101284414B1
KR101284414B1 KR1020117008573A KR20117008573A KR101284414B1 KR 101284414 B1 KR101284414 B1 KR 101284414B1 KR 1020117008573 A KR1020117008573 A KR 1020117008573A KR 20117008573 A KR20117008573 A KR 20117008573A KR 101284414 B1 KR101284414 B1 KR 101284414B1
Authority
KR
South Korea
Prior art keywords
image
image detector
micro
optical
channels
Prior art date
Application number
KR1020117008573A
Other languages
English (en)
Other versions
KR20110074984A (ko
Inventor
안드레아스 브루크너
쟈크 두파레
프랑크 윕페르만
피터 댄베르그
안드레아스 브로이어
Original Assignee
프라운호퍼 게젤샤프트 쭈르 푀르데룽 데어 안겐반텐 포르슝 에. 베.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 프라운호퍼 게젤샤프트 쭈르 푀르데룽 데어 안겐반텐 포르슝 에. 베. filed Critical 프라운호퍼 게젤샤프트 쭈르 푀르데룽 데어 안겐반텐 포르슝 에. 베.
Publication of KR20110074984A publication Critical patent/KR20110074984A/ko
Application granted granted Critical
Publication of KR101284414B1 publication Critical patent/KR101284414B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0025Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for optical correction, e.g. distorsion, aberration
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B3/00Simple or compound lenses
    • G02B3/0006Arrays
    • G02B3/0037Arrays characterized by the distribution or form of lenses
    • G02B3/0056Arrays characterized by the distribution or form of lenses arranged along two different directions in a plane, e.g. honeycomb arrangement of lenses
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof

Abstract

적어도 2 개의 마이크로 렌즈를 갖는 적어도 하나의 마이크로 렌즈 필드, 및 적어도 2 개의 이미지 검출기 매트릭스를 갖는 이미지 센서를 포함하는 광 촬상을 위한 장치가 개시된다. 적어도 2 개의 이미지 검출기 매트릭스들 각각은 복수의 이미지 검출기들을 포함한다. 이미지 검출기 매트릭스들 및 마이크로 렌즈 사이의 배열에 존재하여, 각 마이크로 렌즈는 이미지 검출기 매트릭스와 함께 광 채널을 형성한다. 각기 다른 이미지 검출기 매트릭스들의 센터들은 관련된 광 채널들의 마이크로 렌즈 조리개들의, 이미지 검출기 매트릭스들 상으로 프로젝트된, 중심들(centroids)에 대해 측면으로 각기 다른 거리들만큼 오프셋되어, 각기 다른 광 채널들이 서로 다르지만 부분적으로 중첩하는 검출 영역을 포함하고, 두 채널의 검출 영역들의 중첩하는 영역은 이미지 검출기 매트릭스들의 이미지 검출기 래스터에 대해 이미지 검출기 매트릭스들 상으로 촬상된다. 또한, 광 촬상을 위한 영상 처리 장치 및 방법이 개시된다.

Description

광 촬상을 위한 방법, 장치 및 영상 처리 장치{Device, image processing device and method for optical imaging}
본 발명은 예를 들어, 휴대가능한 터미널 장치를 위한 소형화된 카메라 시스템에 사용될 수 있는 광 촬상을 위한 방법, 장치 및 영상 처리 장치에 관한 것이다.
휴대가능한 터미널 장치(휴대 전화, PDA, 노트북, 등)를 위한 소형화된 카메라 시스템의 사용은, 전자적 및 광전자적 장치들의 소형화와는 별개로, 또한 촬상 오브젝티브(objective) 또는 렌즈의 소형화를 필요로 한다. 이것의 전제 조건으로,오브젝티브의 짧은 길이 및 적은 개수의 광학 부품들(특히 렌즈 요소들)을 들 수 있다. 반도체 패터닝 기술의 발전(더 작은 포토다이오드는 곧 동일한 이미지 지역 상의 더 많은 개수의 픽셀들과 동일함) 및 센서 양산 비용의 감소에 의해 뒷받침되는 이미지 센서 길이(diagonal)의 감소가 증가하는 것은, 하지만 광학 구성을 간단하게 만듦에도 불구하고, 광학소자의 고 해상도 용량(capacity) 및 높은 광의 세기가 얻어져야 할 것이 요구된다. 기존의 광학 설계 해법들은 현재의 양산 기술들의 가능성들을 소진하는, 몇몇의, 하지만 복잡한 (통상적으로 비구면(aspherical)) 렌즈 형태에 의해 특징지워질 수 있다. 불만족스러운 측정에 의해, 이렇듯 소형화된 카메라 렌즈 또는 오브젝티브와 같은 광학 부품들을 쓰기 위해 필요한 복잡한 영역역들의 품질 제어 및 매우 정확한 측면 및 축상의 마운팅 정확도를 위한 방법들은 이러한 해법들을 구현할 때 더 제한된다. 소형화된 카메라 모듈을 위한 기존의 해결책은 스펙(specification)의 요구사항도, 비용과 관련한 사용자 및 집적기(integrator)의 기대도 만족시키지 못한다.
소형 카메라 광학의 잘 확립된 양산 방법은, 단일 렌즈 및 초정밀(ultra precision) 처리된 몰드 인서트로의 플라스틱 주입(injection) 몰딩에 의해 마운트들을 생성하는 것이다. 일반적으로, 여기서는 렌즈들이 2-부품 주입 몰딩에서 그들의 마운트와 함께 제작될 수 있다. 개별적인 부품들이 이어서 플러그인 마운트에 탑재되고 확실한 연결 수단(연결하여 비틀기, 부착(adhering))에 의해 고정된다. 이 방법은 하지만, 충분한 조절 정확도에서 5 × 5 × 5 mm3 보다 작은 빌딩 크기를 가지는 소형화된 오브젝티브의 제작에 적용되지 않을 수 있다. 이러한 작은 부품들을 공급하고 마운트하고 연결하는 기술에서 추가적인 문제가 발생한다. 구체적으로, 부품들을 다루는 데 관련된 문제점들이 정전기력(장치들의 적은 중량 및 크기들) 및 민감한 광학 표면을 오염시키거나 스크래치를 낼 위험으로 인해 발생된다. 이러한 이유로, 생산 비용의 80% 이상이 어셈블리 프로세스로 인한 것이다. 하이브리드 마운팅 기술(공압(pneumatic)뿐 아니라 센서적으로 지원되는 기계적 및 정전기적 마이크로 그리퍼(gripper))에서 소형 광학소자를 다루는 것과 관련하여 개선된 접근법들이 있긴 하지만, 실질적으로 대규모 양산(예를 들어, 휴대 전화를 위한 카메라 광학)을 위한 비용을 증가시킨다. 또한, 더 높은 해상도 형태들을 위한 하이브리드 제조 기술에 의해 동적 포지셔닝, 예를 들어 플라스틱 광학의 피에조 액츄에이터(piezo actuator)가 광전자 이미지 컨버터(이미지 센서) 상에 오브젝티브를 마운팅하는 공차(tolerance)을 밸런싱하는 데 필요하다. 이것은 추가적으로 유닛 가격을 상승시킨다.
5 × 5 × 5 mm3 보다 작은 크기 범위의 대상들을 위한 또 다른 방법은 웨이퍼 레벨(WLO 웨이퍼 레벨 광학) 상에 광학소자를 제조하는 방식이다. 여기서, 기판 웨이퍼(웨이퍼 레벨 광학 모듈들) 상에 개별 부품의 반복된 UV 복제(스텝 및 반복 처리)를 위해, 초정밀 프로세싱(예를 들어, 다이아몬드 절단)에 의해 생성된 개별적인 단일 렌즈에 대한 도구(tool) 비트가 사용된다. 또한, 항상 동일한 부품들을 갖는 완전한 도구 웨이퍼가 초정밀 프로세싱에 의해 생성되고 후속적으로 웨이퍼 레벨 상에서 하나의 단일 UV 복제 단계에서 복제될 수 있다. 동일한 유형의 많은 렌즈들 및 또한 스페이서(spacer)들 및 조리개(aperture)들이 이러한 방식으로 병렬로 생산될 수 있다. 후속하는 스텝에서, 개별적인 웨이퍼 플레이트들이 복수의 오브젝티브를 가지는 웨이퍼 스택을 획득하기 위해 서로 축상으로 접착될 수 있다. 이것이 마이크로 전자공학 제조의 프로세스 및 시스템을 이용한 병렬화된 생산 기술이다. 통상적인 마이크로 렌즈들과 비교해 상대적으로 큰 소형화된 렌즈들을 위한 마이크로-광학의 이러한 생산 방법의 주요한 단점들은 적절한 재생산 수단들을 생산하는 고비용 및 높은 꼭지점들(100μm 보다 높은)의 마이크로 렌즈들의 UV 복제에서의 획득가능한 표면 프로파일의, 예를 들어 재료의 축소로 인한, 제한된 정확도이다. 또한, 복제가능성 및 품질 테스팅, 특히 이러한 크기의 복잡한 렌즈 형태를 특성화하는 것과 관련한 문제가 남아 있다. 지금까지 모듈들은 생산 단계들 및 부품들의 개수에 따라 수율을 강하게 감소시키는 촬상 방법을 이용해 모든 다른 광학 부품들과 관련하여 테스트될 수만 있다.
또한, 곤충들의 동격 겹눈(apposition compound eye)의 기술적 구현을 표현하는 평판 광학 촬상 센서의 배열이 존재한다. 이 극한적으로 조밀한, 멀티-채널 촬상 시스템에서, 광검출기(픽셀)가 각 마이크로 렌즈들과 연관되어 있다.
아래에서는 광검출기들이 부분적으로 또한 이미지 검출기 또는 또한 포토다이오드로서 불릴 수 있다.
개별적인 마이크로 렌즈에 대한 광검출기의 오프셋으로 인해, 작은 크기에도 불구하고 매우 큰 시야(visual field)가 확장될 수 있다. 하지만, 채널당 하나의 포토검출기의 사용으로 인해, 적절한 이미지 해상도 용량을 획득하기 위해 광검출기 필드(CMOS 또는 CCD 이미지 센서)에 대한 광범위한 수요가 있다. 이것은 대응적으로 소형화된 촬상 센서의 제조 비용을 상당히 증가시킨다.
문헌 DE 10 2004 003 013.8 및 PCT 특허출원 WO 2005/069607 은 인공 겹눈을 기반으로 한 멀티-채널 촬상 시스템을 서술하며, 여기서 이미지 검출기가 각 채널에 할당되거나 여러 기능을 갖는 몇 개의 이미지 검출기가 각 채널에 할당된다. 각 채널은 따라서 대상 필드의 좁게 한정된 영역만을 캡쳐한다.
문헌 US 005696371 A 및 EP 0840502A2는 인공 겹눈을 기반으로 한 추가적인 멀티-채널 촬상 시스템을 서술한다. 멀티-채널 굴절/회절 촬장 광학 및 세그먼트된 시야를 가지는 컴팩트 디지털 카메라가 서술된다. 해당 시스템은 광감성 이미지 센서 필드가 그 초점 거리 내에 위치하는 역집중화된 렌즈 세그먼트로서 구현된 렌즈들의 필드 배열로 구성된다. 렌즈 필드의 축상으로 앞쪽에 슬로핑 측벽 및 렌즈 필드에 비해 더 큰 피리어드(period)를 가지는 두 개의 조리개 필드가 시야의 크기를 나타내기 위해 사용된다. 광 크로스톡을 억제하기 위해, 광-흡수 재료의 수직 벽들이 이웃하는 광 채널들 사이에 삽입된다.
J. Tanida, T. Kumagai, K. Yamada 및 S. Miyatake의 2001년 4월의 문헌 "Thin observation module by bound optics (Tombo) concept and experimental verification" Appl. Opt. 40, 1806-1813 페이지에서는, 광 촬상을 위한 추가적인 멀티-채널 배열을 보여준다. 이 문헌으로부터, 광전자 이미지 센서의 마이크로 이미지들이 개별적으로 연관된 마이크로 렌즈의 중심으로 축상 아래에 위치하고 수직 불투명 벽들을 가지는 주변 채널들이 서로 분리되는 멀티-채널 배열이 알려졌다. 하지만, 이러한 배열을 사용하는 경우, 작은 대상 필드만이 검출될 수 있다. 작은 대상 거리(약 2m보다 작은)에 대해서는, 동일한 대상 포인트와 관련하여 발생하는 주변 채널들의 관점들(시차, parallax)의 오프셋들로 인해, 이미지 센서의, 한 채널씩(channel by channel), 포토다이오드 그룹과 관련한 마이크로 이미지 촬상의 서브픽셀 쉬프트가 얻어질 수 있고, 이것은 수퍼 해상도 알고리즘에 의해 복수의 낮은-해상도 마이크로 이미지로부터 고-해상도 전체 이미지를 계산한다. 이러한 배열은 원칙적으로 작은 대상 거리 및 작은 대상 필드 크기에 대해서만 사용될 수 있다. 또한, 이 방법은, 슈퍼 해상도 알고리즘(영상 처리로부터 알려진)이 높은 복잡도를 가지므로, 증가된 이미지 해독 및 처리 시간을 가진다.
다른 기술적 우회 가능성은 1-채널 광학과 관련하여 광전자 이미지 센서에 대해 매우 작은 포토다이오드들(픽셀들)을 사용하는 것이다. 짧은 광학적 거리를 갖는 결론적으로 작은 이미지 면적(diagonal)은 경계에서 작은 대상 필드 각도(작은 축외 벗어남(off-axis aberration) 및 낮은 원축오차(vignetting))를 도출하고, 결론적으로 또한 작은 대상 필드만을 검출하는 단점 또한 가져온다. 이러한 소형화된 1-채널 광학을 위해서는, 매우 작은 길이 및 충분한 화질을 가진 상대적으로 작은 렌즈가 사용될 수 있어, 본 발명의(평판(lithographic)) 기술 또한 온 웨이퍼 레벨을 피할 수 있다. 하지만, 작은 픽셀들은 작은 감광 영역의 단점을 가지고, 따라서, 광학적으로 동일한 에프-스톱(f-stop)을 가지는 경우, 더 낮은 민감도의 전체 배열을 가지게 된다.
요약하면 선행 기술에는 작은 높이를 높은 화질과 결합하고 동시에 알려진 마이크로-광학 제조 기술에 의해 비용-효율적으로 제조될 수 있는 효율적인 촬상 장치의 제조는 없다.
따라서 본 발명의 목적은 작은 높이를 가지고도 높은 화질을 얻을 수 있고, 동시에 마이크로-광학 제조 기술에 의해 비용-효율적으로 구현될 수 있는 광 촬상 장치 및 방법을 제공하는 것이다.
본 발명의 목적은 청구항 1에 따른 장치, 청구항 14에 따른 영상 처리 장치, 및 청구항 15에 따른 방법에 의해 달성된다.
본 발명은, 적어도 2 개의 마이크로 렌즈를 갖는 적어도 하나의 마이크로 렌즈 필드, 적어도 2 개의 이미지 검출기 매트릭스를 갖는 이미지 센서를 포함하는 광 촬상을 위한 장치(예를 들어 광 촬상 장치 또는 멀티-채널 촬상 및 이미지 기록 시스템으로서도 불리는)를 포함하며, 상기 적어도 2 개의 이미지 검출기 매트릭스들(예를 들어, 포토다이오드 그룹들 또는 포토다이오드 매트릭스들 또는 포토다이오드 필드들로도 불리는) 각각은 복수의 이미지 검출기들을 포함한다.
이미지 검출기 매트릭스들 및 마이크로 렌즈 사이 사이의 배열이 존재하여, 각 마이크로 렌즈는 이미지 검출기 매트릭스와 함께 광 채널을 형성한다. 각기 다른 이미지 검출기 매트릭스들의 센터들은 관련된 광 채널들의 마이크로 렌즈 조리개들의, 이미지 검출기 매트릭스들 상으로 프로젝트된, 중심들(centroids)에 대해 측면으로 각기 다른 거리들만큼 오프셋된다. 따라서, 각기 다른 광 채널들이 서로 다르지만 부분적으로 중첩하는 검출 영역을 포함한다. 두 채널의 검출 영역들의 중첩하는 영역은 따라서, 이미지 검출기 매트릭스들의 이미지 검출기 래스터(raster)에 대해 오프셋 방식으로 이미지 검출기 매트릭스들 상으로 촬상된다.
본 발명의 중심 아이디어는 대상 필드를 여러 부분 영역들로 나누고 각 부분 영역을 마이크로 렌즈 필드의 적어도 하나의 마이크로 렌즈에 의해 관련 이미지 검출기 매트릭스로 촬상하는 광 촬상을 위한 장치를 제공 가능토록 하는 것이다. 각기 다른 광 채널들의 검출 영역의 중첩으로 인해, 대상 필드의 부분 영역들이 광 채널들의 여러 이미지 검출기 매트릭스들에 의해 병렬로 검출된다.
따라서 본 발명의 이점은 별개의 광 채널들에서 대상 필드의 부분 영역의 병렬 검출이 각각의 개별 채널의 짧은 초점 거리, 및 그에 따른 확장된 대상 필드를 위한 촬상 장치의 빌딩 길이의 감소를 허용한다는 것이다. 또한, 전체 대상 필드와 관련한 작은 대상 필드와 연결된 짧은 초점 거리는 개별 단일 채널에 대해, 채널당 간단한 광학 부품들(예를 들어 낮은 꼭지점 또는 각 포인트를 갖는 굴절 렌즈)의 사용을 가능케 한다. 또한, 최대 시야가 측면 차원(예를 들어 채널들의 개수)에 의해 결정되고, 따라서 기본적으로 빌딩 또는 어셈블리 길이 또는 각 개별 채널의 광학 셋업의 복잡도와는 무관하다는 점이 유리하다. 광 채널들의 검출 영역의 중첩으로 인해 그와는 별개로 종래 기술의 인공 겹눈과 비교하여 높은 이미지 해상도 용량이 얻어진다. 또한, 그 낮은 복잡도 및 크기로 인해, 잘 설립된 마이크로-광 제작 기술(레이저 스크라이빙, 광리소그래피, 제련(smelting) 또는 리플럭스 제련(reflux smelting)("Reflow"), 웨이퍼 레벨 상의 UV 복제)을 이용해 본 발명에 따라 광 장치가 생성될 수 있다. 이러한 기술들은 세련되고, 고정밀이며 비용-효율적이므로 대규모 생산에 이용될 수 있다.
또 다른 측면은, 영상 처리 장치가, 이미지들의 인터리빙이 고려되도록 시간상 병렬적이고 개별적으로 각 마이크로 이미지에 대한 왜곡 보정을 수행하고 개별 이미지들로부터 전체 이미지를 재구성하도록 구현된, 이미지 왜곡 보정 및 전체 이미지 재구성을 위한 영상 처리 수단을 포함할 때 더 높은 화질이 획득될 수 있다는 발견에 기초한다.
따라서, 본 발명의 또 다른 이점은, 이미지 왜곡 보정 및 전체 이미지 재구성을 위한 영상 처리 수단을 갖는 영상 처리 장치에 의해 더 높은 화질을 얻을 수 있다는 점이다.
본 발명의 이점은 별개의 광 채널들에서 대상 필드의 부분 영역의 병렬 검출이 각각의 개별 채널의 짧은 초점 거리, 및 그에 따른 확장된 대상 필드를 위한 촬상 장치의 빌딩 길이의 감소를 허용한다는 것이다.
본 발명의 또 다른 이점은, 이미지 왜곡 보정 및 전체 이미지 재구성을 위한 영상 처리 수단을 갖는 영상 처리 장치에 의해 더 높은 화질을 얻을 수 있다는 점이다.
이하에서 첨부한 도면을 참조하여 본 발명의 바람직한 실시예들이 보다 자세히 설명된다.
도 1은 본 발명의 제1 실시예에 따른 독창적 광 촬상 장치의 개략적 도면을 보여준다.
도 2는 채널에 의해 추가적인 샘플링 그리드를 이용해 제 1 실시예에 의한 대상 필드를 샘플링하는 도면을 보여준다.
도 3은 본 발명의 제2 실시예에 따른 광 촬상 장치 상의 간략화된 도해적 평면을 보여준다.
도 4는 본 발명의 제2 실시예에 따른 광 촬상 장치에 의한 대상 필드 샘플링의 개략적 도면 및 단계별 이미지 처리 과정을 보여준다.
도 5A는 숫자로 지정된 개별적인 채널들을 가지는 본 발명의 제2 실시예에 따른 광 촬상 장치의 부분 영역 상의 개략적 평면도를 나타낸다.
도 5B는 도 5A의 부분 영역에 의해 고려되는 대상 필드 영역의 간략화된 도면을 나타낸다.
도 6A는 한 채널 한 채널 집적된 추가적 스펙트럴 전송 필드(영역 패턴들)을 가지는 본 발명의 제2 실시예에 따른 광 촬상 장치의 부분 영역 상의 개략적 단면도를 보여준다.
도 6B는 도 6A의 부분 영역에 의해 고려되는 대상 필드 영역의 간략화된 도면을 나타낸다.
도 7A는 본 발명의 제2 실시예에 따른 광 촬상 장치의 중앙 대상 필드 영역에서의 왜곡의 질적 도해를 보여준다.
도 7B는 비스듬한 입사각(oblique angle of incidence)에서 본 발명의 제2 실시예에 따른 광 촬상 장치의 중앙 대상 필드 영역에서의 왜곡의 질적 예를 보여준다.
도 8은 양의(positive) 배럴-모양 왜곡의 기본 코스를 도시한다.
도 9는 그리드 대상을 가지는 본 발명의 제2 실시예에 따른 광 촬상 장치를 위한 정사각(square) 대상 영역의 이미지 왜곡의 개략적 도면을 보여주며, 왜곡 보정을 위한 처리 수단을 이용한 우측의 스킴 및 비교 예로서 왜곡 보정을 위한 처리 수단을 이용하지 않은 좌측 스킴을 도시한다.
도 10은 본 발명의 제2 실시예의 메인 빔 및 본 발명의 제3 실시예에 따른 광 촬상 장치 메인 빔의 이미지 센서의 평면 상으로의 입사 각도(도로 나타낸)의 도면을 나타낸다.
도 11은 대상 필드의 가장 중요한 샘플링 원칙들을 개략적으로 나타낸 도면을 보여준다.
도 12는 본 발명의 제2 실시예에 따른 광 촬상 장치의 개략적 단면도를 보여준다.
도 13은 본 발명의 제3 실시예에 따른 광 촬상 장치의 개략적 단면도를 보여준다.
도 14는 본 발명의 제4 실시예에 따른 광 촬상 장치의 개략적 단면도를 보여준다.
도 15는 본 발명의 제5 실시예에 따른 광 촬상 장치의 개략적 단면도를 보여준다.
도 1은 본 발명의 제1 실시예에 따른 광 촬상 장치(1000)의 개략적 도면을 나타낸다. 광 촬상 장치(1000)는 제1 마이크로 렌즈(10a) 및 제2 마이크로 렌즈(10b)를 갖는 마이크로 렌즈 필드를 포함한다. 이미지 센서(30)는 마이크로 렌즈 필드(10) 아래에 위치한다. 이러한 이미지 센서(30)는 제1 이미지 검출기 매트릭스(30a) 및 제2 이미지 검출기 매트릭스(30b)를 포함한다. 두 이미지 검출기 매트릭스들(30a 및 30b) 각각은 예를 들어, 복수의 3 개의 이미지 검출기(32a 및 32b)를 포함한다. 제1 마이크로 렌즈(10a)는 제1 이미지 검출기 매트릭스(30a)와 연관되고 이와 함께 제1 광 채널을 형성하며, 제2 마이크로 렌즈(10b)는 제2 이미지 검출기 매트릭스(30b)와 연관되고 이와 함께 제2 광 채널을 형성한다. 이미지 검출기 매트릭스들(30a 및 30b)의 센터들(34a 및 34b)은 관련된 광 채널들의 또는 관련된 마이크로 렌즈들(10a 및 10b)의 마이크로 렌즈 조리개들(13a 및 13b)의, 이미지 검출기 매트릭스들(30a 및 30b) 상으로 프로젝트된, 중심들(centroids)에 대해 측면으로 오프셋된다.
본 발명의 제1 실시예에 따른 광 촬상 장치(1000)의 구조적 설명에 근거하여, 이제 그 기능이 설명될 것이다. 대상(800)은 두 개의 마이크로 렌즈들(10a 및 10b)에 의해 개별적으로 연관된 이미지 검출기 매트릭스들(30a 및 30b)로 촬상된다. 제1 광 채널 및 제2 광 채널이 그 검출 영역들에서 중첩된다. 이미지 검출기 매트릭스들(30a 및 30b)의 센터들(34a 및 34b)의 마이크로 렌즈들(10a 및 10b)을 향한 측면 오프셋으로 인해, 두 검출 영역들의 중첩 영역이 이미지 검출기 매트릭스들(30a 및 30b)의 이미지 검출기들 상으로 오프셋되어 촬상된다.
추가적으로, 샘플링 그리드(grid)가 각 광 채널과 연관되고(도 2 참조), 제1 광 채널의 샘플링 그리드(810)는 대상(800)의 어떤 대상 포인트들이 제1 광 채널의 이미지 검출기 매트릭스(30a)의 어떤 이미지 검출기 상으로 촬상되는지 서술하고, 제2 광 채널의 샘플링 그리드(820)는 대상(800)의 어떤 대상 포인트들이 제2 광 채널의 이미지 검출기 매트릭스(30b)의 어떤 이미지 검출기 상으로 촬상되는지 서술한다.
도 2는 제1 광 채널의 샘프링 그리드(810) 및 제2 광 채널의 샘플링 그리드(820)를 갖는 대상(800)의 표면을 보여준다. 샘플링 그리드(810)는 실선들에 의해 묘사되며, 샘플링 그리드(820)는 점선에 의해 묘사된다. 실선들의 접점들은 제1 광 채널의 이미지 검출기 매트릭스(30a)의 이미지 검출기 상으로 촬상된 대상의 대상 셀들을 서술한다. 점선들의 접점들은 제2 광 채널의 이미지 검출기 매트릭스(30b)의 이미지 검출기 상으로 촬상된 대상의 대상 셀들을 서술한다.
샘플링 그리드들은 대상(800)의 제1 대상 셀(840)이 제1 광 채널의 이미지 검출기 매트릭스(30a)의 제1 이미지 검출기로 촬상되고, 제1 대상 셀(840) 주변의 제2 대상 셀(850)이 제2 광 채널의 제2 이미지 검출기 매트릭스(30b)의 제1 이미지 검출기로 촬상되도록 선택된다. 이러한 광 채널들의 "인터리빙"에 의해, 공지의 인공 겹눈 원리들을 이용하는 것보다 더 높은 이미지 해상도를 얻을 수 있다.
아래에서는, 도 12 내지 15를 참조하여 본 발명의 추가적인 실시예들이 보다 자세히 설명될 것이다.
도 12 내지 15의 실시예에 따른 멀티-채널 마이크로-광 촬상 및 이미지 기록 시스템들은 공통적으로 아래의 특성들을 갖는다: 모두가 서로 축 방향으로 뒤로 연관된 하나 또는 여러 개의 마이크로 렌즈들로 구성되고, 이들은 여러, 적어도 부분적으로 투명한 기판 층들(20, 21, 22) 및/또는 스페이서 층들(40)의 스택 상으로 몰딩되거나 또는 복제된다. 완전한 층 스택은 광전자 이미지 센서에 부착되어 마이크로 렌즈 필드(10)의 마이크로 렌즈들의 초점 거리(또는 이미지 평면 또는 초점 평면) 내에 위치된다. 아래에서는, 광전자 이미지 센서가 또한 간단하게 "이미지 센서" 또는 "이미지 센서 칩"으로 간단히 칭해진다. 마이크로 렌즈 필드(10) 및 광전자 이미지 센서(100) 사이에 투명 조리개들 또는 개구들 그리고 불투명한(즉, 흡수성 또는 반사성) 간극(spacing)들을 가지는 적어도 하나의 조리개 필드 층(12, 12')이 위치한다. 추가적인 특징은, 마이크로 렌즈 필드(10)의 각 마이크로 렌즈와 관련하여, 광전자 이미지 센서(100)의 적어도 5×5 밀도있게 채워진 이미지 검출기(즉, 이미지 검출기 매트릭스)(30)의 매트릭스가 각 채널에서 도출되는 마이크로 이미지를 판독하는 데 사용된다는 점이다. 이러한 경우의 이미지 독출은 전자기적 방사(light)의 발생을 전기적 포토 스트림으로 변환하는 과정을 포함한다. 이것이 포토다이오드 하나씩(픽셀 하나씩) 판독되고, 라인 및 칼럼으로 정렬되며, 여기서 이미지 해상도는 포토다이오드의 크기 및 개수에 제한된다. 각 채널에서 간단한 광 촬상이 일어날 때, 각 마이크로 이미지는 자체로 뒤집혀 있고 회전되어 있다(도 4의 마이크로 이미지들(44a 내지 44e)를 참조). 이와는 별개로, 각 채널의 뷰(400)의 중앙 방향(즉, 마이크로 렌즈의 꼭지점 및 연관된 이미지 검출기 매트릭스(30)의 중앙 사이를 연결하는 선) 및 비젼의 전체적인 확장 필드의 크기는 개별 마이크로 렌즈로부터 연관된 이미지 검출기 매트릭스(30)까지의 중앙 오프셋에 의해 또는, 연관 광 채널 또는 연관 마이크로 렌즈의 마이크로 렌즈 조리개의, 이미지 검출기 매트릭스(30) 상으로 프로젝트된, 중심에 대한 이미지 검출기 매트릭스(30)의 중앙 포인트의 오프셋에 의해 설명된다. 또한, 마이크로 렌즈의 초점 길이와 함께 개별 이미지 검출기 매트릭스(30)의 확장이 개별 채널에서 전송되는 대상 필드의 범위를 결정한다.
추가적으로, 적어도 하나의 조리개 필드(11)가 빛이 마이크로 렌즈 필드의 갭들 또는 간극들을 통과하여 산란된 빛으로 이미지 센서(100)에 도달하는 것을 방지한다. 이는 그렇지 않은 경우 이미지 콘트라스트(contrast)를 감소시킨다.
광 크로스톡, 즉 마이크로 렌즈로부터 주변 채널(또는 더 먼 거리의 채널들)의 마이크로 이미지 영역으로 향하는 빛을 방지하기 위해, 즉 채널 분리 구조(예를 들어 수평적 조리개 층 또는 수직 또는 비스듬한 흡수 벽)을 권고할만하다(어떤 경우에는 심지어 필수적이임). 광 크로스톡은 여러 대상 포인트들로부터 나와 하나 및 동일한 이미지 포인트 상으로의 빛의 번들의 중첩을 야기한다. 각 광 채널이 다른 것들과는 독립적으로 동작하기 때문에, 개별 마이크로 이미지들에 속하는 광전자 이미지 센서(100)의 영역들(30)을 개별 채널로 분류하는 것이 유리하다. 이것은 한편으로는, 이미지 센서(100)의 칩 상에 집적된 전자장치(예를 들어 채널 하나하나씩 분리된 회로, SOC = "system on a chip) 에 의해 포토다이오드 필드의 판독 영역의 물리적 구분에 의해, 또는 각각이 마이크로 이미지를 나타내는, 데이터의 대응적으로 분리된 추가적인 처리에 의해 반도체 칩 외부에서(주변에서 예를 들어 FPGA 또는 심지어는 PC 상의 소프트웨어에 의해) 또한 얻어질 수 있다. 제1 방법(이미지 센서의 칩 상의 물리적 분류)을 위해 이러한 목적으로 특별히 조정된 이미지 센서가 사용되어야 한다. 이와 반대로 제2 방법을 위해서는 그에 따라 조정된 다운스트림 영상 처리 하드웨어 또는 소프트웨어가 사용될 수 있다. 하지만, 여기서, 통상적인 이미지 센서 상의 마이크로 이미지들 사이의 갭들에서의 활성 픽셀들은 빛에 노출되지 않고 사용되지 않은 상태로 남는다. 이들은 기껏 어두운 현재의 노이즈를 보정하기 위해 제공될 수 있다.
주변 채널들의 마이크로 이미지들의 판독 신호들은 이미지를 완성하기 위해 하드웨어 또는 소프트웨어적으로 간주될 수 있다(예를 들어 도 4에 따른 완전한 이미지 재구성기(60)에 의해). 마이크로 렌즈의 짧은 초점거리 및 매우 깊은 포커스(또는 포커스의 깊이)로 인해 개별 마이크로 이미지들의 활성 포커싱 수단은 필요치 않다. 이와는 별개로, 마이크로 렌즈 필드(10)의 각 개별 마이크로 렌즈의 표면 프로파일이 그 평균 기울기 각과 관련하여 (특히 필드의 곡률 및 비점수차에 대해) 보정될 수 있다. 이는 초점 거리를 탄젠셜 및 사지털(tangential and sagittal) 방향으로 적용함으로써 수행되어, 마이크로 이미지 가운데의 대응하는 이미지 볼(bowl)들이 이미지 평면에서 부합하게 된다. 이러한 적용으로 인해, 순환적인 대칭성으로부터 벗어나는 개별적인 마이크로 렌즈 필드에서의 마이크로 렌즈의 프로파일들을 얻게 된다(애너모포틱(anamorphotic) 프로파일들).
멀티-채널 촬상 오브젝티브들(마이크로 렌즈 필드, 스페이서 층들, 및 조리개들)은 유리하게는 마이크로-광 제조 방법들(UV 리소그래피, 멜팅 처리(리플로 방법들 및 UV 복제 또는 또한 레이저 스크라이빙, 그레이 쉐이드 또는 2-광양자 리소그래피)을 활용하여 생성될 수 있다. 여기서, 마이크로-광 오브젝티브의 축상 위치매김의 정확도가 매우 높은데, 오브젝티브가 광전자 이미지 센서 상에 직접적이고 평평하게 마운트될 수 있기 때문이다. 축상 내성은 그러므로 층 두께 내성(μm 범위의)에 의해 주어진다. 측면 마운팅 내성은 마스크, 마스크 조절, 개별 마스크 정렬기에서 장치를 조절하는 것의 정확성에 의해 결정된다. 이들은 몇 μm (예를 들어 1-2 μm )이다.
본 발명의 일 측면에 따르면, 본 발명에 따른 광 촬상 장치는, 다른 것들 중에서도 채널 당 복수의 픽셀의 사용 및 이후 전체 이미지로 간주되거나 또는 결합되는 작은 마이크로 이미지들의 촬상으로 인해, 예를 들어, DE 10 2004 003 013.8 및 WO 2005/069607에 기재된 바와 같은, 인공 겹눈 분야의 종래기술과는 다르다. 대상 필드의 매우 한정된 영역 대신, 모든 채널이 DE 10 2004 003 013.8 및 WO 2005/069607과 비교해 많은 배수로 더 큰 대상 필드를 검출한다. 그리고 나서 각 채널에서, 폭넓은 대상 필드 영역의 픽셀된 마이크로 이미지가 검출된다. 각 다른 채널들의 픽셀된 마이크로 이미지들은 서로 인터리빙되어 더 높은 전체 해상도 용량이 가능해진다. 추가적으로, 채널당 복수의 픽셀의 사용이, 생산이 더 용이한 더 큰 마이크로 렌즈의 사용을 가능케 한다.
개별 채널들에 의해 검출된 대상 필드의 영역이 부분적으로 중첩하고 포토다이오드 그룹들의 개별 픽셀 상에 촬상된 대상들은 여전히 주로 분리된다. 이것은 주변 채널들의 샘플링 그리드가 서로에 대해 단일 채널의 샘플링 간격(샘플링 그리드의 2 개의 이웃하는 라인들 간의 거리)의 정수 배만큼 쉬프트되지 않기 때문인데, 이에 의해 마이크로 렌즈들의 짧은 초점 거리 및 포토다이오드의 고정된 크기에도 불구하고 이웃하는 채널들의 상호작용에서의 밀도있는 대상 필드 샘플링이 가능해진다. 여기서 특히, 이웃하는 채널들의 샘플링 그리드를 쉬프팅하는 두 케이스가 언급된다. 도 11이 이러한 두 경우를 개략적으로 도시한다. 본 발명의 일 실시예에 따른 광 촬상 장치의 광전자 이미지 센서의 포토다이오드에 의해 대상 필드에서 샘플링된(또는 검출된) 2-차원 영역이 박스 함수(box function)에 의해 단면으로 도시된다. 라인 스타일 및 숫자들이 각 채널들에 대한 샘플링 영역들의 할당을 지정한다. 일반성을 제한하지 않는 선에서, 여기서 채널당(N = 5, 이때 N: 채널당 샘플링 영역의 개수 또는 포토다이오드들) 5 개의 포토다이오드 각각이 도시된다(예를 들어 제3 채널에 대한 5 개의 포토다이오드들(32a) 및 제4 채널에 대한 5 개의 포토다이오드들(32b)).
제1 채널의 포토다이오드들은 1로 지정되고 대시-점선(dash-dotted line)으로 도시된다. 제2 채널의 포토다이오드들은 2로 지정되고 짧은-대시선(short-dashed line)으로 표시된다. 제3 채널의 포토다이오드들(32a)은 3으로 지정되고 실선으로 표시된다. 제4 채널의 포토다이오드들(32b)은 4로 지정되고 긴-대시선(widely-dashed line)으로 표시된다. 제5 채널의 포토다이오드들은 5로 지정되고 밀접한 대시선(closely-dashed line)으로 표시된다. 제6 채널의 포토다이오드들은 6으로 지정되고 긴 대시선에 의해 도시된다. 다른 채널의 이웃하는 포토다이오드들은 광 촬상 장치에 의해 검출된 대상의 이웃하는 대상 셀들을 검출한다.
케이스 1에서, 두 이웃하는 채널들의 샘플링 그리드는 서로에 대해 개별 채널의 샘플링 간격 dA의 반만큼 쉬프트된다(쉬프트: dV). 이웃하는 쌍의 개별적으로 다음 채널의 고려된 쌍의 채널들 중 하나의 샘플링 그리드의 쉬프트 dV는 단일 채널에서 샘플링 간격의 비-정수 배수이다(예를 들어 (N-1/2)×dA, 여기서 N은 정수). 이러한 경우는, 대상 필드의 갭없는(gapless) 등거리 샘플링을 보장하기 위해, 작은 개수의 광 채널들(예를 들어, 2×2 채널들)에 대해 또는 또한 더 작은 대상 거리들(50×초점 거리 보다 작은)에 적절하다. 즉, 단일 채널의 샘플링 간격의 반의 홀수 배만큼 시프팅이 일어난다.
케이스 2는, 동시에 채널당 홀수 개(N)의 포토다이오드들 또는 샘플링 영역들에 대해, 광 채널들 또는 광 채널들의 포토 검출기 매트릭스들의 센터들의, 한 채널 내에서 모든 샘플링 간격들(N×dA)의 전체 합계의 절반만큼의 또는 광 채널의 샘플링 간격(dA) 및 포토다이오드들의 개수(N)의 곱의 절반((예를 들어 N×dA/2)만큼의, 쉬프트 dV를 나타낸다. 이 케이스는 이웃하는 채널들과 협력하여 샘플링 주기를 이등분하고, 여기서 샘플링 갭들 또는 멀티-샘플링을 획득하지 않는 많은 개수의 채널들에 적절하다. 이러한 특징은 여러 이점들을 갖는다. 제1 이점은 일정한 각의 샘플링을 이용해 빌딩 길이(심지어 멀티-채널 시스템에 대해서도)의 단축(예를 들어, 이등분)이 가능하다는 점이다. 이는 광학소자에 의해 후방에서 프로젝트된, 전체 이미지의 두 개의 이웃하는 이미지 필셀들 간의 각거리가 유지됨을 의미한다. 이는 선행기술과 비교하여 포토다이오드의 동일한 f-스톱(F/#) 및 동일한 크기가 가정될 때 적용된다. 마이크로 렌즈의 초점 거리의 또는 빌딩 길이의 단축으로부터, 일정한 f-스톱 또는 f-넘버(f/# = 초점 거리 마이크로 렌즈/ 지름 마이크로 렌즈)를 획득하기 위해 마이크로 렌즈 지름의 감소가 발생한다. 오브젝티브의 측면 차원의 결과적인 감소는, 작은 풋프린트(footprint)를 가지는 광전자 이미지 센서가 사용될 수 있음으로 인해, 비용 감소를 이끈다. 또 다른 이점으로는 마이크로 렌즈의 더 짧은 초점 거리를 가지고 동일 크기의 포토다이오드 상에 촬상이 수행되므로, 각 샘플링이 일정하게 유지됨으로 인한 증가된 민감도(sensitivity)를 들 수 있다. 추가적으로 각 해상도를 일정하게 유지하기 위해, 알려진 시스템과 비교하여 초점 길이를 단축시킴으로써 포토다이오드의 크기를 일정하게 유지시킨 채로 각 해상도 용량이 감소되므로, 대응적으로 더 작은 포토다이오드들을 가지는 광전자 이미지 센서가 사용될 수 있고, 더 큰 포토다이오드들에 대해 개별적 포토다이오드의 민감도가 감소된다.
개별적인 광 채널들의 인터리빙을 명확히 하기 위해, 도 5a는 도면에 의해 도시된 단일 채널들(10')을 갖는 본 발명의 일 실시예에 따른 광 촬상 시스템의 부분 영역(500) 상의 개략적 평면도를 보여준다. 즉, 도 5a는 도 12 내지 15에 도시된 실시예들에서 배열 또는 정렬될 수 있는 것과 같은, 마이크로 렌즈 필드(10')를 위한 예시적 배열을 보여준다. 광 촬상 시스템의 각 광 채널에 대해, 정확히 하나의 마이크로 렌즈(101-103; 201-203; 301-303)가 연관되고, 이것은 마이크로 렌즈 필드(10')에 정렬된다. 마이크로 렌즈(101-103; 201-203; 301-303)의 프로파일은 윤곽선들(510)에 의해 표현된다.
도 5B는 이러한 부분 영역에 의해 관찰되는 대상 필드 영역(800')의 간략화된 도면을 나타낸다. 대상 필드 영역(800')은 각각이 단일 채널(10')(채널과 연관된 마이크로 렌즈(101-103; 201-203; 301-303)에 의해) 내에서 각각이 포토다이오드 상으로 촬상되는 셀들(810)로 구분된다. 단일 채널들의 인터리빙된 샘플링 그리드를 명확히 하기 위해, 각 대상 셀이, 이러한 셀을 검출하는 개별적 채널(10')의(또는 마이크로 렌즈(101-103; 201-203; 301-303)의) 인덱스에 의해 지정된다. 여기서, 후속하여 이웃하는 대상 셀들이 이웃하는 광 채널들의 (또는 마이크로 렌즈(101-103; 201-203; 301-303)의) 포토다이오드에 의해 검출되는 것이 보여진다. 광 채널들의 인터리빙으로 인해 광 채널의 샘플링 갭들이 이웃하는 광 채널에 의해 검출되는 것이 가능하다.
본 발명의 다른 실시예를 이용하면 멀티-스펙트럴 이미지 레코딩(예를 들어, 컬러 이미지 레코딩)이 수행되는 것이 가능하고, 여기서 필요한 스펙트럴 전송 필터들은 한 픽셀씩, 즉 광전자 이미지 센서(예를 들어, "베이어 모자익(Bayer mosaic)"으로 알려진 배열)의 개별적 포토다이오드 상에 통합되거나, 또는 한 채널씩, 예를 들어 마이크로 렌즈 대상 내에서 또는 연관된 이미지 센서 영역 상에서 통합될 수 있다. 여기서 한 채널씩의 스펙트럴 필터의 통합은 통상적인 단일-채널 촬상 시스템에 대해, 채널-특정 입사각을 위한 보정에 추가적으로, 또한 광학소자들이 채널-특정 전송된 스펙트럴 분포에 대해 조정될 수 있다는 이점을 갖는다. 이와는 별개로, 이 구성에서 이웃하는 포토다이오드들 간의 컬러 크로스톡이 발생하지 않는다. 이로부터, 예를 들어, 비쥬얼 스펙트럼(예를 들어, 레드, 그린, 블루)에서 컬러 필터를 사용할 때 이미지의 더 높은 컬러 밝기가 도출된다. 또한, 광 촬상 시스템의 빌딩 길이가 단축된다. 한 채널씩의 필터의 통합의 변동에 대하여, 모든 다른 스펙트럴 부분들에 대해 대상 필드의 균일한 샘플링을 보장하기 위해, 샘플링 스킴이 도 4 및 도 6A 및 6B에 따라 사용된다.
도 6A는 한 채널(영역 패턴)씩 통합된 스펙트럴 전송 필터들 및 수치들 또는 숫자들로 지정된 단일 채널들(10')을 가지는 본 발명의 일 실시예에 따른 광 촬상 장치의 부분 영역(600) 상의 개략적인 평면도를 보여준다. 광 촬상 장치 상의 도 6A에 도시된 평면도는 따라서 광 채널들 또는 마이크로 렌즈들(101-103; 201-203; 301-303) 상의 스펙트럴 전송 필터로 인해서만 다르며, 각 영역 패턴은 정확히 하나의 스펙트럴 전송 필터와 관련되고 따라서 각 채널은 정확히 하나의 스펙트럴 컬러와 연관된다. 모든 다른 스펙트럴 부분들을 위한 대상 필드의 균일한 샘플링을 보장하기 위해 각기 다른 광 채널들이 동일한 스펙트럴 전송 필터를 가질 수 있다. 도 6A에서, 채널들(101, 103, 301, 303)은 사선 라인 영역 패턴 및 그에 따른 제1 전송 필터(예를 들어 컬러 레드에 대해)를 가지고, 채널들(102, 302)은 직선 영역 패턴 및 그에 따른 제2 전송 필터(예를 들어 그린)를 가지고, 채널들(201 및 202)및 물결 모양 라인 영역 패턴 및 그에 따른 제3 전송 필터(예를 들어 컬러 블루)를 가지고, 채널(202)은 점선 영역 패턴 및 그에 따른 제4 전송 필터(예를 들어 그레이 필터)를 가진다.
도 6B는 도 6A의 이러한 부분 영역으로부터 모니터링된 대상 필드 영역(800')의 간략화된 도해를 나타낸다. 대상 필드 영역(800')은 대상 셀들(810)로 나누어지고, 하나의 대상 셀(810) 각각(적어도 기본적으로)은 단일 채널(10') 내에서 포토다이오드로 촬상된다. 단일 채널들(101-103; 201-203; 301-303)의 인터리빙된 샘플링 그리드 및 개별 전송 필터들에 의한 대상 셀들(810)의 커버지리를 도시하기 위해 각 대상 셀들에 개별 채널(10') 및 필터 패턴(사선, 직선, 물결 선, 점섬)의 식별 번호가 주어진다. 샘플링 그리드로 인해, 이웃하는 대상 셀들(810)이 검출되는데, 이것은, 이웃하는 광 채널들(101-103; 201-203; 301-303)에 의해 검출되며, 촬상 장치의 초점 영역의 대상-측면(object-side) 깊이에 놓인다. 이웃하는 채널들(예를 들어, 101, 102, 201, 202)에 의해 검출된 대상 필드 영역이 부분적으로 중첩하여 개별적으로 직접 이웃하는 이미지 정보(예를 들어, 810a, 810b, 810c, 810d)가 각기 다른 스펙트럴 전송 필터들(예를 들어 레드 필터, 그린 필터, 블루 필터, 그레이 필터)에 의해 결합된 전체 이미지에서 얻어지거나, 또는 각각 스펙트럴 데이터를 얻기 위해 필터링됨이 명백해진다. 대상 필드(800')의 4개의 직접 인접한 영역들(810a, 810b, 810c, 810d)은 예를 들어 모든 4 개의 전송 필터들을 포함하는 그룹(820)을 형성한다.
이미지 정보(예를 들어 810a)의 또는 개별적인 이미지 픽셀의 멀티-스펙트럴 데이터(예를 들어 컬러당 하나의 그레이 값)는 연관된 스펙트럴 범위의 또는 이미지 정보(예를 들어 810a)의 물리적으로 기록된 값 및 잔여 스펙트럴 범위들의 또는 이웃하는 및/또는 주변의 픽셀들(예를 들어 810b, 810c, 810c)의 이미지 정보(예를 들어 810b, 810c, 810c)의 값들의 가중된 보간(interpolation)에 의해 보간될 수 있으며, 스펙트럴 범위 또는 전송 필터는 각 픽셀과 연관된다. 스펙트럴 전송 필터들의, 한 채널씩의, 통합의 변형예, 즉 각 채널이 그 자신의 전송 필터를 포함하는 변형예는, 여기서, 이웃하는 채널들이 바람직하게는 다른 전송 필터들을 포함하고, 각 개별 포토다이오드 상의 스펙트럴 전송 필터들의 통합과는 대조적으로, 제조시 다루기 더 용이한 더 큰 전송 필터들이 사용될 수 있다는 이점을 갖는다. 여기 도시된 변형예에 대해, 스펙트럴 전송 필터들이, 한 채널씩, 개별 채널들의 이미지 센서 영역 상에 또한 통합될 수 있다.
도 12는 본 발명의 제2 실시예에 따른 광 촬상 장치(1200)를 나타낸다. 촬상 마이크로 렌즈들(10)이, 개별 재료(글라스, 플라스틱)로 마이크로 렌즈의 초점 거리에 상응하는 전체 층 두께를 갖는 투명 혹은 적어도 부분적으로 투명한 기판 층(20, 21, 22) 의 스택 상에 2-차원 필드 배열(1-차원 배열 또한 가능)로 위치하고 있다. 투명 기판 층(20, 21, 22) 뒷면 상에 역시 2-차원 필드로 배열된 복수의 포토다이오드들(30')을 갖는 광전자 이미지 센서(100)가 위치한다(예를 들어 마이크로 렌즈들(10)의 초점 평면에). 포토다이오드들(30')은, 마이크로 렌즈 필드의 채널 분할에 따라, 채널들의 개별 마이크로 이미지들에 대해 적어도 5×5 포토다이오드(30')의 개별 그룹으로 구분될 수 있고, 이러한 그룹들 각각은 이미지 검출기 매트릭스(30) 또는 포토다이오드 필드(30)를 형성한다.
마이크로 렌즈 필드(10) 아래에는 조리개 필드(11)가 위치한다. 기판 층(20) 및 기판 층(21) 사이에는 제1 조리개 필드(12)가 위치한다. 제2 조리개 필드(12')가 기판 층(21) 및 기판 층(22) 사이에 위치한다. 기판 층(22)의 바닥 면에는 이미지 센서가 마운트된다. 이미지 검출기 매트릭스들(30)의 센터들은 연관된 광 채널들의 마이크로 렌즈 조리개의, 이미지 검출기 매트릭스들(30) 상으로 프로젝트된, 중심들(centroids)에 대해 오프셋된 센터(center)를 포함한다.
구조적 설명에 기반하여, 이제 그 기능이 설명될 것이다. 각 채널의 뷰(400)의 중앙 방향이 개별 광 채널의 마이크로 렌즈 조리개의, 이미지 검출기 매트릭스들(30) 상으로 프로젝트된, 중심들(centroids)에 대해 이미지 검출기 매트릭스(30)의 센터의 오프셋에 의해 서술된다.
개별 이미지 검출기 매트릭스들(30)의 확장이 마이크로 렌즈의 초점 거리와 함께, 개별 채널에서 전송되는 대상 필드의 영역을 결정한다. 주변 채널들에 의해 검출된 대상 필드의 영역은 공통적으로, 적어도 부분적으로 중첩하며, 채널들의 두 개의 성근(coarse) 샘플링 그리드가 상호 공통으로 보충하여 모다 밀도 있는 새로운 샘플링 그리드를 형성한다. 고려되는 채널의 샘플링 그리드가 여기서, 예를 들어, 고려된 채널의 초점 영역의 깊이의(또는 초점 영역의 깊이의 평면에) 그러한 대상 포인트들의 전체이고, 이것들은 고려된 채널의 이미지 검출기 매트릭스(30)의 개별 이미지 검출기들 상으로 촬상된다. 도 2, 4 및 도 5A 및 5B는 이러한 특성, 이웃하는 채널들의 인터리빙을 보여준다. 마이크로 렌즈 필드(10) 바로 아래의 조리개 필드(11)의 사용은, 그렇지 않은 경우 마이크로 렌즈들의 갭들을 통해 떨어질 산란된 광을 억제하는 데 유리하다. 또한, 불투명(흡수성 또는 반사성) 재료로 만들어진 적어도 2 개의 수평적 개구 필드들(12 및 12')이 채널들 간의 광 크로스톡을 방지하기 위해 사용된다. 투명 기판 층들(20, 21, 22)은 바람직하게는 글라스, 플라스틱 또는 무기질 공중합체(예를 들어, ORMOCER)로 만들어진다. 여기 언급된 것들에 추가적으로, 스펙트럴 전송 필터들(예를 들어, 한 채널씩 레드, 그린, 블루 필터들)의 필드-타입 배열이 멀티-스펙트럴 이미지 기록을 가능케 하기 위해 조리개 층(11) 및 마이크로 렌즈들(10) 사이에 직접적으로 구성될 수 있다.
광 촬상 장치(1200)는 그 일체식(monolithic) 층 설치 및 간략화된 제조 기술 및 이것들과 연관된 안전성에 의해 특징지워진다. 광학소자들이 광전자 이미지 센서(100)과는 개별적으로 제조되어 후속 단계에서 웨이퍼 레벨(다른 웨이퍼 상의 많은 광전자 시스템과 병렬적인 웨이퍼 상의 많은 광 시스템들) 상에 마크를 조절함으로써 광전자 이미지 센서 상에 마운트될 수 있다. 대안적으로, 개별적 광학소자들이 광 웨이퍼 접합(bonding)으로부터 절단되어져 나와 개별적인 광전자 이미지 센서들로 독립적으로 마운트될 수 있다. 고정은 예를 들어, 부착(adhering), 납땜(soldering), 또는 양극 접합(anodic bonding)에 의해 수행될 수 있다. 광부품들이 광 웨이퍼 상에 복수의 이미지 센서들(100)과 한 스텝씩 설치되는, 하이브리드 제조 기술 또한 가능하다. 그 연관된 마이크로 렌즈에 대한(또는 관련된 광 채널들의 또는 관련된 마이크로 렌즈들의 마이크로 렌즈 조리개들의, 이미지 검출기 매트릭스들(30) 상으로 프로젝트된, 중심들(centroids)에 대한) 이미지 검출기 매트릭스들(30)의 중심점(center point)들의 오프셋을 도시하기 위해, 도 3에서 본 발명의 제2 실시예에 따른 2-차원 촬상 및 이미지 레코딩 시스템 상의 간략화된 도해적 평면이 도시된다. 여기서, 필드-타입으로 배열된 마이크로 렌즈들(10)이 도시되는데, 그 프로파일은 윤곽선들 및 광전자 이미지 센서(100)의 포토다이오드(이미지 검출기 매트릭스들(30))의 축 방향으로 비스듬히 내재하는 (개별 채널들 또는 개별 마이크로 렌즈들의 마이크로 렌즈 조리개들의, 이미지 검출기 매트릭스들(30) 상으로 프로젝트된, 중심들에 대해) 오프셋 그룹들에 의해 설명된다.
추가적으로, 본 발명의 제2 실시예 및 다른 가능한 실시예들은, 마이크로 렌즈들의 신호의, 한 채널씩의, 전자 프로세싱을 위한 유닛(70)을 포함할 수 있다. 유닛은 선택적으로 광전자 이미지 센서(100)의 회로 내로 집적되거나 이미지 센서(100) 외부 다운스트림으로 연결될 수 있다.
유닛(70)은 또한 아래에서 "영상 처리 장치"로 지칭될 수 있다.
예를 들어, 아래에서 마이크로 렌즈들의 신호의, 한 채널씩의, 전자 프로세싱을 위한 영상 처리 장치(70)의 하드웨어 구현을 위한 4가지 변형예가 광 촬상 장치와 연관되어 설명된다.
1. 영상 처리 장치(70)는 광전자 이미지 센서 칩(100) 외부 주변부, 즉 이미지 센서 칩(100)상이 아닌 곳(off-chip)에 위치한다(예를 들어, 이미지 센서 칩(100)이 위치하는 동일한 인쇄회로기판 상에 위치하는 FPGA). 그리고 나서 이미지 센서 칩(100)은 몇몇 출력들을 가지고, 완전한 이미지 매트릭스(이미지 검출기 매트릭스들(30)의 이미지 검출기들(30')에 의해 검출된 모든 이미지 정보 전체)가 출력되어 추후 (시간적으로 연속하여) 함께 처리된다.
2. 영상 처리 장치(70)는 광전자 이미지 센서 칩(100) 외부 주변부에 위치하지만, 이미지 센서(100)는 복수의 출력(적어도 현존하는 이미지 검출기 매트릭스들(30)과 동일한 숫자)을 갖는다. 여기서, 각 마이크로 이미지에 대한 왜곡의 보정 및 추가적 이미지 전처리는 개별적으로 수행될 수 있고, 가능하다면 시간적으로 병렬적으로 수행된다.
3. 영상 처리 장치(70)는 광전자 이미지 센서 칩(100)(예를 들어, "ASIC"; 어플리케이션-특정 집적 회로) 상에, 하지만 광활성 영역 범위를 벗어난 곳에 위치한다. 완전한 이미지 매트릭스는 이미지 센서 칩(100) 내 광활성 영역으로부터 영상 처리 장치(70)로 전사되어 후속적으로 함께(시간적으로 연속하여) 처리된다.
4. 영상 처리 장치(70)는 광전자 이미지 센서 칩(100)(예를 들어, ASIC) 상에 위치하고, 한 부분, 즉 마이크로 영상 처리 수단(50)은 이미지 검출기 매트릭스들(30)의 갭들에 위치한다. 이 경우, 각 이미지 검출기 매트릭스(30) 또는 이미지 검출기 매트릭스들(30)을 위한 이미지 프로세싱의 일부는 시간적으로 병렬로 및 개별적으로 수행된다. 이와는 별개로, 광활성 영역으로의 필요한 회로의 집적으로부터, 실리콘 영역이 저장된다. 즉, 마이크로 이미지 처리가 이미지 검출기 매트릭스들(30) 사이에서 마이크로 영상 처리 장치들에 의해 각 이미지 검출기 매트릭스(30)에 대해 개별적으로, 및 그에 따라 시간적으로 병렬로 수행된다.
왜곡의, 한 채널씩의, 보정은 영상 처리 장치(70)의 하드웨어 구현의 경우에(예를 들어, FPGA, ASIC, 등에서)만 "시간적으로 병렬로" 수행될 수 있다. 따라서 "시간적으로 병렬로"라는 특성은 선택적이다. 빠른 이미지 반복 주기(high image repetition rate)에 대해, 하드웨어 구현의 이러한 실시예가 바람하지만, 소프트웨어-기반 보정 또한 수행될 수 있다(예를 들어, 연결된 PC에서).
이제 유닛(70) 또는 영상 처리 장치(70)가 제2 실시예와 관련하여 설명될 것이다. 이것은 마이크로 이미지 왜곡의 한 채널씩의 하드웨어- 및/또는 소프트웨어-구현된 전자 보정을 구현한다.
단일 촬상 광학소자(예를 들어, 단일 평면볼록(plano-convex) 렌즈)에 의한 비스듬한 입사각 및 촬상으로 인해 입사각이 증가할수록 이미지 왜곡의 증가가 발생한다. 이것은 기울어진 입사각를 가지는 정사각(square) 대상 범위(range)가 다이아몬드-형상의 이미지 영역으로 촬상되는 결과를 낳는다.
도 7A는 제2 실시예의 중앙 대상 필드 영역에서의 질적인 왜곡의 모습을 나타낸다. 사각 그리드에 위치하는 대상 셀들은 비스듬한 입사각 환경에서 더 작은 래디얼(radial) 이미지 좌표들로 촬상되고, 따라서 배럴(barrel)-형상의 왜곡이 발생한다.
도 7B는 비스듬한 입사각 환경에서(여기서는 대상 필드의 38° 대각선 각도) 왜곡이 추가적으로 강하게 비대칭이 되는 모습을 도시한다. 도 7A 및 7B에 도시된 효과들은 시각화 목적에서 강하게 확대되어 도시된다.
도 8은 양의 배럴-모양 왜곡의 기본 코스를 보여준다. 이것은, 패럭시얼(paraxial), 즉 이상적이고, 비왜곡된 충돌 높이("이상적 충돌 높이")와 비교하여, 대상 필드에서의 입사각(AOI=angle of incidence)에 따른 이미지 평면에서의 메인 빔의 래디얼 높이("실제 충돌 높이")에 의해 도시된다. 입사각이 증가할수록 어떻게 촬상이 더 작은 충돌 높이가 되는지 명확하다. 각기 다른 채널들의 마이크로 이미지들 상으로 촬상된 이웃하는 대상 포인트들이 전체 이미지에서 다시 이웃하는 이미지 포인트들로 함께 합쳐져야 하므로, 마이크로 이미지들의 등화 또는 보정이 권유된다. 그렇지 않으면, 그 입사각에 따라 증가하는 왜곡의 결과로서, 이미지 검출기 매트릭스들의 센터들이, 전체 이미지의 엣지 방향으로 기운 개별 채널들(소위 축외(off axis) 채널들)의 마이크로 렌즈 조리개들의, 이미지 검출기 매트릭스들 상으로 프로젝트된, 중심들에 대해 측면으로 쉬프트된 채널들에 대해, 이미지 정보 사이의 더 많은 오프셋, 및 그에 따른 마이크로 이미지들의 방대한 보정과 감소된 해상도가 발생할 것이다. 마이크로 이미지들의 신호는 하드웨어 및/또는 소프트웨어 요소에 의해 집적회로(예를 들어, ASIC, SoC)에서 직접적으로 또는 다운스트림(예를 들어, FPGA, CPU)으로 회전되고 역변환되고 보정된다(즉, 예를 들어, 도 4에 따른 왜곡 보정기(50)에 의해 왜곡에 대해 보정됨). 동일한 맥락에서, 즉, 왜곡 보정기(50)에 의해, 그와는 별개로 마이크로 이미지 내의 고정된 패턴 노이즈 및 조명 강도(쉐이딩)의 불균질이 보정된다. 이러한 영상 처리의 병렬화 가능성이 짧은 연산 시간 및 그에 따른 전체 이미지의 빠른 반복 주기를 가능케 한다(예를 들어 어플리케이션-특정 집적회로(ASIC)에 의해).
개별 마이크로 이미지들로부터 왜곡을 보정하고 전체 이미지를 합하는 유닛이 도 4 및 도 9에 도시되어 있으며, 이제 이 두 도면과 관련하여 자세히 설명될 것이다.
도 4는 마이크로 이미지들을 보정하고 마이크로 이미지들로부터 전체 이미지(300)를 재구성하는 다운스트림 유닛(50, 60, 61)을 갖는 제2 실시예에 따른 광 촬상 장치를 보여준다. 확장된 대상 필드 영역에 위치하는 대상(800)은 광 촬상 장치의 여러 채널들에 의해 그 크기에 따라 검출된다. 마이크로 렌즈 필드(10)의 개별 마이크로 렌즈들에 의해 촬상된 대상 필드 영역은 적어도 부분적으로 중첩한다. 여전히, 이미지 검출기 매트릭스들(30a 내지 30e) 상에 촬상된 대상 영역(44a 내지 44e)은 주로 분리되는데, 즉 이미지 검출기 매트릭스(30a 내지 30e) 상으로 이미 촬상된 대상 필드 영역(44a 내지 44e)은 바람직하게는 추가적인 이미지 검출기 매트릭스(30a 내지 30e) 상으로 촬상되지 않는다. 이는 이웃하는 채널들의 샘플링 그리드가 서로에 대해, 예를 들어 한 채널 내 모든 샘플링 영역(홀수 개수의 샘플링 영역들 또는 포토다이오드들을 가지고)의 완전한 합계의 절반만큼 쉬프트되기 때문이고, 그에 따라 마이크로 렌즈들(10)의 짧은 초점 거리 및 포토다이오드(30')의 고정된 크기에도 불구하고 밀도있는 대상 필드 샘플링이 가능해진다.
도 4는 픽셀 그룹들(30a 내지 30e)의 기록된 마이크로 이미지들로부터 전체 대상(800)의 완전하고 비왜곡된 이미지(300)를 형성하는 데 요구되는 영상 처리 수단(70)을 이용한 이미지 전처리의 개략적 도면을 추가적으로 보여준다. 개별 마이크로 이미지들(30a 내지 30e)이 영상 처리 수단(70)의 제1 처리 수단(51)("마이크로 이미지 인버터")에서 수평적으로 및 수직적으로 미러링된다(180°만큼의 회전에 대응하여). 영상 처리 수단(70)의 제2 처리 수단(52)("등화 또는 보정 스테이지")에서, 마이크로 이미지들의 픽셀 값들은 위치 변환(예를 들어, x 및 y 좌표계의 쌍선형 변환) 수단에 의해 그 이산(discrete) 그리드 구조로부터 연속 가상 좌표 평면으로 변환된다. 변환 파라미터는 광학 설계 데이터 및 시뮬레이션으로부터 알려져 있으며 관점(perspecctive), 촬상 스케일의 변형들, 및 촬상 에러로 인한 이미지 왜곡이 보정된다. 추가적인 보간에 따라 비왜곡된 픽셀 값들이 새로운 이산 그리드(31a 내지 31e에서 x', y') 상으로 한 채널씩 촬상된다. 처리 수단들(51 및 52)에서 수행된 프로세싱 단계들은 바람직하게는 한 채널씩 그리고 그에 따라 병렬로 수행될 수 있다. 적응된 광전자 이미지 센서(100)를 사용하면 이미지 센서(100)의 칩상에 직접적으로 각 채널을 위해 존재하는 회로 모듈(예를 들어, ASIC) 내에서 제1 처리 수단(51) 및 제2 처리 수단(52)을 통합하는 처리 프로세스의 가속에 유리하다. 대응하는 회로의 배치를 위해, 이웃하는 채널들의 이미지 검출기 매트릭스들(30) 간의 광학적으로 비사용된 갭이 제안된다. 모든 마이크로 이미지들(31a 내지 31e)의 픽셀 값들의 결합(또는 전체 이미지의 재구성)이 하드웨어에 가깝게, 즉 광전자 이미지 센서 칩의 주변에서 전자적으로(예를 들어, FPGA), 선택적으로 또는 소프트웨어에 가깝게, 즉 외부적으로 연결된 CPU 한도 내에서만(예를 들어, PC) 발생한다.
픽셀 값들의 결합은 영상 처리 수단(70)의 제3 처리 수단(60)("전체 이미지 재구성기")에 의해 수행될 수 있으며, 제3 처리 수단은 개별 채널들의 샘플링 그리드의 인터리빙에 의해 주어진 고정된 패턴에 따라 비왜곡된 마이크로 이미지들(31a 내지 31e)의 픽셀 값들을 최종 이미지 매트릭스(300)로 재분류한다.
도 9는 비스듬한 입사각 촬상 환경에서 왜곡 시퀀스로서 그리드 대상(800)을 가지는 정사각(square) 대상 영역의 이미지의 왜곡의 개략적 도면을 보여준다. 좌측은 왜곡 보정을 위한 제2 처리 수단(52)이 없는 비교 예로서 그리드 대상(800)의 재구성을 보여주고, 우측은 왜곡 보정을 위한 제2 처리 수단(52)을 사용한 그리드 대상(800)의 재구성을 보여준다.
좌측에서는, 멀티-채널 촬상 및 이미지 기록 시스템에 의한 또는 광 촬상 장치에 의한 촬상을 포함하는 이미지 레코딩 시퀀스, 및 제1 처리 수단("마이크로 이미지 인버터")(51)에 의한 마이크로 이미지들(여기서는 3×3 조각들)의 후속하는 역변환이 도시된다. 제2 처리 수단("보정 스테이지")(52)이 없음으로 인해, 마이크로 이미지들(32)은 여전히 왜곡되어 있다. 뒤를 잇는 절차는, 대상 거리에 따른 시차 오프셋을 보상하기 위한, 마이크로 이미지들(32)의 서로에 대한 가상 쉬프팅(예를 들어 영상 처리 수단(70)의 "시차 보상기"(61)에 의한), 그리고 마지막으로 제3 처리 수단(50)에 의한 모든 마이크로 이미지들(32)의 픽셀 값들의 전체 이미(320)로의 결합이다. 왜곡으로 인해, 각기 다른 마이크로 이미지들의 세부점들이 연결되지 못할 수 있고 대상(800)이 전체 이미지(320)에 의해 충분히 정확하게 표현되지 못한다.
이와는 대조적으로 오른 편에는 왜곡을 보정하는 스테이지(보정 스테이지(52))를 갖는 영상 처리 시퀀스가 도시된다. 그에 따라 변환된 마이크로 이미지들(31)이 비왜곡되고, 시차 보상기(61)에 의한 시차 보정(마이크로 이미지들의 가상 쉬프트) 및 전체 이미지 재구성기(60)에 의한 모든 마이크로 이미지들의 픽셀 값들의 결합 이후, 대상(800)의 충분히 정확한 표현을 나타내는 전체 이미지(300)를 형성한다.
US 05696371A 및 EP 0840502A2에 따른 시스템과는 달리, 본 발명의 실시예에서는 마이크로 이미지의 한 채널씩의 보정 및 마이크로 이미지들의 픽셀 값들의 보간이 수행되고 그에 따라 전체 이미지에서 해상도 성능이 세그멘팅에 따라 감소되지 않는다.
왜곡의 적절한 보정 및 마이크로 이미지들의 전체 이미지로의 재구성을 가능케 하기 위해, 대상 스페이스에서 동작 거리의 전자적 세팅이 사용될 수 있다. 두 개의 측면으로 간격을 두고 위치하는 채널들로부터 두 개의 이웃하는 대상 포인트들을 샘플링할 때, 작은 대상 거리를 가지면 각기 다른 채널들 간의 시차로 인해 이웃하는 이미지 정보의 오프셋이 야기된다. 이 오프셋은 부분적 이미지 정보의 ("가상") 쉬프팅에 의해 보정될 수 있다. 여기서 쉬프팅은 대상 거리 및 채널들 간의 베이스 길이(즉, 개별 채널들의 포토 검출기 매트릭스들의 센터 포인트들 간의 거리)에 의존한다. 베이스 길이가 알려짐에 따라, 대상 거리를 측정함으로써(예를 들어, 적절한 독립적 갭 센서를 사용해) 오프셋이 전자적으로 후-보정될 수 있다. 광 촬상 및 이미지 기록 시스템은, 비왜곡된 방법으로(예를 들어 도 4의 시차 보상기(61)에 의해) 개별 거리에 대해 머징(merging)(마이크로 이미지들의 전체 이미지로의 결합)하기 전에 마이크로 이미지들의 가상 오프셋들의 변형에 의한 전체 혹은 전반적 이미지에 초점을 맞춘다.
동작 거리의 설정은 이산 스텝으로 각 마이크로 이미지의 이미지 픽셀들의 개수에 따라 수행된다. 하지만, 마이크로 이미지들의 등화 또는 보정에 대해 (비왜곡된 마이크로 이미지로의) 좌표 변환 및 (이산 픽셀 위치들을 가지는 비왜곡된 마이크로 이미지의 신호 강도의)보간이 필요하므로, 동작 거리의 설정은 또한 더 미세한 그레이딩(grading)에서 가상 서브-픽셀 쉬프트에 의해 수행될 수 있다.
다른 말로, 작은 대상 거리(100× 초점 거리보다 작은)를 가지고서는, 부분적으로 중첩하는 대상 필드 영역들 간의 시각(시차)의 오프셋이 이웃하는 마이크로 이미지들에서 발생하므로, 마이크로 이미지 세부점들의 정확하고 연속적인 연결을 보장하기 위해 마이크로 이미지들의 결합시 이것이 고려되어야 한다. (평균) 대상 거리가 알려진 경우(이것은 예를 들어, 측정 파인더(measurement finder) 카메라와 유사한 시차 보상기(610)에서 외부 센서 소스에 의해 결정될 수 있음.), 전체 이미지 재구성기(60)에서(전체 이미지의 재구성에서) 분류 알고리즘이, 값 테이블에 따라 서로에 대해 단일 채널들의 마이크로 이미지들을 가상적으로 측면으로 오프셋시킴으로써, 변경된다. 이것은 하나의 픽셀의 그레이딩으로 또는 서브-픽셀 보간에 의해 더 정밀하게 수행될 수 있다. 전체 이미지(300)의 엣지에서 인터리빙된 샘플링 그리드로 인해, 연관된 대상 필드 셀들이 마이크로 렌즈 필드(10)의 엣지를 넘어서 위치하는 부재인(missing) 이웃하는 채널들의 의해 검출될 것임에 따라 "블랭크 픽셀 값들"이 발생한다.
도 13은 본 발명의 제3 실시예에 따른 광 촬상 장치(1300)를 도시한다. 광 촬상 장치(1300)는 예를 들어, 5 개의 이미지 검출기 매트릭스들(30)을 갖는 이미지 센서(100)를 포함한다. 대상을 마주하는 이미지 센서(100)의 면 상에(또는 위에), 투명 기판 층(22)이 제1 조리개 필드(12')가 있는 위치 상에 위치한다. 제1 조리개 필드(12') 위에 추가적인 투명 기판 층(21)이 위치하고, 그 위에 제2 조리개 필드(12)가 위치한다. 스페이서 층(40)이 제2 조리개 필드(12) 위에 배치되고, 마이크로 렌즈 필드(10)가 이 스페이서 층(40)에 거꾸로 자리잡고 있는데, 즉, 마이크로 렌즈 필드(10)의 마이크로 렌즈들의 평면들이 대상을 향하여 방향을 잡고, 마이크로 렌즈들의 굽은 면들이 이미지 센서(100)를 향해 방향을 잡고 있다. 제1 조리개 필드(11)는 마이크로 렌즈 필드(10)의 윗면 상에 배치되어 있다. 제1 조리개 필드(11) 위에는 추가적인 기판 층(20)이 배열되고, 그 꼭대기 면에 제2 조리개 필드(11')가 배열된다. 필터 층(200)이 제2 조리개 필드(11') 위에 배치된다.
아래에서는, 이제 본 발명의 제3 실시예에 따른 광 촬상 장치(1300)의 기능 및 이점들이 설명될 것이다. 광 촬상 장치(1300)에서 적어도 하나의 기판 층(20)을 가지는 마이크로 렌즈 필드(10)가 그 아래에 위치하는 투명 기판들(21, 22)의 스택을 가지는 스페이서(40) 상에 거꾸로 설정되므로, 그에 따라 제2 조리개 필드(11')가 렌즈들로터 분리되어 투명 기판 층(20)의 앞면에 위치할 수 있다. 이것은 제2 실시예에 따른 광 촬상 장치(1200)에 대하여 아래의 이점들을 갖는다.
제1 이점은 평-볼록 렌즈와 연결된 제2 조리개 필드(11')의 업스트림 위치에 의해, 광 촬상 에러(특히 코마(coma), 비점(astigmatism) 및 이미지 필드 효과)가 부분적으로 보상될 수 있다는 점인데, 그렇지 않은 경우는 각 단일 채널 내에서 더 높은 개수의 광 요소들(렌즈들)을 필요로 할 것이다. 추가적인 이점은 대상에 의한 큰 입사각으로부터 촬상되는 광(410)이 실제 렌즈 영역에 도달하기 전에 필터 층(20)에 의해 기판 층(20)으로 굴절된다는 점이다. 주위 환경에 비해 더 높은 기판 층(20)의 굴절률로 인해, 빔은 더 작은 각도 하에서 렌즈 프로파일을 패스시키고, 이것은 광 촬상 에러(수차)의 감소를 도출한다.
추가적으로, 제2 실시예에서, 대상 필드의 뷰의 각도(angle of view)에 따라, 실질적으로 동일한 사이즈의 메인 빔의 이미지 평면 상으로의 입사 각도가 결정된다(도 10 참조). 특히 큰 입사각을 가지는 경우, 이것은 광전자 이미지 센서(100)의 3-차원 픽셀 구조에 의한 쉐이딩(shading) 및 이웃하는 포토다이오드들(30') 간의 크로스톡을 발생시킨다. 이러한 효과들은 이미지 내에서 상대적인 조명 강도 및 콘트라스트를 감소시킨다. 이와는 반대로, 제3 실시예에서는 중간 필드들(개별 이미지 검출기 매트릭스(30)이 센터에서의 포토다이오드들에 의해 검출되는 대상 필드의 대상 셀들)의 메인 빔들이 광전자 이미지 센서(100)의 광활성 영역 상의 작은 각도 하에서 각 채널에 충돌하는데, 이것은 이미지에서 상대적인 조도 강도 면에서 유리한 효과를 가지게 한다.
도 10은 개별 메인 빔의 이미지 센서의 평면 상으로의 입사 각도를 나타내는데, 75°의 완전한 비쥬얼 필드 각도를 가지는 멀티-채널 촬상 및 이미지 기록 시스템을 위한 이미지 센서의 평면에서 정규화된 래디얼 좌표에 걸쳐 점선으로 표시되어 있다. 데이터 시리즈 1은 제2 실시예를 사용하여 얻어졌으며, 데이터 시리즈 2는 제3 실시예를 이용하였다.
추가적으로, 마이크로 렌즈 필드(10)가 거꾸로 마운트되어 있으므로, 정면 상에서 광 필터(200)(예를 들어, 가시광의 적용을 위한 IR 밴드제거 필터) 및/또는, 마이크로 렌즈 필드(10)의 정면(front side)이 수평적으로(levelly) 구현되어 있으므로, 스펙트럴 전송 필터들(예를 들어, 한 채널씩 레드, 그린, 블루 컬러 필터)의 필드-타입 배열이 통합될 수 있다. 추가적으로, 반사-방지(예를 들어, AR 코팅)를 위한 및 환경적 영향들(예를 들어, 스크래치-방지 코팅)로부터 후속하는 제2 조리개 필드(11')를 보호하기 위한 레벨 경계 영역 또는 인터페이스가 제공될 수 있다. 또한, 스펙트럴 전송 필터들(한 채널씩 레드, 그린, 블루 컬러 필터)의 필드-타입 배열이 제1 조리개 필드(11) 및 마이크로 렌즈 필드(10) 사이에 직접적으로 구성될 수 있다.
필드로서 구현된 스페이서(40)는 불투명 재질(예를 들어, 플라스틱, 깊게-에칭된 실리콘) 또는 투명 재질(예를 들어, 플라스틱, 글라스 또는 무기 유기 공중합체(예를 들어, ORMOCER))인 것이 바람직하다. 갭들은 마이크로 렌즈(예를 들어, 에어, 진공 에어, 질소 또는 유사물)에 비해 낮은 굴절률를 가지는 물질을 포함하여, 렌즈에 의한 포커싱이 얻어진다. 스페이서(40)에 불투명 재질을 사용하는 경우 기판(21)의 정면(front side) 상의 제2 조리개 필드 층(12)은 어떤 경우 채널들 간의 광 크로스톡을 방지하기 위해 필요하다. 동일한 이유로 어떤 경우 제1 조리개 필드(12')가 추가적으로 필요하고, 또한 추가적으로 채널들 간의 크로스톡을 최소화하기 위해 추가적 조리개 필드가 도입될 수 있다. 또한 제2 실시예에서와 같이, 대안적으로 불투명(예를 들어, 광-흡수성 재질 또는 깊게-에칭된 실리콘) 재질로 만들어진 수직적으로 비스듬한 벽들이 수평적 조리개 필드들(12, 12')보다 광 크로스톡을 억제하기에 적합한데, 기술적으로 보다 비용 및 시간-소비적이다. 수직 채널 분리 구조의 경우, 축상 채널 분리 구조가 마이크로 렌즈 필드(10) 및 기판 층(20)을 마운트하기 위한 안정적인 프레임워크를 나타내는 한, 기판 층들(21, 22)이 생략될 수 있다. 광 번들(bindle)은 그리고 나서 개별 필링(filling) 매체(예를 들어, 에어, 진공 에어, 질소, 또는 유사물)에서 마이크로 렌즈들(10) 다음에 축상으로 포커스된다.
거꾸로 된 셋업으로 인해 야기된 캐비티들 및 스페이서들(40)은 제2 실시예와 비교된 바와 같이 변형된 셋업 및 연결 기술을 도출한다. 필터 층(200), 기판 층(20), 조리개 필드(11, 11') 및 마이크로 렌즈들(`10)의 스택은 그 조리개 필드(12, 12')를 갖는 기판 층들(21, 22)의 스페이서들(40)의 스택과는 분리되어 제조될 수 있다. 두 요소들은 그리고 나서 웨이퍼 레벨 상에 마크(mark)에 의해 정확하게 조절되고 서로 연결된다(예를 들어, 부착(adhering), 납땜(soldering), 또는 양극 접합(anodic bonding)). 완전한 마이크로 렌즈 오브젝티브는 그리고 나서 선택적으로 웨이퍼 레벨 상에서 또는 광전자 이미지 센서(100) 상의 잘라낸 단일 오브젝티브에서 조절되거나 또는 접합된다. 또한 광학 부품들은 복수의 이미지 센서들을 가지는 광학 웨이퍼 상에 한 스텝씩 또는 한 층씩 셋업될 수 있다.
마이크로 렌즈 오브젝티브를 통한 유용한 광의 전송을 증가시키기 위해, 마이크로 렌즈들(10)의 곡면 상의 및 기판 층(21)의 정면 표면 상의 반사-방지 코팅이 유리하다.
도 14는 본 발명의 제4 실시예에 따른 광 촬상 장치(1400)를 도시한다. 도 14에 따라 도시된 셋업에서 3 개의 마이크로 렌즈 필드들(10, 101, 102)이 조리개 필드(11') 주변의 가상적으로 대칭적인 배열로 축 방향으로 차례로 사용된다. 3 개의 마이크로 렌즈 필드보다 많이 사용하는 것 또한 가능하다. 평면-볼록 렌즈로 구성된 제1 마이크로 렌즈 필드(10)가 얇은 기판 층(20) 위에 (대상을 마주하는 면 상에) 위치하는데, 기판 층(20) 및 마이크로 렌즈 필드(10) 사이에 조리개 필드(11)가 구성된다. 얇은 기판 층(20) 밑으로는, 그 렌즈가 여기서, 평-오목 렌즈로 구현된 제2 마이크로 렌즈 필드(101)가 위치한다. 이어지는 기판 층(21)의 뒷 면상으로, 즉 기판 층(21) 및 마이크로 렌즈 필드(101) 사이에, 각 채널에서 실질적인 시스템 조리개를 나타내는 조리개 필드(11')가 위치한다. 앞 면(대상을 향하는) 조리개 필드(11')를 가지는 기판 층(21)은 기판 층(20)의 뒷 면(대상을 등지고 있는) 상에 마이크로 렌즈 필드의 잔여 층과 직접 연결되어 있어, 일체식 촬상 오브젝티브가 도출된다. 기판 층(21)의 뒤쪽 면 상에 추가적인 수평 조리개 층(12)이 위치하며 이것은 광 크로스톡을 억제하기 위해 제공된다. 추가적인 평면-볼록 마이크로 렌즈 필드(102)가 기판 층(21)의 뒤쪽 면 상에 형성된다. 그에 따른 결과적인 층 스택은 광전자 이미지 센서(100) 상에 축상 스페이서 구조물(41)에 의해 고정된다. 스페이서들(41)은 멀티-채널 오브젝티브의 엣지 상에 구현된다. 스페이서들(41)은 또한 한 채널씩 구현될 수 있다. 스페이서들(41)을 위한 재질로는 특히 글라스, 플라스틱, 또는 금속이 사용될 수 있다. 후속하는 마운팅 스텝(예를 들어, 글라스를 이용하는 경우 광-흡수성 재질에 의한 흑색화(blackening))에서 재질은 불투명이어야 하거나 불투명으로 만들어져야 한다. 마이크로 렌즈 필드들(10, 101, 102)의 연관된 마이크로 렌즈들에 대해, 개별 포토다이오드 그룹(30)은 측면 오프셋(피치 차이)을 가지며, 이것은 대상 필드에서 개별 채널의 평균 관찰 방향(마이크로 렌즈를 통한 연관된 포토다이오드 매트릭스(30)의 센터에서의 포토다이오드 혹은 포토다이오드들 상에 충돌하는 광학 빔)을 제공한다.
구조적 설명에 기반하여, 본 발명의 제4 실시예에 따른 광 촬상 장치(1400)의 기능 및 이점들이 설명될 것이다. 각기 다른 마이크로 렌즈 필드들(10, 101, 102)이, 예를 들어 재질들의 서로 다른 분산 특성으로 인한 색채 촬상 에러를 보정하기 위해, 서로 다른 재질(다른 글라스 타입들, 플라스틱들, 무기 유기 공중합체(polymer), 등)로부터 형성 또는 주조될 수 있다. 또한, 하나 또는 여러 마이크로 렌즈 필드들(10, 101, 102)이 수색성(achromatic) 요소의 필드로서 구현될 수 있다. 오브젝티브의 엣지에 부착된 불투명 축상 스페이서(41)로 인해, 멀티-채널 촬상 시스템 및 광전자 이미지 센서(100)의 광민감성 영역 또한 측면으로부터 들어오는 분산된 빛으로부터 보호될 수 있다. 또한, 대안적으로 마이크로 렌즈들(10, 101, 102)이 서로 다른 센터 거리를 가지므로, 이웃하는 채널들 간의 개별 마이크로 렌즈들(10, 101, 102)의 꼭지점들 간의 축상 연결 라인들(1410)이 각을 둘러싸고, 도 14에 따른 광 촬상 장치(1400)에서와 같이 평행하지 않다.
앞서 서술된 셋업으로 인해 매 채널에서, 개별적으로 연관된 대상 섹션의 이미지 또는 대상 포션을 광전자 이미지 센서(100)의 포토다이오드들(30)의 연관된 그룹 상에 매핑하는 작은 마이크로 오브젝티브를 도출한다. 여기서, 전체 오브젝티브의 가능한 최소한의 빌딩 길이를 획득하기 위해 중간 이미지를 가지는 2-스테이지 촬상이 명백하게 사용되지 않는다. 도 14에 따른 3 개의 마이크로 렌즈 필드들(10, 101, 102)의 배열이 각 개별 채널 내에서 광 촬상 에러(왜곡, 색채(chromatic) 에러들 및 코마)를 감소하는 데 유리하고, 따라서 다른 실시예들과 비교하여 광 해상도 용량을 증가시킨다. 특히, 이 제4 실시예를 이용해, 배럴-모양 왜곡이 크게 보정되고, 전체 이미지의 해상도 용량이 왜곡의 결과로서의 큰 대상 필드 각도에 대해 감소되지 않는다. 증가된 복잡도로 인해, 이와는 별도로 광학적 및 세기의 증가(f 넘버의 감소)가 가능하게 된다.
도 15에서, 본 발명의 제5 실시예에 따른 광 촬상 장치(1500)가 도시된다. 광 촬상 장치(1500)는 제4 실시예와 비교하여, 기판 층(20)의 윗 면에서 무굴절(refractive free)-형태 표면(10)의 제1 필드로서 구현되는 마이크로 렌즈 필드를, 그리고 기판 층(21)의 바닥 면에서, 무굴절-형태 표면의 제2 필드로서 구현되는 마이크로 렌즈 필드를 포함한다. 여기서 무굴절-형태 표면의 필드는 일반적으로 마이크로 렌즈 필드이고, 개별 렌즈 파라미터들(즉, 또한 조리개의 형태 및 크기)은 채널별로(또는 프리-형태 표면 별로) 다르다. 무굴절-형태 표면(10)의 제1 필드 및 연관된 조리개 필드(11)는 얇은 투명 기판 층(20) 위에 위치한다. 기판 층(20)의 뒤쪽 면 상에 평-오목 마이크로 렌즈 필드(101)가 위치한다. 축상으로 이어지는 기판 층(21)의 정면 상에는 조리개 필드(11')가 위치한다. 앞쪽-면 조리개 필드(11')를 가지는 기판 층(21)은 기판 층(20)의 뒤쪽 면 상의 마이크로 렌즈 필드(101)의 잔여 층에 직접적으로 연결되어, 일체형 촬상 오브젝티브가 도출된다. 기판 층(21)의 기판 뒤쪽 면 상에, 광 크로스톡을 억제하는 수평 조리개 시트(12) 및 무굴절-형태 표면의 제2 필드가 위치한다. 각기 다른 마이크로 렌즈 필드들(또는 무굴절-형태 표면 필드들)(10, 101, 102)이, 예를 들어 재질들의 서로 다른 분산 특성으로 인한 색채 촬상 에러를 보정하기 위해, 서로 다른 재질(다른 글라스 타입들, 플라스틱들, 무기 유기 공중합체, 등)로 구성될 수 있다. 또한, 하나 또는 여러 마이크로 렌즈 필드들(또는 무굴절-형태 표면 필드들)(10, 101, 102)이 수색성(achromatic) 요소의 필드로서 구현될 수 있다. 멀티-채널 촬상 오브젝티브는 축상 스페이서 구조물들(41)에 의해 광전자 이미지 센서(100) 상에 고정된다. 이러한 스페이서들(41)들은 멀티-채널 오브젝티브의 엣지에서 구현되나, 선택적으로 한 채널씩 구현될 수 있다. 재질로서는 특히 글라스, 플라스틱, 또는 금속이 사용될 수 있다. 후속하는 마운팅 스텝(예를 들어, 글라스를 이용하는 경우 광-흡수성 폴리머에 의한 흑색화(blackening))에서 재질은 불투명이어야 하거나 불투명으로 만들어져야 한다.
여기서, 비구면 렌즈들 및 무굴절-형태 표면을 위한, 초점 또는 초점 포인트는 일반적으로 입사광이 정상적으로 번들(bundle)되는 포인트이다(예를 들어 이미지 센서(100)의 메인 표면에 대해 법선인(normal)).
렌즈의 엣지에 부착된 불투명, 축상 스페이서(41)에 의해 멀티-채널 촬상 시스템 및 또한 광전자 이미지 센서(100)의 광민감성 영역 또한 측면으로부터 들어오는 분산된 빛으로부터 보호될 수 있다. 연관된 마이크로 렌즈들 또는 무굴절-형태 표면들에 대해, 개별 포토다이오드 그룹(30)은 마이크로 렌즈 필드들 또는 무굴절-형태 표면 필드(10, 101, 102)들로부터, 대상 필드에서 개별 채널의 모니터링 또는 뷰의 평균 방향을 정의하는 측면 오프셋(피치 차이)을 가진다.
상기 구조에 기초하여, 이제 본 발명의 제5 실시예에 따른 광 촬상 장치(1500)의 기능 및 이점들이 설명될 것이다. 제5 실시예에 따른 광 촬상 장치(1500)는 제4 실시예에 따른 도 14에 도시된 광 촬상 장치(1500)에 비해, 더 높은 광학적 필 팩터(fill factor)를 가진다. 이것은 개별 마이크로 렌즈 필드에 대한 대체로서 적어도 하나의 굴절성 형태 표면의 필드-타입 배열(도 15에 따른 광 촬상 장치(1500)에서, 예를 들어 무굴절-형태 표면의 2 개의 필드가 사용된다 - 제1 필드의 무굴절-형태 표면(10) 및 제2 필드의 무굴절-형태 표면(102))의 사용에 의해 얻어진다. 각 채널 내의 이러한 무굴절-형태 표면의 측면 확장은 무굴절-형태 표면과 비교해 더 큰 (완전한) 마이크로 렌즈의 개별 포토다이오드 그룹에 속하는 빛이 비춰진 영역보다 실질적으로 더 크지 않다. 이러한 이유로, 포토다이오드의 그룹(포토다이오드 매트릭스들(30))이 서로 밀접하게 채워져 정렬될 수 있으며, 이는 마이크로 렌즈를 사용할 때와 비교하여 광전자 이미지 센서(100)의 더 작은 표면 또는 활성 영역, 및 그에 따른 광전자 이미지 센서(100)의 제조 비용의 절감을 의미한다.
제4 실시예에 따른 광 촬상 장치(1400)와 관련하여 이미 설명한 바와 같이, 제5 실시예에 따른 광 촬상 장치(1500)에서도 또한 제4 실시예에서 언급된 이점들을 가지는 조리개 필드(11') 주변의 축상으로 대략적으로 대칭적인 배열이 광 해상도 용량 증가를 위해 사용된다. 도시된 배열에서, 왜곡은 주로 각 채널 내에서 축상으로 대칭적인 광 셋업에 의해 상당히 감소될 수 있다. 비스듬한 광 입사 환경에서 이미지 에러의 한 채널씩의 보정의 최적화의 결과로서, 탄젠셜(tangential) 및 사지탈(sagittal) 마이크로 렌즈 파라미터의 독립적인 적용이 바람직하다. 하지만, 각 경우에 채널당 하나의 (따라서 애너모포틱(anamorphotic)) 무굴절-형태 표면에 의한 촬상은 탄젠셜(tangential) 및 사지탈(sagittal) 방향에서의 각기 다른 촬상 스케일을 보장하고, 이는 각 마이크로 이미지의 단일-축 왜곡을 도출한다. 이러한 왜곡은, 한 채널씩의(예를 들어 도 4에 따른 제2 처리 수단(52)을 이용해), 픽셀 값들의 보간 및 위치 변환에 의해 잘 보정되어 이웃하는 광 채널들의 이미지 세부점들의 연결(적절한 상호연결) 및 그에 따른 전체 이미지에서의 고 해상도 용량을 보장할 수 있다. 대안적으로, 도 15에 도시된 바와 같이, 채널마다 제2 무굴절-형태 표면이, 한 채널씩, 비스듬한 광의 입사 환경 하에서의 촬상 에러의 보정과 동시에, 탄젠셜 및 사지탈 방향의 촬상 스케일 변형을 또한 동시에 광적으로 보정하기 위해 사용될 수 있다.
무굴절-형태 표면(10, 102)은 한 채널씩, 더 큰 쌍원뿔형(biconical) 마이크로 렌즈들(즉, 표면 프로파일을 통해 두 수직 섹션을 따라 각기 다른 원뿔을 가지는 두 개의 비구면 프로파일을 포함하는 마이크로 렌즈들)의 세그먼트들에 의해 적어도 대략 서술될 수 있다. 쌍원뿔형 렌즈의 표면 프로파일은 따라서 일반적으로 순환적으로 대칭적이지 않다, 즉 애너모포틱(anamorphotic)하다. 채널마다 다른 각기 다른 표면 프로파일의 정확한 수학적 서술은 기준 포인트에 대해 2-차원 좌표에 기초한 축의 화살 높이의 다항식의 전개에 의해 수행된다. 이웃하는 채널들 간의 비안정적 구조 중첩으로 인해, 이러한 필드-타입 배열의 무굴절-형태 표면에 대해, 레이저 스크라이빙(scribing), 그레이 톤 또는 2-포톤(photon) 리소그래피 및 대안적으로 핫 또는 글라스 스탬핑(stamping)과 같은 제조 방법들이 필요하다. 또한, 대응하는 몰딩 수단을 위한 마스터를 제조하는 데 초정밀 처리가 사용될 수 있다.
또한, 여기에 도시된 실시예들로부터 벗어난 실시예들이 사용될 수 있다. 따라서, 추가적인 실시예에서, 예를 들어 필드 배열 내의 마이크로 렌즈들이 적어도 하나의 그 구조적 파라미터(예를 들어, 풋프린트, 지름(diameter), 화살표 높이(arrow height), 곡률 반경(curvature radius), 중앙점 거리 및 기타)가 다를 수 있다. 특정 표면에서 마이크로 렌즈의 프로파일이 구면(spherical), 토릭(toric)(즉, 두 수직 섹션을 따라 두 구면 곡률 반경(spherical curvature radii)), 쌍뿔형(두 수직 섹션을 따라 각기 다른 원뿔을 가지는 두 개의 비구면 프로파일) 또는 비구면인 것 또한 가능하다. 추가적으로 마이크로 렌즈들은 또한 굴절성 광 프리-형태 표면으로 구현될 수도 있다. 마이크로 렌즈들은 일반적으로 굴절성이지만, 다른 실시예들에서는 또한 회절성 또는 둘의 혼합된 형태일 수 있다. 마이크로 렌즈 필드의 개별적 마이크로 렌즈는 세로 및 가로(longitudinal and transverse)의 색 에러를 최소화하기 위해 수색성(achromatic) 렌즈로서 구현될 수도 있다. 마이크로 렌즈 필드, 또는 마이크로 렌즈 필드들, 및 가능하게는 각기 다른 굴절률를 가지는 재질들 간의 추가적인 인터페이스 또는 경계 영역에 반사-방지 코팅(AR 코팅)이 제공되는 것 또한 가능하다.
하드웨어 왜곡 보정의 추가적인 가능성은 광전자 이미지 센서(100)의 포토다이오드들(30')의 물리적 중심 거리의 변형이다. 채널-특정 왜곡은 따라서 마이크로 이미지 영역 내의 포토다이오드들(30')의 배열의 채널-의존적 변경을 가지는 광소자들에 대해 적응된 이미지 센서(100)에 의해 보정될 수 있다. 포토다이오드들(30')의 채널-특정 배열은 이러한 관점에서 광학 설계 데이터 및 특히 한 채널씩의 왜곡 코스로부터 결정될 수 있다(도 8 참조).
포토다이오드들(30')이 광전자 이미지 센서(100) 상에 육각형, 정사각형, 직각 또는 다른 분포로 배열되어 있다면, 연관된 마이크로 렌즈들(10) 또한 육각형, 정사각형, 직각 또는 다른 분포로 배열될 것이다.
요악하면, 본 발명의 실시예들은 멀티-채널 촬상 및 이미지 기록 시스템과 관련된다 할 것이다. 본 발명에 따른 멀티-채널 촬상 및 이미지 기록 시스템은 하나 또는 여러 마이크로 렌즈 필드 및, 각 채널에서, 광범위한 대상 필드의 부분 영역을 검출하여 매핑하고 모든 개별 채널들의 전자적/디지털 신호들로부터 대상 필드의 전체 이미지를 합치는, 이미지 검출기 필드로 구성된다. 시스템은 완전히 독립적으로 촬상하고 다른 광학소자들과 결합될 필요가 없다. 이는, 촬상하지 않고 광학 필 팩터(fill factor)를 증가시키기 위한 번들링 광을 서비스하는 이미지 센서들의 개별적 포토다이오드들 상의 마이크로 렌즈 필드와 대조를 보인다. 공지 기술에 대조적으로, 여러 것들 중에서도 아래의 이점들이 도출된다. 셋업 및 연결 기술은 주로 (스페이서 층을 위한 광 부품들, 광전자 이미지 센서를 위한 멀티-채널 오브젝티브) 웨이퍼 레벨 상에서 병렬로 많은 시스템에 대해 수행된다. 조절 마크에 의한 광 조절 지원의 사용으로 인해 이러한 방법들의 정확도는 ㎛ 범위에 있다. 이로 인해, 수동 마운팅의 비율 및 모듈당 마운팅 시간이 명백하게 감소하고, 이는 곧 비용적 이점을 가져온다. 추가적인 이점은, 공지의 인공 동격 겹눈과 비교하여 채널당 여러 픽셀들 및 특별히 조절된 샘플링 원칙을 사용함으로써 동일 또는 심지어 더 작은 센서 풋프린트를 가지고도 실질적으로 더 높은 이미지 해상도 용량을 가능케 한다는 점이다. 이러한 이유로, 광전자 센서의 제조 비용이 감소하고 그에 따라 전체 시스템의 제조 비용 또한 감소한다. 추가적인 이점은, 특히 각 마이크로 이미지 내의 광 왜곡 보정을 위해, 한 채널씩 신호 전처리를 사용함으로써, 전체 필드에서의 해상도 용량을 감소시키지 않고 대상 필드의 세그멘팅을 가능케 한다는 점이며, 여기서 마이크로 이미지는 마이크로 렌즈를 통해 대상 필드의 부분 영역을 이미지 검출기 매트릭스 상으로 촬상할 때 발생한다. 추가적으로, 복수의 개별 광 채널들에 의해 대상 필드의 촬상의 구분으로 인해, 광 시스템의 빌딩 길이의 단축이 가능해지며, 이러한 점에도 불구하고 큰 대상 필드 영역의 검출이 가능해진다(특히 검출가능한 대상 필드의 크기가 채널의 개수 및 측면 시스템 크기와 함께 스케일되지만, 빌딩 길이에 무관함). 또한 실질적으로 일정한 해상도 용량을 가진 큰 대상 필드는 전체 필드에 걸쳐 촬상되고, 각 채널에 대해 간단한 (제조가 용이한) 광 시스템이 사용된다. 또한 촬상 오브젝티브의 비용-효율적인 생산 및 마운팅 및 또한 광전자 이미지 센서를 위한 비용-효율적인 셋업 및 연결 기술이 웨이퍼 레벨 상에서의 반도체 패터닝 기술-관련 제조 프로세스에 의해 가능해진다. 추가적인 이점은, 촬상 에러(특히 코마(coma), 비점(astigmatism) 및 이미지 필드 만곡(curvature))의, 한 채널씩의 보정을 위한 광 배열과 연관되어 채널 당 여러 픽셀을 사용함으로 인한 이미지 해상도 용량의 증가(대략 1000×1000 픽셀들 또는 그 이상까지)이다. 왜곡 보정을 위한, 한 채널씩의, 이미지 전처리의 추가적인 사용으로 인해, 마이크로 이미지 세부점들의 에러-프리 연결이 가능해진다. 추가적으로 본 발명에 따른 광 촬상 장치는 이미지 해상도 용량의 몫 및 광전자 이미지 센서의 필요 영역의 증가, 및 그에 따른 전체 시스템 비용의 감소를 가능케 한다. 그것과는 별개로, 광학 셋업의 적절한 변형으로 인해 에지 방향의 이미지의 밝기의 감소가 줄어들 수 있다. 추가적으로, 스펙트럴 전송 필터들의 손쉬운 집적 가능성이 제공된다(예를 들어, IR 블록킹 필터들 및/또는 컬러 필터들).
모든 실시예들에 대한 대표적인 파라미터 범위가 아래에서 표시된다. 마이크로 렌즈들의 통상적인 지름이 10 ㎛ 내지 1 mm의 범위에 있을 수 있고, 마이크로 렌즈들의 초점 거리는 통상적으로 30 ㎛ 내지 3 mm의 범위에 있을 수 있다. 2-차원 필드에서, 마이크로 렌즈 또는 채널들의 개수는 통상적으로 4 내지 25000 개가 될 수 있으나, 1-차원 필드에서는 통상적으로 2 내지 1000 개가 될 수 있다. 본 발명에 따라 광 촬상 장치가 가지는 이점에 기초하여, 촬상 광소자들의 완전한 빌딩 길이가 통상적으로 50 ㎛ 내지 4.5 mm의 크기에 이른다. 본 발명에 따른 광 촬상 장치의 전체적인 이미지 해상도는 통상 10000 픽셀들 및 10 메가픽셀들 사이 또는 그 이상이다.
본 발명의 일 실시예에 따른 이미지 센서 상에 마이크로 렌즈 필드 (예를 들어 조리개 층을 가지는 얇은 기판 상에)의 촬상은, 통상적인 단일-채널 광학소자들(렌즈가 개별적으로 제조되고(주입 몰딩) 공통의 하우징으로(이미지 센서와 함께) 조립되므로 셋업은 통상적으로 하이브리드임)과는 고유하게 다를 수 있다.
가능한 초밀도 구성 및 잠재적인 비용-효율적 제조 기술에 기초하여, 본 발명에 따른 멀티-채널 촬상 및 이미지 검출 시스템은 오락 전자공학 제품들(노트북, 게임콘솔, 장난감), 및 특히 휴대가능한 장치(휴대 전화, PDA 및 기타)에 사용될 것이 예정된다. 추가적인 적용 필드는 센서공학(예를 들어, 카메라-타입 센서들, 생산 기술에서의 촬상 센서들), 자동차 기술(예를 들어 자동차 내부의 광 안전 센서들, 반전 카메라, 차선 검출, 등과 같은 개선된 운전자 보조 시스템), 안전 모니터링(예를 들어, 빌딩, 박물관, 물체들에서의/내에서의 넓은 시야 범위를 가지는 스위칭가능한 환경 카메라), 로봇공학(예를 들어, 네비게이션, 그리퍼(gripper) 또는 부품 활용(uptake) 장치의 광 제어를 위한 광 센서), 및 의학 기술(예를 들어, 촬상 진단 방법에서의 사용, 망원경)의 분야가 있다.
방법의 실시예들은 본 발명의 장치의 모든 측면들 및 기능들에 의해 보충될 수 있다.
몇몇 측면들이 장치와 관련하여 설명되었으나, 이러한 측면들이 대응하는 방법의 설명을 또한 표현하며, 그에 따라 장치의 블록 또는 부품은 또한 상응하는 방법 스텝으로서 또는 방법 스텝의 특성으로서 고려될 수 있음이 명백하다 할 것이다. 이와 유사하게, 그에 따라 방법 스텝과 관련하여 또는 방법 스텝으로서 설명된 측면들 또한 상응하는 장치의 대응 블록 또는 상세사항 또는 특성을 나타낸다.
어떤 구현 요구사항들에 따라 본 발명의 실시예들은 하드웨어적으로 또는 소프트웨어적으로 구현될 수 있다. 구현은 개별 방법이 수행되도록 프로그래머블 컴퓨터 시스템과 결합하는 또는 결합할 수 있는, 전기적으로 판독가능한 제어 신호들이 저장된 디지털 저장 매체 예컨대, 플로피 디스크, DVD, 블루-레이(Blu-ray) 디스크, DC, ROM, PROM, EPROM, EEPROM 또는 플래시 메모리, 메인 디스크 또는 다른 자기적 또는 광 저장매체를 이용하여 수행될 수 있다. 따라서, 디지털 저장 매체는 컴퓨터-판독가능할 수 있다. 본 발명에 따른 일부 실시예들은 여기에서 설명된 방법들 중 하나가 수행되도록 프로그래머블 컴퓨터 시스템과 협력할 수 있는, 전기적으로 판독가능한 제어 신호들을 갖는 데이터 캐리어를 포함할 수 있다.
일반적으로, 본 발명의 실시예들은 프로그램 코드를 갖는 컴퓨터 프로그램 제품으로서 구현될 수 있으며, 프로그램 코드는 컴퓨터 프로그램 제품이 컴퓨터 상에서 실행될 때 본 발명의 방법들 중 하나를 수행하는 데 유효하다. 프로그램 코드는 예컨대, 머신 판독가능한 캐리어 상에 저장될 수 있다.
다른 실시예들은 여기에서 설명된 방법을 수행하는 컴퓨터 프로그램을 포함하며, 컴퓨터 프로그램은 머신-판독가능한 캐리어 상에 저장된다.
따라서, 다시 말해, 본 발명의 방법의 일 실시예는 컴퓨터 프로그램이 컴퓨터 상에서 실행될 때 여기에 설명된 방법들 중 하나를 수행하는 프로그램 코드를 포함하는 컴퓨터 프로그램이다. 따라서, 본 발명의 방법들의 다른 실시예는 여기에 설명된 방법들 중 하나를 실행하는 컴퓨터 프로그램이 기록된 데이터 캐리어(또는 디지털 저장 매체 또는 컴퓨터-판독가능한 매체)이다.
그러므로, 본 발명의 방법의 다른 실시예는 여기에 설명된 방법을 실행하는 컴퓨터 프로그램을 나타내는 데이터 스트림 또는 신호 시퀀스이다. 데이터 스트림 또는 신호 시퀀스는 예컨대, 데이터 통신 연결 예컨대, 인터넷을 통해 전송되도록 구성될 수 있다.
다른 실시예는 여기에 설명된 방법들 중 하나를 수행하도록 구성되거나 조절된, 처리 수단, 예컨대, 컴퓨터 또는 프로그래머블 로직 장치를 포함한다.
추가적인 실시예가 여기에 설명된 방법들 중 하나를 수행하는 컴퓨터 프로그램이 설치된 컴퓨터를 포함한다.
일부 실시예들에서, 프로그래머블 로직 장치(예컨대, 필드-프로그래머블 게이터 어레이, FPGA)는 여기에 설명된 방법들의 기능들 중 일부 또는 전부를 수행하는 데 사용될 수 있다. 일부 실시예들에서, 필드-프로그래머블 게이트 어레이는 여기에 설명된 방법들 중 하나를 수행하기 위해 마이크로프로세서와 협력할 수 있다. 일반적으로, 방법들은 몇몇 실시예들에서 어떤 하드웨어 장치에 의해서도 수행될 수 있다. 하드웨어 장치는 컴퓨터 프로세서(CPU)와 같은 범용적으로 사용가능한 하드웨어 또는 예를 들어 ASIC과 같은, 그 방법에 특화된 하드웨어일 수 있다.
상술한 실시예들은 단지 본 발명의 원칙에 대한 설명일 뿐이다. 여기 기술된 배열 및 세부사항들에 대한 변경이나 응용은 본 기술분야의 숙련된 기술자에게 명백하다 할 것이다. 그러므로, 본 발명은 아래의 특허청구의 범위에 의해서만 제한되고, 실시예상의 설명 및 논의와 관련하여 여기 제시된 특정 세부사항들에 의해서는 제한되지 않을 것이 의도된다.

Claims (24)

  1. 적어도 2 개의 마이크로 렌즈를 갖는 적어도 하나의 마이크로 렌즈 필드(10);
    적어도 2 개의 이미지 검출기 매트릭스들(30)을 갖는 이미지 센서(100)를 포함하는 광 촬상 장치(1000, 1200, 1300, 1400, 1500)로서,
    상기 적어도 2 개의 이미지 검출기 매트릭스(30) 각각은 복수의 이미지 검출기들을 포함하고;
    하나의 이미지 검출기는 상기 이미지 센서(100)의 하나의 픽셀에 대응하고;
    상기 이미지 검출기 매트릭스(30) 및 마이크로 렌즈(10) 사이에 배열이 존재하여, 각 마이크로 렌즈는 이미지 검출기 매트릭스(30)와 함께 광 채널을 형성하며,
    각기 다른 이미지 검출기 매트릭스들(30)의 중심점(center point)들이 관련된 광 채널들의 마이크로 렌즈 조리개들(13a, 13b)의, 이미지 검출기 매트릭스들(30) 상으로 프로젝트된, 중심들(centroids)에 대해 측면으로 각기 다른 거리만큼 쉬프트되어, 적어도 2 개의 광 채널들이 각기 다른 부분적으로 중첩하는 검출 영역을 포함하고, 두 채널의 검출 영역들의 중첩하는 영역이 이미지 검출기 매트릭스들(30)의 이미지 검출기 래스터(raster)에 대해 오프셋되어 이미지 검출기 매트릭스들(30) 상으로 촬상되는, 광 촬상 장치(1000, 1200, 1300, 1400, 1500).
  2. 청구항 1에 있어서,
    상기 중첩하는 영역은 복수의 대상 셀을 포함하고, 각 대상 셀은 상기 이미지 센서(100)의 적어도 하나의 이미지 검출기 상으로 촬상될 수 있으며;
    샘플링 그리드가 각 광 채널과 연관되며;
    제1 광 채널의 샘플링 그리드(810)는 상기 중첩하는 영역의 어떤 대상 셀들이 제1 광 채널의 이미지 검출기 매트릭스(30a)의 어떤 이미지 검출기들 상으로 촬상될 것인지 나타내고; 및
    제2 광 채널의 샘플링 그리드(820)는 상기 중첩하는 영역의 어떤 대상 셀들이 제2 광 채널의 이미지 검출기 매트릭스(30b)의 어떤 이미지 검출기들 상으로 촬상될 것인지 나타내며,
    상기 제1 광 채널의 샘플링 그리드(810)는, 제1 대상 셀이 제1 광 채널의 이미지 검출기 매트릭스(30a)의 제1 이미지 검출기 상으로 촬상되고, 제1 대상 셀 주변의 제2 대상 셀이 제1 광 채널의 이미지 검출기 매트릭스(30a)의 제1 이미지 검출기 및 상기 제1 이미지 검출기 주변의 제1 광 채널의 이미지 검출기 매트릭스(30a)의 제2 이미지 검출기 사이의 갭 상으로 촬상되도록, 선택되고;
    상기 제2 광 채널의 샘플링 그리드(820)는, 제2 대상 셀이 제2 광 채널의 이미지 검출기 매트릭스(30b)의 제1 이미지 검출기 상으로 촬상되고, 제1 대상 셀은 제2 광 채널의 이미지 검출기 매트릭스(30b)의 제1 이미지 검출기 및 제2 광 채널의 이미지 검출기 매트릭스(30b)의, 상기 제1 이미지 검출기 주변의, 제2 이미지 검출기 사이의 갭 상으로 촬상되도록 선택된, 광 촬상 장치(1000, 1200, 1300, 1400, 1500).
  3. 청구항 2에 있어서,
    상기 제1 광 채널의 상기 샘플링 그리드(810)는 상기 제2 광 채널의 샘플링 그리드(820)에 대해 샘플링 간격의 비-정수(non-integer) 배수(multiple)만큼 쉬프트되어,
    상기 제2 대상 셀 주변의 제3 대상 셀이 상기 제1 광 채널의 이미지 검출기 매트릭스(30a)의 상기 제2 이미지 검출기 상으로 촬상되며,
    상기 샘플링 간격은 상기 제1 대상 셀의 중심점의 상기 제3 대상 셀의 중심 점까지의 거리와 동일한, 광 촬상 장치(1000, 1200, 1300, 1400, 1500).
  4. 청구항 1에 있어서,
    각 광 채널에서 개별 검출 영역의 마이크로 이미지를 생성하도록 구현되고,
    마이크로 이미지는 복수의 픽셀들을 포함하며, 픽셀은 대상 셀의 이미지 검출기로의 촬상에 의해 형성되고, 및
    제1 광 채널의 마이크로 이미지는 제2 광 채널의 마이크로 이미지와 인터리빙되어 제1 및 제2 채널의 중첩하는 영역의 이웃하는 대상 셀들은 라인을 따라 교호적으로 각기 다른 마이크로 이미지들과 연관되는, 광 촬상 장치(1000, 1200, 1300, 1400, 1500).
  5. 청구항 1에 있어서,
    상기 이미지 센서(100)는 마이크로 렌즈 필드(10)의 마이크로 렌즈들의 초점 평면에 정렬되고;
    상기 이미지 센서(100) 및 마이크로 렌즈 필드(10) 사이에 스페이서 층이 위치하며;
    상기 스페이서 층은 이웃하는 광 채널들 간의 광 크로스톡을 억제하도록 구현된 복수의 채널 분리 구조물들을 포함하며; 및
    상기 스페이서 층은 상기 마이크로 렌즈들 간의 갭들을 통해 산란되는 빛을 억제하도록 구현된 적어도 하나의 조리개 필드(11)를 포함하는, 광 촬상 장치(1000, 1200, 1300, 1400, 1500).
  6. 청구항 1에 있어서,
    복수의 광 채널들이 각기 다른 스펙트럴 전송 필드를 포함하여, 각 광 채널에 하나의 연관된 마이크로 이미지가 발생하며, 각기 다른 채널들의 마이크로 이미지들은 각기 다른 스펙트럴 컬러와 연관되고;
    상기 광 채널들은 컬러 크로스톡을 억제하기 위해 채널 분리 구조물들에 의해 분리되고;
    이웃하는 채널들은 각기 다른 스펙트럴 전송 필드를 포함하고 상기 이웃하는 채널들의 마이크로 이미지들이 인터리빙되어, 광 채널들의 중첩하는 영역의 이웃하는 대상 셀들은 라인을 따라 교호적으로 각기 다른 스펙트럴 마이크로 이미지들과 연관되는, 광 촬상 장치(1000, 1200, 1300, 1400, 1500).
  7. 청구항 1에 있어서,
    상기 장치 및 검출되어야 할 대상(800) 사이의 거리를 측정하는 센서를 포함하고;
    상기 장치(1000, 1200, 1300, 1400, 1500)는, 제2 광 채널의 이미지 검출기 매트릭스(30b)의 제1 이미지 검출기 상에 제1 대상 셀에 인접한 제2 대상 셀의 촬상에 대하여, 제1 광 채널의 이미지 검출기 매트릭스(30a)의 제1 이미지 검출기 상에 제1 대상 셀의 촬상의 오프셋을 보정하고, 보정시, 제2 광 채널의 이미지 검출기 매트릭스(30b)에 대한 제1 광 채널의 이미지 검출기 매트릭스(30a)의 측면 길이를 고려하도록 구현된, 광 촬상 장치(1000, 1200, 1300, 1400, 1500).
  8. 청구항 1에 있어서,
    각기 다른 마이크로 렌즈들은 구성적 파라미터들인, 풋프린트의 형태, 지름(diameter), 화살표 높이(arrow height), 곡률 반경(curvature radius), 및 중앙점 거리 중 적어도 하나와 관련하여 다르고,
    상기 마이크로 렌즈들은, 상기 마이크로 렌즈들이 모두 동일한 초점 평면으로 촬상하도록 형성되는, 광 촬상 장치(1000, 1200, 1300, 1400, 1500).
  9. 청구항 1에 있어서,
    적어도 하나의 마이크로 렌즈는 수색성(achromatic) 렌즈로서 구현되는, 광 촬상 장치(1000, 1200, 1300, 1400, 1500).
  10. 청구항 1에 있어서,
    상기 마이크로 렌즈 필드(10), 또는 투명 재질과 에어(air) 사이의 인터페이스는 반사-방지(anti-reflection) 층을 포함하는 광 촬상 장치(1000, 1200, 1300, 1400, 1500).
  11. 청구항 1에 있어서,
    상기 마이크로 렌즈 필드(10) 및 이미지 검출기 매트릭스들(30)은 육각 또는 정사각 또는 직사각 분포로 배열되는, 광 촬상 장치(1000, 1200, 1300, 1400, 1500).
  12. 청구항 1에 있어서,
    상기 마이크로 렌즈 필드(10)는 무굴절-형태(refractive free-form) 표면의 필드로서 구현되는, 광 촬상 장치(1000, 1200, 1300, 1400, 1500).
  13. 청구항 1에 있어서,
    상기 장치(1000, 1200, 1300, 1400, 1500)는 각 광 채널에 복수의 픽셀들을 갖는 마이크로 이미지가 발생하도록 구현되고;
    상기 장치(1000, 1200, 1300, 1400, 1500)는 상기 마이크로 이미지들의 왜곡을 보정하고 광 채널들의 마이크로 이미지들로부터 전체 이미지(300)를 재구성하는 영상 처리 수단(70)을 포함하고;
    상기 영상 처리 수단(70)은 시간상 병렬적이고 개별적으로 각 마이크로 이미지에 대한 왜곡 보정을 수행하도록 구현되며,
    상기 영상 처리 수단(70)은 인터리빙된 마이크로 이미지들의 픽셀들을 교호적으로 배열함으로써 전체 이미지(300)의 재구성을 수행하고, 그에 따라 전체 이미지(300)를 획득하도록 구현되는, 광 촬상 장치(1000, 1200, 1300, 1400, 1500).
  14. 청구항 13에 있어서,
    상기 영상 처리 수단(70)은 이미지 센서(100)을 갖는 칩 상에 구현되고,
    상기 영상 처리 수단(70)은 이미지 센서(100)의 이미지 검출기 매트릭스들(30)의 갭들에 배열된 왜곡 보정을 위한 복수의 마이크로 이미지 처리 수단(50)을 포함하는, 광 촬상 장치(1000, 1200, 1300, 1400, 1500).
  15. 복수의 이미지 검출기를 갖는 이미지 센서(100)로서, 제1 복수의 이미지 검출기는 제1 이미지 검출기 매트릭스(30a)와 연관되고, 제2 복수의 이미지 검출기는 제2 이미지 검출기 매트릭스(30b)와 연관되고, 이웃하는 채널들의 개별 이미지들이 인터리빙되는, 이미지 센서(100);
    이미지 에러들을 보정하고 상기 이미지 검출기 매트릭스들의 이미지 검출기들 상의 이미지들로부터 전체 이미지(300)를 재구성하는 영상 처리 수단(70)으로서,
    상기 영상 처리 수단(70)은 왜곡을 보정하는 복수의 왜곡 보정 처리 수단을 포함하고,
    상기 영상 처리 수단(70)은 상기 개별 이미지들의 인터리빙이 고려되도록 시간상 병렬적으로 서로 독립적으로 모든 이미지 검출기 매트릭스들의 개별 이미지들의 이미지 에러의 보정을 수행하고 상기 개별 이미지들로부터 전체 이미지를 재구성하도록 구현되는, 상기 영상 처리 수단(70); 및
    상기 이미지 센서가 마이크로 렌즈 필드의 초점 평면에 위치되도록 상기 영상 처리 장치 상에 마이크로 렌즈 필드를 마운트하도록 구현된 마이크로 렌즈 필드 수용 유닛을 포함하는, 영상 처리 장치.
  16. 청구항 15에 있어서,
    상기 영상 처리 수단(70)은 상기 이미지 센서(100)와 함께 칩 상에 구현되는 영상 처리 장치.
  17. 청구항 16에 있어서,
    상기 복수의 처리 수단은 상기 이미지 센서(100)의 이미지 검출기 매트릭스들의 갭들에서 왜곡을 보정하도록 배열되는, 영상 처리 장치.
  18. 적어도 두 개의 마이크로 렌즈 및 이미지 센서(100)를 갖는 마이크로 렌즈 필드(10)를 이용한 대상의 광 촬상 방법으로서, 상기 이미지 센서는 복수의 이미지 검출기 매트릭스들(30)을 포함하고, 각 이미지 검출기 매트릭스는 복수의 이미지 검출기들을 포함하고, 하나의 이미지 검출기 매트릭스는 각 마이크로 렌즈가 연관된 이미지 검출기 매트릭스와 함께 광 채널을 형성하도록 각 마이크로 렌즈와 연관되는, 상기 광 촬상 방법에 있어서,
    a) 각 대상 셀이 이미지 검출기 상에 촬상되도록 상기 마이크로 렌즈 필드를 통해 상기 이미지 센서 상에 대상을 촬상하는 단계를 포함하고,
    적어도 2 개의 광 채널들이 각기 다른 부분적으로 중첩하는 검출 영역들을 포함하고, 두 채널의 검출 영역들의 중첩하는 영역이 상기 이미지 검출기 매트릭스들(30)의 이미지 검출기 래스터(raster)에 대해 오프셋되어 상기 이미지 검출기 매트릭스들(30) 상으로 촬상되고, 마이크로 이미지들이 광 채널들의 이미지 검출기 매트릭스들 상에 형성되고, 인접한 상기 광 채널들의 마이크로 이미지들은 인터리빙되는, 광 촬상 방법.
  19. 청구항 18에 있어서,
    b) 상기 광 채널들의 개별 마이크로 이미지들을 수평 및 수직으로 미러링(mirroring)하는 단계로서, 모든 마이크로 이미지들의 미러링은 시간상 병렬적으로 수행되는, 상기 미러링 단계;
    c) 각기 다른 광 채널들의 마이크로 이미지들의 픽셀 값들을 위치 변환 수단에 의해 그 이산 그리드 구조로부터 연속 좌표 평면 상으로 변환하는 단계로서, 각기 다른 광 채널들의 마이크로 이미지들의 이미지 왜곡의 보정이 수행되는, 상기 변환 단계;
    d) 비왜곡된 마이크로 이미지들을 획득하기 위해, 상기 픽셀 값들을 상기 연속 좌표 평면으로부터 새로운 이산 그리드 상으로 촬상하는 단계로서, 각기 다른 광 채널들은 시간상 병렬적으로 처리되는, 상기 촬상 단계; 및
    e) 비-인터리빙된 전체 이미지를 획득하기 위해 마이크로 이미지들의 인터리빙에 의해 부여된 주어진 스킴에 따라 상기 비왜곡된 마이크로 이미지들의 픽셀 값들을 이미지 매트릭스로 재분류하는 단계를 더 포함하는 광 촬상 방법.
  20. 청구항 19에 있어서,
    상기 그 이산 그리드 구조로부터 각기 다른 광 채널들의 마이크로 이미지의 상기 위치 변환 수단에 의한 픽셀 값들의 변환은, 시간상 병렬로 연속 좌표 평면상으로 수행되는, 광 촬상 방법.
  21. 컴퓨터 상에서 실행될 때, 청구항 18에 따른 방법을 수행하는 프로그램 코드를 갖는 컴퓨터 프로그램을 저장한 컴퓨터로 판독 가능한 기록 매체.
  22. 적어도 2 개의 마이크로 렌즈를 갖는 적어도 하나의 마이크로 렌즈 필드(10);
    적어도 2 개의 이미지 검출기 매트릭스들(30)을 갖는 이미지 센서(100)를 포함하는 광 촬상 장치(1000, 1200, 1300, 1400, 1500)로서,
    상기 적어도 2 개의 이미지 검출기 매트릭스(30) 각각은 복수의 이미지 검출기들을 포함하고;
    하나의 이미지 검출기는 상기 이미지 센서(100)의 하나의 픽셀에 대응하고;
    상기 이미지 검출기 매트릭스(30) 및 마이크로 렌즈(10) 사이에 배열이 존재하여, 각 마이크로 렌즈는 이미지 검출기 매트릭스(30)와 함께 광 채널을 형성하며,
    각기 다른 이미지 검출기 매트릭스들(30)의 중심점(center point)들이 관련된 광 채널들의 마이크로 렌즈 조리개들(13a, 13b)의, 이미지 검출기 매트릭스들(30) 상으로 프로젝트된, 중심들(centroids)에 대해 측면으로 각기 다른 거리만큼 쉬프트되어, 적어도 2 개의 광 채널들이 각기 다른 부분적으로 중첩하는 검출 영역을 포함하고, 두 채널의 검출 영역들의 중첩하는 영역이 이미지 검출기 매트릭스들(30)의 이미지 검출기 래스터(raster)에 대해 오프셋되어 이미지 검출기 매트릭스들(30) 상으로 촬상되며,
    상기 중첩하는 영역은 복수의 대상 셀을 포함하고, 각 대상 셀은 상기 이미지 센서(100)의 적어도 하나의 이미지 검출기 상으로 촬상될 수 있으며;
    샘플링 그리드가 각 광 채널과 연관되며;
    제1 광 채널의 샘플링 그리드(810)는 상기 중첩하는 영역의 어떤 대상 셀들이 제1 광 채널의 이미지 검출기 매트릭스(30a)의 어떤 이미지 검출기들 상으로 촬상될 것인지 나타내고; 및
    제2 광 채널의 샘플링 그리드(820)는 상기 중첩하는 영역의 어떤 대상 셀들이 제2 광 채널의 이미지 검출기 매트릭스(30b)의 어떤 이미지 검출기들 상으로 촬상될 것인지 나타내며,
    상기 제1 광 채널의 샘플링 그리드(810)는, 제1 대상 셀이 제1 광 채널의 이미지 검출기 매트릭스(30a)의 제1 이미지 검출기 상으로 촬상되고, 제1 대상 셀 주변의 제2 대상 셀이 제1 광 채널의 제1 이미지 검출기 매트릭스(30a)의 제1 이미지 검출기 및 제1 광 채널의 이미지 검출기 매트릭스의, 상기 제1 이미지 검출기 주변의, 제2 이미지 검출기 사이의 갭 상으로 촬상되도록, 선택되고;
    상기 제2 광 채널의 샘플링 그리드(820)는, 제2 대상 셀이 제2 광 채널의 이미지 검출기 매트릭스(30b)의 제1 이미지 검출기 상으로 촬상되고, 제1 대상 셀은 제2 광 채널의 이미지 검출기 매트릭스(30b)의 제1 이미지 검출기 및 제2 광 채널의 이미지 검출기 매트릭스(30b)의, 상기 제1 이미지 검출기 주변의, 제2 이미지 검출기 사이의 갭 상으로 촬상되도록 선택되는, 광 촬상 장치(1000, 1200, 1300, 1400, 1500).
  23. 적어도 2 개의 마이크로 렌즈를 갖는 적어도 하나의 마이크로 렌즈 필드(10);
    적어도 2 개의 이미지 검출기 매트릭스(30)를 갖는 이미지 센서(100)를 포함하는 광 촬상 장치(1000, 1200, 1300, 1400, 1500)로서,
    상기 적어도 2 개의 이미지 검출기 매트릭스(30) 각각은 복수의 이미지 검출기들을 포함하고;
    상기 이미지 검출기 매트릭스(30) 및 마이크로 렌즈(10) 사이에 배열이 존재하여, 각 마이크로 렌즈는 이미지 검출기 매트릭스(30)와 함께 광 채널을 형성하며,
    각기 다른 이미지 검출기 매트릭스들(30)의 중심점(center point)들은 관련된 광 채널들의 마이크로 렌즈 조리개들(13a, 13b)의, 이미지 검출기 매트릭스들(30) 상으로 프로젝트된, 중심들(centroids)에 대해, 측면으로 각기 다른 거리만큼 쉬프트되어, 적어도 2 개의 광 채널들이 각기 다른 부분적으로 중첩하는 검출 영역을 포함하고, 두 채널의 검출 영역들의 중첩하는 영역이 이미지 검출기 매트릭스들(30)의 이미지 검출기 래스터에 대해 오프셋되어 이미지 검출기 매트릭스들(30) 상으로 촬상되며;
    상기 장치 및 검출되어야 할 대상(800) 사이의 거리를 측정하는 센서를 포함하고;
    상기 장치(1000, 1200, 1300, 1400, 1500)는, 제2 광 채널의 이미지 검출기 매트릭스(30b)의 제1 이미지 검출기 상에 제1 대상 셀 주변의 제2 대상 셀의 촬상에 대하여, 제1 광 채널의 이미지 검출기 매트릭스(30a)의 제1 이미지 검출기 상에 제1 대상 셀의 촬상 오프셋을 보정하고,
    상기 장치는, 보정시 제2 광 채널의 이미지 검출기 매트릭스(30b)에 대한 제1 광 채널의 이미지 검출기 매트릭스(30a)의 측면 길이에 따라 부분적 이미지 정보를 쉬프트하도록 구현된, 광 촬상 장치(1000, 1200, 1300, 1400, 1500).
  24. 적어도 두 개의 마이크로 렌즈 및 이미지 센서(100)를 갖는 마이크로 렌즈 필드(10)를 이용한 대상의 광 촬상 방법으로서, 상기 이미지 센서는 복수의 이미지 검출기 매트릭스들(30)을 포함하고, 각 이미지 검출기 매트릭스는 복수의 이미지 검출기들을 포함하고, 이미지 검출기 매트릭스는 각 마이크로 렌즈가 연관된 이미지 검출기 매트릭스와 함께 광 채널을 형성하도록 각 마이크로 렌즈와 연관되는, 상기 광 촬상 방법에 있어서,
    a) 각 대상 셀이 이미지 검출기 상에 촬상되도록 상기 마이크로 렌즈 필드를 통해 상기 이미지 센서 상에 대상을 촬상하는 단계로서, 이웃하는 대상 셀들이 이웃하는 광 채널들의 이미지 검출기들 상에 촬상되어 마이크로 이미지들이 광 채널들의 이미지 검출기 매트릭스들 상에 형성되고, 이웃하는 광 채널들의 마이크로 이미지들은 인터리빙되는, 상기 촬상 단계;
    b) 상기 광 채널들의 개별 마이크로 이미지들을 수평 및 수직으로 미러링(mirroring)하는 단계로서, 어떤 마이크로 이미지들의 미러링도 시간상 병렬로 수행되는, 상기 미러링 단계;
    c) 각기 다른 광 채널들의 마이크로 이미지들의 픽셀 값들을 위치 변환 수단을 이용해 그 이산 그리드 구조로부터 연속 좌표 평면 상으로 변환하는 단계로서, 각기 다른 광 채널들의 마이크로 이미지들의 이미지 왜곡의 보정이 수행되는, 상기 변환 단계;
    d) 비왜곡된 마이크로 이미지들을 획득하기 위해, 상기 픽셀 값들을 상기 연속 좌표 평면으로부터 새로운 이산 그리드 상으로 촬상하는 단계로서, 각기 다른 광 채널들은 시간상 병렬로 처리되는, 상기 촬상 단계; 및
    e) 비-인터리빙된 전체 이미지를 획득하기 위해 마이크로 이미지들의 인터리빙에 의해 주어진 기 설정된 스킴(scheme)에 따라 상기 비왜곡된 마이크로 이미지들의 픽셀 값들을 이미지 매트릭스로 재분류하는 단계를 포함하는 광 촬상 방법.
KR1020117008573A 2009-10-14 2010-10-12 광 촬상을 위한 방법, 장치 및 영상 처리 장치 KR101284414B1 (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DE102009049387.5 2009-10-14
DE102009049387.5A DE102009049387B4 (de) 2009-10-14 2009-10-14 Vorrichtung, Bildverarbeitungsvorrichtung und Verfahren zur optischen Abbildung
PCT/EP2010/065290 WO2011045324A2 (de) 2009-10-14 2010-10-12 Vorrichtung, bildverarbeitungsvorrichtung und verfahren zur optischen abbildung

Publications (2)

Publication Number Publication Date
KR20110074984A KR20110074984A (ko) 2011-07-05
KR101284414B1 true KR101284414B1 (ko) 2013-07-09

Family

ID=43126993

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020117008573A KR101284414B1 (ko) 2009-10-14 2010-10-12 광 촬상을 위한 방법, 장치 및 영상 처리 장치

Country Status (7)

Country Link
US (1) US8629930B2 (ko)
EP (3) EP2429176B1 (ko)
JP (2) JP5379241B2 (ko)
KR (1) KR101284414B1 (ko)
DE (1) DE102009049387B4 (ko)
ES (3) ES2466820T3 (ko)
WO (1) WO2011045324A2 (ko)

Families Citing this family (171)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10298834B2 (en) 2006-12-01 2019-05-21 Google Llc Video refocusing
US8866920B2 (en) 2008-05-20 2014-10-21 Pelican Imaging Corporation Capturing and processing of images using monolithic camera array with heterogeneous imagers
US11792538B2 (en) 2008-05-20 2023-10-17 Adeia Imaging Llc Capturing and processing of images including occlusions focused on an image sensor by a lens stack array
EP4336447A1 (en) 2008-05-20 2024-03-13 FotoNation Limited Capturing and processing of images using monolithic camera array with heterogeneous imagers
GB0912970D0 (en) * 2009-07-27 2009-09-02 St Microelectronics Res & Dev Improvements in or relating to a sensor and sensor system for a camera
EP2502115A4 (en) 2009-11-20 2013-11-06 Pelican Imaging Corp RECORDING AND PROCESSING IMAGES THROUGH A MONOLITHIC CAMERA ARRAY WITH HETEROGENIC IMAGE CONVERTER
US20120012748A1 (en) 2010-05-12 2012-01-19 Pelican Imaging Corporation Architectures for imager arrays and array cameras
DE102010031535A1 (de) * 2010-07-19 2012-01-19 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Bildaufnahmevorrichtung und Verfahren zum Aufnehmen eines Bildes
US8878950B2 (en) 2010-12-14 2014-11-04 Pelican Imaging Corporation Systems and methods for synthesizing high resolution images using super-resolution processes
JP5785398B2 (ja) 2011-02-17 2015-09-30 キヤノン株式会社 撮像装置及び画像信号処理装置
JP5330439B2 (ja) * 2011-03-18 2013-10-30 株式会社東芝 カメラモジュール、画像処理装置及び画像処理方法
BR112013013265A2 (pt) * 2011-04-22 2016-09-13 Grapac Japan Co Inc folha de exibição de imagem, e, corpo de exibição de imagem
CN107404609B (zh) 2011-05-11 2020-02-11 快图有限公司 用于传送阵列照相机图像数据的方法
WO2013043751A1 (en) 2011-09-19 2013-03-28 Pelican Imaging Corporation Systems and methods for controlling aliasing in images captured by an array camera for use in super resolution processing using pixel apertures
CN104081414B (zh) 2011-09-28 2017-08-01 Fotonation开曼有限公司 用于编码和解码光场图像文件的系统及方法
JP2013109011A (ja) * 2011-11-17 2013-06-06 Toshiba Corp カメラモジュール
CN103139470A (zh) * 2011-11-30 2013-06-05 索尼公司 数字成像系统
US20130169606A1 (en) * 2011-12-30 2013-07-04 Qualcomm Mems Technologies, Inc. Light direction distribution sensor
EP2817955B1 (en) 2012-02-21 2018-04-11 FotoNation Cayman Limited Systems and methods for the manipulation of captured light field image data
WO2013173541A1 (en) 2012-05-18 2013-11-21 Rebellion Photonics, Inc. Divided-aperture infra-red spectral imaging system for chemical detection
US9599508B2 (en) 2012-05-18 2017-03-21 Rebellion Photonics, Inc. Divided-aperture infra-red spectral imaging system
US9858649B2 (en) 2015-09-30 2018-01-02 Lytro, Inc. Depth-based image blurring
WO2014005123A1 (en) 2012-06-28 2014-01-03 Pelican Imaging Corporation Systems and methods for detecting defective camera arrays, optic arrays, and sensors
US20140002674A1 (en) 2012-06-30 2014-01-02 Pelican Imaging Corporation Systems and Methods for Manufacturing Camera Modules Using Active Alignment of Lens Stack Arrays and Sensors
US20140003777A1 (en) * 2012-07-02 2014-01-02 Commscope, Inc. Of North Carolina Light focusing structures for fiber optic communications systems and methods of fabricating the same using semiconductor processing and micro-machining techniques
EP3869797B1 (en) 2012-08-21 2023-07-19 Adeia Imaging LLC Method for depth detection in images captured using array cameras
WO2014032020A2 (en) 2012-08-23 2014-02-27 Pelican Imaging Corporation Feature based high resolution motion estimation from low resolution images captured using an array source
CN104685860A (zh) 2012-09-28 2015-06-03 派力肯影像公司 利用虚拟视点从光场生成图像
DE102012218834B4 (de) * 2012-10-12 2016-07-14 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Bildsensor und system zur optischen abbildung
WO2014078443A1 (en) 2012-11-13 2014-05-22 Pelican Imaging Corporation Systems and methods for array camera focal plane control
US20140158862A1 (en) * 2012-12-11 2014-06-12 Ying Wen Hsu Micro-Image Acquisition and Transmission System
TWI502212B (zh) * 2013-01-11 2015-10-01 Pixart Imaging Inc 光學裝置、使用微透鏡之感光元件及其製作方法
WO2014119737A1 (ja) * 2013-02-01 2014-08-07 コニカミノルタ株式会社 複眼光学系、撮像装置、及び複眼光学系の製造方法
US9462164B2 (en) 2013-02-21 2016-10-04 Pelican Imaging Corporation Systems and methods for generating compressed light field representation data using captured light fields, array geometry, and parallax information
WO2014133974A1 (en) 2013-02-24 2014-09-04 Pelican Imaging Corporation Thin form computational and modular array cameras
US9917998B2 (en) 2013-03-08 2018-03-13 Fotonation Cayman Limited Systems and methods for measuring scene information while capturing images using array cameras
US8866912B2 (en) 2013-03-10 2014-10-21 Pelican Imaging Corporation System and methods for calibration of an array camera using a single captured image
US9888194B2 (en) 2013-03-13 2018-02-06 Fotonation Cayman Limited Array camera architecture implementing quantum film image sensors
US9519972B2 (en) 2013-03-13 2016-12-13 Kip Peli P1 Lp Systems and methods for synthesizing images from image data captured by an array camera using restricted depth of field depth maps in which depth estimation precision varies
WO2014164550A2 (en) 2013-03-13 2014-10-09 Pelican Imaging Corporation System and methods for calibration of an array camera
WO2014159779A1 (en) 2013-03-14 2014-10-02 Pelican Imaging Corporation Systems and methods for reducing motion blur in images or video in ultra low light with array cameras
US9100586B2 (en) 2013-03-14 2015-08-04 Pelican Imaging Corporation Systems and methods for photometric normalization in array cameras
US9445003B1 (en) 2013-03-15 2016-09-13 Pelican Imaging Corporation Systems and methods for synthesizing high resolution images using image deconvolution based on motion and depth information
US10122993B2 (en) 2013-03-15 2018-11-06 Fotonation Limited Autofocus system for a conventional camera that uses depth information from an array camera
US9497429B2 (en) 2013-03-15 2016-11-15 Pelican Imaging Corporation Extended color processing on pelican array cameras
US9438888B2 (en) 2013-03-15 2016-09-06 Pelican Imaging Corporation Systems and methods for stereo imaging with camera arrays
US10334151B2 (en) 2013-04-22 2019-06-25 Google Llc Phase detection autofocus using subaperture images
DE102013209246B4 (de) * 2013-05-17 2019-07-18 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Verfahren zur Herstellung einer falschlichtunterdrückenden Struktur und Vorrichtung mit derselben
JP6480919B2 (ja) 2013-05-21 2019-03-13 クラレト,ホルヘ ヴィセンテ ブラスコ プレノプティックセンサとその製造方法およびプレノプティックセンサを有する配置
JP5791664B2 (ja) 2013-06-28 2015-10-07 キヤノン株式会社 光学素子アレイ、及び固体撮像装置
KR102103983B1 (ko) * 2013-07-31 2020-04-23 삼성전자주식회사 시프트된 마이크로 렌즈 어레이를 구비하는 라이트 필드 영상 획득 장치
US9202833B2 (en) 2013-08-23 2015-12-01 Semiconductor Components Industries, Llc Imaging systems with baffle grids
KR102114248B1 (ko) * 2013-09-13 2020-05-22 삼성전자 주식회사 깊이 정보 기반 광학 왜곡 보상 장치 및 방법
WO2015048694A2 (en) 2013-09-27 2015-04-02 Pelican Imaging Corporation Systems and methods for depth-assisted perspective distortion correction
US9880391B2 (en) * 2013-10-01 2018-01-30 Heptagon Micro Optics Pte. Ltd. Lens array modules and wafer-level techniques for fabricating the same
US20150116527A1 (en) * 2013-10-31 2015-04-30 Heptagon Micro Optics Pte. Ltd. Compact array camera modules having an extended field of view from which depth information can be extracted
US9426343B2 (en) 2013-11-07 2016-08-23 Pelican Imaging Corporation Array cameras incorporating independently aligned lens stacks
DE102013222780B3 (de) * 2013-11-08 2015-04-16 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Multiaperturvorrichtung und verfahren zur erfassung eines objektbereichs
GB2520261B (en) * 2013-11-12 2017-10-18 Canon Kk Visual servoing
CA2870419C (en) 2013-11-12 2023-05-16 Rebellion Photonics, Inc. Divided-aperture infra-red spectral imaging system
US10119808B2 (en) 2013-11-18 2018-11-06 Fotonation Limited Systems and methods for estimating depth from projected texture using camera arrays
EP3075140B1 (en) 2013-11-26 2018-06-13 FotoNation Cayman Limited Array camera configurations incorporating multiple constituent array cameras
DE102013226196A1 (de) * 2013-12-17 2015-06-18 Volkswagen Aktiengesellschaft Optisches Sensorsystem
DE102013226789B4 (de) 2013-12-19 2017-02-09 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Mehrkanaloptik-Bildaufnahmevorrichtung und Mehrkanaloptik-Bildaufnahmeverfahren
JP6351285B2 (ja) * 2014-02-13 2018-07-04 キヤノン株式会社 画像形成装置、及び画像形成装置の制御方法
EP2908341B1 (en) * 2014-02-18 2018-07-11 ams AG Semiconductor device with surface integrated focusing element
US10089740B2 (en) 2014-03-07 2018-10-02 Fotonation Limited System and methods for depth regularization and semiautomatic interactive matting using RGB-D images
JP6327911B2 (ja) 2014-04-03 2018-05-23 キヤノン株式会社 光学素子、光学素子アレイ及び固体撮像装置
US11290662B2 (en) 2014-05-01 2022-03-29 Rebellion Photonics, Inc. Mobile gas and chemical imaging camera
US20170026588A1 (en) 2014-05-01 2017-01-26 Rebellion Photonics, Inc. Dual-band divided-aperture infra-red spectral imaging system
US10107515B2 (en) * 2014-06-05 2018-10-23 Honeywell International Inc. HVAC controller with proximity sensor
DE102014212104A1 (de) 2014-06-24 2015-12-24 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und verfahren zur relativen positionierung einer multiaperturoptik mit mehreren optischen kanälen relativ zu einem bildsensor
US10458905B2 (en) 2014-07-07 2019-10-29 Rebellion Photonics, Inc. Gas leak emission quantification with a gas cloud imager
DE102014213371B3 (de) 2014-07-09 2015-08-06 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und verfahren zur erfassung eines objektbereichs
US10911738B2 (en) * 2014-07-16 2021-02-02 Sony Corporation Compound-eye imaging device
CN113256730B (zh) 2014-09-29 2023-09-05 快图有限公司 用于阵列相机的动态校准的系统和方法
US9672594B2 (en) * 2014-10-21 2017-06-06 The Boeing Company Multiple pixel pitch super resolution
US9977961B2 (en) * 2014-10-21 2018-05-22 Bae Systems Information And Electronic Systems Integration Inc. Method for maintaining detection capability when a frame in a multispectral image is corrupted
CN107209116B (zh) 2014-12-23 2020-08-07 苹果公司 包括考虑样本内的光学路径长度的变化的光学检查系统和方法
US9591287B2 (en) 2015-01-21 2017-03-07 Himax Technologies Limited Lens module applied to camera
DE102015002536B4 (de) * 2015-02-28 2021-10-28 Schölly Fiberoptic GmbH Optikanordnung, Endoskop und korrespondierendes Verfahren zur Fertigung
TWI564594B (zh) * 2015-03-02 2017-01-01 奇景光電股份有限公司 透鏡模組
US10440407B2 (en) 2017-05-09 2019-10-08 Google Llc Adaptive control for immersive experience delivery
US11328446B2 (en) 2015-04-15 2022-05-10 Google Llc Combining light-field data with active depth data for depth map generation
US10540818B2 (en) 2015-04-15 2020-01-21 Google Llc Stereo image generation and interactive playback
US10546424B2 (en) 2015-04-15 2020-01-28 Google Llc Layered content delivery for virtual and augmented reality experiences
US10275898B1 (en) 2015-04-15 2019-04-30 Google Llc Wedge-based light-field video capture
US10567464B2 (en) 2015-04-15 2020-02-18 Google Llc Video compression with adaptive view-dependent lighting removal
US10444931B2 (en) 2017-05-09 2019-10-15 Google Llc Vantage generation and interactive playback
US10085005B2 (en) 2015-04-15 2018-09-25 Lytro, Inc. Capturing light-field volume image and video data using tiled light-field cameras
US10469873B2 (en) 2015-04-15 2019-11-05 Google Llc Encoding and decoding virtual reality video
US10565734B2 (en) 2015-04-15 2020-02-18 Google Llc Video capture, processing, calibration, computational fiber artifact removal, and light-field pipeline
US10341632B2 (en) 2015-04-15 2019-07-02 Google Llc. Spatial random access enabled video system with a three-dimensional viewing volume
US10412373B2 (en) 2015-04-15 2019-09-10 Google Llc Image capture for virtual reality displays
WO2016168415A1 (en) * 2015-04-15 2016-10-20 Lytro, Inc. Light guided image plane tiled arrays with dense fiber optic bundles for light-field and high resolution image acquisition
US10419737B2 (en) 2015-04-15 2019-09-17 Google Llc Data structures and delivery methods for expediting virtual reality playback
US9942474B2 (en) 2015-04-17 2018-04-10 Fotonation Cayman Limited Systems and methods for performing high speed video capture and depth estimation using array cameras
KR102372745B1 (ko) * 2015-05-27 2022-03-11 에스케이하이닉스 주식회사 이미지 센서 및 이를 구비하는 전자장치
EP3304014B1 (en) 2015-05-29 2024-04-03 Rebellion Photonics, Inc. Hydrogen sulfide imaging system
US9979909B2 (en) 2015-07-24 2018-05-22 Lytro, Inc. Automatic lens flare detection and correction for light-field images
US10403668B2 (en) * 2015-07-29 2019-09-03 Samsung Electronics Co., Ltd. Imaging apparatus and image sensor including the same
US11469265B2 (en) 2015-07-29 2022-10-11 Samsung Electronics Co., Ltd. Imaging apparatus and image sensor including the same
US11089286B2 (en) 2015-07-29 2021-08-10 Samsung Electronics Co., Ltd. Image sensor
US10790325B2 (en) 2015-07-29 2020-09-29 Samsung Electronics Co., Ltd. Imaging apparatus and image sensor including the same
DE102015216140A1 (de) 2015-08-24 2017-03-02 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. 3D-Multiaperturabbildungsvorrichtung
US11244434B2 (en) 2015-08-24 2022-02-08 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Multi-aperture imaging device
KR102500358B1 (ko) * 2015-09-01 2023-02-16 애플 인크. 물질의 비접촉 감지를 위한 레퍼런스 스위치 아키텍처
US9992477B2 (en) 2015-09-24 2018-06-05 Ouster, Inc. Optical system for collecting distance information within a field
CN105611122B (zh) * 2015-12-18 2019-03-01 Oppo广东移动通信有限公司 图像传感器及输出方法、相位对焦方法、成像装置和终端
DE102016200285A1 (de) * 2016-01-13 2017-07-13 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Multiaperturabbildungsvorrichtung, Abbildungssystem und Verfahren zum Erfassen eines Objektbereichs
DE102016200287A1 (de) * 2016-01-13 2017-07-13 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Multiaperturabbildungsvorrichtungen, Verfahren zum Herstellen derselben und Abbildungssystem
DE102016013512A1 (de) 2016-04-18 2017-11-09 Kastriot Merlaku Beleuchtungs-System für Kameras aller Art oder für Mobiltelefone mit Kamera
US10275892B2 (en) 2016-06-09 2019-04-30 Google Llc Multi-view scene segmentation and propagation
US10578274B2 (en) 2016-06-10 2020-03-03 General Electric Company Lens array assembly and method for making the same
AT518905B1 (de) * 2016-07-29 2018-04-15 Zkw Group Gmbh Projektionseinrichtung für einen Kraftfahrzeugscheinwerfer und Verfahren zu seiner Herstellung
US10270947B2 (en) * 2016-09-15 2019-04-23 Microsoft Technology Licensing, Llc Flat digital image sensor
EP4212851A1 (en) 2016-10-21 2023-07-19 Rebellion Photonics, Inc. Gas imaging system
WO2018075964A1 (en) * 2016-10-21 2018-04-26 Rebellion Photonics, Inc. Mobile gas and chemical imaging camera
CN106488148B (zh) * 2016-11-01 2019-09-17 首都师范大学 一种超分辨率图像传感器及其构造方法
CN110192127B (zh) * 2016-12-05 2021-07-09 弗托斯传感与算法公司 微透镜阵列
US10679361B2 (en) 2016-12-05 2020-06-09 Google Llc Multi-view rotoscope contour propagation
DE102017200618A1 (de) * 2017-01-17 2018-07-19 Robert Bosch Gmbh Miniaturspektrometer und Verfahren eingerichtet zur spektralen Analyse eines Objekts
WO2018156795A1 (en) 2017-02-22 2018-08-30 Rebellion Photonics, Inc. Systems and methods for monitoring remote installations
DE102017106831A1 (de) * 2017-03-30 2018-10-04 Sick Ag Kamera und Verfahren zur Erfassung von relativ zu der Kamera in einer Förderrichtung bewegten Objekten
US10594945B2 (en) 2017-04-03 2020-03-17 Google Llc Generating dolly zoom effect using light field image data
US10474227B2 (en) 2017-05-09 2019-11-12 Google Llc Generation of virtual reality with 6 degrees of freedom from limited viewer data
US10354399B2 (en) 2017-05-25 2019-07-16 Google Llc Multi-view back-projection to a light-field
CN111066263B (zh) * 2017-07-21 2023-10-03 加州理工学院 超薄平面无透镜相机
CN107589468A (zh) * 2017-07-25 2018-01-16 移康智能科技(上海)股份有限公司 一种人体探测方法、装置及电子设备
US11882371B2 (en) 2017-08-11 2024-01-23 California Institute Of Technology Lensless 3-dimensional imaging using directional sensing elements
US10539718B2 (en) 2017-08-17 2020-01-21 Honeywell International Inc. Fresnel lens array with improved off-axis optical efficiency
US10482618B2 (en) 2017-08-21 2019-11-19 Fotonation Limited Systems and methods for hybrid depth regularization
US10545215B2 (en) 2017-09-13 2020-01-28 Google Llc 4D camera tracking and optical stabilization
CN116893160A (zh) 2017-09-29 2023-10-17 苹果公司 路径解析的光学采样架构
EP3707497B1 (en) 2017-11-09 2022-09-28 Rebellion Photonics, Inc. Window obscuration sensors for mobile gas and chemical imaging cameras
US10965862B2 (en) 2018-01-18 2021-03-30 Google Llc Multi-camera navigation interface
US11226459B2 (en) 2018-02-13 2022-01-18 Apple Inc. Integrated photonics device having integrated edge outcouplers
US10529763B2 (en) * 2018-04-19 2020-01-07 Semiconductor Components Industries, Llc Imaging pixels with microlenses
EP3788416B1 (en) 2018-05-01 2023-04-19 Signify Holding B.V. Lighting device with controllable light output characteristics
US10936885B2 (en) 2018-05-15 2021-03-02 Toyota Research Institute, Inc. Systems and methods of processing an image
US10736506B2 (en) * 2018-06-14 2020-08-11 Broadspot Imaging Corp Composite image with cross-channel illumination
FR3084207B1 (fr) * 2018-07-19 2021-02-19 Isorg Systeme optique et son procede de fabrication
EP3850534A4 (en) 2018-09-12 2022-04-27 Fingerprint Cards Anacatum IP AB RECONSTRUCTION OF FINGERPRINT SUB-IMAGES
JP7237506B2 (ja) * 2018-10-02 2023-03-13 ソニーセミコンダクタソリューションズ株式会社 撮像装置
WO2020103075A1 (zh) * 2018-11-22 2020-05-28 深圳印象认知技术有限公司 一种图像处理方法及装置
JP2020098963A (ja) * 2018-12-17 2020-06-25 株式会社日立製作所 撮像装置
KR20210020469A (ko) 2019-08-14 2021-02-24 삼성전자주식회사 분광 카메라
CN110505384B (zh) * 2019-08-29 2021-05-14 Oppo广东移动通信有限公司 成像系统、终端和图像获取方法
KR20210028808A (ko) 2019-09-04 2021-03-15 삼성전자주식회사 이미지 센서 및 이를 포함하는 촬상 장치
JP7273250B2 (ja) 2019-09-17 2023-05-12 ボストン ポーラリメトリックス,インコーポレイティド 偏光キューを用いた面モデリングのためのシステム及び方法
DE112020004813B4 (de) 2019-10-07 2023-02-09 Boston Polarimetrics, Inc. System zur Erweiterung von Sensorsystemen und Bildgebungssystemen mit Polarisation
KR20210046971A (ko) 2019-10-21 2021-04-29 삼성전자주식회사 복수-입력 폴디드 카메라 및 이를 포함하는 모바일 장치
KR20230116068A (ko) 2019-11-30 2023-08-03 보스턴 폴라리메트릭스, 인크. 편광 신호를 이용한 투명 물체 분할을 위한 시스템및 방법
DE102019220436B4 (de) * 2019-12-20 2021-12-30 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung zur Unterdrückung von Störungen durch Reflexionslicht bei einem Licht-erzeugenden System, Verwendungen der Vorrichtung und Licht-erzeugendes System
KR20210081767A (ko) * 2019-12-24 2021-07-02 삼성전자주식회사 이미지 장치 및 이미지 센싱 방법
US11195303B2 (en) 2020-01-29 2021-12-07 Boston Polarimetrics, Inc. Systems and methods for characterizing object pose detection and measurement systems
KR20220133973A (ko) 2020-01-30 2022-10-05 인트린식 이노베이션 엘엘씨 편광된 이미지들을 포함하는 상이한 이미징 양식들에 대해 통계적 모델들을 훈련하기 위해 데이터를 합성하기 위한 시스템들 및 방법들
US11328150B2 (en) 2020-04-30 2022-05-10 Omnivision Technologies, Inc. Lens-array imager
WO2021243088A1 (en) 2020-05-27 2021-12-02 Boston Polarimetrics, Inc. Multi-aperture polarization optical systems using beam splitters
DE102020207302A1 (de) 2020-06-10 2021-12-16 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung eingetragener Verein Vorrichtung und Verfahren zur Aufnahme eines projizierten Punktmusters in einer Anzeigevorrichtung
US11852318B2 (en) 2020-09-09 2023-12-26 Apple Inc. Optical system for noise mitigation
US11513324B2 (en) * 2020-11-15 2022-11-29 Aac Optics Solutions Pte. Ltd. Camera module
US11902638B1 (en) * 2020-12-30 2024-02-13 Ball Aerospace & Technologies Corp. Gapless detector mosaic imaging systems and methods
CN112804001B (zh) * 2021-01-08 2022-05-27 中国人民解放军战略支援部队信息工程大学 孔径阵列接收机及其设计方法、装置、电子设备和介质
DE102021202164B3 (de) 2021-03-05 2022-07-28 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung eingetragener Verein Tandemblendenarchitektur zur Füllfaktorerhöhung von kompakten Multikanalabbildungssystemen
US11954886B2 (en) 2021-04-15 2024-04-09 Intrinsic Innovation Llc Systems and methods for six-degree of freedom pose estimation of deformable objects
US11290658B1 (en) 2021-04-15 2022-03-29 Boston Polarimetrics, Inc. Systems and methods for camera exposure control
US11808934B2 (en) 2021-04-20 2023-11-07 Eagle Technology, Llc Planar optical telescope and related methods
US11689813B2 (en) 2021-07-01 2023-06-27 Intrinsic Innovation Llc Systems and methods for high dynamic range imaging using crossed polarizers
CN114638824B (zh) * 2022-05-11 2022-08-23 成都数联云算科技有限公司 基于aoi设备采集图像的融合方法、装置、设备和介质
CN115086550B (zh) * 2022-05-30 2023-04-28 元潼(北京)技术有限公司 元成像系统

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007520743A (ja) 2004-01-20 2007-07-26 フラウンホッファー−ゲゼルシャフト・ツァー・フォデラング・デル・アンゲワンテン・フォーシュング・エー.ファウ. 画像認識システムおよびその利用
JP2009105682A (ja) 2007-10-23 2009-05-14 Nikon Corp 撮像素子および撮像装置

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4585948A (en) * 1983-03-15 1986-04-29 The United States Of America As Represented By The Secretary Of The Air Force Non-scanning integrated optical system with wide field of view search capability
US5497269A (en) * 1992-06-25 1996-03-05 Lockheed Missiles And Space Company, Inc. Dispersive microlens
US5696371A (en) 1996-05-23 1997-12-09 Eastman Kodak Company Diffractive/refractive lenslet array
US6137535A (en) * 1996-11-04 2000-10-24 Eastman Kodak Company Compact digital camera with segmented fields of view
US5796522A (en) * 1996-12-20 1998-08-18 Eastman Kodak Company Lenslet array system with a baffle structure and a shutter
EP0893915A3 (en) * 1997-06-25 2000-01-05 Eastman Kodak Company Compact image sensor with display integrally attached
JP2000032354A (ja) 1998-07-09 2000-01-28 Sony Corp 撮像装置
JP2001223931A (ja) * 2000-02-10 2001-08-17 Olympus Optical Co Ltd 撮像装置及び画像システム
US6660988B2 (en) * 2001-05-01 2003-12-09 Innovative Technology Licensing, Llc Detector selective FPA architecture for ultra-high FPA operability and fabrication method
JP2004032172A (ja) * 2002-06-24 2004-01-29 Canon Inc 複眼撮像装置およびこれを備えた機器
JP2005252625A (ja) 2004-03-03 2005-09-15 Canon Inc 撮像装置および画像処理方法
EP2398224B1 (en) * 2004-10-01 2016-01-13 The Board of Trustees of The Leland Stanford Junior University Imaging arrangements and methods therefor
US7651282B2 (en) * 2005-05-04 2010-01-26 The Trustees Of Columbia University In The City Of New York Devices and methods for electronically controlling imaging
US20090268983A1 (en) * 2005-07-25 2009-10-29 The Regents Of The University Of California Digital imaging system and method using multiple digital image sensors to produce large high-resolution gapless mosaic images
DE102006004802B4 (de) * 2006-01-23 2008-09-25 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Bilderfassungssystem und Verfahren zur Herstellung mindestens eines Bilderfassungssystems
US7557338B2 (en) * 2006-03-14 2009-07-07 Avago Technologies General Ip (Singapore) Pte. Ltd. Electronic device with integrated optical navigation module and microlens array therefore
DE102006040657B4 (de) * 2006-08-30 2016-05-12 Robert Bosch Gmbh Bilderfassungssystem für Anwendungen in Fahrzeugen
US7956924B2 (en) * 2007-10-18 2011-06-07 Adobe Systems Incorporated Fast computational camera based on two arrays of lenses
JP4483951B2 (ja) * 2008-01-28 2010-06-16 ソニー株式会社 撮像装置
JP2009206356A (ja) * 2008-02-28 2009-09-10 Toshiba Corp 固体撮像装置およびその製造方法
US8259212B2 (en) * 2009-01-05 2012-09-04 Applied Quantum Technologies, Inc. Multiscale optical system

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007520743A (ja) 2004-01-20 2007-07-26 フラウンホッファー−ゲゼルシャフト・ツァー・フォデラング・デル・アンゲワンテン・フォーシュング・エー.ファウ. 画像認識システムおよびその利用
JP2009105682A (ja) 2007-10-23 2009-05-14 Nikon Corp 撮像素子および撮像装置

Also Published As

Publication number Publication date
ES2685583T3 (es) 2018-10-10
JP2013102534A (ja) 2013-05-23
US8629930B2 (en) 2014-01-14
WO2011045324A3 (de) 2011-06-23
US20110228142A1 (en) 2011-09-22
WO2011045324A2 (de) 2011-04-21
KR20110074984A (ko) 2011-07-05
EP2428034B1 (de) 2016-04-13
EP2432213B1 (de) 2018-05-30
ES2466820T3 (es) 2014-06-11
EP2432213A1 (de) 2012-03-21
DE102009049387B4 (de) 2016-05-25
EP2428034A2 (de) 2012-03-14
EP2429176A1 (de) 2012-03-14
ES2572229T3 (es) 2016-05-30
JP5379241B2 (ja) 2013-12-25
DE102009049387A1 (de) 2011-04-21
JP2012507250A (ja) 2012-03-22
EP2429176B1 (de) 2014-04-16
JP5589107B2 (ja) 2014-09-10

Similar Documents

Publication Publication Date Title
KR101284414B1 (ko) 광 촬상을 위한 방법, 장치 및 영상 처리 장치
US9578237B2 (en) Array cameras incorporating optics with modulation transfer functions greater than sensor Nyquist frequency for capture of images used in super-resolution processing
TWI443366B (zh) 攝像鏡頭、及攝像模組
US9485397B2 (en) Camera, and method of manufacturing a plurality of cameras
JP5490309B2 (ja) 撮像装置および測距装置
EP2477071A1 (en) Camera module and method of manufacturing the same
WO2014144157A1 (en) Optical arrangements for use with an array camera
CN103890949A (zh) 光学器件、特别是用于计算式摄像机的模块的晶片级制造
US20130242161A1 (en) Solid-state imaging device and portable information terminal
KR20100059896A (ko) 이미지 센서
KR20200075828A (ko) 촬상 소자, 화상 처리 장치, 화상 처리 방법, 및 프로그램
KR101618763B1 (ko) 촬상렌즈의 조립방법, 촬상렌즈 및 촬상장치
Brückner et al. Ultra-compact close-up microoptical imaging system
EP3700187B1 (en) Signal processing device and imaging device
EP3550348A1 (en) Image sensor and method of manufacturing image sensor
Brückner et al. Driving micro-optical imaging systems towards miniature camera applications
CN110445973B (zh) 微透镜阵列的排布方法、图像传感器、成像系统及电子装置
Brückner Multiaperture Cameras
WO2016053140A1 (ru) Мобильное устройство с оптическими элементами
JP2017026814A (ja) 撮像光学系及び撮像システム
Meyer et al. Ultra-compact imaging system based on multi-aperture architecture
Bräuer et al. High resolution multichannel imaging systems
Dannberg et al. Thin wafer-level camera lenses inspired by insect compound eyes

Legal Events

Date Code Title Description
A201 Request for examination
AMND Amendment
E902 Notification of reason for refusal
AMND Amendment
E601 Decision to refuse application
AMND Amendment
X701 Decision to grant (after re-examination)
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20160629

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20170626

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20180626

Year of fee payment: 6