JPWO2015152423A1 - 撮像素子、撮像装置および画像処理装置 - Google Patents
撮像素子、撮像装置および画像処理装置 Download PDFInfo
- Publication number
- JPWO2015152423A1 JPWO2015152423A1 JP2016511655A JP2016511655A JPWO2015152423A1 JP WO2015152423 A1 JPWO2015152423 A1 JP WO2015152423A1 JP 2016511655 A JP2016511655 A JP 2016511655A JP 2016511655 A JP2016511655 A JP 2016511655A JP WO2015152423 A1 JPWO2015152423 A1 JP WO2015152423A1
- Authority
- JP
- Japan
- Prior art keywords
- parallax
- visible
- invisible
- pixel value
- image data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims description 114
- 238000003384 imaging method Methods 0.000 claims abstract description 84
- 238000006243 chemical reaction Methods 0.000 claims abstract description 68
- 230000004907 flux Effects 0.000 claims abstract description 25
- 230000036961 partial effect Effects 0.000 claims abstract description 9
- 230000003287 optical effect Effects 0.000 claims description 35
- 238000004364 calculation method Methods 0.000 claims description 20
- 238000012935 Averaging Methods 0.000 claims description 4
- 230000002596 correlated effect Effects 0.000 claims description 4
- 238000009826 distribution Methods 0.000 description 88
- 238000000034 method Methods 0.000 description 62
- 230000000875 corresponding effect Effects 0.000 description 42
- 238000012937 correction Methods 0.000 description 30
- 230000004304 visual acuity Effects 0.000 description 19
- 238000010586 diagram Methods 0.000 description 16
- 230000000694 effects Effects 0.000 description 16
- 238000011161 development Methods 0.000 description 15
- 210000001747 pupil Anatomy 0.000 description 12
- 239000003086 colorant Substances 0.000 description 10
- 230000006870 function Effects 0.000 description 9
- 230000008569 process Effects 0.000 description 9
- 238000005070 sampling Methods 0.000 description 9
- 230000007423 decrease Effects 0.000 description 8
- 238000013213 extrapolation Methods 0.000 description 7
- 230000004075 alteration Effects 0.000 description 6
- 238000002156 mixing Methods 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 238000006073 displacement reaction Methods 0.000 description 4
- 230000035945 sensitivity Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000000903 blocking effect Effects 0.000 description 3
- 230000000295 complement effect Effects 0.000 description 3
- 238000005286 illumination Methods 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 230000003595 spectral effect Effects 0.000 description 3
- 239000002131 composite material Substances 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 238000003672 processing method Methods 0.000 description 2
- 230000002829 reductive effect Effects 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 239000000758 substrate Substances 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 206010019233 Headaches Diseases 0.000 description 1
- 241000270295 Serpentes Species 0.000 description 1
- 229910004298 SiO 2 Inorganic materials 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 230000001174 ascending effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000001010 compromised effect Effects 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 238000005530 etching Methods 0.000 description 1
- 230000004438 eyesight Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 231100000869 headache Toxicity 0.000 description 1
- 238000010030 laminating Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000011514 reflex Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B7/00—Mountings, adjusting means, or light-tight connections, for optical elements
- G02B7/28—Systems for automatic generation of focusing signals
- G02B7/34—Systems for automatic generation of focusing signals using different areas in a pupil plane
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
- H04N13/214—Image signal generators using stereoscopic image cameras using a single 2D image sensor using spectral multiplexing
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B13/00—Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
- G03B13/32—Means for focusing
- G03B13/34—Power focusing
- G03B13/36—Autofocus systems
-
- H—ELECTRICITY
- H01—ELECTRIC ELEMENTS
- H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
- H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
- H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
- H01L27/144—Devices controlled by radiation
- H01L27/146—Imager structures
- H01L27/14601—Structural or functional details thereof
- H01L27/1462—Coatings
- H01L27/14623—Optical shielding
-
- H—ELECTRICITY
- H01—ELECTRIC ELEMENTS
- H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
- H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
- H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
- H01L27/144—Devices controlled by radiation
- H01L27/146—Imager structures
- H01L27/14601—Structural or functional details thereof
- H01L27/14625—Optical elements or arrangements associated with the device
- H01L27/14627—Microlenses
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/25—Image signal generators using stereoscopic image cameras using two or more image sensors with different characteristics other than in their location or field of view, e.g. having different resolutions or colour pickup characteristics; using image signals from one sensor to control the characteristics of another sensor
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/257—Colour aspects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/271—Image signal generators wherein the generated image signals comprise depth maps or disparity maps
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/296—Synchronisation thereof; Control thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/30—Transforming light or analogous information into electric information
- H04N5/33—Transforming infrared radiation
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B5/00—Optical elements other than lenses
- G02B5/20—Filters
- G02B5/201—Filters in the form of arrays
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B35/00—Stereoscopic photography
- G03B35/08—Stereoscopic photography by simultaneous recording
Abstract
Description
[先行技術文献]
[特許文献]
[特許文献1]特開2003−7994号公報
視差Lt画素および視差Rt画素が受光する場合のデフォーカスの概念を説明する。まず、視差なし画素におけるデフォーカスの概念について簡単に説明する。図3は、視差なし画素におけるデフォーカスの概念を説明する図である。図3(a)で示すように、被写体である物点が焦点位置に存在する場合、レンズ瞳を通って撮像素子受光面に到達する被写体光束は、対応する像点の画素を中心として急峻な光強度分布を示す。すなわち、レンズ瞳を通過する有効光束の全体を受光する視差なし画素が像点近傍に配列されていれば、像点に対応する画素の出力値が最も大きく、周辺に配列された画素の出力値は急激に低下する。
被写体像における可視光の波長帯域だけでなく、非可視光の波長帯域も撮像できると相補的な豊富な情報が得られる。非可視光の波長帯域の情報を利用することにより、新しい空間分解能を持った分光装置を提供することが可能になる。そのとき、可視光の波長帯域と非可視光の波長帯域とを同時に一度に撮像できると、装置として最も使いやすい。更に、単眼瞳分割撮像方式の原理を用いて、撮像素子の開口を工夫することにより、同時に立体撮像できることが好ましい。そのとき、各々の可視域の色成分や非可視域のバンド成分を用いて、空間解像度を高め、更に立体視も実現するために、撮像素子をどのような配列構造とするのかが重要な課題となる。可視光の波長帯域の被写体像を立体撮像するための方式を非可視光の波長帯域へ拡張する場合に、新たにどのような新しい状況が生じ、かつ、どのような撮像素子の配列構造をとって撮像し、どのような現像処理を行えばよいのか不明であった。なかでも、単板撮像方式を採用するにあたって、可視から非可視に渡る広大なマルチバンド化の影響が光学系特性に与える影響と、その結果、単眼瞳分割撮像における立体像への影響が不明であった。
上述した可視帯域と非可視帯域のマルチバンドを利用して立体撮像するためにはどのような画素配列構造をとればよいかについて説明する。特願2012−060738(疎で等方的な視差画素配列)においては、可視画素として全開口の視差なし画素と半開口の左右の視差画素とが配列されている。同様に、非可視画素として全開口の視差画素と半開口の左右視差画素とが配列されると、可視帯域の画素密度が低下してしまい、可視域の空間解像能力をそいでしまうという問題が発生する。すなわち、多視差化とマルチバンド化に伴って、各々の成分の空間解像との両立が問題となる。そこで、本実施形態においては、次のような基本的立場をとり、図8、図9等に示す配列を採用する。
可視波長帯域と非可視波長帯域では、同じ光学系を用いても結像面の位置が異なるという性質を利用する点をもう少し詳しく説明する。この性質を利用して、可視帯域の立体現像において非可視帯域の視差情報を与えながら現像処理すると、新たに合焦位置でも視差が発生するという新しい効果が生み出される。可視画素のみの単眼立体撮像システムでは、合焦位置の被写体像では視差が発生せず、非合焦位置の被写体像でのみ視差が発生していた。この場合にも自然な立体視が可能になるが、人間の目においては、合焦位置でも右目と左目に写る像には視差が存在する。それでいて、焦点を合わせていない部分では、ぼんやりとしか認知していない。したがって、非可視光の結像位置が異なるという性質を利用することにより、より視覚系が捉える立体像に近い立体画像を生成する単眼立体撮像システムを提供することが可能になる。
文献A1:PCT/JP2013/001811
文献A2:特開2013−229765
文献A3:PCT/JP2013/001745
−−−可視+非可視6バンド疎な視差画素配列−−−
図8の上段の配列図を基本格子として、周期的に配置された撮像素子を用いた例を示す。その逆格子空間の周波数解像領域も各色と各視差の組み合わせについて示す。周波数をfとすると、k=2πfで表される波数kのk空間で記述している。
可視視差なし画素:RN、GN、BN
可視左視差画素:RLt、GLt、BLt
可視右視差画素:RRt、GRt、BRt
近赤外左視差画素:IR Lt、IG Lt、IB Lt
近赤外右視差画素:IR Rt、IG Rt、IB Rt
なお、便宜的にIB,IG,IRを波長の短い順から名付けたが、実際にはこれらの役割を入れ替えても良い。すなわち、画素密度の多い成分を何れにとってもよいし、また、図8のR画素が存在する行に、必ずしも近赤外3バンドの中の最長波長側が位置していなくてもよい。
1)色・視差多重化モザイク画像データ入力
2)色・視差モザイク画像のグローバル・ゲインバランス補正
3)仮の可視及び非可視視差画像の生成
4)左右の局所照度分布補正による可視視差なし色モザイク画像の生成
(ローカル・ゲインバランス補正)
5)可視視差なし基準画像の生成
6)非可視視差なし基準画像の生成
7)実際の可視及び非可視視差画像の生成
8)可視及び非可視画像の出力色空間への変換
以下、詳細に説明する。
図8の可視光及び近赤外の色バンドと視差の多重化された単板式モザイク画像をM(x,y)で表す。階調はA/D変換によって出力された線形階調であるものとする。すなわち、光量に比例した画素値を持つ。これをRAWデータと呼ぶこともある。
左視差画素に入る照度と右視差画素に入る照度とは、絞りを絞るほど、単に左右間の相対的な分布の違いだけではなく、画像全体の平均信号レベルとしても大きな差が現実問題として生まれるので、この段階で全体的な明るさの整合をとるゲイン補正を行う。これは可視光でも近赤外光でも同様に生じる。そのために、撮影された被写体像をそのまま使って、視差なし画素の画素値の画像全体の平均値と、左視差画素の画素値の画像全体の平均値と、右視差画素の画素値の画像全体の平均値を算出する。可視光では3つの信号レベルが存在する。近赤外光では2つの信号レベルが存在する。
と表す。
可視R成分の視差なし画素の信号面をRN_mosaic(x,y)、
可視R成分の左視差画素の信号面をRLt_mosaic(x,y)、
可視R成分の右視差画素の信号面をRRt_mosaic(x,y)、
可視G成分の左視差画素の信号面をGN_mosaic(x,y)、
可視G成分の視差なし画素の信号面をGLt_mosaic(x,y)、
可視G成分の右視差画素の信号面をGRt_mosaic(x,y)、
可視B成分の視差なし画素の信号面をBN_mosaic(x,y)、
可視B成分の左視差画素の信号面をBLt_mosaic(x,y)、
可視B成分の右視差画素の信号面をBRt_mosaic(x,y)、
近赤外IR成分の左視差画素の信号面をIR Lt_mosaic(x,y)、
近赤外IR成分の右視差画素の信号面をIR Rt_mosaic(x,y)、
近赤外IG成分の左視差画素の信号面をIG N_mosaic(x,y)、
近赤外IG成分の右視差画素の信号面をIG Rt_mosaic(x,y)、
近赤外IB成分の左視差画素の信号面をIB Lt_mosaic(x,y)、
近赤外IB成分の右視差画素の信号面をIB Rt_mosaic(x,y)
と表すことにする。
空間周波数解像度の低い分解能の仮の左視差画像および仮の右視差画像を可視バンドと近赤外バンドの6色バンドのそれぞれについて生成する。例えば、単色バンドの左視差画素ばかりを集めた可視G色面内の単純平均補間を行う。例えば、近接して存在する画素値を用いて、距離の比に応じて線形補間を行う。同様に、単色バンドの右視差画素ばかりを集めたG色面内の単純平均補間を行う。同様の処理をR,G,B,IR,IG,IBの6バンドについて行う。更に、可視単色バンドの視差なし画素ばかりを集めたG色面内の単純平均補間を行う。同様の処理をR,G,Bの各々について行う。すなわち、RLt_mosaic(x,y)からRLt(x,y)を、RRt_mosaic(x,y)からRRt(x,y)を、RN_mosaic(x,y)からRN(x,y)を生成する。GLt_mosaic(x,y)からGLt(x,y)を、GRt_mosaic(x,y)からGRt(x,y)を、GN_mosaic(x,y)からGN(x,y)を生成する。BLt_mosaic(x,y)からBLt(x,y)を、BRt_mosaic(x,y)からBRt(x,y)を、BN_mosaic(x,y)からBN(x,y)を生成する。IR Lt_mosaic(x,y)からIR Lt(x,y)を、IR Rt_mosaic(x,y)からIR Rt(x,y)を、IG Lt_mosaic(x,y)からIG Lt(x,y)を、IG Rt_mosaic(x,y)からIG Rt(x,y)を、IB Lt_mosaic(x,y)からIB Lt(x,y)を、IB Rt_mosaic(x,y)からIB Rt(x,y)を生成する。
仮の可視G成分の視差なし画像をGN(x,y)で表す。
仮の可視B成分の視差なし画像をBN(x,y)で表す。
仮の可視R成分の左視差画像をRLt(x,y)で表す。
仮の可視G成分の左視差画像をGLt(x,y)で表す。
仮の可視B成分の左視差画像をBLt(x,y)で表す。
仮の可視R成分の右視差画像をRRt(x,y)で表す。
仮の可視G成分の右視差画像をGRt(x,y)で表す。
仮の可視B成分の右視差画像をBRt(x,y)で表す。
仮の近赤外IR成分の左視差画像をIR Lt(x,y)で表す。
仮の近赤外IG成分の左視差画像をIG Lt(x,y)で表す。
仮の近赤外IB成分の左視差画像をIB Lt(x,y)で表す。
仮の近赤外IR成分の右視差画像をIR Rt(x,y)で表す。
仮の近赤外IG成分の右視差画像をIG Rt(x,y)で表す。
仮の近赤外IB成分の右視差画像をIB Rt(x,y)で表す。
(ローカル・ゲインバランス補正)
次にステップ2)で行ったグローバル・ゲイン補正と同様の考え方で、可視画像のRGB3バンドに限って、画素単位のローカル・ゲイン補正を行うことによって、まず画面内の左視差画素と画面内の右視差画素の照度を合わせる。この操作によって左右間の視差を消滅させる。その上で左右平均をとった信号面と視差なし画素の撮像信号面との間で更に照度を合わせる。そうして、全ての画素でゲイン整合のとれた新しいBayer面を作成する。これは平均値と置き換えることと等価であり、視差の消滅したBayer面が出来上がる。これをMN(x,y)と書くことにする。
こうして可視RGB各色成分の照度バランスが揃い、視差の消滅したBayer面MN(x,y)から、従来の色補間の技術を用いてセンサーが持つ画素数相当のナイキスト周波数にまで分解能をもつ視差なしのカラー画像を2D画像として生成することができる。例えば、公知のBayer補間技術の最も優れた例として、本出願と同一発明者のUSP8,259,213に示される補間アルゴリズムがある。
次に、非可視光における近赤外の波長帯域の2D画像を高精細に生成する方法を説明する。生成する画像をIR N(x,y)、IG N(x,y)、IB N(x,y)によって表すことにする。特に高精細に生成するのでなければ、これらは以下の式によって求まる。
可視画像に関して、ステップ3)で生成した解像力の低い仮の左視差のカラー画像RLt(x,y)、GLt(x,y)、BLt(x,y)と、ステップ5)で中間処理として生成した解像力の高い視差なしのカラー画像RN(x,y)、GN(x,y)、BN(x,y)を用いて、実際に出力する解像力の高い左視差のカラー画像R'Lt(x,y)、G'Lt(x,y)、B'Lt(x,y)を生成する。同様に、ステップ3)で生成した解像力の低い仮の右視差のカラー画像RRt(x,y)、GRt(x,y)、BRt(x,y)と、ステップ5)で中間処理として生成した解像力の高い視差なしのカラー画像RN(x,y)、GN(x,y)、BN(x,y)を用いて、実際に出力する解像力の高い右視差のカラー画像R'Rt(x,y)、G'Rt(x,y)、B'Rt(x,y)を生成する。
なお、比が一定の方式の相乗平均の式に対して対数をとれば、差が一定の場合の式と一致する。
こうして得られた可視光波長域の高解像な視差なしの中間カラー画像RN(x,y)、GN(x,y)、BN(x,y)と、高解像の左視差のカラー画像RLt(x,y)、GLt(x,y)、BLt(x,y)と、高解像の右視差のカラー画像RRt(x,y)、GRt(x,y)、BRt(x,y)とのそれぞれを、センサーの分光特性のカメラRGBから標準的なsRGB色空間へ色マトリックス変換とガンマ変換を行って出力色空間の画像として出力する。
こうして結局、可視3色、近赤外3バンドからなる2種類の「カラー」画像として、高解像な2D画像と3D画像が生成される。
−−−可視+非可視6バンド疎な視差画素配列−−−
図8上段の配列図を基本格子として、周期的に配置された撮像素子を用いた例を示す。ここでは、可視と非可視の相互混合現像を説明する。処理の手順は、およそ以下の通りである。
2)色・視差モザイク画像のグローバル・ゲインバランス補正
3)仮の可視及び非可視視差画像の生成
4)左右の局所照度分布補正による可視視差なし色モザイク画像の生成
(ローカル・ゲインバランス補正)
5)可視視差なし基準画像の生成
6)非可視視差なし基準画像の生成
7)実際の可視及び非可視視差画像の生成
8)可視及び非可視画像の出力色空間への変換
以下、詳細に説明する。全体的な処理の流れは、実施例1のフローチャートと同じである。ここでは、処理内容が異なる部分として、ステップ5およびステップ7を説明する。
実施例1で説明した通常のBayer補間後、次の補正を加える。なぜなら、近赤外画素の撮像情報が全く使われていなければ、その分、いくら高性能なBayer補間をしても通常のBayer配列を補間したときに比べて、その現像画像には、ぼやけが生じているからである。よって、近赤外の信号面とも相関をとった補正項を加える。それには3通りの手法があり、それぞれ実施例1の中で説明した使い分け方に準ずる。
可視画像に関して、ステップ3)で生成した解像力の低い仮の左視差のカラー画像RLt(x,y)、GLt(x,y)、BLt(x,y)と、ステップ5)で中間処理として生成した解像力の高い視差なしのカラー画像RN(x,y)、GN(x,y)、BN(x,y)を用い、更に、近赤外画像のステップ3)で生成した解像力の低い仮の左視差のカラー画像IR Lt(x,y)、IG Lt(x,y)、IB Lt(x,y)と、ステップ6)で中間処理として生成した解像力の高い視差なしの3バンド画像IR N(x,y)、IG N(x,y)、IB N(x,y)も用いて、実際に出力する解像力の高い左視差のカラー画像R'Lt(x,y)、G'Lt(x,y)、B'Lt(x,y)を生成する。同様に、ステップ3)で生成した解像力の低い仮の右視差のカラー画像RRt(x,y)、GRt(x,y)、BRt(x,y)と、ステップ5)で中間処理として生成した解像力の高い視差なしのカラー画像RN(x,y)、GN(x,y)、BN(x,y)を用い、更に、近赤外画像のステップ3)で生成した解像力の低い仮の左視差のカラー画像IR Rt(x,y)、IG Rt(x,y)、IB Rt(x,y)と、ステップ6)で中間処理として生成した解像力の高い視差なしの3バンド画像IR N(x,y)、IG N(x,y)、IB N(x,y)も用いて、実際に出力する解像力の高い右視差のカラー画像R'Rt(x,y)、G'Rt(x,y)、B'Rt(x,y)を生成する。
−−−可視モノクロ+非可視1バンド疎な視差画素配列−−−
図11および図12、画素配列の一例としての実空間の配列とk空間を示す図である。各図の上段の配列図を基本格子として、周期的に配置された撮像素子を用いた例を示す。その逆格子空間の周波数解像領域も各色と各視差の組み合わせについて示す。各図上段の配列図の基本格子においては、可視光はモノクロで撮像され、近赤外光は1バンドだけで撮像される。この配列は、単眼瞳分割方式のボケた被写体領域にしか視差を生じないという性質を捉えて、可視視差画素及び非可視視差画素の密度を疎な配置にし、残りの画素を可視視差なし画素にできるだけ割り当てた構造をした可視+非可視モノバンド撮像素子である。以下では、図12の配列を例に挙げて説明する。
2)色・視差モザイク画像のグローバル・ゲインバランス補正
3)仮の可視及び非可視視差画像の生成
4)左右の局所照度分布補正による可視視差なし基準画像の生成
(ローカル・ゲインバランス補正)
5)非可視視差なし基準画像の生成
6)実際の可視及び非可視視差画像の生成
7)可視及び非可視画像の出力色空間への変換
以下、詳細に説明する。
図12に示す、視差が多重化された単板式の可視+非可視モノバンドのモザイク画像をM(x,y)と表す。階調はA/D変換によって出力された線形階調であるものとする。
可視視差なし画素の信号面をWN_mosaic(x,y)、
可視左視差画素の信号面をWLt_mosaic(x,y)、
可視右視差画素の信号面をWRt_mosaic(x,y)、
非可視左視差画素の信号面をILt_mosaic(x,y)、
非可視右視差画素の信号面をIRt_mosaic(x,y)、
と表すことにする。
空間周波数解像度の低い分解能の仮の左視差画像および仮の右視差画像を可視バンドと近赤外バンドとの2色バンドのそれぞれについて生成する。例えば、単色バンドの左視差画素ばかりを集めた信号色面内の単純平均補間を行う。例えば、近接して存在する画素値を用いて、距離の比に応じて線形補間を行う。同様に、単色バンドの右視差画素ばかりを集めた信号面内の単純平均補間を行う。この処理をWとIの2バンドについて行う。更に、可視単色バンドの視差なし画素ばかりを集めた信号面内の単純平均補間を行う。すなわち、WLt_mosaic(x,y)からWLt(x,y)を、WRt_mosaic(x,y)からWRt(x,y)を、WN_mosaic(x,y)からRN(x,y)を、ILt_mosaic(x,y)からILt(x,y)を、IRt_mosaic(x,y)からIRt(x,y)を生成する。
仮の可視左視差画像をWLt(x,y)で表す。
仮の可視右視差画像をWRt(x,y)で表す。
仮の近赤外左視差画像をILt(x,y)で表す。
仮の近赤外右視差画像をIRt(x,y)で表す。
なお、仮の可視視差なし画像WN(x,y)を生成するときは、信号面内での方向判定を導入して高精細に行うのが好ましい。また、仮の視差画像の各々を生成するときも、上下左右の4点、ないしは斜め4点に囲まれた対称性の良い画素をまず縦横相関、ないしは斜め相関をみながら相関量の逆数加重比で補間し、残りの対称性のよい画素を順繰りにこの操作を繰り返して補間する方法がより好ましい。
(ローカル・ゲインバランス補正)
次に、ステップ2)で行ったグローバル・ゲイン補正と同様の考え方で、可視画像に限って、画素単位のローカル・ゲイン補正を行うことによって、まず画面内の左視差画素と画面内の右視差画素の照度を合わせる。この操作によって左右間の視差を消滅させる。その上で左右平均をとった信号面と視差なし画素の撮像信号面との間で更に照度を合わせる。そうして、全ての画素でゲイン整合のとれた新しい可視視差なしの基準画像面を作成する。これは平均値と置き換えることと等価であり、視差の消滅した中間画像面が出来上がる。これをWN(x,y)と書くことにする。
次に、非可視光における近赤外の波長帯域の2D画像を高精細に生成する。生成する画像をIN(x,y)によって表す。特に高精細に生成するのでなければ、これらは以下の式によって取得できる。
可視画像について、ステップ3)で生成した解像力の低い仮の可視左視差画像WLt(x,y)と、ステップ4)で中間処理として生成した解像力の高い可視視差なし画像WN(x,y)を用いて、実際に出力する解像力の高い可視左視差画像WLt'(x,y)を生成する。同様に、ステップ3)で生成した解像力の低い仮の可視右視差画像WRt(x,y)と、ステップ4)で中間処理として生成した解像力の高い可視視差なし画像WN(x,y)を用いて、実際に出力する解像力の高い可視右視差画像WRt'(x,y)を生成する。
こうして得られた高解像な可視視差なし画像WN(x,y)と、高解像の可視左視差画像WLt'(x,y)と、高解像の可視右視差画像WRt'(x,y)と、高解像な非可視視差なし画像IN(x,y)と、高解像の非可視左視差画像ILt'(x,y)と、高解像の非可視右視差画像IRt'(x,y)とのそれぞれを適当なガンマ変換を行って出力空間の画像として出力する。
実施例2、3で説明した可視光と近赤外光の結像面の位置が異なることを最も有効に作用させるための撮像装置としてのカメラシステムを説明する。すなわち、実施例2ないし3に記載した撮像素子を搭載したカメラを通常の光学系、例えば、一眼レフの交換レンズを備えたシステムに組み込み、更にそのカメラのオートフォーカス機能は、従来の可視光のオートフォーカス機能をそのまま用いて、可視光の主要被写体に合焦させる。その上で、実施例2ないし3に記載の画像処理をカメラ内ないしは外部コンピュータのソフトウェアで実行する。ここで、重要なのは、可視光が撮像面に結像する位置にフォーカスを合わせるようにカメラを制御し、近赤外光はその光学系の特性で規定される量のボケ情報を同時に捉えることである。このボケ情報は、どのような光学系を用いても一定の範囲の中での可視光に対するずれを常に提供する。そうすると、最も人間の目に優しい可視光の立体画像が生成され、長時間鑑賞あるいは視聴しても頭痛のしない立体画像が楽しめることになる。
なお、<>は、局所平均を表す。
Claims (53)
- 光電変換素子に、可視光の波長帯域の入射光束に対して互いに異なる部分光束を通過させるように位置づけられた開口をそれぞれ有する複数種類の開口マスクの何れかが可視域を受光する光電変換画素に対応づけられた可視視差画素と、
前記光電変換素子に、非可視光の波長帯域の入射光束に対して互いに異なる部分光束を通過させるように位置づけられた開口をそれぞれ有する複数種類の開口マスクの何れかが非可視光域を受光する光電変換画素に対応づけられた非可視視差画素と、
を備えた撮像素子。 - 前記非可視視差画素は、2次元方向に等間隔で配置されていると共に、前記異なる種類の前記開口マスクが対応づけられた前記非可視視差画素同士の間の距離が互いに最も離れるように配置され、
前記可視視差画素は、2次元方向に等間隔で配置されていると共に、前記異なる種類の前記開口マスクが対応づけられた前記可視視差画素同士の間の距離が互いに最も離れるように配置されている請求項1に記載の撮像素子。 - 前記非可視視差画素と前記可視視差画素の同じ種類の開口マスクを持つ画素同士が互いに隣接しないように配置されている請求項2に記載の撮像素子。
- 前記非可視視差画素は、互いに異なる波長帯域を通過させる複数種類のバンドパスフィルタの何れかが対応づけられ、
前記非可視視差画素は、対応づけられた前記バンドパスフィルタの種類毎に、前記2次元方向に等間隔で配置されていると共に、前記バンドパスフィルタの種類毎に異なる種類の前記開口マスクが対応づけられた前記非可視視差画素同士の距離が互いに最も離れるように配置され、
更に、
前記可視視差画素は、互いに異なる波長帯域を通過させる複数種類のカラーフィルタの何れかが対応づけられ、
前記可視視差画素は、対応づけられた前記カラーフィルタの種類毎に、前記2次元方向に等間隔で配置されていると共に、前記カラーフィルタの種類毎に異なる種類の前記開口マスクが対応づけられた前記可視視差画素同士の距離が互いに最も離れるように配置されている請求項2または3に記載の撮像素子。 - 前記非可視視差画素が受光する波長帯域は、近赤外領域の波長帯域である請求項1に記載の撮像素子。
- 前記非可視視差画素が受光する波長帯域は、近赤外領域の3種類の異なる波長帯域(I1,I2,I3)であり、
前記可視視差画素が受光する波長帯域は、可視領域の赤、緑、青の3種類の波長帯域(R,G,B)である請求項4に記載の撮像素子。 - 前記光電変換素子に、前記開口に制限されることなく入射光束を導く視差なし画素をさらに備え、
前記非可視視差画素は、対応づけられた前記開口マスクの種類毎に、他の前記開口マスクが対応づけられた前記非可視視差画素、前記可視視差画素、前記視差なし画素のいずれかまたは全てに挟まれて配置されており、
前記可視視差画素は、対応づけられた前記開口マスクの種類毎に、他の前記開口マスクが対応づけられた前記可視視差画素、前記非可視視差画素、前記視差なし画素のいずれかまたは全てに挟まれて配置されている請求項1から6のいずれか1項に記載の撮像素子。 - 前記視差なし画素は、前記可視光の波長帯域の入射光束を導き、可視域を受光する光電変換画素に対応づけられた可視視差なし画素である請求項7に記載の撮像素子。
- 前記非可視視差画素と前記可視視差画素の画素密度は、前記可視視差なし画素の画素密度に対して疎な配列であり、前記非可視視差画素と前記可視視差画素の合計の画素密度が、前記可視視差なし画素の画素密度よりも小さい請求項8に記載の撮像素子。
- 前記非可視視差画素と前記可視視差画素がそれぞれ右視差画素と左視差画素の2種類の開口マスクを有する時、前記可視視差なし画素に対する左視差画素と右視差画素の画素密度比が6:1:1で構成される請求項9に記載の撮像素子。
- 前記非可視視差画素は、非可視領域の3種類の異なる波長帯域(I1,I2,I3)の何れかを通過させるバンドパスフィルタが対応づけられ、かつ左開口の開口マスクを有する非可視左視差画素と右開口の開口マスクを有する非可視右視差画素の何れかからなり、
前記可視視差画素と前記可視視差なし画素は、可視領域の赤、緑、青の3種類の波長帯域(R,G,B)の何れかを通過させるカラーフィルタがそれぞれ対応づけられ、かつ、前記可視視差画素が左開口の開口マスクを有する可視左視差画素と右開口の開口マスクを有する可視右視差画素の何れかからなるとき、
前記非可視視差画素の間の各波長帯域毎の画素密度比は、非可視左視差画素と非可視右視差画素は共に、I1:I2:I3=1:2:1で構成され、
前記可視視差画素の間の各波長帯域毎の画素密度比は、可視左視差画素と可視右視差画素と可視視差なし画素は共に、R:G:B=1:2:1で構成される請求項8から10のいずれか1項に記載の撮像素子。 - 前記可視視差画素と前記可視視差なし画素と前記非可視視差画素は、何れもが光軸上の同じ撮像面の位置に光電変換部が配置された請求項8から11のいずれか一項に記載の撮像素子。
- 前記入射光束を導く1つの光学系を備え、前記光学系の合焦位置を可視光が捉える主要被写体に対して、オートフォーカス制御する制御部を備えた請求項12に記載の撮像素子を組み込んだ撮像装置。
- 請求項1から12のいずれか1項に記載の撮像素子と、
前記撮像素子の出力から、互いに視差を有する複数の可視視差画像データと、互いに視差を有する複数の非可視視差画像データとを生成する画像処理部と
を備える撮像装置。 - 一度の撮影によって撮像素子の同一面から出力された画素信号から生成された可視画像データおよび非可視画像データを入力する入力部と、
前記可視画像データおよび前記非可視画像データのうち一方を用いて他方を新たに算出する画像処理部と
を備える画像処理装置。 - 前記画像処理部は、前記可視画像データ及び前記非可視画像データのいずれか一方の、基準方向の視点による視差なし画像データと前記基準方向の視点とは異なる視差画像データを用いて、他方の前記基準方向の視点による視差なし画像データを新たに算出する請求項15に記載の画像処理装置。
- 前記可視画像データは、入射光束のうち可視光の波長帯域における基準方向の視点の可視視差なし画像データと、前記可視光の波長帯域における前記基準方向の視点とは異なる第1視点の可視第1視差画像データおよび第2視点の可視第2視差画像データとを含み、
前記非可視画像データは、前記入射光束のうち非可視光の波長帯域における前記基準方向の視点の非可視視差なし画像データを含む請求項15または16に記載の画像処理装置。 - 前記画像処理部は、前記可視画像データを用いて前記非可視画像データを新たに算出する場合に、前記非可視視差なし画像データの対象画素位置における新たに算出する画素値を、前記新たに算出する画素値と前記非可視視差なし画像データの前記対象画素位置における画素値との差が、前記可視視差なし画像データの前記対象画素位置における画素値と、前記可視第1視差画像データの前記対象画素位置における画素値と前記可視第2視差画像データの前記対象画素位置における画素値との平均の画素値との差に対して相関を保つように算出する請求項17に記載の画像処理装置。
- 前記入力部は、前記可視光の波長帯域における複数の色成分のそれぞれについて、前記可視視差なし画像データ、前記可視第1視差画像データ、および前記可視第2視差画像データを入力し、
前記画像処理部は、前記可視画像データを用いて前記非可視画像データを新たに算出する場合に、前記非可視視差なし画像データの対象画素位置における新たに算出する画素値を、前記新たに算出する画素値と前記非可視視差なし画像データの前記対象画素位置における画素値との差が、少なくとも、(1)第1の色成分における前記可視視差なし画像データの前記対象画素位置の画素値と、前記第1の色成分における前記可視第1視差画像データの前記対象画素位置の画素値と前記第1の色成分における前記可視第2視差画像データの前記対象画素位置の画素値との平均の画素値との差と、(2)第2の色成分における前記可視視差なし画像データの前記対象画素位置の画素値と、前記第2の色成分における前記可視第1視差画像データの前記対象画素位置の画素値と前記第2の色成分における前記可視第2視差画像データの前記対象画素位置の画素値との平均からなる画素値との差との和に相関を保つように算出する請求項17に記載の画像処理装置。 - 前記非可視画像データは、前記非可視光の波長帯域における前記第1視点の非可視第1視差画像データおよび前記第2視点の非可視第2視差画像データを含み、
前記非可視第1視差画像データおよび前記非可視第2視差画像データの平均によって、前記非可視視差なし画像データを生成する生成部を備え、
前記画像処理部は、前記非可視第1視差画像データの新たに算出する画素値を、前記非可視第1視差画像データの新たに算出する画素値と、前記非可視視差なし画像データの新たに求めた画素値との差が、少なくとも、前記非可視第1視差画像データの前記対象画素位置の画素値と、前記非可視第2視差画像データの前記対象画素位置の画素値との差に対して相関を保つように算出する請求項18または19に記載の画像処理装置。 - 前記画像処理部は、前記可視画像データを用いて前記非可視画像データを新たに算出する場合に、前記非可視視差なし画像データの対象画素位置における新たに算出する画素値を、前記新たに算出する画素値と前記非可視視差なし画像データの前記対象画素位置における画素値との比が、前記可視視差なし画像データの前記対象画素位置における画素値と、前記可視第1視差画像データの前記対象画素位置における画素値と前記可視第2視差画像データの前記対象画素位置における画素値との平均の画素値との比に対して相関を保つように算出する請求項17に記載の画像処理装置。
- 前記入力部は、前記可視光の波長帯域における複数の色成分のそれぞれについて、前記可視視差なし画像データ、前記可視第1視差画像データ、および前記可視第2視差画像データを入力し、
前記画像処理部は、前記可視画像データを用いて前記非可視画像データを新たに算出する場合に、前記非可視視差なし画像データの対象画素位置における新たに算出する画素値を、前記新たに算出する画素値と前記非可視視差なし画像データの前記対象画素位置における画素値との比が、少なくとも、(1)第1の色成分における前記可視視差なし画像データの前記対象画素位置の画素値と、前記第1の色成分における前記可視第1視差画像データの前記対象画素位置の画素値と前記第1の色成分における前記可視第2視差画像データの前記対象画素位置の画素値との平均の画素値との比と、(2)第2の色成分における前記可視視差なし画像データの前記対象画素位置の画素値と、前記第2の色成分における前記可視第1視差画像データの前記対象画素位置の画素値と前記第2の色成分における前記可視第2視差画像データの前記対象画素位置の画素値との平均からなる画素値との比との積に相関を保つように算出する請求項17に記載の画像処理装置。 - 前記非可視画像データは、前記非可視光の波長帯域における前記第1視点の非可視第1視差画像データおよび前記第2視点の非可視第2視差画像データを含み、
前記非可視第1視差画像データおよび前記非可視第2視差画像データの平均によって、前記非可視視差なし画像データを生成する生成部を備え、
前記画像処理部は、前記非可視第1視差画像データの新たに算出する画素値を、前記非可視第1視差画像データの新たに算出する画素値と、前記非可視視差なし画像データの新たに求めた画素値との差が、少なくとも、前記非可視第1視差画像データの前記対象画素位置の画素値と、前記非可視第2視差画像データの前記対象画素位置の画素値との比に対して相関を保つように算出する請求項21または22に記載の画像処理装置。 - 前記可視画像データは、入射光束のうち可視光の波長帯域における基準方向の視点の可視視差なし画像データを含み、
前記非可視画像データは、前記入射光束のうち非可視光の波長帯域における前記基準方向の視点の非可視視差なし画像データを含む請求項15に記載の画像処理装置。 - 前記非可視画像データは、前記非可視光の波長帯域における前記基準方向の視点とは異なる第1視点の非可視第1視差画像データおよび第2視点の非可視第2視差画像データを含み、
前記画像処理部は、前記非可視画像データを用いて前記可視画像データを新たに算出する場合に、前記可視視差なし画像データの対象画素位置における新たに算出する画素値を、前記新たに算出する画素値と前記可視視差なし画像データの前記対象画素位置における画素値との差が、前記非可視視差なし画像データの前記対象画素位置における画素値と、前記非可視第1視差画像データの前記対象画素位置における画素値と前記非可視第2視差画像データの前記対象画素位置における画素値との平均の画素値との差、または前記非可視視差なし画像データの前記対象画素位置における画素値と前記非可視視差なし画像データの前記対象画素位置における局所的な平均値との差に対して相関を保つように算出する請求項24に記載の画像処理装置。 - 前記非可視画像データは、前記非可視光の波長帯域における前記基準方向の視点とは異なる第1視点の非可視第1視差画像データおよび第2視点の非可視第2視差画像データを含み、
前記入力部は、前記非可視光の波長帯域における複数のバンド成分のそれぞれについて、前記非可視視差なし画像データ、前記非可視第1視差画像データ、および前記非可視第2視差画像データを入力し、
前記画像処理部は、前記非可視画像データを用いて前記可視画像データを新たに算出する場合に、前記可視視差なし画像データの対象画素位置における新たに算出する画素値を、前記新たに算出する画素値と前記可視視差なし画像データの前記対象画素位置における画素値との差が、少なくとも、(1)第1のバンド成分における前記非可視視差なし画像データの前記対象画素位置の画素値と、前記第1のバンド成分における前記非可視第1視差画像データの前記対象画素位置の画素値と前記第1のバンド成分における前記非可視第2視差画像データの前記対象画素位置の画素値との平均の画素値との差と、(2)第2のバンド成分における前記非可視視差なし画像データの前記対象画素位置の画素値と、前記第2のバンド成分における前記非可視第1視差画像データの前記対象画素位置の画素値と前記第2のバンド成分における前記非可視第2視差画像データの前記対象画素位置の画素値との平均からなる画素値との差との和、または、少なくとも、(1)第1のバンド成分における前記非可視視差なし画像データの前記対象画素位置の画素値と、前記第1のバンド成分における前記非可視視差なし画像データの前記対象画素位置の局所的な平均値との差と、(2)第2のバンド成分における前記非可視視差なし画像データの前記対象画素位置の画素値と、前記第2のバンド成分における前記非可視視差なし画像データの前記対象画素位置の局所的な平均値との差との和に相関を保つように算出する請求項24に記載の画像処理装置。 - 前記可視画像データは、前記可視光の波長帯域における前記基準方向の視点とは異なる前記第1視点の可視第1視差画像データおよび前記第2視点の可視第2視差画像データとを含み、
前記画像処理部は、前記可視第1視差画像データの新たに算出する画素値を、前記可視第1視差画像データの新たに算出する画素値と、前記可視視差なし画像データの新たに求めた画素値との差が、少なくとも、前記非可視第1視差画像データの前記対象画素位置の画素値と、前記非可視第2視差画像データの前記対象画素位置の画素値との差に対して相関を保つように算出する請求項25または26に記載の画像処理装置。 - 前記非可視画像データは、前記非可視光の波長帯域における前記基準方向の視点とは異なる第1視点の非可視第1視差画像データおよび第2視点の非可視第2視差画像データを含み、
前記画像処理部は、前記非可視画像データを用いて前記可視画像データを新たに算出する場合に、前記可視視差なし画像データの対象画素位置における新たに算出する画素値を、前記新たに算出する画素値と前記可視視差なし画像データの前記対象画素位置における画素値との比が、前記非可視視差なし画像データの前記対象画素位置における画素値と、前記非可視第1視差画像データの前記対象画素位置における画素値と前記非可視第2視差画像データの前記対象画素位置における画素値との平均の画素値との比、または前記非可視視差なし画像データの前記対象画素位置における画素値と前記非可視視差なし画像データの前記対象画素位置における局所的な平均値との比に対して相関を保つように算出する請求項24に記載の画像処理装置。 - 前記非可視画像データは、前記非可視光の波長帯域における前記基準方向の視点とは異なる第1視点の非可視第1視差画像データおよび第2視点の非可視第2視差画像データを含み、
前記入力部は、前記非可視光の波長帯域における複数のバンド成分のそれぞれについて、前記非可視視差なし画像データ、前記非可視第1視差画像データ、および前記非可視第2視差画像データを入力し、
前記画像処理部は、前記非可視画像データを用いて前記可視画像データを新たに算出する場合に、前記可視視差なし画像データの対象画素位置における新たに算出する画素値を、前記新たに算出する画素値と前記可視視差なし画像データの前記対象画素位置における画素値との比が、少なくとも、(1)第1のバンド成分における前記非可視視差なし画像データの前記対象画素位置の画素値と、前記第1のバンド成分における前記非可視第1視差画像データの前記対象画素位置の画素値と前記第1のバンド成分における前記非可視第2視差画像データの前記対象画素位置の画素値との平均の画素値との比と、(2)第2のバンド成分における前記非可視視差なし画像データの前記対象画素位置の画素値と、前記第2のバンド成分における前記非可視第1視差画像データの前記対象画素位置の画素値と前記第2のバンド成分における前記非可視第2視差画像データの前記対象画素位置の画素値との平均からなる画素値との比との積、または、少なくとも、(1)第1のバンド成分における前記非可視視差なし画像データの前記対象画素位置の画素値と、前記第1のバンド成分における前記非可視視差なし画像データの前記対象画素位置の局所的な平均値との比と、(2)第2のバンド成分における前記非可視視差なし画像データの前記対象画素位置の画素値と、前記第2のバンド成分における前記非可視視差なし画像データの前記対象画素位置の局所的な平均値との比との積に相関を保つように算出する請求項24に記載の画像処理装置。 - 前記可視画像データは、前記可視光の波長帯域における前記基準方向の視点とは異なる前記第1視点の可視第1視差画像データおよび前記第2視点の可視第2視差画像データとを含み、
前記画像処理部は、前記可視第1視差画像データの新たに算出する画素値を、前記可視第1視差画像データの新たに算出する画素値と、前記可視視差なし画像データの新たに求めた画素値との比が、少なくとも、前記非可視第1視差画像データの前記対象画素位置の画素値と、前記非可視第2視差画像データの前記対象画素位置の画素値との比に対して相関を保つように算出する請求項28または29に記載の画像処理装置。 - 前記非可視光の波長帯域は、近赤外領域である請求項17から30のいずれか1項に記載の画像処理装置。
- 被写体像の可視光の波長帯域の基準方向の視点の可視視差なし画像と、可視光の波長帯域の前記基準方向の視点とは異なる第1視点と第2視点の可視第1視差画像と可視第2視差画像と、被写体像の非可視光の波長帯域の基準方向の視点の非可視視差なし画像と、非可視光の波長帯域の第1視点と第2視点の非可視第1視差画像と非可視第2視差画像とを入力し、
前記可視第1視差画像の新たに算出する画素値を、前記可視第1視差画像の新たに算出する画素値と前記可視視差なし画像の画素値との間の差が、少なくとも、前記非可視第1視差画像の画素値と前記非可視第2視差画像の画素値との間の差に対して相関を保つように算出し、新たな可視第1視差画像を出力する画像処理装置。 - 前記可視第1視差画像の新たに算出する画素値を、前記可視第1視差画像の新たに算出する画素値と前記可視視差なし画像の画素値との間の差が、少なくとも、
1)前記可視第1視差画像の画素値と前記可視第2視差画像の画素値との間の差と、
2)前記非可視第1視差画像の画素値と前記非可視第2視差画像の画素値との間の差
との和に対して相関を保つように算出し、新たな可視第1視差画像を出力する請求項32に記載の画像処理装置。 - 被写体像の可視光の波長帯域の第1〜第m(m≧2)の複数の色成分に関する基準方向の視点の可視視差なし画像と、可視光の波長帯域の第1〜第m(m≧2)の複数の色成分に関する前記基準方向の視点とは異なる第1視点と第2視点の可視第1視差画像と可視第2視差画像と、被写体像の非可視光の波長帯域の第1〜第n(n≧2)の複数のバンド成分に関する基準方向の視点の非可視視差なし画像と、非可視光の波長帯域の第1〜第n(n≧2)の複数のバンド成分に関する第1視点と第2視点の非可視第1視差画像と非可視第2視差画像とを入力し、
前記第1の色成分に関する可視第1視差画像の新たに算出する画素値を、前記第1の色成分に関する可視第1視差画像の新たに算出する画素値と前記第1の色成分に関する可視視差なし画像の画素値との間の差が、少なくとも、
1)前記第1のバンド成分に関する非可視第1視差画像の画素値と前記第1のバンド成分に関する非可視第2視差画像の画素値との間の差と、
2)前記第2のバンド成分に関する非可視第1視差画像の画素値と前記第2のバンド成分に関する非可視第2視差画像の画素値との間の差
との和に対して相関を保つように算出し、新たな第1の色成分に関する可視第1視差画像を出力する請求項32に記載の画像処理装置。 - 前記第1の色成分に関する可視第1視差画像の新たに算出する画素値を、前記第1の色成分に関する可視第1視差画像の新たに算出する画素値と前記第1の色成分に関する可視視差なし画像の画素値との間の差が、少なくとも、
1)前記第1の色成分に関する可視第1視差画像の画素値と前記第1の色成分に関する可視第2視差画像の画素値との間の差と、
2)前記第2の色成分に関する可視第1視差画像の画素値と前記第2の色成分に関する可視第2視差画像の画素値との間の差と、
3)前記第1のバンド成分に関する非可視第1視差画像の画素値と前記第1のバンド成分に関する非可視第2視差画像の画素値との間の差と、
4)前記第2のバンド成分に関する非可視第1視差画像の画素値と前記第2のバンド成分に関する非可視第2視差画像の画素値との間の差
との和に対して相関を保つように算出し、新たな第1の色成分に関する可視第1視差画像を出力する請求項34に記載の画像処理装置。 - 被写体像の可視光の波長帯域の基準方向の視点の可視視差なし画像と、可視光の波長帯域の前記基準方向の視点とは異なる第1視点と第2視点の可視第1視差画像と可視第2視差画像と、被写体像の非可視光の波長帯域の基準方向の視点の非可視視差なし画像と、非可視光の波長帯域の第1視点と第2視点の非可視第1視差画像と非可視第2視差画像とを入力し、
前記非可視第1視差画像の新たに算出する画素値を、前記非可視第1視差画像の新たに算出する画素値と前記非可視視差なし画像の画素値との間の差が、少なくとも、前記可視第1視差画像の画素値と前記可視第2視差画像の画素値との間の差に対して相関を保つように算出し、新たな非可視第1視差画像を出力する画像処理装置。 - 前記非可視第1視差画像の新たに算出する画素値を、前記非可視第1視差画像の新たに算出する画素値と前記非可視視差なし画像の画素値との間の差が、少なくとも、
1)前記非可視第1視差画像の画素値と前記非可視第2視差画像の画素値との間の差と、
2)前記可視第1視差画像の画素値と前記可視第2視差画像の画素値との間の差
との和に対して相関を保つように算出し、新たな非可視第1視差画像を出力する請求項36に記載の画像処理装置。 - 被写体像の可視光の波長帯域の第1〜第m(m≧2)の複数の色成分に関する基準方向の視点の可視視差なし画像と、可視光の波長帯域の第1〜第m(m≧2)の複数の色成分に関する前記基準方向の視点とは異なる第1視点と第2視点の可視第1視差画像と可視第2視差画像と、被写体像の非可視光の波長帯域の第1〜第n(n≧2)の複数のバンド成分に関する基準方向の視点の非可視視差なし画像と、非可視光の波長帯域の第1〜第n(n≧2)の複数のバンド成分に関する第1視点と第2視点の非可視第1視差画像と非可視第2視差画像とを入力し、
前記第1のバンド成分に関する非可視第1視差画像の新たに算出する画素値を、前記第1のバンド成分に関する非可視第1視差画像の新たに算出する画素値と前記第1のバンド成分に関する非可視視差なし画像の画素値との間の差が、少なくとも、
1)前記第1の色成分に関する可視第1視差画像の画素値と前記第1の色成分に関する可視第2視差画像の画素値との間の差と、
2)前記第2の色成分に関する可視第1視差画像の画素値と前記第2の色成分に関する可視第2視差画像の画素値との間の差
との和に対して相関を保つように算出し、新たな第1のバンド成分に関する非可視第1視差画像を出力する請求項36に記載の画像処理装置。 - 前記第1のバンド成分に関する非可視第1視差画像の新たに算出する画素値を、前記第1のバンド成分に関する非可視第1視差画像の新たに算出する画素値と前記第1のバンド成分に関する非可視視差なし画像の画素値との間の差が、少なくとも、
1)前記第1のバンド成分に関する非可視第1視差画像の画素値と前記第1のバンド成分に関する非可視第2視差画像の画素値との間の差と、
2)前記第2のバンド成分に関する非可視第1視差画像の画素値と前記第2のバンド成分に関する非可視第2視差画像の画素値との間の差と、
3)前記第1の色成分に関する可視第1視差画像の画素値と前記第1の色成分に関する可視第2視差画像の画素値との間の差と、
4)前記第2の色成分に関する可視第1視差画像の画素値と前記第2の色成分に関する可視第2視差画像の画素値との間の差
との和に対して相関を保つように算出し、新たな第1のバンド成分に関する非可視第1視差画像を出力する請求項38に記載の画像処理装置。 - 被写体像の可視光の波長帯域の基準方向の視点の可視視差なし画像と、可視光の波長帯域の前記基準方向の視点とは異なる第1視点と第2視点の可視第1視差画像と可視第2視差画像と、被写体像の非可視光の波長帯域の基準方向の視点の非可視視差なし画像と、非可視光の波長帯域の第1視点と第2視点の非可視第1視差画像と非可視第2視差画像とを入力し、
前記可視第1視差画像の新たに算出する画素値を、前記可視第1視差画像の新たに算出する画素値と前記可視視差なし画像の画素値との間で定義される比が、少なくとも、前記非可視第1視差画像の画素値と前記非可視第2視差画像の画素値との間で定義される比に対して相関を保つように算出し、新たな可視第1視差画像を出力する画像処理装置。 - 前記可視第1視差画像の新たに算出する画素値を、前記可視第1視差画像の新たに算出する画素値と前記可視視差なし画像の画素値との間で定義される比が、少なくとも、
1)前記可視第1視差画像の画素値と前記可視第2視差画像の画素値との間で定義される比と、
2)前記非可視第1視差画像の画素値と前記非可視第2視差画像の画素値との間で定義される比
との積に対して相関を保つように算出し、新たな可視第1視差画像を出力する請求項40に記載の画像処理装置。 - 被写体像の可視光の波長帯域の第1〜第m(m≧2)の複数の色成分に関する基準方向の視点の可視視差なし画像と、可視光の波長帯域の第1〜第m(m≧2)の複数の色成分に関する前記基準方向の視点とは異なる第1視点と第2視点の可視第1視差画像と可視第2視差画像と、被写体像の非可視光の波長帯域の第1〜第n(n≧2)の複数のバンド成分に関する基準方向の視点の非可視視差なし画像と、非可視光の波長帯域の第1〜第n(n≧2)の複数のバンド成分に関する第1視点と第2視点の非可視第1視差画像と非可視第2視差画像とを入力し、
前記第1の色成分に関する可視第1視差画像の新たに算出する画素値を、前記第1の色成分に関する可視第1視差画像の新たに算出する画素値と前記第1の色成分に関する可視視差なし画像の画素値との間で定義される比が、少なくとも、
1)前記第1のバンド成分に関する非可視第1視差画像の画素値と前記第1のバンド成分に関する非可視第2視差画像の画素値との間で定義される比と、
2)前記第2のバンド成分に関する非可視第1視差画像の画素値と前記第2のバンド成分に関する非可視第2視差画像の画素値との間で定義される比
との積に対して相関を保つように算出し、新たな第1の色成分に関する可視第1視差画像を出力する請求項40に記載の画像処理装置。 - 前記第1の色成分に関する可視第1視差画像の新たに算出する画素値を、前記第1の色成分に関する可視第1視差画像の新たに算出する画素値と前記第1の色成分に関する可視視差なし画像の画素値との間で定義される比が、少なくとも、
1)前記第1の色成分に関する可視第1視差画像の画素値と前記第1の色成分に関する可視第2視差画像の画素値との間で定義される比と、
2)前記第2の色成分に関する可視第1視差画像の画素値と前記第2の色成分に関する可視第2視差画像の画素値との間で定義される比と、
3)前記第1のバンド成分に関する非可視第1視差画像の画素値と前記第1のバンド成分に関する非可視第2視差画像の画素値との間で定義される比と、
4)前記第2のバンド成分に関する非可視第1視差画像の画素値と前記第2のバンド成分に関する非可視第2視差画像の画素値との間で定義される比
との積に対して相関を保つように算出し、新たな第1の色成分に関する可視第1視差画像を出力する請求項42に記載の画像処理装置。 - 被写体像の可視光の波長帯域の基準方向の視点の可視視差なし画像と、可視光の波長帯域の前記基準方向の視点とは異なる第1視点と第2視点の可視第1視差画像と可視第2視差画像と、被写体像の非可視光の波長帯域の基準方向の視点の非可視視差なし画像と、非可視光の波長帯域の第1視点と第2視点の非可視第1視差画像と非可視第2視差画像とを入力し、
前記非可視第1視差画像の新たに算出する画素値を、前記非可視第1視差画像の新たに算出する画素値と前記非可視視差なし画像の画素値との間で定義される比が、少なくとも、前記可視第1視差画像の画素値と前記可視第2視差画像の画素値との間で定義される比に対して相関を保つように算出し、新たな非可視第1視差画像を出力する画像処理装置。 - 前記非可視第1視差画像の新たに算出する画素値を、前記非可視第1視差画像の新たに算出する画素値と前記非可視視差なし画像の画素値との間で定義される比が、少なくとも、
1)前記非可視第1視差画像の画素値と前記非可視第2視差画像の画素値との間で定義される比と、
2)前記可視第1視差画像の画素値と前記可視第2視差画像の画素値との間で定義される比
との積に対して相関を保つように算出し、新たな非可視第1視差画像を出力する請求項44に記載の画像処理装置。 - 被写体像の可視光の波長帯域の第1〜第m(m≧2)の複数の色成分に関する基準方向の視点の可視視差なし画像と、可視光の波長帯域の第1〜第m(m≧2)の複数の色成分に関する前記基準方向の視点とは異なる第1視点と第2視点の可視第1視差画像と可視第2視差画像と、被写体像の非可視光の波長帯域の第1〜第n(n≧2)の複数のバンド成分に関する基準方向の視点の非可視視差なし画像と、非可視光の波長帯域の第1〜第n(n≧2)の複数のバンド成分に関する第1視点と第2視点の非可視第1視差画像と非可視第2視差画像とを入力し、
前記第1のバンド成分に関する非可視第1視差画像の新たに算出する画素値を、前記第1のバンド成分に関する非可視第1視差画像の新たに算出する画素値と前記第1のバンド成分に関する非可視視差なし画像の画素値との間で定義される比が、少なくとも、
1)前記第1の色成分に関する可視第1視差画像の画素値と前記第1の色成分に関する可視第2視差画像の画素値との間で定義される比と、
2)前記第2の色成分に関する可視第1視差画像の画素値と前記第2の色成分に関する可視第2視差画像の画素値との間で定義される比
との積に対して相関を保つように算出し、新たな第1のバンド成分に関する非可視第1視差画像を出力する請求項44に記載の画像処理装置。 - 前記第1のバンド成分に関する非可視第1視差画像の新たに算出する画素値を、前記第1のバンド成分に関する非可視第1視差画像の新たに算出する画素値と前記第1のバンド成分に関する非可視視差なし画像の画素値との間で定義される比が、少なくとも、
1)前記第1のバンド成分に関する非可視第1視差画像の画素値と前記第1のバンド成分に関する非可視第2視差画像の画素値との間で定義される比と、
2)前記第2のバンド成分に関する非可視第1視差画像の画素値と前記第2のバンド成分に関する非可視第2視差画像の画素値との間で定義される比と、
3)前記第1の色成分に関する可視第1視差画像の画素値と前記第1の色成分に関する可視第2視差画像の画素値との間で定義される比と、
4)前記第2の色成分に関する可視第1視差画像の画素値と前記第2の色成分に関する可視第2視差画像の画素値との間で定義される比
との積に対して相関を保つように算出し、新たな第1のバンド成分に関する非可視第1視差画像を出力する請求項46に記載の画像処理装置。 - 被写体像の可視光の波長帯域の基準方向の視点の可視視差なし画像と、可視光の波長帯域の前記基準方向の視点とは異なる第1視点と第2視点の可視第1視差画像と可視第2視差画像と、被写体像の非可視光の波長帯域の基準方向の視点の非可視視差なし画像と、非可視光の波長帯域の第1視点と第2視点の非可視第1視差画像と非可視第2視差画像は、いずれも1つの光学系を通して同じ撮像面上に結像した各波長帯域の像を撮像した画像からなる請求項32から47のいずれか1項に記載の画像処理装置。
- 一度の撮影によって撮像素子の同一面から出力された画素信号から生成された可視画像データおよび非可視画像データを入力する入力部と、
前記可視画像データおよび前記非可視画像データのうち少なくとも一方に含まれる視差成分を他方に重畳する画像処理部と
を備える画像処理装置。 - 前記可視画像データは、入射光束のうち可視光の波長帯域における基準方向の視点の可視視差なし画像データと、前記可視光の波長帯域における前記基準方向の視点とは異なる第1視点の可視第1視差画像データとを含み、
前記非可視画像データは、前記入射光束のうち非可視光の波長帯域における前記第1視点の非可視第1視差画像データおよび第2視点の非可視第2視差画像データを含み、
前記可視第1視差画像データの対象画素位置における新たに算出する画素値を、前記新たに算出する画素値と前記可視視差なし画像データの前記対象画素位置における画素値との間の差が、少なくとも、前記非可視第1視差画像データの前記対象画素位置における画素値と前記非可視第2視差画像データの前記対象画素位置における画素値との差に対して相関を保つように算出する請求項49に記載の画像処理装置。 - 前記可視画像データは、入射光束のうち可視光の波長帯域における基準方向の視点とは異なる第1視点の可視第1視差画像データおよび第2視点の可視第2視差画像データを含み、
前記非可視画像データは、前記入射光束のうち非可視光の波長帯域における前記基準方向の視点の非可視視差なし画像データと、前記非可視光の波長帯域における前記第1視点の非可視第1視差画像データとを含み、
前記非可視第1視差画像データの対象画素位置における新たに算出する画素値を、前記新たに算出する画素値と前記非可視視差なし画像データの前記対象画素位置における画素値との間の差が、少なくとも、前記可視第1視差画像データの前記対象画素位置における画素値と前記可視第2視差画像データの前記対象画素位置における画素値との差に対して相関を保つように算出する請求項49に記載の画像処理装置。 - 前記可視画像データは、入射光束のうち可視光の波長帯域における基準方向の視点の可視視差なし画像データと、前記可視光の波長帯域における前記基準方向の視点とは異なる第1視点の可視第1視差画像データとを含み、
前記非可視画像データは、前記入射光束のうち非可視光の波長帯域における前記第1視点の非可視第1視差画像データおよび第2視点の非可視第2視差画像データを含み、
前記可視第1視差画像データの対象画素位置における新たに算出する画素値を、前記新たに算出する画素値と前記可視視差なし画像データの前記対象画素位置における画素値との間の比が、少なくとも、前記非可視第1視差画像データの前記対象画素位置における画素値と前記非可視第2視差画像データの前記対象画素位置における画素値との比に対して相関を保つように算出する請求項49に記載の画像処理装置。 - 前記可視画像データは、入射光束のうち可視光の波長帯域における基準方向の視点とは異なる第1視点の可視第1視差画像データおよび第2視点の可視第2視差画像データを含み、
前記非可視画像データは、前記入射光束のうち非可視光の波長帯域における前記基準方向の視点の非可視視差なし画像データと、前記非可視光の波長帯域における前記第1視点の非可視第1視差画像データとを含み、
前記非可視第1視差画像データの対象画素位置における新たに算出する画素値を、前記新たに算出する画素値と前記非可視視差なし画像データの前記対象画素位置における画素値との間の比が、少なくとも、前記可視第1視差画像データの前記対象画素位置における画素値と前記可視第2視差画像データの前記対象画素位置における画素値との比に対して相関を保つように算出する請求項49に記載の画像処理装置。
Applications Claiming Priority (7)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014077852 | 2014-04-04 | ||
JP2014077852 | 2014-04-04 | ||
JP2014077854 | 2014-04-04 | ||
JP2014077853 | 2014-04-04 | ||
JP2014077854 | 2014-04-04 | ||
JP2014077853 | 2014-04-04 | ||
PCT/JP2015/060715 WO2015152423A1 (ja) | 2014-04-04 | 2015-04-06 | 撮像素子、撮像装置および画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2015152423A1 true JPWO2015152423A1 (ja) | 2017-04-13 |
JP6354838B2 JP6354838B2 (ja) | 2018-07-11 |
Family
ID=54240726
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016511655A Active JP6354838B2 (ja) | 2014-04-04 | 2015-04-06 | 撮像素子、撮像装置および画像処理装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US10291901B2 (ja) |
JP (1) | JP6354838B2 (ja) |
CN (1) | CN106165398B (ja) |
WO (1) | WO2015152423A1 (ja) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10255664B2 (en) * | 2014-07-04 | 2019-04-09 | Sony Corporation | Image processing device and method |
KR101684194B1 (ko) * | 2015-12-17 | 2016-12-07 | 재단법인 다차원 스마트 아이티 융합시스템 연구단 | 초점 맞는 피사체 거리 스캔(focusing distance scan)을 통하여 깊이 정확도를 향상시키는 멀티 애퍼처 카메라 시스템 |
JP6935389B2 (ja) * | 2016-03-30 | 2021-09-15 | ソニー・オリンパスメディカルソリューションズ株式会社 | 医療用立体観察装置、医療用立体観察方法、及びプログラム |
WO2018211588A1 (ja) * | 2017-05-16 | 2018-11-22 | オリンパス株式会社 | 撮像装置、撮像方法及びプログラム |
CN107333034B (zh) * | 2017-06-12 | 2020-09-04 | 信利光电股份有限公司 | 一种红外摄像抗干扰的实现方法及实现装置 |
CN108093240A (zh) * | 2017-12-22 | 2018-05-29 | 成都先锋材料有限公司 | 3d深度图获取方法及装置 |
JP6947021B2 (ja) * | 2017-12-27 | 2021-10-13 | 株式会社リコー | 画像処理方法、画像処理装置および画像処理システム |
CN110475083B (zh) * | 2019-08-26 | 2021-12-14 | Oppo广东移动通信有限公司 | 一种像素结构、图像传感器及终端 |
WO2023047825A1 (ja) * | 2021-09-27 | 2023-03-30 | 富士フイルム株式会社 | 撮像装置および撮像方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013175807A (ja) * | 2012-02-23 | 2013-09-05 | Nikon Corp | 撮像装置 |
JP2013255144A (ja) * | 2012-06-08 | 2013-12-19 | Hitachi Consumer Electronics Co Ltd | 撮像装置 |
JP2014060694A (ja) * | 2012-03-16 | 2014-04-03 | Nikon Corp | 撮像素子および撮像装置 |
Family Cites Families (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5541653A (en) | 1993-07-27 | 1996-07-30 | Sri International | Method and appartus for increasing resolution of digital color images using correlated decoding |
JP4599672B2 (ja) | 1999-12-21 | 2010-12-15 | 株式会社ニコン | 補間処理装置および補間処理プログラムを記録した記録媒体 |
JP2003007994A (ja) | 2001-06-27 | 2003-01-10 | Konica Corp | 固体撮像素子、立体カメラ装置及び測距装置 |
WO2006006373A1 (ja) | 2004-07-07 | 2006-01-19 | Nikon Corporation | 画像処理装置およびコンピュータプログラム製品 |
JP4501855B2 (ja) * | 2005-12-22 | 2010-07-14 | ソニー株式会社 | 画像信号処理装置、撮像装置、および画像信号処理方法、並びにコンピュータ・プログラム |
WO2009066770A1 (ja) | 2007-11-22 | 2009-05-28 | Nikon Corporation | デジタルカメラおよびデジタルカメラシステム |
EP3328048B1 (en) * | 2008-05-20 | 2021-04-21 | FotoNation Limited | Capturing and processing of images using monolithic camera array with heterogeneous imagers |
US8203465B2 (en) * | 2009-07-13 | 2012-06-19 | The Boeing Company | Filtering aircraft traffic for display to a pilot |
JP5874116B2 (ja) | 2009-07-30 | 2016-03-02 | 国立研究開発法人産業技術総合研究所 | 画像撮影装置および画像撮影方法 |
US9532033B2 (en) * | 2010-11-29 | 2016-12-27 | Nikon Corporation | Image sensor and imaging device |
WO2012153504A1 (ja) * | 2011-05-06 | 2012-11-15 | 株式会社ニコン | 撮像装置および撮像装置の制御プログラム |
JP5263373B2 (ja) * | 2011-11-07 | 2013-08-14 | ソニー株式会社 | 半導体装置および撮像装置 |
CN104185983B (zh) | 2012-03-16 | 2016-10-26 | 株式会社尼康 | 摄像元件、摄像装置以及摄像系统 |
JP6131545B2 (ja) | 2012-03-16 | 2017-05-24 | 株式会社ニコン | 画像処理装置、撮像装置および画像処理プログラム |
JP6131546B2 (ja) | 2012-03-16 | 2017-05-24 | 株式会社ニコン | 画像処理装置、撮像装置および画像処理プログラム |
WO2013161313A1 (ja) | 2012-04-25 | 2013-10-31 | 株式会社ニコン | 画像処理装置、撮像装置および画像処理プログラム |
CA2876628C (en) * | 2012-06-29 | 2018-01-02 | Xhale, Inc. | Photoplethysmography sensors |
-
2015
- 2015-04-06 CN CN201580018356.0A patent/CN106165398B/zh active Active
- 2015-04-06 WO PCT/JP2015/060715 patent/WO2015152423A1/ja active Application Filing
- 2015-04-06 JP JP2016511655A patent/JP6354838B2/ja active Active
-
2016
- 2016-10-04 US US15/285,050 patent/US10291901B2/en active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013175807A (ja) * | 2012-02-23 | 2013-09-05 | Nikon Corp | 撮像装置 |
JP2014060694A (ja) * | 2012-03-16 | 2014-04-03 | Nikon Corp | 撮像素子および撮像装置 |
JP2013255144A (ja) * | 2012-06-08 | 2013-12-19 | Hitachi Consumer Electronics Co Ltd | 撮像装置 |
Also Published As
Publication number | Publication date |
---|---|
CN106165398B (zh) | 2019-07-02 |
WO2015152423A1 (ja) | 2015-10-08 |
CN106165398A (zh) | 2016-11-23 |
US20170026632A1 (en) | 2017-01-26 |
JP6354838B2 (ja) | 2018-07-11 |
US10291901B2 (en) | 2019-05-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6354838B2 (ja) | 撮像素子、撮像装置および画像処理装置 | |
JP6048574B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP6036829B2 (ja) | 画像処理装置、撮像装置および画像処理装置の制御プログラム | |
US9727985B2 (en) | Image processing apparatus, image-capturing apparatus, and storage medium having image processing program stored thereon | |
US9838665B2 (en) | Image processing device, imaging device, and image processing program | |
WO2014192300A1 (ja) | 撮像素子、撮像装置、および画像処理装置 | |
JP5923754B2 (ja) | 3次元撮像装置 | |
WO2013136819A1 (ja) | 撮像素子、撮像装置および撮像システム | |
US9628776B2 (en) | Three-dimensional imaging device, image processing device, image processing method, and image processing program | |
US9544570B2 (en) | Three-dimensional image pickup apparatus, light-transparent unit, image processing apparatus, and program | |
US9706186B2 (en) | Imaging apparatus for generating parallax image data | |
JP5979134B2 (ja) | 画像処理装置および画像処理プログラム | |
JP5978736B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
WO2012153504A1 (ja) | 撮像装置および撮像装置の制御プログラム | |
JP5907668B2 (ja) | 撮像装置及び撮像素子 | |
JP5978737B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP2014107594A (ja) | 撮像素子および撮像装置 | |
JP6019611B2 (ja) | 撮像装置 | |
JP5978735B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP5978738B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP6331279B2 (ja) | 撮像装置、撮像方法およびプログラム | |
JP6070060B2 (ja) | 撮像装置およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20171024 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20171220 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180515 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180528 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6354838 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |