JP6633738B2 - 撮像装置、車載カメラ、および画像処理方法 - Google Patents

撮像装置、車載カメラ、および画像処理方法 Download PDF

Info

Publication number
JP6633738B2
JP6633738B2 JP2018508998A JP2018508998A JP6633738B2 JP 6633738 B2 JP6633738 B2 JP 6633738B2 JP 2018508998 A JP2018508998 A JP 2018508998A JP 2018508998 A JP2018508998 A JP 2018508998A JP 6633738 B2 JP6633738 B2 JP 6633738B2
Authority
JP
Japan
Prior art keywords
light
opening
imaging device
intensity
receiving surface
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018508998A
Other languages
English (en)
Other versions
JPWO2017169805A1 (ja
Inventor
知文 小石
知文 小石
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyocera Corp
Original Assignee
Kyocera Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyocera Corp filed Critical Kyocera Corp
Publication of JPWO2017169805A1 publication Critical patent/JPWO2017169805A1/ja
Application granted granted Critical
Publication of JP6633738B2 publication Critical patent/JP6633738B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/79Arrangements of circuitry being divided between different or multiple substrates, chips or circuit boards, e.g. stacked image sensors
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1462Coatings
    • H01L27/14621Colour filter arrangements
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1462Coatings
    • H01L27/14623Optical shielding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/131Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing infrared wavelengths

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)

Description

関連出願の相互参照
本出願は、2016年3月29日に日本国に特許出願された特願2016−065945の優先権を主張するものであり、この先の出願の開示全体をここに参照のために取り込む。
本開示の実施形態は、撮像装置、車載カメラ、および画像処理方法に関する。
従来、カメラなどの撮像装置において、撮像画像のホワイトバランスの調整が行われている。例えば、特許文献1には、レンズのイメージサークル内であって撮像素子の有効撮像面積外に、それぞれ赤色透過フィルタと青色透過フィルタを有するフォトダイオードを備え、フォトダイオードの出力に基づいてホワイトバランスの調整を行う撮像装置が開示されている。
実登1771754号公報
本開示の実施形態に係る撮像装置は、レンズと、マスクと、撮像素子と、を備える。マスクは、前記レンズを通過した光が入射される第1開口部および前記レンズの色収差によって分散された光が入射される第2開口部を有する。撮像素子は、受光面上に照射される前記第1開口部を通過した第1光および前記第2開口部を通過して波長帯域毎に前記受光面上の異なる位置に照射される第2光を光電変換する。
本開示の実施形態に係る車載カメラは、レンズと、マスクと、撮像素子と、を備える。マスクは、前記レンズを通過した光が入射される第1開口部および前記レンズの色収差によって分散された光が入射される第2開口部を有する。撮像素子は、受光面上に照射される前記第1開口部を通過した第1光および前記第2開口部を通過して波長帯域毎に前記受光面上の異なる位置に照射される第2光を光電変換する。
本開示の実施形態に係る画像処理方法は、レンズと、マスクと、撮像素子と、プロセッサと、を備える撮像装置を用いる画像処理方法である。マスクは、前記レンズを通過した光がそれぞれ入射される第1開口部および第2開口部を有する。撮像素子は、受光面上にそれぞれ照射される前記第1開口部を通過した第1光および前記第2開口部を通過した第2光を光電変換する。画像処理方法は、前記プロセッサが、前記第2光の強度を算出し、算出された前記強度に基づいてホワイトバランスを調整する。
本開示の一実施形態に係る撮像装置を備える車両を示す図である。 撮像装置の撮像光学系および撮像素子の概略構成を示す図である。 横軸が光の波長、縦軸がRGBそれぞれの画素の感度を示すグラフである。 撮像光学系に含まれるマスクの正面図である。 撮像素子の受光面と、マスクを通過した光の照射領域との位置関係を示す図である。 図5の要部拡大図である。 撮像装置の概略構成を示すブロック図である。 撮像装置の動作を示すフローチャートである。 実施形態の変形例に係る撮像装置の動作を示すフローチャートである。
以下、本開示の実施形態について、図面を参照して説明する。
図1を参照して、本開示の一実施形態に係る撮像装置10を備えた車両11について説明する。
撮像装置10は、例えば車載カメラとして用いられる。撮像装置10は、車両11に配置される。車両11は、例えば自動車を含む。車両11は、車両11内の運転者の操作に応じて走行する。本実施形態において、撮像装置10は、例えば車両11の後方の外部領域を撮像可能となるように車両11の後方に配置される。車両11に配置される撮像装置10の数および配置は、任意に定めてもよい。
本実施形態に係る撮像装置10は、後述するように撮像光学系と撮像素子とを備える。撮像素子の受光面上には、例えばベイヤー配列などのパターンで、RGBに対応する複数の画素が配列されている。以下、撮像素子の受光面を、撮像素子の有効撮像範囲ともいう。例えば、各画素には、RGBのうち1つに対応するカラーフィルタが設けられる。以下、R、G、およびBにそれぞれ対応する画素を、画素R、画素G、および画素Bともいう。撮像光学系を通過した光は、撮像素子の受光面上に照射される。
本実施形態に係る撮像装置10は、撮像光学系を通過した光に含まれる赤外帯域の光の強度と、他の波長帯域の光の強度と、の比較に基づいて、ホワイトバランスの処理を実行する。他の波長帯域の光は、例えば赤色光、緑色光、および青色光を含んでもよい。以下、具体的に説明する。
図2を参照して、撮像装置10が備える撮像光学系12および撮像素子13の構成について、具体的に説明する。図2では、撮像光学系12および撮像素子13以外の構成要素の図示を省略している。当該構成要素は、例えば撮像装置10の筐体および撮像光学系12を保持する鏡筒などを含む。
撮像光学系12は、複数の光学部材を有する。例えば図2に示す撮像光学系12において、4つのレンズ14−17と、フィルタ18と、マスク19と、撮像素子13を保護するカバーガラス20とが、物体側から像側へ向かって並んで配置される。レンズ14−17、フィルタ18、ならびにマスク19は、それぞれ光軸を中心とする円盤形状を有している。レンズ、フィルタ、およびマスクの数および位置関係は、上述した構成に限られず、任意に定められてもよい。
4つのレンズ14−17を含む撮像光学系12は、例えば180度以上の画角を有する魚眼レンズとして構成される。例えば最も物体側に位置するレンズ14は、光軸から径方向外側に向かって色収差が大きくなる。
フィルタ18は、例えばデュアルバンドパスフィルタとして機能する。具体的には、フィルタ18は、所定の2つの波長帯域の光を透過し、他の波長帯域の光を減衰または遮蔽する。
図3を参照して、フィルタ18が透過する2つの波長帯域について説明する。例えば図3に示すような、光の波長と画素の感度との関係は、例えば実験またはシミュレーションによって予め決定可能である。図3に示すように、受光面に照射された光に対する撮像素子13の画素の感度は、画素R、画素G、および画素Bそれぞれで異なる。
例えば、可視光帯域A内の任意の波長の光に対する画素の感度は、画素R、画素G、および画素Bそれぞれで異なる。本実施形態に係るフィルタ18は、可視光帯域Aの光を透過する。
可視光帯域Aよりも波長が長い第1赤外帯域B内の任意の波長の光に対する画素の感度は、画素R、画素G、および画素Bそれぞれで異なる。例えば、図3に示すように、第1赤外帯域B内の任意の波長の光に対する画素Rの感度は、画素Gおよび画素Bの感度よりも高い。したがって、例えば第1赤外帯域B内の波長の光が撮像素子13の受光面に照射された場合、画素Gおよび画素Bよりも画素Rの信号強度が大きくなる。このため、例えば撮像画像が赤みを帯びるなど、ホワイトバランスに悪影響を与え得る。本実施形態に係るフィルタ18は、第1赤外帯域Bの光を減衰または遮蔽する。
一方、第1赤外帯域よりもさらに波長が長い第2赤外帯域C内の任意の波長に対する画素の感度は、画素R、画素G、および画素Bそれぞれで厳密には必ずしも一致しないものの、可視光帯域Aおよび第1赤外帯域Bと比較してRGB間の感度の差が小さい。このため、第2赤外帯域C内の任意の波長に対する画素R、画素G、および画素Bの感度は、略同一とみなすことができる。したがって、撮像素子13の受光面に照射された第2赤外帯域C内の波長の光の強度が大きい場合には、RGB信号強度が略均等に大きくなる。本実施形態に係るフィルタ18は、第2赤外帯域Cの光を透過する。以下、第2赤外帯域Cの光を、赤外光ともいう。
本実施形態に係るフィルタ18は、上述のように、可視光帯域Aと、第2赤外帯域Cと、の2つの波長帯域の光を透過し、他の波長帯域の光を減衰または遮蔽する。他の波長帯域は、例えば第1赤外帯域Bを含む。フィルタ18によって可視光帯域Aの光が透過される。このため、撮像装置10はカラー画像を生成可能である。フィルタ18によって第2赤外帯域Cの光が透過される。このため、例えば夜間など、第2赤外帯域Cの光の強度に対して可視光帯域Aの光の強度が小さい場合であっても、RGB信号強度が略均等に大きくなる。したがって、ホワイトバランスに対する悪影響が抑制されつつ、比較的明るいカラー画像が生成可能である。一方、フィルタ18によって第1赤外帯域Bの光が抑制または遮蔽される。このため、第1赤外帯域Bの光の強度が比較的大きい場合に、例えば画素Rの信号強度のみが大きくなるなど、ホワイトバランスに対する悪影響が抑制される。
例えば可視光帯域Aの光と比較して、第2赤外帯域Cの光の強度が一定程度以上大きい場合には、第2赤外帯域Cの光の影響によって撮像画像の彩度が低下し得る。このため、例えば撮像画像全体が白味を帯び、または撮像画像全体の色味が淡くなるなど、適切なホワイトバランスにならない可能性がある。これに対して、本実施形態に係る撮像装置10は、後述するように第2赤外帯域Cの光の強度と、他の波長帯域の光の強度と、の比較に基づいて、ホワイトバランスの処理を実行する。他の波長帯域の光は、例えば赤色光、緑色光、および青色光を含んでもよい。かかる構成によって、例えば可視光帯域Aの光と比較して第2赤外帯域Cの光の強度が一定程度以上大きい撮像条件における、ホワイトバランスに対する悪影響が抑制される。
図2に示すマスク19は、レンズ14−17を通過した光の一部を遮蔽する。本実施形態において、マスク19は、1つの第1開口部21と、1つ以上の第2開口部22と、を有する。マスク19は、レンズ14−17を通過した光のうち、第1開口部21および第2開口部22に入射する光のみをマスク19よりも像側へ通過させ、他の光を遮蔽する。以下、第1開口部21を通過した光が照射される撮像素子13の受光面上の領域を第1領域23という。第1開口部21を通過した光を、第1光ともいう。第2開口部22を通過した光が照射される撮像素子13の受光面上の領域を第2領域24という。第2開口部22を通過した光を、第2光ともいう。
第1開口部21は、例えば図4に示すように略円形の孔である。第1開口部21は、撮像光学系12を通過する光のイメージサークルを規定する。本実施形態において、例えば図5に示すように、イメージサークル25の直径が撮像素子13の受光面の長手方向の長さと略一致し、且つ、イメージサークル25の中心が撮像素子13の受光面の中心に位置するように、第1開口部21が設けられる。したがって、受光面の四隅が、イメージサークル25の外側に存在する。イメージサークル25の大きさおよび受光面に対する相対位置は、上述の構成に限られず、受光面の少なくとも一部がイメージサークル25の外側に存在すればよい。
第2開口部22は、例えば図4に示すように第1開口部21の開口面積よりも小さい孔である。第2開口部22は、例えばピンホールであってもよい。第2開口部22は、第1開口部21の中心からみて第1開口部21の放射方向外側に設けられる。例えば図5に示すように、第1開口部21を通過した第1光が照射される第1領域23と、第2開口部22を通過した第2光が照射される第2領域24と、が離れる。具体的には、第2領域24が、受光面上におけるイメージサークル25の外側に位置する。第2領域24が、例えば受光面の四隅のうち何れか1つに位置してもよい。
第2開口部22を通過する第2光について、詳細に説明する。図2に示すように、例えばレンズ14の物体側のレンズ面上の外周部に入射する光の一部が、マスク19の第2開口部22を通過する。レンズ14は、上述したように光軸から径方向外側に向かって色収差が大きくなる。このため、レンズ14の物体側のレンズ面上の外周部に入射した光の一部は、レンズ14の色収差によって分散され、第2開口部22を通過し、撮像素子13の受光面上の第2領域24に照射される。
このように、レンズ14の色収差によって分散された光が、第2開口部22を介して第2光として第2領域24に照射される。したがって、第2光は、波長帯域毎に、受光面上の異なる位置に照射される。より具体的には、第2光は、波長帯域毎に、受光面上の第2領域24内の異なる位置に照射される。例えば図6に示す第2領域24内において、青色の波長帯域の光の照射領域26と、緑色の波長帯域の光の照射領域27と、赤色の波長帯域の光の照射領域28と、第2赤外帯域Cの光の照射領域29とが、イメージサークル25の中心(または、撮像素子13の受光面の中心)から放射方向外側に向かって並んでいる。
照射領域26−29のそれぞれは、領域の中心位置が他の領域内に含まれないように、各領域の少なくとも一部が互いに重なって並んでもよく、あるいは各領域が互いに離れて並んでもよい。撮像素子13の受光面における、第2光の波長帯域毎の照射位置は、実験またはシミュレーションによって予め決定可能である。したがって、照射領域26−29それぞれの中心位置近傍に存在する画素を予め決定可能である。
撮像装置10は、第2開口部22を通過した第2光の強度に基づいて、撮像光学系12を通過した光のうち、各波長帯域の光の強度を検出する。具体的には、撮像装置10は、青色光の強度、緑色光の強度、赤色光の強度、および赤外光の強度をそれぞれ検出する。各波長帯域の光の強度を検出する処理の詳細については後述する。以下、光の強度の検出を、光の強度の算出ともいう。
図7を参照して、撮像装置10の各構成要素について説明する。撮像装置10は、撮像光学系12と、撮像素子13と、通信インターフェース30と、メモリ31と、プロセッサ32と、を備える。
撮像光学系12は、上述したように複数の光学部材を含む。本実施形態では、撮像光学系12は、4つのレンズ14−17、フィルタ18、マスク19、およびカバーガラス20を含む。撮像光学系12を通過した光は、撮像素子13に照射される。具体的には、マスク19の第1開口部21を通過した第1光および第2開口部22を通過した第2光が、撮像素子13に照射される。
撮像素子13は、例えばCCD(Charge Coupled Device)イメージセンサまたはCMOS(Complementary Metal-Oxide Semiconductor)イメージセンサなどを含む。撮像素子13には、上述したように受光面上に複数の画素が配列されている。撮像素子13は、受光面上に照射される第1光および第2光を光電変換する。撮像素子13は、第1光によって結像された被写体像を撮像してカラーの撮像画像を生成する。
通信インターフェース30は、ネットワークを介して外部装置と通信可能なインターフェースである。ネットワークは、例えば有線、無線、または車両11に搭載されたCAN(Controller Area Network)などを含んでもよい。
メモリ31は、例えば第1記憶装置および第2記憶装置などを含む。メモリ31は、撮像装置10の動作に必要な種々の情報およびプログラムを記憶する。例えば、メモリ31は、図3に示すように、上述した光の波長と画素の感度との関係を示す情報を記憶する。例えば、メモリ31は、撮像素子13の受光面における第2光の波長帯域毎の照射位置に関する情報を記憶する。具体的には、メモリ31は、図6に示す照射領域26−29それぞれの中心位置近傍に存在する画素を示す情報を記憶する。
プロセッサ32は、例えばDSP(Digital Signal Processor)などの専用プロセッサおよびCPU(Central Processing Unit)などの汎用プロセッサを含む。プロセッサ32は、撮像装置10全体の動作を制御する。
例えば、プロセッサ32は、撮像素子13の動作を制御して、受光面に照射される第1光および第2光を光電変換した電荷を読み出し、および、第1光に基づく撮像画像を生成させる。プロセッサ32は、周期的に、例えば30fps(Frames Per Second)で、電荷の読み出しおよび撮像画像の生成を撮像素子13に実行させてもよい。
プロセッサ32は、撮像素子13によって生成された撮像画像に対して、所定の画像処理を施す。所定の画像処理は、例えばホワイトバランス調整処理、露出調整処理、ガンマ補正処理、トリミング処理、被写体認識処理、および視点変換処理などを含んでもよい。
所定の画像処理は、現在のフレームの撮像画像に対して行われてもよく、次回以降のフレームの撮像画像に対して行われてもよい。例えば、ホワイトバランス調整処理において、プロセッサ32は、後述するように現在のフレームで算出したホワイトバランスの調整パラメータを用いて、現在のフレームの撮像画像のホワイトバランスを調整してもよい。また、プロセッサ32は、次回以降のフレームの撮像画像を生成させる際のホワイトバランス設定を調整してもよい。ホワイトバランス調整処理を実行する際の撮像装置10の動作の詳細については後述する。
プロセッサ32は、所定の画像処理が施された撮像画像を、外部装置へ出力してもよい。外部装置は、例えば車両11に備えられたディスプレイまたはECU(Electronic Control Unit)などを含んでもよい。
図8を参照して、ホワイトバランス調整処理を実行する撮像装置10の動作の詳細について説明する。本動作は、例えば各フレームで実行される。
ステップS100:プロセッサ32は、1以上の第2領域24において、各波長帯域の光の強度、本実施形態では青色光の強度、緑色光の強度、赤色光の強度、および赤外光の強度をそれぞれ検出する。
具体的には、プロセッサ32は、例えば図6に示す第2領域24において、撮像光学系12を通過した光のうち、青色光の強度を検出する。この青色光の強度の検出は、青色の波長帯域の光の照射領域26の中心位置の近傍に存在する画素からのRGB信号強度と、メモリ31に記憶された光の波長と画素の感度との関係を示す情報と、に基づいて行われる。プロセッサ32は、撮像光学系12を通過した光のうち、緑色光の強度、赤色光の強度、および赤外光の強度をそれぞれ検出する。この各光の強度の検出は、照射領域27、28、および29の中心位置の近傍に存在する画素からのRGB信号強度それぞれと、上述した光の波長と画素の感度との関係を示す情報と、に基づいて行われる。
複数の第2領域24が存在する場合、プロセッサ32は、波長帯域毎に、複数の第2領域24それぞれにおいて算出した光の強度の平均値を、当該波長帯域の光の強度として検出してもよい。
複数の第2領域24のうち少なくとも1つにおいて算出した光の強度が異常値であると判定された場合、プロセッサ32は、異常値と判定された光の強度を除いて、波長帯域毎に、複数の第2領域24それぞれにおいて算出した光の強度の平均値を、当該波長帯域の光の強度として検出してもよい。プロセッサ32は、例えばn個(2≦n)の第2領域24において算出したn個の青色光の強度のうち、所定個数の強度が略同一であって、残りの強度が略同一でない場合、当該残りの強度を異常値として判定してもよい。所定個数は、例えば、0.5n個以上であってもよい。異常値の判定には、上述のアルゴリズムに限られず、任意のアルゴリズムが採用可能である。
ステップS101:プロセッサ32は、ステップS100で検出した各波長帯域の光の強度に基づいて、ホワイトバランス調整処理のための調整パラメータを算出する。具体的には、プロセッサ32は、例えば赤外光の強度が、青色光、緑色光、および赤色光の少なくとも1つの強度のm倍(1<m)以上である場合に、撮像画像のホワイトバランスに対する赤外光からの影響を低減するように、ホワイトバランスの調整パラメータを算出する。撮像画像のホワイトバランスに対する赤外光からの影響を低減することは、例えば、赤外光によるRGB信号成分を減少させることを含んでもよい。調整パラメータの算出には、上述のアルゴリズムに限られず、任意のアルゴリズムが採用可能である。
ステップS102:プロセッサ32は、ステップS101で算出した調整パラメータを用いて、ホワイトバランスを調整する。具体的には、プロセッサ32は、現在のフレームの撮像画像に対してホワイトバランス調整処理を施してもよい。プロセッサ32は、次回以降のフレームの撮像画像を生成させる際のホワイトバランス設定を調整してもよい。
従来技術では、フォトダイオードおよび色透過フィルタを設ける必要ある。撮像装置の構成要素の追加は、コストの増大および実装面積の増大を招く可能性がある。
これに対して、本開示の一実施形態に係る撮像装置10は、第1開口部21および第2開口部22を有するマスク19と、受光面上にそれぞれ照射される第1開口部21を通過した第1光および第2開口部22を通過した第2光を光電変換する撮像素子13と、を備える。かかる構成によって、撮像素子13の受光面上に、第1光と第2光とが同時に照射可能となる。上述したように、第1光と同時に照射される第2光は、撮像条件の変化による影響を低減してホワイトバランスの調整を行うために有用である。したがって、撮像装置10によれば、例えばフォトダイオードなどの構成要素を追加することなく、撮像条件の変化による影響を低減してホワイトバランスを調整可能である。
撮像装置10において、例えばレンズ14の色収差によって分散された光が第2開口部22へ入射され、第2光は波長帯域毎に受光面上の異なる位置に照射される。かかる構成によって、例えば第2光が照射される受光面上の第2領域24において、第2光に含まれる第2赤外帯域Cの光(赤外光)を他の波長帯域の光と分離して検出可能である。分離された赤外光の検出は、上述したように、赤外光によるホワイトバランスに対する悪影響の低減に有用である。
本発明を諸図面や実施形態に基づき説明してきたが、当業者であれば本開示に基づき種々の変形や修正を行うことが容易であることに注意されたい。したがって、これらの変形や修正は本発明の範囲に含まれることに留意されたい。例えば、各手段、各ステップなどに含まれる機能などは論理的に矛盾しないように再配置可能であり、複数の手段やステップなどを1つに組み合わせたり、あるいは分割したりすることが可能である。
例えば、撮像装置10のプロセッサ32の機能の一部または全部を、撮像装置10と通信可能な他の装置に具備させてもよい。
上述の実施形態において、撮像素子13がRGBの画素を有する構成について説明したが、撮像素子13が有する画素の構成はこれに限られない。例えば、撮像素子13が有する画素は、補色系の構成であってもよい。
上述の実施形態において、撮像装置10のプロセッサ32が、1以上の第2領域24において、青色光の強度、緑色光の強度、赤色光の強度、および赤外光の強度をそれぞれ検出する構成について説明したが、各波長帯域の光の強度の検出方法はこれに限られない。例えば、撮像装置10のプロセッサ32が、第2領域24において、少なくとも赤外光の強度を検出可能な構成であればよい。
具体的には、マスク19の第2開口部22に、第2赤外帯域Cの光のみを通過させるバンドパスフィルタを設ける構成が考えられる。かかる構成では、第2領域24に第2赤外帯域Cの光のみが照射される。このため、例えば撮像光学系12の色収差が比較的小さいために第2領域24において各波長帯域の光が十分に分離できない場合などに用いてもよい。図9を参照して、かかる構成においてホワイトバランス調整処理を実行する撮像装置10の動作の詳細について説明する。本動作は、例えば各フレームで実行される。
ステップS200:プロセッサ32は、1以上の第2領域24において、赤外光の強度を検出する。
ステップS201:プロセッサ32は、第1領域23において、各波長帯域の光の強度を検出する。各波長帯域の光の強度は、例えば青色光の強度、緑色光の強度、および赤色光の強度を含んでもよい。具体的には、プロセッサ32は、例えば第1領域23に照射された第1光に基づいて生成された撮像画像のRGBのヒストグラムを算出する。プロセッサ32は、算出されたRGBのヒストグラムに基づいて、青色光の強度、緑色光の強度、および赤色光の強度をそれぞれ検出する。プロセッサ32が実行するアルゴリズムとして、上述したアルゴリズムに限られず、第1領域23において各波長帯域の光の強度を検出する任意のアルゴリズムが採用可能である。
ステップS202:プロセッサ32は、ステップS200で検出した赤外光の強度と、ステップS201で検出した各波長帯域の光の強度と、に基づいて、ホワイトバランス調整処理のための調整パラメータを算出する。
ステップS203:プロセッサ32は、ステップS202で算出した調整パラメータを用いて、ホワイトバランスを調整する。具体的には、プロセッサ32は、現在のフレームの撮像画像に対してホワイトバランス調整処理を施してもよい。プロセッサ32は、次回以降のフレーム(例えば、次のフレーム)の撮像画像を生成させる際のホワイトバランス設定を調整してもよい。
かかる構成の撮像装置10によっても、上述した実施形態に類似して、例えばフォトダイオードなどの構成要素を追加することなく、撮像条件の変化による影響を低減してホワイトバランスを調整可能である。
上述の実施形態に係る撮像装置10は、例えば携帯電話またはスマートフォンなどのカメラ機能を有する通信機器として実現され、車両11と有線または無線によって接続されてもよい。
10 撮像装置
11 車両
12 撮像光学系
13 撮像素子
14、15、16、17 レンズ
18 フィルタ
19 マスク
20 カバーガラス
21 第1開口部
22 第2開口部
23 第1領域
24 第2領域
25 イメージサークル
26、27、28、29 照射領域
30 通信インターフェース
31 メモリ
32 プロセッサ

Claims (7)

  1. レンズと、
    前記レンズを通過した光が入射される第1開口部および前記レンズの色収差によって分散された光が入射される第2開口部を有するマスクと、
    受光面上に照射される前記第1開口部を通過した第1光および前記第2開口部を通過して波長帯域毎に前記受光面上の異なる位置に照射される第2光を光電変換する撮像素子と、
    を備える、撮像装置。
  2. 請求項に記載の撮像装置であって、
    前記第1光が照射される前記受光面上の第1領域と、前記第2光が照射される前記受光面上の第2領域と、が離れている、撮像装置。
  3. レンズと、
    前記レンズを通過した光がそれぞれ入射される第1開口部および第2開口部を有するマスクと、
    受光面上にそれぞれ照射される前記第1開口部を通過した第1光および前記第2開口部を通過した第2光を光電変換する撮像素子と、
    前記第2開口部を通過した前記第2光の強度に基づいてホワイトバランスを調整するプロセッサと、
    を備える、撮像装置。
  4. 請求項に記載の撮像装置であって、
    前記マスクは、1以上の前記第2開口部を有し、
    1以上の前記第2光のそれぞれは、前記受光面の四隅のうち何れか1つに照射され、
    前記プロセッサは、前記1以上の第2開口部をそれぞれ通過した1以上の前記第2光の強度に基づいてホワイトバランスを調整する、撮像装置。
  5. 請求項3または4に記載の撮像装置であって、
    前記プロセッサは、前記第2光のうち、赤外帯域の光の強度と、赤外帯域以外の波長帯域の光の強度と、の比較に基づいて、ホワイトバランスを調整する、撮像装置。
  6. レンズと、
    前記レンズを通過した光が入射される第1開口部および前記レンズの色収差によって分散された光が入射される第2開口部を有するマスクと、
    受光面上に照射される前記第1開口部を通過した第1光および前記第2開口部を通過して波長帯域毎に前記受光面上の異なる位置に照射される第2光を光電変換する撮像素子と、
    を備える、車載カメラ。
  7. レンズと、前記レンズを通過した光がそれぞれ入射される第1開口部および第2開口部を有するマスクと、受光面上にそれぞれ照射される前記第1開口部を通過した第1光および前記第2開口部を通過した第2光を光電変換する撮像素子と、プロセッサと、を備える撮像装置を用いて、
    前記プロセッサが、
    前記第2光の強度を算出し、
    算出された前記強度に基づいてホワイトバランスを調整する、画像処理方法。
JP2018508998A 2016-03-29 2017-03-15 撮像装置、車載カメラ、および画像処理方法 Active JP6633738B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016065945 2016-03-29
JP2016065945 2016-03-29
PCT/JP2017/010505 WO2017169805A1 (ja) 2016-03-29 2017-03-15 撮像装置、車載カメラ、および画像処理方法

Publications (2)

Publication Number Publication Date
JPWO2017169805A1 JPWO2017169805A1 (ja) 2019-01-10
JP6633738B2 true JP6633738B2 (ja) 2020-01-22

Family

ID=59965419

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018508998A Active JP6633738B2 (ja) 2016-03-29 2017-03-15 撮像装置、車載カメラ、および画像処理方法

Country Status (4)

Country Link
US (1) US10582102B2 (ja)
EP (1) EP3439300B1 (ja)
JP (1) JP6633738B2 (ja)
WO (1) WO2017169805A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107249109B (zh) * 2017-05-03 2021-02-05 Oppo广东移动通信有限公司 影像传感器、相机模组和电子装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5986787U (ja) * 1982-11-30 1984-06-12 日本電気ホームエレクトロニクス株式会社 固体撮像装置
US6518640B2 (en) * 1999-12-02 2003-02-11 Nikon Corporation Solid-state image sensor, production method of the same, and digital camera
JP2001160973A (ja) * 1999-12-02 2001-06-12 Nikon Corp 固体撮像素子及び電子カメラ
US6665131B2 (en) * 2000-08-30 2003-12-16 Nikon Corporation Imaging optical system
JP2006173314A (ja) * 2004-12-15 2006-06-29 Matsushita Electric Ind Co Ltd 固体撮像装置およびマスク描画方法
CN100533199C (zh) * 2006-05-02 2009-08-26 佳能株式会社 焦点检测装置、光学设备和摄像系统
JP2009033410A (ja) * 2007-07-26 2009-02-12 Fujifilm Corp 撮像装置
EP2471258B1 (en) 2009-08-25 2017-05-24 Dual Aperture International Co. Ltd. Reducing noise in a color image
US20170140221A1 (en) * 2015-11-13 2017-05-18 Intel Corporation Dual function camera for infrared and visible light with electrically-controlled filters

Also Published As

Publication number Publication date
JPWO2017169805A1 (ja) 2019-01-10
US20190075226A1 (en) 2019-03-07
EP3439300B1 (en) 2020-08-05
US10582102B2 (en) 2020-03-03
WO2017169805A1 (ja) 2017-10-05
EP3439300A1 (en) 2019-02-06
EP3439300A4 (en) 2019-09-18

Similar Documents

Publication Publication Date Title
US9143704B2 (en) Image capturing device and method thereof
US10419685B2 (en) Image processing apparatus, image processing method, and computer-readable recording medium
WO2015199163A1 (ja) 撮像センサおよび撮像装置
US20120154596A1 (en) Reducing noise in a color image
JP6029954B2 (ja) 撮像装置
US10630920B2 (en) Image processing apparatus
JP6734647B2 (ja) 撮像装置
US10416026B2 (en) Image processing apparatus for correcting pixel value based on difference between spectral sensitivity characteristic of pixel of interest and reference spectral sensitivity, image processing method, and computer-readable recording medium
CN111263057B (zh) 摄像设备、摄像设备的控制方法、计算方法和存储介质
US10630924B2 (en) Image processing apparatus, image processing method, and non-transitory computer readable recording medium
JP6633738B2 (ja) 撮像装置、車載カメラ、および画像処理方法
JP2011091513A (ja) 撮像システムおよび補正方法
JP6645394B2 (ja) 画像センサ
JP6315239B2 (ja) 撮像装置、撮像方法、画像処理装置、撮像プログラム
JP2012010141A (ja) 画像処理装置
JP2012008845A (ja) 画像処理装置
JP2008153848A (ja) 画像処理装置
JP2017118283A (ja) カメラシステム
WO2015098107A1 (ja) 画像処理装置、警報装置、および画像処理方法
JP4993275B2 (ja) 画像処理装置
JP2019194034A (ja) 車載カメラ装置
JP2017220811A (ja) 撮像装置およびカメラシステム
JP2016096423A (ja) 撮像装置
JP2022114260A (ja) 画像形成装置
EP3511900A1 (en) Image processing device and light distribution control system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180907

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190507

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190701

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191203

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191212

R150 Certificate of patent or registration of utility model

Ref document number: 6633738

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150