JPWO2018150683A1 - 情報処理装置と情報処理方法とプログラムおよび撮像装置 - Google Patents

情報処理装置と情報処理方法とプログラムおよび撮像装置 Download PDF

Info

Publication number
JPWO2018150683A1
JPWO2018150683A1 JP2018568004A JP2018568004A JPWO2018150683A1 JP WO2018150683 A1 JPWO2018150683 A1 JP WO2018150683A1 JP 2018568004 A JP2018568004 A JP 2018568004A JP 2018568004 A JP2018568004 A JP 2018568004A JP WO2018150683 A1 JPWO2018150683 A1 JP WO2018150683A1
Authority
JP
Japan
Prior art keywords
polarization
pixel
unit
order
filter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018568004A
Other languages
English (en)
Other versions
JP7024737B2 (ja
Inventor
辰起 柏谷
辰起 柏谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2018150683A1 publication Critical patent/JPWO2018150683A1/ja
Application granted granted Critical
Publication of JP7024737B2 publication Critical patent/JP7024737B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

フィルタ部30は、複数偏光方向の偏光画素が所定の配列で繰り返し設けられている撮像部22で生成された偏光画像の画素信号を用いて、所定回転方向の偏光順とした画像信号のフィルタ処理を行い偏光成分を抽出する。また、撮像部22は、複数偏光方向の偏光画素が水平方向または垂直方向の少なくとも一方で所定回転方向の偏光順として設けられてよい。このため、フィルタ部30は撮像部22で生成された偏光画像から偏光周期に応じて変化する偏光成分を精度よく取得できるようになる。

Description

この技術は、情報処理装置と情報処理方法とプログラムおよび撮像装置に関し、偏光画像から偏光情報を精度よく取得できるようにする。
従来、偏光情報を取得可能な撮像装置を用いて物体の形状や状態の識別等が行われている。また、偏光情報を用いた処理を精度よく行うことができるように、偏光情報からノイズを除去することが行われている。例えば特許文献1では、垂直偏光画像と水平偏光画像の偏光比強度の算出を行い、偏光比強度が算出される毎に偏光比強度の時系列データにおける所定期間の平均に対応する移動平均強度の演算によってノイズ除去が行われている。また、車両の走行速度応じて所定期間を調整して、ノイズ除去後の移動平均強度に基づき路面状態の判別が行われている。特許文献2では、特定した路面状態に対応するノイズ除去用パラメータを用いて、撮像装置で取得された偏光情報(偏光画像)のノイズ除去が行われている。
特開2004−299443号公報 特開2011−154695号公報
ところで、所定期間の平均に対応する移動平均強度の演算によってノイズ除去を行う場合には時系列データが必要となり、例えば取得されている偏光情報が一時点のみの情報である場合はノイズを除去することができない。また、路面状態に対応するノイズ除去用パラメータを用いてノイズ除去を行う場合、路面状態が正しく特定されないとノイズを除去できない。
そこで、この技術では偏光画像から偏光情報を精度よく取得できる情報処理装置と情報処理方法とプログラムおよび撮像装置を提供することを目的とする。
この技術の第1の側面は、
複数偏光方向の偏光画素が所定の配列で設けられている撮像装置で生成された偏光画像の画素信号を用いて、所定回転方向の偏光順とした前記画素信号のフィルタ処理により偏光成分を抽出するフィルタ処理部を備える情報処理装置にある。
この技術においては、複数偏光方向の偏光画素が所定の配列で設けられている撮像装置で生成された偏光画像の画素信号を、再配列部で例えば水平方向または垂直方向が所定回転方向の偏光順となる配列に並び替える。フィルタ処理部は並び替えられた画素信号から偏光周期の信号成分を偏光成分として抽出するフィルタ処理を行う。配列復元部はフィルタ処理された画素信号すなわち偏光成分を示す画素信号を、再配列部で並び替えが行われる前の配列に復元する。
また、再配列部は、撮像装置で生成された偏光画像の画素信号を、水平方向または垂直方向の一方の方向が所定回転方向の偏光順となる配列への並び替えと、フィルタ処理部でフィルタ処理された画素信号を、他方の方向が所定回転方向の偏光順となる配列への並び替えを行う。フィルタ処理部は、再配列部で前記一方の方向の並び替えが行われた画素信号を用いたフィルタ処理と他方の方向の並び替えが行われた画素信号を用いたフィルタ処理を行う。
また、撮像装置において、複数偏光方向の偏光画素を含む画素ブロックを繰り返し設けることで、複数偏光方向の偏光画素が所定の配列とされている場合、再配列部は、画素ブロック内の画素信号を水平方向または垂直方向が所定回転方向の偏光順となる配列に並び替える。また、撮像装置が複数偏光方向の偏光画素と無偏光画素を有している場合、再配列部は、無偏光画素の画素信号を除いて偏光画素の画素信号を水平方向または垂直方向が所定回転方向の偏光順となる配列に並び替える。
さらに、撮像装置において、偏光方向が4方向であって偏光方向の角度差が等しい偏光画素を所定の配列として設けている場合、再配列部は、撮像装置で生成された偏光画像の画素信号を、水平方向または垂直方向が所定回転方向の偏光順となる配列へ並び替えたのち画素毎に交互に振り分けて2つの画素信号群を生成して、フィルタ処理部は、再配列部で生成された画素信号群毎にフィルタ処理を行う。
この技術の第2の側面は、
複数偏光方向の偏光画素が所定の配列で設けられている撮像装置で生成された偏光画像の画素信号を用いて、所定回転方向の偏光順とした前記画素信号のフィルタ処理をフィルタ処理部で行い偏光成分を抽出すること
を含む情報処理方法にある。
この技術の第3の側面は、
複数偏光方向の偏光画素が所定の配列で設けられている撮像装置で生成された偏光画像の画素信号の信号処理をコンピュータで実行させるプログラムであって、
所定回転方向の偏光順とした前記画素信号のフィルタ処理により偏光成分を抽出する手順を
前記コンピュータで実行させるプログラムにある。
なお、本技術のプログラムは、例えば、様々なプログラム・コードを実行可能な汎用コンピュータに対して、コンピュータ可読な形式で提供する記憶媒体、通信媒体、例えば、光ディスクや磁気ディスク、半導体メモリなどの記憶媒体、あるいは、ネットワークなどの通信媒体によって提供可能なプログラムである。このようなプログラムをコンピュータ可読な形式で提供することにより、コンピュータ上でプログラムに応じた処理が実現される。
この技術の第4の側面は、
複数偏光方向の偏光画素を、水平方向または垂直方向の少なくとも一方で所定回転方向の偏光順として設けた撮像装置にある。
この技術においては、複数偏光方向の偏光画素が、水平方向または垂直方向の少なくとも一方で所定回転方向の偏光順として設けられて、例えば偏光順とした偏光画素間の偏光角度差が等しく設定されている。また、撮像装置では、水平方向または垂直方向に所定回転方向の偏光順に並ぶ偏光画素群に対して隣接する偏光画素群は、所定回転方向に対して逆回転方向の偏光順に設けられてもよい。
この技術によれば、複数偏光方向の偏光画素が所定の配列で繰り返し設けられている撮像装置で生成された偏光画像の画素信号を用いて、所定回転方向の偏光順とした画像信号のフィルタ処理が行われて偏光成分が抽出される。このため、偏光周期に応じて変化する偏光成分を示す偏光情報を偏光画像から精度よく取得できる。なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、また付加的な効果があってもよい。
偏光情報を取得する場合の動作を説明するための図である。 輝度と偏光角の関係を例示した図である。 情報処理装置と撮像装置を用いた偏光情報取得システムの構成を例示した図である。 撮像部の構成を例示した図である。 第1の実施の形態における撮像部の画素配列を例示した図である。 第1の実施の形態におけるフィルタ部の機能構成を例示した図である。 水平方向再配列動作を説明するための図である。 水平方向再配列後の画素信号を例示した図である。 ノイズが重畳した場合の画素信号を例示した図である。 フィルタ処理後の画素信号を例示した図である。 垂直方向再配列動作を説明するための図である。 第1の実施の形態におけるフィルタ部の動作を例示したフローチャートである。 第2の実施の形態における撮像部の画素配列(偏光方向が3方向である場合)を例示した図である。 第2の実施の形態における撮像部の他の画素配列(偏光方向が2方向である場合)を例示している。 第3の実施の形態における撮像部の画素配列を例示した図である。 第3の実施の形態におけるフィルタ部の動作を例示したフローチャートである。 第3の実施の形態における撮像部の他の画素配列を例示した図である。 第4の実施の形態における撮像部の画素配列を例示した図である。 フィルタ係数を例示した図である。 第5の実施の形態における再配列部の動作(その1)を説明するための図である。 第5の実施の形態における再配列部の動作(その2)を説明するための図である。 WY画素信号群およびXZ画素信号群のバンドパスフィルタ処理に用いるフィルタ係数を例示した図である。 第5の実施の形態におけるフィルタ部の動作を例示したフローチャートである。 水平方向再配列動作の他の例を説明するための図である。 垂直方向再配列動作の他の例を説明するための図である。 車両制御システムの概略的な構成の一例を示すブロック図である。 車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
以下、本技術を実施するための形態について説明する。なお、説明は以下の順序で行う。
1.偏光情報について
2.偏光情報取得システムの構成
3.第1の実施の形態
4.第2の実施の形態
5.第3の実施の形態
6.第4の実施の形態
7.第5の実施の形態
8.他の実施の形態
9.応用例
<1.偏光情報について>
図1は偏光情報を取得する場合の動作を説明するための図である。図1に示すように、光源(無偏光光源)LTを用いて被写体OBの照明を行い、偏光板PLを介して被写体OBを撮像部CMで撮像する。この場合、撮像部CMで生成される偏光画像は、偏光板PLの回転に応じて被写体OBの輝度が変化することが知られている。ここで、偏光板PLを回転させたときの最も高い輝度をImax,最も低い輝度をIminとする。また、2次元座標におけるx軸とy軸を偏光板PLの平面方向としたとき、偏光板PLを回転させたときのx軸に対するxy平面上の角度を偏光角υとする。偏光板PLは、180度回転させると元の偏光状態に戻り180度の周期を有している。ここで、最大輝度Imaxが観測されたときの偏光角υを方位角φとすると、偏光板PLを回転させたときに観測される輝度Iは式(1)のように表すことができる。また、輝度と偏光角の関係は例えば図2に示すようになり、鏡面反射成分は偏光周期に応じたコサイン則の変化を生じる。
Figure 2018150683
したがって、本技術の情報処理装置では、鏡面反射成分はコサイン則の変化が式(1)に示す特性となることを利用してフィルタ処理を行い、偏光画像にノイズや画素欠陥が生じても、精度よく鏡面反射成分を示す偏光情報を取得する。
<2.偏光情報取得システムの構成>
図3は、本技術の情報処理装置と撮像装置を用いた偏光情報取得システムの構成を例示している。偏光情報取得システム10は、偏光カメラ20と情報処理装置30が別個に構成されていてもよく、一体に構成されてもよい。また、偏光カメラ20と情報処理装置30は、伝送路に限らず記録媒体等を介して情報処理装置30に偏光カメラ20で生成された偏光画像を供給するように構成されてもよい。
偏光カメラ20は、撮像光学系21と本技術の撮像装置に相当する撮像部22を有している。撮像光学系21は、被写体光を撮像部22の撮像面に入射する。撮像部22は、複数偏光方向(偏光角)の偏光画素が所定の配列として設けられており偏光画像を生成する。図4は、撮像部の構成を例示している。図4の(a)に示すように、撮像部22では、イメージセンサIMSの入射面に偏光フィルタPLFが配置されて、イメージセンサIMSの画素は、複数偏光方向の偏光画素を所定の配列に設けた構成とされている。また、図4の(b)に示すように、イメージセンサIMSの入射面に偏光フィルタPLFとカラーモザイクフィルタCFLを配置して、イメージセンサIMSの画素が色成分毎の偏光画素となるように構成されてもよい。偏光カメラ20は、撮像部22で生成した偏光画像の画素信号を情報記録再生装置25や情報処理装置30へ出力する。
情報記録再生装置25は、記録媒体を用いて構成されており、偏光カメラ20で生成された偏光画像を記録媒体に記録する。また、情報記録再生装置25は、記録媒体に記録されている偏光画像を読み出して情報処理装置30へ出力する。なお、記録媒体は、情報記録再生装置25に固定して設けられてもよく、着脱可能に設けられてもよい。
情報処理装置30は、フィルタ部32、メモリ部33、フィルタ係数記憶部34を有している。また、情報処理装置30は、受信バッファ31や送信バッファ35を有する構成であってもよい。
情報処理装置30の受信バッファ31は、偏光カメラ20または情報記録再生装置25から出力された偏光画像を一時記憶する。受信バッファ31は、偏光画像を一時記憶することで、偏光カメラ20や情報記録再生装置25からの偏光画像の取得に比べて情報処理装置30における処理に時間を要する場合や偏光画像の画素順とは異なる順序で偏光画像の画素信号を用いて処理を行う場合でも、偏光画像のフィルタ処理を行えるようにする。
フィルタ部32は、受信バッファ31に記憶されている偏光画像の画素信号を用いて、所定回転方向の偏光順とした画素信号のフィルタ処理を行い偏光成分を抽出する。すなわち、フィルタ部32は、所定回転方向の偏光順とした画素信号とフィルタ係数記憶部34に記憶されているフィルタ係数を用いて、偏光周期に応じて変化する信号成分すなわち偏光周期に応じたコサイン則の変化を生じる信号成分を抽出するフィルタ演算を行う。フィルタ部32は、このようなフィルタ処理を行うことで、偏光画像にノイズや画素欠陥等が生じても精度よく偏光成分を抽出する。フィルタ部32は、フィルタ処理を行うことにより抽出した偏光成分を示す偏光情報を送信バッファ35へ出力する。なお、フィルタ部32は、メモリ部33を利用してフィルタ演算処理や画素信号の並び替えを行う。
情報処理装置30の送信バッファ35は、フィルタ部32から出力された偏光情報を一時記憶する。送信バッファ35は、フィルタ処理後の偏光情報を一時記憶することで、情報処理装置30におけるフィルタ処理に比べて偏光情報利用部50や情報記録再生装置60での処理に時間を要する場合やフィルタ処理後の画素毎の偏光情報が所定の配列と異なる場合であっても、偏光情報を所定の配列の順で利用または記録できるようにする。
<3.第1の実施の形態>
次に第1の実施の形態について説明する。図5は第1の実施の形態における撮像部の画素配列を例示している。撮像部22-1は、複数偏光方向の偏光画素を含む画素ブロックを繰り返し設けることで、複数偏光方向の偏光画素が所定の配列とされている。例えば偏光画素は、4つの異なる偏光方向とされており、2×2画素の画素ブロック内は偏光方向が互いに異なる偏光画素とされて、画素ブロックが繰り返し設けられている。また、例えば4つの偏光方向は角度差が等しい角度(45度)とされており、偏光画素Wの偏光方向は0度,偏光画素Xの偏光方向は45度,偏光画素Yの偏光方向は90度,偏光画素Zの偏光方向は135度である。なお、説明を簡単するため、本明細書の実施の形態では、撮像部における画素領域の一部である6×6画素の画素領域を図示して説明を行う。
第1の実施の形態における情報処理装置30のフィルタ部32-1は、撮像部22-1で生成された偏光画像の画素信号に対して、画素ブロック内の偏光画素の画素信号を所定回転方向の偏光順としてフィルタ処理を行い、鏡面反射成分を示す偏光情報を生成する。
図6は、第1の実施の形態におけるフィルタ部の機能構成を例示している。フィルタ部32-1は、再配列部321とフィルタ処理部322と配列復元部323を有している。
再配列部321は、画素ブロック内の画素信号を水平方向または垂直方向が所定回転方向の偏光順となる配列に並び替える。
フィルタ処理部322は、再配列部321で所定回転方向の偏光順とされた画素信号とフィルタ係数記憶部34に記憶されているフィルタ係数を用いてバンドパスフィルタ処理を行い、偏光周期に応じて変化する信号成分を抽出する。
配列復元部323は、フィルタ処理部322でフィルタ処理された画素信号を、再配列部321で並び替えが行われる前の配列に戻す配列復元処理を行う。なお、配列復元部323の機能は、送信バッファ35に設けて、並び替えが行われる前の配列の順にフィルタ処理後の画素信号を出力してもよい。
次に、フィルタ部32-1の動作について説明する。図7は、水平方向の再配列動作を説明するための図である。再配列部321は、図7の(a)に示す2×2画素の画素ブロックの画素信号を水平方向に再配列する。再配列部321は、水平方向の再配列において、図7の(b)に示すように、所定回転方向の偏光順(例えば偏光角が増加する回転方向の偏光順)である1×4画素の画素ブロックの画素信号に再配列する。具体的には、偏光画素W1,X1,Y1,Z1からなる2×2画素の画素ブロックの画素信号を偏光画素W1,X1,Y1,Z1の順序とされた1×4画素の画素ブロックの画素信号に再配列する。また、偏光画素W2,X2,Y2,Z2からなる2×2画素の画素ブロックの画素信号を、偏光画素W2,X2,Y2,Z2の順序とされた1×4画素の画素ブロックの画素信号に再配列する。以下同様に、2×2画素の画素ブロックの画素信号を所定回転方向の偏光順である1×4画素の画素ブロックの画素信号に再配列する。
フィルタ処理部322は、再配列部321で水平方向の再配列が行われた画素信号のバンドパスフィルタ処理を行い、偏光周期に応じて変化する信号成分を抽出する。具体的には、フィルタ処理部322は、再配列部321で水平方向の再配列が行われた画素信号とフィルタ係数記憶部34に記憶されているフィルタ係数を用いてフィルタ演算を行い、コサイン則の変化を生じている信号成分を抽出する。
図8は、水平方向の再配列後の画素信号を例示している。撮像部22-1で生成された画素信号を、所定回転方向の偏光順である1×4画素の画素ブロックの画素信号に再配列すると、水平方向の再配列後の画素信号は、図1および図2を用いて説明した場合のように式(1)で近似可能な特性を有する。
図9は、ノイズが重畳した場合の画素信号を例示している。なお、図9では偏光画素W3の画素信号にノイズが重畳した場合を示している。水平方向の再配列後の画素信号において、ノイズが重畳した画素信号は、式(1)で近似可能な特性から信号レベルが外れた状態となる。したがって、フィルタ処理部322は、バンドパスフィルタ処理を行い、コサイン則の変化を生じている信号成分を抽出する。
図10は、フィルタ処理後の画素信号を例示している。フィルタ処理部322は、バンドパスフィルタ処理によって、水平方向の再配列後の画素信号からコサイン則の変化を生じている信号成分を抽出する。
なお、図9ではノイズが重畳した場合を例示したが、画素欠陥等によって偏光成分に応じた画素信号が生成されていない場合も同様なバンドパスフィルタ処理を行うことで、図10に示すようなコサイン則の変化を生じている信号成分を抽出できる。
次に、再配列部321は、フィルタ処理後の画素信号を垂直方向に再配列する。図11は、垂直方向の再配列動作を説明するための図である。再配列部321は、水平方向のフィルタ処理が行われている図11の(a)に示す2×2画素の画素ブロックの画素信号を垂直方向に再配列する。再配列部321は、垂直方向の再配列において、図11の(b)に示すように、所定回転方向の偏光順(例えば偏光角が増加する回転方向の偏光順)である4×1画素の画素ブロックの画素信号に再配列する。具体的には、偏光画素W1,X1,Y1,Z1からなる2×2画素の画素ブロックの画素信号を、偏光画素W1,X1,Y1,Z1の順序とされた4×1画素の画素ブロックの画素信号に再配列する。また、偏光画素W2,X2,Y2,Z2からなる2×2画素の画素ブロックを、偏光画素W2,X2,Y2,Z2の順序とされた4×1画素の画素ブロックの画素信号に再配列する。以下同様に、2×2画素の画素ブロックの画素信号を所定回転方向の偏光順である4×1画素の画素ブロックの画素信号に再配列する。なお、図11では、フィルタ処理後の画素信号に対して配列復元処理が行われた2×2画素の画素ブロックの画素信号を4×1画素の画素ブロックの画素信号に再配列した場合を例示しているが、フィルタ部32-1は、フィルタ処理後の図7の(b)に示す画素信号を図11の(b)の画素信号に再配列してもよい。
フィルタ処理部322は、再配列部321で垂直方向の再配列が行われたフィルタ処理後の画素信号とフィルタ係数記憶部34に記憶されているフィルタ係数を用いて上述のバンドパスフィルタ処理を行い、コサイン則の変化を生じている信号成分を抽出する。
配列復元部323は、フィルタ処理部322から出力される画素信号を撮像部22-1で生成された画素信号と等しい配列となるように配列の復元処理を行う。
フィルタ部32-1は、撮像部22-1で生成された撮像画像に対して、上述のように水平方向および垂直方向の偏光順とした画素信号に対してバンドパスフィルタ処理を行い、撮像画像に含まれたノイズ等の影響を受けることなく鏡面反射成分を抽出する。
図12は、第1の実施の形態におけるフィルタ部の動作を例示したフローチャートである。ステップST1でフィルタ部は水平方向再配列処理を行う。フィルタ部32-1の再配列部321は、撮像部22-1で生成された画素信号を、水平方向が所定回転方向の偏光順である画素信号に並び替えてステップST2に進む。
ステップST2でフィルタ部は水平方向フィルタ処理を行う。フィルタ部32-1のフィルタ処理部322は、ステップST1で並び替えられた画素信号を水平方向の順に用いてバンドパスフィルタ処理を行い、偏光成分を抽出してステップST3に進む。
ステップST3でフィルタ部は垂直方向再配列処理を行う。フィルタ部32-1の再配列部321は、ステップST2でフィルタ処理された画素信号を、垂直方向が所定回転方向の偏光順である画素信号に並び替えてステップST4に進む。
ステップST4でフィルタ部は垂直方向フィルタ処理を行う。フィルタ部32-1のフィルタ処理部322は、ステップST3で並び替えられた画素信号を垂直方向の順に用いてバンドパスフィルタ処理を行い、偏光成分を抽出してステップST5に進む。
ステップST5でフィルタ部は配列復元処理を行う。フィルタ部32-1の配列復元部323は、ステップST4でフィルタ処理された画素信号を、撮像部22-1で生成された画素信号と等しい配列に復元する。
このような第1の実施の形態によれば、複数偏光方向の偏光画素を所定の配列で繰り返し設けた撮像装置で生成された偏光画像の画素信号を用いて、所定回転方向の偏光順とした画素信号から偏光周期に応じて変化する信号成分を抽出するフィルタ処理が水平方向と垂直方向に対して行われる。したがって、偏光画像に含まれたノイズ等の影響を受けることなく、鏡面反射成分を示す偏光情報を精度よく取得できるようになる。
<4.第2の実施の形態>
次に、第2の実施の形態について説明する。第2の実施の形態では、偏光方向が4方向よりも少なく2方向以上である場合について説明する。図13は第2の実施の形態における撮像部の画素配列(偏光方向が3方向である場合)を例示している。撮像部22-2aは、図13の(a)に示すように、2×2画素の画素ブロックの3画素が異なる偏光方向の偏光画素で、残りの1画素が無偏光画素(偏光フィルタが設けられていない画素)とされており、画素ブロックが繰り返し設けられている。また、例えば3つの偏光方向は角度差が等しい角度(60度)とされており、偏光画素Xの偏光方向は0度,偏光画素Yの偏光方向は60度,偏光画素Zの偏光方向は120度である。
第2の実施の形態における情報処理装置30のフィルタ部32-2は、第1の実施の形態のフィルタ部32-1と同様に構成されている。フィルタ部32-2は、撮像部22-2aで生成された偏光画像の画素信号に対して、画素ブロック内の偏光画素の画素信号を所定回転方向の偏光順としてフィルタ処理を行い、鏡面反射成分を示す偏光情報を生成する。
フィルタ部32-2の再配列部321は、図13の(a)に示す2×2画素の画素ブロックの偏光画素の画素信号を水平方向に再配列する。水平方向の再配列では、図13の(b)に示すように、所定回転方向の偏光順(例えば偏光角が増加する回転方向の偏光順)である1×3画素の画素ブロックの画素信号に再配列する。具体的には、2×2画素の画素ブロックにおける偏光画素X1,Y1,Z1の画素信号を偏光画素X1,Y1,Z1の順序とされた1×3画素の画素ブロックの画素信号に再配列する。また、右側に隣接する2×2画素の画素ブロックにおける偏光画素X2,Y2,Z2の画素信号を、偏光画素X2,Y2,Z2の順序とされた1×3画素の画素ブロックの画素信号に再配列する。以下同様に、2×2画素の画素ブロックにおける偏光画素の画素信号を所定回転方向の偏光順である1×3画素の画素ブロックの画素信号に再配列する。
フィルタ処理部322は、再配列部321で水平方向の再配列が行われた画素信号のバンドパスフィルタ処理を行い、偏光周期に応じて変化する信号成分を抽出する。具体的には、フィルタ処理部322は、再配列部321で水平方向の再配列が行われた画素信号とフィルタ係数記憶部34に記憶されているフィルタ係数を用いてフィルタ演算を行い、コサイン則の変化を生じている信号成分を抽出する。
また、再配列部321は、フィルタ処理後の画素信号を垂直方向に再配列する。再配列部321は、水平方向のフィルタ処理が行われている画素信号を垂直方向に再配列する。垂直方向の再配列では、図13の(c)に示すように、所定回転方向の偏光順(例えば偏光角が増加する回転方向の偏光順)である3×1画素の画素ブロックの画素信号に再配列する。具体的には、2×2画素の画素ブロック内における偏光画素X1,Y1,Z1の画素信号を偏光画素X1,Y1,Z1の順序とされた3×1画素の画素ブロックの画素信号に再配列する。また、2×2画素の画素ブロック内における偏光画素X2,Y2,Z2の画素信号を、偏光画素X2,Y2,Z2の順序とされた3×1画素の画素ブロックの画素信号に再配列する。以下同様に、2×2画素の画素ブロックの偏光画素の画素信号を所定回転方向の偏光順である3×1画素の画素ブロックの画素信号に再配列する。なお、図13では、フィルタ処理後の画素信号に対して配列復元処理が行われた2×2画素の画素ブロックの画素信号を3×1画素の画素ブロックの画素信号に再配列した場合を例示しているが、フィルタ部32-2は、フィルタ処理後の図13の(b)に示す画素信号を図13の(c)の画素信号に再配列してもよい。
フィルタ処理部322は、再配列部321で垂直方向の再配列が行われたフィルタ処理後の画素信号とフィルタ係数記憶部34に記憶されているフィルタ係数を用いて上述のバンドパスフィルタ処理を行い、コサイン則の変化を生じている信号成分を抽出する。
配列復元部323は、フィルタ処理部322から出力される画素信号を撮像部22-2aで生成された画素信号と等しい配列となるように配列の復元処理を行う。
フィルタ部32-2は、撮像部22-2aで生成された撮像画像に対して、上述のように水平方向および垂直方向の偏光順とした画素信号に対してバンドパスフィルタ処理を行い、撮像画像に含まれたノイズ等の影響を受けることなく鏡面反射成分を抽出する。
図14は第2の実施の形態における撮像部の他の画素配列(偏光方向が2方向である場合)を例示している。撮像部22-2bは、図14の(a)に示すように、2×2画素の画素ブロックの2画素が異なる偏光方向の偏光画素で、残りの2画素が無偏光画素(偏光フィルタが設けられていない画素)とされており、画素ブロックが繰り返し設けられている。また、例えば2つの偏光方向は角度差が等しい角度(90度)とされており、偏光画素Xの偏光方向は0度,偏光画素Yの偏光方向は90度である。
情報処理装置30のフィルタ部32-2は、撮像部22-2bで生成された偏光画像の画素信号に対して、画素ブロック内の偏光画素の画素信号を所定回転方向の偏光順としてフィルタ処理を行い、鏡面反射成分を示す偏光情報を生成する。
フィルタ部32-2の再配列部321は、図14の(a)に示す2×2画素の画素ブロックの偏光画素の画素信号を水平方向に再配列する。水平方向の再配列では、図14の(b)に示すように、所定回転方向の偏光順(例えば偏光角が増加する回転方向の偏光順)である1×2画素の画素ブロックの画素信号に再配列する。具体的には、2×2画素の画素ブロックにおける偏光画素X1,Y1の画素信号を偏光画素X1,Y1の順序とされた1×2画素の画素ブロックの画素信号に再配列する。また、右側に隣接する2×2画素の画素ブロックにおける偏光画素X2,Y2の画素信号を、偏光画素X2,Y2の順序とされた1×2画素の画素ブロックの画素信号に再配列する。以下同様に、2×2画素の画素ブロックにおける偏光画素の画素信号を所定回転方向の偏光順である1×2画素の画素ブロックの画素信号に再配列する。
フィルタ処理部322は、再配列部321で水平方向の再配列が行われた画素信号のバンドパスフィルタ処理を行い、偏光周期に応じて変化する信号成分を抽出する。具体的には、フィルタ処理部322は、再配列部321で水平方向の再配列が行われた画素信号とフィルタ係数記憶部34に記憶されているフィルタ係数を用いてフィルタ演算を行い、コサイン則の変化を生じている信号成分を抽出する。
また、再配列部321は、フィルタ処理後の画素信号を垂直方向に再配列する。再配列部321は、水平方向のフィルタ処理が行われている画素信号を垂直方向に再配列する。垂直方向の再配列では、図14の(c)に示すように、所定回転方向の偏光順(例えば偏光角が増加する回転方向の偏光順)である2×1画素の画素ブロックの画素信号に再配列する。具体的には、2×2画素の画素ブロック内における偏光画素X1,Y1の画素信号を偏光画素X1,Y1の順序とされた2×1画素の画素ブロックの画素信号に再配列する。また、2×2画素の画素ブロック内における偏光画素X2,Y2の画素信号を、偏光画素X2,Y2の順序とされた2×1画素の画素ブロックの画素信号に再配列する。以下同様に、2×2画素の画素ブロックの偏光画素の画素信号を所定回転方向の偏光順である2×1画素の画素ブロックの画素信号に再配列する。なお、図14では、フィルタ処理後の画素信号に対して配列復元処理が行われた2×2画素の画素ブロックの画素信号を2×1画素の画素ブロックの画素信号に再配列した場合を例示しているが、フィルタ部32-2は、フィルタ処理後の図14の(b)に示す画素信号を図14の(c)の画素信号に再配列してもよい。
フィルタ処理部322は、再配列部321で垂直方向の再配列が行われたフィルタ処理後の画素信号とフィルタ係数記憶部34に記憶されているフィルタ係数を用いて上述のバンドパスフィルタ処理を行い、コサイン則の変化を生じている信号成分を抽出する。
配列復元部323は、フィルタ処理部322から出力される画素信号を撮像部22-2aで生成された画素信号と等しい配列となるように配列の復元処理を行う。
フィルタ部32-2は、撮像部22-2bで生成された撮像画像に対して、上述のように水平方向および垂直方向の偏光順とした画素信号に対してバンドパスフィルタ処理を行い、撮像画像に含まれたノイズ等の影響を受けることなく鏡面反射成分を抽出する。
このような第2の実施の形態によれば、第1の実施の形態と同様に、複数偏光方向の偏光画素を所定の配列で繰り返し設けた撮像装置で生成された偏光画像の画素信号を用いて、所定回転方向の偏光順とした画素信号から偏光周期に応じて変化する信号成分を抽出するフィルタ処理が水平方向と垂直方向に対して行われる。したがって、偏光画像に含まれたノイズ等の影響を受けることなく、鏡面反射成分を示す偏光情報を精度よく取得できるようになる。また、撮像部における2×2画素の画素ブロック内の偏光画素が4方向である場合に限らず、3方向や2方向である場合にも、偏光画像に含まれたノイズ等の影響を受けることなく鏡面反射成分を示す偏光情報を取得できるようになる。さらに、2×2画素の画素ブロック内に無偏光画素が設けられていることから、偏光画像と無偏光画像を同時に生成する場合でも、鏡面反射成分を示す偏光情報を精度よく生成できる。
<5.第3の実施の形態>
次に、第3の実施の形態について説明する。第1および第2の実施の形態では、水平方向および垂直方向の再配列を行う場合について説明したが、第3の実施の形態では、再配列を行う必要がない構成について説明する。
図15は第3の実施の形態における撮像部の画素配列を例示している。撮像部22-3aは、各画素が4つの異なる偏光方向のいずれかの偏光方向の偏光画素であり、偏光画素の配列が水平方向および垂直方向で所定回転方向の偏光順に配置されている。例えば、4つの偏光方向は角度差が等しい角度(45度)とされており、偏光画素Wの偏光方向は0度,偏光画素Xの偏光方向は45度,偏光画素Yの偏光方向は90度,偏光画素Zの偏光方向は135度である。また、偏光画素は例えば水平方向および垂直方向に偏光画素W,X,Y,Zの順に配置されている。
第3の実施の形態における情報処理装置30のフィルタ部32-3は、撮像部22-3aの偏光画素が所定の偏光回転方向の順に配置されていることから、画素信号の再配列を行うことなくフィルタ処理を行う。このため、フィルタ部32-3では、第1の実施の形態のフィルタ部32-1の再配列部321と配列復元部323を設ける必要がない。
フィルタ部32-3のフィルタ処理部322は、撮像部22-3aで生成された偏光画像の水平方向順の画素信号とフィルタ係数記憶部34に記憶されているフィルタ係数を用いてバンドパスフィルタ処理を行い、偏光周期に応じて変化する信号成分を抽出する。具体的には、フィルタ処理部322は、偏光画像の水平方向順の画素信号とフィルタ係数記憶部34に記憶されているフィルタ係数を用いてフィルタ演算を行い、コサイン則の変化を生じている信号成分を抽出する。さらに、フィルタ処理部322は、水平方向のフィルタ処理後の画素信号を垂直方向の順に用いて、画素信号とフィルタ係数記憶部34に記憶されているフィルタ係数を用いてバンドパスフィルタ処理を行い、偏光周期に応じて変化する信号成分を抽出する。
フィルタ部32-3は、撮像部22-3aで生成された撮像画像の画素信号を上述のように水平方向および垂直方向の順に用いてバンドパスフィルタ処理を行い、撮像画像に含まれたノイズ等の影響を受けることなく鏡面反射成分を抽出する。
図16は、第3の実施の形態におけるフィルタ部の動作を例示したフローチャートである。ステップST11でフィルタ部は水平方向フィルタ処理を行う。フィルタ部32-3は、撮像部22-3aで生成された画素信号を水平方向順に用いてバンドパスフィルタ処理を行い、偏光成分の画素信号を抽出してステップST12に進む。
ステップST12でフィルタ部は垂直方向フィルタ処理を行う。フィルタ部32-3は、ステップST2でフィルタ処理された画素信号を、垂直方向順に用いてバンドパスフィルタ処理を行いノイズが除去された偏光成分画素信号を生成する。
また、撮像部における偏光方向は4方向に限らず3方向や2方向であってもよい。図17は第3の実施の形態における撮像部の他の画素配列を例示している。図17の(a)に示す撮像部22-3bは、各画素が3つの異なる偏光方向のいずれかの偏光方向の偏光画素であり、偏光画素の配列が水平方向および垂直方向で所定回転方向の偏光順に配置されている。例えば、3つの偏光方向は角度差が等しい角度(60度)とされており、偏光画素Xの偏光方向は0度,偏光画素Yの偏光方向は60度,偏光画素Zの偏光方向は120度である。また、偏光画素は例えば水平方向および垂直方向に偏光画素X,Y,Zの順に配置されている。また、図17の(b)に示す撮像部22-3cは、各画素が2つの異なる偏光方向のいずれかの偏光方向の偏光画素であり、偏光画素の配列が水平方向および垂直方向で所定回転方向の偏光順に配置されている。例えば、2つの偏光方向は角度差が等しい角度(90度)とされており、偏光画素Xの偏光方向は0度,偏光画素Yの偏光方向は90度である。また、偏光画素は例えば水平方向および垂直方向に偏光画素X,Yの順に配置されている。
フィルタ部32-3のフィルタ処理部322は、撮像部22-3b(22-3c)で生成された偏光画像の水平方向順の画素信号とフィルタ係数記憶部34に記憶されているフィルタ係数を用いてバンドパスフィルタ処理を行い、偏光周期に応じて変化する信号成分を抽出する。具体的には、フィルタ処理部322は、偏光画像の水平方向順の画素信号とフィルタ係数記憶部34に記憶されているフィルタ係数を用いてフィルタ演算を行い、コサイン則の変化を生じている信号成分を抽出する。さらに、フィルタ処理部322は、水平方向のフィルタ処理後の画素信号を垂直方向の順に用いて、画素信号とフィルタ係数記憶部34に記憶されているフィルタ係数を用いてバンドパスフィルタ処理を行い、偏光周期に応じて変化する信号成分を抽出する。
フィルタ部32-3は、撮像部22-3b(22-3c)で生成された撮像画像の画素信号を上述のように水平方向および垂直方向の順に用いてバンドパスフィルタ処理を行い、撮像画像に含まれたノイズ等の影響を受けることなく鏡面反射成分を抽出する。
このような第3の実施の形態によれば、第1の実施の形態と同様に、複数偏光方向の偏光画素を所定の配列で繰り返し設けた撮像装置で生成された偏光画像の画素信号を用いて、所定回転方向の偏光順とした画素信号から偏光周期に応じて変化する信号成分を抽出するフィルタ処理が水平方向と垂直方向に対して行われる。したがって、偏光画像に含まれたノイズ等の影響を受けることなく、鏡面反射成分を示す偏光情報を精度よく取得できるようになる。また、撮像部は、偏光画素の配列が水平方向および垂直方向で所定回転方向の偏光順とされているので、フィルタ部で画素信号の再配列を行う必要がないことから、第1の実施の形態や第2の実施の形態に比べて情報処理装置の構成を簡単にできる。
<6.第4の実施の形態>
ところで、鏡面反射成分はコサイン則の変化を生じることから、画素信号は所定回転方向の偏光順に限らず、所定回転方向とは逆回転方向の偏光順であっても、同様なフィルタ処理を行うことで、偏光周期に応じて変化する信号成分を抽出できる。したがって、偏光画素の配列は、水平方向および垂直方向が所定回転方向の偏光順の画素群と所定回転方向とは逆回転方向の偏光順の画素群を含む構成としてもよい。
図18は第4の実施の形態における撮像部の画素配列を例示している。撮像部22-4は、各画素が4つの異なる偏光方向のいずれかの偏光方向の偏光画素であり、例えば4つの偏光方向は角度差が等しい角度(45度)とされており、偏光画素Wの偏光方向は0度,偏光画素Xの偏光方向は45度,偏光画素Yの偏光方向は90度,偏光画素Zの偏光方向は135度である。また、偏光画素の配列は、水平方向および垂直方向で所定回転方向の偏光順と逆方向の偏光順の画素群を交互に設けた配列とする。例えば水平方向が偏光画素W,X,Y,Zの順に配置されている画素群に対して垂直方向に隣接する画素群は偏光画素Z,Y,X,Wの順に配置する。また、水平方向が偏光画素Z,Y,X,Wの順に配置されている画素群に対して垂直方向に隣接する画素群は偏光画素W,X,Y,Zの順に配置する。また、垂直方向に対しても同様に構成する。さらに、2×2画素の画像ブロック内では4つの偏光方向の偏光画素W,X,Y,Zが含まれるように構成する。
第4の実施の形態における情報処理装置30のフィルタ部32-4は、偏光画素が所定回転方向または逆方向の順に配置されており、2×2画素の画像ブロック内では4つの偏光方向の偏光画素が含まれることから、第1の実施の形態のフィルタ部32-1と第3の実施の形態のフィルタ部32-3の何れかと等しい構成とする。
フィルタ部32-4をフィルタ部32-1と等しい構成とした場合、再配列部321は、2×2画素の画素ブロックの画素信号を水平方向に再配列して、例えば所定回転方向の偏光順である1×4画素の画素ブロックの画素信号に再配列する。フィルタ処理部322は、再配列部321で水平方向の再配列が行われた画素信号のバンドパスフィルタ処理を行い、偏光周期に応じて変化する信号成分を抽出する。具体的には、フィルタ処理部322は、再配列部321で水平方向の再配列が行われた画素信号とフィルタ係数記憶部34に記憶されているフィルタ係数を用いてフィルタ演算を行い、コサイン則の変化を生じている信号成分を抽出する。
次に、再配列部321は、フィルタ処理後の画素信号を垂直方向に再配列する。再配列部321は、水平方向のフィルタ処理が行われている2×2画素の画素ブロックの画素信号を垂直方向に再配列して、例えば所定回転方向の偏光順である4×1画素の画素ブロックの画素信号に再配列する。フィルタ処理部322は、再配列部321で垂直方向の再配列が行われたフィルタ処理後の画素信号とフィルタ係数記憶部34に記憶されているフィルタ係数を用いて上述のバンドパスフィルタ処理を行い、コサイン則の変化を生じている信号成分を抽出する。
配列復元部323は、フィルタ処理部322から出力される画素信号を撮像部22-4で生成された画素信号と等しい配列となるように配列の復元処理を行う。
フィルタ部32-4は、撮像部22-4で生成された撮像画像に対して、上述のように2×2画素の画素ブロックの画素信号を水平方向および垂直方向の偏光順としてバンドパスフィルタ処理を行い、撮像画像に含まれたノイズ等の影響を受けることなく鏡面反射成分を抽出する。
フィルタ部32-4をフィルタ部32-3と等しい構成とした場合、フィルタ部32-4のフィルタ処理部322は、撮像部22-4で生成された偏光画像の水平方向順の画素信号とフィルタ係数記憶部34に記憶されているフィルタ係数を用いてバンドパスフィルタ処理を行い、偏光周期に応じて変化する信号成分を抽出する。具体的には、フィルタ処理部322は、偏光画像の水平方向順の画素信号とフィルタ係数記憶部34に記憶されているフィルタ係数を用いてフィルタ演算を行い、コサイン則の変化を生じている信号成分を抽出する。さらに、フィルタ処理部322は、水平方向のフィルタ処理後の画素信号を垂直方向の順に用いて、画素信号とフィルタ係数記憶部34に記憶されているフィルタ係数を用いてバンドパスフィルタ処理を行い、偏光周期に応じて変化する信号成分を抽出する。
フィルタ部32-4は、撮像部22-4で生成された撮像画像の画素信号を上述のように水平方向および垂直方向の順に用いてバンドパスフィルタ処理を行い、撮像画像に含まれたノイズ等の影響を受けることなく鏡面反射成分を抽出する。
さらに、第4の実施の形態における情報処理装置30のフィルタ部32-4は、フィルタ部32-1の動作とフィルタ部32-3の動作を選択的に行えるようにしてもよい。例えばフィルタ部32-1の動作では2×2画素のブロック毎に画素の再配列を行ってフィルタ処理を行うことから、撮像部22-4で生成された画素信号を水平方向や垂直方向の順に用いてフィルタ処理を行うフィルタ部32-3の動作に比べて、タップに用いる画素範囲の長さを短くできる。したがって、情報処理装置30は、例えば水平方向や垂直方向に長い被写体等ではフィルタ部32-3の動作を行うようにして、撮像画面内での被写体のサイズが小さい場合は、フィルタ部32-1の動作を行うようにすれば、撮像部22-4で撮像される被写体に適したフィルタ処理を行える。
このような第4の実施の形態によれば、第1の実施の形態と同様に、複数偏光方向の偏光画素を所定の配列で繰り返し設けた撮像装置で生成された偏光画像の画素信号を用いて、所定回転方向の偏光順とした画素信号から偏光周期に応じて変化する信号成分を抽出するフィルタ処理が水平方向と垂直方向に対して行われる。したがって、偏光画像に含まれたノイズ等の影響を受けることなく、鏡面反射成分を示す偏光情報を精度よく取得できるようになる。また、第1の実施の形態または第3の実施の形態のフィルタ動作を行うことが可能であることから、被写体に応じたフィルタ処理を行うことができる。
<7.第5の実施の形態>
次に、第5の実施の形態について説明する。情報処理装置30のフィルタ部32では、フィルタ係数記憶部34に記憶されているフィルタ係数を用いてバンドパスフィルタ処理が行われる。図19はフィルタ係数を例示している。撮像部は、例えば図5に示すように、4つの偏光方向の偏光画素からなる画素ブロックを繰り返し設けた配列で、偏光方向は角度差が等しい角度(45度)とされており、偏光画素Wの偏光方向は0度,偏光画素Xの偏光方向は45度,偏光画素Yの偏光方向は90度,偏光画素Zの偏光方向は135度である。この撮像部で生成された偏光画像をフィルタ部で例えばFIR(Finite Impulse Response)フィルタ処理を行う場合、フィルタ部を35タップとしたときのフィルタ係数は、図のように1タップおきに「0」となる。すなわち係数が「0」の場合はフィルタ演算結果に寄与しない。したがって、偏光画素をフィルタ処理する際にフィルタ係数が「0」となる偏光方向の画素をフィルタ処理対象の偏光画素とは異なる画素信号群に振り分けて、画素信号群毎にフィルタ処理を行うようにして、フィルタ処理部322の規模を削減する。
第5の実施の形態におけるフィルタ部32-5は第1の実施の形態のフィルタ部32-1と同様に、再配列部321とフィルタ処理部322と配列復元部323を有している。
再配列部321は、画素ブロック内の画素信号を水平方向または垂直方向が所定回転方向の偏光順となる配列に並び替える。さらに、再配列部321は、再配列後の画素信号を画素毎に振り分けて2つの画素信号群を生成する。
図20および図21は、第5の実施の形態における再配列部の動作を説明するための図である。再配列部321は、図20の(a)に示す2×2画素の画素ブロックの画素信号を水平方向に再配列する。水平方向の再配列では、所定回転方向の偏光順(例えば偏光角が増加する回転方向の偏光順)に再配列する。さらに、再配列部321は、再配列後の画素信号を画素毎に振り分けて、偏光画素Wと偏光画素Yの画素信号からなる図20の(b)に示すWY画素信号群と、偏光画素Xと偏光画素Zの画素信号からなる図20の(c)に示すXZ画素信号群を生成する。
フィルタ処理部322は、振り分けが行われたWY画素信号群の画素信号とフィルタ係数記憶部34に記憶されているフィルタ係数を用いたバンドパスフィルタ処理を行う。また、フィルタ処理部322は、フィル分けが行われたXZ画素信号群の画素信号とフィルタ係数記憶部34に記憶されているフィルタ係数を用いたバンドパスフィルタ処理を行う。なお、図22は、WY画素信号群およびXZ画素信号群のバンドパスフィルタ処理に用いるフィルタ係数を例示している。このように、WY画素信号群とXZ画素信号群に分けてバンドパスフィルタ処理を行うようにすれば、FIR(Finite Impulse Response)フィルタ処理は16タップで行えるようになり、フィルタ処理部322の規模を削減できる。
次に、再配列部321は、フィルタ処理後の画素信号を垂直方向に再配列して、再配列後の画素信号を画素毎に振り分けて2つの画素信号群を生成する。再配列部321は、図21の(a)に示す2×2画素の画素ブロックの画素信号を垂直方向に再配列する。垂直方向の再配列では、所定回転方向の偏光順(例えば偏光角が増加する回転方向の偏光順)に再配列する。さらに、再配列部321は、再配列後の画素信号を画素毎に振り分けて、偏光画素Wと偏光画素Yの画素信号からなる図21の(b)に示すWY画素信号群と、偏光画素Xと偏光画素Zの画素信号からなる図21の(c)に示すXZ画素信号群を生成する。
フィルタ処理部322は、振り分けが行われたWY画素信号群の画素信号とフィルタ係数記憶部34に記憶されているフィルタ係数を用いたバンドパスフィルタ処理と、フィル分けが行われたXZ画素信号群の画素信号とフィルタ係数記憶部34に記憶されているフィルタ係数を用いたバンドパスフィルタ処理を行う。
配列復元部323は、フィルタ処理部322から出力される画素信号を撮像部22で生成された画素信号と等しい配列となるように配列の復元処理を行う。
フィルタ部32-5は、撮像部22で生成された撮像画像に対して、上述のように水平方向および垂直方向の偏光順とした複数の画素信号群毎にバンドパスフィルタ処理を行い、撮像画像に含まれたノイズ等の影響を受けることなく鏡面反射成分を抽出する。
図23は、第5の実施の形態におけるフィルタ部の動作を例示したフローチャートである。ステップST21でフィルタ部は水平方向再配列処理を行う。フィルタ部32-5の再配列部321は、撮像部22-1で生成された画素信号を、水平方向が所定回転方向の偏光順である画素信号に並び替える。さらに、再配列部321は、所定回転方向の偏光順の画素信号を画素毎に振り分けてWY画素信号群とWY画素信号群の画素信号としてステップST22に進む。
ステップST22でフィルタ部はWY画素信号群水平方向フィルタ処理を行う。フィルタ部32-5のフィルタ処理部322は、ステップST21で生成されたWY画素信号群の画素信号を水平方向の順に用いてバンドパスフィルタ処理を行いステップST23に進む。
ステップST23でフィルタ部はXZ画素信号群水平方向フィルタ処理を行う。フィルタ部32-5のフィルタ処理部322は、ステップST21で生成されたXZ画素信号群の画素信号を水平方向の順に用いてバンドパスフィルタ処理を行いステップST24に進む。
ステップST24でフィルタ部は垂直方向再配列処理を行う。フィルタ部32-5の再配列部321は、ステップST22,23でフィルタ処理された画素信号を、垂直方向が所定回転方向の偏光順である画素信号に並び替える。さらに、再配列部321は、所定回転方向の偏光順の画素信号を画素毎に振り分けてWY画素信号群とXZ画素信号群の画素信号としてステップST25に進む。
ステップST25でフィルタ部はWY画素信号群垂直方向フィルタ処理を行う。フィルタ部32-5のフィルタ処理部322は、ステップST24で生成されたWY画素信号群の画素信号を垂直方向の順に用いてバンドパスフィルタ処理を行いステップST26に進む。
ステップST26でフィルタ部はXZ画素信号群垂直方向フィルタ処理を行う。フィルタ部32-5のフィルタ処理部322は、ステップST24で生成されたXZ画素信号群の画素信号を垂直方向の順に用いてバンドパスフィルタ処理を行いステップST27に進む。
ステップST27でフィルタ部は配列復元処理を行う。フィルタ部32-5の配列復元部323は、ステップST25とステップST26でフィルタ処理された画素信号を、撮像部22で生成された画素信号と等しい配列に復元する。
なお、第5の実施の形態では、撮像部22で4つの異なる偏光方向の偏光画素(W=0度,X=45度,Y=90度,Z=135度)である場合を例示したが、撮像部は、偏光画素をフィルタ処理する際にフィルタ係数が「0」となる偏光方向の画素を他の画素信号群に振り分けて画素信号群毎にフィルタ処理を行える偏光画素構成であればよく、偏光方向の数や偏光角が例示した撮像部と異なっていてもよい。
このように第5の実施の形態によれば、第1の実施の形態と同様に、複数偏光方向の偏光画素を所定の配列で繰り返し設けた撮像装置で生成された偏光画像の画素信号を用いて、所定回転方向の偏光順とした画素信号から偏光周期に応じて変化する信号成分を抽出するフィルタ処理が水平方向と垂直方向に対して行われる。したがって、偏光画像に含まれたノイズ等の影響を受けることなく、鏡面反射成分を示す偏光情報を精度よく取得できるようになる。また、画素信号の振り分けを行い画素信号群毎にフィルタ処理を行うことから、フィルタ処理部322のタップ数を削減することが可能となり、第1の実施の形態等に比べてフィルタ処理部を簡単な構成にできる。
<8.他の実施の形態>
上述の実施の形態では、水平方向と垂直方向のそれぞれについてフィルタ処理を行う場合を例示しているが、フィルタ部は水平方向についてのみフィルタ処理を行い、鏡面反射成分を示す偏光情報を取得してもよい。例えば、撮像部を第3の実施の形態で示した構成とすれば、撮像部で生成された画素信号を順にフィルタ処理して偏光情報を取得できるため、リアルタイムで偏光情報が必要とされる分野で情報処理装置を用いる場合に適している。
また、水平方向の再配列動作や垂直方向の再配列動作は、図7,図11に示す順序に限らず、空間的順序を保つように再配列してもよい。図24は水平方向再配列動作の他の例を示しており、図25は垂直方向再配列動作の他の例を示している。再配列部321は、図24の(a)に示す2×2画素の画素ブロックの画素信号を水平方向に再配列する。再配列部321は、水平方向の再配列において、図24の(b)に示すように、所定回転方向の偏光順であって空間的順序を保つように、2×2画素の画素ブロックの画素信号を1×4画素の画素ブロックの画素信号に再配列する。具体的には、偏光画素W1,X1,Y1,Z1からなる2×2画素の画素ブロックの画素信号を偏光画素Z1,Y1,X1,W1の順序とされた1×4画素の画素ブロックの画素信号に再配列する。また、偏光画素W2,X2,Y2,Z2からなる2×2画素の画素ブロックの画素信号を、偏光画素Z2,Y2,X2,W2の順序とされた1×4画素の画素ブロックの画素信号に再配列する。以下同様に、2×2画素の画素ブロックの画素信号を所定回転方向の偏光順で空間的順序が保たれた1×4画素の画素ブロックの画素信号に再配列する。このように再配列を行えば、2×2画素の画素ブロックの画素信号を水平方向に並べたとき、画素信号の順序は画素Zが画素Wよりも右側で画素Yが画素Xよりも右側となり、水平方向の空間的順序を保つことができる。なお、図7の(b)の場合は、画素Wと画素Xが画素Yと画素Zよりも右側となり空間的順序が逆順となっている。したがって、図24の(b)に示す水平方向の再配列動作を行えば、水平方向の空間的順序を保った状態でフィルタ処理を行えるようになる。
また、再配列部321は、垂直方向についても水平方向と同様に、空間的順序を保つように再配列を行う。再配列部321は、図25の(a)に示す2×2画素の画素ブロックの画素信号を、図25の(b)に示すように、所定の回転方向の偏光順であって空間的順序を保つように、2×2画素の画素ブロックの画素信号を4×1画素の画素ブロックの画素信号に再配列する。このように再配列を行えば、2×2画素の画素ブロックの画素信号を垂直方向に並べたとき、画素Zが画素Yよりも上側で画素Wが画素Xよりも上側となり垂直方向の空間的順序を保つことができる。なお、図11の(b)の場合は、画素Yの画素が画素Zよりも上側となり空間的順序が逆順となっている。したがって、図25の(b)に示すように垂直方向の再配列動作を行えば、垂直方向の空間的順序を保った状態でフィルタ処理を行えるようになる。
なお、偏光画素W,X,Y,Zからなる2×2画素の画素ブロックの画素信号を水平方向に偏光画素Y,Z,W,Xの順序とすれば、図25の(b)の場合と同様に偏光角が増加する回転方向の偏光順で空間的順序を保つことができる。また、偏光画素W,X,Y,Zからなる2×2画素の画素ブロックの画素信号を垂直方向に偏光画素W,Z,Y,Xの順序とすれば、図24の(b)の場合と同様に偏光角が減少する回転方向の偏光順で空間的順序を保つことができる。
また、上述の偏光方向は例示であって、偏光方向は上述の実施の形態と異なる方向であってもよい。さらに、撮像部でカラーモザイクフィルタを用いて例えば2×2画素の画素ブロックを色単位とすれば、情報処理装置30は画素ブロック内の無偏光画素の画素信号を用いたデモザイク処理によってカラー撮像画像を生成できる。また、情報処理装置30は色毎に偏光情報を取得できる。
<9.応用例>
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、情報処理端末に限らず、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット、建設機械、農業機械(トラクター)などのいずれかの種類の移動体に搭載される装置として実現されてもよい。
図26は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システム7000の概略的な構成例を示すブロック図である。車両制御システム7000は、通信ネットワーク7010を介して接続された複数の電子制御ユニットを備える。図26に示した例では、車両制御システム7000は、駆動系制御ユニット7100、ボディ系制御ユニット7200、バッテリ制御ユニット7300、車外情報検出ユニット7400、車内情報検出ユニット7500、及び統合制御ユニット7600を備える。これらの複数の制御ユニットを接続する通信ネットワーク7010は、例えば、CAN(Controller Area Network)、LIN(Local Interconnect Network)、LAN(Local Area Network)又はFlexRay(登録商標)等の任意の規格に準拠した車載通信ネットワークであってよい。
各制御ユニットは、各種プログラムにしたがって演算処理を行うマイクロコンピュータと、マイクロコンピュータにより実行されるプログラム又は各種演算に用いられるパラメータ等を記憶する記憶部と、各種制御対象の装置を駆動する駆動回路とを備える。各制御ユニットは、通信ネットワーク7010を介して他の制御ユニットとの間で通信を行うためのネットワークI/Fを備えるとともに、車内外の装置又はセンサ等との間で、有線通信又は無線通信により通信を行うための通信I/Fを備える。図26では、統合制御ユニット7600の機能構成として、マイクロコンピュータ7610、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660、音声画像出力部7670、車載ネットワークI/F7680及び記憶部7690が図示されている。他の制御ユニットも同様に、マイクロコンピュータ、通信I/F及び記憶部等を備える。
駆動系制御ユニット7100は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット7100は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。駆動系制御ユニット7100は、ABS(Antilock Brake System)又はESC(Electronic Stability Control)等の制御装置としての機能を有してもよい。
駆動系制御ユニット7100には、車両状態検出部7110が接続される。車両状態検出部7110には、例えば、車体の軸回転運動の角速度を検出するジャイロセンサ、車両の加速度を検出する加速度センサ、あるいは、アクセルペダルの操作量、ブレーキペダルの操作量、ステアリングホイールの操舵角、エンジン回転数又は車輪の回転速度等を検出するためのセンサのうちの少なくとも一つが含まれる。駆動系制御ユニット7100は、車両状態検出部7110から入力される信号を用いて演算処理を行い、内燃機関、駆動用モータ、電動パワーステアリング装置又はブレーキ装置等を制御する。
ボディ系制御ユニット7200は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット7200は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット7200には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット7200は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
バッテリ制御ユニット7300は、各種プログラムにしたがって駆動用モータの電力供給源である二次電池7310を制御する。例えば、バッテリ制御ユニット7300には、二次電池7310を備えたバッテリ装置から、バッテリ温度、バッテリ出力電圧又はバッテリの残存容量等の情報が入力される。バッテリ制御ユニット7300は、これらの信号を用いて演算処理を行い、二次電池7310の温度調節制御又はバッテリ装置に備えられた冷却装置等の制御を行う。
車外情報検出ユニット7400は、車両制御システム7000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット7400には、撮像部7410及び車外情報検出部7420のうちの少なくとも一方が接続される。撮像部7410には、ToF(Time Of Flight)カメラ、ステレオカメラ、単眼カメラ、赤外線カメラ及びその他のカメラのうちの少なくとも一つが含まれる。車外情報検出部7420には、例えば、現在の天候又は気象を検出するための環境センサ、あるいは、車両制御システム7000を搭載した車両の周囲の他の車両、障害物又は歩行者等を検出するための周囲情報検出センサのうちの少なくとも一つが含まれる。
環境センサは、例えば、雨天を検出する雨滴センサ、霧を検出する霧センサ、日照度合いを検出する日照センサ、及び降雪を検出する雪センサのうちの少なくとも一つであってよい。周囲情報検出センサは、超音波センサ、レーダ装置及びLIDAR(Light Detection and Ranging、Laser Imaging Detection and Ranging)装置のうちの少なくとも一つであってよい。これらの撮像部7410及び車外情報検出部7420は、それぞれ独立したセンサないし装置として備えられてもよいし、複数のセンサないし装置が統合された装置として備えられてもよい。
ここで、図27は、撮像部7410及び車外情報検出部7420の設置位置の例を示す。撮像部7910,7912,7914,7916,7918は、例えば、車両7900のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部のうちの少なくとも一つの位置に設けられる。フロントノーズに備えられる撮像部7910及び車室内のフロントガラスの上部に備えられる撮像部7918は、主として車両7900の前方の画像を取得する。サイドミラーに備えられる撮像部7912,7914は、主として車両7900の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部7916は、主として車両7900の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部7918は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図27には、それぞれの撮像部7910,7912,7914,7916の撮影範囲の一例が示されている。撮像範囲aは、フロントノーズに設けられた撮像部7910の撮像範囲を示し、撮像範囲b,cは、それぞれサイドミラーに設けられた撮像部7912,7914の撮像範囲を示し、撮像範囲dは、リアバンパ又はバックドアに設けられた撮像部7916の撮像範囲を示す。例えば、撮像部7910,7912,7914,7916で撮像された画像データが重ね合わせられることにより、車両7900を上方から見た俯瞰画像が得られる。
車両7900のフロント、リア、サイド、コーナ及び車室内のフロントガラスの上部に設けられる車外情報検出部7920,7922,7924,7926,7928,7930は、例えば超音波センサ又はレーダ装置であってよい。車両7900のフロントノーズ、リアバンパ、バックドア及び車室内のフロントガラスの上部に設けられる車外情報検出部7920,7926,7930は、例えばLIDAR装置であってよい。これらの車外情報検出部7920〜7930は、主として先行車両、歩行者又は障害物等の検出に用いられる。
図26に戻って説明を続ける。車外情報検出ユニット7400は、撮像部7410に車外の画像を撮像させるとともに、撮像された画像データを受信する。また、車外情報検出ユニット7400は、接続されている車外情報検出部7420から検出情報を受信する。車外情報検出部7420が超音波センサ、レーダ装置又はLIDAR装置である場合には、車外情報検出ユニット7400は、超音波又は電磁波等を発信させるとともに、受信された反射波の情報を受信する。車外情報検出ユニット7400は、受信した情報に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。車外情報検出ユニット7400は、受信した情報に基づいて、降雨、霧又は路面状況等を認識する環境認識処理を行ってもよい。車外情報検出ユニット7400は、受信した情報に基づいて、車外の物体までの距離を算出してもよい。
また、車外情報検出ユニット7400は、受信した画像データに基づいて、人、車、障害物、標識又は路面上の文字等を認識する画像認識処理又は距離検出処理を行ってもよい。車外情報検出ユニット7400は、受信した画像データに対して歪補正又は位置合わせ等の処理を行うとともに、異なる撮像部7410により撮像された画像データを合成して、俯瞰画像又はパノラマ画像を生成してもよい。車外情報検出ユニット7400は、異なる撮像部7410により撮像された画像データを用いて、視点変換処理を行ってもよい。
車内情報検出ユニット7500は、車内の情報を検出する。車内情報検出ユニット7500には、例えば、運転者の状態を検出する運転者状態検出部7510が接続される。運転者状態検出部7510は、運転者を撮像するカメラ、運転者の生体情報を検出する生体センサ又は車室内の音声を集音するマイク等を含んでもよい。生体センサは、例えば、座面又はステアリングホイール等に設けられ、座席に座った搭乗者又はステアリングホイールを握る運転者の生体情報を検出する。車内情報検出ユニット7500は、運転者状態検出部7510から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。車内情報検出ユニット7500は、集音された音声信号に対してノイズキャンセリング処理等の処理を行ってもよい。
統合制御ユニット7600は、各種プログラムにしたがって車両制御システム7000内の動作全般を制御する。統合制御ユニット7600には、入力部7800が接続されている。入力部7800は、例えば、タッチパネル、ボタン、マイクロフォン、スイッチ又はレバー等、搭乗者によって入力操作され得る装置によって実現される。統合制御ユニット7600には、マイクロフォンにより入力される音声を音声認識することにより得たデータが入力されてもよい。入力部7800は、例えば、赤外線又はその他の電波を利用したリモートコントロール装置であってもよいし、車両制御システム7000の操作に対応した携帯電話又はPDA(Personal Digital Assistant)等の外部接続機器であってもよい。入力部7800は、例えばカメラであってもよく、その場合搭乗者はジェスチャにより情報を入力することができる。あるいは、搭乗者が装着したウェアラブル装置の動きを検出することで得られたデータが入力されてもよい。さらに、入力部7800は、例えば、上記の入力部7800を用いて搭乗者等により入力された情報に基づいて入力信号を生成し、統合制御ユニット7600に出力する入力制御回路などを含んでもよい。搭乗者等は、この入力部7800を操作することにより、車両制御システム7000に対して各種のデータを入力したり処理動作を指示したりする。
記憶部7690は、マイクロコンピュータにより実行される各種プログラムを記憶するROM(Read Only Memory)、及び各種パラメータ、演算結果又はセンサ値等を記憶するRAM(Random Access Memory)を含んでいてもよい。また、記憶部7690は、HDD(Hard Disc Drive)等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等によって実現してもよい。
汎用通信I/F7620は、外部環境7750に存在する様々な機器との間の通信を仲介する汎用的な通信I/Fである。汎用通信I/F7620は、GSM(Global System of Mobile communications)、WiMAX、LTE(Long Term Evolution)若しくはLTE−A(LTE−Advanced)などのセルラー通信プロトコル、又は無線LAN(Wi−Fi(登録商標)ともいう)、Bluetooth(登録商標)などのその他の無線通信プロトコルを実装してよい。汎用通信I/F7620は、例えば、基地局又はアクセスポイントを介して、外部ネットワーク(例えば、インターネット、クラウドネットワーク又は事業者固有のネットワーク)上に存在する機器(例えば、アプリケーションサーバ又は制御サーバ)へ接続してもよい。また、汎用通信I/F7620は、例えばP2P(Peer To Peer)技術を用いて、車両の近傍に存在する端末(例えば、運転者、歩行者若しくは店舗の端末、又はMTC(Machine Type Communication)端末)と接続してもよい。
専用通信I/F7630は、車両における使用を目的として策定された通信プロトコルをサポートする通信I/Fである。専用通信I/F7630は、例えば、下位レイヤのIEEE802.11pと上位レイヤのIEEE1609との組合せであるWAVE(Wireless Access in Vehicle Environment)、DSRC(Dedicated Short Range Communications)、又はセルラー通信プロトコルといった標準プロトコルを実装してよい。専用通信I/F7630は、典型的には、車車間(Vehicle to Vehicle)通信、路車間(Vehicle to Infrastructure)通信、車両と家との間(Vehicle to Home)の通信及び歩車間(Vehicle to Pedestrian)通信のうちの1つ以上を含む概念であるV2X通信を遂行する。
測位部7640は、例えば、GNSS(Global Navigation Satellite System)衛星からのGNSS信号(例えば、GPS(Global Positioning System)衛星からのGPS信号)を受信して測位を実行し、車両の緯度、経度及び高度を含む位置情報を生成する。なお、測位部7640は、無線アクセスポイントとの信号の交換により現在位置を特定してもよく、又は測位機能を有する携帯電話、PHS若しくはスマートフォンといった端末から位置情報を取得してもよい。
ビーコン受信部7650は、例えば、道路上に設置された無線局等から発信される電波あるいは電磁波を受信し、現在位置、渋滞、通行止め又は所要時間等の情報を取得する。なお、ビーコン受信部7650の機能は、上述した専用通信I/F7630に含まれてもよい。
車内機器I/F7660は、マイクロコンピュータ7610と車内に存在する様々な車内機器7760との間の接続を仲介する通信インタフェースである。車内機器I/F7660は、無線LAN、Bluetooth(登録商標)、NFC(Near Field Communication)又はWUSB(Wireless USB)といった無線通信プロトコルを用いて無線接続を確立してもよい。また、車内機器I/F7660は、図示しない接続端子(及び、必要であればケーブル)を介して、USB(Universal Serial Bus)、HDMI(High-Definition Multimedia Interface)、又はMHL(Mobile High-definition Link)等の有線接続を確立してもよい。車内機器7760は、例えば、搭乗者が有するモバイル機器若しくはウェアラブル機器、又は車両に搬入され若しくは取り付けられる情報機器のうちの少なくとも1つを含んでいてもよい。また、車内機器7760は、任意の目的地までの経路探索を行うナビゲーション装置を含んでいてもよい。車内機器I/F7660は、これらの車内機器7760との間で、制御信号又はデータ信号を交換する。
車載ネットワークI/F7680は、マイクロコンピュータ7610と通信ネットワーク7010との間の通信を仲介するインタフェースである。車載ネットワークI/F7680は、通信ネットワーク7010によりサポートされる所定のプロトコルに則して、信号等を送受信する。
統合制御ユニット7600のマイクロコンピュータ7610は、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660及び車載ネットワークI/F7680のうちの少なくとも一つを介して取得される情報に基づき、各種プログラムにしたがって、車両制御システム7000を制御する。例えば、マイクロコンピュータ7610は、取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット7100に対して制御指令を出力してもよい。例えば、マイクロコンピュータ7610は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行ってもよい。また、マイクロコンピュータ7610は、取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行ってもよい。
マイクロコンピュータ7610は、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660及び車載ネットワークI/F7680のうちの少なくとも一つを介して取得される情報に基づき、車両と周辺の構造物や人物等の物体との間の3次元距離情報を生成し、車両の現在位置の周辺情報を含むローカル地図情報を作成してもよい。また、マイクロコンピュータ7610は、取得される情報に基づき、車両の衝突、歩行者等の近接又は通行止めの道路への進入等の危険を予測し、警告用信号を生成してもよい。警告用信号は、例えば、警告音を発生させたり、警告ランプを点灯させたりするための信号であってよい。
音声画像出力部7670は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図26の例では、出力装置として、オーディオスピーカ7710、表示部7720及びインストルメントパネル7730が例示されている。表示部7720は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。表示部7720は、AR(Augmented Reality)表示機能を有していてもよい。出力装置は、これらの装置以外の、ヘッドホン、搭乗者が装着する眼鏡型ディスプレイ等のウェアラブルデバイス、プロジェクタ又はランプ等の他の装置であってもよい。出力装置が表示装置の場合、表示装置は、マイクロコンピュータ7610が行った各種処理により得られた結果又は他の制御ユニットから受信された情報を、テキスト、イメージ、表、グラフ等、様々な形式で視覚的に表示する。また、出力装置が音声出力装置の場合、音声出力装置は、再生された音声データ又は音響データ等からなるオーディオ信号をアナログ信号に変換して聴覚的に出力する。
なお、図26に示した例において、通信ネットワーク7010を介して接続された少なくとも二つの制御ユニットが一つの制御ユニットとして一体化されてもよい。あるいは、個々の制御ユニットが、複数の制御ユニットにより構成されてもよい。さらに、車両制御システム7000が、図示されていない別の制御ユニットを備えてもよい。また、上記の説明において、いずれかの制御ユニットが担う機能の一部又は全部を、他の制御ユニットに持たせてもよい。つまり、通信ネットワーク7010を介して情報の送受信がされるようになっていれば、所定の演算処理が、いずれかの制御ユニットで行われるようになってもよい。同様に、いずれかの制御ユニットに接続されているセンサ又は装置が、他の制御ユニットに接続されるとともに、複数の制御ユニットが、通信ネットワーク7010を介して相互に検出情報を送受信してもよい。
車両制御システム7000における撮像部7410,7910,7912,7914,7916,7918において、偏光情報の取得範囲を撮像する撮像部は、上述の実施の形態の撮像部を用いた構成とする。また、情報処理装置30は、図26に示した応用例の統合制御ユニット7600に設けてもよく、撮像部と一体に設けてもよい。このような構成とすれば、偏光情報の取得範囲を撮像する撮像部で生成された撮像画像からノイズ等が除去された偏光情報を取得できるので、取得した偏光情報を運転支援や運転制御等に利用できる。なお、情報処理装置30は、図26に示した統合制御ユニット7600のためのモジュール(例えば、一つのダイで構成される集積回路モジュール)において実現されてもよい。また、車両制御システム7000の構成は一例であって、図26に示すブロックの一部を備えていない構成であってもよく、図26に示されていないブロックを有する構成であってもよい。
明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させる。または、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。
例えば、プログラムは記録媒体としてのハードディスクやSSD(Solid State Drive)、ROM(Read Only Memory)に予め記録しておくことができる。あるいは、プログラムはフレキシブルディスク、CD−ROM(Compact Disc Read Only Memory),MO(Magneto optical)ディスク,DVD(Digital Versatile Disc)、BD(Blu-Ray Disc(登録商標))、磁気ディスク、半導体メモリカード等のリムーバブル記録媒体に、一時的または永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。
また、プログラムは、リムーバブル記録媒体からコンピュータにインストールする他、ダウンロードサイトからLAN(Local Area Network)やインターネット等のネットワークを介して、コンピュータに無線または有線で転送してもよい。コンピュータでは、そのようにして転送されてくるプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
なお、本明細書に記載した効果はあくまで例示であって限定されるものではなく、記載されていない付加的な効果があってもよい。また、本技術は、上述した技術の実施の形態に限定して解釈されるべきではない。この技術の実施の形態は、例示という形態で本技術を開示しており、本技術の要旨を逸脱しない範囲で当業者が実施の形態の修正や代用をなし得ることは自明である。すなわち、本技術の要旨を判断するためには、請求の範囲を参酌すべきである。
また、本技術の情報処理装置は以下のような構成も取ることができる。
(1) 複数偏光方向の偏光画素が所定の配列で設けられている撮像装置で生成された偏光画像の画素信号を用いて、所定回転方向の偏光順とした前記画素信号のフィルタ処理により偏光成分を抽出するフィルタ処理部
を備える情報処理装置。
(2) 前記画素信号を水平方向または垂直方向が前記所定回転方向の偏光順となる配列に並び替える再配列部をさらに備え、
前記フィルタ処理部は、前記再配列部で並び替えられた前記画素信号を用いて前記フィルタ処理を行う(1)に記載の情報処理装置。
(3) 前記再配列部は、前記撮像装置で生成された偏光画像の画素信号を、水平方向または垂直方向の一方の方向が前記所定回転方向の偏光順となる配列への並び替えと、前記フィルタ処理部で前記フィルタ処理された画素信号を、他方の方向が前記所定回転方向の偏光順となる配列への並び替えを行い、
前記フィルタ処理部は、前記再配列部で前記一方の方向の並び替えが行われた前記画素信号の前記フィルタ処理と前記他方の方向の並び替えが行われた前記フィルタ処理後の画素信号の前記フィルタ処理を行う(2)に記載の情報処理装置。
(4) 前記撮像装置は、前記複数偏光方向の偏光画素を含む画素ブロックを繰り返し設けることで、前記複数偏光方向の偏光画素が前記所定の配列とされており、
前記再配列部は、前記画素ブロック内の画素信号を水平方向または垂直方向が前記所定回転方向の偏光順となる配列に並び替える(2)または(3)に記載の情報処理装置。
(5) 前記撮像装置は前記複数偏光方向の偏光画素と無偏光画素を有しており、
前記再配列部は、前記無偏光画素の画素信号を除いて前記偏光画素の画素信号を水平方向または垂直方向が前記所定回転方向の偏光順となる配列に並び替える(2)乃至(4)のいずれかに記載の情報処理装置。
(6) 前記撮像装置は、偏光方向が4方向であって偏光方向の角度差が等しい偏光画素を前記所定の配列として設けられており、
前記再配列部は、前記撮像装置で生成された偏光画像の画素信号を、水平方向または垂直方向が前記所定回転方向の偏光順となる配列へ並び替えたのち画素毎に交互に振り分けて2つの画素信号群を生成し、
前記フィルタ処理部は、前記再配列部で生成された画素信号群毎に前記フィルタ処理を行う(2)乃至(5)のいずれかに記載の情報処理装置。
(7) 前記フィルタ処理部で前記フィルタ処理された画素信号を、前記再配列部で並び替えが行われる前の配列に戻す配列復元部をさらに備える(2)乃至(6)のいずれかに記載の情報処理装置。
(8) 前記フィルタ処理部は、前記所定回転方向の偏光順とした画素信号から偏光周期に応じて変化する信号成分を前記偏光成分として抽出する(1)乃至(7)のいずれかに記載の情報処理装置。
また、本技術の撮像装置は以下のような構成も取ることができる。
(1) 複数偏光方向の偏光画素を、水平方向または垂直方向の少なくとも一方で所定回転方向の偏光順として設けた撮像装置。
(2) 前記水平方向または垂直方向に前記所定回転方向の偏光順に並ぶ偏光画素群に対して隣接する偏光画素群は前記所定回転方向に対して逆回転方向の偏光順とした(1)に記載の撮像装置。
(3) 前記偏光画素は、前記所定回転方向の偏光順とした偏光画素間の偏光方向の角度差を等しくした(1)または(2)に記載の撮像装置。
この技術の情報処理装置と情報処理方法およびプログラムによれば、複数偏光方向の偏光画素が所定の配列で繰り返し設けられている撮像装置で生成された偏光画像の画素信号を用いて、所定回転方向の偏光順とした画像信号のフィルタ処理が行われて偏光成分が抽出される。また、この技術の撮像装置によれば、複数偏光方向の偏光画素が水平方向または垂直方向の少なくとも一方で所定回転方向の偏光順として設けられる。このため、偏光周期に応じて変化する偏光成分を示す偏光情報を偏光画像から精度よく取得できる。したがって、偏光画像を用いて反射除去や形状推定等を行う機器に適している。
10・・・偏光情報取得システム
20・・・偏光カメラ
21・・・撮像光学系
22,22-1,22-2a,22-2b,22-3a,22-3b,22-3c,22-4・・・ 撮像部
25,60・・・情報記録再生装置
30・・・情報処理装置
31・・・受信バッファ
32,32-1,32-2,32-3,32-4,32-5・・・フィルタ部
33・・・メモリ部
34・・・フィルタ係数記憶部
35・・・送信バッファ
50・・・偏光情報利用部
321・・・再配列部
322・・・フィルタ処理部
323・・・配列復元部

Claims (13)

  1. 複数偏光方向の偏光画素が所定の配列で設けられている撮像装置で生成された偏光画像の画素信号を用いて、所定回転方向の偏光順とした前記画素信号のフィルタ処理により偏光成分を抽出するフィルタ処理部
    を備える情報処理装置。
  2. 前記画素信号を水平方向または垂直方向が前記所定回転方向の偏光順となる配列に並び替える再配列部をさらに備え、
    前記フィルタ処理部は、前記再配列部で並び替えられた前記画素信号を用いて前記フィルタ処理を行う
    請求項1に記載の情報処理装置。
  3. 前記再配列部は、前記撮像装置で生成された偏光画像の画素信号を、水平方向または垂直方向の一方の方向が前記所定回転方向の偏光順となる配列への並び替えと、前記フィルタ処理部で前記フィルタ処理された画素信号を、他方の方向が前記所定回転方向の偏光順となる配列への並び替えを行い、
    前記フィルタ処理部は、前記再配列部で前記一方の方向の並び替えが行われた前記画素信号の前記フィルタ処理と前記他方の方向の並び替えが行われた前記フィルタ処理後の画素信号の前記フィルタ処理を行う
    請求項2に記載の情報処理装置。
  4. 前記撮像装置は、前記複数偏光方向の偏光画素を含む画素ブロックを繰り返し設けることで、前記複数偏光方向の偏光画素が前記所定の配列とされており、
    前記再配列部は、前記画素ブロック内の画素信号を水平方向または垂直方向が前記所定回転方向の偏光順となる配列に並び替える
    請求項2に記載の情報処理装置。
  5. 前記撮像装置は前記複数偏光方向の偏光画素と無偏光画素を有しており、
    前記再配列部は、前記無偏光画素の画素信号を除いて前記偏光画素の画素信号を水平方向または垂直方向が前記所定回転方向の偏光順となる配列に並び替える
    請求項2に記載の情報処理装置。
  6. 前記撮像装置は、偏光方向が4方向であって偏光方向の角度差が等しい偏光画素を前記所定の配列として設けられており、
    前記再配列部は、前記撮像装置で生成された偏光画像の画素信号を、水平方向または垂直方向が前記所定回転方向の偏光順となる配列へ並び替えたのち画素毎に交互に振り分けて2つの画素信号群を生成し、
    前記フィルタ処理部は、前記再配列部で生成された画素信号群毎に前記フィルタ処理を行う
    請求項2に記載の情報処理装置。
  7. 前記フィルタ処理部で前記フィルタ処理された画素信号を、前記再配列部で並び替えが行われる前の配列に戻す配列復元部をさらに備える
    請求項2に記載の情報処理装置。
  8. 前記フィルタ処理部は、前記所定回転方向の偏光順とした画素信号から偏光周期に応じて変化する信号成分を前記偏光成分として抽出する
    請求項1に記載の情報処理装置。
  9. 複数偏光方向の偏光画素が所定の配列で設けられている撮像装置で生成された偏光画像の画素信号を用いて、所定回転方向の偏光順とした前記画素信号のフィルタ処理をフィルタ処理部で行い偏光成分を抽出すること
    を含む情報処理方法。
  10. 複数偏光方向の偏光画素が所定の配列で設けられている撮像装置で生成された偏光画像の画素信号の信号処理をコンピュータで実行させるプログラムであって、
    所定回転方向の偏光順とした前記画素信号のフィルタ処理により偏光成分を抽出する手順を
    前記コンピュータで実行させるプログラム。
  11. 複数偏光方向の偏光画素を、水平方向または垂直方向の少なくとも一方で所定回転方向の偏光順として設けた撮像装置。
  12. 前記水平方向または垂直方向に前記所定回転方向の偏光順に並ぶ偏光画素群に対して隣接する偏光画素群は前記所定回転方向に対して逆回転方向の偏光順とした
    請求項11に記載の撮像装置。
  13. 前記偏光画素は、前記所定回転方向の偏光順とした偏光画素間の偏光方向の角度差を等しくした
    請求項11に記載の撮像装置。
JP2018568004A 2017-02-15 2017-12-01 情報処理装置と情報処理方法とプログラムおよび撮像装置 Active JP7024737B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017025803 2017-02-15
JP2017025803 2017-02-15
PCT/JP2017/043308 WO2018150683A1 (ja) 2017-02-15 2017-12-01 情報処理装置と情報処理方法とプログラムおよび撮像装置

Publications (2)

Publication Number Publication Date
JPWO2018150683A1 true JPWO2018150683A1 (ja) 2019-12-12
JP7024737B2 JP7024737B2 (ja) 2022-02-24

Family

ID=63169256

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018568004A Active JP7024737B2 (ja) 2017-02-15 2017-12-01 情報処理装置と情報処理方法とプログラムおよび撮像装置

Country Status (5)

Country Link
US (1) US11062170B2 (ja)
EP (1) EP3585045B1 (ja)
JP (1) JP7024737B2 (ja)
CN (1) CN110291773B (ja)
WO (1) WO2018150683A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018029280A (ja) * 2016-08-18 2018-02-22 ソニー株式会社 撮像装置と撮像方法
JP7070423B2 (ja) * 2016-10-17 2022-05-18 ソニーグループ株式会社 画像処理装置と画像処理方法および撮像装置
KR20200105584A (ko) * 2019-02-28 2020-09-08 삼성전자주식회사 이미지 센서
JP2021118479A (ja) * 2020-01-28 2021-08-10 株式会社ジャパンディスプレイ 画像処理装置およびヘッドアップディスプレイ
DE112022003392T5 (de) * 2021-07-05 2024-04-18 Sony Semiconductor Solutions Corporation Bildverarbeitungsvorrichtung und -verfahren

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015093206A1 (ja) * 2013-12-16 2015-06-25 ソニー株式会社 画像処理装置と画像処理方法
JP2015144421A (ja) * 2013-12-24 2015-08-06 株式会社リコー 画像処理装置、画像処理システム、画像処理方法、画像処理プログラム、及び移動体制御装置
WO2016136086A1 (ja) * 2015-02-27 2016-09-01 ソニー株式会社 撮像装置と画像処理装置と画像処理方法
JP2016171368A (ja) * 2015-03-11 2016-09-23 株式会社東芝 撮像装置、撮像素子、及び撮像方法
JP2017017563A (ja) * 2015-07-01 2017-01-19 株式会社ソニー・インタラクティブエンタテインメント 撮像装置および情報処理装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4183542B2 (ja) 2003-03-28 2008-11-19 名古屋電機工業株式会社 車両用路面状態検出装置、車両用路面状態検出方法および車両用路面状態検出装置の制御プログラム
JP2011154695A (ja) 2011-02-14 2011-08-11 Kenwood Corp 無線装置を用いた乗車料金課金装置
WO2013175686A1 (ja) 2012-05-22 2013-11-28 パナソニック株式会社 撮像処理装置および内視鏡
CN105973164B (zh) * 2016-04-29 2019-02-12 中国科学技术大学 一种基于像素偏振片阵列的数字全息显微方法
JP6422924B2 (ja) * 2016-09-12 2018-11-14 株式会社ソニー・インタラクティブエンタテインメント 撮像装置および被写体情報取得方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015093206A1 (ja) * 2013-12-16 2015-06-25 ソニー株式会社 画像処理装置と画像処理方法
JP2015144421A (ja) * 2013-12-24 2015-08-06 株式会社リコー 画像処理装置、画像処理システム、画像処理方法、画像処理プログラム、及び移動体制御装置
WO2016136086A1 (ja) * 2015-02-27 2016-09-01 ソニー株式会社 撮像装置と画像処理装置と画像処理方法
JP2016171368A (ja) * 2015-03-11 2016-09-23 株式会社東芝 撮像装置、撮像素子、及び撮像方法
JP2017017563A (ja) * 2015-07-01 2017-01-19 株式会社ソニー・インタラクティブエンタテインメント 撮像装置および情報処理装置

Also Published As

Publication number Publication date
JP7024737B2 (ja) 2022-02-24
US20190385006A1 (en) 2019-12-19
CN110291773A (zh) 2019-09-27
EP3585045A1 (en) 2019-12-25
CN110291773B (zh) 2021-06-29
US11062170B2 (en) 2021-07-13
EP3585045A4 (en) 2020-02-26
EP3585045B1 (en) 2023-11-01
WO2018150683A1 (ja) 2018-08-23

Similar Documents

Publication Publication Date Title
US10957029B2 (en) Image processing device and image processing method
JP7070423B2 (ja) 画像処理装置と画像処理方法および撮像装置
US11076141B2 (en) Image processing device, image processing method, and vehicle
JP7024737B2 (ja) 情報処理装置と情報処理方法とプログラムおよび撮像装置
JPWO2018037678A1 (ja) 画像処理装置および情報生成装置と情報生成方法
WO2016132950A1 (ja) 撮像装置および撮像方法
JP7020434B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
WO2018034209A1 (ja) 撮像装置と撮像方法
JPWO2017208536A1 (ja) 画像処理装置と画像処理方法および学習装置と学習方法
JP2018029280A (ja) 撮像装置と撮像方法
WO2017043331A1 (ja) 画像処理装置、及び、画像処理方法
US11585898B2 (en) Signal processing device, signal processing method, and program
EP4080869A1 (en) Information processing device, information processing method, program, image capturing device, and image capturing system
JP7160085B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP6981416B2 (ja) 画像処理装置と画像処理方法
US20230412923A1 (en) Signal processing device, imaging device, and signal processing method
WO2024150690A1 (ja) 固体撮像装置
WO2021229983A1 (ja) 撮像装置及びプログラム
TW202433943A (zh) 固態攝像裝置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201020

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211223

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220111

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220124

R151 Written notification of patent or utility model registration

Ref document number: 7024737

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151