本開示の一態様の概要は以下のとおりである。
[項目1]
それぞれが30°の偏光方向を有する第1の光を出射する1以上の第1光出射部と、それぞれが90°の偏光方向を有する第2の光を出射する1以上の第2光出射部と、それぞれが150°の偏光方向を有する第3の光を出射する1以上の第3光出射部とを有し、第1、第2および第3の光の少なくともいずれかで被写体を照明する照明装置と、
被写体からの戻り光から、0°の偏光方向を有する第1成分、60°の偏光方向を有する第2成分、および、120°の偏光方向を有する第3成分を分離して出射するビーム分離部と、
第1成分を受ける第1領域、第2成分を受ける第2領域および第3成分を受ける第3領域を含む撮像面を有する撮像装置と、
画像形成回路と
を備え、
画像形成回路は、
第1、第2および第3の光のうち第1の光で被写体が照明されているときに第1成分、第2成分および第3成分のそれぞれについて撮像装置によって取得される第1の画像群と、
第1、第2および第3の光のうち第2の光で被写体が照明されているときに第1成分、第2成分および第3成分のそれぞれについて撮像装置によって取得される第2の画像群と、
第1、第2および第3の光のうち第3の光で被写体が照明されているときに第1成分、第2成分および第3成分のそれぞれについて撮像装置によって取得される第3の画像群と
に基づいて、被写体の画像を生成する、画像形成装置。
[項目2]
ビーム分離部は、
プリズムと、
透過軸の方向がそれぞれ0°、60°および120°の第1から第3の検光子と
を含む、項目1に記載の画像形成装置。
[項目3]
それぞれが30°の偏光方向を有する第1の光を出射する1以上の第1光出射部と、それぞれが90°の偏光方向を有する第2の光を出射する1以上の第2光出射部と、それぞれが150°の偏光方向を有する第3の光を出射する1以上の第3光出射部とを有し、第1、第2および第3の光の少なくともいずれかで被写体を照明する照明装置と、
第1から第3の開口が設けられた筐体と、撮像面を有する撮像素子とを含む撮像装置と、
被写体と撮像面との間に位置する1以上の対物レンズと、
第1の開口の位置に配置された、透過軸の方向が0°の第1検光子と、
第2の開口の位置に配置された、透過軸の方向が60°の第2検光子と、
第3の開口の位置に配置された、透過軸の方向が120°の第3検光子と、
画像形成回路と
を備え、
撮像装置の撮像面は、被写体からの戻り光のうち第1検光子を通過した第4の光を受ける第1領域と、被写体からの戻り光のうち第2検光子を通過した第5の光を受ける第2領域と、被写体からの戻り光のうち第3検光子を通過した第6の光を受ける第3領域とを含み、
画像形成回路は、
第1、第2および第3の光のうち第1の光で被写体が照明されているときに第4、第5および第6の光のそれぞれについて撮像装置によって取得される第1の画像群と、
第1、第2および第3の光のうち第2の光で被写体が照明されているときに第4、第5および第6の光のそれぞれについて撮像装置によって取得される第2の画像群と、
第1、第2および第3の光のうち第3の光で被写体が照明されているときに第4、第5および第6の光のそれぞれについて撮像装置によって取得される第3の画像群と
に基づいて、被写体の画像を生成する、画像形成装置。
[項目4]
1以上の対物レンズは、
被写体と第1領域とを結ぶ光路上に位置する第1対物レンズと、
被写体と第2領域とを結ぶ光路上に位置する第2対物レンズと、
被写体と第3領域とを結ぶ光路上に位置する第3対物レンズと
を含む、項目3に記載の画像形成装置。
[項目5]
1以上の対物レンズと撮像面との間に位置するマイクロレンズアレイをさらに備え、
1以上の対物レンズは、第1の開口を通過した光、第2の開口を通過した光、および、第3の開口を通過した光を受ける単一の対物レンズである、項目3に記載の画像形成装置。
[項目6]
第1の画像群は、2つの第1偏光画像と、1つの第1直交ニコル画像とを含み、
第2の画像群は、2つの第2偏光画像と、1つの第2直交ニコル画像とを含み、
第3の画像群は、2つの第3偏光画像と、1つの第3直交ニコル画像とを含み、
画像形成回路は、2つの第1偏光画像、2つの第2偏光画像および2つの第3偏光画像に基づく平均化擬似平行ニコル画像と、1つの第1直交ニコル画像、1つの第2直交ニコル画像および1つの第3直交ニコル画像に基づく平均化直交ニコル画像とを形成し、平均化擬似平行ニコル画像と平均化直交ニコル画像との間の差分を求めることによって被写体の画像を形成する、項目1から5のいずれかに記載の画像形成装置。
[項目7]
照明装置は、さらに、第1、第2および第3の光で被写体を同時に照明し、
撮像装置は、
第1、第2および第3の光で被写体が照明されているとき、第1領域に入射する光、第2領域に入射する光および第3領域に入射する光のそれぞれに対して撮像する、項目1から6のいずれかに記載の画像形成装置。
以下、図面を参照しながら、本開示の実施形態を詳細に説明する。なお、以下で説明する実施形態は、いずれも包括的または具体的な例を示す。以下の実施形態で示される数値、形状、材料、構成要素、構成要素の配置および接続形態、ステップ、ステップの順序などは、一例であり、本開示を限定する主旨ではない。本明細書において説明される種々の態様は、矛盾が生じない限り互いに組み合わせることが可能である。また、以下の実施形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。以下の説明において、実質的に同じ機能を有する構成要素は共通の参照符号で示し、説明を省略することがある。
(第1の実施形態)
図1は、本開示の第1の実施形態による画像形成装置の例示的な構成を示す。図1に示す画像形成装置100Aは、概略的には、複数の光出射部122を含む照明装置120Aと、ビーム分離部144Aと、撮像装置140Aと、制御回路160とを有する。照明装置120Aは、被写体を直線偏光または非偏光で照射し、撮像装置140Aは、直線偏光または非偏光で照射された被写体を撮像する。図1に例示する構成において、制御回路160は、照明制御回路162および画像形成回路164を含む。
複数の光出射部122のそれぞれは、光源124と、光源124の前面に配置された偏光子126とを含む。各光出射部122からは、偏光子126の透過軸の方向に応じた直線偏光PLが出射される。光源124としては、例えば、白色発光ダイオードまたは赤外線発光ダイオードなどの公知の発光素子を用いることができ、偏光子126としては、市販の偏光シートまたは金属ワイヤグリッド偏光子などを用いることができる。
後に詳しく説明するように、複数の光出射部122は、透過軸の方向が互いに60°ずつ異なる3種の偏光子を含む。照明装置120Aは、複数の光源124のうち、前面に配置された偏光子126の透過軸の方向が共通する光源124を選択的に点灯させることにより、偏光方向の異なる直線偏光で順次に被写体を照射することができる。また、複数の光源124の例えば全てを点灯させることにより、非偏光で被写体を照射することができる。本明細書において、「偏光方向」は、被写体から画像形成装置に向かう方向に沿って見たとき、基準方向(例えば水平方向)から電場ベクトルの振動方向に反時計回りに測った角度のうち、小さい方の角度を意味する。複数の光出射部122は、照明制御回路162の制御に基づいて駆動され得る。
撮像装置140Aは、対物レンズ148Aと、撮像素子142a、142bおよび142cとを有する。撮像素子142a〜142cとしては、CCDイメージセンサ、CMOS(Complementary MOS)イメージセンサ、および、半導体基板の上方に有機または無機の光電変換層が積層された、いわゆる積層型のイメージセンサなどを用いることができる。
図1に例示する構成において、ビーム分離部144Aは、撮像装置140Aの内部であって、対物レンズ148Aを通過した光が入射する位置に配置されている。ビーム分離部144Aは、典型的には、1以上のプリズム144pを含み、入射した光(ここでは被写体からの反射光)のビームから3つの光のビームを形成する。この例では、ビーム分離部144Aは、互いに隣接する2つのプリズムの間に反射面M1およびM2を有している。図1において模式的に示すように、入射した光ビームの一部は、反射面M1において反射され、プリズムと空気との界面においてさらに反射されて撮像素子142cに向けて出射される。反射面M1を透過して反射面M2に到達した光ビームの一部は、反射面M2において反射され、反射面M1においてさらに反射されて撮像素子142aに向けて出射される。反射面M1を透過した光ビームの残りの部分は、反射面M2をそのまま透過して撮像素子142bに向けて出射される。反射面M1は、入射した光ビームのおおよそ1/3の部分を反射させるように反射率が設計され、反射面M2は、入射した光ビームのおおよそ半分を反射させるように反射率が設計される。反射面M1およびM2が例えば金属膜または誘電体多層膜を有していてもよい。
ここでは、ビーム分離部144Aは、被写体と撮像素子142aとを結ぶ光路上に位置する検光子146a、被写体と撮像素子142bとを結ぶ光路上に位置する検光子146b、および、被写体と撮像素子142cとを結ぶ光路上との間に位置する検光子146cをさらに有する。検光子146a、146bおよび146cには、光出射部122の偏光子126と同様に、市販の偏光シートまたは金属ワイヤグリッド偏光子などを用いることができる。ビーム分離部144Aから出射されて撮像素子142aに入射する第1の光ビームは、検光子146aを通過した直線偏光のビームである。同様に、ビーム分離部144Aから出射されて撮像素子142bに入射する第2の光ビームは、検光子146bを通過した直線偏光のビームであり、ビーム分離部144Aから出射されて撮像素子142cに入射する第3の光ビームは、検光子146cを通過した直線偏光のビームである。
検光子146a、146bおよび146cは、互いに60°ずつ異なる透過軸の方向を有する。検光子146a、146bおよび146cの透過軸の方向は、それぞれ、例えば0°、60°、120°である。したがって、ここでは、ビーム分離部144Aは、被写体からの戻り光から0°の偏光方向を有する第1成分、60°の偏光方向を有する第2成分および120°の偏光方向を有する第3成分を分離し、それぞれ、撮像素子142a、142bおよび142cに向けて出射する。
撮像素子142aの撮像面は、被写体からの戻り光のうち、0°の偏光成分(第1成分)を受け、撮像素子142bおよび142cは、被写体からの戻り光のうち、60°の偏光成分(第2成分)および120°の偏光成分(第3成分)をそれぞれ受ける。つまり、撮像装置140Aは、照明装置120Aからの照明光(直線偏光または非偏光)のもとにおいて、被写体に関して、互いに異なる偏光成分に基づく3つの画像(以下、各画像を「偏光画像」と呼ぶことがある。)を一度に取得することができる。ここで、撮像素子142a、142bおよび142cの撮像面の全体を1つの撮像面とみなすと、撮像装置140Aの撮像面が、第1成分を受ける第1領域Ra、第2成分を受ける第2領域Rbおよび第3成分を受ける第3領域Rcを含んでいるということができる。この例では、第1領域Ra、第2領域Rbおよび第3領域Rcは、それぞれ、撮像素子142a、142bおよび142cの撮像面である。
このように、撮像装置140Aは、撮像素子142a、撮像素子142bおよび撮像素子142cによって、それぞれ、偏光方向が0°の光に関する偏光画像C0、偏光方向が60°の光に関する偏光画像C60および偏光方向が120°の光に関する偏光画像C120を1回の撮像で取得する。
図1中、偏光画像C0、C60およびC120を模式的に示す矩形の内側の太い両矢印は、撮像素子に入射する光の電場ベクトルの振動方向、すなわち、偏光画像を構成する光の偏光方向を示している。ここでは、これらの太い両矢印によって示される方向は、対応する検光子の透過軸の方向に一致する。以下、本開示の他の図面においても、偏光画像を構成する光の偏光方向または検光子の透過軸の方向を太い両矢印によって示すことがある。
本明細書において、検光子の透過軸の方向は、撮像面に向かって見たとき、基準方向(例えば水平方向)から検光子の透過軸に平行な方向に反時計回りに測った角度のうち、小さい方の角度によって表現される。なお、上述の0°、60°および120°の角度は、検光子146a、146bおよび146cの透過軸の絶対的な方向を意味しない。検光子146a、146bおよび146cの間で、透過軸の方向の相対的な関係が一定の関係を有していればよい。また、これらの角度の値は、あくまでも例示であり、検光子の透過軸の方向を示す角度が、本明細書中に示された具体的な値に厳密に一致している必要はない。例えば数°程度のずれは許容される。ただし、ずれが小さい方が光の利用効率の面で有利である。
図1に例示する構成において、制御回路160は、照明装置120Aの動作を制御する照明制御回路162と、撮像装置140Aからの信号に基づいて被写体の画像を形成する画像形成回路164とを含む。制御回路160は、例えばCPU(Central Processing Unit)を有するマイクロコントローラなどであり得る。照明制御回路162、ならびに、画像形成回路164は、単一のマイクロコントローラの一部であってもよいし、それぞれが独立した処理回路であってもよい。例えば、画像形成回路164が、DSP(digital signal processor)、ASIC(application specific integrated circuit)またはFPGA(field-programmable gate array)などによって実現されてもよい。制御回路160が1以上のメモリを有していてもよい。
画像形成装置100Aは、例えば、被写体を直線偏光で照射して撮像を実行する第1のモードと、被写体を非偏光で照射して撮像を実行する第2のモードとを選択可能に構成される。後に詳しく説明するように、照明制御回路162は、第1のモードでは、複数の光源124のうち、前面に配置された偏光子126の透過軸の方向が共通する光源124が選択的に点灯されるように照明装置120Aを制御する。第1のモードでは、偏光面の角度が互いに60°ずつ異なる直線偏光が照明装置120Aから被写体に順次に照射される。撮像装置140Aは、例えば制御回路160の制御に基づいて、照明装置120Aの直線偏光の切り替えに同期して、偏光面の異なる光の照射ごとに撮像を実行する。すなわち、第1のモードでは、照明光の偏光状態を変えて3回の撮像が実行される。このとき、3回の撮像のそれぞれにおいて3枚の偏光画像C0、C60およびC120が並列的に取得される。つまり、第1のモードにおいては、合計9枚の偏光画像が取得される。画像形成回路164は、これら9枚の偏光画像に基づいて被写体の画像を形成する。第1のモードを表面観察モードと呼んでもよい。
他方、第2のモードでは、照明制御回路162は、典型的には、複数の光源124の全てが点灯されるように照明装置120Aを制御する。後述するように、このとき、実質的に非偏光で被写体を照明することができる。第2のモードにおいても、撮像装置140Aは、3枚の偏光画像C0、C60およびC120を取得する。このとき得られる偏光画像C0、C60およびC120のデータは、被写体の形状の推定に利用可能である。第2のモードを形状測定モードと呼んでもよい。第1および第2のモードの間の切り替えは、例えば、不図示の入力デバイス(ボタン、タッチスクリーンなど)に対するユーザの指示に基づいて実行され得る。あるいは、メモリに保持されたプログラムの指示に沿った制御回路160の制御に基づき、これらのモードの間の切り替えが自動的に実行されてもよい。例えば、第1のモードの実行後に連続して自動的に第2のモードが実行されてもよい。第1のモードおよび第2のモードの実行の順序は、逆であってもよい。
本開示の典型的な実施形態によれば、照明光学系および撮像光学系を共通としながら、例えば被写体の表面の微細な凹凸の観察に有利な、直線偏光の照射のもとでの偏光撮像と、被写体の形状の推定に有用な情報を与える、非偏光の照射のもとでの偏光撮像とを単一の装置で切り替えて実行し得る。
図2は、被写体側から見た、複数の光出射部122の配置の典型例を示す。図2に示す例において、照明装置120Aの複数の光出射部122は、複数の光出射部122a、122bおよび122cを含む。典型的には、光出射部122a〜122cは、同一の平面内に配置され、撮像装置140Aの対物レンズ148Aは、例えば、光出射部122a〜122cが配置された平面内に位置する。なお、複数の光出射部122aに含まれ、複数の光出射部122aの外部に光を出射する複数の第1面と、複数の光出射部122bに含まれ、複数の光出射部122bの外部に光を出射する複数の第2面と、複数の光出射部122cに含まれ、複数の光出射部122cの外部に光を出射する複数の第3面は同一の第1平面に配置されてもよい。また、対物レンズ148Aの最先端面は第1平面とは同じ平面であってよい。
図2は、光出射部122a〜122cが配置された平面の法線方向に沿って被写体側から見たときの光出射部122a〜122cの典型的な配置を示している。この例では、複数の光出射部122は、被写体側から照明装置120Aおよび撮像装置140Aを見て撮像装置140Aを取り囲むような配置を有している。複数の光出射部122が撮像装置140Aを取り囲むことは必須ではないが、複数の光出射部122が撮像装置140Aを取り囲むような配置を有していると装置の小型化に有利である。また、複数の光出射部122が撮像装置140Aを取り囲むような配置を有すると、同軸照明に近い照明を実現し得る。
この例では、照明装置120Aは、それぞれ4つの光出射部122a、122bおよび122cを有し、図2において破線の二重の円で示すようにこれらがリング状に配置されている。ここでは、光出射部122a、122bおよび122cの組が、対物レンズ148Aの位置を中心とする円の円周上に沿って反時計回りに4組並んでいる。図2に例示する構成において、光出射部122a、122bおよび122cのそれぞれの中心は、正十二角形の頂点上に位置する。
本開示の典型的な実施形態において、偏光子126の透過軸の方向は、光出射部122a、122bおよび122cの間で互いに60°ずつ異なっている。光出射部122aにおける偏光子126の透過軸の方向は、例えば30°であり、光出射部122bおよび光出射部122cにおける偏光子126の透過軸の方向は、例えばそれぞれ90°および150°である。検光子の透過軸の方向を示す角度と同様に、偏光子の透過軸の方向を示す角度も、本明細書中に示された具体的な値に厳密に一致している必要はなく、例えば数°程度のずれは許容され得る。本明細書では、被写体から光源124に向かって見たとき、上述の基準方向から偏光子126の透過軸に平行な方向に反時計回りに測った角度のうち、小さい方の角度によって偏光子126の透過軸の方向を表現する。図2中、光出射部122a、122bおよび122cの位置に描かれた円の内側の太い両矢印は、被写体に照射される直線偏光の偏光方向を表しているといえる。本開示の他の図面においても、被写体に照射される直線偏光の偏光方向を円の内側の太い両矢印によって示すことがある。
透過軸の方向が光出射部122a、122bおよび122cの間で互いに60°ずつ異なっている点は、検光子146a、146bおよび146cにおける透過軸の方向の関係と共通しているといえる。ただし、光出射部122a、122bおよび122cの偏光子126と、検光子146a、146bおよび146cとの間で透過軸の方向が一致していないことに注意すべきである。例えば、光出射部122aにおける偏光子126の透過軸の方向は、ここでは30°であり、この角度の値は、検光子146aの透過軸の方向(0°)および検光子146bの透過軸の方向(60°)の値から30°異なっている。
図2に例示するような照明装置120Aの構成によれば、複数の光出射部122のうち、光出射部122bおよび122cを消灯し、光出射部122aを選択的に点灯させることにより、30°の偏光方向を有する直線偏光で被写体を照射することができる。光出射部122bを選択的に点灯させれば、90°の偏光方向を有する直線偏光で被写体を照射することができ、光出射部122cを選択的に点灯させれば、150°の偏光方向を有する直線偏光で被写体を照射することができる。あるいは、光出射部122a、122bおよび122cを一斉に点灯させることにより、非偏光で被写体を照射することができる。上述したように、ここでは、光出射部122a、122bおよび122cの間で偏光子126の透過軸の方向が互いに60°ずつ異なっているので、光出射部122a、122bおよび122cからの直線偏光を均一に混合でき、実質的に非偏光を得ることができる。
図2に示す例では、例えば4つの光出射部122aは、それぞれの中心が、ある円の円周上に位置するような配置を有し、かつ、4つの光出射部122aのそれぞれの中心は、正方形の頂点上に位置している。換言すれば、4つの光出射部122aの位置を結ぶと、正方形が描かれる。4つの光出射部122bも同様に、それぞれの中心が、対物レンズ148Aの位置を中心とする正方形の頂点上に位置しており、4つの光出射部122cの中心も、対物レンズ148Aの位置を中心とする正方形の頂点上に位置している。このように、出射される光の偏光方向が共通する複数の光出射部のそれぞれを結んだ図形の重心が例えば撮像装置の対物レンズの位置に一致するような光出射部の配置を採用することにより、被写体を直線偏光で均一に照明し得る。また、互いに異なる偏光方向を有する光を出射する光出射部の間で、偏光方向が共通する複数の光出射部のそれぞれを結んだ図形の重心が一致していると、被写体を非偏光で均一に照明し得るのでより有益である。
(画像形成装置の動作、第1のモード)
以下、画像形成装置100Aの動作の例を説明する。以下では、被写体として、透明または半透明かつ滑らかな表面を有する物体を例示する。このような物体の例は、生体(例えば人または動物)の眼球、錠剤の透明パッケージなどであり、ここでは、被写体として人の眼球を想定する。
まず、第1のモードにおける典型的な動作を説明する。
上述したように、第1のモードでは、照明制御回路162(図1参照)は、複数の光源124のうち、前面に配置された偏光子126の透過軸の方向が共通する光源124が選択的に点灯されるように照明装置120Aを制御する。ここでは、光出射部122aの光源124、光出射部122bの光源124および光出射部122cの光源124を順次に選択的に点灯させる。このような駆動により、被写体は、30°の偏光方向を有する第1の直線偏光、90°の偏光方向を有する第2の直線偏光、および、150°の偏光方向を有する第3の直線偏光で順次に照明される。
図3は、第1のモードにおいて撮像装置140Aによって取得される偏光画像を説明するための模式図である。図3において例えば左側には、撮像装置140Aの撮像素子142a、142bおよび142cに入射する光の偏光方向と、第1の直線偏光が照射されているときに撮像装置140Aが取得する3枚の偏光画像との間の対応が模式的に示されている。以下、本明細書および図面において、偏光方向がx°の、被写体に照射される直線偏光をLxのように表現し、Lxの照明光で被写体が照明されているときに取得される、電場ベクトルの振動方向がy°の光に基づく画像をLxCyと表現する。例えば、偏光方向が30°の直線偏光で被写体が照明されているときに取得される、偏光方向が0°の状態にある光に基づく偏光画像をL30C0のように記述する。
光出射部122aの光源124が選択的に点灯されているとき、30°の偏光方向を有する第1の直線偏光が被写体(ここでは人の眼球)に照射される。なお、人の眼球は、透明かつ滑らかな表面の角膜を有し、光出射部122aからの照明光は、眼球の表面およびその近傍で反射され、偏光状態にはほとんど変化は生じない。被写体からの戻り光のビームは、ビーム分離部144Aによって3つの光ビームに分割され、撮像素子142a、撮像素子142bおよび撮像素子142cは、それぞれ、検光子146a、146bおよび146cを通過した光を受ける。例えば撮像素子142aには、0°の方向に偏光した状態にある光が入射する。
30°の偏光方向を有する照明光L30が照射されているとき、図3において左側に模式的に示すように、撮像装置140Aは、撮像素子142a、撮像素子142bおよび撮像素子142cによってそれぞれ偏光画像L30C0、L30C60およびL30C120を撮像する。これらのうち、偏光画像L30C120は、被写体に照射される光の偏光方向と、撮像素子に入射する光の偏光方向とが互いに直交する直交ニコル画像である。
次に、照明制御回路162は、光出射部122bの光源124を選択的に点灯させる。図3の中央には、このときに撮像装置140Aが取得する3枚の偏光画像の群を模式的に示している。光出射部122bの光源124が選択的に点灯されているとき、90°の偏光方向を有する第2の直線偏光が被写体に照射される。このとき、撮像装置140Aは、偏光画像L90C0、L90C60およびL90C120を撮像する。これらのうち、偏光画像L90C0は、直交ニコル画像である。
さらに、照明制御回路162は、光出射部122cの光源124を選択的に点灯させる。図3の右側に模式的に示すように、光出射部122cの光源124が選択的に点灯されているとき、150°の偏光方向を有する第3の直線偏光が被写体に照射される。このとき、撮像装置140Aは、偏光画像L150C0、L150C60およびL150C120を撮像する。これらのうち、偏光画像L150C160は、直交ニコル画像である。図3からわかるように、偏光画像L30C0、L90C0およびL150C0は、いずれも、撮像装置140Aの第1領域Raに入射する光の信号によって構成される画像であり、偏光画像L30C60、L90C60およびL150C60は、いずれも、撮像装置140Aの第2領域Rbに入射する光の信号によって構成される画像である。偏光画像L30C120、L90C120およびL150C120は、いずれも、撮像装置140Aの第3領域Rcに入射する光の信号によって構成される画像である。
画像形成回路164(図1参照)は、照明光の偏光状態を変えて取得された合計9枚の偏光画像に基づき、被写体の画像を生成する。以下、画像形成回路164による処理の例を説明する。
図4は、画像形成回路164による典型的な処理の概略を示す。ここで説明する例では、画像形成回路164は、概略的には、被写体の画像として、平均化された平行ニコル画像と、平均化された直交ニコル画像との差分処理の結果である偏光差分画像のデータを生成する。非特許文献1に記載されているように、被写体に関して平行ニコル画像および直交ニコル画像を取得し、これらの差分を求めることにより、被写体の表面の微細な凹凸に起因するコントラストが強調された画像データを得ることができる。平行ニコル画像および直交ニコル画像の差分に基づいて、被写体上の傷、異物などに関する有用な情報を得ることが可能である。
非特許文献1および特許文献1に記載の技術では、0°の偏光方向を有する照明光および90°の偏光方向を有する照明光のそれぞれの照射のもとで平行ニコル画像と直交ニコル画像とを取得する。さらに、偏光方向が互いに異なる照明光のもとで取得された平行ニコル画像と直交ニコル画像とをそれぞれ平均化し、これらの差分を求めている。本明細書における偏光画像の表記を用いれば、この処理は、(L0C0+L90C90)/2−(L0C90+L90C0)/2と表現される。このような処理を採用している理由は、平行ニコル画像および直交ニコル画像のそれぞれの取得において例えば異なる撮像素子および検光子の組を用い、単純にこれらの画像に対して差分処理を施すと、画像取得に用いた撮像光学系の特性の違いに起因して差分処理の結果に比較的大きなノイズが含まれてしまうことがあるからである。
図3を参照して説明したように、第1の直線偏光の照射のもとで得られる3枚の偏光画像、第2の直線偏光の照射のもとで得られる3枚の偏光画像、および、第3の直線偏光の照射のもとで得られる3枚の偏光画像のそれぞれには、必ず1枚の直交ニコル画像が含まれる。したがって、ここでは、図4に模式的に示すように、各直線偏光の照射のもとで得られる直交ニコル画像L30C120、L90C0およびL150C60を平均化することにより、平均化直交ニコル画像OAを形成する。ここで、「平均化する」とは、複数の画像の間で対応する画素同士の画素値の算術平均を算出することを意味する。したがって、平均化直交ニコル画像OAを(L30C120+L90C0+L150C60)/3のように表現することができる。
他方、偏光方向を変えて得られる合計9枚の偏光画像には、平行ニコル画像は含まれていない。そのため、ここでは、平行ニコル画像以外の6枚の偏光画像から2枚ずつ偏光画像を選択し、3枚の擬似的な平行ニコル画像を形成する。例えば、偏光画像L30C0およびL150C0に注目すると、これらの偏光画像の取得時に被写体に照射される直線偏光の偏光方向は、図5に模式的に示すように、検光子146aの透過軸の方向である0°に対して±30°ずれた角度である。したがって、偏光画像L30C0およびL150C0を平均化した画像PC0(図4参照)は、偏光方向が0°の直線偏光で被写体を照射したときに得られる平行ニコル画像を擬似的に表現する画像とみなすことができる。同様に、偏光画像L30C60およびL90C60を平均化した画像PC60(図4参照)は、偏光方向が60°の直線偏光でもとで得られる平行ニコル画像を擬似的に表現し、偏光画像L90C120およびL150C120を平均化した画像PC120(図4参照)は、偏光方向が120°の直線偏光の照射のもとで得られる平行ニコル画像を擬似的に表現するといえる。
画像PC0と、画像PC60と、画像PC120との平均化は、偏光方向が0°、60°および120°の直線偏光のもとでそれぞれ得られる平行ニコル画像を平均化した結果と同様の結果を与えるといえる。ただし、例えば画像PC0に注目すると、偏光画像L30C0およびL150C0では被写体に照射される直線偏光の偏光方向が検光子146aの透過軸の方向に対して正または負に30°ずれているので、撮像素子142aに入射する光の強度は、直線偏光の偏光方向が検光子146aの透過軸の方向に一致している場合の強度のcos230°倍となる。この点を考慮して、図4に模式的に示すように、ここでは、画像形成回路164は、直交ニコル画像以外の6枚の偏光画像を平均化した画像PAを形成し、補正係数(1/cos230°)=(4/3)を乗じることにより、平均化擬似平行ニコル画像SPAを形成する。なお、LxCyの表記を用いれば、平均化擬似平行ニコル画像SPAを、(2/3)*(L30C0+L150C0+L30C60+L90C60+L90C120+L150C120)/3と表現することができる。なお、「*」は、乗算を表す。
画像形成回路164は、さらに、被写体の画像として、平均化擬似平行ニコル画像SPAおよび平均化直交ニコル画像OAを差分処理することによって得られる画像PDを形成する。画像PDは、下記の式(1)のように表現される。
式(2)において、角括弧内の例えば第1項は、透過軸の方向が0°の検光子を透過した光に基づく平行ニコル画像および直交ニコル画像の差分に相当する。式(2)からわかるように、最終的に得られる画像PDは、透過軸の方向が0°の検光子を透過した光に基づく平行ニコル画像および直交ニコル画像の差分と、透過軸の方向が60°の検光子を透過した光に基づく平行ニコル画像および直交ニコル画像の差分と、透過軸の方向が120°の検光子を透過した光に基づく平行ニコル画像および直交ニコル画像の差分とを平均化した結果と実質的に等価な結果を表現する。すなわち、画像PDは、検光子146aと撮像素子142aとの組、検光子146bと撮像素子142bとの組、および、検光子146cと撮像素子142cとの組によってそれぞれ平行ニコル画像と直交ニコル画像とを取得し、これらの組ごとに平行ニコル画像および直交ニコル画像の差分を求め、3つの差分を平均化したときと同様の結果を与える。
平均化擬似平行ニコル画像SPAおよび平均化直交ニコル画像OAの差分に基づいて画像PDを求める上述の処理によれば、処理の過程で、ビーム分離部144Aにおける光路の差異、撮像素子142a〜142c間の特性の差異などの影響が平均化される。したがって、これらの差異に起因する画質の劣化を抑制し得る。また、式(2)は、被写体に照射される直線偏光の偏光方向に関しても対称的な形をしており、したがって、上述の処理によれば、光出射部122a〜122cの間における光源124の特性も平均化され、高品位の被写体画像が得られることがわかる。
図6は、照明装置120A中の偏光子126の透過軸の方向と、検光子146a〜146cの透過軸の方向との間の関係を示す。図6中の白丸「○」および黒丸「●」は、それぞれ、偏光子126の透過軸の方向と、検光子146a〜146cの透過軸の方向とを示す。図6に示すように、照明装置120Aに含まれる偏光子126の透過軸の方向は、30°、90°および150°の60°間隔であり、0°〜180°の範囲で均等に分布している。検光子146aの透過軸の方向、検光子146bの透過軸の方向および検光子146cの透過軸の方向は、それぞれ、0°、60°および120°の60°間隔であり、これらも0°〜180°の範囲で均等に分布している。また、互いに隣接する白丸および黒丸の組の間隔は、いずれの組についても30°である。
第1モードにおける、第1領域Raに入射する光、第2領域Rbに入射する光、および、第3領域Rcに入射する光のそれぞれについての偏光方向と、被写体を照明する直線偏光の偏光方向との間の関係も、図6のグラフ中の3つの白丸および3つの黒丸の組み合わせと同様の関係を有する。図6に示されるように、本開示の典型的な実施形態では、3つの白丸および3つの黒丸が均等な分布を示すように、例えば偏光子および検光子における透過軸の方向が選ばれる。図6の例のように3つの白丸および3つの黒丸が180°の範囲において均等に分布していると、9枚の偏光画像の間で照明光に関する3種の偏光方向と、撮像面に入射する光に関する3種の偏光方向とをバランスよく利用できるので有益である。結果として、平均化擬似平行ニコル画像SPAおよび平均化直交ニコル画像OAの形成において、照明光および撮像面に入射する光に関する偏光方向の均等化の効果が得られる。
図7は、上述の非特許文献2の内視鏡装置における、照明側の偏光子および撮像側の検光子における透過軸の方向の関係を比較例として示す。図7中の白丸「○」および黒丸「●」は、それぞれ、照明側の偏光子の透過軸の方向と、撮像側の検光子の透過軸の方向とを示す。
この例では、3つの白丸のそれぞれについて、90°離れた位置に、対応する黒丸が存在している。つまり、このような透過軸の方向の選択によれば、3つの直交ニコル画像を得ることができる。また、0°および90°の位置に白丸および黒丸の組が存在しているので、照明光の偏光方向が0°および90°の平行ニコル画像を得ることができる。しかしながら、照明光の偏光方向が135°の平行ニコル画像を得ることはできないので、上述したような平均化擬似平行ニコル画像SPAおよび平均化直交ニコル画像OAの差分をそのまま適用することはできない。また、この例では、互いに隣接する2つの白丸の間隔が45°であるが、135°の位置に白丸が存在しておらず、偏光子の透過軸の方向は、180°の範囲で分布に偏りを有する。撮像側の検光子については、互いに隣接する2つの黒丸の間隔が90°または45°であり、等間隔ではない。したがって、たとえ照明光の偏光方向が45°の平行ニコル画像に相当する画像を別個に生成して平均化擬似平行ニコル画像SPAおよび平均化直交ニコル画像OAの差分処理を適用したとしても、平均化の効果を十分に得ることはできない。なお、このような偏光子の透過軸の方向の選択によっては、偏光方向が互いに異なる3種の偏光をたとえ混合したとしても非偏光を得ることは困難である。
図4を参照しながら説明した、平均化擬似平行ニコル画像SPAおよび平均化直交ニコル画像OAの差分を求める処理によれば、さらに、以下のような利点も得られる。
図8は、0°の偏光方向を有する直線偏光の照射のもとで生物の眼球を撮像したときに得られる直交ニコル画像の例を示す。図9は、図8に示す直交ニコル画像の取得時の光源、被写体およびカメラの配置を示す。ここでは被写体701として魚の眼球を選択し、図9に模式的に示されるように、被写体701とカメラ704とを結ぶ直線に対して同軸状態に近い5°の方向に光源710を配置して撮像している。光源710と被写体701との間には透過軸の方向が0°の偏光子が配置されている。被写体701とカメラ704との間には透過軸の方向が90°の検光子が配置されている。この例では被写体701に照射される光は、0°の偏光方向を有する。
生物の眼球を被写体として直交ニコル画像を取得すると、図8に示すように、画像中に十字状の暗いパターン705が現れることがある。図8からわかるように、暗いパターン705は、瞳孔の位置に生じる。このような暗いパターン705の発生は、眼球の角膜および水晶体の複屈折特性に起因する現象とされている。このような暗いパターン705の発生は、被写体の画像を劣化させる原因となり得る。また、図8に示す例では、この暗いパターン705は、0°の方向に延びる部分と、90°方向に延びる部分とを有している。つまり、入射する直線偏光の偏光方向およびその直交方向に平行に暗い部分が発生していることがわかる。したがって、暗いパターン705の発生には、照明光における電場ベクトルの振動方向の異方性が影響していると推測される。
このように、生物の眼球を被写体とした場合、単純に取得した直交ニコル画像では、画像中に暗いパターン705が混入するために、被写体に関して正確な情報が得られない可能性がある。以下に説明するように、被写体の画像として画像PDを形成する処理によれば、このような暗いパターンの影響を除去し得る。
図10は、平均化直交ニコル画像OAの形成による、十字状の暗いパターンの影響の除去の原理を模式的に示す。図3を参照して説明したように、本開示の典型的な実施形態では、照明光の偏光方向ごとに1枚の直交ニコル画像が取得される。図10において模式的に示すように、これらの直交ニコル画像(ここでは偏光画像L90C0、L150C60およびL30C120)は、十字状の暗いパターン705を含み得る。ただし、これらの複数の画像の間で、十字状の暗いパターン705中の暗い部分が延びる方向は、互いに異なる。例えば偏光画像L90C0中に現れる暗い部分は、0°および90°の方向に沿って延び、偏光画像L150C60中に現れる暗い部分は、60°および150°の方向に沿って延びる。つまり、照明光の偏光方向が60°異なっていることに対応して、暗い部分が延びる方向は、偏光画像L90C0およびL150C120の間で60°異なる。
図10において模式的に示すように、平均化直交ニコル画像OAは、偏光画像L90C0、L150C60およびL30C120を合成することによって構築することができる。ここで、異なる偏光画像の間で暗い部分の延びる方向が60°異なるので、各偏光画像中の暗いパターン705が空間的に平均化される。ここでは、3つの偏光画像の間で照明光の偏光方向が互いに60°異なっているので、各偏光画像中の暗いパターン705が均等に平均化され、結果として、暗いパターン705の影響が除去された平均化直交ニコル画像OAが形成される。すなわち、被写体の画像としての画像PDは、暗いパターン705の影響が除去された画像となる。
なお、基準平面、基準平面に含まれる基準直線の周りの第1方向に30度回転させた第2平面、基準直線の周りの第1方向に90度回転させた第4平面、および、基準直線の周りの第1方向に150度回転させた第6平面を仮定してもよい。
複数の光出射部122aのそれぞれは第2平面に平行な第1平面上で振動する光を透過し、第2平面に平行でない平面で振動する光を透過しない第1偏光子を含んでもよい。複数の光出射部122aは複数の第1平面上で振動する第1光を、第1期間に、被写体に照明してもよい。複数の光出射部122bのそれぞれは第4平面に平行な第3平面上で振動する光を透過し、第3平面に平行でない平面で振動する光を透過しない第2偏光子を含んでもよい。複数の光出射部122bは複数の第3平面上で振動する第2光を、第2期間に、被写体に照明してもよい。複数の光出射部122cのそれぞれは第6平面に平行な第5平面上で振動する光を透過し、第5平面に平行でない平面で振動する光を透過しない第3偏光子を含んでもよい。複数の光出射部122cは複数の第5平面上で振動する第3光を、第3期間に、被写体に照明してもよい。第1期間は第2期間と重ならず、かつ、第1期間は第3期間と重ならず、かつ、第2期間は第3期間と重ならなくてもよい。
ビーム分離器は、被写体が第1光を反射して出力する第1反射光を受光して第1偏向光、第2偏向光、第3偏向光を出力し、被写体が第2光を反射して出力する第2反射光を受光して、第4偏向光、第5偏向光、第6偏向光を出力し、被写体が第3光を反射して出力する第3反射光を受光して、第7偏向光、第8偏向光、第9偏向光を出力してもよい。ビーム分離部144Aであるビーム分離器は検光子146aである第1検光子、検光子146bである第2検光子、検光子146cである第3検光子を備えてもよい。ビーム分離器は受光した第1反射光を分離して第1分離光、第2分離光、第3分離光を生成してもよい。第1検光子は、第1分離光を受光し、第1偏向光を出力してもよい。第2検光子は、第2分離光を受光し、第2偏向光を出力してもよい。第3検光子は、第3分離光を受光し、第3偏向光を出力してもよい。ビーム分離器は受光した第2反射光を分離して第4分離光、第5分離光、第6分離光を生成してもよい。第1検光子は、第4分離光を受光し、第4偏向光を出力してもよい。第2検光子は、第5分離光を受光し、第5偏向光を出力してもよい。第3検光子は、第6分離光を受光し、第6偏向光を出力してもよい。ビーム分離器は受光した第3反射光を分離して第7分離光、第8分離光、第9分離光を生成してもよい。第1検光子は、第7分離光を受光し、第7偏向光を出力してもよい。第8検光子は、第8分離光を受光し、第8偏向光を出力してもよい。第9検光子は、第9分離光を受光し、第9偏向光を出力してもよい。
第1偏向光、第4偏向光、第7偏向光のそれぞれは、基準平面に平行な第7平面上で振動し、第2偏向光、第5偏向光、第8偏向光のそれぞれは、基準平面を、基準平面に含まれる基準直線の周りの第1方向に60度回転させた第9平面に平行な第8平面上で振動し、第3偏向光、第6偏向光、第9偏向光のそれぞれは、基準平面を、基準直線の周りの第1方向に120度回転させた第11平面に平行な第10平面上で振動してもよい。
なお、撮像素子142aは複数の第1画素、撮像素子142bは複数の第2画素、および撮像素子142cは複数の第3画素を含んでもよい。複数の第1画素は複数の第2画素と1対1に対応し、複数の第1画素は複数の第3画素と1対1に対応してもよい。
複数の第1画素は、第1偏向光を受光し、複数の第1画素のそれぞれに対応する複数の第1画素値を含む偏光画像L30C0を出力してもよい。複数の第2画素は、第2偏向光を受光し、複数の第2画素のそれぞれに対応する複数の第2画素値を含む偏光画像L30C60を出力してもよい。複数の第3画素は、第3偏向光を受光し、複数の第3画素のそれぞれに対応する複数の第3画素値を含む偏光画像L30C120を出力してもよい。複数の第1画素は、第4偏向光を受光し、複数の第1画素のそれぞれに対応する複数の第4画素値を含む偏光画像L90C0を出力してもよい。複数の第2画素は、第5偏向光を受光し、複数の第2画素のそれぞれに対応する複数の第5画素値を含む偏光画像L90C60を出力してもよい。複数の第3画素は、第6偏向光を受光し、複数の第3画素のそれぞれに対応する複数の第6画素値を含む偏光画像L90C120を出力してもよい。複数の第1画素は、第7偏向光を受光し、複数の第1画素のそれぞれに対応する複数の第7画素値を含む偏光画像L150C0を出力してもよい。複数の第2画素は、第8偏向光を受光し、複数の第2画素のそれぞれに対応する複数の第8画素値を含む偏光画像L150C60を出力してもよい。複数の第3画素は、第9偏向光を受光し、複数の第3画素のそれぞれに対応する複数の第9画素値を含む偏光画像L150C120を出力してもよい。
画像形成回路は、画素値p(i)=(p1(i)+p2(i)+p5(i)+p6(i)+p7(i)+p9(i))×(2/9)−(p3(i)+p4(i)+p8(i))/3を算出し、算出した画素値に基づいて、被写体の画像を生成してもよい。p1(i)は複数の第1画素値に含まれ、p2(i)は複数の第2画素値に含まれ、p3(i)は複数の第3画素値に含まれ、p4(i)は複数の第4画素値に含まれ、p5(i)は複数の第5画素値に含まれ、p6(i)は複数の第6画素値に含まれ、p7(i)は複数の第7画素値に含まれ、p8(i)は複数の第8画素値に含まれ、p9(i)は複数の第9画素値に含まれてもよい。p1(i)は、p2(i)、p3(i)、p4(i)、p5(i)、p6(i)、p7(i)、p8(i)、p9(i)に対応し、前記iは自然数であってもよい。
被写体の画像における、画素値p(i)に対応する画素の位置は、偏光画像L30C0に含まれる画素の位置のうちp1(i)に対応する画素の位置、または、偏光画像L30C60に含まれる画素の位置のうちp2(i)に対応する画素の位置、または、偏光画像L30C120に含まれる画素の位置のうちp3(i)に対応する画素の位置、または、偏光画像L90C0に含まれる画素の位置のうちp4(i)に対応する画素の位置、または、偏光画像L90C60に含まれる画素の位置のうちp5(i)に対応する画素の位置、または、偏光画像L90C120に含まれる画素の位置のうちp6(i)に対応する画素の位置、または、偏光画像L150C0に含まれる画素の位置のうちp7(i)に対応する画素の位置、または、偏光画像L150C60に含まれる画素の位置のうちp8(i)に対応する画素の位置、または、偏光画像L150C120に含まれる画素の位置のうちp9(i)に対応する画素の位置であってもよい。
(画像形成装置の動作、第2のモード)
次に、第2のモードにおける典型的な動作を説明する。
第2のモードは、透明または半透明かつ滑らかな表面を有する物体の形状の推定に有用なモードであり、第2のモードでは、被写体に非偏光を照射し、被写体からの戻り光に基づく画像データを取得する。被写体に非偏光を照射し、被写体からの戻り光の偏光状態に基づいて被写体の形状を推定する技術は、Shape From Polarizationと呼ばれる。非特許文献4において説明されているように、Shape From Polarizationにおいては、一般に、被写体に対して大域的に非偏光を照射した状態でカメラ側の検光子を回転させて、互いに検光子の透過軸の方向が異なる少なくとも3枚の画像を取得する。以下に説明するように、本開示の実施形態によれば、別途に照明光学系および撮像光学系を設けることなく、Shape From Polarizationに必要な画像データを取得可能な画像形成装置を提供することができる。
図11は、第2のモードにおける照明装置120Aの動作を説明するための模式図である。第2のモードでは、照明制御回路162(図1参照)は、光出射部122a、光出射部122bおよび光出射部122cの光源124を同時に点灯させる。つまり、照明装置120Aは、30°の偏光方向を有する光、90°の偏光方向を有する光および150°の偏光方向を有する光で同時に被写体を照明する。このとき、図11に模式的に示すように、光出射部122a、122bおよび122cからの直線偏光が混合され、実質的に非偏光の照明光NPが被写体に照射される。
図12は、被写体からの戻り光の偏光状態と、撮像装置140Aによって取得される3枚の偏光画像との間の関係を模式的に示す。図12に模式的に示すように、被写体からの戻り光は、部分偏光となる。照明装置120Aからの照明光NPの照射時、撮像装置140Aの撮像素子142aは、被写体からの戻り光のうち、偏光方向が0°の光に基づく偏光画像NC0を取得する。撮像素子142bおよび142cは、被写体からの戻り光のうち、偏光方向が60°の光に基づく偏光画像NC60および偏光方向が120°の光に基づく偏光画像NC120をそれぞれ取得する。
このように、画像形成装置100Aによれば、照明光学系および撮像光学系の構成に変更を加えることなく、選択されたモードに応じて、点灯させる光源を切り替えることによって、Shape From Polarizationに利用可能な3枚の偏光画像NC0、NC60およびNC120のデータを取得することができる。しかも、これらの3枚の偏光画像を一度の撮像で取得することができ、検光子の角度を変えて少なくとも3回の撮像を実行する従来の手法と比較して、撮像に要する時間を短縮することができる。
偏光画像NC0、NC60およびNC120が取得できれば、非特許文献3または非特許文献4に記載されているような手法を適用することにより、偏光画像NC0、NC60およびNC120に基づいて被写体の形状を推定することが可能である。例えば非特許文献4に記載されているように、検光子を回転させながら撮像すると、検光子を透過した光の強度(得られる画像中の画素の輝度値といってもよい。)は、180°周期の正弦関数状の変化を示す。検光子の角度を変えて被写体に関して少なくとも3枚の画像を得ることにより、検光子を透過した光の強度を表す正弦曲線を決定することができる。この正弦曲線は、位相角φおよび検光子の回転角θpの関数であり、この正弦曲線が決定できれば、位相角φから、被写体の表面にたてた法線ベクトルの方位角を決定できる。また、この正弦曲線に基づいて偏光度ρを求めることができ、偏光度ρから、法線ベクトルの天頂角を決定できる。なお、位相角φは、基準方向と、電場ベクトルの振幅が最も大きい、戻り光の偏光成分の電場ベクトルの振動方向とがなす角であり、φ=θpのとき、正弦曲線を表す関数は、最大値をとる。参考のため、非特許文献3および非特許文献4の開示内容の全てを本明細書に援用する。
図13は、画像形成装置100A中の検光子146a、146bおよび146cの透過軸の方向と、このような透過軸の方向の設定のもとで取得される偏光画像に基づいて決定される正弦曲線との間の関係を示す。図13中の黒丸「●」は、検光子146a〜146cの透過軸の方向を示す。図13中のグラフは、偏光画像NC0、NC60およびNC120に基づいて決定される正弦曲線であり、検光子の角度を変えて撮像を行ったとした場合に得られる画像中の画素の輝度値の変化を表す。
本開示の典型的な実施形態では、一度の撮像において、偏光方向が互いに60°ずつ異なる光のそれぞれに関する偏光画像が取得される。図6を参照しながら説明したように、検光子146a〜146cの透過軸の方向を示す黒丸は、180°の範囲において60°間隔で均等に分布する。したがって、第2のモードで取得される3枚の偏光画像を利用すれば、例えば非特許文献4のように検光子を0°、45°および90°の45°間隔で回転させて撮像を実行した場合と比較して高精度に正弦曲線を決定できると期待できる。同様の理由から、本開示の典型的な実施形態は、撮像側の検光子の透過軸の方向を0°、90°および135°(−45°)として撮像を実行する非特許文献2(図7参照)の構成に対しても優位性を有するといえる。また、図6からわかるように、本開示の典型的な実施形態では、偏光子126の透過軸の方向が、180°の範囲で均等に分布するように選ばれるので、正弦曲線の振幅、平均および位相の3つのパラメータを精度よく決定し得る。
図14は、上述の特許文献2の内視鏡装置における、偏光照射部から被写体に照射される光の偏光方向およびCCDカメラに入射する光の偏光方向の関係を比較例として示す。図14中の白丸「○」および黒丸「●」は、それぞれ、偏光照射部から照射される光の偏光方向と、CCDカメラに入射する光の偏光方向とを示す。この例では、4つの白丸および黒丸が0°、45°、90°および135°(−45°)に位置している。
図14に示す比較例では、4つの白丸および4つの黒丸が45°間隔で並んでいる。180°の範囲で偏光方向を均等に分布させるという点では、図14に示す偏光方向の選択は、有効であるものの、Shape From Polarizationの適用ために偏光方向が互いに45°ずつ異なる光のそれぞれに関する4枚の偏光画像を一括して取得しようとすると、例えば偏光モザイクフィルタが必要になり、複雑な光学系を用いる必要が生じてしまう。
本開示の典型的な実施形態によれば、1回の撮像で3枚の偏光画像が得られるので、被写体の形状の推定に必要な撮像にかかる時間を短縮し得る。また、撮像面に入射する光に関する3種の偏光方向が180°の範囲で均等に設定されているので、被写体の形状の推定に要する計算を効率的に実行し得る。上述した、照明制御回路162および画像形成回路164の機能は、汎用の処理回路とソフトウェアとの組み合わせによって実現されてもよいし、このような処理に特化したハードウェアによって実現されてもよい。上述の第1のモードおよび第2のモードは、順次に連続して実行されてもよいし、例えば同一の被写体に関して第1のモードによる撮像を実行した後、時間をあけて第2のモードによる撮像を実行してもよい。なお、いずれのモードを先に行うかは、任意に決定してよい。第1のモードおよび第2のモードの一方または両方において、照明光の偏光面を変えての撮像を繰り返してもよい。
(第2の実施形態)
図15は、本開示の第2の実施形態による画像形成装置の例示的な構成を示す。図15に示す画像形成装置100Bは、図1を参照して説明した画像形成装置100Aと比較して、撮像装置140Aに代えて撮像装置140Bを有する。第1の実施形態と同様に、照明装置120Aは、被写体200を直線偏光または非偏光で照明し、撮像装置140Bは、照明装置120Aからの光(直線偏光または非偏光)で照明された状態にある被写体200を撮像する。
撮像装置140Bは、撮像面142sを有する撮像素子142Bと、撮像素子142Bを収容する筐体149Bとを有する。撮像素子142Bの撮像面142sは、第1領域Ra、第2領域Rbおよび第3領域Rcを含む。第1領域Ra、第2領域Rbおよび第3領域Rcのそれぞれは、撮像面142sの互いに異なる領域である。
筐体149Bは、複数の開口を有する。この例では、筐体149Bに3つの開口APa、APbおよびAPcが設けられている。開口APa、APbおよびAPcは、撮像時に被写体200に対向する面に形成される。開口APa、APbおよびAPcの位置には、検光子146a、146bおよび146cがそれぞれ配置される。検光子146a、146bおよび146cの位置は、被写体200と撮像素子142Bとを結ぶ光路上において開口APa、APbおよびAPcの位置と厳密に一致している必要はなく、例えば、検光子146a、146bおよび146cがそれぞれ開口APa、APbおよびAPcの近傍かつ筐体149Bの内部に位置していてもよい。検光子146a、146bおよび146cの透過軸の方向は、第1の実施形態と同様にそれぞれ0°、60°および120°である。
図15に例示する構成において、検光子146aと撮像素子142Bとの間には、対物レンズ148aが配置されている。また、検光子146bと撮像素子142Bとの間、および、検光子146c(図15において不図示)と撮像素子142Bとの間には、それぞれ、対物レンズ148bおよび148cが配置されている。この例では、対物レンズ148aが検光子146aよりも撮像素子142Bの近くに配置されている。しかしながら、検光子146aおよび対物レンズ148aの配置は、この例に限定されない。対物レンズ148aは、被写体200と第1領域Raとを結ぶ光路上に位置していればよく、例えば、対物レンズ148aよりも撮像素子142Bの近くに検光子146aが位置していてもよい。対物レンズ148bおよび148cについても同様であり、対物レンズ148bおよび148cは、それぞれ、被写体200と第2領域Rbとを結ぶ光路上および被写体200と第3領域Rcとを結ぶ光路上に位置していればよい。
対物レンズ148aは、被写体200からの戻り光(反射光)のうち、検光子146aを通過した光を撮像面142sの第1領域Ra上に結像させる。同様に、対物レンズ148bは、被写体200からの戻り光のうち、検光子146bを通過した光を撮像面142sの第2領域Rb上に結像させ、対物レンズ148cは、検光子146cを通過した光を撮像面142sの第3領域Rc上に結像させる。撮像面142sの第1領域Ra、第2領域Rbおよび第3領域Rcは、それぞれ、被写体200からの戻り光に含まれる0°の偏光方向を有する成分、60°の偏光方向を有する成分、および、120°の偏光方向を有する成分を受ける部分であるといえる。図15に例示する構成において、開口APa〜APc、検光子146a〜146cおよび対物レンズ148a〜148cは、図1に示す構成におけるビーム分離部144Aと同様の機能を有し得、これらの集合をビーム分離部と呼んでもよい。
図16は、被写体200側から見た、画像形成装置100Bの照明装置120Aおよび撮像装置140Bの配置関係の典型例を示す。図16中、開口APa、APbおよびAPcの位置に示された太い両矢印は、それぞれ、検光子146a、146bおよび146cの透過軸の方向を示している。
典型的には、照明装置120Aの光出射部122a〜122cを含む平面と、撮像装置140Bの開口APa〜APcを含む平面とは、互いに平行である。図16は、撮像装置140Bの開口APa〜APcを含む平面の法線方向に沿って被写体200側から見た照明装置120Aおよび撮像装置140Bを示している。図16に例示する構成において、上述の法線方向に沿って被写体200側から見たとき、照明装置120Aの光出射部122a〜122cは、撮像装置140Bの開口APa〜APcを取り囲んでいる。第2の実施形態においても、照明装置120Aは、第1の実施形態と同様に駆動され得る。すなわち、光出射部122aの光源124、光出射部122bの光源124および光出射部122cの光源124(図15参照)は、順次または同時に点灯される。
この例では、リング状に配置された光出射部122a〜122cのほぼ中央に、開口APa、APbおよびAPcが互いに近接して配置されており、開口APa、APbおよびAPcは、それぞれの中心が正三角形の頂点上に位置する。互いに隣接する2つの開口の中心間の距離は、例えば1.0mm以上10mm以下程度である。開口APa、APbおよびAPcのそれぞれの中心が正三角形の頂点上に位置することは必須ではなく、例えば、任意の三角形の頂点上、あるいは、正方形などの他の図形の複数の頂点のうちから選択された3つの頂点上に開口APa、APbおよびAPcのそれぞれの中心が位置していてもかまわない。
図15に模式的に示されるように、撮像装置140Bでは、被写体200上の同一の点から発せられ、検光子146aを通過した光、検光子146bを通過した光、および、検光子146cを通過した光は、撮像面142sにおいて互いに異なる位置に結像する。したがって、撮像装置140Bによれば、第1の実施形態における撮像装置140Aと同様に、1回の撮像で、入射する光の偏光方向が60°ずつ互いに異なる光に基づく偏光画像C0、C60およびC120が取得される。ただし、開口APa、APbおよびAPcの位置が互いに異なるので、取得される偏光画像C0、C60およびC120の間には視差が生じる。そのため、ここでは、撮像素子142Bからの出力を受け取った画像形成回路164は、複数の偏光画像の間の視差をキャンセルする補正処理を実行する。
図17は、偏光画像間の視差のキャンセル処理の例を説明するための図である。図17の一番左側の列は、照明装置120Aの動作状態を模式的に示す。照明装置120Aの各動作状態の右側には、動作状態に応じて同一のタイミングで取得される3枚の偏光画像が示されている。
既に説明したように、第1のモードでは、複数の光出射部122a、複数の光出射部122bおよび複数の光出射部122cから順次に直線偏光が出射される。ここでは、あるタイミング(時刻t)において4つの光出射部122aから直線偏光が出射されて撮像が実行される。このとき、図17において最上段に示されるように、検光子146aを通過した光に基づく偏光画像L30C0と、検光子146bを通過した光に基づく偏光画像L30C60と、検光子146cを通過した光に基づく偏光画像L30C120とが撮像装置140Bによって取得される。また、他のあるタイミング(時刻(t+1))において4つの光出射部122bから直線偏光が出射されて撮像が実行され、同様に、検光子146a、検光子146bおよび検光子146cを通過した光のそれぞれに基づく3枚の偏光画像L90C0、L90C60およびL90C120が取得される。さらに他のあるタイミング(時刻(t+2))において4つの光出射部122cから直線偏光が出射されて撮像が実行され、3枚の偏光画像L150C0、L150C60およびL150C120が取得される。
ここでは、第1の実施形態と同様に、被写体200として、人の眼球を例示する。人の眼球のように、透明または半透明かつ滑らかな表面を有する被写体に対して、図15において模式的に示すように複数の位置から直線偏光PLが照射されると、被写体200には、鏡面反射に起因する複数の輝点BPが生じる。これらの輝点BPの位置は、撮像時に点灯されていた光源124の位置を反映する。
図17を参照して、時刻tにおいて4つの光出射部122aの光源124が点灯される。ここでは、4つの光出射部122aの中心が、正方形の頂点上に位置している。したがって、図17において模式的に示すように、このときに取得される偏光画像L30C0、L30C60およびL30C120には、直交ニコル画像である偏光画像L30C120を除いて、4つの輝点BPの像BMが現れる。
偏光画像L30C0、L30C60およびL30C120は、互いに異なる視点から取得された画像であり、これらの間には視差が存在する。ただし、偏光画像L30C0中の4つの像BM間の位置関係と、偏光画像L30C60中の4つの像BM間の位置関係は、共通している。例えば被写体200の直上から直線偏光PLの照射と撮像とを実行した場合、偏光画像L30C0中の4つの像BMのそれぞれの中心を結べば正方形が描かれ、また、偏光画像L30C60中の4つの像BMのそれぞれの中心を結べば同様の正方形が描かれる。以下に説明するように、偏光画像中の像BMの位置を検出し、2枚の偏光画像の間で像BMが重なるようにこれらの偏光画像を平行移動またはその他の画像処理を施すことにより、撮像時の視点の違いの影響をキャンセルすることが可能である。
例えば、画像形成回路164は、偏光画像L30C0中の4つの像BMと、偏光画像L30C60中の4つの像BMとを検出し、それらの座標を求める。像BMのそれぞれの座標は、例えば、予め設定しておいた閾値より高い画素値を有する複数の画素の中央に位置する画素の座標として求めることができる。2つの画像の間で対応する像BMの座標間の距離は、開口APaおよび開口APbの中心間の距離に対応する。さらに、画像形成回路164は、例えば、2つの画像の間で対応する像BMの座標が適当な座標に一致するように、偏光画像L30C0およびL30C60を平行移動させる。これにより、偏光画像L30C0およびL30C60の間の視差がキャンセルされる。
偏光画像L30C60およびL30C120の間の視差は、時刻(t+1)に取得される偏光画像L90C60およびL90C120の間の視差から見積もることができる。図17の中段に示すように、偏光画像L90C0、L90C60およびL90C120のうち、偏光画像L90C60およびL90C120には、撮像時に光源124が点灯されていた光出射部122bの配置に対応する位置に、像BMが現れる。同様の手順により、偏光画像L90C60およびL90C120の間で対応する像BMの座標が適当な座標に一致するように、これらの画像を平行移動させれば、偏光画像L90C60およびL90C120の間の視差がキャンセルされる。
ここで、偏光画像L90C60およびL90C120は、開口APbおよびAPcをそれぞれ視点として取得される画像であり、時刻tに取得される偏光画像L30C60およびL30C120もまた、開口APbおよびAPcをそれぞれ視点とする画像であるので、偏光画像L90C60およびL90C120の間の視差と、偏光画像L30C60およびL30C120の間の視差とは、一致する。したがって、偏光画像L90C60に施した平行移動と同じ方向に同じ移動量だけ偏光画像L30C60を平行移動させ、偏光画像L90C120に施した平行移動と同じ方向に同じ移動量だけ偏光画像L30C120を平行移動させれば、偏光画像L30C60およびL30C120の間の視差がキャンセルされる。
同様にして、偏光画像L150C0およびL150C120中に現れた像BMの位置に基づいて、偏光画像L150C0およびL150C120の間の視差と、偏光画像L30C0およびL30C120の間の視差と、偏光画像L90C0およびL90C120の間の視差とを求め、平行移動などによって視差をキャンセルすることが可能である。結局、像BMの位置に基づいて、撮像時の視点の違いの影響がキャンセルされるように、9枚の偏光画像を平行移動させることができる。9枚の偏光画像中から視差をキャンセルすれば、視差がキャンセルされた偏光画像に基づいて、平均化擬似平行ニコル画像SPAおよび平均化直交ニコル画像OAを形成し、これらの差分に基づき、被写体200の画像としての画像PDを得ることができる。画像PDは、例えば角膜上の異物、傷などの検出に有利に用いることができる。典型的には、画像PDには、輝点BPの像BMが残るものの、輝点BPの像BMの存在が角膜の観察の大きな妨げになることはほとんどない。図17では、説明の便宜のために輝点BPの像BMが誇張して大きく描かれているに過ぎない。
なお、第1のモードを実行してから第2のモードを実行すれば、撮像時の視点の違いに起因した視差の大きさを上述の原理によって知ることができるので、第2のモードで取得される偏光画像NC0、NC60およびNC120の間の視差をキャンセルすることが可能である。必要に応じ、偏光画像中に現れる輝点BPの像BMのパターンに基づき、平行移動に代えて、あるいは、平行移動に加えて、平行移動以外の処理(例えば回転移動)を実行してもよい。
第2の実施形態によれば、1回の撮像につき3つの視点からの3枚の偏光画像が一括して得られる。さらに、照明光の偏光方向を変えて複数回撮像を実行することにより、撮像時に点灯されていた光源の配置に対応した位置に現れる、偏光画像中の輝点の像の位置に基づいて、複数の偏光画像間の視差をキャンセル可能である。図17を参照して説明した例では、光源124が同じタイミングで点灯される4つの光出射部の中心が正方形の頂点上に位置している。しかしながら、同じタイミングで点灯される複数の光出射部122が正方形、正多角形など頂点上に位置している必要はない。上述の視差のキャンセルの処理から明らかなように、複数の光出射部122の配置としては、任意の配置を適用し得る。なお、ここでは偏光画像中の像BM自体の座標を利用したが、例えば、偏光画像中の像BMの位置を結んだ図形の重心の座標が一致するように、複数の偏光画像に平行移動などの処理を施してもよい。
(第2の実施形態の変形例)
図18は、本開示の第2の実施形態による画像形成装置の変形例を示す。図18に示す画像形成装置100Baは、図15に示す撮像装置140Bを撮像装置140Baに置き換えた構成を有する。撮像装置140Bと比較して、撮像装置140Baは、対物レンズ148a〜148cに代えて、開口APa、APbおよびAPcと撮像素子142Bとの間に、対物レンズ148sを有する。対物レンズ148sは、検光子146a〜146cの前面側および背面側のいずれに配置されていてもよい。撮像装置140Baは、さらに、対物レンズ148sと撮像素子142Bの撮像面142sとの間に配置されたマイクロレンズアレイ144を有する。マイクロレンズアレイ144は、各々が撮像素子142Bの対応する撮像セルに対向する複数のマイクロレンズを含む。
この例では、開口APaに配置された検光子146aを通過した光、開口APbに配置された検光子146bを通過した光、および、開口APcに配置された検光子146cを通過した光のいずれもが対物レンズ148sを通過する。ただし、撮像素子142の撮像面142sの前面にマイクロレンズアレイ144が配置されているので、開口APaを通過した光、開口APbを通過した光、および、開口APcを通過した光は、それぞれ、撮像面142sの互いに異なる領域Ra、RbおよびRcに到達する。撮像装置140Baの光学系は、例えば、開口APaを通過した光、開口APbを通過した光、および、開口APcを通過した光が、撮像セルのアレイの互いに異なる行(または列)の撮像セル上に結像するように設計され得る。つまり、この場合、被写体200からの戻り光は、電場ベクトルの振動方向に応じて撮像面142s上の互いに異なる領域に到達し、撮像装置140Baからは、視差を有する3つの偏光画像がインターリーブされた画像の信号が出力される。
出力信号を後段の画像処理によって3つの偏光画像の信号に分離することにより、検光子146a〜146cの透過軸の方向にそれぞれ応じた、視差を有する3つの偏光画像を得ることができる。図15を参照して説明した画像形成装置100Bと同様に駆動させ、取得される偏光画像に対して画像形成装置100Bと同様の処理を適用することができる。
(第3の実施形態)
図19は、本開示の第3の実施形態による画像形成装置の例示的な構成を部分的に示す。図19に示す画像形成装置100Cは、複数の光出射部122を含む照明装置120Cと、撮像装置140Cと、不図示の制御回路とを有する。照明装置120Cは、複数の光出射部122を含み、撮像装置140Cは、複数の偏光カメラ145を含む。複数の偏光カメラ145は、偏光カメラ145a〜145cを含む。画像形成装置100Cにおける制御回路は、上述の画像形成装置100Aなどと同様の照明制御回路および画像形成回路を有し得る。
図19は、画像形成装置100Cにおける光出射部122a〜122cおよび偏光カメラ145a〜145cの配置の例を示す。図19に示す例において、光出射部122a〜122cおよび偏光カメラ145a〜145cは、同一の平面内に配置されている。図19は、光出射部122a〜122cおよび偏光カメラ145a〜145cが配置された平面の法線方向に沿って被写体側から見たときの光出射部122a〜122cおよび偏光カメラ145a〜145cの典型的な配置を示している。
この例では、偏光カメラ145a〜145cは、それぞれが撮像素子、検光子および対物レンズを含み、被写体に関して、特定の偏光方向の光に基づく偏光画像を取得する。偏光カメラ145a、145bおよび145cは、それぞれ、検光子146a、146bおよび146cを有する。図19中、網掛けの矩形に重ねて描かれた両矢印は、各検光子の透過軸の方向を示している。検光子146a、146bおよび146cの透過軸の方向は、これまでに説明した例と同様、それぞれ、0°、60°および120°である。なお、図19において模式的に示すように、光出射部122a、122bおよび122cの偏光子の透過軸の方向もこれまでに説明した例と同様であり、それぞれ、30°、90°および150°である。
図19において模式的に示すように、光出射部122a〜122cは、それぞれの中心が三角格子の格子点上に位置する配置を有する。この例では、偏光カメラ145a〜145cも、それぞれの中心が三角格子の格子点上に位置するように配置されており、各偏光カメラは、互いに隣り合う光出射部122a、122bおよび122cによって形成される三角形の中央に位置している。画像形成装置100Cは、それぞれが光出射部122a〜122cと、偏光カメラ145a〜145cとを1つずつ含む複数の単位構造を有する。図19中の破線の円は、5つの単位構造150CT、150UL、150UR、150LLおよび150LRを示している。画像形成装置100Cは、複数の単位構造がタイリングされた構造を有する。
画像形成装置100Cのある動作例において、画像形成装置100Cの制御回路の照明制御回路および画像形成回路は、複数の単位構造のうちの1つを選択し、順次に駆動させる。図20は、単位構造150CT、150UL、150UR、150LLおよび150LR中の光出射部122a〜122cの光源の駆動タイミングの例を示す。
図20に示す例では、時刻T1〜T2において、5つの単位構造のうち、まず、単位構造150CT中の光出射部122a〜122cおよび偏光カメラ145a〜145cを駆動させる。後述するように、このとき、単位構造150CTを例えば第1のモードおよび第2のモードで順次に動作させ、被写体に関する複数の偏光画像を偏光カメラ145a〜145cによって取得する。図20に示すように、時刻T1〜T2の間は、単位構造150UL、150UR、150LLおよび150LR中の光出射部122a〜122cの光源は、いずれもOFF状態である。
次に、時刻T2において、単位構造150CT中の光出射部122a〜122cの光源をOFFにして、単位構造150UL中の光出射部122a〜122cの光源をONとする。つまり、時刻T2〜T3において、単位構造150UL中の光出射部122a〜122cおよび偏光カメラ145a〜145cを駆動させ、被写体に関する複数の偏光画像を単位構造150ULの偏光カメラ145a〜145cによって取得する。以降、同様にして、被写体に関する複数の偏光画像を、単位構造150UR、150LLおよび150LRの偏光カメラによって順次取得する。図20に例示するように、単位構造150CT、150UL、150UR、150LLおよび150LRによる偏光画像の取得のサイクルを複数回繰り返してもよい。
図21は、各単位構造中の光出射部122a〜122cの光源の点灯タイミングを示している。図21中の両矢印P1は、第1のモードでの動作期間を示し、両矢印P2は、第2のモードでの動作期間を示している。図21に示すように、期間P1では、光出射部122aの光源、光出射部122bの光源および光出射部122cの光源が順次に選択的に点灯され、それぞれの光源のONの期間に偏光カメラ145a〜145cによって3枚の偏光画像が取得され、合計9枚の偏光画像が取得される。期間P2では、光出射部122aの光源、光出射部122bの光源および光出射部122cの光源が同時に点灯され、偏光カメラ145a〜145cによって3枚の偏光画像が取得される。期間P2における3枚の偏光画像の取得の回数は、複数回であり得る。
このように、ここで説明する実施形態では、単位構造ごとに順次に撮像を実行することによって、被写体に関する画像を単位構造ごとに得ることができる。以下に説明するように、画像形成装置100Cは、例えば生体の観察に有利に用いることができる。
図22は、照明装置120Cおよび撮像装置140Cと、被写体との間の配置を示す。図22に示す例において、画像形成装置100Cの複数の光出射部122および複数の偏光カメラ145は、基板150(例えば配線基板)の一方の主面(以下、説明の便宜のために「センサ面」と呼ぶことがある。)上に配置されている。例えば人の眼球を撮像する場合、照明装置120Cおよび撮像装置140Cは、基板150上の複数の光出射部122および複数の偏光カメラ145が顔面に対向するように配置される。撮像時には、被写体である眼球の中心が、基板150の中央に立てた法線上に位置するように、複数の光出射部122および複数の偏光カメラ145と、被写体との間の配置を調整する。
図22に示されるように側面から照明装置120Cおよび撮像装置140Cを見たとき、ある光出射部122の中心と、その光出射部122に最も近接している偏光カメラ145の対物レンズの中心との間の距離をd1とすれば、センサ面と眼球の表面との間の距離d2は、典型的には、d1の20倍以上である。図19によく表されているように、ここでは、複数の光出射部122および複数の偏光カメラ145は、2次元的に(平面上または曲面上に)ほぼ均等に分布するような配置を有しており、人の眼球の可動範囲である、上下左右に関して例えばθ=45°までの範囲をカバーする。ここで、θは、単位構造150CTの中心と眼球の中心とを結ぶ線分、および、注目した偏光カメラ145と眼球の中心とを結ぶ線分のなす角である。
単位構造150CT、150UL、150UR、150LLおよび150LRは、被検者が中央、左上、右上、左下および右下を注視したときのセンサ面上の領域にそれぞれ対応する。各単位構造は、偏光子の透過軸の角度がそれぞれ30°、90°および120°の光出射部122a、122bおよび122cを含み、かつ、検光子の透過軸の角度がそれぞれ0°、60°および150°の偏光カメラ145a、145bおよび145cを含む。つまり、単位構造150CT、150UL、150UR、150LLおよび150LRの各々に対して、第2の実施形態による画像形成装置100Bと同様の動作および処理を適用し得る。ここで説明する例では、単位構造150CT、150UL、150UR、150LLおよび150LRが2次元的に配置され、かつ、その配置が対称的であるので、眼球が動いても眼球の角膜または網膜を確実に撮像し得る。従来の眼球検査用の光学機器を用いる場合、顔をベルトで固定して眼球をなるべく動かさない状態で観察を行う必要があることに対し、第3の実施形態によれば、このような制約を減らして被検者のストレスを低減することが可能である。また、眼鏡型、コンタクトレンズ型の眼球ウェアラブルセンサなどとは異なり、撮像によって、眼球の状態に関する情報を非接触で取得することができる。
なお、図21に示す例では、同一の単位構造において第1のモードおよび第2のモードを連続して実行している。ある単位構造における第1のモードの実行と、第2のモードの実行との間に、他の単位構造による偏光画像の取得が介在されてももちろんかまわない。ただし、同一の単位構造において第1のモードおよび第2のモードが間隔をあけずに実行される動作の方が、眼球の動きの影響を受けにくいので、眼球の観察には有利である。なお、例えば緑内障の診断では、眼圧検査が行われる。この眼圧検査においては、角膜に風を当てた状態て角膜の変形を調べる。画像形成装置100Cを用いれば、角膜表面の観察と、風による角膜の変形の測定とをそれぞれ第1および第2のモードで続けて実行し得る。
図22からもわかるように、ここでは、各単位構造中の偏光カメラ145a、145bおよび145cのセンサ面における位置は、互いに異なっている。つまり、偏光カメラ145a、145bおよび145cによって取得される偏光画像の間には、視差が存在する。偏光画像間の視差の影響は、例えば、図17を参照して説明した、偏光画像中に現れる輝点の像BMの座標を利用した平行移動などにより、第2の実施形態と同様にキャンセルすることができる。偏光画像に平行移動を適用すると、被写体に関するデータの存在しないブランク領域が平行移動後の画像に生じ得る。ただし、ここでは、単位構造150CT、150UL、150UR、150LLおよび150LRを2次元的に配置しているので、第2の実施形態による画像形成装置100Bを用いて複数の方向から被写体を撮像したときと同様の効果が得られる。換言すれば、撮像時の視点が増加することにより、視野が拡大され、例えば単位構造150CTによって取得された偏光画像に生じたブランク領域を、他の単位構造150UL、150UR、150LLまたは150LRによって取得される偏光画像のデータを用いて補完し得る。なお、ここでは、偏光カメラ145a、145bおよび145cが独立してそれぞれ撮像素子を含む構成を例示しているが、各単位構造の偏光カメラ145に、第2の実施形態の撮像装置140Bまたは140Baと同様の構成を適用しても構わない。
図23および図24は、単位構造150CTによる撮像によって得られる効果を説明する図である。図23は、第1のモードでの照明光および戻り光の関係を模式的に示し、図24は、第2のモードでの照明光および戻り光の関係を模式的に示す。
単位構造150CTは、センサ面の中央付近に位置し、図19に示されるように、光出射部122a〜122cは、いずれも、単位構造150CT中の3つの偏光カメラ145の近傍に位置している。センサ面と眼球の表面との間の距離d2(図22参照)を、標準的な明視距離である200mmとしたとき、例えば、d1=10mmである。このような配置のもとでは、tan3°がおよそ0.05(=1/20)であることから、θ=3°程度であり、同軸照明に近い状態が実現する。
このような照明のもとでは、第1のモードで撮像を実行することにより、図23に模式的に示すように、角膜の表面付近で反射された光に基づいて、角膜の表面の凹凸(例えば傷)を検出し得る。また、θを3°程度にまで小さくした配置は、眼底撮像が可能な幾何学的な配置となる。したがって、第2のモードにより、図24に模式的に示すように、眼底付近にまで光を進入させて戻り光を観察し得る。すなわち、瞳孔を明るく撮像できる。これは、眼底で散乱され、角膜から空気中に出射する光の偏光状態に関する情報を撮像によって取得可能であることを意味する。したがって、本開示の実施形態によれば、取得される画像に基づいて、角膜のうち瞳孔に対応する部分の表面の法線方向、すなわち、角膜のうち瞳孔に対応する部分の形状に関する情報を取得したり、眼底の網膜の病変の有無を診断したりすることが可能になる。
図25は、照明装置120Cおよび撮像装置140Cの動作の応用例を示す。図25に示す例では、単位構造150CTに含まれる光出射部122a〜122cの光源をOFFとして、単位構造150CTの周囲の光出射部122a〜122cの光源をONとした状態で、単位構造150CTの偏光カメラ145a〜145cを用いて被写体の偏光画像を取得する。
図26は、図25に例示される動作によって得られる効果を説明するための図である。図25に示すような照明のもとでは、θ≧3°となり、瞳孔に入った光は、内部で反射および吸収されて外には出てこない。そのため、瞳孔は暗く撮像され、主として角膜で反射された光を選択的に偏光カメラ145に入射させることができる。したがって、第1のモードでは、角膜表面付近で反射した光に関する偏光画像に基づいて、眼球の表面の凹凸(例えば傷)を検出することができる。また、第2のモードでは、角膜に対してほぼ全体を鏡面反射状態とすることができ、角膜表面の法線ベクトルの推定に有用な偏光画像をより確実に取得することができる。
以上に説明したように、本開示の実施形態によれば、別途にハードウエアを追加することなく、透明または半透明かつ滑らかな表面を有する物体の表面の傷などの検出に有用な情報を与える画像と、その物体の形状の測定に有用な情報を与える画像とを単一の装置で取得することが可能である。また、被写体を照明する直線偏光に関する複数の偏光方向、および、撮像素子に入射する光に関する複数の偏光方向がバランスよく選択されているので、撮像の回数の増加を抑制しながら、画質の劣化の少ない画像を構築し得る。複数視点からの撮像への拡張も比較的容易であり、例えば、本開示の実施形態による画像形成装置を非接触の眼球観察用カメラとして利用し得る。