JP2019083501A - 撮像装置 - Google Patents

Abstract

【課題】特性の異なる信号を効率よく分離することができるようにする。【解決手段】画像生成部は、ストラクチャードライト光源からの所定のパターンの光が、被写体を撮像する撮像部の特定の画素の投影領域に照射されている状態で撮像が行われることによって得られた画素信号に基づいて被写体の画像を生成する。本開示は、例えば、ストラクチャードライト光源と撮像装置からなるカメラシステムに適用することができる。【選択図】図１

Description

本技術は、撮像装置に関し、特に、特性の異なる信号を効率よく分離することができる撮像装置に関する。

監視カメラシステム、セキュリティシステム、車載システム、ゲーム機などで用いられる物体認識や情報センシングの技術として、可視画像に加えて、赤外線(IR)画像を利用する手法が広く使われている。従来、可視画像を取得するための通常のイメージセンサと、IR光を受光してIR画像を取得するための専用のIRセンサの２つを組み合わせるものが主であったが、最近、可視画像とIR画像を同時に取得可能なイメージセンサが提案されている。

可視画像とIR画像を同時に取得可能なイメージセンサとして、例えば、２×２ベイヤ配列の１つのG画素を、IR光のみを透過するIR画素に置き換えたものが特許文献１に提案されている。特許文献１の提案は、R,G,B,IRそれぞれの画素からの信号を演算処理することにより可視信号とIR信号とを分離し、用途に応じてそれぞれの画像を出力するものである。

特開２０１４−１５０４７０号公報

しかしながら、特許文献１の提案では、被写体にIR光を照射した場合、R,G,Bの画素も強いIR光を受光してしまうため、可視信号とIR信号を演算処理のみにより完全に分離することが難しく、可視画像の画質（ノイズ、色再現性）を劣化させる要因となっていた。

したがって、画質の優れた可視画像とIR画像を取得するには、IR光と可視光をより効率よく分離する手法が必要とされていた。

本技術は、このような状況に鑑みてなされたものであり、特性の異なる信号を効率よく分離することができるものである。

本技術の一側面の撮像装置は、被写体を撮像する撮像部と、ストラクチャードライト光源からの所定のパターンの光が、前記撮像部の特定の画素の投影領域に照射されている状態で撮像が行われることによって得られた画素信号に基づいて前記被写体の画像を生成する画像生成部を備える。

本技術の一側面においては、ストラクチャードライト光源からの所定のパターンの光が、被写体を撮像する撮像部の特定の画素の投影領域に照射されている状態で撮像が行われることによって得られた画素信号に基づいて前記被写体の画像が生成される。

本技術によれば、特性の異なる信号を効率よく分離することができる。

なお、本明細書に記載された効果は、あくまで例示であり、本技術の効果は、本明細書に記載された効果に限定されるものではなく、付加的な効果があってもよい。

本技術を適用したカメラシステムの第１の構成例を示す図である。 SL光源の原理を説明する図である。 撮像装置の画角とIR-SL光源の照射角の関係を説明する図である。 図１の撮像装置の構成例を示すブロック図である。 図１のカメラシステムの撮像処理を説明するフローチャートである。 IR-SL光源の配置例を示す外観図である。 本技術を適用したカメラシステムの第２の構成例を示す図である。 図７の撮像装置の構成例を示すブロック図である。 SL光源の配置例を示す外観図である。 図７のカメラシステムの撮像処理を説明するフローチャートである。 画素配列の例を示す図である。 本技術を適用したカメラシステムの第３の構成例を示す図である。 SL光源の原理を説明する図である。 IR光照射装置および撮像装置の構成例を示すブロック図である。 イメージセンサの画素配列の例を示す図である。 撮像装置の画角とIR-SL光源の照射角の関係を説明する図である。 ダイクロイックミラーを用いた場合の撮像装置の画角とIR-SL光源の照射角の関係を説明する図である。 イメージセンサにおける光の入射側の一部の構成例を示す断面図である。 IRバンドパスフィルタとIR遮断フィルタの分光特性を示す図である。 各画素に対応する分光特性を示す図である。 撮像装置におけるカメラDSPの構成例を示すブロック図である。 図１２の撮像装置の信号処理を説明するフローチャートである。 本技術を適用したカメラシステムの第４の構成例を示す図である。 IR光照射装置および撮像装置の構成例を示すブロック図である。 イメージセンサの画素配列の例を示す図である。 撮像装置におけるカメラDSPの構成例を示すブロック図である。 図２３の撮像装置の信号処理を説明するフローチャートである。 コンピュータの構成例を示すブロック図である。 車両制御システムの概略的な構成の一例を示すブロック図である。 車外情報検出部及び撮像部の設置位置の一例を示す説明図である。 手術室システムの全体構成を概略的に示す図である。 集中操作パネルにおける操作画面の表示例を示す図である。 手術室システムが適用された手術の様子の一例を示す図である。 図３３に示すカメラヘッド及びＣＣＵの機能構成の一例を示すブロック図である。

以下、本開示を実施するための形態（以下実施の形態とする）について説明する。説明は以下の順序で行う。
１．第１の実施の形態
２．第２の実施の形態
３．第３の実施の形態
４．第４の実施の形態
５．コンピュータ
６．応用例１
７．応用例２

＜ 第１の実施の形態 ＞
＜カメラシステムの構成例＞
図１は、本技術を適用したカメラシステムの第１の構成例を示す図である。本技術のカメラシステムでは、ストラクチャードライト(SL)光源から、ドットパターンの光が所定の画素の投影領域に投影されている状態で、SL光源に近接した位置での撮像が行われる。

図１のカメラシステム１は、IR-SL光源としてのIR光照射装置１１と、撮像装置１２で構成される。図１には、被写体を想定した平面に、画素の投影領域が仮想的に破線で示されている。投影領域は、撮像装置１２内のイメージセンサの画素配列に対応する領域からなる。各投影領域に示される文字は、各投影領域に対応する画素が、R,G,B画素またはIR画素であることを示すものである。

IR光照射装置１１は、IR光を照射する装置であり、撮像装置１２に近接して固定して配置される。IR光照射装置１１は、IR画素に対応する投影領域のみを照射するようなドットパターンのIR光を照射する。投影領域のうち、IR画素の投影領域には、色付きの丸で示されるように、IR光照射装置１１からのIR光として、ドットパターンの各ドットが投影される。

撮像装置１２は、一例として、R,G,B画素およびIR画素が２×２のマトリクス状に配置されたイメージセンサを備えている。イメージセンサのシャッタ方式は、ローリングシャッタ方式であってもよいし、グローバルシャッタ方式であってもよい。

なお、図１においては、４×４画素の投影領域だけが示され、IR光が照射される投影領域が４つの領域とされているが、実際には、さらに多くの投影領域に対してそれぞれIR光の各ドットが照射される。

撮像装置１２は、IR画素に対応する投影領域のみを照射するようなドットパターンのIR光がIR光照射装置１１により照射されている状態で被写体を撮像する。R,G,B画素においては、所定の光源からの可視光が受光されている。これにより、撮像装置１２では、R,G,B画素からの信号に対応する可視画像とIR画素からの信号に対応するIR画像とが生成される。

＜ストラクチャードライト光源の原理＞
図２は、ストラクチャードライト光源の原理を説明する図である。

IR光照射装置１１は、レーザ光源２１の前面に回折格子２２を設けた構成を有する。回折格子２２を適切に設計することにより、マトリクス状の任意の位置（例えば、図１のIR画素の投影領域）にドットパターンのIR光を照射することが可能となる。

＜撮像装置の画角とIR-SL光源の照射角の関係＞
図３は、撮像装置の画角とIR-SL光源の照射角の関係を説明する図である。

IR光照射装置１１の光軸１１Ｃを中心としたSL照射角内の各実線は、SL照射領域の境界を示し、また、撮像装置１２の光軸１２Ｃを中心とした画角内の各破線は、画素領域の境界を示す。SL照射領域は、画素領域にIR-SL光源からドットが照射される領域である。カメラシステム１において、IR光照射装置１１のSL照射角と撮像装置１２の画角はおよそ一致するように設定されている。

図３の左側の実線Ｌ１は、撮像装置１２の投影領域を示している。双方向の矢印で示す範囲が、１画素の投影領域に相当する。画素投影領域の右側の一点鎖線Ｌ２は、視差一致限界距離を示している。視差一致限界距離は、IR光照射装置１１と撮像装置１２を起点とした、IR光照射装置１１と撮像装置１２との視差がほぼ一致する距離である。実線Ｌ１上と、一点鎖線Ｌ２上の黒の矩形は、ドットパターンの各ドットを表している。

図３のIR光照射装置１１からのドットパターンのIR光は、撮像装置１２の画素配列のうち、IR画素に相当する領域のみに照射される。その際、撮像装置１２とIR光照射装置１１を固定しておく。

これにより、IR光照射装置１１と撮像装置１２からみて、一点鎖線Ｌ２に示される視差一致限界距離より離れていれば、被写体がどの距離にあってもIR光照射装置１１から照射されるドットパターンのIR光と撮像装置１２の画素投影領域がずれることはない。よって、IR画素の投影境域とドットパターンのIR光は１：１に対応する。IR光の反射光は、R,G,Bの画素には到達せず、IR画素でのみ受光される。

視差一致限界距離は、例えば、イメージセンサの画素サイズを15um程度、レンズの焦点距離を3mm程度、IR光照射装置１１の光軸１１Ｃと撮像装置１２のイメージセンサ（レンズ）の光軸１２Ｃの距離の差を3mm程度とすると、約60cmとなる。

＜撮像装置の構成例＞
図４は、撮像装置の構成例を示すブロック図である。カメラシステム１における被写体の撮像は、IR-SL光源としてのIR光照射装置１１からのドットパターンのIR光が定常的に照射された状態で、撮像装置１２により行われる。

撮像装置１２は、レンズなどの光学系３１、イメージセンサ３２、画像生成部３３より構成される。

被写体からの光は、光学系３１を介して、イメージセンサ３２に入射される。イメージセンサ３２は、R,G,B画素およびIR画素が２×２のマトリクス状に配置された画素アレイ部を有している。イメージセンサ３２は、入射した光を光電変換し、画素アレイ部の各画素の画素値をA/D変換することで、画素の信号を生成する。

画像生成部３３は、イメージセンサ３２の画素アレイ部を構成する複数の画素のうち、R,G,B画素からの信号（可視信号）を用いて可視画像を生成し、生成した可視画像を、図示せぬ後段の信号処理部に出力する。また、画像生成部３３は、イメージセンサ３２の画素アレイ部を構成する複数の画素のうち、IR画素からの信号（IR信号）を用いてIR画像を生成し、生成したIR画像を、図示せぬ後段の信号処理部に出力する。

画像生成部３３は、信号分離部４１、補間処理部４２−１および補間処理部４２−２、並びに、高画質化信号処理部４３−１および高画質化信号処理部４３−２を含むように構成される。

信号分離部４１は、イメージセンサ３２の信号から可視信号を分離し、補間処理部４２−１に出力する。また、信号分離部４１は、イメージセンサ３２の信号からIR信号を分離し、補間処理部４２−２に出力する。

補間処理部４２−１は、R,G,B画素の配列に応じて、欠落した色の画素信号を生成するデモザイク処理などの補間処理をすることで可視画像を生成し、高画質化信号処理部４３−１に供給する。

補間処理部４２−２は、IR信号の補間処理をすることでIR画像を生成し、高画質化信号処理部４３−２に出力する。

高画質化信号処理部４３−１は、可視画像の高画質化処理を行い、高画質化処理後の可視画像を出力する。

高画質化信号処理部４３−２は、IR画像の高画質化処理を行い、高画質化処理後のIR画像を出力する。

＜カメラシステムの動作＞
次に、図５のフローチャートを参照して、撮像装置１２の撮像処理を説明する。

図５のステップＳ１１において、イメージセンサ３２は、IR光照射装置１１からのドットパターンのIR光が照射されている状態で被写体を撮像する。イメージセンサ３２は、入射した光を光電変換し、画素アレイ部の各画素の画素値をA/D変換することで、画素信号を生成する。

ステップＳ１２において、信号分離部４１は、イメージセンサ３２からの信号から可視信号とIR信号を分離する。分離された可視信号は補間処理部４２−１に出力され、IR信号は補間処理部４２−２に出力される。

ステップＳ１３において、補間処理部４２−１は、可視信号の補間処理をすることで可視画像を生成する。また、補間処理部４２−２は、IR信号の補間処理をすることでIR画像を生成する。補間後の可視画像は、高画質化信号処理部４３−１に出力される。補間後のIR画像は、高画質化信号処理部４３−２に出力される。

ステップＳ１４において、高画質化信号処理部４３−１は、可視画像の高画質化処理を行う。高画質化信号処理部４３−２は、IR画像の高画質化処理を行う。高画質化処理後の可視画像とIR画像は、後段の信号処理部に出力される。

以上のようにして得られた可視画像とIR画像とは、例えば監視カメラシステムの物体認識に用いられる。分離後に合成して、カラー画像を取得するようにしてもよい。

また、可視画像とIR画像とは、パーソナルコンピュータやスマートフォン用のセキュリティのための顔認証、または、虹彩認識に用いられる。認証用またはゲームなどのジェスチャ認識に用いるIR画像と可視画像を一台の撮像装置により同時取得が可能である。

以上のように、IR光を照射することによる被写体からの反射光は、IR画素でのみ受光されるため、RGB画素によって得られる可視信号に影響を与えることない。したがって、特性の異なる信号である可視信号とIR信号を分離することが可能となる。また、R,G,B画素上に、IR照射光を遮断する専用のオンチップフィルタを形成するようなことも不要となる。

＜IR-SL光源の配置例＞
図６は、IR-SL光源の配置例を示す外観図である。

図６のＡは、撮像装置１２に、IR-SL光源としての、IR光を照射するIR光照射部１１Ａを内蔵させることで、撮像の構成とIR光の照射の構成とを同一筐体に一体化した例を示す。この場合、IR光照射部１１Ａは、撮像装置１２のレンズに代表される光学系３１の近傍に配置される。

図６のＡのように一体化することで、光学系３１の後方に設けられるイメージセンサ３２の位置とIR光照射部１１Ａの位置をより近くに配置できるため、より近距離においてIR光のドットパターンと画素投影領域を一致させることが可能となる。

図６のＢは、撮像装置１２とIR-SL光源としてのIR光照射装置１１がそれぞれ独立して構成される例を示す。IR光照射装置１１は、例えば、撮像装置１２の筐体の上に、アジャスターなどで着脱可能に取り付けられる。

図６のＢのようにアジャスターで着脱可能に取り付けることで、IR光照射装置１１を用途に応じて取り替えることが可能となり、例えば、IR-SL光源として異なる波長のものへの切り替えが可能となる。

＜変形例１＞
以上のように、第１の実施の形態では、RGB-IR画素の配列として、２×２のマトリクス状に配置されたものを例に説明したが、RGB-IR画素の配列は、２×２のマトリクス状に配置されたものに限らない。例えば、RGB-IRではない、他の異なる画素配列でもよく、また、画素配列が３×３や４×４のマトリクス上に配置されたものであってもよい。

第１の実施の形態では、IR-SL光源のパターン形状として、IR光の各ドットが所定のパターンで配列されて構成されるドットパターンを例に説明したが、IR-SL光源のパターン形状は、ドットパターンに限らず、画素の投影領域に対応する形状であれば、複数画素が跨るように光があたるように形成されるパターンなど、他の形状でもよい。

第１の実施の形態では、ドットパターンの各ドットが、IR画素の投影領域に投影される場合を例に説明したが、IR画素だけに限らず、ドットパターンの各ドットがR,G,B画素のうちの特定の画素領域に投影されてもよい。例えば、IR画素とG画素にドットパターンの各ドットを投影するようにすると、IR信号を受光する画素が増えるため、IR画像の解像度を上げることができる。その際、G画素に混入するIR信号は、マトリクス演算にて減算処理される。

第１の実施の形態では、１つのIR-SL光源を用いた場合について説明したが、例えば、照射光の強度を上げるために、１つの画素に複数光源からの光が照射されるようにしてもよい。

＜ 第２の実施の形態 ＞
＜カメラシステムの構成例＞
図７は、本技術を適用したカメラシステムの第２の構成例を示す図である。

図７のカメラシステム５１は、SL光源としての光照射装置６１と、撮像装置６２で構成される。図７には、被写体を想定した平面に、画素の投影領域が仮想的に破線で示されている。投影領域は、撮像装置６２の画素配列に対応する領域からなる。各投影領域に示される文字は、各投影領域に対応する画素が、R,G,B画素またはIR画素であることを示すものである。

光照射装置６１が、投影領域に投影されるドットパターンを形成するSL光源として、R,G,B,IR光の４つの光源を有している点と、撮像装置６２が、イメージセンサとして、オンチップのカラーフィルタが搭載されていない白黒(W/B)のセンサを用いる点は、図１のカメラシステム１と異なっている。それ以外の共通する部分については、図１のカメラシステム１と同様の構成であるため、繰り返しになるので、共通する部分についての説明は省略される。

光照射装置６１が有する４つの光源は、R光を照射するR光源、G光を照射するG光源、B光を照射するB光源、IR光を照射するIR光源である。

R光源は、R画素に対応する投影領域のみを照射するようなドットパターンのR光を照射する。G光源は、G画素に対応する投影領域のみを照射するようなドットパターンのG光を照射する。B光源は、B画素に対応する投影領域のみを照射するようなドットパターンのB光を照射する。IR光源は、IR画素に対応する投影領域のみを照射するようなドットパターンのIR光を照射する。

投影領域には、４種類のハッチングの丸で示されるように、光照射装置６１の４つの光源からの光として、ドットパターンの各ドットが同時に投影される。

撮像装置６２は、光照射装置６１の４つの光源から、R,G,B,IRの各画素の投影領域のみを照射するようなドットパターンの光が照射されている状態で被写体を撮像する。これにより、上述した第１の実施の形態と同様に、R画像、G画像、B画像が合成された可視画像とIR画像の取得が可能となる。

＜撮像装置の構成例＞
図８は、撮像装置の構成例を示すブロック図である。カメラシステム５１における被写体の撮像は、SL光源としての光照射装置６１からのドットパターンの光が定常的に照射された状態で、撮像装置６２により行われる。

撮像装置６２は、レンズなどの光学系７１、イメージセンサ７２、および画像生成部７３より構成される。

被写体からの光は、光学系７１を介して、イメージセンサ７２に入射される。イメージセンサ７２は、入射した光を光電変換し、画素アレイ部の各画素の画素値をA/D変換することで、画素の信号を生成する。

イメージセンサ７２は、オンチップのカラーフィルタが搭載されていない白黒(W/B)のセンサである。イメージセンサ７２は、R,G,B画素およびIR画素が２×２のマトリクス状に配置された画素アレイ部を有している。

画像生成部７３は、イメージセンサ７２の画素アレイ部を構成する複数の画素のうち、R,G,B画素からのR,G,B信号を用いてそれぞれR,G,B画像を生成し、生成したR,G,B画像を、図示せぬ後段の信号処理部に出力する。画像生成部７３は、イメージセンサ７２の画素アレイ部を構成する複数の画素のうち、IR画素からのIR信号を用いてIR画像を生成し、生成したIR画像を、図示せぬ後段の信号処理部に出力する。

画像生成部７３は、信号分離部８１、補間処理部８２−１乃至補間処理部８２−４、高画質化信号処理部８３−１乃至高画質化信号処理部８３−４を含むように構成される。

信号分離部８１は、イメージセンサ７２の信号から、R信号を分離し、補間処理部８２−１に出力する。信号分離部８１は、イメージセンサ７２の信号から、G信号を分離し、補間処理部８２−２に出力する。信号分離部８１は、イメージセンサ７２の信号から、B信号を分離し、補間処理部８２−３に出力する。信号分離部８１は、イメージセンサ７２の信号から、IR信号を分離し、補間処理部８２−４に出力する。

補間処理部８２−１乃至補間処理部８２−３は、R,G,B画素の配列に応じて、欠落した色の画素信号を生成するデモザイク処理などの補間処理を行うことでR画像,G画像,B画像を生成し、それぞれ、高画質化信号処理部８３−１乃至高画質化信号処理部８３−３に供給する。

補間処理部８２−４は、IR信号の補間処理を行うことで、補間後のIR画像を生成し、高画質化信号処理部８３−４に出力する。

高画質化信号処理部８３−１乃至高画質化信号処理部８３−３は、R画像,G画像,B画像の高画質化処理を行い、高画質化処理後のR画像,G画像,B画像をそれぞれ出力する。

高画質化信号処理部８３−４は、IR画像の高画質化処理を行い、高画質化処理後のIR画像を出力する。

＜SL光源の配置例＞
図９は、SL光源の配置構成例を示す外観図である。

図９のＡは、撮像装置６２に、SL光源としての、R光を照射する光照射部６１Ａ−１、G光を照射する光照射部６１Ａ−２、B光を照射する光照射部６１Ａ−３、IR光を照射する光照射部６１Ａ−４を内蔵させることで、撮像の構成と光の照射の構成とを同一筐体に一体化した例を示す。この場合、光照射部６１Ａ−１乃至光照射部６１Ａ−４は、撮像装置６２のレンズに代表される光学系７１の近傍に配置される。

図９のＡのように一体化することで、光学系７１の後方に設けられるイメージセンサ７２の位置と光照射部６１Ａ−１乃至光照射部６１Ａ−４の位置をより近くに配置できるため、より近距離においてドットパターンと画素投影領域を一致させることが可能となる。

図９のＢは、撮像装置６２とSL光源としての光照射装置６１がそれぞれ独立して構成される例を示す。光照射装置６１は、R光を照射する光照射部６１Ａ−１、G光を照射する光照射部６１Ａ−２、B光を照射する光照射部６１Ａ−３、IR光を照射する光照射部６１Ａ−４を有する。

光照射装置６１は、例えば、撮像装置６２の筐体の上にアジャスターなどで着脱可能に取り付けられる。

図９のＢのようにアジャスターで着脱可能に取り付けることで、光照射装置６１を用途に応じて取り替えることが可能となり、例えば、SL光源として異なる波長のものへの切り替えが可能となる。

＜カメラシステムの動作＞
次に、図１０のフローチャートを参照して、図７のカメラシステムの撮像処理を説明する。

図１０のステップＳ５１において、イメージセンサ７２は、光照射装置６１の各光照射部６１Ａ−１乃至光照射部６１Ａ−４からのドットパターンの光が照射されている状態で、被写体を撮像する。イメージセンサ７２は、入射した光を光電変換し、画素アレイ部の各画素の画素値をA/D変換することで、画素の信号を生成する。

ステップＳ５２において、信号分離部８１は、イメージセンサ７２からの信号から、R信号、G信号、B信号、IR信号を分離する。R信号、G信号、B信号は、補間処理部８２−１乃至補間処理部８２−３にそれぞれ出力される。IR信号は、補間処理部８２−４に出力される。

ステップＳ５３において、補間処理部８２−１乃至補間処理部８２−３は、R信号、G信号、B信号の補間処理を行うことで、補間後のR,G,B画像をそれぞれ生成する。補間処理部８２−４は、IR信号の補間処理を行うことで、補間後のIR画像を生成する。補間後のR,G,B画像は、高画質化信号処理部８３−１乃至高画質化信号処理部８３−３にそれぞれ出力される。補間後のIR画像は、高画質化信号処理部８３−４に出力される。

ステップＳ５４において、高画質化信号処理部８３−１乃至高画質化信号処理部８３−３は、R,G,B画像の高画質化処理をそれぞれ行う。高画質化信号処理部８３−４は、IR信号の画像の高画質化処理を行う。高画質化処理後のR,G,B画像とIR画像は、後段の信号処理部に出力される。

＜画素配列の例＞
図１１は、画素配列の例を示す図である。

図１１のＡには、図７と同様の画素配列の例が示されている。図１１のＡは、ドットパターンを形成するSL光源として、R,G,B,IRの４つの光源を用い、２×２の画素の各投影領域に対応させて、それぞれドットパターンの光を照射するようにした例である。R,G,B,IRの４つのSL光源の組み合わせと対応するドットパターンを用いることにより、第１の実施の形態と同様に、可視画像とIR画像の取得が可能となる。

図１１のＢは、図１１のＡに示されたSL光源の組み合わせのIRのパターンを、Gパターンに置き換えた例である。R,G,B,Gの４つのSL光源の組み合わせと対応するドットパターンを用いることにより、ベイヤパターンのフィルタを用いたセンサと同様に、高解像度のカラー画像を取得することが可能となる。

図１１のＣは、R,G,B,IRの波長帯域以外の波長帯域の光源を複数（図１１のＣの場合、９種類）用いて、太線に囲まれた３×３の広範囲の領域に展開した例である。このような９つのSL光源の組み合わせと対応するドットパターンを用いることにより、マルチスペクトル分光、解析に必要な被写体の分光特性を取得することができる。なお、４×４の広範囲の領域に展開してもよい。

以上のように、SL光源の組み合わせを変えることにより、同一のカメラシステムを用途に応じて切り替えることが可能である。被写体の分光解析などの応用では、被写体の材質により、取得すべき波長帯域が異なるため、本技術のカメラシステムのようなフレキシブルに解析用のプローブ波長を変更できるカメラシステムは有用である。

＜変形例２＞
以上のように、第２の実施の形態では、SL光源のパターン形状として、ドットパターンを例に説明したが、SL光源のパターン形状は、ドットパターンに限らず、画素の投影領域に対応する形状であれば、複数画素が跨るように光があたるように形成されるパターンなど、他の形状でもよい。

第２の実施の形態では、SL光源の配置として、１つの光源のみの場合を説明してきたが、例えば、照射光の強度を上げるために、同一の画素に対応したドットパターンを照射するための複数のSL光源が用いられるようにしてもよい。

第２の実施の形態では、各画素の投影領域に１種ずつのSL光源のパターン光のみが投影されているが、同一の画素投影領域に波長帯域の異なる複数種のSL光源からのパターン光が投影されてもよい。これらは、分光解析する用途により選択される。

第２の実施の形態の応用例としては、第２の実施の形態のカメラシステムは、バイオやメディカルなどの技術分野における分光解析などに用いることができる。通常のカラー画像の撮像、マルチスペクトル分光画像の取得、特定の蛍光発光などの観察が、第２の実施の形態のカメラシステムを用いることで可能となる。

さらに、第２の実施の形態のカメラシステムを、バイオテクノロジーやメディカルの技術分野に適用することにより、励起光による蛍光反射を観察する蛍光観察と通常のカラー画像撮像とを同時に行うことができる。

以上のように、本技術においては、ストラクチャードライト光源からの所定のパターンの光が、被写体を撮像する撮像部の特定の画素の投影領域に照射されている状態で撮像が行われることによって得られた画素信号に基づいて被写体の画像を生成するようにした。

本技術によれば、特性の異なる画像同士、例えば、可視画像とIR画像を、クロストークを起こすことなく、分離、同時取得できるカメラシステムが実現可能である。

本技術によれば、１つのセンサで、オンチップカラーフィルタを配置した場合と同様な分光特性を有する撮像が可能である。

ここで、従来、分光解析の分野では、マルチ分光スペクトルカメラが提案されていた。マルチ分光スペクトルカメラは、さまざまな波長帯域に対応する多くのカラーフィルタをセンサの各画素に配置し、各画素信号を取得することができる。マルチ分光スペクトルカメラを用いることで、被写体の分光反射特性を解析したり、被写体の材質同定、分析を行っていた。

ただし、マルチ分光スペクトルカメラは、センサ上に各種のカラーフィルタを形成する必要があるため、製造工程が煩雑になり、センサのコストが高くなっていた。また、多くの波長帯域のデータを取得しようとすると、２次元状に多種のカラーフィルタを展開する必要があり、分光分析結果の空間分解能を高くすることが困難であった。

これに対して、本技術によれば、オンチップカラーフィルタを必要とすることなく、１つのセンサで、オンチップカラーフィルタを配置した場合と同様な分光特性を有する撮像が可能である。

これにより、分光分析などにおいて、照射光源を切り替えることにより、１つのカメラシステムで、さまざまな用途に対応することが可能である。

＜ 第３の実施の形態 ＞
＜カメラシステムの構成例＞
図１２は、本技術を適用したカメラシステムの第３の構成例を示す図である。

図１２のカメラシステム１０１は、IR-SL光源としてのIR光照射装置１１１と、撮像装置１１２で構成される。図１２には、被写体を想定した平面に、画素の投影領域が仮想的に破線で示されている。投影領域は、撮像装置１１２の画素配列に対応する領域からなる。各投影領域に示される文字R,G,B,Tは、各投影領域に対応する画素が、それぞれ、R,G,B画素またはTOF(Time Of Flight)用画素であることを示すものである。

IR光照射装置１１１は、IR光を照射する装置であり、撮像装置１１２に近接して固定して配置される。IR光照射装置１１１は、TOF用画素に対応する投影領域のみを照射するようなドットパターンのIR光を点滅照射する。投影領域のうち、TOF用画素の投影領域には、色付きの丸で示されるように、IR光照射装置１１１からのIR光として、ドットパターンの各ドットが投影される。

撮像装置１１２は、R,G,B画素およびTOF用画素が配置されたイメージセンサを備えている。イメージセンサのシャッタ方式は、ローリングシャッタ方式であってもよいし、グローバルシャッタ方式であってもよい。

撮像装置１１２は、TOF用画素に対応する投影領域のみを照射するようなドットパターンのIR光がIR光照射装置１１１により照射されている状態で被写体を撮像する。R,G,B画素においては、所定の光源からの可視光が受光されている。これにより、撮像装置１１２では、R,G,B画素からの信号に対応する可視画像が生成され、TOF用画素からの信号を用いて距離情報が得られる。

なお、カメラシステム１０１においても、IR光照射装置１１１は、図６を参照して上述したように、撮像装置１１２と一体型で構成されていてもよいし、撮像装置１１２に着脱可能に構成されていてもよい。

＜ストラクチャードライト光源の原理＞
図１３は、ストラクチャードライト光源の原理を説明する図である。

IR光照射装置１１１は、レーザ光源１２１の前面に回折格子１２２を設けた構成を有する。回折格子１２２を適切に設計することにより、マトリクス状の任意の位置（例えば、図１２のTOF用画素の投影領域）にドットパターンのIR光を照射することが可能となる。

＜IR光照射装置および撮像装置の構成例＞
図１４は、IR光照射装置および撮像装置の構成例を示すブロック図である。

IR光照射装置１１１は、レーザ光源１２１、回折格子１２２、およびIR-LEDドライバ１３１から構成される。

IR-LEDドライバ１３１は、撮像装置１１２から供給されるLEDのON/OFF信号およびLED強度調整信号に応じて、レーザ光源１２１の点滅照射動作を制御する。LEDのON/OFF信号は、LEDのONとOFFを示す信号である。LED強度調整信号は、LEDの強度を調整するための信号である。

撮像装置１１２は、レンズなどの光学系１４１、IRバンドパスフィルタ１４２、イメージセンサ１４３、およびカメラDSP１４４から構成される。

被写体からの光は、光学系１４１およびIRバンドパスフィルタ１４２を介して、イメージセンサ１４３に入射される。イメージセンサ１４３は、R,G,B画素およびTOF用画素が配置された画素アレイ部を有している。イメージセンサ１４３は、入射した光を光電変換し、画素アレイ部の各画素の画素値をA/D変換することで、画素の信号を生成する。

カメラDSP１４４は、イメージセンサ１４３の画素アレイ部を構成する複数の画素のうち、R,G,B画素からのR,G,B信号を用いてカラー画像を生成し、生成したカラー画像を、図示せぬ後段の信号処理部に出力する。また、カメラDSP１４４は、イメージセンサ１４３の画素アレイ部を構成する複数の画素のうち、TOF用画素からのTOF用信号を用いて距離を算出する。カメラDSP１４４は、算出した距離を示す距離情報からAF（オートフォーカス）を制御するためのAF制御信号を生成する。生成されたAF制御信号は、光学系１４１の駆動に用いられる。

カメラDSP１４４は、LEDのON/OFF信号およびLED強度調整信号を生成し、生成したLEDのON/OFF信号およびLED強度調整信号を、IR-LEDドライバ１３１に出力する。

＜画素配列の例＞
図１５は、イメージセンサの画素配列の例を示す図である。

イメージセンサ１４３の画素アレイ部は、図１５に示されるように、ベイヤ配列の水平方向および垂直方向において４画素毎にG画素がTOF用画素に置き換えられた画素配列で構成される。

＜撮像装置の画角とIR-SL光源の照射角の関係＞
図１６は、撮像装置の画角とIR-SL光源の照射角の関係を説明する図である。

IR光照射装置１１１の光軸１１１Ｃを中心としたSL照射角内の各実線は、SL照射領域の境界を示し、また、撮像装置１１２の光軸１１２Ｃを中心とした画角内の各破線は、画素領域の境界を示す。SL照射領域は、画素領域にIR-SL光源からドットが照射される領域である。カメラシステム１０１において、IR光照射装置１１１のSL照射角と撮像装置１１２の画角はおよそ一致するように設定されている。

図１６の左側の実線Ｌ１は、撮像装置１１２の投影領域を示している。双方向の矢印で示す範囲が、１画素の投影領域に相当する。画素投影領域の右側の一点鎖線Ｌ２は、図３を参照して上述した視差一致限界距離を示している。実線Ｌ１上と、一点鎖線Ｌ２上の黒の矩形は、ドットパターンの各ドットを表している。

図１６のIR光照射装置１１１からのドットパターンのIR光は、撮像装置１１２の画素配列のうち、TOF用画素に相当する領域のみに照射される。その際、撮像装置１１２とIR光照射装置１１１を固定しておく。

これにより、IR光照射装置１１１と撮像装置１１２からみて、一点鎖線Ｌ２に示される視差一致限界距離より離れていれば、被写体がどの距離にあってもIR光照射装置１１１から照射されるドットパターンのIR光と撮像装置１１２の画素投影領域がずれることはない。よって、IR画素の投影境域とドットパターンのIR光は１：１に対応する。IR光の反射光は、R,G,Bの画素には到達せず、IR画素でのみ受光される。

なお、視差一致限界距離については、図３の場合と同様であるため、その説明は省略される。

図１７は、ダイクロイックミラーを用いた場合の撮像装置の画角とIR-SL光源の照射角の関係を説明する図である。

ダイクロイックミラー１５１は、入射面に対して垂直方向の光を反射し、入射面に対して平行方向の光を透過するように形成されている。ダイクロイックミラー１５１は、撮像装置１１２の光学系１４１の手前に、ダイクロイックミラー１５１反射後の光軸の中心と、撮像装置１１２の光軸１１２Ｃの中心がほぼ一致するように配置される。

また、IR光照射装置１１１は、ダイクロイックミラー１５１の入射面に対して垂直方向の光を照射するように、撮像装置１１２の光軸１１２Ｃに対して垂直に配置される。

このように配置することで、ダイクロイックミラー１５１反射後の光軸の中心と、撮像装置１１２の光軸１１２Ｃの中心とをほぼ一致させることができる。また、ダイクロイックミラー１５１により、IR光照射装置１１１から照射されるドットパターンのIR光は反射され、被写体からの光は透過されるので、およそ５０％のIR光を撮像装置１１２で受光することができる。

これにより、ドットパターンと画素の投影領域の対応を、近距離含めて、ほぼ一致させることができる。

なお、ダイクロイックミラー１５１の代わりに、ダイクロイックプリズムや偏向ビームスプリッターなどが配置されるようにしてもよい。他の実施の形態のカメラシステムにおいても、ダイクロイックミラー１５１が用いられるようにしてもよい。

＜イメージセンサの一部の断面例＞
図１８は、イメージセンサにおける光の入射側の一部の構成例を示す断面図である。

図１８の例においては、イメージセンサ１４３における光の入射側の一部の構成として、受光画素１６１、絶縁層１６２、フィルタ層１６３、カラーフィルタ層１６４、およびオンチップレンズ１６５が示されている。

受光画素１６１は、左から順に、B画素、G画素、R画素、TOF用画素で構成される。

絶縁層１６２は、フィルタ層１６３を透過した光を受光画素１６１まで通過させる。

フィルタ層１６３は、B画素、G画素、R画素上に配置されるIR遮断フィルタおよびTOF用画素上に配置されるブルーフィルタから構成される。IR遮断フィルタは、IR光の波長域（例えば、850nm前後）の光を遮断する。ブルーフィルタは、カラーフィルタ層１６４のレッドフィルタと重ねて配置されることで、IR光のみを透過させる。

カラーフィルタ層１６４は、B画素上に配置されるブルーフィルタ、G画素上に配置されるグリーンフィルタ、R画素およびTOF用画素上に配置されるレッドフィルタから構成される。ブルーフィルタは、Gの波長域の光とRの波長域の光を遮断し、Bの波長域の光を透過させる。グリーンフィルタは、Bの波長域の光とRの波長域の光を遮断し、Gの波長域の光を透過させる。レッドフィルタは、Gの波長域の光とBの波長域の光を遮断し、Rの波長域の光を透過させる。

オンチップレンズ１６５は、受光画素１６１の各画素上に配置されるレンズで構成される。

また、光学系１４１とイメージセンサ１４３の間には、IRバンドパスフィルタ１４２が配置されている。IRバンドパスフィルタ１４２は、可視領域とIR光の波長域の部分に透過性を有するバンドパスフィルタである。

以上の構成により、B画素には、Bの波長域の光が入射され、G画素には、Gの波長域の光が入射され、R画素には、Rの波長域の光が入射され、TOF用画素には、IR光の波長域の光が入射される。

ただし、実際には、IR遮断フィルタを用いても、B画素、G画素、R画素には、IR光の透過残光が入射されてしまう。それは、IR遮断フィルタが、次のような分光特性を有しているためである。

＜フィルタ分光特性＞
図１９は、IRバンドパスフィルタとIR遮断フィルタの分光特性を示す図である。

IRバンドパスフィルタ１４２は、400nm乃至680nmおよび830nm乃至870nmの波長域の光を透過し、400nm乃至680nmおよび830nm乃至870nm以外の波長域の光を遮断する。

IR遮断フィルタは、850nm付近の波長域の光を、透過率が0.1となるまで遮断している。

すなわち、IRバンドパスフィルタ１４２は、可視領域とIR光の波長域以外の波長域の光を完全（透過率０）に遮断している。一方、IR遮断フィルタは、IR光の波長域の光を完全には遮断してはいない。このため、次に示されるように、IR光の波長域の透過性はゼロではない。

＜各画素に対応する分光特性＞
図２０は、各画素に対応する分光特性を示す図である。

図２０の分光特性には、センサの分光感度も加味されている。

R画素は、およそ590nm乃至630nmの波長域の光に感度を持つように設定されている。G画素は、およそ490nm乃至550nmの波長域の光に感度を持つように設定されている。B画素は、およそ440nm乃至470nmの波長域の光に感度を持つように設定されている。TOF用画素は、およそ840nm乃至860nmの波長域の光に感度を持つように設定されている。

ただし、B画素、G画素、R画素の分光特性をみると、IR光の波長域（例えば、850nm前後）の光の透過性は、完全にはゼロになっていない。IR光の可視画素への透過残光は、自然環境に存在するIR光であれば、可視画像の色再現にほぼ影響ないが、人工的なIR光が混入した場合、可視画像の色再現に影響を及ぼすレベルとなる。

そこで、本技術においては、IR光が、TOF用画素のみに照射するように設定される。これにより、本技術によれば、可視画素への投光IR光の混入をほぼ完全に回避することが可能となる。

＜カメラDSPの構成例＞
図２１は、撮像装置におけるカメラDSPの構成例を示すブロック図である。

カメラDSP１４４は、信号分離部１８１、補間処理部１８２、カラー画像信号処理部１８３、位相差算出処理部１８４、距離算出処理部１８５、およびAF制御信号生成部１８６から構成される。

信号分離部１８１は、イメージセンサ１４３の信号からR,G,B信号を分離し、補間処理部１８２に出力する。また、信号分離部１８１は、イメージセンサ１４３の信号からTOF用信号を分離し、位相差算出処理部１８４に出力する。

補間処理部１８２は、信号分離部１８１から供給されたR,G,B信号を用い、R,G,B画素の配列に応じて、欠落した色の画素信号を生成するデモザイク処理などの補間処理を行う。補間処理部１８２は、補間処理を行うことによって生成したカラー画像をカラー画像信号処理部１８３に出力する。

カラー画像信号処理部１８３は、補間処理部１８２から供給されたカラー画像に対して所定の信号処理を行い、信号処理後のカラー画像を後段の信号処理部に出力する。

位相差算出処理部１８４は、信号分離部１８１から供給されたTOF用信号を用いて位相差を算出し、算出した位相差を示す位相差情報を距離算出処理部１８５に出力する。

距離算出処理部１８５は、位相差算出処理部１８４から供給された位相差情報を用いて距離を算出し、算出した距離を示す距離情報を出力する。距離算出処理部１８５から出力された距離情報は、AF制御信号生成部１８６および図示せぬ後段の信号処理部に供給される。

AF制御信号生成部１８６は、距離算出処理部１８５から供給された距離情報と、距離情報からレンズ位置情報への換算式を用いて、レンズ位置情報を算出する。AF制御信号生成部１８６は、算出されたレンズ位置情報に基づく、AF制御信号を生成する。AF制御信号は、光学系１４１の図示せぬ駆動部に出力される。

＜カメラシステムの動作＞
次に、図２２のフローチャートを参照して、図１２の撮像装置の信号処理を説明する。

ステップＳ１１１において、イメージセンサ１４３は、IR-SL光源であるIR光照射装置１１１からのドットパターンのIR光が照射されている状態で被写体を撮像する。イメージセンサ１４３は、入射した光を光電変換し、画素アレイ部の各画素の画素値をA/D変換することで、画素信号を生成する。

ステップＳ１１２において、信号分離部１８１は、イメージセンサ１４３からの信号からRGB信号とTOF用信号を分離する。

ステップＳ１１３において、補間処理部１８２は、信号分離部１８１から供給されたR,G,B信号の補間処理をすることでカラー画像を生成し、カラー画像信号処理部１８３に出力する。

ステップＳ１１４において、カラー画像信号処理部１８３は、補間処理部１８２から供給されたカラー画像に対して所定の信号処理を行い、信号処理後のカラー画像を後段の信号処理部に出力する。

ステップＳ１１５において、位相差算出処理部１８４は、信号分離部１８１から供給されたTOF用信号を用いて、位相差を算出し、算出された位相差を示す位相差情報を距離算出処理部１８５に出力する。

ステップＳ１１６において、距離算出処理部１８５は、位相差算出処理部１８４から供給された位相差情報を用いて、距離算出処理を行う。距離算出処理の結果、出力された距離情報は、AF制御信号生成部１８６および図示せぬ後段の信号処理部に供給される。

ステップＳ１１７において、AF制御信号生成部１８６は、距離算出処理部１８５から供給された距離情報からレンズ位置情報への換算式を用いて、レンズ位置情報を算出し、算出されたレンズ位置情報に基づく、AF制御信号を生成する。AF制御信号は、光学系１４１の図示せぬ駆動部に出力される。

以上のようにして得られたカラー画像と距離情報とは、アプリケーションに応じて使用される。

例えば、カラー画像と距離情報は、スマートフォンなど携帯端末のAF制御、顔認識などのカラー画像と距離情報を必要とするセキュリティ用途、ゲームなどのジェスチャ認識などに用いられる。

＜変形例３＞
以上のように、第３の実施の形態では、イメージセンサとして、RGBベイヤ配列のセンサを前提として説明したが、本技術は、モノクロのセンサやRGBベイヤ配列以外のカラーフィルタ配列のセンサを用いる場合にも適用することができる。

第３の実施の形態では、イメージセンサのRGBベイヤ配列において、４画素毎にTOF用画素を配置する構成としたが、TOF用画素の密度は、上記説明とは異なる密度の構成であってもよい。また、TOF用画素の配置は、縦横で非対称であってもよい。さらに、TOF用画素と像面位相差画素とを両方配置するようにしてもよい。

第３の実施の形態では、SL光源のパターン形状として、ドットパターンを例に説明したが、SL光源のパターン形状は、ドットパターンに限らず、画素の投影領域に対応する形状であれば、複数画素が跨るように光があたるように形成されるパターンなど、他の形状でもよい。

第３の実施の形態では、IR遮断フィルタを用いた場合を説明したが、IR遮断フィルタは必ずしも使用しなくてよい。特に、屋内使用など、環境光にIR光が含まれない場合は不要である。

以上のように、本技術によれば、IR光を照射することによる被写体からの反射光は、TOF用画素でのみ受光されるため、RGB画素によって得られる可視信号に影響を与えることない。したがって、特性の異なる信号である可視信号とTOF用信号を分離することが可能となる。

これまでTOFセンサとイメージセンサとを併用していた用途に対し、本技術によれば、１チップのセンサシステムで置き換えることが可能である。

＜ 第４の実施の形態 ＞
＜カメラシステムの構成例＞
図２３は、本技術を適用したカメラシステムの第４の構成例を示す図である。

図２３のカメラシステム２０１は、IR-SL光源としてのIR光照射装置２１１と、撮像装置２１２で構成される。図２３には、被写体を想定した平面に、画素の投影領域が仮想的に破線で示されている。投影領域は、撮像装置２１２の画素配列に対応する可視画素投影領域と三角測量投影領域からなる。可視画素投影領域は、R,G,B画素の可視画素が配置される領域である。三角測量投影領域は、三角測量用の画素が配置される領域である。

図２３においては、可視画素投影領域の縦方向の中央に三角測量投影領域が形成されている。三角測量投影領域は、２行の幅の帯状の領域である。

IR光照射装置２１１は、IR光を照射する装置であり、三角測量に必要な一定距離分、離して、撮像装置２１２に固定して配置される。IR光照射装置２１１は、三角測量投影領域のうち、ランダムに位置する所定の画素のみを照射するようなドットパターンのIR光を照射する。三角測量投影領域のうち、所定の画素の投影領域には、色付きの丸で示されるように、IR光照射装置２１１からのIR光として、ドットパターンの各ドットが投影される。

撮像装置２１２は、R,G,B画素および三角測量用画素が配置されたイメージセンサを備えている。イメージセンサのシャッタ方式は、ローリングシャッタ方式であってもよいし、グローバルシャッタ方式であってもよい。

撮像装置２１２は、三角測量投影領域の所定の画素のみを照射するようなドットパターンのIR光がIR光照射装置２１１により照射されている状態で被写体を撮像する。R,G,B画素においては、所定の光源からの可視光が受光されている。これにより、撮像装置２１２では、R,G,B画素からの信号に対応する可視画像が生成され、三角測量用画素からの信号を用いて距離情報が得られる。

なお、カメラシステム２０１においても、IR光照射装置２１１は、図６を参照して上述したように、撮像装置２１２と一体型で構成されていてもよいし、撮像装置２１２に着脱可能に構成されていてもよい。

＜IR光照射装置および撮像装置の構成例＞
図２４は、IR光照射装置および撮像装置の構成例を示す図である。図２４に示す構成のうち、図１４を参照して説明した構成と同じ構成には同じ符号を付してある。重複する説明については適宜省略する。

IR光照射装置２１１は、IR光照射装置２１１の光軸２１１Ｃと撮像装置２１２のイメージセンサ（レンズ）の光軸２１２Ｃの距離を、ベースライン距離Ｌｂ分だけ離して、撮像装置２１２に固定して設置される。

IR光照射装置２１１は、図１４の場合と同様に、レーザ光源１２１、回折格子１２２、およびIR-LEDドライバ１３１から構成される。

撮像装置２１２は、光学系１４１、イメージセンサ２３１、カメラDSP２３２から構成される。

イメージセンサ２３１は、R,G,B画素および三角測量用画素が配置された画素アレイ部を有している。イメージセンサ２３１は、入射した光を光電変換し、画素アレイ部の各画素の画素値をA/D変換することで、画素の信号を生成する。

カメラDSP２３２は、イメージセンサ２３１の画素アレイ部を構成する複数の画素のうち、R,G,B画素からのR,G,B信号を用いてカラー画像を生成し、生成したカラー画像を、図示せぬ後段の信号処理部に出力する。また、カメラDSP２３２は、イメージセンサ２３１の画素アレイ部を構成する複数の画素のうち、三角測量用画素からの三角測量用信号を用いて距離を算出し、算出した距離情報からAF制御信号を生成する。生成されたAF制御信号は、光学系１４１の駆動に用いられる。

カメラDSP２３２は、LEDのON/OFF信号およびLED強度調整信号を生成し、生成したLEDのON/OFF信号およびLED強度調整信号をIR-LEDドライバ１３１に出力する。

＜画素配列の例＞
図２５は、イメージセンサの画素配列の例を示す図である。

イメージセンサ２３１の画素アレイ部は、図２５に示されるように、R,G,B画素が配置される可視画素領域と三角測量用画素が配置される三角測量用領域から構成される。

イメージセンサ２３１の画素アレイ部は、２×２のベイヤ配列１行目乃至３行目が可視画素領域となり、２×２のベイヤ配列４行目が三角測量用領域となるように構成される。

＜カメラDSPの構成例＞
図２６は、撮像装置におけるカメラDSPの構成例を示すブロック図である。

カメラDSP２３２は、信号分離部２５１、補間処理部２５２、カラー画像信号処理部２５３、距離算出処理部２５４、およびAF制御信号生成部２５５から構成される。

信号分離部２５１は、イメージセンサ１４３の信号からR,G,B信号を分離し、補間処理部２５２に出力する。また、信号分離部２５１は、イメージセンサ１４３の信号から三角測量用信号を分離し、距離算出処理部２５４に出力する。

補間処理部２５２は、信号分離部２５１から供給されたR,G,B信号を用い、R,G,B画素の配列に応じて、欠落した色の画素信号を生成するデモザイク処理などの補間処理をすることでカラー画像を生成し、カラー画像信号処理部２５３に出力する。

カラー画像信号処理部２５３は、補間処理部２５２から供給されたカラー画像に対して所定の信号処理を行い、信号処理後のカラー画像を後段の信号処理部に出力する。

距離算出処理部２５４は、補間処理部２５２から供給された三角測量用信号を用いて、距離を算出し、算出された距離を示す距離情報を出力する。出力された距離情報は、AF制御信号生成部２５５および図示せぬ後段の信号処理部に供給される。

AF制御信号生成部２５５は、距離算出処理部２５４から供給された距離情報からレンズ位置情報への換算式を用いて、レンズ位置情報を算出し、算出されたレンズ位置情報に基づく、AF制御信号を生成する。生成されたAF制御信号は、光学系１４１の図示せぬ駆動部に出力される。

＜カメラシステムの動作＞
次に、図２７のフローチャートを参照して、図２３の撮像装置の信号処理を説明する。

図２７のステップＳ２１１において、イメージセンサ１４３は、IR-SL光源であるIR光照射装置２１１からのドットパターンのIR光が照射されている状態で被写体を撮像する。イメージセンサ１４３は、入射した光を光電変換し、画素アレイ部の各画素の画素値をA/D変換することで、画素信号を生成する。

ステップＳ２１２において、信号分離部２５１は、イメージセンサ１４３からの信号からRGB信号と三角測量用信号を分離する。分離されたRGB信号は補間処理部２５２に出力され、三角測量用信号は距離算出処理部２５４に出力される。

ステップＳ２１３において、補間処理部２５２は、信号分離部２５１から供給されたR,G,B信号の補間処理をすることでカラー画像を生成し、カラー画像信号処理部２５３に出力する。

ステップＳ２１４において、カラー画像信号処理部２５３は、補間処理部２５２から供給されたカラー画像に対して所定の信号処理を行い、信号処理後のカラー画像を後段の信号処理部に出力する。

ステップＳ２１５において、距離算出処理部２５４は、信号分離部２５１から供給された三角測量用信号を用いて、距離算出処理を行う。距離算出処理の結果、出力された距離情報は、AF制御信号生成部２５５および図示せぬ後段の信号処理部に供給される。

ステップＳ２１６において、AF制御信号生成部２５５は、距離算出処理部２５４から供給された距離情報からレンズ位置情報への換算式を用いて、レンズ位置情報を算出し、算出されたレンズ位置情報に基づく、AF制御信号を生成する。生成されたAF制御信号は、光学系１４１の図示せぬ駆動部に出力される。

以上のようにして得られたカラー画像と距離情報とは、アプリケーションに応じて使用される。

例えば、カラー画像と距離情報は、スマートフォンなど携帯端末のAF制御、顔認識などのカラー画像と距離情報を必要とするセキュリティ用途、ゲームなどのジェスチャ認識などに用いられる。

＜変形例４＞
以上のように、第４の実施の形態では、イメージセンサとして、RGBベイヤ配列のセンサを前提として説明したが、本技術は、モノクロのセンサやRGBベイヤ配列以外のカラーフィルタ配列のセンサを用いる場合にも適用することができる。

第４の実施の形態では、RGBベイヤ配列のセンサにおいて、縦のベイヤ配列４行毎に三角測量用画素を配置する構成としたが、三角測量用画素の異なる密度の構成であってもよい。また、上記説明においては、帯状の領域である三角測量用領域が２行の幅で構成する例を説明したが、三角測量用領域は、１行の幅で構成するようにしてもよいし、他の幅で構成するようにしてもよい。

第４の実施の形態では、三角測量用画素を配置する例を説明したが、第３の実施の形態と第４の実施の形態において説明した三角測量用画素を、第３の実施の形態で説明したTOF用画素と組み合わせて行うようにしてもよい。すなわち、第４の実施の形態の帯状の三角測量用投影領域に、三角測量用画素とTOF用画素とを配置し、三角測量とTOF方式の測距を同時に行うようにすることも可能である。この場合、測距の精度を向上することができる。

以上のように、本技術によれば、IR光を照射することによる被写体からの反射光は、三角測量用画素でのみ受光されるため、RGB画素によって得られる可視信号に影響を与えることない。したがって、特性の異なる信号である可視信号と三角測量用信号を分離することが可能となる。

これまで三角測量用センサとイメージセンサとを併用していた用途に対し、本技術によれば、１チップのセンサシステムで置き換えることが可能である。

＜ 第５の実施の形態 ＞
＜コンピュータのハードウエア構成例＞
上述した一連の処理は、ハードウエアにより実行させることもできるし、ソフトウエアにより実行させることもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここでコンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータ等が含まれる。

図２８は、上述した一連の処理をプログラムにより実行するコンピュータのハードウエア構成例を示すブロック図である。

図２８に示されるコンピュータにおいて、ＣＰＵ（Central Processing Unit）３０１、ＲＯＭ（Read Only Memory）３０２、ＲＡＭ（Random Access Memory）３０３は、バス３０４を介して相互に接続されている。

バス３０４にはまた、入出力インタフェース３０５も接続されている。入出力インタフェース３０５には、入力部３０６、出力部３０７、記憶部３０８、通信部３０９、およびドライブ３１０が接続されている。

入力部３０６は、例えば、キーボード、マウス、マイクロホン、タッチパネル、入力端子などよりなる。出力部３０７は、例えば、ディスプレイ、スピーカ、出力端子などよりなる。記憶部３０８は、例えば、ハードディスク、ＲＡＭディスク、不揮発性のメモリなどよりなる。通信部３０９は、例えば、ネットワークインタフェースよりなる。ドライブ３１０は、磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリなどのリムーバブルメディア３１１を駆動する。

以上のように構成されるコンピュータは、ＣＰＵ３０１が、例えば、記憶部３０８に記憶されているプログラムを、入出力インタフェース３０５およびバス３０４を介して、ＲＡＭ３０３にロードして実行することにより、上述した一連の処理が行われる。ＲＡＭ３０３にはまた、ＣＰＵ３０１が各種の処理を実行する上において必要なデータなども適宜記憶される。

コンピュータ（ＣＰＵ３０１）が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア３１１に記録して適用することができる。その場合、プログラムは、リムーバブルメディア３１１をドライブ３１０に装着することにより、入出力インタフェース３０５を介して、記憶部３０８にインストールすることができる。

また、このプログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することもできる。その場合、プログラムは、通信部３０９で受信し、記憶部３０８にインストールすることができる。

その他、このプログラムは、ＲＯＭ３０２や記憶部３０８に、あらかじめインストールしておくこともできる。

なお、通信装置が実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。

以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示はかかる例に限定されない。本開示の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。

＜ 応用例１ ＞
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット、建設機械、農業機械（トラクター）などのいずれかの種類の移動体に搭載される装置として実現されてもよい。

図２９は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システム７０００の概略的な構成例を示すブロック図である。車両制御システム７０００は、通信ネットワーク７０１０を介して接続された複数の電子制御ユニットを備える。図２９に示した例では、車両制御システム７０００は、駆動系制御ユニット７１００、ボディ系制御ユニット７２００、バッテリ制御ユニット７３００、車外情報検出ユニット７４００、車内情報検出ユニット７５００、及び統合制御ユニット７６００を備える。これらの複数の制御ユニットを接続する通信ネットワーク７０１０は、例えば、ＣＡＮ（Controller Area Network）、ＬＩＮ（Local Interconnect Network）、ＬＡＮ（Local Area Network）又はＦｌｅｘＲａｙ（登録商標）等の任意の規格に準拠した車載通信ネットワークであってよい。

各制御ユニットは、各種プログラムにしたがって演算処理を行うマイクロコンピュータと、マイクロコンピュータにより実行されるプログラム又は各種演算に用いられるパラメータ等を記憶する記憶部と、各種制御対象の装置を駆動する駆動回路とを備える。各制御ユニットは、通信ネットワーク７０１０を介して他の制御ユニットとの間で通信を行うためのネットワークＩ／Ｆを備えるとともに、車内外の装置又はセンサ等との間で、有線通信又は無線通信により通信を行うための通信Ｉ／Ｆを備える。図２９では、統合制御ユニット７６００の機能構成として、マイクロコンピュータ７６１０、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０、音声画像出力部７６７０、車載ネットワークＩ／Ｆ７６８０及び記憶部７６９０が図示されている。他の制御ユニットも同様に、マイクロコンピュータ、通信Ｉ／Ｆ及び記憶部等を備える。

駆動系制御ユニット７１００は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット７１００は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。駆動系制御ユニット７１００は、ＡＢＳ（Antilock Brake System）又はＥＳＣ（Electronic Stability Control）等の制御装置としての機能を有してもよい。

駆動系制御ユニット７１００には、車両状態検出部７１１０が接続される。車両状態検出部７１１０には、例えば、車体の軸回転運動の角速度を検出するジャイロセンサ、車両の加速度を検出する加速度センサ、あるいは、アクセルペダルの操作量、ブレーキペダルの操作量、ステアリングホイールの操舵角、エンジン回転数又は車輪の回転速度等を検出するためのセンサのうちの少なくとも一つが含まれる。駆動系制御ユニット７１００は、車両状態検出部７１１０から入力される信号を用いて演算処理を行い、内燃機関、駆動用モータ、電動パワーステアリング装置又はブレーキ装置等を制御する。

ボディ系制御ユニット７２００は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット７２００は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット７２００には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット７２００は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。

バッテリ制御ユニット７３００は、各種プログラムにしたがって駆動用モータの電力供給源である二次電池７３１０を制御する。例えば、バッテリ制御ユニット７３００には、二次電池７３１０を備えたバッテリ装置から、バッテリ温度、バッテリ出力電圧又はバッテリの残存容量等の情報が入力される。バッテリ制御ユニット７３００は、これらの信号を用いて演算処理を行い、二次電池７３１０の温度調節制御又はバッテリ装置に備えられた冷却装置等の制御を行う。

車外情報検出ユニット７４００は、車両制御システム７０００を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット７４００には、撮像部７４１０及び車外情報検出部７４２０のうちの少なくとも一方が接続される。撮像部７４１０には、ＴｏＦ（Time Of Flight）カメラ、ステレオカメラ、単眼カメラ、赤外線カメラ及びその他のカメラのうちの少なくとも一つが含まれる。車外情報検出部７４２０には、例えば、現在の天候又は気象を検出するための環境センサ、あるいは、車両制御システム７０００を搭載した車両の周囲の他の車両、障害物又は歩行者等を検出するための周囲情報検出センサのうちの少なくとも一つが含まれる。

環境センサは、例えば、雨天を検出する雨滴センサ、霧を検出する霧センサ、日照度合いを検出する日照センサ、及び降雪を検出する雪センサのうちの少なくとも一つであってよい。周囲情報検出センサは、超音波センサ、レーダ装置及びＬＩＤＡＲ（Light Detection and Ranging、Laser Imaging Detection and Ranging）装置のうちの少なくとも一つであってよい。これらの撮像部７４１０及び車外情報検出部７４２０は、それぞれ独立したセンサないし装置として備えられてもよいし、複数のセンサないし装置が統合された装置として備えられてもよい。

ここで、図３０は、撮像部７４１０及び車外情報検出部７４２０の設置位置の例を示す。撮像部７９１０，７９１２，７９１４，７９１６，７９１８は、例えば、車両７９００のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部のうちの少なくとも一つの位置に設けられる。フロントノーズに備えられる撮像部７９１０及び車室内のフロントガラスの上部に備えられる撮像部７９１８は、主として車両７９００の前方の画像を取得する。サイドミラーに備えられる撮像部７９１２，７９１４は、主として車両７９００の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部７９１６は、主として車両７９００の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部７９１８は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。

なお、図３０には、それぞれの撮像部７９１０，７９１２，７９１４，７９１６の撮影範囲の一例が示されている。撮像範囲ａは、フロントノーズに設けられた撮像部７９１０の撮像範囲を示し、撮像範囲ｂ，ｃは、それぞれサイドミラーに設けられた撮像部７９１２，７９１４の撮像範囲を示し、撮像範囲ｄは、リアバンパ又はバックドアに設けられた撮像部７９１６の撮像範囲を示す。例えば、撮像部７９１０，７９１２，７９１４，７９１６で撮像された画像データが重ね合わせられることにより、車両７９００を上方から見た俯瞰画像が得られる。

車両７９００のフロント、リア、サイド、コーナ及び車室内のフロントガラスの上部に設けられる車外情報検出部７９２０，７９２２，７９２４，７９２６，７９２８，７９３０は、例えば超音波センサ又はレーダ装置であってよい。車両７９００のフロントノーズ、リアバンパ、バックドア及び車室内のフロントガラスの上部に設けられる車外情報検出部７９２０，７９２６，７９３０は、例えばＬＩＤＡＲ装置であってよい。これらの車外情報検出部７９２０〜７９３０は、主として先行車両、歩行者又は障害物等の検出に用いられる。

図２９に戻って説明を続ける。車外情報検出ユニット７４００は、撮像部７４１０に車外の画像を撮像させるとともに、撮像された画像データを受信する。また、車外情報検出ユニット７４００は、接続されている車外情報検出部７４２０から検出情報を受信する。車外情報検出部７４２０が超音波センサ、レーダ装置又はＬＩＤＡＲ装置である場合には、車外情報検出ユニット７４００は、超音波又は電磁波等を発信させるとともに、受信された反射波の情報を受信する。車外情報検出ユニット７４００は、受信した情報に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。車外情報検出ユニット７４００は、受信した情報に基づいて、降雨、霧又は路面状況等を認識する環境認識処理を行ってもよい。車外情報検出ユニット７４００は、受信した情報に基づいて、車外の物体までの距離を算出してもよい。

また、車外情報検出ユニット７４００は、受信した画像データに基づいて、人、車、障害物、標識又は路面上の文字等を認識する画像認識処理又は距離検出処理を行ってもよい。車外情報検出ユニット７４００は、受信した画像データに対して歪補正又は位置合わせ等の処理を行うとともに、異なる撮像部７４１０により撮像された画像データを合成して、俯瞰画像又はパノラマ画像を生成してもよい。車外情報検出ユニット７４００は、異なる撮像部７４１０により撮像された画像データを用いて、視点変換処理を行ってもよい。

車内情報検出ユニット７５００は、車内の情報を検出する。車内情報検出ユニット７５００には、例えば、運転者の状態を検出する運転者状態検出部７５１０が接続される。運転者状態検出部７５１０は、運転者を撮像するカメラ、運転者の生体情報を検出する生体センサ又は車室内の音声を集音するマイク等を含んでもよい。生体センサは、例えば、座面又はステアリングホイール等に設けられ、座席に座った搭乗者又はステアリングホイールを握る運転者の生体情報を検出する。車内情報検出ユニット７５００は、運転者状態検出部７５１０から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。車内情報検出ユニット７５００は、集音された音声信号に対してノイズキャンセリング処理等の処理を行ってもよい。

統合制御ユニット７６００は、各種プログラムにしたがって車両制御システム７０００内の動作全般を制御する。統合制御ユニット７６００には、入力部７８００が接続されている。入力部７８００は、例えば、タッチパネル、ボタン、マイクロフォン、スイッチ又はレバー等、搭乗者によって入力操作され得る装置によって実現される。統合制御ユニット７６００には、マイクロフォンにより入力される音声を音声認識することにより得たデータが入力されてもよい。入力部７８００は、例えば、赤外線又はその他の電波を利用したリモートコントロール装置であってもよいし、車両制御システム７０００の操作に対応した携帯電話又はＰＤＡ（Personal Digital Assistant）等の外部接続機器であってもよい。入力部７８００は、例えばカメラであってもよく、その場合搭乗者はジェスチャにより情報を入力することができる。あるいは、搭乗者が装着したウェアラブル装置の動きを検出することで得られたデータが入力されてもよい。さらに、入力部７８００は、例えば、上記の入力部７８００を用いて搭乗者等により入力された情報に基づいて入力信号を生成し、統合制御ユニット７６００に出力する入力制御回路などを含んでもよい。搭乗者等は、この入力部７８００を操作することにより、車両制御システム７０００に対して各種のデータを入力したり処理動作を指示したりする。

記憶部７６９０は、マイクロコンピュータにより実行される各種プログラムを記憶するＲＯＭ（Read Only Memory）、及び各種パラメータ、演算結果又はセンサ値等を記憶するＲＡＭ（Random Access Memory）を含んでいてもよい。また、記憶部７６９０は、ＨＤＤ（Hard Disc Drive）等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等によって実現してもよい。

汎用通信Ｉ／Ｆ７６２０は、外部環境７７５０に存在する様々な機器との間の通信を仲介する汎用的な通信Ｉ／Ｆである。汎用通信Ｉ／Ｆ７６２０は、ＧＳＭ（登録商標）（Global System of Mobile communications）、ＷｉＭＡＸ（登録商標）、ＬＴＥ（登録商標）（Long Term Evolution）若しくはＬＴＥ−Ａ（LTE−Advanced）などのセルラー通信プロトコル、又は無線ＬＡＮ（Ｗｉ−Ｆｉ（登録商標）ともいう）、Ｂｌｕｅｔｏｏｔｈ（登録商標）などのその他の無線通信プロトコルを実装してよい。汎用通信Ｉ／Ｆ７６２０は、例えば、基地局又はアクセスポイントを介して、外部ネットワーク（例えば、インターネット、クラウドネットワーク又は事業者固有のネットワーク）上に存在する機器（例えば、アプリケーションサーバ又は制御サーバ）へ接続してもよい。また、汎用通信Ｉ／Ｆ７６２０は、例えばＰ２Ｐ（Peer To Peer）技術を用いて、車両の近傍に存在する端末（例えば、運転者、歩行者若しくは店舗の端末、又はＭＴＣ（Machine Type Communication）端末）と接続してもよい。

専用通信Ｉ／Ｆ７６３０は、車両における使用を目的として策定された通信プロトコルをサポートする通信Ｉ／Ｆである。専用通信Ｉ／Ｆ７６３０は、例えば、下位レイヤのＩＥＥＥ８０２．１１ｐと上位レイヤのＩＥＥＥ１６０９との組合せであるＷＡＶＥ（Wireless Access in Vehicle Environment）、ＤＳＲＣ（Dedicated Short Range Communications）、又はセルラー通信プロトコルといった標準プロトコルを実装してよい。専用通信Ｉ／Ｆ７６３０は、典型的には、車車間（Vehicle to Vehicle）通信、路車間（Vehicle to Infrastructure）通信、車両と家との間（Vehicle to Home）の通信及び歩車間（Vehicle to Pedestrian）通信のうちの１つ以上を含む概念であるＶ２Ｘ通信を遂行する。

測位部７６４０は、例えば、ＧＮＳＳ（Global Navigation Satellite System）衛星からのＧＮＳＳ信号（例えば、ＧＰＳ（Global Positioning System）衛星からのＧＰＳ信号）を受信して測位を実行し、車両の緯度、経度及び高度を含む位置情報を生成する。なお、測位部７６４０は、無線アクセスポイントとの信号の交換により現在位置を特定してもよく、又は測位機能を有する携帯電話、ＰＨＳ若しくはスマートフォンといった端末から位置情報を取得してもよい。

ビーコン受信部７６５０は、例えば、道路上に設置された無線局等から発信される電波あるいは電磁波を受信し、現在位置、渋滞、通行止め又は所要時間等の情報を取得する。なお、ビーコン受信部７６５０の機能は、上述した専用通信Ｉ／Ｆ７６３０に含まれてもよい。

車内機器Ｉ／Ｆ７６６０は、マイクロコンピュータ７６１０と車内に存在する様々な車内機器７７６０との間の接続を仲介する通信インタフェースである。車内機器Ｉ／Ｆ７６６０は、無線ＬＡＮ、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＮＦＣ（Near Field Communication）又はＷＵＳＢ（Wireless USB）といった無線通信プロトコルを用いて無線接続を確立してもよい。また、車内機器Ｉ／Ｆ７６６０は、図示しない接続端子（及び、必要であればケーブル）を介して、ＵＳＢ（Universal Serial Bus）、ＨＤＭＩ（登録商標）（High-Definition Multimedia Interface、又はＭＨＬ（Mobile High-definition Link））等の有線接続を確立してもよい。車内機器７７６０は、例えば、搭乗者が有するモバイル機器若しくはウェアラブル機器、又は車両に搬入され若しくは取り付けられる情報機器のうちの少なくとも１つを含んでいてもよい。また、車内機器７７６０は、任意の目的地までの経路探索を行うナビゲーション装置を含んでいてもよい。車内機器Ｉ／Ｆ７６６０は、これらの車内機器７７６０との間で、制御信号又はデータ信号を交換する。

車載ネットワークＩ／Ｆ７６８０は、マイクロコンピュータ７６１０と通信ネットワーク７０１０との間の通信を仲介するインタフェースである。車載ネットワークＩ／Ｆ７６８０は、通信ネットワーク７０１０によりサポートされる所定のプロトコルに則して、信号等を送受信する。

統合制御ユニット７６００のマイクロコンピュータ７６１０は、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０及び車載ネットワークＩ／Ｆ７６８０のうちの少なくとも一つを介して取得される情報に基づき、各種プログラムにしたがって、車両制御システム７０００を制御する。例えば、マイクロコンピュータ７６１０は、取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット７１００に対して制御指令を出力してもよい。例えば、マイクロコンピュータ７６１０は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むＡＤＡＳ（Advanced Driver Assistance System）の機能実現を目的とした協調制御を行ってもよい。また、マイクロコンピュータ７６１０は、取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行ってもよい。

マイクロコンピュータ７６１０は、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０及び車載ネットワークＩ／Ｆ７６８０のうちの少なくとも一つを介して取得される情報に基づき、車両と周辺の構造物や人物等の物体との間の３次元距離情報を生成し、車両の現在位置の周辺情報を含むローカル地図情報を作成してもよい。また、マイクロコンピュータ７６１０は、取得される情報に基づき、車両の衝突、歩行者等の近接又は通行止めの道路への進入等の危険を予測し、警告用信号を生成してもよい。警告用信号は、例えば、警告音を発生させたり、警告ランプを点灯させたりするための信号であってよい。

音声画像出力部７６７０は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図２９の例では、出力装置として、オーディオスピーカ７７１０、表示部７７２０及びインストルメントパネル７７３０が例示されている。表示部７７２０は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。表示部７７２０は、ＡＲ（Augmented Reality）表示機能を有していてもよい。出力装置は、これらの装置以外の、ヘッドホン、搭乗者が装着する眼鏡型ディスプレイ等のウェアラブルデバイス、プロジェクタ又はランプ等の他の装置であってもよい。出力装置が表示装置の場合、表示装置は、マイクロコンピュータ７６１０が行った各種処理により得られた結果又は他の制御ユニットから受信された情報を、テキスト、イメージ、表、グラフ等、様々な形式で視覚的に表示する。また、出力装置が音声出力装置の場合、音声出力装置は、再生された音声データ又は音響データ等からなるオーディオ信号をアナログ信号に変換して聴覚的に出力する。

なお、図２９に示した例において、通信ネットワーク７０１０を介して接続された少なくとも二つの制御ユニットが一つの制御ユニットとして一体化されてもよい。あるいは、個々の制御ユニットが、複数の制御ユニットにより構成されてもよい。さらに、車両制御システム７０００が、図示されていない別の制御ユニットを備えてもよい。また、上記の説明において、いずれかの制御ユニットが担う機能の一部又は全部を、他の制御ユニットに持たせてもよい。つまり、通信ネットワーク７０１０を介して情報の送受信がされるようになっていれば、所定の演算処理が、いずれかの制御ユニットで行われるようになってもよい。同様に、いずれかの制御ユニットに接続されているセンサ又は装置が、他の制御ユニットに接続されるとともに、複数の制御ユニットが、通信ネットワーク７０１０を介して相互に検出情報を送受信してもよい。

以上説明した車両制御システム７０００において、図１乃至図２７を用いて説明した本実施形態に係るカメラシステムは、図２９の撮像部７４１０または車外情報検出部７４２０に適用することができる。例えば、撮像部７４１０または車外情報検出部７４２０に本技術を適用することにより、周囲の先行車両、歩行者又は障害物等の検出や測距を正確に行うことができる。

＜ 応用例２ ＞
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、手術室システムに適用されてもよい。

図３１は、本開示に係る技術が適用され得る手術室システム５１００の全体構成を概略的に示す図である。図３１を参照すると、手術室システム５１００は、手術室内に設置される装置群が視聴覚コントローラ（AV Controller）５１０７及び手術室制御装置５１０９を介して互いに連携可能に接続されることにより構成される。

手術室には、様々な装置が設置され得る。図３１では、一例として、内視鏡下手術のための各種の装置群５１０１と、手術室の天井に設けられ術者の手元を撮像するシーリングカメラ５１８７と、手術室の天井に設けられ手術室全体の様子を撮像する術場カメラ５１８９と、複数の表示装置５１０３Ａ〜５１０３Ｄと、レコーダ５１０５と、患者ベッド５１８３と、照明５１９１と、を図示している。

ここで、これらの装置のうち、装置群５１０１は、後述する内視鏡手術システム５１１３に属するものであり、内視鏡や当該内視鏡によって撮像された画像を表示する表示装置等からなる。内視鏡手術システム５１１３に属する各装置は医療用機器とも呼称される。一方、表示装置５１０３Ａ〜５１０３Ｄ、レコーダ５１０５、患者ベッド５１８３及び照明５１９１は、内視鏡手術システム５１１３とは別個に、例えば手術室に備え付けられている装置である。これらの内視鏡手術システム５１１３に属さない各装置は非医療用機器とも呼称される。視聴覚コントローラ５１０７及び／又は手術室制御装置５１０９は、これら医療機器及び非医療機器の動作を互いに連携して制御する。

視聴覚コントローラ５１０７は、医療機器及び非医療機器における画像表示に関する処理を、統括的に制御する。具体的には、手術室システム５１００が備える装置のうち、装置群５１０１、シーリングカメラ５１８７及び術場カメラ５１８９は、手術中に表示すべき情報（以下、表示情報ともいう）を発信する機能を有する装置（以下、発信元の装置とも呼称する）であり得る。また、表示装置５１０３Ａ〜５１０３Ｄは、表示情報が出力される装置（以下、出力先の装置とも呼称する）であり得る。また、レコーダ５１０５は、発信元の装置及び出力先の装置の双方に該当する装置であり得る。視聴覚コントローラ５１０７は、発信元の装置及び出力先の装置の動作を制御し、発信元の装置から表示情報を取得するとともに、当該表示情報を出力先の装置に送信し、表示又は記録させる機能を有する。なお、表示情報とは、手術中に撮像された各種の画像や、手術に関する各種の情報（例えば、患者の身体情報や、過去の検査結果、術式についての情報等）等である。

具体的には、視聴覚コントローラ５１０７には、装置群５１０１から、表示情報として、内視鏡によって撮像された患者の体腔内の術部の画像についての情報が送信され得る。また、シーリングカメラ５１８７から、表示情報として、当該シーリングカメラ５１８７によって撮像された術者の手元の画像についての情報が送信され得る。また、術場カメラ５１８９から、表示情報として、当該術場カメラ５１８９によって撮像された手術室全体の様子を示す画像についての情報が送信され得る。なお、手術室システム５１００に撮像機能を有する他の装置が存在する場合には、視聴覚コントローラ５１０７は、表示情報として、当該他の装置からも当該他の装置によって撮像された画像についての情報を取得してもよい。

あるいは、例えば、レコーダ５１０５には、過去に撮像されたこれらの画像についての情報が視聴覚コントローラ５１０７によって記録されている。視聴覚コントローラ５１０７は、表示情報として、レコーダ５１０５から当該過去に撮像された画像についての情報を取得することができる。なお、レコーダ５１０５には、手術に関する各種の情報も事前に記録されていてもよい。

視聴覚コントローラ５１０７は、出力先の装置である表示装置５１０３Ａ〜５１０３Ｄの少なくともいずれかに、取得した表示情報（すなわち、手術中に撮影された画像や、手術に関する各種の情報）を表示させる。図示する例では、表示装置５１０３Ａは手術室の天井から吊り下げられて設置される表示装置であり、表示装置５１０３Ｂは手術室の壁面に設置される表示装置であり、表示装置５１０３Ｃは手術室内の机上に設置される表示装置であり、表示装置５１０３Ｄは表示機能を有するモバイル機器（例えば、タブレットＰＣ（Personal Computer））である。

また、図３１では図示を省略しているが、手術室システム５１００には、手術室の外部の装置が含まれてもよい。手術室の外部の装置は、例えば、病院内外に構築されたネットワークに接続されるサーバや、医療スタッフが用いるＰＣ、病院の会議室に設置されるプロジェクタ等であり得る。このような外部装置が病院外にある場合には、視聴覚コントローラ５１０７は、遠隔医療のために、テレビ会議システム等を介して、他の病院の表示装置に表示情報を表示させることもできる。

手術室制御装置５１０９は、非医療機器における画像表示に関する処理以外の処理を、統括的に制御する。例えば、手術室制御装置５１０９は、患者ベッド５１８３、シーリングカメラ５１８７、術場カメラ５１８９及び照明５１９１の駆動を制御する。

手術室システム５１００には、集中操作パネル５１１１が設けられており、ユーザは、当該集中操作パネル５１１１を介して、視聴覚コントローラ５１０７に対して画像表示についての指示を与えたり、手術室制御装置５１０９に対して非医療機器の動作についての指示を与えることができる。集中操作パネル５１１１は、表示装置の表示面上にタッチパネルが設けられて構成される。

図３２は、集中操作パネル５１１１における操作画面の表示例を示す図である。図３２では、一例として、手術室システム５１００に、出力先の装置として、２つの表示装置が設けられている場合に対応する操作画面を示している。図３２を参照すると、操作画面５１９３には、発信元選択領域５１９５と、プレビュー領域５１９７と、コントロール領域５２０１と、が設けられる。

発信元選択領域５１９５には、手術室システム５１００に備えられる発信元装置と、当該発信元装置が有する表示情報を表すサムネイル画面と、が紐付けられて表示される。ユーザは、表示装置に表示させたい表示情報を、発信元選択領域５１９５に表示されているいずれかの発信元装置から選択することができる。

プレビュー領域５１９７には、出力先の装置である２つの表示装置（Monitor1、Monitor2）に表示される画面のプレビューが表示される。図示する例では、１つの表示装置において４つの画像がＰｉｎＰ表示されている。当該４つの画像は、発信元選択領域５１９５において選択された発信元装置から発信された表示情報に対応するものである。４つの画像のうち、１つはメイン画像として比較的大きく表示され、残りの３つはサブ画像として比較的小さく表示される。ユーザは、４つの画像が表示された領域を適宜選択することにより、メイン画像とサブ画像を入れ替えることができる。また、４つの画像が表示される領域の下部には、ステータス表示領域５１９９が設けられており、当該領域に手術に関するステータス（例えば、手術の経過時間や、患者の身体情報等）が適宜表示され得る。

コントロール領域５２０１には、発信元の装置に対して操作を行うためのＧＵＩ（Graphical User Interface）部品が表示される発信元操作領域５２０３と、出力先の装置に対して操作を行うためのＧＵＩ部品が表示される出力先操作領域５２０５と、が設けられる。図示する例では、発信元操作領域５２０３には、撮像機能を有する発信元の装置におけるカメラに対して各種の操作（パン、チルト及びズーム）を行うためのＧＵＩ部品が設けられている。ユーザは、これらのＧＵＩ部品を適宜選択することにより、発信元の装置におけるカメラの動作を操作することができる。なお、図示は省略しているが、発信元選択領域５１９５において選択されている発信元の装置がレコーダである場合（すなわち、プレビュー領域５１９７において、レコーダに過去に記録された画像が表示されている場合）には、発信元操作領域５２０３には、当該画像の再生、再生停止、巻き戻し、早送り等の操作を行うためのＧＵＩ部品が設けられ得る。

また、出力先操作領域５２０５には、出力先の装置である表示装置における表示に対する各種の操作（スワップ、フリップ、色調整、コントラスト調整、２Ｄ表示と３Ｄ表示の切り替え）を行うためのＧＵＩ部品が設けられている。ユーザは、これらのＧＵＩ部品を適宜選択することにより、表示装置における表示を操作することができる。

なお、集中操作パネル５１１１に表示される操作画面は図示する例に限定されず、ユーザは、集中操作パネル５１１１を介して、手術室システム５１００に備えられる、視聴覚コントローラ５１０７及び手術室制御装置５１０９によって制御され得る各装置に対する操作入力が可能であってよい。

図３３は、以上説明した手術室システムが適用された手術の様子の一例を示す図である。シーリングカメラ５１８７及び術場カメラ５１８９は、手術室の天井に設けられ、患者ベッド５１８３上の患者５１８５の患部に対して処置を行う術者（医者）５１８１の手元及び手術室全体の様子を撮影可能である。シーリングカメラ５１８７及び術場カメラ５１８９には、倍率調整機能、焦点距離調整機能、撮影方向調整機能等が設けられ得る。照明５１９１は、手術室の天井に設けられ、少なくとも術者５１８１の手元を照射する。照明５１９１は、その照射光量、照射光の波長（色）及び光の照射方向等を適宜調整可能であってよい。

内視鏡手術システム５１１３、患者ベッド５１８３、シーリングカメラ５１８７、術場カメラ５１８９及び照明５１９１は、図３１に示すように、視聴覚コントローラ５１０７及び手術室制御装置５１０９（図３３では図示せず）を介して互いに連携可能に接続されている。手術室内には、集中操作パネル５１１１が設けられており、上述したように、ユーザは、当該集中操作パネル５１１１を介して、手術室内に存在するこれらの装置を適宜操作することが可能である。

以下、内視鏡手術システム５１１３の構成について詳細に説明する。図示するように、内視鏡手術システム５１１３は、内視鏡５１１５と、その他の術具５１３１と、内視鏡５１１５を支持する支持アーム装置５１４１と、内視鏡下手術のための各種の装置が搭載されたカート５１５１と、から構成される。

内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ５１３９ａ〜５１３９ｄと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ５１３９ａ〜５１３９ｄから、内視鏡５１１５の鏡筒５１１７や、その他の術具５１３１が患者５１８５の体腔内に挿入される。図示する例では、その他の術具５１３１として、気腹チューブ５１３３、エネルギー処置具５１３５及び鉗子５１３７が、患者５１８５の体腔内に挿入されている。また、エネルギー処置具５１３５は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具５１３１はあくまで一例であり、術具５１３１としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。

内視鏡５１１５によって撮影された患者５１８５の体腔内の術部の画像が、表示装置５１５５に表示される。術者５１８１は、表示装置５１５５に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具５１３５や鉗子５１３７を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ５１３３、エネルギー処置具５１３５及び鉗子５１３７は、手術中に、術者５１８１又は助手等によって支持される。

（支持アーム装置）
支持アーム装置５１４１は、ベース部５１４３から延伸するアーム部５１４５を備える。図示する例では、アーム部５１４５は、関節部５１４７ａ、５１４７ｂ、５１４７ｃ、及びリンク５１４９ａ、５１４９ｂから構成されており、アーム制御装置５１５９からの制御により駆動される。アーム部５１４５によって内視鏡５１１５が支持され、その位置及び姿勢が制御される。これにより、内視鏡５１１５の安定的な位置の固定が実現され得る。

（内視鏡）
内視鏡５１１５は、先端から所定の長さの領域が患者５１８５の体腔内に挿入される鏡筒５１１７と、鏡筒５１１７の基端に接続されるカメラヘッド５１１９と、から構成される。図示する例では、硬性の鏡筒５１１７を有するいわゆる硬性鏡として構成される内視鏡５１１５を図示しているが、内視鏡５１１５は、軟性の鏡筒５１１７を有するいわゆる軟性鏡として構成されてもよい。

鏡筒５１１７の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡５１１５には光源装置５１５７が接続されており、当該光源装置５１５７によって生成された光が、鏡筒５１１７の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者５１８５の体腔内の観察対象に向かって照射される。なお、内視鏡５１１５は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。

カメラヘッド５１１９の内部には光学系及び撮像素子が設けられており、観察対象からの反射光（観察光）は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、ＲＡＷデータとしてカメラコントロールユニット（ＣＣＵ：Camera Control Unit）５１５３に送信される。なお、カメラヘッド５１１９には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。

なお、例えば立体視（３Ｄ表示）等に対応するために、カメラヘッド５１１９には撮像素子が複数設けられてもよい。この場合、鏡筒５１１７の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。

（カートに搭載される各種の装置）
ＣＣＵ５１５３は、ＣＰＵ（Central Processing Unit）やＧＰＵ（Graphics Processing Unit）等によって構成され、内視鏡５１１５及び表示装置５１５５の動作を統括的に制御する。具体的には、ＣＣＵ５１５３は、カメラヘッド５１１９から受け取った画像信号に対して、例えば現像処理（デモザイク処理）等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。ＣＣＵ５１５３は、当該画像処理を施した画像信号を表示装置５１５５に提供する。また、ＣＣＵ５１５３には、図３１に示す視聴覚コントローラ５１０７が接続される。ＣＣＵ５１５３は、画像処理を施した画像信号を視聴覚コントローラ５１０７にも提供する。また、ＣＣＵ５１５３は、カメラヘッド５１１９に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。当該撮像条件に関する情報は、入力装置５１６１を介して入力されてもよいし、上述した集中操作パネル５１１１を介して入力されてもよい。

表示装置５１５５は、ＣＣＵ５１５３からの制御により、当該ＣＣＵ５１５３によって画像処理が施された画像信号に基づく画像を表示する。内視鏡５１１５が例えば４Ｋ（水平画素数３８４０×垂直画素数２１６０）又は８Ｋ（水平画素数７６８０×垂直画素数４３２０）等の高解像度の撮影に対応したものである場合、及び／又は３Ｄ表示に対応したものである場合には、表示装置５１５５としては、それぞれに対応して、高解像度の表示が可能なもの、及び／又は３Ｄ表示可能なものが用いられ得る。４Ｋ又は８Ｋ等の高解像度の撮影に対応したものである場合、表示装置５１５５として５５インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置５１５５が設けられてもよい。

光源装置５１５７は、例えばＬＥＤ（light emitting diode）等の光源から構成され、術部を撮影する際の照射光を内視鏡５１１５に供給する。

アーム制御装置５１５９は、例えばＣＰＵ等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置５１４１のアーム部５１４５の駆動を制御する。

入力装置５１６１は、内視鏡手術システム５１１３に対する入力インタフェースである。ユーザは、入力装置５１６１を介して、内視鏡手術システム５１１３に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置５１６１を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置５１６１を介して、アーム部５１４５を駆動させる旨の指示や、内視鏡５１１５による撮像条件（照射光の種類、倍率及び焦点距離等）を変更する旨の指示、エネルギー処置具５１３５を駆動させる旨の指示等を入力する。

入力装置５１６１の種類は限定されず、入力装置５１６１は各種の公知の入力装置であってよい。入力装置５１６１としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ５１７１及び／又はレバー等が適用され得る。入力装置５１６１としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置５１５５の表示面上に設けられてもよい。

あるいは、入力装置５１６１は、例えばメガネ型のウェアラブルデバイスやＨＭＤ（Head Mounted Display）等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置５１６１は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置５１６１は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置５１６１が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ（例えば術者５１８１）が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。

処置具制御装置５１６３は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具５１３５の駆動を制御する。気腹装置５１６５は、内視鏡５１１５による視野の確保及び術者の作業空間の確保の目的で、患者５１８５の体腔を膨らめるために、気腹チューブ５１３３を介して当該体腔内にガスを送り込む。レコーダ５１６７は、手術に関する各種の情報を記録可能な装置である。プリンタ５１６９は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。

以下、内視鏡手術システム５１１３において特に特徴的な構成について、更に詳細に説明する。

（支持アーム装置）
支持アーム装置５１４１は、基台であるベース部５１４３と、ベース部５１４３から延伸するアーム部５１４５と、を備える。図示する例では、アーム部５１４５は、複数の関節部５１４７ａ、５１４７ｂ、５１４７ｃと、関節部５１４７ｂによって連結される複数のリンク５１４９ａ、５１４９ｂと、から構成されているが、図３３では、簡単のため、アーム部５１４５の構成を簡略化して図示している。実際には、アーム部５１４５が所望の自由度を有するように、関節部５１４７ａ〜５１４７ｃ及びリンク５１４９ａ、５１４９ｂの形状、数及び配置、並びに関節部５１４７ａ〜５１４７ｃの回転軸の方向等が適宜設定され得る。例えば、アーム部５１４５は、好適に、６自由度以上の自由度を有するように構成され得る。これにより、アーム部５１４５の可動範囲内において内視鏡５１１５を自由に移動させることが可能になるため、所望の方向から内視鏡５１１５の鏡筒５１１７を患者５１８５の体腔内に挿入することが可能になる。

関節部５１４７ａ〜５１４７ｃにはアクチュエータが設けられており、関節部５１４７ａ〜５１４７ｃは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置５１５９によって制御されることにより、各関節部５１４７ａ〜５１４７ｃの回転角度が制御され、アーム部５１４５の駆動が制御される。これにより、内視鏡５１１５の位置及び姿勢の制御が実現され得る。この際、アーム制御装置５１５９は、力制御又は位置制御等、各種の公知の制御方式によってアーム部５１４５の駆動を制御することができる。

例えば、術者５１８１が、入力装置５１６１（フットスイッチ５１７１を含む）を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置５１５９によってアーム部５１４５の駆動が適宜制御され、内視鏡５１１５の位置及び姿勢が制御されてよい。当該制御により、アーム部５１４５の先端の内視鏡５１１５を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部５１４５は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部５１４５は、手術室から離れた場所に設置される入力装置５１６１を介してユーザによって遠隔操作され得る。

また、力制御が適用される場合には、アーム制御装置５１５９は、ユーザからの外力を受け、その外力にならってスムーズにアーム部５１４５が移動するように、各関節部５１４７ａ〜５１４７ｃのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部５１４５に触れながらアーム部５１４５を移動させる際に、比較的軽い力で当該アーム部５１４５を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡５１１５を移動させることが可能となり、ユーザの利便性を向上させることができる。

ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡５１１５が支持されていた。これに対して、支持アーム装置５１４１を用いることにより、人手によらずに内視鏡５１１５の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。

なお、アーム制御装置５１５９は必ずしもカート５１５１に設けられなくてもよい。また、アーム制御装置５１５９は必ずしも１つの装置でなくてもよい。例えば、アーム制御装置５１５９は、支持アーム装置５１４１のアーム部５１４５の各関節部５１４７ａ〜５１４７ｃにそれぞれ設けられてもよく、複数のアーム制御装置５１５９が互いに協働することにより、アーム部５１４５の駆動制御が実現されてもよい。

（光源装置）
光源装置５１５７は、内視鏡５１１５に術部を撮影する際の照射光を供給する。光源装置５１５７は、例えばＬＥＤ、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、ＲＧＢレーザ光源の組み合わせにより白色光源が構成される場合には、各色（各波長）の出力強度及び出力タイミングを高精度に制御することができるため、光源装置５１５７において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、ＲＧＢレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド５１１９の撮像素子の駆動を制御することにより、ＲＧＢそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。

また、光源装置５１５７は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド５１１９の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。

また、光源装置５１５７は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光（すなわち、白色光）に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察（Narrow Band Imaging）が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの（自家蛍光観察）、又はインドシアニングリーン（ICG）等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置５１５７は、このような特殊光観察に対応した狭帯域光及び／又は励起光を供給可能に構成され得る。

（カメラヘッド及びＣＣＵ）
図３４を参照して、内視鏡５１１５のカメラヘッド５１１９及びＣＣＵ５１５３の機能についてより詳細に説明する。図３４は、図３３に示すカメラヘッド５１１９及びＣＣＵ５１５３の機能構成の一例を示すブロック図である。

図３４を参照すると、カメラヘッド５１１９は、その機能として、レンズユニット５１２１と、撮像部５１２３と、駆動部５１２５と、通信部５１２７と、カメラヘッド制御部５１２９と、を有する。また、ＣＣＵ５１５３は、その機能として、通信部５１７３と、画像処理部５１７５と、制御部５１７７と、を有する。カメラヘッド５１１９とＣＣＵ５１５３とは、伝送ケーブル５１７９によって双方向に通信可能に接続されている。

まず、カメラヘッド５１１９の機能構成について説明する。レンズユニット５１２１は、鏡筒５１１７との接続部に設けられる光学系である。鏡筒５１１７の先端から取り込まれた観察光は、カメラヘッド５１１９まで導光され、当該レンズユニット５１２１に入射する。レンズユニット５１２１は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット５１２１は、撮像部５１２３の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。

撮像部５１２３は撮像素子によって構成され、レンズユニット５１２１の後段に配置される。レンズユニット５１２１を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部５１２３によって生成された画像信号は、通信部５１２７に提供される。

撮像部５１２３を構成する撮像素子としては、例えばＣＭＯＳ（Complementary Metal Oxide Semiconductor）タイプのイメージセンサであり、Ｂａｙｅｒ配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば４Ｋ以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者５１８１は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。

また、撮像部５１２３を構成する撮像素子は、３Ｄ表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための１対の撮像素子を有するように構成される。３Ｄ表示が行われることにより、術者５１８１は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部５１２３が多板式で構成される場合には、各撮像素子に対応して、レンズユニット５１２１も複数系統設けられる。

また、撮像部５１２３は、必ずしもカメラヘッド５１１９に設けられなくてもよい。例えば、撮像部５１２３は、鏡筒５１１７の内部に、対物レンズの直後に設けられてもよい。

駆動部５１２５は、アクチュエータによって構成され、カメラヘッド制御部５１２９からの制御により、レンズユニット５１２１のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部５１２３による撮像画像の倍率及び焦点が適宜調整され得る。

通信部５１２７は、ＣＣＵ５１５３との間で各種の情報を送受信するための通信装置によって構成される。通信部５１２７は、撮像部５１２３から得た画像信号をＲＡＷデータとして伝送ケーブル５１７９を介してＣＣＵ５１５３に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者５１８１が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部５１２７には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル５１７９を介してＣＣＵ５１５３に送信される。

また、通信部５１２７は、ＣＣＵ５１５３から、カメラヘッド５１１９の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに／又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部５１２７は、受信した制御信号をカメラヘッド制御部５１２９に提供する。なお、ＣＣＵ５１５３からの制御信号も、光通信によって伝送されてもよい。この場合、通信部５１２７には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部５１２９に提供される。

なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてＣＣＵ５１５３の制御部５１７７によって自動的に設定される。つまり、いわゆるＡＥ（Auto Exposure）機能、ＡＦ（Auto Focus）機能及びＡＷＢ（Auto White Balance）機能が内視鏡５１１５に搭載される。

カメラヘッド制御部５１２９は、通信部５１２７を介して受信したＣＣＵ５１５３からの制御信号に基づいて、カメラヘッド５１１９の駆動を制御する。例えば、カメラヘッド制御部５１２９は、撮像画像のフレームレートを指定する旨の情報及び／又は撮像時の露光を指定する旨の情報に基づいて、撮像部５１２３の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部５１２９は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部５１２５を介してレンズユニット５１２１のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部５１２９は、更に、鏡筒５１１７やカメラヘッド５１１９を識別するための情報を記憶する機能を備えてもよい。

なお、レンズユニット５１２１や撮像部５１２３等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド５１１９について、オートクレーブ滅菌処理に対する耐性を持たせることができる。

次に、ＣＣＵ５１５３の機能構成について説明する。通信部５１７３は、カメラヘッド５１１９との間で各種の情報を送受信するための通信装置によって構成される。通信部５１７３は、カメラヘッド５１１９から、伝送ケーブル５１７９を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部５１７３には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部５１７３は、電気信号に変換した画像信号を画像処理部５１７５に提供する。

また、通信部５１７３は、カメラヘッド５１１９に対して、カメラヘッド５１１９の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。

画像処理部５１７５は、カメラヘッド５１１９から送信されたＲＡＷデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理（帯域強調処理、超解像処理、ＮＲ（Noise reduction）処理及び／又は手ブレ補正処理等）、並びに／又は拡大処理（電子ズーム処理）等、各種の公知の信号処理が含まれる。また、画像処理部５１７５は、ＡＥ、ＡＦ及びＡＷＢを行うための、画像信号に対する検波処理を行う。

画像処理部５１７５は、ＣＰＵやＧＰＵ等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部５１７５が複数のＧＰＵによって構成される場合には、画像処理部５１７５は、画像信号に係る情報を適宜分割し、これら複数のＧＰＵによって並列的に画像処理を行う。

制御部５１７７は、内視鏡５１１５による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部５１７７は、カメラヘッド５１１９の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部５１７７は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡５１１５にＡＥ機能、ＡＦ機能及びＡＷＢ機能が搭載されている場合には、制御部５１７７は、画像処理部５１７５による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。

また、制御部５１７７は、画像処理部５１７５によって画像処理が施された画像信号に基づいて、術部の画像を表示装置５１５５に表示させる。この際、制御部５１７７は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部５１７７は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具５１３５使用時のミスト等を認識することができる。制御部５１７７は、表示装置５１５５に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者５１８１に提示されることにより、より安全かつ確実に手術を進めることが可能になる。

カメラヘッド５１１９及びＣＣＵ５１５３を接続する伝送ケーブル５１７９は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。

ここで、図示する例では、伝送ケーブル５１７９を用いて有線で通信が行われていたが、カメラヘッド５１１９とＣＣＵ５１５３との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル５１７９を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル５１７９によって妨げられる事態が解消され得る。

以上、本開示に係る技術が適用され得る手術室システム５１００の一例について説明した。なお、ここでは、一例として手術室システム５１００が適用される医療用システムが内視鏡手術システム５１１３である場合について説明したが、手術室システム５１００の構成はかかる例に限定されない。例えば、手術室システム５１００は、内視鏡手術システム５１１３に代えて、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。

図１乃至図２７を用いて説明した本実施形態に係るカメラシステムは、以上説明した構成のうち、シーリングカメラ５１８７、術場カメラ５１８９、内視鏡５１１５のカメラヘッド５１１９に好適に適用され得る。シーリングカメラ５１８７、術場カメラ５１８９、内視鏡５１１５のカメラヘッド５１１９に、本開示に係る技術を適用することにより、血中のヘモグロビンを正確に観察することができたり、内臓の奥行きなどを正確に測定することができる。

なお、本明細書において、システムとは、複数の構成要素（装置、モジュール（部品）等）の集合を意味し、すべての構成要素が同一筐体中にあるか否かは問わない。従って、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、および、１つの筐体の中に複数のモジュールが収納されている１つの装置は、いずれも、システムである。

また、本明細書に記載された効果はあくまで例示であって限定されるものでは無く、また他の効果があってもよい。

本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。

なお、本技術は以下のような構成も取ることができる。
（１）
被写体を撮像する撮像部と、
ストラクチャードライト光源からの所定のパターンの光が、前記撮像部の特定の画素の投影領域に照射されている状態で撮像が行われることによって得られた画素信号に基づいて前記被写体の画像を生成する画像生成部と
を備える撮像装置。
（２）
前記所定のパターンは、前記特定の画素の投影領域に照射されるドットからなるドットパターンである
前記（１）に記載の撮像装置。
（３）
前記画像生成部は、前記ストラクチャードライト光源から、IR画素の投影領域にIR光が照射されている状態で撮像が行われることによって得られた画素信号に基づいて前記被写体の画像を生成する
前記（１）または（２）に記載の撮像装置。
（４）
前記画像生成部は、前記ストラクチャードライト光源からの前記IR光が照射されている前記IR画素からの信号に基づいてIR画像を生成し、前記IR光が照射されていない画素からの信号に基づいて可視画像を生成する
前記（３）に記載の撮像装置。
（５）
前記画像生成部は、波長帯の異なる複数の前記ストラクチャードライト光源から、前記複数のストラクチャードライト光源がそれぞれ対応する画素の投影領域に、前記複数のストラクチャードライト光源からの所定のパターンの光がそれぞれ照射されている状態で撮像が行われることによって得られた画素信号に基づいて前記被写体の画像を生成する
前記（１）または（２）に記載の撮像装置。
（６）
前記画像生成部は、前記ストラクチャードライト光源から、TOF用画素の投影領域にIR光が照射されている状態で撮像が行われることによって得られた画素信号に基づいて前記被写体の画像を生成する
前記（１）または（２）に記載の撮像装置。
（７）
前記画像生成部は、前記ストラクチャードライト光源からの前記IR光が照射されている前記TOF用画素からの信号に基づいてAF制御用の距離を算出し、前記IR光が照射されていない画素からの信号に基づいて可視画像を生成する
前記（６）に記載の撮像装置。
（８）
前記画像生成部は、前記ストラクチャードライト光源から、三角測量用画素の投影領域にIR光が照射されている状態で撮像が行われることによって得られた画素信号に基づいて前記被写体の画像を生成する
前記（１）または（２）に記載の撮像装置。
（９）
前記画像生成部は、前記ストラクチャードライト光源からの前記IR光が照射されている前記三角測量用画素からの信号に基づいてAF制御用の距離を算出し、前記IR光が照射されていない画素からの信号に基づいて可視画像を生成する
前記（８）に記載の撮像装置。
（１０）
前記ストラクチャードライト光源は、前記撮像部のレンズに近接して配置される
前記（１）乃至（９）のいずれかに記載の撮像装置。
（１１）
前記ストラクチャードライト光源となる光照射部をさらに備える
前記（１）乃至（１０）のいずれかに記載の撮像装置。
（１２）
前記光照射部の照射領域境界を前記撮像部の画角にほぼ一致させるために、前記光照射部から照射される光を反射させ、前記画素の投影領域で反射された光を透過させるミラーを
さらに備える前記（１１）に記載の撮像装置。
（１３）
前記光照射部は、前面に回折格子を備える
前記（１１）に記載の撮像装置。
（１４）
前記光照射部は、前記撮像装置と一体化して構成される
前記（１１）乃至（１３）のいずれかに記載の撮像装置。
（１５）
前記光照射部は、前記撮像装置に対して取り替え可能に装着されている
前記（１１）乃至（１３）のいずれかに記載の撮像装置。

１ カメラシステム， １１ IR光照射装置， １１Ａ IR光照射部， １２ 撮像装置， ２１ レーザ光源， ２２ 回折格子， ３１ 光学系， ３２ イメージセンサ， ３３ 画像生成部， ４１ 信号分離部， ４２−１ 可視信号補間処理部， ４２−２ IR信号補間処理部， ４３−１ 可視信号高画質化信号処理部， ４３−２ IR信号高画質化信号処理部，５１ カメラシステム， ６１ 光照射装置， ６１Ａ−１乃至６１Ａ−４ 光照射部， ６２ 撮像装置， ７１ 光学系， ７２ イメージセンサ， ７３ 画像生成部， ８１ 信号分離部， ８２−１乃至８２−４ 信号補間処理部， ８３−１乃至８３−４ 高画質化信号処理部

Claims (15)

1. 被写体を撮像する撮像部と、
   ストラクチャードライト光源からの所定のパターンの光が、前記撮像部の特定の画素の投影領域に照射されている状態で撮像が行われることによって得られた画素信号に基づいて前記被写体の画像を生成する画像生成部と
   を備える撮像装置。
2. 前記所定のパターンは、前記特定の画素の投影領域に照射されるドットからなるドットパターンである
   請求項１に記載の撮像装置。
3. 前記画像生成部は、前記ストラクチャードライト光源から、IR画素の投影領域にIR光が照射されている状態で撮像が行われることによって得られた画素信号に基づいて前記被写体の画像を生成する
   請求項１に記載の撮像装置。
4. 前記画像生成部は、前記ストラクチャードライト光源からの前記IR光が照射されている前記IR画素からの信号に基づいてIR画像を生成し、前記IR光が照射されていない画素からの信号に基づいて可視画像を生成する
   請求項３に記載の撮像装置。
5. 前記画像生成部は、波長帯の異なる複数の前記ストラクチャードライト光源から、前記複数のストラクチャードライト光源がそれぞれ対応する画素の投影領域に、前記複数のストラクチャードライト光源からの所定のパターンの光がそれぞれ照射されている状態で撮像が行われることによって得られた画素信号に基づいて前記被写体の画像を生成する
   請求項１に記載の撮像装置。
6. 前記画像生成部は、前記ストラクチャードライト光源から、TOF用画素の投影領域にIR光が照射されている状態で撮像が行われることによって得られた画素信号に基づいて前記被写体の画像を生成する
   請求項１に記載の撮像装置。
7. 前記画像生成部は、前記ストラクチャードライト光源からの前記IR光が照射されている前記TOF用画素からの信号に基づいてAF制御用の距離を算出し、前記IR光が照射されていない画素からの信号に基づいて可視画像を生成する
   請求項６に記載の撮像装置。
8. 前記画像生成部は、前記ストラクチャードライト光源から、三角測量用画素の投影領域にIR光が照射されている状態で撮像が行われることによって得られた画素信号に基づいて前記被写体の画像を生成する
   請求項１に記載の撮像装置。
9. 前記画像生成部は、前記ストラクチャードライト光源からの前記IR光が照射されている前記三角測量用画素からの信号に基づいてAF制御用の距離を算出し、前記IR光が照射されていない画素からの信号に基づいて可視画像を生成する
   請求項８に記載の撮像装置。
10. 前記ストラクチャードライト光源は、前記撮像部のレンズに近接して配置される
    請求項１に記載の撮像装置。
11. 前記ストラクチャードライト光源となる光照射部をさらに備える
    請求項１に記載の撮像装置。
12. 前記光照射部の照射領域境界を前記撮像部の画角にほぼ一致させるために、前記光照射部から照射される光を反射させ、前記画素の投影領域で反射された光を透過させるミラーを
    さらに備える請求項１１に記載の撮像装置。
13. 前記光照射部は、前面に回折格子を備える
    請求項１１に記載の撮像装置。
14. 前記光照射部は、前記撮像装置と一体化して構成される
    請求項１１に記載の撮像装置。
15. 前記光照射部は、前記撮像装置に対して取り替え可能に装着されている
    請求項１１に記載の撮像装置。

Images