以下、本技術を実施するための形態について説明する。なお、説明は以下の順序で行う。
1.画像処理装置を適用した機器の構成
2.画像処理装置の構成
3.学習装置の構成
3−1.特性差補正パラメータを生成する場合
3−2.合成制御パラメータを生成する場合
4.学習装置と画像処理部の動作
5.変形例
6.応用例
<1.画像処理装置を適用した機器の構成>
図1は、この技術の画像処理装置を適用した機器の外観を例示している。なお、以下の説明では、例えば情報処理端末に画像処理装置を適用している。図1の(a)は情報処理端末10の表側を示しており、表示部25および操作部27が表側に設けられている。図1の(b)は情報処理端末10の裏側を示しており、複数の撮像部例えば2つの撮像部21-1,21-2が裏側に設けられている。
図2は、情報処理端末の構成を例示している。情報処理端末10は、複数の撮像部例えば2つの撮像部21-1,21-2、画像処理部22、センサ部23、通信部24、表示部25、タッチパネル26、操作部27、記憶部28、および制御部30を有している。
撮像部21-1,21-2は、図1の(b)に示すように情報処理端末10の同一面側に設けられている。撮像部21-1,21-2は、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどの撮像素子を用いて構成されており、レンズ(図示せず)により取り込まれた光の光電変換を行い、撮像画の画像データを生成して画像処理部22へ出力する。画像処理部22は、撮像部21-1と撮像部21-2で生成された撮像画の画像データを用いて画像処理を行い、性能を向上させた撮像画の画像データすなわち撮像部21-1と撮像部21-2の個々の性能よりも高性能の撮像部で生成された撮像画と同様な撮像画の画像データを生成する。
この技術における性能は、画質性能や機能性能を含む。画質性能とは撮像画の色空間や解像度,感度,ノイズ等に関する性能であり、機能性能とは撮像画の生成時における画角や焦点距離、合焦制御、絞り制御、ホワイトバランス制御等の機能に関する性能である。
撮像部21-1,21-2は、画質に関する特性差を有している。画質に関する特性差は、画質性能に関する特性の差であり、色空間の相違と帯域の相違の少なくともいずれかの特性差を含む。例えば、分光特性差(一方の撮像部が白黒画像を生成して他方の撮像部がカラー画像を生成)、色配列差(一方の撮像部のカラーフィルタがベイヤ配列で他方の撮像部のカラーフィルタがプレーン配列)、画素数差(一方の撮像部が他方の撮像部よりも高画素数)、F値やMTF(Modulation Transfer Function)値の差等である。また、撮像部21-1,21-2は、特性差として機能性能に関する特性差を有してもよい。機能に関する特性差は、例えば画角や焦点距離、合焦制御、絞り制御、ホワイトバランス制御の少なくともいずれかの相違によって生じる特性差を含む。
画像処理部22は、撮像部21-1と撮像部21-2で生成された画像データを用いて画像処理を行い、撮像部21-1や撮像部21-2を個々に用いる場合よりも高性能な撮像部を用いた場合のような撮像画の画像データを生成して、表示部25や記憶部28へ出力する。なお、画像処理部22の構成および動作の詳細については後述する。
センサ部23はジャイロセンサなどを用いて構成されており、情報処理端末10に生じた揺れを検出する。センサ部23は、検出した揺れの情報を制御部30へ出力する。
通信部24は、LAN(Local Area Network)やインターネットなどのネットワーク上の機器と通信を行う。
表示部25は、画像処理部22から供給された画像データに基づき撮像画の表示、制御部30からの情報信号に基づきメニュー画面や各種アプリケーション画面等の表示を行う。また、表示部25の表示面側にはタッチパネル26が載置されており、GUI機能利用できるように構成されている。
操作部27は操作スイッチ等を用いて構成されており、ユーザ操作に応じた操作信号を生成して制御部30へ出力する。
記憶部28は、情報処理端末10で生成された情報例えば画像処理部22から供給された画像データや、情報処理端末10で通信やアプリケーションを実行するために用いられる各種情報を記憶する。
制御部30は、CPU(Central Processing Unit),ROM(Read Only Memory),RAM(Random Access Memory)(図示せず)などで構成されている。制御部30は、ROMまたはRAMに記憶されたプログラムを実行して、タッチパネル26や操作部27に対するユーザ操作に応じた動作が情報処理端末10で行われるように各部の動作を制御する。また、制御部30には、画像処理部22で画像処理を行う際に必要とされるパラメータを記憶したデータベース部DB1,DB2が設けられている。なお、データベース部DB1,DB2は、記憶部28に設けてもよい。
なお、情報処理端末10は、図2に示す構成に限られず、例えば画像データを符号化して記憶部28に記憶するための符号化処理部、画像データを表示部の解像度に合わせる解像度変換部等が設けられてもよい。
<2.画像処理装置の構成>
図3は、画像処理部の構成を例示している。画像処理部22は、撮像部21-1と撮像部21-2で生成された画像データを用いて画像処理を行い、撮像部21-1と撮像部21-2で個々に取得された撮像画よりも性能が向上された撮像画の画像データを生成する。
画像処理部22は、画像処理として、撮像部21-1と撮像部21-2で生成された画像データを用いて特性差補正処理を行う。また、画像処理部22は、撮像部21-1と撮像部21-2の視点位置が異なることから、視差補償を行う。さらに、画像処理部22は、特性差補正処理および視差補償が行われた画像データの合成を行う。以下、撮像部21-1は白黒撮像画の画像データ、撮像部21-2はカラー撮像画の画像データを生成して、画像処理部22は生成された画像データを用いて画像処理を行い、例えば撮像部21-2で取得されたカラー撮像画よりも高画質のカラー撮像画の画像データを生成する場合について説明する。
図4は、撮像部の画素配列を例示している。図4の(a)は、撮像部21-1の画素配列を示している。撮像部21-1は、全画素が、可視光の全波長領域の入射光量に基づく電気信号を出力するW(ホワイト)画素によって構成される。したがって、撮像部21-1は、白黒撮像画の画像データを生成する。
図4の(b)は、撮像部21-2の画素配列を示している。撮像部21-2は、赤色(G)画素と青色(B)画素と緑色(G)画素をベイヤ配列としたカラーフィルタを用いて構成されている。ベイヤ配列では2×2画素の画素単位において対角位置の2つの画素が緑色(G)画素で、残りの画素が赤色(R)画素と青色(B)画素とされている。撮像部21-2は、各画素が赤色と青色と緑色のいずれか1つの色成分の入射光量に基づく電気信号の生成を行う。すなわち、撮像部21-2は、三原色(RGB)のカラー撮像画の画像データを生成する。
画像処理部22は、現像処理部221、特性差補正部222、視差検出部223、視差補償部224、画像合成部225を有している。
現像処理部221は、撮像部21-2で生成されたカラー撮像画の画像データを用いて現像処理を行う。現像処理では、各画素が赤色と青色と緑色のいずれか1つの色成分を示す画像データから画素毎に赤色と青色と緑色の各色成分を示す画像データを生成するデモザイク処理を行う。また現像処理では、白い被写体が白色で表示されるように各色成分の画像データを調整するホワイトバランス処理等を行う。現像処理部221は、現像処理後の画像データを特性差補正部222と視差検出部223へ出力する。
特性差補正部222は、撮像部21-1で生成される学習画像の画像データと特性が異なる撮像部21-2で生成される学習画像の画像データの一方を教師データおよび他方を生徒データとして、生徒データを教師データの特性とする学習モデルに従って、撮像部21-1と撮像部21-2で生成された撮像画の画像データにおける画質性能が低い一方の画像データを画質性能の高い画像データに補正する。例えば、特性差補正部222は、撮像部21-1から供給された白黒撮像画の画像データと、現像処理部221から供給されたカラー撮像画の画像データの特性差が無くなるように、予め学習によって生成されている特性差補正パラメータを用いて特性差補正を行う。
特性差補正部222では、特性差の補正として例えば色空間の相違と帯域の相違(解像度と感度の特性差)を補正する。色空間の補正では、例えば現像処理部221から供給された画像データに応じてデータベース部DB1から特性差補正パラメータを取得する。また取得した特性差補正パラメータを用いて、現像処理部221から供給された画像データを撮像部21-1から供給された画像データの色空間とする特性差補正処理を行う。解像度の特性差補正では、例えば撮像部21-1から供給された画像データに応じてデータベース部DB1から特性差補正パラメータを取得する。また取得した特性差補正パラメータを用いて、撮像部21-1から供給された画像データを現像処理部221から供給された画像データの解像度とする特性差補正を行う。また、感度の特性差補正では、例えば現像処理部221から供給された画像データに応じてデータベース部DB1から特性差補正パラメータを取得する。また取得した特性差補正パラメータを用いて、現像処理部221から供給された画像データを撮像部21-1から供給された画像データの感度とする特性差補正を行う。また、特性差補正部222は、後述する視差補償部224で、撮像部21-1,21-2で生成された画像データの一方を視差補償する場合、視差補償を行う画像データの解像度に他方の画像データの解像度を補正する。特性差補正部222は、特性差が補正された各画像データを視差検出部223へ出力する。なお、特性が等しくされた画像データにおいて、撮像部21-1からの画像データを視差検出第1画像データ、現像処理部221からの画像データを視差検出第2画像データとする。また、視差検出第1画像データに基づく画像を視差検出第1撮像画、視差検出第2画像データに基づく画像を視差検出第2撮像画とする。
視差検出部223は、特性差が補正された視差検出第1画像データと視差検出第2画像データに基づいて、視差検出第1撮像画と視差検出第2撮像画の視差を示す視差情報を生成する。撮像部21-1と撮像部21-2は、図1の(b)に示すように異なる視点から撮像を行うため、撮像部21-1と撮像部21-2で生成された画像データに基づく撮像画、すなわち視差検出第1撮像画と視差検出第2撮像画は視差を持つ画像となる。従って、視差検出部223は、視差検出第1画像データと視差検出第2画像データを用いてブロックマッチングなどの対応点検出処理を行い、画素毎の視差を示す視差情報を生成して、生成した視差情報を視差補償部224へ出力して視差補償を行う。
視差検出部223は、例えば視差検出第1撮像画と視差検出第2撮像画のいずれか一方を基準撮像画として、基準撮像画上の注目位置を基準とした基準ブロック領域に最も類似する他方の撮像画上のブロック領域を検出する。視差検出部223は、検出したブロック領域と基準ブロック領域の位置の差を視差とする。また、視差検出部223は、基準撮像画上の各画素を注目位置として視差の算出を行い、画素毎に算出した視差を示す視差情報を生成する。
視差補償部224は、視差情報に基づき撮像部21-2で生成された画像データに基づく撮像画の視差補償を行う。視差補償部224は、現像処理部221から供給された画像データに対して視差情報に基づき画素位置の移動を行い、撮像部21-1の視点から撮像された場合と同様な撮像画を示す画像データを生成する。視差補償部224は、生成した画像データを画像合成部225へ出力する。
画像合成部225は、学習画像の画像データを教師データとして、撮像部21-1,21-2で生成される学習画像の画像データを生徒データとして、複数の生徒データの合成データを教師データの特性とする学習モデルに従って、例えば複数の生徒データの合成データを教師データの特性とする予め学習によって生成された合成制御パラメータを用いて、撮像部21-1から供給された画像データと、撮像部21-2で生成された画像データに対して視差補償部224で視差補償が行われた画像データを合成する。画像合成部225は、予め学習によって取得されている合成制御パラメータから、撮像部21-1で生成された画像データと視差補償部224から供給された画像データに応じて、例えば帯域を最大化する合成処理を行うための合成制御パラメータをデータベース部DB2から取得する。画像合成部225は、取得した合成制御パラメータで示された合成比で、撮像部21-1から供給された画像データと視差補償部224から供給された画像データを合成して、撮像部21-1,21-2で取得された撮像画よりも高性能な画像データを生成する。
<3.学習装置の構成>
次に、画像処理部で用いるパラメータを予め生成する際に用いる学習装置の構成について説明する。
<3−1.特性差補正パラメータを生成する場合>
図5は特性差補正パラメータを生成する場合の学習装置の構成を例示している。学習装置50は、第1撮像シミュレーション部51、第2撮像シミュレーション部52、第1特性差補正パラメータ生成部53、第2特性差補正パラメータ生成部54を有している。
第1撮像シミュレーション部51と第2撮像シミュレーション部52には、学習画像の画像データが供給されている。
第1撮像シミュレーション部51は、例えば撮像部21-1の撮像特性をシミュレーションして、学習画像を撮像部21-1で撮像した画像データを、学習画像の画像データに基づいて生成する。第1撮像シミュレーション部51は、生成した画像データを生徒データとして第1特性差補正パラメータ生成部53へ出力する。また、第1撮像シミュレーション部51は、生成した画像データを教師データとして第2特性差補正パラメータ生成部54へ出力する。
第2撮像シミュレーション部52は、例えば撮像部21-2の撮像特性をシミュレーションして、学習画像を撮像部21-2で撮像した画像データを、学習画像の画像データに基づいて生成する。第2撮像シミュレーション部52は、生成した画像データを生徒データとして第2特性差補正パラメータ生成部54へ出力する。また、第2撮像シミュレーション部52は、生成した画像データを教師データとして第1特性差補正パラメータ生成部53へ出力する。
第1特性差補正パラメータ生成部53は、教師データと生徒データを用いて学習を行い、生徒データから教師データと同等の画像データを生成するための特性差補正パラメータを算出する。第1特性差補正パラメータ生成部53は、生徒データが示す生徒画像における注目画素の分類を行うため、生徒画像から注目画素を基準とした特徴量算出対象領域の画素を抽出して、抽出した画素の画素データから特徴量を算出する。また、第1特性差補正パラメータ生成部53は、算出した特徴量に基づき注目画素の分類を行い、分類毎に予測係数を算出する。第1特性差補正パラメータ生成部53は、予測係数の算出において、生徒画像から注目画素を基準として予測タップの画素を抽出する。また、第1特性差補正パラメータ生成部53は、予測タップの画素データと予測係数の乗算結果を累積した累積データと注目画素に対応する教師画像の画素データの差が最小となる予測係数を算出する。第1特性差補正パラメータ生成部53は、分類毎に算出した予測係数を特性差補正パラメータとしてデータベース部DB1-1に記憶する。すなわち、データベース部DB1-1には、撮像部21-1で生成された画像データから、撮像部21-2で生成される画像データと同等の特性である画像データを、特性差補正部222の第1特性差補正部222-1で生成するための特性差補正パラメータが記憶される。
第2特性差補正パラメータ生成部54は、第1特性差補正パラメータ生成部53と同様に、教師データと生徒データを用いて学習を行い、生徒データから教師データと同等の画像データを生成するための特性差補正パラメータを算出する。第2特性差補正パラメータ生成部54は、生徒データが示す生徒画像における注目画素の分類を行うため、生徒画像から注目画素を基準とした特徴量算出対象領域の画素を抽出して、抽出した画素の画素データから特徴量を算出する。また、第2特性差補正パラメータ生成部54は、算出した特徴量に基づき注目画素の分類を行い、分類毎に予測係数を算出する。第2特性差補正パラメータ生成部54は、予測係数の算出において、生徒画像から注目画素を基準として予測タップの画素を抽出する。また、第2特性差補正パラメータ生成部54は、予測タップの画素データと予測係数の乗算結果を累積した累積データと注目画素に対応する教師画像の画素データの差が最小となる予測係数を算出する。第2特性差補正パラメータ生成部54は、分類ごとに算出した予測係数を特性差補正パラメータとしてデータベース部DB1-2に記憶する。すなわち、データベース部DB1-2には、撮像部21-2で生成された画像データから、撮像部21-1で生成される画像データと同等の特性である画像データを、特性差補正部222の第2特性差補正部222-2で生成するための特性差補正パラメータが記憶される。
学習装置50で行う注目画素の分類では、特徴量として例えば特徴量算出対象領域の画素データのダイナミックレンジを用いてもよく、特徴量算出対象領域の平均画素データを用いてもよく、特徴量算出対象領域の画素のノイズ量(標準偏差)を用いてもよい。さらに、注目画素の像高を特徴量として用いてもよい。また、特徴量算出対象領域の画素データを用いてADRC(Adaptive Dynamic Range Coding)処理を行い、再量子化されたデータを特徴量として用いてもよい。
<3−2.合成制御パラメータを生成する場合>
図6は合成制御パラメータを生成する場合の学習装置の構成を例示している。学習装置60は、第1撮像シミュレーション部61、第2撮像シミュレーション部62、合成制御パラメータ生成部63を有している。
第1撮像シミュレーション部61と第2撮像シミュレーション部62には、学習画像の画像データが供給されている。また、学習画像の画像データは、教師データとして合成制御パラメータ生成部63に供給されている。
第1撮像シミュレーション部61は、例えば撮像部21-1の撮像特性をシミュレーションして、学習画像を撮像部21-1で撮像した画像データを、学習画像の画像データに基づいて生成する。第1撮像シミュレーション部51は、生成した画像データを生徒データとして合成制御パラメータ生成部63へ出力する。
第2撮像シミュレーション部62は、例えば撮像部21-2の撮像特性をシミュレーションして、学習画像を撮像部21-2で撮像した画像データを、学習画像の画像データに基づいて生成する。第2撮像シミュレーション部62は、生成した画像データを生徒データとして合成制御パラメータ生成部63へ出力する。
合成制御パラメータ生成部63は、教師データと生徒データを用いて学習を行い、第1撮像シミュレーション部61から供給された生徒データと第2撮像シミュレーション部62から供給された生徒データを合成する際に、教師データとの特性差が最小となる画像データを生成するための合成制御パラメータを算出する。合成制御パラメータ生成部63は、生徒データが示す生徒画像における注目画素の分類を行うため、例えば2つの生徒画像のそれぞれで、注目画素を基準として特徴量算出領域の画素を抽出して、抽出した画素の画素データからそれぞれ特徴量を算出する。また、合成制御パラメータ生成部63は、算出したそれぞれの特徴量に基づき注目画素の分類を行い、分類毎に合成比率を算出する。合成制御パラメータ生成部63は、合成比率の算出において、それぞれの生徒画像から注目画素を基準として予測タップを抽出する。また、合成制御パラメータ生成部63は、生徒画像毎に予測タップの画素データと予測係数の乗算結果を累積した累積データを算出して、生徒画像毎に算出した累積データの加算結果と注目画素に対応する教師画像の画素データの特性差が最小となる予測係数を算出する。また、合成制御パラメータ生成部63は、分類毎に算出した予測係数を合成制御パラメータとしてデータベース部DB2に記憶する。すなわち、データベース部DB2には、撮像部21-1で生成された画像データと撮像部21-2で生成された画像データを合成して学習画像に最も類似した性能の画像データを生成するための合成比率を示す合成制御パラメータが記憶される。
学習装置60で行う注目画素の分類では、特徴量として例えば特徴量算出対象領域の画素データのダイナミックレンジを用いてもよく、特徴量算出対象領域の平均画素データを用いてもよく、特徴量算出対象領域の画素のノイズ量(標準偏差)を用いてもよい。また、注目画素の像高を特徴量として用いてもよい。また、特徴量算出対象領域の画素データを用いてADRC(Adaptive Dynamic Range Coding)処理を行い、再量子化されたデータを特徴量として用いてもよい。さらに、合成対象の撮像画が位置ずれを生じている場合、合成画像は合成前よりも画質の劣化を生じるおそれがあるので、合成対象の撮像画間における各画素位置の画素データの差を特徴量として用いてもよい。
<4.学習装置と画像処理部の動作>
図7は特性差補正パラメータを生成する学習装置の動作、図8は特性差補正部の動作を例示したフローチャートである。
図7のステップST1において学習装置は第1撮像シミュレーション処理を行う。学習装置50は、学習画像の画像データから撮像部21-1で生成される画像データと同性能である第1シミュレーション画像データを生成してステップST2に進む。
ステップST2において学習装置は第2撮像シミュレーション処理を行う。学習装置50は、学習画像の画像データから撮像部21-2で生成される画像データと同性能である第2シミュレーション画像データを生成してステップST3に進む。
ステップST3で学習装置は特性差補正パラメータの学習を行う画素ループを開始してステップST4に進む。
ステップST4で学習装置は教師画素を取得する。学習装置50は、教師データとされている第1シミュレーション画像データまたは第2シミュレーション画像データから、注目画素の画素データを取得してステップST5に進む。
ステップST5で学習装置は生徒画素を取得する。学習装置50は、教師データと異なり生徒データとされている第1シミュレーション画像データまたは第2シミュレーション画像データから、注目画素を基準とした特徴量算出対象領域の画素データを取得してステップST6に進む。
ステップST6で学習装置は注目画素の分類を行う。学習装置50は、ステップST5で取得した特徴量算出対象領域の画素データから注目画素の特徴量を算出して、算出した特徴量に基づき注目画素の分類を行いステップST7に進む。
ステップST7で学習装置は予測タップを取得する。学習装置50は、生徒データから注目画素を基準とした予測タップの画素データを取得してステップST8に進む。
ステップST8で学習装置は学習行列への足し込みを行う。学習装置50は、ステップST4で取得した教師データにおける注目画素の画素データとステップST7で取得した予測タップの画素データを用いて、学習行列例えば正規方程式への足し込みを行いステップST9に進む。なお、正規方程式は、注目画素の分類毎に設ける。
ステップST9で学習装置は画素ループを終了する。学習装置50は、学習画像における各画素を注目画素として学習行列への足し込みを行った場合には画素ループを終了してステップST10に進む。また、正規方程式への足し込みが終了していない画素が残っている場合はステップST6に戻り、学習画像において注目画素に設定されていない新たな画素を注目画素に設定して、ステップST6からステップST8の処理を行う。
ステップST10で学習装置は特性差補正パラメータを算出する。学習装置50は分類毎の学習行列について逆行列を算出して予測係数とする。学習装置50は、例えば足し込みが終了した正規方程式の係数解を算出して、算出した係数を予測係数とする。また、学習装置50は算出した分類毎の予測係数を特性差補正パラメータとしてデータベース部DB1に記憶する。
図8のステップST21において画像処理部は第1撮像画像データを取得する。画像処理部22の特性差補正部222は、撮像部21-1で生成された画像データを第1撮像画像データとして取得してステップST22に進む。
ステップST22において画像処理部は第2撮像画像データを取得する。画像処理部22の特性差補正部222は、撮像部21-2で生成された画像データを取得して現像処理を行い、現像処理後の画像データを第2撮像画像データとしてステップST23に進む。
ステップST23で画像処理部は特性差補正を行う画素ループを開始してステップST24に進む。
ステップST24で画像処理部は注目画素の分類を行う。画像処理部22の特性差補正部222は、特性差補正を行う第1撮像画像データまたは第2撮像画像データから、注目画素を基準とした特徴量算出対象領域の画素データを取得して、取得した画素データから注目画素の特徴量を算出する。また、特性差補正部222は、算出した特徴量に基づいて注目画素の分類を行いステップST25に進む。
ステップST25で画像処理部は特性差補正パラメータを取得する。画像処理部22の特性差補正部222は、ステップST25の分類結果に対応した特性差補正パラメータをデータベース部DB1から取得してステップST26に進む。
ステップST26で画像処理部は予測タップを取得する。画像処理部22の特性差補正部222は、特性差補正を行う撮像画像データから注目画素を基準として予測タップの画素データを取得してステップST27に進む。
ステップST27で画像処理部は特性差補正を行う。画像処理部22の特性差補正部222は、ステップST26で取得した特性差補正パラメータで示されている予測係数と予測タップの画素データを用いて予測演算を行い、注目画素の特性差が補正された画素データを算出してステップST28に進む。
ステップST28で画像処理部は画素ループを終了する。画像処理部22の特性差補正部222は、特性差補正対象の画像における各画素を注目画素として特性差が補正された画素データの算出を行った場合には画素ループを終了する。また、特性差が補正された画素データの算出が行われていない画素が残っている場合はステップST24に戻り、特性差補正対象の画像において注目画素に設定されていない新たな画素を注目画素に設定して、ステップST24からステップST27の処理を行う。
図9は、画像処理部で行われる特性差補正動作を示している。なお、図9では、特性差として色空間と帯域(解像度と簡素)について補正を行う場合を例示しており、性能が高い順に二重丸印、丸印、三角印のマークを用いている。また、図9では補正方向を矢印で示している。例えば撮像部21-2の画像データに対しては、色空間と感度を撮像部21-1の画像データに合わせる補正処理を行い、撮像部21-1の画像データに対しては、解像度を撮像部21-2の画像データに合わせる補正処理を行う。なお、特性差補正動作は、視差検出に用いる画像データを生成することを目的としており、撮像部21-1の画像データを撮像部21-2の画像データの解像度に合わせることで、カラー撮像画に対する視差補償を最適に行うことができるようになる。
図10は、第2特性差補正部で行われる特性差補正処理を例示している。なお、データベース部DB1-2aには、色空間変換を行うための予測係数が予め学習によって記憶されている。また、データベース部DB1-2bには、帯域補正を行うための予測係数が予め学習によって記憶されている。
第2特性差補正部222-2は、色空間変換と帯域補正を行う。色空間変換において、第2特性差補正部222-2は、現像処理部221から供給されたRGB成分を示す画像データとデータベース部DB1-2aから注目画像の分類結果に応じて取得した予測係数k1,k2,k3を用いて式(1)の演算を行う。第2特性差補正部222-2は、このような演算を行い、W(白)成分を示す画像データWYを生成する。
WY=k1×R+k2×G+k3×B ・・・(1)
帯域補正において、第2特性差補正部222-2は、画像データWYから注目画素を基準とした例えば二次元方向の予測タップの取得と、データベース部DB1-2bから注目画像の分類結果に応じた予測係数である二次元フィルタ係数を取得する。その後、第2特性差補正部222-2は、取得した予測タップpix(i)と二次元フィルタ係数coef(i)を用いて式(2)に示すように予測タップと係数の畳み込み演算を行い、注目画素の特性差補正画素データW’を生成する。なお、式(2)において「n」はタップ数である。
図11は、色空間に対する特性差補正結果を模式的に示している。図11の(a)は、撮像部21-1で生成された画像データが示す撮像画のW(白)成分、および撮像部21-2で生成された画像データが示す撮像画のR(赤色)成分,G(緑色)成分,B(青色)成分の波長と感度の関係を模式的に示している。
図11の(b)は、図11の(a)に対して、色空間変換式を用いてR成分とG成分とB成分から算出されたY(輝度)成分の波長と感度の関係を追加した図である。
図11の(c)は、図11の(a)に対して、学習によって予め生成されている特性差補正パラメータを用いて算出されたW’(白)成分の波長と感度の関係を追加した図である。
図11の(b)に示すように、色空間変換式を用いて算出したY成分はW成分と特性が異なる。したがって、W成分の画像データと色空間変換式を用いて算出したY成分の画像データを用いて視差検出を行った場合、波長に対する感度の違いによって視差検出を精度よく行うことができないことが想定される。しかし、図11の(c)に示すように、学習によって予め生成されている特性差補正パラメータを用いて算出されたW’成分はW成分と類似した特性に補正されている。したがって、色空間変換式を用いて算出したY成分の画像データを用いる場合に比べて、視差検出性能を向上できるようになる。
次に合成制御パラメータを生成する学習装置の動作と画像合成部の動作について説明する。図12は合成制御パラメータを生成する学習装置の動作、図13は画像合成部の動作を例示したフローチャートである。
図12のステップST31において学習装置は第1撮像シミュレーション処理を行う。学習装置60は、学習画像の画像データから撮像部21-1で生成される画像データと同性能である第1シミュレーション画像データを生成してステップST32に進む。
ステップST32において学習装置は第2撮像シミュレーション処理を行う。学習装置60は、学習画像の画像データから撮像部21-2で生成される画像データと同性能である第2シミュレーション画像データを生成してステップST33に進む。
ステップST33で学習装置は合成制御パラメータの学習を行う画素ループを開始してステップST34に進む。
ステップST34で学習装置は教師画素を取得する。学習装置60は、学習画像の画像データである教師データから、注目画素の画素データを取得してステップST35に進む。
ステップST35で学習装置は生徒画素を取得する。学習装置60は、生徒データである第1シミュレーション画像データと第2シミュレーション画像データから、注目画素を基準とした特徴量算出対象領域の画素データを取得してステップST36に進む。
ステップST36で学習装置は注目画素の分類を行う。学習装置60は、ステップST35で取得した画素データから注目画素の特徴量を算出して、算出した特徴量に基づいた注目画素の分類を行いステップST37に進む。
ステップST37で学習装置は予測タップを取得する。学習装置60は、各生徒データから注目画素を基準とした予測タップの画素データを取得してステップST38に進む。
ステップST38で学習装置は学習行列への足し込みを行う。学習装置60は、ステップST34で取得した教師データにおける注目画素の画素データとステップST37で取得した予測タップの画素データを用いて、学習行列例えば正規方程式への足し込みを行いステップST39に進む。なお、正規方程式は、注目画素の分類毎に設ける。
ステップST39で学習装置は画素ループを終了する。学習装置60は、学習画像における各画素を注目画素として学習行列への足し込みを行った場合には画素ループを終了してステップST40に進む。また、正規方程式への足し込みが終了していない画素が残っている場合はステップST36に戻り、学習画像において注目画素に設定されていない新たな画素を注目画素に設定して、ステップST36からステップST38の処理を行う。
ステップST40で学習装置は合成制御パラメータを算出する。学習装置60は分類毎の学習行列について逆行列を算出して予測係数とする。学習装置60は、例えば足し込みが終了した正規方程式の係数解を算出して、算出した係数を予測係数と合成比とする。また、学習装置60は算出した分類毎の予測係数と合成比を合成制御パラメータとしてデータベース部DB2に記憶する。
図13のステップST51において画像処理部は第1撮像画像データを取得する。画像処理部22の画像合成部225は、撮像部21-1で生成された画像データを第1撮像画像データとして取得してステップST52に進む。
ステップST52において画像処理部は第2撮像画像データを取得する。画像処理部22の画像合成部225は、撮像部21-2で生成された画像データを取得して現像処理を行い、現像処理後の画像データを第2撮像画像データとしてステップST53に進む。
ステップST53で画像処理部は画像合成を行う画素ループを開始してステップST54に進む。
ステップST54で画像処理部は注目画素の分類を行う。画像処理部22の画像合成部225は、画像合成に用いる第1撮像画像データと第2撮像画像データから、注目画素を基準として特徴量算出対象領域の画素データを取得して、取得した画素データから注目画素の特徴量を算出する。また、画像合成部225は、算出した特徴量に基づいた注目画素の分類を行いステップST55に進む。
ステップST55で画像処理部は合成制御パラメータを取得する。画像処理部22の画像合成部225は、ステップST54の分類結果に対応した合成制御パラメータをデータベース部DB2から取得してステップST56に進む。
ステップST56で画像処理部は予測タップを取得する。画像処理部22の画像合成部225は、画像合成に用いる第1撮像画像データと第2撮像画像データから注目画素を基準として予測タップの画素データを取得してステップST57に進む。
ステップST57で画像処理部は画像合成を行う。画像処理部22の画像合成部225は、ステップST55で取得した合成制御パラメータで示された予測係数と予測タップの画素データを用いて畳み込み演算を行う。また、画像合成部225は、畳み込み演算の演算結果を合成制御パラメータで示された合成比で加算して合成画素データを算出してステップST58に進む。なお、合成画素データは合成画像の画素データである。
ステップST58で画像処理部は画素ループを終了する。画像処理部22の画像合成部225は、画像合成対象の第1撮像画像データと第2撮像画像データにおける各画素を注目画素として画素合成値の算出を行った場合には画素ループを終了する。また、画像合成部225は、画素合成値の算出が行われていない画素が残っている場合はステップST54に戻り、注目画素に設定されていない新たな画素を注目画素に設定して、ステップST54からステップST57の処理を行う。
図14は、画像合成部で行われる画像合成動作を示している。なお、図14では、性能として色空間と帯域(解像度と感度)を例示しており、性能が高い順に二重丸印、丸印、三角印のマークを用いている。画像処理部22の画像合成部225は、予め学習によって生成されている合成制御パラメータを用いて画素毎に合成処理を行うことで、例えば撮像部21-1で生成された画像データと撮像部21-2で生成された画像データを合成したRGB成分を示す合成画像データを生成する。また、画像合成部225は、予め学習によって生成されている合成制御パラメータを用いて画素毎に合成処理を行うことで、例えば撮像部21-2で生成された画像データよりも高解像度である合成画像データを生成する。さらに、画像合成部225は、予め学習によって生成されている合成制御パラメータを用いて画素毎に合成処理を行うことで、例えば撮像部21-2で生成された画像データよりも高感度である合成画像データを生成する。
図15は、画像合成部で行われる画像合成動作を例示している。画像合成部225は、撮像部21-1で生成された画像データ(W)と現像処理部221からの画像データ(RGB)から注目画素を基準とした例えば二次元方向の予測タップを取得する。また、画像合成部225は、データベース部DB2から画像データ(W)と画像データ(RGB)における注目画素の分類結果に応じた合成比αと予測係数である二次元フィルタ係数を取得する。画像合成部225は、取得した予測タップPix1(i),Pix(j)と合成比αと二次元フィルタ係数coef1(i),coef2(j)を用いて式(3)に示す演算を行う。すなわち、画像合成部225は、予測タップと予測係数の畳み込み演算の演算結果を合成比で加算して注目画素の合成画素データDYを生成する。なお、式(3)において「n」はタップ数である。
また、式(3)で生成される合成画素データは、輝度(白)成分を示す画像データであることから、例えば現像処理部221から供給されたRGB成分を示す画像データの色空間変換を行いU成分とV成分を生成して、DY成分とU成分およびV成分を示す画像データを出力する。また、画像合成部225から撮像部21-2で生成される画像データと等しい色空間の画像データを出力する場合、DY成分とU成分およびV成分を示す画像データからRGB成分を示す画像データを生成して出力してもよい。
<5.変形例>
ところで、上述の実施の形態では、白黒撮像画の画像データを生成する撮像部21-1とカラー撮像画を生成する撮像部21-2を用いて、撮像部21-2で生成されるカラー撮像画よりも解像度と感度の高いカラー撮像画を生成する場合を例示した。しかし、複数の撮像部や生成する撮像画は、上述の構成に限られない。
図16は、撮像部の構成と動作(生成される撮像画)の組み合わせ要素を例示している。機能性能に関する特性差を生じる要素は、例えば画角、色配列、露光時間、フォーカス、その他の要素である。画角に関しては例えば広角の撮像画や望遠の撮像画を用いてもよい。色配列は、上述のベイヤ配列及び単一の白画素に限らず、原色と補色の各色を示す画素を設けた配列、原色の画素に白色や赤外光領域に感度を有する画素等を設けた配列であってもよい。また、光電変換の波長域が異なる光電変換層を光の入射方向に積層した縦分光の配列であってもよい。露光時間に関しては、例えば長時間露光の撮像画や短時間露光の撮像画、露光タイミングが異なる撮像画を用いてもよい。フォーカスに関しては、例えば前景に焦点が合った撮像画や背景に焦点が合った撮像画を用いてもよい。その他の要素として、画素数の異なる撮像画、画素配列が異なる撮像画、光源の色温度が異なる撮像画、特定の偏光方向の撮像画等を用いてもよい。
画像処理部は、このような要素を組み合わせて特性差補正や画像合成を行い、特性差補正や画像合成では学習モデルに従って、良好な画質の合成画像をモデルベースの合成処理に比べて容易に生成できる。例えば画像処理部は、露光時間が異なる複数の撮像画を合成して良好な画質のハイダイナミックレンジ合成画像を生成できる。また、画像処理部は、露光タイミングが異なる複数の撮像画の特性を揃えて時間方向に並べて良好な画質のハイフレームレート画像を生成することもできる。また、画像処理部は、色配列の異なる複数の撮像画を合成して色再現性を向上させた合成画像を生成することもできる。
さらに、画像処理部は、機能性を向上させた合成画像をモデルベースの特性差補正や合成処理に比べて容易に生成できる。図17は、複数の撮像部の撮像領域を例示している。なお、図17では、2つの撮像部21-1,21-2を用いた場合を例示しており、撮像部21-1の画角をAG1、撮像部21-2の画角をAG2として示している。図17の(a)は、上述の実施の形態のように同一の被写体範囲を撮像部21-1,21-2で撮像する場合を示している。また、図17の(b)は撮像部21-1,21-2で撮像される被写体範囲の一部のみが重複する場合、図17の(c)は画角が異なる撮像部21-1,21-2の一方で撮像される被写体範囲が他方で撮像される被写体範囲に含まれる場合を例示している。例えば画像処理部は、図17の(b)に示すように配置された撮像画の特性を揃えて合成することで、広画角の撮像画を生成できる。また、画像処理部は、図17の(c)に示すように配置された撮像画の特性を揃えることで、広角画像とズーム画像の切り替えを高画質で容易に行うことができる。また、図17の(c)において、撮像部21-1で白黒撮像画またはカラー撮像画の生成を行い、撮像部21-2で赤外撮像画の解像度を白黒撮像画またはカラー撮像画の解像度に高めることも可能である。さらに、画像処理部は、図16に示す要素を組み合わせることで、オートフォーカス速度やオートアイリス調整、オートホワイトバランス調整等の性能を向上させることも可能となる。
<6.応用例>
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、情報処理端末に限らず、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット、建設機械、農業機械(トラクター)などのいずれかの種類の移動体に搭載される装置として実現されてもよい。
図18は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システム7000の概略的な構成例を示すブロック図である。車両制御システム7000は、通信ネットワーク7010を介して接続された複数の電子制御ユニットを備える。図18に示した例では、車両制御システム7000は、駆動系制御ユニット7100、ボディ系制御ユニット7200、バッテリ制御ユニット7300、車外情報検出ユニット7400、車内情報検出ユニット7500、及び統合制御ユニット7600を備える。これらの複数の制御ユニットを接続する通信ネットワーク7010は、例えば、CAN(Controller Area Network)、LIN(Local Interconnect Network)、LAN(Local Area Network)又はFlexRay(登録商標)等の任意の規格に準拠した車載通信ネットワークであってよい。
各制御ユニットは、各種プログラムにしたがって演算処理を行うマイクロコンピュータと、マイクロコンピュータにより実行されるプログラム又は各種演算に用いられるパラメータ等を記憶する記憶部と、各種制御対象の装置を駆動する駆動回路とを備える。各制御ユニットは、通信ネットワーク7010を介して他の制御ユニットとの間で通信を行うためのネットワークI/Fを備えるとともに、車内外の装置又はセンサ等との間で、有線通信又は無線通信により通信を行うための通信I/Fを備える。図18では、統合制御ユニット7600の機能構成として、マイクロコンピュータ7610、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660、音声画像出力部7670、車載ネットワークI/F7680及び記憶部7690が図示されている。他の制御ユニットも同様に、マイクロコンピュータ、通信I/F及び記憶部等を備える。
駆動系制御ユニット7100は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット7100は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。駆動系制御ユニット7100は、ABS(Antilock Brake System)又はESC(Electronic Stability Control)等の制御装置としての機能を有してもよい。
駆動系制御ユニット7100には、車両状態検出部7110が接続される。車両状態検出部7110には、例えば、車体の軸回転運動の角速度を検出するジャイロセンサ、車両の加速度を検出する加速度センサ、あるいは、アクセルペダルの操作量、ブレーキペダルの操作量、ステアリングホイールの操舵角、エンジン回転数又は車輪の回転速度等を検出するためのセンサのうちの少なくとも一つが含まれる。駆動系制御ユニット7100は、車両状態検出部7110から入力される信号を用いて演算処理を行い、内燃機関、駆動用モータ、電動パワーステアリング装置又はブレーキ装置等を制御する。
ボディ系制御ユニット7200は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット7200は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット7200には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット7200は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
バッテリ制御ユニット7300は、各種プログラムにしたがって駆動用モータの電力供給源である二次電池7310を制御する。例えば、バッテリ制御ユニット7300には、二次電池7310を備えたバッテリ装置から、バッテリ温度、バッテリ出力電圧又はバッテリの残存容量等の情報が入力される。バッテリ制御ユニット7300は、これらの信号を用いて演算処理を行い、二次電池7310の温度調節制御又はバッテリ装置に備えられた冷却装置等の制御を行う。
車外情報検出ユニット7400は、車両制御システム7000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット7400には、撮像部7410及び車外情報検出部7420のうちの少なくとも一方が接続される。撮像部7410には、ToF(Time Of Flight)カメラ、ステレオカメラ、単眼カメラ、赤外線カメラ及びその他のカメラのうちの少なくとも一つが含まれる。車外情報検出部7420には、例えば、現在の天候又は気象を検出するための環境センサ、あるいは、車両制御システム7000を搭載した車両の周囲の他の車両、障害物又は歩行者等を検出するための周囲情報検出センサのうちの少なくとも一つが含まれる。
環境センサは、例えば、雨天を検出する雨滴センサ、霧を検出する霧センサ、日照度合いを検出する日照センサ、及び降雪を検出する雪センサのうちの少なくとも一つであってよい。周囲情報検出センサは、超音波センサ、レーダ装置及びLIDAR(Light Detection and Ranging、Laser Imaging Detection and Ranging)装置のうちの少なくとも一つであってよい。これらの撮像部7410及び車外情報検出部7420は、それぞれ独立したセンサないし装置として備えられてもよいし、複数のセンサないし装置が統合された装置として備えられてもよい。
ここで、図19は、撮像部7410及び車外情報検出部7420の設置位置の例を示す。撮像部7910,7912,7914,7916,7918は、例えば、車両7900のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部のうちの少なくとも一つの位置に設けられる。フロントノーズに備えられる撮像部7910及び車室内のフロントガラスの上部に備えられる撮像部7918は、主として車両7900の前方の画像を取得する。サイドミラーに備えられる撮像部7912,7914は、主として車両7900の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部7916は、主として車両7900の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部7918は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図19には、それぞれの撮像部7910,7912,7914,7916の撮影範囲の一例が示されている。撮像範囲aは、フロントノーズに設けられた撮像部7910の撮像範囲を示し、撮像範囲b,cは、それぞれサイドミラーに設けられた撮像部7912,7914の撮像範囲を示し、撮像範囲dは、リアバンパ又はバックドアに設けられた撮像部7916の撮像範囲を示す。例えば、撮像部7910,7912,7914,7916で撮像された画像データが重ね合わせられることにより、車両7900を上方から見た俯瞰画像が得られる。
車両7900のフロント、リア、サイド、コーナ及び車室内のフロントガラスの上部に設けられる車外情報検出部7920,7922,7924,7926,7928,7930は、例えば超音波センサ又はレーダ装置であってよい。車両7900のフロントノーズ、リアバンパ、バックドア及び車室内のフロントガラスの上部に設けられる車外情報検出部7920,7926,7930は、例えばLIDAR装置であってよい。これらの車外情報検出部7920〜7930は、主として先行車両、歩行者又は障害物等の検出に用いられる。
図18に戻って説明を続ける。車外情報検出ユニット7400は、撮像部7410に車外の画像を撮像させるとともに、撮像された画像データを受信する。また、車外情報検出ユニット7400は、接続されている車外情報検出部7420から検出情報を受信する。車外情報検出部7420が超音波センサ、レーダ装置又はLIDAR装置である場合には、車外情報検出ユニット7400は、超音波又は電磁波等を発信させるとともに、受信された反射波の情報を受信する。車外情報検出ユニット7400は、受信した情報に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。車外情報検出ユニット7400は、受信した情報に基づいて、降雨、霧又は路面状況等を認識する環境認識処理を行ってもよい。車外情報検出ユニット7400は、受信した情報に基づいて、車外の物体までの距離を算出してもよい。
また、車外情報検出ユニット7400は、受信した画像データに基づいて、人、車、障害物、標識又は路面上の文字等を認識する画像認識処理又は距離検出処理を行ってもよい。車外情報検出ユニット7400は、受信した画像データに対して歪補正又は位置合わせ等の処理を行うとともに、異なる撮像部7410により撮像された画像データを合成して、俯瞰画像又はパノラマ画像を生成してもよい。車外情報検出ユニット7400は、異なる撮像部7410により撮像された画像データを用いて、視点変換処理を行ってもよい。
車内情報検出ユニット7500は、車内の情報を検出する。車内情報検出ユニット7500には、例えば、運転者の状態を検出する運転者状態検出部7510が接続される。運転者状態検出部7510は、運転者を撮像するカメラ、運転者の生体情報を検出する生体センサ又は車室内の音声を集音するマイク等を含んでもよい。生体センサは、例えば、座面又はステアリングホイール等に設けられ、座席に座った搭乗者又はステアリングホイールを握る運転者の生体情報を検出する。車内情報検出ユニット7500は、運転者状態検出部7510から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。車内情報検出ユニット7500は、集音された音声信号に対してノイズキャンセリング処理等の処理を行ってもよい。
統合制御ユニット7600は、各種プログラムにしたがって車両制御システム7000内の動作全般を制御する。統合制御ユニット7600には、入力部7800が接続されている。入力部7800は、例えば、タッチパネル、ボタン、マイクロフォン、スイッチ又はレバー等、搭乗者によって入力操作され得る装置によって実現される。統合制御ユニット7600には、マイクロフォンにより入力される音声を音声認識することにより得たデータが入力されてもよい。入力部7800は、例えば、赤外線又はその他の電波を利用したリモートコントロール装置であってもよいし、車両制御システム7000の操作に対応した携帯電話又はPDA(Personal Digital Assistant)等の外部接続機器であってもよい。入力部7800は、例えばカメラであってもよく、その場合搭乗者はジェスチャにより情報を入力することができる。あるいは、搭乗者が装着したウェアラブル装置の動きを検出することで得られたデータが入力されてもよい。さらに、入力部7800は、例えば、上記の入力部7800を用いて搭乗者等により入力された情報に基づいて入力信号を生成し、統合制御ユニット7600に出力する入力制御回路などを含んでもよい。搭乗者等は、この入力部7800を操作することにより、車両制御システム7000に対して各種のデータを入力したり処理動作を指示したりする。
記憶部7690は、マイクロコンピュータにより実行される各種プログラムを記憶するROM(Read Only Memory)、及び各種パラメータ、演算結果又はセンサ値等を記憶するRAM(Random Access Memory)を含んでいてもよい。また、記憶部7690は、HDD(Hard Disc Drive)等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等によって実現してもよい。
汎用通信I/F7620は、外部環境7750に存在する様々な機器との間の通信を仲介する汎用的な通信I/Fである。汎用通信I/F7620は、GSM(Global System of Mobile communications)、WiMAX、LTE(Long Term Evolution)若しくはLTE−A(LTE−Advanced)などのセルラー通信プロトコル、又は無線LAN(Wi−Fi(登録商標)ともいう)、Bluetooth(登録商標)などのその他の無線通信プロトコルを実装してよい。汎用通信I/F7620は、例えば、基地局又はアクセスポイントを介して、外部ネットワーク(例えば、インターネット、クラウドネットワーク又は事業者固有のネットワーク)上に存在する機器(例えば、アプリケーションサーバ又は制御サーバ)へ接続してもよい。また、汎用通信I/F7620は、例えばP2P(Peer To Peer)技術を用いて、車両の近傍に存在する端末(例えば、運転者、歩行者若しくは店舗の端末、又はMTC(Machine Type Communication)端末)と接続してもよい。
専用通信I/F7630は、車両における使用を目的として策定された通信プロトコルをサポートする通信I/Fである。専用通信I/F7630は、例えば、下位レイヤのIEEE802.11pと上位レイヤのIEEE1609との組合せであるWAVE(Wireless Access in Vehicle Environment)、DSRC(Dedicated Short Range Communications)、又はセルラー通信プロトコルといった標準プロトコルを実装してよい。専用通信I/F7630は、典型的には、車車間(Vehicle to Vehicle)通信、路車間(Vehicle to Infrastructure)通信、車両と家との間(Vehicle to Home)の通信及び歩車間(Vehicle to Pedestrian)通信のうちの1つ以上を含む概念であるV2X通信を遂行する。
測位部7640は、例えば、GNSS(Global Navigation Satellite System)衛星からのGNSS信号(例えば、GPS(Global Positioning System)衛星からのGPS信号)を受信して測位を実行し、車両の緯度、経度及び高度を含む位置情報を生成する。なお、測位部7640は、無線アクセスポイントとの信号の交換により現在位置を特定してもよく、又は測位機能を有する携帯電話、PHS若しくはスマートフォンといった端末から位置情報を取得してもよい。
ビーコン受信部7650は、例えば、道路上に設置された無線局等から発信される電波あるいは電磁波を受信し、現在位置、渋滞、通行止め又は所要時間等の情報を取得する。なお、ビーコン受信部7650の機能は、上述した専用通信I/F7630に含まれてもよい。
車内機器I/F7660は、マイクロコンピュータ7610と車内に存在する様々な車内機器7760との間の接続を仲介する通信インタフェースである。車内機器I/F7660は、無線LAN、Bluetooth(登録商標)、NFC(Near Field Communication)又はWUSB(Wireless USB)といった無線通信プロトコルを用いて無線接続を確立してもよい。また、車内機器I/F7660は、図示しない接続端子(及び、必要であればケーブル)を介して、USB(Universal Serial Bus)、HDMI(登録商標)(High-Definition Multimedia Interface)、又はMHL(Mobile High-definition Link)等の有線接続を確立してもよい。車内機器7760は、例えば、搭乗者が有するモバイル機器若しくはウェアラブル機器、又は車両に搬入され若しくは取り付けられる情報機器のうちの少なくとも1つを含んでいてもよい。また、車内機器7760は、任意の目的地までの経路探索を行うナビゲーション装置を含んでいてもよい。車内機器I/F7660は、これらの車内機器7760との間で、制御信号又はデータ信号を交換する。
車載ネットワークI/F7680は、マイクロコンピュータ7610と通信ネットワーク7010との間の通信を仲介するインタフェースである。車載ネットワークI/F7680は、通信ネットワーク7010によりサポートされる所定のプロトコルに則して、信号等を送受信する。
統合制御ユニット7600のマイクロコンピュータ7610は、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660及び車載ネットワークI/F7680のうちの少なくとも一つを介して取得される情報に基づき、各種プログラムにしたがって、車両制御システム7000を制御する。例えば、マイクロコンピュータ7610は、取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット7100に対して制御指令を出力してもよい。例えば、マイクロコンピュータ7610は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行ってもよい。また、マイクロコンピュータ7610は、取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行ってもよい。
マイクロコンピュータ7610は、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660及び車載ネットワークI/F7680のうちの少なくとも一つを介して取得される情報に基づき、車両と周辺の構造物や人物等の物体との間の3次元距離情報を生成し、車両の現在位置の周辺情報を含むローカル地図情報を作成してもよい。また、マイクロコンピュータ7610は、取得される情報に基づき、車両の衝突、歩行者等の近接又は通行止めの道路への進入等の危険を予測し、警告用信号を生成してもよい。警告用信号は、例えば、警告音を発生させたり、警告ランプを点灯させたりするための信号であってよい。
音声画像出力部7670は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図18の例では、出力装置として、オーディオスピーカ7710、表示部7720及びインストルメントパネル7730が例示されている。表示部7720は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。表示部7720は、AR(Augmented Reality)表示機能を有していてもよい。出力装置は、これらの装置以外の、ヘッドホン、搭乗者が装着する眼鏡型ディスプレイ等のウェアラブルデバイス、プロジェクタ又はランプ等の他の装置であってもよい。出力装置が表示装置の場合、表示装置は、マイクロコンピュータ7610が行った各種処理により得られた結果又は他の制御ユニットから受信された情報を、テキスト、イメージ、表、グラフ等、様々な形式で視覚的に表示する。また、出力装置が音声出力装置の場合、音声出力装置は、再生された音声データ又は音響データ等からなるオーディオ信号をアナログ信号に変換して聴覚的に出力する。
なお、図18に示した例において、通信ネットワーク7010を介して接続された少なくとも二つの制御ユニットが一つの制御ユニットとして一体化されてもよい。あるいは、個々の制御ユニットが、複数の制御ユニットにより構成されてもよい。さらに、車両制御システム7000が、図示されていない別の制御ユニットを備えてもよい。また、上記の説明において、いずれかの制御ユニットが担う機能の一部又は全部を、他の制御ユニットに持たせてもよい。つまり、通信ネットワーク7010を介して情報の送受信がされるようになっていれば、所定の演算処理が、いずれかの制御ユニットで行われるようになってもよい。同様に、いずれかの制御ユニットに接続されているセンサ又は装置が、他の制御ユニットに接続されるとともに、複数の制御ユニットが、通信ネットワーク7010を介して相互に検出情報を送受信してもよい。
以上説明した車両制御システム7000において、撮像部7410,7910,7912,7914,7916,7918は、それぞれ複数の撮像部例えば図1に示す撮像部21-1,21-2を用いる構成とする。また、図18に示した応用例の統合制御ユニット7600に画像処理部22を設ける。このような構成とすれば、撮像部7410,7910,7912,7914,7916,7918を小型・薄型化しても高性能な撮像画を取得できるので、取得した撮像画を運転支援や運転制御等に利用できる。なお、画像処理部22は、図18に示した統合制御ユニット7600のためのモジュール(例えば、一つのダイで構成される集積回路モジュール)において実現されてもよい。
明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させる。または、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。
例えば、プログラムは記録媒体としてのハードディスクやSSD(Solid State Drive)、ROM(Read Only Memory)に予め記録しておくことができる。あるいは、プログラムはフレキシブルディスク、CD−ROM(Compact Disc Read Only Memory),MO(Magneto optical)ディスク,DVD(Digital Versatile Disc)、BD(Blu-Ray Disc(登録商標))、磁気ディスク、半導体メモリカード等のリムーバブル記録媒体に、一時的または永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。
また、プログラムは、リムーバブル記録媒体からコンピュータにインストールする他、ダウンロードサイトからLAN(Local Area Network)やインターネット等のネットワークを介して、コンピュータに無線または有線で転送してもよい。コンピュータでは、そのようにして転送されてくるプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
なお、本明細書に記載した効果はあくまで例示であって限定されるものではなく、記載されていない付加的な効果があってもよい。また、本技術は、上述した技術の実施の形態に限定して解釈されるべきではない。この技術の実施の形態は、例示という形態で本技術を開示しており、本技術の要旨を逸脱しない範囲で当業者が実施の形態の修正や代用をなし得ることは自明である。すなわち、本技術の要旨を判断するためには、請求の範囲を参酌すべきである。