JP2020016518A - 画像処理装置 - Google Patents
画像処理装置 Download PDFInfo
- Publication number
- JP2020016518A JP2020016518A JP2018139049A JP2018139049A JP2020016518A JP 2020016518 A JP2020016518 A JP 2020016518A JP 2018139049 A JP2018139049 A JP 2018139049A JP 2018139049 A JP2018139049 A JP 2018139049A JP 2020016518 A JP2020016518 A JP 2020016518A
- Authority
- JP
- Japan
- Prior art keywords
- unit
- focus
- image
- focus position
- distance map
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Measurement Of Optical Distance (AREA)
- Focusing (AREA)
- Automatic Focus Adjustment (AREA)
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
- Studio Devices (AREA)
Abstract
【課題】TOF方式を用いることなく被写体までの距離の情報を得ることができる画像処理装置を提供すること。【解決手段】実施形態にかかる画像処理装置は、取得部と、特定部と、割当部と、変更部とを備える。取得部は、レンズのピント位置を調節するフォーカス機構を備えた撮像装置によって撮像された画像を取得する。特定部は、取得部によって取得された画像のうち、ピントが合っている領域を特定する。割当部は、特定部によって特定された領域に対し、ピント位置に対応する距離情報を割り当てる。変更部は、フォーカス機構を制御してピント位置を変更する。また、実施形態に係る画像処理装置は、変更部によってピント位置をずらしながら、特定部および割当部による処理を繰り返すことによって距離マップを生成する。【選択図】図1
Description
本発明の実施形態は、画像処理装置に関する。
従来、被写体までの距離を計測する技術として、TOF方式(Time OF Flight)が知られている。TOF方式は、パルス変調された光を被写体へ照射し、照射した光と被写体から反射して戻ってきた光との位相差を検出することによって被写体までの距離を計測する。
ブレインビジョン株式会社、「TOF距離画像カメラの実力」、日本工業出版、月刊画像ラボ2012年8月号
しかしながら、TOF方式には、たとえば、パルス変調された光を照射するための照明機器や、TOF方式に特化した専用のイメージセンサが必要となることから、構成が複雑化したりコストが高くなったりするおそれがある。また、変調された光が理想的なパルス波形からずれる(なまる)ことで計測結果に誤差が生じたり、太陽光や車のヘッドランプなどの強い外乱光によって電荷の飽和が生じて計測不能となったりするおそれもある。
そこで、本発明の課題の一つは、TOF方式を用いることなく被写体までの距離の情報を得ることができる画像処理装置を提供することにある。
本発明の実施形態にかかる画像処理装置は、一例として、レンズのピント位置を調節するフォーカス機構を備えた撮像装置によって撮像された画像を取得する取得部と、前記取得部によって取得された前記画像のうち、ピントが合っている領域を特定する特定部と、前記特定部によって特定された前記領域に対し、前記ピント位置に対応する距離情報を割り当てる割当部と、前記フォーカス機構を制御して前記ピント位置を変更する変更部とを備え、前記変更部によって前記ピント位置をずらしながら、前記特定部および前記割当部による処理を繰り返すことによって距離マップを生成する。よって、一例としては、TOF方式を用いることなく被写体までの距離の情報を得ることができる画像処理装置を提供することができる。また、TOF方式を利用しないことで、たとえば、パルス変調された光を照射するための照明機器や、TOF方式に特化した専用のイメージセンサが不要となるため、簡易な構成にて被写体までの距離の情報を得ることができる。また、TOF方式を利用する場合と比較してコストを抑えることができる。
上記画像処理装置は、前記画像の明瞭度を算出する算出部を備えていてもよく、前記特定部は、前記算出部によって算出された前記明瞭度に基づいて、前記ピントが合っている領域を特定してもよい。ある被写体にピントが合っている場合、その被写体の明瞭度は高くなる。一方、ある被写体にピントが合っていない場合、その被写体の明瞭度は低くなる。このように、明瞭度は、ピントが合っているか否かの判断指標として利用し得る。したがって、明瞭度に基づいてピントが合っているか否かを特定することが可能である。
上記画像処理装置において、前記レンズの被写界深度は、前記変更部による前記ピント位置のずらし幅よりも狭くてもよい。このように、ピント位置のずらし幅、すなわち、距離マップにおける距離の分解能よりもレンズの被写界深度を狭くすることで、所望の分解能の距離マップを得ることができる。
上記画像処理装置は、前記変更部によって前記ピント位置を第1奥行き範囲において第1ずらし幅にてずらしながら、前記特定部および前記割当部による処理を繰り返すことによって第1距離マップを生成する第1距離マップ生成処理と、前記変更部によって前記ピント位置を前記第1奥行き範囲よりも狭い第2奥行き範囲において前記第1ずらし幅よりも狭い第2ずらし幅にてずらしながら、前記特定部および前記割当部による処理を繰り返すことによって第2距離マップを生成する第2距離マップ生成処理とを行ってもよい。これにより、たとえば、広い奥行き範囲における距離情報を第1距離マップから得ることができるとともに、第1距離マップよりも分解能が高い第2距離マップからより詳細な距離情報を得ることができる。
上記画像処理装置は、一例として、前記距離マップおよび前記画像を出力する出力部をさらに備えていてもよい。これにより、距離マップのさらなる有効活用を図ることができる。
以下に、本願に係る画像処理装置を実施するための形態(以下、「実施形態」と呼ぶ)について図面を参照しつつ詳細に説明する。なお、この実施形態により本願に係る画像処理装置が限定されるものではない。また、以下の各実施形態において同一の部位には同一の符号を付し、重複する説明は省略される。
(第1実施形態)
まず、第1実施形態に係る画像処理システムの構成について図1を参照して説明する。図1は、第1実施形態に係る画像処理システムの構成例を示すブロック図である。
まず、第1実施形態に係る画像処理システムの構成について図1を参照して説明する。図1は、第1実施形態に係る画像処理システムの構成例を示すブロック図である。
図1に示すように、第1実施形態に係る画像処理システム100は、画像処理装置1と、撮像装置3とを含んで構成される。
撮像装置3は、レンズ31と、撮像素子32と、AD(Analog Digital)コンバータ33と、フォーカス機構34と、絞り機構35とを備える。
レンズ31は、被写体からの光を集めて撮像素子32の受光面に結像させる。撮像素子32は、たとえば、CCD(Charge Coupled Device)、CMOS(Complementary Metal Oxide Semiconductor)等のイメージセンサであり、受光した光を電気信号に変換する。ADコンバータ33は、撮像素子32から出力されるアナログ電気信号を変換して出力する。ADコンバータ33は、撮像素子32に内蔵されてもよい。
フォーカス機構34は、たとえば、レンズ31を前後に移動させることによってレンズ31のピント位置を調節する。ピント位置とは、画像上でピントが合っている場所の画像の奥行き方向における位置のことである。
フォーカス機構34を用いてレンズ31のピント位置を変化させた場合の画像の変化について図2を参照して説明する。図2は、フォーカス機構34を用いてレンズ31のピント位置を変化させた場合の画像の変化を説明するための図である。
図2に示すように、撮像装置3のピント位置が被写体Sb1にある場合、画像Im1における被写体Sb1の明瞭度は高くなる。一方、ピントが合っていない被写体Sb2の明瞭度は、画像Im1において低くなる。
つづいて、フォーカス機構34を用いて撮像装置3のピント位置を被写体Sb1と被写体Sb2との間の位置に移動させた場合、画像Im2における被写体Sb1および被写体Sb2の明瞭度は何れも低くなる。
つづいて、フォーカス機構34を用いて撮像装置3のピント位置を被写体Sb2の位置に移動させた場合、画像Im3における被写体Sb2の明瞭度は高くなり、ピントが合っていない被写体Sb1の明瞭度は低くなる。このように、画像の明瞭度は、ピントが合っている領域において高くなり、ピントが合っていない領域において低くなる。
図1に戻り、フォーカス機構34の説明を続ける。撮像装置3は、レンズ31のピント位置と、撮像装置3からピント位置までの距離を示す距離情報とを予め対応付けて記憶しており、フォーカス機構34は、撮像が行われるごとに、撮像時におけるレンズ31のピント位置に対応付けられた距離情報を画像処理装置1の後述する割当部14に出力する。
絞り機構35は、レンズ31の開口径を変化させることによってレンズ31の被写界深度を調節する。被写界深度とは、ピントが合う範囲のことである。レンズ31の被写界深度は、レンズ31の開口径が小さくなるほど狭くなる。
画像処理装置1は、制御部10と、記憶部20とを備える。制御部10は、たとえば、CPU(Central Processing Unit)、MPU(Micro Processing Unit)等のプロセッサによって、画像処理装置1内部の記憶装置に記憶されている各種プログラムがRAM等を作業領域として実行されることにより実現される。また、制御部10は、たとえば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の集積回路により実現されてもよい。記憶部20は、たとえば、RAM(Random Access Memory)、フラッシュメモリ(Flash Memory)等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置によって実現され、元画像21と、明瞭度マップ22と、距離マップ23とを記憶する。なお、記憶部20は、制御部10に内蔵されていてもよい。
制御部10は、取得部11と、算出部12と、特定部13と、割当部14と、変更部15と、出力部16とを備える。
取得部11は、撮像装置3によって撮像された画像を取得する。取得部11によって取得された画像は、記憶部20に記憶される。以下、取得部11によって取得され、記憶部20に記憶された画像を「元画像21」と記載する。
取得部11は、撮像装置3から最新の画像を取得するごとに、記憶部20に記憶された元画像21を最新の画像に更新してもよい。このようにすることで記憶部20の容量を削減することができる。なお、これに限らず、取得部11は、たとえば、距離マップ23が完成するまでの間に撮像装置3によって撮像された全ての画像を記憶部20に記憶させてもよい。
算出部12は、記憶部20に元画像21が記憶されるごとに、記憶部20から元画像21を取り出す。そして、算出部12は、取り出した元画像21における複数の領域ごとに明瞭度を算出する。
ここで、明瞭度の算出手法の一例について図3Aおよび図3Bを参照して説明する。図3Aおよび図3Bは、明瞭度の算出手法の一例を説明するための図である。図3Aおよび図3Bには、ある被写体を撮像した画像と、この画像の破線部における画素値変化のプロファイルを示している。
明瞭度は、たとえば、エッジ部分における画素値変化を算出することによって得ることができる。図3Aに示すように、被写体にピントが合っておらず被写体のエッジ部分E1,E2がぼけている場合、エッジ部分E1,E2における画素値の変化は緩やかとなる。一方、図3Bに示すように、被写体にピントが合っており被写体のエッジ部分E1,E2が鮮明である場合、エッジ部分E1,E2における画素値の変化は急峻となる。算出部12は、この画素値の傾きを明瞭度として算出する。算出部12は、元画像21に対して微分処理を行うことによって画素値の傾きを得ることができる。また、算出部12は、元画像21をフーリエ変換処理して得られる周波数成分を画素値の傾きとして取得してもよい。
算出部12は、元画像21上の全ての領域について明瞭度を算出することによって明瞭度マップ22を生成し、生成した明瞭度マップ22を記憶部20に記憶する。明瞭度マップ22は、元画像21上の各領域における明瞭度を示す情報である。
特定部13は、元画像21のうちピントが合っている領域を特定する。具体的には、特定部13は、算出部12によって算出された明瞭度が閾値を超える領域をピントが合っている領域として特定する。
割当部14は、特定部13によって特定されたピントが合っている領域の元画像21上の位置に対して、元画像21の撮像時におけるピント位置に対応する距離情報を割り当てる。距離情報とは、撮像装置3からピント位置までの距離、言い換えれば、撮像装置3からピントが合っている被写体までの距離を表す情報である。割当部14は、上記距離情報をフォーカス機構34から取得し、取得した距離情報を特定部13によって特定された領域に割り当てることによって距離マップ23を生成する。
なお、画像処理装置1は、レンズ31のピント位置と、撮像装置3からピント位置までの距離とを対応付けた変換情報を記憶部20に記憶しておいてもよい。この場合、割当部14は、たとえば、フォーカス機構34から撮像時におけるピント位置の情報を取得し、取得したピント位置に対応する距離情報を記憶部20に記憶された変換情報から取得することができる。
変更部15は、フォーカス機構34を制御してレンズ31のピント位置を変更する。ここで、ピント位置のずらし幅とレンズ31の被写界深度との関係について図4を参照して説明する。図4は、ピント位置のずらし幅とレンズ31の被写界深度との関係を説明するための図である。
図4に示すように、変更部15は、フォーカス機構34を制御することにより、レンズ31のピント位置を一定のずらし幅にて順次変更していく。
レンズ31の被写界深度は、変更部15によるピント位置のずらし幅、言い換えれば、距離マップ23における距離の分解能よりも狭いことが好ましい。これにより、所望の分解能の距離マップ23を得ることができる。たとえば、ピント位置のずらし幅を狭くするほど、距離マップ23における距離の分解能が高くなる。ピント位置のずらし幅を狭くするとともに、レンズ31の被写界深度をピントのずらし幅よりも狭くすることで、被写体をより立体的に捉えた距離マップ23を得ることができる。
なお、変更部15は、レンズ31の被写界深度がピント位置のずらし幅よりも狭くなるように絞り機構35を制御してもよい。また、ピント位置のずらし幅よりも被写界深度が狭いレンズを撮像装置3のレンズ31として選定することとしてもよい。
次に、画像処理装置1の動作例について図5A〜図6Cを参照して説明する。図5Aは、手前側の被写体Sb1にピントが合っている元画像21の例を示す図であり、図5Bは、図5Aに示す元画像21に基づいて生成される明瞭度マップ22の例を示す図であり、図5Cは、図5Bに示す明瞭度マップ22に基づいて距離情報が割り当てられた距離マップ23の例を示す図である。また、図6Aは、奥側の被写体Sb2にピントが合っている元画像21の例を示す図であり、図6Bは、図6Aに示す元画像21に基づいて生成される明瞭度マップ22の例を示す図であり、図6Cは、図6Bに示す明瞭度マップ22に基づいて距離情報がさらに割り当てられた距離マップ23の例を示す図である。
たとえば、図5Aに示すように、撮像装置3から2m離れた場所に位置する被写体Sb1にピントが合った元画像21が撮像装置3によって撮像されたとする。算出部12は、かかる元画像21に基づいて図5Bに示す明瞭度マップ22を生成する。図5Bに示すように、元画像21の明瞭度は、手前側の被写体Sb1が存在する領域において高くなり、ピントが合っていない奥側の被写体Sb2が存在する領域の明瞭度は低くなる。
特定部13は、算出部12によって算出された明瞭度が閾値を超える領域をピントが合っている領域として特定する。ここでは、手前側の被写体Sb1が存在する領域の明瞭度が閾値を超えているため、かかる領域が、ピントが合っている領域として特定される。そして、割当部14は、図5Cに示すように、特定部13によってピントが合っていると特定された手前側の被写体Sb1が存在する領域に対し、図5Aに示す元画像21の撮像時におけるピント位置に対応する距離情報[2]を割り当てる。
つづいて、変更部15は、レンズ31のピント位置を一定のずらし幅で奥側にずらす。これにより、たとえば、図6Aに示すように、撮像装置3から3m離れた場所に位置する被写体Sb2にピントが合った元画像21が撮像装置3によって撮像される。算出部12は、かかる元画像21に基づいて図6Bに示す明瞭度マップ22を生成する。図6Bに示すように、元画像21の明瞭度は、奥側の被写体Sb2が存在する領域において高くなり、ピントが合っていない手前側の被写体Sb1が存在する領域の明瞭度は低くなる。
つづいて、特定部13は、算出部12によって算出された明瞭度が閾値を超える領域をピントが合っている領域として特定する。ここでは、奥側の被写体Sb2が存在する領域の明瞭度が閾値を超えているため、かかる領域が、ピントが合っている領域として特定される。そして、割当部14は、図6Cに示すように、特定部13によってピントが合っていると特定された奥側の被写体Sb2が存在する領域に対し、図6Aに示す元画像21の撮像時におけるピント位置に対応する距離情報[3]を割り当てる。
このように、画像処理装置1は、変更部15によってピント位置を撮像開始位置から撮像終了位置まで一定のずらし幅でずらしながら、算出部12、特定部13および割当部14による処理を繰り返すことによって距離マップ23を完成させる。
図1に戻り、出力部16について説明する。出力部16は、レンズ31のピント位置が撮像終了位置に到達し、距離マップ23が完成すると、完成した距離マップ23を外部へ出力する。
次に、画像処理装置1の具体的動作について図7を参照して説明する。図7は、画像処理装置1が実行する処理の手順の一例を示すフローチャートである。
図7に示すように、画像処理装置1は、フォーカス機構34を制御することにより、レンズ31のピント位置を撮像開始位置に移動させる(ステップS101)。撮像開始位置は、予め決められていてもよい。たとえば、撮像開始位置は、撮像装置3に最も近いピント位置であってもよいし、撮像装置3から最も遠いピント位置であってもよいし、中間のピント位置であってもよい。また、撮像装置3は、オートフォーカス機能を有していてもよく、この場合、画像処理装置1は、撮像装置3のオートフォーカス機能を働かせることによって、ある被写体にピントが合った位置を撮像開始位置としてもよい。
つづいて、画像処理装置1は、撮像装置3から画像を取得し(ステップS102)、元画像21として記憶部20に記憶する。
つづいて、画像処理装置1は、記憶部20に記憶された元画像21に基づき、明瞭度マップ22を生成し(ステップS103)、生成した明瞭度マップ22を記憶部20に記憶する。
つづいて、画像処理装置1は、記憶部20に記憶された明瞭度マップ22に基づき、元画像21においてピントが合っている領域を特定する(ステップS104)。具体的には、画像処理装置1は、明瞭度マップ22上の各領域について、明瞭度が閾値を超えているか否かを判定し、明瞭度が閾値を超えている領域をピントが合っている領域として特定する。
つづいて、画像処理装置1は、ピントが合っていると特定した領域に対して距離情報を割り当てる(ステップS105)。たとえば、画像処理装置1は、元画像21の撮像時におけるピント位置に対応する距離情報を撮像装置3から取得し、取得した距離情報をピントが合っていると特定した領域に割り当てる。
つづいて、画像処理装置1は、レンズ31のピント位置が撮像終了位置に到達したか否かを判定する(ステップS106)。この処理において、ピント位置が撮像終了位置に到達していない場合(ステップS106,No)、画像処理装置1は、ピント位置を予め決められたずらし幅だけずらした後(ステップS107)、処理をステップS102に戻して、ステップS102〜S106の処理を繰り返す。
一方、ステップS106において、ピント位置が撮像終了位置に到達したと判定した場合(ステップS106,Yes)、画像処理装置1は、完成した距離マップ23を記憶部20から取り出して外部へ出力する(ステップS108)。
なお、距離情報だけでなく、視覚的な情報も合わせて欲しい場合もある。このような場合、出力部16は、距離マップ23に加えて、記憶部20に記憶された元画像21を外部へ出力してもよい。これにより、距離マップ23のさらなる有効活用を図ることができる。
また、画像処理装置1は、1つの距離マップ23が生成されるまでに撮像装置3によって撮像された複数の元画像21を合成する合成部をさらに備えていてもよい。合成部は、複数の元画像21を合成することで、撮像開始位置から撮像終了位置までの奥行き範囲の全てにピントが合った画像を生成することができる。この場合、出力部16は、合成部によって生成された合成画像を距離マップ23とともに外部に出力してもよい。
(第2実施形態)
次に、上述した画像処理装置1を車両の乗員を認識する乗員認識装置に適用した場合の例について説明する。図8は、第2実施形態に係る乗員認識装置が搭載される車両の車室内を上方から見た平面図である。
次に、上述した画像処理装置1を車両の乗員を認識する乗員認識装置に適用した場合の例について説明する。図8は、第2実施形態に係る乗員認識装置が搭載される車両の車室内を上方から見た平面図である。
図8に示すように、車両5の車室内には、複数の座席6が設けられている。たとえば、車室内の前方側には運転席6aおよび助手席6bが設けられ、後方側には複数の後部座席6c〜6eが設けられる。複数の後部座席6c〜6eのうち、後部座席6cは、運転席6aの後方に設けられ、後部座席6dは、助手席6bの後方に設けられ、後部座席6eは、後部座席6cと後部座席6dとの間に設けられる。
車室内の前方側には、上述した撮像装置3が設けられる。撮像装置3は、撮像素子32によって撮像された画像を後述するECU50(図9参照)に出力する。
撮像装置3は、車室内を撮像する。撮像装置3は、車室内の全ての座席6を撮像可能なように、すなわち、車室内の全ての座席6に着座した乗員全員を撮像可能なように、向き、画角および設置位置等が決められる。たとえば、撮像装置3は、ダッシュボード、ルームミラー、天井等に設置され得る。
車両5には、乗員認識装置を含む制御システム200が設けられる。かかる制御システム200の構成について図9を参照して説明する。図9は、第2実施形態に係る制御システム200の構成を示すブロック図である。
図9に示すように、制御システム200は、撮像装置3と、複数のエアバッグ装置7と、ECU50と、車内ネットワーク40とを備える。ECU50は、乗員認識装置の一例である。
複数のエアバッグ装置7は、複数の座席6の各々に対応して設けられる。エアバッグ装置7は、車両5の衝突時などにエアバッグを展開することによって、座席6に着座した乗員を衝撃から保護する。
エアバッグ装置7は、車内ネットワーク40を介してECU50に電気的に接続されている。車内ネットワーク40は、たとえばCAN(Controller Area Network)として構成される。また、撮像装置3は、たとえばNTSC(National Television System Committee)ケーブル等の出力線を介してECU50に接続される。
ECU50は、乗員認識装置としての機能の他にも車両5の種々の制御機能を実現することができる。たとえば、ECU50は、車内ネットワーク40を介して制御信号を送ることにより、エアバッグ装置7を制御することができる。その他、ECU50は、ブレーキシステムの制御、操舵システムの制御等を実行し得る。
ECU50は、たとえば、CPU51と、SSD(Solid State Drive)52と、ROM(Read Only Memory)53と、RAM54とを備える。CPU51は、ROM53等の不揮発性の記憶装置にインストールされ記憶されたプログラムを実行することによって、乗員認識装置としての機能を実現する。RAM54は、CPU51での演算で用いられる各種のデータを一時的に記憶する。SSD52は、書き換え可能な不揮発性の記憶装置であって、ECU50の電源がオフされた場合にあってもデータを記憶することができる。CPU51、ROM53、およびRAM54等は、同一パッケージ内に集積され得る。ECU50は、CPU51に替えて、DSP(Digital Signal Processor)等の他の論理演算プロセッサや論理回路等が用いられる構成であってもよい。SSD52に替えてHDD(Hard Disk Drive)が設けられてもよいし、SSD52またはHDDは、ECU50とは別に設けられてもよい。
次に、ECU50の機能的構成について図10を参照して説明する。図10は、ECU50の機能的構成を示すブロック図である。
図10に示すように、ECU50は、距離マップ生成部501と、乗員判定部502と、機器制御部503とを備える。距離マップ生成部501、乗員判定部502および機器制御部503は、CPU51が、ROM53に格納されたプログラムを実行することで実現される。なお、これらの構成は、ハードウェア回路にて実現されてもよい。
距離マップ生成部501は、上述した画像処理装置1に相当し、元画像21および距離マップ23を乗員判定部502へ出力する。
乗員判定部502は、距離マップ生成部501から取得した元画像21および距離マップ23に基づき、乗員の有無を判定する第1判定処理を行う。
第1判定処理は、たとえば、予め記憶された多数の画像モデルを用いて行われる。画像モデルは、探索対象の形状をモデリングした画像であり、探索対象ごとに複数の画像モデルが予め用意される。
乗員判定部502は、第1判定処理において、探索対象である乗員の形状をモデリングした画像モデルを用いた画像認識により車室内の乗員を探索する。このとき、元画像21に加えて距離マップ23の情報を用いることで、たとえば、探索された乗員が、元画像21の奥行き方向におけるどの位置に存在するかをさらに判定することができる。すなわち、乗員判定部502は、乗員が存在すると判定した領域に割り当てられた距離情報を距離マップ23から取得することで、元画像21の奥行き方向における乗員の位置を判定することができる。
乗員判定部502は、第1判定処理において車室内に乗員が存在すると判定した場合、元画像21の奥行き方向における乗員の位置を示す情報(以下、「乗員位置情報」と記載する)を距離マップ生成部501へ出力する。
距離マップ生成部501は、乗員判定部502から乗員位置情報を取得すると、取得した乗員の位置を含む局所的な奥行き範囲についてのより詳細な距離マップを生成する。この点について図11Aおよび図11Bを参照して説明する。図11Aは、第1距離マップ生成処理の動作例を示す図であり、図11Bは、第2距離マップ生成処理の動作例を示す図である。
距離マップ生成部501は、まず、図11Aに示す第1距離マップ生成処理を行う。第1距離マップ生成処理は、たとえば、車室内における前席6F(運転席6aおよび助手席6b)よりも前方側のピント位置P1を撮像開始位置とし、後席6R(後部座席6C〜6e)よりも後方側のピント位置P9を撮像終了位置として行われる。
第1距離マップ生成処理において、距離マップ生成部501は、フォーカス機構34を制御することによってピント位置を一定のずらし幅W1にて順次ずらしながら、ピントが合っている領域に距離情報を割り当てることによって第1距離マップを生成する。乗員判定部502は、かかる第1距離マップを用いて上述した第1判定処理を行う。
つづいて、距離マップ生成部501は、乗員判定部502から乗員位置情報を取得すると、取得した乗員位置情報に基づいて第2距離マップ生成処理を行う。
たとえば、ピント位置P4に対応する距離に乗員が存在する場合、乗員判定部502は、ピント位置P4に対応する距離情報を含んだ乗員位置情報を距離マップ生成部501へ出力する。
この場合、距離マップ生成部501は、図11Bに示すように、ピント位置P4を中心とする所定の奥行き範囲、具体的には、ピント位置P11からピント位置P12までの奥行き範囲を設定する。そして、距離マップ生成部501は、たとえばピント位置P11を撮像開始位置とし、ピント位置P12を撮像終了位置として第2距離マップ生成処理を行う。なお、ピント位置P11からピント位置P12までの奥行き範囲は、少なくとも、第1距離マップ生成処理時におけるレンズ31の被写界深度よりも広い範囲に設定される。
第2距離マップ生成処理において、距離マップ生成部501は、フォーカス機構34を制御することによってピント位置をずらし幅W1よりも狭いずらし幅W2にて順次ずらしながら、ピントが合っている領域に距離情報を割り当てることによってピント位置P11〜P12の局所的な奥行き範囲における距離マップである第2距離マップを生成する。また、第2距離マップ生成処理において、距離マップ生成部501は、絞り機構35を制御することにより、第2距離マップ生成処理におけるレンズ31の被写界深度を、第2距離マップ生成処理におけるピント位置のずらし幅W2よりも狭くする。
これにより、乗員の存在が判定された位置を含む局所的な奥行き範囲についてのより詳細な距離マップ23が生成される。距離マップ生成部501は、生成した距離マップ23を元画像21とともに乗員判定部502へ出力する。
このように、距離マップ生成部501は、第1距離マップ生成処理において、ピント位置P1〜P9の広い奥行き範囲である第1奥行き範囲においてピント位置を第1ずらし幅W1にてずらしながら、特定部13および割当部14による処理を繰り返すことによって第1距離マップを生成する。また、距離マップ生成部501は、第2距離マップ生成処理において、第1奥行き範囲よりも狭い第2奥行き範囲(ピント位置P11〜P12の奥行き範囲)において第1ずらし幅W1よりも狭い第2ずらし幅W2にてピント位置をずらしながら、特定部13および割当部14による処理を繰り返すことによって第2距離マップを生成する。これにより、たとえば、広い奥行き範囲の距離情報を第1距離マップから得ることができるとともに、第1距離マップよりも分解能が高い第2距離マップからより詳細な距離情報を得ることができる。
乗員判定部502は、第2距離マップ生成処理によって生成された距離マップ23と元画像21とに基づいて、第1判定処理において存在が判定された乗員の体格を判定する第2判定処理を行う。
第2判定処理において、乗員判定部502は、たとえば、元画像21から画像認識により乗員の両肩部を検出し、検出された両肩部間の距離すなわち肩幅を算出する。このとき、乗員判定部502は、第2距離マップ生成処理によって生成された第2距離マップを用いることで、乗員の肩幅を精度良く算出することができる。
つづいて、乗員判定部502は、算出した肩幅に基づき、乗員が大人および子供のいずれであるかを判定する。たとえば、乗員判定部502は、算出した肩幅が閾値未満である場合に、乗員が子供であると判定する。そして、乗員判定部502は、乗員の体格の判定結果を機器制御部503へ出力する。
機器制御部503は、たとえば、複数のエアバッグ装置7の展開を個別に制御する。具体的には、機器制御部503は、乗員判定部502の判定結果に基づき、エアバッグの展開を制御するエアバッグ展開制御のオン・オフを切り替える。機器制御部503は、乗員判定部502によって乗員が存在することが判定された場合に、乗員が存在すると判定された座席についてのエアバッグ展開制御をオンにし、その他の座席についてのエアバッグ展開制御をオフにする。
さらに、機器制御部503は、乗員判定部502の判定結果に基づき、エアバッグ装置7の展開モードの切り替えを行う。たとえば、機器制御部503は、乗員判定部502によって乗員が子供であると判定された場合には、エアバッグ装置7の展開モードを、通常よりも弱く展開するエアバッグ弱展開モードに切り替える。このように、乗員の体格に応じた強度でエアバッグを展開させることで、エアバッグの安全性を高めることができる。
なお、ここでは、機器制御部503がエアバッグの展開制御を行うこととしたが、機器制御部503は、乗員判定部502による判定結果に基づいて、エアバッグ以外の車載機器を制御してもよい。たとえば、機器制御部503は、乗員判定部502による判定結果に基づいて、シートベルトが装着されていないことを光や音によって乗員に報知する警報装置を制御してもよい。この場合、機器制御部503は、たとえば、警報装置による警報機能のオン・オフを乗員判定部502の判定結果に応じて切り替えることができる。具体的には、機器制御部503は、乗員判定部502によって乗員が存在することが判定された場合に、その乗員が着座する座席についての警報機能をオンにし、その他の座席についての警報機能をオフにしてもよい。
上述してきたように、実施形態に係る画像処理装置(一例として、画像処理装置1または距離マップ生成部501)は、取得部11と、特定部13と、割当部14と、変更部15とを備える。取得部11は、レンズ31のピント位置を調節するフォーカス機構34を備えた撮像装置3によって撮像された画像(一例として、元画像21)を取得する。特定部13は、取得部11によって取得された画像のうち、ピントが合っている領域を特定する。割当部14は、特定部13によって特定された領域に対し、ピント位置に対応する距離情報を割り当てる。変更部15は、フォーカス機構34を制御してピント位置を変更する。実施形態に係る画像処理装置は、変更部15によってピント位置をずらしながら、特定部13および割当部14による処理を繰り返すことによって距離マップ23を生成する。よって、一例としては、TOF方式を用いることなく被写体までの距離の情報を得ることができる。また、TOF方式を利用しないことで、たとえば、パルス変調された光を照射するための照明機器や、TOF方式に特化した専用のイメージセンサが不要となるため、簡易な構成にて被写体までの距離の情報を得ることができる。また、TOF方式を利用する場合と比較してコストを抑えることができる。
また、実施形態に係る画像処理装置は、画像の明瞭度を算出する算出部12を備えていてもよい。この場合、特定部13は、算出部12によって算出された明瞭度に基づいて、ピントが合っている領域を特定してもよい。明瞭度は、ピントが合っているか否かの判断指標として利用し得る。したがって、明瞭度に基づいてピントが合っているか否かを特定することが可能である。ただし、特定部13は、明瞭度以外の指標に基づいてピントが合っている領域を特定しても構わない。
また、実施形態に係る画像処理装置において、レンズ31の被写界深度は、変更部15によるピント位置のずらし幅よりも狭くてもよい。このように、ピント位置のずらし幅、すなわち、距離マップ23における距離の分解能よりもレンズ31の被写界深度を狭くすることで、所望の分解能の距離マップ23を得ることができる。
また、実施形態に係る画像処理装置は、変更部15によってピント位置を第1奥行き範囲(一例として、ピント位置P1〜P9の奥行き範囲)において第1ずらし幅W1にてずらしながら、特定部13および割当部14による処理を繰り返すことによって第1距離マップを生成する第1距離マップ生成処理と、変更部15によってピント位置を第1奥行き範囲よりも狭い第2奥行き範囲(一例として、ピント位置P11〜P12)において第1ずらし幅W1よりも狭い第2ずらし幅W2にてずらしながら、特定部13および割当部14による処理を繰り返すことによって第2距離マップを生成する第2距離マップ生成処理とを行ってもよい。これにより、たとえば、広い奥行き範囲における距離情報を第1距離マップから得ることができるとともに、第1距離マップよりも分解能が高い第2距離マップからより詳細な距離情報を得ることができる。
また、実施形態に係る画像処理装置は、距離マップ23および画像(一例として、元画像21または合成画像)を出力する出力部16をさらに備えていてもよい。これにより、距離マップ23のさらなる有効活用を図ることができる。
以上、本発明の実施形態を例示したが、上記実施形態および変形例はあくまで一例であって、発明の範囲を限定することは意図していない。上記実施形態や変形例は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、組み合わせ、変更を行うことができる。また、各実施形態や各変形例の構成や形状は、部分的に入れ替えて実施することも可能である。
1…画像処理装置、3…撮像装置、5…車両、10…制御部、11…取得部、12…算出部、13…特定部、14…割当部、15…変更部、16…出力部、20…記憶部、21…元画像、22…明瞭度マップ、23…距離マップ、31…レンズ、32…撮像素子、33…ADコンバータ、34…フォーカス機構、35…絞り機構、100…画像処理システム。
Claims (5)
- レンズのピント位置を調節するフォーカス機構を備えた撮像装置によって撮像された画像を取得する取得部と、
前記取得部によって取得された前記画像のうち、ピントが合っている領域を特定する特定部と、
前記特定部によって特定された前記領域に対し、前記ピント位置に対応する距離情報を割り当てる割当部と、
前記フォーカス機構を制御して前記ピント位置を変更する変更部と
を備え、
前記変更部によって前記ピント位置をずらしながら、前記特定部および前記割当部による処理を繰り返すことによって距離マップを生成する、画像処理装置。 - 前記画像の明瞭度を算出する算出部
を備え、
前記特定部は、
前記算出部によって算出された前記明瞭度に基づいて、前記ピントが合っている領域を特定する、請求項1に記載の画像処理装置。 - 前記レンズの被写界深度は、
前記変更部による前記ピント位置のずらし幅よりも狭い、請求項1または2に記載の画像処理装置。 - 前記変更部によって前記ピント位置を第1奥行き範囲において第1ずらし幅にてずらしながら、前記特定部および前記割当部による処理を繰り返すことによって第1距離マップを生成する第1距離マップ生成処理と、前記変更部によって前記ピント位置を前記第1奥行き範囲よりも狭い第2奥行き範囲において前記第1ずらし幅よりも狭い第2ずらし幅にてずらしながら、前記特定部および前記割当部による処理を繰り返すことによって第2距離マップを生成する第2距離マップ生成処理とを行う、請求項1〜3のいずれか一つに記載の画像処理装置。
- 前記距離マップおよび前記画像を出力する出力部
をさらに備える、請求項1〜4のいずれか一つに記載の画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018139049A JP2020016518A (ja) | 2018-07-25 | 2018-07-25 | 画像処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018139049A JP2020016518A (ja) | 2018-07-25 | 2018-07-25 | 画像処理装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020016518A true JP2020016518A (ja) | 2020-01-30 |
Family
ID=69580291
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018139049A Pending JP2020016518A (ja) | 2018-07-25 | 2018-07-25 | 画像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2020016518A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112114320A (zh) * | 2020-08-31 | 2020-12-22 | 金钱猫科技股份有限公司 | 一种基于图像算法的测量方法及装置 |
WO2022252696A1 (zh) * | 2021-05-31 | 2022-12-08 | 上海集成电路制造创新中心有限公司 | 相机对焦方法及相机对焦系统 |
-
2018
- 2018-07-25 JP JP2018139049A patent/JP2020016518A/ja active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112114320A (zh) * | 2020-08-31 | 2020-12-22 | 金钱猫科技股份有限公司 | 一种基于图像算法的测量方法及装置 |
WO2022252696A1 (zh) * | 2021-05-31 | 2022-12-08 | 上海集成电路制造创新中心有限公司 | 相机对焦方法及相机对焦系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10746874B2 (en) | Ranging module, ranging system, and method of controlling ranging module | |
US10866321B2 (en) | Imaging device | |
CN108139484B (zh) | 测距装置和测距装置的控制方法 | |
JP6565188B2 (ja) | 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム | |
US20190331776A1 (en) | Distance measurement processing apparatus, distance measurement module, distance measurement processing method, and program | |
EP3865911B1 (en) | Sensor fusion system, synchronization control device, and synchronization control method | |
JP2018022234A (ja) | 画像処理装置、外界認識装置 | |
JP2009174900A (ja) | 物体検出装置、物体検出方法および物体検出システム | |
JP6571658B2 (ja) | 奥行分解された画像データからのオブジェクトを認識するための方法ならびに装置 | |
JP2020016518A (ja) | 画像処理装置 | |
CN212719323U (zh) | 照明装置和测距模块 | |
EP3115966A1 (en) | Object detection device, object detection method, and computer program | |
WO2018074085A1 (ja) | 測距装置、および、測距装置の制御方法 | |
CN110447221B (zh) | 图像处理装置、图像处理方法和电子设备 | |
CN110073652B (zh) | 成像装置以及控制成像装置的方法 | |
JP2007188354A (ja) | 車両の前方立体物認識装置 | |
WO2017169233A1 (ja) | 撮像処理装置、撮像処理方法、コンピュータプログラム及び電子機器 | |
JP2015207278A (ja) | 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム | |
JP7000383B2 (ja) | 画像処理装置および画像処理方法 | |
US20190026569A1 (en) | Image processing device, image processing method, computer-readable recording medium, object recognition device, device control system, and movable body | |
JP6881084B2 (ja) | 画像処理装置、物体認識装置、機器制御システム、移動体、画像処理方法およびプログラム | |
WO2021059682A1 (ja) | 固体撮像素子、電子機器、および、固体撮像素子の制御方法 | |
CN113272683A (zh) | 测量设备、距离测量设备和测量方法 | |
JP2017174015A (ja) | 移動軌跡検出装置、移動物体検出装置、移動軌跡検出方法 | |
WO2020100399A1 (ja) | 固体撮像素子、撮像装置、および、固体撮像素子の制御方法 |