JP2023113189A - ずれ量検出方法、ずれ量検出装置及びドライバモニタリングシステム - Google Patents

ずれ量検出方法、ずれ量検出装置及びドライバモニタリングシステム Download PDF

Info

Publication number
JP2023113189A
JP2023113189A JP2022015361A JP2022015361A JP2023113189A JP 2023113189 A JP2023113189 A JP 2023113189A JP 2022015361 A JP2022015361 A JP 2022015361A JP 2022015361 A JP2022015361 A JP 2022015361A JP 2023113189 A JP2023113189 A JP 2023113189A
Authority
JP
Japan
Prior art keywords
light
deviation amount
image
imaging device
amount detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022015361A
Other languages
English (en)
Inventor
堅人 田中
Kento Tanaka
浩隆 坂本
Hirotaka Sakamoto
篤 松本
Atsushi Matsumoto
浩之 長浜
Hiroyuki Nagahama
信太郎 渡邉
Shintaro Watanabe
雄大 中村
Takehiro Nakamura
千恵子 中上
Chieko NAKAGAMI
創 中村
So Nakamura
正人 柏原
Masato Kashiwabara
憲吾 後藤
Kengo Goto
博暢 小川
Hironobu Ogawa
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mazda Motor Corp
Mitsubishi Electric Corp
Original Assignee
Mazda Motor Corp
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mazda Motor Corp, Mitsubishi Electric Corp filed Critical Mazda Motor Corp
Priority to JP2022015361A priority Critical patent/JP2023113189A/ja
Publication of JP2023113189A publication Critical patent/JP2023113189A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Stroboscope Apparatuses (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)

Abstract

【課題】環境光の状態変化に伴うずれ量の算出精度の劣化を抑えることができるようにする。【解決手段】照明装置10が、車両の外部から車両内に入ってくる光である環境光の影響を抑制するための光を車両の構造物2に照射する工程と、撮像装置1が、照明装置10によって光が照射されている構造物2を撮影する工程と、ずれ量検出装置3が、撮像装置1により撮像された構造物2の画像に基づいて、撮像装置1の設置位置と、撮像装置1の正しい設置位置とのずれ量を算出する工程とを備えるように、ずれ量検出方法を構成した。【選択図】図1

Description

本開示は、ずれ量検出方法、ずれ量検出装置及びドライバモニタリングシステムに関するものである。
ドライバモニタリングシステムを実装している車両には、乗員を撮影するカメラが取り付けられる。カメラの取付作業者による作業ミス等によって、カメラの設置位置が正しい設置位置からずれてしまうことがある。カメラの正しい設置位置は、例えば、設計値が示す設置位置である。カメラの設置位置が正しい設置位置からずれることで、例えば、カメラにより撮影された画像に映っている乗員が不鮮明になり、その結果として、ドライバモニタリングシステムの監視精度が劣化することがある。
車両に取り付けられた車載カメラの設置位置と、当該車載カメラの正しい設置位置とのずれ量を検出するずれ量検出装置がある(特許文献1を参照)。当該ずれ量検出装置では、電子制御ユニットが、車載カメラにより撮影された画像に映っている物体の特徴点を抽出し、特徴点からずれ量を算出している。物体としては、例えば、窓枠、車両シート、又は、ヘッドレストがある。
特開2010-181209号公報
車両の外部から車両内に入ってくる光である環境光の状態が変化することで、カメラにより撮影される画像に映っている物体の色、物体の輝度、又は、物体の影等に変化が生じることがある。物体の色等に変化が生じることで、物体の形状の見え方に変化が生じることがある。
特許文献1に開示されているずれ量検出装置では、環境光の状態変化に伴って、画像に映っている物体の形状の見え方に変化が生じることで、電子制御ユニットによる物体の特徴点の抽出精度が劣化することがある。特徴点の抽出精度の劣化に伴って、電子制御ユニットによるずれ量の算出精度が劣化してしまうことがあるという課題があった。
本開示は、上記のような課題を解決するためになされたもので、環境光の状態変化に伴うずれ量の算出精度の劣化を抑えることができるずれ量検出方法及びずれ量検出装置を得ることを目的とする。
本開示に係るずれ量検出方法は、照明装置が、車両の外部から車両内に入ってくる光である環境光の影響を抑制するための光を前記車両の構造物に照射する工程と、撮像装置が、照明装置によって光が照射されている構造物を撮影する工程と、ずれ量検出装置が、撮像装置により撮像された構造物の画像に基づいて、撮像装置の設置位置と、撮像装置の正しい設置位置とのずれ量を算出する工程とを備えるものである。
本開示によれば、環境光の状態変化に伴うずれ量の算出精度の劣化を抑えることができる。
実施の形態1に係るずれ量検出装置3及びドライバモニタリングシステム4を示す構成図である。 実施の形態1に係るずれ量検出装置3のハードウェアを示すハードウェア構成図である。 実施の形態1に係るドライバモニタリングシステム4のハードウェアを示すハードウェア構成図である。 ずれ量検出装置3の照明装置10以外の構成要素が、ソフトウェア又はファームウェア等によって実現される場合のコンピュータのハードウェア構成図である。 図5Aは、撮像装置1の設置位置が正しい設置位置であるときの撮像画像を示す説明図、図5Bは、撮像装置1が車高方向に角度が付いている状態で設置されているときの撮像画像を示す説明図である。 図6Aは、撮像装置1の設置位置が正しい設置位置であるときの撮像画像を示す説明図、図6Bは、撮像装置1が車幅方向に角度が付いている状態で設置されているときの撮像画像を示す説明図である。 図7Aは、撮像装置1の設置位置が正しい設置位置であるときの撮像画像を示す説明図、図7Bは、撮像装置1がX-Y平面内で回転している状態で設置されているときの撮像画像を示す説明図である。 実施の形態1に係るずれ量検出方法を示すフローチャートである。 撮像画像GPの一例を示す説明図である。 図10Aは、構造物2である窓枠aと触れる位置に発光面が設置されている光源10aを示す説明図、図10Bは、構造物2である窓枠aから離れている位置に発光面が設置されている光源10aを示す説明図である。 図11Aは、環境光に伴う物体の影等が窓枠aの内側に入り込んでいる状態を示す説明図、図11Bは、環境光に伴う物体の影等が映り込んでいる撮像画像GPを示す説明図である。 図12Aは、照明装置10によって、環境光に伴う物体の影等の窓枠aの内側への入り込みが防止されている状態を示す説明図、図12Bは、環境光に伴う物体の影等が映り込んでいない撮像画像GPを示す説明図である。 照射面に模様が生じる光の一例を示す説明図である。 光源10aからの光が点滅している例を示す説明図である。 実施の形態2に係るずれ量検出装置3及びドライバモニタリングシステム4を示す構成図である。 図16Aは、構造物2である窓枠aと触れる位置に反射面が設置されている反射板10cを示す説明図、図16Bは、構造物2である窓枠aから離れている位置に反射面が設置されている反射板10cを示す説明図である。 実施の形態3に係るずれ量検出装置3及びドライバモニタリングシステム4を示す構成図である。 実施の形態3に係るずれ量検出装置3のハードウェアを示すハードウェア構成図である。 照明装置60の発光点60a,60b,60cが窓枠aの内側に取り付けられている例を示す説明図である。 実施の形態3に係るずれ量検出方法を示すフローチャートである。
以下、本開示をより詳細に説明するために、本開示を実施するための形態について、添付の図面に従って説明する。
実施の形態1.
図1は、実施の形態1に係るずれ量検出装置3及びドライバモニタリングシステム4を示す構成図である。
図2は、実施の形態1に係るずれ量検出装置3のハードウェアを示すハードウェア構成図である。
図3は、実施の形態1に係るドライバモニタリングシステム4のハードウェアを示すハードウェア構成図である。
図1において、撮像装置1は、例えば、車両のセンターコンソール、ハンドルコラム、Aピラー、ルームミラー、ダッシュボード、インストルメントパネル、又は、天井に設置される。
撮像装置1は、車両内の構造物2あるいは車両の運転者等を撮影するカメラである。当該カメラは、例えば、可視光カメラであってもよいし、赤外線カメラであってもよい。
撮像装置1は、構造物2を撮影した画像である撮像画像をずれ量検出装置3に出力し、車両の運転者等を撮影した画像である撮像画像をドライバモニタリングシステム4に出力する。
撮像装置1からずれ量検出装置3に出力される撮像画像は、ずれ量検出装置3が、撮像装置1の設置位置と正しい設置位置とのずれ量を検出する際に用いる画像である。このため、当該撮像画像は、例えば、撮像装置1が車両に取り付けられた際に、撮像装置1により撮影された画像である。
撮像装置1からドライバモニタリングシステム4に出力される撮像画像は、ドライバモニタリングシステム4が、運転者のわき見運転等を検出する際に用いる画像である。このため、当該撮像画像は、例えば、運転者が車両を運転しているときに、撮像装置1により撮影された画像である。
構造物2は、例えば、車両の窓枠、アシストグリップ、ヘッドレスト、Bピラー、ドアフレーム、ショルダーアンカー、又は、サンバイザーである。
実施の形態1では、撮像装置1の撮像画像がドライバモニタリングシステム4で使用されるため、例えば、車両の運転者が運転席に着座しているときに運転者の顔が映り、運転者が運転席に着座していないときに構造物2が映るように、撮像装置1が設置されている必要がある。撮像装置1の撮像画像がドライバモニタリングシステム4で使用されない場合には、運転者の顔が映るように、撮像装置1が設置されている必要はない。
ずれ量検出装置3は、撮像装置1の設置位置と、撮像装置1の正しい設置位置とのずれ量を検出する。撮像装置1の正しい設置位置は、例えば、設計値が示す設置位置である。
ずれ量検出装置3は、ずれ量をドライバモニタリングシステム4に出力する。
ドライバモニタリングシステム4は、撮像装置1から撮像画像を取得し、ずれ量検出装置3からずれ量を取得する。
ドライバモニタリングシステム4は、ずれ量と撮像画像とに基づいて、車両の乗員の状態を監視する。乗員の状態としては、例えば、運転者のわき見運転、又は、運転者の居眠り運転がある。
ドライバモニタリングシステム4は、例えば、運転者のわき見運転、又は、運転者の居眠り運転を検出すれば、運転者に対する警告を示す警告情報を車両の電子制御ユニット等に出力する。
実施の形態1では、ドライバモニタリングシステム4が、運転者のわき見運転、又は、運転者の居眠り運転等を検出する例を説明する。しかし、ドライバモニタリングシステム4は、運転者のわき見運転等を検出するものに限るものではなく、例えば、運転者以外の車両の乗員の様子を検出するものであってもよい。この場合、撮像装置1によって、車両の乗員が撮影される。
ずれ量検出装置3は、照明装置10、位置検出部11及びずれ量算出部12を備えている。
照明装置10は、車両の外部に設置される。
照明装置10は、車両の外部から車両内に入ってくる光である環境光の影響を抑制するための光を構造物2に照射する光源10aを備えている。
光源10aは、面光源である。面光源としては、例えば、白色光を発するディスプレイ、又は、赤外光を発するディスプレイがある。
図1に示すずれ量検出装置3では、光源10aの発光面の明るさが、均一であるものとする。明るさが均一とは、例えば、面光源の発光面における輝度計測値の最大値と輝度計測値の最小値との差が±10%以内であることを意味する。
図1に示すずれ量検出装置3では、光源10aが面光源である。しかし、これは一例に過ぎず、例えば、光源10aが点光源であってもよい。
図1に示すずれ量検出装置3は、照明装置10を備えている。しかし、これは一例に過ぎず、照明装置10は、ずれ量検出装置3の外部に設けられているものであってもよい。
位置検出部11は、例えば、図2に示す位置検出回路21によって実現される。
位置検出部11は、撮像装置1により撮像された構造物2の画像を取得する。
位置検出部11は、構造物2の画像上の位置である構造物画像位置を検出し、構造物画像位置を示す構造物画像位置情報をずれ量算出部12に出力する。
ずれ量算出部12は、例えば、図2に示すずれ量算出回路22によって実現される。
ずれ量算出部12は、位置検出部11から、構造物画像位置情報を取得する。また、ずれ量算出部12は、外部から、撮像装置1の設置位置が正しい設置位置であるときの、構造物の画像上の正しい位置である基準画像位置を示す基準画像位置情報を取得する。
ずれ量算出部12は、基準画像位置情報が示す基準画像位置と、構造物画像位置情報が示す構造物画像位置とに基づいて、撮像装置1の設置位置と正しい設置位置とのずれ量を算出する。
ずれ量算出部12は、算出したずれ量をドライバモニタリングシステム4に出力する。
ドライバモニタリングシステム4は、センシング部31及び警告出力部32を備えている。
センシング部31は、例えば、図3に示すセンシング回路41によって実現される。
センシング部31は、撮像装置1から撮像画像を取得し、ずれ量検出装置3のずれ量算出部12からずれ量を取得する。
センシング部31は、ずれ量と撮像画像とに基づいて、車両の乗員の状態を監視する。
センシング部31は、乗員の状態を監視することで、例えば、運転者のわき見運転、又は、運転者の居眠り運転を検出する。
警告出力部32は、例えば、図3に示す警告出力回路42によって実現される。
警告出力部32は、センシング部31によって、例えば、運転者のわき見運転、又は、運転者の居眠り運転が検出されれば、運転者に対する警告を示す警告情報を車両の電子制御ユニット等に出力する。
図1では、ずれ量検出装置3の照明装置10以外の構成要素である位置検出部11及びずれ量算出部12のそれぞれが、図2に示すような専用のハードウェアによって実現されるものを想定している。即ち、ずれ量検出装置3の一部が、位置検出回路21及びずれ量算出回路22によって実現されるものを想定している。
位置検出回路21及びずれ量算出回路22のそれぞれは、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、又は、これらを組み合わせたものが該当する。
ずれ量検出装置3の照明装置10以外の構成要素は、専用のハードウェアによって実現されるものに限るものではなく、照明装置10以外の構成要素が、ソフトウェア、ファームウェア、又は、ソフトウェアとファームウェアとの組み合わせによって実現されるものであってもよい。
ソフトウェア又はファームウェアは、プログラムとして、コンピュータのメモリに格納される。コンピュータは、プログラムを実行するハードウェアを意味し、例えば、CPU(Central Processing Unit)、中央処理装置、処理装置、演算装置、マイクロプロセッサ、マイクロコンピュータ、プロセッサ、あるいは、DSP(Digital Signal Processor)が該当する。
図4は、ずれ量検出装置3の照明装置10以外の構成要素が、ソフトウェア又はファームウェア等によって実現される場合のコンピュータのハードウェア構成図である。
ずれ量検出装置3の照明装置10以外の構成要素が、ソフトウェア又はファームウェア等によって実現される場合、位置検出部11及びずれ量算出部12におけるそれぞれの処理手順をコンピュータに実行させるためのプログラムがメモリ51に格納される。そして、コンピュータのプロセッサ52がメモリ51に格納されているプログラムを実行する。
また、図2では、ずれ量検出装置3の照明装置10以外の構成要素のそれぞれが専用のハードウェアによって実現される例を示し、図4では、ずれ量検出装置3の照明装置10以外の構成要素がソフトウェア又はファームウェア等によって実現される例を示している。しかし、これは一例に過ぎず、ずれ量検出装置3における一部の構成要素が専用のハードウェアによって実現され、残りの構成要素がソフトウェア又はファームウェア等によって実現されるものであってもよい。
図5Aは、撮像装置1の設置位置が正しい設置位置であるときの撮像画像を示す説明図であり、図5Bは、撮像装置1が車高方向に角度が付いている状態で設置されているときの撮像画像を示す説明図である。
図5A及び図5Bにおいて、X軸は、車幅方向と平行な方向であり、Y軸は、車高方向と平行な方向であり、Z軸は、車両の前後方向と平行な方向である。
図5A及び図5Bにおけるそれぞれの撮像画像には運転者の顔が映っている。撮像装置1の設置位置が正しい設置位置であれば、撮像画像において、運転者の顔が正しい位置に映される。図5Aの例では、正しい位置は、撮像画像のほぼ中心であり、運転者の顔が撮像画像のほぼ中心に映っている。
撮像装置1が車高方向に角度が付いている状態で設置されていれば、図5Bに示すように、撮像画像において、運転者の顔が、正しい位置から車高方向にずれた位置に映る。
車高方向に付いている角度が大きければ、運転者の顔が、上方向、もしくは、下方向を向いているように見え、その結果として、ドライバモニタリングシステム4が、運転者のわき見運転等を検出することが困難になることがある。
図6Aは、撮像装置1の設置位置が正しい設置位置であるときの撮像画像を示す説明図であり、図6Bは、撮像装置1が車幅方向に角度が付いている状態で設置されているときの撮像画像を示す説明図である。
図6A及び図6Bにおいて、X軸、Y軸及びZ軸のそれぞれは、図5A及び図5Bと同様である。
図6A及び図6Bにおけるそれぞれの撮像画像には運転者の顔が映っている。撮像装置1の設置位置が正しい設置位置であれば、撮像画像において、運転者の顔が正しい位置に映される。図6Aの例では、正しい位置は、撮像画像のほぼ中心であり、運転者の顔が撮像画像のほぼ中心に映っている。
撮像装置1が車幅方向に角度が付いている状態で設置されていれば、図6Bに示すように、撮像画像において、運転者の顔が、正しい位置から車幅方向にずれた位置に映る。
車幅方向に付いている角度が大きければ、運転者の顔が、左方向、もしくは、右方向を向いているように見え、その結果として、ドライバモニタリングシステム4が、運転者のわき見運転等を検出することが困難になることがある。
図7Aは、撮像装置1の設置位置が正しい設置位置であるときの撮像画像を示す説明図であり、図7Bは、撮像装置1がX-Y平面内で回転している状態で設置されているときの撮像画像を示す説明図である。
図7A及び図7Bにおいて、X軸、Y軸及びZ軸のそれぞれは、図5A及び図5Bと同様である。
図7A及び図7Bにおけるそれぞれの撮像画像には運転者の顔が映っている。撮像装置1の設置位置が正しい設置位置であれば、撮像画像において、運転者の顔が正しい位置に、回転が無い状態で映される。図7Aの例では、正しい位置は、撮像画像のほぼ中心であり、運転者の顔が、撮像画像のほぼ中心に、回転が無い状態で映っている。回転が無い状態とは、運転者の左目と右目とを結ぶ線が、X軸と概ね平行になるように、運転者の顔が映っている状態である。
撮像装置1がX-Y平面内で回転している状態で設置されていれば、図7Bに示すように、撮像画像において、運転者の顔が、回転した状態で映る。
回転の角度が大きければ、運転者の顔が、上方向、下方向、左方向、右方向、もしくは、それらの方向を複合した方向を向いているように見え、その結果として、ドライバモニタリングシステム4が、運転者のわき見運転等を検出することが困難になることがある。
図8は、実施の形態1に係るずれ量検出方法を示すフローチャートである。
例えば、撮像装置1の取付作業者は、車両内に撮像装置1を設置する(図8のステップST1)。
ここでは、取付作業者が、車両内に撮像装置1を設置している。しかしながら、車両内に撮像装置1が既に設置されている状況下では、取付作業者が、車両内に撮像装置1を設置する必要はない。
次に、取付作業者は、車両の外部に照明装置10を設置する(図8のステップST2)。
ここでは、取付作業者が、車両の外部に照明装置10を設置している。しかしながら、車両の外部に照明装置10が既に設置されている状況下では、取付作業者が、車両の外部に照明装置10を設置する必要はない。
次に、取付作業者は、照明装置10を操作する。
取付作業者が、照明装置10を操作することで、照明装置10が、車両の外部から車両内に入ってくる光である環境光の影響を抑制するための光を構造物2に照射する(図8のステップST3)。
環境光の影響を抑制するための光とは、環境光の影響を抑制することが可能な輝度を有する光を意味する。
次に、取付作業者は、撮像装置1を操作する。
取付作業者が、撮像装置1を操作することで、撮像装置1が、照明装置10によって光が照射されている構造物2を撮影する(図8のステップST4)。
ずれ量検出装置3は、撮像装置1により撮像された構造物2の画像に基づいて、撮像装置1の設置位置と、撮像装置1の正しい設置位置とのずれ量を算出する。
次に、図1に示すずれ量検出装置3及びドライバモニタリングシステム4の動作について説明する。
撮像装置1は、上記の通り、照明装置10によって構造物2に光が照射されているときに、車両内の構造物2を撮影し、構造物2を撮影した画像である撮像画像GPをずれ量検出装置3に出力する。
図9は、撮像画像GPの一例を示す説明図である。図9に示す撮像画像GPは、例えば、ダッシュボードに設置されている撮像装置1の撮像画像であり、撮像画像GPには、構造物2として、車両の窓枠a、アシストグリップb、ヘッドレストc、サンバイザーd、Bピラーe、ドアフレームf、ショルダーアンカーg等が映っている。
撮像装置1からずれ量検出装置3に出力される撮像画像GPは、基本的には、運転者が運転席に着座していないときに撮影された画像である。ただし、運転者が運転席に着座していても、運転者が構造物2を遮らないように着座していれば、撮像画像GPは、運転者が運転席に着座しているときに撮影された画像であってもよい。
位置検出部11は、撮像装置1から、撮像画像GPを取得する(図8のステップST5)。
位置検出部11は、撮像画像GPから、構造物2の画像上の位置である構造物画像位置を検出する(図8のステップST6)。
位置検出部11は、構造物画像位置を示す構造物画像位置情報をずれ量算出部12に出力する。
以下、位置検出部11による構造物画像位置の検出処理を具体的に説明する。
位置検出部11は、外部から、撮像装置1の設置位置が正しい設置位置であるときの、構造物2の画像上の正しい位置である基準画像位置を示す基準画像位置情報と、基準画像GREFとを取得する。基準画像GREFは、撮像装置1の設置位置が正しい設置位置であるときの画像である。
実施の形態1では、基準画像位置情報及び基準画像GREFのそれぞれが、ずれ量検出装置3の外部から与えられている。しかし、これは一例に過ぎず、基準画像位置情報及び基準画像GREFのそれぞれが、位置検出部11の内部メモリに格納されているものであってもよい。
ここでは、位置検出部11がテンプレートマッチングを実施することで、構造物画像位置を検出する例を説明する。
テンプレートマッチングでは、例えば、以下の式(1)に示すSAD(Sum of Absolute Difference)が用いられる。

Figure 2023113189000002
式(1)において、I(x,y)は、撮像画像GPの画素値、T(x,y)は、基準画像GREFの画素値である。(x,y)は、基準画像位置情報が示す基準画像位置である。
wは、基準画像GREFの幅、hは、基準画像GREFの高さである。幅w及び高さhのそれぞれは、既値である。
は、撮像画像GPにおけるx座標の走査位置、dは、撮像画像GPにおけるy座標の走査位置である。
まず、位置検出部11は、撮像画像GPの走査位置が(d,d)であるとして、式(1)に示すSAD(d,d)を算出する。
位置検出部11は、基準画像GREFを回転させ、あるいは、走査位置(d,d)を変更することで、SAD(d,d)を繰り返し算出する。
次に、位置検出部11は、繰り返し算出した複数のSAD(d,d)の中で、最小のSAD(d,d)を特定する。
位置検出部11は、最小のSAD(d,d)における走査位置(d,d)が、撮像画像GPの位置である構造物画像位置として、構造物画像位置を示す構造物画像位置情報をずれ量算出部12に出力する。
また、位置検出部11は、最小のSAD(d,d)が算出されたときの基準画像GREFの回転量を、撮像装置1の回転方向のずれ量Δφrollとしてずれ量算出部12に出力する。
ずれ量算出部12は、位置検出部11から、構造物画像位置情報及び回転方向のずれ量Δφrollのそれぞれを取得する。
また、ずれ量算出部12は、外部から、基準画像位置情報及び基準画像GREFのそれぞれを取得する。
実施の形態1では、基準画像位置情報及び基準画像GREFのそれぞれが、ずれ量検出装置3の外部から与えられている。しかし、これは一例に過ぎず、基準画像位置情報及び基準画像GREFのそれぞれが、ずれ量算出部12の内部メモリに格納されているものであってもよい。
ずれ量算出部12は、基準画像位置情報が示す基準画像位置と、構造物画像位置情報が示す構造物画像位置とが一致するように、基準画像GREFを、水平移動、垂直移動、又は、回転させる。
即ち、ずれ量算出部12は、回転方向のずれ量Δφrollだけ、基準画像GREFを回転させる。
また、ずれ量算出部12は、基準画像位置(x,y)と、最小のSAD(d,d)における走査位置(d,d)とが一致するように、基準画像GREFを、水平移動、又は、垂直移動させる。
ずれ量算出部12は、基準画像位置と構造物画像位置とが一致したときの、基準画像GREFの水平移動量Δd(=x-d)及び基準画像GREFの垂直移動量Δd(=y-d)のそれぞれを算出する。
ずれ量算出部12は、基準画像GREFの水平移動量Δdから、以下の式(2)に示すように、撮像装置1の設置位置と正しい設置位置とのずれ量Δφを算出する(図8のステップST7)。ずれ量Δφは、撮像装置1が正しい位置に設置されているときの撮像装置1におけるX軸方向の光軸ΦXREFと、撮像装置1におけるX軸方向の光軸との光軸ずれ量である。
また、ずれ量算出部12は、基準画像GREFの垂直移動量Δdから、以下の式(3)に示すように、撮像装置1の設置位置と正しい設置位置とのずれ量Δφを算出する(図8のステップST7)。ずれ量Δφは、撮像装置1が正しい位置に設置されているときの撮像装置1におけるY軸方向の光軸ΦYREFと、撮像装置1におけるY軸方向の光軸との光軸ずれ量である。

Figure 2023113189000003

式(2)及び式(3)において、FLは、撮像装置1の焦点距離であり、既値である。当該焦点距離は、例えば、撮像装置1に含まれている図示せぬイメージセンサと、撮像装置1に含まれている図示せぬレンズとの間の距離である。
ずれ量算出部12は、X軸方向のずれ量Δφ、Y軸方向のずれ量Δφ及び回転方向のずれ量Δφrollのそれぞれをドライバモニタリングシステム4に出力する。
ドライバモニタリングシステム4のセンシング部31は、撮像装置1から、撮像画像GP’を取得する。撮像画像GP’は、運転者が車両を運転しているときに撮影された画像である。
また、センシング部31は、ずれ量算出部12から、X軸方向のずれ量Δφ、Y軸方向のずれ量Δφ及び回転方向のずれ量Δφrollのそれぞれを取得する。
センシング部31は、例えば、撮像画像GP’に映っている運転者の頭の位置を特定する乗員センシングを実施する。
センシング部31は、乗員センシングを実施する際、撮像装置1の設置位置が正しい設置位置からずれている可能性があることを考慮する。このため、センシング部31は、例えば、運転者の頭の位置をセンシングする場合、撮像画像GP’における運転者の頭の位置から、ずれ量Δφ,Δφ,Δφrollだけずれている位置をセンシングする。
具体的には、撮像画像GP’における運転者の頭の位置の座標が(x,y,z)であるとすれば、センシング部31によりセンシングされる位置の座標(x’,y’,z’)は、以下の式(4)のように表される。

Figure 2023113189000004
センシング部31は、撮像画像GP’における座標(x’,y’,z’)の画素値に基づいて、車両の乗員の状態を監視する。
センシング部31は、乗員の状態を監視することで、例えば、運転者のわき見運転、又は、運転者の居眠り運転を検出する。
運転者のわき見運転、又は、運転者の居眠り運転を検出する処理自体は、公知の技術であるため詳細な説明を省略する。
警告出力部32は、センシング部31によって、例えば、運転者のわき見運転、又は、運転者の居眠り運転が検出されれば、運転者に対する警告を示す警告情報を車両の電子制御ユニット等に出力する。
図1に示すずれ量検出装置3では、照明装置10の光源10aが、構造物2に光を照射している。
構造物2に光が照射されることで、構造物2と他の構造物との境界が際立てられるため、環境光の影響が抑制される。環境光の影響が抑制されることで、撮像画像GPからの構造物画像位置の検出が容易になる。
撮像装置1によって撮影される車両内の構造物2が、例えば、窓枠aである場合、照明装置10の光源10aは、図10に示すように、窓枠aの両側のうち、撮像装置1と向かい合っている側と反対側に設置される。図10の例では、光源10aが車両の外側に設置されている。
特に、図10Aの例では、光源10aの発光面が、構造物2である窓枠aと触れる位置に設置されている。
また、図10Bの例では、光源10aの発光面が、構造物2である窓枠aから離れている位置に設置されている。光源10aの発光面が、窓枠aから離れている位置に設置される場合、照明装置10は、例えば、三脚等によって支持されていてもよいし、車両が入庫されている駐車場の天井等から吊り下げられていてもよい。光源10aの発光面が、構造物2から離れている位置に設置される場合、光源10aの発光面と構造物2との間に、作業員等が入り込まないように、発光面と構造物2との距離ができるだけ短いことが望ましい。
図10Aは、構造物2である窓枠aと触れる位置に発光面が設置されている光源10aを示す説明図である。
図10Bは、構造物2である窓枠aから離れている位置に発光面が設置されている光源10aを示す説明図である。
照明装置10が設置されていない場合、図11Aに示すように、構造物2である窓枠aの内側に、例えば、車外の風景、作業員、又は、環境光に伴う物体の影が現れることがある。図11Aにおいて、破線で囲まれている領域は、撮像装置1の撮影領域である。
この場合、撮像装置1による撮像画像GPには、車外の風景、作業員、又は、物体の影等が映り込むことがある。
環境光に伴う物体の影等が映り込んでいる撮像画像GPでは、構造物2と物体の影等との境界が分からないために、構造物2の位置を検出することが困難であることがある。
図11Aは、環境光に伴う物体の影等が窓枠aの内側に入り込んでいる状態を示す説明図である。
図11Bは、環境光に伴う物体の影等が映り込んでいる撮像画像GPを示す説明図である。
図11Bにおいて、“0”は、窓枠aを構成している画素、車外の風景を構成している画素、作業員を構成している画素及び物体の影を構成している画素の輝度値である。“1”は、それらの画素以外の画素の輝度値である。
図11A及び図11Bのそれぞれは、物体の影等の形状がデフォルメされている。このため、図11Aに示す物体の影等の形状と、図11Bに示す物体の影等の形状とが完全には一致していない。
一方、照明装置10が設置されている場合、図12Aに示すように、車外の風景、作業員、又は、環境光に伴う物体の影等の、窓枠aの内側への入り込みが防止される。図12Aにおいて、破線で囲まれている領域は、撮像装置1の撮影領域である。したがって、図12Bに示すように、車外の風景、作業員、又は、環境光に伴う物体の影等が、撮像画像GPに映り込むことが防止される。また、照明装置10の光源10aが、構造物2に光を照射することで、構造物2と他の構造物との境界が際立てられる。このため、撮像画像GPに映っている構造物2の位置を容易に検出することができる。
したがって、ずれ量検出装置3が照明装置10を備えることで、環境光の状態変化に伴うずれ量Δφ,Δφ,Δφrollの算出精度の劣化を抑えることができる。
図12Aは、照明装置10によって、環境光に伴う物体の影等の窓枠aの内側への入り込みが防止されている状態を示す説明図である。
図12Bは、環境光に伴う物体の影等が映り込んでいない撮像画像GPを示す説明図である。
図12Bにおいて、“0”は、窓枠aを構成している画素の輝度値である。“1”は、窓枠aを構成している画素以外の画素の輝度値である。
図12A及び図12Bのそれぞれは、窓枠aの形状がデフォルメされている。このため、図12Aに示す窓枠aの形状と、図12Bに示す窓枠aの形状とが完全には一致していない。
以上の実施の形態1では、照明装置10が、車両の外部から車両内に入ってくる光である環境光の影響を抑制するための光を車両の構造物2に照射する工程と、撮像装置1が、照明装置10によって光が照射されている構造物2を撮影する工程と、ずれ量検出装置3が、撮像装置1により撮像された構造物2の画像に基づいて、撮像装置1の設置位置と、撮像装置1の正しい設置位置とのずれ量を算出する工程とを備えるように、ずれ量検出方法を構成した。したがって、ずれ量検出方法は、環境光の状態変化に伴うずれ量の算出精度の劣化を抑えることができる。
図1に示すずれ量検出装置3では、光源10aの発光面の明るさが均一である。しかし、これは一例に過ぎず、図13に示すように、光源10aから照射される光が、構造物2への照射面に模様を生じさせる光であってもよい。
図13は、照射面に模様が生じる光の一例を示す説明図である。図13の例では、◇の形状を有する模様が縦横に複数配列されている。
光源10aの発光面に模様が描かれることで、構造物2への照射面に模様が生じるようになる。また、光源10aの発光面に模様が刻まれることで、構造物2への照射面に模様が生じるようになる。また、光源10aの発光面と構造物2との間に、模様の部分の透過率と模様以外の部分の透過率とが異なるシートを配置することで、構造物2への照射面に模様が生じるようになる。
光源10aから照射される光が、構造物2への照射面に模様を生じさせる光であるようにすることで、光源10aから照射された光と、当該光以外の光である外乱光との区別が容易になる。その結果、位置検出部11による構造物画像位置の検出精度が向上する。
図1に示すずれ量検出装置3では、光源10aが光を連続的に照射している。しかし、これは一例に過ぎず、図14に示すように、光源10aが、構造物2に照射する光を点滅させるようにしてもよい。
図14は、光源10aからの光が点滅している例を示す説明図である。
図14の例では、撮像装置1の撮像フレームのうち、1フレーム目と3フレーム目とでは、光源10aが光を構造物2に照射している。撮像装置1の撮像フレームのうち、2フレーム目では、光源10aが、光を構造物2に照射していない。
位置検出部11は、例えば、1フレーム目の撮像画像GPと、2フレーム目の撮像画像GPとの差分を検出することで、撮像画像GPに映っている構造物2を容易に検出することができる。
図1に示すずれ量検出装置3では、位置検出部11が、構造物2の画像上の位置である構造物画像位置を検出している。しかし、これは一例に過ぎず、位置検出部11が、構造物2の画像上の位置を検出する代わりに、特許文献1に記載のずれ量検出装置と同様の方法で、撮像画像GPに映っている構造物2の特徴点を抽出するようにしてもよい。この場合、ずれ量算出部12は、特許文献1に記載のずれ量検出装置と同様の方法で、構造物2の特徴点からずれ量を算出する必要がある。なお、この場合も、撮像画像GPは、照明装置10によって構造物2に光が照射されているときに、撮像装置1により撮像された構造物2の画像である。
図1に示すずれ量検出装置3では、構造物2が窓枠aであるとして、照明装置10が、光を窓枠aに照射している。しかし、構造物2は、窓枠aに限るものではなく、構造物2が、例えば、アシストグリップb、ヘッドレストc、サンバイザーd、Bピラーe、ドアフレームf、又は、ショルダーアンカーgであってもよい。したがって、照明装置10が、光をアシストグリップb等に照射するようにしてもよい。
実施の形態2.
実施の形態2では、照明装置10が、光源10b及び反射板10cを備えているずれ量検出装置3について説明する。
図15は、実施の形態2に係るずれ量検出装置3及びドライバモニタリングシステム4を示す構成図である。図15において、図1と同一符号は同一又は相当部分を示すので説明を省略する。
図15に示すずれ量検出装置3では、照明装置10が、光源10b及び反射板10cを備えている。
光源10bは、環境光の影響を抑制するための光を構造物2である窓枠aに照射する。
光源10bは、面光源であり、面光源の発光面の明るさは均一である。
図15に示すずれ量検出装置3では、光源10bが面光源である。しかし、これは一例に過ぎず、光源10bが、例えば、点光源であってもよいし、光源10bが、例えば、白熱電球、又は、LED(Light Emitting Diode)であってもよい。
反射板10cは、例えば、スクリーン、紙、布、木板、樹脂板、又は、金属板である。しかし、これは一例に過ぎず、反射板10cは、スクリーン、紙、布、木板、樹脂板、又は、金属板の組み合わせであってもよい。
反射板10cは、光の反射面が平面である。
反射板10cは、構造物2の両側のうち、撮像装置1と向かい合っている側と反対側に設置される。
反射板10cは、光源10bから照射されたのち、窓枠aの内側を通過してきた光を窓枠aに向けて反射させる。反射板10cによる反射後の光は、窓枠aの内側を通過して、撮像装置1に至る。
図15に示すずれ量検出装置3では、反射板10cの反射面が平面である。しかし、これは一例に過ぎず、反射板10cの反射面が、例えば、球面、又は、凹凸を有する面であってもよい。
図15に示すずれ量検出装置3では、光源10bが、車両内に設置されている。しかし、これは一例に過ぎず、光源10bが、車両外に設置されていてもよい。この場合、反射板10cは、光源10bからの光を窓枠aの方向に反射させる。反射板10cによる反射後の光は、窓枠aを通過して、撮像装置1に至る。
次に、図15に示すずれ量検出装置3の動作について説明する。
ただし、照明装置10以外は、図1に示すずれ量検出装置3と同様である。このため、ここでは、照明装置10の動作のみを説明する。
撮像装置1によって撮影される車両内の構造物2が、例えば、窓枠aである場合、照明装置10の反射板10cは、図16に示すように、窓枠aの両側のうち、撮像装置1と向かい合っている側と反対側に設置される。図16の例では、反射板10cが車両の外側に設置されている。
特に、図16Aの例では、照明装置10の一部である光源10bが、車両内に設置され、照明装置10の一部である反射板10cが、車両の外部に設置されている。反射板10cの反射面は、構造物2である窓枠aと触れる位置に設置されている。
また、図16Bの例では、照明装置10の一部である光源10bが、車両の外部に設置され、照明装置10の一部である反射板10cが、車両の外部に設置されている。反射板10cの反射面は、構造物2である窓枠aから離れている位置に設置されている。反射板10cの反射面が、窓枠aから離れている位置に設置される場合、反射板10cは、例えば、三脚等によって支持されていてもよいし、車両が入庫されている駐車場の天井等から吊り下げられていてもよい。反射板10cの反射面が、構造物2から離れている位置に設置される場合、反射板10cの反射面と構造物2との間に、作業員等が入り込まないように、反射面と構造物2との距離ができるだけ短いことが望ましい。
図16Aは、構造物2である窓枠aと触れる位置に反射面が設置されている反射板10cを示す説明図である。
図16Bは、構造物2である窓枠aから離れている位置に反射面が設置されている反射板10cを示す説明図である。
光源10b及び反射板10cを備える照明装置10が設置されている場合、図12Aに示すように、車外の風景、作業員、又は、環境光に伴う物体の影等の窓枠aの内側への入り込みが防止される。したがって、図12Bに示すように、車外の風景、作業員、又は、環境光に伴う物体の影等が、撮像画像GPに映り込むことが防止される。また、反射板10cが、構造物2に向けて光を反射させることで、構造物2と他の構造物との境界が際立てられるため、環境光の影響が抑制される。環境光の影響が抑制されることで、位置検出部11による構造物2の位置の検出精度が向上する。
したがって、ずれ量検出装置3が照明装置10を備えることで、環境光の状態変化に伴うずれ量Δφ,Δφ,Δφrollの算出精度の劣化を抑えることができる。
以上より、図15に示すずれ量検出装置3は、図1に示すずれ量検出装置3と同様に、環境光の状態変化に伴うずれ量の算出精度の劣化を抑えることができる。
図15に示すずれ量検出装置3では、光源10bの発光面の明るさが均一である。しかし、これは一例に過ぎず、図13に示すように、光源10bから照射される光が、構造物2への照射面に模様を生じさせる光であってもよい。
光源10bの発光面に模様が描かれることで、構造物2への照射面に模様が生じるようになる。また、光源10bの発光面に模様が刻まれることで、構造物2への照射面に模様が生じるようになる。また、光源10bの発光面と構造物2との間に、模様の部分の透過率と模様以外の部分の透過率とが異なるシートを配置することで、構造物2への照射面に模様が生じるようになる。
光源10bから照射される光が、構造物2への照射面に模様を生じさせる光であるようにすることで、光源10bから照射された光と、当該光以外の光である外乱光との区別が容易になる。その結果、位置検出部11による構造物2の位置の検出精度が向上する。
光源10bから照射される光が、構造物2への照射面に模様を生じさせる光である代わりに、反射板10cに模様が施されているものであってもよい。反射板10cに模様が施されているものであっても、構造物2への照射面に模様が生じるようになる。
反射板10cの反射面が、反射率が互いに異なる複数の素材を有することで、反射板10cに模様が施される。また、反射板10cの反射面が、球面又は凹凸を有することで、反射板10cに模様が施される。
図15に示すずれ量検出装置3では、光源10bが光を連続的に照射している。しかし、これは一例に過ぎず、図14に示すように、光源10bが、構造物2に照射する光を点滅させるようにしてもよい。
位置検出部11は、例えば、1フレーム目の撮像画像GPと、2フレーム目の撮像画像GPとの差分を検出することで、撮像画像GPに映っている構造物2を容易に検出することができる。
図15に示すずれ量検出装置3では、構造物2が窓枠aであるとして、反射板10cが、光源10bからの光を窓枠aに向けて反射させている。しかし、構造物2は、窓枠aに限るものではなく、構造物2が、例えば、アシストグリップb、ヘッドレストc、サンバイザーd、Bピラーe、ドアフレームf、又は、ショルダーアンカーgであってもよい。したがって、反射板10cが、光源10bからの光をアシストグリップb等に向けて反射させるようにしてもよい。
実施の形態3.
実施の形態3では、複数の発光点を有する照明装置60を備えるずれ量検出装置3について説明する。
図17は、実施の形態3に係るずれ量検出装置3及びドライバモニタリングシステム4を示す構成図である。図17において、図1及び図15と同一符号は同一又は相当部分を示すので説明を省略する。
図18は、実施の形態3に係るずれ量検出装置3のハードウェアを示すハードウェア構成図である。図18において、図2と同一符号は同一又は相当部分を示すので説明を省略する。
照明装置60は、例えば、車両内に設置される。
照明装置60は、N個の発光点を有している。Nは、3以上の整数である。図17に示すずれ量検出装置3では、説明の便宜上、N=3であるものとして説明する。
発光点60a,60b,60cのそれぞれは、照明装置60の光源から照射された光を外部に出力するための発光部位である。
図17に示すずれ量検出装置3では、3つの発光点60a,60b,60cが、一直線上に並んでいないため、3つの発光点60a,60b,60cのそれぞれが結ばれた場合、三角形が形成される。
位置検出部61は、例えば、図18に示す位置検出回路71によって実現される。
位置検出部61は、撮像装置1により撮像された3つの発光点60a,60b,60cの画像を取得する。
位置検出部61は、3つの発光点60a,60b,60cの画像上の位置である発光点画像位置を検出する。
位置検出部61は、発光点画像位置を示す発光点画像位置情報をずれ量算出部62に出力する。
ずれ量算出部62は、例えば、図18に示すずれ量算出回路72によって実現される。
ずれ量算出部62は、位置検出部61から、発光点画像位置情報を取得する。また、ずれ量算出部62は、外部から、撮像装置1の設置位置が正しい設置位置であるときの、発光点60a,60b,60cの画像上の正しい位置である基準画像位置を示す基準画像位置情報を取得する。
ずれ量算出部62は、基準画像位置情報が示す基準画像位置と、発光点画像位置情報が示す発光点画像位置とに基づいて、撮像装置1の設置位置と正しい設置位置とのずれ量を算出する。
ずれ量算出部62は、算出したずれ量をドライバモニタリングシステム4に出力する。
図17では、ずれ量検出装置3の照明装置60以外の構成要素である位置検出部61及びずれ量算出部62のそれぞれが、図18に示すような専用のハードウェアによって実現されるものを想定している。即ち、ずれ量検出装置3の一部が、位置検出回路71及びずれ量算出回路72によって実現されるものを想定している。
位置検出回路71及びずれ量算出回路72のそれぞれは、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC、FPGA、又は、これらを組み合わせたものが該当する。
ずれ量検出装置3の照明装置60以外の構成要素は、専用のハードウェアによって実現されるものに限るものではなく、照明装置60以外の構成要素が、ソフトウェア、ファームウェア、又は、ソフトウェアとファームウェアとの組み合わせによって実現されるものであってもよい。
ずれ量検出装置3の照明装置60以外の構成要素が、ソフトウェア又はファームウェア等によって実現される場合、位置検出部61及びずれ量算出部62におけるそれぞれの処理手順をコンピュータに実行させるためのプログラムが図4に示すメモリ51に格納される。そして、図4に示すプロセッサ52がメモリ51に格納されているプログラムを実行する。
また、図18では、ずれ量検出装置3の照明装置60以外の構成要素のそれぞれが専用のハードウェアによって実現される例を示し、図4では、ずれ量検出装置3の照明装置60以外の構成要素がソフトウェア又はファームウェア等によって実現される例を示している。しかし、これは一例に過ぎず、ずれ量検出装置3における一部の構成要素が専用のハードウェアによって実現され、残りの構成要素がソフトウェア又はファームウェア等によって実現されるものであってもよい。
図20は、実施の形態3に係るずれ量検出方法を示すフローチャートである。
例えば、撮像装置1の取付作業者は、車両内に撮像装置1を設置する(図20のステップST11)。
ここでは、取付作業者が、車両内に撮像装置1を設置している。しかしながら、車両内に撮像装置1が既に設置されている状況下では、取付作業者が、車両内に撮像装置1を設置する必要はない。
次に、取付作業者は、車両内に、3つ以上の発光点を有する照明装置60を設置する(図20のステップST12)。
ここでは、取付作業者が、車両内に照明装置60を設置している。しかしながら、車両内に照明装置60が既に設置されている状況下では、取付作業者が、車両内に照明装置60を設置する必要はない。
図17に示すずれ量検出装置3では、図19に示すように、3つの発光点60a,60b,60cを有する照明装置60が窓枠aの内側に設置されている。しかし、これは一例に過ぎず、3つの発光点60a,60b,60cを有する照明装置60が車両の外側に設置されていてもよい。
図19は、照明装置60の発光点60a,60b,60cが窓枠aの内側に取り付けられている例を示す説明図である。
次に、取付作業者は、照明装置60を操作する。
取付作業者が、照明装置60を操作することで、照明装置60が、発光点60a,60b,60cから光を照射する(図20のステップST13)。発光点60a,60b,60cは、撮像装置1に向けて光を照射する。
次に、取付作業者は、撮像装置1を操作する。
取付作業者が、撮像装置1を操作することで、撮像装置1が、光を照射している発光点60a,60b,60cを撮影する(図20のステップST14)。
ずれ量検出装置3は、撮像装置1により撮像された発光点60a,60b,60cの画像に基づいて、撮像装置1の設置位置と、撮像装置1の正しい設置位置とのずれ量を算出する。
次に、図17に示すずれ量検出装置3及びドライバモニタリングシステム4の動作について説明する。
撮像装置1は、上記の通り、3つの発光点60a,60b,60cから光が照射されているときに、3つの発光点60a,60b,60cを撮影し、発光点60a,60b,60cを撮影した画像である撮像画像GPをずれ量検出装置3に出力する。
車両内への環境光の入射の有無にかかわらず、発光点60a,60b,60cからの光の輝度は、発光点60a,60b,60cの周囲の輝度よりも高い。したがって、撮像画像GPに映っている発光点60a,60b,60cの形状は、鮮明である。
撮像装置1からずれ量検出装置3に出力される撮像画像GPは、基本的には、運転者が運転席に着座していないときに撮影された画像である。ただし、運転者が運転席に着座していても、運転者が構造物2を遮らないように着座していれば、撮像画像GPは、運転者が運転席に着座しているときに撮影された画像であってもよい。
位置検出部61は、撮像装置1から、撮像画像GPを取得する(図20のステップST15)。
位置検出部61は、撮像画像GPから、発光点60a,60b,60cの画像上の位置である発光点画像位置を検出する(図20のステップST16)。
位置検出部61は、発光点画像位置を示す発光点画像位置情報をずれ量算出部62に出力する。
位置検出部61による発光点画像位置の検出処理は、図1に示す位置検出部11による構造物画像位置の検出処理と同様であるため、詳細な説明を省略する。
ずれ量算出部62は、位置検出部61から、発光点画像位置情報及び回転方向のずれ量Δφrollのそれぞれを取得する。
また、ずれ量算出部62は、外部から、撮像装置1の設置位置が正しい設置位置であるときの、発光点60a,60b,60cの画像上の正しい位置である基準画像位置を示す基準画像位置情報と、基準画像GREFとを取得する。
実施の形態3では、発光点画像位置情報及び基準画像GREFのそれぞれが、ずれ量検出装置3の外部から与えられている。しかし、これは一例に過ぎず、基準画像位置情報及び基準画像GREFのそれぞれが、ずれ量算出部62の内部メモリに格納されているものであってもよい。
ずれ量算出部62は、基準画像位置情報が示す基準画像位置と、発光点画像位置情報が示す発光点画像位置とが一致するように、基準画像GREFを、水平移動、垂直移動、又は、回転させる。
即ち、ずれ量算出部62は、回転方向のずれ量Δφrollだけ、基準画像GREFを回転させる。
また、ずれ量算出部62は、基準画像位置(x,y)と、最小のSAD(d,d)における走査位置(d,d)とが一致するように、基準画像GREFを、水平移動、又は、垂直移動させる。
ずれ量算出部62は、基準画像位置と発光点画像位置とが一致したときの、基準画像GREFの水平移動量Δd(=x-d)及び基準画像GREFの垂直移動量Δd(=y-d)のそれぞれを算出する。
ずれ量算出部62は、基準画像GREFの水平移動量Δdから、上記の式(2)に示すように、撮像装置1の設置位置と正しい設置位置とのずれ量Δφを算出する(図20のステップST17)。ずれ量Δφは、撮像装置1が正しい位置に設置されているときの撮像装置1におけるX軸方向の光軸ΦXREFと、撮像装置1におけるX軸方向の光軸との光軸ずれ量である。
また、ずれ量算出部62は、基準画像GREFの垂直移動量Δdから、上記の式(3)に示すように、撮像装置1の設置位置と正しい設置位置とのずれ量Δφを算出する(図20のステップST17)。ずれ量Δφは、撮像装置1が正しい位置に設置されているときの撮像装置1におけるY軸方向の光軸ΦYREFと、撮像装置1におけるY軸方向の光軸との光軸ずれ量である。
ずれ量算出部62は、X軸方向のずれ量Δφ、Y軸方向のずれ量Δφ及び回転方向のずれ量Δφrollのそれぞれをドライバモニタリングシステム4に出力する。
以上の実施の形態3では、3つ以上の発光点を有する照明装置60が、発光点から光を照射する工程と、撮像装置1が、光を照射している発光点を撮影する工程と、ずれ量検出装置3が、撮像装置1により撮像された発光点の画像に基づいて、撮像装置1の設置位置と、撮像装置1の正しい設置位置とのずれ量を算出する工程とを備えるように、ずれ量検出方法を構成した。したがって、ずれ量検出方法は、環境光の状態変化に伴うずれ量の算出精度の劣化を抑えることができる。
図17に示すずれ量検出装置3では、照明装置60が、3つの発光点60a,60b,60cを有している。しかし、これは一例に過ぎず、ずれ量検出装置3が、1つの発光点を有する照明装置60を3つ以上備えるようにしてもよい。
なお、本開示は、各実施の形態の自由な組み合わせ、あるいは各実施の形態の任意の構成要素の変形、もしくは実施の形態において任意の構成要素の省略が可能である。
1 撮像装置、2 構造物、3 ずれ量検出装置、4 ドライバモニタリングシステム、10 照明装置、10a 光源、10b 光源、10c 反射板、11 位置検出部、12 ずれ量算出部、21 位置検出回路、22 ずれ量算出回路、31 センシング部、32 警告出力部、41 センシング回路、42 警告出力回路、51 メモリ、52 プロセッサ、60 照明装置、60a,60b,60c 発光点、61 位置検出部、62 ずれ量算出部、71 位置検出回路、72 ずれ量算出回路。

Claims (19)

  1. 照明装置が、前記車両の外部から前記車両内に入ってくる光である環境光の影響を抑制するための光を前記車両の構造物に照射する工程と、
    撮像装置が、前記照明装置によって光が照射されている前記構造物を撮影する工程と、
    ずれ量検出装置が、前記撮像装置により撮像された前記構造物の画像に基づいて、前記撮像装置の設置位置と、前記撮像装置の正しい設置位置とのずれ量を算出する工程と
    を備えたずれ量検出方法。
  2. 3つ以上の発光点を有する照明装置が、前記発光点から光を照射する工程と、
    撮像装置が、光を照射している前記発光点を撮影する工程と、
    ずれ量検出装置が、前記撮像装置により撮像された前記発光点の画像に基づいて、前記撮像装置の設置位置と、前記撮像装置の正しい設置位置とのずれ量を算出する工程と
    を備えたずれ量検出方法。
  3. 車両の構造物に光を照射する照明装置と、
    前記照明装置によって、前記車両の外部から前記車両内に入ってくる光である環境光の影響を抑制するための光が前記車両の構造物に照射されているときに、撮像装置により撮像された前記構造物の画像を取得し、前記構造物の画像上の位置である構造物画像位置を検出する位置検出部と、
    前記撮像装置の設置位置が正しい設置位置であるときの、前記構造物の画像上の正しい位置である基準画像位置と、前記位置検出部により検出された構造物画像位置とに基づいて、前記撮像装置の設置位置と前記正しい設置位置とのずれ量を算出するずれ量算出部と
    を備えたずれ量検出装置。
  4. 前記照明装置は、前記環境光の影響を抑制するための光を前記構造物に照射する光源を備えていることを特徴とする請求項3記載のずれ量検出装置。
  5. 前記光源は、前記構造物の両側のうち、前記撮像装置と向かい合っている側と反対側に設置されていることを特徴とする請求項4記載のずれ量検出装置。
  6. 前記光源は、面光源であり、
    前記面光源の発光面は、前記構造物と触れる位置、又は、前記構造物から離れている位置に設置されていることを特徴とする請求項5記載のずれ量検出装置。
  7. 前記面光源の発光面の明るさが均一であることを特徴とする請求項4記載のずれ量検出装置。
  8. 前記光源から照射される光は、前記構造物への照射面に模様を生じさせる光であることを特徴とする請求項4記載のずれ量検出装置。
  9. 前記光源は、前記構造物に照射する光を点滅させることを特徴とする請求項4記載のずれ量検出装置。
  10. 前記照明装置は、
    前記環境光の影響を抑制するための光を照射する光源と、
    前記光源からの光を前記構造物に向けて反射させる反射板とを備えていることを特徴とする請求項3記載のずれ量検出装置。
  11. 前記反射板は、前記構造物の両側のうち、前記撮像装置と向かい合っている側と反対側に設置されていることを特徴とする請求項10記載のずれ量検出装置。
  12. 前記反射板は、前記構造物と触れる位置、又は、前記構造物から離れている位置に設置されていることを特徴とする請求項11記載のずれ量検出装置。
  13. 前記光源は、面光源であり、
    前記面光源の発光面の明るさが均一であることを特徴とする請求項10記載のずれ量検出装置。
  14. 前記光源から照射される光が前記構造物への照射面に模様を生じさせる光であり、あるいは、前記反射板に模様が施されていることを特徴とする請求項10記載のずれ量検出装置。
  15. 前記光源は、前記構造物に照射する光を点滅させることを特徴とする請求項10記載のずれ量検出装置。
  16. 前記反射板は、スクリーン、紙、布、木板、樹脂板、又は、金属板であることを特徴とする請求項10記載のずれ量検出装置。
  17. 前記構造物は、前記車両に取り付けられている窓枠であることを特徴とする請求項3記載のずれ量検出装置。
  18. 3つ以上の発光点を有する照明装置と、
    前記照明装置が有している3つ以上の発光点から光が照射されているときに、撮像装置により撮像された前記発光点の画像を取得し、前記発光点の画像上の位置である発光点画像位置を検出する位置検出部と、
    前記撮像装置の設置位置が正しい設置位置であるときの、前記発光点の画像上の正しい位置である基準画像位置と、前記位置検出部により検出された発光点画像位置とに基づいて、前記撮像装置の設置位置と前記正しい設置位置とのずれ量を算出するずれ量算出部と
    を備えたずれ量検出装置。
  19. 請求項3から請求項18のうちのいずれか1項記載のずれ量検出装置のずれ量算出部により算出されたずれ量と、撮像装置により撮像された車両内の画像とを用いて、前記車両の乗員の状態を監視するセンシング部を備えたことを特徴とするドライバモニタリングシステム。
JP2022015361A 2022-02-03 2022-02-03 ずれ量検出方法、ずれ量検出装置及びドライバモニタリングシステム Pending JP2023113189A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022015361A JP2023113189A (ja) 2022-02-03 2022-02-03 ずれ量検出方法、ずれ量検出装置及びドライバモニタリングシステム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022015361A JP2023113189A (ja) 2022-02-03 2022-02-03 ずれ量検出方法、ずれ量検出装置及びドライバモニタリングシステム

Publications (1)

Publication Number Publication Date
JP2023113189A true JP2023113189A (ja) 2023-08-16

Family

ID=87566165

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022015361A Pending JP2023113189A (ja) 2022-02-03 2022-02-03 ずれ量検出方法、ずれ量検出装置及びドライバモニタリングシステム

Country Status (1)

Country Link
JP (1) JP2023113189A (ja)

Similar Documents

Publication Publication Date Title
CN104723964B (zh) 用于车辆的曲面显示设备
JP2007104538A (ja) 車両用死角映像表示装置
JP2005247224A (ja) 車両用表示装置
JP2007069680A (ja) 顔画像撮影カメラの搭載構造
CN110901531B (zh) 后方显示装置、后方显示方法以及记录介质
JP5955357B2 (ja) 照射制御装置
CN110733423B (zh) 用于显示车辆后方图像的装置和方法
KR101091288B1 (ko) 자동차용 디스플레이 장치 및 방법
JP2023113189A (ja) ずれ量検出方法、ずれ量検出装置及びドライバモニタリングシステム
US20110169954A1 (en) Maneuvering assisting apparatus
JP2002036987A (ja) 車両周囲監視装置
JP4501708B2 (ja) 運転者の顔向き判定装置
JP7177197B2 (ja) 車両
JP2011042179A (ja) 投光器制御装置
JP2004328240A (ja) 周辺画像表示装置
JP2018012483A (ja) 車両用表示制御装置、車両用表示システム、車両用表示制御方法およびプログラム
JP2005231605A (ja) 後方確認装置
JP2020052798A (ja) インタフェース装置、その位置ずれ補正方法及びプログラム
JP4664219B2 (ja) 車両用灯具の照射方向制御装置
JP7134384B1 (ja) ずれ量検出装置、ずれ量検出方法及びドライバモニタリングシステム
JP7063045B2 (ja) 視線検出装置、視線検出方法及び視線検出プログラム
CN117288095B (zh) 一种门槛照地灯的检测装置及方法
WO2023008023A1 (ja) 視線検出装置、視線検出方法及び視線検出プログラム
JP2017178025A (ja) 運転支援装置
JPS6199803A (ja) 車両運転者位置認識装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20220207

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240507