JP2009113621A - 乗員画像撮像装置、運転支援装置 - Google Patents

乗員画像撮像装置、運転支援装置 Download PDF

Info

Publication number
JP2009113621A
JP2009113621A JP2007288393A JP2007288393A JP2009113621A JP 2009113621 A JP2009113621 A JP 2009113621A JP 2007288393 A JP2007288393 A JP 2007288393A JP 2007288393 A JP2007288393 A JP 2007288393A JP 2009113621 A JP2009113621 A JP 2009113621A
Authority
JP
Japan
Prior art keywords
occupant
face
image
image sensor
headrest
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2007288393A
Other languages
English (en)
Inventor
Tamiko Nishina
多美子 仁科
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2007288393A priority Critical patent/JP2009113621A/ja
Publication of JP2009113621A publication Critical patent/JP2009113621A/ja
Pending legal-status Critical Current

Links

Images

Abstract

【課題】乗員の頭部を撮影範囲に含むようカメラの状態を調整するか又は乗員の頭部を撮影範囲に誘導する乗員画像撮像装置及び運転支援装置を提供すること。
【解決手段】車両に搭乗している乗員の顔画像を撮像する画像センサ25と、画像センサ25による撮像方向、ズーム倍率又は焦点位置の少なくともいずれかの画像センサ状態を調整する撮像調整手段56、58と、座席に対する乗員の頭部位置を検出する頭部位置検出手段13と、撮像調整手段56、58により調整された画像センサ状態と頭部位置の各情報に基づき、撮像調整手段56、58による画像センサ状態の調整を促進する促進手段23と、を有する乗員画像撮像装置100を提供することを特徴とする。
【選択図】図1

Description

本発明は、乗員の画像を撮像する乗員画像撮像装置及び撮像結果に基づき動作する運転支援装置に関する。
運転者等の乗員の顔画像を撮影して顔向きや居眠りなどを検出し運転支援を行う運転支援技術が知られている。運転者の顔画像を撮影するカメラは運転者の顔を撮影しやすい位置、例えばステアリングコラムのアッパーカバーの上側又はメータパネルに埋設するように配置されているが、カメラの撮影範囲は画角や倍率等によりある範囲に定まってしまう。
このため、カメラの向きや運転者の運転姿勢によっては上下左右に頭部の位置がずれて撮影範囲から外れてしまう場合がある。そこで、運転者の頭部の位置を推定して推定された位置を撮影目標とするようカメラの調節機構を制御する乗員画像撮像装置が提案されている(例えば、特許文献1参照。)。特許文献1記載の乗員画像撮像装置は、運転者の頭部の位置を運転者のシートの前後位置、高さ及びシートの傾きから推定し、推定位置を撮影目標とするようにカメラの向き、距離、ズーム機構を最適化する。
特開平6−178302号公報
しかしながら、特許文献1記載の乗員画像撮像装置のように、シートの前後位置からのみ運転者の頭部の位置を推定するだけでは、精度よく運転者の頭部の位置を推定することができない。また、ステアリングコラムにカメラを配置した場合は、チルト角度やテレスコピック位置の調整によりカメラの撮影範囲が変動してしまうが、運転者は撮影範囲に頭部が含まれるようにチルト角度やテレスコピック位置を調整するとは限らないという問題がある。
本発明は、上記課題に鑑み、乗員の頭部を撮影範囲に含むようカメラの状態を調整するか又は乗員の頭部を撮影範囲に誘導する乗員画像撮像装置及び運転支援装置を提供することを目的とする。
本発明は、上記課題に鑑み、乗員の顔画像を撮像する画像センサと、画像センサによる、撮影方向、ズーム倍率又は焦点位置の少なくともいずれかの画像センサ状態を調整する撮像調整手段と、座席に対する乗員の頭部位置を検出する頭部位置検出手段(例えば、ステアリングコラム50のチルテレ位置の調整手段)と、撮像調整手段により調整された画像センサ状態と頭部位置の各情報に基づき、撮像調整手段による画像センサ状態の調整を促進する促進手段(例えば、通知部23やマルチインフォメーションディスプレイ12)と、を有する乗員画像撮像装置を提供することを特徴とする。
本発明によれば、座席を基準に頭部位置を検出するので頭部位置の検出精度が向上し、画像センサ状態を精度よく調整させることができる。
また、本発明の一形態において、画像センサが設置されたステアリングコラムのチルト角度又はテレスコピック位置により画像センサ状態が調整される、ことを特徴とする。
本発明によれば、チルテレ位置と一体に画像センサ状態を調整できるので、チルテレ位置を調整すると画像センサ状態も調整できる。
また、本発明の一形態において、頭部位置検出手段は静電容量センサを有する、ことを特徴とする。本発明によれば、非接触で頭部位置を検出することができる。
また、本発明の一形態において、静電容量センサは座席のヘッドレストに設けられている、ことを特徴とする。本発明によれば、静電容量センサの存在を乗員に意識させることなく頭部位置を検出できる。
また、本発明の一形態において、促進手段は、画像センサ状態の調整量を乗員に通知する、ことを特徴とする。本発明によれば、通知された調整量に従い乗員が画像センサを調整することができる。
また、本発明の一形態において、促進手段は、顔画像及び顔位置の適正位置を表示装置に表示する、ことを特徴とする。本発明によれば、撮影された顔画像を見ながら画像センサ状態を調整し又は顔位置を誘導できる。
また、本発明の一形態において、乗員画像撮像装置と、画像センサが撮像した顔画像に基づき動作する第1車載装置(例えば、脇見検知装置や居眠り検知装置)と、頭部位置に基づき動作する第2車載装置と、有することを特徴とする運転支援装置を提供する。
本発明によれば、顔画像を精度よく撮影できるので第1車載装置が好適に動作することができる。
また、本発明の一形態において、第2車載装置は、ヘッドレストと頭部の距離を減少させる方向に移動させるヘッドレスト可動手段である、ことを特徴とする。
本発明によれば、例えばアクティブヘッドレスト等のヘッドレスト可動手段には静電容量センサが配置されているので、新たに頭部位置検出手段を設ける必要がなくコスト増を抑制できる。
また、本発明の一形態において、第1車載装置は、前記乗員が脇見しているか否か、又は、乗員の眠気が強いか否かを判定する、ことを特徴とする。
本発明によれば、適切な顔位置の顔画像を撮影して脇見又は居眠りを検知して、警告、車両制動、操舵制御等、適切な車両制御を実現できる。
乗員の頭部を撮影範囲に含むようカメラの状態を調整するか又は乗員の頭部を撮影範囲に誘導する乗員画像撮像装置及び運転支援装置を提供することができる。
以下、本発明を実施するための最良の形態について、図面を参照しながら説明する。
図1(a)は本実施例のカメラアッシー11の搭載構造の概略側面図を、図1(b)は本実施例の乗員撮像装置100の処理の概略をそれぞれ示す。乗員撮像装置100は運転者の頭部の位置(以下、単に顔位置という)を撮影範囲に含むようカメラ25を搭載したカメラアッシー11の位置を調整させ、また、撮影範囲に含まれるよう運転者の顔位置を誘導する。
本実施例の乗員撮像装置100は、予め顔位置とチルト角度及びテレスコピック位置(以下、チルト角度及びテレスコピック位置を区別しない場合、単にチルテレ位置という)の適切な関係をマップ19に関連づけておく。そして、顔位置検出部24により顔位置を、チルテレ位置検出部16によりチルテレ位置をそれぞれ検出し、マップ19との比較結果をマルチインフォメーションディスプレイ12(以下、MID12という)、ヘッドアップディスプレイ、ナビ画面等に表示する。比較結果は、例えば調整を促す表示と適切な顔位置とのずれ量である。運転者は通知によりカメラ25又は自分の顔位置をどの方向にどのくらい移動すればよいかを知ることができるので、カメラ25の撮影範囲に顔位置が含まれるようにすることができる。
本実施例の乗員撮像装置100は制御部18により制御される。制御部18と顔位置検出部24、チルテレ置検出部16及びMID12とはCAN(Controller Area Network)及び/又はLIN(Local Interconnect Network)等の車内LANにより接続されている。制御部18は、CPU、RAM、ROM及び入出力部を備えたコンピュータであり、顔画像を画像処理する画像処理ECU(Electronic Control Unit)により実現してもよいし、また例えばMID12を制御するメータECU、チルテレ位置を制御するチルテレECU17、又は、シート40の前後位置等を制御するパワーシートECU15等により兼用してもよい。制御部18はカメラアッシー11を制御して撮影された画像から顔向きや眼の開閉を検出する。
・カメラアッシー11
カメラアッシー11について説明する。カメラアッシー11は運転者の顔を撮影しやすい位置、例えばステアリングコラムのアッパーカバーの上側に配置される。カメラアッシー11の撮影範囲と運転者の顔位置の相対的な関係が適切であればよいので、ロワーカバーの下側やメータパネル内などカメラアッシー11の配置位置はどこであってもよい。
図2(a)は運転席から視認されるカメラ搭載構造を、図2(b)はカメラアッシー11の正面図をそれぞれ示す図である。カメラ25は、ステアリングホイール14の円周部とスポークとに囲まれた扇状の開口部14aを通して、運転者の顔が存在する方向(車両後方かつ斜め上方)に光軸を向けて配置される。カメラ25は所定の画角を備え、車両運転者の顔の全体をほぼ正面から撮影する。
カメラアッシー11は、ケース内にカメラ25及び赤外線投光器26を収納している。カメラ25は、カメラアッシー11の中央に1台搭載されており、ステアリングホイール14の中心を通る鉛直軸線上に位置している。カメラ25はCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等で構成され、赤外線投光器26が照射する赤外光(ピーク波長約870nm付近)に感度を有しており、入射した光を電気に変換する。
また、赤外線投光器26は、カメラアッシー11においてカメラ25の左右両側に同数ずつ(図では3個ずつ)配置されている。各赤線外投光器は、運転者の顔部へ向けて近赤外光を投光するLEDランプであり、夜間における運転者の顔の撮影を可能としている。なお、制御部18はカメラ25の自動的に適切な焦点位置を決定するオートフォーカス機能及び被写体を拡大縮小するズーム機能を有している。
顔画像による顔向き検知及び眼の閉眼検知について簡単に説明する。カメラ25及び赤外線投光器26は制御部18により制御され、制御部18は、例えば赤外線投光器26を毎秒60回発光させて、運転者の顔に向けて近赤外光を照射し、カメラ25は近赤外光で照射された運転者の顔画像を毎秒30フレーム(=60フィールド)で撮影し制御部18に送出する。
制御部18は、カメラ25から供給される顔画像からエッジ情報を抽出し、エッジ強度と閾値と比較することで顔画像を2値化したエッジ画像を生成する。そして、このエッジ画像のエッジ点を垂直下方向に投影するヒストグラムを作成し、ヒストグラムがピークを示す顔の両端を検出する。
また、制御部18はエッジ点の数が左右に均等となるように顔の中心線を検出し、中心線から両端部までの左右の顔の比率から顔向き角度を算出する。顔向き角度は、運転者が直線走行時にその走行レーンに沿って車両進行方向に真正面に顔を向けたときを0°とし、例えば右向きが正である。
また、制御部18は顔画像から比較的検出しやすい鼻孔位置を検出し、鼻孔位置と眼の位置の相対関係の統計情報を用いて鼻孔位置から眼球追跡領域を設定し、顔画像毎に眼の開閉をカウントし、閉眼が所定時間以上継続した場合には、運転者が居眠りしていることや眠気が強いことを検出する。
車両の運転支援装置は、検出した顔向き角度や眠気に応じて警報を行い、又は、自車両の前方に存在する障害物との衝突前に警報を開始するうえで、警報開始タイミングを変更する(早出しする)処理を行う。
・顔位置検出部24
顔位置検出部24について説明する。顔位置検出部24はシート40の状態と静電容量センサ13から車室内の3次元空間における運転者の顔位置を検出する。運転者のおおよその顔位置はシート40の前後位置、シート高、リクライニング角度及びヘッドレスト高さ(以下、これらを総称してドライビングポジションといい、具体的な値をドライビングポジション情報という)から求められる。しかしながら、ドライビングポジションが同じであっても運転者の体格や姿勢によって顔位置が変動するので、ヘッドレスト41に対する運転者の頭部中心の相対位置(以下、ヘッドレスト相対位置という)を検出することで、顔位置を精度よく検出する。
本実施例では、ドライビングポジション情報をパワーシートECU15により検出し、ヘッドレスト相対位置を静電容量センサ13により検出する。
図3はチルテレ位置を調整させ又は顔位置を適正な位置に誘導するまでの概略を説明する図であり、図4は本実施例のシート40とカメラアッシー11との位置関係を示す図である。パワーシートECU15は、シート40の前後位置P、シート高d、リクライニング角度θ、ヘッドレスト伸長hをそれぞれ独立に調整するアクチュエータを各部位に備える。パワーシートECU15は、前後位置センサ31、シート高センサ32、リクライニング角度センサ33及びヘッドレスト伸長センサ34から各アクチュエータの駆動量又は操作量を検出し、シート40の前後位置P、シート高d、リクライニング角度θ、ヘッドレスト伸長hを検出する。したがって、ドライビングポジション情報については既知である。
なお、図4では、カメラアッシー11の後端(運転者側)を基準にシート40の座面43の後端までの距離をシート前後位置Pとし、シートバック42の長さをシートバック長bとした。
顔位置決定部21は、パワーシートECU15からドライビングポジション情報を取得し、カメラアッシー11からヘッドレスト41までの水平距離L及び床面からヘッドレスト41の下端位置までのヘッドレスト高さKを決定する。水平距離Lは、シート前後位置Pに、座面43の後端からヘッドレスト41までの水平距離sを加えた値となる。座面43がほぼ床面に平行でリクライニング角度θが90度以上であるとすると、座面43の後端からヘッドレスト41までの水平距離sはシートバック長bから次のように求められる。
s=b×sin(θ−π/2)
したがって、顔位置決定部21は、次式から水平距離Lを求める。
水平距離L=P+s
=P+b×sin(θ−π/2)
また、シートバック長b及びリクライニング角度θからシートバック42による高さはb・cos(θ−π/2)となる。したがって、ヘッドレスト高さKは、次式から算出できる。
ヘッドレスト高さK = シート高d + b・cos(θ−π/2)+h
水平距離L及びヘッドレスト高さKによりヘッドレスト41の位置が明らかとなるので、これに静電容量センサ13により検出されるヘッドレスト相対位置を考慮することで車室内における運転者の顔位置を決定することができる。
図5(a)は、ヘッドレスト41に内設された静電容量センサ13の一形態を示す図である。静電容量センサ13は運転者の頭部との相対距離を検出できるセンサであればよく例えば超音波センサでもよい。静電容量センサ13はいわゆるアクティブヘッドレストを備えたシート40では標準装備されているので、ここではアクティブヘッドレストを例に静電容量センサ13について説明する。
ヘッドレスト41は、車両前方側の可動部41aと後方側の固定部41bとにより構成されていて、ヘッドレスト41の内部に可動部41aの駆動機構44を備える。駆動機構44が駆動することにより、可動部41aを固定部41bに対して車両の前後方向へ往復移動させ、乗員の頭部とヘッドレスト41との間の相対距離を制御する。
静電容量センサ13は可撓性を有する薄板状の形状を有しヘッドレスト41の表皮内側に沿って例えば矩形状に配設されている。静電容量センサ13は乗員の頭部との相対距離を非接触状態で検知する。静電容量センサ13の検出信号はヘッドレストECUに送出され、ヘッドレストECUは相対距離と検出信号の関係を定めた検出マップを参照して相対距離を検出する。
例えば、自車両の後方に備えたミリ波レーダ装置により、自車両の後方から他車両が異常接近することが検出されると、ヘッドレストECUは静電容量センサ13により乗員の頭部との相対距離を測定しながら駆動機構44を駆動して可動部41aを頭部との相対距離を減少させる方向に移動させ、頭部の直前で停止するように可動部41aを制御する。ヘッドレスト41と頭部との相対距離が短縮されるので、後方衝突時における乗員の頸部にかかる負担を和らげることができる。本実施例では自車両後方から他車両が接近していない場合であっても、静電容量センサ13によりヘッドレスト相対位置を検出する。
また、単に運転者の頭部とヘッドレスト41までの相対距離Qだけでなく、静電容量センサ13は運転者の頭部の高さ位置及び車幅方向の位置を検出する。
図5(b)は静電容量センサ13の平面図の一例を示す。静電容量センサ13が例えばヘッドレスト41の複数点(図では5点)の位置で静電容量を検出すれば、位置毎の静電容量の強弱から運転者の頭部の中心Rを検出することができる。図5(b)では、原点Gをヘッドレスト41の下端であって車幅方向中心に取り、車幅方向の頭部の中心をR1、車高方向の頭部の中心をR2とした。相対距離Q及び、頭部位置R1、R2がヘッドレスト相対位置となり、静電容量センサ13はヘッドレスト相対位置を制御部18の顔位置決定部21に送出する。
ヘッドレスト41の水平距離L及びヘッドレスト高さK並びにヘッドレスト相対位置に基づき、顔位置を3次元上で特定することができる。
カメラアッシー11の後端から運転者の顔位置までの車両前後方向の距離をx、床面から運転者の顔位置までの車高方向の距離をz、ステアリングホイール14中心から運転者の顔位置までの車幅方向の距離をyとした場合、次のように表すことができる。
x = 水平距離L−相対距離Q
y = R1
z = ヘッドレスト高さK + R2
・チルテレ位置検出部16
チルテレ位置の検出について説明する。カメラアッシー11はステアリングコラム50に配置されているのでステアリングコラム50のチルテレ位置に応じて撮影範囲が変動する。図6は、チルテレ構造を備えたステアリングコラム50の概略図を示す。なお図6ではアクチュエータでチルテレ位置を制御するがマニュアルでチルテレ位置を決定してもよい。
ステアリングホイール14から延びたステアリングシャフト51は、アッパコラム52,ミドルコラム53及びロアコラム54により回転可能に支持されている。アッパコラム52は、ミドルコラム53の後端に形成されたフォーク部55にチルトヒンジピン55aを介してチルト可能に取り付けられていて、アッパコラム52を、チルトヒンジピン55aを支点として適宜揺動させることにより、ステアリングホイール14のチルト角度αを調節することができる。
ミドルコラム53はロアコラム54に内挿され、アッパコラム52と共に軸線方向に摺動可能になっている。したがって、車体側に固定されたロアコラム54に対してミドルコラム53を摺動させることにより、ステアリングホイール14のテレスコピック位置βを調節することができる。
ステアリングホイール14のチルト位置は、電動チルトアクチュエータ56によって調節される。電動チルトアクチュエータ56の電動モータ57が回転すると電動チルトアクチュエータ56が伸縮して、チルトヒンジピン61を支点としてアッパコラム52を揺動する。
ステアリングホイール14のテレスコピック位置は、電動テレスコピックアクチュエータ58によって調節される。電動テレスコピックアクチュエータ58の電動モータ59が回転すると、電動テレスコピックアクチュエータ58が伸縮してロアコラム54と接続部であるピン62を支点にミドルコラム53がロアコラム54に対し摺動する。
チルト角度やテレスコピック位置は非接触のロータリエンコーダ、リニアエンコーダ又は抵抗センサにより構成されるチルト角センサ35とテレスコピック位置センサ36によりそれぞれ検出される。チルト角度α及びテレスコピック位置βは顔位置(x、y、z)と共に比較部22に送出される。
・比較部22
比較部22によるマップ19とチルテレ位置(α、β)及び顔位置(x、y、z)との比較について説明する。図7は、マップ19の一例を示す図である。マップ19にはチルト角度αとテレスコピック位置βに対応づけて予め設定された顔画像の撮影に好適な顔位置(xi、yi、zi)が対応づけられている。マップ19の関係は、ステアリングホイール14に隠れることなく運転者がメータを視認できる顔位置とチルテレ位置の関係を示すものである。
顔位置決定部21が決定した顔位置(x、y、z)に基づきマップ19を参照すると、その顔位置に対し適正なチルテレ位置を抽出することができる。したがって、適正なチルテレ位置(αi、βi)とチルテレECU17が検出したチルテレ位置(α、β)との差分が調整量となる。
チルト角度 :α−αi
テレスコピック位置:β−βi
また、チルテレ位置でなく顔位置を移動させてもよい。チルテレECU17が検出したチルテレ位置(α、β)に基づきマップ19を参照すると好適な顔位置(xi、yi、zi)を抽出することができ、これと顔位置決定部21が決定した顔位置(x、y、z)とを比較すれば、運転者の顔位置が顔画像の撮影に適正な顔位置(xi、yi、zi)にあるか否か、及び、適正な顔位置(xi、yi、zi)に誘導するための誘導量を算出することができる。
例えば、適正な顔位置が(xi、yi、zi)の場合に顔位置決定部21が決定した顔位置が(x、y、z)の場合、誘導量は次のようになる。
車両前後方向:xi−x
車幅方向 :yi−y
車高方向 :zi−z
調整量と誘導量のいずれを通知してもよいが、走行状況に応じて2つを切り換えることが好適となる。例えば、車両やカメラアッシー11の購入時、その日の車両の乗車時等、運転者が適正なドライビングポジションを取っていると考えられる状況では、チルテレ位置を適正に設定することが好ましい。また、いったんチルテレ位置を適正に設定した後であれば、走行中に徐々に姿勢がくずれ顔位置が適正でなくなったとして、信号待ちなどの場合に顔位置の移動量を通知することができる。比較部22はこれら算出した調整量又は誘導量を通知部23に送出する。
なお、カメラ25がズーム機能を有効にした場合、カメラ25の撮影範囲が変動するので、マップ19はズーム倍率に応じて記憶しておくか又はズーム倍率に応じて補正される。
・通知部23
通知部23は調整量を含む調整情報又は誘導量を含む誘導情報をMID12又はナビ画面に表示し、また、調整情報又は誘導情報を音声にて出力する。調整情報を通知する場合、通知部23は調整量の正負からチルト角を大小いずれに調整するか及びテレスコピック位置を前後のいずれに調整するかを判定し、調整方向と調整量の絶対値を調整情報として通知する。また、誘導情報を通知する場合、通知部23は誘導量の正負から運転者の顔位置を前後のいずれに移動すべきか、左右のいずれに移動すべきか及び上下のいずれに移動すべきかを判定し、誘導方向と誘導量の絶対値を誘導情報として通知する。
図8(a)はMID12に表示された調整情報を、図8(b)はMID12に表示された誘導情報の一例をそれぞれ示す。図8(a)では「チルト角を5度下げてください」と表示されている。また、図8(b)では「右方向に5cm、上方向に4cm、顔を移動してください。」と表示されている。
運転者は図8(a)又は(b)のような表示を見てチルテレ位置を調整し、また、顔位置を移動させるので、カメラアッシー11により顔画像を適正に撮影することができる。なお、シート40の前後位置等で定まるドライビングポジションに適正に着座すれば、チルテレ位置に対し自然と適正な顔位置になり、ステアリングホイール14やカメラアッシー11に遮られることなくメータを視認することができる。
また、例えばカメラ25により撮影された顔画像を用いてチルテレ位置を調整したり顔位置を誘導してもよい。図8(c)はナビ画面に表示された顔画像の一例を示す。ナビ画面にはカメラ25が撮影した顔画像が表示されるが、適正な顔位置からはずれたものとなる。これに対し通知部23は例えば顔画像の中心に適正な顔位置を示す楕円を表示すると共に、例えば音声で「顔が楕円に入るようチルテレ位置を調整してください」や「楕円に一致するよう顔を移動させてください」と出力する。運転者は、例えば顔画像を見ながら楕円に一致するようにチルテレ位置を調整することができ、さらに顔位置を移動させて楕円と顔位置を一致させることができる。
なお、図6のようにチルテレ位置をアクチュエータで制御する場合、運転者が操作しなくても調整方向と調整量に応じて、自動的にチルテレ位置を調整することができる。
図9は、乗員撮像装置100がチルテレ位置を調整させ、また、運転者の顔位置を適正な位置に誘導する手順のフローチャート図である。図9のフローチャート図は例えばカメラアッシー11を制御する制御部18が起動した状態で所定のサイクル時間毎に繰り返される。なお、チルテレ位置を調整したり顔位置を移動させる場合、車両が停止している必要があるので図9の手順はイグニッションオンから走行開始前や信号停止中などに実行される。
まず、制御部18は顔位置が適正か否かを判定する(S10)。制御部18はカメラ25が撮影した顔画像から顔向きや眼の開閉を検出するが、顔位置が適正でない場合には顔向き等を検出できないことから顔位置が適切でないと判定する。
顔位置が適正でないと判定された場合(S10のNo)、顔位置決定部21は、静電容量センサ13の検出するヘッドレスト41までの相対距離Q、頭部位置R1、R2及びパワーシートECU15が取得したシート40の前後位置P、シート高d、リクライニング角度θ、ヘッドレスト伸長hから顔位置(x、y、z)を決定する(S20)。
ついで、比較部22はチルテレECU17からチルテレ位置(α、β)を検出し(S30)、通知部23はチルテレ位置(α、β)と顔位置(x、y、z)からマップ19を参照し調整情報又は誘導情報を生成してMID12に表示する(S40)。
本実施例によれば、撮影範囲に運転者の顔位置が含まれるようチルテレ位置を調整させることができ、また、運転者の顔位置を撮影に適正な位置に誘導することができる。これにより様々な運転姿勢の運転者の顔画像から顔向き等を検出することができるので、脇見や居眠りを検知して適切な車両制御が可能となる。また、顔位置が適正になると、ステアリングホイール14に遮られずに運転者はメータを視認できるので、メータの視認性を向上させることもできる。
なお、運転者の顔画像の撮影を例に説明したが、運転席に搭乗した運転者だけでなく、他の乗員に対しても同様に適用できる。例えば、助手席の乗員の顔向きを検知する場合、助手席の乗員の顔位置が撮影範囲に含まれるようドライビングポジションを調整させ、顔位置を撮影に適正な位置に誘導することができる。顔向きが検知できれば、助手席の乗員にはナビ画面の操作のため脇見を許容することができる。
本実施例では実施例1の乗員撮像装置100を用いた運転支援装置について説明する。図10は、乗員撮像装置100のブロック図を示す。カメラアッシー11及び制御部18については実施例1で説明した。制御部18は、例えば、脇見が所定時間以上継続した場合又は居眠りが検知された場合に、メイン制御ECU74に警報音の吹鳴を要求する。
前方カメラ72は車両前部バンパや室内ルームミラーに搭載され、車両前方へ向けて水平下向きに所定角範囲で広がる領域を撮影し、所定の輝度階調(例えば、256階調)のデジタル画像(前方画像)を撮影し前方カメラECU71に出力する。前方カメラECU71は、前方カメラ72が撮影した前方画像を処理して車両前方の白線情報を生成する。例えば、所定の閾値以上の輝度を有する領域を前方画像の底部から上方に向けて探索するようにして、その前方画像に映し出されている道路上に描かれた走行レーンを区切る車線区分線(以下、単に白線という)を検出する。1本の白線は両端に高周波成分たるエッジを有するので、車両前方の画像データの輝度値を水平方向に微分すると、白線の両端にピークが得られエッジ線が推定できる。そして、推定した複数のエッジ線が一対となる複数組の白線候補線を抽出し、複数組の白線候補線のなかから、エッジ閾値や白線幅等の条件を満たす白線と認められる1本又は複数の白線を選定する。
左右の白線がそれぞれ1本ずつに定まったら、その白線をそれぞれモデル式に表現することで、左右の2本の白線の消失点(交点)の座標が算出でき、前方カメラ72の路面からの高さ及び路面に対する光軸のなす角と消失点の座標から白線情報(道路曲率、ヨー角Yaw、幅員W、目標走行線Oからのオフセット量D)を演算する。
メイン制御ECU74は、白線情報を取得し目標走行線からのオフセット量Dがゼロになるように、目標操舵力を決定しステアリングECU76に送出する。ステアリングECU76は目標操舵力に従い電動パワステアクチュエータを制御し、減速歯車などを介してステアリングコラム50に操舵力を付加する(LKA(Lane Keeping Assist)制御)。また、白線情報や車速から例えば数秒後に白線を逸脱すると予測した場合には、メイン制御ECU74は警報音の吹鳴を要求する。
メイン制御ECU74にはミリ波レーダ装置73が接続されている。ミリ波レーダ装置73は、車両の例えばフロントグリル内に設置され車両前方及び後方に向けてミリ波を送信すると共に先行車両に反射したミリ波を受信する装置で、発信したミリ波が受信されるまでの時間に基づき障害物との相対距離を、送信波と受信波の周波数との差に基づき相対速度を検出する。
そして、メイン制御ECU74は、障害物との衝突の可能性が高くなると、警報音の吹鳴や警告ランプの点灯により運転者に警告し、ブレーキECU78に比較的小さな減速度となる制動を加えるよう要求する。そしてさらに衝突の可能性が増し衝突が不可避になるとシートベルト制御ECU77に運転席のシートベルトや後席シートベルトの巻き上げを要求し、また、ブレーキECU78に車両を緊急制動するよう要求して衝撃から乗員を保護する。
また、車両の停車中等に自車両の後方から他車両が異常接近する場合、実施例1で説明したようにメイン制御ECU74は、ヘッドレスト41を、頭部との相対距離を減少させる方向に移動させるようヘッドレストECUに要求する(プリクラッシュ制御)。
以上のような乗員撮像装置100において、制御部18が運転者の顔画像から脇見又は居眠りを検知した場合、メイン制御ECU74は以下のようにそれぞれの運転支援を早期に実行する。
・LKA制御
脇見又は居眠りが検知された場合、メイン制御ECU74は障害物との関係においてより早い段階から警報音を吹鳴し、また、減速するようブレーキECU78に要求する。なお、必ずしも警報音を吹鳴しなくてもよい。また、脇見又は居眠が検知された場合、目標走行線に沿って白線内を走行するようステアリングECU76に要求することで、例えば運転者が誤ってステアリングホイール14を操作してもLKA制御を優先でき、運転者が脇見又は居眠りしていても他車線の他車両と衝突することを確実に防止できる。
・プリクラッシュ制御
脇見又は居眠りが検知された場合、メイン制御ECU74は障害物との関係においてより早い段階から警報音を吹鳴し、また、減速するようブレーキECU78に要求する。なお、必ずしも警報音を吹鳴しなくてもよい。また、メイン制御ECU74はより早い段階でヘッドレスト41を頭部との相対距離を減少させる方向に移動させるようヘッドレストECU75に要求する。脇見又は居眠りにより例えば運転者が不注意状態であっても、早期に警報音が吹鳴されるのでより早期に注意を喚起することができる。
本実施例の運転支援装置は、実施例1の乗員撮像装置100を用いて顔画像を撮影しているので、チルテレ位置を顔位置の撮影に適切な位置に調整でき、また、顔位置を撮影範囲に適正な位置に誘導できるので、脇見又は居眠りを精度よく検出できる。
カメラアッシーの搭載構造の概略側面図である。 カメラ搭載構造の一例を示す図である。 顔位置決定部が顔位置を決定する概略を説明する図である。 シートとカメラアッシーとの位置関係を示す図である。 ヘッドレストに内設された静電容量センサの一形態を示す図である。 チルテレ構造を備えたステアリングコラムの概略図である。 マップの一例を示す図である。 マルチインフォメーションディスプレイに表示された誘導情報の一例を示す図である。 乗員撮像装置が運転者の顔位置を適正な位置に誘導する手順のフローチャート図である。 乗員撮像装置のブロック図の一例である。
符号の説明
11 カメラアッシー
12 マルチインフォメーションディスプレイ
13 静電容量センサ
14 ステアリングホイール
16 チルテレ位置検出部
18 制御部
19 マップ
21 顔位置決定部
22 比較部
23 通知部
24 顔位置検出部
25 カメラ
56 電動チルトアクチュエータ
58 電動テレスコピックアクチュエータ
100 乗員撮像装置

Claims (9)

  1. 車両に搭乗している乗員の顔画像を撮像する画像センサと、
    前記画像センサによる撮像方向、ズーム倍率又は焦点位置の少なくともいずれかの画像センサ状態を調整する撮像調整手段と、
    座席に対する前記乗員の頭部位置を検出する頭部位置検出手段と、
    前記撮像調整手段により調整された前記画像センサ状態と前記頭部位置の各情報に基づき、前記撮像調整手段による前記画像センサ状態の調整を促進する促進手段と、
    を有することを特徴とする乗員画像撮像装置。
  2. 前記画像センサが設置されたステアリングコラムのチルト角度又はテレスコピック位置により前記画像センサ状態が調整される、
    ことを特徴とする請求項1記載の乗員画像撮像装置。
  3. 前記頭部位置検出手段は静電容量センサを有する、ことを特徴とする請求項1又は2記載の乗員画像撮像装置。
  4. 前記静電容量センサは前記座席のヘッドレストに設けられている、ことを特徴とする請求項3記載の乗員画像撮像装置。
  5. 前記促進手段は、前記画像センサ状態の調整量又は顔位置の誘導量を前記乗員に通知する、
    ことを特徴とする請求項1〜3いずれか記載の乗員画像撮像装置。
  6. 前記促進手段は、顔画像及び顔位置の適正位置を表示装置に表示する、
    ことを特徴とする請求項5記載の乗員画像撮像装置。
  7. 請求項1〜6いずれか1項記載の乗員画像撮像装置と、
    前記画像センサが撮像した前記顔画像に基づき動作する第1車載装置と、
    前記頭部位置に基づき動作する第2車載装置と、
    を有することを特徴とする運転支援装置。
  8. 前記第2車載装置は、障害物の接近に応じて、ヘッドレストを頭部との距離を減少させる方向に移動させるヘッドレスト可動手段である、
    ことを特徴とする請求項7記載の運転支援装置。
  9. 前記第1車載装置は、
    前記顔画像に基づき前記乗員が脇見しているか否か、又は、前記乗員の眠気が強いか否かを判定する、
    ことを特徴とする請求項7記載の運転支援装置。



JP2007288393A 2007-11-06 2007-11-06 乗員画像撮像装置、運転支援装置 Pending JP2009113621A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007288393A JP2009113621A (ja) 2007-11-06 2007-11-06 乗員画像撮像装置、運転支援装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007288393A JP2009113621A (ja) 2007-11-06 2007-11-06 乗員画像撮像装置、運転支援装置

Publications (1)

Publication Number Publication Date
JP2009113621A true JP2009113621A (ja) 2009-05-28

Family

ID=40781255

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007288393A Pending JP2009113621A (ja) 2007-11-06 2007-11-06 乗員画像撮像装置、運転支援装置

Country Status (1)

Country Link
JP (1) JP2009113621A (ja)

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014031140A (ja) * 2012-08-06 2014-02-20 Alpine Electronics Inc 表示装置
WO2014068892A1 (ja) * 2012-11-05 2014-05-08 株式会社デンソー 乗員監視装置
JP2014167438A (ja) * 2013-02-28 2014-09-11 Denso Corp 情報通知装置
WO2014188704A1 (ja) * 2013-05-21 2014-11-27 株式会社デンソー ドライバステータスモニタ
KR101519748B1 (ko) * 2013-12-10 2015-05-12 현대자동차주식회사 운전자 부주의 판단 방법 및 이를 위한 판단 장치
KR101571594B1 (ko) * 2013-07-04 2015-12-04 현대다이모스(주) 차량 사이드미러의 각도 조정장치 및 그 방법
JP2017188764A (ja) * 2016-04-05 2017-10-12 東芝アルパイン・オートモティブテクノロジー株式会社 車室内用カメラの設置支援方法および車室内用カメラ
US10019638B2 (en) 2013-12-18 2018-07-10 Denso Corporation Face image capturing device and driver condition determination device
JP2018163561A (ja) * 2017-03-27 2018-10-18 日産自動車株式会社 ドライバモニタ方法及びドライバモニタ装置
WO2019009125A1 (ja) * 2017-07-06 2019-01-10 マツダ株式会社 乗員撮影装置
JP2019014360A (ja) * 2017-07-06 2019-01-31 マツダ株式会社 乗員撮影装置
JP2019014359A (ja) * 2017-07-06 2019-01-31 マツダ株式会社 ドライバ撮影装置
KR101947830B1 (ko) 2012-06-08 2019-02-13 현대자동차주식회사 졸음운전 감지시스템 및 방법
JP2019023003A (ja) * 2017-07-21 2019-02-14 株式会社デンソー 撮像装置及び車両用表示装置
JP2019061329A (ja) * 2017-09-25 2019-04-18 矢崎総業株式会社 監視システム
US10717399B2 (en) 2018-09-05 2020-07-21 Yazaki Corporation Wire harness
DE102021107337A1 (de) 2020-04-02 2021-10-07 Suzuki Motor Corporation Fahrzeuginnenraum-bildgebungsvorrichtung
EP3885206A4 (en) * 2019-05-15 2022-03-23 Guangzhou Xiaopeng Autopilot Technology Co., Ltd. FACIAL CONNECTION ADJUSTMENT GUIDE METHOD, VEHICLE MOUNTED SYSTEM AND VEHICLE
JPWO2022176037A1 (ja) * 2021-02-17 2022-08-25
WO2022264264A1 (ja) * 2021-06-15 2022-12-22 日産自動車株式会社 画像処理装置及び画像処理方法
CN116039583A (zh) * 2022-09-08 2023-05-02 重庆长安汽车股份有限公司 车辆的制动方法、装置、车辆和存储介质

Cited By (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101947830B1 (ko) 2012-06-08 2019-02-13 현대자동차주식회사 졸음운전 감지시스템 및 방법
JP2014031140A (ja) * 2012-08-06 2014-02-20 Alpine Electronics Inc 表示装置
WO2014068892A1 (ja) * 2012-11-05 2014-05-08 株式会社デンソー 乗員監視装置
JP2014167438A (ja) * 2013-02-28 2014-09-11 Denso Corp 情報通知装置
WO2014188704A1 (ja) * 2013-05-21 2014-11-27 株式会社デンソー ドライバステータスモニタ
KR101571594B1 (ko) * 2013-07-04 2015-12-04 현대다이모스(주) 차량 사이드미러의 각도 조정장치 및 그 방법
KR101519748B1 (ko) * 2013-12-10 2015-05-12 현대자동차주식회사 운전자 부주의 판단 방법 및 이를 위한 판단 장치
US10019638B2 (en) 2013-12-18 2018-07-10 Denso Corporation Face image capturing device and driver condition determination device
JP2017188764A (ja) * 2016-04-05 2017-10-12 東芝アルパイン・オートモティブテクノロジー株式会社 車室内用カメラの設置支援方法および車室内用カメラ
JP2018163561A (ja) * 2017-03-27 2018-10-18 日産自動車株式会社 ドライバモニタ方法及びドライバモニタ装置
JP2019014360A (ja) * 2017-07-06 2019-01-31 マツダ株式会社 乗員撮影装置
JP2019014359A (ja) * 2017-07-06 2019-01-31 マツダ株式会社 ドライバ撮影装置
WO2019009125A1 (ja) * 2017-07-06 2019-01-10 マツダ株式会社 乗員撮影装置
JP2019023003A (ja) * 2017-07-21 2019-02-14 株式会社デンソー 撮像装置及び車両用表示装置
JP2019061329A (ja) * 2017-09-25 2019-04-18 矢崎総業株式会社 監視システム
US10949688B2 (en) 2017-09-25 2021-03-16 Yazaki Corporation Monitoring system for person in a vehicle
US10717399B2 (en) 2018-09-05 2020-07-21 Yazaki Corporation Wire harness
EP3885206A4 (en) * 2019-05-15 2022-03-23 Guangzhou Xiaopeng Autopilot Technology Co., Ltd. FACIAL CONNECTION ADJUSTMENT GUIDE METHOD, VEHICLE MOUNTED SYSTEM AND VEHICLE
DE102021107337A1 (de) 2020-04-02 2021-10-07 Suzuki Motor Corporation Fahrzeuginnenraum-bildgebungsvorrichtung
JPWO2022176037A1 (ja) * 2021-02-17 2022-08-25
WO2022176037A1 (ja) * 2021-02-17 2022-08-25 三菱電機株式会社 調整装置、調整システム、表示装置、乗員監視装置、および、調整方法
JP7258262B2 (ja) 2021-02-17 2023-04-14 三菱電機株式会社 調整装置、調整システム、表示装置、乗員監視装置、および、調整方法
WO2022264264A1 (ja) * 2021-06-15 2022-12-22 日産自動車株式会社 画像処理装置及び画像処理方法
WO2022264453A1 (ja) * 2021-06-15 2022-12-22 日産自動車株式会社 画像処理装置及び画像処理方法
CN116039583A (zh) * 2022-09-08 2023-05-02 重庆长安汽车股份有限公司 车辆的制动方法、装置、车辆和存储介质

Similar Documents

Publication Publication Date Title
JP2009113621A (ja) 乗員画像撮像装置、運転支援装置
CN108621923B (zh) 车辆的显示系统及车辆的显示系统的控制方法
JP6361986B2 (ja) 車両用表示装置
JP5863607B2 (ja) 歩行者警告装置
JP6252365B2 (ja) 安全確認支援システム、安全確認支援方法
WO2010029707A2 (ja) 画像照射システム及び画像照射方法
US20120002028A1 (en) Face image pick-up apparatus for vehicle
JP2010128000A (ja) 車両用表示装置
CN111699680B (zh) 行车记录仪、显示控制方法以及存储介质
JP3228086B2 (ja) 運転操作補助装置
JP2006327527A (ja) 車両の走行安全装置
JP5600256B2 (ja) 情報表示装置
JP2008094221A (ja) 目状態検出装置および目状態検出装置の取り付け方法
JP6453929B2 (ja) 車両の表示システム及び車両の表示システムの制御方法
JP2010130647A (ja) 車両周辺確認装置
EP2447759A2 (en) Real-time warning system for vehicle windshield and performing method thereof
JP2010143411A (ja) ヘッドアップディスプレイ装置
JP2006044596A (ja) 車両用表示装置
JP2020157938A (ja) 車載監視制御装置
JP2007280352A (ja) 視線方向判定装置
JP2007124097A (ja) 車両周辺視認装置
KR101091288B1 (ko) 자동차용 디스플레이 장치 및 방법
JP6811743B2 (ja) 安全運転支援装置
JP2009073250A (ja) 車両後方表示装置
KR20130013711A (ko) 자동 미러 제어 장치 및 그 방법