JP7098092B2 - 後方画像表示制御装置および後方画像表示制御方法 - Google Patents

後方画像表示制御装置および後方画像表示制御方法 Download PDF

Info

Publication number
JP7098092B2
JP7098092B2 JP2022527177A JP2022527177A JP7098092B2 JP 7098092 B2 JP7098092 B2 JP 7098092B2 JP 2022527177 A JP2022527177 A JP 2022527177A JP 2022527177 A JP2022527177 A JP 2022527177A JP 7098092 B2 JP7098092 B2 JP 7098092B2
Authority
JP
Japan
Prior art keywords
rear image
image
driver
display control
control device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022527177A
Other languages
English (en)
Other versions
JPWO2021260909A1 (ja
Inventor
翼 森田
亮祐 大垣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2021260909A1 publication Critical patent/JPWO2021260909A1/ja
Application granted granted Critical
Publication of JP7098092B2 publication Critical patent/JP7098092B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • Signal Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Traffic Control Systems (AREA)

Description

本開示は、車両の後方を撮影した画像を表示装置に表示する後方画像表示制御装置に関するものである。
車両が後退する際に、車両の後方を撮影した画像(以下「後方画像」という)を表示装置に表示して運転者に提示する、いわゆるバックモニタシステムを備える車両が普及している。また、車両の後方画像に映った地物(駐車枠や車止めなど)の位置を示す画像(以下「地物位置画像」という)を後方画像に重畳表示して地物の位置を強調することで、運転者が地物の位置を認識しやすくする駐車支援装置が提案されている(例えば下記の特許文献1,2)。
特開2007-090939号公報 特開2008-284969号公報
従来の技術では、車両の運転者がシフト(ギア)をリバースに設定すると、後方画像に地物位置画像が常に重畳されて、表示装置に表示される。車両の後方にはヘッドライトのような明るい照明が無いため、夜間などには、後方画像に地物が鮮明に映らず、地物位置画像は運転者にとって有用である。しかし、後方画像に地物が鮮明に映っているときには、地物位置画像は後方画像の視認性を低下させる要因になり、運転者にとって不快なものとなることがある。運転者が不快に感じるような地物位置画像は表示されないことが好ましいが、地物位置画像を不快に感じるかどうかには個人差があり、地物位置画像を表示させるか否かの判断は、運転者の個人性を考慮する必要がある。
本開示は以上のような課題を解決するためになされたものであり、運転者の個人性を考慮して後方画像に地物位置画像を重畳表示させるか否かを切り替えることが可能な後方画像表示制御装置を提供することを目的とする。
本開示に係る後方画像表示制御装置は、車両の後方を撮影した画像である後方画像を取得する後方画像取得部と、後方画像の輝度を算出する輝度算出部と、後方画像から地物の画像を抽出し、後方画像における地物の位置を示す地物位置画像を生成する地物位置画像生成部と、後方画像の輝度が予め定められた輝度閾値未満のときは、地物位置画像を重畳させた後方画像である第1後方画像を表示装置に表示し、後方画像の輝度が輝度閾値以上のときは、地物位置画像を重畳させていない後方画像である第2後方画像を表示装置に表示する後方画像表示制御部と、車両の運転者を撮影した画像または運転者の生体情報の少なくとも片方を含む運転者情報を取得する運転者情報取得部と、運転者情報に基づいて、第1後方画像が表示されているときの運転者の心理的負荷量を算出する心理的負荷量算出部と、第1後方画像が表示されているときの運転者の心理的負荷量に応じて輝度閾値を調整する輝度閾値調整部と、を備える。
本開示に係る後方画像表示制御装置は、後方画像表示制御部が地物位置画像を表示するか否かの判断に用いられる輝度閾値を、運転者の心理的負荷量に応じて調整するため、地物位置画像を表示させるか否かを運転者の個人性を考慮して切り替えることができる。
本開示の目的、特徴、態様、および利点は、以下の詳細な説明と添付図面とによって、より明白となる。
実施の形態1に係る後方画像表示制御装置の構成を示すブロック図である。 後方画像の例を示す図である。 地物位置画像としてのエッジ画像の例を示す図である。 地物位置画像が重畳した後方画像の表示例を示す図である。 地物位置画像が重畳していない後方画像の表示例を示す図である。 地物位置画像および予想進路線が重畳した後方画像の表示例を示す図である。 地物位置画像が重畳せず、予想進路線が重畳した後方画像の表示例を示す図である。 実施の形態1に係る後方画像表示制御装置の動作を示すフローチャートである。 実施の形態2に係る後方画像表示制御装置の動作を示すフローチャートである。 後方画像表示制御装置のハードウェア構成例を示す図である。 後方画像表示制御装置のハードウェア構成例を示す図である。
<実施の形態1>
図1は、実施の形態1に係る後方画像表示制御装置10の構成を示すブロック図である。本実施の形態では、後方画像表示制御装置10が、車両に搭載されているものと仮定する。以下においては、特に断りの無い限り、「車両」は後方画像表示制御装置10を搭載した車両を意味している。
ただし、後方画像表示制御装置10は車両に常設される必要はなく、例えば、PND(Portable Navigation Device)、携帯電話、スマートフォンなど、車両に持ち込み可能な携帯型の機器上に構築されていてもよい。また、後方画像表示制御装置10の機能の一部または全部が、後方画像表示制御装置10に接続された外部装置(例えば、図1に示す後方カメラ21、車内カメラ23、表示装置25など)のECU(Electronic Control Unit)上、あるいは、車両の外部に設置され、車両との通信が可能なサーバー上に構築されてもよい。
後方画像表示制御装置10は、車両に備えられた後方カメラ21、シフト位置検出装置22、車内カメラ23、生体センサ24および表示装置25に接続されている。
後方カメラ21は、車両の後方の画像である後方画像を撮影するカメラである。シフト位置検出装置22は、車両のシフト(ギア)の位置を検出するセンサである。車内カメラ23は、車両の運転者を撮影するカメラである。生体センサ24は、運転者の呼吸、脈拍、血圧といった生体情報を検出するセンサである。表示装置25は、例えば液晶表示装置などであり、運転者が視認可能な位置(例えばセンターパネルやインストルメントパネルなど)に設置される。
図1のように、後方画像表示制御装置10は、後方画像取得部11、輝度算出部12、地物位置画像生成部13、後方画像表示制御部14、運転者情報取得部15、心理的負荷量算出部16および輝度閾値調整部17を備えている。
後方画像取得部11は、後方カメラ21が撮影した後方画像を取得する。本実施の形態では、後方画像取得部11は、車両が後退するとき、具体的には、シフト位置検出装置22により車両のシフト位置がリバースであることが検出されたときに、後方画像を取得するものとする。
輝度算出部12は、後方画像取得部11が取得した後方画像の輝度を算出する。後方画像の輝度の算出方法は任意の方法でよい。例えば、後方画像の2値化処理を行うことで、後方画像の各画素を、輝度値が0(黒)の画素と輝度値が1(白)の画素とに振り分け、後方画像に占める輝度値が1(白)の画素の割合を、後方画素の輝度値として算出する方法が考えられる。
地物位置画像生成部13は、後方画像取得部11が取得した後方画像を解析することで、後方画像から地物の画像を抽出し、後方画像における地物の位置を示す画像である地物位置画像を生成する。ここで、地物には、ガードレール、車止め、落下物など立体的なものだけでなく、路面標示、駐車枠、路面の汚れ、水たまりなど平面的なものも含まれる。さらに、車両が走行する道路も地物に含まれる。
地物位置画像生成部13が生成する地物位置画像は、地物の位置を表すことができる画像であればどのようなものでもよい。本実施の形態では、地物位置画像を、地物のエッジ画像とする。エッジ画像は、例えば、後方画像において水平方向または垂直方向に隣接する画素間の輝度変化が大きい部分を抽出することにより生成可能である。
なお、地物位置画像生成部13は、必ずしも後方画像に写る全ての地物の地物位置画像を生成しなくてもよく、重要度の高い地物の地物位置画像だけを生成してもよい。重要度の高い地物とは、車両の走行に影響するおそれがある地物(例えば障害物)、車両の進路を定める基準となる地物(例えば駐車枠や路面標示)など、運転者が車両を走行させるときに注意を払う必要がある地物である。通常、車両が道路を走行している限り、道路の外側の地物は車両の走行に影響しないため、重要度が低いと言える。そこで、本実施の形態では、地物位置画像生成部13は、後方画像に映る地物のうち、道路および当該道路上の地物の位置を表す地物位置画像(エッジ画像)を生成するものとする。
後方画像表示制御部14は、後方画像取得部11が取得した後方画像を表示装置25の画面に表示する。このとき、輝度算出部12により算出された当該後方画像の輝度が予め定められた閾値(この閾値を「輝度閾値」という)未満であれば、後方画像表示制御部14は、後方画像が暗い環境で撮影されたものであり、当該後方画像には地物が鮮明に映っていないと判断し、運転者が地物の位置を認識しやすくなるように、地物位置画像を後方画像に重畳表示して地物の位置を強調する。一方、後方画像の輝度が輝度閾値以上であれば、後方画像表示制御部14は、後方画像が明るい環境で撮影されたものであり、後方画像に地物が鮮明に映っていると判断し、地物位置画像の表示を省略して、運転者が地物位置画像を不快に感じることを防止する。つまり、後方画像表示制御部14は、後方画像の輝度が輝度閾値未満のときは、地物位置画像を重畳させた後方画像(第1後方画像)を表示装置に表示し、後方画像の輝度が輝度閾値以上のときは、地物位置画像を重畳させていない後方画像(第2後方画像)を表示装置に表示する。
運転者情報取得部15は、車内カメラ23が撮影した運転者の画像および生体センサ24が検出した運転者の生体情報の少なくとも片方を含む運転者情報を取得する。
心理的負荷量算出部16は、運転者情報取得部15が取得した運転者情報に基づいて、地物位置画像が後方画像に重畳表示されていたときの運転者の心理的負荷量を算出する。心理的負荷量の算出方法は任意の方法でよい。心理的負荷量は、例えば、運転者の画像を解析して得られる運転者の表情のこわばり具合、運転者の瞳孔径、運転者の視線など、あるいは、運転者の生体情報から分かる運転者の呼吸数、心拍数、血圧などに基づいて算出することができる。つまり、運転者の表情のこわばり具合が強くなったとき、運転者の瞳孔径が大きくなったとき(瞳孔が開いたとき)、運転者の視線が乱れたとき、あるいは、運転者の呼吸数、心拍数または血圧が上昇したときには、運転者が緊張状態あるいは不快な状態にあり、心理的負荷が大きいと判断できる。なお、運転者の表情のこわばり具合は、運転者の顔の画像に対し、こわばった表情のテンプレート画像とのパターンマッチングを行い、運転者の顔の画像とテンプレート画像との類似度を算出することによって、定量的に求めることができる。
なお、図1では、後方画像表示制御装置10に車内カメラ23および生体センサ24の両方が接続されているが、心理的負荷量算出部16が運転者の画像だけを用いる場合は、生体センサ24は省略されてもよく、逆に、心理的負荷量算出部16が運転者の生体情報だけを用いる場合は、車内カメラ23は省略されてもよい。
輝度閾値調整部17は、心理的負荷量算出部16が算出した運転者の心理的負荷量(すなわち、地物位置画像を重畳させた後方画像が表示されていたときの心理的負荷量)に応じて、後方画像表示制御部14が地物位置画像を表示するか否かを判断するために用いる上記の輝度閾値の大きさを調整する。具体的には、心理的負荷量算出部16が算出した心理的負荷量が予め定められた閾値(この閾値を「負荷閾値」という)以上であったときに、輝度閾値調整部17は、輝度閾値を上げる。調整後の輝度閾値は後方画像表示制御部14に記憶され、次回、後方画像表示制御部14が後方画像を表示する際に、地物位置画像を重畳させるかどうかの判断に用いられる。
なお、輝度閾値調整部17が輝度閾値を上げるときの上げ幅は固定値でもよいし、心理的負荷量の大きさに応じて変化させてもよい。輝度閾値の上げ幅を心理的負荷量の大きさに応じて変化させる場合、心理的負荷量が大きいときほど、輝度閾値の上げ幅を大きくするとよい。
次に、後方画像表示制御装置10の動作を後方画像の具体例を用いて説明する。ここでは、後方カメラ21により図2のような後方画像30が撮影されるものと仮定する。後方画像30には、道路上の地物として落下物および路面の汚れが映っており、道路外の地物として側溝および街路樹が映っている。
運転者が車両のシフト位置をリバースにすると、後方画像取得部11が後方カメラ21から後方画像30を取得する。そして、輝度算出部12が、後方画像30の輝度を算出する。
後方画像30の輝度が輝度閾値未満であれば、地物位置画像生成部13は、後方画像30から、道路および道路上の地物の位置を表す地物位置画像として、図3のように、道路のエッジ画像31、落下物のエッジ画像32および路面の汚れのエッジ画像33を生成する。そして、後方画像表示制御部14が、図4のように、後方画像30に地物位置画像(道路のエッジ画像31、落下物のエッジ画像32および路面の汚れのエッジ画像33)を重畳させて表示装置25に表示する。その間、運転者情報取得部15は、車内カメラ23または生体センサ24から運転者情報を取得する。
後方画像30の輝度が輝度閾値以上であったときは、後方画像表示制御部14は、図5のように、地物位置画像が重畳していない後方画像30を表示装置25に表示する。
その後、運転者が車両のシフト位置をリバース以外にすると、後方画像表示制御部14は、後方画像30の表示を終了させる。その際、心理的負荷量算出部16は、運転者情報取得部15が取得した運転者情報に基づいて、地物位置画像を重畳させた後方画像が表示されていたときの運転者の心理的負荷量を算出する。輝度閾値調整部17は、心理的負荷量算出部16が算出した運転者の心理的負荷量に応じて輝度閾値を調整する。具体的には、心理的負荷量算出部16が算出した運転者の心理的負荷量が負荷閾値以上であれば、輝度閾値調整部17は、輝度閾値を上げて、地物位置画像が表示される頻度を減らす。調整後の輝度閾値は後方画像表示制御部14に記憶され、次回、後方画像表示制御部14が後方画像を表示するときに、地物位置画像を重畳させるかどうかの判断に用いられる。
後方画像表示制御装置10が後方画像を表示するたびに以上の動作を繰り返すことで、輝度閾値は、地物位置画像が表示されても運転者の心理的負荷量が負荷閾値を超えなくなるまで、上昇する。その結果、地物位置画像が表示されても運転者が不快に感じない程度に後方画像が暗い場合にだけ、地物位置画像が表示されるようになる。従って、実施の形態1に係る後方画像表示制御装置10によれば、地物位置画像を表示させるか否かを運転者の個人性を考慮して切り替えることができるようになる。
なお、後方画像表示制御部14は、後方画像に、地物位置画像だけでなく、車両の運転支援のために他の画像を重畳させてもよい。例えば図6および図7に示すように、車両の予想される進路を示す予想進路線40(「駐車アシスト線」とも呼ばれる)を、後方画像に重畳してもよい。予想進路線40は、地物位置画像の表示の有無に関係なく、常時、後方画像に重畳表示されることが好ましい(図6は、地物位置画像が重畳された後方画像30にさらに予想進路線40を重畳させた例であり、図7は、地物位置画像が重畳されていない後方画像30に予想進路線40を重畳させた例である)。
また、図6のように地物位置画像と予想進路線40との両方を後方画像に重畳させたとき、予想進路線40が地物位置画像に干渉する場合(図6では路面の予想進路線40が汚れのエッジ画像33に干渉している)、後方画像表示制御装置10が、音や振動などで運転者に警告を行ってもよい。
次に、後方画像表示制御装置10の動作を図8のフローチャートを参照しつつ説明する。後方画像表示制御装置10は起動した後、シフト位置検出装置22により車両のシフト位置がリバースに設定されたことが検出されるまで待機する(ステップS101)。
車両のシフト位置がリバースに設定されると(ステップS101でYES)、後方画像取得部11が、後方カメラ21から後方画像を取得する(ステップS102)。そして、後方画像表示制御部14が、後方画像を表示装置25に表示する(ステップS103)。
また、輝度算出部12が、後方画像の輝度を算出する(ステップS104)。このとき、後方画像の輝度が予め定められた輝度閾値以上であれば(ステップS105でYES)、後方画像に地物位置画像が重畳されることなく、ステップS102に戻る。
後方画像の輝度が輝度閾値未満であれば(ステップS105でNO)、地物位置画像生成部13が、後方画像から地物の画像を抽出し、後方画像における地物の位置を示す地物位置画像を生成する(ステップS106)。そして、後方画像表示制御部14が、地物位置画像を後方画像に重畳させて表示装置25に表示する(ステップS107)。さらに、運転者情報取得部15が、車内カメラ23が撮影した運転者の画像および生体センサ24が検出した運転者の生体情報の少なくとも片方を含む運転者情報を取得する(ステップS108)。
続いて、後方画像表示制御装置10は車両のシフト位置を確認し、シフト位置がリバースのままであれば(ステップS109でYES)、ステップS102へ戻る。すなわち、上記のステップS102~S108は、車両のシフト位置がリバースに設定されている間、繰り返し行われる。
しかし、車両のシフト位置がリバース以外に設定されると(ステップS109でYES)、後方画像表示制御部14は後方画像の表示を終了し、心理的負荷量算出部16が、ステップS108で取得された運転者情報に基づいて、地物位置画像が後方画像に重畳表示されていたときの運転者の心理的負荷量を算出する(ステップS110)。この心理的負荷量が予め定められた負荷閾値以上であれば(ステップS111でYES)、輝度閾値調整部17が輝度閾値を上げて(ステップS112)、ステップS101へ戻る。当該心理的負荷量が負荷閾値未満であれば(ステップS111でNO)、輝度閾値は変更されずにステップS101へ戻る。
<実施の形態2>
実施の形態1において、輝度閾値調整部17は、輝度閾値を上げることは行うが、輝度閾値を下げることは行わない。その理由は、運転者の心理的負荷量が負荷閾値を超えなくなる程度まで輝度閾値を大きくできれば、運転者が不快に感じる地物位置画像が表示されることを防止するという1つの目的を達成できるからである。ただし、地物位置画像の効果を得るために、輝度閾値の初期値はある程度低く設定される必要がある。
実施の形態2では、輝度閾値調整部17が、輝度閾値を上げることと、輝度閾値を下げることとの両方を行う。なお、実施の形態2の後方画像表示制御装置10の構成は実施の形態1(図1)と同様であり、実施の形態2の後方画像表示制御装置10の動作は、輝度閾値調整部17の動作を除いて、実施の形態1と同様である。よって、実施の形態2では主に輝度閾値調整部17の動作について説明し、その他の説明は実施の形態1と重複するため省略する。
実施の形態2の輝度閾値調整部17は、心理的負荷量算出部16が算出した運転者の心理的負荷量が負荷閾値以上であれば、輝度閾値を上げ、当該心理的負荷量が負荷閾値未満であれば、輝度閾値を下げる。調整後の輝度閾値は後方画像表示制御部14に記憶され、次回、後方画像表示制御部14が後方画像を表示するときに、地物位置画像を重畳させるかどうかの判断に用いられる。
後方画像表示制御装置10が後方画像を表示するたびに、この輝度閾値調整部17の動作が繰り返されることで、輝度閾値は、地物位置画像が表示されたときに運転者の心理的負荷量が負荷閾値を超えるかどうかの境界に合わせ込まれる。従って、実施の形態2に係る後方画像表示制御装置10によれば、地物位置画像の効果をできるだけ享受しつつ、地物位置画像を表示させるか否かを運転者の個人性を考慮して切り替えることができる。
なお、輝度閾値調整部17が輝度閾値を下げるときの下げ幅は固定値でもよいし、心理的負荷量の大きさに応じて変化させてもよい。輝度閾値の下げ幅を心理的負荷量の大きさに応じて変化させる場合、心理的負荷量が小さいときほど(心理的負荷量と負荷閾値との差が大きいときほど)、輝度閾値の下げ幅を大きくするとよい。
図9は、実施の形態2に係る後方画像表示制御装置10の動作を示すフローチャートである。図9のフローは、図8のフローに対し、ステップS113を追加したものである。ステップS113は、ステップS110で心理的負荷量算出部16が算出した心理的負荷量が負荷閾値未満のときに(ステップS111でNOのとき)に実行される。ステップS113では、輝度閾値調整部17が輝度閾値を上げる(ステップS112)、ステップS113の後はステップS101へ戻る。
<ハードウェア構成例>
図10および図11は、それぞれ後方画像表示制御装置10のハードウェア構成の例を示す図である。図1に示した後方画像表示制御装置10の構成要素の各機能は、例えば図10に示す処理回路50により実現される。すなわち、後方画像表示制御装置10は、車両の後方を撮影した画像である後方画像を取得し、後方画像の輝度を算出し、後方画像から地物の画像を抽出し、後方画像における地物の位置を示す地物位置画像を生成し、後方画像の輝度が予め定められた輝度閾値未満のときは、地物位置画像を重畳させた後方画像である第1後方画像を表示装置に表示し、後方画像の輝度が輝度閾値以上のときは、地物位置画像を重畳させていない後方画像である第2後方画像を表示装置に表示し、車両の運転者を撮影した画像または運転者の生体情報の少なくとも片方を含む運転者情報を取得し、運転者情報に基づいて、第1後方画像が表示されているときの運転者の心理的負荷量を算出し、第1後方画像が表示されているときの運転者の心理的負荷量に応じて輝度閾値を調整する、ための処理回路50を備える。処理回路50は、専用のハードウェアであってもよいし、メモリに格納されたプログラムを実行するプロセッサ(中央処理装置(CPU:Central Processing Unit)、処理装置、演算装置、マイクロプロセッサ、マイクロコンピュータ、DSP(Digital Signal Processor)とも呼ばれる)を用いて構成されていてもよい。
処理回路50が専用のハードウェアである場合、処理回路50は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、またはこれらを組み合わせたものなどが該当する。後方画像表示制御装置10の構成要素の各々の機能が個別の処理回路で実現されてもよいし、それらの機能がまとめて一つの処理回路で実現されてもよい。
図11は、処理回路50がプログラムを実行するプロセッサ51を用いて構成されている場合における後方画像表示制御装置10のハードウェア構成の例を示している。この場合、後方画像表示制御装置10の構成要素の機能は、ソフトウェア等(ソフトウェア、ファームウェア、またはソフトウェアとファームウェアとの組み合わせ)により実現される。ソフトウェア等はプログラムとして記述され、メモリ52に格納される。プロセッサ51は、メモリ52に記憶されたプログラムを読み出して実行することにより、各部の機能を実現する。すなわち、後方画像表示制御装置10は、プロセッサ51により実行されるときに、車両の後方を撮影した画像である後方画像を取得する処理と、後方画像の輝度を算出する処理と、後方画像から地物の画像を抽出し、後方画像における地物の位置を示す地物位置画像を生成する処理と、後方画像の輝度が予め定められた輝度閾値未満のときは、地物位置画像を重畳させた後方画像である第1後方画像を表示装置に表示し、後方画像の輝度が輝度閾値以上のときは、地物位置画像を重畳させていない後方画像である第2後方画像を表示装置に表示する処理と、車両の運転者を撮影した画像または運転者の生体情報の少なくとも片方を含む運転者情報を取得する処理と、運転者情報に基づいて、第1後方画像が表示されているときの運転者の心理的負荷量を算出する処理と、第1後方画像が表示されているときの運転者の心理的負荷量に応じて輝度閾値を調整する処理と、が結果的に実行されることになるプログラムを格納するためのメモリ52を備える。換言すれば、このプログラムは、後方画像表示制御装置10の構成要素の動作の手順や方法をコンピュータに実行させるものであるともいえる。
ここで、メモリ52は、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically Erasable Programmable Read Only Memory)などの、不揮発性または揮発性の半導体メモリ、HDD(Hard Disk Drive)、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、DVD(Digital Versatile Disc)およびそのドライブ装置等、または、今後使用されるあらゆる記憶媒体であってもよい。
以上、後方画像表示制御装置10の構成要素の機能が、ハードウェアおよびソフトウェア等のいずれか一方で実現される構成について説明した。しかしこれに限ったものではなく、後方画像表示制御装置10の一部の構成要素を専用のハードウェアで実現し、別の一部の構成要素をソフトウェア等で実現する構成であってもよい。例えば、一部の構成要素については専用のハードウェアとしての処理回路50でその機能を実現し、他の一部の構成要素についてはプロセッサ51としての処理回路50がメモリ52に格納されたプログラムを読み出して実行することによってその機能を実現することが可能である。
以上のように、後方画像表示制御装置10は、ハードウェア、ソフトウェア等、またはこれらの組み合わせによって、上述の各機能を実現することができる。
なお、各実施の形態を自由に組み合わせたり、各実施の形態を適宜、変形、省略したりすることが可能である。
上記した説明は、すべての態様において、例示であって、例示されていない無数の変形例が想定され得るものと解される。
10 後方画像表示制御装置、11 後方画像取得部、12 輝度算出部、13 地物位置画像生成部、14 後方画像表示制御部、15 運転者情報取得部、16 心理的負荷量算出部、17 輝度閾値調整部、21 後方カメラ、22 シフト位置検出装置、23 車内カメラ、24 生体センサ、25 表示装置、30 後方画像、31 道路のエッジ画像、32 落下物のエッジ画像、33 路面の汚れのエッジ画像、40 予想進路線、50 処理回路、51 プロセッサ、52 メモリ。

Claims (9)

  1. 車両の後方を撮影した画像である後方画像を取得する後方画像取得部と、
    前記後方画像の輝度を算出する輝度算出部と、
    前記後方画像から地物の画像を抽出し、前記後方画像における前記地物の位置を示す地物位置画像を生成する地物位置画像生成部と、
    前記後方画像の輝度が予め定められた輝度閾値未満のときは、前記地物位置画像を重畳させた前記後方画像である第1後方画像を表示装置に表示し、前記後方画像の輝度が前記輝度閾値以上のときは、前記地物位置画像を重畳させていない前記後方画像である第2後方画像を前記表示装置に表示する後方画像表示制御部と、
    前記車両の運転者を撮影した画像または前記運転者の生体情報の少なくとも片方を含む運転者情報を取得する運転者情報取得部と、
    前記運転者情報に基づいて、前記第1後方画像が表示されているときの前記運転者の心理的負荷量を算出する心理的負荷量算出部と、
    前記第1後方画像が表示されているときの前記運転者の心理的負荷量に応じて前記輝度閾値を調整する輝度閾値調整部と、
    を備える後方画像表示制御装置。
  2. 前記地物位置画像生成部は、前記後方画像に映る道路および当該道路上の地物の位置を示す地物位置画像を生成する、
    請求項1に記載の後方画像表示制御装置。
  3. 前記地物位置画像は、前記地物のエッジ画像である、
    請求項1に記載の後方画像表示制御装置。
  4. 前記輝度閾値調整部は、前記第1後方画像が表示されているときの前記運転者の前記心理的負荷量が予め定められた負荷閾値以上であれば、前記輝度閾値を上げる、
    請求項1に記載の後方画像表示制御装置。
  5. 前記輝度閾値調整部は、前記第1後方画像が表示されているときの前記運転者の前記心理的負荷量が前記負荷閾値未満であれば、前記輝度閾値を下げる、
    請求項4に記載の後方画像表示制御装置。
  6. 前記心理的負荷量算出部は、前記運転者を撮影した画像を解析して得られた前記運転者の表情のこわばり具合に基づいて、前記心理的負荷量を算出する
    請求項1に記載の後方画像表示制御装置。
  7. 前記心理的負荷量算出部は、前記運転者を撮影した画像を解析して得られた前記運転者の瞳孔径に基づいて、前記心理的負荷量を算出する
    請求項1に記載の後方画像表示制御装置。
  8. 前記心理的負荷量算出部は、前記運転者を撮影した画像を解析して得られた前記運転者の視線に基づいて、前記心理的負荷量を算出する
    請求項1に記載の後方画像表示制御装置。
  9. 後方画像表示制御装置の後方画像取得部が、車両の後方を撮影した画像である後方画像を取得し、
    前記後方画像表示制御装置の輝度算出部が、前記後方画像の輝度を算出し、
    前記後方画像表示制御装置の地物位置画像生成部が、前記後方画像から地物の画像を抽出し、前記後方画像における前記地物の位置を示す地物位置画像を生成し、
    前記後方画像表示制御装置の後方画像表示制御部が、前記後方画像の輝度が予め定められた輝度閾値未満のときは、前記地物位置画像を重畳させた前記後方画像である第1後方画像を表示装置に表示し、前記後方画像の輝度が前記輝度閾値以上のときは、前記地物位置画像を重畳させていない前記後方画像である第2後方画像を前記表示装置に表示し、
    前記後方画像表示制御装置の運転者情報取得部が、前記車両の運転者を撮影した画像または前記運転者の生体情報の少なくとも片方を含む運転者情報を取得し、
    前記後方画像表示制御装置の心理的負荷量算出部が、前記運転者情報に基づいて、前記第1後方画像が表示されているときの前記運転者の心理的負荷量を算出し、
    前記後方画像表示制御装置の輝度閾値調整部が、前記第1後方画像が表示されているときの前記運転者の心理的負荷量に応じて前記輝度閾値を調整する、
    後方画像表示制御方法。
JP2022527177A 2020-06-26 2020-06-26 後方画像表示制御装置および後方画像表示制御方法 Active JP7098092B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/025171 WO2021260909A1 (ja) 2020-06-26 2020-06-26 後方画像表示制御装置および後方画像表示制御方法

Publications (2)

Publication Number Publication Date
JPWO2021260909A1 JPWO2021260909A1 (ja) 2021-12-30
JP7098092B2 true JP7098092B2 (ja) 2022-07-08

Family

ID=79282160

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022527177A Active JP7098092B2 (ja) 2020-06-26 2020-06-26 後方画像表示制御装置および後方画像表示制御方法

Country Status (2)

Country Link
JP (1) JP7098092B2 (ja)
WO (1) WO2021260909A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007253819A (ja) 2006-03-23 2007-10-04 Toyota Motor Corp 駐車支援装置
JP2014225803A (ja) 2013-05-16 2014-12-04 住友建機株式会社 作業機械用周辺監視装置
JP2015184903A (ja) 2014-03-24 2015-10-22 日立建機株式会社 自走式産業機械の画像処理装置
JP2019012309A (ja) 2017-06-29 2019-01-24 株式会社デンソーテン 駐車枠検出装置及び駐車枠検出方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3368697B2 (ja) * 1994-11-18 2003-01-20 日産自動車株式会社 周囲モニタ装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007253819A (ja) 2006-03-23 2007-10-04 Toyota Motor Corp 駐車支援装置
JP2014225803A (ja) 2013-05-16 2014-12-04 住友建機株式会社 作業機械用周辺監視装置
JP2015184903A (ja) 2014-03-24 2015-10-22 日立建機株式会社 自走式産業機械の画像処理装置
JP2019012309A (ja) 2017-06-29 2019-01-24 株式会社デンソーテン 駐車枠検出装置及び駐車枠検出方法

Also Published As

Publication number Publication date
WO2021260909A1 (ja) 2021-12-30
JPWO2021260909A1 (ja) 2021-12-30

Similar Documents

Publication Publication Date Title
ES2715460T3 (es) Sistema de visión
CN104185009B (zh) 前方路缘观察系统中的增强的俯瞰视图生成
CN104210424B (zh) 增强的前方路缘观察系统
US8542129B2 (en) Parking aid system
CN103596812B (zh) 停车辅助装置
KR101433837B1 (ko) 차량의 나이트-뷰 시스템 동작 방법 및 대응하는 나이트-뷰시스템
CN105539287A (zh) 周边监视装置
JP5421999B2 (ja) 車両用周囲監視装置
KR20030024857A (ko) 차량 주변 이미지 처리 장치 및 기록 매체
US9140716B2 (en) Display system for vehicle and vehicle
JP2003191810A (ja) 車両周辺監視システム及び車両移動状態検出装置
JP2016021653A (ja) 周辺監視装置、及びプログラム
JP2004254219A (ja) 車両周辺画像処理装置及びプログラム並びに記録媒体
JP2012138828A (ja) 画像提供装置
JP2007082594A (ja) 疲労検出装置
JP6631350B2 (ja) ドライブレコーダ
JP7098092B2 (ja) 後方画像表示制御装置および後方画像表示制御方法
JP3961969B2 (ja) 車両周辺画像処理システム
KR101635831B1 (ko) 차량 위치 인식 장치 및 방법
JP5004923B2 (ja) 車両の運転支援装置
JP5445719B2 (ja) 画像表示装置及び画像表示方法
US20220203895A1 (en) Image forming device and image forming method
JP2022126659A (ja) 車両用映像処理装置、車両用映像処理システム、車両用映像処理方法およびプログラム
US20210339678A1 (en) Information presentation device, information presentation control method, and non-transitory computer-readable recording medium
JP2010009491A (ja) 運転支援装置、運転支援方法、及び運転支援プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220511

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20220511

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220531

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220628

R150 Certificate of patent or registration of utility model

Ref document number: 7098092

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150