JP6873350B2 - 表示制御装置及び表示制御方法 - Google Patents

表示制御装置及び表示制御方法 Download PDF

Info

Publication number
JP6873350B2
JP6873350B2 JP2021507098A JP2021507098A JP6873350B2 JP 6873350 B2 JP6873350 B2 JP 6873350B2 JP 2021507098 A JP2021507098 A JP 2021507098A JP 2021507098 A JP2021507098 A JP 2021507098A JP 6873350 B2 JP6873350 B2 JP 6873350B2
Authority
JP
Japan
Prior art keywords
vehicle
yawing
deviation
information
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021507098A
Other languages
English (en)
Other versions
JPWO2020208779A1 (ja
Inventor
脩平 太田
脩平 太田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Application granted granted Critical
Publication of JP6873350B2 publication Critical patent/JP6873350B2/ja
Publication of JPWO2020208779A1 publication Critical patent/JPWO2020208779A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/23Head-up displays [HUD]
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/28Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor characterised by the type of the output information, e.g. video entertainment or vehicle dynamics information; characterised by the purpose of the output information, e.g. for attracting the attention of the driver
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/80Arrangements for controlling instruments
    • B60K35/81Arrangements for controlling instruments for controlling displays
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/16Type of output information
    • B60K2360/166Navigation
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/16Type of output information
    • B60K2360/167Vehicle dynamics information
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2520/00Input parameters relating to overall vehicle dynamics
    • B60W2520/06Direction of travel
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2520/00Input parameters relating to overall vehicle dynamics
    • B60W2520/14Yaw
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/0097Predicting future conditions
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0183Adaptation to parameters characterising the motion of the vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Navigation (AREA)
  • Traffic Control Systems (AREA)
  • Instrument Panels (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

この発明は、車両用の表示装置を制御する表示制御装置及び表示制御方法に関するものである。
車両用のヘッドアップディスプレイ(以下、「HUD」と称する)は、乗員が前方視野から大きく視線を動かすことなく、画像情報を視認可能な表示装置である。特にAR(Augmented Reality:拡張現実)を利用したAR−HUD装置は、道路等の前景に道案内矢印等の画像情報を重畳表示することで、既存の表示装置に比べて直感的かつ分かりやすく、乗員に情報を提示できる(例えば、特許文献1参照)。
特開2018−140714号公報
AR−HUD装置が前景の重畳対象物(例えば、交差点)に表示物(例えば、道案内矢印)を表示する場合、重畳対象物と表示物とのずれを補正する必要がある。AR−HUD装置は、重畳対象物と表示物とが重畳しているように乗員に視認させることで、分かりやすい表示を乗員に提供できる。仮に表示物が重畳対象物からずれることで前景中の他の重畳対象物に重畳する、又は何もないところに表示されると、乗員に誤った情報を視認させてしまう恐れがある。そのため、AR−HUD装置は、表示ずれの補正が重要となる。
AR−HUD装置の表示ずれは、上下方向と左右方向とに分けて考えることができる。重畳対象物と表示物とが上下方向にずれる原因は、主に道路形状の変化である。例えば、道路の勾配が原因で車両の位置より重畳対象物の位置が高い場合、AR−HUD装置は、表示物の位置を上方向に補正する必要がある。また、道路の凹凸が原因で車両が上下方向に振動する場合、AR−HUD装置は、車両の振動に伴って上下する重畳対象物に合わせて表示物の位置を上下方向に補正する必要がある。特許文献1では、上下方向の表示ずれの補正については言及されているが、左右方向の表示ずれの補正については言及されていない。
重畳対象物と表示物とが左右方向にずれる原因は、主に運転者の車両操作である。運転者は、ハンドルを左右に動かし、車両のヨー方向の傾きを調整しながら、想定走行経路に沿って車両を走行させる。そのため、車両が同じ車線上を走行し続けたとしても、車両に対する重畳対象物の左右方向の位置は変化する。したがって、AR−HUD装置は、表示物が重畳対象物に重畳し続けるように左右方向の表示ずれを補正する必要がある。
従来のAR−HUD装置において表示物が重畳対象物に重畳し続けるように左右方向の表示ずれを補正する場合、運転者の車両操作によって車両が左右方向にふらつくことがあったとしても想定走行経路に沿って車両が走行する前提である。そのため、車線変更及び障害物回避のように、車両が、運転者の車両操作による左右方向のふらつき以上に大きく移動した場合、以下の(1)、(2)、及び(3)のような問題が発生する。
(1)車両の移動方向と逆方向に表示物が移動し運転の妨げとなる恐れがある。
(2)AR−HUD装置の表示エリアに表示物の一部又は全部が表示されず、表示物が持つ本来の情報を乗員に伝えることができない。
(3)車両の移動に伴い重畳対象物が変更されたときに表示物が変更後の重畳対象物へ急激に移動し運転の妨げとなる恐れがある。
上記(1)、(2)、及び(3)のような問題を防ぐためには、車両の想定走行経路からの逸脱を判定し、逸脱開始時に表示物と重畳対象物との左右方向の表示ずれ補正を開始する必要がある。しかしながら、従来のAR−HUD装置のように車両のヨー角又はヨーレートの変化だけを用いる場合、車両の想定走行経路からの逸脱開始を判定することは困難であった。
この発明は、上記のような課題を解決するためになされたもので、車両の想定走行経路からの逸脱を判定し、車両が想定走行経路から逸脱した場合の表示物と重畳対象物との左右方向のずれを補正することを目的とする。
この発明に係る表示制御装置は、車両の前方の重畳対象物に表示物を重畳表示する表示装置を制御する表示制御装置であって、車両が走行を予定している想定走行経路に対する車両の実際の進行方向の角度であるヨー角、又はヨー角の単位時間あたりの変化量であるヨーレートを、ヨーイング情報として取得するヨーイング情報取得部と、車両の乗員の視線情報、乗員の発話情報、又は交通情報のうちの少なくとも1つを用いて、車両の想定走行経路からの逸脱可能性を予測する逸脱可能性予測部と、ヨーイング情報取得部により取得されたヨーイング情報、及び逸脱可能性予測部により予測された逸脱可能性を用いて、車両の想定走行経路からの逸脱を判定するヨーイング変化予測部と、ヨーイング変化予測部により車両の想定走行経路からの逸脱が判定された場合、重畳対象物の変更、及び変更後の重畳対象物と表示物のずれ補正を行う画像生成部とを備えるものである。
この発明によれば、ヨー角又はヨーレートと、車両の乗員の視線情報、発話情報、又は交通情報のうちの少なくとも1つを用いて予測された逸脱可能性とを用いて、車両の想定走行経路からの逸脱を判定すると共に、逸脱を判定した場合に重畳対象物を変更して変更後の重畳対象物と表示物とのずれ補正を行うようにしたので、車両が想定走行経路から逸脱した場合の表示物と重畳対象物との左右方向のずれを補正することができる。
実施の形態1に係る表示システムの要部を示すブロック図である。 実施の形態1に係る表示システムの車両搭載時の構成図である。 ヨーイング情報を説明する図である。 実施の形態1に係る表示制御装置の動作例を示すフローチャートである。 実施の形態1に係る表示システムの理解を助けるための参考例であり、車線変更前の運転者視点の前景を示す図である。 実施の形態1に係る表示システムの理解を助けるための参考例であり、車線変更中の運転者視点の前景を示す図である。 実施の形態1に係る表示システムの理解を助けるための参考例であり、車線変更後の運転者視点の前景を示す図である。 実施の形態1に係る表示システムにおける、車線変更前の運転者視点の前景を示す図である。 実施の形態1に係る表示システムにおける、車線変更中の運転者視点の前景を示す図である。 実施の形態1に係る表示システムにおける、車線変更後の運転者視点の前景を示す図である。 図5A及び図6Aの状況を示す鳥瞰図である。 図5Bの状況を示す鳥瞰図である。 図6Bの状況を示す鳥瞰図である。 図5C及び図6Cの状況を示す鳥瞰図である。 実施の形態1に係る表示システムの理解を助けるための参考例であり、想定走行経路逸脱時のヨーイングの変化を示す図である。 実施の形態1に係る表示システムにおける想定走行経路逸脱時のヨーイングの変化を示す図である。 実施の形態1に係る表示システムのハードウェア構成の一例を示す図である。 実施の形態1に係る表示システムのハードウェア構成の別の例を示す図である。
以下、この発明をより詳細に説明するために、この発明を実施するための形態について、添付の図面に従って説明する。
実施の形態1.
図1は、実施の形態1に係る表示システムの要部を示すブロック図である。図2は、実施の形態1に係る表示システムの車両搭載時の構成図である。図1及び図2に示されるように、車両1には、表示制御装置2及び表示装置3を含む表示システムと、情報源装置4とが搭載される。表示制御装置2が表示物の画像情報を生成し、表示装置3がウインドシールド300に画像情報の表示光を投射することで、運転者は、この運転者の眼100の位置からウインドシールド300越しに結像された虚像200の表示物201を視認できる。
表示制御装置2は、眼位置情報取得部21、ヨーイング情報取得部22、逸脱可能性予測部23、ヨーイング変化予測部24、画像生成部25、及び虚像位置情報取得部26を備える。表示制御装置2の詳細は後述する。
表示装置3は、画像表示部31、反射ミラー32、及び反射ミラー調整部33を備える。
画像表示部31は、画像生成部25が生成した画像情報の表示光を反射ミラー32へ向けて出力する。画像表示部31は、液晶等のディスプレイ、又は、プロジェクタ若しくはレーザ光源である。なお、画像表示部31が液晶ディスプレイである場合、バックライトが必要である。
反射ミラー32は、画像表示部31が出力した表示光を反射させ、ウインドシールド300へ投射する。
反射ミラー調整部33は、反射ミラー32のチルト角度を調整することによって、画像表示部31が出力した表示光の反射角度を変更して虚像200の位置を調整する。反射ミラー調整部33は、反射ミラー32のチルト角度を示す反射ミラー角度情報を、虚像位置情報取得部26へ出力する。反射ミラー32が可動式である場合、運転者の眼100の位置に合わせて運転者が虚像200を視認できる領域を変更できるようになるので、固定式に比べて反射ミラー32を小型化できる。なお、反射ミラー調整部33による角度調整方法は、周知の技術を使用すればよいため、説明を省略する。
ウインドシールド300は、虚像200の被投射面である。被投射面は、ウインドシールド300に限定されるものではなく、コンバイナと呼ばれるハーフミラー等であってもよい。即ち、表示装置3は、ウインドシールド300を利用するHUDに限定されるものではなく、コンバイナ型HUD及びHMD(Head−Mounted Display)等であってもよい。このように、表示装置3は、車両1の前景に虚像200を重畳表示する表示装置であれば何でもよい。
情報源装置4は、車内カメラ41、車外カメラ42、ECU(Electronic Control Unit)43、GPS(Global Positioning System)受信機44、ナビゲーション装置45、レーダセンサ46、無線通信装置47、及び車内マイク48等を含む。この情報源装置4は、表示制御装置2に接続されている。
車内カメラ41は、車両1の乗員のうち、虚像200の観測者に相当する乗員を撮像するカメラである。実施の形態1の表示システムは、虚像200の観測者に相当する乗員として運転者を想定した構成である。そのため、車内カメラ41は、運転者を撮像する。
車外カメラ42は、車両1の周辺を撮像するカメラである。例えば、車外カメラ42は、車両1が走行している車線(以下、「走行車線」と称する)、及び車両1の周辺に存在する他車両等の障害物を撮像する。
ECU43は、車両1の各種動作を制御する制御ユニットである。ECU43は、図示しないワイヤハーネスによって表示制御装置2に接続されており、CAN(Controller Area Network)規格に基づく通信方式で、表示制御装置2との間で通信自在になっている。ECU43は、図示しない各種センサと接続されており、車両1の各種動作に関する車両情報を各種センサから取得する。車両情報には、車両角度、加速度、角速度、車速、操舵角、及びウインカ等の情報が含まれる。角速度は、車両1に対して直交する3軸の各軸まわりに生じている角速度であり、ヨーレート、ピッチレート、及びローレートである。
GPS受信機44は、図示しないGPS衛星からGPS信号を受信し、GPS信号が示す座標に対応する位置情報を算出する。GPS受信機44が算出する位置情報は、車両1の現在位置を示す現在位置情報に相当する。
ナビゲーション装置45は、ECU43から取得した角速度を元に、GPS受信機44が算出した現在位置情報を補正する。ナビゲーション装置45は、補正した現在位置情報を出発地とし、この出発地から乗員により設定された目的地までの車両1の走行経路を、図示しない記憶装置に記憶された地図情報を用いて探索する。なお、図1において、ナビゲーション装置45とGPS受信機44の接続線、及びナビゲーション装置45とECU43の接続線は、図示が省略されている。ナビゲーション装置45は、走行経路の案内に使用する道案内情報を表示制御装置2へ出力し、表示装置3に表示させる。道案内情報は、走行経路上の案内地点(例えば、交差点)における車両1の進行方向、経由地又は目的地の到着予想時刻、並びに、走行経路及び周辺道路の渋滞情報等を含む。
なお、ナビゲーション装置45は、車両1に搭載された情報機器であってもよく、車両1に持ち込まれたPDN(Portable Navigation Device)又はスマートフォン等の携帯通信端末であってもよい。
レーダセンサ46は、車両1の周辺に存在する障害物の方向及び形状、並びに車両1と障害物との距離を検出する。レーダセンサ46は、例えば、ミリ波帯の電波センサ、超音波センサ、又は光レーダセンサによって実現される。
無線通信装置47は、車外のネットワークに通信接続して各種情報を取得する。無線通信装置47は、例えば、車両1に搭載された送受信機、又は車両1に持ち込まれたスマートフォン等の携帯通信端末によって実現される。車外のネットワークは、例えば、インターネットである。無線通信装置47が取得する各種情報は、車両1の周辺の天候情報、又は施設情報等を含む。
車内マイク48は、車両1の車室に設置されたマイクである。車内マイク48は、運転者を含む乗員の会話又は発話を収集し、発話情報として出力する。
次に、表示制御装置2の各構成要素について説明する。
眼位置情報取得部21は、運転者の眼100の位置を示す眼位置情報、及び視線の方向を示す視線情報を取得する。例えば、眼位置情報取得部21は、車内カメラ41により撮像された画像を解析し、運転者の眼100の位置を検出し、検出した眼100の位置を眼位置情報とする。運転者の眼100の位置は、運転者の左眼及び左眼それぞれの位置であってもよいし、左眼と右眼の中心位置であってもよい。なお、眼位置情報取得部21は、右眼と左眼の中心位置を、車内カメラ41により撮像された画像における運転者の顔位置から推定してもよい。また、眼位置情報取得部21は、車内カメラ41の撮像画像のうち、検出した運転者の眼100の位置に相当する画像を解析し、運転者の視線の方向を検出する。
なお、眼位置情報取得部21は、表示制御装置2ではなく情報源装置4が備えていてもよい。その場合、眼位置情報取得部21は、運転者の状態を監視するDMS(Driver Monitoring System)、又は乗員の状態を監視するOMS(Occupant Monitoring System)等により実現される。
ヨーイング情報取得部22は、車両1の想定走行経路に対する車両1の進行方向の角度を表すヨーイング情報を取得する。ヨーイングとは、車両1の上下方向を軸とした回転である。ヨーイング情報は、その回転角であるヨー角(単位:deg)、又は単位時間あたりのヨー角の変化量であるヨーレート(単位:deg/sec)である。
想定走行経路とは、車両1の走行経路であり、走行車線、及び走行車線上での車両1の位置を含む。例えば、ヨーイング情報取得部22は、次の交差点での進行方向等を示す道案内情報をナビゲーション装置45から取得し、取得した道案内情報に基づいて車両1の走行経路を算出する。また、例えば、ヨーイング情報取得部22は、GPS受信機44から自車位置情報を取得すると共に、ナビゲーション装置45から走行車線情報を含む地図情報を取得し、これらの情報に基づいて走行車線、及び走行車線上での車両1の位置を算出する。また、例えば、ヨーイング情報取得部22は、車外カメラ42から撮像画像を取得し、取得した撮像画像から白線又は路肩等を検出し、検出した白線又は路肩等と自車位置との関係に基づいて走行車線、及び走行車線上での車両1の位置を算出する。なお、ヨーイング情報取得部22による想定走行経路の算出方法は、上記例に限定されない。また、ヨーイング情報取得部22は、ヨーイング情報取得部22以外で算出された想定走行経路の情報を取得してもよい。その場合、例えば、想定走行経路を、ナビゲーション装置45が単独で算出してもよいし、ナビゲーション装置45が情報源装置4のうちのいずれかの機器から情報を取得して算出してもよい。
図3は、ヨーイング情報を説明する図である。
図3の例では、ヨーイング情報取得部22は、ヨー角の基準(0度)を想定走行経路401とし、想定走行経路401に対する車両1の進行方向の角度であるヨー角を取得する。または、ヨーイング情報取得部22は、取得したヨー角を用いてヨーレートを算出する。ヨー角及びヨーレートは、基準(0度)に対して時計回りが正の値であり、反時計回りが負の値であるものとする。図3において、表示エリア402は、ウインドシールド300のうち、表示装置3が虚像200を投射可能なエリアに相当する。
例えば、ヨーイング情報取得部22は、車外カメラ42の撮像画像から検出した白線又は路肩等の位置又は傾きに基づき、想定走行経路401に対するヨー角を算出する。また、例えば、ヨーイング情報取得部22は、ECU43に接続されているセンサが検出した角速度と、上記の自車位置情報又は道案内情報とを組み合わせて、ヨー角度を算出する。また、ヨーイング情報取得部22は、車外カメラ42の撮像周期、角速度の検出周期、及び自車位置の取得周期等、並びにこれらの情報の精度を考慮し、複数の算出方法により算出されたヨー角度の平均値を求める等の統計処理を実施することによって、より確度の高いヨー角を求めてもよい。
逸脱可能性予測部23は、情報源装置4から取得した情報を元に、車両1の想定走行経路401からの逸脱可能性を予測する。想定走行経路401からの逸脱は、ナビゲーション装置45から取得する道案内情報、ナビゲーション装置45若しくは車外カメラ42から取得する走行車線情報、車外カメラ42若しくはレーダセンサ46から取得する障害物情報、眼位置情報取得部21から取得する運転者の視線情報、ECU43に接続されたセンサから取得するウインカ情報、又は、車内マイク48から取得する車両1の乗員の発話情報のうちの少なくとも1つを用いて予測される。障害物情報は、車両1の周辺に存在する、車両1の走行を妨害する障害物の位置等を示す情報である。運転者の視線情報は、車両1の運転者の視線方向を示す情報である。ウインカ情報は、車両1の右ウインカ及び左ウインカが点灯しているか否かを示す情報である。
例えば、逸脱可能性予測部23は、道案内情報が「次の交差点で右折」であり、走行車線情報が「左車線」又は「中央車線」である場合、車両1が次の交差点に進入する前に右車線に車線変更する可能性が高いと予測する。例えば、逸脱可能性予測部23は、車両1の走行車線前方に、駐車車両等の、想定走行経路401の走行を妨害する障害物が存在する場合、車両1が障害物を回避するために蛇行する可能性が高いと予測する。障害物の走行車線上の位置等によっては、車両1が走行車線内を障害物を回避するように蛇行する場合もあれば、車両1が走行車線から隣の車線にはみ出して障害物を回避し、回避後に再び走行車線に戻るように蛇行する場合もある。例えば、逸脱可能性予測部23は、運転者の視線がサイドミラー又は後方等を向いている場合、車両1が車線変更する可能性が高いと予測する。例えば、逸脱可能性予測部23は、ウインカが点灯している場合、車両1が車線変更する可能性が高い。例えば、逸脱可能性予測部23は、車両1の乗員が「後方から車が来ていないから右に車線変更して」といった発話をしている場合、車両1が車線変更する可能性が高いと予測する。
逸脱可能性予測部23は、上記の予測方法により、逸脱可能性の高さを予測する。逸脱可能性予測部23は、逸脱可能性の高さを、「高」、「中」、「低」のような2段階以上の離散的な値で表してもよいし、「0%」から「100%」のような連続的な値で表してもよい。
例えば、逸脱可能性予測部23は、道案内情報と走行車線情報とに基づく車線変更の可能性が低い場合、逸脱可能性の高さを「低」と予測する。また、逸脱可能性予測部23は、道案内情報と走行車線情報とに基づく車線変更の可能性が高い場合、逸脱可能性の高さを「中」と予測する。また、逸脱可能性予測部23は、道案内情報と走行車線情報とに基づく車線変更の可能性が高い場合、かつ、ウインカ情報に基づく車線変更の可能性が高い場合、逸脱可能性の高さを「高」と予測する。このように、逸脱可能性予測部23は、予測方法の組み合わせに応じて逸脱可能性の高さを予測してもよい。
例えば、逸脱可能性予測部23は、道案内情報と走行車線情報とに基づく車線変更の可能性が高い場合、逸脱可能性の高さに対して「+30%」を加点する。また、逸脱可能性予測部23は、ウインカ情報に基づく車線変更の可能性が高い場合、逸脱可能性の高さに対して「+30%」を加点する。このように、逸脱可能性予測部23は、予め定められた予測方法ごとの点数を加点していき、逸脱可能性の高さを予測してもよい。
また、逸脱可能性予測部23は、逸脱可能性の予測に、車両1の過去の走行履歴情報を用いてもよい。例えば、逸脱可能性予測部23は、走行履歴情報に基づき、道案内情報が「次の交差点で右折」であり、走行車線情報が「左車線」又は「中央車線」である場合、車両1が次の交差点に進入する前に右車線に車線変更する頻度が高いことを推定する。この場合、逸脱可能性予測部23は、逸脱可能性の高さに対して、通常の「+30%」よりも大きな「+40%」を加点する。
また、逸脱可能性予測部23は、機械学習等を利用して逸脱可能性を予測してもよい。
ヨーイング変化予測部24は、ヨーイング情報取得部22により取得されたヨーイング情報と、逸脱可能性予測部23により予測された逸脱可能性とに基づいて、車両1の想定走行経路401からの逸脱に伴う重畳表示物と表示物201の左右方向のずれを予測し、予測したずれに基づいて表示物201を重畳表示物に重畳表示させるための補正量を算出する。そして、ヨーイング変化予測部24は、車両1の想定走行経路401からの逸脱に伴う重畳表示物と表示物201の左右方向のずれ予測結果に基づき、表示物201を重畳表示する重畳対象物の変更、又は表示物201の表示態様の補正を、画像生成部25に指示する。
画像生成部25は、表示物201の画像情報を生成して表示装置3の画像表示部31に出力し、この画像情報を画像表示部31に表示させる。例えば、画像生成部25は、車内カメラ41及び車外カメラ42から撮像情報を取得し、GPS受信機44から自車位置情報を取得し、ECU43に接続された各種センサから車両情報を取得し、ナビゲーション装置45から道案内情報を取得し、レーダセンサ46から障害物情報を取得し、無線通信装置47から施設情報を取得する。画像生成部25は、取得したこれらの情報の少なくとも1つを用いて、車両1の走行速度又は道案内矢印等を示す表示物201の画像情報を生成する。また、画像生成部25は、取得したこれらの情報の少なくとも1つを用いて、走行車線及び障害物といった重畳対象物の位置又は関連情報を示す表示物201の画像情報を生成してもよい。
画像生成部25は、画像情報生成時、ヨーイング変化予測部24からの指示に基づき、重畳対象物の変更、又は表示物201の表示態様の補正を行う。画像生成部25は、表示態様の補正として、ヨーイング変化予測部24が算出した補正量に基づく表示物201の位置補正、又は、表示物201の表示から非表示への変更等を行う。画像生成部25は、生成した画像情報を、画像表示部31へ出力する。
表示物201とは、画像情報に含まれる道案内矢印等の物体であり、運転者により虚像200として視認される。重畳対象物とは、車両1の前景にある、表示物201を重畳する物体である。重畳対象物は、車両1が向かう次の交差点、車両1の周辺に存在する他車両若しくは歩行者等、走行車線の白線、又は、車両1の周辺に存在する施設等である。
画像生成部25は、虚像200の表示物201が重畳対象物に重畳して見える位置、大きさ、及び色で表示物201を画像内に描画し、描画した画像を画像情報とする。なお、画像生成部25は、画像表示部31が両眼視差画像を表示可能な場合、表示物201の画像情報として、表示物を左右方向にずらして配置した両眼視差画像を生成してもよい。
図1のように、表示装置3が、反射ミラー32のチルト角度調整による虚像200の位置調整が可能な構成である場合、画像生成部25は、反射ミラー32のチルト角度に応じた虚像200の位置を示す虚像位置情報を、虚像位置情報取得部26から取得する。そして、画像生成部25は、取得した虚像位置情報に基づいて、表示物201の位置を変更する。
虚像位置情報取得部26は、反射ミラー32のチルト角度を示す反射ミラー角度情報を、反射ミラー調整部33から取得する。虚像位置情報取得部26は、例えば、反射ミラー32のチルト角度と運転者が視認する虚像200の位置との対応関係が定義されたデータベースを有する。虚像位置情報取得部26は、このデータベースを参照して、反射ミラー32のチルト角度に対応する虚像200の位置を特定し、虚像位置情報として画像生成部25へ出力する。
なお、虚像位置情報取得部26は、反射ミラー32のチルト角度に基づき虚像200の位置を特定しているが、他の方法で特定してもよい。
また、反射ミラー32が固定されており、角度が調整不可能な構成である場合、虚像200の位置が虚像位置情報取得部26又は画像生成部25に予め設定されていてもよい。虚像200の位置が画像生成部25に予め設定されている場合には、虚像位置情報取得部26は不要である。
次に、表示制御装置2の動作を説明する。
図4は、実施の形態1に係る表示制御装置2の動作例を示すフローチャートである。表示制御装置2は、例えば、車両1のイグニッションスイッチがオンになったら図4のフローチャートに示される動作を開始し、イグニッションスイッチがオフになるまでこの動作を繰り返す。
ステップST1において、表示制御装置2は、情報源装置4から各種情報を取得する。例えば、眼位置情報取得部21は、車内カメラ41から撮像画像を取得し、取得した撮像画像を用いて運転者の眼位置情報及び視線情報を取得する。また、ヨーイング情報取得部22は、車外カメラ42、ECU43、GPS受信機44、又はナビゲーション装置45の少なくとも1つから情報を取得し、取得した情報を用いて想定走行経路401とヨーイング情報とを算出する。
以下では、ヨーイング情報取得部22は、ヨーイング情報としてヨー角を算出するものとする。
ステップST2において、逸脱可能性予測部23は、ステップST1で情報源装置4から取得した視線情報、発話情報、又は交通情報のうちの少なくとも1つを用いて、車両1が想定走行経路401から逸脱する可能性を予測する。交通情報は、道案内情報、走行車線情報、又は障害物情報のうちの少なくとも1つを含む。
ヨーイング変化予測部24は、逸脱可能性予測部23により予測された逸脱可能性が予め定められた基準未満である場合(ステップST2“NO”)、ステップST3の動作を行う。逸脱可能性が上記基準未満である場合とは、車両1が想定走行経路401に沿って走行している状態である。一方、ヨーイング変化予測部24は、逸脱可能性予測部23により予測された逸脱可能性が上記基準以上である場合(ステップST2“YES”)、ステップST4の動作を行う。逸脱可能性が上記基準以上である場合とは、車両1が想定走行経路401から逸脱しやすい状態である。
ステップST3において、ヨーイング変化予測部24は、重畳対象物変更判定用のヨーイング情報の閾値を第1閾値に設定する。なお、第1閾値の値は、固定値でもよいし、逸脱可能性の高さ等に応じて変化する可変値であってもよい。この第1閾値は、逸脱可能性が基準未満であって車両1が道路形状に沿って走行している状況において、車両1が想定走行経路401から逸脱したことを判定すると共に、重畳対象物を変更すると判定するための閾値である。車両1が想定走行経路401から逸脱する可能性が低い場合、運転者が車両1のヨー角を微調整しながら道路形状に沿って走行するため、車両1のヨー角の変化は小さい。実施の形態1では、運転者の操作及び道路形状に伴って車両1のヨー角が変化したときには重畳対象物を変更せず、車線変更又は障害物回避に伴って車両1のヨー角が変化したときには重畳対象物を変更するために、第1閾値は、運転者の操作及び道路形状に伴う車両1のヨー角の変化量よりも大きく、かつ、車線変更又は障害物回避に伴う車両1のヨー角の変化量よりも小さい値に設定される。
ステップST4において、ヨーイング変化予測部24は、重畳対象物変更判定用のヨーイング情報の閾値を第2閾値に設定する。なお、第2閾値の値は、固定値でもよいし、逸脱可能性の高さ等に応じて変化する可変値であってもよい。この第2閾値は、逸脱可能性が基準以上であって車両1が想定走行経路401から逸脱しやすい状況において、車両1が想定走行経路401から逸脱したことを判定すると共に、重畳対象物を変更すると判定するための閾値である。車両1が想定走行経路401から逸脱する可能性が高い場合、車両1が車線変更又は障害物回避するタイミングで、車両1のヨー角の変化が大きくなる。実施の形態1では、車両1が車線変更又は障害物回避を開始したことを判定するために、第2閾値は、第1閾値より絶対値が小さい値に設定される。
なお、第1閾値及び第2閾値が可変値である場合、例えば、ヨーイング変化予測部24は、運転者ごとの過去の走行履歴情報を用いて、運転者の運転特性に応じた値を設定する。また、ヨーイング変化予測部24は、車線変更か障害物回避かによって値を変更してもよい。
ステップST5において、ヨーイング変化予測部24は、ヨーイング情報取得部22から取得したヨー角がステップST3で設定した第1閾値以上又はステップST4で設定した第2閾値以上である場合(ステップST5“YES”)、ステップST6の動作を行う。一方、ヨーイング変化予測部24は、ヨーイング情報取得部22から取得したヨー角がステップST3で設定した第1閾値未満又はステップST4で設定した第2閾値未満である場合(ステップST5“NO”)、ステップST7の動作を行う。
ステップST6において、ヨーイング変化予測部24は、車両1が想定走行経路401から逸脱したと判定し、逸脱後に走行することが想定される想定走行経路401(以下、「変更後の想定走行経路401」と称する)をヨーイング情報取得部22から取得する。また、ヨーイング変化予測部24は、車両1が想定走行経路401から逸脱したことによる表示物201と重畳対象物の左右方向のずれを補正するために、変更後の想定走行経路401に基づく重畳対象物を変更する指示、及び変更した重畳対象物に合うように表示物201の表示態様を補正する指示を、画像生成部25へ出力する。なお、ヨーイング変化予測部24は、ヨー角と第1閾値との差若しくはヨー角と第2閾値との差が予め定められた値以上となる場合、又は、車両1が想定走行経路401から逸脱することにより重畳対象物が画像表示部31の表示エリア402から外れる場合、重畳対象物を変更する指示ではなく、表示物201を非表示にする指示を、画像生成部25へ出力してもよい。
ステップST7において、ヨーイング変化予測部24は、運転者の運転操作又は道路形状に伴う表示物201と重畳対象物の左右方向のずれが解消するように表示物201の表示態様を補正する指示を、画像生成部25へ出力する。なお、ステップST7では、車両1が想定走行経路401から逸脱していないので、ヨーイング変化予測部24は、重畳対象物を変更しない。
ステップST8において、画像生成部25は、情報源装置4から取得した各種情報を用いて表示物201の画像情報を生成する。また、画像生成部25は、ヨーイング変化予測部24が指示する重畳対象物に重畳するように、表示物201の位置及び大きさ等の表示態様を補正する。例えば、画像生成部25は、重畳対象物と表示物201の左右方向のずれを補正するための補正量が指示された場合、ヨーイング情報取得部22からヨー角を取得し、取得したヨー角と上記補正量とを用いて表示物201の位置を補正する。そして、画像生成部25は、表示物201の画像情報を、画像表示部31に出力してウインドシールド300に投射させる。なお、表示装置3が表示物201の画像情報をすでに表示している場合、画像生成部25は、その画像情報の表示物201をヨーイング変化予測部24からの指示に従い補正する。
次に、重畳対象物を変更するための閾値が、1つしかない場合と、第1閾値と第2閾値の2つある場合との違いを説明する。以下では、重畳対象物を変更するための閾値が1つしかない場合を「参考例」と呼び、この閾値として第1閾値を例示する。
図5A、図5B、及び図5Cは、実施の形態1に係る表示システムの理解を助けるための参考例であり、運転者視点の前景を示す図である。図6A、図6B、及び図6Cは、実施の形態1に係る表示システムにおける運転者視点の前景を示す図である。図5A及び図6Aは車線変更前、図5B及び図6Bは車線変更中、図5C及び図6Cは車線変更後の、運転者視点の前景を示す。
図7は、図5A及び図6Aの状況を示す鳥瞰図である。図8は、図5Bの状況を示す鳥瞰図である。図9は、図6Bの状況を示す鳥瞰図である。図10は、図5C及び図6Cの状況を示す鳥瞰図である。
図11は、実施の形態1に係る表示システムの理解を助けるための参考例であり、想定走行経路逸脱時のヨーイングの変化を示す図である。図12は、実施の形態1に係る表示システムにおける想定走行経路逸脱時のヨーイングの変化を示す図である。
なお、図11及び図12では、正の第1閾値及び第2閾値のみ示され、負の第1閾値及び第2閾値は省略されている。正の第1閾値の絶対値と負の第1閾値の絶対値とは同じであってもよいし異なってもよい。同様に、正の第2閾値の絶対値と負の第2閾値の絶対値とは同じであってもよいし異なってもよい。
まず、参考例について説明する。
参考例において、図5Aに示されるように、ウインドシールド300の表示エリア402には、ウインドシールド300越しに重畳対象物403(例えば、中央車線の交差点)が見える。表示エリア402には、虚像である表示物201(例えば、道案内矢印)が、重畳対象物403に重畳表示されている。また、図7に示されるように、車両1は、想定走行経路401に沿って中央車線を走行している(図11の時間T0〜時間T2)。
図8に示されるように、車両1は、想定走行経路401に従って交差点を右折するために、中央車線から右車線への車線変更を開始する(図11の時間T2)。車線変更に伴い変化したヨー角が第1閾値未満であるため、図5Bに示されるように、表示物201は、重畳対象物403に重畳表示されたままである。一方、表示エリア402は、車両1の車線変更に伴い右側へ移動する。そのため、図5Bでは、車両1の移動方向と逆方向に表示物201が移動し、運転の妨げになる可能性がある。また、表示物201の一部が表示エリア402から外れることにより表示されず、表示物201が持つ本来の情報を運転者に正しく伝えることができない可能性がある。
車線変更が開始され(図11の時間T2)、その後にヨー角が第1閾値以上となった場合(図11の時間T3)、ヨーイング変化予測部24は、想定走行経路401からの逸脱が起こったと判定する。この時間T3において、ヨーイング変化予測部24は、想定走行経路401の変更及び重畳対象物403の変更が必要であると判定する。そして、ヨーイング変化予測部24は、変更後の想定走行経路401及びヨー角の変化量等に基づき、重畳対象物403の変更を画像生成部25へ指示する。画像生成部25は、ヨーイング変化予測部24からの指示を受けると、ヨー角の変化量等に基づき、重畳対象物403を、変更前の想定走行経路401である中央車線の交差点から、変更後の想定走行経路401である右車線の交差点に変更する。したがって、図5C及び図10に示されるように、表示物201が、右車線の交差点である重畳対象物403に重畳表示される。車両1は、右車線上を想定走行経路401に沿って走行する。図11の時間T3において、運転者視点の前景が図5Bから図5Cに変化し、表示物201が急激に中央車線から右車線に移動するため、運転の妨げになる可能性がある。
このように、重畳対象物を変更するための閾値が1つしかない場合、道路形状に沿って走行するためのヨー角の変化と、車両1の想定走行経路401からの逸脱によるヨー角の変化とを区別するために、閾値に大きい値を設定する必要がある。そのため、車線変更又は障害物回避の判定が遅れる。また、図8と図9に示されるように車両1の向きは同じであったとしても、閾値が1つしかない場合のほうが想定走行経路401の変更タイミングが遅れるため、時間T2,T12以降のヨー角が異なる。その結果、閾値が1つしかない場合、表示物201と重畳対象物403の表示ずれを適切に補正できず、表示物201を含む前景の視認性が低下する。
続いて、実施の形態1の例について説明する。
実施の形態1において、図6Aに示されるように、ウインドシールド300の表示エリア402には、ウインドシールド300越しに重畳対象物403(例えば、中央車線の交差点)が見える。表示エリア402には、虚像である表示物201(例えば、道案内矢印)が、重畳対象物403に重畳表示されている。また、図7に示されるように、車両1は、想定走行経路401に沿って中央車線を走行している(図12の時間T10〜時間T12)。
逸脱可能性予測部23は、車両1が想定走行経路401に従って交差点を右折するために中央車線から右車線へ車線変更する予定であることから、交差点手前における逸脱可能性が高いと予測する。ヨーイング変化予測部24は、逸脱可能性が基準以上であるため、重畳対象物変更判定用の閾値を第2閾値に設定する(図12の時間T11)。
図9に示されるように、車両1は、想定走行経路401に従って交差点を右折するために、中央車線から右車線への車線変更を開始する(図12の時間T12)。車線変更に伴い変化したヨー角がすぐに第2閾値以上となるため(図12の時間T13)、ヨーイング変化予測部24は、想定走行経路401からの逸脱が起こったと判定する。この時間T13において、ヨーイング変化予測部24は、想定走行経路401の変更及び重畳対象物403の変更が必要であると判定する。そして、ヨーイング変化予測部24は、変更後の想定走行経路401及びヨー角の変化量等に基づき、重畳対象物403の変更を画像生成部25へ指示する。また、ヨーイング変化予測部24は、ヨー角の変化量等に基づき、変更後の重畳対象物403と表示物201の左右方向のずれの補正量を算出し、補正量を画像生成部25へ指示する。画像生成部25は、ヨーイング変化予測部24からの指示を受けると、ヨー角の変化量等に基づき、重畳対象物403を中央車線の交差点から右車線の交差点に変更する(図12の時間T13)。また、画像生成部25は、ヨーイング変化予測部24から指示された補正量に基づき、図6B及び図9のように表示物201の表示態様を補正する。したがって、車両1の移動方向と同じ方向に表示物201が移動し、表示物201が表示エリア402から外れることがない。また、運転者視点の前景が図6Bから図6Cに変化し、表示物201の急激な移動が防止される。
以上のように、実施の形態1に係る表示制御装置2は、ヨーイング情報取得部22と、逸脱可能性予測部23と、ヨーイング変化予測部24と、画像生成部25とを備える。ヨーイング情報取得部22は、車両1のヨー角又はヨーレートを、ヨーイング情報として取得する。逸脱可能性予測部23は、車両1の乗員の視線情報、乗員の発話情報、又は交通情報のうちの少なくとも1つを用いて、車両1の想定走行経路401からの逸脱可能性を予測する。ヨーイング変化予測部24は、ヨーイング情報及び逸脱可能性を用いて、車両1の想定走行経路401からの逸脱を判定する。画像生成部25は、ヨーイング変化予測部24により車両1の想定走行経路401からの逸脱が判定された場合、重畳対象物403の変更、及び変更後の重畳対象物403と表示物201のずれ補正を行う。このように、表示制御装置2は、ヨー角又はヨーレートと、視線情報、発話情報、又は交通情報のうちの少なくとも1つを用いて予測された逸脱可能性とを用いることにより、車両1の想定走行経路401からの逸脱を判定することができる。また、表示制御装置2は、逸脱判定時、重畳対象物403を変更し、変更後の重畳対象物403と表示物201との左右方向のずれ補正を行うことにより、先立って説明した(1)、(2)、及び(3)のような問題を防ぐことができる。よって、表示制御装置2は、車両1が想定走行経路401から逸脱した場合の表示物201と重畳対象物403との左右方向のずれを補正することができる。
また、実施の形態1によれば、ヨーイング変化予測部24は、逸脱可能性予測部23により予測された逸脱可能性が予め定められた基準未満である場合(図4のステップST2“NO”)、重畳対象物変更判定用の閾値を第1閾値に設定する(図4のステップST3)。そして、ヨーイング変化予測部24は、ヨーイング情報取得部22により取得されたヨーイング情報が第1閾値以上である場合(図4のステップST5“YES”)、画像生成部25に対して、重畳対象物403を変更するよう、又は表示物201を非表示にするよう指示する(図4のステップST6)。これにより、表示制御装置2は、逸脱可能性が低い場合であっても車両1の想定走行経路401からの逸脱を判定することができる。また、表示制御装置2は、逸脱判定時に変更前の重畳対象物403と表示物201との重畳表示を維持する補正をせず、重畳対象物403を変更するか表示物201を非表示にするため、違和感のない表示を行うことができる。
また、実施の形態1によれば、ヨーイング変化予測部24は、逸脱可能性予測部23により予測された逸脱可能性が予め定められた基準以上である場合(図4のステップST2“YES”)、重畳対象物変更判定用の閾値を第2閾値に設定する(図4のステップST4)。そして、ヨーイング変化予測部24は、ヨーイング情報取得部22により取得されたヨーイング情報が第2閾値以上である場合(図4のステップST5“YES”)、画像生成部25に対して、重畳対象物403を変更するよう、又は表示物201を非表示にするよう指示する(図4のステップST6)。これにより、表示制御装置2は、逸脱可能性が高い場合に、第1閾値より小さい第2閾値を用いて、車両1の想定走行経路401からの逸脱開始を判定することができる。また、表示制御装置2は、逸脱開始判定時に変更前の重畳対象物403と表示物201との重畳表示を維持する補正をせず、重畳対象物403を変更するか表示物201を非表示にするため、違和感のない表示を行うことができる。
また、実施の形態1によれば、ヨーイング変化予測部24は、逸脱可能性予測部23により予測された逸脱可能性が予め定められた基準未満である場合(図4のステップST2“NO”)、かつ、ヨーイング情報取得部22により取得されたヨーイング情報が第1閾値未満である場合(図4のステップST5“NO”)、画像生成部25に対して、重畳対象物403と表示物201のずれを補正するよう指示する(図4のステップST7)。
また、ヨーイング変化予測部24は、逸脱可能性予測部23により予測された逸脱可能性が予め定められた基準以上である場合(図4のステップST2“YES”)、かつ、ヨーイング情報取得部22により取得されたヨーイング情報が第2閾値未満である場合(図4のステップST5“NO”)、画像生成部25に対して、重畳対象物403と表示物201のずれを補正するよう指示する(図4のステップST7)。
いずれの場合にも、表示制御装置2は、車両1が想定走行経路401に沿って走行している間、表示物201の重畳対象物403への重畳表示を維持する補正を行うことができるので、違和感のない表示を行うことができる。
次に、実施の形態1に係る表示制御装置2の変形例を説明する。
実施の形態1のヨーイング変化予測部24は、ヨーイング情報としてヨー角を用い、ヨー角の値に合わせた第1閾値及び第2閾値を設定していたが、ヨーイング情報としてヨーレートを用い、ヨーレートの値に合わせた第1閾値及び第2閾値を設定してもよい。この変形例の場合、ヨーイング変化予測部24は、図4のステップST5において、ヨーレートが第1閾値以上又は第2閾値以上である場合に車両1が想定走行経路401から逸脱していると判定する。ヨーレートを用いる場合、ヨー角を用いる場合に比べて、車両1の想定走行経路401からの逸脱開始を早く判定することができ、重畳対象物403の変更も早くできる可能性がある。
実施の形態1の変形例として、ヨーイング変化予測部24は、逸脱可能性予測部23により予測された逸脱可能性が予め定められた基準以上である場合(図4のステップST2“YES”)、つまり車両1の想定走行経路401からの逸脱可能性が高い場合、画像生成部25に対して、重畳対象物403と表示物201のずれ補正を一時停止するように指示する。その後、ヨーイング変化予測部24は、変更後の重畳対象物403が表示エリア402に入った場合、又は変更後の重畳対象物403と表示物201とが予め定められた距離に近づいた場合、画像生成部25に対して、変更後の重畳対象物403と表示物201とずれ補正を再開するよう指示する。この変形例の場合、重畳対象物の変更に伴う表示物の移動がヨー角の変化に合わせて起こることで、違和感のない表示を行うことができる。
実施の形態1の変形例として、ヨーイング変化予測部24は、逸脱可能性が基準以上であって車両1の想定走行経路401からの逸脱可能性が高い場合、その時点(図12の時間T11)で、変更後の重畳対象物403を予測する。また、ヨーイング情報取得部22も、ヨーイング変化予測部24において逸脱可能性が基準以上であって車両1の想定走行経路401からの逸脱可能性が高いと予測された場合、その時点(図12の時間T11)で、変更後の想定走行経路401を予測する。この変形例の場合、車両1が想定走行経路401から逸脱を開始してヨーイング情報が第1閾値以上又は第2閾値以上であると判定されたときに変更後の重畳対象物403及び想定走行経路401を算出する場合に比べて、画像生成部25が表示物201を補正するまでの時間を短くできる。なお、変更後の重畳対象物403及び想定走行経路401は、ヨーイング情報、視線情報、発話情報、交通情報、又はその他の各種情報のうちの少なくとも1つを用いて予測される。
実施の形態1の変形例として、画像生成部25は、車速及びヨーイング情報に基づき、表示物201を表示する時点における車両1の位置を予測する。画像生成部25は、図4のステップST1で表示制御装置2の各部が情報を取得した時点の車両1の位置と、ステップST8で画像情報を生成して画像表示部31に表示させる時点の車両1の予測位置との差分を考慮して、表示物201の位置を補正する。この変形例の場合、車両1が走行することにより生じる表示物201と重畳対象物403とのずれを補正することができる。
なお、実施の形態1では、運転者用に構成された表示システムを例に用いて説明したが、表示システムは、運転者以外の乗員用に構成されてもよい。
また、実施の形態1では、表示装置3は、HUD又はHMD等であったが、車両1のダッシュボードに設置されるセンタディスプレイ等であってもよい。センタディスプレイは、車外カメラ42が撮像した車両1の前景の撮像画像に対して、表示制御装置2の画像生成部25が生成した表示物201の画像情報を重畳表示する。このように、表示装置3は、車両1のウインドシールド300越しの前景、又は車外カメラ42により撮像された前景に対して、表示物201を重畳表示可能なものであればよい。
最後に、実施の形態1に係る表示システムのハードウェア構成を説明する。
図13は、実施の形態1に係る表示システムのハードウェア構成の一例を示す図である。図13において、処理回路500は、表示装置3と情報源装置4とに接続され、情報のやり取りが可能である。図14は、実施の形態1に係る表示システムのハードウェア構成の別の例を示す図である。図14において、プロセッサ501及びメモリ502のそれぞれは、表示装置3と情報源装置4とに接続される。プロセッサ501は、表示装置3と情報源装置4との間で情報のやり取りが可能である。
表示制御装置2における眼位置情報取得部21、ヨーイング情報取得部22、逸脱可能性予測部23、ヨーイング変化予測部24、画像生成部25、及び虚像位置情報取得部26の機能は、処理回路により実現される。即ち、表示制御装置2は、上記機能を実現するための処理回路を備える。処理回路は、専用のハードウェアとしての処理回路500であってもよいし、メモリ502に格納されるプログラムを実行するプロセッサ501であってもよい。
図13に示されるように、処理回路が専用のハードウェアである場合、処理回路500は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field−Programmable Gate Array)、又はこれらを組み合わせたものが該当する。眼位置情報取得部21、ヨーイング情報取得部22、逸脱可能性予測部23、ヨーイング変化予測部24、画像生成部25、及び虚像位置情報取得部26の機能を複数の処理回路500で実現してもよいし、各部の機能をまとめて1つの処理回路500で実現してもよい。
図14に示されるように、処理回路がプロセッサ501である場合、眼位置情報取得部21、ヨーイング情報取得部22、逸脱可能性予測部23、ヨーイング変化予測部24、画像生成部25、及び虚像位置情報取得部26の機能は、ソフトウェア、ファームウェア、又はソフトウェアとファームウェアとの組み合わせにより実現される。ソフトウェア又はファームウェアはプログラムとして記述され、メモリ502に格納される。プロセッサ501は、メモリ502に格納されたプログラムを読みだして実行することにより、各部の機能を実現する。即ち、表示制御装置2は、プロセッサ501により実行されるときに、図4のフローチャートで示されるステップが結果的に実行されることになるプログラムを格納するためのメモリ502を備える。また、このプログラムは、眼位置情報取得部21、ヨーイング情報取得部22、逸脱可能性予測部23、ヨーイング変化予測部24、画像生成部25、及び虚像位置情報取得部26の手順又は方法をコンピュータに実行させるものであるとも言える。
ここで、プロセッサ501とは、CPU(Central Processing Unit)、処理装置、演算装置、又はマイクロプロセッサ等のことである。
メモリ502は、RAM(Random Access Memory)、ROM(Read Only Memory)、EPROM(Erasable Programmable ROM)、又はフラッシュメモリ等の不揮発性もしくは揮発性の半導体メモリであってもよいし、ハードディスク又はフレキシブルディスク等の磁気ディスクであってもよいし、CD(Compact Disc)又はDVD(Digital Versatile Disc)等の光ディスクであってもよい。
なお、眼位置情報取得部21、ヨーイング情報取得部22、逸脱可能性予測部23、ヨーイング変化予測部24、画像生成部25、及び虚像位置情報取得部26の機能について、一部を専用のハードウェアで実現し、一部をソフトウェア又はファームウェアで実現するようにしてもよい。例えば、眼位置情報取得部21の機能については専用のハードウェアで実現し、ヨーイング情報取得部22、逸脱可能性予測部23、ヨーイング変化予測部24、画像生成部25、及び虚像位置情報取得部26の機能についてはソフトウェア又はファームウェアで実現する。このように、表示制御装置2における処理回路は、ハードウェア、ソフトウェア、ファームウェア、又はこれらの組み合わせによって、上述の機能を実現することができる。
本発明はその発明の範囲内において、実施の形態の任意の構成要素の変形、又は実施の形態の任意の構成要素の省略が可能である。
この発明に係る表示制御装置は、表示物と重畳対象物との左右方向のずれを補正するようにしたので、車両に搭載されたHUD等を制御する表示制御装置に用いるのに適している。
1 車両、2 表示制御装置、3 表示装置、4 情報源装置、21 眼位置情報取得部、22 ヨーイング情報取得部、23 逸脱可能性予測部、24 ヨーイング変化予測部、25 画像生成部、26 虚像位置情報取得部、31 画像表示部、32 反射ミラー、33 反射ミラー調整部、41 車内カメラ、42 車外カメラ、43 ECU、44 GPS受信機、45 ナビゲーション装置、46 レーダセンサ、47 無線通信装置、48 車内マイク、100 運転者の眼、200 虚像、201 表示物、300 ウインドシールド、401 想定走行経路、402 表示エリア、403 重畳対象物、500 処理回路、501 プロセッサ、502 メモリ。

Claims (8)

  1. 車両の前方の重畳対象物に表示物を重畳表示する表示装置を制御する表示制御装置であって、
    前記車両が走行を予定している想定走行経路に対する前記車両の実際の進行方向の角度であるヨー角、又は前記ヨー角の単位時間あたりの変化量であるヨーレートを、ヨーイング情報として取得するヨーイング情報取得部と、
    前記車両の乗員の視線情報、前記乗員の発話情報、又は交通情報のうちの少なくとも1つを用いて、前記車両の前記想定走行経路からの逸脱可能性を予測する逸脱可能性予測部と、
    前記ヨーイング情報取得部により取得されたヨーイング情報、及び前記逸脱可能性予測部により予測された逸脱可能性を用いて、前記車両の前記想定走行経路からの逸脱を判定するヨーイング変化予測部と、
    前記ヨーイング変化予測部により前記車両の前記想定走行経路からの逸脱が判定された場合、前記重畳対象物の変更、及び変更後の前記重畳対象物と前記表示物のずれ補正を行う画像生成部とを備えることを特徴とする表示制御装置。
  2. 前記交通情報は、ナビゲーション装置が出力する道案内情報、前記車両が走行している車線に関する車線情報、又は前記車両の周辺に存在する障害物に関する障害物情報のうちの少なくとも1つであることを特徴とする請求項1記載の表示制御装置。
  3. 前記ヨーイング変化予測部は、前記逸脱可能性予測部により予測された逸脱可能性が予め定められた基準未満である場合、前記重畳対象物を変更するか否かを判定するための閾値を第1閾値に設定し、前記ヨーイング情報取得部により取得されたヨーイング情報が前記第1閾値以上である場合、前記画像生成部に対して、前記重畳対象物を変更する又は前記表示物を非表示にするよう指示することを特徴とする請求項1記載の表示制御装置。
  4. 前記ヨーイング変化予測部は、前記逸脱可能性予測部により予測された逸脱可能性が前記予め定められた基準以上である場合、前記重畳対象物を変更するか否かを判定するための前記閾値を、前記第1閾値より小さい第2閾値に設定し、前記ヨーイング情報取得部により取得されたヨーイング情報が前記第2閾値以上である場合、前記画像生成部に対して、前記重畳対象物を変更する又は前記表示物を非表示にするよう指示することを特徴とする請求項3記載の表示制御装置。
  5. 前記ヨーイング変化予測部は、前記逸脱可能性予測部により予測された逸脱可能性が前記予め定められた基準未満である場合、かつ、前記ヨーイング情報取得部により取得されたヨーイング情報が前記第1閾値未満である場合、前記画像生成部に対して、前記重畳対象物と前記表示物のずれを補正するよう指示することを特徴とする請求項3記載の表示制御装置。
  6. 前記ヨーイング変化予測部は、前記逸脱可能性予測部により予測された逸脱可能性が前記予め定められた基準以上である場合、かつ、前記ヨーイング情報取得部により取得されたヨーイング情報が前記第2閾値未満である場合、前記画像生成部に対して、前記重畳対象物と前記表示物のずれを補正するよう指示することを特徴とする請求項4記載の表示制御装置。
  7. 前記ヨーイング変化予測部は、前記逸脱可能性予測部により予測された逸脱可能性が前記予め定められた基準以上である場合、前記画像生成部に対して、前記重畳対象物と前記表示物のずれを補正しないよう指示し、その後、変更後の前記重畳対象物と前記表示物とが予め定められた距離に近づいた場合に変更後の前記重畳対象物と前記表示物とのずれを補正するよう指示することを特徴とする請求項4記載の表示制御装置。
  8. 車両の前方の重畳対象物に表示物を重畳表示する表示装置を制御する表示制御方法であって、
    ヨーイング情報取得部が、前記車両が走行を予定している想定走行経路に対する前記車両の実際の進行方向の角度であるヨー角、又は前記ヨー角の単位時間あたりの変化量であるヨーレートを、ヨーイング情報として取得し、
    逸脱可能性予測部が、前記車両の乗員の視線情報、前記乗員の発話情報、又は交通情報のうちの少なくとも1つを用いて、前記車両の前記想定走行経路からの逸脱可能性を予測し、
    ヨーイング変化予測部が、前記ヨーイング情報取得部により取得されたヨーイング情報、及び前記逸脱可能性予測部により予測された逸脱可能性を用いて、前記車両の前記想定走行経路からの逸脱を判定し、
    画像生成部が、前記ヨーイング変化予測部により前記車両の前記想定走行経路からの逸脱が判定された場合、前記重畳対象物の変更、及び変更後の前記重畳対象物と前記表示物のずれ補正を行うことを特徴とする表示制御方法。
JP2021507098A 2019-04-11 2019-04-11 表示制御装置及び表示制御方法 Active JP6873350B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/015815 WO2020208779A1 (ja) 2019-04-11 2019-04-11 表示制御装置及び表示制御方法

Publications (2)

Publication Number Publication Date
JP6873350B2 true JP6873350B2 (ja) 2021-05-19
JPWO2020208779A1 JPWO2020208779A1 (ja) 2021-09-13

Family

ID=72751033

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021507098A Active JP6873350B2 (ja) 2019-04-11 2019-04-11 表示制御装置及び表示制御方法

Country Status (5)

Country Link
US (1) US20220146840A1 (ja)
JP (1) JP6873350B2 (ja)
CN (1) CN113677553A (ja)
DE (1) DE112019006964T5 (ja)
WO (1) WO2020208779A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7157780B2 (ja) * 2020-08-27 2022-10-20 本田技研工業株式会社 自動運転車用情報提示装置
JP7487713B2 (ja) 2021-08-16 2024-05-21 トヨタ自動車株式会社 車両用表示制御装置、車両用表示装置、車両用表示制御方法およびプログラム
JPWO2024018497A1 (ja) * 2022-07-19 2024-01-25

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011036788A1 (ja) * 2009-09-28 2011-03-31 株式会社 東芝 表示装置及び表示方法
JP5826375B2 (ja) * 2012-03-16 2015-12-02 三菱電機株式会社 運転支援装置
JP6369106B2 (ja) * 2014-04-16 2018-08-08 株式会社デンソー ヘッドアップディスプレイ装置
JP6152833B2 (ja) * 2014-08-08 2017-06-28 マツダ株式会社 車両の運転感覚調整装置
WO2016052186A1 (ja) * 2014-09-29 2016-04-07 矢崎総業株式会社 車両用表示装置
JP2017013590A (ja) * 2015-06-30 2017-01-19 日本精機株式会社 ヘッドアップディスプレイ装置
EP3358304B1 (en) * 2015-09-30 2019-05-01 Nissan Motor Co., Ltd. Vehicular display device
US10989929B2 (en) * 2016-02-05 2021-04-27 Maxell, Ltd. Head-up display apparatus
JP2019217790A (ja) * 2016-10-13 2019-12-26 マクセル株式会社 ヘッドアップディスプレイ装置
JP6493923B2 (ja) * 2016-11-08 2019-04-03 本田技研工業株式会社 情報表示装置、情報表示方法、および情報表示プログラム
JP6801508B2 (ja) * 2017-02-24 2020-12-16 日本精機株式会社 ヘッドアップディスプレイ装置
JP6601441B2 (ja) 2017-02-28 2019-11-06 株式会社デンソー 表示制御装置及び表示制御方法
JP2018156063A (ja) * 2017-03-15 2018-10-04 株式会社リコー 表示装置及び機器
JP6731644B2 (ja) * 2017-03-31 2020-07-29 パナソニックIpマネジメント株式会社 表示位置補正装置、表示位置補正装置を備える表示装置、及び表示装置を備える移動体
JP6361794B2 (ja) * 2017-07-07 2018-07-25 日本精機株式会社 車両情報投影システム
JP7194906B2 (ja) * 2018-03-30 2022-12-23 パナソニックIpマネジメント株式会社 映像表示システム、映像表示方法、プログラム、及び映像表示システムを備える移動体
WO2020208989A1 (ja) * 2019-04-09 2020-10-15 株式会社デンソー 表示制御装置及び表示制御プログラム

Also Published As

Publication number Publication date
WO2020208779A1 (ja) 2020-10-15
JPWO2020208779A1 (ja) 2021-09-13
CN113677553A (zh) 2021-11-19
US20220146840A1 (en) 2022-05-12
DE112019006964T5 (de) 2021-11-18

Similar Documents

Publication Publication Date Title
JP6149543B2 (ja) ヘッドアップディスプレイ装置
US9946078B2 (en) Head-up display device
JP6138634B2 (ja) ヘッドアップディスプレイ装置
US20170254659A1 (en) Virtual image presentation system, image projection device, and virtual image presentation method
US11511627B2 (en) Display device and computer program
JP5723106B2 (ja) 車両用ディスプレイ装置及び車両用ディスプレイ方法
JP6873350B2 (ja) 表示制御装置及び表示制御方法
US11803053B2 (en) Display control device and non-transitory tangible computer-readable medium therefor
WO2019224922A1 (ja) ヘッドアップディスプレイ制御装置、ヘッドアップディスプレイシステム、及びヘッドアップディスプレイ制御方法
CN109968977B (zh) 显示系统
JP7151073B2 (ja) 表示装置及びコンピュータプログラム
JP5327025B2 (ja) 車両用走行案内装置、車両用走行案内方法及びコンピュータプログラム
US20190241070A1 (en) Display control device and display control method
JP2010143411A (ja) ヘッドアップディスプレイ装置
US11367417B2 (en) Display control device and non-transitory tangible computer-readable medium therefor
CN110462699B (zh) 车辆用显示控制装置以及车辆用显示单元
JP6825433B2 (ja) 虚像表示装置及びコンピュータプログラム
WO2020105685A1 (ja) 表示制御装置、方法、及びコンピュータ・プログラム
JP6196840B2 (ja) ヘッドアップディスプレイ装置
JP3932127B2 (ja) 車両用画像表示装置
JP2009005054A (ja) 運転支援装置、運転支援方法及びプログラム
JP6610376B2 (ja) 表示装置
US20210129751A1 (en) Side and rear reflection controller and side and rear reflection control method
WO2020084827A1 (ja) 重畳画像表示装置及びコンピュータプログラム
JP2019095214A (ja) 重畳画像表示装置及びコンピュータプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210209

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20210209

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20210317

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210323

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210420

R150 Certificate of patent or registration of utility model

Ref document number: 6873350

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150