JPWO2016067574A1 - 表示制御装置及び表示制御プログラム - Google Patents

表示制御装置及び表示制御プログラム Download PDF

Info

Publication number
JPWO2016067574A1
JPWO2016067574A1 JP2016556214A JP2016556214A JPWO2016067574A1 JP WO2016067574 A1 JPWO2016067574 A1 JP WO2016067574A1 JP 2016556214 A JP2016556214 A JP 2016556214A JP 2016556214 A JP2016556214 A JP 2016556214A JP WO2016067574 A1 JPWO2016067574 A1 JP WO2016067574A1
Authority
JP
Japan
Prior art keywords
display
image
predetermined
unit
predetermined object
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016556214A
Other languages
English (en)
Other versions
JP6528139B2 (ja
Inventor
貴志 秋田
貴志 秋田
大林 敬一郎
敬一郎 大林
船引 誠
誠 船引
孝好 古山
孝好 古山
隼 今村
隼 今村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of JPWO2016067574A1 publication Critical patent/JPWO2016067574A1/ja
Application granted granted Critical
Publication of JP6528139B2 publication Critical patent/JP6528139B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/38Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory with means for controlling the display position
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Arrangement of adaptations of instruments
    • B60K35/10
    • B60K35/213
    • B60K35/23
    • B60K35/285
    • B60K35/29
    • B60K35/81
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/37Details of the operation on graphic patterns
    • G09G5/377Details of the operation on graphic patterns for mixing or overlaying two or more graphic patterns
    • B60K2360/149
    • B60K2360/18
    • B60K2360/334
    • B60K2360/344
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/20Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
    • B60R2300/205Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used using a head-up display
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/301Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with other obstacle sensor information, e.g. using RADAR/LIDAR/SONAR sensors for estimating risk of collision
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/307Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing virtually distinguishing relevant parts of a scene from the background of the scene
    • B60R2300/308Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing virtually distinguishing relevant parts of a scene from the background of the scene by overlaying the real scene, e.g. through a head-up display on the windscreen
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0001Details of the control system
    • B60W2050/0043Signal treatments, identification of variables or parameters, parameter estimation or state estimation
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0141Head-up displays characterised by optical features characterised by the informative content of the display
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0181Adaptation to the pilot/driver
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B2027/0192Supplementary details
    • G02B2027/0198System for aligning or maintaining alignment of an image in a predetermined direction
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/10Special adaptations of display systems for operation with variable images
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/12Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2380/00Specific applications
    • G09G2380/10Automotive applications

Abstract

表示制御装置は、判定部と、制御部とを有する。判定部は、移動体の前景中の対象物を認識する認識部から取得した対象物の位置情報と、乗員から虚像を見たときの俯角を推定する推定部から取得した俯角の推定値とに基づき、乗員から見た対象物が虚像の表示範囲内に入るか否かを判定する。制御部は、表示部を制御し、対象物が表示範囲内に入ると判定された場合には対象物に対応する情報を示す第1の提示画像を表す画像を生成させるように表示部を制御する。一方、対象物が表示範囲内に入らないと判定された場合、制御部は対象物に対応する情報を第2の提示画像を表す画像を生成させるように表示部を制御する。

Description

本発明は、車両等の乗員に対して提供される情報の表示を制御する表示制御装置及び表示制御プログラムに関する。
近年、車載用のヘッドアップディスプレイ(HUD:Head−Up Display)を用いて、車両、歩行者に対する警告表示、ナビゲーション情報等を実風景上に重畳表示する表示システムの開発が盛んである。なお、HUDでは、ナビゲーション情報等を含む画像を車両のウインドシールド等に投射して、反射光による虚像を車両の運転者等に視認させる。このため、運転者は、ウインドシールドを通して見える実風景に重なった虚像としてのナビゲーション情報等を、実風景とともに一視界内で認識する。HUDで実風景上の個々の要素(例えば道路上の表示、建物等)に対応して適切な位置にナビゲーション情報等を表示すると運転者にとってナビゲーション情報等の認識が容易となり得る。
しかし、HUDの表示を実風景上の所望の位置に対応させて表示する場合に、運転者の座高、座席の背もたれの角度等の設定の違いによって運転者の視点位置の高さが異なると、運転者の視点から見た時の垂直方向の虚像位置が変更する。虚像位置とは、即ち、運転者の視点から虚像を見た時の俯角である。結果として、HUDの表示範囲と実風景との位置関係が変動してしまう。
運転者の視点の高さに応じて運転者への情報提示を変更する方法として、例えば、特許文献1に開示された技術がある。
特許文献1の技術は、車両の前方のターゲットの位置に対応させて表示される第1表示オブジェクトと、第1表示オブジェクトとは異なる内容を有し異なる位置に表示される第2表示オブジェクトとを含む映像データを生成し、運転者の視点の高さの違いにより、第1表示オブジェクトと第2表示オブジェクトの位置関係を変更する。これにより、運転者の視点の高さが異なっても、実風景上の所望の位置に表示内容を重畳させ易くすることができる。
また特許文献2にも関連する技術が開示されている。
特開2011−123119号公報 特開平7−257228号公報
本発明は、車両等の移動体の乗員(例えば運転者等)の視点の高さが変動する場合にも、乗員に有用な情報の提示を行うことが可能となる表示制御装置、表示制御プログラムを提供する。
本発明の一態様に係る表示制御装置は、認識部と、表示部と、推定部とを含む表示システムにおける表示制御装置である。認識部は、移動体の前景に存在する所定の対象物を認識する。表示部は、認識部の認識結果に基づいて所定画像を生成し、表示媒体にこの所定画像を表示することで移動体の乗員に虚像を視認させる。推定部は、乗員から虚像を見たときの俯角を推定する。上記表示制御装置は、判定部と、制御部とを有する。判定部は、認識部から取得した所定の対象物の位置情報と、推定部から取得した俯角の推定値とに基づき、乗員から見た所定の対象物が虚像の表示範囲内に入るか否かを判定する。制御部は、判定部により所定の対象物が表示範囲内に入ると判定された場合には、表示媒体に表示されたときに、所定の対象物に対応する情報を示す第1の提示画像を表す第1の所定画像を生成するように表示部を制御する。一方、判定部により所定の対象物が表示範囲内に入らないと判定された場合には、表示媒体に表示されたときに、所定の対象物に対応する情報を第1の提示画像とは異なる態様で示す第2の提示画像を表す第2の所定画像を生成するように表示部を制御する。
本発明の一態様に係る表示制御プログラムは、上記表示システムにおけるコンピュータに実行させる。このプログラムは、コンピュータに対して、以下の処理を実行させる。認識部が所定の対象物を認識した第1のタイミングにおいて、認識部によって認識された所定の対象物の位置情報と、推定部により推定された第1の俯角に基づき、乗員から見た所定の対象物が虚像の表示範囲内に入るか否かを判定する処理。所定の対象物が表示範囲内に入ると判定された場合には、表示媒体に表示されたときに、所定の対象物に関する情報を示す第1の提示画像を表す第1の所定画像を生成するように表示部を制御する処理。第1のタイミングとは異なる第2のタイミングにおいて、推定部が推定した第2の俯角が第1の俯角と異なり、所定の対象物が表示範囲内に入らないと判定された場合には、表示媒体に表示されたときに、所定の対象物に関する情報を前記第1の提示画像とは異なる態様で示す第2の提示画像を表す第2の所定画像を生成するように表示部を制御する処理。
本発明によれば、移動体の乗員の視点の高さが変動する場合にも、乗員に有用な情報の提示を行うことが可能となる。
図1Aは、車両の運転者に見える車両前方の実風景とHUDの表示範囲との位置関係(高い視点の場合)を示す図である。 図1Bは、車両の運転者に見える車両前方の実風景とHUDの表示範囲との位置関係(標準的な高さの視点の場合)を示す図である。 図1Cは、車両の運転者に見える車両前方の実風景とHUDの表示範囲との位置関係(低い視点の場合)を示す図である。 図2は、実施の形態に係る表示システムの構成例を示す模式図である。 図3は、所定の対象物がHUDの表示範囲内に入る状態を示す図である。 図4は、所定の対象物がHUDの表示範囲内に入らない状態を示す図である。 図5は、運転者の視点からの眺めの例(所定の対象物がHUDの表示範囲内に入る場合)を示す図である。 図6は、運転者の視点からの眺めの例(所定の対象物がHUDの表示範囲内に入らない場合)を示す図である。 図7は、表示部の構成を例示する構成図である。 図8は、表示部のミラーの角度の調整を示す概念図である。 図9は、表示制御装置による表示制御処理を示すフローチャートである。 図10は、運転者の視点からの眺めの例(交差点がHUDの表示範囲内に入る場合)を示す図である。 図11は、運転者の視点からの眺めの例(交差点がHUDの表示範囲内に入らない場合)を示す図である。 図12は、表示制御処理の変形例を示すフローチャートである。
本発明の実施の形態の説明に先立ち、従来の技術における問題点を簡単に説明する。
運転者の視点の高さについては、例えば、全運転者の99%の視点位置をカバーするため、一般的には、標準的な視点の高さから上下150mm程度の変動範囲を考慮する必要がある。このとき、運転者の視点から虚像を見た時の俯角が変動するため、図1A〜図1Cに示すように、視点が最も高い位置と最も低い位置でHUDの表示範囲は大きく異なる。図1A〜図1Cは、車両の運転者に見える車両前方の実風景とHUDの表示範囲50との位置関係を示す図である。図1Aは、標準的な視点より高い視点を有する運転者の視界の例を示し、図1Bは、標準的な視点と同じ高さの視点を有する運転者の視界の例を示し、図1Cは、標準的な視点より低い視点を有する運転者の視界の例を示す。
特許文献1の技術では、上述の高い視点や低い視点のように運転者の視点の高さが標準的な視点の高さと大きく異なる場合に、問題が生じる。車両の前方の実風景上のターゲットの位置に対応させて表示しようとする表示オブジェクトの重畳位置がHUDの表示範囲外となってしまい、運転者に見えるように有用な情報の表示ができない。すなわち、特許文献1の技術では、運転者の視点の高さが変動する場合における情報提示が有用ではない。
以下、本発明の実施の形態について、図面を参照しながら説明する。ここで示す実施の形態は、いずれも本発明の一具体例を示すものである。従って、以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置及び接続形態、並びに、ステップ(工程)及びステップの順序等は、一例であって本発明を限定するものではない。以下の実施の形態における構成要素のうち、独立請求項に記載されていない構成要素については、任意に付加可能な構成要素である。また、各図は、模式図であり、必ずしも厳密に図示されたものではない。
(実施の形態1)
図2は、本発明の実施の形態1に係る表示システム10の構成例を示す模式図である。まず、本実施の形態に係る表示システム10の構成例について説明する。
表示システム10は、例えば車両等の移動体に搭載され、情報を表す画像をウインドシールド700等の表示媒体に投射することで視点900を有する移動体の乗員にその情報を映した虚像800を視認させる表示部(例えばHUD等)を含む表示システムである。表示システム10により、実風景等と重なって虚像としての情報が、乗員の視界内に表示されるようになる。なお、本実施の形態では、表示システム10が車両に適用されたものとして説明するが、移動体は、車両に限定されず、船舶、航空機等であってもよい。また、本実施の形態では、移動体の乗員が、特に車両の運転者である例について説明するが、その限りではない。上述の表示部の投射により乗員の視野内に表示される虚像の表示範囲(つまり虚像としての最大画像が表示され得る最大範囲)は、表示部の配置、構造等により物理的に一定範囲に制限される。この虚像の表示範囲を、ここでは、HUDの表示範囲とも称する。
表示システム10は、図2に示すように、センサ100、認識部200、推定部300、表示制御装置20(判定部400及び制御部500)、表示部600及びウインドシールド(表示媒体)700を有する。
センサ100は、車両の内部又は外部に搭載され、逐次(例えば数百ミリ秒、数十ミリ秒等の所定時間毎に)、車両の運転者の前景をセンシングする。センサ100は、例えば前景の光等を検知するイメージセンサ(カメラ)である。なお、センサ100は、車両の運転者の前景の状態を検知するものであれば足り、例えば電磁波の反射を検知するレーダであってもよい。センサ100は、前景のセンシングの結果を示す前景情報を認識部200へ伝達する。この出力は、例えば、所定の時間間隔で行われる。
認識部200は、センサ100から伝達される前景情報に基づいて、車両の運転者の前景において車両周辺(例えば前方100m以内程度)に存在する所定の対象物を認識し、認識結果を示す認識結果情報を出力する。認識対象である所定の対象物は、例えば、移動体(例えば、車両、人、自転車、二輪車等)、道路標識、道路上の白線、路面標示、縁石、ガードレール、信号機、電柱、建物である。例えば、センサ100がカメラである場合、認識部200は、前景情報(つまりカメラが撮影した前景画像)に対してパターンマッチング等の画像処理を行うことにより、対象物を認識する。また、例えば、センサ100がレーダである場合、認識部200は、前景情報からクラスタリング又は機械学習等により対象物を抽出し、認識する。このような認識部200における対象物認識の技術は周知技術であるため、ここでは詳細な説明を省略する。認識部200が出力する認識結果情報は、例えば、所定の対象物の存在位置(X,Y)である。所定の対象物が複数種類(移動体、道路標識等)ある場合においては、認識結果情報は、所定の対象物の種類と存在位置とを対応付けた情報であることとしてもよい。なお、所定の対象物の存在位置(X,Y)は、例えば車両の運転者の前景を捉えるようにセンシングカメラが設置された点を基準として運転者の左右(横)方向をX軸、前後方向をY軸とするカメラ座標系における座標である。また、所定の対象物の存在位置(X,Y)におけるYは、例えば車両の進行方向における車両と所定の対象物との距離を示す。
推定部300は、運転者の視点から虚像(表示部600により表示された画像)を見たときの俯角を推定してその推定値を出力する。具体的には、予め各視点位置での俯角の値を保持しておき、図示しないカメラで運転者の視点の位置を検出して俯角を推定する。なお、俯角の推定はこの方法に限らず、例えば、表示部600に設けられているミラーの角度から運転者の視点の位置を推定して、その結果に基づき俯角を推定するようにしてもよい。
上述の認識部200及び推定部300の各機能は、例えばメモリ及びプロセッサ(CPU(Central Processing Unit)等)を含むコンピュータ等においてメモリに格納された。
制御プログラムをプロセッサが実行することにより実現される。センサ100のセンシングに対応して逐次(例えば数百ミリ秒、数十ミリ秒等の所定時間毎に)認識部200により認識結果情報が出力される。また、適時(表示システム10の起動時等)に1度又は一定周期(例えば数秒、数百ミリ秒)毎等に推定部300により俯角の推定値が出力される。
表示制御装置20は、認識部200及び推定部300の出力する情報を取得し、逐次(例えば数百ミリ秒、数十ミリ秒等といった所定時間毎に)、表示(表示媒体への投射)の対象となる画像を生成するように表示部600を制御する。表示制御装置20は、ハードウェア面では例えばメモリ及びプロセッサを含む周知のコンピュータ等により実現され、機能的な構成要素として判定部400及び制御部500を有する。判定部400及び制御部500の各機能は、メモリに格納された制御プログラムをプロセッサが実行することにより実現される。なお、メモリは、プログラム及びデータを予め保持しているROM(Read Only Memory)、プログラムの実行に際してデータ等の記憶に利用するためのRAM(Random Access Memory)等であり、例えば不揮発性メモリを含んでいてもよい。
判定部400は、認識部200が出力する認識結果情報と推定部300が出力する俯角の推定値とを得て、この認識結果情報及び俯角の推定値に基づいて、認識結果情報により示される所定の対象物がHUDの表示範囲内に入るか否かを判定する。なお、運転者の俯角の大きさに依存して、HUDの表示範囲内に入る前景の路面等の距離範囲は変化する。判定部400は、具体的には図3に示すように、運転者の視点900と所定の対象物60とを結んだ直線が虚像800の表示範囲内を通る場合には、所定の対象物60がHUDの表示範囲内に入っていると判定する。一方で、図4に示すように、運転者の視点900と所定の対象物60を結んだ直線が虚像800の表示範囲内を通らない場合には、所定の対象物60がHUDの表示範囲内に入っていないと判定する。図3に示すように運転者の視点900が俯角51aを有する位置にある場合と、図4に示すように運転者の視点900が、俯角51aよりも大きい俯角51bを有する位置にある場合とでは、所定の対象物60がHUDの表示範囲内に視認されるか否かが異なる。なお、判定部400は、上述のように所定の対象物60がHUDの表示範囲内に入るか否かを判定する代わりに、実風景に重畳して表示する虚像において所定の対象物60の周囲に表示すべく設定された表示オブジェクトの表示位置が、HUDの表示範囲内に入るか否かを判定するようにしてもよい。判定部400は、判定結果を示す判定結果情報を制御部500へ伝達する。
制御部500は、ウインドシールド700に投射されるべき画像つまり虚像として表示されるべき画像を生成するように表示部600を制御する。具体的には制御部500は、判定部400から伝達された判定結果情報に基づいて、所定の対象物60がHUDの表示範囲内に入る場合と入らない場合とのそれぞれで異なる画像が表示部600に生成されるように表示部600を制御する。
所定の対象物60がHUDの表示範囲内に入ると判定部400により判定された場合には、制御部500は、表示媒体に表示されたときに、図5に示すように実風景上の所定の対象物60に表示オブジェクトが重畳される画像を表す所定画像を生成するように表示部600を制御する。なお、制御部500は、表示媒体に表示されたときにHUDの表示範囲50内に表示される画像を表す所定画像を生成するように表示部600を制御している。表示オブジェクトは、文字列、記号、図形、イメージ等といった標章等で形成された、画像の構成要素(つまり画像要素)であり、予め定められている。本実施の形態では、表示オブジェクトは、所定の対象物60に関して運転者に注意を促す警告を表している。図5は、例えば図3に示す俯角51aを有する運転者の視点からの眺めを示す。図5では、実風景において所定の対象物60としての人が現れており、HUDの表示範囲50内には人に重畳して楕円形の表示オブジェクト70aが表示されている。表示オブジェクト70aにより、人(所定の対象物60)の存在が運転上注意すべき事項として強調されるため、車両の運転者は、所定の対象物60を的確に認識し得る。
一方、所定の対象物60がHUDの表示範囲内に入らないと判定部400により判定された場合には、制御部500は、表示媒体に表示されたときに、図6に示すように実風景上の所定の対象物60の位置を間接的に表現する画像を表す所定画像を生成するように表示部600を制御する。図6の場合は、図5の場合と異なり運転者の視点から見て所定の対象物60がHUDの表示範囲内に入らず、所定の対象物60に重畳させて表示オブジェクトを表示するような画像を生成できないから、所定の対象物60の位置を矢印等の標章で表す画像を生成する。図6は、例えば図4に示す俯角51bを有する運転者の視点からの眺めを示す。図6では、実風景において所定の対象物60としての人が現れている点は図5と同じであるが、HUDの表示範囲50内に人が入らないので、人の位置の方向を表す矢印と注意を促す文字列とを含む表示オブジェクト70bが表示されている。ここでは制御部500は、所定の対象物60がHUDの表示範囲内に入らないと判定された場合にその対象物の位置を間接的に表す表示オブジェクトを含む画像を生成した。しかし、対象物の位置を間接的に表す表示オブジェクトでなくても、所定の対象物60に関連付けられていることを運転者に認識させ得る表示オブジェクトであれば良く、表示態様は他の態様でもよい。運転者は、表示オブジェクトにより所定の対象物60を的確に認識し得る。
表示部600は、制御部500からの制御により所定画像を生成して、その画像をウインドシールド700に投射する。表示部600の構成例を図7に示す。表示部600は、例えば、LCD(Liquid Crystal Display)610、平面ミラー620a及び凹面ミラー620b、画像を生成する画像生成部(図示せず)を有する。表示部600において、画像は、LCD610に表示される。LCD610に表示された画像は、平面ミラー620aで反射され、凹面ミラー620bにより拡大され、ウインドシールド700に投射(投影)される。
ウインドシールド700に拡大投影された画像は、運転者から虚像800として視認される。このとき、虚像800は、運転者の視界内に見える実風景等に重畳して表示される。虚像800は、運転者に、運転中における視線の焦点となる位置(例えば2m〜3m先)に現れるように認識される。
運転者の視点900は、運転者の座高や座席の背もたれの角度等の違いにより、高さが変化する。視点900の高さの違いに対応するため、モーター駆動等により凹面ミラー620bの角度を調整する調整部(図示せず)が設けられる。図8は、表示部600のミラーの角度の調整を示す概念図である。図8に示すように、凹面ミラー620bの角度を調整することにより、座高が高い場合(図8の実線)、及び、座高が低い場合(図8の破線)の双方において、運転者の視点から虚像を視認することができる。凹面ミラー620bの角度調整は、例えば、図示しないカメラで運転者の視点の位置を検出し、その検出結果に基づいて調整するようにしてもよいし、図示しない調整用スイッチを設け、運転者による調整用スイッチの操作に応じて調整するようにしてもよい。
次に、本実施の形態に係る表示システム10の動作例について説明する。
表示システム10においては、所定時間毎にセンサ100からの前景情報に応じて認識部200が所定の対象物を認識してその対象物の存在位置を示す認証結果情報を出力する。この認証結果情報の出力と並行して、推定部300は、図示しないカメラで検出した運転者の視点の位置或いは調整された表示部600のミラー(凹面ミラー620b等)の角度等に基づいて運転者の視点における俯角を推定し、俯角の推定値を出力する。これらの出力を受けて表示制御装置20は、画像を生成するための表示制御処理を実行し、生成された画像は表示部600により表示される。
図9は、本実施の形態に係る表示制御装置20による表示制御処理を示すフローチャートである。以下、図9に即して表示制御装置20による表示制御処理について説明する。この表示制御処理は、所定の周期で繰り返し実行される。この周期は、表示部600(LCD610)に所定画像を供給するフレームレートに関係し、例えば数百ミリ秒、数十ミリ秒等である。
まず、表示制御装置20の判定部400は、推定部300が出力した俯角の推定値を取得する(ステップS1)。また、判定部400は、認識部200が出力した認識結果情報を取得することで所定の対象物の位置情報を得る(ステップS2)。
判定部400は、取得した俯角の推定値と所定の対象物の位置情報とに基づいて、運転者から見た所定の対象物が虚像の表示範囲つまりHUDの表示範囲50内に入るか否かを判定する(ステップS3)。この判定結果を示す判定結果情報が制御部500に伝達される。
制御部500は、判定結果情報を参照して、判定部400が所定の対象物がHUDの表示範囲50内に入ると判定した場合(ステップS3でyes)には、表示媒体に表示されたときに、運転者から見て所定の対象物の位置に所定の対象物に対応する情報を示す第1表示オブジェクト(第1の提示画像)を表す第1の所定画像を生成するように表示部600を制御し(ステップS4)、そして、表示部600は第1の所定画像を生成する。所定画像は、例えばLCD610に表示されるべき所定サイズの画像であり、表示オブジェクトが配置されない部分は非表示となるように例えば輝度が所定の低い輝度値(例えば0)である。また、第1表示オブジェクトは、例えば所定の対象物60に対応する情報(例えば楕円形の図形)を示す上述の表示オブジェクト70aである(図5参照)。所定画像における第1表示オブジェクトの位置は、認識結果情報及び俯角の推定値に基づいて運転者から見て所定の対象物に重なる位置に計算される。なお、認識結果情報に、所定の対象物の種類が含まれる場合に種類毎に所定画像に配置する表示オブジェクトが示す情報の内容(例えば図形の形状)を予め定めた内容としてもよい。
また、ステップS3において制御部500は、判定部400が所定の対象物がHUDの表示範囲50内に入らないと判定した場合(ステップS3でno)には、表示媒体に表示されたときに、表示範囲の中央より、運転者から見て所定の対象物の位置の方に近い位置に所定の対象物に対応する情報を示す第2表示オブジェクト(第2の提示画像)を表す第2の所定画像を生成するように表示部600を制御し(ステップS5)、そして、表示部600は第2の所定画像を生成する。第2表示オブジェクトは、第1表示オブジェクトとは表示態様が異なり、例えば所定の対象物60に対応する情報(例えば矢印の図形と注意を促す「Caution」の文字列との組)を示す上述の表示オブジェクト70bである(図6参照)。所定画像における第2表示オブジェクトの位置は、認識結果情報及び俯角の推定値に基づいて、所定画像の中央に配置した場合よりも運転者から見た所定の対象物の方向にシフト(移動)した位置に計算される。シフト量は任意であるが、例えばシフト可能な最大量だけシフトしてもよい。図6の例では、上方にシフトしている。このシフトにより第2表示オブジェクトが所定の対象物と関連付けられていることを運転者に認識させ易くなる。
ステップS4又はステップS5における制御部500による制御を受けて表示部600は、生成した第1又は第2の所定画像を表示媒体に投射する。
以上、本発明の実施の形態について説明したが、本発明は上記実施の形態1に限定されず、種々の変形が可能である。以下、変形例について説明する。
上述の表示部600におけるミラー或いはレンズ等の光学系の構成(ミラーの種類及び枚数等)は、図7に示す以外のものであってもよい。また、表示部600における画像の出力手段はLCD以外のもの(例えば、レーザープロジェクタ、LCOS(Liquid Crystal on Silicon)等)であってもよい。
また、表示部600は、画像をウインドシールド700に投影することとしたが、ウインドシールド700とは別に設けられるハーフミラーであるコンバイナに投影するようにしてもよい。さらに、表示部600は、ウインドシールド700の内部または表面に設けられる透過型ディスプレイに画像を表示するものであってもよい。
また、上述の表示制御処理のステップS5において、第2表示オブジェクトを所定の対象物の方向にシフトすることとしたが、必ずしもシフトを行わなくても良く、第2表示オブジェクトを所定画像における任意の位置(例えば中央)に配置してもよい。
また、上述した第2表示オブジェクトは、所定の対象物の位置を表現する特定の標章(矢印の図形等)を含んだ表示オブジェクト70b等に限られず、所定の対象物の位置を示さないものであってもよい。また、第1表示オブジェクトは、所定の対象物に重畳する位置に配置される他、所定の対象物の周辺に配置されることとしてもよい。第1表示オブジェクトは、所定の対象物に重畳する位置に表示する場合にはその位置を示す必要がないので、位置を表現する特定の標章を含まなくてもよい。第1表示オブジェクトを所定の対象物の周辺に配置する場合等において所定の対象物の位置を表現する特定の標章(矢印の図形等)を第1表示オブジェクトに含ませてもよい。
また、上述の認識部200は、同時に複数の所定の対象物を認識しても良く、複数の所定の対象物のそれぞれに対して判定部400による判定と、制御部500による表示オブジェクト(第1又は第2表示オブジェクト)の生成制御と、表示部600による所定画像の生成とが行われることとしてもよい。
また、上述した所定画像には、運転に必要な各種情報(速度その他の情報)を表す表示オブジェクトを含ませてもよい。
また、上述した第1表示オブジェクト及び第2表示オブジェクトを表示する際に、車両に搭載されたスピーカ等から音声により運転者に情報を伝えてもよい。この場合において第1表示オブジェクトを表示する際と第2表示オブジェクトを表示する際とでは異なる音声を出力することとしてもよい。
また、上述した第1表示オブジェクトと第2表示オブジェクトとは、互いに色、輝度等を異ならせてもよい。
また、上述の表示制御装置20における表示制御処理の手順(図9参照)の実行順序は、必ずしも、上述した通りの順序に制限されるものではなく、発明の要旨を逸脱しない範囲で、実行順序を入れ替えたりその一部を省略したりすることができる。また、上述の表示制御処理の手順の全部又は一部は、ハードウェアにより実現されても、ソフトウェアを用いて実現されてもよく、ソフトウェアとハードウェアの両方の組合せで実現されていてもよい。なお、ソフトウェアによる処理は、コンピュータ等に含まれるプロセッサがメモリに記憶された表示制御プログラムを実行することにより実現されるものである。また、その表示制御プログラムを記録媒体に記録して頒布や流通させてもよい。例えば、頒布された表示制御プログラムを、プロセッサを有する装置にインストールして、その装置のプロセッサに実行させることで、その装置に表示制御処理の全部又は一部を行わせることが可能となる。
また、上述したコンピュータは、必須ではないが、入力装置、出力装置、記録媒体から情報を読み取る読取装置、或いは、ネットワークを介して通信を行う送受信装置を有してもよい。入力装置は例えば、入力用ボタン、タッチパッドである。出力装置は例えば、ディスプレイ、スピーカである。記録媒体は例えば、ハードディスク装置やSSD(Solid State Drive)等の記憶装置、DVD−ROM(Digital Versatile Disk Read Only Memory)、USB(Universal Serial Bus)メモリである。例えば上述した表示制御プログラムがUSBメモリ等の記録媒体に記録されていれば、読取装置は、その表示制御プログラムを読み取り、メモリ或いはその他の記憶装置に記憶させる。また、送受信装置が、表示制御プログラムを格納している外部のサーバ装置とネットワークを介して通信を行い、サーバ装置から表示制御プログラムをダウンロードしてメモリ或いはその他の記憶装置に記憶させてもよい。なお、表示制御装置20は、集積回路として構成されてもよい。
このように、表示システム10(表示制御装置20等)によれば、車両等の移動体の乗員(例えば運転者等)の視点の高さの変動範囲が大きい場合にも、乗員に有用な情報の提示を行うことが可能となる。
(実施の形態2)
以下、実施の形態1で説明した表示システム10に車両のナビゲーション機能を追加して成る変形表示システムについて説明する。
この変形表示システムは、センサ100、認識部200、推定部300、変形表示制御装置、表示部600及びウインドシールド700を有する。なお、実施の形態1と同じ構成要素には、実施の形態1と同じ符号を付しており、ここでは詳しい説明を省略する。
変形表示制御装置は、実施の形態1で示した表示制御装置20に、GPS(Global Positioning System)による測位情報及び地図データに基づく車両のナビゲーション機能を追加した構成を有する。変形表示制御装置は、ハードウェアとしては上述の表示制御装置20と同様にメモリ及びプロセッサを含むコンピュータ等で構成され、更に、GPS受信機を有する。また、地図データを取得して記憶するためにメモリの他にハードディスク装置等の記憶装置、送受信装置等を有してもよい。なお、車両のナビゲーションの技術は周知技術であるため、ここでは詳細な説明を省略する。変形表示制御装置は、判定部400及び制御部500を含み、認識結果情報及びGPSによる測位情報に基づいて、運転者に入力された車両の目的地までの進路誘導用の情報を表示するための所定画像を表示部600が生成するように制御する。変形表示制御装置は、進路誘導用の情報の表示のために、GPSによる測位情報及び地図データに基づき誘導を要する地点(例えば進行方向前方100m以内の交差点等)を特定し、その地点を所定の対象物と看做して実施の形態1で示した認識結果情報と同様の情報を生成する。これにより、その地点(例えば交差点)を所定の対象物と取り扱うことで、判定部400及び制御部500のそれぞれは次のような働きをする。以下、交差点を所定の対象物と取り扱う例で説明する。
判定部400は、変形表示制御装置に生成された認識結果情報と俯角の推定値とに基づいて、誘導を要する地点に相当する所定の対象物である交差点がHUDの表示範囲内に入るか否かを判定する。
また、制御部500は、所定の対象物(交差点)がHUDの表示範囲内に入ると判定部400により判定された場合には、制御部500は、表示媒体に表示されたときに、図10に示すように実風景上に現れるはずの交差点に重畳される表示オブジェクトを表す所定画像を生成するように表示部600を制御する。なお、実風景上に現れるはずの交差点の位置は、実際は測位情報、地図データ及び俯角の推定値から計算された位置である。
本実施の形態では、表示オブジェクトは、所定の対象物(交差点)に関して運転者に進路誘導用の情報を表している。図10は、例えば図3に示す俯角51aを有する運転者の視点からの眺めを示す。図10では、HUDの表示範囲50内には交差点61に重畳して右折の矢印を表す表示オブジェクト80aが表示されている。表示オブジェクト80aにより、車両の運転者は、交差点61を視認しつつ、交差点61でどちらに進めばよいかを的確に認識し得る。
一方、誘導を要する地点に相当する所定の対象物(交差点)がHUDの表示範囲内に入らないと判定部400により判定された場合には、制御部500は、表示媒体に表示されたときに、図11に示すように実風景上に現れるはずの交差点61に関して運転者に進路誘導用の情報を表示オブジェクト80aとは異なる態様で示す表示オブジェクト80bを表す所定画像を生成するように表示部600を制御する。図11は、例えば図4に示す俯角51bを有する運転者の視点からの眺めを示す。図11の場合は、図10の場合と異なり運転者の視点から見て交差点61がHUDの表示範囲内に入らず、交差点61に重畳させて表示オブジェクトを表示するような画像を生成できないから、重畳している場合と区別可能な画像を生成する。図11に例示した表示オブジェクト80bは、交差点61の位置が、100m前方にあることを示す文字列と右折を表すアイコンとを表している。表示オブジェクト80bにより、車両の運転者は、交差点61でどちらに進めばよいかを的確に認識し得る。
なお、上述した変形表示制御装置の制御部500は、表示媒体に表示されたときに、進路誘導用の情報の他に、所定の対象物(地図上で予め定められた地点、建物等)に関した案内情報を示す表示オブジェクトを表す所定画像を生成するように表示部600を制御してもよい。
以上説明したように、本実施の形態で説明した変形表示システム(変形表示制御装置等)によれば、実施の形態1の表示システム10と同様に、車両等の移動体の乗員(例えば運転者等)の視点の高さの変動範囲が大きい場合にも、乗員に有用な情報の提示を行うことが可能となる。なお、実施の形態1で説明した各変形例を、本実施の形態に適宜適用してもよい。
また、上述した表示制御処理(図9参照)を例えば図12に示すように変形してもよい。表示制御装置20又は変形表示制御装置の機能を担うコンピュータは、表示制御プログラムの実行により、図12に示す処理手順を実行する。即ち、認識部200が所定の対象物を認識した場合に(ステップS11)、その認識した第1のタイミングにおいて、コンピュータは、認識部200によって認識された所定の対象物の位置情報と、推定部300により推定された第1の俯角に基づき、運転者(移動体の乗員)から見た所定の対象物が虚像の表示範囲(HUDの表示範囲)内に入るか否かを判定する(ステップS12)。ステップS12において所定の対象物が虚像の表示範囲内に入ると判定した場合(ステップS12でyes)には、コンピュータは、所定の対象物に対応する情報を示す第1表示オブジェクト(第1の提示画像)を表す第1の所定画像を生成するように表示部600を制御する(ステップS13)。例えば第1の所定画像において第1表示オブジェクトは表示媒体に表示されたときに運転者から見た所定の対象物の位置等に表されてもよい。また、ステップS12において所定の対象物が虚像の表示範囲内に入らないと判定した場合(ステップS12でno)には、コンピュータは、所定の対象物に対応する情報を第1表示オブジェクトとは異なる態様で示す第2表示オブジェクト(第2の提示画像)を表す第2の所定画像を生成するように表示部600を制御する(ステップS15)。また、ステップS13における制御後、例えば推定部300による推定結果の俯角が変化した場合等の第2のタイミングにおいて、認識部200によって認識された所定の対象物の位置情報と、推定部300により推定された第2の俯角に基づき、コンピュータは、運転者から見た所定の対象物が虚像の表示範囲内に入らなくなったか否かを判定する(ステップS14)。ステップS14において所定の対象物が虚像の表示範囲内に入らなくなったと判定した場合(ステップS14でno)には、コンピュータは、所定の対象物に対応する情報を第1表示オブジェクトとは異なる態様で示す第2表示オブジェクト(第2の提示画像)を表す第2の所定画像を生成するように表示部600を制御する(ステップS15)。これにより、運転者の俯角が変化しても、運転者への有用な情報の表示が可能となる。
以上のように、本発明の一様態に係る表示制御装置は、認識部と、表示部と、推定部とを含む表示システムにおける表示制御装置である。認識部は、移動体の前景に存在する所定の対象物を認識する。表示部は、認識部の認識結果に基づいて所定画像を生成し、表示媒体にこの所定画像を表示することで移動体の乗員に虚像を視認させる。推定部は、乗員から虚像を見たときの俯角を推定する。上記表示制御装置は、判定部と、制御部とを有する。判定部は、認識部から取得した所定の対象物の位置情報と、推定部から取得した俯角の推定値とに基づき、乗員から見た所定の対象物が虚像の表示範囲内に入るか否かを判定する。制御部は、判定部により所定の対象物が表示範囲内に入ると判定された場合には、表示媒体に表示されたときに、所定の対象物に対応する情報を示す第1の提示画像を表す第1の所定画像を生成するように表示部を制御する。一方、判定部により所定の対象物が表示範囲内に入らないと判定された場合には、表示媒体に表示されたときに、所定の対象物に対応する情報を第1の提示画像とは異なる態様で示す第2の提示画像を表す第2の所定画像を生成するように表示部を制御する。第1の提示画像又は第2の提示画像は、例えば文字列、記号、図形、イメージ等といった標章等で形成された表示オブジェクトである。また、虚像の表示範囲は、例えばHUDの表示範囲である。
これにより、表示システムにおいて、移動体の乗員の視点の高さの変動範囲が大きい場合にも、乗員に有用な情報の提示を行うことが可能となる。
また、表示部に第1の提示画像を表す第1の所定画像を生成させる場合、制御部は、認識部から取得した所定の対象物の位置情報と推定部から取得した俯角の推定値とに基づき、乗員から見て所定の対象物の位置に第1の提示画像についての虚像が現れるように、第1の所定画像に第1の提示画像を配置させる。一方、表示部に第2の提示画像を表す第2の所定画像を生成させる場合には、認識部から取得した所定の対象物の位置情報と推定部から取得した俯角の推定値とに基づき、所定の対象物の位置を表現する特定の標章を含むように第2の提示画像を定めさせる。このように制御することが好ましい。これにより、乗員が表示媒体の範囲内を観察したときに所定の対象物が含まれない、すなわち、乗員が所定の対象物を観察したときに所定の対象物がHUDの表示範囲外となる場合であっても、移動体の乗員は、所定の対象物(例えば注意すべき物体等)がどこにあるのかを第2の提示画像により認識し得る。
また、上記特定の標章は、所定の対象物の方向を示す矢印であることとしてもよい。矢印は、特定の方向を指し示す形状の図形であれば足り、矢印先端が必ずしも尖っていなくてもよく、また、矢印先端部分だけの図形(例えば三角形)であってもよい。これにより、虚像を所定の対象物に重畳して乗員に視認させることができない場合においても、移動体の乗員は、矢印が指す方向によって所定の対象物の位置を容易に認識し得るようになる。
また、第1の提示画像は、特定の標章を含まないこととしてもよい。これにより、移動体の乗員は、所定の対象物に重畳して表示されている第1の提示画像と、所定の対象とは別の位置に表示されている第2の提示画像とを容易に識別でき、前景の状況を適切に把握し得る。
また、制御部は、表示部に第1の提示画像を表す第1の所定画像を生成させる場合には、認識部から取得した所定の対象物の位置情報と推定部から取得した俯角の推定値とに基づき、乗員から見て所定の対象物の位置に第1の提示画像についての虚像が現れるように第1の所定画像に第1の提示画像を配置させる。一方、表示部に第2の提示画像を表す第2の所定画像を生成させる場合には、認識部から取得した所定の対象物の位置情報と推定部から取得した俯角の推定値とに基づき、虚像の表示範囲の中央よりも乗員から見て所定の対象物の位置に近い位置に第2の提示画像についての虚像が現れるように第2の所定画像に第2の提示画像を配置させる。このように制御することも好ましい。これにより、移動体の乗員は、所定の対象物と第2の提示画像とが関連していることを容易に認識し得るようになる。
また、移動体は、車両でありかつ表示制御装置を搭載することとしてもよい。これにより、運転者の視点の高さが高くても低くても車両の運転中に有用な情報を認識し得るようになる。
また、本発明の一態様に係る表示制御プログラムは、上記表示システムにおけるコンピュータに実行させる。このプログラムは、コンピュータに対して、以下の処理を実行させる。認識部が所定の対象物を認識した第1のタイミングにおいて、認識部によって認識された所定の対象物の位置情報と、推定部により推定された第1の俯角に基づき、乗員から見た所定の対象物が虚像の表示範囲内に入るか否かを判定する処理。所定の対象物が表示範囲内に入ると判定された場合には、表示媒体に表示されたときに、所定の対象物に関する情報を示す第1の提示画像を表す第1の所定画像を生成するように表示部を制御する処理。第1のタイミングとは異なる第2のタイミングにおいて、推定部が推定した第2の俯角が第1の俯角と異なり、所定の対象物が表示範囲内に入らないと判定された場合には、表示媒体に表示されたときに、所定の対象物に関する情報を前記第1の提示画像とは異なる態様で示す第2の提示画像を表す第2の所定画像を生成するように表示部を制御する処理。コンピュータを含んで構成される表示システムにこの表示制御プログラムをインストールして実行することにより、移動体の乗員の視点の高さの変動範囲が大きい場合にも、乗員に有用な情報の提示を行うことが可能となる。
本発明は、車両等の移動体の乗員に対して提供される情報の表示を制御する表示制御装置等に適用できる。
10 表示システム
20 表示制御装置
50 表示範囲
51a,51b 俯角
60 対象物
61 交差点
70a,70b,80a,80b 表示オブジェクト
100 センサ
200 認識部
300 推定部
400 判定部
500 制御部
600 表示部
610 LCD
620a 平面ミラー
620b 凹面ミラー
700 ウインドシールド(表示媒体)
800 虚像
900 視点

Claims (7)

  1. 移動体の前景に存在する所定の対象物を認識する認識部と、
    前記認識部の認識結果に基づいて所定画像を生成し、表示媒体に前記所定画像を表示することで前記移動体の乗員に虚像を視認させる表示部と、
    前記乗員から虚像を見たときの俯角を推定する推定部と、を含む表示システムにおける表示制御装置であって、
    前記認識部から取得した前記所定の対象物の位置情報と、前記推定部から取得した前記俯角の推定値とに基づき、前記乗員から見た前記所定の対象物が虚像の表示範囲内に入るか否かを判定する判定部と、
    前記判定部により前記所定の対象物が前記表示範囲内に入ると判定された場合には、前記表示媒体に表示されたときに、前記所定の対象物に対応する情報を示す第1の提示画像を表す第1の所定画像を生成するように前記表示部を制御し、前記判定部により前記所定の対象物が前記表示範囲内に入らないと判定された場合には、前記表示媒体に表示されたときに、前記所定の対象物に対応する情報を前記第1の提示画像とは異なる態様で示す第2の提示画像を表す第2の所定画像を生成するように前記表示部を制御する制御部と、を備えた、
    表示制御装置。
  2. 前記制御部は、
    前記表示部に前記第1の提示画像を表す前記第1の所定画像を生成させる場合には、前記認識部から取得した前記所定の対象物の位置情報と前記推定部から取得した前記俯角の推定値とに基づき、前記乗員から見て前記所定の対象物の位置に前記第1の提示画像についての虚像が現れるように前記第1の所定画像に前記第1の提示画像を配置させ、
    前記表示部に前記第2の提示画像を表す前記第2の所定画像を生成させる場合には、前記認識部から取得した前記所定の対象物の位置情報と前記推定部から取得した前記俯角の推定値とに基づき、前記所定の対象物の位置を表現する特定の標章を含むように前記第2の提示画像を定めさせる、
    請求項1に記載の表示制御装置。
  3. 前記特定の標章は、前記所定の対象物の方向を示す矢印である、
    請求項2に記載の表示制御装置。
  4. 前記第1の提示画像は、前記特定の標章を含まない、
    請求項2に記載の表示制御装置。
  5. 前記制御部は、
    前記表示部に前記第1の提示画像を表す前記第1の所定画像を生成させる場合には、前記認識部から取得した前記所定の対象物の位置情報と前記推定部から取得した前記俯角の推定値とに基づき、前記乗員から見て前記所定の対象物の位置に前記第1の提示画像についての虚像が現れるように前記第1の所定画像に前記第1の提示画像を配置させ、
    前記表示部に前記第2の提示画像を表す前記第2の所定画像を生成させる場合には、前記認識部から取得した前記所定の対象物の位置情報と前記推定部から取得した前記俯角の推定値とに基づき、虚像の前記表示範囲の中央よりも前記乗員から見て前記所定の対象物の位置に近い位置に前記第2の提示画像についての虚像が現れるように前記第2の所定画像に前記第2の提示画像を配置させる、
    請求項1に記載の表示制御装置。
  6. 前記移動体は、前記表示制御装置を搭載した車両である、
    請求項1〜5のいずれか一項に記載の表示制御装置。
  7. 移動体の前景に存在する所定の対象物を認識する認識部と、
    前記認識部の認識結果に基づいて所定画像を生成し、表示媒体に前記所定画像を表示することで前記移動体の乗員に虚像を視認させる表示部と、
    前記乗員から虚像を見たときの俯角を推定する推定部と、を含む表示システムにおけるコンピュータに実行させる表示制御プログラムであって、
    前記コンピュータに対して、
    前記認識部が前記所定の対象物を認識した第1のタイミングにおいて、前記認識部によって認識された前記所定の対象物の位置情報と、前記推定部により推定された第1の俯角に基づき、前記乗員から見た前記所定の対象物が虚像の表示範囲内に入るか否かを判定する処理と、
    前記所定の対象物が前記表示範囲内に入ると判定された場合には、前記表示媒体に表示されたときに、前記所定の対象物に関する情報を示す第1の提示画像を表す第1の所定画像を生成するように前記表示部を制御する処理と、
    前記第1のタイミングとは異なる第2のタイミングにおいて、前記推定部が推定した第2の俯角が前記第1の俯角と異なり、前記所定の対象物が前記表示範囲内に入らないと判定された場合には、前記表示媒体に表示されたときに、前記所定の対象物に関する情報を前記第1の提示画像とは異なる態様で示す第2の提示画像を表す第2の所定画像を生成するように前記表示部を制御する処理と、を実行させる、
    表示制御プログラム。
JP2016556214A 2014-10-29 2015-10-23 表示制御装置及び表示制御プログラム Active JP6528139B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014220682 2014-10-29
JP2014220682 2014-10-29
PCT/JP2015/005335 WO2016067574A1 (ja) 2014-10-29 2015-10-23 表示制御装置及び表示制御プログラム

Publications (2)

Publication Number Publication Date
JPWO2016067574A1 true JPWO2016067574A1 (ja) 2017-09-14
JP6528139B2 JP6528139B2 (ja) 2019-06-12

Family

ID=55856940

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016556214A Active JP6528139B2 (ja) 2014-10-29 2015-10-23 表示制御装置及び表示制御プログラム

Country Status (5)

Country Link
US (1) US20170309257A1 (ja)
EP (1) EP3213948B1 (ja)
JP (1) JP6528139B2 (ja)
CN (1) CN107074110B (ja)
WO (1) WO2016067574A1 (ja)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105774679B (zh) * 2014-12-25 2019-01-29 比亚迪股份有限公司 一种汽车、车载抬头显示系统及其投影图像高度调节方法
CN108473055B (zh) * 2016-02-05 2021-02-26 麦克赛尔株式会社 平视显示器装置
WO2018043513A1 (ja) * 2016-09-05 2018-03-08 マクセル株式会社 車両用映像表示装置
US10311726B2 (en) * 2017-07-21 2019-06-04 Toyota Research Institute, Inc. Systems and methods for a parallel autonomy interface
CN111095363B (zh) * 2017-09-22 2024-02-09 麦克赛尔株式会社 显示系统和显示方法
JP7095337B2 (ja) * 2018-03-19 2022-07-05 トヨタ自動車株式会社 表示制御装置および表示制御方法
JP7383888B2 (ja) * 2018-03-29 2023-11-21 株式会社リコー 画像制御装置、表示装置、移動体、画像制御方法、及びプログラム
JP7024088B2 (ja) * 2018-07-23 2022-02-22 マクセル株式会社 ヘッドアップディスプレイ
JP6978988B2 (ja) * 2018-08-07 2021-12-08 本田技研工業株式会社 表示装置、表示制御方法、およびプログラム
JP7110966B2 (ja) * 2018-12-13 2022-08-02 トヨタ自動車株式会社 表示制御装置及び表示制御プログラム
JP1671702S (ja) * 2018-12-24 2020-11-02 乗用自動車
WO2021006060A1 (ja) * 2019-07-08 2021-01-14 株式会社デンソー 表示制御装置および表示制御プログラム
JP7283448B2 (ja) * 2019-07-08 2023-05-30 株式会社デンソー 表示制御装置および表示制御プログラム
JP7443100B2 (ja) * 2020-03-10 2024-03-05 キヤノン株式会社 電子機器、電子機器の制御方法、プログラムおよび記憶媒体
CN111881861B (zh) * 2020-07-31 2023-07-21 北京市商汤科技开发有限公司 一种展示方法、装置、设备及存储介质
CN116323320A (zh) * 2020-10-16 2023-06-23 株式会社电装 虚像显示装置以及显示系统
JP7428174B2 (ja) 2020-10-16 2024-02-06 株式会社デンソー 虚像表示装置及び表示システム
JP7400688B2 (ja) 2020-10-19 2023-12-19 トヨタ自動車株式会社 表示装置及び表示方法
CN115857176B (zh) * 2023-01-31 2023-05-26 泽景(西安)汽车电子有限责任公司 一种抬头显示器及其高度调节方法、装置、存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010197493A (ja) * 2009-02-23 2010-09-09 Nippon Sheet Glass Co Ltd ヘッドアップディスプレイ
JP2011123119A (ja) * 2009-12-08 2011-06-23 Toshiba Corp 表示装置、表示方法及び移動体
JP2014075079A (ja) * 2012-10-05 2014-04-24 Denso Corp 表示装置
JP2014201197A (ja) * 2013-04-04 2014-10-27 トヨタ自動車株式会社 ヘッドアップディスプレイ装置

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6956503B2 (en) * 2002-09-13 2005-10-18 Canon Kabushiki Kaisha Image display apparatus, image display method, measurement apparatus, measurement method, information processing method, information processing apparatus, and identification method
JP2007094045A (ja) * 2005-09-29 2007-04-12 Matsushita Electric Ind Co Ltd ナビゲーション装置、ナビゲート方法および車両
CN101467005A (zh) * 2006-06-12 2009-06-24 松下电器产业株式会社 导航装置以及导航方法
EP2216764A4 (en) * 2007-12-05 2012-07-25 Bosch Corp VEHICLE INFORMATION DISPLAY DEVICE
JP4994256B2 (ja) * 2008-01-28 2012-08-08 株式会社ジオ技術研究所 経路案内データベースのデータ構造
US8629903B2 (en) * 2009-04-02 2014-01-14 GM Global Technology Operations LLC Enhanced vision system full-windshield HUD
US7924146B2 (en) * 2009-04-02 2011-04-12 GM Global Technology Operations LLC Daytime pedestrian detection on full-windscreen head-up display
US8704653B2 (en) * 2009-04-02 2014-04-22 GM Global Technology Operations LLC Enhanced road vision on full windshield head-up display
DE102010001684A1 (de) * 2010-02-09 2011-08-11 Robert Bosch GmbH, 70469 Verfahren zum Betreiben eines Head-Up-Display-Systems, Head-Up-Display-System
JP5661788B2 (ja) * 2010-10-04 2015-01-28 パナソニックIpマネジメント株式会社 透過型表示装置、移動体及び制御装置
DE102010041961B4 (de) * 2010-10-05 2022-08-04 Bayerische Motoren Werke Aktiengesellschaft Kraftfahrzeug mit einer Vorrichtung zur Beeinflussung der Blickrichtung des Fahrers
KR20120113579A (ko) * 2011-04-05 2012-10-15 현대자동차주식회사 길안내 정보의 윈드쉴드 표시 장치 및 그 방법
US9031783B2 (en) * 2013-02-28 2015-05-12 Blackberry Limited Repositionable graphical current location indicator

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010197493A (ja) * 2009-02-23 2010-09-09 Nippon Sheet Glass Co Ltd ヘッドアップディスプレイ
JP2011123119A (ja) * 2009-12-08 2011-06-23 Toshiba Corp 表示装置、表示方法及び移動体
JP2014075079A (ja) * 2012-10-05 2014-04-24 Denso Corp 表示装置
JP2014201197A (ja) * 2013-04-04 2014-10-27 トヨタ自動車株式会社 ヘッドアップディスプレイ装置

Also Published As

Publication number Publication date
CN107074110B (zh) 2019-07-05
US20170309257A1 (en) 2017-10-26
EP3213948B1 (en) 2020-03-04
EP3213948A1 (en) 2017-09-06
CN107074110A (zh) 2017-08-18
WO2016067574A1 (ja) 2016-05-06
JP6528139B2 (ja) 2019-06-12
EP3213948A4 (en) 2017-10-11

Similar Documents

Publication Publication Date Title
JP6528139B2 (ja) 表示制御装置及び表示制御プログラム
JP6775188B2 (ja) ヘッドアップディスプレイ装置および表示制御方法
JP6524422B2 (ja) 表示制御装置、表示装置、表示制御プログラム、及び表示制御方法
JP6304628B2 (ja) 表示装置および表示方法
JP6836206B2 (ja) 表示制御装置、及び表示制御プログラム
JP6946963B2 (ja) 重畳画像表示装置及びコンピュータプログラム
JP2017215816A (ja) 情報表示装置、情報表示システム、情報表示方法及びプログラム
JP7017154B2 (ja) 表示制御装置、及び表示制御プログラム
US11803053B2 (en) Display control device and non-transitory tangible computer-readable medium therefor
US11100718B2 (en) Method for operating a display device in a motor vehicle
KR20180022374A (ko) 운전석과 보조석의 차선표시 hud와 그 방법
JP2016091192A (ja) 虚像表示装置、制御方法、プログラム、及び記憶媒体
JPWO2020045328A1 (ja) 表示装置
JP6825433B2 (ja) 虚像表示装置及びコンピュータプログラム
JP6186905B2 (ja) 車載表示装置およびプログラム
JP6805974B2 (ja) 走行支援装置及びコンピュータプログラム
JP6328366B2 (ja) ヘッドアップディスプレイの表示制御装置および表示制御方法
JP2020126478A (ja) 表示制御装置及び表示制御プログラム
JP6597128B2 (ja) 車両用表示装置
JP6939147B2 (ja) 走行情報案内装置及びコンピュータプログラム
JP2021037916A (ja) 表示制御装置及び表示制御プログラム
JP2019207632A (ja) 表示装置
JP2019121140A (ja) 表示制御装置、ヘッドアップディスプレイ装置
JP7338632B2 (ja) 表示装置
JP2018146912A (ja) 車載表示装置、及び車載表示方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180607

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20190118

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190402

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190415

R151 Written notification of patent or utility model registration

Ref document number: 6528139

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

SZ03 Written request for cancellation of trust registration

Free format text: JAPANESE INTERMEDIATE CODE: R313Z03