JP7215228B2 - 制御装置、制御方法、制御プログラム - Google Patents

制御装置、制御方法、制御プログラム Download PDF

Info

Publication number
JP7215228B2
JP7215228B2 JP2019037733A JP2019037733A JP7215228B2 JP 7215228 B2 JP7215228 B2 JP 7215228B2 JP 2019037733 A JP2019037733 A JP 2019037733A JP 2019037733 A JP2019037733 A JP 2019037733A JP 7215228 B2 JP7215228 B2 JP 7215228B2
Authority
JP
Japan
Prior art keywords
vehicle
state
display
control
posture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019037733A
Other languages
English (en)
Other versions
JP2020138701A (ja
Inventor
大介 廣木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2019037733A priority Critical patent/JP7215228B2/ja
Priority to US16/744,270 priority patent/US20200278743A1/en
Priority to CN202010082321.6A priority patent/CN111634232A/zh
Publication of JP2020138701A publication Critical patent/JP2020138701A/ja
Application granted granted Critical
Publication of JP7215228B2 publication Critical patent/JP7215228B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R16/00Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
    • B60R16/02Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
    • B60R16/023Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements for transmission of signals between vehicle parts or subsystems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07CTIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C5/00Registering or indicating the working of vehicles
    • G07C5/02Registering or indicating driving, working, idle, or waiting time only
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07CTIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C5/00Registering or indicating the working of vehicles
    • G07C5/08Registering or indicating performance data other than driving, working, idle, or waiting time, with or without registering driving, working, idle or waiting time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/70Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by an event-triggered choice to display a specific image among a selection of captured images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8006Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying scenes of vehicle interior, e.g. for monitoring passengers or cargo
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/804Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for lane monitoring

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Mechanical Engineering (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、車両に搭載される、表示器の制御装置に関する。
車両周辺や車内の様子を車載カメラで撮像し、電子サイドミラーや電子インナーミラー、カーナビゲーション装置などの表示器に表示する技術が一般的になっている。表示器には撮像画像の全体または一部を選択して表示することができ、また、表示器や車載カメラが複数搭載されている場合には、撮像する車載カメラおよび撮像画像を表示する表示器をそれぞれ切り替えることで、表示器に表示する画像を適宜変更することが可能である。このとき、表示器には、運転者が意図した画像が適切に表示されている必要があり、例えば、特許文献1および2では、運転者の目の位置や視線の向きから運転者が意図する画像を推測し、撮影画像のうち表示器に表示させる画像の範囲を変化させる技術が公開されている。
特開2017-196913号公報 特開2017-196911号公報
しかしながら、特許文献1および2に記載の技術は、カメラなどによって目の位置や視線を正しく認識する必要があり、例えば、運転者がサングラスを装着しているといった、目を正確に認識できない場合は適切な表示ができない虞がある。また、運転者が意図する画像は、車両の状態や車両の周辺状態に応じて変化することが考えられる。例えば、同じ右電子サイドミラーに表示される画像であっても、運転者は、車両が通常走行中のときには車両の右側後方の画像が表示されることを所望し、車両がバックしているときには車両の右下側の広角画像が表示されることを所望することが考えられる。しかしながら、特許文献1および2に記載の方法では車両や車両の周辺状態については考慮されていなかったため、改良の余地がある。
本発明は、上記課題を鑑みてなされたものであり、運転者が意図する画像をより適切に表示器に表示することができる制御装置を提供することを目的とする。
上記課題を解決するために、本発明の一局面は、複数の車載カメラおよび複数の表示器を備えた車両に搭載され、複数の車載カメラのいずれかが撮像した画像の少なくとも一部を複数の表示器のいずれかに表示する制御を行う制御装置であって、制御装置は、車両の乗員を撮像する乗員撮像部と、乗員撮像部によって撮像された画像に基づいて、乗員の顔の向き、および、体勢または体勢の変化を判別する姿勢判別部と、車両の状態または車両の周辺状態を表す信号を取得する車両状態取得部と、車両状態取得部が取得した信号に基づいて、車両の状態または車両の周辺状態を判別する車両状態判別部と、姿勢判別部および車両状態判別部の判別結果に基づいて、制御対象となる表示器と、当該表示器に表示させる表示内容の少なくとも何れか一方を特定する制御内容特定部と、制御内容特定部によって特定された結果に基づいて制御対象となる表示器の表示変更を制御する制御部とを備える。
本発明によれば、運転者が意図する画像をより適切に表示器に表示することができる制御装置を提供することができる。
本発明の一実施形態に係る制御装置の構成を示す機能ブロック図 制御対象および制御内容を絞り込むためのデータ例 制御装置の制御処理手順を説明するフローチャート 姿勢を判別するための処理を説明するフローチャート 本発明のその他の実施形態に係る制御装置を示す機能ブロック図
本発明の一実施形態に係る制御装置は、乗員の姿勢または姿勢の変化と、車両の状態または車両の周辺状態とに基づいて、表示器の表示変更を制御する。これにより、運転者が意図する画像をより適切に表示器に表示することができる。
(実施形態)
以下、本発明の実施形態について、図面を参照しながら詳細に説明する。
<構成>
図1は、本発明の一実施形態に係る制御装置の構成を示す機能ブロック図である。制御装置1は、乗員撮像部2、姿勢判別部3、車両状態取得部4、車両状態判別部5、制御内容特定部6、制御部7を備える。制御装置1は複数の車載カメラ20および複数の表示器30を備えた車両に搭載され、複数の車載カメラ20のいずれかが撮像した画像の少なくとも一部を複数の表示器30のいずれかに表示する制御を行う。また、制御装置1は制御対象となる表示器30(制御対象)と、制御対象の表示器30に表示させる表示内容(制御種別)とを特定するための判別情報を予め保持する。判別情報は、乗員の姿勢および姿勢の変化に対して制御対象となる表示器30が、車両の状態および車両の周辺状態に対して制御種別が、それぞれ関連付けられて記憶されており、乗員の姿勢または姿勢の変化、および、車両の状態または車両の周辺状態を検索キーに用いることで、制御対象の表示器30に実施する制御種別とを特定できる情報である。判別情報は、例えば、図2に示すような表で表すことができる。
車載カメラ20は、例えば、電子サイドミラー用カメラ、電子インナーミラー用カメラ、前方死角カメラ、マルチテレインモニタ用カメラである。電子サイドミラー用カメラは、車両の左側部および左後方を撮像する左側方カメラや、車両の右側部および右後方を撮像する右側方カメラであり、例えば、一般的な光学式のサイドミラーが取り付けられる位置に設置される。電子インナーミラー用カメラは、車両の後方を撮像するカメラであり、例えば、車両後部のトランクリッドやテールゲート等に設置される。前方死角カメラは、車両の前方の死角部分を撮像するカメラであり、例えば、一般的な左右の光学式のサイドミラーが取り付けられる位置にそれぞれ設置されてもよいし、カメラの画角が広い場合は車両前方のナンバープレートやエンブレム近傍に1つだけ設置されてもよい。マルチテレインモニタ用カメラは、例えば、路面を撮像するカメラであり、フロントバンパー部や一般的な光学式のサイドミラーが取り付けられる位置に設置される。
表示器30は、例えば、電子サイドミラー、電子インナーミラー、ダッシュボードの略中央部に設けられるカーナビゲーション等で用いられる画面である。電子サイドミラーは、例えば、ダッシュボードの左右両端部にそれぞれ設置される。電子インナーミラーは、例えば、一般的な光学式のインナーミラーが取り付けられる位置に設置される。これらの表示器30には、車載カメラ20の撮像画像が表示可能であり、基本的には、電子サイドミラーには電子サイドミラー用カメラの画像を、電子インナーミラーには電子インナーミラー用カメラの画像を、カーナビゲーション等に用いられる画面には前方死角カメラおよびマルチテレインモニタ用カメラの映像を表示させるが、必要に応じていずれの車載カメラ20の撮像画像をいずれの表示器30に表示させてもよい。
乗員撮像部2は、運転者等の乗員を撮像するカメラであり、例えば、電子インナーミラーの位置に配置される。当該カメラは、車載カメラ20とは別に設置される。
姿勢判別部3は、乗員撮像部2が撮像した画像に基づいて、乗員の姿勢または姿勢の変化を判別する。本実施形態において、姿勢とは、顔の向きや頭部位置、体勢などを指すこととする。また、姿勢の変化を判別するとは、乗員が何をしようとしているかの動作を判別することと等しい。姿勢または姿勢の変化の具体例として、例えば、図2の「選定の理由となる姿勢・姿勢の変化」列に記載されたものを挙げることができる。
車両状態取得部4は、車両の状態または車両の周辺状態を表す信号を取得する。車両の状態および車両の周辺状態を表す信号は、車両に搭載されている各種センサ、カメラ(車載カメラ20を含んでもよい)、GPS(Global Positioning System)などから得ることができる。
車両状態判別部5は、車両状態取得部4が取得した信号に基づいて、車両の状態または車両の周辺状態を判別する。車両の状態とは、例えば、車速、シフトポジション、ドアの開閉状態、ウインカー指示の有無、後方近接通報の有無などの車両自身の状態である。車両の周辺状態とは、例えば、車両位置、車両周辺の道路の幅や見通しおよび交通量、後方近接車両の有無とその距離や位置および接近速度、外光強度などの車両が置かれている状態である。車両の状態および車両の周辺状態の具体例として、例えば、図2の「車両状態・車両状態予測」列に記載されたものを挙げることができる。なお、車両状態予測については、後述する。
制御内容特定部6は、姿勢判別部3および車両状態判別部5の判別結果に基づいて、制御対象となる表示器30と、制御対象の表示器30に表示させる表示内容とを特定する。具体的には、制御内容特定部6は、姿勢判別部3が判別した乗員の姿勢または姿勢の変化、および、車両状態判別部5が判別した車両の状態または車両の周辺状態を検索キーとして図2のような判別情報を検索することで、制御対象と、制御種別とを特定することができる。なお、制御内容特定部6は、車両状態判別部5が判別した結果に基づいて将来の車両の状態または車両の周辺状態の予測を行った後に、制御対象となる表示器30と、制御対象の表示器30に表示させる表示内容とを特定してもよい。
制御部7は、制御内容特定部6によって特定された結果に基づいて制御対象となる表示器30の表示を変更する制御を行う。具体的には、制御部7は、特定された制御対象の表示器30に対して、特定された制御種別で定義されている制御を実行する。
<制御処理>
図2~3を併せて参照しながら、制御装置1が行う制御について説明する。図3は、制御装置1の制御処理手順を説明するフローチャートである。図3のフローは、車両のイグニッションがオン(IG-ON)されたときに開始し、IG-OFFされるまで繰り返し実行される。
ステップS101:乗員撮像部2は、乗員を撮像する。撮像時間やフレーム数などは判別したい乗員の姿勢または乗員の姿勢の変化を判別できるように設定すればよい。その後、処理はステップS102に進む。
ステップS102:姿勢判別部3は、乗員撮像部2で撮像された画像に基づいて、乗員の姿勢または姿勢の変化を判別する。乗員の姿勢は、頭、肩、肘、手などの体の構成部位の位置関係から判別することができる。例えば、乗員撮像部2の撮像画像上の座標を定義し、乗員の骨格点の位置座標の組み合わせに基づいて姿勢を判別してもよい。また、乗員撮像部2の撮像画像を格子状の領域に分割し、当該分割領域のうち乗員のシルエットが重なる領域で構成した形状に基づいて姿勢を判別してもよい。格子状の領域の分割方法は、格子状の枠越しに乗員撮像部2が撮像する方法でもよいし、乗員撮像部2が撮像した画像に画像処理を施す方法でもよい。また、姿勢の変化は、乗員の姿勢を連続して観測することで得られる。例えば、姿勢判別部3は、乗員の視線・顔の向きおよび/または頭部の位置変化に基づいて、乗員が左右いずれかの電子サイドミラーや死角方向、路面方向を覗き込む動作を判別することができる。その後、処理はステップS103に進む。
ステップS103:制御内容特定部6は、ステップS102で判別した乗員の姿勢または姿勢の変化に基づき、予め用意された判別情報に定義された表示制御対象の表示器30から、制御候補となる表示器30を選定する。その後、処理はステップS104に進む。
ステップS104:車両状態取得部4は、車両に搭載されている各種センサ、カメラ(車載カメラ20を含んでもよい)、GPSなどから車両の状態または車両の周辺状態を表す信号を取得する。その後、処理はステップS105に進む。
ステップS105:車両状態判別部5は、車両状態取得部4が取得した信号に基づいて、車両の状態または車両の周辺状態を判別する。車両の状態は、例えば、前進、バック、右折または左折、追い越し等であり、車速、シフトポジション、方向指示器のスイッチの出力等に基づいて判別することができる。車両の周辺状態は、例えば、走行中の道路状態、近接車両の有無、外光強度、天候等であり、位置情報、カーナビの地図情報、カメラの撮影画像、照度センサ、超音波センサ、レーダー等の出力信号に基づいて判別することができる。その後、処理はステップS106に進む。
ステップS106:制御内容特定部6は、車両状態判別部5が判別した車両の状態または車両の周辺状態に基づいて、将来の車両の状態または車両の周辺状態を予測する。その後、処理はステップS107に進む。
ステップS107:制御内容特定部6は、ステップS103で選定した制御候補に対して割り当てられた1以上の制御種別の中から、ステップS105の判別結果および/またはステップS106の予測結果に対応する制御種別を特定する。これにより、制御対象の表示器30も特定される。その後、処理はステップS108に進む。
ステップS108:制御内容特定部6は、ステップS107で特定した表示器30に、特定した制御種別に定められる表示内容を表示させる制御が可能な状況かどうかを判定する。具体的には、本ステップにおいて、車両状態取得部4が再度車両の状態または車両の周辺状態を表す信号を取得し、車両状態判別部5が車両の状態または車両の周辺状態を判別することで、ステップS106で予測した将来の車両の状態または車両の周辺状態が、ステップS107後に実現されたかを判定する。制御内容特定部6は、ステップS106で予測した将来の車両の状態または車両の周辺状態と、ステップS107後の車両の状態または車両の周辺状態とが合致した場合に、制御対象の表示器30の制御が可能な状況と判定し(S108でYES)、処理はステップS109に進み、それ以外の場合(S108でNO)、処理はステップS101に進む。
ステップS109:制御部7は、ステップS107で特定した制御種別に基づいて、制御対象の表示器30に表示変更の制御をする。その後、処理はステップS101に進む。
次に、図3のステップS101~S109の具体例を説明する。ここでは、乗員が車両をバックさせようとしている場合の例を示す。また、制御対象となる表示器30と、制御対象の表示器30に実施する制御種別とを特定するための判別情報は図2を用いることとする。
まず、乗員の画像に基づいて、乗員の顔は右方向を向いており、通常の運転姿勢から車両の右側を覗き込む体勢に変化したと判別される(ステップS101~S102)。次に、判別情報に基づき、乗員の姿勢および姿勢の変化が、図2の「選定の理由となる姿勢・姿勢の変化:顔の向き(右方向)、姿勢(車両右側覗き込み)」に該当すると判定され、これにより、制御対象が「制御対象:電子サイドミラー(右)」に絞り込まれる(ステップS103)。次に、シフトポジションがRレンジに入っていることを表す信号を車両状態取得部4が取得し、当該信号に基づいて、車両の状態はシフトポジションがRレンジに入っている状態であると判別される(ステップS104~S105)。このことから、車両は将来バックすることが予測される(ステップS106)。当該予測結果は、図2の「制御対象:電子サイドミラー(右)」に対応する「車両状態・車両状態予測」のうち、「車両状態・車両状態予測:Rレンジ」に該当するため、制御対象となる表示器30は電子サイドミラー(右)であり、制御種別は下方広角表示であることが特定される(S107)。そして、車両が実際にバックし始めると、特定された制御対象に特定された制御種別が実行可能な状況と判定され、電子サイドミラー(右)は下方広角表示をする制御が実行される(ステップS108~S109)。
また、図3のステップS101~S109の他の具体例を説明する。ここでは、乗員が車両を右折または右レーンに移動させようとしている場合の例を示す。
まず、乗員の画像に基づいて、乗員の顔は右方向を向いており、通常の運転姿勢から車両の右側を覗き込む体勢に変化したと判別される(ステップS101~S102)。次に、判別情報に基づき、乗員の姿勢および姿勢の変化が、図2の「選定の理由となる姿勢・姿勢の変化:顔の向き(右方向)、姿勢(車両右側覗き込み)」に該当すると判定され、これにより、制御対象が「制御対象:電子サイドミラー(右)」に絞り込まれる(ステップS103)。次に、右折ウインカーが点灯していることを表す信号を車両状態取得部4が取得し、当該信号に基づいて、車両の状態は右折ウインカーが点灯している状態であると判別される(ステップS104~S105)。このことから、車両は将来右折することが予測される(ステップS106)。当該予測結果は、図2の「制御対象:電子サイドミラー(右)」に対応する「車両状態・車両状態予測」のうち、「車両状態・車両状態予測:右折(ウインカー)指示」に該当するため、制御対象となる表示器30は電子サイドミラー(右)であり、制御種別は右折・右レーン移動時右側方表示であることが特定される(S107)。そして、実際にステアリングが右に切られ始めると、特定された制御対象に特定された制御種別が実行可能な状況と判定され、電子サイドミラー(右)は右側方表示をする制御が実行される(ステップS108~S109)。また、右折または右レーンに移動する場合の制御種別として右側方表示をする例を示したが、右側方表示をする以外にも、右側方を広角表示してもよいし、右側方に自転車やバイクまたは歩行者などの障害物があった場合は、それらの障害物を強調表示してもよい。
以上、図3のステップS101~S109の処理を説明したが、ステップS106と、ステップS108の処理は省略できる。しかし、ステップS106で将来の車両の状態または車両の周辺状態の予測を行うことで、表示器30の制御が必要とされる前に制御装置1は制御内容を特定する処理が完了できる可能性が高くなる。そのため、制御が必要とされるときにより確実に制御を開始することができ、表示器30の表示変更のタイミングが乗員の意図するタイミングから遅延するのを抑制することができる。ステップS106を省略した場合、ステップS107において、制御内容特定部6は、ステップS103で選定した制御候補に対して割り当てられた1以上の制御種別の中から、ステップS105の判別結果に対応する制御種別を特定する。
また、ステップS106を省略したとしても、ステップS108で制御可能な状況であるか否かの判定を行うことで、瞬間的に発生してしまった車両状態に基づいて、表示器30にドライバーが意図しない制御がされてしまうのを抑制できる。具体的には、ステップS105で判別された車両状態が、ステップS108の段階でも継続されていれば、表示器30の制御が可能な状況と判定する(S108でYESに該当)。これにより、例えば、シフトチェンジの際に瞬間的にシフトポジションがRレンジに入り、この一瞬の車両状態に基づいてステップS107で制御内容が特定された場合であっても、ステップS108でもシフトポジションがRレンジに入っていることが確認できなければ(S108でNOに該当)、ステップS109の制御は実行されない。
また、ステップS106と共にステップS108も実施することで、乗員の誤操作などの、実際は表示器30の制御を実施する必要がない場合に、表示器30を制御してしまうのを抑制できる。例えば、右折予定が無いにも関わらず乗員が誤って右ウインカーを出してしまい、この車両状態に基づいてステップS107で制御内容が特定された場合を仮定する。このとき、右ウインカーが出されたことからステップS106で車両の将来の状態を「右折」と予測していれば、ステップS108で実際に車両が右折状態にならない限り、ステップS109の制御は実行されない。
次に、図4を用いて図3のステップS102で行う姿勢を判別するための処理の具体例を説明する。図4は、姿勢を判別するための処理を説明するフローチャートである。ここでは、一例として、乗員の骨格点に基づいて姿勢を判別する方法を説明する。図4のフローは、図3のステップS101の直後に開始される。
ステップS201:姿勢判別部3は、乗員撮像部2が撮像した画像に基づいて、乗員の骨格点を認識する。骨格点は、既知の骨格点認識技術を用いて認識することができる。その後、処理はステップS202に進む。
ステップS202:姿勢判別部3は、ステップS201で認識した骨格点の位置をそれぞれ座標で表し、各骨格点間の位置関係を演算する。その後、処理はステップS203に進む。
ステップS203:姿勢判別部3は、乗員の姿勢が、表示器30の制御を行う姿勢かどうかを判定する。表示器30の制御を行う姿勢とは、判別情報の「選定の理由となる姿勢・姿勢の変化」に予め定められている姿勢とすることができる。乗員の姿勢は、各骨格点間の位置関係により表すことができ、予め定義しておけばよい。乗員の姿勢が、表示器30の制御を行う姿勢であった場合(S203でYES)、処理はステップS204に進み、それ以外の場合(S203でNO)、処理はステップS201に進む。
ステップS204:姿勢判別部3は、乗員の姿勢の持続時間が所定の閾値以上であるかを判定する。このように、姿勢が一定時間持続されているかを確認することにより、瞬間的に発生した特定の姿勢が、表示器30の制御を行う姿勢として認識されるのを抑制することができる。持続時間の閾値は、例えば、乗員が表示器30や車外の特定の箇所を注視していることが判定できる時間に設定すればよい。姿勢の持続時間が所定の閾値以上の場合(S204でYES)、処理はステップS205に進み、それ以外の場合(S204でNO)、処理はステップS201に進む。
ステップS205:姿勢判別部3は、姿勢の判別を行う。その後、処理は終了する。
(その他の実施形態)
図5は、本発明のその他の実施形態に係る制御装置を示す機能ブロック図である。その他の実施形態に係る制御装置11の構成は、制御装置1の構成に、後席乗員撮像部8および後席状況判別部9を追加した構成である。以下、この追加された構成を中心に説明する。
後席乗員撮像部8は、車両の後部座席の乗員(後席乗員)を撮像するカメラであり、例えば、電子ミラーの位置や車内天部に配置される。当該カメラは、車載カメラ20とは別に設置される。後部座席を撮像できるのであれば、乗員撮像部2と共用してもよい。
後席状況判別部9は、後席乗員撮像部8が撮像した画像に基づいて、例えば、後席乗員の有無や、後席乗員の姿勢、着座状況などの後部座席の状況を判別する。これらの後部座席の状況は、ステップS102の姿勢および姿勢の変化を判別する方法を用いて判別することができる。なお、後席乗員の有無や着座状況は画像情報に加えて着座センサなどの他の機器の情報と組み合わせて判定してもよい。
後席乗員撮像部8による後席乗員の撮像および後席状況判別部9による後部座席の状況の判別は、例えば、図3のフローのステップS102とステップS103の間に行われる。これにより、ステップS103において、制御内容特定部6は、乗員の姿勢または姿勢の変化、および後部座席の状況に基づき、判別情報に定義された表示制御対象の表示器30から、制御候補となる表示器30を選定する。
図2の判別情報の記載を例にして、例えば、後席乗員が乗下車する際に乗員(前席乗員)が電子インナーミラーで後席の状況を確認する場合に行われる制御を説明する。後席に乗員が乗車しており、かつ、前席乗員の顔の向きが電子インナーミラー方向または/および姿勢が電子インナーミラー覗き込みであった場合、図2の「選定の理由となる姿勢・姿勢の変化:顔の向き(電子インナーミラー方向)、姿勢(電子インナーミラー覗き込み)、後席乗員姿勢」に該当すると判定され、制御対象は「制御対象:電子インナーミラー」となる。そして、後席のドアが開閉されている場合に「車両状態・車両状態予測:後席ドア開閉」に該当すると判定され、「制御種別:後席表示」が特定される。これにより、乗前席乗員は、後席乗員が乗下車する様子を電子インナーミラーで確認することができる。なお、表示器30に後席表示を行う場合は安全面を考慮して、車速がある場合やシフトポジションがP以外である場合は、ステップS108で電子インナーミラーに後席表示を行う制御は実施不可能とし(ステップS108でNOに該当)、当該制御は実施しないようにすることが望ましい。
<作用・効果等>
以上のように、本発明の一実施形態に係る制御装置1によれば、乗員の姿勢または姿勢の変化と、車両の状態または車両の周辺状態とに基づいて、表示器30の表示を制御する。
これにより、制御装置1は、乗員の姿勢または姿勢の変化だけではなく車両の状態および車両の周辺状態を考慮して表示器30の制御を行うことができ、運転者が意図する画像をより適切に表示器30に表示することができる。
車両状態判別部5が車両の状態または車両の周辺状態を判別した結果に基づいて、制御内容特定部6は将来の車両の状態または車両の周辺状態を予測する。
これにより、乗員にとって意図したタイミングでの制御が実行可能となる。
制御内容特定部6は、制御内容特定部6が予測した将来の車両の状態または車両の周辺状態が実現されたと判定した場合に、制御部7により制御対象として特定された表示器30の表示変更を行うことを許可する。
これにより、乗員が瞬間的に誤って機器を操作してしまったなどの、実際は表示器30制御を行う必要がない場合でも、表示器30の制御が行われてしまうのを抑制できる。
本発明の制御装置1は、制御装置、制御装置のコンピュータが実行する表示制御方法、表示制御プログラムおよびこれを記憶したコンピュータ読み取り可能な非一時的記憶媒体、表示制御システム、車両等として捉えることが可能である。
本発明は、車両等に搭載される表示器の表示変更を制御する制御装置において有用である。
1 制御装置
2 乗員撮像部
3 姿勢判別部
4 車両状態取得部
5 車両状態判別部
6 制御内容特定部
7 制御部
10 表示器
20 車載カメラ

Claims (6)

  1. 複数の車載カメラおよび複数の表示器を備えた車両に搭載され、前記複数の車載カメラのいずれかが撮像した画像の少なくとも一部を前記複数の表示器のいずれかに表示する制御を行う制御装置であって、
    前記車両の乗員を撮像する乗員撮像部と、
    前記乗員撮像部によって撮像された画像に基づいて、乗員の顔の向き、および、体勢または体勢の変化を判別する姿勢判別部と、
    前記車両の状態または前記車両の周辺状態を表す信号を取得する車両状態取得部と、
    前記車両状態取得部が取得した信号に基づいて、前記車両の状態または前記車両の周辺状態を判別する車両状態判別部と、
    前記姿勢判別部および前記車両状態判別部の判別結果に基づいて、制御対象となる表示器と、当該表示器に表示させる表示内容の少なくとも何れか一方を特定する制御内容特定部と、
    前記制御内容特定部によって特定された結果に基づいて前記制御対象となる前記表示器の表示変更を制御する制御部とを備える制御装置。
  2. 前記制御内容特定部は、前記車両状態判別部が判別した前記車両の状態または前記車両の周辺状態に基づいて、将来の前記車両の状態または前記車両の周辺状態を予測し、予測結果に基づいて、前記制御対象となる前記表示器と、当該表示器に表示させる表示内容とを特定する、請求項1に記載の制御装置。
  3. 前記制御内容特定部は、将来の前記車両の状態または前記車両の周辺状態を予測した後に、将来の前記車両の状態または前記車両の周辺状態と、前記車両状態判別部が判別した前記車両の状態または前記車両の周辺状態とが合致したと判定した場合に、制御対象として特定された表示器の表示変更を許可する、請求項2に記載の制御装置。
  4. 前記姿勢判別部は、さらに顔の向きおよび体勢の持続時間が所定の閾値以上であるかを判別する、請求項1から3のいずれか1項に記載の制御装置。
  5. 複数の車載カメラおよび複数の表示器を備えた車両において、前記複数の車載カメラのいずれかが撮像した画像の少なくとも一部を前記複数の表示器のいずれかに表示させる制御方法であって、
    乗員撮像部が前記車両の乗員を撮像するステップと、
    姿勢判別部が前記乗員撮像部によって撮像された画像に基づいて、乗員の顔の向き、および、体勢または体勢の変化を判別するステップと、
    車両状態取得部が前記車両の状態または前記車両の周辺状態を表す信号を取得するステップと、
    車両状態判別部が前記車両状態取得部が取得した信号に基づいて、前記車両の状態または前記車両の周辺状態を判別するステップと、
    制御内容特定部が前記姿勢判別部および前記車両状態判別部の判別結果に基づいて、制御対象となる表示器と、当該表示器に表示させる表示内容の少なくとも何れか一方を特定するステップと、
    制御部が前記制御内容特定部によって特定された結果に基づいて前記制御対象となる前記表示器の表示変更をするステップと、を方含む制御方法。
  6. 複数の車載カメラおよび複数の表示器を備えた車両に搭載されるコンピュータにおいて、前記複数の車載カメラのいずれかが撮像した画像の少なくとも一部を前記複数の表示器のいずれかに表示させる制御プログラムであって、前記コンピュータに、
    乗員撮像部が前記車両の乗員を撮像するステップと、
    姿勢判別部が前記乗員撮像部によって撮像された画像に基づいて、乗員の顔の向き、および、体勢または体勢の変化を判別するステップと、
    車両状態取得部が前記車両の状態または前記車両の周辺状態を表す信号を取得するステップと、
    車両状態判別部が前記車両状態取得部が取得した信号に基づいて、前記車両の状態または前記車両の周辺状態を判別するステップと、
    制御内容特定部が前記姿勢判別部および前記車両状態判別部の判別結果に基づいて、制御対象となる表示器と、当該表示器に表示させる表示内容の少なくとも何れか一方を特定するステップと、
    制御部が前記制御内容特定部によって特定された結果に基づいて前記制御対象となる前記表示器の表示変更をするステップと、を実行させる制御プログラム。
JP2019037733A 2019-03-01 2019-03-01 制御装置、制御方法、制御プログラム Active JP7215228B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019037733A JP7215228B2 (ja) 2019-03-01 2019-03-01 制御装置、制御方法、制御プログラム
US16/744,270 US20200278743A1 (en) 2019-03-01 2020-01-16 Control device
CN202010082321.6A CN111634232A (zh) 2019-03-01 2020-02-07 控制装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019037733A JP7215228B2 (ja) 2019-03-01 2019-03-01 制御装置、制御方法、制御プログラム

Publications (2)

Publication Number Publication Date
JP2020138701A JP2020138701A (ja) 2020-09-03
JP7215228B2 true JP7215228B2 (ja) 2023-01-31

Family

ID=72236909

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019037733A Active JP7215228B2 (ja) 2019-03-01 2019-03-01 制御装置、制御方法、制御プログラム

Country Status (3)

Country Link
US (1) US20200278743A1 (ja)
JP (1) JP7215228B2 (ja)
CN (1) CN111634232A (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7434730B2 (ja) * 2019-06-14 2024-02-21 マツダ株式会社 車両用情報表示装置及び車両用制御装置
US20230410356A1 (en) * 2020-11-20 2023-12-21 Nec Corporation Detection apparatus, detection method, and non-transitory storage medium
JP7473016B2 (ja) * 2020-12-25 2024-04-23 日本電気株式会社 システム、情報処理装置、方法、及びプログラム
JP2022133723A (ja) * 2021-03-02 2022-09-14 株式会社アイシン 身体情報取得装置

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007304712A (ja) 2006-05-09 2007-11-22 Denso Corp 運転支援装置
JP2013093013A (ja) 2011-10-06 2013-05-16 Ricoh Co Ltd 画像処理装置、車両

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3119076B2 (ja) * 1994-06-02 2000-12-18 日産自動車株式会社 車両用警報表示装置
JP4370915B2 (ja) * 2004-01-14 2009-11-25 オムロン株式会社 車載アプリケーション選択システム及び車載アプリケーション選択装置
US20080136911A1 (en) * 2006-12-08 2008-06-12 Ford Global Technologies, Llc Display system for a vehicle
CN103582906B (zh) * 2011-06-02 2016-01-20 丰田自动车株式会社 车辆用视野辅助装置
US10131276B2 (en) * 2014-09-30 2018-11-20 Subaru Corporation Vehicle sightline guidance apparatus
JP6470334B2 (ja) * 2017-03-15 2019-02-13 株式会社Subaru 車両の表示システム及び車両の表示システムの制御方法
JP6547155B2 (ja) * 2017-06-02 2019-07-24 本田技研工業株式会社 車両制御システム、車両制御方法、およびプログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007304712A (ja) 2006-05-09 2007-11-22 Denso Corp 運転支援装置
JP2013093013A (ja) 2011-10-06 2013-05-16 Ricoh Co Ltd 画像処理装置、車両

Also Published As

Publication number Publication date
JP2020138701A (ja) 2020-09-03
CN111634232A (zh) 2020-09-08
US20200278743A1 (en) 2020-09-03

Similar Documents

Publication Publication Date Title
JP7215228B2 (ja) 制御装置、制御方法、制御プログラム
US9283963B2 (en) Method for operating a driver assist system of an automobile providing a recommendation relating to a passing maneuver, and an automobile
CN110831819B (zh) 泊车辅助方法以及泊车辅助装置
US9576208B2 (en) Emergency vehicle detection with digital image sensor
JP6252304B2 (ja) 車両用認知通知装置、車両用認知通知システム
JP4134939B2 (ja) 車両周辺表示制御装置
JP5160564B2 (ja) 車両情報表示装置
JP4517393B2 (ja) 運転支援装置
CN111731188B (zh) 一种全景影像控制方法、装置及车辆
US10410514B2 (en) Display device for vehicle and display method for vehicle
US20170028921A1 (en) On-vehicle image display device, on-vehicle image display method for vehicle, and on-vehicle image setting device
WO2018151328A1 (ja) 車両用周辺監視装置
JP2013093013A (ja) 画像処理装置、車両
US20170043720A1 (en) Camera system for displaying an area exterior to a vehicle
US20220230456A1 (en) Vehicular driver assist system with adjustable display
CN108216033A (zh) 车辆外围监视装置
US20180339713A1 (en) Method and device for supporting a vehicle occupant in a vehicle
KR101980966B1 (ko) 자동차의 주변을 표시하기 위한 장치 및 방법
US20180249093A1 (en) On-vehicle display control device, on-vehicle display system, on-vehicle display control method, and non-transitory storage medium
CN116674468A (zh) 影像显示方法及相关装置、车辆、存储介质和程序
US20210302727A1 (en) Vehicle display device
US20190161007A1 (en) Unilluminated vehicle indication based on communication
GB2521274A (en) Emergency vehicle detection with digital image sensor
US11679785B2 (en) Vehicle control device
US11100353B2 (en) Apparatus of controlling region of interest of image and method for controlling the same

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210624

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220616

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220628

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220823

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221220

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230102

R151 Written notification of patent or utility model registration

Ref document number: 7215228

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151