JP7479575B2 - 体格推定装置および体格推定方法 - Google Patents

体格推定装置および体格推定方法 Download PDF

Info

Publication number
JP7479575B2
JP7479575B2 JP2023533018A JP2023533018A JP7479575B2 JP 7479575 B2 JP7479575 B2 JP 7479575B2 JP 2023533018 A JP2023533018 A JP 2023533018A JP 2023533018 A JP2023533018 A JP 2023533018A JP 7479575 B2 JP7479575 B2 JP 7479575B2
Authority
JP
Japan
Prior art keywords
skeleton
occupant
correction amount
physique
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023533018A
Other languages
English (en)
Other versions
JPWO2023281737A1 (ja
Inventor
浩隆 坂本
友紀 古本
直哉 馬場
祥平 ▲高▼原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2023281737A1 publication Critical patent/JPWO2023281737A1/ja
Application granted granted Critical
Publication of JP7479575B2 publication Critical patent/JP7479575B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/015Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting the presence or position of passengers, passenger seats or child seats, and the related safety parameters therefor, e.g. speed or timing of airbag inflation in relation to occupant position or seat belt use

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Image Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Description

本開示は、車両の乗員の体格推定装置および体格推定方法に関する。
従来、車両内の乗員を撮像した撮像画像に基づいて当該乗員の体格を推定する技術が知られている(例えば、特許文献1)。
特開2020-104680号公報
車両において、乗員が着座している座席は、車両の進行方向に対して前後に移動され得る。座席が前後に移動されると、その移動に伴い、乗員は、撮像画像上で、大きく撮像される、または、小さく撮像される。
特許文献1に記載されているような従来技術では、乗員の姿勢の傾きが考慮されているが、座席が前後に移動させられることに伴って撮像画像上で乗員が大きく撮像される、または、小さく撮像されることについて考慮されていない。そのため、従来技術では、乗員が着座している座席が前後に移動させられた場合に当該乗員の体格を誤推定することがあるという課題があった。
なお、特許文献1には、座席の状態の変化(例えば、スライド、リクライニング)が発生すると乗員の体格の検知精度が低くなるとの記載はある。しかし、特許文献1には、座席が前後にスライドされたことに伴い当該座席に着座している乗員の位置も座席ごと前後に変化した場合の具体的な体格の検知方法について開示されていない。よって、特許文献1に開示されているような技術では、依然として上記のような課題を解決できない。
本開示は上記のような課題を解決するためになされたもので、車両の乗員が着座している座席が車両の進行方向に対して前後に移動させられた場合の乗員の体格推定の精度を向上させる体格推定装置を提供することを目的とする。
本開示に係る体格推定装置は、車両の進行方向に対して前後に移動可能な車両の座席の移動方向と平行な光軸を有する撮像装置、によって車両の乗員が撮像された撮像画像を取得する撮像画像取得部と、撮像画像取得部が取得した撮像画像に基づいて、撮像画像上で乗員の体の部位を示す乗員の複数の骨格座標点を検出する骨格点検出部と、骨格点検出部が検出した複数の骨格座標点に関する情報に基づき、撮像画像取得部が取得した撮像画像の中心を通り撮像画像の縦方向と平行な直線から、骨格点検出部が検出した複数の骨格座標点のうちの補正量算出用骨格座標点までの水平距離である第1距離と、直線から、座席が設定された基準位置にある場合の補正量算出用骨格座標点を想定して設定された、補正量算出用骨格座標点に対応する撮像画像上の基準座標点までの水平距離である第2距離との比に基づいて補正量を算出する補正量算出部と、骨格点検出部が検出した複数の骨格座標点に関する情報と、補正量算出部が算出した補正量とに基づいて、乗員の体格を推定する体格推定部とを備えたものである。
本開示によれば、車両の乗員が着座している座席が車両の進行方向に対して前後に移動させられた場合の乗員の体格推定の精度を向上させることができる。
実施の形態1に係る体格推定装置の構成例を示す図である。 実施の形態1において、画像上で骨格座標点および基準座標点の一例を示すようにした撮像画像の一例を示す図である。 実施の形態1における、補正量算出部による補正量の算出方法の一例について説明するための図である。 実施の形態1に係る体格推定装置の動作について説明するためのフローチャートである。 図5A,図5Bは、実施の形態1に係る体格推定装置のハードウェア構成の一例を示す図である。
以下、本開示の実施の形態について、図面を参照しながら詳細に説明する。
実施の形態1.
図1は、実施の形態1に係る体格推定装置1の構成例を示す図である。
実施の形態1において、体格推定装置1は、車両100に搭載されることを想定する。
体格推定装置1は、車両100に搭載されている撮像装置2と接続される。
撮像装置2は、例えば、近赤外線カメラ、または、可視光カメラであり、車両100内に存在する乗員を撮像する。撮像装置2は、例えば、いわゆる「ドライバーモニタリングシステム(Driver Monitoring System,DMS)」と共用のものでもよい。
撮像装置2は、少なくとも、車両100の乗員の上半身が存在すべき範囲を含む車両100内の範囲を撮像可能に設置される。車両100内の乗員の上半身が存在すべき範囲とは、例えば、座席の背もたれ、および、ヘッドレストの前方付近の空間に相当する範囲である。
実施の形態1では、一例として、撮像装置2は、車両100の車幅方向の中央部に設置されることを想定している。なお、実施の形態1において、車幅方向の「中央」とは、厳密に「中央」であることに限定されず、「略中央」も含む。具体的には、撮像装置2は、例えば、車両100のセンターコンソール、または、カーナビ等が設けられているダッシュボードセンター付近に設置されることを想定している。撮像装置2は、運転者および助手席の乗員(以下「助手席乗員」という。)を撮像する。
実施の形態1において、撮像装置2は、その光軸と車両100の座席を前後に移動させるための移動レールとが平行であることを前提とする。すなわち、撮像装置2は、車両100の進行方向に対して前後に移動可能な車両100の座席の移動方向と平行な光軸を有する。実施の形態1において、撮像装置2の光軸と座席の移動方向とが「平行」とは、厳密に「平行」であることに限定されず、設定された範囲内で「略平行」であることを含む。
なお、上述したような撮像装置2の設置位置は一例に過ぎない。撮像装置2は、車両100の乗員の上半身が存在すべき範囲が撮像可能に設置されていればよい。
また、図1では、撮像装置2は1台のみ図示しているが、これは一例に過ぎない。車両100に複数台の撮像装置2が搭載され、複数台の撮像装置2が体格推定装置1と接続されてもよい。例えば、車両100には、運転席の乗員を撮像する撮像装置2と、助手席乗員を撮像する撮像装置2の、2台の撮像装置2が搭載されていてもよい。
体格推定装置1は、撮像装置2によって車両100の乗員が撮像された撮像画像に基づいて、車両100の乗員の体格を推定する。実施の形態1では、車両100の乗員は、運転者および助手席乗員とする。すなわち、実施の形態1では、体格推定装置1は、撮像装置2によって運転者および助手席乗員が撮像された撮像画像に基づいて、運転者および助手席乗員の体格を推定する。
実施の形態1では、体格推定装置1が推定する体格は、「幼児」、「小柄の男性」、「小柄の女性」、「標準男性」、「標準女性」、「大柄の男性」、または、「大柄の女性」のいずれかとする。なお、これは一例に過ぎず、体格推定装置1が推定する体格の定義は、適宜設定可能である。
体格推定装置1は、車両100の乗員の体格を推定すると、車両100の乗員の体格を推定した結果(以下「体格推定結果」という。)を、体格推定装置1と接続されている種々の装置に出力する。種々の装置とは、例えば、エアバッグ制御装置(図示省略)、報知装置(図示省略)、または、表示装置(図示省略)である。
例えば、エアバッグ制御装置は、体格推定装置1から出力された体格判定結果に基づいてエアバッグの制御を行う。
また、例えば、報知装置は、体格推定装置1から出力された体格推定結果に基づき、乗員の体格を考慮して、シートベルトの装着を促す警報を出力する。
また、例えば、表示装置は、体格推定装置1から出力された体格推定結果に応じた表示を行う。例えば、表示装置は、乗員の中に「幼児」がいる場合、子供が乗車している旨を示すアイコンを表示する。
体格推定装置1は、撮像画像取得部11、骨格点検出部12、補正量算出部13、骨格点選択部14、補正実行部15、体格推定部16、および、推定結果出力部17を備える。
撮像画像取得部11は、撮像装置2によって車両100の乗員が撮像された撮像画像を取得する。
撮像画像取得部11は、取得した撮像画像を、骨格点検出部12に出力する。
骨格点検出部12は、撮像画像取得部11が取得した撮像画像に基づいて、乗員の体の部位を示す、乗員の骨格座標点を検出する。より詳細には、骨格点検出部12は、撮像画像取得部11が取得した撮像画像に基づいて、乗員の体の部位ごとに決められた関節点を示す、乗員の骨格座標点を検出する。具体的には、骨格点検出部12は、乗員の骨格座標点の座標と、当該骨格座標点が乗員の体のどの部位を示す骨格座標点であるかを検出する。骨格座標点は、撮像画像における点であり、撮像画像における座標であらわされる。
実施の形態1では、人の体の部位ごとに決められた関節点として、例えば、鼻の関節点と、首の関節点と、肩(右肩および左肩)の関節点と、肘(右肘および左肘)の関節点と、腰(右腰および左腰)の関節点と、手首の関節点と、膝の関節点と、足首の関節点が定義されている。対となる体の部位、具体的には、肩、肘、腰、手首、膝、および、足首については、左右の2つの関節点が、当該体の部位に対応する関節点として定義される。
例えば、骨格点検出部12は、車両100の乗員が撮像された撮像画像を入力とし撮像画像における骨格座標点に関する情報を出力する、機械学習における学習済みのモデル(以下「第1機械学習モデル」という。)を用いて、乗員の骨格座標点を検出する。骨格座標点を示す情報には、撮像画像における骨格座標点の座標、および、当該骨格座標点が体のどの部位を示す骨格座標点であるかを特定可能な情報が含まれる。なお、これは一例に過ぎず、骨格点検出部12は、既知の種々の画像処理技術を用いて、乗員の骨格座標点を検出すればよい。
骨格点検出部12は、定義されている関節点(肩、肘、腰、手首、膝、および、足首の関節点)を示す骨格座標点を全て検出することを必須としない。骨格点検出部12が、どの関節点を示す骨格座標点を検出するかは、適宜設定可能である。実施の形態1では、一例として、骨格点検出部12は、乗員の鼻を示す骨格座標点、乗員の首を示す骨格座標点、乗員の肩を示す骨格座標点、および、乗員の肘を示す骨格座標点を検出する。
また、骨格点検出部12は、骨格座標点を検出する際、検出した骨格座標点がどの乗員の骨格座標点であるかをあわせて検出できる。なお、実施の形態1において、骨格点検出部12は、乗員を、その着座位置から判定する。骨格点検出部12は、乗員の個人認証まで行う必要はない。例えば、撮像画像において、座席ごとに、当該座席に対応する領域(以下「座席対応領域」という。)が予め設定されている。座席対応領域は、撮像装置2の設置位置および画角に応じて、予め設定される。骨格点検出部12は、検出した骨格座標点の中に、座席対応領域に含まれる骨格座標点があるか否かによって、当該骨格座標点がどの座席に着座している乗員の骨格座標点であるかを判定する。具体例を挙げると、例えば、骨格点検出部12は、検出した骨格座標点の中に、運転席に対応する座席対応領域に含まれる骨格座標点がある場合、運転者が運転席に着座していると判定する。そして、骨格点検出部12は、運転席に対応する座席対応領域にて検出した骨格座標点を、運転者の骨格座標点であると判定する。また、例えば、骨格点検出部12は、検出した骨格座標点の中に、助手席に対応する座席対応領域に含まれる骨格座標点がある場合、助手席乗員が助手席に着座していると判定する。そして、骨格点検出部12は、助手席に対応する座席対応領域にて検出した骨格座標点を、助手席乗員の骨格座標点であると判定する。
また、骨格点検出部12は、あわせて、乗員の性別を判定することができる。骨格点検出部12は、既知の種々の画像処理技術を用いて、乗員の性別を判定すればよい。
骨格点検出部12は、検出した骨格座標点に関する情報(以下「骨格座標点情報」という。)を、補正量算出部13および骨格点選択部14に出力する。骨格座標点情報において、骨格座標点の情報と、当該骨格座標点がどの体の部位を示す骨格座標点であるかを示す情報と、乗員を特定する情報と、乗員の性別を示す情報とが対応付けられている。骨格座標点の情報は、具体的には、撮像画像上での骨格座標点の座標である。乗員を特定する情報は、例えば、乗員が座席している座席に関する情報とすればよい。
補正量算出部13は、骨格点検出部12から出力された骨格座標点情報に基づき、乗員の体格を推定する際の補正量を算出する。なお、補正量算出部13は、乗員ごとに、当該乗員の体格を推定する際の補正量を算出する。
実施の形態1では、体格推定装置1は、複数の骨格座標点間の距離(以下「骨格座標点間距離」という。)に基づいて、乗員の体格を推定する。乗員の体格の推定に、どの骨格座標点間の骨格座標点間距離を用いるかは、予め決められている。より詳細には、実施の形態1において、複数の骨格座標点のうち、乗員の体格の推定に用いる複数の骨格座標点(以下「体格推定用骨格座標点」という。)が予め設定されている。体格推定装置1は、複数の体格推定用骨格座標点間の骨格座標点間距離に基づいて、乗員の体格を推定する。
実施の形態1では、一例として、乗員の右肩を示す骨格座標点と乗員の左肩を示す骨格座標点を体格推定用骨格座標点とし、体格推定装置1は、乗員の右肩を示す骨格座標点と乗員の左肩を示す骨格座標点の間の骨格座標点間距離を、乗員の体格の推定に用いる。乗員の右肩を示す骨格座標点と乗員の左肩を示す骨格座標点の間の骨格座標点間距離は、乗員の肩幅に相当する。なお、これは一例に過ぎず、例えば、上記骨格座標点に加え、乗員の肘を示す骨格座標点を体格推定用骨格座標点とし、体格推定装置1は、例えば、上記骨格座標点間距離に加え、乗員の右肩を示す骨格座標点と乗員の右肘を示す骨格座標点の間の骨格座標点間距離、または、乗員の左肩を示す骨格座標点と乗員の左肘を示す骨格座標点の間の骨格座標点間距離を、乗員の体格の推定に用いてもよい。
どの骨格座標点を体格推定用骨格座標点とするか、および、どの体格推定用骨格座標点間の骨格座標点間距離を乗員の体格の推定に用いるかは、適宜設定可能である。また、体格推定装置1は、複数の骨格座標点間距離を用いて乗員の体格を推定してもよい。
なお、体格推定装置1において、骨格座標点間距離の算出は補正実行部15が行い、乗員の体格の推定は体格推定部16が行う。補正実行部15および体格推定部16の詳細については、後述する。
補正量算出部13は、乗員の体格の推定に用いる骨格座標点間距離を補正するための補正量を算出する。
ここで、実施の形態1において、補正量算出部13が補正量を算出する意義について説明する。
図2は、実施の形態1において、座席の位置が前後に変化したことにより、座席に着座している乗員の骨格座標点間距離が変化することを説明するための撮像画像200の一例を示す図である。
なお、便宜上、図2に示す撮像画像200の一例では、助手席乗員が撮像されている部分のみ示している。
図2において、図上、左の図は、座席が移動可能な範囲で当該座席を一番前まで移動させて着座している助手席乗員が撮像された撮像画像200の一例を示している。図2において、図上、真ん中の図は、座席を当該座席が移動可能な範囲の中間の位置に設定して着座している助手席乗員が撮像された撮像画像200の一例を示している。図2において、図上、右の図は、座席が移動可能な範囲で当該座席を一番後ろまで移動させて着座している助手席乗員が撮像された撮像画像200の一例を示している。つまり、図2に示す撮像画像200が撮像された際の撮像装置2と乗員との距離を「撮像距離」というとすると、左の図にて示す撮像画像200が撮像された際の撮像距離が一番近く、右の図にて示す撮像画像200が撮像された際の撮像距離が一番遠い。
また、図2において、201a、201b、201c、201d、201e、201fは、それぞれ、撮像画像200における助手席乗員の骨格座標点を示している。
201aは、助手席乗員の鼻を示す骨格座標点である。201bは、助手席乗員の首を示す骨格座標点である。201cは、助手席乗員の右肩を示す骨格座標点である。201dは、助手席乗員の左肩を示す骨格座標点である。201eは、助手席乗員の右肘を示す骨格座標点である。201fは、助手席乗員の左肘を示す骨格座標点である。
図2に示すように、座席が後ろに移動されるほど、撮像画像200上で、助手席乗員は小さく撮像される。言い換えれば、座席が後ろに移動されるほど、撮像画像200上の骨格座標点の位置が変化し、その結果、撮像画像200上で、骨格座標点間距離は短くなる。図2の例でいうと、例えば、撮像画像200における助手席乗員の右肩を示す骨格座標点(図2の201c参照)と右肘を示す骨格座標点(図2の201e参照)との間の骨格座標点間距離は、図上、左の図に示す撮像画像200において一番長く、次いで、真ん中の図、右の図の順に短くなっていく。
このように、座席の位置が車両100の進行方向に対して前後に変化すると、座席の位置の前後の変化に伴って撮像画像上の骨格座標点の位置が変化し、その結果、撮像画像上の骨格座標点間距離も変化する。座席の位置の変化に伴って撮像画像上の骨格座標点間距離が変化するので、仮に当該変化を考慮しないとすると、体格推定装置1は、骨格座標点間距離に基づく乗員の骨格を誤推定する可能性がある。例えば、体格推定装置1は、座席を一番前に移動させて着座している小柄な体格の女性を標準的な体格の女性と誤推定する可能性がある。また、例えば、体格推定装置1は、座席を一番後ろに移動させて着座している標準的な体格の男性を小柄な体格の男性と誤推定する可能性がある。
そこで、実施の形態1に係る体格推定装置1では、補正量算出部13が、車両100の進行方向に対する座席の前後位置に応じて骨格座標点間距離を補正するための補正量を算出する。
これにより、体格推定装置1において、車両100の進行方向に対する座席の前後位置を考慮して、より詳細には、車両100の進行方向に対する座席の前後位置によって撮像画像における乗員の骨格座標点間距離が変化することを考慮して、乗員の体格が推定可能となる。
補正量算出部13が補正量を算出する具体的な方法の一例について説明する。
図3は、実施の形態1において、画像上で骨格座標点(図3にて201a~201fで示す)および基準座標点(図3にて202a~202fで示す)の一例を示すようにした撮像画像200の一例を示す図である。図3を用いて、実施の形態1における、補正量算出部13による補正量の算出方法の一例について説明する。
なお、便宜上、図3に示す撮像画像200の一例では、助手席乗員の骨格座標点および当該骨格座標点に対応する基準座標点のみ示している。
実施の形態1において、基準座標点とは、車両100において、座席が予め設定された位置(以下「基準位置」という。)にあったとして、基準位置にある座席にある人(以下「基準体格者」という。)が着座していると想定した場合に、当該基準体格者を撮像した撮像画像上で想定される、当該基準体格者の骨格座標点をいう。基準位置は、車両100の乗員の体格を推定する際の基準となる位置である。乗員の体格の推定の詳細については、後述する。
座席の基準位置は、予め、座席が前後に移動可能な範囲内において適宜設定される。実施の形態1では、一例として、座席の基準位置は、座席が前後に移動可能な範囲内の中間となる位置に設定されているとする。
例えば、管理者等が、車両100の座席を基準位置に設定した状態で基準体格者に着座させ、撮像装置2によって当該基準体格者を撮像する試験を行って、基準座標点を設定する。基準座標点は、骨格点検出部12が検出する各骨格座標点に対応して設定される。設定された基準座標点に関する情報(以下「基準座標点情報」という。)は、補正量算出部13が記憶する。基準座標点情報において、基準座標点の情報と、当該基準座標点がどの体の部位を示す基準座標点であるかを示す情報と、座席位置を示す情報とが対応付けられている。基準座標点の情報は、具体的には、撮像画像上での基準座標点の座標である。
なお、基準体格者の体格は問わない。例えば、当該基準体格者は、標準的な体格の人でもよいし、小柄な体格の人でもよいし、大柄な体格の人でもよい。
図3では、撮像画像200上で、骨格点検出部12が検出した助手席乗員の鼻を示す骨格座標点を201a、助手席乗員の首を示す骨格座標点を201b、助手席乗員の右肩を示す骨格座標点を201c、助手席乗員の左肩を示す骨格座標点を201d、助手席乗員の右肘を示す骨格座標点を201e、助手席乗員の左肘を示す骨格座標点を201fで示している。また、図3では、撮像画像200上で、予め設定された、鼻を示す基準座標点を202a、首を示す骨格座標点を202b、右肩を示す骨格座標点を202c、左肩を示す骨格座標点を202d、右肘を示す骨格座標点を202e、左肘を示す骨格座標点を202fで示している。
図3において、撮像画像200上の座標の原点は左上端としている。
上述したとおり、座席の位置が車両100の進行方向に対して前後に変化すると、座席の前後の移動に伴って撮像画像200上の骨格座標点の位置が変化し、その結果、撮像画像200上の骨格座標点間距離も変化する。
ある乗員について、撮像画像200上で、骨格点検出部12によって検出された当該ある乗員の骨格座標点が撮像画像200の中心(以下「中心点」という。)に近いほど、当該ある乗員は撮像装置2から遠い位置に存在する、言い換えれば、当該ある乗員は座席を後方に移動させて着座しているといえる。逆に、撮像画像200上で、骨格点検出部12によって検出されたある乗員の骨格座標点が中心点から遠いほど、当該ある乗員は撮像装置2から近い位置に存在する、言い換えれば、当該ある乗員は座席を前方に移動させて着座しているといえる。図3では、中心点をOで示している。例えば、図3に示す骨格座標点が検出された助手席乗員について、検出される助手席乗員の骨格座標点は、助手席の前後位置に応じて、中心点Oと、図3に示す各骨格座標点とを結ぶ直線上で動き得る。
なお、図3では、中心点Oと各骨格座標点とを結ぶ直線上に各基準座標点が位置するようになっているが、これは一例に過ぎない。基準座標点を設定する際の基準体格者は、乗員(ここでは助手席乗員)と同じ体格の人である必要はない。乗員と同じ体格でない場合、各基準座標点は、中心点Oと各骨格座標点とを結ぶ直線上には存在しないことになる。
補正量算出部13は、骨格点検出部12によって検出された骨格座標点と基準座標点との相対距離に基づいて、補正量を算出する。
具体的には、まず、補正量算出部13は、骨格点検出部12によって検出された複数の骨格座標点のうち、補正量を算出するための骨格座標点を1つ選択する。実施の形態1において、この、補正量を算出するための骨格座標点を、「補正量算出用骨格座標点」という。体のどの部位を示す骨格座標点を補正量算出用骨格座標点とするかは、予め設定され、補正量算出部13が記憶している。実施の形態1では、乗員の首を示す骨格座標点を補正量算出用骨格座標点とする。
そして、補正量算出部13は、撮像画像取得部11が取得した撮像画像200の中心(例えば、図3でいうと中心点O)を通り撮像画像200の縦方向と平行な直線(例えば、図3でいうと203で示す直線)から補正量算出用骨格座標点(例えば、図3でいうと201bで示す骨格座標点)までの水平距離(以下「第1距離」という。)を算出する。また、補正量算出部13は、撮像画像200の中心を通り撮像画像200の縦方向と平行な直線から、補正量算出用骨格座標点に対応する基準座標点(例えば、図3でいうと202bで示す骨格座標点)までの水平距離(以下「第2距離」という。)を算出する。
具体的には、補正量算出部13は、以下の式(1)に従い第1距離を算出する。また、補正量算出部13は、以下の式(2)に従い第2距離を算出する。

第1距離=補正量算出用骨格座標点のX座標-撮像画像の中心のX座標 ・・・(1)
第2距離=補正量算出用骨格座標点に対応する基準座標点のX座標-撮像画像の中心のX座標 ・・・(2)

ここでは、補正量算出用骨格座標点は乗員の首を示す骨格座標点としているので、図3に示す例でいうと、補正量算出部13は、図3において203で示す直線から、201bで示す、助手席乗員の首を示す骨格座標点までの水平距離を第1距離として算出し、図3において203で示す直線から、202bで示す、首を示す基準座標点までの水平距離を第2距離として算出することになる。図3において第1距離はLで示し、第2距離はLで示している。
補正量算出部13は、第1距離および第2距離を算出すると、第1距離と第2距離との比に基づいて、補正量を算出する。
具体的には、補正量算出部13は、以下の式(3)に従って補正量を算出する。

補正量=(第2距離)/(第1距離) ・・・(3)
以上のように、補正量算出部13は、骨格点検出部12から出力された骨格座標点情報に基づき、補正量算出用骨格座標点を選択し、撮像画像の中心を通り撮像画像の縦方向と平行な直線から補正量算出用骨格座標点までの水平距離である第1距離と、当該直線から補正量算出用骨格座標点に対応する撮像画像上の基準座標点までの水平距離である第2距離とを算出し、算出した第1距離と第2距離の比に基づいて補正量を算出する。
なお、ここでは、乗員の首を示す骨格座標点を補正量算出用骨格座標点とするが、これは一例に過ぎない。補正量算出用骨格座標点は、骨格点検出部12が検出する複数の骨格座標点のうちの適宜の骨格座標点とできる。ただし、補正量算出用骨格座標点は、首のように、動きが少ない体の部位を示す骨格座標点とされるのが好ましい。動きが少ない体の部位を示す骨格座標点を補正量算出用骨格座標点とすることで、当該補正量算出用骨格座標点に基づいて算出される補正量を安定した値とすることができる。その結果、体格推定装置1は、安定した乗員の体格の推定結果を得ることができる。
補正量算出部13は、算出した補正量に関する情報(以下「補正量情報」という。)を、補正実行部15に出力する。補正量情報において、例えば、乗員ごとに、乗員を特定する情報と、補正量とが対応付けられている。乗員を特定する情報は、例えば、乗員が座席している座席に関する情報とすればよい。
骨格点選択部14は、骨格点検出部12から出力された骨格座標点情報に基づき、骨格点検出部12が検出した複数の骨格座標点のうちから複数の体格推定用骨格座標点を選択する。骨格点選択部14は、どの骨格座標点を体格推定用骨格座標点とするかの情報を記憶している。なお、骨格点選択部14は、乗員ごとに、体格判定用骨格座標点を選択する。
実施の形態1では、一例として、乗員の肩の骨格座標点を体格推定用骨格座標点とするので、骨格点選択部14は、骨格点検出部12が検出した複数の骨格座標点のうちから、乗員の肩の骨格座標点を、体格推定用骨格座標点として選択する。例えば、図2に示したような撮像画像200でいうと、骨格点選択部14は、助手席乗員の体格推定に用いる体格推定用骨格座標点として、201cで示す、助手席乗員の右肩を示す骨格座標点と、201dで示す、助手席乗員の左肩を示す骨格座標点を選択する。
骨格点選択部14は、選択した体格推定用骨格座標点に関する情報(以下「体格推定用骨格座標点情報」という。)を、補正実行部15に出力する。例えば、体格推定用骨格座標点情報において、乗員ごとに、当該乗員を特定する情報と、体格推定用骨格座標点の情報と、当該体格推定用骨格座標点が体のどの部位を示す骨格座標点であるかを示す情報と、乗員の性別を示す情報とが対応付けられている。乗員を特定する情報は、具体的には、乗員が着座している座席を示す情報である。体格推定用骨格座標点の情報は、具体的には、撮像画像上での体格推定用骨格座標点の座標である。骨格点選択部14は、骨格座標点情報から、上述したような、体格推定用骨格座標点情報に含まれる情報を判定できる。
補正実行部15は、骨格点選択部14から出力された体格推定用骨格座標点情報に基づき、骨格点選択部14が選択した複数の体格推定用骨格座標点間の骨格座標点間距離を算出する。そして、補正実行部15は、補正量算出部13から出力された補正量情報に基づき、算出した骨格座標点間距離を、補正量算出部13が算出した補正量を用いて補正する。なお、補正実行部15は、乗員ごとに、骨格座標点間距離の算出、および、算出した骨格座標点間距離の補正を行う。補正実行部15は、骨格座標点間距離の補正の際は、乗員に対応付けられている補正量を用いる。
補正実行部15は、以下の式(4)に従って、骨格座標点間距離を補正する。

補正後の骨格座標点間距離=骨格座標点間距離×補正量 ・・・(4)
具体的には、補正実行部15は、乗員ごとに、右肩を示す骨格座標点と左肩を示す骨格座標点の間の骨格座標点間距離を算出し、算出した骨格座標点間距離を、補正量を用いて補正する。
補正実行部15によって補正された骨格座標点間距離は、乗員が基準位置にある座席に着座したと仮定した場合に想定される、当該乗員を撮像した撮像画像上の当該乗員の骨格座標点間距離となる。
補正実行部15は、補正後の骨格座標点間距離に関する情報(以下「補正後距離情報」という。)を、体格推定部16に出力する。例えば、補正後距離情報において、乗員ごとに、当該乗員を特定する情報と、当該乗員の補正後の骨格座標点間距離の情報と、当該乗員の性別を示す情報とが対応付けられている。乗員を特定する情報は、具体的には、乗員が着座している座席を示す情報である。補正実行部15は、乗員を特定する情報と、当該乗員の性別を示す情報を、体格推定用骨格座標点情報から取得すればよい。
体格推定部16は、補正実行部15から出力された補正後距離情報に基づき、乗員の体格を推定する。より詳細には、体格推定部16は、補正実行部15が体格推定用骨格座標点情報に基づいて算出し、補正量算出部13が算出した補正量情報に基づく補正量を用いて補正した後の骨格座標点間距離に基づいて、乗員の体格を推定する。なお、体格推定部16は、乗員ごとに、当該乗員の体格を推定する。
実施の形態1では、上述のとおり、一例として、乗員の体格は、「幼児」、「小柄の男性」、「小柄の女性」、「標準男性」、「標準女性」、「大柄の男性」、または、「大柄の女性」のいずれかと定義されている。
体格推定部16は、例えば、骨格座標点間距離を入力とし乗員の体格に関する情報を出力する、機械学習における学習済みのモデル(以下「第2機械学習モデル」という。)を用いて、乗員の体格に関する情報を得ることで、乗員の体格を推定する。体格に関する情報は、例えば、「0」、「1」、「2」、または、「3」のように、体格をあらわす数値であってもよいし、体格の大きさ度合いを示す指数(以下「体格指数」という。)であってもよい。体格をあらわす数値について、どの値がどのような体格を示す数値であるかは、予め決められているものとする。例えば、「00:幼児」、「11:小柄の男性」、「12:小柄の女性」、「21:標準男性」、「22:標準女性」、「31:大柄の男性」、「32:大柄の女性」のように、数値があらわす体格が決められている。
第2機械学習モデルは、基準位置にある座席に着座している人が撮像された撮像画像上の当該人の骨格座標点間距離を入力とし、基準位置にある座席に着座している人の体格に関する情報を出力するよう、学習している。
体格推定部16は、第2機械学習モデルに基づいて得た乗員の体格に関する情報に基づいて、乗員の体格を推定する。例えば、乗員の体格に関する情報が、上述したような体格をあらわす数値であれば、体格推定部16は、数値に応じて予め決められている体格を、乗員の体格と推定する。また、例えば、乗員の体格に関する情報が体格指数であれば、体格推定部16は、指数に応じた体格を推定する。具体的には、体格指数がどれぐらいのとき、体格は「幼児」、「小柄の男性」、「小柄の女性」、「標準男性」、「標準女性」、「大柄の男性」、または、「大柄の女性」のいずれに該当するかが対応付けられた情報(以下「体格定義情報」という。)が、予め生成され、体格推定部16に記憶されている。体格推定部16は、体格定義情報を参照して、乗員の体格を推定する。
なお、これは一例に過ぎず、体格推定部16は、その他の方法で乗員の体格を推定してもよい。例えば、体格推定部16は、性別毎に、基準位置にある座席に着座した場合の人の骨格座標点間距離の情報と、当該骨格座標点間距離から推定される、基準位置にある座席に着座している乗員の体格とが対応付けられた情報(以下「体格推定用情報」という。)と、補正実行部15から出力された補正後距離情報とのつき合わせを行って、乗員の体格を推定してもよい。体格推定用情報は、予め設定され、体格推定部16に記憶されている。
体格推定部16は、体格推定結果を、推定結果出力部17に出力する。
体格推定結果において、乗員毎に、当該乗員を特定する情報と、乗員の体格を示す情報とが対応付けられている。乗員を特定する情報は、具体的には、乗員が着座している座席を示す情報である。体格推定部16は、乗員を特定する情報を、補正実行部15から出力される補正後距離情報から取得すればよい。
推定結果出力部17は、体格推定部16から出力された体格推定結果を、例えば、エアバッグ制御装置、報知装置、または、表示装置に出力する。
体格推定装置1は推定結果出力部17を備えず、体格推定部16が推定結果出力部17の機能を有するようにしてもよい。
実施の形態1に係る体格推定装置1の動作について説明する。
図4は、実施の形態1に係る体格推定装置1の動作について説明するためのフローチャートである。
撮像画像取得部11は、撮像装置2によって車両100の乗員が撮像された撮像画像を取得する(ステップST1)。
撮像画像取得部11は、取得した撮像画像を、骨格点検出部12に出力する。
骨格点検出部12は、ステップST1にて撮像画像取得部11が取得した撮像画像に基づいて、乗員の体の部位を示す、乗員の骨格座標点を検出する(ステップST2)。
また、骨格点検出部12は、骨格座標点を検出する際、検出した骨格座標点がどの乗員の骨格座標点であるか、および、乗員の性別をあわせて検出する。
骨格点検出部12は、骨格座標点情報を、補正量算出部13および骨格点選択部14に出力する。
補正量算出部13は、ステップST2にて骨格点検出部12から出力された骨格座標点情報に基づき、乗員の体格を推定する際の補正量を算出する(ステップST3)。
補正量算出部13は、補正量情報を、補正実行部15に出力する。
骨格点選択部14は、ステップST2にて骨格点検出部12から出力された骨格座標点情報に基づき、骨格点検出部12が検出した複数の骨格座標点のうちから複数の体格推定用骨格座標点を選択する(ステップST4)。
骨格点選択部14は、体格推定用骨格座標点情報を、補正実行部15に出力する。
補正実行部15は、ステップST4にて骨格点選択部14から出力された体格推定用骨格座標点情報に基づき、骨格点選択部14が選択した複数の体格推定用骨格座標点間の骨格座標点間距離を算出する。そして、補正実行部15は、ステップST3にて補正量算出部13から出力された補正量情報に基づき、算出した骨格座標点間距離を、補正量算出部13が算出した補正量を用いて補正する(ステップST5)。
補正実行部15は、補正後距離情報を、体格推定部16に出力する。
体格推定部16は、ステップST5にて補正実行部15から出力された補正後距離情報に基づき、乗員の体格を推定する(ステップST6)。
体格推定部16は、体格推定結果を、推定結果出力部17に出力する。
推定結果出力部17は、ステップST6にて体格推定部16から出力された体格推定結果を、例えば、エアバッグ制御装置、報知装置、または、表示装置に出力する(ステップST7)。
なお、図4を用いて説明した体格推定装置1の動作について、図4のフローチャートでは、ステップST3の処理とステップST4の処理とが並行して行われているが、これは一例に過ぎない。ステップST3の処理の後、ステップST4の処理が行われてもよいし、ステップST4の処理の後、ステップST3の処理が行われてもよい。ステップST2の処理が行われた後、ステップST5の処理が行われるまでに、ステップST3の処理とステップST4の処理とが完了していればよい。
このように、実施の形態1に係る体格推定装置1は、車両100の乗員が撮像された撮像画像に基づいて検出した複数の骨格座標点に関する骨格座標点情報に基づき、撮像画像の中心を通り撮像画像の縦方向と平行な直線から補正量算出用骨格座標点までの水平距離である第1距離と、当該直線から補正量算出用骨格座標点に対応する撮像画像上の基準座標点までの水平距離である第2距離との比に基づいて補正量を算出する。体格推定装置1は、乗員の複数の骨格座標点、より詳細には、乗員の複数の体格推定用骨格座標点の情報と、算出した補正量とに基づいて、乗員の体格を推定する。具体的には、体格推定装置1は、複数の体格推定用骨格座標点間の骨格座標点間距離を算出し、算出した骨格座標点間距離を算出した補正量を用いて補正して、補正した後の骨格座標点間距離から乗員の体格を推定する。
上述したように、車両100において、乗員が着座している座席は、車両の進行方向に対して前後に移動され得る。車両100において、座席が前後に移動されると、その移動に伴い、乗員は、撮像画像上で、大きく撮像される、または、小さく撮像される。したがって、撮像画像上で大きく撮像され得る、または、小さく撮像され得る乗員の体格の誤推定を防ぐためには、乗員が着座している座席の前後の位置、言い換えれば、撮像装置2から乗員までの距離を考慮する必要がある。
ここで、一般に、撮像装置を用いて物体までの距離を測定する方法として、例えば、以下の2つの方法が挙げられる。
・撮像装置が撮像した撮像画像上での物体の幅と物体の実際の幅との比較から算出する方法
・撮像装置が撮像した撮像画像上での物体の幅と、当該物体を予め設定されている基準となる位置に置いて撮像画像が当該物体を撮像した撮像画像上での当該物体の幅との比較から算出する方法
しかし、上述したような2つの方法は、事前に、撮像装置からの距離を測定しようとする物体の幅がわかっていることを前提としている。
したがって、事前にどのような体格であるのかが不明な車両100の乗員の体格の推定においては、上述したような2つの方法を使用して撮像装置2から乗員までの距離を推定することができない。その結果、上述したような2つの方法を用いて、乗員の着座している座席の前後の位置を考慮した乗員の体格の推定を行うことができない。
これに対し、実施の形態1に係る体格推定装置1は、撮像画像の中心を通り撮像画像の縦方向と平行な直線から補正量算出用骨格座標点までの水平距離である第1距離と、当該直線から補正量算出用骨格座標点に対応する撮像画像上の基準座標点までの水平距離である第2距離との比に基づいて補正量を算出する。そして、体格推定装置1は、補正量を用いて骨格座標点間距離を補正し、補正後の骨格座標点間距離から乗員の体格を推定する。
これにより、体格推定装置1は、事前に乗員がどのような体格であるのかが不明であっても、当該乗員が基準位置にある座席に着座していると想定した場合の、撮像画像上の当該乗員の骨格座標点間距離を算出できる。そのため、体格推定装置1は、車両100の乗員が着座している座席が車両100の進行方向に対して前後に移動させられた場合の乗員の体格推定の精度を向上させることができる。また、体格推定装置1は、補正後の骨格座標点間距離から体格を推定することで、実際に乗員が座席を前後方向のどの位置に設定して着座しているかに依らず、基準位置にある座席に着座している場合の乗員の体格を推定するアルゴリズムを用いて、精度の高い乗員の体格の推定を行うことができる。
以上の実施の形態1では、補正実行部15は、複数の体格推定用骨格座標点間の骨格座標点間距離を算出後、算出した骨格座標点間距離を、補正量を用いて補正していた。しかし、これは一例に過ぎない。例えば、補正実行部15は、まず、骨格点選択部14が選択した体格推定用骨格座標点の撮像画像上の座標を補正量算出部13が算出した補正量を用いて補正し、補正した後の複数の体格推定用骨格座標点の座標に基づいて骨格座標点間距離を算出してもよい。補正実行部15は、算出した骨格座標点間距離を補正後の骨格座標点間距離として、補正後距離情報を、体格推定部16に出力する。
なお、この場合、図4のフローチャートを用いて説明した体格推定装置1の動作について、ステップST5にて、補正実行部15は、補正量算出部13が算出した補正量を用いて体格推定用骨格座標点の座標を補正した後、補正後の体格推定用骨格座標点の座標に基づいて骨格座標点間距離を算出する。
また、以上の実施の形態1では、補正量算出用骨格座標点は1つとし、補正量算出部13は、骨格点検出部12によって検出された複数の骨格座標点のうち、補正量算出用骨格座標点を1つ選択したが、これは一例に過ぎない。例えば、補正量算出用骨格座標点は、複数存在してもよい。
この場合、補正量算出部13は、例えば、各補正量算出用骨格座標点について、第1距離と第2距離との比に基づいて暫定の補正量(以下「暫定補正量」という。)を算出する。そして、補正量算出部13は、各補正量算出用骨格座標点に対応する暫定補正量の平均を、補正量とする。
補正量算出部13が複数の補正量算出用骨格座標点について、第1距離と第2距離との比に基づいて暫定補正量を算出し、算出した暫定補正量から補正量を算出することで、体格推定装置1は、より精度の高い補正量を得ることができる。その結果、体格推定装置1は、車両100の乗員が着座している座席が車両の進行方向に対して前後に移動させられた場合の乗員の体格推定の精度を、より向上させることができる。
また、以上の実施の形態1において、骨格点検出部12が検出する複数の骨格座標点を全て体格推定用骨格座標点としてもよい。
この場合、骨格点検出部12は、骨格座標点情報を補正実行部15に出力する。例えば、補正実行部15は、骨格座標点情報に基づき、骨格点検出部12が検出した複数の骨格座標点間の骨格座標点間距離を算出する。そして、補正実行部15は、算出した骨格座標点間距離を、補正量算出部13が算出した補正量を用いて補正する。
例えば、補正実行部15は、骨格座標点情報に基づき、まず、骨格点検出部12が検出した複数の骨格座標点の座標を補正量算出部13が算出した補正量を用いて補正し、補正した後の複数の骨格座標点の座標に基づいて骨格座標点間距離を算出してもよい。
この場合、体格推定装置1は、骨格点選択部14を備えない構成とできる。体格推定装置1が骨格点選択部14を備えない構成とする場合、体格推定装置1の動作を説明するために用いた図4のフローチャートにおいて、ステップST4の処理を省略できる。
また、以上の実施の形態1では、体格推定装置1は、車両100の運転者および助手席乗員の体格を推定するものとしたがこれは一例に過ぎない。体格推定装置1は、運転者と助手席乗員のうちいずれか一方の体格を推定するものでもよい。また、体格推定装置1は、後部座席の乗員の体格を推定することもできる。
図5A,図5Bは、実施の形態1に係る体格推定装置1のハードウェア構成の一例を示す図である。
実施の形態1において、撮像画像取得部11と、骨格点検出部12と、補正量算出部13と、骨格点選択部14と、補正実行部15と、体格推定部16と、推定結果出力部17の機能は、処理回路51により実現される。すなわち、体格推定装置1は、車両100の乗員を撮像した撮像画像に基づいて、乗員の体格を推定する際に用いる補正量を算出し、当該補正量に基づいて算出された骨格座標点間距離から乗員の体格を推定する制御を行うための処理回路51を備える。
処理回路51は、図5Aに示すように専用のハードウェアであっても、図5Bに示すようにメモリに格納されるプログラムを実行するプロセッサ54であってもよい。
処理回路51が専用のハードウェアである場合、処理回路51は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、またはこれらを組み合わせたものが該当する。
処理回路がプロセッサ54の場合、撮像画像取得部11と、骨格点検出部12と、補正量算出部13と、骨格点選択部14と、補正実行部15と、体格推定部16と、推定結果出力部17の機能は、ソフトウェア、ファームウェア、または、ソフトウェアとファームウェアとの組み合わせにより実現される。ソフトウェアまたはファームウェアは、プログラムとして記述され、メモリ55に記憶される。プロセッサ54は、メモリ55に記憶されたプログラムを読み出して実行することにより、撮像画像取得部11と、骨格点検出部12と、補正量算出部13と、骨格点選択部14と、補正実行部15と、体格推定部16と、推定結果出力部17の機能を実行する。すなわち、体格推定装置1は、プロセッサ54により実行されるときに、上述の図4のステップST1~ステップST7が結果的に実行されることになるプログラムを格納するためのメモリ55を備える。また、メモリ55に記憶されたプログラムは、撮像画像取得部11と、骨格点検出部12と、補正量算出部13と、骨格点選択部14と、補正実行部15と、体格推定部16と、推定結果出力部17の処理の手順または方法をコンピュータに実行させるものであるともいえる。ここで、メモリ55とは、例えば、RAM、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically Erasable Programmable Read-Only Memory)等の、不揮発性もしくは揮発性の半導体メモリ、または、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、DVD(Digital Versatile Disc)等が該当する。
なお、撮像画像取得部11と、骨格点検出部12と、補正量算出部13と、骨格点選択部14と、補正実行部15と、体格推定部16と、推定結果出力部17の機能について、一部を専用のハードウェアで実現し、一部をソフトウェアまたはファームウェアで実現するようにしてもよい。例えば、撮像画像取得部11については専用のハードウェアとしての処理回路51でその機能を実現し、骨格点検出部12と、補正量算出部13と、骨格点選択部14と、補正実行部15と、体格推定部16と、推定結果出力部17についてはプロセッサ54がメモリ55に格納されたプログラムを読み出して実行することによってその機能を実現することが可能である。
また、体格推定装置1は、撮像装置2、エアバッグ制御装置、報知装置、または、表示装置等の装置と、有線通信または無線通信を行う入力インタフェース装置52および出力インタフェース装置53を備える。
以上の実施の形態1では、体格推定装置1は、車両100に搭載される車載装置とし、撮像画像取得部11と、骨格点検出部12と、補正量算出部13と、骨格点選択部14と、補正実行部15と、体格推定部16と、推定結果出力部17は、体格推定装置1に備えられていた。
これに限らず、撮像画像取得部11と、骨格点検出部12と、補正量算出部13と、骨格点選択部14と、補正実行部15と、体格推定部16と、推定結果出力部17のうち、一部が車両の車載装置に搭載され、その他が当該車載装置とネットワークを介して接続されるサーバに備えられて、車載装置とサーバとで体格推定システムを構成してもよい。
また、撮像画像取得部11と、骨格点検出部12と、補正量算出部13と、骨格点選択部14と、補正実行部15と、体格推定部16と、推定結果出力部17が全部サーバに備えられてもよい。
以上のように、実施の形態1によれば、体格推定装置1は、車両100の進行方向に対して前後に移動可能な車両100の座席の移動方向と平行な光軸を有する撮像装置2、によって車両100の乗員が撮像された撮像画像を取得する撮像画像取得部11と、撮像画像取得部11が取得した撮像画像に基づいて、撮像画像上で乗員の体の部位を示す乗員の複数の骨格座標点を検出する骨格点検出部12と、骨格点検出部12が検出した複数の骨格座標点に関する情報に基づき、撮像画像取得部11が取得した撮像画像の中心を通り撮像画像の縦方向と平行な直線から、骨格点検出部12が検出した複数の骨格座標点のうちの補正量算出用骨格座標点までの水平距離である第1距離と、直線から、座席が設定された基準位置にある場合の補正量算出用骨格座標点を想定して設定された、補正量算出用骨格座標点に対応する撮像画像上の基準座標点までの水平距離である第2距離との比に基づいて補正量を算出する補正量算出部13と、骨格点検出部12が検出した複数の骨格座標点に関する情報と、補正量算出部13が算出した補正量とに基づいて、乗員の体格を推定する体格推定部16とを備えるように構成した。そのため、体格推定装置1は、車両100の乗員が着座している座席が車両の進行方向に対して前後に移動させられた場合の乗員の体格推定の精度を向上させることができる。
より詳細には、体格推定装置1は、骨格点検出部12が検出した複数の骨格座標点間の骨格座標点間距離を算出し、算出した骨格座標点間距離を補正量算出部13が算出した補正量を用いて補正する補正実行部15を備え、体格推定部16は、補正実行部15が補正した後の骨格座標点間距離から乗員の体格を推定するようにした。そのため、体格推定装置1は、車両100の乗員が着座している座席が車両の進行方向に対して前後に移動させられた場合の乗員の体格推定の精度を向上させることができる。
また、体格推定装置1は、骨格点検出部12が検出した複数の骨格座標点の座標を補正量算出部13が算出した補正量を用いて補正し、補正した後の複数の骨格座標点の座標に基づいて複数の骨格座標点間の骨格座標点間距離を算出する補正実行部15を備え、体格推定部16は、補正実行部15が算出した骨格座標点間距離から乗員の体格を推定するようにした。そのため、体格推定装置1は、車両100の乗員が着座している座席が車両の進行方向に対して前後に移動させられた場合の乗員の体格推定の精度を向上させることができる。
なお、本開示は、実施の形態の任意の構成要素の変形、もしくは実施の形態の任意の構成要素の省略が可能である。
本開示に係る体格推定装置は、車両の乗員が着座している座席が車両の進行方向に対して前後に移動させられることを考慮して乗員の体格を推定するため、車両の乗員が着座している座席が車両の進行方向に対して前後に移動させられた場合の乗員の体格推定の精度を向上させることができる。
1 体格推定装置、11 撮像画像取得部、12 骨格点検出部、13 補正量算出部、14 骨格点選択部、15 補正実行部、16 体格推定部、17 推定結果出力部、2 撮像装置、100 車両、51 処理回路、52 入力インタフェース装置、53 出力インタフェース装置、54 プロセッサ、55 メモリ。

Claims (8)

  1. 車両の進行方向に対して前後に移動可能な前記車両の座席の移動方向と平行な光軸を有する撮像装置、によって前記車両の乗員が撮像された撮像画像を取得する撮像画像取得部と、
    前記撮像画像取得部が取得した前記撮像画像に基づいて、前記撮像画像上で前記乗員の体の部位を示す前記乗員の複数の骨格座標点を検出する骨格点検出部と、
    前記骨格点検出部が検出した複数の前記骨格座標点に関する情報に基づき、前記撮像画像取得部が取得した前記撮像画像の中心を通り前記撮像画像の縦方向と平行な直線から、前記骨格点検出部が検出した複数の前記骨格座標点のうちの補正量算出用骨格座標点までの水平距離である第1距離と、前記直線から、前記座席が設定された基準位置にある場合の前記補正量算出用骨格座標点を想定して設定された、前記補正量算出用骨格座標点に対応する前記撮像画像上の基準座標点までの水平距離である第2距離との比に基づいて補正量を算出する補正量算出部と、
    前記骨格点検出部が検出した複数の前記骨格座標点に関する情報と、前記補正量算出部が算出した前記補正量とに基づいて、前記乗員の体格を推定する体格推定部
    とを備えた体格推定装置。
  2. 前記骨格点検出部が検出した複数の前記骨格座標点間の骨格座標点間距離を算出し、算出した前記骨格座標点間距離を前記補正量算出部が算出した前記補正量を用いて補正する補正実行部を備え、
    前記体格推定部は、前記補正実行部が補正した後の前記骨格座標点間距離から前記乗員の体格を推定する
    ことを特徴とする請求項1記載の体格推定装置。
  3. 前記骨格点検出部が検出した複数の前記骨格座標点の座標を前記補正量算出部が算出した前記補正量を用いて補正し、補正した後の複数の前記骨格座標点の座標に基づいて複数の前記骨格座標点間の骨格座標点間距離を算出する補正実行部を備え、
    前記体格推定部は、前記補正実行部が算出した前記骨格座標点間距離から前記乗員の体格を推定する
    ことを特徴とする請求項1記載の体格推定装置。
  4. 前記補正量算出用骨格座標点は、前記乗員の首を示す前記骨格座標点である
    ことを特徴とする請求項1記載の体格推定装置。
  5. 前記補正量算出用骨格座標点は複数存在し、
    前記補正量算出部は、各補正量算出用骨格座標点について前記第1距離と前記第2距離との比に基づいて暫定補正量を算出し、各補正量算出用骨格座標点に対応する前記暫定補正量の平均を前記補正量とする
    ことを特徴とする請求項1記載の体格推定装置。
  6. 前記骨格点検出部が検出した複数の前記骨格座標点のうちから前記乗員の体格推定に用いる複数の体格推定用骨格座標点を選択する骨格点選択部を備え、
    前記補正実行部は、前記骨格点選択部が選択した複数の前記体格推定用骨格座標点間の前記骨格座標点間距離を算出する
    ことを特徴とする請求項2記載の体格推定装置。
  7. 前記骨格点検出部が検出した複数の前記骨格座標点のうちから前記乗員の体格推定に用いる複数の体格推定用骨格座標点を選択する骨格点選択部を備え、
    前記補正実行部は、前記骨格点選択部が選択した複数の前記体格推定用骨格座標点の座標を前記補正量算出部が算出した前記補正量を用いて補正し、補正した後の複数の前記体格推定用骨格座標点の座標に基づいて複数の前記体格推定用骨格座標点間の前記骨格座標点間距離を算出する
    ことを特徴とする請求項3記載の体格推定装置。
  8. 撮像画像取得部が、車両の進行方向に対して前後に移動可能な前記車両の座席の移動方向と平行な光軸を有する撮像装置、によって前記車両の乗員が撮像された撮像画像を取得するステップと、
    骨格点検出部が、前記撮像画像取得部が取得した前記撮像画像に基づいて、前記撮像画像上で前記乗員の体の部位を示す前記乗員の複数の骨格座標点を検出するステップと、
    補正量算出部が、前記骨格点検出部が検出した複数の前記骨格座標点に関する情報に基づき、前記撮像画像取得部が取得した前記撮像画像の中心を通り前記撮像画像の縦方向と平行な直線から、前記骨格点検出部が検出した複数の前記骨格座標点のうちの補正量算出用骨格座標点までの水平距離である第1距離と、前記直線から、前記座席が設定された基準位置にある場合の前記補正量算出用骨格座標点を想定して設定された、前記補正量算出用骨格座標点に対応する前記撮像画像上の基準座標点までの水平距離である第2距離との比に基づいて補正量を算出するステップと、
    体格推定部が、前記骨格点検出部が検出した複数の前記骨格座標点に関する情報と、前記補正量算出部が算出した前記補正量とに基づいて、前記乗員の体格を推定するステップ
    とを備えた体格推定方法。
JP2023533018A 2021-07-09 2021-07-09 体格推定装置および体格推定方法 Active JP7479575B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2021/025969 WO2023281737A1 (ja) 2021-07-09 2021-07-09 体格推定装置および体格推定方法

Publications (2)

Publication Number Publication Date
JPWO2023281737A1 JPWO2023281737A1 (ja) 2023-01-12
JP7479575B2 true JP7479575B2 (ja) 2024-05-08

Family

ID=84800485

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023533018A Active JP7479575B2 (ja) 2021-07-09 2021-07-09 体格推定装置および体格推定方法

Country Status (2)

Country Link
JP (1) JP7479575B2 (ja)
WO (1) WO2023281737A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008150039A (ja) 2008-02-08 2008-07-03 Toyota Motor Corp 乗員検知装置
JP2018156212A (ja) 2017-03-15 2018-10-04 富士通株式会社 体格判定装置、体格判定方法およびプログラム
WO2019163124A1 (ja) 2018-02-26 2019-08-29 三菱電機株式会社 三次元位置推定装置及び三次元位置推定方法
JP2020104680A (ja) 2018-12-27 2020-07-09 アイシン精機株式会社 室内監視装置
WO2021044566A1 (ja) 2019-09-05 2021-03-11 三菱電機株式会社 体格判定装置および体格判定方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012001125A (ja) * 2010-06-17 2012-01-05 Toyota Infotechnology Center Co Ltd エアバック装置及びその展開制御方法
JP7287239B2 (ja) * 2019-10-18 2023-06-06 株式会社デンソー 乗員体格判定装置
JP7415469B2 (ja) * 2019-11-15 2024-01-17 株式会社アイシン 体格推定装置および姿勢推定装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008150039A (ja) 2008-02-08 2008-07-03 Toyota Motor Corp 乗員検知装置
JP2018156212A (ja) 2017-03-15 2018-10-04 富士通株式会社 体格判定装置、体格判定方法およびプログラム
WO2019163124A1 (ja) 2018-02-26 2019-08-29 三菱電機株式会社 三次元位置推定装置及び三次元位置推定方法
JP2020104680A (ja) 2018-12-27 2020-07-09 アイシン精機株式会社 室内監視装置
WO2021044566A1 (ja) 2019-09-05 2021-03-11 三菱電機株式会社 体格判定装置および体格判定方法

Also Published As

Publication number Publication date
JPWO2023281737A1 (ja) 2023-01-12
WO2023281737A1 (ja) 2023-01-12

Similar Documents

Publication Publication Date Title
US11380009B2 (en) Physique estimation device and posture estimation device
WO2020078461A1 (zh) 车辆座椅智能调节方法和装置、车辆、电子设备、介质
US20070289799A1 (en) Vehicle occupant detecting system
JP3532772B2 (ja) 乗員の乗車状態検出装置
US11037006B2 (en) Occupant detection device
JP6739672B2 (ja) 体格推定装置および体格推定方法
US20200090299A1 (en) Three-dimensional skeleton information generating apparatus
CN111742191B (zh) 三维位置推定装置及三维位置推定方法
JP2018083561A (ja) 乗員情報検出装置およびプログラム
US20190294240A1 (en) Sight line direction estimation device, sight line direction estimation method, and sight line direction estimation program
JP6479272B1 (ja) 視線方向較正装置、視線方向較正方法および視線方向較正プログラム
CN111601736B (zh) 乘客检测装置、乘客检测系统以及乘客检测方法
US20230322129A1 (en) Ecu device, vehicle seat, system for estimating lower limb length of seated person, and attachment structure for sitting height detection sensor
JP7479575B2 (ja) 体格推定装置および体格推定方法
JP7267467B2 (ja) 注意方向判定装置および注意方向判定方法
JP2007226726A (ja) 熱画像処理装置
Ribas et al. In-Cabin vehicle synthetic data to test Deep Learning based human pose estimation models
US11915496B2 (en) Body information acquisition device
JP7374373B2 (ja) 体格判定装置および体格判定方法
WO2023223442A1 (ja) 体格判定装置および体格判定方法
KR20150067679A (ko) 차량용 제스처 인식 시스템 및 그 방법
WO2024034109A1 (ja) 体格判定装置および体格判定方法
WO2023084738A1 (ja) 体格判定装置および体格判定方法
WO2022239048A1 (ja) 位置検出装置、体格検出システム、および、位置検出方法
WO2023013562A1 (ja) 疲労推定システム、疲労推定方法、姿勢推定装置及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230707

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240326

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240423

R150 Certificate of patent or registration of utility model

Ref document number: 7479575

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150