JP2019103609A - 動作状態推定装置、動作状態推定方法及びプログラム - Google Patents

動作状態推定装置、動作状態推定方法及びプログラム Download PDF

Info

Publication number
JP2019103609A
JP2019103609A JP2017237843A JP2017237843A JP2019103609A JP 2019103609 A JP2019103609 A JP 2019103609A JP 2017237843 A JP2017237843 A JP 2017237843A JP 2017237843 A JP2017237843 A JP 2017237843A JP 2019103609 A JP2019103609 A JP 2019103609A
Authority
JP
Japan
Prior art keywords
sensor
measurement target
sensor data
section
motion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017237843A
Other languages
English (en)
Inventor
純也 藤本
Junya Fujimoto
純也 藤本
村瀬 有一
Yuichi Murase
有一 村瀬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2017237843A priority Critical patent/JP2019103609A/ja
Publication of JP2019103609A publication Critical patent/JP2019103609A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

【課題】動作状態推定装置、動作状態推定方法及びプログラムにおいて、計測対象の動作状態を高精度に推定することを目的とする。【解決手段】計測対象の一部に装着されたセンサデバイスが有する少なくとも1つのセンサからのセンサデータを記憶装置に記憶し、前記記憶装置に記憶された前記センサデータから、推定しようとする前記計測対象の対象動作のうち個々の計測対象にかかわらず共通的な動作部分を含む、前記計測対象の動作区間内のセンサデータを切り出し、切り出したセンサデータを複数の信号処理パターンで処理した複数の特徴波形を各センサについて算出し、前記動作区間を、分割数1を含む複数種類の分割数で時間的に等分割し、分割された各分割区間における前記複数の特徴波形の代表値を各センサについて算出し、前記対象動作に共通的な分割区間における代表値と、予め学習済みの前記対象動作の推定モデルを、各センサについて比較し、比較の結果に基づき前記計測対象の動作状態を推定する。【選択図】図6

Description

本発明は、動作状態推定装置、動作状態推定方法及びプログラムに関する。
計測対象者の一例である作業者の見守り、評価等の目的で、作業中である作業者の身体負荷に関係の深い身体姿勢を把握する方法の研究及び開発が行われている。作業者が身につけたウェアラブルデバイスが有するモーションセンサ等から得られるセンサデータを利用して、作業者の身体姿勢を推定する方法も提案されている。モーションセンサには、例えば加速度センサ、ジャイロセンサ、気圧センサ、磁気センサ等が含まれる。
一方、計測対象者の身体姿勢を推定するために、直接的な観測手段の一例であるモーションキャプチャを利用して、実際に活動中の計測対象者の状態を計測することも提案されている。直接的な観測手段とは、例えば計測対象者の腕の移動方向等の、観測したい情報を直接観測する手段のことを言う。しかし、モーションキャプチャを利用する場合、多数のセンサ又は検出位置を示す多数のマーカを計測対象者に装着するため、動作状態推定装置の可搬性が悪く、観測が可能となる環境には制約があり、動作状態推定装置のコストが高くなる。また、モーションキャプチャを利用する場合、多数のセンサ又は検出位置を示す多数のマーカを計測対象者に装着するため、計測対象者への心理的及び物理的な負担が大きくなる。
そこで、センサ等が計測対象者に長時間の装着されたり、センサ等が装着された状態で計測対象者が作業すること等を考慮すると、計測対象者の身体の一部、例えば手首に装着したウェアラブルデバイスを利用して計測対象者の身体姿勢を推定することが望ましい。例えば、ウェアラブルデバイスが計測対象者の手首に装着されるバンド型のデバイスであれば、計測対象者への心理的及び物理的な負荷を増大することなく、バンド型のデバイスから得られるセンサデータを利用して、例えば計測対象者の腰の曲がり具合等の身体姿勢を推定できる。
計測対象者の身体に装着したモーションセンサから得られるセンサデータの特徴量を抽出し、事前に作成した特徴量のデータベースと照合して動作の種別を識別する方法が提案されている(例えば、特許文献1参照)。このような特徴量は、計測対象者の歩行等の周期的な動作を推定するのには適している。一方、計測対象者が荷物の持ち上げ等の単発的な動作を行う際にセンサデータから切り出した一連の動作区間の波形の前半に大きな反応がある場合と、後半に大きな反応がある場合とでは、計測対象者の動作の種別が異なる。ところが、例えば特徴量として、一連の動作区間のスペクトルを計算した場合には、前記2つの場合について計算されたスペクトルの違いを区別することは難しい。また、種別が同じ動作であっても、計測対象者の細かい動きは毎回同じにならず違いが生じ、異なる計測対象者間ではこのような違いが更に大きくなる。このため、身体姿勢の違いを推定して計測対象者の動作状態の一例である身体姿勢の状態を推定する場合、単に特徴量を照合する上記提案方法では、推定精度を向上することが難しい。
特開平10−113343号公報 特開2013−220355号公報
従来の動作状態推定装置では、計測対象の動作状態を高精度に推定することは難しい。
そこで、1つの側面では、計測対象の動作状態を高精度に推定可能な動作状態推定装置、動作状態推定方法及びプログラムを提供することを目的とする。
1つの案によれば、計測対象の一部に装着されたセンサデバイスが有する少なくとも1つのセンサからのセンサデータを記憶する記憶手段と、前記記憶手段に記憶された前記センサデータから、推定しようとする前記計測対象の対象動作のうち個々の計測対象にかかわらず共通的な動作部分を含む、前記計測対象の動作区間内のセンサデータを切り出し、切り出したセンサデータを複数の信号処理パターンで処理した複数の特徴波形を各センサについて算出する第1の算出手段と、前記動作区間を、分割数1を含む複数種類の分割数で時間的に等分割し、分割された各分割区間における前記複数の特徴波形の代表値を各センサについて算出する第2の算出手段と、前記対象動作に共通的な分割区間における代表値と、予め学習済みの前記対象動作の推定モデルを、各センサについて比較し、比較の結果に基づき前記計測対象の動作状態を推定する推定手段と、を備えた動作状態推定装置が提供される。
一態様によれば、計測対象の動作状態を高精度に推定することができる。
加速度ノルムの信号処理パターンの一例を説明する図である。 角速度ノルムの信号処理パターンの一例を説明する図である。 重力方向に対する傾きの変化の信号処理パターンの一例を説明する図である。 気圧2階差分の信号処理パターンの一例を説明する図である。 特徴波形の時分割による特徴量の算出方法の一例を説明する図である。 一実施例における動作状態推定装置の一例を示す機能ブロック図である。 コンピュータのハードウェア構成の一例を示すブロック図である。 支援システムの一例を示すブロック図である。 荷物の持ち上げ動作の姿勢を推定する処理の一例を説明する図である。 計測対象者の姿勢を表す角度の一例を説明する図である。 推定関数学習処理の一例を説明する図である。 推定モデルの学習処理の一例を説明するフローチャートである。 姿勢推定処理の一例を説明するフローチャートである。 動作状態推定装置の第1の例を説明するブロック図である。 動作状態推定装置の第2の例を説明するブロック図である。
開示の動作状態推定装置、動作状態推定方法及びプログラムでは、計測対象の一部に装着されたセンサデバイスが有する少なくとも1つのセンサからのセンサデータを記憶し、記憶されたセンサデータから、推定しようとする計測対象の対象動作のうち個々の計測対象にかかわらず共通的な動作部分を含む、計測対象の動作区間内のセンサデータを切り出し、切り出したセンサデータを複数の信号処理パターンで処理した複数の特徴波形を各センサについて算出する。また、動作区間を、分割数1を含む複数種類の分割数で時間的に等分割し、分割された各分割区間における複数の特徴波形の代表値を各センサについて算出し、対象動作に共通的な分割区間における代表値と、予め学習済みの対象動作の推定モデルを、各センサについて比較し、比較の結果に基づき計測対象の動作状態を推定する。
以下に、開示の動作状態推定装置、動作状態推定方法及びプログラムの各実施例を図面と共に説明する。
種別が同じ動作であっても、計測対象者の細かい動きは毎回同じではなく違いが生じ、異なる計測対象者間ではこのような違いが更に大きくなる。そこで、このような違いの影響を最小限に抑えると共に、利用できるセンサデータは最大限に活用することが、計測対象者の動作状態を推定する推定精度を向上する上で望ましい。一実施例では、計測対象者の一連の動作区間中の、個々の計測対象者にかかわらず、即ち、異なる計測対象者間でも共通的な動作部分に重み付けをして、動作状態の推定に利用する。共通的な動作部分は、例えば一連の動作区間中の全体の動きの傾向(即ち、全体的な傾向)、一連の動作区間中の一部の期間中(即ち、動作区間より短い時間)の動きの傾向(即ち、局所的な傾向)等であり、推定する計測対象者の動作の種別に応じて異なる。なお、動作の種別を人手で識別しても良いが、コストがかかるため、動作の種別は後述するように自動的に識別することが望ましい。
一実施例では、計測対象の一例である計測対象者の一連の動作区間中の共通的な動作部分を夫々特徴量として表現し、教師データにより特徴量の重み(即ち、共通性)を学習することで、計測対象者の動作状態を推定する。
(特徴量の算出)
計測対象者に装着されたウェアラブルデバイスから得られるセンサデータの特徴量は、例えば以下の手順により算出できる。
先ず、例えば計測対象者の動作の開始から終了までの一連の動作区間を特定し、各センサデータを切り出す。一連の動作区間は、動作の種別(以下、「動作種別」とも言う)に応じて異なり、上記共通的な動作部分を少なくとも1つ含む区間であれば、必ずしも動作の開始から終了までの動作区間でなくても良い。動作区間のセンサデータの切り出しの詳細については、後述する。
次に、切り出したセンサデータに対して、事前にリスト化した信号処理パターンを適用する。図1乃至図4は、センサデータの特徴量、即ち、特徴波形を算出するのに用いる信号処理パターンの一例を説明する図である。
図1は、加速度ノルムの信号処理パターンの一例を説明する図である。図1に示す信号処理パターンでは、3軸加速度センサからのセンサデータに含まれる3軸加速度データがローパスフィルタ1−1とノルム算出部2−1を通ることで、加速度ノルムが求められる。
図2は、角速度ノルムの信号処理パターンの一例を説明する図である。図2に示す信号処理パターンでは、3軸ジャイロセンサからのセンサデータに含まれる3軸角速度データがローパスフィルタ1−2とノルム算出部2−2を通ることで、角速度ノルムが求められる。
図3は、重力方向に対する傾きの変化の信号処理パターンの一例を説明する図である。図3に示す信号処理パターンでは、3軸加速度センサからのセンサデータに含まれる3軸加速度データが、一方ではローパスフィルタ1−3のみ、他方ではローパスフィルタ1−3と遅延部3−3を介して、減算器4−3とノルム算出部2−3を通ることで、重力方向に対する傾きの変化が求められる。重力方向に対する傾きの変化を求めることで、センサデータを重力方向又は重力方向と直交する水平方向に関する成分に分解して、モーションセンサの装着方向によらない時系列変化を算出することができる。
図4は、気圧2階差分の信号処理パターンの一例を説明する図である。図4に示す信号処理パターンでは、気圧センサからのセンサデータに含まれる気圧データが一方ではローパスフィルタ1−4のみ、他方ではローパスフィルタ1−4と遅延部3−4を介して、減算器4−4に入力される。また、減算器4−4の出力は、一方では直接減算器5−4に、他方では遅延部6−4を介して減算器5−4に入力されることで、気圧2階差分が求められる。
なお、特徴波形を算出するのに用いる信号処理パターンは、図1乃至図4に示す信号処理パターンに限定されるものではない。また、特徴波形を算出するのに用いる信号処理パターンの数は、4パターンに限定されないが、動作状態の推定精度を向上するために2パターン以上であることが望ましい。
例えば図1に示す加速度ノルムを算出する信号処理パターン等の、各信号処理パターンでセンサデータを処理することで、夫々1つの特徴波形を算出することができる。M個(Mは1以上の自然数)の信号処理パターンがリスト化されている場合、センサ毎のセンサデータからM個の特徴波形が得られる。
更に、計測対象者の一連の動作区間を切り出し、動作区間内の各特徴波形を時間的に等分割(以下、単に「時分割」とも言う)し、分割区間内の代表値を分割区間内の特徴量とする。代表値は、例えば、分割区間内の最大値、最小値、平均値等である。つまり、各特徴波形を粗くリサンプリングして算出した代表値を並べたものを特徴量(以下、「特徴ベクトル」とも言う)と定義する。このように算出した特徴量を用いることで、計測対象者の一連の動作区間中の共通的な分割区間に着目した特徴量の比較が行える。
一連の動作区間内の特徴波形を時分割する際に、1つの分割数だけを用いるのではなく、図5に示すように、センサ毎に、複数種類の分割数の場合について各分割区間で算出した代表値を並べたものを1つの特徴量(即ち、特徴ベクトル)とする。図5は、特徴波形の時分割による特徴量の算出方法の一例を説明する図である。図5に示す特徴波形は、例えば図1に示す信号処理パターンで得られた加速度ノルムの波形である。この例では、切り出した一連の動作区間を、1分割、2分割、及び4分割の3種類の分割数で分割する。図5中、各特徴波形の縦軸は振幅を任意単位で示し、横軸は時刻を任意単位で示す。また、1分割の場合の代表値はμ11、2分割の場合の代表値はμ21,μ22、及び4分割の場合の代表値はμ41,μ42,μ43,μ44であり、代表値をまとめて並べた特徴量(即ち、特徴ベクトル)は、{μ11,μ21,μ22,μ41,μ42,μ43,μ44}である。
これにより、特徴波形の全体的な傾向と局所的な傾向の両方の特徴を考慮した特徴量の比較が可能になる。1つの特徴波形を時分割し、夫々の分割区間の代表値を算出した特徴量の数がN個(Nは1以上の自然数)であるとすると、学習に用いる全体の特徴量の数はM×N個となる。例えば、信号処理パターンの数がM=8、分割数として図5に示すように1分割(分割なし)、2分割、及び4分割の3種類の分割数を用いた場合、N=1+2+4=7となり、センサ毎の全体の特徴量の数はM×N=8×7=56個となる。
一連の動作区間の切り出し方法は、特に限定されない。一連の動作区間は、注目している動作、或いは、推定しようとする動作種別に応じて決定して切り出せば良い。以下に、様々な種別の動作に応じて利用できる一連の動作区間の切り出し方法の一例を説明する。
例えば、一定以上の大きな動きを伴うような計測対象者の動作の場合には、3軸加速度センサから得られる3軸加速度データのノルムを図1に示すように算出すると共に、3軸ジャイロセンサから得られる3軸角速度データのノルムを図2に示すように算出して、算出されたノルムの平均的な大きさ、分散等が一定以上の区間を、一連の動作区間として切り出すことができる。
また、計測対象者の荷物の持ち上げ動作のように、重力方向への運動を伴うような動作の場合には、図3に示すように3軸加速度データからセンサデバイスの重力方向に対する傾きを推定できるため、例えば傾きの変化が一定以上になったタイミング(例えば、傾きの変化量の差分が極値をとるタイミング)を計測対象者の動作の開始タイミングとして検出し、傾きが変化しない状態が一定時間以上となったタイミングを終了タイミングとして検出することができる。従って、動作の開始タイミングから終了タイミングまでの区間を、一連の動作区間として切り出すことができる。
更に、気圧センサを利用することで、気圧データの変化から高度変化量に関する情報を得ることができ、図4に示すように高度変化量の差分の一例である気圧2階差分が一定以上になったタイミングから重力方向に関して計測対象者の運動の方向が変わった(即ち、降下から上昇、又は、上昇から降下に変化した)タイミングを検出できる。重力方向に関して計測対象者の運動の方向が変わったタイミングを、一連の動作区間の切り出しのタイミングとして利用できる。
また、計測対象者が様々な種別の動作が行う状況を想定すると、注目している動作、或いは、推定しようとする動作と似ているが種別の異なる動作が行われる可能性がある。似ている動作同士では、同じ動作区間の切り出し条件を満たしてしまう可能性がある。しかし、誤った推定モデルを利用して推定した計測対象者の動作状態の一例である身体姿勢の信頼性は低い。このため、計測対象者の動作種別を識別することで、正しい推定モデルを選択するか、推定モデルが存在しない場合には身体姿勢を推定しないといった処理を行うことが望ましい。
(動作状態推定装置)
図6は、一実施例における動作状態推定装置の一例を示す機能ブロック図である。図6に示す動作状態推定装置10は、センサデバイス11、計測データ取得部12、バッファリング部13、動作区間切り出し部14、特徴量算出部15、動作種別識別部16、推定モデルデータベース17、推定モデル選択部18、及び姿勢推定部19を有する。
センサデバイス11は、例えば3軸加速度センサ、3軸ジャイロセンサ、気圧センサ、磁気センサ等の、1又は複数のモーションセンサを有する。この例では、センサデバイス11は、計測対象者に装着されるウェアラブルデバイスの一部を形成するハードウェアデバイスである。なお、センサデバイス11は、複数のモーションセンサが計測対象者に一体的に装着される単一のウェアラブルデバイスで形成されていても、複数のモーションセンサが計測対象者に別々に装着される2以上の別々のウェアラブルデバイスで形成されていても良い。
一方、計測データ取得部12、バッファリング部13、動作区間切り出し部14、特徴量算出部15、動作種別識別部16、推定モデル選択部18、及び姿勢推定部19の処理は、後述するコンピュータにより実行可能である。推定モデルデータベース17は、例えば後述する記憶装置に記憶される。
計測データ取得部12は、センサデバイス11の1又は複数のモーションセンサから出力されたセンサデータを取得する。バッファリング部13は、モーションセンサ毎に取得したセンサデータを記憶装置にバッファリングする。センサデータをバッファリングする記憶装置は、推定モデルデータベース17を記憶する記憶装置であっても、別の記憶装置であっても良い。動作区間切り出し部14は、記憶装置にバッファリングされたセンサデータに基づき、計測対象者の動作の開始タイミングから終了タイミングまでの区間を、例えば上記のいずれかの方法に従って一連の動作区間として切り出す。
特徴量算出部15は、モーションセンサ毎のセンサデータに対して、例えば図1乃至図4と共に説明した信号処理パターンを適用し、動作区間切り出し部14が切り出した動作区間内でモーションセンサ毎のセンサデータの特徴波形を算出する。また、特徴量算出部15は、モーションセンサ毎に、複数種類の分割数の場合について一連の動作区間を時分割した各分割区間で算出した代表値を並べた特徴量(即ち、特徴ベクトル)を、動作種別識別部16及び姿勢推定部19に供給する。動作種別識別部16は、特徴量算出部15が算出したモーションセンサ毎のセンサデータの特徴量に基づき、例えばセンサ毎に予め用意された動作種別毎の特徴量のテンプレートとの類似度に応じて動作種別を識別する。動作種別毎の特徴量のテンプレートは、例えば各動作種別について個々の計測対象者にかかわらず共通的となる分割区間の特徴量を含むことで、動作種別識別部16が記憶装置に記憶されたテンプレートを参照して類似した特徴量の動作種別を識別できる。動作種別識別部16は、識別した動作種別を推定モデル選択部18に供給する。
推定モデル選択部18は、動作種別識別部16がモーションセンサ毎のセンサデータの特徴量について識別した動作種別に応じて、推定モデルデータベース17に記憶されている動作種別の推定モデルを選択する。推定モデル選択部18は、選択した動作種別の推定モデルを姿勢推定部19に供給する。姿勢推定部19は、特徴量算出部15が算出したモーションセンサ毎のセンサデータの特徴量と、推定モデル選択部18が選択した動作種別の推定モデルの特徴量を後述する方法で比較し、比較の結果に応じて計測対象者の動作状態の一例である、計測対象者の姿勢を推定して出力する。
姿勢推定部19は、例えば次式に基づき、モーションセンサ毎のセンサデータの特徴量について計測対象者の姿勢θを推定することができる。
Figure 2019103609
上記の式中、a,a,...,aは、m種類の特徴波形毎の重みを表すパラメータベクトルであり、bは、切片パラメータである。また、x,x,...,xは、n種類の分割数を用いる場合の夫々の代表値を表す特徴ベクトルである。この例では、特徴ベクトルxは例えば図5に示す1分割の場合の代表値μ11、x,特徴ベクトルxは例えば図5に示す2分割の場合の代表値μ21,μ22、特徴ベクトルx,x,x,xは例えば図5に示す4分割の場合の代表値μ41,μ42,μ43,μ44で夫々表される。各特徴ベクトルx,x,...,xは、例えば標準化して平均を0、分散を1として上記の式に入力しても良く、各分割数の場合に各種類の特徴波形が共通的となる少なくとも1つの分割区間の代表値を用いれば良い。
上記バッファリング部13が用いる記憶装置は、計測対象者の一部に装着されたセンサデバイス11が有する少なくとも1つのセンサからのセンサデータを記憶する記憶手段の一例を形成する。動作区間切り出し部14は、記憶手段に記憶されたセンサデータから、推定しようとする計測対象者の対象動作のうち個々の計測対象者にかかわらず共通的な動作部分を含む、計測対象者の動作区間内のセンサデータを切り出し、切り出したセンサデータを複数の信号処理パターンで処理した複数の特徴波形を各センサについて算出する第1の算出手段の一例を形成する。特徴量算出部15は、一連の動作区間を、分割数1を含む複数種類の分割数で時間的に等分割し、分割された各分割区間における複数の特徴波形の代表値を各センサについて算出する第2の算出手段の一例である。動作種別識別部16、推定モデル選択部18及び姿勢推定部19は、対象動作に共通的な分割区間における代表値と、予め学習済みの対象動作の推定モデルを、各センサについて比較し、比較の結果に基づき計測対象者の動作状態を推定する推定手段の一例を形成する。
上記の推定手段において、動作種別識別部16は、各センサの代表値を並べた特徴量に基づき、センサ毎に予め用意された動作種別毎の特徴量のテンプレートとの類似度に応じて動作種別を識別する識別手段の一例を形成する。また、推定モデル選択部18は、識別した動作種別に応じて、推定モデルデータベース17に記憶されている動作種別の推定モデルを選択する選択手段の一例を形成する。更に、姿勢推定部19は、各センサの代表値を並べた特徴量と、選択した動作種別の推定モデルの特徴量を比較し、比較の結果に応じて計測対象者の動作状態を推定して出力する手段の一例を形成する。
ここでは説明の便宜上、センサデバイス11は、3軸加速度センサと3軸ジャイロセンサを含み、これらのセンサからのセンサデータに基づき、計測対象者の動きの大きさ、回転速度、及び重力方向に対する傾きを推定する場合を例に説明する。また、計測対象者がしゃがんで荷物を持ち上げる時の姿勢を推定するのに有効と考えられる特徴量の例を説明する。このような計測対象者の動作の場合、全体の動きの激しさの推定は、図1に示す加速度ノルムを1分割とした場合に、持ち上げ動作で例えば胸部又は腰部の加速度ノルムが共通的となる全体的な傾向を表す代表値μ11を用いることが有効であり、代表値μ11はこの持ち上げ動作に対して有意な加速度ノルムの情報である。また、計測対象者がしゃがみ始める時の回転速度の推定は、図2に示す角速度ノルムを2分割とした場合に、持ち上げ動作で例えば腕部の角速度ノルムが共通的となる前半の分割区間の局所的な傾向を表す代表値μ21を用いることが有効であり、代表値μ21はこの持ち上げ動作に対して有意な角速度ノルムの情報である。更に、計測対象者が荷物を持ち上げる直前の腕部の重力方向に対する角度の推定は、図3に示す重力方向に対する傾きの変化を4分割とした場合に、持ち上げ動作で例えば腕部の重力方向に対する傾きの変化が共通的となる最後の分割区間の局所的な傾向を表す代表値μ44を用いることが有効であり、代表値μ44はこの持ち上げ動作に対して有意な重力方向に対する角度の情報である。
このように、計測対象者の各動作種別に対して、モーションセンサ毎のセンサデータから信号処理パターン毎に算出した特徴波形中、個々の計測対象者にかかわらず共通的となる分割区間の特徴量を算出しておくことで、共通的な動作部分に重み付けをして動作状態の推定に利用することができる。つまり、計測対象者の各動作種別に対して、一連の動作区間中の共通的な分割区間に着目した特徴量の比較が行え、共通的な分割区間の限られた特徴量を利用するにもかかわらず、計測対象者の動作状態を正確に推定できる。
なお、後述するように、パラメータベクトルa,a,...,aを一定未満とする条件の下、モーションセンサ毎のセンサデータの特徴量(又は、姿勢データ)と教師特徴量(又は、教師姿勢データ)の誤差が所定未満となるようにパラメータベクトルa,a,...,aを最適化することが望ましい。
なお、計測対象者に装着されるウェアラブルデバイスは、センサデバイス11に加え、少なくとも計測データ取得部12、バッファリング部13、動作区間切り出し部14、及び特徴量算出部15の機能を備えても良い。この場合、ウェアラブルデバイスは、センサデバイス11と、少なくとも計測データ取得部12、バッファリング部13、動作区間切り出し部14、及び特徴量算出部15の処理を実行するコンピュータの組み合わせにより形成可能である。
図7は、コンピュータのハードウェア構成の一例を示すブロック図である。図7に示すコンピュータ100は、プロセッサの一例であるCPU(Central Processing Unit)101と、記憶装置の一例であるメモリ102と、入力装置103と、表示装置104と、インタフェース105がバス106を介して接続された構成を有する。なお、コンピュータ100は、各部がバス106で接続された構成に限定されない。
CPU101は、メモリ102に記憶された各種プログラムを実行し、後述する動作種別識別処理、動作状態推定処理、推定関数学習処理、推定モデルの学習処理等の各種処理を実行する。メモリ102は、各種プログラム、各種データ等を記憶する。メモリ102は、USB(Universal Serial Bus)メモリ等の可搬型記録媒体、フラッシュメモリ等の半導体記憶装置、磁気記録媒体、CD−ROM(Compact Disk-Read Only Memory)、DVDディスク(Digital Versatile Disk)等の光記録媒体、光磁気記録媒体等のコンピュータ読取可能な記録媒体により形成可能である。なお、メモリ102にディスク等の磁気記録媒体、光記録媒体又は光磁気記録媒体を用いる場合、記録媒体は、ディスクドライブ等のドライブにロードされ、ドライブによりプログラム等を記録媒体から読み出し、必要に応じて記録媒体にデータ等を書き込む。
入力装置103は、コンピュータ100にコマンド、データ等を入力する際にユーザが操作するキーボード等で形成可能である。表示装置104は、生体認証結果等のユーザへのメッセージを表示する。入力装置103及び表示装置104は、タッチパネル等のように一体的に設けられていても良く、説明の便宜上、以下ではタッチパネルを用いる場合を例に説明する。インタフェース105は、コンピュータ100を後述する携帯端末、サーバ等の外部装置(図示せず)へ接続可能な送受信装置の一例である。コンピュータ100と外部装置との間の通信は、有線通信、無線通信、又は、有線通信と無線通信の組み合わせであっても良い。
コンピュータ100が例えば図6に示す動作状態推定装置10を形成する場合、センサデバイス11の各モーションセンサは、バス106に接続されても、CPU101に直接接続されても、入力装置103に含まれても、インタフェース105に接続されても良い。この場合、入力装置103を省略しても、表示装置104を省略しても良い。CPU101は、メモリ102に格納されたプログラムを実行して、計測データ取得部12、バッファリング部13、動作区間切り出し部14、特徴量算出部15、動作種別識別部16、推定モデル選択部18、及び姿勢推定部19の各処理を実行可能である。また、メモリ102は、推定モデルデータベース17が記憶される記憶装置を形成しても良い。
また、コンピュータ100は、後述する携帯端末、サーバ等の外部装置を形成しても良い。
(支援システム)
図8は、支援システムの一例を示すブロック図である。図8に示す支援システム20は、センサデバイス11と、姿勢推定装置21と、推定データ履歴データベース22と、支援方法決定装置23と、情報提示デバイス24を有する。姿勢推定装置21は、例えば図6に示す計測データ取得部12、バッファリング部13、動作区間切り出し部14、特徴量算出部15、動作種別識別部16、推定モデル選択部18、及び姿勢推定部19の各処理を実行可能である。姿勢推定装置21が推定した計測対象者の姿勢のデータの履歴(以下、「推定データ履歴」とも言う)は、蓄積されて推定データ履歴データベース22に記憶される。支援方法決定装置23は、推定データ履歴データベース22に記憶された推定データ履歴に基づき、計測対象者の特定の姿勢の連続持続時間、特定の姿勢の合計時間、特定の姿勢グループ(又は、特定の動作種別)に属する姿勢の合計時間等のうち少なくとも1つの時間情報を含む、計測対象者への負荷に依存する情報に応じて、例えば負荷が一定以上となる計測対象者に注意、警告等の情報を発行して計測対象者の作業等を支援する。支援方法決定装置23が発行した情報は、情報提示デバイス24に供給されて計測対象者に提示される。姿勢推定装置21及び支援方法決定装置23は、例えば同じコンピュータ100、又は、互いに異なるコンピュータ100により形成可能である。推定データ履歴データベース22は、例えばメモリ102等の記憶装置に記憶される。情報提示デバイス24は、例えば表示装置104により形成可能である。この場合、支援方法決定装置23が発行した情報は、表示装置104に表示可能である。なお、情報提示デバイス24は、計測対象者に情報を提示可能であれば、支援方法決定装置23が発行した情報を音声出力する出力装置(例えば、スピーカ)等で形成されていても良いことは、言うまでもない。このようにして、支援システム20は、姿勢推定装置21が推定した計測対象者の推定データ履歴を用いて、計測対象者の見守り、評価等を行うサービスを提供できる。
支援方法決定装置23は、推定データ履歴データベース22に記憶された履歴に基づき、計測対象者の特定の姿勢の連続持続時間、特定の姿勢の合計時間、及び特定の動作種別に属する姿勢の合計時間のうち少なくとも1つの時間情報を含む、計測対象者への負荷に依存する情報に応じて、負荷が一定以上となる計測対象者に注意又は警告の情報を発行して計測対象者の作業等を支援する支援手段の一例を形成する。
計測対象者の身体姿勢を推定するために、モーションキャプチャ等の直接的な観測手段を用いる方法の場合、身体姿勢を高精度に推定できるが、例えば計測対象者の腕の移動方向等の、観測したい情報を直接観測しなければならないため、観測が可能となる環境は多くの制約を受ける。また、観測者(即ち、人)が計測対象者を観測するのでは、観測できる範囲が限られるため、観測が可能となる環境が多くの制約を受ける。更に、これらの観測方法を用いる場合、動作状態推定装置のコストや観測者を確保するコストが増大してしまう。
これに対し、上記の支援システムでは、直接的な観測手段を用いる場合に比べると精度が多少低下するものの、計測対象者の身体姿勢等の観測したい情報(即ち、動作状態)は、計測対象者の身体の一部に装着されたウェアラブルデバイスのモーションセンサからのセンサデータを利用して、計測対象者の身体の一部の動きの時系列的な計測情報の一例である特徴量から算出する。このため、上記の支援システムでは、観測が可能となる環境が多くの制約を受けることはなく、また、人手に頼ることなく、常時計測対象者を観測できる。つまり、上記の支援システムでは、計測対象者の身体姿勢を安価、且つ、高精度に推定した観測結果に基づき、計測対象者の見守り、評価等を行うサービスを提供できる。
例えば、計測対象者の持ち上げ動作における身体負荷の把握のために、持ち上げ姿勢を身体の各部位の角度等の連続的な状態量として推定し、例えば姿勢の悪さの評価値を積算しても良い。この場合、評価値が一定以上になると自動的に計測対象者に休憩を勧めたり、改善を促したり、評価値が一定以上となった計測対象者を例えば過去の指導履歴等の条件に応じて更に絞り込んでから指導する等の支援が可能になる。
(動作状態推定処理)
次に、計測対象者の荷物の持ち上げ動作の姿勢を推定する場合の処理を、動作状態推定処理の一例として説明する。図9は、荷物の持ち上げ動作の姿勢を推定する処理の一例を説明する図であり、図10は、計測対象者の姿勢を表す角度の一例を説明する図である。
図9に示す例では、複数のモーションセンサが計測対象者800に別々に装着される2個の別々のウェアラブルデバイス811,812に設けられている。ウェアラブルデバイス811は、例えば計測対象者800が着用している洋服の胸ポケット等の、洋服の一部に装着される。一方、ウェアラブルデバイス812は、例えば計測対象者800の手首等の部位に装着される。各ウェアラブルデバイス811,812が有するモーションセンサの数及び種類は、特に限定されないので、計測対象者800の動作状態の一例である姿勢は、ウェアラブルデバイス811,812のうち少なくとも一方からのセンサデータに基づいて推定すれば良い。この例では、ウェアラブルデバイス811は、例えば計測対象者800の腰部または胸部の加速度ノルムを求めるのに用いる3軸加速度センサを有する。また、ウェアラブルデバイス812は、例えば計測対象者800の腕部の角速度ノルムと腕部の重力方向に対する傾きの変化を求めるのに用いる3軸ジャイロセンサ及び3軸加速度センサを有する。持ち上げ動作では、計測対象者800が床上や台上に置いた荷物810にアプローチしてから持ち上げるまでの一連の動作区間中、計測対象者800の身体への負荷が比較的高くなる。そこで、この例では、計測対象者800による荷物810の持ち上げ始めのタイミングにおける計測対象者800の身体姿勢を推定する場合について説明する。
推定する計測対象者800の姿勢θは、例えば図10に示すように、計測対象者800が床G上に置いた荷物810を持ち上げる際に計測対象者800を横から見た際の腰部の重力方向に対する傾き角度θ1、肘の屈曲角度θ2、腕部の重力方向に対する傾き角度のθ3の3つの角度等の角度情報で表すことができる。
(学習処理)
図11は、推定関数学習処理の一例を説明する図である。図11において、推定関数学習処理は、図6に示す機能ブロックと同様の機能ブロックにより実行できると共に、図7に示すCPU101がメモリ102に記憶されたプログラムを実行することにより実行可能であるため、簡略化して図示されてする。なお、図11では、学習時の処理の流れを太い実線の矢印で示し、運用時の処理の流れを細い実線の矢印で示す。
計測対象者800の姿勢を推定するための推定モデルについては、事前に複数人の計測対象者が様々な姿勢で荷物810の持ち上げ動作を行った場合に取得したデータセットから学習した推定モデルを用いる。具体的には、計測対象者800の荷物810へのアプローチと荷物810の持ち上げ時の計測対象者800の上下の動きを検出する。また、計測対象者800が荷物810を持ち上げる際の一連の動作区間を切り出し、切り出した一連の動作区間内のセンサデータから上記の如き特徴量を計算する。このような学習時の処理を、複数の計測対象者について実行する。
教師となる動作状態データの一例である、教師となる姿勢データ(以下、「教師姿勢データ」とも言う)は、例えばモーションキャプチャ等で計測しても良いが、この例ではより簡易的な方法を用いて学習する。先ず、例えば計測対象者800の腰、肩、肘、手首等の各着目部位に、図9に示す如きマーカ900を付けておく。次に、計測対象者800が荷物810を持ち上げる時の姿勢の画像をカメラ(図示せず)で横から撮影し、教師姿勢データを作成する、例えば動作状態推定装置と同様の構成を有する教師データ作成装置(図示せず)に入力する。教師データ作成装置は、例えば図7に示すコンピュータ100により形成可能であり、この場合、カメラは入力装置103に含まれていても良い。次に、教師データ作成装置の操作者は、教師データ作成装置のグラフィカルユーザインタフェース(GUI:Graphical User Interface)上で、撮影画像中、計測対象者800の各着目部位(例えば、腰、肩、肘、手首等)に付けられたマーカ900の位置を、例えば入力装置103に含まれるマウス等により目視でクリックする。このクリック操作により、教師データ作成装置に撮影画像上の、計測対象者800の各着目部位の位置を示すデータを教示できる。従って、教師データ作成装置は、上記の如き処理で計算した特徴量と教示されたデータを含むデータセットに基づいて、計測対象者800の姿勢θの教師姿勢データを表す図10に示す3つの角度θ,θ,θを算出することができる(ステップST1)。
教師データ作成装置は、図6と共に説明した場合と同様に、例えば計測対象者800の上下の動きから、計測対象者800の一連の動作区間を切り出し(ステップST2)、動作区間内の特徴量をモーションセンサ毎のセンサデータに対して算出する(ステップST3)。また、教師データ作成装置は、モーションセンサ毎のセンサデータから算出した特徴量と教師姿勢データの関係を推定する推定関数(1つの角度に対して1つの関数)のパラメータを、例えばラッソ回帰方式で学習する(ステップST4)。推定関数の形式は、特に限定されないが、例えばθ=a'x+bのような線形形式の推定関数を利用しても良い。ここで、aはパラメータベクトル、bは切片パラメータ、xは特徴ベクトルを表す。ラッソ回帰方式を採用することで、推定姿勢と教師姿勢の誤差を小さくするパラメータベクトルaと切片パラメータbを学習できる。
この場合、CPU101は、各センサからのセンサデータから算出した代表値と教師データの関係を推定する推定関数θ=a'x+bに基づき、推定された動作状態と教師動作状態の誤差を小さくするパラメータベクトルaと切片パラメータbを学習する学習手段の一例を形成する。
これにより、動作状態推定装置の運用時の姿勢推定処理では、学習時の推定関数学習処理の場合と同様に、計測対象者800の動作区間の切り出し(ステップST2)と特徴量の算出(ステップST3)を行い、計測対象者800の持ち上げ姿勢を表す3つの角度夫々に関する、学習時に学習済みのパラメータを含む推定関数を太い破線の矢印で示すように取得し、推定関数に特徴量を入力して3つの角度を算出することで、運用時の計測対象者800の姿勢を推定する(ステップST5)。運用時の姿勢推定処理では、上記の如きモーションセンサ以外の検出器、検出装置等からの計測情報を用いることなく、当該モーションセンサからのセンサデータに基づき計測対象者800の姿勢を推定することができる。
図12は、推定モデルの学習処理の一例を説明するフローチャートである。図12では、図11に示す推定関数学習処理を含む、推定モデルの学習処理をより詳細に示す。図12に示す推定モデルの学習処理は、例えば図7に示すCPU101がメモリ102に記憶されたプログラムを実行することにより実行可能である。
図12において、ステップS1では、CPU101が、モーションセンサからの学習用のセンサデータと、図11に示すステップST1で算出した教師姿勢データを読み込む。ステップS2では、CPU101が、学習用のセンサデータから計測対象者800の一連の動作区間を図11に示すステップST2と同様に切り出す。ステップS3では、CPU101が、切り出した動作区間内の特徴波形を、リスト化された各信号処理パターンを適用して算出する。ステップS4では、CPU101が、各特徴波形を時分割し、分割した各分割区間から計算した代表値を並べた特徴ベクトル、即ち、特徴量を、図11に示すステップST3と同様に算出する。ステップS5では、CPU101が、特徴量と対応する教師姿勢データでデータセットを形成する。ステップS6では、CPU101が、全ての学習用センサデータの処理が完了したか否かを判定し、判定結果がNOであると処理はステップS1へ戻る。
一方、ステップS6の判定結果がYESであると、ステップS7では、CPU101が、全てのデータセットの特徴量と対応する教師姿勢データの関係を推定する推定関数(1つの角度に対して1つの関数)のパラメータを、例えばラッソ回帰方式で図11に示すステップST4と同様に、教師姿勢の各角度毎に学習する。ステップS8では、CPU101が、学習した各推定関数のパラメータを例えば図7に示すメモリ102に記憶することで保存し、処理は終了する。
(姿勢推定処理)
図13は、姿勢推定処理の一例を説明するフローチャートである。図13に示す姿勢推定処理は、例えば図7に示すCPU101がメモリ102に記憶されたプログラムを実行することにより実行可能である。
図13において、ステップS11では、CPU101が、センサデータをバッファリングして、一定時間範囲のセンサデータを同時に処理可能にメモリ102等に記憶する。ステップS12では、CPU101が、バッファリングしたセンサデータから、計測対象者800の一連の動作区間を特定して切り出す。ステップS13では、CPU101が、切り出した動作区間内の特徴波形を、リスト化された各信号処理パターンを適用して算出する。ステップS14では、CPU101が、各特徴波形を時分割し、分割した各分割区間から計算した代表値を並べた特徴ベクトル、即ち、特徴量を算出する。ステップS15では、CPU101が、学習時に学習済みのパラメータを含む推定関数に特徴量を入力して上記3つの角度θ,θ,θを算出することで、運用時の計測対象者800の姿勢を推定し、処理は終了する。
(動作状態推定装置の構成例)
図14は、動作状態推定装置の第1の例を説明するブロック図である。図14に示す第1の例では、動作状態推定システム10−1は、ウェアラブルデバイス51−1と、情報処理装置の一例である、スマート端末、或いは、サーバ(以下、「スマート端末/サーバ」とも言う)61−1を有する。スマート端末61−1は、例えばスマートフォン等の携帯端末である。また、サーバ61−1は、例えば汎用のコンピュータである。ウェアラブルデバイス51−1と、スマート端末/サーバ61−1との間では、有線通信、無線通信、又は、有線通信と無線通信の組み合わせを用いて周知の方法で通信可能である。
ウェアラブルデバイス51−1は、センサデバイス11、動作区間切り出し演算部512、特徴量計算部513、推定処理計算部514、及び推定モデルと推定結果を記憶する記憶装置515を含むハードウェア構成を有する。なお、推定モデルと推定結果は、別々の記憶装置に記憶しても良い。ウェアラブルデバイス51−1のセンサデバイス11を除く部分は、プロセッサ、メモリ等を備えた周知の構成を有しても良く、この場合、プロセッサが動作区間切り出し演算部512、特徴量計算部513、及び推定処理計算部514の処理を実行可能である。また、記憶装置515は、ウェアラブルデバイス51−1のメモリで形成しても良い。
一方、スマート端末/サーバ61−1は、プロセッサ、メモリ等を備えた周知の構成に加え、推定結果を記憶する記憶装置611を有する外部装置の一例である。なお、記憶装置611は、スマート端末/サーバ61−1のメモリで形成されていても良い。スマート端末/サーバ61−1は、ウェアラブルデバイス51−1と周知の方法で通信して記憶装置515にアクセス可能である。
この第1の例では、ウェアラブルデバイス51−1が計測対象者800の動作状態を推定する処理までを実行し、推定結果をスマート端末/サーバ61−1に保存する。このため、この例ではウェアラブルデバイス51−1は、動作状態推定装置を形成可能である。また、スマート端末/サーバ61−1が介在することなく、推定結果をウェアラブルデバイス51−1のタッチパネルに表示することが可能となる。
図15は、動作状態推定装置の第2の例を説明するブロック図である。図15中、図14と同一部分には同一符号を付し、その説明は省略する。図15に示す第2の例では、動作状態推定システム10−2は、ウェアラブルデバイス51−2と、情報処理装置の一例である、スマート端末、或いは、サーバ(以下、「スマート端末/サーバ」とも言う)61−2を有する。スマート端末61−2は、例えばスマートフォン等の携帯端末である。また、サーバ61−2は、例えば汎用のコンピュータである。ウェアラブルデバイス51−2と、スマート端末/サーバ61−2との間では、有線通信、無線通信、又は、有線通信と無線通信の組み合わせを用いて周知の方法で通信可能である。
ウェアラブルデバイス51−2は、センサデバイス11、動作区間切り出し演算部512、及び特徴量計算部513を含むハードウェア構成を有する。ウェアラブルデバイス51−2のセンサデバイス11を除く部分は、プロセッサ、メモリ等を備えた周知の構成を有しても良く、この場合、プロセッサが動作区間切り出し演算部512及び特徴量計算部513の処理を実行可能である。
一方、スマート端末/サーバ61−2は、推定処理計算部614、及び推定モデルと推定結果を記憶する記憶装置615を含むハードウェア構成を有する外部装置の一例である。なお、推定モデルと推定結果は、別々の記憶装置に記憶しても良い。スマート端末/サーバ61−2は、プロセッサ、メモリ等を備えた周知の構成を有しても良く、この場合、プロセッサが推定処理計算部614の処理を実行可能である。また、記憶装置615は、スマート端末/サーバ61−2のメモリで形成していても良い。
この第2の例では、ウェアラブルデバイス51−2が特徴量を計算する処理までを実行し、スマート端末/サーバ61−2が計測対象者800の動作状態を推定する処理を実行するので、処理を分散して負荷が比較的大きい推定処理計算部614の処理をスマート端末/サーバ61−2側で実行することができる。このため、この例ではスマート端末/サーバ61−2は、動作状態推定装置を形成可能である。また、スマート端末/サーバ61−1が推定結果を計算するので、スマート端末/サーバ61−2側で例えば複数の計測対象者の動作状態の推定結果を管理することが可能となる。更に、負荷が比較的小さい動作区間切り出し演算部512及び特徴量計算部513の処理をウェアラブルデバイス51−2側で実行するので、スマート端末/サーバ61−2のプロセッサと比べると比較的安価なプロセッサを用いてウェアラブルデバイス51−2を形成可能である。
上記の各実施例によれば、計測対象者が動作中のあるタイミングにおける身体姿勢を推定する際に、計測対象者の身体の一部に装着されたモーションセンサからのセンサデータを用いる。このため、個別の動作に対する他種類の特徴量を予め設計しておくことなく、実際に活動中の計測対象者の身体姿勢を高精度に推定することができる。
また、上記の各実施例によれば、センサデータを、一連の動作区間中のある分割区間に着目して推定モデルと比較することができる。このため、共通的な動作部分が現れる区間を重点にした比較ができるため、計測対象者の身体姿勢をより正確に推定できる。
従って、上記の各実施例によれば、計測対象の動作状態を高精度に推定することができる。
以上の実施例を含む実施形態に関し、更に以下の付記を開示する。
(付記1)
計測対象の一部に装着されたセンサデバイスが有する少なくとも1つのセンサからのセンサデータを記憶する記憶手段と、
前記記憶手段に記憶された前記センサデータから、推定しようとする前記計測対象の対象動作のうち個々の計測対象にかかわらず共通的な動作部分を含む、前記計測対象の動作区間内のセンサデータを切り出し、切り出したセンサデータを複数の信号処理パターンで処理した複数の特徴波形を各センサについて算出する第1の算出手段と、
前記動作区間を、分割数1を含む複数種類の分割数で時間的に等分割し、分割された各分割区間における前記複数の特徴波形の代表値を各センサについて算出する第2の算出手段と、
前記対象動作に共通的な分割区間における代表値と、予め学習済みの前記対象動作の推定モデルを、各センサについて比較し、比較の結果に基づき前記計測対象の動作状態を推定する推定手段と、
を備えたことを特徴とする、動作状態推定装置。
(付記2)
前記推定手段は、
各センサの代表値を並べた特徴量に基づき、センサ毎に予め用意された動作種別毎の特徴量のテンプレートとの類似度に応じて動作の種別を識別する識別手段と、
識別した動作種別に応じて、推定モデルデータベースに記憶されている動作種別の推定モデルを選択する選択手段と、
各センサの代表値を並べた前記特徴量と、選択した動作種別の推定モデルの特徴量を比較し、比較の結果に応じて前記計測対象の動作状態を推定して出力する手段と、
を有することを特徴とする、付記1記載の動作状態推定装置。
(付記3)
各分割区間における前記代表値は、各分割区間における各特徴波形の最大値、最小値、及び平均値のいずれかであることを特徴とする、付記1又は2記載の動作状態推定装置。
(付記4)
前記センサデバイスは、3軸加速度センサと、3軸ジャイロセンサと、気圧センサを有し、
前記複数の信号処理パターンは、
前記3軸加速度センサからの前記動作区間内のセンサデータから加速度ノルムの特徴波形を算出する第1のパターンと、
前記3軸ジャイロセンサからの前記動作区間内のセンサデータから角速度ノルムの特徴波形を算出する第2のパターンと、
前記3軸加速度センサからの前記動作区間内の前記センサデータから重力方向に対する傾きの変化の特徴波形を算出する第3のパターンと、
前記気圧センサからの前記動作区間内のセンサデータから気圧2階差分の特徴波形を算出する第4のパターンのうち、2以上のパターンを含むことを特徴とする、付記1乃至3のいずれか1項記載の動作状態推定装置。
(付記5)
パラメータベクトルをa、切片パラメータをb、前記代表値が示す特徴ベクトルをxで表すと、各センサからのセンサデータから算出した前記代表値と教師データの関係を推定する推定関数θ=a'x+bに基づき、推定された前記動作状態と教師動作状態の誤差を小さくするパラメータベクトルaと切片パラメータbを学習する学習手段
を更に備えたことを特徴とする、付記1乃至4のいずれか1項記載の動作状態推定装置。
(付記6)
推定した前記計測対象の動作状態の履歴を蓄積するデータベースと、
前記データベースに記憶された前記履歴に基づき、前記計測対象の特定の姿勢の連続持続時間、前記特定の姿勢の合計時間、及び特定の動作種別に属する姿勢の合計時間のうち少なくとも1つの時間情報を含む、前記計測対象への負荷に依存する情報に応じて、負荷が一定以上となる前記計測対象に注意又は警告の情報を発行して前記計測対象の作業等を支援する支援手段と、
を更に備えたことを特徴とする、付記1乃至5のいずれか1項記載の動作状態推定装置。
(付記7)
計測対象の一部に装着されたセンサデバイスが有する少なくとも1つのセンサからのセンサデータを記憶装置に記憶し、
前記記憶装置に記憶された前記センサデータから、推定しようとする前記計測対象の対象動作のうち個々の計測対象にかかわらず共通的な動作部分を含む、前記計測対象の動作区間内のセンサデータを切り出し、切り出したセンサデータを複数の信号処理パターンで処理した複数の特徴波形を各センサについて算出し、
前記動作区間を、分割数1を含む複数種類の分割数で時間的に等分割し、分割された各分割区間における前記複数の特徴波形の代表値を各センサについて算出し、
前記対象動作に共通的な分割区間における代表値と、予め学習済みの前記対象動作の推定モデルを、各センサについて比較し、比較の結果に基づき前記計測対象の動作状態を推定する、
処理を動作状態推定装置のプロセッサが実行することを特徴とする、動作状態推定方法。
(付記8)
前記推定する処理は、
各センサの代表値を並べた特徴量に基づき、センサ毎に予め用意された動作種別毎の特徴量のテンプレートとの類似度に応じて動作の種別を識別し、
識別した動作種別に応じて、推定モデルデータベースに記憶されている動作種別の推定モデルを選択し、
各センサの代表値を並べた前記特徴量と、選択した動作種別の推定モデルの特徴量を比較し、比較の結果に応じて前記計測対象の動作状態を推定して出力する、
処理を含むことを特徴とする、付記7記載の動作状態推定方法。
(付記9)
各分割区間における前記代表値は、各分割区間における各特徴波形の最大値、最小値、及び平均値のいずれかであることを特徴とする、付記7又は8記載の動作状態推定方法。
(付記10)
前記センサデバイスは、3軸加速度センサと、3軸ジャイロセンサと、気圧センサを有し、
前記複数の信号処理パターンは、
前記3軸加速度センサからの前記動作区間内のセンサデータから加速度ノルムの特徴波形を算出する第1のパターンと、
前記3軸ジャイロセンサからの前記動作区間内のセンサデータから角速度ノルムの特徴波形を算出する第2のパターンと、
前記3軸加速度センサからの前記動作区間内の前記センサデータから重力方向に対する傾きの変化の特徴波形を算出する第3のパターンと、
前記気圧センサからの前記動作区間内のセンサデータから気圧2階差分の特徴波形を算出する第4のパターンのうち、2以上のパターンを含むことを特徴とする、付記7乃至9のいずれか1項記載の動作状態推定方法。
(付記11)
パラメータベクトルをa、切片パラメータをb、前記代表値が示す特徴ベクトルをxで表すと、各センサからのセンサデータから算出した前記代表値と教師データの関係を推定する推定関数θ=a'x+bに基づき、推定された前記動作状態と教師動作状態の誤差を小さくするパラメータベクトルaと切片パラメータbを学習する
処理を前記動作状態推定装置の前記プロセッサが更に実行することを特徴とする、付記7乃至10のいずれか1項記載の動作状態推定方法。
(付記12)
データベースに記憶された、推定した前記計測対象の動作状態の履歴に基づき、前記計測対象の特定の姿勢の連続持続時間、前記特定の姿勢の合計時間、及び特定の動作種別に属する姿勢の合計時間のうち少なくとも1つの時間情報を含む、前記計測対象への負荷に依存する情報に応じて、負荷が一定以上となる前記計測対象に注意又は警告の情報を発行して前記計測対象の作業等を支援する、
処理を前記動作状態推定装置の前記プロセッサが更に実行することを特徴とする、付記7乃至11のいずれか1項記載の動作状態推定方法。
(付記13)
前記動作状態推定装置は、前記センサデバイスを有し、外部装置と通信可能なウェアラブルデバイスで形成されていることを特徴とする、付記7乃至12のいずれか1項記載の動作状態推定方法。
(付記14)
前記複数の特徴波形を各センサについて算出する処理と、前記分割された各分割区間における前記複数の特徴波形の前記代表値を各センサについて算出する処理とは、前記センサデバイスを有し、外部装置と通信可能なウェアラブルデバイスのプロセッサが実行し、
前記動作状態を推定する処理は、前記外部装置のプロセッサが実行することを特徴とする、付記7乃至12のいずれか1項記載の動作状態推定方法。
(付記15)
計測対象の一部に装着されたセンサデバイスが有する少なくとも1つのセンサからのセンサデータを記憶装置に記憶し、
前記記憶装置に記憶された前記センサデータから、推定しようとする前記計測対象の対象動作のうち個々の計測対象にかかわらず共通的な動作部分を含む、前記計測対象の動作区間内のセンサデータを切り出し、切り出したセンサデータを複数の信号処理パターンで処理した複数の特徴波形を各センサについて算出し、
前記動作区間を、分割数1を含む複数種類の分割数で時間的に等分割し、分割された各分割区間における前記複数の特徴波形の代表値を各センサについて算出し、
前記対象動作に共通的な分割区間における代表値と、予め学習済みの前記対象動作の推定モデルを、各センサについて比較し、比較の結果に基づき前記計測対象の動作状態を推定する、
処理をコンピュータに実行させるためのプログラム。
(付記16)
前記推定する処理は、
各センサの代表値を並べた特徴量に基づき、センサ毎に予め用意された動作種別毎の特徴量のテンプレートとの類似度に応じて動作の種別を識別し、
識別した動作種別に応じて、推定モデルデータベースに記憶されている動作種別の推定モデルを選択し、
各センサの代表値を並べた前記特徴量と、選択した動作種別の推定モデルの特徴量を比較し、比較の結果に応じて前記計測対象の動作状態を推定して出力する、
処理を含むことを特徴とする、付記15記載のプログラム。
(付記17)
各分割区間における前記代表値は、各分割区間における各特徴波形の最大値、最小値、及び平均値のいずれかであることを特徴とする、付記15又は16記載のプログラム。
(付記18)
前記センサデバイスは、3軸加速度センサと、3軸ジャイロセンサと、気圧センサを有し、
前記複数の信号処理パターンは、
前記3軸加速度センサからの前記動作区間内のセンサデータから加速度ノルムの特徴波形を算出する第1のパターンと、
前記3軸ジャイロセンサからの前記動作区間内のセンサデータから角速度ノルムの特徴波形を算出する第2のパターンと、
前記3軸加速度センサからの前記動作区間内の前記センサデータから重力方向に対する傾きの変化の特徴波形を算出する第3のパターンと、
前記気圧センサからの前記動作区間内のセンサデータから気圧2階差分の特徴波形を算出する第4のパターンのうち、2以上のパターンを含むことを特徴とする、付記15乃至17のいずれか1項記載のプログラム。
(付記19)
パラメータベクトルをa、切片パラメータをb、前記代表値が示す特徴ベクトルをxで表すと、各センサからのセンサデータから算出した前記代表値と教師データの関係を推定する推定関数θ=a'x+bに基づき、推定された前記動作状態と教師動作状態の誤差を小さくするパラメータベクトルaと切片パラメータbを学習する
処理を前記動作状態推定装置の前記プロセッサが更に実行することを特徴とする、付記15乃至18のいずれか1項記載のプログラム。
(付記20)
データベースに記憶された、推定した前記計測対象の動作状態の履歴に基づき、前記計測対象の特定の姿勢の連続持続時間、前記特定の姿勢の合計時間、及び特定の動作種別に属する姿勢の合計時間のうち少なくとも1つの時間情報を含む、前記計測対象への負荷に依存する情報に応じて、負荷が一定以上となる前記計測対象に注意又は警告の情報を発行して前記計測対象の作業等を支援する、
処理を前記動作状態推定装置の前記プロセッサが更に実行することを特徴とする、付記15乃至19のいずれか1項記載のプログラム。
以上、開示の動作状態推定装置、動作状態推定方法及びプログラムを実施例により説明したが、本発明は上記実施例に限定されるものではなく、本発明の範囲内で種々の変形及び改良が可能であることは言うまでもない。
10 動作状態推定装置
11 センサデバイス
12 計測データ取得部
13 バッファリング部
14 動作区間切り出し部
15 特徴量算出部
16 動作種別識別部
17 推定モデルデータベース
18 推定モデル選択部
19 姿勢推定部
51−1,51−2 ウェアラブルデバイス
61−1,61−2 スマート端末/サーバ
100 コンピュータ
101 CPU
102 メモリ
103 入力装置
104 表示装置
105 インタフェース
106 バス

Claims (8)

  1. 計測対象の一部に装着されたセンサデバイスが有する少なくとも1つのセンサからのセンサデータを記憶する記憶手段と、
    前記記憶手段に記憶された前記センサデータから、推定しようとする前記計測対象の対象動作のうち個々の計測対象にかかわらず共通的な動作部分を含む、前記計測対象の動作区間内のセンサデータを切り出し、切り出したセンサデータを複数の信号処理パターンで処理した複数の特徴波形を各センサについて算出する第1の算出手段と、
    前記動作区間を、分割数1を含む複数種類の分割数で時間的に等分割し、分割された各分割区間における前記複数の特徴波形の代表値を各センサについて算出する第2の算出手段と、
    前記対象動作に共通的な分割区間における代表値と、予め学習済みの前記対象動作の推定モデルを、各センサについて比較し、比較の結果に基づき前記計測対象の動作状態を推定する推定手段と、
    を備えたことを特徴とする、動作状態推定装置。
  2. 前記推定手段は、
    各センサの代表値を並べた特徴量に基づき、センサ毎に予め用意された動作種別毎の特徴量のテンプレートとの類似度に応じて動作の種別を識別する識別手段と、
    識別した動作種別に応じて、推定モデルデータベースに記憶されている動作種別の推定モデルを選択する選択手段と、
    各センサの代表値を並べた前記特徴量と、選択した動作種別の推定モデルの特徴量を比較し、比較の結果に応じて前記計測対象の動作状態を推定して出力する手段と、
    を有することを特徴とする、請求項1記載の動作状態推定装置。
  3. 各分割区間における前記代表値は、各分割区間における各特徴波形の最大値、最小値、及び平均値のいずれかであることを特徴とする、請求項1又は2記載の動作状態推定装置。
  4. 前記センサデバイスは、3軸加速度センサと、3軸ジャイロセンサと、気圧センサを有し、
    前記複数の信号処理パターンは、
    前記3軸加速度センサからの前記動作区間内のセンサデータから加速度ノルムの特徴波形を算出する第1のパターンと、
    前記3軸ジャイロセンサからの前記動作区間内のセンサデータから角速度ノルムの特徴波形を算出する第2のパターンと、
    前記3軸加速度センサからの前記動作区間内の前記センサデータから重力方向に対する傾きの変化の特徴波形を算出する第3のパターンと、
    前記気圧センサからの前記動作区間内のセンサデータから気圧2階差分の特徴波形を算出する第4のパターンのうち、2以上のパターンを含むことを特徴とする、請求項1乃至3のいずれか1項記載の動作状態推定装置。
  5. パラメータベクトルをa、切片パラメータをb、前記代表値が示す特徴ベクトルをxで表すと、各センサからのセンサデータから算出した前記代表値と教師データの関係を推定する推定関数θ=a'x+bに基づき、推定された前記動作状態と教師動作状態の誤差を小さくするパラメータベクトルaと切片パラメータbを学習する学習手段
    を更に備えたことを特徴とする、請求項1乃至4のいずれか1項記載の動作状態推定装置。
  6. 推定した前記計測対象の動作状態の履歴を蓄積するデータベースと、
    前記データベースに記憶された前記履歴に基づき、前記計測対象の特定の姿勢の連続持続時間、前記特定の姿勢の合計時間、及び特定の動作種別に属する姿勢の合計時間のうち少なくとも1つの時間情報を含む、前記計測対象への負荷に依存する情報に応じて、負荷が一定以上となる前記計測対象に注意又は警告の情報を発行して前記計測対象の作業等を支援する支援手段と、
    を更に備えたことを特徴とする、請求項1乃至5のいずれか1項記載の動作状態推定装置。
  7. 計測対象の一部に装着されたセンサデバイスが有する少なくとも1つのセンサからのセンサデータを記憶装置に記憶し、
    前記記憶装置に記憶された前記センサデータから、推定しようとする前記計測対象の対象動作のうち個々の計測対象にかかわらず共通的な動作部分を含む、前記計測対象の動作区間内のセンサデータを切り出し、切り出したセンサデータを複数の信号処理パターンで処理した複数の特徴波形を各センサについて算出し、
    前記動作区間を、分割数1を含む複数種類の分割数で時間的に等分割し、分割された各分割区間における前記複数の特徴波形の代表値を各センサについて算出し、
    前記対象動作に共通的な分割区間における代表値と、予め学習済みの前記対象動作の推定モデルを、各センサについて比較し、比較の結果に基づき前記計測対象の動作状態を推定する、
    処理を動作状態推定装置のプロセッサが実行することを特徴とする、動作状態推定方法。
  8. 計測対象の一部に装着されたセンサデバイスが有する少なくとも1つのセンサからのセンサデータを記憶装置に記憶し、
    前記記憶装置に記憶された前記センサデータから、推定しようとする前記計測対象の対象動作のうち個々の計測対象にかかわらず共通的な動作部分を含む、前記計測対象の動作区間内のセンサデータを切り出し、切り出したセンサデータを複数の信号処理パターンで処理した複数の特徴波形を各センサについて算出し、
    前記動作区間を、分割数1を含む複数種類の分割数で時間的に等分割し、分割された各分割区間における前記複数の特徴波形の代表値を各センサについて算出し、
    前記対象動作に共通的な分割区間における代表値と、予め学習済みの前記対象動作の推定モデルを、各センサについて比較し、比較の結果に基づき前記計測対象の動作状態を推定する、
    処理をコンピュータに実行させるためのプログラム。
JP2017237843A 2017-12-12 2017-12-12 動作状態推定装置、動作状態推定方法及びプログラム Pending JP2019103609A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017237843A JP2019103609A (ja) 2017-12-12 2017-12-12 動作状態推定装置、動作状態推定方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017237843A JP2019103609A (ja) 2017-12-12 2017-12-12 動作状態推定装置、動作状態推定方法及びプログラム

Publications (1)

Publication Number Publication Date
JP2019103609A true JP2019103609A (ja) 2019-06-27

Family

ID=67062443

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017237843A Pending JP2019103609A (ja) 2017-12-12 2017-12-12 動作状態推定装置、動作状態推定方法及びプログラム

Country Status (1)

Country Link
JP (1) JP2019103609A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022138722A1 (ja) 2020-12-25 2022-06-30 株式会社日立製作所 作業行動認識システムおよび作業行動認識方法
JP2022150491A (ja) * 2021-03-26 2022-10-07 株式会社日立製作所 作業支援システム

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022138722A1 (ja) 2020-12-25 2022-06-30 株式会社日立製作所 作業行動認識システムおよび作業行動認識方法
JP2022150491A (ja) * 2021-03-26 2022-10-07 株式会社日立製作所 作業支援システム
JP7465842B2 (ja) 2021-03-26 2024-04-11 株式会社日立製作所 作業支援システム

Similar Documents

Publication Publication Date Title
US10905383B2 (en) Methods and apparatus for unsupervised one-shot machine learning for classification of human gestures and estimation of applied forces
KR101872907B1 (ko) 듀얼 스마트 밴드를 이용한 모션 분석 장치 및 방법
US8113843B2 (en) Apparatus for analyzing operations and method for analyzing operations
US11403882B2 (en) Scoring metric for physical activity performance and tracking
JP2013125402A (ja) 姿勢推定装置および姿勢推定方法
AU2017202152A1 (en) Method and system for determining postural balance of a person
JP2011177300A (ja) 特徴量変換装置、および特徴量変換方法
JPWO2018154709A1 (ja) 動作学習装置、技能判別装置および技能判別システム
JPWO2019069358A1 (ja) 認識プログラム、認識方法および認識装置
JP2014504932A (ja) 哺乳動物の体の向きを分類するための装置および方法
JP2021043839A (ja) 学習システム、分析システム、学習方法、分析方法、プログラム、及び記憶媒体
JP2019103609A (ja) 動作状態推定装置、動作状態推定方法及びプログラム
JP2015170257A (ja) 入力方法,プログラム及び入力装置
Forsman et al. Mind the gap–development of conversion models between accelerometer-and IMU-based measurements of arm and trunk postures and movements in warehouse work
JP2011030643A (ja) 移動形態判別方法および移動形態判別装置、ならびに消費カロリー算出方法
JP7052604B2 (ja) 業務推定方法、情報処理装置、及び業務推定プログラム
WO2020144835A1 (ja) 情報処理装置および情報処理方法
Diete et al. Exploring a multi-sensor picking process in the future warehouse
US20200279205A1 (en) Techniques for tailoring fabrication environments based on user, task, and expertise
JP6147446B1 (ja) ソフト制約及びペナルティ機能を使用した慣性センサの初期化
US20170192521A1 (en) Context aware movement recognition system
JP2015016135A (ja) 特徴量抽出装置、方法、およびプログラム
JP7504771B2 (ja) 負荷推定装置、方法およびプログラム
Sharma et al. A study on linear acceleration of the wrist during free-living
US20230027320A1 (en) Movement Disorder Diagnostics from Video Data Using Body Landmark Tracking