JP7054276B2 - 身体活動支援システム、方法、及び、プログラム - Google Patents

身体活動支援システム、方法、及び、プログラム Download PDF

Info

Publication number
JP7054276B2
JP7054276B2 JP2021090890A JP2021090890A JP7054276B2 JP 7054276 B2 JP7054276 B2 JP 7054276B2 JP 2021090890 A JP2021090890 A JP 2021090890A JP 2021090890 A JP2021090890 A JP 2021090890A JP 7054276 B2 JP7054276 B2 JP 7054276B2
Authority
JP
Japan
Prior art keywords
avatar
user
physical activity
virtual object
predetermined time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021090890A
Other languages
English (en)
Other versions
JP2021142345A (ja
Inventor
仁史 川崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
IMACREATE CO., LTD.
Original Assignee
IMACREATE CO., LTD.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by IMACREATE CO., LTD. filed Critical IMACREATE CO., LTD.
Priority to JP2021090890A priority Critical patent/JP7054276B2/ja
Publication of JP2021142345A publication Critical patent/JP2021142345A/ja
Application granted granted Critical
Publication of JP7054276B2 publication Critical patent/JP7054276B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B69/00Training appliances or apparatus for special sports
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B71/00Games or sports accessories not covered in groups A63B1/00 - A63B69/00
    • A63B71/06Indicating or scoring devices for games or players, or for other sports activities

Landscapes

  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Physical Education & Sports Medicine (AREA)
  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明の実施形態は、アバターを用いてユーザの身体活動を支援する技術に関する。
ユーザは、ディスプレイに表示された映像を見ながら、ダンスの振り付け、武道の型などの動作練習を行う場合がある。
特許文献1は、撮像装置が投写面に対向するユーザを斜め上方から撮像し、ユーザの動作を撮像した撮像映像と、インストラクターの模範動作を撮像した見本映像を重畳し、重畳した映像を投写面に表示する技術を開示している。ここで、ユーザの撮像映像のサイズと、インストラクターの見本映像のサイズが揃っている。
そして、ユーザの動作がインストラクターの模範動作から乖離している度合い(以下、乖離度という)を判定し、乖離度も投写面に表示する技術も開示している。このような技術は、ユーザが、ユーザ自身の撮像映像、インストラクターの見本映像、及び、乖離度を同時に投写面で見ることができ、乖離度を容易に把握することが可能である。
特開2009-279041号公報
しかしながら、特許文献1では一連の動作を素早く行うインストラクターの見本映像が表示される。このため、ユーザは見本の動きを見ながら、乖離度が小さくなるように真似をして動こうとしても、そもそもついて行けず、トレーニング効果を得られにくい。
本発明は、このような課題に着目して鋭意研究され完成されたものであり、その目的は、ユーザの身体活動を効果的に支援する技術を提供することにある。
上記課題を解決するために、本発明は、ユーザのアバターを生成する生成部を用いた身体活動支援システムであって、前記生成部からの情報に基づいて、ユーザ・アバターの動作情報を計算する第1計算部と、前記生成部からの情報に基づいて、前記ユーザの身体活動の相手となる相手アバターの動作情報を計算する第2計算部と、前記ユーザ・アバターの動作情報に、前記相手アバターの動作情報を連動させる連動部を備える身体活動支援システムである。
他の本発明は、ユーザのアバターを生成する生成部を用いた身体活動支援システムであって、前記生成部からの情報に基づいて、ユーザ・アバターの動作情報を計算する第1計算部と、前記生成部からの情報に基づいて、前記ユーザの身体活動の相手となる相手アバターの動作情報を計算する第2計算部と、前記ユーザ・アバターの動作情報、及び、前記相手アバターの動作情報に応じて、仮想物体へのインタラクションを計算する仮想物体動作調整部を備える身体活動支援システムである。
他の本発明は、ユーザのアバターを生成する生成部を用いた身体活動支援方法であって、前記生成部からの情報に基づいて、ユーザ・アバターの動作情報を計算し、前記生成部からの情報に基づいて、前記ユーザの身体活動の相手となる相手アバターの動作情報を計算し、前記ユーザ・アバターの動作情報に、前記相手アバターの動作情報を連動させる身体活動支援方法である。
他の本発明は、ユーザのアバターを生成する生成部を用いた身体活動支援方法であって、前記生成部からの情報に基づいて、ユーザ・アバターの動作情報を計算し、前記生成部からの情報に基づいて、前記ユーザの身体活動の相手となる相手アバターの動作情報を計算し、前記ユーザ・アバターの動作情報、及び、前記相手アバターの動作情報に応じて、仮想物体へのインタラクションを計算する身体活動支援方法である。
他の本発明は、ユーザのアバターを生成する生成部を用いた身体活動支援プログラムであって、前記生成部からの情報に基づいて、ユーザ・アバターの動作情報を計算するステップと、前記生成部からの情報に基づいて、前記ユーザの身体活動の相手となる相手アバターの動作情報を計算するステップと、前記ユーザ・アバターの動作情報に、前記相手アバターの動作情報を連動させるステップと、をコンピュータに実行させる身体活動支援プログラムである。
他の本発明は、ユーザのアバターを生成する生成部を用いた身体活動支援プログラムであって、前記生成部からの情報に基づいて、ユーザ・アバターの動作情報を計算するステップと、前記生成部からの情報に基づいて、前記ユーザの身体活動の相手となる相手アバターの動作情報を計算するステップと、前記ユーザ・アバターの動作情報、及び、前記相手アバターの動作情報に応じて、仮想物体へのインタラクションを計算するステップと、をコンピュータに実行させる身体活動支援プログラムである。
本発明によれば、ユーザの身体活動を効果的に支援する技術を提供することができる。
本発明の実施形態に係る身体活動支援システムの機能ブロック図ある。 本発明の実施形態に係る身体活動支援システムのフローチャート(その1;動作練習モード)である。 本発明の実施形態に係る身体活動支援システムのフローチャート(その2;一人又は対戦モード)である。 本発明の第1の実施形態に係るユーザ・アバター及び相手アバターの表示例を示す図である。 本発明の第1の実施形態に係るユーザの位置データ等に対応する相手・実在物体の位置データ等を算出する方法を説明するための図である。 本発明の第2の実施形態に係るユーザ・アバター及び相手アバターの表示例を示す図である。 本発明の第4の実施形態に係るユーザ・アバター及び相手アバターの表示例を示す図である。
図面を参照しながら本発明の実施の形態を説明する。なお、各図において共通する部分には同一の符号を付し、重複した説明は省略する。
(身体活動支援システムの機能ブロック図)
図1は、本発明の実施形態に係る身体活動支援システムの機能ブロック図ある。身体活動支援システム100は、ユーザ・アバター、相手アバター、及び、実在物体画像を生成し、再生する機能ブロック群と、仮想物体を生成し、再生する機能ブロック群に大きく分けることができる。
まず、ユーザ・アバター、相手アバター、及び、実在物体画像を生成し、再生する機能ブロック群について説明する。ユーザ動作検知装置111は、ユーザ(第1ユーザともいう)の動きを検知する装置であり、ユーザに装着した動きセンサ、又は、ユーザの動きを撮影するビデオカメラなどである。相手動作検知装置121は、ユーザ(第1ユーザ)の身体活動の相手(第2ユーザともいう)の動きを検知する装置であり、相手に装着した動きセンサ、又は、相手の動きを撮影するビデオカメラなどである。実在物体動作検知装置131は、ユーザ又は相手が身体活動を行う際に現実空間で実際に使用する物(対象物、又は、実在物体という)の動きを検知する装置であり、実在物体に装着した動きセンサ、又は、実在物体の動きを撮影するビデオカメラなどである。
人間が装着する動きセンサは、位置、速度、加速度、及び、角度を取得することができる。動きセンサを身体に装着する位置は、例えば、左右の前腕部の肘付近、左右のつま先付近、左右の大腿部の膝付近、背中の中央付近、腰ベルトの背中中央付近、左右の側頭付近である。また、動きセンサの代りに、モーションキャプチャのマーカーを身体に装着して、ビデオカメラで撮影することによっても、人の位置、速度、加速度、及び、角度を取得することができる。また、モーションキャプチャのマーカーを人に装着しないで撮影した動画を画像解析することによって、人の位置、速度、加速度、及び、角度を取得してもよい。さらに、人が身体活動を行う際に現実空間で実際に使用する物(例えば、ゴルフクラブのグリップ)に、動きセンサ、又は、モーションキャプチャのマーカーを装着してもよい。
第1データ記録部112は、ユーザ動作検知装置111が検知したユーザの動きを記録する。第2データ記録部122は、相手動作検知装置121が検知した相手の動きを記録する。第3データ記録部132は、実在物体動作検知装置131が検知した実在物体の動きを記録する。ここで、ユーザ、相手、又は実在物体の動きは、それぞれの動作情報ともいう。
ユーザ・アバター生成部113は、第1データ記録部112が記録したユーザの動作情報から、ユーザ・アバターを生成することが可能である。ここで、アバターとは、コンピュータ・グラフィックス空間で人間の分身として動作する仮想的な人物をいう。また、ユーザ・アバター生成部113は、ユーザ動作検知装置111が検知したユーザの動きをリアルタイムに処理し、ユーザ・アバターを生成することも可能である。ここで、ユーザのアバターを生成する生成部は、ユーザ動作検知装置111というハードウェアと、第1データ記録部112及びユーザ・アバター生成部113というソフトウェアで構成されている。そして、ユーザのアバターを生成する生成部は、身体活動支援システム100と一緒に利用者に納品してもよいし、身体活動支援システム100には含めない状態で利用者に納品し、利用者側で用意してもよい。すなわち、ユーザのアバターを生成する生成部は身体活動支援システム100にとって必須の構成とは限らない。同様のことは、相手アバター及び実在物体についてもいえる。
相手アバター生成部123は、第2データ記録部122が記録した相手の動作情報から、相手アバターを生成することが可能である。また、相手アバター生成部123は、相手動作検知装置121が検知した相手の動きをリアルタイムに処理し、相手アバターを生成することも可能である。
実在物体画像生成部133は、第3データ記録部132が記録した実在物体の動作情報から、実在物体画像を生成することが可能である。ここで、実在物体画像とは、現実空間での実在物体に対応するコンピュータ・グラフィックス空間での画像をいう。また、実在物体画像生成部133は、実在物体動作検知装置131が検知した実在物体の動きをリアルタイムに処理し、実在物体画像を生成することも可能である。
生成されたユーザ・アバター、相手アバター、及び、実在物体画像は、ユーザ連動処理部140に入力される。ユーザ連動処理部140は、相手アバターの動き、及び/又は、実在物体画像の動きをユーザ・アバターの動きに連動させることが可能である。具体的には、ユーザ連動処理部140は、第1計算部141と、第2計算部142と、第3計算部143を備える。第1計算部141は、ユーザ・アバターが生成された情報に基づいて、ユーザ・アバターの動作情報を計算する。第2計算部142は、ユーザ・アバターが生成された情報に基づいて、相手アバターの動作情報を計算する。第3計算部143は、ユーザ・アバターが生成された情報に基づいて、実在物体画像の動作情報を計算する。そして、ユーザ連動処理部140は、ユーザ・アバターの動作情報に、相手アバターの動作情報を連動させる。
ユーザ連動処理部140によって連動されたユーザ・アバター、相手アバター、及び、実在物体画像それぞれの動きは、ユーザ・アバター再生部114、相手アバター再生部124、及び、実在物体再生部134でそれぞれ再生される。再生されたユーザ・アバター、相手アバター、及び、実在物体は表示装置150に表示される。表示装置150は、ユーザが装着するヘッド・マウント・ディスプレイ(Head Mounted Display;HMD)、または、ユーザが練習をしながら見られるように設置された平面ディスプレイ等であり、二次元表示でも三次元表示でもよい。
次に、仮想物体を生成し、再生する機能ブロック群について説明する。仮想物体とは、上述した実在物体とは異なり、コンピュータ・グラフィックス空間のみに表示される画像である。すなわち、仮想物体は、実在せず、コンピュータが仮想的に作成した画像である。
仮想物体情報入力装置161は、仮想物体の位置や、実在物体との接触に応じた速度及び/又は加速度を設定する入力デバイスである。コンピュータのキーボード等から入力すればよい。
仮想物体設定記録部162は、仮想物体情報入力装置161から入力された速度・加速度などを記録しておく。仮想物体生成部163は、仮想物体の画像を生成し、仮想物体動作調整部164へ出力する。
仮想物体動作調整部164は、ユーザ連動処理部140に連動されたユーザ・アバター、相手アバター、及び、実在物体画像のうち少なくとも1つの動きに応じて、予め仮想物体設定記録部162で動きを設定された仮想物体の動作を調整することが可能である。
仮想物体再生部165は、仮想物体動作調整部164によって調整された仮想物体の動きを再生する。再生された仮想物体は、表示装置150に表示される。
上述した機能ブロック群で構成される身体活動支援システム100は、ソフトウェアとしてコンピュータに実装されていてもよく、その実装形態は限定されない。例えば、パーソナルコンピュータ等のクライアント端末と有線又は無線の通信回線(インターネット回線など)に接続された専用サーバにインストールされた身体活動支援プログラムとして実装されていてもよいし、いわゆるクラウドサービスを利用して実装されていてもよい。
(身体活動支援システムのフローチャート)
図2及び図3は、本発明の実施形態に係る身体活動支援システムについて2種類のフローチャートである。図2は、相手が、ユーザが行う身体活動の熟練者である場合(その1;ユーザが熟練者から動作練習を受ける動作練習モード)のフローチャートである。図3は、ユーザが一人で動作練習をする場合、又はユーザが身体活動を通して相手と競い合う場合(その2;一人又は対戦モード)のフローチャートである。図2と図3の相違点は、図2のS130(ユーザの動きデータから時刻iを求める)が図3には無い点である。
(フローチャートその1;動作練習モード)
まず、図2について説明する。S110は、リアルタイムに表示するユーザ等のセンサやモーションデータをユーザ動作検知装置111等から取得するステップである。また、第1データ記録部112等に記録しておいてもよい。
S120は、各生成部が各検知装置や各記録部からの情報に基づいて生成したユーザ・アバター、相手アバター、実在物体画像について、ユーザ連動処理部140の第1計算部141、第2計算部142、第3計算部143がそれぞれユーザ・アバターの動きデータ、相手アバターの動きデータ、実在物体画像の動きデータを計算するするステップである。ここで、動きデータとは、所定の時間間隔(時刻1から時刻nまで)の位置、速度、加速度、及び/又は角度のデータ(動作情報ともいう)をいう。位置データと角度データの2つから、ユーザ・アバター等がずっと動いているか、又は、一時停止をしているかを計算することができる。
S130は、ユーザ自身が知りたい任意のユーザの動きに相当する時刻iを求めるステップである。例えば、ユーザがゴルフクラブを持ってスイングを練習しており、相手がゴルフのレッスンプロ、実在物体がゴルフクラブの場合、ユーザが装着した動きセンサ(図1のユーザ動作検知装置111に相当)が、ユーザの動きが一時停止したことを検知すると、ユーザ連動処理部140は、ユーザがその一時停止した時の相手(レッスンプロ)アバターの動きを知りたいと判断する。そして、ユーザ連動処理部140は、一時停止した時刻iを求める。
S140では、その時刻iの時の相手(レッスンプロ)アバターの動きデータを求める。この時刻iの時の相手(レッスンプロ)アバターの動きデータが、ユーザ・アバターの時刻iの時の動きデータに対応する。また、実在物体画像(ユーザが使用しているゴルフクラブ及び相手が使用しているゴルフクラブ)の動きデータを求めてもよい。
S150は、仮想物体の速度・加速度を調整するモードの有無を判断するステップである。例えば、ユーザがゴルフクラブのスイングを練習している場合でも、本実施形態の身体活動支援システムは、a)ゴルフクラブの素振りを選択する場合と、b)ゴルフクラブをスイングした結果、仮想物体としてのボールがどのように飛ぶかを仮想空間で確認したい場合のどちらかを選択することが可能である。ユーザは、図1の仮想物体情報入力装置を用いて、このような選択をすることができる。
a)素振りの場合は、S150のNoに該当する。このため、ユーザ連動処理部140は、時刻iからのユーザ・アバターの動きに、相手アバターの動きを連動させることができる。また、ユーザ・アバターがスイングするゴルフクラブ(実在物体の画像)、及び、相手アバターがスイングするゴルフクラブ(実在物体の画像)の動きも連動させることができる。
S180は、各再生部によって再生されたユーザ・アバター、相手アバター、及び/又は実在物体の画像を表示装置150が表示するステップである。
一方、b)ゴルフクラブをスイングした結果、仮想物体としてのボールがどのように飛ぶかを仮想空間で確認したい場合は、S150のYesに該当する。この場合、図1の仮想物体動作調整部164は、仮想物体の位置データ、及び、実在物体との接触に関するデータを取得する(S160)。
そして、仮想物体動作調整部164は、仮想物体の速度及び加速度を決定する(S170)。仮想物体再生部165は、決定された速度及び加速度に応じて、仮想物体を再生し、表示装置150に表示する(S180)。
(フローチャートその2;一人又は対戦モード)
次に、図3について説明する。S210は、図2のS110と同様、リアルタイムに表示するユーザ等のセンサやモーションデータをユーザ動作検知装置111等から取得するステップである。また、第1データ記録部112等に記録しておいてもよい。
S220は、図2のS120と同様、各生成部が、各検知装置や各記録部からの情報に基づいて、ユーザ・アバター、相手アバター、実在物体画像それぞれの動きデータを生成するステップである。S220では、相手アバターの動きデータを生成することは必須ではない点に留意していただきたい。
S230は、図2のS130が無く、図2のS140と異なり、時刻iの時のユーザ・アバター及び/又は相手(対戦者)アバターの動きデータを求める。実在物体画像(ユーザが使用している実在物体、及び/又は、相手が対戦に使用している実在物体)の動きデータを求めてもよい。
S240は、図2のS150と同様、仮想物体の速度・加速度を調整するモードの有無を判断するステップである。S250は、図2のS160と同様、仮想物体の位置データ、及び、実在物体との接触に関するデータを取得するステップである。S260は、S170と同様、仮想物体の速度及び加速度を決定するステップである。S270は、S180と同様、決定された速度及び加速度に応じて、仮想物体を再生し、表示装置150に表示するステップである。
以下では、4つの実施形態を説明する。第1及び第2の実施形態は、図2のフローチャート(その1;動作練習モード)に関する。第3及び第4の実施形態は、図3のフローチャート(その2;一人又は対戦モード)に関する。
(第1の実施形態の構成)
第1の実施形態は、ユーザがゴルフのスイングを練習する場合について説明する。図4は、第1の実施形態に係るユーザ・アバター及び相手アバターの表示例を示す図である。ここで、x軸は人の左足から右足にかけての足幅方向であり、y軸は人の高さ方向であり、z軸は人の背中から腹側への方向である。ユーザ・アバター410及びユーザ側の実在物体(ゴルフクラブ)の画像411を点線で表示し、相手アバター420、及び、相手側の実在物体(ゴルフクラブ)の画像421を実線で表示している。
ユーザ・アバター410は、ユーザに装着された動きセンサに応じてリアルタイムに動作する。また、ユーザ側の実在物体(ゴルフクラブ)の画像411も、ユーザがスイングするゴルフクラブのグリップに装着された動きセンサに応じてリアルタイムに動作する。
一方、相手(ゴルフのレッスンプロ等の熟練者)、及び、相手側の実在物体(ゴルフクラブ)のグリップに装着された動きセンサによって相手の動きは予め記録されている。そして、相手アバター420、及び、相手側の実在物体(ゴルフクラブ)の画像421は、リアルタイムに動作するユーザ・アバター410に連動して動く。
相手アバター420がどのようにユーザ・アバター410に連動するかについて説明する。図5は、ユーザの位置データ等に対応する相手、及び/又は、実在物体の位置データ等を算出する方法を説明するための図である。
図5のa)は、ユーザの左手の位置、角度、及び、速度をリアルタイムで測定する場合の数値データの一例である。pはposition(位置)、rはrotation(角度)、vはvelocity(速度)を表す。図5のb)は、相手(熟練者)の左手の位置群、角度群、及び、速度群をt(time;時刻)が1~nまでについて記録されたデータである。各時間の間隔は0.01秒である。
ゴルフのスイングの場合、熟練者の左手の速度群の中で、x軸の正負が、ユーザの左手のx軸と同じものを抜き出す。その中で、図5のc-1)で示す数式(ユーザと熟練者の左手の距離)が最小になる、又は、c-2)で示す数式(ユーザと熟練者の左手の角度)が最も近い時刻iを求める。
次に、その時刻iの時の熟練者の状態(腕の位置や角度など)を求める。これが図2のS140に相当する。ここで、手だけでなく、体の他の部位や、実在物体との組合せを求めてもよい。
このようにして求めた時刻iの時の相手(熟練者)アバターをユーザ・アバター410の時刻iの時の動きに連動させることが、図1のユーザ連動処理部140である。
(第1の実施形態の作用効果)
第1の実施形態によれば、ユーザが身体活動(ゴルフのスイング練習)をする際に、リアルタイムに処理したユーザ・アバターの動きに予め記録した相手(熟練者)アバターの動きを連動して、さらに重ねて再生することができる。このため、ユーザは、ゴルフのスイング練習などの連続的な動作を練習している際に、相手(熟練者)の動きについていきやすく、効果的なトレーニングを行えるという作用効果を有する。
また、ユーザがゴルフのスイング練習をしている最中に、ユーザが好きな所で止めたり、動かしたりするだけで、相手(熟練者)アバターの動きを確認しやすくなるという作用効果も有する。例えば、ユーザが相手(熟練者)のある腕の角度のフォームを確認したいとき、自分の腕をその角度にまで動かすだけで、その腕の角度の相手(熟練者)のフォームを確認することができる。
また、リアルタイムに処理したユーザ・アバターの動きに連動して、所定の時間間隔だけ先に、又は、後に、予め記録した相手(熟練者)アバターの動きをユーザ・アバターの動きに重ねて再生することもできる。この場合、ユーザ・アバター410の動きから数フレーム程度先に、又は、後に(遅れて)相手(熟練者)アバターが動くように、所定の時間間隔を調整可能な調整部を設ければ良い。1フレームは約0.01秒である。
第1の実施形態は、ユーザ・アバター410と相手(熟練者)アバター420だけを再生表示すれば、ゴルフボールを飛ばさない状態での素振りの練習になる。また、図1の仮想物体調整部164が、ユーザ側の実在物体(ゴルフクラブ)の画像411、及び、相手(熟練者)の実在物体(ゴルフクラブ)の画像421と、それぞれの仮想物体(ゴルフボール)へのインタラクションを計算すれば、仮想物体(ゴルフボール)が飛ぶ弾道の違いをユーザの場合及び相手(熟練者)の場合それぞれについて調整し、再生表示することも可能になる。
また、図4では、ユーザ・アバター410は相手アバター420を透過せずに、表示している。しかし、これに限られることはなく、相手アバター420を半透明に表示すれば、ユーザ・アバター410は隠れることなく表示することが可能になる。
(第2の実施形態の構成)
第2の実施形態は、ユーザがけん玉を練習する場合について説明する。図6は、第1の実施形態に係るユーザ・アバター及び相手アバターの表示例を示す図である。図6のa)はユーザ・アバター610、ユーザ側の実在物体(けん玉のけん)の画像611、及び、ーザ側の仮想物体(けん玉の玉)621を表している。図6のb)は相手(熟練者)アバター620、相手側の実在物体(けん玉のけん)の画像621、及び、相手側の仮想物体(けん玉の玉)622を表している。ここで、ユーザ及び相手(熟練者)のけん玉の玉は仮想物体であるため、ユーザ及び相手(熟練者)がけん玉を行う際の現実空間で実際に使用する物ではない点に留意していただきたい。
第2の実施形態も、第1の実施形態と同様、ユーザが身体活動(けん玉の練習)をする際に、リアルタイムに処理したユーザ・アバター610の動きに連動して、予め記録した相手(熟練者)アバター620の動きをユーザ・アバターの動きに重ねて再生している。さらに、ユーザ側の実在物体(けん玉のけん)の画像611、及び、相手側の実在物体(けん玉のけん)の画像621と、それぞれの仮想物体(けん玉のたま)612及び622へのインタラクションを計算すれば、仮想物体(けん玉の玉)が実在物体(けん玉のけん)にうまく着地するかの違いをユーザの場合及び相手(熟練者)の場合それぞれについて計算し、再生表示している。
(第2の実施形態の作用効果)
第2の実施形態によれば、ユーザが身体活動(けん玉の練習)をする際に、リアルタイムに処理したユーザ・アバターの動きに予め記録した相手(熟練者)アバターの動きを連動して、さらに重ねて再生することができる。又は、横に並べて再生表示してもよい。このため、ユーザは、けん玉練習などの連続的な動作を練習している際に、相手(熟練者)の動きについていきやすく、効果的なトレーニングを行えるという作用効果を有する。
また、けん玉の練習の場合、けん玉を単に手だけで動かすのではなく、手と同時に膝も動かすことが重要であることをユーザは自然に学ぶことができる。
(第3の実施形態の構成)
第3の実施形態は、ユーザが一人で(相手アバターを表示せずに)けん玉を練習する場合について説明する。この場合の表示例は、図6のa)のみを表示し、b)を表示しない場合に相当する。
第3の実施形態のフローチャートは、図3のフローチャート(その2;一人又は対戦モード)に相当する。そして、S220、S230,S270の処理については、相手アバターに関する処理はせずに、ユーザ・アバター、ユーザの実在物体(けん玉のけん)、ユーザの仮想物体(けん玉のたま)について処理を行えばよい。
また、一人で練習するため、ユーザの仮想物体(けん玉のたま)の速度を調整してもよい。例えば、図1の仮想物体設定記録部162に「after hit by user: 1/2」と記録しておけば、図1の仮想物体動作調整部164は、ユーザの仮想物体(けん玉のたま)の速度を1/2に設定することができる。
(第3の実施形態の作用効果)
第3の実施形態によれば、ユーザはけん玉を練習する際に、実際のけん玉とは異なり、玉の落下速度を調整(遅く)することができ、慌てずに練習することができるという作用効果を有する。このため、動作を確認しながら、単に手だけで動かすのではなく、手と同時に膝も動かすことが重要であることをユーザは自然に学ぶことができる。
(第4の実施形態の構成)
第4の実施形態は、ユーザが卓球の試合をする場合について説明する。図7は、第4の実施形態に係るユーザ・アバター及び相手アバターの表示例を示す図である。610はユーザ・アバターを表し、611はユーザ側の実在物体(卓球のラケット)の画像を表す。620は相手(対戦者)アバターを表し、621は相手側の実在物体(卓球のラケット)の画像を表す。630は仮想物体である卓球のボールを表し、631は仮想物体である卓球台を表し、632は仮想物体である卓球台のネットを表し、633は仮想物体である境界面を表す。ここで、x軸は仮想物体である卓球台631の長手方向であり、y軸は短手方向であり、z軸は高さ方向である。
第4の実施形態では、仮想物体の速度を、仮想物体の位置や状態などによって複数の値に調整される。境界面633よりユーザ・アバター610側(紙面手前側)では、仮想物体630(卓球のボール)の速度は1/6に設定され、境界面633より相手アバター620側(紙面奥側)では、仮想物体630(卓球のボール)の速度は1/2に設定される。このような設定は、図1の仮想物体動作調整部164で行われる。具体的には、図1の仮想物体設定記録部162に、予め「PositionX(Ball)<PositionX(Boundary): 1/2」、「PositionX(Ball)>=PositionX(Boundary): 1/6」と記録することによって設定する。また、相手アバターが仮想物体(卓球のボール)を打った直後は仮想物体630(卓球のボール)の速度を1/6に設定され、ユーザ・アバターが仮想物体(卓球のボール)を打った直後は仮想物体630(卓球のボール)の速度を1/2に設定される場合もある。この場合は、図1の仮想物体設定記録部162に、予め「after hit by competitor: 1/6」、「after hit by user: 1/2」と記録することによって設定する。
(第4の実施形態の作用効果)
第4の実施形態によれば、ユーザと対戦者の身体活動(卓球)への習熟度が異なる場合であっても、仮想物体630(卓球のボール)の速度調整が容易であるため、互角の試合をすることが可能になるという作用効果を有する。
また、仮想物体630(卓球のボール)の速度調整をすることによって、高齢者や若者など世代が異なる人が試合をできたり、また、体の不自由な人と体の健康な人とが試合をできる等、現実空間では難しい対戦競技をすることが可能になるという作用効果も有する。
以上、本発明の実施例(変形例を含む)について説明してきたが、これらのうち、2つ以上の実施例を組み合わせて実施しても構わない。あるいは、これらのうち、1つの実施例を部分的に実施しても構わない。さらには、これらのうち、2つ以上の実施例を部分的に組み合わせて実施しても構わない。例えば、第1の実施形態の場合、相手の動作を予め記録しておく記録部がある。一方、第2の実施形態の場合、記録部が有るケース(予め記録してある熟練者データとの練習)と、無いケース(実人間とのリアルタイム対戦)がある。実人間とのリアルタイム対戦の場合、相手アバターの動作情報を計算すればよい。
また、本発明は、上記発明の実施例の説明に何ら限定されるものではない。特許請求の範囲の記載を逸脱せず、当業者が容易に想到できる範囲で種々の変形態様もこの発明に含まれる。
100 身体活動支援システム
140 ユーザ連動処理部
164 仮想物体動作調整部

Claims (8)

  1. コンピュータ・グラフィックス空間で人間の分身として動作する仮想的な人物である、ユーザのアバターを生成するユーザ・アバター生成部、及び、前記ユーザの身体活動の相手となる相手アバターを生成する相手アバター生成部を用いて、前記ユーザの身体活動を支援する身体活動支援システムであって、
    前記ユーザ・アバター生成部からの情報に基づいて、所定の時刻での前記ユーザの体の複数の部位の位置、角度、及び、速度に関するユーザ・アバターの動作情報を計算する第1計算部と、
    前記相手アバター生成部からの情報に基づいて、前記所定の時刻での前記相手の体の複数の部位の位置、角度、及び、速度に関する前記相手アバターの動作情報を計算する第2計算部と、
    前記ユーザ・アバターの動作情報に、前記相手アバターの動作情報を前記所定の時刻に基づいて連動させる連動部を備える身体活動支援システム。
  2. 前記所定の時刻は、前記ユーザが知りたい前記相手アバターの動きに相当する時刻である請求項1に記載の身体活動支援システム。
  3. 前記所定の時刻での前記ユーザ・アバターの動作情報と、前記所定の時刻での前記ユーザ・アバターの動作情報に連動した前記相手アバターの動作情報を再生する再生部を備える請求項1に記載の身体活動支援システム。
  4. 前記所定の時刻での前記ユーザ・アバターの動作情報に基づいて、前記所定の時刻での前記ユーザ・アバターから仮想物体へのインタラクションを計算する仮想物体動作調整部を備える請求項1に記載の身体活動支援システム。
  5. 前記仮想物体動作調整部は、前記所定の時刻での前記相手アバターの動作情報に基づいて、前記所定の時刻での前記相手アバターから他の仮想物体へのインタラクションを計算する請求項4に記載の身体活動支援システム。
  6. コンピュータ・グラフィックス空間で人間の分身として動作する仮想的な人物である、ユーザのアバターを生成するユーザ・アバター生成部、及び、前記ユーザの身体活動の相手となる相手アバターを生成する相手アバター生成部を用いて、前記ユーザの身体活動を支援する身体活動支援システムであって、
    前記ユーザ・アバター生成部からの情報に基づいて、所定の時刻での前記ユーザの体の複数の部位の位置、角度、及び、速度に関するユーザ・アバターの動作情報を計算する第1計算部と、
    前記相手アバター生成部からの情報に基づいて、他の所定の時刻での前記相手の体の複数の部位の位置、角度、及び、速度に関する前記相手アバターの動作情報を計算する第2計算部と、
    仮想物体の位置又は状態に応じた前記仮想物体の設定を記録する仮想物体設定記録部と、
    前記所定の時刻での前記ユーザ・アバターの動作情報又は前記他の所定の時刻での前記相手アバターの動作情報と、前記仮想物体の設定と、に応じて、前記仮想物体へのインタラクションを計算する仮想物体動作調整部を備える身体活動支援システム。
  7. コンピュータ・グラフィックス空間で人間の分身として動作する仮想的な人物である、ユーザのアバターを生成するユーザ・アバター生成部、及び、前記ユーザの身体活動の相手となる相手アバターを生成する相手アバター生成部を用いて、前記ユーザの身体活動を支援する身体活動支援プログラムであって、
    前記ユーザ・アバター生成部からの情報に基づいて、所定の時刻での前記ユーザの体の複数の部位の位置、角度、及び、速度に関するユーザ・アバターの動作情報を計算するステップと、
    前記相手アバター生成部からの情報に基づいて、前記所定の時刻での前記相手の体の複数の部位の位置、角度、及び、速度に関する前記相手アバターの動作情報を計算するステップと、
    前記ユーザ・アバターの動作情報に、前記相手アバターの動作情報を前記所定の時刻に基づいて連動させるステップと、
    をコンピュータに実行させる身体活動支援プログラム。
  8. コンピュータ・グラフィックス空間で人間の分身として動作する仮想的な人物である、ユーザのアバターを生成するユーザ・アバター生成部、及び、前記ユーザの身体活動の相手となる相手アバターを生成する相手アバター生成部を用いて、前記ユーザの身体活動を支援する身体活動支援プログラムであって、
    前記ユーザ・アバター生成部からの情報に基づいて、所定の時刻での前記ユーザの体の複数の部位の位置、角度、及び、速度に関するユーザ・アバターの動作情報を計算するステップと、
    前記相手アバター生成部からの情報に基づいて、他の所定の時刻での前記相手の体の複数の部位の位置、角度、及び、速度に関する前記相手アバターの動作情報を計算するステップと、
    仮想物体の位置又は状態に応じた前記仮想物体の設定を記録するステップと、
    前記所定の時刻での前記ユーザ・アバターの動作情報又は前記他の所定の時刻での前記相手アバターの動作情報と、前記仮想物体の設定と、に応じて、前記仮想物体へのインタラクションを計算するステップと、
    をコンピュータに実行させる身体活動支援プログラム。
JP2021090890A 2019-05-31 2021-05-31 身体活動支援システム、方法、及び、プログラム Active JP7054276B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021090890A JP7054276B2 (ja) 2019-05-31 2021-05-31 身体活動支援システム、方法、及び、プログラム

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2019103324A JP2020195551A (ja) 2019-05-31 2019-05-31 身体活動支援システム、方法、及び、プログラム
JP2021090890A JP7054276B2 (ja) 2019-05-31 2021-05-31 身体活動支援システム、方法、及び、プログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2019103324A Division JP2020195551A (ja) 2019-05-31 2019-05-31 身体活動支援システム、方法、及び、プログラム

Publications (2)

Publication Number Publication Date
JP2021142345A JP2021142345A (ja) 2021-09-24
JP7054276B2 true JP7054276B2 (ja) 2022-04-13

Family

ID=73552583

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2019103324A Pending JP2020195551A (ja) 2019-05-31 2019-05-31 身体活動支援システム、方法、及び、プログラム
JP2021090890A Active JP7054276B2 (ja) 2019-05-31 2021-05-31 身体活動支援システム、方法、及び、プログラム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2019103324A Pending JP2020195551A (ja) 2019-05-31 2019-05-31 身体活動支援システム、方法、及び、プログラム

Country Status (2)

Country Link
JP (2) JP2020195551A (ja)
WO (1) WO2020241735A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2023276215A1 (ja) * 2021-06-29 2023-01-05

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000504854A (ja) 1996-02-13 2000-04-18 マサチューセッツ・インスティテュート・オブ・テクノロジー 仮想環境における人間の動作軌道学習装置
US20130178960A1 (en) 2012-01-10 2013-07-11 University Of Washington Through Its Center For Commercialization Systems and methods for remote monitoring of exercise performance metrics
JP2017060891A (ja) 2010-11-05 2017-03-30 ナイキ イノベイト セー. フェー. 自動化個人トレーニングのための方法およびシステム
JP2017076202A (ja) 2015-10-13 2017-04-20 富士通株式会社 反応出力システム、反応出力プログラム、反応出力方法
WO2017094356A1 (ja) 2015-12-01 2017-06-08 シャープ株式会社 映像生成装置、映像生成装置の制御方法、表示システム、映像生成制御プログラム、およびコンピュータ読み取り可能な記録媒体
JP2019012965A (ja) 2017-06-30 2019-01-24 富士通株式会社 映像制御方法、映像制御装置、及び映像制御プログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000504854A (ja) 1996-02-13 2000-04-18 マサチューセッツ・インスティテュート・オブ・テクノロジー 仮想環境における人間の動作軌道学習装置
JP2017060891A (ja) 2010-11-05 2017-03-30 ナイキ イノベイト セー. フェー. 自動化個人トレーニングのための方法およびシステム
US20130178960A1 (en) 2012-01-10 2013-07-11 University Of Washington Through Its Center For Commercialization Systems and methods for remote monitoring of exercise performance metrics
JP2017076202A (ja) 2015-10-13 2017-04-20 富士通株式会社 反応出力システム、反応出力プログラム、反応出力方法
WO2017094356A1 (ja) 2015-12-01 2017-06-08 シャープ株式会社 映像生成装置、映像生成装置の制御方法、表示システム、映像生成制御プログラム、およびコンピュータ読み取り可能な記録媒体
JP2019012965A (ja) 2017-06-30 2019-01-24 富士通株式会社 映像制御方法、映像制御装置、及び映像制御プログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
体育館を自由に歩いて別の競技も!?HTC VIVE用卓球ゲーム「Ping Pong League」配信開始, PANORA,2017年02月28日,http://panora.tokyo/21892/

Also Published As

Publication number Publication date
JP2020195551A (ja) 2020-12-10
JP2021142345A (ja) 2021-09-24
WO2020241735A1 (ja) 2020-12-03

Similar Documents

Publication Publication Date Title
Miles et al. A review of virtual environments for training in ball sports
US10821347B2 (en) Virtual reality sports training systems and methods
Vignais et al. Which technology to investigate visual perception in sport: Video vs. virtual reality
Hämäläinen et al. Martial arts in artificial reality
JP2552427B2 (ja) テレビ遊戯システム
JP5943913B2 (ja) ユーザー追跡フィードバック
US11826628B2 (en) Virtual reality sports training systems and methods
WO2019130527A1 (ja) 抽出プログラム、抽出方法および情報処理装置
US8979710B2 (en) Adaptable exercise system and method
JP2000033184A (ja) 全身動作入力型のゲ―ム及びイベント装置
WO2020235339A1 (ja) プレイ分析装置、及び、プレイ分析方法
JP7054276B2 (ja) 身体活動支援システム、方法、及び、プログラム
US20240245975A1 (en) Mixed reality simulation and training system
JP2002123840A (ja) 臨場感型仮想現実提供処理方法および装置
Chye et al. An exergame for encouraging martial arts
Dabnichki Computers in sport
Katz et al. Virtual reality
US20240286005A1 (en) Exercise apparatus with integrated holographic display
KR20070033127A (ko) 체감형 볼 스포츠 게임 장치
JP7502957B2 (ja) 触覚メタデータ生成装置、映像触覚連動システム、及びプログラム
Bogdanovych et al. A novel approach to sports oriented video games with real-time motion streaming
JP7344096B2 (ja) 触覚メタデータ生成装置、映像触覚連動システム、及びプログラム
JP7403581B2 (ja) システム及びデバイス
US20240189664A1 (en) Exercise apparatus with integrated holographic display
JP2019083996A (ja) 動体反応確認システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210531

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20210531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210813

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210813

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211029

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211112

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220117

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220324

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220325

R150 Certificate of patent or registration of utility model

Ref document number: 7054276

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150