JP7372717B1 - プログラム、情報処理装置及び方法 - Google Patents
プログラム、情報処理装置及び方法 Download PDFInfo
- Publication number
- JP7372717B1 JP7372717B1 JP2023055234A JP2023055234A JP7372717B1 JP 7372717 B1 JP7372717 B1 JP 7372717B1 JP 2023055234 A JP2023055234 A JP 2023055234A JP 2023055234 A JP2023055234 A JP 2023055234A JP 7372717 B1 JP7372717 B1 JP 7372717B1
- Authority
- JP
- Japan
- Prior art keywords
- person
- screen
- avatar
- motion
- displaying
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 29
- 230000010365 information processing Effects 0.000 title claims description 8
- 230000033001 locomotion Effects 0.000 claims abstract description 164
- 230000008859 change Effects 0.000 claims abstract description 15
- 230000009471 action Effects 0.000 claims description 42
- 210000003127 knee Anatomy 0.000 claims description 13
- 238000004458 analytical method Methods 0.000 claims description 12
- 210000002414 leg Anatomy 0.000 claims description 12
- 238000010586 diagram Methods 0.000 abstract description 15
- 230000006870 function Effects 0.000 abstract description 9
- 238000005516 engineering process Methods 0.000 abstract description 2
- 238000012545 processing Methods 0.000 description 52
- 238000004891 communication Methods 0.000 description 29
- 230000008569 process Effects 0.000 description 13
- 230000004044 response Effects 0.000 description 13
- 238000007654 immersion Methods 0.000 description 8
- 230000005540 biological transmission Effects 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 3
- 238000005401 electroluminescence Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 241001465754 Metazoa Species 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T13/00—Animation
- G06T13/20—3D [Three Dimensional] animation
- G06T13/40—3D [Three Dimensional] animation of characters, e.g. humans, animals or virtual beings
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Psychiatry (AREA)
- Social Psychology (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- Software Systems (AREA)
- Processing Or Creating Images (AREA)
- User Interface Of Digital Computer (AREA)
- Image Analysis (AREA)
Abstract
Description
以下、本開示に係るアバターサービス提供システムについて説明する。このアバターサービス提供システムは、スマートフォン等の携帯端末が備えるカメラを利用して人物を撮影し、仮想空間において撮影された人物に関連付けられたキャラクタであるアバターを表示し、仮想空間上で各種サービスを提供するするためのシステムである。仮想空間上で提供される各種サービスとは、例えば、アバターをユーザの動きにより操作して行うゲームのようなエンターテインメント、複数のアバターをそれぞれのユーザの動きにより表示させて行うオンラインフィットネスサービス、複数のアバターによるコミュニケーションサービス等が挙げられる。本開示に係るアバターサービス提供システムは、このようなユーザを投影したアバターを介して行う各種サービスを、例えばWebサービスとして提供するシステムであり、クラウドサーバ等によりWebサービスとして、いわゆるSaaS(Software as a Service)によって提供されるシステムである。また、アバターサービス提供システムは、このようなユーザを投影したアバターを介して行う各種サービスを、例えばスマートフォン等の携帯端末によって(Webサーバを介してもよく、介さなくてもよい)提供されるシステムである。
以下、アバターサービス提供システム1について説明する。以下の説明では、例えば、端末装置10がサーバ20へアクセスすることにより、サーバ20が、端末装置10で画面を生成するための情報を応答する。端末装置10は、サーバ20から受信した情報に基づいて画面を生成し表示する。
図2は、アバターサービス提供システム1の全体の構成を示す構成図である。図2に示すように、アバターサービス提供システム1は、複数の端末装置(図2では、端末装置10A及び端末装置10Bを示している。以下、総称して「端末装置10」ということもある)と、サーバ20とを含む。端末装置10とサーバ20とは、ネットワーク80を介して相互に通信可能に接続されている。ネットワーク80は、有線または無線ネットワークにより構成される。
図3は、本実施の形態のアバターサービス提供システム1を構成する端末装置10の機能的な構成を示すブロック図である。図3に示すように、端末装置10は、複数のアンテナ(アンテナ111、アンテナ112)と、各アンテナに対応する無線通信部(第1無線通信部121、第2無線通信部122)と、操作受付部130(タッチ・センシティブ・デバイス131及びディスプレイ132を含む)と、音声処理部140と、マイク141と、スピーカ142と、位置情報センサ150と、カメラ160と、記憶部170と、制御部180とを含む。端末装置10は、図3では特に図示していない機能及び構成(例えば、電力を保持するためのバッテリー、バッテリーから各回路への電力の供給を制御する電力供給回路等)も有している。図3に示すように、端末装置10に含まれる各ブロックは、バス等により電気的に接続される。
図4は、本実施の形態のアバターサービス提供システム1を構成するサーバ20の機能的な構成を示すブロック図である。図4に示すように、サーバ20は、通信部201と、記憶部202と、制御部203としての機能を発揮する。
以下、図5ないし図7を参照しながら、第1の実施の形態におけるアバターサービス提供システム1によるユーザ認証処理、アバター表示処理、アバター移動制御処理、及びアバター方向変更制御処理について説明する。
以下、図9ないし図11を参照しながら、アバターサービス提供システム1におけるアバター移動の画面例について説明する。
以上のように、本実施の形態によると、人物の所定の動作(第1の動作)に応じて、アバターが画面上における前方向に移動しているように表示させる。これにより、アバターサービス提供システム1の仮想空間上でユーザが違和感なく移動しているように体感させ、仮想空間への没入感を損なわせることのない各種サービスの提供を可能にしている。
以上の各実施の形態で説明した事項を、以下に付記する。
10 :端末装置
10A :端末装置
10B :端末装置
13 :入力装置
14 :出力装置
15 :メモリ
16 :記憶部
19 :プロセッサ
20 :サーバ
25 :メモリ
26 :ストレージ
29 :プロセッサ
30 :表示画面
80 :ネットワーク
81 :無線基地局
82 :無線LANルータ
111 :アンテナ
112 :アンテナ
121 :第1無線通信部
122 :第2無線通信部
130 :操作受付部
131 :デバイス
132 :ディスプレイ
140 :音声処理部
141 :マイク
142 :スピーカ
150 :位置情報センサ
160 :カメラ
170 :記憶部
171 :ユーザ情報
180 :制御部
181 :入力操作受付部
182 :送受信部
183 :通知制御部
184 :データ処理部
201 :通信部
202 :記憶部
203 :制御部
2021 :ユーザデータベース
2031 :受信制御モジュール
2032 :送信制御モジュール
2033 :ユーザ認証モジュール
A :アバター
H :人物
VR :仮想空間
Claims (8)
- プロセッサと、メモリとを備えるコンピュータに実行させ、画面上に表示させる画像を生成するためのプログラムであって、
前記プログラムは、前記プロセッサに、
動いている人物をカメラで撮影した撮影画像を取得するステップと、
取得した前記撮影画像を解析し、解析結果に基づき前記人物の骨格情報を特定するステップと、
特定した前記骨格情報から、前記人物の動作を検出するステップと、
前記画面上に、前記人物に対応するアバターを表示させるステップと、
検出した前記人物の第1の動作に応じて、前記画面上に表示されている前記アバターが前記画面上における前方向に移動しているように制御して、前記画面上に表示させるステップと、
検出した前記人物の、前記第1の動作とは異なる第2の動作に応じて、前記画面上に表示されている前記アバターが前記画面上で移動する移動方向を変更しているように制御して、前記画面上に表示させるステップと、を実行させ、
前記人物の動作を検出するステップにおいて、前記人物の膝の位置と腰の位置との距離を推測して当該距離が所定の値以下である場合、前記人物が足を上げる動作をしていると判定し、前記人物が足を上げる動作を交互にしている場合、前記人物による前記第1の動作を検出し、
前記人物の膝の位置の高さに応じて、前記アバターの歩幅を制御する、プログラム。 - プロセッサと、メモリとを備えるコンピュータに実行させ、画面上に表示させる画像を生成するためのプログラムであって、
前記プログラムは、前記プロセッサに、
動いている人物をカメラで撮影した撮影画像を取得するステップと、
取得した前記撮影画像を解析し、解析結果に基づき前記人物の骨格情報を特定するステップと、
特定した前記骨格情報から、前記人物の動作を検出するステップと、
前記画面上に、前記人物に対応するアバターを表示させるステップと、
検出した前記人物の第1の動作に応じて、前記画面上に表示されている前記アバターが前記画面上における前方向に移動しているように制御して、前記画面上に表示させるステップと、
検出した前記人物の、前記第1の動作とは異なる第2の動作に応じて、前記画面上に表示されている前記アバターが前記画面上で移動する移動方向を変更しているように制御して、前記画面上に表示させるステップと、を実行させ、
前記第2の動作は、前記人物による上半身を捻る動作を含み、
前記人物の動作を検出するステップにおいて、前記人物の首の向きと腰の向きとからなる水平方向の捻り角度を推測して当該角度が所定の値以上である場合、前記人物による前記第2の動作を検出する、プログラム。 - 前記画面上に前記アバターを表示させるステップにおいて、前記画面上に、前記アバターを含む仮想空間を表示させ、
前記アバターが前記画面上における前方向に移動しているように表示させるステップにおいて、前記第1の動作に応じて、前記アバターが前記仮想空間上における前方向に移動しているように制御し、
前記アバターが前記画面上で移動する移動方向を変更しているように表示させるステップにおいて、前記第2の動作に応じて、前記アバターが前記仮想空間上で移動する移動方向を変更しているように制御する、請求項1または請求項2に記載のプログラム。 - 前記第1の動作は、前記人物による足を交互に上げる動作、及び腕を交互に振る動作を含む、請求項1または請求項2に記載のプログラム。
- 制御部と、記憶部とを備え、画面上に表示させる画像を生成する情報処理装置であって、
前記制御部は、
動いている人物をカメラで撮影した撮影画像を取得するステップと、
取得した前記撮影画像を解析し、解析結果に基づき前記人物の骨格情報を特定するステップと、
特定した前記骨格情報から、前記人物の動作を検出するステップと、
前記画面上に、前記人物に対応するアバターを表示させるステップと、
検出した前記人物の第1の動作に応じて、前記画面上に表示されている前記アバターが前記画面上における前方向に移動しているように制御して、前記画面上に表示させるステップと、
検出した前記人物の、前記第1の動作とは異なる第2の動作に応じて、前記画面上に表示されている前記アバターが前記画面上で移動する移動方向を変更しているように制御して、前記画面上に表示させるステップと、を実行し、
前記人物の動作を検出するステップにおいて、前記人物の膝の位置と腰の位置との距離を推測して当該距離が所定の値以下である場合、前記人物が足を上げる動作をしていると判定し、前記人物が足を上げる動作を交互にしている場合、前記人物による前記第1の動作を検出し、
前記人物の膝の位置の高さに応じて、前記アバターの歩幅を制御する、情報処理装置。 - 制御部と、記憶部とを備え、画面上に表示させる画像を生成する情報処理装置であって、
前記制御部は、
動いている人物をカメラで撮影した撮影画像を取得するステップと、
取得した前記撮影画像を解析し、解析結果に基づき前記人物の骨格情報を特定するステップと、
特定した前記骨格情報から、前記人物の動作を検出するステップと、
前記画面上に、前記人物に対応するアバターを表示させるステップと、
検出した前記人物の第1の動作に応じて、前記画面上に表示されている前記アバターが前記画面上における前方向に移動しているように制御して、前記画面上に表示させるステップと、
検出した前記人物の、前記第1の動作とは異なる第2の動作に応じて、前記画面上に表示されている前記アバターが前記画面上で移動する移動方向を変更しているように制御して、前記画面上に表示させるステップと、を実行し、
前記第2の動作は、前記人物による上半身を捻る動作を含み、
前記人物の動作を検出するステップにおいて、前記人物の首の向きと腰の向きとからなる水平方向の捻り角度を推測して当該角度が所定の値以上である場合、前記人物による前記第2の動作を検出する、情報処理装置。 - プロセッサと、メモリとを備えるコンピュータに実行され、画面上に表示させる画像を生成するための方法であって、
前記方法は、前記プロセッサが、
動いている人物をカメラで撮影した撮影画像を取得するステップと、
取得した前記撮影画像を解析し、解析結果に基づき前記人物の骨格情報を特定するステップと、
特定した前記骨格情報から、前記人物の動作を検出するステップと、
前記画面上に、前記人物に対応するアバターを表示させるステップと、
検出した前記人物の第1の動作に応じて、前記画面上に表示されている前記アバターが前記画面上における前方向に移動しているように制御して、前記画面上に表示させるステップと、
検出した前記人物の、前記第1の動作とは異なる第2の動作に応じて、前記画面上に表示されている前記アバターが前記画面上で移動する移動方向を変更しているように制御して、前記画面上に表示させるステップと、を実行し、
前記人物の動作を検出するステップにおいて、前記人物の膝の位置と腰の位置との距離を推測して当該距離が所定の値以下である場合、前記人物が足を上げる動作をしていると判定し、前記人物が足を上げる動作を交互にしている場合、前記人物による前記第1の動作を検出し、
前記人物の膝の位置の高さに応じて、前記アバターの歩幅を制御する、方法。 - プロセッサと、メモリとを備えるコンピュータに実行され、画面上に表示させる画像を生成するための方法であって、
前記方法は、前記プロセッサが、
動いている人物をカメラで撮影した撮影画像を取得するステップと、
取得した前記撮影画像を解析し、解析結果に基づき前記人物の骨格情報を特定するステップと、
特定した前記骨格情報から、前記人物の動作を検出するステップと、
前記画面上に、前記人物に対応するアバターを表示させるステップと、
検出した前記人物の第1の動作に応じて、前記画面上に表示されている前記アバターが前記画面上における前方向に移動しているように制御して、前記画面上に表示させるステップと、
検出した前記人物の、前記第1の動作とは異なる第2の動作に応じて、前記画面上に表示されている前記アバターが前記画面上で移動する移動方向を変更しているように制御して、前記画面上に表示させるステップと、を実行し、
前記第2の動作は、前記人物による上半身を捻る動作を含み、
前記人物の動作を検出するステップにおいて、前記人物の首の向きと腰の向きとからなる水平方向の捻り角度を推測して当該角度が所定の値以上である場合、前記人物による前記第2の動作を検出する、方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2023055234A JP7372717B1 (ja) | 2023-03-30 | 2023-03-30 | プログラム、情報処理装置及び方法 |
PCT/JP2024/005902 WO2024202706A1 (ja) | 2023-03-30 | 2024-02-20 | プログラム、情報処理装置及び方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2023055234A JP7372717B1 (ja) | 2023-03-30 | 2023-03-30 | プログラム、情報処理装置及び方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP7372717B1 true JP7372717B1 (ja) | 2023-11-01 |
JP2024142869A JP2024142869A (ja) | 2024-10-11 |
Family
ID=88510004
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2023055234A Active JP7372717B1 (ja) | 2023-03-30 | 2023-03-30 | プログラム、情報処理装置及び方法 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP7372717B1 (ja) |
WO (1) | WO2024202706A1 (ja) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007334443A (ja) * | 2006-06-12 | 2007-12-27 | Kyushu Institute Of Technology | アバター動作制御システム、そのプログラム及び方法 |
JP2014510336A (ja) * | 2011-02-11 | 2014-04-24 | 得鋒 黄 | ヒューマンコンピュータインタラクションの制御方法及びその運用 |
JP2022187952A (ja) * | 2021-06-08 | 2022-12-20 | 三菱ケミカルグループ株式会社 | プログラム、方法、情報処理装置 |
-
2023
- 2023-03-30 JP JP2023055234A patent/JP7372717B1/ja active Active
-
2024
- 2024-02-20 WO PCT/JP2024/005902 patent/WO2024202706A1/ja unknown
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007334443A (ja) * | 2006-06-12 | 2007-12-27 | Kyushu Institute Of Technology | アバター動作制御システム、そのプログラム及び方法 |
JP2014510336A (ja) * | 2011-02-11 | 2014-04-24 | 得鋒 黄 | ヒューマンコンピュータインタラクションの制御方法及びその運用 |
JP2022187952A (ja) * | 2021-06-08 | 2022-12-20 | 三菱ケミカルグループ株式会社 | プログラム、方法、情報処理装置 |
Also Published As
Publication number | Publication date |
---|---|
JP2024142869A (ja) | 2024-10-11 |
WO2024202706A1 (ja) | 2024-10-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20210150806A1 (en) | 3d body model generation | |
US11615592B2 (en) | Side-by-side character animation from realtime 3D body motion capture | |
CN109284445B (zh) | 网络资源的推荐方法、装置、服务器及存储介质 | |
EP3671549B1 (en) | Electronic device for assisting a user during exercise | |
CN112581571B (zh) | 虚拟形象模型的控制方法、装置、电子设备及存储介质 | |
US20220358662A1 (en) | Image generation method and device | |
JP2021531589A (ja) | 目標対象の動作認識方法、装置及び電子機器 | |
CN112711335B (zh) | 虚拟环境画面的显示方法、装置、设备及存储介质 | |
CN113289327A (zh) | 移动终端的显示控制方法及装置、存储介质及电子设备 | |
US20160266661A1 (en) | Spatial motion-based user interactivity | |
WO2017061890A1 (en) | Wireless full body motion control sensor | |
KR102665456B1 (ko) | 2차원 이미지에 기초한 3차원 가상 의류 착용방법 및 그 시스템 | |
WO2024131479A1 (zh) | 虚拟环境的显示方法、装置、可穿戴电子设备及存储介质 | |
WO2024073675A1 (en) | Mixed reality media content | |
JP7372717B1 (ja) | プログラム、情報処理装置及び方法 | |
JP7386583B1 (ja) | プログラム、情報処理装置及び方法 | |
JP7182324B1 (ja) | プログラム、情報処理装置及び方法 | |
CN112084041A (zh) | 资源处理方法、装置、电子设备及存储介质 | |
CN114004922B (zh) | 骨骼动画显示方法、装置、设备、介质及计算机程序产品 | |
JP7373090B1 (ja) | 情報処理システム、情報処理装置、プログラム及び情報処理方法 | |
KR102167066B1 (ko) | 모션 인식 기반의 에어팬을 이용한 특수 효과 제공 시스템 및 그 방법 | |
US12118148B1 (en) | EMG-based speech detection and communication | |
US20240355059A1 (en) | Scannable codes as landmarks for augmented-reality content | |
KR20240109157A (ko) | 가상 공간에서 컨텐츠를 제공하는 전자 장치 및 그 방법 | |
KR20230081695A (ko) | 증강현실 제공 장치 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230512 |
|
A80 | Written request to apply exceptions to lack of novelty of invention |
Free format text: JAPANESE INTERMEDIATE CODE: A80 Effective date: 20230421 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20230512 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20230525 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230616 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230814 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20231003 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20231013 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7372717 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |