JP2023134340A - プログラム、情報処理装置及び方法 - Google Patents

Abstract

【課題】仮想空間上で各種サービスの提供を受けるための操作を容易にする技術を提供する。【解決手段】アバターサービス提供システム１の端末装置１０は、その機能として、動いている人物をカメラで撮影した撮影画像を取得するステップと、取得した撮影画像を解析し、解析結果に基づき人物の骨格情報を特定するステップと、特定した骨格情報から人物の手の骨格情報を抽出するステップと、画面上に、手を模した手画像を表示させるステップと、抽出した人物の手の骨格情報に基づき、人物の手の動作に合わせて手画像を動かすように制御するステップと、手画像の所定の動作を検出して当該所定の動作に関連付けられた機能を実行させるステップと、を実行させる。【選択図】図６

Description

本開示は、プログラム、情報処理装置及び方法に関する。

昨今、スマートフォン等の携帯端末が備えるカメラを利用して人物を撮影し、仮想空間において撮影された人物に関連付けられたキャラクタであるアバターを表示し、仮想空間上で各種サービスを提供することが行われている。このようなサービスは、実際の人物の外観を表示させずに各種サービスを提供するため、当該人物の外観を不特定のユーザに晒すことなく各種サービスの提供を受けることが可能であるため、一定のユーザにより利用されている。

特許文献１には、ユーザーアカウントに関連したアバター情報および骨格情報に基づいて人物オブジェクトがアバターに代替された合成画像を生成する技術が開示されている。

特開２０２１－１５７８００号公報

ところで、仮想空間において、携帯端末で撮影された人物のアバターをリアルタイムで表示し、仮想空間上で各種サービスの提供を受ける場合、他の者により携帯端末を操作して当該各種サービスの提供を開始する、終了する等の操作をするか、当該人物が自身で操作する必要があった。そのため、このようなサービスの提供を受けるために煩わしい操作が必要となっていた。

そこで、本開示では、仮想空間上で各種サービスの提供を受けるための操作を容易にする技術について説明する。

本開示の一実施形態によると、プロセッサと、メモリとを備えるコンピュータに実行させ、画面上に表示させる画像を生成するためのプログラムが提供される。プログラムは、プロセッサに、動いている人物をカメラで撮影した撮影画像を取得するステップと、取得した撮影画像を解析し、解析結果に基づき人物の骨格情報を特定するステップと、特定した骨格情報から人物の手の骨格情報を抽出するステップと、画面上に、手を模した手画像を表示させるステップと、抽出した人物の手の骨格情報に基づき、人物の手の動作に合わせて手画像を動かすように制御するステップと、手画像の所定の動作を検出して当該所定の動作に関連付けられた機能を実行させるステップと、を実行させる。

本開示によれば、撮影した人物の手の動作に合わせて手画像を動かすように制御し、手画像の所定の動作を検出して当該所定の動作に関連付けられた機能を実行させる。これにより、仮想空間上で各種サービスの提供を受けるための操作を容易にすることが可能になる。

本開示に係るアバターサービス提供システムの概略を示す構成図である。 実施の形態１のアバターサービス提供システム１の全体の構成を示す構成図である。 実施の形態１のアバターサービス提供システム１を構成する端末装置１０の機能的な構成を示すブロック図である。 実施の形態１のアバターサービス提供システム１を構成するサーバ２０の機能的な構成を示すブロック図である。 実施の形態１のアバターサービス提供システム１によるユーザ認証処理を行う流れの一例を示すフローチャートである。 実施の形態１のアバターサービス提供システム１による手画像移動処理を行う流れの一例を示すフローチャートである。 実施の形態１のアバターサービス提供システム１によるアイコン制御処理を行う流れの一例を示すフローチャートである。 表示画面３０に手画像３１Ｌ，３１Ｒが表示された画面例を示す図である。 表示画面３０に表示されたアイコン３２が選択された画面例を示す図である。 表示画面３０に表示されたアイコン３２が実行された画面例を示す図である。 表示画面３０に表示された手画像３１Ｌ，３１Ｒによる画面スクロールの画面例を示す図である。

以下、図面を参照しつつ、本開示の実施の形態について説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称及び機能も同じである。従って、それらについての詳細な説明は繰り返さない。

＜概要＞
以下、本開示に係るアバターサービス提供システムについて説明する。このアバターサービス提供システムは、スマートフォン等の携帯端末が備えるカメラを利用して人物を撮影し、仮想空間において撮影された人物に関連付けられたキャラクタであるアバターを表示し、仮想空間上で各種サービスを提供するするためのシステムである。仮想空間上で提供される各種サービスとは、例えば、アバターをユーザの動きにより操作して行うゲームのようなエンターテインメント、複数のアバターをそれぞれのユーザの動きにより表示させて行うオンラインフィットネスサービス、複数のアバターによるコミュニケーションサービス等が挙げられる。本開示に係るアバターサービス提供システムは、このようなユーザを投影したアバターを介して行う各種サービスを、例えばＷｅｂサービスとして提供するシステムであり、クラウドサーバ等によりＷｅｂサービスとして、いわゆるＳａａＳ（Ｓｏｆｔｗａｒｅ ａｓ ａ Ｓｅｒｖｉｃｅ）によって提供されるシステムである。または、アバターサービス提供システムは、このようなユーザを投影したアバターを介して行う各種サービスを、例えばスマートフォン等の携帯端末によって（Ｗｅｂサーバを介してもよく、介さなくてもよい）提供されるシステムである。

図１は、本開示に係るアバターサービス提供システムの概略を示す構成図である。図１に示すように、アバターサービス提供システムは、スマートフォン等の端末装置１０と、表示画面３０とを含む。端末装置１０は、スマートフォン、タブレット等の携帯端末である。表示画面３０は、ディスプレイ、テレビジョン、プロジェクタ等の画像表示装置であり、一定の離れた位置で見ることが可能な大きさに構成されている。端末装置１０は、有線または無線の通信手段を介して表示画面３０と通信可能に接続される。このときの通信手段の例は、例えば、ＵＳＢ（Universal Serial Bus）、ＨＤＭＩ（登録商標）（High Definition Multimedia Interface）等の規格による通信ケーブル、Ｍｉｒａｃａｓｔ（登録商標）、ＷｉＤｉ、ＡｉｒＰｌａｙ（登録商標）等の規格による無線通信が挙げられるが、これらに限定されない。端末装置１０のディスプレイ１３２には仮想空間が表示されており、端末装置１０で人物Ｈを撮影すると、端末装置１０のディスプレイ１３２に表示されている仮想空間上に、人物Ｈに関連付けられたキャラクタであるアバターＡが表示される。このとき、例えば、端末装置１０を横向きに撮影し、表示画面３０のアスペクト比（縦横比）に近似するようにしてもよい。また、表示画面３０にも、仮想空間とアバターＡが表示される。アバターＡは、人物Ｈの身体の動きに対応して動くように構成されており、アバターＡの動きにより各種サービスが提供される。さらに、アバターＡの情報はＷｅｂサーバ等により共有されてもよく、共有されている複数のアバターＡが表示画面３０に表示されて各種サービスが提供されてもよい。

ここで、端末装置１０で人物Ｈの身体の動きを撮影しようとすると、人物Ｈから一定の離隔した距離で撮影する必要がある。その状態で、各種サービスの提供を開始するためには端末装置１０を操作する必要があり、人物Ｈが１人で行っている場合、人物Ｈが端末装置１０の位置まで移動して端末装置１０を操作し、各種サービスの提供を開始させ、さらに端末装置１０から離隔した位置に戻る必要があり、人物Ｈにとって煩わしい操作が必要となっていた。

そのため、本開示に係るアバターサービス提供システムでは、各種サービスの提供開始前の状態で、手を模した手画像を表示させて人物Ｈの手の動作に合わせて手画像を動かすように制御し、手画像の動作により各種サービスの提供を開始できるようにしている。例えば、表示画面３０に各種サービスの提供を開始させるためのアイコンを表示させ、手画像の動作によりアイコンを選択し、実行させることが可能になるように構成している。そのため、人物Ｈは端末装置１０の位置まで戻って操作する必要がなくなり、煩わしい操作を不要にしている。これにより、アバターサービス提供システムによる各種サービスの提供がスムーズに行われることを可能にしている。

また、本開示に係るアバターサービス提供システムでは、手画像の動作により各種サービスを提供するためのメニュー画面を操作できるようにしている。具体的には、表示画面３０に各種サービスの提供を開始するためのアイコンが複数表示され、１画面では表示しきれないような場合に２画面以上で表示させる場合があり、そのような場合に複数画面間でスクロールさせることを可能にしている。これにより、煩わしい操作を不要にし、アバターサービス提供システムによる各種サービスの提供がスムーズに行われることを可能にしている。

＜第１の実施の形態＞
以下、アバターサービス提供システム１について説明する。以下の説明では、例えば、端末装置１０がサーバ２０へアクセスすることにより、サーバ２０が、端末装置１０で画面を生成するための情報を応答する。端末装置１０は、サーバ２０から受信した情報に基づいて画面を生成し表示する。

＜１ アバターサービス提供システム１の全体構成＞
図２は、アバターサービス提供システム１の全体の構成を示す構成図である。図２に示すように、アバターサービス提供システム１は、複数の端末装置（図２では、端末装置１０Ａ及び端末装置１０Ｂを示している。以下、総称して「端末装置１０」ということもある）と、サーバ２０とを含む。端末装置１０とサーバ２０とは、ネットワーク８０を介して相互に通信可能に接続されている。ネットワーク８０は、有線または無線ネットワークにより構成される。また、端末装置１０は、図１に示すように表示画面３０と通信可能に接続されるが、図２では図示を省略する。

端末装置１０は、各ユーザが操作する装置である。端末装置１０は、移動体通信システムに対応したスマートフォン、タブレット等の携帯端末等により実現される。この他、端末装置１０は、例えば持ち運び可能なノートＰＣ（Personal Computer）、ラップトップＰＣ、デスクトップＰＣ、スマートＴＶであるとしてもよい。端末装置１０を操作するユーザとは、アバターサービス提供システム１において仮想空間上にアバターを表示させて各種サービスの提供を受ける者であり、例えば、アバターサービス提供システム１に会員登録している者である。

端末装置１０は、ネットワーク８０を介してサーバ２０と通信可能に接続される。端末装置１０は、４Ｇ、５Ｇ、ＬＴＥ（Long Term Evolution）等の通信規格に対応した無線基地局８１、ＩＥＥＥ（Institute of Electrical and Electronics Engineers）８０２．１１等の無線ＬＡＮ（Local Area Network）規格に対応した無線ＬＡＮルータ８２等の通信機器と通信することにより、ネットワーク８０に接続される。図２に端末装置１０Ｂとして示すように、端末装置１０は、通信ＩＦ（Interface）１２と、入力装置１３と、出力装置１４と、メモリ１５と、記憶部１６と、プロセッサ１９とを備える。

通信ＩＦ１２は、端末装置１０が外部の装置と通信するため、信号を入出力するためのインタフェースである。入力装置１３は、ユーザからの入力操作を受け付けるための入力装置（例えば、タッチパネルや、タッチパッド、キーボード、マウス等のポインティングデバイス等）である。出力装置１４は、ユーザに対し情報を提示するための出力装置（ディスプレイ、スピーカ等）である。メモリ１５は、プログラム、及び、プログラム等で処理されるデータ等を一時的に記憶するためのものであり、例えばＤＲＡＭ（Dynamic Random Access Memory）等の揮発性のメモリである。記憶部１６は、データを保存するための記憶装置であり、例えばフラッシュメモリ、ＨＤＤ（Hard Disc Drive）である。プロセッサ１９は、プログラムに記述された命令セットを実行するためのハードウェアであり、演算装置、レジスタ、周辺回路等により構成される。

サーバ２０は、ユーザから各種サービスの提供を受けるための入力を受け付け、仮想空間上にアバターを表示して仮想空間上で各種サービスを提供するサービスをＷｅｂサービスとして配信して提供する装置である。なお、アバターサービス提供システム１は、端末装置１０のみで各種サービスを提供してもよく、この場合、サーバ２０は必須の構成ではない。

サーバ２０は、ネットワーク８０に接続されたコンピュータである。サーバ２０は、通信ＩＦ２２と、入出力ＩＦ２３と、メモリ２５と、ストレージ２６と、プロセッサ２９とを備える。

通信ＩＦ２２は、サーバ２０が外部の装置と通信するため、信号を入出力するためのインタフェースである。入出力ＩＦ２３は、ユーザからの入力操作を受け付けるための入力装置、及び、ユーザに対し情報を提示するための出力装置とのインタフェースとして機能する。メモリ２５は、プログラム、及び、プログラム等で処理されるデータ等を一時的に記憶するためのものであり、例えばＤＲＡＭ（Dynamic Random Access Memory）等の揮発性のメモリである。ストレージ２６は、データを保存するための記憶装置であり、例えばフラッシュメモリ、ＨＤＤ（Hard Disc Drive）である。プロセッサ２９は、プログラムに記述された命令セットを実行するためのハードウェアであり、演算装置、レジスタ、周辺回路等により構成される。

＜１．１ 端末装置１０の構成＞
図３は、実施の形態１のアバターサービス提供システム１を構成する端末装置１０の機能的な構成を示すブロック図である。図３に示すように、端末装置１０は、複数のアンテナ（アンテナ１１１、アンテナ１１２）と、各アンテナに対応する無線通信部（第１無線通信部１２１、第２無線通信部１２２）と、操作受付部１３０（タッチ・センシティブ・デバイス１３１及びディスプレイ１３２を含む）と、音声処理部１４０と、マイク１４１と、スピーカ１４２と、位置情報センサ１５０と、カメラ１６０と、記憶部１７０と、制御部１８０とを含む。端末装置１０は、図３では特に図示していない機能及び構成（例えば、電力を保持するためのバッテリー、バッテリーから各回路への電力の供給を制御する電力供給回路等）も有している。図３に示すように、端末装置１０に含まれる各ブロックは、バス等により電気的に接続される。

アンテナ１１１は、端末装置１０が発する信号を電波として放射する。また、アンテナ１１１は、空間から電波を受信して受信信号を第１無線通信部１２１へ与える。

アンテナ１１２は、端末装置１０が発する信号を電波として放射する。また、アンテナ１１２は、空間から電波を受信して受信信号を第２無線通信部１２２へ与える。

第１無線通信部１２１は、端末装置１０が他の無線機器と通信するため、アンテナ１１１を介して信号を送受信するための変復調処理等を行う。第２無線通信部１２２は、端末装置１０が他の無線機器と通信するため、アンテナ１１２を介して信号を送受信するための変復調処理等を行う。第１無線通信部１２１と第２無線通信部１２２とは、チューナー、ＲＳＳＩ（Received Signal Strength Indicator）算出回路、ＣＲＣ（Cyclic Redundancy Check）算出回路、高周波回路等を含む通信モジュールである。第１無線通信部１２１と第２無線通信部１２２とは、端末装置１０が送受信する無線信号の変復調や周波数変換を行い、受信信号を制御部１８０へ与える。

操作受付部１３０は、ユーザの入力操作を受け付けるための機構を有する。具体的には、操作受付部１３０は、タッチスクリーンとして構成され、タッチ・センシティブ・デバイス１３１と、ディスプレイ１３２とを含む。なお、操作受付部１３０は、例えばキーボードやマウス等により構成してもよい。

タッチ・センシティブ・デバイス１３１は、端末装置１０のユーザの入力操作を受け付ける。タッチ・センシティブ・デバイス１３１は、例えば静電容量方式のタッチパネルを用いることによって、タッチパネルに対するユーザの接触位置を検出する。タッチ・センシティブ・デバイス１３１は、タッチパネルにより検出したユーザの接触位置を示す信号を入力操作として制御部１８０へ出力する。

ディスプレイ１３２は、制御部１８０の制御に応じて、画像、動画、テキストなどのデータを表示する。ディスプレイ１３２は、例えばＬＣＤ（Liquid Crystal Display）や有機ＥＬ（Electro-Luminescence）ディスプレイによって実現される。

音声処理部１４０は、音声信号の変復調を行う。音声処理部１４０は、マイク１４１から与えられる信号を変調して、変調後の信号を制御部１８０へ与える。また、音声処理部１４０は、音声信号をスピーカ１４２へ与える。音声処理部１４０は、例えば音声処理用のプロセッサによって実現される。マイク１４１は、音声入力を受け付けて、当該音声入力に対応する音声信号を音声処理部１４０へ与える。スピーカ１４２は、音声処理部１４０から与えられる音声信号を音声に変換して当該音声を端末装置１０の外部へ出力する。

位置情報センサ１５０は、端末装置１０の位置を検出するセンサであり、例えばＧＰＳ（Global Positioning System）モジュールである。ＧＰＳモジュールは、衛星測位システムで用いられる受信装置である。衛星測位システムでは、少なくとも３個または４個の衛星からの信号を受信し、受信した信号に基づいて、ＧＰＳモジュールが搭載される端末装置１０の現在位置を検出する。

カメラ１６０は、受光素子により光を受光して、撮影画像として出力するためのデバイスである。カメラ１６０は、例えば、カメラ１６０から撮影対象までの距離を検出できるデバイスである。

記憶部１７０は、例えばフラッシュメモリ等により構成され、端末装置１０が使用するデータ及びプログラムを記憶する。ある局面において、記憶部１７０は、ユーザ情報１７１を記憶する。

ユーザ情報１７１は、端末装置１０を使用してアバターサービス提供システム１の機能である、仮想空間上にアバターを表示させて各種サービスの提供を受けるユーザの情報である。ユーザの情報としては、ユーザを識別する情報（ユーザＩＤ）やパスワード、ユーザの氏名や名称、仮称等の情報、アバターの画像情報等が含まれる。

制御部１８０は、記憶部１７０に記憶されるプログラムを読み込んで、プログラムに含まれる命令を実行することにより、端末装置１０の動作を制御する。制御部１８０は、例えば予め端末装置１０にインストールされているアプリケーションである。制御部１８０は、プログラムに従って動作することにより、入力操作受付部１８１と、送受信部１８２と、通知制御部１８３と、データ処理部１８４としての機能を発揮する。

入力操作受付部１８１は、タッチ・センシティブ・デバイス１３１等の入力装置に対するユーザの入力操作を受け付ける処理を行う。入力操作受付部１８１は、タッチ・センシティブ・デバイス１３１に対してユーザが自己の指等を接触させた座標の情報に基づき、ユーザの操作がフリック操作であるか、タップ操作であるか、ドラッグ（スワイプ）操作であるか等の操作の種別を判定する。また、入力操作受付部１８１は、マイク１４１からのユーザの音声を受け付ける処理を行う。

送受信部１８２は、端末装置１０が、サーバ２０等の外部の装置と、通信プロトコルに従ってデータを送受信するための処理を行う。

通知制御部１８３は、ユーザに対し情報を提示する処理を行う。通知制御部１８３は、表示画像をディスプレイ１３２に表示させる処理、音声をスピーカ１４２に出力させる処理等を行う。

データ処理部１８４は、端末装置１０が入力を受け付けたデータに対し、プログラムに従って演算を行い、演算結果をメモリ等に出力する処理を行う。

また、データ処理部１８４は、端末装置１０のプロセッサ１９がプログラムに従って処理を行うことにより、各種モジュールとして、動いている人物をカメラで撮影した撮影画像を取得し、取得した撮影画像を解析して解析結果に基づき人物の骨格情報を特定し、特定した骨格情報から人物の手の骨格情報を抽出し、画面上に手を模した手画像を表示させ、抽出した人物の手の骨格情報に基づき人物の手の動作に合わせて手画像を動かすように制御し、手画像の所定の動作を検出して当該所定の動作に関連付けられた機能を実行させる機能を発揮する。さらに、データ処理部１８４は、所定のアイコンを表示させ、手画像のアイコンに対する所定の動作を検出すると、アイコンを選択状態にし、またはアイコンに関連付けられた機能を発揮するように構成してもよい。

＜１．２ サーバ２０の機能的な構成＞
図４は、実施の形態１のアバターサービス提供システム１を構成するサーバ２０の機能的な構成を示すブロック図である。図４に示すように、サーバ２０は、通信部２０１と、記憶部２０２と、制御部２０３としての機能を発揮する。

通信部２０１は、サーバ２０が外部の装置と通信するための処理を行う。

記憶部２０２は、サーバ２０が使用するデータ及びプログラムを記憶する。記憶部２０２は、ユーザデータベース２０２１等を記憶する。

ユーザデータベース２０２１は、アバターサービス提供システム１において、仮想空間上にアバターを表示させて各種サービスの提供を受けるユーザに関する情報を保持するためのデータベースである。ユーザに関する情報としては、ユーザを識別する情報（ユーザＩＤ）やパスワード、ユーザの氏名や名称、仮称等の情報、アバターの画像情報等が含まれる。

制御部２０３は、サーバ２０のプロセッサがプログラムに従って処理を行うことにより、各種モジュールとして受信制御モジュール２０３１、送信制御モジュール２０３２、ユーザ認証モジュール２０３３に示す機能を発揮する。

受信制御モジュール２０３１は、サーバ２０が外部の装置から通信プロトコルに従って信号を受信する処理を制御する。

送信制御モジュール２０３２は、サーバ２０が外部の装置に対し通信プロトコルに従って信号を送信する処理を制御する。

ユーザ認証モジュール２０３３は、サーバ２０にアクセスするユーザが正当なユーザであることを認証する処理を制御する。ユーザ認証モジュール２０３３によるユーザの認証は、例えば、ユーザＩＤが登録されていること、当該ユーザＩＤのパスワードとして登録されているパスワードと同一のパスワードが入力されたこと、等により行われる。

＜２ 動作＞
以下、図５ないし図７を参照しながら、第１の実施の形態におけるアバターサービス提供システム１によるユーザ認証処理、手画像移動処理、及びアイコン制御処理について説明する。

図５は、実施の形態１のアバターサービス提供システム１によるユーザ認証処理を行う流れの一例を示すフローチャートである。なお、アバターサービス提供システム１は、端末装置１０のみで各種サービスを提供してもよく、この場合、図５に示すユーザ認証処理は行わなくてもよい。

ステップＳ１１１において、端末装置１０の入力操作受付部１８１は、ユーザの操作によりアバターサービス提供システム１の専用アプリケーションを起動する。送受信部１８２は、ユーザＩＤ、パスワード等のユーザの情報を、サーバ２０へ送信する。送受信部１８２は、サーバ２０から送信された、仮想空間上にアバターを表示させて各種サービスの提供を受けるための各種情報を受け付ける。通知制御部１８３は、受け付けた各種情報を、ディスプレイ１３２に表示させる。

ステップＳ１２１において、サーバ２０のユーザ認証モジュール２０３３は、端末装置１０から送信されたユーザの情報を、通信部２０１を介して受け付ける。サーバ２０のユーザ認証モジュール２０３３は、受け付けたユーザの情報が正当なユーザからのものであることを認証する。サーバ２０は、受け付けたユーザの情報が正当なものであると判定した場合、仮想空間上にアバターを表示させて各種サービスを提供するための各種情報を当該ユーザの端末装置１０のディスプレイ１３２に表示させるため、端末装置１０へ通信部２０１を介して送信する。

図６は、実施の形態１のアバターサービス提供システム１による手画像移動処理を行う流れの一例を示すフローチャートである。

ステップＳ２１１において、端末装置１０のデータ処理部１８４は、ユーザの操作により動いている人物をカメラ１６０で撮影した撮影画像を取得する。例えば、データ処理部１８４は、図１に示すように、端末装置１０がカメラ１６０のレンズ部分が人物Ｈの方向に向けられた状態で固定され、アバターサービス提供システム１の専用アプリケーションにより人物Ｈを撮影した撮影画像、例えば動画を取得する。なお、このとき、人物Ｈを撮影する装置は端末装置１０のカメラ１６０に限られず、外部装置としてのカメラであってもよく、例えば、ＬＩＤＡＲ（Light Detection and Ranging）カメラ（センサ）、光学式または機械式（Inertial Measurement Unit）のモーションキャプチャシステム等であってもよい。端末装置１０のデータ処理部１８４は、撮影画像を画像データとして記憶部１７０に記憶させる。

ステップＳ２１２において、端末装置１０のデータ処理部１８４は、ステップＳ２１１で取得した撮影画像に基づく画像データを解析し、解析結果に基づき、撮影された人物の骨格情報を特定する。例えば、データ処理部１８４は、画像データの解析により、撮影画像の人物を、既知の画像認識技術を用いて身体の部位を特定し、それぞれの身体の部位を示す点の間を直線で結び、点と線で得られた情報を骨格情報とする。データ処理部１８４は、撮影画像における点の位置を撮影画像における座標の情報とする。この点は、例えば身体の関節部分に配置され、身体の動きに合わせて直線部分との角度を変更するように構成される。このような構成により、身体の動きを点と直線とで表現することを可能にしている。端末装置１０のデータ処理部１８４は、特定した骨格情報を記憶部１７０に記憶させる。

ステップＳ２１３において、端末装置１０のデータ処理部１８４は、ステップＳ２１２で特定した骨格情報から、撮影された人物の手の骨格情報を抽出する。例えば、データ処理部１８４は、画像データの解析により、撮影画像の人物の手の部分を特定し、手の部分に配置された点の情報、例えば点の座標の情報を抽出する。

ステップＳ２１４において、端末装置１０のデータ処理部１８４は、画面上に手を模した手画像を表示させる。手画像は、例えば人間の手の形状を模した画像であるが、画面上のどこを指し示しているかを認識できるような形状であればよく、矢印のような形状であってもよい。また、手画像の画像データは、記憶部１７０に記憶されたものである。端末装置１０のデータ処理部１８４は、手画像を、ディスプレイ１３２に表示させると共に、図１に示すような表示画面３０に表示させる。表示させる手画像は、両手のものでもよく、左右どちらか一方の片手のものでもよい。

ステップＳ２１５において、端末装置１０のデータ処理部１８４は、抽出した人物の手の骨格情報に基づき、人物の手の動作に合わせて、ステップＳ２１４で表示させた手画像を動かすように制御する。

以上のように、アバターサービス提供システム１では、画面上に手を模した手画像を表示させ、人物の手の動作に合わせて手画像を動かすように制御する。

図７は、実施の形態１のアバターサービス提供システム１によるアイコン制御処理を行う流れの例を示すフローチャートである。

ステップＳ３１１において、端末装置１０のデータ処理部１８４は、画面上に所定のアイコンを表示させる。このアイコンは、画面上でアバターサービス提供システム１が提供する各種サービスの提供を開始するためのアイコンであり、手画像により選択され、アイコンに関連付けられた機能（各種サービス）を実行させるものである。

ステップＳ３１２において、端末装置１０のデータ処理部１８４は、画面上における手画像の位置と、アイコンの位置とを検出する。例えば、データ処理部１８４は、画面上における手画像の位置を、画面上における座標位置の情報として、人物の手の動きに合わせて随時検出する。また、データ処理部１８４は、画面上におけるアイコンの位置を、画面上における座標位置の情報として検出する。

ステップＳ３１３において、端末装置１０のデータ処理部１８４は、手画像のアイコンに対する所定の動作、例えば画面上における手画像の位置とアイコンの位置とが一致したことを検出すると、アイコンを選択状態にし、またはアイコンに関連付けられた機能を実行する。例えば、データ処理部１８４は、画面上における両手の手画像のうち、片手の手画像の位置がアイコンの位置と一致したことを検出すると、アイコンを選択状態（選択だけされた状態であり、機能は実行されない状態）にする。また、データ処理部１８４は、画面上における両手の手画像の両方の手画像の位置がアイコンの位置と一致したことを検出すると、アイコンを実行状態（アイコンに関連付けられた機能を実行させる状態）にする。

以上のように、アバターサービス提供システム１では、各種サービスの提供を開始させるためのアイコンを表示させ、手画像の動作によりアイコンを選択し、実行させることが可能になるように構成する。これにより、ユーザは端末装置１０の位置まで戻って操作する必要がなくなり、煩わしい操作を不要にしている。

なお、手画像による操作の他の例として、手画像を上下左右方向に移動する動作を検出すると、画面上に表示されている画像をスクロールさせるように構成してもよい。これにより、ユーザは端末装置１０の位置まで戻って操作する必要がなくなり、煩わしい操作を不要にしている。

＜３ 画面例＞
以下、図８ないし図１１を参照しながら、アバターサービス提供システム１における手画像による操作の画面例について説明する。

図８は、表示画面３０に手画像３１Ｌ，３１Ｒが表示された画面例を示す図である。図８の画面例は、図１に示す表示画面３０に、人物Ｈの手の動作に合わせて移動させる手画像が表示された画面例を示す。図６のステップＳ２１４に相当する。

図８に示すように、端末装置１０のディスプレイ１３２には、人物Ｈに関連付けられ、人物Ｈの手の動作に合わせて移動させる手画像１３２Ｌ，１３２Ｒが表示されている。また、表示画面３０にも、人物Ｈの手の動作に合わせて移動させる手画像３１Ｌ，３１Ｒが表示されている。手画像３１Ｌ，３１Ｒは、それぞれ人物Ｈの左手の動作に合わせて移動させるもの、右手の動作に合わせて移動させるものである。なお、このとき、端末装置１０のディスプレイ１３２及び表示画面３０の背景には仮想空間が表示されていてもよいが、図示を省略する。

人物Ｈが右手を動かすと、その動きに合わせて手画像３１Ｒが表示画面３０上で上下左右に移動する。同様に、人物Ｈが左手を動かすと、その動きに合わせて手画像３１Ｌが表示画面３０上で上下左右に移動する。これにより、人物Ｈの手の動きに合わせて手画像を動かすことが可能である。

図９は、表示画面３０に表示されたアイコン３２が選択された画面例を示す図である。また、図１０は、表示画面３０に表示されたアイコン３２が実行された画面例を示す図である。図９及び図１０の画面例は、図１に示す表示画面３０に、人物Ｈの手の動作に合わせて移動させる手画像が表示され、各種サービスの提供を開始するためのアイコンが表示された画面例を示す。図７のステップＳ３１１に相当する。

図９及び図１０に示すように、表示画面３０には、人物Ｈの手の動作に合わせて移動させる手画像３１Ｌ，３１Ｒが表示されている。また、表示画面３０には、アイコン３２が表示されている。

人物Ｈの手の動きに合わせて手画像３１Ｌ，３１Ｒが動き、その画面上の位置が検出される。そして、図９に示す状態では、画面上における手画像３１Ｌ，３１Ｒのうちいずれか１つの位置と、アイコン３２の位置とが一致したことを検出する。このとき、アイコン３２は、選択状態になる。また、図１０に示す状態では、画面上における手画像３１Ｌ，３１Ｒの両方の位置と、アイコン３２の位置とが一致したことを検出する。このとき、アイコン３２は、実行状態になる。これにより、ユーザは端末装置１０の位置まで戻ることなく、アイコン３２を選択し、アイコン３２による機能を実行させることが可能である。

なお、アイコン３２を選択し、アイコン３２による機能を実行させる操作は、図９及び図１０に示す連とは限られない。例えば、手画像３１Ｌ，３１Ｒのいずれか一方の位置が一定時間以上アイコン３２の位置と一致した場合、アイコン３２を選択状態にし、手画像３１Ｌ，３１Ｒのいずれか一方の位置が一定時間以内に２回アイコン３２の位置と一致した場合（いわゆるダブルクリック）、アイコン３２による機能を実行させるように構成してもよい。

図１１は、表示画面３０に表示された手画像３１Ｌ，３１Ｒによる画面スクロールの画面例を示す図である。図１１の画面例は、図１に示す表示画面３０に、人物Ｈの手の動作に合わせて移動させる手画像が表示された画面例を示す。図７のステップＳ３１１に相当する。

図１１に示すように、表示画面３０には、人物Ｈの手の動作に合わせて移動させる手画像３１Ｌ，３１Ｒが表示されている。

人物Ｈの手の動きに合わせて手画像３１Ｌ，３１Ｒが動き、その画面上の位置が検出される。そして、図１１に示す状態では、手画像３１Ｌ，３１Ｒが矢印Ｘ方向にスライドするように移動したことを検出する。このとき、表示画面３０に表示されている画像を矢印Ｘ方向にスクロールさせる。これにより、ユーザは端末装置１０の位置まで戻ることなく、画面をスクロールさせる操作を実行させることが可能である。

＜小括＞
以上のように、本実施形態によると、手画像を表示させてユーザの手の動作に合わせて手画像を動かすように制御する。手画像の動作により、手画像が各種サービスの提供を開始させるためのアイコンを選択し、実行させることが可能になるように構成している。そのため、ユーザは端末装置の位置まで戻って操作する必要がなくなり、煩わしい操作を不要にしている。これにより、アバターサービス提供システムによる各種サービスの提供がスムーズに行われることを可能にしている。

また、手画像の動作により各種サービスの提供を開始させ、画像をスクロールさせることを可能にしているが、スマートフォン等の携帯端末による入力や、音声認識技術による音声入力も受け付ける構成（マルチモーダル）にしてもよい。このような構成にすることにより、誤作動を防止し、状況に応じて操作を簡便にする手段を選択可能とする効果が得られる。

なお、本開示に係るアバターサービス提供システムは、手画像の動作により、画像をスクロールさせることが可能になるように構成している。そのため、ユーザは端末装置の位置まで戻って操作する必要がなくなり、煩わしい操作を不要にしている。これにより、アバターサービス提供システムによる各種サービスの提供がスムーズに行われることを可能にしている。

以上、開示に係る実施形態について説明したが、これらはその他の様々な形態で実施することが可能であり、種々の省略、置換及び変更を行なって実施することができる。これらの実施形態及び変形例ならびに省略、置換及び変更を行なったものは、特許請求の範囲の技術的範囲とその均等の範囲に含まれる。

＜付記＞
以上の各実施形態で説明した事項を、以下に付記する。

（付記１）プロセッサ２９と、メモリ２５とを備えるコンピュータに実行させ、画面上に表示させる画像を生成するためのプログラムであって、プログラムは、プロセッサ２９に、動いている人物をカメラで撮影した撮影画像を取得するステップ（Ｓ２１１）と、取得した撮影画像を解析し、解析結果に基づき人物の骨格情報を特定するステップ（Ｓ２１２）と、特定した骨格情報から人物の手の骨格情報を抽出するステップ（Ｓ２１３）と、画面上に、手を模した手画像を表示させるステップ（Ｓ２１４）と、抽出した人物の手の骨格情報に基づき、人物の手の動作に合わせて手画像を動かすように制御するステップ（Ｓ２１５）と、手画像の所定の動作を検出して当該所定の動作に関連付けられた機能を実行させるステップ（Ｓ３１３）と、を実行させる、プログラム。

（付記２）プログラムは、さらに、画面上に、所定のアイコンを表示させるステップ（Ｓ３１１）を実行させ、機能を実行させるステップにおいて、手画像の前記アイコンに対する所定の動作を検出すると、アイコンを選択状態にし、またはアイコンに関連付けられた機能を実行させる、（付記１）に記載のプログラム。

（付記３）手画像を表示させるステップにおいて、片手または両手を模した手画像を表示させ、機能を実行させるステップにおいて、片手の手画像の所定の動作と、両手の手画像の所定の動作とで異なる機能を実行させる、（付記２）に記載のプログラム。

（付記４）片手の手画像がアイコンに接触する動作を検出すると、アイコンを選択状態にし、両手の手画像がアイコンに接触する動作を検出すると、アイコンに関連付けられた機能を実行させる、（付記３）に記載のプログラム。

（付記５）機能を実行させるステップにおいて、手画像が上下左右方向に移動する動作を検出すると、画面上に表示されている画像をスクロールさせる、（付記１）から（付記４）のいずれかに記載のプログラム。

（付記６）制御部１８０と、記憶部１７０とを備え、画面上に表示させる画像を生成する情報処理装置であって、制御部１８０は、動いている人物をカメラで撮影した撮影画像を取得するステップ（Ｓ２１１）と、取得した撮影画像を解析し、解析結果に基づき人物の骨格情報を特定するステップ（Ｓ２１２）と、特定した骨格情報から人物の手の骨格情報を抽出するステップ（Ｓ２１３）と、画面上に、手を模した手画像を表示させるステップ（Ｓ２１４）と、抽出した人物の手の骨格情報に基づき、人物の手の動作に合わせて手画像を動かすように制御するステップ（Ｓ２１５）と、手画像の所定の動作を検出して当該所定の動作に関連付けられた機能を実行させるステップ（Ｓ３１３）と、を実行する、情報処理装置。

（付記７）プロセッサ２９と、メモリ２５とを備えるコンピュータにより実行され、画面上に表示させる画像を生成するための方法であって、方法は、プロセッサ２９が、動いている人物をカメラで撮影した撮影画像を取得するステップ（Ｓ２１１）と、取得した撮影画像を解析し、解析結果に基づき人物の骨格情報を特定するステップ（Ｓ２１２）と、特定した骨格情報から人物の手の骨格情報を抽出するステップ（Ｓ２１３）と、画面上に、手を模した手画像を表示させるステップ（Ｓ２１４）と、抽出した人物の手の骨格情報に基づき、人物の手の動作に合わせて手画像を動かすように制御するステップ（Ｓ２１５）と、手画像の所定の動作を検出して当該所定の動作に関連付けられた機能を実行させるステップ（Ｓ３１３）と、を実行する、方法。

１ ：アバターサービス提供システム
１０ ：端末装置
１０Ａ ：端末装置
１０Ｂ ：端末装置
１３ ：入力装置
１４ ：出力装置
１５ ：メモリ
１６ ：記憶部
１９ ：プロセッサ
２０ ：サーバ
２５ ：メモリ
２６ ：ストレージ
２９ ：プロセッサ
３０ ：表示画面
３１Ｌ ：手画像
３１Ｒ ：手画像
３２ ：アイコン
８０ ：ネットワーク
８１ ：無線基地局
８２ ：無線ＬＡＮルータ
１１１ ：アンテナ
１１２ ：アンテナ
１２１ ：第１無線通信部
１２２ ：第２無線通信部
１３０ ：操作受付部
１３１ ：デバイス
１３２ ：ディスプレイ
１４０ ：音声処理部
１４１ ：マイク
１４２ ：スピーカ
１５０ ：位置情報センサ
１６０ ：カメラ
１７０ ：記憶部
１７１ ：ユーザ情報
１８０ ：制御部
１８１ ：入力操作受付部
１８２ ：送受信部
１８３ ：通知制御部
１８４ ：データ処理部
２０１ ：通信部
２０２ ：記憶部
２０３ ：制御部
２０２１ ：ユーザデータベース
２０３１ ：受信制御モジュール
２０３２ ：送信制御モジュール
２０３３ ：ユーザ認証モジュール

Claims (7)

1. プロセッサと、メモリとを備えるコンピュータに実行させ、画面上に表示させる画像を生成するためのプログラムであって、
   前記プログラムは、前記プロセッサに、
   動いている人物をカメラで撮影した撮影画像を取得するステップと、
   取得した前記撮影画像を解析し、解析結果に基づき前記人物の骨格情報を特定するステップと、
   特定した前記骨格情報から前記人物の手の骨格情報を抽出するステップと、
   前記画面上に、手を模した手画像を表示させるステップと、
   抽出した前記人物の手の骨格情報に基づき、前記人物の手の動作に合わせて前記手画像を動かすように制御するステップと、
   前記手画像の所定の動作を検出して当該所定の動作に関連付けられた機能を実行させるステップと、を実行させる、プログラム。
2. 前記プログラムは、さらに、
   前記画面上に、所定のアイコンを表示させるステップを実行させ、
   前記機能を実行させるステップにおいて、前記手画像の前記アイコンに対する所定の動作を検出すると、前記アイコンを選択状態にし、または前記アイコンに関連付けられた機能を実行させる、請求項１に記載のプログラム。
3. 前記手画像を表示させるステップにおいて、片手または両手を模した前記手画像を表示させ、
   前記機能を実行させるステップにおいて、片手の前記手画像の所定の動作と、両手の前記手画像の所定の動作とで異なる前記機能を実行させる、請求項２に記載のプログラム。
4. 片手の前記手画像が前記アイコンに接触する動作を検出すると、前記アイコンを選択状態にし、両手の前記手画像が前記アイコンに接触する動作を検出すると、前記アイコンに関連付けられた機能を実行させる、請求項３に記載のプログラム。
5. 前記機能を実行させるステップにおいて、前記手画像が上下左右方向に移動する動作を検出すると、前記画面上に表示されている前記画像をスクロールさせる、請求項１から請求項４のいずれか１項に記載のプログラム。
6. 制御部と、記憶部とを備え、画面上に表示させる画像を生成する情報処理装置であって、
   前記制御部は、
   動いている人物をカメラで撮影した撮影画像を取得するステップと、
   取得した前記撮影画像を解析し、解析結果に基づき前記人物の骨格情報を特定するステップと、
   特定した前記骨格情報から前記人物の手の骨格情報を抽出するステップと、
   前記画面上に、手を模した手画像を表示させるステップと、
   抽出した前記人物の手の骨格情報に基づき、前記人物の手の動作に合わせて前記手画像を動かすように制御するステップと、
   前記手画像の所定の動作を検出して当該所定の動作に関連付けられた機能を実行させるステップと、を実行する、情報処理装置。
7. プロセッサと、メモリとを備えるコンピュータに実行され、画面上に表示させる画像を生成するための方法であって、
   前記方法は、前記プロセッサが、
   動いている人物をカメラで撮影した撮影画像を取得するステップと、
   取得した前記撮影画像を解析し、解析結果に基づき前記人物の骨格情報を特定するステップと、
   特定した前記骨格情報から前記人物の手の骨格情報を抽出するステップと、
   前記画面上に、手を模した手画像を表示させるステップと、
   抽出した前記人物の手の骨格情報に基づき、前記人物の手の動作に合わせて前記手画像を動かすように制御するステップと、
   前記手画像の所定の動作を検出して当該所定の動作に関連付けられた機能を実行させるステップと、を実行する、方法。