JP2023116432A - アニメーション制作システム - Google Patents

Abstract

【課題】仮想空間内でアニメーションを撮影することができるようにする。【解決手段】アニメーション制作システムが、仮想空間内に配置されたキャラクタを撮影する仮想的なカメラと、ユーザが装着したヘッドマウントディスプレイおよびコントローラの少なくともいずれかからユーザの入力を検出するユーザ入力検出部と、入力に応じてキャラクタの動作を制御するキャラクタ制御部と、カメラにより撮影した動画データにエフェクト処理を加えるエフェクト処理部と、エフェクト処理が加えられた動画データを出力する表示部と、を備える。【選択図】図１

Description

本発明は、アニメーション制作システムに関する。

仮想空間内に仮想カメラを配置することが行われている（特許文献１参照）。

特開２０１７－１４６６５１号公報

仮想空間内でアニメーションを撮影しようとする取り組みが行われてこなかった。

本発明はこのような背景を鑑みてなされたものであり、仮想空間内でアニメーションを撮影することのできる技術を提供することを目的とする。

上記課題を解決するための本発明の主たる発明は、アニメーション制作システムであって、仮想空間内に配置されたキャラクタを撮影する仮想的なカメラと、ユーザが装着したヘッドマウントディスプレイおよびコントローラの少なくともいずれかから前記ユーザの入力を検出するユーザ入力検出部と、前記入力に応じて前記キャラクタの動作を制御するキャラクタ制御部と、前記カメラにより撮影した動画データにエフェクト処理を加えるエフェクト処理部と、前記エフェクト処理が加えられた前記動画データを出力する表示部と、を備える。こととする。

その他本願が開示する課題やその解決方法については、発明の実施形態の欄及び図面により明らかにされる。

本発明によれば、仮想空間内でアニメーションを撮影することができる。

本実施形態のアニメーション制作システム３００においてユーザが装着するヘッドマウントディスプレイ（ＨＭＤ）に表示される仮想空間の一例を示す図である。 本発明の一実施形態に係るアニメーション制作システム３００の全体構成例を示す図である。 本実施形態に係るＨＭＤ１１０の外観を模式的に示す図である。 本実施形態に係るＨＭＤ１１０の機能構成例を示す図である。 本実施形態に係るコントローラ２１０の外観を模式的に示す図である。 本実施形態に係るコントローラ２１０の機能構成例を示す図である。 本実施形態にかかる画像生成装置３１０の機能構成図を示す図である。 表示装置３１１に表示される画面７の一例を示す図である。

本発明の実施形態の内容を列記して説明する。本発明は、たとえば以下のような構成を備える。

［項目１］
仮想空間内に配置されたキャラクタを撮影する仮想的なカメラと、
ユーザが装着したヘッドマウントディスプレイおよびコントローラの少なくともいずれかから前記ユーザの入力を検出するユーザ入力検出部と、
前記入力に応じて前記キャラクタの動作を制御するキャラクタ制御部と、
前記カメラにより撮影した動画データにエフェクト処理を加えるエフェクト処理部と、
前記エフェクト処理が加えられた前記動画データを出力する表示部と、
を備えることを特徴とするアニメーション制作システム。
［項目２］
項目１に記載のアニメーション制作システムであって、
前記エフェクト処理が加えられた前記動画データを記録する画像データ格納部をさらに備えること、
を特徴とするアニメーション制作システム。
［項目３］
項目１に記載のアニメーション制作システムであって、
前記表示部は、前記仮想空間外の現実空間に設けられ、
前記現実空間に前記エフェクト処理に対するパラメータを設定する設定部をさらに備えること、
を特徴とするアニメーション制作システム。

本発明の一実施形態に係るアニメーション制作システム３００の具体例を、以下に図面を参照しつつ説明する。なお、本発明はこれらの例示に限定されるものではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内でのすべての変更が含まれることが意図される。以下の説明では、図面の説明において同一の要素には同一の符号を付し、重複する説明を省略する。

＜概要＞
図１は、本実施形態のアニメーション制作システム３００においてユーザが装着するヘッドマウントディスプレイ（ＨＭＤ）に表示される仮想空間の一例を示す図である。本実施形態のアニメーション制作システム３００では、仮想空間１に仮想的なキャラクタ４と仮想的なカメラ３とを配置し、カメラ３を用いてキャラクタ４を撮影する。また、仮想空間１にはカメラマン２（撮影者キャラクタ）が配置され、カメラマン２によりカメラ３が仮想的に操作される。本実施形態のアニメーション制作システム３００では、ユーザは、図１に示すように仮想空間１をＴＰＶ（Third Person View；三人称視点）で俯瞰しながらキャラクタ４やカメラ３を配置したり、カメラマン２としてＦＰＶ（First Person View；一人称視点）でキャラクタ４を撮影したり、ＦＰＶでキャラクタ４の演技を行ったりしながら、アニメーションを制作していく。また、仮想空間１内には複数のキャラクタ４（図１の例では、キャラクタ４－１およびキャラクタ４－２）を配置することができ、ユーザは、キャラクタ４に憑依しながら演技を行うことができる。複数のキャラクタ４が配置されている場合には、ユーザは、各キャラクタ４（たとえば、キャラクタ４－１および４－２）に憑依する対象を切り替えることもできる。すなわち、本実施形態のアニメーション制作システム３００では、一人が何役もの役割（ロール）を果たすことができる。また、カメラマン２としてカメラ２を仮想的に操作しながら撮影を行うことができるので、自然なカメラワークを実現することが可能となり、撮影される動画の表現を豊かにすることができる。

＜全体構成＞
図２は、本発明の一実施形態に係るアニメーション制作システム３００の全体構成例を示す図である。アニメーション制作システム３００は、例えば、ＨＭＤ１１０、コントローラ２１０及びホストコンピュータとして機能する画像生成装置３１０を含んで構成することができる。画像生成装置３１０は、ディスプレイなどの表示装置３１１と、キーボードやマウス、タッチパネルなどの入力装置３１２とを備えることができる。アニメーション制作システム３００には、ＨＭＤ１１０やコントローラ２１０の位置、向き及び傾き等を検出するための赤外線カメラ（図示せず）等を追加することもできる。これらの装置は、相互に、有線又は無線手段により接続することができる。例えば、各々の装置にＵＳＢポートを備え、ケーブルで接続することで通信を確立することもできるし、他に、ＨＤＭＩ、有線ＬＡＮ、赤外線、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＷｉＦｉ（登録商標）等の有線又は無線により通信を確立することもできる。画像生成装置３１０は、ＰＣ、ゲーム機、携帯通信端末等、計算処理機能を有する装置であればよい。

＜ＨＭＤ１１０＞
図３は、本実施形態に係るＨＭＤ１１０の外観を模式的に示す図である。図４は、本実施形態に係るＨＭＤ１１０の機能構成例を示す図である。

ＨＭＤ１１０はユーザの頭部に装着され、ユーザの左右の眼前に配置されるよう表示パネル１２０を備える。表示パネル１２０としては、光学透過型と非透過型のディスプレイが考えられるが、本実施形態では、より没入感を提供可能な非透過型の表示パネルを例示する。表示パネル１２０には、左目用画像と右目用画像とが表示され、両目の視差を利用することにより立体感のある画像をユーザに提供することができる。左目用画像と右目用画像とを表示することができれば、左目用ディスプレイと右目用ディスプレイとを個別に備えることも可能であるし、左目用及び右目用の一体型のディスプレイを備えることも可能である。

ＨＭＤ１１０の筐体部１３０は、センサ１４０を備える。センサ１４０は、ユーザの頭部の向きや傾きといった動きを検出するために、図示しないが、例えば、磁気センサ、加速度センサ、もしくはジャイロセンサのいずれか、またはこれらの組み合わせを備えることができる。ユーザの頭部の垂直方向をＹ軸とし、Ｙ軸と直交する軸のうち、表示パネル１２０の中心とユーザとを結ぶ、ユーザの前後方向に相当する軸をＺ軸とし、Ｙ軸及びＺ軸と直交し、ユーザの左右方向に相当する軸をＸ軸とするとき、センサ１４０は、Ｘ軸まわりの回転角（いわゆる、ピッチ角）、Ｙ軸まわりの回転角（いわゆる、ヨー角）、Ｚ軸まわりの回転角（いわゆる、ロール角）を検出することができる。

センサ１４０に代えて、またはセンサ１４０に加えて、ＨＭＤ１１０の筐体部１３０は、複数の光源１５０（例えば、赤外光ＬＥＤ、可視光ＬＥＤ）を備えることもできる。ＨＭＤ１１０の外部（例えば、室内等）に設置されたカメラ（例えば、赤外光カメラ、可視光カメラ）がこれらの光源を検出することで、特定の空間におけるＨＭＤ１１０の位置、向き、傾きを検出することができる。または、同じ目的で、ＨＭＤ１１０に、ＨＭＤ１１０の筐体部１３０に設置された光源を検出するためのカメラを備えることもできる。

ＨＭＤ１１０の筐体部１３０は、アイトラッキング・センサを備えることもできる。アイトラッキング・センサは、ユーザの左目及び右目の視線方向及び注視点を検出するために用いられる。アイトラッキング・センサとしては様々な方式が考えられるが、例えば、左目および右目に弱い赤外光を照射してできる角膜上の反射光の位置を基準点とし、反射光の位置に対する瞳孔の位置により視線方向を検出し、左目及び右目の視線方向の交点を注視点として検出する方法などが考えられる。

＜コントローラ２１０＞
図５は、本実施形態に係るコントローラ２１０の外観を模式的に示す図である。図６は、本実施形態に係るコントローラ２１０の機能構成例を示す図である。

コントローラ２１０により、仮想空間内において、ユーザが所定の入力を行うことをサポートすることができる。コントローラ２１０は、左手用２２０及び右手用２３０のコントローラのセットとして構成することができる。左手用コントローラ２２０及び右手用コントローラ２３０は、各々操作用トリガーボタン２４０、赤外線ＬＥＤ２５０、センサ２６０、ジョイスティック２７０、メニューボタン２８０を有することができる。

操作用トリガーボタン２４０は、コントローラ２１０のグリップ２３５を把持したときに、中指及び人差し指でトリガーを引くような操作を行うことを想定した位置に２４０ａ、２４０ｂとして配置される。コントローラ２１０の両側面から下方にリング状に形成されるフレーム２４５には、複数の赤外線ＬＥＤ２５０が備えられ、コントローラ外部に備えられるカメラ（図示せず）により、これらの赤外線ＬＥＤの位置を検出することで、特定の空間におけるコントローラ２１０の位置、向き及び傾きを検出することができる。

また、コントローラ２１０は、コントローラ２１０の向きや傾きといった動きを検出するために、センサ２６０を内蔵することができる。センサ２６０として、図示しないが、例えば、磁気センサ、加速度センサ、もしくはジャイロセンサのいずれか、またはこれらの組み合わせを備えることができる。さらに、コントローラ２１０の上面には、ジョイスティック２７０及びメニューボタン２８０を備えることができる。ジョイスティック２７０は、基準点を中心に３６０度方向に動かすことができ、コントローラ２１０のグリップ２３５を把持したときに、親指で操作されることが想定される。メニューボタン２８０もまた同様に、親指で操作されることが想定される。さらに、コントローラ２１０は、コントローラ２１０を操作するユーザの手に振動を与えるためのバイブレータ（図示せず）を内蔵することもできる。ボタンやジョイスティックを介したユーザの入力内容やセンサ等を介したコントローラ２１０の位置、向き及び傾きといった情報を出力するため、また、ホストコンピュータからの情報を受信するために、コントローラ２１０は、入出力部及び通信部を有する。

ユーザがコントローラ２１０を把持し、各種ボタンやジョイスティックを操作することの有無、及び赤外線ＬＥＤやセンサにより検出される情報によって、システムはユーザの手の動きや姿勢を決定し、仮想空間内において擬似的にユーザの手を表示させ、動作させることができる。

＜画像生成装置３１０＞
図７は、本実施形態にかかる画像生成装置３１０の機能構成図を示す図である。画像生成装置３１０としては、ＨＭＤ１１０やコントローラ２１０から送信された、ユーザ入力情報やセンサ等により取得されたユーザの頭部動きやコントローラの動きや操作に関する情報を記憶し、所定の計算処理を行い、画像を生成するための機能を有する、ＰＣ、ゲーム機及び携帯通信端末等といった装置を使用することができる。画像生成装置３１０は、例えば、ＨＭＤ１１０やコントローラ２１０等の周辺装置との有線による接続を確立するための入出力部３２０を備えることができ、赤外線、Ｂｌｕｅｔｏｏｔｈ（登録商標）やＷｉＦｉ（登録商標）等無線による接続を確立するための通信部３３０を備えることができる。入出力部３２０及び／又は通信部３３０を介して、ＨＭＤ１１０、コントローラ２１０、及び／又は入力装置３１１から受信された、ユーザの頭部の動きやコントローラ２１０の動きや操作に関する情報は、制御部３４０において、ユーザの位置、視線、姿勢等の動作、発話、操作等を含めた入力内容として検出され、ユーザの入力内容に応じて、記憶部３５０に格納された制御プログラムを実行することで、キャラクタ４の制御を行い、画像を生成するといった処理がなされる。また、ユーザ入力検出部４１０は、キーボードやマウスなどの入力装置３１２からの入力を受け付けることもできる。制御部３４０は、ＣＰＵで構成することもできるが、画像処理に特化したＧＰＵをさらに設けることで、情報処理と画像処理を分散化し、全体の処理の効率化を図ることもできる。画像生成装置３１０はまた、他の計算処理装置と通信を行い、他の計算処理装置に情報処理や画像処理を分担させることもできる。

制御部３４０は、ＨＭＤ１１０及び／又はコントローラ２１０から受信された、ユーザの頭部の動きやユーザの発話、また、コントローラの動きや操作に関する情報を検出するユーザ入力検出部４１０と、予め記憶部３５０のキャラクタデータ格納部４５０に格納されたキャラクタ４に対して、制御プログラム格納部４６０に格納された制御プログラムを実行するキャラクタ制御部４２０と、キャラクタ制御に応じて、仮想空間１に配置された仮想的なカメラ３の制御を行うカメラ制御部４４０と、キャラクタ制御に基づいてカメラ３が仮想空間１を撮影した画像を生成する画像生成部４３０とを有する。ここでキャラクタ４の動きの制御については、ＨＭＤ１１０やコントローラ２１０を介して検出されたユーザ頭部の向きや傾き、手の動きといった情報を、人間の身体の関節の動きや制約に則って作成されたボーン構造の各部の動きに変換し、予め格納されたキャラクタデータに対して、ボーン構造を関連付けることで、ボーン構造の動きを適用させることで実現される。カメラ３の制御は、たとえば、キャラクタ４の手の動きに応じて、カメラ３についての各種設定（たとえば、カメラ３の仮想空間１内での位置、カメラ３の視線方向、焦点位置、ズームなど）を変更することにより行われる。画像生成部４３０は、キャラクタ制御部４２０により制御されたキャラクタ４の動きと、カメラ制御部４４０により制御されたカメラ３の動き（操作）とを表すアクションデータを画像データ格納部４７０に登録するとともに、仮想的にキャラクタ４の動きをカメラ３により撮影した画像を生成することができる。画像生成部４３０は、仮想空間１に配される制御パネル６の表示部６１に表示するとともに、表示装置３１１にも表示することができる。さらに、画像生成部４３０は、生成した画像をカメラ３が備える表示部（不図示）に表示することもできる。

記憶部３５０は、上述のキャラクタデータ格納部４５０に、キャラクタ４のイメージデータのほか、キャラクタ４の属性等キャラクタ４に関連する情報を格納する。また、制御プログラム格納部４６０は、仮想空間におけるキャラクタ４の動作や表情を制御し、カメラ３などのオブジェクトを制御するためのプログラムを格納する。画像データ格納部４７０は、画像生成部４３０で生成された画像を格納する。本実施形態では、画像データ格納部４７０に格納される画像は、動画像を生成するためのアクションデータとすることができる。アクションデータには、たとえば、キャラクタ４を仮想空間１に表示するための３Ｄデータや、３Ｄデータのボーン構造の状態を特定するためのポーズデータ、ボーン構造の動きを特定するモーションデータなどが含まれ得る。また、画像生成部４３０は、アクションデータに基づいて動画像を作成（レンダリング）し、レンダリングした結果の動画像データを画像データ格納部４７０に登録することもできる。

＜動画のポストエフェクト＞
制御部３４０はまた、動画にエフェクトをかけるエフェクト処理部４８０を備える。エフェクト処理部４８０は、仮想空間１内における光源等を考慮してレンダリングするシミュレーション処理ではなく、画像生成部４３０が生成した動画（２次元の動画像）のピクセルに対してエフェクトを加えるものである。エフェクトには任意の２次元動画像に対して適用可能な処理を採用することが可能である。エフェクトには、たとえば、ブルーム（Bloom）エフェクト、被写界深度（Depth of Field）エフェクト、ビネッティング（Vignetting）エフェクト、カラーグレーディング（Color Grading）エフェクト、カラーカーブ（Color Curve）エフェクト、ディフュージョンフィルター（Diffusion Filter）などが含まれ得る。エフェクトには、パラメータが設定される。パラメータは、たとえば、キーボードやマウスなどの入力装置３１２から入力することができる。

図８は、表示装置３１１に表示される画面７の一例を示す図である。画面７には、エフェクト処理部４８０が加えるエフェクトの種類を選択する選択部７２１と、エフェクトのパラメータを設定する設定部７２２とが設けられている。また、表示部７１には、画像生成部４３０が生成した動画にエフェクト処理部４８０によるエフェクトを加えた映像が表示される。図８の例では、選択部７２１では、フレアエフェクトが選択されており、フレアの大きさや色などのパラメータが設定部７２２で設定されている様子が示されている。また、フレア７３は、たとえば、ユーザがマウス等の入力装置３１２により位置を設定することもできる。表示部７１では、映像にフレア７３が重畳表示される。なお、エフェクトの選択やパラメータの入力等は、仮想空間１内で行うようにしてもよい。たとえば、制御パネル６が、エフェクトの選択部７２１やパラメータの設定部７２２を設けるようにすることができる。

このようにして、窓から光が差し込んでいるような様子をフレア７３で表現することができる。なお、同様にして、フレア以外のエフェクトをかけることもできる。

以上説明したように、本実施形態のアニメーション制作システム３００によれば、仮想空間１内においてユーザがカメラマン２としてカメラ３を操作して、動画を撮影することができる。したがって、現実世界と同様にカメラ３を操作して撮影を行うことができるので、自然なカメラワークを実現することが可能となり、アニメーション動画により豊かな表現を与えることができる。

また、本実施形態のアニメーション制作システム３００によれば、画像生成部４３０が生成する画像に対して、エフェクト処理を施した結果の映像を、表示装置３１１および／または仮想空間１内の表示部６１に表示させることができる。これにより、ユーザは、エフェクトまで施した最終結果を視認しながらアニメーション制作を行うことができる。

また、本実施形態のアニメーション制作システム３００では、仮想空間外に配される表示装置３１１および入力装置３１２を用いて、エフェクト処理部４８０が処理するエフェクトの種類の選択およびエフェクトのパラメータの入力を受け付けることができる。したがって、キャラクタ４またはカメラ３の操作を行う制作者と、エフェクトを調整する制作者とが独立して作業を行うことができる。すなわち、演技およびカメラワークに責任を持つ制作者と、最終的な映像の品質調整に責任を持つ制作者とを分けてアニメーション制作を行うことができる。

以上、本実施形態について説明したが、上記実施形態は本発明の理解を容易にするためのものであり、本発明を限定して解釈するためのものではない。本発明は、その趣旨を逸脱することなく、変更、改良され得ると共に、本発明にはその等価物も含まれる。

たとえば、本実施形態では、画像生成装置３１０は１台のコンピュータであるものとしたが、これに限らず、ＨＭＤ１１０またはコントローラ２１０に画像生成装置３１０の全部または一部の機能を備えるようにしてもよい。また、画像生成装置３１０と通信可能に接続する他のコンピュータに画像生成装置３１０の一部の機能を備えるようにすることができる。

また、本実施形態では、仮想現実（ＶＲ；Virtual Reality）による仮想空間を想定していたが、これに限らず、拡張現実（ＡＲ；Augumented Reality）空間あるいは複合現実（ＭＲ；Mixed Reality）空間であっても本実施形態のアニメーション制作システム３００はそのまま適用可能である。

また、本実施形態では、グリッド３１は縦横３分割されるものとしたが、任意の数で分割する分割線３２を表示ようにすることができる。

また、本実施形態では、カメラマン２またはキャラクタ４に憑依したユーザがグリッド３１の位置を調整するような操作を行うものとしたが、これに限らず、仮想空間１を俯瞰している状態（ユーザがカメラマン２にもキャラクタ４にも憑依していない状態）に、グリッド３１の位置を調整するようにしてもよい。この場合、ユーザがグリッド３１を把持して移動させるようにすることができる。

１ 仮想空間
２ カメラマン
３ カメラ
４ キャラクタ
６ 制御パネル
７ 画面
３１ グリッド
３２ 分割線
６１ 表示部
７１ 表示部
７２ 再生ボタン
１１０ ＨＭＤ
１２０ 表示パネル
１３０ 筐体部
１４０ センサ
１５０ 光源
２１０ コントローラ
２２０ 左手用コントローラ
２３０ 右手用コントローラ
２３５ グリップ
２４０ トリガーボタン
２５０ 赤外線ＬＥＤ
２６０ センサ
２７０ ジョイスティック
２８０ メニューボタン
３００ アニメーション制作システム
３１０ 画像生成装置
３１１ 表示装置
３１２ 入力装置
３２０ 入出力部
３３０ 通信部
３４０ 制御部
３５０ 記憶部
４１０ ユーザ入力検出部
４２０ キャラクタ制御部
４３０ 画像生成部
４４０ カメラ制御部
４５０ キャラクタデータ格納部
４６０ プログラム格納部
４７０ 画像データ格納部
４９０ 動画再生部

Claims (3)

1. 仮想空間内に配置されたキャラクタを撮影する仮想的なカメラと、
   ユーザが装着したヘッドマウントディスプレイおよびコントローラの少なくともいずれかから前記ユーザの入力を検出するユーザ入力検出部と、
   前記入力に応じて前記キャラクタの動作を制御するキャラクタ制御部と、
   前記カメラにより撮影した動画データにエフェクト処理を加えるエフェクト処理部と、
   前記エフェクト処理が加えられた前記動画データを出力する表示部と、
   を備えることを特徴とするアニメーション制作システム。
2. 請求項１に記載のアニメーション制作システムであって、
   前記エフェクト処理が加えられた前記動画データを記録する画像データ格納部をさらに備えること、
   を特徴とするアニメーション制作システム。
3. 請求項１に記載のアニメーション制作システムであって、
   前記表示部は、前記仮想空間外の現実空間に設けられ、
   前記現実空間に前記エフェクト処理に対するパラメータを設定する設定部をさらに備えること、
   を特徴とするアニメーション制作システム。