JP2019197409A - 画像処理装置、画像処理方法、およびプログラム - Google Patents

画像処理装置、画像処理方法、およびプログラム Download PDF

Info

Publication number
JP2019197409A
JP2019197409A JP2018091404A JP2018091404A JP2019197409A JP 2019197409 A JP2019197409 A JP 2019197409A JP 2018091404 A JP2018091404 A JP 2018091404A JP 2018091404 A JP2018091404 A JP 2018091404A JP 2019197409 A JP2019197409 A JP 2019197409A
Authority
JP
Japan
Prior art keywords
virtual viewpoint
speed
image
display control
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018091404A
Other languages
English (en)
Other versions
JP7152873B2 (ja
Inventor
拓 小笠原
Hiroshi Ogasawara
拓 小笠原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018091404A priority Critical patent/JP7152873B2/ja
Publication of JP2019197409A publication Critical patent/JP2019197409A/ja
Application granted granted Critical
Publication of JP7152873B2 publication Critical patent/JP7152873B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】仮想視点の変化により仮想視点画像が見づらくなる虞を低減する。【解決手段】画像処理装置は、設定された仮想視点に対応する仮想視点画像を生成し、該仮想視点画像に含まれる1つ以上の表示制御対象のオブジェクトを指定する指定し、該設定された仮想視点の速度に応じて、該仮想視点画像における該指定されたオブジェクトの表示態様を制御する。【選択図】 図4

Description

本発明は、仮想視点画像の表示制御に関する。
複数カメラを用いて異なる位置から同期撮影を行い、得られた多視点の画像を使用して、仮想視点画像と呼ばれる画像を生成する技術が注目されている。この技術は、撮影に使用するカメラとは異なる視点である仮想視点から画像を見ることを可能にする。このような仮想視点画像を生成する技術は、例えば、サッカーやラグビーなどのスポーツのハイライトシーンを様々な角度から閲覧することが出来るため、通常の画像と比較して、ユーザに高臨場感を与えることが出来る。
近年では、仮想視点画像を応用した技術が開発されている。特許文献1には、仮想視点画像に仮想的な広告を合成する技術について開示されている。具体的には、仮想視点が所定の位置と向きの場合に、所定の仮想広告を表示することが記載されている。
特許第5593356号公報
しかしながら、特許文献1に開示されている技術では、広告の表示制御において仮想視点の変化の速度が考慮されていない。そのため、仮想視点が速く動くシーンにおいて、仮想視点画像中の広告のブレによりユーザ(視聴者)が内容を認識しづらくなり、煩わしい印象をユーザに与える場合や、広告としての表示効果を失ってしまう場合がある。また、特許文献1に開示されている仮想広告に限らず、仮想視点画像に含まれるその他のオブジェクトに関しても、仮想視点が速く動く時に、オブジェクトによっては煩わしい印象をユーザに与える、または、元の表示効果を失ってしまう可能性がある。
本発明は上記課題に鑑みてなされたものであり、仮想視点の変化により仮想視点画像が見づらくなる虞を低減することを目的とする。
上記目的を達成するための一手段として、本発明の画像処理装置は以下の構成を有する。すなわち、設定された仮想視点に対応する仮想視点画像を生成する生成手段と、前記仮想視点画像に含まれる1つ以上の表示制御対象のオブジェクトを指定する指定手段と、前記設定された仮想視点の速度に応じて、前記仮想視点画像における前記指定されたオブジェクトの表示態様を制御する表示制御手段と、を有する。
本発明によれば、仮想視点の変化により仮想視点画像が見づらくなる虞を低減することが可能となる。
仮想視点画像生成システムを説明するための図。 画像処理装置104の構成を説明するための図。 仮想視点の動きと速度を説明するための図。 実施形態1における表示制御のフローチャート。 実施形態1における仮想視点画像の一例を説明するための図。 オブジェクトの見かけ上の動きと速度を説明するための図。 実施形態2における表示制御のフローチャート。 実施形態2における仮想視点画像の一例を説明するための図。 実施形態3における表示制御のフローチャート。 実施形態3における仮想視点画像の一例を説明するための図。
以下、本発明の実施形態について図面を参照し説明する。なお、以下で説明する実施形態は、本発明を具体的に実施した場合の一例を示すものであり、これに限るものではない。
[実施形態1]
実施形態1では、仮想視点の速度に応じたオブジェクトの表示制御の一例として、オブジェクトの通常表示と例外表示の切り替えを説明する。以下の実施形態における仮想視点画像は、自由視点映像とも呼ばれるものであるが、ユーザが自由に(任意に)指定した視点に対応する画像に限定されず、例えば複数の候補からユーザが選択した視点に対応する画像なども仮想視点画像に含まれる。
(仮想視点画像生成システムの構成と配置)
図1に、本実施形態における仮想視点画像生成システムを説明するための図を示す。図1(a)は、仮想視点画像生成システムの構成図である。仮想視点画像生成システムは、N個のセンサシステム101a、101b、101c、…101nを含む。特に説明がない場合は、N個のセンサシステム101a、101b、101c、…101nは区別せず、センサシステム101と記載する。センサシステム101は、それぞれカメラとマイク(不図示)を有する。センサシステム101の各カメラは、同期し画像を撮影することができる。また、センサシステム101の各マイクは、同期し音声を集音することができる。画像記録装置102は、センサシステム101から画像及び音声を取得し、データベース103に書き込む。仮想視点操作UI(ユーザインタフェース)105は、ジョイスティック、ジョグダイヤル、タッチパネル等であり、仮想視点の移動や回転などの操作が可能な入力装置である。
画像処理装置104は、仮想視点操作UI105から仮想視点の指定を受け付け、その仮想視点に応じて、データベース103から必要な画像及び音声データを読み出す。画像処理装置104は、読み出したデータをレンダリング処理し、仮想視点画像を生成する。画像処理装置104は、仮想視点の速度に応じて、あらかじめ表示制御対象として設定したオブジェクトの表示態様を切り換えて、仮想視点画像を生成する。この処理の詳細は図4を用いて後述する。画像処理装置104は、生成した仮想視点画像を、放送局やユーザ端末(スマートフォンなど)へ送る。なお、本実施形態では、説明の簡略化のため、部分的に音声についての記載を省略しているが、基本的に画像と音声は共に処理されるものとする。
図1(b)は、仮想視点画像生成システムの設置例を示す図である。本実施形態では、スタジアムのフィールドを囲むように、N台のセンサシステム101が設置される。仮想視点110(仮想カメラとも呼ぶ)は、センサシステム101に含まれるどのカメラとも異なる視点でスタジアム内を閲覧できる。なお、仮想視点画像生成システムの設置場所は、スタジアムに限らず、スタジオ等でも可能である。
(画像処理装置の構成)
次に、図2を参照して、画像処理装置104の構成を説明する。図2(a)は、画像処理装置104の機能構成図である。パラメータ取得部201は、仮想視点操作UI105から、仮想視点パラメータを取得する。仮想視点パラメータは、仮想視点を指定するためのパラメータ(値)であり、仮想視点(仮想カメラ)の位置や向き(姿勢)に関するパラメータが含まれる。またこれに限らず、仮想視点パラメータには仮想視点の焦点距離に関するパラメータなどが含まれてもよい。パラメータ取得部201は、仮想視点パラメータを、仮想視点画像のフレーム毎に取得する。三次元モデル生成部202は、データベース103より取得した撮影画像を基に、三次元モデルを生成する。三次元モデルは、例えばVisual Hullなどの形状推定方法により生成され、点群で構成されるものとする。ただしモデルの生成方法はこれに限定されず、三次元モデルはポリゴンなどで構成されてもよい。
画像生成部203は、三次元モデル生成部202により生成された三次元モデルを利用して、仮想視点の位置と向きに基づき仮想視点画像を生成する。具体的には、画像生成部203は、三次元モデルを構成する点毎に撮影画像を選択し、撮影画像から適切な画素値を取得して色付け処理を行う。そして、画像生成部203は、色付け処理を施した点群を三次元空間に配置し、仮想視点へ投影することにより仮想視点画像を生成する。速度取得部204は、パラメータ取得部201により取得された仮想視点パラメータを用いて、仮想視点の速度(仮想視点速度と呼ぶ)を算出する。仮想視点速度については、図3を用いて後述する。
オブジェクト指定部205は、仮想視点画像に含まれる1つ以上のオブジェクトの中から、ユーザによる操作または画像処理等を介して、表示制御対象のオブジェクトを指定(選択)する。ここで、オブジェクト指定部205は、例えばユーザが選択したオブジェクトを表示制御対象のオブジェクトに指定してもよいし、逆に、複数のオブジェクトのうちユーザが選択したオブジェクト以外のオブジェクトを表示制御対象のオブジェクトに指定してもよい。本実施形態において、オブジェクトとは、仮想視点画像の前景や背景に含まれる対象物である、例えば、フィールド上の人物、フィールド周辺の構造物、スタジアム内の広告等とする。また、仮想広告のような、実際のフィールド上には存在しないが、仮想視点画像に表示される仮想オブジェクトも、表示制御対象のオブジェクトに含まれてもよい。オブジェクト指定部205は、選択したオブジェクトに関する情報(オブジェクト情報と呼ぶ)を、表示制御部206に渡す。本実施形態において、オブジェクト情報とは、例えばオブジェクトの座標である。
表示制御部206は、仮想視点速度に基づいて、仮想視点画像内のオブジェクトの表示を制御する。オブジェクト表示制御の処理結果は、画像生成部203で生成される仮想視点画像に反映される。オブジェクト表示制御については、図4と図5を用いて後述する。外部画像データ保持部207は、データベース103以外から取得した外部データを保持する。外部データとは、例えば広告の内容を示すデータである。外部画像データ保持部207は、外部データをオブジェクト情報に含め、オブジェクト指定部205を介して画像生成部203に渡すことができ、結果として、外部データは仮想視点画像に追加され得る。画像出力部210は、画像生成部203により生成された仮想視点画像を、放送局やユーザ端末に出力する。
次に、画像処理装置104のハードウェア構成について説明する。図2(a)は、画像処理装置104のハードウェア構成図である。CPU(Central Processing Unit)111は、RAM(Random Access Memory)112やROM(Read Only Memory)113に格納されているコンピュータプログラムやデータを用いて処理を行う。また。CPU111は、画像処理装置104の全体の動作制御と後述する各種の処理を実行する。
RAM112は、ROM113からロードされたコンピュータプログラムやデータを一時的に記憶するためのワークエリアを有する。また、RAM112は、CPU111が各種の処理を実行する際に用いるワークエリアを提供する。ROM113は、コンピュータプログラムやデータを保持する。
入力部114は、例えば、仮想視点操作UI105からの入力情報を受け付ける。外部インタフェース115は、例えば、LAN(Local Area Network)を通じて、データベース103や仮想視点操作UI105との間で情報の送受信を行う。例えば、外部インタフェース115は、仮想視点画像をSDIケーブル経由で放送局に出力し、および/または、インターネット経由でユーザ端末に出力する。出力部116は、例えば、ディスプレイやスピーカ等から構成され、オペレータ操作に必要な情報をとして、生成した仮想視点画像やUIなどを出力する。
(仮想視点の動きの算出手法)
図3を用いて仮想視点の動き(変化)について説明する。概要として、仮想視点の動きは、仮想視点の移動と回転の組み合わせとなる。また、単位時間当たりの仮想視点の変化量が仮想視点速度となり、速度取得部204により算出される。仮想視点速度は、図4を用いて後述するオブジェクト表示制御で使用される。
仮想視点の移動と回転を表現するための座標系を図3(a)に示す。本実施形態では、図3(a)に示す座標系がスタジアムに設定される。例えば、原点(0、0、0)がフィールドの中心へ、Z軸がフィールドに対して鉛直方向へ、X軸がフィールドの長辺方向へ、Y軸がフィールドの短辺方向に設定される。なお、各軸の方向については、これに限定されない。
図3(b)に、仮想視点操作UI105での操作が行われていない場合の、仮想視点の位置と向きについて説明する。図3(b)に示される四角錐において、頂点が仮想視点の位置301を表し、頂点を起点とする視線方向のベクトルが仮想視点の向き302を表す。仮想視点の向き302は、前方クリップ面303と後方クリップ面304の中心点を通るものとする。また、画像生成部203が仮想視点画像に投影する範囲(すなわち仮想視点画像の生成対象の範囲)である、仮想視点の視錐台は、前方クリップ面303と後方クリップ面に挟まれた空間305である。
次に、仮想視点操作UI105での操作が行われた場合の、仮想視点の移動と回転について説明する。仮想視点の位置301は、仮想視点操作UI105での操作に従い、三次元座標で表現された空間内を移動および/または回転する。単位時間当たりの仮想視点の移動に係る変化量は移動速度となる。また、仮想視点の回転は、ヨー、ピッチ、ロールの3つの指定可能である。ヨー(Yaw)は、Z軸回りの回転、ピッチ(Pitch)はX軸回りの回転、ロール(Roll)はY軸回りの回転とする。仮想視点の回転に係る変化量は角速度となる。
次に、仮想視点の動きの例を、図3(d)を参照して説明する。図3(d)は、仮想視点の動きを説明するための図である。図3(d)では、仮想視点がX軸のプラス方向に移動し、かつ、Yaw軸をマイナス方向に回転した動きの例が示されている。なお、図の例は一例に過ぎず、仮想視点の動きは、これらの方向に限定されないことは言うまでもない。仮想視点の動きを説明するために、仮想視点の視錐台内の一点310を使用する。図3(c)に、視錐台内の一点310を説明するための図を示す。図3(c)は、図3(b)の仮想視点を上(Z軸)から見た図である。視錐台内の一点310は、図3(c)に示すように、仮想視点の向きを示すベクトル上の、前方クリップ面303と後方クリップ面304の間の中点とする。図3(d)に示すように、点310の動き311(仮想視点の位置301からの視線方向に離れた一点の動き)が、仮想視点の動きである移動と回転との組み合わせを反映したものとなる。
次に、単位時間当たりの仮想視点の変化量である仮想視点速度について説明する。なお、本実施形態では、仮想視点速度(仮想視点の速度)と、前述の移動速度は異なるものとして定義する。仮想視点速度は、仮想視点の視錐台内の一点310の移動量に応じた速度とする。つまり、仮想視点速度は、大きさと方向を持つ速度ベクトルで表される。具体的には、視錐台内の一点310の1フレーム間における変化量を、フレーム間隔の時間で除算し得ることができる。例えば、図3(d)は、60fpsの画像を想定し、1フレームの間に仮想視点が移動したものを示すとすると、仮想視点速度は(点310の座標の差分)/(1/60)となる。仮想視点速度は、フレーム毎に計算され、図4を用いて後述するオブジェクト表示制御で使用される。
なお、仮想視点速度の定義は、仮想視点の移動に係る変化量と回転に係る変化量とに応じたパラメータであれば、これに限るものでない。また、仮想視点の移動速度や角速度だけでなく、加速度などを含めてもよい。
(実施形態1におけるオブジェクトの表示制御)
図4を参照して、仮想視点速度に応じたオブジェクトの表示制御について説明する。図4は、本実施形態における表示制御のフローチャートである。
ステップS401では、表示制御部206が、表示制御対象のオブジェクトのオブジェクト情報を取得する。オブジェクト情報は、前述の様にオブジェクトの座標や領域等である。表示制御対象のオブジェクトは、例えば、オブジェクト指定部205により、フィールド周辺の構造物が表示制御対象のオブジェクトとして事前に指定され、当該表示制御対象のオブジェクトのオブジェクト情報が表示制御部206に渡される。なお、表示制御対象のオブジェクトは、フィールド周辺の構造物に限らず、仮想視点画像に含まれる指定されたオブジェクトであればよい。
ステップS402では、表示制御部206が、仮想視点速度を所定の閾値と比較する。仮想視点速度の算出方法は図3で説明した通りである。判定結果が真の場合(仮想視点速度が閾値未満)は、処理はステップS403へ、偽の場合(仮想視点速度が閾値以上)は、処理はステップS404へ進む。この閾値は、例えば画像処理装置104に対するユーザ操作に基づいて設定されてもよいし、仮想視点画像の生成対象となるイベントの内容や、表示制御対象のオブジェクトに応じて自動で設定されてもよい。ステップS403では、表示制御部206が、表示制御対象のオブジェクトを通常通りに表示する通常表示に設定し、画像生成部203が当該設定を反映した仮想視点画像を生成し、表示制御部206が生成された仮想視点画像を表示する。ステップS404では、表示制御部206が、表示制御対象のオブジェクトを通常通りに表示しない例外表示に設定し、画像生成部203が当該設定を反映した仮想視点画像を生成し、表示制御部206が生成された仮想視点画像を表示する。例外表示とは、オブジェクトの透過度を上げたり、グレーアウトしたり、解像度を下げたり、ぼかしたりすることによる、通常表示と異なる表示形態での表示を意味する。ステップS404では、例えば、例外表示として、表示制御対象のオブジェクトの透過度を100%に設定する。なお、仮想視点速度に応じて異なる例外表示が行われてもよい。例えば、仮想視点速度が速いほど表示制御対象のオブジェクトの透過率を上げたり、ボケ量を大きくしたりしてもよい。
なお、ステップS402の仮想視点速度と閾値の比較に関して、仮想視点速度は速度ベクトルで表されるため、厳密には仮想視点速度の大きさと閾値の比較となる。また、仮想視点速度の方向を限定して速度を比較する(仮想視点の変化量の1以上の所定の方向における大きさを比較する)構成も可能である。例えば、仮想視点速度のX方向とY方向の大きさのみを閾値との比較対象とし、Z方向の大きさを考慮しないことも可能である。また、ステップS402の仮想視点速度と閾値の比較において、閾値を0に設定した場合は、仮想視点速度に関わらず常に判定が偽となる。つまり、表示制御対象のオブジェクトを常にステップS404で例外表示に設定することもできる。
また、上記説明では、ステップS402の判定に応じて表示制御部206が表示制御対象のオブジェクトの通常表示または例外表示を設定し、画像生成部203が当該設定を反映した仮想視点画像を生成し、表示制御部206が生成された仮想視点画像を表示した。これに替えて、ステップS402の判定に応じて表示制御部206が表示制御対象のオブジェクトの通常表示または例外表示を設定し、画像生成部203を介さずに、表示制御部206が当該設定を反映させた仮想視点画像を表示するようにしてもよい。
続いて、本実施形態における仮想視点画像の表示形態の一例について説明する。図5(a)〜(c)は、図4の処理により表示される仮想視点画像の一例を説明するための図である。図5(a)〜(c)では、いずれも、左図にZ軸の負方向(上空からフィールドへの方向)から見た仮想視点の動きと、右図に左図に示す仮想視点の動きに応じて生成・表示される仮想視点画像を表している。なお、図5(c)の仮想視点の動きに関しては、図5(b)と同じため省略している。
図5(a)の右図に示すように、仮想視点画像に含まれるオブジェクトは、観客席501、フィールド周辺の構造物502、フィールド503や、ボール511、人物521〜528、である。ここで、オブジェクト指定部205が、これらのオブジェクトの中から、表示制御対象のオブジェクトとして、フィールド周辺の構造物502を事前に指定しているものとする。
図5(a)は、仮想視点の動きが小さく、ほぼ動いていない例を示している。この時、表示制御部206は、ステップS402で仮想視点速度が閾値未満であると判定し、ステップS403に進み、表示制御対象のオブジェクトである構造物502を通常表示に設定する。画像生成部203は、当該設定を反映した仮想視点画像を生成する。画像生成部203により生成された仮想視点画像が図5(a)の右図となる。この図では、構造物502を含め、全オブジェクトが通常表示されている。
続いて、図5(b)〜(c)について説明する。図5(b)〜(c)は、仮想視点の動きは速く、仮想視点速度は閾値以上である例を示している。図5(b)と図5(c)の違いは、図4で説明した表示制御を実行するか否かに基づく。すなわち、図5(b)では、表示制御対象のオブジェクトが指定されておらず、図5(c)では、構造物502が表示制御対象のオブジェクトとして事前に指定され、図4の表示制御が実行されている。
図5(b)では、表示制御対象のオブジェクトが指定されていないため、図4の表示制御は実行されない。結果として、図5(b)の右図に示すように、全オブジェクトが通常表示される仮想視点画像が生成される。この図では、仮想視点速度が速いため、フィールド周辺の構造物502はブレが目立ち、内容を理解しづらく煩わしい印象をユーザに与えてしまう問題が発生する。
図5(c)では、構造物502が表示制御対象のオブジェクトとして事前に指定され、図4の表示制御が実行される。具体的には、表示制御部206は、ステップS402で仮想視点速度が閾値以上であると判定し、ステップS404に進み、構造物502を例外表示に設定する。結果として、図5(c)の右図に示すような仮想視点画像が生成される。この図では、構造物502のみが透過度100%で非表示となり、それ以外の全オブジェクトは通常表示されている。図5(b)ではフィールド周辺の構造物502は、内容を理解しづらく煩わしく感じさせるが、図5(c)では、構造物502を非表示にすることで、ユーザ(視聴者)はフィールド内のプレイに集中し視聴することが可能となる。
このように、本実施形態によれば、仮想視点速度に応じたオブジェクトの表示制御を行うことができる。仮想視点画像は、実カメラで困難なダイナミックなカメラパスを仮想視点により実現できる点が、大きな長所となる。そのため、仮想視点の速い動きによって、ユーザに煩わしい印象を与えてしまうと、その長所を発揮しきれず仮想視点画像の価値が低下することになる。一方、本実施形態によれば、例えば、仮想視点が速く動くダイナミックなシーンにおいて、従来は内容を理解しづらく煩わしく感じていたオブジェクトを例外表示することで、注目したいオブジェクトに集中し視聴できる仮想視点画像を提供することができる。
[実施形態2]
実施形態2では、仮想視点の速度に加え、オブジェクトの速度に応じた表示制御について説明する。本実施形態において、仮想画像視点生成システムの構成は図1、画像処理装置104の構成は図2と同様であるため、説明を省略する。また、仮想視点の速度(仮想視点速度)は、図3を参照して説明したように算出される。
(オブジェクトの速度の算出手法)
図6を参照して、オブジェクトの動きと速度、および、オブジェクトの見かけ上の動きと速度について説明する。図6は、オブジェクトの見かけ上の動きと速度を説明する図である。概要としては、本実施形態において、オブジェクトの見かけ上の動きは、仮想視点の動きと、オブジェクトの動きの組み合わせとなる。そして、オブジェクトの見かけ上の動きの変化量が、オブジェクトの見かけ上の速度(オブジェクトの擬似速度と呼ぶ)となる。 言い換えると、オブェクトの擬似速度は、仮想視点の速度(仮想視点速度)と、オブジェクトの速度(オブジェクト速度)を合わせたものと表すこともできる。このオブジェクトの擬似速度は、後述する図7に示すオブジェクトの表示制御で使用される。
図6(a)は、三次元空間上を人物二人が移動中の例を示す。人物二人をそれぞれオブジェクト601、602とする。これらのオブジェクトは、図に示す様に、フレーム間で、それぞれ右(X軸)方向に移動中である。二つのオブジェクトの動きを、それぞれ動き611、612とする。各オブジェクト601、602を映すため、仮想視点も右(X軸)方向に移動(仮想視点の動き311)する。図6(a)において、オブジェクト(人物)と仮想視点とも、現フレームは黒色(濃色、右)で、前フレームは灰色(淡色、左)で記載されている。
単位時間当たりの各オブジェクト601、602の動き611、612の変化量が、各オブジェクト速度となる。オブジェクト速度は、大きさと方向を持つ速度ベクトルで表される。具体的には、オブジェクト速度は、各オブジェクト601、602の座標の1フレーム間の変化量を、フレーム間隔の時間で除算し得ることができる。例えば、図6(a)は、60fpsの画像を想定し1フレームの間にオブジェクト601が移動したものとすると、オブジェクト速度は(動き612の変化量)/(1/60)となる。オブジェクト速度はフレーム毎に計算される。なお、各オブジェクト601、602の座標は、三次元モデル生成部202で生成した各オブジェクトの点群の中心点などから算出される。もしくは、各オブジェクト601、602(すなわち人物)にセンサーを付与し、センサー情報に基づいてオブジェクトの座標値が算出される構成などでもよい。
なお、同図における仮想視点やオブジェクトの移動方向は一例である。実施形態1に示した様に、仮想視点の動きは、一方向に限定されないことは言うまでもなく、オブジェクトに関しても同様である。
次に、仮想視点の動きと各オブジェクトの動きを合わせた仮想視点画像について説明する。図6(b)は、図6(a)の仮想視点を使用して作成中の仮想視点画像である。具体的には、画像生成部203は、各オブジェクト601、602の三次元モデルと仮想視点の位置及び向きに基づき、投影中(色付け処理前)の仮想視点画像を生成する。図6(b)の上図は前フレーム、下図は現フレームのものであり、オブジェクト601はオブジェクト602より手前にあり、大きく投影されている。
続いて、図6(a)と(b)を合わせ、オブジェクトの見かけ上の動きについて説明する。オブジェクトの見かけ上の動きは、仮想視点の動きと、オブジェクトの動きと、仮想視点とオブジェクトの位置関係から決まるものであり、仮想視点画像内におけるオブジェクトの動きと言い換えることもできる。オブジェクト601の見かけ上の動きは、仮想視点の動き311と、オブジェクトの動き611とを合わせた動き621となる。同様に、オブジェクト602の見かけ上の動きは、仮想視点の動き311と、オブジェクトの動き612とを合わせた動き622となる。オブジェクト601、602の動きは、三次元空間上で同じ移動量とする。つまり、オブジェクト601、602は同速度で移動中である。しかし、オブジェクト601、602の見かけ上の動きは、仮想視点に向かって手前にあるオブジェクト602が大きくなる(動き621>動き622)。
最後に、オブジェクトの見かけ上の速度(擬似速度)について説明する。オブジェクトの擬似速度は、単位時間当たりの上記のオブジェクトの見かけ上の動きの変化量で表す。つまり、オブジェクトの疑似速度は、大きさと方向を持つ速度ベクトルで表される。具体的には、オブジェクトの疑似速度は、オブジェクトのフレーム間の見かけ上の移動量を、フレーム間隔の時間で除算し得ることができる。例えば、図6(b)は、60fpsの画像を想定し1フレームの間に仮想視点及びオブジェクトが移動したものとすると、オブジェクト601の擬似速度は(621の変化量)/(1/60)である。オブジェクトの擬似速度は、フレーム毎に計算され、後述する図7のオブジェクト表示制御で使用される。
なお、オブジェクトの擬似速度の定義は、仮想視点の速度とオブジェクトの速度とに基づいて決まるパラメータ、あるいは、仮想視点の動きとオブジェクトの動き双方の大きさに関わるパラメータであればよく、上記に限定されない。また、オブジェクトの加速度などを含めてもよい。
(実施形態2におけるオブジェクトの表示制御)
図7を参照して、仮想視点速度とオブジェクト速度に応じたオブジェクトの表示制御を説明する。図7は、本実施形態における表示制御のフローチャートである。
ステップS701では、表示制御部206が、仮想視点速度を取得する。仮想視点速度の算出方法は図3を用いて説明した通りである。ステップS702では、表示制御部206が、表示制御対象のオブジェクトのオブジェクト情報を取得し、ステップS701で取得した仮想視点速度とあわせて、表示制御対象のオブジェクトの擬似速度を算出する。オブジェクト情報は、前述の様にオブジェクトの座標や領域等である。表示制御対象のオブジェクトは、例えば、オブジェクト指定部205により、フィールド上の全ての人物が事前に指定され、当該表示制御対象のオブジェクトのオブジェクト情報が表示制御部206に渡される。なお、表示制御対象のオブジェクトは、人物に限らない。仮想視点画像に含まれるオブジェクトであれば何でも良い。オブジェクトの擬似速度の算出方法は、図6で説明した通りである。
ステップS703では、表示制御部206が、表示制御対象のオブジェクトの擬似速度を所定の閾値と比較する。判定結果が真の場合(擬似速度が閾値未満)は、処理はステップS704へ、偽の場合(擬似速度が閾値以上)は、処理はステップS705へ進む。ステップS704では、表示制御部206が、表示制御対象のオブジェクトを通常表示に設定し、画像生成部203が当該設定を反映した仮想視点画像を生成し、表示制御部206が生成された仮想視点画像を表示する。ステップS705では、表示制御部206が、表示制御対象のオブジェクトを例外表示に設定し、画像生成部203が当該設定を反映した仮想視点画像を生成し、表示制御部206が生成された仮想視点画像を表示する。例外表示とは、実施形態1で説明したように、オブジェクトの透過度を上げることや、グレーアウトすることや、解像度を下げることや、ぼかし効果を加えることによる、通常表示と異なる表示を意味する。また、実施形態1で説明したのと同様に、オブジェクトの疑似速度(仮想視点画像におけるオブジェクトの速度)に応じて程度の異なる例外処理を行ってもよい。ステップS705では、例えば、例外表示としてオブジェクトの透過度を100%に設定する。
なお、ステップS703のオブジェクト疑似速度と閾値の比較に関して、オブジェクト疑似速度は速度ベクトルで表されるため、厳密にはオブジェクト疑似速度の大きさと閾値の比較となる。また、オブジェクト疑似速度の方向を限定して比較する(仮想視点の移動の変化量とオブジェクトの移動の変化量それぞれの1以上の所定の方向における大きさを合せたものを比較する)構成も可能である。例えば、オブジェクト疑似速度のX方向とY方向の大きさのみを比較対象とし、Z方向の大きさを考慮しないことも可能である。
また、上記説明では、ステップS702の判定に応じて表示制御部206が表示制御対象のオブジェクトの通常表示または例外表示を設定し、画像生成部203が当該設定を反映した仮想視点画像を生成し、表示制御部206が生成された仮想視点画像を表示した。これに替えて、ステップS702の判定に応じて表示制御部206が表示制御対象のオブジェクトの通常表示または例外表示を設定し、画像生成部203を介さずに、表示制御部206が当該設定を反映させた仮想視点画像を表示するようにしてもよい。
続いて、本実施形態における仮想視点画像の表示形態の一例について説明する。図8(a)〜(c)は、図7の処理により表示される仮想視点画像の一例を説明するための図である。図8(a)は、フレーム間における仮想視点の動きを示す。前フレームは灰色(淡色、左)で、現フレームは黒色(濃色、右)で記載されている。図8(a)では、仮想視点がX軸のプラス方向に移動し、かつ、Yaw軸をプラス方向に回転した動きの例が示されている。図8(b)〜(c)は共に、左図は、前フレームにおける仮想視点画像であり、右図は現フレームにおける仮想視点画像である。
図8(b)〜(c)に示すように、仮想視点画像に含まれるオブジェクトは、観客席801、フィールド802や、ボール811、人物821〜826、である。例えば、フィールド内にいる人物821〜823はプレーヤー、フィールド外にいる人物824〜826は、審判やカメラマンである。ここで、オブジェクト指定部205が、これらのオブジェクトの中から、表示制御対象のオブジェクトとして、人物821〜826を事前に指定しているものとする。
図8(a)に示すように、仮想視点の動き311は、フィールド内の人物821〜823に注目し、人物821〜823を中心に旋回する。このような旋回により、ダイナミックなカメラパスの仮想視点画像が生成される。フィールド内の人物821〜823は、旋回の中心に据えられるため、見かけ上ほぼ動かない。一方で、フィールド外のオブジェクト(人物824〜826)は、旋回の中心(人物821〜823)から離れているため、見かけ上の速度が非常に速くなる。そのため、図8(b)に示すように、ブレによる煩わしい印象をユーザに与える問題が発生する可能性がある。
図8(b)と図8(c)の違いは、図7で説明した表示制御を実行するか否かに基づく。すなわち、図8(b)では、表示制御対象のオブジェクトが指定されておらず、図8(c)では、人物821〜826が表示制御対象のオブジェクトとして事前に指定され、図7の表示制御が実行されている。
図8(b)では、表示制御対象のオブジェクトが指定されていないため、図4の表示制御は実行されない。結果として、図8(b)の左図と右図に示すように、全オブジェクトが通常表示される仮想視点画像が生成される。この図では、オブェクトの擬似速度が速いため、フィールド外のオブジェクト(人物824〜826)はブレが目立ち、内容を理解しづらく煩わしい印象をユーザに与えてしまう問題が発生する。
図8(c)では、人物821〜826が表示制御対象のオブジェクトとして事前に指定され、図7の表示制御が実行される。具体的には、表示制御部206は、ステップS702で、表示制御対象のオブジェクトの擬似速度を閾値と比較する。人物821〜823の擬似速度は閾値未満のため、処理は、ステップS704に進み、通常表示に設定される。一方、人物824〜826の擬似速度は閾値以上のため、処理はステップS705に進み、例外表示に設定される。当該例外表示を反映して生成された仮想視点画像を図8(c)に示す。図8(c)では、人物824〜826のみが透過度100%で非表示となり、それ以外の全オブジェクトが通常表示されている。
図8(b)と図8(c)とを比較すると、図8(b)では、手前にあるフィールド外のオブジェクト(人物824〜826)のブレが目立ち、注目したいフィールド内のオブジェクト(人物821〜823)に集中して見ることができない煩わしい印象をユーザに与えてしまう。一方、図8(c)では、フィールド外のオブジェクト(人物824〜826)は非表示となり、注目したいオブジェクト(人物821〜823)に集中してみることができる。
このように、本実施形態に依れば、仮想視点の速度とオブジェクトの速度に応じたオブジェクトの表示制御を行うことができる。例えば、仮想視点が速く動くダイナミックなシーンにおいて、従来はブレにより煩わしく感じていたオブジェクトを非表示にすることで、注目したいオブジェクトに集中し視聴できる仮想視点画像を提供することができる。
[実施形態3]
実施形態3では、仮想視点速度とオブジェクト速度に応じた、オブジェクト上書き制御について説明する。オブジェクト上書き制御とは、上記に説明した実施形態1と実施形態2における通常表示と例外表示の切り替えと異なる、オブジェクト表示制御の一実施形態である。概要としては、仮想視点速度を考慮して、三次元空間上のオブジェクト速度を変更し、その速度で元のオブジェクトを上書きする処理である。この処理が実行された場合、ユーザは、仮想視点画像で元のオブジェクトは見えず、速度変更されたオブジェクトが見えることになる。
本実施形態において、仮想画像視点生成システムの構成は図1、画像処理装置104の構成は図2と同様であるため、説明を省略する。また、仮想視点の速度(仮想視点速度)は、図3を参照して説明したように算出され、オブジェクトの擬似速度は、図6を参照して説明したように算出される。
(オブジェクトの上書き制御)
図9を参照して、仮想視点速度とオブジェクト速度に応じた、オブジェクトの上書き制御を説明する。図9は、本実施形態における表示制御(オブジェクトの上書き制御)のフローチャートである。
ステップS901では、表示制御部206が、表示制御対象のオブジェクトのオブジェクト情報を取得する。オブジェクト情報は、前述の様にオブジェクトの座標や領域等である。表示制御対象のオブジェクトは、例えば、オブジェクト指定部205により、広告などが事前に指定され、当該表示制御対象のオブジェクトのオブジェクト情報が表示制御部206に渡される。なお、所定のオブジェクト速度や、外部画像データ保持部207が外部から取得した画像データ(表示制御対象のオブジェクトの内容を示す画像データ等)も、オブジェクト指定部205にてオブジェクト情報に含めることができる。なお、表示制御対象のオブジェクトの指定は事前設定でもよいし、ユーザ端末にて仮想視点画像を表示時にユーザの選択操作を受け付ける構成にしてもよい。例えば、タッチパネルを使用して領域を選択し、その領域をオブジェクトとして扱い、表示制御対象(上書きの対象)にすることも可能である。仮想視点画像中のオブジェクトを指定するものであれば、方法は問わない。
ステップS902では、表示制御部206が、仮想視点速度を所定の閾値と比較する。仮想視点速度の算出方法は図3で説明した通りである。判定結果が真の場合(仮想視点速度が閾値未満)は、処理はステップS903へ、偽の場合(仮想視点速度が閾値以上)は、処理はステップS904へ進む。ステップS903では、表示制御部206が、表示制御対象のオブジェクトを通常表示に設定し、画像生成部203が当該設定を反映した仮想視点画像を生成し、表示制御部206が生成された仮想視点画像を表示する。
ステップS904では、表示制御部206が、オブジェクトの速度を変更し、表示制御対象のオブジェクトを上書きに設定する。具体的には、表示制御部206が、ステップS901で取得した元のオブジェクト速度と、ステップS902で使用した仮想視点速度とに基づいて、新たなオブジェクトの速度を算出し、オブジェクトの速度を当該新たなオブジェクトの速度に変更する。例えば、表示制御部206は、仮想視点から見た見かけ上のオブジェクトの速度が遅くなるように、元のオブジェクト速度から、仮想視点速度の影響をあらかじめ除いたものを、新たなオブジェクト速度として算出する。そして、表示制御部206は、オブジェクト情報で指定される領域に、表示制御対象のオブジェクトの内容を示す画像データを、変更したオブジェクト速度で上書き設定する。続いて、画像生成部203が当該設定を反映した仮想視点画像を生成し、表示制御部206が生成された仮想視点画像を表示する。このような上書き制御を実行することで、仮想視点が速く動く場合においも、仮想視点の動きに影響を受けていないかのように、表示制御対象オブジェクトを適切な速度でユーザに表示することが可能となる。
なお、ステップS902の仮想視点速度と閾値の比較に関して、仮想視点速度は速度ベクトルで表されるため、厳密には仮想視点速度の大きさと閾値の比較となる。別途、仮想視点速度の方向を限定して速度を比較する(仮想視点の移動の変化量の1以上の所定の方向における大きさを比較する)構成も可能である。例えば、仮想視点速度のX方向とY方向の大きさのみを比較対象とし、Z方向の大きさを考慮しないことも可能である。また、オブジェクト速度の方向を考慮して、比較する仮想視点の方向を限定してもよい。例えば、オブジェクト速度のベクトル成分がX方向のみの場合は、仮想視点速度のX方向の大きさのみを閾値と比較する構成としてよい。
また、上記説明では、ステップS902の判定に応じて表示制御部206が表示制御対象のオブジェクトの通常表示または例外表示を設定し、画像生成部203が当該設定を反映した仮想視点画像を生成し、表示制御部206が生成された仮想視点画像を表示した。これに替えて、ステップS902の判定に応じて表示制御部206が表示制御対象のオブジェクトの通常表示または例外表示を設定し、画像生成部203を介さずに、表示制御部206が当該設定を反映させた仮想視点画像を表示するようにしてもよい。
続いて、本実施形態における仮想視点画像の表示形態の一例について説明する。図10(a)〜(c)は、図9の処理により表示される仮想視点画像の一例を説明するための図である。図10(a)〜(c)では、いずれも、左図にZ軸の負方向(上空からフィールドへの方向)から見た仮想視点の動きと、右図に左図に示す仮想視点の動きに応じて生成・表示される仮想視点画像を表している。
図10(a)の右図に示すように、仮想視点画像に含まれるオブジェクトは、観客席1001、リボン広告1002、フィールド1003や、ボール1011、人物1021〜1025、である。ここで、オブジェクト指定部205が、表示制御対象のオブジェクトとして、スタジアム内のリボン広告1002を事前に指定しているものとする。リボン広告は、帯状のデジタルサイネージにテキストや画像から構成される広告を移動させながら表示させる。固定広告と比較し、広告を移動させながら表示することにより、観客の注目を浴びることを容易にする効果がある。なお、ここで表示制御対象となるリボン広告は、実際に競技場において表示され撮影されたオブジェクトであってもよいし、仮想視点画像の生成時に挿入される仮想オブジェクトであってもよい。
オブジェクト指定部205では、表示制御対象のオブジェクトであるリボン広告1002のオブジェクト情報として、その座標や領域を保持しているものとする。リボン広告1002のオブジェクト情報には、リボン広告1002の速度である速度1032も含まれる。また、オブジェクト指定部205は、広告内容である画像データや表示速度についても、外部画像データ保持部207を介して保持しているものとする。
図10(a)は、仮想視点が移動及び回転せずに停止している例を示している。図10(a)の左図では、リボン広告1002は、左(X軸をマイナス)方向に移動している。この場合、図9のステップS902において、表示制御部206は、仮想視点速度が閾値未満と判定し、ステップS903に進み、表示制御対象のオブジェクトであるリボン広告1002を通常表示に設定する。画像生成部203は、当該設定を反映した仮想視点画像を生成する。画像生成部203により生成された仮想視点画像が図10(a)の右図となる。この仮想視点画像において、リボン広告1002の見かけ上の速度は速度1033とする。
続いて、図10(b)〜(c)について説明する。図10(b)〜(c)は、仮想視点の動き及び速度は同じである。図10(b)と図10(c)の違いは、図9で説明した表示制御を実行するか否かに基づく。図10(b)では、表示制御対象のオブジェクトが指定されておらず、図10(c)では、リボン広告1002が表示制御対象のオブジェクトとして事前に指定され、図9の表示制御が実行されている。なお、表示制御対象のオブジェクトは広告に限らず、仮想視点画像に含まれるオブジェクトであれば、いずれも可能である。
図10(b)〜(c)において、仮想視点は、右(X軸をプラス方向)へ移動している(仮想視点の動き311)。また、リボン広告1002は、速度1032で移動している。つまり、仮想視点は、リボン広告1002と逆方向に移動している(速度1031と速度1032を参照)。なお、図10では説明の簡略化のため、仮想視点およびリボン広告1002の移動方向は共にX軸方向としているが、これに限定されるものでなく、いずれの移動方向であってもよい。
図10(b)では、表示制御対象のオブジェクトが指定されていないため、図9のオブジェクトの上書きは実行されない。結果として、全オブジェクトが通常表示される仮想視点画像が生成される。この仮想視点画像におけるリボン広告の擬似速度を速度1034とすると、仮想視点速度が速くなるほど、その疑似速度も速くなる(速度1034>速度1033)。この結果、図10(b)の右図に示すように、広告のブレが発生し、ユーザ注目を集めたい広告のはずが、広告内容を理解できずに、かえって煩わしい印象を与える問題がある。
図10(c)では、リボン広告1002が表示制御対象のオブジェクトとして事前に指定され、図9の表示制御が実行される。具体的には、表示制御部206は、ステップS901で、上書き制御のオブジェクトであるリボン広告1002のオブジェクト情報として、オブジェクトの座標、速度、画像データ等を取得する。続いて、表示制御部206は、ステップS902で、仮想視点速度は閾値以上と判定し、ステップS904に進む。ステップS904で、表示制御部206は、新たなオブジェクト速度1035を算出する。これは、例えば、見かけ上のオブジェクト速度が遅くなるように、元のオブジェクト速度1032に仮想視点速度1031を加えたものである。そして、表示制御部206は、オブジェクト情報として取得した広告内容を示す画像データを、オブジェクト情報に含まれる領域に、新たな速度で上書きする。結果として、図10(c)の右図に示すような仮想視点画像が生成される。
この表示設定を使用し、生成した仮想視点画像が図10(c)となる。図10(c)では、仮想視点が右(X軸にプラス)方向に移動しているが、リボン広告1002の擬似速度は、図10(a)の場合と同じ速度1033となる。すなわち、仮想視点速度が速く動くシーンにおいても、リボン広告1002は元の表示効果を維持したまま、仮想視点画像に表示される。ここでのリボン広告の表示効果とは、広告が移動することでユーザの注目を浴びることを容易にし、かつ、その移動速度はユーザが内容を容易に理解できることである。
このように、本実施形態によれば、仮想視点の速度とオブジェクトの速度に応じたオブジェクトの上書きを行うことができる。例えば、仮想視点が速く動くシーンにおいて、従来はブレにより内容を理解できず煩わしく感じていたオブジェクトを、元の表示効果を維持した状態で表示にすることができる。なお、本実施形態における仮想視点速度と閾値の比較(図9のステップS902)を実施形態2において述べたオブジェクトの擬似速度(仮想視点画像におけるオブジェクトの速度)と閾値の比較に替えることで、本実施形態を実施形態2に適用することも可能である。
[その他の実施形態]
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
104 画像処理装置、105 仮想視点操作UI、201 仮想パラメータ取得部、 202 三次元モデル生成部、203 画像生成部、204 速度取得部、205 オブジェクト指定部、206 表示制御部、207 外部画像データ保持部、210 画像出力部

Claims (12)

  1. 画像処理装置であって、
    設定された仮想視点に対応する仮想視点画像を生成する生成手段と、
    前記仮想視点画像に含まれる1つ以上の表示制御対象のオブジェクトを指定する指定手段と、
    前記設定された仮想視点の速度に応じて、前記仮想視点画像における前記指定されたオブジェクトの表示態様を制御する表示制御手段と、
    を有することを特徴とする画像処理装置。
  2. 前記仮想視点の速度が所定の閾値より大きいか否かを判定する判定手段を更に有し、
    前記表示制御手段は、前記判定手段により前記仮想視点の速度が前記所定の閾値未満であると判定された場合に、前記指定されたオブジェクトを通常通りに表示し、前記判定手段により前記仮想視点の速度が所定の閾値以上であると判定された場合に、前記指定されたオブジェクトを通常通りに表示しないことを特徴とする請求項1に記載の画像処理装置。
  3. 前記仮想視点の速度は、前記仮想視点の移動の変化量の1以上の所定の方向における大きさであることを特徴とする請求項1または2に記載の画像処理装置。
  4. 前記表示制御手段は、前記仮想視点の速度と前記指定されたオブジェクトの速度とを合わせた、前記指定されたオブジェクトの擬似速度に応じて、前記仮想視点画像における前記指定されたオブジェクトの表示態様を制御することを特徴とする請求項1に記載の画像処理装置。
  5. 前記指定されたオブジェクトの擬似速度が所定の閾値より大きいか否かを判定する判定手段を更に有し、
    前記表示制御手段は、前記判定手段により前記擬似速度が前記所定の閾値未満であると判定された場合に、前記指定されたオブジェクトを通常通りに表示し、前記判定手段により前記擬似速度が前記所定の閾値以上であると判定された場合に、前記指定されたオブジェクトを通常通りに表示しないことを特徴とする請求項4に記載の画像処理装置。
  6. 前記指定されたオブジェクトの擬似速度は、前記仮想視点の移動の変化量と前記オブジェクトの移動の変化量それぞれの1以上の所定の方向における大きさを合せたものであることを特徴とする請求項4または5に記載の画像処理装置。
  7. 前記指定されたオブジェクトを通常通りに表示しないことは、前記指定されたオブジェクトを非表示すること、前記指定されたオブジェクトの透過度を上げること、グレーアウトすること、解像度を下げること、のいずれかを含むことを特徴とする請求項2または5に記載の画像処理装置。
  8. 前記指定されたオブジェクトを通常通りに表示しないことは、前記指定されたオブジェクトの部分に、前記指定されたオブジェクトの内容を示す画像データを、前記指定されたオブジェクトの速度と前記仮想視点の速度から算出される速度で表示することを含むことを特徴とする請求項2または5に記載の画像処理装置。
  9. 前記指定手段は、前記仮想視点画像に含まれる前景または背景に含まれる対象物を、前記表示制御対象のオブジェクトとして指定することを特徴とする請求項1から8のいずれか1項に記載の画像処理装置。
  10. 前記指定手段は、前記仮想視点画像に挿入される仮想オブジェクトを、前記表示制御対象のオブジェクトとして指定することを特徴とする請求項1から8のいずれか1項に記載の画像処理装置。
  11. 画像処理方法であって、
    設定された仮想視点に対応する仮想視点画像を生成する生成工程と、
    前記仮想視点画像に含まれる1つ以上の表示制御対象のオブジェクトを指定する指定工程と、
    前記設定された仮想視点の速度に応じて、前記仮想視点画像における前記指定されたオブジェクトの表示態様を制御する表示制御工程と、
    を有することを特徴とする画像処理方法。
  12. コンピュータを、請求項1から10のいずれか1項に記載の画像処理装置として機能させるためのプログラム。
JP2018091404A 2018-05-10 2018-05-10 画像処理装置、画像処理方法、およびプログラム Active JP7152873B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018091404A JP7152873B2 (ja) 2018-05-10 2018-05-10 画像処理装置、画像処理方法、およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018091404A JP7152873B2 (ja) 2018-05-10 2018-05-10 画像処理装置、画像処理方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP2019197409A true JP2019197409A (ja) 2019-11-14
JP7152873B2 JP7152873B2 (ja) 2022-10-13

Family

ID=68537528

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018091404A Active JP7152873B2 (ja) 2018-05-10 2018-05-10 画像処理装置、画像処理方法、およびプログラム

Country Status (1)

Country Link
JP (1) JP7152873B2 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09115000A (ja) * 1995-10-13 1997-05-02 Hitachi Ltd リアルタイムシミュレーション装置および映像生成方法
JP2003058912A (ja) * 2001-05-18 2003-02-28 Sony Computer Entertainment Inc 表示装置及び画像処理方法
US20170053456A1 (en) * 2015-08-19 2017-02-23 Electronics And Telecommunications Research Institute Method and apparatus for augmented-reality rendering on mirror display based on motion of augmented-reality target
JP2018045459A (ja) * 2016-09-14 2018-03-22 株式会社バンダイナムコエンターテインメント シミュレーションシステム及びプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09115000A (ja) * 1995-10-13 1997-05-02 Hitachi Ltd リアルタイムシミュレーション装置および映像生成方法
JP2003058912A (ja) * 2001-05-18 2003-02-28 Sony Computer Entertainment Inc 表示装置及び画像処理方法
US20170053456A1 (en) * 2015-08-19 2017-02-23 Electronics And Telecommunications Research Institute Method and apparatus for augmented-reality rendering on mirror display based on motion of augmented-reality target
JP2018045459A (ja) * 2016-09-14 2018-03-22 株式会社バンダイナムコエンターテインメント シミュレーションシステム及びプログラム

Also Published As

Publication number Publication date
JP7152873B2 (ja) 2022-10-13

Similar Documents

Publication Publication Date Title
US8007110B2 (en) Projector system employing depth perception to detect speaker position and gestures
US9858643B2 (en) Image generating device, image generating method, and program
EP3057066B1 (en) Generation of three-dimensional imagery from a two-dimensional image using a depth map
CN110322542B (zh) 重建真实世界3d场景的视图
US20180146189A1 (en) Head mounted display and control method therefor
US10755675B2 (en) Image processing system, image processing method, and computer program
US20180181358A1 (en) Apparatus, system, and method for controlling display, and recording medium
WO2019159617A1 (ja) 画像処理装置、画像処理方法およびプログラム
JP2018110375A (ja) 表示装置、プログラム、表示方法
JP7378243B2 (ja) 画像生成装置、画像表示装置および画像処理方法
JP7392105B2 (ja) 没入型ビデオコンテンツをフォービエイテッドメッシュを用いてレンダリングするための方法、システム、および媒体
WO2020084951A1 (ja) 画像処理装置および画像処理方法
JP2020173529A (ja) 情報処理装置、情報処理方法、及びプログラム
JP7476375B2 (ja) 情報処理装置、情報処理方法及びプログラム
CN113286138A (zh) 一种全景视频显示方法及显示设备
KR101148508B1 (ko) 모바일 기기 디스플레이의 표시 장치 및 그 방법, 이를 이용하는 모바일 기기
JP2022032483A (ja) 画像処理装置、画像処理方法、およびプログラム
CN111712859B (zh) 用于生成视图图像的装置和方法
JP2018109946A (ja) 表示装置、プログラム、表示方法
US11212502B2 (en) Method of modifying an image on a computational device
US11847735B2 (en) Information processing apparatus, information processing method, and recording medium
CN116744065A (zh) 视频播放方法、装置
JP7152873B2 (ja) 画像処理装置、画像処理方法、およびプログラム
CN115661408A (zh) 在人工现实环境中生成和修改手的表示
JP7296735B2 (ja) 画像処理装置、画像処理方法及びプログラム

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210422

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220107

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220204

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220405

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220902

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220930

R151 Written notification of patent or utility model registration

Ref document number: 7152873

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151