JP2012022554A - 映像処理装置及び映像処理方法 - Google Patents

映像処理装置及び映像処理方法 Download PDF

Info

Publication number
JP2012022554A
JP2012022554A JP2010160374A JP2010160374A JP2012022554A JP 2012022554 A JP2012022554 A JP 2012022554A JP 2010160374 A JP2010160374 A JP 2010160374A JP 2010160374 A JP2010160374 A JP 2010160374A JP 2012022554 A JP2012022554 A JP 2012022554A
Authority
JP
Japan
Prior art keywords
resolution
unit
polygon
vertex
texture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2010160374A
Other languages
English (en)
Inventor
Kazuma Takeuchi
一真 竹内
Katsuhisa Yamaguchi
勝久 山口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Original Assignee
Panasonic Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp filed Critical Panasonic Corp
Priority to JP2010160374A priority Critical patent/JP2012022554A/ja
Publication of JP2012022554A publication Critical patent/JP2012022554A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)
  • Image Generation (AREA)
  • Television Systems (AREA)

Abstract

【課題】ポリゴンに対して動画をテクスチャとしてマッピングする際に、ポリゴンの動きに基づいてフレーム映像の解像度を制御する映像処理装置を提供すること。
【解決手段】合成指示部101と、頂点情報生成部102と、視点クリップ処理部103と、移動量計算部106と、解像度決定部108と、占有面積計算部107と、動画再生部109と、フレーム記憶部110と、テクスチャマッピング部104とを備え、移動量計算部106が計算したポリゴンの移動量と、占有面積計算部107が計算した占有率とを基に、解像度決定部108が、フレーム映像の解像度を縮小する縮小率を決定し、動画再生部109が、再生対象の動画の解像度を縮小してフレーム映像を生成し、テクスチャマッピング部104が、ポリゴン上に、動画再生部109が生成したフレーム映像をテクスチャマッピングする。
【選択図】図2

Description

本発明は、コンピュータグラフィックスで描画されたポリゴンに対して、動画コンテンツのフレーム映像をテクスチャとしてマッピングし、ポリゴン上で動画再生を行う映像処理装置に関するものである。
近年、コンピュータグラフィックス(以下CG)を利用したゲーム、コンテンツビューワ、操作メニューなどが多く利用されている。
また、AVコンテンツ再生機能を搭載した機器では、CGとAVコンテンツ再生機能を組み合わせた機能が実現できる。例えば、CGのポリゴンにテクスチャとしてAVコンテンツ再生中のフレーム映像をマッピングすることで、ポリゴン上で動画像を再生させるなどがある。
しかし、携帯電話などの利用できるリソースに制限のある組み込み機器において、フレーム映像をテクスチャマッピングしてポリゴン上で動画再生した場合、処理性能が不足する。そのため、CG描画フレームレートの低下により見栄えが劣化し、消費電力が増加するなどの問題があった。
従来のテクスチャマッピングして動画再生を行う情報処理装置としては、注目している動画の見栄えの劣化を防ぐために、残りの動画のフレームレートを下げる制御を行うものがあった(例えば、特許文献1参照)。前記特許文献1に記載された従来の情報処理装置では、動画の表示面積と、元の解像度とに基づいて、動画解像度を変更する。
特許第4200858号公報
しかしながら、前記従来技術によれば、動画解像度の変更を動画の表示面積のみに応じて制御しており、フレーム映像をテクスチャマッピングしたポリゴンの動作速度については考慮していない。つまり、フレーム映像をテクスチャマッピングしたポリゴンが画面上をすばやく動作し、ユーザが、ポリゴン上のフレーム映像を視認することが困難である場合でも、通常通りの動画解像度で処理が行われる。このため、不必要に高い解像度のフレーム映像をテクスチャマッピングが行われ、フレーム映像を格納したメモリへアクセスする際のデータ量を削減することができず、消費電力が大きくなるという課題を有していた。
本発明は、前記従来の課題を解決するもので、ポリゴンに対して動画をテクスチャとしてマッピングする際に、ポリゴンの動きに基づいてフレーム映像の解像度を制御する映像処理装置を提供することを目的とする。
前記従来の課題を解決するために、本発明の映像処理装置は、ポリゴンに対し動画をテクスチャとしてマッピング処理を行う映像処理装置であって、表示要求を受け取り、ポリゴンに対して動画をテクスチャとしてマッピングする処理を制御する合成指示手段と、頂点情報と視点情報に基づいて、クリップ処理を行う視点クリップ手段と、テクスチャをマッピング処理するポリゴン頂点の移動量を計算する移動量計算手段とテクスチャをマッピング処理するポリゴンの描画面積の占有率を計算する占有面積計算手段と、前記移動量計算手段が計算した前記移動量と、前記占有面積計算手段が計算した前記占有率とを基に、解像度を決定する解像度決定手段と、前記解像度決定部が決定した解像度を基に、再生対象の動画の解像度を制御してフレーム映像を生成する動画再生手段と、前記視点クリップ手段でクリップ処理されたポリゴン上に、前記動画再生手段が生成したフレーム映像を、テクスチャとしてマッピング処理するテクスチャマッピング手段とを備えることを特徴とする。
本構成によって、ポリゴンに対して動画をテクスチャとしてマッピングする際に、ポリゴンの動きに基づいてフレーム映像の解像度を制御することができる。
本発明の映像処理装置によれば、動画をテクスチャマッピングするポリゴンの動きが大きい場合に、フレーム映像の解像度を下げる制御を行い、フレーム映像を格納したメモリへアクセスする際のデータ量を削減することができる。これにより、映像処理装置の消費電力を低減することが可能になる。
本発明の実施の形態における映像処理装置を備えた情報処理装置のハードウェア構成の一例を示す図 本発明の実施の形態における映像処理装置の構成の一例を示すブロック図 本発明の実施の形態における映像処理装置のマッピング処理の概要を示した図 本発明の実施の形態における映像処理装置の動作の一例を示すフローチャート 本発明の実施の形態における視点クリップ部が生成する頂点情報の一例を示す図 本発明の実施の形態における移動量計算部の動作の一例を示すフローチャート 本発明の実施の形態における移動量計算部での処理の一例を示す図 本発明の実施の形態における占有面積計算部での処理の一例を示す図 本発明の実施の形態における解像度レベルテーブルの一例を示す図 本発明の実施の形態における解像度制御部が使用するテーブルの一例を示す図
以下本発明の実施の形態について、図面を参照しながら説明する。
図1は、本発明の実施の形態における映像処理装置を備えた情報処理装置のハードウェア構成を示す図である。情報処理装置は、CG描画とAVコンテンツ再生機能を有しており、AV機器や、パーソナルコンピュータ、携帯電話、携帯情報端末(PDA)、デジタルカメラなどである。
情報処理装置は、CPU(Central Processing Unit;中央演算処理部)10、メモリ装置20、ハードディスク装置25、通信装置30、読取書込装置32、入力装置40、表示装置45を備えている。これらの装置は、バスライン50を通じて互いに接続されている。ハードディスク装置25、読取書込装置32、入力装置40及び表示装置45は、それぞれ、インタフェース26、35、41及び46を通じてバスライン50に接続される。
CPU10は、単一のCPUで構成されてもよく、複数のCPUで構成されてもよい。図1は、単一のCPU10を有する例を示している。
メモリ装置20は、ROM(Read Only Memory)21及びRAM(Random Access Memory)22を備えている。ROM21は、CPU10の動作を規定するコンピュータプログラム及びデータを記憶している。コンピュータプログラム及びデータは、ハードディスク装置25に記憶させることもできる。CPU10は、ROM21又はハードディスク装置25が格納するコンピュータプログラム及びデータを、必要に応じてRAM22に書き込みつつ、コンピュータプログラムが規定する処理を実行する。RAM22は、CPU10が処理を実行するのに伴って発生するデータを一時的に記憶する媒体としても機能する。メモリ装置20は、フラッシュメモリなど、書き込みが可能で、電源を切っても記憶内容を保持できる不揮発性のメモリと記憶媒体を含んでいる。
ハードディスク装置25は、コンピュータプログラム、コンテンツを含むデータを記録保持する装置である。このコンテンツは、情報処理装置が放送番組を受信して、録画した放送データである。
読取書込装置32は、可搬型記録媒体31(例えばCD、DVD、BD、メモリカードなど)に記録されたコンテンツを含むデータを書き込み及び読み取る装置である。
通信装置30は、電話回線、ネットワーク線、無線、赤外線通信等の通信回線33を通じて、外部と自身との間で、コンテンツなどのデータを送受信する装置である。
入力装置40は、ユーザの操作によりデータ等を入力する装置であり、例えば、AV機器に配列された入力ボタン、携帯電話に配列された操作キー、PADに配列されたキーボード、あるいは着脱自在のマウス、キーボードである。また、入力装置40は、AV機器に対するリモートコントロール装置であってもよく、この場合、入力装置40は、バスライン50とは直結していないことになる。
表示装置45は、画像や映像を画面に表示したり、音声で出力したりする装置であり、例えばLCD(Liguid Crystal Display;液晶表示器)、ブラウン管、スピーカである。
以上のように、情報処理装置は、コンピュータとして構成されている。上記コンピュータプログラムは、ROM21、ハードディスク装置25、不図示のフレキシブルディスク、CD−ROM等の可搬型記録媒体31を通じて供給することも、電気通信回線33等の伝送媒体を通じて供給することも可能である。例えば、可搬型記録媒体31(CD−ROM)に記録されたコンピュータプログラムは、読取書込装置32を情報処理装置へ接続することで、読み出すことができる。また、読み出したコンピュータプログラムを、RAM22あるいはハードディスク装置25に格納することができる。
プログラム記録媒体としてROM21からコンピュータプログラムが供給される場合には、当該ROM21を情報処理装置に搭載することにより、CPU10は上記コンピュータプログラムに従った処理を実行可能となる。電気通信回線33等の伝送媒体を通じて供給されるコンピュータプログラムは、通信装置30を通じて受信され、例えば、RAM22あるいはハードディスク装置25に格納される。伝送媒体は、有線の伝送媒体に限られず、無線の伝送媒体であってもよい。また、伝送媒体は通信線路のみでなく、通信線路を中継する中継装置、例えばルータをも含む。
以下、情報処理装置は、ハードディスク装置25やメモリ20に、コンテンツを保存済みであるものとして説明する。コンテンツの保存は、放送波の受信による録画、ネットワークを介したダウンロード、カメラなどの外部装置を使用したビデオ撮影などにより実施する。また、情報処理装置は、コンテンツを記録した可搬型記録媒体から読み取り、利用することができる。
図2は、本発明の実施の形態における映像処理装置の構成を示すブロック図である。映像処理装置は、図1に示すメモリ装置20を用いてCPU10で動作するプログラムである。
映像処理装置100が、コンテンツ記憶部111に格納されているコンテンツを、ポリゴンに対してテクスチャマッピングし、出力部105が、図1に示す表示装置45に出力することで、ポリゴン上での動画再生を行う。なお、コンテンツ記憶部111は、図1に示すメモリ装置20、ハードディスク装置25、可搬型記録媒体31などである。
映像処理装置100は、合成指示部101、頂点情報生成部102、視点クリップ処理部103、解像度制御部112、動画再生部109、フレーム記憶部110、テクスチャマッピング部104を備える。
合成指示部101は、表示要求を受け取り、ポリゴンに対して動画をテクスチャマッピングする処理全体を制御する。合成指示部101は、頂点情報生成部102、視点クリップ処理部103、解像度制御部112、動画再生部109、テクスチャマッピング部104へ処理の指示を行う。なお、表示要求は、表示対象のポリゴン情報と、マッピング対象のコンテンツ情報(コンテンツ識別子)と、表示位置情報とを含んでいる。
頂点情報生成部102は、合成指示部101の指示により、ポリゴンの頂点情報を生成し、視点クリップ処理部103へ通知する。
視点クリップ処理部103は、合成指示部101の指示により、頂点情報生成部102にて生成された頂点情報を、合成指示部101に指定された視点情報に基づいて、クリップ処理を行う。視点クリップ処理部103は、クリップ処理した全ての頂点情報を、テクスチャマッピング部104に通知する。また、視点クリップ処理部103は、クリップ処理した全ての頂点情報の中から、フレーム映像をテクスチャとしてマッピング処理を行うポリゴンの頂点情報を抽出し、解像度制御部112に通知する。
解像度制御部112は、合成指示部101の指示により、視点クリップ処理部103でクリップ処理された頂点情報を受け取り、テクスチャマッピング対象のフレーム映像の解像度を決定して、動画再生部109に通知する。解像度制御部112は、移動量計算部106、解像度決定部108、占有面積計算部107を備える。
移動量計算部106は、視点クリップ処理手段103によってクリップ処理された頂点情報を基に、テクスチャマッピングするポリゴン頂点の移動量を計算し、解像度決定部108へ通知する。移動量計算部106は、コンテンツ再生時のフレーム映像をテクスチャとしてマッピング処理するポリゴンに対し、ポリゴンの各頂点について、前回の状態からの差分を計算して、移動量を取得する。
占有面積計算部107は、視点クリップ処理手段103によってクリップ処理された頂点情報を基に、テクスチャマッピングするポリゴンの描画面積の占有率を計算し、解像度決定部108へ通知する。占有面積計算部107は、コンテンツ再生時のフレーム映像をテクスチャとしてマッピング処理を行うポリゴンに対し、ポリゴンが描画される面積と、CGを描画する領域全体の面積との比を計算して、占有率を取得する。
解像度決定部108は、移動量計算部106が計算した移動量と、占有面積計算部107が計算した占有率とを基に、解像度を決定する。解像度決定部108は、決定した解像度を解像度情報として、動画再生部109へ通知する。例えば、解像度情報は、オリジナルの解像度に対する解像度倍率を示す情報である。他の例では、解像度情報は、オリジナルの解像度より縮小するか否かを示す情報である。また他の例では、解像度情報は、縮小後のフレーム映像の解像度そのものの値を示す。
動画再生部109は、コンテンツ記憶部11に格納されたコンテンツの再生処理を行う。動画再生部109は、解像度決定部108から通知された解像度情報を基に、再生対象のコンテンツのフレーム映像の解像度を制御して、フレーム映像を生成し、フレーム記憶部110に保存する。フレーム記憶部110は、一時記憶バッファである。
解像度情報が、オリジナルの解像度に対する解像度倍率を示す場合について、説明する。動画再生部109は、再生対象コンテンツのオリジナルの解像度と解像度倍率との積をとり、フレーム映像の解像度を算出する。算出したフレーム映像の解像度が、動画再生部109の再生可能な解像度でない場合、動画再生部109は、再生可能な解像度の中から最も近い解像度を選択して、再生処理を行う。例えば、コンテンツのオリジナルの解像度が『1920×1080』であり、解像度倍率が『0.6』の場合、算出したフレーム映像の解像度は、『1152×648』となる。この時、動画再生部109は、自身で再生可能な解像度の中から『1280×720』をフレーム映像の解像度として選択し、フレーム映像を生成する。
また、解像度情報が、オリジナルの解像度より縮小するか否かを示す情報あって、「縮小する」を示している場合について説明する。動画再生部109は、再生可能な解像度の中から最も小さい解像度を選択して、フレーム映像を生成する。また、動画再生部109は、予め定めた所定の倍率(例えば、0.5)にオリジナルの解像度を縮小して、フレーム映像を生成してもよい。
テクスチャマッピング部104は、合成指示部101の指示により、フレーム記憶部110からフレーム映像を読み出し、視点クリップ処理部103から出力されたポリゴン上に、テクスチャとしてマッピングを行う。テクスチャマッピング部104は、テクスチャマッピングしたポリゴンから描画データを生成し、出力部105へ転送する。なお、テクスチャマッピング部104は、動画再生部109が生成したフレーム映像がフレーム記憶部110に保存されているか否かを定期的にチェックし、保存されている場合にフレーム映像を読み出して、処理する。
以上により、本発明の映像処理装置は、コンテンツ記憶部111に格納されているコンテンツを、ポリゴンに対してテクスチャマッピングする際に、ポリゴンの動きに基づいてフレーム映像の解像度を制御することができる。つまり、本発明の映像処理装置は、動画をテクスチャマッピングするポリゴンの動きが大きく、ポリゴンの移動速度が速い場合に、フレーム映像の解像度を下げる制御を行う。また、本発明の映像処理装置は、動画をテクスチャマッピングする描画面に対して、対象のポリゴンが小さく表示される場合に、フレーム映像の解像度を下げる制御を行う。これにより、フレーム映像を格納したメモリへアクセスする際のデータ量を削減することができる。これにより、不必要に高い解像度のフレーム映像をテクスチャマッピングする処理が不要となり、フレーム映像を格納したメモリへアクセスする際のデータ量を削減することができ、映像処理装置の消費電力を低減することが可能になる。
図3は、本発明の映像処理装置100におけるマッピング処理の概要を示した図である。
映像処理装置100は、コンテンツ記憶部111に記憶されているコンテンツのフレーム映像302を、ポリゴン301に対してテクスチャとしてマッピングし、描画データ303を生成する。ユーザは、CG上(ポリゴン301)で再生されるコンテンツ(フレーム映像302)を視聴することができる。
図4は、本発明の実施の形態における映像処理装置100の動作の一例を示すフローチャートである。まず、映像処理装置100の合成指示部101が、表示要求を受け取り、処理を開始する。表示要求は、表示対象のポリゴン情報と、マッピング対象のコンテンツ情報(コンテンツ識別子)と、表示位置情報とを含んでいる。
頂点情報生成部102は、合成指示部101の指示により、ポリゴンの頂点情報を生成し、視点クリップ処理部103へ通知する(ステップS401)。
視点クリップ処理手段103は、頂点情報生成部102から通知された頂点情報を受け取り、合成指示部101から指定された視点情報を用いて、クリップ処理を行う。視点情報は、視点位置を含んでおり、視点クリップ処理手段103は、指定された視点位置に基づいて、描画面に表示されるポリゴンのみを頂点情報から抽出し、抽出した頂点情報の座標を、始点位置を基準とした座標へ変換する。その後、視点クリップ処理103は、クリップ処理した全ての頂点情報を、テクスチャマッピング部104へ通知する。また、視点クリップ処理103は、クリップ処理した全ての頂点情報の中から、フレーム映像をテクスチャとしてマッピング処理を行うポリゴンの頂点情報を抽出し、解像度制御部112に通知する(ステップS402)。
解像度制御部112の移動量計算部106は、視点クリップ処理手段103でクリップ処理された頂点情報を基に、テクスチャマッピングするポリゴン頂点の移動量を計算し、解像度決定部108へ通知する。移動量計算部106は、コンテンツ再生時のフレーム映像をテクスチャとしてマッピング処理するポリゴンに対し、ポリゴンの各頂点について、前回の状態からの差分を計算して、移動量を取得する(ステップS403)。
解像度制御部112の占有面積計算部107は、視点クリップ処理手段103でクリップ処理された頂点情報を基に、テクスチャマッピングするポリゴンの描画面積の占有率を計算し、解像度決定部108へ通知する。占有面積計算部107は、コンテンツ再生時のフレーム映像をテクスチャとしてマッピング処理を行うポリゴンに対し、ポリゴンが描画される面積と、CGを描画する領域全体の描画面積との比を計算して、占有率を取得する(ステップS404)。
解像度決定部108は、移動量計算部106が計算した移動量と、占有面積計算部107が計算した占有率とを基に、解像度を決定する。解像度決定部108は、決定した解像度を解像度情報として、動画再生部109へ通知する(ステップS405)。
動画再生部109は、合成指示部101の指示により、解像度決定部108から通知された解像度情報に従い、再生対象のコンテンツのフレーム映像の解像度を制御して、フレーム映像を生成する。動画再生部109は、生成したフレーム映像を、フレーム記憶部110に保存する(ステップS406)。
テクスチャマッピング部104は、合成指示部101の指示により、フレーム記憶部110からフレーム映像を読み出し、視点クリップ処理部103から出力されたクリップ処理されたポリゴン上に、テクスチャとしてマッピングを行う(ステップS407)。
テクスチャマッピング部104は、テクスチャマッピングしたポリゴンから描画データを生成して出力部105へ転送し、出力部105は、表示装置45に出力することで、ポリゴン上での動画再生を行う(ステップS408)。
合成指示部101は、表示終了か否かを判断し(ステップS409)、表示終了の場合は(ステップS409がYes)、処理を終了する。一方、表示終了でない場合は(ステップS409がNo)、合成指示部101は、ステップS401に遷移し、ステップS401からS408を繰り返す。これにより、CG上のテクスチャとして動画を視聴可能とする。
図5は、本発明の実施の形態における視点クリップ処理部103が、解像度制御部112に通知する頂点情報の一例である。
頂点情報501は、コンテンツをテクスチャとしてマッピング処理を行うポリゴンの頂点のみを含んでおり、各頂点を識別する頂点ID(502)と、対象頂点の座標(座標X(503)、座標Y(504)、座標Z(505))とを組にしたリストとなっている。また、対象頂点の座標は、視点クリップ処理手段103によってクリップ処理された後の座標であり、視点を軸とする座標に変換されている。図5の頂点情報501は、6個の頂点からなっており、頂点IDが「2」の頂点は、座標(120、150、0)に位置している。
図6は、本発明の実施の形態における移動量計算部106の動作の一例を示すフローチャートである。移動量計算部106は、合成指示部からの通知を受け、処理を開始する。
移動量計算部106は、視点クリップ処理部103によりクリップ処理された頂点情報を取得する(ステップS601)。
移動量計算部106は、前回処理時に保存した頂点情報(前回情報)を取得する(ステップS602)。
移動量計算部106は、ステップS601で取得した頂点情報と、ステップS602で取得した前回情報とを比較し、前回処理時と同じ頂点で構成されているのか否かを判定する。移動量計算部106は、頂点情報と前回情報に含まれる頂点IDを比較し、全ての頂点IDが一致する場合に、同じ頂点で構成されている(頂点に変化なし)と判断する(ステップS603)。
頂点に変化がない場合(ステップS604がYes)、移動量計算部106は、頂点情報と前回情報を用いて、各頂点について、前回からの差分を計算して、移動量を取得する(ステップS605)。移動量計算部106は、計算した移動量を解像度決定部108へ通知する(ステップS606)。なお、移動量計算部106は、計算した複数個の移動量の中の、最小の値を通知するものとする。また、移動量計算部106は、計算した複数個の移動量の平均値や、頂点の重心移動量を計算し、解像度決定部108へ通知してもよい。
頂点に変化がある場合(ステップS604がNo)、移動量を「0」とし、解像度決定部108へ通知する(ステップS608)。
移動量計算部106は、ステップS601で取得した頂点情報を、前回情報として保存し(ステップS607)、処理を終了する。
図7は、本発明の実施の形態における移動量計算部106が計算する各頂点の移動量について一例を示している。
ここでは、フレーム映像をテクスチャとしてマッピングするポリゴン(700、710)が、3個の頂点から構成されている場合を図示している。
ポリゴン700は、前回処理時の頂点情報(前回情報)に対応しており、頂点701、頂点702、頂点703で構成されている。
ポリゴン710は、視点クリップ処理部103によりクリップ処理された新しい頂点情報に対応しており、頂点711、頂点712、頂点713で構成されている。
また、頂点701と頂点711、頂点702と頂点712、頂点703と頂点713は、それぞれ同じ頂点IDの頂点である。つまり、ポリゴン700とポリゴン710は、同じ頂点で構成されており(頂点に変化なし)、ポリゴン自体が表示位置を移動していることを示している。
移動量計算部106は、前述の通り、前回処理時に用いた頂点情報(前回情報)と、視点クリップ処理手段103によりクリップ処理された新しい頂点情報を用いて、各頂点について、前回からの差分を計算して、移動量を算出する。例えば、頂点701が前回処理時の頂点情報に含まれており、頂点711が新しい頂点情報に含まれている。頂点701の座標が(20,240,170)、頂点711の座標が(40,240,180)であるので、その差分は(20,0,10)を成分にもつベクトルとして表現する。つまり、頂点の移動量は、このベクトルの長さである。
図8は、本発明の実施の形態における占有面積計算部107が計算する描画面占有面積比(占有率)について一例を示している。
占有面積計算部107は、前述の通り、視点クリップ処理手段103によってクリップ処理された頂点情報を基に、コンテンツ再生時のフレーム映像をテクスチャとしてマッピング処理を行うポリゴンに対し、ポリゴンが描画される面積と、CGを描画する領域全体の描画面積との比を計算して、占有率を取得する。
例えば、図8のように視点方向がX軸である場合、対象ポリゴン802をY−Z平面へ写像処理を行い、写像図形801を生成し、その後、写像図形801の面積とCGを描画する領域全体の面積との比を計算する。複数の対象ポリゴンがある場合には、全てのポリゴンに対して写像図形801を生成し、その面積の合計求め、その結果とCGを描画する領域全体の面積との比を計算する。
図9、図10は、本発明の実施の形態における解像度制御部112が使用する各テーブルの一例を示している。
解像度決定部108は、前述の通り、移動量計算部106が計算した移動量と、占有面積計算部107が計算した占有率とを基に、解像度を決定する。この時に、解像度決定部108は、図9と図10に示した各テーブルを用いる。
まず、解像度決定部108は、図10(A)の移動量テーブル1001を用いて、移動量計算部106が計算した移動量を、移動量レベルに変換する。例えば、移動量計算部106が移動量「22」と計算した場合、移動量レベルは「1」となる。
次に、解像度決定部108は、図10(B)の占有テーブル1002を用いて、占有面積計算部107が計算した占有率を、占有レベルに変換する。例えば、占有面積計算部107が占有率「0.7」と計算した場合、占有レベルは「6」となる。
解像度決定部108は、図9の解像度レベルテーブル901を用いて、移動量レベルと占有レベルに基づき、解像度レベルを決定する。例えば、移動量レベルが「1」で占有レベルが「6」の場合、解像度レベルは「5」となる。
最後に、解像度決定部108は、図10(C)の解像度テーブル1003を用いて、解像度レベルを、解像度倍率に変換し、解像度情報として動画再生部109に通知する。例えば、解像度レベルが「5」の場合、解像度倍率は、「1.0」となる。この場合、動画再生部109は、解像度を縮小せずに、オリジナルの解像度のままフレーム映像を生成することになる。
また、他の例として、移動量計算部106が移動量「120」と計算し、占有面積計算部107が占有率「0.2」と計算した場合では、解像度決定部108は、移動量レベル「6」、占有レベル「1」へと変換する。解像度決定部108は、図9の解像度レベルテーブル901を用いて、解像度レベルを「2」に決定し、図10(C)の解像度テーブル1003を用いて、解像度倍率「0.4」に変換し、解像度情報として動画再生部109に通知する。この場合、動画再生部109は、オリジナルの解像度の0.4倍へ縮小して、フレーム映像を生成する。
なお、解像度決定部108は、解像度レベルテーブル901を複数個備え、出力する表示装置45の表示領域のサイズによって、対応する解像度レベルテーブル901を利用してもよい。この場合、出力する表示装置45の表示領域のサイズに合わせて、解像度レベルを設定することが可能となる。これにより、映像処理装置は、出力画面サイズにより、コンテンツ再生時のフレーム映像の解像度を縮小する縮小率を変更することができる。また、表示装置45の表示領域のサイズだけでなく、CGを描画する領域全体のサイズに合わせて、対応する解像度レベルテーブルを切り替えてもよい。
以上により、本発明の映像処理装置は、コンテンツをポリゴンに対してテクスチャマッピングする際に、ポリゴンの動きに基づいてフレーム映像の解像度を制御することができる。つまり、本発明の映像処理装置は、動画をテクスチャマッピングするポリゴンの動きが大きく、移動速度が速い場合に、フレーム映像の解像度を下げる制御を行う。また、本発明の映像処理装置は、動画をテクスチャマッピングする描画面に対して、対象のポリゴンが小さく表示される場合に、フレーム映像の解像度を下げる制御を行う。
ポリゴンの動きが大きく、描画面に対して小さく表示される場合、テクスチャはユーザが細かく視認できないため、フレーム映像の解像度を下げてテクスチャマッピングを行った場合でも、映像の見栄えを大きく損なうことはない。そのため、映像の見栄えを維持しながら、フレーム映像を格納したメモリへアクセスする際のデータ量を削減することができる。
これにより、不必要に高い解像度のフレーム映像をテクスチャマッピングする処理が不要となり、フレーム映像を格納したメモリへアクセスする際のデータ量を削減することができ、映像処理装置の消費電力を低減することが可能になる。
本発明にかかる映像処理装置は、CG描画とAVコンテンツ再生機能を有したAV機器として有用である。また、パーソナルコンピュータ、携帯情報端末などの用途にも応用できる。
10 CPU
20 メモリ装置
21 ROM
22 RAM
25 ハードディスク装置
26,35,41,46 インタフェース
30 通信装置
31 記録媒体
32 読取書込装置
33 電気通信回線
40 入力装置
45 表示装置
50 バスライン
100 映像処理装置
101 合成指示部
102 頂点情報生成部
103 視点クリップ処理部
104 テクスチャマッピング部
105 出力部
106 移動量計算部
107 占有面積計算部
108 解像度決定部
109 動画再生部
110 フレーム記憶部
111 コンテンツ記憶部
112 解像度制御部

Claims (6)

  1. ポリゴンに対し動画をテクスチャとしてマッピング処理を行う映像処理装置であって、
    表示要求を受け取り、ポリゴンに対して動画をテクスチャとしてマッピングする処理を制御する合成指示手段と、
    頂点情報と視点情報に基づいて、クリップ処理を行う視点クリップ手段と、
    テクスチャをマッピング処理するポリゴン頂点の移動量を計算する移動量計算手段と
    テクスチャをマッピング処理するポリゴンの描画面積の占有率を計算する占有面積計算手段と、
    前記移動量計算手段が計算した前記移動量と、前記占有面積計算手段が計算した前記占有率とを基に、解像度を決定する解像度決定手段と、
    前記解像度決定部が決定した解像度を基に、再生対象の動画の解像度を制御してフレーム映像を生成する動画再生手段と、
    前記視点クリップ手段でクリップ処理されたポリゴン上に、前記動画再生手段が生成したフレーム映像を、テクスチャとしてマッピング処理するテクスチャマッピング手段とを備えることを特徴とする映像処理装置。
  2. 前記解像度決定手段は、前記移動量が大きく、前記占有率が小さい場合に、フレーム映像の解像度を縮小する縮小率を決定することを特徴とする請求項1に記載の映像処理装置。
  3. 前記移動量計算手段は、前記視点クリップ手段によってクリップ処理された頂点情報と、前回の処理で用いた頂点情報とを基に、各頂点について前回からの差分を計算して、テクスチャをマッピング処理するポリゴンの動きの大きさを移動量として取得することを特徴とする請求項1に記載の映像処理装置。
  4. 前記移動量計算手段は、前記視点クリップ手段によってクリップ処理された頂点情報に含まれる今回頂点と、前回の処理で用いた頂点情報に含まれる前回頂点とを比較し、同じ頂点で構成されている場合に、各頂点について前回からの差分を計算し、対応が取れない頂点が一つでもある場合に、所定の値を移動量とすることを特徴とする請求項3に記載の映像処理装置。
  5. 前記解像度決定手段は、前記移動量と前記占有率が同じであっても、ポリゴンを描画する出力画面サイズにより、フレーム映像の解像度を縮小する縮小率を変更することを特徴とする請求項2に記載の映像処理装置。
  6. ポリゴンに対し動画をテクスチャとしてマッピング処理を行う映像処理方法であって、
    頂点情報と視点情報に基づいて、クリップ処理を行う視点クリップステップと、
    テクスチャをマッピング処理するポリゴン頂点の移動量を計算する移動量計算ステップと、
    テクスチャをマッピング処理するポリゴンの描画面積の占有率を計算する占有面積計算ステップと、
    前記移動量と前記占有率とを基に、解像度を決定する解像度決定ステップと、
    前記解像度決定ステップで決定した解像度を基に、再生対象の動画の解像度を制御してフレーム映像を生成する動画再生ステップと、
    前記視点クリップステップでクリップ処理されたポリゴン上に、前記フレーム映像を、テクスチャとしてマッピング処理するテクスチャマッピングステップとを備えることを特徴とする映像処理方法。
JP2010160374A 2010-07-15 2010-07-15 映像処理装置及び映像処理方法 Pending JP2012022554A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010160374A JP2012022554A (ja) 2010-07-15 2010-07-15 映像処理装置及び映像処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010160374A JP2012022554A (ja) 2010-07-15 2010-07-15 映像処理装置及び映像処理方法

Publications (1)

Publication Number Publication Date
JP2012022554A true JP2012022554A (ja) 2012-02-02

Family

ID=45776790

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010160374A Pending JP2012022554A (ja) 2010-07-15 2010-07-15 映像処理装置及び映像処理方法

Country Status (1)

Country Link
JP (1) JP2012022554A (ja)

Similar Documents

Publication Publication Date Title
JP7139515B2 (ja) 動画撮像方法、動画撮像装置、電子機器、およびコンピューター読取可能な記憶媒体
US20220157285A1 (en) Method for synthesizing video, terminal and storage medium
US8331701B2 (en) Image processing device for displaying an image on a display
JP6186184B2 (ja) 画像処理装置、画像処理システム、および画像処理方法
US11670339B2 (en) Video acquisition method and device, terminal and medium
EP2778898A1 (en) Image data processing method and electronic device supporting the same
US9052794B2 (en) Device for displaying movement based on user input and rendering images accordingly
CN109831662B (zh) Ar眼镜屏幕的实时画面投射方法、装置及控制器和介质
JP6066602B2 (ja) 処理装置
KR20090021404A (ko) 디스플레이 장치의 화면 크기에 기초한 적응적 영상 처리장치 및 영상 스케일링 방법
WO2021008427A1 (zh) 图像合成方法、装置、电子设备及存储介质
JP6149862B2 (ja) 表示制御装置、表示制御システムおよび表示制御方法
JP2001160154A (ja) 仮想空間通信システムにおけるアバタ表示装置、アバタ表示方法および記憶媒体
JP4572615B2 (ja) 情報処理装置および方法、記録媒体、並びにプログラム
JP5853003B2 (ja) 画面共有端末、画面共有方法、画面共有端末用プログラム
US8972877B2 (en) Information processing device for displaying control panel image and information image on a display
JP2012022554A (ja) 映像処理装置及び映像処理方法
CN101599007A (zh) 显示动态影像的系统
JP5238849B2 (ja) 電子機器、電子機器の制御方法及び電子機器の制御プログラム
TWI384393B (zh) 顯示動態影像之系統
JP5419783B2 (ja) 画像再生装置及び画像再生装置の制御方法
JP2004021149A (ja) 画像処理装置及び画像処理方法
JP2010204782A (ja) 画像処理装置、画像処理方法およびデータ構造
KR100617797B1 (ko) 휴대단말기에서 멀티미디어 데이터를 오버레이 표시하는 장치 및 방법
CN114157867A (zh) 图像处理方法、装置、电子设备及存储介质