JPWO2020036214A1 - 画像生成装置、画像生成方法及びプログラム - Google Patents

画像生成装置、画像生成方法及びプログラム Download PDF

Info

Publication number
JPWO2020036214A1
JPWO2020036214A1 JP2020537103A JP2020537103A JPWO2020036214A1 JP WO2020036214 A1 JPWO2020036214 A1 JP WO2020036214A1 JP 2020537103 A JP2020537103 A JP 2020537103A JP 2020537103 A JP2020537103 A JP 2020537103A JP WO2020036214 A1 JPWO2020036214 A1 JP WO2020036214A1
Authority
JP
Japan
Prior art keywords
pixel value
pixel
storage unit
management data
acquisition management
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020537103A
Other languages
English (en)
Other versions
JP6947939B2 (ja
Inventor
健一郎 横田
健一郎 横田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Interactive Entertainment Inc
Original Assignee
Sony Interactive Entertainment Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Interactive Entertainment Inc filed Critical Sony Interactive Entertainment Inc
Publication of JPWO2020036214A1 publication Critical patent/JPWO2020036214A1/ja
Application granted granted Critical
Publication of JP6947939B2 publication Critical patent/JP6947939B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/001Texturing; Colouring; Generation of texture or colour
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/005General purpose rendering architectures
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems

Abstract

画素値として所定値が設定されることが予め定められている画素の画素値を記憶するためのフレームバッファの記憶容量を節約できる画像生成装置、画像生成方法及びプログラムを提供する。取得管理データ記憶部(30)は、取得管理データを記憶する。画素値記憶部(32)は、画素値記憶部(32)から画素値を取得することが決定される画素の画素値を記憶する。取得決定部(34)は、取得管理データに基づいて、各画素について画素値記憶部(32)から画素値を取得するか否かを決定する。画素値決定部(38)は、画素値記憶部(32)から画素値を取得することが決定される画素については、画素値記憶部(32)から取得される画素値を当該画素の画素値として決定する。画素値決定部(38)は、画素値記憶部(32)から画素値を取得しないことが決定される画素については、所定値を当該画素の画素値として決定する。

Description

本発明は、画像生成装置、画像生成方法及びプログラムに関する。
ゲームのプレイ状況を表す背景画像と、文字、図形、又は、記号などの二次元オブジェクトによってゲームにおけるユーザインタフェースが表された前景画像とを、重畳させた重畳画像を、所定のフレームレートで生成してフレームバッファに描画することがある。
また、光学系を含むヘッドマウントディスプレイによる立体視ができるよう、歪み補正された左眼用画像及び右眼用画像をそれぞれユーザの左眼の円形視野範囲と右眼の円形視野範囲に含む矩形の三次元画像を生成してフレームバッファに描画することがある。
例えば上述の前景画像において、二次元オブジェクトが配置されるべき領域がデザイナー等により予め定められており、当該領域外の画素には無色透明を表す画素値が設定されることが予め定められていることがある。
また例えば、上述した矩形の三次元画像では、円形視野範囲外の画素には黒色を表す画素値が設定されることが予め定められている。
ここで例えば、無色透明を表す画素値や黒色を表す画素値などといった所定値が画素値として設定されることが予め定められている画素についてまで他の画素と同サイズの記憶容量をフレームバッファに確保する必要はない。例えば1つの画素の色及び透過度を記憶するために32ビットの記憶容量が必要である画像において、画素値として所定値が設定されることが予め定められている画素についてまで32ビットの記憶容量をフレームバッファに確保する必要はない。
本発明は上記実情に鑑みてなされたものであって、その目的の一つは、画素値として所定値が設定されることが予め定められている画素の画素値を記憶するためのフレームバッファの記憶容量を節約できる画像生成装置、画像生成方法及びプログラムを提供することにある。
上記課題を解決するために、本発明に係る画像生成装置は、画素値を記憶する画素値記憶部と、画像に含まれる各画素の画素値を前記画素値記憶部から取得するか否かを示す取得管理データを記憶する取得管理データ記憶部と、前記取得管理データに基づいて、前記各画素について前記画素値記憶部から画素値を取得するか否かを決定する取得決定部と、前記画素値記憶部から画素値を取得することが決定される画素の画素値を前記画素値記憶部から取得する画素値取得部と、前記各画素の画素値を決定する画素値決定部と、を含み、前記画素値記憶部は、前記画素値記憶部から画素値を取得することが決定される画素の画素値を記憶し、前記画素値決定部は、前記画素値記憶部から画素値を取得することが決定される画素については、前記画素値記憶部から取得される画素値を当該画素の画素値として決定し、前記画素値決定部は、前記画素値記憶部から画素値を取得しないことが決定される画素については、所定値を当該画素の画素値として決定する。
本発明の一態様では、前記取得管理データは、それぞれ複数の前記画素に対応付けられる個別取得管理データを複数含み、前記取得決定部は、前記個別取得管理データに基づいて、当該個別取得管理データに対応付けられる複数の画素の画素値を前記画素値記憶部から取得するか否かを決定し、前記画素値決定部は、前記画素値記憶部から画素値を取得しないことが決定される、前記個別取得管理データに対応付けられる複数の画素についてはすべて、所定値を当該複数の画素の画素値として決定する。
この態様では、前記個別取得管理データは、前記画像内の矩形領域を占める複数の画素に対応付けられていてもよい。
また、本発明の一態様では、前記画素値記憶部は、画素値及びアルファ値を記憶し、前記画素値決定部は、前記画素値記憶部から画素値を取得することが決定される画素については、前記画素値記憶部から取得される画素値及びアルファ値を当該画素の画素値及びアルファ値として決定し、前記画素値決定部は、前記画素値記憶部から画素値を取得しないことが決定される画素については、所定値を当該画素の画素値及びアルファ値として決定し、前記画素値決定部により画素値及びアルファ値が決定される画像と他の画像とを重畳することにより重畳画像を生成する画像生成部、をさらに含む。
また、本発明の一態様では、前記取得管理データは、前記画像内の所与の領域を占める画素については前記画素値記憶部から画素値を取得しないことを示す。
また、本発明に係る画像生成方法は、画素値を画素値記憶部に記憶させる画素値記憶ステップと、画像に含まれる各画素の画素値を前記画素値記憶部から取得するか否かを示す取得管理データを取得管理データ記憶部に記憶させる取得管理データ記憶ステップと、前記取得管理データに基づいて、前記各画素について前記画素値記憶部から画素値を取得するか否かを決定する取得決定ステップと、前記画素値記憶部から画素値を取得することが決定される画素の画素値を前記画素値記憶部から取得する画素値取得ステップと、前記各画素の画素値を決定する画素値決定ステップと、を含み、前記画素値記憶ステップでは、前記画素値記憶部から画素値を取得することが決定される画素の画素値を前記画素値記憶部に記憶させ、前記画素値決定ステップでは、前記画素値記憶部から画素値を取得することが決定される画素については、前記画素値記憶部から取得される画素値を当該画素の画素値として決定し、前記画素値決定ステップでは、前記画素値記憶部から画素値を取得しないことが決定される画素については、所定値を当該画素の画素値として決定する。
また、本発明に係るプログラムは、画素値を画素値記憶部に記憶させる画素値記憶手順、画像に含まれる各画素の画素値を前記画素値記憶部から取得するか否かを示す取得管理データを取得管理データ記憶部に記憶させる取得管理データ記憶手順、前記取得管理データに基づいて、前記各画素について前記画素値記憶部から画素値を取得するか否かを決定する取得決定手順、前記画素値記憶部から画素値を取得することが決定される画素の画素値を前記画素値記憶部から取得する画素値取得手順、前記各画素の画素値を決定する画素値決定手順、をコンピュータに実行させ、前記画素値記憶手順では、前記画素値記憶部から画素値を取得することが決定される画素の画素値を前記画素値記憶部に記憶させ、前記画素値決定手順では、前記画素値記憶部から画素値を取得することが決定される画素については、前記画素値記憶部から取得される画素値を当該画素の画素値として決定し、前記画素値決定手順では、前記画素値記憶部から画素値を取得しないことが決定される画素については、所定値を当該画素の画素値として決定する。
本発明の一実施形態に係る画像処理装置の構成の一例を示す図である。 前景画像に対応付けられる取得管理データのデータ構造の一例を模式的に示す図である。 三次元画像に対応付けられる取得管理データのデータ構造の一例を模式的に示す図である。 本発明の一実施形態に係る画像処理装置の機能の一例を示す機能ブロック図である。 本発明の一実施形態に係る画像処理装置で行われる処理の流れの一例を示すフロー図である。 本発明の一実施形態に係る画像処理装置で行われる処理の流れの一例を示すフロー図である。
以下、本発明の一実施形態について、図面を参照しながら説明する。
図1は、本発明の一実施形態に係る画像処理装置10の構成の一例を示す図である。本実施形態に係る画像処理装置10は、例えば、ゲームコンソール、携帯型ゲーム端末、パーソナルコンピュータ等である。図1に示すように、本実施形態に係る画像処理装置10は、プロセッサ12、記憶部14、操作部16、表示部18、を含んでいる。
プロセッサ12は、画像処理装置10にインストールされるプログラムに従って動作するCPU等のプログラム制御デバイスである。本実施形態に係るプロセッサ12には、CPUから供給されるグラフィックスコマンドやデータに基づいてフレームバッファに画像を描画するGPU(Graphics Processing Unit)も含まれている。
記憶部14は、ROMやRAM等の記憶素子やハードディスクドライブなどである。また、本実施形態に係る記憶部14には、GPUにより画像が描画されるフレームバッファの領域が確保されている。
操作部16は、キーボードやマウス、あるいはゲームコンソールのコントローラ等であって、ユーザの操作入力を受け付けて、その内容を示す信号をプロセッサ12に出力する。
表示部18は、液晶ディスプレイ等の表示デバイスであって、プロセッサ12の指示に従って各種の画像を表示する。また表示部18は、ヘッドマウントディスプレイ(HMD)であってもよい。
以下、図2及び図3に例示する取得管理データ20を用いた、本実施形態に係る画像処理装置10における画像に含まれる画素の画素値を記憶するためのフレームバッファの記憶容量の節約の一例について説明する。
図2は、本実施形態に係る取得管理データ20の一例を模式的に示す図である。
ここでは例えば、所定のフレームレートで(例えば1/60秒毎に)背景画像と前景画像とを重畳した重畳画像が生成されることとする。ここで背景画像は例えば、仮想三次元空間内に配置されたゲームキャラクタを表す仮想三次元オブジェクトを当該仮想三次元空間内の視点から見たゲームのプレイ状況を表すフレーム画像であってもよい。また前景画像は例えば、ゲームにおけるユーザインタフェースの情報を表すフレーム画像であってもよい。ここで前景画像は、文字、図形、又は、記号である二次元オブジェクトを表すフレーム画像であってもよい。そして図2に示す取得管理データ20は、当該前景画像に対応付けられる取得管理データ20の一例である。
例えば仮想三次元空間内に配置された仮想三次元オブジェクトを当該仮想三次元空間内の視点から見たゲームのプレイ状況はグラフィックスにより表現されることが多いため、その表現が多少ぼけても気にならない可能性が高い。一方で、文字、図形、又は、記号である二次元オブジェクトが配置されたフレーム画像については、解像度が低いと、ぼけてしまうため、ユーザはその内容を読み取りにくい。
このことを踏まえ、以下の説明では例えば、背景画像よりも前景画像の方が、解像度が高いこととする。そして例えば、前景画像の解像度となるよう背景画像をリサイズした上で、前景画像とリサイズ後の背景画像とを重畳させることで、重畳画像が生成されることとする。以下の説明では例えば、前景画像とリサイズ後の背景画像に対してアルファブレンド処理を実行することにより重畳画像が生成されることとする。
また以下の説明では例えば、記憶部14内に、背景画像の画素値が記憶されるフレームバッファの領域と、前景画像の画素値及びアルファ値が記憶されるフレームバッファの領域と、が別に設けられる。以下、背景画像の画素値が記憶されるフレームバッファを背景フレームバッファと呼び、前景画像の画素値及びアルファ値が記憶されるフレームバッファを前景フレームバッファと呼ぶこととする。
ここで例えば、背景フレームバッファに記憶される1つの画素の画素値のサイズは24ビットであることとする。また例えば、前景フレームバッファに記憶される1つの画素の画素値のサイズは24ビットでアルファ値のサイズは8ビットであることとする。そのため、1つの画素の画素値及びアルファ値を記憶するための前景フレームバッファの記憶容量は32ビットとなる。なお、1つの画素の赤成分、緑成分、青成分の画素値のサイズがそれぞれ8ビットであってもよい。
図2に示す取得管理データ20には、複数の個別取得管理データ22が含まれている。図2に示す1つの個別取得管理データ22は、前景画像をそれぞれ複数の画素が属する複数の画素ブロックに分割した際の1つの画素ブロックに対応付けられる。ここで例えば、1つの画素ブロックに属する画素の数は14000であり、当該画素ブロックに属する画素の画素値のサイズの合計は56キロバイトであることとする。
また例えば、当該画素ブロックは前景画像内の矩形領域を占める複数の画素であってもよい。また図2に示されている、取得管理データ20に含まれるそれぞれの個別取得管理データ22の位置は、前景画像内における当該個別取得管理データ22に対応付けられる画素ブロックの位置に対応付けられている。
図2に示す取得管理データ20は、例えば、前景フレームバッファから画素値及びアルファ値を取得するか否かを示すデータである。ここで例えば、取得管理データ20に含まれる1つの個別取得管理データ22は、例えば前景フレームバッファから画素値及びアルファ値を取得するか否かを示す1ビットのフラグであってもよい。そして例えば、前景フレームバッファから画素値及びアルファ値を取得することを示す個別取得管理データ22には値として1が設定されてもよい。また、前景フレームバッファから画素値及びアルファ値を取得しないことを示す個別取得管理データ22には値として0が設定されてもよい。
以下、値として1が設定された個別取得管理データ22を第1種個別取得管理データ22aと呼び、値として0が設定された個別取得管理データ22を第2種個別取得管理データ22bと呼ぶこととする。図2の例では、ハッチが付されている個別取得管理データ22が第1種個別取得管理データ22aに相当し、ハッチが付されていない個別取得管理データ22が第2種個別取得管理データ22bに相当する。
図2の例では、例えばデザイナー等により、前景画像にユーザインタフェースの情報を配置できる領域が予め設定されており、当該領域外の画素には無色透明を表す画素値などといった所定値が設定されることが予め定められていることとする。このような場合には例えば、図2に示すように、前景画像にユーザインタフェース等の情報を配置できる領域に対応付けられる個別取得管理データ22として、第1種個別取得管理データ22aが設定される。図2の例では左下の矩形領域に対応付けられる個別取得管理データ22として第1種個別取得管理データ22aが設定されている。そして当該矩形領域以外の画素に対応付けられる個別取得管理データ22として第2種個別取得管理データ22bが設定されている。
ここで図2の例では例えば、第1種個別取得管理データ22aに対応付けられる画素については、当該画素の画素値及びアルファ値が記憶されている前景フレームバッファへのアクセスが行われる。ここでは例えば、1つの第1種個別取得管理データ22aに対応付けられる14000画素については、当該14000画素のそれぞれについての画素値及びアルファ値が記憶されている前景フレームバッファへのアクセスが行われる。そして当該14000画素のそれぞれについての、当該画素の画素値及びアルファ値が取得される。そして当該14000画素については、取得された画素値及びアルファ値が当該画素の画素値及びアルファ値として決定される。
一方、第2種個別取得管理データ22bに対応付けられる画素については、前景フレームバッファへのアクセスは行われない。そして当該第2種個別取得管理データ22bに対応付けられる14000画素のすべてについて、所定値が当該画素の画素値及びアルファ値として決定される。ここで例えば無色透明を表す画素値及びアルファ値が当該画素の画素値及びアルファ値として決定されてもよい。このようにすれば第2種個別取得管理データ22bに対応付けられる画素については重畳画像に背景画像の内容が表れることとなる。
図3は、本実施形態に係る取得管理データ20の別の一例を模式的に示す図である。
ここでは例えば、所定のフレームレートで(例えば1/60秒毎に)三次元画像が生成されることとする。当該三次元画像は、例えば、光学系を含むヘッドマウントディスプレイによる立体視ができるよう、歪み補正された左眼用画像及び右眼用画像をそれぞれユーザの左眼の円形視野範囲と右眼の円形視野範囲に含む矩形の画像である。そして図3に示す取得管理データ20は、当該三次元画像に対応付けられる取得管理データ20の一例である。
図3に示す取得管理データ20には、複数の個別取得管理データ22が含まれている。図3に示す1つの個別取得管理データ22は、三次元画像をそれぞれ複数の画素が属する複数の画素ブロックに分割した際の1つの画素ブロックに対応付けられる。
また例えば、当該画素ブロックは前景画像内の矩形領域を占める複数の画素であってもよい。また図3に示されている、取得管理データ20に含まれるそれぞれの個別取得管理データ22の位置は、前景画像内における当該個別取得管理データ22に対応付けられる画素ブロックの位置に対応付けられている。
図3に示す取得管理データ20は、例えば、フレームバッファから画素値を取得するか否かを示すデータである。ここで例えば、取得管理データ20に含まれる1つの個別取得管理データ22は、例えばフレームバッファから画素値を取得するか否かを示す1ビットのフラグであってもよい。そして例えば、フレームバッファから画素値を取得することを示す個別取得管理データ22には値として1が設定され、フレームバッファから画素値を取得しないことを示す個別取得管理データ22には値として0が設定されてもよい。
図3の例でも、値として1が設定された個別取得管理データ22を第1種個別取得管理データ22aと呼び、値として0が設定された個別取得管理データ22を第2種個別取得管理データ22bと呼ぶこととする。図3の例でも、ハッチが付されている個別取得管理データ22が第1種個別取得管理データ22aに相当し、ハッチが付されていない個別取得管理データ22が第2種個別取得管理データ22bに相当する。
また図3には、三次元画像におけるユーザの左眼の円形視野範囲と右眼の円形視野範囲にそれぞれ対応付けられる円形の視野領域24が2つ示されている。本実施形態では例えば、当該視野領域24は、三次元画像内の所与の領域に対応付けられることとする。そして図3の例では含まれる画素のすべてが視野領域24外である画素ブロックに対応付けられる個別取得管理データ22が第2種個別取得管理データ22bとして設定される。そして含まれる画素の一部又は全部が視野領域24内である画素ブロックに対応付けられる個別取得管理データ22が第1種個別取得管理データ22aとして設定される。
図3の例では、第1種個別取得管理データ22aに対応付けられる画素については、当該画素の画素値が記憶されているフレームバッファへのアクセスが行われる。ここでは例えば、1つの第1種個別取得管理データ22aに対応付けられる複数の画素については、当該複数の画素のそれぞれについての画素値が記憶されているフレームバッファへのアクセスが行われる。そして当該複数の画素のそれぞれについての、当該画素の画素値が取得される。そして当該複数の画素については、取得された画素値が当該画素の画素値として決定される。
一方、第2種個別取得管理データ22bに対応付けられる画素については、当該画素の画素値が記憶されているフレームバッファへのアクセスは行われない。当該画素については所定値が当該画素の画素値として決定される。ここで例えば黒色を表す画素値が当該画素の画素値として決定されてもよい。このようにすれば三次元画像内の視野領域24の外の領域については黒色となる。
三次元画像では、円形視野範囲外の領域内の画素の画素値として、例えば黒色を表す画素値などといった所定値が設定されることが予め定められている。そのため上述のようにして含まれる画素のすべてが視野領域24外である画素ブロックに対応付けられる第2種個別取得管理データ22bに対応付けられる画素については、黒色を表す画素値が当該画素の画素値として決定されても問題はない。
本実施形態では、図2に示す取得管理データ20においても図3に示す取得管理データ20においても、第1種個別取得管理データ22aに対応付けられる画素の画素値を記憶するためのフレームバッファの記憶容量が確保される。一方で、第2種個別取得管理データ22bに対応付けられる画素の画素値を記憶するためのフレームバッファの記憶容量は確保されない。そして本実施形態では例えば、第2種個別取得管理データ22bに対応付けられる画素の画素値を記憶するためのフレームバッファの記憶容量に相当する記憶部14内の領域については、例えばフレームバッファとしての用途以外に利用可能となる。
なお取得管理データ20そのものについては、記憶部14においてフレームバッファとして確保されている領域に記憶されてもよいし、記憶部14においてフレームバッファとして確保されている領域外に記憶されてもよい。
以上のようにして本実施形態によれば、画素値として所定値が設定されることが予め定められている画素の画素値を記憶するためのフレームバッファの記憶容量を節約できることとなる。例えば図2を参照して説明した例では、前景画像に含まれるすべての画素の画素値及びアルファ値が前景フレームバッファに記憶される場合と比較して、記憶部14に前景フレームバッファとして確保される領域のサイズが節約できることとなる。また例えば図3を参照して説明した例では、三次元画像に含まれるすべての画素の画素値がフレームバッファに記憶される場合と比較して、記憶部14にフレームバッファとして確保される領域のサイズが節約できることとなる。
なお取得管理データ20を記憶するための記憶容量が記憶部14に必要ではあるが、取得管理データ20の記憶に必要な記憶部14の記憶容量は、画素値の記憶に必要な記憶部14の記憶容量に比べて小さい。そのため取得管理データ20が記憶部14においてフレームバッファとして確保されている領域に記憶されたとしても全体としてはフレームバッファの記憶容量を節約できることとなる。
また例えば、図2を参照して説明した例において、前景フレームバッファに画素値のみが記憶されアルファ値が記憶されなくてもよい。そしてこの場合に例えば、リサイズ後の背景画像に前景画像を上書きすることで重畳画像が生成されるようにしてもよい。
以下、取得管理データ20を用いた画素値の決定を中心に、本実施形態に係る画像処理装置10の機能及び本実施形態に係る画像処理装置10で実行される処理についてさらに説明する。
図4は、本実施形態に係る画像処理装置10で実装される機能の一例を示す機能ブロック図である。なお、本実施形態に係る画像処理装置10で、図4に示す機能のすべてが実装される必要はなく、また、図4に示す機能以外の機能が実装されていても構わない。
図4に示すように、画像処理装置10には、機能的には例えば、取得管理データ記憶部30、画素値記憶部32、取得決定部34、画素値取得部36、画素値決定部38、画像生成部40、表示制御部42、が含まれる。取得管理データ記憶部30、画素値記憶部32は、記憶部14を主として実装される。取得決定部34、画素値取得部36、画素値決定部38、画像生成部40は、プロセッサ12を主として実装される。表示制御部42は、プロセッサ12及び表示部18を主として実装される。画像処理装置10は、本実施形態における、画像を生成する画像生成装置としての役割を担うこととなる。
以上の機能は、コンピュータである画像処理装置10にインストールされた、以上の機能に対応する指令を含むプログラムをプロセッサ12で実行することにより実装されてもよい。このプログラムは、例えば、光ディスク、磁気ディスク、磁気テープ、光磁気ディスク、フラッシュメモリ等のコンピュータ読み取り可能な情報記憶媒体を介して、あるいは、インターネットなどを介して画像処理装置10に供給されてもよい。
取得管理データ記憶部30は、本実施形態では例えば、画像に含まれる各画素の画素値を画素値記憶部32から取得するか否かを示す取得管理データ20を記憶する。
ここで取得管理データ20は、それぞれ複数の画素に対応付けられる個別取得管理データ22を複数含んでいてもよい。そして、図2を参照して説明したように、個別取得管理データ22が画像内の矩形領域を占める複数の画素に対応付けられていてもよい。図2及び図3の例では、1つの個別取得管理データ22は、画像内の矩形領域内の複数の画素(画素ブロック)に対応付けられている。なお、1つの個別取得管理データ22が、1つの画素に対応付けられていてもよい。
また取得管理データ20は、画像内の所与の領域を占める画素については画素値記憶部32から画素値を取得しないことを示していてもよい。例えば図2の例のように、二次元オブジェクトが配置できる領域外の所与の領域を占める画素に対応付けられる個別取得管理データ22が、画素値記憶部32にアクセスしないことを示していてもよい。また例えば図3の例のように、視野領域24に対応付けられる所与の円形視野範囲の外の所与の領域を占める画素に対応付けられる個別取得管理データ22が、画素値記憶部32にアクセスしないことを示していてもよい。
画素値記憶部32は、本実施形態では例えば、画素値を記憶する。ここで例えば、画素値記憶部32は、取得決定部34によって画素値記憶部32から画素値を取得することが決定される画素の画素値を記憶してもよい。
また画素値記憶部32が、画素値記憶部32から画素値を取得することが決定される画素の画素値及びアルファ値を記憶してもよい。
また本実施形態では例えば、画素値記憶部32から画素値を取得しないことが決定される画素の画素値を記憶するためのフレームバッファの記憶容量は画素値記憶部32に確保されない。
例えば、図2を参照した説明における前景画像の画素の画素値及びアルファ値が記憶される前景フレームバッファや図3を参照した説明における三次元画像の画素の画素値が記憶されるフレームバッファとして確保される領域が、画素値記憶部32に相当する。
取得決定部34は、本実施形態では例えば、取得管理データ20に基づいて、画像に含まれる各画素について画素値記憶部32から画素値を取得するか否かを決定する。ここで取得決定部34は、個別取得管理データ22に基づいて、当該個別取得管理データ22に対応付けられる複数の画素の画素値を画素値記憶部32から取得するか否かを決定してもよい。例えば、第1種個別取得管理データ22aに対応付けられる画素については、画素値記憶部32から画素値を取得することが決定されてもよい。また、第2種個別取得管理データ22bに対応付けられる画素については、画素値記憶部32から画素値を取得しないことが決定されてもよい。
画素値取得部36は、本実施形態では例えば、画素値記憶部32から画素値を取得することが決定される画素の画素値を画素値記憶部32から取得する。
画素値決定部38は、本実施形態では例えば、画像に含まれる各画素の画素値を決定する。ここで画素値決定部38は、例えば、画素値記憶部32から画素値を取得することが決定される画素については、画素値記憶部32から取得される画素値を当該画素の画素値として決定する。また画素値決定部38は、例えば、画素値記憶部32から画素値を取得しないことが決定される画素については、所定値を当該画素の画素値として決定する。
ここで画素値決定部38が、画素値及びアルファ値を決定してもよい。例えば画素値記憶部32から画素値を取得することが決定される画素については、画素値記憶部32から取得される画素値及びアルファ値を当該画素の画素値及びアルファ値として決定してもよい。また例えば、画素値記憶部32から画素値を取得しないことが決定される画素については、当該画素の画素値及びアルファ値として所定値を決定してもよい。図2を参照して説明した例では、当該所定値は無色透明を表す画素値及びアルファ値である。また図3を参照して説明した例では、当該所定値は黒色を表す画素値である。
また画素値決定部38が、画素値記憶部32から画素値を取得しないことが決定される、第2種個別取得管理データ22bに対応付けられる複数の画素についてはすべて、所定値を当該複数の画素の画素値として決定してもよい。ここで第2種個別取得管理データ22bに対応付けられる複数の画素についてはすべて、所定値が当該複数の画素の画素値及びアルファ値として決定されてもよい。
画像生成部40は、本実施形態では例えば、画素値決定部38により決定される画素値に基づく画像を生成する。ここで画像生成部40は、画素値決定部38により画素値及びアルファ値が決定される画像と他の画像とを重畳することにより重畳画像を生成してもよい。例えば図2を参照して説明したように、画像生成部40は、画素値決定部38により画素値が決定される前景画像と、背景フレームバッファに画素の画素値が記憶されている背景画像と、を重畳することにより、重畳画像を生成してもよい。また前景画像とリサイズ後の背景画像とを重畳することにより重畳画像が生成されてもよい
また例えば、画素値決定部38が、重畳画像に含まれる各画素の画素値を決定してもよい。ここで例えば、前景画像における画素のアルファ値に基づくアルファブレンド処理が実行されてもよい。例えば前景画像に含まれる画素のアルファ値と、当該画素の画素値と、当該画素に対応付けられる背景画像内の画素の画素値とに基づいて、当該画素に対応付けられる重畳画像内の画素の画素値が決定されてもよい。そして画像生成部40が、このようにして決定される画素値に基づいて重畳画像を生成してもよい。
また図3を参照して説明したように、画像生成部40は、三次元画像を生成してもよい。
表示制御部42は、本実施形態では例えば、画像生成部40が生成する画像を表示部18に表示させる。ここで例えば図2を参照して説明した重畳画像がディスプレイに表示されるようにしてもよい。また例えば図3を参照して説明した三次元画像がHMDに表示されるようにしてもよい。
ここで、本実施形態に係る画像処理装置10で行われる処理の流れの一例を、図5に例示するフロー図を参照しながら説明する。本処理例に示す処理は、図2を参照して説明した例に相当する。
なお本処理例では、所定のフレームレートで、当該フレームにおける取得管理データ20が取得管理データ記憶部30に記憶されることとする。また本処理例では、所定のフレームレートで、背景フレームバッファに当該フレームにおける背景画像の画素値が記憶されることとする。また所定のフレームレートで、前景フレームバッファに当該フレームにおける第1種個別取得管理データ22aに対応付けられる前景画像の画素の画素値及びアルファ値が記憶されることとする。
まず取得決定部34が、取得管理データ記憶部30から、当該フレームにおける取得管理データ20を取得する(S101)。
そして取得決定部34が、S101に示す処理で取得された取得管理データ20に含まれる個別取得管理データ22のうちから、当該フレームにおいて、S103〜S107に示す処理が未実行である個別取得管理データ22を1つ選択する(S102)。
そして取得決定部34が、S102に示す処理で選択された個別取得管理データ22に設定されている値を確認する(S103)。
ここで値が1であることが確認されたとする。すなわち、当該個別取得管理データ22が第1種個別取得管理データ22aであることが確認されたとする。この場合は、画素値取得部36が、画素値記憶部32にアクセスして、当該第1種個別取得管理データ22aに対応付けられる画素ブロックに属する複数の画素のそれぞれについての画素値及びアルファ値を取得する(S104)。
そして画素値決定部38が、当該画素ブロックに属する複数の画素のそれぞれについて、S104に示す処理で取得された当該画素の画素値及びアルファ値を、前景画像に含まれる当該画素の画素値及びアルファ値として決定する(S105)。
一方、S103に示す処理で値が0であることが確認されたとする。すなわち、当該個別取得管理データ22が第2種個別取得管理データ22bであることが確認されたとする。この場合は、画素値決定部38が、当該第2種個別取得管理データ22bに対応付けられる画素ブロックに属するすべての画素について、前景画像に含まれる当該画素の画素値及びアルファ値として所定値を決定する(S106)。ここでは例えば当該画素の画素値及びアルファ値として無色透明を表す画素値及びアルファ値が決定される。
そして画素値決定部38が、当該画素ブロックに属する複数の画素に対応付けられる重畳画像内の複数の画素についての画素値を決定する(S107)。ここで例えば、S105又はS106に示す処理で決定された前景画像に含まれる画素の画素値及びアルファ値と、当該画素に対応付けられる背景画像の画素の画素値と、に基づいて、重畳画像における当該画素の画素値が決定されてもよい。
そして画素値決定部38が、当該フレームにおいてすべての個別取得管理データ22についてS103〜S107に示す処理が実行されたか否かを確認する(S108)。
当該フレームにおいてすべての個別取得管理データ22についてS103〜S107に示す処理が実行されていない場合は(S108:N)、S102に示す処理に戻る。
当該フレームにおいてすべての個別取得管理データ22についてS103〜S107に示す処理が実行された場合は(S108:Y)、画像生成部40が、当該フレームにおける重畳画像を生成する(S109)。ここでは例えば、S107に示す処理で決定された画素値に基づいて当該重畳画像は生成される。
そして表示制御部42が、S109に示す処理で生成された重畳画像を表示部18に表示させて(S110)、S101に示す処理に戻る。
本処理例では、S101〜S110に示す処理が所定のフレームレートで繰り返し実行されることとなる。
なお以上の処理例において、所定のフレームレートで、当該フレームにおける取得管理データ20が取得管理データ記憶部30に記憶されなくてもよい。例えばすべてのフレームにおいて共通の取得管理データ20が用いられるようにしてもよい。この場合はS110に示す処理が終了した際にS102に示す処理に戻り、次のフレームにおける処理が実行されるようにしてもよい。
次に、本実施形態に係る画像処理装置10で行われる処理の流れの別の一例を、図6に例示するフロー図を参照しながら説明する。本処理例に示す処理は、図3を参照して説明した例に相当する。
なお本処理例では、所定のフレームレートで、当該フレームにおける取得管理データ20が取得管理データ記憶部30に記憶されることとする。また本処理例では、所定のフレームレートで、フレームバッファに当該フレームにおける第1種個別取得管理データ22aに対応付けられる三次元画像の画素の画素値が記憶されることとする。
まず取得決定部34が、取得管理データ記憶部30から、当該フレームにおける取得管理データ20を取得する(S201)。
そして取得決定部34が、S201に示す処理で取得された取得管理データ20に含まれる個別取得管理データ22のうちから、当該フレームにおいて、S203〜S206に示す処理が未実行である個別取得管理データ22を1つ選択する(S202)。
そして取得決定部34が、S202に示す処理で選択された個別取得管理データ22に設定されている値を確認する(S203)。
ここで値が1であることが確認されたとする。すなわち、当該個別取得管理データ22が第1種個別取得管理データ22aであることが確認されたとする。この場合は、画素値取得部36が、画素値記憶部32にアクセスして、当該第1種個別取得管理データ22aに対応付けられる画素ブロックに属する複数の画素のそれぞれについての画素値を取得する(S204)。
そして画素値決定部38が、当該画素ブロックに属する複数の画素のそれぞれについて、S204に示す処理で取得された当該画素の画素値を、三次元画像に含まれる当該画素の画素値として決定する(S205)。
一方、S203に示す処理で値が0であることが確認されたとする。すなわち、当該個別取得管理データ22が第2種個別取得管理データ22bであることが確認されたとする。この場合は、画素値決定部38が、当該第2種個別取得管理データ22bに対応付けられる画素ブロックに属するすべての画素について、三次元画像に含まれる当該画素の画素値として所定値を決定する(S206)。ここでは例えば当該画素の画素値として黒色を表す画素値が決定される。
そして画素値決定部38が、当該フレームにおいてすべての個別取得管理データ22についてS203〜S206に示す処理が実行されたか否かを確認する(S207)。
当該フレームにおいてすべての個別取得管理データ22についてS203〜S206に示す処理が実行されていない場合は(S207:N)、S202に示す処理に戻る。
当該フレームにおいてすべての個別取得管理データ22についてS203〜S206に示す処理が実行された場合は(S207:Y)、画像生成部40が、当該フレームにおける三次元画像を生成する(S208)。ここでは例えば、S205又はS206に示す処理で決定された画素値に基づいて当該三次元画像は生成される。
そして表示制御部42が、S208に示す処理で生成された三次元画像を表示部18に表示させて(S209)、S201に示す処理に戻る。
本処理例では、S201〜S209に示す処理が所定のフレームレートで繰り返し実行されることとなる。
なお以上の処理例において、所定のフレームレートで、当該フレームにおける取得管理データ20が取得管理データ記憶部30に記憶されなくてもよい。例えばすべてのフレームにおいて共通の取得管理データ20が用いられるようにしてもよい。この場合はS209に示す処理が終了した際にS202に示す処理に戻り、次のフレームにおける処理が実行されるようにしてもよい。
なお、本発明は上述の実施形態に限定されるものではない。
また、上記の具体的な文字列や数値及び図面中の具体的な文字列や数値は例示であり、これらの文字列や数値には限定されない。

Claims (7)

  1. 画素値を記憶する画素値記憶部と、
    画像に含まれる各画素の画素値を前記画素値記憶部から取得するか否かを示す取得管理データを記憶する取得管理データ記憶部と、
    前記取得管理データに基づいて、前記各画素について前記画素値記憶部から画素値を取得するか否かを決定する取得決定部と、
    前記画素値記憶部から画素値を取得することが決定される画素の画素値を前記画素値記憶部から取得する画素値取得部と、
    前記各画素の画素値を決定する画素値決定部と、を含み、
    前記画素値記憶部は、前記画素値記憶部から画素値を取得することが決定される画素の画素値を記憶し、
    前記画素値決定部は、前記画素値記憶部から画素値を取得することが決定される画素については、前記画素値記憶部から取得される画素値を当該画素の画素値として決定し、
    前記画素値決定部は、前記画素値記憶部から画素値を取得しないことが決定される画素については、所定値を当該画素の画素値として決定する、
    ことを特徴とする画像生成装置。
  2. 前記取得管理データは、それぞれ複数の前記画素に対応付けられる個別取得管理データを複数含み、
    前記取得決定部は、前記個別取得管理データに基づいて、当該個別取得管理データに対応付けられる複数の画素の画素値を前記画素値記憶部から取得するか否かを決定し、
    前記画素値決定部は、前記画素値記憶部から画素値を取得しないことが決定される、前記個別取得管理データに対応付けられる複数の画素についてはすべて、所定値を当該複数の画素の画素値として決定する、
    ことを特徴とする請求項1に記載の画像生成装置。
  3. 前記個別取得管理データは、前記画像内の矩形領域を占める複数の画素に対応付けられる、
    ことを特徴とする請求項2に記載の画像生成装置。
  4. 前記画素値記憶部は、画素値及びアルファ値を記憶し、
    前記画素値決定部は、前記画素値記憶部から画素値を取得することが決定される画素については、前記画素値記憶部から取得される画素値及びアルファ値を当該画素の画素値及びアルファ値として決定し、
    前記画素値決定部は、前記画素値記憶部から画素値を取得しないことが決定される画素については、所定値を当該画素の画素値及びアルファ値として決定し、
    前記画素値決定部により画素値及びアルファ値が決定される画像と他の画像とを重畳することにより重畳画像を生成する画像生成部、をさらに含む、
    ことを特徴とする請求項1から3のいずれか一項に記載の画像生成装置。
  5. 前記取得管理データは、前記画像内の所与の領域を占める画素については前記画素値記憶部から画素値を取得しないことを示す、
    ことを特徴とする請求項1から4のいずれか一項に記載の画像生成装置。
  6. 画素値を画素値記憶部に記憶させる画素値記憶ステップと、
    画像に含まれる各画素の画素値を前記画素値記憶部から取得するか否かを示す取得管理データを取得管理データ記憶部に記憶させる取得管理データ記憶ステップと、
    前記取得管理データに基づいて、前記各画素について前記画素値記憶部から画素値を取得するか否かを決定する取得決定ステップと、
    前記画素値記憶部から画素値を取得することが決定される画素の画素値を前記画素値記憶部から取得する画素値取得ステップと、
    前記各画素の画素値を決定する画素値決定ステップと、を含み、
    前記画素値記憶ステップでは、前記画素値記憶部から画素値を取得することが決定される画素の画素値を前記画素値記憶部に記憶させ、
    前記画素値決定ステップでは、前記画素値記憶部から画素値を取得することが決定される画素については、前記画素値記憶部から取得される画素値を当該画素の画素値として決定し、
    前記画素値決定ステップでは、前記画素値記憶部から画素値を取得しないことが決定される画素については、所定値を当該画素の画素値として決定する、
    ことを特徴とする画像生成方法。
  7. 画素値を画素値記憶部に記憶させる画素値記憶手順、
    画像に含まれる各画素の画素値を前記画素値記憶部から取得するか否かを示す取得管理データを取得管理データ記憶部に記憶させる取得管理データ記憶手順、
    前記取得管理データに基づいて、前記各画素について前記画素値記憶部から画素値を取得するか否かを決定する取得決定手順、
    前記画素値記憶部から画素値を取得することが決定される画素の画素値を前記画素値記憶部から取得する画素値取得手順、
    前記各画素の画素値を決定する画素値決定手順、をコンピュータに実行させ、
    前記画素値記憶手順では、前記画素値記憶部から画素値を取得することが決定される画素の画素値を前記画素値記憶部に記憶させ、
    前記画素値決定手順では、前記画素値記憶部から画素値を取得することが決定される画素については、前記画素値記憶部から取得される画素値を当該画素の画素値として決定し、
    前記画素値決定手順では、前記画素値記憶部から画素値を取得しないことが決定される画素については、所定値を当該画素の画素値として決定する、
    ことを特徴とするプログラム。
JP2020537103A 2018-08-17 2019-08-15 画像生成装置、画像生成方法及びプログラム Active JP6947939B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018153493 2018-08-17
JP2018153493 2018-08-17
PCT/JP2019/032038 WO2020036214A1 (ja) 2018-08-17 2019-08-15 画像生成装置、画像生成方法及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2020036214A1 true JPWO2020036214A1 (ja) 2021-04-30
JP6947939B2 JP6947939B2 (ja) 2021-10-13

Family

ID=69525442

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020537103A Active JP6947939B2 (ja) 2018-08-17 2019-08-15 画像生成装置、画像生成方法及びプログラム

Country Status (4)

Country Link
US (1) US11551383B2 (ja)
JP (1) JP6947939B2 (ja)
CN (1) CN112567430A (ja)
WO (1) WO2020036214A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11580832B2 (en) * 2020-10-23 2023-02-14 Himax Technologies Limited Motion detection system and method

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5008838A (en) * 1989-11-17 1991-04-16 Digital Corporation Method for simultaneous initialization of a double buffer and a frame buffer
JPH07240845A (ja) 1994-02-28 1995-09-12 Fuji Film Micro Device Kk 画像のデータ圧縮および伸張
US6011566A (en) * 1994-09-01 2000-01-04 Unisys Corporation System and method to display raster images with negligible delay time and reduced memory requirements
JPH10288980A (ja) 1997-02-17 1998-10-27 Seiko Epson Corp 画像表示装置および画像表示システム
US6198835B1 (en) * 1998-01-08 2001-03-06 Xerox Corporation Image input device and method for providing scanning artifact detection
AUPQ377899A0 (en) * 1999-10-29 1999-11-25 Canon Kabushiki Kaisha Phase three kernel selection
US20070188506A1 (en) * 2005-02-14 2007-08-16 Lieven Hollevoet Methods and systems for power optimized display
US7450778B2 (en) * 2005-03-17 2008-11-11 Hewlett-Packard Development Company, L.P. Artifact reduction in a digital video
JP5992997B2 (ja) * 2011-04-28 2016-09-14 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 映像符号化信号を発生する方法及び装置
JP2013187595A (ja) 2012-03-06 2013-09-19 Casio Comput Co Ltd 画像処理装置、画像処理方法及びプログラム
US9928610B2 (en) * 2014-06-27 2018-03-27 Samsung Electronics Co., Ltd. Motion based adaptive rendering
US10078883B2 (en) * 2015-12-03 2018-09-18 Qualcomm Incorporated Writing graphics data from local memory to system memory
US10269119B2 (en) * 2015-12-07 2019-04-23 Avigilon Analytics Corporation System and method for background and foreground segmentation
US10127632B1 (en) * 2016-09-05 2018-11-13 Google Llc Display and update of panoramic image montages
US10762702B1 (en) * 2018-06-22 2020-09-01 A9.Com, Inc. Rendering three-dimensional models on mobile devices

Also Published As

Publication number Publication date
US11551383B2 (en) 2023-01-10
WO2020036214A1 (ja) 2020-02-20
JP6947939B2 (ja) 2021-10-13
CN112567430A (zh) 2021-03-26
US20210233292A1 (en) 2021-07-29

Similar Documents

Publication Publication Date Title
US11344806B2 (en) Method for rendering game, and method, apparatus and device for generating game resource file
CN109242943B (zh) 一种图像渲染方法、装置及图像处理设备、存储介质
CN105405103B (zh) 通过在空间上和/或在时间上改变采样模式增强抗锯齿
KR101952922B1 (ko) 중간-분류 아키텍처에서 프레임 대 프레임 일관성의 활용
KR102162107B1 (ko) 화상 처리 장치, 화상 처리 방법 및 프로그램
US6954223B2 (en) Stereoscopic image generating apparatus and game apparatus
TW201248542A (en) Z culling method, three-dimensional graphics processing method of Z culling and apparatus thereof
EP3816941A1 (en) Image processing system and method
CN108846791A (zh) 物理模型的渲染方法、装置及电子设备
US8824778B2 (en) Systems and methods for depth map generation
US20140306958A1 (en) Stereoscopic rendering system
JP6947939B2 (ja) 画像生成装置、画像生成方法及びプログラム
CN112740278B (zh) 用于图形处理的方法及设备
US10114447B2 (en) Image processing method and apparatus for operating in low-power mode
US8817081B2 (en) Image processing apparatus, image processing method, and program
JP2010182094A (ja) 立体画像描画装置、立体画像描画方法、立体画像描画プログラム
CN112783584B (zh) 终端系统的图层显示方法、装置及车机设备、存储装置
CN109741465B (zh) 图像处理方法及装置、显示装置
WO2010139984A1 (en) Device and method of display
US7724253B1 (en) System and method for dithering depth values
CN105631197B (zh) 病理切片的保存方法及装置
JP5281720B1 (ja) 立体映像処理装置及び立体映像処理方法
JP2011082698A (ja) 画像生成装置、画像生成方法、および、プログラム
CN109726603B (zh) 图像显示方法及装置
JP5556493B2 (ja) 表示装置、表示方法およびプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201015

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201015

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210824

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210916

R150 Certificate of patent or registration of utility model

Ref document number: 6947939

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150