JP2023166960A - 画像処理プログラム、画像処理装置、及び画像処理方法 - Google Patents

画像処理プログラム、画像処理装置、及び画像処理方法 Download PDF

Info

Publication number
JP2023166960A
JP2023166960A JP2022190848A JP2022190848A JP2023166960A JP 2023166960 A JP2023166960 A JP 2023166960A JP 2022190848 A JP2022190848 A JP 2022190848A JP 2022190848 A JP2022190848 A JP 2022190848A JP 2023166960 A JP2023166960 A JP 2023166960A
Authority
JP
Japan
Prior art keywords
shading
image processing
dimensional
image
color
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022190848A
Other languages
English (en)
Inventor
武史 大坂
Takeshi Osaka
俊輔 小森
Shunsuke Komori
典良 辻本
Noriyoshi Tsujimoto
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Activ8
Activ8 Inc
Original Assignee
Activ8
Activ8 Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Activ8, Activ8 Inc filed Critical Activ8
Priority to JP2022190848A priority Critical patent/JP2023166960A/ja
Publication of JP2023166960A publication Critical patent/JP2023166960A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Image Generation (AREA)
  • Processing Or Creating Images (AREA)

Abstract

Figure 2023166960000001
【課題】3次元キャラクターをセルルックに維持しながら3次元背景と馴染ませて表示可
能とする。
【解決手段】3次元背景上で仮想カメラから見える3次元キャラクターの画像を生成する
ための画像処理プログラムは、画像処理装置に、前記3次元背景中の光源の情報を用いて
、前記3次元キャラクターの表面に前記光源の色の情報を反映させた明暗を付与するシェ
ーディングを行うシェーディング処理を実行させる。前記シェーディング処理は、前記明
暗を平均化するように前記シェーディングを緩和するシェーディング緩和処理と、前記シ
ェーディング緩和処理の後において前記表面の色成分を強調するように補正する色補正処
理と、を含む。
【選択図】図4

Description

本発明は、画像処理プログラム、画像処理装置、及び画像処理方法に関する。
従来、動画配信システムやゲームシステムにおいて、3次元モデルにより構成される3
次元キャラクターを3次元仮想空間上でリアルタイムに操作するとともに、当該3次元仮
想空間内の仮想カメラから見える画像を生成して表示するリアルタイム画像処理技術が知
られている。このような画像処理においては、よりリアルで高品質な画像を生成すること
が望まれており、リアルな画像を生成するための技術の1つとして「シェーディング」と
呼ばれる技術がある。
シェーディングは、3次元コンピュータグラフィックスにおける描画処理(「レンダリ
ング」とも称される)の最終的な段階において、光の当たり具合等を勘案して各画素の色
を変化させ、明暗(別の観点では、陰影)を付ける処理である。具体的には、3次元コン
ピュータグラフィックスでは、3次元仮想空間内に光を発する様々な光源が存在しており
、光源からの入射光や反射光等を3次元キャラクターに当てて、その効果によって面や面
上の各点がどのように発色するかを計算して最終的な描画像を得る。
このような陰影付けを面単位で処理し、面全体を均一な色で塗るシェーディングをフラ
ットシェーディングという。また、面の境界線がくっきり描かれた角張った表現になって
しまうといったフラットシェーディングの欠点を補うために、ある頂点の色から別の頂点
の色へ向かって途中の各点の色を滑らかに変化させるグローシェーディング(Goura
ud shading)や、各点の法線ベクトルを線形補間によって求めて光の反射を計
算するフォンシェーディング(Phong shading)等の手法が一般的に用いら
れている。
さらに、アニメーションのセル画の塗り方に似た段階的な陰影付けを行うトゥーンシェ
ーディング(toon shading)も用いられている(例えば、特許文献1及び2
参照)。トゥーンシェーディングでは、3次元モデルをアニメーションのセル画のように
色の明暗の境目がはっきりとするように表示する。具体的には、ライティングによってポ
リゴンの輝度(明度)が決定した後、ある輝度からある輝度までが同一の輝度となるよう
に輝度を加工することで、滑らかな輝度変化を数段階の輝度変化に加工する。その後、こ
の数段階の輝度を用いてポリゴンの色やテクスチャの色に明暗が付けられる。その結果、
アニメーションのセル画の特徴である、明暗の境目がはっきりとした画像が得られる。
特開2001-084396号公報 特開2005-044194号公報
近年、SDR(Standard Dynamic Range)画像よりも輝度のレ
ンジが広く、実際の明るさを表現したリアルな画像であるHDR(High Dynam
ic Range)画像の普及が進んでいる。HDR画像によれば、白飛びのない明部と
、黒つぶれのない暗部とを同時に再現することが可能である。
例えば実写素材から生成したHDR画像を、3次元キャラクターの3次元背景として用
いることが考えられる。その場合、3次元の背景画像中の光源の情報に基づいてシェーデ
ィングを行うことにより、3次元キャラクターを3次元背景画像と自然に合成する(すな
わち、3次元キャラクターを3次元背景画像と馴染ませる)ことが望まれる。
しかしながら、アニメーション調の3次元キャラクター(「セルルックな3次元キャラ
クター」とも称される)に対して、例えばHDR画像等を3次元背景として用いてシェー
ディングを施すと、明暗(陰影)によって3次元キャラクターの立体感が強調され、3次
元キャラクターがセルルックではなくなってしまうという問題がある。トゥーンシェーデ
ィングを適用することも考えられるが、トゥーンシェーディングでは、3次元背景の色情
報を3次元キャラクターに反映させて背景と馴染ませることが難しく、不自然な描画にな
ってしまう。
そこで、本発明は、3次元キャラクターをセルルックに維持しながら3次元背景と馴染
ませて表示可能とする画像処理プログラム、画像処理装置、及び画像処理方法を提供する
ことを目的とする。
第1の態様に係る画像処理プログラムは、3次元背景上で仮想カメラから見える3次元
キャラクターの画像を生成するためのプログラムである。前記画像処理プログラムは、画
像処理装置に、前記3次元背景中の光源の情報を用いて、前記3次元キャラクターの表面
に前記光源の色の情報を反映させた明暗を付与するシェーディングを行うシェーディング
処理を実行させる。前記シェーディング処理は、前記明暗を平均化するように前記シェー
ディングを緩和するシェーディング緩和処理と、前記シェーディング緩和処理の後におい
て前記表面の色成分を強調するように補正する色補正処理と、を含む。
第2の態様に係る画像処理装置は、3次元背景上で仮想カメラから見える3次元キャラ
クターの画像を生成するための装置である。前記画像処理装置は、前記3次元背景中の光
源の情報を用いて、前記3次元キャラクターの表面に前記光源の色の情報を反映させた明
暗を付与するシェーディングを行うシェーディング処理を実行する処理部を備える。前記
処理部は、前記明暗を平均化するように前記シェーディングを緩和するシェーディング緩
和処理と、前記シェーディング緩和処理の後において前記表面の色成分を強調するように
補正する色補正処理と、を実行する。
第3の態様に係る画像処理方法は、3次元背景上で仮想カメラから見える3次元キャラ
クターの画像を生成するための方法である。前記画像処理方法は、前記3次元背景中の光
源の情報を用いて、前記3次元キャラクターの表面に前記光源の色の情報を反映させた明
暗を付与するシェーディングを行うシェーディング処理を実行するステップを備える。前
記シェーディング処理を実行するステップは、前記明暗を平均化するように前記シェーデ
ィングを緩和するシェーディング緩和ステップと、前記シェーディング緩和処理の後にお
いて前記表面の色成分を強調するように補正する色補正ステップと、を含む。
本発明の一態様によれば、3次元キャラクターをセルルックに維持しながら3次元背景
と馴染ませて表示可能とする画像処理プログラム、画像処理装置、及び画像処理方法を提
供できる。
実施形態に係る画像処理システムの構成を示す図である。 実施形態に係るシェーディング緩和処理を説明するための図である。 実施形態に係るシェーディング緩和処理の効果を説明するための図である。 実施形態に係る画像処理方法を示す図である。
図面を参照して実施形態について説明する。図面の記載において、同一又は類似の部分
には同一又は類似の符号を付している。
(画像処理システムの構成)
まず、図1を参照して、実施形態に係る画像処理システムの構成について説明する。図
1は、実施形態に係る画像処理システム1の構成を示す図である。画像処理システム1は
、画像処理装置100と、モーションキャプチャ装置200と、仮想カメラ操作装置30
0と、表示装置400とを有する。
画像処理装置100は、3次元仮想空間において3次元キャラクター(具体的には、3
次元キャラクター)を仮想カメラにより撮影して得られた画像を生成するための装置であ
る。画像処理装置100は、サーバ側に設けられる装置であってもよいし、端末側に設け
られる装置であってもよい。画像処理装置100は、3次元仮想空間上で3次元キャラク
ターをリアルタイムで動作させるとともに、当該3次元仮想空間内の仮想カメラから見え
る画像を生成するリアルタイム画像処理を行う。実施形態では、画像処理装置100を用
いて表示装置400に対する動画配信を行う一例を主として想定する。画像処理装置10
0の詳細については後述する。
モーションキャプチャ装置200は、現実の人物の3次元の動きをキャプチャすること
で動きデータを生成し、動きデータを画像処理装置100に出力する装置である。モーシ
ョンキャプチャ装置200は、ネットワークを介して画像処理装置100と接続されてい
てもよい。モーションキャプチャの方式は、光学式モーションキャプチャ、慣性センサ式
モーションキャプチャ、機械式モーションキャプチャ、若しくは磁気式モーションキャプ
チャ、又はこれらの組み合わせであってもよい。光学式モーションキャプチャは、複数の
カメラでキャプチャ空間を構築し、反射マーカーの位置をトラッキングする方式である。
慣性センサ式モーションキャプチャは、ジャイロセンサ(角速度計)及び加速度計からな
る慣性センサから動きの情報を逆算して位置や姿勢を算出する方式である。機械式モーシ
ョンキャプチャは、ポジションメータやエンコーダのような回転角や変位を測定するセン
サを使用した方式である。磁気式モーションキャプチャは、磁場発生装置を用いてキャプ
チャ範囲に磁場を送り、装着した磁気センサで受信する方式である。
仮想カメラ操作装置300は、3次元仮想空間における撮影を行う仮想カメラを操作す
るユーザ操作を受け付けてカメラ操作データを生成し、カメラ操作データを画像処理装置
100に出力する装置である。仮想カメラ操作装置300は、ネットワークを介して画像
処理装置100と接続されていてもよい。
表示装置400は、画像処理装置100により生成された画像データ(動画像データ)
を取得し、画像の表示を行う装置である。表示装置400は、ネットワークを介して画像
処理装置100と接続されていてもよい。表示装置400は、画像を表示可能な装置であ
ればよく、例えば、スマートフォン、PC(Personal Computer)、又
はタブレット端末等であってもよい。表示装置400は、液晶ディスプレイ又は有機EL
(Electro Luminescence)ディスプレイを含む。
画像処理装置100は、記憶部110と、処理部120とを有する。記憶部110は、
各種の情報及びデータを記憶する。記憶部110は、プログラム及びデータを記憶する少
なくとも1つのメモリを含む。記憶部110は、RAM(Random Access
Memory)等の一時的な記憶領域として利用される記憶デバイスを含み、処理部12
0の処理結果を一時的に記憶する作業領域としても利用される。記憶部110は、半導体
記憶媒体、及び磁気記憶媒体等の任意の非一過的(non-transitory)な記
憶媒体を含んでもよい。記憶部110は、複数の種類の記憶媒体、例えば、メモリカード
、光ディスク、又は光磁気ディスク等の可搬の記憶媒体と、記憶媒体の読み取り装置との
組み合わせを含んでもよい。処理部120は、演算処理を行う装置であって、少なくとも
1つのプロセッサを含む。処理部120は、例えば、CPU(Central Proc
essing Unit)、SoC(System-on-Chip)、MCU(Mic
ro Control Unit)、FPGA(Field-Programmable
Gate Array)、及びコプロセッサのうち、少なくとも1つを含む。また、処
理部120は、GPU(Graphics Processing Unit)、VRA
M(Video RAM)等を含む。
記憶部110は、HDR背景画像データ記憶部111と、3次元キャラクターデータ記
憶部112とを有する。HDR背景画像データ記憶部111は、3次元背景としてのHD
R画像(すなわち、3次元のHDR背景画像)のデータを記憶する。実施形態では、この
ようなHDR背景画像は、例えば、現実の風景をHDRの画質で3次元(例えば、360
°)撮影により撮影して得られた実写データである。但し、HDR背景画像は、コンピュ
ータグラフィックス(CG)により生成されたCG背景データであってもよい。HDR背
景データは、光を発する様々な光源の情報を有する。光源は、点光源や平行光線等である
。3次元キャラクターデータ記憶部112は、3次元モデルにより構成された3次元キャ
ラクターのデータを記憶する。3次元モデルは、3次元キャラクターの表面を多数のポリ
ゴンで構成したものである。各ポリゴンは、三角形状であってもよいし、四角形状であっ
てもよい。各ポリゴンの情報は、当該ポリゴンの各頂点の座標(ローカル座標)を示す座
標情報と、当該ポリゴンの法線ベクトルを示す法線情報と、当該ポリゴンの色又は当該ポ
リゴンの各頂点の色を示す色情報(テクスチャ情報)とを含んでもよい。
(画像処理装置の動作)
次に、図1及び図2を参照して、実施形態に係る画像処理装置100の動作について説
明する。処理部120は、記憶部110に記憶されたプログラム(画像処理プログラム)
を実行することにより、キャラクター動作制御部121と、仮想カメラ動作制御部122
と、シェーダー部123と、表示画像生成部124とを有する。シェーダー部123及び
表示画像生成部124は、レンダリング部150を構成する。レンダリング部150は、
3次元コンピュータグラフィックスにおける描画処理を行う。
キャラクター動作制御部121は、モーションキャプチャ装置200により生成された
動きデータを用いて、3次元仮想空間(実施形態では、3次元のHDR背景画像)上で3
次元キャラクターを動作させる。キャラクター動作制御部121は、現実の人物の3次元
の動きと同期して3次元キャラクターを動作させるリアルタイム制御を行ってもよい。キ
ャラクター動作制御部121は、動きデータを用いて、3次元キャラクターの姿勢や、手
足の動き、顔の表情等を制御する。
仮想カメラ動作制御部122は、仮想カメラ操作装置300により生成されたカメラ操
作データを用いて、3次元仮想空間上で仮想カメラ(すなわち、視点位置及び視線角度)
を動作させる。仮想カメラ動作制御部122は、仮想カメラを操作するユーザ操作と同期
して仮想カメラを動作させるリアルタイム制御を行ってもよい。
シェーダー部123は、描画処理(レンダリング)の最終的な段階において、HDR背
景画像中の光源からの光の当たり具合等を勘案して各画素の色を変化させ、明暗(別の観
点では、陰影)を付ける。具体的には、シェーダー部123は、光源の位置や光反射から
立体の明暗(陰影)を算出するにあたり、光源からの入射光や反射光等を3次元キャラク
ターに当てて、その効果によって面や面上の各点がどのように発色するかを計算して最終
的な描画像を得る。実施形態では、シェーダー部123は、シェーディング計算部123
aと、シェーディング緩和処理部123bと、色補正処理部123cとを有する。
シェーディング計算部123aは、HDR背景画像中の光源の情報を用いて、3次元キ
ャラクターの表面に光源の色の情報を反映させた明暗を付与するシェーディング処理(シ
ェーディング計算)を行う。ここで、シェーディング計算部123aは、3次元キャラク
ターの表面の各部分(具体的には、各ポリゴン)における法線ベクトルに基づいて当該各
部分における発色を計算する。
例えば、シェーディング計算部123aは、グローシェーディング(Gouraud
shading)又はフォンシェーディング(Phong shading)等の既存の
シェーディング手法を用いたシェーディング計算を行う。グローシェーディングでは、ポ
リゴンの頂点ごとに法線ベクトルを求め、光源と頂点とを結んだベクトルと法線ベクトル
とのなす角によって、その頂点での明るさ(色)を求める。ポリゴン内の角画素の明るさ
は各頂点の値から内挿して求める。また、頂点での法線ベクトルは、その頂点を共有する
周りのポリゴンの法線ベクトルを平均して決める。フォンシェーディングでは、ポリゴン
内の各点の法線ベクトルを線形補間によって求めて光の反射を計算する。
このような既存のシェーディング手法によりシェーディングを行うと、明暗(陰影)に
よって3次元キャラクターの立体感が強調され、3次元キャラクターがセルルックではな
くなってしまうという問題がある。特に、3次元背景としてHDR画像を用いる場合にお
いては、背景が広いレンジの輝度を有しており、強い明暗(すなわち、高いコントラスト
)がシェーディングにより3次元キャラクターに付与され、3次元キャラクターが過度に
立体的になってしまう。
シェーディング緩和処理部123bは、シェーディングに付与される明暗を平均化する
ようにシェーディングを緩和するシェーディング緩和処理を行う。このようにしてシェー
ディングを緩和することにより、3次元キャラクターの立体感が強調されることを抑制し
、3次元キャラクターをHDR背景画像と馴染ませつつセルルックを維持することが可能
になる。
例えば、シェーディング緩和処理部123bは、シェーディング計算にあたり、図2に
示すように、乱数(擬似乱数を含む)を用いて各ポリゴンにおける法線ベクトルをずらす
処理を行う。このような処理において、モンテカルロ法が用いられてもよい。シェーディ
ング緩和処理部123bは、ポリゴンごとに乱数を生成し、当該乱数に応じた態様(方向
、角度)で法線ベクトルをずらす。法線ベクトルをずらす態様と乱数との対応関係は、予
めテーブル又は数式等により定められているものとする。なお、図2においては、1つの
ポリゴンについて、当該ポリゴンに対応する乱数に応じて、法線ベクトルをNpからNp
’にずらす一例を示している。
このような処理を各ポリゴンに対して施すことにより、多数のポリゴンの法線ベクトル
がランダムに分散し、シェーディングにより3次元キャラクターに付与される明暗(陰影
)を平均化、すなわち、明暗(陰影)をぼかすことが可能である。図3(a)に、シェー
ディング緩和処理無しの場合の3次元キャラクターの描画を示し、図3(b)に、シェー
ディング緩和処理有りの場合の3次元キャラクターの描画を示す。図3(a)及び図3(
b)を比較して分かるように、シェーディング緩和処理によって明暗(陰影)が平均化さ
れ、立体感が強調されることが抑制されている。但し、シェーディング緩和処理は、乱数
を用いる方法に限定されず、シェーディングにより3次元キャラクターに付与される明暗
(陰影)をぼかすことができれば他の方法を採用してもよい。
しかしながら、このようにして明暗(陰影)をぼかすことにより、背景色、具体的には
、HDR背景画像中の光源の色(色彩)が3次元キャラクターに反映され難くなり、3次
元キャラクターがHDR背景画像と十分に馴染まなくなり、若干不自然な描画になるとい
う問題がある。
色補正処理部123cは、シェーディング緩和処理の後において、3次元キャラクター
表面の色成分を強調するように補正する。このような色補正処理により、HDR背景画像
中の光源の色彩が3次元キャラクターに反映された状態になり、3次元キャラクターがH
DR背景画像と十分に馴染み、自然な描画を実現できる。
例えば、色補正処理部123cは、3次元キャラクター表面の色の彩度を取得して当該
彩度を上げる。彩度とは、色の鮮やかさの度合いをいう。色補正処理部123cは、3次
元キャラクターの各ポリゴンの各画素の色(画素値)がHSV色空間で表現されている場
合、色相(H)及び明度(V)を変化させずに維持し、彩度(S)を上げる。ここで、色
補正処理部123cは、予め定められた補正係数(例えば、“3”)を彩度(S)に乗算
することで彩度(S)を上げてもよい。このような補正係数は、光源の光の強度等に応じ
て可変設定されるパラメータであってもよい。
なお、各画素の色(画素値)が他の色空間(例えば、RGB色空間)で表現されている
場合、色補正処理部123cは、当該画素値をHSV色空間に変換したうえで彩度(S)
を上げてもよい。また、HSV色空間に限定されず、他の色空間であっても彩度に相当す
る色成分を上げればよい。
表示画像生成部124は、3次元のHDR背景画像上で3次元キャラクターを仮想カメ
ラにより撮影して得られた画像データを生成し、生成した画像データを表示装置400に
提供(配信)する。具体的には、表示画像生成部124は、仮想カメラに対応する視点位
置及び視線角度に基づいて、3次元仮想空間に配置された3次元キャラクターの座標をワ
ールド座標系からスクリーン座標系に変換することで表示画像を生成する。
(画像処理方法)
次に、図4を参照して、実施形態に係る画像処理方法について説明する。図4は、実施
形態に係る画像処理方法を示す図である。当該画像処理方法は、HDR画像を3次元背景
として仮想カメラから見える3次元キャラクターの画像を生成するためのレンダリング(
特に、シェーディング)を行う方法である。
ステップS1において、シェーディング緩和処理部123bは、乱数を用いて、3次元
キャラクターの表面の各ポリゴンにおける法線ベクトルをずらす処理を行う。このような
処理においてモンテカルロ法を用いてもよい。
ステップS2において、シェーディング計算部123aは、3次元キャラクターの表面
の各ポリゴンについて、シェーディング緩和処理部123bによりずらされた法線ベクト
ルに基づいて、各ポリゴンにおける発色を計算する。
ステップS3において、色補正処理部123cは、3次元キャラクター表面の色成分を
強調するように補正する。例えば、色補正処理部123cは、3次元キャラクター表面の
色の彩度を取得して当該彩度を上げる。
以上説明したように、実施形態に係る画像処理装置100及び画像処理方法によれば、
3次元キャラクターをセルルックに維持しながらHDR背景画像と馴染ませて表示するこ
とが可能である。
(変更例)
上述の実施形態では、3次元背景(背景マップ)が、現実の風景をHDRの画質で3次
元(例えば、360°)撮影により撮影して得られた実写データである一例について説明
した。しかしながら、3次元背景は、球面調和関数(SH: Spherical Ha
rmonics)を用いて圧縮されたデータであってもよい。球面調和関数は、簡単に言
えば、放射状に広がる全方位方向の情報分布を基底関数の和で表現するものであり、3次
元コンピュータグラフィックスでは空間全周の状態を非可逆に圧縮する技法として広く用
いられている。具体的には、3次元背景は、複数の球面調和関数のそれぞれのスケーリン
グ係数の組み合わせにより構成される。このような前提下において、シェーディング緩和
処理は、球面調和関数の数(すなわち、次元数)を削減することで色情報を削減する処理
を含んでもよい。
(その他の実施形態)
上述の実施形態において、画像処理装置100を用いて動画配信を行う構成を想定し、
モーションキャプチャ装置200を用いて3次元キャラクターを動作させる一例について
説明した。しかしながら、モーションキャプチャ装置200に代えて、3次元キャラクタ
ーを動作させるユーザ操作を受け付けるコントローラを用い、画像処理装置100をゲー
ムシステムに用いる構成としてもよい。
上述の実施形態における動作(及び動作フロー)は、必ずしも上述の説明の順序に沿っ
て時系列に実行されなくてよい。例えば、動作におけるステップは、上述の順序と異なる
順序で実行されてもよいし、並列的に実行されてもよい。また、動作におけるステップの
一部が削除されてもよく、さらなるステップが処理に追加されてもよい。
上述の実施形態に係る各処理をコンピュータに実行させるプログラムが提供されてもよ
い。プログラムは、コンピュータ読取り可能媒体に記録されていてもよい。コンピュータ
読取り可能媒体を用いれば、コンピュータにプログラムをインストールすることが可能で
ある。ここで、プログラムが記録されたコンピュータ読取り可能媒体は、非一過性の記録
媒体であってもよい。非一過性の記録媒体は、特に限定されるものではないが、例えば、
CD-ROM又はDVD-ROM等の記録媒体であってもよい。
本開示で使用されている「に基づいて(based on)」、「に応じて(depe
nding on)」という記載は、別段に明記されていない限り、「のみに基づいて」
、「のみに応じて」を意味しない。「に基づいて」という記載は、「のみに基づいて」及
び「に少なくとも部分的に基づいて」の両方を意味する。同様に、「に応じて」という記
載は、「のみに応じて」及び「に少なくとも部分的に応じて」の両方を意味する。また、
「取得する(obtain/acquire)」は、記憶されている情報の中から情報を
取得することを意味してもよく、他のノードから受信した情報の中から情報を取得するこ
とを意味してもよく、又は、情報を生成することにより当該情報を取得することを意味し
てもよい。「含む(include)」、「備える(comprise)」、及びそれら
の変形の用語は、列挙する項目のみを含むことを意味せず、列挙する項目のみを含んでも
よいし、列挙する項目に加えてさらなる項目を含んでもよいことを意味する。また、本開
示において使用されている用語「又は(or)」は、排他的論理和ではないことが意図さ
れる。本開示において、例えば、英語でのa,an,及びtheのように、翻訳により冠
詞が追加された場合、これらの冠詞は、文脈から明らかにそうではないことが示されてい
なければ、複数のものを含むものとする。
以上、図面を参照して実施形態について詳しく説明したが、具体的な構成は上述のもの
に限られることはなく、要旨を逸脱しない範囲内において様々な設計変更等をすることが
可能である。
1 :画像処理システム
100 :画像処理装置
110 :記憶部
111 :HDR背景画像データ記憶部
112 :3次元キャラクターデータ記憶部
120 :処理部
121 :キャラクター動作制御部
122 :仮想カメラ動作制御部
123 :シェーダー部
123a :シェーディング計算部
123b :シェーディング緩和処理部
123c :色補正処理部
124 :表示画像生成部
150 :レンダリング部
200 :モーションキャプチャ装置
300 :仮想カメラ操作装置
400 :表示装置

Claims (7)

  1. 3次元背景上で仮想カメラから見える3次元キャラクターの画像を生成するための画像
    処理プログラムであって、
    画像処理装置に、
    前記3次元背景中の光源の情報を用いて、前記3次元キャラクターの表面に前記光源の
    色の情報を反映させた明暗を付与するシェーディングを行うシェーディング処理を実行さ
    せ、
    前記シェーディング処理は、
    前記明暗を平均化するように前記シェーディングを緩和するシェーディング緩和処理と

    前記シェーディング緩和処理の後において前記表面の色成分を強調するように補正する
    色補正処理と、を含む
    画像処理プログラム。
  2. 前記シェーディング処理は、前記表面の各部分における法線ベクトルに基づいて前記各
    部分における発色を計算するシェーディング計算処理をさらに含み、
    前記シェーディング緩和処理は、乱数を用いて前記各部分における法線ベクトルをずら
    す処理を含む
    請求項1に記載の画像処理プログラム。
  3. 前記色補正処理は、前記表面の色の彩度を取得して当該彩度を上げる処理を含む
    請求項1又は2に記載の画像処理プログラム。
  4. 前記3次元背景がHDR画像であって、前記シェーディング処理は、前記HDR画像中
    の光源の情報を用いてシェーディングを行う処理である
    請求項1又は2に記載の画像処理プログラム。
  5. 前記画像処理装置に、
    モーションキャプチャにより生成された動きデータを用いて前記3次元キャラクターを
    動作させる処理をさらに実行させる
    請求項1又は2に記載の画像処理プログラム。
  6. 3次元背景上で仮想カメラから見える3次元キャラクターの画像を生成するための画像
    処理装置であって、
    前記HDR画像中の光源の情報を用いて、前記3次元キャラクターの表面に前記光源の
    色の情報を反映させた明暗を付与するシェーディングを行うシェーディング処理を実行す
    る処理部を備え、
    前記処理部は、
    前記明暗を平均化するように前記シェーディングを緩和するシェーディング緩和処理と

    前記シェーディング緩和処理の後において前記表面の色成分を強調するように補正する
    色補正処理と、を実行する
    画像処理装置。
  7. 3次元背景上で仮想カメラから見える3次元キャラクターの画像を生成するための画像
    処理方法であって、
    前記3次元背景中の光源の情報を用いて、前記3次元キャラクターの表面に前記光源の
    色の情報を反映させた明暗を付与するシェーディングを行うシェーディング処理を実行す
    るステップを備え、
    前記シェーディング処理を実行するステップは、
    前記明暗を平均化するように前記シェーディングを緩和するシェーディング緩和ステッ
    プと、
    前記シェーディング緩和処理の後において前記表面の色成分を強調するように補正する
    色補正ステップと、を含む
    画像処理方法。
JP2022190848A 2022-05-10 2022-11-29 画像処理プログラム、画像処理装置、及び画像処理方法 Pending JP2023166960A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022190848A JP2023166960A (ja) 2022-05-10 2022-11-29 画像処理プログラム、画像処理装置、及び画像処理方法

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2022077761A JP7190780B1 (ja) 2022-05-10 2022-05-10 画像処理プログラム、画像処理装置、及び画像処理方法
JP2022190848A JP2023166960A (ja) 2022-05-10 2022-11-29 画像処理プログラム、画像処理装置、及び画像処理方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2022077761A Division JP7190780B1 (ja) 2022-05-10 2022-05-10 画像処理プログラム、画像処理装置、及び画像処理方法

Publications (1)

Publication Number Publication Date
JP2023166960A true JP2023166960A (ja) 2023-11-22

Family

ID=84488935

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2022077761A Active JP7190780B1 (ja) 2022-05-10 2022-05-10 画像処理プログラム、画像処理装置、及び画像処理方法
JP2022190848A Pending JP2023166960A (ja) 2022-05-10 2022-11-29 画像処理プログラム、画像処理装置、及び画像処理方法

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2022077761A Active JP7190780B1 (ja) 2022-05-10 2022-05-10 画像処理プログラム、画像処理装置、及び画像処理方法

Country Status (1)

Country Link
JP (2) JP7190780B1 (ja)

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4865472B2 (ja) * 2006-09-21 2012-02-01 株式会社バンダイナムコゲームス プログラム、情報記憶媒体及び画像生成システム

Also Published As

Publication number Publication date
JP2023166906A (ja) 2023-11-22
JP7190780B1 (ja) 2022-12-16

Similar Documents

Publication Publication Date Title
Siegl et al. Real-time pixel luminance optimization for dynamic multi-projection mapping
Agusanto et al. Photorealistic rendering for augmented reality using environment illumination
Ritschel et al. Approximating dynamic global illumination in image space
Greene Environment mapping and other applications of world projections
Szirmay-Kalos et al. Approximate ray-tracing on the gpu with distance impostors
Fischer et al. Stylized augmented reality for improved immersion
US20070139408A1 (en) Reflective image objects
Supan et al. Image based shadowing in real-time augmented reality
Knecht et al. Reciprocal shading for mixed reality
JP2007066064A (ja) 画像生成装置及びプログラム
CN111292423A (zh) 基于增强现实的着色方法、装置、电子设备与存储介质
Schwandt et al. A single camera image based approach for glossy reflections in mixed reality applications
Schneider et al. Efficient global illumination for morphable models
CN116664752B (zh) 基于图案化光照实现全景显示的方法、系统及存储介质
Schwandt et al. Glossy reflections for mixed reality environments on mobile devices
Fischer et al. Artistic reality: Fast brush stroke stylization for augmented reality
US20180005432A1 (en) Shading Using Multiple Texture Maps
JP2007272847A (ja) 照明シミュレーション方法及び画像合成方法
Green Efficient self-shadowed radiosity normal mapping
JP2023166960A (ja) 画像処理プログラム、画像処理装置、及び画像処理方法
Pessoa et al. Illumination techniques for photorealistic rendering in augmented reality
Liu et al. Artistic image generation by deviation mapping
Schwandt High-Quality Illumination of Virtual Objects Based on an Environment Estimation in Mixed Reality Applications
Fischer et al. Real-time Cartoon-like Stylization of AR Video Streams on the GPU
Beeson et al. Skin in the" Dawn" demo