JP2004078431A - 画像生成方法と装置 - Google Patents
画像生成方法と装置 Download PDFInfo
- Publication number
- JP2004078431A JP2004078431A JP2002236035A JP2002236035A JP2004078431A JP 2004078431 A JP2004078431 A JP 2004078431A JP 2002236035 A JP2002236035 A JP 2002236035A JP 2002236035 A JP2002236035 A JP 2002236035A JP 2004078431 A JP2004078431 A JP 2004078431A
- Authority
- JP
- Japan
- Prior art keywords
- image
- images
- information
- corresponding point
- point information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Processing Or Creating Images (AREA)
Abstract
【課題】実写が困難な画像を生成したり、既存の画像に映像効果を施したり、その中間画像を生成したりする画像生成を、高い画質で容易に実現する技術を提供する。
【解決手段】画像入力部12で実写像などを読み込む。仮想画像生成部18で入力された画像の被写体などに三次元特性を与え、オブジェクトモデルとして第1のCG画像を生成する。さらに、オブジェクトモデルを所望の態様に操作し、二次元平面へ投影して第2のCG画像を生成する。対応点情報算出部20で第1、第2のCG画像間の対応点情報を取得する。画像生成部24で、入力画像を始点画像として対応点情報を適用することにより、CG画像での変化に対応した対応画像を終点画像として生成する。
【選択図】 図1
【解決手段】画像入力部12で実写像などを読み込む。仮想画像生成部18で入力された画像の被写体などに三次元特性を与え、オブジェクトモデルとして第1のCG画像を生成する。さらに、オブジェクトモデルを所望の態様に操作し、二次元平面へ投影して第2のCG画像を生成する。対応点情報算出部20で第1、第2のCG画像間の対応点情報を取得する。画像生成部24で、入力画像を始点画像として対応点情報を適用することにより、CG画像での変化に対応した対応画像を終点画像として生成する。
【選択図】 図1
Description
【0001】
【発明の属する技術分野】
この発明は画像処理技術に関し、とくに画像フレームとそれらの間の対応点情報を利用した画像生成方法と装置に関する。
【0002】
【従来の技術】
実写画像のデジタル処理は、近年のプロセッサやLSI技術の著しい発達とともにその応用範囲が劇的に多様化した。その結果、産業としての放送、映像制作の分野から、個人が趣味で楽しむ場合まで、幅広いニーズに対応した多様な加工、表示技術が生み出された。また、MPEG(Motion Picture Expert Group)に代表される圧縮技術の進歩により、優れた画質をもつ動画像データの保存や送信が容易になり、画像が付随する情報の一般ユーザーへの浸透に拍車をかけた。一方、コンピュータグラフィックス(CG)の分野では、モーフィング、ウォークスルーなどの加工、表示技術が一般化し、精緻な画像を比較的自由に制作することが可能になりつつある。さらに、実写像を解析し3次元オブジェクトデータとして取り込み、コンピュータ上で加工を行ったり、実写像とCGを合成してシミュレーションを行ったりと、実写像とCGとを融合する技術も幅広い用途で利用されるようになった。
【0003】
【発明が解決しようとする課題】
CGは実際には存在しない物体や、所望の態様にすることが困難な被写体を有する画像を比較的容易に生成することができ、さらに演算の過程で被写体の位置情報、角度などを正確に把握できるため、任意のフレームレートでの画像の生成が誤差なく実施できる。ところが、実写した動画像などをもとにCG画像を作り上げ、実写と同等の画質で表示しようとすると演算が膨大化し、計算負荷、メモリー容量などの点で実現が難しい。
【0004】
一方実写は、高画質の画像を容易に記録、再生することが可能であるが、一旦撮影した画像の中間画像を生成したり、被写体を別の態様に動作させた画像を新たに生成したりすることが難しく、画像処理の過程で誤差やひずみが生じる場合もある。また現実にはない場面を表現するには、画像を別撮りして合成したり、静止画像をコマ撮りしてアニメーション表示したりする工夫が必要である。それらの作業は人手に頼る過程が多く、さらに、自然画像と比較すると違和感のある画像となる場合も多い。
【0005】
本発明はそうした状況に鑑みてなされたものであり、その目的は、実写が困難な画像を、実写像と同等の画質で容易に生成する技術の提供にある。
【0006】
本発明の別の目的は、実写動画像などにおける各フレームの中間画像を、誤差なく所望のフレームレートで生成する技術の提供にある。
【0007】
本発明のさらに別の目的は、動画、静止画にかかわらず、あらかじめ取得されている画像などに対し、任意の映像効果を容易に施すことのできる技術の提供にある。
【0008】
【課題を解決するための手段】
以下、本発明の画像生成技術は、主に動画について説明するが、静止画や種々の映像効果など、用途は動画に限られない。
【0009】
本発明のある態様は、画像生成方法に関する。この方法は入力画像を取得するステップと、三次元オブジェクトモデルが含まれる第1、第2のCG画像の対応点情報を取得するステップと、前記第1、第2のCG画像の変化に対応した、前記入力画像に対する対応画像を、前記対応点情報に基づき生成するステップと、を含む。
【0010】
ここで「入力画像」とは実写を行った動画像などであり、連続した画像フレームやそのうちから抽出した複数の画像フレームでもよいし、1枚の静止画像でもよい。また、「三次元オブジェクトモデル」はCG空間内でモデリングされた三次元情報を有する物体を言い、以降、これと「オブジェクトモデル」または「オブジェクト」を区別しない。また、「フレーム」は画像の単位ではあるが、以下特に必要がない限り、これと「画像」を区別しない。
【0011】
この方法は、前記入力画像のうち所定の画像に三次元特性を与え、前記第1のCG画像を生成するステップをさらに含んでもよく、前記第1のCG画像における前記オブジェクトモデルを三次元空間内で操作したのち、二次元平面へ投影して前記第2のCG画像を生成するステップをさらに含んでもよい。
【0012】
そのようにして生成した第1、第2のCG画像に対し、まず前記第1のCG画像に注目点を定め、次に前記第2のCG画像における前記注目点の対応点を算出することによって前記対応点情報を取得してもよい。
【0013】
前記対応画像を生成するステップは、前記入力画像を始点画像として前記対応点情報を適用し、導出された終点画像を対応画像としてもよい。入力画像に三次元特性を与えてCG画像を生成し第1のCG画像とした場合、第2のCG画像は例えば入力画像内の被写体をCG空間内で動かしたり、加工を施したりしたものとなる。したがって、第1、第2のCG画像間の対応点情報を取得し、その情報に対して始点となる画像を、第1のCG画像の元となった入力画像に置き換えることにより、その終点画像はCG空間内で行われた操作と同等の変化を有し、かつ、入力画像と同等の画質をもつ画像となる。このとき得られる対応点情報は、画像を直接マッチング処理することなく、CGの演算上得られるものであるため、画像間の正確な変位情報を示しており、最終的に誤差やゆがみのない画像を生成できる。第1のCG画像が、入力画像から生成されたものでなくても、例えば画像全体に所望の効果を加えたり、被写体を変形させたりといった加工を施した画像の生成が可能となる。
【0014】
また、前記注目点と前記対応点の画像内位置を補間することにより、前記第1、第2のCG画像の中間変位情報を生成するステップをさらに含んでもよく、前記中間変位情報に基づき、前記入力画像と前記対応画像の中間画像をさらに生成してもよい。ここで中間変位情報とは、前記第1、第2のCG画像の間の任意の間隔における対応点情報のことであり、それにより前記対応画像を生成したのと同様に、誤差のない中間画像を任意のタイミングで生成できる。
【0015】
以上の各構成、工程を任意に入れ替えたり、方法の表現における一部または全部を装置と入れ替え、または追加したり、表現をコンピュータプログラム、記録媒体等に変更したものもまた、本発明として有効である。
【0016】
【発明の実施の形態】
本実施の形態の特徴は、CGの特性を利用した画像処理技術にある。一般に画像処理とはカメラに代表される撮像装置を用いて撮影した画像にフィルタリングを施したりマッチング処理をしたりして、三次元データの構築や画像認識などに応用するもので、その対象物は実存する場合が多い。それ故、画像そのものもまさに現実感を伴うが、同時に撮像という動作がもたらす偶発性、あいまいさの要素を多く含むことになり、処理結果もそれを継承してしまう場合がある。
【0017】
それに対しCGは仮想空間の構築が発想の原点であり、撮像することなく現実にはない物をオブジェクトモデルとして表現できる。従って、オブジェクトモデルを自由に操作できるうえ、その三次元形状と視野空間を決定することにより、CG画像が確定される。本実施の形態によれば、CGのそのような利点を画像処理に利用することによって、すでに取得済みの実写像をもとに、所望の態様に変化させた画像または中間画像の生成を正確に行うことができる。
【0018】
<第1の実施の形態>
図1は第1の実施の形態の係る画像生成装置10の構成を示す。画像生成装置10は、実写画像データなどを取得する画像入力部12と、その画像を格納する入力画像記憶部14と、入力画像から所定の画像を抽出する画像抽出部16と、抽出された入力画像に三次元特性を与えて第1のCG画像を生成するとともに、第1のCG画像におけるオブジェクトモデルを三次元空間内で操作し、それを二次元平面へ投影して前記第2のCG画像をさらに生成する仮想画像生成部18と、第1のCG画像に注目点を定め、前記第2のCG画像において前記注目点の対応点を算出する対応点情報算出部20と、算出された対応点情報を格納する対応点情報記憶部22と、第1、第2のCG画像の変化に対応した、前記入力画像に対する対応画像を、前記対応点情報に基づき生成する画像生成部24と、生成された画像と入力画像とを表示するため、適宜整列させる画像出力制御部26とを含む。
【0019】
画像入力部12は画像データを、撮像装置や記憶媒体など任意の装置から読み出してよい。本実施の形態は、例えば動くことのない対象物が動作する映像を作成したり、途中まで撮影された動画に対してその先のシーンを表す画像を生成したりすることに利用できるため、入力画像はそれら個々の事情によって任意の形態をとってよく、上記の例では、動くことのない対象物の写る静止画や、途中まで撮影された動画を用いる。また入力画像は実写像に限らず、例えば手書きの絵をスキャナーでデータ化したりしてもよい。
【0020】
入力された画像は入力画像記憶部14にいったん格納されるとともに、画像抽出部16にてその一部が抽出され、仮想画像生成部18へと送られる。一方、入力画像記憶部14に記憶された、抽出された画像のデータは、フラグが立てられるなどして他の画像データと識別される。画像抽出部16には例えば、入力画像を順次表示できる表示機能を設け、生成する画像の始点としたい画像を手入力にて指定できるようにしてもよい。この場合は、例えば実写した動画像の所定のフレーム以降、撮影したのと別のシーンを生成したい場合や、実物ではあり得ない動作を所定のフレームから挿入させたい場合など、状況に応じて所望の画像を選択できる。または、入力画像から所定の時間間隔または枚数間隔で自動的に抽出するようにしてもよい。抽出する画像は1枚でも複数でもよい。入力画像がもともと1枚の静止画の場合は、その画像はそのまま仮想画像生成部18へ送られる。
【0021】
仮想画像生成部18へ送られた入力画像は、被写体などにそれぞれ三次元特性を与えられ、擬似的なオブジェクトを有するCG画像となる。図2は入力画像KFiからCG画像CGiを生成する過程を概念的に示している。ここでは例えば二次元である入力画像内の被写体に対し、奥行き方向の情報を人工的に付与することによって三次元データ化し、任意の座標系において三次元オブジェクトを生成する。本来動かない物が動作する画像などを生成したい場合に、三次元画像の計測法として一般的な種々の手法を用いてその対象物を計測し、あらかじめ奥行き方向の情報を得ておいてもよい。それらを再度入力画像と同じ視野空間内の座標系に移し変え、二次元平面へ投影することによりCGiが生成される。
【0022】
仮想画像生成部18ではさらに、生成されたCG画像に対し、まずオブジェクトなどを三次元空間内で所望の態様になるように操作し、それを二次元平面へ投影して新たなCG画像を生成する。仮想画像生成部18へ送られた画像が動画像の一部や、所定の間隔で抽出された画像の場合は、それらの複数の画像から被写体などの移動速度や変化の割合を算出し、それを考慮することにより、入力された動画像と連続性のあるCG画像を生成することができる。ここでは、連続したCG画像を高いフレームレートで複数生成してもよいし、大きく変化させた後のCG画像を1枚生成してもよい。後者のような場合でも、後に述べる中間変位情報を利用することにより、最終的に生成される画像の枚数には影響しない。このCG画像生成枚数は、CG画像の生成による演算負荷と、画像の正確性との兼ね合いで適宜決定する。また、上記のオブジェクト操作には、オブジェクトの位置的変化をもたらす操作の他に、色など他の属性を変化させる操作を含んでもよい。
【0023】
仮想画像生成部18で生成された複数のCG画像は、対応点情報算出部20に送られ、隣接するCG画像間の対応点情報が取得される。ここでの計算手法は先に特願2001−242282号において本出願人が提案した技術を用いることができる。図3は当該技術を利用した場合の、2枚のCG画像とオブジェクトOBJとの対応関係を示す模式図である。まず、第1のCG画像CG1のオブジェクトなどに対し注目点p1を設定する。次に第2のCG画像CG2における、注目点の対応点p2を導出する。Miを第iのCG画像を得るためにオブジェクトなどを三次元空間内で操作する演算、Qiを演算Miの後にオブジェクトなどを二次元平面へ投影して第iのCG画像を得るための演算とすると、p1からp2を導出する式は以下のように表される。
p2 = fp1 = Q2M2M1 −1Q1 −1p1
注目点は画素単位で設定してもよいし、x,y方向に一定間隔で設定したり、オブジェクトのエッジなど変化の大きい部分に重み付けをして設定したりしてもよい。注目点の数が多いほど画像生成の際に正確性を増すが、計算負荷やメモリー容量などとの兼ね合いで決定するべきである。また、あらかじめオブジェクトに対し注目点pを定め、その点の対応点をそれぞれのCG画像上で算出してもよい。同様の計算を、対応点情報算出部20に送られたCG画像の全てに対して行い、画像CG1,CG2,CG3,CG4・・・・に対し、p1→p2→p3→p4・・・・という対応関係を全注目点に対して取得する。
【0024】
仮想画像生成部18ではさらに、CG画像の色の勾配情報を取得し、対応点情報に含めてもよい。ここで色の勾配情報とは、例えば仮想画像生成部18において、CG画像のオブジェクトの色を変化させる操作を行った場合において、座標どうしの対応とともにそれらの色がどのように変化したかを数値化して表したデータのことである。図4はこのような場合の対応点情報のデータ形式の一例を示したものであり、隣接するiおよびi+1番目のCG画像に対する対応点情報VCi,i+1は、対応する点のデータpi,pi+1とそれらの点の色情報C(pi),C(pi+1)との繰り返しにより構成されている。ここでは色情報以外にも所望の属性データをもたせることができる。対応点情報は、対応点情報記憶部22に順次格納される。
【0025】
画像生成部24では、入力画像記憶部14および対応点情報記憶部22にそれぞれ格納された抽出後の入力画像と対応点情報とが読み出され、それをもとに新たな画像、すなわち対応画像が生成される。図5は入力画像、CG画像および対応画像の関係を示す概念図である。仮想画像生成部18において生成されたCG画像のうち、入力された画像KFiをもとに生成されたCG画像をCGiとし、それに隣接するCG画像をCGi+1、それらCG画像間の対応点情報をVCi,i+1とする。このときCGi+1はCGiのオブジェクトなどを所望の態様に操作した後の画像であるため、VCi,i+1はそのオブジェクトなどの変化を表した情報であるといえる。そこでVCi,i+1の始点画像をKFiとすることにより、その終点画像として生成された対応画像KFi+1は、KFi中の被写体などを所望の態様に変化させた画像となる。また、VCi,i+1に前述のとおり色の勾配情報が含まれている場合は、終点画像KFi+1の対応点にその色を当てはめることにより、色の変化をも踏襲した対応画像を生成することができる。
【0026】
また本実施の形態は、実写画像の中間画像を生成してフレームレートを増加させたい場合にも有効である。基本的な装置構成は図1における画像生成装置10と同じである。図6はこの場合における入力画像とCG画像および中間画像との関係を示している。ここでKFiおよびKFi+1は画像抽出部16において抽出された隣接する入力画像である。入力画像は所定の時間間隔または枚数間隔で抽出してもよいし、特に抽出作業をすることなく、入力された画像を全て仮想画像生成部18へ送ってもよい。その選択規則はCG画像を生成する演算負荷と、最終的な中間画像の正確性というトレードオフの関係を考慮して適宜決定する。
【0027】
次に仮想画像生成部18において、画像抽出部16より送信された複数の入力画像に対して三次元特性を与え、それぞれに対応するCG画像を順次生成する。被写体の三次元情報があらかじめ得られている場合は、それを利用し、さらに各画像の視点との相対位置情報を考慮することにより、CG画像を生成できる。図6においては、入力画像KFiおよびKFi+1から、CG画像CGiおよびCGi+1がそれぞれ生成されているとする。
【0028】
さらに対応点情報算出部20において、まず図5の例と同様に隣接するCG画像の対応点情報VCi,i+1を取得する。次に補間計算によりそれらのCG画像間を所定の間隔に分割し、その間隔における対応点情報、すなわち中間変位情報を取得する。ここでは任意の線形または非線形の補間手法を利用してよい。例えば図6に示したように、画像CGiおよびCGi+1の間を4等分する場合を考える。対応点情報VCi,i+1によって画像CGi上の点piの座標(xi,yi)が画像CGi+1上の点pi+1の座標(xi+1,yi+1)へ対応していることが示されているとすると、等間隔に線形補間を行えば、
【数1】
という中間変位情報が得られる。得られた中間変位情報を、入力画像KFiを始点画像として順次適用していくことにより、画像KFiとKFi+1の間の中間画像IFi,i+1(1),IFi,i+1(2),IFi,i+1(3)が生成される。対応点情報の分割は等分である必要はなく、中間変位情報は任意のタイミングで生成してよい。また、外分点を算出することにより、画像KFi+1以降の画像を生成してもよい。
【0029】
上述の例では、画像KFi+1も入力画像であるとして、それをもとに画像CGi+1を生成した後、中間変位情報を取得したが、対応画像としてKFi+1を生成しながら中間画像を生成することもできる。図7はそれらの一連の手順を示すフローチャートである。図5にて示したのと同様に、抽出された入力画像KFi(S50)をもとにCG画像CGiを生成し(S51)、オブジェクトなどに所望の操作を施して画像CGi+1を生成する(S52)。その後、対応点情報VCi,i+1を取得して(S53)、図6で述べたように中間変位情報を取得し(S54)、KFiを始点画像として中間変位情報を順次適用していくことにより、中間画像および対応画像KFi+1を生成する(S55)。その後、必要に応じてさらにオブジェクトなどを操作してCG画像を生成し、それに応じて対応画像および中間画像を生成することを繰り返す(S56,S57)。この方法により、例えば一枚の画像から、その被写体に所望の動作をさせた動画像を、所望のフレームレートで正確に生成することができる。
【0030】
対応点情報VCi,i+1に位置的情報以外の属性データ、例えば色の勾配情報が含まれているときは、前述の座標補間と同様、画素値の補間を任意の補間手法により行い中間画素値情報を取得し、それを中間画像の画素値として採用してもよい。
【0031】
<第2の実施の形態>
次に第2の実施の形態を説明する。図8は第2の実施の形態の係る画像生成装置10の構成を示す。本実施の形態では、図1の仮想画像生成部18および対応点情報算出部20に変わり、CG画像データ入力部19が設けられる。CG画像データ入力部19は、外部装置としてCG画像の演算を行うコンピュータなどと接続し、当該コンピュータの記憶装置などからCG画像データを読み込む。ここでCG画像データとは、動画などを表す複数のCG画像と、隣接するCG画像間の対応点情報とからなるデータストリームである。第1の実施の形態と異なり、ここで用いるCG画像は入力画像をもとに生成されたものでなくてもよい。対応点情報は第1の実施の形態と同様の計算を行ったものでもよく、CG画像間に色の変化などがある場合は、それらの属性データも対応点情報に包含させてよい。
【0032】
画像抽出部16では、入力されたCG画像に適した入力画像を1枚選択する。CG画像に適した入力画像とは、例えばCG画像の1枚目と類似性の高い画像などである。また、CG画像データ入力部19にCG画像を順次参照できる表示部を設け、入力画像がもともと1枚の場合などに、その入力画像と類似性の高いCG画像をCGの1枚目の画像として指定できる機能をさらに設けてもよい。
【0033】
画像生成部24において、CG画像の対応点情報VCi,i+1を、入力画像より抽出された画像KFiに適用することにより、CG画像の動きに対応した対応画像が生成される。CG画像が動画を表す複数の画像フレームであった場合は、1枚の入力画像から動画を表す複数の対応画像が順次生成される。本実施の形態の画像生成装置10において、対応点情報算出部20をさらに対応点情報記憶部22の入力側(図示せず)に設け、第1の実施の形態と同様に中間変位情報を取得し、画像生成部24にて所望のフレームレートで中間画像を生成してもよい。また、CG画像データ入力部19にて読み込むデータには対応点情報が含まれていなくてもよい。この場合、上述のように対応点情報算出部20を設け、隣接するCG画像間の対応点情報を、第1の実施の形態と同様に計算すればよい。
【0034】
第2の実施の形態は、例えばCG画像で細かいドットパターンの水平方向の流れや、渦巻きを作成し、水面のさざなみを入力画像とすることで、水流や渦潮の画像を生成したりするのに利用できる。また同様のCG画像を用いて、入力画像に人の顔などを選択すれば、非現実的な映像表現が可能である。このように、CG画像として様々なパターンの動きをあらかじめ作成しておき、そこから選択してCG画像データ入力部19にて読み込めば、実写像などの加工や映像効果の付加が容易にできる。CG画像はランダムなパターンの動きばかりでなく、例えば球体が転がる動画などでもよく、最終的に所望とする画像が、りんごが転がるなど単純な場面や緻密性を要求しない場合などは、入力画像として例えばりんごの画像を選択することにより、動画を容易に生成できる。
【0035】
以上、実施の形態をもとに本発明を説明した。なお本発明はこの実施の形態に限定されることなく、そのさまざまな変形例もまた、本発明の態様として有効である。
【図面の簡単な説明】
【図1】第1の実施の形態に係る画像処理装置の構成図である。
【図2】入力画像の被写体に三次元特性を与えCG画像を生成する過程を示す概念図である。
【図3】2枚のCG画像間の対応点情報を導出する方法を示す説明図である。
【図4】色の勾配情報を含む対応点情報のデータ形式を示す模式図である。
【図5】入力画像、CG画像および対応画像と、対応点情報の関係を示す概念図である。
【図6】入力画像、CG画像および中間画像と、中間変位情報との関係を示す概念図である。
【図7】入力画像から対応画像および中間画像を生成する場合の手順を示すフローチャートである。
【図8】第2の実施の形態に係る画像処理装置の構成図である。
【符号の説明】
10 画像生成装置、 12 画像入力部、 14 入力画像記憶部、 16画像抽出部、 18 仮想画像生成部、 19 CG画像データ入力部、 20 対応点情報算出部、 22 対応点情報記憶部、 24 画像生成部。
【発明の属する技術分野】
この発明は画像処理技術に関し、とくに画像フレームとそれらの間の対応点情報を利用した画像生成方法と装置に関する。
【0002】
【従来の技術】
実写画像のデジタル処理は、近年のプロセッサやLSI技術の著しい発達とともにその応用範囲が劇的に多様化した。その結果、産業としての放送、映像制作の分野から、個人が趣味で楽しむ場合まで、幅広いニーズに対応した多様な加工、表示技術が生み出された。また、MPEG(Motion Picture Expert Group)に代表される圧縮技術の進歩により、優れた画質をもつ動画像データの保存や送信が容易になり、画像が付随する情報の一般ユーザーへの浸透に拍車をかけた。一方、コンピュータグラフィックス(CG)の分野では、モーフィング、ウォークスルーなどの加工、表示技術が一般化し、精緻な画像を比較的自由に制作することが可能になりつつある。さらに、実写像を解析し3次元オブジェクトデータとして取り込み、コンピュータ上で加工を行ったり、実写像とCGを合成してシミュレーションを行ったりと、実写像とCGとを融合する技術も幅広い用途で利用されるようになった。
【0003】
【発明が解決しようとする課題】
CGは実際には存在しない物体や、所望の態様にすることが困難な被写体を有する画像を比較的容易に生成することができ、さらに演算の過程で被写体の位置情報、角度などを正確に把握できるため、任意のフレームレートでの画像の生成が誤差なく実施できる。ところが、実写した動画像などをもとにCG画像を作り上げ、実写と同等の画質で表示しようとすると演算が膨大化し、計算負荷、メモリー容量などの点で実現が難しい。
【0004】
一方実写は、高画質の画像を容易に記録、再生することが可能であるが、一旦撮影した画像の中間画像を生成したり、被写体を別の態様に動作させた画像を新たに生成したりすることが難しく、画像処理の過程で誤差やひずみが生じる場合もある。また現実にはない場面を表現するには、画像を別撮りして合成したり、静止画像をコマ撮りしてアニメーション表示したりする工夫が必要である。それらの作業は人手に頼る過程が多く、さらに、自然画像と比較すると違和感のある画像となる場合も多い。
【0005】
本発明はそうした状況に鑑みてなされたものであり、その目的は、実写が困難な画像を、実写像と同等の画質で容易に生成する技術の提供にある。
【0006】
本発明の別の目的は、実写動画像などにおける各フレームの中間画像を、誤差なく所望のフレームレートで生成する技術の提供にある。
【0007】
本発明のさらに別の目的は、動画、静止画にかかわらず、あらかじめ取得されている画像などに対し、任意の映像効果を容易に施すことのできる技術の提供にある。
【0008】
【課題を解決するための手段】
以下、本発明の画像生成技術は、主に動画について説明するが、静止画や種々の映像効果など、用途は動画に限られない。
【0009】
本発明のある態様は、画像生成方法に関する。この方法は入力画像を取得するステップと、三次元オブジェクトモデルが含まれる第1、第2のCG画像の対応点情報を取得するステップと、前記第1、第2のCG画像の変化に対応した、前記入力画像に対する対応画像を、前記対応点情報に基づき生成するステップと、を含む。
【0010】
ここで「入力画像」とは実写を行った動画像などであり、連続した画像フレームやそのうちから抽出した複数の画像フレームでもよいし、1枚の静止画像でもよい。また、「三次元オブジェクトモデル」はCG空間内でモデリングされた三次元情報を有する物体を言い、以降、これと「オブジェクトモデル」または「オブジェクト」を区別しない。また、「フレーム」は画像の単位ではあるが、以下特に必要がない限り、これと「画像」を区別しない。
【0011】
この方法は、前記入力画像のうち所定の画像に三次元特性を与え、前記第1のCG画像を生成するステップをさらに含んでもよく、前記第1のCG画像における前記オブジェクトモデルを三次元空間内で操作したのち、二次元平面へ投影して前記第2のCG画像を生成するステップをさらに含んでもよい。
【0012】
そのようにして生成した第1、第2のCG画像に対し、まず前記第1のCG画像に注目点を定め、次に前記第2のCG画像における前記注目点の対応点を算出することによって前記対応点情報を取得してもよい。
【0013】
前記対応画像を生成するステップは、前記入力画像を始点画像として前記対応点情報を適用し、導出された終点画像を対応画像としてもよい。入力画像に三次元特性を与えてCG画像を生成し第1のCG画像とした場合、第2のCG画像は例えば入力画像内の被写体をCG空間内で動かしたり、加工を施したりしたものとなる。したがって、第1、第2のCG画像間の対応点情報を取得し、その情報に対して始点となる画像を、第1のCG画像の元となった入力画像に置き換えることにより、その終点画像はCG空間内で行われた操作と同等の変化を有し、かつ、入力画像と同等の画質をもつ画像となる。このとき得られる対応点情報は、画像を直接マッチング処理することなく、CGの演算上得られるものであるため、画像間の正確な変位情報を示しており、最終的に誤差やゆがみのない画像を生成できる。第1のCG画像が、入力画像から生成されたものでなくても、例えば画像全体に所望の効果を加えたり、被写体を変形させたりといった加工を施した画像の生成が可能となる。
【0014】
また、前記注目点と前記対応点の画像内位置を補間することにより、前記第1、第2のCG画像の中間変位情報を生成するステップをさらに含んでもよく、前記中間変位情報に基づき、前記入力画像と前記対応画像の中間画像をさらに生成してもよい。ここで中間変位情報とは、前記第1、第2のCG画像の間の任意の間隔における対応点情報のことであり、それにより前記対応画像を生成したのと同様に、誤差のない中間画像を任意のタイミングで生成できる。
【0015】
以上の各構成、工程を任意に入れ替えたり、方法の表現における一部または全部を装置と入れ替え、または追加したり、表現をコンピュータプログラム、記録媒体等に変更したものもまた、本発明として有効である。
【0016】
【発明の実施の形態】
本実施の形態の特徴は、CGの特性を利用した画像処理技術にある。一般に画像処理とはカメラに代表される撮像装置を用いて撮影した画像にフィルタリングを施したりマッチング処理をしたりして、三次元データの構築や画像認識などに応用するもので、その対象物は実存する場合が多い。それ故、画像そのものもまさに現実感を伴うが、同時に撮像という動作がもたらす偶発性、あいまいさの要素を多く含むことになり、処理結果もそれを継承してしまう場合がある。
【0017】
それに対しCGは仮想空間の構築が発想の原点であり、撮像することなく現実にはない物をオブジェクトモデルとして表現できる。従って、オブジェクトモデルを自由に操作できるうえ、その三次元形状と視野空間を決定することにより、CG画像が確定される。本実施の形態によれば、CGのそのような利点を画像処理に利用することによって、すでに取得済みの実写像をもとに、所望の態様に変化させた画像または中間画像の生成を正確に行うことができる。
【0018】
<第1の実施の形態>
図1は第1の実施の形態の係る画像生成装置10の構成を示す。画像生成装置10は、実写画像データなどを取得する画像入力部12と、その画像を格納する入力画像記憶部14と、入力画像から所定の画像を抽出する画像抽出部16と、抽出された入力画像に三次元特性を与えて第1のCG画像を生成するとともに、第1のCG画像におけるオブジェクトモデルを三次元空間内で操作し、それを二次元平面へ投影して前記第2のCG画像をさらに生成する仮想画像生成部18と、第1のCG画像に注目点を定め、前記第2のCG画像において前記注目点の対応点を算出する対応点情報算出部20と、算出された対応点情報を格納する対応点情報記憶部22と、第1、第2のCG画像の変化に対応した、前記入力画像に対する対応画像を、前記対応点情報に基づき生成する画像生成部24と、生成された画像と入力画像とを表示するため、適宜整列させる画像出力制御部26とを含む。
【0019】
画像入力部12は画像データを、撮像装置や記憶媒体など任意の装置から読み出してよい。本実施の形態は、例えば動くことのない対象物が動作する映像を作成したり、途中まで撮影された動画に対してその先のシーンを表す画像を生成したりすることに利用できるため、入力画像はそれら個々の事情によって任意の形態をとってよく、上記の例では、動くことのない対象物の写る静止画や、途中まで撮影された動画を用いる。また入力画像は実写像に限らず、例えば手書きの絵をスキャナーでデータ化したりしてもよい。
【0020】
入力された画像は入力画像記憶部14にいったん格納されるとともに、画像抽出部16にてその一部が抽出され、仮想画像生成部18へと送られる。一方、入力画像記憶部14に記憶された、抽出された画像のデータは、フラグが立てられるなどして他の画像データと識別される。画像抽出部16には例えば、入力画像を順次表示できる表示機能を設け、生成する画像の始点としたい画像を手入力にて指定できるようにしてもよい。この場合は、例えば実写した動画像の所定のフレーム以降、撮影したのと別のシーンを生成したい場合や、実物ではあり得ない動作を所定のフレームから挿入させたい場合など、状況に応じて所望の画像を選択できる。または、入力画像から所定の時間間隔または枚数間隔で自動的に抽出するようにしてもよい。抽出する画像は1枚でも複数でもよい。入力画像がもともと1枚の静止画の場合は、その画像はそのまま仮想画像生成部18へ送られる。
【0021】
仮想画像生成部18へ送られた入力画像は、被写体などにそれぞれ三次元特性を与えられ、擬似的なオブジェクトを有するCG画像となる。図2は入力画像KFiからCG画像CGiを生成する過程を概念的に示している。ここでは例えば二次元である入力画像内の被写体に対し、奥行き方向の情報を人工的に付与することによって三次元データ化し、任意の座標系において三次元オブジェクトを生成する。本来動かない物が動作する画像などを生成したい場合に、三次元画像の計測法として一般的な種々の手法を用いてその対象物を計測し、あらかじめ奥行き方向の情報を得ておいてもよい。それらを再度入力画像と同じ視野空間内の座標系に移し変え、二次元平面へ投影することによりCGiが生成される。
【0022】
仮想画像生成部18ではさらに、生成されたCG画像に対し、まずオブジェクトなどを三次元空間内で所望の態様になるように操作し、それを二次元平面へ投影して新たなCG画像を生成する。仮想画像生成部18へ送られた画像が動画像の一部や、所定の間隔で抽出された画像の場合は、それらの複数の画像から被写体などの移動速度や変化の割合を算出し、それを考慮することにより、入力された動画像と連続性のあるCG画像を生成することができる。ここでは、連続したCG画像を高いフレームレートで複数生成してもよいし、大きく変化させた後のCG画像を1枚生成してもよい。後者のような場合でも、後に述べる中間変位情報を利用することにより、最終的に生成される画像の枚数には影響しない。このCG画像生成枚数は、CG画像の生成による演算負荷と、画像の正確性との兼ね合いで適宜決定する。また、上記のオブジェクト操作には、オブジェクトの位置的変化をもたらす操作の他に、色など他の属性を変化させる操作を含んでもよい。
【0023】
仮想画像生成部18で生成された複数のCG画像は、対応点情報算出部20に送られ、隣接するCG画像間の対応点情報が取得される。ここでの計算手法は先に特願2001−242282号において本出願人が提案した技術を用いることができる。図3は当該技術を利用した場合の、2枚のCG画像とオブジェクトOBJとの対応関係を示す模式図である。まず、第1のCG画像CG1のオブジェクトなどに対し注目点p1を設定する。次に第2のCG画像CG2における、注目点の対応点p2を導出する。Miを第iのCG画像を得るためにオブジェクトなどを三次元空間内で操作する演算、Qiを演算Miの後にオブジェクトなどを二次元平面へ投影して第iのCG画像を得るための演算とすると、p1からp2を導出する式は以下のように表される。
p2 = fp1 = Q2M2M1 −1Q1 −1p1
注目点は画素単位で設定してもよいし、x,y方向に一定間隔で設定したり、オブジェクトのエッジなど変化の大きい部分に重み付けをして設定したりしてもよい。注目点の数が多いほど画像生成の際に正確性を増すが、計算負荷やメモリー容量などとの兼ね合いで決定するべきである。また、あらかじめオブジェクトに対し注目点pを定め、その点の対応点をそれぞれのCG画像上で算出してもよい。同様の計算を、対応点情報算出部20に送られたCG画像の全てに対して行い、画像CG1,CG2,CG3,CG4・・・・に対し、p1→p2→p3→p4・・・・という対応関係を全注目点に対して取得する。
【0024】
仮想画像生成部18ではさらに、CG画像の色の勾配情報を取得し、対応点情報に含めてもよい。ここで色の勾配情報とは、例えば仮想画像生成部18において、CG画像のオブジェクトの色を変化させる操作を行った場合において、座標どうしの対応とともにそれらの色がどのように変化したかを数値化して表したデータのことである。図4はこのような場合の対応点情報のデータ形式の一例を示したものであり、隣接するiおよびi+1番目のCG画像に対する対応点情報VCi,i+1は、対応する点のデータpi,pi+1とそれらの点の色情報C(pi),C(pi+1)との繰り返しにより構成されている。ここでは色情報以外にも所望の属性データをもたせることができる。対応点情報は、対応点情報記憶部22に順次格納される。
【0025】
画像生成部24では、入力画像記憶部14および対応点情報記憶部22にそれぞれ格納された抽出後の入力画像と対応点情報とが読み出され、それをもとに新たな画像、すなわち対応画像が生成される。図5は入力画像、CG画像および対応画像の関係を示す概念図である。仮想画像生成部18において生成されたCG画像のうち、入力された画像KFiをもとに生成されたCG画像をCGiとし、それに隣接するCG画像をCGi+1、それらCG画像間の対応点情報をVCi,i+1とする。このときCGi+1はCGiのオブジェクトなどを所望の態様に操作した後の画像であるため、VCi,i+1はそのオブジェクトなどの変化を表した情報であるといえる。そこでVCi,i+1の始点画像をKFiとすることにより、その終点画像として生成された対応画像KFi+1は、KFi中の被写体などを所望の態様に変化させた画像となる。また、VCi,i+1に前述のとおり色の勾配情報が含まれている場合は、終点画像KFi+1の対応点にその色を当てはめることにより、色の変化をも踏襲した対応画像を生成することができる。
【0026】
また本実施の形態は、実写画像の中間画像を生成してフレームレートを増加させたい場合にも有効である。基本的な装置構成は図1における画像生成装置10と同じである。図6はこの場合における入力画像とCG画像および中間画像との関係を示している。ここでKFiおよびKFi+1は画像抽出部16において抽出された隣接する入力画像である。入力画像は所定の時間間隔または枚数間隔で抽出してもよいし、特に抽出作業をすることなく、入力された画像を全て仮想画像生成部18へ送ってもよい。その選択規則はCG画像を生成する演算負荷と、最終的な中間画像の正確性というトレードオフの関係を考慮して適宜決定する。
【0027】
次に仮想画像生成部18において、画像抽出部16より送信された複数の入力画像に対して三次元特性を与え、それぞれに対応するCG画像を順次生成する。被写体の三次元情報があらかじめ得られている場合は、それを利用し、さらに各画像の視点との相対位置情報を考慮することにより、CG画像を生成できる。図6においては、入力画像KFiおよびKFi+1から、CG画像CGiおよびCGi+1がそれぞれ生成されているとする。
【0028】
さらに対応点情報算出部20において、まず図5の例と同様に隣接するCG画像の対応点情報VCi,i+1を取得する。次に補間計算によりそれらのCG画像間を所定の間隔に分割し、その間隔における対応点情報、すなわち中間変位情報を取得する。ここでは任意の線形または非線形の補間手法を利用してよい。例えば図6に示したように、画像CGiおよびCGi+1の間を4等分する場合を考える。対応点情報VCi,i+1によって画像CGi上の点piの座標(xi,yi)が画像CGi+1上の点pi+1の座標(xi+1,yi+1)へ対応していることが示されているとすると、等間隔に線形補間を行えば、
【数1】
という中間変位情報が得られる。得られた中間変位情報を、入力画像KFiを始点画像として順次適用していくことにより、画像KFiとKFi+1の間の中間画像IFi,i+1(1),IFi,i+1(2),IFi,i+1(3)が生成される。対応点情報の分割は等分である必要はなく、中間変位情報は任意のタイミングで生成してよい。また、外分点を算出することにより、画像KFi+1以降の画像を生成してもよい。
【0029】
上述の例では、画像KFi+1も入力画像であるとして、それをもとに画像CGi+1を生成した後、中間変位情報を取得したが、対応画像としてKFi+1を生成しながら中間画像を生成することもできる。図7はそれらの一連の手順を示すフローチャートである。図5にて示したのと同様に、抽出された入力画像KFi(S50)をもとにCG画像CGiを生成し(S51)、オブジェクトなどに所望の操作を施して画像CGi+1を生成する(S52)。その後、対応点情報VCi,i+1を取得して(S53)、図6で述べたように中間変位情報を取得し(S54)、KFiを始点画像として中間変位情報を順次適用していくことにより、中間画像および対応画像KFi+1を生成する(S55)。その後、必要に応じてさらにオブジェクトなどを操作してCG画像を生成し、それに応じて対応画像および中間画像を生成することを繰り返す(S56,S57)。この方法により、例えば一枚の画像から、その被写体に所望の動作をさせた動画像を、所望のフレームレートで正確に生成することができる。
【0030】
対応点情報VCi,i+1に位置的情報以外の属性データ、例えば色の勾配情報が含まれているときは、前述の座標補間と同様、画素値の補間を任意の補間手法により行い中間画素値情報を取得し、それを中間画像の画素値として採用してもよい。
【0031】
<第2の実施の形態>
次に第2の実施の形態を説明する。図8は第2の実施の形態の係る画像生成装置10の構成を示す。本実施の形態では、図1の仮想画像生成部18および対応点情報算出部20に変わり、CG画像データ入力部19が設けられる。CG画像データ入力部19は、外部装置としてCG画像の演算を行うコンピュータなどと接続し、当該コンピュータの記憶装置などからCG画像データを読み込む。ここでCG画像データとは、動画などを表す複数のCG画像と、隣接するCG画像間の対応点情報とからなるデータストリームである。第1の実施の形態と異なり、ここで用いるCG画像は入力画像をもとに生成されたものでなくてもよい。対応点情報は第1の実施の形態と同様の計算を行ったものでもよく、CG画像間に色の変化などがある場合は、それらの属性データも対応点情報に包含させてよい。
【0032】
画像抽出部16では、入力されたCG画像に適した入力画像を1枚選択する。CG画像に適した入力画像とは、例えばCG画像の1枚目と類似性の高い画像などである。また、CG画像データ入力部19にCG画像を順次参照できる表示部を設け、入力画像がもともと1枚の場合などに、その入力画像と類似性の高いCG画像をCGの1枚目の画像として指定できる機能をさらに設けてもよい。
【0033】
画像生成部24において、CG画像の対応点情報VCi,i+1を、入力画像より抽出された画像KFiに適用することにより、CG画像の動きに対応した対応画像が生成される。CG画像が動画を表す複数の画像フレームであった場合は、1枚の入力画像から動画を表す複数の対応画像が順次生成される。本実施の形態の画像生成装置10において、対応点情報算出部20をさらに対応点情報記憶部22の入力側(図示せず)に設け、第1の実施の形態と同様に中間変位情報を取得し、画像生成部24にて所望のフレームレートで中間画像を生成してもよい。また、CG画像データ入力部19にて読み込むデータには対応点情報が含まれていなくてもよい。この場合、上述のように対応点情報算出部20を設け、隣接するCG画像間の対応点情報を、第1の実施の形態と同様に計算すればよい。
【0034】
第2の実施の形態は、例えばCG画像で細かいドットパターンの水平方向の流れや、渦巻きを作成し、水面のさざなみを入力画像とすることで、水流や渦潮の画像を生成したりするのに利用できる。また同様のCG画像を用いて、入力画像に人の顔などを選択すれば、非現実的な映像表現が可能である。このように、CG画像として様々なパターンの動きをあらかじめ作成しておき、そこから選択してCG画像データ入力部19にて読み込めば、実写像などの加工や映像効果の付加が容易にできる。CG画像はランダムなパターンの動きばかりでなく、例えば球体が転がる動画などでもよく、最終的に所望とする画像が、りんごが転がるなど単純な場面や緻密性を要求しない場合などは、入力画像として例えばりんごの画像を選択することにより、動画を容易に生成できる。
【0035】
以上、実施の形態をもとに本発明を説明した。なお本発明はこの実施の形態に限定されることなく、そのさまざまな変形例もまた、本発明の態様として有効である。
【図面の簡単な説明】
【図1】第1の実施の形態に係る画像処理装置の構成図である。
【図2】入力画像の被写体に三次元特性を与えCG画像を生成する過程を示す概念図である。
【図3】2枚のCG画像間の対応点情報を導出する方法を示す説明図である。
【図4】色の勾配情報を含む対応点情報のデータ形式を示す模式図である。
【図5】入力画像、CG画像および対応画像と、対応点情報の関係を示す概念図である。
【図6】入力画像、CG画像および中間画像と、中間変位情報との関係を示す概念図である。
【図7】入力画像から対応画像および中間画像を生成する場合の手順を示すフローチャートである。
【図8】第2の実施の形態に係る画像処理装置の構成図である。
【符号の説明】
10 画像生成装置、 12 画像入力部、 14 入力画像記憶部、 16画像抽出部、 18 仮想画像生成部、 19 CG画像データ入力部、 20 対応点情報算出部、 22 対応点情報記憶部、 24 画像生成部。
Claims (17)
- 入力画像を取得するステップと、
三次元オブジェクトモデルが含まれる第1、第2のCG画像の対応点情報を取得するステップと、
前記第1、第2のCG画像の変化に対応した、前記入力画像に対する対応画像を、前記対応点情報に基づき生成するステップと、
を含むことを特徴とする画像生成方法。 - 前記入力画像に3次元特性を与え、前記第1のCG画像を生成するステップをさらに含むことを特徴とする請求項1に記載の方法。
- 前記第1のCG画像における前記オブジェクトモデルを3次元空間内で操作したのち、二次元平面へ投影して前記第2のCG画像を生成するステップをさらに含むことを特徴とする請求項1または請求項2に記載の方法。
- 前記対応点情報を取得するステップは、前記第1のCG画像に注目点を定めるステップと、
前記第2のCG画像における前記注目点の対応点を算出するステップと、
を含むことを特徴とする請求項1から請求項3のいずれかに記載の方法。 - 前記対応画像を生成するステップは、前記入力画像を始点画像として前記対応点情報を適用し、導出された終点画像を前記対応画像とすることを特徴とする請求項1から請求項4のいずれかに記載の方法。
- 前記第1、第2のCG画像の画素値の勾配情報を取得するステップをさらに含み、前記対応画像の画素値は前記画素値の勾配情報に基づき決定することを特徴とする請求項1から請求項5のいずれかに記載の方法。
- 前記注目点と前記対応点の画像内位置を補間することにより、前記第1、第2のCG画像の中間変位情報を生成するステップをさらに含み、前記中間変位情報に基づき、前記入力画像と前記対応画像の中間画像をさらに生成することを特徴とする請求項1から請求項6のいずれかに記載の方法。
- 入力画像を取得する画像入力部と、
三次元オブジェクトモデルが含まれる第1、第2のCG画像の対応点情報を記憶する対応点情報記憶部と、
前記第1、第2のCG画像の変化に対応した、前記入力画像に対する対応画像を、前記対応点情報に基づき生成する画像生成部と、
を含むことを特徴とする画像生成装置。 - 前記入力画像に3次元特性を与え、前記第1のCG画像を生成する仮想画像生成部をさらに含むことを特徴とする請求項8に記載の装置。
- 前記仮想画像生成部は、前記第1のCG画像における前記オブジェクトモデルを3次元空間内で操作したのち、二次元平面へ投影して前記第2のCG画像をさらに生成することを特徴とする請求項9に記載の装置。
- 前記第1のCG画像に注目点を定め、前記第2のCG画像における前記注目点の対応点を算出する対応点情報算出部をさらに含むことを特徴とする請求項8から請求項10のいずれかに記載の装置。
- 前記画像生成部は、前記入力画像を始点画像として前記対応点情報を適用し、導出された終点画像を前記対応画像とすることを特徴とする請求項8から請求項11のいずれかに記載の装置。
- 前記対応点情報算出部において、前記第1、第2のCG画像の画素値の勾配情報をさらに取得し、前記画像生成部において前記画素値の勾配情報に基づき、前記対応画像の画素値を決定することを特徴とする請求項11または請求項12に記載の装置。
- 前記対応点情報と前記第1、第2のCG画像の画素値の勾配情報を含むCG画像データを読み込むCG画像データ入力部をさらに含むことを特徴とする請求項8に記載の装置。
- 前記対応点情報算出部において、前記注目点と前記対応点の画像内位置を補間することにより、前記第1、第2のCG画像の中間変位情報をさらに生成し、前記画像生成部において、前記中間変位情報に基づき、前記入力画像と前記対応画像の中間画像をさらに生成することを特徴とする請求項11から請求項14のいずれかに記載の装置。
- 前記対応点情報算出部において前記画素値の勾配情報を補間することにより、前記中間画像の画素値を決定することを特徴とする請求項15に記載の装置。
- 入力画像を取得する機能と、
三次元オブジェクトモデルが含まれる第1、第2のCG画像の対応点情報を取得する機能と、
前記第1、第2のCG画像の変化に対応した、前記入力画像に対する対応画像を、前記対応点情報に基づき生成する機能と、
をコンピュータに実行せしめることを特徴とするコンピュータプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002236035A JP2004078431A (ja) | 2002-08-13 | 2002-08-13 | 画像生成方法と装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002236035A JP2004078431A (ja) | 2002-08-13 | 2002-08-13 | 画像生成方法と装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004078431A true JP2004078431A (ja) | 2004-03-11 |
Family
ID=32020350
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002236035A Pending JP2004078431A (ja) | 2002-08-13 | 2002-08-13 | 画像生成方法と装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004078431A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100721536B1 (ko) * | 2005-12-09 | 2007-05-23 | 한국전자통신연구원 | 2차원 평면상에서 실루엣 정보를 이용한 3차원 구조 복원방법 |
JP2008102961A (ja) * | 2007-12-25 | 2008-05-01 | Fujifilm Corp | 画像処理システムおよびその方法 |
-
2002
- 2002-08-13 JP JP2002236035A patent/JP2004078431A/ja active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100721536B1 (ko) * | 2005-12-09 | 2007-05-23 | 한국전자통신연구원 | 2차원 평면상에서 실루엣 정보를 이용한 3차원 구조 복원방법 |
US7760932B2 (en) | 2005-12-09 | 2010-07-20 | Electronics And Telecommunications Research Institute | Method for reconstructing three-dimensional structure using silhouette information in two-dimensional image |
JP2008102961A (ja) * | 2007-12-25 | 2008-05-01 | Fujifilm Corp | 画像処理システムおよびその方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Huang et al. | Leveraging motion capture and 3d scanning for high-fidelity facial performance acquisition | |
Chai et al. | Vision-based control of 3 D facial animation | |
JP3954211B2 (ja) | 三次元シーンにおける形状及び模様の復元方法及び装置 | |
US9036898B1 (en) | High-quality passive performance capture using anchor frames | |
JP2024522287A (ja) | 三次元人体再構成方法、装置、デバイスおよび記憶媒体 | |
JPH11331874A (ja) | 画像処理装置、奥行き画像計測装置、複合現実感提示システム、画像処理方法、奥行き画像計測方法、複合現実感提示方法、およびプログラムの記憶媒体 | |
JP2006249618A (ja) | 仮想試着装置 | |
CN109906600B (zh) | 模拟景深 | |
KR20090108642A (ko) | 이미지의 캡쳐링, 프로세싱, 및 렌더링 방법 | |
US11928778B2 (en) | Method for human body model reconstruction and reconstruction system | |
JP2018129009A (ja) | 画像合成装置、画像合成方法及びコンピュータプログラム | |
KR20170046140A (ko) | 얼굴 이미지 편집 방법 및 디바이스 | |
KR20100088347A (ko) | 얼굴 표정 리타게팅 방법 | |
CN111612878A (zh) | 将静态照片制作成三维效果视频的方法及装置 | |
JP7446566B2 (ja) | ボリュメトリックキャプチャ及びメッシュ追跡ベースの機械学習 | |
JPH10240908A (ja) | 映像合成方法 | |
JP2023526860A (ja) | 階層化ニューラルレンダリングによる映像中のオブジェクトのリタイミング | |
JP2004078431A (ja) | 画像生成方法と装置 | |
CN115457171A (zh) | 一种采用基表情空间变换的高效表情迁移方法 | |
JP2022119067A (ja) | 画像処理装置および方法、画像処理システム、プログラム | |
JP2004013869A (ja) | 3次元形状生成装置及びそれに用いる3次元形状生成方法並びにそのプログラム | |
JPH10198824A (ja) | 映像生成処理装置及びその装置で用いられる構造化データを作成する構造化データ作成装置 | |
EP4111420A1 (en) | Face mesh deformation with detailed wrinkles | |
JP2002525764A (ja) | グラフィックスおよび画像処理システム | |
JP2009295129A (ja) | 静止画の動画化方法、装置およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Effective date: 20050715 Free format text: JAPANESE INTERMEDIATE CODE: A621 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20071214 |
|
A131 | Notification of reasons for refusal |
Effective date: 20071225 Free format text: JAPANESE INTERMEDIATE CODE: A131 |
|
A02 | Decision of refusal |
Effective date: 20080415 Free format text: JAPANESE INTERMEDIATE CODE: A02 |