JP4918689B2 - メッシュマップを用いて二次元画像から立体画像を生成する立体画像生成方法及び立体画像生成装置 - Google Patents

メッシュマップを用いて二次元画像から立体画像を生成する立体画像生成方法及び立体画像生成装置 Download PDF

Info

Publication number
JP4918689B2
JP4918689B2 JP2009545487A JP2009545487A JP4918689B2 JP 4918689 B2 JP4918689 B2 JP 4918689B2 JP 2009545487 A JP2009545487 A JP 2009545487A JP 2009545487 A JP2009545487 A JP 2009545487A JP 4918689 B2 JP4918689 B2 JP 4918689B2
Authority
JP
Japan
Prior art keywords
image
mesh
depth information
generating
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009545487A
Other languages
English (en)
Other versions
JP2010516155A (ja
Inventor
ジョン−リュル キム
ジュ−ヒョエ キム
ヒョン−ウー キム
クワン−ウー キム
Original Assignee
リアル イメージ コーポレイション
ベンチャー スリーディー、インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by リアル イメージ コーポレイション, ベンチャー スリーディー、インコーポレイテッド filed Critical リアル イメージ コーポレイション
Publication of JP2010516155A publication Critical patent/JP2010516155A/ja
Application granted granted Critical
Publication of JP4918689B2 publication Critical patent/JP4918689B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/20Finite element generation, e.g. wire-frame surface description, tesselation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/261Image signal generators with monoscopic-to-stereoscopic image conversion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/275Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Graphics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Processing Or Creating Images (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Description

本出願は、韓国知的財産庁においてなされた以下の出願について利益を主張する。その出願とは、2007年1月10日になされた韓国特許出願第10-2007-0002883号、2007年3月19日になされた韓国特許出願第10-2007-0026568号、そして、2007年4月6日になされた韓国特許出願第10-2007-0034321号であり、これら出願の開示内容は、その全体が参照により本明細書の一部として援用される。
本発明は、立体画像を生成する方法及び装置に、そして、当該立体画像生成方法を実行するためのコンピュータプログラムを記録したコンピュータ読取可能な記録媒体に関する。そして、より具体的に言えば、メッシュマップを用いて二次元(2D)画像から立体画像を生成する方法及び装置に関する。本発明の方法及び装置においては、2Dデジタル画像が読み取られ、当該2D画像とメッシュマップとは、両者を重ねた形で表示される。また、メッシュマップのメッシュ形状及び奥行き情報(奥行き値)はユーザによって編集され、2D画像に含まれるピクセル(画素)の相対的奥行き情報が、メッシュ形状と奥行き情報とに従って算出される。算出された2D画像の相対的奥行き情報を用いて立体画像ファイルが生成される。そして、この方法を実行するためのコンピュータプログラムはコンピュータ読取可能な記録媒体に記録される。
本発明における2D画像は、一般的な静止画像または動画を含む。
本発明では、好ましい構成として、2D画像はデジタルフォーマットで受信される。しかし、2D画像をアナログフォーマットで受信して、公知の方法でデジタルフォーマットに変換することにしてもよい。
本発明では、立体画像を生成する装置は、ハードウェアで実現することもできる。しかし、本装置は、立体画像生成ソフトウェアで実現するのが好ましい。
本発明に関する以下の説明は、本発明がコンピュータに適用された場合を想定しているが、本発明はそれに限定されない。本発明は、高性能携帯電話を含め、あらゆる電子機器に適用できる。
一般に、人間が近くにある物体を見る際には立体(3D)効果が生じるが、この立体(3D)効果は、両目が水平方向に約65mm離れていることから生じる両眼視差に起因する。つまり、両眼は、実体は1つの物体について2つの異なる画像を見ており、それら2つの画像は、網膜及び視神経を通して脳へ送られる。そして、視覚野(脳後部の大脳皮質のうち視覚情報を処理する領域)が2つの画像を合成することで、この物体に関する立体効果(3D effect)や立体感(spatial effect)が生じる。
仮想3D表示装置とは、両眼視差の現象を利用する特別なツールを有した2D表示装置において、仮想3D効果を実現するシステムである。すなわち、仮想3D効果は、画面に2つの両眼画像を同時に表示し、両眼画像の各々を2つの目のいずれかに見せようにすることで生じる。画面に2つの両眼画像を表示するにあたって、仮想3D表示装置は、ほとんどの場合、2つの両眼画像のピクセルラインを交互に配置するやり方、または、2つの両眼画像を所定の遅延をおいて交互に全面表示するやり方で、両眼画像を表示する。2つの両眼画像が画面に表示された時、右目は右目視界画像(right-eye-view)を捉え、左の目は左目視界画像(left-eye-view)を捉えるが、これは、裸眼立体化手法(autostereoscopic method)で用いられる表示装置のハードウェア構成による。すなわち、立体化手法で用いられる特別な眼鏡(例えば、偏光眼鏡や液晶ディスプレイ(LCD)シャッター眼鏡)によって、右目視界画像は左目には見えないようにブロックされ、左目視界画像は右目には見えないようにブロックされる。
その他に、仮想3D表示用の立体画像の生成には、2台のカメラをお互いから約65mm隔てた位置に置いて同時に異なる画像を撮る、という両眼撮影法を用いることもできる。しかし、両眼撮影法を用いると、撮影及び編集にあたって、作業を複雑かつ不便にする条件や処理が追加で必要となる。そのため、時間及びコストは、通常の動画撮影方法に比べてはるかに長く、大きくなる。従って、動画の両眼撮影法は、いくつかの特殊なケースに対象が限定されており、広く用いられているとは言えない。
近年、高画質かつ大画面のフラットパネル液晶表示装置が大量生産されるようになったのに伴い、仮想3D表示装置などのハードウェア技術は大きく進歩し、近い将来、一般に広く利用されるものになると期待されている。しかし、今のところ3D業界には更なる発展は見られない。それは、一般ユーザが簡単かつ当たり前に利用できる3Dコンテンツ(すなわち立体映画)が、充分に供給されていないからである。
そこで、一般的な静止画像及び動画を含む通常の2D画像を、画像処理用のコンピュータソフトウェアまたはハードウェアを用いて、低コストかつ短時間で立体画像に変換する技術が求められている。すなわち、1台のカメラを用いて撮られた単眼の画像ソース(monocular source)(通常の2Dデジタル画像)を、両眼撮影方法を用いて撮られた立体映像に匹敵する質の3D効果を有した立体画像に変換する技術が必要とされている。
韓国特許出願第10-1997-0008382号公報
本発明は、メッシュマップを用いて二次元(2D)画像から立体画像を生成する立体画像生成方法及び立体画像生成装置、そして、当該立体画像生成方法を実行するためのコンピュータプログラムを記録したコンピュータ読取可能な記録媒体、を提供する。
本発明はまた、2D画像を読み出し、2D画像とメッシュマップとを両者を重ねた形で表示し、メッシュマップの奥行き情報(奥行き値)とメッシュ形状とをユーザに編集させる、という処理で立体画像を生成する立体画像生成方法及び立体画像生成装置、そして、当該立体画像生成方法を実行するためのコンピュータプログラムを記録したコンピュータ読取可能な記録媒体、を提供する。
本発明の他の目的及び効果については、発明の詳細な説明において開示される実施の形態を通して、より明らかとなり、また理解されるであろう。さらに、本発明の目的及び効果については、特許請求の範囲に開示された構成及び特徴、ならびにその組み合わせによって実現されることが理解されるであろう。
本発明は、1つの構成として、メッシュマップを用いて2次元(2D)画像から立体画像を生成する立体画像生成装置であって、外部装置から静止画像または動画を含む2D画像と、ユーザによって編集されるメッシュマップのメッシュ形状及び奥行き情報すなわち奥行き値とを受信する受信ユニットと、 2D画像とメッシュマップとを両者を重ねた形で表示する画面参照ユニットと、表示された画像の形状に従ってユーザにより編集されたメッシュマップのメッシュ形状と奥行き情報(奥行き値)とを管理する情報管理ユニットと、編集されたメッシュマップのメッシュ形状及び奥行き情報に従って、2D画像に含まれるピクセルの相対的な奥行き情報(奥行き値)を算出する計算ユニットと、算出された2D画像の相対的な奥行き情報を用いて立体画像ファイルを生成する立体画像生成ユニットと、を備えることを特徴とする立体画像生成装置を提供する。
本発明によれば、メッシュマップを用いて2D画像から立体画像を生成することができる。
すなわち、本発明によれば、2D画像を読み出し、2D画像及びメッシュマップを両者を重ねた形で表示し、メッシュマップの奥行き情報(奥行き値)及びメッシュ形状をユーザに編集させる、という処理によって、2D画像から立体画像が生成される。
こうした構成により、一般的な静止画像及び動画を含む通常の2D画像を、画像処理用のコンピュータソフトウェアまたはハードウェアを用いて、低コストかつ短時間で、3D効果を有した立体画像に変換することができ、そうして得られる立体画像は、あたかも両眼撮影方法を用いて撮影されたもののように見える。
本発明に関する上記及び他の特徴ならびに効果については、以下、添付図面を参照しながら、本発明の例示的な実施の形態について詳細に説明していくなかで、更に明らかになるであろう。
本発明の実施の形態による立体画像生成装置を含む立体画像生成システムを示す概略図である。 図1に示した本発明の実施の形態による立体画像生成装置を示す詳細ブロック図である。 本発明の実施の形態に従ってメッシュマップを用い2D画像から立体画像を生成する際の、ピクセルの相対的な奥行き値を算出する方法を示した詳細フローチャートである。 本発明の実施の形態に従ってメッシュマップを用い2D画像から立体画像を生成する際の、2D画像から立体画像を生成する方法を示した詳細フローチャートである。 本発明の実施例による立体画像生成装置が立体画像生成ソフトウェアの形で実現される場合の、コンピュータ画面の一例を示す写真画像である。
本発明の1つの構成として提供されるのが、メッシュマップを用いて2次元(2D)画像から立体画像を生成する立体画像生成装置であって、外部装置から静止画像または動画を含む2D画像と、ユーザによって編集されるメッシュマップのメッシュ形状及び奥行き情報すなわち奥行き値とを受信する受信ユニットと、2D画像とメッシュマップとを両者を重ねた形で表示する画面参照ユニットと、表示された画像の形状に従ってユーザにより編集されたメッシュマップのメッシュ形状と奥行き情報(奥行き値)とを管理する情報管理ユニットと、編集されたメッシュマップのメッシュ形状及び奥行き情報(奥行き値)に従って、2D画像に含まれるピクセルの相対的な奥行き情報を算出する計算ユニットと、算出された2D画像の相対的な奥行き情報を用いて立体画像ファイルを生成する立体画像生成ユニットと、を備えることを特徴とする立体画像生成装置である。
画面参照ユニットは、コンピュータが仮想3次元(3D)表示装置を有しているか否か判定し、編集中のメッシュマップのメッシュ形状及び奥行き情報を2D画像に適用することで立体画像を生成し、立体画像及びメッシュマップを、立体画像とメッシュマップとを重ねた形で表示する。
また、本発明の別の構成として、メッシュマップを用いて2次元(2D) 画像から立体画像を生成する立体画像生成装置であって、外部装置からの2D画像と、ユーザによって編集されるメッシュマップのメッシュ形状及び奥行き情報すなわち奥行き値とを受信する受信ユニットと、編集中のメッシュマップのメッシュ形状及び奥行き情報すなわち奥行き値を2D画像に適用することによって立体画像を生成し、立体画像及びメッシュマップを、立体画像とメッシュマップとを重ねた形で表示する画面参照ユニットと、表示された画像の形状に従ってユーザにより編集されたメッシュマップのメッシュ形状及び奥行き情報を管理する情報管理ユニットと、編集されたメッシュマップのメッシュ形状及び奥行き情報(奥行き値)に従って、2D画像に含まれるピクセルの相対的な奥行き情報を算出する計算ユニットと、算出された2D画像の相対的な奥行き情報を用いて立体画像ファイルを生成する立体画像生成ユニットと、を備えることを特徴とする立体画像生成装置を提供する。
受信された2D画像が動画である場合、情報管理ユニットは、編集された現在の画像のメッシュマップのメッシュ形状及び奥行き情報に基づき、隣接画像と現在の画像との差異に従って、隣接画像のメッシュ形状を自動的に変更すると共に、隣接画像のメッシュマップに含まれるメッシュの奥行き情報を自動的に算出する。
また、本発明の更に別の構成として、メッシュマップを用いて2次元(2D)画像から立体画像を生成する方法であって、2D画像を受信する処理と、2D画像とメッシュマップとを両者を重ねた形で表示する処理と、表示された画像の形状に従って行われるユーザ指示に応じてメッシュマップのメッシュ形状及び奥行き情報(奥行き値)を編集する処理と、編集されたメッシュマップのメッシュ形状及び奥行き情報に従って2D画像に含まれるピクセルの相対的な奥行き情報を算出する処理と、算出された2D画像の相対的な奥行き情報を用いて立体画像ファイルを生成する処理と、を含むことを特徴とする立体画像生成方法を提供する。
本方法については、コンピュータが仮想3次元(3D)表示装置を有しているか否か判定する処理と、コンピュータが仮想3D表示装置を有する場合に、編集中のメッシュマップのメッシュ形状及び奥行き情報を2D画像に適用することで立体画像を生成し、立体画像及びメッシュマップを、立体画像とメッシュマップとを重ねた形で表示する処理と、をさらに有することとしてもよい。
また、本発明の更に別の構成として、メッシュマップを用いて2次元(2D)画像から立体画像を生成する方法であって、2D画像を受信する処理と、編集中のメッシュマップのメッシュ形状及び奥行き情報すなわち奥行き値を2D画像に適用することによって立体(3D)画像を生成し、立体画像及びメッシュマップを、立体画像とメッシュマップとを重ねた形で表示する処理と、表示された画像の形状に従って行われるユーザ指示に応じてメッシュマップのメッシュ形状及び奥行き情報を編集する処理と、編集されたメッシュマップのメッシュ形状及び奥行き情報に従って、2D画像に含まれるピクセルの相対的な奥行き情報(奥行き値)を算出する処理と、算出された2D画像の相対的な奥行き情報を用いて立体画像ファイルを生成する処理と、を含むことを特徴とする立体画像生成方法を提供する。
そして、これまでに述べた方法のいずれかについて、受信された2D画像が動画である場合、編集された現在の画像のメッシュマップのメッシュ形状及び奥行き情報に基づき、隣接画像と現在の画像との差異に従って、隣接画像のメッシュ形状を自動的に変更すると共に、隣接画像のメッシュマップに含まれるメッシュの奥行き情報を自動的に算出する処理、を更に有すること、とすることもできる。
また、本発明の更に別の構成として、プロセッサを有する立体画像生成装置の機能を実現するコンピュータプログラムを記録したコンピュータ読取可能な記録媒体であって、前記機能には、2次元(2D)画像を受信する機能と、2D画像及びメッシュマップを、2D画像とメッシュマップとを重ねた形で表示する機能と、表示された画像の形状に従って行われるユーザ指示に応じてメッシュマップのメッシュ形状及び奥行き情報すなわち奥行き値を編集する機能と、編集されたメッシュマップのメッシュ形状及び奥行き情報に従って、2D画像に含まれるピクセル相対的な奥行き情報(奥行き値)を算出する機能と、算出された2D画像の相対的な奥行き情報を用いて立体画像ファイルを生成する機能と、が含まれること、を特徴とするコンピュータ読取可能な記録媒体を提供する。
そして、上記の機能には更に、コンピュータが仮想3次元(3D)表示装置を有しているか否か判定する機能と、仮想3D表示装置がコンピュータに含まれる場合、編集中のメッシュマップのメッシュ形状及び奥行き情報を2D画像に適用することで立体画像を生成し、立体画像及びメッシュマップを、立体画像とメッシュマップとを重ねた形で表示する機能とが含まれること、としてもよい。
また、本発明の更に別の構成として、プロセッサを有する立体画像生成装置の機能を実行するコンピュータプログラムを記録したコンピュータ読取可能な記録媒体であって、前記機能には、2次元(2D)画像を受信する機能と、編集中のメッシュマップのメッシュ形状及び奥行き情報すなわち奥行き値を2D画像に適用することによって立体(3D)画像を生成し、立体画像及びメッシュマップを、立体画像とメッシュマップとを重ねた形で表示する機能と、表示された画像の形状に従って行われるユーザ指示に応じてメッシュマップのメッシュ形状及び奥行き情報すなわち奥行き値を編集する機能と、編集されたメッシュマップのメッシュ形状及び奥行き情報に従って、2D画像に含まれるピクセルの相対的な奥行き情報(奥行き値)を算出する機能と、算出された2D画像の相対的な奥行き情報を用いて立体画像ファイルを生成する機能と、が含まれることを特徴とするコンピュータ読取可能な記録媒体を提供する。
そして、上記の機能には更に、受信された2D画像が動画である場合、編集された現在の画像のメッシュマップのメッシュ形状及び奥行き情報に基づき、隣接画像と現在の画像との差異に従って、隣接画像のメッシュ形状を自動的に変更すると共に、隣接画像のメッシュマップに含まれるメッシュの奥行き情報を自動的に算出する機能が含まれること、としてもよい。
上に述べた通り、本発明によれば、コンピュータに立体画像生成ソフトウェア(立体画像生成装置)をインストールし、一般的な静止画像または動画を含む2Dデジタル画像を読み込み、2D画像とメッシュマップとを両者を重ねた形で表示し、メッシュマップの奥行き情報(奥行き値)及びメッシュ形状の編集をユーザに行わせ、2D画像に含まれるピクセルの相対的な奥行き情報を、ユーザによって編集されたメッシュ形状及び奥行き情報に従って算出する、という処理によって立体画像ファイルが生成される。
本発明の目的及び効果については、発明の詳細な説明において開示される実施の形態によって、より明瞭になり、理解することができる。従って、本発明の技術的な特徴は、通常の当業者であれば容易に実施できるはずである。
本発明に関する以下の説明の中では、本発明に組み入れられた公知の機能及び構成部に関して詳細な説明を省略している場合があるが、それは、詳細に説明することで逆に本発明の主題があいまいになると考えたからである。
以下、添付図面を参照しながら本発明の実施の形態について解説し、本発明の詳細を明らかにする。
図1は、本発明の実施の形態による立体画像生成装置12を含む立体画像生成システムを示す概略図である。
図1に見られる立体画像生成システムは、コンピュータ本体11、コンピュータ画面13、コンピュータ入力装置17を有する。
コンピュータ本体11は一般的なコンピュータシステムであり、中央演算処理装置(CPU)、データ記憶装置(例:RAM(Random Access Memory)、ROM(Read Only Memory)、ハードディスク(HDD))、各種インターフェースを有する。コンピュータ本体11としては、通常のパーソナルコンピュータ(PC)、ノートパソコン、またはワークステーションが用いられる。コンピュータ本体11は、短時間に大量の数学的計算を実行することで、即座にそして正確にデータを処理する。一般に、コンピュータ本体11のCPUにはマイクロプロセッサ(例えば、Intel Corporation社製のもの)が使用される。モニタなどの出力装置、表示装置、マウスやキーボードなどの入力装置が、有線環境または無線環境でコンピュータ本体11に接続されている。
コンピュータ画面13は、コンピュータ本体11に接続された表示装置に含まれる。ここでの表示装置は様々な種類のものが可能であり、一般的な陰極線管(CRT)型、液晶ディスプレイ(LCD)型、そして、プラズマディスプレイパネル(PDP)型などがある。表示装置に仮想三次元(3D)表示装置が含まれていれば、左目視界画像と右目視界画像とを含む立体画像をコンピュータ画面13上に表示して、3D効果や立体感をユーザに感じさせることができる。
一方、立体画像生成装置12は、例えば、立体画像生成ソフトウェアの形で実装される。これは、HDDにインストールされ、ユーザ命令によってRAMなどのメモリに移動された後、CPUによって実行される。
この場合、立体画像を生成するために以下の処理が行われる。すなわち、立体画像生成装置12をコンピュータ本体11にインストールし、その立体画像生成装置12が、一般的な静止画像または動画を含んだ二次元(2D)デジタル画像15を読み込みまたは受信すると、それを右目視界画像と仮定して、2D画像15及びメッシュマップ14をコンピュータ画面13上に、両者を重ねた形で表示する。
ここで、メッシュマップ14は複数のメッシュから成り、各メッシュは4つの角を有する。メッシュの角には、コンピュータ画面13上での位置に関するデータ(x座標、y座標)と、相対的な奥行き値のデータ(z座標)とが与えられている。この場合、x座標及びy座標がコンピュータ画面上の相対的な位置を示すのと同様に、各々の角の奥行き値(奥行き情報)は、対象物の絶対的な奥行き値ではなく、2D画像15の大きさ(ピクセル数)に基づいて変換された相対的なz座標である。
立体画像生成装置12が、2D画像15及びメッシュマップ14をコンピュータ画面13上に、両者を重ねた形で表示すると、ユーザは、マウスやキーボードなどのコンピュータ入力装置17を用い、メッシュの角(corners)の位置を修正することによって、2D画像15の形状にメッシュ形状を一致させる編集を行う。そしてユーザは、表示された(2D)画像15の主観的透視投影像(subjective perspectives)に従って、メッシュの角の奥行き値を入力する。このようにして、メッシュマップ14は、表示された画像の形状に従ってユーザの手で編集される。この場合、立体画像生成装置12は、ユーザによるメッシュマップの修正を受けて、メッシュマップ14を最終形(final version)へと加工する。コンピュータ画面13に修正後のメッシュマップ14を表示して、ユーザによるメッシュ形状及び奥行き値の再編集を可能にし、表示された(2D)画像の形状に従って修正を行わせた後に再び表示する、という処理を繰り返す。
一方、仮想3D表示装置がコンピュータ11に含まれている場合、立体画像は、ユーザが選択的設定を用いて編集中のメッシュマップ14の奥行き値及びメッシュ形状に従って生成される。そして、生成された立体画像およびメッシュマップ14がコンピュータ画面13に表示される。そうして、立体画像が表示されている間、ユーザは、表示された(3D)画像の形状に従ってメッシュマップ14を編集することができ、その編集は、メッシュマップ14の奥行き値及びメッシュ形状を編集する形で行われる。
立体画像生成装置12は、上でも述べたように、メッシュマップ14の奥行き値及びメッシュ形状のデータを受信して、2D画像15の全ピクセルについて相対的な奥行き値を算出することで立体画像ファイル16を生成する。すなわち、立体画像生成装置12は、右目視界画像(2D画像15)の各ピクセルを、算出された相対的な奥行き値(奥行き情報)に従って、コンピュータ画面13の左側または右側に水平方向に移動させることで左目視界画像を生成し、それによって立体画像ファイル16を生成する。この処理において、算出されたピクセルの相対的な奥行き値(奥行き情報)が正の値である場合(すなわちピクセルが突出している場合)、そのピクセルは右側に移動させられる。そして、算出されたピクセルの相対的な奥行き値が負の値である場合(すなわち、ピクセルが引っ込んでいる場合)、そのピクセルは左側に移動させられる。立体画像ファイル16は、左目視界画像のピクセルラインと右目視界画像のピクセルラインとを交互に配置する方法で生成することができる。この場合、左目視界画像のピクセルラインと右目視界画像のピクセルラインとは、水平方向または垂直方向に交互に配置される。なお、別の方法として、左目視界画像だけから立体画像16を生成することもできる。
図2は、図1に示した本発明の実施の形態による立体画像生成装置を示す詳細ブロック図である。
図2を参照すると、同図に示す立体画像生成装置12は、以下のユニットを有している。すなわち、外部装置から2D画像を受信すると共に、ユーザによって編集されるメッシュマップのメッシュ形状及び奥行き情報(奥行き値)を受信する受信ユニット21、受信ユニット21によって受信される2D画像及びメッシュマップをコンピュータ画面上に、両者を重ねた形で表示する画面参照ユニット22、画面参照ユニット22が表示する2D画像の形状に基づいてユーザが編集するメッシュマップのメッシュ形状及び奥行き値を保存、管理する情報管理ユニット23、編集されたメッシュマップのメッシュ形状及び奥行き値に従って2D画像の全ピクセルについて相対的な奥行き値を算出する計算ユニット24、そして、計算ユニット24によって算出された2D画像の相対的な奥行き値(奥行き情報)を用いて立体画像ファイルを生成する立体画像生成ユニット25である。
以下、立体画像生成装置12の各構成要素について、更に詳細に説明する。
受信ユニット21は、外部装置から2Dデジタル画像を受信し、ユーザによって編集されるメッシュマップの奥行き値及びメッシュ形状を受信する。すなわち、受信ユニット21は、一般的な静止画像または動画を含んだ2D画像を読み取り又は受信し、その後、当該2D画像をコンピュータ本体内のメモリに転送する。図1を参照しながら上述したように、メッシュマップの奥行き値及びメッシュ形状は、ユーザによって編集される。ここでの動画は大部分が圧縮されているので、受信ユニット21はさらに、2D画像を圧縮解除する処理も行う。2D画像がアナログファイルで入力される場合、受信ユニット21は、公知の方法を用いてアナログファイルをデジタルファイルに変換する処理の主体となる。
画面参照ユニット22は、受信ユニット21から入力される2D画像と、例えばメッシュデータベース26に保存されているメッシュマップとをコンピュータ画面上に、両者を重ねた形で表示するモジュールである。
本発明の別の実施の形態として、仮想3D表示装置がコンピュータに含まれている場合、画面参照ユニット22は、ユーザの選択的設定によって編集中のメッシュマップの奥行き値及びメッシュ形状を、受信ユニット22が受信した2D画像に適用することで立体画像を生成する。そして、生成された立体画像とメッシュマップとをコンピュータ画面上に、両者を重ねた形で表示する。すなわち、仮想3D表示装置がコンピュータに含まれる場合、立体画像は、ユーザの選択的設定によって編集中のメッシュマップの奥行き値及びメッシュ形状に従って生成され、生成された立体画像及びメッシュマップはコンピュータ画面上に、当該立体画像とメッシュマップとを重ねた形で表示される。つまり、ユーザは、受信ユニット21を用い、立体画像の表示中にメッシュマップの奥行き値及びメッシュ形状を編集する。そうすることで、表示された(3D)画像の形状に従ってメッシュマップを編集することになる。
情報管理ユニット23は、受信ユニット21を用いるユーザがマウスやキーボードなどのコンピュータ入力装置を操作しながら編集したメッシュマップの奥行き値及びメッシュ形状を、保存及び管理するモジュールである。ここでのメッシュ形状及び奥行き値とは、メッシュマップに含まれるメッシュの4つの角の位置そして奥行き値にそれぞれ対応する。本実施の形態の場合、ユーザは、画面参照ユニット22によって表示される2D画像の形状に従って、コンピュータ画面上でメッシュ形状及び奥行き値を編集する。そして、編集されたメッシュマップのメッシュ形状及び奥行き値は、例えばメッシュデータベース26を用いて、保存及び管理される。
また、受信ユニット21から入力される2D画像が動画であれば、情報管理ユニット23はさらに、現在の画像(current image)の編集済みメッシュマップのメッシュ形状及び奥行き値に基づき、隣接画像のメッシュ形状を自動的に修正する処理や、隣接画像の奥行き値を当該隣接画像と現在の画像との差分に応じて自動的に算出する処理まで行う。
計算ユニット24は、編集されたメッシュマップのメッシュ形状及び奥行き値に従い、2D画像の全てのピクセルに関して相対的な奥行き値(奥行き情報)を算出するモジュールである。すなわち、計算ユニット24は、各ピクセルに関し、当該ピクセルを含むメッシュの4つの角の奥行き値及び距離比率(distance rate)を用いて、相対的な奥行き値を算出する。相対的な奥行き値の算出処理については、後で、図3を参照しながら詳しく説明する。
立体画像生成ユニット25は、計算ユニット24によって算出された2D画像の相対的な奥行き値を用いて、立体画像ファイルを生成する。すなわち、立体画像生成ユニット25は、受信ユニット21から入力される2D画像である右目視界画像に含まれる個々のピクセルを、計算ユニット24が算出した相対的な奥行き値(奥行き情報)に従ってコンピュータ画面の右側または左側に移動させることによって、左目視界画像を生成する。そして、この処理において、ピクセルは、算出されたピクセルの相対的な奥行き値が正の値である(ピクセルが突出している)場合には、右側に移動させられ、逆に、算出されたピクセルの相対的な奥行き値が負の値である(ピクセルが引っ込んでいる)場合には、左側に移動させられ、それによって立体画像ファイルが生成される。
立体画像ファイルは、左目視界画像のピクセルラインと右目視界画像のピクセルラインとを交互に配置するやり方で生成することができる。ここで、左目視界画像のピクセルラインと右目視界画像のピクセルラインとは、水平方向に交互に配置してもよいし、垂直方向に交互に配置してもよい。なお、別のやり方として、左目視界画像だけから立体画像を生成することもできる。
相対的な奥行き値に従って右目視界画像のピクセルをコンピュータ画面の左側または右側に移動させる処理を行うにあたっては、例えば、左右の目の間には65mmの距離があり、両目とコンピュータ画面との間の距離は70cmであると仮定する。そう仮定すると、右目視界画像のピクセルが有する奥行き値が、コンピュータ画面のわずかに突出した位置に対応している場合、これに対応する左目視界画像のピクセルは、右目の視界の中心位置における縦軸の右側に約5°回転させた位置に移動させられる。[360°×6.5cm/(2×3.14×70cm)≒5°]。すなわち、算出されたピクセルの相対的な奥行き値が正の値である(ピクセルが突出している)場合には、ピクセルを水平方向右側に移動させて左目視界画像を生成し、算出されたピクセルの相対的な奥行き値が負の値である(ピクセルが引っ込んでいる)場合には、ピクセルを水平方向左側に移動させて左目視界画像を生成する。
図3は、メッシュマップを用いて2D画像から立体画像が生成する際の、本発明の実施の形態によるピクセルの相対的奥行き値算出方法を示す、詳細なフローチャートである。立体画像生成装置は、図3に示す方法を用いて、編集されたメッシュマップのメッシュ形状及び奥行き値に従い、2D画像の全てのピクセルについて相対的な奥行き値を算出する。ここでのメッシュ形状及び奥行き値とは、それぞれ、メッシュマップに含まれるメッシュの4つの角の位置そして奥行き値である。
先ず、処理31において、相対的な奥行き値を算出すべき対象のピクセルを含んだメッシュを検出する。すなわち、編集済みメッシュマップに含まれるメッシュのうち、相対的な奥行き値を算出すべき対象のピクセルを含んだメッシュを、メッシュデータベースから検出する。メッシュの検出が可能なのは、ユーザがメッシュマップを編集するとメッシュ形状及び奥行き値がメッシュデータベースに保存されるからである。
次いで、処理32において、メッシュの4つの角の位置(x座標及びy座標)が検出される。
そして、処理33において、対象ピクセルから4つの角までの距離が算出される。すなわち、ピクセルの位置(x座標、y座標)からメッシュの4つの角の位置(x座標、y座標)までの距離が算出される。
次いで、処理34では、ユーザが編集したメッシュの4つの角の奥行き値(z座標)が検出される。
その後、ピクセルの平均の相対的な奥行き値が、メッシュの4つの角の奥行き値(z座標)を用いて算出される。すなわち、処理35において、ピクセルの相対的な奥行き値は、ピクセルからメッシュの4つの角の距離比率を奥行き値に反比例で乗算し(inverse-proportionally multiplying)、そうした乗算で得られた値を後続の処理において平均する、という手順で算出される。
本計算方法の場合、処理36において、メッシュが平面構造を有するか否かの判定が行われる。メッシュが平面構造を有する場合は、処理37において、一次関数を用いた線形平均値(linear average)の算出が行われる。メッシュが平面構造ではなく凸面構造または凹面構造を有する場合は、処理38において、多項式関数を用いた非線形平均値(non-linear average)の算出が行われる。
その後、処理39において、2D画像の全ピクセルについて相対的な奥行き値が算出されたか否かの判定が行われる。2D画像のピクセルのうち相対的な奥行き値の算出が完了していないピクセルが残っている場合は処理31に戻る。2D画像の全てのピクセルについて相対的な奥行き値の算出が完了していれば、本算出方法の実行も終わる。
図4は、本発明の実施の形態によって2D画像からメッシュマップを用いて立体画像を生成する際の、2D画像からの立体画像生成方法の詳細なフローチャートである。
最初に、コンピュータにインストールされた立体画像生成ソフトウェアなどで成る立体画像生成装置が、処理41において、一般的な静止画像または動画を含む2Dデジタル画像を受信する。
その後、立体画像生成装置は、処理42において、2D画像及びメッシュマップをコンピュータ画面上に、両者を重ねた形で表示する。
この場合、処理43において、コンピュータが仮想3D表示装置を有しているか否かの判定が行われる。仮想3D表示装置をコンピュータが有していない場合は処理45に進む。仮想3D表示装置をコンピュータが有している場合、編集中のメッシュマップのメッシュ形状及び奥行き値に従って立体画像が生成され、生成された立体画像とメッシュマップとは、処理45に進む前に、処理44においてコンピュータ画面に表示される。すなわち、仮想3D表示装置をコンピュータが有している場合、ユーザが選択的設定によって編集中のメッシュマップのメッシュ形状及び奥行き値を2D画像に適用することで立体画像を生成し、そうして生成された立体画像とメッシュマップとがコンピュータ画面に表示される。
一方、本発明の別の実施の形態として、コンピュータが仮想3D表示装置を有しておらず、2D表示装置だけを有している場合は、処理43、44を実行することなく、処理42から直接処理45に進む。
そして、処理45において、メッシュマップは、表示された画像の形状に従い、マウスやキーボードなどのコンピュータ入力装置を操作するユーザによって編集される。ここでは、ユーザは例えば、表示された画像の形状に従って、メッシュマップのメッシュ形状を修正し、表示された画像の主観的な透視投影像に従って、メッシュマップに含まれるメッシュが有する4つの角の奥行き値を入力する。
その後、処理46において、受信された2D画像が動画であるか否かの判定が行われる。受信された2D画像が静止画像であれば、処理48に進む。受信された2D画像が動画であれば、立体画像生成装置は、現在の画像の編集されたメッシュマップのメッシュ形状及び奥行き値に基づき、現在の画像と隣接画像との差異に従い、隣接画像のメッシュ形状を自動的に修正するとともに、隣接画像のメッシュマップに含まれるメッシュの奥行き値を自動的に算出する。この修正および算出は、処理48に進む前に、処理47において行われる。本立体画像生成方法では、隣接画像が現在の画像と完全に異なる画像となるまで、隣接画像のメッシュマップのメッシュ形状及び奥行き値が自動的に算出される。
その後、立体画像生成装置は、処理48において編集されたメッシュマップのメッシュ形状及び奥行き値に従って、2D画像の全ピクセルについて相対的な奥行き値を算出する。すなわち、各ピクセルの相対的な奥行き値は、当該ピクセルを含むメッシュが有する4つの角の奥行き値及び距離比率を用い、編集されたメッシュマップのメッシュ形状及び奥行き値に従って算出される。相対的な奥行き値の算出については、図3を参照しながら既に詳細に説明した。
その後、処理49から51において、立体画像生成装置は、2D画像の全てのピクセルについて算出された相対的な奥行き値を用い、立体画像ファイルを生成する。
すなわち、立体画像生成装置は、2D画像である右目視界画像の各々のピクセルを、算出された相対的な奥行き値に従って、コンピュータ画面の左側または右側に向けて移動させることによって左目視界画像を生成する。この処理において、ピクセルの算出された相対的な奥行き値が正の値である(ピクセルが突出している)場合、ピクセルは右側に移動させられ、ピクセルの算出された相対的な奥行き値が負の値である(ピクセルが引っ込んでいる)場合、ピクセルは左側に移動させられ、それによって立体画像ファイルが生成される。立体画像ファイルは、左目視界画像のピクセルラインと右目視界画像のピクセルラインとを交互に配置することで生成することができる。ここで、左目視界画像のピクセルラインと右目視界画像のピクセルラインとは、水平方向に交互に配置してもよいし、垂直方向に交互に配置してもよい。なお、別のやり方として、左目視界画像だけから立体画像を生成することもできる。
図5は、本発明の実施の形態による立体画像生成装置が立体画像生成ソフトウェアの形で実装された場合の、コンピュータ画面の一例を示す写真画像である。
本発明はまた、コンピュータ読取可能な記録媒体上のコンピュータ読取可能なコードの形で具体化することもできる。コンピュータ読取可能な記録媒体の例としては、読出し専用メモリ(ROM)、ランダムアクセスメモリ(RAM)、CD−ROM、フロッピー(登録商標)ディスク、ハードディスク(HDD)、そして光磁気ディスクがある。
上述した通り、本発明によれば、メッシュマップを用いて2D画像から立体画像を生成することができる。
すなわち、本発明では、2D画像を読み込み、その2D画像及びメッシュマップを、両者を重ねた形で表示し、そして、ユーザにメッシュマップのメッシュ形状及び奥行き情報(奥行き値)を編集させることにより、立体画像を生成する。
従って、画像処理を行うコンピュータソフトウェアまたはハードウェアを用いて、一般的な静止画像または動画を含む通常の2D画像を、低コストかつ短時間で、両眼撮影方法を用いて撮られた立体画像のような3D効果を有する立体画像に変換することができる。
以上、本発明について、その例示的な実施の形態を挙げながら、具体的に図示及び説明してきた。ただし、添付の特許請求の範囲によって定義される本発明の思想及び範囲から逸脱しない形で、構造や詳細に様々な変形を加えることが可能であり、そのことは通常の技量を有した当業者には理解できるはずである。上に示した例示的な実施の形態は、説明のためのものと捉えるべきであり、これらに本発明を限定する意図はない。すなわち、本発明の範囲は、発明の詳細な説明によってではなく添付の特許請求の範囲によって定義され、その範囲の中におさまる差異は全て、本発明に含まれるものと解釈されるべきである。

Claims (23)

  1. メッシュマップを用いて2次元(2D)画像から立体画像を生成する立体画像生成装置であって、
    外部装置から静止画像または動画を含む2D画像と、ユーザによって編集されるメッシュマップのメッシュ形状及び奥行き情報すなわち奥行き値とを受信する受信ユニットと、
    2D画像とメッシュマップとを表示する画面参照ユニットと、
    表示された画像の形状に従ってユーザにより編集されたメッシュマップのメッシュ形状と奥行き情報とを管理する情報管理ユニットと、
    編集されたメッシュマップのメッシュ形状及び奥行き情報に従って、2D画像に含まれるピクセルの相対的な奥行き情報を算出する計算ユニットと、
    算出された2D画像の相対的な奥行き情報を用いて立体画像ファイルを生成する立体画像生成ユニットと、
    を備え、
    画面参照ユニットは、コンピュータが仮想3次元(3D)表示装置を有しているか否か判定し、編集中のメッシュマップのメッシュ形状及び奥行き情報を2D画像に適用することで立体画像を生成し、立体画像及びメッシュマップを、立体画像とメッシュマップとを重ねた形で表示すること、
    を特徴とする立体画像生成装置。
  2. メッシュマップを用いて2次元(2D) 画像から立体画像を生成する立体画像生成装置であって、
    外部装置から静止画像または動画を含む2D画像と、ユーザによって編集されるメッシュマップのメッシュ形状及び奥行き情報すなわち奥行き値とを受信する受信ユニットと、
    編集中のメッシュマップのメッシュ形状及び奥行き情報すなわち奥行き値を2D画像に適用することによって立体(3D)画像を生成し、立体画像及びメッシュマップを、立体画像とメッシュマップとを重ねた形で表示する画面参照ユニットと、
    表示された画像の形状に従ってユーザにより編集されたメッシュマップのメッシュ形状及び奥行き情報すなわち奥行き値を管理する情報管理ユニットと、
    編集されたメッシュマップのメッシュ形状及び奥行き情報に従って、2D画像に含まれるピクセルの相対的な奥行き情報を算出する計算ユニットと、
    算出された2D画像の相対的な奥行き情報を用いて立体画像ファイルを生成する立体画像生成ユニットと、
    を備えることを特徴とする立体画像生成装置。
  3. 受信された2D画像が動画である場合、情報管理ユニットは、編集された現在の画像のメッシュマップのメッシュ形状及び奥行き情報に基づき、隣接画像と現在の画像との差異に従って、隣接画像のメッシュ形状を自動的に変更すると共に、隣接画像のメッシュマップに含まれるメッシュの奥行き情報を自動的に算出すること、
    を特徴とする請求項1、2のいずれかに記載の立体画像生成装置。
  4. 情報管理ユニットは、メッシュ形状及び奥行き情報、すなわち、編集されたメッシュマップのメッシュが有する4つの角の位置及び奥行き値を格納し、管理すること、
    を特徴とする請求項3に記載の立体画像生成装置。
  5. 計算ユニットは、各ピクセルの相対的な奥行き情報を、編集されたメッシュマップのメッシュ形状及び奥行き情報に従い、ピクセルを含むメッシュが有する4つの角の奥行き情報及び距離比率(distance rate)を用いて算出すること、
    を特徴とする請求項1、2のいずれかに記載の立体画像生成装置。
  6. 立体画像生成ユニットは、算出された相対的な奥行き情報に従い、ピクセルの情報が正の値である、すなわちピクセルが突出している場合、右目視界画像のピクセルをコンピュータ画面の右側に水平方向に移動させることで左目視界画像を生成し、左目視界画像のピクセルラインと右目視界画像のピクセルラインとを交互に配置することによって立体画像ファイルを生成すること、
    を特徴とする請求項1、2のいずれかに記載の立体画像生成装置。
  7. 立体画像生成ユニットは、算出された相対的な奥行き情報に従い、ピクセルの情報が負の値である、すなわちピクセルが引っ込んでいる場合、右目視界画像のピクセルをコンピュータ画面の左側に水平方向に移動させることで左目視界画像を生成し、左目視界画像のピクセルラインと右目視界画像のピクセルラインとを交互に配置することによって立体画像ファイルを生成すること、
    を特徴とする請求項6に記載の立体画像生成装置。
  8. 立体画像生成ユニットは、算出された相対的な奥行き情報に従い、ピクセルの情報が正の値である、すなわちピクセルが突出している場合、右目視界画像のピクセルをコンピュータ画面の右側に水平方向に移動させることで左目視界画像を生成し、左目視界画像に対応した立体画像ファイルを生成すること、
    を特徴とする請求項1、2のいずれかに記載の立体画像生成装置。
  9. 立体画像生成ユニットは、算出された相対的な奥行き情報に従い、ピクセルの情報が負の値である、すなわちピクセルが引っ込んでいる場合、右目視界画像のピクセルをコンピュータ画面の左側に水平方向に移動させることで左目視界画像を生成し、左目視界画像に対応した立体画像ファイルを生成すること、
    を特徴とする請求項8に記載の立体画像生成装置。
  10. 受信ユニットは、外部装置から静止画像または動画を含む2Dデジタル画像を受信すると共に、表示された画像の形状に従って編集されるメッシュマップのメッシュ形状及び奥行き情報を受信すること、
    を特徴とする請求項1、2のいずれかに記載の立体画像生成装置。
  11. メッシュマップを用いて2次元(2D)画像から立体画像を生成する方法であって、
    2D画像を受信する処理と、
    2D画像とメッシュマップとを表示する処理と、
    表示された画像の形状に従って行われるユーザ指示に応じてメッシュマップのメッシュ形状及び奥行き情報すなわち奥行き値を編集する処理と、
    編集されたメッシュマップのメッシュ形状及び奥行き情報に従って2D画像に含まれるピクセルの相対的な奥行き情報を算出する処理と、
    算出された2D画像の相対的な奥行き情報を用いて立体画像ファイルを生成する処理と、
    コンピュータが仮想3次元(3D)表示装置を有しているか否か判定する処理と、
    編集中のメッシュマップのメッシュ形状及び奥行き情報を2D画像に適用することで立体画像を生成し、立体画像及びメッシュマップを、立体画像とメッシュマップとを重ねた形で表示する処理と、を含むこと
    を特徴とする立体画像生成方法。
  12. メッシュマップを用いて2次元(2D)画像から立体画像を生成する方法であって、
    2D画像を受信する処理と、
    編集中のメッシュマップのメッシュ形状及び奥行き情報すなわち奥行き値を2D画像に適用することによって立体(3D)画像を生成し、立体画像及びメッシュマップを、立体画像とメッシュマップとを重ねた形で表示する処理と、
    表示された画像の形状に従って行われるユーザ指示に応じてメッシュマップのメッシュ形状及び奥行き情報すなわち奥行き値を編集する処理と、
    編集されたメッシュマップのメッシュ形状及び奥行き情報に従って、2D画像に含まれるピクセルの相対的な奥行き情報を算出する処理と、
    算出された2D画像の相対的な奥行き情報を用いて立体画像ファイルを生成する処理と、を含むこと
    を特徴とする立体画像生成方法。
  13. 受信された2D画像が動画である場合、編集された現在の画像のメッシュマップのメッシュ形状及び奥行き情報に基づき、隣接画像と現在の画像との差異に従って、隣接画像のメッシュ形状を自動的に変更すると共に、隣接画像のメッシュマップに含まれるメッシュの奥行き情報を自動的に算出する処理、を更に有すること、
    を特徴とする請求項11、12のいずれかに記載の立体画像生成方法。
  14. メッシュマップを編集する処理とは、
    表示された画像の形状に従って行われるユーザ指示に応じてメッシュマップのメッシュ形状及び奥行き情報を編集する処理と、
    メッシュ形状及び奥行き情報、すなわち、編集されたメッシュマップのメッシュが有する4つの角の位置及び奥行き値を格納し、管理する処理とであること、
    を特徴とする請求項11、12のいずれかに記載の立体画像生成方法。
  15. 相対的な奥行き情報を算出する処理とは、編集されたメッシュマップのピクセルを含むメッシュが有する4つの角の奥行き情報及び距離比率を用いて、各ピクセルとの相対的な奥行き情報を算出する処理であること、
    を特徴とする請求項11、12のいずれかに記載の立体画像生成方法。
  16. 立体画像ファイルを生成する処理には、計算された相対的な奥行き情報に従い、ピクセルの情報が正の値である、すなわちピクセルが突出している場合に、右目視界画像のピクセルをコンピュータ画面の右側に水平方向に移動させることで左目視界画像を生成し、左目視界画像のピクセルラインと右目視界画像のピクセルラインとを交互に配置することによって立体画像ファイルを生成する処理、が含まれること、
    を特徴とする請求項11、12のいずれかに記載の立体画像生成方法。
  17. 立体画像ファイルを生成する処理には、計算された相対的な奥行き情報に従い、ピクセルの情報が負の値である、すなわちピクセルが引っ込んでいる場合に、右目視界画像のピクセルをコンピュータ画面の左側に水平方向に移動させることで左目視界画像を生成し、左目視界画像のピクセルラインと右目視界画像のピクセルラインとを交互に配置することによって立体画像ファイルを生成する処理、が含まれること、
    を特徴とする請求項16に記載の立体画像生成方法。
  18. 立体画像ファイルを生成する処理には、計算された相対的な奥行き情報に従い、ピクセルの情報が正の値である、すなわちピクセルが突出している場合、右目視界画像のピクセルをコンピュータ画面の右側に水平方向に移動させることで左目視界画像を生成し、左目視界画像に対応した立体画像ファイルを生成する処理、が含まれること、
    を特徴とする請求項11、12のいずれかに記載の立体画像生成方法。
  19. 立体画像ファイルを生成する処理には、計算された相対的な奥行き情報に従い、ピクセルの情報が負の値である、すなわちピクセルが引っ込んでいる場合、右目視界画像のピクセルをコンピュータ画面の左側に水平方向に移動させることで左目視界画像を生成し、左目視界画像に対応した立体画像ファイルを生成する処理、が含まれること、
    を特徴とする請求項18に記載の立体画像生成方法。
  20. 2D画像を受信する処理とは、外部装置から静止画像または動画を含む2Dデジタル画像を受信する処理であること、
    を特徴とする請求項11、12のいずれかに記載の立体画像生成方法。
  21. 立体画像生成装置のプロセッサに特定の機能を実現させるためのコンピュータプログラムを記録したコンピュータ読取可能な記録媒体であって、前記特定の機能には、
    2次元(2D)画像を受信する機能と、
    立体画像生成装置に2D画像及びメッシュマップを、2D画像とメッシュマップとを重ねた形で表示させる機能と、
    表示された画像の形状に従って行われるユーザ指示に応じてメッシュマップのメッシュ形状及び奥行き情報すなわち奥行き値を変更する機能と、
    変更されたメッシュマップのメッシュ形状及び奥行き情報に従って、2D画像に含まれるピクセル相対的な奥行き情報を算出する機能と、
    算出された2D画像の相対的な奥行き情報を用いて立体画像ファイルを生成する機能と、
    コンピュータが仮想3次元(3D)表示装置を有しているか否かを判定する機能と、
    仮想3D表示装置がコンピュータに含まれる場合、編集中のメッシュマップのメッシュ形状及び奥行き情報を2D画像に適用することで立体画像を生成し、仮想3D表示装置に立体画像及びメッシュマップを、立体画像とメッシュマップとを重ねた形で表示させる機能と、が含まれること、
    を特徴とするコンピュータ読取可能な記録媒体。
  22. 立体画像生成装置のプロセッサに特定の機能を実現させるためのコンピュータプログラムを記録したコンピュータ読取可能な記録媒体であって、前記特定の機能には、
    2次元(2D)画像を受信する機能と、
    編集中のメッシュマップのメッシュ形状及び奥行き情報すなわち奥行き値を2D画像に適用することによって立体(3D)画像を生成し、立体画像生成装置に立体画像及びメッシュマップを、立体画像とメッシュマップとを重ねた形で表示させる機能と、
    表示された画像の形状に従って行われるユーザ指示に応じてメッシュマップのメッシュ形状及び奥行き情報すなわち奥行き値を変更する機能と、
    変更されたメッシュマップのメッシュ形状及び奥行き情報に従って、2D画像に含まれるピクセルの相対的な奥行き情報を算出する機能と、
    算出された2D画像の相対的な奥行き情報を用いて立体画像ファイルを生成する機能と、が含まれること
    を特徴とするコンピュータ読取可能な記録媒体。
  23. 前記特定の機能には、
    受信された2D画像が動画である場合、変更された現在の画像のメッシュマップのメッシュ形状及び奥行き情報に基づき、隣接画像と現在の画像との差異に従って、隣接画像のメッシュ形状を自動的に変更すると共に、隣接画像のメッシュマップに含まれるメッシュの4つの角の奥行き情報を自動的に算出する機能が、更に含まれること、
    を特徴とする請求項21、22のいずれかに記載のコンピュータ読取可能な記録媒体。
JP2009545487A 2007-01-10 2008-01-02 メッシュマップを用いて二次元画像から立体画像を生成する立体画像生成方法及び立体画像生成装置 Expired - Fee Related JP4918689B2 (ja)

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
KR20070002883 2007-01-10
KR10-2007-0002883 2007-01-10
KR10-2007-0026568 2007-03-19
KR20070026568 2007-03-19
KR1020070034321A KR100894874B1 (ko) 2007-01-10 2007-04-06 그물 지도를 이용한 이차원 영상으로부터의 입체 영상 생성장치 및 그 방법
KR10-2007-0034321 2007-04-06
PCT/KR2008/000015 WO2008084937A1 (en) 2007-01-10 2008-01-02 Method and apparatus for generating stereoscopic image from two-dimensional image by using mesh map

Publications (2)

Publication Number Publication Date
JP2010516155A JP2010516155A (ja) 2010-05-13
JP4918689B2 true JP4918689B2 (ja) 2012-04-18

Family

ID=39816547

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009545487A Expired - Fee Related JP4918689B2 (ja) 2007-01-10 2008-01-02 メッシュマップを用いて二次元画像から立体画像を生成する立体画像生成方法及び立体画像生成装置

Country Status (8)

Country Link
US (1) US8571304B2 (ja)
EP (1) EP2102822A4 (ja)
JP (1) JP4918689B2 (ja)
KR (1) KR100894874B1 (ja)
CN (1) CN101632102B (ja)
AU (1) AU2008204084B2 (ja)
CA (1) CA2675062A1 (ja)
WO (1) WO2008084937A1 (ja)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2269533B1 (en) * 2008-03-21 2021-05-05 Atsushi Takahashi Three-dimensional digital magnifier operation supporting system
JP4925354B2 (ja) * 2008-03-31 2012-04-25 富士フイルム株式会社 画像処理装置、画像表示装置、撮像装置及び画像処理方法
EP2197217A1 (en) * 2008-12-15 2010-06-16 Koninklijke Philips Electronics N.V. Image based 3D video format
JP2011066507A (ja) * 2009-09-15 2011-03-31 Toshiba Corp 画像処理装置
JP2011139281A (ja) * 2009-12-28 2011-07-14 Sony Corp 三次元画像生成装置、三次元画像表示装置、三次元画像生成方法およびプログラム
US8570343B2 (en) 2010-04-20 2013-10-29 Dassault Systemes Automatic generation of 3D models from packaged goods product images
KR20120023268A (ko) * 2010-09-01 2012-03-13 삼성전자주식회사 디스플레이 장치 및 그 영상 생성 방법
US8780174B1 (en) * 2010-10-12 2014-07-15 The Boeing Company Three-dimensional vision system for displaying images taken from a moving vehicle
WO2012057774A1 (en) * 2010-10-29 2012-05-03 Hewlett-Packard Development Company, L.P. A three-dimensional image based on a distance of a viewer
KR101727899B1 (ko) * 2010-11-26 2017-04-18 엘지전자 주식회사 휴대 단말기 및 그 동작 제어방법
IT1403163B1 (it) * 2010-12-14 2013-10-04 Rai Radiotelevisione Italiana Apparato migliorato di ripresa stereoscopica e relativo metodo
US20120206442A1 (en) * 2011-02-14 2012-08-16 Dong Tian Method for Generating Virtual Images of Scenes Using Trellis Structures
KR101862543B1 (ko) 2011-09-08 2018-07-06 삼성전자 주식회사 깊이정보 생성장치, 깊이정보 생성방법 및 그 저장매체
KR101830966B1 (ko) * 2011-09-21 2018-02-22 엘지전자 주식회사 전자 기기 및 전자 기기의 컨텐츠 생성 방법
EP2786303A4 (en) 2011-12-01 2015-08-26 Lightcraft Technology Llc TRANSPARENCY SYSTEM WITH AUTOMATIC TRACKING
TWI558165B (zh) * 2012-09-25 2016-11-11 宏碁股份有限公司 電腦系統及立體影像產生方法
US9161018B2 (en) * 2012-10-26 2015-10-13 Christopher L. UHL Methods and systems for synthesizing stereoscopic images
US20150022631A1 (en) * 2013-07-17 2015-01-22 Htc Corporation Content-aware display adaptation methods and editing interfaces and methods for stereoscopic images
CN103442243A (zh) * 2013-07-31 2013-12-11 北京智谷睿拓技术服务有限公司 便携式3d显示装置及3d显示方法
KR101748637B1 (ko) 2014-08-05 2017-06-20 한국전자통신연구원 깊이 맵 생성 장치 및 방법
US10269136B2 (en) * 2015-04-29 2019-04-23 Hewlett-Packard Development Company, L.P. System and method for processing depth images which capture an interaction of an object relative to an interaction plane
EP3463161A4 (en) * 2016-06-03 2020-05-20 Covidien LP SYSTEMS, METHODS, AND COMPUTER READABLE INFORMATION MEDIUM FOR CONTROLLING ASPECTS OF A ROBOTIC SURGICAL DEVICE AND STEREOSCOPIC DISPLAY ADAPTING TO THE OBSERVER
KR102468897B1 (ko) 2017-10-16 2022-11-21 삼성전자주식회사 깊이 값을 추정하는 방법 및 장치

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4925294A (en) * 1986-12-17 1990-05-15 Geshwind David M Method to convert two dimensional motion pictures for three-dimensional systems
JPS647736A (en) 1987-06-30 1989-01-11 Pioneer Electronic Corp Am stereoscopic demodulation circuit
US5504845A (en) * 1990-09-10 1996-04-02 Modacad, Inc. Method for remodeling and rendering three-dimensional surfaces
JP3126575B2 (ja) * 1993-12-28 2001-01-22 シャープ株式会社 立体視用3次元画像生成装置
KR970008382B1 (ko) * 1994-01-08 1997-05-23 파이오니아 가부시키가이샤 일반영상신호(2d)를 입체영상신호(3d)로 변환하는 장치
JPH07288850A (ja) * 1994-04-14 1995-10-31 Sanyo Electric Co Ltd 立体映像表示装置
JPH07307961A (ja) 1994-05-13 1995-11-21 Pioneer Electron Corp 立体表示方法及び装置
JPH0954376A (ja) 1995-06-09 1997-02-25 Pioneer Electron Corp 立体表示装置
JPH09265056A (ja) 1995-07-14 1997-10-07 Pioneer Electron Corp 立体画像表示装置
KR970008382A (ko) * 1995-07-24 1997-02-24 김광호 반도체장치의 세정장치
US6108005A (en) * 1996-08-30 2000-08-22 Space Corporation Method for producing a synthesized stereoscopic image
WO1999030280A1 (en) * 1997-12-05 1999-06-17 Dynamic Digital Depth Research Pty. Ltd. Improved image conversion and encoding techniques
US6515659B1 (en) * 1998-05-27 2003-02-04 In-Three, Inc. Method and system for creating realistic smooth three-dimensional depth contours from two-dimensional images
JP2001134782A (ja) * 1999-11-01 2001-05-18 Fuji Photo Film Co Ltd 画像処理装置及び画像撮像装置
JP2001202527A (ja) * 2000-01-19 2001-07-27 Hitachi Ltd 3次元図形表示方法および3次元描画装置
FR2820269A1 (fr) * 2001-01-30 2002-08-02 Koninkl Philips Electronics Nv Procede de traitement d'images en 2d appliquees sur des objets en 3d
JP4065488B2 (ja) * 2001-12-14 2008-03-26 キヤノン株式会社 3次元画像生成装置、3次元画像生成方法及び記憶媒体
US7639838B2 (en) * 2002-08-30 2009-12-29 Jerry C Nims Multi-dimensional images system for digital image input and output
JP4214528B2 (ja) 2004-12-27 2009-01-28 日本ビクター株式会社 擬似立体画像生成装置及び擬似立体画像生成プログラム並びに擬似立体画像表示システム
JP4214529B2 (ja) 2004-12-28 2009-01-28 日本ビクター株式会社 奥行き信号生成装置、奥行き信号生成プログラム、擬似立体画像生成装置、及び擬似立体画像生成プログラム
KR100828358B1 (ko) * 2005-06-14 2008-05-08 삼성전자주식회사 영상 디스플레이 모드 전환 방법, 장치, 및 그 방법을 실행하기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체
JP2009536499A (ja) * 2006-05-05 2009-10-08 トムソン ライセンシング 2次元画像から3次元オブジェクトを再構成するシステム及び方法

Also Published As

Publication number Publication date
US8571304B2 (en) 2013-10-29
EP2102822A4 (en) 2010-06-02
CN101632102A (zh) 2010-01-20
KR100894874B1 (ko) 2009-04-24
US20100086199A1 (en) 2010-04-08
AU2008204084A1 (en) 2008-07-17
JP2010516155A (ja) 2010-05-13
AU2008204084B2 (en) 2010-08-26
WO2008084937A1 (en) 2008-07-17
KR20080065889A (ko) 2008-07-15
CN101632102B (zh) 2012-03-07
EP2102822A1 (en) 2009-09-23
CA2675062A1 (en) 2008-07-17

Similar Documents

Publication Publication Date Title
JP4918689B2 (ja) メッシュマップを用いて二次元画像から立体画像を生成する立体画像生成方法及び立体画像生成装置
EP2648414B1 (en) 3d display apparatus and method for processing image using the same
US20230291884A1 (en) Methods for controlling scene, camera and viewing parameters for altering perception of 3d imagery
US8514275B2 (en) Three-dimensional (3D) display method and system
US9530179B2 (en) Two-dimensional (2D)/three-dimensional (3D) image processing method and system
CN102905145B (zh) 立体影像系统、影像产生方法、影像调整装置及其方法
JP2006325165A (ja) テロップ発生装置、テロップ発生プログラム、及びテロップ発生方法
JP2011090400A (ja) 画像表示装置および方法、並びにプログラム
CN111047709B (zh) 一种双目视觉裸眼3d图像生成方法
US9325960B2 (en) Maintenance of three dimensional stereoscopic effect through compensation for parallax setting
US20140035918A1 (en) Techniques for producing baseline stereo parameters for stereoscopic computer animation
CA2540538C (en) Stereoscopic imaging
JP6033625B2 (ja) 多視点画像生成装置、画像生成方法、表示装置、プログラム、及び、記録媒体
JP2003348621A (ja) 二視点カメラの設定手段
JP2003284095A (ja) 立体画像処理方法および装置
JP5319728B2 (ja) 視差画像生成装置、表示装置、視差画像生成方法、視差画像生成プログラムおよびそれを記録した記録媒体
JPWO2013140702A1 (ja) 画像処理装置、画像処理方法、及びプログラム
JP5459231B2 (ja) 擬似立体画像生成装置、擬似立体画像生成プログラム及び擬似立体画像表示装置
KR20150043927A (ko) 깊이정보를 포함하는 점, 선, 면으로 구성된 도형 데이터를 이용한 2차원 일반영상으로부터 3차원 입체영상 생성 장치 및 그 방법
JP5200141B2 (ja) 映像提示システム、映像提示方法、プログラム及び記録媒体
KR20150043926A (ko) 좌안 영상 및 우안 영상 한 쌍으로부터의 다시점 3차원 영상 자동 생성장치 및 그 방법
CN203039816U (zh) 一种3d图像处理系统
JP6025519B2 (ja) 画像処理装置および画像処理方法
KR20140144089A (ko) 프리뷰를 통한 다시점 영상의 편집 기법 및 그 장치
JP2013005376A (ja) 画像処理プログラム、画像処理装置、及び画像処理方法

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110909

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110913

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20111021

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20111026

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20111021

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111227

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120106

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150210

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees