JP2005526302A - シーンの焦点を変える方法および装置 - Google Patents
シーンの焦点を変える方法および装置 Download PDFInfo
- Publication number
- JP2005526302A JP2005526302A JP2003522032A JP2003522032A JP2005526302A JP 2005526302 A JP2005526302 A JP 2005526302A JP 2003522032 A JP2003522032 A JP 2003522032A JP 2003522032 A JP2003522032 A JP 2003522032A JP 2005526302 A JP2005526302 A JP 2005526302A
- Authority
- JP
- Japan
- Prior art keywords
- focus
- data set
- scene
- depth
- range
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000000034 method Methods 0.000 title claims abstract description 54
- 230000002194 synthesizing effect Effects 0.000 claims 1
- 230000008859 change Effects 0.000 abstract description 11
- 238000013213 extrapolation Methods 0.000 abstract description 11
- 230000006870 function Effects 0.000 description 23
- 230000008569 process Effects 0.000 description 15
- 238000003384 imaging method Methods 0.000 description 11
- 238000012545 processing Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 238000013500 data storage Methods 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 230000001737 promoting effect Effects 0.000 description 3
- 239000003086 colorant Substances 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 238000009877 rendering Methods 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000004481 post-translational protein modification Effects 0.000 description 1
- 230000033458 reproduction Effects 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
Abstract
シーンの焦点を変える方法。特に、本発明の一実施形態は、1つまたは複数の次元の焦点条件、たとえば焦点深度および被写界深度、が変わるパラメトリック・テクスチャ・マップ(PTM)を使用してシーンをモデリングする方法を開示する。写真データセットが、別個の焦点条件下で得られる(ステップ810)。データセットの近似により、関連するPTM表現が作成され(ステップ820)、PTM表現は、初期データセットにより指定された焦点条件範囲内の焦点条件を変えた状態下で写真シーンのシーンを生成することが可能である(ステップ830)。さらに、外挿により焦点条件範囲外の結果がもたらされる。
Description
本発明は、コンピュータグラフィックスシステムの分野に関する。特に、本発明は、パラメトリック・テクスチャ・マップを使用して焦点条件を変えてシーンをモデリングすることに関する。
写真は、カメラなどの撮像装置によって取り込まれた三次元シーンの二次元表現を提供する。熟練した写真家は、焦点パラメータを変えて撮像装置を操作することにより同じシーンについて様々な写真を生成することができる。シーンの単一表現はないため、写真撮影術の分野では、所望の写真表現を作成するための撮像装置の操作の仕方を知ることを伴う。
「写真」という用語は、本開示全体を通して使用されるが、従来のフィルムベースの手段またはデジタル手段に限定されず、画像を取り込むすべての手段を対象とする。
これまでは、ひとたび写真が作成されると、写真作成に使用される生成前パラメータを変更することができなかった。たとえば、写真を作成するために、1つまたは複数の次元の焦点条件が露光時に撮像装置に事前に指定されていた。これら様々な次元は、焦点深度、被写界深度などが変わる焦点条件を含む。
不都合なことに、従来技術による写真は、撮像装置によって設定された焦点条件に支配されていた。したがって、写真の焦点条件は固定されており、露光時に決定されていた。ひとたび固定されると、露光後、写真家は生成プロセス後に焦点条件を制御することができなかった。
たとえば、宣伝キャンペーンにおいて、別個の前景領域および背景領域を有する静止した三次元シーンの写真撮影が行われる。写真家は、二次元(焦点深度および被写界深度)で焦点条件を変えて複数の写真を撮影しうる。その後、写真家は、焦点条件を変えた写真を使用して、シーンの写真レイアウトを生成する。写真家の技能に応じて、写真レイアウト中の写真の少なくとも1枚を宣伝キャンペーンに使用することができることを期待する。
写真撮影中、写真家は時間、費用、および現実性により制限を受ける。言い換えれば、写真家は全範囲の焦点条件にわたって写真を撮影することができない。ここで、写真家の写真分野の技能および知識が利用される。経験を通して、写真家は、写真レイアウト用、そして最終的には宣伝キャンペーン用の特定の写真を生成するために必要な焦点条件を選択する。
しかし、作成された写真毎に焦点条件を変えることはできない。写真家は、写真レイアウトにない、宣伝キャンペーンを最もよく表現する所望の写真を見つけた場合、生成後のプロセスでその所望の写真を作成することはできない。代わりに、写真家は、元の写真撮影場所で条件を再設定し、必要とされる所望の焦点条件に関連する特定の焦点深度および被写界深度を使用して写真を再度撮影する必要がある。
セットアップに応じて、特定のリアルなシーンは現実的に再度作成することができる場合もあれば、できない場合もある。風景シーンでは、日没時の稲妻を伴った嵐など、元の写真撮影での特定の条件が存在しない場合がある。普段、構築されるセットアップは費用がかかりすぎ、再現が難しい場合がある。いずれの場合でも、所望の写真は、費用、時間、およびエネルギーを追加せずしては作成することができない。
写真撮影は、写真技術に熟練した写真家、通常はプロの写真家によって行われる。何年もの経験および学習を経てきたプロの人は、所望の焦点効果(たとえば、焦点深度および被写界深度)になるように撮像装置を操作することができる。一方、アマチュアの写真家は、焦点状態が、作成される写真にどのように影響するかを理解するほど写真技術に十分な技能がない場合がある。通常、アマチュアの写真家は、撮像装置に頼って自動的に露光を決定し、露光に影響する焦点パラメータを選択する。撮像装置は、所望の焦点条件を有する写真を生成する場合もあれば、しない場合もある。
たとえば、風景写真では、写真家は前景と背景に鮮明にピントを合わせたい場合がある。これには、パラメータの中でも特に、撮像装置のレンズの絞りで深い被写界深度を与える必要がある。しかし、撮像装置は、浅い被写界深度を与える絞りで露光を自動的にセットアップしてしまっている場合がある。その結果、生成される写真は所望の深い被写界深度を与えない。
したがって、写真を作成する際の生成前の決定が生成後の写真を必ずしも制御または制限しないプロセスが必要である。さらに、アマチュアの写真家が示す焦点効果分野の知識の欠如を補う写真プロセスが必要である。
本発明は、シーンの写真の焦点を変える方法を提供する。本発明の一実施形態は、上記成果を成し遂げ、また、生成プロセスの任意の時点で焦点パラメータに対して制御を提供する方法を提供する。さらに、本発明の一実施形態は、上記成果を成し遂げ、また、焦点パラメータを選択する際にアマチュアの写真家による技能の欠如を補う写真プロセスを提供する方法を提供する。
特に、本発明の一実施形態は、パラメトリック・テクスチャ・マップ(PTM)を使用し、1つまたは複数の次元、たとえば焦点深度および被写界深度の焦点条件を変えてシーンをモデリングする方法を開示する。写真データセットが別個の焦点条件下で得られる。データセットの近似を行うことで、シーンのある範囲の写真を生成する能力が可能になる。ある範囲の写真は、写真の初期データセットによって特定される焦点条件範囲内の様々な焦点条件を表す。さらに、外挿により、焦点条件範囲外の結果がもたらされる。
本発明のこれらおよび他の利点は、様々な図面図に示す好ましい実施形態の以下の詳細な説明を読めば、当業者に無論明らかになろう。
これより、例を添付図面に示した、本発明の「シーンの複数の写真の焦点を変える方法」の好ましい実施形態を詳細に参照する。本発明について、好ましい実施形態と併せて説明するが、本発明をこれら実施形態に限定する意図のないことが理解されよう。対照的に、本発明は、添付の特許請求の範囲によって規定される本発明の精神および範囲内に包含されうる代替、変更、および同等物を保護範囲に含むことを意図する。
さらに、以下の本発明の詳細な説明では、本発明の完全なる理解を提供するために、多くの特定の詳細が述べられる。しかし、本発明をこれら特定の詳細なしで実施しうることが当業者に認識されよう。場合によっては、既知の方法、手順、構成要素、および回路については、本発明の態様を不必要に曖昧にしないように詳細に説明していない。
表記および命名
以下の詳細な説明のいくつかの部分は、コンピュータメモリで実行可能なデータビットに対する操作の、手順、ステップ、論理ブロック、プロセス、および、他の記号的表現によって提示される。これら説明および表現は、データ処理分野の当業者が他の当業者に各自の作業の趣旨を最も有効に伝える際に使用される手段である。手順、コンピュータ実行ステップ、論理ブロック、プロセスなどは、本明細書において、また一般に、所望の結果を導く自己矛盾のない一連のステップまたは命令であると考えられる。ステップは、物理的な数量の物理的な処理を要するものである。必ずしもそうとは言えないが、通常、こういった数量は格納、転送、結合、比較、また他の場合はコンピュータシステムで処理することが可能な電気信号または磁気信号の形をとる。折に触れて、これら信号をビット、値、要素、記号、文字、項、数などと呼ぶことが、主に慣用の理由で都合がよいことが証明されている。
以下の詳細な説明のいくつかの部分は、コンピュータメモリで実行可能なデータビットに対する操作の、手順、ステップ、論理ブロック、プロセス、および、他の記号的表現によって提示される。これら説明および表現は、データ処理分野の当業者が他の当業者に各自の作業の趣旨を最も有効に伝える際に使用される手段である。手順、コンピュータ実行ステップ、論理ブロック、プロセスなどは、本明細書において、また一般に、所望の結果を導く自己矛盾のない一連のステップまたは命令であると考えられる。ステップは、物理的な数量の物理的な処理を要するものである。必ずしもそうとは言えないが、通常、こういった数量は格納、転送、結合、比較、また他の場合はコンピュータシステムで処理することが可能な電気信号または磁気信号の形をとる。折に触れて、これら信号をビット、値、要素、記号、文字、項、数などと呼ぶことが、主に慣用の理由で都合がよいことが証明されている。
しかし、これらおよび同様の用語はすべて適正な物理数量に関連付けられるべきであり、これら数量に適用される都合のよいラベルにすぎないことを念頭におかれたい。特記しない限り、または以下の考察から明らかな場合を除き、「アクセス」、「処理」、「算出」、「翻訳」、「計算」、「決定」、「スクロール」、「表示」、または「認識」などの用語を利用する考察は、本発明を通して、コンピュータシステムのレジスタおよびメモリ内の物理的(電子的)な数量として表されるデータをコンピュータシステムメモリ、レジスタ、または他のこのような情報記憶装置、伝送装置、または表示装置内の物理的な数量として同様に表される他のデータに処理・変換するコンピュータシステムまたは同様の電子計算装置のアクションおよびプロセスを指す。
これより図1を参照して、本発明の部分は、たとえば、電子撮像装置またはデジタルカメラなどの電子システムのコンピュータ可読媒体に存在するコンピュータ可読かつ実行可能な命令からなる。図1は、本発明の実施形態を実施することのできる例示的な電子システム100の例示的な内部構成要素のブロック図である。
図1は、例示的な電子システム100の回路を示す。例示的な電子システム100は、情報を通信するためのアドレス/データバス120、バス120に接続され、情報および命令を処理する中央演算処理装置(プロセッサ)101、バス120に接続され、中央演算処理装置101のために情報および命令を格納する揮発性メモリ102(たとえば、ランダムアクセスメモリ(RAM)、スタティックRAM、ダイナミックRAMなど)、およびバス120に接続され、プロセッサ101のために静的情報および命令を格納する不揮発性メモリ103(たとえば、読み出し専用メモリ(ROM)、プログラマブルROM、フラッシュメモリ、EPROM、EEPROMなど)を含む。
例示的な電子システム100は、バス120に接続され、情報および命令を格納するデータ記憶装置104(たとえば、メモリカード、ハードドライブなど)も含む。データ記憶装置104は取り外し可能であることができる。例示的な電子システム100は、バス120に接続され、写真などの情報をユーザに表示する電子表示装置105も含む。電子システム100と併せて利用可能な表示装置105は、液晶装置、陰極線管(CRT)、電界放出装置(FED、フラットパネルCRTとも呼ばれる)、または写真またはグラフィックス画像の作成に適した他の表示装置でありうる。
引き続き図1を参照しながら、バス120に接続され、電子システム100とネットワーク環境の間に通信リンクを提供するオプションの信号入出力装置108について述べる。このような信号入出力装置108は、中央演算処理装置101が通信網に接続された他の電子システムまたはアナログ回路ブロックと通信するか、または監視できるようにする。
シーンの写真での焦点制御
本出願では、シーンの複数の写真で焦点を変える方法についてパラメトリック・テクスチャ・マップの文脈の中で述べることにする。パラメトリック・テクスチャ・マップの説明は、背景資料として参照により本明細書に援用されるMalzbenderに付与された米国特許出願第09/329,553号、DIRECTION-DEPENDENT TEXTURE MAPS IN A GRAPHICS SYSTEM、1999年6月10日出願、およびMalzbenderに付与された米国特許出願第09/528700号、APPARATUS FOR AND METHOD OF RENDERING 3D OBJECTS WITH PARAMETRIC TEXTURE MAPS、2000年3月17日出願に記載されている。
本出願では、シーンの複数の写真で焦点を変える方法についてパラメトリック・テクスチャ・マップの文脈の中で述べることにする。パラメトリック・テクスチャ・マップの説明は、背景資料として参照により本明細書に援用されるMalzbenderに付与された米国特許出願第09/329,553号、DIRECTION-DEPENDENT TEXTURE MAPS IN A GRAPHICS SYSTEM、1999年6月10日出願、およびMalzbenderに付与された米国特許出願第09/528700号、APPARATUS FOR AND METHOD OF RENDERING 3D OBJECTS WITH PARAMETRIC TEXTURE MAPS、2000年3月17日出願に記載されている。
さらに、本発明は、シーンの複数の写真での焦点を変える方法を提供する。また、本発明の一実施形態は、上記成果を成し遂げ、また生成プロセスの任意の時点で焦点パラメータに対する制御を提供する方法を提供する。さらに、本発明の別の実施形態は、上記成果を成し遂げ、また、焦点パラメータを選択する際にアマチュアの写真家の技能の欠如を補う写真プロセスを提供する方法を提供する。
本発明は、本発明の一実施形態に従って、パラメトリック・テクスチャ・マップ(PTM)を利用して三次元のシーン、物体、または物体群を、焦点条件を変えた状態下の二次元写真にモデリングする。本出願において、「シーン」という用語は、物体、物体群も指す。これらPTMは、単に、大半の写真またはテクスチャマップがするようなピクセルまたはサブピクセルあたりの単色値を表すだけではない。PTMは、焦点条件を変えてサブピクセルの色値を動的かつ選択的に再構築することが可能である。
図8のフローチャート800は、図2、図3、図4A、図4B、図5A、図5B、図6、および図7と併せて、本発明においてシーン中で焦点を変える方法を示す。これより図8を参照すると、フローチャート800は、本発明の一実施形態に従って、三次元シーンの二次元表現中で焦点を変える方法を示す。
「写真」という用語が本開示全体を通して使用されるが、写真という用語は、従来のフィルムベースの写真またはデジタルベースの写真に限定されず、画像を取り込むすべての手段を対象とする。
本実施形態は、図8のステップ810において、撮影された三次元シーンの写真データセットを得る。図2は、写真撮影される例示的な三次元シーン200の図を提供する。円形の物体210はシーン200の前景にある。三角形の物体220はシーン200の中間領域にある。正方形の物体230はシーン200の背景に配置されている。図2は例示にすぎず、任意の三次元シーンを本発明で表しうることが理解される。ボックス250は、ボックス250内に含まれるオブジェクト210、220、および230それぞれの三次元方位を示す。
フローチャート800のステップ810において、写真データセットで得られる写真はそれぞれ、三次元シーンの二次元表現である。本実施形態において、データセット中の各写真は、同じ視点から別個の焦点条件下で取り込まれる。
写真データセットは、様々な焦点条件下で撮影され、写真データセットを含む焦点条件セットを定義する。本発明の一実施形態では、1つのみの焦点パラメータが変化する。本出願において、このような条件は「一次元」の焦点条件と呼ばれる。本発明の別の実施形態では、2つの焦点パラメータが変化する。このような環境は「二次元」の焦点条件と呼ばれる。
たとえば、写真データセットは、本発明の一実施形態により一次元(焦点深度)が変わる焦点条件を有することができる。焦点深度は、電子システム100において写真データセットを得るために使用される特定の深度へ焦点調整を設定することによって指定される。電子システム100のレンズは、1つの焦点面しか最大焦点にすることができない。一連の焦点面は電子システム100と平行して走るか、または従来の場合では、カメラ中のフィルムと平行して走る。シーンの一部は、最大焦点の焦点面から離れるにつれて、ピントがずれる。
別の例では、別の写真データセットが本発明の一実施形態に従って、一次元(被写界深度)で変化する焦点条件を有することができる。先に触れたように、最大焦点は1つの焦点面にしかないが、焦点面を取り巻く小範囲(zone of sparseness)もまた、比較的ピントが合っている。この鮮明なゾーンが被写界深度である。一実施形態において、被写界深度は、電子システム100の絞りが下がると増大する。本発明の他の実施形態は、他の周知の方法(たとえば、レンズの焦点距離を変える)を通して被写界深度を変えることに適している。
一次元のみで変化する焦点条件の場合、本発明の一実施形態によれば、写真データセットの構築に3枚の写真が必要である。4枚以上の写真を含む写真データセットは、所与のデータセット中の焦点条件範囲にわたって写真を生成する際により良好なPTM表現を提供することができる。
二次元で変化する焦点条件の場合、本発明の一実施形態によれば、写真データセットの構築に6枚の写真が必要である。6枚以上の写真を含む写真データセットは、所与のデータセット中の焦点条件領域にわたって写真を生成する際により良好なPTM表現を提供することができる。
本発明の一実施形態によれば、シーンの写真データセットは、写真データセット中の各サブピクセルの色値データセットにさらに分けることができる。図3は、本発明の一実施形態により、焦点条件の関数としてサブピクセルの色値を表すグラフ300を示す。
当業者は、電子システム100がピクセル毎の色値を格納し、かつ/またはディスプレイに表示することによって写真を作成することを理解している。ディスプレイは、何千個ものピクセルの直線格子からなる。本発明では、ピクセルのそれぞれがディスプレイに生成される写真を形成する色を生成する。サブピクセルは、ピクセルに利用可能な色の範囲およびこれら色を表示する際に使用するフォーマットを制御するために使用される。
図3のグラフ300は、本発明の一実施形態により、サブピクセルが各色チャネルまたはサブピクセル内の色値を変えることを示す。縦軸に、色値がゼロから1までの値として表され、ゼロが最も明るい色値を表し、1が最も暗い色値を表す。色値は、本発明の一実施形態によれば、赤、緑、および青の色値をそれぞれ表す。たとえば、赤色チャネルまたは赤サブピクセルでは、色値1により、利用可能な中で最も暗い、または最高限の赤が与えられる。色値ゼロにより、利用可能な中で最も明るい赤が与えられる。
横軸は、焦点条件に関する値の範囲を提供する。グラフ300は、一次元(たとえば、焦点深度または被写界深度)が変化する焦点条件の関数として対応する色チャネルの色値を表す。
図3のグラフ300は、3つのデータポイント(ポイント310、ポイント320、およびポイント330)を有する1つの特定のサブピクセルの色値データセットを示す。これら3つのポイントは、シーンの対応する写真データセットを構成する3枚の写真に対応する。3枚の写真は、3つの別個の焦点条件下で撮影されたものである。グラフ300は、データセット中の3枚の写真それぞれの中の特定のピクセルの特定のサブピクセルの色値および色チャネルを表す。
図8のフローチャート800を再び参照すると、ステップ820において、本発明の一実施形態により、本発明は写真データセットの近似を行い、これによりある範囲の写真を生成することができる。ある範囲の写真は、写真データセットによって定義される焦点条件セット内の、実際の焦点条件下で撮影された実際の写真の表現または近似である。表現はパラメトリック・テクスチャ・マッピングを通して求められる。
焦点条件が一次元で変化するデータセットでは、データセットが3枚のみの写真を含む場合、定義上、近似は特定のサブピクセルの色値のデータセットの補間であることもできる。焦点条件が二次元で変化するデータセットでは、データセットが6枚のみの写真を含む場合、定義上、近似は特定のサブピクセルの色値のデータセットの補間であることもできる。
図3は、特定のサブピクセルの色値のデータセットの近似を提供する。色値のデータセットは、一次元で変化する焦点条件下で撮影された対応する写真データセットからの色値のサブセットである。色値データセットの近似は、図3の曲線350で表される。
ポイント310および330は、写真データセットおよび対応する色値データセットによって定義される焦点条件範囲の端点である。焦点条件は、焦点条件範囲を通して−1.0と+1.0の間の値の割り振り値である。焦点条件範囲の一端である最小焦点条件において、ポイント310における色値は、焦点条件−0.1に対応する。焦点条件範囲の他端の最大焦点条件において、ポイント330における色値は焦点条件+1.0に対応する。
ポイント310とポイント330の間の曲線350は、全焦点条件範囲にわたって色値範囲を生成することが可能な色値のデータセットの近似を提供する。シーンのすべてのサブピクセルの色値を組み合わせて、ある範囲の写真を焦点条件範囲内で生成することができる。ある範囲の写真は、焦点条件範囲内の各焦点条件毎に撮影されたであろう実際の写真の近似である。
フローチャート800のステップ820に続き、写真データセットの近似に関連する複数の値が、本発明の一実施形態により記録される。複数の値は、全焦点条件範囲にわたる色値の近似を提供するために求められる。したがって、複数の値は、写真データセットによって定義される焦点条件範囲を通した写真範囲のうちの各々を生成するために利用される。
フローチャート800のステップ830において、本実施形態は、複数の値から写真を合成して、焦点条件範囲内の先に触れたある範囲の写真を生成する。
本発明の実施形態は二次多項関数を使用するPTM表現について考察するが、他の実施形態は、他の適した関数または式を使用するPTM表現に適している。
先に考察したように、本発明はパラメトリック・テクスチャ・マップ(PTM)を利用して、変化する焦点条件下でのシーンの写真をモデリングする。一実施形態では、サブピクセル毎の色値を格納して、シーンの1枚の写真のみを生成する代わりに、1つまたは複数の変数の二次多項関数の係数が格納される。二次多項関数は、焦点条件関数としてサブピクセルの色値を提供する。二次多項関数は、変化する焦点条件下でのシーンの写真のPTMモデリングである。
考えられるあらゆる焦点条件について各サブピクセルの色値を格納する代わりに、二次多項式は、焦点条件を変化させた状態下での各サブピクセルについて値を求めることができる。ここで、特定の焦点条件が指定され、結果として得られるサブピクセルの色値を多項式から補間することができる。赤、緑、および青パラメトリック・テクスチャ・マップ(RGB PTM)を有する各色チャネルを表す技法により、本発明の一実施形態により、焦点条件の変化によるサブピクセルの色の写真のようにリアルな変化をモデリングすることが可能である。
これとは対照的に、PTM表現を使用することなく、所与の焦点条件について写真を合成するには、各サブピクセルについて、考えられるあらゆる焦点条件についてのカラーサンプルが必要になる。たとえば、焦点条件が一次元で変化する場合、シーンの色値は、RGB PTM表現として一変量の二次多項式に3つのみの係数を格納することによって表すことができる。このようにして、定義された焦点条件セットにわたるある範囲の写真を再現することができる。
一方、前段落において触れたある範囲の写真で考えられるあらゆる写真を再現するためには、まず、定義された焦点条件セットにわたり考えられるあらゆる写真を撮影する必要がある。ある範囲の写真では、それぞれ前の写真から焦点条件をわずかにずらした多数の写真を撮影することが含まれる。その後、各サブピクセルの色値を、ある範囲の写真にわたる写真毎に格納する必要がある。ある範囲の写真の再現には、PTMモデリングで格納される3つの係数よりもはるかに多くの係数が必要である。この場合、各サブピクセルに多数の色値を格納するために、高価なメモリリソースが非効率的に利用されることになる。
写真データセットによって定義される焦点条件範囲全体を通してのサブピクセルカラーの変動は、本発明の一実施形態により、式1の二次複二次(second order biquadratic)多項式を使用して表される。式1の色値は、二次元(たとえば、焦点深度(F)および被写界深度(D))で変化する。
色値(F,D)=a0F2+a1D2+a2FD+a3F+a4D+a5 (1)
色値(F,D)=a0F2+a1D2+a2FD+a3F+a4D+a5 (1)
各サブピクセルについて、係数a0、a1、a2、a3、a4、およびa5が格納される。一実施形態において、係数は、図9Bのテーブル900など、サブピクセル毎のテーブルに格納される。ピクセル900は、図9Aの例示的なピクセル910など、ピクセルの式1の係数を示す。ピクセル910は、組み合わせられてピクセル910への表示に利用可能な全体の色範囲を形成する3つのサブピクセルを有する。本発明の一実施形態において、ピクセル910は、3つのサブピクセル(赤サブピクセル920、緑サブピクセル930、および青サブピクセル940)からなる。
図9Bのテーブル900は、ピクセル910のサブピクセルの式1の係数のエントリを示す。列950に、定義された焦点条件セットにわたる赤の色値を表す複二次多項関数の様々な係数(a0〜a5)が格納される。列960に、定義された焦点条件セットにわたる緑の色値を表す複二次多項関数の様々な係数(a0〜a5)が格納される。列970に、定義された焦点条件セットにわたる青の色値を表す複二次多項関数の様々な係数(a0〜a5)が格納される。
二次多項関数は、焦点条件を変化させた状態下でのサブピクセルの色を再構築するために使用される。1つの焦点パラメータの場合、式1の多項式は、1つの変数を有する多項関数(一変量の多項式)に変形され、焦点条件を変化させた状態下のサブピクセルの色値を表すために使用することができる。2つの焦点パラメータの場合、式1の多項式は2つの変数を有する多項関数(複二次)のままであり、焦点条件を変化させた状態下の色値を表すために使用することができる。
本発明の一実施形態において、当業者に既知の最小二乗平均曲線適合技法を使用して、式1の多項関数を、焦点条件セットにわたる特定のサブピクセルの色値のデータセットに適合させる。たとえば、最小二乗平均曲線適合技法を使用して、図3のデータポイント310、320、および330に最もよく適合する、対応の一変量二次多項関数の係数を求めることが可能である。曲線350に示す色値データセットの近似は、適合された一変量二次多項関数のプロットである。本発明の実施形態は、式1の多項式を色値データセットに適合するにあたり、他の曲線適合技法にも適している。
式1の自由なパラメータFおよびDは、本発明の一実施形態により、シーンの複数の関連写真の間での補間に使用することができる。本発明は、RGB PTMを使用して、焦点深度、およびオプションとして被写界深度が変化する写真を表すことに関連する。結果得られるRGB PTMは、焦点条件セット内で焦点条件を連続して変える写真を生成または合成する能力を提供する。
これより図4Aを参照すると、写真410は図2の三次元シーン200の二次元表現を表す。図4Aは、本発明の一実施形態により、1つのみの焦点要素(焦点深度)が変化するRGB PTMを使用した色表現を明示したものである。それぞれ焦点深度が漸進的により遠くなる写真データセットがとられる。1つのみの焦点要素が変化する一次元の場合では、写真データセットに必要な写真は3枚だけである。
式1の二次多項式は、特定のサブピクセルに関連する色値のデータセットに適合される。図3に示される色値のデータセットは、特定のサブピクセルの例示的なデータセットであることができる。結果得られるRGB PTMはここで、焦点深度の変化に伴う色値を提供する。この場合、利用可能な2つの自由な変数のうちの一方のみ(F)が使用されるため、一変量二次PTMが以下のように適合される結果となることに留意する。
色値(F)=a0F2+a3F+a5 (2)
色値(F)=a0F2+a3F+a5 (2)
被写界深度変数(D)は、上記実施形態ではゼロになる。創造性目的のために、本発明の一実施形態により、被写界深度は一定であっても、またはいくらかばらついてもよい。しかしいずれの場合でも、被写界深度変数(D)はRGB PTMでは制御されないままであり、式1から省かれて式2が形成される。
色値のデータセットは、−1.0<F<+1.0にわたる割り振り範囲の間でとられ、変数Fは式1で変化する焦点条件(焦点深度)を表す。先に考察したように、図3は例示的な色値のデータセットでありうる。さらに、図3に示す色値のデータセットは、円形の物体210を前景に含み、三角形の物体220の中間領域に含み、そして正方形の物体230を背景に含む最大焦点の焦点深度で撮影された写真を表すことができる。
図2に示すシーン200の写真のデータセット中のすべてのサブピクセルの色値を組み合わせることにより、図4Aの写真410など、選択された焦点条件を有する写真が生成または合成される。写真の合成は、フローチャート800のステップ830に述べられている。写真410は、前景にある円形の物体210を最大焦点で示している。円形の物体210は太い実線で表されている。最大焦点があるのは1つの焦点面のみであるため、その焦点面にない他の物体はピントがずれる。ここで、破線で示す物体220および230は、写真410においてピントがずれて示されている。
例示的なグラフィカル・ユーザ・インタフェース(GUI)450は、最大焦点の焦点面を選択することができる一実施態様を示す。GUI450において、軸455は−1.0(最小焦点深度)〜+1.0(最大焦点深度)の範囲間の焦点深度を表す。ここで、軸455の左側は前景を表し、軸455の右側は背景を表す。GUI450は例示にすぎず、他の実施形態は、スライディングバー、ローラーボールなど、他の形態のグラフィカル・ユーザ・インタフェースを実施してもよい。
図4Aにおいて、ポイント475は軸455の左側に存在し、最大焦点に前景が選択されたことを示す。ここで、円形の物体210が写真410において最大焦点になる。
これより図4Bを参照すると、写真420は、本発明の一実施形態による図2の三次元シーン200の二次元表現を表し、最大焦点にある背景を示している。図3に例示的に示す色値のデータセットは、写真420において二次元表現を生成することが可能である。
写真420は、背景にある正方形の物体230に最大焦点があることを示している。正方形の物体230は太い実線で表されている。最大焦点があるのは1つの焦点面のみであるため、その焦点面にない他の物体はピントがずれる。ここで、破線で示す物体210および220は、写真420においてピントがずれて示されている。
図4Bにおいて、ポイント475は軸455の右側に存在し、最大焦点に背景が選択されたことを示す。この場合、写真420において、最大焦点は正方形の物体230にある。
写真410および420は図3の色値データセットを生成した元の写真データセットを含むそのままの写真でなくてもよいことに留意することが重要である。そうではなく、写真410および420はRGB PTM表現を通して作成される補間写真である。
これより図5Aを参照すると、写真510は図2の三次元シーン200の二次元表現を表す。図5Aは、本発明の一実施形態により、別の焦点要素(被写界深度)が変化するRGB PTMを有する色表現を明示したものである。それぞれ被写界深度が漸進的により広くなる写真データセットがとられる。1つのみの焦点要素が変化する一次元の場合では、写真データセットに必要な写真は3枚だけである。
式1の二次多項式は、写真データセット中の特定のサブピクセルに関連する色値のデータセットに適合される。図3に表される色値のデータセットは、特定のサブピクセルの例示的なデータセットであることができる。結果得られる特定のサブピクセルのRGB PTMはここで、被写界深度の変化に伴う色値を提供する。この場合、利用可能な2つの自由な変数のうちの一方のみ(D)が使用されるため、一変量二次PTMが以下のように適合される結果となることに留意する。
色値(D)=a1D2+a4D+a5 (3)
色値(D)=a1D2+a4D+a5 (3)
焦点深度変数(F)は、上記実施形態ではゼロになる。創造性を追加するために、本発明の一実施形態により、一定またはいくらかばらついた焦点深度を写真データセットにとられた写真に使用することができる。いずれの場合でも、焦点深度変数(F)はRGB PTMでは制御されないままであり、式1から省かれて式3が形成される。
カメラレンズの開口を変えることにより、被写界深度が変化する。カメラの開きが小量(高絞り値)の場合、写真中の被写界の大半にピントが合っており、被写界深度は広い。カメラの開きが大量(低絞り値)の場合、小量の被写界にピントが合っており、被写界深度は浅い。完全に開かれている場合、カメラレンズは、露光が正しい場合、シーン中のピントが合っている深度の範囲は狭い。
色値のデータセットは、−1.0<D<+1.0にわたる割り振り範囲の間でとられ、変数Dは式1で変化する焦点条件(被写界深度)を表す。図3は例示的な色値のデータセットを表すことができる。さらに、図3に示す色値のデータセットは、円形の物体210を前景に含み、三角形の物体220の中間領域に含み、そして正方形の物体230を背景に含む変化する被写界深度で撮影された写真を表すことができる。
図2に示すシーン200の写真のデータセット中のすべてのサブピクセルの色値を組み合わせることにより、図5Aの写真510など、選択された焦点条件を有する写真を生成または合成することができる。写真の合成については、フローチャート800のステップ830に述べられている。写真510は、非常に狭い被写界深度を示している。狭い被写界深度は、鮮鋭度最大の焦点面の周囲に存在する鮮鋭なゾーンが狭いことを示す。図5Aでは、本質的に、中間領域にある三角形の物体220がピントの合っている唯一の物体である。三角形の物体220は実線で表される。狭い被写界深度が表されているため、被写界深度外の物体はピントがずれている。ここで、破線で示される物体210および230は、写真510においてピントがずれて示されている。
例示的なグラフィカル・ユーザ・インタフェース(GUI)550は、被写界深度を選択することができる一実施態様を示す。GUI550において、縦軸555は、−1.0(狭被写界深度)〜+1.0(広被写界深度)の範囲間の変化する被写界深度を表す。ここで、縦軸555の上部は狭い被写界深度を表し、縦軸555の下部は続けて広がっていくもしくは広がっている被写界深度を表す。GUI550は例示にすぎず、他の実施形態は、スライディングバー、ローラーボールなど、他の形態のグラフィカル・ユーザ・インタフェースを実施してもよい。
図5Aにおいて、ポイント575は縦軸555の上部に存在し、狭い被写界深度が選択されたことを示す。この場合、最大焦点が中間領域の焦点面にある写真データセットが与えられ、その焦点条件から被写界深度を広げる場合、三角形の物体220が写真510においてピントのあっている唯一の物体になる。
一実施形態において、データセット中の様々な写真は一定の焦点深度(F)およびその焦点深度で一定の焦点面を取り巻く被写界深度を広げて撮影される。多かれ少なかれ、鮮鋭なゾーンは、最大焦点の焦点面から様々な距離分離れたところにある広げた焦点面群からなる。たとえば、先に述べたように、鮮鋭度最大の焦点面が図2の中間領域に配置されていた場合、三角形の物体220が最大焦点の焦点面にあることになる。被写界深度を広げることで、三角形の物体220を取り巻く焦点面にもピントが合うようになる。
これより図5Bを参照して、図3のデータセットにより、上で考察したように広い被写界深度を有する写真520を作成することができる。被写界深度を広げることにより最大焦点の焦点面は中間領域に残ったままであるものと仮定すると、前景および背景にある物体に徐々にピントが合うようになる。写真520は、図2のシーン200中のすべての物体(前景にある円形の物体210、中間領域にある三角形の物体220、および正方形の物体230)に適度にピントが合った状態を示している。
図5Bにおいて、ポイント575は縦軸555の下部に存在し、広い被写界深度が選択されたことを示している。ここで、中間領域にある焦点面に最大焦点がある写真データセットが与えられ、その焦点条件から被写界深度を広げる場合、図2のシーン200中のすべての物体にピントが合うようになる。
写真510および520は、図3の色値データセットを生成した元の写真データセットを含むそのままの写真でなくてもよいことに留意することが重要である。代わりでは、写真510および520はRGB PTM表現を通して作成される補間写真である。
これより図6を参照すると、写真600は、図2の三次元シーン200の二次元表現を表す。図6は、本発明の一実施形態により2つの焦点パラメータ(焦点深度および被写界深度)が変化するRGB PTMを使用する色表現を明示したものである。これにより、最大にピントの合ったシーン中の特定の深度にわたる制御、ならびに適度にピントの合った空間範囲にわたる制御が可能になる。
焦点深度および被写界深度の両方を含む別個の焦点条件をそれぞれ有する写真データセットがとられる。2つの焦点パラメータが変化する二次元の場合、写真データセットに必要な写真は6枚だけである。
式1の複二次多項式は、特定のサブピクセルに関連する色値データセットに適合される。色値データセットは、描画されると、三次元グラフ(図示せず)で表されることになる。結果得られるRGB PTMは、焦点深度および被写界深度の両方が変化する焦点条件の変化に伴って色値を提供する。
色値データセットは、−1.0<F<+1.0にわたる割り振り範囲間でとられ、ここで変数Fは式1の変化する第1の次元(焦点深度)を表す。また、第2の次元において、色値データセットは、−1.0<D<+1.0にわたる割り振り範囲間でとられ、ここで変数Dは変化する被写界深度を表す。
色値データセットは、円形の物体210がある前景、三角形の物体220がある中間領域、および正方形の物体230がある背景を含む最大焦点の被写界深度を有する焦点条件下で撮影された写真を表すことができる。また、色値データセットは、前景に円形の物体210、中間領域に三角形の物体220、および背景に正方形の物体230を含む、変化する被写界深度を有する焦点条件下で撮影された写真も表すことができる。
図2に示すシーン200の写真データセット中のすべてのサブピクセルの色値を組み合わせることにより、図6の写真600など、結果得られるシーンの写真が、選択された焦点条件で生成または合成される。ある範囲の写真を通して写真を合成することについては、フローチャート800のステップ830に述べられている。写真600は、前景にある円形の物体210に最大焦点があることを示している。円形の物体210は太い実線で表される。写真600は、図2のシーン200中のすべての物体に適度にピントが合う広い被写界深度も示している。
再び図6を参照すると、様々な焦点条件の写真を含む所与の初期データセットについて、前景にある焦点面が最大焦点に選択される。焦点面は円形の物体210を含む。さらに、ピントの合った物体220および230も含む広い被写界深度が示されている。
例示的なグラフィカル・ユーザ・インタフェース(GUI)650は、本発明の一実施形態により二次元の焦点条件を選択可能な一実施態様を示す。GUI650において、縦軸657は−1.0(狭被写界深度)〜+1.0(広被写界深度)の範囲で変化する被写界深度を表す。ここで、縦軸657の上部は狭い被写界深度を表し、縦軸657の下部は段々と拡張する、または広がる被写界深度を表す。
GUI650において、横軸655は、−1.0(最小焦点深度)〜+1.0(最大焦点深度)の範囲の焦点深度を表す。ここで、軸655の左側は最大焦点が前景にあることを表し、軸655の右側は最大焦点が背景にあることを表す。
焦点条件は二次元で変化するため、GUI650は、本発明の一実施形態により、F次元およびD次元の両方の全範囲の値を包含するように正方形の形である。GUI650は例示にすぎず、他の実施形態は、他の形状および形態のグラフィカル・ユーザ・インタフェースを実施することが可能である。
GUI650中のポイント675の位置は、最大焦点の焦点面が前景にあり、被写界深度が広いことを示す焦点条件が選択されたことを示す。さらに、スライディングポイント675が縦方向に上がると、被写界深度が下がり、おそらく正方形の物体230がピントから外れる。これに対応して、スライディングポイント675が右にいくと、焦点深度が背景にシフトすることになる。この場合、円形の物体210は、被写界深度が広いため、おそらくなおも最大焦点の中に残る。
先の考察は写真データセットによって定義される焦点条件の領域内での写真の生成に関連するものであった。しかし、いくぶん焦点条件セット外の焦点条件の色値PTM表現も、本発明の一実施形態により外挿を通して生成することができる。色値の外挿は、初期焦点条件データセットおよびそれぞれの色値を含む初期領域外の焦点条件について解くことによって行うことができる。
本発明の一実施形態において、式1の複二次多項関数は、外挿を通して、特定の状況下で、初期焦点条件範囲外の焦点条件について満足のいく結果を提供する。表される焦点条件は、一次元または二次元で変化することが可能である。
一次元で変化する焦点条件の場合、外挿により、−1.0よりも小さい値および+1.0よりも大きい値(たとえば、ユーザインタフェース450および550)について横軸および縦軸の外の結果が導かれる。二次元の場合、外挿により、横軸および縦軸を−1.0〜+1.0の間の値に制限する正方形(たとえば、ユーザインタフェース650)外にある焦点条件についての結果が導かれる。
図3は、一次元で変化する焦点条件の場合の色値データセットを示す。領域AおよびBは、写真データセットによって定義される焦点条件範囲(−1.0〜+1.0)を越えて延長する焦点条件の場合の色値を示す。色値は、先に考察した、関連するRGB PTM一変量二次多項関数表現から計算される。
たとえば、図7は、図2の三次元シーン200の二次元表現を示す。図7は、本発明の一実施形態により、1つのみの焦点要素(焦点深度)が変化するRGB PTMを使用する色表現を明示したものである。
それぞれ焦点深度が漸進的により遠くなる写真データセットがとられる。しかし、写真700に関連するこの特定の写真データセットの場合、焦点条件(焦点深度)の範囲に、円形の物体210または正方形の物体230は含まれない。したがって、写真データセット中には、最大焦点が前景の焦点面にある、また背景の焦点面にある写真が撮影されていない。このため、写真データセットでは、円形の物体210および正方形の物体230が両方ともピントずれしている。
しかし、外挿を通して、写真700は、RGB PTM表現により、前景にある物体(円形の物体210)にピントが合わせられることを示す。さらに、別の写真では、外挿を通して、RGB PTM表現により、背景にある正方形の物体230にピントを合わせることができる。
図2に示すシーン200の写真データセット中のすべてのサブピクセルの色値を組み合わせることにより、図7の写真700など、選択された焦点条件を有する写真が生成される。写真700は、ここでは前景にある円形の物体210にピントが合っていることを示している。円形の物体210は実線で表されている。最大焦点の焦点面は1つのみであるため、その焦点面にない残りの物体はピントがずれている。ここで、破線で示される物体220および230は、写真700においてピントがずれて示されている。
例示的なグラフィカル・ユーザ・インタフェース(GUI)750は、最大焦点の焦点面を選択することができる一実施態様を示す。GUI750において、軸755は−1.0(最小焦点深度)〜+1.0(最大焦点深度)の範囲間の焦点深度を表す。ここで、軸755の左側は前景を表し、軸755の右側は背景を表す。また、GUI750は、円752で画定された焦点条件範囲の外側の焦点条件を示す。GUI750は例示にすぎず、他の実施形態は、スライディングバー、ローラーボールなど、他の形態のグラフィカル・ユーザ・インタフェースを実施してもよい。
GUI750中のポイント775の位置は、最大焦点の焦点面が前景にあることを示す選択された焦点条件が焦点条件範囲外であることを示す。同様に、物体230にどうにかしてピントを合わせるため、ポイント775は右にシフトされ、焦点条件範囲を画定する円752の外に配置される。
特定のサブピクセルの色値のRGB PTM表現では、生成プロセスの任意の時点で焦点条件を変化させた状態の写真を作成することが可能である。被選択条件を選択した後、結果得られる写真を生成することができる。写真の作成に使用されるサブピクセルそれぞれの色値は、選択された焦点条件について対応するRGB PTMを解くことによって計算される。次に色値は、選択された焦点条件パラメータについて解かれ、表示される。
本発明の別の実施形態では、流れ図800に要点をまとめた方法は、電子システム100などの電子システムによって自動的に行われる。特定の焦点条件および露光で1枚の写真を撮影する代わりに、電子システム100は複数の写真を自動的に撮影して、焦点条件が変化する状態下の色値データセットを構築する。適正な二次多項式を写真データセットに、これに対応して色値データセットに適合させることにより、その式への係数をサブピクセル毎に格納することができる。その後、ユーザは焦点条件範囲を変化させて、最良の写真を選択することが可能である。露光および焦点条件の分野の知識がないアマチュアの写真家にとって、流れ図800に要点をまとめたRGB PTMを使用することで、特定の状況で入手可能な写真の大半を取り込み、ほとんど失敗のない装置およびシステムが作成される。
RGB PTMの使用により、ユーザ(たとえば、グラフィックス・アーティスト)は、生成プロセスを通して任意の時点でシーンの焦点パラメータを制御することが可能である。最終的な写真は、焦点条件設定に制限されず、露光時に規定されない。データの近似および外挿を通して、焦点条件範囲にわたるはるかに多くの写真を生成プロセスを通して生成することができる。たとえば、宣伝エージェンシーが、変化する焦点条件範囲にわたるシーンの色値を表すためにRGB PTMを使用する場合、写真が当初露光されるときにではなく、写真が共に合成されるときに焦点パラメータを選択することが可能である。これにより、はるかに大きな創造性の自由および制御が提供される。
おおよそではあるが、このPTM表現は、焦点条件範囲全体を通して写真を表すコンパクトな方法である。焦点条件範囲全体を通して写真に考えられるすべての色値を格納するのではなく、係数のみがサブピクセル毎に格納される。
さらに、ルックアップテーブルが所与のパラメータセットの色値を提供することができ、データのさらなる圧縮およびコンパクトさを提供する。さらに、PTM表現では、写真のレンダリング中の高速色再構築も可能である。
本出願において、複二次多項式は2つの焦点要素(焦点深度(F)および被写界深度(D))の関数である。しかし、本発明は、他の焦点要素が想定される実施形態にも適している。さらに、本発明は、他のより高次の多項式が、焦点条件が変化する状態下のサブピクセル色値を表現するために使用される実施形態にも適している。さらにまた、本発明は、2次元よりも高次の多項式がPTM表現の構築に使用される実施形態にも適している。他の実施形態は、他の形態の関数または式を使用するPTM表現にも適している。
さらに、RGB PTMを使用して二次多項式中のカラーバリエーションにマッピングすることは、焦点パラメータによって変わる写真に限定されない。たとえば、時間要素もRGB PTM表現に容易に適合させることが可能である。時間期間にわたって撮影された写真データセットは、RGB PTMの使用を通して表現することができる。焦点条件を選択するのではなく、特定の時間を選択して、照明、雲量などを含む、その特定の時刻での環境条件を近似し反映した二次元写真が生成される。
フローチャート800に示す実施形態の方法は特定の順序および数量のステップを示すが、本発明は代替の実施形態にも適している。たとえば、方法に提供されるすべてのステップが本発明に必要なわけではない。さらに、追加のステップを本実施形態に提示されるステップに追加することが可能である。同様に、ステップの順序は用途に応じて変更することが可能である。
このように、シーンの複数の写真中の焦点を変える方法について述べた。本発明は特定の実施形態において説明したが、本発明はこのような実施形態によって限定されるものとして解釈されるべきではなく、添付の特許請求の範囲に従って解釈されることを理解されたい。
100:電子システム
101:プロセッサ
102:揮発性メモリ
103:不揮発性メモリ
104:データ記憶装置
105:表示装置
108:信号入出力装置
120:バス
101:プロセッサ
102:揮発性メモリ
103:不揮発性メモリ
104:データ記憶装置
105:表示装置
108:信号入出力装置
120:バス
Claims (10)
- シーン(200)中の焦点を変える方法であって、
a)前記シーン(200)の写真データセットを得るステップであって、該写真データセットの各々は、焦点条件範囲内の別個の焦点条件下で作成される、ステップ(ステップ810)と、
b)前記シーン(200)のある範囲の写真を表すことが可能な前記写真データセットを使用して近似を行うステップであって、前記ある範囲の写真の各々は、前記焦点条件範囲内の焦点条件を有する、ステップ(ステップ820)と、
c)前記近似に関連する複数の値を記録するステップであって、該複数の値は前記ある範囲の写真それぞれを生成することが可能である、ステップと、
を含む方法。 - 前記写真データセット用に3枚の写真を得るステップをさらに含む、請求項1記載の方法。
- 前記写真データセットを得るステップであって、該写真データセットの各々は、焦点深度が変わる別個の焦点条件下で作成される、ステップ、をさらに含む、請求項1記載の方法。
- 前記写真データセットを得るステップであって、該写真データセットの各々は、被写界深度が変わる別個の焦点条件下で作成される、ステップ、をさらに含む、請求項1記載の方法。
- 前記写真データセットに前記焦点条件範囲を定義させるステップであって、該写真データセットは、−1.0の最小焦点条件を有する第1の写真、および+1.0の最大焦点条件を有する第2の写真を有する、ステップ、をさらに含む、請求項1記載の方法。
- 前記シーン(200)中の各サブピクセルについて、前記写真データセットから色値データセットを得るステップ(ステップ810)と、
前記シーン(200)中の各サブピクセルについて、前記近似を行なって、対応する二次多項関数により前記ある範囲の写真から対応する範囲の色値を求めるステップ(ステップ820)と、
前記シーン(200)中の各サブピクセルについて、前記対応する二次多項関数に関連する、複数の対応する係数を記録するステップと、
をさらに含む、請求項1記載の方法。 - 前記シーン(200)中の各サブピクセルについて、最小二乗平均曲線により、前記写真データセットからの色値データセットを適合させて、前記複数の対応する係数を求めるステップをさらに含む、請求項6記載の方法。
- 前記シーン(200)中の各サブピクセルについて、色値(F、焦点条件)=a0F2+a3F+a5を含む前記二次多項関数に関連する前記複数の対応する係数を記録するステップをさらに含む、請求項6記載の方法。
- 前記写真データセットから、前記焦点条件範囲の外の焦点条件を有する複数の写真を外挿するステップをさらに含む、請求項1記載の方法。
- 前記焦点条件範囲内の被選択焦点条件を選択するステップと、
前記複数の値から、前記選択された焦点条件に対する被選択写真を合成するステップ(ステップ830)と、
前記被選択写真を表示するステップと、
をさらに含む、請求項1記載の方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US09/932,691 US6741251B2 (en) | 2001-08-16 | 2001-08-16 | Method and apparatus for varying focus in a scene |
PCT/US2002/026298 WO2003017199A2 (en) | 2001-08-16 | 2002-08-16 | Method and apparatus for varying focus in a scene |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005526302A true JP2005526302A (ja) | 2005-09-02 |
JP2005526302A5 JP2005526302A5 (ja) | 2006-01-05 |
Family
ID=25462739
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003522032A Withdrawn JP2005526302A (ja) | 2001-08-16 | 2002-08-16 | シーンの焦点を変える方法および装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US6741251B2 (ja) |
EP (1) | EP1417644A2 (ja) |
JP (1) | JP2005526302A (ja) |
WO (1) | WO2003017199A2 (ja) |
Families Citing this family (50)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7676022B2 (en) * | 2005-05-02 | 2010-03-09 | Oy Ajat Ltd. | Extra-oral digital panoramic dental x-ray imaging system |
US7336763B2 (en) † | 2005-05-02 | 2008-02-26 | Oy Ajat Ltd | Dental extra-oral x-ray imaging system and method |
US9330324B2 (en) | 2005-10-11 | 2016-05-03 | Apple Inc. | Error compensation in three-dimensional mapping |
JP5001286B2 (ja) | 2005-10-11 | 2012-08-15 | プライム センス リミティド | 対象物再構成方法およびシステム |
US20110096182A1 (en) * | 2009-10-25 | 2011-04-28 | Prime Sense Ltd | Error Compensation in Three-Dimensional Mapping |
JP4917615B2 (ja) * | 2006-02-27 | 2012-04-18 | プライム センス リミティド | スペックルの無相関を使用した距離マッピング(rangemapping) |
KR101408959B1 (ko) * | 2006-03-14 | 2014-07-02 | 프라임센스 엘티디. | 삼차원 감지를 위한 깊이 가변 광 필드 |
EP1994503B1 (en) * | 2006-03-14 | 2017-07-05 | Apple Inc. | Depth-varying light fields for three dimensional sensing |
CN101496033B (zh) * | 2006-03-14 | 2012-03-21 | 普莱姆森斯有限公司 | 利用散斑图案的三维传感 |
US8155478B2 (en) * | 2006-10-26 | 2012-04-10 | Broadcom Corporation | Image creation with software controllable depth of field |
US8350847B2 (en) * | 2007-01-21 | 2013-01-08 | Primesense Ltd | Depth mapping using multi-beam illumination |
TWI433052B (zh) * | 2007-04-02 | 2014-04-01 | Primesense Ltd | 使用投影圖案之深度製圖 |
US8150142B2 (en) | 2007-04-02 | 2012-04-03 | Prime Sense Ltd. | Depth mapping using projected patterns |
WO2008155770A2 (en) * | 2007-06-19 | 2008-12-24 | Prime Sense Ltd. | Distance-varying illumination and imaging techniques for depth mapping |
US9035876B2 (en) | 2008-01-14 | 2015-05-19 | Apple Inc. | Three-dimensional user interface session control |
US8166421B2 (en) * | 2008-01-14 | 2012-04-24 | Primesense Ltd. | Three-dimensional user interface |
US8933876B2 (en) | 2010-12-13 | 2015-01-13 | Apple Inc. | Three dimensional user interface session control |
US7715525B2 (en) * | 2008-03-13 | 2010-05-11 | Oy Ajat Limited | Single sensor multi-functional dental extra-oral x-ray imaging system and method |
US7715526B2 (en) * | 2008-03-13 | 2010-05-11 | Oy Ajat Limited | Single sensor multi-functional dental extra-oral x-ray imaging system and method |
US8456517B2 (en) * | 2008-07-09 | 2013-06-04 | Primesense Ltd. | Integrated processor for 3D mapping |
US8462207B2 (en) * | 2009-02-12 | 2013-06-11 | Primesense Ltd. | Depth ranging with Moiré patterns |
US8786682B2 (en) * | 2009-03-05 | 2014-07-22 | Primesense Ltd. | Reference image techniques for three-dimensional sensing |
US20100235786A1 (en) * | 2009-03-13 | 2010-09-16 | Primesense Ltd. | Enhanced 3d interfacing for remote devices |
US8717417B2 (en) * | 2009-04-16 | 2014-05-06 | Primesense Ltd. | Three-dimensional mapping and imaging |
US9582889B2 (en) * | 2009-07-30 | 2017-02-28 | Apple Inc. | Depth mapping based on pattern matching and stereoscopic information |
US8830227B2 (en) * | 2009-12-06 | 2014-09-09 | Primesense Ltd. | Depth-based gain control |
US20110164032A1 (en) * | 2010-01-07 | 2011-07-07 | Prime Sense Ltd. | Three-Dimensional User Interface |
US20110187878A1 (en) * | 2010-02-02 | 2011-08-04 | Primesense Ltd. | Synchronization of projected illumination with rolling shutter of image sensor |
US8982182B2 (en) * | 2010-03-01 | 2015-03-17 | Apple Inc. | Non-uniform spatial resource allocation for depth mapping |
US8787663B2 (en) * | 2010-03-01 | 2014-07-22 | Primesense Ltd. | Tracking body parts by combined color image and depth processing |
US8558923B2 (en) * | 2010-05-03 | 2013-10-15 | Canon Kabushiki Kaisha | Image capturing apparatus and method for selective real time focus/parameter adjustment |
WO2012011044A1 (en) | 2010-07-20 | 2012-01-26 | Primesense Ltd. | Interactive reality augmentation for natural interaction |
US9201501B2 (en) | 2010-07-20 | 2015-12-01 | Apple Inc. | Adaptive projector |
US9098931B2 (en) | 2010-08-11 | 2015-08-04 | Apple Inc. | Scanning projectors and image capture modules for 3D mapping |
US8780251B2 (en) | 2010-09-20 | 2014-07-15 | Canon Kabushiki Kaisha | Image capture with focus adjustment |
US8959013B2 (en) | 2010-09-27 | 2015-02-17 | Apple Inc. | Virtual keyboard for a non-tactile three dimensional user interface |
US9066087B2 (en) | 2010-11-19 | 2015-06-23 | Apple Inc. | Depth mapping using time-coded illumination |
US9167138B2 (en) | 2010-12-06 | 2015-10-20 | Apple Inc. | Pattern projection and imaging using lens arrays |
US8872762B2 (en) | 2010-12-08 | 2014-10-28 | Primesense Ltd. | Three dimensional user interface cursor control |
US9285874B2 (en) | 2011-02-09 | 2016-03-15 | Apple Inc. | Gaze detection in a 3D mapping environment |
US9030528B2 (en) | 2011-04-04 | 2015-05-12 | Apple Inc. | Multi-zone imaging sensor and lens array |
US9377865B2 (en) | 2011-07-05 | 2016-06-28 | Apple Inc. | Zoom-based gesture user interface |
US9459758B2 (en) | 2011-07-05 | 2016-10-04 | Apple Inc. | Gesture-based interface with enhanced features |
US8881051B2 (en) | 2011-07-05 | 2014-11-04 | Primesense Ltd | Zoom-based gesture user interface |
US9030498B2 (en) | 2011-08-15 | 2015-05-12 | Apple Inc. | Combining explicit select gestures and timeclick in a non-tactile three dimensional user interface |
US9122311B2 (en) | 2011-08-24 | 2015-09-01 | Apple Inc. | Visual feedback for tactile and non-tactile user interfaces |
US9218063B2 (en) | 2011-08-24 | 2015-12-22 | Apple Inc. | Sessionless pointing user interface |
AU2013219966B2 (en) | 2012-02-15 | 2015-04-02 | Apple Inc. | Scanning depth engine |
US9229534B2 (en) | 2012-02-28 | 2016-01-05 | Apple Inc. | Asymmetric mapping for tactile and non-tactile user interfaces |
AU2013239179B2 (en) | 2012-03-26 | 2015-08-20 | Apple Inc. | Enhanced virtual touchpad and touchscreen |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5657402A (en) | 1991-11-01 | 1997-08-12 | Massachusetts Institute Of Technology | Method of creating a high resolution still image using a plurality of images and apparatus for practice of the method |
SE512350C2 (sv) | 1996-01-09 | 2000-03-06 | Kjell Olsson | Ökat skärpedjup i fotografisk bild |
JPH10333054A (ja) * | 1997-05-30 | 1998-12-18 | Yokogawa Electric Corp | 共焦点顕微鏡 |
US6130967A (en) * | 1997-07-03 | 2000-10-10 | Tri Path Imaging, Inc. | Method and apparatus for a reduced instruction set architecture for multidimensional image processing |
-
2001
- 2001-08-16 US US09/932,691 patent/US6741251B2/en not_active Expired - Fee Related
-
2002
- 2002-08-16 WO PCT/US2002/026298 patent/WO2003017199A2/en not_active Application Discontinuation
- 2002-08-16 EP EP02761421A patent/EP1417644A2/en not_active Withdrawn
- 2002-08-16 JP JP2003522032A patent/JP2005526302A/ja not_active Withdrawn
Also Published As
Publication number | Publication date |
---|---|
WO2003017199A2 (en) | 2003-02-27 |
US6741251B2 (en) | 2004-05-25 |
WO2003017199A3 (en) | 2003-11-20 |
US20030034977A1 (en) | 2003-02-20 |
EP1417644A2 (en) | 2004-05-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2005526302A (ja) | シーンの焦点を変える方法および装置 | |
US11076142B2 (en) | Real-time aliasing rendering method for 3D VR video and virtual three-dimensional scene | |
CN102075694B (zh) | 用于视频制作、后期制作和显示适应的立体编辑 | |
US7643025B2 (en) | Method and apparatus for applying stereoscopic imagery to three-dimensionally defined substrates | |
US20120182403A1 (en) | Stereoscopic imaging | |
RU2453922C2 (ru) | Способ представления исходной трехмерной сцены по результатам съемки изображений в двумерной проекции (варианты) | |
WO2013082832A1 (zh) | 一种图像处理的方法及其装置 | |
Ainsworth et al. | Acquisition of stereo panoramas for display in VR environments | |
KR101725024B1 (ko) | 룩업테이블 기반의 실시간 360도 vr 동영상 제작 시스템 및 이를 이용한 360도 vr 동영상 제작 방법 | |
KR101704362B1 (ko) | 룩업테이블 기반의 실시간 파노라마 영상 제작 시스템 및 이를 이용한 실시간 파노라마 영상 제작 방법 | |
AU2004306226A1 (en) | Stereoscopic imaging | |
JP2006211386A (ja) | 立体画像処理装置、立体画像表示装置、及び立体画像生成方法 | |
JPH1153508A (ja) | 画像データを処理するための電子グラフィックシステム、および画像データを処理する方法 | |
JP7387029B2 (ja) | ソフトレイヤ化および深度認識インペインティングを用いた単画像3d写真技術 | |
JP2008090750A (ja) | 三次元画像の作成方法および装置 | |
CN113935891B (zh) | 像素风格的场景渲染方法、设备及存储介质 | |
Yan et al. | Stereoscopic image generation from light field with disparity scaling and super-resolution | |
JP6770442B2 (ja) | 画像処理装置及びそのプログラム | |
KR102649281B1 (ko) | 3d/2d 변환이 가능한 집적영상 생성 및 재생 장치와 그 방법 | |
JP2005107463A (ja) | インテグラルフォトグラフィ | |
US20240112394A1 (en) | AI Methods for Transforming a Text Prompt into an Immersive Volumetric Photo or Video | |
JP4696669B2 (ja) | 画像調整方法及び画像調整装置 | |
JP3648099B2 (ja) | 画像合成表示方法および装置ならびに画像合成表示プログラムを記録した記録媒体 | |
Mandl et al. | Neural Bokeh: Learning Lens Blur for Computational Videography and Out-of-Focus Mixed Reality | |
Peteva | Methodological Creation of HDRI from 360-Degree Camera-Case Study |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050815 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050815 |
|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20061226 |