JP4327856B2 - 小型システム用のパノラマメーカーエンジン - Google Patents

小型システム用のパノラマメーカーエンジン Download PDF

Info

Publication number
JP4327856B2
JP4327856B2 JP2006536544A JP2006536544A JP4327856B2 JP 4327856 B2 JP4327856 B2 JP 4327856B2 JP 2006536544 A JP2006536544 A JP 2006536544A JP 2006536544 A JP2006536544 A JP 2006536544A JP 4327856 B2 JP4327856 B2 JP 4327856B2
Authority
JP
Japan
Prior art keywords
image
panoramic
color difference
color
level
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2006536544A
Other languages
English (en)
Other versions
JP2007509567A (ja
Inventor
イークィン ジン
ユーシャン フアン
ドンフイ ウー
リンシアン ゾウ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
ArcSoft Inc
Original Assignee
ArcSoft Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ArcSoft Inc filed Critical ArcSoft Inc
Publication of JP2007509567A publication Critical patent/JP2007509567A/ja
Application granted granted Critical
Publication of JP4327856B2 publication Critical patent/JP4327856B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/147Details of sensors, e.g. sensor lenses
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/387Composing, repositioning or otherwise geometrically modifying originals
    • H04N1/3876Recombination of partial images to recreate the original image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/16Image acquisition using multiple overlapping images; Image stitching

Landscapes

  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Vascular Medicine (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)
  • Control Of Eletrric Generators (AREA)
  • Protection Of Generators And Motors (AREA)

Description

本発明は、小型システムでパノラマ画像を作るためのソフトウェアに関する。
デジタル写真術は、今日、デジタルカメラとスキャナーが広く利用されるようになるにつれ、益々普及している。デジタル画像は、デジタルカメラを使って場面を捕捉するか、又はスキャナーを使って在来のフィルムベースの写真をデジタル化することによって作られる。在来のフィルムベースの写真術を超えるデジタル写真術の1つの具体的な利点は、デジタル画像は、より良く表示するために容易に操作又は編集できることである。
写真家がカメラを使って場面を捕捉するとき、所望の視野が、カメラの通常の視野より大きいこともある。デジタル写真術を使えば、パノラマカメラ又は魚眼レンズのような特殊な装備を購入する必要無しに、パノラマ画像を生成することができる。例えば、写真家は、デジタルカメラを使って、カメラを回転させ、順次異なる方向で写真を撮ることによって、一連の場面のデジタル写真を捕捉する。次に、捕捉した各画像を円筒上に投影し、一体に縫合して、場面のパノラマ写真を作成する。同様に、フィルムベースの写真をデジタル化して、デジタル化された画像を投影し、一体に縫合することによって、パノラマ写真を構成することもできる。現在、多数のデジタル画像を一体に縫合してパノラマ写真を形成するためのデジタル画像プログラムを入手することができる。代表的なプログラムとしては、Ulead Cool360TM、Live Picture、PhotoVistaTM、及びMGIphotoSuiteIIITMがある。
典型的なデジタル画像プログラムは、一連の写真をバッファに入れ、操作してパノラマ写真に縫合することができるだけのプロセッサー能力とメモリを有するパーソナルコンピューターによって実行される。通常、出来上がったパノラマ写真は、JPEG画像として保存される。JPEG画像は、走査線毎に水平に保存され、一連の写真全体の幅に拡がることになる。この様に、パーソナルコンピューターは、一連の写真全体をバッファに入れ、それらをどのように縫合するかを決め、出来上がったパノラマ写真を走査線毎に水平に書き込まなければならない。
ビルトインカメラ付きの携帯電話及び携帯式コンピューター(例えばパーム装置)が益々普及するにつれて、これらの装置は、プロセッサーが低速でメモリが限られているにもかかわらず、パノラマ写真を作成するように期待されている。同様に、デジタルカメラは、パノラマ機能を実行するように期待されている。この様に、限られたリソースを効率的に利用する携帯装置用のパノラマソフトウェアが必要とされている。
米国特許出願第09/665,917号
本発明の或る実施形態では、パノラマ画像を生成するための方法は、第1画像を受け取る段階と、第1画像を第1部分と第2部分に分割する段階と、第1画像の第1部分を回転させる段階と、第1画像の回転した第1部分を不揮発性メモリに保存する段階と、第2画像を受け取る段階と、第2画像を第3部分と第4部分に分割する段階と、第1画像の第2部分と第2画像の第3部分の間の重複領域を突き合わせる段階と、第1画像の第2部分と第2画像の第3部分を縫合して第1縫合画像を形成する段階と、第1縫合画像を回転させる段階と、第1縫合画像を不揮発性メモリに保存する段階と、を含んでいる。
異なる図面で同じ参照番号を使用しているのは、同様又は同一の要素であることを示している。
パノラマ画像を作成する方法
図1は、本発明の或る実施形態において、パノラマ写真を作るための方法10のフローチャートである。方法10は、カメラ電話、携帯式装置又はデジタルカメラのような携帯装置のハードウェアによって実行されるソフトウェアで実施することができる。
ステップ12で、装置は、パノラマ画像を形成する一連の画像(例えば図2のパノラマ画像8)の中の1つの画像(例えば図2の画像1)を受け取るか、又は捕捉する。
ステップ14で、装置は、現在の画像(例えば画像1)を円筒上に投影して、曲面画像を生成する。曲面画像は、ユーザーを、一連の画像が円筒の壁の上に投影された円筒の中心に配置することによって、ユーザーに写実的なパノラマ風景を呈示する。
ステップ16で、装置は、現在の画像(例えば画像1)を左部分(例えば図2の左部分1A)と右部分(例えば図2の右部分1B)に分割する。装置は、次に、現在の画像の左部分(例えば画像1の左部分1A)を第1方向(例えば時計回り)に直角に回転させ、回転した左部分をパノラマ画像(例えばパノラマ画像8)の最初の部分として不揮発性メモリに保存する。或る実施形態では、パノラマ画像はJPEGフォーマットで保存されるので、回転した左部分は走査線毎に水平方向に処理され、保存される。現在の右部分(例えば図1の右部分1B)は、現在の画像と次の画像の間の重複を判定するのに用いられるので、まだ回転させない。
ステップ18で、装置は、パノラマ画像(例えばパノラマ画像8)を構成する一連の画像の中の次の画像(例えば図2の画像2)を受け取るか、又は捕捉する。或る実施形態では、場面のどの部分がパノラマ画像を形成するために次の画像(例えば画像2)に含まれているのかをユーザーが知ることができるように、装置のビューファインダーが、前の画像の右部分(例えば画像1の右部分1B)を表示する。
ステップ20で、装置は、現在の画像(例えば画像2)を円筒に投影して、別の曲面画像を生成する。
ステップ22で、装置は、現在の画像(例えば画像2)を左部分(例えば図2の左部分2A)と右部分(例えば図2の右部分2B)に分割する。装置は、次に、前の画像の右部分(例えば画像1の右部分1B)を現在の画像の左部分(例えば画像2の左部分2A)と突き合わせて、前の画像と現在の画像の間の重複を判定する。或る実施形態では、装置は、前の画像の右部分(例えば画像1の右部分1B)と突き合わせるために、現在の画像の左部分の副部分(例えば図2の画像2の副部分2A−1)の検索だけを行う。整合が確認されると、装置は、前の画像の右部分と現在の画像の左部分を整列させ、一体に縫合して縫合画像(例えば図2の縫合画像4)を形成する。
ステップ24で、装置は、前の画像の右部分(例えば画像1の右部分1B)からの色と現在の画像の左部分(例えば画像2の左部分2A)からの色を混合して、前の画像から現在の画像への移行を滑らかにする。
ステップ26で、装置は、縫合画像を第1方向に直角に回転させ、回転した縫合画像をパノラマ画像(例えばパノラマ画像8)の一部分として不揮発性メモリに保存する。先に述べたように、或る実施形態では、パノラマ画像は、回転した縫合画像が走査線毎に水平方向に処理され、保存されるように、JPEGフォーマットで保存される。現在の画像の右部分(例えば画像2の右部分2B)は、現在の画像(例えば画像2)と次の画像(例えば図2の画像3)の間の重複領域を判定するのに用いられるので、まだ回転させない。
ステップ28で、装置は、パノラマ画像を構成する一連の画像の中に別の画像が在るか否かを判定する。在る場合、ステップ28の後にステップ18が続き、一連の画像の中の全ての画像がパノラマ画像を形成するために処理されるまで、方法10が繰り返される。一連の画像の中に別の画像が無くなると、方法10はステップ30に続く。
ステップ30で、装置は、パノラマ画像(例えばパノラマ画像8)を第2方向(反時計回り)に直角に回転させ、パノラマ画像をユーザーが見るのに正しい方向に向ける。装置は、最終画像を長方形にするため、パノラマ画像の曲率を取り除くこともできる。次に装置は、最終パノラマ画像を不揮発性メモリ内に保存する。
画像を円筒上に投影する段階
先にステップ14と20で述べたように(図2)、装置は、パノラマ画像を構成する画像を、図3の画像I1及びI2で例示するように円筒上に投影する。これは、ユーザーが、円筒の壁の上に投影された一連の画像を実際に見たとき、あたかもその場面の中心に立って周囲を見渡しているような写実的なパノラマの景色を作り出す。
画像を円筒上に投影するために、幾つか仮定を設けている。第一に、カメラの焦点距離は、一定で既知であると仮定している。例えば、カメラの焦点距離は、装置の製造元で設定することができる。第二に、カメラは、一連の画像を撮影する間、回転以外の動作は行わないと仮定している。第三に、回転軸は、画像のy軸に平行であると仮定している。図3に示す投影モデルを単純化するために、カメラの焦点距離はf、円筒の半径はf、回転軸から画像面までの距離もfと仮定している。
図4に示すように、平面Iは画像面であり、円筒Cyは画像を投影する円筒である。起点OIは画像面Iの中心に位置しており、起点Oは円筒Cyの中心に位置している。点CIは画像面Iのx軸上に在り、点Cは線OCIと円筒Cyの交点に位置している。三角法から、以下の相関関係が導かれる。
Figure 0004327856
点BIは、画像面I上の任意の点である。点CIは、点BIの、画像面Iのx軸上への投影である。線B’Cは線BIIの、円筒Cy上への投影であり、点Bは点BIの、円筒Cy上への投影である。ここでΔOBCは、ΔOBIIと相似である。三角法から、以下の相関関係が導かれる。
Figure 0004327856
点BIの画像座標が(x、y)で、Bの円筒座標が(x’、y’)とすれば、式2は以下のように書き直すことができる。
Figure 0004327856

Figure 0004327856
この様に、式3及び4は、パノラマ画像を構成する画像を円筒Cy上に投影するのに用いられる。式3及び4から、x’又はxが固定されていれば、yとy’の関係は線形であり、x’の式はyとは無関係である。従って、x’とy’の計算は、投影演算の複雑さを低減するために分離されている。
例えば、画像面で値xを有する1つの垂直線は、円筒上で値x’を有する1つの投影された垂直線に対応する。従って値x’を求めるには、画像面で値x’を有する1つの垂直線を一度投影するだけでよい。x’は一定なので、円筒上の各垂直線のy’値は、式4で
Figure 0004327856
が定数であることから、yの関数として簡単に計算することができる。
Figure 0004327856

Figure 0004327856
の値は、投影演算を加速するため、リアルタイムで計算するのではなくルックアップテーブルに記憶することができる。
現在の画像と前の画像を突き合わせる段階
先にステップ22(図1)で述べたように、装置は、現在の画像と前の画像を整列させ縫合してパノラマ画像を形成するために、現在の画像と前の画像を突き合わせなければならない。これは、一方の画像を他方の画像の上に載せ、2つの画像がどれほど密に一致しているかを判定することによって行われる。先に説明したように、突き合わせて検索する重複領域は、突き合わせ処理を加速し、演算コストを低減するために、画像1の左部分1B(図2)と画像2の副部分2A−1(図2)のような画像エリア全体の一部分に限定することができる。或る実施形態では、装置は、2つの画像の間の共通の特徴を検索し、これらの共通の特徴を使用して、画像を整列させる。突き合わせに使用される代表的な特徴には、点、線、及び領域の位相幾何学がある。或る実施形態では、装置は、従来式のRANSAC(ランダムサンプルコンセンサス)アルゴリズムを使用し、2つの画像の間で共通の特徴を突き合わせる。
突き合わせ処理を更に加速し、演算コストを低減するために、本発明の或る実施形態では、装置は、解像ピラミッドを利用する。解像ピラミッドの使用については、2001年9月20日出願の一般所有の米国特許出願第09/665,917号「形状的な制約を伴う解像ピラミッドを使った画像の突き合わせ」に記載されており、その全体を参考文献としてここに援用する。解像ピラミッドの使用について、図5を参照して簡単に述べる。
解像ピラミッド50は、突き合わせる各画像毎に構築することができる。解像ピラミッド50は、レベルLoの元々の解像度からレベルLtの最も粗い解像度まで、異なる解像度でnレベルの画像を含んでいる。或る実施形態では、上方のレベルは、それぞれ下方のレベルから、2画素当たり1画素をサンプル採取して導き出される。
一番上のレベルでは、画像は、2つの画像を比較的容易に突き合わせることができるほどに小さい。例えば、装置は、2つの画像又は2つの画像の幾つかの部分の特徴を一番上のレベルで検出し、突き合わせて、カメラの動きを判定する。装置は、次に、カメラの動きを使って、検索を次に低いレベルで案内する。例えば、装置は、先ず、前の画像(又は前の画像の一部分)の特徴を次に低いレベルで検出する。現在の画像(又は現在の画像の一部分)で共通の特徴を探して徹底的な検索を実施する代わりに、装置は、カメラの動きが、共通の特徴が在るに違いないと示唆している現在の画像の領域(即ち現在の画像の一部分)を検索する。共通の特徴を検索して突き合わせた後、装置は、2つの画像を更に突き合わせるのに再度使用できる精緻なカメラの動きを判定する。
重複領域を混合する段階
先にステップ24(図1)で述べたように、2つの縫合画像の間の重複領域は、両画像間の移行が滑らかになるように混合される。実際には、捕捉されている場面は、装置が2つの画像を受け取るか、又は捕捉する時間の間に変わることも多い。これによって、2つの画像の間で重複領域の内容が完全には一致しなくなる。例えば、場面の中で人が歩いていれば、この人の位置は、混合する2つの画像内で異なる。従来式の混合方法では、人の色値が画像に混合されるので、結局、ぼけたパノラマ画像になる。
図6は、本発明の或る実施形態において、装置が如何にしてぼけを防いでいるかを示している。装置は、前の画像の右部分81Bと現在の画像の左部分82A−1の間の重複領域84を突き合わせる。ぼけを防ぐために、装置は、先ず、前の画像と現在の画像の間の重複領域84の色差マップを求める。装置は、次に、重複領域84内の色差が最小となる経路86を求める。或る実施形態では、画素の重み付け色差は以下のように計算され、
ij=dij+di-2、j-1+di-l、j-1+di、j-1+di+l、j-1+di+2、j-1 (5)
ここに、Dijは画素(i、j)の重み付け色差、dij+は色差マップからの画素(i、j)の色差、di-2、j-1、di-l、j-1、di、j-1、di+l、j-1、及びdi+2、j-1は、色差マップからの画素(i、j)の低い方の5つの近傍の色差である。最小の色差経路86は、重複領域84を通る全ての可能な経路の中で、経路を構成する全画素の色差合計が最小となる経路である。
装置は、最小の色差経路86の左側を前の画像で占有させ、最小の色差経路86の右側を現在の画像で占有させることによって、前の画像と現在の画像を縫合する。経路86の両側の走査線の色が同様であれば、装置は、経路86を中心にした混合幅Wに沿う2つの画像の色値を混合する。経路86の両側の走査線の色は、その走査線内の経路86上の画素の色差が閾値未満の場合は、同様である。経路86の両側の走査線の色が余りにも違っている場合、装置は、その2つの画像の色値を混合しない。従って、装置は、場面の中の起こり得る変化を検出することによってぼけを防ぎ、2つの画像の混合を停止する。
図7は、本発明の或る実施形態において、装置が、走査線上の2つの画像の色をどの様に混合するかを示している。図7に示す例では、或る特定の走査線で、前(例えば左側)の画像の経路86上の色値は、現在(例えば右側)の画像の経路86の上よりも大きい。その場合、色値は、混合幅Wの半分(即ちW/2)に沿って前の画像から減じられ、混合幅W/2に沿って現在の画像に加えられ、経路86に沿う2つの画像の間で円滑な移行が図られる。逆に、特定の走査線で、前の画像の経路86上の色値が現在の画像の経路86上の色値よりも小さい場合、色値は、混合幅W/2に沿って前の画像に加えられ、混合幅W/2に沿って現在の画像から減じられる。
先ず、装置は、混合幅Wに沿って前の画像及び現在の画像の色値に加えられるか、又はそれから減じられる色値を求める。加えられるか、又は減じられる色値は、曲線102と、経路86上の画素の色差dijの積である。具体的には、装置は以下の式を使用し、
Figure 0004327856
ここに、C(x)は、経路86上の画素(i、j)からxだけ離れた位置にある画素に加えられるか、又はそれから減じる色値であり、dijは、画素(i、j)の色差であり、
Figure 0004327856
は曲線102を表し、Wは混合幅である。
或る実施形態では、混合操作を加速するために、装置は、混合幅Wを、部分81B及び82A−1(図6)の幅Wmaxより小さい2nの最大整数と定義している。混合幅Wをそのように定義することによって、装置は、2つの画像の色を混合するのに、積分除算ではなく式6の桁送り演算を使用することができる。
開示している実施形態の特徴の、様々な他の適用法及び組み合わせは、本発明の範囲に含まれる。数多くの実施形態が、特許請求項の範囲に包含されている。
本発明の或る実施形態における、パノラマ画像を作るための方法のフローチャートである。 本発明の或る実施形態における、図1の方法を使用したパノラマ画像の作成を示している。 本発明の或る実施形態における、パノラマ画像を作成するための、円筒上への画像の投影を示している。 本発明の或る実施形態における、パノラマ画像を作成するための、円筒上への画像の投影を示している。 本発明の或る実施形態における、2つの画像を突き合せるために用いられる解像ピラミッドを示している。 本発明の或る実施形態における、2つの画像の間の重複領域内の最小色差経路を示している。 本発明の或る実施形態における、パノラマ画像内の2つの画像の間の移行を平滑化する混合操作を示している。

Claims (15)

  1. パノラマ画像を生成するための方法において、
    第1の方向に第1画像を受け取る段階と、
    前記第1画像を第1部分と第2部分に分割する段階と、
    前記第1画像の前記第1部分を第2の方向に回転させる段階と、
    前記第1画像の回転した前記第1部分を不揮発性メモリにラスター順にパノラマ画像の一部として保存し、各走査線が小さな寸法のパノラマ画像に及ぶ段階と、
    前記第1の方向に第2画像を受け取る段階と、
    前記第2画像を第3部分と第4部分に分割する段階と、
    前記第1画像の前記第2部分と前記第2画像の前記第3部分の間の重複領域を突き合わせる段階と、
    前記第1画像の前記第2部分と前記第2画像の前記第3部分を縫合して第1縫合画像を形成する段階と、
    前記第1縫合画像を前記第2の方向に回転させる段階と、
    回転させた前記第1縫合画像を前記不揮発性メモリにラスター順にパノラマ画像の一部として保存し、各走査線が小さな寸法のパノラマ画像に及ぶ段階と、
    前記パノラマ画像を前記第1の方向に逆に回転させ、前記パノラマ画像を前記不揮発性メモリにラスター順に保存し、各走査線が大きな前記パノラマ画像に及ぶ段階とから成ることを特徴とする方法。
  2. 前記第1画像を受け取る段階の後で、且つ前記第1画像を分割する段階の前に、前記第1画像を円筒上に投影し、前記第1画像を湾曲させる段階と、
    前記第2画像を受け取る段階の後で、且つ前記第2画像を分割する段階の前に、前記第2画像を前記円筒上に投影し、前記第2画像を湾曲させる段階と、を更に含んでいることを特徴とする、請求項1に記載の方法。
  3. 前記第1画像を円筒上に投影する段階と、前記第2画像を前記円筒上に投影する段階は、前記円筒上の点の座標を以下のように計算する段階を含んでおり、
    Figure 0004327856
    及び
    Figure 0004327856
    ここに、x’とy’は前記円筒上の各点の座標であり、xとyは前記第1画像と前記第2画像上の各点の座標であり、fはカメラの焦点距離であることを特徴とする、請求項2に記載の方法。
  4. 前記第1画像の前記第2部分と前記第2画像の前記第3部分を突き合わせる段階は、前記第1画像の前記第2部分と前記第2画像の前記第3部分の副部分との間の共通の特徴を突き合わせる段階を含んでいることを特徴とする、請求項1に記載の方法。
  5. 前記第1画像の前記第2部分と前記第2画像の前記第3部分の副部分との間の共通の特徴を突き合わせる前記段階は、
    第1レベルの前記第1画像の前記第2部分を第1解像度で生成する段階と、
    第2レベルの前記第2画像の前記第3部分を前記第1解像度で生成する段階と、
    前記第1レベルの前記第1画像上の少なくとも第1特徴を選択する段階と、
    前記第1特徴を求めて、前記第2レベルの前記第2画像を検索する段階と、
    前記第1画像の第1層と前記第2画像の第2層との間で前記第1特徴を突き合わせて、前記第1画像と前記第2画像の間の第1相対運動を求める段階と、を含んでいることを特徴とする、請求項4に記載の方法。
  6. 前記第1画像の前記第2部分と前記第2画像の前記第3部分の一部分との間の共通の特徴を突き合わせる前記段階は、
    前記第1画像と前記第2画像の間の前記第1相対運動に基づいて、前記第1画像の前記第2部分と前記第2画像の前記第3部分の画素同士を突き合わせる段階を更に含んでいることを特徴とする、請求項5に記載の方法。
  7. 前記第1画像の前記第2部分と前記第2画像の前記第3部分の一部分との間の共通の特徴を突き合わせる前記段階は、
    第3レベルの前記第1画像の前記第2部分を、前記第1解像度を上回る第2解像度で生成する段階と、
    第4レベルの前記第2画像の前記第3部分を、前記第2解像度で生成する段階と、
    第3レベルの前記第1画像上の前記少なくとも1つの第2特徴を選択する段階と、
    前記第2特徴を求めて、前記第4レベルの前記第2画像上の或る区域を検索する段階であって、前記区域は、前記第1画像と前記第2画像の間の相対運動に基づいて選択される、検索する段階と、
    前記第3レベルと前記第4レベルの間で前記第2特徴を突き合わせて、前記第1画像と前記第2画像の間の第2相対運動を求める段階と、
    前記第1画像と前記第2画像の間の前記第2相対運動に基づいて、前記第1画像の前記第2部分と前記第2画像の前記第3部分の画素同士を突き合わせる段階と、を更に含んでいることを特徴とする、請求項5に記載の方法。
  8. 前記第1画像の前記第2部分と前記第2画像の前記第3部分を縫合する前記段階は、
    前記重複領域内で色差が最小である経路を求める段階と、
    色差が最小である前記経路の第1側を、前記第1画像からの色値で占有させる段階と、
    色差が最小である前記経路の第2側を、前記第2画像からの色値で占有させる段階と、を含んでいることを特徴とする、請求項1に記載の方法。
  9. 走査線の前記第1側と前記第2側の間の色差が閾値未満の場合は、前記重複領域を混合する段階であって、前記段階は、
    色差が最小である前記経路の混合幅に沿って前記第1画像と前記第2画像の色値を混合する段階を含んでいる、前記重複領域を混合する段階を更に含んでいることを特徴とする、請求項8に記載の方法。
  10. 前記第1画像と前記第2画像の色値を混合する前記段階は、以下の式で定義される値C(x)を使って、前記混合幅に沿って前記第1画像と前記第2画像の色値を調整する段階を含んでおり、
    Figure 0004327856
    ここに、C(x)は、色差が最小である前記経路上の画素(i、j)からxだけ離れて位置している画素に加えられるか、又はそれから減じられる色値であり、dijは、画素(i、j)の色差であり、Wは混合幅であることを特徴とする、請求項9に記載の方法。
  11. 前記値C(x)は、(1)前記第1画像の色値に加えられ、前記第2画像からは減じられるか、又は(2)前記第1画像の色値から減じられ、前記第2画像には加えられることを特徴とする、請求項10に記載の方法。
  12. 前記幅は、前記第1画像の前記第2部分未満の最大整数2nであり、パラメーター値C(x)を計算する際の除算演算は、桁送り演算を含んでいることを特徴とする、請求項10に記載の方法。
  13. 前記パノラマ画像を前記第1の方向に逆に回転させる前に、
    前記第1の方向に第3画像を受け取る段階と、
    前記第3画像を第5部分と第6部分に分割する段階と、
    前記第2画像の前記第4部分と前記第3画像の前記第5部分を突き合わせる段階と、
    前記第2画像の前記第4部分と前記第3画像の前記第5部分を縫合して、第2縫合画像を形成する段階と、
    前記第2縫合画像を前記第2の方向に回転させる段階と、
    回転させた前記第2縫合画像を前記不揮発性メモリにラスター順に前記パノラマ画像の一部として保存し、各走査線が小さな寸法の前記パノラマ画像に及ぶ段階と、を更に含んでいることを特徴とする、請求項1に記載の方法。
  14. 回転させた前記第1の画像の前記第1の部分を保存する段階と、前記第1縫合画像を保存する段階と、前記パノラマ画像を保存する段階とは、前記不揮発性メモリにJPEGフォーマットで保存することを含んでいる請求項1に記載の方法。
  15. 前記重複領域内で色差が最小である経路を求める段階は、
    前記重複領域の色差マップを求める段階と、
    前記色差マップにおいて各画素に対して重み付けされた色差を用いることによって前記色差マップから画素の色差の合計が最小となる経路を求める段階とを備え、各画素に対する前記重み付けされた色差は、前記画素と前記色差マップからのその低い方の5つの近傍画素との画素値の合計として定義される請求項8に記載の方法。
JP2006536544A 2003-10-22 2004-05-28 小型システム用のパノラマメーカーエンジン Expired - Lifetime JP4327856B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US10/692,446 US7409105B2 (en) 2003-10-22 2003-10-22 Panoramic maker engine for a low profile system
PCT/US2004/017198 WO2005045759A1 (en) 2003-10-22 2004-05-28 Panoramic maker engine for a low profile system

Publications (2)

Publication Number Publication Date
JP2007509567A JP2007509567A (ja) 2007-04-12
JP4327856B2 true JP4327856B2 (ja) 2009-09-09

Family

ID=34522128

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006536544A Expired - Lifetime JP4327856B2 (ja) 2003-10-22 2004-05-28 小型システム用のパノラマメーカーエンジン

Country Status (6)

Country Link
US (1) US7409105B2 (ja)
EP (1) EP1676236B1 (ja)
JP (1) JP4327856B2 (ja)
AT (1) ATE505771T1 (ja)
DE (1) DE602004032249D1 (ja)
WO (1) WO2005045759A1 (ja)

Families Citing this family (47)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7400782B2 (en) * 2002-08-28 2008-07-15 Arcsoft, Inc. Image warping correction in forming 360 degree panoramic images
US7839429B2 (en) * 2005-05-26 2010-11-23 Hewlett-Packard Development Company, L.P. In-camera panorama stitching method and apparatus
KR100796849B1 (ko) * 2006-09-04 2008-01-22 삼성전자주식회사 휴대 단말기용 파노라마 모자이크 사진 촬영 방법
US8331725B2 (en) * 2007-01-12 2012-12-11 Qualcomm Incorporated Panoramic imaging techniques
US8275215B2 (en) * 2007-05-08 2012-09-25 Arcsoft (Shanghai) Technology Company, Ltd Merging images
KR101312895B1 (ko) * 2007-08-27 2013-09-30 재단법인서울대학교산학협력재단 파노라마 사진 촬영 방법
JP5144237B2 (ja) * 2007-12-05 2013-02-13 キヤノン株式会社 画像処理装置、その制御方法、プログラム
KR101473215B1 (ko) * 2008-04-18 2014-12-17 삼성전자주식회사 파노라마 이미지 생성장치 및 그 방법
US9307165B2 (en) * 2008-08-08 2016-04-05 Qualcomm Technologies, Inc. In-camera panorama image stitching assistance
US8554014B2 (en) * 2008-08-28 2013-10-08 Csr Technology Inc. Robust fast panorama stitching in mobile phones or cameras
US20110025830A1 (en) 2009-07-31 2011-02-03 3Dmedia Corporation Methods, systems, and computer-readable storage media for generating stereoscopic content via depth map creation
US9380292B2 (en) 2009-07-31 2016-06-28 3Dmedia Corporation Methods, systems, and computer-readable storage media for generating three-dimensional (3D) images of a scene
US8508580B2 (en) 2009-07-31 2013-08-13 3Dmedia Corporation Methods, systems, and computer-readable storage media for creating three-dimensional (3D) images of a scene
US8947502B2 (en) 2011-04-06 2015-02-03 Qualcomm Technologies, Inc. In camera implementation of selecting and stitching frames for panoramic imagery
US10080006B2 (en) * 2009-12-11 2018-09-18 Fotonation Limited Stereoscopic (3D) panorama creation on handheld device
US8294748B2 (en) * 2009-12-11 2012-10-23 DigitalOptics Corporation Europe Limited Panorama imaging using a blending map
US20110141229A1 (en) * 2009-12-11 2011-06-16 Fotonation Ireland Limited Panorama imaging using super-resolution
US20110141226A1 (en) * 2009-12-11 2011-06-16 Fotonation Ireland Limited Panorama imaging based on a lo-res map
US20110141224A1 (en) * 2009-12-11 2011-06-16 Fotonation Ireland Limited Panorama Imaging Using Lo-Res Images
US20110141225A1 (en) * 2009-12-11 2011-06-16 Fotonation Ireland Limited Panorama Imaging Based on Low-Res Images
US8983230B2 (en) * 2010-07-26 2015-03-17 Siemens Corporation Global error minimization in image mosaicking using graph laplacians and its applications in microscopy
WO2012037139A2 (en) 2010-09-13 2012-03-22 Contour, Inc. Portable digital video camera configured for remote image acquisition control and viewing
WO2012061549A2 (en) 2010-11-03 2012-05-10 3Dmedia Corporation Methods, systems, and computer program products for creating three-dimensional video sequences
US8810626B2 (en) * 2010-12-20 2014-08-19 Nokia Corporation Method, apparatus and computer program product for generating panorama images
US10200671B2 (en) 2010-12-27 2019-02-05 3Dmedia Corporation Primary and auxiliary image capture devices for image processing and related methods
WO2012092246A2 (en) 2010-12-27 2012-07-05 3Dmedia Corporation Methods, systems, and computer-readable storage media for identifying a rough depth map in a scene and for determining a stereo-base distance for three-dimensional (3d) content creation
US8274552B2 (en) 2010-12-27 2012-09-25 3Dmedia Corporation Primary and auxiliary image capture devices for image processing and related methods
KR101049928B1 (ko) * 2011-02-21 2011-07-15 (주)올라웍스 파노라마 이미지를 생성하기 위한 방법, 사용자 단말 장치 및 컴퓨터 판독 가능한 기록 매체
US8600194B2 (en) 2011-05-17 2013-12-03 Apple Inc. Positional sensor-assisted image registration for panoramic photography
US9088714B2 (en) 2011-05-17 2015-07-21 Apple Inc. Intelligent image blending for panoramic photography
US9762794B2 (en) 2011-05-17 2017-09-12 Apple Inc. Positional sensor-assisted perspective correction for panoramic photography
US8957944B2 (en) 2011-05-17 2015-02-17 Apple Inc. Positional sensor-assisted motion filtering for panoramic photography
US9247133B2 (en) 2011-06-01 2016-01-26 Apple Inc. Image registration using sliding registration windows
KR101742120B1 (ko) * 2011-06-10 2017-05-31 삼성전자주식회사 영상 처리 장치 및 방법
US8818101B1 (en) * 2012-01-03 2014-08-26 Google Inc. Apparatus and method for feature matching in distorted images
US20130293671A1 (en) * 2012-05-01 2013-11-07 Tourwrist, Inc. Systems and methods for stitching and sharing panoramas
US8666159B1 (en) * 2012-06-04 2014-03-04 Google Inc. Real time feature extraction
US8902335B2 (en) 2012-06-06 2014-12-02 Apple Inc. Image blending operations
US10306140B2 (en) 2012-06-06 2019-05-28 Apple Inc. Motion adaptive image slice selection
US9098922B2 (en) 2012-06-06 2015-08-04 Apple Inc. Adaptive image blending operations
US9286656B2 (en) * 2012-12-20 2016-03-15 Chung-Ang University Industry-Academy Cooperation Foundation Homography estimation apparatus and method
US9832378B2 (en) 2013-06-06 2017-11-28 Apple Inc. Exposure mapping and dynamic thresholding for blending of multiple images using floating exposure
US9343043B2 (en) 2013-08-01 2016-05-17 Google Inc. Methods and apparatus for generating composite images
CN107613819B (zh) * 2015-03-12 2021-04-06 维他拌管理有限公司 用于搅拌系统的显示系统
JPWO2017187764A1 (ja) * 2016-04-28 2019-02-28 ソニー株式会社 情報処理端末装置並びに配信装置
KR101884565B1 (ko) * 2017-04-20 2018-08-02 주식회사 이볼케이노 2차원 이미지를 이용한 객체의 3차원 모델링 장치 및 방법
WO2024063675A1 (en) * 2022-09-21 2024-03-28 Telefonaktiebolaget Lm Ericsson (Publ) Methods and systems for generating three-dimensional representations

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4090174A (en) * 1976-11-01 1978-05-16 International Business Machines Corporation Method and apparatus for accessing horizontal sequences, vertical sequences and rectangular subarrays from an array stored in a modified word organized random access memory system
US5450604A (en) * 1992-12-18 1995-09-12 Xerox Corporation Data rotation using parallel to serial units that receive data from memory units and rotation buffer that provides rotated data to memory units
TW321748B (ja) * 1994-02-23 1997-12-01 Rca Thomson Licensing Corp
EP0779011B1 (en) * 1994-09-02 2001-11-28 Sarnoff Corporation Method and apparatus for global-to-local block motion estimation
US6549681B1 (en) * 1995-09-26 2003-04-15 Canon Kabushiki Kaisha Image synthesization method
US6078701A (en) * 1997-08-01 2000-06-20 Sarnoff Corporation Method and apparatus for performing local to global multiframe alignment to construct mosaic images
US5987164A (en) * 1997-08-01 1999-11-16 Microsoft Corporation Block adjustment method and apparatus for construction of image mosaics
US6157747A (en) * 1997-08-01 2000-12-05 Microsoft Corporation 3-dimensional image rotation method and apparatus for producing image mosaics
US6097854A (en) * 1997-08-01 2000-08-01 Microsoft Corporation Image mosaic construction system and apparatus with patch-based alignment, global block adjustment and pair-wise motion-based local warping
US6128108A (en) * 1997-09-03 2000-10-03 Mgi Software Corporation Method and system for compositing images
JPH11205648A (ja) * 1998-01-09 1999-07-30 Olympus Optical Co Ltd 画像合成装置
US6192156B1 (en) * 1998-04-03 2001-02-20 Synapix, Inc. Feature tracking using a dense feature array
US6359617B1 (en) * 1998-09-25 2002-03-19 Apple Computer, Inc. Blending arbitrary overlaying images into panoramas
JP2000125190A (ja) * 1998-10-16 2000-04-28 Olympus Optical Co Ltd カメラシステム及び記録媒体
US6330374B1 (en) * 1998-11-13 2001-12-11 Ricoh Company, Ltd. Image manipulation for a digital copier which operates on a block basis
US6646655B1 (en) * 1999-03-09 2003-11-11 Webex Communications, Inc. Extracting a time-sequence of slides from video
US7064783B2 (en) * 1999-12-31 2006-06-20 Stmicroelectronics, Inc. Still picture format for subsequent picture stitching for forming a panoramic image
US6456323B1 (en) * 1999-12-31 2002-09-24 Stmicroelectronics, Inc. Color correction estimation for panoramic digital camera
US6978051B2 (en) * 2000-03-06 2005-12-20 Sony Corporation System and method for capturing adjacent images by utilizing a panorama mode
US7027642B2 (en) * 2000-04-28 2006-04-11 Orametrix, Inc. Methods for registration of three-dimensional frames to create three-dimensional virtual models of objects
US20050128547A1 (en) 2002-04-23 2005-06-16 Markus Simon Production of a complete image by scanning partial areas of a pattern

Also Published As

Publication number Publication date
US20050089244A1 (en) 2005-04-28
DE602004032249D1 (de) 2011-05-26
ATE505771T1 (de) 2011-04-15
WO2005045759A1 (en) 2005-05-19
JP2007509567A (ja) 2007-04-12
US7409105B2 (en) 2008-08-05
EP1676236B1 (en) 2011-04-13
EP1676236A1 (en) 2006-07-05

Similar Documents

Publication Publication Date Title
JP4327856B2 (ja) 小型システム用のパノラマメーカーエンジン
US11490008B2 (en) Method for photographing panoramic image by preventing excessive perpendicular movement
JP5972969B2 (ja) パノラマ写真のための位置センサ支援型画像位置合わせ
CN110730296B (zh) 图像处理装置、图像处理方法及计算机可读介质
KR101312895B1 (ko) 파노라마 사진 촬영 방법
KR100796849B1 (ko) 휴대 단말기용 파노라마 모자이크 사진 촬영 방법
US7400782B2 (en) Image warping correction in forming 360 degree panoramic images
US8488908B2 (en) System and method for capturing adjacent images by utilizing a panorama mode
CN104680501B (zh) 图像拼接的方法及装置
US9088714B2 (en) Intelligent image blending for panoramic photography
US20080253685A1 (en) Image and video stitching and viewing method and system
KR101341265B1 (ko) 이미지 센서의 이미지 데이터 세트를 처리하는 방법과 시스템, 그 컴퓨터 프로그램 및 그 컴퓨터 프로그램이 기록된 컴퓨터로 판독 가능한 기록매체
JP7023662B2 (ja) 画像処理装置、撮像装置、画像処理装置の制御方法およびプログラム
JP2017143390A (ja) 画像処理装置およびその方法
KR20090009114A (ko) 합성 이미지 구성 방법
JP2005100407A (ja) 複数のソース画像からパノラマ画像を作成するシステム及び方法
JP2004343747A (ja) カメラ付移動通信端末機の撮影方法
CN108270959B (zh) 全景成像的方法、终端设备和全景成像装置
KR100934211B1 (ko) 휴대용 단말기의 파노라마 이미지 생성 방법
CN110278366B (zh) 一种全景图像虚化方法、终端及计算机可读存储介质
US20090059018A1 (en) Navigation assisted mosaic photography
JP2011041041A (ja) 撮像装置、撮像方法及びプログラム
CN110875998A (zh) 全景照相装置及其影像映射结合方法
CN107682621A (zh) 旋转拍照方法、装置、移动终端及计算机可读存储介质
CN116866722A (zh) 全景图像生成方法、装置、计算机设备和存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070323

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080610

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080623

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20080924

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20081001

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20081023

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20081030

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081125

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090518

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090611

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120619

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4327856

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130619

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130619

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term