JP2004334843A - 複数の画像から画像を合成する方法 - Google Patents

複数の画像から画像を合成する方法 Download PDF

Info

Publication number
JP2004334843A
JP2004334843A JP2004102035A JP2004102035A JP2004334843A JP 2004334843 A JP2004334843 A JP 2004334843A JP 2004102035 A JP2004102035 A JP 2004102035A JP 2004102035 A JP2004102035 A JP 2004102035A JP 2004334843 A JP2004334843 A JP 2004334843A
Authority
JP
Japan
Prior art keywords
image
low
area
images
resolution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2004102035A
Other languages
English (en)
Inventor
Makoto Ouchi
真 大内
Naoki Kuwata
直樹 鍬田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2004102035A priority Critical patent/JP2004334843A/ja
Priority to US10/821,650 priority patent/US20050008254A1/en
Publication of JP2004334843A publication Critical patent/JP2004334843A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformation in the plane of the image
    • G06T3/40Scaling the whole image or part thereof
    • G06T3/4038Scaling the whole image or part thereof for image mosaicing, i.e. plane images composed of plane sub-images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/387Composing, repositioning or otherwise geometrically modifying originals
    • H04N1/3876Recombination of partial images to recreate the original image

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Stereoscopic And Panoramic Photography (AREA)

Abstract


【課題】 互いに一部が重複している複数の画像を合成して広範囲な画像を得る際に、少ない計算量で目的の広範囲な画像を得る。
【解決手段】 まず、画素の密度が高く、同一の対象が記録された部分を互いに含む複数の第1の画像を準備する(S2)。次に、第1の画像をそれぞれ解像度変換して、画素の密度が低い第2の画像を生成する(S4)。そして、同一の対象が記録された部分に基づいて、第2の画像同士の相対位置を計算する(S6)。その後、各第2の画像が記録している領域の和の領域内において、画像生成領域を決定する(S8)。そして、各第2の画像のうち画像生成領域内に含まれる部分である第1の部分画像を決定する(S10)。その後、第1の画像の一部であって、それぞれ第1の部分画像に対応する第2の部分画像を決定する(S12)。最後に、第3の画像を第2の部分画像に基づいて生成する(S14)。
【選択図】 図2

Description

この発明は、互いに一部が重複している複数の画像を合成して広範囲な画像を得る技術に関し、特に、少ない処理量で広範囲な画像を得ることを目的とする。
従来より、互いに一部が重複している複数のデジタル写真を合成して広範囲なパノラマ画像を得る技術が存在する。たとえば、特許文献1においては、合成した画像の中から特定の範囲の画像を抽出して、パノラマ画像とする技術が開示されている。また、その他の関連技術として特許文献2がある。
特開平9−91407号公報
特許第3302236号公報
しかし、上記の技術においては、複数のデジタル画像の合成に要する処理量が膨大となる。このため、コンピュータのメモリを大量に消費し、また、処理に長い時間を要する。
この発明は、従来技術における上述の課題を解決するためになされたものであり、互いに一部が重複している複数の画像を合成して画像を得る際に、少ない処理量で画像を得ることを目的とする。
上述の課題の少なくとも一部を解決するため、本発明では、共通する画像を互いに含む複数の原画像からパノラマ画像を生成する際に以下のような処理を行う。すなわち、まず、原画像よりも解像度の低い低解像度画像を各原画像から生成する。そして、共有されている画像領域から特定される低解像度画像の互いの重なりの状態を特定することにより、パノラマ画像を生成することができる生成可能領域を決定する。その後、生成可能領域内において、低解像度画像の1個分の領域を超える領域を、パノラマ画像を生成する画像生成領域として決定する。そして、複数の原画像から、画像生成領域に対応する領域を有するパノラマ画像を生成する。このような態様とすれば、互いに一部が重複している複数の画像を合成して広範囲な画像を得る際に、少ない処理量で広範囲な画像を得ることができる。
また、複数の原画像から合成画像を生成する際に、以下のような態様を採用することもできる。すなわち、まず、生成すべき合成画像に含まれ、かつ複数の原画像のいずれかに含まれる複数の部分原画像を決定する。そして、合成画像を生成するための所定の処理を、原画像のうち部分原画像を含む所定の処理領域以外の部分については行わずに、処理領域について行って、複数の部分原画像に基づいて合成画像を生成する。このような態様としても、少ない処理量で新たな画像を得ることができる。
なお、処理領域は、原画像に含まれ部分画像の外周から部分画像の外側に向かって所定の距離の範囲内にある領域と、部分原画像の領域と、を含む領域とすることができる。また、処理領域は、部分原画像の領域に等しい領域とすることもできる。
また、複数の原画像が、同一の対象が記録された部分を互いに含む場合には、部分原画像を決定する際に、以下のような処理を行うこともできる。すなわち、まず、複数の原画像について解像度の変換を行って、原画像よりも解像度の低い複数の低解像度画像を生成する。そして、低解像度画像のうち同一の対象が記録された部分に基づいて、複数の低解像度画像の領域から、各低解像度画像の領域の和の領域(和集合の領域)を決定する。その後、和の領域内に、低解像度画像の1個分の領域を超える画像生成領域を決定する。そして、部分原画像として、各低解像度画像のうち画像生成領域に含まれる低解像度部分画像に対応する各原画像の部分を決定する。
このような態様においては、低解像度画像を使用して、まず新たな画像の生成に必要な部分を決定する。そして、その必要な部分の画像に基づいて新たな画像を生成している。このため、不必要な部分も含めてすべての画像について合成を行う場合に比べて、少ない処理量で新たな画像を得ることができる。
また、和の領域を決定する際には、同一の対象が記録された部分に基づいて、複数の低解像度画像同士の相対位置を計算することが好ましい。そして、画像生成領域を決定する際には、以下のような態様とすることが好ましい。すなわち、まず、相対位置にしたがって複数の低解像度画像を、和の領域として表示部に表示する。そして、画像生成領域を仮に設定する。その後、仮に設定された画像生成領域を複数の低解像度画像と重ねて表示部に表示する。そして、所定の場合には、画像生成領域を設定しなおす。その後、設定しなおされた画像生成領域を画像生成領域として決定する。このようにすれば、和の領域内における画像生成領域の範囲や広さを考慮しつつ、画像生成領域を設定することができる。
低解像度画像同士の相対位置を計算する際には、以下のような態様とすることが好ましい。まず、複数の低解像度画像同士の概略の相対位置に関するユーザの指示を受け取る。そして、ユーザによって指示された相対位置に基づいて、同一の対象が記録された部分同士のずれが所定の範囲内となるように、複数の低解像度画像同士の相対位置を計算する。このような態様とすれば、このような態様とすれば、低解像度画像同士の相対位置を決定する際の計算量を少なくすることができる。
上述の課題の少なくとも一部を解決するため、本発明では、画像を生成する際に以下のような処理を行うこともできる。すなわち、まず、生成すべき合成画像に含まれ、かつ複数の原画像のいずれかに含まれる複数の部分原画像を決定する。そして、合成画像を生成するための所定の処理を、原画像のうち部分原画像以外の部分については行わずに、複数の部分原画像について行って、複数の部分原画像に基づいて合成画像を生成する。このような態様とすれば、少ない処理量で新たな画像を得ることができる。
なお、以下のような態様とすることも好ましい。すなわち、まず、複数の原画像として、画像を構成する画素の密度が比較的高く、同一の対象が記録された部分を互いに含む複数の第1の画像を準備する。そして、第1の画像についてそれぞれ解像度の変換を行って、画像を構成する画素の密度が比較的低く、同一の対象が記録された部分を互いに含む複数の第2の画像を生成する。その後、同一の対象が記録された部分に基づいて、複数の第2の画像同士の相対位置を計算する。そして、各第2の画像の領域の和の領域内に含まれる領域であって、複数の第2の画像のうちの任意の一つの領域を越える領域である画像生成領域を決定する。その後、各第2の画像のうち画像生成領域内に含まれる画像である複数の第1の部分画像を決定する。
そして、第1の部分画像と第2の画像との関係と、複数の第1の画像と、に基づいて、複数の部分原画像としての複数の第2の部分画像を決定する。この第2の部分画像は、複数の第1の画像のいずれかに含まれ、解像度の変換を行った場合にはそれぞれ第1の部分画像の一つと等しい画像を生成することができる画像である。その後、合成画像として、画像を構成する画素の密度が比較的高く、複数の第1の画像のうちの任意の一つの領域を越える領域を有する第3の画像を、複数の第2の部分画像に基づいて生成する。
このような態様においては、まず新たな画像の生成に必要な部分を決定し、その部分の画像に基づいて新たな画像を生成している。このため、不必要な部分も含めてすべての画像について合成を行う場合に比べて、少ない処理量で新たな画像を得ることができる。
なお、合成画像を生成するための所定の処理は、たとえば、画素の階調値の計算とすることができる。そして、第3の画像を生成する際には、第3の画像に含まれない画素の階調値を計算せずに、第3の画像を構成する各画素の階調値を、複数の第2の部分画像を構成する各画素の階調値に基づいて計算することが好ましい。このような態様とすれば、第3の画像の生成に必要のない計算を行わないことで、処理量を少なくすることができる。
また、画像生成領域を決定する際には、以下のようにすることが好ましい。すなわち、複数の第2の画像を複数の第2の画像の相対位置にしたがって表示部に表示する。そして、画像生成領域を仮に設定する。その後、仮に設定された画像生成領域を複数の第2の画像と重ねて表示部に表示する。そして、所定の場合には、仮に設定された画像生成領域の設定を取り消す。また、他の場合には、仮に設定された画像生成領域を画像生成領域として決定する。このようにすれば、第2の画像の相対位置を考慮しつつ、画像生成領域を設定することができる。
なお、第2の画像同士の相対位置を計算する際には、複数の第2の画像同士の相対位置に関するユーザの指示を受け取ることが好ましい。このような態様とすれば、第2の画像同士の相対位置を決定する際の処理量を少なくすることができる。
なお、第2の画像同士の相対位置に関するユーザの指示を受け取る際には、 複数の第2の画像のうちの少なくとも二つを表示部に表示することが好ましい。そして、複数の第2の画像同士の相対位置に関する指示の少なくとも一部は、ユーザが、表示部に表示された少なくとも二つの第2の画像のうちの一つを、他の第2の画像の上に、一部が重なるように移動させることによってなされることが好ましい。このような態様とすれば、簡単な手順で、第2の画像同士の相対位置の決定に有効な指示を与えることができる。
また、第2の画像同士の相対位置に関するユーザの指示を受け取る際に、複数の第2の画像同士の相対位置に関する指示として、複数の第2の画像の所定の方向に沿った順番に関する指示を受け取る態様とすることができる。その場合には、複数の第2の画像同士の相対位置を計算する際には、その順番にしたがって、複数の第2の画像同士の相対位置を決定する。このような態様は、第1の画像が、所定の対象を撮像範囲を一方向に順にずらしつつ撮像して得た複数の画像である場合に、特に有効である。
なお、第2の画像は、画素のピッチが第1の画像の画素のピッチの30%〜80%であることが好ましい。このような態様とすれば、第2の画像同士の相対位置を計算する際の処理量を少なくすることができる。
なお、本発明は、以下に示すような種々の態様で実現することが可能である。
(1)画像生成方法、画像処理方法、画像データ生成方法。
(2)画像生成装置、画像処理装置、画像データ生成装置。
(3)上記の装置や方法を実現するためのコンピュータプログラム。
(4)上記の装置や方法を実現するためのコンピュータプログラムを記録した記録媒体。
(5)上記の装置や方法を実現するためのコンピュータプログラムを含み搬送波内に具現化されたデータ信号。
以下で、本発明の実施の形態を実施例に基づいて以下の順序で説明する。
A.第1実施例:
A−1.装置構成:
A−2.画像処理:
B.第2実施例:
C.第3実施例:
D.変形例:
A.第1実施例:
A−1.装置構成:
図1は、本発明の実施例である画像処理装置の概略構成を示す説明図である。この画像処理装置は、画像データに対して所定の画像処理を行うパーソナルコンピュータ100と、パーソナルコンピュータ100に情報を入力する装置としてのキーボード120、マウス130およびCD−R/RWドライブ140と、情報を出力する装置としてのディスプレイ110およびプリンタ22と、を備えている。コンピュータ100では、所定のオペレーティングシステムの下で、アプリケーションプログラム95が動作している。このアプリケーションプログラム95が実行されることで、コンピュータ100のCPU102は様々な機能を実現する。
画像のレタッチなどを行うアプリケーションプログラム95が実行され、キーボード120やマウス130からユーザーの指示が入力されると、CPU102は、CD−R/RWドライブ140内のCD−RWからメモリ内に画像データを読み込む。CPU102は、画像データに対して所定の画像処理を行って、ビデオドライバを介して画像をディスプレイ110に表示する。また、CPU102は、画像処理を行った画像データを、プリンタドライバを介してプリンタ22に印刷させることもできる。
A−2.画像処理:
図2は、動画データの複数のフレーム画像から静止画を表す静止画データを生成する手順を示すフローチャートである。アプリケーションプログラム95が実行され、キーボード120やマウス130からユーザーの指示が入力されると、CPU102は、まず、ステップS2で、CD−R/RWドライブ140上のCD−R/RWから複数の原画像データを取得する。ここでは、原画像データF1、F2を読み出すものとする。このように、ユーザーの指示を受け取って複数の原画像データを取得する機能は、CPU102の機能部である原画像データ取得部102a(図1参照)によって実現される。
図3は、原画像データF1、F2の画像の範囲と撮影された風景との関係を示す説明図である。原画像データは、デジタルカメラなどの撮像機器で、静止している対象、例えば風景や静物などを撮影した画像のデータである。原画像データの画像は複数の画素から構成されており、各画素は、色を表す階調値を有している。たとえば、各画素は、レッド、グリーン、ブルーの3色についてそれぞれ階調値を有している。
また、原画像データは、その撮像機器で一度に撮影できる範囲を超える範囲に存在する対象を、複数枚の画像に分けて撮影した画像のデータである。その結果、ステップS2で取得される複数の原画像データは、それぞれが表す静止画中に同一の対象を含むが、各画面(フレーム)中で撮影対象の位置がずれている。たとえば、図3の例においては、原画像データF1は、山Mt1,Mt2、空Skおよび海Saを含む風景のうち比較的左側の範囲を撮影した画像のデータであり、原画像データF2は、同じ風景のうち比較的右側の範囲を撮影した画像のデータである。そして、原画像データF1とF2とは、同一の対象である山Mt1,Mt2および空Skの一部の画像を、共通して含んでいる。破線で示した部分Scが、原画像データF1とF2の画像のうち同一の対象が記録された部分である。
図2のステップS4では、ステップS2で取得した原画像データについて解像度変換を行い、画素の密度が低い低解像度データを生成する。ここでは、原画像データF1、F2から、それぞれ低解像度データFL1,FL2を生成するものとする。このようにして得られた低解像度データFL1とFL2も、同一の対象である山Mt1,Mt2および空Skの一部の画像を、共通して含んでいる。
なお、低解像度データFL1,FL2の画素の密度は、原画像データF1、F2の画素の密度の50%であるものとする。このようにして低解像度データを生成する機能は、CPU102の機能部である低解像度データ生成部102b(図1参照)によって実現される。
なお、「画素の密度が低い」は、以下のような意味である。すなわち、第1の画像と第2の画像とがともに画像中に同一の対象物を含んでいる場合に、第2の画像がその対象物を表すのに要している画素の数が、第1の画像がその対象物を表すのに要している画素の数よりも少ないとき、第2の画像は第1の画像よりも「画素の密度が低い」ものとする。一方、第2の画像がその対象物を表すのに要している画素の数が、第1の画像がその対象物を表すのに要している画素の数よりも多いとき、第2の画像は第1の画像よりも「画素の密度が高い」ものとする。
そして、第1の画像がある対象物を表すのに要している画素の数と、第2の画像がその対象物を表すのに要している画素の数と、をそれぞれ同じ画素の並びの方向に沿って数えたとき、第2の画像における画素の数が、第1の画像における画素の数のp%であるとき、「第2の画像の画素のピッチは第1の画像の画素のピッチのp%である」という。
図4は、低解像度データの相対位置を特定する方法を示す説明図である。図2のステップS6では、低解像度データFL1とFL2の画像のうち同一の対象が記録された部分に基づいて、低解像度データFL1,FL2の画像の相対位置を計算する。各低解像度データの画像の相対位置の特定は、以下のようにして行われる。なお、図4において破線で示した部分ScLが、低解像度データFL1とFL2の画像のうち同一の対象が記録された部分である。
まず、各画像が含む同一の対象が記録された部分に、特徴点を設定する。図4において、特徴点を各低解像度データFL1,FL2中の黒い丸Sp1〜Sp3で示す。特徴点は、一般の画像中において頻繁に現れることのないような特徴的な画像部分に配することができる。たとえば、図4においては、各低解像度データFL1,FL2には、ともに同一の対象としての二つの山Mt1,Mt2と空Skが写っている。特徴点は、たとえば、山Mt1,Mt2の頂上(Sp1,Sp3)や山Mt1と山Mt2の輪郭が交わっている点(Sp2)とすることができる。
特徴点を抽出する際には、より具体的には、以下のような手法を適用することができる。すなわち、まず、各画素の階調値に対して微分やSobelなどによるエッジ抽出フィルタを適用して画像のエッジを抽出する。そして、抽出したエッジに対してSRA(Side effect resampling Algorithm)を適用して、得られた点を特徴点とする。
図5は、ステップS6で低解像度データFL1,FL2の画像の相対位置を計算する際の、ユーザインターフェイス画面を示す説明図である。ステップS6においては、ディスプレイ110(図1参照)に、低解像度データFL1,FL2の画像が示される。ユーザはマウス130を操作して、矢印Adで示すように、低解像度データFL1,FL2の一方の画像を他方の画像の上にドラッグし、低解像度データFL1,FL2の画像が共通して含む部分の画像ができるだけ一致するようにして重ねる。図5の例では、山Mt1,Mt2の輪郭ができるだけ重なるように低解像度データFL2の画像を低解像度データFL1の画像の上にドラッグしている。なお、図5において、Csはマウスカーソルである。
ユーザが、マウス130を操作して低解像度データFL1,FL2の画像を重ねると、その後、CPU102は、特徴点Sp1〜Sp3同士の位置のずれが所定の範囲内となるように画像の移動、回転ならびに拡大または縮小を行い、低解像度データFL1,FL2の画像の相対位置を決定する。なお、画像の移動、回転ならびに拡大または縮小は、アフィン変換により行うことができる。その結果、低解像度データFL1,FL2の画像の相対位置は、図4下段に示すように特定される。
なお、本明細書において「相対位置の特定」というときには、画像の移動および回転を行って画像の相対位置を特定する態様だけでなく、画像の移動および回転に加えて画像の拡大または縮小を行って画像の相対位置を特定する態様も含む。「相対位置の計算」、「相対位置の特定」というときにも同様である。このようにして低解像度データの画像の相対位置を計算する機能は、CPU102の機能部である相対位置決定部102c(図1参照)によって実現される。
図6は、画像生成領域ALcを決定する際のユーザインターフェイス画面を示す説明図である。図2のステップS6で低解像度データFL1,FL2の画像の相対位置が計算されると、次に、ステップS8で、画像生成領域ALcが決定される。
ステップS8では、CPU102は、図6に示すように、ステップS6で計算された相対位置にしたがって低解像度データFL1,FL2の画像をディスプレイ110に表示する。そして、ユーザは、マウス130を操作して、低解像度データFL1,FL2が記録している画像の領域の和の領域Fa内において、パノラマ画像を生成する領域である画像生成領域ALcを指定する。なお、領域Faを越える領域が画像生成領域ALcとして指定された場合には、ディスプレイ110にエラーメッセージが表示され、その後、画像生成領域ALcの再指定を促す表示がなされる。
なお、図6においては、低解像度データFL1,FL2が記録している領域の和の領域Faを破線で示す。領域Faを示す破線は、分かりやすいように、実際の領域の境界からずらして表示されている。この画像生成領域を決定する機能は、CPU102の機能部である生成領域決定部102d(図1参照)によって実現される。
図6に示すように、ユーザが指定した画像生成領域ALcは、低解像度データFL1,FL2の画像の上に重ねて表示される。なお、図6の例では、画像生成領域ALcは、低解像度データFL1,FL2のそれぞれ画像の領域を越える範囲を有する、横に長い長方形である。
なお、ユーザは、マウス130を操作して、画像生成領域ALcをいったん仮に指定した後、ディスプレイ110に表示されている「キャンセル」ボタン(図6下段参照)をマウス130でクリックすることで、画像生成領域ALcの指定を取り消しすことができる。そして、再度、画像生成領域ALcを指定し直すことができる。また、画像生成領域ALcを仮に指定した後、ディスプレイ110に表示されている「確定」ボタンをマウス130でクリックすることで、ユーザは、画像生成領域ALcを最終的に決定することができる。ステップS8では、このようにして画像生成領域ALcが決定される。
第1実施例では、低解像度データFL1,FL2が記録している画像の領域の和の領域Fa内において画像生成領域ALcを指定する。このため、低解像度データFL1,FL2の各画素が有する階調値に基づいて、パノラマ画像の画素の階調値を正確に計算することができる。一方、領域Faを超える範囲について画像生成領域ALcを指定した場合には、低解像度データFL1,FL2の画像の領域を超える範囲については、その範囲についての階調値の情報がない状態から何らかの方法でその範囲の画素の階調値を決定しなければならない。このため、生成されるパノラマ画像の品質が低くなる。
第1実施例では、低解像度データFL1の画像は、ディスプレイ110内において長辺FL11,FL12が水平となるように表示されるものとする。そして、画像生成領域ALcも、ディスプレイ110内において長辺ALc1,ALc2が水平となる形に、ユーザによって指定されるものとする。その結果、画像生成領域ALcの長辺ALc1,ALc2は、低解像度データFL1の画像の長辺FL11,FL12と平行であり、低解像度データFL2の画像の長辺FL21,FL22に対しては所定の角度を有する。
図2のステップS10では、各低解像度データFL1、FL2の画像のうち、画像生成領域ALcに含まれる部分である低解像度部分画像が計算される。低解像度データFL1の画像のうち画像生成領域ALcに含まれる部分を低解像度部分画像ALp1と呼び、低解像度データFL2の画像のうち画像生成領域ALcに含まれる部分を低解像度部分画像ALp2と呼ぶ。図6において、低解像度部分画像ALp1、ALp2をそれぞれ一点鎖線および二点差線で示す。なお、図6においては、低解像度部分画像ALp1、ALp2を示す一点鎖線および二点差線は、低解像度部分画像ALp1とALp2の重複部分が分かりやすくなるように、実際の画像の境界からずらして表示されている。この低解像度データの画像の領域内において低解像度部分画像を計算する機能は、CPU102の機能部である第1の部分画像決定部102e(図1参照)によって実現される。
図6から分かるように、低解像度部分画像ALp1、ALp2は重複部分を有している。また、横に長い長方形である画像生成領域ALcの長辺ALc1,ALc2は、低解像度データFL1の画像の長辺FL11,FL12と平行である。このため、画像生成領域ALcの長辺ALc1,ALc2の一部である低解像度部分画像ALp1の上辺ALp11および下辺ALp12も、低解像度データFL1の画像の長辺FL11,FL12と平行である。
一方、横に長い長方形である画像生成領域ALcの長辺ALc1,ALc2は、低解像度データFL2の画像の長辺FL21,FL22とは所定の角度を有する。このため、画像生成領域ALcの長辺ALc1,ALc2の一部である低解像度部分画像ALp2の上辺ALp21および下辺ALp22も、低解像度データFL2の画像の長辺FL21,FL22とは所定の角度を有する。
図7は、原画像データF1、F2の画像と部分画像Ap1、Ap2の関係を示す説明図である。図2のステップS12では、原画像データF1、F2の画像の領域のうち低解像度部分画像ALp1、ALp2にそれぞれ対応する部分である部分画像Ap1、Ap2が計算される。部分画像Ap1は、低解像度データFL1の画像全体の領域中の部分画像Ap1の相対位置に基づいて、原画像データF1の画像の一部から選択される。同様に、部分画像Ap2は、低解像度データFL2の画像全体の領域中の部分画像Ap2の相対位置に基づいて、原画像データF2の画像の一部から選択される。この原画像データの画像から部分画像を決定する機能は、CPU102の機能部である第2の部分画像決定部102f(図1参照)によって実現される。
前述のように、低解像度部分画像ALp1、ALp2は共通する画像を一部に含む領域である。よって、部分画像Ap1、Ap2も共通する画像を一部に含む領域である。すなわち、部分画像Ap1とAp2も、山Mt1,Mt2および空Skの一部の画像を共通して含んでいる。また、それらの上に設定された特徴点Sp1〜Sp3もともに部分画像Ap1とAp2に含まれる。
低解像度部分画像ALp1の上辺ALp11および下辺ALp12は、図6に示すように、全体の画像である低解像度データFL1の画像の領域の長辺FL11,FL12と平行であった。よって、低解像度部分画像ALp1に対応する部分画像Ap1の上辺Ap11および下辺Ap12は、図7に示すように、全体の画像である原画像データF1の画像の領域の長辺F11,F12と平行である。なお、部分画像Ap1を構成する画素の並びの方向を図7において多数の直線PL1で示す。また、最終的に生成されるパノラマ画像Fcを破線で示し、およびパノラマ画像Fcを構成する画素の並びの方向を多数の破線PLcで示す。
一方、低解像度部分画像ALp2の上辺ALp21および下辺ALp22は、全体の画像である低解像度データFL2の画像の領域の長辺FL21,FL22とは所定の角度を有していた。よって、低解像度部分画像ALp2に対応する部分画像Ap2の上辺Ap21および下辺Ap22は、全体の画像である原画像データF2の画像の領域の長辺F21,F22とは所定の角度を有している。なお、部分画像Ap2を構成する画素の並びの方向を図7において多数の直線PL2で示す。
最終的に生成されるパノラマ画像Fcは、その長辺Fc1,Fc2および短辺Fc3に沿って並ぶ画素で構成される。パノラマ画像Fcの各画素は、原画像データF1、F2と同じく、色を表す階調値を有している。パノラマ画像Fcの各画素の階調値は、原画像データF1の各画素のうち部分画像Ap1を構成する画素の階調値と、原画像データF2の各画素のうち部分画像Ap2を構成する画素の階調値と、から計算される。
最終的に生成するパノラマ画像Fcの画素のピッチは原画像データF1,F2の画素のピッチと等しいものとする。そして、生成するパノラマ画像Fcを構成する画素のうちの一部の画素の位置は、原画像データF1の画素の位置と重なるものとする。さらに、部分画像Ap1の上辺Ap11および下辺Ap12は、最終的に生成するパノラマ画像Fcの上辺Fc1および下辺Fc2の一部と一致する。このため、原画像データF1の各画素のうち部分画像Ap1を構成する画素の階調値は、パノラマ画像Fcを構成する画素の階調値の計算にそのまま使用される。
一方、部分画像Ap2の上辺Ap21および下辺Ap22は、水平方向(原画像データF2の画像の領域の長辺F21,F22の方向と同じ)に対して所定の角度を有している。このため、部分画像Ap2を部分画像Ap1とからパノラマ画像Fcを合成する前に、部分画像Ap2に対して回転および拡大または縮小の変換を行う。この回転および拡大または縮小の変換は、図2のステップS6で低解像度データFL1,FL2の画像の相対位置を計算する際に低解像度データFL2の画像に対して行われたのと同じ変換である。
部分画像Ap2に対して行う回転および拡大または縮小の変換を行う際には、以下の式(1)、(2)で表されるアフィン変換を部分画像Ap2に対して行う。そして、部分画像Ap2から変換部分画像Ap2rを生成する。式(1)、(2)は、x、y座標上において、位置(x0,y0)を中心として、x方向にa倍、y方向にb倍の拡大または縮小を行い、反時計回りにθだけ回転させる変換を行って、変換前の位置(x、y)から変換後の位置(X、Y)を得る式である。
x={(X−x0)cosθ−(Y−y0)sinθ}/a+x0 ・・・(1)
y={(Y−x0)sinθ−(Y−y0)cosθ}/b+y0 ・・・(2)
上記の式(1)、(2)を用いて、部分画像Ap2を構成する任意の位置(x、y)にある画素から変換後の位置(X、Y)の画素の階調値を決定することができる。ただし、変換後の変換部分画像Ap2rを構成する画素は、パノラマ画像Fcを構成する各画素と同じ位置に設定される画素である。このため、さらに以下の処理を行う。
パノラマ画像Fcを構成する各画素と同じ位置に設定される画素のうち、上記の式(1)、(2)で得られた位置(X、Y)に最も近い位置にある画素の階調値を、「部分画像Ap2を構成し位置(x、y)にある画素の階調値」と同じ値とする。このようにして、「パノラマ画像Fcを構成する各画素と同じ位置に設定された各画素であって、部分画像Ap2を構成する各画素に対応する画素」について、レッド、グリーン、ブルーの各色の階調値を与えることができる。
なお、上記のようにして部分画像Ap2を構成する各画素に対応する画素について階調値を与える際には、以下のような調整も行われる。すなわち、部分画像Ap2を構成するある画素の位置(x1,y1)に上記の式(1)、(2)を適用して得られた位置(X1、Y1)と、部分画像Ap2を構成する別の画素の位置(x2,y2)に上記の式(1)、(2)を適用して得られた位置(X2、Y2)とがあるとする。このとき、パノラマ画像Fcを構成する各画素と同じ位置に設定された画素のうち、位置(X1、Y1)に最も近い画素と、位置(X2、Y2)に最も近い画素と、が同一であったとする。このような場合には、同じ画素に二組の階調値を付与するわけにはいかない。よって、そのような場合には、位置(x1,y1)の画素の階調値と、位置(x2,y2)の画素の階調値と、の平均値を、その「最も近い位置にある画素」の階調値とする。
また、パノラマ画像Fcを構成する各画素と同じ位置に設定された画素のうち、上記の手順によって階調値を与えられない画素が存在する場合もある。そのような場合には、所定の方法で、階調値を与えられた画素の階調値をもとに補間を行って階調値を与える。
以上で説明したような画像変換により、部分画像Ap2と近似の画像を表示し、上辺Ap2r1および下辺Ap2r2に沿って並ぶ画素で構成される変換部分画像Ap2rを生成することができる(図7参照)。なお、部分画像Ap2を構成する画素の並びの方向を図7において多数の直線PL2rで示す。前述のように、部分画像Ap1とAp2は互いに重複する領域を有していることから、部分画像Ap1と変換部分画像Ap2rとは、互いに同じ対象を表す部分を有している。すなわち、部分画像Ap1と変換部分画像Ap2rとは、山Mt1,Mt2および空Skの一部の画像を共通して含んでいる。また、それらの上に設定された特徴点Sp1〜Sp3もともに部分画像Ap1とAp2に含まれる。
なお、この処理は、原画像データF2の画像のすべての領域に対して行われるのではなく、原画像データF2の画像のうちの部分画像Ap2に対してのみ行われる。よって、原画像データF2の画像の領域に含まれるすべての画素について画像変換を行って階調値を計算する場合に比べて、計算量が少ない。その結果、コンピュータ100がこの処理に要するメモリを少なくすることができ、また、計算時間を短くすることができる。
なお、図2のステップS6において、低解像度データFL1,FL2の画像の相対位置を計算する際にも、同様の変換が実行される。しかし、ステップS6で取り扱う低解像度データFL1,FL2は、原画像データF1,F2に比べて画素の密度が低く、画像を構成する画素の数が少ない。よって、ステップS6で低解像度データFL2に対して回転ならびに拡大または縮小の変換を行って各画素の階調値を求める際の計算量は、原画像データF2に対して同様の変換を行って各画素の階調値を求める場合に比べて、計算量が少ない。
以上のような理由から、低解像度データの画素数を原画像データの画素数に対して所定の割合よりも低く設定すれば、図2のステップS6において低解像度データの相対位置を特定する際の計算量と、ステップS14において部分画像の変換を行う際の計算量とを合わせても、原画像データに対して直接、回転ならびに拡大または縮小の変換を行う場合の計算量よりも少なくすることができる。第1実施例では、低解像度データの画像は、画素のピッチが原画像データの画像の画素のピッチの50%である。このため、ステップS6とステップS14の計算量とを合わせても、原画像データに対して直接、回転ならびに拡大または縮小の変換を行う場合の計算量よりも少ない。
図9は、部分画像Ap1の各画素の階調値と、変換部分画像Ap2rの各画素の階調値と、パノラマ画像Fcの画素の階調値との関係を示す説明図である。図8のステップS32で変換部分画像が生成されると、次に、ステップS34では、部分画像と変換部分画像の相対位置が計算される。部分画像Ap1と変換部分画像Ap2rの相対位置は、図2のステップS6で得られた低解像度データFL1,FL2の画像の相対位置に基づいて計算される。その結果、部分画像Ap1と変換部分画像Ap2rの相対位置は、図9に示すように特定される。
図8のステップS36では、パノラマ画像Fcの画素の階調値が計算される。合成されるパノラマ画像Fcの画像の領域は3つの部分に分けられる。図9の中央に破線で示す境界Ef12は、部分画像Ap1の右側の辺であるEf1と、変換部分画像Ap2rの左側の辺であるEf2と、の中間に位置する境界線である。ステップS36では、部分画像Ap1と変換部分画像Ap2rの相対位置が特定されると、次に、この境界Ef12が計算される。パノラマ画像Fcの領域は、この境界Ef12を中心として左右方向にそれぞれ距離Lbの範囲を有する境界領域Fcp12と、境界領域Fcp12の左側に位置する左側領域Fcp1と、境界領域Fcp12の右側に位置する右側領域Fcp2と、に分けられる。
パノラマ画像Fcの画素のうち左側領域Fcp1の各画素の階調値Vcは、それらの画素と重なる位置にある部分画像Ap1の画素の階調値Vb1と等しい値とされる。そして、パノラマ画像Fcの画素のうち右側領域Fcp2の画素の階調値Vcは、それらの画素と重なる位置にある変換部分画像Ap2rの画素の階調値Vb2から計算される。また、パノラマ画像Fcの画素のうち、境界領域Fcp12の画素の階調値Vcは、それらの画素と重なる位置にある部分画像Ap1の画素の階調値Vb1と変換部分画像Ap2rの画素の階調値Vb2とから計算される。
生成するパノラマ画像Fcを構成する画素は、そのうちの一部の画素が、原画像データF1の画素の位置と重なるように設定される。そして、左側領域Fcp1の画像はすべて、原画像データF1の画像の一部である部分画像Ap1に含まれる。よって、左側領域Fcp1においては、パノラマ画像Fcを構成する画素のうち、原画像データF1の画素の位置と重なる画素、すなわち、部分画像Ap1の画素の位置と重なる画素については、部分画像Ap1の画素の階調値Vb1が、そのままパノラマ画像Fcの画素の階調値Vcとされる。
また、パノラマ画像Fcのうち、右側領域Fcp2の画素の階調値は、以下のようにして計算される。すなわち、まず、部分画像Ap1の画素の輝度の平均値Lm1と、部分画像Ap2の画素の輝度の平均値Lm2が計算される。そして、Lm1とLm2に基づいてΔVが以下の式(3)で計算される。ここで、αは所定の係数である。
ΔV=α(Lm1−Lm2) ・・・ (3)
右側領域Fcp2の画像はすべて、変換部分画像Ap2rに含まれる。よって、右側領域Fcp2の各画素の階調値Vcは、変換部分画像Ap2rの画素の階調値とΔVとから、以下の式(4)により得られる。ここで、Vb2は、階調値を計算する対象である画素と一致する位置にある変換部分画像Ap2rの画素の階調値である。
Vc=Vb2+ΔV ・・・ (4)
すなわち、第1実施例では、部分画像Ap1の画素の輝度の平均値Lm1と、部分画像Ap2の画素の輝度の平均値Lm2とのずれΔVを計算する。そして、そのずれを解消するように、変換部分画像Ap2rの画素の階調値Vb2をΔVだけシフトさせてパノラマ画像Fcの右側領域Fcp2の各画素の階調値Vcとする。このため、異なる原画像データから生成された部分同士で全体の輝度が異なる場合にも、生成されるパノラマ画像Fcが不自然な画像となってしまうことがない。
また、パノラマ画像Fcのうち境界領域Fcp12は、部分画像Ap1と変換部分画像Ap2rの両方の領域に含まれる。境界領域Fcp12の画素の階調値Vcは、部分画像Ap1の画素の階調値Vb1と変換部分画像Ap2rの画素の階調値Vb2から生成される。すなわち、上記の式(4)と同様に変換部分画像Ap2rの画素の階調値Vb2の値をずらし、そのずらされた階調値(Vb2+ΔV)と、部分画像Ap1の画素の階調値Vb1と、が重み付けされて平均され、パノラマ画像Fcの境界領域Fcp12内の画素の階調値Vcが計算される。
具体的には、境界領域Fcp12の画素の階調値Vcは、以下の式(5)で計算される。ここで、Wfp1、Wfp2は、(Wfp1+Wfp2)が1となるような定数である。境界領域Fcp12の左端Efs2において、Wfp1は1であり、Wfp2は0である。そして、境界領域Fcp12中、右に行くにつれてWfp2は大きくなり、境界領域Fcp12の右端Efs1において、Wfp1は0であり、Wfp2は1である。Wfp1の値を%でパノラマ画像Fcの上側に示し、Wfp2の値を%でパノラマ画像Fcの下側に示す。
Vc=(Wfp1×Vb1)+{Wfp2×(Vb2+ΔV)} ・・・ (5)
たとえば、境界領域Fcp12の左端Efs2に位置する画素の階調値は、それら各画素と同じ位置にある部分画像Ap1の画素の階調値と等しい。そして、境界領域Fcp12中、右に行くにつれて部分画像Ap1の画素の階調値がパノラマ画像Fcの画素の階調値に反映される割合は小さくなり、境界領域Fcp12の右端Efs1に位置する画素の階調値は、それら各画素と同じ位置にある変換部分画像Ap2rの画素の階調値Vb2を前述のように改変したもの(Vb2+ΔV)と等しくなる。
図8のステップS36では、以上のようにして原画像データF1の画素の階調値と、変換部分画像Ap2rの画素の階調値とからパノラマ画像Fcの画素の階調値が計算される。そして、図8のフローチャートに示したパノラマ画像Fcの画素の階調値を計算する処理が終了する。第1実施例では、このような方法でパノラマ画像Fcの画素の階調値を計算するため、原画像データF1とF2の画像のつなぎ目が目立ちにくいパノラマ画像Fcを得ることができる。
図10は、以上のようにして生成されたパノラマ画像Fcの範囲と、原画像データF1,F2の画像の範囲との関係を示す説明図である。図2のステップS14では、パノラマ画像Fcの画素の階調値が以上のようにして計算された後、CPU102が、それらの画素の階調値のデータを含み、原画像データF1,F2の画像の範囲を越える範囲を有するパノラマ画像Fcの画像データを生成する。このようにパノラマ画像Fcの画素の階調値を計算し、パノラマ画像Fcの画像データを生成する機能は、CPU102の機能部である拡張画像生成部102g(図1参照)によって実現される。
なお、この階調値の計算は、原画像データF1,F2の画像のすべての領域について行われるのではなく、部分画像Ap1,Ap2の領域内の画素、言い換えればパノラマ画像Fcの領域内の画素についてのみ行われる。よって、原画像データF1、F2の画像の領域の画素について階調値を計算する場合に比べて、パノラマ画像を生成する際の計算量が少ない。その結果、コンピュータ100がこの処理に要するメモリを少なくすることができ、また、計算時間を短くすることができる。
B.第2実施例:
第1実施例では、まず部分画像Ap2から変換部分画像Ap2r全体を生成した後、パノラマ画像Fcを生成していた。しかし、第2実施例では、事前に変換部分画像Ap2r全体を生成するのではなく、パノラマ画像Fcを構成する各画素の階調値を計算する際に、同時に、対応する変換部分画像の画素の階調値を計算し、パノラマ画像Fcを生成する。
図11は、部分画像Ap1,Ap2の画素の階調値からパノラマ画像Fcの画素の階調値を求める手順を示すフローチャートである。第2実施例においては、パノラマ画像Fcの画素の階調値を求める際には、まず、ステップS72で、パノラマ画像Fcを構成する画素のうち階調値を計算する対象画素を選択する。
ステップS74では、その対象画素が、左側領域Fcp1、右側領域Fcp2、境界領域Fcp12のいずれに属する画素であるか(図9参照)を判定する。対象画素が左側領域Fcp1に属する画素である場合は、ステップS76において、その対象画素と同じ位置にある部分画像Ap1の画素の階調値を、対象画素の階調値Vcとする。
ステップS74において、対象画素が右側領域Fcp2に属する画素であった場合は、ステップS78で、その対象画素と同じ位置に設定した画素の階調値Vb2を、部分画像Ap2の画素の階調値から計算する。たとえば、その対象画素と同じ位置に設定した画素の位置(X、Y)に対して式(1)、(2)で表されるアフィン変換の逆変換を行い、位置(x、y)を求める。そして、部分画像Ap2を構成する画素のうち位置(x、y)に最も近い位置にある画素の階調値を、位置(X、Y)の画素の階調値Vb2とする。その後、ステップS80で、式(4)にしたがって対象画素の階調値Vcを計算する。
ステップS74において、対象画素が境界領域Fcp12に属する画素であった場合は、ステップS82で、その対象画素と同じ位置に設定した画素Ps1の階調値Vb2を、ステップS78と同様の手順で、部分画像Ap2の画素の階調値から計算する。その後、ステップS84で、式(5)にしたがって対象画素の階調値Vcを計算する。
ステップS86では、パノラマ画像Fcのすべての画素について階調値を計算したか否かを判定する。まだ、階調値を計算していない画素が存在し、判定結果がNoである場合には、ステップS72に戻る。ステップS86において、パノラマ画像Fcのすべての画素について階調値を計算し終えたと判定され、判定結果がYesとなったときには、パノラマ画像Fcの画素の階調値を求める処理を終了する。
以上で説明したような手順により、事前に部分画像Ap2から変換部分画像Ap2r全体を生成することなく、パノラマ画像Fcを構成する画素の階調値を計算することができる。このような処理においても、階調値を求める画素はパノラマ画像Fcを構成する画素のみである。すなわち、原画像データが記録している画像の領域の和の領域すべてについて、画素の階調値を求めているわけではない。よって、パノラマ画像Fcのデータを生成する際の計算量が少ない。
C.第3実施例:
第3実施例は、原画像データとパノラマ画像データの画素の関係と、原画像データの数と、が第1実施例とは異なる。他の点は第1実施例と同じである。
図12は、第3実施例において、ディスプレイ110上で画像生成領域ALcを決定する際のユーザインターフェイス画面を示す説明図である。第3実施例では、原画像データF3,F4,F5から1個のパノラマ画像Fcが合成される。原画像データF3,F4,F5は、山Mt1〜Mt4、海Sa、空Skが見える風景を、それぞれフレームをずらして撮した3枚の画像のデータである。
第3実施例では、図2のステップS4で、原画像データF3,F4,F5から低解像度データFL3,FL4,FL5が生成される。そして、ステップS6で、低解像度データFL3,FL4,FL5の各画像の相対位置が計算される。たとえば、低解像度データFL3の画像と低解像度データFL4の画像の相対位置は、特徴点Sp3同士および特徴点Sp4同士のずれがそれぞれ所定の範囲内となるような相対位置に決定される。また、低解像度データFL4の画像と低解像度データFL5の画像の相対位置は、特徴点Sp5同士および特徴点Sp6同士のずれがそれぞれ所定の範囲内となるような相対位置に決定される。
第1実施例では、低解像度データFL1,FL2の画像は、設定された特徴点Sp1〜Sp3のすべてについて、互いの位置のずれが所定の範囲内となるように、相対位置が確定された。しかし、相対位置の計算の際にはすべての特徴点が一致するような相対位置を求める必要はない。ただし、少なくとも2個以上の特徴点について、それぞれのずれ量が所定の範囲内となるような相対位置を求めることが好ましい。
図2のステップS8では、ユーザによって画像生成領域ALcが指定される。図12に示すように、第3実施例においては、画像生成領域ALcの各辺は、低解像度データFL3,FL4,FL5の各画像のいずれの辺とも平行ではない。その結果、最終的に生成するパノラマ画像Fcの画素の並び方向と、原画像データF3,F4,F5の画像の画素の並び方向とは一致しない。よって、図2のステップS12で生成される各部分画像の画素の並び方向は、最終的に生成するパノラマ画像Fcの画素の並び方向と、一致しないことになる。
第3実施例においては、パノラマ画像Fcの階調値を計算する際には、図8のステップS32において、原画像データF3,F4,F5から生成されるすべての部分画像Ap3,Ap4,Ap5について、第1実施例の部分画像Ap2と同様にアフィン変換を行って、変換部分画像Ap3r,Ap4r,Ap5rを生成する。そして、その後、ステップS34において、各変換部分画像Ap3r,Ap4r,Ap5rについて互いの相対位置を決定する。相対位置の決定の仕方については、低解像度データFL3,FL4,FL5の相対位置の決定の仕方と同様である。その後、ステップS36でパノラマ画像Fcの階調値を計算する。
第3実施例においては、原画像データF3,F4,F5から生成されるすべての部分画像について、変換部分画像を生成している。このため、原画像データの画像の向きに拘束されることなく、自由な向きおよび形状のパノラマ画像を形成することができる。
D.変形例:
なお、この発明は上記の実施例や実施形態に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能であり、例えば次のような変形も可能である。
第1実施例においては、低解像度部分画像ALp1、ALp2にそれぞれ対応する部分である部分画像Ap1、Ap2が、原画像データF1、F2から計算された。そして、生成されるパノラマ画像Fcの辺Fc1、Fc2の方向(すなわち、画素の並びの方向PLc)に対して、自己が有する画素の並びの方向PL2が所定の角度を有している部分画像Ap2について、回転および拡大または縮小の変換が行われた。しかし、このような処理は、原画像データF2の画像の一部から選択された部分画像Ap2についてのみ行うのではなく、他の部分も含む所定の処理領域について行うこともできる。
図13は、原画像データF1、F2の画像および部分画像Ap1、Ap2並びに処理領域Ap1’、Ap2’の関係を示す説明図である。図13の左側に示す原画像データF1においては、部分画像Ap1の領域と、パノラマ画像Fcの生成に使用する処理領域Ap1’とは、同じ領域である。これに対して、図13の右側に示す原画像データF2においては、パノラマ画像Fcの生成に使用するために所定の処理を行う処理領域Ap2’は、部分画像Ap2の領域と、部分画像Ap2外の領域とを含む所定の領域である。
処理領域Ap2’は、原画像データF2に含まれ部分画像Ap2の外周から所定の距離δの範囲内にある領域と、部分画像Ap2の領域と、を含む領域である。図13の態様においては、この処理領域Ap2’について、回転および拡大または縮小の変換を行って、変換処理領域Ap2r’を生成する。その後、変換処理領域Ap2r’から、低解像度部分画像ALp2に対応する部分である変換部分画像Ap2rを取り出す。そして、変換部分画像Ap2rを使用して、第1実施例に示したような方法でパノラマ画像Fcの生成を行う。
このような態様とすれば、部分画像Ap2の領域を超えた領域の画像も考慮して回転および拡大または縮小の変換を行って、変換処理領域Ap2r’を生成することができる。このため、変換処理領域Ap2r’から取り出される変換部分画像Ap2rの外周近傍の画像の品質を高くすることができる。
なお、処理領域Ap2’は、たとえば、部分画像Ap2の外周から、主走査方向または副走査方向の画素の1辺の長さ3個分の距離の範囲内にある領域と、部分画像Ap2の領域と、から生成することができる。また、処理領域Ap2’は、たとえば、部分画像Ap2の外周から画素の1辺の長さ2個分の距離の範囲内にある領域と、部分画像Ap2の領域と、から生成することもできる。しかし、合成画像Fcを生成するための所定の処理を行う処理領域は、このような態様に限らず、部分原画像を含む任意の領域とすることができる。そして、図13の原画像データF1や第1実施例のように、所定の処理を行う処理領域を、部分原画像の領域に等しい領域とすることもできる。
第1実施例では、生成するパノラマ画像の画素の密度と、原画像データの画素の密度とは同じであった。しかし、生成するパノラマ画像の画素の密度と、原画像データの画素の密度とは異なっていてもよい。生成するパノラマ画像の画素の密度と、原画像データの画素の密度とが異なっている場合には、図8のステップS32において変換部分画像を生成する際に、変換部分画像を、生成するパノラマ画像の画素の密度と同じ画素の密度で生成すればよい。
また、第1実施例では、低解像度データF1,F2の画素の密度は、原画像データの画素の密度の50%であった。しかし、取得した画像(原画像データ)から解像度変換によって生成する画像(低解像度データ)の画素の密度は、これに限られるものではなく、取得した画像の画素の密度よりも低いものであればよい。ただし、解像度変換によって生成する画像の画素のピッチは、取得した画像の画素のピッチの30%〜80%であることが好ましく、取得した画像の画素のピッチの40%〜60%であることがさらに好ましい。
また、解像度変換によって生成する画像の画素のピッチは1/nとすることも好ましい。ここで、nは正の整数である。このような態様とすれば、解像度変換を行う際の計算量を少なくすることができる。また、生成される画像の画質の劣化も少ない。
さらに、共通する画像部分を含む複数の画像の相対位置を決定する際には、それらの画像が図12に示すように一方向にほぼ1列に並ぶ場合には、ユーザは、マウスを使ってユーザインターフェイス画面上で各画像をドラッグする代わりに、それらの画像の並び順を表す数値や符号をキーボード120からコンピュータ100に入力することとしてもよい。
上記第1実施例では、部分画像のうちの一つである部分画像Ap1については、画素の階調値をそのまま使用し、他方の部分画像Ap2については、輝度の平均値が部分画像Ap1の輝度の平均値に近づくように、階調値の調整を行っていた(式(4)参照)。しかし、階調値の調整は、基準となる部分画像の階調値に他の部分画像の階調値を合わせるような調整には限られない。すなわち、階調値の調整は、すべての部分画像について互いの輝度などの評価値ずれが所定の範囲内となるように、調整を行う態様とすることができる。
上記実施例では、原画像データの各画素はレッド、グリーン、ブルーの階調値を有していた。しかし、原画像データの各画素はシアン、マゼンタ、イエロなどの、他の組み合わせの色の階調値を有する態様とすることもできる。
上記実施例において、ハードウェアによって実現されていた構成の一部をソフトウェア(コンピュータプログラム)に置き換えるようにしてもよく、逆に、ソフトウェアによって実現されていた構成の一部をハードウェアに置き換えるようにしてもよい。例えば、図1に示したような低解像度データ生成部、相対位置決定部などの機能部による処理をハードウェア回路で行うこととしてもよい。
そのような機能を実現するコンピュータプログラムは、フロッピディスクやCD−ROM等の、コンピュータ読み取り可能な記録媒体に記録された形態で提供される。ホストコンピュータは、その記録媒体からコンピュータプログラムを読み取って内部記憶装置または外部記憶装置に転送する。あるいは、通信経路を介してプログラム供給装置からホストコンピュータにコンピュータプログラムを供給するようにしてもよい。コンピュータプログラムの機能を実現する時には、内部記憶装置に格納されたコンピュータプログラムがホストコンピュータのマイクロプロセッサによって実行される。また、記録媒体に記録されたコンピュータプログラムをホストコンピュータが直接実行するようにしてもよい。
この明細書において、ホストコンピュータとは、ハードウェア装置とオペレーションシステムとを含む概念であり、オペレーションシステムの制御の下で動作するハードウェア装置を意味している。コンピュータプログラムは、このようなホストコンピュータに、上述の各部の機能を実現させる。なお、上述の機能の一部は、アプリケーションプログラムでなく、オペレーションシステムによって実現されていても良い。
なお、この発明において、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスクやCD−ROMのような携帯型の記録媒体に限らず、各種のRAMやROM等のコンピュータ内の内部記憶装置や、ハードディスク等のコンピュータに固定されている外部記憶装置も含んでいる。
本発明の実施例である画像処理装置の概略構成を示す説明図。 動画データの複数のフレーム画像から静止画を表す静止画データを生成する手順を示すフローチャート。 原画像データF1、F2の画像の範囲と撮影された風景との関係を示す説明図。 低解像度データの相対位置を特定する方法を示す説明図。 ステップS6で低解像度データFL1,FL2の画像の相対位置ずれを計算する際の、ユーザインターフェイス画面を示す説明図。 画像生成領域を決定する際のユーザインターフェイス画面を示す説明図。 原画像データF1、F2の画像と部分画像Ap1、Ap2の関係を示す説明図。 ステップS6内においてパノラマ画像Fcの画素の階調値を計算する際の手順を示すフローチャート。 原画像データF1のうち部分画像Ap1内にある画像の各画素の階調値と、変換部分画像Ap2rの各画素の階調値と、パノラマ画像Fcの画素の階調値との関係を示す説明図。 パノラマ画像Fc1の範囲と、原画像データF1,F2の画像の範囲との関係を示す説明図。 部分画像Ap1,Ap2の画素の階調値からパノラマ画像Fcの画素の階調値を求める手順を示すフローチャート。 第3実施例において、ディスプレイ110に表示された低解像度データFL3,FL4,FL5に基づいて、画像生成領域ALcを決定する際のユーザインターフェイス画面を示す説明図。 原画像データF1、F2の画像および部分画像Ap1、Ap2並びに処理領域Ap1’、Ap2’の関係を示す説明図。
符号の説明
22…プリンタ
95…アプリケーションプログラム
100…パーソナルコンピュータ
102…CPU
102a…原画像データ取得部
102b…低解像度データ生成部
102c…相対位置決定部
102d…生成領域決定部
102e…第1の部分画像決定部
102f…第2の部分画像決定部
102g…拡張画像生成部
110…ディスプレイ
120…キーボード
130…マウス
140…R/RWドライブ
ALc…画像生成領域
ALc1…画像生成領域の長辺(上辺)
ALc2…画像生成領域の長辺(下辺)
Ad…画像をドラッグする様子を示す矢印
ALp1,Alp2…低解像度部分画像
ALp11…低解像度部分画像ALp1の上辺
ALp12…低解像度部分画像ALp1の下辺
ALp21…低解像度部分画像ALp2の上辺
ALp22…低解像度部分画像ALp2の下辺
Ap1,Ap2…部分画像
Ap1’,Ap2’…処理領域
Ap11…部分画像Ap1の上辺
Ap12…部分画像Ap1の下辺
Ap21…部分画像Ap2の上辺
Ap22…部分画像Ap2の下辺
Ap2r…変換部分画像
Ap2r’…変換処理領域
Ef12…部分画像Ap1の右側の辺であるEf1と、変換部分画像Ap2rの左側の辺であるEf2と、の中間に位置する境界線
F1、F2…原画像データ
F11…原画像データF1の画像の長辺(上辺)
F12…原画像データF1の画像の長辺(下辺)
F21…原画像データF2の画像の長辺(上辺)
F22…原画像データF2の画像の長辺(下辺)
Fc1…パノラマ画像Fcの長辺(上辺)
Fc2…パノラマ画像Fcの長辺(下辺)
Fc3…パノラマ画像Fcの短辺
Fcp1…パノラマ画像Fcのうちの左側領域
Fcp12…パノラマ画像Fcのうちの境界領域
Fcp2…パノラマ画像Fcのうちの右側領域
Efs1…境界領域Fcp12の右端
Efs2…境界領域Fcp12の左端
FL1〜FL5…低解像度データ
FL11…低解像度データFL1の画像の長辺(上辺)
FL11…低解像度データFL1の画像の長辺(下辺)
FL21…低解像度データFL2の画像の長辺(上辺)
FL22…低解像度データFL2の画像の長辺(下辺)
Fa…低解像度データFL1,FL2が記録している画像の領域の和の領域
Fc…パノラマ画像
Lb…境界Ef12から境界領域Fcp12の端Efs1,Efs2までの距離
Mt1〜Mt4…風景の中の山
PL1,PL2,Pl2r…画素の並びの方向を表す直線
Sa…風景の中の海
Sk…風景の中の空
Sp1〜5…特徴点
Wfp1…パノラマ画像Fcの画素の階調値を計算する際に、部分画像Ap1の画素の階調値Vb1に掛けられる重み
Wfp2…パノラマ画像Fcの画素の階調値を計算する際に、変換部分画像Ap2rの画素の階調値をシフトさせた値(Vb2+ΔV)に掛けられる重み

Claims (30)

  1. 共通する画像を互いに含む複数の原画像からパノラマ画像を生成する方法であって、
    (a)前記原画像よりも解像度の低い低解像度画像を前記各原画像から生成する工程と、
    (b)前記共有されている画像領域から特定される前記低解像度画像の互いの重なりの状態を特定することにより、前記パノラマ画像を生成することができる生成可能領域を決定する工程と、
    (c)前記生成可能領域内において、前記低解像度画像の1個分の領域を超える領域を、前記パノラマ画像を生成する画像生成領域として決定する工程と、
    (d)前記複数の原画像から、前記画像生成領域に対応する領域を有する前記パノラマ画像を生成する工程と、を有する方法。
  2. 複数の原画像から合成画像を生成する画像の生成方法であって、
    生成すべき前記合成画像に含まれ、かつ前記複数の原画像のいずれかに含まれる複数の部分原画像を決定し、
    前記合成画像を生成するための所定の処理を、前記原画像のうち前記部分原画像を含む所定の処理領域以外の部分については行わずに、前記処理領域について行って、前記複数の部分原画像に基づいて前記合成画像を生成する、画像の生成方法。
  3. 請求項2記載の画像生成方法であって、
    前記処理領域は、
    前記原画像に含まれ前記部分画像の外周から所定の距離の範囲内にある領域と、
    前記部分原画像の領域と、を含む、画像の生成方法。
  4. 請求項2記載の画像生成方法であって、
    前記処理領域は、前記部分原画像の領域に等しい、画像の生成方法。
  5. 請求項4記載の画像生成方法であって、
    前記合成画像は、画像を構成する画素の密度が前記低解像度画像よりも高く、前記原画像の1個分の領域を超える領域を有する、方法。
  6. 請求項4記載の画像の生成方法であって、
    前記合成画像を生成するための所定の処理は、画素の階調値の計算であり、
    前記合成画像を生成する工程は、
    前記合成画像に含まれない画素の階調値を計算せずに、
    前記合成画像を構成する各画素の階調値を、前記複数の部分原画像を構成する各画素の階調値に基づいて計算する工程を含む、画像の生成方法。
  7. 請求項4記載の画像の生成方法であって、
    前記複数の原画像は、同一の対象が記録された部分を互いに含み、
    前記部分原画像を決定する工程は、
    (a)前記複数の原画像について解像度の変換を行って、前記原画像よりも解像度の低い複数の低解像度画像を生成する工程と、
    (b)前記低解像度画像のうち前記同一の対象が記録された部分に基づいて、前記複数の低解像度画像の領域から、前記各低解像度画像の領域の和の領域を決定する工程と、
    (c)前記和の領域内に、前記低解像度画像の1個分の領域を超える画像生成領域を決定する工程と、
    (d)前記部分原画像として、前記各低解像度画像のうち前記画像生成領域に含まれる低解像度部分画像に対応する前記各原画像の部分を決定する工程と、を含む、方法。
  8. 請求項7記載の画像生成方法であって、
    前記部分原画像は、前記解像度の変換を行った場合には、それぞれ前記低解像度部分画像の一つと等しい画像を生成することができる画像であり、
    前記工程(d)は、
    前記低解像度部分画像と前記低解像度画像との関係と、前記複数の原画像と、に基づいて前記部分原画像を決定する工程を含む、方法。
  9. 請求項7記載の画像の生成方法であって、
    前記低解像度画像は、画素のピッチが前記原画像の画素のピッチの30%〜80%である、画像の生成方法。
  10. 請求項7記載の画像の生成方法であって、
    前記工程(b)は、
    (b1)前記同一の対象が記録された部分に基づいて、前記複数の低解像度画像同士の相対位置を計算する工程を含み、
    前記工程(c)は、
    (c1)前記相対位置にしたがって前記複数の低解像度画像を、前記和の領域として表示部に表示する工程と、
    (c2)前記画像生成領域を仮に設定する工程と、
    (c3)前記仮に設定された画像生成領域を前記複数の低解像度画像と重ねて前記表示部に表示する工程と、
    (c4)前記画像生成領域を設定しなおす工程と、
    (c5)前記設定しなおされた画像生成領域を前記画像生成領域として決定する工程と、を含む画像の生成方法。
  11. 請求項10記載の画像の生成方法であって、
    前記工程(b1)は、
    (b2)前記複数の低解像度画像同士の概略の相対位置に関するユーザの指示を受け取る工程と、
    (b3)前記ユーザによって指示された相対位置に基づいて、前記同一の対象が記録された部分同士のずれが所定の範囲内となるように、前記複数の低解像度画像同士の相対位置を計算する工程と、を含む、を含む画像の生成方法。
  12. 請求項11記載の画像の生成方法であって、
    前記工程(b2)は、前記複数の低解像度画像のうちの少なくとも二つを表示部に表示する工程を含み、
    前記複数の低解像度画像同士の相対位置に関する指示の少なくとも一部は、ユーザが、前記表示部に表示された少なくとも二つの低解像度画像のうちの一つを、他の低解像度画像の上に、一部が重なるように移動させることによってなされる、画像の生成方法。
  13. 請求項11記載の画像の生成方法であって、
    前記工程(b2)は、
    前記複数の低解像度画像同士の相対位置に関する指示として、前記複数の低解像度画像の所定の方向に沿った順番に関する指示を受け取る工程を含み、
    前記工程(b1)は、さらに、
    (b4)前記順番にしたがって、前記複数の低解像度画像同士の相対位置を決定する工程を含む、画像の生成方法。
  14. 共通する画像を互いに含む複数の原画像からパノラマ画像を生成する画像生成装置であって、
    前記原画像よりも解像度の低い低解像度画像を前記各原画像から生成する低解像度画像生成部と、
    前記共有されている画像領域から特定される前記低解像度画像の互いの重なりの状態を特定することにより、前記パノラマ画像を生成することができる生成可能領域を決定する生成可能領域決定部と、
    前記生成可能領域内において、前記低解像度画像の1個分の領域を超える領域を、前記パノラマ画像を生成する画像生成領域として決定する生成領域決定部と、
    前記複数の原画像から、前記画像生成領域に対応する領域を有する前記パノラマ画像を生成する拡張画像生成部と、を有する画像生成装置。
  15. 複数の原画像から合成画像を生成する画像生成装置であって、
    生成すべき前記合成画像に含まれ、かつ前記複数の原画像のいずれかに含まれる複数の部分原画像を決定し、
    前記合成画像を生成するための所定の処理を、前記原画像のうち前記部分原画像を含む所定の処理領域以外の部分については行わずに、前記処理領域について行って、前記複数の部分原画像に基づいて前記合成画像を生成する、画像生成装置。
  16. 請求項15記載の画像生成装置であって、
    前記処理領域は、
    前記原画像に含まれ前記部分画像の外周から所定の距離の範囲内にある領域と、
    前記部分原画像の領域と、を含む、画像の生成装置。
  17. 請求項15記載の画像生成装置であって、
    前記処理領域は、前記部分原画像の領域に等しい、画像生成装置。
  18. 請求項17記載の画像生成装置であって、
    前記合成画像は、画像を構成する画素の密度が前記低解像度画像よりも高く、前記原画像の1個分の領域を超える領域を有する、画像生成装置。
  19. 請求項17記載の画像生成装置であって、
    前記合成画像を生成するための所定の処理は、画素の階調値の計算であり、
    前記合成画像を生成する際には、
    前記合成画像に含まれない画素の階調値を計算せずに、
    前記合成画像を構成する各画素の階調値を、前記複数の部分原画像を構成する各画素の階調値に基づいて計算する、画像生成装置。
  20. 請求項17記載の画像生成装置であって、
    前記複数の原画像は、同一の対象が記録された部分を互いに含み、
    前記複数の原画像について解像度の変換を行って、前記原画像よりも解像度の低い複数の低解像度画像を生成する低解像度画像生成部と、
    前記低解像度画像のうち前記同一の対象が記録された部分に基づいて、前記複数の低解像度画像から、前記各低解像度画像の領域の和の領域を決定する和領域決定部と、
    前記和の領域内に、前記低解像度画像の1個分の領域を超える画像生成領域を決定する生成領域決定部と、
    前記部分原画像として、前記各低解像度画像のうち前記画像生成領域に含まれる低解像度部分画像に対応する前記各原画像の部分を決定する部分画像生成部と、を含む、画像生成装置。
  21. 請求項20記載の画像生成装置であって、
    前記部分原画像は、前記解像度の変換を行った場合には、それぞれ前記低解像度部分画像の一つと等しい画像を生成することができる画像であり、
    前記部分画像生成部は、
    前記低解像度部分画像と前記低解像度画像との関係と、前記複数の原画像と、に基づいて前記部分原画像を決定する、画像生成装置。
  22. 請求項20記載の画像生成装置であって、
    前記低解像度画像は、画素のピッチが前記原画像の画素のピッチの30%〜80%である、画像生成装置。
  23. 請求項20記載の画像生成装置であって、さらに、画像を表示することができる表示部を含み、
    前記和領域決定部は、
    前記同一の対象が記録された部分に基づいて、前記複数の低解像度画像同士の相対位置を計算することができ、
    前記生成領域決定部は、
    前記和の領域として、前記相対位置にしたがって前記複数の低解像度画像を表示部に表示することができ、
    前記画像生成領域を仮に設定する指示を受け取ることができ、
    前記仮に設定された画像生成領域を前記複数の低解像度画像と重ねて前記表示部に表示することができ、
    前記画像生成領域を設定しなおす指示を受け取ることができ、
    前記設定しなおされた画像生成領域を前記画像生成領域として決定する、画像生成装置。
  24. 請求項23記載の画像生成装置であって、
    前記和領域決定部は、
    前記複数の低解像度画像同士の概略の相対位置に関するユーザの指示を受け取り、
    前記ユーザによって指示された相対位置に基づいて、前記同一の対象が記録された部分同士のずれが所定の範囲内となるように、前記複数の低解像度画像同士の相対位置を計算する、画像生成装置。
  25. 請求項24記載の画像生成装置であって、さらに、画像を表示することができる表示部を含み、
    前記和領域決定部は、前記複数の低解像度画像のうちの少なくとも二つを前記表示部に表示し、
    前記複数の低解像度画像同士の相対位置に関する指示の少なくとも一部は、ユーザが、前記表示部に表示された少なくとも二つの低解像度画像のうちの一つを、他の低解像度画像の上に、一部が重なるように移動させることによってなされる、画像生成装置。
  26. 請求項24記載の画像生成装置であって、
    前記和領域決定部は、
    前記複数の低解像度画像同士の相対位置に関する指示として、前記複数の低解像度画像の所定の方向に沿った順番に関する指示を受け取り、
    前記順番にしたがって、前記複数の低解像度画像同士の相対位置を決定する、画像生成装置。
  27. 共通する画像を互いに含む複数の原画像からパノラマ画像を生成するためのコンピュータプログラムであって、
    前記原画像よりも解像度の低い低解像度画像を前記各原画像から生成する機能と、
    前記共有されている画像領域から特定される前記低解像度画像の互いの重なりの状態を特定することにより、前記パノラマ画像を生成することができる生成可能領域を決定する機能と、
    前記生成可能領域内において、前記低解像度画像の1個分の領域を超える領域を、前記パノラマ画像を生成する画像生成領域として決定する機能と、
    前記複数の原画像から、前記画像生成領域に対応する領域を有する前記パノラマ画像を生成する機能と、をコンピュータに実現させるコンピュータプログラム。
  28. 複数の原画像から合成画像を生成するためのコンピュータプログラムであって、
    生成すべき前記合成画像に含まれ、かつ前記複数の原画像のいずれかに含まれる複数の部分原画像を決定する第1の機能と、
    前記合成画像を生成するための所定の処理を、前記原画像のうち前記部分原画像を含む所定の処理領域以外の部分については行わずに、前記処理領域について行って、前記複数の部分原画像に基づいて前記合成画像を生成する第2の機能と、をコンピュータに実現させるコンピュータプログラム。
  29. 請求項28記載のコンピュータプログラムであって、
    前記処理領域は、
    前記原画像に含まれ前記部分画像の外周から所定の距離の範囲内にある領域と、
    前記部分原画像の領域と、を含む、コンピュータプログラム。
  30. 請求項28記載のコンピュータプログラムであって、
    前記処理領域は、前記部分原画像の領域に等しい、コンピュータプログラム。
JP2004102035A 2003-04-15 2004-03-31 複数の画像から画像を合成する方法 Pending JP2004334843A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2004102035A JP2004334843A (ja) 2003-04-15 2004-03-31 複数の画像から画像を合成する方法
US10/821,650 US20050008254A1 (en) 2003-04-15 2004-04-09 Image generation from plurality of images

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2003110450 2003-04-15
JP2004102035A JP2004334843A (ja) 2003-04-15 2004-03-31 複数の画像から画像を合成する方法

Publications (1)

Publication Number Publication Date
JP2004334843A true JP2004334843A (ja) 2004-11-25

Family

ID=33513170

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004102035A Pending JP2004334843A (ja) 2003-04-15 2004-03-31 複数の画像から画像を合成する方法

Country Status (2)

Country Link
US (1) US20050008254A1 (ja)
JP (1) JP2004334843A (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005284685A (ja) * 2004-03-29 2005-10-13 Rumine:Kk 画像合成装置、画像複写装置及びプログラム
JP2010118826A (ja) * 2008-11-12 2010-05-27 Seiko Epson Corp 画像処理装置およびプログラム並びに画像処理方法
JP2010171777A (ja) * 2009-01-23 2010-08-05 Toyota Motor Corp 撮像装置
US8913833B2 (en) 2006-05-08 2014-12-16 Fuji Xerox Co., Ltd. Image processing apparatus, image enlarging apparatus, image coding apparatus, image decoding apparatus, image processing system and medium storing program
CN114518860A (zh) * 2020-11-18 2022-05-20 深圳Tcl新技术有限公司 基于大屏创建全景图片的方法、装置、智能终端及介质

Families Citing this family (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1217826A3 (en) * 2000-12-19 2005-05-25 Konica Corporation Image processing apparatus
US9330060B1 (en) 2003-04-15 2016-05-03 Nvidia Corporation Method and device for encoding and decoding video image data
US8660182B2 (en) 2003-06-09 2014-02-25 Nvidia Corporation MPEG motion estimation based on dual start points
US20070103544A1 (en) * 2004-08-26 2007-05-10 Naofumi Nakazawa Panorama image creation device and panorama image imaging device
US7561161B2 (en) * 2005-01-28 2009-07-14 Microsoft Corporation Quantitative measure of a video interface
US7661093B2 (en) * 2005-01-28 2010-02-09 Microsoft Corporation Method and system for assessing performance of a video interface using randomized parameters
US7720311B1 (en) * 2005-03-03 2010-05-18 Nvidia Corporation Memory and compute efficient block-based two-dimensional sample-rate converter for image/video applications
US7813590B2 (en) * 2005-05-13 2010-10-12 Given Imaging Ltd. System and method for displaying an in-vivo image stream
US8731071B1 (en) 2005-12-15 2014-05-20 Nvidia Corporation System for performing finite input response (FIR) filtering in motion estimation
US8724702B1 (en) 2006-03-29 2014-05-13 Nvidia Corporation Methods and systems for motion estimation used in video coding
US8660380B2 (en) 2006-08-25 2014-02-25 Nvidia Corporation Method and system for performing two-dimensional transform on data value array with reduced power consumption
US8756482B2 (en) 2007-05-25 2014-06-17 Nvidia Corporation Efficient encoding/decoding of a sequence of data frames
US8068700B2 (en) * 2007-05-28 2011-11-29 Sanyo Electric Co., Ltd. Image processing apparatus, image processing method, and electronic appliance
US9118927B2 (en) 2007-06-13 2015-08-25 Nvidia Corporation Sub-pixel interpolation and its application in motion compensated encoding of a video signal
US8068693B2 (en) * 2007-07-18 2011-11-29 Samsung Electronics Co., Ltd. Method for constructing a composite image
US8873625B2 (en) 2007-07-18 2014-10-28 Nvidia Corporation Enhanced compression in representing non-frame-edge blocks of image frames
US8717412B2 (en) * 2007-07-18 2014-05-06 Samsung Electronics Co., Ltd. Panoramic image production
EP2018049B1 (en) 2007-07-18 2013-05-01 Samsung Electronics Co., Ltd. Method of assembling a panoramic image and camera therefor
US7880807B2 (en) * 2007-12-26 2011-02-01 Sony Ericsson Mobile Communications Ab Camera system with mirror arrangement for generating self-portrait panoramic pictures
US8666181B2 (en) 2008-12-10 2014-03-04 Nvidia Corporation Adaptive multiple engine image motion detection system and method
US8355554B2 (en) 2009-04-14 2013-01-15 Sonosite, Inc. Systems and methods for adaptive volume imaging
KR20110052124A (ko) * 2009-11-12 2011-05-18 삼성전자주식회사 파노라마 이미지 생성 및 조회 방법과 이를 이용한 휴대 단말기
US20110141224A1 (en) * 2009-12-11 2011-06-16 Fotonation Ireland Limited Panorama Imaging Using Lo-Res Images
US8294748B2 (en) * 2009-12-11 2012-10-23 DigitalOptics Corporation Europe Limited Panorama imaging using a blending map
US20110141225A1 (en) * 2009-12-11 2011-06-16 Fotonation Ireland Limited Panorama Imaging Based on Low-Res Images
US20110141226A1 (en) * 2009-12-11 2011-06-16 Fotonation Ireland Limited Panorama imaging based on a lo-res map
US20110141229A1 (en) * 2009-12-11 2011-06-16 Fotonation Ireland Limited Panorama imaging using super-resolution
WO2011069698A1 (en) 2009-12-11 2011-06-16 Tessera Technologies Ireland Limited Panorama imaging
US10080006B2 (en) 2009-12-11 2018-09-18 Fotonation Limited Stereoscopic (3D) panorama creation on handheld device
US8861822B2 (en) 2010-04-07 2014-10-14 Fujifilm Sonosite, Inc. Systems and methods for enhanced imaging of objects within an image
CN102656604B (zh) * 2010-10-15 2014-10-22 株式会社摩如富 图像处理装置、图像处理方法以及图像处理程序
EP2613290B1 (en) * 2010-10-26 2019-05-08 Morpho, Inc. Image processing device, image processing method, and image processing program
KR101049928B1 (ko) * 2011-02-21 2011-07-15 (주)올라웍스 파노라마 이미지를 생성하기 위한 방법, 사용자 단말 장치 및 컴퓨터 판독 가능한 기록 매체
US9418430B2 (en) * 2013-10-03 2016-08-16 Bae Systems Information And Electronic Systems Integration Inc. Method and apparatus for establishing a north reference for inertial measurement units using scene correlation
KR20150059534A (ko) * 2013-11-22 2015-06-01 삼성전자주식회사 파노라마 영상 생성 방법, 상기 방법을 기록한 컴퓨터 판독 가능 저장매체 및 파노라마 영상 생성 장치.

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4829583A (en) * 1985-06-03 1989-05-09 Sino Business Machines, Inc. Method and apparatus for processing ideographic characters
US5325449A (en) * 1992-05-15 1994-06-28 David Sarnoff Research Center, Inc. Method for fusing images and apparatus therefor
US5649032A (en) * 1994-11-14 1997-07-15 David Sarnoff Research Center, Inc. System for automatically aligning images to form a mosaic image
US5982951A (en) * 1996-05-28 1999-11-09 Canon Kabushiki Kaisha Apparatus and method for combining a plurality of images
US6075905A (en) * 1996-07-17 2000-06-13 Sarnoff Corporation Method and apparatus for mosaic image construction
US6067384A (en) * 1997-09-11 2000-05-23 Canon Kabushiki Kaisha Fast scaling of JPEG images
AU1048399A (en) * 1997-11-10 1999-05-31 Gentech Corporation System and method for generating super-resolution-enhanced mosaic images
US6226403B1 (en) * 1998-02-09 2001-05-01 Motorola, Inc. Handwritten character recognition using multi-resolution models

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005284685A (ja) * 2004-03-29 2005-10-13 Rumine:Kk 画像合成装置、画像複写装置及びプログラム
JP4500083B2 (ja) * 2004-03-29 2010-07-14 有限会社ルミネ 画像合成装置及びプログラム
US8913833B2 (en) 2006-05-08 2014-12-16 Fuji Xerox Co., Ltd. Image processing apparatus, image enlarging apparatus, image coding apparatus, image decoding apparatus, image processing system and medium storing program
JP2010118826A (ja) * 2008-11-12 2010-05-27 Seiko Epson Corp 画像処理装置およびプログラム並びに画像処理方法
JP2010171777A (ja) * 2009-01-23 2010-08-05 Toyota Motor Corp 撮像装置
CN114518860A (zh) * 2020-11-18 2022-05-20 深圳Tcl新技术有限公司 基于大屏创建全景图片的方法、装置、智能终端及介质
CN114518860B (zh) * 2020-11-18 2023-08-01 深圳Tcl新技术有限公司 基于大屏创建全景图片的方法、装置、智能终端及介质

Also Published As

Publication number Publication date
US20050008254A1 (en) 2005-01-13

Similar Documents

Publication Publication Date Title
JP2004334843A (ja) 複数の画像から画像を合成する方法
US8379054B2 (en) Image synthesis method, image synthesis apparatus, and storage medium
JP4551018B2 (ja) 画像結合装置
US8094213B2 (en) Image processing apparatus, image processing method, and program in which an original image is modified with respect to a desired reference point set on a screen
JP3075269B2 (ja) 画像データ補間方法、画像データ補間装置および画像データ補間プログラムを記録した媒体
US20110116112A1 (en) Image processing apparatus, image processing method, and program and memory medium for executing image processing method
JP4346742B2 (ja) 画像合成方法、画像合成装置及び記憶媒体
JP2006221220A (ja) 複数の低解像度画像を用いた高解像度画像の生成
JP3113405B2 (ja) 画像処理装置
US8315480B2 (en) Image processing apparatus, image processing method, and program to execute the image processing method
US6611632B1 (en) Device and method for interpolating image data and medium on which image data interpolating program is recorded
JP4164215B2 (ja) 画像処理方法、装置および記録媒体
JP3491829B2 (ja) 画像処理装置及び画像処理方法
JP4458720B2 (ja) 画像入力装置およびプログラム
JP4710508B2 (ja) 画像処理プログラム、画像処理装置
JP2007180930A (ja) 画像結合装置および画像結合方法およびプログラムおよび記録媒体
JP2006203716A (ja) 複数の低解像度画像を用いた高解像度画像の生成
JP3503136B2 (ja) 画素補間装置及び画素補間方法
JP2000076432A (ja) 画像デ―タ補間装置、画像デ―タ補間方法および画像デ―タ補間プログラムを記録した媒体
JPH0546718A (ja) 画像編集装置
JP2003037769A (ja) 信号処理装置、撮像装置、及び信号処理方法
JP3480547B2 (ja) 画像修正方法及びその装置並びにプログラムを記録した記憶媒体
JP3915150B2 (ja) 画像合成装置及び画像合成方法
JP2006054576A (ja) 画像処理装置及び方法及びプログラム及び記憶媒体
JP5898438B2 (ja) 画像処理装置及び画像処理方法並びにプログラム