JP6450589B2 - 画像生成装置、電子機器、画像生成方法及びプログラム - Google Patents
画像生成装置、電子機器、画像生成方法及びプログラム Download PDFInfo
- Publication number
- JP6450589B2 JP6450589B2 JP2014265047A JP2014265047A JP6450589B2 JP 6450589 B2 JP6450589 B2 JP 6450589B2 JP 2014265047 A JP2014265047 A JP 2014265047A JP 2014265047 A JP2014265047 A JP 2014265047A JP 6450589 B2 JP6450589 B2 JP 6450589B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- seam
- input image
- relative value
- input
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2624—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects for obtaining an image which is composed of whole input images, e.g. splitscreen
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
- G06T3/40—Scaling the whole image or part thereof
- G06T3/4038—Scaling the whole image or part thereof for image mosaicing, i.e. plane images composed of plane sub-images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
- G06T3/40—Scaling the whole image or part thereof
- G06T3/403—Edge-driven scaling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/24—Aligning, centring, orientation detection or correction of the image
- G06V10/245—Aligning, centring, orientation detection or correction of the image by locating a pattern; Special marks for positioning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2628—Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/265—Mixing
Description
順次に入力される入力画像を継ぎ合わせて合成画像を生成する画像生成装置(画像生成装置1)であって、
第1の入力画像(基準画像)の画素値と、前記第1の入力画像と画像の一部が重なり合う第2の入力画像(対象画像)の画素値とを用いて、前記第1の入力画像と前記第2の入力画像との相対関係を表す相対値(画素値の差分値、画素値の比)を算出する相対値算出手段(差分値算出部15)と、
前記相対値算出手段によって算出された相対値を用いて、前記第1の入力画像と前記第2の入力画像との合成のための継ぎ目を決定する継ぎ目決定手段(継ぎ目決定部16)と、
前記継ぎ目決定手段によって決定された継ぎ目に基づいて前記第1の入力画像と前記第2の入力画像とを合成して前記合成画像を生成する画像合成手段(画像合成部18)と、
を備えた画像生成装置である。
順次に入力される入力画像を継ぎ合わせて合成画像を生成する画像生成方法であって、
第1の入力画像(基準画像)の画素値と、前記第1の入力画像と画像の一部が重なり合う第2の入力画像(対象画像)の画素値とを用いて、前記第1の入力画像と前記第2の入力画像との相対関係を表す相対値(画素値の差分値、画素値の比)を算出することと、
前記算出された相対値を用いて、前記第1の入力画像と前記第2の入力画像との合成のための継ぎ目を決定することと、
前記決定された継ぎ目に基づいて前記第1の入力画像と前記第2の入力画像とを合成して前記合成画像を生成することと、
を含む画像生成方法を構成してもよい。
コンピュータに、順次に入力される入力画像を継ぎ合わせて合成画像を生成させるためのプログラム(画像生成プログラム811)であって、
第1の入力画像(基準画像)の画素値と、前記第1の入力画像と画像の一部が重なり合う第2の入力画像(対象画像)の画素値とを用いて、前記第1の入力画像と前記第2の入力画像との相対関係を表す相対値(画素値の差分値、画素値の比)を算出する相対値算出ステップ(画像生成処理のA5)と、
前記算出された相対値を用いて、前記第1の入力画像と前記第2の入力画像との合成のための継ぎ目を決定する継ぎ目決定ステップ(画像生成処理のA11)と、
前記決定された継ぎ目に基づいて前記第1の入力画像と前記第2の入力画像とを合成して前記合成画像を生成する画像合成ステップ(画像生成処理のA21)と、
を前記コンピュータに実行させるためのプログラムを構成してもよい。
第1の発明の画像生成装置であって、
前記継ぎ目決定手段は、前記相対値算出手段によって算出された相対値を画素値とする相対値画像(差分画像、比画像)において、対象とする被写体が存在する画像領域である対象被写体領域とそれ以外の画像領域である非対象被写体領域とを分離するための所定の分離処理(顔検出処理、最小コスト画素集合探索処理、グラフカット処理等)を行って、前記継ぎ目を決定する、
画像生成装置を構成してもよい。
第2の発明の画像生成装置であって、
前記分離処理は、前記入力画像から対象被写体を検出する対象被写体検出処理(顔検出処理等)を含み、
前記継ぎ目決定手段は、前記相対値画像と前記対象被写体検出処理の処理結果とを用いて、前記継ぎ目を決定する、
画像生成装置を構成してもよい。
第2の発明の画像生成装置であって、
前記継ぎ目決定手段は、前記分離処理として、前記相対値画像(差分画像)において継ぎ目の始点とする画素(始点画素)から継ぎ目の終点とする画素(終点画素)に至るまでの各画素の相対値に基づき算出される評価値(合計コスト値)が、前記対象被写体領域と前記非対象被写体領域とを分離可能とする所定の分離可能条件を満たす画素の集合を探索する画素集合探索処理(最小コスト画素集合探索処理)を行って、前記継ぎ目を決定する、
画像生成装置を構成してもよい。
第2又は第3の発明の画像生成装置であって、
前記継ぎ目決定手段は、前記相対値画像における所定の継ぎ目発生規制領域(所定の物体が存在する領域)に継ぎ目が発生することを規制する制約条件下で前記分離処理を行って、前記継ぎ目を決定する、
画像生成装置を構成してもよい。
第4の発明の画像生成装置であって、
前記相対値画像の前記継ぎ目発生規制領域に含まれる画素の画素値を前記制約条件に基づく所定の画素値(継ぎ目発生規制領域に含まれない画素の最大差分値よりも大きな値:例えば最大階調値)に修正する画素値修正手段(画像生成装置1の処理部)をさらに備え、
前記継ぎ目決定手段は、前記画素値修正手段によって画素値が修正された相対値画像について前記分離処理を行って、前記継ぎ目を決定する、
画像生成装置を構成してもよい。
第4又は第5の発明の画像生成装置であって、
前記入力画像から顔を検出する顔検出手段(画像生成装置1の処理部)をさらに備え、
前記継ぎ目決定手段は、前記相対値画像のうち、前記顔検出手段によって検出された顔に対応する領域を前記継ぎ目発生規制領域とする前記制約条件下で前記分離処理を行って、前記継ぎ目を決定する、
画像生成装置を構成してもよい。
第4〜第6の何れかの発明の画像生成装置であって、
前記継ぎ目決定手段は、当初に継ぎ目を決定した際の前記制約条件とは異なる制約条件下で前記継ぎ目を再決定する継ぎ目再決定手段(継ぎ目決定部16)を有し、
前記画像合成手段は、前記継ぎ目再決定手段によって再決定された継ぎ目に基づいて前記第1の入力画像と前記第2の入力画像とを合成して前記合成画像を再生成する画像再合成手段(画像合成部18)を有する、
画像生成装置を構成してもよい。
第1〜第7の何れかの発明の画像生成装置であって、
前記第1の入力画像の特徴点と前記第2の入力画像の特徴点との対応関係に基づいて、前記第1の入力画像と前記第2の入力画像とを位置合わせする位置合わせ手段(位置合わせ部14)をさらに備え、
前記画像合成手段は、前記位置合わせ手段による位置合わせの結果と、前記継ぎ目決定手段によって決定された継ぎ目とに基づいて、前記第1の入力画像と前記第2の入力画像とを合成する、
画像生成装置を構成してもよい。
第1〜第8の何れかの発明の画像生成装置(画像生成装置1)と、
表示手段(表示部300)と、
前記画像合成手段によって生成された合成画像を前記表示手段に表示させる表示制御手段(表示制御部190)と、
を備えた電子機器(スマートフォン2、デジタルカメラ、タブレット端末、PDA、パソコン等)を構成してもよい。
第9の発明の電子機器であって、
前記表示制御手段は、前記継ぎ目決定手段によって決定された継ぎ目を前記合成画像に重畳表示させる(図24(2))、
電子機器を構成してもよい。
第4〜第7の何れかの発明の画像生成装置(画像生成装置1)と、
操作手段(操作部200、タッチパネル250)と、
表示手段(表示部300)と、
前記入力画像を前記表示手段に表示させる表示制御手段(表示制御部190)と、
をさらに備え、
前記継ぎ目決定手段は、前記表示手段に表示された入力画像中の前記操作手段に対するユーザー操作によって指定された指定領域(ユーザーのタップ操作によるタップ位置を含む領域)に対応する前記相対値画像の領域を前記継ぎ目発生規制領域とする前記制約条件下で、前記継ぎ目を決定する、
電子機器(スマートフォン2、デジタルカメラ、タブレット端末、PDA、パソコン等)を構成してもよい。
第7の発明の画像生成装置(画像生成装置1)と、
操作手段(操作部200、タッチパネル250)と、
表示手段(表示部300)と、
前記画像合成手段によって生成された合成画像を前記表示手段に表示させる表示制御手段(表示制御部190)と、
を備え、
前記表示制御手段は、前記継ぎ目決定手段によって決定された継ぎ目を前記合成画像に重畳表示させ(図24(2))、
前記継ぎ目再決定手段は、前記操作手段に対するユーザー操作によって指定された指定領域(ユーザーのタップ操作によるタップ位置)に前記継ぎ目が含まれる場合に、当該指定領域に対応する前記相対値画像の領域を前記継ぎ目発生規制領域とする前記制約条件下で前記継ぎ目を再決定し(図24(5))、
前記表示制御手段は、前記画像再合成手段によって再生成された合成画像を前記表示手段に表示させる(図24(6))、
電子機器(スマートフォン2、デジタルカメラ、タブレット端末、PDA、パソコン等)を構成してもよい。
第10又は第12の発明の電子機器であって、
前記表示制御手段は、前記合成画像と区別可能な表示態様(特定の色を付して表示する、太い線で表示する、点滅表示する)で前記継ぎ目を前記表示手段に表示させる、
電子機器を構成してもよい。
第1〜第8の何れかの発明の画像生成装置(画像生成装置1)と、
表示手段(表示部300)と、
撮像手段(撮像部500)と、
撮像対象を写し出す前記撮像手段による撮像の待機状態の画面である撮像待機画面を前記表示手段に表示させる表示制御手段(表示制御部190)と、
前記撮像待機画面に写し出される画像から顔を検出する顔検出手段(処理部100)と、
前記顔検出手段によって検出された顔が前記撮像待機画面の端部所定範囲に含まれる場合に、所定の注意喚起報知を行う報知手段(表示部300、音出力部400)と、
を備え、
前記画像生成装置は、前記撮像手段によって撮像された撮影画像を前記入力画像として、前記合成画像を生成する、
電子機器(スマートフォン2、デジタルカメラ、タブレット端末、PDA、パソコン等)を構成してもよい。
第14の発明の電子機器であって、
前記報知手段は、前記注意喚起報知として、(1)顔が画面の端部から離れるように自装置又は顔の位置を調整することをユーザーに促す報知、(2)顔を画面の中央部に寄せることをユーザーに促す報知、(3)顔が画面の端部に位置しない画像を少なくとも1枚撮影させることをユーザーに促す報知、のうちの少なくとも何れかの報知を行う、
電子機器を構成してもよい。
本実施形態に係る画像生成装置は、順次に入力される入力画像を入力の度につなぎ合わせて一枚の合成画像を逐次生成する装置であって、例えば連続撮像された複数の画像をリアルタイムで継ぎ合わせ、1枚の撮影画像よりも広角なパノラマ画像を生成する場合に好適に採用されるものである。
図1は、本実施形態における画像生成装置1の機能構成の一例を示すブロック図である。
画像生成装置1は、入力部10と、基準画像選択部11と、マッチング部12と、変換行列推定部13と、位置合わせ部14と、差分値算出部15と、継ぎ目決定部16と、制約条件設定部17と、画像合成部18とを備える。これらは、画像生成装置1の処理部(処理装置)が有する機能部(機能ブロック)であり、処理部は、CPUやDSP等のプロセッサーやASIC等の集積回路を有して構成される。
図4(1)に示すように、一枚目の画像のみが入力されている場合には、当該画像が基準画像Ir0として選択される。そして、二枚目の画像(対象画像Ic)が入力された場合、位置合わせ部14は、基準画像Ir0の位置を基準として、対象画像Icを位置合わせする。
図5に示すように、回転前のカメラ20の撮像面をS0、回転後のカメラ20の撮像面をS1とすると、撮像面S0と撮像面S1とが同一平面内に存在しない。このため、特徴点のペアを平行移動によって重ねた位置は、本来の重ね合わせ位置とは異なることになる。すなわち、位置合わせを行う場合には、カメラの動きを考慮して、基準画像Irの特徴点の位置と対象画像Icの特徴点の位置とが同一の三次元座標系上で一致するように位置合わせを行う必要がある。
図6に示すように、基準画像Ir0の特徴点の座標を(x0,y0,1)、当該特徴点に対応する対象画像Icの特徴点の座標を(x1,y1,1)とすると、変換行列推定部13は、(x0,y0,1)と(x1,y1,1)とが一致する変換行列を推定する。
(A),(B)に示すように、変換行列推定部13は、二次元座標系の基準画像Irの特徴点の位置(x0,y0,1)と二次元座標系の対象画像Icの位置(x1,y1,1)とを三次元空間Spの球面へ透視射影する。(xn−cx)をベクトルxn、(yn−cx)をベクトルynとし、投影後の座標を(Xn,Yn,Zn)とすると、座標(x1,y1,F)については、例えば次式(4)で射影投影される。
図8に示すように、8枚の入力画像の中心C0〜C7の間がリンクされている(リンクRe1〜Re7)。基準画像選択部11が基準画像Irを選択し、位置合わせ部14がリンクを形成するという動作を繰り返すことで、図8に示すように、画像を位置合わせしながら継ぎ合わせることができる。
まず、(A)に示すように、画像が入力された場合には、該画像が次回以降の基準画像Irとなる。次に、(B)に示すように基準画像Irから一定値以上離れた対象画像Icが入力されたとする。この場合、(C)に示すように、対象画像Icを次回以降の一時的な基準画像である一時基準画像Itrとする。一時基準画像Itrは、履歴として保存されない一時的な基準画像である。
この図には、画像の右端に胴体の一部が見切れた人物が写し出された基準画像Irと、その人物の胴体が見切れない状態で画像の右部に写し出された対象画像Icとを例示している。説明を簡単にするため、基準画像Irと対象画像Icとは同じサイズの画像であり、また、カメラ20を基準とする水平方向に対してずれの生じていない2枚の画像として説明する。
図13(1)には、図12で得られた差分画像Idを示している。また、その右には、図12に示した基準画像Irと対象画像Icとを位置合わせした状態を示しており、基準画像Irと対象画像Icとの重なり領域にハッチングを施している。
P1→P2での合計コスト値は「3+9=12」となり、P1→P2→P3での合計コスト値は「12+15=27」となる。そして、P1→P2→P3→P6での合計コスト値は「27+5=32」となる。
P1→P2での合計コスト値は「3+9=12」となり、P1→P2→P5での合計コスト値は「12+10=22」となる。そして、P1→P2→P5→P6での合計コスト値は「22+5=27」となる。
同様に、P1→P4での合計コスト値は「3+12=15」となり、P1→P4→P5での合計コスト値は「15+10=25」となる。そして、P1→P4→P5→P6での合計コスト値は「25+5=30」となる。
図14には、差分画像Irのうちの一部の領域を示し、この一部の領域に人物の顔が含まれている状態を示している。1つの矩形は画素を示し、楕円が人物の顔を示し、楕円の輪郭が人物の顔の輪郭を示している。また、図14の各図において、ハッチングを施した画素で構成される矩形の領域が、継ぎ目発生規制領域となる。
外側に示した実線の矩形が描画平面Spである。また、位置合わせされた基準画像Irと対象画像Icとを点線で示し、これら位置合わせされた基準画像Ir及び対象画像Icで構成される画像が描画画像となる。
具体的には、外側領域Routに含まれる画素については、対象画像Icの画素値に重みαを設定し、基準画像Irの画素値に重み(1−α)を設定して、対象画像Icの画素値と基準画像Irの画素値とを加重平均する。
図17は、画像生成装置1が実行する画像生成処理の流れの一例を示すフローチャートである。なお、説明理解の容易性を考慮して、対象画像Icは2番目以降の入力画像であるとする。
最初に、基準画像選択部11が、入力済画像から基準画像Irを選択する(B1)。そして、マッチング部12及び変換行列推定部13の推定結果に基づいて、位置合わせ部14が、基準画像Irと対象画像Icとの位置合わせを行う(B3)。
基準画像選択部11が、対象画像Icと過去の基準画像Irとの距離を判定する処理へ移行する(B11)。また、B11において距離が所定値以上でないと判定した場合には(B11;No)、画像位置合わせ処理を終了する。
最初に、継ぎ目決定部16は、始点画素及び終点画素を設定する(C1)。始点画素及び終点画素の設定方法は前述した通りである。
画像生成装置1は、順次に入力される入力画像を継ぎ合わせて合成画像を生成する。差分値算出部15は、基準画像の画素値と、基準画像と画像の一部が重なり合う対象画像の画素値とを用いて、基準画像と対象画像との相対関係を表す差分値を算出する。継ぎ目決定部16は、差分値算出部15によって算出された差分値を用いて、基準画像と対象画像との合成のための継ぎ目を決定する。そして、画像合成部18は、継ぎ目決定部16によって決定された継ぎ目に基づいて基準画像と対象画像とを合成して合成画像を生成する。
上記の画像生成装置1は、本発明に係る画像生成装置の一例を示すものであるが、本発明に係る画像生成装置は、画像生成装置1に限られるものではなく、各請求項に記載した要旨を変更しない範囲で、実施形態に係る画像生成装置を変形し、又は他のものに適用したものであってもよい。
次に、上記の画像生成装置1を備える電子機器の一例として、スマートフォン2の実施例について説明する。但し、本発明を適用可能な実施例が、以下説明する実施例に限定されるわけでないことは勿論である。
図20は、スマートフォン2の機能構成の一例を示すブロック図である。
スマートフォン2は、処理部100と、操作部200と、表示部300と、音出力部400と、撮像部500と、通信部600と、時計部700と、記憶部800とを備える。
図21は、処理部100が、記憶部800に記憶されているカメラモード処理プログラム810に従って実行するカメラモード処理の流れの一例を示すフローチャートである。このカメラモード処理は、ユーザーによりカメラのアプリケーションが起動されることにより実行される処理である。
ユーザーが所持する電子機器の一例であるスマートフォン2において、カメラモードが起動された場合には、処理部100によってカメラモード処理が実行される。カメラモード処理では、パノラマ画像生成モードが選択された場合に、上記の実施形態で説明した画像生成の原理に基づいて広角な合成画像であるパノラマ画像を生成し、これを表示部300に表示する。これにより、ユーザーは、生成されたパノラマ画像をスマートフォン2で閲覧することが可能となる。
第2実施例は、上記のスマートフォン2の実施例において、パノラマ画像生成モードで生成されたパノラマ画像の出力が乱れている場合に、ユーザーがパノラマ画像を再生成させる実施例である。
図22は、スマートフォン2の処理部100が、図21のカメラモード処理に代えて実行する第2のカメラモード処理の流れの一例を示すフローチャートである。なお、カメラモード処理と同一のステップについては同一の符号を付して、再度の説明を省略する。
図24は、第2のカメラモード処理においてスマートフォン2の表示部300に表示される表示画面及びユーザー操作の一例を示す図である。
第3実施例は、上記のスマートフォン2の実施例において、ユーザーが撮影を行う際に、撮像待機画面に写し出される画像に人物の顔が含まれている場合であって、その顔の位置が画面の端部に位置する場合に、所定の注意喚起を行う実施例である。これは、顔が画面の端部に位置する状態で撮影が行われてしまうと、以下のような問題が生ずる可能性があるためである。
(2)画面の端部に位置する顔は、顔検出処理で検出されない可能性がある。この場合、顔検出処理で検出した顔に対応する領域を継ぎ目発生規制領域として設定することができないため、顔にかかるような継ぎ目が発生してしまい、顔の表示が合成により乱れてしまう可能性がある。
(3)撮影画像の何れにも画面の端部に位置する人物の顔全体が表示された画像が存在しない場合、その画面の端部にかかった状態の顔の画像情報を、その後の処理に使用するしかない状態となる。その結果、前述した画像生成処理において顔検出処理の結果を元に継ぎ目を決定していた場合、顔にかかるような継ぎ目が発生してしまい、顔の表示が合成により乱れてしまう可能性がある。
本発明を適用可能な実施例は、上記の実施例に限定されることなく、本発明の趣旨を逸脱しない範囲で適宜変更可能であることは勿論である。以下、変形例について説明するが、上記の実施例と同一の構成については同一の符号を付して、再度の説明を省略する。
画像生成装置1は、スマートフォンやカメラ、デジタルカメラ、タブレット端末、PDA、パソコン等の電子機器に具備させることができる。撮像部を備えた電子機器であれば、種々の電子機器に本発明の画像生成装置1を具備させることが可能である。
上記の実施形態では、画素単位で差分値を算出し、この画素単位で算出された差分値を用いた分離処理(例えば最小コスト画素集合探索処理)を行って、継ぎ目を決定することとして説明した。しかし、必ずしも画素単位で算出された差分値を用いなければならいわけではなく、2以上の画素で構成される画素領域単位で差分値を算出し、この画素領域単位で算出された差分値を用いて分離処理を行って、継ぎ目を決定してもよい。例えば、画像を構成する画素を格子状の領域に区切り、この区切られた各領域を画素領域として上記の実施形態と同様の処理を行って、継ぎ目を決定するようにしてもよい。
また、画素領域の大きさは、入力画像の大きさに基づいて適宜設定変更するとよい。例えば、入力画像のサイズの1%〜10%の範囲内で各画素領域の大きさを決定して、画素領域別に処理を行うとよい。
上記の実施形態では、基準画像と対象画像との相対関係を表す相対値として、画素値の差分値を算出することとして説明したが、これに代えて、画素値の比を相対値として算出することとしてもよい。この場合は、相対値として算出された画素値の比に基づいて、上記の実施形態と同様の手法で継ぎ目を決定するようにすればよい。
[5−4−1.グラフカットを利用した分離処理]
上記の実施形態では、分離処理として、最小コスト画素集合探索処理を行って継ぎ目を決定したが、この他に、グラフカットを利用した分離処理(以下、「グラフカット処理」という。)を行って継ぎ目を決定してもよい。グラフカットとは、グラフの頂点を2つの部分集合に分割するための手法である。画像処理において、グラフカットは、入力画像中から特定の領域を抽出する領域抽出や、入力画像から前景領域と背景領域とを分離するなどの目的で使用される。
他の分離処理として、入力画像から対象被写体を検出する対象被写体検出処理を行い、差分画像と対象被写体検出処理の処理結果とを用いて、継ぎ目を決定するようにしてもよい。
上記の実施形態では、物体検出処理の一例として、人物の顔を検出する顔検出処理を行い、検出された人物の顔を含む領域を継ぎ目発生規制領域に設定して、継ぎ目を決定した。しかし、人物の顔に限らず、動物の顔を検出する顔検出処理を行い、検出された動物の顔を含む領域を継ぎ目発生規制領域に設定して、継ぎ目を決定するようにしてもよい。また、顔に限らず、人間や動物の体の部分(例えば手や足、胴体)を検出する体検出処理を行い、検出された体の部分を継ぎ目発生規制領域に設定して、継ぎ目を決定するようにしてもよい。
上記の実施形態では、画像生成に係る各種のプログラムやデータが、画像生成装置1の記憶部や、スマートフォン2の記憶部800に記憶されており、処理部がこれらのプログラムを読み出して実行することで、上記の各実施形態における画像処理が実現された。この場合、各装置の記憶部は、ROMやEEPROM、フラッシュメモリ、ハードディスク、RAMといった内部記憶装置の他に、メモリカード(SDカード)やコンパクトフラッシュ(登録商標)カード、メモリスティック、USBメモリ、CD−RW(光学ディスク)、MO(光磁気ディスク)といった記録媒体(記録メディア、外部記憶装置)を有していてもよく、これらの記録媒体に上記の各種のプログラムやデータを記憶させることとしてもよい。
スマートフォン2には、メモリカード9を挿入するためのカードスロット910が設けられており、カードスロット910に挿入されたメモリカード9に記憶された情報を読み取る又はメモリカード9に情報を書き込むためのカードリーダライタ(R/W)920が設けられている。カードリーダライタ920は、処理部100の制御に従って、記憶部800に記録されたプログラムやデータをメモリカード9に書き込む動作を行う。メモリカード9に記録されたプログラムやデータは、スマートフォン2以外の外部装置(例えばパソコン)で読み取ることで、当該外部装置において上記の実施形態における合成画像の生成を実現することが可能に構成されている。
2 スマートフォン
9 メモリカード
10 入力部
11 基準画像選択部
12 マッチング部
13 変換行列推定部
14 位置合わせ部
15 差分値算出部
16 継ぎ目決定部
17 制約条件設定部
18 画像合成部
20 カメラ
25 入力済画像メモリ
100 処理部
200 操作部
250 タッチパネル
300 表示部
400 音出力部
500 撮像部
600 通信部
700 時計部
800 記憶部
910 カードスロット
920 カードリーダライタ
Claims (20)
- 順次に入力される入力画像を継ぎ合わせて合成画像を生成する画像生成装置であって、
第1の入力画像の画素値と、前記第1の入力画像と画像の一部が重なり合う第2の入力画像の画素値とを用いて、前記第1の入力画像と前記第2の入力画像との相対関係を表す相対値を算出する相対値算出手段と、
前記相対値算出手段によって算出された相対値を用いて、前記第1の入力画像と前記第2の入力画像との合成のための継ぎ目を決定する継ぎ目決定手段と、
前記継ぎ目決定手段によって決定された継ぎ目に基づいて前記第1の入力画像と前記第2の入力画像とを合成して前記合成画像を生成する画像合成手段と、
前記入力画像から顔を検出する顔検出手段と、
前記顔検出手段による検出結果に基づいて、異なる複数の領域のうちの何れかの領域を継ぎ目発生規制領域として設定する継ぎ目発生規制領域設定手段と、
を備え、
前記継ぎ目決定手段は、
前記相対値算出手段によって算出された相対値を画素値とする相対値画像において、対象とする被写体が存在する画像領域である対象被写体領域とそれ以外の画像領域である非対象被写体領域とを分離するための所定の分離処理を行って、前記継ぎ目を決定し、
前記相対値画像における前記継ぎ目発生規制領域設定手段によって設定された前記継ぎ目発生規制領域に継ぎ目が発生することを規制する制約条件下で前記分離処理を行って、前記継ぎ目を決定する、
画像生成装置。 - 前記相対値画像における前記継ぎ目発生規制領域設定手段によって設定された前記継ぎ目発生規制領域に含まれる画素の画素値を前記制約条件に基づく所定の画素値に修正する画素値修正手段をさらに備え、
前記継ぎ目決定手段は、前記画素値修正手段によって画素値が修正された相対値画像について前記分離処理を行って、前記継ぎ目を決定する、
請求項1に記載の画像生成装置。 - 前記継ぎ目決定手段は、前記分離処理として、前記相対値画像において継ぎ目の始点とする画素から継ぎ目の終点とする画素に至るまでの各画素の相対値に基づき算出される評価値が、前記対象被写体領域と前記非対象被写体領域とを分離可能とする所定の分離可能条件を満たす画素の集合を探索する画素集合探索処理を行って、前記継ぎ目を決定する、
請求項1又は2に記載の画像生成装置。 - 前記継ぎ目決定手段は、当初に継ぎ目を決定した際の前記制約条件とは異なる制約条件下で前記継ぎ目を再決定する継ぎ目再決定手段を有し、
前記画像合成手段は、前記継ぎ目再決定手段によって再決定された継ぎ目に基づいて前記第1の入力画像と前記第2の入力画像とを合成して前記合成画像を再生成する画像再合成手段を有する、
請求項1〜3の何れか一項に記載の画像生成装置。 - 前記第1の入力画像の特徴点と前記第2の入力画像の特徴点との対応関係に基づいて、前記第1の入力画像と前記第2の入力画像とを位置合わせする位置合わせ手段をさらに備え、
前記画像合成手段は、前記位置合わせ手段による位置合わせの結果と、前記継ぎ目決定手段によって決定された継ぎ目とに基づいて、前記第1の入力画像と前記第2の入力画像とを合成する、
請求項1〜4の何れか一項に記載の画像生成装置。 - 順次に入力される入力画像を継ぎ合わせて合成画像を生成する電子機器であって、
表示手段と、
第1の入力画像の画素値と、前記第1の入力画像と画像の一部が重なり合う第2の入力画像の画素値とを用いて、前記第1の入力画像と前記第2の入力画像との相対関係を表す相対値を算出する相対値算出手段と、
前記相対値算出手段によって算出された相対値を用いて、前記第1の入力画像と前記第2の入力画像との合成のための継ぎ目を決定する継ぎ目決定手段と、
前記継ぎ目決定手段によって決定された継ぎ目に基づいて前記第1の入力画像と前記第2の入力画像とを合成して前記合成画像を生成する画像合成手段と、
前記入力画像から顔を検出する顔検出手段と、
前記顔検出手段による検出結果に基づいて、異なる複数の領域のうちの何れかの領域を継ぎ目発生規制領域として設定する継ぎ目発生規制領域設定手段と、
前記画像合成手段によって生成された合成画像を前記表示手段に表示させる表示制御手段と、
を備え、
前記継ぎ目決定手段は、
前記相対値算出手段によって算出された相対値を画素値とする相対値画像において、対象とする被写体が存在する画像領域である対象被写体領域とそれ以外の画像領域である非対象被写体領域とを分離するための所定の分離処理を行って、前記継ぎ目を決定し、
前記相対値画像における前記継ぎ目発生規制領域設定手段によって設定された前記継ぎ目発生規制領域に継ぎ目が発生することを規制する制約条件下で前記分離処理を行って、前記継ぎ目を決定する、
電子機器。 - 前記表示制御手段は、前記継ぎ目決定手段によって決定された継ぎ目を前記合成画像に重畳表示させる、
請求項6に記載の電子機器。 - 順次に入力される入力画像を継ぎ合わせて合成画像を生成する電子機器であって、
操作手段と、
表示手段と、
前記入力画像を前記表示手段に表示させる表示制御手段と、
第1の入力画像の画素値と、前記第1の入力画像と画像の一部が重なり合う第2の入力画像の画素値とを用いて、前記第1の入力画像と前記第2の入力画像との相対関係を表す相対値を算出する相対値算出手段と、
前記相対値算出手段によって算出された相対値を用いて、前記第1の入力画像と前記第2の入力画像との合成のための継ぎ目を決定する継ぎ目決定手段と、
前記継ぎ目決定手段によって決定された継ぎ目に基づいて前記第1の入力画像と前記第2の入力画像とを合成して前記合成画像を生成する画像合成手段と、
を備え、
前記継ぎ目決定手段は、
前記相対値算出手段によって算出された相対値を画素値とする相対値画像において、対象とする被写体が存在する画像領域である対象被写体領域とそれ以外の画像領域である非対象被写体領域とを分離するための所定の分離処理を行って、前記継ぎ目を決定し、
前記相対値画像における所定の継ぎ目発生規制領域に継ぎ目が発生することを規制する制約条件下で前記分離処理を行って、前記継ぎ目を決定し、
前記表示手段に表示された入力画像中の前記操作手段に対するユーザー操作によって指定された指定領域に対応する前記相対値画像の領域を前記継ぎ目発生規制領域とする前記制約条件下で、前記継ぎ目を決定する、
電子機器。 - 順次に入力される入力画像を継ぎ合わせて合成画像を生成する電子機器であって、
操作手段と、
表示手段と、
第1の入力画像の画素値と、前記第1の入力画像と画像の一部が重なり合う第2の入力画像の画素値とを用いて、前記第1の入力画像と前記第2の入力画像との相対関係を表す相対値を算出する相対値算出手段と、
前記相対値算出手段によって算出された相対値を用いて、前記第1の入力画像と前記第2の入力画像との合成のための継ぎ目を決定する継ぎ目決定手段と、
前記継ぎ目決定手段によって決定された継ぎ目に基づいて前記第1の入力画像と前記第2の入力画像とを合成して前記合成画像を生成する画像合成手段と、
前記画像合成手段によって生成された合成画像を前記表示手段に表示させる表示制御手段と、
を備え、
前記継ぎ目決定手段は、
前記相対値算出手段によって算出された相対値を画素値とする相対値画像において、対象とする被写体が存在する画像領域である対象被写体領域とそれ以外の画像領域である非対象被写体領域とを分離するための所定の分離処理を行って、前記継ぎ目を決定し、
前記相対値画像における所定の継ぎ目発生規制領域に継ぎ目が発生することを規制する制約条件下で前記分離処理を行って、前記継ぎ目を決定し、
当初に継ぎ目を決定した際の前記制約条件とは異なる制約条件下で前記継ぎ目を再決定する継ぎ目再決定手段を有し、
前記画像合成手段は、前記継ぎ目再決定手段によって再決定された継ぎ目に基づいて前記第1の入力画像と前記第2の入力画像とを合成して前記合成画像を再生成する画像再合成手段を有し、
前記表示制御手段は、前記継ぎ目決定手段によって決定された継ぎ目を前記合成画像に重畳表示させ、
前記継ぎ目再決定手段は、前記操作手段に対するユーザー操作によって指定された指定領域に前記継ぎ目が含まれる場合に、当該指定領域に対応する前記相対値画像の領域を前記継ぎ目発生規制領域とする前記制約条件下で前記継ぎ目を再決定し、
前記表示制御手段は、前記画像再合成手段によって再生成された合成画像を前記表示手段に表示させる、
電子機器。 - 前記表示制御手段は、前記合成画像と区別可能な表示態様で前記継ぎ目を前記表示手段に表示させる、
請求項7又は9に記載の電子機器。 - 撮像手段をさらに備え、
前記表示制御手段は、撮像対象を写し出す前記撮像手段による撮像の待機状態の画面である撮像待機画面を前記表示手段に表示させ、
前記撮像待機画面に写し出される画像から検出される顔が前記撮像待機画面の端部所定範囲に含まれる場合に、所定の注意喚起報知を行う報知手段をさらに備え、
前記画像合成手段は、前記撮像手段によって撮像された撮影画像を前記入力画像として、前記合成画像を生成する、
請求項6〜10の何れか一項に記載の電子機器。 - 前記報知手段は、前記注意喚起報知として、(1)顔が画面の端部から離れるように自装置又は顔の位置を調整することをユーザーに促す報知、(2)顔を画面の中央部に寄せることをユーザーに促す報知、(3)顔が画面の端部に位置しない画像を少なくとも1枚撮影させることをユーザーに促す報知、のうちの少なくとも何れかの報知を行う、
請求項11に記載の電子機器。 - 順次に入力される入力画像を継ぎ合わせて合成画像を生成する画像生成方法であって、
第1の入力画像の画素値と、前記第1の入力画像と画像の一部が重なり合う第2の入力画像の画素値とを用いて、前記第1の入力画像と前記第2の入力画像との相対関係を表す相対値を算出することと、
前記算出された相対値を用いて、前記第1の入力画像と前記第2の入力画像との合成のための継ぎ目を決定することと、
前記決定された継ぎ目に基づいて前記第1の入力画像と前記第2の入力画像とを合成して前記合成画像を生成することと、
前記入力画像から顔を検出することと、
前記顔の検出結果に基づいて、異なる複数の領域のうちの何れかの領域を継ぎ目発生規制領域として設定することと、
を含み、
前記継ぎ目を決定することでは、
前記算出された相対値を画素値とする相対値画像において、対象とする被写体が存在する画像領域である対象被写体領域とそれ以外の画像領域である非対象被写体領域とを分離するための所定の分離処理を行って、前記継ぎ目を決定し、
前記相対値画像における前記設定された前記継ぎ目発生規制領域に継ぎ目が発生することを規制する制約条件下で前記分離処理を行って、前記継ぎ目を決定する、
画像生成方法。 - コンピュータに、順次に入力される入力画像を継ぎ合わせて合成画像を生成させるためのプログラムであって、
第1の入力画像の画素値と、前記第1の入力画像と画像の一部が重なり合う第2の入力画像の画素値とを用いて、前記第1の入力画像と前記第2の入力画像との相対関係を表す相対値を算出する相対値算出ステップと、
前記算出された相対値を用いて、前記第1の入力画像と前記第2の入力画像との合成のための継ぎ目を決定する継ぎ目決定ステップと、
前記決定された継ぎ目に基づいて前記第1の入力画像と前記第2の入力画像とを合成して前記合成画像を生成する画像合成ステップと、
前記入力画像から顔を検出する顔検出ステップと、
前記顔の検出結果に基づいて、異なる複数の領域のうちの何れかの領域を継ぎ目発生規制領域として設定する継ぎ目発生規制領域設定ステップと、
を前記コンピュータに実行させ、
前記継ぎ目決定ステップでは、
前記相対値算出ステップで算出された相対値を画素値とする相対値画像において、対象とする被写体が存在する画像領域である対象被写体領域とそれ以外の画像領域である非対象被写体領域とを分離するための所定の分離処理を行って、前記継ぎ目を決定し、
前記相対値画像における前記継ぎ目発生規制領域設定ステップで設定された前記継ぎ目発生規制領域に継ぎ目が発生することを規制する制約条件下で前記分離処理を行って、前記継ぎ目を決定する、
プログラム。 - 順次に入力される入力画像を継ぎ合わせて合成画像を生成する画像生成方法であって、
第1の入力画像の画素値と、前記第1の入力画像と画像の一部が重なり合う第2の入力画像の画素値とを用いて、前記第1の入力画像と前記第2の入力画像との相対関係を表す相対値を算出することと、
前記算出された相対値を用いて、前記第1の入力画像と前記第2の入力画像との合成のための継ぎ目を決定することと、
前記決定された継ぎ目に基づいて前記第1の入力画像と前記第2の入力画像とを合成して前記合成画像を生成することと、
前記入力画像から顔を検出することと、
前記顔の検出結果に基づいて、異なる複数の領域のうちの何れかの領域を継ぎ目発生規制領域として設定することと、
前記生成された合成画像を表示することと、
を含み、
前記継ぎ目を決定することでは、
前記算出された相対値を画素値とする相対値画像において、対象とする被写体が存在する画像領域である対象被写体領域とそれ以外の画像領域である非対象被写体領域とを分離するための所定の分離処理を行って、前記継ぎ目を決定し、
前記相対値画像における前記設定された前記継ぎ目発生規制領域に継ぎ目が発生することを規制する制約条件下で前記分離処理を行って、前記継ぎ目を決定する、
画像生成方法。 - コンピュータに、順次に入力される入力画像を継ぎ合わせて合成画像を生成させるためのプログラムであって、
第1の入力画像の画素値と、前記第1の入力画像と画像の一部が重なり合う第2の入力画像の画素値とを用いて、前記第1の入力画像と前記第2の入力画像との相対関係を表す相対値を算出する相対値算出ステップと、
前記相対値算出ステップで算出された相対値を用いて、前記第1の入力画像と前記第2の入力画像との合成のための継ぎ目を決定する継ぎ目決定ステップと、
前記継ぎ目決定ステップで決定された継ぎ目に基づいて前記第1の入力画像と前記第2の入力画像とを合成して前記合成画像を生成する画像合成ステップと、
前記入力画像から顔を検出する顔検出ステップと、
前記顔の検出結果に基づいて、異なる複数の領域のうちの何れかの領域を継ぎ目発生規制領域として設定する継ぎ目発生規制領域設定ステップと、
前記画像合成ステップで生成された合成画像を表示する表示ステップと、
を前記コンピュータに実行させ、
前記継ぎ目決定ステップでは、
前記相対値算出ステップで算出された相対値を画素値とする相対値画像において、対象とする被写体が存在する画像領域である対象被写体領域とそれ以外の画像領域である非対象被写体領域とを分離するための所定の分離処理を行って、前記継ぎ目を決定し、
前記相対値画像における前記継ぎ目発生規制領域設定ステップで設定された前記継ぎ目発生規制領域に継ぎ目が発生することを規制する制約条件下で前記分離処理を行って、前記継ぎ目を決定する、
プログラム。 - 順次に入力される入力画像を継ぎ合わせて合成画像を生成する画像生成方法であって、
前記入力画像を表示することと、
第1の入力画像の画素値と、前記第1の入力画像と画像の一部が重なり合う第2の入力画像の画素値とを用いて、前記第1の入力画像と前記第2の入力画像との相対関係を表す相対値を算出することと、
前記算出された相対値を用いて、前記第1の入力画像と前記第2の入力画像との合成のための継ぎ目を決定することと、
前記決定された継ぎ目に基づいて前記第1の入力画像と前記第2の入力画像とを合成して前記合成画像を生成することと、
を含み、
前記継ぎ目を決定することでは、
前記算出された相対値を画素値とする相対値画像において、対象とする被写体が存在する画像領域である対象被写体領域とそれ以外の画像領域である非対象被写体領域とを分離するための所定の分離処理を行って、前記継ぎ目を決定し、
前記相対値画像における所定の継ぎ目発生規制領域に継ぎ目が発生することを規制する制約条件下で前記分離処理を行って、前記継ぎ目を決定し、
前記表示された入力画像中のユーザー操作によって指定された指定領域に対応する前記相対値画像の領域を前記継ぎ目発生規制領域とする前記制約条件下で、前記継ぎ目を決定する、
画像生成方法。 - コンピュータに、順次に入力される入力画像を継ぎ合わせて合成画像を生成させるためのプログラムであって、
前記入力画像を表示する表示ステップと、
第1の入力画像の画素値と、前記第1の入力画像と画像の一部が重なり合う第2の入力画像の画素値とを用いて、前記第1の入力画像と前記第2の入力画像との相対関係を表す相対値を算出する相対値算出ステップと、
前記相対値算出ステップで算出された相対値を用いて、前記第1の入力画像と前記第2の入力画像との合成のための継ぎ目を決定する継ぎ目決定ステップと、
前記継ぎ目決定ステップで決定された継ぎ目に基づいて前記第1の入力画像と前記第2の入力画像とを合成して前記合成画像を生成する画像合成ステップと、
を前記コンピュータに実行させ、
前記継ぎ目決定ステップでは、
前記相対値算出ステップで算出された相対値を画素値とする相対値画像において、対象とする被写体が存在する画像領域である対象被写体領域とそれ以外の画像領域である非対象被写体領域とを分離するための所定の分離処理を行って、前記継ぎ目を決定し、
前記相対値画像における所定の継ぎ目発生規制領域に継ぎ目が発生することを規制する制約条件下で前記分離処理を行って、前記継ぎ目を決定し、
前記表示された入力画像中のユーザー操作によって指定された指定領域に対応する前記相対値画像の領域を前記継ぎ目発生規制領域とする前記制約条件下で、前記継ぎ目を決定する、
プログラム。 - 順次に入力される入力画像を継ぎ合わせて合成画像を生成する画像生成方法であって、
第1の入力画像の画素値と、前記第1の入力画像と画像の一部が重なり合う第2の入力画像の画素値とを用いて、前記第1の入力画像と前記第2の入力画像との相対関係を表す相対値を算出することと、
前記算出された相対値を用いて、前記第1の入力画像と前記第2の入力画像との合成のための継ぎ目を決定することと、
前記決定された継ぎ目に基づいて前記第1の入力画像と前記第2の入力画像とを合成して前記合成画像を生成することと、
前記生成された合成画像を表示することと、
を含み、
前記継ぎ目を決定することでは、
前記算出された相対値を画素値とする相対値画像において、対象とする被写体が存在する画像領域である対象被写体領域とそれ以外の画像領域である非対象被写体領域とを分離するための所定の分離処理を行って、前記継ぎ目を決定し、
前記相対値画像における所定の継ぎ目発生規制領域に継ぎ目が発生することを規制する制約条件下で前記分離処理を行って、前記継ぎ目を決定し、
当初に継ぎ目を決定した際の前記制約条件とは異なる制約条件下で前記継ぎ目を再決定し、
前記再決定された継ぎ目に基づいて前記第1の入力画像と前記第2の入力画像とを合成して前記合成画像を再生成することと、
前記決定された継ぎ目を前記合成画像に重畳表示することと、
をさらに含み、
前記継ぎ目の再決定では、ユーザー操作によって指定された指定領域に前記継ぎ目が含まれる場合に、当該指定領域に対応する前記相対値画像の領域を前記継ぎ目発生規制領域とする前記制約条件下で前記継ぎ目を再決定し、
前記再生成された合成画像を表示することをさらに含む、
画像生成方法。 - コンピュータに、順次に入力される入力画像を継ぎ合わせて合成画像を生成させるためのプログラムであって、
第1の入力画像の画素値と、前記第1の入力画像と画像の一部が重なり合う第2の入力画像の画素値とを用いて、前記第1の入力画像と前記第2の入力画像との相対関係を表す相対値を算出する相対値算出ステップと、
前記相対値算出ステップで算出された相対値を用いて、前記第1の入力画像と前記第2の入力画像との合成のための継ぎ目を決定する継ぎ目決定ステップと、
前記継ぎ目決定ステップで決定された継ぎ目に基づいて前記第1の入力画像と前記第2の入力画像とを合成して前記合成画像を生成する画像合成ステップと、
前記画像合成ステップで生成された合成画像を表示する表示ステップと、
を前記コンピュータに実行させ、
前記継ぎ目決定ステップでは、
前記相対値算出ステップで算出された相対値を画素値とする相対値画像において、対象とする被写体が存在する画像領域である対象被写体領域とそれ以外の画像領域である非対象被写体領域とを分離するための所定の分離処理を行って、前記継ぎ目を決定し、
前記相対値画像における所定の継ぎ目発生規制領域に継ぎ目が発生することを規制する制約条件下で前記分離処理を行って、前記継ぎ目を決定し、
当初に継ぎ目を決定した際の前記制約条件とは異なる制約条件下で前記継ぎ目を再決定する継ぎ目再決定ステップを含み、
前記画像合成ステップは、前記継ぎ目再決定ステップで再決定された継ぎ目に基づいて前記第1の入力画像と前記第2の入力画像とを合成して前記合成画像を再生成する画像再合成ステップを含み、
前記表示ステップでは、前記継ぎ目決定ステップで決定された継ぎ目を前記合成画像に重畳表示し、
前記継ぎ目再決定ステップでは、ユーザー操作によって指定された指定領域に前記継ぎ目が含まれる場合に、当該指定領域に対応する前記相対値画像の領域を前記継ぎ目発生規制領域とする前記制約条件下で前記継ぎ目を再決定し、
前記表示ステップでは、前記画像再合成ステップで再生成された合成画像を表示する、
プログラム。
Priority Applications (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014265047A JP6450589B2 (ja) | 2014-12-26 | 2014-12-26 | 画像生成装置、電子機器、画像生成方法及びプログラム |
KR1020150186805A KR101777927B1 (ko) | 2014-12-26 | 2015-12-24 | 화상생성장치, 전자기기, 화상생성방법 및 기록매체 |
TW104143672A TWI603269B (zh) | 2014-12-26 | 2015-12-25 | 圖像生成裝置、電子設備、圖像生成方法及電腦程式產品 |
CN201510993720.7A CN105744180B (zh) | 2014-12-26 | 2015-12-25 | 图像生成装置、电子设备及图像生成方法 |
US14/979,598 US9754179B2 (en) | 2014-12-26 | 2015-12-28 | Image generating device, electronic device, image generating method and recording medium |
US15/663,822 US10452945B2 (en) | 2014-12-26 | 2017-07-31 | Image generating device, electronic device, image generating method and recording medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014265047A JP6450589B2 (ja) | 2014-12-26 | 2014-12-26 | 画像生成装置、電子機器、画像生成方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016127343A JP2016127343A (ja) | 2016-07-11 |
JP6450589B2 true JP6450589B2 (ja) | 2019-01-09 |
Family
ID=56164577
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014265047A Active JP6450589B2 (ja) | 2014-12-26 | 2014-12-26 | 画像生成装置、電子機器、画像生成方法及びプログラム |
Country Status (5)
Country | Link |
---|---|
US (2) | US9754179B2 (ja) |
JP (1) | JP6450589B2 (ja) |
KR (1) | KR101777927B1 (ja) |
CN (1) | CN105744180B (ja) |
TW (1) | TWI603269B (ja) |
Families Citing this family (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10043237B2 (en) | 2015-08-12 | 2018-08-07 | Gopro, Inc. | Equatorial stitching of hemispherical images in a spherical image capture system |
JP6615545B2 (ja) * | 2015-09-15 | 2019-12-04 | 株式会社トプコン | 画像処理装置、画像処理方法および画像処理用プログラム |
US10410097B2 (en) * | 2016-06-06 | 2019-09-10 | Mutualink, Inc. | System and method for distributed intelligent pattern recognition |
US20170353737A1 (en) * | 2016-06-07 | 2017-12-07 | Mediatek Inc. | Method and Apparatus of Boundary Padding for VR Video Processing |
JP6606480B2 (ja) * | 2016-08-12 | 2019-11-13 | 日本電信電話株式会社 | パノラマ映像情報生成装置、これに用いるパノラマ映像情報生成方法、およびパノラマ映像情報生成用プログラム |
US10404960B2 (en) * | 2016-10-10 | 2019-09-03 | Samsung Electronics Co., Ltd. | System and method to prevent boundary artifacts |
US10176615B2 (en) * | 2016-12-13 | 2019-01-08 | Topcon Corporation | Image processing device, image processing method, and image processing program |
JP6699902B2 (ja) * | 2016-12-27 | 2020-05-27 | 株式会社東芝 | 画像処理装置及び画像処理方法 |
WO2018168405A1 (ja) * | 2017-03-16 | 2018-09-20 | 富士フイルム株式会社 | 画像合成装置、画像合成方法及びプログラム |
WO2018171851A1 (en) | 2017-03-20 | 2018-09-27 | 3Dintegrated Aps | A 3d reconstruction system |
US10972672B2 (en) * | 2017-06-05 | 2021-04-06 | Samsung Electronics Co., Ltd. | Device having cameras with different focal lengths and a method of implementing cameras with different focal lengths |
JP2019012360A (ja) * | 2017-06-29 | 2019-01-24 | キヤノン株式会社 | 情報処理装置、プログラム及び情報処理方法 |
US20190068876A1 (en) * | 2017-08-29 | 2019-02-28 | Nokia Technologies Oy | Method Of Image Alignment For Stitching Using A Hybrid Strategy |
WO2019130827A1 (ja) * | 2017-12-25 | 2019-07-04 | キヤノン株式会社 | 画像処理装置およびその制御方法 |
CN108346131A (zh) * | 2018-01-26 | 2018-07-31 | 深圳开阳电子股份有限公司 | 一种数字图像缩放方法、装置及显示设备 |
JP7118729B2 (ja) * | 2018-05-11 | 2022-08-16 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
CN113168509A (zh) * | 2018-11-15 | 2021-07-23 | 高通股份有限公司 | 通过球体回归的n-球体上的坐标估计 |
TWI676964B (zh) | 2018-12-11 | 2019-11-11 | 晶睿通訊股份有限公司 | 影像拼接方法及其監控攝影裝置 |
TWI682361B (zh) * | 2018-12-14 | 2020-01-11 | 財團法人工業技術研究院 | 路面影像重建與載具定位之方法與系統 |
JP6562492B1 (ja) | 2019-05-16 | 2019-08-21 | 株式会社モルフォ | 画像処理装置、画像処理方法及びプログラム |
JP2022053208A (ja) * | 2020-09-24 | 2022-04-05 | 株式会社ニューフレアテクノロジー | データ生成方法、荷電粒子ビーム照射装置及びプログラム |
WO2022157984A1 (ja) * | 2021-01-25 | 2022-07-28 | 三菱電機株式会社 | 画像合成装置、画像合成方法、及びプログラム |
KR102434428B1 (ko) * | 2022-03-23 | 2022-08-19 | 국방과학연구소 | 합성 영상 생성 방법, 합성 영상 생성 장치 및 상기 방법을 실행시키기 위하여 기록매체에 저장된 컴퓨터 프로그램 |
CN114742707B (zh) * | 2022-04-18 | 2022-09-27 | 中科星睿科技(北京)有限公司 | 多源遥感图像拼接方法、装置、电子设备和可读介质 |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6075905A (en) * | 1996-07-17 | 2000-06-13 | Sarnoff Corporation | Method and apparatus for mosaic image construction |
US6104840A (en) * | 1996-11-08 | 2000-08-15 | Ricoh Company, Ltd. | Method and system for generating a composite image from partially overlapping adjacent images taken along a plurality of axes |
JP3993672B2 (ja) | 1996-11-08 | 2007-10-17 | 株式会社リコー | 座標変換方法、画像合成方法及び情報記録媒体 |
JP4108171B2 (ja) | 1998-03-03 | 2008-06-25 | 三菱電機株式会社 | 画像合成装置 |
JP4346742B2 (ja) * | 1999-08-17 | 2009-10-21 | キヤノン株式会社 | 画像合成方法、画像合成装置及び記憶媒体 |
WO2008047518A1 (fr) * | 2006-10-19 | 2008-04-24 | Panasonic Corporation | Dispositif de synthèse d'image, procédé de synthèse d'image, programme de synthèse d'image, circuit intégré |
KR101510101B1 (ko) | 2008-01-30 | 2015-04-10 | 삼성전자주식회사 | 디지털 영상 처리장치 및 그 제어방법 |
JP5267396B2 (ja) * | 2009-09-16 | 2013-08-21 | ソニー株式会社 | 画像処理装置および方法、並びにプログラム |
JP2012191486A (ja) * | 2011-03-11 | 2012-10-04 | Sony Corp | 画像合成装置と画像合成方法およびプログラム |
JP2013206015A (ja) * | 2012-03-28 | 2013-10-07 | Sony Corp | 画像処理装置および方法、並びにプログラム |
US9275485B2 (en) * | 2012-06-28 | 2016-03-01 | The University Of Utah Research Foundation | Seam network processing for panorama weaving |
IN2014CH02078A (ja) * | 2013-04-24 | 2015-07-03 | Morpho Inc | |
WO2014178235A1 (ja) * | 2013-04-30 | 2014-11-06 | ソニー株式会社 | 画像処理装置、画像処理方法、プログラム |
CN104680501B (zh) * | 2013-12-03 | 2018-12-07 | 华为技术有限公司 | 图像拼接的方法及装置 |
US9563953B2 (en) | 2014-08-28 | 2017-02-07 | Qualcomm Incorporated | Systems and methods for determining a seam |
-
2014
- 2014-12-26 JP JP2014265047A patent/JP6450589B2/ja active Active
-
2015
- 2015-12-24 KR KR1020150186805A patent/KR101777927B1/ko active IP Right Grant
- 2015-12-25 CN CN201510993720.7A patent/CN105744180B/zh active Active
- 2015-12-25 TW TW104143672A patent/TWI603269B/zh active
- 2015-12-28 US US14/979,598 patent/US9754179B2/en active Active
-
2017
- 2017-07-31 US US15/663,822 patent/US10452945B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
CN105744180B (zh) | 2019-03-12 |
TW201635194A (zh) | 2016-10-01 |
US20160188992A1 (en) | 2016-06-30 |
KR20160079719A (ko) | 2016-07-06 |
TWI603269B (zh) | 2017-10-21 |
US10452945B2 (en) | 2019-10-22 |
US9754179B2 (en) | 2017-09-05 |
US20170330052A1 (en) | 2017-11-16 |
CN105744180A (zh) | 2016-07-06 |
JP2016127343A (ja) | 2016-07-11 |
KR101777927B1 (ko) | 2017-09-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6450589B2 (ja) | 画像生成装置、電子機器、画像生成方法及びプログラム | |
JP5493114B1 (ja) | 画像処理装置、画像処理方法、画像処理プログラム及び記録媒体 | |
JP6621798B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
EP2985734B1 (en) | Image processing system, image processing apparatus, and image capturing system | |
JP6100089B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
US11039068B2 (en) | Image processing apparatus, image processing method, and program | |
CN107037962B (zh) | 图像处理装置、电子设备以及图像处理方法 | |
WO2012042974A1 (ja) | 情報提示装置、デジタルカメラ、ヘッドマウントディスプレイ、プロジェクタ、情報提示方法、情報提示プログラム | |
US9986158B2 (en) | Method and apparatus for photographing a panoramic image | |
US8848032B2 (en) | Imaging device, imaging method, and computer-readable medium | |
JP6769440B2 (ja) | 画像処理装置、画像処理方法、プログラムおよび撮像システム | |
JP2012242821A (ja) | 表示画像生成方法 | |
JP2002171398A (ja) | 画像処理方法及び電子カメラ | |
JP2018152782A (ja) | 画像処理システム、撮像装置、画像処理方法及びプログラム | |
JP7306089B2 (ja) | 画像処理システム、撮像システム、画像処理装置、撮像装置およびプログラム | |
JP2011103031A (ja) | 透視変換パラメータ生成装置、画像補正装置、透視変換パラメータ生成方法、画像補正方法、及びプログラム | |
JP2004072677A (ja) | 画像合成装置、画像合成方法、画像合成プログラム、および画像合成プログラムを記録した記録媒体 | |
JPH10108003A (ja) | 画像合成装置および画像合成方法 | |
JP5687370B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム及び記録媒体 | |
JP2011103514A (ja) | 映像情報処理装置 | |
US20230206386A1 (en) | Image processing apparatus, image processing method, and storage medium | |
JP2011135437A (ja) | 撮像装置、画像合成方法及びプログラム | |
JP2003069879A (ja) | 画像入力装置およびプログラム | |
JP2021145190A (ja) | 画像処理装置、画像処理方法、撮像装置、画像処理システムおよびプログラム | |
JP2014021744A (ja) | 画像処理装置、画像処理方法、およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170906 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180625 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180710 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20180905 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20181030 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20181031 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20181113 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20181210 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6450589 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |