JP2016192059A - 画像合成装置、画像合成方法、画像合成プログラム及び記録媒体 - Google Patents

画像合成装置、画像合成方法、画像合成プログラム及び記録媒体 Download PDF

Info

Publication number
JP2016192059A
JP2016192059A JP2015071487A JP2015071487A JP2016192059A JP 2016192059 A JP2016192059 A JP 2016192059A JP 2015071487 A JP2015071487 A JP 2015071487A JP 2015071487 A JP2015071487 A JP 2015071487A JP 2016192059 A JP2016192059 A JP 2016192059A
Authority
JP
Japan
Prior art keywords
image
frequency component
resolution
resolutions
composition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015071487A
Other languages
English (en)
Other versions
JP6453694B2 (ja
Inventor
理弘 小林
Michihiro Kobayashi
理弘 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Morpho Inc
Original Assignee
Morpho Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Morpho Inc filed Critical Morpho Inc
Priority to JP2015071487A priority Critical patent/JP6453694B2/ja
Priority to US15/084,602 priority patent/US9824431B2/en
Priority to CN201610192217.6A priority patent/CN106023275B/zh
Publication of JP2016192059A publication Critical patent/JP2016192059A/ja
Application granted granted Critical
Publication of JP6453694B2 publication Critical patent/JP6453694B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20016Hierarchical, coarse-to-fine, multiscale or multiresolution image processing; Pyramid transform
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20048Transform domain processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging

Abstract

【課題】数学的な制約による画像信号の歪みを抑えつつ、合成された2つの画像の境界が目立ちにくく、違和感のない合成画像を生成すること。
【解決手段】画像合成装置1は、背景画像に前景画像を合成して合成画像を生成する画像合成装置であり、複数の解像度の背景画像及び前景画像を取得する画像取得部10と、複数の解像度の背景画像、及び、複数の解像度の前景画像からそれぞれ低周波成分及び高周波成分を算出する周波数成分算出部13と、複数の解像度の背景画像の低周波成分と、複数の解像度の前景画像の高周波成分と、に基づいて、合成画像を生成する画像合成部18と、を備える。
【選択図】図1

Description

本発明は、画像合成装置、画像合成方法、画像合成プログラム及び記録媒体に関する。
従来、画像合成技術として、ポワソンブレンドが知られている(例えば、特許文献1参照)。このポワソンブレンドは、合成対象となる2つの画像間の勾配の誤差を最小化するように合成する手法である。ポワソンブレンドでは、一般に用いられるアルファブレンドと比べて合成された2つの画像の境界が目立ちにくい。
米国特許出願公開第2004/0165788号明細書
しかしながら、ポワソンブレンドが最適化する画像の勾配は、x方向の成分とy方向の成分とを有するベクトル場であり、一般的なベクトル場は勾配としての正しい性質を有しない(可積分性が低い)ことがある。ポワソンブレンドは、可積分性を保ちつつ、目的となる勾配に近い勾配を求める手法である。したがって、目的とする勾配の可積分性が低い場合には、最適化によって目的値から大きく乖離した結果をもたらす可能性がある。この乖離に起因する局所的な画像信号の歪みによって、意図しない色が現れ、アーティファクトとして知覚されるおそれがある。
数学的な制約による画像信号の歪みを抑えつつ、合成された2つの画像の境界が目立ちにくく、違和感のない合成画像を生成可能な画像合成装置、画像合成方法、画像合成プログラム、並びに、画像合成プログラムを格納した記録媒体が望まれている。
本発明の一態様に係る画像合成装置は、第1画像に第2画像を合成して合成画像を生成する画像合成装置である。この画像合成装置は、複数の解像度の第1画像及び第2画像を取得する画像取得部と、複数の解像度の第1画像、及び、複数の解像度の第2画像からそれぞれ低周波成分及び高周波成分を算出する周波数成分算出部と、複数の解像度の第1画像の低周波成分と、複数の解像度の第2画像の高周波成分と、に基づいて、合成画像を生成する画像合成部と、を備える。
この画像合成装置によれば、複数の解像度の第1画像の低周波成分と、複数の解像度の第2画像の高周波成分と、に基づいて、合成画像が生成される。低周波成分には全体的な輝度及び色合いが含まれており、高周波成分にはテクスチャが含まれる。このため、合成画像の輝度及び色合いを背景画像の輝度及び色合いに合わせながら、前景画像のテクスチャ(詳細な模様)を反映することが可能となる。また、合成画像は様々な周波数成分の合成によって生成されるので、ポワソンブレンドのような数学的な制約による画像信号の歪みが生じることは理論的にはない。その結果、数学的な制約による画像信号の歪みを抑えつつ、合成された2つの画像の境界が目立ちにくく、違和感のない合成画像を生成可能となる。
画像取得部は、第1解像度の第1画像の低周波成分及び第1解像度の第2画像の低周波成分をそれぞれ縮小することによって、第1解像度よりも小さい第2解像度の第1画像及び第2解像度の第2画像を生成してもよい。この場合、第1画像及び第2画像の低解像度化を容易化することが可能となる。
画像合成部は、解像度ごとに合成画像を生成してもよく、画像合成部は、生成した第2解像度の合成画像を拡大し、拡大した第2解像度の合成画像の合成対象の領域でない非合成対象領域を、第1解像度の第1画像における非合成対象領域に対応する領域で置き換えた後に、拡大した第2解像度の合成画像の合成対象の領域である合成対象領域の高周波成分と、第1解像度の第2画像の高周波成分に基づいて定められた目標高周波成分と、の差分が最小となるように、合成対象領域に目標高周波成分を合成することによって、第1解像度の合成画像を生成してもよい。この構成によれば、拡大された第2解像度の合成画像の非合成対象領域が第1解像度の第1画像における非合成対象領域に対応する領域で置き換えられるので、第1解像度の合成画像における非合成対象領域には、第1解像度の第1画像がそのまま再現される。そして、非合成対象領域に第1解像度の第1画像が再現された後に、合成対象領域の高周波成分と、目標高周波成分と、の差分が最小となるように、合成対象領域に第1解像度の目標高周波成分が合成される。このため、合成対象領域と非合成対象領域との境界における変化が低減されるとともに、第1解像度の合成画像における合成対象領域には、全体的な輝度及び色合いを変えることなく、第1解像度の第2画像のテクスチャが再現される。その結果、合成された2つの画像の境界をさらに目立ちにくくすることができ、さらに違和感のない合成画像を生成することが可能となる。さらに、解像度の小さい第2画像から順に、高周波成分を合成しているので、計算時間を短縮することが可能となる。
画像合成部は、複数の解像度の第1画像のうち最低解像度の第1画像を最低解像度の合成画像としてもよい。第1画像の最低周波数成分には、第1画像の全体的な輝度及び色合いが含まれている。このため、第1画像の最低周波数成分を最低解像度の合成画像とすることによって、全体的な輝度及び色合いを第1画像に合わせることが可能となる。
本発明の別の態様に係る画像合成装置は、合成対象領域及び非合成対象領域を規定するマスク画像であって、複数の解像度のマスク画像を取得するマスク画像取得部をさらに備えてもよい。画像合成部は、解像度ごとのマスク画像を用いて、当該解像度の合成画像を生成してもよい。この場合、マスク画像の解像度を低下させることによって、各解像度の合成対象領域及び非合成対象領域を規定することができる。このため、各解像度における合成対象領域及び非合成対象領域の規定を容易化することが可能となる。
マスク画像取得部は、第1解像度のマスク画像を所定の画素数のブロックに分割し、ブロックに合成対象領域が含まれている場合には、当該ブロックを合成対象領域の画素とし、ブロックに合成対象領域が含まれていない場合には、当該ブロックを非合成対象領域の画素とすることによって、第2解像度のマスク画像を生成してもよい。この場合、解像度が低いマスク画像ほど、マスク画像における合成対象画素の占める領域を拡大することができる。このため、画像合成において、ある解像度における合成対象領域には、その解像度よりも小さい解像度の目標高周波成分が合成されており、合成対象領域と非合成対象領域との境界周辺にもその解像度よりも小さい解像度の目標高周波成分が合成されている。したがって、第2画像の再現性を向上できるとともに、合成された2つの画像の境界をさらに目立ちにくくすることができ、さらに違和感のない合成画像を生成することが可能となる。
周波数成分算出部は、解像度ごとに、当該解像度の第1画像から当該解像度の第1画像の低周波成分を減算することによって、当該解像度の第1画像の高周波成分を算出してもよく、当該解像度の第2画像から当該解像度の第2画像の低周波成分を減算することによって、当該解像度の第2画像の高周波成分を算出してもよい。この場合、各解像度の第1画像の高周波成分、及び、各解像度の第2画像の高周波成分を簡単な計算によって算出することができる。
本発明のさらに別の態様に係る画像合成方法は、第1画像に第2画像を合成して合成画像を生成する画像合成装置が行う画像合成方法である。この画像合成方法は、複数の解像度の第1画像及び第2画像を取得する画像取得ステップと、複数の解像度の第1画像、及び、複数の解像度の第2画像からそれぞれ低周波成分及び高周波成分を算出する周波数成分算出ステップと、複数の解像度の第1画像の低周波成分と、複数の解像度の第2画像の高周波成分と、に基づいて、合成画像を生成する画像合成ステップと、を含む。
この画像合成方法によれば、上述した本発明の一態様に係る画像合成装置と同様の効果を奏することができる。
本発明のさらに別の態様に係る画像合成プログラムは、第1画像に第2画像を合成して合成画像を生成するようにコンピュータを動作させる画像合成プログラムである。この画像合成プログラムは、複数の解像度の第1画像及び第2画像を取得する画像取得部と、複数の解像度の第1画像、及び、複数の解像度の第2画像からそれぞれ低周波成分及び高周波成分を算出する周波数成分算出部と、複数の解像度の第1画像の低周波成分と、複数の解像度の第2画像の高周波成分と、に基づいて、合成画像を生成する画像合成部と、してコンピュータを機能させる。
この画像合成プログラムによれば、上述した本発明の一態様に係る画像合成装置と同様の効果を奏することができる。
本発明のさらに別の態様に係る記録媒体は、第1画像に第2画像を合成して合成画像を生成するようにコンピュータを動作させる画像合成プログラムを記録した記録媒体である。この記録媒体に記録された画像合成プログラムは、複数の解像度の第1画像及び第2画像を取得する画像取得部と、複数の解像度の第1画像、及び、複数の解像度の第2画像からそれぞれ低周波成分及び高周波成分を算出する周波数成分算出部と、複数の解像度の第1画像の低周波成分と、複数の解像度の第2画像の高周波成分と、に基づいて、合成画像を生成する画像合成部と、してコンピュータを機能させる。
この記録媒体によれば、上述した本発明の一態様に係る画像合成装置と同様の効果を奏することができる。
本発明によれば、数学的な制約による画像信号の歪みを抑えつつ、合成された2つの画像の境界が目立ちにくく、違和感のない合成画像の生成が可能となる。
本実施形態に係る画像合成装置を備える携帯端末の機能ブロック図である。 図1の画像合成装置が搭載される携帯端末のハードウェア構成図である。 高周波成分算出処理及び低解像度化処理を説明するための図である。 マスク画像縮小処理を説明するための図である。 前処理を説明するための図である。 前処理を説明するための図である。 図1の画像合成装置が行う画像合成方法の一連の処理を示すフローチャートである。 背景画像、前景画像及びマスク画像の一例を示す図である。 各レイヤの背景画像、前景画像、高周波成分及びマスク画像の一例を示す図である。 合成画像の一例を示す図である。
以下、添付図面を参照しながら本発明の実施形態を詳細に説明する。図面の説明において、同一又は同等の要素には同一符号を用い、重複する説明を省略する。
本実施形態に係る画像合成装置は、背景画像(第1画像)に前景画像(第2画像)を合成することによって、合成画像を生成する装置である。ここで、前景画像及び背景画像は画像合成の対象となる画像であって、前景画像は合成元の画像であり、背景画像は合成先の画像である。合成画像は、背景画像の所定領域に前景画像を合成した画像であり、例えば背景画像と同じサイズを有している。本実施形態に係る画像合成装置は、例えば、携帯電話、デジタルカメラ、PDA(Personal Digital Assistant)等、リソースに制限のあるモバイル端末に好適に搭載されるものであるが、これらに限られるものではなく、例えば通常のコンピュータシステムに搭載されてもよい。また、画像合成装置は、撮像装置に組み込まれるいわゆるオンチップISP(Image Signal Processor)なども含む趣旨である。なお、以下では、説明理解の容易性を考慮し、一例として、携帯端末に搭載される画像合成装置を説明する。
図1は、本実施形態に係る画像合成装置1を備える携帯端末2の機能ブロック図である。図1に示される携帯端末2は、例えばユーザによって携帯される移動端末であり、図2に示されるハードウェア構成を有する。図2は、携帯端末2のハードウェア構成図である。図2に示されるように、携帯端末2は、物理的には、CPU(Central Processing Unit)100、RAM(Random Access Memory)101及びROM(Read Only Memory)102等の主記憶装置、カメラ又はキーボード等の入力デバイス103、ディスプレイ等の出力デバイス104、ハードディスク又は半導体メモリ等の補助記憶装置105などを含む通常のコンピュータシステムとして構成される。後述する携帯端末2及び画像合成装置1の各機能は、CPU100、RAM101等のハードウェア上に所定のコンピュータソフトウェアを読み込ませることにより、CPU100の制御の元で入力デバイス103及び出力デバイス104を動作させるとともに、主記憶装置や補助記憶装置105におけるデータの読み出し及び書き込みを行うことで実現される。なお、上記の説明は携帯端末2のハードウェア構成として説明したが、画像合成装置1がCPU100、RAM101及びROM102等の主記憶装置、入力デバイス103、出力デバイス104、補助記憶装置105などを含む通常のコンピュータシステムとして構成されてもよい。また、携帯端末2は、通信モジュール等を備えてもよい。
図1に示されるように、携帯端末2は、画像合成装置1と、表示部21と、を備えている。画像合成装置1は、機能的には、画像取得部10と、周波数成分算出部13と、目標高周波成分算出部14と、マスク画像取得部15と、画像合成部18と、出力部19と、を備えている。
画像取得部10は、複数の解像度の前景画像及び複数の解像度の背景画像を取得する。画像取得部10は、所定の解像度(第1解像度)の前景画像の低周波成分及び所定の解像度の前景画像の低周波成分をそれぞれ縮小することによって、所定の解像度よりも1段階小さい解像度(第2解像度)の前景画像及び背景画像を生成する。具体的には、画像取得部10は、画像入力部11及び低解像度化部12を備えている。
画像入力部11は、合成対象の前景画像と背景画像とを入力する機能を有している。画像入力部11は、例えば、カメラ等の撮像装置によって撮像された画像を前景画像又は背景画像として入力してもよく、別の機器からネットワーク等を介して送信された画像を前景画像又は背景画像として入力してもよい。画像入力部11は、背景画像に前景画像を合成するための合成情報を入力する。例えば、携帯端末2のユーザは、タッチパネル等の入力デバイス103を用いて、前景画像に平行移動、拡大縮小、及び回転等の処理を施すことによって、合成する前景画像の大きさ、向き、及び背景画像上の合成位置を指定する。画像入力部11は、例えば、携帯端末2のユーザが入力デバイス103を用いて指定した前景画像の大きさ、前景画像の向き、合成位置等を示す合成情報を入力する。画像入力部11は、入力した前景画像、背景画像及び合成情報を周波数成分算出部13に出力し、入力した背景画像及び合成情報を画像合成部18に出力する。
低解像度化部12は、周波数成分算出部13によって算出された所定の解像度の前景画像の低周波成分及び所定の解像度の前景画像の低周波成分をそれぞれ縮小することによって、所定の解像度よりも1段階小さい解像度の前景画像及び背景画像を生成する機能を有している。低解像度化部12は、例えば所定の解像度の前景画像の低周波成分をサブサンプリングすることによって、解像度を半分とした低解像度の前景画像を生成し、所定の解像度の背景画像の低周波成分をサブサンプリングすることによって、解像度を半分とした低解像度の背景画像を生成する。ここで、各画像の元画像をレイヤ0の画像といい、元画像に対して(1/2)の解像度の画像をレイヤkの画像という。つまり、レイヤが大きくなるほど、解像度は小さくなる。ここで、kは0〜Nの整数値である。Nは、例えば入力した前景画像及び背景画像を縦横1/2ずつ縮小する低解像度化処理を繰り返した場合に、縮小された画像のサイズが予め定められた値を下回るときの低解像度化処理の回数として決定され得る。低解像度化部12は、生成したレイヤ1〜Nの前景画像及び背景画像を周波数成分算出部13に出力し、レイヤ1〜Nの背景画像を画像合成部18に出力する。なお、以下において、「解像度」をその解像度に対応する「レイヤ」として説明する場合がある。
周波数成分算出部13は、複数の解像度の前景画像、及び、複数の解像度の背景画像からそれぞれ低周波成分及び高周波成分を算出する機能を有している。周波数成分算出部13は、画像入力部11によって入力された前景画像及び背景画像、並びに、低解像度化部12によって生成された低解像度の前景画像及び背景画像のそれぞれについて、低周波成分及び高周波成分を算出する。つまり、周波数成分算出部13は、レイヤ0〜N−1の前景画像及び背景画像のそれぞれについて、低周波成分及び高周波成分を算出する。この低周波成分及び高周波成分の算出は、背景画像の座標系を用いて行われ、前景画像の低周波成分及び高周波成分の算出は、画像入力部11から出力された合成情報が示す合成情報に基づいて行われる。周波数成分算出部13は、レイヤ0〜N−1の前景画像及び背景画像の低周波成分を低解像度化部12に出力し、レイヤ0〜N−1の前景画像及び背景画像の高周波成分を目標高周波成分算出部14に出力する。
図3を用いて、低解像度化部12及び周波数成分算出部13の処理を具体的に説明する。図3は、周波数成分算出処理及び低解像度化処理を説明するための図である。周波数成分算出部13は、例えば、周波数成分の算出対象となる画像であるレイヤkの対象画像Iに含まれる全ての画素の画素値I i,jについてそれぞれ当該画素の低周波成分L i,j及び高周波成分H i,jを算出する。なお、以下の説明において、画像等を示す符号に添えられた番号iは、当該画像等の画素の列番号を示し、画像等を示す符号に添えられた番号jは、当該画像等の画素の行番号を示している。図3の例では、iは0〜3の整数値、jは0〜3の整数値である。
具体的に説明すると、周波数成分算出部13は、まず、周波数成分の算出対象となる画素である対象画素の低周波成分L i,jを算出する。低周波成分の算出には、例えば、ローパスフィルタが用いられ、対象画素及び対象画素の周囲の8画素を含む3×3画素の画素値の平均が計算されることによって、対象画素の低周波成分が算出される。そして、周波数成分算出部13は、対象画素の画素値I i,jから当該対象画素の低周波成分L i,jを減算することによって、当該対象画素の高周波成分H i,jを算出する。そして、低解像度化部12が、レイヤkの対象画像Iの低周波成分Lをサブサンプリングすることによって、レイヤk+1の画像Ik+1を生成する。低解像度化部12及び周波数成分算出部13は、レイヤ0〜N−1の前景画像及び背景画像に対して上記処理を行う。つまり、周波数成分算出部13は、解像度ごとに、当該解像度の前景画像から当該解像度の前景画像の低周波成分を減算することによって、当該解像度の前景画像の高周波成分を算出し、当該解像度の背景画像から当該解像度の背景画像の低周波成分を減算することによって、当該解像度の背景画像の高周波成分を算出する。
目標高周波成分算出部14は、周波数成分算出部13によって算出された前景画像の高周波成分に基づいて、目標高周波成分を算出する機能を有している。目標高周波成分算出部14は、各レイヤにおいて、前景画像の高周波成分に基づいて、目標高周波成分を算出する。目標高周波成分算出部14は、例えば、前景画像の高周波成分と背景画像の高周波成分とを合成することによって、目標高周波成分を算出する。算出方法は適宜選択され、選択された算出方法によって合成画像が異なる。目標高周波成分算出部14は、例えば、式(1)に示されるように、各画素について、レイヤkの前景画像の高周波成分Hfg _i,jをレイヤkの目標高周波成分Hdst _i,jとして算出してもよい。
目標高周波成分算出部14は、例えば、式(2)に示されるように、各画素について、レイヤkの前景画像の高周波成分Hfg _i,j及びレイヤkの背景画像の高周波成分Hbg _i,jのうち、絶対値の大きい方をレイヤkの目標高周波成分Hdst _i,jとして算出してもよい。
目標高周波成分算出部14は、例えば、式(3)に示されるように、各画素について、レイヤkの前景画像の高周波成分Hfg _i,j及びレイヤkの背景画像の高周波成分Hbg _i,jをアルファブレンディングすることによって、レイヤkの目標高周波成分Hdst _i,jを算出してもよい。なお、αは0〜1の値である。目標高周波成分算出部14は、算出したレイヤ0〜N−1の目標高周波成分を画像合成部18に出力する。
マスク画像取得部15は、複数の解像度のマスク画像を取得する。マスク画像は、合成対象の領域である合成対象領域、及び、合成対象の領域でない非合成対象領域を規定する画像である。マスク画像は、合成対象の画素である合成対象画素によって合成対象領域を規定し、合成対象でない画素である非合成対象画素によって非合成対象領域を規定している。マスク画像は2値の画像であり、例えば、マスク画像における1の画素値を有する画素は合成対象画素を示し、0の画素値を有する画素は非合成対象画素を示している。マスク画像は、例えば前景画像と同じサイズである。マスク画像取得部15は、所定の解像度のマスク画像を所定の画素数のブロックに分割し、ブロックに合成対象領域が含まれている場合には、当該ブロックを合成対象領域の画素とし、ブロックに合成対象領域が含まれていない場合には、当該ブロックを非合成対象領域の画素とすることによって、当該解像度よりも1段階小さい解像度のマスク画像を生成する。具体的には、マスク画像取得部15は、マスク画像入力部16及びマスク画像縮小部17を備えている。
マスク画像入力部16は、マスク画像を入力する機能を有している。マスク画像入力部16は、例えば、携帯端末2のユーザがタッチパネル等の入力デバイス103を用いて指定したマスク画像、又は、アプリケーションによって自動生成されたマスク画像を入力する。マスク画像入力部16は、入力したマスク画像をマスク画像縮小部17に出力する。
マスク画像縮小部17は、マスク画像入力部16によって入力されたマスク画像を縮小する機能を有している。マスク画像縮小部17は、例えば、マスク画像を2×2画素のブロックに分割し、当該ブロック内のいずれかの画素が合成対象画素である場合は、当該ブロックを1画素の合成対象画素とし、当該ブロック内のすべての画素が非合成対象画素である場合は、当該ブロックを1画素の非合成対象画素とする。つまり、マスク画像縮小部17は、2×2画素のブロック内における合成対象画素の論理和によって、マスク画像を1/2の解像度のマスク画像に縮小する。
合成対象画素の画素値が1であり、非合成対象画素の画素値が0である場合には、マスク画像縮小部17は、2×2画素のブロック内における画素値の論理和によって、マスク画像を1/2の解像度のマスク画像に縮小する。なお、前景画像及び背景画像と同様に、マスク画像の元画像をレイヤ0のマスク画像といい、元画像に対して(1/2)の解像度のマスク画像をレイヤkのマスク画像という。マスク画像が縮小されるにつれて、マスク画像における合成対象画素の占める領域、つまり合成対象領域が拡大する。マスク画像縮小部17は、レイヤ1〜N−1のマスク画像を生成し、レイヤ0〜N−1のマスク画像を画像合成部18に出力する。
図4を用いて、マスク画像縮小部17の処理を具体的に説明する。図4は、マスク画像縮小処理を説明するための図である。マスク画像縮小部17は、例えば、レイヤkのマスク画像Mを2×2画素のブロック(ブロックB1、ブロックB2、ブロックB3及びブロックB4)に分割する。ブロックB1では、全ての画素が非合成対象画素Mbgである。このため、ブロックB1には非合成対象領域Rbgが含まれており、合成対象領域Rfgが含まれていないので、レイヤk+1のマスク画像Mk+1において、ブロックB1に対応する画素は非合成対象画素Mbgに設定される。ブロックB2では、2つの画素が合成対象画素Mfgであり、2つの画素が非合成対象画素Mbgである。このため、ブロックB2には合成対象領域Rfg及び非合成対象領域Rbgが含まれているので、レイヤk+1のマスク画像Mk+1において、ブロックB2に対応する画素は合成対象画素Mfgに設定される。ブロックB3では、1つの画素が合成対象画素Mfgであり、3つの画素が非合成対象画素Mbgである。このため、ブロックB3には合成対象領域Rfg及び非合成対象領域Rbgが含まれているので、レイヤk+1のマスク画像Mk+1において、ブロックB3に対応する画素は合成対象画素Mfgに設定される。ブロックB4では、全ての画素が合成対象画素Mfgである。このため、ブロックB4には合成対象領域Rfgが含まれているので、レイヤk+1のマスク画像Mk+1において、ブロックB4に対応する画素は合成対象画素Mfgに設定される。このようにして、マスク画像縮小部17は、マスク画像Mからマスク画像Mk+1を生成する。
画像合成部18は、複数の解像度の背景画像の低周波成分と、複数の解像度の前景画像の高周波成分と、に基づいて、合成画像を生成する機能を有している。画像合成部18は、解像度ごとに合成画像を生成する。画像合成部18は、解像度ごとのマスク画像を用いて、当該解像度の合成画像を生成する。画像合成部18は、全体的な輝度及び色みを背景画像にそろえるために、複数の解像度の背景画像のうち最低解像度であるレイヤNの背景画像をそのままレイヤNの合成画像とする。画像合成部18は、レイヤk+1の合成画像に対して前処理及び最適化処理を行ってレイヤkの合成画像を生成する。なお、画像合成部18の処理は、背景画像の座標系を用いて行われる。
まず、画像合成部18の前処理を説明する。前処理では、画像合成部18は、生成した所定の解像度の合成画像を拡大し、拡大合成画像を生成する。そして、画像合成部18は、当該解像度の拡大合成画像の非合成対象領域を、当該解像度よりも1段階大きい解像度の背景画像における非合成対象領域に対応する領域で置き換える。以下、前処理を詳細に説明する。画像合成部18は、レイヤk+1の合成画像を2倍に拡大し、拡大合成画像を生成する。この拡大処理は、例えば最近傍法によって行われる。画像合成部18は、拡大合成画像の所定の位置にレイヤkのマスク画像を適用する。マスク画像が適用される位置は、拡大合成画像において、画像入力部11から出力された合成情報によって示される合成位置に対応する位置である。そして、画像合成部18は、拡大合成画像において、マスク画像の非合成対象画素に対応する画素の画素値を、レイヤkの背景画像の画素の画素値に置き換える。このとき、画像合成部18は、拡大合成画像において、マスク画像の範囲外の画素に対応する画素の画素値を、その画素に対応するレイヤkの背景画像の画素の画素値に置き換える。これにより、画像合成部18は、レイヤkの合成前画像を生成する。
図5及び図6を用いて、画像合成部18の前処理を具体的に説明する。図5及び図6は、前処理を説明するための図である。図5に示されるように、画像合成部18は、レイヤk+1の合成画像Ok+1を2倍に拡大した拡大合成画像Oxk+1を生成する。画像合成部18は、例えば、合成画像Ok+1の各画素について、当該画素と同じ画素値を有する2×2の画素に拡大することによって、拡大合成画像Oxk+1を生成する。そして、画像合成部18は、拡大合成画像Oxk+1に図6の(a)に示されるレイヤkのマスク画像Mを適用し、マスク画像Mの非合成対象画素Mbgに対応する画素を図6の(b)に示されるレイヤkの背景画像Ibg の画素の画素値で置き換える。このようにして、図6の(c)に示される合成前画像Opが生成される。
続いて、画像合成部18の最適化処理を説明する。最適化処理では、画像合成部18は、所定の解像度の拡大合成画像の合成対象領域の高周波成分と、当該解像度よりも1段階大きい解像度の目標高周波成分と、の差分が最小となるように、合成対象領域に目標高周波成分を合成することによって、当該解像度よりも1段階大きい解像度の合成画像を生成する。以下、最適化処理を詳細に説明する。画像合成部18は、前景画像のテクスチャを反映するために、合成前画像における合成対象画素に対応する画素に対して、レイヤkの目標高周波成分を用いて最適化処理を行う。この最適化処理は、高周波成分の誤差を最小化する最適化問題を解くことによって行われる。
ある画素の画素値Ii,jにおける誤差関数Ei,jは、式(4)に示されるように、合成前画像Opにおける当該画素値Ii,jの高周波成分から、当該画素の目標高周波成分Hdst_i,jを減算し、減算結果を2乗する関数である。ある画素の画素値Ii,jの高周波成分Hi,jは、周波数成分算出部13の処理と同様に、当該画素の画素値Ii,jから当該画素の低周波成分Li,jを減算することによって算出される。低周波成分Li,jは、例えば、当該画素及び当該画素の周囲の8画素を含む3×3画素の画素値の平均が計算されることによって算出される。なお、式(4)〜式(6)において、レイヤを示す符号は省略されている。また、式(4)〜式(6)において、kはレイヤを示すパラメータではなく、画像等の画素の列番号を示すパラメータとして用いられる。
目的関数E(I)は、式(5)に示されるように、誤差関数Ei,jを画像全体に(全画素に亘って)和を算出することによって得られる。なお、係数81/2は計算の便宜上設定された値であり、最適化の結果に影響を及ぼさないので、他の値であってもよい。
画像合成部18は、目的関数E(I)を最小化するように、画素値Ii,jを最適化する。画像合成部18は、例えば、極値の条件式から得られた画素値Ik,lにおける更新式(6)を用いて、画素値Ik,lを最適化する。なお、κは最適化回数を示している。
画像合成部18は、合成対象画素Mfgの画素値が収束するまで最適化回数κを1ずつ加算して、式(6)を繰り返し演算する。この繰り返し回数は、例えば、100回程度である。画像合成部18は、最適化された画素値を有する画像をレイヤkの合成画像Oとして取得する。最適化する画素の順番は任意であり、複数の画素の最適化が並列化されてもよい。
画像合成部18は、レイヤ0の合成画像Oが得られるまで、上述の前処理及び最適化処理を繰り返し行う。画像合成部18は、合成画像Oを出力部19に出力する。
出力部19は、画像合成部18によって生成された合成画像を出力する機能を有している。出力部19は、例えば、表示部21に合成画像を出力することによって、表示部21に合成画像を表示させる。表示部21は、合成画像を表示する。表示部21としては、例えばディスプレイ装置が用いられる。
次に、画像合成装置1の動作を説明する。図7は、画像合成装置1が行う画像合成方法の一連の処理を示すフローチャートである。図7に示される処理は、例えば、携帯端末2において、画像合成用のアプリケーションが実行されている場合に、カメラ等の撮像装置を用いて撮像が行われることによって開始される。この場合、撮像が行われる度に図7に示される処理が繰り返し行われる。
まず、画像入力部11が、合成対象の前景画像及び背景画像を入力する(ステップS01,画像取得ステップ)。例えば、画像入力部11は、撮像された画像を前景画像として入力し、携帯端末2に予め準備されている画像を背景画像として入力する。画像入力部11は、背景画像として図8の(a)に示される画像を入力し、前景画像として図8の(b)に示される画像を入力したとする。また、画像入力部11は、背景画像に前景画像を合成するための合成情報を入力する。画像入力部11は、入力したレイヤ0の前景画像及び背景画像を周波数成分算出部13に出力し、入力したレイヤ0の背景画像及び合成情報を画像合成部18に出力する。
続いて、周波数成分算出部13が、画像入力部11によって入力された元画像の前景画像及び背景画像であるレイヤ0の前景画像及び背景画像のそれぞれから低周波成分及び高周波成分を算出する(ステップS02,周波数成分算出ステップ)。そして、周波数成分算出部13は、レイヤ0の前景画像及び背景画像の低周波成分を低解像度化部12に出力する。
続いて、低解像度化部12が、レイヤ0の前景画像及び背景画像の低周波成分をサブサンプリングして解像度を低下させることによって、レイヤ1の前景画像及び背景画像を生成する(ステップS03,画像取得ステップ)。そして、低解像度化部12は、レイヤ1の前景画像及び背景画像を周波数成分算出部13に出力するとともに、レイヤ1の背景画像を画像合成部18に出力する。そして、周波数成分算出部13は、低解像度化部12から出力された前景画像及び背景画像が、最低解像度の前景画像及び背景画像であるか否かを判定する(ステップS04)。ここでは、レイヤ1の前景画像及び背景画像が出力されるので、ステップS04において、最低解像度の前景画像及び背景画像でないと判定され(ステップS04;No)、ステップS02及びステップS03が繰り返される。
ステップS02〜ステップS04が繰り返されることによって、レイヤNの前景画像及び背景画像が低解像度化部12から出力されると、ステップS04において、最低解像度の前景画像及び背景画像であると判定され(ステップS04;Yes)、周波数成分算出部13は、レイヤ0〜N−1の前景画像及び背景画像の高周波成分を目標高周波成分算出部14に出力する。ステップS02〜ステップS04における処理によって、図9に示されるように、レイヤ0〜N−1の背景画像、前景画像及び前景画像の高周波成分が生成されて目標高周波成分算出部14に出力され、レイヤ0〜Nの背景画像が画像合成部18に出力される。なお、この例ではN=6とされており、レイヤ6の背景画像については図示を省略している。
続いて、目標高周波成分算出部14が、各レイヤの前景画像の高周波成分に基づいて、各レイヤの目標高周波成分を算出する(ステップS05)。目標高周波成分の算出方法は、例えば式(1)〜式(3)で示される方法が採用され得る。ここでは、式(1)が用いられて、目標高周波成分が算出されるとして説明を行う。そして、目標高周波成分算出部14は、算出したレイヤ0〜N−1の目標高周波成分を画像合成部18に出力する。
続いて、マスク画像入力部16が、マスク画像を入力する(ステップS06)。例えば、マスク画像入力部16は、マスク画像として図8の(c)に示される画像を入力したとする。そして、マスク画像縮小部17が、マスク画像入力部16によって入力された元画像のマスク画像であるレイヤ0のマスク画像を縮小し、レイヤ1のマスク画像を生成する(ステップS07)。マスク画像縮小部17は、例えば、レイヤ0のマスク画像を2×2画素のブロックに分割し、当該ブロック内のいずれかの画素が合成対象画素である場合は、当該ブロックを1画素の合成対象画素とし、当該ブロック内のすべての画素が非合成対象画素である場合は、当該ブロックを1画素の非合成対象画素とすることによって、レイヤ1のマスク画像を生成する。そして、マスク画像縮小部17は、この処理をレイヤN−1のマスク画像が得られるまで繰り返す。ステップS07における処理によって、図9に示される各レイヤ(レイヤ1〜N−1)のマスク画像が生成される。そして、マスク画像縮小部17は、レイヤ0〜N−1のマスク画像を画像合成部18に出力する。
続いて、画像合成部18が、各レイヤの合成画像を生成する(ステップS08,画像合成ステップ)。このステップS08では、まず、画像合成部18が、全体的な輝度及び色みを背景画像にそろえるために、レイヤNの背景画像をそのままレイヤNの合成画像とする。そして、画像合成部18は、レイヤNの合成画像に対して前処理及び最適化処理を行ってレイヤN−1の合成画像を生成する。前処理では、画像合成部18は、レイヤNの合成画像を2倍に拡大し、レイヤNの拡大合成画像の所定の位置に、レイヤN−1のマスク画像を適用する。そして、画像合成部18は、レイヤNの拡大合成画像において、レイヤN−1のマスク画像の非合成対象画素に対応する画素の画素値を、その画素に対応するレイヤN−1の背景画像の画素の画素値に置き換える。また、画像合成部18は、レイヤNの拡大合成画像において、レイヤN−1のマスク画像の範囲外の画素に対応する画素の画素値を、その画素に対応するレイヤN−1の背景画像の画素の画素値に置き換える。このようにして、レイヤN−1の合成前画像が生成される。
続いて、最適化処理では、画像合成部18は、前景画像のテクスチャを反映するために、レイヤN−1の合成前画像において、レイヤN−1のマスク画像の合成対象画素に対応する画素に対して、レイヤN−1の目標高周波成分を用いて最適化処理を行う。この最適化処理は、レイヤN−1のマスク画像の合成対象画素に対応する画素の画素値が収束するまで、式(6)を繰り返し演算することによって行われる。そして、画像合成部18は、最適化された画素値を有する画像をレイヤN−1の合成画像として取得する。
そして、画像合成部18は、最高解像度(レイヤ0)の合成画像を取得したか否かを判定する(ステップS09)。ここでは、レイヤN−1の合成画像が取得されるので、ステップS09において、最高解像度の合成画像でないと判定され(ステップS09;No)、ステップS08が繰り返される。つまり、画像合成部18は、レイヤ0の合成画像が得られるまで、上述の前処理及び最適化処理を繰り返し行う。ステップS08〜ステップS09が繰り返されることによって、図10に示されるレイヤ0の合成画像Oが生成される。図10に示されるように、前景画像FGと背景画像BGとの境界が目立ちにくく、違和感のない合成画像Oが生成される。そして、レイヤ0の合成画像が生成されて取得されると、ステップS09において、最高解像度の合成画像であると判定され(ステップS09;Yes)、画像合成部18は、レイヤ0の合成画像を出力部19に出力する。
続いて、出力部19が、画像合成部18によって生成された合成画像を出力する(ステップS10)。例えば、出力部19は、合成画像を表示部21に出力することによって、表示部21に合成画像を表示させる。以上のようにして、画像合成方法の一連の処理が終了する。なお、ステップS01〜ステップS05の処理と、ステップS06及びステップS07の処理とは、並行して行われてもよい。
次に、携帯端末(コンピュータ)2を上記画像合成装置1として機能させるための画像合成プログラムを説明する。
画像合成プログラムは、メインモジュール、入力モジュール、演算処理モジュール及び出力モジュールを備えている。メインモジュールは、画像処理を統括的に制御する部分である。入力モジュールは、画像を取得するように携帯端末2を動作させ、画像入力モジュール及びマスク画像入力モジュールを備えている。演算処理モジュールは、低解像度化モジュール、周波数成分算出モジュール、目標高周波成分算出モジュール、マスク画像縮小モジュール及び画像合成モジュールを備えている。出力モジュールは、合成画像を出力するように携帯端末2に動作させる。メインモジュール、入力モジュール、演算処理モジュール及び出力モジュールを実行させることにより実現される機能は、上述した画像合成装置1の画像取得部10、周波数成分算出部13、目標高周波成分算出部14、マスク画像取得部15、画像合成部18及び出力部19の機能とそれぞれ同様である。
画像合成プログラムは、例えば、ROMまたは半導体メモリ等の記録媒体によって提供される。また、画像合成プログラムは、データ信号としてネットワークを介して提供されてもよい。
以上、本実施形態に係る画像合成装置1、画像合成方法、画像合成プログラム及び画像合成プログラムを記録した記録媒体によれば、複数の解像度の背景画像の低周波成分と、複数の解像度の前景画像の高周波成分と、に基づいて、合成画像が生成される。低周波成分には全体的な輝度及び色合いが含まれており、高周波成分にはテクスチャが含まれる。このため、合成画像の輝度及び色合いを背景画像の輝度及び色合いに合わせながら、前景画像のテクスチャ(詳細な模様)を反映することが可能となる。また、合成画像は様々な周波数成分の合成によって生成されるので、ポワソンブレンドのような数学的な制約による画像信号の歪みが生じることは理論的にはない。その結果、数学的な制約による画像信号の歪みを抑えつつ、合成された2つの画像の境界が目立ちにくく、違和感のない合成画像を生成することが可能となる。
ポワソンブレンドでは、勾配を用いてディリクレ条件(固定端条件)下で最適化することによって、背景画像のオフセットを保持している。しかし、ポワソンブレンドでは、目的とする勾配に最も近い勾配を有する画像を推定するための計算量が大きくなることがある。このため、高速に合成処理を行うことができないおそれがある。これに対し、画像合成装置1では、解像度の小さい順に、前景画像の高周波成分を合成しているので、最適化に要する計算時間を短縮することが可能となる。
また、レイヤk−1の拡大合成画像の非合成対象領域がレイヤkの背景画像における非合成対象領域に対応する領域で置き換えられるので、レイヤkの合成画像における非合成対象領域には、レイヤkの背景画像がそのまま再現される。そして、非合成対象領域にレイヤkの背景画像が再現された合成前画像において、合成対象領域の高周波成分と、目標高周波成分と、の差分が最小となるように、合成対象領域にレイヤkの目標高周波成分が合成される。このため、合成対象領域と非合成対象領域との境界における変化が低減されるとともに、レイヤkの合成画像における合成対象領域には、全体的な輝度及び色合いを変えることなく、レイヤkの前景画像のテクスチャが再現される。その結果、合成された2つの画像の境界をさらに目立ちにくくすることができ、さらに違和感のない合成画像を生成することが可能となる。
また、レイヤkの前景画像の低周波成分及びレイヤkの背景画像の低周波成分をそれぞれ縮小することによって、レイヤk+1の前景画像及び背景画像が生成される。このため、前景画像及び背景画像の低解像度化を容易化することが可能となる。また、背景画像の最低周波数成分には、背景画像の全体的な輝度及び色合いが含まれている。このため、背景画像の最低周波数成分を最低解像度(レイヤN)の合成画像とすることによって、全体的な輝度及び色合いを背景画像に合わせることが可能となる。
また、各レイヤのマスク画像を用いて、各レイヤの合成画像が生成される。このため、マスク画像の解像度を低下させることによって、各レイヤの合成対象領域及び非合成対象領域を規定することができる。このため、各レイヤにおける合成対象領域及び非合成対象領域の規定を容易化することが可能となる。
また、レイヤkのマスク画像を所定の画素数のブロックに分割し、ブロックに合成対象画素が含まれている場合には、当該ブロックを合成対象画素とし、ブロックに合成対象画素が含まれていない場合には、当該ブロックを非合成対象画素とすることによって、レイヤk+1のマスク画像が生成される。これにより、解像度が低いマスク画像ほど、マスク画像における合成対象画素の占める領域を拡大することができる。このため、画像合成において、レイヤkにおける合成対象領域には、レイヤkよりも大きいレイヤの目標高周波成分が合成されており、合成対象領域と非合成対象領域との境界周辺にもレイヤkよりも大きいレイヤの目標高周波成分が合成されている。したがって、前景画像の再現性を向上できるとともに、合成された2つの画像の境界をさらに目立ちにくくすることができ、さらに違和感のない合成画像を生成することが可能となる。
レイヤごとに、当該レイヤの前景画像から当該レイヤの前景画像の低周波成分を減算することによって、当該レイヤの前景画像の高周波成分が算出され、当該レイヤの背景画像から当該レイヤの背景画像の低周波成分を減算することによって、当該レイヤの背景画像の高周波成分が算出される。このため、各レイヤの前景画像の高周波成分、及び、各レイヤの背景画像の高周波成分を簡単な計算によって算出することができる。
なお、上述した実施形態は本発明に係る画像合成装置の一例を示すものである。本発明に係る画像合成装置は、実施形態に係る画像合成装置1に限られるものではなく、各請求項に記載した要旨を変更しない範囲で、実施形態に係る画像合成装置を変形し、又は他のものに適用したものであってもよい。
例えば、マスク画像入力部16は、ユーザによって生成されたマスク画像を入力してもよい。
また、出力部19は、合成画像をメモリ等の記憶装置に出力してもよい。
1…画像合成装置、10…画像取得部、13…周波数成分算出部、14…目標高周波成分算出部、15…マスク画像取得部、18…画像合成部。

Claims (10)

  1. 第1画像に第2画像を合成して合成画像を生成する画像合成装置であって、
    複数の解像度の前記第1画像及び前記第2画像を取得する画像取得部と、
    前記複数の解像度の前記第1画像、及び、前記複数の解像度の前記第2画像からそれぞれ低周波成分及び高周波成分を算出する周波数成分算出部と、
    前記複数の解像度の前記第1画像の低周波成分と、前記複数の解像度の前記第2画像の高周波成分と、に基づいて、前記合成画像を生成する画像合成部と、
    を備える、画像合成装置。
  2. 前記画像取得部は、第1解像度の前記第1画像の低周波成分及び前記第1解像度の前記第2画像の低周波成分をそれぞれ縮小することによって、前記第1解像度よりも小さい第2解像度の前記第1画像及び前記第2解像度の前記第2画像を生成する、請求項1に記載の画像合成装置。
  3. 前記画像合成部は、解像度ごとに合成画像を生成し、
    前記画像合成部は、生成した前記第2解像度の前記合成画像を拡大し、拡大した前記第2解像度の前記合成画像の合成対象の領域でない非合成対象領域を、前記第1解像度の前記第1画像における前記非合成対象領域に対応する領域で置き換えた後に、拡大した前記第2解像度の前記合成画像の合成対象の領域である合成対象領域の高周波成分と、前記第1解像度の前記第2画像の高周波成分に基づいて定められた目標高周波成分と、の差分が最小となるように、前記合成対象領域に前記目標高周波成分を合成することによって、前記第1解像度の前記合成画像を生成する、請求項2に記載の画像合成装置。
  4. 前記画像合成部は、前記複数の解像度の前記第1画像のうち最低解像度の前記第1画像を前記最低解像度の前記合成画像とする、請求項3に記載の画像合成装置。
  5. 前記合成対象領域及び前記非合成対象領域を規定するマスク画像であって、複数の解像度のマスク画像を取得するマスク画像取得部をさらに備え、
    前記画像合成部は、解像度ごとの前記マスク画像を用いて、当該解像度の前記合成画像を生成する、請求項3又は請求項4に記載の画像合成装置。
  6. 前記マスク画像取得部は、前記第1解像度の前記マスク画像を所定の画素数のブロックに分割し、前記ブロックに前記合成対象領域が含まれている場合には、当該ブロックを前記合成対象領域の画素とし、前記ブロックに前記合成対象領域が含まれていない場合には、当該ブロックを前記非合成対象領域の画素とすることによって、前記第2解像度の前記マスク画像を生成する、請求項5に記載の画像合成装置。
  7. 前記周波数成分算出部は、解像度ごとに、当該解像度の前記第1画像から当該解像度の前記第1画像の前記低周波成分を減算することによって、当該解像度の前記第1画像の前記高周波成分を算出し、当該解像度の前記第2画像から当該解像度の前記第2画像の前記低周波成分を減算することによって、当該解像度の前記第2画像の前記高周波成分を算出する、請求項1〜請求項6のいずれか一項に記載の画像合成装置。
  8. 第1画像に第2画像を合成して合成画像を生成する画像合成装置が行う画像合成方法であって、
    複数の解像度の前記第1画像及び前記第2画像を取得する画像取得ステップと、
    前記複数の解像度の前記第1画像、及び、前記複数の解像度の前記第2画像からそれぞれ低周波成分及び高周波成分を算出する周波数成分算出ステップと、
    前記複数の解像度の前記第1画像の低周波成分と、前記複数の解像度の前記第2画像の高周波成分と、に基づいて、前記合成画像を生成する画像合成ステップと、
    を含む、画像合成方法。
  9. 第1画像に第2画像を合成して合成画像を生成するようにコンピュータを動作させる画像合成プログラムであって、
    複数の解像度の前記第1画像及び前記第2画像を取得する画像取得部と、
    前記複数の解像度の前記第1画像、及び、前記複数の解像度の前記第2画像からそれぞれ低周波成分及び高周波成分を算出する周波数成分算出部と、
    前記複数の解像度の前記第1画像の低周波成分と、前記複数の解像度の前記第2画像の高周波成分と、に基づいて、前記合成画像を生成する画像合成部と、
    してコンピュータを機能させる、画像合成プログラム。
  10. 第1画像に第2画像を合成して合成画像を生成するようにコンピュータを動作させる画像合成プログラムを記録した記録媒体であって、
    複数の解像度の前記第1画像及び前記第2画像を取得する画像取得部と、
    前記複数の解像度の前記第1画像、及び、前記複数の解像度の前記第2画像からそれぞれ低周波成分及び高周波成分を算出する周波数成分算出部と、
    前記複数の解像度の前記第1画像の低周波成分と、前記複数の解像度の前記第2画像の高周波成分と、に基づいて、前記合成画像を生成する画像合成部と、
    してコンピュータを機能させる、画像合成プログラムを記録した記録媒体。
JP2015071487A 2015-03-31 2015-03-31 画像合成装置、画像合成方法、画像合成プログラム及び記録媒体 Active JP6453694B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2015071487A JP6453694B2 (ja) 2015-03-31 2015-03-31 画像合成装置、画像合成方法、画像合成プログラム及び記録媒体
US15/084,602 US9824431B2 (en) 2015-03-31 2016-03-30 Image synthesis apparatus, image synthesis method, and recording medium
CN201610192217.6A CN106023275B (zh) 2015-03-31 2016-03-30 图像合成装置及图像合成方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015071487A JP6453694B2 (ja) 2015-03-31 2015-03-31 画像合成装置、画像合成方法、画像合成プログラム及び記録媒体

Publications (2)

Publication Number Publication Date
JP2016192059A true JP2016192059A (ja) 2016-11-10
JP6453694B2 JP6453694B2 (ja) 2019-01-16

Family

ID=57017341

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015071487A Active JP6453694B2 (ja) 2015-03-31 2015-03-31 画像合成装置、画像合成方法、画像合成プログラム及び記録媒体

Country Status (3)

Country Link
US (1) US9824431B2 (ja)
JP (1) JP6453694B2 (ja)
CN (1) CN106023275B (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9767533B2 (en) * 2015-02-16 2017-09-19 Adobe Systems Incorporated Image resolution enhancement based on data from related images
US11189018B2 (en) * 2017-06-01 2021-11-30 Nec Corporation Image generation device, image generation method, and storage medium on which program is stored
BR112020001562A2 (pt) * 2017-08-01 2020-07-21 Sony Corporation aparelho e método de processamento de imagem, e, programa
CN108198160B (zh) * 2017-12-28 2019-12-17 深圳云天励飞技术有限公司 图像处理方法、装置、图像过滤方法、电子设备及介质
CN108550175B (zh) * 2018-04-16 2022-05-24 上海思依暄机器人科技股份有限公司 一种图片合成方法、系统及存储介质
CN108986185B (zh) * 2018-08-01 2023-04-07 浙江深眸科技有限公司 基于深度学习的图像数据扩增方法
US11915350B2 (en) 2018-08-29 2024-02-27 Intel Corporation Training one-shot instance segmenters using synthesized images
US11223817B2 (en) * 2018-11-12 2022-01-11 Electronics And Telecommunications Research Institute Dual stereoscopic image display apparatus and method
CN112232430A (zh) * 2020-10-23 2021-01-15 浙江大华技术股份有限公司 神经网络模型测试方法、装置、存储介质及电子装置
CN113706428B (zh) * 2021-07-02 2024-01-05 杭州海康威视数字技术股份有限公司 一种图像生成方法及装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004165800A (ja) * 2002-11-11 2004-06-10 Canon Inc 画像処理装置
JP2004240732A (ja) * 2003-02-06 2004-08-26 Konica Minolta Holdings Inc 画像合成方法、画像合成装置、画像合成プログラム及び画像記録装置
JP2014215694A (ja) * 2013-04-23 2014-11-17 国立大学法人電気通信大学 画像処理装置、画像処理方法、プログラム及び撮像装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09269999A (ja) * 1996-01-31 1997-10-14 Fuji Photo Film Co Ltd 画像合成装置および方法
JPH10294854A (ja) * 1997-04-21 1998-11-04 Fuji Photo Film Co Ltd 画像合成方法
US6856705B2 (en) 2003-02-25 2005-02-15 Microsoft Corporation Image blending by guided interpolation
US7570286B2 (en) * 2005-05-27 2009-08-04 Honda Motor Co., Ltd. System and method for creating composite images
CN100562894C (zh) * 2007-03-23 2009-11-25 北京中星微电子有限公司 一种图像合成方法及装置
KR101493694B1 (ko) * 2008-08-01 2015-02-16 삼성전자주식회사 이미지 처리장치, 이미지 처리방법 및 처리방법을실행시키기 위한 프로그램을 저장한 기록매체
CN101504766B (zh) * 2009-03-25 2011-09-07 湖南大学 基于混合多分辨率分解的图像融合方法
CN101930604B (zh) * 2010-09-08 2012-03-28 中国科学院自动化研究所 基于低频相关性分析的全色图像与多光谱图像融合方法
JP5895195B2 (ja) * 2012-03-13 2016-03-30 パナソニックIpマネジメント株式会社 ノイズ削減装置およびノイズ削減方法
US8736706B1 (en) * 2012-03-13 2014-05-27 Google Inc. Method and system for generating high resolution composite images
JP5950721B2 (ja) * 2012-06-27 2016-07-13 キヤノン株式会社 画像処理装置、画像処理方法
CN103780863B (zh) * 2014-01-17 2017-08-25 Tcl集团股份有限公司 一种高分辨率图像生成方法及装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004165800A (ja) * 2002-11-11 2004-06-10 Canon Inc 画像処理装置
JP2004240732A (ja) * 2003-02-06 2004-08-26 Konica Minolta Holdings Inc 画像合成方法、画像合成装置、画像合成プログラム及び画像記録装置
JP2014215694A (ja) * 2013-04-23 2014-11-17 国立大学法人電気通信大学 画像処理装置、画像処理方法、プログラム及び撮像装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
宮地 隆雄、外3名: ""視覚特性を利用した画像認証方式に関する一検討"", 電子情報通信学会論文誌, vol. 94, no. 9, JPN6018032170, 1 September 2011 (2011-09-01), JP, pages 1513 - 1521, ISSN: 0003934355 *

Also Published As

Publication number Publication date
US9824431B2 (en) 2017-11-21
JP6453694B2 (ja) 2019-01-16
CN106023275A (zh) 2016-10-12
CN106023275B (zh) 2019-01-15
US20160292838A1 (en) 2016-10-06

Similar Documents

Publication Publication Date Title
JP6453694B2 (ja) 画像合成装置、画像合成方法、画像合成プログラム及び記録媒体
US20200349680A1 (en) Image processing method and device, storage medium and electronic device
JP5149288B2 (ja) 非等長的(anisometric)テクスチャ(texture)の合成(synthesis)
JP6287855B2 (ja) 画像処理装置及び画像処理方法
US9760977B2 (en) Method and apparatus for generating a super-resolved image from a single image
JP2003274157A (ja) 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムを記録したコンピュータ読取可能な記録媒体
JP2007193508A (ja) 画像処理装置及び画像処理プログラム
JP2015232869A (ja) 画像処理装置、画像処理方法及び画像処理プログラム
WO2011111819A1 (ja) 画像処理装置、画像処理プログラム、および、画像を生成する方法
WO2013089263A1 (ja) 画像処理装置及び画像処理方法
KR100860968B1 (ko) 해상도 향상 장치 및 방법
JP5610245B2 (ja) 画像合成装置、画像合成方法、画像合成プログラム及び記録媒体
JP2020061080A (ja) 画像処理装置、撮像装置、画像処理方法
JP4947351B2 (ja) 画像処理装置、及び、プログラム
JP5987114B2 (ja) 高解像度画像生成装置、高解像度画像生成方法及び高解像度画像生成プログラム
JP2021043874A (ja) 画像処理装置、画像処理方法、およびプログラム
JP2006350562A (ja) 画像処理装置及び画像処理プログラム
JP2018067849A (ja) 画像処理装置、画像処理方法、プログラム
KR102470242B1 (ko) 영상 처리 장치, 영상 처리 방법, 및 프로그램
JPWO2014077024A1 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP5522736B2 (ja) 画像超解像装置およびそのプログラム
JP2020087104A (ja) コンピュータプログラム、画像処理方法、及び画像処理装置
JP6902425B2 (ja) カラー情報拡大器およびカラー情報推定器、ならびに、それらのプログラム
JP5085589B2 (ja) 画像処理装置および方法
JP5544497B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170906

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180813

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180828

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180912

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181211

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181213

R150 Certificate of patent or registration of utility model

Ref document number: 6453694

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350