JP5359856B2 - 画像合成装置、画像合成方法及びプログラム - Google Patents
画像合成装置、画像合成方法及びプログラム Download PDFInfo
- Publication number
- JP5359856B2 JP5359856B2 JP2009294349A JP2009294349A JP5359856B2 JP 5359856 B2 JP5359856 B2 JP 5359856B2 JP 2009294349 A JP2009294349 A JP 2009294349A JP 2009294349 A JP2009294349 A JP 2009294349A JP 5359856 B2 JP5359856 B2 JP 5359856B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- subject
- coordinate
- unit
- smoothing process
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims abstract description 130
- 239000000203 mixture Substances 0.000 title claims abstract description 83
- 230000008569 process Effects 0.000 claims abstract description 117
- 238000012545 processing Methods 0.000 claims abstract description 95
- 238000009499 grossing Methods 0.000 claims abstract description 81
- 239000002131 composite material Substances 0.000 claims description 71
- 238000012935 Averaging Methods 0.000 claims description 34
- 230000002194 synthesizing effect Effects 0.000 claims description 26
- 238000004364 calculation method Methods 0.000 claims description 24
- 230000015572 biosynthetic process Effects 0.000 claims description 22
- 238000003786 synthesis reaction Methods 0.000 claims description 22
- 238000006243 chemical reaction Methods 0.000 claims description 8
- 238000003384 imaging method Methods 0.000 description 72
- 238000000605 extraction Methods 0.000 description 11
- 230000009466 transformation Effects 0.000 description 8
- 230000008859 change Effects 0.000 description 7
- 230000006870 function Effects 0.000 description 7
- 230000033001 locomotion Effects 0.000 description 7
- 230000003287 optical effect Effects 0.000 description 7
- 230000000295 complement effect Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 239000013598 vector Substances 0.000 description 5
- 239000011159 matrix material Substances 0.000 description 3
- 230000003321 amplification Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 230000008602 contraction Effects 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 238000002156 mixing Methods 0.000 description 2
- 238000003199 nucleic acid amplification method Methods 0.000 description 2
- 241000282693 Cercopithecidae Species 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2621—Cameras specially adapted for the electronic generation of special effects during image pickup, e.g. digital cameras, camcorders, video cameras having integrated special effects capability
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/272—Means for inserting a foreground image in a background image, i.e. inlay, outlay
Description
被写体画像を記録した記録手段と、
前記記録手段に記録されている被写体画像とは異なる画像を取得する取得手段と、
前記取得手段により取得された画像を背景画像として前記記録手段により記録された被写体画像を合成する合成位置を指定する指定手段と、
前記背景画像における前記指定手段により指定された前記合成位置に前記被写体画像を合成して合成画像を生成する合成手段と、
前記合成画像に対して、前記合成位置を基準とした距離が遠い位置ほど、平滑化処理の強度を段階的に強くするように変更して当該平滑化処理を施す画像処理手段と、
を備えたことを特徴としている。
また、請求項2に記載の発明は、請求項1に記載の画像合成装置において、
前記平滑化処理を施すための処理強度の強さが異なる複数の平均化フィルタと前記被写体画像の中心座標からの距離とを対応付けて記憶する平均化フィルタ記憶手段と、
前記被写体画像の中心座標を算出する座標算出手段と、
を更に備え、
前記画像処理手段は、前記平均化フィルタ記憶手段に対応付けて記憶された複数の平均化フィルタと被写体画像の中心座標とに基づいて、前記座標算出手段により算出された中心座標を前記基準として、当該中心座標からの距離が遠い位置の画素ほど前記処理強度の強い平均化フィルタを用いることで、前記合成画像に対して段階的に平滑化処理を施すことを特徴としている。
また、請求項3に記載の発明は、請求項2に記載の画像合成装置において、
前記複数の平均化フィルタは、各々異なるサイズからなり、前記平均化フィルタ記憶手段により複数の平均化フィルタの最小サイズの平均化フィルタに対応付けられている座標からの距離は、前記被写体画像の最小包含円を有することを特徴としている。
また、請求項4に記載の発明は、請求項2又は3記載の画像合成装置において、
前記座標算出手段は、前記被写体画像のx方向の各々の位置に対するy方向の位置の画素値のヒストグラムの合計を算出する第1のヒストグラム算出手段と、前記第1のヒストグラム算出手段により算出されたヒストグラムの合計に基づいて、前記被写体画像の座標のx座標を算出するx座標算出手段と、前記被写体画像のy方向の各々の位置に対するx方向の位置の画素値のヒストグラムの合計を算出する第2のヒストグラム算出手段と、前記第2のヒストグラム算出手段により算出されたヒストグラムの合計に基づいて、前記被写体画像の座標のy座標を算出するy座標算出手段と、を含むことを特徴としている。
また、請求項5に記載の発明は、請求項4に記載の画像合成装置において、
前記x座標算出手段及び前記y座標算出手段は、対応する各ヒストグラムの合計の値の分布にピークが存在するときは、当該ピークが存在する位置を前記座標のx座標及びy座標として算出する一方、前記ピークが存在しないときは、対応する各ヒストグラムの合計の値の分布の最大値と最小値の中心となる位置を前記座標のx座標及びy座標として算出することを特徴としている。
また、請求項6に記載の発明は、請求項2〜5の何れか一項に記載の画像合成装置において、
前記座標算出手段により算出された中心座標を前記背景画像の座標系に変換する座標系変換手段を更に備え、前記画像処理手段は、前記座標系変換手段により変換された中心座標を前記基準とした距離に応じて、前記合成画像に対して平滑化処理を段階的に施すことを特徴としている。
前記合成画像における前記被写体画像を略中心とする所定範囲を特定する領域特定手段を更に備え、前記画像処理手段は、前記領域特定手段により特定された前記被写体画像を略中心とする所定範囲内の領域に対して前記平滑化処理を施さないことを特徴としている。
前記画像処理手段は、前記合成画像における前記被写体画像からの距離が遠い位置ほど、前記平滑化処理の強度を段階的に強くするように変更して当該平滑化処理を施すことを特徴としている。
前記画像処理手段は、前記合成画像における前記被写体画像からの距離が遠い位置ほど、所定の一方向及び当該一方向に略直交する直交方向のうち、少なくとも一の方向と略平行な方向に沿って前記平滑化処理の強度を段階的に強くするように変更して当該平滑化処理を施すことを特徴としている。
前記距離は、前記被写体画像の略中央部からの距離であることを特徴としている。
前記被写体画像は、背景と被写体とが存在する画像から被写体が含まれる領域を切り抜いた画像であることを特徴としている。
画像合成装置を用いた画像合成方法であって、
記録手段に記録されている被写体画像とは異なる画像を取得するステップと、
取得された画像を背景画像として記録された被写体画像を合成する合成位置を指定するステップと、
前記背景画像における前記合成位置に前記被写体画像を合成して合成画像を生成するステップと、
前記合成画像に対して、前記合成位置を基準とした距離が遠い位置ほど、平滑化処理の強度を段階的に強くするように変更して当該平滑化処理を施すステップと、
を実行させることを特徴としている。
コンピュータを、
記録手段に記録されている被写体画像とは異なる画像を取得する取得手段、
前記取得手段により取得された画像を背景画像として前記記録手段により記録された被写体画像を合成する合成位置を指定する指定手段、
前記背景画像における前記指定手段により指定された前記合成位置に前記被写体画像を合成して合成画像を生成する合成手段、
前記合成画像に対して、前記合成位置を基準とした距離が遠い位置ほど、平滑化処理の強度を段階的に強くするように変更して当該平滑化処理を施す画像処理手段、
として機能させることを特徴としている。
図1は、本発明を適用した一実施形態の撮像装置100の概略構成を示すブロック図である。
具体的には、図1に示すように、撮像装置100は、レンズ部1と、電子撮像部2と、撮像制御部3と、画像データ生成部4と、画像メモリ5と、特徴量演算部6と、ブロックマッチング部7と、画像処理部8と、記録媒体9と、表示制御部10と、表示部11と、操作入力部12と、中央制御部13とを備えている。
また、撮像制御部3と、特徴量演算部6と、ブロックマッチング部7と、画像処理部8と、中央制御部13は、例えば、カスタムLSI1Aとして設計されている。
また、レンズ部1は、図示は省略するが、被写体Sの撮像の際に、ズームレンズを光軸方向に移動させるズーム駆動部、フォーカスレンズを光軸方向に移動させる合焦駆動部等を備えていても良い。
また、撮像制御部3は、AF(自動合焦処理)、AE(自動露出処理)、AWB(自動ホワイトバランス)等の被写体Sの撮像条件の調整制御を行う。
カラープロセス回路から出力される輝度信号Y及び色差信号Cb,Crは、図示しないDMAコントローラを介して、バッファメモリとして使用される画像メモリ5にDMA転送される。
ここで、特徴抽出処理とは、多数の候補ブロックから追跡に都合の良い特徴性の高いものを選択する処理である。
位置合わせ部は、被写体非存在画像P2から抽出した特徴点に基づいて、被写体非存在画像P2に対する被写体存在画像P1の各画素の座標変換式(射影変換行列)を算出し、当該座標変換式に従って被写体存在画像P1を座標変換して被写体非存在画像P2と位置合わせを行う。
被写体画像抽出部は、位置合わせ部により位置合わせされた被写体存在画像P1と被写体非存在画像P2との間で対応する各画素の差分情報を生成し、当該差分情報を基準として被写体存在画像P1から被写体が含まれる被写体画像(前景画像)Gを抽出する。
位置情報生成部は、被写体存在画像P1から抽出された被写体画像Gの位置を特定して、被写体存在画像P1における被写体画像Gの位置を示す位置情報(例えば、アルファマップ)を生成する。ここで、アルファマップとは、被写体存在画像P1の各画素について、被写体画像Gを所定の背景に対してアルファブレンディングする際の重みをアルファ値(0≦α≦1)として表したものである。
画像生成部は、生成されたアルファマップに基づいて、被写体存在画像P1の各画素のうち、アルファ値が1の画素を所定の単一色画像(図示略)に対して透過させずに、且つ、アルファ値が0の画素を透過させるように、被写体の画像を所定の単一色画像と合成して被写体切り抜き画像P3の画像データを生成する。
即ち、被写体取得部8bは、合成画像生成処理にて、記録媒体9に記録されている少なくとも一の被写体切り抜き画像P3の中から、ユーザによる操作入力部12の所定操作に基づいて指定された被写体切り抜き画像P3の画像データを記録媒体9から読み出すことで、当該被写体切り抜き画像P3の被写体画像(前景画像)Gを取得する。
即ち、背景取得部8cは、合成画像生成処理にて、記録媒体9に記録されている少なくとも一の背景画像P4aの中から、ユーザによる操作入力部12の所定操作に基づいて指定された背景画像P4aの画像データを記録媒体9から読み出して取得する。
背景画像P4aは、上から見おろすように俯瞰撮像された画像であり、例えば、高い所から広い範囲を見おろすように俯瞰撮像された画像を含む。
即ち、画像合成部8dは、ユーザによる操作入力部12の所定操作に基づいて中央制御部13により指定された背景画像P4aにおける被写体画像Gの合成位置に当該被写体画像Gを合成して被写体合成画像P5を生成する。具体的には、画像合成部8dは、先ず、被写体取得部8bにより取得された被写体切り抜き画像P3の被写体画像Gの略中心となる座標を中心座標C1(x1, y1)として算出する。例えば、図2(a)及び図2(b)に示すように、画像合成部8dは、被写体画像Gの横(X軸)方向及び縦(Y軸)方向の各ヒストグラムを用いて被写体画像Gの中心座標C1(x1, y1)を算出する。
被写体画像Gの画素Pの画素値をP(x, y)とすると、画像合成部8dは、X軸方向の位置x=0のヒストグラムの合計Hx(0)=P(0, 0)+P(0, 1)+P(0, 2)+P(0, 3)+P(0, 4)+…+P(0, Y)を算出する。同様にして、画像合成部8dは、X軸方向の全ての位置のヒストグラムの合計を算出する。そして、画像合成部8dは、ヒストグラムの合計の値の分布に所定の値以上のピークが存在する場合、そのピークの位置を中心座標のx座標とする一方で(図2(a)参照)、ヒストグラムの合計の値の分布に所定の値以上のピークが存在しない場合、当該分布の最大値Maxと最小値Minの中心(若しくは、中央)となる位置を中心座標のx座標とする。
Y軸方向も同様にして、画像合成部8dは、Y軸方向の全ての位置のヒストグラムの合計を算出する。そして、画像合成部8dは、ヒストグラムの合計の値の分布に所定の値以上のピークが存在する場合、そのピークの位置を中心座標のy座標とする一方で、ヒストグラムの合計の値の分布に所定の値以上のピークが存在しない場合、当該分布の最大値Maxと最小値Minの中心(若しくは、中央)となる位置を中心座標のy座標とする(図2(b)参照)。
このようにして、画像合成部8dは、被写体画像Gの中心座標C1(x1, y1)を算出する。
即ち、領域特定部8eは、中心座標C1(x1, y1)を背景画像P4aの座標系に変換した座標C2(a, b)を基準として、被写体画像Gの画像データの全ての画素を被写体合成画像P5の座標系に変換することで、被写体合成画像P5における被写体画像Gによって構成される領域を特定する。なお、領域特定部8eは、座標C2(a, b)を基準として、被写体画像Gの画像データの全ての画素を背景画像P4aの座標系に変換することで、被写体合成画像P5における被写体画像Gによって構成される領域を特定しても良い。
そして、領域特定部8eは、被写体合成画像P5における被写体画像Gを略中心とする所定範囲内の領域を特定する。
ここで、所定範囲とは、例えば、Y軸方向の両端部側にのみ平滑化処理が施された被写体合成画像P5を生成するように、背景画像P4aのX軸方向の全画素(X軸方向の全範囲)と被写体画像Gを中心とするY軸方向の所定画素数Rからなる領域(図10(b)参照)や、被写体画像Gと完全に重なる領域のみ(図10(c)参照)等が挙げられる。
なお、領域特定部8eは、切抜画像生成部8aの位置情報生成部により生成された被写体存在画像P1における被写体画像Gの位置を示す位置情報(例えば、アルファマップ)を用いて、被写体合成画像P5における被写体画像Gの領域を特定しても良い。
即ち、平滑化処理部8fは、被写体画像Gの中心座標C1(x1, y1)を背景画像P4aの座標系に変換した座標C2(x2, y2)からの距離Dに応じて平滑化処理の処理強度を変更して、被写体合成画像P5の背景画像部分P4bに対して当該平滑化処理を施す。
また、平滑化処理部8fは、被写体合成画像P5の所定範囲外の領域に対しては、被写体合成画像P5における被写体画像Gの略中央部(座標C2(x2, y2))からの距離が遠い位置ほど、平滑化処理の処理強度を強くするように変更して当該平滑化処理を施す。
即ち、平滑化処理部8fは、被写体合成画像P5の各画素について座標C2(x2, y2)からの距離Dを算出して、当該距離Dに応じて、画像処理部8のフィルタ記憶部8gに記憶されている複数の平均化フィルタf1(図3(a)参照)の中から一の平均化フィルタf1(例えば、3×3画素からなる平均化フィルタ)を特定する。具体的には、平滑化処理部8fは、複数の平均化フィルタf1(図3(a)参照)の中から、座標C2(x2, y2)から離れた距離Dの画素ほど平滑化処理の処理強度が強くなるように処理強度の強い平均化フィルタを特定する。そして、平滑化処理部8fは、被写体合成画像P5の各画素について、特定された平均化フィルタf1を用いて背景画像部分P4bに対して平滑化処理を施すことで、当該背景画像部分P4bの濃淡変化を滑らかにして現実感を軽減させる(図10(c)参照)。
このとき、平滑化処理部8fは、被写体合成画像P5における被写体画像Gからの距離が遠い位置ほど、X軸方向(所定の一方向)及び当該X軸方向に略直交するY軸方向(直交方向)のうち、少なくとも一の方向と略平行な方向に沿って平滑化処理の処理強度を強くするように変更しても良い(図10(b)参照)。例えば、図10(b)にあっては、平滑化処理部8fは、Y軸方向と略平行な方向に沿って平滑化処理の処理強度を強くするようになっているが、被写体画像Gの合成位置がY軸方向の一端部(下端部)よりとなっていることから、Y軸方向の他端部(上端部)側のみ平滑化処理の処理強度が段階的に強くなっている。
そして、被写体合成画像P5の背景画像部分P4bにおける被写体画像Gの座標C2(x2, y2)からの距離Dに応じて、平均化フィルタf1のサイズを変更することで(図3(a)参照)、平均化する範囲(平均を算出する近傍点の数)を変更して、背景画像部分P4bのぼけの大きさを調整する。具体的には、距離Dが大きい程、サイズの大きい平均化フィルタf1を用いることで、背景画像部分P4bにより大きいぼけを生じさせる。一方、距離Dが小さい程、サイズの小さい平均化フィルタf1を用いることで、背景画像部分P4baにより小さいぼけを生じさせる。
具体的には、例えば、被写体画像Gの座標C2(x2, y2)からの距離Dとしての「被写体画像Gの最小包含円の境界までの距離kaよりも大きく所定値k1以下」と「3×3画素の平均化フィルタf1」とが対応付けられ、また、距離Dとしての「k1よりも大きくk2以下」と「5×5画素の平均化フィルタf1」とが対応付けられ、また、距離Dとしての「k2よりも大きくk3以下」と「7×7画素の平均化フィルタf1」とが対応付けられ、また、距離Dとしてのk3よりも大きい」と「5×5画素の平均化フィルタf1」とが対応付けられている。
なお、最小包含円とは、主要輪郭線や素材画像を包含する円のうち半径が最小となる円のことである。また、距離kaとして最小包含円に替えて被写体領域の輪郭までの距離を適用しても良い。さらに、距離Dは、例えば、被写体合成画像P5のX軸方向及びY軸方向の画素数に基づいて算出されるが、一例であってこれに限られるものではなく、適宜任意に変更可能である。
即ち、記録媒体9は、切抜画像生成部8aにより生成されたアルファマップと被写体切り抜き画像P3の画像データをそれぞれ圧縮した上で対応付けて、当該被写体切り抜き画像P3の画像データの拡張子を「.jpe」として記憶している。
さらに、記録媒体9は、切抜画像生成部8aにより生成されたアルファマップと画像合成部8dにより生成された被写体合成画像P5の画像データをそれぞれ圧縮した上で対応付けて、当該被写体合成画像P5の画像データの拡張子を「.jpg」として記録している。
具体的には、表示制御部10は、VRAM、VRAMコントローラ、デジタルビデオエンコーダなどを備えている。そして、デジタルビデオエンコーダは、中央制御部13の制御下にて画像メモリ5から読み出されてVRAM(図示略)に記憶されている輝度信号Y及び色差信号Cb,Crを、VRAMコントローラを介してVRAMから定期的に読み出して、これらのデータを元にビデオ信号を発生して表示部11に出力する。
表示部11は、例えば、液晶表示装置であり、表示制御部10からのビデオ信号に基づいてライブビュー画像やレックビュー画像などを表示画面11aに表示する。
即ち、表示制御部10は、撮像モードにて、レンズ部1、電子撮像部2及び撮像制御部3による被写体Sの撮像により生成された複数の画像フレームに基づいてライブビュー画像や、本撮像画像として撮像されたレックビュー画像などを表示部11の表示画面11aに表示させる。
中央制御部13は、入力された指定指示に基づいて、背景画像P4aにおける被写体切り抜き画像P3の被写体画像Gの合成位置を指定する。
ここで、操作入力部12及び中央制御部13は、背景画像P4aにおける被写体画像(前景画像)Gの合成位置を指定する指定手段を構成している。
図4は、被写体切り抜き処理に係る動作の一例を示すフローチャートである。また、図5(a)〜図5(c)は、被写体切り抜き処理に係る画像の一例を模式的に示す図である。
図4に示すように、先ず、表示制御部10は、レンズ部1、電子撮像部2及び撮像制御部3による被写体Sの撮像により生成された複数の画像フレームに基づいてライブビュー画像を表示部11の表示画面に表示させるとともに、当該ライブビュー画像に重畳させて、被写体存在画像P1の撮像指示メッセージを表示部11の表示画面に表示させる(ステップS1)。
そして、画像データ生成部4は、電子撮像部2から転送された被写体存在画像P1のYUVデータを生成した後、当該被写体存在画像P1のYUVデータを画像メモリ5に一時記憶させる。
また、撮像制御部3は、当該被写体存在画像P1の撮像の際の合焦位置や露出条件やホワイトバランス等の条件を固定した状態を維持する。
この後、中央制御部13は、ユーザによる操作入力部12のシャッタボタン12aの所定操作に基づいて撮像指示が入力されたか否かを判定する(ステップS5)。そして、ユーザは、被写体が移動するのを待つか、或いは、被写体を画角外に移動させた後、ユーザにより被写体非存在画像P2が被写体存在画像P1の半透過の画像と重なるようにカメラ位置が調整されて、操作入力部12のシャッタボタン12aが所定操作されて撮像指示が入力されたと判定されると(ステップS5;YES)、撮像制御部3は、被写体非存在画像P2(図5(b)参照)の光学像を被写体存在画像P1の撮像後に固定された条件で電子撮像部2により撮像させる(ステップS6)。
そして、画像データ生成部4は、電子撮像部2から転送された被写体非存在画像P2のYUVデータを生成した後、当該被写体存在画像P1P2のYUVデータを画像メモリ5に一時記憶させる。
具体的には、特徴量演算部6は、被写体非存在画像P2のYUVデータに基づいて、所定数(或いは、所定数以上)の特徴の高いブロック領域(特徴点)を選択して、当該ブロックの内容をテンプレートとして抽出する。そして、ブロックマッチング部7は、特徴抽出処理にて抽出されたテンプレートの画素値が最適にマッチする位置を被写体存在画像P1内にて探索して、画素値の相違度の評価値が最も良かった被写体非存在画像P2と被写体存在画像P1間の最適なオフセットを当該テンプレートの動きベクトルとして算出する。そして、切抜画像生成部8aの位置合わせ部は、ブロックマッチング部7により算出された複数のテンプレートの動きベクトルに基づいて全体の動きベクトルを統計的に算出し、当該動きベクトルに係る特徴点対応を用いて被写体存在画像P1の射影変換行列を算出する。
具体的には、被写体領域抽出部は、被写体存在画像P1のYUVデータと被写体非存在画像P2のYUVデータの各々に対してローパスフィルタをかけて各画像の高周波成分を除去する。その後、被写体領域抽出部は、ローパスフィルタをかけた被写体存在画像P1と被写体非存在画像P2との間で対応する各画素について相違度を算出して相違度マップを生成する。続けて、被写体領域抽出部は、各画素に係る相違度マップを所定の閾値で2値化した後、相違度マップから細かいノイズや手ぶれにより相違が生じた領域を除去するために収縮処理を行う。その後、被写体領域抽出部は、ラベリング処理を行って、所定値以下の領域や最大領域以外の領域を除去した後、一番大きな島のパターンを被写体画像Gとして特定し、収縮分を修正するための膨張処理を行う。
具体的には、画像生成部は、被写体存在画像P1、単一色画像及びアルファマップを読み出して画像メモリ5に展開した後、被写体存在画像P1の全ての画素について、アルファ値が0の画素については(α=0)、透過させ、アルファ値が0<α<1の画素については(0<α<1)、所定の単一色とブレンディングを行い、アルファ値が1の画素については(α=1)、何もせずに所定の単一色に対して透過させないようにする。
これにより、被写体切り抜き処理を終了する。
図6は、背景画像撮像処理に係る動作の一例を示すフローチャートである。
図6に示すように、先ず、表示制御部10は、レンズ部1、電子撮像部2及び撮像制御部3による背景画像P4aの撮像により生成された複数の画像フレームに基づいてライブビュー画像を表示部11の表示画面に表示させる(ステップS21)。
そして、画像データ生成部4は、電子撮像部2から転送された背景画像P4aのYUVデータを生成する。
これにより、背景画像撮像処理を終了する。
図7は、合成画像生成処理に係る動作の一例を示すフローチャートである。また、図8は、合成画像生成処理における中心算出処理に係る動作の一例を示すフローチャートである。また、図9は、合成画像生成処理における画像合成処理に係る動作の一例を示すフローチャートである。また、図10(a)〜図10(c)は、合成画像生成処理に係る画像の一例を模式的に示す図である。
図7に示すように、先ず、ユーザによる操作入力部12の選択決定用ボタン12bの所定操作に基づいて、記録媒体9に記録されている複数の画像の中で所望の背景画像P4a(図10(a)参照)が選択されて指定されると、中央制御部13は、画像処理部8の背景取得部8cに、指定された背景画像P4aの画像データを読み出させて画像メモリ5に展開させる(ステップS31)。
図8に示すように、画像合成部8dは、先ず、被写体切り抜き画像P3の画像データを読み込んで、被写体画像Gの中心座標C1(x1, y1)のうち、x座標を算出する。具体的には、画像合成部8dは、被写体画像GについてX軸方向に全走査が完了したか否かを判定する(ステップS41)。
ここで、被写体画像GについてX軸方向に全走査が完了していないと判定されると(ステップS41;NO)、画像合成部8dは、X軸方向の未走査の位置x=i(i=0〜X)のヒストグラムの合計Hx(i)=P(i, 0)+P(i, 1)+…+P(i, Y)を算出した後(ステップS42)、処理をステップS41に移行する。
なお、画像合成部8dによる被写体画像GのX軸方向の走査は、例えば、i=0〜Xとして順次行われる。
次に、画像合成部8dは、ヒストグラムの合計Hx(i)の全ての走査位置の中から、「Hx(i)>第1定数」を満たす最大値Max及び最小値Minを特定して、その位置「i=i_min」、「i=i_max」を画像メモリ5に記憶する(ステップS44)。
ここで、最大値Hx(i_peak)が第2定数よりも大きいと判定されると(ステップS45;YES)、画像合成部8dは、最大値Hx(i_peak)の位置を中心座標のx座標(x1=i_peak)とする(ステップS46)。一方、最大値Hx(i_peak)が第2定数よりも大きくないと判定されると(ステップS45;NO)、画像合成部8dは、ヒストグラム分布の最大値Maxと最小値Minの中心となる位置を中心座標のx座標(x1=(i_min+i_max)/2)とする(ステップS47)。
ここで、被写体画像GについてY軸方向に全走査が完了していないと判定されると(ステップS48;NO)、画像合成部8dは、Y軸方向の未走査の位置y=i(i=0〜Y)のヒストグラムの合計Hy(i)=P(0, i)+P(1, i)+…+P(X, i)を算出した後(ステップS49)、処理をステップS48に移行する。
なお、画像合成部8dによる被写体画像GのY軸方向の走査は、例えば、i=0〜Yとして順次行われる。
次に、画像合成部8dは、ヒストグラムの合計Hy(i)の全ての走査位置の中から、「Hy(i)>第1定数」を満たす最大値Max及び最小値Minを特定して、その位置「i=i_min」、「i=i_max」を画像メモリ5に記憶する(ステップS51)。
ここで、最大値Hy(i_peak)が第2定数よりも大きいと判定されると(ステップS52;YES)、画像合成部8dは、最大値Hy(i_peak)の位置を中心座標のY座標(y1=i_peak)とする(ステップS53)。一方、最大値Hy(i_peak)が第2定数よりも大きくないと判定されると(ステップS52;NO)、画像合成部8dは、ヒストグラム分布の最大値Maxと最小値Minの中心となる位置を中心座標のy座標(y1=(i_min+i_max)/2)とする(ステップS54)。
図9に示すように、画像合成部8dは、先ず、被写体切り抜き画像P3と対応付けて記憶されているアルファマップを読み出して画像メモリ5に展開する(ステップS61)。
なお、背景画像P4aにおける被写体切り抜き画像P3の合成位置や合成サイズが決定された際に、背景画像P4aとアルファマップとがずれてしまいアルファマップの範囲外となる領域については、α=0としてアルファ値が存在しない領域を生じさせないようにする。
ここで、全ての画素について処理していないと判定されると(ステップS66;NO)、画像合成部8dは、処理対象として次の画素を指定して当該画素に処理対象を移動させて(ステップS67)、処理をステップS63に移行する。
上記の処理を、ステップS66にて全ての画素について処理したと判定されるまで(ステップS66;YES)、繰り返すことで、画像合成部8dは、被写体切り抜き画像P3と背景画像P4aとを合成した被写体合成画像P5の画像データを生成させる。
これにより、画像合成処理を終了する。
具体的には、平滑化処理部8fは、被写体画像Gの中心座標C1(x1, y1)を背景画像P4aの座標系に変換した座標C2(x2, y2)からの距離Dに応じて所定の平均化フィルタを用いることで平滑化処理の処理強度を変更して、被写体合成画像P5の背景画像部分P4bに対して当該平滑化処理を施す。
具体的には、例えば、被写体画像Gの画素の濃淡変化がはっきりしているが、背景画像部分P4bの画素の濃淡変化が滑らかな被写体合成画像P5(図10(c)参照)が表示部11に表示される。
これにより、合成画像生成処理を終了する。
即ち、被写体存在画像P1から被写体が含まれる領域を切り抜いた被写体画像Gと背景画像P4aを合成する場合に、被写体合成画像P5の被写体画像Gを略中心とする所定範囲内の領域に対しては平滑化処理を施さずに、被写体合成画像P5における被写体画像Gの略中央部からの距離が遠い位置ほど、平滑化処理の処理強度を強くするように変更して当該平滑化処理を施すことで、被写体画像Gの画素の濃淡変化をはっきりとさせ、且つ、背景画像部分P4bの画素の濃淡変化を滑らかにした被写体合成画像P5を得ることができる。
これにより、俯瞰撮像された背景画像P4aに係る背景画像部分P4bの現実感があまりにも強すぎたり、あまりにも弱すぎたりする違和感の強い被写体合成画像P5の生成を防止し、例えば、ミニチュア画像のように表現力の豊かな被写体合成画像P5を生成することができることとなって、興趣性の向上を図ることができる。この結果、背景画像P4aと被写体画像Gとの双方の画像間に生じる違和感を和らげた興趣性の高い被写体合成画像P5を生成することができる。
例えば、上記実施形態にあっては、被写体合成画像P5の背景画像部分P4bに対して平滑化処理を施すようにしたが、平滑化処理の処理対象はこれに限られるものではなく、被写体画像Gと合成前の背景画像P4aとしても良い。
即ち、ユーザによる操作入力部12の所定操作に基づいて中央制御部13により指定された背景画像P4aにおける被写体画像Gの合成位置を基準として、背景画像P4aに対して平滑化処理を施した後、当該平滑化処理後の背景画像P4aと被写体画像Gとを合成して被写体合成画像P5を生成するようにしても良い。このような構成としても、被写体画像Gに対して被写体合成画像P5の背景画像部分P4bの画素の濃淡変化をより滑らかにすることができ、当該背景画像部分P4bの現実感を好適に低減させることができることとなって、被写体合成画像P5の表現力を豊かにして興趣性の向上を図ることができる。
また、かかる構成であっても同様に、被写体合成画像P5の被写体画像Gを略中心とする所定範囲内の領域に対しては平滑化処理を施さないようにしても良いし、また、被写体合成画像P5における被写体画像Gの略中央部からの距離が遠い位置ほど、平滑化処理の処理強度を強くするように変更して当該平滑化処理を施すようにしても良いし、また、被写体合成画像P5における被写体画像Gの略中央部からの距離が遠い位置ほど、X軸方向及びY軸方向のうち、少なくとも一の方向と略平行な方向に沿って平滑化処理の処理強度を強くするように変更して当該平滑化処理を施すようにしても良い。
また、上記実施形態にあっては、被写体画像Gのヒストグラムに基づいて、被写体画像Gの略中心となる中心座標C1(x1, y1)を算出したが、これに限られるものではなく、例えば、被写体画像Gにおける横(X軸)方向の最小値及び最大値と、縦(Y軸)方向の最小値及び最大値を用いて、当該被写体画像Gを構成する複数の画素の横(X軸)方向の中央座標(xa, 0)及び縦(Y軸)方向の中央座標(0, ya)から中心座標Ca(xa, ya)を算出しても良い。
即ち、プログラムを記憶するプログラムメモリ(図示略)に、取得処理ルーチン、指定処理ルーチン、合成処理ルーチン、画像処理ルーチンを含むプログラムを記憶しておく。そして、取得処理ルーチンにより中央制御部13のCPUを、俯瞰撮像された背景画像と、この背景画像と合成すべき前景画像とを個別に取得する取得手段として機能させるようにしても良い。また、指定処理ルーチンにより中央制御部13のCPUを、この取得手段により取得された背景画像P4aにおける前景画像を合成する合成位置を指定する指定手段として機能させるようにしても良い。また、合成処理ルーチンにより中央制御部13のCPUを、背景画像P4aにおける指定手段により指定された合成位置に前景画像を合成して合成画像を生成する合成手段として機能させるようにしても良い。また、画像処理ルーチンにより中央制御部13のCPUを、合成画像に対して、合成位置を基準として処理強度を制御した平滑化処理を施す画像処理手段として機能させるようにしても良い。
1 レンズ部
2 電子撮像部
3 撮像制御部
8 画像処理部
8a 切抜画像生成部
8b 被写体取得部
8c 背景取得部
8d 画像合成部
8e 領域特定部
8f 平滑化処理部
13 中央制御部
Claims (13)
- 被写体画像を記録した記録手段と、
前記記録手段に記録されている被写体画像とは異なる画像を取得する取得手段と、
前記取得手段により取得された画像を背景画像として前記記録手段により記録された被写体画像を合成する合成位置を指定する指定手段と、
前記背景画像における前記指定手段により指定された前記合成位置に前記被写体画像を合成して合成画像を生成する合成手段と、
前記合成画像に対して、前記合成位置を基準とした距離が遠い位置ほど、平滑化処理の強度を段階的に強くするように変更して当該平滑化処理を施す画像処理手段と、
を備えたことを特徴とする画像合成装置。 - 前記平滑化処理を施すための処理強度の強さが異なる複数の平均化フィルタと前記被写体画像の中心座標からの距離とを対応付けて記憶する平均化フィルタ記憶手段と、
前記被写体画像の中心座標を算出する座標算出手段と、
を更に備え、
前記画像処理手段は、前記平均化フィルタ記憶手段に対応付けて記憶された複数の平均化フィルタと被写体画像の中心座標とに基づいて、前記座標算出手段により算出された中心座標を前記基準として、当該中心座標からの距離が遠い位置の画素ほど前記処理強度の強い平均化フィルタを用いることで、前記合成画像に対して段階的に平滑化処理を施すことを特徴とする請求項1記載の画像合成装置。 - 前記複数の平均化フィルタは、各々異なるサイズからなり、
前記平均化フィルタ記憶手段により複数の平均化フィルタの最小サイズの平均化フィルタに対応付けられている中心座標からの距離は、前記被写体画像の最小包含円を有することを特徴とする請求項2記載の画像合成装置。 - 前記座標算出手段は、
前記被写体画像のx方向の各々の位置に対するy方向の位置の画素値のヒストグラムの合計を算出する第1のヒストグラム算出手段と、
前記第1のヒストグラム算出手段により算出されたヒストグラムの合計に基づいて、前記被写体画像の中心座標のx座標を算出するx座標算出手段と、
前記被写体画像のy方向の各々の位置に対するx方向の位置の画素値のヒストグラムの合計を算出する第2のヒストグラム算出手段と、
前記第2のヒストグラム算出手段により算出されたヒストグラムの合計に基づいて、前記被写体画像の中心座標のy座標を算出するy座標算出手段と、
を含むことを特徴とする請求項2又は3記載の画像合成装置。 - 前記x座標算出手段及び前記y座標算出手段は、対応する各ヒストグラムの合計の値の分布にピークが存在するときは、当該ピークが存在する位置を前記中心座標のx座標及びy座標として算出する一方、前記ピークが存在しないときは、対応する各ヒストグラムの合計の値の分布の最大値と最小値の中心となる位置を前記中心座標のx座標及びy座標として算出することを特徴とする請求項4記載の画像合成装置。
- 前記座標算出手段により算出された中心座標を前記背景画像の座標系に変換する座標系変換手段を更に備え、
前記画像処理手段は、前記座標系変換手段により変換された中心座標を前記基準とした距離に応じて、前記合成画像に対して平滑化処理を段階的に施すことを特徴とする請求項2〜5の何れか一項に記載の画像合成装置。 - 前記合成画像における前記被写体画像を略中心とする所定範囲を特定する領域特定手段を更に備え、
前記画像処理手段は、
前記領域特定手段により特定された前記被写体画像を略中心とする所定範囲内の領域に対して前記平滑化処理を施さないことを特徴とする請求項1に記載の画像合成装置。 - 前記画像処理手段は、
前記合成画像における前記被写体画像からの距離が遠い位置ほど、前記平滑化処理の強度を段階的に強くするように変更して当該平滑化処理を施すことを特徴とする請求項1〜7の何れか一項に記載の画像合成装置。 - 前記画像処理手段は、
前記合成画像における前記被写体画像からの距離が遠い位置ほど、所定の一方向及び当該一方向に略直交する直交方向のうち、少なくとも一の方向と略平行な方向に沿って前記平滑化処理の強度を段階的に強くするように変更して当該平滑化処理を施すことを特徴とする請求項8に記載の画像合成装置。 - 前記距離は、前記被写体画像の略中央部からの距離であることを特徴とする請求項8又は9に記載の画像合成装置。
- 前記被写体画像は、背景と被写体とが存在する画像から被写体が含まれる領域を切り抜いた画像であることを特徴とする請求項1〜10の何れか一項に記載の画像合成装置。
- 画像合成装置を用いた画像合成方法であって、
記録手段に記録されている被写体画像とは異なる画像を取得するステップと、
取得された画像を背景画像として記録された被写体画像を合成する合成位置を指定するステップと、
前記背景画像における前記合成位置に前記被写体画像を合成して合成画像を生成するステップと、
前記合成画像に対して、前記合成位置を基準とした距離が遠い位置ほど、平滑化処理の強度を段階的に強くするように変更して当該平滑化処理を施すステップと、
を実行させることを特徴とする画像合成方法。 - コンピュータを、
記録手段に記録されている被写体画像とは異なる画像を取得する取得手段、
前記取得手段により取得された画像を背景画像として前記記録手段により記録された被写体画像を合成する合成位置を指定する指定手段、
前記背景画像における前記指定手段により指定された前記合成位置に前記被写体画像を合成して合成画像を生成する合成手段、
前記合成画像に対して、前記合成位置を基準とした距離が遠い位置ほど、平滑化処理の強度を段階的に強くするように変更して当該平滑化処理を施す画像処理手段、
として機能させることを特徴とするプログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009294349A JP5359856B2 (ja) | 2009-12-25 | 2009-12-25 | 画像合成装置、画像合成方法及びプログラム |
US12/972,884 US8472747B2 (en) | 2009-12-25 | 2010-12-20 | Image composition device, image composition method, and storage medium storing program |
CN2010106252169A CN102158644A (zh) | 2009-12-25 | 2010-12-24 | 图像合成装置和图像合成方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009294349A JP5359856B2 (ja) | 2009-12-25 | 2009-12-25 | 画像合成装置、画像合成方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2011135438A JP2011135438A (ja) | 2011-07-07 |
JP5359856B2 true JP5359856B2 (ja) | 2013-12-04 |
Family
ID=44187672
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009294349A Expired - Fee Related JP5359856B2 (ja) | 2009-12-25 | 2009-12-25 | 画像合成装置、画像合成方法及びプログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US8472747B2 (ja) |
JP (1) | JP5359856B2 (ja) |
CN (1) | CN102158644A (ja) |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103797782A (zh) * | 2011-09-02 | 2014-05-14 | 株式会社尼康 | 图像处理装置、程序 |
US9041727B2 (en) * | 2012-03-06 | 2015-05-26 | Apple Inc. | User interface tools for selectively applying effects to image |
JP5941736B2 (ja) * | 2012-04-10 | 2016-06-29 | オリンパス株式会社 | 撮影機器 |
JP5926629B2 (ja) * | 2012-06-20 | 2016-05-25 | 株式会社沖データ | 画像読取装置 |
JP6218377B2 (ja) * | 2012-12-27 | 2017-10-25 | キヤノン株式会社 | 画像処理装置及び画像処理方法 |
JP6172935B2 (ja) * | 2012-12-27 | 2017-08-02 | キヤノン株式会社 | 画像処理装置、画像処理方法及び画像処理プログラム |
CN106157341B (zh) * | 2015-03-30 | 2019-05-14 | 阿里巴巴集团控股有限公司 | 生成合成图片的方法及装置 |
US10217195B1 (en) * | 2017-04-17 | 2019-02-26 | Amazon Technologies, Inc. | Generation of semantic depth of field effect |
CN108256497A (zh) * | 2018-02-01 | 2018-07-06 | 北京中税网控股股份有限公司 | 一种视频图像处理方法及装置 |
CN110555794B (zh) * | 2018-05-31 | 2021-07-23 | 北京市商汤科技开发有限公司 | 图像处理方法及装置、电子设备和存储介质 |
CN109856657B (zh) * | 2019-03-04 | 2022-06-21 | 陕西师范大学 | 一种基于图像变换的路径记录方法 |
US11800056B2 (en) | 2021-02-11 | 2023-10-24 | Logitech Europe S.A. | Smart webcam system |
US11800048B2 (en) | 2021-02-24 | 2023-10-24 | Logitech Europe S.A. | Image generating system with background replacement or modification capabilities |
CN117314803A (zh) * | 2022-06-20 | 2023-12-29 | 华为技术有限公司 | 图像处理方法、装置及相关设备 |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2317292B (en) * | 1996-09-12 | 2000-04-19 | Discreet Logic Inc | Processing image data |
US5870103A (en) * | 1996-09-25 | 1999-02-09 | Eastman Kodak Company | Method for creating realistic-looking composite images |
US6483521B1 (en) * | 1998-02-02 | 2002-11-19 | Matsushita Electric Industrial Co., Ltd. | Image composition method, image composition apparatus, and data recording media |
US6525741B1 (en) * | 1999-08-30 | 2003-02-25 | Xerox Corporation | Chroma key of antialiased images |
US6384839B1 (en) * | 1999-09-21 | 2002-05-07 | Agfa Monotype Corporation | Method and apparatus for rendering sub-pixel anti-aliased graphics on stripe topology color displays |
GB2363019B (en) * | 2000-04-07 | 2004-02-25 | Discreet Logic Inc | Processing image data |
JP2003330069A (ja) * | 2002-05-13 | 2003-11-19 | Omron Corp | 写真プリント装置、写真プリント装置の動作制御方法、およびプリント紙ユニット |
US7269294B2 (en) * | 2002-07-01 | 2007-09-11 | Xerox Corporation | Foreground erosion method and system for Multiple Raster Content (MRC) representation of documents |
JP4205399B2 (ja) * | 2002-11-07 | 2009-01-07 | 株式会社メイクソフトウェア | 写真プリント提供装置および方法 |
JP4461732B2 (ja) * | 2003-07-18 | 2010-05-12 | カシオ計算機株式会社 | カメラ装置、及び撮影方法、プログラム |
JP4510733B2 (ja) | 2005-04-07 | 2010-07-28 | キヤノン株式会社 | イエロートナー |
JP2006311302A (ja) * | 2005-04-28 | 2006-11-09 | Casio Hitachi Mobile Communications Co Ltd | 画像合成装置、及び、画像合成方法 |
US7970206B2 (en) * | 2006-12-13 | 2011-06-28 | Adobe Systems Incorporated | Method and system for dynamic, luminance-based color contrasting in a region of interest in a graphic image |
CN101587586B (zh) * | 2008-05-20 | 2013-07-24 | 株式会社理光 | 一种图像处理装置及图像处理方法 |
CN101442600B (zh) * | 2008-12-11 | 2011-01-05 | 华为终端有限公司 | 动态处理图像的方法、装置及终端 |
-
2009
- 2009-12-25 JP JP2009294349A patent/JP5359856B2/ja not_active Expired - Fee Related
-
2010
- 2010-12-20 US US12/972,884 patent/US8472747B2/en active Active
- 2010-12-24 CN CN2010106252169A patent/CN102158644A/zh active Pending
Also Published As
Publication number | Publication date |
---|---|
CN102158644A (zh) | 2011-08-17 |
US8472747B2 (en) | 2013-06-25 |
US20110158551A1 (en) | 2011-06-30 |
JP2011135438A (ja) | 2011-07-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5359856B2 (ja) | 画像合成装置、画像合成方法及びプログラム | |
JP5051156B2 (ja) | 画像処理装置及びプログラム | |
JP5105550B2 (ja) | 画像合成装置及びプログラム | |
JP5413002B2 (ja) | 撮像装置および方法、並びにプログラム | |
JP4947136B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP4798236B2 (ja) | 撮像装置、画像処理方法及びプログラム | |
KR102400283B1 (ko) | 화상 처리 장치, 화상 처리 방법 및 프로그램 | |
US20170272660A1 (en) | Imaging device configured to control a region of imaging | |
JP2010239440A (ja) | 画像合成装置及びプログラム | |
JP5504990B2 (ja) | 撮像装置、画像処理装置及びプログラム | |
JP2012003576A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP5402166B2 (ja) | 画像合成装置及びプログラム | |
JP5267279B2 (ja) | 画像合成装置及びプログラム | |
JP2011066827A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP5733588B2 (ja) | 画像処理装置および方法、並びにプログラム | |
JP5636660B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP5493839B2 (ja) | 撮像装置、画像合成方法及びプログラム | |
JP2023090492A (ja) | 画像処理装置および画像処理方法、撮像装置 | |
JP2010278701A (ja) | 画像合成装置、画像合成方法及びプログラム | |
JP2011182014A (ja) | 撮像装置、撮像処理方法及びプログラム | |
JP5476900B2 (ja) | 画像合成装置、画像合成方法及びプログラム | |
JP2011003057A (ja) | 画像合成装置、画像特定方法、画像合成方法及びプログラム | |
JP5494537B2 (ja) | 画像処理装置及びプログラム | |
JP2011041041A (ja) | 撮像装置、撮像方法及びプログラム | |
JP5381207B2 (ja) | 画像合成装置及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20110324 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20110324 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20111115 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120112 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120911 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20121109 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130604 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130719 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130806 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130819 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5359856 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |