JP2011135400A - 画像処理装置、画像処理方法及びプログラム - Google Patents

画像処理装置、画像処理方法及びプログラム Download PDF

Info

Publication number
JP2011135400A
JP2011135400A JP2009293826A JP2009293826A JP2011135400A JP 2011135400 A JP2011135400 A JP 2011135400A JP 2009293826 A JP2009293826 A JP 2009293826A JP 2009293826 A JP2009293826 A JP 2009293826A JP 2011135400 A JP2011135400 A JP 2011135400A
Authority
JP
Japan
Prior art keywords
image
subject
equal
unit
flatness
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009293826A
Other languages
English (en)
Other versions
JP4947136B2 (ja
Inventor
Tetsuji Makino
哲司 牧野
Jun Hosoda
潤 細田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2009293826A priority Critical patent/JP4947136B2/ja
Priority to US12/972,815 priority patent/US8345119B2/en
Priority to CN201010625241.7A priority patent/CN102111556B/zh
Publication of JP2011135400A publication Critical patent/JP2011135400A/ja
Application granted granted Critical
Publication of JP4947136B2 publication Critical patent/JP4947136B2/ja
Priority to US13/722,324 priority patent/US8787675B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/272Means for inserting a foreground image in a background image, i.e. inlay, outlay
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/194Segmentation; Edge detection involving foreground-background segmentation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Studio Devices (AREA)
  • Studio Circuits (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Facsimile Image Signal Circuits (AREA)

Abstract

【課題】被写体領域を撮像画像から簡便に、且つ、適正に抽出する。
【解決手段】撮像装置100であって、撮像画像P1の非平坦度を演算する画像領域特定部8aと、演算された撮像画像P1の非平坦度が所定値以下である画像領域の範囲が所定の範囲以上か否かを判定する画像判定部8bと、その範囲が所定の範囲以上であると判定された場合に、この範囲の画像領域の情報に基づいて、撮像画像P1から被写体Sが含まれる被写体領域を抽出するための抽出用背景画像を生成する背景生成部8cと、抽出用背景画像と撮像画像P1との差分情報に基づいて、撮像画像P1から被写体領域を抽出する切抜画像生成部8eとを備えている。
【選択図】図1

Description

本発明は、撮像された画像から被写体領域を抽出する画像処理装置、画像処理方法及びプログラムに関する。
従来、撮像装置を用いて、背景内に被写体が存在する画像と被写体が存在しない背景画像を撮影して、背景画像と被写体が存在する画像から差分情報を生成し、被写体のみを抽出するアプリケーションが知られている(例えば、特許文献1参照)。
特開平10−21408号公報
しかしながら、従来の被写体抽出処理では、例えばホワイトボードに書かれた文字列を被写体として抽出したい場合、最大連結領域しか被写体として認識されないため、適正に抽出することができないという問題があった。
そこで、本発明の課題は、一の撮像画像から複数の被写体領域を簡便に、且つ、適正に抽出することができる画像処理装置、画像処理方法及びプログラムを提供することである。
上記課題を解決するため、請求項1に記載の発明の画像処理装置は、撮像画像を取得する取得手段と、この取得手段により撮像画像に含まれる非平坦度が所定値以下である画像領域を特定する特定手段と、この特定手段により特定された画像領域について、その範囲が所定の範囲以上であるか否かを判定する判定手段と、この判定手段により前記範囲が所定の範囲以上であると判定された場合に、前記範囲の画像領域の情報に基づいて、前記撮像画像から被写体領域を抽出するための抽出用背景画像を生成する背景生成手段と、前記抽出用背景画像と前記撮像画像との差分情報に基づいて、前記撮像画像から前記被写体領域を抽出する被写体抽出手段と、
を備えたことを特徴としている。
請求項2に記載の発明の画像処理装置は、請求項1に記載の画像処理装置において、前記撮像画像を複数の画像ブロックに分割する分割手段と、この分割手段により分割された前記複数の画像ブロックの各々の非平坦度を演算する非平坦度演算手段と、を更に備え、前記特定手段は、更に、前記非平坦度演算手段により演算された前記複数の画像ブロックの各々について前記非平坦度が所定値以下であるか否かを判定し、当該判定結果に基づいて、非平坦度が所定値以下である画像ブロックを特定し、前記判定手段は、更に、前記特定手段により特定された前記非平坦度が所定値以下である画像ブロックの数が全画像ブロック数に対して所定の割合以上であるか否かを判定し、前記背景生成手段は、更に、前記判定手段により前記非平坦度が所定値以下である画像ブロックの数が全画像ブロック数に対して所定の割合以上であると判定された場合に、当該画像ブロックから前記抽出用背景画像を生成することを特徴としている。
請求項3に記載の発明の画像処理装置は、請求項2に記載の画像処理装置において、前記非平坦度演算手段は、前記非平坦度として、前記分割手段により分割された前記複数の画像ブロック内の画素値のばらつき量を演算し、前記特定手段は、更に、前記非平坦度演算手段により演算された前記複数の画像ブロック内の画素値のばらつき量が所定値以下であるか否かを判定し、当該判定結果に基づいて、前記非平坦度が所定値以下である画像ブロックを特定することを特徴としている。
請求項4に記載の発明の画像処理装置は、請求項1〜3の何れか一項に記載の画像処理装置において、前記背景生成手段は、前記画像領域の色を前記情報とし、当該画像領域の色と略等しい色からなる単一色の画像を前記抽出用背景画像として生成することを特徴としている。
請求項5に記載の発明の画像処理装置は、請求項1〜4の何れか一項に記載の画像処理装置において、前記取得手段により取得された撮像画像に台形補正を施す補正手段を更に備え、前記特定手段は、前記補正手段により台形補正が施された画像から前記非平坦度が所定値以下である画像領域を特定することを特徴としている。
請求項6に記載の発明の画像処理装置は、請求項1〜5の何れか一項に記載の画像処理装置において、前記被写体抽出手段により抽出した被写体領域の画像の色を変更する色変更手段を更に備えたことを特徴としている。
請求項7に記載の発明の画像処理装置は、請求項1〜6の何れか一項に記載の画像処理装置において、前記被写体抽出手段により抽出された前記被写体領域の画像と他の画像とを合成して合成画像を生成する合成画像生成手段と、前記合成手段により生成された前記合成画像を記憶する記憶手段と、を更に備えたことを特徴としている。
請求項8に記載の発明の画像処理方法は、撮像画像を取得するステップと、この取得された撮像画像に含まれる非平坦度が所定値以下である画像領域を特定するステップと、この特定された画像領域について、その範囲が所定の範囲以上であるか否かを判定するステップと、前記画像領域の範囲が所定の範囲以上であると判定された場合に、当該画像領域から前記撮像画像から被写体領域を抽出するための抽出用背景画像を生成するステップと、前記抽出用背景画像と前記撮像画像との差分情報に基づいて、前記撮像画像から前記被写体領域を抽出するステップと、を実行させることを特徴としている。
請求項9に記載の発明のプログラムは、画像処理装置のコンピュータを、撮像画像を取得する取得手段、この取得手段により撮像画像に含まれる非平坦度が所定値以下である画像領域を特定する特定手段、この特定手段により特定された画像領域について、その範囲が所定の範囲以上であるか否かを判定する判定手段、この判定手段により前記範囲が所定の範囲以上であると判定された場合に、前記範囲の画像領域の情報に基づいて、前記撮像画像から被写体領域を抽出するための抽出用背景画像を生成する背景生成手段、前記抽出用背景画像と前記撮像画像との差分情報に基づいて、前記撮像画像から前記被写体領域を抽出する被写体抽出手段、として機能させることを特徴としている。
本発明によれば、被写体領域を撮像画像から簡便に、且つ、適正に抽出することができる。
本発明を適用した一実施形態の撮像装置の概略構成を示すブロック図である。 図1の撮像装置による被写体切り抜き処理に係る動作の一例を示すフローチャートである。 図2の被写体切り抜き処理における背景生成処理に係る動作の一例を示すフローチャートである。 図2の被写体切り抜き処理における領域検出処理に係る動作の一例を示すフローチャートである。 図2の被写体切り抜き処理を説明するための画像の一例を模式的に示す図である。 図2の被写体切り抜き処理を説明するための画像の一例を模式的に示す図である。 合成処理を説明するための画像の一例を模式的に示す図である。
以下に、本発明について、図面を用いて具体的な態様を説明する。ただし、発明の範囲は、図示例に限定されない。
図1は、本発明の画像処理装置を適用した一実施形態の撮像装置100の概略構成を示すブロック図である。
本実施形態の撮像装置100は、被写体Sを撮像した撮像画像P1(被写体存在画像P1)(図5(a)参照)の非平坦度が所定値以下である画像領域の範囲が所定の範囲以上であると判定された場合に、当該被写体存在画像P1から被写体領域の抽出用の抽出用背景画像を生成して、抽出用背景画像と被写体存在画像P1の対応する各画素の差分情報に基づいて、被写体存在画像P1から被写体領域を抽出する画像処理装置として機能する。
具体的には、図1に示すように、撮像装置100は、レンズ部1と、電子撮像部2と、撮像制御部3と、画像データ生成部4と、画像メモリ5と、非平坦度演算部6と、画像処理部8と、記録媒体9と、表示制御部10と、表示部11と、操作入力部12と、CPU13とを備えている。
また、撮像制御部3と、非平坦度演算部6と、画像処理部8と、CPU13は、例えば、カスタムLSI1Aとして設計されている。
レンズ部1は、複数のレンズから構成され、ズームレンズやフォーカスレンズ等を備えている。
また、レンズ部1は、図示は省略するが、被写体Sの撮像の際に、ズームレンズを光軸方向に移動させるズーム駆動部、フォーカスレンズを光軸方向に移動させる合焦駆動部等を備えていても良い。
電子撮像部2は、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal-oxide Semiconductor)等のイメージセンサから構成され、レンズ部1の各種レンズを通過した光学像を二次元の画像信号に変換する。
撮像制御部3は、図示は省略するが、タイミング発生器、ドライバなどを備えている。そして、撮像制御部3は、タイミング発生器、ドライバにより電子撮像部2を走査駆動して、所定周期毎に光学像を電子撮像部2により二次元の画像信号に変換させ、当該電子撮像部2の撮像領域から1画面分ずつ画像フレームを読み出して画像データ生成部4に出力させる。
また、撮像制御部3は、AF(自動合焦処理)、AE(自動露出処理)、AWB(自動ホワイトバランス)等の被写体Sの撮像条件の調整制御を行う。
レンズ部1、電子撮像部2及び撮像制御部3は、撮像画像として背景内に被写体Sが存在する被写体存在画像P1(図5(a)参照)を撮像して取得する取得手段を構成している。被写体Sは、例えばホワイトボードWに書かれた文字列のように、分離した領域を有していてもよい。
画像データ生成部4は、電子撮像部2から転送された画像フレームのアナログ値の信号に対してRGBの各色成分毎に適宜ゲイン調整した後に、サンプルホールド回路(図示略)でサンプルホールドしてA/D変換器(図示略)でデジタルデータに変換し、カラープロセス回路(図示略)で画素補間処理及びγ補正処理を含むカラープロセス処理を行った後、デジタル値の輝度信号Y及び色差信号Cb,Cr(YUVデータ)を生成する。
カラープロセス回路から出力される輝度信号Y及び色差信号Cb,Crは、図示しないDMAコントローラを介して、バッファメモリとして使用される画像メモリ5にDMA転送される。
なお、A/D変換後のデジタルデータを現像するデモザイク部(図示略)が、カスタムLSI1Aに実装されていても良い。
画像メモリ5は、例えば、DRAM等により構成され、非平坦度演算部6と、画像処理部8と、CPU13等によって処理されるデータ等を一時記憶する。
非平坦度演算部6は、非平坦度演算手段として、被写体存在画像P1の非平坦度を演算する。具体的には、非平坦度演算部6は、分割部6aと、ばらつき量算出部6bを具備している。
分割部6aは、背景生成処理にて、被写体存在画像P1のYUVデータに基づいて、当該被写体存在画像P1を複数の画像ブロックB、…に分割する(図5(b)参照)。
ここで、分割部6aは、被写体存在画像P1を複数の画像ブロック(画像領域)B、…に分割する分割手段を構成している。
ばらつき量算出部6bは、分割部6aにより分割された画像ブロックB内の画素値のばらつき量(非平坦度)を算出する。具体的には、ばらつき量算出部6bは、背景生成処理にて、被写体存在画像P1の複数の画像ブロックB、…の各々についてのばらつき量として、標準偏差を下記式(1)に従って算出する。
Figure 2011135400
なお、上記式(1)において、b:各ブロック領域の画素値としては、例えば、輝度値が挙げられる。
画像処理部8は、画像領域特定部8aと、画像領域判定部8bと、背景生成部8cと、マスク生成部8dと、切抜画像生成部8eとを具備している。
画像領域特定部8aは、被写体存在画像に含まれる非平坦度が所定値以下である画像領域を特定する。具体的には、画像領域特定部8aは、非平坦度演算部6により演算された各画像ブロックBの非平坦度の判定を行う非平坦度判定部8fを具備しており、当該非平坦度判定部8fによる判定結果に基づいて、非平坦度が所定値以下である画像ブロックBを特定する。
即ち、非平坦度判定部8fは、背景生成処理にて、ブロック内の画素値のばらつき量が所定値以下であるか否かを判定する。判定例を挙げて説明すると、非平坦度判定部8fは、例えば、図5(c)に示すように、被写体存在画像P1の複数の画像ブロックB、…のうちの被写体Sを含む画像ブロックB(図5(c)の網掛け部分)については、ブロック内の画素値のばらつき量が大きく、画素値のばらつき量が所定値以下であると判定しない。一方で、非平坦度判定部8fは、被写体存在画像P1の複数の画像ブロックBのうちの被写体Sを含まない画像ブロックBは、ブロック内の画素値のばらつき量が被写体Sを含む画像ブロックBに比して大幅に小さくなり、画素値のばらつき量が所定値以下であると判定する。
そして、画像領域特定部8aは、非平坦度判定部8fによる判定の結果、ブロック内の画素値の非平坦度が所定値以下であると判定された少なくとも一の画像ブロックBを含んでなる画像領域を特定する。
ここで、画像領域特定部8aは、被写体存在画像P1に含まれる非平坦度が所定値以下である画像領域を特定する特定手段を構成している。
画像領域判定部8bは、被写体存在画像P1のブロック内の画素値のばらつき量が所定値以下である画像ブロックBの数が必要ブロック数以上あるか否かを判定する判定手段を構成している。
即ち、例えば、画像領域判定部8bは、被写体存在画像P1のブロック内の画素値のばらつき量が所定値以下である画像ブロックBの数が必要ブロック数以上あるか否かにより、被写体存在画像P1における非平坦度が所定値以下である画像領域の範囲が所定の範囲以上であるか否かを判定する。
なお、必要ブロック数は、予め設定されており、その数は任意であるが、例えば全ての画像ブロックBの数Bmaxの半数が必要ブロック数として設定される。
背景生成部8cは、クロマキー技術を利用して被写体領域を抽出するための抽出用背景画像を生成する。
即ち、背景生成部8cは、画像領域判定部8bによって、被写体存在画像P1のブロック内の画素値のばらつき量が所定値以下である画像ブロックBの数が必要ブロック数以上あると判定された場合に、当該画像ブロックBの色とほぼ等しい色を背景色とする抽出用背景画像を生成する。例えば、図5(a)に示すように、背景生成部8cは、ホワイトボードWの場合のように無地の背景をバックに被写体Sを撮影した場合には、無地の背景とほぼ等しい色の抽出用背景画像を生成する。
なお、クロマキーとは、特定の色背景を用いて一の画像データから被写体Sを切り抜く手法である。クロマキーでは、通常、背景に被写体Sと補色の関係にある青や緑のスクリーンを用いるようになっており、被写体存在画像P1のブロック内の画素値のばらつき量が所定値以下である画像ブロックBとほぼ等しい色の抽出用背景画像を生成することで、抽出用背景画像と被写体存在画像P1の色情報を基にして背景部分と被写体部分を分離することができる。
ここで、背景生成部8cは、被写体存在画像P1の非平坦度が所定値以下である画像領域の範囲が所定の範囲以上であると判定された場合に、当該被写体存在画像P1に含まれる非平坦度が所定値以下である画像領域から被写体存在画像P1中の被写体Sが含まれる被写体領域の抽出用の抽出用背景画像を生成する背景生成手段を構成している。
マスク生成部8dは、被写体存在画像P1から被写体領域を抽出するためのマスク画像P2(図6(a)参照)を生成する。
即ち、マスク生成部8dは、抽出用背景画像と被写体存在画像P1の対応する各画素の相違度Dを下記式(2)に従って算出して相違度マップを生成する。
Figure 2011135400
なお、上記式にあっては、背景画像のYUVデータを「Y」、「U」、「V」で表し、被写体存在画像のYUVデータを「Yc」、「Uc」、「Vc」で表す。また、Gは、色差信号U、Vのゲインを表している。
そして、マスク生成部8dは、生成した相違度マップを所定の閾値で二値化(0、255)してマスク画像P2を生成する。
また、マスク生成部8dは、細かいノイズを除去するための収縮処理を行って所定値よりも小さい画素集合を除いた後、収縮分を修正するための膨張処理を行い、その後、同じ連結成分を構成する画素集合に同じ番号を付けるラベリング処理により、有効領域の構成画素数における所定の比率以下の領域を有効領域に置き換えることで穴埋めも行う。さらに、マスク生成部8dは、領域情報に対して平均化フィルタをかけて領域の縁部に合成階調をつける。
切抜画像生成部8eは、被写体Sの画像を所定の単一色背景画像P4と合成して被写体切り抜き画像P3の画像データを生成する。
即ち、切抜画像生成部8eは、クロマキー技術を利用して、マスク生成部8dにより生成されたマスク画像P2を用いて被写体存在画像P1から被写体領域を切り出して、単一色背景画像P4と合成して被写体切り抜き画像P3の画像データを生成する(図6(b)参照)。なお、マスク画像P2の縁部分には、合成階調がつけられているため、切り出された被写体領域と単一色背景画像P4との境界部分がはっきりしていない自然な感じに合成することができる。単一色背景画像P4の色は任意であるが、例えばグレー等の色が挙げられる。
ここで、切抜画像生成部8eは、抽出用背景画像と被写体存在画像P1の対応する各画素の差分情報に基づいて、被写体存在画像P1から被写体領域を抽出する被写体抽出手段を構成している。
記録媒体9は、例えば、不揮発性メモリ(フラッシュメモリ)等により構成され、画像処理部8のJPEG圧縮部(図示略)により符号化された撮像画像の記録用の画像データを記憶する。
また、記録媒体9は、画像処理部8のマスク生成部8dにより生成されたマスク画像P2と、被写体切り抜き画像P3の画像データをそれぞれ圧縮した上で対応付けて、当該被写体切り抜き画像P3の画像データの拡張子を「.jpe」として保存する。
表示制御部10は、画像メモリ5に一時的に記憶されている表示用画像データを読み出して表示部11に表示させる制御を行う。
具体的には、表示制御部10は、VRAM、VRAMコントローラ、デジタルビデオエンコーダなどを備えている。そして、デジタルビデオエンコーダは、CPU13の制御下にて画像メモリ5から読み出されてVRAM(図示略)に記憶されている輝度信号Y及び色差信号Cb,Crを、VRAMコントローラを介してVRAMから定期的に読み出して、これらのデータを元にビデオ信号を発生して表示部11に出力する。
表示部11は、例えば、液晶表示装置であり、表示制御部10からのビデオ信号に基づいて電子撮像部2により撮像された画像などを表示画面11aに表示する。具体的には、表示部11は、撮像モードにて、レンズ部1、電子撮像部2及び撮像制御部3による被写体Sの撮像により生成された複数の画像フレームに基づいてライブビュー画像を表示したり、本撮像画像として撮像されたレックビュー画像を表示する。
操作入力部12は、当該撮像装置100の所定操作を行うためのものである。具体的には、操作入力部12は、被写体Sの撮影指示に係るシャッタボタン12a、メニュー画面にて撮像モードや機能等の選択指示に係るモードボタン12b、ズーム量の調整指示に係るズームボタン(図示略)等を備え、これらのボタンの操作に応じて所定の操作信号をCPU13に出力する。
CPU13は、撮像装置100の各部を制御するものである。具体的には、CPU13は、撮像装置100用の各種処理プログラム(図示略)に従って各種の制御動作を行うものである。撮像装置100用の各種処理プログラムは、ROM(図示略)等に記憶されており、処理内容に応じてCPU13が読み出して実行処理する。
次に、撮像装置100による画像処理方法に係る被写体切り抜き処理について、図2〜図8を参照して説明する。
図2及び図3は、被写体切り抜き処理に係る動作の一例を示すフローチャートである。
被写体切り抜き処理は、ユーザによる操作入力部12のモードボタン12bの所定操作に基づいて、メニュー画面に表示された複数の撮像モードの中から被写体切り抜きモードが選択指示された場合に実行される処理である。
なお、以下の説明にあっては、被写体Sとして、例えば、ホワイトボードWに書かれた文字列を例示し、当該被写体Sの撮像回数(M)を1回とするが、撮像装置100を所定方向に動かしながら所定の被写体を撮像するモードでは、撮像回数(M)を複数回としても良い。
図2に示すように、先ず、ユーザによるシャッタボタン12aの所定操作に基づいて、撮像制御部3は、被写体S(例えばホワイトボードWに書かれた文字列等)の光学像を所定の撮像条件で電子撮像部2により撮像させ(ステップS1)、電子撮像部2から転送された被写体存在画像P1の画像フレームに基づいて、画像データ生成部4が被写体存在画像P1のYUVデータを生成する。
また、ステップS1の処理に基づいて、表示制御部10は、CPU13の制御下にて、被写体存在画像P1を表示部11の表示画面11aに表示させてもよい。
次に、CPU13は、ステップS1により得られた撮像画像の枚数を定数M(例えば、M=1)として設定し(ステップS2)、画像メモリに書き込む。
次に、CPU13は、非平坦度演算部6及び画像処理部8に、被写体存在画像P1から被写体領域を抽出するための抽出用背景画像を生成させる抽出用背景生成処理を行わせる(ステップS3)。
ここで、抽出用背景生成処理について図3を参照して詳細に説明する。
図3は、抽出用背景生成処理に係る動作の一例を示すフローチャートである。
図3に示すように、まず、CPU13は、処理ブロックカウンタSBC及び有効ブロックカウンタYBCをそれぞれ初期値0で設定し(ステップS21)、画像メモリ5に書き込む。
そして、分割部6aは、被写体存在画像P1のYUVデータに基づいて、当該被写体存在画像P1を複数の画像ブロックB、…(図5(b)参照)に分割し、分割された複数の画像ブロックの総数を定数Bmaxとして設定し(ステップS22)画像メモリ5に書き込む。
続けて、ばらつき量算出部6bは、被写体存在画像P1の複数の画像ブロックB、…のうち、まだ画素値のばらつき量としての標準偏差を算出していない画像ブロックBのうち一つの画像ブロックBについて、画素値のばらつき量としての標準偏差を式(1)に従って算出する(ステップS23)。
Figure 2011135400
次に、非平坦度判定部8fは、算出された画像ブロックBのばらつき量が所定値以下であるか否かを判定する(ステップS24)。
ここで、ばらつき量が所定値以下であると判定されると(ステップS24;YES)、画像処理部8は、ステップS24においてばらつき量が所定値以下であると判定された画像ブロックBの平均色を算出する(ステップS25)。そして、CPU13は、有効ブロックカウンタYBCに1を加算(YBC=YBC+1)する(ステップS26)。
そして、CPU13は、処理ブロックカウンタSBCに1を加算(SBC=SBC+1)する(ステップS27)。
一方、ステップS24にて、ばらつき量が所定値以下でないと判定されると(ステップS24;NO)、CPU13は、ステップS25、S26の処理を行わず、処理をステップS27に移行して、処理ブロックカウンタSBCに1を加算(SBC=SBC+1)する。
ステップS27の処理後、CPU13は、処理ブロックカウンタSBCの値が画像ブロックの総数Bmaxの値と等しいか否かを判定する(ステップS28)。
ここで、処理ブロックカウンタSBCの値が画像ブロックの総数Bmaxの値と等しくないと判定されると(ステップS28;NO)、CPU13は、処理をステップS23に移行して、各部によるそれ以降の処理を行う。つまり、ばらつき量算出部6bが全ての画像ブロックBに対して画素値のばらつき量としての標準偏差を算出し、非平坦度判定部8fが画素値のばらつき量が所定値以下であるか否かを判定する。そして、CPU13は、ばらつき量が所定値以下であると判定された画像ブロックBの数を有効ブロックカウンタYBCの値によりカウントする。
ステップS28にて、処理ブロックカウンタSBCの値が画像ブロックの総数Bmaxの値と等しいと判定される(ステップS28;YES)ということは、全ての画素ブロックに対する画素値のばらつき量としての標準偏差の算出及びそのばらつき量が所定値以下であるか否かの判定が完了したことを示す。
そして、処理ブロックカウンタSBCの値が画像ブロックの総数Bmaxの値と等しいと判定されると(ステップS28;YES)、画像領域判定部8bは、有効ブロックカウンタYBCの値が必要ブロック数以上であるか否かを判定する(ステップS29)。
ステップS29にて、有効ブロックカウンタYBCの値が必要ブロック数以上であると判定されると(ステップS29;YES)、画像処理部8は、ばらつき量が所定値以下であると判定された画像ブロックBのうち、同一色であるとみなすことができる色のブロック数を同一ブロック数として算出する(ステップS30)。
そして、画像領域判定部8bは、同一ブロック数のうち最大の値をとる最多同一ブロック数を特定して、当該最多同一ブロック数が必要ブロック数以上であるか否かを判定する(ステップS31)。
ステップS31にて、最多同一ブロック数が必要ブロック数以上であると判定されると(ステップS31;YES)、背景生成部8cは、最多同一ブロック数に計数された画像ブロックBの平均色を背景色とする抽出用背景画像のYUVデータを生成(ステップS32)して、抽出用背景生成成功とする(ステップS33)。
一方、ステップS31にて最多同一ブロック数が必要ブロック数以上でないと判定された場合(ステップS31;NO)、例えば、ばらつきのない安定した画像ブロックBがあっても、ほぼ等しい色のブロックが必要ブロック数以上ない場合等には背景が特定できないため、背景生成部8cは、抽出用背景画像を生成せずに、抽出用背景生成失敗とする(ステップS34)。
また、ステップS29にて有効ブロックカウンタYBCの値が必要ブロック数以上でないと判定された場合(ステップS29;NO)、ばらつきのない安定した画像ブロックBがないために背景が特定できないことから、背景生成部8cは、抽出用背景画像を生成せずに、抽出用背景生成失敗とする(ステップS34)。
これにより、抽出用背景生成処理を終了する。
図3に示すように、次に、CPU13は、背景生成部8cに、抽出用背景生成が成功したか否かを判定させる(ステップS4)。
ここで、抽出用背景生成が成功したと判定されると(ステップS4;YES)、CPU13は、被写体切り抜き処理を完了した撮像画像の枚数を管理するためのカウンタNを初期値0で設定し(ステップS5)、画像メモリ5に書き込む。
そして、CPU13は、画像処理部8に、まだ領域検出処理を施されていない撮像画像のうち一つの撮像画像に対して、被写体存在画像P1から被写体Sが含まれる被写体領域を検出する領域検出処理を行わせる(ステップS6)。
ここで、領域検出処理について図4を参照して詳細に説明する。
図4は、領域検出処理に係る動作の一例を示すフローチャートである。
図4に示すように、画像処理部のマスク生成部8dは、抽出用背景画像(背景画像)のYUVデータと被写体存在画像P1のYUVデータとの間で対応する各画素の相違度Dを式(2)に従って算出して相違度マップを生成する(ステップS41)。
Figure 2011135400
次に、マスク生成部8dは、生成した相違度マップを所定の閾値で二値化してマスク画像データを生成する(ステップS42)。そして、マスク生成部8dは、例えば、背景(二値化;0)の領域が著しく小さいか否か等を判定することで、二値化が成功したか否かを判定する(ステップS43)。
ここで、二値化に成功したと判定されると(ステップS43;YES)、マスク生成部8dは、被写体領域の周辺部の残り過ぎを修正したり細かいノイズを除去するため、マスク画像データに対する収縮処理を行って所定値よりも小さい画素集合を除いた後(ステップS44)、収縮分を修正するための膨張処理を行う(ステップS45)。
続けて、被写体Sに背景色と似たような色がある場合、マスク画像P2の被写体領域内が欠損するため、マスク生成部8dは、同じ連結成分を構成する画素集合に同じ番号を付けるラベリング処理により、マスク画像データの有効領域の構成画素数における所定の比率以下の領域を有効領域に置き換えることで穴埋めを行う(ステップS46)。
その後、マスク生成部8dは、マスク画像データに対して平均化フィルタをかけて、被写体領域の縁部に合成階調をつけて(ステップS47)、領域検出成功とする(ステップS48)。
一方、ステップS43にて、二値化に成功しなかったと判定されると(ステップS43;NO)、例えば、背景(二値化;0)の領域が著しく小さい場合などには、マスク生成部8dは、二値化に失敗したとみなして領域検出失敗とする(ステップS49)。
これにより、領域検出処理を終了する。
領域検出処理(ステップS6)の終了後、CPU13は、マスク生成部8dに、被写体領域の検出が成功したか否かを判定させる(ステップS7)。
ここで、被写体領域の検出が成功したと判定されると(ステップS23;YES)、CPU13は、切抜画像生成部8eに、クロマキー技術を利用して、領域検出処理にて生成されたマスク画像P2を用いて被写体存在画像P1から被写体領域を切り出して、単一色背景画像P4と合成して被写体切り抜き画像P3(図6(b)参照)の画像データを生成させる(ステップS8)。
具体的には、切抜画像生成部8eは、被写体存在画像P1、単一色背景画像P4及びマスク画像データを読み出して画像メモリ5に展開した後、被写体存在画像P1のうち、マスク画像データの塗りつぶした部分(被写体S以外の部分)で覆われる画素については、単一色背景画像P4の所定の単一色で塗りつぶす一方で、被写体部分の画素については、何もせずに所定の単一色に対して透過させないようにする。なお、マスク画像P2の縁部分には、合成階調がつけられているため、切り出された被写体領域と単一色背景画像P4との境界部分がはっきりしていない自然な感じとなる。
そして、CPU13は、記録媒体9の所定の記憶領域に、画像処理部8のマスク生成部8dにより生成されたマスク画像データと被写体切り抜き画像P3の画像データを対応付けて、当該被写体切り抜き画像P3の画像データの拡張子を「.jpe」として一ファイルで保存させる(ステップS9)。
その後、CPU13は、カウンタNに1を加算する(ステップS10)。
一方、ステップS7において、被写体領域の検出が失敗したと判定されると(ステップS7;NO)、CPU13は、ステップS8、S9の処理を行わず、処理をステップS10に移行して、カウンタNに1を加算する。
ステップS10の処理後、CPU13は、カウンタNの値が撮像画像の枚数Mと等しいか否かを判定する(ステップS11)。
ここで、カウンタNの値が撮像画像の枚数Mと等しくないと判定されると(ステップS11;NO)、CPU13は、処理をステップS6に移行して、それ以降の処理を行う。つまり、CPU13は、全ての撮像画像に対して、領域検出処理、被写体領域の検出が成功したか否かの判定、被写体領域の検出が成功した場合における被写体切り抜き画像P3の画像データの生成及び被写体切り抜き画像P3の画像データの保存を行う。
一方、ステップS11にて、カウンタNの値が撮像画像の枚数Mと等しいと判定されると(ステップS11;YES)、CPU13は、被写体切り抜き処理を終了する。
なお、ステップS4にて、抽出用背景生成が成功しなかったと判定されると(ステップS4;NO)、表示制御部10は、CPU13の制御下にて、被写体Sの切り抜きの失敗に係る所定のメッセージ(例えば、「被写体の切り抜きに失敗しました」等)を表示部11の表示画面11aに表示させて(ステップS12)、被写体切り抜き処理を終了する。
以上のように、本実施形態の撮像装置100によれば、背景内に被写体Sが存在する被写体存在画像P1の非平坦度が所定値以下である画像領域を特定し、当該被写体存在画像P1に含まれる非平坦度が所定値以下である画像領域の範囲が所定の範囲以上であると判定された場合に、被写体存在画像P1から被写体領域の抽出用の抽出用背景画像を生成して、抽出用背景画像と被写体存在画像P1の対応する各画素の相違度Dに基づいて、被写体存在画像P1から被写体領域を抽出して被写体切り抜き画像P3を生成する。即ち、撮像装置100は、抽出用背景画像に対して非平坦な領域を被写体構成領域として抽出することができるので、被写体領域が連続して構成された一領域でなく、文字のように分離した領域を具備していても、各領域をそれぞれ抽出することができる。
従って、被写体存在画像P1から分離した構成領域を具備する被写体領域の抽出を簡便に、且つ、適正に行うことができる。
また、撮像装置100は、被写体存在画像P1を複数の画像ブロックB、…に分割して、画像ブロックB毎に非平坦度を算出し、非平坦度が所定値以下であるか否かの判定結果に基づいて、非平坦度が所定値以下である画像ブロックBを特定する。具体的には、非平坦度として、ばらつき量算出部6bが画像ブロックB内の画素値のばらつき量を演算し、非平坦度判定部8fが演算された画素値のばらつき量が所定値以下であるか否かを判定し、当該判定結果に基づいて、非平坦度が所定値以下である画像ブロックを特定する。これにより、抽出用背景画像の生成に係る非平坦度が所定値以下である画像ブロックBの特定を適正に行うことができる。
そして、撮像装置100は、非平坦度が所定値以下である画像ブロックの数が全画像ブロック数に対して所定の割合以上であるか否かを判定し、非平坦度が所定値以下である画像ブロックの数が全画像ブロック数に対して所定の割合以上であると判定された場合に、当該画像ブロックから抽出用背景画像を生成する。
従って、撮像装置100は、上述の処理により被写体存在画像P1から良好に抽出用背景画像を生成することができ、背景画像を被写体存在画像P1とは別個に撮像する必要がなくなって、被写体存在画像P1からの被写体領域の抽出を簡便に行うことができる。
また、非平坦度が所定値以下である画像領域の色とほぼ等しい色の抽出用背景画像を生成するので、抽出用背景画像に対して異なる色の画像領域を被写体領域と判断することができ、被写体領域が分離した領域を有していても、抽出用背景画像に対して異なる色の各領域をそれぞれ適正に抽出することができる。
さらに、撮像装置100を動かしながら被写体Sを連続して撮像する場合であっても、各被写体存在画像P1に含まれる非平坦度が所定値以下である画像領域の範囲が所定の範囲以上であれば、被写体領域の抽出用の抽出用背景画像を一つ生成するだけで、当該一の抽出用背景画像を用いて複数の被写体存在画像P1の各々から被写体Sを簡便に、且つ、適正に抽出することができる。
なお、本発明は、上記実施形態に限定されることなく、本発明の趣旨を逸脱しない範囲において、種々の改良並びに設計の変更を行っても良い。
例えば、被写体切り抜き画像P3の被写体領域と被写体存在画像P1以外の他の画像とを合成して被写体合成画像を生成する合成画像生成手段(図示略)を撮像装置100に設けてもよい。合成画像生成手段は、例えば、被写体切り抜き画像P3と背景用画像(図7(a)の背景用画像P5)とを合成して被写体合成画像(図7(b)の被写体合成画像P6)を生成する。
この被写体合成画像を生成する処理においては、被写体切り抜き画像P3の画像データについて、マスク画像データの塗りつぶした部分(被写体S以外の部分)で覆われる画素については背景用画像P5の色を透過させ、一方、被写体部分の画素については、何もせずに背景用画像P5の色に対して透過させないようにする。これにより、被写体切り抜き画像P3の被写体領域が所定の背景用画像P5に重畳された被写体合成画像P6を生成することができる。
被写体合成画像を生成するときに、被写体存在画像P1以外の他の画像として必ずしも背景用画像を用いる必要はない。例えば、ふきだし等の所定のパターン画像(例えば図8のパターン画像P8等)を用いてもよく、当該所定のパターン画像と被写体切り抜き画像P3とを合成した被写体合成画像(例えば図7(c)の被写体合成画像P7)を生成しても良い。
また、撮像装置100は、生成された被写体合成画像を記録媒体(記憶手段)9に記憶しても良い。
なお、所定の背景用画像P5や所定のパターン画像P8は、記録媒体9に記憶されていてもよいし、撮像装置100に設けられた別途専用の記憶装置に記憶されてもよい。
これによって、様々な背景用画像(例えば背景用画像P5等)やパターン画像(例えばパターン画像P8等)を合成対象として、被写体切り抜き画像P3を用いた様々な被写体合成画像P6、P7等を生成することができるので、被写体切り抜き画像P3を用いた興趣性の高い画像を得ることができる。よって、被写体切り抜き画像P3の活用の可能性を大幅に広げることができ、より使い勝手の良い撮像装置100を提供することができる。
また、被写体存在画像P1に台形補正を施す補正手段(図示略)を撮像装置100に設けてもよい。
例えば、図5に示すホワイトボードW等に記載された被写体Sを撮像する場合、ホワイトボードWが撮像装置100のレンズ部1に対して平行となるよう保持されるとは限らない。このため、ホワイトボードWが撮像装置100のレンズ部1に対して平行とならず傾きを生じると、その傾きに応じて、レンズ部1に近い側が大きく撮像される一方でレンズ部1に遠い側が小さく撮像され、結果として被写体Sが台形状に歪みを生じる。
そこで、撮像装置100に台形補正を施す補正手段を設けることで、台形状に歪みを生じた被写体Sを含む被写体存在画像P1に対して台形補正を施す。補正手段は、台形補正として、被写体存在画像P1に含まれるホワイトボードWの四隅を基準に射影変換処理を行う。これにより、補正手段は、被写体存在画像P1に生じた台形状の歪みを補正する。そして、画像領域特定部8aは、補正手段により台形補正を施された被写体存在画像P1から非平坦度が所定値以下である画像領域を特定する。
これによって、被写体存在画像P1に含まれる被写体Sが台形状に歪みを生じた場合であっても、被写体存在画像P1から歪みが取り除かれた利便性の高い被写体領域を抽出することができる。即ち、例えば、ホワイトボードWに書かれた文字列などを被写体Sとした場合には、被写体切り抜き処理にて抽出される文字列からホワイトボードWと撮像装置100との相対的な位置を原因とする歪みを排除することができ、見栄えの良い文字列を抽出することができる。
また、撮像装置100に、抽出された被写体領域画像の色を変更する色変更手段(図示略)を設けてもよい。被写体領域画像の色は、例えば、所定のカラープリセットから選択された色に変更されるようにしてもよい。
即ち、被写体領域画像の色を変更することにより、一の被写体切り抜き画像P3から様々な色の被写体領域画像を得ることができ、被写体切り抜き画像P3の活用の可能性を大幅に広げることができることとなって、より使い勝手の良い撮像装置100を提供することができる。
また、上記実施形態にあっては、マスク画像データと被写体切り抜き画像P3の画像データを対応付けて一ファイルで保存させるようにしたが、マスク画像データと被写体存在画像P1の画像データを対応付けて一ファイルで記録媒体(記憶手段)9に保存させるようにしても良い。この場合、当該ファイルの再生には、被写体存在画像P1を再生させるモードと、再生時にマスク画像データを適用して被写体切り抜き画像P3を合成して表示する2モードを用意しておくとよい。
また、前述の図2に示すフローチャートに示す被写体切り抜き処理では、背景生成失敗となった場合に当該被写体切り抜き処理を終了させるようにしたが、被写体存在画像P1から抽出用背景画像を生成できなかった場合に、背景のみを撮像して抽出用背景画像を生成するためのルーチンを加えてもよい。これによって、被写体存在画像P1から抽出用背景画像を生成することができない場合であっても、背景のみを撮像して抽出用背景画像を生成することにより、被写体存在画像P1から被写体切り抜き画像P3を得ることができる。
また、撮像装置100は、被写体切り抜き処理にて、被写体Sに基づく光学文字認識(Optical Character Recognition、OCR)を行う光学文字認識手段を更に備えてもよい。これにより、被写体Sが文字列である場合に、被写体切り抜き処理にて被写体Sを文字列として認識することができるので、被写体Sの抽出精度を向上させることができる。
さらに、撮像装置100の構成は、上記実施形態に例示したものは一例であり、これに限られるものではない。また、上記実施形態にあっては、画像処理装置を適用した撮像装置100の構成としたが、これに限られるものではなく、撮像する代わりに記録媒体から画像を読み出して、上記実施形態と同様の処理を実行する画像処理装置であっても良い。
加えて、上記実施形態にあっては、特定手段、判定手段、抽出用背景生成手段、被写体抽出手段としての機能を、CPU13の制御下にて、画像処理部8が駆動することにより実現される構成としたが、これに限られるものではなく、CPU13によって所定のプログラム等が実行されることにより実現される構成としても良い。
即ち、プログラムを記憶するプログラムメモリ(図示略)に、画像領域特定処理ルーチン、判定処理ルーチン、抽出用背景生成処理ルーチン、被写体抽出処理ルーチンを含むプログラムを記憶しておく。そして、画像領域特定処理ルーチンによりCPU13を、撮像手段により撮像された被写体存在画像P1の非平坦度が所定値以下である画像領域を特定する特定手段として機能させるようにしても良い。また、判定処理ルーチンによりCPU13を、被写体存在画像における特定手段により特定された非平坦度が所定値以下である画像領域の範囲が所定の範囲以上であるか否かを判定する判定手段として機能させるようにしても良い。また、抽出用背景生成処理ルーチンによりCPU13を、判定処理にて非平坦度が所定値以下である画像領域の範囲が所定の範囲以上であると判定された場合に、被写体存在画像P1から被写体存在画像P1中の被写体Sが含まれる被写体領域の抽出用の抽出用背景画像を生成する抽出用背景生成手段として機能させるようにしても良い。また、被写体抽出処理ルーチンによりCPU13を、抽出用背景画像と被写体存在画像P1の対応する各画素の差分情報に基づいて、被写体存在画像P1から被写体領域を抽出して被写体領域画像を取得する被写体抽出手段として機能させるようにしても良い。
同様に、合成画像生成手段、補正手段及び色変更手段についても、CPU13によって所定のプログラム等が実行されることにより実現される構成としても良い。
以上の説明では、本発明に係るプログラムのコンピュータ読み取り可能な媒体としてROMを使用した例を開示したが、この例に限定されない。
その他のコンピュータ読み取り可能な媒体として、フラッシュメモリ等の不揮発性メモリ、CD-ROM等の可搬型記録媒体を適用することが可能である。
また、本発明に係るプログラムのデータを通信回線を介して提供する媒体として、キャリアウエーブ(搬送波)も本発明に適用される。
100 撮像装置
1 レンズ部
2 電子撮像部
3 撮像制御部
6 非平坦度演算部
6a 分割部
6b ばらつき量算出部
8 画像処理部
8a 画像領域特定部
8b 画像領域判定部
8c 背景生成部
8d マスク生成部
8e 切抜画像生成部
8f 非平坦度判定部
13 CPU

Claims (9)

  1. 撮像画像を取得する取得手段と、
    この取得手段により撮像画像に含まれる非平坦度が所定値以下である画像領域を特定する特定手段と、
    この特定手段により特定された画像領域について、その範囲が所定の範囲以上であるか否かを判定する判定手段と、
    この判定手段により前記範囲が所定の範囲以上であると判定された場合に、前記範囲の画像領域の情報に基づいて、前記撮像画像から被写体領域を抽出するための抽出用背景画像を生成する背景生成手段と、
    前記抽出用背景画像と前記撮像画像との差分情報に基づいて、前記撮像画像から前記被写体領域を抽出する被写体抽出手段と、
    を備えたことを特徴とする画像処理装置。
  2. 前記撮像画像を複数の画像ブロックに分割する分割手段と、
    この分割手段により分割された前記複数の画像ブロックの各々の非平坦度を演算する非平坦度演算手段と、を更に備え、
    前記特定手段は、更に、
    前記非平坦度演算手段により演算された前記複数の画像ブロックの各々について前記非平坦度が所定値以下であるか否かを判定し、当該判定結果に基づいて、非平坦度が所定値以下である画像ブロックを特定し、
    前記判定手段は、更に、
    前記特定手段により特定された前記非平坦度が所定値以下である画像ブロックの数が全画像ブロック数に対して所定の割合以上であるか否かを判定し、
    前記背景生成手段は、更に、
    前記判定手段により前記非平坦度が所定値以下である画像ブロックの数が全画像ブロック数に対して所定の割合以上であると判定された場合に、当該画像ブロックから前記抽出用背景画像を生成することを特徴とする請求項1に記載の画像処理装置。
  3. 前記非平坦度演算手段は、
    前記非平坦度として、前記分割手段により分割された前記複数の画像ブロック内の画素値のばらつき量を演算し、
    前記特定手段は、更に、
    前記非平坦度演算手段により演算された前記複数の画像ブロック内の画素値のばらつき量が所定値以下であるか否かを判定し、当該判定結果に基づいて、前記非平坦度が所定値以下である画像ブロックを特定することを特徴とする請求項2に記載の画像処理装置。
  4. 前記背景生成手段は、
    前記画像領域の色を前記情報とし、当該画像領域の色と略等しい色からなる単一色の画像を前記抽出用背景画像として生成することを特徴とする請求項1〜3の何れか一項に記載の画像処理装置。
  5. 前記取得手段により取得された撮像画像に台形補正を施す補正手段を更に備え、
    前記特定手段は、
    前記補正手段により台形補正が施された画像から前記非平坦度が所定値以下である画像領域を特定することを特徴とする請求項1〜4の何れか一項に記載の画像処理装置。
  6. 前記被写体抽出手段により抽出した被写体領域の画像の色を変更する色変更手段を更に備えたことを特徴とする請求項1〜5の何れか一項に記載の画像処理装置。
  7. 前記被写体抽出手段により抽出された前記被写体領域の画像と他の画像とを合成して合成画像を生成する合成画像生成手段と、
    前記合成手段により生成された前記合成画像を記憶する記憶手段と、を更に備えたことを特徴とする請求項1〜6の何れか一項に記載の画像処理装置。
  8. 撮像画像を取得するステップと、
    この取得された撮像画像に含まれる非平坦度が所定値以下である画像領域を特定するステップと、
    この特定された画像領域について、その範囲が所定の範囲以上であるか否かを判定するステップと、
    前記画像領域の範囲が所定の範囲以上であると判定された場合に、当該画像領域から前記撮像画像から被写体領域を抽出するための抽出用背景画像を生成するステップと、
    前記抽出用背景画像と前記撮像画像との差分情報に基づいて、前記撮像画像から前記被写体領域を抽出するステップと、
    を実行させることを特徴とする画像処理方法。
  9. 画像処理装置のコンピュータを、
    撮像画像を取得する取得手段、
    この取得手段により撮像画像に含まれる非平坦度が所定値以下である画像領域を特定する特定手段、
    この特定手段により特定された画像領域について、その範囲が所定の範囲以上であるか否かを判定する判定手段、
    この判定手段により前記範囲が所定の範囲以上であると判定された場合に、前記範囲の画像領域の情報に基づいて、前記撮像画像から被写体領域を抽出するための抽出用背景画像を生成する背景生成手段、
    前記抽出用背景画像と前記撮像画像との差分情報に基づいて、前記撮像画像から前記被写体領域を抽出する被写体抽出手段
    として機能させることを特徴とするプログラム。
JP2009293826A 2009-12-25 2009-12-25 画像処理装置、画像処理方法及びプログラム Expired - Fee Related JP4947136B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2009293826A JP4947136B2 (ja) 2009-12-25 2009-12-25 画像処理装置、画像処理方法及びプログラム
US12/972,815 US8345119B2 (en) 2009-12-25 2010-12-20 Image pickup device, image processing method, and storage medium storing program
CN201010625241.7A CN102111556B (zh) 2009-12-25 2010-12-24 摄像装置以及图像处理方法
US13/722,324 US8787675B2 (en) 2009-12-25 2012-12-20 Image pickup device, image processing method, and storage medium storing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009293826A JP4947136B2 (ja) 2009-12-25 2009-12-25 画像処理装置、画像処理方法及びプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2012008810A Division JP5131399B2 (ja) 2012-01-19 2012-01-19 画像処理装置、画像処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2011135400A true JP2011135400A (ja) 2011-07-07
JP4947136B2 JP4947136B2 (ja) 2012-06-06

Family

ID=44175563

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009293826A Expired - Fee Related JP4947136B2 (ja) 2009-12-25 2009-12-25 画像処理装置、画像処理方法及びプログラム

Country Status (3)

Country Link
US (2) US8345119B2 (ja)
JP (1) JP4947136B2 (ja)
CN (1) CN102111556B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015065654A (ja) * 2013-09-24 2015-04-09 コニカ ミノルタ ラボラトリー ユー.エス.エー.,インコーポレイテッド 自動修復を用いたカラー文書画像セグメンテーション及び二値化

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090136133A1 (en) * 2007-11-26 2009-05-28 Mcgann Kevin Thomas Personalized fetal ultrasound image design
JP5455038B2 (ja) * 2009-12-28 2014-03-26 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP5131334B2 (ja) * 2010-09-30 2013-01-30 ブラザー工業株式会社 画像処理装置、画像処理方法、画像読取装置、及び画像処理プログラム
KR20120136628A (ko) * 2011-06-09 2012-12-20 엘지전자 주식회사 영상표시장치 및 그 동작방법
JP6395423B2 (ja) * 2014-04-04 2018-09-26 キヤノン株式会社 画像処理装置、制御方法及びプログラム
JP6622295B2 (ja) 2015-04-30 2019-12-18 富士フイルム株式会社 画像処理装置、画像処理装置の作動方法及びプログラム
CN108255901B (zh) * 2017-04-06 2019-03-08 新华智云科技有限公司 一种纸媒网页链接发送方法及设备
CN109905593B (zh) 2018-11-06 2021-10-15 华为技术有限公司 一种图像处理方法和装置
US11800056B2 (en) 2021-02-11 2023-10-24 Logitech Europe S.A. Smart webcam system
US11800048B2 (en) 2021-02-24 2023-10-24 Logitech Europe S.A. Image generating system with background replacement or modification capabilities

Citations (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06195460A (ja) * 1992-12-25 1994-07-15 Fujitsu Ltd 画像抽出方式
JPH1139479A (ja) * 1997-07-16 1999-02-12 Dainippon Screen Mfg Co Ltd 鮮鋭度の評価方法
JPH11110559A (ja) * 1997-10-03 1999-04-23 Nec Corp 物体検出・背景除去方法、装置およびプログラムを記録した記録媒体
JP2000022943A (ja) * 1998-06-30 2000-01-21 Minolta Co Ltd 画像領域判別装置および方法ならびに画像領域判別プログラムを記録した記録媒体
JP2000048120A (ja) * 1998-07-28 2000-02-18 Nippon Telegr & Teleph Corp <Ntt> 濃淡画像の文字領域抽出方法及びそのプログラムを記録した記録媒体
JP2002117409A (ja) * 2000-10-10 2002-04-19 Canon Inc 画像処理方法及びその装置
JP2002166608A (ja) * 2000-12-01 2002-06-11 Sharp Corp 印刷データ作成システム,方法およびプログラム
JP2002312795A (ja) * 2001-04-13 2002-10-25 Sony Corp 画像処理装置および画像処理方法、記録媒体、並びにプログラム
JP2004258927A (ja) * 2003-02-25 2004-09-16 Matsushita Electric Works Ltd 人検出方法及び人検出装置
JP2005295163A (ja) * 2004-03-31 2005-10-20 Omron Entertainment Kk 写真プリント装置、写真プリント装置の制御方法、プログラム、および、プログラムを記録した記録媒体
JP2006180424A (ja) * 2004-12-24 2006-07-06 Ricoh Co Ltd 画像処理装置および画像処理方法、並びに画像処理方法をコンピュータに実行させるプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2007235953A (ja) * 2006-03-02 2007-09-13 Sharp Corp デジタル画像の領域を検知する方法およびシステム
JP2007328694A (ja) * 2006-06-09 2007-12-20 Canon Inc 画像処理装置、及びデジタルカメラ
JP2008048251A (ja) * 2006-08-18 2008-02-28 Victor Co Of Japan Ltd 撮影装置及び撮影方法
JP2008092120A (ja) * 2006-09-29 2008-04-17 Fujifilm Corp 画像合成システム
JP2009277222A (ja) * 2005-10-12 2009-11-26 Panasonic Corp 視覚処理装置、テレビジョン、情報携帯端末、カメラ、視覚処理方法、およびプロセッサ

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1021408A (ja) 1996-07-04 1998-01-23 Canon Inc 画像抽出装置および方法
JP4407985B2 (ja) 1999-09-02 2010-02-03 キヤノン株式会社 画像処理方法及び装置並びに記憶媒体
JP2004179740A (ja) 2002-11-25 2004-06-24 Omron Corp 写真シール作成方法とその装置、及びシール紙ユニット
JP4481236B2 (ja) 2005-11-17 2010-06-16 株式会社システム計画研究所 プログラム、情報記憶媒体、写真印刷装置及び写真印刷方法
US7720283B2 (en) 2005-12-09 2010-05-18 Microsoft Corporation Background removal in a live video
JP4415198B2 (ja) * 2007-08-30 2010-02-17 カシオ計算機株式会社 画像合成装置及びプログラム
CN101587586B (zh) * 2008-05-20 2013-07-24 株式会社理光 一种图像处理装置及图像处理方法
JP4798236B2 (ja) * 2009-03-06 2011-10-19 カシオ計算機株式会社 撮像装置、画像処理方法及びプログラム
JP5201203B2 (ja) * 2010-12-22 2013-06-05 カシオ計算機株式会社 画像処理装置、画像処理方法及びプログラム

Patent Citations (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06195460A (ja) * 1992-12-25 1994-07-15 Fujitsu Ltd 画像抽出方式
JPH1139479A (ja) * 1997-07-16 1999-02-12 Dainippon Screen Mfg Co Ltd 鮮鋭度の評価方法
JPH11110559A (ja) * 1997-10-03 1999-04-23 Nec Corp 物体検出・背景除去方法、装置およびプログラムを記録した記録媒体
JP2000022943A (ja) * 1998-06-30 2000-01-21 Minolta Co Ltd 画像領域判別装置および方法ならびに画像領域判別プログラムを記録した記録媒体
JP2000048120A (ja) * 1998-07-28 2000-02-18 Nippon Telegr & Teleph Corp <Ntt> 濃淡画像の文字領域抽出方法及びそのプログラムを記録した記録媒体
JP2002117409A (ja) * 2000-10-10 2002-04-19 Canon Inc 画像処理方法及びその装置
JP2002166608A (ja) * 2000-12-01 2002-06-11 Sharp Corp 印刷データ作成システム,方法およびプログラム
JP2002312795A (ja) * 2001-04-13 2002-10-25 Sony Corp 画像処理装置および画像処理方法、記録媒体、並びにプログラム
JP2004258927A (ja) * 2003-02-25 2004-09-16 Matsushita Electric Works Ltd 人検出方法及び人検出装置
JP2005295163A (ja) * 2004-03-31 2005-10-20 Omron Entertainment Kk 写真プリント装置、写真プリント装置の制御方法、プログラム、および、プログラムを記録した記録媒体
JP2006180424A (ja) * 2004-12-24 2006-07-06 Ricoh Co Ltd 画像処理装置および画像処理方法、並びに画像処理方法をコンピュータに実行させるプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2009277222A (ja) * 2005-10-12 2009-11-26 Panasonic Corp 視覚処理装置、テレビジョン、情報携帯端末、カメラ、視覚処理方法、およびプロセッサ
JP2007235953A (ja) * 2006-03-02 2007-09-13 Sharp Corp デジタル画像の領域を検知する方法およびシステム
JP2007328694A (ja) * 2006-06-09 2007-12-20 Canon Inc 画像処理装置、及びデジタルカメラ
JP2008048251A (ja) * 2006-08-18 2008-02-28 Victor Co Of Japan Ltd 撮影装置及び撮影方法
JP2008092120A (ja) * 2006-09-29 2008-04-17 Fujifilm Corp 画像合成システム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015065654A (ja) * 2013-09-24 2015-04-09 コニカ ミノルタ ラボラトリー ユー.エス.エー.,インコーポレイテッド 自動修復を用いたカラー文書画像セグメンテーション及び二値化

Also Published As

Publication number Publication date
JP4947136B2 (ja) 2012-06-06
US8787675B2 (en) 2014-07-22
US20110157424A1 (en) 2011-06-30
US20130108174A1 (en) 2013-05-02
CN102111556B (zh) 2014-04-02
US8345119B2 (en) 2013-01-01
CN102111556A (zh) 2011-06-29

Similar Documents

Publication Publication Date Title
JP4947136B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5488548B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP4798236B2 (ja) 撮像装置、画像処理方法及びプログラム
JP4760973B2 (ja) 撮像装置及び画像処理方法
JP5413002B2 (ja) 撮像装置および方法、並びにプログラム
KR101032058B1 (ko) 화상 처리 장치 및 컴퓨터 판독 가능 매체
JP4868046B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5504990B2 (ja) 撮像装置、画像処理装置及びプログラム
JP2009089220A (ja) 撮像装置
JP5131399B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2011066827A (ja) 画像処理装置、画像処理方法及びプログラム
JP5267279B2 (ja) 画像合成装置及びプログラム
JP5493839B2 (ja) 撮像装置、画像合成方法及びプログラム
JP2014132771A (ja) 画像処理装置および方法、並びにプログラム
JP2011041041A (ja) 撮像装置、撮像方法及びプログラム
JP2010154390A (ja) 撮像装置及び撮像方法並びにプログラム
JP5565227B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5740934B2 (ja) 被写体検出装置、被写体検出方法及びプログラム
JP2010278701A (ja) 画像合成装置、画像合成方法及びプログラム
JP5310361B2 (ja) 撮像装置、画像処理方法及びプログラム
JP5402361B2 (ja) 撮像装置、画像処理方法及びプログラム
JP6668646B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5594117B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2011175663A (ja) 撮像装置、画像処理方法及びプログラム
JP5539098B2 (ja) 画像処理装置及びその制御方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110324

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20110324

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111110

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111122

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120119

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120207

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120220

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150316

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4947136

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees