JPWO2011129036A1 - 撮像装置および集積回路 - Google Patents

撮像装置および集積回路 Download PDF

Info

Publication number
JPWO2011129036A1
JPWO2011129036A1 JP2012510534A JP2012510534A JPWO2011129036A1 JP WO2011129036 A1 JPWO2011129036 A1 JP WO2011129036A1 JP 2012510534 A JP2012510534 A JP 2012510534A JP 2012510534 A JP2012510534 A JP 2012510534A JP WO2011129036 A1 JPWO2011129036 A1 JP WO2011129036A1
Authority
JP
Japan
Prior art keywords
image
change
detection unit
positional relationship
objects
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012510534A
Other languages
English (en)
Other versions
JP5393877B2 (ja
Inventor
日下 博也
博也 日下
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2012510534A priority Critical patent/JP5393877B2/ja
Publication of JPWO2011129036A1 publication Critical patent/JPWO2011129036A1/ja
Application granted granted Critical
Publication of JP5393877B2 publication Critical patent/JP5393877B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Abstract

長時間に亘って複数の人物などの対象物を撮影した場合でも、画像のぶれが抑制でき、撮影開始時に撮影していた被写体像を画枠内に捉え続けることができる撮像装置を提供する。撮像装置は、被写体の光学像を結像する撮像光学系1と、前記結像された前記光学像を画像信号に変換する撮像素子2と、前記撮像素子で得られた前記画像信号に基づき、当該画像信号が表す画像に含まれる複数の対象物の特徴を検出する特徴検出部(顔検出部8)と、複数の前記人物像の顔領域などの特徴の移動量を検出する移動量検出部と、前記移動量検出部において検出された顔領域の移動量に基づき、前記画像の構図の変化を補正する構図変化補正部と、を備える。

Description

本発明は、撮像装置の動き等に起因する画像の動き等の構図の変化を補正する画像動き補正装置に関する。
近年、民生用のデジタルスチルカメラやビデオカメラ(以下、「ビデオムービー」と称す)において、撮影時の手振れ等によって画面が不安定となりぶれ等を生じる問題があった。この問題を解決するため、画像動き補正装置を搭載するデジタルスチルカメラやビデオムービーが開発されたり、商品化されたりしている。
例えば、撮像装置の光学系に可変頂角プリズムを備え、加速度センサにより撮像装置自体の動きを検出し、この動きの検出結果に応じて可変頂角プリズムを駆動制御することで画像の動きを補正する方法がある(例えば、特許文献1参照)。
また別の例としては、例えば、変倍光学群または焦点調節群を有する結像光学系と、この結像光学系の光軸を偏心または傾動させる補正光学機構に関する提案がなされている(例えば、特許文献2、特許文献3参照)。
また、例えば、撮像素子(CCD)を光軸に直交する方向に移動させることにより、画像の動きを補正する方法も知られている(例えば、特許文献4参照)。
上記のような画像動き補正装置において、動きの検出には撮像装置自体の振れを検出する角速度センサ(ジャイロセンサ)が主に用いられている。具体的には、撮像装置自体の動きの角速度を角速度センサで検出し、検出したデータに積分演算を施すことで撮像装置の振れ角を求め、この振れ角に応じて上述の可変頂角プリズム等を駆動制御している。そして、光学的に被写体の光学像を移動させることで画像の動きを補正する。
これらとは別に、電子処理によって画像の動きを補正する方法も知られている。
例えば、撮影した画像を一旦メモリに記憶し、同時に代表点マッチング法により連続する画像フレーム間の画像全体の動きベクトルを検出し、この動きベクトルに応じて上記メモリに記録した画像からその一部のみを読み出すことで、画像の動きを補正するものが知られている(例えば、特許文献5参照)。
他には、例えば、画像全体の動きベクトルではなく、画像中の人物被写体の顔の動きを検出して、被写体がぶれて写ることが無いように工夫された技術も存在する(例えば、特許文献6参照)。本技術においては被写体(顔)の動きに応じてぶれ抑制部を制御することで特許文献6の図4に示すように被写体像の画枠内での相対位置を固定することができる。つまり被写体像の動きを抑制する、もしくは被写体像を追尾して撮影することが可能である。
特開昭62−153816号公報 特開平5−66450号公報 特開平7−128619号公報 特開平9−261524号公報 特開平1−125064号公報 特開2007−74620号公報
以上のように画像動き補正装置に関しては複数種類の方法の提案および実用化が図られていることは周知の通りであるが、それらにはまだいくつかの課題が残されている。
その1つとして、例えば、撮像装置自体の振れを角速度センサ(例えばジャイロセンサ)によって検出する場合、角速度センサの出力に含まれる極低周波のドリフト成分を除去するためのハイパスフィルタ(HPF)が必要となる。このHPFは角速度センサのドリフト成分除去には有効であるが、副作用として撮像装置自体のゆっくりとした動き信号までも除去又は低減してしまう。そのため角速度センサを用いた場合、撮像装置自体のゆっくりとした動きを正確に検出することが困難である。このため、カメラを手で保持して長時間撮影を続けていると、手又は体のゆっくりとした動きに応じた撮影画像の移動を補正できず、撮影開始時に撮影していた被写体像を長時間に亘って画枠内に捉え続けることは困難である。そのため撮影者は撮影中にカメラの表示装置(液晶画面又は電子ファインダー)を介して撮影画像を確認しながら撮影方向の微修正をこまめに行う必要があった。
同様の現象は、撮影画像から動きベクトルを検出する場合にも発生する。連続する画像フレーム間の動きベクトル検出の際、ゆっくりとした動きは動きベクトルとしては値が小さく誤差に埋もれやすくなり、結果的に上述と同じように被写体像を長時間に亘って画枠内に捉え続けることが難しい。
このような課題に対し、特許文献6のように、顔などの特定の被写体像を認識して、その被写体像が画枠内で一定位置に固定されるように光学素子を制御する方法は、追尾撮影とも言われ、有効な解決方法のひとつである。
しかし特許文献6に挙げた例においては、例えば複数の人物を撮影した場合には、画枠内の一定位置に固定し続けたい顔を、他の顔と区別して認識する必要があるが、顔の検出に比べて特定の顔の識別は非常に難しく、更に長時間撮影中には顔の向き、角度、表情などが変化するのが普通であるので、更に識別は困難である。
本発明は、上記課題を解決するためになされたもので、長時間に亘って複数の人物などの対象物を撮影した場合でも、画像のぶれを抑制し、撮影開始時に撮影していた被写体像を画枠内に捉え続けることができる撮像装置を提供することを目的とする。また、当該撮像装置を実現するための集積回路を提供することを目的とする。
上述したような課題を解決するために、本発明に係る撮像装置は、
被写体の光学像を結像する撮像光学系と、
前記結像された前記光学像を画像信号に変換する撮像素子と、
前記撮像素子で得られた前記画像信号に基づき、当該画像信号が表す画像に含まれる複数の対象物の特徴を検出する特徴検出部と、
前記複数の対象物の特徴の位置関係を検出する位置関係検出部と、
前記複数の対象物の特徴の移動量を検出する移動量検出部と、
前記位置関係検出部の検出結果および前記移動量検出部の検出結果に基づいて、前記画像の構図の変化を補正する構図変化補正部と、を備える。
これにより、長時間に亘って複数の人物などの対象物を撮影した場合でも、画像のぶれが抑制でき、撮影開始時に撮影していた被写体像を画枠内に捉え続けることができる撮像装置を提供することができる。
本発明によれば、長時間に亘って複数の人物を撮影した場合でも、画像のぶれが抑制され、撮影開始時に撮影していた被写体像を画枠内に捉え続けることができる。
本発明の第1の実施の形態における撮像装置のブロック図 本発明の第1の実施の形態における被写体像の例を示す説明図 本発明の第1の実施の形態における被写体像の例を示す説明図 本発明の第1の実施の形態における被写体像の例を示す説明図 本発明の第1の実施の形態における一連の処理内容を示すフローチャート 本発明の第1の実施の形態における顔の位置を格納するテーブルを示す図 本発明の第1の実施の形態における顔の位置を格納するテーブルを示す図 本発明の第1の実施の形態における顔の位置を格納するテーブルを示す図 本発明の第1の実施の形態における被写体どうしの相対位置を説明するための図 本発明の第1の実施の形態における補正効果を説明するための図 本発明の第1の実施の形態における補正効果を説明するための図 本発明の第2の実施の形態における撮像装置のブロック図 本発明の第3の実施の形態における撮像装置のブロック図
以下、本発明の実施の形態について図面を参照しながら説明する。
(第1の実施の形態)
図1は、本発明の第1の実施の形態における撮像装置のブロック図を示すものである。撮像装置は、撮像レンズ1と、撮像素子2と、アナログ信号処理部3と、A/D変換部4と、カメラ信号処理部5と、メモリ6と、ズーム部7と、顔検出部8と、移動量検出部9と、メモリ制御部10とを備える。
撮像レンズ1は、被写体の光学像を撮像素子2の撮像面上に結像させる撮像光学系の一例である。撮像素子2は、撮像面を有し、撮像レンズによって撮像面に結像した被写体の光学像を電気信号(以下、「画像信号」ともいう)に変換する光電変換デバイスである。撮像素子2は、例えば、CCDやMOSセンサである。本実施の形態の撮像素子2が画像信号を撮像できる周期は、一例として、1秒間に60フレームである。
アナログ信号処理部3は、撮像素子2により得られた画像信号に対し、ノイズ低減等のアナログ信号処理を施す。A/D変換部4はアナログ信号をデジタル信号に変換する。A/D変換部4によりデジタル信号に変換された画像信号は、カメラ信号処理部5により、輝度信号と色差信号への分離、ガンマ補正、先鋭度改善処理等の信号処理が施される。
メモリ6は、各撮像周期毎にカメラ信号処理部による処理後の画像信号を一旦記憶する。メモリ6は、後述のメモリ制御部10の制御のもと、任意のアドレスから記憶した画像信号を読み出し出力可能である。ズーム部7は、メモリ6から出力される画像信号に対して、低画素画像を高画素画像に変換する画素数変換等を行う。画素数変換は、例えば、バイキュービック法などの補間処理によって行われる。
顔検出部8は、カメラ信号処理部5によって得られた画像信号が表す画像に含まれる対象物としての人物像の、特徴としての顔領域を検出する。具体的には、画像信号に含まれる輝度信号から、各撮像周期毎に、画像中における人物の顔が写っている領域を検出する。本実施の形態では、当該領域を矩形の領域(以下、矩形領域ともいう)として認識する。顔検出部8は、検出した矩形領域の画枠内での位置の情報(例えば矩形領域の重心点の座標値)を後述の移動量検出部9に供給する。本実施の形態においては、顔検出部8は、1つの画像から同時に複数の顔を検出可能である。顔の検出方法はあらかじめ設定した顔の形状・輪郭に対応したテンプレートを用いて、これとのマッチングによって顔を検出するなど様々な方法が適用可能である。本実施の形態においては顔の検出方法は特定の方法に限定するものではなく、既知の方法を含め、いずれの方法を採用してもよい。
移動量検出部9は、複数の対象物の位置関係を検出する位置関係検出部の機能をも有し、顔検出部8によって検出された複数の顔の位置、および、複数の顔どうしの位置関係を記憶している。そして、他の撮像周期に得られた画像、例えば、1撮像周期(「1フレーム」ともいう)前の画像における複数の顔の位置と現在のフレームにおける複数の顔の位置との差をベクトルとして算出する。そして、移動量検出部9は、当該ベクトルに基づき、現在のフレームにおける複数の顔の位置が他のフレームにおける複数の顔の位置と概ね一致するように、現在のフレームの画像の修正を指示する。例えば、移動量検出部9は、現在のフレームの画像において、複数の顔の位置の差を打ち消す方向にメモリ6からの画像読み出しアドレスを変更制御するようメモリ制御部10に指示を送る。具体的には、前のフレームでの画像読み出し位置よりも、ベクトル分ずらした位置を読み出すよう、画像読み出し位置を制御する。
またこの際、移動量検出部9は、異なるフレーム間、例えば、連続するフレーム間で、検出された複数の顔の相対位置の変化量も算出する。そして、前フレームにおける複数の顔どうしの相対位置関係と現フレームにおける複数の顔どうしの相対位置関係とに一定以上の変化が発生したとき、メモリ6からの画像読み出しアドレスの変更制御自体を停止する。被写体中の複数の人物が個別に大きく移動したときは、動き補正による構図の変化の補正を行うことが好ましくないからである。
メモリ制御部10は、移動量検出部9において検出された顔領域の移動量に基づき、画像の動きを補正して構図の変化を補正する構図変化補正部(動き補正部)の一例である。メモリ制御部10は、移動量検出部9の指示に基づき、メモリ6からの画像読み出しアドレスを制御し、メモリ6から任意の位置の画像を出力させる。これによって、メモリ6から出力される画像信号は、連続するフレーム間で画枠に対する複数の顔の位置が略等しくなった画像として出力される。このとき、メモリ6から出力される画像は、メモリ6に入力された画像の一部を切り出したものとなるため、そのデータ量(画素数)が減少する。これを補い、元と同じ画素数、もしくは任意の画素数の画像に変換する部が前述のズーム部7である。
以上のように構成された本実施の形態の撮像装置に関し、以下その動作を図2A〜図2Cと図3のフローチャートを用いて説明する。図2は説明のための被写体像の例である。図2Aは3名の人物が並んでいる被写体像であり、撮影者はこの被写体像を撮影しているものとする。このとき、図2Aに示すような画像に関する画像信号が、撮像素子2から、アナログ信号処理部3と、A/D変換部4と、カメラ信号処理部5とを介して、メモリ6と、顔検出手段8とに送られる。
そして図2Bに示す点線で囲まれた矩形の部分が、被写体像の顔領域として検出される。また検出した顔領域から求められる位置情報(移動量検出部9に供給する位置情報)は図2Cに示すように3つの矩形の重心位置に相当する座標値(x1,y1)、(x2,y2)、(x3,y3)である。このように撮影した画像から顔の領域とその位置座標を検出する部が顔検出部8であり、図3のフローチャートのステップ101にあたる。
このとき、移動量検出部9は、3つの顔の位置を例えば図4A〜図4Cに示すようなテーブルで保持しておく(図3のステップ102)。また顔毎の座標値をテーブルに格納する順番は例えば画面の左端の顔から、といったルールに則るものとする。そして撮像周期毎に得られる複数の顔の位置情報から個別の顔の位置座標値の差(差ベクトル)を求める(同ステップ103)。なおステップ107又はステップ108からステップ101に巡回する1周期が撮像周期と同期されているものとする。例えば第Nフレームにて得られた座標値テーブルが、図4B、次の第N+1フレームでの座標値テーブルを図4Cとすると、個別の顔の位置座標値の差は例えば人物1に対しては、X方向はx1(n+1)−x1(n)、Y方向はy1(n+1)−y1(n)で算出する。人物2、3も同様に算出可能である。
そして次に、移動量検出部9は、個別の顔毎に求まる差ベクトルからその平均、もしくは中央値(メディアン)等の代表値を求めて、被写体中の顔全ての移動量を代表する動き(代表ベクトル)を求める(同ステップ104)。第Nフレーム(N)と第N+1フレーム(N+1)とから求めた代表ベクトルを代表ベクトル(N+1)と表記する。
次に、移動量検出部9は、1フレームの画像に含まれる複数の顔どうしの相対的な位置関係を求め、これを連続するフレーム間で比較し、相対位置の変化量を求める(同ステップ105)。なお変化量の求め方としては、各顔の座標間の距離の絶対値もしくは二乗値の差などを用いればよいが特にこれに限るものではない。画像中の複数の顔の相対位置がフレーム間で大きくずれるようなことがあれば、被写体中で人物が大きく移動したことを意味し(図5)、画枠に対してどの顔の位置をどこに固定すべきであるかの判断が困難となる。そして仮にそのような状況においても上記で求めた代表ベクトルを用いてメモリ6からの画像読み出しアドレス制御を行った場合、撮影者にとって違和感のある出力画像となる恐れがある。そこで相対位置の変化量を検出し、変化量が一定値以上の場合は、メモリ制御部10は、メモリ6からの画像読み出しアドレス制御を停止し、一定位置を、例えば前フレームでの読み出しアドレスをそのまま保持する(同ステップ106、ステップ108)。
逆に変化量が一定値以下の場合、移動量検出部9は、メモリ6からの画像読み出し位置を代表ベクトルで示される位置に移動させるようメモリ制御部10に指示する(同ステップ106、同ステップ107)。そして、メモリ制御部10は、代表ベクトル(N+1)に基づき、フレーム(N+1)の画像読み出しアドレス制御を行う。図6A〜図6Cは、この動作を模式的に示したものである。図6Aは上記のような処理(ステップ101−107)を行わずに、メモリ6からの画像読み出し位置を固定とした場合の動作を示す模式図である。図6A左側の第Nフレームと右側の第N+1フレームにおいて、メモリ6からの画像読み出し位置を固定として場合、メモリ6から出力される画像の画枠内において被写体像は位置が移動して見える。メモリ6からの画像読み出し位置によって、画像のうちのどの領域を出力するかが決まるためである。しかし図6Bのように第Nフレームにおける画像読み出し位置を基準に、第N+1フレームにおいては、複数の顔位置から検出した代表ベクトル分ずらした位置をメモリ6からの読み出し位置とすることで、メモリ6から出力される画像は、その画枠内で顔が概ね止まって見える。
以上のようなステップ101からステップ108までの動作を撮像周期毎に実施することで、長時間に亘って複数の人物を撮影した場合でも、画像のぶれがなく、撮影開始時に撮影していた被写体像を画枠内に捉え続けることができて構図が変化することを防止できる。
なお、カメラ信号処理部5、顔検出部8、移動量検出部9、または、メモリ制御部10は、例えばマイクロコンピュータによって実現される。マイクロコンピュータは、集積回路で実現され、画像信号の入力を受ける画像信号入力部と、CPUと、記憶部とを有する。記憶部には、カメラ信号処理部5、顔検出部8、移動量検出部9、または、メモリ制御部10の機能を実現するためのプログラムが格納されており、当該プログラムに基づいて、カメラ信号処理部5、顔検出部8、移動量検出部9、または、メモリ制御部10の機能を実行する。
(第2の実施の形態)
本発明の第2の実施の形態における撮像装置について図7を参照して説明する。本実施の形態は、被写体像の動きを補正する動き補正部として、結像光学系の光軸を偏心または傾動させる補正光学機構を用いた構成として説明する。なお第1の実施の形態の図1と同様の部分については、図7において同じ番号で示し説明は省略する。
図7は、本発明の第2の実施の形態における撮像装置のブロック図を示すものである。撮像光学系20は、4つのレンズ群L1、L2、L3、L4からなる。レンズ群L2が光軸方向に移動することでズーミングを行ない、レンズ群L4が光軸方向に移動することで合焦を行なう。またレンズ群L3はレンズ群L2よりも像面側に配置された2つのレンズ群L31、L32からなり、レンズ群L3の一部であるレンズ群L32が光軸に直交する方向に移動することで、光軸を偏心し、撮像素子に結像される被写体の光学像を移動する。画像の動きに応じて光学像を移動することで、画像の動きを補正する。このときレンズ群L32の光軸中心からの変位量(移動距離)と光軸が偏心する角度とは比例関係にある。したがって、光軸を所望の角度だけ偏心するには、そのために必要な量だけレンズ群L32を光軸中心から移動させればよい。レンズ群L32の駆動制御部21は、振れ補正用レンズであるレンズ群L32を駆動および制御するための部であり、撮像光学系20の光軸に直交する平面内でレンズ群L32を上下左右に移動させる。
以上のように構成された本実施の形態の撮像装置においては、移動量検出部9によって検出された代表ベクトルで表される撮影画像の動きをキャンセルする方向にレンズ群L32を、レンズ群L32駆動制御部21を介して制御し、光軸を偏心することで画像の動きを補正する。その結果、第1の実施の形態と同様に複数の人物を撮影した場合でも、画像のぶれがなく、撮影開始時に撮影していた被写体像を画枠内に捉え続けることができて構図が変化することを防止できる。
なお、カメラ信号処理部5、顔検出部8、移動量検出部9は、例えば、マイクロコンピュータによって実現される。マイクロコンピュータは、集積回路で実現され、画像信号の入力を受ける画像信号入力部と、CPUと、記憶部と、移動量を出力する出力部を有する。記憶部には、カメラ信号処理部5、顔検出部8、移動量検出部9、または、メモリ制御部10の機能を実現するためのプログラムが格納されており、当該プログラムに基づいて、カメラ信号処理部5、顔検出部8、移動量検出部9の機能を実行する。
(第3の実施の形態)
本発明の第3の実施の形態における撮像装置について図8を参照して説明する。本実施の形態は、被写体像の動きを補正する部として結像光学系の光軸を偏心または傾動させる補正光学機構とメモリ6からの画像読み出し制御とを併用した構成として説明する。なお第1の実施の形態の図1、図7と同様の部分については、図8において同じ番号で示し説明は省略する。
図8は、本発明の第3の実施の形態における撮像装置のブロック図を示すものである。本実施の形態においては、先に述べた2つの実施の形態における画像の動きを補正する部(メモリ6からの画像読み出し制御と補正光学機構)を併用することで、更に被写体像の動き補正効果を高めることが出来る。
具体的には、補正光学機構は一般にある範囲の動作帯域を有しているため、この動作帯域を越える被写体像の速い動きには追従できない場合がある。また機構による構成では各機構部品の製作精度や組立誤差による動作精度のばらつきが不可避であり、これが動きの補正性能に影響を及ぼす場合がある。その点、メモリ6からの画像読み出し制御は電子的な処理であるためバラツキや誤差の影響を受けることはない。しかし別の観点から見ると、補正光学機構による補正においては撮像光学系20の焦点距離によらず一定の補正角度を確保できるが、メモリ6からの画像読み出し制御の場合、焦点距離が長くなると比例して被写体像の動きも大きくなるため、十分は動き補正範囲を確保するためにはメモリ6から読み出す画像サイズ(画素数)を小さくする必要があり、最終的な出力画像の画質が低下する、という課題がある。
よってメモリ6からの画像読み出し制御と補正光学機構を併用すれば、それぞれを個別に利用する場合に比べて高い補正性能が確保できる。
具体的には、まずは移動量検出部9によって検出された代表ベクトルで表される撮影画像の動きをキャンセルする方向にレンズ群L32を、レンズ群L32駆動制御部21を介して制御し、光軸を偏心することで画像の動きを補正する。そして撮影した画像から移動量検出部9により撮影画像に残る被写体像の移動量(代表ベクトル)を検出し、これを元にメモリ6からの画像の読み出しを制御する。その結果、第1の実施の形態及び第2の実施の形態と同様に複数の人物を撮影した場合でも、画像のぶれがなく、撮影開始時に撮影していた被写体像を画枠内に捉え続けることができて構図が変化することを防止できる。
(他の実施の形態)
上述の実施の形態においては、被写体中の人物が個別に移動することを前提にステップ106及びステップ108からなる処理を導入した例を示したがこれに限るものではない。例えば被写体が整列してその位置をほとんど変えることない場合(例えば合唱や合奏)においては、ステップ106及びステップ108を省略した構成でも主要な効果を奏することができるため、このような構成を採ってもよい。
動き補正部は、例えば、2枚のガラス板を蛇腹で繋ぎ、その中を高屈折率の液体で満たし、ガラス板の角度を変えることで光軸偏心が可能な可変頂角プリズム(VAP)を用いた光学系を用いてもよい。
また、本発明の第2の実施の形態において、動き補正部としては、レンズ群L32を移動する場合を説明したが、これに限定されるものではなく、撮像光学系10および撮像素子2等を撮像装置の筐体に対して回転自在に支持および駆動することで動きを補正する構成でもよい。
また、本発明の全ての実施の形態において、顔の検出など一連の処理は撮像周期毎に実施するものとして説明したがこれに限るものではなく、被写体の動きが小さい場合などは複数フレームに1回の処理に間引くなどの措置を講じることで、例えば機器の消費電力低減などの効果を実現することも可能である。
また、本発明の全ての実施の形態において、画像の動き補正に関して既知の防振技術、画像の動き補正技術(例えば、前述の背景技術欄にて挙げた公知技術)を併用することが可能であることはいうまでもなく、そのような構成においては更に高い手振れ補正効果が実現できる。
また、本発明の全ての実施の形態において、人物像の検出はその顔を検出する構成を持って説明したがこれに限るものではなく、例えば人体の形状や衣服の色、模様などを判断材料として人物を検出する方法を採ってもよく、その場合でも本願発明が目的とする効果が得られることは明らかである。
また、本発明の全ての実施の形態においては、複数の顔の相対位置が変動した場合に、X方向およびY方向に位置を調整して補正する場合を述べたが、これに限るものではない。例えば、複数の顔の相対位置の変動により顔と顔との間隔が大きくなった場合に、前記複数の顔が画像の中に入るように、広角側にズームさせて焦点距離を短くしてもよい。また、複数の顔の相対位置の変動により顔と顔との間隔が小さくなった場合に、前記複数の顔が近づき過ぎないように、望遠側にズームさせたりて焦点距離が長くなるようにしたりしてもよい。これによっても、被写体との距離の変化による構図の変化が生じないように防止できる。なお、この場合にも、相対位置の変動量が所定値より大きい場合には、補正処理を中止してもよい。
さらに、本発明の全ての実施の形態において、補正する対象物が人物像である場合を述べたが、これに限るものではなく、被写体として、車や自転車、または、建造物や看板などの物を補正する対象物として、構図が変化しないよう構成してもよい。
(実施の形態の特徴)
上記実施の形態において特徴的な部分を以下に列記する。なお、上記実施の形態に含まれる発明は、以下に限定されるものではない。なお、各構成の後ろに括弧で記載したものは、特徴の理解を助けるために記載した、各構成の具体例である。各構成はこれらの具体例に限定されるものではない。また、各特徴について記載された効果を得るためは、記載された特徴以外の構成は変形または削除されてもよい。
[F1]
撮像装置は、被写体の光学像を結像する撮像光学系(1,10)と、
前記結像された前記光学像を画像信号に変換する撮像素子(2)と、
前記撮像素子で得られた前記画像信号に基づき、当該画像信号が表す画像に含まれる複数の人物像などの対象物の顔領域などの特徴を検出する顔検出部(8)などの特徴検出部と、
前記複数の人物像の顔領域などの複数の対象物の特徴の位置関係を検出する位置関係検出部(9)と、
前記複数の人物像の顔領域などの複数の対象物の特徴の移動量を検出する移動量検出部(9)と、
前記位置関係検出部の検出結果および前記移動量検出部の検出結果に基づいて、前記画像の構図の変化を補正する構図変化補正部(10,11、L32)と、を備える。
これにより、長時間に亘って複数の人物などの対象物を撮影した場合でも、画像のぶれが抑制でき、撮影開始時に撮影していた被写体像を画枠内に捉え続けることができて構図の変化を防止できる。
[F2]
F1の撮像装置であって、
前記複数の対象物のうちの特定の対象物の特徴を検出する特定物検出手段(8)をさらに備え、
前記位置関係検出部(9)は、前記特定物検出手段(8)で検出された特定の対象物の特徴とその他の少なくともいずれかの対象物の特徴との位置関係を検出する。
[F3]
F1の撮像装置であって、
前記移動量検出部は、更に、同一画像に含まれる複数の人物像などの対象物間の相対的な位置関係を検出し、複数の対象物の特徴の前記位置関係の変化を検出し、
前記構図変化補正部は、前記位置関係の変化量が一定量以下の場合に、前記対象物の移動量に基づき前記画像の動きを補正する。
これにより、更に、被写体中の人物像などの対象物が個別に移動した場合でも違和感のない画像が撮影できる。
[F4]
F1に記載の撮像装置であって、
前記構図変化補正部は、前記画像信号を記憶するメモリ(6)と、前記メモリに記憶された画像信号からその一部を読み出すメモリ制御部(10)と、を有する。
[F5]
F1に記載の撮像装置であって、
前記構図変化補正部は、前記撮像光学系に対し相対的に駆動され、撮像光学系の光軸を偏心させて撮像面において前記光学像を移動する補正光学素子を有する。
[F6]
F1に記載の撮像装置であって、
前記構図変化補正部は、前記撮像素子を光軸に直交する方向に変位させる駆動部を有する。
[F7]
集積回路であって、
画像信号の入力を受ける画像信号入力部と、
前記画像信号に基づき、当該画像信号が表す画像に含まれる複数の人物像などの対象物の顔領域などの特徴を検出する特徴検出部と、
前記複数の対象物の特徴の位置関係を検出する位置関係検出部と、
前記複数の対象物の特徴の移動量を検出する移動量検出部と、
前記移動量検出部の検出結果および前記移動量検出部の検出結果に基づいて、前記画像の構図の変化を補正する構図変化補正部と、を備える。
これにより、長時間に亘って複数の人物を撮影した場合でも、画像のぶれが抑制でき、撮影開始時に撮影していた被写体像を画枠内に捉え続けることができて構図の変化を防止できる撮像装置を実現できる集積回路を提供できる。
[F8]
F7に記載の集積回路であって、
前記移動量検出部は、更に、同一画像に含まれる複数の人物像などの対象物間の相対的な位置関係を検出し、複数の対象物の特徴の前記位置関係の変化を検出し、
前記構図変化補正部は、前記位置関係の変化量が一定量以下の場合に、前記対象物の移動量に基づき前記画像の構図の変化を補正する。
これにより、更に、被写体中の人物像などの対象物が個別に移動した場合でも違和感のない画像が撮影できる撮像装置を実現できる集積回路を提供することができる。
[F9]
集積回路であって、
画像信号の入力を受ける画像信号入力部と、
前記画像信号に基づき、当該画像信号が表す画像に含まれる複数の人物像などの対象物の顔領域などの特徴を検出する特徴検出部と、
前記複数の対象物の特徴の位置関係を検出する位置関係検出部と、
前記複数の対象物の特徴の移動量を検出する移動量検出部と、
前記移動量を出力する出力部と、を備える。
これにより、長時間に亘って複数の人物などの対象物を撮影した場合でも、画像のぶれが抑制でき、撮影開始時に撮影していた被写体像を画枠内に捉え続けることができる撮像装置を実現できる集積回路を提供することができる。
[F10]
F9に記載の集積回路であって、
前記移動量検出部は、更に、同一画像に含まれる複数の人物像などの対象物間の相対的な位置関係を検出し、複数の対象物の特徴の前記位置関係の変化を検出し、
前記出力部は、前記位置関係の変化量が一定量以下の場合に、前記移動量を出力する。
これにより、更に、被写体中の人物像などの対象物が個別に移動した場合でも違和感のない画像が撮影できる撮像装置を実現できる集積回路を提供することができる。
本発明は、例えば、手振れ補正機能を有するデジタルカメラやビデオムービー等の撮像装置に利用することが可能である。
本発明は、撮像装置の動き等に起因する画像の動き等の構図の変化を補正する画像動き補正装置に関する。
近年、民生用のデジタルスチルカメラやビデオカメラ(以下、「ビデオムービー」と称す)において、撮影時の手振れ等によって画面が不安定となりぶれ等を生じる問題があった。この問題を解決するため、画像動き補正装置を搭載するデジタルスチルカメラやビデオムービーが開発されたり、商品化されたりしている。
例えば、撮像装置の光学系に可変頂角プリズムを備え、加速度センサにより撮像装置自体の動きを検出し、この動きの検出結果に応じて可変頂角プリズムを駆動制御することで画像の動きを補正する方法がある(例えば、特許文献1参照)。
また別の例としては、例えば、変倍光学群または焦点調節群を有する結像光学系と、この結像光学系の光軸を偏心または傾動させる補正光学機構に関する提案がなされている(例えば、特許文献2、特許文献3参照)。
また、例えば、撮像素子(CCD)を光軸に直交する方向に移動させることにより、画像の動きを補正する方法も知られている(例えば、特許文献4参照)。
上記のような画像動き補正装置において、動きの検出には撮像装置自体の振れを検出する角速度センサ(ジャイロセンサ)が主に用いられている。具体的には、撮像装置自体の動きの角速度を角速度センサで検出し、検出したデータに積分演算を施すことで撮像装置の振れ角を求め、この振れ角に応じて上述の可変頂角プリズム等を駆動制御している。そして、光学的に被写体の光学像を移動させることで画像の動きを補正する。
これらとは別に、電子処理によって画像の動きを補正する方法も知られている。
例えば、撮影した画像を一旦メモリに記憶し、同時に代表点マッチング法により連続する画像フレーム間の画像全体の動きベクトルを検出し、この動きベクトルに応じて上記メモリに記録した画像からその一部のみを読み出すことで、画像の動きを補正するものが知られている(例えば、特許文献5参照)。
他には、例えば、画像全体の動きベクトルではなく、画像中の人物被写体の顔の動きを検出して、被写体がぶれて写ることが無いように工夫された技術も存在する(例えば、特許文献6参照)。本技術においては被写体(顔)の動きに応じてぶれ抑制部を制御することで特許文献6の図4に示すように被写体像の画枠内での相対位置を固定することができる。つまり被写体像の動きを抑制する、もしくは被写体像を追尾して撮影することが可能である。
特開昭62−153816号公報 特開平5−66450号公報 特開平7−128619号公報 特開平9−261524号公報 特開平1−125064号公報 特開2007−74620号公報
以上のように画像動き補正装置に関しては複数種類の方法の提案および実用化が図られていることは周知の通りであるが、それらにはまだいくつかの課題が残されている。
その1つとして、例えば、撮像装置自体の振れを角速度センサ(例えばジャイロセンサ)によって検出する場合、角速度センサの出力に含まれる極低周波のドリフト成分を除去するためのハイパスフィルタ(HPF)が必要となる。このHPFは角速度センサのドリフト成分除去には有効であるが、副作用として撮像装置自体のゆっくりとした動き信号までも除去又は低減してしまう。そのため角速度センサを用いた場合、撮像装置自体のゆっくりとした動きを正確に検出することが困難である。このため、カメラを手で保持して長時間撮影を続けていると、手又は体のゆっくりとした動きに応じた撮影画像の移動を補正できず、撮影開始時に撮影していた被写体像を長時間に亘って画枠内に捉え続けることは困難である。そのため撮影者は撮影中にカメラの表示装置(液晶画面又は電子ファインダー)を介して撮影画像を確認しながら撮影方向の微修正をこまめに行う必要があった。
同様の現象は、撮影画像から動きベクトルを検出する場合にも発生する。連続する画像フレーム間の動きベクトル検出の際、ゆっくりとした動きは動きベクトルとしては値が小さく誤差に埋もれやすくなり、結果的に上述と同じように被写体像を長時間に亘って画枠内に捉え続けることが難しい。
このような課題に対し、特許文献6のように、顔などの特定の被写体像を認識して、その被写体像が画枠内で一定位置に固定されるように光学素子を制御する方法は、追尾撮影とも言われ、有効な解決方法のひとつである。
しかし特許文献6に挙げた例においては、例えば複数の人物を撮影した場合には、画枠内の一定位置に固定し続けたい顔を、他の顔と区別して認識する必要があるが、顔の検出に比べて特定の顔の識別は非常に難しく、更に長時間撮影中には顔の向き、角度、表情などが変化するのが普通であるので、更に識別は困難である。
本発明は、上記課題を解決するためになされたもので、長時間に亘って複数の人物などの対象物を撮影した場合でも、画像のぶれを抑制し、撮影開始時に撮影していた被写体像を画枠内に捉え続けることができる撮像装置を提供することを目的とする。また、当該撮像装置を実現するための集積回路を提供することを目的とする。
上述したような課題を解決するために、本発明に係る撮像装置は、
被写体の光学像を結像する撮像光学系と、
前記結像された前記光学像を画像信号に変換する撮像素子と、
前記撮像素子で得られた前記画像信号に基づき、当該画像信号が表す画像に含まれる複数の対象物の特徴を検出する特徴検出部と、
前記複数の対象物の特徴の位置関係を検出する位置関係検出部と
記位置関係検出部の検出結果に基づいて、前記画像の構図の変化を補正する構図変化補正部と、を備える。
これにより、長時間に亘って複数の人物などの対象物を撮影した場合でも、画像のぶれが抑制でき、撮影開始時に撮影していた被写体像を画枠内に捉え続けることができる撮像装置を提供することができる。
本発明によれば、長時間に亘って複数の人物を撮影した場合でも、画像のぶれが抑制され、撮影開始時に撮影していた被写体像を画枠内に捉え続けることができる。
本発明の第1の実施の形態における撮像装置のブロック図 (a)〜(c)はそれぞれ本発明の第1の実施の形態における被写体像の例を示す説明図 本発明の第1の実施の形態における一連の処理内容を示すフローチャート (a)〜(c)はそれぞれ本発明の第1の実施の形態における顔の位置を格納するテーブルを示す図 本発明の第1の実施の形態における被写体どうしの相対位置を説明するための図 (a)、(b)はそれぞれ本発明の第1の実施の形態における補正効果を説明するための図 本発明の第2の実施の形態における撮像装置のブロック図 本発明の第3の実施の形態における撮像装置のブロック図
以下、本発明の実施の形態について図面を参照しながら説明する。
(第1の実施の形態)
図1は、本発明の第1の実施の形態における撮像装置のブロック図を示すものである。撮像装置は、撮像レンズ1と、撮像素子2と、アナログ信号処理部3と、A/D変換部4と、カメラ信号処理部5と、メモリ6と、ズーム部7と、顔検出部8と、移動量検出部9と、メモリ制御部10とを備える。
撮像レンズ1は、被写体の光学像を撮像素子2の撮像面上に結像させる撮像光学系の一例である。撮像素子2は、撮像面を有し、撮像レンズによって撮像面に結像した被写体の光学像を電気信号(以下、「画像信号」ともいう)に変換する光電変換デバイスである。撮像素子2は、例えば、CCDやMOSセンサである。本実施の形態の撮像素子2が画像信号を撮像できる周期は、一例として、1秒間に60フレームである。
アナログ信号処理部3は、撮像素子2により得られた画像信号に対し、ノイズ低減等のアナログ信号処理を施す。A/D変換部4はアナログ信号をデジタル信号に変換する。A/D変換部4によりデジタル信号に変換された画像信号は、カメラ信号処理部5により、輝度信号と色差信号への分離、ガンマ補正、先鋭度改善処理等の信号処理が施される。
メモリ6は、各撮像周期毎にカメラ信号処理部による処理後の画像信号を一旦記憶する。メモリ6は、後述のメモリ制御部10の制御のもと、任意のアドレスから記憶した画像信号を読み出し出力可能である。ズーム部7は、メモリ6から出力される画像信号に対して、低画素画像を高画素画像に変換する画素数変換等を行う。画素数変換は、例えば、バイキュービック法などの補間処理によって行われる。
顔検出部8は、カメラ信号処理部5によって得られた画像信号が表す画像に含まれる対象物としての人物像の、特徴としての顔領域を検出する。具体的には、画像信号に含まれる輝度信号から、各撮像周期毎に、画像中における人物の顔が写っている領域を検出する。本実施の形態では、当該領域を矩形の領域(以下、矩形領域ともいう)として認識する。顔検出部8は、検出した矩形領域の画枠内での位置の情報(例えば矩形領域の重心点の座標値)を後述の移動量検出部9に供給する。本実施の形態においては、顔検出部8は、1つの画像から同時に複数の顔を検出可能である。顔の検出方法はあらかじめ設定した顔の形状・輪郭に対応したテンプレートを用いて、これとのマッチングによって顔を検出するなど様々な方法が適用可能である。本実施の形態においては顔の検出方法は特定の方法に限定するものではなく、既知の方法を含め、いずれの方法を採用してもよい。
移動量検出部9は、複数の対象物の位置関係を検出する位置関係検出部の機能をも有し、顔検出部8によって検出された複数の顔の位置、および、複数の顔どうしの位置関係を記憶している。そして、他の撮像周期に得られた画像、例えば、1撮像周期(「1フレーム」ともいう)前の画像における複数の顔の位置と現在のフレームにおける複数の顔の位置との差をベクトルとして算出する。そして、移動量検出部9は、当該ベクトルに基づき、現在のフレームにおける複数の顔の位置が他のフレームにおける複数の顔の位置と概ね一致するように、現在のフレームの画像の修正を指示する。例えば、移動量検出部9は、現在のフレームの画像において、複数の顔の位置の差を打ち消す方向にメモリ6からの画像読み出しアドレスを変更制御するようメモリ制御部10に指示を送る。具体的には、前のフレームでの画像読み出し位置よりも、ベクトル分ずらした位置を読み出すよう、画像読み出し位置を制御する。
またこの際、移動量検出部9は、異なるフレーム間、例えば、連続するフレーム間で、検出された複数の顔の相対位置の変化量も算出する。そして、前フレームにおける複数の顔どうしの相対位置関係と現フレームにおける複数の顔どうしの相対位置関係とに一定以上の変化が発生したとき、メモリ6からの画像読み出しアドレスの変更制御自体を停止する。被写体中の複数の人物が個別に大きく移動したときは、動き補正による構図の変化の補正を行うことが好ましくないからである。
メモリ制御部10は、移動量検出部9において検出された顔領域の移動量に基づき、画像の動きを補正して構図の変化を補正する構図変化補正部(動き補正部)の一例である。メモリ制御部10は、移動量検出部9の指示に基づき、メモリ6からの画像読み出しアドレスを制御し、メモリ6から任意の位置の画像を出力させる。これによって、メモリ6から出力される画像信号は、連続するフレーム間で画枠に対する複数の顔の位置が略等しくなった画像として出力される。このとき、メモリ6から出力される画像は、メモリ6に入力された画像の一部を切り出したものとなるため、そのデータ量(画素数)が減少する。これを補い、元と同じ画素数、もしくは任意の画素数の画像に変換する部が前述のズーム部7である。
以上のように構成された本実施の形態の撮像装置に関し、以下その動作を図2(a)〜(c)と図3のフローチャートを用いて説明する。図2は説明のための被写体像の例である。図2(a)は3名の人物が並んでいる被写体像であり、撮影者はこの被写体像を撮影しているものとする。このとき、図2(a)に示すような画像に関する画像信号が、撮像素子2から、アナログ信号処理部3と、A/D変換部4と、カメラ信号処理部5とを介して、メモリ6と、顔検出手段8とに送られる。
そして図2(b)に示す点線で囲まれた矩形の部分が、被写体像の顔領域として検出される。また検出した顔領域から求められる位置情報(移動量検出部9に供給する位置情報)は図2(c)に示すように3つの矩形の重心位置に相当する座標値(x1,y1)、(x2,y2)、(x3,y3)である。このように撮影した画像から顔の領域とその位置座標を検出する部が顔検出部8であり、図3のフローチャートのステップ101にあたる。
このとき、移動量検出部9は、3つの顔の位置を例えば図4(a)〜(c)に示すようなテーブルで保持しておく(図3のステップ102)。また顔毎の座標値をテーブルに格納する順番は例えば画面の左端の顔から、といったルールに則るものとする。そして撮像周期毎に得られる複数の顔の位置情報から個別の顔の位置座標値の差(差ベクトル)を求める(同ステップ103)。なおステップ107又はステップ108からステップ101に巡回する1周期が撮像周期と同期されているものとする。例えば第Nフレームにて得られた座標値テーブルが、図4(b)、次の第N+1フレームでの座標値テーブルを図4(c)とすると、個別の顔の位置座標値の差は例えば人物1に対しては、X方向はx1(n+1)−x1(n)、Y方向はy1(n+1)−y1(n)で算出する。人物2、3も同様に算出可能である。
そして次に、移動量検出部9は、個別の顔毎に求まる差ベクトルからその平均、もしくは中央値(メディアン)等の代表値を求めて、被写体中の顔全ての移動量を代表する動き(代表ベクトル)を求める(同ステップ104)。第Nフレーム(N)と第N+1フレーム(N+1)とから求めた代表ベクトルを代表ベクトル(N+1)と表記する。
次に、移動量検出部9は、1フレームの画像に含まれる複数の顔どうしの相対的な位置関係を求め、これを連続するフレーム間で比較し、相対位置の変化量を求める(同ステップ105)。なお変化量の求め方としては、各顔の座標間の距離の絶対値もしくは二乗値の差などを用いればよいが特にこれに限るものではない。画像中の複数の顔の相対位置がフレーム間で大きくずれるようなことがあれば、被写体中で人物が大きく移動したことを意味し(図5)、画枠に対してどの顔の位置をどこに固定すべきであるかの判断が困難となる。そして仮にそのような状況においても上記で求めた代表ベクトルを用いてメモリ6からの画像読み出しアドレス制御を行った場合、撮影者にとって違和感のある出力画像となる恐れがある。そこで相対位置の変化量を検出し、変化量が一定値以上の場合は、メモリ制御部10は、メモリ6からの画像読み出しアドレス制御を停止し、一定位置を、例えば前フレームでの読み出しアドレスをそのまま保持する(同ステップ106、ステップ108)。
逆に変化量が一定値以下の場合、移動量検出部9は、メモリ6からの画像読み出し位置を代表ベクトルで示される位置に移動させるようメモリ制御部10に指示する(同ステップ106、同ステップ107)。そして、メモリ制御部10は、代表ベクトル(N+1)に基づき、フレーム(N+1)の画像読み出しアドレス制御を行う。図6(a)〜(c)は、この動作を模式的に示したものである。図6(a)は上記のような処理(ステップ101−107)を行わずに、メモリ6からの画像読み出し位置を固定とした場合の動作を示す模式図である。図6(a)左側の第Nフレームと右側の第N+1フレームにおいて、メモリ6からの画像読み出し位置を固定として場合、メモリ6から出力される画像の画枠内において被写体像は位置が移動して見える。メモリ6からの画像読み出し位置によって、画像のうちのどの領域を出力するかが決まるためである。しかし図6(b)のように第Nフレームにおける画像読み出し位置を基準に、第N+1フレームにおいては、複数の顔位置から検出した代表ベクトル分ずらした位置をメモリ6からの読み出し位置とすることで、メモリ6から出力される画像は、その画枠内で顔が概ね止まって見える。
以上のようなステップ101からステップ108までの動作を撮像周期毎に実施することで、長時間に亘って複数の人物を撮影した場合でも、画像のぶれがなく、撮影開始時に撮影していた被写体像を画枠内に捉え続けることができて構図が変化することを防止できる。
なお、カメラ信号処理部5、顔検出部8、移動量検出部9、または、メモリ制御部10は、例えばマイクロコンピュータによって実現される。マイクロコンピュータは、集積回路で実現され、画像信号の入力を受ける画像信号入力部と、CPUと、記憶部とを有する。記憶部には、カメラ信号処理部5、顔検出部8、移動量検出部9、または、メモリ制御部10の機能を実現するためのプログラムが格納されており、当該プログラムに基づいて、カメラ信号処理部5、顔検出部8、移動量検出部9、または、メモリ制御部10の機能を実行する。
(第2の実施の形態)
本発明の第2の実施の形態における撮像装置について図7を参照して説明する。本実施の形態は、被写体像の動きを補正する動き補正部として、結像光学系の光軸を偏心または傾動させる補正光学機構を用いた構成として説明する。なお第1の実施の形態の図1と同様の部分については、図7において同じ番号で示し説明は省略する。
図7は、本発明の第2の実施の形態における撮像装置のブロック図を示すものである。撮像光学系20は、4つのレンズ群L1、L2、L3、L4からなる。レンズ群L2が光軸方向に移動することでズーミングを行ない、レンズ群L4が光軸方向に移動することで合焦を行なう。またレンズ群L3はレンズ群L2よりも像面側に配置された2つのレンズ群L31、L32からなり、レンズ群L3の一部であるレンズ群L32が光軸に直交する方向に移動することで、光軸を偏心し、撮像素子に結像される被写体の光学像を移動する。画像の動きに応じて光学像を移動することで、画像の動きを補正する。このときレンズ群L32の光軸中心からの変位量(移動距離)と光軸が偏心する角度とは比例関係にある。したがって、光軸を所望の角度だけ偏心するには、そのために必要な量だけレンズ群L32を光軸中心から移動させればよい。レンズ群L32の駆動制御部21は、振れ補正用レンズであるレンズ群L32を駆動および制御するための部であり、撮像光学系20の光軸に直交する平面内でレンズ群L32を上下左右に移動させる。
以上のように構成された本実施の形態の撮像装置においては、移動量検出部9によって検出された代表ベクトルで表される撮影画像の動きをキャンセルする方向にレンズ群L32を、レンズ群L32駆動制御部21を介して制御し、光軸を偏心することで画像の動きを補正する。その結果、第1の実施の形態と同様に複数の人物を撮影した場合でも、画像のぶれがなく、撮影開始時に撮影していた被写体像を画枠内に捉え続けることができて構図が変化することを防止できる。
なお、カメラ信号処理部5、顔検出部8、移動量検出部9は、例えば、マイクロコンピュータによって実現される。マイクロコンピュータは、集積回路で実現され、画像信号の入力を受ける画像信号入力部と、CPUと、記憶部と、移動量を出力する出力部を有する。記憶部には、カメラ信号処理部5、顔検出部8、移動量検出部9、または、メモリ制御部10の機能を実現するためのプログラムが格納されており、当該プログラムに基づいて、カメラ信号処理部5、顔検出部8、移動量検出部9の機能を実行する。
(第3の実施の形態)
本発明の第3の実施の形態における撮像装置について図8を参照して説明する。本実施の形態は、被写体像の動きを補正する部として結像光学系の光軸を偏心または傾動させる補正光学機構とメモリ6からの画像読み出し制御とを併用した構成として説明する。なお第1の実施の形態の図1、図7と同様の部分については、図8において同じ番号で示し説明は省略する。
図8は、本発明の第3の実施の形態における撮像装置のブロック図を示すものである。本実施の形態においては、先に述べた2つの実施の形態における画像の動きを補正する部(メモリ6からの画像読み出し制御と補正光学機構)を併用することで、更に被写体像の動き補正効果を高めることが出来る。
具体的には、補正光学機構は一般にある範囲の動作帯域を有しているため、この動作帯域を越える被写体像の速い動きには追従できない場合がある。また機構による構成では各機構部品の製作精度や組立誤差による動作精度のばらつきが不可避であり、これが動きの補正性能に影響を及ぼす場合がある。その点、メモリ6からの画像読み出し制御は電子的な処理であるためバラツキや誤差の影響を受けることはない。しかし別の観点から見ると、補正光学機構による補正においては撮像光学系20の焦点距離によらず一定の補正角度を確保できるが、メモリ6からの画像読み出し制御の場合、焦点距離が長くなると比例して被写体像の動きも大きくなるため、十分は動き補正範囲を確保するためにはメモリ6から読み出す画像サイズ(画素数)を小さくする必要があり、最終的な出力画像の画質が低下する、という課題がある。
よってメモリ6からの画像読み出し制御と補正光学機構を併用すれば、それぞれを個別に利用する場合に比べて高い補正性能が確保できる。
具体的には、まずは移動量検出部9によって検出された代表ベクトルで表される撮影画像の動きをキャンセルする方向にレンズ群L32を、レンズ群L32駆動制御部21を介して制御し、光軸を偏心することで画像の動きを補正する。そして撮影した画像から移動量検出部9により撮影画像に残る被写体像の移動量(代表ベクトル)を検出し、これを元にメモリ6からの画像の読み出しを制御する。その結果、第1の実施の形態及び第2の実施の形態と同様に複数の人物を撮影した場合でも、画像のぶれがなく、撮影開始時に撮影していた被写体像を画枠内に捉え続けることができて構図が変化することを防止できる。
(他の実施の形態)
上述の実施の形態においては、被写体中の人物が個別に移動することを前提にステップ106及びステップ108からなる処理を導入した例を示したがこれに限るものではない。例えば被写体が整列してその位置をほとんど変えることない場合(例えば合唱や合奏)においては、ステップ106及びステップ108を省略した構成でも主要な効果を奏することができるため、このような構成を採ってもよい。
動き補正部は、例えば、2枚のガラス板を蛇腹で繋ぎ、その中を高屈折率の液体で満たし、ガラス板の角度を変えることで光軸偏心が可能な可変頂角プリズム(VAP)を用いた光学系を用いてもよい。
また、本発明の第2の実施の形態において、動き補正部としては、レンズ群L32を移動する場合を説明したが、これに限定されるものではなく、撮像光学系10および撮像素子2等を撮像装置の筐体に対して回転自在に支持および駆動することで動きを補正する構成でもよい。
また、本発明の全ての実施の形態において、顔の検出など一連の処理は撮像周期毎に実施するものとして説明したがこれに限るものではなく、被写体の動きが小さい場合などは複数フレームに1回の処理に間引くなどの措置を講じることで、例えば機器の消費電力低減などの効果を実現することも可能である。
また、本発明の全ての実施の形態において、画像の動き補正に関して既知の防振技術、画像の動き補正技術(例えば、前述の背景技術欄にて挙げた公知技術)を併用することが可能であることはいうまでもなく、そのような構成においては更に高い手振れ補正効果が実現できる。
また、本発明の全ての実施の形態において、人物像の検出はその顔を検出する構成を持っているとして説明したがこれに限るものではなく、例えば人体の形状や衣服の色、模様などを判断材料として人物を検出する方法を採ってもよく、その場合でも本願発明が目的とする効果が得られることは明らかである。
また、本発明の全ての実施の形態においては、複数の顔の相対位置が変動した場合に、X方向およびY方向に位置を調整して補正する場合を述べたが、これに限るものではない。例えば、複数の顔の相対位置の変動により顔と顔との間隔が大きくなった場合に、前記複数の顔が画像の中に入るように、広角側にズームさせて焦点距離を短くしてもよい。また、複数の顔の相対位置の変動により顔と顔との間隔が小さくなった場合に、前記複数の顔が近づき過ぎないように、望遠側にズームさせたりて焦点距離が長くなるようにしたりしてもよい。これによっても、被写体との距離の変化による構図の変化が生じないように防止できる。なお、この場合にも、相対位置の変動量が所定値より大きい場合には、補正処理を中止してもよい。
さらに、本発明の全ての実施の形態において、補正する対象物が人物像である場合を述べたが、これに限るものではなく、被写体として、車や自転車、または、建造物や看板などの物を補正する対象物として、構図が変化しないよう構成してもよい。
(実施の形態の特徴)
上記実施の形態において特徴的な部分を以下に列記する。なお、上記実施の形態に含まれる発明は、以下に限定されるものではない。なお、各構成の後ろに括弧で記載したものは、特徴の理解を助けるために記載した、各構成の具体例である。各構成はこれらの具体例に限定されるものではない。また、各特徴について記載された効果を得るためは、記載された特徴以外の構成は変形または削除されてもよい。
[F1]
撮像装置は、被写体の光学像を結像する撮像光学系(1,10)と、
前記結像された前記光学像を画像信号に変換する撮像素子(2)と、
前記撮像素子で得られた前記画像信号に基づき、当該画像信号が表す画像に含まれる複数の人物像などの対象物の顔領域などの特徴を検出する顔検出部(8)などの特徴検出部と、
前記複数の人物像の顔領域などの複数の対象物の特徴の位置関係を検出する位置関係検出部(9)と、
前記複数の人物像の顔領域などの複数の対象物の特徴の移動量を検出する移動量検出部(9)と、
前記位置関係検出部の検出結果および前記移動量検出部の検出結果に基づいて、前記画像の構図の変化を補正する構図変化補正部(10,11、L32)と、を備える。
これにより、長時間に亘って複数の人物などの対象物を撮影した場合でも、画像のぶれが抑制でき、撮影開始時に撮影していた被写体像を画枠内に捉え続けることができて構図の変化を防止できる。
[F2]
F1の撮像装置であって、
前記複数の対象物のうちの特定の対象物の特徴を検出する特定物検出手段(8)をさらに備え、
前記位置関係検出部(9)は、前記特定物検出手段(8)で検出された特定の対象物の特徴とその他の少なくともいずれかの対象物の特徴との位置関係を検出する。
[F3]
F1の撮像装置であって、
前記移動量検出部は、更に、同一画像に含まれる複数の人物像などの対象物間の相対的な位置関係を検出し、複数の対象物の特徴の前記位置関係の変化を検出し、
前記構図変化補正部は、前記位置関係の変化量が一定量以下の場合に、前記対象物の移動量に基づき前記画像の動きを補正する。
これにより、更に、被写体中の人物像などの対象物が個別に移動した場合でも違和感のない画像が撮影できる。
[F4]
F1に記載の撮像装置であって、
前記構図変化補正部は、前記画像信号を記憶するメモリ(6)と、前記メモリに記憶された画像信号からその一部を読み出すメモリ制御部(10)と、を有する。
[F5]
F1に記載の撮像装置であって、
前記構図変化補正部は、前記撮像光学系に対し相対的に駆動され、撮像光学系の光軸を偏心させて撮像面において前記光学像を移動する補正光学素子を有する。
[F6]
F1に記載の撮像装置であって、
前記構図変化補正部は、前記撮像素子を光軸に直交する方向に変位させる駆動部を有する。
[F7]
集積回路であって、
画像信号の入力を受ける画像信号入力部と、
前記画像信号に基づき、当該画像信号が表す画像に含まれる複数の人物像などの対象物の顔領域などの特徴を検出する特徴検出部と、
前記複数の対象物の特徴の位置関係を検出する位置関係検出部と、
前記複数の対象物の特徴の移動量を検出する移動量検出部と、
前記移動量検出部の検出結果および前記移動量検出部の検出結果に基づいて、前記画像の構図の変化を補正する構図変化補正部と、を備える。
これにより、長時間に亘って複数の人物を撮影した場合でも、画像のぶれが抑制でき、撮影開始時に撮影していた被写体像を画枠内に捉え続けることができて構図の変化を防止できる撮像装置を実現できる集積回路を提供できる。
[F8]
F7に記載の集積回路であって、
前記移動量検出部は、更に、同一画像に含まれる複数の人物像などの対象物間の相対的な位置関係を検出し、複数の対象物の特徴の前記位置関係の変化を検出し、
前記構図変化補正部は、前記位置関係の変化量が一定量以下の場合に、前記対象物の移動量に基づき前記画像の構図の変化を補正する。
これにより、更に、被写体中の人物像などの対象物が個別に移動した場合でも違和感のない画像が撮影できる撮像装置を実現できる集積回路を提供することができる。
[F9]
集積回路であって、
画像信号の入力を受ける画像信号入力部と、
前記画像信号に基づき、当該画像信号が表す画像に含まれる複数の人物像などの対象物の顔領域などの特徴を検出する特徴検出部と、
前記複数の対象物の特徴の位置関係を検出する位置関係検出部と、
前記複数の対象物の特徴の移動量を検出する移動量検出部と、
前記移動量を出力する出力部と、を備える。
これにより、長時間に亘って複数の人物などの対象物を撮影した場合でも、画像のぶれが抑制でき、撮影開始時に撮影していた被写体像を画枠内に捉え続けることができる撮像装置を実現できる集積回路を提供することができる。
[F10]
F9に記載の集積回路であって、
前記移動量検出部は、更に、同一画像に含まれる複数の人物像などの対象物間の相対的な位置関係を検出し、複数の対象物の特徴の前記位置関係の変化を検出し、
前記出力部は、前記位置関係の変化量が一定量以下の場合に、前記移動量を出力する。
これにより、更に、被写体中の人物像などの対象物が個別に移動した場合でも違和感のない画像が撮影できる撮像装置を実現できる集積回路を提供することができる。
本発明は、例えば、手振れ補正機能を有するデジタルカメラやビデオムービー等の撮像装置に利用することが可能である。
1 撮像レンズ
2 撮像素子
3 アナログ信号処理部
4 A/D変換部
5 カメラ信号処理部
6 メモリ
7 ズーム部
8 顔検出部
9 移動量検出部
10 メモリ制御部
20 撮像光学系
L1、L2、L3、L4、L31、L32 レンズ群

Claims (14)

  1. 被写体の光学像を結像する撮像光学系と、
    前記結像された前記光学像を画像信号に変換する撮像素子と、
    前記撮像素子で得られた前記画像信号に基づき、当該画像信号が表す画像に含まれる複数の対象物の特徴を検出する特徴検出部と、
    前記複数の対象物の特徴の位置関係を検出する位置関係検出部と、
    前記複数の対象物の特徴の移動量を検出する移動量検出部と、
    前記位置関係検出部の検出結果および前記移動量検出部の検出結果に基づいて、前記画像の構図の変化を補正する構図変化補正部と、
    を備える撮像装置。
  2. 前記複数の対象物のうちの特定の対象物の特徴を検出する特定物検出手段をさらに備え、
    前記位置関係検出部は、前記特定物検出手段で検出された特定の対象物の特徴とその他の少なくともいずれかの対象物の特徴との位置関係を検出する、
    請求項1に記載の撮像装置。
  3. 前記移動量検出部は、更に、同一画像に含まれる複数の対象物間の相対的な位置関係を検出し、複数の対象物の特徴の前記位置関係の変化を検出し、
    前記構図変化補正部は、前記位置関係の変化量が一定量以下の場合に、前記対象物の移動量に基づき前記画像の構図の変化を補正する、請求項1に記載の撮像装置。
  4. 前記構図の変化は、画像の縦横方向の動きまたは被写体との距離の変化によるものである、
    請求項1に記載の撮像装置。
  5. 前記複数の対象物の特徴が人物像の顔領域の特徴である、
    請求項1に記載の撮像装置。
  6. 前記構図変化補正部は、前記画像信号を記憶するメモリと、前記メモリに記憶された画像信号からその一部を読み出すメモリ制御部と、を有する、
    請求項1に記載の撮像装置。
  7. 前記構図変化補正部は、前記撮像光学系に対し相対的に駆動され、撮像光学系の光軸を偏心させて撮像面において前記光学像を移動する補正光学素子を有する、
    請求項1に記載の撮像装置。
  8. 前記構図変化補正部は、前記撮像素子を光軸に直交する方向に変位させる駆動部を有する、請求項1に記載の撮像装置。
  9. 画像信号の入力を受ける画像信号入力部と、
    前記画像信号に基づき、当該画像信号が表す画像に含まれる複数の対象物の特徴を検出する特徴検出部と、
    前記複数の対象物の特徴の位置関係を検出する位置関係検出部と、
    前記複数の対象物の特徴の移動量を検出する移動量検出部と、
    前記移動量検出部の検出結果および前記移動量検出部の検出結果に基づいて、前記画像の構図の変化を補正する構図変化補正部と、
    を備える集積回路。
  10. 前記移動量検出部は、更に、同一画像に含まれる複数の対象物間の相対的な位置関係を検出し、複数の対象物の特徴の前記位置関係の変化を検出し、
    前記構図変化補正部は、前記位置関係の変化量が一定量以下の場合に、前記対象物の移動量に基づき前記画像の構図の変化を補正する、
    請求項9に記載の集積回路。
  11. 前記構図の変化は、画像の縦横方向の動きまたは被写体との距離の変化によるものである、
    請求項9に記載の集積回路。
  12. 前記複数の対象物の特徴が人物像の顔領域の特徴である、
    請求項9に記載の集積回路。
  13. 画像信号の入力を受ける画像信号入力部と、
    前記画像信号に基づき、当該画像信号が表す画像に含まれる複数の対象物の特徴を検出する特徴検出部と、
    前記複数の対象物の特徴の位置関係を検出する位置関係検出部と、
    前記複数の対象物の特徴の移動量を検出する移動量検出部と、
    前記移動量を出力する出力部と、
    を備える集積回路。
  14. 前記移動量検出部は、更に、同一画像に含まれる複数の対象物間の相対的な位置関係を検出し、複数の対象物の特徴の前記位置関係の変化を検出し、
    前記出力部は、前記位置関係の変化量が一定量以下の場合に、前記移動量を出力する、請求項13に記載の集積回路。
JP2012510534A 2010-04-16 2011-01-11 撮像装置および集積回路 Expired - Fee Related JP5393877B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012510534A JP5393877B2 (ja) 2010-04-16 2011-01-11 撮像装置および集積回路

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2010094685 2010-04-16
JP2010094685 2010-04-16
JP2012510534A JP5393877B2 (ja) 2010-04-16 2011-01-11 撮像装置および集積回路
PCT/JP2011/000063 WO2011129036A1 (ja) 2010-04-16 2011-01-11 撮像装置および集積回路

Publications (2)

Publication Number Publication Date
JPWO2011129036A1 true JPWO2011129036A1 (ja) 2013-07-11
JP5393877B2 JP5393877B2 (ja) 2014-01-22

Family

ID=44798426

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012510534A Expired - Fee Related JP5393877B2 (ja) 2010-04-16 2011-01-11 撮像装置および集積回路

Country Status (3)

Country Link
US (1) US8817127B2 (ja)
JP (1) JP5393877B2 (ja)
WO (1) WO2011129036A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102282458B1 (ko) * 2015-03-23 2021-07-27 한화테크윈 주식회사 영상안정화장치 및 방법
JP6702736B2 (ja) * 2016-01-26 2020-06-03 キヤノン株式会社 撮像制御装置および撮像装置の制御方法、プログラム
CN107948517B (zh) * 2017-11-30 2020-05-15 Oppo广东移动通信有限公司 预览画面虚化处理方法、装置及设备
JP7477969B2 (ja) 2019-12-25 2024-05-02 キヤノン株式会社 像ブレ補正装置及びその制御方法、プログラム、記憶媒体

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH073514B2 (ja) 1985-12-26 1995-01-18 キヤノン株式会社 像移動機構
JP2615693B2 (ja) 1987-11-09 1997-06-04 松下電器産業株式会社 ゆれ補正撮像装置
JP3188733B2 (ja) 1991-09-06 2001-07-16 キヤノン株式会社 像ぶれ補正装置
JP3359131B2 (ja) 1993-11-04 2002-12-24 キヤノン株式会社 防振機能を有した変倍光学系
JPH09261524A (ja) 1996-03-22 1997-10-03 Sony Corp ビデオカメラの手振れ補正装置及び手振れ補正方法
US7542072B2 (en) * 2004-07-28 2009-06-02 The University Of Maryland Device using a camera and light polarization for the remote displacement of a cursor on a display
US7469679B2 (en) 2004-12-09 2008-12-30 Caterpillar Inc. Method for detecting and controlling movement of an actuated component
JP2007074620A (ja) 2005-09-09 2007-03-22 Omron Corp 撮像装置
JP4427533B2 (ja) 2006-09-22 2010-03-10 富士フイルム株式会社 顔画像検出装置およびその制御方法
US8005295B2 (en) 2007-03-06 2011-08-23 Panasonic Corporation Apparatus and method for image processing, image processing program and image processor
JP2008270983A (ja) * 2007-04-17 2008-11-06 Sanyo Electric Co Ltd 手ぶれ補正装置及び手ぶれ補正方法
JP5019939B2 (ja) * 2007-04-19 2012-09-05 パナソニック株式会社 撮像装置及び撮像方法
JP2008301355A (ja) * 2007-06-01 2008-12-11 Casio Comput Co Ltd 撮像装置及びそのプログラム
JP2009003392A (ja) * 2007-06-25 2009-01-08 Nikon Corp 振れ補正装置、光学機器、振れ補正方法、振れ補正装置の製造方法
JP2009038572A (ja) * 2007-08-01 2009-02-19 Nikon Corp 振れ補正装置、撮影装置、振れ検出装置、撮影方法、振れ補正装置の製造方法、振れ検出装置の製造方法
JP4940164B2 (ja) * 2008-02-07 2012-05-30 オリンパス株式会社 撮像装置及び撮像方法
JP2009290782A (ja) * 2008-05-30 2009-12-10 Canon Inc 撮像装置、その制御方法及びプログラム
JP5152583B2 (ja) * 2008-09-26 2013-02-27 カシオ計算機株式会社 撮影装置、撮影案内方法、及びプログラム

Also Published As

Publication number Publication date
US20120188398A1 (en) 2012-07-26
US8817127B2 (en) 2014-08-26
WO2011129036A1 (ja) 2011-10-20
JP5393877B2 (ja) 2014-01-22

Similar Documents

Publication Publication Date Title
CN109194876B (zh) 图像处理方法、装置、电子设备和计算机可读存储介质
CN110035222B (zh) 半导体装置和电子设备
CN107770433B (zh) 影像获取装置及其影像平顺缩放方法
US9019387B2 (en) Imaging device and method of obtaining image
CN109951638B (zh) 摄像头防抖系统、方法、电子设备和计算机可读存储介质
JP5111088B2 (ja) 撮像装置及び画像再生装置
JP6821339B2 (ja) 像振れ補正装置、傾き補正装置、像振れ補正装置の制御方法、傾き補正装置の制御方法
KR101528860B1 (ko) 디지털 촬영 장치의 흔들림 보정 방법 및 장치
JP6135848B2 (ja) 撮像装置、画像処理装置および画像処理方法
JP6071545B2 (ja) 撮像装置、画像処理装置及びその制御方法、プログラム、記憶媒体
JP2016090973A (ja) 撮像装置
JP6128458B2 (ja) 撮像装置および画像処理方法
JP4125331B2 (ja) 撮像装置及びその制御方法
JP5393877B2 (ja) 撮像装置および集積回路
JP2024076155A (ja) 制御装置、撮像装置及び撮像装置の制御方法
JP5143172B2 (ja) 撮像装置及び画像再生装置
EP3836540B1 (en) Image processing apparatus and image capturing apparatus
JP2017044876A (ja) 撮像装置及び像ブレ補正方法
JP2008116663A (ja) 撮像装置
WO2017104102A1 (ja) 撮像装置
JP6257289B2 (ja) 画像処理装置およびそれを備えた撮像装置、画像処理方法
JP6016546B2 (ja) 撮像装置、その制御方法、および制御プログラム
JP2000069353A (ja) 手ぶれ検出装置および手ぶれ補正装置
TWI639338B (zh) 影像擷取裝置及其影像平順縮放方法
JP6257288B2 (ja) 撮像装置およびその制御方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130522

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130702

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130822

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130917

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131015

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees