JP2006243373A - 映像信号処理装置、この映像信号処理装置を搭載した撮像装置及び映像信号処理方法並びに映像信号処理用プログラム - Google Patents

映像信号処理装置、この映像信号処理装置を搭載した撮像装置及び映像信号処理方法並びに映像信号処理用プログラム Download PDF

Info

Publication number
JP2006243373A
JP2006243373A JP2005059246A JP2005059246A JP2006243373A JP 2006243373 A JP2006243373 A JP 2006243373A JP 2005059246 A JP2005059246 A JP 2005059246A JP 2005059246 A JP2005059246 A JP 2005059246A JP 2006243373 A JP2006243373 A JP 2006243373A
Authority
JP
Japan
Prior art keywords
video signal
image
area
control
signal processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005059246A
Other languages
English (en)
Other versions
JP4866557B2 (ja
Inventor
Masayuki Serizawa
正之 芹沢
Kenji Tabei
憲治 田部井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP2005059246A priority Critical patent/JP4866557B2/ja
Publication of JP2006243373A publication Critical patent/JP2006243373A/ja
Application granted granted Critical
Publication of JP4866557B2 publication Critical patent/JP4866557B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】 画面中の小さな領域に存在する被写体であっても、高周波成分の多い背景の被写体が占める面積に依存せずに良好にフォーカス調整を行う。
【解決手段】 被写体の画像を撮像した映像信号の高周波成分を抽出するフィルタ手段1060と、撮像画面の領域を複数に分割した分割領域毎にフィルタ手段1060から出力される高周波成分を積分する積分手段1070と、映像信号から画像中の動き情報を抽出する動きベクトル算出手段1080と、動きベクトル算出手段1080が抽出した前記動き情報に基づいて前記分割領域の中からフォーカス調整対象領域を設定しこのフォーカス調整対象領域の高周波成分に基づいてフォーカスレンズ位置を制御する制御手段1090とを備える。
【選択図】 図1

Description

本発明は、CCD等の撮像素子を用いて撮影するときにオートフォーカス(自動焦合)等を行う映像信号処理装置及びこの映像信号処理装置を搭載した撮像装置並びに映像信号処理用プログラムに係り、特に、画面中の目標とする被写体像の大きさが小さくてもまた動きがあっても的確にその被写体にフォーカス等を行うことが可能な映像信号処理装置、この映像信号処理装置を搭載した撮像装置及び映像信号処理方法並びに映像信号処理用プログラムに関する。
ビデオカメラ等に搭載される一般的なオートフォーカス装置は、CCD等の撮像装置から得られる映像信号をディジタル処理し、いわゆる山登り方式により被写体に合焦させている。この山登り方式とは、フォーカスレンズを前後させたときに映像信号中の輝度信号の高周波成分が、合焦位置をピークとする山の形状を描くことから、この高周波成分を積分した後に、マイクロコンピュータにて高周波成分の積分結果を基準に山のピーク位置を探索するものである。
山登り方式で合焦位置を探索する場合、手振れなどがあると輝度信号の高周波成分量が変化し精度の高い合焦位置の探索ができなくなるが、例えば、下記特許文献1には、手ぶれ等の影響がある場合でもオートフォーカスの合焦精度を向上させる技術を開示している。
図15は、特許文献1に開示された従来のオートフォーカス装置を搭載したビデオカメラの要部構成図である。レンズ1より入力される光をCCD2が撮像し、CCD2から出力される撮像信号に対して信号処理回路4が信号処理を施して後段の図示しない記録回路等に映像信号を出力し、記録メディアに映像信号を記録する。
信号処理回路4で信号処理された映像信号は、オートフォーカス制御回路20にも出力される。オートフォーカス制御回路20では、BPF(バンドパスフィルタ)5で映像信号の高周波成分を抽出し、積分回路6でその高周波成分を積分する。また、絶対値差分回路8は、映像信号を直接取り込むと共にDフリップフロップ7を通しても取り込み、両者の差分すなわち隣接画素間の信号レベル差の絶対値を算出し、積分回路9が絶対値差分回路8の出力を積分して被写体の輝度変化量を検出する。マイクロコンピュータ10は、積分回路6と積分回路9の両方の積分値を取り込み、両方の積分値に応じてレンズコントロール3を駆動し、フォーカスレンズの位置制御を行う。
この場合、マイクロコンピュータ10は、積分回路9で算出された隣接画素の輝度変化量と、積分回路6から出力される高周波成分の積分結果を基に被写体の動き量を算出し、動き量が大きければ高周波成分の積分結果に動き量分の補正量を加算してフォーカスレンズ位置の制御を行う。動き量が少なければ、動き量分の補正をしないようにフォーカスレンズ位置の制御を行う。これにより、被写体の動きに追従しつつ、高周波成分の積分結果の精度向上を図ることが可能となり、手ぶれが生じたり被写体が動く場合であっても合焦位置の偽ピークの発生を軽減することができ、オートフォーカス時の高周波成分データの信頼性が向上する。
特開平7―115578号公報
しかしながら、画面中の高周波成分の積分値と注目画素周辺の画素の輝度変化による輝度変化量とによるフォーカス制御だけでは、画面中の目標とする被写体が画面のごく小さな領域だけに存在するような場合には、フォーカス制御が困難であるという問題がある。 例えば、監視カメラで侵入者等の有無を監視しているとき、カメラの撮影画面内に入ってくる侵入者等の被写体画像は最初の内は小さいため、侵入者にフォーカスした映像を撮像するのが困難である。
画面中の大部分を占める被写体すなわち背景となる被写体が高周波成分を多く含んでいるような場合、画面中のごく小さな領域に存在する目標被写体の高周波成分は画面全体の高周波成分の中に埋もれてしまう。この場合、オートフォーカス装置は画面の大部分を占める高周波成分の多い背景被写体にフォーカスさせようと制御するため、小さな目標被写体に合焦した映像を撮像するのが困難なためである。
また、フォーカス制御と同様に、画面に占める割合が小さな被写体に合わせた露出制御を行う場合も適切な露出制御が困難であり、画面中の小さな目標被写体が動いている場合にはフォーカス制御や露出制御だけでなくホワイトバランス制御も難しいという問題がある。
本発明は、上記従来技術の問題点を解決するために為されたもので、画面に占める高周波成分の多い被写体の面積に依存せず、画面中の小さな被写体や動きのある被写体であっても適切にフォーカス制御を行うことができ、また、適切な露出制御やホワイトバランス制御が可能な映像信号処理装置、この映像信号処理装置を搭載した撮像装置及び映像信号処理方法並びに映像信号処理用プログラムを提供することを目的とする。
本発明の映像信号処理装置は、被写体の画像を撮像した映像信号の高周波成分を抽出するフィルタ手段と、撮像画面の領域を複数に分割した分割領域毎に前記フィルタ手段から出力される高周波成分を積分する積分手段と、前記映像信号から前記画像中の動き情報を抽出する動きベクトル算出手段と、前記動きベクトル算出手段が抽出した前記動き情報に基づいて前記分割領域の中からフォーカス調整対象領域を設定し前記フォーカス調整対象領域の前記高周波成分に基づいてフォーカスレンズ位置を制御する制御手段とを備えることを特徴とする。
この構成により、画面に占める高周波成分の多い被写体の面積に依存せず、画面中の小さな被写体や動きのある被写体であっても適切にフォーカス制御を行うことが可能となる。
本発明の映像信号処理装置は、前記分割領域の中から露出調整対象領域を前記動き情報に基づいて設定し前記露出調整対象領域の露出制御を行う露出制御手段を備えることを特徴とする。
この構成により、画面に占める高周波成分の多い被写体の面積に依存せずに、画面中の小さな被写体や動きのある被写体であっても適切にフォーカス制御と露出制御を行うことができる。
本発明の映像信号処理装置は、前記分割領域の中からズーム制御対象領域を前記動き情報に基づいて設定し前記ズーム制御対象領域の画像を拡大表示するズーム制御手段を備えることを特徴とする。
この構成により、画面に占める高周波成分の多い被写体の面積に依存せずに、画面中の小さな被写体や動きのある被写体であっても適切にフォーカス制御とズーム制御を行うことができる。
本発明の映像信号処理装置は、前記分割領域の中からホワイトバランス制御対象領域を前記動き情報に基づいて設定し前記ホワイトバランス制御対象領域の画像をホワイトバランス制御するホワイトバランス制御手段を備えることを特徴とする。
この構成により、画面に占める高周波成分の多い被写体の面積に依存せずに、画面中の小さな被写体や動きのある被写体であっても適切にフォーカス制御とホワイトバランス制御を行うことができる。
本発明の映像信号処理装置は、前記分割領域の中からネットワーク伝送領域を前記動き情報に基づいて設定し前記ネットワーク伝送領域の内側の画像を前記ネットワーク伝送領域の外側の画像より優先してネットワークに伝送する伝送手段を備えることを特徴とする。
この構成により、画面に占める高周波成分の多い被写体の面積に依存せずに、画面中の小さな被写体や動きのある被写体であっても適切にフォーカス制御を行うことができると共にネットワークの伝送帯域に応じた画像伝送を行うことが可能となる。
本発明の映像信号処理装置は、前記フォーカス調整対象領域の画像が前記撮像画面内の所定位置となるように撮像装置の撮影する向きを調整する載置台を制御する載置台制御手段を備えることを特徴とする。
この構成により、動きベクトルが集中する領域の被写体に対するフォーカス制御を行うと共に、常にこの被写体の画像が画面の所定位置例えば画面中央位置となる様に被写体の動きに追従して被写体を監視することが可能となる。
本発明の映像信号処理装置は、前記動き情報に基づいて前記撮像画像の映像信号を処理する画像処理手段を備えることを特徴とする。
この構成により、画像処理を適切に行うことができ、画像処理の性能が向上する。
本発明の撮像装置は、上記のいずれかに記載の映像信号処理装置を備えることを特徴とする。
この構成により、撮像装置の性能が向上する。
本発明の映像信号処理用プログラムは、上記のいずれかに記載の映像信号処理装置をコンピュータのソフトウェア処理で実現することを特徴とする。
この構成により、映像信号処理装置を低コストで実現できると共に装置の小型化を図ることが可能となる。
本発明の映像信号処理方法は、被写体の画像を撮像した映像信号の高周波成分を抽出するフィルタステップと、撮像画面の領域を複数に分割した分割領域毎に前記フィルタステップにて出力される高周波成分を積分する積分ステップと、前記映像信号から前記画像中の動き情報を抽出する動きベクトル算出ステップと、前記動きベクトル算出ステップにて抽出された前記動き情報に基づいて前記分割領域の中からフォーカス調整対象領域を設定し前記フォーカス調整対象領域の前記高周波成分に基づいてフォーカスレンズ位置を制御する制御ステップとを備えることを特徴とする。
この構成により、画面に占める高周波成分の多い被写体の面積に依存せず、画面中の小さな被写体や動きのある被写体であっても適切にフォーカス制御を行うことが可能となる。
本発明によれば、画面に占める高周波成分の多い被写体の面積に依存せず、画面中の小さな被写体や動きのある物体であっても適切にフォーカス制御や露出制御、ホワイトバランス制御を行うことが可能となる。
以下、本発明の一実施の形態を図面を参照して説明する。
(第1の実施の形態)
図1は、本発明の第1の実施の形態に係る撮像装置の要部構成図である。この撮像装置は、光を集光するレンズ系1000と、レンズ系1000に含まれるフォーカスレンズの位置調整を行なったりレンズ系1000に含まれる絞りの開口量の調整を行うレンズ系制御手段1001と、レンズ系1000で集光された光を電気信号に変換する撮像素子1010と、撮像素子1010を駆動する撮像素子駆動手段1020と、撮像素子1010から出力されるアナログ映像信号を処理する前処理手段1030とを備える。
前処理手段1030は、相関二重サンプリングよりリセットノイズを除去するCDS(Correllated Double Sampling)回路と、ノイズ成分が除去されたアナログ映像信号が一定の信号レベルを保持するように振幅調整を行なうAGC(Automatic Gain Control)回路と、振幅調整されたアナログ映像信号に対してA/D変換するためにクランプする回路で構成される。
本実施形態に係る撮像装置は更に、前処理手段1030の出力をディジタル信号に変換するA/D変換器1040と、A/D変換器1040から出力される映像信号に対して輝度信号処理、色差信号処理を行いNTSC/PAL方式等の映像信号を生成して図示しない後段の記録回路等に出力するカメラプロセス1050と、カメラプロセス1050で生成された輝度信号に基づいてフォーカス制御を行うオートフォーカス制御装置900とを備える。
オートフォーカス制御装置900は、輝度信号を基準に映像信号の高周波成分を抽出するBPF(バンドパスフィルタ)1060と、カメラプロセス1050で生成された輝度信号を基準に画面を複数の領域(後述のブロック)に分割し分割された領域(ブロック)毎にBPF1060から出力される映像信号の高周波成分を積分する領域分割AFデータ生成手段1070と、カメラプロセス1050で生成された輝度信号を基準に被写体画像の動きベクトルを算出する動きベクトル算出手段1080と、領域分割AFデータ生成手段1070の出力と動きベクトル算出手段1080の出力とを基にレンズ系制御手段1001を制御する演算制御手段1090とを備える。
図2は、図1に示すオートフォーカス制御装置900の動作を説明する撮影画面説明図である。図2(a)に示す様に、画面を1つの領域として画面中の高周波成分を基にフォーカス制御する場合には、物体Bや物体Cのような広い面積の被写体画像が画面中の高周波成分の多くを占めるため、物体Aの画像のように小さな被写体の高周波成分の割合は少なくなる傾向にある。このため、オートフォーカス制御は物体Bや物体Cの様に画面中で広い面積を占める被写体に合焦するように制御が進み、物体Aのような小さな物体に合焦させることは難しい。また、物体Aのように被写体が動いている場合には、物体Aに合焦させるようにフォーカス制御を行うのはより困難である。
このため、本実施形態では先ず、領域分割AFデータ生成手段1070で1画面を図2(b)のように水平方向8ブロック、垂直方向6ブロックの計48ブロックに分割し、分割されたブロック毎に、映像信号の高周波成分を積分する。即ち、領域分割A/Fデータ生成手段1070は、BPF1060から出力される高周波成分をブロック毎に積分し、計48ブロックの各高周波成分の積分値を演算制御手段1090に出力する。
動きベクトル算出手段1080は、図2(c)に示す様に、画面中の動きベクトル成分1081を求め、この動きベクトル情報を演算制御手段1090に出力する。図示する例では、物体Aは画面の左から右に動いている。動きベクトルは動く物体Aの画像周辺に集中する特性があるため、演算制御手段1090はこの特性を利用して、物体Aの周辺の動きベクトルが集中する領域に物体Aが存在する可能性が高いと判断し、動きベクトルが集中する領域を基準にフォーカス調整を行うようにレンズ系制御手段1001を制御する。
例えば、図3(a)に示す様に、動きベクトルが集中する物体Aを含む領域AA(この例では、3×2=6ブロック)を設定し、この領域AAにおける高周波成分の積分値が、図3(b)に示す様に、最大となるように、レンズ絞り制御信号1002(図1参照)を生成してレンズ系制御手段1001に出力する。
これにより、レンズ系1000のフォーカスは、動きのある物体Aを含む領域AA付近を基準に調整される。また、被写体が小さな動きのあるものであっても、被写体の動きに追従しつつ、フォーカス制御が行われる。従って、本実施形態では、高周波成分の多い被写体の画面に占める面積に関係なく、目標被写体にフォーカス制御することができ、被写体の動きに追従したフォーカス制御を良好に行うことが可能となる。
また、小さな被写体が静止している場合でも、画面を複数の領域(ブロック)に分割し、分割された領域(ブロック)毎に高周波成分を算出するため、図3(a)の物体Bや物体Cだけでなく、任意の領域(ブロック)毎にフォーカス制御を行うこともできる。このため、監視カメラ等では被写体が固定されるような場合が多いが、予めフォーカスを優先して調整する領域を設定しておけば、常に設定した領域はフォーカスが適切に調整され、良好な映像信号を得ることができる。
尚、ここでは領域分割AFデータ生成手段1070で水平8ブロック、垂直6ブロックの計48のブロックに分割したが、さらに細かく領域を細分化し、より小さな被写体に追従してフォーカス制御ができるようにしても良い。また、動きのある小さな被写体が画面中に存在しないような場合には、演算制御手段1090で高周波成分の多い被写体に優先してフォーカス制御するようにフォーカス制御の重み付けをしておけば、違和感の少ないフォーカス制御を行うことも可能となる。
(第2の実施の形態)
図4は、本発明の第2の実施の形態に係る撮像装置の要部構成図である。本実施形態に係る撮像装置は、図1に示した第1の実施形態に係る撮像装置に対して、カメラプロセス1050および演算制御手段1090に接続された露出制御手段1100を付加した点が異なり、その他の構成要素は第1の実施形態の撮像装置と同じであるため同一構成要素には同一符号を付してその説明は省略する。
本実施形態の撮像装置では、カメラプロセス1050が露出制御手段1100からの露出制御信号1101によって制御され、演算制御手段1090が露光制御とフォーカス制御を行う。また、カメラプロセス1050は露光制御手段1100に輝度信号を出力し、露光制御手段1100は、領域分割AFデータ生成手段1070と同様に、画面を水平方向8ブロック、垂直方向6ブロックの計48ブロックに分割し、分割された領域(ブロック)毎に輝度平均値を算出する機能を有する。
図5は、本実施形態に係る撮像装置の動作説明図である。例えば、物体A付近が非常に明るく、かつ物体Aが左から右に移動するような被写体の場合には、領域分割AFデータ生成手段1070から出力されるブロック毎の高周波成分積分量と動きベクトル算出手段1080から出力される動きベクトル情報とに基づき、演算制御手段1090は、第1の実施の形態と同様に、領域AAにフォーカスを合わせるためのレンズ絞り制御信号1002を生成してレンズ系制御手段1001を制御をする。
次に、露出制御手段1100で算出される物体A周辺の領域AAの輝度平均値を基に、演算制御手段1090は、領域AAの映像信号の信号レベルを、図5に示す例では1/2に下げるように露出制御手段1100に指令し、露出制御手段1100は、カメラプロセス1050に対して、領域AAの映像信号に対するゲインを下げるように露出制御信号1101を出力する。
これにより、本実施形態の撮像装置では、フォーカスは、第1の実施形態に係る撮像装置と同様に、動きのある物体Aを含む領域AA付近を基準に調整でき、被写体が小さな動きのある物体であっても、被写体の動きに追従しつつ、フォーカス制御を行うことができる。これに加え、本実施形態の撮像装置では、領域AAに対する露出制御も良好に行うことができ、上記の例では、領域AAの輝度が周りの領域より明るすぎて見づらい画面になるのを防止できる。
この様に、本実施形態によれば、高周波成分の多い被写体の画面に占める面積に関係なく、被写体の動きに追従したフォーカス制御と露出制御の両方を良好に行うことができる。また、小さな被写体が静止している場合でも、画面を複数の領域に分割し、分割された領域毎に高周波成分、輝度平均値を算出するため、図5に示す物体Bや物体Cだけでなく、任意の領域毎にフォーカス制御と露出制御を行うことも可能である。
このため、監視カメラ等の様に被写体が固定されるような場合でも、予めフォーカスを優先して調整対象とする領域を設定し、露出制御についてもフォーカス調整対象領域に連動させ、フォーカス調整対象領域に該当する領域の輝度平均値を基準に演算制御手段1090がフォーカス制御に露出制御を追従させれば、設定領域に対してはフォーカス制御だけでなく露出制御も常に適切に調整可能となり、良好な映像信号を得ることができる。
尚、上述した説明では、領域分割AFデータ生成手段1070及び露出制御手段1100で領域分割する数を水平8ブロック、垂直6ブロックの計48ブロックとしたが、更に細かく領域を細分化し、より小さな被写体に追従してフォーカス制御及び露出制御ができるようにしても良いことはいうまでもない。
(第3の実施の形態)
図6は、本発明の第3の実施の形態に係る撮像装置の要部構成図である。本実施形態に係る撮像装置は、図4に示した第2の実施形態に係る撮像装置に対して、カメラプロセス1050および演算制御手段1090に接続されたズーム制御手段1200を付加した点が異なり、その他の構成要素は第2の実施形態の撮像装置と同じであるため同一構成要素には同一符号を付してその説明は省略する。
本実施形態の撮像装置では、カメラプロセス1050は、露出制御手段1100からの露出制御信号1101と、ズーム制御手段1200からのズーム制御信号1201によって制御され、露出制御と信号処理によるズーム制御を行う。演算制御手段1090は、露光制御とフォーカス制御、さらにズーム制御の指令をする。
図7は、本実施形態に係る撮像装置の動作説明図である。例えば、本来動きのない領域において、物体Aが左から右に移動するような映像が撮像されたとき、演算制御手段1090は、動きベクトル算出手段1080から出力された動きベクトル情報に基づき何らかの異常が発生したと判断する。そして、第2の実施形態の撮像装置と同様に、動きベクトルが集中する物体Aを中心とする領域AAを設定して領域AAのフォーカス制御と露出制御を行い、更に、本実施形態では、領域AAをズームアップするようにズーム制御手段1200を制御する。
これにより、カメラプロセス1050は、露出制御信号1101とズーム制御手段1200からのズーム制御信号1201に基づいて領域AAの露出制御及びズーム処理を行い、レンズ系制御手段1001は演算制御手段1090からのフォーカス制御信号に基づいてレンズ系1000のフォーカス制御を行う。これにより、図7右図に示すように、物体Aの画像が含まれる領域AAのフォーカス及び露出が適切に調整された拡大画像の映像信号を得ることが可能となる。
この様に、本実施形態によれば、高周波成分の多い被写体が画面に占める面積に関係なく、被写体の動きに追従したフォーカス制御を良好に行いつつ、露出制御とズーム制御を行うことが可能となる。また、小さな被写体が静止している場合でも、画面を複数の領域に分割し、分割された領域毎に高周波成分、輝度平均値を算出でき、動き情報を利用した制御を演算制御手段1090で行うことができるため、物体Bや物体Cだけでなく、任意の領域毎にフォーカス制御と露出制御、ズーム制御を行うこともできる。
従って、監視カメラ等で多い被写体が固定されるような場合でも、予めフォーカスを優先して調整対象とする領域を設定し、露出制御とズーム制御についてもフォーカス調整対象とする領域に連動させれば、フォーカス調整対象とする領域に該当する領域の動きベクトルを基準に演算制御手段1090で、フォーカス制御に露出制御、ズーム制御を追従させるようにすれば、設定領域は常にフォーカス制御、露出制御、さらに信号処理によるズーム制御が適切に調整され、良好な映像信号を得ることが可能となる。
尚、本実施形態でも同様に、領域分割AFデータ生成手段1070及び露出制御手段1100で領域分割する数を水平8ブロック、垂直6ブロックの計48ブロックとしたが、更に細かく領域を細分化し、より小さな被写体に追従してフォーカス制御及び露出制御ができるようにしても良いことはいうまでもない。
(第4の実施の形態)
図8は、本発明の第4の実施の形態に係る撮像装置の要部構成図である。本実施形態に係る撮像装置は、図6に示した第3の実施形態に係る撮像装置に対して、カメラプロセス1050および演算制御手段1090に接続されたホワイトバランス制御手段1300を付加した点が異なり、その他の構成要素は第3の実施形態の撮像装置と同じであるため同一構成要素には同一符号を付してその説明は省略する。
本実施形態の撮像装置では、カメラプロセス1050は、露出制御手段1100からの露出制御信号1101と、ズーム制御手段1200からのズーム制御信号1201と、ホワイトバランス制御手段1300からのホワイトバランス制御信号1301によって制御されると共に、ホワイトバランス制御手段1300に赤色(R)、緑色(G)、青色(B)の色信号を出力する。
また、本実施形態のホワイトバランス制御手段1300は、領域分割AFデータ生成手段1070や露出制御手段1100と同様に、画面を水平方向8ブロック、垂直方向6ブロックの計48ブロックに領域分割し、各領域(ブロック)毎に、カメラプロセス1050から得たR、G、Bの色信号を基にホワイトバランス調整ゲインを生成する。
例えば、ホワイトバランス制御手段1300では、ブロック毎にR、G、B夫々の累積加算結果(ΣR、ΣG、ΣB)からホワイトバランスを補正するためのホワイトバランス補正ゲイン(WGAINR、WGAING、WGAINB)を、次の
WGAINR=ΣG/ΣR …(1)式
WGAING=ΣG/ΣG=1(基準) …(2)式
WGAINB=ΣG/ΣB …(3)式
から求める。
図9は、本実施形態に係る撮像装置の動作説明図である。例えば、本来動きのない領域において、物体Aが左から右に移動するような画像が撮像された場合、演算制御手段1090は動きベクトル算出手段1080から出力される動きベクトル情報に基づき、何らかの異常が発生したと判断し、図9左図の動きベクトルが集中する物体Aを中心とする領域AAを設定し、この領域AAをズームするようにズーム制御手段1200を制御する。
本実施形態では更に、ホワイトバランス制御手段1300が、動きベクトルに基づき、移動する物体Aを中心とする領域AA部分のホワイトバランス制御を行う。即ち、(1)式、(2)式、(3)式により、ホワイトバランス補正ゲイン(WGAINR、WGAING、WGAINB)を算出し、ホワイトバランス制御信号1301としてカメラプロセス1050に出力する。
ホワイトバランス制御信号1301を受信したカメラプロセス1050は、露出制御信号1101と、ズーム制御信号1201と、ホワイトバランス制御信号1301に基づき、領域AAを、図9右図に示す様に、拡大ズームすると共に、R、G、Bの色成分毎に(1)式から(3)式で生成されるホワイトバランス補正ゲイン(WGAINR、WGAING、WGAINB)を用いてホワイトバランス制御を行い、更に露出制御も行う。
従って、本実施形態によれば、高周波成分の多い被写体が画面に占める面積に関係なく、被写体の動きに追従したフォーカス制御を良好に行いつつ、ズーム制御と露出制御とホワイトバランス制御を同時に行うことができる。また、小さな被写体が静止している場合でも、画面を複数の領域に分割し、分割された領域毎に高周波成分、輝度平均値を算出でき、動き情報を利用した制御を演算制御手段1090で行うことができるため、物体Bや物体Cだけでなく、任意の領域毎にフォーカス制御と露出制御、ズーム制御及びホワイトバランス制御を行うことができる。
このため、監視カメラ等で多い、被写体が固定されるような場合でも、予めフォーカスを優先して調整対象とする領域を設定し、露出制御とズーム制御、さらにホワイトバランス制御についてもフォーカス調整対象とする領域に連動させれば、フォーカス調整対象とする領域に該当する領域の動きベクトルを基準に演算制御手段1090が、フォーカス制御に、露出制御、ズーム制御、ホワイトバランス制御を追従させるようにすれば、設定領域で常にフォーカス制御と露出制御、さらに信号処理によるズーム制御、ホワイトバランス制御が適切に調整された良好な映像信号を得ることが可能となる。
尚、本実施形態でも同様に、領域分割AFデータ生成手段1070、露出制御手段1100、ホワイトバランス制御手段1300は、領域分割する数を水平8ブロック、垂直6ブロックの計48ブロックとしたが、更に細かく領域を細分化し、より小さな被写体に追従してフォーカス制御、露出制御、ホワイトバランス制御を行うことができるようにしても良い。
(第5の実施の形態)
図10は、本発明の第5の実施の形態に係る撮像装置の要部構成図である。本実施形態に係る撮像装置は、図8に示した第4の実施形態に係る撮像装置に対して、カメラプロセス1050および演算制御手段1090に接続されたネットワークインタフェースI/F制御手段1400を付加した点が異なり、その他の構成要素は第4の実施形態の撮像装置と同じであるため同一構成要素には同一符号を付してその説明は省略する。
本実施形態の撮像装置では、図11(a)に示されるような画面、例えば、本来動きの無い物体B、物体Cが映っている画面で左から右に移動する物体Aが検出された画面で、演算制御手段1090は動きベクトル算出手段1080から受信した動きベクトル情報をネットワークI/F制御手段1400に送る。これにより、ネットワークI/F制御手段1400は、動きベクトル情報に基づいて物体Aを中心とする領域AAを図11(b)に示される様に設定でき、そして、この領域AA内の画像を、その他の領域(画面の領域AA以外の領域)の画像より優先してネットワークに送信することができる。
本実施形態の撮像装置によれば、動きの無い領域の画像は、動きの或る領域の画像比べて画像の伝送レートを下げて伝送することができ、伝送帯域を有効活用することが可能となる。例えば、動きの無い領域の静止画像は、10フレームのうち1フレーム程度を伝送し、動きのある領域の画像についてはフレーム毎にネットワークに伝送する。このように、ネットワークI/F制御手段1400で伝送する画像のフレームレートを動きベクトルを基準に重み付けして制御すれば、動きのある被写体の画像を優先的に伝送できるため、動きがなめらかな良好な映像信号をネットワークに伝送することが可能となる。
(第6の実施の形態)
図12は、本発明の第6の実施の形態に係る撮像装置の要部構成図である。本実施形態に係る撮像装置は、図10に示した第5の実施形態に係る撮像装置に対して、撮像装置を搭載する回転台1600と、この回転台1600を演算制御手段1090からの指令に基づいて制御する回転台制御手段1500を付加した点が異なり、その他の構成要素は第5の実施形態の撮像装置と同じであるため同一構成要素には同一符号を付してその説明は省略する。
本実施形態に係る撮像装置では、例えば図13(a)に示す被写体、すなわち、動きの無い物体B、物体Cを撮像しているときに動きの有る物体Aの画像が検出されたとき、演算制御手段1090は、動きベクトル算出手段1080から出力される動きベクトル情報に基づいて回転台制御手段1500を制御し、回転台制御手段1500は回転台制御信号1501を回転台1600を駆動する。これにより、図13(b)に示す様に、例えば動きの有る物体Aの画像が画面の中央となるように制御することが可能となる。
このように、本実施形態によれば、例えば動きのある被写体を常に画面の中央で捕捉することができ、動きのある被写体を的確に撮像することができるため、被写体の自動追尾等を行うことが可能となる。
(第7の実施の形態)
図14は、本発明の第7の実施の形態に係る撮像装置の要部構成図である。本実施形態に係る撮像装置は、図12に示した第6の実施形態に係る撮像装置に対して、カメラプロセス1050から出力される映像信号や、ネットワークI/F制御手段1400から出力される映像信号を取り込んで、演算制御手段1090から取り込んだ動きベクトル情報に基づいて処理する画像処理手段1700を付加した点が異なり、その他の構成要素は第6の実施形態の撮像装置と同じであるため同一構成要素には同一符号を付してその説明は省略する。
本実施形態の撮像装置では、動きベクトル算出手段1080で算出した動きベクトル情報に基づいてカメラプロセス1050から出力される映像信号や、ネットワークI/F制御手段1400から出力される映像信号を画像処理手段1700で画像処理するため、画面中の小さな動きのある物体であってもフォーカスが適切に調整された良好な画像を基に画像処理を行うことが可能となる。このため、例えば画面の一部の領域に存在する移動中の自動車のナンバープレートの文字認識を行うような場合でも、ナンバープレートにフォーカスが調整され、かつ露出制御、ホワイトバランス調整が適切に施された画像を基にナンバープレート画像の切り出しや文字認識を行うことができ、認識精度を向上させる等、画像処理の精度向上を図ることが可能となる。
尚、以上述べた各実施形態の撮像装置は、映像信号処理装置を構成するオートフォーカス制御装置900や露出制御手段1100、ズーム制御手段1200、ホワイトバランス制御手段1300、ネットワークI/F制御手段1400、回転台制御手段1500、画像処理手段1700等の構成要素を夫々個々のハードウェアで構成しても良いが、各構成要素を、ソフトウェア処理によりマイクロコンピュータやDSP(デジタルシグナルプロセッサ)によって実現しても良い。
本発明の撮像装置は、画面の極く小さな領域に存在する被写体であってその撮像画像信号中の高周波成分の割合が画面全体の高周波成分に比べて少ない場合であってもその被写体の動きに追従したフォーカス制御を良好に行うことができるという効果を有し、監視カメラ等の映像監視を目的とする撮像装置等として有用である。
本発明の第1の実施の形態に係る撮像装置の要部構成図 (a)本発明の第1の実施の形態に係る撮像装置が物体A、物体B、物体Cの存在する領域を撮像した画面を示す図 (b)本発明の第1の実施の形態に係る撮像装置が物体A、物体B、物体Cの存在する画面を水平方向8ブロック、垂直方向6ブロックの領域に分割した様子を示す図 (c)本発明の第1の実施の形態に係る撮像装置が物体A、物体B、物体Cの存在する画面を水平方向8ブロック、垂直方向6ブロックの領域に分割すると共に移動物体Aの周辺で検出した動きベクトルの状態を示す図 (a)本発明の第1の実施の形態に係る撮像装置が物体A、物体B、物体Cの存在する画面を水平方向8ブロック、垂直方向6ブロックの領域に分割したときに移動物体Aの周辺の領域AAにフォーカスを合わせる様子を示す図 (b)本発明の第1の実施の形態に係る撮像装置が領域AAでフォーカスするときの領域AAの高周波成分量とフォーカスレンズ位置との関係を示すグラフ 本発明の第2の実施の形態に係る撮像装置の要部構成図 本発明の第2の実施の形態に係る撮像装置が物体A、物体B、物体Cの存在する画面を水平方向8ブロック、垂直方向6ブロックの領域に分割したときの移動物体Aの周辺の領域AAに対して露出制御するための露出特性を示す図 本発明の第3の実施の形態に係る撮像装置の要部構成図 本発明の第3の実施の形態に係る撮像装置が物体A、物体B、物体Cの存在する画面を水平方向8ブロック、垂直方向6ブロックの領域に分割したときに移動物体Aのズーム対象とする領域AAに動きベクトルが集中する様子と領域AAをズームした様子を示す図 本発明の第4の実施の形態に係る撮像装置の要部構成図 本発明の第4の実施の形態に係る撮像装置が物体A、物体B、物体Cの存在する画面を水平方向8ブロック、垂直方向6ブロックの領域に分割したときに移動物体Aのズーム対象、ホワイトバランス制御対象とする領域AAに動きベクトルが集中する様子と領域AAをズームしホワイトバランス制御を行った様子を示す図 本発明の第5の実施の形態に係る撮像装置の要部構成図 (a)本発明の第5の実施の形態に係る撮像装置が物体A、物体B、物体Cの存在する画面を水平方向8ブロック、垂直方向6ブロックの領域に分割したときに移動物体Aに動きベクトルが集中する様子を示す図 (b)本発明の第5の実施の形態に係る撮像装置が動きベクトルの集中する領域AAを設定する様子を示す図 本発明の第6の実施の形態に係る撮像装置の要部構成図 (a)本発明の第6の実施の形態に係る撮像装置が物体A、物体B、物体Cの存在する画面を水平方向8ブロック、垂直方向6ブロックの領域に分割したときに移動物体Aに動きベクトルが集中する様子を示す図 (b)本発明の第6の実施の形態に係る撮像装置が動きベクトルの集中する物体Aを画面の中心に制御した様子を示す図 本発明の第7の実施の形態に係る撮像装置の要部構成図 従来の撮像装置の要部構成図
符号の説明
900 オートフォーカス制御装置
1000 レンズ系
1001 レンズ系制御手段
1002 レンズ絞り制御信号
1010 撮像素子
1020 撮像素子駆動手段
1030 前処理手段
1040 A/D変換器
1050 カメラプロセス
1060 BPF(バンドパスフィルタ)
1070 領域分割AFデータ生成手段
1080 動きベクトル算出手段
1090 演算制御手段
1100 露出制御手段
1101 露出制御信号
1200 ズーム制御手段
1201 ズーム制御信号
1300 ホワイトバランス制御手段
1301 ホワイトバランス制御信号
1400 ネットワークI/F制御手段
1500 回転台制御手段
1501 回転台制御信号
1600 回転台
1700 画像処理手段

Claims (10)

  1. 被写体の画像を撮像した映像信号の高周波成分を抽出するフィルタ手段と、撮像画面の領域を複数に分割した分割領域毎に前記フィルタ手段から出力される高周波成分を積分する積分手段と、前記映像信号から前記画像中の動き情報を抽出する動きベクトル算出手段と、前記動きベクトル算出手段が抽出した前記動き情報に基づいて前記分割領域の中からフォーカス調整対象領域を設定し前記フォーカス調整対象領域の前記高周波成分に基づいてフォーカスレンズ位置を制御する制御手段とを備えることを特徴とする映像信号処理装置。
  2. 前記分割領域の中から露出調整対象領域を前記動き情報に基づいて設定し前記露出調整対象領域の露出制御を行う露出制御手段を備えることを特徴とする請求項1に記載の映像信号処理装置。
  3. 前記分割領域の中からズーム制御対象領域を前記動き情報に基づいて設定し前記ズーム制御対象領域の画像を拡大表示するズーム制御手段を備えることを特徴とする請求項1または請求項2に記載の映像信号処理装置。
  4. 前記分割領域の中からホワイトバランス制御対象領域を前記動き情報に基づいて設定し前記ホワイトバランス制御対象領域の画像をホワイトバランス制御するホワイトバランス制御手段を備えることを特徴とする請求項1乃至請求項3のいずれかに記載の映像信号処理装置。
  5. 前記分割領域の中からネットワーク伝送領域を前記動き情報に基づいて設定し前記ネットワーク伝送領域の内側の画像を前記ネットワーク伝送領域の外側の画像より優先してネットワークに伝送する伝送手段を備えることを特徴とする請求項1乃至請求項4のいずれかに記載の映像信号処理装置。
  6. 前記フォーカス調整対象領域の画像が前記撮像画面内の所定位置となるように撮像装置の撮影する向きを調整する載置台を制御する載置台制御手段を備えることを特徴とする請求項1乃至請求項5のいずれかに記載の映像信号処理装置。
  7. 前記動き情報に基づいて前記撮像画像の映像信号を処理する画像処理手段を備えることを特徴とする請求項1乃至請求項6のいずれかに記載の映像信号処理装置。
  8. 請求項1乃至請求項7のいずれかに記載の映像信号処理装置を備えることを特徴とする撮像装置。
  9. 請求項1乃至請求項7のいずれかに記載の映像信号処理装置をコンピュータのソフトウェア処理で実現することを特徴とする映像信号処理用プログラム。
  10. 被写体の画像を撮像した映像信号の高周波成分を抽出するフィルタステップと、撮像画面の領域を複数に分割した分割領域毎に前記フィルタステップにて出力される高周波成分を積分する積分ステップと、前記映像信号から前記画像中の動き情報を抽出する動きベクトル算出ステップと、前記動きベクトル算出ステップにて抽出された前記動き情報に基づいて前記分割領域の中からフォーカス調整対象領域を設定し前記フォーカス調整対象領域の前記高周波成分に基づいてフォーカスレンズ位置を制御する制御ステップとを備えることを特徴とする映像信号処理方法。
JP2005059246A 2005-03-03 2005-03-03 映像信号処理装置、この映像信号処理装置を搭載した撮像装置及び映像信号処理方法並びに映像信号処理用プログラム Expired - Fee Related JP4866557B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005059246A JP4866557B2 (ja) 2005-03-03 2005-03-03 映像信号処理装置、この映像信号処理装置を搭載した撮像装置及び映像信号処理方法並びに映像信号処理用プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005059246A JP4866557B2 (ja) 2005-03-03 2005-03-03 映像信号処理装置、この映像信号処理装置を搭載した撮像装置及び映像信号処理方法並びに映像信号処理用プログラム

Publications (2)

Publication Number Publication Date
JP2006243373A true JP2006243373A (ja) 2006-09-14
JP4866557B2 JP4866557B2 (ja) 2012-02-01

Family

ID=37049843

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005059246A Expired - Fee Related JP4866557B2 (ja) 2005-03-03 2005-03-03 映像信号処理装置、この映像信号処理装置を搭載した撮像装置及び映像信号処理方法並びに映像信号処理用プログラム

Country Status (1)

Country Link
JP (1) JP4866557B2 (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009037067A (ja) * 2007-08-02 2009-02-19 Canon Inc 撮像装置及びその制御方法
JP2009038611A (ja) * 2007-08-02 2009-02-19 Ricoh Co Ltd 撮像装置、撮像方法
JP2009049480A (ja) * 2007-08-13 2009-03-05 Mitsubishi Electric Corp 撮像装置及び画像処理方法
JP2009049858A (ja) * 2007-08-22 2009-03-05 Canon Inc 撮像装置
US8233075B2 (en) 2007-05-24 2012-07-31 Gyrus Acmi, Inc. User-aided auto-focus
JP2015121752A (ja) * 2013-12-25 2015-07-02 ソニー株式会社 制御装置、制御方法および制御システム
WO2016031403A1 (ja) * 2014-08-29 2016-03-03 ソニー株式会社 撮像制御装置、撮像装置、および、撮像装置の制御方法
JP2020092394A (ja) * 2018-12-07 2020-06-11 キヤノン株式会社 画像処理装置、画像処理方法

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0294886A (ja) * 1988-09-30 1990-04-05 Oki Electric Ind Co Ltd 映像信号の符号化・復号化方法およびその装置
JPH11239291A (ja) * 1998-02-20 1999-08-31 Fuji Photo Film Co Ltd 撮像制御装置および撮像制御方法
JP2000152285A (ja) * 1998-11-12 2000-05-30 Mr System Kenkyusho:Kk 立体画像表示装置
JP2000201287A (ja) * 1999-01-05 2000-07-18 Fuji Photo Film Co Ltd 電子スチルカメラおよび撮影パラメ―タ決定方法
JP2000331190A (ja) * 1999-05-20 2000-11-30 Atr Media Integration & Communications Res Lab 仮想変身装置
JP2001021791A (ja) * 1999-07-06 2001-01-26 Canon Inc 受光素子、エリアセンサ及び該エリアセンサを有する装置
JP2001258016A (ja) * 2000-03-14 2001-09-21 Japan Radio Co Ltd 監視カメラシステム及びその制御方法
JP2004153445A (ja) * 2002-10-29 2004-05-27 Fuji Photo Film Co Ltd 監視カメラ
JP2004317699A (ja) * 2003-04-15 2004-11-11 Nikon Gijutsu Kobo:Kk デジタルカメラ
JP2005033508A (ja) * 2003-07-14 2005-02-03 Minolta Co Ltd 撮像装置

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0294886A (ja) * 1988-09-30 1990-04-05 Oki Electric Ind Co Ltd 映像信号の符号化・復号化方法およびその装置
JPH11239291A (ja) * 1998-02-20 1999-08-31 Fuji Photo Film Co Ltd 撮像制御装置および撮像制御方法
JP2000152285A (ja) * 1998-11-12 2000-05-30 Mr System Kenkyusho:Kk 立体画像表示装置
JP2000201287A (ja) * 1999-01-05 2000-07-18 Fuji Photo Film Co Ltd 電子スチルカメラおよび撮影パラメ―タ決定方法
JP2000331190A (ja) * 1999-05-20 2000-11-30 Atr Media Integration & Communications Res Lab 仮想変身装置
JP2001021791A (ja) * 1999-07-06 2001-01-26 Canon Inc 受光素子、エリアセンサ及び該エリアセンサを有する装置
JP2001258016A (ja) * 2000-03-14 2001-09-21 Japan Radio Co Ltd 監視カメラシステム及びその制御方法
JP2004153445A (ja) * 2002-10-29 2004-05-27 Fuji Photo Film Co Ltd 監視カメラ
JP2004317699A (ja) * 2003-04-15 2004-11-11 Nikon Gijutsu Kobo:Kk デジタルカメラ
JP2005033508A (ja) * 2003-07-14 2005-02-03 Minolta Co Ltd 撮像装置

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8233075B2 (en) 2007-05-24 2012-07-31 Gyrus Acmi, Inc. User-aided auto-focus
JP2009037067A (ja) * 2007-08-02 2009-02-19 Canon Inc 撮像装置及びその制御方法
JP2009038611A (ja) * 2007-08-02 2009-02-19 Ricoh Co Ltd 撮像装置、撮像方法
JP2009049480A (ja) * 2007-08-13 2009-03-05 Mitsubishi Electric Corp 撮像装置及び画像処理方法
JP2009049858A (ja) * 2007-08-22 2009-03-05 Canon Inc 撮像装置
JP2015121752A (ja) * 2013-12-25 2015-07-02 ソニー株式会社 制御装置、制御方法および制御システム
US10187583B2 (en) 2013-12-25 2019-01-22 Sony Corporation Control device, control method, and control system with independent exposure controls
WO2016031403A1 (ja) * 2014-08-29 2016-03-03 ソニー株式会社 撮像制御装置、撮像装置、および、撮像装置の制御方法
JPWO2016031403A1 (ja) * 2014-08-29 2017-06-08 ソニーセミコンダクタソリューションズ株式会社 撮像制御装置、撮像装置、および、撮像装置の制御方法
US10270980B2 (en) 2014-08-29 2019-04-23 Sony Semiconductor Solutions Corporation Image capture control apparatus, image capture apparatus, and method of controlling image capture apparatus
JP2020092394A (ja) * 2018-12-07 2020-06-11 キヤノン株式会社 画像処理装置、画像処理方法
JP7257783B2 (ja) 2018-12-07 2023-04-14 キヤノン株式会社 画像処理装置、画像処理方法

Also Published As

Publication number Publication date
JP4866557B2 (ja) 2012-02-01

Similar Documents

Publication Publication Date Title
JP4980982B2 (ja) 撮像装置、撮像方法、合焦制御方法及びプログラム
KR101519427B1 (ko) 촬상 장치 및 그 셔터 구동 모드 선택 방법
JP5589527B2 (ja) 撮像装置および追尾被写体検出方法
JP4866557B2 (ja) 映像信号処理装置、この映像信号処理装置を搭載した撮像装置及び映像信号処理方法並びに映像信号処理用プログラム
JP2006258944A (ja) オートフォーカスシステム
JP2007316417A (ja) 高域情報検出処理装置および撮像装置
JPH0580248A (ja) オートフオーカス装置
JP2005338352A (ja) オートフォーカスシステム
JP4596246B2 (ja) オートフォーカスシステム
JP4586707B2 (ja) 画像処理装置、電子カメラおよび画像処理プログラム
JP2006058431A (ja) オートフォーカスシステム
JPH07115579A (ja) 自動焦点調節装置
JP2013160991A (ja) 撮像装置
JP4898151B2 (ja) 撮像装置及び撮像方法
JP2006245815A (ja) 撮像装置
US20100182460A1 (en) Image processing apparatus
JP5195663B2 (ja) 撮像装置、合焦方法及びプログラム
JP4871664B2 (ja) 撮像装置及び撮像装置の制御方法
JP5239250B2 (ja) 電子カメラ
JP4143395B2 (ja) 撮像装置及びオートフォーカス方法及びプログラム及び記憶媒体
JPH0698232A (ja) 画像認識装置及び撮像装置
EP3145172A1 (en) Image capturing device and still image generating method
JP2011242796A (ja) 撮像装置、合焦方法及びプログラム
JP2006162943A (ja) 自動焦点制御方法及び自動焦点制御装置
JP4568916B2 (ja) オートフォーカスシステム

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20071113

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071120

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080221

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100727

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100922

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101116

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110308

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110712

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110906

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111018

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111114

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141118

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees