JP5276308B2 - 撮像装置およびその制御方法 - Google Patents

撮像装置およびその制御方法 Download PDF

Info

Publication number
JP5276308B2
JP5276308B2 JP2007302076A JP2007302076A JP5276308B2 JP 5276308 B2 JP5276308 B2 JP 5276308B2 JP 2007302076 A JP2007302076 A JP 2007302076A JP 2007302076 A JP2007302076 A JP 2007302076A JP 5276308 B2 JP5276308 B2 JP 5276308B2
Authority
JP
Japan
Prior art keywords
image
flicker
focus detection
frame rate
live view
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007302076A
Other languages
English (en)
Other versions
JP2009130531A5 (ja
JP2009130531A (ja
Inventor
如弘 松本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2007302076A priority Critical patent/JP5276308B2/ja
Priority to US12/272,276 priority patent/US8102437B2/en
Publication of JP2009130531A publication Critical patent/JP2009130531A/ja
Publication of JP2009130531A5 publication Critical patent/JP2009130531A5/ja
Application granted granted Critical
Publication of JP5276308B2 publication Critical patent/JP5276308B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/745Detection of flicker frequency or suppression of flicker wherein the flicker is caused by illumination, e.g. due to fluorescent tube illumination or pulsed LED illumination
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/65Control of camera operation in relation to power supply
    • H04N23/651Control of camera operation in relation to power supply for reducing power consumption by affecting camera operations, e.g. sleep mode, hibernation mode or power off of selective parts of the camera

Description

本発明は、撮像素子を用いた撮像に関し、特には撮像画像に基づく焦点検出機能と、ライブビュー機能を用いる撮像技術に関する。
デジタルカメラやデジタルビデオカメラのような撮像装置に用いられる自動焦点検出(AF)方式としては、いわゆる山登り法のような、撮像した画像のコントラストに基づく方式がよく知られている。撮像した画像を用いた自動焦点検出を、以下では撮像面AFと呼ぶ。
一方、撮像素子を用いた撮像装置に特有の機能として、電子ビューファインダもしくはライブビューと呼ばれる機能がある。これは、撮像素子で1秒間に例えば30フレーム又は60フレームといった多数の画像を撮影し、撮影した画像を表示装置に逐次表示することにより、表示装置をファインダとして機能させるものである。
ライブビューを実現する場合、撮像素子から所定時間あたりに読み出す(撮影する)画像の枚数(フレームレート)により、撮像素子における電荷蓄積時間の上限、すなわち電子シャッターの最低速度が制限される。
そのため、電荷蓄積時間だけでなく、絞りやゲインを調整することにより、ライブビューに用いる画像(ライブビュー画像という)の輝度制御を行う。上述の通り、ライブビューのフレームレートは、30フレーム/秒やその倍の60フレーム/秒が一般的である。また、ライブビュー画像の輝度(露出)制御方法としては、絞りは開放として、電荷蓄積時間とゲインを変更する方法が一般的である。本明細書においては、このような方法を通常制御と呼ぶ。
CMOSイメージセンサーのように、蓄積の同時性を持たない撮像素子を用いた撮像装置で、蛍光灯を代表とする周期的に輝度が変動する光源(フリッカー光源)下で撮像した場合、画像に光源の輝度変化の影響が生じることが知られている。
そのため、CMOSイメージセンサーを用いた撮像装置でフリッカー光源下でライブビューを行うと、図5に示すように、ライブビュー画像に横縞状のフリッカーが生じてしまい、好ましくない。このラインフリッカーの本数は、CMOSイメージセンサーの読み出し周期(垂直方向の間隔)と読み出し行数によって一意に決まる。
そのため、ライブビューの実行時には、ライブビュー画像にフリッカーが生じているか否かを調べ、フリッカーがある場合にはそれを除去もしくは抑制する必要がある。
例えばフリッカーが蛍光灯によるものである場合、フリッカーは商用電源の周波数に応じた周波数を有する。そして、たとえば、商用電源の周波数が50Hzである場合、蛍光灯によるフリッカーは、電荷蓄積時間を10ms、20ms、30msといった時間に設定することで、ライブビュー画像からラインフリッカーを除去できることが知られている(特許文献1)。
つまり、フリッカーを除去する必要がある場合には、通常制御と異なり、蓄積時間を離散的に設定して、絞りとゲインを調整してライブビュー画像の輝度制御を行う。本明細書においては、このような輝度制御の方法をフリッカー除去制御と呼ぶ。
特開昭63−308484号公報
しかしながら、ライブビュー画像を用いて撮像面AFを行う際、蓄積時間を制御することによってフリッカー除去制御を行う場合、その蓄積時間に伴って、ライブビュー中の絞りを制御する必要がある。また、蓄積時間そのものがその自由度が制限される。そして、その絞りの制御に伴って被写界深度が変化してしまったり、絞りの制御の自由度も制限されてしまったりすることになる。
本発明はこのような従来技術の課題に鑑みなされたものであり、ライブビュー画像を用いて撮像面AFを行う撮像において、フリッカー光源下であっても自由度の高い絞り制御や蓄積時間制御を行えるようにすることを実現することを目的とする。
上述の目的は、蓄積の同時性を持たない撮像素子と、設定されたフレームレートで撮像素子から信号を読み出して画像を撮像する撮像手段を備え、撮像手段が撮像した画像を表示装置に逐次表示させるライブビュー機能を有する撮像装置であって、撮像した画像からフリッカーの有無を検知する検知手段と、撮像した画像のうち、設定された焦点検出領域に対応する領域のコントラストに基づいて焦点検出を行う焦点検出手段と、焦点検出手段により焦点検出を行う場合、検知手段によりフリッカーが検知されていれば、絞り値を予め定められた値に固定し、撮像素子の電荷蓄積の時間を可変して画像の輝度制御を行う輝度制御パターンを設定するとともに、フレームレートを検知されたフリッカーの周波数と同期する値に設定することによって、撮像した画像に含まれる横縞状のフリッカーの位置が移動しないようにする制御手段とを有することを特徴とする撮像装置によって達成される。
また、上述の目的は、蓄積の同時性を持たない撮像素子と、設定されたフレームレートで撮像素子から信号を読み出して画像を撮像する撮像手段を備え、撮像手段が撮像した画像を表示装置に逐次表示させるライブビュー機能を有する撮像装置の制御方法であって、撮像した画像からフリッカーの有無を検知する検知ステップと、撮像した画像のうち、設定された焦点検出領域に対応する領域のコントラストに基づいて焦点検出を行う焦点検出ステップと、焦点検出を行う場合、検知ステップにおいてフリッカーが検知されていれば、絞り値を予め定められた値に固定し、前記撮像素子の電荷蓄積の時間を可変して画像の輝度制御を行う輝度制御パターンを設定するとともに、フレームレートを検知されたフリッカーの周波数と同期する値に設定することによって、撮像した画像に含まれる横縞状のフリッカーの位置が移動しないようにすることを特徴とする撮像装置の制御方法によっても達成される。
このような構成により、本発明によれば、ライブビュー画像を用いて撮像面AFを行う撮像において、フリッカー光源下であっても自由度の高い絞り制御や蓄積時間制御を実現することができる。
以下、図面を参照して本発明の好適かつ例示的な実施形態を説明する。
図1は、本発明の一実施形態に係る撮像装置としてのレンズ交換式デジタルスチルカメラの構成例を示すブロック図である。本実施形態における撮像装置は、デジタルスチルカメラに限るものではなく、デジタルスチルカメラとして動作する装置であってもよい。そのような装置には、デジタルビデオカメラ、デジタルカメラ付き携帯電話などがある。
12は撮像素子14への露光量を制御するためのシャッター、14は光学像を電気信号に変換する撮像素子である。本実施形態において、撮像素子はフリッカー光源の影響を受ける撮像素子であり、具体的には例えばCMOSイメージセンサーである。
レンズ310に入射した光線は、一眼レフ方式によって、絞り312、レンズマウント306及び106、ミラー130及びシャッター12を介して、撮像素子14に光学像を結像する。
A/D変換器16は、撮像素子14のアナログ信号出力をデジタル信号に変換する。
タイミング発生回路18は、メモリ制御回路22及びシステム制御回路50の制御に従い、撮像素子14、A/D変換器16、D/A変換器26にクロック信号や制御信号を供給する。
画像処理回路20は、A/D変換器16からのデータ、或いはメモリ制御回路22からのデータに対し、所定の画素補間処理や色変換処理を行う。
また、画像処理回路20においては、必要に応じて、撮像した画像データを用いて所定の演算処理を行う。そして、得られた演算結果に基づいて、システム制御回路50がシャッター制御回路40、焦点検出回路42を制御し、TTL(スルー・ザ・レンズ)方式の撮像面AF(オートフォーカス)、撮像面AE(自動露出)、撮像面EF(フラッシュ調光)処理を実現する。上述のように、撮像面AFは、撮像画像のコントラストに基づく焦点検出方法である。
さらに、画像処理回路20においては、撮像した画像データを用いて所定の演算処理を行い、得られた演算結果に基づいてTTL方式のAWB(オートホワイトバランス)処理も行っている。
なお、本実施形態のデジタルスチルカメラ100(以下、単にカメラ100という)は、焦点検出回路42及び測光回路46を専用に備える構成を有している。そのため、画像処理回路20を用いた撮像面AF、撮像面AE、撮像面EFではなく、焦点検出回路42及び測光回路46を用いてAF処理、AE処理、EF処理を行なう構成としても良い。
或いは、焦点検出回路42及び測光回路46を用いてAF処理、AE処理、EF処理を行い、さらに、画像処理回路20を用いた(撮像面)AF処理、(撮像面)AE処理、(撮像面)EF処理を行う構成としても良い。
メモリ制御回路22は、A/D変換器16、タイミング発生回路18、画像処理回路20、画像表示メモリ24、D/A変換器26、メモリ30、圧縮伸長回路32を制御する。
A/D変換器16の出力データが画像処理回路20、メモリ制御回路22を介して、或いはA/D変換器16の出力データが直接メモリ制御回路22を介して、画像表示メモリ24或いはメモリ30に書き込まれる。
画像表示メモリ24に書き込まれた表示用の画像データは、D/A変換器26を介してLCDや有機ELディスプレイ等の画像表示部28により表示される。
ライブビュー機能が有効な場合には、撮像素子14での撮像(電荷蓄積)と、撮像した画像データの読み出しを所定の周期(フレームレート)で逐次行い、メモリ制御回路22、D/A変換器26を介して、画像表示部28に逐次表示する。
また、本実施形態において、フリッカー検知は、撮像素子14で連続して撮像されたフレーム画像のデータを用いて行う。これにより、フリッカーの周期を求めることができる。
そして、この画像表示部28では、システム制御回路50の指示で、画像の代わりに、カメラの状態を表す情報も表示される。具体的には、例えば以下の情報が表示される。シングルショット/連写撮影表示、セルフタイマー表示、圧縮率表示、記録画素数表示、記録枚数表示、残撮影可能枚数表示、シャッタースピード表示、絞り値表示、露出補正表示、フラッシュ表示、赤目緩和表示、マクロ撮影表示、ブザー設定表示。時計用電池残量表示、電池残量表示、エラー表示、複数桁の数字による情報表示、記録媒体200の着脱状態表示、レンズユニット300の着脱状態表示、通信I/F動作表示、日付け・時刻表示、外部コンピュータとの接続状態を示す表示。
また、カメラが検知した異常を知らせる警告表示も多種のものがある。例えば、記録媒体200の空き容量が無いものや初期化が必要なものを検知したり、撮影に必要なメモリ取得ができない時に表示される、撮影または記録できない致命な警告がある。また、記録媒体200が装填されていない時に表示される、注意喚起の警告表示なども含まれる。
また、画像表示部28は、システム制御回路50の指示により任意に表示をON/OFFすることが可能であり、表示をOFFにした場合にはデジタルスチルカメラの電力消費を低減することができる。
メモリ30は撮影した静止画像や動画像を格納する記憶装置であり、所定枚数の静止画像や所定時間の動画像を格納するのに十分な記憶容量を備えている。そのため、複数枚の静止画像を連続して撮影する連続撮影やパノラマ撮影の場合にも、高速かつ大量の画像書き込みをメモリ30に対して行うことが可能となる。
また、メモリ30はシステム制御回路50の作業領域としても使用することが可能である。
圧縮伸長回路32は、メモリ30に格納された画像データを読み込み、所定の画像圧縮方法に従って圧縮し、圧縮された画像データをメモリ30に書き込む。また、圧縮伸長回路32は、メモリ30から圧縮された画像データを読み込み、その画像データを伸長し、伸長された画像データをメモリ30に書き込むこともできる。なお、所定の画像圧縮方法には、JPEG、JPEG 2000等で規定された画像圧縮方法を使用することも、適応離散コサイン変換(ADCT)、ウェーブレット変換等を用いた画像圧縮方法を使用することもできる。
シャッター制御回路40は、測光回路46からの測光情報に基づいてシャッター12を制御する。シャッター制御回路40は、この制御を、絞り312を制御する絞り制御回路340と連携しながら行なう。
焦点検出回路42はAF処理に用いられる。レンズ310に入射した光線を、一眼レフ方式によって、絞り312、レンズマウント306及び106、ミラー130そして不図示の焦点検出用サブミラーを介して焦点検出回路42に入射させる。そして、焦点検出回路42は、光学像として結像された画像の合焦状態を測定する。
測光回路46はAE処理に用いられる。レンズ310に入射した光線を、一眼レフ方式によって、絞り312、レンズマウント306及び106、ミラー130及び132そして不図示の測光用レンズを介して、測光回路46に入射させる。そして、測光回路46は、光学像として結像された画像の露出状態を測定する。
また、測光回路46は、撮像装置のフラッシュ48と連携することによりEF処理も行なう。
フラッシュ48は、AF補助光の投光機能、フラッシュ調光機能も有する。
システム制御回路50は、カメラ100全体を制御する。システム制御回路50は例えばCPUであり、メモリ52に記憶されたプログラムを実行することによりカメラ100全体を制御する。メモリ52はシステム制御回路50の動作用の定数、変数、プログラム等を記憶する。
表示部54は例えばLCDやLED、スピーカ等の出力装置の組み合わせにより構成され、システム制御回路50でのプログラムの実行に応じて、文字、画像、音声等を用いて動作状態やメッセージ等を出力する。表示部54はカメラ100の操作部70近辺の視認し易い位置に、単数或いは複数設置される。また、表示部54の一部は光学ファインダ104内に設置されている。
表示部54の表示内容のうち、LCD等に表示するものとしては、以下のものが例示される。単写/連写撮影表示、セルフタイマー表示、圧縮率表示、記録画素数表示、記録枚数表示、残撮影可能枚数表示、シャッタースピード表示、絞り値表示、露出補正表示、調光補正表示。赤目緩和表示、ブザー設定表示、電池残量表示、エラー表示、複数桁の数字による情報表示、記録媒体200の着脱状態表示、レンズユニット300の着脱状態表示。通信I/F動作表示、日付・時刻表示、外部コンピュータとの接続状態を示す表示。
また、表示部54の表示内容のうち、光学ファインダ104内に表示するものとしては、以下のものが例示される。合焦表示、撮影準備完了表示、手振れ警告表示、フラッシュ充電表示、シャッタースピード表示、絞り値表示、露出補正表示、記録媒体書き込み動作表示。
さらに、表示部54の表示内容のうち、LED等で表示するものとしては、例えば、記録媒体書き込み動作表示、等がある。
そして、表示部54の表示内容のうち、ランプ等で表示するものとしては、例えば、セルフタイマー通知ランプ、等がある。このセルフタイマー通知ランプは、AF補助光と共用しても良い。
不揮発性メモリ56は電気的に消去・記録可能なメモリであり、例えばEEPROM等が用いられる。
以下の構成要素は、システム制御回路50に各種の動作指示を入力するための操作部材である。モードダイアル60、第1シャッタースイッチ(SW1)62、第2シャッタースイッチ(SW2)64、再生スイッチ66、ライブビューON/OFFボタン68、操作部70及び絞り込みスイッチ74。これらの操作部材は、ボタン、スイッチ、ダイアル、タッチパネル、視線検知装置、音声認識装置或いはこれらの組み合わせで構成される。
ここで、これらの操作部材の具体的な説明を行う。
モードダイアル60は、カメラ100が備える複数の機能撮影モードの1つを設定するためのスイッチである。機能撮影モードは、例えば以下のようなものが例示される。自動撮影モード、プログラム撮影モード、シャッター速度優先撮影モード、絞り優先撮影モード、マニュアル撮影モード。焦点深度優先(デプス)撮影モード、ポートレート撮影モード、風景撮影モード、接写撮影モード、スポーツ撮影モード、夜景撮影モード、パノラマ撮影モード。
第1シャッタースイッチ(SW1)62は、カメラ100に設けられたシャッターボタン(図示せず)の第1ストローク(例えば半押し)でONとなる。第1シャッタースイッチ(SW1)62がONになると、システム制御回路50は、AF処理、AE処理、AWB処理、EF処理等を開始させる。
第2シャッタースイッチ(SW2)64は、カメラ100に設けられたシャッターボタンの第2ストローク(例えば全押し)でONとなる。第1シャッタースイッチ(SW2)64がONになると、システム制御回路50は、露光処理、現像処理及び記録処理からなる一連の処理の開始を指示する。まず、露光処理では、撮像素子14から読み出した信号をA/D変換器16、メモリ制御回路22を介して画像データとしてメモリ30に書き込む。そして、この画像データに対し、画像処理回路20やメモリ制御回路22での演算を用いた現像処理を行ない、結果をメモリ30に書き込む。更に、メモリ30から現像後の画像データを読み出し、圧縮伸長回路32で圧縮を行い、記録媒体200に画像データを書き込む記録処理が行われる。なお、CCD−RAWモードの場合には、現像処理や圧縮処理などの一部が省略される。
再生スイッチ66は、撮影モードにおいて、撮影した画像をメモリ30或いは記録媒体200から読み出して画像表示部28によって表示する再生動作の開始を指示するためのスイッチである。
ライブビューON/OFFボタン68は、ライブビュー機能の有効、無効を切り替えるためのボタンである。ライブビュー機能が有効な場合、画像表示部28が電子ビューファインダとして機能するよう、上述した撮影及び表示処理が逐次行われる。
操作部70は、スイッチ、ボタン、回転ダイアルスイッチ、タッチパネル等を有するマンマシンインタフェースである。
撮影画像の画像記録モード、圧縮率、画質等は、操作部70で選択できる。画像記録モードには、JPEGモードとCCDRAWモードがある。JPEGモードは、撮影画像をJPEG圧縮方式で圧縮して記録媒体200等に記録する画像記録モードである。CCDRAWモードは、撮像素子14からの信号をデジタル化して得たデジタルデータを圧縮せずに又はロスレス圧縮方式で圧縮して記録媒体200等に記録する画像記録モードである。なお、JPEGモードにおける圧縮率及び画質についても、操作部70で選択可能である。
操作部70に含まれるものとしては、以下のようなものが例示される。メニューボタン、セットボタン、マルチ画面再生改ページボタン、フラッシュ設定ボタン、単写/連写/セルフタイマー切り替えボタン、メニュー移動+(プラス)ボタン、メニュー移動−(マイナス)ボタン。再生画像移動+(プラス)ボタン、再生画像移動−(マイナス)ボタン、撮影画質選択ボタン、露出補正ボタン、調光補正ボタン、日付/時間設定ボタン。画像表示部28のON/OFFを設定する画像表示ON/OFFスイッチ、撮影直後に撮影した画像データを自動再生するクイックレビュー機能を設定するクイックレビューON/OFFスイッチ。JPEG圧縮の圧縮率を選択したり、CCDRAWモードを選択する圧縮モードスイッチ、再生モード、マルチ画面再生・消去モード、PC接続モード等の各機能モードを設定する再生スイッチ。ワンショットAFモードとサーボAFモードとを選択するAFモード設定スイッチ。なお、ワンショットAFモードは、第1シャッタースイッチSW1(62)がONになるとオートフォーカス動作を開始し、一旦合焦したならばその合焦状態を保ち続けるモードである。また、サーボAFモードは、第1シャッタースイッチSW1(62)がONの間は連続してオートフォーカス動作を続けるモードである。
また、プラスボタン及びマイナスボタンの各機能は、回転ダイアルスイッチを備え、回転方向とプラスマイナスとを対応付けることによっても実現可能である。
電源スイッチ72は、カメラ100の電源オン、電源オフの各モードを切り替え設定する。また、電源スイッチ72により、カメラ100に接続されたレンズユニット300、記録媒体200等の各種付属装置の電源オン、電源オフの設定も合わせて切り替え設定することが出来る。
電源制御回路80は、電池検出回路、DC−DCコンバータ、通電するブロックを切り替えるスイッチ回路等により構成される。電源制御回路80は、電池の装着の有無、電池の種類、電池残量の検出を行い、検出結果及びシステム制御回路50の指示に基づいてDC−DCコンバータを制御し、必要な電圧を必要な期間、記録媒体200を含む各部へ供給する。
82はコネクタ、電源回路86はアルカリ電池やリチウム電池等の一次電池やNiCd電池、Li電池等の二次電池、ACアダプター等からなる。
90はメモリカードやハードディスク等の記録媒体200とのインタフェースである。92は、記録媒体200と接続を行うコネクタである。コネクタ92に記録媒体200が装着されているか否かは、記録媒体着脱検知回路98によって検知される。
なお、本実施形態では記録媒体を取り付けるインタフェース及びコネクタを1系統持つものとして説明している。しかし、もちろん、記録媒体を取り付けるインタフェース及びコネクタの数は複数であってよい、また、その場合には、異なる規格のインタフェース及びコネクタを組み合わせて備える構成としても構わない。インタフェース及びコネクタとしては、PCカードやCF(コンパクトフラッシュ(登録商標))カード等の規格に準拠したものを用いて構成して構わない。
さらに、規格化されたインタフェース90、及びコネクタ92を用いた場合、各種通信カードを接続することで、他のコンピュータやプリンタ等の周辺機器との間で画像データやそれに付属した管理情報の相互転送が可能である。ここで、各種通信カードには、LANカードやモデムカード、USBカード、IEEE1394カード、SCSIカード、PHS等の通信カード等が含まれる。
光学ファインダ104は、レンズ310に入射した光線を、一眼レフ方式によって、絞り312、レンズマウント306及び106、ミラー130及び132を介して導き、光学像として結像表示することが出来る。これにより、画像表示部28による電子ビューファインダ機能を使用すること無しに、光学ファインダ104のみを用いて撮影を行うことが可能である。
120は、レンズマウント106内に設けられ、カメラ100をレンズユニット300と接続するためのインタフェースである。122はカメラ100をレンズユニット300と電気的に接続するコネクタである。
コネクタ122は、カメラ100とレンズユニット300との間で制御信号、状態信号、データ信号等を伝え合うと共に、各種電圧の電流を供給する機能も備えている。また、コネクタ122は電気通信のみならず、光通信、音声通信等を伝達する構成としても良い。
130、132はミラーで、レンズ310に入射した光線を、一眼レフ方式によって光学ファインダ104に導くことが出来る。なお、ミラー132は、クイックリターンミラーの構成としても、ハーフミラーの構成としても、どちらでも構わない。
200はメモリカードやハードディスク等の記録媒体である。記録媒体200は、半導体メモリや磁気ディスク等から構成される記録部202、カメラ100とのインタフェース204、カメラ100と接続を行うコネクタ206を備えている。
300は交換レンズタイプのレンズユニットである。
306は、レンズユニット300をカメラ100と機械的に結合するレンズマウントである。レンズマウント306内には、レンズユニット300をカメラ100と電気的に接続する各種機能が含まれている。
310はレンズ、312は駆動可能な絞りである。
320は、レンズマウント306内において、レンズユニット300をカメラ100と接続するためのインタフェース、322はレンズユニット300をカメラ100と電気的に接続するコネクタである。
コネクタ322は、カメラ100とレンズユニット300との間で制御信号、状態信号、データ信号等を伝え合うと共に、各種電圧の電流を供給される或いは供給する機能も備えている。また、コネクタ322は電気通信のみならず、光通信、音声通信等を伝達する構成としても良い。
絞り制御回路340は測光回路46からの測光情報に基づいて、レンズユニット300に備えられた駆動可能な絞り312を制御する。この制御はシャッター12を制御するシャッター制御回路40と連携しながら行なう。
絞り制御回路340はさらに、絞り込みスイッチ74が操作されると、表示部54で表示されている絞り値になるように絞り312を制御する。
焦点検出制御回路342はレンズ310のフォーカシングを制御する。
レンズシステム制御回路350はレンズユニット300全体を制御する。レンズシステム制御回路350は、例えばCPU、揮発性メモリ及び不揮発性メモリを内蔵する。そして、揮発性メモリには動作用の定数、変数、プログラム等を記憶する。また、不揮発性メモリには、レンズユニット300固有の番号等の識別情報、管理情報、開放絞り値や最小絞り値、焦点距離等の機能情報、現在や過去の各設定値などを保持する。
次に、本実施形態のカメラ100のライブビュー動作について、図2のフローチャートを参照して説明する。このライブビュー動作についても、システム制御回路50が必要な構成要素を制御して実現する。
ライブビューON/OFFボタン68の操作により、ライブビュー機能が有効化されると、システム制御回路50は、図2に示す処理を開始する。
まず、システム制御回路50は、フリッカー検知用のフレームレートでライブビューを行うよう、撮像素子14、タイミング発生回路18、画像処理回路20等を制御する(S102)。
通常、蛍光灯のフリッカーは商用電源の周波数に同期して発生する。そのため、フリッカー周波数は、日本では50Hz又は60Hzとなる。本実施形態では、連続して撮像されたライブビュー画像からフリッカーを検知するため、フリッカー周期と非同期なフレームレートを設定する。つまり、連続して撮像されるライブビュー画像において発生するフリッカーの位置がずれるようなフレームレートをフリッカー検知用のフレームレートとして設定する。
具体的には、ライブビューのフレームレートを、想定されるフリッカー周期と半周期ずれる値に設定する。例えば、商用電源の周波数が50Hzの場合、67fps(1/15)、40fps(1/25)、28fps(1/35)、22fps(1/45)等をフリッカー検知用のフレームレートとする。
本実施形態では、50Hzと60Hzの両方の商用電源周波数におけるフリッカーを検知できるように、フリッカー検知のためのライブビューのフレームレートとして、22fps相当を採用するものとする。
次に、システム制御回路50は、フリッカー検知用のフレームレートで撮像されたライブビュー画像を用いて、フリッカー検知を行う(S103)。
フリッカー光源下で、上述したフリッカー検知用のフレームレートで撮像されたライブビュー画像は、連続するフレーム間でフリッカー(ラインフリッカー)の発生位置がずれる。具体的なライブビュー画像の例を図3(a)及び図3(b)に示す。
このような、連続して撮像された2フレームのライブビュー画像の微分画像を生成することにより時間軸(画像の垂直方向)の写像を取り、その比を求めると、図3(c)に示すような画像が得られる。図3(d)は、図3(c)の画像の輝度変動を示し、横軸が水平ラインの位置(0が最上ライン)を、縦軸を輝度レベルをそれぞれ示している。
図3(d)から、垂直方向に正弦波状のフリッカー成分の有無や振幅、周波数などを検出及び抽出する事ができる。
なお、フリッカー検知の方法は、他の任意の方法で行うことができる。
例えば、ライブビュー画像の平均輝度値を、平均輝度値にローパスフィルタを適用した値で除算することによっても、フリッカー成分を検知することができる。
フリッカー検出用のフレームレートは、通常のライブビューに用いられるフレームレートと異なるので、本実施形態では通常のライブビュー用のフレームレートでのライブビューを行う前に、この段階でフリッカー検知を行っている。
S103におけるフリッカー検知処理の結果(S104)、フリッカーを検知できなかった場合、システム制御回路50は、ライブビュー画像の輝度制御(露出制御)に用いるプログラム線図を、通常のプログラム線図とする(S105)。つまり、絞りは開放として、電荷蓄積時間とゲインを変更する通常制御を行う、自由度の高いプログラム線図を選択する。
一方、S103においてフリッカーを検知した場合、システム制御回路50は、ライブビュー画像の露出制御に用いるプログラム線図を、フリッカー用プログラム線図とする(S106)。つまり、電荷蓄積時間を離散的に設定して、絞りとゲインを調整するフリッカー除去制御を行うプログラム線図を選択する。
図4は本実施形態のカメラが用いる通常制御時のプログラム線図とフリッカー除去制御時のプログラム線図の例を示す図である。プログラム線図は、カメラ100が用いる輝度制御パターンの一例である。
図4(a)は、通常制御時のプログラム線図を、図4(b)はフリッカー除去制御時のプログラム線図をそれぞれ示している。ここで、ライブビューのフレームレートは30フレーム/秒であるとする。
図4(a)に示す、通常制御時のプログラム線図は、絞りを固定することを優先した輝度制御を行うものである。具体的には、所定の輝度の区間は絞り開放(1.4又は2.0)で、電荷蓄積時間もしくは電子シャッター速度tを1/30秒から1/1000秒まで変化させることにより輝度制御を行う。
一方、絞り開放で電荷蓄積時間をフレームレートで制限される最長時間(ここでは1/30秒)としても露出が不足する場合、ゲイン(撮影感度)を増加させることにより輝度制御を行う。
また、絞り開放で電荷蓄積時間がクロック周波数などで予め定まる最短時間(ここでは1/1000秒)でも露出オーバーとなる場合には、絞りを絞ることにより輝度制御を行う。
一方、図4(b)のフリッカー除去制御時のプログラム線図は、電荷蓄積時間をフリッカーの影響を除去できる時間に固定することを優先した輝度制御を行うものである。具体的には、フリッカーの影響が判る輝度値(EV)16以下では、フリッカーを除去すべく、周波数50Hzのフリッカーであれば電荷蓄積時間を10ms(1/100秒)や20msに固定する。図4(b)では20msとした例を示している。そして、絞りと感度(ゲイン)を調整して輝度調整を行う。
周波数60Hzのフリッカーであれば、電荷蓄積時間を8.3ms、16.6ms、24.9ms等に固定して同様の輝度制御を行う。
EV16以上の高輝度ではフリッカーの影響が画像上で見えにくくなるので、通常制御と同じように、絞りを固定(図4(b)では絞り値22に固定)して、電荷蓄積時間を調整して輝度調整を行う。
フリッカー検知を行い、フリッカー検知結果に応じたプログラム線図を選択すると、システム制御回路50はライブビューのフレームレートを、本来のフレームレート(ここでは30フレーム/秒とする)とする(S107)。
そして、SW1(62)など、チェックすべきスイッチの状態チェック(S108)を行いながら、システム制御回路50は、S105又はS106で選択したプログラム線図を用いて撮像したライブビュー画像を用いたライブビュー表示の制御を行う。
S108においてSW1(62)がONしたのを検知すると、システム制御回路50は、S103におけるフリッカー検知結果をチェックする(S109)。
ここで、フリッカーが検知されている場合、ステップS106や後述するステップS115で切り替えるフリッカー除去制御では、絞りが変更される場合がある。しかし、絞りを変更すると、被写界深度が変化する。そのため、ライブビュー画像に基づく撮像面AFを行うと、絞りの変化による被写界深度の変化が合焦制御に影響して、目的とするような合焦制御が行えない。そのため、撮像面AFを行う場合には、絞りが開放となる通常制御に切り替える必要がある。
そうすると、フリッカー光源下における通常制御となるため、ライブビュー画像のフリッカーを除去することができない。さらに、フリッカー周波数(50Hz)とライブビューのフレームレート(30フレーム/秒又は60フレーム/秒)が非同期であるため、ラインフリッカーの位置がライブビュー画像毎に変化する(ラインフリッカーが垂直方向に流れるように見える)。
従って、通常制御を行っても、ライブビュー画像中のラインフリッカーの位置が変化するので、撮像範囲が変わらなくても、ラインフリッカーが存在する場合としない場合とで焦点検出領域の輝度に差が生じる。この輝度差は撮像面AFの誤差要因となるので、通常制御に切り替えても結局は焦点検出精度が低下する。
この点以下のようにすれば、フリッカー光源下ライブビュー画像を用いて撮像面AFを行う場合においても精度の良い撮像面AFを実現することができる。
まず、システム制御回路50は、フリッカーが検知されている場合には、ライブビュー画像の輝度制御を通常制御時のプログラム線図で行うように切り替える(S110)。
さらに、システム制御回路50は、ライブビューのフレームレートを、フリッカー周期と同期がとれる所定の値(例えば25フレーム/秒)に切り替える(S111)。
具体的には、撮像面焦点検出時のフレームレートfは、フリッカー周波数をF(Hz)とすると、
f=(2xF)/n(n:正の整数)
とする。
このようにフレームレートfを検知されたフリッカーの周波数と同期する値に設定することによって、撮像素子14の電荷蓄積の開始タイミングまたは終了タイミングのいずれか一方を少なくとも固定することができる。すなわち、検知されたフリッカーの周波数に対して、固定された開始タイミングまたは終了タイミングで電荷蓄積を行うことによって、ラインフリッカーの移動を防ぐことができる。
なお、電荷蓄積時間の開始タイミングまたは終了タイミングがフリッカー周波数に対して固定されていれば、電荷蓄積時間が長く、或いは短くなってもラインフリッカーの濃淡が変わるだけで、ラインフリッカーの移動を防ぐことができる。
S112で、システム制御回路50は、焦点検出回路42を制御してレンズユニット300内のフォーカシングレンズを駆動しながら撮像したライブビュー画像に基づき、画像処理回路20を用いた撮像面AF処理を行う。
上述のようにラインフリッカーの移動を防いでいるので、ラインフリッカーが発生していたとしも撮像面AFは精度よくおこなうことができる。撮像面AFはフレーム間のコントラストの相対比較を行うからである。
撮像面AFによる焦点検出が完了すると、システム制御回路50は、撮像面AFする前のライブビュー制御を行うために、再度、フリッカーを検知していたかチェックする(S113)。
そして、システム制御回路50は、フリッカーが検知されていなかった場合は通常制御時のプログラム線図を用いたままでライブビュー表示を継続する(S114)。一方、フリッカーが検知されていた場合、システム制御回路50はフリッカー除去制御時のプログラム線図に戻してライブビュー表示を継続する(S115)。
その後、システム制御回路50は、SW1(62)の状態をチェックし(S116)、OFFになればS108へ、ONが維持されていればSW2(64)の状態をさらにチェックする(S117)。
SW2(64)がONの場合、システム制御回路50は、ライブビュー表示を終了し(S118)、撮像処理へ移行する。一方、SW2(64)がOFFであれば、S116に処理を戻す。
以上説明したように、本実施形態によれば、ライブビュー表示を行う撮像装置において、フリッカーの検知時及びライブビュー画像を用いた自動合焦制御時にのみフレームレートを変更したライブビュー表示を行う。
また、自動合焦制御時においてはフレームレートをフリッカーと同期したフレームレートとすることで、フリッカー光源下であってもフリッカーの影響を受けないライブビュー表示を行うことが可能である。その結果、ライブビュー画像を用いて撮像面AFを行う撮像において、フリッカー光源下であっても自由度の高い絞り制御や蓄積時間制御を行える。また、ライブビュー画像を用いた自動合焦制御を精度よく行うことができる。
さらに、本実施形態によれば、従来の構成をそのまま流用可能であり、新規に複雑な部品を追加する必要がないため、コスト面においても有利である。
本発明の一実施形態に係る撮像装置としてのレンズ交換式デジタルスチルカメラの構成例を示すブロック図である。 本発明の実施形態に係るカメラにおけるライブビュー動作について示すフローチャートである。 本実施形態の本発明の実施形態に係るカメラにおけるフリッカー検知方法を説明する図である。 本実施形態の本発明の実施形態に係るカメラがライブビュー画像の輝度制御に用いるプログラム線図の例を示す図である。 フリッカー光源の影響を受けたライブビュー画面の一例を示す図である。

Claims (5)

  1. 蓄積の同時性を持たない撮像素子と、設定されたフレームレートで前記撮像素子から信号を読み出して画像を撮像する撮像手段を備え、前記撮像手段が撮像した画像を表示装置に逐次表示させるライブビュー機能を有する撮像装置であって、
    前記撮像した画像からフリッカーの有無を検知する検知手段と、
    前記撮像した画像のうち、設定された焦点検出領域に対応する領域のコントラストに基づいて焦点検出を行う焦点検出手段と、
    前記焦点検出手段により焦点検出を行う場合、前記検知手段によりフリッカーが検知されていれば、絞り値を予め定められた値に固定し、前記撮像素子の電荷蓄積の時間を可変して画像の輝度制御を行う輝度制御パターンを設定するとともに、前記フレームレートを前記検知されたフリッカーの周波数と同期する値に設定することによって、前記撮像した画像に含まれる横縞状のフリッカーの位置が移動しないようにする制御手段とを有することを特徴とする撮像装置。
  2. 前記制御手段は、前記検知手段がフリッカーの有無を検知する間、前記フレームレートを商用電源周波数と非同期な値に設定することを特徴とする請求項1に記載の撮像装置。
  3. 前記制御手段は、前記検知手段がフリッカーの有無を検知する間、前記フレームレートを、想定されるフリッカー周期と半周期ずれる値に設定することを特徴とする請求項1に記載の撮像装置。
  4. 前記制御手段は、前記検知手段によりフリッカーが検知されている場合、前記焦点検出手段により焦点検出を行わない期間においては、前記フレームレートを予め定められたライブビュー用の値に設定するとともに、前記撮像素子の電荷蓄積時間を前記フリッカーの影響を除去できる時間に固定することを優先して前記画像の輝度制御を行う輝度制御パターンを設定することを特徴とする請求項1乃至請求項のいずれか1項に記載の撮像装置。
  5. 蓄積の同時性を持たない撮像素子と、設定されたフレームレートで前記撮像素子から信号を読み出して画像を撮像する撮像手段を備え、前記撮像手段が撮像した画像を表示装置に逐次表示させるライブビュー機能を有する撮像装置の制御方法であって、
    前記撮像した画像からフリッカーの有無を検知する検知ステップと、
    前記撮像した画像のうち、設定された焦点検出領域に対応する領域のコントラストに基づいて焦点検出を行う焦点検出ステップと、
    前記焦点検出を行う場合、前記検知ステップにおいてフリッカーが検知されていれば、絞り値を予め定められた値に固定し、前記撮像素子の電荷蓄積の時間を可変して画像の輝度制御を行う輝度制御パターンを設定するとともに、前記フレームレートを前記検知されたフリッカーの周波数と同期する値に設定することによって、前記撮像した画像に含まれる横縞状のフリッカーの位置が移動しないようにする制御ステップとを有することを特徴とする撮像装置の制御方法。
JP2007302076A 2007-11-21 2007-11-21 撮像装置およびその制御方法 Expired - Fee Related JP5276308B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007302076A JP5276308B2 (ja) 2007-11-21 2007-11-21 撮像装置およびその制御方法
US12/272,276 US8102437B2 (en) 2007-11-21 2008-11-17 Image sensing apparatus and control method therefor wherein the frame rate during autofocus is adjusted according to a detected flicker

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007302076A JP5276308B2 (ja) 2007-11-21 2007-11-21 撮像装置およびその制御方法

Publications (3)

Publication Number Publication Date
JP2009130531A JP2009130531A (ja) 2009-06-11
JP2009130531A5 JP2009130531A5 (ja) 2011-01-13
JP5276308B2 true JP5276308B2 (ja) 2013-08-28

Family

ID=40641520

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007302076A Expired - Fee Related JP5276308B2 (ja) 2007-11-21 2007-11-21 撮像装置およびその制御方法

Country Status (2)

Country Link
US (1) US8102437B2 (ja)
JP (1) JP5276308B2 (ja)

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4556995B2 (ja) * 2007-12-10 2010-10-06 カシオ計算機株式会社 撮像装置及びその露出制御方法、露出制御プログラム
NO331527B1 (no) * 2009-12-23 2012-01-23 Cisco Systems Int Sarl Metode for a fjerne flimring i videoopptak
JP5598029B2 (ja) 2010-03-10 2014-10-01 ソニー株式会社 撮像装置、撮像装置の制御方法、並びにプログラム
JP2012053029A (ja) * 2010-08-05 2012-03-15 Ricoh Co Ltd 測光・測距装置、測光・測距方法及びその測光・測距装置を有する撮像機器
JP5482560B2 (ja) * 2010-08-12 2014-05-07 株式会社ニコン 測光装置、撮像装置、およびフリッカの検出方法
JP5541016B2 (ja) * 2010-09-08 2014-07-09 リコーイメージング株式会社 撮像システムおよび画素信号読出し方法
JP5676988B2 (ja) * 2010-09-14 2015-02-25 キヤノン株式会社 焦点調節装置
CZ303282B6 (cs) * 2010-11-08 2012-07-11 Vysoké ucení technické Zpusob regulace doby spuštení uzáverky fotoaparátu a zarízení pro provádení tohoto zpusobu
JP2012134663A (ja) 2010-12-20 2012-07-12 Samsung Electronics Co Ltd 撮像装置および撮像方法
JP5627470B2 (ja) * 2011-01-06 2014-11-19 キヤノン株式会社 撮像装置及びその制御方法、並びにプログラム
JP5820120B2 (ja) * 2011-01-28 2015-11-24 キヤノン株式会社 撮像装置およびその制御方法
JP5930621B2 (ja) * 2011-07-15 2016-06-08 キヤノン株式会社 撮像装置、その制御方法およびコンピュータプログラム
WO2013038950A1 (ja) * 2011-09-13 2013-03-21 富士フイルム株式会社 立体撮像装置
JP5802846B2 (ja) * 2012-11-22 2015-11-04 富士フイルム株式会社 撮像装置
JP2014232972A (ja) * 2013-05-29 2014-12-11 ソニー株式会社 撮像装置およびフリッカ検出方法、ならびに情報処理装置
JP6294607B2 (ja) * 2013-08-20 2018-03-14 キヤノン株式会社 撮像装置およびその制御方法、プログラム並びに記憶媒体
JP5811424B2 (ja) * 2014-08-11 2015-11-11 ソニー株式会社 撮像装置、撮像装置の制御方法、並びにプログラム
KR102523301B1 (ko) * 2015-12-15 2023-04-19 삼성전자주식회사 플리커를 제거하는 이미지 센서 회로 및 이를 포함하는 카메라 장치
KR102615091B1 (ko) * 2016-01-13 2023-12-19 삼성전자주식회사 촬영 장치 및 그 동작 방법
JP2018026716A (ja) * 2016-08-10 2018-02-15 オリンパス株式会社 撮像装置、撮像方法及び撮像プログラム
JP2018050346A (ja) * 2017-12-19 2018-03-29 株式会社ニコン 撮像装置

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0815324B2 (ja) 1987-06-10 1996-02-14 キヤノン株式会社 テレビ用固体撮像装置
JPH0293509A (ja) * 1988-09-30 1990-04-04 Toshiba Corp 自動焦点合せ装置
JPH02274180A (ja) * 1989-04-17 1990-11-08 Sharp Corp オートフォーカス装置
JP3083825B2 (ja) * 1989-08-15 2000-09-04 オリンパス光学工業株式会社 合焦調節装置
US6683652B1 (en) * 1995-08-29 2004-01-27 Canon Kabushiki Kaisha Interchangeable lens video camera system having improved focusing
JP2894341B1 (ja) * 1998-03-12 1999-05-24 日本電気株式会社 固体撮像装置の駆動方法
JP2001324670A (ja) * 2000-03-10 2001-11-22 Olympus Optical Co Ltd 自動的に焦点を検出する装置及びこの装置を備えたカメラ
JP2001281529A (ja) * 2000-03-29 2001-10-10 Minolta Co Ltd デジタルカメラ
JP2002207162A (ja) * 2001-01-12 2002-07-26 Minolta Co Ltd デジタルカメラ
JP2005221643A (ja) * 2004-02-04 2005-08-18 Fujinon Corp オートフォーカスシステム
JP4323343B2 (ja) * 2004-02-13 2009-09-02 株式会社ルネサステクノロジ 撮像装置及びフリッカ検出方法
JP4173457B2 (ja) * 2004-03-12 2008-10-29 富士フイルム株式会社 撮影装置及びその制御方法
JP4875836B2 (ja) * 2004-04-26 2012-02-15 キヤノン株式会社 撮像装置、および制御方法
JP2006084556A (ja) * 2004-09-14 2006-03-30 Pentax Corp 焦点検出装置
JP4908939B2 (ja) * 2005-06-24 2012-04-04 キヤノン株式会社 撮像装置
JP4797522B2 (ja) * 2005-09-08 2011-10-19 カシオ計算機株式会社 撮像装置及びそのプログラム
JP4802742B2 (ja) * 2006-02-06 2011-10-26 ソニー株式会社 合焦制御装置、撮像装置、及び合焦制御方法
US8218065B2 (en) * 2006-08-22 2012-07-10 Panasonic Corporation Imaging device
US8279303B2 (en) * 2007-03-05 2012-10-02 Renesas Electronics Corporation Imaging apparatus and flicker detection method
JP4936534B2 (ja) * 2007-06-11 2012-05-23 キヤノン株式会社 撮像装置及びフォーカス制御方法

Also Published As

Publication number Publication date
US20090128683A1 (en) 2009-05-21
JP2009130531A (ja) 2009-06-11
US8102437B2 (en) 2012-01-24

Similar Documents

Publication Publication Date Title
JP5276308B2 (ja) 撮像装置およびその制御方法
JP5173453B2 (ja) 撮像装置及び該撮像装置の表示制御方法
JP5709629B2 (ja) 撮像装置及び制御方法
JP2011049685A (ja) 撮像装置及びその制御方法
US20050018253A1 (en) Image pickup apparatus for correcting image deterioration due to fixed pattern noise, and image pickup method
JP5063372B2 (ja) 画像処理装置、制御方法、及びプログラム
JP5311922B2 (ja) 撮像装置及びその制御方法
JP2005311600A (ja) 撮像装置及び撮像方法
JP2010081430A (ja) 撮像装置及びその制御方法及びプログラム
JP2006270426A (ja) 撮像装置、その制御方法、及びコンピュータプログラム
JP4393177B2 (ja) 撮像装置および撮像方法
JP2012029055A (ja) 撮像装置及びその制御方法、プログラム並びに記憶媒体
JP6669404B2 (ja) 撮像装置、その制御方法、および制御プログラム
JP2016092787A (ja) 画像処理装置
JP6611566B2 (ja) 撮像装置、撮像装置の制御方法及びプログラム
JP2006109162A (ja) 撮像装置、撮像方法、プログラム及び記憶媒体
JP2006039203A (ja) 撮像装置、及び制御方法
JP4393299B2 (ja) 画像処理装置及びその制御方法
JP2005057691A (ja) 撮像装置及び方法
JP2005051697A (ja) 撮像装置
JP2006203665A (ja) 撮像装置及び方法、並びに記録媒体及びプログラム
JP2006033159A (ja) 電子カメラシステム
JP2006108878A (ja) 撮像装置
JP2006101408A (ja) 撮像装置
JP2005215206A (ja) 撮像装置および撮像方法及びプログラム及び記憶媒体

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101122

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101122

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120507

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120511

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120709

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121029

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121226

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130419

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130517

R151 Written notification of patent or utility model registration

Ref document number: 5276308

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees