JP6220225B2 - 撮像装置、撮像装置の制御方法、プログラム、及び記録媒体 - Google Patents

撮像装置、撮像装置の制御方法、プログラム、及び記録媒体 Download PDF

Info

Publication number
JP6220225B2
JP6220225B2 JP2013225817A JP2013225817A JP6220225B2 JP 6220225 B2 JP6220225 B2 JP 6220225B2 JP 2013225817 A JP2013225817 A JP 2013225817A JP 2013225817 A JP2013225817 A JP 2013225817A JP 6220225 B2 JP6220225 B2 JP 6220225B2
Authority
JP
Japan
Prior art keywords
image data
image
imaging
exposure time
timing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013225817A
Other languages
English (en)
Other versions
JP2015088917A5 (ja
JP2015088917A (ja
Inventor
雄一 有賀
雄一 有賀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2013225817A priority Critical patent/JP6220225B2/ja
Priority to US14/520,728 priority patent/US9756258B2/en
Priority to CN201410601645.0A priority patent/CN104601904B/zh
Publication of JP2015088917A publication Critical patent/JP2015088917A/ja
Publication of JP2015088917A5 publication Critical patent/JP2015088917A5/ja
Priority to US15/488,554 priority patent/US9794493B2/en
Application granted granted Critical
Publication of JP6220225B2 publication Critical patent/JP6220225B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/745Detection of flicker frequency or suppression of flicker wherein the flicker is caused by illumination, e.g. due to fluorescent tube illumination or pulsed LED illumination
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/08Control effected solely on the basis of the response, to the intensity of the light received by the camera, of a built-in light-sensitive device
    • G03B7/091Digital circuits
    • G03B7/093Digital circuits for control of exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • H04N25/531Control of the integration time by controlling rolling shutters in CMOS SSIS
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/617Noise processing, e.g. detecting, correcting, reducing or removing noise for reducing electromagnetic interference, e.g. clocking noise
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)

Description

本発明は、撮像装置、撮像方法、プログラム、及び記録媒体に関する。
フリッカーを含んだ人工光源下で写真撮影を行う場合、光量が少ないため、従来はそれほど高速なシャッター速度で撮影を行うことはできなかった。そのため、フリッカーによる露光ムラという問題はそれほど深刻ではなかった。しかし、近年、デジタルカメラの高ISO化に伴い、フリッカーを含んだ人工光源下でも、高速なシャッター速度で撮影を行うことができるようになってきた。フリッカー光源下で高速なシャッター速度で連続撮影を行うと、外光の光量変化により、コマ毎の露出にバラツキが発生する。
この様な問題に鑑み、特許文献1には、照明光のフリッカーの状態を検出し、露光時間がフリッカーの明滅周期より短い場合、露光時間の中心が照明光の光量が極大値を示すタイミングと略一致するように撮像タイミングを調節する技術が提案されている。
特開2006−222935号公報
しかしながら、特許文献1に記載の技術では、フリッカー検出専用のマイコンと光電変換素子でフリッカー検出を行っている。そこで、撮像用の光電変換素子(撮像素子)を用いてフリッカー検出を行うことが考えられるが、撮像用の光電変換素子で撮像した画像を表示装置に連続して表示させるライブビュー動作中には、フリッカーによる露光ムラが抑えられた画像を表示させることが一般的である。フリッカーによる露光ムラが抑えられた画像から照明光の光量が極大値を示すタイミングを検出するのは困難であり、フリッカーが静止画の露光に与える影響を低減することはできない。
本発明はこのような状況に鑑みてなされたものであり、フリッカーが静止画の露光に与える影響を低減する技術を提供することを目的とする。
上記課題を解決するために、本発明は、撮像手段と、前記撮像手段を用いて得られた画像データに基づいて、フリッカーの光量変化が少ない所定のタイミングを検出する検出手段と、前記検出手段が検出した前記所定のタイミングに基づいて、前記撮像手段の露光タイミングを決定する決定手段と、を有し、前記撮像手段は、動画用の画像データの取得を開始してから静止画用の画像データの取得を開始するまでの間に、フリッカー光源の光量変化周期よりも短い第1の露光時間で画像データを取得し、前記検出手段は、前記第1の露光時間を用いて取得された画像データと前記動画用の画像データに基づいて、前記所定のタイミングを検出し、前記決定手段は、前記検出手段が検出した前記所定のタイミングに基づいて、前記静止画用の画像データを取得するための前記撮像手段の露光タイミングを決定することを特徴とする撮像装置を提供する。
なお、その他の本発明の特徴は、添付図面及び以下の発明を実施するための形態における記載によって更に明らかになるものである。
本発明によれば、フリッカーが静止画の露光に与える影響を低減することが可能となる。
第1の実施形態に係るデジタル一眼レフカメラ100、及び、デジタル一眼レフカメラ100に対して着脱可能な交換レンズ200の構成を示すブロック図。 図1に示した各ブロックの物理的な配置を示す図。 デジタル一眼レフカメラ100が備える撮像素子A106の概略構成図。 スリットローリングシャッター動作のタイミングチャート。 電子の先幕シャッターとメカの後幕シャッターを用いる電子先幕シャッター動作のタイミングチャート。 フリッカーの光量が高いタイミングでの撮影画像を示す図。 フリッカーの光量が低いタイミングでの撮影画像を示す図。 フリッカーの光量変化の少ないタイミングを検出する処理の概念図。 露光ムラの有る画像及び露光ムラの無い画像に基づいて光量変化の少ないタイミングを検出するための演算処理の概念図。 図9の画像Cにおける垂直方向の光量変化(実線)と、この光量変化の隣接差分(破線)とを示す図。 デジタル一眼レフカメラ100による撮像処理を示すフローチャート。 図11に示す撮像処理に対応する、フリッカーの光量変化及び画像の蓄積タイミングを示す図。 図12の変形例1を示す図。 図12の変形例2を示す図。 図12の変形例3を示す図。
以下、添付図面を参照して、本発明の実施形態を説明する。なお、本発明の技術的範囲は、特許請求の範囲によって確定されるのであって、以下の個別の実施形態によって限定されるわけではない。また、実施形態の中で説明されている特徴の組み合わせすべてが、本発明に必須とは限らない。
以下の実施形態では、撮像装置の例として、レンズ交換が可能なデジタル一眼レフカメラについて説明する。しかしながら、本発明はこのようなデジタル一眼レフカメラに限定されず、例えば、レンズが一体化したデジタルカメラに対しても適用可能である。
[第1の実施形態]
図1は、第1の実施形態に係るデジタル一眼レフカメラ100、及び、デジタル一眼レフカメラ100に対して着脱可能な交換レンズ200の構成を示すブロック図である。図2は、図1に示した各ブロックの物理的な配置を示す図である。
図1及び図2において、全体制御・演算部101は、各種の演算処理を行い、また、デジタル一眼レフカメラ100及び交換レンズ200の全体を統括的に制御する。交換レンズ200は、デジタル一眼レフカメラ用の交換レンズである。
撮像レンズ202は、被写体の光学像を撮像素子A106(第2の撮像素子)に結像させる。レンズ駆動装置203は、撮像レンズ202をピント(焦点)が合うように駆動する。絞り機構204は、被写体像からの反射光が撮像レンズ202を通る光量を制御する。絞り駆動装置205は、絞り機構204を駆動する。
交換レンズ200は、デジタル一眼レフカメラ100から取り外し可能である。交換レンズ200とデジタル一眼レフカメラ100との間では、情報交換のための通信が行われる。このときの通信では、全体制御・演算部101とレンズ制御部201とが通信をしていて、送信/受信の管理を行っている。
クイックリターン(QR)ミラー102は、ファインダー123使用時には、撮像レンズ202を通った光学像を、ファインダー123とAE用の撮像素子B116(第1の撮像素子)に導く。また、QRミラー102は、撮影時には跳ね上がって光学像を撮像素子A106へと導く。ミラー駆動装置103は、QRミラー102を駆動する。
シャッター機構104は、いわゆる一眼レフカメラに使用されるフォーカルプレーン型の先幕/後幕に相当するシャッター幕を有し、撮像レンズ202を通ってきた光学像の露光時間の制御と遮光を行う。シャッター駆動装置105は、シャッター機構104の駆動を行う。
撮像素子A106は、撮像レンズ202により結像された被写体の光学像を画像信号として取り込む。本実施形態の撮像素子A106は、例えば、CMOSセンサーのような2次元のXYアドレス走査型で形成されている。また、本実施形態では、アドレス指定によりライン毎に電荷蓄積時間を制御し、ライン毎に順次読出しを行うローリングシャッター方式が採用されている。
撮像信号処理部A107は、撮像素子A106から出力される画像信号の増幅処理、アナログからデジタルへの変換を行うA/D変換処理、A/D変換後の画像データに対するキズ補正等の各種の補正処理、及び、画像データを圧縮する圧縮処理等を行う。タイミング発生部A108は、撮像素子A106と撮像信号処理部A107に対して各種のタイミング信号を出力する。
メモリ部109は、撮像信号処理部A107により処理された画像データ等を一時的に記憶し、また、各種の調整値や全体制御・演算部101による各種の制御を実行させるためのプログラムなどを恒久的に記憶するためのものである。
記録媒体制御インターフェース(I/F)部110は、記録媒体111に対する画像データ等の記録処理、及び、記録媒体111から画像データ等の読み出し処理を行う。記録媒体111は、画像データ等の各種のデータを記録する半導体メモリ等からなる着脱可能な記録媒体である。
表示駆動部112は、撮影した静止画像や動画像等を表示する表示装置113を駆動する。外部インターフェース(I/F)114は、コンピュータ115のような外部機器と、画像信号及び制御信号等の情報のやりとりを行う。
撮像素子B116は、AE信号/光源検知信号を取得する撮像素子であり、RGBイメージャータイプのセンサーとなっている。ここでは、CCDまたはCMOSのイメージセンサを用いる。
撮像信号処理部B117は、撮像素子B116から出力される画像信号の増幅処理、アナログからデジタルへの変換を行うA/D変換処理、A/D変換後の画像データに対するキズ補正等の各種の補正処理、及び、画像データを圧縮する圧縮処理等を行う。タイミング発生部B118は、撮像素子B116と撮像信号処理部B117に対して各種のタイミング信号を出力する。
ペンタプリズム119は、QRミラー102で曲げられた光線をファインダー123と撮像素子B116へ導く。位相差測距部121は、位相差方式による測距部であり、QRミラー102を透過した光線により、被写体のデフォーカス量に応じて位相が変化する2つの1対の画像を取得する。全体制御・演算部101は、この2つの画像のズレ量から被写体のデファーカス量を演算して、撮像レンズ202を移動させる。測距部駆動装置120は、位相差測距部121を駆動する。
図3は、デジタル一眼レフカメラ100が備える撮像素子A106の概略構成図である。撮像素子A106は、2次元の走査方法を採用する。図3において、301は、駆動の単位である1つの画素を示している。302は、光を電荷に変換するフォトダイオード(PD)である。306は、電荷を一時的に蓄積しておく領域であるフローティングディフュージョン(FD)である。303は、転送パルスφTXによってPD302で発生した電荷をFD306に転送する転送スイッチである。307は、ソースフォロアとして機能する増幅MOSアンプである。308は、選択パルスφSELVによって画素を選択する選択スイッチである。309は、リセットパルスφRESによってFD306に蓄積された電荷を除去するリセットスイッチである。
311は、増幅MOSアンプ307の負荷となる定電流源である。315は、選択スイッチ308で選択された画素のFD306に蓄積された電荷を、増幅MOSアンプ307と定電流源311による電荷・電圧変換で電圧に変換された後、信号出力線310を経て画素データとして読み出す読み出し回路である。312は、読み出し回路315で読み出した画素データ(画素信号)を選択する選択スイッチであり、水平走査回路316によって駆動される。水平走査回路316によって選択された画素データは出力アンプ313で増幅されて撮像素子A106から出力される。314は、スイッチ303,308,309を選択するための垂直走査回路である。
ここで、φTX、φRES、φSELVのそれぞれにおいて、垂直走査回路314によって走査選択された第n番目の走査ラインをφTXn、φRESn、φSELVn、第n+1番目の走査ラインをφTXn+1、φRESn+1、φSELVn+1とする。図3には、便宜上、第n番目の走査ラインから第n+6番目の走査ラインまでを示している。また、FD306、増幅MOSアンプ307及び定電流源311により、「フローティングディフュージョンアンプ」が構成される。
次に、図4を用いて、撮像素子A106の露光量を制御するスリットローリングシャッター動作を説明する。図4は、スリットローリングシャッター撮影の際に電子の先幕シャッターと電子の後幕シャッターとを用いて露光量が適正となるように制御を行い、画素データを読み出す撮像素子の動作を示すタイミングチャートである。
電子先幕シャッターの動作では、第nラインにおいて、まず時刻t401からt402の間、φRESnとφTXnにパルスが印加されて、転送スイッチ303及びリセットスイッチ309がオンする。これにより、第nラインのPD302とFD306に蓄積されている不要電荷が除去されてリセット動作が行われる。続いて、時刻t402でφRESnとφTXnへのパルスの印加が解除されて、転送スイッチ303及びリセットスイッチ309がオフになり、第nラインのPD302に発生する電荷の蓄積動作が開始される。
第n+1ライン及び第n+2ラインは画像として使用しないので、ここでは何も処理を行わない。本実施形態では第n+1ライン及び第n+2ラインに対して処理を行っていない。しかし、PDに電荷がたまり周辺の画素へと漏れ出すことを考慮するのであれば、第n+1ライン及び第n+2ラインのφRESnとφTXnをオンし、PD302の電荷を常にリセットしておく必要がある。
時刻t403で、時刻t402と同様に、第n+3ラインの蓄積動作が開始し、時刻t404で、第n+6ラインの蓄積動作が開始する。この様に、一定間隔で順次ラインのリセットを解除し電荷の蓄積動作を開始することで、電子的な先幕シャッター動作を実現している。
ここで第nラインに戻り、時刻t405からt406の間、φTXnにパルスが印加されて、転送スイッチ303がオンし、PD302に蓄積された電荷をFD306に転送する転送動作が行われる。第nラインの転送動作の終了に続いて、時刻t406からt407の間、φSELVnにパルスが印加され選択スイッチ308がオンすることにより、FD306で保持した電荷が電圧に変換され、画素データ(画素信号)として読み出し回路315に出力される。読み出し回路315で一時的に保持された画素データは、時刻t407から、水平走査回路316によって順次出力される。そして、時刻t408で第nラインにおける画素からの画素データの読み出しが完了する。
第n+3ラインにおいて、時刻t408からt409の間、φTXn+3にパルスが印加されて、転送スイッチ303がオンし、PD302に蓄積された電荷をFD306に転送する転送動作が行われる。第n+3ラインの転送動作の終了に続いて、時刻t409からt410の間、φSELVn+3にパルスが印加されて選択スイッチ308がオンすることにより、FD306で保持した電荷が電圧に変換され、画素データとして読み出し回路315に出力される。読み出し回路315で一時的に保持された画素データは、時刻t410から、水平走査回路316によって順次出力される。そして、時刻t411で第n+3ラインにおける画素からの画素データの読み出しが完了する。
この様に、一定間隔で電荷の転送及び読み出しを行うことにより電子的な後幕シャッターを実現している。各ラインのPDのリセットから転送までの時間が、各画素の露光時間となっている。
次に、図5を用いて、電子の先幕シャッターとメカの後幕シャッターを用いて撮像素子A106の露光量を制御する電子先幕シャッター動作を説明する。図5は、電子先幕シャッター撮影の際に電子の先幕シャッターとメカの後幕シャッターとを用いて露光量が適正となるように制御を行い、画素データを読み出す撮像素子の動作を示すタイミングチャートである。
電子先幕シャッターの動作では、第nラインにおいて、まず時刻t501からt502の間、φRESnとφTXnにパルスが印加されて、転送スイッチ303及びリセットスイッチ309がオンする。これにより、第nラインのPD302とFD306に蓄積されている不要電荷が除去されてリセット動作が行われる。続いて、時刻t502でφRESnとφTXnへのパルスの印加が解除されて、転送スイッチ303及びリセットスイッチ309がオフになり、第nラインのPD302に発生する電荷の蓄積動作が開始される。
同様に、時刻t503で第n+1ラインの蓄積動作が開始し、時刻t504で第n+2ラインの蓄積動作が開始し、時刻t505で第n+3ラインの蓄積動作が開始し、時刻t508で第n+4ラインの蓄積動作が開始する。また、時刻t510で第n+5ラインの蓄積動作が開始し、時刻t513で第n+6ラインの蓄積動作が開始する。この様に、順次ラインのリセットを解除し電荷の蓄積動作を開始することで、電子的な先幕シャッター動作を実現している。
これに続いて、メカの後幕シャッターが走行する。電子的な先幕シャッターとメカの後幕シャッターの間が露光時間となり、各ラインの露光量が適切になるように電子的な先幕シャッターのリセットタイミングが制御される。
ここで、第nラインに戻り、時刻t505からt506の間、φTXnにパルスが印加されて、転送スイッチ303がオンし、PD302に蓄積された電荷をFD306に転送する転送動作が行われる。第nラインの転送動作の終了に続いて、時刻t506からt507の間、φSELVnにパルスが印加され選択スイッチ308がオンすることにより、FD306で保持した電荷が電圧に変換され、画素データ(画素信号)として読み出し回路315に出力される。読み出し回路315で一時的に保持された画素データは、時刻t507より、水平走査回路316によって順次出力される。そして、時刻t509で第nラインにおける画素からの画素データの読み出しが完了する。
第n+1ラインにおいて、時刻t509からt511の間、φTXn+1にパルスが印加されて、転送スイッチ303がオンし、PD302に蓄積された電荷をFD306に転送する転送動作が行われる。第n+1ラインの転送動作の終了に続いて、時刻t511からt512の間、φSELVn+1にパルスが印加されて選択スイッチ308がオンすることにより、FD306で保持した電荷が電圧に変換され、画素データとして読み出し回路315に出力される。読み出し回路315で一時的に保持された画素データは、時刻t512より、水平走査回路316によって順次出力される。そして、時刻t513で第n+1ラインにおける画素からの画素データの読み出しが完了する。
図6及び図7は、フリッカー光源の光量変化、シャッターの切れるタイミング、及び、そのタイミングで撮影される静止画画像を示している。シャッターの切れるタイミングに関して、図5では撮像素子の走査方向に合わせて上から下に動いているが、図6及び図7では、実際のシャッターがカメラに対して下から上に走行するため、この方向に合わせて下から上に動いている。そして、図5、図6、及び図7は同じ動作を示している。
近年、デジタルカメラはどんどん高感度化され、体育館といった人工光源下で従来は高速シャッターでの撮影ができなかった環境でも1/4000秒、1/8000秒といった高速シャッターでの撮影が可能になってきている。例えば、蛍光灯といった光量の変化する光源下で高速シャッターでの撮影を行う場合を考える。図6の様に光量が多いタイミングでシャッターを切ると露光量が多めの静止画が撮影され、逆に図7の様に光量が少ないタイミングでシャッターを切ると露光量の足りない静止画が撮影されてしまう。このシャッターを切るタイミングは、人間が意図的に合わせることはできない程高速なので、実際にはキリムラとして露光量のバラバラな静止画が撮影されることになる。
そこで、本実施形態では、デジタル一眼レフカメラ100は、フリッカーの光量変化の少ないタイミングを検出し、この検出されたタイミングで撮像を行う。「フリッカーの光量変化の少ないタイミング」とは、典型的には光量がピークのタイミング、即ち、図6に示すシャッタータイミングであるが、これに限定される訳ではない。例えば、光量がピークよりも少ないタイミングであっても、深刻な露出アンダーが生じない程度の光量があれば、そのようなタイミングも「フリッカーの光量変化の少ないタイミング」に含まれる。また、例えば、ピークの80%の光量に対応するようにゲインが設定されていれば、光量がピークの80%のタイミングで撮像を行えば適正露出の画像が得られる。従って、この場合、「光量がピークの80%のタイミング」も「フリッカーの光量変化の少ないタイミング」に含まれる。
図8は、フリッカーの光量変化の少ないタイミングを検出する処理の概念図である。この図では、フリッカー光源の光量変化、ライブビュー表示用(LV表示用)の露光ムラの無い画像(第3の画像)、及び、タイミング検出用の露光ムラの有る画像(第1の画像)を表している。また、この図では、SW2(本撮影のためのシャッタースイッチ)が押されたタイミングも表している。
デジタル一眼レフカメラ100は、SW2が押されるまで(即ち、全体制御・演算部101が撮像指示を受け付けるまで)は、露光時間を制御してフリッカーによる露光ムラが発生しない通常のLV表示用の画像(図8に示す3つの画像B)を定期的に取得する。そして、デジタル一眼レフカメラ100は、取得した画像を表示装置113に表示することにより、LV表示を実現する。露光時間の制御は、フリッカーの周期の整数倍の時間で蓄積を行うか、フリッカーの周期よりも十分に長い時間での蓄積を行うように、制御される。これにより、フリッカーによる露光ムラが発生しないようにすることができる。そして、SW2が押されると、デジタル一眼レフカメラ100は、今度は露光時間を制御してフリッカーによる露光ムラが発生した画像(図8に示す画像A)を意図的に取得する。但し、この画像は表示装置113に表示されない。この時の露光時間の制御は、フリッカー周期よりも短い時間で露光を行うように制御される。これにより、フリッカーによる露光ムラを意図的に発生させることができる。
本実施形態では、デジタル一眼レフカメラ100は、フリッカーによる露光ムラの有る画像、及び、フリッカーによる露光ムラの無い画像に基づいて、フリッカーの周期、及び垂直同期信号(VD)からの光量が最大になるタイミングを検出する。フリッカーの周期及びVDからの光量が最大になるタイミングが分かれば、フリッカーの光量変化の少ないタイミングが分かる。その後、デジタル一眼レフカメラ100は、検出結果に基づき、光量変化の少ないタイミングで画像(第2の画像)を撮像する。これにより、フリッカーによる露光への影響を抑えた画像を取得することができる。
図9は、露光ムラの有る画像及び露光ムラの無い画像に基づいて光量変化の少ないタイミングを検出するための演算処理の概念図である。デジタル一眼レフカメラ100は、画像Aを画像Bで割ることにより、画像A及び画像Bからフリッカー成分だけを抽出した画像Cを生成する。ここで使用される画像Bは、典型的には最後に取得された画像Bであるが、これに限定されない。デジタル一眼レフカメラ100は、この様にして得られた画像Cの縞模様(即ち、画像内の輝度変化)に基づき、フリッカーの周期、及び、VDからの光量が最大になるタイミングを検出し、光量変化の少ないタイミングを検出する。
なお、画像Aは、フリッカーによる露光ムラを発生させるために短い露光時間で撮影された画像であり、反対に画像Bはフリッカーによる露光ムラが発生しないようにフリッカーの周期の整数倍もしくはそれ以上の露光時間で撮影された画像である。そのため、露光時間以外を同じ条件にして画像A及び画像Bを撮影した場合、露光時間の差に起因して両者の露光量に差が生じる。そこで、デジタル一眼レフカメラ100は、画像取得時のセンサーゲインを調整したり、取得された画像にゲインをかけたりして、画像A及び画像Bの露光量を一致させる。また、画像Aの撮像時と画像Bの撮像時との間に被写体の位置が移動したり、カメラの向きが変わっていた場合には、デジタル一眼レフカメラ100は、画像の画面を分割してそれぞれの画像の一致度を計算し、画像の位置合わせを行ってから割り算を行う。
図10は、図9の画像Cにおける垂直方向の光量変化(実線)と、この光量変化の隣接差分(破線)とを示す図である。図10を参照して、フリッカーの周期、及び、VDからの光量が最大になるタイミングを検出する方法を説明する。ここで、破線の値が「0」の時が、光量変化の極大値もしくは極小値を示している。特に、破線の値が正から負へ変化する時の「0」値は極大値になる。この極大値が画面の何行目か分かれば、水平同期信号(HD)の周期を基にしてVDから極大値までの時間を求めることができる。また、破線の「0」から「0」までの時間を求めることにより、フリッカーの周期を求めることができる。ここで求めた極大値の時刻とフリッカーの周期から、次の撮影タイミング、即ち、フリッカーの光量変化の少ないタイミングを求めることができる。
なお、ここでは、デジタル一眼レフカメラ100は画像Cに基づいて、即ち、画像A及び画像Bの両方に基づいてタイミング検出を行うものとしたが、画像Aだけに基づいてタイミング検出を行ってもよい。図9に示すように、画像Aにも、画像Cと同様の縞模様が表れるため、画像Aに基づいて図10に示すようなグラフを生成することも可能である。この場合、被写体の存在によりグラフの波形が乱れる可能性があるが、必ずしもタイミング検出が不可能になる訳ではない。他方、画像Cに基づけば、画像Aのみに基づく場合に比べて、タイミング検出の精度を向上させることができる。
図11は、デジタル一眼レフカメラ100による撮像処理を示すフローチャートである。本フローチャートの各ステップの処理は、特に断らない限り、デジタル一眼レフカメラ100の全体制御・演算部101がROM(不図示)に格納されたプログラムを実行して各ブロックを制御することにより実現される。
S1101で、デジタル一眼レフカメラ100は、図8に示す画像Bのような露光ムラの無い画像を取得する。S1102で、デジタル一眼レフカメラ100は、SW2が押下されたか否かを判定する。SW2が押下されるまでは、S1101において、露光ムラの無い画像が繰り返し取得される。S1103で、デジタル一眼レフカメラ100は、図8に示す画像Aのような露光ムラの有る画像を取得する。S1104で、デジタル一眼レフカメラ100は、図9及び図10を参照して説明した方法により、フリッカーの光量変化の少ないタイミングを検出する。S1105で、デジタル一眼レフカメラ100は、S1104で検出されたタイミングで撮像を行う。その後、処理はS1101に戻り、同様の処理が繰り返される。
なお、デジタル一眼レフカメラ100は、光源にフリッカーが有るか否かを事前に判定してもよい。光源にフリッカーが無い場合、デジタル一眼レフカメラ100は、SW2が押下された場合、タイミング検出処理とは無関係に撮像を行う。
図12は、図11に示す撮像処理に対応する、フリッカーの光量変化及び画像の蓄積タイミングを示す図である。図12において、点線がセンサーのリセット、実線が読み出し、点線から実線の横方向の間が画像の蓄積時間に対応する。画像Bの蓄積時間はフリッカーの周期よりも十分に長いので、フリッカーによる露光ムラは発生しない。そして、画像BはLV表示に使用される。ここで、SW2が押されて撮像指示が受け付けられると、デジタル一眼レフカメラ100は、フリッカーの周期よりも短い蓄積時間で画像Aを取得する。画像Aにおいてはフリッカーによる露光ムラが発生しているが、この画像はLV表示には使用されない。その後、デジタル一眼レフカメラ100は、フリッカーの光量変化の少ないタイミングを検出し、検出されたタイミングで画像Dを取得する。これにより、フリッカー光源下で高速のシャッター速度で撮影を行っても、フリッカーの発生しない画像を撮影することが可能となる。
なお、図12においては、作図上の理由により、画像Dのためにシャッター走行している時間が比較的長く、その間に光量が大きく変化している。しかしながら、実際の走行時間は、図6に示した程度の時間であり、光量がほぼ最大の間にシャッターの走行は完了する。このことは、これ以降の図でも同様である。
以上説明したように、第1の実施形態によれば、デジタル一眼レフカメラ100は、まずフリッカーによる露光ムラのある画像を取得し、この画像に基づいてフリッカーの光量変化の少ないタイミングを検出し、その後、検出されたタイミングで撮像を行う。これにより、フリッカーが静止画の露光に与える影響を低減することが可能となる。
なお、本実施形態では、LV表示中に静止画撮影を行う場合について説明したが、本発明はそのような場合に限定されない。例えば、動画撮影中に静止画撮影を行うような場合にも、本実施形態の概念を利用可能である(この場合、図8の画像Bは、LV表示用の画像ではなく、動画像の1フレームに対応する)。
<変形例>
図13は、図12の変形例1を示す図である。図12では、デジタル一眼レフカメラ100は、静止画撮影タイミングであるSW2がオンする時まで、LV表示用の画像Bを取り込み、SW2がオンしてからフリッカーのタイミング検出用の画像Aの取り込みを開始していた。画像Aの取り込みのタイミングが静止画撮影のタイミングに近いほど、フリッカーのタイミング検出の精度が向上するので、図12の例は、検出精度の向上という点では優れている。しかしながら、図12の例では、SW2が押されてから画像Aの取り込みを行うため、その分静止画撮影までのレリーズタイムラグが長くなってしまう。
そこで、変形例1では、図13に示すように、デジタル一眼レフカメラ100は、LV表示用の画像Bを取り込んでいる間に、画像Bを数回取得する度に1回程度、定期的にフリッカーのタイミング検出用の画像Aの取り込み行う。そして、デジタル一眼レフカメラ100は、SW2がオンしてからの画像Aの取り込みは行わない。これにより、レリーズタイムラグを短縮することが可能となる。
図14は、図12の変形例2を示す図である。変形例1(図13)では、デジタル一眼レフカメラ100は、LV表示用の画像Bを取り込んでいる間に、定期的にフリッカーのタイミング検出用の画像Aの取り込み行った。そのため、画像Aを取り込んでいるタイミングで、画像Bの表示周期(即ち、LV表示のフレームレート)が乱れることになる。
そこで、変形例2では、図14に示すように、デジタル一眼レフカメラ100は、LV表示用の画像Bの取り込みと、フリッカーのタイミング検出用の画像Aの取り込みとを倍の周期で交互に行う。これにより、表示周期の乱れが発生しないようにすることができる。
図15は、図12の変形例3を示す図である。図12〜図14では、デジタル一眼レフカメラ100は、フリッカーのタイミング検出用の画像Aを、LV表示用の画像Bと同じ撮像素子(撮像素子A106)で取り込んでいるため、LV表示モードの時しかフリッカーのタイミング検出ができない。
そこで、変形例3では、図15に示すように、デジタル一眼レフカメラ100は、フリッカーのタイミング検出用の画像Aの取得を、被写体の本画像(画像D)を取得するための撮像素子A106ではなく、AE検出用の撮像素子B116を用いて行う。これにより、撮影者がファインダー123を覗いていて撮像素子A106に被写体像が無い状態でも、フリッカーのタイミング検出を行うことができる。そして、デジタル一眼レフカメラ100は、SW2が押されたタイミングでフリッカーのタイミングを検出し、撮像素子A106を用いて被写体の本画像(画像D)を取得する。
[その他の実施形態]
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(又はCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (14)

  1. 撮像手段と、
    前記撮像手段を用いて得られた画像データに基づいて、フリッカーの光量変化が少ない所定のタイミングを検出する検出手段と、
    前記検出手段が検出した前記所定のタイミングに基づいて、前記撮像手段の露光タイミングを決定する決定手段と、
    を有し、
    前記撮像手段は、動画用の画像データの取得を開始してから静止画用の画像データの取得を開始するまでの間に、フリッカー光源の光量変化周期よりも短い第1の露光時間で画像データを取得し、
    前記検出手段は、前記第1の露光時間を用いて取得された画像データと前記動画用の画像データに基づいて、前記所定のタイミングを検出し、
    前記決定手段は、前記検出手段が検出した前記所定のタイミングに基づいて、前記静止画用の画像データを取得するための前記撮像手段の露光タイミングを決定することを特徴とする撮像装置。
  2. 前記検出手段は、前記動画用の画像データと前記第1の露光時間を用いて取得された画像データとの比較結果に基づいて、前記所定のタイミングを検出することを特徴とする請求項1に記載の撮像装置。
  3. 撮像指示を受け付ける受け付け手段を有し、
    前記撮像手段は、前記動画用の画像データを繰り返し取得しているときに前記受け付け手段が前記撮像指示を受け付けた場合、前記受け付け手段が前記撮像指示を受け付けてから前記撮像指示に応じて静止画用の画像データの取得を開始するまでの間に、前記第1の露光時間を用いて画像データを取得することを特徴とする請求項1又は2に記載の撮像装置。
  4. 前記撮像手段は、前記動画用の画像データを取得してから次に前記動画用の画像データを取得するまでの間に、前記第1の露光時間を用いて画像データを取得することを特徴とする請求項1又は2に記載の撮像装置。
  5. 撮像指示を受け付ける受け付け手段を有し、
    前記検出手段は、前記受け付け手段が前記撮像指示を受け付ける前に前記第1の露光時間を用いて取得された画像データに基づいて、前記所定のタイミングを検出することを特徴とする請求項1又は2に記載の撮像装置。
  6. 前記撮像手段は、前記動画用の画像データを繰り返し取得しているときに前記受け付け手段が前記撮像指示を受け付けた場合、前記受け付け手段が前記撮像指示を受け付けてから前記撮像指示に応じて静止画用の画像データの取得を開始するまでの間に、前記第1の露光時間を用いて画像データを取得しないことを特徴とする請求項5に記載の撮像装置。
  7. 前記撮像手段は、定期的に前記第1の露光時間を用いて画像データを取得することを特徴とする請求項5又は6に記載の撮像装置。
  8. 前記検出手段は、前記第1の露光時間を用いて取得された最新の画像データに基づいて、前記所定のタイミングを検出することを特徴とする請求項7に記載の撮像装置。
  9. 前記第1の露光時間を用いて取得された画像データに基づく画像を動画用として表示手段に表示しないように制御する表示制御手段を有することを特徴とする請求項1乃至8の何れか1項に記載の撮像装置。
  10. 前記撮像手段は、フリッカー光源の光量変化周期の整数倍と等しい第2の露光時間を用いて前記動画用の画像データを取得し、
    前記検出手段は、前記第1の露光時間を用いて取得された画像データを前記第2の露光時間を用いて取得された画像データで割ることにより得られる画像データに基づく画像内の輝度変化に基づいて、前記所定のタイミングを検出することを特徴とする請求項1乃至9の何れか1項に記載の撮像装置。
  11. 前記第1の露光時間と前記第2の露光時間の差に起因する露光量の差を補正するように、前記第1の露光時間を用いて取得される画像データ及び前記第2の露光時間を用いて取得される画像データのゲインを調節するゲイン調節手段を有することを特徴とする請求項10に記載の撮像装置。
  12. 撮像手段を備えた撮像装置の制御方法であって、
    前記撮像手段を用いて得られた画像データに基づいて、フリッカーの光量変化が少ない所定のタイミングを検出する検出工程と、
    前記検出工程で検出された前記所定のタイミングに基づいて、前記撮像手段の露光タイミングを決定する決定工程と、
    動画用の画像データの取得を開始してから静止画用の画像データの取得を開始するまでの間に、フリッカー光源の光量変化周期よりも短い第1の露光時間で前記撮像手段に画像データを取得させる撮像工程と、
    を有し、
    前記検出工程では、前記第1の露光時間を用いて取得された画像データと前記動画用の画像データに基づいて、前記所定のタイミングを検出し、
    前記決定工程では、前記検出工程で検出された前記所定のタイミングに基づいて、前記静止画用の画像データを取得するための前記撮像手段の露光タイミングを決定することを特徴とする撮像装置の制御方法。
  13. 請求項12に記載の撮像装置の制御方法の各工程をコンピュータで実行させるためのコンピュータで読み取り可能なプログラム。
  14. 請求項13に記載のプログラムを記録したコンピュータが読み取り可能な記録媒体。
JP2013225817A 2013-10-30 2013-10-30 撮像装置、撮像装置の制御方法、プログラム、及び記録媒体 Active JP6220225B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2013225817A JP6220225B2 (ja) 2013-10-30 2013-10-30 撮像装置、撮像装置の制御方法、プログラム、及び記録媒体
US14/520,728 US9756258B2 (en) 2013-10-30 2014-10-22 Image capturing apparatus, image capturing method, and control method for reducing the influence of flicker on still image exposure
CN201410601645.0A CN104601904B (zh) 2013-10-30 2014-10-30 摄像设备、摄像方法和控制方法
US15/488,554 US9794493B2 (en) 2013-10-30 2017-04-17 Image capturing apparatus, image capturing method, and control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013225817A JP6220225B2 (ja) 2013-10-30 2013-10-30 撮像装置、撮像装置の制御方法、プログラム、及び記録媒体

Publications (3)

Publication Number Publication Date
JP2015088917A JP2015088917A (ja) 2015-05-07
JP2015088917A5 JP2015088917A5 (ja) 2016-12-08
JP6220225B2 true JP6220225B2 (ja) 2017-10-25

Family

ID=52994975

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013225817A Active JP6220225B2 (ja) 2013-10-30 2013-10-30 撮像装置、撮像装置の制御方法、プログラム、及び記録媒体

Country Status (3)

Country Link
US (2) US9756258B2 (ja)
JP (1) JP6220225B2 (ja)
CN (1) CN104601904B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11330192B2 (en) 2018-06-15 2022-05-10 Olympus Corporation Acquisition method, computer readable recording medium and image apparatus

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6525715B2 (ja) * 2015-05-08 2019-06-05 キヤノン株式会社 撮像装置、光量変化の検出方法及びプログラム
US9571749B2 (en) * 2015-05-26 2017-02-14 Novatek Microelectronics Corp. Flicker detecting method for image capturing device
JP6704725B2 (ja) * 2015-12-16 2020-06-03 キヤノン株式会社 撮像装置、制御方法及びそのプログラム
JP6379307B2 (ja) * 2015-12-22 2018-08-22 富士フイルム株式会社 撮像装置、合焦制御方法、及び合焦制御プログラム
KR102615091B1 (ko) 2016-01-13 2023-12-19 삼성전자주식회사 촬영 장치 및 그 동작 방법
US10771713B2 (en) 2016-06-15 2020-09-08 Sony Corporation Imaging control device, imaging control method, and program
JP6669404B2 (ja) * 2016-06-29 2020-03-18 キヤノン株式会社 撮像装置、その制御方法、および制御プログラム
JP6661506B2 (ja) 2016-09-23 2020-03-11 サムスン エレクトロニクス カンパニー リミテッド 固体撮像装置
JP6759089B2 (ja) 2016-12-21 2020-09-23 キヤノン株式会社 画像処理装置、撮像装置、制御方法
JP6884064B2 (ja) 2017-07-26 2021-06-09 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
JP2019036907A (ja) 2017-08-21 2019-03-07 ソニーセミコンダクタソリューションズ株式会社 撮像装置及び機器
JP2020036128A (ja) * 2018-08-28 2020-03-05 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
CN109120863B (zh) * 2018-10-23 2021-01-01 Oppo广东移动通信有限公司 拍摄方法、装置、存储介质及移动终端
CN109547704A (zh) * 2018-12-29 2019-03-29 与德科技有限公司 一种防闪屏的拍照方法、装置、终端及存储介质
CN114339024A (zh) * 2020-10-10 2022-04-12 上海汉时信息科技有限公司 改善相机成像反光的方法、服务器及拍摄设备
WO2022153682A1 (ja) * 2021-01-12 2022-07-21 ソニーグループ株式会社 撮像装置、撮像制御方法、プログラム

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004193922A (ja) * 2002-12-11 2004-07-08 Sharp Corp カメラ装置
JP2006050337A (ja) 2004-08-05 2006-02-16 Sony Corp 撮像装置、撮像方法および撮像制御プログラム
JP2006222935A (ja) 2005-01-13 2006-08-24 Canon Inc 電子スチルカメラ及び撮像方法及びプログラム及び記憶媒体
JP4483744B2 (ja) 2005-08-26 2010-06-16 ソニー株式会社 撮像装置及び撮像制御方法
WO2007094066A1 (ja) * 2006-02-16 2007-08-23 Matsushita Electric Industrial Co., Ltd. フリッカ補正装置及びフリッカ補正方法
JP4840578B2 (ja) * 2006-06-29 2011-12-21 京セラ株式会社 撮像装置のフリッカ検出方法と装置
JP4353223B2 (ja) * 2006-09-07 2009-10-28 ソニー株式会社 画像データ処理装置、画像データ処理方法および撮像システム
TWI323434B (en) * 2006-11-30 2010-04-11 Ind Tech Res Inst Method of object segmentation for video
US8441551B2 (en) * 2008-11-14 2013-05-14 Ati Technologies Ulc Flicker detection circuit for imaging sensors that employ rolling shutters
JP5523124B2 (ja) 2010-01-26 2014-06-18 キヤノン株式会社 撮像装置
US8462229B2 (en) * 2010-09-30 2013-06-11 Hewlett-Packard Development Company, L.P. Detection of flicker within captured imaged frames
US9088727B2 (en) * 2011-04-06 2015-07-21 Pelco, Inc. Spatially-varying flicker detection
JP2013121099A (ja) * 2011-12-08 2013-06-17 Sony Corp 画像処理装置、および画像処理方法、並びにプログラム
TW201336295A (zh) * 2012-02-24 2013-09-01 Hon Hai Prec Ind Co Ltd 相機模組閃屏偵測裝置及相機模組閃屏偵測方法
US8736711B2 (en) * 2012-03-19 2014-05-27 Htc Corporation Camera with anti-flicker capability and image capturing method with anti-flicker capability
US9462194B2 (en) * 2012-12-04 2016-10-04 Hanwha Techwin Co., Ltd. Apparatus and method for calculating flicker-evaluation value
US9247223B2 (en) * 2013-01-25 2016-01-26 Blackberry Limited Reduce operating environment effect using multiple cameras

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11330192B2 (en) 2018-06-15 2022-05-10 Olympus Corporation Acquisition method, computer readable recording medium and image apparatus

Also Published As

Publication number Publication date
CN104601904A (zh) 2015-05-06
US20150116537A1 (en) 2015-04-30
US20170223251A1 (en) 2017-08-03
CN104601904B (zh) 2017-10-31
JP2015088917A (ja) 2015-05-07
US9794493B2 (en) 2017-10-17
US9756258B2 (en) 2017-09-05

Similar Documents

Publication Publication Date Title
JP6220225B2 (ja) 撮像装置、撮像装置の制御方法、プログラム、及び記録媒体
JP5322783B2 (ja) 撮像装置及び該撮像装置の制御方法
JP6362091B2 (ja) 撮像装置、その制御方法、および制御プログラム
US10447923B2 (en) Image processing apparatus, imaging apparatus, and method of controlling image processing apparatus
JP6525715B2 (ja) 撮像装置、光量変化の検出方法及びプログラム
JP6884064B2 (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP2015227995A5 (ja)
JP5039588B2 (ja) 撮像装置及び撮像装置の制御方法
JP2013178564A (ja) 撮像装置
JPWO2014041845A1 (ja) 撮像装置及び信号処理方法
JP5581968B2 (ja) 撮像装置
JP2015111252A (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP6238578B2 (ja) 撮像装置およびその制御方法
JP4637029B2 (ja) 撮像装置及びその制御方法
JP6393091B2 (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP2016213660A (ja) 撮像装置、光量変化の検出方法及びプログラム
US11102423B2 (en) Image pickup apparatus that performs flicker detection, control method for image pickup apparatus, and storage medium
JP6704718B2 (ja) 撮像装置、その制御方法、および制御プログラム
JP6704725B2 (ja) 撮像装置、制御方法及びそのプログラム
JP2016014762A (ja) 撮像装置及びその制御方法
JP2019022023A (ja) 撮像装置およびその制御方法
US10616469B2 (en) Image capturing apparatus and control method therefor
JP2022191894A (ja) 撮像装置
JP2017126921A (ja) 撮像装置
JP2021043371A (ja) 撮像装置およびその制御方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161021

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161021

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170622

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170626

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170809

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170901

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170929

R151 Written notification of patent or utility model registration

Ref document number: 6220225

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151