JP2018082272A - 撮像装置及び撮像方法 - Google Patents

撮像装置及び撮像方法 Download PDF

Info

Publication number
JP2018082272A
JP2018082272A JP2016222579A JP2016222579A JP2018082272A JP 2018082272 A JP2018082272 A JP 2018082272A JP 2016222579 A JP2016222579 A JP 2016222579A JP 2016222579 A JP2016222579 A JP 2016222579A JP 2018082272 A JP2018082272 A JP 2018082272A
Authority
JP
Japan
Prior art keywords
charge
image
photoelectric conversion
charge accumulation
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016222579A
Other languages
English (en)
Other versions
JP6755780B2 (ja
Inventor
山▲崎▼ 亮
Akira Yamazaki
亮 山▲崎▼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2016222579A priority Critical patent/JP6755780B2/ja
Priority to US15/807,684 priority patent/US10306160B2/en
Publication of JP2018082272A publication Critical patent/JP2018082272A/ja
Application granted granted Critical
Publication of JP6755780B2 publication Critical patent/JP6755780B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/42Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by switching between different modes of operation using different resolutions or aspect ratios, e.g. switching between interlaced and non-interlaced mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • H04N25/533Control of the integration time by using differing integration times for different sensor regions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/581Control of the dynamic range involving two or more exposures acquired simultaneously
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/587Control of the dynamic range involving two or more exposures acquired sequentially, e.g. using the combination of odd and even image fields
    • H04N25/589Control of the dynamic range involving two or more exposures acquired sequentially, e.g. using the combination of odd and even image fields with different integration times, e.g. short and long exposures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/771Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising storage means other than floating diffusion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/78Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】静止画像に適した画像群と動画像に適した画像群とを共通の光電変換部を用いて取得し得る撮像装置及び撮像方法を提供する。【解決手段】画像群の1フレームに対応する第1の期間内において行われる光電変換部による第1の電荷蓄積によって得られる電荷に応じた第1の信号によって第1の画像を生成し、第1の期間内において行われる光電変換部による複数回の第2の電荷蓄積によって得られる電荷に応じた第2の信号を少なくとも用いて第2の画像を生成する制御手段であって、第1の電荷蓄積の時間が所定時間未満である第1の場合には、第1の信号を用いることなく第2の信号によって第2の画像を生成し、第1の電荷蓄積の時間が所定時間以上である第2の場合には、第1の信号と第2の信号とを用いて第2の画像を生成する制御手段とを有している。【選択図】図6

Description

本発明は、撮像装置及び撮像方法に関する。
近時、静止画像に適した画像群と動画像に適した画像群とを1台の撮像装置で同時に撮像することが提案されている。動画像に適した画像群は、動画像の鑑賞用に用いられる。静止画像に適した画像群のうちの任意の画像がユーザによって選択され、選択された画像が静止画像として用いられる。
一方、光電変換部により変換された電荷を蓄積部に複数回転送し、複数回転送された電荷を蓄積部にまとめて蓄積することによって、暗電流を低減することが特許文献1において開示されている。
特開2010−157893号公報
しかしながら、静止画像に適した画像群と動画像に適した画像群とでは、これらを得る際に適する露光時間が大きく異なっている。このため、静止画像に適した画像群と動画像に適した画像群とを共通の光電変換部を用いて取得することは必ずしも容易ではない。
本発明の目的は、静止画像に適した画像群と動画像に適した画像群とを共通の光電変換部を用いて取得し得る撮像装置及び撮像方法を提供することにある。
本発明の一観点によれば、光電変換を行う光電変換部と、前記光電変換部による第1の電荷蓄積によって得られる電荷を保持する第1の電荷保持部と、前記光電変換部による複数回の第2の電荷蓄積によって得られる電荷を保持する第2の電荷保持部とをそれぞれ有する複数の画素が2次元的に配列された画素アレイと、画像群の1フレームに対応する第1の期間内において行われる前記第1の電荷蓄積によって得られる前記電荷に応じた第1の信号によって第1の画像を生成し、前記第1の期間内において行われる前記複数回の第2の電荷蓄積によって得られる前記電荷に応じた第2の信号を少なくとも用いて第2の画像を生成する制御手段であって、前記第1の電荷蓄積の時間が所定時間未満である第1の場合には、前記第1の信号を用いることなく前記第2の信号によって前記第2の画像を生成し、前記第1の電荷蓄積の時間が前記所定時間以上である第2の場合には、前記第1の信号と前記第2の信号とを用いて前記第2の画像を生成する制御手段とを有することを特徴とする撮像装置が提供される。
本発明によれば、静止画像に適した画像群と動画像に適した画像群とを共通の光電変換部を用いて取得し得る撮像装置及び撮像方法を提供することができる。
一実施形態による撮像装置を示す外観図である。 一実施形態による撮像装置の概略構成を示すブロック図である。 撮像素子の一部を示す回路図である。 撮像素子の一部を示す回路図である。 撮影条件の設定画面を示す図である。 プログラムAE線図の例を示す図である。 一実施形態による撮像装置の動作を示すタイミングチャートである。 ライブビュー表示の例を示す図である。 pictureAとpictureBの両方を並べて表示した場合の例を示す図である。 pictureAの画像群とpictureBの画像群の活用例を示す図である。
本発明の実施の形態を、添付の図面を参照して以下に詳細に説明するが、本発明は、以下の実施形態に限定されるものではない。
[一実施形態]
一実施形態による撮像装置及び撮像方法について図面を用いて以下に説明する。図1は本実施形態による撮像装置を示す外観図である。図1(a)は正面図であり、図1(b)は背面図である。ここでは、本実施形態による撮像装置100がデジタルスチルモーションカメラである場合を例に説明する。デジタルスチルモーションカメラは、動画像(動画)の撮影と静止画像(静止画)の撮影の垣根をなくすというコンセプトで開発された撮像装置である。
図1に示すように、撮像装置100は、ボディ(筐体、本体)151を有している。ボディ151の正面には、撮影光学系(レンズユニット)152が備えられている。ボディ151の上部には、スイッチ154と、プロペラ162とが備えられている。ボディ151の背面には、表示部153と、スイッチ155と、撮影モード選択レバー156と、メニューボタン157と、アップダウンスイッチ158,159と、ダイアル160と、再生ボタン161とが備えられている。
ボディ151は、撮像素子184(図2参照)等の種々の機能部品や、シャッター装置(図示せず)等を内部に収納している。撮影光学系152は、被写体の光学像を撮像素子184の受光部(受光面)に結像するためのものである。表示部153は、撮影情報や画像を表示するための表示素子によって構成されている。表示画面の向きを変えるための可動機構が表示部153に設けられていてもよい。表示部153は、輝度範囲を抑制することなくダイナミックレンジの広い画像を表示し得るように、十分な表示輝度範囲を備えていることが好ましい。
スイッチ154は、主として静止画像の撮影を行う際に用いられるシャッターボタンである。スイッチ155は、動画像の撮影の開始及び停止を行うためのボタンである。撮影モード選択レバー156は、撮影モードを選択するための切り替えスイッチである。メニューボタン157は、撮像装置100の機能設定を行う機能設定モードへ移行するためのボタンである。アップダウンスイッチ158,159やダイアル160は、各種の設定値の変更等に用いられる。再生ボタン161は、撮像装置100に収納されている記録媒体に記録されている画像を表示部153上で再生する再生モードに移行するためのボタンである。プロペラ162は、空中からの撮影を行うために撮像装置100を空中に浮上させるためのものである。
図2は、本実施形態による撮像装置100の概略構成を示すブロック図である。撮像装置100は、図2に示すように、絞り181と、絞り制御部182と、レンズ制御部170と、光学フィルタ183と、撮像素子184と、デジタル信号処理部187と、タイミング発生部189とを有している。また、撮像装置100は、システム制御部178と、入力手段179と、画像メモリ(映像メモリ)190と、飛行制御装置200とを有している。また、撮像装置100は、表示インターフェース部191と、表示部153と、記録インターフェース部192と、プリントインターフェース部194と、外部インターフェース部196と、無線インターフェース部198とを有している。
撮像素子184は、撮影光学系152によって結像される被写体の光学像を電気的な信号、即ち、画像信号(映像信号)に変換するためのものである。撮像素子184は、特に限定されるものではないが、例えば、UHDTV(Ultra High Definition Television)の規格を満たすのに十分な画素数、信号読み出し速度、色域、ダイナミックレンジ等を有している。撮影光学系152は、ボディ151から着脱可能であってもよいし、ボディ151から着脱不能であってもよい。絞り181は、撮影光学系152を通過する光の量を調節するためのものである。絞り制御部182は、絞り181を制御するためのものである。レンズ制御部170は、撮影光学系152に備えられたフォーカスレンズ(図示せず)を駆動して焦点調整を行うためのものである。光学フィルタ183は、撮像素子184に入射される光の波長や、撮像素子184に結像される光学像の空間周波数を制限するためのものである。撮影光学系152と、絞り181と、光学フィルタ183と、撮像素子184とは、撮影光学系152の光軸180上に配置されている。
デジタル信号処理部187は、撮像素子184から出力されるデジタルの画像信号、即ち、デジタルの画像データに対して各種の補正処理を行い、各種の補正処理が行われた画像データに対して圧縮処理を行う。タイミング発生部189は、撮像素子184やデジタル信号処理部187に対して各種のタイミング信号を出力する。システム制御部178は、各種の演算処理を実行し、撮像装置100の全体の制御を司る。システム制御部178は、例えばCPU(Central Processing Unit)によって構成されている。システム制御部178とタイミング発生部189とは、制御手段として機能し得る。システム制御部178は、後述するように、光電変換部500(図3(b)参照)から電荷保持部507A(図3(b)参照)に転送される電荷に応じた第1の信号によって第1の画像、即ち、静止画像に適した画像を生成する。また、システム制御部178は、後述するように、光電変換部500から電荷保持部507B(図3(b)参照)に複数回に亘って転送される電荷に応じた第2の信号を少なくとも用いて第2の画像、即ち、動画像に適した画像を生成する。システム制御部178は、後述するように、電荷保持部507Aに転送される電荷を生じさせるために光電変換部500において行われる第1の電荷蓄積の時間である第1の時間が所定時間未満である第1の場合には、以下のように動作する。即ち、かかる場合には、システム制御部178は、第1の信号を用いることなく第2の信号によって第2の画像を生成する。なお、所定時間は、電荷保持部507Bに転送される電荷を生じさせるために光電変換部500において行われる複数回の第2の電荷蓄積の合間の時間に応じた時間である。システム制御部178は、後述するように、第1の時間が所定時間以上である第2の場合には、第1の信号と第2の信号とを用いて第2の画像を生成する。画像メモリ190は、画像データを一時的に記憶する。
表示インターフェース部191は、撮影された画像を表示部153に表示するためのインターフェースである。表示部153には、例えば、液晶ディスプレイ等が用いられる。記録媒体193は、画像データや付加データ等を記録するためのものであり、半導体メモリ等が用いられる。記録媒体193は、撮像装置100から着脱不能であってもよいし、撮像装置100から着脱可能であってもよい。記録インターフェース部192は、記録媒体193に対して画像データ等の書き込みや読み出しを行うためのインターフェースである。外部インターフェース部196は、外部コンピュータ197等の外部機器と通信するためのインターフェースである。プリントインターフェース部194は、撮影された画像を小型インクジェットプリンタ等のプリンタ195に出力し印刷するためのインターフェースである。無線インターフェース部198は、インターネット等のネットワーク199と通信するためのインターフェースである。入力手段179は、スイッチ154、155、撮影モード選択レバー156、再生ボタン161等の各種スイッチを含む。飛行制御装置200は、空中からの撮影を行うためにプロペラ162を制御して撮像装置100を飛行させるためのものである。なお、ボディ151と別個に設けられた機体に飛行制御装置200やプロペラ162を設け、かかる機体に本実施形態による撮像装置100を取り付けるようにしてもよい。また、空中からの撮影を行うことを要しない場合には、飛行制御装置200やプロペラ162を備えることを要しない。
図3は、撮像素子184の一部を示す回路図である。図3(a)は、画素アレイと、画素アレイの周辺回路とを示している。図3(a)に示すように、撮像素子184は、画素アレイ302と、垂直走査回路301と、読み出し回路303とを含んでいる。画素アレイ302には、複数の画素306(図3(b)参照)が行列状、即ち、2次元的に配列されている。垂直走査回路301は、画素アレイ302に対して行方向に隣接して配置されている。垂直走査回路301は、行方向に延在するように配された各種の制御線に対して所定の制御信号を印加し、画素アレイ302の各行に位置している複数の画素306を行単位で制御する。読み出し回路303には、ノイズを除去する相関二重サンプリング(CDS)回路、信号ゲインを調節するアンプ、アナログ信号をデジタル信号に変換するA/D変換器等が備えられている。従って、本実施形態による撮像素子184からはデジタルの信号が出力される。なお、撮像素子184と別個にアナログフロントエンドを設け、アナログフロントエンドの出力をデジタル信号処理部187に供給するようにすることも可能である。この場合、A/D変換器等は、アナログフロントエンドに備えられる。
図3(b)は、画素アレイ302に配された画素306を示す図である。図3(b)においては、図面の簡略化のため、画素アレイ302に備えられた多数の画素306のうちの2つの画素306を抜き出して示している。第1行、第1列に位置する画素306、即ち、(1,1)の座標に位置する画素306と、第m行、第1列に位置する画素306、即ち、(m、1)の座標に位置する画素306とが、図3(b)に示されている。なお、各々の画素306の構成はいずれも同等であるため、図3(b)においては、同じ符号を適宜用いている。図3(b)に示すように、各々の画素306は、光電変換部500と、転送トランジスタ501A、501Bと、電荷保持部(信号保持部)507A、507Bと、転送トランジスタ502A、502Bとを有している。光電変換部500としては、例えばフォトダイオードが用いられている。本実施形態では、1つの光電変換部500に対して、2つの電荷保持部507A、507Bが備えられている。電荷保持部507A、507Bは、例えばキャパシタによってそれぞれ構成されている。更に、各々の画素306は、リセットトランジスタ(転送トランジスタ)503と、フローティングディフュージョン領域508と、リセットトランジスタ504と、増幅トランジスタ505と、選択トランジスタ506とを有している。
光電変換部500のアノードは接地線に接続されており、光電変換部500のカソードは、転送トランジスタ501Aのソースと、転送トランジスタ501Bのソースと、リセットトランジスタ503のソースとに接続されている。転送トランジスタ501Aのドレインは、電荷保持部507Aの一端と、転送トランジスタ502Aのソースとに接続されている。転送トランジスタ501Bのドレインは、電荷保持部507Bの一端と、転送トランジスタ502Bのソースとに接続されている。電荷保持部507Aの他端及び電荷保持部507Bの他端は、接地線に接続されている。転送トランジスタ502Aのドレイン、転送トランジスタ502Bのドレイン、リセットトランジスタ504のソース、及び、増幅トランジスタ505のゲートの接続ノードが、フローティングディフュージョン領域508に対応している。リセットトランジスタ504のドレインと増幅トランジスタ505のドレインは、電源線520に接続されている。増幅トランジスタ505のソースは、選択トランジスタ506のドレインに接続されている。選択トランジスタ506のソースは、出力信号線523に接続されている。増幅トランジスタ505のソースは、選択トランジスタ506と出力信号線523とを介して図示しない電流源に接続される。増幅トランジスタ505と電流源とによって、ソースフォロワ回路が構成される。選択トランジスタ506のゲートをオン状態にすると、増幅トランジスタ505のゲートの電位に応じた信号が出力信号線523を介して出力される。リセットトランジスタ503のドレインは、電源線521に接続されている。
各々の画素306は、垂直走査回路301から行方向に延在するように配されたリセット制御線319,330,転送制御線320A,320B,329A,329B、及び、選択制御線331に接続されている。リセット制御線319は、リセットトランジスタ504のゲートに接続されている。転送制御線320A,320Bは、転送トランジスタ501A,501Bのゲートにそれぞれ接続されている。転送制御線329A,329Bは、転送トランジスタ502A,502Bのゲートにそれぞれ接続されている。リセット制御線330は、リセットトランジスタ503のゲートに接続されている。選択制御線331は、選択トランジスタ506のゲートに接続されている。リセット制御線319は、リセットトランジスタ504のゲートに、垂直走査回路301から出力されるリセットパルスφRESを供給する。転送制御線320A,320Bは、転送トランジスタ501A,501Bのゲートに、垂直走査回路301から出力される転送パルスφTX1A,φTX1Bをそれぞれ供給する。転送制御線329A,329Bは、転送トランジスタ502A,502Bのゲートに、垂直走査回路301から出力される転送パルスφTX2A,φTX2Bをそれぞれ供給する。リセット制御線330は、リセットトランジスタ503のゲートに、垂直走査回路301から出力されるリセットパルスφTX3を供給する。選択制御線331は、選択トランジスタ506のゲートに、垂直走査回路301から出力される選択パルスφSELを供給する。なお、図3(b)において、符号φRES、φTX1A,φTX1B,φTX2A,φTX2B、φTX3、φSELの後の括弧内の文字は、行番号を示している。
光電変換部500は、光電変換によって電荷を生成するとともに、生成した電荷を蓄積する。転送トランジスタ501Aは、光電変換部500によって生成される電荷を電荷保持部507Aに転送するためのものである。電荷保持部507Aは、光電変換部500から転送トランジスタ501Aを介して転送される電荷を保持する。転送トランジスタ501Bは、光電変換部500によって生成される電荷を電荷保持部507Bに転送するためのものである。電荷保持部507Bは、光電変換部500から転送トランジスタ501Bを介して転送される電荷を保持する。転送トランジスタ502Aは、電荷保持部507Aに保持された電荷をフローティングディフュージョン領域508に転送するためのものである。転送トランジスタ502Bは、電荷保持部507Bに保持された電荷をフローティングディフュージョン領域508に転送するためのものである。フローティングディフュージョン領域508は、電荷保持部507Aから転送トランジスタ502Aを介して転送される電荷を保持する。また、フローティングディフュージョン領域508は、電荷保持部507Bから転送トランジスタ502Bを介して転送される電荷を保持する。
本実施形態では、1つの光電変換部500に対して2つの電荷保持部507A、507Bが設けられているため、2種類の画像を取得することが可能である。電荷保持部507Aに保持される電荷に応じた第1の信号は、第1の画像、即ち、静止画像に適した画像に用いられる。ここでは、第1の画像をpictureAとも称することとする。電荷保持部507Bに保持される電荷に応じた第2の信号は、第2の画像、即ち、動画像に適した画像に用いられる。ここでは、第2の画像をpictureBと称することとする。なお、pictureA、pictureBは、厳密には所定の補正処理等が行われた後の画像であるが、説明の便宜上、補正前や補正途中の信号(画像)についても、pictureA、pictureBと表記することがある。なお、後述するように、第1の信号は、第1の画像の生成にのみ用いられるわけではない。必要に応じて、第1の信号は、第2の画像の生成にも用いられる。
第1の信号に対応する電荷を得るための光電変換部500における電荷蓄積、即ち、第1の電荷蓄積と、第2の信号に対応する電荷を得るための光電変換部500における電荷蓄積、即ち、第2の電荷蓄積とは、排他的に行われる。即ち、第1の信号に対応する電荷を得るための第1の電荷蓄積が光電変換部500において行われている際には、第2の信号に対応する電荷を得るための第2の電荷蓄積は光電変換部500によって行われない。光電変換部500から電荷保持部507Aへの電荷の転送と、光電変換部500から電荷保持部507Bへの電荷の転送も、排他的に行われる。
垂直走査回路301からハイレベルの転送パルスφTX1Aが出力されると、転送トランジスタ501Aがオン状態となり、光電変換部500と電荷保持部507Aの一端とが電気的に接続される。垂直走査回路301からハイレベルの転送パルスφTX1Bが出力されると、転送トランジスタ501Bがオン状態となり、光電変換部500と電荷保持部507Bの一端とが電気的に接続される。垂直走査回路301からハイレベルの転送パルスφTX2Aが出力されると、転送トランジスタ502Aがオン状態となり、電荷保持部507Aの一端とフローティングディフュージョン領域508とが電気的に接続される。垂直走査回路301からハイレベルの転送パルスφTX2Bが出力されると、転送トランジスタ502Bがオン状態となり、電荷保持部507Bの一端とフローティングディフュージョン領域508とが電気的に接続される。垂直走査回路301からハイレベルのリセットパルスφRESが出力されると、リセットトランジスタ504がオン状態となる。リセットパルスφRESがハイレベルであり、かつ、転送パルスφTX2A、TX2Bがハイレベルの際には、リセットトランジスタ504と転送トランジスタ502A,502Bとがオン状態になる。この際には、電荷保持部507A,507Bとフローティングディフュージョン領域508とがリセットされる。リセットパルスφRESがハイレベルであるが、転送パルスφTX2A、TX2Bがローレベルの際には、リセットトランジスタ504はオン状態であるが、転送トランジスタ502A,502Bはオフ状態である。この際には、電荷保持部507A,507Bがリセットされることなく、フローティングディフュージョン領域508がリセットされる。
垂直走査回路301からリセット制御線330に出力されるリセットパルスφTX3がローレベルになると、リセットトランジスタ503がオフ状態となり、光電変換部500は、光電変換により生成される信号電荷(電荷)の蓄積を開始する。垂直走査回路301から転送制御線320Aにハイレベルの転送パルスφTX1Aが出力された場合には、転送トランジスタ501Aがオン状態となり、光電変換部500において生成された信号電荷が電荷保持部507Aに転送される。この後、転送パルスφTX1Aがローレベルになると、転送トランジスタ501Aがオフ状態となり、光電変換部500から電荷保持部507Aへの信号電荷の転送が終了する。この後、垂直走査回路301から転送制御線329Aにハイレベルの転送パルスφTX2Aが出力されると、転送トランジスタ502Aがオン状態となり、電荷保持部507Aからフローティングディフュージョン領域508に信号電荷が転送される。
一方、垂直走査回路301から転送制御線320Bにハイレベルの転送パルスφTX1Bが出力された場合には、転送トランジスタ501Bがオン状態となり、光電変換部500において生成された信号電荷が電荷保持部507Bに転送される。この後、転送パルスφTX1Bがローレベルになると、転送トランジスタ501Bがオフ状態となり、光電変換部500から電荷保持部507Bへの信号電荷の転送が終了する。この後、垂直走査回路301から転送制御線329Bにハイレベルの転送パルスφTX2Bが出力されると、転送トランジスタ502Bがオン状態となり、電荷保持部507Bからフローティングディフュージョン領域508に信号電荷が転送される。なお、上述したように、電荷保持部507Aに転送される電荷を得るための光電変換部500における第1の電荷蓄積と、電荷保持部507Bに転送される電荷を得るための光電変換部500における第2の電荷蓄積とは、排他的に行われる。また、上述したように、光電変換部500から電荷保持部507Aへの信号電荷の転送と、光電変換部500から電荷保持部507Bへの信号電荷の転送とは、排他的に行われる。
垂直走査回路301から出力されるハイレベルの選択パルスφSELによって選択トランジスタ506がオン状態となると、増幅トランジスタ505のゲート電位に応じた信号が選択トランジスタ506と出力信号線523とを介して出力される。
図4は、撮影条件の設定画面を示す図である。図4は、第1の画像(pictureA)と第2の画像(pictureB)とを並行して取得し得る撮影モードであるデュアル映像モード(デュアル画像モード、デュアル撮像モード)の撮影条件の設定画面を示している。デュアル映像モードにおいては、システム制御部178は、第1の画像、即ち、pictureAを所定のフレームレートで順次生成することによって複数の第1の画像を含む第1の画像群(第1のフレーム群)を生成する。また、デュアル映像モードにおいては、システム制御部178は、第2の画像、即ち、pictureBを所定のフレームレートで順次生成することによって複数の第2の画像を含む第2の画像群(第2のフレーム群)を生成する。このように、デュアル映像モードにおいては、所定のフレームレートでpictureAとpictureBとが並行して取得されるため、pictureAの画像群とpictureBの画像群とが得られる。pictureAの画像群を構成する複数のpictureAの各々は、静止画像として鑑賞するのに適した撮影条件で撮影される。ユーザは、pictureAの画像群のうちから任意のpictureAを選択し、選択した当該pictureAを静止画像として用い得る。一方、pictureBの画像群は、動画像として鑑賞するのに適した撮影条件で撮影される。ユーザは、pictureBの画像群を動画像として鑑賞し得る。なお、撮影モードの切り替えは、上述したように、撮影モード選択レバー156を回動させることによって行い得る。また、本実施形態による撮像装置100は、デュアル映像モードの他、静止画像のみを取得する静止画撮影モード、動画像のみを取得する動画撮影モード等によっても動作し得る。
図4に示す「picture A」はpictureAの撮影条件を示しており、図4に示す「picture B」はpictureBの撮影条件を示している。表示部153には、被写体の輝度に応じたBv値321及びFナンバー322が表示される。また、表示部153には、pictureAとpictureBのそれぞれのISO感度323、324と、シャッタースピード325、326と、ピクチャーモード327、328とが表示される。ユーザは、アップダウンスイッチ158、159やダイアル160等を操作することにより、複数のピクチャーモードのうちのいずれかのピクチャーモードを撮影目的等に応じて適宜選択し得る。
図5は、プログラムAE(Automatic Exposure)線図の例を示す図である。横軸は、Tv値と、Tv値に対応するシャッタースピードとを示しており、縦軸は、Av値と、Av値に対応する絞り値とを示している。また、斜めの線は、等Bv線を示している。静止画像のプログラム線図358は、図5において太い実線で示されており、動画像のプログラム線図359は、図5において太い点線で示されている。図5において符号356で示した部分は、静止画像の取得におけるBv値とISO感度との関係を示している。図5において符号357で示した部分は、動画像の取得におけるBv値とISO感度との関係を示している。図5において符号358で示した部分、即ち、ドットが付された部分は、静止画像の取得と動画像の取得のいずれにも共通するBv値とISO感度との関係を示している。なお、ISO感度の右側の括弧内に示された数字は、Sv値を示している。また、図5において各Bv値は、他のパラメータと区別するために、四角で囲んだ数値で示している。
高輝度から低輝度になるに従って、シャッタースピード、絞り値、ISO感度がどのように変化するかについて、図5を用いて説明する。図5から分かるように、Bv値が14の際、静止画像の取得においては、ISO感度は100に設定される。Bv値が14のときの静止画像の等Bv線は、静止画像のプログラム線図358と点351において交差する。点351に対応するシャッタースピードは1/4000秒であり、点351に対応する絞り値はF11である。従って、Bv値が14の際には、静止画像の取得においては、ISO感度は100、シャッタースピードは1/4000秒、絞り値はF11に設定される。ところで、動画像のフレームレートは、例えば60fpsである。フレームレートが60fpsの動画像の1フレームに対応する時間は1/60秒である。このため、動画像を取得する際のシャッタースピードは例えば1/60秒とされ、ISO感度と絞り値とを調整することによって動画像を取得する際の露出が調整される。図5から分かるように、Bv値が14の場合、動画像の取得においては、ISO感度は1に設定される。Bv値が14のときの動画像の等Bv線は、動画像のプログラム線図359と点352において交差する。点352に対応するシャッタースピードは1/60秒であり、点352に対応する絞り値はF11である。このように、Bv値が14の場合には、動画像の取得においては、ISO感度は1、シャッタースピードは1/60秒、絞り値はF11に設定される。
図5から分かるように、Bv値が12の際には、静止画像の取得においては、ISO感度は100に設定される。Bv値が12のときの静止画像の等Bv線は、静止画像のプログラム線図358と点353において交差する。点353に対応するシャッタースピードは1/1000秒であり、点353に対応する絞り値はF11である。従って、Bv値が12の場合には、静止画像の取得においては、ISO感度は100、シャッタースピードは1/1000秒、絞り値はF11に設定される。図5から分かるように、Bv値が12の場合、動画像の取得においては、ISO感度は6に設定される。Bv値が12のときの動画像の等Bv線は、動画像のプログラム線図359と点352において交差する。上述したように、点352に対応するシャッタースピードは1/60秒であり、点352に対応する絞り値はF11である。このように、Bv値が12の場合には、動画像の取得においては、ISO感度は6、シャッタースピードは1/60秒、絞り値はF11に設定される。
Bv値が4の際には、静止画像の取得においても、動画像の取得においても、ISO感度は100に設定される。Bv値が4のときの等Bv線は、点355において、静止画像のプログラム線図358及び動画像のプログラム線図359と交差する。点355に対応するシャッタースピードは1/60秒であり、点355に対応する絞り値はF2.8である。このように、Bv値が4の場合には、静止画像の取得においても、動画像の取得においても、ISO感度は100、シャッタースピードは1/60秒、絞り値はF2.8に設定される。
Bv値が−3の際には、静止画像の取得においても、動画像の取得においても、ISO感度は12800に設定される。Bv値が−3のときの等Bv線は、点355において、静止画像のプログラム線図358及び動画像のプログラム線図359と交差する。上述したように、点355に対応するシャッタースピードは1/60秒であり、点355に対応する絞り値はF2.8である。このように、Bv値が−3の場合には、静止画像の取得においても、動画像の取得においても、ISO感度は12800、シャッタースピードは1/60秒、絞り値はF2.8に設定される。
ところで、本実施形態では、デュアル映像モードの際には、上述したように、pictureAの画像群とpictureBの画像群とを並行して取得する。pictureAは、上述したように、電荷保持部507Aに蓄積される電荷に応じた信号を用いて生成され、pictureBは、上述したように、電荷保持部507Bに蓄積される電荷に応じた信号を用いて生成される。また、上述したように、本実施形態では、2つの電荷保持部507A、507Bに対して光電変換部500が1つしか設けられていない。このため、光電変換部500は、pictureAの生成のための電荷蓄積と、pictureBの生成のための電荷蓄積の両方を、毎フレームにおいて行わなければならない。しかも、pictureAは、比較的速いシャッタースピードで撮影することが求められる一方、pictureBは、滑らかな動画像を実現すべく比較的遅いシャッタースピードとすることが求められる。また、pictureAとpictureBとを並行して取得するため、pictureAとpictureBとを異なる絞り値で撮影することはできない。そこで、本実施形態では、動画像の1フレームに対応する期間内において、pictureBの生成のための電荷蓄積を光電変換部500において複数回に分けて行うようにしている。そして、pictureBの生成のために光電変換部500において順次蓄積される電荷を、複数回に亘って電荷保持部507Bに順次転送するようにしている。そして、電荷保持部507Bにまとめて蓄積された電荷に応じた信号によって、pictureBを生成するようにしている。また、本実施形態では、複数回に分けて光電変換部500において行われるpictureBのための電荷蓄積の合間に、pictureAの生成のための電荷蓄積を光電変換部500において行うようにしている。そして、pictureAの生成のために光電変換部500において蓄積される電荷を、電荷保持部507Aに転送し、電荷保持部507Aに蓄積される電荷に応じた信号によってpictureAを生成するようにしている。例えば、シャッタースピードが1/1000秒、絞り値がF11のpictureAを取得する場合には、本実施形態による撮像装置100は、以下のように動作する。即ち、動画像の1フレームに対応する1/60秒の期間において、pictureBのための1/8000秒の電荷蓄積を8回に分けて光電変換部500において行う。そして、光電変換部500における電荷蓄積によって順次得られる電荷を電荷保持部507Bに順次転送し、電荷保持部507Bにおいて加算された電荷に応じた信号によってpictureBを生成する。複数回に分けて光電変換部500において行われるpictureBのための電荷蓄積の合間に、pictureAのための1/1000秒の電荷蓄積を光電変換部500において行う。そして、光電変換部500における電荷蓄積によって順次得られる電荷を電荷保持部507Aに順次転送し、電荷保持部507Aに蓄積される電荷に応じた信号によってpictureAを生成する。1/8000秒の電荷蓄積を光電変換部500において8回行い、8回の電荷蓄積によって得られた電荷を加算すると、1/1000秒の電荷蓄積に相当する電荷量となる。従って、このようにしてpictureAとpictureBとを取得すれば、露光量が同等のpictureAとpictureBとを得ることができる。pictureAは、1/1000秒の1回の電荷蓄積に基づいて生成されるため、ブレの少ない良好な静止画像を得ることができる。また、pictureBは、異なるタイミングで順次行われた8回の1/8000秒の電荷蓄積によって得られる電荷の総和に基づいて生成されるため、滑らかな動画像を実現することができる。
ところで、pictureAの取得の際のシャッタースピードが遅くなると、即ち、pictureAのための光電変換部500における電荷蓄積の時間が長くなると、以下のようになる。即ち、pictureAの生成のための光電変換部500における電荷蓄積を、pictureBの生成のための光電変換部500における複数回の電荷蓄積の合間に行うことが困難となる。そこで、本実施形態では、pictureAの生成のための光電変換部500における電荷蓄積の時間が所定時間以上である場合には、以下のように動作するようにしている。即ち、本実施形態による撮像装置100は、かかる場合には、電荷保持部507Bに蓄積される電荷に応じた信号のみならず、電荷保持部507Aに蓄積される電荷に応じた信号をも用いて、pictureBを生成するようにしている。
図6は、本実施形態による撮像装置の動作を示すタイムチャートである。図6には、第1行目に位置する画素306に対しての制御が例として示されている。画素アレイ302の各行に位置する画素306に対して、図6に示すような制御が順次行われる。図6(a)は、pictureAの取得の際のシャッタースピード、即ち、pictureAの生成のための光電変換部500における電荷蓄積の時間が比較的速い場合を示している。ここでは、pictureAの取得におけるシャッタースピードが1/1000秒である場合を例として示す。図6(a)に示す例においては、動画像の1フレームに対応する1/60秒の期間内に、1/8000秒の電荷蓄積が8回に亘って光電変換部500において行われる。そして、8回の電荷蓄積によって光電変換部500において順次得られる電荷が電荷保持部507Bに順次転送され、電荷保持部507Bに累積的に蓄えられた電荷に応じた信号によってpictureBが得られる。図6に示すタイミングt1とタイミングt14とは、垂直同期信号φVの立ち上がりのタイミングに対応している。タイミングt1からタイミングt14までの時間は、動画像の1フレームに相当する時間であり、例えば1/60秒である。
図6(a)に示すように、タイミングt1においては、ハイレベルの垂直同期信号φVとハイレベルの水平同期信号φHとが、タイミング発生部189から垂直走査回路301等に出力される。ハイレベルの垂直同期信号φVとハイレベルの水平同期信号φHとが垂直走査回路301に供給されると、垂直走査回路301は、第1行目のリセット制御線319に供給するリセットパルスφRES(1)をローレベルにする。第1行目のリセット制御線319に供給するリセットパルスφRES(1)がローレベルになると、第1行目に位置するリセットトランジスタ504がオフ状態となり、第1行目に位置するフローティングディフュージョン領域508のリセット状態が解除される。また、タイミングt1においては、垂直走査回路301は、第1行目の選択制御線331に供給する選択パルスφSEL(1)をハイレベルにする。第1行目の選択パルスφSEL(1)がハイレベルになると、第1行目に位置する選択トランジスタ506がオン状態となり、第1行目に位置する画素306からの信号の読み出しが可能となる。
タイミングt2においては、垂直走査回路301は、第1行目の転送制御線329Bにハイレベルの転送パルスφTX2B(1)を出力する。第1行目の転送制御線329Bに供給される転送パルスφTX2B(1)がハイレベルになると、第1行目に位置する転送トランジスタ502Bがオン状態となる。第1行目に位置する転送トランジスタ502Bがオン状態になると、電荷保持部507Bに蓄積された電荷が、電荷保持部507Bからフローティングディフュージョン領域508に転送される。この段階において電荷保持部507Bからフローティングディフュージョン領域508に転送される電荷は、前のフレームに対応するものである。増幅トランジスタ505のゲートの電位、即ち、フローティングディフュージョン領域508の電位は、電荷保持部507Bからフローティングディフュージョン領域508に転送された電荷に応じた電位となる。そして、フローティングディフュージョン領域508の電位に応じた増幅トランジスタ505の出力が、選択トランジスタ506と出力信号線523とを介して読み出し回路303によって読み出される。こうして読み出される信号は、pictureBに用いられる。なお、垂直走査回路301は、第1行目のリセット制御線319に供給するリセットパルスφRES(1)を、タイミングt2とタイミングt3との間のタイミングにおいてハイレベルに変化させる。また、垂直走査回路301は、第1行目の選択制御線331に供給する選択パルスφSEL(1)を、タイミングt2とタイミングt3との間のタイミングにおいてローレベルに変化させる。
タイミングt3においては、垂直走査回路301は、第1行目の転送制御線329A、329Bにハイレベルの転送パルスφTX2A(1)、φTX2B(1)をそれぞれ出力する。第1行目の転送制御線329A、329Bに供給される転送パルスφTX2A(1)、φTX2B(1)がハイレベルになると、第1行目の転送トランジスタ502A、502Bがそれぞれオン状態となる。タイミングt3においては、1行目のリセット制御線319に供給するリセットパルスφRES(1)が既にハイレベルとなっているため、第1行目に位置するリセットトランジスタ504はオン状態となっている。このため、タイミングt3においては、第1行目に位置するフローティングディフュージョン領域508と、第1行目に位置する電荷保持部507Aと、第1行目に位置する電荷保持部507Bとがリセットされる。
タイミングt4においては、垂直走査回路301は、第1行目のリセット制御線330に供給するリセットパルスφTX3(1)をローレベルにする。第1行目のリセット制御線330に供給されるリセットパルスφTX3(1)がローレベルになると、第1行目に位置するリセットトランジスタ503がオフ状態となり、第1行目に位置する光電変換部500のリセットが解除される。第1行目に位置する光電変換部500のリセットが解除されると、第1行目に位置する光電変換部500への信号電荷の蓄積が開始される。即ち、pictureBの生成のために光電変換部500において行われる8回の電荷蓄積602のうちの1回目の電荷蓄積602−1が開始される。なお、個々の電荷蓄積について説明する際には、符号602−1〜602−8を用い、電荷蓄積一般について説明する際には、符号602を用いることとする。
タイミングt5においては、垂直走査回路301は、第1行目の転送制御線320Bに供給する転送パルスφTX1B(1)をハイレベルにする。第1行目の転送制御線320Bに供給される転送パルスφTX1B(1)がハイレベルになると、第1行目に位置する転送トランジスタ501Bがオン状態となり、光電変換部500に蓄積された信号電荷が電荷保持部507Bに転送される。
タイミングt6においては、垂直走査回路301は、第1行目の転送制御線320Bに供給する転送パルスφTX1B(1)をローレベルにする。第1行目の転送制御線320Bに供給される転送パルスφTX1B(1)がローレベルになると、第1行目に位置する転送トランジスタ501Bがオフ状態となり、光電変換部500から電荷保持部507Bへの信号電荷の転送が終了する。即ち、pictureBの生成のために光電変換部500において行われる8回の電荷蓄積602のうちの第1回目の電荷蓄積602−1が終了する。垂直走査回路301は、第1行目のリセット制御線330に供給するリセットパルスφTX3をハイレベルにする。第1行目のリセット制御線330に供給されるリセットパルスφTX3(1)がハイレベルになると、第1行目に位置するリセットトランジスタ503がオン状態となり、第1行目に位置する光電変換部500がリセット状態になる。こうして、pictureBの生成のために光電変換部500において行われる8回の電荷蓄積602のうちの第1回目の電荷蓄積602−1が行われる。かかる第1回目の電荷蓄積602−1は、タイミングt4からタイミングt6までの間に行われる。即ち、電荷蓄積602の時間である第2の時間は、タイミングt4からタイミングt6までの時間に相当する。タイミングt4は、上述したように、リセットトランジスタ503による光電変換部500のリセットが解消されるタイミングである。タイミングt6は、上述したように、光電変換部500から電荷保持部507Bへの転送トランジスタ501Bを介しての電荷の転送が終了するタイミングである。図6(a)においては、光電変換部500において行われる電荷蓄積602の各々が、右上がりの斜線を付すことによって表されている。第2回目から第8回目の電荷蓄積602−2〜602−8についても、第1回目の電荷蓄積602−1と同様にして行われる。各々の電荷蓄積602の時間は、例えば1/8000秒にそれぞれ設定される。各々の電荷蓄積602の合間の時間、即ち、電荷蓄積602のインターバルは、ほぼ同等に設定される。このように、本実施形態では、pictureBの生成のための電荷蓄積602が複数回に亘って離散的且つ均等に行われる。第1回目から第4回目までの電荷蓄積602−1〜602−4が、タイミングt7よりも前に行われる。
タイミングt7においては、垂直走査回路301は、第1行目のリセット制御線330に供給するリセットパルスφTX3(1)をローレベルにする。第1行目のリセット制御線330に供給されるリセットパルスφTX3(1)がローレベルになると、第1行目に位置するリセットトランジスタ503がオフ状態となり、第1行目に位置する光電変換部500のリセットが解除される。第1行目に位置する光電変換部500のリセットが解除されると、第1行目に位置する光電変換部500への信号電荷の蓄積が開始される。即ち、pictureAの生成のための電荷蓄積601が光電変換部500において開始される。
タイミングt8においては、垂直走査回路301は、第1行目の転送制御線320Aに供給する転送パルスφTX1A(1)をハイレベルにする。第1行目の転送制御線320Aに供給される転送パルスφTX1A(1)がハイレベルになると、第1行目に位置する転送トランジスタ501Aがオン状態となり、光電変換部500に蓄積された信号電荷が電荷保持部507Aに転送される。
タイミングt9においては、垂直走査回路301は、第1行目の転送制御線320Aに供給する転送パルスφTX1A(1)をローレベルにする。第1行目の転送制御線320Aに供給する転送パルスφTX1A(1)がローレベルになると、第1行目に位置する転送トランジスタ501Aがオフ状態となり、光電変換部500から電荷保持部507Aへの信号電荷の転送が終了する。即ち、pictureAの生成のための電荷蓄積601が光電変換部500において終了する。垂直走査回路301は、第1行目のリセット制御線330に供給するリセットパルスφTX3をハイレベルにする。第1行目のリセット制御線330に供給されるリセットパルスφTX3(1)がハイレベルになると、第1行目に位置するリセットトランジスタ503がオン状態となり、第1行目に位置する光電変換部500がリセット状態になる。こうして、pictureAの生成のための電荷蓄積601が光電変換部500において行われる。かかる電荷蓄積601は、タイミングt7からタイミングt9までの間に行われる。即ち、電荷蓄積601の時間である第1の時間は、タイミングt7からタイミングt9までの時間である。タイミングt7は、上述したように、リセットトランジスタ503による光電変換部500のリセットが解消されるタイミングである。タイミングt9は、上述したように、光電変換部500から電荷保持部507Aへの転送トランジスタ501Aを介しての電荷の転送が終了するタイミングである。図6(a)においては、光電変換部500における電荷蓄積601が、右下がりの斜線を付すことによって表されている。光電変換部500における電荷蓄積601の時間は、上述したように例えば1/1000秒に設定される。1/8000秒の電荷蓄積602を光電変換部500において8回行うことによって得られる総電荷量は、1/1000秒の電荷蓄積601によって得られる電荷量と同等である。従って、本実施形態によれば、pictureAの露光量とpictureBの露光量とを同等にすることができる。
タイミングt10においては、垂直走査回路301は、第1行目のリセット制御線319に供給するリセットパルスφRES(1)をローレベルにする。第1行目のリセット制御線319に供給されるリセットパルスφRES(1)がローレベルになると、第1行目のリセットトランジスタ504がオフ状態となり、フローティングディフュージョン領域508のリセット状態が解除される。また、タイミングt10においては、垂直走査回路301は、第1行目の選択制御線331に供給する選択パルスφSEL(1)をハイレベルにする。第1行目の選択パルスφSEL(1)がハイレベルになると、第1行目に位置する選択トランジスタ506がオン状態となり、第1行目に位置する画素306からの信号の読み出しが可能となる。
タイミングt11においては、垂直走査回路301は、第1行目の転送制御線329Aにハイレベルの転送パルスφTX2A(1)を供給する。第1行目の転送制御線329Aにハイレベルの転送パルスφTX2A(1)を供給すると、第1行目の転送トランジスタ502Aがオン状態となり、電荷保持部507Aに蓄積された信号電荷がフローティングディフュージョン領域508に転送される。増幅トランジスタ505のゲートの電位、即ち、フローティングディフュージョン領域508の電位は、電荷保持部507Bからフローティングディフュージョン領域508に転送された電荷に応じた電位となる。そして、フローティングディフュージョン領域508の電位に応じた増幅トランジスタ505の出力が、選択トランジスタ506と出力信号線523とを介して読み出し回路303によって読み出される。こうして読み出される信号、即ち、第1の信号は、pictureAの生成に用いられる。
光電変換部500において行われる第5回目から第8回目の電荷蓄積602−5〜602−8は、タイミングt12以降において行われる。
タイミングt14においては、タイミングt1と同様の動作が行われる。即ち、タイミングt14においては、ハイレベルの垂直同期信号φVとハイレベルの水平同期信号φHとが、タイミング発生部189から出力され、次のフレームの画像を取得するための動作が開始される。第1行目のリセット制御線319に供給するリセットパルスφRES(1)がローレベルにされ、第1行目に位置するリセットトランジスタ504がオフ状態となり、第1行目に位置するフローティングディフュージョン領域508のリセット状態が解除される。また、第1行目の選択制御線331に供給する選択パルスφSEL(1)がハイレベルにされ、これにより、第1行目に位置する選択トランジスタ506がオン状態となり、第1行目に位置する画素306からの信号の読み出しが可能となる。
タイミングt15においては、タイミングt2と同様の動作が行われる。即ち、タイミングt15においては、第1行目の転送制御線329Bにハイレベルの転送パルスφTX2B(1)が出力され、第1行目に位置する転送トランジスタ502Bがオン状態となる。これにより、電荷保持部507Bに蓄積された電荷が、電荷保持部507Bからフローティングディフュージョン領域508に転送される。そして、フローティングディフュージョン領域508の電位に応じた増幅トランジスタ505の出力が、選択トランジスタ506と出力信号線523とを介して読み出し回路303によって読み出される。こうして読み出される信号、即ち、第2の信号は、pictureBの生成に用いられる。
なお、上述したように、図6(a)は、第1行目に位置する画素306に対しての制御を示したものである。例えば、第2行目に位置する画素306に対しての制御は、タイミングt1においてタイミング発生部189から垂直走査回路301に供給される水平同期信号φHの次の水平同期信号φHに同期して行われる。また、第m行目に位置する画素306に対しての制御は、タイミングt13においてタイミング発生部189から垂直走査回路301に供給される水平同期信号φHに同期して行われる。画素アレイ302に含まれている全ての行の画素306に対しての制御が、タイミングt1からタイミングt14までの間に順次開始される。
このように、図6(a)に示す例においては、動画像の1フレームに対応する1/60秒の期間内において、pictureBの生成のための1/8000秒の電荷蓄積602を光電変換部500において8回に分けて行う。そして、電荷保持部507Bにおいて加算された電荷に応じた信号によってpictureBを生成する。複数回に分けて光電変換部500において行われるpictureBの生成のための電荷蓄積602の合間に、pictureAの生成のための1/1000秒の電荷蓄積601が光電変換部500において行われる。そして、電荷保持部507Aに蓄積される電荷に応じた信号によってpictureAが生成される。1/8000秒の電荷蓄積602を8回行い、8回の電荷蓄積602によって得られた電荷を加算すると、1/1000秒の電荷蓄積601に相当する電荷量となる。従って、このようにしてpictureAとpictureBとを取得すれば、露光量が同等のpictureAとpictureBとを得ることができる。しかも、pictureAは、1/1000秒の1回の電荷蓄積601によって取得されるため、ブレの少ない良好な画像となる。また、pictureBは、異なるタイミングで順次行われた8回の1/8000秒の電荷蓄積602によって得られた電荷を加算することにより得られるため、滑らかな動画像を実現することができる。
図6(b)は、pictureAの取得の際のシャッタースピード、即ち、pictureAの生成のために光電変換部500において行われる電荷蓄積の時間が、図6(a)に示す場合よりも長い例を示している。ここでは、pictureAの取得の際のシャッタースピードが1/500秒である場合を例として示す。図6(b)に示す例においては、動画像の1フレームに対応する1/60秒の期間内に、1/4000秒の電荷蓄積612が光電変換部500において複数回に亘って行われる。なお、個々の電荷蓄積について説明する際には符号612−1〜612−7を用い、電荷蓄積一般について説明する際には符号612を用いることとする。そして、光電変換部500において行われる複数回の電荷蓄積612によって順次得られる電荷が電荷保持部507Bに蓄積され、電荷保持部507Bに累積的に蓄えられた電荷に応じた信号がpictureBの生成に用いられる。図6(b)に示す場合においても、基本的な制御は図6(a)に示す場合と同様である。
1/4000秒の電荷蓄積612が8回行われれば、1/500秒の電荷蓄積611に相当する電荷量となる。しかしながら、図6(b)に示す場合においては、pictureAの生成のための光電変換部500における電荷蓄積611の時間が、pictureBの生成のための光電変換部500における電荷蓄積612の合間の時間よりも長い。このため、図6(b)に示す場合においては、pictureBの生成のための1/4000秒の電荷蓄積612が、光電変換部500において7回しか行われない。即ち、図6(b)に示す場合においては、pictureBの生成のための電荷蓄積612が1回分間引かれる。電荷蓄積612の間引きが生じているにもかかわらず、電荷保持部507Bに蓄積された電荷に応じた信号によってpictureBを単に生成した場合には、pictureBの露光量がpictureAの露光量よりも小さくなってしまう。即ち、pictureBの露出がアンダーとなってしまう。また、離散的且つ均等に行われる複数回の電荷蓄積602によって得られる電荷を加算することによってpictureBを生成すれば、滑らかな動画像を得ることは可能である。しかしながら、図6(b)のような電荷蓄積612の間引きが生じた場合には、滑らかさの失われた不自然な動画像となってしまう虞がある。そこで、本実施形態では、pictureAの生成のための電荷蓄積611の時間が所定時間より長い場合、即ち、pictureBの生成のための電荷蓄積612に間引きが生じる場合には、以下のような処理を行う。即ち、本実施形態では、かかる場合には、pictureAの生成のための電荷蓄積611によって得られた信号と、pictureBの生成のための電荷蓄積612によって得られた信号とを用いて、pictureBを生成するようにしている。
間引きが行われない場合、即ち、第1の場合における光電変換部500から電荷保持部507Bへの1フレーム当たりの電荷の転送の回数をaとする。間引きが行われる場合、即ち、第2の場合における光電変換部500から電荷保持部507Bへの1フレーム当たりの電荷の転送の回数をbとする。pictureAの座標(m,n)における信号をIs(m,n)とし、pictureBの座標(m,n)における信号をIm(m,n)とする。pictureAの生成のための電荷蓄積611によって得られた信号とpictureBの生成のための電荷蓄積612によって得られた信号とを用いて生成されるpictureBの座標(m,n)における信号をIm′(m,n)とする。そうすると、Im′(m,n)は、以下のような式(1)によって表される。
Im′(m,n)=Im(m,n)+{(a−b)/a}×Is(m,n) ・・・(1)
このように、間引きが行われる場合には、pictureAの生成のための第1の信号に(a−b)/aを乗算することにより得られる値と、pictureBの生成のための第2の信号とに基づいて、pictureB、即ち、第2の画像が生成される。
図6(b)のような場合に、このようにしてpictureBを生成すれば、pictureAの生成のための電荷蓄積602の時間が比較的長い場合であっても、滑らかな動画像を得ることができる。なお、図6(b)に示す例においては、pictureAの生成のための電荷蓄積611を、pictureBの生成のための電荷蓄積612−4とpictureBの生成のための電荷蓄積612−5とのほぼ中間に位置させている。換言すれば、第2の場合には、pictureAの生成のための電荷蓄積611のタイミング、即ち、電荷保持部507Aに転送される電荷を生じさせるために光電変換部500において行われる電荷蓄積611の期間の中心は、以下のように設定される。即ち、電荷蓄積612−4は、複数回の電荷蓄積612のうちの電荷蓄積611の直前の電荷蓄積である。電荷蓄積612−5は、複数回の電荷蓄積612のうちの電荷蓄積611の直後の電荷蓄積である。電荷蓄積611の期間の中心は、電荷蓄積612−4のタイミングから電荷蓄積612−5のタイミングまでの期間の中心と合致するように設定される。pictureAの生成のための電荷蓄積611のタイミングをこのように設定すれば、より滑らかな動画像を得ることが可能となる。
図7は、ライブビュー表示の例を示す図である。表示部153には、撮影光学系152を用いて捉えられた人物163のスポーツシーンが表示されている。また、撮影モード選択レバー156が、図1(b)に示す状態に対して時計方向に90度回動した位置にあるため、撮影モードは、デュアル映像モードとなっている。このため、pictureAとpictureBのシャッタースピード491、492及びFナンバー493が表示部153に表示されている。
図8は、pictureAとpictureBの両方を並べて表示した場合の例を示す図である。再生ボタン161がユーザによって操作された際には、図8に示すように、pictureAとpictureBの両方を並べて表示するようにすることが好ましい。ここでは、表示部153の表示画面のうちの上側の部分496にpictureAが表示され、表示部153の表示画面のうちの下側の部分497にpictureBが表示される場合を例に示している。pictureAとpictureBとをこのように並べて表示すれば、pictureAとpictureBとを容易に比較することが可能となる。例えば、速いシャッタースピードでpictureAが取得されており、pictureAがスポーツシーンの一瞬を大迫力で表現していることを確認することができる。なお、ここでは、pictureAとpictureBとを撮像装置100の表示部153に表示する場合を例に説明したがこれに限定されるものではない。例えば、pictureAの画像群のデータ及びpictureBの画像群のデータを、ネットワークを介してシステム或いは装置に供給し、そのシステム或いは装置の側において、pictureAとpictureBの表示を行うようにしてもよい。
図9は、pictureAの画像群とpictureBの画像群の活用例を示す図である。pictureAとpictureBのデータファイルは、記録媒体193に格納されていてもよいし、ネットワーク上のストレージ等に格納されていてもよい。フレーム群581は、例えばMP4ファイルに格納されたpictureAのフレーム群である。フレーム群571は、別のMP4ファイルに格納されたpictureBのフレーム群である。これらのMP4ファイルは、例えば、撮影時に同じCLIP−UMIDが設定されて互いに関連付けがなされている。
まず、pictureBのフレーム群571の再生、即ち、動画像の再生を開始すると、pictureBのフレーム群571の先頭フレーム572から所定のフレームレートで順次再生が行われる。pictureBのフレーム群は、上記のようにして取得されたフレーム群であるため、滑らかな動画像が再生される。
pictureBのフレーム群571の再生がフレーム573まで進行した時点で、ユーザが一時停止の操作を行うと、フレーム573と同一のタイムコードのフレーム582が、pictureAのデータファイルから検索される。そして、フレーム582のpictureAが表示部153に表示される。pictureAは、例えば1/1000秒という速いシャッタースピードで撮影された画像であるため、スポーツシーンの迫力ある一瞬を表現することができる。
pictureAのシャッタースピードは、上述したように例えば1/1000秒である。一方、pictureBのシャッタースピードは、動画像の1フレームに応じた時間である例えば1/60秒である。pictureAとpictureBとはシャッタースピードが著しく異なっているが、pictureAとpictureBは、ゲインは大きく異なっているわけではなく、同程度の信号電荷に基づいて生成されている。このため、pictureAとpictureBのいずれも、S/N比が高く、ノイズ感の少ない良好な画像である。
ユーザが入力手段179を操作することによって印刷の指示を行うと、フレーム582のpictureAの画像データがプリントインターフェース部194を介してプリンタ195に対して出力される。pictureAが印刷されるため、スポーツシーンの迫力ある一瞬を表現した印刷物が得られる。ユーザが入力手段179を操作することによって一時停止の解除を指示すると、pictureBのフレーム群571の再生が再開される。具体的には、フレーム574から再生が再開される。動画像の再生においては、上記のようにして取得したpictureBが用いられるため、滑らかな動画像を鑑賞することができる。
このように、本実施形態によれば、光電変換部500から電荷保持部507Aに転送される電荷に応じた第1の信号によって第1の画像、即ち、pictureAが生成される。また、光電変換部500から電荷保持部507Bに複数回に亘って転送される電荷に応じた第2の信号を少なくとも用いて第2の画像、即ち、pictureBが生成される。第1の信号に対応する電荷を生じさせるための光電変換部500における電荷蓄積の時間が所定時間未満である第1の場合には、第1の信号を用いることなく第2の信号によって第2の画像、即ち、pictureBが生成される。一方、第1の信号に対応する電荷を生じさせるための光電変換部500における電荷蓄積の時間が所定時間以上である第2の場合には、第1の信号と第2の信号とを用いて第2の画像、即ち、pictureBが生成される。従って、本実施形態によれば、第1の場合においても、第2の場合においても、所望のシャッタースピードの高品位の静止画像を得ることができるとともに、滑らかな高品位の動画像を得ることができる。即ち、本実施形態では、pictureAのための電荷蓄積とpictureBのための電荷蓄積とが共通の光電変換部500を用いて排他的に行われるにもかかわらず、所望のシャッタースピードの静止画像と滑らかな高品位の動画像とを得ることができる。このように、本実施形態によれば、静止画像に適した画像群と動画像に適した画像群とを共通の光電変換部を用いて取得し得る撮像装置を提供することができる。
[変形実施形態]
以上、好適な実施形態に基づいて本発明について詳述したが、本発明はこれらの実施形態に限定されるものではなく、要旨を逸脱しない範囲での様々な形態も本発明に含まれる。
例えば、上記実施形態では、光電変換部500から電荷保持部507Bへの1フレーム当たりの電荷の転送の回数aを8回とする場合を例に説明したが、これに限定されるものではない。光電変換部500から電荷保持部507Bへの1フレーム当たりの電荷の転送の回数aが、例えば16回や32回であってよい。
また、上記実施形態では、電荷蓄積612の間引きの回数が1フレーム当たり1回である場合の例を、図6(b)を用いて説明したが、これに限定されるものではない。1フレーム当たりの電荷蓄積612の間引きの回数が複数回であってもよい。
また、上記実施形態では、光電変換部500から電荷保持部507Aへの1フレーム当たりの電荷の転送の回数が1回である場合を例に説明したが、これに限定されるものではない。例えば、光電変換部500から電荷保持部507Aへの1フレーム当たりの電荷の転送の回数が、複数回であってもよい。即ち、pictureAの生成のために光電変換部500において行われる電荷蓄積601の1フレーム当たりの回数が複数回であってもよい。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100…撮像装置
178…システム制御部
302…画素アレイ
306…画素
500…光電変換部
507A、507B…電荷保持部

Claims (11)

  1. 光電変換を行う光電変換部と、前記光電変換部による第1の電荷蓄積によって得られる電荷を保持する第1の電荷保持部と、前記光電変換部による複数回の第2の電荷蓄積によって得られる電荷を保持する第2の電荷保持部とをそれぞれ有する複数の画素が2次元的に配列された画素アレイと、
    画像群の1フレームに対応する第1の期間内において行われる前記第1の電荷蓄積によって得られる前記電荷に応じた第1の信号によって第1の画像を生成し、前記第1の期間内において行われる前記複数回の第2の電荷蓄積によって得られる前記電荷に応じた第2の信号を少なくとも用いて第2の画像を生成する制御手段であって、前記第1の電荷蓄積の時間が所定時間未満である第1の場合には、前記第1の信号を用いることなく前記第2の信号によって前記第2の画像を生成し、前記第1の電荷蓄積の時間が前記所定時間以上である第2の場合には、前記第1の信号と前記第2の信号とを用いて前記第2の画像を生成する制御手段と
    を有することを特徴とする撮像装置。
  2. 前記所定時間は、前記複数回の第2の電荷蓄積の合間の時間に応じた時間であることを特徴とする請求項1に記載の撮像装置。
  3. 前記第1の場合における前記第2の電荷蓄積の回数をaとし、前記第2の場合における前記第2の電荷蓄積の回数をbとすると、前記制御手段は、前記第1の信号に(a−b)/aを乗算することにより得られる値と、前記第2の信号とを用いて、前記第2の画像を生成することを特徴とする請求項1又は2に記載の撮像装置。
  4. 前記第2の場合には、前記第1の電荷蓄積の期間の中心は、前記複数回の第2の電荷蓄積のうちの前記第1の電荷蓄積の直前の前記第2の電荷蓄積のタイミングから、前記複数回の第2の電荷蓄積のうちの前記第1の電荷蓄積の直後の前記第2の電荷蓄積のタイミングまでの期間の中心と合致するように設定されることを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
  5. 前記制御手段は、前記第1の画像を所定のフレームレートで順次生成することによって複数の前記第1の画像を含む第1の画像群を生成し、前記第2の画像を前記所定のフレームレートで順次生成することによって複数の前記第2の画像を含む第2の画像群を生成することを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。
  6. 前記第1の画像は静止画像に用いられ、前記第2の画像は動画像に用いられることを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
  7. 前記第1の電荷蓄積と前記第2の電荷蓄積とは排他的に行われることを特徴とする請求項1乃至6のいずれか1項に記載の撮像装置。
  8. 前記第1の場合における前記複数回の第2の電荷蓄積の時間の総和は、前記第1の場合における前記第1の電荷蓄積の時間と同等であることを特徴とする請求項1乃至7のいずれか1項に記載の撮像装置。
  9. 前記光電変換部には、前記第1の電荷蓄積によって得られる前記電荷を前記第1の電荷保持部に転送する第1の転送トランジスタと、前記第2の電荷蓄積によって得られる前記電荷を前記第2の電荷保持部に転送する第2の転送トランジスタと、前記光電変換部をリセットするリセットトランジスタとが接続されており、
    前記第1の電荷蓄積の時間は、前記リセットトランジスタによる前記光電変換部のリセットが解消されるタイミングから、前記光電変換部から前記第1の電荷保持部への前記第1の転送トランジスタによる電荷の転送が終了するタイミングまでの時間であり、
    前記第2の電荷蓄積の時間は、前記リセットトランジスタによる前記光電変換部のリセットが解消されるタイミングから、前記光電変換部から前記第2の電荷保持部への前記第2の転送トランジスタによる電荷の転送が終了するタイミングまでの時間であることを特徴とする請求項1乃至8のいずれか1項に記載の撮像装置。
  10. 画像群の1フレームに対応する第1の期間内において行われる光電変換部による第1の電荷蓄積によって得られる電荷に応じた第1の信号によって第1の画像を生成するステップと、
    前記第1の期間内において行われる前記光電変換部による複数回の第2の電荷蓄積によって得られる電荷に応じた第2の信号を少なくとも用いて第2の画像を生成するステップであって、前記第1の電荷蓄積の時間が所定時間未満である第1の場合には、前記第1の信号を用いることなく前記第2の信号によって前記第2の画像を生成し、前記第1の電荷蓄積の時間が前記所定時間以上である第2の場合には、前記第1の信号と前記第2の信号とを用いて前記第2の画像を生成するステップと
    を有することを特徴とする撮像方法。
  11. コンピュータに、
    画像群の1フレームに対応する第1の期間内において行われる光電変換部による第1の電荷蓄積によって得られる電荷に応じた第1の信号によって第1の画像を生成するステップと、
    前記第1の期間内において行われる前記光電変換部による複数回の第2の電荷蓄積によって得られる電荷に応じた第2の信号を少なくとも用いて第2の画像を生成するステップであって、前記第1の電荷蓄積の時間が所定時間未満である第1の場合には、前記第1の信号を用いることなく前記第2の信号によって前記第2の画像を生成し、前記第1の電荷蓄積の時間が前記所定時間以上である第2の場合には、前記第1の信号と前記第2の信号とを用いて前記第2の画像を生成するステップと
    を実行させるためのプログラム。
JP2016222579A 2016-11-15 2016-11-15 撮像装置及び撮像方法 Active JP6755780B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016222579A JP6755780B2 (ja) 2016-11-15 2016-11-15 撮像装置及び撮像方法
US15/807,684 US10306160B2 (en) 2016-11-15 2017-11-09 Image pickup apparatus, image pickup method, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016222579A JP6755780B2 (ja) 2016-11-15 2016-11-15 撮像装置及び撮像方法

Publications (2)

Publication Number Publication Date
JP2018082272A true JP2018082272A (ja) 2018-05-24
JP6755780B2 JP6755780B2 (ja) 2020-09-16

Family

ID=62108792

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016222579A Active JP6755780B2 (ja) 2016-11-15 2016-11-15 撮像装置及び撮像方法

Country Status (2)

Country Link
US (1) US10306160B2 (ja)
JP (1) JP6755780B2 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011259102A (ja) * 2010-06-07 2011-12-22 Olympus Corp 読出し制御装置、読出し制御方法、プログラム、撮像装置および固体撮像装置
JP2012019286A (ja) * 2010-07-06 2012-01-26 Olympus Corp 読出し制御装置、読出し制御方法、プログラム、固体撮像装置、および撮像装置
US20130135486A1 (en) * 2011-11-28 2013-05-30 Chung Chun Wan High dynamic range imaging with multi-storage pixels

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5100066B2 (ja) * 2006-09-06 2012-12-19 パナソニック株式会社 撮像装置および撮像方法
JP2009111518A (ja) * 2007-10-26 2009-05-21 Casio Comput Co Ltd 撮像装置、画像再生装置及びそのプログラム、画像ファイルのデータ構造
JP2009152669A (ja) * 2007-12-18 2009-07-09 Sony Corp 撮像装置、撮像処理方法及び撮像制御プログラム
JP5258551B2 (ja) 2008-12-26 2013-08-07 キヤノン株式会社 固体撮像装置、その駆動方法及び撮像システム
JP4877359B2 (ja) * 2009-02-10 2012-02-15 ソニー株式会社 固体撮像装置及び撮像装置
JP5342969B2 (ja) * 2009-09-10 2013-11-13 富士フイルム株式会社 撮像装置及び撮像方法
US9040892B2 (en) * 2012-07-27 2015-05-26 Apple Inc. High dynamic range image sensor having symmetric interleaved long and short exposure pixels
US9113097B2 (en) * 2013-02-06 2015-08-18 Canon Kabushiki Kaisha Image capturing apparatus that controls performing of short-term and long-term exposures and corresponding read operations, and control method thereof

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011259102A (ja) * 2010-06-07 2011-12-22 Olympus Corp 読出し制御装置、読出し制御方法、プログラム、撮像装置および固体撮像装置
JP2012019286A (ja) * 2010-07-06 2012-01-26 Olympus Corp 読出し制御装置、読出し制御方法、プログラム、固体撮像装置、および撮像装置
US20130135486A1 (en) * 2011-11-28 2013-05-30 Chung Chun Wan High dynamic range imaging with multi-storage pixels

Also Published As

Publication number Publication date
US10306160B2 (en) 2019-05-28
US20180139397A1 (en) 2018-05-17
JP6755780B2 (ja) 2020-09-16

Similar Documents

Publication Publication Date Title
JP6184869B2 (ja) 撮像装置、画像処理装置、画像ファイルを記録した記録媒体、記録方法、画像再生方法およびプログラム
US11290648B2 (en) Image capture apparatus and control method thereof
CN109792493B (zh) 摄像设备和摄像方法
US20180220058A1 (en) Image capture apparatus, control method therefor, and computer-readable medium
US10651214B2 (en) Imaging apparatus and control method therefor
JP7292962B2 (ja) 撮像装置およびその制御方法
JP7271155B2 (ja) 撮像装置およびその制御方法
JP2017112596A (ja) 撮像装置及びその制御方法
JP7258465B2 (ja) 撮像装置およびその制御方法
JP2009005173A (ja) 撮像装置及びその制御方法並びに撮像システム
JP7551671B2 (ja) 撮像用回路およびその制御方法
JP6855251B2 (ja) 撮像装置及び再生装置
JP6755780B2 (ja) 撮像装置及び撮像方法
JP5094656B2 (ja) 撮像装置、その制御方法及びプログラム
JP5235701B2 (ja) 撮像装置
JP7234015B2 (ja) 撮像装置およびその制御方法
JP6674225B2 (ja) 撮像装置及び画像歪検出方法
JP2018125697A (ja) 撮像装置及びその制御方法
WO2020203799A1 (ja) 撮像素子、及び、撮像装置
US11539903B2 (en) Imaging apparatus and method of controlling the same and non-transitory computer-readable storage medium
JP6808473B2 (ja) 撮像装置及びその駆動方法
JP2019041168A (ja) 撮像装置およびその制御方法
JP5376966B2 (ja) 撮像素子及び撮像装置
JP2017203829A (ja) 制御装置、撮像装置、制御方法、プログラム、記憶媒体
JP2019180055A (ja) 撮像装置及び画像歪検出方法

Legal Events

Date Code Title Description
RD05 Notification of revocation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7425

Effective date: 20171214

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20180126

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191111

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200720

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200728

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200826

R151 Written notification of patent or utility model registration

Ref document number: 6755780

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151