JP2018006991A - 撮像素子およびカメラ - Google Patents

撮像素子およびカメラ Download PDF

Info

Publication number
JP2018006991A
JP2018006991A JP2016130966A JP2016130966A JP2018006991A JP 2018006991 A JP2018006991 A JP 2018006991A JP 2016130966 A JP2016130966 A JP 2016130966A JP 2016130966 A JP2016130966 A JP 2016130966A JP 2018006991 A JP2018006991 A JP 2018006991A
Authority
JP
Japan
Prior art keywords
electronic shutter
area
signal
unit
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016130966A
Other languages
English (en)
Other versions
JP6903874B2 (ja
Inventor
山中 秀記
Hideki Yamanaka
秀記 山中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2016130966A priority Critical patent/JP6903874B2/ja
Publication of JP2018006991A publication Critical patent/JP2018006991A/ja
Priority to JP2021047475A priority patent/JP7176585B2/ja
Application granted granted Critical
Publication of JP6903874B2 publication Critical patent/JP6903874B2/ja
Priority to JP2022180382A priority patent/JP7533556B2/ja
Priority to JP2024123065A priority patent/JP2024138158A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)

Abstract

【課題】1フレーム内において、ローリング電子シャッタ方式による撮像信号とグローバル電子シャッタ方式による撮像信号とを得ること。【解決手段】撮像素子は、光を電荷に変換する第1光電変換部と、前記第1光電変換部で光電変換された電荷により生成された第1信号を読み出す第1読出部と、を含む第1画素と、光を電荷に変換する第2光電変換部と、前記第2光電変換部で光電変換された電荷により生成された第2信号を読み出す第2読出部と、を含む第2画素と、を有する撮像素子と、前記第1信号を第1電子シャッタ方式で読み出し、前記第2信号を前記第1電子シャッタ方式とは異なる第2電子シャッタ方式で読み出すように前記第1読出部及び前記第2読出部を制御する制御部と、を備える。【選択図】図11

Description

本発明は、撮像素子およびカメラに関する。
従来、ローリング電子シャッタ方式とグローバル電子シャッタ方式とを切り替え可能な撮像素子が知られている(特許文献1参照)。
従来の撮像素子では、1フレームの読出期間においてローリング電子シャッタ方式とグローバル電子シャッタ方式による信号読出を行うことはできなかった。
特開2012−165104号公報
請求項1に記載の撮像素子は、光を電荷に変換する第1光電変換部と、前記第1光電変換部で光電変換された電荷により生成された第1信号を読み出す第1読出部と、を含む第1画素と、光を電荷に変換する第2光電変換部と、前記第2光電変換部で光電変換された電荷により生成された第2信号を読み出す第2読出部と、を含む第2画素と、を有する撮像素子と、前記第1信号を第1電子シャッタ方式で読み出し、前記第2信号を前記第1電子シャッタ方式とは異なる第2電子シャッタ方式で読み出すように前記第1読出部及び前記第2読出部を制御する制御部と、を備える。
請求項10に記載のカメラは、請求項4〜9のいずれか一項に記載の撮像素子と、前記撮像素子から前記第1電子シャッタ方式で読み出された撮像信号を用いて、焦点調節処理、露出演算処理、ホワイトバランス調整処理、被写体認識処理、動体予測処理および被写体追尾処理の少なくとも1つを実行する処理実行部と、を備える。
請求項12に記載のカメラは、請求項6〜9のいずれか一項に記載の撮像素子と、前記一部の画素においては、前記第1電子シャッタ方式で読み出された撮像信号と前記第2電子シャッタ方式で読み出された撮像信号とを用いて画像信号を取得し、残りの画素においては前記第2電子シャッタ方式で読み出された撮像信号を用いて画像信号を取得する画像取得部と、を備える。
本発明の一実施の形態におけるデジタルカメラの構成例を示す図である。 撮像素子の概略的な全体構成を説明する図である。 従来の撮像システムの構成例を示す図である。 ローリング電子シャッタ方式のCMOS撮像素子における単位画素および垂直駆動回路の一部の構成を示す図である。 ローリング電子シャッタの駆動タイミングを示す図である。 ローリング電子シャッタの駆動タイミングの全体イメージを示す図である。 グローバル電子シャッタ方式のCMOS撮像素子における単位画素および垂直駆動回路の一部の構成を示す図である。 グローバル電子シャッタの駆動タイミングを示す図である。 グローバル電子シャッタの駆動タイミングの全体イメージを示す図である。 第1の実施の形態における撮像システムの構成例を示す図である。 第1実施例における撮像素子の単位画素および垂直駆動回路の一部の構成を示す図である。 第1実施例におけるローリング電子シャッタおよびグローバル電子シャッタの駆動タイミングを示す図である。 第1実施例におけるローリング電子シャッタおよびグローバル電子シャッタ駆動タイミングの全体イメージを示す図である。 グローバル電子シャッタ駆動させる行の設定例を示す図である。 第2実施例における撮像素子の単位画素および垂直駆動回路の一部の構成を示す図である。 第2実施例におけるローリング電子シャッタおよびグローバル電子シャッタの駆動タイミングを示す図である。 第2実施例におけるローリング電子シャッタおよびグローバル電子シャッタ駆動タイミングの全体イメージを示す図である。 第3実施例における撮像素子の単位画素および垂直駆動回路の一部の構成を示す図である。 グローバル電子シャッタ駆動させるブロックエリアの第1設定例を示す図である。 第3実施例におけるローリング電子シャッタおよびグローバル電子シャッタの駆動タイミングを示す図である。 グローバル電子シャッタ駆動させるブロックエリアの第2設定例を示す図である。 グローバル電子シャッタ駆動させるブロックエリアの第3設定例を示す図である。 グローバル電子シャッタ駆動させるブロックエリアの第4設定例を示す図である。 第4実施例におけるブロックエリアの配置と垂直エリアおよび水平エリアの設定との関係を説明する図である。 グローバル電子シャッタ駆動させるエリアの設定例を示す図である。 第2の実施の形態における撮像システムの構成例を示す図である。 第2の実施の形態における単位画素の構成例を示す図である。 第2の実施の形態におけるローリング電子シャッタおよびグローバル電子シャッタの駆動タイミングを示す図である。 動体検出を説明する図である。 ローリング電子シャッタおよびグローバル電子シャッタで得られる画像の例を示す図である。
−第1の実施の形態−
図面を参照しながら、本発明の第1の実施の形態について説明する。図1は、本実施の形態におけるデジタルカメラの構成を示すブロック図である。図1のデジタルカメラは、レンズ交換式のデジタルカメラであり、交換レンズ110とカメラボディ100とから構成され、交換レンズ110がレンズ取り付け部105を介してカメラボディ100に装着される。
交換レンズ110は、レンズ制御装置111、ズームレンズ112、フォーカスレンズ113、防振レンズ114、絞り115、レンズ操作部116などを備えている。レンズ制御装置111は、CPUとメモリなどの周辺部品とを含み、フォーカスレンズ113および絞り115の駆動制御、ズームレンズ112やフォーカスレンズ113の位置検出、カメラボディ100へのレンズ情報の送信およびカメラボディ100からのカメラ情報の受信などを行う。
カメラボディ100は、撮像素子101、ボディ制御装置102、ボディ操作部103、および表示部104などを有している。撮像素子101は、交換レンズ110の予定結像面(予定焦点面)に配置され、交換レンズ110により結像された被写体像を光電変換する。ボディ操作部103は、シャッターボタンや、焦点検出エリアの設定部材などを含む。表示部104は、カメラボディ100の背面に搭載された液晶モニタ(背面モニタ)である。
ボディ制御装置102は、CPUとメモリなどの周辺部品とを含む。ボディ制御装置102は、撮像素子101の駆動制御、画像信号の読み出し、焦点検出演算および交換レンズ110の焦点調節、画像信号の処理および記録、デジタルカメラの動作制御などを行う。ボディ制御装置102は、レンズ取り付け部105に設けられた電気接点106を介してレンズ制御装置111と通信を行い、レンズ情報の受信およびカメラ情報(デフォーカス量や絞り値など)の送信を行う。
交換レンズ110を通過した光束により、撮像素子101の受光面上に被写体像が形成される。この被写体像は撮像素子101により光電変換され、画像信号がボディ制御装置102へ送られる。
ボディ制御装置102は、撮像素子101からの画像信号に基づいて焦点検出演算を行うことにより、交換レンズ110の焦点調節状態(デフォーカス量)を検出し、このデフォーカス量をレンズ制御装置111へ送る。レンズ制御装置111は、受信したデフォーカス量に基づいてフォーカスレンズ113の駆動量を算出し、この駆動量に基づいてフォーカスレンズ113を不図示のモーター等で駆動して合焦位置へ移動させる。
また、ボディ制御装置102は、撮像素子101からの画像信号を処理して画像データを生成し、不図示のメモリカードに格納する。それとともに、ボディ制御装置102は、撮像素子101からのスルー画像信号に基づくスルー画像を表示部104に表示させる。
(撮像素子の全体構成)
図2は、撮像素子101の全体構成を簡略化して説明する図である。なお、図2では、電源部や詳細回路は省略している。撮像素子101は、CMOSイメージセンサで構成される。撮像素子101は、画素エリア201と、垂直駆動回路202と、カラム回路203と、水平転送回路204と、出力回路205と、制御部206と、を有する。画素エリア201は、水平方向(行方向)および垂直方向(列方向)に二次元状に配列された複数の画素を有する。各画素は、入射光量に応じた電荷を蓄積するフォトダイオード(光電変換部)を有する。画素エリア201内にある各画素は垂直駆動回路202により制御され、光電変換によりフォトダイオードに蓄積された蓄積電荷に応じた撮像信号が順次カラム回路203に出力される。カラム回路203では、各画素からの撮像信号に対して相関二重サンプリング(CDS)を行ったりゲインをかけたりすることで、画像信号として後段回路(不図示)で扱いやすいように処理する。カラム回路203で処理された撮像信号は、水平転送回路204を通り出力回路205に送られ、撮像素子101の出力として後段回路に受け渡される。ここでは、アナログ出力のセンサの例で記載したが、デジタル出力のセンサを用いても基本的な考え方は変わらない。制御部206は、以上の各部を制御する。以下に説明する画素エリア201、垂直駆動回路202、カラム回路203、水平転送回路204、および出力回路205の動作は、全て制御部206の制御によるものである。
(従来の撮像システム)
ここで、本実施形態による撮像システムの説明の前に、従来の撮像システムの構成例について説明する。図3は、従来の撮像システムの構成例を示す図である。従来の撮像システム500では、撮像素子501により得られた画像信号に基づいて被写体検出部502により被写体検出を行う。そして、処理実行部503は、被写体検出部502による検出結果に基づいて、被写体認識処理を行い、その認識結果を基に、動体の動きを予測する動体予測処理や被写体を追尾する被写体追尾処理、AF(AutoFocus)エリアの選択処理などを行ってきた。このような撮像システム500の用途に応じて、ローリング電子シャッタ方式で駆動する撮像素子やグローバル電子シャッタ方式で駆動するCMOS撮像素子が用いられている。
(ローリング電子シャッタ方式)
図4は、ローリング電子シャッタ方式のCMOS撮像素子600における単位画素620の構成を示す図である。図4では、単位画素(1画素)620あたり、フォトダイオードPD1個とトランジスタ4個(転送トランジスタTX−Tr、リセットトランジスタRST−Tr、増幅トランジスタSF−Tr、セレクトトランジスタSEL−Tr)を有する。これらの各部は、図4に示すように接続されている。転送トランジスタTXは、フォトダイオードPDに蓄積された電荷を転送する。フローティングディフュージョン(浮遊容量)FDは、フォトダイオードPDから転送される電荷を保持する電荷保持部として機能する。増幅トランジスタSF-Trは、ソースフォロワ回路を形成し、フローティングディフュージョンFDの電位に応じた信号を出力する。リセットトランジスタRST-Trは、フローティングディフュージョンFDの電位やフォトダイオードPDの電荷をリセットする。セレクトトランジスタSEL−Trは、画素が選択されるとオンし、フローティングディフュージョンFDから垂直信号線640までを接続する。図4においてVDDは電源電圧を示す。
また、図4では、垂直駆動回路630の一部を記載しており、垂直駆動回路630内におけるドライバDrの接続までを示す。図4において、VselはセレクトトランジスタSEL−Trの制御パルスを示す。選択行のみ制御パルスVselがHighになり、セレクトトランジスタSEL−Trがオンすると、フローティングディフュージョンFDから垂直信号線640までが接続される。また、VrstはリセットトランジスタRST−Trの制御パルスを示す。フォトダイオードPDのリセットやフローティングディフュージョンFDのリセットの際、制御パルスVrstがHighになり、リセットトランジスタRST−Trがオンする。また、Vtxは転送トランジスタTX−Trの制御パルスを示す。フォトダイオードPDの蓄積電荷を転送する際、制御パルスVtxがHighになり、転送トランジスタTX−Trがオンする。
図5は、ローリング電子シャッタの駆動タイミングを示す図であり、例として、1行目と2行目の画素の動作について示したものである。なお、図5において、1行目のセレクトトランジスタSEL−Trの制御パルスをVsel_1、2行目のセレクトトランジスタSEL−Trの制御パルスをVsel_2と表記する。その他のトランジスタの制御パルスも同様である。また、1行目の水平転送を水平転送1、2行目の水平転送を水平転送2と表記する。また、1水平期間(1H)は、1行分の読み出しにかかる時間の長さを表す。以上の表記は、以下に説明する他の図でも同様である。
図5に示すように、1行目と2行目では、フォトダイオードPDのリセット(PD_rst)とフォトダイオードPDの読み出し(PD_read)のタイミングが、1水平期間(1H)分ずれている。これがローリング電子シャッタの特徴であり、フォトダイオードPDのリセットからフォトダイオードPDの読み出しまでの期間が蓄積時間(シャッター時間)となる。各行では、蓄積時間の最初にフォトダイオードPDのリセットが行われる。フォトダイオードPDのリセットでは、それまでにフォトダイオードPDに蓄積されていた不要電荷をリセットトランジスタRST−Trを通して排出する。蓄積時間経過後にフォトダイオードPDの読み出しが行われる。フォトダイオードPDの読み出しでは、蓄積時間中にフォトダイオードPDに蓄積された電荷をフローティングディフュージョンFDに転送し、増幅トランジスタSF−Tr、セレクトトランジスタSEL−Trを通して蓄積電荷に応じた信号を垂直信号線640に読み出す。なお、フォトダイオードPDのリセット、フォトダイオードPDの読み出しは、図示したタイミングに限られない。垂直信号線640上に読み出された撮像信号は、カラム回路を通り、行毎に順次水平転送され出力される。
図6は、ローリング電子シャッタの駆動タイミングの全体イメージを示す図であり、縦軸を行数、横軸を時間として示している。図5でも説明した通り、フォトダイオードPDのリセット(PD_rst)とフォトダイオードPDの読み出し(PD_read)の間が蓄積時間である。フォトダイオードPDからの読み出し後すぐに水平転送が行われる。図6に示すように、ローリング電子シャッタでは、蓄積時間の間隔は同じでも、行毎の蓄積同時性がないことが分かる。
(グローバル電子シャッタ方式)
図7は、グローバル電子シャッタ方式のCMOS撮像素子700における単位画素720の構成を示す図である。図7では、単位画素(1画素)720あたり、フォトダイオードPD1個と保持容量SC1個とトランジスタ5個(転送トランジスタTX−Tr、リセットトランジスタRST−Tr、増幅トランジスタSF−Tr、セレクトトランジスタSEL−Tr、保持容量転送トランジスタSG−Tr)とを有する。これらの各部は、図7に示すように接続されている。また、図7では、垂直駆動回路730の一部を記載しており、垂直駆動回路730内におけるドライバDrの接続までを示す。
図7に示すように、グローバル電子シャッタ方式のCMOS撮像素子700の単位画素720の構成には、図4に示したローリング電子シャッタ方式のCMOS撮像素子600の単位画素620と同様の構成に加えて、保持容量SCと保持容量転送トランジスタSG−Trとが追加されている。保持容量SCは、転送トランジスタTX−TrによりフォトダイオードPDから転送される蓄積電荷を保持する電荷保持部として機能する。保持容量転送トランジスタSG−Trは、保持容量SCに保持された蓄積電荷をフローティングディフュージョンFDに転送する転送部として機能する。また、制御パルスとして、保持容量転送トランジスタSG−Trを制御する制御パルスVsgが追加されている。保持容量SGに保持された蓄積電荷を転送する際に、制御パルスVsgがHighになり、保持容量転送トランジスタSG−Trがオンする。
図8は、グローバル電子シャッタの駆動タイミングを示す図であり、例として、1行目と2行目の画素の動作について示したものである。図8に示すように、1行目と2行目で、フォトダイオードPDおよび保持容量SCのリセット(PDSC_rst)とフォトダイオードPDの読み出し(PD_read)のタイミングが同じとなっている。これがグローバル電子シャッタの特徴であり、フォトダイオードPDおよび保持容量SCのリセットからフォトダイオードPDの読み出しまでの期間が蓄積時間(シャッター時間)となる。各行では、蓄積時間の最初にフォトダイオードPDおよび保持容量SCのリセットが行われる。フォトダイオードPDおよび保持容量SCのリセットでは、それまでにフォトダイオードPDや保持容量SCにたまっていた不要電荷を全画素同時にリセットトランジスタRST−Trを通して排出する。蓄積時間経過後にフォトダイオードPDの読み出しが行われる。フォトダイオードPDの読み出しでは、蓄積時間中にフォトダイオードPDに蓄積された電荷を全画素同時に保持容量SCに転送する。その後、保持容量SCの読み出し(SC_read)を行毎に順次行う。保持容量SCの読み出しでは、保持容量SCに保持されている電荷をフローティングディフュージョンFDに転送し、ソースフォロアSF−Tr、セレクトトランジスタSEL−Trを通して垂直信号線740に読み出す。なお、フォトダイオードPDおよび保持容量SCのリセット、フォトダイオードPDの読み出し、保持容量SCの読み出しは、図示したタイミングに限られない。垂直信号線740上に読み出された撮像信号は、カラム回路を通り、行毎に順次水平転送され出力される。
図9は、グローバル電子シャッタ駆動タイミングの全体イメージを示す図であり、縦軸を行数、横軸を時間として示している。図8でも説明した通り、フォトダイオードPDおよび保持容量SCのリセット(PDSC_rst)とフォトダイオードPDの読み出し(PD_read)の間が蓄積時間である。フォトダイオードPDの読み出し後は、行毎に保持容量SCの読み出し(SC_read)と水平転送が行われる。図9に示すように、グローバル電子シャッタ駆動では、全画素に蓄積同時性があるが、保持容量SCからの読み出しには行毎に時間差が生じることが分かる。
(ローリング電子シャッタおよびグローバル電子シャッタの問題点)
ローリング電子シャッタは、行毎の蓄積同時性がないことから動体が歪んで画像に写るため、被写体認識やその認識結果を基に被写体追尾する用途には不向きである。たとえ高速にローリング電子シャッタ駆動を行える撮像素子を用いたとしても、原理的に画像の歪みは解消しないし、高速動作させることで消費電力が増大するという問題も生じてしまう。また、ローリング電子シャッタをAF(像面位相差AFやコントラストAFなど)に用いた場合も、縦方向(同列画素)の蓄積同時性がないため、動体のピント合わせには不利である。横方向(同行画素)の蓄積同時性だけを頼りにAFを行うことになるので精度が劣る。
一方、グローバル電子シャッタを用いた場合、フォトダイオードPDの電荷を同時転送することで全画素の蓄積同時性が確保できるので画像の歪みは起こらない。しかしながら、保持容量SCからの読み出しには時間差が生じ、それが暗電流バラツキとなって画像に現れ画質を低下させる。保持容量SCからの読み出し順が最後の方の画素ほど暗電流の影響を受けることになる。たとえば監視カメラのような用途では撮像素子が常時動作しており、発熱による暗電流の影響が画像に現れやすい。そのため、放熱対策も十分行う必要があり、暗電流の影響が大きい場合は補正手段も考慮する必要が出てくる。
また、グローバル電子シャッタの場合、フォトダイオードPDのリセットやフォトダイオードPDの電荷転送を全画素同時に行うので、ローリング電子シャッタと比較して何倍も大きな瞬時電流が流れる。この瞬時電流と電源配線のインピーダンスにより電圧降下が起こるので、一般的に、撮像素子のチップサイズが大きく、撮像素子の中央部ほど電圧降下の影響を受けやすい。具体的には、電圧降下により出力信号のダイナミックレンジが不足したり、搭載されている回路の正常動作範囲を外れたりする可能性がある。これらは画質低下の原因になり得るので、瞬時電流が収まり電源電圧が定常状態に落ち着くまでの待ち時間を設けなければならず、フレームレート低下の要因となる。
(本実施形態の撮像素子の概要)
そこで、本実施形態の撮像素子101では、1フレーム分の撮像信号の読み出しにおいて、一部のエリアをグローバル電子シャッタで駆動させ、それ以外のエリアをローリング電子シャッタで駆動させることで問題解決を図る。グローバル電子シャッタで駆動させる一部のエリアとしては、例えば、被写体認識エリアやAFエリアなどが挙げられる。このように画素の蓄積同時性を有していた方が機能的に精度が高い場合にグローバル電子シャッタを用いるとよい。
グローバル電子シャッタで駆動させるエリアの設定は、連続行による行エリア設定や、XYアドレス指定によるブロックエリア設定のどちらでも設定でき、複数の離散したエリアを選択することも可能である。ブロックエリア設定の場合、XYアドレスで対象画素領域を指定することになるが、その分、エリア設定のための回路が複雑になる。行エリア設定の場合、対象画素領域以外も選択されることが多いが、ブロックエリア設定のようにXアドレス(水平方向)の設定は必要ないので回路が複雑にならずに済む。
(本実施形態の撮像システム)
図10は、本実施形態の撮像システム300の構成例を示す図である。本実施形態の撮像システム300は、撮像素子101により得られた画像信号に基づいて被写体検出部302により被写体検出を行う。そして、処理実行部303は、被写体検出部302による検出結果に基づいて、被写体認識処理を行い、その認識結果を基に、動体予測処理や、被写体追尾処理、AFエリア選択処理を行う。なお、カメラボディ100のボディ制御装置102が被写体検出部302および処理実行部303を機能的に備えている。また、本実施形態の撮像システム300は、従来の撮像システム500と異なり、処理実行部303で得られた動体予測結果や被写体追尾結果、AFエリア選択結果を撮像素子101にフィードバックする構成となっている。撮像素子101側に、このようにフィードバックされた情報を保持できる回路を搭載しておくことで、フレーム毎に当該フィードバックされた情報に基づいてグローバル電子シャッタで動作させるエリアを設定することができる。
なお、ボディ制御装置102は、ユーザが撮影画面において注目したいエリアやAFエリアなどをボディ操作部103により設定し、ユーザにより設定されたエリアをグローバル電子シャッタで動作させるエリアとして設定するようにしてもよい。また、AF処理(自動焦点調節処理)で用いるAFエリアや、被写体認識処理、動体予測処理および被写体追尾処理で用いる被写体認識エリアの他、AF処理(自動露出演算処理)やAWB処理(自動ホワイトバランス調整処理)で用いるエリアについても、グローバル電子シャッタで動作させるエリアとして設定するようにしてもよい。
以上のように、撮像素子101において、被写体認識エリアやAFエリアなどのエリアをグローバル電子シャッタで動作させ、それ以外のエリアをローリング電子シャッタで動作させることにより、ボディ制御装置102は、グローバル電子シャッタで動作させたエリアの出力信号に基づいて被写体認識処理やAF処理を行うことができる。また、ボディ制御装置102は、グローバル電子シャッタで動作させたエリアの出力信号とローリング電子シャッタで動作させたエリアの出力信号とを組み合わせて、1枚(1フレーム)の画像信号を読み出すことができる。
また、ボディ制御装置102は、撮像素子101において対象エリア以外のエリアのローリング電子シャッタ駆動は行わず、対象エリアのみをグローバル電子シャッタで動作させることで、対象エリアのみをクロップして(撮影時に切り出して)読み出すことも可能である。この場合、周辺回路の制御ロジックを変更することで可能になる。例えば、垂直駆動回路202において対象エリアの設定行以外をスキップ(読み飛ばし)させたり、水平エリア設定回路の情報を基に水平転送するエリアを絞り込んだりすることで実現可能である。このように、対象エリアのみをクロップして読み出すことで、対象エリア(蓄積同時性を有するエリア)のみの高速読み出しが可能になる。
また、撮像素子101の全画素読み出しと対象エリアのみの高速読み出しとを組み合わせるようにしてもよい。ボディ制御装置102は、たとえば、前フレームにおいて全画素読み出しを行い、現フレームにおいて対象エリアのみの読み出しを行う。そして、ボディ制御装置102は、前フレームにおいて全画素読み出しされた前フレーム画像と、現フレームにおいて対象エリアのみクロップ読み出しされた対象エリア画像とを合成して、撮影画面全体の画像を作成する。このときボディ制御装置102は、前フレーム画像における対象エリア以外の領域の画像に、現フレームにおける対象エリア画像を嵌め込むことで1枚の画像を作成する。このようにすることで、対象エリアのみを高速読み出しした現フレームにおいても、撮影画面全体の画像を取得することができる。なお、このようにして合成した画像を取得する場合、対象エリア以外の領域は現フレームと前フレームとでほぼ変化がないことが好ましい。そのため、ボディ制御装置102は、被写体が動体である場合は、動体の動きを予測して対象エリアを広めに取ることで、対象エリア以外の領域においてはほぼ変化がないようにすることができ、合成した画像の違和感を軽減できる。
このように全画素読み出し画像とクロップ読み出しされた対象エリア画像を合成する手法は、被写体が高速で動作している場合に有効である。対象エリアのみをクロップで高速読み出しすることで、高速動体に対し高速追尾が可能になると共に、全画素読み出し画像と合成させることで、1枚の画像としても扱うことができる。
次に、本実施形態におけるローリング電子シャッタ駆動およびグローバル電子シャッタ駆動を実現する実施例について説明する。
(第1実施例)
まず、本実施形態に係る第1実施例について説明する。第1実施例は、グローバル電子シャッタ駆動を行うエリアを連続行で設定する一例である。図11は、第1実施例における撮像素子101の単位画素220の構成を示す図である。図11では、垂直駆動回路202の一部を記載しており、垂直駆動回路202内におけるドライバDrの接続までを示す。単位画素220は、フォトダイオードPDとフォトダイオードPDから蓄積電荷に応じた撮像信号を読み出す読出部250とを有する。読出部250は、転送トランジスタTX−Tr、保持容量SC、保持容量転送トランジスタSG−Tr、フローティングディフュージョンFD、リセットトランジスタRST−Tr、増幅トランジスタSF−Tr、およびセレクトトランジスタSEL−Trを有する。なお、このような単位画素220の構成は、図7のグローバル電子シャッタ方式のCMOS撮像素子の単位画素720と同じ構成であるため、説明を省略する。
第1実施例では、垂直駆動回路202内に、保持容量転送トランジスタSG−Trを制御する制御パルスVsgについて、グローバル電子シャッタ用の制御パルスVsg_gsとローリング電子シャッタ用の制御パルスVsg_rsとを切り替える第1垂直切替スイッチSW1が設けられている。さらに、垂直駆動回路202内に、転送トランジスタTX−Trを制御する制御パルスVtxについて、グローバル電子シャッタ用の制御パルスVtx_gsとローリング電子シャッタ用の制御パルスVtx_rsとを切り替える第2垂直切替スイッチSW2が設けられている。第1垂直切替スイッチSW1および第2垂直切替スイッチSW2の切り替えは、垂直駆動回路202内の垂直エリア設定回路210から入力される垂直エリア設定パルスで制御される。垂直エリア設定回路210は、グローバル電子シャッタ駆動を行う行(垂直エリア)を選択するための回路であり、グローバル電子シャッタ駆動を行う行にはグローバル電子シャッタ用の垂直エリア設定パルスを出力し、ローリング電子シャッタ駆動を行う行にはローリング電子シャッタ用の垂直エリア設定パルスを出力する。
グローバル電子シャッタ駆動を行うエリアとして設定された行では、垂直エリア設定パルスに応じて第1垂直切替スイッチSW1が[1]側に切り替えられ、保持容量転送トランジスタSG−Trが制御パルスVsg_gsによって制御される。また、垂直エリア設定パルスに応じて第2垂直切替スイッチSW2が[1]側に切り替えられ、転送トランジスタTX−Trが制御パルスVtx_gsによって制御される。
一方、ローリング電子シャッタ駆動を行うエリアとして設定された行では、垂直エリア設定パルスに応じて第1垂直切替スイッチSW1が[2]側に切り替えられ、保持容量転送トランジスタSG−Trが制御パルスVsg_rsによって制御される。また、垂直エリア設定パルスに応じて第2垂直切替スイッチSW2が[2]側に切り替えられ、転送トランジスタTX−Trが制御パルスVtx_rsによって制御される。
図12は、第1実施例におけるグローバル電子シャッタ駆動(GS駆動)およびローリング電子シャッタ駆動(RS駆動)のタイミングを示す図である。図12では、例として、6行分の画素の1フレーム分の撮像信号の読み出し動作を示している。また、蓄積時間は4H分、1〜3行目と6行目をローリング電子シャッタ駆動させ、4、5行目をグローバル電子シャッタ駆動させるようにした。3〜5行目が蓄積時間に同時性があることになる。
まず、1行目を例にローリング電子シャッタ駆動の説明を行う。1H目の制御パルスVrst_1、Vtx_1、Vsg_1のHigh期間において、リセットトランジスタRST−Tr、転送トランジスタTX−Tr、および保持容量転送トランジスタSG−Trがオンになり、フォトダイオードPDのリセットと保持容量SCのリセットとが同時に行われる(PDSC_rst)。蓄積時間4Hが経過した後の5H目において、制御パルスVsel_1がHighになって、セレクトトランジスタSEL−Trがオンになり、1行目が選択される。そして、制御パルスVrst_1がLowになり、リセットトランジスタRST−Tがオフされた後、制御パルスVtx_1、Vsg_1が同時にHighになり、転送トランジスタTX−Trおよび保持容量転送トランジスタSG−Trが同時にオンされる。これにより、蓄積時間中に蓄積されたフォトダイオードPDの電荷が保持容量SCおよびフローティングディフュージョンFDに転送され、増幅トランジスタSF−TrおよびセレクトトランジスタSEL−Trを通して蓄積電荷に応じた撮像信号が垂直信号線240に読み出され(PD_read)、水平転送により出力される。他のローリング電子シャッタ駆動の2、3、6行目も同様の動作となり、行が進むごとに駆動タイミングが1Hずつずれていく。
次に、4行目を例にグローバル電子シャッタ駆動の説明を行う。3H目の動作は、3行目と同様に、フォトダイオードPDのリセットと保持容量SCのリセットとが同時に行われる(PDSC_rst)。すなわち、フォトダイオードPDのリセットタイミングは、3行目と同じタイミングとなっている。
蓄積時間4H経過した後の7H目において、制御パルスVtx_4がHighになって、転送トランジスタTX−Trがオンされ、蓄積時間中に蓄積された蓄積電荷がフォトダイオードPDから保持容量SCへ転送される(PD_read)。このフォトダイオードPDから保持容量SCへの転送タイミングは、3行目と同じタイミングであり、3行目と蓄積時間の同時性が保たれていることが分かる。読み出し動作はローリング電子シャッタ駆動に合わせるため、時間をおいて保持容量SCからの読み出し動作に入る。4行目の例では、保持容量SCへの電荷転送後1H経過した後の8H目において、制御パルスVsel_4がHighになって、セレクトトランジスタSEL−Trがオンになり、4行目が選択される。そして、制御パルスVrst_4がLowになり、リセットトランジスタRST−Tがオフされた後、制御パルスVsg_4がHighになり、保持容量転送トランジスタSG−Trがオンされる。これにより、保持容量SCに保持された蓄積電荷がフローティングディフュージョンFDに転送され、増幅トランジスタSF−TrおよびセレクトトランジスタSEL−Trを通して蓄積電荷に応じた信号が垂直信号線240に読み出され(SC_read)、水平転送により出力される。他のグローバル電子シャッタ駆動の5行目も同様の動作となり、3、4行目と蓄積時間の同時性を保った動作タイミングとなる。
図13は、第1実施例におけるローリング電子シャッタおよびグローバル電子シャッタ駆動タイミングの全体イメージを示す図であり、縦軸を行数、横軸を時間として示している。フォトダイオードPDおよび保持容量SCのリセット(PDSC_rst)とフォトダイオードPD読み出し(PD_read)の間が蓄積時間である。グローバル電子シャッタ駆動時のみ保持容量SCの読み出し(SC_read)がフォトダイオードPDの読み出し(PD_read)後に行われ、水平転送が行われる。図13に示すように、3〜5行目では画素の蓄積同時性があり、その他の行では画素の蓄積時間がずれていることが分かる。
なお、第1実施例において、グローバル電子シャッタ駆動させる行エリアは、画素エリア201内において複数設定することができる。たとえば、図14は、グローバル電子シャッタ駆動させる行エリアとして、行エリアLA1、LA2、LA3の3箇所を設定した例である。なお、各行エリアLA1、LA2、LA3は、互いに離れた領域であり、それぞれの行エリアには連続した複数の行が含まれる。このように第1実施例では、グローバル電子シャッタ駆動させる行エリア、すなわち蓄積同時性のある領域を複数設定することができる。
(第2実施例)
次に、本実施形態に係る第2実施例について説明する。第2実施例も、第1実施例と同様に、グローバル電子シャッタ駆動を行うエリアを連続行で設定する一例である。第2実施例も、第1実施例と同様に、グローバル電子シャッタ駆動させる行エリアを複数設定することができる。図15は、第2実施例における撮像素子101の単位画素220の構成を示す図である。図15では、垂直駆動回路202の一部を記載しており、垂直駆動回路202内におけるドライバDrの接続までを示す。単位画素220の構成は、第1実施例と同様(すなわち図7のグローバル電子シャッタ方式のCMOS撮像素子の単位画素720と同様)の構成であるため、説明を省略する。
第2実施例では、垂直駆動回路202内に、転送トランジスタTX−Trを制御する制御パルスVtxについて、グローバル電子シャッタ用の制御パルスVtx_gsとローリング電子シャッタ用の制御パルスVtx_rsとを切り替える垂直切替スイッチSWが設けられている。垂直切替スイッチSWの切り替えは、垂直駆動回路202内の垂直エリア設定回路210から入力される垂直エリア設定パルスで制御される。なお、第1実施例とは異なり、第2実施例では、保持容量転送トランジスタSG−Trを制御する制御パルスVsgを切り替える垂直切替スイッチは設けられていないため、第1実施例よりも簡易な構成となっている。
グローバル電子シャッタ駆動を行うエリアとして設定された行では、垂直エリア設定パルスに応じて垂直切替スイッチSWが[1]側に切り替えられ、転送トランジスタTX−Trが制御パルスVtx_gsによって制御される。一方、ローリング電子シャッタ駆動を行うエリアとして設定された行では、垂直エリア設定パルスに応じて垂直切替スイッチSWが[2]側に切り替えられ、転送トランジスタTX−Trが制御パルスVtx_rsによって制御される。
図16は、第2実施例におけるグローバル電子シャッタ駆動およびローリング電子シャッタ駆動のタイミングを示す図である。図16では、例として、6行分の画素における1フレーム分の撮像信号の読み出し動作を示している。また、蓄積時間は4H分、1〜3行目と6行目をローリング電子シャッタ駆動させ、4、5行目をグローバル電子シャッタ駆動させるようにした。3〜5行目が蓄積時間に同時性があることになる。なお、1〜3行目と6行目に用いられるローリング電子シャッタ駆動タイミングの説明については、第1実施例(図12)と同様であるため、ここでは割愛する。
次に、4行目を例にグローバル電子シャッタ駆動の説明を行う。3H目において、制御パルスVtx_3がHighになり、転送トランジスタTX−Trがオンされ、フォトダイオードPDに蓄積された電荷を一旦保持容量SCに転送し、フォトダイオードPD内を空にする。これは、フォトダイオードPDのリセット(PD_rst)に相当する。このようにフォトダイオードPDのリセットタイミングは、3行目と同じタイミングとなっている。
その後、4H目において、制御パルスVrst_4、Vsg_4のHigh期間において、リセットトランジスタRST−Trおよび保持容量転送トランジスタSG−Trがオンされ、保持容量SCに一旦転送されていたフォトダイオードPDの電荷が保持容量SCを通してリセットされる(SC_rst)。この保持容量SCのリセットは、ローリング電子シャッタ駆動に合わせている。第2実施例では、保持容量転送トランジスタSG−Trの制御パルスは、ローリング電子シャッタおよびグローバル電子シャッタの両方で共通としているためである。
そして、3H目から蓄積時間4Hが経過した後の7H目において、制御パルスVtx_4がHighになり、転送トランジスタTX−Trがオンされ、蓄積時間中に蓄積された電荷がフォトダイオードPDから保持容量SCへ転送される。このフォトダイオードPDから保持容量SCへの転送タイミングは、3行目と同じタイミングであり、3行目と蓄積時間の同時性が保たれていることが分かる。以降の動作は第1実施例と同じとなる。すなわち、読み出し動作はローリング電子シャッタ駆動に合わせるため、時間をおいて保持容量SCからの読み出し動作に入る。4行目の例では、保持容量SCへの電荷転送後1H経過した後の8H目において、制御パルスVsel_4がHighになって、セレクトトランジスタSEL−Trがオンになり、4行目が選択される。そして、制御パルスVrst_4がLowになり、リセットトランジスタRST−Tがオフされた後、制御パルスVsg_4がHighになり、保持容量転送トランジスタSG−Trがオンされる。これにより、保持容量SCに保持された電荷がフローティングディフュージョンFDに転送され、増幅トランジスタSF−TrおよびセレクトトランジスタSEL−Trを通して蓄積電荷に応じた信号が垂直信号線240に読み出され(SC_read)、水平転送により出力される。他のグローバル電子シャッタ駆動の5行目も同様の動作となり、3、4行目と蓄積時間の同時性を保った駆動タイミングとなる。
図17は、第2実施例のローリング電子シャッタおよびグローバル電子シャッタの駆動タイミングの全体イメージを示す図であり、縦軸を行数、横軸を時間として示している。図17(A)は、図16で例示した駆動タイミングの全体イメージを示しており、第1実施例と比較して、グローバル電子シャッタ駆動時に保持容量SCのリセット(SC_rst)がフォトダイオードPDのリセット(PD_rst)後に行われているのが分かる。このこと以外は、図13の第1実施例の場合と同じである。
しかしながら、第2実施例の場合、第1実施例とは異なり、グローバル電子シャッタ駆動させるエリアの大きさに制約が生じる。図17(B)は、この制約を説明する図である。図17(B)では、4〜7行目をグローバル電子シャッタ駆動する例を示している。図17(B)に示すように、グローバル電子シャッタ駆動させる行を増やすと、7行目において保持容量SCのリセット(SC_rst)とフォトダイオードPDの読み出し(PD_read)のタイミングが同時となる。これにより、フォトダイオードPDに蓄積した電荷を読み出して保持容量SCに転送しても保持容量SCがリセットされるので、フォトダイオードPDに蓄積した電荷がリセットされてしまう。更には、図示していないが、8行目以降もグローバル電子シャッタ駆動を行うとすると、保持容量SCのリセット(SC_rst)とフォトダイオードPDの読み出し(PD_read)の動作順が逆転し、7行目同様、フォトダイオードPDに蓄積した電荷は保持容量SCのリセット(SC_rst)によりリセットされてしまう。
したがって、第2実施例では、蓄積時間4Hの場合、グローバル電子シャッタ駆動は連続3行まで(同時蓄積は連続4行まで)可能ということが分かる。従って、第2実施例の駆動方式での限界は、蓄積時間を決める水平期間数αと、同時蓄積する連続行数βが一致するところまでであり、α≧βという制約が生じる。ただ、第2実施例では、このような制約があるものの、転送トランジスタTX−Trの制御パルスVtxのみをローリング電子シャッタとグローバル電子シャッタとで切り替えるだけで実施できるというメリットはある。高速シャッタを必要としない(すなわち、蓄積時間が長くてもよい)用途では有効である。
(第3実施例)
第3実施例は、グローバル電子シャッタ駆動を行うエリアをXYアドレス指定によりブロックエリアで設定する一例である。図18(A)は、第3実施例における撮像素子101の単位画素220の構成を示す図である。図18では、垂直駆動回路202の一部を記載しており、垂直駆動回路202内におけるドライバDrの接続までを示す。第3実施例における単位画素220の構成は、第1実施例と同様(すなわち図7のグローバル電子シャッタ方式のCMOS撮像素子の単位画素720と同様)の構成に加え、保持容量転送トランジスタSG−Trを制御する第1ブロックエリア切替スイッチBS1と転送トランジスタTX−Trを制御する第2ブロックエリア切替スイッチBS2とが設けられる。第1ブロックエリア切替スイッチBS1および第2ブロックエリア切替スイッチBS2は、X方向(水平方向)のエリア設定に用いる。第1ブロックエリア切替スイッチBS1および第2ブロックエリア切替スイッチBS2の切り替えは、水平エリア設定回路260から入力される水平エリア設定パルスで制御される。なお、第1ブロックエリア切替スイッチBS1および第2ブロックエリア切替スイッチBS2は、図18(B)に示すようにトランジスタで構成されているが、図18(A)では簡略化した記載としている。
水平エリア設定回路260は、グローバル電子シャッタ駆動を行う列(水平エリア)を選択するための回路であり、グローバル電子シャッタ駆動を行うブロックエリアが含まれる列にはグローバル電子シャッタ用の水平エリア設定パルスを出力し、ブロックエリアが含まれない列にはローリング電子シャッタ用の水平エリア設定パルスを出力する。
また、第3実施例では、第1実施例と同様に、垂直駆動回路202内に、保持容量転送トランジスタSG−Trを制御する制御パルスVsgについて、グローバル電子シャッタ用の制御パルスVsg_gsとローリング電子シャッタ用の制御パルスVsg_rsとを切り替える第1垂直切替スイッチSW1が設けられている。さらに、垂直駆動回路202内に、転送トランジスタTX−Trを制御する制御パルスVtxについて、グローバル電子シャッタ用の制御パルスVtx_gsとローリング電子シャッタ用の制御パルスVtx_rsとを切り替える第2垂直切替スイッチSW2が設けられている。第1垂直切替スイッチSW1および第2垂直切替スイッチSW2の切り替えは、垂直駆動回路202内の垂直エリア設定回路210から入力される垂直エリア設定パルスで制御される。
垂直エリア設定回路210は、グローバル電子シャッタ駆動を行うブロックエリアが含まれる行にはグローバル電子シャッタ用の垂直エリア設定パルスを出力し、ブロックエリアが含まれない行にはローリング電子シャッタ用の垂直エリア設定パルスを出力する。
さらに、第3実施例では、第1実施例と同様の構成に加えて、ローリング電子シャッタ用の制御パルスVsg_rs、Vtx_rsが入力されるローリング電子シャッタ専用駆動ラインsg_rs、tx_rsを設け、それぞれにドライバDrを追加した構成となっている。ローリング電子シャッタ専用駆動ラインsg_rs、tx_rsは、それぞれ第1ブロックエリア切替スイッチBS1および第2ブロックエリア切替スイッチBS2の[1]側に接続される。
グローバル電子シャッタ駆動を行うブロックエリアを含む行では、垂直エリア設定パルスに応じて第1垂直切替スイッチSW1および第2垂直切替スイッチSW2がそれぞれ[1]側に切り替えられる。これにより、第1ブロックエリア切替スイッチBS1および第2ブロックエリア切替スイッチBS2の[2]側には、それぞれグローバル電子シャッタ用の制御パルスVsg_gs、Vtx_gsが入力される。
一方、グローバル電子シャッタ駆動を行うブロックエリアを含まない行では、垂直エリア設定パルスに応じて第1垂直切替スイッチSW1および第2垂直切替スイッチSW2がそれぞれ[2]側に切り替えられる。これにより、第1ブロックエリア切替スイッチBS1および第2ブロックエリア切替スイッチBS2の[2]側には、それぞれローリング電子シャッタ用の制御パルスVsg_rs、Vtx_rsが入力される。
また、グローバル電子シャッタ駆動を行うブロックエリアを含む列では、水平エリア設定パルスに応じて第1ブロックエリア切替スイッチBS1および第2ブロックエリア切替スイッチBS2がそれぞれ[2]側に切り替えられる。
一方、グローバル電子シャッタ駆動を行うブロックエリアを含まない列では、水平エリア設定パルスに応じて第1ブロックエリア切替スイッチBS1および第2ブロックエリア切替スイッチBS2がそれぞれ[1]側に切り替えられる。
このような構成により、指定されたブロックエリアをグローバル電子シャッタ駆動させ、それ以外のエリアをローリング電子シャッタ駆動させることができる。グローバル電子シャッタ駆動させるブロックエリアの設定を撮像素子101の外部から行うことも可能で、レジスタ設定によりブロックエリアを設定できるように作り込んでおけばよい。そうすることで、動体予測結果やAFエリア選択結果を撮像素子101側にフィードバックした場合にでも、グローバル電子シャッタ駆動させるブロックエリアをフレームごとに移動させたり、サイズ変更させたりすることが可能になる。なお、ブロックエリアの設定は、1画素単位、1行単位の設定でなくとも、数画素単位、数行単位の設定でもよく、その方がロジック回路の簡略化が可能である。
次に、第3実施例のブロックエリア設定における前提条件を示す。
<ブロックエリア設定の前提条件>
(1)1フレーム毎に1回ブロックエリアを設定可能である。
(2)水平エリア設定回路260および垂直エリア設定回路210が1つずつであっても、1回の設定で複数のブロックエリアを設定可能である。
(3)複数のブロックエリアにおいて読み出し行または読み出し列が重なる場合、重なった範囲が1つのブロックエリアとして設定される。
(ブロックエリアの第1設定例)
図19は、グローバル電子シャッタ駆動させるブロックエリアの第1設定例を示す図である。これは、撮像素子101において、水平エリア設定回路260および垂直エリア設定回路210を1つずつ有し、ブロックエリアを1つ設定する場合の例である。図19(A)に示すように、m行n列の画素エリア201に、ブロックエリアAを設定する。読み出される信号は、ブロックエリアAが位置する最初の行(a行目)全てとブロックエリアA内が、蓄積同時性を持つことになる。ブロックエリアAが位置する最初の行(a行目)はローリング電子シャッタで駆動し、ブロックエリアAの最初の行以外はグローバル電子シャッタで駆動する。図19(B)に示すように、a行目全てとブロックエリアAが蓄積同時性を持つ。
図19(C)は、画素エリア201における各領域の駆動状況を示す図である。駆動Aはローリング電子シャッタ駆動を示す。駆動Aの領域は、ブロックエリアを含まない列にある領域である。駆動Aの領域では、画素内において、第1ブロックエリア切替スイッチBS1および第2ブロックエリア切替スイッチBS2が[1]側に切り替えられることで、転送トランジスタTX−Trおよび保持容量転送トランジスタSG−Trがローリング電子シャッタ用の制御パルスVsg_rs、Vtx_rsにより制御される。
駆動Bもローリング電子シャッタ駆動を示す。駆動Bの領域は、ブロックエリアを含む列にある領域であるが、ブロックエリアではない領域である。駆動Bの領域では、画素内において、第1ブロックエリア切替スイッチBS1および第2ブロックエリア切替スイッチBS2が[2]側に切り替えられる。更に、垂直駆動回路202内の第1垂直切替スイッチSW1および第2垂直切替スイッチSW2が[2]側に切り替えられることにより、画素内の転送トランジスタTX−Trおよび保持容量転送トランジスタSG−Trがローリング電子シャッタ用の制御パルスVsg_rs、Vtx_rsにより制御される。
駆動Cはグローバル電子シャッタ駆動を示す。駆動Cの領域はブロックエリアの領域である。駆動Cの領域では、画素内において、第1ブロックエリア切替スイッチBS1および第2ブロックエリア切替スイッチBS2が[2]側に切り替えられる。更に、垂直駆動回路202内の第1垂直切替スイッチSW1および第2垂直切替スイッチSW2が[1]側に切り替えられることにより、画素内の転送トランジスタTX−Trおよび保持容量転送トランジスタSG−Trがグローバル電子シャッタ用の制御パルスVsg_rs、Vtx_rsにより制御される。
図20は、第3実施例におけるグローバル電子シャッタおよびローリング電子シャッタの駆動タイミングを示す図である。このタイミング図は、図19のブロックエリアAの読み出し開始先頭行(a行目)の前後の様子を示したものである。ブロックエリアAの先頭行(a行目)まではローリング電子シャッタで駆動しており、図20の「a−1行目とa行目」がそのタイミングを示している。次にa+1行目以降になると、ブロックエリアAの内と外で制御パルスVtxと制御パルスVsgとのタイミングが異なるようになる。図20に示すように、ブロックエリアA内では、a行目と同じ蓄積タイミングで動作される。
ブロックエリアA内の画素は、グローバル電子シャッタ駆動を行うため、制御パルスVtx_gs、Vsg_gsにより制御され、ブロックエリアA外の画素は、ローリング電子シャッタ駆動を行うため、制御パルスVtx_rs、Vsg_rsにより制御される。制御パルスVsel、Vrst、水平転送は、ブロックエリアAの内外ともに同じタイミングである。図示しないが、ブロックエリアAの読み出し最終行をぬけるまで、ブロックエリアA内におけるグローバル電子シャッタ駆動による読み出しと、ブロックエリアA外におけるローリング電子シャッタ駆動による読み出しとが続けられる。
次に、水平エリア設定回路260および垂直エリア設定回路210を1つずつ有した撮像素子101において、ブロックエリアを2つ設定する場合の例について示す。2つのブロックエリアの位置関係により、グローバル電子シャッタ駆動での読み出され方が異なるので、以下ブロックエリアの第2設定例〜第4設定例の3パターンに分けて説明する。この3パターンで、2つのブロックエリアの位置関係を全て網羅できる。
(ブロックエリアの第2設定例)
図21は、グローバル電子シャッタ駆動させるブロックエリアの第2設定例を示す図である。この例は、2つあるブロックエリアの読み出し行と読み出し列が重ならない場合を示している。図21(A)に示すように、m行n列の画素エリア201に、ブロックエリアA、Bが設定されているとする。図21(B)は、蓄積同時性を有する領域を示しており、前述したブロックエリア設定の前提条件により、ブロックエリアA、B以外の領域も一部グローバル電子シャッタ駆動により読み出されることになる。ブロックエリアAと同行でブロックエリアBと同列にあるエリアCと、ブロックエリアBと同行でブロックエリアAと同列にあるエリアDが、ブロックエリア設定されていないがグローバル電子シャッタ駆動により読み出される領域である。したがって、a行目全てとブロックエリアAおよびエリアCが蓄積同時性を持ち、b行目全てとブロックエリアBおよびエリアDが蓄積同時性を持つ。
ブロックエリアとして設定された以外の領域も一部グローバル電子シャッタ駆動されるが、本発明で重要となる同一ブロックエリア内の蓄積同時性は保たれている。このように、水平エリア設定回路260および垂直エリア設定回路210を1つずつしか持たない撮像素子101であっても、複数のブロックエリアの蓄積同時性を確保できることが分かる。
図21(C)は、画素エリア201における各領域の駆動状況を示す。駆動A、B、Cのそれぞれの領域の説明は、ブロックエリアの第1設定例と同様であるため、説明を省略する。
(ブロックエリアの第3設定例)
図22は、グローバル電子シャッタ駆動させるブロックエリアの第3設定例を示す図である。この例は、2つあるブロックエリアの読み出し列が重なっている場合を示している。図22(A)に示すように、m行n列の画素エリア201に、ブロックエリアA、Bが設定されているとする。図22(B)は、蓄積同時性を有する領域を示しており、前述したブロックエリア設定の前提条件により、ブロックエリアA、B以外の箇所も一部グローバル電子シャッタ駆動により読み出されることになる。ブロックエリア設定の前提条件(3)により、水平エリア設定回路260は、グローバル電子シャッタで駆動させる列(水平エリア)としてブロックエリアA、B個々の領域より広い範囲K(ブロックエリアAの左端からブロックエリアBの右端までの範囲)を設定する。ブロックエリアAの右側の隣接エリアCと、ブロックエリアB左側の隣接エリアDとが、ブロックエリアとして設定されていないが、グローバル電子シャッタ駆動で読み出される領域となる。したがって、a行目全てとブロックエリアAおよびエリアCが蓄積同時性を持ち、b行目全てとブロックエリアBおよびエリアDが蓄積同時性を持つ。
図21の場合と同様、ブロックエリア以外のエリアも一部グローバル電子シャッタ駆動されるが、本発明で重要となる同一ブロックエリア内の蓄積同時性は保たれている。このように、水平エリア設定回路260および垂直エリア設定回路210を1つずつしか持たない撮像素子101であっても、複数のブロックエリアの蓄積同時性を確保できることが分かる。
図22(C)は、画素エリア201における各領域の駆動状況を示す。駆動A、B、Cのそれぞれの領域の説明は、ブロックエリアの第1設定例と同様であるため、説明を省略する。
(ブロックエリアの第4設定例)
図23は、グローバル電子シャッタ駆動させるブロックエリアの第4設定例を示す図である。この例は、2つあるブロックエリアの読み出し行が重なっている場合を示している。図23(A)に示すように、m行n列の画素エリア201に、ブロックエリアA、Bが設定されているとする。図23(B)は、蓄積同時性を有する領域を示しており、前述したブロックエリア設定の前提条件により、ブロックエリアA、B以外の箇所も一部グローバル電子シャッタ駆動で読み出されてしまう。ブロックエリア設定の前提条件(3)により、垂直エリア設定回路210は、グローバル電子シャッタで駆動させる行(垂直エリア)としてブロックエリアA、B個々の領域より広い範囲(ブロックエリアAの下端からブロックエリアBの上端までの範囲)Jを設定する。ブロックエリアAの上側の隣接エリアCと、ブロックエリアBの下側の隣接エリアDとが、ブロックエリア設定されていないがグローバル電子シャッタ駆動で読み出される領域となる。したがって、a行目全てとブロックエリアA、BおよびエリアC、Dが蓄積同時性を持つ。
図21、22の場合と同様、ブロックエリア以外のエリアも一部グローバル電子シャッタされるが、本発明で重要となる同一ブロックエリア内の蓄積同時性は保たれている。このように、水平エリア設定回路260および垂直エリア設定回路210を1つずつしか持たない撮像素子101であっても、複数のブロックエリアの蓄積同時性を確保できることが分かる。
図23(C)は、画素エリア201における各領域の駆動状況を示す。駆動A、B、Cのそれぞれの領域の説明は、ブロックエリアの第1設定例と同様であるため、説明を省略する。
上述したブロックエリアの第2設定例〜第4設定例では、ブロックエリアが2つ設定された場合について説明したが、ブロックエリアが3つ以上設定された場合であっても、複数ブロックエリアの蓄積同時性が確保されることは容易に分かる。しかしながら、上述のように水平エリア設定回路260および垂直エリア設定回路210を1つずつしか持たない場合、ブロックエリアの数が増えることで、ブロックエリアの設定箇所以外でグローバル電子シャッタ駆動される領域が増え、暗電流バラツキや瞬時電流といったグローバル電子シャッタ特有の問題点が現れ始める。
このグローバル電子シャッタの問題点を抑えるためには、ブロックエリアの設定箇所以外でグローバル電子シャッタ駆動される領域を増やさないようにすればよい。この問題点を解決する実施例を第4実施例として以下説明する。
(第4実施例)
第4実施例に係る撮像素子101は、水平エリア設定回路および垂直エリア設定回路をそれぞれ2つずつ有する。図示しないが、水平エリア設定回路および垂直エリア設定回路をそれぞれ2つずつ持つことで、図18で示した構成に対し、単位画素220内にある水平切替スイッチを3入力に変更することや、垂直駆動回路202において、保持容量転送トランジスタSG−Trの制御パルスVsgと転送トランジスタTX−Trの制御パルスVtxの出力ラインをもう1セット設けることなどが必要になる。
図24は、第4実施例におけるブロックエリアの配置と垂直エリアおよび水平エリアの設定との関係を説明する図である。図24(A)、(B)、(C)は、それぞれ図21(A)、図22(A)、図23(A)のブロックエリアの配置に対応している。第4実施例の撮像素子101は、2つの水平エリア設定回路(第1水平エリア設定回路および第2水平エリア設定回路)と、2つの垂直エリア設定回路(第1垂直エリア設定回路および第2垂直エリア設定回路)とを有する。図24(A)、(B)、(C)において、それぞれ、ブロックエリアAに対しては、第1水平エリア設定回路により水平エリアAを設定し、第1垂直エリア設定回路により垂直エリアAを設定する。また、ブロックエリアBに対しては、第2水平エリア設定回路により水平エリアBを設定し、第2垂直エリア設定回路により垂直エリアBを設定する。図24(A)に示す場合では、a行目とブロックエリアAとが蓄積同時性を有し、b行目とブロックエリアBとが蓄積同時性を有する。また、図24(B)に示す場合でも、a行目とブロックエリアAとが蓄積同時性を有し、b行目とブロックエリアBとが蓄積同時性を有する。図24(C)に示す場合では、a行目とブロックエリアAとが蓄積同時性を有し、b行目のブロックエリアA以外の箇所とブロックエリアBとが蓄積同時性を有する。
このように、水平エリア設定回路および垂直エリア設定回路をそれぞれ2つずつ持つことで、2つのブロックエリアと水平エリア設定回路および垂直エリア設定回路とを一対一で対応させることができ、ブロックエリアの設定箇所だけをグローバル電子シャッタ駆動で読み出すことができる。水平エリア設定回路および垂直エリア設定回路をそれぞれブロックエリア数以上持っていれば、ブロックエリアの設定箇所以外でグローバル電子シャッタ駆動される領域がなくなり、グローバル電子シャッタ駆動の問題点も低減される。すなわち、水平エリア設定回路および垂直エリア設定回路を複数持つことで、グローバル電子シャッタ駆動の問題点を抑えつつ、複数のブロックエリアに対応させることができる。
ただ、撮像素子101において、平面(二次元面)上に、複数の水平エリア設定回路および垂直エリア設定回路を設けた場合、それと同時に、画素内のブロックエリア切替スイッチの多入力化や、垂直駆動回路202の制御パルスVsg、Vtxの出力ラインの増設なども実施する必要がある。数回路程度であればよいのだが、回路数が多くなると画素内や画素エリア201周辺の回路構成が複雑になり、更には、画素を駆動するための制御線の数も増えるので、駆動のためにフォトダイオードPDの面積を縮小せざるを得なくなり基本性能の劣化へとつながってしまう。
このようなことで起こる性能劣化を避けるためには、複数の回路を平面上に配置するのではなく、画素エリア201に対し周辺回路や画素内スイッチなどを積層し三次元実装するのが効果的である。
上述した実施の形態によれば、次の作用効果が得られる。
(1)撮像素子101は、光を電荷に変換するフォトダイオードPDと、フォトダイオードPDで光電変換された電荷により生成された撮像信号を読み出す読出部250と、を含む画素220を有する。撮像素子101の制御部206は、一部の画素220の撮像信号を第1電子シャッタ方式で読み出し、他の画素220の撮像信号を第1電子シャッタ方式とは異なる第2電子シャッタ方式で読み出すように読出部250を制御する。このような構成により、1フレーム内において、複数の電子シャッタ方式による撮像信号を得ることができる。
(2)上述した第1電子シャッタ方式はグローバル電子シャッタ方式であり、上述した第2電子シャッタ方式はローリング電子シャッタ方式である。画素の蓄積同時性を有していた方がよいエリアにはグローバル電子シャッタ方式を用い、それ以外のエリアにはローリング電子シャッタ方式を用いることで、上述したグローバル電子シャッタ方式およびローリング電子シャッタ方式のそれぞれの短所を補うことができる。
(3)撮像素子101は、行方向および列方向に二次元状に配列された複数の画素220を備える。各画素220は、入射光量に応じた電荷を蓄積するフォトダイオードPDと、フォトダイオードPDに蓄積された蓄積電荷に応じた撮像信号を読み出す読出部250と、を有する。読出部250は、グローバル電子シャッタ方式およびローリング電子シャッタ方式の両方が可能に構成される。1フレーム分の撮像信号の読み出しにおいて、複数の画素220のうち一部の画素はグローバル電子シャッタ方式で撮像信号が読み出され、複数の画素220のうち残りの画素はローリング電子シャッタ方式で撮像信号が読み出される。このような構成により、1フレーム内において、ローリング電子シャッタ方式による撮像信号とグローバル電子シャッタ方式による撮像信号とを得ることができる。画素の蓄積同時性を有していた方がよいエリアにはグローバル電子シャッタ方式を用い、それ以外のエリアにはローリング電子シャッタ方式を用いることで、上述したグローバル電子シャッタ方式およびローリング電子シャッタ方式のそれぞれの短所を補うことができる。
(4)撮像素子101は、グローバル電子シャッタ方式で読み出す画素の行を選択する垂直エリア設定回路210とグローバル電子シャッタ方式で読み出す画素の列を選択する水平エリア設定回路260とを1つずつ備える。これにより、簡易な構成で、グローバル電子シャッタ方式で読み出す画素のブロックエリアを設定することができる。
(5)カメラボディ100において、ボディ制御装置102は、撮像素子101からグローバル電子シャッタ方式で読み出された撮像信号を用いて、焦点調節処理、露出演算処理、ホワイトバランス調整処理、被写体認識処理、動体予測処理および被写体追尾処理の少なくとも1つを実行する。このような構成により、画素の蓄積同時性を有するエリアの撮像信号を用いて上述した処理を行うことができる。またボディ制御装置102は、上述した処理の結果に基づいて、撮像素子101においてグローバル電子シャッタ方式により撮像信号を読み出す画素を決定する。このような構成により、上述した処理の結果を、グローバル電子シャッタ方式で読み出すエリアの設定にフィードバックすることができる。
(4)撮像素子101は、行方向および列方向に二次元状に配列された複数の画素220を備える。各画素220は、入射光量に応じた電荷を蓄積するフォトダイオードPDと、フォトダイオードPDに蓄積された蓄積電荷に応じた撮像信号を読み出す読出部250と、を有する。読出部250は、グローバル電子シャッタ方式およびローリング電子シャッタ方式の両方が可能に構成される。1フレーム分の撮像信号の読み出しにおいて、複数の画素220のうち一部の画素はグローバル電子シャッタ方式で撮像信号が読み出され、複数の画素220のうち残りの画素はローリング電子シャッタ方式で撮像信号が読み出される。このような構成により、1フレーム内において、ローリング電子シャッタ方式による撮像信号とグローバル電子シャッタ方式による撮像信号とを得ることができる。画素の蓄積同時性を有していた方がよいエリアにはグローバル電子シャッタ方式を用い、それ以外のエリアにはローリング電子シャッタ方式を用いることで、上述したグローバル電子シャッタ方式およびローリング電子シャッタ方式のそれぞれの短所を補うことができる。
(5)撮像素子101は、グローバル電子シャッタ方式で読み出す画素の行を選択する垂直エリア設定回路210とグローバル電子シャッタ方式で読み出す画素の列を選択する水平エリア設定回路260とを1つずつ備える。これにより、簡易な構成で、グローバル電子シャッタ方式で読み出す画素のブロックエリアを設定することができる。
−第2の実施の形態−
次に、図面を参照しながら、本発明の第2の実施の形態について説明する。第2の実施の形態におけるデジタルカメラの構成および撮像素子の全体構成は、第1の実施の形態におけるデジタルカメラの構成(図1)および撮像素子101の全体構成(図2)と同様であるため、説明を省略する。第2の実施の形態の撮像素子101は、1フレーム分の撮像信号の読み出しにおいて、画素エリア201の全ての画素からローリング電子シャッタ方式で撮像信号を読み出すのに並行して、設定した一部の領域の画素についてはグローバル電子シャッタ方式で撮像信号を読み出すことができるように構成されている。なお、ここで、上記全ての画素とは、欠陥画素などの一部の画素を除いた場合も含み、撮影画面全体の画像を生成するための画素という意味である。
図25は、画素エリア201内で、グローバル電子シャッタ駆動させるように設定されたエリア(GSエリア)Agの例を示す図である。ボディ制御装置102は、撮像素子101に対して、GSエリアAgを設定する。図25に示すように、GSエリアAgは画素エリア201内に複数設定することができる。GSエリアAgの形状も、横長の長方形、縦長の長方形、十字型などに設定することができる。また、第1の実施の形態と同様に、GSエリアAgとしては、AF処理で用いるAFエリアや、被写体認識処理、動体予測処理および被写体追尾処理で用いる被写体認識エリアの他、AF処理やAWB処理で用いるエリアなど、蓄積同時性を有していた方がよいエリアが設定される。
図26は、第2の実施の形態の撮像システム300の構成例を示す図である。撮像素子101からは、GSエリアからグローバル電子シャッタ駆動で読み出された画像信号(GS信号)と全画素からローリング電子シャッタ駆動で読み出された画像信号(RS信号)とがそれぞれ出力され、信号処理部305に送られる。なお、信号処理部305は、カメラボディ100のボディ制御装置102に含まれる。
信号処理部305に送られたGS信号は、オフセット回路310で所定のオフセットが行われ、ゲイン回路311で所定のゲインがかけられた後、AF/AE/AWB部312と加算部313と画像処理部317とに送られる。AF/AE/AWB部312では、GS信号に基づいて、AF処理やAE処理、AWB処理が行われる。信号処理部305に送られたRS信号は、オフセット回路314で所定のオフセットが行われ、ゲイン回路315で所定のゲインがかけられた後、加算部313に送られる。加算部313では、GS信号とRS信号とが加算され1フレームの画像信号が生成される。なお、加算部313での加算処理について詳しくは後述する。加算部313で生成された画像信号は、メモリ316に記録されたり、画像処理部317で所定の画像処理が行われたりする。また、画像処理部317は、GS信号およびRS信号を用いて被写体認識処理を行い、その認識結果に基づいて動体予測処理や被写体追尾処理、AFエリア選択処理などを行う。画像処理部317で得られた動体予測結果や被写体追尾結果、AFエリア選択結果はGSエリアの設定にフィードバックされ、これらの結果に基づいてGSエリアが設定される。
図27は、第2の実施形態における撮像素子101の単位画素220の構成を示す図である。単位画素(1画素)220は、1つのフォトダイオードPDとフォトダイオードPDから蓄積電荷に応じた撮像信号を読み出す読出部250とを有する。読出部250は、フォトダイオードPDにそれぞれ接続されたローリング電子シャッタ用のRS読出回路およびグローバル電子シャッタ用のGS読出回路を有する。
RS読出回路は、転送トランジスタTX1と、フローティングディフュージョンFD1と、増幅トランジスタSF1と、セレクトトランジスタS1とを有する。転送トランジスタTX1はフォトダイオードPDに蓄積された電荷を転送する。フローティングディフュージョンFDは、フォトダイオードPDから転送された蓄積電荷を保持する電荷保持部として機能する。増幅トランジスタSF1は、ソースフォロワ回路を形成し、フローティングディフュージョンFDの電位に応じた信号を出力する。セレクトトランジスタS1は、画素が選択されるとオンし、フローティングディフュージョンFD1から出力線Out1までを接続する。これらの各部は、図27に示すように接続されている。RS読出回路は、フォトダイオードPDの蓄積電荷をローリング電子シャッタ駆動で読み出し、蓄積電荷に応じた撮像信号を出力線Out1に出力する。
GS読出回路は、保持容量SGと、転送トランジスタTX2と、フローティングディフュージョンFD2と、増幅トランジスタSF2と、セレクトトランジスタS2とを有する。保持容量SGは、フォトダイオードPDに蓄積された電荷を保持する電荷保持部として機能する。保持容量SGのゲートが開かれると、フォトダイオードPDの蓄積電荷が保持容量SGに転送される。転送トランジスタTX2は保持容量SGに保持された電荷を転送する。フローティングディフュージョンFD1は、転送トランジスタTX2により転送された蓄積電荷を保持する電荷保持部として機能する。増幅トランジスタSF2は、ソースフォロワ回路を形成し、フローティングディフュージョンFDの電位に応じた信号を出力する。セレクトトランジスタS2は、画素が選択されるとオンし、フローティングディフュージョンFD2から出力線Out2までを接続する。これらの各部は、図27に示すように接続されている。GS読出回路は、フォトダイオードPDの蓄積電荷をグローバル電子シャッタ駆動で読み出し、蓄積電荷に応じた撮像信号を出力線Out2に出力する。
リセットトランジスタResetは、RS読出回路とGS読出回路とで共通に設けられている。リセットトランジスタResetは、フォトダイオードPD、保持容量SG、フローティングディフュージョンFD1、FD2をリセットする。
図28は、第2の実施の形態におけるローリング電子シャッタおよびグローバル電子シャッタの駆動タイミングを示す図である。図28では、1フレーム分の読み出しにおけるRS読出回路の転送トランジスタTX1とGS読出回路の保持容量SGおよび転送トランジスタTX2の制御パルスを示している。画素エリア201はn行の画素を有するとし、図28において(1)〜(n)は画素の1行目〜n行目を表す。また、ここでは、i行目〜j行目の画素がグローバル電子シャッタで駆動されるGSエリアとして設定されているとする。
まず、時刻r1〜r2で、1行目〜n行目においてリセットトランジスタResetがオンされ且つ転送トランジスタTX1が順次オンされてフォトダイオードPDがリセットされ、ローリング電子シャッタにおける電荷蓄積が開始される。
そして、時刻g1で、GSエリアとして設定されている行(i行目〜j行目)において、転送トランジスタTX1が同時にオンされ、フォトダイオードPDにそれまで蓄積されていた電荷がフローティングディフュージョンFD1に転送され、フォトダイオードPDがリセットされる。これにより、ローリング電子シャッタの電荷蓄積が一旦中断され、それまでの蓄積電荷がフローティングディフュージョンFD1に保持されると共に、グローバル電子シャッタの電荷蓄積が開始される。なお、GSエリアとして設定されていない行(i行目〜j行目以外)では、ローリング電子シャッタの電荷蓄積が継続されている。
そして、所定の蓄積時間(GS蓄積時間)経過後の時刻g2で、GSエリアとして設定されている行(i行目〜j行目)において、保持容量SGのゲートが同時に開かれ、フォトダイオードPDの蓄積電荷が保持容量SGに転送され、フォトダイオードPDがリセットされる。これにより、グローバル電子シャッタの電荷蓄積が終了され、それまでの蓄積電荷が保持容量SGに保持されると共に、ローリング電子シャッタの電荷蓄積が再開される。
そして、時刻g3〜g4で、GSエリアとして設定されている行(i行目〜j行目)において、転送トランジスタTX2が順次オンされ、保持容量SGに保持されていた蓄積電荷がフローティングディフュージョンFD2に転送され、蓄積電荷に応じた撮像信号(GS信号)が出力線Out2から読み出される。
また、1行目〜n行目の各行においてローリング電子シャッタの蓄積開始から所定の蓄積時間(RS蓄積時間)経過後の時刻r3〜r4で、各行において、転送トランジスタTX1が順次オンされ、フォトダイオードPDの蓄積電荷がフローティングディフュージョンFD1に転送され、蓄積電荷に応じた撮像信号(RS信号)が出力線Out1から読み出される。なお、GSエリアとして設定されている行(i行目〜j行目)においては、時刻g2以降の蓄積電荷が、時刻g1でフローティングディフュージョンFD1に転送され保持されていた時刻g1よりも前の蓄積電荷と加算されて、RS信号として出力線Out1から読み出される。
なお、GSエリアとして設定されている行(i行目〜j行目)では、上述したように、ローリング電子シャッタにおける電荷蓄積時間の一部を、グローバル電子シャッタにおける電荷蓄積時間とするため、ローリング電子シャッタでの電荷蓄積時間がグローバル電子シャッタの電荷蓄積時間の分少ないことになる。そのため、GSエリアとして設定されている行については、上述した信号処理部305の加算部313において、GS信号とRS信号とを加算することで、適切な画像信号を得ることができる。すなわち、加算部313は、GSエリアの画素においてはGS信号とRS信号とを用いて画像信号を取得し、GSエリア以外の画素においてはRS信号を用いて画像信号を取得する。
また、図28では、ローリング電子シャッタにおける電荷蓄積の間に、グローバル電子シャッタにおける電荷蓄積を行う例について説明した。しかしながら、グローバル電子シャッタにおける電荷蓄積のタイミングは、前フレームのローリング電子シャッタにおける蓄積電荷の読み出し後から、現フレームのローリング電子シャッタにおける蓄積電荷の読み出し前までの任意のタイミングでよい。
たとえば、図28において、GSエリアとして設定されている行(i行目〜j行目)で、ローリング電子シャッタにおける電荷蓄積の開始がグローバル電子シャッタにおける電荷蓄積終了(時刻g2)よりも後であってもよい。この場合は、ローリング電子シャッタにおける電荷蓄積がグローバル電子シャッタにおける電荷蓄積で中断されないので、加算部313においてGS信号とRS信号とを加算せず、RS信号のみで画像信号とすればよい。
また、図28において、GSエリアとして設定されている行(i行目〜j行目)で、ローリング電子シャッタにおける電荷蓄積の開始のタイミングがグローバル電子シャッタにおける電荷蓄積開始(時刻g1)〜電荷蓄積終了(時刻g2)の間となる場合も考えられる。この場合、グローバル電子シャッタにおける電荷蓄積開始後に、ローリング電子シャッタにおける電荷蓄積の開始のタイミングで転送トランジスタTX1がオンされてフォトダイオードPDがリセットされる。そのため、このリセットタイミングからグローバル電子シャッタにおける電荷蓄積終了(時刻g2)までに蓄積された電荷がGS信号として読み出されることになり、GS信号の蓄積時間が減ってしまう。したがって、この場合、撮像素子101内または信号処理部305において、所定の蓄積時間のGS信号となるように、所定の蓄積時間に対して減った分の蓄積時間の比率に基づいてGS信号を補正する。
また、図28では、1フレーム分の読み出しにおいて、グローバル電子シャッタを1回行う例について説明したが、複数回行うようにしてもよい。
(動体検出)
画像処理部317は、1フレーム分の読み出しで得られた上記GS信号およびRS信号を用いて、動体検出を行うことができる。図29は、このような動体検出について説明する図である。図29(A)〜(C)は、被写体である動体Pについて時刻t0〜t2における動きを示す。時刻t0〜t2において、動体Pが右から左に移動している。グローバル電子シャッタ駆動させるGSエリアAgは、動体Pを含むように設定されている。図29(D)は、時刻t1のグローバル電子シャッタにより得られた画像(GS画像)を示す。GS画像では、図29(D)に示すように、GSエリアAgにおいて動体Pが歪まずに写っている。図29(E)は、時刻t0〜t2のローリング電子シャッタにより得られた画像(RS画像)を示す。時刻t0〜t2にかけて動体Pが移動しているため、RS画像では、図29(E)に示すように動体Pが歪んで写っている。
このように、被写体が動体の場合には、GS画像では歪まずに写り、RS画像では歪んで写るため、GS画像とRS画像とで異なる画像となる。一方、被写体が動体ではない(静止している)場合には、GS画像およびRS画像の両方とも歪まずに写るため、GS画像とRS画像とで略同じ画像となる。このことをふまえ、画像処理部317は、GS信号とGSエリアにおけるRS信号とで被写体の特徴点検出(エッジ検出など)をそれぞれ行い、GS信号とGSエリアにおけるRS信号とで特徴点検出の結果を比較し、所定以上の差分がある場合には、GSエリアに含まれる被写体が動体であると判断する。さらに画像処理部317は、GSエリアにおけるRS信号の歪量を検出し、歪量に基づいて動体の移動速度を検出するようにしてもよい。
(GS信号およびRS信号の加算)
上述したようにGSエリアにおけるRS信号は、グローバル電子シャッタの蓄積時間の分蓄積時間が少ないため、加算部313においてGSエリアにおけるRS信号とGS信号とを加算する。このとき、RS信号に歪のない場合には、加算部313においてGSエリアにおけるRS信号とGS信号とを単純加算すればよい。しかしながら、RS信号に歪がある場合には、GSエリアにおけるRS信号とGS信号とを単純加算すると、歪がある画像と歪がない画像とが加算されてブレたような画像となってしまう。そこで、RS信号に歪がある場合には、GSエリアにおけるRS信号とGS信号とを単純加算するのではなく、以下の方法により画像信号を生成する。
(1)RS信号における歪がGSエリア内である場合
図30(A)および(B)は、RS信号における歪がGSエリアAg内である場合のGS画像およびRS画像の例を示す図である。図30(A)および(B)では、GSエリアAg内に動体Pが収まっており、図30(B)のRS画像の歪はGSエリアAg内に収まっている。この場合、画像処理部317は、GSエリアにおいてGS信号のみを採用し、当該GS信号とGSエリア以外のRS信号とを合成して、1フレームの画像信号を生成する。なお、GS信号とRS信号とは蓄積時間が異なっているため、画像処理部317は、GS信号に対してゲインをかけたりオフセット補正を行ったりしてRS信号と対応するように補正して、1フレームの画像信号を生成する。
(2)RS信号における歪がGSエリア外である場合
図30(C)および(D)は、RS信号における歪がGSエリアAg外である場合のGS画像およびRS画像の例を示す図である。図30(C)および(D)では、GSエリアAgから動体Pがはみ出しており、図30(B)のRS画像の歪はGSエリアAg外にはみ出している。この場合、画像処理部317は、GSエリアAgにおいてRS信号のみを採用し、RS信号のみを用いて1フレームの画像信号を生成する。なお、GSエリアAgにおけるRS信号は、GSエリア外のRS信号と蓄積時間が異なっているため、画像処理部317は、GSエリアAgにおけるRS信号に対してゲインをかけたりオフセット補正を行ったりしてGSエリア外のRS信号と対応するように補正して、1フレームの画像信号を生成する。
なお、画像処理部317では、撮像素子101から得られた画像信号から被写体を認識する際、被写体の大きさの判定も行い、判定結果に基づいてGSエリアに被写体が含まれるようにGSエリアの大きさを設定する。そのため、通常は、上述した(1)のようにRS信号における歪はGSエリア内となるが、最初のフレームや、被写体が急激に動いた場合、構図を変えた場合などには、上述した(2)のようにRS信号における歪がGSエリア外となる場合もある。この場合、次のフレームでは、画像処理部317による被写体の大きさの判定結果をGSエリアの設定にフィードバックすることで、上述した(1)のようにRS信号における歪はGSエリア内となる。
上述した実施の形態によれば、次の作用効果が得られる。
(1)撮像素子101は、光を電荷に変換するフォトダイオードPDと、フォトダイオードPDで光電変換された電荷により生成された撮像信号を読み出す読出部250と、を含む画素220を有する。撮像素子101の制御部206は、一部の画素220の撮像信号を第1電子シャッタ方式で読み出し、他の画素220の撮像信号を第1電子シャッタ方式とは異なる第2電子シャッタ方式で読み出すように読出部250を制御する。このような構成により、1フレーム内において、複数の電子シャッタ方式による撮像信号を得ることができる。
(2)撮像素子101は、行方向および列方向に二次元状に配列された複数の画素220を備える。各画素220は、入射光量に応じた電荷を蓄積するフォトダイオードPDと、フォトダイオードPDに蓄積された蓄積電荷に応じた撮像信号を読み出す読出部250と、を有する。読出部250は、グローバル電子シャッタ方式およびローリング電子シャッタ方式の両方が可能に構成される。1フレーム分の撮像信号の読み出しにおいて、複数の画素220のうち全ての画素はローリング電子シャッタ方式で撮像信号が読み出され、複数の画素220のうち一部の画素はグローバル電子シャッタ方式で撮像信号が読み出される。このような構成により、従来技術のようにフレーム間でローリング電子シャッタ方式とグローバル電子シャッタ方式とを切り替えることなく、1フレーム内において、ローリング電子シャッタ方式による撮像信号とグローバル電子シャッタ方式による撮像信号とを得ることができる。1フレーム分の読み出しにおいて、ローリング電子シャッタ方式によって1フレーム分の画像を得ることができると共に、グローバル電子シャッタ方式によってAFやAE用の信号を得ることができる。
(3)撮像素子101において、各画素220の読出部250は、フォトダイオードPDにそれぞれ接続されたRS読出回路およびGS読出回路を有し、1フレーム分の撮像信号の読み出しにおいて、全ての画素はRS読出回路によりローリング電子シャッタ方式で撮像信号が読み出され、一部の画素はGS読出回路によりグローバル電子シャッタ方式で撮像信号が読み出される。これにより、全ての画素からローリング電子シャッタ方式で撮像信号を読み出すのに並行して、一部の画素からグローバル電子シャッタ方式で撮像信号を読み出すことができる。
(4)カメラボディ100において、ボディ制御装置102は、撮像素子101からグローバル電子シャッタ方式で読み出された撮像信号を用いて、焦点調節処理、露出演算処理、ホワイトバランス調整処理、被写体認識処理、動体予測処理および被写体追尾処理の少なくとも1つを実行する。このような構成により、画素の蓄積同時性を有するエリアの撮像信号を用いて上述した処理を行うことができる。またボディ制御装置102は、上述した処理の結果に基づいて、撮像素子101においてグローバル電子シャッタ方式により撮像信号を読み出す画素を決定する。このような構成により、上述した処理の結果を、グローバル電子シャッタ方式で読み出すエリアの設定にフィードバックすることができる。
(5)カメラボディ100において、ボディ制御装置102は、グローバル電子シャッタ方式とローリング電子シャッタ方式の両方で読み出した画素については、グローバル電子シャッタ方式で読み出された撮像信号とローリング電子シャッタ方式で読み出された撮像信号とを用いて画像信号を取得する。それ以外の画素については、ローリング電子シャッタ方式で読み出された撮像信号とを用いて画像信号を取得する。このような構成により、1フレーム分の画像信号を適切に取得することができる。
(6)カメラボディ100において、ボディ制御装置102は、グローバル電子シャッタ方式とローリング電子シャッタ方式の両方で読み出した画素については、グローバル電子シャッタ方式で読み出された撮像信号とローリング電子シャッタ方式で読み出された撮像信号との差分を用いて、撮像される動体を検出する。このような構成により、1フレームのみで動体検出を行うことができ、複数フレームを用いて動体検出を行う場合と比較して動体検出の時間を短縮することができる。
上記では、種々の実施の形態および変形例を説明したが、本発明はこれらの内容に限定されるものではない。本発明の技術的思想の範囲内で考えられるその他の態様も本発明の範囲内に含まれる。
100…カメラボディ、101…撮像素子、102…ボディ制御装置、110…交換レンズ、201…画素エリア、202…垂直駆動回路、210…垂直エリア設定回路、220…画素、250…読出部、260…水平エリア設定回路、FD、FD1、FD2…フローティングディフュージョン、PD…フォトダイオード、RST−Tr、Reset…リセットトランジスタ、SC、SG…保持容量、TX−Tr、TX1、TX2…転送トランジスタ

Claims (13)

  1. 光を電荷に変換する第1光電変換部と、前記第1光電変換部で光電変換された電荷により生成された第1信号を読み出す第1読出部と、を含む第1画素と、光を電荷に変換する第2光電変換部と、前記第2光電変換部で光電変換された電荷により生成された第2信号を読み出す第2読出部と、を含む第2画素と、を有する撮像素子と、
    前記第1信号を第1電子シャッタ方式で読み出し、前記第2信号を前記第1電子シャッタ方式とは異なる第2電子シャッタ方式で読み出すように前記第1読出部及び前記第2読出部を制御する制御部と、
    を備える撮像素子。
  2. 請求項1に記載の撮像素子において、
    前記第1電子シャッタ方式はグローバル電子シャッタ方式であり、前記第2電子シャッタ方式はローリング電子シャッタ方式である撮像素子。
  3. 請求項1または2に記載の撮像素子において、
    前記第1および第2読出部は、前記第1および第2光電変換部から転送される蓄積電荷を保持する第1電荷保持部と、前記第1電荷保持部から転送される蓄積電荷を保持する第2電荷保持部と、をそれぞれ有し、
    1フレーム分の撮像信号の読み出しにおいて、前記第1画素では、前記第1光電変換部の蓄積電荷が前記第1電荷保持部に同時に転送され、前記第1電荷保持部に保持された蓄積電荷が前記第2電荷保持部に行単位で転送されて読み出され、前記第2画素では、前記第2光電変換部の蓄積電荷が前記第1電荷保持部および前記第2電荷保持部に行単位で転送されて読み出される、撮像素子。
  4. 請求項1から3までのいずれか一項に記載の撮像素子において、
    各々が前記第1画素であり且つ前記第2画素である複数の画素と、
    前記複数の画素の行のうち一部の行を選択する選択部とをさらに備え、
    前記選択部により選択された行の画素は前記第1電子シャッタ方式で撮像信号が読み出され、残りの行の画素は前記第2電子シャッタ方式で撮像信号が読み出される、撮像素子。
  5. 請求項4に記載の撮像素子において、
    前記複数の画素の行のうち一部の行を選択する第1選択部と、
    前記複数の画素の列のうち一部の列を選択する第2選択部と、
    をさらに備え、
    前記第1選択部により選択された行であり且つ前記第2選択部により選択された列である画素は前記第1電子シャッタ方式で撮像信号が読み出され、残りの画素は前記第2電子シャッタ方式で撮像信号が読み出される、撮像素子。
  6. 請求項1または2に記載の撮像素子において、
    各々が前記第1画素であり且つ前記第2画素である複数の画素をさらに備え、
    1フレーム分の撮像信号の読み出しにおいて、前記複数の画素のうち全ての画素は前記第2電子シャッタ方式で撮像信号が読み出され、前記複数の画素のうち一部の画素は前記第1電子シャッタ方式で撮像信号が読み出される、撮像素子。
  7. 請求項6に記載の撮像素子において、
    前記第1および第2読出部は、前記第1および第2光電変換部に接続された第1および第2読出回路をそれぞれ有し、
    前記第1読出回路は、前記第1電子シャッタ方式が可能に構成され、
    前記第2読出回路は、前記第2電子シャッタ方式が可能に構成され、
    1フレーム分の撮像信号の読み出しにおいて、前記全ての画素は前記第2読出回路により前記第2電子シャッタ方式で撮像信号が読み出され、前記一部の画素は前記第1読出回路により前記第1電子シャッタ方式で撮像信号が読み出される、撮像素子。
  8. 請求項7に記載の撮像素子において、
    前記第1読出回路は、前記第1および第2光電変換部から転送される蓄積電荷を保持する第1電荷保持部を有し、前記第1電荷保持部に保持された蓄積電荷に応じた撮像信号を読み出し、
    前記第2読出回路は、前記第1および第2光電変換部から転送される蓄積電荷を保持する第2電荷保持部と、前記第2電荷保持部から転送される蓄積電荷を保持する第3電荷保持部と、を有し、前記第3電荷保持部に保持された蓄積電荷に応じた撮像信号を読み出す、撮像素子。
  9. 請求項6〜8のいずれか一項に記載の撮像素子において、
    前記一部の画素では、前記第2電子シャッタ方式における前記第2光電変換部の電荷蓄積時間の一部を前記第1電子シャッタ方式における前記第1光電変換部の電荷蓄積時間とする、撮像素子。
  10. 請求項4〜9のいずれか一項に記載の撮像素子と、
    前記撮像素子から前記第1電子シャッタ方式で読み出された撮像信号を用いて、焦点調節処理、露出演算処理、ホワイトバランス調整処理、被写体認識処理、動体予測処理および被写体追尾処理の少なくとも1つを実行する処理実行部と、
    を備えるカメラ。
  11. 請求項10に記載のカメラにおいて、
    前記処理実行部による処理の結果に基づいて、前記複数の画素のうち前記第1電子シャッタ方式により撮像信号を読み出す画素を決定する決定部をさらに備えるカメラ。
  12. 請求項6〜9のいずれか一項に記載の撮像素子と、
    前記一部の画素においては、前記第1電子シャッタ方式で読み出された撮像信号と前記第2電子シャッタ方式で読み出された撮像信号とを用いて画像信号を取得し、残りの画素においては前記第2電子シャッタ方式で読み出された撮像信号を用いて画像信号を取得する画像取得部と、
    を備えるカメラ。
  13. 請求項12に記載のカメラにおいて、
    前記一部の画素における、前記第1電子シャッタ方式で読み出された撮像信号と前記第2電子シャッタ方式で読み出された撮像信号との差分を用いて、前記一部の画素によって撮像される動体を検出する動体検出部をさらに備えるカメラ。
JP2016130966A 2016-06-30 2016-06-30 撮像装置 Active JP6903874B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2016130966A JP6903874B2 (ja) 2016-06-30 2016-06-30 撮像装置
JP2021047475A JP7176585B2 (ja) 2016-06-30 2021-03-22 撮像装置、及び撮像素子
JP2022180382A JP7533556B2 (ja) 2016-06-30 2022-11-10 撮像素子、及び撮像装置
JP2024123065A JP2024138158A (ja) 2016-06-30 2024-07-30 撮像素子

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016130966A JP6903874B2 (ja) 2016-06-30 2016-06-30 撮像装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2021047475A Division JP7176585B2 (ja) 2016-06-30 2021-03-22 撮像装置、及び撮像素子

Publications (2)

Publication Number Publication Date
JP2018006991A true JP2018006991A (ja) 2018-01-11
JP6903874B2 JP6903874B2 (ja) 2021-07-14

Family

ID=60948192

Family Applications (4)

Application Number Title Priority Date Filing Date
JP2016130966A Active JP6903874B2 (ja) 2016-06-30 2016-06-30 撮像装置
JP2021047475A Active JP7176585B2 (ja) 2016-06-30 2021-03-22 撮像装置、及び撮像素子
JP2022180382A Active JP7533556B2 (ja) 2016-06-30 2022-11-10 撮像素子、及び撮像装置
JP2024123065A Pending JP2024138158A (ja) 2016-06-30 2024-07-30 撮像素子

Family Applications After (3)

Application Number Title Priority Date Filing Date
JP2021047475A Active JP7176585B2 (ja) 2016-06-30 2021-03-22 撮像装置、及び撮像素子
JP2022180382A Active JP7533556B2 (ja) 2016-06-30 2022-11-10 撮像素子、及び撮像装置
JP2024123065A Pending JP2024138158A (ja) 2016-06-30 2024-07-30 撮像素子

Country Status (1)

Country Link
JP (4) JP6903874B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024046196A1 (zh) * 2022-08-30 2024-03-07 维沃移动通信有限公司 图像传感器及电子设备
WO2024046233A1 (zh) * 2022-08-30 2024-03-07 维沃移动通信有限公司 图像传感器像素电路、图像传感器及电子设备
US12096138B2 (en) * 2022-12-20 2024-09-17 Caeleste Cvba Quasi-global shutter for image sensors

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230002694A (ko) 2020-05-14 2023-01-05 엔.티.티. 어드밴스 테크놀로지 가부시키가이샤 표준시료 및 그 제작방법

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010050146A (ja) * 2008-08-19 2010-03-04 Fujifilm Corp 固体撮像素子、撮像装置、及び撮像方法
JP2010288083A (ja) * 2009-06-11 2010-12-24 Canon Inc 撮像装置
JP2012019286A (ja) * 2010-07-06 2012-01-26 Olympus Corp 読出し制御装置、読出し制御方法、プログラム、固体撮像装置、および撮像装置
JP2015041854A (ja) * 2013-08-21 2015-03-02 株式会社ニコン 撮像素子および撮像装置
JP2015164284A (ja) * 2014-01-28 2015-09-10 キヤノン株式会社 固体撮像素子、動き情報取得装置、および撮像装置
JP2015220255A (ja) * 2014-05-14 2015-12-07 日本放送協会 裏面照射型cmos型撮像素子、及び、裏面照射型cmos型撮像素子の製造方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4387264B2 (ja) * 2004-07-27 2009-12-16 京セラ株式会社 撮像装置およびその画像生成方法
JP5624804B2 (ja) * 2010-06-07 2014-11-12 オリンパス株式会社 読出し制御装置、読出し制御方法、プログラム、撮像装置および固体撮像装置
JP2012244379A (ja) * 2011-05-19 2012-12-10 Konica Minolta Advanced Layers Inc 固体撮像装置
JP5820627B2 (ja) * 2011-06-09 2015-11-24 オリンパス株式会社 固体撮像装置、撮像装置、および信号読み出し方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010050146A (ja) * 2008-08-19 2010-03-04 Fujifilm Corp 固体撮像素子、撮像装置、及び撮像方法
JP2010288083A (ja) * 2009-06-11 2010-12-24 Canon Inc 撮像装置
JP2012019286A (ja) * 2010-07-06 2012-01-26 Olympus Corp 読出し制御装置、読出し制御方法、プログラム、固体撮像装置、および撮像装置
JP2015041854A (ja) * 2013-08-21 2015-03-02 株式会社ニコン 撮像素子および撮像装置
JP2015164284A (ja) * 2014-01-28 2015-09-10 キヤノン株式会社 固体撮像素子、動き情報取得装置、および撮像装置
JP2015220255A (ja) * 2014-05-14 2015-12-07 日本放送協会 裏面照射型cmos型撮像素子、及び、裏面照射型cmos型撮像素子の製造方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024046196A1 (zh) * 2022-08-30 2024-03-07 维沃移动通信有限公司 图像传感器及电子设备
WO2024046233A1 (zh) * 2022-08-30 2024-03-07 维沃移动通信有限公司 图像传感器像素电路、图像传感器及电子设备
US12096138B2 (en) * 2022-12-20 2024-09-17 Caeleste Cvba Quasi-global shutter for image sensors

Also Published As

Publication number Publication date
JP2023010787A (ja) 2023-01-20
JP2024138158A (ja) 2024-10-07
JP6903874B2 (ja) 2021-07-14
JP7533556B2 (ja) 2024-08-14
JP7176585B2 (ja) 2022-11-22
JP2021100287A (ja) 2021-07-01

Similar Documents

Publication Publication Date Title
JP7176585B2 (ja) 撮像装置、及び撮像素子
JP2006352843A (ja) 撮像装置及び制御方法
JP2013068759A (ja) 撮像装置およびその制御方法
JP2008099158A (ja) 固体撮像装置、固体撮像装置の駆動方法および撮像装置
JP7473041B2 (ja) 撮像素子、及び撮像装置
CN111149352B (zh) 摄像设备及其控制方法
JP2009089105A (ja) 固体撮像装置及びこれを用いた電子カメラ
JP2010062638A (ja) 撮像装置
US20210274110A1 (en) Image capture apparatus and control method thereof
CN108802961B (zh) 焦点检测设备和成像系统
JP5187039B2 (ja) 固体撮像装置及びこれを用いた電子カメラ
JP6265962B2 (ja) 撮像素子及び撮像装置
JP6708620B2 (ja) 撮像素子及び撮像装置
JP2020014195A (ja) 撮像装置
JP2017055321A (ja) 撮像装置及び撮像システム
US8692914B2 (en) Image sensor
JP2009044458A (ja) 固体撮像装置
JP5080127B2 (ja) 固体撮像装置、並びにそれを用いたビデオカメラ及びデジタルスチルカメラ
JP2010263443A (ja) 固体撮像素子
JP2013162421A (ja) 固体撮像装置及びこれを用いたデジタルカメラ
JP7315054B2 (ja) 撮像素子および撮像装置
US10904424B2 (en) Image capturing apparatus
US10880477B2 (en) Image capturing apparatus and multi-readout mode control method for carrying out a live view display
JP2017195584A (ja) 撮像装置
JP2022168343A (ja) 撮像素子及び撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190531

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200331

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20200528

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200727

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20200727

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20201222

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210322

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20210322

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20210330

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20210406

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20210423

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210525

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210607

R150 Certificate of patent or registration of utility model

Ref document number: 6903874

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20210715

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20210817

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250