JP7163135B2 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP7163135B2
JP7163135B2 JP2018197144A JP2018197144A JP7163135B2 JP 7163135 B2 JP7163135 B2 JP 7163135B2 JP 2018197144 A JP2018197144 A JP 2018197144A JP 2018197144 A JP2018197144 A JP 2018197144A JP 7163135 B2 JP7163135 B2 JP 7163135B2
Authority
JP
Japan
Prior art keywords
reading
data
image data
correction
column
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018197144A
Other languages
English (en)
Other versions
JP2020065214A (ja
Inventor
英昭 三本杉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018197144A priority Critical patent/JP7163135B2/ja
Publication of JP2020065214A publication Critical patent/JP2020065214A/ja
Application granted granted Critical
Publication of JP7163135B2 publication Critical patent/JP7163135B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)

Description

本発明は撮像素子を有する撮像装置及び画像処理方法に関する。
撮像装置に使用されるCMOSセンサー等の撮像素子では、画素の不均一性等による垂直方向、水平方向のシェーディングが存在する。特に、水平方向においては、列毎の読み出し回路、メモリの不均一性あるいはメモリから出力線を介して信号が出力されるまでの距離等に応じて水平方向のシェーディングが存在する。例えば、下記特許文献1では、撮像素子が出力する信号を撮像装置が有する補正処理によって補正することで均一にする撮像装置が開示されている。
特開2010-263553号公報
しかしながら、上述の特許文献に開示された従来技術では、ゲイン制御などの撮像素子の駆動条件が変わった場合や、静止画や動画などの駆動モードの違いに対応するために列毎の補正値を駆動条件毎に予め記憶する必要がある。この場合、記憶するためのROMなどのメモリの容量を圧迫するなどのシステム負荷が生じる。また、撮影条件が変化したときに補正値を生成する場合には、補正値を生成するために画像撮影を中断する必要があり、動画などはフレームが表示できなくなるという問題もある。そこで本発明の目的は、静止画を撮影する場合などに補正値を容易に生成することができる撮像装置を提供することにある。
上記目的を達成するために、本発明の撮像装置は、
光電変換素子を含む複数の画素及び複数の列回路を有する撮像素子と、
前記複数の列回路を使用して前記複数の画素のデータを読み出す読出し手段と、
前記読出し手段による読出しに使用する列回路を変更する列回路接続変更手段と、を有し、
前記列回路接続変更手段により接続される列回路をフレーム単位で変更しながら、複数フレーム期間かけて各列回路の特性を示すデータを読出して前記複数の列回路の補正データを取得する補正データ生成手段と、を有することを特徴とする。
本発明によれば例えば静止画を撮影する場合などに補正値を容易に生成することができる。
本発明の実施例1に係る撮像装置の構成を示すブロック図。 実施例1に係る撮像素子の一部の構成を示す図。 実施例1に係る撮像素子の一部の構成を示す図。 実施例1に係る撮像素子の一部の構成を示す図。 実施例1に係る撮像素子の一部の構成を示す図。 実施例1に係る撮像素子の画素構成を示す図。 実施例1に係る撮像素子のAD変換器の構成を示す図。 実施例1に係る撮像素子の全体の画素構成について説明する図。 実施例1に係る撮像素子のデータ振り分け部の構成を示す図。 実施例1に係る垂直走査回路の構成を示す図。 実施例1に係るDFEの構成を示す図。 実施例1に係る撮像装置の動作フローチャートの一部を示す図。 実施例1に係る撮像装置の動作フローチャートの他の部分を示す図。 実施例1に係る撮像装置の動作フローにおける各構成要素の状態を示す概念図。 実施例1に係る撮像装置の動作フローにおける各構成要素の状態を示す概念図。 実施例1に係る補正値生成用データ読み出し時の撮像素子の動作タイミングチャート。 実施例1に係る補正値生成用データ読み出し時の撮像素子の動作タイミングチャート。 実施例1に係るLV画像データ読み出し時の撮像素子の動作タイミングチャート。 実施例1に係る画像データ読み出し時の撮像素子の動作タイミングチャート。 実施例1に係る静止画画像データ読み出し時の撮像素子の動作タイミングチャート。 実施例1に係る撮像素子の全体の画素構成と読出しについて説明する図。 実施例1に係る撮像素子の各動作における接続関係を示す図。 実施例1に係る撮像素子の各動作における接続関係を示す図。 実施例1に係る撮像素子の各動作における接続関係を示す図。 実施例1に係る撮像素子の各動作における接続関係を示す図。 実施例1に係る撮像素子の各動作における接続関係を示す図。 実施例1に係るDFEの動作を説明する図。 実施例1に係るDFEの動作を説明する図。 実施例2に係る撮像装置のブロック図。 実施例2に係る撮像素子の一部構成を示す図。 実施例2に係る撮像素子の一部構成を示す図。 実施例2に係る撮像素子の一部構成を示す図。 実施例2に係る撮像素子の一部構成を示す図。 実施例2に係る撮像素子の一部構成を示す図。
以下、本発明の実施形態を図面に基づいて説明する。
図1を参照して本発明の実施例1に係る撮像装置について説明する。
図1は本発明の実施例1に係る撮像装置の構成例を示すブロック図である。本実施例による撮像装置1000は、例えばデジタルカメラであり、静止画像撮影機能及び動画像撮影機能を有している。撮像装置1000は、撮像装置1000を統括的に制御するCPU(Central Processing Unit)102、及び撮影レンズ109を通過した被写体の光学像が結像する撮像素子100を有する。撮像素子100は、これに結像された光学像を電気信号(アナログ画素信号)に変換後、所定の量子化ビット数に応じてデジタル画像データに変換して出力する。DFE(Digital Front End)101は、撮像素子100からデジタルデータを受けとり、後述する画像のための基本的な補正処理を行い、CPU102へデータを送信する。
RAM(Random Access Memory)105は、撮像素子100から出力される画像データ及び画像処理部107で処理された画像データを記憶するための画像メモリである。RAM105は、CPU102のワークメモリとしても用いられる。本例では、画像メモリ及びワークメモリとしてRAM105を用いるが、アクセス速度に問題ないものであれば、他のメモリを用いてもよい。ROM(Read Only Memory)106には、コンピュータとしてのCPU102で動作するコンピュータプログラムが記憶されている。本例では、ROM106としてフラッシュROMが用いられるが、アクセス速度に問題がないものであれば、他のメモリを用いてもよい。
画像処理部107は、本実施例に係る静止画像及び動画像の補正処理や、画像の圧縮処理等を行う。操作部103は、撮像装置1000を起動するメインスイッチや、ユーザーが撮像装置1000に静止画や動画の撮影命令を行う撮影スイッチ等を含み、撮像条件等を設定する際にも用いられる。表示部104は、CPU102の制御下で、画像データに応じた静止画像又は動画像の表示を行うとともに、メニュー等の表示を行う。
記録部108は、例えば不揮発性メモリ又はハードディスク等であり、画像データ等が記録される。本実施例において記録部108は、内蔵する形で記載されているが、コネクタ等を介して着脱可能なメモリーカードなどの外部記録媒体でもよい。
RAM110は画像補正処理を行う際に用いるバッファ用のメモリである。
図2~図5は、撮像素子100の回路構成の一例を分割して示す図である。なお、図2~図5はそれぞれ撮像素子の回路構成の左上、左下、右上、右下の分割部分を示している。図2~図5において、複数の画素200が画素R0_0~Bm-1_n-1(m、nは任意の整数)のように行列状に配置されている。画素200に示すRは赤色、Gは緑色、Bは青色のカラーフィルタが画素上に配置されることを意味する。また、Rp_qは、画素200の中の第p行第q列のRの画素であることを示す。Gp_qは、第p行第q列のGの画素であることを示す。Bp_qは第p行第q列のBの画素であることを示す。
ここで、画素200の1画素毎の構成について図6を用いて説明する。フォトダイオード(PD)201は、入射した光信号を光電変換し、露光量に応じた電荷を蓄積する光電変換素子として機能する。制御信号txをハイレベルにすることで転送ゲート202がオン(導通状態)になり、PD201に蓄積されている電荷がフローティングディフュージョン部(FD部)203に転送される。FD部203は、増幅MOSトランジスタ204のゲートに接続されている。増幅MOSトランジスタ204は、PD201からFD部203に転送されてきた電荷量に応じた電圧信号を出力する。
リセットスイッチ205は、FD部203やPD201の電荷をリセットするためのスイッチである。制御信号resをハイレベルにすることでリセットスイッチ205がオン(導通状態)になり、FD部203がリセットされる。また、PD201の電荷をリセットする場合には、制御信号tx及び制御信号resを同時にハイレベルにすることで、転送ゲート202及びリセットスイッチ205を両方オンし、FD部203経由でPD201をリセットする。画素選択スイッチ206a~206cは、それぞれ制御信号sel0~sel2をハイレベルとすることでオン(導通状態)になり、増幅MOSトランジスタ204と画素200の出力端子vout0(207a)~vout2(207c)とを選択的に接続する。これにより、増幅MOSトランジスタ204で電圧に変換された画素信号が画素200の出力端子vout0(207a)~vout2(207c)に選択的に出力される。
本実施例の撮像素子では後述する制御により、駆動条件によって行毎にsel0~sel2のいずれかがオンになり、出力端子vout0(207a)~vout2(207c)のいずれかから画素信号が出力される。
図2~図5に戻り、垂直走査回路303は、前記駆動信号res、tx、sel0~2等を各画素200に供給する。これらの駆動信号は、それぞれ各画素200の端子res、tx、sel0~2に供給される。各画素の出力端子vout0(207a)~vout2(207c)は、12本の垂直出力線300a~300lのいずれかひとつにそれぞれ接続される。画素R0_0が配置される列(0列目)を例に説明すると、図2~図5に示す撮像素子の0列0行の画素R0_0から0列11行の画素G11_0までの画素と列出力線300a~300lとの接続パターンが、0列12行以降も繰り返されている。この接続パターンは、各列同様である。
垂直出力線300a~300lは、それぞれAD変換器(ADC)301a~301lの入力へ接続される。AD変換器301a~301lは、画素200から出力される光信号とノイズ信号をアナログ-デジタル変換する。垂直出力線300a~300lには、それぞれ電流源302a~302lが接続されている。電流源302a~302lと垂直出力線300a~300lに接続された画素部200の増幅MOSトランジスタ204によってソースフォロア回路が構成される。
AD変換器301aを例として、AD変換器の構成を図7に示す。AD変換器301aは、比較器327、Latch_N328、Latch_S329、スイッチ330、331を有する。垂直出力線300aに出力される信号は比較器327に入力される。ランプ信号発生器306aからは、ランプ信号A321aと補正値生成用ランプ信号B322aが出力され、セレクタ326でセレクトされたランプ信号が比較器327に入力される。後述する被写体画像データの読み出し制御、または補正値生成用データの読み出し制御に従い、セレクタ326が図2に示すTG(タイミングジェネレーター)307aから出力される制御信号により制御される。AD変換器毎にどちらのランプ信号が使用されるかが選択され、該当するAD変換器が被写体画像データの読み出しに使用される場合にはランプ信号A321が選択され、補正値生成用データの読み出しに使用される場合にはランプ信号B322が選択される。
Latch_N328はノイズ信号(N信号)を保持するための記憶素子(ラッチ回路)であり、Latch_S329は光信号(S信号)を保持するための記憶素子(ラッチ回路)である。カウンタ305aからはカウンタ値A323aとカウンタ値B346aがセレクタ347に入力される。比較器327の出力端子、セレクタ347の出力がLatch_N328とLatch_S329にそれぞれ入力される。Latch_N、Latch_Sの出力端子はスイッチ330、331を介してそれぞれ共通出力線324a、325aに接続される。共通出力線324a、325aは図4に示すS-N演算部308aに接続される。
スイッチ330、331は図2、図4、図7に示される水平走査回路304aからの制御信号で制御される。Latch_N328、Latch_S329に保持された信号は共通出力線324a、325aを介して出力され、S-N演算部308aへ出力される。このS-N演算部308a(または308b)への信号の出力はAD変換器毎に順次行われ、水平転送動作が行われることになる。
S-N演算部308a、308bでは、入力されたS信号からN信号を減算する。この動作により画素部で発生するノイズ成分をキャンセルした被写体画像データまたは補正値生成用データが生成される。S-N演算部308a、308bから出力されたデータは、データ振り分け部309a、309bに入力される。データ振り分け部309a、309bではデータの振り分け、並び替え等を行い、データをデータ出力部A310a、310bまたはデータ出力部B311a、311bへ出力する。
図9にデータ振り分け部309a(309b)の構成を示す。入力されたデータは、メモリ制御部320から出力される書き込み制御信号に従い、AD変換器毎にメモリ0(312)~メモリ5(317)に書き込まれる。R0_0が配置される0列を例にすると、AD変換器301a~301fにてデジタル変換された0列のRデータは、データ振り分け部309aに含まれるメモリ0(312)~メモリ5(317)にそれぞれ書き込まれる。また、AD変換器301g~301lにてデジタル変換された0列のGデータは、データ振り分け部309bに含まれるメモリ0(312)~メモリ5(317)にそれぞれ書き込まれる。
メモリ制御部320はセレクタ318、319とメモリ0(312)~メモリ5(317)の読み出しを制御し、データ出力部A310a、310bまたはデータ出力部B311a、311bへ、メモリ毎にデータを順次出力する。本実施例はこのように被写体画像データを読み出すためのデータ出力部Aと被写体画像データまたは補正値生成用データを読み出すためのデータ出力部Bとを設けている点にも特徴を有する。
データ出力部A310a、310bまたはデータ出力部B311a、311bはSLVS(Scalable Low Voltage Signaling)等の伝送方式により、撮像素子100の外部へデータを出力する。
ここで、撮像素子100の全体の画素構成について説明する。図8に全体の画素構成を示す。図8に示すように複数の画素は遮光されたVOB_0、VOB_1、HOBと、被写体を撮影する有効画素領域に分けられる。水平方向にはn列の画素が並び、垂直方向にはm行の画素が並ぶ。また、垂直方向にはVOB_0は12h(hは0より大きい整数)行、VOB_1は12i(iは0より大きい整数)行、有効画素領域は12j(jは0より大きい整数)行並ぶ。垂直方向については、図2に示す0行目から11行目の画素―垂直出力線接続パターンが繰り返し続くため、各領域が12の倍数となっている。
また、VOB_0は後述する補正値生成用データを読み出す際に使用され、VOB_1とHOB、有効画像領域は被写体画像データを読み出す際に使用される。VOB_0とVOB_1とHOB、有効画像領域については、読み出すための垂直走査信号や画素―垂直出力線の電気的な接続を決定する駆動信号sel0~2が独立に垂直走査回路303から順次出力される。
図10は、垂直走査回路303の構成を示す図である。垂直走査回路303は読出しに使用する列回路群を変更するための列回路接続変更機能を有する。なお、ここで列回路とは各画素列に対して複数設けられている垂直出力線、AD変換器等を含む列読み出し回路のことを指す。TG_A340からは、図8のVOB_0を制御するための信号である、res_a、tx_a、sel0_a、sel1_a、sel2_aが出力される。これらの制御信号はCPU102からの設定に従って動作する。垂直走査回路341は、VOB_0を選択するための行選択信号が出力される。図10に示すように、各制御信号と行選択信号がANDゲート345に入力され、res_0、tx_0、sel0_0、sel1_0、sel2_0...が生成される。
また、TG_B342からは、VOB_1、HOBまたは有効画素領域を制御するための信号である、res_b、tx_b、sel0_b、sel1_b、sel2_bが出力される。これらの制御信号はCPU102からの設定に従って動作し、res_a、tx_a、sel0_a、sel1_a、sel2_aと異なったタイミングまたは同じタイミングで動作する。垂直走査回路343は、VOB_1、HOBまたは有効画素領域を選択するための行選択信号が出力される。図10に示すように、各制御信号と行選択信号がANDゲート345に入力され、res_12k+0、tx_12k+0、sel0_12k+0、sel1_12k+0、sel2_12k+0...が生成される。
なお、本実施例においてはTG_A340とTG_B342を有し、VOB_0とVOB_1/有効画素領域を制御する制御信号を異なるタイミングで設定できる構成としたが、その限りではない。
TG_A340かTG_B342のいずれかを有し、同一のタイミングで動作する構成も適用可能である。
次に、図11を用いてDFE(Digital Front End)101の構成について説明する。
図11に撮像素子100、CPU102との接続を含めたDFE101の構成を示す。データ出力部A310a、310bのみから出力される被写体画像データは、セレクタ402に入力される。また、データ出力部A310a、310bから出力される被写体画像データと、データ出力部B311a、311bから出力される被写体画像データは1フレームの画像データとしてまとめられ、セレクタ402へ入力される。セレクタ402は撮影モード毎にCPU102から設定される設定に基づき制御される。セレクタ402の出力は補正回路401へ入力される。
一方、データ出力部B311a、311bから出力される補正値生成用データは補正値生成回路400に入力される。補正値生成回路400はデータ出力部B311a、311bから出力される補正値生成用データから垂直出力線、AD変換器等を含む列読み出し回路(列回路)毎の補正値を生成し、RAM403へ格納する。即ち補正データ生成機能を有する。ここで列読み出し回路(列回路)毎の補正値は各列回路の特性を示すデータといえる。RAM403は、RAM0(403a)、RAM1(403b)、RAM2(403c)を有する。各RAMには読み出しを行う画像の補正値が格納される。なお、使用しないRAMをパワーダウンされるように制御してもよい。
RAM制御部404はRAM110へのデータ書き込みや読み出しを制御する。CPU102からの設定に従い、セレクタ402から出力される被写体画像データをRAM110に書き込む。また、RAM110に格納される被写体画像データを読み出し、補正回路401へ入力する。
補正回路401は、RAM403から出力される列読み出し回路(列回路)の各々に対応した補正値を、セレクタ402またはRAM制御部404から出力される被写体画像データから減算し、オフセット補正を行う。その後CPU102に対してデータを出力する。
次に、実施例1による撮像装置の動作について説明する。図12、図13は、実施例1による撮像装置100の撮影動作を説明するためのフローチャートである。なお、以下の説明では例としてR画素のみについて説明を行う。G画素、B画素の動作についてはR画素と同様であるため、説明を省略する。
ユーザーが図1に示した操作部103のメインスイッチを押下するとライブビュー(LV)撮影が開始され、メインスイッチが再度押下されるとLV撮影が終了する。このようにメインスイッチはトグル動作を行うように構成されている。LV撮影が開始されると、ステップS100にて、CPU102は撮像素子100に対してLV画像データ(被写体画像データ)を補正するための補正値生成用データを撮像素子から読み出すための設定を行う。即ち、CPU102は図10のTG_A340に対して、図8のVOB_0領域の駆動信号res、tx、sel0~2等のパルス設定を行う。また、図7のランプ信号発生器306aに対して補正値生成用データを読み出す際のゲインとしてランプ信号B322aの傾きを設定する。ここでは例として、撮影感度ISO200で撮影するための傾きを設定する。また図2のTG307aに対して、AD変換器301d、301bをオン状態、その他のAD変換器(301a、301c、301e、301f)はオフ状態にする設定を行う。また、図7のAD変換器301d、301bのセレクタ326にランプ信号B322aを入力する設定を行う。また、図11のデータ出力部A310aをオフにし、データ出力部B311aをオンにする設定を行う。本実施例ではオフにした回路は消費電力がオン時より低くなるか給電がオフとなる構成としているので、消費電力を削減することができる。さらに、図2のAD変換器301d、301bの図7のセレクタ347に対して、カウンタ値B346aを選択する設定を行う。
次にステップS101にて図11の補正値生成回路400により補正値を生成する設定を行う。また、RAM403に対して、補正値生成のためにRAM0(403a)を使用する設定を行う。
次にステップS102にて、補正値生成用データの読み出しを行う。なお、このときの各構成要素の状態を示す概念図を図14のフレームNo.LV_0に示す。
補正値生成用データを読み出す場合の撮像素子100の動作タイミングチャートを図16に示す。時刻ta0において、駆動信号tx_0、2、4、6、8、10がHになり、図6の転送スイッチ202がオンになる。このとき、res_0、2、4、6、8、10はHになっているので、PD201に蓄積された電荷は、転送スイッチ202、リセットスイッチ205を介して電源208に転送され、PD201はリセットされる。時刻ta1において、制御信号tx_0、2、4、6、8、10をLとし、PD201への電荷の蓄積が開始される。ただしVOB_0領域の画素は遮光されているので、PD201では暗電流が蓄積されることになる。
一方、所定の時間だけ電荷の蓄積を行った後の時刻ta2において、選択スイッチ206の駆動信号sel1_0、2、4、6、8、10がHになり、増幅MOSトランジスタ204のソースが垂直出力線に接続される。時刻ta3において、リセットスイッチ205の駆動信号res_0、2、4、6、8、10をLとすることでFD部203のリセットを解除する。このリセット解除時におけるFD部203の信号電位であるノイズ信号が増幅MOSトランジスタ204を介して垂直出力線300b、300dに読み出され、AD変換器301b、301dに入力される。このときの、画素と垂直出力線の接続関係を示す概念図を図22に示す。図22におけるフレームNo.LV_0に示すように、0、2、4行目の画素が垂直出力線301d(垂直出力線3)に接続され、6、8、10行目の画素が垂直出力線301b(垂直出力線1)に接続されることになる。同一垂直出力線に接続された画素の信号は混合された状態でAD変換器にてAD変換されることとなる。なお、図22において画素からの垂直線出力線への接続線が破線で記載されているものは、駆動信号selがLとなっており、垂直出力線へ接続されていないものとする。また、以下の説明において、垂直出力線301a~fをそれぞれ垂直出力線0~5と便宜的に呼ぶこととする。
各画素200の出力端子vout1にはノイズ信号が出力され、垂直出力線300bには6、8、10行目の画素のノイズ信号の混合信号が出力され、垂直出力線300dには0、2、4行目の画素のノイズ信号の混合信号が出力される。
次に、時刻ta4にて、図2のTG307aはAD変換器301b、301dを駆動し、AD変換を開始する。ここで各垂直出力線に出力されるノイズ信号の混合信号がAD変換される。AD変換開始時に図7のカウンタ305aがカウント値のインクリメント動作を開始する。一方、垂直出力線301b、301dのノイズ信号レベルとセレクタ326から出力されるランプ信号レベルを比較器327で比較し、一致した時点のカウンタ値をLatch_N328に格納することでAD変換が行われる。(時刻ta5)
時刻ta5にて、AD変換が終了すると、AD変換器301b、301dはそれぞれAD変換されたノイズ信号をLatch_N328保持する。
次に、時刻ta6にて、図2のTG307aは再びAD変換器301b、301dを駆動し、AD変換を開始する。ここでAD変換されるのはPD201にて光電変換された信号ではなく、再度取得されたノイズ信号である。そして各垂直出力線に出力されるノイズ信号の混合信号がAD変換される。時刻ta7にて、AD変換が終了されると、AD変換器301b、301dは、それぞれAD変換されたノイズ信号をLatch_S329に保持する。ここで2回取得されたノイズ信号は、res_0、2、4、6、8、10をta3でLにしてリセット解除した状態からの経過時間(タイミング)が異なる。本実施例では、上記リセット解除直後(ta4)のFD部のノイズ信号とリセット解除から所定時間経過後(ta6)のFD部のノイズ信号とに基づいて垂直出力線、AD変換器等を含む列読み出し回路(列回路)毎の固有の列オフセットノイズを補正する。
その後時刻ta8にてres_0、2、4、6、8、10をHとし、再びFD部203をリセット状態とする。一方、撮像素子100の外部への補正値生成用データの出力を開始する。水平走査回路304は水平走査を開始し、各列のAD変換器301b、301dのLatch_N328に保持された1回目のN信号とLatch_S329に保持された2回目のN信号を図4、図9のS-N演算部308aへ順次転送する。S-N演算部308aで列毎に2回目のN信号から1回目のN信号を減算し、データ振り分け部309aを経由してデータ出力部B311aから補正値生成用データとして出力する。一方、時刻ta9にてsel_0、2、4、6、8、10がLになり、その後時刻ta10にて全列の2回分の補正値生成用データの出力が終了する。
本実施例では、図21(A)のVOB_0領域に対して図16のタイミングチャートに示す12行分の読出し動作を繰り返し行うことにより補正値生成用データを出力する。
次に、ステップS102における図11のDFE101の動作(図14 LV_0フレーム)について説明する。
撮像素子100のデータ出力部B311aからは補正値生成用データが出力され、補正値生成回路400に入力される。補正値生成回路400には、図27に示されるように垂直出力線1、3をそれぞれ経由した補正値生成用データが順次入力される。補正値生成回路400は各垂直出力線の列毎に、RAM0(403a)へ補正値生成用データを一時格納しながら加算する。加算後に平均し、補正値(列ごとの前記オフセット値)としてRAM0(403a)へ格納する。
DFE101で補正値の生成が終了すると、図12のステップS103へ進む。
ステップS103にて、CPU102は撮像素子100に対してLV画像データ(被写体画像データ)を読み出す設定を行う。CPU102は図10のTG_B342に対して、図8のVOB_1領域、HOB領域と有効画素領域の画素信号を読み出すための駆動信号res、tx、sel0~2等のパルス設定を行う。また、ランプ信号発生器306aに対してLV画像データを読み出す時のゲインとしてランプ信号A321aの傾きを設定する。ここでは例として、撮影感度ISO200で撮影するための傾きを設定する。また図2のTG307aに対して、AD変換器301d、301bをオン状態、その他のAD変換器(301a、301c、301e、301f)はオフ状態にする設定を行う。また、AD変換器301d、301bの図7のセレクタ326にランプ信号A321aを入力する設定を行う。さらに、AD変換器301d、301bの図7のセレクタ347に対して、カウンタ値A323aを選択する設定を行う。また、図4、図9、図11のデータ出力部B311aをオフにし、データ出力部A310aをオンにする設定を行う。
次にステップS104にて図11の補正回路401によりLV画像データを補正するための設定を行う。図11のセレクタ402をaに設定し、データ出力部A310aからのデータのみを選択する。また、RAM403に対して、補正のためにRAM0(403a)を使用する設定を行う。
次にステップS105にて、LV画像データの読み出しを行う。なお、このときの各構成要素の状態を示す概念図を図14のフレームNo.LV_1に示す。
LV画像データを読み出す場合の撮像素子100の動作について、図18のタイミングチャートを用いて説明する。時刻tc0において、駆動信号tx_12k+0、12k+2、12k+4、12k+6、12k+8、12k+10(kは図8のhより大きい整数)がHになり、図6の転送スイッチ202がオンになる。このとき、res_12k+0、12k+2、12k+4、12k+6、12k+8、12k+10はHになっており、PD201に蓄積された電荷は、転送スイッチ202、リセットスイッチ205を介して電源208に転送され、PD201はリセットされる。時刻tc1において、制御信号tx_12k+0、12k+2、12k+4、12k+6、12k+8、12k+10をLとし、PD201への光電荷の蓄積が開始される。ただし図8のVOB_1領域やHOB領域の画素については遮光されているので、PD201では暗電流が蓄積される。
所定の時間だけ光電荷の蓄積を行った後の時刻tc2において、選択スイッチ206の駆動信号sel1_12k+0、12k+2、12k+4、12k+6、12k+8、12k+10がHになり、増幅MOSトランジスタ204のソースが垂直出力線に接続される。また、時刻tc3において、リセットスイッチ205の駆動信号res_12k+0、12k+2、12k+4、12k+6、12k+8、12k+10をLとすることでFD部203のリセットを解除する。このリセット解除時におけるFD部203の信号電位であるノイズ信号が増幅MOSトランジスタ204を介して垂直出力線300b、300dに読み出され、AD変換器301b、301dに入力される。このときの、画素と垂直出力線の接続関係を示す概念図を図22のフレームNo.LV_1に示す。即ち、12k+0、12k+2、12k+4行目の画素が垂直出力線301d(垂直出力線3)に接続され、12k+6、12k+8、12k+10行目の画素が垂直出力線301b(垂直出力線1)に接続されることになる。そして同一垂直出力線に接続された画素の信号は混合された状態でAD変換器にてAD変換されることとなる。
このとき、各画素200の出力端子vout1にはノイズ信号(FD部のリセット解除時の電位)が出力され、垂直出力線300b、には6、8、10行目の画素のノイズ信号の混合信号が出力される。そいて垂直出力線300dには0、2、4行目の画素のノイズ信号の混合信号が出力される。
次に、時刻tc4にて、図2のTG307aはAD変換器301b、301dを駆動し、AD変換を開始する。ここで各垂直出力線に出力されるノイズ信号の混合信号がAD変換される。AD変換開始に伴って図7のカウンタ305aがカウント値のインクリメント動作を開始する。垂直出力線301b、301dのノイズ信号レベルとセレクタ326から出力されるランプ信号レベルを比較器327で比較し、一致した時点のカウンタ値をLatch_N328に格納することでノイズレベルのAD変換が行われる。
時刻tc5にて、AD変換が終了すると、AD変換器301b、301dはそれぞれAD変換されたノイズ信号をLatch_N328に保持する。
時刻tc6にて、垂直走査回路303は、駆動信号tx_12k+0、12k+2、12k+4、12k+6、12k+8、12k+10をHとし、12k+0、12k+2、12k+4、12k+6、12k+8、12k+10行目の画素200の図6の転送ゲート202をオンする。そして、各画素のPD201に蓄積されている信号電荷が増幅MOSトランジスタ204で構成されるソースフォロアのゲートに転送される。ソースフォロアは転送された信号電荷に見合う分だけリセットレベルから電位が変動して光信号レベルが確定する。このとき、各画素200の出力端子vout1にはPD201の光信号が出力され、垂直出力線300dには12k+0、12k+2、12k+4行目の画素の光信号の混合信号が出力される。また、垂直出力線300bには12k+6、12k+8、12k+10行目の画素の光信号の混合信号が出力される。
その後、時刻tc7にて、tx_12k+0、12k+2、12k+4、12k+6、12k+8、12k+10をLにし、PD201からの転送を完了する。
次に、時刻tc8にて、TG307aはAD変換器301b、301dを駆動し、AD変換を開始する。ここで各垂直出力線に出力される光信号の混合信号がAD変換される。時刻tc9にて、AD変換が終了されると、AD変換器301b、301dは、それぞれAD変換された光信号をLatch_S329に保持する。
その後時刻tc10にてres_12k+0、12k+2、12k+4、12k+6、12k+8、12k+10をHとし、再びFD部203をリセット状態とする。一方、撮像素子100の外部への被写体画像データの出力を開始する。即ち、水平走査回路304は水平走査を開始し、各列のAD変換器301b、301dのN信号とS信号をそれぞれS-N演算部308aへ順次転送する。S-N演算部で列毎にS信号からN信号を減算し、データ振り分け部309aを経由してデータ出力部A310aから被写体画像データとして出力する。時刻tc11にてsel1_12k+0、12k+2、12k+4、12k+6、12k+8、12k+10がLになり、その後時刻tc12にて全列の被写体画像データの出力(12行分の水平走査)が終了する。ただしここでは偶数行のRについてのみ示しているので6行だけが示されている。
本実施例では、図21(B)のVOB_1領域、HOB領域、有効画素領域に対して図18のタイミングチャートに示す12行ずつの転送単位動作を行い、順次垂直方向に3画素の信号が混合された状態で一度だけ読み出す。そして、その動作を、kをインクリメントしながら図21(B)における下方に向けて繰り返し、有効画素領域の最後の画素まで順次読出したデータをLV画像データ(被写体画像データ)とする。
次に、ステップS105におけるDFE101の動作(図14 LV_1フレーム)について説明する。
撮像素子100のデータ出力部A310aからはLV画像データが出力され、補正回路401へ入力される。図28に示すように補正回路401には、垂直出力線1、3をそれぞれ経由した被写体画像データが順次入力される。補正回路401はRAM0に格納されている各列のオフセット補正値を、入力される被写体画像データの列のタイミングに同期して読出し、各垂直出力線の列毎に被写体画像データから補正値を減算する補正を行う。その後、CPU102に対して補正後のLV画像データを出力する。CPU102は入力されたLV画像データを画像処理部107へ転送し、画像処理部107内で不図示の現像回路での現像を行い、表示部104へライブビュー画像として供給する。なお、上記の補正動作の際に、図8のVOB領域とHOB領域のオプティカルブラック信号を用いて公知の方法で黒レベル補正も行うが、ここでは黒レベル補正の動作については説明を省略する。
以上のようにして列ごとのオフセットノイズを除去したLV画像をモニターすることができる。
更に、本実施例の撮像装置ではLV画像のモニター中に静止画撮影ができるように静止画撮影スイッチを有する。そしてLV画像のモニター中に静止画撮影がされた場合や、LV画像のモニター中にISO感度などが変更された場合にも、LV画像に悪影響を与えることなく補正動作を行えるようにした点にも特徴がある。即ち、LV画像をモニター中に、ステップS106にて、CPU102が、操作部103の静止画撮影スイッチが押下されたかを判断する。静止画撮影スイッチが押下されていない場合には(ステップS106のNO)、図13のステップS116へ進み撮影感度等が変更されていないかチェックするプロセスに進む。
ステップS116では、CPU102は、メインスイッチが押下されているかを判断し、メインスイッチが押下されている場合には(ステップS116のYES)、LV画像の撮影を終了する。メインスイッチが押下されていない場合には(ステップS116のNO)、LV画像の撮影を継続し、ステップS117に進む。
ステップS117では、CPU102はISO感度の変更がされたかを判断する。本実施例ではユーザーにより操作される操作部103の状態をCPU102がスキャンすることによって各種操作状態を検出し、ISO感度の変更がなされたか否かを判断する。変更されない場合(ステップS117のNO)は図12のステップS103に戻りLV画像の撮影を継続する。ISO感度が変更された場合(ステップS117のYES)はステップS118へ進む。なお、本実施例ではISO感度をユーザーが決定する構成としたが、その限りでない。撮影したLV画像から明るさを検知し、例えば明るさが所定輝度値未満であると判断した場合にはISO感度を上げ、所定輝度値以上であると判断した場合などにはISO感度を下げるようにしてもよい。このように、所定の判断に基づきCPU102が自動でISO感度を変更する構成でもよい。
ISO感度が変更された場合にはステップS118にて、CPU102は撮像素子100に対してLV画像データの列ごとのオフセットを補正するためのデータを再度読み出すための設定を行う。即ち、CPU102は図10のTG_A340に対して、VOB_0領域の駆動信号res、tx、sel0~2等のパルス設定を行う。また、図7のランプ信号発生器306aに対して補正値生成用データを読み出す時のゲインとしてランプ信号B322aの傾きを設定する。ここでは例として、ISO感度(撮影感度)が変更された結果ISO1600となったものとする。その場合、撮影感度ISO1600で撮影するための傾きを設定する。
また、CPU102は図10のTG_B342に対して、VOB_1領域と有効画素領域の駆動信号res、tx、sel0~2等のパルス設定を行う。また、ランプ信号発生器306aに対してLV画像データを読み出す時のゲインとしてランプ信号A321aの傾きを設定する。ここでは例として、撮影感度ISO200で撮影するための傾きを設定する。なお、この時点ではまだ撮影感度が1600に切り替わっていないものとする。
また図2のTG307aに対して、AD変換器301b、301c、301d、301eをオン状態、その他のAD変換器(301a、301f)はオフ状態にする設定を行う。ここで垂直出力線2、4及びそれにそれぞれつながっているAD変換器301c、301eを用いる理由は現在モニター中のLV画像が乱れないようにするためである。また、AD変換器301b、301dには図7のセレクタ326にランプ信号A321aを入力する設定を行う。AD変換器301c、301eにはセレクタ326にランプ信号B322aを入力する設定を行う。さらに、AD変換器301b、301dにはセレクタ347にカウンタ値A323aを選択する設定を行う。AD変換器301c、301eにはセレクタ347にカウンタ値B346aを選択する設定を行う。また、データ出力部A310a、データ出力部B311aをオンにする設定を行う。
ここでは、補正値生成はLV画像の補正値を生成するために行われる。従って駆動信号res、tx、sel0~2等のパルス設定や、カウンタ値A323aとカウンタ値B346aの動作タイミングは、VOB_0と、VOB_1やHOBや有効画素領域で同一となるように設定される。
次にステップS119にて図11の補正値生成回路400により補正値を生成する設定を行う。また、RAM403に対して、補正値生成のためにRAM1(403b)を使用する設定を行う。また、LV画像データを補正するための設定も行う。セレクタ402をaに設定し、データ出力部A310aからのデータのみを選択する。また、RAM403に対して、補正のためにRAM0(403a)を使用する設定を行う。
次にステップS120にて、補正値生成用データの読み出しとLV画像データの読み出しを行う。なお、このときの各構成要素の状態を示す概念図を図14のフレームNo.LV_3に示す。このフレーム期間では補正値生成用データの読み出しとLV画像データ(被写体画像データ)の読み出しを行う同じフレーム期間に重複して行う。
このときの補正値生成用データ読み出しのための撮像素子100の動作タイミングチャートを図17に示す。前述した図16の補正値生成用データ読み出し時の動作と異なるのは、駆動信号sel2_0、2、4、6、8、10をHにすることによって読出しのための垂直線をずらしている点であり、他は図16と同様であるため説明を省略する。
このときの、画素と垂直出力線の接続関係の概念図を図23のフレームNo.LV_3に示す。図のように、0、2、4行目の画素が垂直出力線301e(垂直出力線4)に接続され、6、8、10行目の画素が垂直出力線301c(垂直出力線2)に接続されることになる。同一垂直出力線に接続された画素の信号は混合された状態でAD変換器にてAD変換されることとなる。
また、同時にLV画像データの読み出しを行う。このときのLV画像データの読み出しは前述した図18と同様に垂直出力線3と垂直出力線1を使用して行われるものであり、説明は省略する。なお、前述のように補正値生成用データの読み出しに垂直出力線4、2を用い、LV画像データの読み出しには垂直出力線3、1を用いるのは現在モニター中のLV画像が乱れないようにするためである。
次に、ステップS120におけるDFE101の動作(図14 LV_3フレーム)について説明する。
撮像素子100のデータ出力部B311aからは補正値生成用データが出力され、補正値生成回路400に入力される。補正値生成回路400には、垂直出力線2、4をそれぞれ経由した補正値生成用データが順次入力される。補正値生成回路400は各垂直出力線の列毎に、RAM1(403b)へ補正値生成用データを一時格納しながら加算する。加算後に平均し、補正値としてRAM1(403b)へ格納する。また、LV画像の補正については、前述したステップS105の動作と同様のため、詳細な説明は省略するが、LV_3の画像の補正はRAM0(403a)に記憶された補正信号との減算により行う。ステップS121で補正値の生成とLV画像の補正が終了すると、ステップS121へ進む。
ステップS121では、CPU102は、メインスイッチが押下されているかを判断し、メインスイッチが押下されている場合には(ステップS121のYES)、LV撮影を終了する。メインスイッチが押下されていない場合には(ステップS121のNO)、ステップS117に戻る。
ステップS117にて、さらにISO感度が変更されないと判断された場合には、ステップS103へ戻る。
ステップS103にて、CPU102は撮像素子100に対してLV画像データを読み出す設定を行う。CPU102は図10のTG_B342に対して、図8のVOB_1領域と有効画素領域の駆動信号res、tx、sel0~2等のパルス設定を行う。また、ランプ信号発生器306aに対してLV画像データを読み出す時のゲインとしてランプ信号A321aの傾きを設定する。ここでは前記S117において撮影感度を一旦ISO1600に切り替えており、S119で補正データとして撮影感度ISO1600用の補正データを記憶している。従ってランプ信号A321aの傾きを設定する際に撮影感度ISO1600で撮影するための傾きを設定する。またTG307aに対して、AD変換器301e、301cをオン状態、その他のAD変換器(301a、301b、301d、301f)はオフ状態にする設定を行う。また、AD変換器301e、301cのセレクタ326にランプ信号A321aを選択する設定を行う。これはステップS118で補正値生成用のデータ読出しをした際に使ったのと同じ垂直出力線2、4を使ってLV画像を読み出すことによって列ごとのオフセット補正をするためである。さらに、AD変換器301e、301cのセレクタ347に対して、カウンタ値A323aを選択する設定を行う。また、図4、図9、図11のデータ出力部B311aをオフにし、データ出力部A310aをオンにする設定を行う。
次にステップS104にてDFEの設定を行う。ここでは、LV画像データを補正するための設定を行う。セレクタ402をaに設定し、データ出力部A310aからのデータのみを選択する。また、補正のためにRAM1(403a)を使用する設定を行う。これによってステップS120で記憶された撮影感度ISO1600用の補正データを読み出すことになる。
次にステップS105にて、LV画像データの読み出しを行う。なお、このときの各構成要素の状態を示す概念図を図14のフレームNo.LV_4に示す。
このときの画像データ読み出し時の撮像素子100の動作タイミングチャートを図19に示す。前述した図18の被写体画像データ読み出し時の動作と異なるのは、駆動信号sel2_12k+0、12k+2、12k+4、12k+6、12k+8、12k+10をHにする点であり、他は図18と同様であるため説明を省略する。
このときの、画素と垂直出力線の接続を示す概念図を図23に示す。フレームNo.LV_4に示すように、12k+0、12k+2、12k+4行目の画素が垂直出力線301e(垂直出力線4)に接続され、12k+6、12k+8、12k+10行目の画素が垂直出力線301c(垂直出力線2)に接続されることになる。また、同一垂直出力線に接続された画素信号は混合された状態でAD変換器にてAD変換される。
次に、ステップS105におけるDFE101の動作(図14 LV_4フレーム)について説明する。
撮像素子100のデータ出力部A310aからはLV画像データが出力され、補正回路401へ入力される。図11に示すように補正回路401には、垂直出力線2、4をそれぞれ経由した被写体画像データが順次入力される。補正回路401はRAM1から格納されている補正値を、入力される被写体画像データの対応した列と同期したタイミングで読出し、各垂直出力線の列毎に被写体画像データから補正値を減算して補正を行う。その後、CPU102に対して被写体画像データを出力する。CPU102は入力されたLV画像データを画像処理部107へ転送し、画像処理部107内で不図示の現像回路での現像を行い、表示部104へライブビュー画像として表示を開始する。その後ステップS106へ進む。
ステップS106にて静止画撮影スイッチが押下されていた場合(ステップS106
のYES)には、ステップS107へ進む。
ステップS107にて、CPU102は撮像素子100に対して静止画画像データを読み出す設定を行う。CPU102は図10のTG_B342に対して、VOB_1領域とHOB領域と有効画素領域の駆動信号res、tx、sel0~2等のパルス設定を行う。また、ランプ信号発生器306aに対して静止画データを読み出す時のゲインとしてランプ信号A321aの傾きを設定する。ここでは例として、撮影感度ISO1600で撮影するための傾きを設定する。また図2のTG307aに対して、AD変換器301a~fをオン状態にする設定を行う。また、AD変換器301a~fのセレクタ326にランプ信号A321aを供給する設定を行う。さらに、AD変換器301a~fのセレクタ347に対して、カウンタ値A323aを選択する設定を行う。また、データ出力部A310a、データ出力部B311aをオンにする設定を行う。
ここでは、全てのAD変換器は静止画の読み出しを行うため、カウンタ値A323aとカウンタ値B346aの動作タイミングは同一となる設定を行う。このように本実施例では静止画画像データを読み出すときには全垂直出力線を用いるようにしているので高速読出しが可能となる。
次にステップS108にてDFE101の設定を行う。ここでは、補正と補正生成をともにOFFにし、RAM110へ静止画を格納する設定を行う。そのために、セレクタ402をbに設定し、データ出力部A310aとデータ出力部B311aからのデータを両方選択する。また、RAM1(403b)に格納されたLV用の補正値は保持しておくように設定する。さらにRAM制御部404に、静止画データが入力された場合、RAM110へ格納する設定を行う。
次にステップS109にて、静止画画像データの読み出しを行う。なお、このときの各構成要素の状態を示す概念図を図15のフレームNo.静止画に示す。
静止画画像データ読み出し時の撮像素子100の動作について、図20のタイミングチャートを用いて説明する。基本的には図18、17と同様の動作であり、異なるのは、駆動信号sel0_12k+0、12k+2、12k+4、12k+6、12k+8、12k+10をHにする点だけであるが一通り説明する。
時刻te0において、駆動信号tx_12k+0、12k+2、12k+4、12k+6、12k+8、12k+10がHになり、転送スイッチ202がオンになる。このとき、res_12k+0、12k+2、12k+4、12k+6、12k+8、12k+10はHになっており、PD201に蓄積された電荷は、転送スイッチ202、リセットスイッチ205を介して電源208に転送され、PD201はリセットされる。時刻te1において、制御信号tx_12k+0、12k+2、12k+4、12k+6、12k+8、12k+10をLとし、PD201への光電荷の蓄積が開始される。
所定の時間だけ光電荷の蓄積を行った後の時刻te2において、選択スイッチ206の駆動信号sel0_12k+0、12k+2、12k+4、12k+6、12k+8、12k+10がHになる。そして増幅MOSトランジスタ204のソースが垂直出力線に接続される。時刻te3において、リセットスイッチ205の駆動信号res_12k+0、12k+2、12k+4、12k+6、12k+8、12k+10をLとすることでFD部203のリセットを解除する。このリセット解除時におけるFD部203の電位であるノイズ信号が増幅MOSトランジスタ204を介して垂直出力線300a~fに読み出され、AD変換器301a~fに入力される。このときの、画素と垂直出力線の接続を示す概念図を図24に示す。フレームNo.静止画に示すように、12k+0、12k+2、12k+4、12k+6、12k+8、12k+10行目の画素がそれぞれ垂直出力線301a~f(垂直出力線0~5)に接続されることになる。
各画素200の出力端子vout0にはノイズ信号が出力され、垂直出力線300a~fには12k+0、12k+2、12k+4、12k+6、12k+8、12k+10行目の画素のノイズ信号が出力される。
次に、時刻te4にて、図2のTG307aはAD変換器301a~fを駆動し、AD変換を開始する。ここで各垂直出力線に出力されるノイズ信号がAD変換される。AD変換開始にカウンタ305aがカウント値のインクリメント動作を開始する。垂直出力線301a~fの信号レベルとセレクタ326から出力されるランプ信号レベルを比較器327で比較し、一致した時点のカウンタ値をLatch_N328に格納することでAD変換が行われる。
時刻te5にて、AD変換が終了されると、AD変換器301a~fはそれぞれAD変換されたノイズレベルを保持する。
時刻te6にて、垂直走査回路303は、駆動信号tx_12k+0、12k+2、12k+4、12k+6、12k+8、12k+10をHとにし、12k+0、12k+2、12k+4、12k+6、12k+8、12k+10行目の画素200の転送ゲート202をオンする。そして、各画素のPD201に蓄積されている信号電荷が増幅MOSトランジスタ204で構成されるソースフォロアのゲートに転送される。ソースフォロアは転送された信号電荷に応じた分だけリセットレベルから電位が変動して光信号レベルが確定する。このとき、各画素200の出力端子vout0には光信号が出力され、垂直出力線300a~fには12k+0、12k+2、12k+4、12k+6、12k+8、12k+10行目の画素の光信号が出力される。
その後、時刻te7にて、tx_12k+0、12k+2、12k+4、12k+6、12k+8、12k+10をLにし、PD201からの転送を完了する。
次に、時刻te8にて、図2のTG307aはAD変換器301a~fを駆動し、AD変換を開始する。ここで各垂直出力線に出力される光信号がAD変換される。時刻te9にて、AD変換が終了されると、AD変換器301a~fは、それぞれAD変換された光信号を保持する。
その後時刻te10にてres_12k+0、12k+2、12k+4、12k+6、12k+8、12k+10をHとし、再びFD部203をリセット状態とする。また、撮像素子100の外部への被写体画像データの出力を開始する。水平走査回路304は水平走査を開始し、各列のAD変換器301a~fのN信号とS信号をS-N演算部308aへ順次転送する。S-N演算部で列毎にS信号からN信号が減算され、データ振り分け部309aを経由して、データ出力部B311aから被写体画像データを出力する。時刻te11にてsel0_12k+0、12k+2、12k+4、12k+6、12k+8、12k+10がLになり、その後時刻te12にて全列の被写体画像データの出力が終了する。
本実施例では、図21(B)のVOB_1領域、HOB領域、有効画素領域に対して図21(B)の上から順に、図20に示す転送単位(12行)ずつ水平転送動作を行い、各画素一度だけ読み出したデータを静止画画像データとして出力する。
次に、ステップS109時のDFE101の動作(図15 静止画フレーム)について説明する。
撮像素子100のデータ出力部A310a、データ出力B311aからは静止画画像データが出力され、RAM制御部404へ入力される。RAM制御部404は入力された静止画画像データをRAM110へ順次格納する。
静止画撮影が終了すると、ステップS110に進む。
ステップS110にて、CPU102は撮像素子100に対して静止画画像データを補正するためのデータを読み出す設定を行う。CPU102は図10のTG_A340に対して、VOB_0領域の駆動信号res、tx、sel0~2等のパルス設定を行う。また、ランプ信号発生器306aに対して補正値生成用データを読み出す時のゲインとしてランプ信号B322aの傾きを設定する。ここでは例として、撮影感度ISO1600で撮影するための傾きを設定する。
また、CPU102は図10のTG_B342に対して、VOB_1領域とHOB領域と有効画素領域の駆動信号res、tx、sel0~2等のパルス設定を行う。また、ランプ信号発生器306aに対してLV画像データを読み出す時のゲインとしてランプ信号A321aの傾きを設定する。ここでは例として、撮影感度ISO1600で撮影するための傾きを設定する。
また図2のTG307aに対して、AD変換器301b、301c、301d、301eをオン状態、その他のAD変換器(301a、301f)はオフ状態にする設定を行う。また、AD変換器301b、301dにはセレクタ326にランプ信号B322aを供給する設定を行う。AD変換器301c、301eにはセレクタ326にランプ信号A321aを供給する設定を行う。さらに、AD変換器301b、301dにはセレクタ347にカウンタ値B346aを選択する設定を行う。AD変換器301c、301eにはセレクタ347にカウンタ値A323aを選択する設定を行う。また、データ出力部A310a、データ出力部B311aをオンにする設定を行う。
ここでは、補正値生成は静止画の補正値を生成するために行われる。従って駆動信号res、tx、sel0~2等のパルス設定や、カウンタ値A323aとカウンタ値B346aの動作タイミングは、VOB_0と(VOB_1、HOB、有効画素領域)とで異なる設定を行う。なお、この限りではなく、動作タイミングが同一の設定とする構成も適用することができる。
次にステップS111にてDFEの設定を行う。ここでは、静止画用補正値を生成するための設定を行う。補正値生成回路400に補正値を生成する設定を行う。また、静止画用補正値生成のために使用するRAMをRAM2(403c)にする設定を行う。また、LV画像データを補正するための設定を行う。セレクタ402をaに設定し、データ出力部A310aからのデータのみを選択する。また、LV画像データの補正のためにRAM1(403b)を使用する設定を行う。
次にステップS112にて、静止画用補正値生成用データの読み出しとLV画像データの読み出しを行う。なお、このときの各構成要素の状態を示す概念図を図15のフレームNo.LV_6に示す。
このときの静止画用補正値生成用データ読み出し時の撮像素子100の動作タイミングチャートを、図17に示す。前述した図16の補正値生成用データ読み出し時の動作と異なるのは、駆動信号sel2_0、2、4、6、8、10をHにする点であり、他は図16と同様であるため説明を省略する。
このときの、画素と垂直出力線の接続を示す概念図を図24に示す。フレームNo.LV_6に示すように、0行目の画素が垂直出力線301d(垂直出力線3)に接続され、6行目の画素が垂直出力線301b(垂直出力線1)に接続されることになる。それぞれ垂直出力線に出力された画素信号はAD変換器にてAD変換されることとなる。そしてDFE101で静止画用補正データが生成されてRAM2に記憶される。
また、同時にLV画像データの読み出しを行う。このときのLV画像データの読み出しは前述した図23のLV_4と同様であり、図24のLV_6のように垂直出力線2と4に出力されるため、説明を省略する。ここで読み出されたLV画像データはRAM1に記憶されていた補正データにより補正される。
その後ステップS113へ進む。
ステップS113では静止画用補正値が全て生成されたか否かを判断する。ここでは、図15 フレームNo.LV6のRAM2状態に示すように、垂直出力線1と3の補正値のみ生成が完了し記憶されているので、ステップS110へ戻る(ステップS113のNO)。
ステップS110にて、CPU102は撮像素子100に対してLV画像データを読み出すとともにLV画像を補正するためのデータを読み出す設定を行う。CPU102はTG_A340に対して、VOB_0領域の駆動信号res、tx、sel0~2等のパルス設定を行う。また、ランプ信号発生器306aに対してLV画像の補正値生成用データを読み出す時のゲインとしてランプ信号B322aの傾きを設定する。ここでは例として、撮影感度ISO1600で撮影するための傾きを設定する。
また、CPU102はTG_B342に対して、VOB_1領域とHOB領域と有効画素領域の駆動信号res、tx、sel0~2等のパルス設定を行う。また、ランプ信号発生器306aに対してLV画像データを読み出す時のゲインとしてランプ信号A32aの傾きを設定する。ここでは例として、撮影感度ISO1600で撮影するための傾きを設定する。
また図2のTG307aに対して、AD変換器301b、301c、301d、301eをオン状態、その他のAD変換器(301a、301f)はオフ状態にする設定を行う。また、AD変換器301c、301eにはセレクタ326にランプ信号A321aを供給する設定を行う。AD変換器301b、301dにはセレクタ326にランプ信号B322aを供給する設定を行う。さらに、AD変換器301c、301eにはセレクタ347にカウンタ値A323aを選択する設定を行う。AD変換器301b、301dにはセレクタ347にカウンタ値B346aを選択する設定を行う。また、データ出力部A310a、データ出力部B311aをオンにする設定を行う。
ここでは、補正値生成はLV画像の補正値を生成するために行われる。従って駆動信号res、tx、sel0~2等のパルス設定や、カウンタ値A323aとカウンタ値B346aの動作タイミングは、VOB_0と(VOB_1、HOB、有効画素領域)とで同一となる設定を行う。
次にステップS111にてDFE101の設定を行う。ここでは、LV用の補正値を生成するための設定を行う。補正値生成回路400に補正値を生成する設定を行う。また、補正値生成のためにRAM0(403a)を使用する設定を行う。また、LV画像データを補正するための設定を行う。セレクタ402をaに設定し、データ出力部A310aからのデータのみを選択する。また、補正のためにRAM1(403b)を使用する設定を行う。また、RAM2に格納されている静止画用の補正値(垂直出力線1、3の補正値)は保持する設定を行う。
次にステップS112にて、LV用補正値生成用データの読み出しとLV画像データの読み出しを行う。なお、このときの各構成要素の状態を示す概念図を図15のフレームNo.LV_7に示す。
このときのLV用の補正値生成用データ読み出し時の撮像素子100の動作タイミングチャートを図17に示す。前述した図16の補正値生成用データ読み出し時の動作と異なるのは、駆動信号sel2_0、2、4、6、8、10をHにする点であり、他は図16と同様であるため説明を省略する。
このときの、画素と垂直出力線の接続を示す概念図を図25に示す。フレームNo.LV_7に示すように、0、2、4行目の画素が垂直出力線301d(垂直出力線3)に接続され、6、8、10行目の画素が垂直出力線301b(垂直出力線1)に接続されることになる。同一垂直出力線に接続された画素信号は混合された状態でAD変換器にてLV用の補正値生成用データとしてAD変換されることとなる。
また、同時にLV画像データの読み出しを行う。このときのLV画像データの読み出しは前述した図22のフレームNo.LV_1と同様であり図25のフレームNo.LV_7のように垂直出力線2、4に出力されるため、説明を省略する。
次に、ステップS112時のDFE101の動作(図15 LV_7フレーム)について説明する。
撮像素子100のデータ出力部B311aからは補正値生成用データが出力され、補正値生成回路400に入力される。補正値生成回路400には、垂直出力線1、3をそれぞれ経由したデータが順次入力される。補正値生成回路400は各垂直出力線の列毎に、RAM0(403a)へデータを一時格納しながら加算する。加算後に平均し、補正値としてRAM1(403b)へ格納する。また、LV画像の補正については、前述したステップS105の動作と同様のため、説明を省略する。DFE101で補正値の生成とLV画像の補正が終了すると、ステップS113へ進む。
今回のステップS110からステップS112の動作(図15 LV_7フレーム)により、次のフレームでLV画像を垂直出力線1、3から読み出して補正できる状態となり、垂直出力線2、4が空く。そこで次にこの垂直出力線2、4から静止画の補正値生成用データが読み出せることとなる。
その後ステップS113へ進む。
ステップS113では静止画の補正値が全て生成されたか否かを判断する。ここでは、図15 フレームNo.LV6のRAM2状態に示すように、垂直出力線1と3の補正値のみ生成が完了しているので、ステップS110へ戻る(ステップS113のNO)。
この後ステップS110からステップS112の動作を繰り返し、前述した図15 LV_6と同様の動作により、垂直出力線2、4と垂直出力線0、5の静止画用の補正値を生成する。(図15、図25、図26 LV_8、9フレーム)
このように、被写体画像データとしての静止画像は1フレーム期間で読み出されるが、静止画用の補正値は列回路をフレーム単位で変更しながら複数フレーム期間かけて取得するようにした点に大きな特徴がある。
ステップS113では静止画の補正値が全て生成されたか否かを判断する。ここでは、図15 フレームNo.LV_9のRAM2状態に示すように、全ての垂直出力線の補正値生成が完了しているので、ステップS114へ進む(ステップS113のYES)。
次にステップS114にてDFEの設定を行う。ここでは、静止画画像データを補正するための設定を行う。RAM制御部404に、RAM110から格納されている静止画データを出力する設定を行う。また、RAM403に対して、補正のためにRAM2(403c)を使用する設定を行う。
このときのDFE101の動作(図15 LV_10フレーム)について説明する。
RAM110からは静止画画像データが出力され、補正回路401に入力される。補正回路401には、垂直出力線0~5をそれぞれ経由した被写体画像データが順次入力される。補正回路401はRAM2(403c)に格納されている補正値を、入力される被写体画像データの列対応が合う同期したタイミングで読出し、各垂直出力線の列毎に被写体画像データから補正値を減算して補正を行う。その後、CPU102に対して被写体画像データを出力する。CPU102は入力された静止画画像データを画像処理部107へ転送し、画像処理部107内で不図示の現像回路での現像を行い、記録部108へ静止画として記録する。
静止画補正が終了すると、ステップS103に進む。
上記動作により、動画撮影中に静止画撮影がなされた場合でも、動画撮影を中断せずに静止画用の補正値を生成し、静止画に補正を適用することができる。また動画データ、静止画データともに撮影前後に補正値を生成するため、必要な撮影条件毎、モード毎の補正値を記憶する必要がない。
なお、本実施例ではISO感度に関連してAD変換器のゲインを変更した時に、補正値を取得する構成としたが、この限りではない。内蔵アンプのゲインなどが変更された場合にも適用できる。また、AD変換のbit数、垂直方向/水平方向の画素加算数など撮影モードが切り替わった場合なども適用することができる。即ち、静止画データを読み出す場合と動画データを読み出す場合とでAD変換する際のbit数を異ならせたり、水平方向または垂直方向の画素加算数を異ならせたりしてもよい。
また、本実施例ではオフセット補正を行う構成としたが、ゲイン補正など読み出し回路に起因する補正であれば適用可能である。
さらに、本実施例では静止画を撮影したのちに、静止画の補正値を、静止画データを取得した後に複数フレーム期間かけて取得する構成としたが、静止画データを取得する前に静止画用の補正値を生成し、静止画データの読み出し時に補正を適用する構成でもよい。
以下、図29を参照して本発明の実施例2による撮像装置について説明する。
図29は本発明の実施例2による撮像装置1001の構成例を示すブロック図である。本実施例における撮像装置1001は、撮像素子100とは異なる構成の撮像素子500を有する。また、実施例1で述べた撮像装置1000と比較してDFE101を有せず撮像素子500から直接CPU102にデータが送信される構成である。それ以外は撮像装置1000と同様であるため、説明を省略する。
図30~図33は撮像素子500の構成を分割して示した図であり、図30~図33はそれぞれ撮像素子500の回路構成の左上、左下、右上、右下の分割部分を示している。また図30、図31は図2、図3とそれぞれ同じ構成であり、図32、図33の出力部分の構成が図4、図5とは異なる。
図32、図33において、画像補正回路501a、501bは、S-N演算部308a、308bから出力される補正値生成用データをもとに補正値を生成し、被写体画像データを補正する。データ出力部502a、502bはSLVS(Scalable Low Voltage Signaling)等の伝送方式であり、画像補正回路501a、501bから出力された被写体画像データは、データ出力部502a、502bから撮像素子500の外部へ出力される。画像補正回路501a、501b、データ出力部502a、502b以外の構成は撮像素子100と同様であるため、説明を省略する。
次に、図34を用いて画像補正回路501の構成について説明する。
図34にCPU102との接続を含めた画像補正回路501a(501b)の構成を示す。画像補正回路501a(501b)は撮像素子と一体に形成されており、撮像素子の光電変換用の複数画素が配置された半導体基板とは異なる層の半導体基板上に配置されている。S-N演算部308a(308b)から入力されたデータは、補正値生成回路503、補正回路504へ入力される。SSG(同期信号発生回路)505は図30、図31のTG307a(307b)からの不図示の制御信号をもとにして、入力データの種別とデータ数をカウントし、補正値生成回路503と補正回路504に対して、補正値生成と補正のタイミング制御を行う。
補正値生成回路503はSSG505のタイミング制御信号に基づき、入力されるデータが補正値生成用データである時に、列読み出し回路(垂直出力線、AD変換器、等)毎の補正値を生成し、RAM506へ格納する。RAM506は、RAM0(506a)とRAM1(506b)、RAM2(506c)を有する。RAM0からRAM2において、各RAMに読み出しを行う画像の補正値を格納し、補正に使用する。補正に使用していないRAMでは補正値生成や保持やパワーダウンがなされる。
RAM制御部507は、撮像素子1001内にあるRAM508へのデータ書き込みや読み出しを制御する。RAM508も撮像素子と一体に形成されており、撮像素子の光電変換用の複数画素が配置された半導体基板や画像補正回路501a(501b)の配置された半導体基板とは異なる層の半導体基板に配置されている。CPU102からの設定に従い、S-N演算部308aから出力される被写体画像データをRAM110に書き込んだり、RAM110に格納される画像を読み出し、補正回路401へ入力したりする。
補正回路504は、SSG505のタイミング制御信号に基づき、入力されるデータが被写体画像データである時に、列読み出し回路毎にRAM506から出力される補正値を被写体画像データから減算し、オフセット補正を行う。その後CPU102に対してデータを出力する。
本実施例の画像補正回路501a(501b)は、補正値生成回路503と補正回路504がSSG505でタイミング制御されて処理を実行する以外、実施例1で述べたDFE101で述べた機能と同様である。DFE101では被写体画像データと補正値生成用データが撮像素子100から分かれて入力されているが、画像補正回路501a(501b)ではSSG505でデータの判別とデータ数カウントを実施している。画像補正回路501a(501b)、補正回路504、RAM506の動作内容は、DFE101の補正値生成回路400、補正回路401、RAM403と同様である。
実施例2の撮像装置1001の動作は、図12、図13のフローチャートの動作に対して、DFE101の設定をしているステップが画像補正回路501a(501b)の設定に変更されるのみであるため、説明を省略する。
本実施例2においても、動画撮影中に静止画撮影がなされた場合でも、動画撮影を中断せずに静止画用の補正値を生成しつつ、静止画に補正を適用することができる。
更に、実施例2では、撮像素子外に補正値を生成するためのデータを出力する必要がないため、撮像素子のデータ出力インターフェース(I/F)に関して被写体画像データ出力レートを圧迫することがない。また、撮像素子外へ出力する場合と比べて出力I/Fをパワーダウンできるので、消費電力を低減することができる。
以上、本発明の好ましい実施例について説明したが、本発明はこれらの実施例に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
また、本発明における制御の一部または全部を、上述した実施例の機能を実現するプログラム(ソフトウェア)としてネットワーク又は各種記憶媒体を介して撮像装置や情報処理装置に供給するようにしてもよい。そしてその撮像装置や情報処理装置におけるコンピュータ(又はCPUやMPU等)がプログラムを読み出して実行するようにしてもよい。その場合、そのプログラム、及び該プログラムを記憶した記憶媒体は本発明を構成することとなる。
1000、1001 撮像装置
101 DFE
206a~c 画素選択スイッチ
300a~g 垂直出力線
301a~g AD変換器

Claims (20)

  1. 光電変換素子を含む複数の画素及び複数の列回路を有する撮像素子と、
    前記複数の列回路を使用して前記複数の画素のデータを読み出す読出し手段と、
    前記読出し手段による読出しに使用する列回路を変更する列回路接続変更手段と、を有し、
    前記列回路接続変更手段により接続される列回路をフレーム単位で変更しながら、複数フレーム期間かけて各列回路の特性を示すデータを読出して前記複数の列回路の補正データを取得する補正データ生成手段と、を有することを特徴とする撮像装置。
  2. 前記読出し手段は前記複数の列回路を使用して被写体画像データを1フレーム期間に読み出すとともに、前記補正データ生成手段によって複数フレーム期間かけて取得された補正データを用いて前記被写体画像データを補正する補正手段を有することを特徴とする請求項1に記載の撮像装置。
  3. 前記読出し手段によって読出された被写体画像データをメモリに一旦記憶し、
    前記補正データ生成手段によって複数フレーム期間かけて取得された前記補正データを用いて前記被写体画像データを補正することを特徴とする請求項2に記載の撮像装置。
  4. 前記補正データ生成手段は、前記被写体画像データ読み出しより後に前記補正データを生成することを特徴とする請求項2または3に記載の撮像装置。
  5. 前記補正データ生成手段は、前記被写体画像データ読み出しより前に前記補正データを生成することを特徴とする請求項2または3に記載の撮像装置。
  6. 前記読出し手段は、動画データを読み出す場合と静止画データを読み出す場合とで、画像データをAD変換する際のbit数を異ならせることを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
  7. 前記読出し手段は、動画データを読み出す場合と静止画データを読み出す場合とで、垂直方向の画素加算数を異ならせることを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
  8. 前記読出し手段は、動画データを読み出す場合と静止画データを読み出す場合とで、水平方向の画素加算数を異ならせることを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
  9. 前記読出し手段は、被写体画像データを読み出す動作と列回路の特性を示すデータを読み出す動作を、異なる列回路を用いて行うモードを有することを特徴とする請求項1乃至8のいずれか1項に記載の撮像装置。
  10. 前記読出し手段は、被写体画像データを読み出す動作と列回路の特性を示すデータを読み出す動作を、同一の動作タイミングで制御することを特徴とする請求項1乃至8のいずれか1項に記載の撮像装置。
  11. 前記読出し手段は、被写体画像データを読み出す動作と列回路の特性を示すデータを読み出す動作を、異なる動作タイミングで制御することを特徴とする請求項1乃至8のいずれか1項に記載の撮像装置。
  12. 前記読出し手段は、被写体画像データを読み出す動作と列回路の特性を示すデータを読み出す動作を、重複した期間に行うよう制御することを特徴とする請求項1乃至8のいずれか1項に記載の撮像装置。
  13. 前記読出し手段は、被写体画像データを読み出す動作と列回路の特性を示すデータを読み出す動作の少なくともいずれかにおいて、読み出しに使用していない列回路のための一部の回路への給電をオフすることを特徴とする請求項1乃至12のいずれか1項に記載の撮像装置。
  14. 前記読出し手段は、被写体画像データを読み出す場合と列回路の特性を示すデータを読み出す場合とで、異なるデータ出力手段から出力することを特徴とする請求項1乃至13のいずれか1項に記載の撮像装置。
  15. 前記読出し手段は、前記静止画データを読み出す場合に、前記動画データを読み出す場合に使用する列回路よりも多い数の列回路を使用して画像データを読み出すことを特徴とする請求項7に記載の撮像装置。
  16. 前記補正データ生成手段は、前記撮像素子と一体に構成されることを特徴とする請求項1乃至15のいずれか1項に記載の撮像装置。
  17. 前記列回路の特性を示すデータを読み出す場合に、遮光された画素からの信号を読み出すことを特徴とする請求項1乃至16のいずれか1項に記載の撮像装置。
  18. 前記列回路接続変更手段は各画素の出力を複数の垂直出力線のいずれかに選択的に接続する選択スイッチを含むことを特徴とする請求項1乃至17のいずれか1項に記載の撮像装置。
  19. 請求項1から18のうちいずれか一項に記載の撮像装置の各手段としてコンピュータを機能させるためのコンピュータプログラム。
  20. 請求項19に記載のコンピュータプログラムを記憶したコンピュータで読み取り可能な記憶媒体。

JP2018197144A 2018-10-19 2018-10-19 撮像装置 Active JP7163135B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018197144A JP7163135B2 (ja) 2018-10-19 2018-10-19 撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018197144A JP7163135B2 (ja) 2018-10-19 2018-10-19 撮像装置

Publications (2)

Publication Number Publication Date
JP2020065214A JP2020065214A (ja) 2020-04-23
JP7163135B2 true JP7163135B2 (ja) 2022-10-31

Family

ID=70387615

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018197144A Active JP7163135B2 (ja) 2018-10-19 2018-10-19 撮像装置

Country Status (1)

Country Link
JP (1) JP7163135B2 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011142590A (ja) 2010-01-08 2011-07-21 Panasonic Corp 固体撮像装置および撮像装置
JP2016036115A (ja) 2014-08-04 2016-03-17 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
JP2016201660A (ja) 2015-04-09 2016-12-01 キヤノン株式会社 撮像装置及び画像処理方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011142590A (ja) 2010-01-08 2011-07-21 Panasonic Corp 固体撮像装置および撮像装置
JP2016036115A (ja) 2014-08-04 2016-03-17 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
JP2016201660A (ja) 2015-04-09 2016-12-01 キヤノン株式会社 撮像装置及び画像処理方法

Also Published As

Publication number Publication date
JP2020065214A (ja) 2020-04-23

Similar Documents

Publication Publication Date Title
JP7455588B2 (ja) 撮像装置
EP1156673A2 (en) Image input apparatus
US10630912B2 (en) Image sensor, image capturing apparatus, and method for controlling image sensor
US10313588B2 (en) Image capturing system and control method of image capturing system
JP6579771B2 (ja) 撮像装置
US7876371B2 (en) Systems and methods to perform digital correlated double sampling using successive approximation analog to digital conversion techniques
US11290648B2 (en) Image capture apparatus and control method thereof
CN111149352B (zh) 摄像设备及其控制方法
US10027919B2 (en) Signal processing apparatus, image capturing apparatus, control apparatus, signal processing method, and control method
US7777793B2 (en) Signal processor having A/D conversion unit and operation part
JP2018033101A (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP7339779B2 (ja) 撮像装置
JP2021022921A (ja) 撮像素子、撮像装置、および制御方法
JP7163135B2 (ja) 撮像装置
JP7175703B2 (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP2018074209A (ja) 撮像装置
JP6057630B2 (ja) 撮像装置
JP7385460B2 (ja) 撮像装置及びその制御方法
JP2020057882A (ja) 撮像装置
JP6393087B2 (ja) 撮像素子及び撮像装置
JP2020057883A (ja) 撮像装置
JP2014057189A5 (ja)
JP5376966B2 (ja) 撮像素子及び撮像装置
JP2024062765A (ja) 撮像装置
JP2023156437A (ja) 撮像素子

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211001

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220909

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220920

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221019

R151 Written notification of patent or utility model registration

Ref document number: 7163135

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151