JP6998693B2 - Image sensor and image sensor - Google Patents

Image sensor and image sensor Download PDF

Info

Publication number
JP6998693B2
JP6998693B2 JP2017140011A JP2017140011A JP6998693B2 JP 6998693 B2 JP6998693 B2 JP 6998693B2 JP 2017140011 A JP2017140011 A JP 2017140011A JP 2017140011 A JP2017140011 A JP 2017140011A JP 6998693 B2 JP6998693 B2 JP 6998693B2
Authority
JP
Japan
Prior art keywords
unit
image pickup
pixel
pickup device
circuit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017140011A
Other languages
Japanese (ja)
Other versions
JP2017188961A (en
JP2017188961A5 (en
Inventor
孝司 栗山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2017140011A priority Critical patent/JP6998693B2/en
Publication of JP2017188961A publication Critical patent/JP2017188961A/en
Publication of JP2017188961A5 publication Critical patent/JP2017188961A5/en
Application granted granted Critical
Publication of JP6998693B2 publication Critical patent/JP6998693B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は、撮像素子に関する。 The present invention relates to an image pickup device.

画素が行列状に配列された撮像素子において、トランジスタと蓄積容量からなるメモリ回路を用いて電荷を一斉に転送することにより、電子的にグローバルシャッタを実現するものがある(例えば、特許文献1参照)。
特許文献1 特開2011-119950
In an image pickup device in which pixels are arranged in a matrix, there is an image pickup device that electronically realizes a global shutter by simultaneously transferring charges using a memory circuit composed of a transistor and a storage capacity (see, for example, Patent Document 1). ).
Patent Document 1 Japanese Patent Application Laid-Open No. 2011-119950

しかしながら、電荷が一斉に転送された後に当該電荷に基づく画素信号は、順次、読み取られる。よって、画素数が多くなるほど電荷が転送されてから画素信号が読み取られるまでの時間が長くなり、電荷が増減して画素信号にノイズが乗りやすい。 However, after the charges are transferred all at once, the pixel signals based on the charges are sequentially read. Therefore, as the number of pixels increases, the time from when the charge is transferred until the pixel signal is read becomes longer, the charge increases or decreases, and noise is likely to be added to the pixel signal.

本発明の第1の態様においては、撮像素子であって、画素が行列状に複数配された単位ブロックが、行列状に複数配された撮像部と、単位ブロックにつき少なくとも一つ設けられ、対応する単位ブロックに含まれる画素からの画素信号をデジタル信号に変換するA/D変換部と、複数の単位ブロックにまたがって、撮像部に含まれる画素のデジタル信号を順次読み出す読出部とを備える。 In the first aspect of the present invention, in the image pickup device, a unit block in which a plurality of pixels are arranged in a matrix is provided with an image pickup unit in which a plurality of pixels are arranged in a matrix, and at least one unit block is provided. It is provided with an A / D conversion unit that converts a pixel signal from a pixel included in the unit block into a digital signal, and a reading unit that sequentially reads out the digital signal of the pixel included in the image pickup unit across a plurality of unit blocks.

なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。 The outline of the above invention does not list all the necessary features of the present invention. A subcombination of these feature groups can also be an invention.

本実施形態に係る裏面照射型の撮像素子の断面図である。It is sectional drawing of the back-illuminated type image sensor which concerns on this embodiment. 撮像チップの画素配列と単位ブロックを説明する図である。It is a figure explaining the pixel arrangement and the unit block of an image pickup chip. 画素に対応する回路図である。It is a circuit diagram corresponding to a pixel. 単位ブロックおよびその周辺回路並びにそれらの接続関係の概略を示す。The outline of the unit block and its peripheral circuits and their connection relations is shown. 周辺回路等の接続関係の概略を示す。The outline of the connection relation of the peripheral circuit etc. is shown. 本実施形態に係る撮像装置の構成を示すブロック図である。It is a block diagram which shows the structure of the image pickup apparatus which concerns on this embodiment. 駆動部の具体的構成を示すブロック図である。It is a block diagram which shows the specific structure of a drive part. 画素の電荷蓄積、転送等の動作のタイミングチャートを示す。The timing chart of the operation such as charge accumulation and transfer of a pixel is shown. 画素の画素信号を読み出す動作のタイミングチャートを示す。The timing chart of the operation of reading a pixel signal of a pixel is shown. 撮像部に含まれる複数の画素の読み出しタイミングを示すタイミングチャートである。It is a timing chart which shows the reading timing of a plurality of pixels included in an image pickup part. 周辺回路等の接続関係の別例を示す。Another example of connection relations such as peripheral circuits is shown.

以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。 Hereinafter, the present invention will be described through embodiments of the invention, but the following embodiments do not limit the invention to which the claims are made. Also, not all combinations of features described in the embodiments are essential to the means of solving the invention.

図1は、本実施形態に係る裏面照射型の撮像素子100の断面図である。撮像素子100は、入射光に対応した画素信号を出力する撮像チップと113と、画素信号を処理する信号処理チップ111と、画素信号を記憶するメモリチップ112とを備える。これら撮像チップ113、信号処理チップ111およびメモリチップ112は積層されており、Cu等の導電性を有するバンプ109により互いに電気的に接続される。 FIG. 1 is a cross-sectional view of a back-illuminated image sensor 100 according to the present embodiment. The image pickup device 100 includes an image pickup chip and 113 that output a pixel signal corresponding to incident light, a signal processing chip 111 that processes the pixel signal, and a memory chip 112 that stores the pixel signal. The image pickup chip 113, the signal processing chip 111, and the memory chip 112 are laminated and electrically connected to each other by a conductive bump 109 such as Cu.

なお、図示するように、入射光は主に白抜き矢印で示すZ軸プラス方向へ向かって入射する。本実施形態においては、撮像チップ113において、入射光が入射する側の面を裏面と称する。また、座標軸に示すように、Z軸に直交する紙面右方向をX軸プラス方向、Z軸およびX軸に直交する紙面手前方向をY軸プラス方向とする。以降のいくつかの図においては、図1の座標軸を基準として、それぞれの図の向きがわかるように座標軸を表示する。 As shown in the figure, the incident light is mainly incident in the Z-axis plus direction indicated by the white arrow. In the present embodiment, in the image pickup chip 113, the surface on the side where the incident light is incident is referred to as a back surface. Further, as shown in the coordinate axes, the right direction of the paper surface orthogonal to the Z axis is defined as the X-axis plus direction, and the Z-axis and the front direction of the paper surface orthogonal to the X-axis are defined as the Y-axis plus direction. In some of the subsequent figures, the coordinate axes are displayed so that the orientation of each figure can be understood with reference to the coordinate axes of FIG.

撮像チップ113の一例は、裏面照射型のMOSイメージセンサである。PD層は、配線層108の裏面側に配されている。PD層106は、二次元的に配された複数のPD(フォトダイオード)104、および、PD104に対応して設けられたトランジスタ105を有する。 An example of the image pickup chip 113 is a back-illuminated MOS image sensor. The PD layer is arranged on the back surface side of the wiring layer 108. The PD layer 106 has a plurality of PDs (photodiodes) 104 arranged two-dimensionally, and a transistor 105 provided corresponding to the PD 104.

PD層106における入射光の入射側にはパッシベーション膜103を介してカラーフィルタ102が設けられる。カラーフィルタ102は、互いに異なる波長領域を透過する複数の種類を有しており、PD104のそれぞれに対応して特定の配列を有している。カラーフィルタ102の配列については後述する。カラーフィルタ102、PD104およびトランジスタ105の組が一つの画素を形成する。 A color filter 102 is provided on the incident side of the incident light in the PD layer 106 via the passivation film 103. The color filter 102 has a plurality of types that transmit different wavelength regions from each other, and has a specific arrangement corresponding to each of the PD 104. The arrangement of the color filters 102 will be described later. A set of a color filter 102, a PD 104, and a transistor 105 forms one pixel.

カラーフィルタ102における入射光の入射側には、それぞれの画素に対応して、マイクロレンズ101が設けられる。マイクロレンズ101は、対応するPD104へ向けて入射光を集光する。 A microlens 101 is provided on the incident side of the incident light in the color filter 102 corresponding to each pixel. The microlens 101 collects incident light toward the corresponding PD 104.

配線層108は、PD層106からの画素信号を信号処理チップ111に伝送する配線107を有する。配線107は多層であってもよく、また、受動素子および能動素子が設けられてもよい。 The wiring layer 108 has a wiring 107 that transmits a pixel signal from the PD layer 106 to the signal processing chip 111. The wiring 107 may have multiple layers, and may be provided with passive elements and active elements.

配線層108の表面には複数のバンプ109が配される。当該複数のバンプ109が信号処理チップ111の対向する面に設けられた複数のバンプ109と位置合わせされて、撮像チップ113と信号処理チップ111とが加圧等されることにより、位置合わせされたバンプ109同士が接合されて、電気的に接続される。 A plurality of bumps 109 are arranged on the surface of the wiring layer 108. The plurality of bumps 109 are aligned with the plurality of bumps 109 provided on the facing surfaces of the signal processing chip 111, and the image pickup chip 113 and the signal processing chip 111 are aligned by being pressurized or the like. The bumps 109 are joined together and electrically connected.

同様に、信号処理チップ111およびメモリチップ112の互いに対向する面には、複数のバンプ109が配される。これらのバンプ109が互いに位置合わせされて、信号処理チップ111とメモリチップ112とが加圧等されることにより、位置合わせされたバンプ109同士が接合されて、電気的に接続される。 Similarly, a plurality of bumps 109 are arranged on the surfaces of the signal processing chip 111 and the memory chip 112 facing each other. These bumps 109 are aligned with each other, and the signal processing chip 111 and the memory chip 112 are pressurized, so that the aligned bumps 109 are joined to each other and electrically connected.

なお、バンプ109間の接合には、固相拡散によるCuバンプ接合に限らず、はんだ溶融によるマイクロバンプ結合を採用しても良い。また、バンプ109は、例えば後述する一つの出力配線に対して一つ程度設ければ良い。したがって、バンプ109の大きさは、PD104のピッチよりも大きくても良い。また、画素が配列された画素領域以外の周辺領域において、画素領域に対応するバンプ109よりも大きなバンプを併せて設けても良い。 The bonding between the bumps 109 is not limited to the Cu bump bonding by solid phase diffusion, but the micro bump bonding by solder melting may be adopted. Further, for example, about one bump 109 may be provided for one output wiring described later. Therefore, the size of the bump 109 may be larger than the pitch of the PD 104. Further, in the peripheral region other than the pixel region in which the pixels are arranged, a bump larger than the bump 109 corresponding to the pixel region may be provided together.

信号処理チップ111は、表裏面にそれぞれ設けられた回路を互いに接続するTSV(シリコン貫通電極)110を有する。TSV110は、周辺領域に設けられることが好ましい。また、TSV110は、撮像チップ113の周辺領域、メモリチップ112にも設けられて良い。 The signal processing chip 111 has TSVs (Through Silicon Vias) 110 that connect circuits provided on the front and back surfaces to each other. The TSV 110 is preferably provided in the peripheral region. Further, the TSV 110 may also be provided in the peripheral area of the image pickup chip 113 and the memory chip 112.

図2は、撮像チップ113の画素配列と単位ブロック131を説明する図である。特に、撮像チップ113を裏面側から観察した様子を示す。撮像チップ113は、2000万個以上もの画素がマトリックス状に配列された撮像部を有する。図2の例において、隣接する4画素×4画素の16画素が一つの単位ブロック131を形成する。図の格子線は、隣接する画素がグループ化されて単位ブロック131を形成する概念を示す。 FIG. 2 is a diagram illustrating a pixel arrangement of the image pickup chip 113 and a unit block 131. In particular, the state in which the image pickup chip 113 is observed from the back surface side is shown. The image pickup chip 113 has an image pickup unit in which more than 20 million pixels are arranged in a matrix. In the example of FIG. 2, 16 pixels of adjacent 4 pixels × 4 pixels form one unit block 131. The grid lines in the figure show the concept that adjacent pixels are grouped to form a unit block 131.

撮像部の部分拡大図に示すように、単位ブロック131は、緑色画素Gb、Gr、青色画素Bおよび赤色画素Rの4画素から成るいわゆるベイヤー配列を、上下左右に4つ内包する。緑色画素Gb、Grは、カラーフィルタ102として緑色フィルタを有し、入射光のうち緑色波長帯の光を受光する。同様に、青色画素Bは、カラーフィルタ102として青色フィルタを有し、青色波長帯の光を受光し、赤色画素Rは、カラーフィルタ102として赤色フィルタを有し、赤色波長帯の光を受光する。 As shown in the partially enlarged view of the image pickup unit, the unit block 131 includes four so-called Bayer arrays including four pixels of green pixels Gb, Gr, blue pixels B, and red pixels R in the vertical and horizontal directions. The green pixels Gb and Gr have a green filter as a color filter 102, and receive light in the green wavelength band among the incident light. Similarly, the blue pixel B has a blue filter as a color filter 102 and receives light in the blue wavelength band, and the red pixel R has a red filter as the color filter 102 and receives light in the red wavelength band. ..

図2においては、説明の簡略化のため、単位ブロック131が4画素×4画素の16画素からなる例を説明した。以降は、単位ブロック131は、画素がL行P列で合計(L×P)個配列されている例を説明する。行数および列数に特に制限はないが、撮像部の画素全体が2000万画素程度ある場合に、例えば64行32列等である。また、当該単位ブロック131がm行n列で合計(m×n)個配列されて撮像部を形成する例を説明する。 In FIG. 2, for simplification of the description, an example in which the unit block 131 is composed of 16 pixels of 4 pixels × 4 pixels has been described. Hereinafter, an example in which the unit block 131 has a total of (L × P) pixels arranged in L rows and P columns will be described. The number of rows and columns is not particularly limited, but when the total number of pixels of the imaging unit is about 20 million pixels, for example, 64 rows and 32 columns. Further, an example will be described in which the unit blocks 131 are arranged in m rows and n columns in total (m × n) to form an imaging unit.

図3は、画素150に対応する回路図である。図3において、代表的に点線で囲む矩形が、1つの画素150に対応する回路を表す。なお、以下に説明する各トランジスタの少なくとも一部は、図1のトランジスタ105に対応する。 FIG. 3 is a circuit diagram corresponding to the pixel 150. In FIG. 3, a rectangle typically surrounded by a dotted line represents a circuit corresponding to one pixel 150. It should be noted that at least a part of each transistor described below corresponds to the transistor 105 of FIG.

PD104は、転送トランジスタ154に接続され、転送トランジスタ154のゲートには、転送パルスが供給される配線Tx_i_jに接続される。なお添え字iは、単位ブロック131を識別する、撮像部全体での通し番号である。添え字jは、単位ブロック131内の行番号を識別する、単位ブロック131内の通し番号である。 The PD 104 is connected to the transfer transistor 154, and the gate of the transfer transistor 154 is connected to the wiring Tx_i_j to which the transfer pulse is supplied. The subscript i is a serial number of the entire imaging unit that identifies the unit block 131. The subscript j is a serial number in the unit block 131 that identifies the line number in the unit block 131.

転送トランジスタ154のドレインは、リセットトランジスタ152のソースに接続される。これにより、転送トランジスタ154のドレインとリセットトランジスタ152のソース間のいわゆるFD(フローティングディフュージョン)156が形成される。リセットトランジスタ152のドレインは電源電圧が供給される配線Vddに接続され、そのゲートはリセットパルスが供給される配線Rst_i_jに接続される。 The drain of the transfer transistor 154 is connected to the source of the reset transistor 152. As a result, a so-called FD (floating diffusion) 156 is formed between the drain of the transfer transistor 154 and the source of the reset transistor 152. The drain of the reset transistor 152 is connected to the wiring Vdd to which the power supply voltage is supplied, and the gate thereof is connected to the wiring Rst_i_j to which the reset pulse is supplied.

FD156の一端はさらに、パストランジスタ158のソースに接続される。パストランジスタ158のゲートはパスパルスが供給される配線Wrt_i_jに接続され、ドレインは蓄積容量160の一端に接続される。これらパストランジスタ158および蓄積容量160がいわゆるメモリ回路を形成する。 One end of the FD 156 is further connected to the source of the pass transistor 158. The gate of the pass transistor 158 is connected to the wiring Wrt_i_j to which the pass pulse is supplied, and the drain is connected to one end of the storage capacity 160. These pass transistors 158 and storage capacity 160 form a so-called memory circuit.

蓄積容量160の上記一端はさらに、増幅トランジスタ162のゲートに接続される。増幅トランジスタ162のドレインは電源電圧が供給される配線Vddに接続される。増幅トランジスタ162のソースは、対応する選択トランジスタ164のドレインに接続される。選択トランジスタ164のゲートは、選択パルスが供給される配線Sel_i_jに接続される。 The one end of the storage capacity 160 is further connected to the gate of the amplification transistor 162. The drain of the amplification transistor 162 is connected to the wiring Vdd to which the power supply voltage is supplied. The source of the amplification transistor 162 is connected to the drain of the corresponding selection transistor 164. The gate of the selection transistor 164 is connected to the wiring Ser_i_j to which the selection pulse is supplied.

選択トランジスタ164のソースは、列伝送路170に接続される。負荷電流源166は、列伝送路170に電流を供給する。すなわち、選択トランジスタ164に対する列伝送路170は、ソースフォロアにより形成される。 The source of the selection transistor 164 is connected to the column transmission line 170. The load current source 166 supplies current to the column transmission line 170. That is, the column transmission line 170 for the selection transistor 164 is formed by the source follower.

図4は、単位ブロック131およびその周辺回路133、並びにそれらの接続関係の概略を示す。図4の単位ブロック131において、画素150がL行P列で合計(P×L)個配列されている。 FIG. 4 shows an outline of the unit block 131 and its peripheral circuits 133, and their connection relationships. In the unit block 131 of FIG. 4, a total of (P × L) pixels 150 are arranged in L rows and P columns.

配線Rst_i_l(ただし、lは1からLの整数)は、行制御部200に接続されていると共に、単位ブロック131内におけるl行目のP個の画素150に共通に接続されている。同様に、配線Tx_i_l、配線Wrt_i_l、配線Sel_i_lも行制御部200に接続されていると共に、単位ブロック131内におけるl行目のP個の画素150に共通に接続されている。 The wiring Rst_i_l (where l is an integer from 1 to L) is connected to the row control unit 200 and is commonly connected to the P pixels 150 in the first row in the unit block 131. Similarly, the wiring Tx_i_l, the wiring Wrt_i_l, and the wiring Self_i_l are also connected to the row control unit 200 and are commonly connected to the P pixels 150 in the first row in the unit block 131.

行制御部200は、行選択部、垂直走査回路等と呼ばれることもある。行制御部200は、単位ブロック131ごとに設けられている。行制御部200は信号処理チップ111側に設けられてもよい。 The row control unit 200 may be referred to as a row selection unit, a vertical scanning circuit, or the like. The row control unit 200 is provided for each unit block 131. The row control unit 200 may be provided on the signal processing chip 111 side.

列伝送路170は、同一列の画素150ごとに設けられている。これら列伝送路170_p(ただし、pは1からPの整数)は、単位ブロック131内におけるp列目のL個の画素150に共通に接続されている。これにより、列伝送路170は単位ブロック131内の同一列の画素150で共有され、当該列に含まれる画素150からの信号を伝送する。 The column transmission line 170 is provided for each pixel 150 in the same row. These column transmission lines 170_p (where p is an integer from 1 to P) are commonly connected to the L pixels 150 in the p-th column in the unit block 131. As a result, the column transmission line 170 is shared by the pixels 150 in the same column in the unit block 131, and the signal from the pixels 150 included in the column is transmitted.

これら列伝送路170_pは撮像チップ113側から、バンプ109を介して、信号処理チップ111側に設けられた周辺回路133へ接続されている。周辺回路133は単位ブロック131ごとに設けられており、積層方向から見て撮像チップ113における単位ブロック131に重なるように配されている。 These column transmission lines 170_p are connected from the image pickup chip 113 side to the peripheral circuit 133 provided on the signal processing chip 111 side via the bump 109. The peripheral circuit 133 is provided for each unit block 131, and is arranged so as to overlap the unit block 131 in the image pickup chip 113 when viewed from the stacking direction.

周辺回路133は、列伝送路170_pごとに直列に接続されたCDS回路202およびA/D変換回路204を有する。図4に示す例において、単位ブロック131あたり、CDS回路202とA/D変換回路204との組がP個設けられている。 The peripheral circuit 133 includes a CDS circuit 202 and an A / D conversion circuit 204 connected in series for each column transmission line 170_p. In the example shown in FIG. 4, P pairs of the CDS circuit 202 and the A / D conversion circuit 204 are provided per unit block 131.

周辺回路133はさらに、上記P個のA/D変換回路204の出力側に配されたシフトレジスタ206を有する。図4の例において、単位ブロック131ごとにシフトレジスタ206が一つ配される。シフトレジスタ206の出力は、列バスライン172を介してシフトレジスタ210に接続される。 The peripheral circuit 133 further has a shift register 206 arranged on the output side of the P A / D conversion circuits 204. In the example of FIG. 4, one shift register 206 is arranged for each unit block 131. The output of the shift register 206 is connected to the shift register 210 via the column bus line 172.

図5は、周辺回路133等の接続関係の概略を示す。単位ブロック131がm行n列配されていることに対応して、周辺回路133もm行n列配されている。 FIG. 5 shows an outline of the connection relationship between peripheral circuits 133 and the like. Corresponding to the fact that the unit block 131 is arranged in m rows and n columns, the peripheral circuit 133 is also arranged in m rows and n columns.

列バスライン172は、同一列の周辺回路133ごとに設けられている。この列バスライン172_u(ただし、uは1からnの整数)は、u列目のm個の周辺回路133に共通に接続されている。これにより、列バスライン172は、同一列の単位ブロック131で共有され、当該列に含まれる単位ブロック131からの信号を伝送する。 The row bus line 172 is provided for each peripheral circuit 133 in the same row. This row bus line 172_u (where u is an integer from 1 to n) is commonly connected to m peripheral circuits 133 in the uth row. As a result, the column bus line 172 is shared by the unit block 131 of the same column, and the signal from the unit block 131 included in the column is transmitted.

尚、列バスライン172は同一列の周辺回路133で共有されているので、それぞれの周辺回路133の出力は、図示しない出力選択回路により制御されるよう構成する。例えば図4の172の出力を有効にしたり非有効にしたりする。非有効時時にはハイインピーダンスにする等で制御する。 Since the row bus line 172 is shared by peripheral circuits 133 in the same row, the output of each peripheral circuit 133 is configured to be controlled by an output selection circuit (not shown). For example, the output of 172 in FIG. 4 is enabled or disabled. When it is not effective, it is controlled by setting it to high impedance.

上記n個の列バスライン172の出力側にはシフトレジスタ210が配される。図5の例において、撮像素子100全体としてシフトレジスタ210が一つ配される。シフトレジスタ210はn個の列バスライン172から伝送された信号を保持し、順次、出力する。なお、シフトレジスタ206、210は、水平走査回路、マルチプレクサ等と呼ばれることもある。 A shift register 210 is arranged on the output side of the n column bus lines 172. In the example of FIG. 5, one shift register 210 is arranged as the entire image sensor 100. The shift register 210 holds the signals transmitted from the n column bus lines 172 and outputs them sequentially. The shift registers 206 and 210 may be referred to as a horizontal scanning circuit, a multiplexer, or the like.

図6は、本実施形態に係る撮像装置の構成を示すブロック図である。撮像装置500は、撮影光学系としての撮影レンズ520を備え、撮影レンズ520は、光軸OAに沿って入射する被写体光束を撮像素子100へ導く。撮影レンズ520は、撮像装置500に対して着脱できる交換式レンズであっても構わない。撮像装置500は、撮像素子100、システム制御部501、駆動部502、測光部503、ワークメモリ504、記録部505、および表示部506を主に備える。 FIG. 6 is a block diagram showing the configuration of the image pickup apparatus according to the present embodiment. The image pickup device 500 includes a photographing lens 520 as a photographing optical system, and the photographing lens 520 guides a subject light flux incident along the optical axis OA to the image pickup element 100. The photographing lens 520 may be an interchangeable lens that can be attached to and detached from the image pickup apparatus 500. The image pickup device 500 mainly includes an image pickup element 100, a system control unit 501, a drive unit 502, a photometric unit 503, a work memory 504, a recording unit 505, and a display unit 506.

撮影レンズ520は、複数の光学レンズ群から構成され、シーンからの被写体光束をその焦点面近傍に結像させる。なお、図6では瞳近傍に配置された仮想的な1枚のレンズで代表して表している。駆動部502は、システム制御部501からの指示に従って撮像素子100の電荷蓄積制御、画素信号の読み出し制御等を実行する。 The photographing lens 520 is composed of a plurality of optical lens groups, and forms a subject light flux from the scene in the vicinity of the focal plane thereof. In addition, in FIG. 6, it is represented by one virtual lens arranged in the vicinity of the pupil. The drive unit 502 executes charge storage control of the image pickup device 100, pixel signal readout control, and the like according to instructions from the system control unit 501.

撮像素子100は、画素信号をシステム制御部501の画像処理部511へ引き渡す。画像処理部511は、ワークメモリ504をワークスペースとして種々の画像処理を施し、画像データを生成する。例えば、JPEGファイル形式の画像データを生成する場合は、ホワイトバランス処理、ガンマ処理等を施した後に圧縮処理を実行する。生成された画像データは、記録部505に記録されるとともに、表示信号に変換されて予め設定された時間の間、表示部506に表示される。 The image sensor 100 passes the pixel signal to the image processing unit 511 of the system control unit 501. The image processing unit 511 performs various image processing using the work memory 504 as a workspace to generate image data. For example, when generating image data in JPEG file format, a compression process is executed after performing a white balance process, a gamma process, or the like. The generated image data is recorded in the recording unit 505, converted into a display signal, and displayed on the display unit 506 for a preset time.

測光部503は、画像データを生成する一連の撮影シーケンスに先立ち、シーンの輝度分布を検出する。測光部503は、例えば100万画素程度のAEセンサを含む。システム制御部501の演算部512は、測光部503の出力を受けてシーンの領域ごとの輝度を算出する。演算部512は、算出した輝度分布に従ってシャッタ速度、絞り値、ISO感度を決定する。なお、上記AEセンサに用いられる画素を撮像素子100内に設けてもよく、この場合には当該撮像素子100とは別個の測光部503を設けなくてもよい。 The photometric unit 503 detects the luminance distribution of the scene prior to a series of shooting sequences that generate image data. The photometric unit 503 includes, for example, an AE sensor having about 1 million pixels. The calculation unit 512 of the system control unit 501 receives the output of the photometric unit 503 and calculates the brightness for each area of the scene. The calculation unit 512 determines the shutter speed, the aperture value, and the ISO sensitivity according to the calculated luminance distribution. The pixels used in the AE sensor may be provided in the image sensor 100, and in this case, the light measuring unit 503 separate from the image sensor 100 may not be provided.

図7は、駆動部502の具体的構成を示すブロック図である。駆動部502は、分担化された制御機能としてのセンサ制御部441、ブロック制御部442、同期制御部443、信号制御部444、画素メモリ414、演算回路415と、これらの各制御部を統括制御する駆動制御部420とを含む。駆動部502は、さらに、駆動制御部420と撮像装置500本体のシステム制御部501と間のI/F回路418を含む。 FIG. 7 is a block diagram showing a specific configuration of the drive unit 502. The drive unit 502 controls the sensor control unit 441, the block control unit 442, the synchronization control unit 443, the signal control unit 444, the pixel memory 414, the arithmetic circuit 415, and each of these control units as shared control functions. The drive control unit 420 and the like are included. The drive unit 502 further includes an I / F circuit 418 between the drive control unit 420 and the system control unit 501 of the image pickup device 500 main body.

駆動制御部420は、タイミングメモリ430を参照して、システム制御部501からの指示を、各制御部が実行可能な制御信号に変換してそれぞれに引き渡す。タイミングメモリ430は、フラッシュRAM等により形成される。 The drive control unit 420 refers to the timing memory 430, converts the instruction from the system control unit 501 into a control signal that can be executed by each control unit, and delivers it to each of them. The timing memory 430 is formed by a flash RAM or the like.

センサ制御部441は、撮像チップ113へ送出する、各画素の電荷蓄積、電荷読み出しに関わる制御パルスの送出制御を担う。具体的には、センサ制御部441は、各単位ブロック131の行制御部200へリセットパルス、転送パルスおよびパスパルスを送出することにより、対象画素の電荷蓄積の開始と終了を制御し、読み出し画素に対して選択パルスを送出することにより、画素信号を列伝送路170へ出力させる。 The sensor control unit 441 is responsible for controlling the transmission of control pulses related to charge accumulation and charge readout of each pixel to be transmitted to the image pickup chip 113. Specifically, the sensor control unit 441 controls the start and end of charge accumulation of the target pixel by sending a reset pulse, a transfer pulse, and a pass pulse to the row control unit 200 of each unit block 131, and the read pixel is used. By transmitting the selection pulse to the column transmission path 170, the pixel signal is output to the column transmission line 170.

ブロック制御部442は、撮像チップ113へ送出する、制御対象となる単位ブロック131を特定する特定パルスの送出を実行する。各画素が配線Tx_i_j等を介して受ける転送パルス等は、センサ制御部441が送出する各パルスとブロック制御部442が送出する特定パルスの論理積となる。このように、各領域を互いに独立したブロックとして制御することができる。なお、複数の単位ブロック131で同期したパルスを用いる場合、および、複数の単位ブロック131にまたがった動作を行う場合には、ブロック制御部442は、これら複数の単位ブロックのそれぞれを特定する特定パルスを同時に送出する。 The block control unit 442 executes transmission of a specific pulse for specifying the unit block 131 to be controlled, which is transmitted to the image pickup chip 113. The transfer pulse or the like received by each pixel via the wiring Tx_i_j or the like is a logical product of each pulse transmitted by the sensor control unit 441 and a specific pulse transmitted by the block control unit 442. In this way, each region can be controlled as a block independent of each other. When a pulse synchronized with a plurality of unit blocks 131 is used, or when an operation straddling a plurality of unit blocks 131 is performed, the block control unit 442 sets a specific pulse for specifying each of the plurality of unit blocks. Is sent at the same time.

同期制御部443は、同期信号を撮像チップ113へ送出する。各パルスは、同期信号に同期して撮像チップ113においてアクティブとなる。例えば、同期信号を調整することにより、同一の単位ブロック131に属する画素の特定画素のみを制御対象とするランダム制御、間引き制御等を実現する。また、信号制御部444は、CDS回路202、A/D変換回路204、シフトレジスタ206、210に対するタイミング制御を担う。 The synchronization control unit 443 sends a synchronization signal to the image pickup chip 113. Each pulse becomes active in the imaging chip 113 in synchronization with the synchronization signal. For example, by adjusting the synchronization signal, random control, thinning control, etc., in which only specific pixels of pixels belonging to the same unit block 131 are controlled targets are realized. Further, the signal control unit 444 is responsible for timing control for the CDS circuit 202, the A / D conversion circuit 204, and the shift registers 206 and 210.

演算回路415は、画素メモリ414に格納された画素値に基づいて、AE評価値等を演算する。演算回路415は、当該演算結果を駆動制御部420に出力する。 The calculation circuit 415 calculates an AE evaluation value or the like based on the pixel value stored in the pixel memory 414. The calculation circuit 415 outputs the calculation result to the drive control unit 420.

画素メモリ414は、撮像部の画素150からの画素値を格納できるメモリ空間を有し、各画素から読み出しされてデジタル化されたそれぞれの画素値を格納する。画素メモリ414には、引渡要求に従って画素信号を伝送するデータ転送インタフェースが設けられている。データ転送インタフェースは、画像処理部511と繋がるデータ転送ラインと接続されている。データ転送ラインは例えばバスラインのうちのデータバスによって構成される。この場合、システム制御部501から駆動制御部420への引渡要求は、アドレスバスを利用したアドレス指定によって実行される。 The pixel memory 414 has a memory space that can store the pixel values from the pixels 150 of the imaging unit, and stores the pixel values read from each pixel and digitized. The pixel memory 414 is provided with a data transfer interface for transmitting a pixel signal in accordance with a delivery request. The data transfer interface is connected to a data transfer line connected to the image processing unit 511. The data transfer line is composed of, for example, the data bus of the bus lines. In this case, the delivery request from the system control unit 501 to the drive control unit 420 is executed by address designation using the address bus.

データ転送インタフェースによる画素信号の伝送は、アドレス指定方式に限らず、さまざまな方式を採用しうる。例えば、データ転送を行うときに、各回路の同期に用いられるクロック信号の立ち上がり・立ち下がりの両方を利用して処理を行うダブルデータレート方式を採用し得る。また、アドレス指定などの手順を一部省略することによってデータを一気に転送し、高速化を図るバースト転送方式を採用し得る。また、制御部、メモリ部、入出力部を並列に接続している回線を用いたバス方式、直列にデータを1ビットずつ転送するシリアル方式などを組み合わせて採用することもできる。 The transmission of the pixel signal by the data transfer interface is not limited to the address designation method, and various methods can be adopted. For example, when performing data transfer, it is possible to adopt a double data rate method in which processing is performed by utilizing both the rising edge and the falling edge of the clock signal used for synchronization of each circuit. Further, it is possible to adopt a burst transfer method in which data is transferred at once by omitting a part of a procedure such as address specification to increase the speed. Further, a bus method using a line in which a control unit, a memory unit, and an input / output unit are connected in parallel, a serial method in which data is transferred bit by bit in series, and the like can be adopted in combination.

このように構成することにより、画像処理部511は、必要な画素値に限って受け取ることができるので、特に低解像度の画像を形成する場合などにおいて、高速に画像処理を完了させることができる。なお、駆動部502、図4の行制御部200、周辺回路133および図5のシフトレジスタ210が、複数の単位ブロック131にまたがって、撮像部に含まれる画素150の画素信号を順次読み出す読出部として機能する。 With this configuration, the image processing unit 511 can receive only the necessary pixel values, so that the image processing can be completed at high speed, especially when forming a low-resolution image. The drive unit 502, the row control unit 200 of FIG. 4, the peripheral circuit 133, and the shift register 210 of FIG. 5 straddle a plurality of unit blocks 131 and sequentially read out the pixel signals of the pixels 150 included in the image pickup unit. Functions as.

図8は、画素150の電荷蓄積、転送等の動作のタイミングチャートを示す。以下、図8を用いて図3の画素150における電荷蓄積および転送の動作を説明する。 FIG. 8 shows a timing chart of operations such as charge storage and transfer of the pixel 150. Hereinafter, the operation of charge storage and transfer in the pixel 150 of FIG. 3 will be described with reference to FIG.

初期状態として、時刻t0において駆動部502は、行制御部200を介して配線Rst_i_j、Tx_i_j、Wrt_i_jの電圧をハイにすることにより、リセットトランジスタ152、転送トランジスタ154およびパストランジスタ158をオンにしておく。これにより、PD104、FD156および蓄積容量160がリセットされる。 As an initial state, at time t0, the drive unit 502 turns on the reset transistor 152, the transfer transistor 154, and the pass transistor 158 by setting the voltages of the wirings Rst_i_j, Tx_i_j, and Wrt_i_j to high via the row control unit 200. .. This resets the PD 104, FD 156 and storage capacity 160.

レリーズボタンの押し下げ等により撮像を開始すべき入力があった時刻t1において、駆動部502は、配線Tx_i_jをローにすることにより、転送トランジスタ154をオフにする。これによりPD104に入射した光が光電変換されて電荷として蓄積され始める。 At time t1 when there is an input to start imaging by pressing the release button or the like, the drive unit 502 turns off the transfer transistor 154 by setting the wiring Tx_i_j to low. As a result, the light incident on the PD 104 is photoelectrically converted and begins to be accumulated as an electric charge.

駆動部502は、設定した電荷蓄積の終了時刻t3の直前の時刻t2において、配線Rst_i_j、Wrt_i_jの電圧をローにしてリセットトランジスタ152およびパストランジスタ158をオフした後に、終了時刻t3から時刻t4まで配線Tx_i_jをハイにする転送パルスを送る。これにより、PD104で光電変換された電荷がFD156に蓄積される。 The drive unit 502 performs wiring from the end time t3 to the time t4 after turning off the reset transistor 152 and the pass transistor 158 by setting the voltages of the wirings Rst_i_j and Wrt_i_j to low at the time t2 immediately before the set end time t3 of the charge accumulation. Send a transfer pulse that makes Tx_i_j high. As a result, the charge photoelectrically converted by the PD 104 is accumulated in the FD 156.

駆動部502は、上記時刻t4の後に、時刻t5から時刻t6まで配線Wrt_i_jをハイにする転送パルスを送る。これにより、FD156に蓄積された電荷が蓄積容量160に転送され、その後のPD104への電荷蓄積から隔離されて、当該電荷が保持される。その後の時刻t7で配線Rst_i_jをハイにすることで、電荷蓄積および転送の動作を終了する。 After the time t4, the drive unit 502 sends a transfer pulse that makes the wiring Wrt_i_j high from the time t5 to the time t6. As a result, the charge stored in the FD 156 is transferred to the storage capacity 160, isolated from the subsequent charge storage in the PD 104, and the charge is retained. By setting the wiring Rst_i_j to high at the subsequent time t7, the charge storage and transfer operations are terminated.

以上、図3の一つの画素150の動作を説明した。しかしながら、図4に示すように、単位ブロック131内において、配線Rst_i_j等は、同一行のP個の画素150で共通接続されている。したがって、上記図8の動作は少なくとも単位ブロック131内の同一行の画素150では一斉に実行される。 The operation of one pixel 150 in FIG. 3 has been described above. However, as shown in FIG. 4, in the unit block 131, the wiring Rst_i_j and the like are commonly connected by P pixels 150 in the same row. Therefore, the operation of FIG. 8 is executed all at once on the pixels 150 in the same row in at least the unit block 131.

さらに、グローバルシャッタ時においては、m行n列の単位ブロック131におけるL行の画素150に対して、一斉に図8の動作が実行される。すなわち、配線Rst_i_j等における添え字iが1からm×nまで、添え字jが1からLまでで示される配線に対し、同時に、図8に従ってハイとローとが切り替えられる。これにより同時刻に各画素150に入射した像光を光電変換して、電荷を保持することができる。特に断らない限り、以下、グローバルシャッタが実行されたものとして、説明する。 Further, at the time of the global shutter, the operation of FIG. 8 is executed all at once for the pixels 150 of the L row in the unit block 131 of m rows and n columns. That is, for the wiring in which the subscript i is 1 to m × n and the subscript j is 1 to L in the wiring Rst_i_j or the like, high and low are simultaneously switched according to FIG. As a result, the image light incident on each pixel 150 at the same time can be photoelectrically converted to retain the electric charge. Unless otherwise specified, it is assumed that the global shutter has been executed.

図9は、画素150の画素信号を読み出す動作のタイミングチャートを示す。以下、図9を用いて画素150の画素信号が列伝送路170へ読み出される動作を説明する。 FIG. 9 shows a timing chart of an operation of reading a pixel signal of the pixel 150. Hereinafter, an operation in which the pixel signal of the pixel 150 is read out to the column transmission line 170 will be described with reference to FIG.

駆動部502は、上記時刻t7よりも後の時刻t8において配線Sel_i_jをハイにすることにより、選択トランジスタ164をオンにする。これにより蓄積容量160に蓄積された電荷により生じる電圧に対応した画素信号としての電圧が、列伝送路170に出力される。さらに、駆動部502は、配線Sel_i_jをハイにした状態で配線Wrt_i_jをハイにするパスパルスを送る。これにより、蓄積容量160における増幅トランジスタ162とのノードにおけるリセット信号としての電圧が、列伝送路170に出力される。その後の時刻t9で、駆動部502は配線Sel_i_jをローとすることにより、画素150に対する読み出しを終了する。 The drive unit 502 turns on the selection transistor 164 by setting the wiring Sel_i_j to high at a time t8 after the time t7. As a result, the voltage as a pixel signal corresponding to the voltage generated by the electric charge stored in the storage capacity 160 is output to the column transmission line 170. Further, the drive unit 502 sends a pass pulse that makes the wiring Wrt_i_j high while the wiring Sel_i_j is high. As a result, the voltage as a reset signal at the node with the amplification transistor 162 in the storage capacity 160 is output to the column transmission line 170. At the subsequent time t9, the drive unit 502 ends the reading with respect to the pixel 150 by setting the wiring Sel_i_j to low.

CDS回路202は、上記画素信号およびリセット信号に基づいて、ノイズを除去する。A/D変換回路204は、CDS回路202でノイズが除去された画素信号をデジタル信号に変換して出力する。 The CDS circuit 202 removes noise based on the pixel signal and the reset signal. The A / D conversion circuit 204 converts the pixel signal from which noise has been removed by the CDS circuit 202 into a digital signal and outputs it.

図10は、撮像部に含まれる複数の画素150の読み出しタイミングを示すタイミングチャートである。なお、図9で説明した通り、配線Wrt_i_jに対するパスパルスは、配線Sel_i_jをハイにした状態で送られるので、説明を簡略化する目的で図9には配線Sel_i_jのタイミングチャートのみを示した。 FIG. 10 is a timing chart showing the readout timings of the plurality of pixels 150 included in the image pickup unit. As described with reference to FIG. 9, the pass pulse for the wiring Wrt_i_j is sent with the wiring Sel_i_j set to high. Therefore, for the purpose of simplifying the explanation, only the timing chart of the wiring Sel_i_j is shown in FIG.

撮像部全体としての読み出しにおいて、まず、撮像部全体での1行目の画素150が選択される。すなわち、1行目の単位ブロック131における一行目の画素150が選択される。図5の例で1行目の単位ブロック131は、添え字iが1からnに対応する。よって、駆動部502は、配線Sel_i_1(ただし、iは1からn)を同時にハイにする選択パルスを、対応する単位ブロック131の行制御部200に送る。 In the readout of the entire image pickup unit, first, the pixel 150 in the first row of the entire image pickup unit is selected. That is, the pixel 150 in the first row in the unit block 131 in the first row is selected. In the example of FIG. 5, in the unit block 131 on the first line, the subscripts i correspond to 1 to n. Therefore, the drive unit 502 sends a selection pulse that simultaneously sets the wiring Ser_i_1 (where i is 1 to n) high to the row control unit 200 of the corresponding unit block 131.

上記の通り、単位ブロック131内で配線Sel_i_1は1行目の画素150で共通に接続されている。さらに、1行目の単位ブロック131に対して選択パルスが送られる。よって、複数の単位ブロック131にまたがって、1行目の画素150の画素信号がそれぞれの列伝送路170に読み出される。 As described above, in the unit block 131, the wiring Cell_i_1 is commonly connected by the pixel 150 in the first row. Further, a selection pulse is sent to the unit block 131 on the first row. Therefore, the pixel signal of the pixel 150 in the first row is read out to each column transmission line 170 across the plurality of unit blocks 131.

列伝送路170はそれぞれ、行制御部200により選択された上記画素150からの画素信号を単位ブロック131内における対応する列のCDS回路202に伝送する。当該画素信号は、CDS回路202でノイズが除去されて、A/D変換回路204でデジタル信号に変換されて、シフトレジスタ206に入力される。シフトレジスタ206は、当該読み出し動作によって、列伝送路170のそれぞれを介して当該単位ブロック131における1行目のP個のデジタル信号を受け取り、一旦、保持する。 Each of the column transmission lines 170 transmits a pixel signal from the pixel 150 selected by the row control unit 200 to the CDS circuit 202 of the corresponding column in the unit block 131. The pixel signal is noise-removed by the CDS circuit 202, converted into a digital signal by the A / D conversion circuit 204, and input to the shift register 206. The shift register 206 receives and temporarily holds P digital signals in the first row in the unit block 131 via each of the column transmission lines 170 by the read operation.

シフトレジスタ206は、P個のデジタル信号を、列バスライン172を介してシフトレジスタ210に順次、出力する。この場合に、一行目の単位ブロック131同士で同期して伝送されることが好ましい。シフトレジスタ210は当該読み出し動作によって、撮像部全体の一行目の画素150、すなわち、P×n個のデジタル信号を受け取る。 The shift register 206 sequentially outputs P digital signals to the shift register 210 via the column bus line 172. In this case, it is preferable that the unit blocks 131 on the first row are transmitted synchronously with each other. The shift register 210 receives the pixels 150 in the first row of the entire imaging unit, that is, P × n digital signals by the read operation.

シフトレジスタ210は、P×n個のデジタル信号を、順次、画素メモリ414に出力し、画素メモリ414は当該デジタル信号を画素値として記憶する。この場合に、シフトレジスタ210は、撮像部全体における画素150の並び順序でデジタル信号を出力することが好ましい。図4および図5に示す例において、一番目(i=1)の単位ブロック131における1行目の画素150のデジタル信号が左から右へP個出力され、次に、2番目(i=2)の単位ブロック131における1行目の画素150のデジタル信号が左から右へP個出力される、等となる。 The shift register 210 sequentially outputs P × n digital signals to the pixel memory 414, and the pixel memory 414 stores the digital signals as pixel values. In this case, it is preferable that the shift register 210 outputs digital signals in the order in which the pixels 150 are arranged in the entire imaging unit. In the examples shown in FIGS. 4 and 5, P digital signals of the pixels 150 in the first row in the unit block 131 of the first (i = 1) are output from left to right, and then P pieces are output from the second (i = 2). ), P digital signals of the pixels 150 in the first row in the unit block 131 are output from left to right, and so on.

以上により、撮像部全体の1行目の画素150の読み出しが終了する。次に、撮像部全体での2行目の画素150が選択される。すなわち、1行目の単位ブロック131における2行目の画素150が選択される。駆動部502は、配線Sel_i_2(ただし、iは1からn)を同時にハイにする選択パルスを、対応する単位ブロック131の行制御部200に送る。これにより、1行目の画素150と同様に2行目の画素150の画素信号が読み出されて、画素値として画素メモリ414に出力される。 As a result, the reading of the pixel 150 in the first row of the entire imaging unit is completed. Next, the pixel 150 in the second row in the entire imaging unit is selected. That is, the pixel 150 in the second row in the unit block 131 in the first row is selected. The drive unit 502 sends a selection pulse that simultaneously sets the wiring Ser_i_2 (where i is 1 to n) high to the row control unit 200 of the corresponding unit block 131. As a result, the pixel signal of the pixel 150 in the second row is read out in the same manner as the pixel 150 in the first row, and is output to the pixel memory 414 as a pixel value.

以降、3行目から、単位ブロック131内の最終行であるL行目まで上記動作が繰り返される。これにより、1行目の単位ブロック131に含まれる画素150の読み出しが終了する。 After that, the above operation is repeated from the third line to the Lth line, which is the last line in the unit block 131. As a result, the reading of the pixel 150 included in the unit block 131 of the first row is completed.

次に、撮像部全体での(L+1)行目の画素150が選択される。すなわち、2行目の単位ブロック131における1行目の画素150が選択される。駆動部502は、配線Sel_i_1(ただし、iは(n+1)から2n)を同時にハイにする選択パルスを、対応する単位ブロック131の行制御部200に送る。これにより、1行目の単位ブロック131の場合と同様に、2行目の単位ブロック131の1行目の画素150の画素信号が読み出されて、画素値として画素メモリ414に出力される。同様に、撮像部全体での(L+2)行目から2L行目まで、すなわち、2行目の単位ブロック131の2行目からL行目までが、順次、読み出される。これにより、2行目の単位ブロック131に含まれる画素150の読み出しが終了する。 Next, the pixel 150 in the (L + 1) th row in the entire imaging unit is selected. That is, the pixel 150 in the first row in the unit block 131 in the second row is selected. The drive unit 502 sends a selection pulse that simultaneously sets the wiring Ser_i_1 (where i is (n + 1) to 2n) high to the row control unit 200 of the corresponding unit block 131. As a result, the pixel signal of the pixel 150 in the first row of the unit block 131 in the second row is read out and output to the pixel memory 414 as a pixel value, as in the case of the unit block 131 in the first row. Similarly, from the (L + 2) th row to the 2Lth row in the entire image pickup unit, that is, from the second row to the Lth row of the unit block 131 of the second row are sequentially read out. As a result, the reading of the pixel 150 included in the unit block 131 on the second row is completed.

以降、撮像部全体での(2L+1)行目からL×m行目まで、すなわち、3行目の単位ブロック131の1行目からm行目の単位ブロック131のL行目までが、順次、読み出される。これにより、撮像部全体すなわちm行n列の単位ブロック131に含まれる、(L×P)×(n×m)個の画素150の読み出しが終了する。 After that, from the (2L + 1) th line to the L × m line in the entire imaging unit, that is, from the first line of the unit block 131 on the third line to the Lth line of the unit block 131 on the mth line, sequentially. Read out. As a result, the reading of the (L × P) × (n × m) pixels 150 included in the entire image pickup unit, that is, the unit block 131 of m rows and n columns is completed.

上記実施形態においては、画素メモリ414に画素を順次出力するシフトレジスタ210への入力前に、周辺回路133により画素信号がデジタル信号に変換されている。よって、シフトレジスタ210で保持されている状態においてノイズが重畳されることを抑えることができる。さらに、周辺回路133のシフトレジスタ206への入力前に画素信号がデジタル信号に変換されているので、シフトレジスタ206で保持されている状態においてノイズが重畳されることを抑えることができる。 In the above embodiment, the pixel signal is converted into a digital signal by the peripheral circuit 133 before the input to the shift register 210 that sequentially outputs the pixels to the pixel memory 414. Therefore, it is possible to prevent noise from being superimposed while being held by the shift register 210. Further, since the pixel signal is converted into a digital signal before the input to the shift register 206 of the peripheral circuit 133, it is possible to suppress the superposition of noise in the state held by the shift register 206.

また、撮像部を複数の単位ブロック131に分けて、当該単位ブロック131に対応する周辺回路133を信号処理チップ111側に配したことにより、PD104の面積を減らすことなく、シフトレジスタ206、210への入力前にA/D変換を実行することができる。さらに、単位ブロック131が行列状に配され、単位ブロック131内の画素150も行列状に配されていても、撮像部全体の画素150の行列状の配置に応じた画素信号を出力することができる。これにより、画素メモリ414、画像処理部511等において、撮像部が単位ブロック131に分割されていることによる付加的な回路、処理等を用いなくてもよい。 Further, by dividing the imaging unit into a plurality of unit blocks 131 and arranging the peripheral circuit 133 corresponding to the unit block 131 on the signal processing chip 111 side, the shift registers 206 and 210 can be reached without reducing the area of the PD 104. A / D conversion can be performed before inputting. Further, even if the unit blocks 131 are arranged in a matrix and the pixels 150 in the unit block 131 are also arranged in a matrix, it is possible to output a pixel signal according to the arrangement of the pixels 150 in the entire imaging unit in a matrix. can. As a result, in the pixel memory 414, the image processing unit 511, and the like, it is not necessary to use additional circuits, processing, and the like due to the imaging unit being divided into the unit blocks 131.

図11は、周辺回路133等の接続関係の別例を示す。図11において図5と同じ構成については同じ番号を付して、説明を省略する。 FIG. 11 shows another example of the connection relationship of the peripheral circuit 133 and the like. In FIG. 11, the same configuration as in FIG. 5 is assigned the same number, and the description thereof will be omitted.

n個の列バスライン172の出力側にはマトリクススイッチ220が接続される。マトリクススイッチ220の出力側は、シフトレジスタ206_1からシフトレジスタ206_kに接続されている。 A matrix switch 220 is connected to the output side of the n row bus lines 172. The output side of the matrix switch 220 is connected from the shift register 206_1 to the shift register 206_k.

マトリクススイッチ220は、列バスライン172に伝送されたデジタル信号を、対応する列に含まれる単位ブロック131ごとにそれぞれ複数のシフトレジスタ206のいずれかかへ入力する。例えば、列バスライン172_1、172_2からのデジタル信号をシフトレジスタ206_1に入力し、列バスライン172_3、172_4からのデジタル信号をシフトレジスタ206_2に入力する。 The matrix switch 220 inputs the digital signal transmitted to the column bus line 172 to one of the plurality of shift registers 206 for each unit block 131 included in the corresponding column. For example, the digital signals from the column bus lines 172_1 and 172_2 are input to the shift register 206_1, and the digital signals from the column bus lines 172_3 and 172_2 are input to the shift register 206_1.

さらに、マトリクススイッチ220は、列バスライン172とシフトレジスタ206_1等との組み合わせを動的に変更してもよい。例えば、動画撮影、ライブビュー(スルー画表示などとも呼ばれる)、クロップ撮影等において、撮像部のうちの一部の単位ブロック131からの読み出しをする場合に、読み出される単位ブロック131の列バスライン172とシフトレジスタ206_1等との組み合わせを設定してもよい。例えば、n/2個の単位ブロック131を読み出す場合には、これらの単位ブロック131ができるだけ均等にシフトレジスタ206_1からシフトレジスタ206_kに割り振られるようにしてもよい。これにより、m行n列の単位ブロック131から画素信号を出力する場合も、これよりも少ない個数の単位ブロック131から画素信号を出力する場合も、予め設定されている最大伝送周波数で画素信号を伝送することができる。 Further, the matrix switch 220 may dynamically change the combination of the column bus line 172 and the shift register 206_1 and the like. For example, in moving image shooting, live view (also called through image display, etc.), crop shooting, etc., when reading from a part of the unit block 131 of the imaging unit, the row bus line 172 of the unit block 131 to be read is read. And the shift register 206_1 or the like may be set. For example, when reading out n / 2 unit blocks 131, these unit blocks 131 may be allocated from the shift register 206_1 to the shift register 206_k as evenly as possible. As a result, the pixel signal is output at the preset maximum transmission frequency regardless of whether the pixel signal is output from the unit block 131 of m rows and n columns or the pixel signal is output from a smaller number of unit blocks 131. Can be transmitted.

上記実施形態においてグローバルシャッタを用いる例を説明したが、これに代えて、グローバルシャッタを用いなくてもよい。この場合に、単位ブロック131内では電荷の蓄積および転送が一斉に行われ、複数の単位ブロック131間ではそれらが時間的に前後してもよい。これに代えて、単位ブロック131内の画素150間に電荷の蓄積および転送が時間的に前後してもよい。グローバルシャッタを用いるか否かが、ユーザの選択により、または、撮影条件に基づいて自動的に設定されてもよい。 Although the example of using the global shutter in the above embodiment has been described, the global shutter may not be used instead. In this case, charges are accumulated and transferred all at once in the unit block 131, and they may change in time between the plurality of unit blocks 131. Instead, the charge accumulation and transfer may be temporally back and forth between the pixels 150 in the unit block 131. Whether or not to use the global shutter may be automatically set by the user's choice or based on the shooting conditions.

図3の画素150においてメモリ回路を用いているが、当該メモリ回路を用いなくてもよい。その場合にグローバルシャッタとして、例えばメカニカルシャッタを用いてもよい。 Although the memory circuit is used in the pixel 150 of FIG. 3, the memory circuit may not be used. In that case, for example, a mechanical shutter may be used as the global shutter.

図4の周辺回路133は、列ごとにCDS回路202およびA/D変換回路204を有する。CDS回路202とA/D変換回路204との組はこれよりも多くても少なくてもよい。例えば、一つの画素150に対してCDS回路202とA/D変換回路204との組を設けてもよい。この場合には、CDS回路202とA/D変換回路204との組が信号処理チップ111側に設けられており、画素150毎の出力線がバンプ109を介して接続されており、信号処理チップ111側にA/D変換回路204の出力を列ごとに伝送する列伝送路が設けられてもよい。 The peripheral circuit 133 of FIG. 4 has a CDS circuit 202 and an A / D conversion circuit 204 for each row. The number of pairs of the CDS circuit 202 and the A / D conversion circuit 204 may be larger or smaller than this. For example, a pair of the CDS circuit 202 and the A / D conversion circuit 204 may be provided for one pixel 150. In this case, a pair of the CDS circuit 202 and the A / D conversion circuit 204 is provided on the signal processing chip 111 side, and the output line for each pixel 150 is connected via the bump 109, and the signal processing chip. A column transmission line for transmitting the output of the A / D conversion circuit 204 for each column may be provided on the 111 side.

図4の周辺回路133は、シフトレジスタ206で一行分のP個のデジタル信号を、順次、シフトレジスタ210に入力している。これに代えて、列バスライン172を一列につきP系統設けて、周辺回路133は当該列バスライン172を介してP個のデジタルデータをシフトレジスタ210に一斉に入力してもよい。また、列バスライン172は一列につきビット数分の本数設けられ、デジタル信号をビット数に関して一斉に伝送してもよいし、一列につきビット数分よりも少ない本数設けられビット数に関して順次伝送してもよい。 In the peripheral circuit 133 of FIG. 4, the shift register 206 sequentially inputs P digital signals for one line to the shift register 210. Instead of this, a row bus line 172 may be provided in a P system for each row, and the peripheral circuit 133 may simultaneously input P digital data to the shift register 210 via the row bus line 172. Further, the column bus line 172 is provided with the number of lines corresponding to the number of bits per row, and digital signals may be transmitted all at once with respect to the number of bits, or may be provided with a number less than the number of bits per row and sequentially transmitted with respect to the number of bits. May be good.

図10において、選択パルスが単位ブロック131の行ごとに順次、送られている。これに代えて、m行n列の単位ブロック131に対して一斉に選択パルスを送ってもよい。すなわち、配線Sel_i_jにおけるiを1からm×nまでに対して一斉に転送パルスを送ってもよい。この場合に、駆動部502は同一列の単位ブロック131の各シフトレジスタ206に対して、列の順序に応じて、一の単位ブロック131に対応するシフトレジスタ206からP個のデジタル信号が送り出された後に、次の単位ブロック131に対応するシフトレジスタ206からP個のデジタル信号が送られるようにタイミングを制御する。 In FIG. 10, selection pulses are sequentially sent row by row in the unit block 131. Instead of this, the selection pulse may be sent all at once to the unit block 131 of m rows and n columns. That is, the transfer pulse may be sent all at once from 1 to m × n in i in the wiring Ser_i_j. In this case, the drive unit 502 sends out P digital signals from the shift register 206 corresponding to one unit block 131 to each shift register 206 of the unit block 131 in the same row according to the order of the columns. After that, the timing is controlled so that P digital signals are sent from the shift register 206 corresponding to the next unit block 131.

以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。 Although the present invention has been described above using the embodiments, the technical scope of the present invention is not limited to the scope described in the above embodiments. It will be apparent to those skilled in the art that various changes or improvements can be made to the above embodiments. It is clear from the description of the claims that the form with such changes or improvements may be included in the technical scope of the present invention.

特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。 The order of execution of each process such as operation, procedure, step, and step in the apparatus, system, program, and method shown in the claims, specification, and drawings is particularly "before" and "prior to". It should be noted that it can be realized in any order unless the output of the previous process is used in the subsequent process. Even if the scope of claims, the specification, and the operation flow in the drawings are explained using "first", "next", etc. for convenience, it means that it is essential to carry out in this order. It's not a thing.

100 撮像素子、101 マイクロレンズ、102 カラーフィルタ、103 パッシベーション膜、104 PD、105 トランジスタ、106 PD層、107 配線、108 配線層、109 バンプ、110 TSV、111 信号処理チップ、112 メモリチップ、113 撮像チップ、131 単位ブロック、133 周辺回路、150 画素、152 リセットトランジスタ、154 転送トランジスタ、156 FD、158 パストランジスタ、160 蓄積容量、162 増幅トランジスタ、164 選択トランジスタ、166 負荷電流源、170 列伝送路、172 列バスライン、200 行制御部、202 CDS回路、204 A/D変換回路、206 シフトレジスタ、210 シフトレジスタ、220 マトリクススイッチ、414 画素メモリ、415 演算回路、418 I/F回路、420 駆動制御部、430 タイミングメモリ、441 センサ制御部、442 ブロック制御部、443 同期制御部、444 信号制御部、500 撮像装置、520 撮影レンズ、501 システム制御部、502 駆動部、503 測光部、504 ワークメモリ、505 記録部、506 表示部、511 画像処理部、512 演算部 100 Imaging element, 101 Microlens, 102 Color filter, 103 Passion membrane, 104 PD, 105 Transistor, 106 PD layer, 107 Wiring, 108 Wiring layer, 109 Bump, 110 TSV, 111 Signal processing chip, 112 Memory chip, 113 Imaging Chip, 131 unit block, 133 peripheral circuit, 150 pixels, 152 reset transistor, 154 transfer transistor, 156 FD, 158 pass transistor, 160 storage capacity, 162 amplification transistor, 164 selection transistor, 166 load current source, 170 column transmission path, 172 column bus line, 200 line control unit, 202 CDS circuit, 204 A / D conversion circuit, 206 shift register, 210 shift register, 220 matrix switch, 414 pixel memory, 415 arithmetic circuit, 418 I / F circuit, 420 drive control 430 Timing memory, 441 sensor control unit, 442 block control unit, 443 synchronization control unit, 444 signal control unit, 500 image pickup device, 520 shooting lens, 501 system control unit, 502 drive unit, 503 photometric unit, 504 work memory , 505 Recording unit, 506 Display unit, 511 Image processing unit, 512 Calculation unit

Claims (11)

第1方向と前記第1方向と交差する第2方向とにおいてそれぞれ3つ以上並んで配置され、光を電荷に変換する光電変換部を含む複数の画素を有する画素ブロックと、
前記第1方向と前記第2方向とにおいてそれぞれ3つ以上並んで配置された前記画素ブロック毎に配置され信号処理回路と、
前記第1方向と前記第2方向とにおいてそれぞれ3つ以上並んで配置された前記画素ブロック毎に配置され、前記画素から光電変換された電荷に基づく信号を読み出すための制御信号を出力する制御部と、を備え、
前記信号処理回路の各々は、アナログ信号をデジタル信号に変換するための複数の変換回路を含み、
前記画素ブロックは、光が入射される撮像チップにおいて行列状に配置され、
前記信号処理回路および前記制御部は、前記撮像チップに接続される信号処理チップにそれぞれ配置される撮像素子。
A pixel block having a plurality of pixels, each of which is arranged side by side in three or more in a first direction and a second direction intersecting with the first direction and includes a photoelectric conversion unit that converts light into electric charges.
A signal processing circuit arranged for each of the pixel blocks arranged three or more side by side in the first direction and the second direction, respectively.
A control unit that is arranged for each of the pixel blocks arranged side by side in each of the first direction and the second direction, and outputs a control signal for reading a signal based on the charge photoelectrically converted from the pixel. And, with
Each of the signal processing circuits includes a plurality of conversion circuits for converting an analog signal into a digital signal.
The pixel blocks are arranged in a matrix on an imaging chip to which light is incident, and the pixel blocks are arranged in a matrix.
The signal processing circuit and the control unit are image pickup devices arranged on the signal processing chip connected to the image pickup chip.
請求項1に記載の撮像素子において、
前記撮像チップは、前記信号処理チップに積層される撮像素子。
In the image pickup device according to claim 1,
The image pickup chip is an image pickup element laminated on the signal processing chip.
請求項1または請求項2に記載の撮像素子において、
前記画素ブロックは、複数の前記画素のうち第1画素と第2画素とを少なくとも有し、
前記信号処理回路は、複数の前記変換回路のうち、前記第1画素に接続される第1変換回路と、前記第2画素に接続される第2変換回路とを少なくとも有し、
前記信号処理回路は、前記第1方向と前記第2方向とにおいてそれぞれ配置される撮像素子。
In the image pickup device according to claim 1 or 2.
The pixel block has at least a first pixel and a second pixel among the plurality of the pixels.
The signal processing circuit has at least a first conversion circuit connected to the first pixel and a second conversion circuit connected to the second pixel among the plurality of conversion circuits.
The signal processing circuit is an image pickup element arranged in the first direction and the second direction, respectively.
請求項3に記載の撮像素子において、
前記信号処理回路は、複数の前記変換回路により変換されたデジタル信号を読み出す第1読出回路を有し、
前記信号処理チップは、前記第1方向と前記第2方向とにおいてそれぞれ配置される前記信号処理回路に接続され、前記第1読出回路により読み出されたデジタル信号を読み出す第2読出回路を有する撮像素子。
In the image pickup device according to claim 3,
The signal processing circuit has a first read circuit that reads out a digital signal converted by the plurality of conversion circuits.
The signal processing chip is connected to the signal processing circuit arranged in each of the first direction and the second direction, and has a second read circuit for reading a digital signal read by the first read circuit. element.
請求項4に記載の撮像素子において、
前記第1読出回路は、複数の前記変換回路により変換されたデジタル信号を順番に読み出す撮像素子。
In the image pickup device according to claim 4,
The first read circuit is an image pickup device that sequentially reads out digital signals converted by the plurality of conversion circuits.
請求項5に記載の撮像素子において、
前記第2読出回路は、複数の前記第1読出回路により読み出されたデジタル信号を順番に読み出す撮像素子。
In the image pickup device according to claim 5,
The second read circuit is an image pickup device that sequentially reads out digital signals read by the plurality of first read circuits.
請求項1から請求項6のいずれか一項に記載の撮像素子において、
前記画素は、前記光電変換部で変換された電荷を転送するための転送部を有し、
前記制御部は、前記転送部を制御する撮像素子。
The image sensor according to any one of claims 1 to 6.
The pixel has a transfer unit for transferring the electric charge converted by the photoelectric conversion unit.
The control unit is an image pickup device that controls the transfer unit.
請求項7に記載の撮像素子において、
前記画素は、前記転送部により前記光電変換部の電荷が転送されるフローティングディフュージョンと所定電圧が供給される供給部とに接続されるリセット部を有し、
前記制御部は、前記リセット部を制御する撮像素子。
In the image pickup device according to claim 7,
The pixel has a reset unit connected to a floating diffusion in which the charge of the photoelectric conversion unit is transferred by the transfer unit and a supply unit to which a predetermined voltage is supplied.
The control unit is an image pickup device that controls the reset unit.
請求項7または請求項8に記載の撮像素子において、
前記画素は、前記転送部により前記光電変換部の電荷が転送されるフローティングディフュージョンと、前記フローティングディフュージョンの電荷を蓄積するためのメモリ回路と、を有し、
前記制御部は、前記メモリ回路を制御する撮像素子。
In the image pickup device according to claim 7 or 8.
The pixel has a floating diffusion in which the electric charge of the photoelectric conversion unit is transferred by the transfer unit, and a memory circuit for accumulating the electric charge of the floating diffusion unit.
The control unit is an image pickup device that controls the memory circuit.
請求項1から請求項6のいずれか一項に記載の撮像素子において、
前記画素は、前記光電変換部からの電荷が転送されるフローティングディフュージョンと所定電圧が供給される供給部とに接続されるリセット部を有し、
前記制御部は、前記リセット部を制御する撮像素子。
The image sensor according to any one of claims 1 to 6.
The pixel has a reset unit connected to a floating diffusion to which electric charges from the photoelectric conversion unit are transferred and a supply unit to which a predetermined voltage is supplied.
The control unit is an image pickup device that controls the reset unit.
請求項1から請求項10のいずれか一項に記載の撮像素子と、
前記撮像素子に接続され、画像データを生成するための画像処理部と、
を備える撮像装置。
The image pickup device according to any one of claims 1 to 10.
An image processing unit connected to the image sensor and for generating image data,
An image pickup device equipped with.
JP2017140011A 2017-07-19 2017-07-19 Image sensor and image sensor Active JP6998693B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017140011A JP6998693B2 (en) 2017-07-19 2017-07-19 Image sensor and image sensor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017140011A JP6998693B2 (en) 2017-07-19 2017-07-19 Image sensor and image sensor

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2013050605A Division JP6179139B2 (en) 2013-03-13 2013-03-13 Image sensor

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2020082097A Division JP2020115696A (en) 2020-05-07 2020-05-07 Imaging element and imaging device

Publications (3)

Publication Number Publication Date
JP2017188961A JP2017188961A (en) 2017-10-12
JP2017188961A5 JP2017188961A5 (en) 2018-07-19
JP6998693B2 true JP6998693B2 (en) 2022-01-18

Family

ID=60044288

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017140011A Active JP6998693B2 (en) 2017-07-19 2017-07-19 Image sensor and image sensor

Country Status (1)

Country Link
JP (1) JP6998693B2 (en)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000152085A (en) 1998-11-09 2000-05-30 Nec Corp Image sensor and its production
JP2002344809A (en) 2001-05-18 2002-11-29 Canon Inc Image pick up unit, its drive method, radiographic device and radiographic system
WO2013041924A1 (en) 2011-09-21 2013-03-28 Aptina Imaging Corporation Stacked-chip imaging systems

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4349232B2 (en) * 2004-07-30 2009-10-21 ソニー株式会社 Semiconductor module and MOS solid-state imaging device
JP4929090B2 (en) * 2007-07-26 2012-05-09 パナソニック株式会社 Solid-state imaging device and driving method thereof
JP5631129B2 (en) * 2010-09-07 2014-11-26 パナソニック株式会社 Solid-state imaging device and imaging device

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000152085A (en) 1998-11-09 2000-05-30 Nec Corp Image sensor and its production
JP2002344809A (en) 2001-05-18 2002-11-29 Canon Inc Image pick up unit, its drive method, radiographic device and radiographic system
WO2013041924A1 (en) 2011-09-21 2013-03-28 Aptina Imaging Corporation Stacked-chip imaging systems

Also Published As

Publication number Publication date
JP2017188961A (en) 2017-10-12

Similar Documents

Publication Publication Date Title
JP7283520B2 (en) Electronics
JP6822454B2 (en) Image sensor and electronic equipment
JP6977756B2 (en) Image sensor and image sensor
JP6413233B2 (en) Imaging device and imaging device
JP2014179893A (en) Imaging device and electronic apparatus
JP2014179911A (en) Image pickup device
JP6136103B2 (en) Imaging device, imaging device, and readout method.
JP2015041838A (en) Imaging element and imaging device
JP6998693B2 (en) Image sensor and image sensor
JP6767336B2 (en) Image sensor and image sensor
JP6179139B2 (en) Image sensor
JP6680310B2 (en) Imaging device
JP2014179779A (en) Image pickup device
JP2020115696A (en) Imaging element and imaging device
JP7294379B2 (en) Imaging element and imaging device
JP7070528B2 (en) Image pickup device and image sensor
JP6767306B2 (en) Imaging device
JP6825665B2 (en) Image sensor and image sensor
JP6610648B2 (en) Imaging device
JP2019083550A (en) Electronic apparatus
JP2018207544A (en) Imaging apparatus and imaging device
JP2017077008A (en) Image processing apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170817

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180522

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180607

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181016

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20181205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190730

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20190926

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191128

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200204

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200507

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20200507

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20200518

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20200519

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20200722

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20200728

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20201124

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20210105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210308

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20210406

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210525

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20210921

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211021

C302 Record of communication

Free format text: JAPANESE INTERMEDIATE CODE: C302

Effective date: 20211022

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20211109

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20211207

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20211207

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211221

R150 Certificate of patent or registration of utility model

Ref document number: 6998693

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150