JP2017022688A - Imaging element, image reading device, image forming device, and imaging method - Google Patents

Imaging element, image reading device, image forming device, and imaging method Download PDF

Info

Publication number
JP2017022688A
JP2017022688A JP2016047580A JP2016047580A JP2017022688A JP 2017022688 A JP2017022688 A JP 2017022688A JP 2016047580 A JP2016047580 A JP 2016047580A JP 2016047580 A JP2016047580 A JP 2016047580A JP 2017022688 A JP2017022688 A JP 2017022688A
Authority
JP
Japan
Prior art keywords
unit
units
holding
digital
digital signals
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016047580A
Other languages
Japanese (ja)
Other versions
JP6728798B2 (en
Inventor
吉男 紺野
Yoshio Konno
吉男 紺野
政元 中澤
Masamoto Nakazawa
政元 中澤
寛貴 白土
Hirotaka Shirato
寛貴 白土
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to US15/191,035 priority Critical patent/US9973659B2/en
Publication of JP2017022688A publication Critical patent/JP2017022688A/en
Application granted granted Critical
Publication of JP6728798B2 publication Critical patent/JP6728798B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

PROBLEM TO BE SOLVED: To prevent noise generated in a digital signal at a timing other than the timing when a signal is output to an external unit at a post stage from being mixed into an analog signal.SOLUTION: An imaging element includes: a plurality of pixel units which include a plurality of light receiving elements for performing photoelectric conversion; a plurality of analog-to-digital (A/D) converters provided to each of the pixel units to sequentially convert analog signals obtained by photoelectric conversion performed by the light receiving elements to digital signals; a plurality of first holding units provided to each of the pixel units to sequentially hold digital signals obtained by conversion performed by the A/D converters; and a plurality of second holding units which receive and hold digital signals held by the first holding units in a period when the A/D converters do not convert analog signals to digital signals.SELECTED DRAWING: Figure 1

Description

本発明は、撮像素子、画像読取装置、画像形成装置及び撮像方法に関する。   The present invention relates to an imaging element, an image reading apparatus, an image forming apparatus, and an imaging method.

CMOSイメージセンサは、光を取り込んでアナログ信号へ変換し、さらにデジタル信号に変換して処理するように、アナログ信号処理とデジタル信号処理をチップ内で行うものが知られている。この場合、デジタル回路で発生するノイズがアナログ信号に重畳し、画像信号を劣化させてしまう場合がある。   A CMOS image sensor is known that performs analog signal processing and digital signal processing in a chip so as to capture light, convert it into an analog signal, and further convert it into a digital signal for processing. In this case, noise generated in the digital circuit may be superimposed on the analog signal to deteriorate the image signal.

また、特許文献1には、ラインメモリで蓄積された信号を水平走査期間内のノイズキャンセル動作期間外に出力回路で出力することで、デジタル信号処理回路のロジックノイズや出力端の出力ノイズが1水平のノイズキャンセル動作期間に発生しないようにラインメモリを制御する信号処理装置が開示されている。   Further, in Patent Document 1, the logic noise of the digital signal processing circuit and the output noise of the output end are 1 by outputting the signal accumulated in the line memory by the output circuit outside the noise canceling operation period in the horizontal scanning period. A signal processing apparatus that controls a line memory so as not to occur during a horizontal noise cancellation operation period is disclosed.

しかしながら、従来の技術では、ノイズキャンセル動作期間外に出力回路で信号を出力することで、ノイズが信号に混入することを低減しているが、その他のタイミングで発生するノイズにより信号が劣化することは防止できないという問題があった。   However, in the conventional technology, the signal is output from the output circuit outside the noise canceling operation period, so that noise is reduced from being mixed into the signal. However, the signal is deteriorated by noise generated at other timings. There was a problem that could not be prevented.

本発明は、上記に鑑みてなされたものであって、信号を外部の後段に出力するタイミング以外のデジタル信号で発生するノイズがアナログ信号に混入することを防止することができる撮像素子、画像読取装置、画像形成装置及び撮像方法を提供することを目的とする。   The present invention has been made in view of the above, and an image pickup device and an image reading device capable of preventing noise generated in a digital signal other than timing for outputting a signal to an external subsequent stage from being mixed into an analog signal. It is an object to provide an apparatus, an image forming apparatus, and an imaging method.

上述した課題を解決し、目的を達成するために、本発明は、光電変換を行う複数の受光素子を備える複数の画素部と、複数の前記受光素子が光電変換したアナログ信号を順次にデジタル信号に変換するように前記画素部毎に備えられた複数のA/D変換部と、複数の前記A/D変換部が変換したデジタル信号を順次に保持するように前記画素毎に備えられた複数の第1保持部と、前記A/D変換部がアナログ信号をデジタル信号に変換していない期間に、前記第1保持部が保持したデジタル信号をそれぞれ受入れて保持する複数の第2保持部と、を有する。   In order to solve the above-described problems and achieve the object, the present invention provides a plurality of pixel units including a plurality of light receiving elements that perform photoelectric conversion, and an analog signal obtained by photoelectric conversion of the plurality of light receiving elements in turn as a digital signal. A plurality of A / D conversion units provided for each of the pixel units so as to convert into a plurality of pixels, and a plurality of A / D conversion units provided for each of the pixels so as to sequentially hold digital signals converted by the plurality of A / D conversion units. A plurality of second holding units that receive and hold the digital signals held by the first holding unit during a period when the analog signal is not converted into a digital signal by the A / D conversion unit. Have.

本発明によれば、信号を外部の後段に出力するタイミング以外のデジタル信号で発生するノイズがアナログ信号に混入することを防止することができるという効果を奏する。   According to the present invention, it is possible to prevent noise generated in a digital signal other than the timing for outputting a signal to an external subsequent stage from being mixed into an analog signal.

図1は、第1実施形態にかかる撮像素子の概要を示す図である。FIG. 1 is a diagram illustrating an outline of the image sensor according to the first embodiment. 図2は、撮像素子の比較例としての動作例を示すタイミングチャートである。FIG. 2 is a timing chart showing an operation example as a comparative example of the image sensor. 図3は、第2実施形態にかかる撮像素子の概要を示す図である。FIG. 3 is a diagram illustrating an outline of an image sensor according to the second embodiment. 図4は、図3に示した撮像素子の第1動作のタイミングを示すタイミングチャートである。FIG. 4 is a timing chart showing the timing of the first operation of the image sensor shown in FIG. 図5は、図3に示した撮像素子の第2動作のタイミングを示すタイミングチャートである。FIG. 5 is a timing chart showing the timing of the second operation of the image sensor shown in FIG. 図6は、第3実施形態にかかる撮像素子の概要を示す図である。FIG. 6 is a diagram illustrating an outline of an image sensor according to the third embodiment. 図7は、撮像素子の比較例としての動作例を示すタイミングチャートである。FIG. 7 is a timing chart showing an operation example as a comparative example of the image sensor. 図8は、図6に示した撮像素子の動作タイミングを示すタイミングチャートである。FIG. 8 is a timing chart showing the operation timing of the image sensor shown in FIG. 図9は、撮像素子を有する画像読取装置を備えた画像形成装置の概要を示す図である。FIG. 9 is a diagram illustrating an outline of an image forming apparatus including an image reading apparatus having an image sensor.

以下に添付図面を参照して、第1実施形態にかかる撮像素子について説明する。図1は、第1実施形態にかかる撮像素子10の概要を示す図である。撮像素子10は、例えばそれぞれN個の画素部12、ADC部14、メモリ部16及びラッチ(Latch)部18と、これらの動作タイミングを制御するタイミング制御部(TG:制御部)20とを有するCMOSリニアセンサである。   Hereinafter, an image sensor according to a first embodiment will be described with reference to the accompanying drawings. FIG. 1 is a diagram illustrating an outline of an image sensor 10 according to the first embodiment. The image pickup device 10 includes, for example, N pixel units 12, an ADC unit 14, a memory unit 16, a latch unit 18, and a timing control unit (TG: control unit) 20 that controls the operation timing thereof. It is a CMOS linear sensor.

画素部12は、例えばR,G,Bそれぞれ2個(2画素)ずつの光電変換を行う合計6個の受光素子(フォトダイオード:PD)を備えた画素群である。また、画素部12は、受光素子それぞれに対して電荷を電圧信号に変換し、変換した電圧を保持するアナログメモリ、及びリセット回路などの画素回路も備えている。画素部12は、タイミング制御部20から入力される信号(PIX_EN[5:0])に応じて、6個の受光素子それぞれが入射光量に応じて生成した電荷を6画素分のアナログ信号OUT_P[5:0]としてADC部14へ順次に出力する。また、画素部12は、6個の受光素子それぞれの暗時の基準レベルを示すアナログ信号も6画素分の信号としてADC部14へ順次に出力することが可能にされている。   The pixel unit 12 is a pixel group including, for example, a total of six light receiving elements (photodiodes: PD) that perform photoelectric conversion of two (two pixels) each of R, G, and B. The pixel unit 12 also includes a pixel circuit such as an analog memory that converts charges into voltage signals for each light receiving element and holds the converted voltage, and a reset circuit. In response to the signal (PIX_EN [5: 0]) input from the timing control unit 20, the pixel unit 12 generates the charges generated by the six light receiving elements according to the amount of incident light for the analog signal OUT_P [ 5: 0] are sequentially output to the ADC unit 14. In addition, the pixel unit 12 can sequentially output analog signals indicating the dark reference level of each of the six light receiving elements to the ADC unit 14 as signals for six pixels.

ADC部14は、タイミング制御部20から入力される信号(ADC_EN)に応じて、画素部12から入力された暗時の基準レベルを示すアナログ信号と、受光時の信号レベルを示すアナログ信号とを順次にデジタル信号に変換するA/D変換部である。ADC部14は、デジタル信号をOUT_AD[11:0]として出力する。   In response to the signal (ADC_EN) input from the timing control unit 20, the ADC unit 14 outputs an analog signal indicating the dark reference level input from the pixel unit 12 and an analog signal indicating the signal level during light reception. It is an A / D conversion unit that sequentially converts to a digital signal. The ADC unit 14 outputs the digital signal as OUT_AD [11: 0].

メモリ部16は、ADC部14が出力するデジタル信号を順次に保持可能にされた第1保持部である。そして、メモリ部16は、デジタル信号をOUT_MEM[11:0]として出力する。   The memory unit 16 is a first holding unit capable of sequentially holding digital signals output from the ADC unit 14. Then, the memory unit 16 outputs the digital signal as OUT_MEM [11: 0].

ラッチ部18は、メモリ部16が保持した複数のデジタル信号OUT_MEM[11:0]を受入れて保持する第2保持部である。ラッチ部18は、後述するように、ADC部14が画素部12毎にアナログ信号それぞれをデジタル信号に変換し終えた後に、メモリ部16が保持した複数のデジタル信号を受入れて保持する。   The latch unit 18 is a second holding unit that receives and holds a plurality of digital signals OUT_MEM [11: 0] held by the memory unit 16. As will be described later, the latch unit 18 receives and holds a plurality of digital signals held by the memory unit 16 after the ADC unit 14 finishes converting each analog signal into a digital signal for each pixel unit 12.

ここで、撮像素子10は、それぞれ1つの画素部12、ADC部14、メモリ部16及びラッチ部18を1つのカラム100としている。つまり、撮像素子10は、N個(1〜N)のカラム100を備えたカラム構成のCMOSリニアセンサである。Nの値は、例えば3750である。この場合、撮像素子10は、R,G,Bそれぞれ7500個ずつの受光素子を備えたCMOSリニアカラーイメージセンサであり、画像読取装置に適用される場合、例えばA3原稿サイズを読み取るために受光素子が色毎に主走査方向に配列される。   Here, the imaging device 10 includes one pixel unit 12, an ADC unit 14, a memory unit 16, and a latch unit 18 as one column 100. That is, the image sensor 10 is a columnar CMOS linear sensor including N (1 to N) columns 100. The value of N is 3750, for example. In this case, the image sensor 10 is a CMOS linear color image sensor having 7500 light receiving elements for each of R, G, and B. When applied to an image reading apparatus, for example, the light receiving element for reading an A3 document size. Are arranged in the main scanning direction for each color.

撮像素子10は、ADC部14がアナログ信号をデジタル信号に変換していない期間に、メモリ部16からラッチ部18へのデジタル信号の転送を行うようにタイミング制御部20が制御を行う。つまり、撮像素子10は、アナログ信号処理をしている期間と、データ転送する期間とが重なっていない。   In the imaging device 10, the timing control unit 20 performs control so that the digital signal is transferred from the memory unit 16 to the latch unit 18 during a period in which the ADC unit 14 does not convert the analog signal into a digital signal. That is, in the image sensor 10, the period during which analog signal processing is performed and the period during which data is transferred do not overlap.

図2は、撮像素子10の比較例としての動作例を示すタイミングチャートである。図2においては、1つのカラム100が受光した場合の動作タイミングが示されている。つまり、撮像素子10は、全体としては全てのカラム100(例えば3750個のカラム)が一斉に動作することになる。   FIG. 2 is a timing chart illustrating an operation example as a comparative example of the image sensor 10. FIG. 2 shows the operation timing when one column 100 receives light. That is, in the imaging device 10, all the columns 100 (for example, 3750 columns) operate as a whole.

撮像素子10は、基準クロック(CLK)を基準としてタイミング制御部20が各駆動信号を生成する。Lsyncはライン同期信号であり、画像データの主走査方向1ライン分の周期を示す。画素部12内の各受光素子(PD)は、入射光量の強さに応じて電荷を蓄積する。ここで、画素部12は、タイミング制御部20から入力されるPIX_EN[5:0]の実行期間に電荷電圧変換された各アナログ信号を内部のアナログメモリに保持する。   In the image sensor 10, the timing control unit 20 generates each drive signal with reference to the reference clock (CLK). Lsync is a line synchronization signal and indicates a period of one line of image data in the main scanning direction. Each light receiving element (PD) in the pixel unit 12 accumulates electric charge according to the intensity of the incident light quantity. Here, the pixel unit 12 holds each analog signal that has been subjected to charge-voltage conversion during the execution period of PIX_EN [5: 0] input from the timing control unit 20 in an internal analog memory.

ADC部14は、タイミング制御部20から入力される信号(ADC_EN)の実行期間に、画素部12が保持したRGBそれぞれ2画素分のアナログ信号を順次に読み出してそれぞれA/D変換を行う。ADC部14は、A/D変換により確定したデジタル信号を順次に例えば1bitずつ(例えばサイクリックA/D変換の場合)出力する。   The ADC unit 14 sequentially reads out analog signals for two pixels of R, G, and B held by the pixel unit 12 and performs A / D conversion in the execution period of the signal (ADC_EN) input from the timing control unit 20. The ADC unit 14 sequentially outputs digital signals determined by A / D conversion, for example, one bit at a time (for example, in the case of cyclic A / D conversion).

メモリ部16は、ADC部14が出力するデジタル信号を順次に保持する。A/D変換が完了すると、MEM_ENの実行期間にメモリ部16からラッチ部18にデジタル信号が転送される。   The memory unit 16 sequentially holds digital signals output from the ADC unit 14. When the A / D conversion is completed, a digital signal is transferred from the memory unit 16 to the latch unit 18 during the execution period of MEM_EN.

メモリ部16からラッチ部18への転送データは12bitの画像データである。メモリ部16からラッチ部18への転送データが、各カラム100(N=3750)で一斉に行われるため、撮像素子10内の処理は高負荷となっている。つまり、ADC部14からメモリ部16へのデータ転送の負荷が1bitずつであることに対し、メモリ部16からラッチ部18へのデータ転送の負荷が12bit分であるため、負荷が12倍になってしまう。   Transfer data from the memory unit 16 to the latch unit 18 is 12-bit image data. Since the transfer data from the memory unit 16 to the latch unit 18 is simultaneously performed in each column 100 (N = 3750), the processing in the image sensor 10 is highly loaded. In other words, the load of data transfer from the ADC unit 14 to the memory unit 16 is 1 bit each, whereas the load of data transfer from the memory unit 16 to the latch unit 18 is 12 bits, so the load becomes 12 times. End up.

そのため、メモリ部16からラッチ部18へのデータ転送開始(MEM_EN)をトリガとして、メモリ部16及びラッチ部18へ給電しているデジタル電源が変動してしまう場合がある。デジタル電源が変動すると、その変動を抑制するためのデカップリングコンデンサを介してGNDを変動させてしまうことがある。GNDが変動すると、GNDとアナログ電源間のデカップリングコンデンサを介して、電圧変動がアナログ電源へ回り込み、結果的にデジタル電源の変動がアナログ電源へ伝達してしまうことになる。   For this reason, there is a case where the digital power supply that supplies power to the memory unit 16 and the latch unit 18 fluctuates with the start of data transfer (MEM_EN) from the memory unit 16 to the latch unit 18 as a trigger. When the digital power supply fluctuates, GND may be fluctuated via a decoupling capacitor for suppressing the fluctuation. When the GND changes, the voltage fluctuation goes to the analog power supply via the decoupling capacitor between the GND and the analog power supply, and as a result, the digital power supply fluctuation is transmitted to the analog power supply.

また、別の伝達経路として、撮像素子10内でデジタル電源とアナログ電源を分割することは一般的であり、分割後の供給過程で寄生容量を介して変動が伝達してしまうこともある。従って、デジタル処理によって発生した変動、すなわちノイズ成分がアナログ電源に重畳することにより、アナログ電源から電圧を供給されて動作するアナログ処理回路の出力信号にもノイズ成分が重畳してしまう。   Further, as another transmission path, it is common to divide the digital power source and the analog power source in the image sensor 10, and the fluctuation may be transmitted via the parasitic capacitance in the supply process after the division. Accordingly, when fluctuations generated by digital processing, that is, noise components are superimposed on the analog power supply, the noise components are also superimposed on the output signal of the analog processing circuit that operates with the voltage supplied from the analog power supply.

アナログ処理回路からの出力信号にノイズが重畳すると、撮像素子10で読取った画像情報とは異なった成分も画像情報として後段へ伝送されてしまうので、結果的に画質の劣化となる。   When noise is superimposed on the output signal from the analog processing circuit, a component different from the image information read by the image sensor 10 is transmitted to the subsequent stage as image information, resulting in degradation of image quality.

ここでは、画素部12が保持したアナログ信号をADC部14が読出してA/D変換し、メモリ部16が保持するという一連の動作は、1画素分の動作が完了次第、順次処理される。つまり、信号MEM_ENの実行タイミングにより、ラッチ部18へのデータ転送動作とは独立した処理が可能となっている。   Here, a series of operations in which the analog signal held by the pixel unit 12 is read out by the ADC unit 14 and A / D converted and held by the memory unit 16 are sequentially processed as soon as the operation for one pixel is completed. That is, processing independent of the data transfer operation to the latch unit 18 is possible depending on the execution timing of the signal MEM_EN.

ラッチ部18へのデータ転送タイミングと、並列処理しているADC部14のAD変換のタイミングが重複してしまうと、上述したようにアナログ信号にデジタル信号で発生した変動ノイズが混入してしまうことになる。また、メモリ部16からラッチ部18へのデータ転送によるデジタル信号のノイズ(変動)は、発生してからある時間幅を持って収束する。しかし、図2に示した例のようにノイズが収束する前に次の画素のアナログ信号処理(A/D変換)を開始してしまうと、アナログ信号にノイズが混入し、信号を劣化させてしまうことになる。   If the data transfer timing to the latch unit 18 and the AD conversion timing of the ADC unit 14 performing parallel processing overlap, fluctuation noise generated in the digital signal is mixed into the analog signal as described above. become. In addition, noise (fluctuation) of a digital signal due to data transfer from the memory unit 16 to the latch unit 18 converges with a certain time width after it is generated. However, if the analog signal processing (A / D conversion) of the next pixel is started before the noise converges as in the example shown in FIG. 2, the noise is mixed into the analog signal and the signal is deteriorated. Will end up.

図3は、第2実施形態にかかる撮像素子10aの概要を示す図である。撮像素子10aは、それぞれN個(例えばN=3750)の画素部12、PGA部13、ADC部14、CDS部15及びラッチ(Latch)部18と、これらの動作タイミングを制御するタイミング制御部(TG:制御部)20aとを有するCMOSリニアセンサである。なお、上述した構成部分と実質的に同じものには、同一の符号が付してある。   FIG. 3 is a diagram illustrating an outline of the image sensor 10a according to the second embodiment. The image sensor 10a includes N (for example, N = 3750) pixel units 12, PGA units 13, ADC units 14, CDS units 15, and latch units 18, and a timing control unit that controls the operation timing ( TG: control unit) 20a. In addition, the same code | symbol is attached | subjected to the substantially same thing as the component mentioned above.

PGA部13は、タイミング制御部20aから入力される信号PGA_ENの実行期間に、画素部12が出力したアナログ信号OUT_P[5:0]を順次にADC部14のダイナミックレンジに応じて増幅させる増幅部である。そして、PGA部13は、増幅させたアナログ信号をOUT_PG[5:0]として、ADC部14に対して出力する。   The PGA unit 13 amplifies the analog signal OUT_P [5: 0] output from the pixel unit 12 sequentially in accordance with the dynamic range of the ADC unit 14 during the execution period of the signal PGA_EN input from the timing control unit 20a. It is. Then, the PGA unit 13 outputs the amplified analog signal as OUT_PG [5: 0] to the ADC unit 14.

CDS部15は、タイミング制御部20aから入力される信号CDS_ENの実行期間に、画素部12が備える6個の受光素子のそれぞれの暗時の基準レベルを示すデジタル信号と、受光時の信号レベルを示すデジタル信号とをそれぞれ保持し、受光素子毎に相関二重サンプリング(CDS)を行う。また、CDS部15は、相関二重サンプリングを行った結果を複数のデジタル信号OUT_CD[11:0]として前記第2保持部に出力する。   The CDS unit 15 outputs a digital signal indicating a dark reference level of each of the six light receiving elements included in the pixel unit 12 and a signal level during light reception during the execution period of the signal CDS_EN input from the timing control unit 20a. Each of the received digital signals is held, and correlated double sampling (CDS) is performed for each light receiving element. The CDS unit 15 outputs the result of the correlated double sampling to the second holding unit as a plurality of digital signals OUT_CD [11: 0].

このように、CDS部15は、画素部12がA/D変換したデジタル信号それぞれを、画素部12毎に順次に保持する第1保持部としての機能を兼ね備えている。また、タイミング制御部20aが出力するLatch_ENの実行タイミングでCDS部15(第1保持部)からラッチ部18(第2保持部)へデータ転送が行われる。なお、撮像素子10aは、それぞれ1つの画素部12、PGA部13、ADC部14、CDS部15及びラッチ部18を1つのカラム100aとしている。   As described above, the CDS unit 15 also has a function as a first holding unit that sequentially holds each digital signal A / D converted by the pixel unit 12 for each pixel unit 12. In addition, data is transferred from the CDS unit 15 (first holding unit) to the latch unit 18 (second holding unit) at the execution timing of Latch_EN output by the timing control unit 20a. In the imaging element 10a, each of the pixel unit 12, the PGA unit 13, the ADC unit 14, the CDS unit 15, and the latch unit 18 is used as one column 100a.

まず、撮像素子10aの第1動作について説明する。図4は、図3に示した撮像素子10aの第1動作のタイミングを示すタイミングチャートである。第1動作において、撮像素子10aは、画素部12の動作からADC部14の動作までを画素毎(画素部12内の受光素子毎)に実施し、受光素子毎にCDS部15からラッチ部18へのデータ転送処理を実施する。   First, the first operation of the image sensor 10a will be described. FIG. 4 is a timing chart showing the timing of the first operation of the image sensor 10a shown in FIG. In the first operation, the imaging device 10a performs the operation from the operation of the pixel unit 12 to the operation of the ADC unit 14 for each pixel (for each light receiving element in the pixel unit 12), and from the CDS unit 15 to the latch unit 18 for each light receiving element. Data transfer processing to is performed.

ここで、撮像素子10aは、アナログ信号処理状態の期間と、データ転送によりノイズが発生する期間とを受光素子毎に分けるので、デジタルノイズの混入を防止してアナログ信号処理(A/D変換等)を行うことができる。   Here, since the image pickup device 10a divides the period of the analog signal processing state and the period of noise generation by data transfer for each light receiving element, analog signal processing (A / D conversion or the like) is prevented by preventing digital noise from being mixed. )It can be performed.

より詳細には、撮像素子10aは、アナログ信号処理を行っていない期間にデータ転送をしているだけでなく、次の受光素子のアナログ信号処理を開始するまでにA期間が設けられている。このA期間に、撮像素子10aは、前の画素信号(デジタル信号)のCDS部15からラッチ部18aへの転送処理によって発生していたデジタルノイズが収束するのを待ち、デジタル信号処理によるノイズが次の受光素子のアナログ信号処理に影響を与えることを防止している。   More specifically, the image sensor 10a not only performs data transfer during a period in which analog signal processing is not performed, but is also provided with an A period until analog signal processing of the next light receiving element is started. During this period A, the image sensor 10a waits for the digital noise generated by the transfer processing of the previous pixel signal (digital signal) from the CDS unit 15 to the latch unit 18a to converge, and the noise due to the digital signal processing is reduced. The analog signal processing of the next light receiving element is prevented from being affected.

次に、撮像素子10aの第2動作について説明する。図5は、図3に示した撮像素子10aの第2動作のタイミングを示すタイミングチャートである。第2動作において、撮像素子10aは、画素部12の動作からCDS部15の動作までをカラム100a内の全6画素(画素部12内の全受光素子)に対して実施し、それらが完了した後にCDS部15からラッチ部18へのデータ転送処理を順次実施する。   Next, the second operation of the image sensor 10a will be described. FIG. 5 is a timing chart showing the timing of the second operation of the image sensor 10a shown in FIG. In the second operation, the imaging device 10a performs the operations from the operation of the pixel unit 12 to the operation of the CDS unit 15 for all the six pixels in the column 100a (all the light receiving elements in the pixel unit 12). Later, data transfer processing from the CDS unit 15 to the latch unit 18 is sequentially performed.

よって、撮像素子10aは、前の画素信号(デジタル信号)のCDS部15からラッチ部18aへの転送処理によって発生していたデジタルノイズの収束を待つことなく、デジタルノイズの混入を防止して連続してアナログ信号処理(A/D変換等)を行うことができる。さらに、撮像素子10aは、CDS部15からラッチ部18へのデータ転送処理も、連続して順次に行うことができるので、ノイズ発生期間を短く抑えることができる。   Therefore, the image pickup device 10a continuously prevents the digital noise from being mixed without waiting for the convergence of the digital noise generated by the transfer process of the previous pixel signal (digital signal) from the CDS unit 15 to the latch unit 18a. Thus, analog signal processing (A / D conversion or the like) can be performed. Furthermore, since the image sensor 10a can perform data transfer processing from the CDS unit 15 to the latch unit 18 continuously and sequentially, the noise generation period can be reduced.

従って、撮像素子10aは、1ライン分の画像を読取った後、次のラインの画像読取を開始する前にマージン期間(図5におけるB期間)が発生し、これを削減することでより短いライン周期で動作させることが可能となる。すなわち、高速化を犠牲にすることなく、1ライン中のアナログ処理期間に、デジタル信号処理によるノイズを発生させることを防止している。   Therefore, after the image sensor 10a reads an image for one line, a margin period (period B in FIG. 5) occurs before starting the image reading of the next line. It becomes possible to operate in a cycle. In other words, noise due to digital signal processing is prevented during the analog processing period in one line without sacrificing speedup.

図6は、第3実施形態にかかる撮像素子10bの概要を示す図である。撮像素子10bは、それぞれN個(例えばN=3750)の画素部12、PGA部13、ADC部14、CDS部15及びラッチ(Latch)部18と、デジタル信号処理を行うDSP部19と、これらの動作タイミングを制御するタイミング制御部(TG:制御部)20bとを有するCMOSリニアセンサである。なお、撮像素子10bにおいては、それぞれ1つの画素部12、PGA部13、ADC部14、CDS部15及びラッチ部18を1つのカラム100bとしている。   FIG. 6 is a diagram illustrating an outline of the image sensor 10b according to the third embodiment. The image sensor 10b includes N (for example, N = 3750) pixel units 12, a PGA unit 13, an ADC unit 14, a CDS unit 15, a latch unit 18, a DSP unit 19 that performs digital signal processing, and these It is a CMOS linear sensor which has a timing control part (TG: control part) 20b which controls the operation timing of. In the imaging device 10b, one pixel unit 12, PGA unit 13, ADC unit 14, CDS unit 15, and latch unit 18 are used as one column 100b.

例えば、DSP部19は、複数のラッチ部18が出力したパラレル信号をシリアル信号に変換する機能、撮像素子10bが読取った画像信号の内の任意画素の信号のみを後段に出力する機能、画像信号を増幅する機能、及び画像信号を外部へ出力するためにLVDS信号に変換する機能等のデジタル信号処理機能を備えている。DSP部(デジタル信号処理部)19は、タイミング制御部20bから入力される信号DSP_CNTに応じて動作する。   For example, the DSP unit 19 has a function of converting parallel signals output from the plurality of latch units 18 into serial signals, a function of outputting only the signals of arbitrary pixels in the image signal read by the image sensor 10b, and image signals. And a digital signal processing function such as a function of converting an image signal into an LVDS signal for output to the outside. The DSP unit (digital signal processing unit) 19 operates according to the signal DSP_CNT input from the timing control unit 20b.

図7は、撮像素子10bの比較例としての動作例を示すタイミングチャートである。上述したように、DSP部19は、ラッチ部18が出力した画像データ(デジタル信号)に対し、タイミング制御部20bから入力されるDSP_CNTに応じてデジタル信号処理を行う。   FIG. 7 is a timing chart showing an operation example as a comparative example of the image sensor 10b. As described above, the DSP unit 19 performs digital signal processing on the image data (digital signal) output from the latch unit 18 in accordance with DSP_CNT input from the timing control unit 20b.

例えば、DSP部19は、各ラッチ部18が出力したパラレル画像データをシリアル画像データに変換する。また、DSP部19は、同一ラインの画素データのなかで光学的に遮光/非遮光された画素データにおいて、非遮光データから遮光データを減算する処理を行ってもよい。また、DSP部19は、画像データに対してデジタルゲイン積算による増幅処理、増幅した画像データに対して所定のオフセットレベルを印加する処理、画像データとライン同期信号をパラレルデータに変換し、LVDS信号として出力する処理等を行う。   For example, the DSP unit 19 converts the parallel image data output from each latch unit 18 into serial image data. Further, the DSP unit 19 may perform a process of subtracting the light shielding data from the non-light shielding data in the pixel data optically shielded / non-light shielding among the pixel data of the same line. In addition, the DSP unit 19 performs amplification processing by digital gain integration on the image data, processing for applying a predetermined offset level to the amplified image data, converts the image data and the line synchronization signal into parallel data, and outputs an LVDS signal. The process etc. which output as are performed.

図7に示した撮像素子10bの動作では、アナログ信号処理期間と、CDS部15が行う処理以降のデジタル信号処理とにおいて、nライン目の画素のデジタル信号処理期間が、(n+1)ライン目の画素のアナログ信号処理期間に重なっている(C期間)。   In the operation of the image sensor 10b shown in FIG. 7, in the analog signal processing period and the digital signal processing after the processing performed by the CDS unit 15, the digital signal processing period of the n-th pixel is the (n + 1) -th line. It overlaps with the analog signal processing period of the pixel (C period).

撮像素子10bの画素は、テスト画素や光学的遮光画素、有効画素、無効画素からなる。図7中のデジタル信号処理期間として示した期間は、撮像素子10bが読取った原稿画像のなかで、有効画素の画像データに対するデジタル処理期間であり、有効画素以外の画素の処理のために概ね一ライン期間中、デジタル信号処理が行われている。図7において、デジタル信号処理期間以外の期間(縦線のない期間)は、画像データに必要な処理が完了していて、デジタル信号処理を停止させている期間であり、デジタルノイズが発生しない。従って、この期間におけるデジタルノイズのアナログ信号への重畳はない。なお、図7に示したデジタル信号処理期間には、ラッチ部18が動作する期間と、DSP部19が動作する期間とが含まれている。   The pixels of the image sensor 10b include test pixels, optical light-shielding pixels, effective pixels, and invalid pixels. A period shown as a digital signal processing period in FIG. 7 is a digital processing period for image data of effective pixels in a document image read by the image sensor 10b, and is generally one for processing pixels other than effective pixels. Digital signal processing is performed during the line period. In FIG. 7, a period other than the digital signal processing period (period without a vertical line) is a period in which the processing necessary for the image data is completed and the digital signal processing is stopped, and no digital noise is generated. Therefore, there is no superimposition of digital noise on the analog signal during this period. Note that the digital signal processing period shown in FIG. 7 includes a period in which the latch unit 18 operates and a period in which the DSP unit 19 operates.

図8は、図6に示した撮像素子10bの動作タイミングを示すタイミングチャートである。撮像素子10bは、全てのアナログ信号処理期間の完了後に、デジタル信号処理を開始する。つまり、撮像素子10bは、アナログ信号処理期間とデジタル信号処理期間を完全に分離させ、アナログ信号にデジタル信号によるノイズが混入することを防止している。このように、撮像素子10bは、DSP部19などのようにデータ転送以外のデジタル処理によるノイズが発生する場合であっても、アナログ信号処理期間とデジタル信号処理期間を完全に分離させ、アナログ信号にデジタル信号によるノイズが混入することを防止している。   FIG. 8 is a timing chart showing the operation timing of the image sensor 10b shown in FIG. The image sensor 10b starts digital signal processing after completion of all analog signal processing periods. That is, the image sensor 10b completely separates the analog signal processing period and the digital signal processing period, and prevents noise due to the digital signal from being mixed into the analog signal. As described above, the imaging device 10b completely separates the analog signal processing period from the digital signal processing period even when noise due to digital processing other than data transfer occurs, such as the DSP unit 19, and the like. This prevents noise caused by digital signals from being mixed in.

次に、撮像素子10(又は撮像素子10a、撮像素子10b)を備えた画像読取装置及び画像形成装置について説明する。図9は、撮像素子10(又は撮像素子10a、撮像素子10b)を有する画像読取装置60を備えた画像形成装置50の概要を示す図である。画像形成装置50は、画像読取装置60と画像形成部70とを有する例えば複写機やMFP(Multifunction Peripheral)などである。   Next, an image reading apparatus and an image forming apparatus including the image sensor 10 (or the image sensor 10a and the image sensor 10b) will be described. FIG. 9 is a diagram illustrating an outline of an image forming apparatus 50 including an image reading device 60 having the image sensor 10 (or the image sensor 10a and the image sensor 10b). The image forming apparatus 50 is, for example, a copying machine or an MFP (Multifunction Peripheral) having an image reading device 60 and an image forming unit 70.

画像読取装置60は、例えば撮像素子10、LEDドライバ(LED_DRV)600及びLED602を有する。LEDドライバ600は、例えばタイミング制御部(制御部)20が出力するライン同期信号などに同期して、LED602を駆動する。LED602は、原稿に対して光を照射する。撮像素子10は、ライン同期信号などに同期して、原稿からの反射光を受光して複数の受光素子が電荷を発生させて蓄積を開始する。そして、撮像素子10は、パラレルシリアル変換等を行った後に、画像データを画像形成部70に対して出力する。   The image reading device 60 includes, for example, the image sensor 10, an LED driver (LED_DRV) 600, and an LED 602. The LED driver 600 drives the LED 602 in synchronization with, for example, a line synchronization signal output from the timing control unit (control unit) 20. The LED 602 irradiates the original with light. The image sensor 10 receives reflected light from the document in synchronization with a line synchronization signal or the like, and a plurality of light receiving elements generate electric charges to start accumulation. The imaging element 10 outputs image data to the image forming unit 70 after performing parallel serial conversion or the like.

画像形成部70は、処理部80とプリンタエンジン82とを有し、処理部80とプリンタエンジン82とがインターフェイス(I/F)84を介して接続されている。   The image forming unit 70 includes a processing unit 80 and a printer engine 82, and the processing unit 80 and the printer engine 82 are connected via an interface (I / F) 84.

処理部80は、LVDS800、画像処理部802及びCPU11を有する。CPU11は、メモリなどに記憶されたプログラムを実行し、撮像素子10などの画像形成装置50を構成する各部を制御する。   The processing unit 80 includes an LVDS 800, an image processing unit 802, and a CPU 11. The CPU 11 executes a program stored in a memory or the like, and controls each part of the image forming apparatus 50 such as the image sensor 10.

撮像素子10は、LVDS800に対して例えば画像読取装置60が読取った画像の画像データ、ライン同期信号及び伝送クロックなどを出力する。LVDS800は、受入れた画像データ、ライン同期信号及び伝送クロックなどをパラレル10ビットデータに変換する。画像処理部802は、変換された10ビットデータを用いて画像処理を行い、画像データなどをプリンタエンジン82に対して出力する。プリンタエンジン82は、受入れた画像データを用いて印刷を行う。   The image sensor 10 outputs, for example, image data of an image read by the image reading device 60, a line synchronization signal, a transmission clock, and the like to the LVDS 800. The LVDS 800 converts received image data, a line synchronization signal, a transmission clock, and the like into parallel 10-bit data. The image processing unit 802 performs image processing using the converted 10-bit data, and outputs image data and the like to the printer engine 82. The printer engine 82 performs printing using the received image data.

10,10a,10b 撮像素子
11 CPU
12 画素部
13 PGA部
14 ADC部
15 CDS部
16 メモリ部
18 ラッチ部
19 DSP部
20,20a,20b タイミング制御部
50 画像形成装置
60 画像読取装置
70 画像形成部
100,100a,100b カラム
10, 10a, 10b Image sensor 11 CPU
12 pixel portion 13 PGA portion 14 ADC portion 15 CDS portion 16 memory portion 18 latch portion 19 DSP portion 20, 20a, 20b timing control portion 50 image forming device 60 image reading device 70 image forming portions 100, 100a, 100b column

特許第4481758号公報Japanese Patent No. 4482758

Claims (9)

光電変換を行う複数の受光素子を備える複数の画素部と、
複数の前記受光素子が光電変換したアナログ信号を順次にデジタル信号に変換するように前記画素部毎に備えられた複数のA/D変換部と、
複数の前記A/D変換部が変換したデジタル信号を順次に保持するように前記画素部毎に備えられた複数の第1保持部と、
前記A/D変換部がアナログ信号をデジタル信号に変換していない期間に、前記第1保持部が保持したデジタル信号をそれぞれ受入れて保持する複数の第2保持部と、
を有することを特徴とする撮像素子。
A plurality of pixel units including a plurality of light receiving elements that perform photoelectric conversion;
A plurality of A / D conversion units provided for each of the pixel units so as to sequentially convert the analog signals photoelectrically converted by the plurality of light receiving elements into digital signals;
A plurality of first holding units provided for each of the pixel units so as to sequentially hold the digital signals converted by the plurality of A / D conversion units;
A plurality of second holding units that respectively receive and hold the digital signals held by the first holding unit during a period in which the A / D conversion unit does not convert the analog signals into digital signals;
An image pickup device comprising:
複数の前記第2保持部は、
複数の前記A/D変換部それぞれが前記画素部毎にアナログ信号をデジタル信号に変換し終えた後に、複数の前記第1保持部が保持した複数のデジタル信号をそれぞれ受入れて保持すること
を特徴とする請求項1に記載の撮像素子。
The plurality of second holding portions are
Each of the plurality of A / D conversion units receives and holds a plurality of digital signals held by the plurality of first holding units after completing conversion of an analog signal into a digital signal for each pixel unit. The imaging device according to claim 1.
前記A/D変換部がアナログ信号をデジタル信号に変換し終えた後に、前記第1保持部が保持したデジタル信号を、複数の前記第2保持部に対してそれぞれ転送するように制御する制御部をさらに有すること
を特徴とする請求項1又は2に記載の撮像素子。
A control unit that controls the digital signal held by the first holding unit to be transferred to the plurality of second holding units after the A / D conversion unit has finished converting the analog signal into the digital signal. The imaging device according to claim 1, further comprising:
前記第1保持部それぞれは、
前記画素部が備える複数の前記受光素子それぞれの暗時の基準レベルを示すデジタル信号と、受光時の信号レベルを示すデジタル信号とをそれぞれ保持し、前記受光素子毎に相関二重サンプリングを行った結果を、当該第1保持部が保持した複数のデジタル信号として前記第2保持部に出力すること
を特徴とする請求項1乃至3のいずれか1項に記載の撮像素子。
Each of the first holding portions is
A digital signal indicating a dark reference level of each of the plurality of light receiving elements included in the pixel unit and a digital signal indicating a signal level during light reception are held, and correlated double sampling is performed for each light receiving element. 4. The image pickup device according to claim 1, wherein the result is output to the second holding unit as a plurality of digital signals held by the first holding unit. 5.
複数の前記A/D変換部が変換したデジタル信号それぞれを増幅させる複数の増幅部をさらに有し、
複数の前記第1保持部は、
複数の前記増幅部が増幅させた後のデジタル信号それぞれを、前記画素部毎に順次に保持すること
を特徴とする請求項1乃至4のいずれか1項に記載の撮像素子。
A plurality of amplifiers for amplifying each of the digital signals converted by the plurality of A / D converters;
The plurality of first holding portions are:
5. The image pickup device according to claim 1, wherein each of the digital signals amplified by the plurality of amplification units is sequentially held for each pixel unit.
複数の前記第2保持部が保持した複数のデジタル信号を処理するデジタル信号処理部をさらに有し、
複数の前記画素部は、
複数の前記第2保持部が保持した複数のデジタル信号を前記デジタル信号処理部が処理し終えた後に、次の光電変換を行い、
複数の前記A/D変換部は、
複数の前記第2保持部が保持した複数のデジタル信号を前記デジタル信号処理部が処理し終えた後に、次の変換を行うこと
を特徴とする請求項1乃至5のいずれか1項に記載の撮像素子。
A digital signal processing unit that processes a plurality of digital signals held by the plurality of second holding units;
The plurality of pixel portions are
After the digital signal processing unit finishes processing the plurality of digital signals held by the plurality of second holding units, the next photoelectric conversion is performed,
The plurality of A / D converters are
6. The following conversion is performed after the digital signal processing unit finishes processing the plurality of digital signals held by the plurality of second holding units. 6. Image sensor.
請求項1乃至6のいずれか1項に記載の撮像素子を有すること
を特徴とする画像読取装置。
An image reading apparatus comprising the image pickup device according to claim 1.
請求項7に記載の画像読取装置と、
前記画像読取装置が読取った画像データに基づく画像を形成する画像形成部と
を有することを特徴とする画像形成装置。
An image reading apparatus according to claim 7;
An image forming apparatus comprising: an image forming unit that forms an image based on image data read by the image reading apparatus.
複数の受光素子が光電変換したアナログ信号それぞれを、予め定められた数の前記受光素子を備える画素部毎に順次にデジタル信号に変換する工程と、
変換したデジタル信号それぞれを、前記画素部毎に複数の第1保持部に順次に保持する工程と、
前記画素部毎にアナログ信号それぞれをデジタル信号に変換し終えた後に、複数の前記第1保持部それぞれが保持した複数のデジタル信号を、前記第1保持部毎に複数の第2保持部に転送する工程と、
を含む撮像方法。
Converting each analog signal photoelectrically converted by a plurality of light receiving elements into a digital signal sequentially for each pixel unit including a predetermined number of the light receiving elements;
Sequentially holding each of the converted digital signals in a plurality of first holding units for each of the pixel units;
After converting each analog signal into a digital signal for each pixel unit, a plurality of digital signals held by each of the plurality of first holding units are transferred to a plurality of second holding units for each of the first holding units. And a process of
An imaging method including:
JP2016047580A 2015-07-13 2016-03-10 Imaging device, image reading device, image forming device, and imaging method Active JP6728798B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US15/191,035 US9973659B2 (en) 2015-07-13 2016-06-23 Imaging element, image reading device, image forming apparatus, and imaging method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2015139991 2015-07-13
JP2015139991 2015-07-13

Publications (2)

Publication Number Publication Date
JP2017022688A true JP2017022688A (en) 2017-01-26
JP6728798B2 JP6728798B2 (en) 2020-07-22

Family

ID=57889946

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016047580A Active JP6728798B2 (en) 2015-07-13 2016-03-10 Imaging device, image reading device, image forming device, and imaging method

Country Status (1)

Country Link
JP (1) JP6728798B2 (en)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012523750A (en) * 2009-04-10 2012-10-04 パナビジョン イメージング リミテッド ライアビリティ カンパニー Image sensor ADC and CDS for each column
JP2013055447A (en) * 2011-09-02 2013-03-21 Renesas Electronics Corp Solid-state imaging device
JP2013150121A (en) * 2012-01-18 2013-08-01 Canon Inc Solid-state imaging apparatus and driving method thereof
WO2014007004A1 (en) * 2012-07-06 2014-01-09 ソニー株式会社 Solid-state imaging device, driving method for solid-state imaging device, and electronic device

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012523750A (en) * 2009-04-10 2012-10-04 パナビジョン イメージング リミテッド ライアビリティ カンパニー Image sensor ADC and CDS for each column
JP2013055447A (en) * 2011-09-02 2013-03-21 Renesas Electronics Corp Solid-state imaging device
JP2013150121A (en) * 2012-01-18 2013-08-01 Canon Inc Solid-state imaging apparatus and driving method thereof
WO2014007004A1 (en) * 2012-07-06 2014-01-09 ソニー株式会社 Solid-state imaging device, driving method for solid-state imaging device, and electronic device

Also Published As

Publication number Publication date
JP6728798B2 (en) 2020-07-22

Similar Documents

Publication Publication Date Title
US9973659B2 (en) Imaging element, image reading device, image forming apparatus, and imaging method
JP6146015B2 (en) Photoelectric conversion element, image reading apparatus, and image forming apparatus
JP6053750B2 (en) Imaging device, imaging system, and driving method of imaging device
JP6451104B2 (en) Photoelectric conversion element, image reading apparatus, image forming apparatus, and signal control method
US7952630B2 (en) Data processor, solid-state imaging device, imaging device, and electronic apparatus
US9332202B2 (en) Solid-state imaging apparatus and imaging system
JP5256874B2 (en) Solid-state imaging device and camera system
JP5620652B2 (en) Solid-state imaging device and driving method
JP6650779B2 (en) Imaging device, imaging system, and driving method of imaging device
US8339495B2 (en) Solid-state image pickup apparatus and method for driving solid-state image pickup apparatus
CN104954706A (en) Analog-to-digital converter and CMOS image sensor including same
JP2015002469A (en) Imaging apparatus, imaging system, method for driving imaging apparatus, and method for driving imaging system
JP2012175690A (en) Solid state imaging device
JP2010057097A (en) Solid-state imaging element and camera system
US20100033601A1 (en) Solid-state imaging device with a sensor core unit and method of driving the same
CN103517003B (en) Solid state image pickup device and its driving method and electronic equipment
JP6728798B2 (en) Imaging device, image reading device, image forming device, and imaging method
WO2017013949A1 (en) Solid-state imaging device and method for driving solid-state imaging device
JP6598837B2 (en) Imaging apparatus and imaging system
JP6365040B2 (en) Imaging apparatus, image reading apparatus, and image forming apparatus
JP6242467B2 (en) Imaging apparatus and imaging system
JP6632357B2 (en) Driving method of imaging apparatus, imaging apparatus, imaging system
JP2019033442A (en) Imaging element and method for controlling the same
US20230131491A1 (en) Solid-state imaging device, imaging device, and distance measurement device
KR20070022528A (en) Apparatus and method for removing noise in CMOS image sensor

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190122

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191126

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200123

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200602

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200615

R151 Written notification of patent or utility model registration

Ref document number: 6728798

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151