JP6779038B2 - 撮像素子及びその制御方法、撮像装置及びその制御方法 - Google Patents

撮像素子及びその制御方法、撮像装置及びその制御方法 Download PDF

Info

Publication number
JP6779038B2
JP6779038B2 JP2016110215A JP2016110215A JP6779038B2 JP 6779038 B2 JP6779038 B2 JP 6779038B2 JP 2016110215 A JP2016110215 A JP 2016110215A JP 2016110215 A JP2016110215 A JP 2016110215A JP 6779038 B2 JP6779038 B2 JP 6779038B2
Authority
JP
Japan
Prior art keywords
signal
drive
correction
regions
read
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016110215A
Other languages
English (en)
Other versions
JP2017216626A5 (ja
JP2017216626A (ja
Inventor
小林 寛和
寛和 小林
伸弘 竹田
伸弘 竹田
顯 佐々木
顯 佐々木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2016110215A priority Critical patent/JP6779038B2/ja
Priority to US15/604,919 priority patent/US10368018B2/en
Publication of JP2017216626A publication Critical patent/JP2017216626A/ja
Publication of JP2017216626A5 publication Critical patent/JP2017216626A5/ja
Application granted granted Critical
Publication of JP6779038B2 publication Critical patent/JP6779038B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/63Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/67Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
    • H04N25/671Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction
    • H04N25/672Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction between adjacent sensors or output registers for reading a single image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/709Circuitry for control of the power supply
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/767Horizontal readout lines, multiplexers or registers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/772Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising A/D, V/T, V/F, I/T or I/F converters

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は、撮像素子及びその制御方法、及び、撮像装置及びその制御方法に関し、特に画素領域を複数の領域に分割して読み出し可能な撮像素子及びその制御方法、及び、撮像装置及びその制御方法に関する。
近年、撮像素子の分野では、高画素数かつ高フレームレートへの要請から、読み出し速度を一層向上するべく種々の技術が提案されている。特許文献1には、光電変換素子と、増幅トランジスタと、選択トランジスタとを有する、二次元状に配設された複数の画素回路と、複数の垂直信号線等を具備する撮像素子が開示されている。複数の垂直信号線の各々は、複数の画素回路を列方向に分割して独立に駆動可能で、かつ、AD変換回路が接続され、分割した画素回路同士が隣接する行から離間する向き等に、画素回路を行単位で順次駆動する。このように分割された垂直信号線であれば、非分割の垂直信号線に比べて寄生抵抗および寄生容量が半減するので、画素回路からの信号電圧を垂直信号線に伝える際の静定時間が短くなるため、アナログ信号段階での高速読み出しに寄与する。また、各種公知技術があるため詳細を割愛するが、AD変換段階やデジタル信号段階においても、それぞれ高速読み出しに寄与する技術が提案されている。
一方、このように分割された垂直信号線は互いに異なるAD変換回路に接続されているため、ちょうど分割した境界の画素信号に特性差が生じてしまう。特に、撮影画像の中央付近に生じること、そして、列間で切れ目なく生じることから目に付きやすく、わずかであっても鑑賞者の検知限を超えてしまう。
また、撮像素子の信号を列毎に高精度に補正する技術は従来から提案されてきた。特許文献2によれば、次のような画像データ補正装置が開示されている。まず、撮像素子の遮光画素領域の画素データを列毎に積分して、一次元シェーディング補正データを算出しておく。そして、撮像素子の開口画素領域から画素データを読み出しているときに、算出された一次元ダークシェーディング補正データを用いて撮像素子の一次元ダークシェーディングを補正する。
特開2013−243781号公報 特開2007−336343号公報
しかしながら、垂直信号線を分割した撮像素子において、特許文献2に記載されたように高精度の補正を行うために、遮光画素領域を分割した境界の画素近傍に配置することは明らかに困難である。一方、例えばAD変換回路に近い側にそれぞれ遮光画素領域を配置した場合には、次のような問題が発生する。すなわち、一次元シェーディング補正データの算出に使われる画素が、分割した境界の画素からかなり離れているために、補正データに撮像素子面内の温度分布やオフセットレベルの違いなどによる誤差が重畳されやすくなってしまう。
本発明は上記問題点を鑑みてなされたものであり、画素部を垂直方向に分割して読み出す撮像素子を用いる際に、分割境界におけるダークシェーディングの差を高精度に補正することを目的とする。
上記目的を達成するために、本発明の撮像装置は、行列状に配置された複数の画素からなる画素部と、前記画素部を列方向に分割した複数の領域から並行に読み出された信号に、並行に予め決められた処理を行って出力する複数の出力手段と、前記複数の領域から補正データを取得するための信号を前記複数の出力手段に読み出す第1の駆動と、前記複数の領域から画像信号を前記複数の出力手段に読み出す第2の駆動とを行うように制御する制御手段と、前記第1の駆動により読み出された信号から前記補正データを取得し、当該補正データにより、前記画像信号を補正する補正手段と、を有し、前記制御手段は、前記複数の領域それぞれについて、分割境界の行を含む一部の行の画素に対して、複数回、前記第1の駆動を行って信号を読み出し、前記補正手段は、前記複数回の読み出しで得られた信号のうち、各列について、複数の信号の外れ値を除外し、平均することで、前記分割した領域ごとに前記補正データを取得することを特徴とする。
本発明の撮像装置によれば、画素部を垂直方向に分割して読み出す撮像素子を用いる際に、分割境界におけるダークシェーディングの差を高精度に補正することができる。
本発明の第1の実施形態に係る撮像装置の概略構成を示すブロック図。 第1の実施形態に係る撮像素子の構成を示すブロック図。 第1の実施形態に係る撮像素子の駆動方法を示すタイミングチャート。 第1の実施形態に係る撮像装置における補正処理を示すフローチャート。 第2の実施形態に係る撮像装置の概略構成を示すブロック図。 第2の実施形態に係る撮像装置における補正処理を示すフローチャート。 第3の実施形態に係る撮像素子の構成を示すブロック図。 第4の実施形態に係る撮像素子の構成を示すブロック図。
以下、添付図面を参照して本発明を実施するための形態を詳細に説明する。
<第1の実施形態>
図1は、本発明の第1の実施形態に係る撮像装置1の概略構成を示すブロック図である。図1において、システム制御部14は、撮像装置1全体を制御するプログラムを実行する全体制御部である。制御プログラムの全部または一部はROM15に格納されており、制御モード毎に必要なプログラムを読み出して実行するように構成してもよい。ROM15には、更に、後述するように特定のキズアドレスを記録しておき、補正処理に用いる一次元ダークシェーディングデータの算出に利用する。
撮影光学系10は、不図示の操作部によって、ユーザから絞り、ズーム、フォーカス等の指定を受け付けたシステム制御部14より光学系駆動回路18を介して、目的の制御と、不図示のメカニカルシャッター等の遮光部の開閉が行われる。
撮像素子11は、制御の完了した撮影光学系10により結像した光を受光して、光電変換を行い、光電変換により得られた電圧信号をAD変換してデジタル画像信号を生成する。撮像素子11は、システム制御部14により後述するタイミング発生回路(TG)22の駆動パターンを選択して設定することにより、一連の駆動を行う。なお、第1の実施形態においては、撮像素子11の各垂直信号線は後述するように列方向に2分割されており、分割された各垂直信号線につきそれぞれ行順次に並行にAD変換が行われるので、2行分のデジタル画像信号が画像処理部13に転送される。
撮像素子11から出力されたデジタル画像信号は、フレーム毎にまとめて画像メモリ12に一時記憶されたり、または行ごとに一次元ダークシェーディングデータの算出のためにラインメモリ17に累積記憶される。詳細は後述するが、一次元ダークシェーディングデータの算出に必要な行数分の転送が完了すると、ラインメモリ17に累積記憶されたデータに対してキズ除去、平均化等の処理を行い、画像メモリ12に記憶されるべき画像データから減算補正を行う。そして、減算補正された1フレーム分のデジタル画像信号が画像メモリ12に一時記憶された後、画像処理部13によって所定の画像処理が行われる。
画像処理部13にて行われる画像処理としては、上述した減算補正の他、分割部合成、ホワイトバランス補正、3面同時化、ノイズリダクション、シャープネス調節等を挙げることができる。
画像処理部13により画像処理が施された処理済み画像は、記録回路16においてJPEG(Joint Photographic Experts Group)等の画像規格への圧縮が行われた後、記録媒体19に記録される。
図2は、第1の実施形態に係る撮像素子11の構成を示すブロック図である。図2において、開口画素領域20(画素部)を構成する画素として、4行4列に行列状に配列された画素21を示している。以下、例えば、画素21(00)は第0行目かつ第0列目に存在する画素を表すといったように、行を「p」、列を「q」として、画素21(pq)は第p行目の第q列目に存在する画素を表す。なお、図2では16画素のみ表しているが、実用上は数千万画素に及ぶものが多くなっている。
撮影光学系10を介して各画素21に入射した光は、フォトダイオードPD(光電変換部)によって光量に応じた電荷に変換される。転送トランジスタTXは、フォトダイオードPDで発生した電荷を、ソースフォロワを構成する増幅トランジスタSFのゲートを含む転送ノードに転送する。リセットトランジスタRESは、転送ノードを所定の電圧にリセットするために用いられる。また、リセットトランジスタRESと転送トランジスタTXとを同時にオンにすることで、フォトダイオードPDをリセットすることができる。選択トランジスタSELは、増幅トランジスタSFのドレインを含む出力ノードに接続され、該当する行が選択されたときに、出力ノードの電圧を後述する垂直信号線VLに出力する。
垂直走査回路23は、転送トランジスタTX、リセットトランジスタRES、選択トランジスタSELをそれぞれ所定のタイミングで水平方向に一斉に、また、列方向に順次制御することで、行単位で画素21の駆動制御を行う。
垂直信号線VLは、上下に分割して配線されており、図2において下側の配線をVLaq、上側の配線をVLbqと表す。従って、分割された垂直信号線VLaq,VLbqのそれぞれにつき、一行単位、即ち、2行ずつ同時に信号を読み出すことができる。なお、垂直信号線VLaqに出力された信号(すなわち、下半分の領域の信号)を処理する構成には、以下、「a」を付し、垂直信号線VLbqに出力された信号(すなわち、上半分の領域の信号)を処理する構成には、以下、「b」を付す。また、「a」により示される下半分の画素領域を「a領域」、「b」により示される上半分の画素領域を「b領域」と呼ぶ。図2では、2行目の画素21(1q)と3行目の画素21(2q)とを境界領域として、各列共、a領域とb領域とに分割されている。垂直信号線VLaq,VLbqを介して、フォトダイオードPDで発生した電荷に対応する電圧を、列回路COLaq,COLbqにそれぞれ伝達する。
列回路COLaq,COLbqは、それぞれ、増幅回路Ampに所定の容量で負帰還を施し、不図示の基準電圧との差分電圧を増幅し、増幅した電圧を蓄積部Capに一時記憶する。また、蓄積部Capから増幅された電圧を読み出すための読み出し制御用トランジスタSHを備える。列回路COLaq,COLbqは、このようにして増幅した電圧をAD変換回路ADaq,ADbqに伝達する。
AD変換回路ADaq,ADbqは、列回路COLaq,COLbqから出力される電圧と、時間に比例して増減するRAMP信号とを比較する比較器Compと、比較器Compの出力をそのEnable端子に入力するカウンタ回路Cntとを備える。カウンタ回路Cntは、RAMP信号と、列回路COLaq,COLbqから出力される電圧との比較結果に応じて、後述する所定の制御によりカウントを行うことで、フォトダイオードPDで発生した電荷に対応するデジタルカウント値を得ることができる。これにより、アナログデジタル変換を行う。
2つの水平走査回路24a,24bは、AD変換回路ADaq,ADbqから出力されたデジタルカウント値を水平方向に順次選択し、水平信号線HLa,HLbに転送することで、各々一行分のデジタル撮像信号を読み出す。
タイミング発生回路(TG)22は、垂直走査回路23、水平走査回路24a,24b、AD変換回路ADaq,ADbq等を順次制御するためのタイミング信号を発生する。タイミング信号の発生は、例えばROM15に記憶された、いくつかのパターンの内のいずれかをシステム制御部14により選択することで実現してもよい。
また、開口画素領域20と列回路COLaq,COLbqとに隣接して、遮光画素領域VOBaおよびVOBbが配置されている。遮光画素領域VOBa,VOBbを構成する画素としては、画素21と同じ基本構成を有し、フォトダイオードPDを遮光構造としたタイプや、フォトダイオードPDを無くしたタイプなどが提案されている。
図3は、第1の実施形態における分割境界における画素21の駆動タイミングを示すタイミングチャートである。第1の実施形態においては、開口画素領域20の画素21のうち、垂直信号線VLaq,VLbqの分割境界にあたる第2行目と第3行目の画素21を駆動して補正値を取得する。その後、第2行目と第3行目の画素21を含む全ての画素21から、画像信号を読み出していく。
図3において、選択信号PSEL、リセット信号PRES、転送信号PTXはそれぞれ、画素21(pq)内の選択トランジスタSEL、リセットトランジスタRES、転送トランジスタTXのゲートに印加される信号を表している。各信号のHi期間に各トランジスタはONとなり、Lo期間にOFFとなる。
また、制御信号PSHは、列回路COLaq,COLbq内の読み出し制御用トランジスタSHのゲートに印加される信号を表したものであり、読み出し制御用トランジスタSHは、Hi期間にON、Lo期間にOFFとなる。RAMPはRAMP信号、COMPは比較器Compの出力、CNTはカウンタ回路Cntのカウント値を表す。HSRは、水平走査回路24a,24bが発生する水平走査信号である。
時刻t0からt1において、リセット信号PRESをHiとして、リセットトランジスタRESをONし、転送ノードを所定の電源電圧にリセットする。その後、時刻t1においてリセットトランジスタRESをOFFにすると、転送ノードは浮遊状態となる。この間、選択信号PSELはHiとなっているため、画素21(1q)、21(2q)の転送ノードの電圧(以下、「基準電圧N1」と呼ぶ。)は選択トランジスタSELを介してそれぞれ垂直信号線VLaq,VLbqに出力される。そして基準電圧N1は列回路COLaq,COLbq内の増幅回路Ampにて増幅される。
時刻t2までの間に列回路COLaq,COLbq内の蓄積部Capからの読み出し制御用トランジスタSHをON−OFFし、基準電圧N1を増幅した電圧(基準レベルN1)をAD変換回路ADaq,ADbqに伝達するべき電圧として確定する。そして、時刻t2においてRAMP信号を発生し、基準レベルN1と等しくなるまでの経過時間をカウンタ回路Cntでカウントすることで、基準レベルN1のAD変換を行う。時刻t2では、基準レベルN1<RAMPであるので、比較器Compの出力はHiとなっている。カウンタ回路Cntはこの比較器Compの出力をEnable信号として動作する。
時刻t3において、基準レベルN1≧RAMPとなると、比較器Compの出力はLoに変わる。これによりカウンタ回路Cntは停止状態となり、基準レベルN1のAD変換を自動的に終了する。なお、時刻t2から始まる基準レベルN1のAD変換中に、カウンタ回路Cntではダウンカウントしておく。
次に、転送信号PTXはLoを維持し、フォトダイオードPDから転送ノードへの信号電荷の転送を行わないまま、時刻t5までの間に列回路COLaq,COLbq内の蓄積部Capからの読み出し制御用トランジスタSHを再度ON−OFFする。これにより、基準電圧N1に時刻t1からt5の間での時間に応じたノイズが重畳した電圧N2を増幅した電圧(ノイズレベルN2)をAD変換回路ADaq,ADbqに伝達するべき電圧として確定する。そして、時刻t5においてRAMP信号を発生し、ノイズレベルN2と等しくなるまでの経過時間をカウントすることで、ノイズレベルN2のAD変換を行う。ここで、カウンタ回路Cntにより基準レベルN1までダウンカウントしているため、時刻t5からアップカウントすることで、時刻t6のカウント終了時には、基準レベルN1とノイズレベルN2との差分、すなわち、ノイズ成分に対応したカウント値が得られる。このノイズ成分に対応したカウント値が、補正値となる。
上述した補正値の取得駆動では、転送ノードの電圧を所定の時間差で2回読み出し、2回目に読み出した信号と1回目に読み出した信号の差分(ノイズ)をデジタル化したことになるので、時間に応じた変化(ノイズ)が無ければ、ゼロとなるはずである。しかしながら、例えば増幅回路Ampの列毎のオフセット差分や一時記憶用の蓄積部Capの容量ばらつき、読み出し制御用トランジスタSHの閾値ばらつきに起因する列間差等、一次元ダークシェーディングデータが含まれているため、ゼロにならない。
次いで、時刻t8からt10において水平走査信号を発生し、AD変換により得られた補正値を水平方向に順次選択する。その結果、一次元ダークシェーディングデータを構成する補正値が列順次に水平信号線HLa,HLbに転送され、領域a、領域bに分けて、それぞれラインメモリ17に累積される。
なお、上述した補正値の取得駆動は、複数回行ってもよい。その際、分割境界の画素を複数回読み出してもよい。また、時刻t2からt5の間に分割境界の画素を構成するトランジスタの微小リーク等の影響で基準レベルがずれてしまうこともあるので、分割境界の画素近傍で複数行を選択して複数回、補正値の取得駆動を行ってもよい。
上述した補正値の取得駆動が終了すると、次に、選択信号PSELの極性を変えずに、分割境界の画素を選択したまま、当該画素の光信号を読み出す。
まず、時刻t7からt8において、リセット信号PRESをHiとし、リセットトランジスタRESをONとして、転送ノードを所定の電源電圧にリセットする。時刻t8においてリセットトランジスタRESをOFFにすると、転送ノードは浮遊状態となる。この間、選択信号PSELはHiとなっているため、転送ノードの電圧は選択トランジスタSELを介して垂直信号線VLaq,VLbqに伝達されている。また、その電圧(基準電圧N1)は列回路COLaq,COLbq内の増幅回路Ampにて増幅される。
時刻t9までの間に列回路COLaq,COLbq内の蓄積部Capからの読み出し制御用トランジスタSHをON−OFFし、基準電圧N1を増幅した電圧(基準レベルN1)をAD変換回路ADaq,ADbqに伝達するべき電圧として確定する。そして、時刻t9においてRAMP信号を発生し、基準レベルN1と等しくなるまでの経過時間をカウンタ回路Cntでカウントすることで、基準レベルN1のAD変換を行う。時刻t9では、基準レベルN1<RAMPであるので、比較器Compの出力はHiとなっている。カウンタ回路Cntはこの比較器Compの出力をEnable信号として動作する。
時刻t11において、基準レベルN1≧RAMPとなると、比較器Compの出力はLoに変わる。これによりカウンタ回路Cntは停止状態となり、基準レベルN1のAD変換を自動的に終了する。なお、時刻t9から始まる基準レベルN1のAD変換前に、カウンタ回路Cntを一旦0に戻してからダウンカウントする。
一方、時刻t10からt12において、転送信号PTXをHiにして転送トランジスタTXをONにし、転送ノードにフォトダイオードPDで発生した光電荷を転送する。この光電荷に対応して生じる転送ノードの電圧降下は、垂直信号線VLaq,VLbqの電圧に現れる。この電圧も基準レベルN1と同様に、列回路COLaq,COLbq内の増幅回路Ampにて増幅される。
時刻t12においてRAMP信号を発生し、増幅された光電荷に対応した電圧Sと、ノイズレベルN2に対応した電圧N2との和である信号電圧と等しくなるまでの経過時間をカウントすることで、信号レベルのAD変換を行う。このとき、カウンタ回路Cntは基準レベルN1のダウンカウントしたカウント値から、アップカウントする。これにより、時刻t14のカウント終了時には、光電荷に対応した電圧Sと、ノイズレベルN2と基準レベルN1との差、つまり、ノイズ成分に対応した電圧との和をAD変換したカウント値が得られることになる。
次いで、時刻t16からt17において水平走査信号を発生し、AD変換された光レベルSのカウント値を水平方向に順次選択する。その結果、1行分のデジタル撮像信号が列順次に水平信号線HLa,HLbに転送される。なお、水平信号線HLa,HLb上のデジタル信号は、Low Voltage Differential Signal(LVDS)などの高速シリアル信号フォーマットで出力する。
なお、時刻t13からt15までの間の任意の時間、図3では時刻t14からt15において、選択信号PSELがLoとなる。これにより、選択トランジスタSELをOFFとして、分割境界の画素の選択を終了し、次の走査行、例えば、画素21(0q)および画素21(3q)を選択するといったように、順次、分割境界から離れる方向に選択して行く。次に選択した行の駆動方法は、上述した時刻t7からt16の信号読み出し駆動と同様の方法を繰り返す。ただし、時刻t7からt16における駆動方法では、光電荷に対応した電圧Sから、ノイズ電圧N2ではなく、基準電圧N1を差分した電圧に対応したカウント値が得られることになる。
なお、第1の実施形態では、分割境界の画素から列間差補正用の一次元ダークシェーディングデータを取得できればよい。従って、撮像装置の撮影光学系10に含まれるメカニカルシャッタによって遮光した後、もしくは露光を開始する前に、補正値の取得用駆動を行ってもよい。その場合は時刻t4までの間に転送信号PTXをONとして光電荷に対応する電圧を含んだレベルを基準レベルとしても構わない。このようにメカニカルシャッタによる遮光を伴う補正値取得駆動は、常時信号電荷を発生させる動画モードよりも、静止画モードに好適である。
次に、上述したようにしてラインメモリ17に累積した一次元ダークシェーディングデータを用いて行う補正動作について説明する。図4は、第1の実施形態に係る撮像装置1における補正処理を示すフローチャートである。
まずS401にて、上記説明した補正値の取得駆動により一次元ダークシェーディングデータを取得する。ここでは、分割境界の画素に対して複数回、補正値の取得駆動を行うか、または、分割境界近辺の画素に対して、補正値の取得駆動することで、各列毎に複数の一次元ダークシェーディングデータを取得するものとする。そして、垂直信号線VLaqを介して出力されたものと、垂直信号線VLbqを介して出力されたものとを分けてラインメモリ17に累積して行く。累積が完了すると、S402において列毎に中央値を算出する。
ところで、取得した補正値には、Random Telegraph Signalノイズ等によるばらつきが所定の確率で発生することが知られている。そこで、これを外れ値として除外しておいた方が良好な補正効果が得られる。そこで、S403において、この中央値を元にして外れ値を検出する。すなわち、中央値と累積したデータとの差分が所定の閾値を超えるか否かを、列毎に、画像処理部13にて判定する。着目したある列について外れ値があった場合はS404に進み、当該外れ値を除外して平均値を求める。またある列について外れ値がなかった場合はS405に進み、通常の平均値を求める。また、図3の時刻t2からt5の間に、分割境界の画素を構成するトランジスタの微小リーク等の影響で基準レベルがずれることが分かっていれば、ROM15にその列座標とずれ量を記録しておき、これを減算してもよい。
S406において、これら列毎の平均値を統合して補正用一次元ダークシェーディングデータを生成する。なお、分割境界のそれぞれ1行分の画素からのみ一次元ダークシェーディングデータを得る場合には、S402からS406の処理は必要ない。
S407において、上述した読み出し駆動によって得られ、画像メモリ12に一時記憶されているa領域及びb領域それぞれの画像信号に対して、それぞれ対応する補正用一次元ダークシェーディングデータを列毎に減算補正する。これにより、分割境界における特性差分が目立たないようにすることができる。
S408において、分割された画像を合成し、1枚の画像を生成する。S409において、画像処理部13により、キズ補正、ホワイトバランス、階調変換、3面同時化、ノイズリダクション等の画像処理を行い、記録回路16を介して所定の記録媒体19に画像を記録する。
以上説明したように第1の実施形態では、垂直信号線の分割境界を含む画素に対して、各分割領域のための一次元ダークシェーディングの補正値の取得駆動を行い、それを撮像装置のラインメモリ等で補正用一次元ダークシェーディングデータに変換する。そして、この補正用一次元ダークシェーディングデータを、分割した垂直信号線からそれぞれ出力される各分割領域の画像信号から減算補正することで、垂直信号線の分割境界における信号レベルの差を目立たなくすることができる。
<第2の実施形態>
次に、本発明の第2の実施形態について説明する。第2の実施形態では、撮像装置1のラインメモリ17に、予め垂直信号線VLaq,VLbqの分割境界周辺の画素を補正値取得駆動して得られる一次元シェーディングデータの差分を生成しておく。そして、その差分を水平信号線HLa,HLbから出力された分割画像のいずれか一方より減算補正する。このようにすることで、画像処理部13の処理にかかる負荷及び電力消費を軽減することができる。
図5は、第2の実施形態に係る撮像装置の構成を示すブロック図である。図1との相違は、ラインメモリ17を、ラインメモリ17aおよびラインメモリ17b、および一次元ダークシェーディングデータ用の減算器17cを用いて構成した点である。それ以外の構成は、図1に示すものと同様であるため、ここでは説明を省略する。
図6は、第2の実施形態に係る撮像装置の補正処理の一例を示すフローチャートである。図4との相違は、次の2点である。まずS601において、ラインメモリ17aに累積されたa領域用の補正データと、ラインメモリ17bに累積されたb領域用の補正データとの差分を生成する。そして、S602において、水平信号線HLa,HLbから出力されたa領域及びb領域の画像信号のいずれか一方に対して、減算補正を実行する。このように、およそ半分の画像信号に対してのみ減算補正を実行するので、画像処理部13の処理に係る負荷及び電力消費を軽減することができる。
なお、第2の実施形態においても、撮像装置の撮影光学系10に含まれるメカニカルシャッタによって遮光した後、もしくは露光を開始する前であれば、時刻t4までの間に転送信号PTXをONとして、補正値の取得駆動を行ってもよい。
<第3の実施形態>
次に、本発明の第3の実施形態について説明する。第3の実施形態は、上述した第1および第2の実施形態と比較して、撮像素子11において、垂直信号線VLaq,VLbqの分割境界の画素を用いた補正処理までを行う点が異なる。
図7は、第3の実施形態に係る撮像素子11の構成を示すブロック図である。図7に示す構成は、ラインメモリMEMaおよびMEMbと、減算回路71aおよび71bと、スイッチSWaおよびSWbとを備えた点が、図2に示す構成と異なる。それ以外は、図2と同様であるため、同じ参照番号及び参照符号を付し、説明を省略する。
ラインメモリMEMaおよびMEMbには、一次元ダークシェーディングデータを累積する。そして、減算回路71a,71bは、通常の読み出し駆動で取得した画像信号に対し、累積、または、第1の実施形態で説明した所定の外れ値処理を行った一次元ダークシェーディングデータを減算する。スイッチSWaおよびSWbは、TG22により制御され、補正値の取得駆動中はラインメモリMEMa,MEMb側の端子を、また、通常の読み出し駆動中は、減算回路71a,71b側の端子を選択するように切り替える。
このような構成により、撮像素子11内で垂直信号線VLaq,VLbqの分割境界を目立たなくする補正処理を実行することができる。
なお、本第3の実施形態における撮像素子11の駆動方法は、図3を参照して説明した第1の実施形態と同等であるため、説明を省略する。
また、第3の実施形態においても、撮像装置1の撮影光学系10に含まれるメカニカルシャッターによって遮光した後、または露光を開始する前であれば、時刻t4までの間に転送信号PTXをONとして補正値の取得駆動を行ってもよい。
<第4の実施形態>
次に、本発明の第4の実施形態について説明する。図8は第4の実施形態に係る撮像素子11の構成例を示すブロック図である。第3の実施形態で説明した撮像素子11との相違は、撮像素子11を2つの半導体基板SUB1およびSUB2上に分けて構成した点である。半導体基板SUB1(図中線)は、開口画素領域20と遮光画素領域VOBa,VOBbとを含む。一方、半導体基板SUB2は、列回路COLaq,COLbq、AD変換回路ADaq,ADbq、垂直走査回路23、水平走査回路24a,24b、ラインメモリMEMa,MEMb、減算回路71a,71b等を含む。また、例えば両半導体基板SUB1,SUB2を互いに積層し、垂直信号線VLaq,VLbq上の貫通電極VIAa1〜VIAa3およびVIAb1〜VIAb3によって電気的に接続する。この貫通電極は、例えば、Through Silicon Via(TSV)等である。
半導体基板SUB2に、画素21を備えるSUB1に比べてより微細化された半導体のプロセスを使用すれば、ラインメモリMEMa,MEMbや減算回路71a,71bを配置するスペースの余裕はさらに高まる。そこで、生じた余裕スペースを利用して、ラインメモリMEMa,MEMb上に累積された一次元ダークシェーディングデータの外れ値を処理するための更に高度な回路を新たに付加することも可能となる。
なお、第4の実施形態のように垂直信号線VLaq,VLbq上の貫通電極VIAによる電気的接続は一例にすぎない。垂直信号線、列回路、AD変換回路等、いずれの箇所で半導体基板を分けて貫通電極VIAによる接続を行うかは、任意である。
以上、好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず適用可能である。また、その要旨の範囲内で種々の変形及び変更が可能である。
例えば、上記第1〜第4の実施形態においては、垂直信号線を上下2分割した場合について説明したが、上下方向に3分割以上した場合にも、本発明を適用することができる。
11:撮像素子、12:画像メモリ、13:画像処理部、14:システム制御部、17,17a,17b:ラインメモリ、17c:減算器、20:開口画素領域、21:画素、22:タイミング発生回路(TG)、23:垂直走査回路、24a,24b:水平走査回路、71a,71b:減算回路、PD:フォトダイオード、TX:転送トランジスタ、VLaq,VLbq:垂直信号線、COLaq,COLbq:列回路、ADaq,ADbq:AD変換回路、MEMa,MEMb:ラインメモリ、SWa,SWb:スイッチ

Claims (19)

  1. 行列状に配置された複数の画素からなる画素部と、
    前記画素部を列方向に分割した複数の領域から並行に読み出された信号に、並行に予め決められた処理を行って出力する複数の出力手段と、
    前記複数の領域から補正データを取得するための信号を前記複数の出力手段に読み出す第1の駆動と、前記複数の領域から画像信号を前記複数の出力手段に読み出す第2の駆動とを行うように制御する制御手段と、
    前記第1の駆動により読み出された信号から前記補正データを取得し、当該補正データにより、前記画像信号を補正する補正手段と、を有し、
    前記制御手段は、前記複数の領域それぞれについて、分割境界の行を含む一部の行の画素に対して、複数回、前記第1の駆動を行て信号を読み出し、
    前記補正手段は、前記複数回の読み出しで得られた信号のうち、各列について、複数の信号の外れ値を除外し、平均することで、前記分割した領域ごとに前記補正データを取得することを特徴とする撮像装置。
  2. 前記補正手段は、前記分割した領域ごとに得られた前記補正データにより、同じ領域から得られる画像信号を補正することを特徴とする請求項1に記載の撮像装置。
  3. 前記分割した領域ごとの前記補正データをそれぞれ記憶する記憶手段を更に有することを特徴とする請求項1または2に記載の撮像装置。
  4. 前記分割した領域ごとに得られた前記補正データの差を記憶する記憶手段を更に有し、
    前記補正手段は、前記分割した領域のいずれかから得られた画像信号に、前記補正データの差を用いて補正を行うことを特徴とする請求項1に記載の撮像装置。
  5. 前記画素部を遮光する遮光手段を更に有し、
    前記制御手段は、前記遮光手段により前記画素部を遮光している間に、前記第1の駆動を行うように制御することを特徴とする請求項1乃至のいずれか1項に記載の撮像装置。
  6. 前記各画素は、光電変換部と、該光電変換部により生成された電荷を前記出力手段に転送する転送手段とを含み、
    前記第1の駆動では、前記転送手段による前記電荷の転送を行わずに、信号を読み出すことを特徴とする請求項1乃至のいずれか1項に記載の撮像装置。
  7. 前記第1の駆動では、予め決められた時間をおいて信号を2回読み出し、前記補正手段は、当該読み出された信号の差に基づいて、補正データを取得し、
    前記第2の駆動では、前記転送手段による前記電荷の転送を行わずに、信号を読み出した後、前記予め決められた時間をおいて、前記転送手段による前記電荷の転送を行って画像信号を読み出すことを特徴とする請求項に記載の撮像装置。
  8. 前記補正手段は、前記画像信号から、1回目に読み出した信号を差分した信号に対して補正を行うことを特徴とする請求項に記載の撮像装置。
  9. 前記複数の出力手段は、それぞれ、各列に設けられた複数のアナログデジタル変換手段を含み、1回目の読み出し時にダウンカウントを行い、2回目の読み出し時にアップカウントを行うことにより、信号の差分を得ることを特徴とする請求項またはに記載の撮像装置。
  10. 行列状に配置された複数の画素からなる画素部と、
    前記画素部を列方向に分割した複数の領域から並行に読み出された信号に、並行に予め決められた処理を行って出力する複数の出力手段と、
    前記複数の領域から補正データを取得するための信号を前記複数の出力手段に読み出す第1の駆動と、前記複数の領域から画像信号を前記複数の出力手段に読み出す第2の駆動とを行うように制御する制御手段と、
    前記分割した領域ごとに備えられた、前記第1の駆動により読み出された信号から前記補正データを取得し、当該補正データにより前記画像信号を補正する、複数の補正手段と、を有し、
    前記制御手段は、前記複数の領域それぞれについて、分割境界の行を含む一部の行の画素に対して、前記第1の駆動を行うことを特徴とする撮像素子。
  11. 前記制御手段は、前記分割した領域ごとに前記第1の駆動により複数回、信号を読み出し、
    前記複数の補正手段は、前記複数回の読み出しで得られた信号のうち、各列について、複数の信号の外れ値を除外し、平均することで、前記補正データを取得することを特徴とする請求項10に記載の撮像素子。
  12. 前記各画素は、光電変換部と、該光電変換部により生成された電荷を前記出力手段に転送する転送手段とを含み、
    前記第1の駆動では、前記転送手段による前記電荷の転送を行わずに、信号を読み出すことを特徴とする請求項10または11に記載の撮像素子。
  13. 前記第1の駆動では、予め決められた時間をおいて信号を2回読み出し、前記補正手段は、当該読み出された信号の差に基づいて、補正データを取得し、
    前記第2の駆動では、前記転送手段による前記電荷の転送を行わずに、信号を読み出した後、前記予め決められた時間をおいて、前記転送手段による前記電荷の転送を行って画像信号を読み出すことを特徴とする請求項12に記載の撮像素子。
  14. 前記複数の補正手段は、前記画像信号から、1回目に読み出した信号を差分した信号に対して補正を行うことを特徴とする請求項13に記載の撮像素子。
  15. 前記複数の出力手段は、それぞれ、各列に設けられた複数のアナログデジタル変換手段を含み、1回目の読み出し時にダウンカウントを行い、2回目の読み出し時にアップカウントを行うことにより、信号の差分を得ることを特徴とする請求項13または14に記載の撮像素子。
  16. 前記画素部を第1の基板に構成し、
    前記複数の出力手段と、前記制御手段と、前記複数の補正手段とを、第2の基板に構成したことを特徴とする請求項10乃至15のいずれか1項に記載の撮像素子。
  17. 前記第1の基板と、前記第2の基板とを積層したことを特徴とする請求項16に記載の撮像素子。
  18. 行列状に配置された複数の画素からなる画素部と、前記画素部を列方向に分割した複数の領域から並行に読み出された信号に、並行に予め決められた処理を行って出力する複数の出力手段とを含む撮像素子を有する撮像装置の制御方法であって、
    制御手段が、前記複数の領域から補正データを取得するための信号を前記複数の出力手段に読み出す第1の駆動と、前記複数の領域から画像信号を前記複数の出力手段に読み出す第2の駆動とを行うように制御する制御工程と、
    補正手段が、前記第1の駆動により読み出された信号から前記補正データを取得し、当該補正データにより、前記画像信号を補正する補正工程と、を有し、
    前記制御工程では、前記複数の領域それぞれについて、分割境界の行を含む一部の行の画素に対して、複数回、前記第1の駆動を行って信号を読み出し、
    前記補正工程では、前記複数回の読み出しで得られた信号のうち、各列について、複数の信号の外れ値を除外し、平均することで、前記分割した領域ごとに前記補正データを取得することを特徴とする撮像装置の制御方法。
  19. 行列状に配置された複数の画素からなる画素部と、前記画素部を列方向に分割した複数の領域から並行に読み出された信号に、並行に予め決められた処理を行って出力する複数の出力手段とを有する撮像素子の制御方法であって、
    制御手段が、前記複数の領域から補正データを取得するための信号を前記複数の出力手段に読み出す第1の駆動と、前記複数の領域から画像信号を前記複数の出力手段に読み出す第2の駆動とを行うように制御する制御工程と、
    前記分割した領域ごとに備えられた複数の補正手段が、前記第1の駆動により読み出された信号から前記補正データを取得し、当該補正データにより前記画像信号を補正する補正工程と、を有し、
    前記制御工程では、前記複数の領域それぞれについて、分割境界の行を含む一部の行の画素に対して、前記第1の駆動を行うことを特徴とする撮像素子の制御方法。
JP2016110215A 2016-06-01 2016-06-01 撮像素子及びその制御方法、撮像装置及びその制御方法 Active JP6779038B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016110215A JP6779038B2 (ja) 2016-06-01 2016-06-01 撮像素子及びその制御方法、撮像装置及びその制御方法
US15/604,919 US10368018B2 (en) 2016-06-01 2017-05-25 Image capturing apparatus, control method therefor, image sensor, and control method therefor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016110215A JP6779038B2 (ja) 2016-06-01 2016-06-01 撮像素子及びその制御方法、撮像装置及びその制御方法

Publications (3)

Publication Number Publication Date
JP2017216626A JP2017216626A (ja) 2017-12-07
JP2017216626A5 JP2017216626A5 (ja) 2019-07-04
JP6779038B2 true JP6779038B2 (ja) 2020-11-04

Family

ID=60483908

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016110215A Active JP6779038B2 (ja) 2016-06-01 2016-06-01 撮像素子及びその制御方法、撮像装置及びその制御方法

Country Status (2)

Country Link
US (1) US10368018B2 (ja)
JP (1) JP6779038B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7175703B2 (ja) * 2018-10-17 2022-11-21 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
CN111491120B (zh) * 2019-01-29 2022-11-01 Jvc建伍株式会社 拍摄装置
JP7222736B2 (ja) 2019-02-04 2023-02-15 キヤノン株式会社 撮像素子及びその制御方法、及び撮像装置
JP2021048241A (ja) 2019-09-18 2021-03-25 キヤノン株式会社 撮像素子及びその製造方法、及び撮像装置

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4392492B2 (ja) 2003-06-02 2010-01-06 国立大学法人静岡大学 広ダイナミックレンジイメージセンサ
FR2857038B1 (fr) * 2003-07-03 2007-03-30 Marc Edouard Irigoyen Systeme d'accrochage de poutre
US7907190B2 (en) * 2003-10-20 2011-03-15 Eastman Kodak Company Image sensor multiple output method
JP2007311555A (ja) * 2006-05-18 2007-11-29 Fujifilm Corp 固体撮像デバイス及び固体撮像デバイスの駆動方法
JP4886378B2 (ja) 2006-06-16 2012-02-29 キヤノン株式会社 画像データ補正装置及び画像データ補正方法
JP2008124527A (ja) 2006-11-08 2008-05-29 Sony Corp 固体撮像装置及び撮像装置
JP4434250B2 (ja) * 2007-09-21 2010-03-17 ソニー株式会社 画像信号処理回路、撮像装置、および画像信号処理方法、並びにコンピュータ・プログラム
DE102008009046B4 (de) * 2008-02-13 2014-10-02 Günther Zimmer Beschleunigungs- und Verzögerungsvorrichtung mit zwei Mitnahmeelementen
JP5418810B2 (ja) * 2008-02-14 2014-02-19 ソニー株式会社 クランプ制御方法、クランプ補正装置、イメージセンサ、および、電子機器
JP4478723B2 (ja) 2008-03-31 2010-06-09 キヤノン株式会社 固体撮像装置及び固体撮像装置の駆動方法
JP5253028B2 (ja) 2008-07-23 2013-07-31 キヤノン株式会社 撮像システムおよびその制御方法
JP5374110B2 (ja) 2008-10-22 2013-12-25 キヤノン株式会社 撮像センサ及び撮像装置
US8059180B2 (en) * 2008-11-25 2011-11-15 Omnivision Technologies, Inc. Image sensors having non-uniform light shields
JP4881987B2 (ja) 2009-10-06 2012-02-22 キヤノン株式会社 固体撮像装置および撮像装置
JP5853351B2 (ja) * 2010-03-25 2016-02-09 ソニー株式会社 半導体装置、半導体装置の製造方法、及び電子機器
TWI531239B (zh) * 2010-05-28 2016-04-21 Hamamatsu Photonics Kk Solid-state imaging device
JP6039165B2 (ja) 2011-08-11 2016-12-07 キヤノン株式会社 撮像素子及び撮像装置
JP5917055B2 (ja) 2011-09-13 2016-05-11 キヤノン株式会社 固体撮像素子、その駆動方法および制御プログラム
JP2013243781A (ja) 2013-08-27 2013-12-05 Sony Corp 撮像素子およびその制御方法並びにカメラ
WO2015107575A1 (ja) * 2014-01-15 2015-07-23 パナソニックIpマネジメント株式会社 撮像装置
JP6377947B2 (ja) 2014-04-21 2018-08-22 ルネサスエレクトロニクス株式会社 固体撮像素子および電子機器
JP2015216441A (ja) * 2014-05-08 2015-12-03 株式会社島津製作所 X線画像撮影装置
JP6572524B2 (ja) * 2014-09-05 2019-09-11 リコーイメージング株式会社 撮像装置および撮像方法
JP6660141B2 (ja) 2015-10-14 2020-03-04 キヤノン株式会社 撮像素子およびそれを用いる撮像装置
JP6758925B2 (ja) * 2016-06-01 2020-09-23 キヤノン株式会社 撮像装置及びその制御方法

Also Published As

Publication number Publication date
US10368018B2 (en) 2019-07-30
US20170353676A1 (en) 2017-12-07
JP2017216626A (ja) 2017-12-07

Similar Documents

Publication Publication Date Title
JP6735582B2 (ja) 撮像素子およびその駆動方法、および撮像装置
JP6776011B2 (ja) 撮像装置及び撮像システム
JP6758925B2 (ja) 撮像装置及びその制御方法
JP5871496B2 (ja) 撮像装置及びその駆動方法
US9432603B2 (en) Imaging apparatus
US9544512B2 (en) Image capturing apparatus and method of reading out pixel signals from an image sensor
JP6779038B2 (ja) 撮像素子及びその制御方法、撮像装置及びその制御方法
TW200423707A (en) Area image sensor
JP4770563B2 (ja) 撮像装置
WO2020022120A1 (ja) ストリーキング補正回路、撮像装置、及び、電子機器
JP5489739B2 (ja) 信号処理装置、撮像装置、及び信号処理方法
JP2016167773A (ja) 撮像装置及び撮像装置の処理方法
JP2008017100A (ja) 固体撮像装置
JP2012235193A (ja) 撮像素子、撮像装置、およびその制御方法、並びに制御プログラム
KR20140107212A (ko) 고체 촬상 소자 및 그 구동 방법, 카메라 시스템
JP6887840B2 (ja) 信号処理回路、撮像装置及び信号処理方法
JP2011176762A (ja) 固体撮像装置およびカメラ
JP2016029759A (ja) 撮像装置の欠陥画素検出方法
US10623642B2 (en) Image capturing apparatus and control method thereof with change, in exposure period for generating frame, of conversion efficiency
JP2013157881A (ja) 撮像装置、その制御方法、および制御プログラム
JP5224983B2 (ja) 固体撮像装置
WO2018124056A1 (ja) 撮像装置及びその制御方法
JP2020022096A (ja) 撮像素子及びその制御方法、及び撮像装置
JP2018019268A (ja) 撮像装置、撮像システムおよび撮像装置の駆動方法
JP2012120076A (ja) 撮像装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190603

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190603

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200403

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200529

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200914

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201013

R151 Written notification of patent or utility model registration

Ref document number: 6779038

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151