JP2023118661A - 処理装置、光電変換システム - Google Patents
処理装置、光電変換システム Download PDFInfo
- Publication number
- JP2023118661A JP2023118661A JP2022188829A JP2022188829A JP2023118661A JP 2023118661 A JP2023118661 A JP 2023118661A JP 2022188829 A JP2022188829 A JP 2022188829A JP 2022188829 A JP2022188829 A JP 2022188829A JP 2023118661 A JP2023118661 A JP 2023118661A
- Authority
- JP
- Japan
- Prior art keywords
- data
- pixels
- correction
- pixel
- array data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 188
- 238000006243 chemical reaction Methods 0.000 title claims description 110
- 238000012937 correction Methods 0.000 claims abstract description 192
- 238000004364 calculation method Methods 0.000 claims abstract description 39
- 230000002950 deficient Effects 0.000 claims description 57
- 230000007547 defect Effects 0.000 claims description 36
- 238000000605 extraction Methods 0.000 claims description 22
- 238000000034 method Methods 0.000 claims description 22
- 230000002093 peripheral effect Effects 0.000 claims description 15
- 239000000284 extract Substances 0.000 claims description 14
- 230000008569 process Effects 0.000 claims description 12
- 230000009467 reduction Effects 0.000 abstract description 3
- 238000010586 diagram Methods 0.000 description 48
- 238000003384 imaging method Methods 0.000 description 30
- 239000000203 mixture Substances 0.000 description 22
- 239000004065 semiconductor Substances 0.000 description 21
- 239000000758 substrate Substances 0.000 description 18
- 239000011159 matrix material Substances 0.000 description 17
- 230000003287 optical effect Effects 0.000 description 14
- 238000007493 shaping process Methods 0.000 description 12
- 210000005252 bulbus oculi Anatomy 0.000 description 9
- 230000006870 function Effects 0.000 description 9
- 238000010791 quenching Methods 0.000 description 9
- 238000001514 detection method Methods 0.000 description 8
- 239000012535 impurity Substances 0.000 description 8
- 210000001519 tissue Anatomy 0.000 description 7
- 238000002674 endoscopic surgery Methods 0.000 description 6
- ORQBXQOJMQIAOY-UHFFFAOYSA-N nobelium Chemical compound [No] ORQBXQOJMQIAOY-UHFFFAOYSA-N 0.000 description 6
- 238000013139 quantization Methods 0.000 description 6
- 239000011521 glass Substances 0.000 description 5
- 210000003128 head Anatomy 0.000 description 5
- 239000004984 smart glass Substances 0.000 description 5
- 239000000969 carrier Substances 0.000 description 4
- 230000008859 change Effects 0.000 description 4
- 230000006866 deterioration Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 230000005284 excitation Effects 0.000 description 4
- 230000004044 response Effects 0.000 description 4
- 230000000007 visual effect Effects 0.000 description 4
- 238000003491 array Methods 0.000 description 3
- 230000000052 comparative effect Effects 0.000 description 3
- 230000007423 decrease Effects 0.000 description 3
- 238000000098 azimuthal photoelectron diffraction Methods 0.000 description 2
- 210000004204 blood vessel Anatomy 0.000 description 2
- 230000015556 catabolic process Effects 0.000 description 2
- 239000003153 chemical reaction reagent Substances 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- MOFVSTNWEDAEEK-UHFFFAOYSA-M indocyanine green Chemical compound [Na+].[O-]S(=O)(=O)CCCCN1C2=CC=C3C=CC=CC3=C2C(C)(C)C1=CC=CC=CC=CC1=[N+](CCCCS([O-])(=O)=O)C2=CC=C(C=CC=C3)C3=C2C1(C)C MOFVSTNWEDAEEK-UHFFFAOYSA-M 0.000 description 2
- 229960004657 indocyanine green Drugs 0.000 description 2
- 230000001678 irradiating effect Effects 0.000 description 2
- 230000001179 pupillary effect Effects 0.000 description 2
- 238000001028 reflection method Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 230000004888 barrier function Effects 0.000 description 1
- 238000009529 body temperature measurement Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 210000004087 cornea Anatomy 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000010336 energy treatment Methods 0.000 description 1
- 210000001508 eye Anatomy 0.000 description 1
- 238000010030 laminating Methods 0.000 description 1
- 230000031700 light absorption Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000004400 mucous membrane Anatomy 0.000 description 1
- 210000001747 pupil Anatomy 0.000 description 1
- 230000000171 quenching effect Effects 0.000 description 1
- 238000005316 response function Methods 0.000 description 1
- 238000007789 sealing Methods 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/62—Detection or reduction of noise due to excess charges produced by the exposure, e.g. smear, blooming, ghost image, crosstalk or leakage between pixels
- H04N25/621—Detection or reduction of noise due to excess charges produced by the exposure, e.g. smear, blooming, ghost image, crosstalk or leakage between pixels for the control of blooming
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/67—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
- H04N25/671—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction
- H04N25/673—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction by using reference sources
- H04N25/674—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction by using reference sources based on the scene itself, e.g. defocusing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
- H04N25/77—Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
- H04N25/772—Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising A/D, V/T, V/F, I/T or I/F converters
- H04N25/773—Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising A/D, V/T, V/F, I/T or I/F converters comprising photon counting circuits, e.g. single photon detection [SPD] or single photon avalanche diodes [SPAD]
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
Abstract
【課題】 キズ補正精度向上による画質の低下抑制【解決手段】 アレイ状に配された複数の画素の出力値に基づく第1の配列データを記憶する第1の記憶部と、前記複数の画素からの前記出力値の補正に用いる第2の配列データを記憶する第2の記憶部と、前記第1の配列データと前記第2の配列データとに基づいて前記複数の画素の少なくとも1つの画素の出力値を補正する演算部と、を含む補正部と、を有する処理装置。【選択図】 図7
Description
本発明は、処理装置及び光電変換システムに関するものである。
キズ補正手段として、周囲の画素に対して出力レベルが高い画素をキズ画素として抽出し、キズ画素出力を周囲画素の出力の平均値に置換する方法が知られている。
しかしながら、特許文献1に記載の補正方法ではキズ補正の精度が低下し、画質が低下するという課題があった。本発明は上記課題を鑑みてなされたものであり、キズ補正精度向上による画質の低下抑制を目的とするものである。
本発明の一つの側面は、処理装置であって、アレイ状に配された複数の画素の出力値に基づく第1の配列データを記憶する第1の記憶部と、前記複数の画素からの前記出力値の補正に用いる第2の配列データを記憶する第2の記憶部と、前記第1の配列データと前記第2の配列データとに基づいて前記複数の画素の少なくとも1つの画素の出力値を補正する演算部と、を含む補正部と、を有する。
本発明によれば、キズ補正の精度及び画質の向上が可能になる。
以下に示す形態は、本発明の技術思想を具体化するためのものであって、本発明を限定するものではない。各図面が示す部材の大きさや位置関係は、説明を明確にするために誇張していることがある。以下の説明において、同一の構成については同一の番号を付して説明を省略することがある。
以下、図面に基づいて本発明の実施の形態を詳細に説明する。なお、以下の説明では、必要に応じて特定の方向や位置を示す用語(例えば、「上」、「下」、「右」、「左」及び、それらの用語を含む別の用語)を用いる。それらの用語の使用は図面を参照した実施形態の理解を容易にするためであって、それらの用語の意味によって本発明の技術的範囲が限定されるものではない。
本明細書において、平面視とは、半導体層の光入射面に対して垂直な方向から視ることである。また、断面視とは、半導体層の光入射面と垂直な方向における面をいう。なお、微視的に見て半導体層の光入射面が粗面である場合は、巨視的に見たときの半導体層の光入射面を基準として平面視を定義する。
以下の説明において、APD(アバランシェフォトダイオード)のアノードを固定電位とし、カソード側から信号を取り出している。したがって、信号電荷と同じ極性の電荷を多数キャリアとする第1導電型の半導体領域とはN型半導体領域であり、信号電荷と異なる極性の電荷を多数キャリアとする第2導電型の半導体領域とはP型半導体領域である。なお、APDのカソードを固定電位とし、アノード側から信号を取り出す場合でも本発明は成立する。この場合は、信号電荷と同じ極性の電荷を多数キャリアとする第1導電型の半導体領域はP型半導体領域であり、信号電荷と異なる極性の電荷を多数キャリアとする第2導電型の半導体領域とはN型半導体領域である。以下では、APDの一方のノードを固定電位とする場合について説明するが、両方のノードの電位が変動してもよい。
本明細書において、単に「不純物濃度」という用語が使われた場合、逆導電型の不純物によって補償された分を差し引いた正味の不純物濃度を意味している。つまり、「不純物濃度」とは、NETドーピング濃度を指す。P型の添加不純物濃度がN型の添加不純物濃度より高い領域はP型半導体領域である。反対に、N型の添加不純物濃度がP型の添加不純物濃度より高い領域はN型半導体領域である。
本発明に係る処理装置と共に使用されうる光電変換装置及びその駆動方法の各実施形態に共通する構成について、図1から図5を用いて説明する。なお、本説明では光電変換装置の外部に設けられた処理装置について説明するが、処理装置は例えば光電変換装置内に構成されてもよい。
図1は、本発明の実施形態に係る積層型の光電変換装置100の構成を示す図である。光電変換装置100は、センサ基板11と、回路基板21の2つの基板が積層され、且つ電気的に接続されることにより構成される。センサ基板11は、後述する光電変換素子102を有する第1半導体層と、第1配線構造と、を有する。回路基板21は、後述する信号処理部103等の回路を有する第2半導体層と、第2配線構造と、を有する。光電変換装置100は、第2半導体層、第2配線構造、第1配線構造、第1半導体層の順に積層して構成される。各実施形態に記載の光電変換装置は、第1面から光が入射し、第2面に回路基板が配される、裏面照射型の光電変換装置である。
以下では、センサ基板11と回路基板21とは、ダイシングされたチップで説明するが、チップに限定されない。例えば、各基板はウエハであってもよい。また、各基板はウエハ状態で積層した後にダイシングされていてもよいし、チップ化した後にチップを積層して接合してもよい。
センサ基板11には、画素領域12が配され、回路基板21には、画素領域12で検出された信号を処理する回路領域22が配される。
図2は、センサ基板11の配置例を示す図である。APDを含む光電変換素子102を有する画素101が平面視で二次元アレイ状に配列され、画素領域12を形成する。
画素101は、典型的には、画像を形成するための画素であるが、TOF(Time of Flight)に用いる場合には、必ずしも画像を形成しなくてもよい。すなわち、画素101は、光が到達した時刻と光量を測定するための画素であってもよい。
図3は、回路基板21の構成図である。図2の光電変換素子102で光電変換された電荷を処理する信号処理部103、読み出し回路112、制御パルス生成部115、水平走査回路部111、信号線113、垂直走査回路部110を有している。
図2の光電変換素子102と、図3の信号処理部103は、画素毎に設けられた接続配線を介して電気的に接続される。
垂直走査回路部110は、制御パルス生成部115から供給された制御パルスを受け、各画素に制御パルスを供給する。垂直走査回路部110にはシフトレジスタやアドレスデコーダといった論理回路が用いられる。
画素の光電変換素子102から出力された信号は、信号処理部103で処理される。信号処理部103は、カウンタやメモリなどが設けられており、メモリにはデジタル値が保持される。
水平走査回路部111は、デジタル信号が保持された各画素のメモリから信号を読み出すために、各列を順次選択する制御パルスを信号処理部103に入力する。
信号線113には、選択されている列について、垂直走査回路部110により選択された画素の信号処理部103から信号が出力される。
信号線113に出力された信号は、出力回路114を介して、光電変換装置100の外部の記録部または信号処理部に出力する。
図2において、画素領域における光電変換素子の配列は1次元状に配されていてもよい。信号処理部の機能は、必ずしも全ての光電変換素子に1つずつ設けられる必要はなく、例えば、複数の光電変換素子によって1つの信号処理部が共有され、順次信号処理が行われてもよい。
図2および図3に示すように、平面視で画素領域12に重なる領域に、複数の信号処理部103が配される。そして、平面視で、センサ基板11の端と画素領域12の端との間に重なるように、垂直走査回路部110、水平走査回路部111、列回路112、出力回路114、制御パルス生成部115が配される。言い換えると、センサ基板11は、画素領域12と画素領域12の周りに配された非画素領域とを有し、平面視で非画素領域に重なる領域に、垂直走査回路部110、水平走査回路部111、列回路112、出力回路114、制御パルス生成部115が配される。
図4は、図2及び図3の等価回路を含むブロック図の一例である。
図2において、APD201を有する光電変換素子102は、センサ基板11に設けられており、その他の部材は、回路基板21に設けられている。
APD201は、光電変換により入射光に応じた電荷対を生成する光電変換部である。APD201のアノードには、電圧VL(第1電圧)が供給される。また、APD201のカソードには、アノードに供給される電圧VLよりも高い電圧VH(第2電圧)が供給される。アノードとカソードには、APD201がアバランシェ増倍動作をするような逆バイアス電圧が供給される。このような電圧を供給した状態とすることで、入射光によって生じた電荷がアバランシェ増倍を起こし、アバランシェ電流が発生する。
尚、逆バイアスの電圧が供給される場合において、アノードおよびカソードの電位差が降伏電圧より大きいな電位差で動作させるガイガーモードと、アノードおよびカソードの電位差が降伏電圧近傍、もしくはそれ以下の電圧差で動作させるリニアモードがある。
ガイガーモードで動作させるAPDをSPADと呼ぶ。例えば、電圧VL(第1電圧)は、-30V、電圧VH(第2電圧)は、1Vである。APD201は、リニアモードで動作させてもよいし、ガイガーモードで動作させてもよい。SPADの場合はリニアモードのAPDに比べて電位差が大きくなり耐圧の効果が顕著となるため、SPADであることが好ましい。
クエンチ素子202は、電圧VHを供給する電源とAPD201に接続される。クエンチ素子202は、アバランシェ増倍による信号増倍時に負荷回路(クエンチ回路)として機能し、APD201に供給する電圧を抑制して、アバランシェ増倍を抑制する働きを持つ(クエンチ動作)。また、クエンチ素子202は、クエンチ動作で電圧降下した分の電流を流すことにより、APD201に供給する電圧を電圧VHへと戻す働きを持つ(リチャージ動作)。
信号処理部103は、波形整形部210、カウンタ回路211、選択回路212を有する。本明細書において、信号処理部103は、波形整形部210、カウンタ回路211、選択回路212のいずれかを有していればよい。
波形整形部210は、光子検出時に得られるAPD201のカソードの電位変化を整形して、パルス信号を出力する。波形整形部210としては、例えば、インバータ回路が用いられる。図4では、波形整形部210としてインバータを一つ用いた例を示したが、複数のインバータを直列接続した回路を用いてもよいし、波形整形効果があるその他の回路を用いてもよい。
カウンタ回路211は、波形整形部210から出力されたパルス信号をカウントし、カウント値を保持する。また、駆動線213を介して制御パルスpRESが供給されたとき、カウンタ回路211に保持された信号がリセットされる。
選択回路212には、図3の垂直走査回路部110から、図4の駆動線214(図3では不図示)を介して制御パルスpSELが供給され、カウンタ回路211と信号線113との電気的な接続、非接続を選択する。選択回路212には、例えば、信号を出力するためのバッファ回路などを含む。
クエンチ素子202とAPD201との間や、光電変換素子102と信号処理部103との間にトランジスタ等のスイッチを配して、電気的な接続を切り替えてもよい。同様に、光電変換素子102に供給される電圧VHまたは電圧VLの供給をトランジスタ等のスイッチを用いて電気的に切り替えてもよい。
本実施形態では、カウンタ回路211を用いる構成を示した。しかし、カウンタ回路211の代わりに、時間・デジタル変換回路(Time to Digital Converter:以下、TDC)、メモリを用いて、パルス検出タイミングを取得する光電変換装置100としてもよい。このとき、波形整形部210から出力されたパルス信号の発生タイミングは、TDCによってデジタル信号に変換される。TDCには、パルス信号のタイミングの測定に、図1の垂直走査回路部110から駆動線を介して、制御パルスpREF(参照信号)が供給される。TDCは、制御パルスpREFを基準として、波形整形部210を介して各画素から出力された信号の入力タイミングを相対的な時間としたときの信号をデジタル信号として取得する。
図5は、APDの動作と出力信号との関係を模式的に示した図である。
図5(a)は、図4のAPD201、クエンチ素子202、波形整形部210を抜粋した図である。ここで、波形整形部210の入力側をnodeA、出力側をnodeBとする。図5(b)は、図5(a)のnodeAの波形変化を、図5(c)は、図5(a)のnodeBの波形変化をそれぞれ示す。
時刻t0から時刻t1の間において、図5(a)のAPD201には、VH-VLの電位差が印加されている。時刻t1において光子がAPD201に入射すると、APD201でアバランシェ増倍が生じ、クエンチ素子202にアバランシェ増倍電流が流れ、nodeAの電圧は降下する。電圧降下量がさらに大きくなり、APD201に印加される電位差が小さくなると、時刻t2のようにAPD201のアバランシェ増倍が停止し、nodeAの電圧レベルはある一定値以上降下しなくなる。その後、時刻t2から時刻t3の間において、nodeAには電圧VLから電圧降下分を補う電流が流れ、時刻t3においてnodeAは元の電位レベルに静定する。このとき、nodeAにおいて出力波形がある閾値を越えた部分は、波形整形部210で波形整形され、nodeBで信号として出力される。
なお、信号線113の配置、列回路112、出力回路114の配置は図3に限定されない。例えば、信号線113が行方向に延びて配されており、列回路112が信号線113の延びる先に配されていてもよい。
以下では、各実施形態の光電変換装置について説明する。
(第1の実施形態)
第1の実施形態にかかる処理装置について図6から図10までを用いて説明する。
第1の実施形態にかかる処理装置について図6から図10までを用いて説明する。
図6に示すのは第1の実施形態の比較例の説明図である。
一般的なキズ補正手段として、周囲の画素に対して出力レベルが高い画素をキズ画素として抽出し、周囲画素の出力の平均値または中央値に置換する方法がある。
例えば画素がアバランシェフォトダイオード(以下APDとも記載する)である場合において、アバランシェ増倍した電荷が再結合する際のアバランシェ発光現象に起因したCrosstalkにより、キズ画素が複数にまたがる場合がある。このようなキズをクラスターキズと呼称する。なお、Crosstalkによるクラスターキズの発生は画素がAPDである場合に限られず、クラスターキズはCMOSセンサにおいても発生しうる。図6(a)は補正前のクラスターキズを模式的に示したものである。白い画素ほど出力値が高いことを表し、図6(a)では中央のキズ画素に加えキズ画素の上下左右2画素ずつと、中央のキズ画素に対し対角に配された4つの画素にまで中央のキズ画素の影響が及んでいる。このようなクラスターキズを有する画素の出力を周囲画素の出力の平均値に置換する方法を適用する。図6(b)はこの補正手段を示したものであり、中央のキズ画素を左右の画素の出力の平均値で置換している。しかし、この補正手段を図6(a)の例に適用すると、図6(c)に示すように、キズ残滓が残り、補正精度が低下する。そのため、比較例の補正手段を用いると、キズ補正後の画像の画質が低下するという課題があった。
図7に示すのは第1の実施形態の説明図である。本実施形態では、クラスターキズの生じた画像(図7(a))について、まず周囲の画素に対して出力レベルが高い画素をキズ画素として抽出する(図7(b))。このとき、キズ画素として抽出された画素以外の周囲の画素の出力は0LSBと設定される。得られたキズ画素に対し、事前に得られた補正用配列を乗算する(図7(c))ことで、推定キズ分布を得る(図7(d))。ここで、補正用配列とは1つのキズ画素が周辺の画素に与える影響をCrosstalk確率の行列(Crosstalk行列)として示したものである。また、乗算とは例えばCrosstalk行列の各要素を、キズ画素出力に基づいた数値を用いて定数倍する演算や、FFT(高速フーリエ変換)等を用いた畳み込み演算等を含む。この処理によって、抽出したキズ画素からクラスターキズのキズ分布を推定することができる。得られた推定キズ分布を用いてクラスターキズの補正を行うことで、キズ残滓を残さない高精度なキズ補正を行うことができる。
図8に第1の実施形態に係る処理装置のブロック図を示す。
第1の実施形態に係る処理装置は、画像取得部301、読み出し部302、画像処理部303を有する。画像処理部303は、第1の記憶部304、キズ抽出部305、第2の記憶部306、補正部310を有し、補正部310は配列生成部311及び演算部312を含む。
画像取得部301は例えば図2に示す画素領域12の画素101であり、読み出し部302は例えば図3の信号処理部103である。画像取得部で生成された画像データは第1の記憶部304に入力される。
第1の記憶部304は前段で生成された画像データの少なくとも一部を第1の配列データとして保持する記憶部である。具体的にはSRAMなどのメモリを記憶部として第1の配列データは格納される。
キズ抽出部305は第1の記憶部に格納された画像データからキズ画素の出力値を第5の配列データとして抽出し、キズ画素の位置情報及び出力値を特定する。
第2の記憶部306は補正用の第2の配列データを記憶している。補正用の第2の配列データとはすなわちCrosstalk行列である。
配列生成部311はキズ抽出部305で抽出されたキズ画素の位置及び出力値と第2の記憶部306に記憶された補正用の第2の配列データから補正用の演算データである第3の配列データを生成する。
演算部312は配列生成部311で生成された第3の配列データに基づいて画像データの補正を行う。
図9に第1の実施形態に係る処理装置のフロー図を示す。
S401で、キズ抽出部305が画像取得部301で取得された画像データからキズアドレスデータに基づくキズ画素の選択を行う。ここではキズアドレスデータはあらかじめ取得されたキズ画素の位置情報であるものとする。
S402で、S401で選択したキズ画素の出力値を取得する。
S403で第2の記憶部306は補正用配列データを選択する。補正用配列データはN行M列のデータである。詳細は後述するが、第2の記憶部306は複数の種類の補正用配列データを有していてもよい。
S404でN行M列の画素の推定キズ配列の生成を行う。
S405でキズ画素を含むN行M列の画素領域の画像データから推定キズ配列を減算する処理を行う。
S406で、S405での減算後に負の値になる出力値を0に置換し、処理を終了する。
補正用配列データは2以上のデータを含むものであれば1次元でも2次元でもよい。すなわち、NおよびMの一方は2以上の整数、他方は1以上の整数であればよい。補正用配列データが3以上のデータを含み、N、Mのそれぞれが3以上の整数であることが好ましい。言い換えれば、補正用配列データは3行3列以上のサイズをもつことが好ましく、補正対象である画素データもまた3行3列以上のサイズをもつことが好ましい。本実施形態ではキズ画素の周辺に画素が存在する場合により高精度に補正を行うことができるためである。さらに、Crosstalk確率の対称性を考慮すると、N、Mは奇数であることが好ましい。
また、本実施形態では事前に取得したアドレスデータを用いてキズ画素の検出を行ったが、キズ抽出の方法はこれに限られない。クラスターキズは一般に十字状、正方形状、または円状のキズであるため、例えばパターンマッチングによりキズ画素の出力値を検出してもよい。
さらに、上記説明ではキズを含む画像データから推定キズ配列データを減算することで補正を行ったが、補正処理は減算以外であってもよく、例えばキズを含む画像データから生成したキズ配列を除算してもよい。あるいは、補正用配列において、1つのキズ画素が周辺の画素に与える影響確率の逆数を補正用配列とする場合には、キズを含む画像データから推定キズ配列データを乗算してもよい。この場合、補正用配列において、キズ画素に対応する位置(中央)には、ボトム値が付与されることになる。
図10に第1の実施形態に係る処理装置の補正用配列の説明図を示す。
前述の通り、図9のS403では補正用配列データの選択を行う。第2の記憶部306は、例えば補正用配列A~Cの3種類の補正用配列を有する。図10(a)は補正用配列A、図10(b)は補正用配列B、図10(c)は補正用配列Cのそれぞれに対応するクラスターキズの模式図である。
補正用配列Aはキズ画素の上下左右に配された4画素に対してキズ画素が影響を与える場合に用いられる3行3列の補正用配列である。
補正用配列Bはキズ画素を中心に上下左右に2画素ずつとキズ画素に対して対角に配された4画素の計12画素に対してキズ画素が影響を与える場合に用いられる5行5列の補正用配列である。
同様に、補正用配列Cはキズ画素を中心に上下左右に3画素ずつとキズ画素に対して対角に配された4画素の16画素対してキズ画素が影響を与える場合に用いられる7行7列補正用配列である。Crosstalkによる光は画素の対辺方向に進行する傾向にあるため、キズ画素の対角方向よりも上下左右の方向についてより広くキズ画素の影響を考慮している。
S403ではこれらの補正用配列からいずれか1つを選択するか、これらの補正用配列を重み付け加算することで1つの補正用配列を生成している。補正用回路は撮像環境や画像データを生成するセンサの温度測定結果、画像取得部及び処理装置に印加する電圧条件や駆動条件などに応じて選定してもよい。異なる画素レイアウトが混在する場合、画素レイアウトのパターンに応じて選定してもよい。また、補正の対象とする画素の画素アレイ内での配置箇所に応じて補正用配列を選択してもよい。具体的には、対象とする画素が画素アレイの端部にある場合では、Crosstalkが発生する周囲画素の数が少ないため、サイズの小さい配列データを用いてもよい。
2次元配列データである補正用配列の1行分あるいは1列分を1次元データとして取りだすと、この1次元データは中央にピーク値を有する。また、ピーク値であるデータの中心から、1次元データの両端であるデータ端に向けて単調変化する分布を有する。さらにデータのピーク値となるデータ中心を共有し、交差する方向に配列された行方向及び列方向の1次元データは、行方向及び列方向の両方でデータの中心からデータ端に向けて単調変化する分布を持つ。
なお、例えば隣り合う2画素(画素A、画素B)が共にピーク値を出力するとき、画素Aと画素Bとのそれぞれが各画素を中心としたデータ分布を有する補正用配列を有することとなる。このような配置では画素A、画素Bの双方に近接する画素において、ショットノイズや量子化誤差の影響で過度の補正処理がなされてしまう場合がある。しかし、図9のS406に示すように、過度の補正処理によって補正処理後の出力が負の値になる画素出力は0に置換されるため、この処理による画質の劣化はおこらない。なお、本実施例では画素出力を0に置換する例を示したが、キズ画素周辺の画素出力値の平均値や中央値、またはあらかじめ決められた非負の定数に置換してもよい。
また、1つのキズ画素の周囲が非キズ画素に囲まれている場合であっても、キズ画素の影響を受ける周囲の画素の出力がショットノイズによってばらつき、補正処理後の出力が確率的に負になることがある。このような場合も補正後の画素出力は0に置換されるため、過補正による画質の劣化を防ぐことができる。
上記では、補正用配列が、中央にピーク値を有する場合を中心に説明を行ったが、中央にボトム値を有する場合にも同様に、データの中心からデータ端に向けて単調変化する分布を有する。
補正用配列は、例えば画像取得部である画素領域12のうち光入射面側を遮光膜によって遮光されたOB領域(Optical Black領域)のキズ画素のパターンに基づいて生成されてもよい。また、取得した画像データ群を用いて機械学習やディープラーニング等に基づくパターン学習により生成してもよい。
(第2の実施形態)
第1の実施形態にかかる処理装置について図11及び図12を用いて説明する。主に第1の実施形態との差分について説明し、共通する説明は省略する。
第1の実施形態にかかる処理装置について図11及び図12を用いて説明する。主に第1の実施形態との差分について説明し、共通する説明は省略する。
図11に示すのは第1の実施可能に係る処理装置のブロック図である。
第2の実施形態に係る処理装置は、画像取得部301、読み出し部302、画像処理部303を有する。画像処理部303は、ゲイン調整部313、デモザイク部315を有する。また、補正部310は非線形補正部314を含む。
ゲイン調整部313は画像取得部と第1の記憶部との間に設けられ、画像取得部301で生成された画像データにデジタルゲインをかける。第2の記憶部306に格納された、Crosstalk確率に基づく補正用の配列データはしばしば小数値を有する。画像の出力が整数の場合、配列生成部で生成した配列が整数型だと量子化誤差により補正精度が低下する可能性がある。画像データにあらかじめゲインをかけることで、量子化誤差の影響を抑制し、補正精度を高めることができる。ここで、量子化誤差を1光子信号レベルの1/4倍以下に抑制できれば補正後画像が視覚的に自然になる。そのため、画像データにかけるデジタルゲインは例えば4倍以上であることが望ましい。
非線形補正部314は第1の記憶部304と演算部312との間に配され、画像データを補正する。画像取得部301がフォトンカウンティング型の検出器の場合、Dead timeの影響でしばしば光応答が非線形になる。発光Crosstalkは周囲画素の受ける光信号に重畳して信号レベルを高めるが、非線形性の光応答の影響を受けた場合、線形応答を前提とした補正を行うと過補正になることがある。そのため、演算部312での演算処理の前段で画像データに非線形性補正を行うことで過補正を防ぐことができる。非線形補正は例えばLookUpTableを用いて行われる。
デモザイク部315は演算部312の後段に設けられる。画像取得部301がカラー画像を取得可能な装置であった場合、画像所得部301で取得された信号に対し、隣接する画素の色情報を参照し補完するデモザイク処理を行う必要がある。Crosstalkは画素の色配列に関係なく起こるため、Crosstalkの補正はデモザイク処理前に実施することが望ましい。また、画像取得部301がカラー画像を取得可能な装置であった場合、キズ抽出部305は注目画素の出力と、注目画素と同色の近接画素の出力とを比較することでキズ判定を行うのが望ましい。
図12は第2の実施形態に係る処理装置の処理フロー図である。
S501で、画像取得部で取得した画像データから画素の選択を行う。
S502でキズ画素の判定を行う。ここでは選択した画素と周辺画素との出力値の差が閾値以上である場合に選択した画素をキズ画素と判定する。選択した画素がキズ画素でなければ再び画素の選択を行い、キズ画素が判定されるまでS501、S502を繰り返す。選択した画素と周辺画素との出力値の差が閾値以上であれば、選択した画素をキズ画素と判定し、S503で補正用配列データの選択を行う。
S504でN行M列の画素の推定キズ配列の生成を行う。
S505で推定キズ配列を減算用画像内のN行M列の領域に加算する。
S506で画像データから減算用画像を減算する。
S507で、S506の減算後に負の値になる出力を0に置換する。
S508で、S502でキズ画素と判定された画素をMedian補正し、処理を終了する。
キズ画素の周辺画素における偽信号レベルはクラスターキズ内では比較的低い場合が多いため、減算により精度よくキズ補正をすることが可能である。一方、クラスターキズの中心となるキズ画素は相対的に高出力のため、ショットノイズ等の影響で補正時に誤差が生じやすい。周辺画素を減算によって先に補正してから、補正後の周辺画素の出力に基づいてキズ画素の出力を補正することで、補正精度を高めることができる。
本実施形態では、キズ画素の周辺画素を減算によって補正した後に、キズ画素の出力を補正後の周辺画素出力の平均値または中央値に置換する補正を行うことにより画像全体としての補正精度を高めている。なお、減算用画像に対して、OB領域の出力に基づいたオフセット出力を加算する、または暗出力のシェーディングを考慮した出力分布を反映させることで暗電流成分のオフセット引きを行ってもよい。
本実施形態では選択した画素と周辺画素との出力値の差が閾値以上である場合に選択した画素をキズ画素と判定しているが、ここで周辺画素とは例えば選択した画素と隣り合う画素である。言い換えれば、第1の画素の出力値と、第1の画素と隣り合う第2の画素の出力値との出力差が一定の閾値以上である場合に、第1の画素または第2の画素をキズ画素と判定する。この場合、キズアドレスデータを保有せずにキズ補正を行うことができるため、記憶容量を削減し、システムの小型化が可能となる。
また、本実施形態ではキズを含む画像データから推定キズ配列データを直接減算するのではなく、キズを含む画像データから推定キズ配列データを加算して作成した減算用画像を減算することで補正を行っている。1画素ずつキズ補正をする場合、複数のキズ画素のCrosstalk影響を受ける画素は複数回の減算処理を受ける。補正処理の方法によっては減算処理のたびに量子化誤差がのり、キズ補正精度が低下する。本実施形態に示すように、減算用画像に補正用の推定キズ配列を順次加算していくことで、量子化誤差を抑制し、キズ補正の精度を高めることができる。キズ画素の周辺画素に対する補正は前述のように減算以外の除算や乗算による補正処理であってもよく、その場合も量子化誤差による補正精度の低下を防ぐことができる。
(第3の実施形態)
図13は第3の実施形態に係る処理装置の処理フロー図である。本実施形態では、撮像シーンによってキズ補正の実施の有無を切り替えることができる。
図13は第3の実施形態に係る処理装置の処理フロー図である。本実施形態では、撮像シーンによってキズ補正の実施の有無を切り替えることができる。
S601で、画像取得部で取得した画像データの信号レベルの平均値と閾値とを比較する。信号レベルの平均値が閾値以下でなければキズ補正処理は停止される(S609)。信号レベルの平均値が閾値以下でない、すなわち信号レベルが高いシーンにおいてはクラスターキズの裾部は目立ちにくく、通常のキズ補正アルゴリズムでも十分な補正が可能なためである。
信号レベルの平均値が閾値以下である場合、すなわち低照度環境においては、クラスターキズ補正を行うことが好ましい。この場合はS602で取得画像の画素の選択を行う。
S603でキズ画素の判定を行う。選択した画素と周辺画素との出力値の差が閾値以上であれば選択した画素をキズ画素と判定する。選択した画素と周辺画素との出力値の差が閾値以上でなければ再び画素の選択を行い、キズ画素が判定されるまでS602、S603の動作を繰り返す。取得した画素と周辺画素との出力値の比が閾値以上であれば、S604で補正用配列データの選択を行う。
S605でN行M列の画素の推定キズ配列の生成を行う。
S606で推定キズ配列を減算用画像内のN行M列の画素に対応する領域に加算する。S602~S606の動作を繰り返して減算用画像を作成してもよい。
S607で画像データから減算用画像を減算する。
S608で減算後に負の値になる出力を0に置換し、処理を終了する。
上記のフローにより、本実施形態ではクラスターキズの裾部が目立ちにくい高照度環境では通常のキズ補正を行い、クラスターキズが目立つ低照度環境においてはクラスターキズ補正を行う。このように撮像シーンによってキズ補正を実施するか否かを切り替えることで、キズ補正の高精度化と処理時間の短縮を両立することができる。
(第4の実施形態)
図14は第4の実施形態に係る処理装置の処理フロー図である。本実施形態では、複数フレームごとにキズ情報を更新することでより高精度なキズ補正を可能にする。
図14は第4の実施形態に係る処理装置の処理フロー図である。本実施形態では、複数フレームごとにキズ情報を更新することでより高精度なキズ補正を可能にする。
S701で、画像取得部で取得した、新規フレーム画像の取得を行う。
S702で、S701で取得した画像から保存済みの減算用画像を減算する。
S703で、減算後に負の値になる出力を0に置換し、後段に出力する。S703まででS701で取得した新規フレーム画像のクラスターキズ補正処理は完了する。以降の処理は、次のフレームの画像のクラスターキズ補正処理のための減算用画像の更新処理である。
S704で、S703の減算を行う前の画像データの画素の選択を行う。
S705でキズ画素の判定を行う。選択した画素の出力値が閾値以上であれば選択した画素をキズ画素と判定する。選択した画素の出力が閾値以上でなければ再び画素の選択を行い、キズ画素が判定されるまでS704、S705の動作を繰り返す。選択した画素の出力値が閾値以上であれば、S706で補正用配列データの選択を行う。
S707でN行M列の画素の推定キズ配列の生成を行う。
S708で推定キズ配列を減算用画像内のN行M列の画素に対応する領域に加算する。S704~S708の動作を繰り返して減算用画像を作成してもよい。
S709で減算用画像を保存する。
本実施形態によれば、例えば前フレームで取得したキズアドレスデータを次フレームで取得される画像データの補正に利用することで、補正処理の高速化が可能となる。また、複数フレームに1回キズアドレスの抽出を行い、得られたキズアドレスデータを次にキズアドレスの抽出を行うまでの各フレームで得られた画像データの補正に利用することによっても、補正処理の高速化が可能となる。
言い換えれば、第1のフレームにおける画像データから抽出されたキズ画素のアドレスデータまたは出力値に基づいて、第1のフレームよりも後に取得された第2のフレームにおける画像データの補正を行うことができる。
(第5の実施形態)
図15から図17までを用いて第5の実施形態について説明する。
図15から図17までを用いて第5の実施形態について説明する。
本実施形態では、クラスターキズの生じた画像(図15(a))について、事前に取得された補正用配列による除算を行う(図15(b))。除算とは例えば逆畳み込み演算である。得られた演算後画素に対し、キズ補正を行う(図15(d))。
図7では、クラスターキズの生じた画像からキズ画素を抽出した後に、抽出したキズ画素に対して補正用配列を乗算し、推定キズ分布を取得し、推定キズ分布に基づいてクラスターキズの生じた画像を補正する。これに対して、図15に示す本実施形態では、キズ画素を抽出せずに、キズ画素を含む複数の画素に対して、補正用配列による除算を行う。このような演算を行うことにより、クラスターキズを生じさせていたキズ画素を効率よく抽出することができる。本実施形態は、図7を用いて説明した実施形態と比較して、演算工程が少ないため、より高速化した高精度なキズ補正を行うことができる。さらに、本実施形態においては、複数のキズが近接しキズの裾部が重なりあっている場合でも精度よくキズ補正を行うことができる。
演算後画像に対して行うキズ補正は、キズ画素の出力値を周囲の画素の出力値の平均値で置き換えるキズ補正である。例えば、図6を用いて説明したキズ補正の手法である。また、補正用配列とは1つのキズ画素が周辺の画素に与える影響をCrosstalk確率の行列(Crosstalk行列)として示したものである。
図16に第5の実施形態に係る処理装置のブロック図を示す。
第5の実施形態に係る処理装置は、画像取得部301、読み出し部302、画像処理部303を有する。画像処理部303は、第1の記憶部304、第2の記憶部306、補正部310を有し、補正部310は演算部312及びキズ補正部320を含む。
画像取得部301は例えば図2に示す画素領域12の画素101であり、読み出し部302は例えば図3の信号処理部103である。画像取得部で生成された画像データは第1の記憶部304に入力される。
第1の記憶部304は前段で生成された画像データの少なくとも一部を第1の配列データとして保持する記憶部である。具体的にはSRAMなどのメモリを記憶部として第1の配列データは格納される。
第2の記憶部306は補正用の第2の配列データを記憶している。補正用の第2の配列データとはすなわちCrosstalk行列である。第2の記憶部306は複数の種類の補正用配列データを有していてもよい。
演算部312は第1の記憶部304に保持された第1の配列データに対して第2の記憶部306に保持された第2の配列データに基づく演算を行い、第4の配列データとして演算後画像を得る。演算部312は第2の記憶部に記憶されたCrosstalk行列の逆畳み込み演算をしてもよいし、第2の記憶部に記憶されたCrosstalk行列の逆変換に対応する行列(point spread function)の畳み込み演算を行ってもよい。演算部312における演算によって画像データ内のクラスターキズを点キズに近しい状態に補正することができる。
キズ補正部320は演算部312で得られた補正後画像に対してキズ補正処理を行う補正処理部である。キズ補正部320はキズ画素の抽出を行うキズ抽出部としての機能を有し、抽出したキズ画素の出力に対してキズ補正処理を行う。
図17に第5の実施形態に係る処理装置のフロー図を示す。
S801で、補正用配列データの選択を行う。
S802で、画像データに対してS801で選択した補正用配列データの逆畳み込み演算を行う。
S803で、S802における逆畳み込み演算後の画像のキズ抽出を行う。キズ抽出とは画像内のキズ画素の位置情報や出力値を特定することをいう。
S804で、逆畳み込み演算後の画像に対してキズ補正を行う。例えば、S803で抽出したキズ画素の出力値を周囲の画素の出力値の平均値で置き換える。
本実施形態に係る処理装置によれば、点キズに対するキズ補正アルゴリズムを用いたクラスターキズの補正が可能となる。
(第6の実施形態)
図18及び図19を用いて第6の実施形態について説明する。主に第5の実施形態との差分について説明し、共通する説明は省略する。
図18及び図19を用いて第6の実施形態について説明する。主に第5の実施形態との差分について説明し、共通する説明は省略する。
図18に示すのは第6の実施可能に係る処理装置のブロック図である。
第6の実施形態に係る処理装置は、画像取得部301、読み出し部302、画像処理部303を有する。補正部310は、第1の演算部312A、第2の演算部312B、キズ補正部320を有する。
キズ補正部320は第1の演算部312Aと第2の演算部312Bとの間に設けられている。本実施形態では、画像データに対してCrosstalk行列の畳み込み演算と、逆畳み込み演算との両方を行うことが特徴である。
図19に第6の実施形態に係る処理装置のフロー図を示す。
S901で、補正用配列データの選択を行う。
S902で、画像データに対してS901で選択した補正用配列データの逆畳み込み演算を行う。
S903で、逆畳み込み演算後の画像からキズ抽出を行う。
S904で、S903でキズ抽出を行った逆畳み込み演算後の画像に対してキズ補正を行う。
S905で、キズ補正後の画像に対して補正用配列データの畳み込み演算を行う。
第5の実施例においては、Crosstalk行列の逆畳み込み演算によって補正対象となるキズ画素以外の領域のランダムノイズが強調され、画質が低下する場合がある。本実施形態によれば、キズ補正後の画像データにCrosstalk行列を畳み込むことで、画質の低下を補償することができるため、キズ補正精度の向上と、信号処理起因の画質低下の抑制を両立できる。なお、第5の実施形態と同様に、第2の記憶部はCrosstalk行列を記憶していてもよく、Crosstalk行列の逆変換に対応する行列を記憶していてもよい。
(第7の実施形態)
図20から図22までを用いて第7の実施形態について説明する。第1~第6の実施形態と共通する説明は省略する。
図20から図22までを用いて第7の実施形態について説明する。第1~第6の実施形態と共通する説明は省略する。
本実施形態では、クラスターキズの生じた画像(図20(a))について、非線形性補正を行う(図20(b))ことと並行して、前記画像に対して補正用配列を乗算し(図20(c))、Crosstalkにより生じた出力の推定分布を取得する。さらに、前記非線形補正後の画像から推定分布画像を減算した後に、点キズ補正処理を実施することで、クラスターキズの補正を行う。
クロックリチャージ型に代表されるアクティブリチャージ型の駆動回路を有するAPDに本願発明を適用する場合、パイルアップ現象によって、入射光子数に対してカウント数が低下し、光電変換の応答特性が非線形性を示す場合がある。
非線形応答関数を
で表すと、カウント数をNct、入射光子数をNphとしたとき、Nct=f(Nph)となる。このとき、Crosstalkによる発光量は、入射光子数Nphではなく、カウント数Nctに比例する。一方、Crosstalkを受ける画素に入射する総光子数Nct’は、Crosstalkに起因する偽信号をNc、信号光子数をNsとしたとき、Nc+Nsとなる。すなわち、Nct’=f(Nc+Ns)となる。したがって、Crosstalkにより発生する偽信号光子の分布を推定するにあたり、非線形補正後のカウント数に基づいて推定を行うと実際の偽信号光子の分布との誤差が増大してしまう可能性がある。
以上を考慮すると、Crosstalkにより発生する偽信号光子の分布は、非線形補正を行う前のカウント数に基づいて推定することが適切である。得られた分布を非線形補正後の画像データから減算することで、非線形性の影響が生ずる高出力画素を有するシーンにおいても、クラスターキズの補正誤差を抑制できる。
本実施形態においては、補正用配列の中心の値をゼロと設定することで、クラスターキズの中心画素から周囲の画素に対して発生しているCrosstalkの影響のみを減算し、中心画素出力の過補正を抑制することができる。さらに、非線形補正後の画像からCrosstalkによる推定出力分布を減算することで、クラスターキズが近接している場合や撮影している被写体に対応する信号光量が高い場合でも、精度よく補正することができる。
図21に第7の実施形態に係る処理装置のブロック図を示す。
第7の実施形態に係る処理装置は、画像取得部301、読み出し部302、画像処理部303を有する。画像処理部303は、ゲイン調整部313、第1の記憶部304、第2の記憶部306、補正部310、デモザイク部315を有し、補正部310は非線形補正部314、演算部312、配列生成部311及びキズ補正部320を含む。
画像取得部301は例えば図2に示す画素領域12の画素101であり、読み出し部302は例えば図3の信号処理部103である。画像取得部で生成された画像データは第1の記憶部304に入力される。
第1の記憶部304は前段で生成された画像データの少なくとも一部をゲイン調整部313でゲイン調整したデータを、第1の配列データとして保持する記憶部である。具体的にはSRAMなどのメモリを記憶部として第1の配列データは格納される。
第2の記憶部306は補正用の第2の配列データを記憶している。補正用の第2の配列データとはすなわちCrosstalk行列である。第2の記憶部306は複数の種類の補正用配列データを有していてもよい。
非線形補正部314は第1の記憶部304と演算部312との間に配され、画像データを補正する。配列生成部311は、第1の記憶部304に保持された第1の配列データとだ第二の記憶部306に保持された第2の配列データに基づく演算を行い、第3の配列データを生成する。例えば、畳み込み演算等を行う。演算部312は非線形補正部314で補正された配列データから、配列生成部311で生成された第3の配列データを減算する。
キズ補正部320は演算部312で得られた補正後画像に対してキズ補正処理を行う補正処理部である。キズ補正部320はキズ画素の抽出を行うキズ抽出部としての機能を有し、抽出したキズ画素の出力に対してキズ補正処理を行う。
デモザイク部315は演算部312の後段に設けられ、前記のキズ補正後の配列データに対してデモザイク処理を行う。
図22に第7の実施形態に係る処理装置のフロー図を示す。
S1001で、補正用配列データの選択を行う。
S1002で、取得した画像の非線形性補正を行う。
S1003で、所得した画像と補正用配列データの畳み込み演算を行う。
S1004で、非線形補正後画像から畳み込み後画像を減算する。
S1005で、減算後画像に対してキズ補正処理を行う。
本実施形態に係る処理装置によれば、非線形性の影響を低減しながら、点キズに対するキズ補正アルゴリズムを用いたクラスターキズの補正をすることが可能となる。
(第8の実施形態)
本実施形態による光電変換システムについて、図23を用いて説明する。図23は、本実施形態による光電変換システムの概略構成を示すブロック図である。
本実施形態による光電変換システムについて、図23を用いて説明する。図23は、本実施形態による光電変換システムの概略構成を示すブロック図である。
上記第1~第7の実施形態で述べた処理装置は、種々の光電変換システムに適用可能である。適用可能な光電変換システムの例としては、デジタルスチルカメラ、デジタルカムコーダ、監視カメラ、複写機、ファックス、携帯電話、車載カメラ、観測衛星などが挙げられる。また、レンズなどの光学系と撮像装置とを備えるカメラモジュールも、上記光電変換システムに含まれる。図23には、これらのうちの一例として、デジタルスチルカメラのブロック図を例示している。
図23に例示した光電変換システムは、光電変換装置の一例である撮像装置1004、被写体の光学像を撮像装置1004に結像させるレンズ1002を備える。さらに、レンズ1002を通過する光量を可変にするための絞り1003、レンズ1002の保護のためのバリア1001を有する。レンズ1002及び絞り1003は、撮像装置1004に光を集光する光学系である。撮像装置1004は、上記のいずれかの実施形態の光電変換装置であって、レンズ1002により結像された光学像を電気信号に変換する。
光電変換システムは、また、撮像装置1004より出力される出力信号の処理を行うことで画像を生成する画像生成部である信号処理部1007を有する。信号処理部1007は、必要に応じて各種の補正、圧縮を行って画像データを出力する動作を行う。第1~第4の実施形態にかかる処理装置は信号処理部1007の一部として構成されてもよい。信号処理部1007は、撮像装置1004が設けられた半導体基板に形成されていてもよいし、撮像装置1004とは別の半導体基板に形成されていてもよい。
光電変換システムは、更に、画像データを一時的に記憶するためのメモリ部1010、外部コンピュータ等と通信するための外部インターフェース部(外部I/F部)1013を有する。更に光電変換システムは、撮像データの記録又は読み出しを行うための半導体メモリ等の記録媒体1012、記録媒体1012に記録又は読み出しを行うための記録媒体制御インターフェース部(記録媒体制御I/F部)1011を有する。なお、記録媒体1012は、光電変換システムに内蔵されていてもよく、着脱可能であってもよい。
更に光電変換システムは、各種演算とデジタルスチルカメラ全体を制御する全体制御・演算部1009、撮像装置1004と信号処理部1007に各種タイミング信号を出力するタイミング発生部1008を有する。ここで、タイミング信号などは外部から入力されてもよく、光電変換システムは少なくとも撮像装置1004と、撮像装置1004から出力された出力信号を処理する信号処理部1007とを有すればよい。
撮像装置1004は、撮像信号を信号処理部1007に出力する。信号処理部1007は、撮像装置1004から出力される撮像信号に対して所定の信号処理を実施し、画像データを出力する。信号処理部1007は、撮像信号を用いて、画像を生成する。
このように、本実施形態によれば、上記のいずれかの実施形態の処理装置を適用した光電変換システムを実現することができる。
(第9の実施形態)
本実施形態の光電変換システム及び移動体について、図24を用いて説明する。図24は、本実施形態の光電変換システム及び移動体の構成を示す図である。
本実施形態の光電変換システム及び移動体について、図24を用いて説明する。図24は、本実施形態の光電変換システム及び移動体の構成を示す図である。
図24(a)は、車載カメラに関する光電変換システムの一例を示したものである。光電変換システム2300は、撮像装置2310を有する。撮像装置2310は、上記のいずれかの実施形態に記載の光電変換装置である。光電変換システム2300は撮像装置2310により取得された複数の画像データに対し画像処理を行う画像処理部2312と、光電変換システム2300により取得された複数の画像データから視差(視差画像の位相差)の算出を行う視差取得部2314を有する。第1~第4の実施形態にかかる処理装置は画像処理部2312の一部として構成されてもよい。また、光電変換システム2300は、算出された視差に基づいて対象物までの距離を算出する距離取得部2316と、算出された距離に基づいて衝突可能性があるか否かを判定する衝突判定部2318と、を有する。ここで、視差取得部2314や距離取得部2316は、対象物までの距離情報を取得する距離情報取得手段の一例である。すなわち、距離情報とは、視差、デフォーカス量、対象物までの距離等に関する情報である。衝突判定部2318はこれらの距離情報のいずれかを用いて、衝突可能性を判定してもよい。距離情報取得手段は、専用に設計されたハードウェアによって実現されてもよいし、ソフトウェアモジュールによって実現されてもよい。また、FPGA(Field Programmable Gate Array)やASIC(Application Specific Integrated Circuit)等によって実現されてもよいし、これらの組合せによって実現されてもよい。
光電変換システム2300は車両情報取得装置2320と接続されており、車速、ヨーレート、舵角などの車両情報を取得することができる。また、光電変換システム2300は、衝突判定部2318での判定結果に基づいて、車両に対して制動力を発生させる制御信号を出力する制御部である制御ECU2330が接続されている。また、光電変換システム2300は、衝突判定部2318での判定結果に基づいて、ドライバーへ警報を発する警報装置2340とも接続されている。例えば、衝突判定部2318の判定結果として衝突可能性が高い場合、制御ECU2330はブレーキをかける、アクセルを戻す、エンジン出力を抑制するなどして衝突を回避、被害を軽減する車両制御を行う。警報装置2340は音等の警報を鳴らす、カーナビゲーションシステムなどの画面に警報情報を表示する、シートベルトやステアリングに振動を与えるなどしてユーザーに警告を行う。
本実施形態では、車両の周囲、例えば前方又は後方を光電変換システム2300で撮像する。図24(b)に、車両前方(撮像範囲2350)を撮像する場合の光電変換システムを示した。光電変換このような構成により、測距の精度をより向上させることができる。
上記では、他の車両と衝突しないように制御する例を説明したが、他の車両に追従して自動運転する制御や、車線からはみ出さないように自動運転する制御などにも適用可能である。更に、光電変換システムは、自動車等の車両に限らず、例えば、船舶、航空機あるいは産業用ロボットなどの移動体(移動装置)に適用することができる。加えて、移動体に限らず、高度道路交通システム(ITS)等、広く物体認識を利用する機器に適用することができる。
(第10の実施形態)
本実施形態の光電変換システムについて、図25を用いて説明する。図25は、本実施形態の光電変換システムである距離画像センサの構成例を示すブロック図である。
本実施形態の光電変換システムについて、図25を用いて説明する。図25は、本実施形態の光電変換システムである距離画像センサの構成例を示すブロック図である。
図25に示すように、距離画像センサ401は、光学系407、光電変換装置408、画像処理回路404、モニタ405、およびメモリ406を備えて構成される。そして、距離画像センサ401は、光源装置409から被写体に向かって投光され、被写体の表面で反射された光(変調光やパルス光)を受光することにより、被写体までの距離に応じた距離画像を取得することができる。
光学系407は、1枚または複数枚のレンズを有して構成され、被写体からの像光(入射光)を光電変換装置408に導き、光電変換装置408の受光面(センサ部)に結像させる。
光電変換装置408としては、上述した各実施形態の光電変換装置が適用され、光電変換装置408から出力される受光信号から求められる距離を示す距離信号が画像処理回路404に供給される。
画像処理回路404は、光電変換装置408から供給された距離信号に基づいて距離画像を構築する画像処理を行う。そして、その画像処理により得られた距離画像(画像データ)は、モニタ405に供給されて表示されたり、メモリ406に供給されて記憶(記録)されたりする。第1~第4の実施形態にかかる処理装置は画像処理回路404の一部として構成されてもよい。
このように構成されている距離画像センサ401では、上述した光電変換装置を適用することで、画素の特性向上に伴って、例えば、より正確な距離画像を取得することができる。
(第11の実施形態)
本実施形態の光電変換システムについて、図26を用いて説明する。図26は、本実施形態の光電変換システムである内視鏡手術システムの概略的な構成の一例を示す図である。
本実施形態の光電変換システムについて、図26を用いて説明する。図26は、本実施形態の光電変換システムである内視鏡手術システムの概略的な構成の一例を示す図である。
図26では、術者(医師)1131が、内視鏡手術システム1150を用いて、患者ベッド1133上の患者1132に手術を行っている様子が図示されている。図示するように、内視鏡手術システム1150は、内視鏡1100と、術具1110と、内視鏡下手術のための各種の装置が搭載されたカート1134と、から構成される。
内視鏡1100は、先端から所定の長さの領域が患者1132の体腔内に挿入される鏡筒1101と、鏡筒1101の基端に接続されるカメラヘッド1102と、から構成される。図示する例では、硬性の鏡筒1101を有するいわゆる硬性鏡として構成される内視鏡1100を図示しているが、内視鏡1100は、軟性の鏡筒を有するいわゆる軟性鏡として構成されてもよい。
鏡筒1101の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡1100には光源装置1203が接続されており、光源装置1203によって生成された光が、鏡筒1101の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者1132の体腔内の観察対象に向かって照射される。なお、内視鏡1100は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド1102の内部には光学系及び光電変換装置が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該光電変換装置に集光される。当該光電変換装置によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該光電変換装置としては、前述の各実施形態に記載の光電変換装置を用いることができる。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU: Camera Control Unit)1135に送信される。
CCU1135は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡1100及び表示装置1136の動作を統括的に制御する。さらに、CCU1135は、カメラヘッド1102から画像信号を受け取り、その画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。
表示装置1136は、CCU1135からの制御により、当該CCU1135によって画像処理が施された画像信号に基づく画像を表示する。
光源装置1203は、例えばLED(Light Emitting Diode)等の光源から構成され、術部等を撮影する際の照射光を内視鏡1100に供給する。
入力装置1137は、内視鏡手術システム1150に対する入力インターフェースである。ユーザーは、入力装置1137を介して、内視鏡手術システム1150に対して各種の情報の入力や指示入力を行うことができる。
処置具制御装置1138は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具1112の駆動を制御する。
内視鏡1100に術部を撮影する際の照射光を供給する光源装置1203は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成することができる。RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置1203において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド1102の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置1203は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド1102の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置1203は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用する。具体的には、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察すること、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得ること等を行うことができる。光源装置1203は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
(第12の実施形態)
本実施形態の光電変換システムについて、図27(a)、(b)を用いて説明する。図27(a)は、本実施形態の光電変換システムである眼鏡1600(スマートグラス)を説明する。眼鏡1600には、光電変換装置1602を有する。光電変換装置1602は、上記の各実施形態に記載の光電変換装置である。また、レンズ1601の裏面側には、OLEDやLED等の発光装置を含む表示装置が設けられていてもよい。光電変換装置1602は1つでもよいし、複数でもよい。また、複数種類の光電変換装置を組み合わせて用いてもよい。光電変換装置1602の配置位置は図27(a)に限定されない。
本実施形態の光電変換システムについて、図27(a)、(b)を用いて説明する。図27(a)は、本実施形態の光電変換システムである眼鏡1600(スマートグラス)を説明する。眼鏡1600には、光電変換装置1602を有する。光電変換装置1602は、上記の各実施形態に記載の光電変換装置である。また、レンズ1601の裏面側には、OLEDやLED等の発光装置を含む表示装置が設けられていてもよい。光電変換装置1602は1つでもよいし、複数でもよい。また、複数種類の光電変換装置を組み合わせて用いてもよい。光電変換装置1602の配置位置は図27(a)に限定されない。
眼鏡1600は、制御装置1603をさらに備える。制御装置1603は、光電変換装置1602と上記の表示装置に電力を供給する電源として機能する。また、制御装置1603は、光電変換装置1602と表示装置の動作を制御する。レンズ1601には、光電変換装置1602に光を集光するための光学系が形成されている。
図27(b)は、1つの適用例に係る眼鏡1610(スマートグラス)を説明する。眼鏡1610は、制御装置1612を有しており、制御装置1612に、光電変換装置1602に相当する光電変換装置と、表示装置が搭載される。レンズ1611には、制御装置1612内の光電変換装置と、表示装置からの発光を投影するための光学系が形成されており、レンズ1611には画像が投影される。制御装置1612は、光電変換装置および表示装置に電力を供給する電源として機能するとともに、光電変換装置および表示装置の動作を制御する。制御装置は、装着者の視線を検知する視線検知部を有してもよい。視線の検知は赤外線を用いてよい。赤外発光部は、表示画像を注視しているユーザーの眼球に対して、赤外光を発する。発せられた赤外光の眼球からの反射光を、受光素子を有する撮像部が検出することで眼球の撮像画像が得られる。平面視における赤外発光部から表示部への光を低減する低減手段を有することで、画像品位の低下を低減する。
赤外光の撮像により得られた眼球の撮像画像から表示画像に対するユーザーの視線を検出する。眼球の撮像画像を用いた視線検出には任意の公知の手法が適用できる。一例として、角膜での照射光の反射によるプルキニエ像に基づく視線検出方法を用いることができる。
より具体的には、瞳孔角膜反射法に基づく視線検出処理が行われる。瞳孔角膜反射法を用いて、眼球の撮像画像に含まれる瞳孔の像とプルキニエ像とに基づいて、眼球の向き(回転角度)を表す視線ベクトルが算出されることにより、ユーザーの視線が検出される。
本実施形態の表示装置は、受光素子を有する光電変換装置を有し、光電変換装置からのユーザーの視線情報に基づいて表示装置の表示画像を制御してよい。
具体的には、表示装置は、視線情報に基づいて、ユーザーが注視する第1の視界領域と、第1の視界領域以外の第2の視界領域とを決定される。第1の視界領域、第2の視界領域は、表示装置の制御装置が決定してもよいし、外部の制御装置が決定したものを受信してもよい。表示装置の表示領域において、第1の視界領域の表示解像度を第2の視界領域の表示解像度よりも高く制御してよい。つまり、第2の視界領域の解像度を第1の視界領域よりも低くしてよい。
また、表示領域は、第1の表示領域、第1の表示領域とは異なる第2の表示領域とを有し、視線情報に基づいて、第1の表示領域および第2の表示領域から優先度が高い領域を決定されてよい。第1の視界領域、第2の視界領域は、表示装置の制御装置が決定してもよいし、外部の制御装置が決定したものを受信してもよい。優先度の高い領域の解像度を、優先度が高い領域以外の領域の解像度よりも高く制御してよい。つまり優先度が相対的に低い領域の解像度を低くしてよい。
なお、第1の視界領域や優先度が高い領域の決定には、AIを用いてもよい。AIは、眼球の画像と当該画像の眼球が実際に視ていた方向とを教師データとして、眼球の画像から視線の角度、視線の先の目的物までの距離を推定するよう構成されたモデルであってよい。AIプログラムは、表示装置が有しても、光電変換装置が有しても、外部装置が有してもよい。外部装置が有する場合は、通信を介して、表示装置に伝えられる。
視認検知に基づいて表示制御する場合、外部を撮像する光電変換装置を更に有するスマートグラスに好ましく適用できる。スマートグラスは、撮像した外部情報をリアルタイムで表示することができる。
[変形実施形態]
本発明は、上記実施形態に限らず種々の変形が可能である。
本発明は、上記実施形態に限らず種々の変形が可能である。
例えば、いずれかの実施形態の一部の構成を他の実施形態に追加した例や、他の実施形態の一部の構成と置換した例も、本発明の実施形態に含まれる。
また、上記第8の実施形態、第9の実施形態に示した光電変換システムは、光電変換装置を適用しうる光電変換システム例を示したものであって、本発明の光電変換装置を適用可能な光電変換システムは図23乃至図24に示した構成に限定されるものではない。第10の実施形態に示したToFシステム、第11の実施形態に示した内視鏡、第12の実施形態に示したスマートグラスについても同様である。
なお、上記実施形態は、いずれも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
なお、本開示は以下の構成を備える。
(構成1)
処理装置であって、アレイ状に配された複数の画素の出力値に基づく第1の配列データを記憶する第1の記憶部と、前記複数の画素からの前記出力値の補正に用いる第2の配列データを記憶する第2の記憶部と、を有する。さらに前記第1の配列データと前記第2の配列データとに基づいて前記複数の画素の少なくとも1つの画素の出力値を補正する演算部を含む補正部と、を有する処理装置。
処理装置であって、アレイ状に配された複数の画素の出力値に基づく第1の配列データを記憶する第1の記憶部と、前記複数の画素からの前記出力値の補正に用いる第2の配列データを記憶する第2の記憶部と、を有する。さらに前記第1の配列データと前記第2の配列データとに基づいて前記複数の画素の少なくとも1つの画素の出力値を補正する演算部を含む補正部と、を有する処理装置。
(構成2)
前記第1の配列データからキズ画素を抽出するキズ抽出部と、前記第2の配列データと前記キズ画素の前記出力値とに基づいて第3の配列データを生成する配列生成部と、を含む。さらに前記補正部は前記第1の配列データと前記第3の配列データとに基づいて前記キズ画素の周辺に設けられた周辺画素の出力値を補正することを特徴とする構成1に記載の処理装置。
前記第1の配列データからキズ画素を抽出するキズ抽出部と、前記第2の配列データと前記キズ画素の前記出力値とに基づいて第3の配列データを生成する配列生成部と、を含む。さらに前記補正部は前記第1の配列データと前記第3の配列データとに基づいて前記キズ画素の周辺に設けられた周辺画素の出力値を補正することを特徴とする構成1に記載の処理装置。
(構成3)
前記補正部はキズ抽出部を含むキズ補正部を有し、前記キズ補正部は前記演算部における補正によって生成された第4の配列データからキズ画素を補正することを特徴とする構成1に記載の処理装置。
前記補正部はキズ抽出部を含むキズ補正部を有し、前記キズ補正部は前記演算部における補正によって生成された第4の配列データからキズ画素を補正することを特徴とする構成1に記載の処理装置。
(構成4)
前記第2の配列データは少なくとも3つのデータを含み、
前記第2の配列データの少なくとも1行分または1列分に対応する1次元データは、中央にピーク値またはボトム値を有することを特徴とする構成2または3に記載の処理装置。
前記第2の配列データは少なくとも3つのデータを含み、
前記第2の配列データの少なくとも1行分または1列分に対応する1次元データは、中央にピーク値またはボトム値を有することを特徴とする構成2または3に記載の処理装置。
(構成5)
前記1次元データは、前記ピーク値または前記ボトム値からデータ端に向けて単調変化する分布を持つことを特徴とする構成4に記載の処理装置。
前記1次元データは、前記ピーク値または前記ボトム値からデータ端に向けて単調変化する分布を持つことを特徴とする構成4に記載の処理装置。
(構成6)
前記1次元データの前記ピーク値または前記ボトム値を共有し、前記1次元データに交差する方向に配列された他の1次元データは、ピーク値またはボトム値からデータ端に向けて単調変化する分布を持つことを特徴とする構成4または5に記載の処理装置。
前記1次元データの前記ピーク値または前記ボトム値を共有し、前記1次元データに交差する方向に配列された他の1次元データは、ピーク値またはボトム値からデータ端に向けて単調変化する分布を持つことを特徴とする構成4または5に記載の処理装置。
(構成7)
前記第1の配列データはN行M列(NおよびMの一方は2以上の整数、他方は1以上の整数)のデータを構成することを特徴とする構成2乃至6のいずれか一項に記載の処理装置。
前記第1の配列データはN行M列(NおよびMの一方は2以上の整数、他方は1以上の整数)のデータを構成することを特徴とする構成2乃至6のいずれか一項に記載の処理装置。
(構成8)
前記第2の記憶部は、複数種類の前記第2の配列データを記憶し、撮影が行われる環境に応じて前記配列生成部で使用する前記第2の配列データの種類を選択することを特徴とする構成2に記載の処理装置。
前記第2の記憶部は、複数種類の前記第2の配列データを記憶し、撮影が行われる環境に応じて前記配列生成部で使用する前記第2の配列データの種類を選択することを特徴とする構成2に記載の処理装置。
(構成9)
前記第3の配列データは、前記第2の配列データと、前記キズ画素の出力値に基づいて生成された第5の配列データと、の乗算によって生成されることを特徴とする構成2に記載の処理装置。
前記第3の配列データは、前記第2の配列データと、前記キズ画素の出力値に基づいて生成された第5の配列データと、の乗算によって生成されることを特徴とする構成2に記載の処理装置。
(構成10)
前記第4の配列データは、前記第1の配列データと、前記第2の配列データと、の除算によって生成されることを特徴とする構成3に記載の処理装置。
前記第4の配列データは、前記第1の配列データと、前記第2の配列データと、の除算によって生成されることを特徴とする構成3に記載の処理装置。
(構成11)
前記キズ抽出部は、あらかじめ取得された前記キズ画素のアドレスデータをもとにキズ画素を抽出することを特徴とする構成2乃至10のいずれか一項に記載の処理装置。
前記キズ抽出部は、あらかじめ取得された前記キズ画素のアドレスデータをもとにキズ画素を抽出することを特徴とする構成2乃至10のいずれか一項に記載の処理装置。
(構成12)
前記キズ抽出部は、第1の画素の出力値と、前記第1の画素と隣り合う第2の画素の出力値との差が一定の閾値以上である場合に、前記第1の画素または前記第2の画素をキズ画素と判定することを特徴とする構成2乃至11のいずれか一項に記載の処理装置。
前記キズ抽出部は、第1の画素の出力値と、前記第1の画素と隣り合う第2の画素の出力値との差が一定の閾値以上である場合に、前記第1の画素または前記第2の画素をキズ画素と判定することを特徴とする構成2乃至11のいずれか一項に記載の処理装置。
(構成13)
前記キズ抽出部は、第1の画素の出力値と、前記第1の画素と隣り合う第2の画素の出力値との比が一定の閾値以上である場合に、前記第1の画素または前記第2の画素をキズ画素と判定することを特徴とする構成2乃至12のいずれか一項に記載の処理装置。
前記キズ抽出部は、第1の画素の出力値と、前記第1の画素と隣り合う第2の画素の出力値との比が一定の閾値以上である場合に、前記第1の画素または前記第2の画素をキズ画素と判定することを特徴とする構成2乃至12のいずれか一項に記載の処理装置。
(構成14)
前記キズ抽出部は、前記出力値が一定の閾値以上である画素をキズ画素と判定することを特徴とする構成2乃至13のいずれか一項に記載の処理装置。
前記キズ抽出部は、前記出力値が一定の閾値以上である画素をキズ画素と判定することを特徴とする構成2乃至13のいずれか一項に記載の処理装置。
(構成15)
前記第1の記憶部の前段に、前記複数の画素の前記出力値にデジタルゲインをかけるゲイン調整部を有することを特徴とする構成2乃至14のいずれか一項に記載の処理装置。
前記第1の記憶部の前段に、前記複数の画素の前記出力値にデジタルゲインをかけるゲイン調整部を有することを特徴とする構成2乃至14のいずれか一項に記載の処理装置。
(構成16)
前記補正部は、前記第1の配列データの非線形性補正を行う非線形補正部を有することを特徴とする構成2乃至15のいずれか一項に記載の処理装置。
前記補正部は、前記第1の配列データの非線形性補正を行う非線形補正部を有することを特徴とする構成2乃至15のいずれか一項に記載の処理装置。
(構成17)
前記演算部は、前記非線形性補正を行う前の第1の配列データと前記第2の配列データとに基づいて補正用配列データを生成する。前記非線形性補正を行った後の第1の配列データと前記補正用配列データとに基づいて前記複数の画素の少なくとも1つの画素の出力値を補正することを特徴とする構成16に記載の処理装置。
前記演算部は、前記非線形性補正を行う前の第1の配列データと前記第2の配列データとに基づいて補正用配列データを生成する。前記非線形性補正を行った後の第1の配列データと前記補正用配列データとに基づいて前記複数の画素の少なくとも1つの画素の出力値を補正することを特徴とする構成16に記載の処理装置。
(構成18)
前記第2の配列データは少なくとも3つのデータを含み、前記第2の配列データの少なくとも1行分または1列分に対応する1次元データの中央の値はゼロであることを特徴とする構成17に記載の処理装置。
前記第2の配列データは少なくとも3つのデータを含み、前記第2の配列データの少なくとも1行分または1列分に対応する1次元データの中央の値はゼロであることを特徴とする構成17に記載の処理装置。
(構成19)
前記補正部は、前記演算部の後段に、デモザイク部を有することを特徴とする構成2乃至18のいずれか一項に記載の処理装置。
前記補正部は、前記演算部の後段に、デモザイク部を有することを特徴とする構成2乃至18のいずれか一項に記載の処理装置。
(構成20)
第1のフレームにおける前記複数の画素の前記出力値から抽出された前記キズ画素のアドレスデータまたは前記キズ画素の出力値に基づいて、
前記第1のフレームよりも後に取得された第2のフレームにおける前記複数の画素の出力値の補正を行うことを特徴とする構成2乃至19のいずれか一項に記載の処理装置。
第1のフレームにおける前記複数の画素の前記出力値から抽出された前記キズ画素のアドレスデータまたは前記キズ画素の出力値に基づいて、
前記第1のフレームよりも後に取得された第2のフレームにおける前記複数の画素の出力値の補正を行うことを特徴とする構成2乃至19のいずれか一項に記載の処理装置。
(構成21)
被写体の信号レベルまたは前記複数の画素の温度に応じて、前記演算部で前記補正を実施するか否かを選択することを特徴とする構成2乃至20のいずれか一項に記載の処理装置。
被写体の信号レベルまたは前記複数の画素の温度に応じて、前記演算部で前記補正を実施するか否かを選択することを特徴とする構成2乃至20のいずれか一項に記載の処理装置。
(構成22)
前記第2の配列データは、前記複数の画素のOB領域のキズ画素のパターンに基づいて生成されることを特徴とする構成2乃至21のいずれか一項に記載の処理装置。
前記第2の配列データは、前記複数の画素のOB領域のキズ画素のパターンに基づいて生成されることを特徴とする構成2乃至21のいずれか一項に記載の処理装置。
(構成23)
前記演算部で前記周辺画素の出力値を補正した後に、
補正後の前記周辺画素の出力値に基づいて、前記キズ画素の出力値を補正することを特徴とする構成2に記載の処理装置。
前記演算部で前記周辺画素の出力値を補正した後に、
補正後の前記周辺画素の出力値に基づいて、前記キズ画素の出力値を補正することを特徴とする構成2に記載の処理装置。
(構成24)
前記キズ抽出部は、パターンマッチングによりキズ画素を抽出することを特徴とする構成2乃至23のいずれか一項に記載の処理装置。
前記キズ抽出部は、パターンマッチングによりキズ画素を抽出することを特徴とする構成2乃至23のいずれか一項に記載の処理装置。
(構成25)
構成1乃至24のいずれか一項に記載の処理装置と、
前記第1の配列データを出力する前記複数の画素と、を有する光電変換システム。
構成1乃至24のいずれか一項に記載の処理装置と、
前記第1の配列データを出力する前記複数の画素と、を有する光電変換システム。
(構成26)
前記複数の画素のそれぞれは、アバランシェフォトダイオードを有することを特徴とする構成25に記載の光電変換システム。
前記複数の画素のそれぞれは、アバランシェフォトダイオードを有することを特徴とする構成25に記載の光電変換システム。
304 第1の記憶部
306 第2の記憶部
310 補正部
312 演算部
306 第2の記憶部
310 補正部
312 演算部
Claims (26)
- アレイ状に配された複数の画素の出力値に基づく第1の配列データを記憶する第1の記憶部と、
前記複数の画素からの前記出力値の補正に用いる第2の配列データを記憶する第2の記憶部と、
前記第1の配列データと前記第2の配列データとに基づいて前記複数の画素の少なくとも1つの画素の出力値を補正する演算部を含む補正部と、
を有する処理装置。 - 前記第1の配列データからキズ画素を抽出するキズ抽出部と、
前記第2の配列データと前記キズ画素の前記出力値とに基づいて第3の配列データを生成する配列生成部と、を含み、
前記補正部は前記第1の配列データと前記第3の配列データとに基づいて前記キズ画素の周辺に設けられた周辺画素の出力値を補正することを特徴とする請求項1に記載の処理装置。 - 前記補正部はキズ抽出部を含むキズ補正部を有し、
前記キズ補正部は前記演算部における補正によって生成された第4の配列データからキズ画素を補正することを特徴とする請求項1に記載の処理装置。 - 前記第2の配列データは少なくとも3つのデータを含み、
前記第2の配列データの少なくとも1行分または1列分に対応する1次元データは、中央にピーク値またはボトム値を有することを特徴とする請求項2に記載の処理装置。 - 前記1次元データは、前記ピーク値または前記ボトム値からデータ端に向けて単調変化する分布を持つことを特徴とする請求項4に記載の処理装置。
- 前記1次元データの前記ピーク値または前記ボトム値を共有し、前記1次元データに交差する方向に配列された他の1次元データは、前記他の1次元データのピーク値またはボトム値からデータ端に向けて単調変化する分布を持つことを特徴とする請求項4に記載の処理装置。
- 前記第1の配列データはN行M列(NおよびMの一方は2以上の整数、他方は1以上の整数)のデータを構成することを特徴とする請求項2に記載の処理装置。
- 前記第2の記憶部は、複数種類の前記第2の配列データを記憶し、
撮影が行われる環境に応じて前記配列生成部で使用する前記第2の配列データの種類を選択することを特徴とする請求項2に記載の処理装置。 - 前記第3の配列データは、前記第2の配列データと、前記キズ画素の出力値に基づいて生成された第5の配列データと、の乗算によって生成されることを特徴とする請求項2に記載の処理装置。
- 前記第4の配列データは、前記第1の配列データと、前記第2の配列データと、の除算によって生成されることを特徴とする請求項3に記載の処理装置。
- 前記キズ抽出部は、あらかじめ取得された前記キズ画素のアドレスデータをもとにキズ画素を抽出することを特徴とする請求項2に記載の処理装置。
- 前記キズ抽出部は、第1の画素の出力値と、前記第1の画素と隣り合う第2の画素の出力値との差が一定の閾値以上である場合に、前記第1の画素または前記第2の画素をキズ画素と判定することを特徴とする請求項2に記載の処理装置。
- 前記キズ抽出部は、第1の画素の出力値と、前記第1の画素と隣り合う第2の画素の出力値との比が一定の閾値以上である場合に、前記第1の画素または前記第2の画素をキズ画素と判定することを特徴とする請求項2に記載の処理装置。
- 前記キズ抽出部は、前記出力値が一定の閾値以上である画素をキズ画素と判定することを特徴とする請求項2に記載の処理装置。
- 前記第1の記憶部の前段に、前記複数の画素の前記出力値にデジタルゲインをかけるゲイン調整部を有することを特徴とする請求項2に記載の処理装置。
- 前記補正部は、前記第1の配列データの非線形性補正を行う非線形補正部を有することを特徴とする請求項2に記載の処理装置。
- 前記演算部は、前記非線形性補正を行う前の第1の配列データと前記第2の配列データとに基づいて補正用配列データを生成し、前記非線形性補正を行った後の第1の配列データと前記補正用配列データとに基づいて前記複数の画素の少なくとも1つの画素の出力値を補正することを特徴とする請求項16に記載の処理装置。
- 前記第2の配列データは少なくとも3つのデータを含み、
前記第2の配列データの少なくとも1行分または1列分に対応する1次元データの中央の値はゼロであることを特徴とする請求項17に記載の処理装置。 - 前記補正部は、前記演算部の後段に、デモザイク部を有することを特徴とする請求項2に記載の処理装置。
- 第1のフレームにおける前記複数の画素の前記出力値から抽出された前記キズ画素のアドレスデータまたは前記キズ画素の出力値に基づいて、
前記第1のフレームよりも後に取得された第2のフレームにおける前記複数の画素の出力値の補正を行うことを特徴とする請求項2に記載の処理装置。 - 被写体の信号レベルまたは前記複数の画素の温度に応じて、前記演算部で前記補正を実施するか否かを選択することを特徴とする請求項2に記載の処理装置。
- 前記第2の配列データは、前記複数の画素のOB領域のキズ画素のパターンに基づいて生成されることを特徴とする請求項2に記載の処理装置。
- 前記演算部で前記周辺画素の出力値を補正した後に、
補正後の前記周辺画素の出力値に基づいて、前記キズ画素の出力値を補正することを特徴とする請求項2に記載の処理装置。 - 前記キズ抽出部は、パターンマッチングによりキズ画素を抽出することを特徴とする請求項2に記載の処理装置。
- 請求項1乃至24のいずれか一項に記載の処理装置と、
前記第1の配列データを出力する前記複数の画素と、を有する光電変換システム。 - 前記複数の画素のそれぞれは、アバランシェフォトダイオードを有することを特徴とする請求項25に記載の光電変換システム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP23153141.9A EP4228278A1 (en) | 2022-02-15 | 2023-01-24 | Pixel array correction and photoelectric conversion system |
US18/167,004 US20230262354A1 (en) | 2022-02-15 | 2023-02-09 | Processing apparatus and photoelectric conversion system |
CN202310125610.3A CN116614725A (zh) | 2022-02-15 | 2023-02-15 | 处理装置和光电转换系统 |
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022021461 | 2022-02-15 | ||
JP2022021461 | 2022-02-15 | ||
JP2022034577 | 2022-03-07 | ||
JP2022034577 | 2022-03-07 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2023118661A true JP2023118661A (ja) | 2023-08-25 |
JP2023118661A5 JP2023118661A5 (ja) | 2024-06-28 |
Family
ID=87663216
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022188829A Pending JP2023118661A (ja) | 2022-02-15 | 2022-11-28 | 処理装置、光電変換システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2023118661A (ja) |
-
2022
- 2022-11-28 JP JP2022188829A patent/JP2023118661A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220236420A1 (en) | Photoelectric conversion device, photodetection system, and movable object | |
JP2022146231A (ja) | 光電変換装置、光電変換システム、および移動体 | |
JP2024026582A (ja) | 光電変換装置及び光検出システム | |
JP2022170442A (ja) | 光電変換装置及び光検出システム | |
US20230117198A1 (en) | Photoelectric conversion apparatus having avalanche photodiode | |
JP2023118661A (ja) | 処理装置、光電変換システム | |
KR20230128061A (ko) | 광전변환장치, 광 검출 시스템, 및 이동체 | |
JP2022106660A (ja) | 光電変換装置、光検出システム | |
US20230262354A1 (en) | Processing apparatus and photoelectric conversion system | |
CN116614725A (zh) | 处理装置和光电转换系统 | |
WO2023153218A1 (ja) | 光電変換装置 | |
US11855106B2 (en) | Signal processing device having counter counting pulses from avalanche photodiode | |
JP7286730B2 (ja) | 光電変換装置 | |
US20230163229A1 (en) | Photoelectric conversion element and photoelectric conversion device | |
WO2023199774A1 (ja) | 光電変換素子及びその製造方法、光電変換装置、光検出システム、並びに移動体 | |
JP7377334B2 (ja) | 光電変換装置及び光電変換システム | |
JP7358410B2 (ja) | 光電変換装置及び光検出システム | |
JP2023061883A (ja) | 光電変換装置 | |
WO2024004516A1 (ja) | 光電変換装置、光電変換システム | |
US20230215893A1 (en) | Photoelectric conversion apparatus and photoelectric conversion system | |
US20230395620A1 (en) | Photoelectric conversion apparatus and photoelectric conversion system | |
US20230115792A1 (en) | Photoelectric conversion device | |
JP2022071828A (ja) | 光電変換装置、光電変換システム | |
JP2023061644A (ja) | 光電変換装置 | |
JP2023099383A (ja) | 光電変換装置および光電変換システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20231213 |