CN115802182A - 光电转换装置、光电转换系统、计算电路和移动体 - Google Patents
光电转换装置、光电转换系统、计算电路和移动体 Download PDFInfo
- Publication number
- CN115802182A CN115802182A CN202211092489.0A CN202211092489A CN115802182A CN 115802182 A CN115802182 A CN 115802182A CN 202211092489 A CN202211092489 A CN 202211092489A CN 115802182 A CN115802182 A CN 115802182A
- Authority
- CN
- China
- Prior art keywords
- photoelectric conversion
- exposure period
- signal
- counter
- count value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000006243 chemical reaction Methods 0.000 title claims abstract description 184
- 238000004364 calculation method Methods 0.000 title claims abstract description 27
- 230000015654 memory Effects 0.000 claims abstract description 39
- 238000012545 processing Methods 0.000 claims description 52
- 230000008859 change Effects 0.000 claims description 6
- 238000010586 diagram Methods 0.000 description 51
- 238000000034 method Methods 0.000 description 34
- 230000007704 transition Effects 0.000 description 30
- 238000010791 quenching Methods 0.000 description 21
- 230000000171 quenching effect Effects 0.000 description 19
- 239000004065 semiconductor Substances 0.000 description 19
- 239000000758 substrate Substances 0.000 description 19
- 230000000052 comparative effect Effects 0.000 description 13
- 230000008569 process Effects 0.000 description 13
- 238000007493 shaping process Methods 0.000 description 13
- 230000003287 optical effect Effects 0.000 description 11
- 210000005252 bulbus oculi Anatomy 0.000 description 10
- 238000005286 illumination Methods 0.000 description 10
- 238000001514 detection method Methods 0.000 description 9
- ORQBXQOJMQIAOY-UHFFFAOYSA-N nobelium Chemical compound [No] ORQBXQOJMQIAOY-UHFFFAOYSA-N 0.000 description 8
- 230000006870 function Effects 0.000 description 7
- 210000003128 head Anatomy 0.000 description 6
- 210000001519 tissue Anatomy 0.000 description 6
- 238000012937 correction Methods 0.000 description 5
- 230000007423 decrease Effects 0.000 description 5
- 239000011521 glass Substances 0.000 description 5
- 229920006395 saturated elastomer Polymers 0.000 description 5
- 230000008901 benefit Effects 0.000 description 4
- 239000000969 carrier Substances 0.000 description 4
- 230000005284 excitation Effects 0.000 description 4
- 230000001678 irradiating effect Effects 0.000 description 4
- 239000004984 smart glass Substances 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 238000002674 endoscopic surgery Methods 0.000 description 3
- 238000013213 extrapolation Methods 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 2
- 210000004204 blood vessel Anatomy 0.000 description 2
- 230000015556 catabolic process Effects 0.000 description 2
- 239000003795 chemical substances by application Substances 0.000 description 2
- MOFVSTNWEDAEEK-UHFFFAOYSA-M indocyanine green Chemical compound [Na+].[O-]S(=O)(=O)CCCCN1C2=CC=C3C=CC=CC3=C2C(C)(C)C1=CC=CC=CC=CC1=[N+](CCCCS([O-])(=O)=O)C2=CC=C(C=CC=C3)C3=C2C1(C)C MOFVSTNWEDAEEK-UHFFFAOYSA-M 0.000 description 2
- 229960004657 indocyanine green Drugs 0.000 description 2
- 210000001747 pupil Anatomy 0.000 description 2
- 238000001028 reflection method Methods 0.000 description 2
- 230000000630 rising effect Effects 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 238000000098 azimuthal photoelectron diffraction Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 210000004087 cornea Anatomy 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000002224 dissection Methods 0.000 description 1
- 230000005684 electric field Effects 0.000 description 1
- 238000010336 energy treatment Methods 0.000 description 1
- 238000002073 fluorescence micrograph Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000003331 infrared imaging Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000031700 light absorption Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 210000004877 mucosa Anatomy 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 238000002834 transmittance Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/95—Computational photography systems, e.g. light-field imaging systems
- H04N23/958—Computational photography systems, e.g. light-field imaging systems for extended depth of field imaging
- H04N23/959—Computational photography systems, e.g. light-field imaging systems for extended depth of field imaging by adjusting depth of field during image capture, e.g. maximising or setting range based on scene characteristics
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/741—Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/53—Control of the integration time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/53—Control of the integration time
- H04N25/533—Control of the integration time by using differing integration times for different sensor regions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/57—Control of the dynamic range
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
- H04N25/77—Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
- H04N25/772—Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising A/D, V/T, V/F, I/T or I/F converters
- H04N25/773—Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising A/D, V/T, V/F, I/T or I/F converters comprising photon counting circuits, e.g. single photon detection [SPD] or single photon avalanche diodes [SPAD]
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computing Systems (AREA)
- Theoretical Computer Science (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Photometry And Measurement Of Optical Pulse Characteristics (AREA)
- Physics & Mathematics (AREA)
- Condensed Matter Physics & Semiconductors (AREA)
- Electromagnetism (AREA)
- General Physics & Mathematics (AREA)
- Computer Hardware Design (AREA)
- Microelectronics & Electronic Packaging (AREA)
- Power Engineering (AREA)
Abstract
本发明涉及一种光电转换装置、光电转换系统、计算电路和移动体。所述光电转换装置包括:设置在雪崩光电二极管和电源之间的电路;计数器,其被配置为对从所述雪崩光电二极管输出的输出信号进行计数;以及存储器,其中表示所述计数器的计数值在比曝光时间短的预定曝光时间段内达到阈值的时间信息被写入所述存储器中,其中时钟信号被配置为在所述曝光时间段中被输入到所述电路。
Description
技术领域
本发明涉及一种光电转换装置、光电转换系统、计算电路和移动体。
背景技术
已知有使用雪崩光电二极管(APD)的光检测装置,该APD能够通过使用雪崩(电子雪崩)倍增效应来检测单光子级的极弱光。APD通过具有与信号电荷相同的极性的第一导电类型的第一半导体区域和具有与信号电荷的极性不同的极性的第二导电类型的第二半导体区域来形成高电场区域(雪崩倍增区域)。
美国专利申请公开2020/0244909论述了一种光检测装置,该光检测装置通过使用具有预定频率的时钟信号来控制APD可以进行雪崩倍增的等待状态和APD返回到等待状态的再充电状态。更具体地,时钟信号控制设置在APD与向APD施加反向偏置的电源之间的开关的接通和断开。例如,在时钟信号处于第一电平的情况下,开关断开以使APD进入等待状态。此外,在时钟信号处于第二电平的情况下,开关接通以使APD进入再充电状态。此外,时钟信号被配置为经受与来自APD的输出信号的逻辑运算。因此,在等待状态下光子入射到APD上的情况下,在时钟信号从第一电平转变到第二电平的定时,从APD向计数器输出输出信号。
通过使用美国专利申请公开2020/0244909中所论述的配置,可以防止在高光照强度的情况下不能对光子进行计数的堆积现象。然而,利用美国专利申请公开2020/0244909中所论述的配置,在光照强度变得高于预定光照强度的情况下,计数值饱和。因此,没有充分扩大光检测装置的动态范围。
发明内容
本发明涉及一种包括雪崩光电二极管(APD)的光电转换装置,该APD的动态范围与美国专利申请公开2020/0244909中所论述的配置相比可以被扩大得更多。
根据本发明的一方面,一种光电转换装置包括:光电二极管,其被配置为进行雪崩倍增;电路,其设置在所述光电二极管和电源之间,并且被配置为在第一状态和第二状态之间进行切换,在所述第一状态下,所述光电二极管与所述电源电连接,在所述第二状态下,所述光电二极管不与所述电源电连接;计数器,其被配置为对从所述光电二极管输出的输出信号进行计数;以及存储器,其中表示所述计数器的计数值在预定曝光时间段内达到阈值的时间信息被写入所述存储器中,所述预定曝光时间段包括在曝光时间段中并且短于所述曝光时间段,其中,时钟信号被配置为在所述曝光时间段中被输入到所述电路。
通过以下参考附图对典型实施例的说明,本发明的更多特征将变得明显。
附图说明
图1是示出光电转换装置的配置的图。
图2是示出传感器基板的布局示例的图。
图3是示出电路基板的布局示例的图。
图4是包括光电转换装置的等效电路的框图。
图5A、图5B和图5C是示出雪崩光电二极管(APD)的操作与输出信号之间的关系的图。
图6A、图6B和图6C是各自示出根据比较例和第一典型实施例的包括像素电路框图和等效电路图的图的图。
图7A和图7B是各自示出根据比较例的光照强度和计数值之间的关系的图。
图8A、图8B和图8C是各自示出根据比较例和第一典型实施例的时间和计数值之间的关系的图。
图9A和图9B是分别示出根据第一典型实施例的光照强度和计数值之间的关系以及光照强度和曝光时间之间的关系的曲线图。
图10是示出根据第一典型实施例的光电转换元件的详情的框图。
图11是根据第一典型实施例的光电转换元件的时序图。
图12是示出根据各个比较例和第一典型实施例的入射光子数量和计数值之间的关系的图。
图13A和图13B是示出根据第一典型实施例的图像重建处理的框图和流程图。
图14是示出根据第一典型实施例的图像重建处理的流程图。
图15A至图15E是各自示出根据第二典型实施例的时钟信号的图。
图16是示出根据第三典型实施例的时钟信号的图。
图17是示出根据第三典型实施例的时钟信号的图。
图18是示出根据第四典型实施例的光电转换系统的框图。
图19A和图19B是示出根据第五典型实施例的光电转换系统的框图。
图20是示出根据第六典型实施例的光电转换系统的框图。
图21是示出根据第七典型实施例的光电转换系统的框图。
图22A和图22B是各自示出根据第八典型实施例的光电转换系统的具体示例的图。
具体实施方式
以下描述的典型实施例旨在体现本发明的技术思想,并不旨在限制本发明。各图中所示的组件的大小和位置关系有时可能被夸大以阐明描述。在以下的说明中,将相同的附图标记指派给相同的组件,并且可以省略其重复说明。此外,只要不存在技术问题,各典型实施例中所描述的配置就可以用另一典型实施例中所描述的配置替换或者与该配置组合。
在下文,将参考附图来说明本发明的典型实施例。另外,在以下的说明中,可以根据需要使用表示特定方向或位置的术语(例如,“上”、“下”、“右”、“左”和包括它们的其他术语)。这些术语用于使参考附图对本发明的理解更容易,并且不旨在通过这些术语的含义来限制本发明的技术范围。
在以下的说明中,雪崩光电二极管(APD)的阳极被设置为固定电位,并且从阴极侧取出信号。因此,具有与信号电荷相同的极性的电荷是多数载流子的第一导电类型的半导体区域是N型半导体区域,并且具有与信号电荷不同的极性的电荷是多数载流子的第二导电类型的半导体区域是P型半导体区域。
另外,APD的阴极可以被设置为固定电位,并且可以从阳极侧取出信号。在这种情况下,具有与信号电荷相同的极性的电荷是多数载流子的第一导电类型的半导体区域是P型半导体区域,并且具有与信号电荷不同的极性的电荷是多数载流子的第二导电类型的半导体区域是N型半导体区域。在以下的说明中,将说明APD的一个节点被设置为固定电位的情况,但两个节点的电位可以是不同的。
图1是示出多层型光电转换装置100的配置的图。光电转换装置100由彼此电连接的两层基板(即,传感器基板11和电路基板21)构成。传感器基板11包括第一布线配置和第一半导体层,该第一半导体层包括以下要说明的光电转换元件102。电路基板21包括第二布线配置和第二半导体层,该第二半导体层包括诸如以下要说明的信号处理单元103等的电路。光电转换装置100是通过将第二半导体层、第二布线配置、第一布线配置和第一半导体层按该顺序层叠所形成的。在各个典型实施例中描述的光电转换装置是背面照射型光电转换装置。在该背面照射型光电转换装置中,光从第二面侧入射,并且电路基板设置在第一面侧。
在以下的说明中,传感器基板11和电路基板21是切割芯片。然而,这两者不限于芯片。例如,各基板可以是晶圆。此外,各基板可以在以晶圆状态被层叠之后被切割,或者芯片可以在从晶圆状态被芯片化之后被层叠和接合。
传感器基板11设置有像素区域12,并且电路基板21设置有处理由像素区域12检测到的信号的电路区域22。
图2是示出传感器基板11的布局示例的图。像素101在平面图中二维地布置成阵列以形成像素区域12,其中像素101各自均包括包含APD 201的光电转换元件102。
各个像素101通常是形成图像的像素,但在将像素101用于飞行时间(TOF)的情况下,像素101不一定需要形成图像。更具体地,像素101可以用于测量光到达像素101的时间以及光量。
图3是示出电路基板21的配置的框图。电路基板21包括:信号处理单元103,其各自均被配置为处理由图2的光电转换元件102进行光电转换的电荷;读出电路112;控制脉冲生成单元115;水平扫描电路单元111;信号线113;以及垂直扫描电路单元110。
图2的各光电转换元件102和图3的相应信号处理单元103经由针对各像素101所设置的连接布线而彼此电连接。
垂直扫描电路单元110接收从控制脉冲生成单元115供给的控制脉冲,以向各像素101供给控制脉冲。对于垂直扫描电路单元110,使用诸如移位寄存器和地址解码器等的逻辑电路。
从像素101的光电转换元件102输出的信号由各个信号处理单元103处理。各个信号处理单元103设置有计数器和存储器等,并且数字值被写入和存储在存储器中。
水平扫描电路单元111将用于顺次选择各列的控制脉冲信号输入到相应的信号处理单元103,以从存储数字信号的各像素的存储器读出信号。
在水平扫描电路单元111所选择的列中,从垂直扫描电路单元110所选择的像素的信号处理单元103向信号线113输出信号。
输出到信号线113的信号经由输出电路114被输出到布置在光电转换装置100的外部的记录单元或信号处理单元。
在图2中,像素区域12中的光电转换元件102可以是一维布置的。信号处理单元103的功能没有必要一定设置在各个光电转换元件102中,并且例如,一个信号处理单元103可以由多个光电转换元件102共享,并且可以顺次进行信号处理。
如图2和图3所示,多个信号处理单元103布置于在平面图中与像素区域12重叠的区域中。另外,在平面图中,垂直扫描电路单元110、水平扫描电路单元111、读出电路112、输出电路114和控制脉冲生成单元115被布置成与传感器基板11的端和像素区域12的端之间的区域重叠。换句话说,传感器基板11包括像素区域12和布置在像素区域12周围的非像素区域。在平面图中与非像素区域重叠的区域中,布置有垂直扫描电路单元110、水平扫描电路单元111、读出电路112、输出电路114和控制脉冲生成单元115。
图4是包括图2和图3所示的等效电路的框图的示例。图4示出包括常用APD的光电转换装置的框图。
在图4中,包括APD 201的光电转换元件102设置在传感器基板11中,并且其他组件设置在电路基板21中。
由于光电转换,APD 201生成与入射光相对应的电荷对。将电压VL(第一电压)供给到APD 201的阳极。此外,将比供给到阳极的电压VL高的电压VH(第二电压)供给到APD 201的阴极。将反向偏置电压供给到阳极和阴极以使APD 201进行雪崩倍增操作。通过供给这样的电压,使由入射光生成的电荷的雪崩倍增生成雪崩电流。
另外,在将反向偏置电压供给到APD 201的情况下,APD 201以两个模式(即,盖革模式和线性模式)进行操作。在盖革模式中,使APD 201在阳极和阴极之间的电压差大于击穿电压的情况下进行操作。在线性模式中,使APD 201在阳极和阴极之间的电压差接近击穿电压或更小的情况下进行操作。
以盖革模式进行操作的APD被称为单光子雪崩二极管(SPAD)。例如,电压VL(第一电压)是-30V,并且电压VH(第二电压)是3V。可以使APD 201以线性模式或盖革模式进行操作。
淬灭元件202连接到APD 201和供给电压VH的电源。淬灭元件202在由于雪崩倍增而引起的信号倍增时用作负载电路(淬灭电路),并且具有抑制供给到APD 201的电压以抑制雪崩倍增的功能(淬灭操作)。此外,淬灭元件202具有通过使与由于淬灭操作而降低的电压相对应的量的电流流动来使要供给到APD 201的电压返回到电压VH的功能(再充电操作)。
信号处理单元103包括波形整形单元210、计数器211和选择电路212。
在本发明中,信号处理单元103仅需要包括波形整形单元210、计数器211和选择电路212中的任一个。
波形整形单元210对检测到光子时获得的APD 201的阴极电位变化进行整形,并输出脉冲信号。作为波形整形单元210,例如,使用反相器电路。在图4中,示出使用一个反相器的波形整形单元210的示例。然而,可以使用由串联连接的多个反相器配置成的电路,或者可以使用具有波形整形效果的另一电路。
计数器211对从波形整形单元210输出的脉冲信号的数量进行计数,并存储计数值。此外,在将控制脉冲pRES经由驱动线213供给到计数器211时,计数器211中所存储的信号(计数值)被复位。
将控制脉冲pSEL从图3所示的垂直扫描电路单元110经由图4所示的驱动线214(图3中未示出)供给到选择电路212,以在计数器211和信号线113的电连接状态和电非连接状态之间切换。选择电路212例如包括用于输出信号的缓冲器电路。
可以在淬灭元件202和APD 201之间或者在光电转换元件102和信号处理单元103之间设置诸如晶体管等的开关以切换电连接。类似地,也可以设置诸如晶体管等的开关,以电切换要供给到光电转换元件102的电压VH或电压VL的供给。
在本典型实施例中,说明了使用计数器211的配置。然而,代替计数器211,光电转换装置100可以使用时间到数字转换器(TDC)和存储器来获得脉冲检测定时。在这种情况下,从波形整形单元210输出的脉冲信号的生成定时由TDC转换成数字信号。将控制脉冲pREF(参考信号)从图3所示的垂直扫描电路单元110经由驱动线供给到TDC,以测量脉冲信号的定时。TDC以控制脉冲pREF作为基准获得当经由波形整形单元210从各像素101输出的信号的输入定时是相对时间时的信号作为数字信号。
图5A、图5B和图5C是示意性示出APD 201的操作与输出信号之间的关系的图。
图5A是示出从图4中提取的APD 201、淬灭元件202和波形整形单元210的图。在图5A中,波形整形单元210的输入侧被定义为VC,并且其输出侧被定义为VO。图5B示出图5A中的VC的电压,并且图5C示出图5A中的VO的信号。
从时间t0到时间t1,将电压差“VH-VL”施加到图5A中的APD 201。在时间t1处,当光子入射到APD 201上时,在APD 201中发生雪崩倍增,以使雪崩倍增电流在淬灭元件202中流动。结果,VC的电压下降。如果电压下降量进一步增加并且施加到APD 201的电压差变得更小,则APD 201的雪崩倍增在时间t2处停止,并且VC的电压电平不会下降超过预定值。然后,在时间t2和时间t3之间,电流从电压VL流动到VC以构成电压下降,并且在时间t3处,VC的电位电平静态稳定到原始电位电平。此时,在VC的输出波形超过阈值的情况下,输出波形由波形整形单元210整形,并作为信号被输出到VO。
另外,信号线113、读出电路112和输出电路114的布局不限于图3中的布局。例如,信号线113可以被布置为在行方向上延伸,并且读出电路112可以布置在信号线113延伸到的位置处。
图6A、图6B和图6C各自示出包括像素电路框图和等效电路图的图。图6A和图6B示出根据比较例的配置,并且图6C示出根据第一典型实施例的配置。图7A和图7B示出比较例。图8A和图8B示出比较例,并且图8C示出本典型实施例。
比较例1:无源再充电电路
图6A共同示出作为比较例1的无源再充电像素电路框图和等效电路图。用作连接到APD 201的阴极侧的淬灭元件202的晶体管的栅极与逻辑电路221(或(OR)电路)的输出是同一节点。逻辑电路221被配置为接受信号ENB和信号STOP。信号ENB在曝光时间段T期间保持低电平,并且在其他时间段期间保持高电平。
在信号STOP处于低电平并且信号ENB处于低电平的情况下,用作淬灭元件202的晶体管接通,并且使APD 201进入再充电状态。然后,APD 201转变到可以在预定时间段之后进行雪崩倍增的等待状态。在其他信号模式的情况下,淬灭元件202断开,并且使APD 201不进入再充电状态,而是进入不能进行雪崩倍增的非等待状态。波形整形单元210由反相器配置成,并且计数器211设置有11位的触发器电路。例如,当计数器211的计数值达到最大计数值“2047”时,信号STOP从低电平转变到高电平,并且用作淬灭元件202的晶体管断开。这样,即使信号ENB转变到低电平,淬灭元件202也保持断开,并且保持APD 201的非等待状态。
图7A的右侧的图各自示出图6A中的VC的电压和VO的信号。
在低光照强度的情况下,由于光子的入射间隔长,因此在光子入射后VC的电压已变低之后,可以确保足够的时间,直到VC的电压通过再充电返回到高电平状态为止。
图7A的右上侧的图(低光照强度)表示可以与3个光子相对应地计数三个脉冲。另一方面,在高光照强度的情况下,由于光子的入射间隔短,因此VC的电压保持低,并且电压不会返回到高电平状态。因此,从电压的下侧到上侧超过判断阈值需要时间。图7A的右下侧的图表示尽管约20个光子入射,但仅计数3个脉冲。换句话说,一些光子从计数中省略。
结果,在图6A所示的无源再充电型配置的情况下,如图7A所示,低光照强度状态和高光照强度状态下的计数值可能变得彼此相等。此外,如果光子更频繁地入射,则VC的电压保持低,并且计数值从下侧到上侧不超过判断阈值。在这种情况下,VO的电压保持高,并且不生成信号。因此,在图6A所示的无源再充电型配置的情况下,由于在高光照强度下不能获得正确的计数值,因此光电转换装置100的动态范围变窄。
比较例2:时钟再充电电路
图6B示出包括作为比较例2的时钟再充电像素电路框图和等效电路图的图。逻辑电路221(或电路)被配置为经由其输入端子接收信号CLKB和信号STOP。信号CLKB是在曝光时间段T期间包括Nc个脉冲信号的时钟信号。在图6B中,在信号STOP处于低电平并且信号CLKB处于低电平的情况下,用作淬灭元件202的晶体管接通并且APD 201被再充电。在信号STOP和信号CLKB的任何其他组合模式的情况下,淬灭元件202断开。例如,在信号CLKB处于高电平的情况下,淬灭元件202在再充电之后断开,因此APD 201处于可以进行雪崩倍增的等待状态。换句话说,在APD 201和电源(电压VH)之间设置有电路(晶体管),并且该电路控制第一状态和第二状态之间的切换。在第一状态下,该电路电连接APD 201和电源。在第二状态下,该电路不电连接APD 201和电源。在这种情况下,第一状态是再充电状态,并且第二状态是等待状态。
在APD 201的阴极与计数器211之间设置有逻辑电路222(一个输入端子的逻辑被反转的与(AND)电路),使得可以输入信号CLKB和VC的电压。逻辑电路222是来自VC的输出以反转状态输入到的逻辑电路。当光子入射到APD 201上时,VC的值从高电平转变到低电平。在这种情况下,当信号CLKB处于高电平时,逻辑电路222的输出变为高电平。然后,在信号CLKB从高电平转变到低电平的情况下,逻辑电路222的输出转变到低电平,由此生成输出信号。
图7B的右侧的图各自示出图6B中的信号CLKB、VC的电压和VO的信号。
首先,在低光照强度状态下,当在信号CLKB处于高电平的情况(等待状态)下光子入射时,VC的电压下降并且转变到低电平。由于信号CLKB处于高电平,因此来自VO的输出处于高电平,并且当信号CLKB转变到低电平时,来自VO的输出从高电平转变到低电平,使得生成信号。
另一方面,在高光照强度状态下,即使在信号CLKB处于高电平的情况(等待状态)下光子频繁地入射的情况下,只要信号CLKB处于高电平,转变到高电平的VO的值就保持高电平。接着,当信号CLKB从高电平转变到低电平时,来自VO的输出从高电平转变到低电平,使得生成信号。
这样,在时钟再充电电路中,解决了在无源再充电电路中发生的、在低光照强度状态和高光照强度状态下计数值变得彼此相等的状态以及不生成信号的状态。更具体地,时钟再充电电路具有如下优点:低光照强度状态下的计数值不会变得大于高光照强度状态下的计数值。从逻辑电路222输出的信号从计数器211经由存储器240被输出到外部。另外,可以适当地设置计数器211是在逻辑电路222的输出脉冲的下降沿还是在逻辑电路222的先前脉冲的上升沿进行计数。
本典型实施例的说明
图8A、图8B和图8C各自示出时钟再充电驱动中的时间和计数值。在图8A、图8B和图8C各自中,“Nsat”是与计数器211的最大计数值相对应的数字。以下将说明“Nsat”的详情。
在图8A中,情况(ii)示出低光照强度状态下的情况,其中在曝光时间段T完成时计数值没有达到Nsat。另一方面,情况(i)示出高光照强度状态下的情况,其中在曝光时间段T完成之前计数值达到Nsat。在这种情况下,如果记录了计数值达到Nsat的时间,则可以使用外推法计算曝光时间段T完成时的计数值。使用外推法所计算出的计数值也被称为计算计数值。结果,可以扩大光电转换装置100的动态范围。
同样在图8B中,情况(i)示出高光照强度状态下的情况,并且情况(ii)示出低光照强度状态下的情况。
在图8B的情况(i)中,判断在曝光时间段T完成之前的预定定时(T/m)、计数值是否达到预定计数值(Nsat/m)或更大。例如,图8B示出m=2的情况,并且判断在曝光时间段T的1/2定时、计数值是否达到预定计数值或更大。然后,在计数值达到了预定计数值或更大的情况下,曝光停止。在这种情况下,通过将测量计数值乘以“m”所获得的值被视为曝光时间段T完成时的计算计数值。例如,m=2。
图8C是示出根据本典型实施例的驱动方法的图。更具体地,图8C示出在采用图8B的情况(i)中示出的驱动方法的同时提供多个预定判断定时(预定检查点)的情况。在图8C的情况(i)中,判断在第一曝光时间段(T/m3)中计数值是否为预定计数值(Nsat/m)或更大。在图8C的(ii)的情况下,判断在第二曝光时间段(T/m2)中计数值是否为预定计数值(Nsat/m)或更大。在图8C的情况(iii)中,判断在第三曝光时间段(T/m)中计数值是否为预定计数值(Nsat/m)或更大。在这种情况下,通过将测量计数值乘以“m3”、“m2”和“m”(例如,8、4和2)分别获得的值被视为在曝光时间段T完成时的计算计数值。
在这种情况下,在各判断定时,判断计数值是否为预定计数值或更大。当计数值为预定计数值或更大时,曝光停止,并且输出计数值。因此,在曝光停止的情况下,计数值为Nsat/m以上且Nsat以下。
如果在多个检查点处进行判断,则可以进一步扩大光电转换装置100的动态范围。
图9A示出图8B和图8C所示的配置中的光照强度和计数值之间的关系。此外,图9B示出这些配置中的光照强度和曝光时间之间的关系。在具有最低光照强度的区域的情况下,由于计数继续直到曝光时间段T结束为止,因此如图9B所示,曝光时间变得最长。在具有最低光照强度的区域的情况下,由于计数继续直到计数器211饱和为止,因此如图9A所示,计数器211从0计数到Nsat。接着,在具有略高的光照强度的区域的情况下,判断为在第三曝光时间段(T/m)处计数值为预定计数值(Nsat/m)或更大,并且曝光停止。由于曝光中途停止,因此如图9B所示,曝光时间段变短。此外,如图9A所示,在这种情况下输出的计数值为Nsat/m以上且Nsat以下。在第二曝光时间段(T/m2)中曝光停止的情况和在第一曝光时间段(T/m3)中曝光停止的情况下,计数值也为Nsat/m以上且Nsat以下。
在第一曝光时间段(T/m3)中曝光停止的情况下,计数器211最大可以计数到Nsat。在这种情况下,计算计数值是通过将Nsat乘以m3(即,Nsat×m3)所获得的值。换句话说,可用于图像形成的计数值可以从Nsat扩大到Nsat×m3。因此,可以扩大光电转换装置100的动态范围。此外,可以控制是否针对各像素在不同的定时停止计数。更具体地,可以针对各像素控制曝光时间段,并且可以针对各像素扩大动态范围。在下文,将给出对实现上述方法的电路或驱动方法的示例的说明。
典型实施例:像素电路框图
图6C是示出具有用于针对各像素控制曝光时间段的配置的像素电路的框图。APD201、淬灭元件202、逻辑电路221、逻辑电路222和计数器211与图6B所示的这些相同,因此省略了其说明。
图6C中的信号CLKB与图6B中的信号CLKB的相同之处在于:在曝光时间段T(以下也称为最大曝光时间段)期间输入时钟信号(Nc个脉冲信号)。然而,如以下将说明的,与在图6B中相比,在图6C中时钟信号的脉冲周期更短。此外,在图6C中,从计数器211向曝光控制电路230输入信号,并且还从曝光控制电路230向存储器223输入信号。曝光控制电路230的位数小于计数器211中所包括的触发器电路的位数。
图10是示出根据本典型实施例的像素电路的详情的框图。省略了对具有与图6C中指派给组件的标记或符号相同的标记或符号的组件的说明。由于计数器211例如包括11位的触发器电路,因此计数器211的饱和值为“2047”。
此外,将信号EN输入到计数器211。信号EN是用以定义曝光时间段T的信号。更具体地,当信号EN从低电平转变到高电平时,曝光时间段T开始,并且当信号EN从高电平转变到低电平时,曝光时间段T结束。然后,使计数器211进入停止状态。
计数器211被配置为向曝光控制电路230输入信号。曝光控制电路230包括多个锁存器231。在图10中,从图10的左侧向右侧设置第一至第四锁存器231。这四个锁存器231和多路复用器电路232确定预定判断定时处的预定计数值(阈值)。
第一锁存器231(最左的锁存器)被配置成使得:当计数值达到计数器211的最大计数值的1/8值(即,m=8)时,向第一锁存器231输入信号Sn/8。如上所述,由于计数器211的最大计数值是“2047”,因此通过将该最大计数值除以8所获得的值(即,最大计数值的1/8)不是整数。由于该原因,为了方便起见,采用接近最大计数值并且容易用于计算的“2048”作为最大计数值的相称值,并且用作Sn/8、Sn/4和Sn/2的基准。
在本典型实施例中,将当计数值达到2048/8=256或更大时输出的信号定义为信号Sn/8。
类似地,第二锁存器231(左起第二个)被配置成使得:当计数值达到计数器211的最大计数值的1/4值(即,m=4)时,向第二锁存器231输入信号Sn/4。在本典型实施例中,为了方便起见,将当计数值为2048/4=512或更大时输出的信号定义为信号Sn/4。
此外,以类似的方式,第三锁存器231(右起第二个)被配置成使得:当计数值达到计数器211的最大计数值(2048)的1/2值(即,m=2)时,向第三锁存器231输入信号Sn/2。在本典型实施例中,为了方便起见,将当计数值为2048/2=1024或更大时输出的信号定义为信号Sn/2。
此外,以类似的方式,第四锁存器231(最右的锁存器)被配置成使得:当计数值达到计数器211的最大计数值时,向第四锁存器231输入信号Sn。在本典型实施例中,将当11位计数器211的计数值达到作为最大计数值的“2047”时输出的信号定义为信号Sn。
在信号Sn被输入到第四锁存器231的情况下,由于计数器211达到了最大计数值,因此经由逻辑电路234(或电路)输出信号STOP。信号STOP被输入到计数器211和逻辑电路221,因此计数器211的操作停止。因此,用作淬灭元件202的晶体管断开。
向多路复用器电路232输入控制信号(未示出),并且选择第一锁存器231至第三锁存器231中的任何锁存器中所存储的信号并将该信号存储在存储器233中。
例如,使用第一锁存器231的信号来扩大动态范围。如上所述,由于可用于图像形成的计数值可以从Nsat扩大到Nsat×m3,因此动态范围可以随着“m”的变大而扩大。由于该原因,使用第一锁存器231的信号(m=8)。另一方面,如果动态范围被扩大得过多,则可能存在在重建图像中发生违和感的情况。例如,在图像中存在级差的情况下,使用第三锁存器231中所存储的信号(m=2)。这样,可以从第一锁存器231到第三锁存器231根据用途适当地选择锁存器。
在图10中,按从上到下的顺序设置第一到第三存储器233。如以下将说明的,在定时T0、T1和T2中的各定时处,检查计数值是否为阈值或更大,并且在定时T0处计数值为阈值或更大的情况下,在第一存储器233中记录“1”。类似地,如果在定时T1处计数值为阈值或更大,则在第二存储器233中记录“1”。类似地,如果在定时T2处计数值为阈值或更大,则在第三存储器233中记录“1”。
从存储器233输出作为时间码(时间信息)的TC<0>、TC<1>和TC<2>,并存储在存储器223中。从计数器211输出11位的信号,并且从存储器233输出3位的信号。结果,存储器223是总共14位的存储器。
在TC<0>、TC<1>和TC<2>中的任何是“1”的情况下,这表示计数值为阈值或更大(Nsat/m或更大),使得经由逻辑电路234(或电路)输出信号STOP。
当向存储器223输入读出信号WRT时,将此时的计数器211的11位信号以及TC<0>、TC<1>和TC<2>的3位信号存储在存储器223中。
此外,当向选择电路212输入读出信号READ时,将存储器223中所存储的信号从选择电路212读出到光电转换装置100的外部。例如,通过信号WRT,将所有行的信息共同存储在存储器223中,并且通过信号READ,针对各行顺次读出该信息。以这种方式,可以实现针对所有行共同开始曝光时间段的全局快门系统。
典型实施例:时序图
图11是根据本典型实施例的时序图。
在时间t0,信号RES的脉冲被设置为开启(ON)。如图10所示,信号RES被输入到锁存器231和计数器211。可以通过信号RES的该输入来复位锁存器231和计数器211中所存储的与先前帧有关的信息。因此,计数器211的计数值COUNT变为“0”。此外,尽管在图10中未示出,但可以将信号RES输入到存储器223和存储器233以复位与先前帧有关的信息。
在时间t1,信号EN被设置为开启,并且曝光时间段T开始。这里,曝光时间段T是最大曝光时间段。在很少光子入射的情况下,计数器211不饱和,使得计数器211在最大曝光时间段期间继续计数。然而,如以下将说明的,在计数器211饱和、或者在预定曝光时间段内计数值超过预定阈值的情况下,信号STOP变高,并且有效曝光时间段缩短到小于最大曝光时间段。
在时间t1,信号CLKB从高电平转变到低电平。由于信号STOP处于低电平,因此APD201开始被再充电,VC的电压逐渐升高,并且使APD 201进入等待状态。当在时间t1、信号CLKB从高电平转变到低电平时,由于还没有光子入射,因此VO的值从高电平改变到低电平。
在时间t2,当光子入射时,雪崩倍增开始,并且VC的电位下降。由于从VC输入到逻辑电路222的信号处于低电平并且信号CLKB处于高电平,因此作为来自逻辑电路222的输出的VO的值从低电平转变到高电平。通过该转变,计数值COUNT从“0”改变为“1”。换句话说,在本典型实施例中,使用VO的上升沿来进行计数。
在时间t3,当信号CLKB从高电平转变到低电平时,如时间t1的状态那样,再充电开始,并且VC的电位变化。此外,由于信号CLKB从高电平转变到低电平,因此VO的值从高电平转变到低电平。换句话说,在时间t2上升的VO的波形在时间t3下降。
信号T0在自曝光时间段T开始起经过了T/m3的时间t4从低电平转变到高电平。这里,m是任意数,并且例如当使用多路复用器电路232来选择接收Sn/8信号的锁存器231(最左锁存器)的信号时,m是“8”。因此,时间t4是自曝光时间段T开始起经过了T/512的时间。
此外,关注于信号CLKB,由于曝光时间段T中的合计脉冲数为Nc,因此在自曝光时间段T开始起经过了T/512的时间t4,合计脉冲数由此为Nc/m3。
此时,将Nc/m3设置为大于或等于计数器211的最大计数器值的值,该Nc/m3是直到自曝光时间段T开始起经过了T/m3的时间点为止的合计脉冲数。这是因为,如果将Nc/m3设置为比计数器211的最大计数器值小的值,则动态范围的扩大受到限制。另外,在可以在一定程度上抑制动态范围的情况下,Nc/m3可以被设置为比计数器211的最大计数器值小的值。例如,Nc/m3可以被设置为最大计数器值的3/4或更大。
在本典型实施例中,在曝光时间段T(最大曝光时间段)中所包括的、各自均比最大曝光时间段短的三个曝光时间段完成的定时,判断计数值是否为阈值或更大。
在这种情况下,在假定将三个曝光时间段按从最短曝光时间段起的顺序定义为第一曝光时间段(第一判断定时)、第二曝光时间段(第二判断定时)和第三曝光时间段(第三判断定时)的情况下,第一曝光时间段是最短曝光时间段。在本典型实施例中,第一曝光时间段、第二曝光时间段和第三曝光时间段分别与曝光时间段T/m3、曝光时间段T/m2和曝光时间段T/m相对应。换句话说,“m”表示第一曝光时间段和第二曝光时间段的长度之间的比、以及第二曝光时间段和第三曝光时间段的长度之间的比。
如上所述,由于在这种情况下m=8,因此第二曝光时间段是第一曝光时间段的8倍长。此外,第三曝光时间段是第二曝光时间段的8倍长。“8倍”仅仅是示例,并且该比可以是2倍或大于2倍、或者4倍或大于4倍。
在这些设置中,为了将直到自曝光时间段T开始起经过了T/m3的时间点为止的合计脉冲数Nc/m3设置为计数器211的最大计数值或更大,在例如最大计数值为“2047”的情况下,将Nc/m3设置为“2048”。换句话说,将Nc/m3设置为计数器211的最大计数值的值或更大。因此,曝光时间段T期间的合计脉冲数Nc在m=8的情况下约为100万。在使用正常时钟再充电驱动的比较例中,在脉冲数Nc被设置为与计数器211的最大计数值相称的数量的情况下,曝光时间段T中的脉冲数Nc是“2048”。因此,与比较例相比,根据本典型实施例的脉冲数Nc极大,并且时钟信号的脉冲周期极短。由于该原因,在图6B和图6C中脉冲信号周期被示出为彼此不同。
在时间t4,计数值COUNT是“X1”,并且小于作为阈值的“Nsat/m”(即,X1<Nsat/m)。在这种情况下,“Nsat”例如是“2048”。如上所述,“Nsat”是与计数器211的最大计数值相称的值,并且是使计算更容易的值。在本发明中,“与计数器211的最大计数值相称的值”也可以被视为“计数器211的最大计数值”。
此外,如上所述,“m”是曝光时间段的长度之间的比,并且例如是m=8。因此,“Nsat/m”例如是“256”。在图11所示的示例中,由于计数值小于阈值,因此第一锁存器231(最左的锁存器)不锁存信号Sn/8。因此,用作时间码的信号VC<0>保持处于低电平,并且将“0”输入到第一存储器233(最上的存储器)。
在时间t4和时间t5之间,计数值COUNT变为被设置为阈值的“Nsat/m”或更大,并且第一锁存器231(最左的锁存器)锁存信号Sn/8。然后,多路复用器电路232的输出从低电平转变到高电平。
在自曝光时间段T开始起经过了T/m2的时间t5,信号T1从低电平转变到高电平。例如,时间t5是从作为曝光时间段T的开始时间的时间t1起经过了T/64的时间。
在时间t4和时间t5之间,由于多路复用器电路232的输出处于高电平,因此当在时间t5输入信号T1时,用作时间码的信号TC<1>从低电平转变到高电平。因此,将“1”输入到第二存储器233。此外,由于信号TC<1>从低电平转变到高电平,因此如图10所示,将信号STOP经由逻辑电路234提供到计数器211和逻辑电路221,并且作为淬灭元件202的晶体管断开。
此外,关注于信号CLKB,由于曝光时间段T中的合计脉冲数为Nc,因此在自曝光时间段T开始起经过了T/64的时间t5,合计脉冲数为Nc/m2。
图11示出在经过了时间t5之后光子入射的示例。在这种情况下,由于光子入射,因此发生雪崩倍增,并且VC的电位下降。然而,由于作为淬灭元件202的晶体管保持断开,因此不会再次发生雪崩倍增。因此,VO的值从低电平转变到高电平一次,并保持处于高电平。
信号T2在自曝光时间段T开始起经过了T/m的时间t6从低电平转变到高电平。例如,时间t6是从曝光时间段T开始起经过了T/8的时间。此外,关注于信号CLKB,由于曝光时间段T中的合计脉冲数为Nc,因此在从曝光时间段T开始起经过了T/8的时间t6,合计脉冲数为Nc/m。
此时,多路复用器电路232的输出保持处于高电平。当在时间t6输入信号T2时,用作时间码的信号TC<2>从低电平转变到高电平。因此,将“1”输入到第三存储器233。
由于因时间t5及其之后的光子输入使得VO的值处于高电平,因此将信号EN控制为从高电平转变到低电平,以不对VO的高电平值进行计数。如上所述,信号EN还具有用于定义曝光时间段T(最大曝光时间段)的开始和结束的功能。可替代地,可以使用除信号EN以外的信号来定义最大曝光时间段的开始和结束。
在时间t7,当读出信号WRT转变到高电平时,将信号从存储器223读出到选择电路212。此外,在时间t8,当读出信号READ转变到高电平时,该信号从选择电路212被输出到光电转换装置100的外部。例如,通过信号WRT,将所有行的信息共同存储在存储器223中,并且通过信号READ,针对各行顺次读出信息。这样,可以实现针对所有行共同开始曝光时间段的全局快门系统。
在本典型实施例中,关于曝光时间段比“m”,将判断定时的阈值设置为“Nsat/m”。此时,计数值的阈值被一般化为“Nsat/n”(n是2或更大的数)。换句话说,“Nsat/n”是“(计数器211的最大计数值)/n”。如本文所采用的,“计数器211的最大计数器值”是包括计数器211的最大计数值(例如,2147)和与计数器211的最大计数值相称的值(例如,2148)的数字。
在这种情况下,如果“n”小于作为曝光时间段比的“m”,则例如第一曝光时间段中计数值不超过阈值并且第二曝光时间段中计数值达到饱和值的像素的数量可以增加,从而导致在特定光量下灰度丢失。相反,通过将“Nsat/n”中的“n”设置得大于或等于作为曝光时间段比的“m”,存在如下优点:能够减少计数值达到饱和值的像素的数量,并且在从低亮度到高亮度的宽范围的光量条件下确保灰度。
图12示出采用图6A、图6B和图6C各自中所示的配置的光电转换装置100的效果。换句话说,参考图7A、图7B和图9A所述的概念由具体值表示。图12的横轴示出入射光子数量,并且纵轴表示计数值的中值。虚线(a)与参考图6A所述的无源再充电的配置相对应。无标绘的实线(b)与参考图6B所述的时钟再充电的配置相对应。具有圆点标绘的实线(c)与参考图6C所述的针对各像素控制曝光时间段的配置相对应。
图12中的虚线(a)在2047计数处饱和,之后光子数不能被计数,因此计数值突然减小。这是因为,如上所述,当入射光子的数量极大时,VC的电压保持低,并且由于计数值从下侧到上侧没有超过阈值,因此不生成信号。
由于1帧中的再充电时钟被设置为“2048”(Nc=2048)、并且计数器211的最大计数值为“2047”,因此图12中的无标绘的实线(b)在2047计数处饱和。然而,达到饱和之前的入射光子的数量大于图12中的虚线(a)的入射光子的数量。在入射光子的数量极大的情况下,不会发生不生成信号的情形。然而,由于仅可以对时钟周期的数量进行计数,因此计数值的上限受到时钟频率的限制。
图12中的具有圆点标绘的实线(c)是通过将时钟再充电和作为本发明典型实施例其中之一的针对各像素的曝光时间段控制进行组合所获得的。计数值的上限为“2047”,这与虚线(a)和实线(b)中的上限相同。然而,实线(c)表示计数值三次达到底部。如上所述,由于将“Nsat/m”设置为阈值,因此在m=8的情况下,底部计数为“256”。该方法使得计数即使在入射光量大于与2047计数相对应的入射光量的情况下也能够继续,由此使得能够扩大动态范围。更具体地,由于可以输出时间码的最短曝光时间段被设置为T/m3并且m=8,因此存在动态范围是由图12B中的实线(b)表示的情况的512倍宽的优点。
典型实施例:计算处理
图13A和图13B是分别示出用于进行计算处理的电路和该计算处理的图。
如图13A所示,从光电转换装置100输出的信号被输入到计算电路300。计算电路300可以包括在光电转换装置100中。另外,该信号可以通过有线、无线或经由记录介质被输入到计算电路300。
图13B示出在计算电路300中进行的计算处理。
在步骤S301中,从存储器223读出14位的原始数据。
在步骤S302中,从14位的原始数据中分离与11位相对应的光子的计数值信息和与3位相对应的时间码信息。
在步骤S303中,使用计数值信息和时间码信息来进行逻辑移位(位移位)。
图14具体示出逻辑移位处理。在图14的步骤S310中,逻辑移位开始。在步骤S312中,判断时间码TC<0>是否为“1”。
在TC<0>为“1”的情况下(步骤S312中为“是”),处理进入步骤S314。在步骤S314中,将与11位相对应的光子计数值乘以m3。
在步骤S312中,在时间码TC<0>不为“1”的情况下(步骤S312中为“否”),处理进入步骤S316。在步骤S316中,判断时间码TC<1>是否为“1”。在TC<1>为“1”的情况下(步骤S316中为“是”),处理进入步骤S318。在步骤S318中,将与11位相对应的光子计数值乘以m2。在步骤S316中,在时间码TC<1>不为“1”的情况下(步骤S316中为“否”),处理进入步骤S320。在步骤S320中,判断时间码TC<2>是否为“1”。在TC<2>为“1”的情况下(步骤S320中为“是”),处理进入步骤S322。在步骤S322中,将与11位相对应的光子计数值乘以m。在步骤S320中,在时间码TC<2>不为“1”的情况下(步骤S320中为“否”),处理进入步骤S324。在步骤S324中,由于计数器211没有饱和,因此不需要逻辑移位处理,并且逻辑移位计算结束。这样,在逻辑移位处理中,基于时间信息来改变计数器211的计数值的倍增率。
返回参考图13B,在步骤S304中,进行非线性校正。例如,参考图12中的具有圆点标绘的实线(c),在入射光子的数量为1×106至1×107的区域周围实线(c)的倾斜度不恒定。因此,在步骤S304中,对倾斜度不恒定的该区域进行校正。
更具体地,在假定校正之后的计数值为X、校正之前的计数值为Y的情况下,X和Y之间的关系被表示为Y=Nc×(1-exp(-X/Nc))。在该公式中,如上所述,Nc是在曝光时间段T内可计数的脉冲数。在步骤S305中,进行去马赛克处理(插值处理)。在步骤S306中,由于红色、绿色和蓝色(RGB)的滤波器的光透过率和反射率彼此不同,因此进行各信号增益的适当调谐。在步骤S307中,进行高动态范围(HDR)色调映射。在步骤S308中,输出进行了计算处理的彩色图像。在图13B中,说明输出彩色图像的情况,但可以输出黑白图像。在这种情况下,可以适当地省略步骤S305和S306中的处理。
变形例
在上述第一典型实施例中,给出了对如下情况的说明:判断在预定检查点处计数值是否达到阈值,并且阈值被设置为比计数器211的最大计数值(饱和值)小。然而,可以采用如下的配置:将计数器211的最大计数值设置为阈值,并且进行计数直到阈值。在这种情况下,可以将与计数值达到了阈值的定时有关的时间信息存储在存储器中,并且可以使用外推法从时间信息获得计算计数值。
同样在该方法中,在曝光时间段T期间输入的时钟信号的脉冲数是计数器211的最大计数值的两倍或多于两倍。例如,在假定曝光时间段T包括第一曝光时间段和第二曝光时间段的情况下,第一曝光时间段中的时钟信号的脉冲数被设置为计数器211的最大计数值或更大。此外,在假定第一曝光时间段短于第二曝光时间段的情况下,第一曝光时间段中的时钟信号的脉冲数可以被设置为计数器211的最大计数值或更大。此外,如上述典型实施例那样,在假定需要大于或等于计数器211的最大计数值的脉冲数直到T/m3经过为止的情况下,如果m=2,则曝光时间段T中的脉冲数是计数器211的最大计数值的8倍或多于8倍。此外,如果m=8,则曝光时间段T中的脉冲数是计数器211的最大计数值的512倍或多于512倍。
参考图15A至图15E,将给出对根据第二典型实施例的脉冲信号的频率的变化的说明。图15A至图15E示出输入到参考图6C所述的逻辑电路221的信号CLKB的时序图。
第一配置
图15A示出光电转换装置100从曝光时间段T的开始到结束利用恒定频率的信号CLKB进行操作的配置作为第一配置。与第一典型实施例一样,在用以判断计数值的最短曝光时间段为T/m3的情况下,在从曝光时间段T的开始到T/m3的时间段中的信号CLKB的脉冲数例如为Nsat。在这种情况下,在曝光时间段T内可计数的信号CLKB的脉冲数为Nsat×m3。因此,可以通过在最短曝光时间段内插入Nsat次再充电,使用高达计数上限来扩大动态范围。此外,在用以判断计数值的最短曝光时间段中输入的信号CLKB的脉冲数不需要恰好为Nsat,并且在最短曝光时间段中输入的脉冲数可以为Nsat或更大。换句话说,仅需要包括与计数器211的最大计数值或更大相对应的脉冲数的时钟信号。
第二配置
图15B是示出第二配置中的信号CLKB的时序图。第二配置与第一配置的不同之处在于,信号CLKB的频率在曝光时间段T中变化。在第二配置中,信号CLKB的频率在各自均是用以判断计数值的定时的判断点T/m3、T/m2和T/m中的各判断点处切换。换句话说,在曝光时间段T内设置有时钟信号的两个或多于两个类型的频率。
例如,假定从曝光时间段T的开始到T/m3的信号CLKB的频率是频率f1,从T/m3到T/m2的信号CLKB的频率是频率f2,从T/m2到T/m的信号CLKB的频率是频率f3,并且从T/m到T的信号CLKB的频率是频率f4。在这种情况下,满足f1>f2>f3>f4的关系。此时,如果m=8,则如f1=f2×8=f3×64=f4×512那样,频率可以根据曝光时间段的比而降低。如果应用这些比,则这与在光子按预定周期入射直到各判断定时为止的情况下设置最小频率的情况相对应。最小频率是通过将入射光子的可能最大数量Nsat除以直到各判断定时(诸如t/m3、t/m2或t/m等)为止的时间段所计算出的频率。如果信号CLKB的频率大于或等于最小频率,则在各判断定时动态范围可以被最大程度地利用直到计数上限值Nsat。例如,在假定入射光子的最大数量Nsat、直到T/m3为止的情况下,最小频率f1=Nsat/(T/m3)。
在从T/m3到T/m2的时间段中,由于在时间点T/m3处计数值没有超过阈值,因此光子的最大入射频率与在下一时间点T/m2处计数值达到计数Nsat的情况相对应。换句话说,在从T/m3到T/m2的时间段中,仅需要满足f2=Nsat/(T/m2)。通过以类似的方式计算,f3=Nsat/(T/m),f4=Nsat/T。这样,通过在曝光时间段T中降低信号CLKB的频率以仅留下所需数量的脉冲,可以在确保动态范围扩大的优点的同时减少由于信号CLKB而引起的消耗电力。
为了改变时钟信号的频率,可以设置分频电路。分频电路可以设置在垂直扫描电路单元、像素电路单元或控制脉冲生成单元中。在分频电路设置在像素电路单元中的情况下,可以提供频率针对各像素而不同的时钟信号。
另外,在从曝光时间段T的开始到T/m3的时间段(第一曝光时间段)中的时钟信号的频率可以不是恒定的。类似地,从T/m3到T/m2的时间段(第二曝光时间段)中的时钟信号的频率可以不是恒定的。在这种情况下,可以使用平均频率作为频率。例如,作为第一曝光时间段中的平均频率的第一频率大于作为第二曝光时间段中的平均频率的第二频率。
第三配置
图15C是示出第三配置中的信号CLKB的时序图。
第三配置与第二配置的不同之处在于:代替在用以判断计数值的定时之前和之后改变频率,频率从曝光时间段T的开始朝向曝光时间段T的结束逐渐降低。这样,通过代替在判断定时之前和之后改变频率而是逐渐调整频率,可以减小通过频率的切换所生成的计数值的级差。此外,作为改变频率的方法,除了分频电路之外,可以通过使用例如频率调制电路来扩展电路配置的选项。
另外,该配置可以被表示为如下的配置:时钟信号的平均频率在其从曝光时间段T的开始朝向曝光时间段T的结束逐渐降低的方向上变化。此外,该配置还可以被表示为如下的配置:在曝光时间段T的结束之前的预定时间段期间的平均频率小于在曝光时间段T的开始之后的预定时间段期间的平均频率。
第四配置
图15D是示出第四配置中的信号CLKB的时序图。尽管在图15B所示的第二配置中、信号CLKB的频率在其朝向曝光时间段T的后半部分减小的方向上不断改变,但在第四配置中,频率在T/m2和T/m之间变高一次。例如,假定如下的情况:在从曝光时间段T的开始到T/m2处的判断定时为止的时间段中,光子不是非常频繁地入射(即,低光照强度条件),并且在从t/m2处的判断定时到曝光时间段T的结束为止的时间段中,许多光子入射(即,高光照强度条件)。在这种情况下,如果采用图15B所示的驱动方法,则在后半部分中光照强度条件改变为高光照强度条件的情况下发生光子计数损失。在图15D所示的驱动方法中,即使在这样的条件下,也可以减少后半部分中的光子计数损失。另外,可以任意确定信号CLKB的频率的增加比或用以增加频率的定时,并且任何比和任何定时仅在它们满足扩大动态范围所需的脉冲数或更多的情况下才可以被选择。
第五配置
图15E是示出第五配置中的信号CLKB的时序图。第五配置与图15B所示的第二配置的不同之处在于:脉冲之间的间隔在组中相等,但组之间的距离逐渐增加。然而,在图15B和图15E中,各曝光时间段(由判断定时限定的时间段)中的脉冲数相同。根据图15E中的配置,在各曝光时间段中,当信号CLKB的脉冲彼此接近时,即使在光子的入射定时变得彼此接近的情况下也可以进行计数。因此,由于光电转换装置100可以具有高达高光照强度的灵敏度,因此可以扩大其动态范围。
另外,第五配置可以被表示为如下的配置:第一曝光时间段中的每单位时间的时钟信号的脉冲数大于第二曝光时间段中的每单位时间的时钟信号的脉冲数。换句话说,第一曝光时间段中的时钟信号的脉冲分布比与第二曝光时间段中的时钟信号的脉冲分布比相比更密集。
参考图16和图17,将给出对根据第三典型实施例的输入脉冲信号的输入方法的变形例的说明。图16和图17是各自示出输入到参考图6C所述的逻辑电路221的信号CLKB的时序图。
在图16中,信号CLKB(即,CLKB<0>、CLKB<1>、···、CLKB<n-1>和CLKB<n>)是与各个垂直扫描地址0、1、…、n-1和n相对应地输入的。在全局快门驱动方法中,可以在多个行中针对各垂直扫描地址控制频率针对曝光时间段而改变。在这种情况下,可以采用用于针对各垂直地址控制频率的任何方法。例如,可想到如下的配置:从控制脉冲生成单元115将具有各种频率的信号输入到垂直扫描电路单元110,并且在垂直扫描电路单元110中针对各地址选择频率。可替代地,可以将具有单个频率的信号输入到垂直扫描电路单元110,并且可以针对各垂直扫描地址在曝光时间段的中间对该信号进行分频。还可替代地,可以从垂直扫描电路单元110输入具有恒定频率的信号,并且可以在各像素的信号处理单元103中对该信号进行分频。
图17是示出另一驱动方法的示例,并且与图16的不同之处在于,该驱动方法不是全局快门驱动方法,而是滚动快门驱动方法。通过这样针对各地址进行频率控制,可以以任何驱动方法驱动光电转换装置100。
将参考图18来说明根据第四典型实施例的光电转换系统。图18是示意性示出根据本典型实施例的光电转换系统的框图。
在上述典型实施例中描述的光电转换装置可应用于各种光电转换系统。适用的光电转换系统的示例包括数字静态照相机、数字摄像机、监视照相机、复印机、传真机、便携式电话、车载照相机和观测卫星。
此外,包括摄像装置和诸如镜头等的光学系统的照相机模块被包括在光电转换系统中。图18是示出数字静态照相机作为示例的框图。
图18中作为示例示出的光电转换系统包括作为光电转换装置100的示例的摄像装置1004和用于将被摄体的光学图像会聚在摄像装置1004上的镜头1002。光电转换系统还包括用于改变通过镜头1002的光量的光圈1003和用于保护镜头1002的挡板1001。镜头1002和光圈1003包括在用于将光会聚在摄像装置1004上的光学系统中。摄像装置1004是根据上述典型实施例的光电转换装置100其中之一,并且将由镜头1002会聚的光学图像转换成电信号。
光电转换系统还包括用作图像生成单元的信号处理单元1007,该图像生成单元用于通过处理从摄像装置1004输出的输出信号来生成图像。信号处理单元1007进行在需要的情况下在对图像数据进行各种校正和压缩之后输出图像数据的操作。信号处理单元1007可以形成在设置有摄像装置1004的半导体层上,或者可以形成在与设置有摄像装置1004的半导体层不同的另一半导体层上。此外,摄像装置1004和信号处理单元1007可以形成在同一半导体层上。
光电转换系统还包括用于临时存储图像数据的存储器单元1010、以及用于与外部计算机等进行通信的外部接口(I/F)单元1013。光电转换系统还包括用于进行摄像数据的记录和读取的诸如半导体存储器等的记录介质1012、以及用于将数据记录到记录介质1012中并从记录介质1012读取数据的记录介质控制I/F单元1011。记录介质1012可以内置在光电转换系统中,或者可以附接到光电转换系统和从光电转换系统拆卸。
此外,光电转换系统包括用于控制各种计算并控制整个光电转换系统(数字照相机)的总体控制/计算单元1009、以及用于向摄像装置1004和信号处理单元1007输出各种定时信号的定时生成单元1008。在本典型实施例中,可以从外部输入定时信号,并且光电转换系统仅需要至少包括摄像装置1004和用于处理从摄像装置1004输出的输出信号的信号处理单元1007。
摄像装置1004将图像信号输出到信号处理单元1007。信号处理单元1007对从摄像装置1004输出的图像信号进行预定信号处理,并输出如此得到的图像数据。信号处理单元1007使用图像信号来生成图像。
以这种方式,根据本典型实施例,可以实现应用了根据上述任何典型实施例的光电转换装置100(摄像装置)的光电转换系统。
将参考图19A和图19B来说明根据第五典型实施例的光电转换系统和移动体。图19A和图19B是分别示出根据本典型实施例的光电转换系统2300和移动体的框图。
图19A示出与车载照相机相关的光电转换系统2300的示例。光电转换系统2300包括摄像装置2310。摄像装置2310是根据上述典型实施例的任何光电转换装置。光电转换系统2300包括用于对由摄像装置2310获得的多个图像数据进行图像处理的图像处理单元2312。此外,光电转换系统2300包括用于根据由光电转换系统2300获得的多个图像数据计算视差(即,视差图像之间的相位差)的视差获得单元2314。此外,光电转换系统2300包括用于基于所计算出的视差来计算到对象的距离的距离获得单元2316、以及用于基于所计算出的距离来判断是否存在碰撞的可能性的碰撞判断单元2318。在本典型实施例中,视差获得单元2314和距离获得单元2316各自均是用于获得与对象有关的距离信息的距离信息获得单元的示例。换句话说,距离信息是与视差、散焦量和到对象的距离等有关的信息。碰撞判断单元2318可以使用任何距离信息来判断碰撞的可能性。距离信息获得单元可以通过使用专门设计的硬件组件或软件模块来实现。此外,距离信息获得单元可以由现场可编程门阵列(FPGA)、专用集成电路(ASIC)或这些组件的组合来实现。
光电转换系统2300连接到运载工具信息获得装置2320,并且光电转换系统2300可以获得诸如车速、横摆角速度和转向角等的运载工具信息。此外,用于运载工具控制的电子控制单元(ECU)2330连接到光电转换系统2300。ECU 2330是被配置为基于碰撞判断单元2318的判断结果来向运载工具输出用于生成制动力的控制信号的控制装置(控制单元)。此外,光电转换系统2300连接到警报装置2340,该警报装置2340被配置为基于碰撞判断单元2318的判断结果来向运载工具的驾驶员输出警报。例如,在作为由碰撞判断单元2318进行的判断的结果、碰撞的可能性高的情况下,ECU 2330通过制动、松开油门踏板或抑制输出发动机功率来进行用以避免碰撞或减轻损坏的运载工具控制。
警报装置2340通过利用声音等给出警报、在汽车导航系统的屏幕上显示警报信息、或者对安全带或方向盘提供振动,来向用户给出警告。
在本典型实施例中,光电转换系统2300在运载工具的周围(例如,在运载工具的前侧或后侧)拍摄图像。图19B示出被配置为在运载工具的前侧(具有摄像范围2350)拍摄图像的光电转换系统2300。运载工具信息获得装置2320向光电转换系统2300或摄像装置2310发送指示。利用该配置,可以提高距离测量的准确度。
在上述典型实施例中,说明了光电转换系统进行控制以避免运载工具与另一运载工具碰撞的示例。光电转换系统还可应用于控制运载工具以进行跟随另一运载工具的自动驾驶或者进行不偏离交通车道的自动驾驶的情况。此外,除诸如小汽车等的运载工具之外,光电转换系统还可应用于诸如船舶、飞行器和工业机器人等的移动体(移动设备)。另外,不限于移动体,并且光电转换系统广泛可应用于使用对象识别的设备,诸如智能交通系统(ITS)等。
将参考图20来说明根据第六典型实施例的光电转换系统。图20是示出作为光电转换系统的距离图像传感器401的配置的框图。
如图20所示,距离图像传感器401包括光学系统402、光电转换装置403、图像处理电路404、监视器405和存储器406。距离图像传感器401可以通过接收从光源装置411向被摄体发射并在被摄体的表面上反射的光(调制光或脉冲光)来获得与到被摄体的距离相对应的距离图像。
光学系统402包括一个或多于一个镜头,并将来自被摄体的图像光(入射光)引导到光电转换装置403,以将图像光会聚在光电转换装置403的受光面(传感器部)上。
根据上述典型实施例的任何光电转换装置都可适用作为光电转换装置403,并且将表示根据从光电转换装置403输出的受光信号获得的距离的距离信号供给到图像处理电路404。
图像处理电路404进行用于基于从光电转换装置403供给的距离信号来构建距离图像的图像处理。然后,将通过图像处理获得的距离图像(图像数据)供给到监视器405以进行显示,或者供给到存储器406以进行存储(记录)。
如上所述配置的距离图像传感器401由于通过将上述光电转换装置403应用于距离图像传感器401所获得的像素的特性的提高,因此例如可以获得更准确的距离图像。
将参考图21来说明根据第七典型实施例的光电转换系统。图21是示意性示出根据本典型实施例的作为光电转换系统的内窥镜手术系统1103的示例配置的框图。
图21示出手术员(医生)1131正使用内窥镜手术系统1103对躺在病床1133上的患者1132进行外科手术的状态。如图21所示,内窥镜操作系统1103包括内窥镜1100、外科工具1110和手推车1134,在该手推车1134上放置有要用于内窥镜手术的各种装置。
内窥镜1100包括镜筒1101和照相机头1102。将从镜筒1101的前缘起的预定长度区域插入到患者1132的体腔中。照相机头1102连接到镜筒1101的基端。在图21的示例中,示出具有刚性镜筒1101的内窥镜1100(被称为刚性镜),但内窥镜1100可以被配置为具有柔性镜筒的柔性镜。
在镜筒1101的前缘处设置有装配有物镜的开口部。光源装置1203连接到内窥镜1100,并且由光源装置1203生成的光通过延伸穿过镜筒1101内部的光导被引导到镜筒1101的前缘,并且经由物镜被辐射到患者1132的体腔中的观察目标。另外,内窥镜1100可以是前视内窥镜、斜视内窥镜或侧视内窥镜。
照相机头1102包括光学系统和光电转换装置,并且从观察目标反射的光(观察光)由光学系统会聚在光电转换装置上。光电转换装置对观察光进行光电转换以生成与观察光相对应的电信号(即,与观察图像相对应的图像信号)。以上在典型实施例中描述的任何光电转换装置均可以用作光电转换装置。该图像信号被作为RAW数据发送到照相机控制单元(CCU)1135。
CCU 1135由中央处理单元(CPU)和图形处理单元(GPU)配置成,并且共同控制内窥镜1100和显示装置1136的操作。此外,CCU 1135从照相机头1102接收图像信号,并对图像信号进行诸如显像处理(去马赛克处理)等的各种图像处理,以显示基于该图像信号的图像。
在由CCU 1135控制的情况下,显示装置1136显示基于由CCU 1135进行了图像处理的图像信号的图像。
光源装置1203由诸如发光二极管(LED)等的光源配置成,并且向内窥镜1100供给在拍摄手术部位的图像时使用的照射光。
输入装置1137是内窥镜手术系统1103的输入接口。用户可以经由输入装置1137向内窥镜手术系统1103输入各种信息和指示。
处置工具控制装置1138控制组织烧灼、解剖或血管的封闭所使用的能量处置工具1112的驱动。
用于向内窥镜1100供给照射光以拍摄手术部位的图像的光源装置1203可以由白色光源配置成,该白色光源例如由LED、激光光源或其组合配置成。在白色光源由RGB激光光源的组合配置成的情况下,由于可以以高准确度控制各颜色(各波长)的输出强度和输出定时,因此可以利用光源装置1203调整拍摄图像的白平衡。在这种情况下,通过各个RGB激光光源以时分方式用激光照射观察对象,并且通过与照射定时同步地控制照相机头1102的图像传感器的驱动,可以以时分方式拍摄与红色、绿色和蓝色各自相对应的图像。利用该方法,即使在图像传感器上没有设置滤色器,也可以获得彩色图像。
此外,可以控制光源装置1203的驱动,以使得输出光的强度按预定时间间隔改变。可以通过与光强度改变定时同步地控制照相机头1102的图像传感器的驱动以按时分方式获得图像、并且合成所获得的图像,来生成无曝光不足和曝光过度的具有高动态范围的图像。
此外,光源装置1203可以被配置为供给可用于特殊光观察的预定波长范围中的光。在特殊光观察中,例如,使用对身体组织的光吸收的波长依赖性。更具体地,通过辐射具有比通常观察所用的照射光(白色光)的频带窄的窄频带的光,可以以高对比度拍摄粘膜的浅表部分中的诸如血管等的预定组织的图像。
可替代地,可以在特殊光观察中进行荧光观察。荧光观察利用通过辐射激发光生成的荧光来获得图像。荧光观察使得能够观察通过用激发光照射身体组织所获得的荧光,或者通过在身体组织中局部注射诸如吲哚菁绿(ICG)等的测试试剂并用具有与测试试剂的荧光波长相对应的荧光波长的激发光照射身体组织来获得荧光图像。光源装置1203可以被配置为供给可用于特殊光观察的窄频带光和/或激发光。
将参考图22A和图22B来说明根据第八典型实施例的光电转换系统。图22A是示出作为光电转换系统的一副眼镜1600(智能眼镜)的示例配置。
一副眼镜1600包括光电转换装置1602。光电转换装置1602是在上述典型实施例中的任何典型实施例中描述的光电转换装置。此外,可以在镜头1601的背面侧设置包括诸如有机LED(OLED)或LED等的发光装置的显示装置。可以设置一个或多于一个光电转换装置1602。此外,可以组合使用多个类型的光电转换装置1602。光电转换装置1602的布置位置不限于图22A所示的布置位置。
一副眼镜1600还包括控制装置1603。控制装置1603用作用以向光电转换装置1602和上述的显示装置供给电力的电源。此外,控制装置1603控制光电转换装置1602和显示装置的操作。在镜头1601中,形成光学系统以将光聚集在光电转换装置1602上。
图22B示出根据应用示例的一副眼镜1610(智能眼镜)。一副眼镜1610包括控制装置1612,并且在控制装置1612上安装有与光电转换装置1602相对应的光电转换装置以及显示装置。在镜头1611中,形成有用于将光引导到控制装置1612中的光电转换装置的光学系统和用于投射来自显示装置的光的光学系统,以将图像投射在镜头1611上。控制装置1612用作用以向光电转换装置和显示装置供给电力的电源,并且还控制光电转换装置和显示装置的操作。控制装置1612可以包括用于检测佩戴者的视线的视线检测单元。红外光可用于视线检测。红外发光单元向注视显示图像的用户的眼球发射红外光。利用包括受光元件的摄像单元来获得用户的眼球的拍摄图像,这些受光元件用于检测发射到用户的眼球并从其反射的红外光的反射光。通过在平面图中包括用于减少从红外发光单元向显示单元泄露的光的减少单元来减少图像质量的劣化。
在从红外摄像获得的眼球的拍摄图像中检测相对于显示图像的用户的视线。可以使用任何已知的技术来使用眼球的拍摄图像检测视线。作为示例,可以使用基于由角膜处的发射光的反射光形成的浦肯野图像的视线检测方法。
更具体地,进行基于瞳孔角膜反射方法的视线检测处理。使用瞳孔角膜反射方法,通过基于浦肯野图像和眼球的拍摄图像中所包括的瞳孔的图像计算表示眼球的方向(转动角度)的视线矢量来检测用户的视线。
根据本典型实施例的显示装置可以包括包含受光元件的光电转换装置,并且可以基于从光电转换装置获得的用户的视线信息来控制要在显示装置上显示的显示图像。
更具体地,用户正在注视的第一视野区域和除第一视野区域以外的第二视野区域由显示装置基于视线信息来确定。第一视野区域和第二视野区域可以由显示装置的控制装置确定,或者显示装置可以接收由外部控制装置确定的这两个视野区域。在显示装置的显示区域中,可以将第一视野区域的显示分辨率控制为高于第二视野区域的显示分辨率。换句话说,第二视野区域的分辨率可以被控制为低于第一视野区域的分辨率。
此外,显示区域可以包括第一显示区域和与第一显示区域不同的第二显示区域,并且可以基于视线信息来从第一显示区域和第二显示区域中确定高优先级区域。第一显示区域和第二显示区域可以由显示装置的控制装置确定,或者显示装置可以接收由外部控制装置确定的这些显示区域。高优先级区域的分辨率可以被控制为高于与高优先级区域不同的区域的分辨率。换句话说,相对较低优先级区域的分辨率可以被控制为更低。
另外,可以使用人工智能(AI)来确定第一视野区域或高优先级区域。AI可以是如下的模型,该模型被配置为通过使用眼球的图像和眼球实际正在注视的方向作为监督数据来根据眼球的图像估计视线的角度和到位于视线方向上的目标对象的距离。AI程序可以包括在显示装置、光电转换装置或外部装置中。在外部装置包括AI程序的情况下,将估计结果通过通信发送到显示装置。
在基于视线检测来进行显示控制的情况下,显示控制可以期望地应用于进一步包括用于拍摄外部对象的光电转换装置的智能眼镜。智能眼镜可以实时地显示所拍摄到的外部信息。
在不背离本发明的技术思想的精神和范围的情况下,可以适当地修改上述典型实施例。此外,将典型实施例中的配置的一部分添加到另一典型实施例的示例、以及典型实施例中的配置的一部分用另一典型实施例中的配置的一部分来替换的示例也包括在根据本发明的典型实施例中。
另外,本典型实施例的公开内容包括以下的配置和方法。
配置1
一种光电转换装置,包括:光电二极管,其被配置为进行雪崩倍增;设置在所述光电二极管和电源之间的电路,其被配置为在第一状态和第二状态之间进行切换,在所述第一状态下,所述光电二极管与所述电源电连接,在所述第二状态下,所述光电二极管不与所述电源电连接;计数器,其被配置为对从所述光电二极管输出的输出信号进行计数;以及存储器,其中表示所述计数器的计数值在预定曝光时间段内达到阈值的时间信息被写入所述存储器中,所述预定曝光时间段包括在曝光时间段中并且短于所述曝光时间段,其中,时钟信号被配置为在所述曝光时间段中被输入到所述电路。
配置2
根据配置1所述的光电转换装置,其中,所述预定曝光时间段包括第一曝光时间段和第二曝光时间段。
配置3
根据配置2所述的光电转换装置,其中,所述第一曝光时间段短于所述第二曝光时间段,并且所述第一曝光时间段中的所述时钟信号的脉冲数等于或大于所述计数器的最大计数值。
配置4
根据配置1至3中任一项所述的光电转换装置,其中,所述阈值是所述计数器的最大计数值。
配置5
根据配置1至3中任一项所述的光电转换装置,其中,所述阈值小于所述计数器的最大计数值。
配置6
根据配置1至3中任一项所述的光电转换装置,其中,所述阈值是所述计数器的最大计数值/n。
配置7
根据配置6所述的光电转换装置,其中,所述预定曝光时间段包括第一曝光时间段和比所述第一曝光时间段长的第二曝光时间段,以及其中,n等于或大于所述第二曝光时间段的长度/所述第一曝光时间段的长度的值。
配置8
根据配置2所述的光电转换装置,其中,所述第二曝光时间段的长度是所述第一曝光时间段的长度的两倍或多于两倍。
配置9
根据配置2至8中任一项所述的光电转换装置,其中,所述预定曝光时间段包括比所述第二曝光时间段长的第三曝光时间段,并且所述第三曝光时间段的长度是所述第二曝光时间段的长度的两倍或多于两倍。
配置10
根据配置2、8和9中任一项所述的光电转换装置,其中,所述预定曝光时间段包括比所述第二曝光时间段长的第三曝光时间段,其中,所述第三曝光时间段的长度是所述第二曝光时间段的长度的四倍或多于四倍,以及其中,所述第二曝光时间段的长度是所述第一曝光时间段的长度的四倍或多于四倍。
配置11
根据配置1至10中任一项所述的光电转换装置,还包括控制电路,所述控制电路被配置为在所述计数器在所述预定曝光时间段内达到所述阈值的情况下,改变要供给到所述电路中所包括的晶体管的栅极的电位。
配置12
根据配置1至11中任一项所述的光电转换装置,还包括控制电路,所述控制电路被配置为在所述计数器在所述预定曝光时间段内达到所述阈值的情况下,停止所述计数器。
配置13
根据配置1至12中任一项所述的光电转换装置,其中,所述存储器的位数小于所述计数器的位数。
配置14
根据配置1至13中任一项所述的光电转换装置,还包括所述光电二极管和所述计数器之间的逻辑电路,其中,所述时钟信号在所述曝光时间段中被输入到所述逻辑电路。
配置15
根据配置1至14中任一项所述的光电转换装置,其中,所述时钟信号在所述曝光时间段中具有两个或多于两个不同的频率。
配置16
根据配置2所述的光电转换装置,其中,作为所述第一曝光时间段中的所述时钟信号的平均频率的第一频率和作为所述第二曝光时间段中的所述时钟信号的平均频率的第二频率彼此不同。
配置17
根据配置16所述的光电转换装置,其中,所述第一频率高于所述第二频率。
配置18
根据配置2所述的光电转换装置,其中,所述第一曝光时间段中的每单位时间的所述时钟信号的脉冲数多于所述第二曝光时间段中的每单位时间的所述时钟信号的脉冲数。
配置19
一种计算电路,其被配置为计算从根据配置1至18中任一项所述的光电转换装置输出的信号,其中,所述计算电路基于所述时间信息来改变所述计数器的计数值的倍增率。
配置20
根据配置1所述的光电转换装置,还包括根据配置19所述的计算电路。
配置21
一种光电转换系统,包括:根据配置1所述的光电转换装置;以及根据配置19所述的计算电路。
配置22
一种光电转换系统,包括:根据配置1所述的光电转换装置;以及信号处理单元,其被配置为使用从所述光电转换装置输出的信号来生成图像。
配置23
一种移动体,包括:根据配置1所述的光电转换装置;以及控制单元,其被配置为使用从所述光电转换装置输出的信号来控制所述移动体的移动。
尽管已经参考典型实施例说明了本发明,但是应该理解,本发明不限于所公开的典型实施例。所附权利要求书的范围符合最宽的解释,以包含所有这类修改、等同结构和功能。
Claims (23)
1.一种光电转换装置,包括:
光电二极管,其被配置为进行雪崩倍增;
设置在所述光电二极管和电源之间的电路,其被配置为在第一状态和第二状态之间进行切换,在所述第一状态下,所述光电二极管与所述电源电连接,在所述第二状态下,所述光电二极管不与所述电源电连接;
计数器,其被配置为对从所述光电二极管输出的输出信号进行计数;以及
存储器,其中表示所述计数器的计数值在预定曝光时间段内达到阈值的时间信息被写入所述存储器中,所述预定曝光时间段包括在曝光时间段中并且短于所述曝光时间段,
其中,时钟信号被配置为在所述曝光时间段中被输入到所述电路。
2.根据权利要求1所述的光电转换装置,其中,所述预定曝光时间段包括第一曝光时间段和第二曝光时间段。
3.根据权利要求2所述的光电转换装置,其中,所述第一曝光时间段短于所述第二曝光时间段,并且所述第一曝光时间段中的所述时钟信号的脉冲数等于或大于所述计数器的最大计数值。
4.根据权利要求1至3中任一项所述的光电转换装置,其中,所述阈值是所述计数器的最大计数值。
5.根据权利要求1至3中任一项所述的光电转换装置,其中,所述阈值小于所述计数器的最大计数值。
6.根据权利要求1至3中任一项所述的光电转换装置,其中,所述阈值是所述计数器的最大计数值/n。
7.根据权利要求6所述的光电转换装置,
其中,所述预定曝光时间段包括第一曝光时间段和比所述第一曝光时间段长的第二曝光时间段,以及
其中,n等于或大于所述第二曝光时间段的长度/所述第一曝光时间段的长度的值。
8.根据权利要求2所述的光电转换装置,其中,所述第二曝光时间段的长度是所述第一曝光时间段的长度的两倍或多于两倍。
9.根据权利要求2或8所述的光电转换装置,其中,所述预定曝光时间段包括比所述第二曝光时间段长的第三曝光时间段,并且所述第三曝光时间段的长度是所述第二曝光时间段的长度的两倍或多于两倍。
10.根据权利要求2、8和9中任一项所述的光电转换装置,
其中,所述预定曝光时间段包括比所述第二曝光时间段长的第三曝光时间段,
其中,所述第三曝光时间段的长度是所述第二曝光时间段的长度的四倍或多于四倍,以及
其中,所述第二曝光时间段的长度是所述第一曝光时间段的长度的四倍或多于四倍。
11.根据权利要求1所述的光电转换装置,还包括控制电路,所述控制电路被配置为在所述计数器在所述预定曝光时间段内达到所述阈值的情况下,改变要供给到所述电路中所包括的晶体管的栅极的电位。
12.根据权利要求1所述的光电转换装置,还包括控制电路,所述控制电路被配置为在所述计数器在所述预定曝光时间段内达到所述阈值的情况下,停止所述计数器。
13.根据权利要求1所述的光电转换装置,其中,所述存储器的位数小于所述计数器的位数。
14.根据权利要求1所述的光电转换装置,还包括所述光电二极管和所述计数器之间的逻辑电路,
其中,所述时钟信号在所述曝光时间段中被输入到所述逻辑电路。
15.根据权利要求1所述的光电转换装置,其中,所述时钟信号在所述曝光时间段中具有两个或多于两个不同的频率。
16.根据权利要求2所述的光电转换装置,其中,作为所述第一曝光时间段中的所述时钟信号的平均频率的第一频率和作为所述第二曝光时间段中的所述时钟信号的平均频率的第二频率彼此不同。
17.根据权利要求16所述的光电转换装置,其中,所述第一频率高于所述第二频率。
18.根据权利要求2所述的光电转换装置,其中,所述第一曝光时间段中的每单位时间的所述时钟信号的脉冲数大于所述第二曝光时间段中的每单位时间的所述时钟信号的脉冲数。
19.一种计算电路,其被配置为计算从根据权利要求1所述的光电转换装置输出的信号,其中,所述计算电路基于所述时间信息来改变所述计数器的计数值的倍增率。
20.根据权利要求1所述的光电转换装置,还包括根据权利要求19所述的计算电路。
21.一种光电转换系统,包括:
根据权利要求1所述的光电转换装置;以及
根据权利要求19所述的计算电路。
22.一种光电转换系统,包括:
根据权利要求1所述的光电转换装置;以及
信号处理单元,其被配置为使用从所述光电转换装置输出的信号来生成图像。
23.一种移动体,包括:
根据权利要求1所述的光电转换装置;以及
控制单元,其被配置为使用从所述光电转换装置输出的信号来控制所述移动体的移动。
Applications Claiming Priority (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021-145932 | 2021-09-08 | ||
JP2021145932 | 2021-09-08 | ||
JP2022-018803 | 2022-02-09 | ||
JP2022018803 | 2022-02-09 | ||
JP2022-083065 | 2022-05-20 | ||
JP2022083065A JP2023039400A (ja) | 2021-09-08 | 2022-05-20 | 光電変換装置、光電変換システム |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115802182A true CN115802182A (zh) | 2023-03-14 |
Family
ID=85226645
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211092489.0A Pending CN115802182A (zh) | 2021-09-08 | 2022-09-08 | 光电转换装置、光电转换系统、计算电路和移动体 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20230071218A1 (zh) |
KR (1) | KR20230036971A (zh) |
CN (1) | CN115802182A (zh) |
DE (1) | DE102022122515A1 (zh) |
TW (1) | TW202312679A (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20230061032A (ko) * | 2021-10-28 | 2023-05-08 | 삼성전자주식회사 | 이미지 센서, 영상 획득 장치 및 이를 포함하는 전자 장치 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7321713B2 (ja) | 2019-01-30 | 2023-08-07 | キヤノン株式会社 | 光電変換装置、撮像システム、移動体 |
-
2022
- 2022-08-19 TW TW111131282A patent/TW202312679A/zh unknown
- 2022-08-25 KR KR1020220106797A patent/KR20230036971A/ko unknown
- 2022-09-06 US US17/930,033 patent/US20230071218A1/en active Pending
- 2022-09-06 DE DE102022122515.1A patent/DE102022122515A1/de active Pending
- 2022-09-08 CN CN202211092489.0A patent/CN115802182A/zh active Pending
Also Published As
Publication number | Publication date |
---|---|
DE102022122515A1 (de) | 2023-03-09 |
US20230071218A1 (en) | 2023-03-09 |
KR20230036971A (ko) | 2023-03-15 |
TW202312679A (zh) | 2023-03-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220352234A1 (en) | Photoelectric conversion device and photodetection system | |
US20220236420A1 (en) | Photoelectric conversion device, photodetection system, and movable object | |
US20230071218A1 (en) | Photoelectric conversion device and photoelectric conversion system | |
US20230343879A1 (en) | Photoelectric conversion apparatus, optical detection system, and movable body | |
US20230217137A1 (en) | Photoelectric conversion device and photodetection system | |
US11784195B2 (en) | Photoelectric conversion apparatus and photodetection system | |
US11743613B2 (en) | Photoelectric conversion device and photodetection system having avalanche photodiode | |
JP2022106660A (ja) | 光電変換装置、光検出システム | |
JP2023039400A (ja) | 光電変換装置、光電変換システム | |
US11937006B2 (en) | Photoelectric conversion apparatus and photoelectric conversion system | |
US20240171880A1 (en) | Photoelectric conversion apparatus, photoelectric conversion system, and moving body | |
US20230224609A1 (en) | Photoelectric conversion device | |
US20230120430A1 (en) | Photoelectric conversion apparatus | |
US11835386B2 (en) | Photoelectric conversion device, imaging system, light detection system, and mobile body | |
WO2023131996A1 (ja) | 光電変換装置及び光検出システム | |
US20230388675A1 (en) | Photoelectric conversion apparatus and system having photodiodes to perform avalanche multiplication | |
JP2022106649A (ja) | 光電変換装置、光検出システム | |
WO2023131995A1 (ja) | 光電変換装置及び光検出システム | |
US11855106B2 (en) | Signal processing device having counter counting pulses from avalanche photodiode | |
WO2023153218A1 (ja) | 光電変換装置 | |
WO2023199774A1 (ja) | 光電変換素子及びその製造方法、光電変換装置、光検出システム、並びに移動体 | |
TW202318862A (zh) | 光電轉換裝置 | |
JP2022113105A (ja) | 信号処理装置 | |
JP2023099400A (ja) | 光電変換装置及び光検出システム | |
JP2023099399A (ja) | 光電変換装置及び光検出システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |