CN114008419A - 超光谱成像系统中的脉冲照明 - Google Patents

Abstract

本发明公开了在缺光环境中的脉冲超光谱成像。本发明公开了一种系统，该系统包括用于发射电磁辐射脉冲的发射器和包括用于感测反射的电磁辐射的像素阵列的图像传感器。该系统包括控制器，该控制器被配置成能够同步发射器和图像传感器的定时。该系统使得由发射器发射的电磁辐射脉冲的至少一部分包括具有从约513nm至约545nm、从约565nm至约585nm或从约900nm至约1000nm的波长的电磁辐射。

Description

超光谱成像系统中的脉冲照明

技术领域

本公开涉及数字成像，并且具体地涉及缺光环境中的超光谱成像。

背景技术

科技的进步已提供了医用成像能力的进步。内窥镜可用于观察身体内部并检查身体的器官或腔体的内部。内窥镜用于调查患者的症状、确认诊断或提供医学治疗。医学内窥镜可用于观察多种身体系统和部分，诸如胃肠道、呼吸道、尿道、腹腔等。内窥镜还可用于外科规程，诸如整形外科规程、在关节或骨上进行的规程、在神经系统上进行的规程、在腹腔内进行的规程，等等。

在内窥镜成像的一些情况下，以彩色方式查看空间可能是有益的或必要的。数字彩色图像包括累积形成具有一定范围的色调的图像的至少三个层或“颜色通道”。颜色通道中的每个测量光谱带的光的强度和色度。通常，数字彩色图像包括红色、绿色和蓝色光谱带的颜色通道(这可称为红绿蓝或RGB图像)。红色、绿色和蓝色颜色通道中的每个包括红色、绿色或蓝色光谱带的亮度信息。将单独的红色、绿色和蓝色层的亮度信息组合以产生彩色图像。因为彩色图像由单独的层构成，所以常规的数字相机图像传感器包括颜色滤光器阵列，该颜色滤光器阵列允许红色、绿色和蓝色可见光波长击中所选择的像素传感器。每个单独的像素传感器元件对红色、绿色或蓝色波长敏感，并且将仅返回该波长的图像数据。将来自像素传感器的总阵列的图像数据组合以生成RGB图像。至少三种不同类型的像素传感器占据大量的物理空间，使得完整的像素阵列无法适配在内窥镜的小远侧端部中。

因为传统的图像传感器无法适配在内窥镜的远侧端部中，所以图像传感器传统上位于内窥镜的手持件单元中，该手持件单元由内窥镜操作者保持并且不放置在体腔内。在此类内窥镜中，光沿着内窥镜的长度从手持件单元传输到内窥镜的远侧端部。该配置具有显著限制。具有该配置的内窥镜是精密的，并且当其在常规使用期间发生碰撞或冲击时可容易地不对准或损坏。这可显著降低图像的质量，并且内窥镜需要频繁修理或更换。

具有放置在手持件单元中的图像传感器的传统内窥镜进一步限于仅捕获彩色图像。然而，在一些具体实施中，除了彩色图像数据之外，还可能期望用超光谱图像数据捕获图像。彩色图像反映人眼在观察环境时检测到的内容。然而，人眼仅限于观察可见光，并且无法检测到电磁光谱的其它波长。在超过“可见光”波长的电磁光谱的其它波长下，可获得关于环境的附加信息。用于获得在可见光谱之外图像数据的一种手段是应用超光谱成像。

超光谱成像用于识别不同的材料或物体，并且通过提供超出人眼可见的信息来识别不同的过程。不同于向人眼提供有限信息的正常相机图像，超光谱成像可基于化合物和生物过程的独特光谱特征来识别特定化合物和生物过程。超光谱成像是复杂的，并且可能需要快速的计算机处理能力、灵敏的检测器和大的数据存储容量。

超光谱成像传统上需要专用的图像传感器，该图像传感器消耗显著的物理空间并且不能配合在内窥镜的远侧端部内。此外，如果超光谱图像叠加在黑白或彩色图像上以向执业医生提供上下文，则能够生成叠加图像的相机(或多个相机)可具有对不同范围的电磁辐射敏感的许多不同类型的像素传感器。这将包括用于生成RGB彩色图像的三种单独类型的像素传感器，以及用于在电磁光谱的不同波长下生成超光谱图像数据的附加像素传感器。这消耗显著的物理空间，并且需要较大的像素阵列以确保图像分辨率令人满意。在内窥镜成像的情况下，一个或多个相机将太大而不能放置在内窥镜的远侧端部处，并且因此可以放置在内窥镜手单元或机器人单元中。这引入了与上述相同的缺点，并且可导致内窥镜非常精密，使得当内窥镜在使用期间发生碰撞或冲击时，图像质量会显著降低。

根据前述内容，本文描述了用于在缺光环境中进行改善的内窥镜成像的系统、方法和装置。本文公开的系统、方法和装置提供了用内窥镜装置进行颜色和超光谱成像的手段。

附图说明

参考以下附图描述了本公开的非限制性和非完全性的具体实施，其中除非另外指明，否则在各个视图中类似的附图标号指示类似的部分。参照以下说明和附图将更好地理解本公开的优点，其中：

图1是具有成对的发射器和像素阵列的用于在缺光环境中进行数字成像的系统的示意图；

图2为用于向缺光环境提供照明以用于内窥镜成像的系统；

图2A为互补系统硬件的示意图；

图3A至图3D为用于构建曝光帧的传感器的操作循环的图示；

图4A为电磁发射器的实施方案的操作的图示；

图4B为改变所发射电磁脉冲的持续时间和量值以提供曝光控制的图示；

图5为将图3A至图4B的传感器的操作循环、电磁发射器和所发射电磁脉冲组合的本公开的实施方案的图示，其示出了操作期间的成像系统；

图6A为用于在t(0)至t(1)的时间段内记录具有全光谱光的视频的方法的示意图；

图6B为用于通过在t(0)至t(1)的时间段内脉冲分段的光谱光来记录视频的过程的示意图；

图7A至图7E示出了在一定的时间间隔内用于记录全光谱光和分区光谱光两者的视频帧的方法的示意图；

图8示出了图像传感器的像素阵列，该像素阵列包括用于感测离散曝光帧以生成YCbCr图像帧的多个像素；

图9示出了图像传感器的像素阵列，该像素阵列包括用于感测离散曝光帧以生成YCbCr图像帧的多个像素；

图10示出了图像传感器的像素阵列，该像素阵列包括用于感测离散曝光帧以生成YCbCr图像帧的多个像素；

图11示出了图像传感器的像素阵列，该像素阵列包括用于感测离散曝光帧以生成RGB图像帧的多个像素；

图12示出了图像传感器的像素阵列，该像素阵列包括用于感测离散曝光帧以生成YCbCr图像帧的多个像素；

图13示出了图像传感器的像素阵列，该像素阵列包括用于感测离散曝光帧以生成RGB图像帧的多个像素；

图14示出了图像传感器的像素阵列，该像素阵列包括用于感测离散曝光帧以生成YCbCr图像帧的多个像素；

图15为用于应用校正算法并且用于将帧重建应用于多个曝光帧以用于生成上面叠加有超光谱数据的YCbCr图像帧的处理流程的示意图；

图16为用于将校正算法和帧重建应用于多个曝光帧以用于生成上面叠加有超光谱数据的RGB图像帧的处理流程的示意图；

图17为颜色融合硬件的示意图；

图18示出了用长曝光像素和短曝光像素捕获的曝光帧的区域的黑校正信号的两个对应的直方图；

图19A为用于Y-Cb-Y-Cr脉冲模式的曝光帧流水线的示意图；

图19B为用于生成视频流的120Hz帧捕获速率的曝光帧流水线的示意图；

图20为用于通过脉冲光的分区光谱生成上面叠加有超光谱数据的RGB图像的模式重建过程的示意图；

图21A至图21C示出了具有多个发射器的光源；

图22示出了在输出处经由漫射器输出以照明缺光环境中的场景的单根光纤；

图23示出了根据本公开的原理和教导内容的被分成可由光源的发射器发射的多个不同子光谱的电磁光谱的一部分；

图24为示出了用于生成图像帧的发射和读出的时序的示意图，该图像帧包括由脉冲光的不同分区产生的多个曝光帧；

图25A和图25B示出了根据本公开的原理和教导内容的具有用于产生三维图像的多个像素阵列的具体实施；

图26A和26B分别示出了构建在多个基板上的成像传感器的具体实施的透视图和侧视图，其中形成像素阵列的多个像素列位于第一基板上，并且多个电路列位于第二基板上，图中显示了一列像素与其相关的或对应的电路列之间的电气连接和通信；并且

图27A和图27B分别示出了具有多个像素阵列用于产生三维图像的成像传感器的具体实施的透视图和侧视图，其中多个像素阵列和图像传感器构建在多个基板上；

具体实施方式

本文公开了可主要适用于医学应用诸如医学内窥镜成像的用于数字成像的系统、方法和装置。本公开的一个实施方案是用于在缺光环境中进行超光谱和彩色成像的内窥镜系统。本文所公开的此类方法、系统和基于计算机的产品提供用于医学机器人应用，诸如用于执行成像规程、外科规程等的机器人的使用的成像或诊断能力。

常规内窥镜被设计成使得图像传感器被放置在手持件单元内的装置的近侧端部处。该配置要求入射光通过精确耦合的光学元件行进内窥镜的长度。精确的光学元件在正常使用期间可容易地不对准，并且这可导致图像失真或图像丢失。本公开的实施方案将图像传感器放置在内窥镜本身的远侧端部中的空间高度受限的环境内。当与本领域中已知的具体实施相比时，这提供了更大的光学简单性。然而，该方法的可接受的解决方案并不简单，而是带来了一系列工程挑战。

当最小化图像传感器的总体尺寸使得图像传感器可适配在内窥镜的远侧末端内时，可存在显著的图像质量损失。可通过减少像素数量和/或每个单独像素的感测区域来减小图像传感器的像素阵列的面积。这些修改中的每一种修改都影响所得图像的分辨率、灵敏度和动态范围。传统的内窥镜成像系统旨在借助于分段像素阵列(诸如拜耳模式阵列)来感测稳定的宽带照明并且提供颜色信息。根据与分段像素阵列相关联的缺陷，本文公开了使用不包括单独的像素滤光器的单色(可称为“颜色不定的”)像素阵列的另选系统和方法。在本文所公开的实施方案中，通过用不同波长的电磁辐射对发射器进行脉冲来提供颜色信息。本文所公开的脉冲成像系统可生成上面叠加有超光谱成像数据的彩色图像。

在一个实施方案中，通过响应于不同波长的电磁辐射脉冲捕获独立的曝光帧来确定颜色信息。另选脉冲可包括红色、绿色和蓝色波长，用于生成由红色曝光帧、绿色曝光帧和蓝色曝光帧组成的RGB图像帧。在另选的具体实施中，另选脉冲可包括用于生成由亮度数据、红色色度数据和蓝色色度数据组成的YCbCr图像帧的光的亮度(“Y”)、红色色度(“Cr”)和蓝色色度(“Cb”)脉冲。彩色图像帧还可包括来自叠加在RGB或YCbCr图像帧上的超光谱曝光帧的数据。超光谱脉冲可包括用于引发光谱响应的一个或多个电磁辐射脉冲。在一个实施方案中，超光谱发射包括具有从约513nm至约545nm、从约565nm至约585nm或从约900nm至约1000nm的波长的电磁辐射中的一种或多种。使脉冲电磁辐射的波长交替允许利用全像素阵列并且避免拜耳模式像素阵列引入的伪影。

在一些情况下，希望生成具有多种数据类型或彼此重叠的多个图像的内窥镜成像。例如，希望生成还包括叠加在RGB图像上的超光谱成像数据的彩色(RGB或YCbCr)图像。具有这种性质的重叠图像可使得执业医生或计算机程序能够基于超光谱成像数据识别关键身体结构。历史上，这将需要使用多个传感器系统，该多个传感器系统包括用于彩色成像的图像传感器和用于超光谱成像的一个或多个附加的图像传感器。在此类系统中，多个图像传感器将具有多种类型的像素传感器，这些像素传感器各自对不同范围的电磁辐射敏感。在本领域已知的系统中，这包括用于生成RGB彩色图像的三种单独类型的像素传感器，以及用于在不同波长的电磁光谱下生成超光谱图像数据的附加的像素传感器。这些多个不同的像素传感器占据过大的物理空间，并且无法位于内窥镜的远侧末端处。在本领域已知的系统中，一个或多个相机不放置在内窥镜的远侧末端处，而是放置在内窥镜手持件或机器人单元中。这造成了许多缺点并且导致内窥镜非常精密。当内窥镜在使用期间发生碰撞或冲击时，精密的内窥镜可能被损坏并且图像质量可能降低。考虑到前述内容，本文所公开的是用于在缺光环境中进行内窥镜成像的系统、方法和装置。本文所公开的系统、方法和装置提供了用于在单个成像过程中采用多种成像技术同时允许一个或多个图像传感器设置在内窥镜的远侧末端中的装置。

超光谱成像

在一个实施方案中，本文所公开的系统、方法和装置提供了用于在缺光环境中生成超光谱成像数据的装置。光谱成像使用跨电磁光谱的多个频带。这不同于仅捕获跨越基于人眼可分辨的可见光谱的三个波长(包括红色、绿色和蓝色波长)的光以生成RGB图像的常规相机。光谱成像可使用电磁光谱中的任何波长带，包括红外波长、可见光谱、紫外光谱、x射线波长或各种波长带的任何合适的组合。

超光谱成像最初开发用于采矿和地质中的应用。不同于向人眼提供有限信息的正常相机图像，超光谱成像可基于不同矿物质的光谱特征来识别特定矿物质。高光谱成像即便在捕获于航拍图像中时也很有用，并且可提供关于例如来自管道或天然井的油或气泄漏以及它们对附近植被的影响的信息。基于可通过超光谱成像识别的某些材料、对象或过程的光谱特征来收集该信息。超光谱成像也可用于医学成像应用中，其中某些组织、化学过程、生物过程和疾病可以基于独特的光谱特征来识别。

在超光谱成像的一个实施方案中，在图像平面中的每个像素处收集完整光谱或一些光谱信息。超光谱相机可使用特殊硬件来针对每个像素捕获任何合适数量的波长带，该波长带可被解释为完整光谱。超光谱成像的目标针对不同的应用而变化。在一个应用中，目标是获得图像场景中每个像素的整个电磁光谱的成像数据。在另一应用中，目标是获得图像场景中每个像素的电磁光谱的某些分区的成像数据。可以基于图像场景中可能识别的内容来选择电磁光谱的某些分区。当某些材料或组织在可见光波长带下不能被识别时，这些应用使得能够精确地识别这些材料、组织、化学过程、生物过程和疾病。在一些医学应用中，超光谱成像包括已经选择以识别某些组织、疾病、化学过程等的电磁光谱的一个或多个特定分区。可以在医学应用中脉冲用于超光谱成像的电磁光谱的一些示例性分区包括波长为从约513nm至约545nm、从约565nm至约585nm和/或从约900nm至约1000nm的波长的电磁辐射的发射。

超光谱成像实现许多优于常规成像的优点，并且在医学应用中实现特定优点。内窥镜超光谱成像允许健康执业医生或计算机实现的程序识别神经组织、肌肉组织、血管、癌细胞、典型的非癌细胞、血流方向等。超光谱成像使得非典型癌组织能够与典型健康组织精确区分，并且因此可使得执业医生或计算机实施的程序能够在手术或研究成像期间分辨癌性肿瘤的边界。通过超光谱成像获得的信息使得能够精确地识别可能导致在使用常规成像的情况下可能不可诊断或可能诊断不太准确的某些组织或病症。另外，在医学规程期间可使用超光谱成像来提供图像引导的外科手术，使得执业医生能够例如查看位于某些组织或流体后面的组织，识别与典型健康细胞形成对比的非典型癌细胞，识别某些组织或病症，识别关键结构等。超光谱成像提供不能用常规成像生成的关于组织生理、形态和组成的专用诊断信息。

在本公开的一个实施方案中，内窥镜系统照明源并脉冲用于光谱或超光谱成像的电磁辐射。本文讨论的脉冲超光谱成像包括脉冲电磁光谱的一个或多个带，并且可以包括红外波长、可见光谱、紫外光谱、x射线波长或各种波长带的任何合适的组合。在一个实施方案中，超光谱成像包括具有从约513nm至约545nm、约565nm至约585nm和/或从约900nm至约1000nm的波长的电磁辐射的发射。

脉冲成像

本公开的一些具体实施包括传感器和系统组合设计的各个方面，该设计能够在受限的照明环境中以减少的像素数生成高清晰度图像。这通过以下方式来实现：逐帧地脉冲单色波长，并且使用受控光源结合高帧捕获速率和特别设计的对应单色传感器在单个不同颜色波长之间切换或交替每个帧。另外，可脉冲可见光谱外的电磁辐射以使得能够生成超光谱图像。像素可以是颜色不定的，使得每个像素生成针对每个电磁辐射脉冲的数据，该每个电磁辐射脉冲包括红色、绿色和蓝色可见光波长以及可用于超光谱成像的其他波长的脉冲。

本公开的系统为一种在缺光环境中使用的内窥镜成像系统。该系统包括内窥镜，该内窥镜包括图像传感器，其中该图像传感器被配置成能够感测用于生成多个曝光帧的反射的电磁辐射，该多个曝光帧可被组合以生成上面叠加有超光谱数据的RGB图像帧。该系统包括用于发射电磁辐射脉冲的发射器。该系统包括与图像传感器和发射器电子通信的控制器(可另选地称为“控制电路”)。该控制器响应于对应于发射器的占空比的信号来控制发射器的占空比。图像传感器包括可发送和接收信息的双向焊盘。图像传感器的双向焊盘在被分成三个限定状态的帧周期中操作，该三个限定状态包括滚动读出状态、服务项目状态和配置状态。该系统包括设置在控制器中的振荡器和连接到控制器的频率检测器。该频率检测器响应于来自控制器的对应于振荡器频率的信号来控制图像传感器的时钟频率。该系统使得时钟信号数据在服务项目阶段和配置阶段期间从图像传感器的双向焊盘传输到控制器。该系统使得曝光帧在不使用输入时钟或数据传输时钟的情况下同步。

为了促进对根据本公开的原理的理解的目的，现在将参考附图中所示的实施方案，并且将使用特定的语言来描述这些实施方案。然而，应当理解，因此并不旨在限制本公开的范围。本文所示的本发明特征的任何改变和进一步修改，以及如本文所示的本公开的原理的任何附加的应用(其对于相关领域的技术人员和了解本公开内容的人通常将会发生)将被认为在受权利要求书保护的公开的范围内。

在公开和描述用于在缺光环境中产生图像的结构、系统和方法之前，应当理解，本公开不限于本文所公开的特定结构、配置、工艺步骤和材料，因为此类结构、配置、工艺步骤和材料可一定程度地变化。另外应当理解，本文所用的术语只是为了描述具体实施方案的目的，并不旨在进行限制，因为本发明的范围将仅由所附权利要求书及其等同形式来限定。

在描述及对本公开的主题提出权利要求时，将根据下列定义使用以下术语。

应当指出的是，如本说明书和所附权利要求书中使用的单数形式“一种”、“一个”和“该”包括多个指代物，除非上下文中明确表示其它含义。

如本文所用，术语“包括”、“包含”、“其特征在于”以及它们的语法同等成分是非遍举的或开放式的术语，不排除额外的、未述及的要素或方法步骤。

如本文所用，短语“由……组成”及其语法同等成分排除未载入权利要求书的任何要素或步骤。

如本文所用，短语“主要由……组成”及其语法同等成分将权利要求的范围限制于规定的材料或步骤以及本质上不影响被要求保护的本公开的之一种或多种基本及新颖特征的材料或步骤。

如本文所用，术语“近侧”广义上是指靠近起始点的部分的概念。

如本文所用，术语“远侧”一般是指与近侧相反，因此根据上下文其是指距离起始点较远的部分或最远的部分的概念。

如本文所用，颜色传感器或多光谱传感器是那些已知具有颜色滤光器阵列(CFA)的传感器，在其上以便将入射电磁辐射过滤为其单个分量。在电磁光谱的可见范围中，此类CFA可以基于拜尔模板或其修改形式，以便分离光线中的绿色、红色和蓝色光谱分量。

如本文所用，单色传感器是指无过滤功能的成像传感器。因为像素是颜色不定的，所以其有效空间分辨率明显高于传统单传感器相机中的像素颜色(通常采用拜耳模式过滤)对等物。因为单个像素之间浪费的入射光子更少，因此单色传感器也可具有更高的量子效率。

如本文所用，发射器是能够生成和发射电磁脉冲的装置。发射器的各种实施方案可被配置成能够发射脉冲并且具有来自整个电磁频谱内的非常特定的频率或频率范围。脉冲可包括可见范围和不可见范围的波长。发射器可循环打开和关闭以产生脉冲，或者可以用快门机构产生脉冲。发射器可具有可变功率输出电平，或者可以用辅助装置诸如光圈或滤光器来控制。发射器可发射可通过颜色过滤或快门动作产生脉冲的宽光谱或全光谱电磁辐射。发射器可包括单独地或协同起作用的多个电磁源。

应当指出，如本文所用，术语“光”既是粒子又是波长，并且旨在表示可被像素阵列122检测的电磁辐射，并且可包括来自电磁辐射的可见光谱和不可见光谱的波长。本文所用的术语“分区”是指电磁光谱的预定波长范围，其小于整个光谱，或者换句话讲，构成电磁光谱的某一部分的波长。如本文所用，发射器是关于所发射的电磁光谱的一部分可控制的光源，或是可操作其部件的物理性质、发射强度或发射持续时间或以上所有的光源。发射器可发射任何抖动的、漫射的或准直的发射中的光，并且可通过数字方式或通过模拟方法或系统来进行控制。如本文所用，电磁发射器是电磁能量爆发源，并且其包括光源，诸如激光、LED、白炽光、或可进行数字控制的任何光源。

现在参见附图，图1示出了用于在缺光环境中进行顺序脉冲成像的系统100的示意图。可部署系统100以生成RGB图像，其中超光谱数据叠加在RGB图像上。系统100包括发射器102和像素阵列122。发射器102在缺光环境112中脉冲电磁辐射的分区，并且像素阵列122感测反射的电磁辐射的实例。发射器102和像素阵列122按顺序工作，使得电磁辐射的分区的一个或多个脉冲产生包括由像素阵列122感测的图像数据的曝光帧。

图像传感器的像素阵列122可与发射器102以电子方式配对，使得发射器102和像素阵列122在操作期间被同步用于接收发射和系统内所进行的调节。发射器102可被调谐成发射激光形式的电磁辐射，该电磁辐射可被脉冲以照明缺光环境112。发射器102可以对应于像素阵列122的操作和功能的间隔脉冲。发射器102可脉冲多个电磁分区中的光，使得像素阵列接收电磁能量并且产生与每个特定电磁分区在时间上对应的数据集。例如，图1示出了具体实施，其中发射器102发射电磁辐射的四个不同分区，包括红色104波长、绿色106波长、蓝色108波长和超光谱110发射。超光谱110发射可以包括电磁光谱中引起光谱响应的波长带。超光谱110发射可包括彼此分开且独立的多个单独发射。

在图1中未示出的可供选择的实施方案中，光的脉冲发射包括亮度(“Y”)发射、红色色度(“Cr”)发射和蓝色色度(“Cb”)发射，而不是脉冲的红色104发射、脉冲的绿色106发射和脉冲的蓝色108发射。在一个实施方案中，控制器或发射器102根据颜色变换系数来将电磁辐射脉冲模块化以提供亮度和/或色度信息，这些颜色变换系数将来自红色、绿色和蓝色的光能空间的光能转换为亮度、红色色度和蓝色色度的光能空间。光的脉冲发射还可包括调制的蓝色色度(“λY+Cb”)脉冲和/或调制的红色色度(“δY+Cr”)脉冲。

缺光环境112包括反射红色114、绿色116和/或蓝色118光的组合的结构、组织和其他元件。被感知为红色114的结构将反射回脉冲的红色104光。从红色结构反射离开导致在脉冲的红色104发射之后由像素阵列122感测的红色105。由像素阵列122感测的数据产生红色曝光帧。被感知为绿色116的结构将反射回脉冲的绿色106光。从绿色结构反射离开导致在脉冲的绿色106发射之后由像素阵列122感测的绿色107。由像素阵列122感测的数据产生绿色曝光帧。被感知为蓝色118的结构将反射回脉冲的蓝色108光。从蓝色结构反射离开导致在脉冲的蓝色108发射之后由像素阵列122感测的蓝色109。由像素阵列122感测的数据产生蓝色曝光帧。

当结构为颜色的组合时，结构将反射回脉冲的红色104发射、脉冲的绿色106发射和/或脉冲的蓝色108发射的组合。例如，被感知为紫色的结构将反射回来自脉冲的红色104发射和脉冲的蓝色108发射的光。由像素阵列122感测的所得数据将指示光在脉冲的红色104发射和脉冲的蓝色108发射之后在相同区域中被反射。当所得红色曝光帧和蓝色曝光帧组合而形成RGB图像帧时，RGB图像帧将指示结构为紫色。

在缺光环境112包括荧光试剂或染料或包括一个或多个荧光结构、组织或其他元件的实施方案中，脉冲方案可包括某些荧光激发波长的发射。可选择某些荧光激发波长来使已知的荧光试剂、染料或其他结构发荧光。荧光结构将对荧光激发波长敏感并且将发射荧光弛豫波长。在荧光激发波长的发射之后，荧光弛豫波长将由像素阵列122感测。由像素阵列122感测的数据产生荧光曝光帧。荧光曝光帧可与多个其他曝光帧组合以形成图像帧。荧光曝光帧中的数据可叠加在RGB图像帧上，该RGB图像帧包括来自红色曝光帧、绿色曝光帧和蓝色曝光帧的数据。

在其中缺光环境112包括对电磁波谱的某些分区发出光谱响应的结构、组织或其他材料的实施方案中，脉冲方案可包括电磁辐射的超光谱分区的发射，以用于引发来自存在于缺光环境112中的结构、组织或其他材料的光谱响应。该光谱响应包括某些波长的电磁辐射的发射或反射。该光谱响应可由像素阵列122感测并且产生超光谱曝光帧。超光谱曝光帧可与多个其他曝光帧组合以形成图像帧。超光谱曝光帧中的数据可叠加在RGB图像帧上，该RGB图像帧包括来自红色曝光帧、绿色曝光帧和蓝色曝光帧的数据。

在一个实施方案中，脉冲方案包括激光标测的发射或工具跟踪模式。在激光标测的发射或工具跟踪模式之后由像素阵列122感测的反射电磁辐射导致激光标测曝光帧。激光标测曝光帧中的数据可以被提供给对应的系统以识别例如在缺光环境112中存在的工具之间的距离、缺光环境112中的场景的三维表面拓扑、场景内的结构或对象的距离、尺寸或位置，等等。该数据可叠加在RGB图像帧上或以其他方式提供给系统的用户。

发射器102可以是激光发射器，该激光发射器能够发射脉冲的红色104光以用于生成用于识别缺光环境112内的红色114元件的感测的红色105数据。发射器102还能够发射脉冲的绿色106光，以用于生成用于识别缺光环境内的绿色116元件的感测的绿色107数据。发射器102还能够发射脉冲的蓝色108光，以用于生成用于识别缺光环境内的蓝色118元件的感测的蓝色109数据。发射器102进一步能够发射超光谱110发射以识别对超光谱120辐射敏感的元件。发射器102能够以任何期望的顺序发射脉冲红色104、脉冲绿色106、脉冲蓝色108和脉冲超光谱110发射。

像素阵列122感测反射的电磁辐射。感测红色105、感测绿色107、感测蓝色109和感测超光谱111数据中的每一者可被称为“曝光帧”。感测超光谱111可导致彼此分开且独立的多个单独曝光帧。例如，感测的超光谱111可以在电磁辐射的第一分区处产生第一超光谱曝光帧，在电磁辐射的第二分区处产生第二超光谱曝光帧，等等。为每个曝光帧分配特定的颜色或波长分区，其中该分配基于来自发射器102的脉冲的颜色或波长分区的定时。曝光帧与所分配的特定颜色或波长分区的组合可被称为数据集。即使像素122不是专用颜色，也可基于关于发射器的先验信息为任何给定数据集分配颜色。

例如，在操作期间，在脉冲的红色104光在缺光环境112中脉冲之后，像素阵列122感测反射的电磁辐射。反射的电磁辐射产生曝光帧，并且曝光帧被归类为感测的红色105数据，因为它在时间上与脉冲的红色104光相对应。曝光帧连同其在时间上与脉冲的红色104光对应的指示为“数据集”。对于由发射器102发射的电磁辐射的每次分配，重复该过程。由像素阵列122创建的数据包括感测红色105曝光帧，该感测红色曝光帧识别缺光环境中的红色114分量并且在时间上与脉冲红色104光对应。该数据还包括识别缺光环境中的绿色116分量并且在时间上与脉冲的绿色106光相对应的感测的绿色107曝光帧。该数据还包括识别缺光环境中的蓝色118分量并且在时间上与脉冲的蓝色108光相对应的感测的蓝色109曝光帧。数据还包括感测到的超光谱111曝光帧，其识别对超光谱120辐射敏感并在时间上与超光谱110发射相对应的元件。

在一个实施方案中，将表示红色、绿色和蓝色电磁脉冲的三个数据集组合以形成单个图像帧。因此，红色曝光帧、绿色曝光帧和蓝色曝光帧中的信息被组合以形成单个RGB图像帧。表示其他波长分区的一个或多个附加数据集可以叠加在单个RGB图像帧上。该一个或多个另外的数据集可表示例如激光标测数据、荧光成像数据和/或超光谱成像数据。

应当理解，在不脱离本公开的范围的情况下，本公开不限于任何特定的颜色组合或任何特定的电磁分区，并且任何颜色组合或任何电磁分区均可用于代替RED、GREEN和BLUE，诸如青色、洋红色和黄色；紫外线；红外线；前述的任何组合或任何其它颜色组合，包括所有可见波长和不可见波长。在图中，待成像的缺光环境112包括红色114部分、绿色116部分和蓝色118部分，并且还包括对超光谱120辐射敏感的元件，该元件可被感测并标测到三维渲染中。如图所示，来自电磁脉冲的反射光仅包含对象的具有对应于脉冲颜色分区的特定颜色的部分的数据。这些单独的颜色(或颜色间隔)数据集然后可用于通过在126处组合数据集来重建图像。多个曝光帧(即，多个数据集)中的每个曝光帧中的信息可以由控制器124、控制电路、相机控制器、图像传感器、图像信号处理流水线或一些其他计算资源组合，这些计算资源可被配置成能够在126处处理多个曝光帧并且组合数据集。如本文所讨论的，控制器124可以包括控制电路、相机控制器和/或图像信号处理流水线的结构和功能。数据集可被组合以在内窥镜单元自身内或由一些其他处理资源在场外生成单个图像帧。

图2为用于向缺光环境(诸如用于内窥镜成像)提供照明的系统200。系统200可与本文所公开的系统、方法或装置中的任一者结合使用。系统200包括发射器202、控制器204、跳线波导206、波导连接器208、内腔波导210、内腔212和具有附带的光学部件(诸如透镜)的图像传感器214。发射器202(可以统称为“光源”)生成行进穿过跳线波导206和内腔波导210的光以照明内腔212的远侧端部处的场景。发射器202可用于发射任何波长的电磁能量，包括可见波长、红外、紫外、超光谱、荧光激发、激光标测脉冲方案或其他波长。可将内腔212插入患者体内以进行成像，诸如在规程或检查期间。如虚线216所示输出光。可使用图像传感器214捕获由光照明的场景并且向医生或一些其它医学人员显示该场景。控制器204可向发射器202提供控制信号以控制何时向一个场景提供照明。在一个实施方案中，发射器202和控制器204位于内窥镜所连接的相机控制器(CCU)或外部控制台内。如果图像传感器214包括CMOS传感器，则可在所谓的消隐周期期间以图像传感器214的读出周期之间的一系列照明脉冲周期性地向该场景提供光。因此，光可以受控方式被脉冲，以避免叠层到图像传感器214的像素阵列中的图像像素的读出周期中。

在一个实施方案中，内腔波导210包括一根或多根光纤。这些光纤可由低成本材料(诸如塑料)制成，以允许内腔波导210和/或内窥镜的其它部分的处理。在一个实施方案中，内腔波导210是直径为500微米的单根玻璃纤维。跳线波导206可永久性地附接到发射器202。例如，跳线波导206可从发射器202内的发射器接收光，并且在连接器208的位置处向内腔波导210提供光。在一个实施方案中，跳线波导106包括一个或多个玻璃光纤。跳线波导可包括用于将光引导至内腔波导210的任何其他类型的波导。连接器208可将跳线波导206选择性地耦合到内腔波导210，并且允许跳线波导206内的光通过内腔波导210。在一个实施方案中，内腔波导210直接被耦合到光源，而无需任何居间跳线波导206。

图像传感器214包括像素阵列。在一个实施方案中，图像传感器214包括用于生成三维图像的两个或更多个像素阵列。图像传感器214可构成另外两个图像传感器，这两个图像传感器各自具有独立的像素阵列并且可彼此独立地操作。图像传感器214的像素阵列包括有源像素和光学黑色(“OB”)或光学盲像素。有源像素可以是能够感测任何波长的电磁辐射的成像数据的透明“颜色不定的”像素。当像素阵列被“重置”或校准时，在像素阵列的消隐周期期间读取光学黑色像素。在一个实施方案中，当正在读取光学黑色像素时，光在像素阵列的消隐周期期间脉冲。在已读取光学黑色像素之后，在像素阵列的读出周期期间读取有源像素。有源像素可由在消隐周期期间脉冲的电磁辐射充电，使得有源像素准备好在像素阵列的读出周期期间由图像传感器读取。

图2A是互补系统硬件诸如专用或通用计算机的示意图。在本公开范围内的具体实施也可包括用于承载或存储计算机可执行指令和/或数据结构的物理及其他非暂态计算机可读介质。此类计算机可读介质可为可通过通用或专用计算机系统访问的任何可用介质。存储计算机可执行指令的计算机可读介质为计算机存储介质(装置)。承载计算机可执行指令的计算机可读介质为传输介质。因此，以举例而非限制性的方式，本公开的具体实施可包括至少两种明显不同种类的计算机可读介质：计算机存储介质(装置)和传输介质。

计算机存储介质(装置)包括RAM、ROM、EEPROM、CD-ROM、固态硬盘(“SSD”)(例如，基于RAM)、闪存存储器、相变存储器(“PCM”)、其他类型的存储器、其他光盘存储器、磁盘存储器或其他磁存储器装置、或任何其他可用于存储期望的呈计算机可执行指令或数据结构的形式的程序代码工具并且可通过通用或专用计算机来访问的介质。

“网络”是指一个或多个数据链路，其能够使电子数据在计算机系统和/或模块和/或其它电子装置之间进行传输。在一个具体实施中，传感器与相机控制器可网络化，以便彼此通信，以及与通过它们所连接网络进行连接的其他部件进行通信。当信息通过网络或另外的通信连接(硬连接、无线或者硬连接或无线的组合)传送或提供至计算机时，计算机合理地将该连接视作传输介质。传输介质可包括网络和/或数据链路，该网络和/或数据链路可用于承载期望的呈计算机可执行指令或数据结构的形式的程序代码工具并且可通过通用或专用计算机来访问。上述组合也应涵盖在计算机可读介质的范围内。

另外，在到达各种计算机系统部件时，呈计算机可执行指令或数据结构的形式的程序代码工具，其可由传输介质自动传送至计算机存储介质(装置)(反之亦然)。例如，通过网络或数据链路接收的计算机可执行指令或数据结构可缓存于网络接口模块(例如，“NIC”)内的RAM中，然后最终传送至计算机系统RAM和/或计算机系统的非易失性计算机存储介质(装置)中。RAM还可包括固态硬盘(SSD或基于PCIx的实时存储器分层存储装置，诸如FusionIO)。因此，应当理解，计算机存储介质(装置)可包括在计算机系统部件中，该计算机系统部件还(或甚至主要)利用了传输介质。

计算机可执行指令包括(例如)在由一个或多个处理器执行时使通用计算机、专用计算机或专用处理装置执行某些功能或功能群的指令和数据。计算机可执行指令可为(例如)二进制、中间格式指令(诸如汇编语言)、或者甚至为源代码。尽管在语言上针对结构特征和/或方法步骤阐述了本发明的主题，然而应当理解，随附权利要求书中所限定的主题未必仅限于上文所述的特征或步骤。更确切地说，上文所述的特征和步骤是作为实施权利要求书的例子形式而公开的。

本领域的技术人员应当理解，本公开可在网络计算环境中实现，该网络计算环境具有多种类型的计算机系统配置，包括个人电脑、台式计算机、笔记本电脑、信息处理器、控制器、相机控制器、手持设备、手持件、多处理器系统、基于微处理器的或可编程的电子消费品、网络PC、小型计算机、大型计算机、移动电话、PDA、平板电脑、传呼机、路由器、交换机、各种存储装置等等。应当指出的是，任意上述计算设备都可由实体机构提供或位于实体机构内。本公开也可在分布式系统环境中实现，其中本地和远程计算机系统通过网络连接起来(通过硬连接数据链路、无线数据链路或硬连接数据链路与无线数据链路的组合)，两者均可执行任务。在分布式系统环境中，程序模块可位于本地和远程存储器存储装置二者中。

另外，在适当的情况下，本文所述的功能可通过硬件、软件、固件、数字部件或模拟部件中的一种或多种来执行。例如，可对一种或多种专用集成电路(ASIC)或现场可编程门阵列进行编程以执行本文所述的一种或多种系统和程序。在整个下面的描述和权利要求中所用的某些术语是指特定的系统部件。本领域的技术人员应当理解，部件可具有不同的名称。本文并非旨在在名称上而非功能上不同的部件之间进行辨别。

图2A为示出示例性计算装置250的框图。计算装置250可用于执行各种程序，诸如本文所讨论的那些程序。计算装置250可用作服务器、客户端或任意其它计算实体。计算装置250可执行本文所讨论的各种监控功能，并且可执行一种或多种应用程序，诸如本文所述的应用程序。计算装置250可为各种计算装置中的任意一种，诸如台式计算机、笔记本电脑、服务器电脑、掌上电脑、相机控制器、平板电脑，等等。

计算装置250包括一个或多个处理器252、一个或多个存储器装置254、一个或多个接口256、一个或多个大容量存储装置258、一个或多个输入/输出(I/O)装置260，以及显示装置280，所有器件均耦合到总线262。处理器252包括一个或多个处理器或控制器，其执行存储于存储器装置254和/或大容量存储装置258中的指令。处理器252还可以包括各种类型的计算机可读介质，诸如高速缓存存储器。

存储器装置254包括各种计算机可读介质，诸如易失性存储器(例如，随机存取存储器(RAM)264)和/或非易失性存储器(例如，只读存储器(ROM)266)。存储器装置254还可包括可重写ROM，诸如闪存存储器。

大容量存储装置258包括各种计算机可读介质，诸如磁带、磁盘、光盘、固态存储器(例如，闪存存储器)等。如图2中所示，特定的大容量存储装置为硬盘驱动器274。各种驱动器也可包括于大容量存储装置258中以能够从各种计算机可读介质中进行读取和/或写入。大容量存储装置258包括可移动介质276和/或不可移动介质。

I/O装置260包括能够向计算装置250输入或从计算装置检索数据和/或其它信息的各种装置。示例性I/O装置260包括数字成像装置、电磁传感器和发射器、光标控制装置、键盘、小键盘、麦克风、监视器或其他显示装置、扬声器、打印机、网络接口卡、调制解调器、透镜、CCD或其他图像捕获装置，等等。

显示装置280包括能够向计算装置250的一个或多个用户显示信息的任何类型的装置。显示装置280的示例包括监视器、显示终端、视频投影装置等等。

接口256包括能够使计算装置250与其它系统、装置或计算环境进行交互的各种接口。示例性接口256可包括任何数量的不同网络接口270，诸如连接局域网(LAN)、广域网(WAN)、无线网和因特网的接口。其它接口包括用户接口268和外围装置接口272。接口256还可包括一个或多个用户接口元件268。接口256还可包括一个或多个外围接口，诸如用于打印机、指示装置(鼠标、触控板等)、键盘等的接口。

总线262使处理器252、存储器装置254、接口256、大容量存储装置258和I/O装置260能够彼此通信，并与耦接到总线262的其它装置或部件进行通信。总线262表示若干类型的总线结构(诸如系统总线、PCI总线、IEEE 1394总线、USB总线等等)中的一种或多种。

出于示例性目的，本文所示的程序和其他可执行程序器件为分立块体，但应当理解，此类程序和部件可在各个时间驻留在计算装置250的不同存储部件中，并且由(一个或多个)处理器252执行。或者，本文所述的系统和程序可通过硬件来实现，或通过硬件、软件和/或固件的组合来实现。例如，可对一种或多种专用集成电路(ASIC)或现场可编程门阵列进行编程以执行本文所述的一种或多种系统和程序。

图3A示出了在滚动读出模式或在传感器读出300期间使用的传感器的操作循环。帧读出可在竖直线310处开始并且可由该竖直线表示。读出周期由对角线或斜线302表示。传感器可逐行读出，向下倾斜边缘的顶部为传感器顶行312，并且向下倾斜边缘的底部为传感器底行314。在最后一行读出和下一读出循环之间的时间可被称为消隐周期316。应当指出，传感器像素行中的一些可覆盖有光屏蔽件(例如，金属涂层或另一种材料类型的任何其它大体上黑色的层)。这些被覆盖的像素行可被称为光学黑色行318和320。光学黑色行318和320可用作校正算法的输入。如图3A所示，这些光学黑色行318和320可位于像素阵列的顶部上或像素阵列的底部或像素阵列的顶部和底部。

图3B示出了控制曝光至像素从而被像素集成或聚积的电磁辐射(例如，光)的量的方法。应当理解，光子是电磁辐射的基本粒子。光子被每个像素集成、吸收或累积并转换为电荷或电流。电子快门或卷帘式快门(点划线322所示)可用于通过复位像素来开始集成时间。然后光将集成直到下一读出阶段为止。电子快门322的位置可在两个读出循环302之间移动，以便控制给定量的光的像素饱和度。应当指出，该技术允许在两个不同行之间的集成时间恒定，但在从顶行移动到底行时引入延迟。

图3C示出了电子快门322已被移除的情况。在该配置中，入射光的集成可在读出302期间开始，并且可在下一读出循环302处结束，该下一读出循环也限定下一集成的开始。

图3D示出了没有电子快门322但在消隐周期316期间具有受控和脉冲光210的配置。这确保所有行看到的光与从相同光脉冲210发出的光相同。换句话讲，每行将在黑暗环境中开始其集成，这可位于读出帧(m)的光学黑色后行320以获得最大的光脉冲宽度，并且然后将接收光通并且将在黑暗环境中结束其集成，这可位于下一后续读出帧(m+1)的光学黑色前行318以获得最大的光脉冲宽度。在例如图3D中，由光脉冲生成的图像将仅在帧(m+1)读出期间可用，而不会干扰帧(m)和帧(m+2)。应当指出，使光脉冲仅在一个帧中读出并且不干扰相邻帧的条件是在消隐周期316期间击发给定的光脉冲。因为光学黑色行318、320对光不敏感，所以可将帧(m)的光学黑色后行320时间和帧(m+1)的光学黑色前行318时间添加至消隐周期316，以确定光脉冲210的击发时间的最大范围。

如图3A所示，传感器可循环多次以接收每种脉冲颜色或波长(例如，电磁光谱上的红色、绿色、蓝色或其他波长)的数据。每个循环可以是定时的。在一个实施方案中，循环可定时以在16.67ms的间隔内操作。在另一个实施方案中，循环可定时以在8.3ms的间隔内操作。应当理解，本公开设想了其它的定时间隔，并且旨在落入本公开的范围内。

图4A以图形方式示出了电磁发射器的实施方案的操作。发射器可定时以对应于传感器的循环，使得电磁辐射在传感器操作循环内和/或传感器操作循环的一部分期间发射。图4A示出了402处的脉冲1、404处的脉冲2和406处的脉冲3。在一个实施方案中，发射器可在传感器操作循环的读出周期302期间脉冲。在一个实施方案中，发射器可在传感器操作循环的消隐部分316期间脉冲。在一个实施方案中，发射器可脉冲持续时间，该持续时间在两个或更多个传感器操作循环的部分期间。在一个实施方案中，发射器可在消隐部分316期间或在读出周期302的光学黑色部分320期间开始脉冲，并且在读出周期302期间或下一后续循环的读出周期302的光学黑色部分318期间结束脉冲。应当理解，只要发射器的脉冲和传感器的循环相对应，上述的任何组合旨在落入本公开的范围内。

图4B以图形方式表示改变发射的电磁脉冲(例如，在412处的脉冲1、在414处的脉冲2、在416处的脉冲3)的持续时间和量值以控制曝光。具有固定输出量值的发射器可在上文结合图3D和图4A所述的任何循环期间脉冲一定间隔，以向像素阵列提供所需的电磁能量。具有固定输出量值的发射器可在较长的时间间隔内脉冲，从而为像素提供更多的电磁能量，或者发射器可在较短的时间间隔脉冲，从而提供较少的电磁能量。是否需要较长或较短的时间间隔取决于操作条件。

与调节发射器脉冲固定输出量值的时间间隔相比，可增大发射量值本身以便向像素提供更多的电磁能量。类似地，减小脉冲的量值可为像素提供较少的电磁能量。应当指出，如果需要的话，系统的实施方案可具有同时调节量值和持续时间的能力。另外，可调节传感器以根据最佳图像质量的需要来增加其灵敏度和持续时间。图4B示出了改变脉冲的量值和持续时间。在图示中，412处的脉冲1具有比414处的脉冲2或416处的脉冲3更高的量值或强度。另外，412处的脉冲1具有比在414处的脉冲2或416处的脉冲3更短的持续时间，使得由该脉冲提供的电磁能量由图示中所示脉冲下的面积示出。在图示中，当与412处的脉冲1或416处的脉冲3相比时，414处的脉冲2具有相对低的量值或强度和较长的持续时间。最后，在图示中，当与412处的脉冲1和414处的脉冲2相比时，416处的脉冲3具有中间量值或强度和持续时间。

图5为根据本公开的原理和教导内容的组合图3A至图3D和图4A的操作循环、电磁发射器和发射的电磁脉冲以在操作期间显示成像系统的本公开的实施方案的图示。如在图中可见，电磁发射器主要在图像传感器的消隐周期316期间脉冲辐射，使得像素将被充电并且在图像传感器循环的读出周期302期间准备读取。图5中的虚线表示电磁辐射的脉冲(来自图4A)。电磁辐射脉冲主要在图像传感器的消隐周期316期间发射，但可与图像传感器的读出周期302叠层。

曝光帧包括在读出周期302期间由图像传感器的像素阵列读取的数据。曝光帧可与在读出周期302之前由发射器发射的脉冲的类型的指示组合。曝光帧和脉冲类型的指示的组合可被称为数据集。可组合多个曝光帧以生成黑白或RGB彩色图像。另外，超光谱、荧光和/或激光标测成像数据可叠加在黑白或RGB图像上。

在一个实施方案中，基于三个曝光帧来生成RGB图像帧，该三个曝光帧包括由图像传感器在红色发射之后生成的红色曝光帧、由图像传感器在绿光发射之后生成的绿色曝光帧以及由图像传感器在蓝光发射之后生成的蓝色曝光帧。超光谱成像数据可叠加在RGB图像帧上。可从一个或多个超光谱曝光帧抽取超光谱成像数据。超光谱曝光帧包括在电磁辐射的超光谱发射之后，在读出周期302期间由图像传感器生成的数据。超光谱发射包括电磁光谱中的任何合适的发射，并且可以包括跨越整个电磁光谱的多个光发射。在一个实施方案中，超光谱发射包括具有从约513nm至约545nm、约565nm至约585nm和/或从约900nm至约1000nm的波长的电磁辐射的发射。超光谱曝光帧可包括多个超光谱曝光帧，其各自由图像传感器在不同类型的超光谱发射之后生成。在一个实施方案中，超光谱曝光帧包括多个超光谱曝光帧，包括在波长为从约513nm至约545nm的电磁辐射的发射之后由图像传感器生成的第一超光谱曝光帧，在波长为从约565nm至约585nm的电磁辐射的发射之后由图像传感器生成的第二超光谱曝光帧，以及在波长为从约900nm至约1000nm的电磁辐射的发射之后由图像传感器生成的第三超光谱曝光帧。超光谱曝光帧可包括另外的附加超光谱曝光帧，其由图像传感器在基于成像应用而需要的光的其他超光谱发射之后生成。

超光谱曝光帧可以在电磁辐射的多个不同分区的发射之后由图像传感器生成。例如，可以在波长为从约513nm至约545nm、从约565nm至约585nm以及从约900nm至约1000nm的电磁辐射的发射之后由像素阵列感测单个超光谱曝光帧。电磁辐射的发射可包括单个脉冲，其中多个波长中的每个波长同时发射；多个子脉冲，其中每个子脉冲是不同波长的电磁辐射；或上述的某种组合。具有一个或多个脉冲的电磁辐射的发射可以发生在消隐周期316期间，该消隐周期发生在读出周期302之前，在该读出周期中像素阵列感测曝光帧。

在一个实施方案中，曝光帧是在消隐周期316之后发生的读出周期302期间由像素阵列感测的数据。电磁辐射的发射在消隐周期316期间发射。在一个实施方案中，电磁辐射的发射的一部分与读出周期316重叠。消隐周期316在像素阵列的光学黑色像素正在被读取时发生，并且读出周期302在像素阵列的有源像素正在被读取时发生。消隐周期316可与读出周期302重叠。

图6A和图6B示出了用于记录图像帧的过程。可将多个图像帧串在一起以生成视频流。单个图像帧可包括来自多个曝光帧的数据，其中曝光帧是在电磁辐射的发射之后由像素阵列感测的数据。图6A示出了通常用彩色图像传感器实现的传统过程，该彩色图像传感器具有颜色滤光器阵列(CFA)以针对每个像素滤除某些波长的光。图6B是本文所公开的过程，并且可利用接收所有波长的电磁辐射的单色“颜色不定的”图像传感器来实现。

图6A所示的过程在时间t(0)至时间t(1)期间发生。该过程从白光发射602开始并且感测白光604。在606处，基于604处的感测来处理并且显示图像。

图6B所示的过程在时间t(0)至时间t(1)期间发生。该过程从绿光612的发射开始，并且在绿光612的发射之后感测反射的电磁辐射614。该过程继续红光616的发射，并且在红光616的发射之后感测反射的电磁辐射618。该过程继续蓝光620的发射，并且在蓝光620的发射之后感测反射的电磁辐射622。该过程继续进行超光谱624发射的一次或多次发射，并且在超光谱624发射的该一次或多次发射中的每一者之后感测反射的电磁能量626。

图6B所示的方法提供较高分辨率的图像并且提供用于生成还包括超光谱成像数据的RGB图像的装置。当使用光的分区光谱时(如图6B所示)，可使传感器对所有波长的电磁能量敏感。在图6B所示的过程中，指示单色像素阵列在每个循环中感测来自电磁能量全光谱的预先确定的分区的电磁能量。因此，为了形成图像，传感器仅需以全光谱光内不同的多个分区进行循环。基于多个循环来组合最终图像。因为来自每个颜色分区帧循环的图像(与CFA像素阵列相比)具有较高的分辨率，所以当分区的光帧被组合时产生的所得图像也具有较高的分辨率。换句话讲，因为阵列内的每个像素(而不是至多，具有CFA的传感器中的每隔一个像素)感测给定脉冲和给定场景的能量的幅值，仅相隔一段时间，因此针对每个场景产生较高分辨率的图像。

如在图6A至图6B中所示的实施方案中在时间t(0)和t(1)之间可从图形看出，用于图6B中的分区光谱系统的传感器对图6A中的全光谱系统中的每个全光谱系统循环了至少四次。在一个实施方案中，显示装置(LCD面板)以每秒50至60帧的速度工作。在此类实施方案中，图6B中的分区光系统可以200帧/秒至240帧/秒的速率操作，以保持所显示视频的连续性和平滑性。在其它实施方案中，可存在不同的捕获和显示帧速率。此外，平均捕获速率可以是显示速率的任何倍数。

在一个实施方案中，可能期望并非所有分区在系统帧速率内均相等地表示。换句话讲，并非所有光源都必须以相同的规律性脉冲，以便根据用户的需要来强调和取消强调所记录场景的各个方面。还应当理解，电磁频谱的不可见分区和可见分区可在系统内脉冲到一起，其中它们的相应数据值被接合(stitch)到视频输出中，以用于向用户显示。

实施方案可包括如下脉冲循环模式：

i.绿色脉冲；

ii.红色脉冲；

iii.蓝色脉冲；

iv.绿色脉冲；

v.红色脉冲；

vi.蓝色脉冲；

vii.超光谱脉冲；

viii.(重复)

实施方案可包括如下脉冲循环模式：

i.亮度脉冲；

ii.红色色度脉冲；

iii.亮度脉冲；

iv.蓝色色度脉冲；

v.超光谱脉冲；

vi.(重复)

实施方案可包括如下脉冲循环模式：

i.亮度脉冲；

ii.红色色度脉冲；

iii.亮度脉冲；

iv.蓝色色度脉冲；

v.亮度脉冲；

vi.红色色度脉冲；

vii.亮度脉冲；

viii.蓝色色度脉冲；

ix.超光谱脉冲；

x.(重复)

如在该示例中可见，超光谱分区可以与其他分区脉冲的速率不同的速率脉冲。这样做可强调场景的某个方面，其中超光谱数据仅与视频输出中的其他数据叠加以做出期望的强调。应当指出，在红色、绿色和蓝色分区的顶部上方添加超光谱分区并不一定要求序列化的系统以全光谱非串行系统的速率的四倍操作，因为每个分区不必在脉冲模式中相等地表示。如在该实施方案中所见，添加在脉冲模式中表示更少的超光谱分区脉冲将导致传感器的循环速度增加小于20％，以便适应不规则的分区取样。

在各种实施方案中，脉冲循环模式还可以任何合适的顺序包括以下波长中的任一个波长。此类波长可特别适用于激发荧光试剂，以通过基于荧光试剂弛豫发射感测荧光试剂的弛豫发射来生成荧光成像数据：

i.770±20nm；

ii.770±10nm；

iii.770±5nm；

iv.790±20nm；

v.790±10nm；

vi.790±5nm；

vii.795±20nm；

viii.795±10nm；

ix.795±5nm；

x.815±20nm；

xi.815±10nm；

xii.815±5nm；

xiii.770nm至790nm；和/或

xiv.795nm至815nm。

在各种实施方案中，脉冲循环还可以任何合适的顺序包括以下波长中的任一者。此类波长可特别适用于生成超光谱成像数据：

i.513±545nm；

ii.565nm至585nm；

iii.1500nm至2300nm；

iv.513±5nm；

v.513±10nm；

vi.513±20nm；

vii.513±30nm；

viii.513±35nm；

ix.545±5nm；

x.545±10nm；

xi.545±20nm；

xii.545±30nm；

xiii.545±35nm；

xiv.565±5nm；

xv.565±10nm；

xvi.565±20nm；

xvii.565±30nm；

xviii.565±35nm；

xix.585±5nm；

xx.585±10nm；

xxi.585±20nm；

xxii.585±30nm；

xxiii.585±35nm；

xxiv.900±5nm；

xxv.900±10nm；

xxvi.900±20nm；

xxvii.900±30nm；

xxviii.900±35nm；

xxix.1000±5nm；

xxx.1000±10nm；

xxxi.1000±20nm；

xxxii.1000±30nm；或者

xxxiii.1000±35nm。

可将分区循环划分为适应或近似各种成像和视频标准。在一个实施方案中，分区循环包括如下如图7A至图7D中最佳地示出的红色、绿色和蓝色光谱中的电磁能量的脉冲。由发射器进行的电磁辐射脉冲的发射与像素阵列的读出之间的定时关系在图7A至图7D中进一步示出。

在图7A中，已通过在由竖直灰色虚线所示的工作范围内调制光脉冲宽度或持续时间来实现不同的光强度。图7A示出了四帧循环内、三个波长的脉冲混合与图像传感器的像素阵列的读出循环之间的一般定时关系。在一个实施方案中，在控制器的控制下存在三个单色脉冲光源。例如用R-G-B-G脉冲模式捕获单色红色、单色绿色和单色蓝色曝光帧的周期性序列，并且由图像信号处理器链组合成sRGB图像帧。

在图7B中，已通过调制光功率或电磁发射器(其可为激光器或LED发射器)的功率，但保持脉冲宽度或持续时间恒定来实现不同的光强度。

图7C示出了光功率和光脉冲宽度均被调制从而得到更大灵活性的情况。分区循环可使用青色洋红色黄色(CMY)、红外线、紫外线、高光谱和荧光，使用与可见脉冲源混合的不可见脉冲源以及产生图像所需的任何其他色彩空间或近似于当前已知或尚未开发的期望的视频标准。还应当理解，系统能够在运行中的色彩空间之间切换以提供所需图像输出质量。

在使用色彩空间绿色-蓝色-绿色-红色(如图7D中所示)的实施方案中，可能期望比色度分量更频繁地脉冲亮度分量，因为用户通常对光量值差异比对光色差更敏感。可使用如图7D中所示的单色图像传感器来利用该原理。在图7D中，包含最多亮度信息的绿色可在(G-B-G-R-G-B-G-R……)方案中更频繁地脉冲或具有更大强度以获得亮度数据。此类配置将创建具有可察觉的更多细节的视频流，而不创建和传输不可察觉的数据。

在一个实施方案中，所有三个光源与被调制为在相同的曝光帧中提供纯亮度信息的光能一致地脉冲。可根据从RGB颜色空间转换为YCbCr颜色空间的颜色转换系数来调制光能。应当理解，颜色转换可根据任何合适的标准诸如ITU-R BT.709HD标准、ITU-R BT.601标准、ITU-R BT.2020标准或任何其他合适的标准或公式来实现。该转换可根据ITU-RBT.709HD标准如下执行：

除了亮度信息的调制之外，全彩图像还需要红色色度分量和蓝色色度分量。然而，应用于亮度分量的算法不能直接应用于色度分量，因为该算法是带符号的，如一些RGB系数为负的事实中所反映的。在一个实施方案中，提高亮度的程度，使得所有最终脉冲能量均为正值。只要图像信号处理器中的颜色融合过程知道色度曝光帧的组成，它们就可以通过从相邻帧中减去适当量的亮度来解码。脉冲能量比例由下式给出：

Y＝0.183·R+0.614·G+0.062·B

Cb＝λ·Y-0.101·R-0.339·G+0.439·B

Cr＝δ·Y+0.439·R-0.399·G-0.040·B

其中

如果λ因子等于0.552，则抵消红色分量和绿色分量。在这种情况下，蓝色色度信息可提供有纯蓝光。类似地，如果δ因子等于0.650，则抵消蓝色分量和绿色分量，并且红色色度信息可提供有纯红光。该实施方案是数字帧重建的方便的近似。

在照明域中执行白平衡的实施方案中，除了白平衡调制之外，还施加调制。

在一个实施方案中，复制较弱分区的脉冲可用于产生已针对较弱脉冲进行调节的输出。例如，认为蓝色激光相对于硅基像素的灵敏度弱，并且与红光或绿光相比，蓝色激光难以产生，因此可在帧循环期间更频繁地脉冲以补偿光的弱性。这些附加脉冲可随时间推移连续地完成，或者通过使用多个激光器同时脉冲以产生所需补偿效果。应当注意，通过在消隐周期(在此期间传感器不读出像素阵列的时间)期间脉冲，传感器对同一种类的激光器之间的差异/失配不敏感，并且简单地聚积光以用于期望的输出。在另一个实施方案中，最大光脉冲范围可能从帧到帧是不同的。这示出于图7E，其中光脉冲从帧到帧是不同的。传感器可被构建成能够以两帧或三帧或四帧或n帧的重复模式对不同消隐周期进行编程。

在图7E中，示出了四个不同的光脉冲，并且脉冲1可例如在脉冲4之后重复，并且可具有消隐周期不同的四帧的模式。该技术可用于将最大功率的分区放置于最小消隐周期上，并且因此允许最弱的分区在后续帧中的一帧上具有更宽的脉冲而无需增加读出速度。重建帧仍可具有帧到帧的规则模式，因为其由许多脉冲帧构成。

图8至图14示出了改变哪些像素子集被配置为长曝光或短曝光的像素阵列的各种配置。图8至图10、图12和图14示出了用于生成YCbCr图像帧的像素配置，并且图11和图13示出了用于生成RGB图像帧的像素配置。

可以根据图8至图10、图12和图14中所示的像素配置来生成YCbCr图像帧。YCbCr图像帧存在于亮度-色度颜色空间中。亮度(“Y”)分量对应于图像数据的颜色不可知亮度方面。在其余的两个颜色通道中携带颜色信息，包括红色色度(“Cr”)通道和蓝色色度(“Cb”)通道。通过生成单独的亮度曝光帧和色度曝光帧来分离图像数据的亮度和色度分量，这些单独的亮度曝光帧和色度曝光帧可以组合以生成YCbCr图像帧。相比于色度分量，图像帧的空间分辨率对于亮度分量更为重要，并且由于此原因，在生成单个YCbCr图像帧时可以重复脉冲亮度分量。

图8示出了图像传感器的像素阵列800。像素阵列800包括以网格状模式布置的多个像素。像素被描绘为图8至图14中的离散正方形。像素阵列800被配置用于感测反射的电磁辐射以基于多个独立的曝光帧来生成图像帧。图像帧可以包括来自亮度曝光帧、蓝色色度曝光帧和红色色度曝光帧的信息，并且还可以包括来自超光谱曝光帧、荧光曝光帧和/或激光标测曝光帧中的一者或多者的信息。在图8中，像素阵列800被示出随时间推移具有四种不同的配置，包括用于第一曝光帧802、第二曝光帧804、第三曝光帧806和第四曝光帧808的配置。第一曝光帧802、第二曝光帧804、第三曝光帧806和第四曝光帧808可以组合以生成单个YCbCr图像帧。一个或多个附加的曝光帧可以与YCbCr图像帧组合或叠加在其上，包括例如超光谱曝光帧、荧光曝光帧和/或激光标测或工具跟踪曝光帧。在一些情况下，当与RGB图像帧组合时，来自超光谱曝光帧架、荧光曝光帧和/或激光标测或工具跟踪曝光帧中的一者或多者的信息被转换为数值信息、颜色叠层或一些其他形式。

当像素阵列800被配置用于第一曝光帧802时，像素被操作为感测亮度(“Y”)信息。第一曝光帧802的像素配置仅包括亮度像素810。当像素阵列800被配置用于第二曝光帧804时，像素被操作为感测蓝色色度(“Cb”)信息。第二曝光帧804的像素配置仅包括蓝色色度像素812。当像素阵列800被配置用于第三曝光帧806时，像素被操作为再次感测亮度信息。第三曝光帧806的像素配置仅包括亮度像素810。当像素阵列800被配置用于第四曝光帧808时，像素被操作为感测红色色度(“Cr”)信息。第四曝光帧808的像素配置仅包括红色色度像素814。

图9示出了类似于图8和图10至图14中所示的图像传感器的像素阵列900。图像传感器被配置用于基于由像素阵列900捕获的多个独立的曝光帧生成YCbCr图像帧。像素阵列900被示出随时间推移处于四种不同的配置，包括用于第一曝光帧902、第二曝光帧904、第三曝光帧906和第四曝光帧908的配置。第一曝光帧902的像素的配置包括亮度像素910。用于第二曝光帧904的像素的配置包括以棋盘模式布置的蓝色色度像素912和红色色度像素914。第三曝光帧906的像素的配置包括亮度像素910。第四曝光帧908的像素的配置包括蓝色色度像素912和红色色度像素914。在一个实施方案中，用于第二曝光帧904和第四曝光帧908的像素配置感测调制的蓝色色度(“λY+Cb”)和调制的红色色度(“δY+Cr”)。

图10示出了类似于图8至图9和图11至图14中所示的图像传感器的像素阵列1000。图像传感器被配置用于基于由像素阵列1000捕获的多个独立的曝光帧生成YCbCr图像帧。像素阵列1000被示出随时间推移具有四种不同的配置，包括用于第一曝光帧1002、第二曝光帧1004、第三曝光帧1006和第四曝光帧1008的配置。由像素阵列1000针对多个曝光帧1002、1004、1006、1008感测的数据可被组合以生成单个YCbCr图像帧。第一曝光帧1002的像素的配置包括以棋盘模式布置的亮度短曝光像素(“Y_S”)1016和亮度长曝光像素(“Y_L”)1018。第二曝光帧1004的像素的配置包括蓝色色度像素1012和红色色度像素1014。第三曝光帧1006的像素的配置包括相对于第一曝光帧1002的布置以具有相对的配置的棋盘模式布置的亮度长曝光像素1018和亮度短曝光像素1016。第四曝光帧1008的像素的配置包括蓝色色度像素1012和红色色度像素1014。

图11示出了类似于图8至图10和图12至图14中所示的图像传感器的像素阵列1100。图像传感器被配置用于基于由像素阵列1100捕获的多个独立的曝光帧生成RGB图像帧。像素阵列1100被示出随时间推移具有四种不同的配置，包括用于第一曝光帧1102、第二曝光帧1104、第三曝光帧1106和第四曝光帧1108的配置。由像素阵列1100针对多个曝光帧1102、1104、1106、1108感测的数据可被组合以生成单个RGB图像帧。图11中所示的像素配置改变哪些像素子集被配置为长曝光，以及哪些像素子集被配置为连续绿色曝光帧上的短曝光。这种使用长曝光像素和短曝光像素的方法增加了所得图像的感知分辨率。应当理解，双曝光采样的应用不限于绿色曝光帧。在各种实施方案中，像素可以具有应用于亮度、红色色度、蓝色色度、红色曝光帧、绿色曝光帧或蓝色曝光帧的独立的双重曝光率。

第一曝光帧1102的像素的配置包括以棋盘模式布置的绿色短曝光像素(“G_S”)1122和绿色长曝光像素(“G_L”)1124。第二曝光帧1104的像素的配置包括红色像素(“R”)1120。第三曝光帧1106的像素的配置包括相对于第一曝光帧1102的棋盘模式以呈相对的配置的棋盘模式布置的绿色长曝光像素1124和绿色短曝光像素1122。第四曝光帧1108的像素的配置包括蓝色像素(“B”)1126。

图12示出了类似于图8至图11和图13至图14中所示的图像传感器的像素阵列1200。图像传感器被配置用于基于由像素阵列1200捕获的多个独立的曝光帧生成YCbCr图像帧。像素阵列1200被示出随时间推移具有四种不同的配置，包括用于第一曝光帧1202、第二曝光帧1204、第三曝光帧1206和第四曝光帧1208的配置。由像素阵列1200针对多个曝光帧1202、1204、1206、1208感测的数据可被组合以生成单个YCbCr图像帧。用于第一曝光帧1202的像素配置包括以棋盘模式布置的亮度短曝光像素1216和亮度长曝光像素1218。第二曝光帧1204的像素配置包括蓝色色度像素1212。第三曝光帧1206的像素配置包括以与第一曝光帧1202的模式相对的棋盘模式布置的亮度长曝光像素1218和亮度短曝光像素1216。第四曝光帧1208的像素配置包括红色色度像素1214。

图13示出了类似于图8至图12和图14中所示的图像传感器的像素阵列1300。图像传感器被配置用于基于由像素阵列1300捕获的多个独立的曝光帧生成RGB图像帧。像素阵列1300被示出随时间推移具有四种不同的配置，包括用于第一曝光帧1302、第二曝光帧1304、第三曝光帧1306和第四曝光帧1308的配置。由像素阵列1300针对多个曝光帧1302、1304、1306、1308感测的数据可被组合以生成单个RGB图像帧。用于第一曝光帧1302的像素配置包括以棋盘模式布置的绿色短曝光像素1322和绿色长曝光像素1324。用于第二曝光帧1304的像素配置包括以棋盘模式布置的红色短曝光像素(“R_S”)1328和红色长曝光像素(“R_L”)1330。用于第三曝光帧1306的像素配置包括以与第一曝光帧1302的模式相对的棋盘模式布置的绿色短曝光像素1322和绿色长曝光像素1324。用于第四曝光帧1308的像素配置包括以棋盘模式布置的蓝色短曝光像素(“B_S”)1332和蓝色长曝光像素(“B_L”)1334。

图14示出了类似于图8至图13中所示的图像传感器的像素阵列1400。图像传感器被配置用于基于由像素阵列1400捕获的多个独立的曝光帧生成YCbCr图像帧。像素阵列1400被示出随时间推移具有四种不同的配置，包括用于第一曝光帧1402、第二曝光帧1404、第三曝光帧1406和第四曝光帧1408的配置。由像素阵列1400针对多个曝光帧1402、1404、1406、1408感测的数据可被组合以生成单个YCbCr图像帧。用于第一曝光帧1402的像素配置包括以棋盘模式布置的亮度短曝光像素1416和亮度长曝光像素1418。用于第二曝光帧1404的像素配置包括以棋盘模式布置的蓝色色度短曝光像素(“Cb_S”)1436和蓝色色度长曝光像素(“Cb_L”)1438。用于第三曝光帧1406的像素配置包括以与第一曝光帧1402的模式相对的棋盘模式布置的亮度短曝光像素1416和亮度长曝光像素1418。用于第四曝光帧1408的像素配置包括以棋盘模式布置的红色色度短曝光像素(“Cr_S”)1440和红色色度长曝光像素(Cr_L”)1442。

图15示出了用于应用校正算法和还包括超光谱成像数据的YCbCr图像帧的帧重建的过程流程1500。就Y-Cb-Y-Cr脉冲方案而言，图像数据已经在颜色融合之后的YCbCr颜色空间中。因此，在图15所示的处理流程1500中，在转换回线性RGB颜色空间之前，预先执行基于亮度和色度的操作以执行颜色校正。

处理流程1500包括在1502处从图像传感器接收图像数据。对传感器数据执行传感器校正1504。在1506处实现超分辨率(SR)和颜色运动伪影校正(CMAC)算法。SR和CMAC过程1506可以在相机图像信号处理器内对原始捕获的传感器数据执行。在完成所有数字传感器校正1504过程之后，可以立即在1506处执行SR和CMAC过程。在传感器数据融合到YCbCr空间彩色图像中之前，可以执行SR和CMAC过程1506。在1508处可以导出统计值，以确定图像的适当的自动曝光。

构建了色度曝光帧1510a和亮度曝光帧1510b。在一个实施方案中，还构建超光谱曝光帧1510c。基于Y帧按照到达顺序构建亮度曝光帧1510b。基于Cb和Cr帧按照到达顺序来构建色度曝光帧1510a。由超分辨率算法处理的帧的数量是可选变量。亮度曝光帧1510b的先进先出深度通常为奇数，并且其大小可以基于可用处理、存储器、存储器带宽、运动检测精度或可接受的延迟考虑来确定。颜色运动伪影校正过程可以用用于亮度的三个帧和用于蓝色色度和/或红色色度的两个帧的最小先进先出深度来执行。超分辨率算法可以通过使用五个亮度帧来生成更好的分辨率。

处理图像数据以在1512处实现帧重建并且在1514处实现边缘增强。在1516处将YCbCr图像转换为线性RGB图像。在1518处可以导出对RGB图像的统计值以确定适当的白平衡。在1520处应用适当的白平衡，并且在1522处输入到颜色校正矩阵中。确定标量1524和γ1526，并且在1528处导出视频。在从传感器捕获和接收图像数据时，处理流程1500可以实时地在相机图像信号处理器中实现(参见1502)。

在帧重建1512期间，为每个亮度曝光帧生成的YCbCr空间中可存在一个全彩图像帧。在亮度曝光帧中捕获的数据可以与来自在亮度曝光帧之前和之后捕获的色度曝光帧的数据组合。鉴于该脉冲序列，可以调整蓝色色度曝光帧相对于亮度曝光帧的位置，以在另选的亮度情况下的亮度曝光帧之前或之后进行。相对于亮度曝光帧，对于红色色度曝光帧也是如此。因此，来自每个捕获的蓝色色度或红色色度曝光帧的数据用于两个所得的全彩图像。可以通过在蓝色色度和红色色度帧捕获期间执行帧重建1512过程来提供最小帧延迟。

图16为待由控制器和/或单色图像信号处理器(ISP)实现，以用于生成上面叠加有超光谱数据的RGB图像的视频流的处理流程1600的示意图。在处理流程1600中，在应用γ1626以将图像数据放置在标准的sRGB颜色空间中之前，在另选的颜色空间诸如YCbCr或HSL颜色空间中执行包括边缘增强1620和其他调整的附加的操作。在示例性处理流程1600中，RGB图像数据被转换为YCbCr以在亮度平面中应用边缘增强1620并且进行色度平面的过滤，然后将YCbCr图像转换回线性RGB颜色空间。

处理流程1600产生具有增加的动态范围的图像。图像信号处理器(ISP)链可被组装以用于从在G-R-G-B-超光谱光脉冲方案的存在下产生的原始传感器数据生成sRGB图像序列的目的。在过程流程1600中，第一阶段涉及进行校正以考虑传感器技术中的任何非理想因素，使该技术最适合在原始数据域中起作用。在下一阶段，缓冲多个帧(例如，绿色帧1612a、红色-蓝色帧1612b和超光谱帧1612c)，因为每个最终帧从多个原始帧导出数据。在1614处的帧重建通过对来自当前帧和缓冲帧(参见1612a、1612b和/或1612c)的数据进行采样来继续。重建过程在线性RGB色彩空间中产生包括超光谱图像数据的全色帧。

在一个实施方案中，处理流程1600应用于来自像素阵列的棋盘读数(参见图8至图14)。可以响应于R-G-B-G-超光谱或Y-Cb-Y-Cr-超光谱脉冲方案来感测棋盘读数。处理流程1600包括在1602处从图像传感器接收数据。在1604处执行传感器校正计算。这些传感器校正计算可用于确定1606处的统计值，诸如自动曝光设置和宽动态范围设置。处理流程1600继续并且在1608处处理宽动态范围融合。在1610处处理宽动态范围压缩。可以馈送来自1610的宽动态范围压缩以生成绿色帧1612a、红色-蓝色帧1612和/或超光谱1612c。处理流程1600继续并且在1614处处理帧重建，然后在1616处处理颜色校正。处理流程1600继续并且在1618处将RGB(红-绿-蓝)图像转换为YCbCr图像。在1620处处理边缘增强，然后在1622处将YCbCr图像转换回RGB图像。在1624处处理标量，并且在1626处处理γ。然后在1628处将视频导出。

在一个实施方案中，在暗帧减法之后执行1608处的宽动态范围融合，使得平均黑色偏移已被调整为零并且数据可以是带符号的。在一个实施方案中，希望去除固定模式噪声。宽动态范围融合1608过程的目的可以是在颜色融合之前将来自两个或更多个单独曝光帧的数据组合到单个图像帧中。这可以通过将棋盘模式的两个分量分成两个单独的缓冲区并且通过插值填充间隙来实现。可能只需要一个通用内核，因为除了图像边缘附近的像素之外，每个空像素都看到相同的局部环境。用于通过简单的线性插值填充棋盘模式的合适的卷积核为：

在插值之后，在每个像素位置可存在两个样本。可以将增益应用于短曝光样本，该增益可等于曝光-时间比率T_L/T_S。这需要为比率的每个因子二添加一个额外的位。该融合本身涉及得出两个样本的加权总和：

其中x_S和x_L可分别为(带符号的)短曝光信号和长曝光信号。γ因子可以为长曝光信号x_L的函数，并且可以根据两个阈值τ₁和τ₂设置。低于x_L＝τ₁,γ＝0.0，高于γ＝τ₂,γ＝1.0。在阈值之间，可以采用各种功能形式，并且可以绘制τ₁和τ₂之间的γ的线性和三次示例性行为。τ₂的值可被设置为x_L的最大可能值，例如，或仅低于该值的值。下限阈值τ₁的目的可以是限制来自短样本的读取噪声的影响，该短样本具有应用于该短样本的增益因子T_L/T_S。可以将其设置为保守的高常数，以适于最大比率E，但使其随T_L/T_S线性变化可能更为有益；

提供脉冲照明内窥镜系统内的同一图像帧内的两个或更多个曝光帧也可以用于将每个最终全彩图像的所捕获的曝光帧的数量从三个减少为两个的目的。这抑制可能与内窥镜成像系统相关联的可能的颜色运动伪影。

单色宽动态范围阵列的固有特性可以是具有长集成时间的像素可以集成由短集成时间像素看到的光的超集。对于亮度曝光帧中的常规宽动态操作，这可能是期望的。对于色度曝光帧，这意味着可以结合曝光周期来控制脉冲，以便例如从长曝光开始提供λY+Cb并且在短像素可被接通时切换到δY+Cr(两种像素类型的电荷同时转移)。λ和δ可以为可以用于将所有脉冲能量带到正值的两个可调因子。

在ISP中的颜色校正1616期间，两种风格的像素可以被分成两个缓冲区。使用线性插值来填充空像素。此时，一个缓冲区将包含δY+Cr数据的完整图像并且另一个缓冲区包含δY+Cr+λY+Cb成像数据。将从第二缓冲区减去δY+Cr缓冲区得到λY+Cb。然后将针对每一者减去适当比例的来自亮度曝光帧的亮度数据。

图17为颜色融合硬件1700的示例。颜色融合硬件1700被部署为用于根据如本文所讨论的脉冲照明方案生成图像帧。颜色融合过程比具有颜色滤光器阵列的图像传感器所必需的去马赛克更简单，因为不存在空间插值。由颜色融合硬件1700执行的颜色融合过程不需要缓冲曝光帧来获得对每个像素可用的所有必要信息。

存储器写入器1702接收视频数据流。在一个实施方案中，视频数据流包括Y-Cb-Y-Cr-Y-Cb-Y-超光谱曝光帧。在另选的实施方案中，视频数据流包括R-G-B-G-超光谱曝光帧。视频数据流可包括与超光谱曝光帧、荧光曝光帧和/或激光标测或工具跟踪曝光帧中的一者或多者组合的YCbCr或RGB曝光帧。

存储器写入器1702将视频数据流写入存储器1704。视频数据流可以被解析成例如Cb+δΥ曝光帧、一个或多个亮度曝光帧、Cr+λΥ曝光帧、超光谱曝光帧、荧光曝光帧和/或激光标测曝光帧。另选地，视频数据流可以被解析成例如红色曝光帧、一个或多个绿色曝光帧、蓝色曝光帧、超光谱曝光帧、荧光曝光帧和/或激光标测曝光帧。不同的曝光帧由存储器读取器1706读取，并且在1708处生成并行RGB视频数据流。脉冲发生器和帧同步1710将信息发送到存储器写入器1704和存储器读取器1706，以帮助融合多个曝光帧。信息通过脉冲发生器和帧同步1710输出到光源。

图18示出了用于曝光帧的区域的黑色校正信号的两个对应的直方图。如前所述，可以使用直方图中的一个直方图，通过将分布的所选择的百分位数(P_L)与目标信号电平(S_L，例如数字动态范围的50％)进行比较来控制脉冲能量水平。这些类型1像素的曝光时间T_L可以保持在最大值。此处的下标L表示长曝光。其他直方图可用于通过比较分布的另一个选择的分布百分位数P_S(其中P_S>P_L)以及将其与不同的信号电平S_S(其中S_S>S_L)进行比较来监测场景的动态范围。下标S表示短曝光。S_S通常可以被调整到数字动态范围的顶部。如果P_S≤S_S，这些类型2像素的曝光时间T_S也可以保持在最大值。如果P_S>S_S，则T_S可降低至P_S＝S_S。关于可以允许曝光时间比增加多少来确保由于动态范围增强导致的图像质量下降超过增强动态范围的好处，可存在预定义的限值(E)。P_L、P_S、S_L、S_S和E的值可根据不同应用不同地调整，并且作为工厂预设值存储。曝光时间T_L和T_S可针对每个曝光帧类型记录，以供宽动态范围融合过程通过颜色融合ISP阶段使用。在为白平衡的目的调制红色、绿色、蓝色、超光谱脉冲能量的情况下，红色帧和蓝色帧上的曝光时间可以由绿色帧控制，这些绿色帧可专门用于收集宽动态范围统计值。

在成像系统脉冲亮度和色度照明以生成YCbCr图像帧的具体实施中，相对脉冲能量可针对特定类型的曝光帧保持恒定。可以将宽动态范围控制应用于亮度帧作为具有还在色度帧上独立地应用宽动态范围的选项的基线。对于R-G-B-G方案，可以在原始黑色-校正帧数据上构建直方图。同样，可以记录每个帧类型的曝光时间以用于宽动态范围融合并且用于颜色融合。

图19A示出了Y-Cb-Y-Cr模式的数据的流水线化的一般情况，其中每两个原始捕获图像产生一个全彩图像。这通过使用每个色度样本两次来实现。在另外的实施方案中，用于Y-Cb-Y-Cr模式的数据还可以包括用于超光谱、荧光和/或激光标测成像的数据。

图19B为提供60Hz最终视频流的120Hz帧捕获率的示例。每个像素的线性Y、Cb和Cr分量可以如下进行计算：

Y_i＝2^m-4+(x_i,n-1-K)

当n＝′Cb′帧时

当n＝′Cr′帧时

其中x_i,n为帧n中像素i的输入数据，m为ISP的流水线位宽度，并且K为输入处相对于颜色融合块的ISP黑色偏移水平(如果适用)。由于色度是带符号的，因此其中心通常在数字动态范围的50％处(2^m-1)。

如果如前所述使用两次曝光来提供同一帧中的色度分量，那么两种风格的像素被分成两个缓冲区。然后使用例如线性插值来填充空像素。此时，一个缓冲区包含δY+Cr数据的完整图像，并且另一个缓冲区包含δY+Cr+λY+Cb数据的完整图像。从第二缓冲区中减去δY+Cr缓冲区得到λY+Cb。然后针对每一者减去来自Y帧的适当比例的亮度数据。

图20为模式重建过程的示意图。图20所示的示例性模式包括各自持续T1的持续时间的红色、绿色、蓝色和超光谱光脉冲。在各种实施方案中，光脉冲可具有相同的持续时间或不同的持续时间。将红色曝光帧、绿色曝光帧、蓝色和超光谱曝光帧组合以生成其上叠加有超光谱数据的RGB图像。包括红色曝光帧、绿色曝光帧、蓝色曝光帧和超光谱曝光帧的单个图像帧需要生成4*T1的时间段。图20所示的持续时间仅为示例性的，并且可针对不同的具体实施变化。在其它实施方案中，可采用不同的脉冲方案。例如，实施方案可以基于每个颜色分量或帧(T1)的定时，并且重建帧具有的周期是输入彩色帧的周期的两倍(2×T1)。序列内的不同帧可具有不同帧周期，并且平均捕获速率可为最终帧速率的任何倍数。

在一个实施方案中，通过改变图像传感器的像素阵列内的像素的像素灵敏度来增加系统的动态范围。一些像素可感测第一灵敏度水平的反射的电磁辐射，其他像素可感测第二灵敏度水平的反射的电磁辐射，等等。可组合不同的像素灵敏度以增大由图像传感器的像素配置提供的动态范围。在一个实施方案中，相邻像素以不同的灵敏度设置，使得每个循环包括由相对于彼此较敏感和较不敏感的像素产生的数据。当在像素阵列的单个周期中记录多个灵敏度时，动态范围增大。在一个实施方案中，宽动态范围可通过具有多个全局TX来实现，每个TX仅在不同的一组像素上击发。例如，在全局模式下，全局TX1信号正在击发像素组1，全局TX2信号正在激发像素组2，全局TXn信号正在激发像素组n，等等。

图21A至图21C各自示出了具有多个发射器的光源2100。发射器包括第一发射器2102、第二发射器2104和第三发射器2106。可包括附加的发射器，如下文进一步讨论。发射器2102、2104和2106可包括发射具有不同波长的光的一个或多个激光发生器。例如，第一发射器2102可发射与蓝色激光一致的波长，第三发射器2104可发射与绿色激光一致的波长，并且第三发射器2106可发射与红色激光一致的波长。例如，第一发射器2102可包括一个或多个蓝色激光器，第二发射器2104可包括一个或多个绿色激光器，并且第三发射器2106可包括一个或多个红色激光器。激光器2102、2104、2106朝收集区域2108发射激光束，该收集区域可以是波导、镜片或用于收集光和/或向波导(诸如图2的跳线波导206或内腔波导210)提供光的其它光学部件的位置。

在一个具体实施中，发射器2102、2104和2106发射超光谱波长的电磁辐射。某些超光谱波长可刺穿组织并且使执业医生能够“透视”前方的组织以识别位于前方的组织后面的化学过程、结构、化合物、生物过程，等等。可具体地选择超光谱波长以识别已知具有特定光谱响应的特定疾病、组织状况、生物过程、化学过程、组织的类型，等等。

在已向患者施用有助于识别某些组织、结构、化学反应、生物过程等的试剂或染料的具体实施中，发射器2102、2104和2106可发射用于使试剂或染料发荧光的波长。此类波长可基于施用给患者的试剂或染料来确定。在此类实施方案中，发射器可能需要是高度精确的，以便发射所需波长以使某些试剂或染料发荧光或活化。

在一个具体实施中，发射器2102、2104和2106发射用于标测场景的形貌以及/或者用于计算场景中对象的尺寸和它们之间的距离的激光标测模式。在一个实施方案中，内窥镜成像系统与多个工具诸如外科手术刀、牵开器、夹钳等结合使用。在此类实施方案中，发射器2102、2104和2106中的每个发射器可发射激光标测模式，使得激光标测模式单独地投影到每个工具上。在此类实施方案中，可分析每个工具的激光标测数据以识别工具与场景中其他对象之间的距离。

在图21B的实施方案中，发射器2102、2104、2106各自以不同的角度向收集区域2108递送激光。角度的变化可导致电磁能量在输出波导中的位置的变化。例如，如果光在收集区域2108处立即进入纤维束(玻璃或塑料)中，则变化的角度可导致不同量的光进入不同的纤维。例如，角度可导致跨收集区域2108的强度变化。此外，来自不同发射器的光可不会被均匀地混合，因此一些纤维可接收不同量的不同颜色的光。不同纤维中的光的颜色或强度的变化可导致场景的非最佳照明。例如，递送光或光强度的变化可在场景和所捕获图像处导致。

在一个实施方案中，居间光学元件可放置在纤维束和发射器2102、2104、2106之间，以在进入纤维或其它波导中之前混合不同颜色(波长)的光。示例性居间光学元件包括漫射器、混合棒、一个或多个镜片，或用于混合光使得给定纤维接收每种颜色(波长)的相同量的其它光学部件。例如，纤维束中的每根纤维可具有相同的颜色。该混合可导致每根纤维中的相同的颜色，但是，在一些实施方案中，仍可导致递送到不同纤维的不同的总亮度。在一个实施方案中，居间光学元件也可在收集区域上传播或均匀地传播光，使得每根纤维携带相同总量的光(例如，光可能在顶帽式轮廓中散开)。漫射器或混合棒可导致光损失。

尽管收集区域2108在图21A中表示为物理部件，但收集区域2108可以简单地作为递送来自发射器2102、2104和2106的光的区域。在一些情况下，收集区域2108可包括光学部件，诸如漫射器、混合棒、透镜，或处于发射器2102、2104、2106和输出波导之间的任何其它居间光学部件。

图21C示出了具有以相同或基本上相同的角度向收集区域2108提供光的发射器2102、2104、2106的光源2100的实施方案。光以基本上垂直于收集区域2108的角度提供。光源2100包括多个二向色镜，包括第一二向色镜2110、第二二向色镜2112和第三二向色镜2114。二向色镜2110、2112、2114包括反射第一波长的光但透射第二波长(或对其透明)的光的镜。例如，第三二向色镜2114可反射由第三发射器提供的蓝色激光，而对第一发射器2102和第二发射器2104各自提供的红光和绿光透明。第二二向色镜2112可对来自第一发射器2102的光透明，但对来自第二发射器2104的光是反射的。如果包括其它颜色或波长，则可选择二向色镜以反射对应于至少一个发射器的光并且对其它发射器透明。例如，第三二向色镜2114反射来自第三发射器2106的光，但对其“后面”的发射器诸如第一发射器2102和第二发射器2104透明。在其中存在数十或数百个发射器的实施方案中，每个二向色镜可反射对应发射器和其前面的发射器，同时对其后面的发射器透明。这可允许数十或数百个发射器以基本上相同的角度将电磁能量发射到收集区域2108。

因为这些二向色镜允许其它波长透射或穿过，这些波长中的每个可从相同的角度和/或以相同的中心点或焦点到达收集区域2108。从相同的角度和/或相同的焦点/中心点提供光可显著改善在收集区域2108处的接收和颜色混合。例如，特定纤维可以接收不同的颜色，这些颜色的比例与它们由发射器2102、2104、2106和镜2110、2112、2114透射/反射的比例相同。与图21B的实施方案相比，可在收集区域处显著改善光混合。在一个实施方案中，本文所讨论的任何光学部件可在收集区域2108处使用，以在向纤维或纤维束提供光之前收集光。

图21C示出了具有也以相同或大致相同的角度向收集区域2108提供光的发射器2102、2104、2106的光源2100的实施方案。例如，入射在收集区域2108上的光从垂直偏移。角度2116指示从垂直偏移的角度。在一个实施方案中，激光发射器2102、2104、2106可具有高斯横截面强度轮廓。如前所述，纤维之间的光能量的改善的分布可通过形成更平坦或顶帽形的强度轮廓来实现。在一个实施方案中，随着角度2116的增大，横跨收集区域2108的强度接近顶帽式轮廓。例如，通过增大角度2116直到轮廓足够平坦，顶帽式轮廓甚至可近似为非平坦输出光束。顶帽式轮廓也可使用一个或多个透镜、漫射器、混合棒，或处于发射器2102、2104、2106和输出波导、纤维或光纤束之间的任何其它居间光学部件来实现。

图22为示出了在输出处经由漫射器2204输出的单根光纤2202的示意图。在一个实施方案中，光纤2202具有500微米的直径，0.65的数值孔径，并且在没有漫射器2204的情况下发射约70度或80度的光锥2206。在有漫射器2204的情况下，光锥2206可具有约110度或120度的角度。光锥2206可以是所有光到达并且均匀分布的地方的大部分。漫射器2204可允许由图像传感器观察到的场景的电磁能量的更均匀分布。

在一个实施方案中，内腔波导210包括约500微米的单个塑料或玻璃光纤。塑料纤维的成本较低，但通过耦合、漫射或其他损耗，其宽度可允许纤维将足够量的光传携带到场景。例如，较小的纤维可能不能携带与较大纤维一样多的光或功率。内腔波导210可包括单根或多根光纤。内腔波导210可直接从光源或者经由跳线波导接收光。漫射器可用于加宽光输出206以获得图像传感器214或其他光学部件的期望的视场。

虽然在图21A至图21C中示出了三个发射器，但是在一些实施方案中可使用数量从一个到数百个或更多个不等的发射器。发射器可具有它们发射的不同波长或光谱的光，并且这些光可用于连续覆盖电磁光谱的所需部分(例如，可见光谱以及红外光谱和紫外光谱)。发射器可被配置成能够发射可见光诸如红光、绿光和蓝光，并且可进一步被配置成能够发射电磁辐射的超光谱发射、用于使试剂发荧光的荧光激发波长和/或用于计算参数和场景中对象之间的距离的激光标测模式。

图23示出了被分成二十个不同子光谱的电磁光谱2300的一部分。子光谱的数量仅为示例性的。在至少一个实施方案中，光谱2300可被分成数百个子光谱，每个子光谱具有小波带。光谱可从红外光谱2302延伸，穿过可见光谱2304，并且进入紫外光谱2306。子光谱各自具有覆盖光谱2300的一部分的波带2308。每个波带可由上波长和下波长限定。

超光谱成像包括来自整个电磁光谱2300的成像信息。电磁辐射的超光谱脉冲可包括跨越电磁波谱2300的一个或多个部分或整个电磁波谱2300的多个子脉冲。电磁辐射的超光谱脉冲可包括电磁辐射的波长的单个分区。所得超光谱曝光帧包括在电磁辐射的超光谱脉冲之后由像素阵列感测的信息。因此，超光谱曝光帧可包括用于电磁频谱2300的任何合适分区的数据，并且可包括用于电磁频谱2300的多个分区的多个曝光帧。在一个实施方案中，超光谱曝光帧包括多个超光谱曝光帧，使得组合的超光谱曝光帧包括整个电磁光谱2300的数据。

在一个实施方案中，至少一个发射器(诸如激光发射器)包括在用于每个子光谱的光源(诸如光源202、2100)中以提供对整个光谱2300的完整且连续的覆盖。例如，用于提供对所示子光谱的覆盖的光源可包括至少20个不同的发射器，每个子光谱至少有一个发射器。在一个实施方案中，每个发射器覆盖40纳米的光谱。例如，一个发射器可发射500nm至540nm的波带内的光，而另一个发射器可发射540nm至580nm的波带内的光。在另一个实施方案中，发射器可覆盖其它尺寸的波带，这取决于可用发射器的类型或成像需要。例如，多个发射器可包括覆盖500nm至540nm的波带的第一发射器、覆盖540nm至640nm的波带的第二发射器，以及覆盖640nm至650nm的波带的第三发射器。每个发射器可覆盖范围从远红外、中红外、近红外、可见光、近紫外和/或远紫外的电磁光谱的不同片段。在一些情况下，可包括相同类型或波长的多个发射器以提供用于成像的足够输出功率。特定波带所需的发射器数量可取决于单色传感器对波带的灵敏度和/或该波带中发射器的功率输出能力。

可选择由发射器提供的波带宽度和覆盖率以提供光谱的任何所需组合。例如，使用非常小的波带宽度(例如，10nm或更小)的光谱的连续覆盖可允许高度选择性的超光谱和/或荧光成像。波带宽度可允许选择性地发射一种或多种特定荧光试剂的激发波长。另外，波带宽度可允许选择性地发射超光谱电磁辐射的某些分区，以用于识别特定结构、化学过程、组织、生物过程，等等。因为波长来自可选择性激活的发射器，所以可实现在检查期间对一种或多种特定荧光试剂发荧光的极大灵活性。另外，可实现通过超光谱成像来识别一个或多个对象或过程的极端灵活性。因此，更多的荧光和/或高光谱信息可在更少的时间内并且在单次检查内实现，这原本需要多次检查、由于染料的施用或污渍而延迟，等等。

图24为示出了用于生成图像的发射和读出的定时图2400的示意图。实线表示用于捕获一系列曝光帧2404至2414的读出(峰2402)和消隐周期(谷)。一系列曝光帧2404至2414可包括可用于生成可叠加在RGB视频流上的激光标测、超光谱和/或荧光数据的一系列重复的曝光帧。在一个实施方案中，单个图像帧包括来自多个曝光帧的信息，其中一个曝光帧包括红色图像数据，另一个曝光帧包括绿色图像数据，并且另一个曝光帧包括蓝色图像数据。另外，单个图像帧可包括超光谱图像数据、荧光图像数据和激光标测数据中的一者或多者。组合多个曝光帧以产生单个图像帧。单个图像帧是具有超光谱成像数据的RGB图像。该系列曝光帧包括第一曝光帧2404、第二曝光帧2406、第三曝光帧2408、第四曝光帧2410、第五曝光帧2412，以及第N曝光帧2426。

另外，可组合使用超光谱图像数据、荧光图像数据和激光标测数据来识别关键组织或结构，并且进一步测量那些关键组织或结构的尺寸。例如，可将超光谱图像数据提供给对应的系统以识别身体中的某些关键结构，诸如神经、输尿管、血管、癌组织，等等。关键结构的位置和标识可从对应的系统接收，并且还可用于使用激光标测数据生成关键结构的拓扑结构。例如，对应的系统基于超光谱成像数据确定癌性肿瘤的位置。由于癌性肿瘤的位置基于超光谱成像数据是已知的，因此可基于激光标测数据来计算癌性肿瘤的形貌和距离。当基于荧光成像数据识别癌性肿瘤或其他结构时，该示例也可适用。

在一个实施方案中，基于电磁能量的至少一个脉冲生成每个曝光帧。电磁能量脉冲被图像传感器反射并检测，并且随后在后续读出(2402)中读出。因此，每个消隐周期和读出导致用于特定电磁能量光谱的曝光帧。例如，第一曝光帧2404可基于第一一个或多个脉冲2416的光谱生成，第二曝光帧2406可基于第二一个或多个脉冲2418的光谱生成，第三曝光帧2408可基于第三一个或多个脉冲2420的光谱生成，第四曝光帧2410可基于第四一个或多个脉冲2422的光谱生成，第五曝光帧2412可基于第五一个或多个脉冲2424的光谱生成，并且第N曝光帧2426可基于第N一个或多个脉冲2426的光谱生成。

脉冲2416至2426可包括来自单个发射器或来自两个或更多个发射器的组合的能量。例如，可选择包括在单个读出周期中或多个曝光帧2404至2414内的光谱以用于对特定组织或状况的所需检查或检测。根据一个实施方案，一个或多个脉冲可包括用于生成RGB或黑色图像的可见光谱的光，而一个或多个附加脉冲被发射为感测对超光谱波长的电磁辐射的光谱响应。例如，脉冲2416可包括红光，脉冲2418可包括蓝光，并且脉冲2420可包括绿光，而其余脉冲2422至2426可包括用于检测特定组织类型、使试剂发荧光和/或标测场景的形貌的波长和光谱。又如，单个读出周期的脉冲包括由可用于检测特定组织类型的多个不同发射器生成的光谱(例如，电磁光谱的不同片段)。例如，如果波长的组合导致像素具有超过或低于阈值的值，则该像素可被分类为对应于特定类型的组织。每一帧可用于进一步缩小存在于该像素(例如，以及图像中的每个像素)处的组织的类型，以基于组织的光谱响应和/或组织中是否存在荧光试剂来提供组织和/或组织的状态(患病/健康)的非常具体的分类。

多个帧2404至2414被示出为具有不同长度的读出周期以及具有不同长度或强度的脉冲。消隐周期、脉冲长度或强度等可基于单色传感器对特定波长的灵敏度、发射器的功率输出能力和/或波导的携带能力来选择。

在一个实施方案中，双图像传感器可用于获得三维图像或视频馈送。三维检查可允许对检查区域的三维结构的改善的理解以及对该区域内的不同组织或物质类型的标测。

在一个示例性具体实施中，向患者提供荧光试剂，并且荧光试剂被配置成粘附到癌细胞。已知荧光试剂在被电磁辐射的特定分区辐射时发荧光。荧光试剂的弛豫波长也是已知的。在示例性具体实施中，用如本文所述的内窥镜成像系统对患者进行成像。内窥镜成像系统脉冲红色、绿色和蓝色波长的光的分区，以生成患者身体内部的RGB视频流。另外，内窥镜成像系统对施用给患者的荧光试剂的激发波长的电磁辐射进行脉冲。在示例中，患者具有癌细胞，并且荧光试剂已粘附到癌细胞。当内窥镜成像系统使荧光试剂的激发波长脉冲时，荧光试剂将发荧光并且发出弛豫波长。如果癌细胞存在于由内窥镜成像系统成像的场景中，则荧光试剂也将存在于场景中，并且在发荧光后由于激发波长的发射而发出其弛豫波长。内窥镜成像系统感测荧光试剂的弛豫波长，从而感测场景中荧光试剂的存在。因为已知荧光试剂粘附到癌细胞，所以荧光试剂的存在进一步指示场景内癌细胞的存在。内窥镜成像系统从而识别场景内癌细胞的位置。内窥镜成像系统还可发射激光标测脉冲方案，用于生成场景的拓扑结构并且计算场景内的对象的尺寸。(如由荧光成像数据所识别的)癌细胞的位置可与基于激光标测数据计算的拓扑结构和尺寸信息组合。因此，可识别癌细胞的精确位置、大小、尺寸和拓扑结构。可将该信息提供给执业医生以帮助切除癌细胞。另外，可将该信息提供给机器人外科系统，以使外科系统能够切除癌细胞。

在另一个示例性具体实施中，用内窥镜成像系统对患者进行成像，以识别关于患者组织病变的定量诊断信息。在该示例中，疑似或已知患者患有一种可利用超光谱成像跟踪以观察疾病在患者组织中的进程的疾病。内窥镜成像系统脉冲红色、绿色和蓝色波长的光的分区，以生成患者身体内部的RGB视频流。另外，内窥镜成像系统使一个或多个超光谱波长的光脉冲，从而允许系统“透视”一些组织并且生成受疾病影响的组织的成像。内窥镜成像系统感测反射的超光谱电磁辐射以生成患病组织的超光谱成像数据，从而识别患病组织在患者体内的位置。内窥镜成像系统还可发射激光标测脉冲方案，用于生成场景的拓扑结构并且计算场景内对象的尺寸。(如由超光谱成像数据所识别的)患病组织的位置可与用激光标测数据计算的拓扑结构和尺寸信息组合。因此，可识别患病组织的精确位置、大小、尺寸和拓扑结构。可将该信息提供给执业医生以帮助切除、成像或研究患病组织。另外，可将该信息提供给机器人外科系统，以使外科系统能够切除患病组织。

图25A和图25B分别示出根据本公开的教导和原理的单片传感器2500的具体实施的透视图和侧视图，该单片传感器具有多个像素阵列用于产生三维图像。此类具体实施可能是三维图像捕获所期望的，其中在使用期间两个像素阵列2502和2504可被偏移。在另一个具体实施中，第一像素阵列2502和第二像素阵列2504可专用于接收预先确定的波长范围的电磁辐射，其中该第一像素阵列专用于与该第二像素阵列不同波长范围的电磁辐射。

图26A和图26B分别示出了构建在多个基板上的成像传感器2600的具体实施的透视图和侧视图。如图所示，形成该像素阵列的多个像素列2604位于第一基板2602上并且多个电路列2608位于第二基板1906上。图中还示出了一个像素列与其相关联的或对应的电路列之间的电连接和通信。在一个具体实施中，图像传感器可具有与全部或大部分支撑电路分开的像素阵列，而其可能以其它方式被制造成它的像素阵列和支撑电路处于单个、单片基板/芯片上。本公开可使用至少两个基板/芯片，这些基板/芯片将使用三维堆叠技术被堆叠在一起。两个基板/芯片中的第一2602可使用图像CMOS工艺加工。第一基板/芯片2602可仅仅由像素阵列构成，或可由被有限电路围绕的像素阵列构成。第二或后续基板/芯片1906可使用任何工艺加工，而不是必须来自图像CMOS工艺。第二基板/芯片1906可以是但不限于，为了将各种和多个功能集成到基板/芯片上非常有限空间或面积中的高密度数字工艺、或为了集成例如精确模拟功能的混合模式或模拟工艺、或为了实现无线能力的RF工艺、或为了集成MEMS器件的MEMS(微电子机械系统)。图像CMOS基板/芯片2602可使用任何三维技术与第二或后续基板/芯片1906堆叠。第二基板/芯片1906可支撑将可能另外在第一图像CMOS芯片2602中实现(如果在单片基板/芯片上实现)为外围电路的电路的绝大部分或大部分，并且因此当保持像素阵列大小恒定并尽最大可能优化时增加了整个系统面积。两个基板/芯片之间的电连接可通过互联器完成，这些互联器可以为接合引线、凸耳和/或TSV(硅通孔)。

图27A和图27B分别示出了具有多个像素阵列用于产生三维图像的成像传感器2700的具体实施的透视图和侧视图。三维图像传感器可被构建在多个基板上并且可包括多个像素阵列和其他相关联的电路系统，其中形成第一像素阵列的多个素列2704a和形成第二像素阵列的多个像素列2704b分别位于相应的基板2702a和2702b上，并且多个电路列2708a和2708b位于单独的基板2706上。还示出了像素列与相关联的或对应的电路列之间的电连接和通信。

多个像素阵列可同时感测信息，并且来自多个像素阵列的信息可被组合以生成三维图像。在一个实施方案中，内窥镜成像系统包括可被部署以生成三维成像的两个或更多个像素阵列。内窥镜成像系统可包括用于在像素阵列的消隐周期期间发射电磁辐射脉冲的发射器。像素阵列可被同步，使得针对两个或更多个像素阵列，同时读取光学黑色像素(即，发生消隐周期)。发射器可发射电磁辐射脉冲以用于对两个或更多个像素阵列中的每个像素阵列充电。两个或更多个像素阵列可同时读取其相应的带电像素，使得两个或更多个像素阵列的读出周期同时或大致同时发生。在一个实施方案中，内窥镜成像系统包括多个发射器，其中每个发射器单独地与多个像素阵列中的一个或多个像素阵列同步。来自多个像素阵列的信息可被组合以生成三维图像帧和视频流。

应当理解，本公开的教导内容和原理可用于可重复使用的装置平台、有限使用的装置平台、可重新设置使用的装置平台或单次使用/一次性的装置平台，而不脱离本公开的范围。应当理解，在可重复使用的装置平台中，最终使用人负责该装置的清洁和消毒。在有限使用的装置平台中，在变得不能操作之前，装置可被使用一些规定量的次数。典型的新装置在交付前已经过无菌处理，如果要用作其它用途，应在其它使用之前由最终用户进行清洗和消毒。在可重新设置使用的装置平台中，第三方可重新处理装置(例如，清洁、包装和消毒)单次使用的装置，以比新单元更低的成本用于另外使用。在单次使用/一次性的装置平台中，提供无菌装置至手术室并且在被处置掉之前只能使用一次。

实施例

以下实施例涉及另外的实施方案的优选特征：

实施例1为一种系统。本发明公开了一种系统，所述系统包括用于发射电磁辐射脉冲的发射器和包括用于感测反射的电磁辐射的像素阵列的图像传感器。所述系统包括与所述图像传感器和所述发射器电子通信的控制器，所述控制器被配置成能够同步所述发射器和所述图像传感器的定时以生成多个曝光帧。所述系统使得由所述发射器发射的电磁辐射脉冲的至少一部分包括以下一者或多者：具有从约513nm至约545nm的波长的电磁辐射；具有从约565nm至约585nm的波长的电磁辐射；或具有从约900nm至约1000nm的波长的电磁辐射。

实施例2为根据实施例1所述的系统，其中，所述像素阵列包括多个像素，并且其中所述多个像素中的每个像素的灵敏度能够被调整为使得所述像素阵列包括长曝光像素和短曝光像素。

实施例3为根据实施例1至2中任一项所述的系统，其中，所述多个曝光帧中的至少一部分包括亮度曝光帧、红色色度曝光帧和蓝色色度曝光帧，并且其中：所述亮度曝光帧包括长曝光像素数据和短曝光像素数据；并且所述红色色度曝光帧包括长曝光像素数据和短曝光像素数据；并且所述蓝色色度曝光帧包括长曝光像素数据和短曝光像素数据。

实施例4为根据实施例1至3中任一项所述的系统，其中，所述发射器根据颜色变换系数调制所述电磁辐射脉冲以提供亮度信息，所述颜色变换系数将来自红色、绿色和蓝色的光能空间的光能转换为亮度、蓝色色度和红色色度的光能空间。

实施例5为根据实施例1至4中任一项所述的系统，其中，所述发射器根据颜色变换系数调制所述电磁辐射脉冲以提供色度信息，所述颜色变换系数将来自红色、绿色和蓝色的光能空间的光能转换为亮度、蓝色色度和红色色度的光能空间。

实施例6为根据实施例1至5中任一项所述的系统，其中，所述电磁辐射脉冲根据包括亮度脉冲、蓝色色度脉冲、红色色度脉冲和超光谱脉冲的脉冲模式进行发射。

实施例7为根据实施例1至6中任一项所述的系统，其中，所述电磁辐射脉冲根据包括亮度脉冲、组合的蓝色色度和红色色度脉冲以及超光谱脉冲的脉冲模式进行发射。

实施例8为根据实施例1至7中任一项所述的系统，其中，所述控制器被配置成能够生成包括来自多个曝光帧的数据的图像帧，其中单个图像帧包括来自亮度曝光帧、色度曝光帧和超光谱曝光帧的数据，其中所述超光谱曝光帧响应于以下一者或多者的电磁辐射的发射而由所述像素阵列感测：具有从约513nm至约545nm的波长的电磁辐射以及具有从约900nm至约1000nm的波长的电磁辐射；或具有从约565nm至约585nm的波长的电磁辐射以及具有从约900nm至约1000nm的波长的电磁辐射。

实施例9为根据实施例1至8中任一项所述的系统，其中，所述图像传感器被配置成能够生成多个曝光帧，其中所述多个曝光帧中的每个曝光帧对应于由所述发射器发射的电磁辐射脉冲。

实施例10为根据实施例1至9中任一项所述的系统，其中，所述图像传感器的所述像素阵列在所述像素阵列的读出周期期间感测反射的电磁辐射以生成所述多个曝光帧，其中所述读出周期是所述像素阵列中的有源像素被读取时的持续时间。

实施例11为根据实施例1至10中任一项所述的系统，其中，所述电磁辐射脉冲根据包括亮度脉冲、红色色度脉冲、蓝色色度脉冲和超光谱脉冲的脉冲模式进行发射，其中所述亮度脉冲在所述脉冲模式中表示的频率是所述红色色度脉冲、所述蓝色色度脉冲或所述超光谱脉冲的两倍。

实施例12为根据实施例1至11中任一项所述的系统，其中，由所述发射器发射的电磁辐射脉冲的至少一部分为用于引发光谱响应的超光谱波长，其中所述超光谱波长包括以下一者或多者：具有从约513nm至约545nm的波长的电磁辐射以及具有从约900nm至约1000nm的波长的电磁辐射；或具有从约565nm至约585nm的波长的电磁辐射以及具有从约900nm至约1000nm的波长的电磁辐射。

实施例13为根据实施例1至12中任一项所述的系统，其中，所述发射器被配置成能够在脉冲持续时间期间发射具有短于所述脉冲持续时间的子持续时间的多个电磁辐射子脉冲。

实施例14为根据实施例1至13中任一项所述的系统，其中，由所述发射器发射的电磁辐射脉冲中的一个或多个脉冲包括作为单个脉冲或单个子脉冲以两个或多个波长同时发射的电磁辐射。

实施例15为根据实施例1至14中任一项所述的系统，其中，由所述发射器发射的电磁辐射脉冲的至少一部分为导致由所述图像传感器产生的超光谱曝光帧的超光谱发射，并且其中所述控制器被配置成能够向对应系统提供所述超光谱曝光帧，所述对应系统基于所述超光谱曝光帧来确定场景内关键组织结构的位置。

实施例16为根据实施例1至15中任一项所述的系统，其中，所述超光谱发射包括：具有从约513nm至约545nm的波长的电磁辐射以及具有从约900nm至约1000nm的波长的电磁辐射；或具有从约565nm至约585nm的波长的电磁辐射以及具有从约900nm至约1000nm的波长的电磁辐射。

实施例17为根据实施例1至16中任一项所述的系统，其中，所述控制器被进一步配置成能够：从所述对应的系统接收所述关键组织结构的位置；生成包括所述关键组织结构的所述位置的重叠帧；以及将所述重叠帧与描绘所述场景的彩色图像帧组合，以指示所述场景内所述关键组织结构的所述位置。

实施例18为根据实施例1至17中任一项所述的系统，其中，所述关键结构包括神经、输尿管、血管、动脉、血流或肿瘤中的一者或多者。

实施例19为根据实施例1至18中任一项所述的系统，其中，所述控制器被配置成能够在所述图像传感器的消隐周期期间同步所述电磁辐射脉冲的定时，其中所述消隐周期对应于所述像素阵列中的最后一行有源像素的读出与所述像素阵列中的有源像素的下一个后续读出开始之间的时间。

实施例20为根据实施例1至19中任一项所述的系统，其中，由所述发射器发射的两个或更多个电磁辐射脉冲导致反射的电磁辐射的两个或更多个实例，反射的电磁辐射的两个或更多个实例由所述像素阵列感测以生成两个或更多个曝光帧，所述两个或更多个曝光帧被组合以形成图像帧。

实施例21为根据实施例1至20中任一项所述的系统，其中，所述图像传感器包括第一图像传感器和第二图像传感器，使得所述图像传感器能够生成三维图像。

实施例22为根据实施例1至21中任一项所述的系统，其中，所述发射器被配置成能够重复发射足以生成包括多个图像帧的视频流的电磁辐射的脉冲序列，其中所述视频流中的每个图像帧包括来自多个曝光帧的数据，并且其中所述曝光帧中的每个曝光帧对应于电磁辐射脉冲。

实施例23为根据实施例1至22中任一项所述的系统，其中，所述电磁辐射脉冲以不同波长的电磁辐射的模式发射，并且其中所述发射器重复所述不同波长的电磁辐射的所述模式。

实施例24为根据实施例1至23中任一项所述的系统，其中，所述电磁辐射脉冲的至少一部分包括红色波长、绿色波长、蓝色波长和超光谱波长，使得由所述像素阵列感测的对应于所述红色波长、所述绿色波长、所述蓝色波长和所述超光谱波长中的每一者的反射电磁辐射能够被处理以生成包括超光谱成像数据的叠加的红-绿-蓝(RGB)图像，其中所述超光谱波长的电磁辐射包括：具有从约513nm至约545nm的波长的电磁辐射以及具有从约900nm至约1000nm的波长的电磁辐射；或具有从约565nm至约585nm的波长的电磁辐射以及具有从约900nm至约1000nm的波长的电磁辐射。

实施例25为根据实施例1至24中任一项所述的系统，其中，所述电磁辐射脉冲的至少一部分包括亮度发射、红色色度发射、蓝色色度发射和超光谱发射，使得由所述像素阵列感测的对应于所述亮度发射、所述红色色度发射、所述蓝色色度发射和所述超光谱发射中的每一者的反射电磁辐射能够被处理以生成包括超光谱成像数据的叠加的YCbCr图像帧，其中所述电磁辐射的超光谱发射包括：具有从约513nm至约545nm的波长的电磁辐射以及具有从约900nm至约1000nm的波长的电磁辐射；或具有从约565nm至约585nm的波长的电磁辐射以及具有从约900nm至约1000nm的波长的电磁辐射。

应当理解，本文所公开的各种特征在本领域中提供了显著优势和进步。下列权利要求为那些特征中的一些的示例。

在上述本公开具体实施方式中，出于简化本公开的目的，将本公开的各个特征集中于单个实施方案中。本公开的方法不应理解为体现了这样的意图：受权利要求书保护的公开内容要求比每项权利要求中所明确列举的更多的特征。相反，创新方面未能体现上文公开的单个实施例的所有特征。

应当理解，上述布置方式、实施例和实施方案的任何特征可在包括从任何所公开的布置方式、实施例和实施方案中获得的特征的组合的单个实施方案中组合。

应当理解，上述设置只是本公开原理的示例性应用。在不脱离本公开精神和范围的前提下，本领域的技术人员可以设计许多修改和另选设置，并且所附权利要求书旨在涵盖这些修改和设置。

因此，当本公开以图示显示并且以特殊性和细节进行上述描述时，对于本领域的普通技术人员而言，在不脱离本文所述原则和理念的前提下，显而易见可进行大量修改，这些修改包括但不限于尺寸、材料、形状、形式、功能和操作方式、组装和使用方式的变化。

另外，在适当的情况下，本文所述的功能可通过硬件、软件、固件、数字部件或模拟部件中的一种或多种来执行。例如，可对一种或多种专用集成电路(ASIC)或现场可编程门阵列进行编程以执行本文所述的一种或多种系统和程序。在整个下面的描述和权利要求中所用的某些术语是指特定的系统部件。本领域的技术人员应当理解，部件可具有不同的名称。本文并非旨在在名称上而非功能上不同的部件之间进行辨别。

为了举例说明和描述的目的，已经提供了上述具体实施方式。这些具体实施方式并非意图为详尽的或将本公开限制为所公开的具体形式。根据上述教导内容可以对本公开进行许多修改和改变。另外，应当指出的是，任何或所有前述另选的具体实施可以任何期望的组合使用，以形成本公开的另外的混合的具体实施。

另外，虽然已描述和说明了本公开的特定具体实施，但是本公开并不限于如描述和说明的特定形式或部件布置。本公开的范围将由此处所附的权利要求、此处和不同申请中提交的任何未来的权利要求以及它们的等效物来限定。

Claims (25)

1.一种系统，包括：

发射器，所述发射器用于发射电磁辐射脉冲；

图像传感器，所述图像传感器包括用于感测反射的电磁辐射的像素阵列；以及

控制器，所述控制器与所述图像传感器和所述发射器电子通信，所述控制器被配置成能够同步所述发射器和所述图像传感器的定时以生成多个曝光帧；

其中由所述发射器发射的电磁辐射脉冲的至少一部分包括以下一者或多者：

具有从约513nm至约545nm的波长的电磁辐射；

具有从约565nm至约585nm的波长的电磁辐射；或者

具有从约900nm至约1000nm的波长的电磁辐射。

2.根据权利要求1所述的系统，其中，所述像素阵列包括多个像素，并且其中所述多个像素中的每个像素的灵敏度能够被调整为使得所述像素阵列包括长曝光像素和短曝光像素。

3.根据权利要求1所述的系统，其中，所述多个曝光帧中的至少一部分包括亮度曝光帧、红色色度曝光帧和蓝色色度曝光帧，并且其中：

所述亮度曝光帧包括长曝光像素数据和短曝光像素数据；并且

所述红色色度曝光帧包括长曝光像素数据和短曝光像素数据；并且

所述蓝色色度曝光帧包括长曝光像素数据和短曝光像素数据。

4.根据权利要求1所述的系统，其中，所述发射器根据颜色变换系数调制所述电磁辐射脉冲以提供亮度信息，所述颜色变换系数将来自红色、绿色和蓝色的光能空间的光能转换为亮度、蓝色色度和红色色度的光能空间。

5.根据权利要求1所述的系统，其中，所述发射器根据颜色变换系数调制所述电磁辐射脉冲以提供色度信息，所述颜色变换系数将来自红色、绿色和蓝色的光能空间的光能转换为亮度、蓝色色度和红色色度的光能空间。

6.根据权利要求1所述的系统，其中，所述电磁辐射脉冲根据包括亮度脉冲、蓝色色度脉冲、红色色度脉冲和超光谱脉冲的脉冲模式进行发射。

7.根据权利要求1所述的系统，其中，所述电磁辐射脉冲根据包括亮度脉冲、组合的蓝色色度和红色色度脉冲以及超光谱脉冲的脉冲模式进行发射。

8.根据权利要求1所述的系统，其中，所述控制器被配置成能够生成包括来自多个曝光帧的数据的图像帧，其中单个图像帧包括来自亮度曝光帧、色度曝光帧和超光谱曝光帧的数据，其中所述超光谱曝光帧响应于以下一者或多者的电磁辐射的发射而由所述像素阵列感测：

具有从约513nm至约545nm的波长的电磁辐射以及具有从约900nm至约1000nm的波长的电磁辐射；或者

具有从约565nm至约585nm的波长的电磁辐射以及具有从约900nm至约1000nm的波长的电磁辐射。

9.根据权利要求1所述的系统，其中，所述图像传感器被配置成能够生成多个曝光帧，其中所述多个曝光帧中的每个曝光帧对应于由所述发射器发射的电磁辐射脉冲。

10.根据权利要求9所述的系统，其中，所述图像传感器的所述像素阵列在所述像素阵列的读出周期期间感测反射的电磁辐射以生成所述多个曝光帧，其中所述读出周期是所述像素阵列中的有源像素被读取时的持续时间。

11.根据权利要求1所述的系统，其中，所述电磁辐射脉冲根据包括亮度脉冲、红色色度脉冲、蓝色色度脉冲和超光谱脉冲的脉冲模式进行发射，其中所述亮度脉冲在所述脉冲模式中表示的频率是所述红色色度脉冲、所述蓝色色度脉冲或所述超光谱脉冲的两倍。

12.根据权利要求1所述的系统，其中，由所述发射器发射的电磁辐射脉冲的至少一部分为用于引发光谱响应的超光谱波长，其中所述超光谱波长包括以下一者或多者：

具有从约513nm至约545nm的波长的电磁辐射以及具有从约900nm至约1000nm的波长的电磁辐射；或者

具有从约565nm至约585nm的波长的电磁辐射以及具有从约900nm至约1000nm的波长的电磁辐射。

13.根据权利要求1所述的系统，其中，所述发射器被配置成能够在脉冲持续时间期间发射多个电磁辐射子脉冲，所述多个电磁辐射子脉冲具有短于所述脉冲持续时间的子持续时间。

14.根据权利要求1所述的系统，其中，由所述发射器发射的电磁辐射脉冲中的一个或多个脉冲包括作为单个脉冲或单个子脉冲同时以两个或更多个波长发射的电磁辐射。

15.根据权利要求1所述的系统，其中，由所述发射器发射的电磁辐射脉冲的至少一部分为导致由所述图像传感器产生的超光谱曝光帧的超光谱发射，并且其中所述控制器被配置成能够向对应的系统提供所述超光谱曝光帧，所述对应的系统基于所述超光谱曝光帧确定场景内关键组织结构的位置。

16.根据权利要求15所述的系统，其中所述超光谱发射包括：

具有从约513nm至约545nm的波长的电磁辐射以及具有从约900nm至约1000nm的波长的电磁辐射；或者

具有从约565nm至约585nm的波长的电磁辐射以及具有从约900nm至约1000nm的波长的电磁辐射。

17.根据权利要求15所述的系统，其中，所述控制器被进一步配置成能够：

从所述对应的系统接收所述关键组织结构的位置；

生成包括所述关键组织结构的所述位置的重叠帧；以及

将所述重叠帧与描绘所述场景的彩色图像帧组合，以指示所述场景内所述关键组织结构的所述位置。

18.根据权利要求17所述的系统，其中，所述关键结构包括神经、输尿管、血管、动脉、血流或肿瘤中的一者或多者。

19.根据权利要求1所述的系统，其中，所述控制器被配置成能够在所述图像传感器的消隐周期期间同步所述电磁辐射脉冲的定时，其中所述消隐周期对应于所述像素阵列中的最后一行有源像素的读出与所述像素阵列中的有源像素的下一个后续读出开始之间的时间。

20.根据权利要求1所述的系统，其中，由所述发射器发射的两个或更多个电磁辐射脉冲导致反射的电磁辐射的两个或更多个实例，所述两个或更多个实例由所述像素阵列感测以生成两个或更多个曝光帧，所述两个或更多个曝光帧被组合以形成图像帧。

21.根据权利要求1所述的系统，其中，所述图像传感器包括第一图像传感器和第二图像传感器，使得所述图像传感器能够生成三维图像。

22.根据权利要求1所述的系统，其中，所述发射器被配置成能够重复发射足以生成包括多个图像帧的视频流的电磁辐射的脉冲序列，其中所述视频流中的每个图像帧包括来自多个曝光帧的数据，并且其中所述曝光帧中的每个曝光帧对应于电磁辐射脉冲。

23.根据权利要求1所述的系统，其中，所述电磁辐射脉冲以不同波长的电磁辐射的模式发射，并且其中所述发射器重复所述不同波长的电磁辐射的所述模式。

24.根据权利要求1所述的系统，其中，所述电磁辐射脉冲的至少一部分包括红色波长、绿色波长、蓝色波长和超光谱波长，使得由所述像素阵列感测的对应于所述红色波长、所述绿色波长、所述蓝色波长和所述超光谱波长中的每一者的反射的电磁辐射能够被处理以生成包括超光谱成像数据的叠加的红-绿-蓝(RGB)图像帧，其中所述超光谱波长的电磁辐射包括：

具有从约513nm至约545nm的波长的电磁辐射以及具有从约900nm至约1000nm的波长的电磁辐射；或者

具有从约565nm至约585nm的波长的电磁辐射以及具有从约900nm至约1000nm的波长的电磁辐射。

25.根据权利要求1所述的系统，其中，所述电磁辐射脉冲的至少一部分包括亮度发射、红色色度发射、蓝色色度发射和超光谱发射，使得由所述像素阵列感测的对应于所述亮度发射、所述红色色度发射、所述蓝色色度发射和所述超光谱发射中的每一者的反射的电磁辐射能够被处理以生成包括超光谱成像数据的叠加的YCbCr图像帧，其中所述电磁辐射的超光谱发射包括：

具有从约513nm至约545nm的波长的电磁辐射以及具有从约900nm至约1000nm的波长的电磁辐射；或者

具有从约565nm至约585nm的波长的电磁辐射以及具有从约900nm至约1000nm的波长的电磁辐射。

Images