CN117214068B - 一种运动微粒成像探测系统 - Google Patents

一种运动微粒成像探测系统 Download PDF

Info

Publication number
CN117214068B
CN117214068B CN202311481168.4A CN202311481168A CN117214068B CN 117214068 B CN117214068 B CN 117214068B CN 202311481168 A CN202311481168 A CN 202311481168A CN 117214068 B CN117214068 B CN 117214068B
Authority
CN
China
Prior art keywords
speed camera
particles
image
split
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202311481168.4A
Other languages
English (en)
Other versions
CN117214068A (zh
Inventor
王启伟
王策
张宸瑄
崔思静
陈忠祥
侯冲
陈柯屹
陈丽敏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Priority to CN202311481168.4A priority Critical patent/CN117214068B/zh
Publication of CN117214068A publication Critical patent/CN117214068A/zh
Application granted granted Critical
Publication of CN117214068B publication Critical patent/CN117214068B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

本发明提供了一种运动微粒成像探测系统,涉及微粒探测技术领域。该运动微粒成像探测系统包括用于驱动微粒以给定速度经过观测区域的微粒运动模块、光学模块和信息流转模块,光学模块包括分体式高速相机,分体式高速相机用于拍摄观测区域中的微粒;信息流转模块包括图像采集卡,图像采集卡基于GenTL协议通过多路CXP‑6接口接收分体式高速相机传输的图像数据流并生成图像数据。本发明的运动微粒成像探测系统,能够长时间持续作业且能够实时传输图像数据。

Description

一种运动微粒成像探测系统
技术领域
本发明涉及微粒探测技术领域,具体而言,涉及一种运动微粒成像探测系统。
背景技术
不同于对静态细胞显微成像技术,流式细胞成像技术要求对高速运动的细胞进行拍摄,细胞流速通常高达数米或数十米每秒,为了实现在极短时间内有效完成对运动细胞的成像探测和数据读出,现有技术公开了一种面阵成像的解决方案,该方案采用一体式高速相机进行像素矩阵拍摄,直接获取二维图像,尽管能够有效规避诸如畸变、像差等成像缺陷,但由于一体式高速相机以数据覆盖的方式将图像数据存储在内置的存储器中(即存储器满载后,新数据通过覆盖旧数据实现存储),以致用户需要经常性中断作业,确保在存储器满载前取出存储器并导出图像数据,以避免旧数据丢失,导致无法实现长时间持续作业且图像数据依赖存储器进行读写无法实时传输图像数据。
针对上述问题,目前尚未有有效的技术解决方案。
发明内容
本发明的目的在于提供一种运动微粒成像探测系统,能够长时间持续作业且能够实时传输图像数据。
第一方面,本发明提供一种运动微粒成像探测系统,包括用于驱动微粒以给定速度经过观测区域的微粒运动模块,还包括:
光学模块,所述光学模块包括分体式高速相机,所述分体式高速相机用于拍摄所述观测区域中的微粒;
信息流转模块,所述信息流转模块包括图像采集卡,所述图像采集卡基于GenTL协议通过多路CXP-6接口接收所述分体式高速相机传输的图像数据流并生成图像数据;
所述光学模块还包括激光器、声光调制器、反射镜、物镜、滤光片和成像透镜组,所述声光调制器用于对所述激光器发出的激光进行调制,所述反射镜用于将调制后的激光反射到位于所述观测区域的微粒上以使微粒激发出荧光;所述物镜正对于所述观测区域;所述分体式高速相机用于依次透过所述成像透镜组和所述滤光片从所述物镜中拍摄微粒;
所述运动微粒成像探测系统还包括图像处理模块,所述图像处理模块包括计算机,所述计算机用于通过PICe接口接收所述图像采集卡传输的所述图像数据并基于所述图像数据构建单帧图像;
所述分体式高速相机的成像分辨率满足以下条件:
其中,为所述分体式高速相机的成像分辨率的最小值,/>为所述物镜的放大倍数,/>为微粒的直径,/>为所述分体式高速相机的像素尺寸。
本发明提供的运动微粒成像探测系统基于分体式高速相机结合基于GenTL协议的多路CXP-6接口达到长时间持续作业并实时传输图像数据的效果;同时,上述条件作为实施准则一能够确保成像分辨率满足要求,以此保证匹配拍摄尺寸,从而保证分体式高速相机能够拍得到高速运动的微粒。
进一步的,在成像时,所述分体式高速相机的成像靶面中微粒对应占据的像素数量满足以下条件:
其中,为所述分体式高速相机的成像靶面中微粒对应占据的像素数量,/>为物方的最小空间分辨率,/>为所述物镜的放大倍数,/>为所述分体式高速相机的像素尺寸。
上述条件作为实施准则二能够确保所拍摄到的图像中所显示的微粒足够清晰,从而保证分体式高速相机能够拍得清高速运动的微粒。
进一步的,在成像时,所述分体式高速相机的成像靶面中微粒在曝光时间内移动的像素距离满足以下条件:
其中,为所述分体式高速相机的成像靶面中微粒在曝光时间内移动的像素距离,/>为拍摄所需的曝光时间,/>为微粒的运动速度,/>为所述分体式高速相机内置的最小曝光时间,/>为调制后激光的脉冲时间,/>为所述物镜的放大倍数,/>为所述分体式高速相机的像素尺寸。
上述条件作为实施准则三能够确保所拍摄到的图像中所显示的微粒不出现拖尾现象,从而进一步保证分体式高速相机能够拍得清高速运动的微粒。
进一步的,所述分体式高速相机、所述图像采集卡和所述计算机之间的传输带宽满足以下条件:
其中,为所述图像采集卡和所述计算机之间的传输带宽,/>为所述分体式高速相机和所述图像采集卡之间的传输带宽,/>为所述分体式高速相机拍摄图像的传输带宽,/>为一帧图像的颜色通道数量,/>为每个像素的比特数,/>为所述分体式高速相机的分辨率,/>为所述分体式高速相机的帧率。
进一步的,所述分体式高速相机的抓帧器需要满足以下条件:
其中,为所述分体式高速相机每次读出的图像数据条纹行数,/>为所述抓帧器每次读出的图像数据条纹行数,/>为第i个所述抓帧器读出数据的偏移量,/>为所述抓帧器的总数量。
进一步的,所述计算机构建单帧图像的步骤包括:
多个所述抓帧器依次循环读出偶数行图像数据条纹并将第一次读出的图像数据条纹填充到待填充区域的中心位置,且将第一次之后读出的图像数据条纹拆分为行数相同的两组后分别填充在所述待填充区域的中心位置的列向两侧,直至所述待填充区域被完全填充得到所述单帧图像。
进一步的,所述微粒运动模块为流体池、微流控芯片或转盘中的任意一种。
由上可知,本发明提供的运动微粒成像探测系统采用分体式高速相机获取图像数据,结合GenTL协议和多路CXP-6接口的使用实现图像数据流快速输入和输出,进而实现实时输出图像数据,避免了内置存储器的使用,从而使得整个运动微粒成像探测系统能够长时间持续作业。
本发明的其他特征和优点将在随后的说明书阐述,并且,部分地从说明书中变得显而易见,或者通过实施本发明实施例了解。本发明的目的和其他优点可通过在所写的说明书、以及附图中所特别指出的结构来实现和获得。
附图说明
图1为本发明实施例提供的运动微粒成像探测系统的其中一种结构示意图。
图2为本发明实施例提供的运动微粒成像探测系统的另一种结构示意图。
图3为本发明实施例中单帧图像构建过程的示意图。
图4为本发明实施例中的流体池的结构示意图。
图5为本发明实施例中的微流控芯片的结构示意图。
图6为本发明实施例中的转盘的结构示意图。
图7为本发明实施例中的光学模块的结构示意图。
图8为本发明实施例中微粒以1m/s的速度运动时经离差归一化处理后得到的图像。
图9为本发明实施例中微粒以3m/s的速度运动时经离差归一化处理后得到的图像。
图10为本发明实施例中射频驱动信号、外触发信号和曝光信号三者的波形图。
图11为本发明实施例中高帧率图像数据流的获取过程。
图12为本发明实施例中USAF 1951分辨率测试靶的第8组第6个的对照图像。
图13为本发明实施例中USAF 1951分辨率测试靶的第3组第2个的线对图像。
图14为本发明实施例中微粒粒径验证过程中对源图像的处理过程。
标号说明:
100、微粒运动模块;110、流体池;111、鞘液;112、喷嘴;120、微流控芯片;130、转盘;140、微粒;200、光学模块;210、分体式高速相机;211、抓帧器;220、激光器;230、声光调制器;240、反射镜;250、物镜;260、滤光片;270、成像透镜组;280、射频驱动器;290、信号发生器;300、信息流转模块;400、图像处理模块。
具体实施方式
下面详细描述本发明的实施方式,所述实施方式的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施方式是示例性的,仅用于解释本发明,而不能理解为对本发明的限制。
在本发明的描述中,需要理解的是,术语“中心”、“纵向”、“横向”、“长度”、“宽度”、“厚度”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”、“内”、“外”、“顺时针”、“逆时针”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。
在本发明的描述中,需要说明的是,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接或可以相互通讯;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通或两个元件的相互作用关系。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本发明中的具体含义。
在本发明中,除非另有明确的规定和限定,第一特征在第二特征之“上”或之“下”可以包括第一和第二特征直接接触,也可以包括第一和第二特征不是直接接触而是通过它们之间的另外的特征接触。而且,第一特征在第二特征“之上”、“上方”和“上面”包括第一特征在第二特征正上方和斜上方,或仅仅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”包括第一特征在第二特征正下方和斜下方,或仅仅表示第一特征水平高度小于第二特征。
下文的公开提供了许多不同的实施方式或例子用来实现本发明的不同结构。为了简化本发明的公开,下文中对特定例子的部件和设置进行描述。当然,它们仅仅为示例,并且目的不在于限制本发明。此外,本发明可以在不同例子中重复参考数字和/或参考字母,这种重复是为了简化和清楚的目的,其本身不指示所讨论各种实施方式和/或设置之间的关系。此外,本发明提供了的各种特定的工艺和材料的例子,但是本领域普通技术人员可以意识到其他工艺的应用和/或其他材料的使用。
下面将结合本发明实施例中附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围,而是仅仅表示本发明的选定实施例。基于本发明的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个所述特征。在本发明的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。同时,在本发明的描述中,术语“第一”、“第二”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
常规流式细胞检测技术能够快速分析成千上万个细胞,以获得每个细胞的散射光信号和荧光信号,从而得到细胞群体的各种统计数据,但常规的流式细胞检测技术获得的细胞信息相对有限,比如一个细胞仅对应散点图的一个点,而不是真实的细胞图像,缺乏细胞形态学、细胞结构及亚细胞水平信号分布等相关信息,若想要获得细胞图像,则通常需要使用显微镜进行观察,但显微镜所能够观察到细胞数量有限,难以提供细胞群体的量化和统计数据,鉴于此,流式细胞成像技术应运而生,流式细胞成像技术将流式细胞技术的高通量优势与细胞显微成像技术的高内涵特点结合于一体,既能提供细胞群体的统计数据,又能获得单个细胞的明场或荧光图像,为研究人员提供了细胞形态学、细胞结构和亚细胞信号分布的完整信息。
与常规静态细胞显微成像不同的是,流式细胞成像技术需要对高速流动细胞进行拍摄,细胞流速通常高达数米至数十米每秒,为实现在极短时间内有效完成对运动细胞的成像探测和数据读出,现有技术提出了三种解决方案:
1、点扫成像,包括光谱标记和时间拉伸技术,用色散器件将宽谱光的不同波长映射到成像样本的不同空间位置,样本反射光或散射光通过色散光纤进行时间拉伸,从而将携带了样本图像信息的光型号在时域上分开,然后使用单个光电倍增管进行检测,最后根据光谱标记规则恢复重建图像。
然而这种采用时间拉伸技术的点扫成像方法受限于有限的色散系数,需要使用很高速率的采集卡才能完成数据采集,同时也需要采用长达千米级的色散光纤,由此带来高复杂度和低稳定性,需要极为严苛的操作条件。
2、线扫成像,使用单行传感器像素来构建二维图像,第二维来自被成像目标的运动,目标对象垂直运动经过图像传感器中的像素线时,通过连续的单行扫描逐行获取来生成二维图像。
然而线扫成像方法受限于图像拼接机理和探测器的读取速率,导致线扫成像方法的成像帧率有限,通常低于5000fps。
3、面阵成像,一般利用基于CCD或CMOS的一体式高速相机实现像素矩阵拍摄,从而直接获取二维图像,能够规避畸变、像差等成像缺陷的产生。
然而一体式高速相机对高速运动的微粒进行拍摄作业时,普遍存在以下问题:
(1)一体式高速相机内部搭载存储器,存储器的存储空间有限,为防止新数据覆盖旧数据导致旧数据丢失,则需要在存储空间满载前导出旧数据,而高速相机对高速运动的微粒进行拍摄作业时,往往在瞬间就会获取数百张或数千张图像,以致存储空间在短时间内就会满载,从而导致高速相机不得不停止作业,直至将旧数据导出后再重新开始作业,显然无法实现长时间作业;
(2)图像数据存储在存储器中,由于传统数据线(例如USB数据线)的传输速度不能满足存储器的写入速度,导致存在旧数据被新数据覆盖的风险,因此想要获取图像数据往往需要从高速相机中取出存储器然后再将存储器中的数据传输到计算机中,显然无法实时获取图像数据。
(3)一体式高速相机的曝光时间一般高于1us,导致限制了微粒的运动速度。
对此,本申请提供一种运动微粒成像探测系统,旨在克服现有面阵成像的不足之处,参考附图1,图1是运动微粒成像探测系统的结构示意图。该运动微粒成像探测系统包括用于驱动微粒以给定速度经过观测区域的微粒运动模块100,还包括:
光学模块200,光学模块200包括分体式高速相机210,分体式高速相机210用于拍摄观测区域中的微粒;
信息流转模块300,信息流转模块300包括图像采集卡,图像采集卡基于GenTL协议通过多路CXP-6接口接收分体式高速相机210传输的图像数据流并生成图像数据。
本实施例中,摒弃传统一体式高速相机“先拍后取”的离线工作方式,采用分体式高速相机210对高速运动的微粒进行拍摄作业,由于分体式高速相机210中不搭载存储器,因此不存在因存储器满载而导致旧数据被新数据覆盖导致旧数据丢失的情况,结合GenTL协议和CXP-6接口的使用,分体式高速相机210输出的图像数据流直接传输到图像采集卡中进行处理,不依赖于存储器进行读写,实现长时间作业的同时还能够实时传输图像数据,实现“边拍边取”的在线工作方式;进一步的,多路CXP-6(CoaXPress)接口通过多线程并行操作能够满足极高的数据吞吐量,实现图像数据流的高速传输,确保完成对运动细胞的成像探测和数据读出。
此外,分体式高速相机210还具有以下特点:
1、大像素可转化为极高速应用中所需的高感光度;
2、每帧的标头中都有重要的元数据,如任务函数(task),参考附图11,任务函数包括帧地址、时间戳和图像存储数组(dstBuffer)等数据,能够用于精确分析。
相比于一体式高速相机,采用分体式高速相机210使得运动微粒成像探测系统整体的可靠性高、复杂程度低且成像速率高;运动微粒成像探测系统能够匹配流式细胞分析仪至少10000个微粒/秒的检测通量,实现对至少以3m/s速度进行高速运动的微粒的有效成像捕获、按需实时获取图像,以及长时间不间断作业的效果。
在某些实施例中,参考附图2,光学模块200还包括激光器220、声光调制器230、反射镜240、物镜250、滤光片260和成像透镜组270,声光调制器230用于对激光器220发出的激光进行调制,反射镜240用于将调制后的激光反射到位于观测区域的微粒上以使微粒激发出荧光;物镜250正对于观测区域;分体式高速相机210用于依次透过成像透镜组270和滤光片260从物镜中拍摄微粒。
本实施例中,在实际应用时,微粒受激后发出的荧光经过滤光片260和成像透镜组270处理后入射到分体式高速相机210的成像靶面上,进而实现瞬时微弱信号的成像探测。
其中,激光器220根据微粒标记荧光素的光谱信息及应用场景所需的输出功率进行选型,由于高速运动成像时间极短且荧光信号微弱,因此应当选择高输出功率的连续激光器以确保照射微粒后能够使微粒受激产生一定强度的荧光。
声光调制器230配套射频驱动器280使用,由于作业时需要捕获高速运动的微粒,则需要声光调制器匹配捕获频率,因此激光器220的激光光束经过声光调制器后,取第一级衍射光作为照射微粒的激发光;需要说明的是,声光调制器的光束入射孔直径应当大于激光器220的输出光斑尺寸。
物镜250用于收集微粒受激后发出的荧光并按照指定倍率获得放大图像,为达到更好的成像效果,应当选择数值孔径较大的物镜250。
成像透镜组270用于将物镜处理后的光束汇聚到分体式高速相机210的成像靶面上,实现成像探测。
在某些实施例中,参考附图1,运动微粒成像探测系统还包括图像处理模块400,图像处理模块400包括计算机,计算机用于通过PICe接口接收图像采集卡传输的图像数据并基于图像数据构建单帧图像,图像采集卡将图像数据传输到计算机中后,由计算机构建出单帧图像,用户通过操作计算机即可获取图像,而无需像使用一体式高速相机时需要将存储器取出并转接到计算机上后才能够操作计算机读取图像数据,免除了存储器转接到计算机的过程,达到实时获取图像的效果。
考虑到微粒运动的不确定性和非匀速性,本发明的分体式高速相机210为外触发模式,具体为通过外部信号(如增加对微粒的前向探测)来启动分体式高速相机210进行拍摄,因此分体式高速相机210的帧率由外触发信号决定,为匹配流式细胞分析仪的高通量优势,其帧率应当不低于10000fps。
此外,在某些实施例中,分体式高速相机的成像分辨率满足以下条件:
其中,为分体式高速相机的成像分辨率的最小值,/>为物镜的放大倍数,/>为微粒的直径,/>为分体式高速相机的像素尺寸。
本实施例中,在确定物镜放大倍数后,需要满足上述条件,该条件作为实施准则一能够确保成像分辨率满足要求,以此保证匹配拍摄尺寸,从而保证分体式高速相机210能够拍得到高速运动的微粒。
在某些实施例中,在成像时,分体式高速相机的成像靶面中微粒对应占据的像素数量满足以下条件:
其中,为分体式高速相机的成像靶面中微粒对应占据的像素数量,/>为物方的最小空间分辨率,/>为物镜的放大倍数,/>为分体式高速相机的像素尺寸。
本实施例中,按照Nyquist采样准则要求,需要满足上述条件,该条件作为实施准则二能够确保所拍摄到的图像中所显示的微粒足够清晰,从而保证分体式高速相机210能够拍得清高速运动的微粒。
在某些实施例中,在成像时,分体式高速相机的成像靶面中微粒在曝光时间内移动的像素距离满足以下条件:
其中,为分体式高速相机的成像靶面中微粒在曝光时间内移动的像素距离,/>为拍摄所需的曝光时间(单位为us),/>为微粒的运动速度,/>为分体式高速相机内置的最小曝光时间,/>为调制后激光的脉冲时间,/>为物镜的放大倍数,/>为分体式高速相机的像素尺寸。
本实施例中,上述条件作为实施准则三能够确保所拍摄到的图像中所显示的微粒不出现拖尾现象,从而进一步保证分体式高速相机210能够拍得清高速运动的微粒。
此外,采用传统一体式高速相机时,其曝光时间一般受限在1us以上,导致微粒的运动速度受到限制(一般限制在不高于1m/s),而本实施采用分体式高速相机在上述条件下,曝光时间能够低于1us,从而突破了以往对微粒的运动速度的限制(例如允许微粒以3m/s的速度进行高速运动)。
需要说明的是,对于成像模糊的问题,用户可以通过调节景深或移动成像透镜组270中各个透镜的位置以调节焦深进行解决。
在某些实施例中,分体式高速相机、图像采集卡和计算机之间的传输带宽满足以下条件:
其中,为图像采集卡和计算机之间的传输带宽,/>为分体式高速相机和图像采集卡之间的传输带宽,/>为分体式高速相机拍摄图像的传输带宽,/>为一帧图像的颜色通道数量,/>为每个像素的比特数(例如为8或12),/>为分体式高速相机的分辨率,/>为分体式高速相机的帧率。
本实施例中,在分体式高速相机210的帧率不低于10000fps的条件下,高通量数据的实时传出往往成为运动微粒成像探测系统实现高速成像的瓶颈,为确保运动微粒成像探测系统实现高速成像,需要满足上述条件,该条件作为实施准则四能够避免高通量数据的实时传出限制系统实现高速成像,从而保证分体式高速相机、图像采集卡和计算机之间的数据的传输速度足够快。
在某些实施例中,分体式高速相机的抓帧器需要满足以下条件:
其中,为分体式高速相机每次读出的图像数据条纹行数,/>为抓帧器每次读出的图像数据条纹行数,/>为第i个抓帧器读出数据的偏移量,/>为抓帧器的总数量。
本实施例中,与一体式高速相机不同的是,分体式高速相机210一般设置有多个抓帧器211,每个抓帧器211对应连接一条同轴电缆并基于GenTL协议通过CXP-6接口传输数据。
由于单帧图像的构建是以多个抓帧器211读取的图像数据条纹按照既定规则拼接而成,需要满足上述条件,该条件作为实施准则五能够确保单帧图像顺利构建,有利于实现高帧率图像数据流的实时获取。
具体的,计算机构建单帧图像的步骤包括:
多个抓帧器211依次循环读出偶数行图像数据条纹并将第一次读出的图像数据条纹填充到待填充区域(待填充区域是现有概念,具体指的是按照现有的Geometry_1X_2YM的图像数据条纹排版构型)的中心位置,且将第一次之后读出的图像数据条纹拆分为行数相同的两组后分别填充在待填充区域的中心位置的列向两侧,直至待填充区域被完全填充得到单帧图像。
例如,参考附图3,共有两个抓帧器211,构建单帧图像的步骤包括:
步骤1:1号抓帧器(第一个抓帧器211)读取8行图像数据条纹并将其置于待填充区域的中心位置;
步骤2:2号抓帧器(第二个抓帧器211)读取8行图像数据条纹并将在先4行图像数据条纹置于步骤1已填充位置的上方,在后4行图像数据条纹置于步骤1已填充位置的下方;
步骤3: 1号抓帧器读取8行图像数据条纹并将在先4行图像数据条纹置于步骤2已填充位置的上方,在后4行图像数据条纹置于步骤2已填充位置的下方;
此后循环执行步骤2至步骤3,直至待填充区域被图像数据条纹完全填充(即按给定图像分辨率完成单帧图像的数据填充),至此完成单帧图像的构建。
在某些实施例中,在分体式高速相机210的帧率不低于10000fps(即每帧之间的间隔不高于100us)的条件下,为在此工况下将图像数据实时取出,本发明采用软硬结合的方式实现:
1、硬件层面,启用图像采集卡的DMA(Direct Memory Access,直接存储器访问)数据传输模式,无需CPU直接控制传输,大幅提高CPU的使用效率,增强图像数据流高速传输的稳定性;
2、软件层面,结合图像采集卡SDK和API接口进行二次开发,构建和配置抓帧器,设置相关函数(例如回调函数,回调函数属于现有技术,在此不再赘述)并结合线程池技术启动多线程抓取图像数据流并以预设规则构建出各帧图像,确保输入的高帧率图像数据不丢失且可以实时获取图像。
在某些实施例中,微粒运动模块100为流体池110、微流控芯片120或转盘130中的任意一种。
本实施例中,可采用如附图4的流体池110,微粒140随着鞘液111逐个从喷嘴112按给定速度流出;也可采用如附图5的微流控芯片120,微粒140上样后借助细胞聚焦方法(如鞘液动力聚焦、声场聚焦等)在流体池内按照给定速度(通常高于1m/s)排成单微粒阵列,微粒140逐个流经观测区域;也可以采用如附图6的转盘130,微粒140涂抹在转盘130表面并随转盘130旋转而做圆周运动,由此使微粒140按照给定速度运动。
例如,转盘采用常规机械硬盘的内置转盘,转盘转速r=5400转/分钟,实际应用时,将稀释后的微粒滴至半径r=5.3mm的圆周上,根据切线速度v=2πnr,可以计算出微粒的线速度v=3m/s,由此实现控制微粒以给定速度进行运动。
参考附图7,以下为本发明在实际应用时的其中一种具体实施例:
微粒运动模块100为转盘;采用天津倍思乐的聚苯乙烯橙色荧光微球作为被观测的运动微粒,其粒径为26um,最优激发波长为540nm,受激荧光波长为580um;转盘驱动微粒以3m/s的速度进行运动;
采用长春新产业,型号为MGL-N-532A的激光器220,其波长为532nm,与最优激发波长相匹配,输出功率为2.5-5W,模拟调制频率为1-30kHz,输出光斑尺寸为150um;
采用Gooch&Housego,型号为AOMO 3080-125的声光调制器,其工作波长442-633nm,上升沿/下降沿为34ns(波长633nm),孔径2mm;根据上述实施准则三可以计算出拍摄所需的曝光时间应当不高于1/3us,而该声光调制器响应时间上升沿/下降沿为34ns,远低于拍摄所需的曝光时间1/3us,且孔径2mm也远大于激光器220的输出光斑尺寸150um,符合激发光照射要求;
采用Lapsun,20倍变焦的物镜250,其工作距离为30.8mm,数值孔径为0.29,景深3.5um;根据微粒的粒径26um,给定可拍摄的视野范围为80um*300um,分体式高速相机210的传感器的尺寸为25.6mm*16mm,成像分辨率设置为384*256,选定物镜250的放大倍数为20,符合上述实施准则一的要求;初始对焦位置可根据物镜250的工作距离选择,例如将微球置于物镜250正前方30.8mm附近并依照景深3.5um进行微调;
采用Thorlabs,型号为FELH0550的滤光片260,其直径25mm,截止波长为550nm,与最优激发波长相匹配,以及与受激荧光波长相匹配;
采用欧普特科技,型号为GL31-025A-100-VIS的透镜作为成像透镜组270,其直径25mm,中心厚度6.98mm,背焦96.75mm;初始安装时,可将分体式高速相机210的成像靶面置于透镜的背焦位置附近;
采用Phantom,型号为S710的分体式高速相机210,其性能规格包括:
1、高吞吐量,探测与存储分离,通过CXP-6接口实现高达7Gpx/s(即87.5Gbps)的数据吞吐量,1MPx的分辨率下帧率可达7000fps,稍低的分辨率下帧率可达7000000fps;
2、20um超大像素,大像素可转化为极高速应用中所需的高感光度;
3、元数据可用,每帧的标头中都有用于精确分析的重要元数据;
基于20um超大像素的分体式高速相机210,20放大倍数的物镜250,284*256的成像分辨率,12bit位像素深度,分别按10000fps和20000fps的帧率计算得到分体式高速相机210拍摄图像的数据通量(即分体式高速相机210拍摄图像的传输带宽)约为11Gbps和22Gbps,由于上述分体式高速相机210最高可接16路CXP-6接口,以384*256的成像分辨率,在12bit位像素深度条件下选择8路CXP-6接口,对应2个抓帧器,由于8路CXP-6接口最高数据通量可达50Gbps,远大于所要求的数据通量,因此满足图像数据实时传输的条件,符合上述实施准则四,由此实现实时获取图像。
在实际应用时,基于20um超大像素的分体式高速相机210和20放大倍数的物镜250,根据上述实施准则二的要求,可以计算得到物方的最小空间分辨率为1um,结合上述实施准则三,有如下情形:
1、当微粒的运动速度不高于1m/s时,按照上述实施准则三计算出拍摄所需的曝光时间不低于1us,则由于该分体式高速相机210内置的最小曝光时间为1us符合要求,因此分体式高速相机210可以采用内触发模式,且光学模块200中无需接入声光调制器230和配套的射频驱动器280;
例如,将粒径为26um的微粒稀释后置于半径为1.8mm的圆周上后,转盘旋转使微粒以1m/s的速度进行高速运动,在分体式高速相机210的帧率为10000fps,曝光时间1us,激光器功率为1.2W(4.36A)的条件下,不接入声光调制器230和配套的射频驱动器280,分体式高速相机210采用内触发模式直接拍摄所得到的图像经以下公式1进行离差归一化处理后,得到的图像如附图8;
公式1;
其中,为图像矩阵中第i行第j列经离差归一化处理后的灰度值,/>为图像矩阵中第i行第j列经离差归一化处理前的灰度值,/>为经离差归一化处理前图像矩阵中的最大灰度值,/>为经离差归一化处理前图像矩阵中的最小灰度值。
2、当微粒的运动速度高于1m/s时,例如以3m/s的速度进行高速运动,按照上述实施准则三计算出拍摄所需的曝光时间不高于1/3us,则由于该分体式高速相机210内置的最小曝光时间为1us不符合要求,因此分体式高速相机210需要采用外触发模式,且光学模块200中需要接入声光调制器230和配套的射频驱动器280,由此实现低于1us的曝光时间;
例如,将粒径为26um的微粒稀释后置于半径为5.3mm的圆周上后,转盘旋转使微粒以3m/s的速度进行高速运动,在分体式高速相机210的帧率为10000fps,曝光时间1us,激光器功率为1.2W(4.36A)的条件下,接入声光调制器230和配套的射频驱动器280,分体式高速相机210采用外触发模式拍摄所得到的图像经上述公式1进行离差归一化处理后,得到的图像如附图9。
需要说明的是,情形2中,分体式高速相机210的曝光信号(曝光窗口)可以设置为1us,射频驱动器280和分体式高速相机210的帧率设置由信号发生器290(本发明的运动微粒成像探测系统包括信号发生器290)根据需求匹配好时序给出,具体的,参考附图10的具体参数:
分体式高速相机210的外触发信号的占空比为50%,下降沿触发;
分体式高速相机210的曝光信号(即图中的相机内置曝光信号)的占空比为1%,下降沿触发;
射频驱动信号(即图中的AOM驱动信号)的占空比为0.33%,上升沿触发;
实际应用时,用户可以根据需求通过调整射频驱动信号、分体式高速相机210的外触发信号和分体式高速相机210的曝光信号这三者信号的占空比和相位同步,由此实现对运动微粒的成像捕获且不会出现拖尾现象。
此外,采用Euresys,型号为Coaxlink Octo的图像采集卡,其参数规格包括:
1、具有8路CXP-6接口实现50Gbps的传输带宽;
2、具有PCIe 3.0(Gen 3)×8总线实现52Gbps的传输带宽;
在上述分体式高速相机210拍摄图像的传输带宽约为11Gbps和22Gbps的情况下,本实施例的分体式高速相机和图像采集卡之间的传输带宽可达50Gbps,图像采集卡和计算机之间的传输带宽可达52Gbps,符合上述实施准则四的要求。
此外,参考附图11,采用能够兼顾数据处理速度和并行计算需求的计算机,其具体配置在此不展开赘述;实际应用时,为满足上述实施准则五的要求,首先构建线程池并开启16个子线程,每个子线程均用于获取带时间戳标记的图像数据以及按预设规则构建图像;接着预申请给定长度的共享缓存队列(taskBuffer)和图像存储数组(dstBuffer),其中图像存储数组的长度为20000,可缓存2秒10000fps的数据流;然后从回调函数中抓取图像采集卡中存储图像的内存块并从队列尾部送入共享缓存队列中,同时从队列头部逐个取出图像数据并派发给线程池中空闲的子线程(对数据格式封装);最后子线程构建图像后将图像存储于图像存储数组(dstBuffer)中(将数据转移到预先开辟的内存空间)。
以下为本发明基于上述实施例对运动微粒成像探测系统进行验证的过程和结果:
其一,验证物方最小空间分辨率和物镜250的放大倍数:
上述实施准则二中,物方的最小空间分辨率的理论值为1um,但考虑实际应用时运动微粒成像探测系统中各光学器件的误差,实际应用时,物方最小空间分辨率需要用分辨率标定板进行成像复核,具体的,采用USAF 1951分辨率测试靶,获得实际的物方最小空间分辨率为第8组第6个(参考附图12),查表可得实际的物方最小空间分辨率为1.1um,即像方1个像素对应物方1.1um;进一步的,为验证物镜250对微粒的实际放大倍数,取分辨率测试靶的第3组第2个的线对图像(参考附图13)测量微粒纵向覆盖的像素个数,由于所采用的分体式高速相机210的像素尺寸为20um,根据分辨率测试靶的实际线宽可以计算出物镜250对微粒的实际放大倍数为20.5,可见实际的物方最小空间分辨率和物镜250的放大倍数均与理论值偏差较小,符合设计要求。
其二,验证微粒粒径:
参考附图14,粒径为26um的微粒以3m/s的速度进行高速运动时,获取一张源图像,去除噪点后根据预设的阈值生成二值图像,然后获取二值图像中各微粒的轮廓并生成标记图像,接着对每个微粒轮廓进行椭圆拟合并获取其长轴长度和短轴长度,取拟合椭圆的长轴长度和短轴长度的均值作为微粒的像素粒径,微粒的像素粒径为25像素,基于物方最小空间分辨率为1.1um,可以计算出微粒的实际粒径为27.5um,与理论值偏差5.8%,属于可接受范围。
其三,验证运动微粒成像探测系统的持续作业时长:
分体式高速相机210的帧率设为10k fps和20k fps,从分体式高速相机210获得数据一刻起开始计时,当实际获取的图像数量达到给定的数量时,停止计时;
根据实际耗时和实际获取的图像数量可以得知实际折算帧率,如下表所示,本发明的运动微粒成像探测系统在图像处理上能够适配分体式高速相机210的高速采集帧率,高通量的图像数据能够被实时读出,实现实时获取图像且实现持续2小时的长时间作业。
在本发明各个实施例中的各功能模块可以集成在一起形成一个独立的部分,也可以是各个模块单独存在,也可以两个或两个以上模块集成形成一个独立的部分。
在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。
参考术语“一个实施方式”、“某些实施方式”、“示意性实施方式”、“示例”、“具体示例”、或“一些示例”等的描述意指结合所述实施方式或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施方式或示例中。在本说明书中,对上述术语的示意性表述不一定指的是相同的实施方式或示例。而且,描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施方式或示例中以合适的方式结合。
以上所述仅为本发明的实施例而已,并不用于限制本发明的保护范围,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (7)

1.一种运动微粒成像探测系统,包括用于驱动微粒以给定速度经过观测区域的微粒运动模块(100),其特征在于,还包括:
光学模块(200),所述光学模块(200)包括分体式高速相机(210),所述分体式高速相机(210)用于拍摄所述观测区域中的微粒;
信息流转模块(300),所述信息流转模块(300)包括图像采集卡,所述图像采集卡基于GenTL协议通过多路CXP-6接口接收所述分体式高速相机(210)传输的图像数据流并生成图像数据;
所述光学模块(200)还包括激光器(220)、声光调制器(230)、反射镜(240)、物镜(250)、滤光片(260)和成像透镜组(270),所述声光调制器(230)用于对所述激光器(220)发出的激光进行调制,所述反射镜(240)用于将调制后的激光反射到位于所述观测区域的微粒上以使微粒激发出荧光;所述物镜(250)正对于所述观测区域;所述分体式高速相机(210)用于依次透过所述成像透镜组(270)和所述滤光片(260)从所述物镜中拍摄微粒;
所述运动微粒成像探测系统还包括图像处理模块(400),所述图像处理模块(400)包括计算机,所述计算机用于通过PICe接口接收所述图像采集卡传输的所述图像数据并基于所述图像数据构建单帧图像;
所述分体式高速相机的成像分辨率满足以下条件:
其中,为所述分体式高速相机的成像分辨率的最小值,/>为所述物镜的放大倍数,为微粒的直径,/>为所述分体式高速相机的像素尺寸。
2.根据权利要求1所述的运动微粒成像探测系统,其特征在于,在成像时,所述分体式高速相机的成像靶面中微粒对应占据的像素数量满足以下条件:
其中,为所述分体式高速相机的成像靶面中微粒对应占据的像素数量,/>为物方的最小空间分辨率,/>为所述物镜的放大倍数,/>为所述分体式高速相机的像素尺寸。
3.根据权利要求1所述的运动微粒成像探测系统,其特征在于,在成像时,所述分体式高速相机的成像靶面中微粒在曝光时间内移动的像素距离满足以下条件:
其中,为所述分体式高速相机的成像靶面中微粒在曝光时间内移动的像素距离,/>为拍摄所需的曝光时间,/>为微粒的运动速度,/>为所述分体式高速相机内置的最小曝光时间,/>为调制后激光的脉冲时间,/>为所述物镜的放大倍数,/>为所述分体式高速相机的像素尺寸。
4.根据权利要求1所述的运动微粒成像探测系统,其特征在于,所述分体式高速相机、所述图像采集卡和所述计算机之间的传输带宽满足以下条件:
其中,为所述图像采集卡和所述计算机之间的传输带宽,/>为所述分体式高速相机和所述图像采集卡之间的传输带宽,/>为所述分体式高速相机拍摄图像的传输带宽,/>为一帧图像的颜色通道数量,/>为每个像素的比特数,/>为所述分体式高速相机的分辨率,/>为所述分体式高速相机的帧率。
5.根据权利要求1所述的运动微粒成像探测系统,其特征在于,所述分体式高速相机的抓帧器需要满足以下条件:
其中,为所述分体式高速相机每次读出的图像数据条纹行数,/>为所述抓帧器每次读出的图像数据条纹行数,/>为第i个所述抓帧器读出数据的偏移量,/>为所述抓帧器的总数量。
6.根据权利要求5所述的运动微粒成像探测系统,其特征在于,所述计算机构建单帧图像的步骤包括:
多个所述抓帧器依次循环读出偶数行图像数据条纹并将第一次读出的图像数据条纹填充到待填充区域的中心位置,且将第一次之后读出的图像数据条纹拆分为行数相同的两组后分别填充在所述待填充区域的中心位置的列向两侧,直至所述待填充区域被完全填充得到所述单帧图像。
7.根据权利要求1所述的运动微粒成像探测系统,其特征在于,所述微粒运动模块(100)为流体池、微流控芯片或转盘中的任意一种。
CN202311481168.4A 2023-11-08 2023-11-08 一种运动微粒成像探测系统 Active CN117214068B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311481168.4A CN117214068B (zh) 2023-11-08 2023-11-08 一种运动微粒成像探测系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311481168.4A CN117214068B (zh) 2023-11-08 2023-11-08 一种运动微粒成像探测系统

Publications (2)

Publication Number Publication Date
CN117214068A CN117214068A (zh) 2023-12-12
CN117214068B true CN117214068B (zh) 2024-01-26

Family

ID=89046567

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311481168.4A Active CN117214068B (zh) 2023-11-08 2023-11-08 一种运动微粒成像探测系统

Country Status (1)

Country Link
CN (1) CN117214068B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110108604A (zh) * 2019-05-17 2019-08-09 成都信息工程大学 基于显微放大和视角传感的高空微粒辨识装置及方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04147286A (ja) * 1990-10-11 1992-05-20 Canon Inc 現像装置、及び画像形成装置
CN103048256A (zh) * 2012-12-21 2013-04-17 中国计量学院 一种电旋转生物芯片试验用测控装置及试验系统
CN110544318A (zh) * 2019-09-05 2019-12-06 重庆大学 一种基于显示窗口的场景分辨率的海量模型加载方法
CN112507991A (zh) * 2021-02-04 2021-03-16 季华实验室 流式细胞仪数据的设门方法、系统、存储介质及电子设备

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
ES2784433T3 (es) * 2017-01-11 2020-09-25 Atten2 Advanced Monitoring Tech S L Sistema de monitorización y método para detectar objetos microscópicos que fluyen
US20220276250A1 (en) * 2019-08-21 2022-09-01 Waseda University Cell analyzer system and cell analysis method
CN113434090B (zh) * 2021-06-30 2023-03-28 同济大学 一种用于高速视频测量的海量数据异步存储方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04147286A (ja) * 1990-10-11 1992-05-20 Canon Inc 現像装置、及び画像形成装置
CN103048256A (zh) * 2012-12-21 2013-04-17 中国计量学院 一种电旋转生物芯片试验用测控装置及试验系统
CN110544318A (zh) * 2019-09-05 2019-12-06 重庆大学 一种基于显示窗口的场景分辨率的海量模型加载方法
CN112507991A (zh) * 2021-02-04 2021-03-16 季华实验室 流式细胞仪数据的设门方法、系统、存储介质及电子设备

Also Published As

Publication number Publication date
CN117214068A (zh) 2023-12-12

Similar Documents

Publication Publication Date Title
CN117214068B (zh) 一种运动微粒成像探测系统
CN206607236U (zh) 一种用于基因测序仪的光学系统
CN106842529A (zh) 快速三维显微成像系统
US20100314533A1 (en) Scanning microscope and method of imaging a sample
US11835442B2 (en) Flow imaging system based on matrix laser scanning
CN109387354B (zh) 一种光学扫描器测试装置及测试方法
CN107422336A (zh) 一种大视场大景深的变分辨率非扫描条纹管激光成像系统
JP2011095181A (ja) 粒子分析装置
CN107103604B (zh) 一种微粒子色度自动聚类分析系统
CN113324893B (zh) 一种基于压缩感知的流式荧光成像系统及成像方法
CA2287947A1 (en) Multi-spectral imaging system and method for cytology
CN114441418A (zh) 用于高速流动微粒的成像系统、成像方法及可读存储介质
US11943537B2 (en) Impulse rescan system
JP4163301B2 (ja) 走査型サイトメータ
CN2551994Y (zh) 生物基因芯片的扫描装置
JP2018521360A (ja) 光学顕微鏡における画像処理のためのシステムおよび方法
CN210005784U (zh) 一种数字化病理成像设备
US11422349B2 (en) Dual processor image processing
CN106872559B (zh) 一种超分辨生物分子质谱成像装置及其工作方法
US20240053594A1 (en) Method and Device for Microscopy
CN116679434A (zh) 一种基于数字微镜器件的压缩共聚焦成像装置和方法
US20240095926A1 (en) System and method for optical detection based on image segmentation
JPH08145872A (ja) フロー式粒子画像解析方法および装置
CN117631249A (zh) 线扫共聚焦扫描光场显微成像装置及方法
KR100371560B1 (ko) 유전자 판독기

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant