CN106137532B - 一种图像处理方法 - Google Patents

一种图像处理方法 Download PDF

Info

Publication number
CN106137532B
CN106137532B CN201610830889.5A CN201610830889A CN106137532B CN 106137532 B CN106137532 B CN 106137532B CN 201610830889 A CN201610830889 A CN 201610830889A CN 106137532 B CN106137532 B CN 106137532B
Authority
CN
China
Prior art keywords
image
pixel
neuron
stimulation
miniature webcam
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201610830889.5A
Other languages
English (en)
Other versions
CN106137532A (zh
Inventor
师丽
牛晓可
王治忠
王松伟
刘丽君
王江涛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tsinghua University
Zhengzhou University
Original Assignee
Tsinghua University
Zhengzhou University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tsinghua University, Zhengzhou University filed Critical Tsinghua University
Priority to CN201610830889.5A priority Critical patent/CN106137532B/zh
Publication of CN106137532A publication Critical patent/CN106137532A/zh
Application granted granted Critical
Publication of CN106137532B publication Critical patent/CN106137532B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61FFILTERS IMPLANTABLE INTO BLOOD VESSELS; PROSTHESES; DEVICES PROVIDING PATENCY TO, OR PREVENTING COLLAPSING OF, TUBULAR STRUCTURES OF THE BODY, e.g. STENTS; ORTHOPAEDIC, NURSING OR CONTRACEPTIVE DEVICES; FOMENTATION; TREATMENT OR PROTECTION OF EYES OR EARS; BANDAGES, DRESSINGS OR ABSORBENT PADS; FIRST-AID KITS
    • A61F9/00Methods or devices for treatment of the eyes; Devices for putting-in contact lenses; Devices to correct squinting; Apparatus to guide the blind; Protective devices for the eyes, carried on the body or in the hand
    • A61F9/08Devices or methods enabling eye-patients to replace direct visual perception by another kind of perception
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61FFILTERS IMPLANTABLE INTO BLOOD VESSELS; PROSTHESES; DEVICES PROVIDING PATENCY TO, OR PREVENTING COLLAPSING OF, TUBULAR STRUCTURES OF THE BODY, e.g. STENTS; ORTHOPAEDIC, NURSING OR CONTRACEPTIVE DEVICES; FOMENTATION; TREATMENT OR PROTECTION OF EYES OR EARS; BANDAGES, DRESSINGS OR ABSORBENT PADS; FIRST-AID KITS
    • A61F2/00Filters implantable into blood vessels; Prostheses, i.e. artificial substitutes or replacements for parts of the body; Appliances for connecting them with the body; Devices providing patency to, or preventing collapsing of, tubular structures of the body, e.g. stents
    • A61F2/02Prostheses implantable into the body
    • A61F2/14Eye parts, e.g. lenses, corneal implants; Implanting instruments specially adapted therefor; Artificial eyes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61FFILTERS IMPLANTABLE INTO BLOOD VESSELS; PROSTHESES; DEVICES PROVIDING PATENCY TO, OR PREVENTING COLLAPSING OF, TUBULAR STRUCTURES OF THE BODY, e.g. STENTS; ORTHOPAEDIC, NURSING OR CONTRACEPTIVE DEVICES; FOMENTATION; TREATMENT OR PROTECTION OF EYES OR EARS; BANDAGES, DRESSINGS OR ABSORBENT PADS; FIRST-AID KITS
    • A61F9/00Methods or devices for treatment of the eyes; Devices for putting-in contact lenses; Devices to correct squinting; Apparatus to guide the blind; Protective devices for the eyes, carried on the body or in the hand
    • A61F9/0008Introducing ophthalmic products into the ocular cavity or retaining products therein
    • A61F9/0017Introducing ophthalmic products into the ocular cavity or retaining products therein implantable in, or in contact with, the eye, e.g. ocular inserts
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61NELECTROTHERAPY; MAGNETOTHERAPY; RADIATION THERAPY; ULTRASOUND THERAPY
    • A61N1/00Electrotherapy; Circuits therefor
    • A61N1/18Applying electric currents by contact electrodes
    • A61N1/32Applying electric currents by contact electrodes alternating or intermittent currents
    • A61N1/36Applying electric currents by contact electrodes alternating or intermittent currents for stimulation
    • A61N1/36046Applying electric currents by contact electrodes alternating or intermittent currents for stimulation of the eye
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61NELECTROTHERAPY; MAGNETOTHERAPY; RADIATION THERAPY; ULTRASOUND THERAPY
    • A61N1/00Electrotherapy; Circuits therefor
    • A61N1/18Applying electric currents by contact electrodes
    • A61N1/32Applying electric currents by contact electrodes alternating or intermittent currents
    • A61N1/36Applying electric currents by contact electrodes alternating or intermittent currents for stimulation
    • A61N1/3605Implantable neurostimulators for stimulating central or peripheral nerve system
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61NELECTROTHERAPY; MAGNETOTHERAPY; RADIATION THERAPY; ULTRASOUND THERAPY
    • A61N1/00Electrotherapy; Circuits therefor
    • A61N1/18Applying electric currents by contact electrodes
    • A61N1/32Applying electric currents by contact electrodes alternating or intermittent currents
    • A61N1/36Applying electric currents by contact electrodes alternating or intermittent currents for stimulation
    • A61N1/3605Implantable neurostimulators for stimulating central or peripheral nerve system
    • A61N1/36125Details of circuitry or electric components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • G06T5/30Erosion or dilatation, e.g. thinning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/002Image coding using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/758Involving statistics of pixels or of feature values, e.g. histogram matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Animal Behavior & Ethology (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Ophthalmology & Optometry (AREA)
  • Vascular Medicine (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Multimedia (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Neurosurgery (AREA)
  • Neurology (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Cardiology (AREA)
  • Transplantation (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Image Processing (AREA)

Abstract

本发明公开了一种视皮层假体的图像处理装置,包括左右微型摄像头、图像预处理器、图像编码器,所述左右微型摄像头将各自同步实时采集的视频信息输出给所述图像预处理器,图像预处理器将接收的两路所述视频信息进行拼接融合成一幅全视野图像,并进一步完成图像滤波、增强和像素降低等预处理操作,输出给所述图像编码器,图像编码器将接收的所述经预处理后的全视野图像做进一步的处理与编码,转化为人体视觉皮层能够接收的电信号。本发明提供的图像处理装置实现将双摄像头采集的图像信息转化为用于刺激视皮层的电流信号,在保证诱发神经元发放等量动作电位的前提条件下,能够有效降低刺激电流的强度,从而达到有效减少脑组织损伤的目的。

Description

一种图像处理方法
技术领域
本发明涉及视皮层假体,尤其是涉及视皮层假体的图像处理装置及方法。
背景技术
视觉假体是一种通过电刺激视觉神经系统使得盲人重建光明的装置,目前,很多国家的科技人员在研究采用视觉假体的方法来修复盲人的视觉功能。根据视觉假体的植入位置不同,可分为视网膜假体、视神经假体和视皮层假体。其中,视皮层假体能够绕过视觉通路中可能发生病变的视网膜、视神经等,直接刺激于视皮层,适用于更多的盲人,因此,相对上述另外两种视觉假体具有更加广泛的应用。
视皮层假体的设计原理是:首先,采用图像采集模块采集图像信息;然后,图像处理器对采集到的图像信息进行处理和编码,并输出刺激代码;最后,通过电刺激装置刺激相应的视觉皮层,使盲人患者产生人工视觉。不同类型的视觉假体因为刺激位置不同,因此所采用的编码策略和电刺激方案存在特异性。目前现有的视觉假体系统多侧重于在视网膜和视神经处实施电刺激,例如,欧洲发明专利(公开号EP2155327,公开日为2010年02月24日)和美国发明专利(公开号为US9180296,公开日为2015年11月10日)均自述是为植入式视觉假体提供刺激输入的系统,给出的电刺激方案仅适用于视网膜假体;美国发明专利(公开号WO2014121288,公开日期为2014年08月07日)自述为一种视皮层假体,但仅仅提供了包含针对大脑皮层矩形沟的植入式器件(柔性电极阵列)和植入方案,未涉及图像编码的方法;中国发明专利(公开号CN101239008A,公开日2008年8月13日)公开了一种视觉假体的图像处理装置与方法,自述其装置和方法适用于视网膜假体、视神经假体和视皮层假体,然而对于对图像的编码运算中未考虑视皮层神经元的编码特性,且未提及图像编码的结果与电极阵列刺激模块如何对接。
理论上,视觉假体恢复人工视觉的成像效果与植入微电极阵列的密集程度与针数成正比;然而,微电极阵列的密集程度与数量又直接影响到微电极阵列在脑内的植入寿命和图像处理的复杂度。如何采用可能少的电极数目让患者获得尽可能多样的视觉信息,是视皮层假体研究的关键问题。2016年6月发表的硕士论文《基于初级视皮层的人工视觉假体总体设计与前端实现》提供了对应的解决方案,借鉴稀疏编码的思想利用稀疏的神经元响应表征图像中目标的边界信息,然而未利用视觉的注意机制实现对图像显著性区域的检测,文中给出的图像处理方案仅适用于当目标占据视野较大范围的情况,若图像中的显著性目标仅占据视野的小部分区域,对整幅图像进行像素降低后,图像中关于显著性目标的信息会大大降低。
发明内容
本发明目的在于提供一种视皮层假体的图像处理装置及方法。
为实现上述目的,本发明采取下述技术方案:
本发明所述图像处理方法,采用视皮层假体的图像处理装置,该装置包括左右微型摄像头、图像预处理器、图像编码器,所述左右微型摄像头将各自同步实时采集的视频信息输出给所述图像预处理器, 图像预处理器将接收的两路所述视频信息进行拼接融合成一幅全视野图像,并基于视觉系统的注意机制,检测图像的显著性区域,进一步完成图像的边缘提取、增强和像素降低的预处理操作,输出给所述图像编码器, 图像编码器将接收的所述经预处理后的全视野图像做进一步的处理与编码,转化为人体视觉皮层能够接收的电信号;该图像处理方法包括图像预处理和图像编码两部分;
一、所述图像预处理按照下述步骤进行:
S1、图像校正
采用模板法对所述左右微型摄像头传输来的实时视频信息进行模板制定、特征点提取 和求解镜头畸变系数;
S2、图像配准
采用比值匹配法对所述左右微型摄像头传输来的实时视频图像进行快速配准;
S3、图像融合
图像融合是为了解决图像匹配结束后所述左右摄像头相邻视角拼接的交界处问题,这 里采用渐入渐出的线性融合方法实现双路视频图像的融合;即:将左右摄像头相邻视角图 像的像素值进行加权平均得到重叠区每一个像素点的值;其中像素点到图像重叠区两边缘 的距离作为融合比重;
S4、显著性区域检测
采用简单线性迭代的超像素图像分割方法与马尔科夫吸收链相结合的方法提取融合 后全视野图像的显著性区域; 即: 采用简单线性迭代的超像素图像分割方法对融合后的 全视野图像进行分割,以图像中超像素点作为节点,连接各节点对图像分割成众多区域,利 用马尔科夫吸收链方法检测出图像中显著性的区域;
S5、边缘提取
采用Canny算子检测算法对显著性区域内的目标图像进行边缘提取;即进行降噪、寻找 图像中的亮度梯度、在图像中跟踪边缘;
S6、图像增强
采用形态学方法中的腐蚀和膨胀进行图像增强;
二、所述图像编码按照下述步骤进行:
C1、借鉴稀疏编码的思想,将预处理后的图像采用图像原子库中的基函数进行表示,得 到每个原子对应的稀疏响应系数;
C2、根据给定响应系数和神经元的特征调谐参数,求解电流刺激方案;即:通过H-H模型 模拟特定神经元的特征调谐特性来确定电流刺激方案,为激活视皮层中的神经元细胞产生 拟定的响应模式提供关键方案与参数;
所述图像编码步骤C1中稀疏响应系数的求解采用如下步骤完成:
C11、从自然图像中随机采集5000个2n×2n (n=4,5,6)个图像块, 对每个图像块分别进行去相关性、降维预处理操作,其中所述自然图像来自用于测试稀疏 编码模型的图像库;
C12、利用所述自然图像高阶统计特性与视皮层神经元稀疏响应之间的联系,采用拓扑 独立分量分析的方法对自然图像块组成的集合进行特征提取,得到与视皮层神经元感受野 特性相符的完备原子库;
C13、采用所述原子库,对处理后的图像进行稀疏分解,得到对应的响应系数:
C14、设置初始阈值,将响应小于阈值的神经元响应置零,得到响应矩阵;
C15、根据所述响应矩阵重建图像;
C16、计算所述重建图像与原始图像的误差率;
C17、若所述误差大于10%,则返回步骤C14降低阈值,若小于10%则结束,输出响应系数矩 阵,从而减少在视皮层激活神经元的数量。
所述左右微型摄像头 均为CMOS图像传感器摄像头,分别对应安装在眼镜架的左右眼镜框内,单个CMOS图像传感 器摄像头的视角范围≤90度,分别通过USB接口与所述图像预处理器进行数据传输。
所述左右微型摄像头在左右眼镜框内的安装位置与角度均可调,融合后的全视野图像的视角θ计算公式如下:
式中,α为左微型摄像头的左极限视界与正前方的夹角,等同于右微型摄像头的右极限 视界与正前方的夹角,d为两个微型摄像头的中心间距,h为拍摄点m到左、右微型摄像头连 线的垂直距离;所述α由单个微型摄像头的视角范围及其与两微型摄像头所呈直线间夹角 共同决定,通过调整α和d,能够扩大总视角θ。
所述图像预处理步骤S2中的比值匹配法采用如下步骤实现图像的快速配准:
S21、读取所述左摄像头所采集图像最右侧一列像素点和每间隔5个像素点对应位置处 的像素点,共取n列像素点, n为大于1的自然数,设每列像素点个数为m,m为大于1的自然 数;
S22、计算所述每列像素点相邻行之间的比值,即得到(m-1)×n个比值,将所述比值结果 直接存放在数组P中;
S23、读取所述右摄像头采集的图像中任意每间隔5个像素点的n列像素点,取k组,k为大 于1的自然数;
S24、计算所述k组像素点每一列相邻行像素点之间的比值,将所述比值结果直接存放在 数组Q中;
S25、根据左摄像头所采集的图像中的特征集模板,即数组P,在右摄像头所采集图像的特征集合中寻找相应的匹配,得出配准区域。
所述图像预处理步骤S6后还需要进行像素降低,目的是为了降低图像的像素值,保证与所述图像编码部分训练原子库所选图像块像素 值吻合,具体步骤如下:
S7、根据实际要求将原始图像进行分割,将原始图像平均分割成2n×2n(n=4、5或6)个图像块;
S8、计算每个分割区域像素点的平均值,然后将该平均值赋给该分割区域中的所有点;
S9、将灰度级设定为5级,即:灰度值为0、60、120、180、255,然后,根据原图像每个像素点对应的灰度范围为其赋新的灰度值。
所述图像编码步骤C2中H-H模型的求解,具体步骤如下:
C21、建立H-H神经元模型;
C22、采用Runge-Kutta算法和迭代方法求解H-H神经元模型,建立电刺激强度与膜电压 的关系;
C23、模拟不同电刺激方案下神经元的发放情况,包括直流电刺激、脉冲波刺激、双相不 对称矩形脉冲刺激和双相不对称梯度脉冲刺激,从功耗低、脑组织损伤小的角度分析它们的优缺点,最终确定双相不对称梯度脉冲刺激为最佳的电刺激方案。
本发明为视皮层假体的设计提供了核心的技术方案。本发明提供的图像处理装置能够实现将双摄像头采集的图像信息进行实时融合与显著性区域检测,并将显著区域的目标信息转化为用于刺激视皮层的电流信号;图像处理装置所采用的方法能够自动检测全视野图像中的显著性区域,符合视觉系统的注意机制,此外借鉴了稀疏编码的思想,利用尽可能少的神经元发放表征了图像中的显著性区域的目标信息,一方面去除了图像中相对不关键的信息,减少了编码的复杂度;另一方面减少激活神经元的数目,从而减少对组织的损伤。同时,本发明最终选定的双相不对称梯度脉冲刺激方案,在保证诱发神经元发放等量动作电位的前提条件下,能够有效降低刺激电流的强度,从而达到有效减少脑组织损伤的目的。
附图说明
图1是本发明所述图像处理装置的结构示意图。
图2是本发明所述图像处理装置的使用状态示意图。
图3是本发明所述渐入渐出的线性融合原理示意图。
图4是本发明所述神经纤维膜并联电导模型的电路原理图。
图5是本发明所述H-H模型求解的软件流程图。
图6是本发明所述电刺激强度Id取不同值得到的仿真结果图。
图7是本发明所述刺激周期T=50ms占空比n=0.5时不同电刺激强度Id下得到的神经元仿真图。
图8是本发明所述设定脉冲的刺激强度为20μA/cm2,脉冲刺激周期T=50ms,改变脉冲的占空比n的值得到的神经元仿真图。
图9是本发明所述刺激强度Id与产生动作电位所需最小占空比n的关系图。
图10是本发明所述双相不对称矩形脉冲刺激神经元时的神经元电位变化图。
图11是本发明所述双相不对称梯度脉冲一个周期的波形图。
图12是本发明所述改进方案刺激神经元电位变化图。
图13是本发明所述图像配准算法流程图。
图14是本发明所述左、右微型摄像头在眼睛框内的安装位置与角度关系图。
具体实施方式
如图1、2所示,本发明所述视皮层假体的图像处理装置,包括分别对应安装在眼镜架1左右眼镜框内的左右微型摄像头2、3,和安装在左右眼镜框连接架上的图像预处理器4,以及图像编码器5和无线传输模块。左右微型摄像头2、3的安装位置根据双眼融合后全视野图像的视角范围来调整。保证全视野图像的视角范围为120~150度,且连续可调。左右微型摄像头2、3将各自同步实时采集的视频信息输出给图像预处理器4,图像预处理器4将接收的两路所述视频信息进行预处理并拼接融合成一幅全视野图像输出给图像编码器5,图像编码器5将接收的全视野图像做进一步的处理与编码,转化为人体视觉系统接受的电信号。左右微型摄像头2、3均选择CMOS图像传感器摄像头。
选择CMOS图像传感器摄像头理由如下:
摄像头根据感光器件的不同分为:CMOS和CCD两种类型。CCD的功耗远远大于CMOS;而 CMOS往往通透性一般,对实物的色彩还原能力偏弱,成像效果没有CCD好。然而本发明中更 关心功耗问题,对于成像质量要求不高,故本发明选择CMOS摄像头进行图像采集。
考虑到若摄像头的视角范围大于90度成像会产生难以忍受的畸变,不利于后续的分析,因此限制左右CMOS图像传感器摄像头的视角范围≤90度,分别通过USB接口与图像预处理器4进行数据传输。
通过调整左、右微型摄像头2、3在眼睛框内的安装位置和角度(如图14 所示),可使得输出的全视野图像视角优于人眼视角,计算公式如下:
式中,α为左微型摄像头2的左极限视界与正前方的夹角,等同于右微型摄像头3的右极限视界与正前方的夹角,d为两个微型摄像头2、3的中心间距,h为拍摄点m到左、右微型摄像头2、3连线的垂直距离;所述α由单个微型摄像头的视角范围以及单微型摄像头与两微型摄像头所呈直线间的夹角共同决定,通过调整α和d,能够扩大总视角θ。
所述视皮层假体的图像处理方法包括图像预处理和图像编码两部分;
一、所述图像预处理按照下述步骤进行:
S1、图像校正
采用模板法对所述左、右微型摄像头2、3传输来的实时视频信息进行模板制定、特征点提取和求解镜头畸变系数;
S2、图像配准
如图13所示,采用比值匹配法实现图像的配准,具体步骤如下:
S21、取所述左摄像头2所采集的图像的最右侧一列像素点和每间隔5个像素点对应位置处的像素点,共取n组像素点,n为大于1的自然数;
S22、计算所述n组像素点的比值,将所述比值结果直接存放在数组m中,m为大于1的自然数;
S23、在所述右摄像头3采集的图像中同样每间隔5个像素点的两列各自取出m+n个像素点,计算其比值,然后将该比值结果存入数组k中,k为大于1的自然数;
S24、利用左摄像头2所采集的图像中的比值模板在右摄像头3所采集的图像中寻找相应的匹配,得出结果;
S3、图像融合
图像融合是为了解决图像匹配结束后左、右摄像头2、3相邻视角拼接的交界处问题,这里采用渐入渐出的线性融合方法实现双路视频图像的融合;即:将左、右摄像头2、3相邻视角图像的像素值进行加权平均得到重叠区每一个像素点的值;其中像素点到图像重叠区两边缘的距离作为融合比重;其原理图如图3所示。
图3中T 表示融合过渡带,W 表示权重。Wl 表示左视图图像的权重系数,Wr 表示右视图图像的权重系数,其中W1和Wr满足如下关系:
(1)
S4、显著性区域检测
采用简单线性迭代(SLIC)的超像素图像分割方法与马尔科夫吸收链相结合的方法提取融合后全视野图像的显著性区域; 具体实现步骤如下:
首先,使用 SLIC分割方法进行图像分割,并将图中各超像素点作为节点,定义位于边界上的节点为吸收状态点,其余节点为临时状态点,并使得所有边界上的吸收状态节点保持不相连,所有临时状态节点为相连,计算相邻的节点ij的边的权重值
(2)
式中,x表示对应节点处的像素值,是控制权值强度的常量。定义一个相似矩阵A,其中,元素为:
(3)
(4)
(5)
N(i)表示与i节点连接的节点,最终可以得到一个转换矩阵P,而矩阵P中各元素是从给定的一系列状态S= 中,从状态转移到状态的概率。假定前t个节点为临时状态,后r个状态为吸收状态,定义矩阵为在任意临时状态节点间的转移概率,为从任一临时状态移动到任一吸收状态
的概率,则矩阵P的规范形式为:
(6)
这里I的标准矩阵。结合(5)(6)可以推导出矩阵Q,进而在吸收链中推导出一个基础矩阵,然后对每个临时状态,可以计算出它转移到吸收状态的吸收时间:
(7)
这里c是一个所有元素为1的t维列向量。然后通过标准化吸收时间向量y,可以得到显著性映射S
S ( i )= i=1, 2,..., t, (8)
由于节点转移到吸收状态时,转移次数多,花费时间长的区域即为显著性区域。故S(i)值大的地方,生成的8位深度灰度图像中区域越亮,从而检测出图中显著性区域。
S5、边缘提取
对显著性区域内的目标图像转化为灰度图像病进行二值化处理,以增强灰度对比,便于边缘检测,然后进行边缘提取。常用的边缘提取算法有:Canny算子边缘检测,Sobel算子边缘检测,考虑到Canny算子进行的边缘检测是基于灰度的,且处理方法更加符合人眼的视觉机制,故本发明最终选择采用Canny算子检测算法进行边缘提取;核心步骤即进行降噪、寻找图像中的亮度梯度、在图像中跟踪边缘;
S6、图像增强
采用形态学方法中的腐蚀和膨胀进行图像增强;
① 胀操作的原理
用3×3的结构元素,扫描二值图像的每一个像素,用结构元素与其覆盖的二值图像做“与”运算,如果都为0,结构图像的该像素为0,否则为1。处理后的结果:使二值图像扩大一圈。
②腐蚀操作的原理
用3×3的结构元素,扫描二值图像的每一个像素,用结构元素与其覆盖的二值图像做“与”运算,如果都为1,结构图像的该像素为1,否则为0。处理后的结果:使二值图像缩小一圈。
S7、像素降低
由于目前视皮层假体中电极阵列制作水平以及电极植入技术的限制,仅能在皮层植入的有限数量的电极阵列,这就要求拟编码图像具有尽可能低的像素,目的是与电极阵列的针数相匹配。因此,在保证图像质量的前提下,对输入的图像进行像素降低就显得尤为必要。像素处理的方法有很多,本发明根据图像后续编码传输要求设计了有针对性的像素降低方法。具体步骤如下:
S71、根据实际的要求将输入的图像进行分割;分割的要求就是最终的像素大小,假如图像的最后像素是2n×2n(n=4、5或6);将原始图像平均分割成2n×2n(n=4、5或6)个图像块;
S72、计算每个分割区域像素点的平均值,然后将该平均值赋给该分割区域中的所有点;
S73、将灰度级设定为5级,即:灰度值为0、60、120、180、255,然后,根据原图像每个像素点对应的灰度范围为其赋予新的灰度值。
二、所述图像编码按照下述进步骤行:
C1、从自然图像中随机采集5000个2n×2n(n=4、5或6)个图像块,对每个图像块分别进行去相关性、降维预处理操作,其中所述自然图像来自于广泛用于测试稀疏编码模型的图像库;
C2、利用所述自然图像高阶统计特性与视皮层神经元稀疏响应之间的联系,采用拓扑独立分量分析(Independent Component Analysis,ICA)的方法对自然图像块组成的集合进行特征提取,得到与视皮层神经元感受特性相符的完备原子库;
C3、采用所述原子库,对处理后的图像进行稀疏分解,得到对应的响应系数:
假设输入的刺激图像为I(x,y),则该函数可以由基函数线性叠加表示,如公式9所示:
(9)
其中,是基函数的系数,表示的是神经元响应系数,该系数是发明中需要求解得到的重要参数;是基函数;x表示图像中横坐标;y表示图像中纵坐标。
C4、设置阈值,将响应小于阈值的神经元响应置零,得到新的响应矩阵ϕ’
C5、根据新的所述响应矩阵ϕ’采用公式2重建图像,记为I’;
C6、采用公式10计算所述重建图像与原始图像的误差率E
(10)
C7、若所述误差大于10%,则返回步骤S4降低阈值,若小于10%则结束,输出响应系数矩阵,从而达到减少需要在视皮层激活神经元的数量;
C8、根据给定响应系数和神经元的特征调谐参数,求解电流刺激方案;即:通过H-H模型模拟特定神经元的特征调谐特性,来确定适当的电流刺激方案,以激活视皮层中的神经元细胞产生拟定的响应模式,从而使患者感知到对应的图像模式。
利用H-H模型(神经元模型)确定电流刺激方案的方法如下:
1、H-H模型的建模过程
在H-H 模型中将单位膜面积的神经纤维等效成如图4所示的并联电路模型。其中,分别为K +Na +和漏电离子的通透电导率,为对应的平衡电压。
根据图4的电路模型,有如下的四动力学变量方程,公式如下所示:
(11)
(12)
(13)
(14)
其中,是单位膜面积的膜电压,n是膜内分子的概率,m是膜外分子的概率,h为未激活分子的概率。分别为对应变量的系数,针对特定的神经元其值是固定的,通过不同的值可以求解这些系数的值,对应关系如下:
(15)
(16)
(17)
(18)
(19)
(20)
2、H-H模型的求解
H-H模型的求解过程如下:以 h=0.025m 为步长,计算离子通道的电导率、膜的动作电位以及他们在t+h时候发生的变化,得出离子电流的增减率从而推算下一步时的膜电位。对于这四个微分方程的具体的求解思想是利用中间步点的值来代替高阶导数,按步长进行迭代计算,具体的公式如下:
(21)
(22)
(23)
(24)
(25)
其中,在常见的标准算法公式中,取
在Runge-Kutta算法中,计算的值,从而可以得到下一步t+h时的膜电压和各离子通道电导值的大小。
使用Runge-Kutta算法和迭代方法求解H-H模型,具体的软件流程如图5所示。
3、最佳电刺激方案的确定
模拟不同电流刺激方案下的神经元发放情况,包括直流电刺激、脉冲波刺激、双相不对称矩形脉冲刺激和双相不对称梯度脉冲刺激,确定最佳电刺激方案。仿真分析如下:
(1)直流电刺激下神经元动作电位仿真分析
通过改变电刺激强度Id,观察在不同的刺激强度下神经元的动作电位发放情况。不同电刺激强度Id下的仿真结果如图6所示。由图6可以得出如下结果:
①当刺激电流Id≤4.9μA/cm2 时,神经元没有动作电位产生。
②当刺激电流5.0μA/cm2≤Id≤6.1μA/cm2时,神经元会产生有限个动作电位,随着刺激电流的强度增大,产生的动作电位个数也越来越多。
③当刺激电流6.1μA/cm2≤Id<120μA/cm2时,神经元会产生周期性的动作电位,随着电刺激强度的增加,神经元产生动作电位的峰峰间隔变小,动作电位个数相应增加。
④当刺激电流Id≥120μA/cm2时,神经元动作电位呈现过阻尼震荡现象,这说明神经元放电的时间间隔过小。这种情况对视皮层进行电刺激时会产生明显的疼痛感。
(2)脉冲波刺激下神经元动作电位仿真分析
脉冲波电刺激常用于治疗某些疾病,相较于直流电刺激对细胞的伤害较小。使用脉冲波刺激时,主要考虑两个参数:脉冲的刺激强度和脉冲的占空比。仿真结果如图7所示。
图7中a、b、c、d分别表示不同强度的电刺激仿真结果(其中占空比为n为0.5),由图可以得出如下结果:
①当刺激电流Id≤3.5μA/cm2 时,神经元没有动作电位产生,最小刺激强度比直流电刺激的最小刺激强度低。
②当刺激电流在3.5μA/cm2<Id<150μA/cm2范围内时,神经元会产生有限个动作电位,随着刺激电流的强度增大,产生的动作电位个数逐渐增多。但是随着刺激电流强度增大到一定程度之后动作电位的个数不会在改变,一个刺激周期(T=50ms)内,动作电位的最大个数是3。
③当刺激电流Id≥120μA/cm2时,随着脉冲刺激强度增加,神经元产生的动作电位的最大值衰减为1,这个和直流电刺激情况一致。
图8是设定脉冲的刺激强度为20μA/cm2,脉冲刺激周期T=50ms,改变脉冲的占空比n的值得到的神经元仿真图。从图8可知:
①当n≤0.0022时,没有动作电位产生,如图8(a)所示。
②当0.0023<n≤1时,神经元会有动作电位产生,且会随着q值的增大动作电位的个数也会增加,一个刺激周期(T=50ms)内动作电位最多产生4个,如图8(d)所示。
通过仿真实验发现,在相同的刺激周期,不同刺激强度的情况下,要使神经元有动作电位产生所需的最小占空比不同,即需要的最小刺激脉冲宽度不同,上述仿真中得到了不同的电刺激强度下对应的最小占空比值。
图9表示的是刺激周期(T)为50ms时电刺激强度Id与神经元放电最小的占空比关系。由图可以看出随着脉冲刺激强度的增加,神经元产生动作电位所需的最小脉冲宽度减小,最后趋于稳定。
(3)双相不对称矩形脉冲刺激下动作电位仿真分析
双相不对称矩形脉冲是由阴极相、阳极相和相间间隔三部分组成的矩形脉冲,先使用阴极脉冲刺激,所需要的刺激脉冲强度比单独使用正脉冲刺激需要的脉冲强度更小,并且双相不对称矩形脉冲能够避免在电极-电解液界面直流电荷的积累产生的细胞毒性,因此能够减少组织损伤。
双相不对称矩形脉冲刺激的参数主要包括:阴极相强度、阴极相刺激时间、阴极与阳极的强度比和阴极与阳极时间间隔。
本发明重点分析了使用双相不对称矩形脉冲刺激神经元时,阳极相的最小刺激强度。其中参数设置为:刺激周期T=50ms,阴极相的刺激时间是1ms,阴极刺激强度(Id1)是3.6μA/cm2,阳极刺激强度(Id2)改变。具体仿真结果如图10所示。
从图 10的仿真结果可知,采用双相不对称矩形脉冲刺激与使用矩形脉冲刺激神经元所需要的最小刺激强度大幅度降低,从而大幅度地降低了刺激的能耗。
(4)双相不对称梯度脉冲刺激下动作电位仿真分析
为了进一步减少电刺激的峰值电压,尽最大可能的降低电刺激对脑组织的损伤,本发明在双相脉冲刺激基础上进行改进,将正脉冲波形改变成分段的阶梯波形,提出了一种双相不对称梯度脉冲方案。刺激波形如图11所示。其中,梯度脉冲的刺激强度最大的是一段持续1ms的0.45μA/cm2的矩形脉冲,剩下的部分都是刺激强度低于0.45μA/cm2的矩形脉冲。通过分析可以知道,如果单独使用为持续1ms强度0.45μA/cm2的矩形脉冲刺激神经元不会发放动作电位。由图12可以看出,该刺激方案能够使神经元产生发放。从而确定了双相不对称梯度脉冲波为最佳电刺激方案。

Claims (6)

1.一种图像处理方法,采用视皮层假体的图像处理装置,该装置包括左右微型摄像头、图像预处理器、图像编码器,所述左右微型摄像头将各自同步实时采集的视频信息输出给所述图像预处理器, 图像预处理器将接收的两路所述视频信息进行拼接融合成一幅全视野图像,并基于视觉系统的注意机制,检测图像的显著性区域,进一步完成图像的边缘提取、增强和像素降低的预处理操作,输出给所述图像编码器, 图像编码器将接收的所述经预处理后的全视野图像做进一步的处理与编码,转化为人体视觉皮层能够接收的电信号;其特征在于:图像处理方法包括图像预处理和图像编码两部分;
一、所述图像预处理按照下述步骤进行:
S1、图像校正
采用模板法对所述左右微型摄像头传输来的实时视频信息进行模板制定、特征点提取和求解镜头畸变系数;
S2、图像配准
采用比值匹配法对所述左右微型摄像头传输来的实时视频图像进行快速配准;
S3、图像融合
图像融合是为了解决图像匹配结束后所述左右摄像头相邻视角拼接的交界处问题,这里采用渐入渐出的线性融合方法实现双路视频图像的融合;即:将左右摄像头相邻视角图像的像素值进行加权平均得到重叠区每一个像素点的值;其中像素点到图像重叠区两边缘的距离作为融合比重;
S4、显著性区域检测
采用简单线性迭代的超像素图像分割方法与马尔科夫吸收链相结合的方法提取融合后全视野图像的显著性区域; 即: 采用简单线性迭代的超像素图像分割方法对融合后的全视野图像进行分割,以图像中超像素点作为节点,连接各节点对图像分割成众多区域,利用马尔科夫吸收链方法检测出图像中显著性的区域;
S5、边缘提取
采用Canny算子检测算法对显著性区域内的目标图像进行边缘提取;即进行降噪、寻找图像中的亮度梯度、在图像中跟踪边缘;
S6、图像增强
采用形态学方法中的腐蚀和膨胀进行图像增强;
二、所述图像编码按照下述步骤进行:
C1、借鉴稀疏编码的思想,将预处理后的图像采用图像原子库中的基函数进行表示,得到每个原子对应的稀疏响应系数;
C2、根据给定响应系数和神经元的特征调谐参数,求解电流刺激方案;即:通过H-H模型模拟特定神经元的特征调谐特性来确定电流刺激方案,为激活视皮层中的神经元细胞产生拟定的响应模式提供关键方案与参数;
所述图像编码步骤C1中稀疏响应系数的求解采用如下步骤完成:
C11、从自然图像中随机采集5000个2n×2n(n=4,5,6)个图像块, 对每个图像块分别进行去相关性、降维预处理操作,其中所述自然图像来自用于测试稀疏 编码模型的图像库;
C12、利用所述自然图像高阶统计特性与视皮层神经元稀疏响应之间的联系,采用拓扑独立分量分析的方法对自然图像块组成的集合进行特征提取,得到与视皮层神经元感受野特性相符的完备原子库;
C13、采用所述原子库,对处理后的图像进行稀疏分解,得到对应的响应系数:
C14、设置初始阈值,将响应小于阈值的神经元响应置零,得到响应矩阵;
C15、根据所述响应矩阵重建图像;
C16、计算所述重建图像与原始图像的误差率;
C17、若所述误差大于10%,则返回步骤 C14降低阈值,若小于10%则结束,输出响应系数矩 阵,从而减少在视皮层激活神经元的数量。
2.根据权利要求1所述的图像处理方法,其特征在于:所述左右微型摄像头 均为CMOS图像传感器摄像头,分别对应安装在眼镜架的左右眼镜框内,单个CMOS图像传感 器摄像头的视角范围≤90度,分别通过USB接口与所述图像预处理器进行数据传输。
3.根据权利要求1所述的图像处理方法,其特征在于:所述左右微型摄像头在左右眼镜框内的安装位置与角度均可调,融合后的全视野图像的视角θ计算公式如下:
式中,α为左微型摄像头的左极限视界与正前方的夹角,等同于右微型摄像头的右极限视界与正前方的夹角,d为两个微型摄像头的中心间距,h为拍摄点m到左、右微型摄像头连线的垂直距离;所述α由单个微型摄像头的视角范围及其与两微型摄像头所呈直线间夹角共同决定,通过调整α和d,能够扩大总视角θ。
4.根据权利要求1所述的图像处理方法,其特征在于:所述图像预处理步骤S2中的比值匹配法采用如下步骤实现图像的快速配准:
S21、读取所述左摄像头所采集图像最右侧一列像素点和每间隔5个像素点对应位置处的像素点,共取n列像素点, n为大于1的自然数,设每列像素点个数为m,m为大于1的自然数;
S22、计算所述每列像素点相邻行之间的比值,即得到(m-1)×n个比值,将所述比值结果 直接存放在数组P中;
S23、读取所述右摄像头采集的图像中任意每间隔5个像素点的n列像素点,取k组,k为大 于1的自然数;
S24、计算所述k组像素点每一列相邻行像素点之间的比值,将所述比值结果直接存放在 数组Q中;
S25、根据左摄像头所采集的图像中的特征集模板,即数组P,在右摄像头所采集图像的特征集合中寻找相应的匹配,得出配准区域。
5.根据权利要求1所述的图像处理方法,其特征在于:所述图像预处理步骤S6后还需要进行像素降 低,目的是为了降低图像的像素值,保证与所述图像编码部分训练原子库所选图像块像素 值吻合,具体步骤如下:
S7、根据实际要求将原始图像进行分割,将原始图像平均分割成2n×2n (n=4、5或6)个图像块;
S8、计算每个分割区域像素点的平均值,然后将该平均值赋给该分割区域中的所有点;
S9、将灰度级设定为5级,即:灰度值为0、60、120、180、255,然后,根据原图像每个像素点对应的灰度范围为其赋新的灰度值。
6.根据权利要求1所述的图像处理方法,其特征在于:所述图像编码步骤C2中H-H模型的求解,具体步骤如下:
C21、建立H-H神经元模型;
C22、采用Runge-Kutta算法和迭代方法求解H-H神经元模型,建立电刺激强度与膜电压的关系;
C23、模拟不同电刺激方案下神经元的发放情况,包括直流电刺激、脉冲波刺激、双相不对称矩形脉冲刺激和双相不对称梯度脉冲刺激,从功耗低、脑组织损伤小的角度分析它们的优缺点,最终确定双相不对称梯度脉冲刺激为最佳的电刺激方案。
CN201610830889.5A 2016-09-19 2016-09-19 一种图像处理方法 Active CN106137532B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610830889.5A CN106137532B (zh) 2016-09-19 2016-09-19 一种图像处理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610830889.5A CN106137532B (zh) 2016-09-19 2016-09-19 一种图像处理方法

Publications (2)

Publication Number Publication Date
CN106137532A CN106137532A (zh) 2016-11-23
CN106137532B true CN106137532B (zh) 2019-01-25

Family

ID=57341287

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610830889.5A Active CN106137532B (zh) 2016-09-19 2016-09-19 一种图像处理方法

Country Status (1)

Country Link
CN (1) CN106137532B (zh)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11270451B2 (en) * 2017-03-30 2022-03-08 The Schepens Eye Research Institute, Inc. Motion parallax in object recognition
CN107749053A (zh) * 2017-10-24 2018-03-02 郑州布恩科技有限公司 一种用于视觉假体的双目图像采集与预处理装置及方法
CN112972889B (zh) * 2017-12-29 2024-06-25 深圳硅基仿生科技股份有限公司 图像处理装置和方法及视网膜刺激器
CN108427931B (zh) * 2018-03-21 2019-09-10 合肥工业大学 一种基于机器视觉的矿井机车前障碍物的检测方法
CN109157738B (zh) * 2018-07-23 2022-02-15 浙江诺尔康神经电子科技股份有限公司 基于深度视觉的人工视网膜幅频调控方法和系统
CN110060311B (zh) * 2018-09-09 2020-03-20 深圳硅基仿生科技有限公司 视网膜刺激器的图像处理装置
CN110110596B (zh) * 2019-03-29 2022-12-02 西北大学 高光谱图像特征提取、分类模型构建及分类方法
US20230025743A1 (en) * 2019-12-05 2023-01-26 Commonwealth Scientific And Industrial Research Organisation Runtime optimised artificial vision
CN112241962B (zh) * 2020-10-19 2022-07-26 国网河南省电力公司电力科学研究院 一种放电产生的激波的传播速度计算方法和系统
CN112348067A (zh) * 2020-10-28 2021-02-09 北京兆芯电子科技有限公司 图像设备及图像处理方法
CN112634303B (zh) * 2020-12-29 2022-02-25 北京深睿博联科技有限责任公司 辅助盲人进行视觉重构的方法、系统、设备和存储介质
CN113256593B (zh) * 2021-06-07 2021-10-26 四川国路安数据技术有限公司 基于任务自适应神经网络架构搜索的肿瘤图像检测方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8239035B2 (en) * 2007-05-08 2012-08-07 Second Sight Medical Products, Inc. Method and system for providing stimulation inputs to a visual prosthesis implant
CN100586403C (zh) * 2008-03-06 2010-02-03 上海交通大学 视觉假体图像处理装置及方法
CN104504651B (zh) * 2015-01-22 2017-11-14 网易(杭州)网络有限公司 预览图生成方法和设备
CN104809729B (zh) * 2015-04-29 2018-08-28 山东大学 一种鲁棒的图像显著性区域自动分割方法
CN105931180B (zh) * 2016-04-12 2019-02-22 西安电子科技大学 利用显著信息引导的图像不规则马赛克拼接方法

Also Published As

Publication number Publication date
CN106137532A (zh) 2016-11-23

Similar Documents

Publication Publication Date Title
CN106137532B (zh) 一种图像处理方法
US9795786B2 (en) Saliency-based apparatus and methods for visual prostheses
CN108495110B (zh) 一种基于生成式对抗网络的虚拟视点图像生成方法
CN109815893B (zh) 基于循环生成对抗网络的彩色人脸图像光照域归一化的方法
Ram Prabhakar et al. Deepfuse: A deep unsupervised approach for exposure fusion with extreme exposure image pairs
CN107194904B (zh) 基于增补机制和pcnn的nsct域图像融合方法
CN107749053A (zh) 一种用于视觉假体的双目图像采集与预处理装置及方法
Han et al. Deep learning–based scene simplification for bionic vision
CN103971329B (zh) 一种基于遗传优化细胞神经网络的多源图像融合方法
CN110458060A (zh) 一种基于对抗学习的车辆图像优化方法及系统
CN105551010A (zh) 基于nsct及深度信息激励pcnn的多聚焦图像融合方法
CN109714592A (zh) 基于双目融合网络的立体图像质量评价方法
CN109934062A (zh) 眼镜摘除模型的训练方法、人脸识别方法、装置和设备
CN103020933B (zh) 一种基于仿生视觉机理的多源图像融合方法
JP2014516665A (ja) 視覚を補助する装置を制御するための方法および装置
CN115880225A (zh) 一种基于多尺度注意力机制的动态光照人脸图像质量增强方法
CN111784596A (zh) 基于生成对抗神经网络的通用内窥镜图像增强方法及装置
CN109902730A (zh) 基于深度学习的输电线路断股检测方法
CN117292244A (zh) 一种基于多层卷积的红外与可见光图像融合方法
Xia et al. Semantic translation of face image with limited pixels for simulated prosthetic vision
Chen et al. Contrastive learning with feature fusion for unpaired thermal infrared image colorization
CN114170107B (zh) 一种基于生成对抗网络的浑浊水下偏振图像复原方法
Qu et al. CNN-based image denoising for outdoor active stereo
Zhang et al. Multimodal Image Fusion Based on a Convolutional Elastic Network
Chen et al. Deep Video Restoration for Under-Display Camera

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20190104

Address after: 100084 Main Building 702A, Tsinghua University, 30 Shuangqing Road, Haidian District, Beijing

Applicant after: Tsinghua University

Applicant after: Zhengzhou University

Address before: 100084 Main Building 702A, Tsinghua University, 30 Shuangqing Road, Haidian District, Beijing

Applicant before: Tsinghua University

TA01 Transfer of patent application right
GR01 Patent grant
GR01 Patent grant