CN111148977A - 用于亚表面和表面物体表征的移动平台压缩诱导成像 - Google Patents

用于亚表面和表面物体表征的移动平台压缩诱导成像 Download PDF

Info

Publication number
CN111148977A
CN111148977A CN201880062966.4A CN201880062966A CN111148977A CN 111148977 A CN111148977 A CN 111148977A CN 201880062966 A CN201880062966 A CN 201880062966A CN 111148977 A CN111148977 A CN 111148977A
Authority
CN
China
Prior art keywords
mobile platform
imaging device
force
optical waveguide
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201880062966.4A
Other languages
English (en)
Inventor
C-H·万
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Temple University of Commonwealth System of Higher Education
Original Assignee
Temple University of Commonwealth System of Higher Education
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Temple University of Commonwealth System of Higher Education filed Critical Temple University of Commonwealth System of Higher Education
Publication of CN111148977A publication Critical patent/CN111148977A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B6/00Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings
    • G02B6/10Light guides; Structural details of arrangements comprising light guides and other optical elements, e.g. couplings of the optical waveguide type
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0002Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network
    • A61B5/0004Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network characterised by the type of physiological signal transmitted
    • A61B5/0013Medical image data
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0033Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0048Detecting, measuring or recording by applying mechanical forces or stimuli
    • A61B5/0053Detecting, measuring or recording by applying mechanical forces or stimuli by applying pressure, e.g. compression, indentation, palpation, grasping, gauging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0062Arrangements for scanning
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0077Devices for viewing the surface of the body, e.g. camera, magnifying lens
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/107Measuring physical dimensions, e.g. size of the entire body or parts thereof
    • A61B5/1079Measuring physical dimensions, e.g. size of the entire body or parts thereof using optical or photographic means
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/43Detecting, measuring or recording for evaluating the reproductive systems
    • A61B5/4306Detecting, measuring or recording for evaluating the reproductive systems for evaluating the female reproductive systems, e.g. gynaecological evaluations
    • A61B5/4312Breast evaluation or disorder diagnosis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/44Detecting, measuring or recording for evaluating the integumentary system, e.g. skin, hair or nails
    • A61B5/441Skin evaluation, e.g. for skin disorder diagnosis
    • A61B5/444Evaluating skin marks, e.g. mole, nevi, tumour, scar
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6801Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be attached to or worn on the body surface
    • A61B5/6843Monitoring or controlling sensor contact pressure
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6887Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient mounted on external non-worn devices, e.g. non-medical devices
    • A61B5/6898Portable consumer electronic devices, e.g. music players, telephones, tablet computers
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7264Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
    • A61B5/7267Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems involving training the classification device
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7271Specific aspects of physiological measurement analysis
    • A61B5/7275Determining trends in physiological measurement data; Predicting development of a medical condition based on physiological measurements, e.g. determining a risk factor
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N19/00Investigating materials by mechanical methods
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N3/00Investigating strength properties of solid materials by application of mechanical stress
    • G01N3/08Investigating strength properties of solid materials by application of mechanical stress by applying steady tensile or compressive forces
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N3/00Investigating strength properties of solid materials by application of mechanical stress
    • G01N3/24Investigating strength properties of solid materials by application of mechanical stress by applying steady shearing forces
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/147Details of sensors, e.g. sensor lenses
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/40ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the management of medical equipment or devices, e.g. scheduling maintenance or upgrades
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/30ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for calculating health indices; for individual health risk assessment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/02Constructional features of telephone sets
    • H04M1/04Supports for telephone transmitters or receivers
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/30Devices for illuminating a surgical field, the devices having an interrelation with other surgical devices or with a surgical procedure
    • A61B2090/306Devices for illuminating a surgical field, the devices having an interrelation with other surgical devices or with a surgical procedure using optical fibres
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2560/00Constructional details of operational features of apparatus; Accessories for medical measuring apparatus
    • A61B2560/02Operational features
    • A61B2560/0223Operational features of calibration, e.g. protocols for calibrating sensors
    • A61B2560/0228Operational features of calibration, e.g. protocols for calibrating sensors using calibration standards
    • A61B2560/0233Optical standards
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2562/00Details of sensors; Constructional details of sensor housings or probes; Accessories for sensors
    • A61B2562/02Details of sensors specially adapted for in-vivo measurements
    • A61B2562/0233Special features of optical sensors or probes classified in A61B5/00
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2562/00Details of sensors; Constructional details of sensor housings or probes; Accessories for sensors
    • A61B2562/02Details of sensors specially adapted for in-vivo measurements
    • A61B2562/0233Special features of optical sensors or probes classified in A61B5/00
    • A61B2562/0238Optical sensor arrangements for performing transmission measurements on body tissue
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2576/00Medical imaging apparatus involving image processing or analysis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0002Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network
    • A61B5/0015Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network characterised by features of the telemetry system
    • A61B5/0022Monitoring a patient using a global network, e.g. telephone networks, internet
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2250/00Details of telephonic subscriber devices
    • H04M2250/12Details of telephonic subscriber devices including a sensor for measuring a physical value, e.g. temperature or motion

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Pathology (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • Biomedical Technology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biophysics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Veterinary Medicine (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Immunology (AREA)
  • Biochemistry (AREA)
  • Analytical Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Physiology (AREA)
  • Theoretical Computer Science (AREA)
  • Primary Health Care (AREA)
  • Epidemiology (AREA)
  • Psychiatry (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • Evolutionary Computation (AREA)
  • Fuzzy Systems (AREA)
  • Mathematical Physics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Vascular Medicine (AREA)
  • Optics & Photonics (AREA)
  • Data Mining & Analysis (AREA)

Abstract

移动平台成像设备使用目标区域的压缩来生成物体的图像。触觉传感器具有包含挠性、透明的第一层的光波导。光被引导到波导中。当第一层变形时,光从第一层散射出来。第一层通过将触觉传感器压在物体上而变形。力传感器检测将触觉传感器压在物体上的力,并输出相应的力信息。第一通信单元从力传感器接收力信息。接受器保持具有第二通信单元和成像器的移动设备,该成像器可以使用从第一层散射出的光来生成图像信息。第一通信单元与第二通信单元通信,并且移动设备与外部网络通信。

Description

用于亚表面和表面物体表征的移动平台压缩诱导成像
相关申请的交叉引用
本申请涉及于2011年7月7日提交并于2012年1月12日作为出版物No.WO 2012/006431出版的题为“Apparatus and Method for Surface and Subsurface TactileSensation Imaging”的共同发明和转让的国际专利申请No.PCT/US2011/043203和于2017年5月16日发布的相应的美国专利No.9,652,696,并且进一步发展了它们的教导。如同在此明确阐述一样,该申请和专利的全部内容通过引用整体并入本文。本申请还涉及并要求于2017年7月28日提交的美国临时申请No.62/538,032的优先权,其公开内容也通过引用整体并入本文。
技术领域
本发明涉及亚表面物体和表面物体的压缩诱导的成像和表征,尤其涉及一种用于确定较软固体介质的表面下方的固体目标的尺寸和刚度的基于移动平台的设备和相关方法。该设备和方法可用于非侵入性地表征人或动物体内的肿瘤。
背景技术
弹性是用于识别恶性肿瘤的特性之一。不健康的组织往往比相应的健康组织更硬(Itoh等人2006年,Dargahi 2004年,Rivaz 2008年,Krouskop 1998年,Regini 2010年)。因此,量化组织弹性将极大地帮助医生对不健康的组织进行分类和识别。
据一位研究人员报告,使用超声弹性成像技术得出的弹性评分可检测出120例中的116例恶性肿瘤(Regini 2010年)。即使超声弹性成像显示出良好的效果,也存在局限性。弹性成像的主要局限性在于组织压缩影响弹性评分,这可能导致误诊(Itoh等人2006年)。此外,弹性成像需要在医院设置经训练的操作器,这意味着它不便携,并且昂贵且操作复杂。
上述早先申请No.WO 2012/006431的触觉成像系统(TIS)具有相机、探头和力传感器,并且可以连接到笔记本计算机。但是,该系统的实际实施例多少有点笨重、相对昂贵和复杂。因此,仍有改进的空间。
发明内容
根据本申请的一个方面,提供了一种使用目标区域的压缩来生成物体的图像的移动平台成像设备,包括:包括至少包含挠性且透明的第一层的光波导的触觉传感器,以及至少一个被配置为将光引导到光波导中的光源。光波导被配置为使得当第一层变形时,引导到光波导中的光中的至少一些被散射出第一层,并且其中第一层通过将触觉传感器压在物体上而变形;优选地是保持波导的刚性框架,或者可以形成具有充足刚性的波导,以在使用中支撑波导。检测被施加为将触觉传感器压在物体上的力并输出相应的力信息的力传感器。第一通信单元被连接成从力传感器接收力信息。提供用于保持具有第二通信单元和成像器的移动设备的接受器,该成像器被定位成使得成像器可以使用从第一层散射出的光中的至少一些来生成图像信息;其中,第一通信单元能够与第二通信单元通信,并且移动设备能够与外部网络通信。
移动平台成像设备可以与移动电话组合作为移动设备。然后,移动电话可以被编程为使用从第一层散射出的光中的至少一些来生成图像信息(即,包括成像器)、接收力信息、将图像信息与力信息同步、并将相关联的信息传输到外部设备。然后,所传输的信息还可以包括所选择的诸如当前日期、当前时间、移动设备的当前用户的用户ID以及物体的目标ID的信息。
图像信息可以选自包括单个图像、多个图像和视频图像的组。
可以将移动平台成像设备编程为与外部设备交换多个消息、从多个消息的内容生成散列、并且使用从散列确定的加密密钥对图像和/或力信息进行加密。
力传感器可以在触觉传感器和用于保持移动设备的接受器之间。移动平台成像设备还可以包括壳体,并且力传感器然后可以在壳体和用于保持移动设备的接受器之间。
根据另一方面,提供了一种使用上述移动平台成像设备确定物体的表面或亚表面尺寸的方法,包括:在多个施加的力下获得图像信息和相应的力信息;以及使用3D插值估计物体的尺寸。
获得步骤可以包括在改变力的同时获得时间段内的一系列图像,以及选择来自该时间段中的一部分的图像,在该部分内,相比于在该时间段的其它部分期间,力随时间变化得更平滑和/或更线性。
根据另一方面,提供一种用于对准上述移动平台成像设备的光源的方法,包括:用预选的力将触觉传感器施加到已知物体上,处理图像信息以识别散射光的非对称性,以及调节光源或至少一个光源以减少非对称性。
一个或多个光源照射光波导;光的波长可以因不同的应用而变化,或者可以在单个实施例中使用多个波长的光并且对其进行控制以提供变化的图像响应。光波导是透明且挠性的,其中光波导和相机被配置为具有视线以捕获偏转的光。光源可以具有扩散器以生成均匀的光和/或可以添加滤光器以控制进入或离开波导的光发射。扩散器可以是中空的管,其中光源放置在该管的内部,扩散器也可以是放置在光源和波导之间的白色塑料/纸制扩散器材料。
波导可以由刚性框架保持在适当位置,其中清晰透明层可以是框架的一部分,使得当将波导压在感兴趣的区域上时,面对该感兴趣区域的波导的前部或部分将会变形,而波导将具有充足的刚度来维持波导和相机之间的视线,以允许偏转光的检测以及所施加的力的计算。刚度可以由波导本身(即,被成形/被配置为提供刚度的波导)、波导后面的玻璃或塑料板、或相机透镜本身提供。在一个实施例中,示出了具有清晰的刚性背衬的矩形波导。如果将波导弯曲以提供如图3A所示的充足的刚度,那么将不需要刚性的清晰背衬层。
根据另一方面,提供了一种用于检测移动平台成像设备的波导的切割或损坏的方法,包括用预选的力将触觉传感器施加到已知物体上,处理图像信息以识别散射光的非对称性,以及当非对称性超过阈值时,表示波导的切割或损坏。
根据另一方面,提供了一种确定移动平台成像设备的目标的柔软度的方法,包括:根据图像信息确定接触面积,根据触觉传感器的接触面积和力信息确定应力,根据图像信息和确定的应力确定挠性波导的应变;以及根据挠性波导的应变、接触面积和应力确定内含物的应变。
确定挠性波导的应变的步骤可以使用散射光的像素的强度的总和与散射光的最大强度像素的强度中的至少一个。
根据另一方面,提供了一种使用压缩诱导成像系统(CIS)信息来确定目标的绝对弹性的方法,包括使用有限元方法的正向建模方法,之后是具有深层简洁网络的逆向(inverse)建模方法。
根据另一方面,一种获得物体的肿瘤风险指数的方法,包括以下中的至少一项:将肿瘤风险指数计算为物体的尺寸和刚性的加权总和;以及使用卷积神经网络确定风险指数的机器学习方法。
根据另一方面,提供了一种通信的方法,包括:由第一设备与第二设备交换多个消息,从多个消息的内容生成散列,以及以下中的至少一项:使用从散列确定的加密密钥对信息进行加密,并将加密后的信息发送给第二设备;以及从第二设备接收信息,并尝试使用从散列确定的加密密钥来解密信息。
智能电话平台移除了对笔记本电脑和专用相机的需求,并使更紧凑且更便携的设备成为可能。仅通过弹性体探头、光源和框架即可制作智能电话附件。通过利用当今社会无处不在的智能电话,移动平台上的压缩诱导成像系统(CIS)可能比独立的触觉成像系统更具成本效益。智能电话已经具有处理器、相机和能够进行短距程(蓝牙、Wi-Fi)和远程(蜂窝)通信的收发器。通过使用这些,可以节省在CIS单元中提供专用设备的成本、重量和体积。
光波导可以由电机(诸如线性致动器或螺杆驱动器,或通过使用皮带轮或同步带)通过开关的点击自动朝目标移动。这将允许自动施加力,而不是手动按下。在一个应用中,电机在大约三秒钟内以大约5到7mm的均匀运动将光波导朝目标区域驱动,以获得触觉图像。
光波导可以具有不同的形状,诸如半球形、半圆柱形或矩形。波导也可以弯曲以提供充足的刚度,例如,波导可以是基本上平坦的片材,然后将其弯曲成半圆柱形形状,该形状可以赋予波导刚性(即,结构刚度)。波导的前表面将接触目标区域,而后表面将提供充足的刚度以获得触觉图像。
图像、压力读数和元数据可以发送到云。利用云作为中间“第二设备”是非常有益的步骤。这样我们就可以在任何位置、任何时间使用压缩诱导成像系统,而无需确保物理接收方计算机可用并且在线。然后可以从云中检索数据,以便以后在接收方计算机处进行处理。
在实施例中,设备包括位于智能电话前面的光源和弹性体光导,以及位于背面上的手柄和力传感器,智能电话滑入两者之间的槽中。从背面施加力,并且将由力传感器测量的所施加的力无线地传输到智能电话应用。具有蓝牙能力的微控制器用于将施加的力信息传输到智能电话,从而避免了机械数据连接的需要,因此避免了为特定的智能电话确保正确连接器可用的问题。弹性体被定位成使得智能电话相机对准弹性体的中心。使用智能电话应用(“app”)解决了力和图像同步问题,该应用既启动触觉图像的拍摄,又轮询所施加的力信息。然后,所施加的力信息经由蓝牙通信被发送到应用。由应用将存储的图像和元数据(用户编号、病例编号、肿瘤位置、日期、时间、所施加的力)进行加密,并无线地传输到云服务器。然后,本地处理计算机将下载数据并处理数据。将计算恶性评分,并将加密的评分发送回智能电话。
在理想条件下,可以计算出恶性评分并将其几乎实时地返回至智能电话。但是,如果智能电话和本地处理计算机之间的任何通信链接不可用,那么可以保持数据,并在所需要的通信链接出现时将其转发。
“肿瘤风险指数”将所有确定的机械特性聚集为一个数字。该数字将用于判断被检查的肿块是恶性肿瘤的可能性。
移动平台压缩诱导成像系统可以模仿人类的手指来检测物体的机械特性(尺寸、形状、应力、应变、移动性和弹性)。物体可以直接接触探头或被系统间接压缩。
本申请涉及一种系统,该系统通过从上覆的表面施加平缓的压力来表征物体的某些机械特性。估计表面或亚表面目标尺寸和柔软度的设备将在各种应用中是有用的。通过将该设备置于诸如智能电话的移动平台上,可以更轻松地访问技术。压缩诱导成像系统(CIS)允许操作器借助移动平台的便利性快速捕获压缩后的物体的机械特性。
本系统受到一些先前提出的系统的启发,但有一些重要的区别。本系统使用动态光学感测机制而不是静态机电压力传感器。这使我们能够更准确地动态成像和评估机械特性。此外,我们的系统利用移动设备的传感器和移动设备的通信装备来降低成本并增加可访问性。
移动平台压缩诱导成像系统(CIS)的一种可能应用是人类恶性肿瘤的检测。因此,新的移动系统的实施例面向医学,因为其具有潜力以帮助医师预筛查肿瘤和培训触诊技术。该系统可以提供的机械特性是肿瘤筛查处理中的宝贵资源。
附图说明
图1示出了移动平台压缩诱导成像系统(CIS)的实施例的总体架构。
图2是图1中所示系统的前端附件的实施例的框图。
图3A至图3C示出了用于图2的前端附件的弹性传感器元件。
图4是示出用于弹性体感测元件的一个实施例的LED的可能位置的图。
图5A至图5C示出了在测试条件下来自传感器的图像。
图6是电路图。
图7是移动平台CIS的示意性侧视图。
图8是通信流程的图。
图9A、图9B和图9C是形成CIS的一个实施例的一部分的框架的正视图、侧视图和后视图。
图10A和图10B是形成CIS的实施例的一部分的另一个框架的透视图和正视图。
图11是数据传输的方法的实现方式的功能框图。
图12示出了智能电话上的用户界面。
图13是移动设备和前端微处理器之间的数据获取流程的图。
图14是用于移动设备、服务器和处理单元之间的接口的流程图。
图15是正向建模方法的图。
图16是逆向建模方法的图。
图17是神经网络的图。
具体实施方式
参考附图,并且首先参考图1,大体上由附图标记20表示的移动平台压缩诱导成像系统(CIS)的总体架构的一个实施例基本上包括移动设备22、移动设备22的前端附件24、云服务器26和本地处理单元28。移动设备22包括成像单元(通常为相机)32、软件单元34和无线通信单元30,所有这些在智能电话中都是标准的,并且出于简洁的目的不再赘述。
前端附件24包括压缩感测探头36、施加力测量单元38、电力单元40、无线通信单元42和处理单元44(见图2)。
前端附件24是所有物理数据获取(力和图像数据)发生的地方,并为移动设备(iPhone或其它智能电话)22提供机箱。处理单元(微控制器)44经由蓝牙与智能电话22的软件单元34通信。如果可用,智能电话22经由Wi-Fi将所有数据和元数据传送到云服务器26,否则通过蜂窝数据传输。
如下面将更详细描述的,前端附件24至少部分地封装或安装到智能电话22,以便确保压缩感测探头36和相机32之间的精确对准,其中相机32必须对探头36成像。微控制器44使力传感器读数成为可能,并允许与智能电话软件单元(应用)34进行蓝牙通信。数据收集和图像捕获由用户在应用34内使用智能电话的用户界面进行控制(见图12)。当用户已收集了期望的数据时,用户可以接着经由Wi-Fi将其发送(或可以以周期性间隔自动发送)到云服务器26。
云服务器26包括基于云的数据库,其可以是常规的,并且未详细示出。数据库用于存储触觉图像和元数据,直到本地计算机28准备处理数据为止。然后将处理后的数据返回到始发智能电话22。系统的用户能够在智能电话22的屏幕上获得期望的信息。
现在还参考图2,前端附件24包括压缩感测探头36,其包括一层透明的挠性弹性体46和一个或多个用于将光馈送到弹性体46中的光源48。在实施例中,光源48是发光二极管,其需要恒定电流驱动器电路系统50。当然,其它光源可能需要不同的驱动器和控制电路系统。压缩感测探头36在图7中更详细地示出。
透明、挠性的弹性体层46形成弹性光波导,其是设备20的主感测探头36的主要功能部件。在该探头36的一个实施例中,光波导46是诸如聚二甲基硅氧烷(PDMS)之类的弹性体,其主要包括[-Si(CH3)2-],具有玻璃或塑料的背衬层72(见图7),虽然同样在所有实施例中这不是必须的。探头36生成与弹性体层46的压缩对应的光。压缩感测基于称为全内反射的光学现象。如果两种不同的介质具有不同的折射率,并且一束光穿过这两种介质,那么当光线到达这两种介质之间的界面时,通常会有一部分光通过折射被透射,其余的则被反射,量取决于入射角。但是,如果光线在较高折射率的介质中开始,那么存在临界角,在该临界角以上不可能折射,并且光线被完全反射,即全内反射。在本设备中,弹性体层46被配置为使得来自光源48的光通过全内反射沿着在前面的PDMS-空气界面和后面的玻璃/塑料-空气界面之间的层被引导,只要弹性体层46不变形。弹性体波导在美国专利No.9,652,696中有所描述。
但是,当探头36的弹性体层46由于施加的力而压缩或变形时,光以更陡峭的角度从变形的前表面内部反射,在该角度下,一些光通过弹性体层的后面的玻璃/塑料-空气界面逸出。一些该逃逸的光被移动设备22中的成像器32捕获。
还参考图3A至图3C,统称为图3,弹性体层46的可能实施例包括矩形的弹性体52、半球体56和弯曲成圆柱体的一部分的矩形58。片材52和58具有光源48,该光源48被定位成使得光从狭窄边缘处的边界进入,几乎平行于大的面,从而通过全内反射引导光。在弯曲形状56中(如果光沿着圆周方向照射,那么为58),光在凸面附近被注入,几乎与表面相切,从而其可以通过全内反射被引导到曲面周围。在所有这些实施例中,在弹性体和相机之间存在玻璃或塑料板。板可以是平坦的,或者可以是弯曲的,例如以匹配弹性体片材58的曲率。对于所有弹性体,从侧面注入光以引入尽可能多的内反射。
弹性体部件46由框架(见图7)保持在适当的位置和形状中,该框架也为光源48提供安装。该框架在光波导46和相机32之间可以具有清晰、刚性的层72(例如玻璃或塑料)。另一个实施例是由刚性框架保持的弯曲弹性体58,诸如图3A中所示的。要求是在光波导和相机之间具有用于捕获偏转光波的视线。
可以使用各种不同的光源48。所描述的实施例使用超亮白色LED。LED的主要功能是提供完整一体化的光,以照射感测探头36的全部区域。每个单独的LED的强度都会影响每个捕获图像的像素值。因此,在每个LED中以及在全部探头中具有均匀的强度是非常期望的条件。可以针对非均匀照明校准图像处理,只要非均匀性随时间推移是稳定的,但是这可能需要显著的额外处理能力和处理时间。另外,可提供一个或多个光源以发射可以用于提供不同成像结果的多个波长的光。系统可以被定制为向用户提供选择的波长变化,或者可以通过基于特定波长调整计算的软件自动地在不同波长之间循环。
现在还参考图4,矩形弹性体元件52的一个可能的实施例是38mm(1.5英寸)平方、12mm至30mm(0.5至1.2英寸)厚的PDMS块。提供了四个LED 48,其中一个位于PDMS块52的每个窄面的中心(距离拐角边缘约19mm)。可以增加每侧的LED 48的数量,以便增加PDMS内部的照明的面积和/或照明的均匀性。通常,出于消毒原因,探头会被腈化物覆盖。
可替代地,可以使用诸如白管之类的内部具有光源的扩射元件将光均匀地分布在PDMS中。其它扩射屏障可以用于生成均匀的光进入感测探头。可以在光源和感测探头之间添加滤光器,以调整引导到感测探头中的光的波长。
如果要获得不需要大量后处理的良好图像,那么光源对准对于压缩感测探头是重要的。理论上,在无负载或无变形的情况下,全内反射不应该允许任何光逸出,但是由于弹性体中存在杂物,并且由于注入到弹性体中的光的角度范围,即使没有任何东西接触弹性体的表面,一些光也会逸出弹性体。发现该低强度光会形成干涉图像。在光源被适当对准和平衡的情况下,干涉图像通常会形成同心圆,如图5A所示。在光源被未适当对准的情况下,干涉图像变得偏斜且不对称。
为了校准光源,获得压缩诱导的图像。通常,那些在中间形成一片最亮的光,可以表示为灰度。然后,使用诸如Otsu的阈值之类的可用方法,将灰度分割成黑色背景和白色图像,以及可选地还有一个或多个中间(灰色)环,如图5B所示。然后确定分割图像的中心。然后,通过调整光源的照明方向来移动图像的中心,直到它位于或接近探头的中心。例如,在Matlab软件中,图像可近似为椭圆,并且“regionprops”功能可以用于确定椭圆的中心和偏心率。为了测量区域的“圆度”,Matlab的“regionprops”命令还通过指定椭圆并计算椭圆的焦点与其长轴长度之间的距离的比例来返回区域的偏心率。如果区域是圆,那么偏心率值为零,并且如果它是直线,那么该值将为一。图5B中的小圆圈表示层(背景除外)的质心。中心(白色)段的偏心率是0.0066,内部(浅灰色)环的偏心率是0.27以及外部(深灰色)环的偏心率是0.83。从图5B可以看出,两个内部区域相当好地居中。图5C示出了三个标记背景(黑色)、外部环(较深的灰色)和内部环(较浅的灰色)区域的中心的小圆圈,其偏心率按照从左到右的顺序为0.76、0.64和0.86。
如果将图像均匀地分割成三个区域,如图5B和5C所示,那么可以为每个区域计算区域质心和偏心率评分。对于对准的图像,两个内部区域的偏心率评分和质心位置非常接近。所提出的用于最小化不均匀干扰并因此对准LED的方法是调整其位置,以便产生质心接近于PDMS区域的中心且偏心率评分低于最大可接受水平的三段式图像。通过将对准的质量与内含物尺寸估计的准确性进行比较,可以实验地找到该水平。LED调整主要是使LED在其灯管内倾斜或移动使其更接近或更远离PDMS。然后调整光源以获得圆形、均匀的压缩诱导图像。
该方法可以用于检测对感测探头36的损坏。如果在没有任何负载的情况下图像严重不对称,如图5C所示,那么我们怀疑是损坏了探头弹性体46,诸如切口或裂缝。我们可以使用该方法来检测损坏的探头(弹性体)。当将探头应用于刚性物体时,PDMS需要一致的变形以用于图像处理从而估计物体刚度。在日常使用中,PDMS会经历多种形式的压力和应变。材料最终可能会疲劳,并且沿着材料发生撕裂。撕裂定义为PDMS的连续分离,从而允许空气进入PDMS。撕裂的特征可以在于穿过PDMS表面的长度以及穿过PDMS横截面的深度。
在图5C中,损坏的PDMS会在PDMS边缘附近产生带有亮点的图像。这导致不同区域的质心偏离中心很远,并且由于长方形形状而产生更高的离心率评分。如果这两个值充分偏离,那么可以通过图像分析软件将PDMS识别为未对准或已损坏,并且可以通过软件提示用户移除卫生护盖并检查感测探头是否存在LED未对准或PDMS损坏。
图像的总体强度取决于LED的照明和环境光而改变。将设置总体图像亮度的阈值,以避免频繁的误报。
现在还参考图6,恒定电流驱动器电路50的主要目的是提供恒定电流,以使得即使发生自然的电压下降(例如,因为电力单元40依赖于电池并且电池电量不足),光源也能提供均匀的光度。一个这样的电路50在图6中示出,并且使用Linear Technologies(线性技术)LT1932 LED驱动器57,其由具有Arduino处理器的SparkFun Electronics(SparkFun电子)DEV-12640Pro Micro(微处理器)开发板59控制。Pro Micro 59还从力测量单元38接收输入,力测量单元38是TE Connectivity(TE连接)FC22负荷传感单元(cell)。LED电路被设计为使用户能够通过调光选项控制LED的光强度。如图6所示,Pro Micro 59还具有用于从图像传感器(IDS Imaging Development Systems(IDS成像开发系统)GmbH UI-1220SE)输入的插孔,以防因任何原因而首选使用前端附件24上的专用成像器而不是智能电话22上的相机32。在图示的实施例中,Arduino处理器包括蓝牙收发器。可替代地,可以提供单独的蓝牙收发器。
可以通过前端附件24中的一个或多个力传感器38来测量所施加的力。该力传感器38可以是压力传感器、负荷传感单元、应变传感器、压电传感器、应变仪等。所施加的力的方向是重要的。前端24或移动设备22可以具有姿态和位置传感器,以以绝对方式确定所施加的力的方向。如果由各种传感器38测量所施加的力的方向,那么将获得更准确的结果,从而可以检测所施加的力相对于设备20的方向,尤其是所施加的压力的任何不均匀性。
一个可能的实施例是具有垂直施加压力的FC22压缩负荷传感单元。FC22使用微机械加工的硅压阻应变仪(Measurement Specialties(测量特殊设备),2012年)。FC22测量直接力,这比通过压力囊测量力的替代传感器更加可靠。由于FC22系列包含了微熔技术,因此其消除了对老化敏感的有机环氧树脂,这提供了优异的长期跨度和基本上无限的循环寿命预期。示例性的FC22力传感器或施加力测量单元38将集成到前端附件24的框架中,该框架于是创建稳定的平台来进行力测量。为了提高模拟力传感器数据的准确性,可以使用缓冲区来存储力传感器的多个值,然后可以对这些值取平均值。
力传感器38连接到处理器44,诸如示例性的Pro Micro微控制器59。力数据将与CIS图像同步。在实施例中,有蓝牙功能的微处理器59连接到力传感器38。当在智能电话22上生成拍摄图像命令时,智能电话22将拍摄CIS图像的命令发送到智能电话相机32,并且将蓝牙命令发送到微处理器59以从力传感器38获得所施加的力信息。然后,力数据由蓝牙发送到智能电话22的软件单元34,在此将力数据写入CIS图像元数据中。还可以具有从智能电话22到微控制器59的硬件触发器。硬件触发器将导致更准确的力/图像同步。
处理单元44具有三个主要功能,获得原始力传感器数据并将其转换成可用力信息、读取光亮度值、以及控制光亮度。该处理单元可以是微处理器、FPGA或计算机。
亮度控制的一种可能的实施例由移动设备22中的应用软件34完成。可以通过以30为增量在0-255之间变化PWM信号的输出来控制调光功能,其中0为低,255为高。还可以设想,智能电话22的处理器34可以用作微处理器59,在电话22上的软件应用被编程为接收力传感器数据和亮度数据并用于控制亮度。
现在也参考图8,通信单元42的主要功能是将有用的数据提供给移动设备22并从移动设备22获得命令。这可以是诸如蓝牙或Wi-Fi的无线通信,或者可以是前端附件24与移动设备22之间的有线连接。一种可能的实施例是前端附件24的微控制器59与智能电话22的处理器34之间的蓝牙连接,然后是智能电话22(尤其是其通信单元30)与云服务器26之间的Wi-Fi HTTP或HTTPS连接。
初始通信始于前端附件24中的微控制器59和智能电话22经由蓝牙智能连接进行连接。蓝牙连接中有两个主要部件:外围设备和中心设备。在该实施例中,智能电话22是中心设备,而微控制器59是外围设备:这类似于客户端和服务器的关系。
未连接的外围设备通告数据,诸如其名称、信号强度和通用唯一标识符(UUID)。一旦连接,外围设备将共享其服务;将使用的服务是通用异步接收器/发送器服务。它基本上充当微控制器59和智能电话22之间的数据管道。该服务具有两个特性,即“Tx”和“Rx”,这将用于传输力数据和控制调光。合适的安全协议以确保智能电话22连接到正确的前端单元24并避免对无线传输的外部干扰或拦截是众所周知的,并且出于简明起见在此不再赘述。
为了使用该方法,创建指令集以处理从力传感器38获得力数据和控制LED 48的调光所需的不同功能。
如果可用,智能电话22和云服务器26(在此实施例中运行PHP脚本)之间的通信将通过Wi-Fi进行。图像以例如JPEG格式发送,并且相关数据使用HTTP公布方法以JSON文件发送。为了从云服务器26检索数据,智能电话应用34将使用HTTP请求方法。通过使用JSON文件,以使检索信息简单的方式解析数据。建立通信后,软件必须确保消息是相同的“语言”:在实施例中,平台之间传递的所有数据均符合UTF-8字符串编码。
电力单元40向前端附件24提供所有必要的电力。那将包括(一个或多个)光源48、恒定电流驱动器50、力传感器38、处理单元44和通信单元42。电力单元40可以是电池或燃料电池。
在移动设备22是智能电话的情况下,可以利用典型的智能电话中可用的相机、视频相机、加速度计、陀螺仪和通信硬件,特别是相机32、应用软件34和通信单元30。一个可能的实施例是iPhone。iPhone 6具有8百万像素和1.5μm像素的视频相机、加速度计、陀螺仪和罗盘、Wi-Fi 802.11。
从图7可以看出,相机32观察弹性体46。前端附件24被设计为使得弹性体46从移动设备相机32可见。相机32能够聚焦在弹性体46的边缘(侧面)。相机的自动聚焦被禁用,并且焦距被设置在软件或固件中。对于相机模型和前端设备模型的每种组合,焦距是固定的,因此可以进行预编程。当弹性体46被目标物体压缩和变形时,相机32捕获从弹性体46逸出的光。相机32可以捕获单个图像、多个静止图像或一个或多个视频图像。
应用软件34的主要功能是获得CIS图像数据以及诸如来自力传感器38的所施加的力、用户编号、案件编号、日期、时间和调光值之类的元数据,并将该信息发送到云服务器26。数据在该应用软件34中被加密和压缩。而且,应用软件34将接收从本地处理单元28返回的恶性评分和其它输出信息。
移动设备的内置无线通信功能用于发送获得的数据并接收结果。该通信可以经由Wi-Fi、LTE、3G或蓝牙进行。也可以使用其它ftp或http套接字。
从CIS成像器获得的压缩诱导图像通过Wi-Fi发送到运行机械特性估计算法的远程云服务器26或本地计算机28。将获得的具有相应组织病理学结果的图像存储在云数据库中。该数据库用于计算恶性评分。这允许服务器26保留用于更准确的性能评估的综合数据库。因此,通信应该是安全的。为了实现两个实体之间的高效且安全通信,经常采用基于对称加密的通信方案。对称或不对称加密均可以用于保护数据。
对于对称加密,经常在非对称加密方法的帮助下传输秘密密钥,这需要公共密钥基础结构的支持。即使仅对密钥进行非对称加密,也会导致CIS的大量计算和通信开销。更糟糕的是,如果存在秘密密钥被泄露的任何风险,那么CIS必须生成另一个秘密密钥,并使用昂贵的不对称加密方法来将其传输。
为了克服这些问题,本实施例使用不同的安全通信协议。所提出的通信协议在不引入公共密钥基础结构的情况下是相当安全的。此外,以非常高效的方式生成秘密密钥。具体而言,在初始化处理期间,在智能电话22和云服务器26之间没有共享的秘密密钥。相反,智能电话22和云服务器26使用明文彼此随机聊天,而不发送任何敏感或秘密信息。在几轮交互之后,智能电话22和云服务器26两者都使用它们的聊天内容的散列值来生成秘密密钥。为了生成相同的秘密密钥,攻击者必须拦截聊天中的所有明文。幸运的是,无线通信中经常会出现严重的分组丢失,因此攻击者很难获得所有聊天内容。如果聊天实体彼此之间听不清楚,那么他们可以要求重复消息。窃听者做不到那样。安全的鲁棒性基于无线通信的鲁棒性的缺乏(分组丢失的特征)。这样,无需引入公共密钥基础结构即可生成秘密密钥。为了使通信更加安全,在每次成功通信之后,两个实体都会更新其秘密密钥。因此,即使攻击者窃取了秘密密钥,它也将很快过期,并且一旦攻击者丢失了数据分组,攻击者将不再能够匹配任何将来的密钥更新。
CIS数据可以直接发送或通过云服务26发送到本地处理单元28。优选的是,CIS单元20连接到云服务器26,然后本地处理单元28从云服务器26获得数据。在云中,可以将具有元数据的加密的压缩诱导图像进行存储。移动设备22和本地处理单元28与该云服务器26进行通信。云服务器数据库存储数据和元数据,直到准备好在本地计算机28上进行数据处理为止。
云服务器26的一个实施例充当所有数据的存储库,并且具有两个主要部件,PHP脚本和MySQL数据库。有两个PHP脚本:一个接收从智能电话22发送的数据,并将它们存储在适当的目录中;第二个转到适当的目录,并将结果信息返回给智能电话22。
本地处理单元28获得CIS数据并且对数据进行处理以获得机械特性信息。CIS数据和元数据在该计算机28中存储并处理。该本地处理单元28可以在云26中,但是在本实施例中,出于安全目的,本地处理单元28位于负责医生的自己的位置中。因此,云26中的数据永远不会被解密。然后将处理后的数据返回到始发移动设备22。然后,系统的用户能够在移动设备屏幕上获得期望的信息。
现在还参考图9A、图9B和图9C,统称为图9,移动平台压缩诱导成像系统20的一个实施例包括框架60。框架60的目的是保持前端24并且使其无缝地附接到移动设备22。感测探头36的弹性体元件46对于移动设备22的成像单元32可见。力传感器38被定位为获得准确的所施加的力的信息。
框架60包括具有凸起的侧面64的托架62,智能电话22可以放置在托架62上,并且相机32与开口66对准。因此,这里框架60和托架62限定了可将移动设备22接纳在其中的接受器。如果智能电话22在相机32旁边具有自动聚焦传感器,那么如图所示,开口66可以被拉长,使得相机可以聚焦在感测探头36的边缘处的目标上。可替代地,可以在软件中覆盖自动聚焦,并且将相机32强制到已知的聚焦设置。
图9中所示的框架60是为Apple iPhone 6设计的,但是智能电话22的许多其它可用模型具有类似的通用配置,并且最多将需要对托架62的维度稍作修改。所示的框架60是在SolidWorks CAD软件中创建的,并使用Objet 3D打印机进行打印。
前端附件框架60是系统的骨架,因为它包含所有LED电路50、PDMS探头36、力传感器38和智能电话22,并保持它们对准。该设计的目标是创建重量轻、易于保持的设备,该设备可以准确地捕获触觉图像和力感测信息。
托架62将智能电话牢固地保持在适当的位置中,以允许在电话上施加一定的压力而不会移动电话或损坏任何部件。托架62不会干扰相机或智能电话屏幕的视图,或不会干扰对任何按钮的访问,从而维持完整的电话功能。如果在智能电话22和前端处理器59之间使用有线通信,那么当智能电话22被插入到托架62中时,托架62可以具有适合于智能电话22中的端口的连接器插头。托架62在这里用作用户的手柄以保持CIS组件22、24并将传感器36(特别是弹性体46)压在目标上。
在智能电话托架62的正下方是用于电气部件的存储隔室68。隔室68的尺寸被设置成包含微控制器59、电池组40、电源开关、LED驱动器50、力传感器电路系统和一些布线。为了保护和美观,隔室68由盖封闭,但是具有用于电源开关以及对于LED和力传感器必要的布线的外部接入点。
在框架60的前侧是用于图像捕获的区域70。用于相机32的孔66是相机32在智能电话22本身上的位置的中心。从相机32到传感器弹性体46的距离选择在相机32的焦距范围内,在图9的实施例中,该焦距由制造商提供为最小31mm。可以在智能电话相机32的前面添加附加的透镜(未示出),以减小最小焦距或捕获适当尺寸的图像。
可以在弹性体46和相机32之间并入玻璃或其它刚性、透明的片材72(见图7),作为弹性体46的刚性支撑。玻璃/塑料72支撑弹性体46的背面,同时准许相机32透视。玻璃/塑料72和弹性体46被放置在框架60的前端的保持器76中的矩形切口74中,并且弹性体46紧靠玻璃/塑料72安全地装配在该切口中。围绕切口74对称地放置在保持器76中的四个孔78是LED48的接入点。LED 48被固定在带有(lining)孔78的金属间隔物内。LED的所有布线都被引导离开成像区域,并布置有尽可能少且尽可能小的线路,使得保持器76可以自由移动。还可以设想,用于弹性体46的刚性支撑可以由围绕弹性体46的周边的保持器76提供。
在图9的实施例中,从智能电话22的加速度计和陀螺仪估计所施加的力。可替代地,或另外地,可以在框架60上放置薄的力传感器,在该处薄的力传感器接触弹性体46的边缘处的组织。
现在还参考图10A和图10B,统称为图10,并且参考图7,框架80的第二实施例在原理上与第一实施例相似,并且将不再不必要地重复描述。在框架80中,将包括相机32的智能电话22的拐角插入托架82中的槽中。框架80和托架82再次定义用于保持移动设备或智能电话22的接受器。在托架82后面并与用于弹性体传感器46的保持器76对准的壳体84包含所有电子器件,并用作手柄。壳体84不是刚性地附接到托架82。相反,它们通过力传感器38连接,使得当保持壳体84的用户将传感器36(特别是弹性体46)压在固体物体上时,力传感器38在这里再次以壳体84的形式检测并测量施加到手柄的力。为了简单起见,在图7中仅示出了单个力传感器38,但是如上所述,可以使用多个力传感器来提高精度,并检测所施加的压力中的任何不均匀性。
现在也参考图11,为了确定目标100的机械特性,有必要从前端附件24和移动设备22获得数据。数据收集的方法的实施例在三个主要硬件部件中被实现:前端附件24的微控制器59、移动设备(例如,智能电话)22和本地处理单元28。该方法负责数据的获取、CIS数据的处理以及硬件之间的通信。
虽然上述实施例描述了手动施加力,但也可以设想,如图7中示意性所示,可以将诸如线性致动器、螺杆驱动器、皮带轮或同步带的电机85结合到任何实施例中,以自动施加期望的力。例如,电机85可以被耦合在壳体84、托架82或保持器/前端24与固定或非移动表面之间,以便在激活时自动地将光波导或压缩感测探头36朝目标100驱动。这将允许自动力施加,而不是手动按下。在一个应用中,电机85在大约三秒钟内以大约5至7mm的均匀运动将光波导46朝目标区域100驱动,以获得触觉图像。
在前端附件24中,处理器59获得力传感器数据并将其传输到移动设备22。处理器59还控制照明的亮度并与移动设备22通信。作为实施例,可以使用Arduino IDE微处理器59以C语言对方法进行编程。每个部件的功能的示例如图11所示。
移动设备单元22收集CIS图像和所施加的力数据,将指令发送到前端处理器,并且将CIS图像和相关数据发送到本地处理单元28并向其请求结果。数据获取方法的一种可能的实施例是iOS应用软件。参考图12,智能电话22的显示屏幕上的软件界面提供了探头36的实时相机视图102、调整LED 48的亮度的滑块104、添加患者信息的字段、力读数的显示器106、最后是供用户捕获照片的按钮。一旦按下捕获按钮,捕获的照片被显示在屏幕上,并为用户提供或上传照片或重新拍摄照片的选项。也可以拍摄视频图像。图像与来自力传感器38的所施加的力信息相关。
智能电话22中的应用软件34捕获CIS图像、力数据和元数据。参考图13,在数据获取处理的一个可能的实施例中,当操作者按下捕获按钮时,数据收集的序列开始于通过蓝牙向前端微处理器59发送请求力信息的命令。前端微处理器59读取并存储当前力值。当前力值可以是单个值、来自两个或更多个传感器的值的平均值、或来自两个或更多个传感器的值的列表。在图12和图13中,两个力传感器38单独报告。因为程序是异步运行的,因此每次发送一个存储的值,以防止在传输期间引起误差。同时,智能电话22上的应用软件继续并使用相机32收集图像。一旦所施加的力信息返回到智能电话22,捕获的图像和力数据被显示在智能电话22上。然后,提示用户或重新拍摄图像或上传图像。
当用户选择上传按钮时,与服务器的连接开始。准备包含图像和元数据的文件。元数据可以包含日期、时间、调光器值、患者ID和用户ID、以及力信息中的任何一个或所有。这些数据可以用于形成图像名称,其格式可以有效地用于对数据进行排序。图14示出了上传数据时的数据流示例。
在期望以不同的所施加的力来捕获多个图像的情况下,智能电话22可以记录一段视频,同时重复轮询前端24以获取力数据。然后分析力数据以找到力随时间的改变率相对均匀的时段,并选择视频的一部分、或者以期望的力或时间的间隔选择两个或更多个单独的帧以进行进一步分析。如果智能电话22具有充足的处理能力,那么可以在上传之前执行选择,并且呈现所选择的帧以供用户批准。如果智能电话22没有充足的处理能力来执行选择,那么可以上传未选择的数据并在本地计算机28处执行选择,但是在通信使用上花费更大。
使用3D插值的移动平台CIS的尺寸确定方法
移动平台CIS确定的机械特性中的一个是目标100的尺寸。在这里,我们描述一种获得亚表面或表面目标的尺寸的方法。
为了选择最佳的CIS图像,绘制了力与时间的关系图。选择平滑的线性区域来处理图像。这些图像用于机械特性估计算法。期望从CIS图像中滤除噪声。噪声可能是由于,例如,杂散的环境光进入系统,或者是由于如果LED的位置不理想而导致的来自LED 48的非成像光。CIS图像的最大强度和/或强度的总和用于估计目标尺寸。在该实施例中,内含物的形状被假定为球形。提供了3D插值模型,该3D插值模型用于根据压缩诱导图像来估计肿瘤100的尺寸。3D插值方法涉及所施加的法向力F、压缩诱导图像上的像素数Np和包含图像的直径D。我们基于这三个参数对多个表面进行建模。一旦有了模型,我们就从移动平台CIS获得力F,并从用户获得近似的深度。然后,我们使用模型表面来估计尺寸。我们根据实验数据为一系列深度层开发了等式(1)中所示形式的多个3D插值表面。
Figure BDA0002428010320000211
模型系数pij,定义了建模的表面。等式(1)中的索引n和m表示用于尺寸估计的多项式的阶数。系数pij根据以下所述的模型经验地得到。
一种可能的实施例是将尺寸分成两种情况。我们开发了两套3D插值法:一套用于大的内含物(例如,我们使用11.9mm和15.5mm这两个直径来生成初始插值表面),另一套用于小的内含物(例如,我们使用8.0mm和9.9mm的直径来生成初始插值表面)。因此,为了减小误差,我们有两个不同的插值表面:一个用于小的内含物,而另一个用于较大的内含物。针对三个不同的深度层(在此示例中为3mm、6mm和9mm)确定来自每套的插值表面。所开发的3D插值表面参数的值反映了组织体模(phantom)内的内含物的深度和尺寸改变。医生可以定性地估计肿瘤的深度(浅、中或深)和尺寸(大或小),以便可以使用根据医生描述的适当表面。
使用所开发的3D插值表面,我们可以通过指定施加的力F和图像上的像素的数量Np来估计内含物的尺寸。内含物的尺寸是使用其近似的深度根据力信息和像素的数量找到的。我们有多个不同深度的插值表面。特定3D插值表面的选择基于内含物的近似的深度和尺寸。对于人类数据实验,医生估计了内含物的近似尺寸和深度。然后,使用该3D插值方法计算更准确的尺寸和深度。可以从所开发的模型生成初始插值表面,但是随着收集到更多数据,可以从实际数据确定更准确的插值表面。
相对柔软度指数确定方法
移动平台CIS的压缩实验在一些方面类似于确定内含物机械特性的常规拉伸试验。我们考虑的特性中的一个是柔软度指数,其是目标的柔软度/硬度的程度。与常规硬度测量中使用的刚性钢压缩表面相反,本方法使用柔软硅胶探头来压缩具有柔软内含物的组织。移动平台CIS的硅胶探头元件的变形的尺寸和形状给出了关于具有内含物的组织的信息。但是,压缩表面刚度的差异会影响这两种方法的输出。在使用刚性探头的常规拉伸实验中,样品会变形,并且刚性样品/内含物的变形小于柔软内含物的变形。在当前的测量方法中,所测量的是柔软探头的变形,并且对于较硬的样品,探头的变形较大,而对于较软的样品,探头的变形较小。获得的柔软度指数SCISS是弹性模量的倒数。
弹性描述了移除施加的应力后组织恢复其形状的能力。人类皮肤和软组织对压缩的响应、以及肿瘤的响应是弹性组织恢复的示例。而且,生物组织是非线性和粘弹性材料。我们使用很小范围的压痕(最多达到深度的20%)。在所有移动平台CIS实验中,我们假定了被测试材料的线性弹性行为。我们使用了柔软的硅胶探头压痕的改变来捕获压缩引起的组织的变形。然后,我们估计肿瘤区域的柔软度指数,这是相对拉伸特性的量度。
具有组织体模的移动平台CIS柔软度指数计算被设计为取代使用压缩的常规弹性模量测量技术。
在移动平台CIS应用中,每个CISS图像k的应力σz(k)被计算如下:
Figure BDA0002428010320000231
F(k)是在z方向上所施加的力,Fref是在参考点处取得的力值。参考力对应于实验期间的第一非空触觉图像。AC是移动平台CIS接触面积(例如1134mm2),该接触面积包括固体框架和弹性硅胶探头区域。在该示例中,假定包括框架的探头的全部正面被平坦地压在包含样品100的介质的平坦表面上。如果着陆表面不平坦,AC可以相应地调整。
移动平台CIS的垂直变形率dz(k)表示为
Figure BDA0002428010320000232
I(k)代表第k个压缩图像上的强度的总和,而Iref是对应于参考力Fref的图像上的强度的总和。当相对较大的CIS图像(至少占据屏幕的25%)出现在屏幕上时,选择参考图像和力。例如,在人类患者的乳腺癌的情况下,这可能在3N到15N之间。由于探头在z方向上的变形与触觉图像强度改变成正比这一事实,因此我们使用像素强度值的总和或最大强度值来估计探头的压痕。
柔软度指数SCISS是具有内含物的组织的刚度的量度。它计算为针对肿瘤区域计算的移动平台CIS应力-变形曲线的斜率:
Figure BDA0002428010320000241
由于移动平台CIS硬件设计,弹性硅胶探头在与坚硬内含物接触时变形的速度比与柔软内含物接触时更快。这导致柔软度指数与成像的内含物的真实弹性模量(杨氏模量)成反比。SCISS值越大表示肿瘤越软,SCISS越小表示肿瘤越硬。
使用深度学习(Deep Brief Net(深层简洁网络))的绝对弹性估计方法
在这里,我们提出一种获得目标的绝对弹性的方法。在此,实施例是用于人类肿瘤的应用,但是其它应用也是可能的。为了计算肿瘤的绝对杨氏模量(弹性),我们利用深度学习。我们将对目标的机械特性(诸如由于弹性而引起的变形的尺寸)建模。方法分为正向方法和逆向方法。见图15和16。正向方法提供皮肤的应力图。逆向方法使用深度学习来提供目标的弹性,如图16所示。
建模和正向方法。正向算法的目的是找到组织内含物参数和CIS数据之间的关系。三维分析导致了一种预测人类肿瘤特征的新颖方法;它可以直接与卫生保健提供者的触诊合并。有限元方法(FEM)用于证明诸如肿瘤的形状、尺寸和弹性之类的特性。输入参数为:
组织负载(组织表面的压缩),l
压痕直径,d
皮肤的刚度,Er
目的是研究与在组织上施加负载相关联的生物组织中的皮肤的影响。我们使用了工程仿真软件包ANSYS(宾夕法尼亚州)。可以使用其它建模软件。有限元模型(FEM)包括感测探头、软组织(例如,代表人的乳房组织)和较硬的内含物(例如,代表肿瘤)。我们将乳房和肿瘤建模为弹性各向同性元件。从动态探头图像获得应力分布。从这些模型中,我们获得最大变形、总变形和变形面积。设备紧靠具有肿瘤的乳房组织进行压缩。捕获感测探头的变形。我们通过模拟将肿瘤的尺寸、深度和弹性与最大变形、总变形和变形面积相关。
使用逆向方法的绝对杨氏模量确定。虽然正向方法的结果可以显示肿瘤的存在,但是它们没有提供关于肿瘤特征的详细信息。解决逆向问题的一种技术是对正向结果进行深度学习。第一部分是使用FEM进行触觉映射的数据获取和构建。在第二部分中,我们需要逆向模型,该模型以CIS映射为输入,并产生已成像的肿瘤和组织的尺寸和弹性作为输出。逆向算法根据从CIS获得的最大变形、总变形和变形面积估计肿瘤的弹性模量、深度和尺寸。对于该逆向建模,我们使用称为“Deep Brief Net”(DBN)的深度神经网络方法。该DBN方法提高了逆向算法的准确性(LeCun等人,2015年)。常规人工神经网络(ANN)存在过度拟合问题,这导致泛化性能较差。可以通过无监督的方式对DBN进行预训练以避免过度拟合,并且在其深层结构中具有潜在变量空间的DBN可以表示复杂的非线性函数,否则不能高效地由具有浅层结构(即,仅一个或两个隐藏的层)的ANN来表示。我们使用DBN来提高逆向算法的准确性。通过这种方式,我们建议获得目标的绝对杨氏模量。
风险指数确定方法
在我们的实施例中,我们描述了可以使用移动平台CIS获得的肿瘤风险指数。我们利用量化的尺寸和柔软度指数信息来获得肿瘤风险指数。其它机械特性,诸如流动性和柔软度,可以合并到该风险指数中。在这里,我们描述了确定风险指数的方法的两个不同的实施例。
简单的加权方法。作为第一实施例,我们计算尺寸和柔软度之间具有相等加权的风险指数。我们首先将1到5之间的尺寸归一化,其中5是最大尺寸,诸如2cm,而1是最小尺寸,诸如2mm。我们还将柔软度归一化为1到5,其中5为硬,而1为软。柔软度的范围可以从0到250×10-9/Pa,分为5个等级。然后,我们将尺寸和柔软度乘以0.5并将其相加在一起。因此,我们对尺寸信息和柔软度信息进行平均地加权,并且风险指数为1到5之间的数字。肿瘤的尺寸越大,那么其越可能是恶性的。肿瘤越软,它越可能是良性的。
使用卷积神经网络方法的数据分类。另一个实施例是利用诸如神经网络之类的机器学习方法来对目标进行分类。将从移动平台CIS获得诸如肿瘤的尺寸、活动性和弹性的CIS签名。一旦获得了CIS数据,就必须将数据融合以开发肿瘤表征模型。我们首先用恶性肿瘤信息创建尺寸、深度、活动性和弹性的数据库。然后,我们使用卷积神经网络(CNN)对肿瘤进行分类。
即使可获得CIS数据,将肿瘤表征为恶性或良性也不简单。计算机必须融合信息,并向患者提供病变为恶性的可能性。
参考图17,我们使用卷积神经网络(CNN)方法(Ji等人,2013年)来利用尺寸、弹性和深度信息对病变进行分类。我们将使用CNN进行肿瘤分类。卷积神经网络(CNN)与神经网络相似,但被设计为接受图像作为输入。我们呈现CNN体系架构;卷积层、池化层和完整连接层。卷积层由以下等式表示:
Figure BDA0002428010320000261
其中,
Figure BDA0002428010320000262
是第i层中第j个特征映射的位置x处的神经元的值。每个池化层对应于先前的卷积层。我们使用最大池化,
Figure BDA0002428010320000263
其中u(n,1)是卷积层的补丁的窗口函数,而aj是邻域中的最大值。这些层被堆叠以形成完整的CNN体系架构。每层接受3D体积作为输入,并通过可微分函数将其变换成输出3D体积。对于乳房肿瘤的应用,我们获得CIS图像并将这些图像沿着空间和时间维度进行分类。然后,我们开发CNN来将良性和恶性肿瘤分类为输出。
在将输出与肿瘤病理学结果相关之后,我们计算肿瘤为恶性的可能性。数据库完成后,将该肿瘤为恶性的可能性计算为风险指数。
移动平台压缩诱导成像系统(CIS)仅利用智能电话的相机、通信和有限的数据处理功能。已经在书写时使用智能电话电流描述了特定实施例。但是,只要智能电话中存在相机并且具有通信功能(蓝牙、Wi-Fi或一些尚待开发的后续者),CIS系统就可以工作。对于新的智能电话,可能需要更新应用和附件的硬件框架,因为相机的物理位置可能会发生改变。但是,CIS的原理并不取决于智能电话的特定功能或设计。应用软件将取决于智能电话的类型和应用创建软件的版本而改变。例如,上述实施例使用Xcode 8和Swift 3.0.2。同样,用于触觉图像和所施加的力数据的同步的确切过程可能取决于特定的智能电话硬件和操作系统。但是,不时地更新本教导以与当时的智能电话技术保持一致将在本领域普通技术人员的能力之内。
光源对准方法、损坏检测、绝对弹性计算方法和数据分类方法都与智能电话技术改变无关。
将可以在前端附件24中提供相机,而不是使用智能电话22的相机32。这样做的优点是,不必在智能电话设计者每次移动相机时都需要调整或重新设计托架,但是它的缺点是必须提供单独的相机(由于现有设备的制造商无法享受大型智能电话制造商的巨大销售量和相应的规模经济,因此需要支付大量额外费用)。
本文引用的所有参考文献,包括出版物、专利申请和专利,均以引用的方式并入本文,其程度如同每个参考文献均被单独地且具体地指示为通过引用并入本文并在此全文阐述一样。
在描述本发明的上下文中(特别是在所附权利要求的上下文中)术语“一”、“一个”和“该”以及类似指代的使用应被解释为涵盖单数和复数两者,除非本文另有说明或与上下文明显矛盾。除非另有说明,否则术语“包括”、“具有”、“包含”和“有”应被解释为开放式术语(即,意思是“包括,但不限于”)。术语“连接”应被解释为部分或全部包含在内、附接到或连接在一起,即使存在插入的东西。
除非在此另外指出,否则本文中数值范围的列举仅旨在用作个别指代落入该范围内的每个单独值的简写方法,并且每个单独值都被并入说明书中,如同其在本文中被个别列举一样。
除非本文另外指出或与上下文明显矛盾,否则本文描述的所有方法可以以任何合适的顺序执行。除非另外要求,否则本文提供的任何和所有示例或示例性语言(例如,“诸如”)的使用仅旨在更好地阐明本发明的实施例,并且不对本发明的范围施加限制。各种实施例和元件可以根据需要以任何合适的方式互换或组合。因此,在说明书和从属权利要求中描述的任何特征应被理解为可以用于其它实施例和其它权利要求并可与之组合。
说明书中的任何语言都不应解释为指示任何未要求保护的元件对于实施本发明是必不可少的。
对于本领域技术人员将清楚的是,在不脱离本发明的精神和范围的情况下,可以对本发明进行各种修改和变形。无意将本发明限制为所公开的一种或多种特定形式,而是相反,其意图是涵盖落入如所附权利要求书所限定的本发明的精神和范围内的所有修改、替代构造和等同物。因此,本发明旨在覆盖本发明的修改和变形,只要它们落入所附权利要求书及其等同物的范围内。
引用文献
以下现有出版物(其中一些已在上面讨论)通过引用并入本文,如同在此明确阐述一样。
Dargahi,J.和Najarian,S.,“Human tactile perception as a standard forartificial tactile sensing–a review”,International journal of medicalrobotics and computer assisted surgery,第1卷,第1期,第23-35页,2004年。
Itoh A,Ueno E,Tohno E,Kamma H,Takahashi H,Shiina T等,Breast disease:Clinical application of US elastography for diagnosis.Radiology。2006年;第239期:第341-50页。[PubMed:16484352]
Ji S.,Yang M.和Yu K.,“3D Convolutional Neural Networks for HumanAction Recognition”,PAMI,第35卷,第1期,第221–31页,2013年。
Krouskop,T.,Wheeler T.,Kallel F.,Garra B.,(1998年)“Elastic Moduli ofBreast and Prostate Tissues Under Compression”,Ultrasonic Imaging,第20期,第260-274页。
LeCun Y.,Bengio Y.和Hinton G.,“Deep Learning”,Nature,第521卷,第7553期,第436–444页,2015年。
Regini,E.,Bagnera S.,Tota D.,Capanino P.,Luparia A.,Barisone F.,Durando M.,Mariscotti G.,Gandini G.,(2010年)“Role of sonoelastography incharacterizing breast nodules.Preliminary experience with 120lesions”,Radiol.Med.(La Radiologia.Medica.)Springer。2010年2月22日。
Rivaz,H.,Boctor,E,Foroughi,P,Zellars,R,Fichtinger,G,Hager G,(2008年)“Ultrasound elastography:a dynamic programming approach”,IEEE Trans MedImaging,第27卷,第10期,第1373-1377页。

Claims (35)

1.一种使用目标区域的压缩来生成物体的图像的移动平台成像设备,包括:
触觉传感器,所述触觉传感器包括至少包含挠性且透明的第一层的光波导,所述触觉传感器还包括被配置为将光引导到所述光波导中的至少一个光源,其中,所述光波导被配置为使得当所述第一层变形时,引导到所述光波导中的光中的至少一些被散射出所述第一层,并且其中,所述第一层通过所述触觉传感器被压在所述物体上而变形;
支撑结构,所述支撑结构用于当力被施加到所述光波导时将所述光波导维持在适当位置;
力传感器,所述力传感器检测被施加为将所述触觉传感器压在所述物体上的力,并输出相应的力信息;
第一通信单元,所述第一通信单元被连接为从所述力传感器接收力信息;以及
接受器,所述接受器用于保持具有第二通信单元和成像器的移动设备,被定位为使得所述成像器能够使用从所述第一层散射出的光中的至少一些来生成图像信息;其中,所述第一通信单元能够与所述第二通信单元通信,并且所述移动设备能够与外部网络通信。
2.如权利要求1所述的移动平台成像设备,所述移动平台成像设备与所述移动设备组合,其中,所述移动设备是移动电话。
3.如权利要求2所述的移动平台成像设备,其中,所述移动电话被编程为根据从所述第一层散射出的光中的至少一些来生成图像信息,接收力信息,将图像信息与力信息同步,并将相关联的信息传输到外部设备。
4.如权利要求3所述的移动平台成像设备,其中,所述相关联的信息还包括选自当前日期、当前时间、所述移动设备的当前用户的用户ID以及所述物体的目标ID的信息。
5.如权利要求1所述的移动平台成像设备,其中,所述图像信息选自包括单个图像、多个图像和视频图像的组。
6.如权利要求1所述的移动平台成像设备,其中,所述移动设备被编程为与外部设备交换多个消息,从所述多个消息的内容生成散列,并且使用从所述散列确定的加密密钥对同步的信息进行加密。
7.如权利要求1所述的移动平台成像设备,其中,所述接受器被配置作为框架,所述框架限定用于选择性可移除地接收所述移动设备的托架,使得所述移动设备的成像单元被定位为与所述光波导相对并沿着与所述光波导的视线。
8.如权利要求7所述的移动平台成像设备,其中,所述框架包括具有切口的保持器,所述切口用于在其中安装所述光波导。
9.如权利要求8所述的移动平台成像设备,其中,至少一个孔围绕所述保持器间隔地形成以用于安装所述至少一个光源,从而提供所述光波导的选择性侧面照明。
10.如权利要求8所述的移动平台成像设备,其中,在所述切口内基本居中地形成开口,以在所述成像单元和所述光波导之间提供视线。
11.如权利要求7所述的移动平台成像设备,其中,所述托架包括用于与所述移动设备接合的凸起的侧面。
12.如权利要求1所述的移动平台成像设备,其中,所述力传感器在所述触觉传感器和用于保持所述移动设备的所述接受器之间。
13.如权利要求1所述的移动平台成像设备,还包括手柄,其中,所述力传感器在所述手柄和用于保持所述移动设备的所述接受器之间。
14.如权利要求13所述的移动平台成像设备,其中,所述手柄由所述接受器的框架限定。
15.如权利要求13所述的移动平台成像设备,其中,所述手柄由可操作地安装在框架上的壳体限定。
16.如权利要求15所述的移动平台成像设备,还包括电机,所述电机可操作地安装在所述壳体上,用于控制由所述力传感器感测到的力通过所述接受器到所述触觉传感器的施加。
17.如权利要求1所述的移动平台成像设备,还包括电机,所述电机可操作地安装在所述接受器上,用于控制由所述力传感器感测到的力通过所述接受器到所述触觉传感器的施加。
18.如权利要求1所述的移动平台成像设备,还包括用于为所述至少一个光源供电的恒定电流驱动器电路系统。
19.如权利要求1所述的移动平台成像设备,其中,所述光波导的第一层具有适于接触所述目标区域的接触表面,并且其中,所述支撑结构包括靠着与所述接触表面间隔开的所述光波导的表面安装的刚性框架。
20.如权利要求1所述的移动平台成像设备,其中,所述支撑结构由所述波导的形状提供。
21.如权利要求1所述的移动平台成像设备,其中,所述光波导的至少第一层是弯曲的。
22.如权利要求21所述的移动平台成像设备,其中,所述光波导的至少第一层是半球形的。
23.如权利要求21所述的移动平台成像设备,其中,所述光波导的至少第一层是半圆柱形的。
24.如权利要求1所述的移动平台成像设备,其中,所述光波导的至少第一层是矩形的。
25.如权利要求1所述的移动平台成像设备,其中,所述光波导的至少第一层是弹性体。
26.如权利要求24所述的移动平台成像设备,其中,所述弹性体是聚二甲基硅氧烷(PDMS)。
27.一种使用如权利要求1所述的移动平台成像设备确定物体的表面或亚表面尺寸的方法,包括:
在多个施加的力下获得图像信息和相应的力信息;以及
使用3D插值估计所述物体的尺寸。
28.如权利要求26所述的方法,其中,获得步骤包括:
获得改变力的时间段内的一系列图像;以及
选择来自所述时间段中的一部分中的图像,在所述时间段中的所述一部分内,与在所述时间段中的其它部分期间相比,力随时间变化得更平滑和/或更线性。
29.一种用于对准如权利要求1所述的移动平台成像设备的光源的方法,包括:
用预选的力将触觉传感器施加到已知物体;
处理图像信息以识别散射光的非对称性;以及
调节所述至少一个光源以减小所述非对称性。
30.一种用于检测如权利要求1所述的移动平台成像设备的光波导的切割或损坏的方法,包括:
用预选的力将触觉传感器施加到已知物体;
处理图像信息以识别散射光的非对称性;以及
当所述非对称性超过阈值时,指示所述光波导的切割或损坏。
31.一种确定如权利要求1所述的移动平台成像设备的目标区域中的物体的柔软度的方法,包括:
根据图像信息确定接触面积;
根据触觉传感器的接触面积和力信息确定应力;
根据图像信息和所确定的应力确定所述光波导的应变;以及
根据所述光波导的应变、所述接触面积和所述应力确定内含物的应变。
32.如权利要求30所述的方法,其中,确定所述光波导的应变的步骤使用散射光的像素的强度的总和、与散射光的最大强度像素的强度中的至少一个。
33.一种使用CIS信息确定目标区域中的物体的绝对弹性的方法,包括:
使用有限元方法的正向建模方法;
之后是使用深层简洁网络的逆向建模方法。
34.一种获得物体的肿瘤风险指数的方法,包括以下中的至少一项:
将所述肿瘤风险指数计算为所述物体的尺寸和刚度的加权总和;以及
使用卷积神经网络确定所述风险指数的机器学习方法。
35.一种通信方法,包括:由第一设备与第二设备交换多个消息,从所述多个消息的内容生成散列,以及以下中的至少一项:
使用从所述散列确定的加密密钥对信息进行加密,并将加密后的信息发送给所述第二设备;以及
从所述第二设备接收信息,并尝试使用从所述散列确定的加密密钥来解密该信息。
CN201880062966.4A 2017-07-28 2018-07-26 用于亚表面和表面物体表征的移动平台压缩诱导成像 Pending CN111148977A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201762538032P 2017-07-28 2017-07-28
US62/538,032 2017-07-28
PCT/US2018/043910 WO2019023462A1 (en) 2017-07-28 2018-07-26 MOBILE PLATFORM INDUCED INDUCTION IMAGING FOR CHARACTERIZING SUBSURFACE AND SURFACE OBJECT

Publications (1)

Publication Number Publication Date
CN111148977A true CN111148977A (zh) 2020-05-12

Family

ID=65041333

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201880062966.4A Pending CN111148977A (zh) 2017-07-28 2018-07-26 用于亚表面和表面物体表征的移动平台压缩诱导成像

Country Status (9)

Country Link
US (2) US11457815B2 (zh)
EP (1) EP3658874A4 (zh)
JP (1) JP2020528795A (zh)
KR (1) KR102581649B1 (zh)
CN (1) CN111148977A (zh)
AU (1) AU2018306438B2 (zh)
CA (1) CA3107765C (zh)
IL (1) IL272250B (zh)
WO (1) WO2019023462A1 (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112066912A (zh) * 2020-11-16 2020-12-11 中国空气动力研究与发展中心低速空气动力研究所 模型三维表面轮廓和表面压力同步测量方法及测量装置
CN113520617A (zh) * 2021-07-21 2021-10-22 天津大学 一种无源式三维力传感测头及光学式力传感器

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021061131A (ja) * 2019-10-04 2021-04-15 株式会社エンプラス 照明装置および観察装置
WO2022094476A1 (en) * 2020-11-02 2022-05-05 Sure, Inc. Method and local and regional cloud infrastructure system for pressure elastography measurement devices
WO2022115382A1 (en) * 2020-11-24 2022-06-02 The Regents Of The University Of California Deep learning techniques for elasticity imaging
WO2022120235A1 (en) * 2020-12-03 2022-06-09 Edda Technology, Inc. Spectro-mechanical imaging for characterizing embedded lesions
JP2024502338A (ja) * 2021-01-11 2024-01-18 ザ プロクター アンド ギャンブル カンパニー 三次元(3d)画像モデルを生成するための皮膚科学的撮像システム及び方法
WO2023101859A1 (en) * 2021-11-30 2023-06-08 The Board Of Trustees Of The Leland Stanford Junior University Optical tactile sensor
CN115078130B (zh) * 2022-08-23 2022-11-11 江苏华恬节能科技有限公司 一种塑料制品抗剪切强度测试装置

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6264610B1 (en) 1999-05-05 2001-07-24 The University Of Connecticut Combined ultrasound and near infrared diffused light imaging system
US7497133B2 (en) 2004-05-24 2009-03-03 Drexel University All electric piezoelectric finger sensor (PEFS) for soft material stiffness measurement
US9659423B2 (en) * 2008-12-15 2017-05-23 Proteus Digital Health, Inc. Personal authentication apparatus system and method
US9652696B2 (en) * 2010-07-09 2017-05-16 Temple University-Of The Commonwealth System Of Higher Education Apparatus and method for surface and subsurface tactile sensation imaging
KR101687971B1 (ko) 2010-07-19 2016-12-21 삼성전자주식회사 유방 촬영 장치 및 그 방법
KR101678664B1 (ko) 2010-09-07 2016-11-23 삼성전자주식회사 유방 촬영 장치 및 방법
JP2012170744A (ja) * 2011-02-23 2012-09-10 Southern Taiwan Univ Of Technology 非侵襲性人体新陳代謝状態測定装置及び方法
US9585578B2 (en) * 2011-12-02 2017-03-07 Third Eye Diagnostics, Inc. Devices and methods for noninvasive measurement of intracranial pressure
JP6132466B2 (ja) * 2012-02-07 2017-05-24 キヤノン株式会社 被検体情報取得装置及び被検体情報取得方法
US20150370320A1 (en) 2014-06-20 2015-12-24 Medibotics Llc Smart Clothing with Human-to-Computer Textile Interface
US20150320385A1 (en) * 2013-01-17 2015-11-12 Eclipse Breast Health Technologies, Inc. Systems and methods for noninvasive health monitoring
KR101504102B1 (ko) 2013-04-23 2015-03-19 계명대학교 산학협력단 유방의 탄성도 분포 정보 및 엑스선 영상의 획득을 위한 유방촬영용 영상진단기기
KR101490126B1 (ko) 2013-06-18 2015-02-05 계명대학교 산학협력단 광학기반의 초고화질 촉감 영상 획득 장치 및 방법
KR101492803B1 (ko) 2013-09-17 2015-02-12 계명대학교 산학협력단 촉각 영상 및 근적외선 영상의 정합을 이용한 유방촬영용 영상진단기기 및 유방조직 영상획득방법
JP6173159B2 (ja) * 2013-10-04 2017-08-02 キヤノン株式会社 光音響装置
KR101546403B1 (ko) 2013-11-14 2015-08-27 계명대학교 산학협력단 유방 초음파 영상 및 탄성도 영상 획득 및 분석 방법 및 장치
WO2015195649A1 (en) * 2014-06-16 2015-12-23 Carnegie Mellon University Device and method for palpation of tissues for characterization and mechanical differentiation of subcutaneous structures
KR101628990B1 (ko) 2015-01-14 2016-06-09 계명대학교 산학협력단 모바일 유방암 촉진 기기, 시스템 및 방법
KR101632583B1 (ko) 2015-07-01 2016-06-22 계명대학교 산학협력단 전류인가 방식에 의해 사용자의 체온을 일정하게 유지시켜 주는 웨어러블 체온 조절 장치 및 이를 이용한 체온 조절 방법
US20170025775A1 (en) 2015-07-22 2017-01-26 Amphenol East Asia Electronic Technology (Shenzhen)co., Ltd. Connector adopting pcb and pcb edge plating
WO2017025775A1 (en) * 2015-08-11 2017-02-16 Latvijas Universitate Device for adaptive photoplethysmography imaging
US10321826B2 (en) 2015-09-10 2019-06-18 Temple University—Of the Commonwealth System of Higher Education Optical dynamic imaging system
KR101626358B1 (ko) 2015-11-26 2016-06-01 주식회사 마이크로메디 카메라를 구비하는 포터블 기기에 탈부착이 가능한 유방암 자가 진단 장치
WO2017090803A1 (ko) 2015-11-26 2017-06-01 주식회사 마이크로메디 포터블 기기에 탈부착이 가능한 유방암 자가 진단 장치
US20170173262A1 (en) 2017-03-01 2017-06-22 François Paul VELTZ Medical systems, devices and methods
KR101964260B1 (ko) 2017-05-15 2019-04-01 계명대학교 산학협력단 패치형 유방암 검진 장치 및 이를 이용하는 방법
KR102018171B1 (ko) 2017-10-16 2019-09-04 헨리기술 주식회사 타액을 이용한 유방암 감지 키트 및 이를 이용한 유방암 감지 방법
US20200333342A1 (en) 2017-10-16 2020-10-22 Henry Technology Co., Ltd. Breast cancer detection kit using saliva and breast cancer detection method using same, and fertile window detection kit using saliva and fertile window detection method using same
KR102080853B1 (ko) 2017-10-30 2020-02-24 주식회사 마이크로메디 유방암 자가 진단기 탈부착 장치

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112066912A (zh) * 2020-11-16 2020-12-11 中国空气动力研究与发展中心低速空气动力研究所 模型三维表面轮廓和表面压力同步测量方法及测量装置
CN113520617A (zh) * 2021-07-21 2021-10-22 天津大学 一种无源式三维力传感测头及光学式力传感器
CN113520617B (zh) * 2021-07-21 2023-10-20 天津大学 一种无源式三维力传感测头及光学式力传感器

Also Published As

Publication number Publication date
KR20200037335A (ko) 2020-04-08
US11940650B2 (en) 2024-03-26
JP2020528795A (ja) 2020-10-01
AU2018306438B2 (en) 2023-09-28
CA3107765C (en) 2022-04-26
CA3107765A1 (en) 2019-01-31
KR102581649B1 (ko) 2023-09-25
US20230037458A1 (en) 2023-02-09
US11457815B2 (en) 2022-10-04
US20200205665A1 (en) 2020-07-02
WO2019023462A1 (en) 2019-01-31
IL272250B (en) 2021-01-31
AU2018306438A1 (en) 2020-03-12
EP3658874A1 (en) 2020-06-03
IL272250A (en) 2020-03-31
EP3658874A4 (en) 2021-06-23

Similar Documents

Publication Publication Date Title
US11940650B2 (en) Mobile-platform compression-induced imaging for subsurface and surface object characterization
US10311343B2 (en) Apparatus and method for surface and subsurface tactile sensation imaging
Wellman Tactile imaging
CN109286748B (zh) 移动系统以及眼睛成像的方法
US10492691B2 (en) Systems and methods for tissue stiffness measurements
US11740475B2 (en) Head-mounted display with facial interface for sensing physiological conditions
EP2192526A3 (en) Biometric authentication device, biometric authentication method, and recording medium
CN110236486A (zh) 用于皮肤参数测量的设备、系统和方法
EP3655314B1 (en) A method of performing an eye examination test
US11553873B2 (en) Device and method for measuring skin elasticity
KR102460802B1 (ko) 센싱 장치, 센싱데이터의 처리 방법 및 프로그램
KR20200131974A (ko) 맞춤형 실시간 운동 처방 서비스 제공 시스템
KR102193429B1 (ko) 스마트 펜라이트 및 이를 이용한 동공 반사 분석 시스템
KR102123598B1 (ko) 피부 진단 장치, 시스템 및 그 방법
JP2020178903A (ja) 皮膚内傷害検査装置、皮膚内傷害検査システム
US20210345951A1 (en) Neuropathy Screening and Severity Instrument and System
WO2021186990A1 (ja) プログラム、情報処理装置及び端末装置
Choi Interchangeable Smartphone Tactile Imaging Probe System and Applications
Lee Tactile sensation imaging system and algorithms for tumor detection

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 40030223

Country of ref document: HK