KR102655333B1 - Method and apparatus for multi-variable quantitative imaging using ultrasound data - Google Patents

Method and apparatus for multi-variable quantitative imaging using ultrasound data Download PDF

Info

Publication number
KR102655333B1
KR102655333B1 KR1020210135583A KR20210135583A KR102655333B1 KR 102655333 B1 KR102655333 B1 KR 102655333B1 KR 1020210135583 A KR1020210135583 A KR 1020210135583A KR 20210135583 A KR20210135583 A KR 20210135583A KR 102655333 B1 KR102655333 B1 KR 102655333B1
Authority
KR
South Korea
Prior art keywords
target variable
ultrasound data
variables
features
tissue
Prior art date
Application number
KR1020210135583A
Other languages
Korean (ko)
Other versions
KR20220107912A (en
Inventor
배현민
오석환
김명기
Original Assignee
한국과학기술원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국과학기술원 filed Critical 한국과학기술원
Publication of KR20220107912A publication Critical patent/KR20220107912A/en
Application granted granted Critical
Publication of KR102655333B1 publication Critical patent/KR102655333B1/en

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5207Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of raw data to produce diagnostic data, e.g. for generating an image
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08Detecting organic movements or changes, e.g. tumours, cysts, swellings
    • A61B8/0825Detecting organic movements or changes, e.g. tumours, cysts, swellings for diagnosis of the breast, e.g. mammography
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08Detecting organic movements or changes, e.g. tumours, cysts, swellings
    • A61B8/0833Detecting organic movements or changes, e.g. tumours, cysts, swellings involving detecting or locating foreign bodies or organic structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/48Diagnostic techniques
    • A61B8/485Diagnostic techniques involving measuring strain or elastic properties
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Radiology & Medical Imaging (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biophysics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Pathology (AREA)
  • Veterinary Medicine (AREA)
  • Biomedical Technology (AREA)
  • Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)

Abstract

적어도 하나의 프로세서에 의해 동작하는 이미징 장치의 동작 방법으로서, 조직에서 수득된 초음파 데이터를 입력받는 단계, 그리고 상기 초음파 데이터로부터, 다수의 변수들 중에서 선택된 목적 변수에 해당하는 특징을 추출하고, 상기 특징을 복원하여 상기 목적 변수의 정량적 이미지를 출력하는 단계를 포함한다.A method of operating an imaging device operated by at least one processor, comprising the steps of receiving ultrasound data obtained from a tissue, extracting a feature corresponding to a target variable selected from a plurality of variables from the ultrasound data, and extracting the feature from the ultrasound data. It includes the step of restoring and outputting a quantitative image of the target variable.

Description

초음파 데이터를 이용한 다변수 정량적 이미징 방법 및 장치{METHOD AND APPARATUS FOR MULTI-VARIABLE QUANTITATIVE IMAGING USING ULTRASOUND DATA}Multivariate quantitative imaging method and device using ultrasound data {METHOD AND APPARATUS FOR MULTI-VARIABLE QUANTITATIVE IMAGING USING ULTRASOUND DATA}

본 발명은 초음파 이미징에 관한 것이다.The present invention relates to ultrasound imaging.

암은 조기 발견이 어려워 주기적인 진단이 필요하고, 병변의 크기 및 특성을 지속적으로 모니터링해야 한다. 이를 위한 대표적인 영상 장비로는 엑스레이(X-ray), MRI(magnetic resonance imaging), CT(computed tomography), 초음파(ultrasound) 등이 있다. 엑스레이, MRI, CT는 방사능 노출 위험이 있고, 측정 시간이 길며 비용이 비싼 단점이 있는 반면, 초음파 영상 장비는 안전하고 비교적 저렴하며, 실시간 영상을 제공해서 사용자가 병변을 실시간으로 모니터링하면서 원하는 이미지를 얻을 수 있다. Cancer is difficult to detect early, requiring periodic diagnosis, and the size and characteristics of lesions must be continuously monitored. Representative imaging equipment for this include X-ray, magnetic resonance imaging (MRI), computed tomography (CT), and ultrasound. While X-rays, MRI, and CT have the disadvantages of risk of radiation exposure, long measurement time, and high cost, ultrasound imaging equipment is safe, relatively inexpensive, and provides real-time images, allowing users to monitor the lesion in real time and obtain the desired image. You can get it.

현재 가장 많이 상용화되어 있는 초음파 영상 장비로서, B-모드(Brightness mode) 이미징 시스템이 있다. B-모드 이미징 방법은 초음파가 물체 표면에서 반사되어 돌아오는 시간과 세기를 통해 물체 위치와 크기를 파악하는 방법이다. 이는 실시간으로 병변의 위치를 찾아 주기 때문에, 사용자가 병변을 실시간으로 모니터링하면서 원하는 영상을 효율적으로 얻을 수 있고, 안전하고 비교적 저렴하여 접근성이 좋다. 하지만 사용자의 숙련도에 따라 이미지의 질이 일정하게 유지되지 못하고, 정량적인 특성을 이미징하지 못한다는 단점이 있다. 즉, B-모드 기법은 조직의 형태학적인 정보만을 제공하기 때문에, 조직학적 특성으로 구분되는 양성종양과 악성종양을 구분하는 감별진단에서 민감도(sensitivity)와 특이도(specificity)가 낮을 수 있다.Currently, the most commercialized ultrasound imaging equipment is the B-mode (Brightness mode) imaging system. The B-mode imaging method is a method of determining the location and size of an object through the time and intensity at which ultrasonic waves are reflected from the surface of the object and returned. Because it locates the lesion in real time, the user can efficiently obtain the desired image while monitoring the lesion in real time, and it is safe and relatively inexpensive, making it highly accessible. However, it has the disadvantage of not maintaining consistent image quality depending on the user's skill level and not being able to image quantitative characteristics. In other words, because the B-mode technique provides only morphological information of the tissue, sensitivity and specificity may be low in differential diagnosis for distinguishing between benign and malignant tumors based on histological characteristics.

조직의 병리학적 변화는 세포의 구조적인 변화를 초래하며, 이에 따라 해당 조직에서 초음파 특성이 변하는 것을 이미징하는 것으로서, 대표적으로 탄성영상 기법(Elastography)과 초음파 단층촬영 기법(Ultrasound Computed Tomography, USCT)이 있다. 탄성영상 기법은 조직의 탄성도 및 강직도를 정량적으로 영상화할 수 있으나 전용 장치가 추가적으로 필요하고 많은 에너지를 소모한다. 따라서, 탄성영상 기법은 고가 초음파 장비에서만 적용이 가능하고, 프레임 속도(frame rate)가 낮아 동적으로 움직이는 조직을 영상화하는데 적합하지 않다. 초음파 단층촬영 기법은 고해상도의 정량적 이미지를 얻을 수 있지만 초음파 센서가 물체 주위를 둘러싸고 있어야 해서, 유방 촬영에 국한되고, 다양한 기관을 측정하는데 한계가 있다. 또한, 초음파 단층촬영 기법은 이미징까지 분 단위의 시간이 소요되어 실시간 움직임을 보지 못하고, 시스템의 크기가 매우 커서 이동이 불가능하다.Pathological changes in tissue cause structural changes in cells, and this involves imaging changes in ultrasound properties in the tissue. Representative examples include elastography and ultrasound computed tomography (USCT). there is. Elastography techniques can quantitatively image tissue elasticity and stiffness, but require additional dedicated devices and consume a lot of energy. Therefore, elastography techniques can only be applied to expensive ultrasound equipment and have a low frame rate, making them unsuitable for imaging dynamically moving tissues. Ultrasound tomography can obtain high-resolution quantitative images, but the ultrasound sensor must surround the object, so it is limited to mammography and has limitations in measuring various organs. In addition, the ultrasound tomography technique takes minutes for imaging, so real-time movement cannot be seen, and the size of the system is so large that it is impossible to move.

본 개시는, 서로 다른 빔패턴들로 빔포밍된 초음파 신호들을 조직에 입사하고, 조직에서 반사되어 돌아온 다패턴 초음파 데이터를 이용하여, 조직의 다양한 변수들에 대한 정량적 특징을 이미징하는 방법 및 장치를 제공하는 것이다.The present disclosure provides a method and device for imaging quantitative characteristics of various variables of a tissue by entering ultrasound signals beamformed with different beam patterns into the tissue and using multi-pattern ultrasound data reflected from the tissue. It is provided.

본 개시는, 단일 초음파 프로브를 통해 조직에서 획득한 다패턴 초음파 데이터를 이용하여, 감쇠 계수(Attenuation Coefficient, AC), 음속도(Speed of Sound, SoS), 산란체 밀도(Effective Scatterer Concentration, ESC), 산란체 크기(Effective Scatterer Diameter, ESD)를 포함하는 변수들의 정량적 특징을 복합적으로 복원하는 신경망(neural network)을 제공하는 것이다.The present disclosure uses multi-pattern ultrasound data acquired from tissue through a single ultrasound probe to measure attenuation coefficient (AC), speed of sound (SoS), and effective scatterer concentration (ESC). , provides a neural network that complexly restores quantitative characteristics of variables including effective scatterer diameter (ESD).

본 개시는, 복원하고자 하는 각 변수의 정량적 특징을 초음파 데이터로부터 목적 변수를 최적으로 추출하도록, 네트워크 파라미터를 변경하여 초음파 데이터를 가변적으로 인코딩하는 조건부 인코더(conditional encoder)를 이용하여, 조직의 다양한 정량적 변수들에 대한 이미지 복원 성능을 높이는 방법 및 장치를 제공하는 것이다.The present disclosure uses a conditional encoder that variably encodes ultrasound data by changing network parameters to optimally extract the target variable from ultrasound data to determine the quantitative characteristics of each variable to be restored. The aim is to provide a method and device to improve image restoration performance for variables.

한 실시에에 따라 적어도 하나의 프로세서에 의해 동작하는 이미징 장치의 동작 방법으로서, 조직에서 수득된 초음파 데이터를 입력받는 단계, 그리고 상기 초음파 데이터로부터, 다수의 변수들 중에서 선택된 목적 변수에 해당하는 특징을 추출하고, 상기 특징을 복원하여 상기 목적 변수의 정량적 이미지를 출력하는 단계를 포함한다.According to one embodiment, a method of operating an imaging device operated by at least one processor, comprising: receiving ultrasound data obtained from a tissue, and selecting a feature corresponding to a target variable selected from a plurality of variables from the ultrasound data. Extracting and restoring the features and outputting a quantitative image of the target variable.

상기 초음파 데이터는 서로 다른 빔패턴들로 상기 조직에 입사된 초음파 신호들이, 상기 조직에서 반사되어 되돌아온 다패턴 RF(Radio Frequency) 데이터일 수 있다.The ultrasound data may be multi-pattern RF (Radio Frequency) data in which ultrasound signals incident on the tissue using different beam patterns are reflected from the tissue and returned.

상기 다수의 변수들은 감쇠 계수(Attenuation Coefficient, AC), 음속도(Speed of Sound, SoS), 산란체 밀도(Effective Scatterer Concentration, ESC), 그리고 산란체 크기(Effective Scatterer Diameter, ESD) 중 둘 이상을 포함할 수 있다. The multiple variables include two or more of Attenuation Coefficient (AC), Speed of Sound (SoS), Effective Scatterer Concentration (ESC), and Effective Scatterer Diameter (ESD). It can be included.

상기 목적 변수의 정량적 이미지를 출력하는 단계는 상기 다수의 변수들 중에서 선택된 상기 목적 변수에 따라 신경망의 네트워크 파라미터를 변경하여, 상기 초음파 데이터로부터 상기 목적 변수에 해당하는 특징을 추출할 수 있다. The step of outputting a quantitative image of the target variable may include extracting features corresponding to the target variable from the ultrasound data by changing network parameters of the neural network according to the target variable selected from among the plurality of variables.

상기 신경망은 상기 목적 변수에 따라 선택된 값으로 정규화하는 조건부 인코딩을 수행할 수 있다. The neural network can perform conditional encoding to normalize to a value selected according to the target variable.

상기 목적 변수의 정량적 이미지를 출력하는 단계는 상기 신경망의 인코더에서 출력된 특징을 동일한 경로로 복원하는 상기 신경망의 디코더를 통해, 상기 목적 변수의 정량적 이미지를 출력할 수 있다. In the step of outputting a quantitative image of the target variable, the quantitative image of the target variable may be output through a decoder of the neural network that restores the features output from the encoder of the neural network through the same path.

상기 디코더는 서로 다른 변수들의 특징들을 복원하는 경로에서 구조적 유사성을 보존하면서 각 변수의 특징을 복원하는 네트워크로 구성될 수 있다.The decoder may be composed of a network that restores the features of each variable while preserving structural similarity in a path to restore the features of different variables.

다른 실시예에 따른 이미징 장치로서, 컴퓨터 프로그램을 로드하는 메모리, 그리고 상기 컴퓨터 프로그램을 실행하여, 조직에서 수득된 초음파 데이터로부터, 다수의 변수들 중에서 선택된 목적 변수에 해당하는 특징을 추출하며, 상기 특징을 복원하여 상기 목적 변수의 정량적 이미지를 출력하는 프로세서를 포함한다.An imaging device according to another embodiment includes a memory for loading a computer program, and executing the computer program to extract a feature corresponding to a target variable selected from a plurality of variables from ultrasound data obtained from a tissue, and the feature and a processor that restores and outputs a quantitative image of the target variable.

상기 초음파 데이터는 서로 다른 빔패턴들로 상기 조직에 입사된 초음파 신호들이 상기 조직에서 반사되어 되돌아온 다패턴 RF(Radio Frequency) 데이터일 수 있다. The ultrasound data may be multi-pattern RF (Radio Frequency) data in which ultrasound signals incident on the tissue using different beam patterns are reflected from the tissue and returned.

상기 다수의 변수들은 감쇠 계수(Attenuation Coefficient, AC), 음속도(Speed of Sound, SoS), 산란체 밀도(Effective Scatterer Concentration, ESC), 그리고 산란체 크기(Effective Scatterer Diameter, ESD) 중 둘 이상을 포함할 수 있다. The multiple variables include two or more of Attenuation Coefficient (AC), Speed of Sound (SoS), Effective Scatterer Concentration (ESC), and Effective Scatterer Diameter (ESD). It can be included.

상기 프로세서는 인코더 및 디코더로 구성된 신경망을 통해, 상기 초음파 데이터로부터, 다수의 변수들 중에서 선택된 목적 변수에 해당하는 정량적 이미지를 출력할 수 있다. 상기 인코더는 상기 다수의 변수들 중에서 선택된 상기 목적 변수에 따라 네트워크 파라미터를 변경하여, 상기 초음파 데이터로부터 상기 목적 변수에 해당하는 특징을 추출하는 네트워크로 구성될 수 있다. 상기 디코더는 상기 인코더에서 출력된 특징을 동일한 경로로 복원하는 네트워크로 구성될 수 있다. The processor may output a quantitative image corresponding to a target variable selected from among a plurality of variables from the ultrasound data through a neural network composed of an encoder and a decoder. The encoder may be configured as a network that changes network parameters according to the target variable selected from among the plurality of variables and extracts features corresponding to the target variable from the ultrasound data. The decoder may be configured as a network that restores the features output from the encoder through the same path.

상기 신경망은 상기 목적 변수에 따라 선택된 값으로 정규화하는 조건부 인코딩을 수행할 수 있다.The neural network can perform conditional encoding to normalize to a value selected according to the target variable.

상기 디코더는 서로 다른 변수들의 특징들을 복원하는 경로에서 구조적 유사성을 보존하면서 각 변수의 특징을 복원하는 네트워크로 구성될 수 있다.The decoder may be composed of a network that restores the features of each variable while preserving structural similarity in a path to restore the features of different variables.

또 다른 실시예에 따라 컴퓨터 판독 가능한 저장 매체에 저장되고, 프로세서에 의해 실행되는 명령어들을 포함하는 컴퓨터 프로그램으로서, 조직에서 수득된 초음파 데이터를 입력받고, 상기 초음파 데이터로부터 복원 가능한 다수의 변수들 중에서 목적 변수가 선택되면, 선택된 상기 목적 변수에 따라 네트워크 파라미터를 변경하여, 상기 초음파 데이터로부터 상기 목적 변수에 해당하는 특징을 추출하는 인코더, 그리고 상기 인코더에서 출력된 특징을 복원하여 상기 목적 변수의 정량적 이미지를 출력하는 디코더를 실행시키는 명령어들을 포함한다.According to another embodiment, a computer program is stored in a computer-readable storage medium and includes instructions executed by a processor, wherein ultrasound data obtained from a tissue is input and a target is selected among a plurality of variables that can be restored from the ultrasound data. When a variable is selected, an encoder changes network parameters according to the selected target variable to extract features corresponding to the target variable from the ultrasound data, and restores the features output from the encoder to produce a quantitative image of the target variable. Contains instructions that execute the output decoder.

상기 초음파 데이터는 서로 다른 빔패턴들로 상기 조직에 입사된 초음파 신호들이 상기 조직에서 반사되어 되돌아온 다패턴 RF(Radio Frequency) 데이터일 수 있다.The ultrasound data may be multi-pattern RF (Radio Frequency) data in which ultrasound signals incident on the tissue using different beam patterns are reflected from the tissue and returned.

상기 다수의 변수들은 감쇠 계수(Attenuation Coefficient, AC), 음속도(Speed of Sound, SoS), 산란체 밀도(Effective Scatterer Concentration, ESC), 그리고 산란체 크기(Effective Scatterer Diameter, ESD) 중 둘 이상을 포함할 수 있다.The multiple variables include two or more of Attenuation Coefficient (AC), Speed of Sound (SoS), Effective Scatterer Concentration (ESC), and Effective Scatterer Diameter (ESD). It can be included.

상기 인코더는 상기 목적 변수에 따라 선택된 값으로 정규화하는 조건부 인코딩 블록을 포함할 수 있다.The encoder may include a conditional encoding block that normalizes to a value selected according to the target variable.

상기 디코더는 서로 다른 변수들의 특징들을 복원하는 경로에서 구조적 유사성을 보존하면서 각 변수의 특징을 복원하는 네트워크로 구성될 수 있다.The decoder may be composed of a network that restores the features of each variable while preserving structural similarity in a path to restore the features of different variables.

실시예에 따르면, 단일한 신경망을 통해 조직의 초음파 데이터로부터 조다양한 정량적 변수들을 실시간으로 이미징할 수 있다. According to an embodiment, a variety of quantitative variables can be imaged in real time from tissue ultrasound data through a single neural network.

실시예에 따르면, 구조적 유사성을 가지는 변수들의 정량적 이미지를 복원하는 과정에서 공유되는 정보를 통해 고품질의 복원 이미지를 생성할 수 있다.According to an embodiment, a high-quality restored image can be generated through information shared in the process of restoring a quantitative image of variables having structural similarity.

실시예에 따르면, B-모드(Brightness mode) 이미징용 초음파 프로브 및 영상 기기를 그대로 이용할 수 있으므로, 영상 촬영이 간단하고, 기존 초음파 영상장비로 측정 가능한 여러 기관들의 측정이 가능하다. According to the embodiment, since the ultrasound probe and imaging device for B-mode (brightness mode) imaging can be used as is, imaging is simple and various organs that can be measured with existing ultrasound imaging equipment can be measured.

실시예에 따르면, 단일 초음파 프로브를 이용하는 사용자의 숙련도에 관계없이, 고품질의 정량적 이미지를 복원할 수 있다.According to an embodiment, a high-quality quantitative image can be restored regardless of the user's skill level using a single ultrasound probe.

도 1은 초음파 데이터를 이용한 다변수 정량적 이미징 장치를 개념적으로 설명하는 도면이다.
도 2는 다패턴 초음파 데이터로부터 조직의 정량적 특성을 추출하는 신경망을 예시적으로 설명하는 도면이다.
도 3은 조건부 정규화(conditional normalization)를 설명하는 도면이다.
도 4는 다변수 정량적 이미지들을 복원하는 신경망의 인코더의 예시이다.
도 5는 다변수 정량적 이미지들을 복원하는 신경망의 디코더의 예시이다.
도 6은 한 실시예에 따른 초음파 데이터를 이용한 다변수 정량적 이미징 방법의 흐름도이다.
도 7은 다변수 정량적 시뮬레이션을 위한 팬텀의 예시이다.
도 8은 유방 모방 팬텀의 다변수 정량적 이미징 결과를 나타내는 도면이다.
도 9는 Ex-vivo 다변수 정량적 이미징 결과를 나타내는 도면이다.
도 10은 한 실시예에 따른 컴퓨팅 장치의 구성도이다.
Figure 1 is a diagram conceptually explaining a multivariate quantitative imaging device using ultrasound data.
Figure 2 is a diagram illustrating a neural network that extracts quantitative characteristics of tissue from multi-pattern ultrasound data.
Figure 3 is a diagram explaining conditional normalization.
Figure 4 is an example of a neural network encoder that restores multivariate quantitative images.
Figure 5 is an example of a neural network decoder that restores multivariate quantitative images.
Figure 6 is a flowchart of a multivariate quantitative imaging method using ultrasound data according to an embodiment.
Figure 7 is an example of a phantom for multivariate quantitative simulation.
Figure 8 is a diagram showing the results of multivariate quantitative imaging of a breast-mimicking phantom.
Figure 9 is a diagram showing ex-vivo multivariate quantitative imaging results.
Figure 10 is a configuration diagram of a computing device according to one embodiment.

아래에서는 첨부한 도면을 참고로 하여 본 발명의 실시예에 대하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.Below, with reference to the attached drawings, embodiments of the present invention will be described in detail so that those skilled in the art can easily implement the present invention. However, the present invention may be implemented in many different forms and is not limited to the embodiments described herein. In order to clearly explain the present invention in the drawings, parts that are not related to the description are omitted, and similar parts are given similar reference numerals throughout the specification.

명세서 전체에서, 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다. 또한, 명세서에 기재된 "…부", "…기", "모듈" 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어나 소프트웨어 또는 하드웨어 및 소프트웨어의 결합으로 구현될 수 있다.Throughout the specification, when a part is said to “include” a certain element, this means that it may further include other elements rather than excluding other elements, unless specifically stated to the contrary. In addition, terms such as "... unit", "... unit", and "module" used in the specification refer to a unit that processes at least one function or operation, which may be implemented as hardware or software or a combination of hardware and software. there is.

본 발명의 신경망은 적어도 하나의 태스크를 학습하는 인공지능 모델로서, 컴퓨팅 장치에서 실행되는 소프트웨어/프로그램으로 구현될 수 있다. 프로그램은 저장 매체(non-transitory storage media)에 저장되고, 프로세서에 의해 본 발명의 동작을 실행하도록 기술된 명령들(instructions)을 포함한다. 프로그램은 네트워크를 통해 다운로드되거나, 제품 형태로 판매될 수 있다.The neural network of the present invention is an artificial intelligence model that learns at least one task, and can be implemented as software/programs running on a computing device. The program is stored on a non-transitory storage media and includes instructions written to execute the operations of the present invention by a processor. Programs can be downloaded over the network or sold in product form.

도 1은 초음파 데이터를 이용한 다변수 정량적 이미징 장치를 개념적으로 설명하는 도면이고, 도 2는 다패턴 초음파 데이터로부터 조직의 정량적 특성을 추출하는 신경망을 예시적으로 설명하는 도면이며, 도 3은 조건부 정규화(conditional normalization)를 설명하는 도면이다.Figure 1 is a diagram conceptually explaining a multivariate quantitative imaging device using ultrasound data, Figure 2 is a diagram illustrating a neural network that extracts quantitative characteristics of tissue from multi-pattern ultrasound data, and Figure 3 is a diagram showing conditional normalization. This is a diagram explaining conditional normalization.

도 1을 참고하면, 다변수 정량적 이미징 장치(간단히, ‘이미징 장치’라고 함)(100)는 적어도 하나의 프로세서에 의해 동작하는 컴퓨팅 장치로서, 단일한 초음파 프로브(10)를 통해 조직에서 수득된 다패턴 초음파 데이터를 입력받는다. 이미징 장치(100)는 본 개시에서 설명하는 동작을 위한 컴퓨터 프로그램을 탑재하고, 컴퓨터 프로그램은 프로세서에 의해 실행된다. Referring to FIG. 1, a multivariate quantitative imaging device (simply referred to as 'imaging device') 100 is a computing device operated by at least one processor, and is a computing device operating by at least one processor. Multi-pattern ultrasound data is input. The imaging device 100 is equipped with a computer program for the operations described in this disclosure, and the computer program is executed by a processor.

이미징 장치(100)는 다패턴 초음파 데이터로부터 조직의 정량적 특징을 추출하는 신경망(200)을 이용하여, 조직의 다변수 정량적 이미지들(Multi-variable quantitative images)을 복합적으로 생성할 수 있다. 여기서, 이미징 장치(100)는 조직의 정량적 변수들인 감쇠 계수(Attenuation Coefficient, AC), 음속도(Speed of Sound, SoS), 조직 내 밀도 분포를 나타내는 산란체 밀도(Effective Scatterer Concentration, ESC), 조직 내 세포 등의 크기를 나타내는 산란체 크기(Effective Scatterer Diameter, ESD) 등을 복원할 수 있다. 신경망(200)은 SQI-Net이라고 부를 수 있다. The imaging device 100 may complexly generate multi-variable quantitative images of the tissue using a neural network 200 that extracts quantitative characteristics of the tissue from multi-pattern ultrasound data. Here, the imaging device 100 measures quantitative variables of the tissue, such as attenuation coefficient (AC), speed of sound (SoS), effective scatterer concentration (ESC), which represents the density distribution within the tissue, and tissue The effective scatterer diameter (ESD), which indicates the size of inner cells, etc., can be restored. The neural network 200 may be called SQI-Net.

한편, 감쇠 계수, 음속도, 산란체 밀도, 산란체 크기 각각은 병변 추출의 바이오마커로 알려져 있는 파라미터로서, 조직의 생체 역학적 특성과 밀접한 관련이 있다. 따라서, 여러 변수들을 사용할수록 병변의 포괄적 분석이 가능해서 진단 민감도(sensitivity)와 특이도(specificity)를 높일 수 있다. 하지만, 각 변수가 초음파 전파에 서로 다른 영향(distinct effect)을 미치기 때문에, 초음파 데이터로부터 여러 변수들을 동시에 복원하는 것이 쉽지 않다. Meanwhile, the attenuation coefficient, sound speed, scatterer density, and scatterer size are each parameters known as biomarkers for lesion extraction and are closely related to the biomechanical characteristics of the tissue. Therefore, the more variables used, the more comprehensive analysis of lesions can be performed, thereby increasing diagnostic sensitivity and specificity. However, because each variable has a distinct effect on ultrasound propagation, it is not easy to simultaneously restore multiple variables from ultrasound data.

이를 해결하기 위해, 신경망(200)은 초음파 데이터에서 복원할 목적 변수에 따라 정량적 특징을 가변적으로 추출하는 조건부 인코딩(conditional encoding)을 수행한다. 이를 통해, 신경망(200)은 조직의 다변수 정량적 이미지들(Multi-variable quantitative images)을 복합적으로 생성할 수 있다. 여기서, 조건부 인코딩은, 초음파 데이터로부터 복원할 변수의 정량적 특징이 최적으로 추출되도록, 선택되는 변수에 따라 조건적으로 인코딩 경로의 네트워크 파라미터를 변경하여, 해당 변수에 대한 이미지 복원 성능을 높일 수 있다.To solve this problem, the neural network 200 performs conditional encoding to variably extract quantitative features from ultrasound data according to the target variable to be restored. Through this, the neural network 200 can complexly generate multi-variable quantitative images of the tissue. Here, conditional encoding can improve image restoration performance for the variable by conditionally changing the network parameters of the encoding path according to the selected variable so that the quantitative characteristics of the variable to be restored from ultrasound data are optimally extracted.

신경망(200)이 정량적 이미지를 복원하는 동안, 독립적인 변수들의 특징들이 상보적인 정보(complementary information)를 제공하게 된다. 따라서, 신경망(200)이 각 변수의 정량적 이미지를 개별적으로 복원하더라도, 독립적인 변수들이 상보적인 정보를 제공하게 되어, 정량적 값을 좀 더 정확히 복원할 수 있다. While the neural network 200 restores a quantitative image, the characteristics of independent variables provide complementary information. Therefore, even if the neural network 200 individually restores the quantitative image of each variable, the independent variables provide complementary information, allowing the quantitative value to be restored more accurately.

조건부 인코더에서 추출된 각 변수의 특징들은 동일한 디코딩 경로를 통해 복원된다. 따라서, 각 정량적 이미지는 변수에 따라 개별적으로 복원되지만, 정량적 이미지들이 구조적 유사성을 가질 수 있다. 따라서, 신경망(200)이 구조적 유사성을 유지면서 다변수 정량적 이미지들을 복원하므로, 이미징 장치(100)는 고품질의 복원 이미지를 생성할 수 있다. The features of each variable extracted from the conditional encoder are restored through the same decoding path. Accordingly, each quantitative image is individually restored according to variables, but quantitative images may have structural similarities. Accordingly, since the neural network 200 restores multivariate quantitative images while maintaining structural similarity, the imaging device 100 can generate high-quality restored images.

조직의 다변수 정량적 이미지들을 복원하는 데 사용되는 다패턴 초음파 데이터는 초음파 프로브(10)로부터 수득된다. 초음파 프로브(10)는 초음파 신호를 방사하고, 조직에서 반사된 초음파 데이터를 수득할 수 있는 프로브이다. 조직으로 방사되는 초음파 신호는 평면파(plane wave)일 수 있다. 초음파 프로브(10)는 N개(예를 들면, 128개)의 초음파 센서들이 배열되고, 배열 모양에 따라 종류가 다양할 수 있다. 센서들은 압전 소자들(piezoelectrical elements)로 구현될 수 있다. 또한, 초음파 프로브(10)는 각 압전 소자에 일정한 시간 간격으로 전기적 신호를 가하여 초음파 신호를 생성하는 위상차 배열(phased array) 프로브일 수 있다. 참고로, 초음파 프로브(10)는 전형적인 B-모드 이미징용 프로브일 수 있다. 이 경우, 이미징 장치(100)는 B-모드 이미징에 사용되는 RF 데이터를 입력받는데, 설명에서 이를 초음파 데이터라고 부른다.Multi-pattern ultrasound data used to reconstruct multivariate quantitative images of tissue are obtained from the ultrasound probe 10. The ultrasound probe 10 is a probe that radiates ultrasound signals and can obtain ultrasound data reflected from tissue. Ultrasound signals radiated to tissue may be plane waves. The ultrasonic probe 10 has N (eg, 128) ultrasonic sensors arranged, and may be of various types depending on the arrangement shape. Sensors can be implemented with piezoelectrical elements. Additionally, the ultrasonic probe 10 may be a phased array probe that generates an ultrasonic signal by applying an electrical signal to each piezoelectric element at regular time intervals. For reference, the ultrasound probe 10 may be a typical B-mode imaging probe. In this case, the imaging device 100 receives RF data used for B-mode imaging, which is referred to as ultrasound data in the description.

초음파 프로브(10)는 서로 다른 빔패턴(Tx pattern #1~ #k)의 초음파 신호들을 조직에 입사하고, 조직에서 반사되어 되돌아온 RF(Radio Frequency) 데이터를 획득할 수 있다. 설명에서, 초음파 프로브(10)가 특정 빔패턴으로 방사된 초음파 신호에 대해 수득한 RF 데이터를 특정 빔패턴의 초음파 데이터라고 부른다. 복수의 빔패턴들로부터 수득된 초음파 데이터를 묶어서, 간단히 다패턴 초음파 데이터 또는 빔포밍 초음파 데이터(beamformed ultrasound data)라고 부를 수 있다. 다패턴 초음파 데이터는 예를 들면, 7개의 서로 다른 빔패턴들(θ1:7)에서 수득한 초음파 데이터이고, 서로 다른 빔패턴들은 예를 들면, 입사각이 -15°, -10°, -5°, 0°, 5°, 10°, 15°로 설정될 수 있다. The ultrasound probe 10 can make ultrasound signals of different beam patterns (Tx pattern #1 to #k) incident on the tissue and acquire RF (Radio Frequency) data reflected from the tissue and returned. In the description, RF data obtained by the ultrasonic probe 10 for an ultrasonic signal radiated with a specific beam pattern is referred to as ultrasonic data of a specific beam pattern. Ultrasound data obtained from a plurality of beam patterns can be bundled and simply referred to as multi-pattern ultrasound data or beamformed ultrasound data. Multi-pattern ultrasound data is, for example, ultrasound data obtained from seven different beam patterns (θ 1:: θ 7 ), and the different beam patterns have an incident angle of, for example, -15°, -10°, It can be set to -5°, 0°, 5°, 10°, and 15°.

한편, 초음파 프로브(10)에서 수득된 초음파 데이터는, 초음파 프로브(10)의 센서별로, 반사된 초음파 신호를 수신한 지연 시간 정보를 포함한다. 따라서, 초음파 데이터는 센서별 지연 시간 정보를 나타내는 이미지로 표현될 수 있다. 이미지로 표현된 초음파 데이터를 편의 상, 초음파 데이터 이미지라고 부를 수 있고, 초음파 데이터 이미지가 신경망(200)의 입력 이미지로 사용될 수 있다.Meanwhile, the ultrasonic data obtained from the ultrasonic probe 10 includes delay time information for receiving the reflected ultrasonic signal for each sensor of the ultrasonic probe 10. Therefore, ultrasound data can be expressed as an image representing delay time information for each sensor. For convenience, ultrasound data expressed as an image may be called an ultrasound data image, and the ultrasound data image may be used as an input image of the neural network 200.

도 2를 참고하면, 신경망(200)은 적어도 하나의 태스크를 학습할 수 있는 인공지능 모델로서, 컴퓨팅 장치에서 실행되는 소프트웨어/프로그램으로 구현될 수 있다. 신경망(200)은 다패턴 초음파 데이터 U를, 복원하고자 하는 목적 변수 q에 따라 인코딩하는 인코더(encoder)(210), 인코딩된 저해상도의 특징맵의 해상도를 높여 목적 변수의 고해상도 정량적 이미지 Iq를 생성하는 디코더(decoder)(230)를 포함한다.Referring to FIG. 2, the neural network 200 is an artificial intelligence model capable of learning at least one task, and may be implemented as software/program running on a computing device. The neural network 200 has an encoder 210 that encodes multi-pattern ultrasound data U according to the target variable q to be restored, and generates a high-resolution quantitative image I q of the target variable by increasing the resolution of the encoded low-resolution feature map. It includes a decoder 230 that does.

인코더(210)는 다패턴 초음파 데이터 이미지들(300)로 표현된 다패턴 초음파 데이터 U를 입력받을 수 있다. 디코더(230)는 목적 변수에 해당하는 고해상도의 정량적 이미지 Iq를 출력하는데, 감쇠계수 이미지(400-1), 음속도 이미지(400-2), 산란체 밀도 이미지(400-3), 산란체 크기 이미지(400-4), 이외에도, 목적 변수에 따라 복수의 변수들이 조합된 이미지들을 출력할 수 있다. The encoder 210 may receive multi-pattern ultrasound data U expressed as multi-pattern ultrasound data images 300. The decoder 230 outputs a high-resolution quantitative image I q corresponding to the target variable, including an attenuation coefficient image (400-1), a sound velocity image (400-2), a scatterer density image (400-3), and a scatterer density image (400-3). In addition to the size image 400-4, images in which a plurality of variables are combined according to the target variable can be output.

인코더(210)는 초음파 프로브(10)에서 수득된 초음파 데이터의 센서별 지연 시간을 나타내는 초음파 데이터 이미지들을 입력받고, 초음파 데이터 이미지들에 포함된 정량적 특징들(quantitative features)을 추출한다. 이때, 인코더(210)는 복원할 목적 변수에 따라 입력 이미지들의 정량적 특징을 가변적으로 추출하는 조건부 인코더(conditional encoder)일 수 있다. The encoder 210 receives ultrasound data images indicating delay times for each sensor of the ultrasound data obtained from the ultrasound probe 10, and extracts quantitative features included in the ultrasound data images. At this time, the encoder 210 may be a conditional encoder that variably extracts quantitative features of input images depending on the target variable to be restored.

인코더(210)는 목적 변수 q에 따라, 인코딩 경로의 네트워크 파라미터들을 변경해서, 복원하고자 하는 변수의 정량적 특징을 최적으로 추출하는 조건부 인코딩을 수행한다. The encoder 210 changes the network parameters of the encoding path according to the target variable q, and performs conditional encoding to optimally extract quantitative features of the variable to be restored.

도 3을 참고하면, 인코더(210)는, 목적 변수 q에 따라,

Figure 112021116979381-pat00001
행렬에서 선택된 값인
Figure 112021116979381-pat00002
Figure 112021116979381-pat00003
으로, 정규화된 값
Figure 112021116979381-pat00004
을 변환(스케일링 및 이동)할 수 있다.
Figure 112021116979381-pat00005
는 목적 변수 q에 대한 스케일링(scaling) 값이고,
Figure 112021116979381-pat00006
는 목적 변수 q에 대한 이동(shift) 값이다. 이를 통해, 인코더(210)는 목적 변수에 따라 입력 이미지들의 정량적 특징을 가변적으로 추출할 수 있다. 인코더(210)는, 예를 들면, 조건부 인스턴스 정규화(conditional instance normalization)을 수행해서, 목적 변수에 대응하는 정량적 특징을 추출할 수 있다. 목적 변수 q는 조직에서 추출하고자 하는 적어도 하나의 정량적 변수를 나타낸다.Referring to FIG. 3, the encoder 210, according to the target variable q,
Figure 112021116979381-pat00001
The value selected from the matrix
Figure 112021116979381-pat00002
and
Figure 112021116979381-pat00003
, the normalized value
Figure 112021116979381-pat00004
You can transform (scale and move).
Figure 112021116979381-pat00005
is the scaling value for the objective variable q,
Figure 112021116979381-pat00006
is the shift value for the objective variable q. Through this, the encoder 210 can variably extract quantitative features of input images depending on the target variable. The encoder 210 may, for example, perform conditional instance normalization to extract quantitative features corresponding to the target variable. The objective variable q represents at least one quantitative variable to be extracted from the organization.

다시 도 2를 참고하면, 디코더(230)는 인코더(210)에서 추출된 특징들을 동일한 경로로 복원한다. 디코더(230)는 인코더(210)에서 추출된 각 변수의 특징들은 동일한 디코딩 경로를 통해 복원하는 과정에서, 구조적 유사성을 보존하면서 각 변수의 특징을 복원하도록 학습된다. 따라서, 디코더(230)는 단일 목적 변수의 특징을 복원하더라도, 다른 변수들과의 구조적 유사성을 가지는 이미지를 출력하므로, 종래의 정량적 이미징 방법보다 훨씬 고해상도의 정량적 이미지를 생성할 수 있다. Referring again to FIG. 2, the decoder 230 restores the features extracted from the encoder 210 through the same path. The decoder 230 is trained to restore the features of each variable extracted from the encoder 210 while preserving structural similarity in the process of restoring them through the same decoding path. Therefore, even if the decoder 230 restores the characteristics of a single target variable, it outputs an image that has structural similarity to other variables, and thus can generate a quantitative image with much higher resolution than a conventional quantitative imaging method.

신경망(200)의 학습에 사용되는 목적 함수 G*는 수학식 1과 같은 손실 함수로 정의될 수 있다. 신경망(200)은 목적 함수 G*를 이용하여, 복원 손실을 최소화하는 학습을 할 수 있다. The objective function G * used for learning of the neural network 200 can be defined as a loss function as shown in Equation 1. The neural network 200 can learn to minimize restoration loss using the objective function G * .

수학식 1에서, 목적 함수 G*는 입력 U와 목적 변수 q로부터 추론된 출력 G(U,q)와, 목적 변수 q에 대한 그라운드 트루스 Yq의 차이를 최소화하는 함수이다. 목적 함수 G*는 과적합을 피하기 위해 L2 정규화(λ = 106)를 할 수 있다. In Equation 1, the objective function G * is a function that minimizes the difference between the output G(U,q) inferred from the input U and the objective variable q and the ground truth Y q for the objective variable q. The objective function G * can be L 2 regularized (λ = 10 6 ) to avoid overfitting.

신경망(200)이 변수들에 대해 비슷한 수준으로 학습할 수 있도록, 반복(iteration)마다 목적 변수 q를 바꿀 수 있다. The target variable q can be changed for each iteration so that the neural network 200 can learn variables at a similar level.

도 4는 다변수 정량적 이미지들을 복원하는 신경망의 인코더의 예시이고, 도 5는 다변수 정량적 이미지들을 복원하는 신경망의 디코더의 예시이다.Figure 4 is an example of an encoder of a neural network that restores multivariate quantitative images, and Figure 5 is an example of a decoder of a neural network that restores multivariate quantitative images.

도 4를 참고하면, 신경망(200)의 인코더(210)는 다패턴 초음파 데이터 이미지들(300)을 입력받는다. 각 초음파 데이터 이미지 Ui∈R128X3018는 빔포밍된 초음파 신호로부터 획득된 i번째 RF 데이터를 의미하는데, 여기서, 이미지는 프로브 센서들(transducer elements)의 수(N=128) 및 시간축 인덱스들(예를 들면, 3018)로 표현될 수 있다. Referring to FIG. 4, the encoder 210 of the neural network 200 receives multi-pattern ultrasound data images 300. Each ultrasound data image U iR 128 For example, it can be expressed as 3018).

인코더(210)는 다양한 네트워크 모델/네트워크 블록으로 인코딩 경로를 구성할 수 있다.The encoder 210 can configure an encoding path with various network models/network blocks.

인코더(210)는 다패턴 초음파 데이터 이미지들 U 각각을 컨볼루션 필터링한 후 통합하고, 목적 변수 q에 따라 특징값을 압축하는 인코딩 네트워크를 구성하고, 인코딩 네트워크를 통해 입력 U에서 추출된 특징맵 fq(U)를 출력한다. 인코딩 네트워크는 다양하게 구성될 수 있다. The encoder 210 convolutionally filters and integrates each of the multi-pattern ultrasound data images U, constructs an encoding network that compresses feature values according to the objective variable q, and generates a feature map f extracted from the input U through the encoding network. Output q (U). The encoding network can be configured in various ways.

인코더(210)는 각 입력 이미지에 해당하는 채널별로, 컨볼루션 필터링(2d-Convolution, 3×3 Kernel size) 및 활성화(예를 들면, 활성함수는 ReLU) 블록(211), 다운 샘플링(예를 들면, 1x2 stride) 블록(212)을 독립적으로 구성할 수 있다. The encoder 210 performs convolutional filtering (2d-Convolution, 3×3 Kernel size) and activation (e.g., ReLU activation function) block 211 and down-sampling (e.g., ReLU) for each channel corresponding to each input image. For example, the 1x2 stride) block 212 can be configured independently.

각 채널에서 필터링된 특징값은 채널 단위로 통합된 후, 조건부 인코딩 블록(213)으로 입력된다. 조건부 인코딩 블록(213)은 목적 변수 q에 따라,

Figure 112021116979381-pat00008
행렬에서 선택된 값인
Figure 112021116979381-pat00009
Figure 112021116979381-pat00010
을 스케일링(scaling) 팩터 및 이동(shift) 팩터로 입력받고, 목적 변수에 따라 특징값을 변환할 수 있다. 조건부 인코딩 블록(213)은 예를 들면, 컨볼루션 필터링(2d-Convolution, 3×3 Kernel size) 블록(214), 조건부 인스턴스 정규화(conditional instance normalization) 블록(215), 그리고 활성화 블록(ReLU)(216)을 포함할 수 있다. The filtered feature values in each channel are integrated on a channel basis and then input to the conditional encoding block 213. The conditional encoding block 213 is configured according to the target variable q,
Figure 112021116979381-pat00008
The value selected from the matrix
Figure 112021116979381-pat00009
and
Figure 112021116979381-pat00010
can be input as a scaling factor and a shift factor, and the feature value can be converted according to the target variable. The conditional encoding block 213 includes, for example, a convolution filtering (2d-Convolution, 3×3 Kernel size) block 214, a conditional instance normalization block 215, and an activation block (ReLU) ( 216) may be included.

계속해서, 인코더(210)는 후속 조건부 인코딩 블록들(213)을 이용하여 다패턴 초음파 데이터에 포함된 정량적 변수에 대한 시간 도메인 및 공간 도메인에서의 특징값을 추출한다. Subsequently, the encoder 210 uses subsequent conditional encoding blocks 213 to extract feature values in the time domain and space domain for quantitative variables included in the multi-pattern ultrasound data.

예를 들면, 인코더(210)는 다운 샘플링 블록(예를 들면, 1x2 stride)(217)과 후속 조건부 인코딩 블록(213)을 반복적으로(예를 들면, 세 번) 연결하여, 시간 도메인에서의 특징값을 추출하는 시간 도메인 인코딩 블록을 구성할 수 있다. 다운 샘플링 블록(217)과 조건부 인코딩 블록(213)을 반복적으로 지나는 인코딩 경로를 통해, 다패턴 초음파 데이터에 포함된 정량적 변수의 시간 도메인에서의 상관 관계가 추출될 수 있다. 시간 도메인 인코딩 블록을 지나면서, 7개의 초음파 데이터 R128X3018는 (128X186) 사이즈의 128개 특징맵 R128X186X128 으로 인코딩될 수 있다. For example, the encoder 210 may repeatedly (e.g., three times) concatenate a down-sampling block (e.g., 1x2 stride) 217 and a subsequent conditional encoding block 213 to obtain features in the time domain. You can construct a time domain encoding block to extract the values. Through an encoding path that repeatedly passes through the down-sampling block 217 and the conditional encoding block 213, correlations in the time domain of quantitative variables included in multi-pattern ultrasound data can be extracted. Passing through the time domain encoding block, 7 pieces of ultrasound data R 128X3018 can be encoded into 128 feature maps R 128X186X128 of size (128X186).

인코더(210)는 공간 도메인에서의 특징을 추출하기 위해서, 다운 샘플링 블록(예를 들면, 2x2 stride)(218)과 후속 조건부 인코딩 블록(213)을 반복적으로(예를 들면, 두 번) 연결하여, 공간 도메인에서의 특징값을 추출하는 공간 도메인 인코딩 블록을 구성할 수 있다. 공간 도메인 인코딩 블록을 지나면서, 추출된 R32X47X128의 특징맵은 다운 샘플링 블록(예를 들면, 2x3 stride)(219)을 지나면서, R16X16X512의 특징맵 fq(U)로 인코딩될 수 있다. In order to extract features in the spatial domain, the encoder 210 connects the down-sampling block (e.g., 2x2 stride) 218 and the subsequent conditional encoding block 213 repeatedly (e.g., twice). , it is possible to construct a spatial domain encoding block that extracts feature values in the spatial domain. Passing through the spatial domain encoding block, the extracted feature map of R 32X47X128 may be encoded into a feature map f q (U) of R 16

인코더(210)는 목적 변수 q에 따라 추출한 다패턴 초음파 데이터 U의 특징맵 fq(U)를 출력한다. 출력 fq(U)는 디코더(230)로 입력된다. The encoder 210 outputs a feature map f q (U) of multi-pattern ultrasound data U extracted according to the objective variable q. The output f q (U) is input to the decoder 230.

도 5를 참고하면, 신경망(200)의 디코더(230)는 인코더(210)의 출력 fq(U)를 입력받고, 목적 변수 q에 해당하는 고해상도의 정량적 이미지 Iq를 생성한다. 예를 들어, 디코더(230)는 fq(U)∈R16X16X512로부터, 고해상도의 정량적 이미지 Iq∈R128X128를 생성할 수 있다. Referring to FIG. 5, the decoder 230 of the neural network 200 receives the output f q (U) of the encoder 210 and generates a high-resolution quantitative image I q corresponding to the target variable q. For example, the decoder 230 can generate a high-resolution quantitative image I q ∈R 128X128 from f q (U)∈R 16X16X512 .

디코더(230)는 다양한 네트워크 모델/네트워크 블록으로 디코딩 네트워크를 구성할 수 있다. 예를 들어, 디코더(230)는 업샘플링 방식으로 고해상도의 정량적 이미지 Iq를 생성할 수 있다. 또는 디코더(230)는 최근에 알려진 고해상도 네트워크(High-Resolution Network, HRNet) 기반의 병렬적 다중 해상도 서브네트워크들(parallel multi-resolution subnetworks)을 이용하여, 고해상도의 정량적 이미지 Iq를 생성할 수 있다.The decoder 230 can configure a decoding network with various network models/network blocks. For example, the decoder 230 can generate a high-resolution quantitative image I q using an upsampling method. Alternatively, the decoder 230 can generate a high-resolution quantitative image I q using parallel multi-resolution subnetworks based on the recently known High-Resolution Network (HRNet). .

병렬적 다중 해상도 서브네트워크들로 구성된 디코더(230)는 저해상도 서브네트워크에서부터 순차적으로 다중 해상도 컨볼루션(multi-resolution convolution)을 수행하여, 이미지 해상도를 높여가면서, 최종적으로 고해상도의 정량적 이미지 Iq를 생성할 수 있다. 디코더(230)의 출력 레이어는 가장 높은 해상도 표현으로 병합하고, 1x1 컨볼루션을 통해 합성된 고해상도의 정량적 이미지 Iq를 생성할 수 있다. 한편, 단위 서브네트워크는 예를 들면, 4개의 잔차 블록들(residual blocks)로 구현될 수 있고, 이를 통해 학습 안정성을 보장할 수 있다. The decoder 230, which consists of parallel multi-resolution subnetworks, sequentially performs multi-resolution convolution starting from the low-resolution subnetwork, increasing the image resolution and finally generating a high-resolution quantitative image I q. can do. The output layer of the decoder 230 can merge into the highest resolution representation and generate a high-resolution quantitative image I q synthesized through 1x1 convolution. Meanwhile, the unit subnetwork can be implemented with, for example, four residual blocks, through which learning stability can be guaranteed.

다중 해상도 컨볼루션은 다양한 정량적 프로파일들을 통합하여 고해상도의 정량적 이미지들을 생성하는 동안, 정보 손실을 최소화하면서, 저해상도 특징맵 fq(U)를 보존할 수 있다. 다중 해상도 융합은 서브네트워크들의 모든 노드에서 구현되어, 다중 해상도 표현을 통해 정보를 교환하는 데, 이것이 고해상도의 정량적 이미지 Iq 를 추출하는 데 중요한 역할을 한다. Multi-resolution convolution can preserve the low-resolution feature map f q (U) while minimizing information loss while generating high-resolution quantitative images by integrating various quantitative profiles. Multi-resolution fusion is implemented in all nodes of subnetworks to exchange information through multi-resolution representation, which plays an important role in extracting high-resolution quantitative images I q .

도 6은 한 실시예에 따른 초음파 데이터를 이용한 다변수 정량적 이미징 방법의 흐름도이다.Figure 6 is a flowchart of a multivariate quantitative imaging method using ultrasound data according to an embodiment.

도 6을 참고하면, 이미징 장치(100)는 조직에서 수득된 다패턴 초음파 데이터를 입력받는다(S110). 다패턴 초음파 데이터는 서로 다른 빔패턴으로 방사된 초음파 신호에 대해 수득한 RF 데이터로서, 빔포밍 초음파 데이터(beamformed ultrasound data)라고 부를 수 있다.Referring to FIG. 6, the imaging device 100 receives multi-pattern ultrasound data obtained from tissue (S110). Multi-pattern ultrasound data is RF data obtained from ultrasound signals radiated with different beam patterns, and may be referred to as beamformed ultrasound data.

이미징 장치(100)는 다수의 변수들 중에서 복원할 목적 변수에 따라 네트워크 파라미터를 변경하여, 다패턴 초음파 데이터로부터, 선택된 목적 변수에 해당하는 특징을 추출하고, 목적 변수에 해당하는 특징을 복원하여 고해상도의 정량적 이미지를 출력한다(S120). 이를 위해, 이미징 장치(100)는 다패턴 초음파 데이터를 입력받고, 선택된 변수에 해당하는 정량적 이미지를 출력하도록 학습된 신경망(200)를 이용할 수 있다. 신경망(200)은 다수의 변수들 중에서 복원할 목적 변수에 따라 네트워크 파라미터를 변경하여, 다패턴 초음파 데이터로부터, 선택된 목적 변수에 해당하는 특징을 추출하는 조건부 인코더(210), 그리고 조건부 인코더(210)에서 추출된 목적 변수의 특징들을 동일한 경로로 복원하는 디코더(230)를 포함할 수 있다. The imaging device 100 changes network parameters according to the target variable to be restored among a plurality of variables, extracts features corresponding to the selected target variable from multi-pattern ultrasound data, and restores the features corresponding to the target variable to provide high resolution. A quantitative image is output (S120). To this end, the imaging device 100 may use a neural network 200 that has been trained to receive multi-pattern ultrasound data and output a quantitative image corresponding to the selected variable. The neural network 200 includes a conditional encoder 210 that changes network parameters according to the target variable to be restored among a plurality of variables and extracts features corresponding to the selected target variable from multi-pattern ultrasound data, and a conditional encoder 210. It may include a decoder 230 that restores the features of the target variable extracted from through the same path.

감쇠 계수, 음속도, 산란체 밀도, 산란체 크기 등을 포함하는 다수의 변수들 중에서, 복원할 목적 변수가 선택될 수 있다. 목적 변수는 단일한 변수일 수 있고, 또는 복수의 변수들일 수 있다. 예를 들어, 목적 변수가 감쇠 계수로 선택된 경우, 이미징 장치(100)는 입력된 다패턴 초음파 데이터로부터 감쇠 계수의 정량적 특징을 추출하고, 감쇠 계수가 표현된 정량적 이미지를 출력할 수 있다. 목적 변수가 감쇠 계수 및 음속도로 선택된 경우, 이미징 장치(100)는 입력된 다패턴 초음파 데이터로부터 감쇠 계수 및 음속도의 정량적 특징을 추출하고, 감쇠 계수 및 음속도가 표현된 정량적 이미지를 출력할 수 있다.A target variable to be restored may be selected from a number of variables including attenuation coefficient, speed of sound, scatterer density, scatterer size, etc. The target variable may be a single variable or may be multiple variables. For example, when the target variable is selected as the attenuation coefficient, the imaging device 100 may extract quantitative features of the attenuation coefficient from the input multi-pattern ultrasound data and output a quantitative image expressing the attenuation coefficient. When the target variables are selected as the attenuation coefficient and sound speed, the imaging device 100 can extract quantitative features of the attenuation coefficient and sound speed from the input multi-pattern ultrasound data and output a quantitative image in which the attenuation coefficient and sound speed are expressed. there is.

도 7은 다변수 정량적 시뮬레이션을 위한 팬텀의 예시이다.Figure 7 is an example of a phantom for multivariate quantitative simulation.

도 7을 참고하면, 신경망(200)의 학습 데이터는 여러 인체 환경에서 얻은 초음파 데이터로 구성될 수 있고, 초음파 시뮬레이션 툴을 이용하여 수집될 수 있다. 정교한 시뮬레이션을 통해 측정된 초음파 데이터를 통해 조직의 정량적 정보를 추출하는 것이 가능함을 확인할 수 있다. Referring to FIG. 7, the learning data of the neural network 200 may consist of ultrasound data obtained from various human environments and may be collected using an ultrasound simulation tool. It can be confirmed that it is possible to extract quantitative information about tissue through ultrasound data measured through sophisticated simulation.

(a)는 시뮬레이션된 음속도 분포이고, (b)는 시뮬레이션된 감쇠계수 분포이며, (c)는 시뮬레이션된 밀도 분포이다. (a) is the simulated sound velocity distribution, (b) is the simulated attenuation coefficient distribution, and (c) is the simulated density distribution.

장기(organs)와 병변(lesions)을 나타내는 시뮬레이션 팬텀(simulation phantoms)은 인체의 모방하면서도 간단하고 일반성을 잃지 않도록, 음속도 분포(a), 감쇠계수 분포(b), 밀도 분포(c)가 모델링될 수 있다. Simulation phantoms representing organs and lesions are modeled with the sound velocity distribution (a), attenuation coefficient distribution (b), and density distribution (c) to mimic the human body while remaining simple and general. It can be.

예를 들면, 시뮬레이션에서 관심 영역(Region of Interest, RoI)은 45mm x 45mm으로 설정되고 반지름이 2~30mm인 타원들이 무작위로 배치될 수 있다. 배경과 타원은 1400~1700m/s 범위의 음속도, 0~1.5dB/cm/MHz 범위의 감쇠계수, 0.9~1.1kg/m3 범위의 밀도 값을 가질 수 있다. 크기가 25~150μm인 정사각형 speckle은 산란체 밀도 및 산란체 크기를 표현하기 위해, 0~10/wavelength2의 농도로 배치될 수 있다. For example, in a simulation, the Region of Interest (RoI) may be set to 45mm x 45mm and ellipses with a radius of 2 to 30 mm may be randomly placed. The background and ellipse can have sound speeds ranging from 1400 to 1700 m/s, attenuation coefficients ranging from 0 to 1.5 dB/cm/MHz, and density values ranging from 0.9 to 1.1 kg/m 3 . Square speckles with sizes ranging from 25 to 150 μm can be placed at concentrations of 0 to 10/wavelength 2 to express scatterer density and scatterer size.

도 8은 유방 모방 팬텀의 다변수 정량적 이미징 결과를 나타내는 도면이고, 도 9는 Ex-vivo 다변수 정량적 이미징 결과를 나타내는 도면이다.Figure 8 is a diagram showing the results of multivariate quantitative imaging of a breast-mimicking phantom, and Figure 9 is a diagram showing the results of ex-vivo multivariate quantitative imaging.

도 8을 참고하면, 낭종(Cyst mass)과 암 조직을 포함하는 유방 모방 팬텀에서, 기존의 영상 복원 기법인 B-mode 영상 기법은 낭종/암 조직을 구별하지 못한다(왼쪽 아래). Referring to FIG. 8, in a breast-mimicking phantom containing a cyst mass and cancer tissue, the B-mode imaging technique, a conventional image restoration technique, cannot distinguish cyst/cancer tissue (bottom left).

반면, 이미징 장치(100)는 감쇠계수(AC), 음속도(SoS), 산란체 밀도(ESC), 산란체 크기(ESD)를 복원할 수 있고, 이를 통해, 관측한 조직이 암 조직임을 쉽게 구별해 낼 수 있고, 95% 이상의 높은 정확도로 정량적 변수들을 복원할 수 있다. 예를 들어, 이미징 장치(100)는 감쇠계수(AC)가 정상보다 크거나, 음속도(SoS)가 정상보다 빠르거나, 산란체 밀도(ESC)가 정상보다 높거나, 산란체 크기(ESD)가 정상보다 작은 경우, 암 조직으로 판별할 수 있다. 이미징 장치(100)는 정확도를 높이기 위해, 다변수의 결과를 종합하여 암 조직을 판별할 수 있다.On the other hand, the imaging device 100 can restore the attenuation coefficient (AC), speed of sound (SoS), scatterer density (ESC), and scatterer size (ESD), and through this, it is easy to determine that the observed tissue is a cancer tissue. It is possible to distinguish and restore quantitative variables with a high accuracy of over 95%. For example, the imaging device 100 may detect an attenuation coefficient (AC) that is greater than normal, a speed of sound (SoS) that is faster than normal, a scatterer density (ESC) that is higher than normal, or a scatterer size (ESD) that is higher than normal. If is smaller than normal, it can be identified as cancerous tissue. The imaging device 100 may determine cancer tissue by combining multivariate results to increase accuracy.

도 9를 참고하면, 소의 골격근에 양성(benign)(a), 악성(Malignant)(b), 암유사 물질(c)을 삽입하고, 이미징 장치(100)를 통해 정량적 변수들을 복원하여 암 분별 진단의 임상학적 의미를 검증하였다. Referring to FIG. 9, benign (a), malignant (b), and cancer-like substances (c) are inserted into the skeletal muscle of a cow, and quantitative variables are restored through the imaging device 100 to differentially diagnose cancer. The clinical significance of was verified.

기존의 영상 복원 기법인 B-mode 영상 기법으로 획득한 B-모드 이미지(두 번째 열)를 살펴보면, 삽입 조직의 분별 진단이 매우 어려운 것을 확인할 수 있다. 반면, 이미징 장치(100)는 조직의 생체 역학적 특성과 밀접한 관련이 있는 감쇠계수(AC), 음속도(SoS), 산란체 밀도(ESC), 산란체 크기(ESD)를 복원할 수 있다. 따라서, 이미징 장치(100)를 통해 복원된 음속도(SoS)와 조직 밀도(ESC)를 분석하여, 낭종과 암 조직을 쉽게 분별해 낼 수 있다. 또한, 이미징 장치(100)를 통해 복원된 감쇠계수(AC)와 조직 세포 크기(ESD)를 분석하여, 조직의 양성/음성 여부를 판별할 수 있다. Looking at the B-mode image (second row) acquired using the B-mode imaging technique, a conventional image restoration technique, it can be seen that differential diagnosis of the inserted tissue is very difficult. On the other hand, the imaging device 100 can restore attenuation coefficient (AC), speed of sound (SoS), scatterer density (ESC), and scatterer size (ESD), which are closely related to the biomechanical properties of tissue. Therefore, by analyzing the speed of sound (SoS) and tissue density (ESC) restored through the imaging device 100, cysts and cancer tissues can be easily distinguished. Additionally, the attenuation coefficient (AC) and tissue cell size (ESD) restored through the imaging device 100 can be analyzed to determine whether the tissue is positive/negative.

도 10은 한 실시예에 따른 컴퓨팅 장치의 구성도이다.Figure 10 is a configuration diagram of a computing device according to one embodiment.

도 10을 참고하면, 이미징 장치(100)는 적어도 하나의 프로세서에 의해 동작하는 컴퓨팅 장치(500)일 수 있고, 초음파 프로브(10) 또는 초음파 프로브(10)에서 획득된 데이터를 제공하는 장치와 연결된다.Referring to FIG. 10, the imaging device 100 may be a computing device 500 operated by at least one processor and connected to the ultrasonic probe 10 or a device that provides data acquired from the ultrasonic probe 10. do.

컴퓨팅 장치(500)는 하나 이상의 프로세서(510), 프로세서(510)에 의하여 수행되는 프로그램을 로드하는 메모리(530), 프로그램 및 각종 데이터를 저장하는 스토리지(550), 통신 인터페이스(570), 그리고 이들을 연결하는 버스(590)를 포함할 수 있다. 이외에도, 컴퓨팅 장치(500)는 다양한 구성 요소가 더 포함될 수 있다. 프로그램은 메모리(530)에 로드될 때 프로세서(510)로 하여금 본 개시의 다양한 실시예에 따른 방법/동작을 수행하도록 하는 명령어들(instruction)을 포함할 수 있다. 즉, 프로세서(510)는 명령어들을 실행함으로써, 본 개시의 다양한 실시예에 따른 방법/동작들을 수행할 수 있다. 명령어는 기능을 기준으로 묶인 일련의 컴퓨터 판독가능 명령어들로서 컴퓨터 프로그램의 구성 요소이자 프로세서에 의해 실행되는 것을 가리킨다.The computing device 500 includes one or more processors 510, a memory 530 that loads a program executed by the processor 510, a storage 550 that stores programs and various data, a communication interface 570, and these. It may include a connecting bus 590. In addition, the computing device 500 may further include various components. When loaded into the memory 530, the program may include instructions that cause the processor 510 to perform methods/operations according to various embodiments of the present disclosure. That is, the processor 510 can perform methods/operations according to various embodiments of the present disclosure by executing instructions. Instructions are a series of computer-readable instructions grouped by function and are a component of a computer program and are executed by a processor.

프로세서(510)는 컴퓨팅 장치(500)의 각 구성의 전반적인 동작을 제어한다. 프로세서(510)는 CPU(Central Processing Unit), MPU(Micro Processor Unit), MCU(Micro Controller Unit), GPU(Graphic Processing Unit) 또는 본 개시의 기술 분야에 잘 알려진 임의의 형태의 프로세서 중 적어도 하나를 포함하여 구성될 수 있다. 또한, 프로세서(510)는 본 개시의 다양한 실시예들에 따른 방법/동작을 실행하기 위한 적어도 하나의 애플리케이션 또는 프로그램에 대한 연산을 수행할 수 있다. The processor 510 controls the overall operation of each component of the computing device 500. The processor 510 includes at least one of a Central Processing Unit (CPU), Micro Processor Unit (MPU), Micro Controller Unit (MCU), Graphic Processing Unit (GPU), or any type of processor well known in the art of the present disclosure. It can be configured to include. Additionally, the processor 510 may perform operations on at least one application or program to execute methods/operations according to various embodiments of the present disclosure.

메모리(530)는 각종 데이터, 명령 및/또는 정보를 저장한다. 메모리(530)는 본 개시의 다양한 실시예들에 따른 방법/동작을 실행하기 위하여 스토리지(550)로부터 하나 이상의 프로그램을 로드할 수 있다. 메모리(530)는 RAM과 같은 휘발성 메모리로 구현될 수 있을 것이나, 본 개시의 기술적 범위는 이에 한정되지 않는다.The memory 530 stores various data, commands and/or information. Memory 530 may load one or more programs from storage 550 to execute methods/operations according to various embodiments of the present disclosure. The memory 530 may be implemented as a volatile memory such as RAM, but the technical scope of the present disclosure is not limited thereto.

스토리지(550)는 프로그램을 비임시적으로 저장할 수 있다. 스토리지(550)는 ROM(Read Only Memory), EPROM(Erasable Programmable ROM), EEPROM(Electrically Erasable Programmable ROM), 플래시 메모리 등과 같은 비휘발성 메모리, 하드 디스크, 착탈형 디스크, 또는 본 개시가 속하는 기술 분야에서 잘 알려진 임의의 형태의 컴퓨터로 읽을 수 있는 기록 매체를 포함하여 구성될 수 있다.Storage 550 may store programs non-temporarily. The storage 550 is a non-volatile memory such as Read Only Memory (ROM), Erasable Programmable ROM (EPROM), Electrically Erasable Programmable ROM (EEPROM), flash memory, a hard disk, a removable disk, or a device well known in the art to which this disclosure pertains. It may be configured to include any known type of computer-readable recording medium.

통신 인터페이스(570)는 컴퓨팅 장치(500)의 유무선 통신을 지원한다. 이를 위해, 통신 인터페이스(570)는 본 개시의 기술 분야에 잘 알려진 통신 모듈을 포함하여 구성될 수 있다. The communication interface 570 supports wired and wireless communication of the computing device 500. To this end, the communication interface 570 may be configured to include a communication module well known in the technical field of the present disclosure.

버스(590)는 컴퓨팅 장치(500)의 구성 요소 간 통신 기능을 제공한 다. 버스(590)는 주소 버스(Address Bus), 데이터 버스(Data Bus) 및 제어 버스(Control Bus) 등 다양한 형태의 버스로 구현될 수 있다.Bus 590 provides communication functions between components of computing device 500. The bus 590 may be implemented as various types of buses, such as an address bus, a data bus, and a control bus.

이와 같이, 실시예에 따르면, 단일한 신경망을 통해 조직의 초음파 데이터로부터 조다양한 정량적 변수들을 실시간으로 이미징할 수 있다. As such, according to the embodiment, a variety of quantitative variables can be imaged in real time from tissue ultrasound data through a single neural network.

실시예에 따르면, 구조적 유사성을 가지는 변수들의 정량적 이미지를 복원하는 과정에서 공유되는 정보를 통해 고품질의 복원 이미지를 생성할 수 있다.According to an embodiment, a high-quality restored image can be generated through information shared in the process of restoring a quantitative image of variables having structural similarity.

실시예에 따르면, B-모드(Brightness mode) 이미징용 초음파 프로브 및 영상 기기를 그대로 이용할 수 있으므로, 영상 촬영이 간단하고, 기존 초음파 영상장비로 측정 가능한 여러 기관들의 측정이 가능하다. According to the embodiment, since the ultrasound probe and imaging device for B-mode (brightness mode) imaging can be used as is, imaging is simple and various organs that can be measured with existing ultrasound imaging equipment can be measured.

실시예에 따르면, 단일 초음파 프로브를 이용하는 사용자의 숙련도에 관계없이, 고품질의 정량적 이미지를 복원할 수 있다.According to an embodiment, a high-quality quantitative image can be restored regardless of the user's skill level using a single ultrasound probe.

이상에서 설명한 본 발명의 실시예는 장치 및 방법을 통해서만 구현이 되는 것은 아니며, 본 발명의 실시예의 구성에 대응하는 기능을 실현하는 프로그램 또는 그 프로그램이 기록된 기록 매체를 통해 구현될 수도 있다.The embodiments of the present invention described above are not only implemented through devices and methods, but can also be implemented through programs that implement functions corresponding to the configurations of the embodiments of the present invention or recording media on which the programs are recorded.

이상에서 본 발명의 실시예에 대하여 상세하게 설명하였지만 본 발명의 권리범위는 이에 한정되는 것은 아니고 다음의 청구범위에서 정의하고 있는 본 발명의 기본 개념을 이용한 당업자의 여러 변형 및 개량 형태 또한 본 발명의 권리범위에 속하는 것이다.Although the embodiments of the present invention have been described in detail above, the scope of the present invention is not limited thereto, and various modifications and improvements made by those skilled in the art using the basic concept of the present invention defined in the following claims are also possible. It falls within the scope of rights.

Claims (18)

적어도 하나의 프로세서에 의해 동작하는 이미징 장치의 동작 방법으로서,
조직에서 수득된 초음파 데이터를 입력받는 단계, 그리고
상기 초음파 데이터로부터, 다수의 변수들 중에서 선택된 목적 변수에 따라 신경망의 네트워크 파라미터를 변경하여 상기 목적 변수에 해당하는 특징을 추출하고, 상기 특징을 복원하여 상기 목적 변수의 정량적 이미지를 출력하는 단계
를 포함하는 동작 방법.
1. A method of operating an imaging device operated by at least one processor, comprising:
A step of receiving ultrasound data obtained from the tissue, and
From the ultrasound data, changing network parameters of a neural network according to a target variable selected from among a plurality of variables to extract features corresponding to the target variable, and restoring the features to output a quantitative image of the target variable.
An operation method comprising:
제1항에서,
상기 초음파 데이터는 서로 다른 빔패턴들로 상기 조직에 입사된 초음파 신호들이, 상기 조직에서 반사되어 되돌아온 다패턴 RF(Radio Frequency) 데이터인, 동작 방법.
In paragraph 1:
The ultrasound data is multi-pattern RF (Radio Frequency) data in which ultrasound signals incident on the tissue with different beam patterns are reflected from the tissue and returned.
제1항에서,
상기 다수의 변수들은
감쇠 계수(Attenuation Coefficient, AC), 음속도(Speed of Sound, SoS), 산란체 밀도(Effective Scatterer Concentration, ESC), 그리고 산란체 크기(Effective Scatterer Diameter, ESD) 중 둘 이상을 포함하는, 동작 방법.
In paragraph 1:
The above multiple variables are
An operation method comprising two or more of Attenuation Coefficient (AC), Speed of Sound (SoS), Effective Scatterer Concentration (ESC), and Effective Scatterer Diameter (ESD) .
삭제delete 제1항에서,
상기 신경망은 상기 목적 변수에 따라 선택된 값으로 정규화하는 조건부 인코딩을 수행하는, 동작 방법.
In paragraph 1:
The neural network performs conditional encoding to normalize to a value selected according to the target variable.
제1항에서,
상기 목적 변수의 정량적 이미지를 출력하는 단계는
상기 신경망의 인코더에서 출력된 특징을 동일한 경로로 복원하는 상기 신경망의 디코더를 통해, 상기 목적 변수의 정량적 이미지를 출력하는, 동작 방법.
In paragraph 1:
The step of outputting a quantitative image of the target variable is
An operating method for outputting a quantitative image of the target variable through a decoder of the neural network that restores the features output from the encoder of the neural network through the same path.
제6항에서,
상기 디코더는 서로 다른 변수들의 특징들을 복원하는 경로에서 구조적 유사성을 보존하면서 각 변수의 특징을 복원하는 네트워크로 구성되는, 동작 방법.
In paragraph 6:
The decoder is comprised of a network that restores the features of each variable while preserving structural similarity in a path for restoring the features of different variables.
컴퓨터 프로그램을 로드하는 메모리, 그리고
상기 컴퓨터 프로그램을 실행하여, 조직에서 수득된 초음파 데이터로부터, 다수의 변수들 중에서 선택된 목적 변수에 따라 신경망의 네트워크 파라미터를 변경하여 상기 목적 변수에 해당하는 특징을 추출하며, 상기 특징을 복원하여 상기 목적 변수의 정량적 이미지를 출력하는 프로세서
를 포함하는, 이미징 장치.
memory that loads computer programs, and
Executing the computer program, the network parameters of the neural network are changed according to the target variable selected from among a plurality of variables from the ultrasound data obtained from the tissue to extract features corresponding to the target variable, and the features are restored to achieve the target variable. Processor that outputs quantitative images of variables
Including, an imaging device.
제8항에서,
상기 초음파 데이터는 서로 다른 빔패턴들로 상기 조직에 입사된 초음파 신호들이 상기 조직에서 반사되어 되돌아온 다패턴 RF(Radio Frequency) 데이터인, 이미징 장치.
In paragraph 8:
The ultrasound data is multi-pattern RF (Radio Frequency) data in which ultrasound signals incident on the tissue with different beam patterns are reflected from the tissue and returned.
제8항에서,
상기 다수의 변수들은
감쇠 계수(Attenuation Coefficient, AC), 음속도(Speed of Sound, SoS), 산란체 밀도(Effective Scatterer Concentration, ESC), 그리고 산란체 크기(Effective Scatterer Diameter, ESD) 중 둘 이상을 포함하는, 이미징 장치.
In paragraph 8:
The above multiple variables are
An imaging device comprising two or more of Attenuation Coefficient (AC), Speed of Sound (SoS), Effective Scatterer Concentration (ESC), and Effective Scatterer Diameter (ESD) .
제8항에서,
상기 프로세서는
인코더 및 디코더로 구성된 신경망을 통해, 상기 초음파 데이터로부터, 다수의 변수들 중에서 선택된 목적 변수에 해당하는 정량적 이미지를 출력하고,
상기 인코더는 상기 다수의 변수들 중에서 선택된 상기 목적 변수에 따라 네트워크 파라미터를 변경하여, 상기 초음파 데이터로부터 상기 목적 변수에 해당하는 특징을 추출하는 네트워크로 구성되고,
상기 디코더는 상기 인코더에서 출력된 특징을 동일한 경로로 복원하는 네트워크로 구성되는, 이미징 장치.
In paragraph 8:
The processor is
Outputting a quantitative image corresponding to a target variable selected from among a plurality of variables from the ultrasound data through a neural network composed of an encoder and a decoder,
The encoder consists of a network that changes network parameters according to the target variable selected from among the plurality of variables and extracts features corresponding to the target variable from the ultrasound data,
The decoder is configured as a network that restores the features output from the encoder through the same path.
제11항에서,
상기 신경망은 상기 목적 변수에 따라 선택된 값으로 정규화하는 조건부 인코딩을 수행하는, 이미징 장치.
In paragraph 11:
The neural network performs conditional encoding to normalize to a value selected according to the target variable.
제11항에서,
상기 디코더는 서로 다른 변수들의 특징들을 복원하는 경로에서 구조적 유사성을 보존하면서 각 변수의 특징을 복원하는 네트워크로 구성되는, 이미징 장치.
In paragraph 11:
The decoder is comprised of a network that restores the features of each variable while preserving structural similarity in a path to restore the features of different variables.
컴퓨터 판독 가능한 저장 매체에 저장되고, 프로세서에 의해 실행되는 명령어들을 포함하는 컴퓨터 프로그램으로서,
조직에서 수득된 초음파 데이터를 입력받고, 상기 초음파 데이터로부터 복원 가능한 다수의 변수들 중에서 목적 변수가 선택되면, 선택된 상기 목적 변수에 따라 네트워크 파라미터를 변경하여, 상기 초음파 데이터로부터 상기 목적 변수에 해당하는 특징을 추출하는 인코더, 그리고
상기 인코더에서 출력된 특징을 복원하여 상기 목적 변수의 정량적 이미지를 출력하는 디코더를 실행시키는 명령어들을 포함하는, 컴퓨터 프로그램.
A computer program stored in a computer-readable storage medium and including instructions executed by a processor,
When ultrasound data obtained from a tissue is input and a target variable is selected from among a plurality of variables that can be restored from the ultrasound data, network parameters are changed according to the selected target variable, and features corresponding to the target variable are selected from the ultrasound data. an encoder that extracts, and
A computer program comprising instructions for executing a decoder that restores the features output from the encoder and outputs a quantitative image of the target variable.
제14항에서,
상기 초음파 데이터는 서로 다른 빔패턴들로 상기 조직에 입사된 초음파 신호들이 상기 조직에서 반사되어 되돌아온 다패턴 RF(Radio Frequency) 데이터인, 컴퓨터 프로그램.
In paragraph 14:
The ultrasound data is multi-pattern RF (Radio Frequency) data in which ultrasound signals incident on the tissue with different beam patterns are reflected from the tissue and returned, a computer program.
제14항에서,
상기 다수의 변수들은
감쇠 계수(Attenuation Coefficient, AC), 음속도(Speed of Sound, SoS), 산란체 밀도(Effective Scatterer Concentration, ESC), 그리고 산란체 크기(Effective Scatterer Diameter, ESD) 중 둘 이상을 포함하는, 컴퓨터 프로그램.
In paragraph 14:
The above multiple variables are
A computer program that includes two or more of Attenuation Coefficient (AC), Speed of Sound (SoS), Effective Scatterer Concentration (ESC), and Effective Scatterer Diameter (ESD) .
제14항에서,
상기 인코더는 상기 목적 변수에 따라 선택된 값으로 정규화하는 조건부 인코딩 블록을 포함하는, 컴퓨터 프로그램.
In paragraph 14:
A computer program, wherein the encoder includes a conditional encoding block that normalizes to a value selected according to the target variable.
제14항에서,
상기 디코더는 서로 다른 변수들의 특징들을 복원하는 경로에서 구조적 유사성을 보존하면서 각 변수의 특징을 복원하는 네트워크로 구성되는, 컴퓨터 프로그램.
In paragraph 14:
The decoder is a computer program that consists of a network that restores the features of each variable while preserving structural similarity in a path to restore the features of different variables.
KR1020210135583A 2021-01-25 2021-10-13 Method and apparatus for multi-variable quantitative imaging using ultrasound data KR102655333B1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20210010030 2021-01-25
KR1020210010030 2021-01-25

Publications (2)

Publication Number Publication Date
KR20220107912A KR20220107912A (en) 2022-08-02
KR102655333B1 true KR102655333B1 (en) 2024-04-05

Family

ID=82846028

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210135583A KR102655333B1 (en) 2021-01-25 2021-10-13 Method and apparatus for multi-variable quantitative imaging using ultrasound data

Country Status (1)

Country Link
KR (1) KR102655333B1 (en)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012239546A (en) 2011-05-17 2012-12-10 Fujifilm Corp Ultrasound diagnostic apparatus
JP6457157B2 (en) 2016-06-23 2019-01-23 株式会社日立製作所 Ultrasonic imaging apparatus and ultrasonic imaging method in ultrasonic imaging apparatus
KR102067340B1 (en) 2018-07-16 2020-01-16 한국과학기술원 Method for generating breast masses according to the lesion characteristics and the system thereof
WO2020254159A1 (en) * 2019-06-20 2020-12-24 Koninklijke Philips N.V. Method and system for generating a synthetic elastrography image
JP2021133123A (en) 2020-02-28 2021-09-13 キヤノン株式会社 Ultrasonic diagnostic device, learning device, image processing method and program

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100932472B1 (en) * 2005-12-28 2009-12-18 주식회사 메디슨 Ultrasound Diagnostic System for Detecting Lesions
KR20130080640A (en) * 2012-01-05 2013-07-15 삼성메디슨 주식회사 Method and apparatus for providing ultrasound images

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012239546A (en) 2011-05-17 2012-12-10 Fujifilm Corp Ultrasound diagnostic apparatus
JP6457157B2 (en) 2016-06-23 2019-01-23 株式会社日立製作所 Ultrasonic imaging apparatus and ultrasonic imaging method in ultrasonic imaging apparatus
KR102067340B1 (en) 2018-07-16 2020-01-16 한국과학기술원 Method for generating breast masses according to the lesion characteristics and the system thereof
WO2020254159A1 (en) * 2019-06-20 2020-12-24 Koninklijke Philips N.V. Method and system for generating a synthetic elastrography image
JP2021133123A (en) 2020-02-28 2021-09-13 キヤノン株式会社 Ultrasonic diagnostic device, learning device, image processing method and program

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
"Robust Single-Probe Quantitative Ultrasonic Imaging System With a Target-Aware Deep Neural Network", IEEE transaction on Bio. vol.68, No.12(2021.6.7.)
'A learned representation for multi-variable ultrasonic lesion quantification', 2021 IEEE 18th International Symposium on Biomedical Imaging (ISBI), 1177-1181
'A neural framework for multi-variable lesion quantification through b-mode style transfer', Medical Image Computing and Computer Assisted Intervention-MICCAI 2021
'Quantitative imaging with a single probe in abdominal ultrasound', Medical Imaging 2023: Ultrasonic Imaging and Tomography 12470, 56-62

Also Published As

Publication number Publication date
KR20220107912A (en) 2022-08-02

Similar Documents

Publication Publication Date Title
US11965993B2 (en) Measurement and imaging instruments and beamforming method
JP6148257B2 (en) Laser photoacoustic ultrasonic imaging system (Louis) and method of use
Ding et al. Efficient 3-D model-based reconstruction scheme for arbitrary optoacoustic acquisition geometries
KR102380167B1 (en) Method and apparatus for quantitative ultrasound imaging using single-ultrasound probe
Awasthi et al. Sinogram super-resolution and denoising convolutional neural network (SRCN) for limited data photoacoustic tomography
JP5496031B2 (en) Acoustic wave signal processing apparatus, control method thereof, and control program
CN107049237A (en) Information acquisition device and signal processing method
Zalev et al. Detecting abnormal vasculature from photoacoustic signals using wavelet-packet features
JP2017119094A (en) Information acquisition apparatus, information acquisition method, and program
CN106852684A (en) Photo-acoustic device and display control method
Gao et al. Deep learning-based photoacoustic imaging of vascular network through thick porous media
Prasad et al. DeepUCT: Complex cascaded deep learning network for improved ultrasound tomography
JP5847454B2 (en) Subject information acquisition apparatus, display control method, and program
Ghanbarzadeh-Dagheyan et al. Time-domain ultrasound as prior information for frequency-domain compressive ultrasound for intravascular cell detection: A 2-cell numerical model
Liu et al. Review of microwave imaging algorithms for stroke detection
US20210204904A1 (en) Ultrasound diagnostic system
KR102655333B1 (en) Method and apparatus for multi-variable quantitative imaging using ultrasound data
Sun et al. An iterative gradient convolutional neural network and its application in endoscopic photoacoustic image formation from incomplete acoustic measurement
EP3329843B1 (en) Display control apparatus, display control method, and program
KR102490019B1 (en) Method and apparatus for quantitative imaging using ultrasound data
Ghosh et al. Breast lesion segmentation in ultrasound images using deep convolutional neural networks
JP6072206B2 (en) SUBJECT INFORMATION ACQUISITION DEVICE AND DISPLAY METHOD
Sivasubramanian et al. Deep learning for image processing and reconstruction to enhance led-based photoacoustic imaging
KR20240061596A (en) Method and system for quantitative ultrasound imaging using knowledge distillation
KR20230011856A (en) Method and apparatus for quantitative imaging in medical ultrasound

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant