KR20220107912A - Method and apparatus for multi-variable quantitative imaging using ultrasound data - Google Patents

Method and apparatus for multi-variable quantitative imaging using ultrasound data Download PDF

Info

Publication number
KR20220107912A
KR20220107912A KR1020210135583A KR20210135583A KR20220107912A KR 20220107912 A KR20220107912 A KR 20220107912A KR 1020210135583 A KR1020210135583 A KR 1020210135583A KR 20210135583 A KR20210135583 A KR 20210135583A KR 20220107912 A KR20220107912 A KR 20220107912A
Authority
KR
South Korea
Prior art keywords
target variable
ultrasound data
variables
tissue
variable
Prior art date
Application number
KR1020210135583A
Other languages
Korean (ko)
Other versions
KR102655333B1 (en
Inventor
배현민
오석환
김명기
Original Assignee
한국과학기술원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국과학기술원 filed Critical 한국과학기술원
Publication of KR20220107912A publication Critical patent/KR20220107912A/en
Application granted granted Critical
Publication of KR102655333B1 publication Critical patent/KR102655333B1/en

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5207Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of raw data to produce diagnostic data, e.g. for generating an image
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08Clinical applications
    • A61B8/0825Clinical applications for diagnosis of the breast, e.g. mammography
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08Clinical applications
    • A61B8/0833Clinical applications involving detecting or locating foreign bodies or organic structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/48Diagnostic techniques
    • A61B8/485Diagnostic techniques involving measuring strain or elastic properties
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Radiology & Medical Imaging (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biophysics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Pathology (AREA)
  • Veterinary Medicine (AREA)
  • Biomedical Technology (AREA)
  • Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)

Abstract

The present invention relates to a method for operating an imaging apparatus operated by at least one processor, comprising the steps of: receiving ultrasound data obtained from a tissue; and extracting a feature corresponding to a target variable selected from among a plurality of variables, from the ultrasound data, and restoring the feature, to output a quantitative image of the target variable.

Description

초음파 데이터를 이용한 다변수 정량적 이미징 방법 및 장치{METHOD AND APPARATUS FOR MULTI-VARIABLE QUANTITATIVE IMAGING USING ULTRASOUND DATA}Multivariate quantitative imaging method and apparatus using ultrasound data

본 발명은 초음파 이미징에 관한 것이다.The present invention relates to ultrasound imaging.

암은 조기 발견이 어려워 주기적인 진단이 필요하고, 병변의 크기 및 특성을 지속적으로 모니터링해야 한다. 이를 위한 대표적인 영상 장비로는 엑스레이(X-ray), MRI(magnetic resonance imaging), CT(computed tomography), 초음파(ultrasound) 등이 있다. 엑스레이, MRI, CT는 방사능 노출 위험이 있고, 측정 시간이 길며 비용이 비싼 단점이 있는 반면, 초음파 영상 장비는 안전하고 비교적 저렴하며, 실시간 영상을 제공해서 사용자가 병변을 실시간으로 모니터링하면서 원하는 이미지를 얻을 수 있다. Since cancer is difficult to detect early, periodic diagnosis is required, and the size and characteristics of the lesion must be continuously monitored. Representative imaging equipment for this purpose includes X-rays, magnetic resonance imaging (MRI), computed tomography (CT), ultrasound, and the like. While X-rays, MRIs, and CTs have the risk of radiation exposure, long measurement times, and high costs, ultrasound imaging equipment is safe, relatively inexpensive, and provides real-time images so that users can monitor the lesion in real time and obtain the desired image. can be obtained

현재 가장 많이 상용화되어 있는 초음파 영상 장비로서, B-모드(Brightness mode) 이미징 시스템이 있다. B-모드 이미징 방법은 초음파가 물체 표면에서 반사되어 돌아오는 시간과 세기를 통해 물체 위치와 크기를 파악하는 방법이다. 이는 실시간으로 병변의 위치를 찾아 주기 때문에, 사용자가 병변을 실시간으로 모니터링하면서 원하는 영상을 효율적으로 얻을 수 있고, 안전하고 비교적 저렴하여 접근성이 좋다. 하지만 사용자의 숙련도에 따라 이미지의 질이 일정하게 유지되지 못하고, 정량적인 특성을 이미징하지 못한다는 단점이 있다. 즉, B-모드 기법은 조직의 형태학적인 정보만을 제공하기 때문에, 조직학적 특성으로 구분되는 양성종양과 악성종양을 구분하는 감별진단에서 민감도(sensitivity)와 특이도(specificity)가 낮을 수 있다.Currently, as the most commercially available ultrasound imaging equipment, there is a B-mode (brightness mode) imaging system. The B-mode imaging method is a method of determining the position and size of an object through the time and intensity of ultrasonic waves reflected from the object surface. Since it finds the location of the lesion in real time, the user can efficiently obtain the desired image while monitoring the lesion in real time, and it is safe and relatively inexpensive, so accessibility is good. However, there are disadvantages in that image quality cannot be kept constant depending on the skill level of the user and quantitative characteristics cannot be imaged. That is, since the B-mode technique provides only the morphological information of the tissue, the sensitivity and specificity may be low in the differential diagnosis for distinguishing benign and malignant tumors, which are distinguished by histological characteristics.

조직의 병리학적 변화는 세포의 구조적인 변화를 초래하며, 이에 따라 해당 조직에서 초음파 특성이 변하는 것을 이미징하는 것으로서, 대표적으로 탄성영상 기법(Elastography)과 초음파 단층촬영 기법(Ultrasound Computed Tomography, USCT)이 있다. 탄성영상 기법은 조직의 탄성도 및 강직도를 정량적으로 영상화할 수 있으나 전용 장치가 추가적으로 필요하고 많은 에너지를 소모한다. 따라서, 탄성영상 기법은 고가 초음파 장비에서만 적용이 가능하고, 프레임 속도(frame rate)가 낮아 동적으로 움직이는 조직을 영상화하는데 적합하지 않다. 초음파 단층촬영 기법은 고해상도의 정량적 이미지를 얻을 수 있지만 초음파 센서가 물체 주위를 둘러싸고 있어야 해서, 유방 촬영에 국한되고, 다양한 기관을 측정하는데 한계가 있다. 또한, 초음파 단층촬영 기법은 이미징까지 분 단위의 시간이 소요되어 실시간 움직임을 보지 못하고, 시스템의 크기가 매우 커서 이동이 불가능하다.Pathological changes in tissues cause structural changes in cells, and accordingly, imaging changes in ultrasound properties in the tissue. Representatively, Elastography and Ultrasound Computed Tomography (USCT) are used. have. Elastic imaging technique can quantitatively image the elasticity and stiffness of tissue, but it requires an additional dedicated device and consumes a lot of energy. Therefore, the elastic imaging technique can be applied only to expensive ultrasound equipment, and the frame rate is low, so it is not suitable for imaging dynamically moving tissues. The ultrasound tomography technique can obtain high-resolution quantitative images, but it is limited to mammography because the ultrasound sensor must surround the object, and there is a limitation in measuring various organs. In addition, in the ultrasound tomography technique, it takes minutes for imaging, so real-time movement cannot be seen, and the size of the system is very large, making it impossible to move.

본 개시는, 서로 다른 빔패턴들로 빔포밍된 초음파 신호들을 조직에 입사하고, 조직에서 반사되어 돌아온 다패턴 초음파 데이터를 이용하여, 조직의 다양한 변수들에 대한 정량적 특징을 이미징하는 방법 및 장치를 제공하는 것이다.The present disclosure provides a method and apparatus for imaging quantitative characteristics of various variables of tissue by inputting ultrasound signals beamformed into different beam patterns into tissue, and using multi-pattern ultrasound data that is reflected from the tissue and returned. will provide

본 개시는, 단일 초음파 프로브를 통해 조직에서 획득한 다패턴 초음파 데이터를 이용하여, 감쇠 계수(Attenuation Coefficient, AC), 음속도(Speed of Sound, SoS), 산란체 밀도(Effective Scatterer Concentration, ESC), 산란체 크기(Effective Scatterer Diameter, ESD)를 포함하는 변수들의 정량적 특징을 복합적으로 복원하는 신경망(neural network)을 제공하는 것이다.The present disclosure provides an Attenuation Coefficient (AC), a Speed of Sound (SoS), and an Effective Scatterer Concentration (ESC) using multi-pattern ultrasound data acquired from a tissue through a single ultrasound probe. , to provide a neural network that complexly reconstructs quantitative characteristics of variables including scatterer size (Effective Scatterer Diameter, ESD).

본 개시는, 복원하고자 하는 각 변수의 정량적 특징을 초음파 데이터로부터 목적 변수를 최적으로 추출하도록, 네트워크 파라미터를 변경하여 초음파 데이터를 가변적으로 인코딩하는 조건부 인코더(conditional encoder)를 이용하여, 조직의 다양한 정량적 변수들에 대한 이미지 복원 성능을 높이는 방법 및 장치를 제공하는 것이다.The present disclosure provides a conditional encoder that variably encodes ultrasound data by changing a network parameter so as to optimally extract a target variable from ultrasound data for quantitative characteristics of each variable to be restored, thereby providing various quantitative characteristics of tissue. An object of the present invention is to provide a method and apparatus for improving image restoration performance for variables.

한 실시에에 따라 적어도 하나의 프로세서에 의해 동작하는 이미징 장치의 동작 방법으로서, 조직에서 수득된 초음파 데이터를 입력받는 단계, 그리고 상기 초음파 데이터로부터, 다수의 변수들 중에서 선택된 목적 변수에 해당하는 특징을 추출하고, 상기 특징을 복원하여 상기 목적 변수의 정량적 이미지를 출력하는 단계를 포함한다.According to one embodiment, there is provided a method of operating an imaging device operated by at least one processor, comprising: receiving ultrasound data obtained from a tissue; and outputting a quantitative image of the target variable by extracting and reconstructing the feature.

상기 초음파 데이터는 서로 다른 빔패턴들로 상기 조직에 입사된 초음파 신호들이, 상기 조직에서 반사되어 되돌아온 다패턴 RF(Radio Frequency) 데이터일 수 있다.The ultrasound data may be multi-pattern RF (Radio Frequency) data in which ultrasound signals incident to the tissue in different beam patterns are reflected back from the tissue.

상기 다수의 변수들은 감쇠 계수(Attenuation Coefficient, AC), 음속도(Speed of Sound, SoS), 산란체 밀도(Effective Scatterer Concentration, ESC), 그리고 산란체 크기(Effective Scatterer Diameter, ESD) 중 둘 이상을 포함할 수 있다. The plurality of variables is an Attenuation Coefficient (AC), a Speed of Sound (SoS), an Effective Scatterer Concentration (ESC), and two or more of an Effective Scatterer Diameter (ESD). may include

상기 목적 변수의 정량적 이미지를 출력하는 단계는 상기 다수의 변수들 중에서 선택된 상기 목적 변수에 따라 신경망의 네트워크 파라미터를 변경하여, 상기 초음파 데이터로부터 상기 목적 변수에 해당하는 특징을 추출할 수 있다. The outputting of the quantitative image of the target variable may include extracting a feature corresponding to the target variable from the ultrasound data by changing a network parameter of the neural network according to the target variable selected from among the plurality of variables.

상기 신경망은 상기 목적 변수에 따라 선택된 값으로 정규화하는 조건부 인코딩을 수행할 수 있다. The neural network may perform conditional encoding for normalizing to a value selected according to the target variable.

상기 목적 변수의 정량적 이미지를 출력하는 단계는 상기 신경망의 인코더에서 출력된 특징을 동일한 경로로 복원하는 상기 신경망의 디코더를 통해, 상기 목적 변수의 정량적 이미지를 출력할 수 있다. The outputting of the quantitative image of the target variable may include outputting the quantitative image of the target variable through a decoder of the neural network that restores features output from the encoder of the neural network to the same path.

상기 디코더는 서로 다른 변수들의 특징들을 복원하는 경로에서 구조적 유사성을 보존하면서 각 변수의 특징을 복원하는 네트워크로 구성될 수 있다.The decoder may be configured as a network that restores features of each variable while preserving structural similarity in a path for restoring features of different variables.

다른 실시예에 따른 이미징 장치로서, 컴퓨터 프로그램을 로드하는 메모리, 그리고 상기 컴퓨터 프로그램을 실행하여, 조직에서 수득된 초음파 데이터로부터, 다수의 변수들 중에서 선택된 목적 변수에 해당하는 특징을 추출하며, 상기 특징을 복원하여 상기 목적 변수의 정량적 이미지를 출력하는 프로세서를 포함한다.As an imaging apparatus according to another embodiment, a memory for loading a computer program, and executing the computer program, extracts a feature corresponding to a target variable selected from among a plurality of variables from ultrasound data obtained from a tissue, the feature and a processor for outputting a quantitative image of the target variable by restoring .

상기 초음파 데이터는 서로 다른 빔패턴들로 상기 조직에 입사된 초음파 신호들이 상기 조직에서 반사되어 되돌아온 다패턴 RF(Radio Frequency) 데이터일 수 있다. The ultrasound data may be multi-pattern RF (radio frequency) data in which ultrasound signals incident to the tissue in different beam patterns are reflected from the tissue and returned.

상기 다수의 변수들은 감쇠 계수(Attenuation Coefficient, AC), 음속도(Speed of Sound, SoS), 산란체 밀도(Effective Scatterer Concentration, ESC), 그리고 산란체 크기(Effective Scatterer Diameter, ESD) 중 둘 이상을 포함할 수 있다. The plurality of variables is an Attenuation Coefficient (AC), a Speed of Sound (SoS), an Effective Scatterer Concentration (ESC), and two or more of an Effective Scatterer Diameter (ESD). may include

상기 프로세서는 인코더 및 디코더로 구성된 신경망을 통해, 상기 초음파 데이터로부터, 다수의 변수들 중에서 선택된 목적 변수에 해당하는 정량적 이미지를 출력할 수 있다. 상기 인코더는 상기 다수의 변수들 중에서 선택된 상기 목적 변수에 따라 네트워크 파라미터를 변경하여, 상기 초음파 데이터로부터 상기 목적 변수에 해당하는 특징을 추출하는 네트워크로 구성될 수 있다. 상기 디코더는 상기 인코더에서 출력된 특징을 동일한 경로로 복원하는 네트워크로 구성될 수 있다. The processor may output a quantitative image corresponding to a target variable selected from among a plurality of variables from the ultrasound data through a neural network including an encoder and a decoder. The encoder may be configured as a network for extracting a feature corresponding to the target variable from the ultrasound data by changing a network parameter according to the target variable selected from among the plurality of variables. The decoder may be configured as a network that restores the features output from the encoder to the same path.

상기 신경망은 상기 목적 변수에 따라 선택된 값으로 정규화하는 조건부 인코딩을 수행할 수 있다.The neural network may perform conditional encoding for normalizing to a value selected according to the target variable.

상기 디코더는 서로 다른 변수들의 특징들을 복원하는 경로에서 구조적 유사성을 보존하면서 각 변수의 특징을 복원하는 네트워크로 구성될 수 있다.The decoder may be configured as a network that restores features of each variable while preserving structural similarity in a path for restoring features of different variables.

또 다른 실시예에 따라 컴퓨터 판독 가능한 저장 매체에 저장되고, 프로세서에 의해 실행되는 명령어들을 포함하는 컴퓨터 프로그램으로서, 조직에서 수득된 초음파 데이터를 입력받고, 상기 초음파 데이터로부터 복원 가능한 다수의 변수들 중에서 목적 변수가 선택되면, 선택된 상기 목적 변수에 따라 네트워크 파라미터를 변경하여, 상기 초음파 데이터로부터 상기 목적 변수에 해당하는 특징을 추출하는 인코더, 그리고 상기 인코더에서 출력된 특징을 복원하여 상기 목적 변수의 정량적 이미지를 출력하는 디코더를 실행시키는 명령어들을 포함한다.According to another embodiment, a computer program including instructions stored in a computer-readable storage medium and executed by a processor, which receives ultrasound data obtained from a tissue, and a purpose among a plurality of variables recoverable from the ultrasound data When a variable is selected, an encoder for extracting a feature corresponding to the target variable from the ultrasound data by changing a network parameter according to the selected target variable, and restoring a feature output from the encoder to obtain a quantitative image of the target variable Contains instructions for executing the output decoder.

상기 초음파 데이터는 서로 다른 빔패턴들로 상기 조직에 입사된 초음파 신호들이 상기 조직에서 반사되어 되돌아온 다패턴 RF(Radio Frequency) 데이터일 수 있다.The ultrasound data may be multi-pattern RF (radio frequency) data in which ultrasound signals incident to the tissue in different beam patterns are reflected from the tissue and returned.

상기 다수의 변수들은 감쇠 계수(Attenuation Coefficient, AC), 음속도(Speed of Sound, SoS), 산란체 밀도(Effective Scatterer Concentration, ESC), 그리고 산란체 크기(Effective Scatterer Diameter, ESD) 중 둘 이상을 포함할 수 있다.The plurality of variables is an Attenuation Coefficient (AC), a Speed of Sound (SoS), an Effective Scatterer Concentration (ESC), and two or more of an Effective Scatterer Diameter (ESD). may include

상기 인코더는 상기 목적 변수에 따라 선택된 값으로 정규화하는 조건부 인코딩 블록을 포함할 수 있다.The encoder may include a conditional encoding block that normalizes to a value selected according to the target variable.

상기 디코더는 서로 다른 변수들의 특징들을 복원하는 경로에서 구조적 유사성을 보존하면서 각 변수의 특징을 복원하는 네트워크로 구성될 수 있다.The decoder may be configured as a network that restores features of each variable while preserving structural similarity in a path for restoring features of different variables.

실시예에 따르면, 단일한 신경망을 통해 조직의 초음파 데이터로부터 조다양한 정량적 변수들을 실시간으로 이미징할 수 있다. According to an embodiment, it is possible to image various quantitative variables in real time from ultrasound data of a tissue through a single neural network.

실시예에 따르면, 구조적 유사성을 가지는 변수들의 정량적 이미지를 복원하는 과정에서 공유되는 정보를 통해 고품질의 복원 이미지를 생성할 수 있다.According to an embodiment, a high-quality reconstructed image may be generated through information shared in a process of reconstructing a quantitative image of variables having structural similarity.

실시예에 따르면, B-모드(Brightness mode) 이미징용 초음파 프로브 및 영상 기기를 그대로 이용할 수 있으므로, 영상 촬영이 간단하고, 기존 초음파 영상장비로 측정 가능한 여러 기관들의 측정이 가능하다. According to the embodiment, since the ultrasound probe and imaging device for B-mode (Brightness mode) imaging can be used as it is, imaging is simple, and various organs that can be measured with the existing ultrasound imaging device can be measured.

실시예에 따르면, 단일 초음파 프로브를 이용하는 사용자의 숙련도에 관계없이, 고품질의 정량적 이미지를 복원할 수 있다.According to an embodiment, a high-quality quantitative image may be reconstructed regardless of a user's skill level using a single ultrasound probe.

도 1은 초음파 데이터를 이용한 다변수 정량적 이미징 장치를 개념적으로 설명하는 도면이다.
도 2는 다패턴 초음파 데이터로부터 조직의 정량적 특성을 추출하는 신경망을 예시적으로 설명하는 도면이다.
도 3은 조건부 정규화(conditional normalization)를 설명하는 도면이다.
도 4는 다변수 정량적 이미지들을 복원하는 신경망의 인코더의 예시이다.
도 5는 다변수 정량적 이미지들을 복원하는 신경망의 디코더의 예시이다.
도 6은 한 실시예에 따른 초음파 데이터를 이용한 다변수 정량적 이미징 방법의 흐름도이다.
도 7은 다변수 정량적 시뮬레이션을 위한 팬텀의 예시이다.
도 8은 유방 모방 팬텀의 다변수 정량적 이미징 결과를 나타내는 도면이다.
도 9는 Ex-vivo 다변수 정량적 이미징 결과를 나타내는 도면이다.
도 10은 한 실시예에 따른 컴퓨팅 장치의 구성도이다.
1 is a diagram conceptually illustrating a multivariate quantitative imaging apparatus using ultrasound data.
2 is a diagram exemplarily illustrating a neural network for extracting quantitative characteristics of tissue from multi-pattern ultrasound data.
3 is a diagram for explaining conditional normalization.
4 is an example of an encoder of a neural network that reconstructs multivariate quantitative images.
5 is an illustration of a decoder of a neural network that reconstructs multivariate quantitative images.
6 is a flowchart of a multivariate quantitative imaging method using ultrasound data according to an exemplary embodiment.
7 is an example of a phantom for multivariate quantitative simulation.
8 is a diagram illustrating a multivariate quantitative imaging result of a breast-mimicking phantom.
9 is a view showing the results of ex-vivo multivariate quantitative imaging.
10 is a configuration diagram of a computing device according to an embodiment.

아래에서는 첨부한 도면을 참고로 하여 본 발명의 실시예에 대하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings so that those of ordinary skill in the art to which the present invention pertains can easily implement them. However, the present invention may be embodied in several different forms and is not limited to the embodiments described herein. And in order to clearly explain the present invention in the drawings, parts irrelevant to the description are omitted, and similar reference numerals are attached to similar parts throughout the specification.

명세서 전체에서, 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다. 또한, 명세서에 기재된 "…부", "…기", "모듈" 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어나 소프트웨어 또는 하드웨어 및 소프트웨어의 결합으로 구현될 수 있다.Throughout the specification, when a part "includes" a certain component, it means that other components may be further included, rather than excluding other components, unless otherwise stated. In addition, terms such as “…unit”, “…group”, and “module” described in the specification mean a unit that processes at least one function or operation, which may be implemented as hardware or software or a combination of hardware and software. have.

본 발명의 신경망은 적어도 하나의 태스크를 학습하는 인공지능 모델로서, 컴퓨팅 장치에서 실행되는 소프트웨어/프로그램으로 구현될 수 있다. 프로그램은 저장 매체(non-transitory storage media)에 저장되고, 프로세서에 의해 본 발명의 동작을 실행하도록 기술된 명령들(instructions)을 포함한다. 프로그램은 네트워크를 통해 다운로드되거나, 제품 형태로 판매될 수 있다.The neural network of the present invention is an artificial intelligence model for learning at least one task, and may be implemented as software/program executed in a computing device. The program is stored in a storage medium (non-transitory storage media), and includes instructions described for executing the operations of the present invention by a processor. The program may be downloaded over the network or sold as a product.

도 1은 초음파 데이터를 이용한 다변수 정량적 이미징 장치를 개념적으로 설명하는 도면이고, 도 2는 다패턴 초음파 데이터로부터 조직의 정량적 특성을 추출하는 신경망을 예시적으로 설명하는 도면이며, 도 3은 조건부 정규화(conditional normalization)를 설명하는 도면이다.1 is a diagram conceptually explaining a multivariate quantitative imaging apparatus using ultrasound data, FIG. 2 is a diagram exemplarily illustrating a neural network for extracting quantitative characteristics of tissue from multi-pattern ultrasound data, and FIG. 3 is conditional normalization. It is a diagram explaining (conditional normalization).

도 1을 참고하면, 다변수 정량적 이미징 장치(간단히, ‘이미징 장치’라고 함)(100)는 적어도 하나의 프로세서에 의해 동작하는 컴퓨팅 장치로서, 단일한 초음파 프로브(10)를 통해 조직에서 수득된 다패턴 초음파 데이터를 입력받는다. 이미징 장치(100)는 본 개시에서 설명하는 동작을 위한 컴퓨터 프로그램을 탑재하고, 컴퓨터 프로그램은 프로세서에 의해 실행된다. Referring to FIG. 1 , a multivariate quantitative imaging device (referred to simply as an 'imaging device') 100 is a computing device operated by at least one processor, and is obtained from a tissue through a single ultrasound probe 10 . Multi-pattern ultrasound data is input. The imaging apparatus 100 is loaded with a computer program for the operations described in the present disclosure, and the computer program is executed by a processor.

이미징 장치(100)는 다패턴 초음파 데이터로부터 조직의 정량적 특징을 추출하는 신경망(200)을 이용하여, 조직의 다변수 정량적 이미지들(Multi-variable quantitative images)을 복합적으로 생성할 수 있다. 여기서, 이미징 장치(100)는 조직의 정량적 변수들인 감쇠 계수(Attenuation Coefficient, AC), 음속도(Speed of Sound, SoS), 조직 내 밀도 분포를 나타내는 산란체 밀도(Effective Scatterer Concentration, ESC), 조직 내 세포 등의 크기를 나타내는 산란체 크기(Effective Scatterer Diameter, ESD) 등을 복원할 수 있다. 신경망(200)은 SQI-Net이라고 부를 수 있다. The imaging apparatus 100 may complexly generate multi-variable quantitative images of a tissue by using the neural network 200 that extracts quantitative features of the tissue from the multi-pattern ultrasound data. Here, the imaging device 100 includes an attenuation coefficient (AC), a speed of sound (SoS), an effective scatterer concentration (ESC) indicating a density distribution in a tissue, which are quantitative variables of a tissue, and a tissue. It is possible to restore the size of the scatterer (Effective Scatterer Diameter, ESD) indicating the size of the inner cell. The neural network 200 may be called SQI-Net.

한편, 감쇠 계수, 음속도, 산란체 밀도, 산란체 크기 각각은 병변 추출의 바이오마커로 알려져 있는 파라미터로서, 조직의 생체 역학적 특성과 밀접한 관련이 있다. 따라서, 여러 변수들을 사용할수록 병변의 포괄적 분석이 가능해서 진단 민감도(sensitivity)와 특이도(specificity)를 높일 수 있다. 하지만, 각 변수가 초음파 전파에 서로 다른 영향(distinct effect)을 미치기 때문에, 초음파 데이터로부터 여러 변수들을 동시에 복원하는 것이 쉽지 않다. Meanwhile, attenuation coefficient, sound velocity, scatterer density, and scatterer size are parameters known as biomarkers for lesion extraction, and are closely related to the biomechanical properties of tissues. Therefore, the more variables are used, the more comprehensive analysis of the lesion is possible, thereby increasing diagnostic sensitivity and specificity. However, since each variable has a distinct effect on ultrasound propagation, it is not easy to simultaneously reconstruct several variables from ultrasound data.

이를 해결하기 위해, 신경망(200)은 초음파 데이터에서 복원할 목적 변수에 따라 정량적 특징을 가변적으로 추출하는 조건부 인코딩(conditional encoding)을 수행한다. 이를 통해, 신경망(200)은 조직의 다변수 정량적 이미지들(Multi-variable quantitative images)을 복합적으로 생성할 수 있다. 여기서, 조건부 인코딩은, 초음파 데이터로부터 복원할 변수의 정량적 특징이 최적으로 추출되도록, 선택되는 변수에 따라 조건적으로 인코딩 경로의 네트워크 파라미터를 변경하여, 해당 변수에 대한 이미지 복원 성능을 높일 수 있다.To solve this problem, the neural network 200 performs conditional encoding for variably extracting quantitative features from ultrasound data according to a target variable to be restored. Through this, the neural network 200 may complexly generate multi-variable quantitative images of the tissue. Here, the conditional encoding conditionally changes the network parameter of the encoding path according to the selected variable so that the quantitative feature of the variable to be restored from the ultrasound data is optimally extracted, thereby improving image restoration performance for the corresponding variable.

신경망(200)이 정량적 이미지를 복원하는 동안, 독립적인 변수들의 특징들이 상보적인 정보(complementary information)를 제공하게 된다. 따라서, 신경망(200)이 각 변수의 정량적 이미지를 개별적으로 복원하더라도, 독립적인 변수들이 상보적인 정보를 제공하게 되어, 정량적 값을 좀 더 정확히 복원할 수 있다. While the neural network 200 reconstructs the quantitative image, the characteristics of the independent variables provide complementary information. Accordingly, even if the neural network 200 individually reconstructs the quantitative image of each variable, the independent variables provide complementary information, so that the quantitative value can be more accurately reconstructed.

조건부 인코더에서 추출된 각 변수의 특징들은 동일한 디코딩 경로를 통해 복원된다. 따라서, 각 정량적 이미지는 변수에 따라 개별적으로 복원되지만, 정량적 이미지들이 구조적 유사성을 가질 수 있다. 따라서, 신경망(200)이 구조적 유사성을 유지면서 다변수 정량적 이미지들을 복원하므로, 이미징 장치(100)는 고품질의 복원 이미지를 생성할 수 있다. The features of each variable extracted from the conditional encoder are reconstructed through the same decoding path. Thus, although each quantitative image is individually reconstructed according to a variable, the quantitative images may have structural similarity. Accordingly, since the neural network 200 reconstructs multivariate quantitative images while maintaining structural similarity, the imaging apparatus 100 may generate a high-quality reconstructed image.

조직의 다변수 정량적 이미지들을 복원하는 데 사용되는 다패턴 초음파 데이터는 초음파 프로브(10)로부터 수득된다. 초음파 프로브(10)는 초음파 신호를 방사하고, 조직에서 반사된 초음파 데이터를 수득할 수 있는 프로브이다. 조직으로 방사되는 초음파 신호는 평면파(plane wave)일 수 있다. 초음파 프로브(10)는 N개(예를 들면, 128개)의 초음파 센서들이 배열되고, 배열 모양에 따라 종류가 다양할 수 있다. 센서들은 압전 소자들(piezoelectrical elements)로 구현될 수 있다. 또한, 초음파 프로브(10)는 각 압전 소자에 일정한 시간 간격으로 전기적 신호를 가하여 초음파 신호를 생성하는 위상차 배열(phased array) 프로브일 수 있다. 참고로, 초음파 프로브(10)는 전형적인 B-모드 이미징용 프로브일 수 있다. 이 경우, 이미징 장치(100)는 B-모드 이미징에 사용되는 RF 데이터를 입력받는데, 설명에서 이를 초음파 데이터라고 부른다.Multi-pattern ultrasound data used to reconstruct multivariate quantitative images of tissue is obtained from the ultrasound probe 10 . The ultrasound probe 10 is a probe capable of emitting an ultrasound signal and obtaining ultrasound data reflected from a tissue. The ultrasound signal radiated to the tissue may be a plane wave. In the ultrasonic probe 10 , N (eg, 128) ultrasonic sensors are arranged, and there may be various types according to the arrangement shape. The sensors may be implemented with piezoelectrical elements. Also, the ultrasonic probe 10 may be a phased array probe that generates an ultrasonic signal by applying an electric signal to each piezoelectric element at regular time intervals. For reference, the ultrasound probe 10 may be a typical B-mode imaging probe. In this case, the imaging apparatus 100 receives RF data used for B-mode imaging, which is referred to as ultrasound data in the description.

초음파 프로브(10)는 서로 다른 빔패턴(Tx pattern #1~ #k)의 초음파 신호들을 조직에 입사하고, 조직에서 반사되어 되돌아온 RF(Radio Frequency) 데이터를 획득할 수 있다. 설명에서, 초음파 프로브(10)가 특정 빔패턴으로 방사된 초음파 신호에 대해 수득한 RF 데이터를 특정 빔패턴의 초음파 데이터라고 부른다. 복수의 빔패턴들로부터 수득된 초음파 데이터를 묶어서, 간단히 다패턴 초음파 데이터 또는 빔포밍 초음파 데이터(beamformed ultrasound data)라고 부를 수 있다. 다패턴 초음파 데이터는 예를 들면, 7개의 서로 다른 빔패턴들(θ1:7)에서 수득한 초음파 데이터이고, 서로 다른 빔패턴들은 예를 들면, 입사각이 -15°, -10°, -5°, 0°, 5°, 10°, 15°로 설정될 수 있다. The ultrasound probe 10 may input ultrasound signals of different beam patterns (Tx patterns #1 to #k) to the tissue, and may acquire radio frequency (RF) data reflected back from the tissue. In the description, RF data obtained by the ultrasound probe 10 for an ultrasound signal emitted in a specific beam pattern is referred to as ultrasound data of a specific beam pattern. By bundling ultrasound data obtained from a plurality of beam patterns, it may be simply referred to as multi-pattern ultrasound data or beamformed ultrasound data. The multi-pattern ultrasound data is, for example, ultrasound data obtained from 7 different beam patterns (θ 1:7 ), and the different beam patterns have, for example, incident angles of -15°, -10°, Can be set to -5°, 0°, 5°, 10°, 15°.

한편, 초음파 프로브(10)에서 수득된 초음파 데이터는, 초음파 프로브(10)의 센서별로, 반사된 초음파 신호를 수신한 지연 시간 정보를 포함한다. 따라서, 초음파 데이터는 센서별 지연 시간 정보를 나타내는 이미지로 표현될 수 있다. 이미지로 표현된 초음파 데이터를 편의 상, 초음파 데이터 이미지라고 부를 수 있고, 초음파 데이터 이미지가 신경망(200)의 입력 이미지로 사용될 수 있다.Meanwhile, the ultrasound data obtained by the ultrasound probe 10 includes delay time information for receiving the reflected ultrasound signal for each sensor of the ultrasound probe 10 . Accordingly, the ultrasound data may be expressed as an image representing delay time information for each sensor. The ultrasound data expressed as an image may be referred to as an ultrasound data image for convenience, and the ultrasound data image may be used as an input image of the neural network 200 .

도 2를 참고하면, 신경망(200)은 적어도 하나의 태스크를 학습할 수 있는 인공지능 모델로서, 컴퓨팅 장치에서 실행되는 소프트웨어/프로그램으로 구현될 수 있다. 신경망(200)은 다패턴 초음파 데이터 U를, 복원하고자 하는 목적 변수 q에 따라 인코딩하는 인코더(encoder)(210), 인코딩된 저해상도의 특징맵의 해상도를 높여 목적 변수의 고해상도 정량적 이미지 Iq를 생성하는 디코더(decoder)(230)를 포함한다.Referring to FIG. 2 , the neural network 200 is an artificial intelligence model capable of learning at least one task, and may be implemented as software/program executed in a computing device. The neural network 200 generates a high-resolution quantitative image I q of the target variable by increasing the resolution of the encoder 210 that encodes the multi-pattern ultrasound data U according to the target variable q to be restored, and the encoded low-resolution feature map. It includes a decoder (decoder) (230).

인코더(210)는 다패턴 초음파 데이터 이미지들(300)로 표현된 다패턴 초음파 데이터 U를 입력받을 수 있다. 디코더(230)는 목적 변수에 해당하는 고해상도의 정량적 이미지 Iq를 출력하는데, 감쇠계수 이미지(400-1), 음속도 이미지(400-2), 산란체 밀도 이미지(400-3), 산란체 크기 이미지(400-4), 이외에도, 목적 변수에 따라 복수의 변수들이 조합된 이미지들을 출력할 수 있다. The encoder 210 may receive multi-pattern ultrasound data U represented by the multi-pattern ultrasound data images 300 . The decoder 230 outputs a high-resolution quantitative image I q corresponding to the objective variable, an attenuation coefficient image 400-1, a sound velocity image 400-2, a scatterer density image 400-3, and a scatterer. In addition to the size image 400 - 4 , images in which a plurality of variables are combined according to a target variable may be output.

인코더(210)는 초음파 프로브(10)에서 수득된 초음파 데이터의 센서별 지연 시간을 나타내는 초음파 데이터 이미지들을 입력받고, 초음파 데이터 이미지들에 포함된 정량적 특징들(quantitative features)을 추출한다. 이때, 인코더(210)는 복원할 목적 변수에 따라 입력 이미지들의 정량적 특징을 가변적으로 추출하는 조건부 인코더(conditional encoder)일 수 있다. The encoder 210 receives ultrasound data images indicating a delay time for each sensor of the ultrasound data obtained from the ultrasound probe 10 , and extracts quantitative features included in the ultrasound data images. In this case, the encoder 210 may be a conditional encoder that variably extracts quantitative features of input images according to a target variable to be restored.

인코더(210)는 목적 변수 q에 따라, 인코딩 경로의 네트워크 파라미터들을 변경해서, 복원하고자 하는 변수의 정량적 특징을 최적으로 추출하는 조건부 인코딩을 수행한다. The encoder 210 performs conditional encoding for optimally extracting quantitative features of a variable to be restored by changing network parameters of an encoding path according to the target variable q.

도 3을 참고하면, 인코더(210)는, 목적 변수 q에 따라,

Figure pat00001
행렬에서 선택된 값인
Figure pat00002
Figure pat00003
으로, 정규화된 값
Figure pat00004
을 변환(스케일링 및 이동)할 수 있다.
Figure pat00005
는 목적 변수 q에 대한 스케일링(scaling) 값이고,
Figure pat00006
는 목적 변수 q에 대한 이동(shift) 값이다. 이를 통해, 인코더(210)는 목적 변수에 따라 입력 이미지들의 정량적 특징을 가변적으로 추출할 수 있다. 인코더(210)는, 예를 들면, 조건부 인스턴스 정규화(conditional instance normalization)을 수행해서, 목적 변수에 대응하는 정량적 특징을 추출할 수 있다. 목적 변수 q는 조직에서 추출하고자 하는 적어도 하나의 정량적 변수를 나타낸다.Referring to Figure 3, the encoder 210, according to the objective variable q,
Figure pat00001
the value selected from the matrix
Figure pat00002
and
Figure pat00003
, the normalized value
Figure pat00004
can be transformed (scaled and moved).
Figure pat00005
is the scaling value for the objective variable q,
Figure pat00006
is the shift value for the objective variable q. Through this, the encoder 210 may variably extract quantitative features of the input images according to the target variable. The encoder 210 may, for example, perform conditional instance normalization to extract a quantitative feature corresponding to the target variable. The objective variable q represents at least one quantitative variable to be extracted from the tissue.

다시 도 2를 참고하면, 디코더(230)는 인코더(210)에서 추출된 특징들을 동일한 경로로 복원한다. 디코더(230)는 인코더(210)에서 추출된 각 변수의 특징들은 동일한 디코딩 경로를 통해 복원하는 과정에서, 구조적 유사성을 보존하면서 각 변수의 특징을 복원하도록 학습된다. 따라서, 디코더(230)는 단일 목적 변수의 특징을 복원하더라도, 다른 변수들과의 구조적 유사성을 가지는 이미지를 출력하므로, 종래의 정량적 이미징 방법보다 훨씬 고해상도의 정량적 이미지를 생성할 수 있다. Referring back to FIG. 2 , the decoder 230 restores features extracted by the encoder 210 to the same path. The decoder 230 learns to restore the features of each variable while preserving structural similarity in the process of reconstructing the features of each variable extracted from the encoder 210 through the same decoding path. Accordingly, the decoder 230 outputs an image having structural similarity with other variables even when the characteristic of a single objective variable is restored, so that it is possible to generate a quantitative image with much higher resolution than the conventional quantitative imaging method.

신경망(200)의 학습에 사용되는 목적 함수 G*는 수학식 1과 같은 손실 함수로 정의될 수 있다. 신경망(200)은 목적 함수 G*를 이용하여, 복원 손실을 최소화하는 학습을 할 수 있다. The objective function G * used for learning of the neural network 200 may be defined as a loss function as in Equation 1. The neural network 200 may learn to minimize restoration loss by using the objective function G * .

Figure pat00007
Figure pat00007

수학식 1에서, 목적 함수 G*는 입력 U와 목적 변수 q로부터 추론된 출력 G(U,q)와, 목적 변수 q에 대한 그라운드 트루스 Yq의 차이를 최소화하는 함수이다. 목적 함수 G*는 과적합을 피하기 위해 L2 정규화(λ = 106)를 할 수 있다. In Equation 1, the objective function G * is a function that minimizes the difference between the output G(U,q) inferred from the input U and the objective variable q, and the ground truth Y q for the objective variable q. The objective function G * can undergo L 2 regularization (λ = 10 6 ) to avoid overfitting.

신경망(200)이 변수들에 대해 비슷한 수준으로 학습할 수 있도록, 반복(iteration)마다 목적 변수 q를 바꿀 수 있다. In order for the neural network 200 to learn about the variables at a similar level, the target variable q may be changed for each iteration.

도 4는 다변수 정량적 이미지들을 복원하는 신경망의 인코더의 예시이고, 도 5는 다변수 정량적 이미지들을 복원하는 신경망의 디코더의 예시이다.4 is an example of an encoder of a neural network that reconstructs multivariate quantitative images, and FIG. 5 is an example of a decoder of a neural network that reconstructs multivariate quantitative images.

도 4를 참고하면, 신경망(200)의 인코더(210)는 다패턴 초음파 데이터 이미지들(300)을 입력받는다. 각 초음파 데이터 이미지 Ui∈R128X3018는 빔포밍된 초음파 신호로부터 획득된 i번째 RF 데이터를 의미하는데, 여기서, 이미지는 프로브 센서들(transducer elements)의 수(N=128) 및 시간축 인덱스들(예를 들면, 3018)로 표현될 수 있다. Referring to FIG. 4 , the encoder 210 of the neural network 200 receives multi-pattern ultrasound data images 300 . Each ultrasound data image U i ∈R 128X3018 means i-th RF data obtained from a beamformed ultrasound signal, where the image includes the number of probe sensors (N=128) and time axis indexes (eg For example, it can be expressed as 3018).

인코더(210)는 다양한 네트워크 모델/네트워크 블록으로 인코딩 경로를 구성할 수 있다.The encoder 210 may configure an encoding path with various network models/network blocks.

인코더(210)는 다패턴 초음파 데이터 이미지들 U 각각을 컨볼루션 필터링한 후 통합하고, 목적 변수 q에 따라 특징값을 압축하는 인코딩 네트워크를 구성하고, 인코딩 네트워크를 통해 입력 U에서 추출된 특징맵 fq(U)를 출력한다. 인코딩 네트워크는 다양하게 구성될 수 있다. The encoder 210 convolutionally filters and integrates each of the multi-pattern ultrasound data images U, constructs an encoding network that compresses the feature value according to the objective variable q, and a feature map f extracted from the input U through the encoding network. Prints q (U). The encoding network may be configured in various ways.

인코더(210)는 각 입력 이미지에 해당하는 채널별로, 컨볼루션 필터링(2d-Convolution, 3×3 Kernel size) 및 활성화(예를 들면, 활성함수는 ReLU) 블록(211), 다운 샘플링(예를 들면, 1x2 stride) 블록(212)을 독립적으로 구성할 수 있다. The encoder 210 performs convolutional filtering (2d-Convolution, 3×3 kernel size) and activation (eg, activation function is ReLU) block 211, down-sampling (eg, For example, 1x2 stride) blocks 212 can be configured independently.

각 채널에서 필터링된 특징값은 채널 단위로 통합된 후, 조건부 인코딩 블록(213)으로 입력된다. 조건부 인코딩 블록(213)은 목적 변수 q에 따라,

Figure pat00008
행렬에서 선택된 값인
Figure pat00009
Figure pat00010
을 스케일링(scaling) 팩터 및 이동(shift) 팩터로 입력받고, 목적 변수에 따라 특징값을 변환할 수 있다. 조건부 인코딩 블록(213)은 예를 들면, 컨볼루션 필터링(2d-Convolution, 3×3 Kernel size) 블록(214), 조건부 인스턴스 정규화(conditional instance normalization) 블록(215), 그리고 활성화 블록(ReLU)(216)을 포함할 수 있다. After the feature values filtered in each channel are integrated for each channel, they are input to the conditional encoding block 213 . Conditional encoding block 213 according to the objective variable q,
Figure pat00008
the value selected from the matrix
Figure pat00009
and
Figure pat00010
may be input as a scaling factor and a shift factor, and a feature value may be transformed according to a target variable. The conditional encoding block 213 includes, for example, a 2d-Convolution (3×3 Kernel size) block 214, a conditional instance normalization block 215, and an activation block (ReLU) ( 216) may be included.

계속해서, 인코더(210)는 후속 조건부 인코딩 블록들(213)을 이용하여 다패턴 초음파 데이터에 포함된 정량적 변수에 대한 시간 도메인 및 공간 도메인에서의 특징값을 추출한다. Subsequently, the encoder 210 extracts feature values in the temporal and spatial domains of the quantitative variables included in the multi-pattern ultrasound data by using the subsequent conditional encoding blocks 213 .

예를 들면, 인코더(210)는 다운 샘플링 블록(예를 들면, 1x2 stride)(217)과 후속 조건부 인코딩 블록(213)을 반복적으로(예를 들면, 세 번) 연결하여, 시간 도메인에서의 특징값을 추출하는 시간 도메인 인코딩 블록을 구성할 수 있다. 다운 샘플링 블록(217)과 조건부 인코딩 블록(213)을 반복적으로 지나는 인코딩 경로를 통해, 다패턴 초음파 데이터에 포함된 정량적 변수의 시간 도메인에서의 상관 관계가 추출될 수 있다. 시간 도메인 인코딩 블록을 지나면서, 7개의 초음파 데이터 R128X3018는 (128X186) 사이즈의 128개 특징맵 R128X186X128 으로 인코딩될 수 있다. For example, the encoder 210 iteratively (eg, three times) concatenates a down-sampling block (eg, 1x2 stride) 217 with a subsequent conditional encoding block 213 , such that features in the time domain It is possible to construct a time domain encoding block that extracts values. Through an encoding path that repeatedly passes through the down-sampling block 217 and the conditional encoding block 213 , a correlation in the time domain of the quantitative variable included in the multi-pattern ultrasound data may be extracted. After passing through the time domain encoding block, 7 ultrasound data R 128X3018 may be encoded into 128 feature maps R 128X186X128 of (128X186) size.

인코더(210)는 공간 도메인에서의 특징을 추출하기 위해서, 다운 샘플링 블록(예를 들면, 2x2 stride)(218)과 후속 조건부 인코딩 블록(213)을 반복적으로(예를 들면, 두 번) 연결하여, 공간 도메인에서의 특징값을 추출하는 공간 도메인 인코딩 블록을 구성할 수 있다. 공간 도메인 인코딩 블록을 지나면서, 추출된 R32X47X128의 특징맵은 다운 샘플링 블록(예를 들면, 2x3 stride)(219)을 지나면서, R16X16X512의 특징맵 fq(U)로 인코딩될 수 있다. The encoder 210 repeatedly (eg, twice) concatenates the down-sampling block (eg, 2x2 stride) 218 and the subsequent conditional encoding block 213 to extract features in the spatial domain. , it is possible to configure a spatial domain encoding block for extracting feature values in the spatial domain. While passing through the spatial domain encoding block, the extracted feature map of R 32X47X128 may be encoded into the feature map f q (U) of R 16X16X512 while passing through the down-sampling block (eg, 2x3 stride) 219 .

인코더(210)는 목적 변수 q에 따라 추출한 다패턴 초음파 데이터 U의 특징맵 fq(U)를 출력한다. 출력 fq(U)는 디코더(230)로 입력된다. The encoder 210 outputs a feature map f q (U) of the multi-pattern ultrasound data U extracted according to the objective variable q. The output f q (U) is input to the decoder 230 .

도 5를 참고하면, 신경망(200)의 디코더(230)는 인코더(210)의 출력 fq(U)를 입력받고, 목적 변수 q에 해당하는 고해상도의 정량적 이미지 Iq를 생성한다. 예를 들어, 디코더(230)는 fq(U)∈R16X16X512로부터, 고해상도의 정량적 이미지 Iq∈R128X128를 생성할 수 있다. Referring to FIG. 5 , the decoder 230 of the neural network 200 receives the output f q (U) of the encoder 210 and generates a high-resolution quantitative image I q corresponding to the objective variable q. For example, the decoder 230 may generate a high-resolution quantitative image I q ∈R 128X128 from f q (U)∈R 16X16X512 .

디코더(230)는 다양한 네트워크 모델/네트워크 블록으로 디코딩 네트워크를 구성할 수 있다. 예를 들어, 디코더(230)는 업샘플링 방식으로 고해상도의 정량적 이미지 Iq를 생성할 수 있다. 또는 디코더(230)는 최근에 알려진 고해상도 네트워크(High-Resolution Network, HRNet) 기반의 병렬적 다중 해상도 서브네트워크들(parallel multi-resolution subnetworks)을 이용하여, 고해상도의 정량적 이미지 Iq를 생성할 수 있다.The decoder 230 may configure a decoding network with various network models/network blocks. For example, the decoder 230 may generate a high-resolution quantitative image I q by an upsampling method. Alternatively, the decoder 230 may generate a high-resolution quantitative image I q using parallel multi-resolution subnetworks based on a recently known High-Resolution Network (HRNet). .

병렬적 다중 해상도 서브네트워크들로 구성된 디코더(230)는 저해상도 서브네트워크에서부터 순차적으로 다중 해상도 컨볼루션(multi-resolution convolution)을 수행하여, 이미지 해상도를 높여가면서, 최종적으로 고해상도의 정량적 이미지 Iq를 생성할 수 있다. 디코더(230)의 출력 레이어는 가장 높은 해상도 표현으로 병합하고, 1x1 컨볼루션을 통해 합성된 고해상도의 정량적 이미지 Iq를 생성할 수 있다. 한편, 단위 서브네트워크는 예를 들면, 4개의 잔차 블록들(residual blocks)로 구현될 수 있고, 이를 통해 학습 안정성을 보장할 수 있다. The decoder 230 composed of parallel multi-resolution subnetworks sequentially performs multi-resolution convolution from the low-resolution subnetwork to increase the image resolution, and finally generates a high-resolution quantitative image I q . can do. The output layer of the decoder 230 may be merged into the highest resolution representation, and a high-resolution quantitative image I q synthesized through 1×1 convolution may be generated. Meanwhile, the unit subnetwork may be implemented as, for example, four residual blocks, thereby ensuring learning stability.

다중 해상도 컨볼루션은 다양한 정량적 프로파일들을 통합하여 고해상도의 정량적 이미지들을 생성하는 동안, 정보 손실을 최소화하면서, 저해상도 특징맵 fq(U)를 보존할 수 있다. 다중 해상도 융합은 서브네트워크들의 모든 노드에서 구현되어, 다중 해상도 표현을 통해 정보를 교환하는 데, 이것이 고해상도의 정량적 이미지 Iq 를 추출하는 데 중요한 역할을 한다. Multi-resolution convolution can preserve the low-resolution feature map f q (U) while minimizing information loss while integrating various quantitative profiles to generate high-resolution quantitative images. Multi-resolution fusion is implemented at all nodes of subnetworks to exchange information through multi-resolution representations, which play an important role in extracting high-resolution quantitative images I q .

도 6은 한 실시예에 따른 초음파 데이터를 이용한 다변수 정량적 이미징 방법의 흐름도이다.6 is a flowchart of a multivariate quantitative imaging method using ultrasound data according to an exemplary embodiment.

도 6을 참고하면, 이미징 장치(100)는 조직에서 수득된 다패턴 초음파 데이터를 입력받는다(S110). 다패턴 초음파 데이터는 서로 다른 빔패턴으로 방사된 초음파 신호에 대해 수득한 RF 데이터로서, 빔포밍 초음파 데이터(beamformed ultrasound data)라고 부를 수 있다.Referring to FIG. 6 , the imaging apparatus 100 receives multi-pattern ultrasound data obtained from tissue ( S110 ). The multi-pattern ultrasound data is RF data obtained with respect to ultrasound signals emitted in different beam patterns, and may be referred to as beamformed ultrasound data.

이미징 장치(100)는 다수의 변수들 중에서 복원할 목적 변수에 따라 네트워크 파라미터를 변경하여, 다패턴 초음파 데이터로부터, 선택된 목적 변수에 해당하는 특징을 추출하고, 목적 변수에 해당하는 특징을 복원하여 고해상도의 정량적 이미지를 출력한다(S120). 이를 위해, 이미징 장치(100)는 다패턴 초음파 데이터를 입력받고, 선택된 변수에 해당하는 정량적 이미지를 출력하도록 학습된 신경망(200)를 이용할 수 있다. 신경망(200)은 다수의 변수들 중에서 복원할 목적 변수에 따라 네트워크 파라미터를 변경하여, 다패턴 초음파 데이터로부터, 선택된 목적 변수에 해당하는 특징을 추출하는 조건부 인코더(210), 그리고 조건부 인코더(210)에서 추출된 목적 변수의 특징들을 동일한 경로로 복원하는 디코더(230)를 포함할 수 있다. The imaging apparatus 100 changes a network parameter according to a target variable to be restored among a plurality of variables, extracts a feature corresponding to the selected target variable from the multi-pattern ultrasound data, and restores the feature corresponding to the target variable to achieve high resolution outputs a quantitative image of (S120). To this end, the imaging apparatus 100 may use the learned neural network 200 to receive multi-pattern ultrasound data and output a quantitative image corresponding to the selected variable. The neural network 200 changes a network parameter according to a target variable to be restored among a plurality of variables, and extracts a feature corresponding to the selected target variable from the multi-pattern ultrasound data. A conditional encoder 210, and a conditional encoder 210 It may include a decoder 230 that restores the features of the target variable extracted from .

감쇠 계수, 음속도, 산란체 밀도, 산란체 크기 등을 포함하는 다수의 변수들 중에서, 복원할 목적 변수가 선택될 수 있다. 목적 변수는 단일한 변수일 수 있고, 또는 복수의 변수들일 수 있다. 예를 들어, 목적 변수가 감쇠 계수로 선택된 경우, 이미징 장치(100)는 입력된 다패턴 초음파 데이터로부터 감쇠 계수의 정량적 특징을 추출하고, 감쇠 계수가 표현된 정량적 이미지를 출력할 수 있다. 목적 변수가 감쇠 계수 및 음속도로 선택된 경우, 이미징 장치(100)는 입력된 다패턴 초음파 데이터로부터 감쇠 계수 및 음속도의 정량적 특징을 추출하고, 감쇠 계수 및 음속도가 표현된 정량적 이미지를 출력할 수 있다.A target variable to be restored may be selected from among a number of variables including attenuation coefficient, sound velocity, scatterer density, scatterer size, and the like. The target variable may be a single variable, or may be a plurality of variables. For example, when the target variable is selected as the attenuation coefficient, the imaging apparatus 100 may extract a quantitative feature of the attenuation coefficient from the input multi-pattern ultrasound data and output a quantitative image in which the attenuation coefficient is expressed. When the target variable is selected as the attenuation coefficient and the speed of sound, the imaging apparatus 100 may extract quantitative features of the attenuation coefficient and the speed of sound from the input multi-pattern ultrasound data, and output a quantitative image in which the attenuation coefficient and the speed of sound are expressed. have.

도 7은 다변수 정량적 시뮬레이션을 위한 팬텀의 예시이다.7 is an example of a phantom for multivariate quantitative simulation.

도 7을 참고하면, 신경망(200)의 학습 데이터는 여러 인체 환경에서 얻은 초음파 데이터로 구성될 수 있고, 초음파 시뮬레이션 툴을 이용하여 수집될 수 있다. 정교한 시뮬레이션을 통해 측정된 초음파 데이터를 통해 조직의 정량적 정보를 추출하는 것이 가능함을 확인할 수 있다. Referring to FIG. 7 , the learning data of the neural network 200 may be composed of ultrasound data obtained from various human environments, and may be collected using an ultrasound simulation tool. It can be confirmed that it is possible to extract quantitative information about tissue through ultrasound data measured through sophisticated simulation.

(a)는 시뮬레이션된 음속도 분포이고, (b)는 시뮬레이션된 감쇠계수 분포이며, (c)는 시뮬레이션된 밀도 분포이다. (a) is the simulated sound velocity distribution, (b) is the simulated damping coefficient distribution, and (c) the simulated density distribution.

장기(organs)와 병변(lesions)을 나타내는 시뮬레이션 팬텀(simulation phantoms)은 인체의 모방하면서도 간단하고 일반성을 잃지 않도록, 음속도 분포(a), 감쇠계수 분포(b), 밀도 분포(c)가 모델링될 수 있다. Simulation phantoms representing organs and lesions are modeled by sound velocity distribution (a), damping coefficient distribution (b), and density distribution (c) so as to imitate the human body and not lose its simplicity and generality. can be

예를 들면, 시뮬레이션에서 관심 영역(Region of Interest, RoI)은 45mm x 45mm으로 설정되고 반지름이 2~30mm인 타원들이 무작위로 배치될 수 있다. 배경과 타원은 1400~1700m/s 범위의 음속도, 0~1.5dB/cm/MHz 범위의 감쇠계수, 0.9~1.1kg/m3 범위의 밀도 값을 가질 수 있다. 크기가 25~150μm인 정사각형 speckle은 산란체 밀도 및 산란체 크기를 표현하기 위해, 0~10/wavelength2의 농도로 배치될 수 있다. For example, in the simulation, a region of interest (RoI) is set to 45 mm x 45 mm, and ellipses with a radius of 2 to 30 mm may be randomly arranged. The background and the ellipse may have a speed of sound in the range of 1400 to 1700 m/s, an attenuation coefficient in the range of 0 to 1.5 dB/cm/MHz, and a density value in the range of 0.9 to 1.1 kg/m 3 . A square speckle having a size of 25 to 150 μm may be arranged at a concentration of 0 to 10/wavelength 2 to express the scatterer density and the size of the scatterer.

도 8은 유방 모방 팬텀의 다변수 정량적 이미징 결과를 나타내는 도면이고, 도 9는 Ex-vivo 다변수 정량적 이미징 결과를 나타내는 도면이다.8 is a diagram showing the results of multivariate quantitative imaging of a breast-mimicking phantom, and FIG. 9 is a diagram illustrating the results of ex-vivo multivariate quantitative imaging.

도 8을 참고하면, 낭종(Cyst mass)과 암 조직을 포함하는 유방 모방 팬텀에서, 기존의 영상 복원 기법인 B-mode 영상 기법은 낭종/암 조직을 구별하지 못한다(왼쪽 아래). Referring to FIG. 8 , in a breast-mimicking phantom including a cyst mass and cancer tissue, the B-mode imaging technique, which is a conventional image restoration technique, does not distinguish between cyst/cancer tissue (lower left).

반면, 이미징 장치(100)는 감쇠계수(AC), 음속도(SoS), 산란체 밀도(ESC), 산란체 크기(ESD)를 복원할 수 있고, 이를 통해, 관측한 조직이 암 조직임을 쉽게 구별해 낼 수 있고, 95% 이상의 높은 정확도로 정량적 변수들을 복원할 수 있다. 예를 들어, 이미징 장치(100)는 감쇠계수(AC)가 정상보다 크거나, 음속도(SoS)가 정상보다 빠르거나, 산란체 밀도(ESC)가 정상보다 높거나, 산란체 크기(ESD)가 정상보다 작은 경우, 암 조직으로 판별할 수 있다. 이미징 장치(100)는 정확도를 높이기 위해, 다변수의 결과를 종합하여 암 조직을 판별할 수 있다.On the other hand, the imaging apparatus 100 may restore the attenuation coefficient (AC), the speed of sound (SoS), the scattering body density (ESC), and the scattering body size (ESD). It can distinguish and restore quantitative variables with a high accuracy of 95% or more. For example, the imaging device 100 may have an attenuation coefficient (AC) greater than normal, a speed of sound (SoS) faster than normal, a scatterer density (ESC) higher than normal, or a scatterer size (ESD). is smaller than normal, it can be identified as cancerous tissue. The imaging apparatus 100 may determine the cancer tissue by synthesizing the results of multiple variables in order to increase accuracy.

도 9를 참고하면, 소의 골격근에 양성(benign)(a), 악성(Malignant)(b), 암유사 물질(c)을 삽입하고, 이미징 장치(100)를 통해 정량적 변수들을 복원하여 암 분별 진단의 임상학적 의미를 검증하였다. Referring to FIG. 9 , benign (a), malignant (b), and cancer-like substances (c) are inserted into bovine skeletal muscle, and quantitative variables are restored through the imaging device 100 to differentiate cancer. was verified for clinical significance.

기존의 영상 복원 기법인 B-mode 영상 기법으로 획득한 B-모드 이미지(두 번째 열)를 살펴보면, 삽입 조직의 분별 진단이 매우 어려운 것을 확인할 수 있다. 반면, 이미징 장치(100)는 조직의 생체 역학적 특성과 밀접한 관련이 있는 감쇠계수(AC), 음속도(SoS), 산란체 밀도(ESC), 산란체 크기(ESD)를 복원할 수 있다. 따라서, 이미징 장치(100)를 통해 복원된 음속도(SoS)와 조직 밀도(ESC)를 분석하여, 낭종과 암 조직을 쉽게 분별해 낼 수 있다. 또한, 이미징 장치(100)를 통해 복원된 감쇠계수(AC)와 조직 세포 크기(ESD)를 분석하여, 조직의 양성/음성 여부를 판별할 수 있다. Looking at the B-mode image (second column) obtained by the B-mode imaging technique, which is a conventional image restoration technique, it can be seen that it is very difficult to make a differential diagnosis of the implanted tissue. On the other hand, the imaging apparatus 100 may restore the attenuation coefficient (AC), the speed of sound (SoS), the scattering body density (ESC), and the scattering body size (ESD), which are closely related to the biomechanical properties of the tissue. Accordingly, by analyzing the speed of sound (SoS) and the tissue density (ESC) restored through the imaging apparatus 100 , it is possible to easily distinguish a cyst from a cancerous tissue. In addition, by analyzing the attenuation coefficient (AC) and the tissue cell size (ESD) restored through the imaging apparatus 100 , it is possible to determine whether the tissue is positive or negative.

도 10은 한 실시예에 따른 컴퓨팅 장치의 구성도이다.10 is a configuration diagram of a computing device according to an embodiment.

도 10을 참고하면, 이미징 장치(100)는 적어도 하나의 프로세서에 의해 동작하는 컴퓨팅 장치(500)일 수 있고, 초음파 프로브(10) 또는 초음파 프로브(10)에서 획득된 데이터를 제공하는 장치와 연결된다.Referring to FIG. 10 , the imaging device 100 may be a computing device 500 operated by at least one processor, and is connected to the ultrasound probe 10 or a device providing data obtained from the ultrasound probe 10 . do.

컴퓨팅 장치(500)는 하나 이상의 프로세서(510), 프로세서(510)에 의하여 수행되는 프로그램을 로드하는 메모리(530), 프로그램 및 각종 데이터를 저장하는 스토리지(550), 통신 인터페이스(570), 그리고 이들을 연결하는 버스(590)를 포함할 수 있다. 이외에도, 컴퓨팅 장치(500)는 다양한 구성 요소가 더 포함될 수 있다. 프로그램은 메모리(530)에 로드될 때 프로세서(510)로 하여금 본 개시의 다양한 실시예에 따른 방법/동작을 수행하도록 하는 명령어들(instruction)을 포함할 수 있다. 즉, 프로세서(510)는 명령어들을 실행함으로써, 본 개시의 다양한 실시예에 따른 방법/동작들을 수행할 수 있다. 명령어는 기능을 기준으로 묶인 일련의 컴퓨터 판독가능 명령어들로서 컴퓨터 프로그램의 구성 요소이자 프로세서에 의해 실행되는 것을 가리킨다.The computing device 500 includes one or more processors 510 , a memory 530 for loading a program executed by the processor 510 , a storage 550 for storing programs and various data, a communication interface 570 , and these It may include a bus 590 for connecting. In addition, the computing device 500 may further include various components. The program may include instructions that, when loaded into the memory 530 , cause the processor 510 to perform a method/operation according to various embodiments of the present disclosure. That is, the processor 510 may perform methods/operations according to various embodiments of the present disclosure by executing instructions. An instruction refers to a set of computer readable instructions grouped on the basis of a function, which is a component of a computer program and is executed by a processor.

프로세서(510)는 컴퓨팅 장치(500)의 각 구성의 전반적인 동작을 제어한다. 프로세서(510)는 CPU(Central Processing Unit), MPU(Micro Processor Unit), MCU(Micro Controller Unit), GPU(Graphic Processing Unit) 또는 본 개시의 기술 분야에 잘 알려진 임의의 형태의 프로세서 중 적어도 하나를 포함하여 구성될 수 있다. 또한, 프로세서(510)는 본 개시의 다양한 실시예들에 따른 방법/동작을 실행하기 위한 적어도 하나의 애플리케이션 또는 프로그램에 대한 연산을 수행할 수 있다. The processor 510 controls the overall operation of each component of the computing device 500 . The processor 510 includes at least one of a central processing unit (CPU), a micro processor unit (MPU), a micro controller unit (MCU), a graphic processing unit (GPU), or any type of processor well known in the art of the present disclosure. may be included. In addition, the processor 510 may perform an operation on at least one application or program for executing the method/operation according to various embodiments of the present disclosure.

메모리(530)는 각종 데이터, 명령 및/또는 정보를 저장한다. 메모리(530)는 본 개시의 다양한 실시예들에 따른 방법/동작을 실행하기 위하여 스토리지(550)로부터 하나 이상의 프로그램을 로드할 수 있다. 메모리(530)는 RAM과 같은 휘발성 메모리로 구현될 수 있을 것이나, 본 개시의 기술적 범위는 이에 한정되지 않는다.The memory 530 stores various data, commands and/or information. The memory 530 may load one or more programs from the storage 550 to execute methods/operations according to various embodiments of the present disclosure. The memory 530 may be implemented as a volatile memory such as RAM, but the technical scope of the present disclosure is not limited thereto.

스토리지(550)는 프로그램을 비임시적으로 저장할 수 있다. 스토리지(550)는 ROM(Read Only Memory), EPROM(Erasable Programmable ROM), EEPROM(Electrically Erasable Programmable ROM), 플래시 메모리 등과 같은 비휘발성 메모리, 하드 디스크, 착탈형 디스크, 또는 본 개시가 속하는 기술 분야에서 잘 알려진 임의의 형태의 컴퓨터로 읽을 수 있는 기록 매체를 포함하여 구성될 수 있다.The storage 550 may non-temporarily store a program. The storage 550 is a non-volatile memory, such as a read only memory (ROM), an erasable programmable ROM (EPROM), an electrically erasable programmable ROM (EEPROM), a flash memory, a hard disk, a removable disk, or well in the art to which the present disclosure pertains. It may be configured to include any known computer-readable recording medium.

통신 인터페이스(570)는 컴퓨팅 장치(500)의 유무선 통신을 지원한다. 이를 위해, 통신 인터페이스(570)는 본 개시의 기술 분야에 잘 알려진 통신 모듈을 포함하여 구성될 수 있다. The communication interface 570 supports wired/wireless communication of the computing device 500 . To this end, the communication interface 570 may be configured to include a communication module well-known in the technical field of the present disclosure.

버스(590)는 컴퓨팅 장치(500)의 구성 요소 간 통신 기능을 제공한 다. 버스(590)는 주소 버스(Address Bus), 데이터 버스(Data Bus) 및 제어 버스(Control Bus) 등 다양한 형태의 버스로 구현될 수 있다.The bus 590 provides a communication function between components of the computing device 500 . The bus 590 may be implemented as various types of buses, such as an address bus, a data bus, and a control bus.

이와 같이, 실시예에 따르면, 단일한 신경망을 통해 조직의 초음파 데이터로부터 조다양한 정량적 변수들을 실시간으로 이미징할 수 있다. As such, according to the embodiment, it is possible to image various quantitative variables in real time from ultrasound data of a tissue through a single neural network.

실시예에 따르면, 구조적 유사성을 가지는 변수들의 정량적 이미지를 복원하는 과정에서 공유되는 정보를 통해 고품질의 복원 이미지를 생성할 수 있다.According to an embodiment, a high-quality reconstructed image may be generated through information shared in a process of reconstructing a quantitative image of variables having structural similarity.

실시예에 따르면, B-모드(Brightness mode) 이미징용 초음파 프로브 및 영상 기기를 그대로 이용할 수 있으므로, 영상 촬영이 간단하고, 기존 초음파 영상장비로 측정 가능한 여러 기관들의 측정이 가능하다. According to the embodiment, since the ultrasound probe and imaging device for B-mode (Brightness mode) imaging can be used as it is, imaging is simple, and various organs that can be measured with the existing ultrasound imaging device can be measured.

실시예에 따르면, 단일 초음파 프로브를 이용하는 사용자의 숙련도에 관계없이, 고품질의 정량적 이미지를 복원할 수 있다.According to an embodiment, a high-quality quantitative image may be reconstructed regardless of a user's skill level using a single ultrasound probe.

이상에서 설명한 본 발명의 실시예는 장치 및 방법을 통해서만 구현이 되는 것은 아니며, 본 발명의 실시예의 구성에 대응하는 기능을 실현하는 프로그램 또는 그 프로그램이 기록된 기록 매체를 통해 구현될 수도 있다.The embodiment of the present invention described above is not implemented only through the apparatus and method, but may be implemented through a program for realizing a function corresponding to the configuration of the embodiment of the present invention or a recording medium in which the program is recorded.

이상에서 본 발명의 실시예에 대하여 상세하게 설명하였지만 본 발명의 권리범위는 이에 한정되는 것은 아니고 다음의 청구범위에서 정의하고 있는 본 발명의 기본 개념을 이용한 당업자의 여러 변형 및 개량 형태 또한 본 발명의 권리범위에 속하는 것이다.Although the embodiments of the present invention have been described in detail above, the scope of the present invention is not limited thereto. is within the scope of the right.

Claims (18)

적어도 하나의 프로세서에 의해 동작하는 이미징 장치의 동작 방법으로서,
조직에서 수득된 초음파 데이터를 입력받는 단계, 그리고
상기 초음파 데이터로부터, 다수의 변수들 중에서 선택된 목적 변수에 해당하는 특징을 추출하고, 상기 특징을 복원하여 상기 목적 변수의 정량적 이미지를 출력하는 단계
를 포함하는 동작 방법.
A method of operating an imaging device operated by at least one processor, the method comprising:
receiving ultrasound data obtained from the tissue; and
extracting a feature corresponding to a target variable selected from among a plurality of variables from the ultrasound data, restoring the feature, and outputting a quantitative image of the target variable;
A method of operation comprising a.
제1항에서,
상기 초음파 데이터는 서로 다른 빔패턴들로 상기 조직에 입사된 초음파 신호들이, 상기 조직에서 반사되어 되돌아온 다패턴 RF(Radio Frequency) 데이터인, 동작 방법.
In claim 1,
The ultrasound data is multi-pattern RF (Radio Frequency) data in which ultrasound signals incident on the tissue in different beam patterns are reflected back from the tissue.
제1항에서,
상기 다수의 변수들은
감쇠 계수(Attenuation Coefficient, AC), 음속도(Speed of Sound, SoS), 산란체 밀도(Effective Scatterer Concentration, ESC), 그리고 산란체 크기(Effective Scatterer Diameter, ESD) 중 둘 이상을 포함하는, 동작 방법.
In claim 1,
Many of the variables are
an Attenuation Coefficient (AC), a Speed of Sound (SoS), an Effective Scatterer Concentration (ESC), and an Effective Scatterer Diameter (ESD). .
제1항에서,
상기 목적 변수의 정량적 이미지를 출력하는 단계는
상기 다수의 변수들 중에서 선택된 상기 목적 변수에 따라 신경망의 네트워크 파라미터를 변경하여, 상기 초음파 데이터로부터 상기 목적 변수에 해당하는 특징을 추출하는, 동작 방법.
In claim 1,
The step of outputting a quantitative image of the target variable is
An operating method of extracting a feature corresponding to the target variable from the ultrasound data by changing a network parameter of a neural network according to the target variable selected from among the plurality of variables.
제4항에서,
상기 신경망은 상기 목적 변수에 따라 선택된 값으로 정규화하는 조건부 인코딩을 수행하는, 동작 방법.
In claim 4,
and the neural network performs conditional encoding for normalizing to a value selected according to the target variable.
제4항에서,
상기 목적 변수의 정량적 이미지를 출력하는 단계는
상기 신경망의 인코더에서 출력된 특징을 동일한 경로로 복원하는 상기 신경망의 디코더를 통해, 상기 목적 변수의 정량적 이미지를 출력하는, 동작 방법.
In claim 4,
The step of outputting a quantitative image of the target variable is
An operation method of outputting a quantitative image of the target variable through a decoder of the neural network that restores features output from the encoder of the neural network to the same path.
제6항에서,
상기 디코더는 서로 다른 변수들의 특징들을 복원하는 경로에서 구조적 유사성을 보존하면서 각 변수의 특징을 복원하는 네트워크로 구성되는, 동작 방법.
In claim 6,
wherein the decoder is configured with a network that restores the characteristics of each variable while preserving structural similarity in the path of restoring the characteristics of the different variables.
컴퓨터 프로그램을 로드하는 메모리, 그리고
상기 컴퓨터 프로그램을 실행하여, 조직에서 수득된 초음파 데이터로부터, 다수의 변수들 중에서 선택된 목적 변수에 해당하는 특징을 추출하며, 상기 특징을 복원하여 상기 목적 변수의 정량적 이미지를 출력하는 프로세서
를 포함하는, 이미징 장치.
memory for loading a computer program; and
A processor that executes the computer program, extracts a feature corresponding to a target variable selected from among a plurality of variables from ultrasound data obtained from a tissue, restores the feature, and outputs a quantitative image of the target variable
comprising, an imaging device.
제8항에서,
상기 초음파 데이터는 서로 다른 빔패턴들로 상기 조직에 입사된 초음파 신호들이 상기 조직에서 반사되어 되돌아온 다패턴 RF(Radio Frequency) 데이터인, 이미징 장치.
In claim 8,
The ultrasound data is multi-pattern RF (Radio Frequency) data in which ultrasound signals incident to the tissue in different beam patterns are reflected from the tissue and returned.
제8항에서,
상기 다수의 변수들은
감쇠 계수(Attenuation Coefficient, AC), 음속도(Speed of Sound, SoS), 산란체 밀도(Effective Scatterer Concentration, ESC), 그리고 산란체 크기(Effective Scatterer Diameter, ESD) 중 둘 이상을 포함하는, 이미징 장치.
In claim 8,
Many of the variables are
An imaging device comprising at least two of an Attenuation Coefficient (AC), a Speed of Sound (SoS), an Effective Scatterer Concentration (ESC), and an Effective Scatterer Diameter (ESD). .
제8항에서,
상기 프로세서는
인코더 및 디코더로 구성된 신경망을 통해, 상기 초음파 데이터로부터, 다수의 변수들 중에서 선택된 목적 변수에 해당하는 정량적 이미지를 출력하고,
상기 인코더는 상기 다수의 변수들 중에서 선택된 상기 목적 변수에 따라 네트워크 파라미터를 변경하여, 상기 초음파 데이터로부터 상기 목적 변수에 해당하는 특징을 추출하는 네트워크로 구성되고,
상기 디코더는 상기 인코더에서 출력된 특징을 동일한 경로로 복원하는 네트워크로 구성되는, 이미징 장치.
In claim 8,
the processor
Outputting a quantitative image corresponding to a target variable selected from among a plurality of variables from the ultrasound data through a neural network composed of an encoder and a decoder,
The encoder is configured as a network for extracting a feature corresponding to the target variable from the ultrasound data by changing a network parameter according to the target variable selected from among the plurality of variables,
The decoder is configured as a network that restores the features output from the encoder to the same path.
제11항에서,
상기 신경망은 상기 목적 변수에 따라 선택된 값으로 정규화하는 조건부 인코딩을 수행하는, 이미징 장치.
In claim 11,
and the neural network performs conditional encoding of normalizing to a value selected according to the objective variable.
제11항에서,
상기 디코더는 서로 다른 변수들의 특징들을 복원하는 경로에서 구조적 유사성을 보존하면서 각 변수의 특징을 복원하는 네트워크로 구성되는, 이미징 장치.
In claim 11,
wherein the decoder is configured with a network that restores features of each variable while preserving structural similarity in a path for restoring features of different variables.
컴퓨터 판독 가능한 저장 매체에 저장되고, 프로세서에 의해 실행되는 명령어들을 포함하는 컴퓨터 프로그램으로서,
조직에서 수득된 초음파 데이터를 입력받고, 상기 초음파 데이터로부터 복원 가능한 다수의 변수들 중에서 목적 변수가 선택되면, 선택된 상기 목적 변수에 따라 네트워크 파라미터를 변경하여, 상기 초음파 데이터로부터 상기 목적 변수에 해당하는 특징을 추출하는 인코더, 그리고
상기 인코더에서 출력된 특징을 복원하여 상기 목적 변수의 정량적 이미지를 출력하는 디코더를 실행시키는 명령어들을 포함하는, 컴퓨터 프로그램.
A computer program stored in a computer-readable storage medium and comprising instructions executed by a processor, the computer program comprising:
When ultrasound data obtained from tissue is input and a target variable is selected from among a plurality of variables that can be restored from the ultrasound data, a network parameter is changed according to the selected target variable, and the ultrasound data corresponds to the target variable. an encoder to extract, and
A computer program comprising instructions for executing a decoder that outputs a quantitative image of the target variable by restoring the feature output from the encoder.
제14항에서,
상기 초음파 데이터는 서로 다른 빔패턴들로 상기 조직에 입사된 초음파 신호들이 상기 조직에서 반사되어 되돌아온 다패턴 RF(Radio Frequency) 데이터인, 컴퓨터 프로그램.
15. In claim 14,
The ultrasound data is multi-pattern RF (Radio Frequency) data in which ultrasound signals incident on the tissue in different beam patterns are reflected from the tissue and returned.
제14항에서,
상기 다수의 변수들은
감쇠 계수(Attenuation Coefficient, AC), 음속도(Speed of Sound, SoS), 산란체 밀도(Effective Scatterer Concentration, ESC), 그리고 산란체 크기(Effective Scatterer Diameter, ESD) 중 둘 이상을 포함하는, 컴퓨터 프로그램.
15. In claim 14,
Many of the variables are
A computer program comprising two or more of Attenuation Coefficient (AC), Speed of Sound (SoS), Effective Scatterer Concentration (ESC), and Effective Scatterer Diameter (ESD). .
제14항에서,
상기 인코더는 상기 목적 변수에 따라 선택된 값으로 정규화하는 조건부 인코딩 블록을 포함하는, 컴퓨터 프로그램.
15. In claim 14,
wherein the encoder comprises a conditional encoding block for normalizing to a selected value according to the objective variable.
제14항에서,
상기 디코더는 서로 다른 변수들의 특징들을 복원하는 경로에서 구조적 유사성을 보존하면서 각 변수의 특징을 복원하는 네트워크로 구성되는, 컴퓨터 프로그램.
15. In claim 14,
wherein the decoder consists of a network that restores the characteristics of each variable while preserving structural similarity in the path of restoring the characteristics of the different variables.
KR1020210135583A 2021-01-25 2021-10-13 Method and apparatus for multi-variable quantitative imaging using ultrasound data KR102655333B1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020210010030 2021-01-25
KR20210010030 2021-01-25

Publications (2)

Publication Number Publication Date
KR20220107912A true KR20220107912A (en) 2022-08-02
KR102655333B1 KR102655333B1 (en) 2024-04-05

Family

ID=82846028

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210135583A KR102655333B1 (en) 2021-01-25 2021-10-13 Method and apparatus for multi-variable quantitative imaging using ultrasound data

Country Status (1)

Country Link
KR (1) KR102655333B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024096352A1 (en) * 2022-10-31 2024-05-10 한국과학기술원 Quantitative ultrasound imaging method and apparatus using lightweight neural network

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20070069322A (en) * 2005-12-28 2007-07-03 주식회사 메디슨 Ultrasound diagnosis system and method for detecting lesion tissue
JP2012239546A (en) * 2011-05-17 2012-12-10 Fujifilm Corp Ultrasound diagnostic apparatus
KR20130080640A (en) * 2012-01-05 2013-07-15 삼성메디슨 주식회사 Method and apparatus for providing ultrasound images
JP6457157B2 (en) * 2016-06-23 2019-01-23 株式会社日立製作所 Ultrasonic imaging apparatus and ultrasonic imaging method in ultrasonic imaging apparatus
KR102067340B1 (en) * 2018-07-16 2020-01-16 한국과학기술원 Method for generating breast masses according to the lesion characteristics and the system thereof
WO2020254159A1 (en) * 2019-06-20 2020-12-24 Koninklijke Philips N.V. Method and system for generating a synthetic elastrography image
JP2021133123A (en) * 2020-02-28 2021-09-13 キヤノン株式会社 Ultrasonic diagnostic device, learning device, image processing method and program

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20070069322A (en) * 2005-12-28 2007-07-03 주식회사 메디슨 Ultrasound diagnosis system and method for detecting lesion tissue
JP2012239546A (en) * 2011-05-17 2012-12-10 Fujifilm Corp Ultrasound diagnostic apparatus
KR20130080640A (en) * 2012-01-05 2013-07-15 삼성메디슨 주식회사 Method and apparatus for providing ultrasound images
JP6457157B2 (en) * 2016-06-23 2019-01-23 株式会社日立製作所 Ultrasonic imaging apparatus and ultrasonic imaging method in ultrasonic imaging apparatus
KR102067340B1 (en) * 2018-07-16 2020-01-16 한국과학기술원 Method for generating breast masses according to the lesion characteristics and the system thereof
WO2020254159A1 (en) * 2019-06-20 2020-12-24 Koninklijke Philips N.V. Method and system for generating a synthetic elastrography image
JP2021133123A (en) * 2020-02-28 2021-09-13 キヤノン株式会社 Ultrasonic diagnostic device, learning device, image processing method and program

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
"Robust Single-Probe Quantitative Ultrasonic Imaging System With a Target-Aware Deep Neural Network", IEEE transaction on Bio. vol.68, No.12(2021.6.7.) *
'A learned representation for multi-variable ultrasonic lesion quantification', 2021 IEEE 18th International Symposium on Biomedical Imaging (ISBI), 1177-1181 *
'A neural framework for multi-variable lesion quantification through b-mode style transfer', Medical Image Computing and Computer Assisted Intervention-MICCAI 2021 *
'Quantitative imaging with a single probe in abdominal ultrasound', Medical Imaging 2023: Ultrasonic Imaging and Tomography 12470, 56-62 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024096352A1 (en) * 2022-10-31 2024-05-10 한국과학기술원 Quantitative ultrasound imaging method and apparatus using lightweight neural network

Also Published As

Publication number Publication date
KR102655333B1 (en) 2024-04-05

Similar Documents

Publication Publication Date Title
US11965993B2 (en) Measurement and imaging instruments and beamforming method
JP6148257B2 (en) Laser photoacoustic ultrasonic imaging system (Louis) and method of use
JP2021053396A (en) Multi-frequency mapping catheter and method of mapping
JP5496031B2 (en) Acoustic wave signal processing apparatus, control method thereof, and control program
Awasthi et al. Sinogram super-resolution and denoising convolutional neural network (SRCN) for limited data photoacoustic tomography
Gao et al. Deep learning-based photoacoustic imaging of vascular network through thick porous media
KR102380167B1 (en) Method and apparatus for quantitative ultrasound imaging using single-ultrasound probe
EP3937755A1 (en) Device and method for analyzing optoacoustic data, optoacoustic system and computer program
Prasad et al. Deepuct: Complex cascaded deep learning network for improved ultrasound tomography
Zalev et al. Detecting abnormal vasculature from photoacoustic signals using wavelet-packet features
US20210204904A1 (en) Ultrasound diagnostic system
CN115581436B (en) High-resolution near-infrared brain functional tomography algorithm integrated with deep learning
Liu et al. Review of microwave imaging algorithms for stroke detection
KR102655333B1 (en) Method and apparatus for multi-variable quantitative imaging using ultrasound data
KR102490019B1 (en) Method and apparatus for quantitative imaging using ultrasound data
KR102750288B1 (en) Method and apparatus for quantitative imaging in medical ultrasound
Ghanbarzadeh-Dagheyan et al. Time-domain ultrasound as prior information for frequency-domain compressive ultrasound for intravascular cell detection: A 2-cell numerical model
Sun et al. An iterative gradient convolutional neural network and its application in endoscopic photoacoustic image formation from incomplete acoustic measurement
US12144685B2 (en) Method and apparatus for quantitative ultrasound imaging using single-ultrasound probe
US20240382173A1 (en) Method and device for quantitative imaging in medical ultrasound
Qi et al. Deep learning assisted sparse array ultrasound imaging
KR20240061596A (en) Method and system for quantitative ultrasound imaging using knowledge distillation
Lasaygues et al. Circular antenna for breast ultrasonic diffraction tomography
KR101956460B1 (en) Method for detecting microcalcification using ultrasound medical imaging device and ultrasound medical imaging device thereof
KR20240129588A (en) Method and system for quantitative ultrasound imaging for spatio-temporal consistency

Legal Events

Date Code Title Description
PA0109 Patent application

Patent event code: PA01091R01D

Comment text: Patent Application

Patent event date: 20211013

PA0201 Request for examination
PG1501 Laying open of application
E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

Comment text: Notification of reason for refusal

Patent event date: 20230712

Patent event code: PE09021S01D

E701 Decision to grant or registration of patent right
PE0701 Decision of registration

Patent event code: PE07011S01D

Comment text: Decision to Grant Registration

Patent event date: 20240124

GRNT Written decision to grant
PR0701 Registration of establishment

Comment text: Registration of Establishment

Patent event date: 20240402

Patent event code: PR07011E01D

PR1002 Payment of registration fee

Payment date: 20240402

End annual number: 3

Start annual number: 1

PG1601 Publication of registration