KR20220021493A - Method and apparatus for improving resolution based on image segmentation - Google Patents
Method and apparatus for improving resolution based on image segmentation Download PDFInfo
- Publication number
- KR20220021493A KR20220021493A KR1020200102109A KR20200102109A KR20220021493A KR 20220021493 A KR20220021493 A KR 20220021493A KR 1020200102109 A KR1020200102109 A KR 1020200102109A KR 20200102109 A KR20200102109 A KR 20200102109A KR 20220021493 A KR20220021493 A KR 20220021493A
- Authority
- KR
- South Korea
- Prior art keywords
- image
- learning
- resolution
- image processing
- std
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 37
- 238000003709 image segmentation Methods 0.000 title claims abstract description 13
- 238000012545 processing Methods 0.000 claims abstract description 51
- 238000012549 training Methods 0.000 claims description 45
- 230000006872 improvement Effects 0.000 claims description 32
- 230000011218 segmentation Effects 0.000 claims description 9
- 238000004364 calculation method Methods 0.000 claims description 8
- 230000004044 response Effects 0.000 claims description 3
- 238000010586 diagram Methods 0.000 description 10
- 230000008569 process Effects 0.000 description 8
- 230000003203 everyday effect Effects 0.000 description 7
- 238000007689 inspection Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 3
- 238000010295 mobile communication Methods 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000008685 targeting Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000002354 daily effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4046—Scaling of whole images or parts thereof, e.g. expanding or contracting using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
Description
본 발명은 이미지 분할 방식에 기반하여 이미지의 해상도를 개선하는 방법 및 장치에 관한 것이다. The present invention relates to a method and apparatus for improving the resolution of an image based on an image segmentation method.
딥러닝 및 CNN(Convolution neural network)을 이용한 초해상도(super resolution) 이미지 복원 방법은 지도학습을 통해 네트워크를 학습한다. 이 때 보통 일반 선명한 이미지들은 지도학습의 타겟 이미지 혹은 레이블 개념으로 사용하고, 다운 샘플링을 통해 해상도를 낮춘 이미지를 입력 저해상도 이미지로 사용한다. A super-resolution image restoration method using deep learning and a convolution neural network (CNN) learns a network through supervised learning. In this case, general clear images are used as target images or label concepts for supervised learning, and images whose resolution is lowered through downsampling are used as input low-resolution images.
학습의 과정은 다음과 같다. 매 반복마다 입력 저해상도 이미지 또는 영상이 컨볼루션 레이어와 업샘플링 레이어로 이루어진 네트워크를 통과하여 초해상도 이미지 또는 영상으로 변환되고, 초해상도 이미지를 타겟 이미지와 비교하여 차이를 측정하고, 차이가 줄어들도록 차이를 역전파(back-propagate)하여 컨볼루션 레이어의 웨이트(weight)를 변화시킨다. 학습이 진행될수록 학습 데이터에 대해서 초해상도 이미지가 타겟 이미지 사이의 차이 값이 점점 줄어들고 데이터가 다양할수록 학습 효과가 일반화되어 학습에 사용되지 않은 다른 이미지에 대해서도 초해상도 이미지 복원 성능이 향상되게 된다. The learning process is as follows. At each iteration, the input low-resolution image or image is converted to a super-resolution image or image by passing through a network of convolutional and upsampling layers, the super-resolution image is compared to the target image to measure the difference, and the difference is reduced to reduce the difference. back-propagate to change the weight of the convolution layer. As the learning progresses, the difference value between the target images of the super-resolution image for the training data gradually decreases, and the more the data is diversified, the more the learning effect is generalized.
이러한 딥러닝 및 CNN을 이용한 초해상도 이미지 복원 방법에 있어서, 해상도 복원의 성능을 향상시키기 위해서는 컨볼루션 레이어의 수를 증가시켜 보다 깊은(deep) 차원의 신경망 구조를 갖도록 하는 방법이 있다. 그러나 이와 같은 방식의 경우, 학습 단계 및 테스트 단계에서 소요되는 데이터의 연산 부하가 크고 연산에 소요되는 시간이 길다는 문제가 있었다. In such a super-resolution image restoration method using deep learning and CNN, in order to improve the resolution restoration performance, there is a method of increasing the number of convolutional layers to have a deeper dimensional neural network structure. However, in the case of this method, there is a problem that the computational load of data required in the learning step and the test step is large and the time required for the computation is long.
이에 따라 연산에 요구되는 데이터 부하를 경감시키고, 해상도 개선에 소요되는 시간을 단축하면서 목표한 해상도로의 복원을 수행하기 위한 새로운 방안이 요구되어 왔다. Accordingly, there has been a demand for a new method for reducing the data load required for calculation and for performing restoration to a target resolution while reducing the time required for resolution improvement.
본 발명은 이미지의 해상도 개선을 수행하기 위해 GPU를 다수 개 이용하는 등의 과도한 데이터 연산의 동작을 수행하지 않고도 간단한 방법으로 고화질의 해상도 복원을 수행할 수 있도록 하는 방법 및 장치를 제안하는 데 목적이 있다. It is an object of the present invention to propose a method and apparatus for performing high-quality resolution restoration in a simple manner without performing excessive data operations such as using a plurality of GPUs to improve image resolution. .
또한 본 발명은 이미지의 해상도 개선에 소요되는 시간을 단축하면서도 목표한 화질로 해상도를 개선할 수 있게 하는 방법 및 장치를 제안하는 데 목적이 있다. Another object of the present invention is to propose a method and apparatus for reducing the time required to improve the resolution of an image while improving the resolution to a target image quality.
상기와 같은 목적을 달성하기 위하여, 본 발명의 실시 예에 따른 이미지 분할 기반 해상도 개선 방법은 임의 이미지 각각에 대하여 데이터의 분포 정도를 의미하는 std값을 구하는 단계, 상기 std값의 수치에 따라 상기 이미지들을 이미지 그룹별로 분류하는 단계 및 다수의 이미지 그룹 중 기준에 부합하는 이미지 그룹을 학습용 이미지 데이터로 선정하여 AI 이미지 처리모델의 학습을 수행하는 단계를 포함할 수 있다. In order to achieve the above object, the image segmentation-based resolution improvement method according to an embodiment of the present invention includes the steps of obtaining a std value indicating the degree of data distribution for each arbitrary image, and the image according to the numerical value of the std value. It may include the steps of classifying the images by image group and performing learning of the AI image processing model by selecting an image group that meets the criteria among a plurality of image groups as image data for training.
그리고 본 발명의 상기 이미지 분할 기반 해상도 개선 방법은 상기 AI이미지 처리 모델의 학습이 완료되면, 해상도 개선이 요구되는 대상 이미지를 상기 AI이미지 처리 모델에 투입하여 AI 연산을 수행하는 이미지 처리 단계를 더 포함할 수 있다. And when the learning of the AI image processing model is completed, the image division-based resolution improvement method of the present invention further includes an image processing step of inputting a target image requiring resolution improvement into the AI image processing model to perform an AI operation can do.
그리고 상기 이미지 처리 단계는 해상도 개선이 요구되는 대상 이미지를 상기 AI이미지 처리 모델에 투입하기 위해 상기 대상 이미지를 임의의 패치 사이즈로 분할하는 단계, 분할된 대상 이미지를 상기 AI이미지 처리 모델에 투입하여 AI 연산을 수행하는 단계 및 AI 연산 이후 산출된 분할분 결과 데이터들을 접합하여 최종 결과 데이터를 생성하는 단계를 포함하여 구성될 수 있다. And the image processing step is a step of dividing the target image into an arbitrary patch size in order to input the target image for which resolution improvement is required to the AI image processing model, and inputting the divided target image into the AI image processing model to AI It may be configured including the step of performing the calculation and the step of generating final result data by concatenating the divided result data calculated after the AI calculation.
그리고 상기 대상 이미지를 임의의 패치 사이즈로 분할하는 단계에서 상기 AI이미지 처리 모델의 학습 단계에서 투입된 학습용 이미지 데이터의 패치 사이즈에 대응하는 사이즈로 대상 이미지를 분할할 수 있다. 그리고 대상 이미지 분할 시, 대상 이미지가 포함하는 오브젝트의 유무 및 오브젝트의 사이즈에 대응하여 조절된 패치 사이즈로 분할하도록 설정될 수 있다. In the step of dividing the target image into arbitrary patch sizes, the target image may be divided into sizes corresponding to the patch sizes of the image data for training input in the training step of the AI image processing model. In addition, when dividing the target image, it may be set to divide the patch size according to the presence or absence of an object included in the target image and the size of the object.
상기 AI 이미지 처리모델의 학습을 수행하는 단계는 해상도 개선의 대상이 되는 이미지의 속성에 대응하여 학습용 이미지 데이터로 선택되는 std값의 범위를 상이하게 설정할 수 있다.In the step of performing the learning of the AI image processing model, the range of the std value selected as the image data for learning may be set differently in response to the property of the image to be improved in resolution.
본 발명은 이미지 해상도 개선을 수행하는 데 있어, 종래 GPU를 다수 개 이용하는 등의 과도한 데이터 연산이 요구되었으나, 이미지를 기준에 따라 분할하고, 분할된 이미지 각각의 해상도를 복원한 이후 접합하는 방식으로 해상도 복원을 수행하므로, 과도한 데이터 연산의 부담이 경감될 수 있다. In the present invention, in performing image resolution improvement, excessive data operation such as using a plurality of GPUs is required in the prior art, but the resolution is performed by dividing the image according to the standard, restoring the resolution of each divided image, and then joining the image. Since restoration is performed, the burden of excessive data operation may be reduced.
또한 본 발명은 동일 품질로 이미지 해상도 개선을 수행하고자 하는 데 있어, 이미지를 소정의 기준에 따라 분할한 후 해상도 개선을 수행하고, 추후 해상도 개선된 분할 이미지를 접합하므로, AI 모델의 컨볼루션 레이어의 개수를 과도하게 증가하지 않아도 되는 장점이 있으며, 그로 인해 AI 모델의 학습 및 해상도 개선 연산에 소요되는 시간이 단축될 수 있다. In addition, in the present invention, in order to improve image resolution with the same quality, the image is divided according to a predetermined criterion, the resolution is improved, and the divided images with improved resolution are joined later, so the convolution layer of the AI model is There is an advantage in that the number does not need to be increased excessively, so the time required for training the AI model and calculating the resolution improvement can be shortened.
도 1은 본 발명의 실시 예에 따른 해상도 개선 장치의 구성을 도시한 도면이다.
도 2는 본 발명의 실시 예에 따른 학습 지원부의 구성을 도시한 도면이다.
도 3은 본 발명의 실시 예에 따른 AI 이미지 처리부의 구성을 도시한 도면이다.
도 4는 본 발명의 실시 예에 따른 이미지 그룹에 대한 이해를 돕기 위한 도면이다.
도 5는 본 발명의 실시 예에 따른 이미지 분할을 통해 해상도 개선을 수행하는 동작에 대하여 도시한 도면이다.
도 6은 본 발명의 실시 예에 따른 AI 모델의 학습 과정에 대한 순서를 도시한 순서도이다.
도 7은 본 발명의 실시 예에 따른 AI 모델을 통한 이미지 해상도 개선 과정을 도시한 순서도이다. 1 is a diagram illustrating a configuration of a resolution improving apparatus according to an embodiment of the present invention.
2 is a diagram illustrating a configuration of a learning support unit according to an embodiment of the present invention.
3 is a diagram illustrating the configuration of an AI image processing unit according to an embodiment of the present invention.
4 is a diagram to help understanding of an image group according to an embodiment of the present invention.
5 is a diagram illustrating an operation of performing resolution improvement through image segmentation according to an embodiment of the present invention.
6 is a flowchart illustrating a sequence of a learning process of an AI model according to an embodiment of the present invention.
7 is a flowchart illustrating an image resolution improvement process through an AI model according to an embodiment of the present invention.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술 분야의 통상의 기술자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. Advantages and features of the present invention and methods of achieving them will become apparent with reference to the embodiments described below in detail in conjunction with the accompanying drawings. However, the present invention is not limited to the embodiments disclosed below, but may be implemented in various different forms, and only the present embodiments allow the disclosure of the present invention to be complete, and those of ordinary skill in the art to which the present invention pertains. It is provided to fully understand the scope of the present invention to those skilled in the art, and the present invention is only defined by the scope of the claims.
본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.The terminology used herein is for the purpose of describing the embodiments and is not intended to limit the present invention. In this specification, the singular also includes the plural unless specifically stated otherwise in the phrase. As used herein, “comprises” and/or “comprising” does not exclude the presence or addition of one or more other components in addition to the stated components. Like reference numerals refer to like elements throughout, and "and/or" includes each and every combination of one or more of the recited elements. Although "first", "second", etc. are used to describe various elements, these elements are not limited by these terms, of course. These terms are only used to distinguish one component from another. Accordingly, it goes without saying that the first component mentioned below may be the second component within the spirit of the present invention.
다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.Unless otherwise defined, all terms (including technical and scientific terms) used herein will have the meaning commonly understood by those of ordinary skill in the art to which this invention belongs. In addition, terms defined in a commonly used dictionary are not to be interpreted ideally or excessively unless specifically defined explicitly.
명세서에서 사용되는 "부" 또는 “모듈”이라는 용어는 소프트웨어, FPGA 또는 ASIC과 같은 하드웨어 구성요소를 의미하며, "부" 또는 “모듈”은 어떤 역할들을 수행한다. 그렇지만 "부" 또는 “모듈”은 소프트웨어 또는 하드웨어에 한정되는 의미는 아니다. "부" 또는 “모듈”은 어드레싱할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 따라서, 일 예로서 "부" 또는 “모듈”은 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로 코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들 및 변수들을 포함한다. 구성요소들과 "부" 또는 “모듈”들 안에서 제공되는 기능은 더 작은 수의 구성요소들 및 "부" 또는 “모듈”들로 결합되거나 추가적인 구성요소들과 "부" 또는 “모듈”들로 더 분리될 수 있다.As used herein, the term “unit” or “module” refers to a hardware component such as software, FPGA, or ASIC, and “unit” or “module” performs certain roles. However, “part” or “module” is not meant to be limited to software or hardware. A “unit” or “module” may be configured to reside on an addressable storage medium or to reproduce one or more processors. Thus, as an example, “part” or “module” refers to components such as software components, object-oriented software components, class components and task components, processes, functions, properties, Includes procedures, subroutines, segments of program code, drivers, firmware, microcode, circuitry, data, databases, data structures, tables, arrays, and variables. Components and functionality provided within “parts” or “modules” may be combined into a smaller number of components and “parts” or “modules” or as additional components and “parts” or “modules”. can be further separated.
공간적으로 상대적인 용어인 "아래(below)", "아래(beneath)", "하부(lower)", "위(above)", "상부(upper)" 등은 도면에 도시되어 있는 바와 같이 하나의 구성요소와 다른 구성요소들과의 상관관계를 용이하게 기술하기 위해 사용될 수 있다. 공간적으로 상대적인 용어는 도면에 도시되어 있는 방향에 더하여 사용시 또는 동작시 구성요소들의 서로 다른 방향을 포함하는 용어로 이해되어야 한다. 예를 들어, 도면에 도시되어 있는 구성요소를 뒤집을 경우, 다른 구성요소의 "아래(below)"또는 "아래(beneath)"로 기술된 구성요소는 다른 구성요소의 "위(above)"에 놓여질 수 있다. 따라서, 예시적인 용어인 "아래"는 아래와 위의 방향을 모두 포함할 수 있다. 구성요소는 다른 방향으로도 배향될 수 있으며, 이에 따라 공간적으로 상대적인 용어들은 배향에 따라 해석될 수 있다.Spatially relative terms "below", "beneath", "lower", "above", "upper", etc. It can be used to easily describe the correlation between a component and other components. Spatially relative terms should be understood as terms including different directions of components during use or operation in addition to the directions shown in the drawings. For example, when a component shown in the drawing is turned over, a component described as “beneath” or “beneath” of another component may be placed “above” of the other component. can Accordingly, the exemplary term “below” may include both directions below and above. Components may also be oriented in other orientations, and thus spatially relative terms may be interpreted according to orientation.
본 명세서에서, 컴퓨터는 적어도 하나의 프로세서를 포함하는 모든 종류의 하드웨어 장치를 의미하는 것이고, 실시 예에 따라 해당 하드웨어 장치에서 동작하는 소프트웨어적 구성도 포괄하는 의미로서 이해될 수 있다. 예를 들어, 컴퓨터는 스마트폰, 태블릿 PC, 데스크톱, 노트북 및 각 장치에서 구동되는 사용자 클라이언트 및 애플리케이션을 모두 포함하는 의미로서 이해될 수 있으며, 또한 이에 제한되는 것은 아니다.In this specification, a computer refers to all types of hardware devices including at least one processor, and may be understood as encompassing software configurations operating in the corresponding hardware device according to embodiments. For example, a computer may be understood to include, but is not limited to, smart phones, tablet PCs, desktops, notebooks, and user clients and applications running on each device.
이하, 첨부된 도면을 참조하여 본 발명의 실시 예를 상세하게 설명한다. Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings.
도 1은 본 발명의 실시 예에 따른 해상도 개선 장치의 구성을 도시한 도면이다. 1 is a diagram illustrating a configuration of a resolution improving apparatus according to an embodiment of the present invention.
도 1에서 도시되는 바와 같이, 본 발명의 실시 예에 따른 해상도 개선 장치 100는 학습 지원부 110 및 AI 이미지 처리부 120를 포함하여 구성될 수 있다. As shown in FIG. 1 , the
상기 학습 지원부 110는 일 대상 이미지의 해상도를 개선하기 위한 AI 연산 모델의 학습을 지원할 수 있다. 상기 AI 연산 모델은 적어도 3개 이상의 컨볼루션 레이어를 포함하는 딥러닝 방식의 모델일 수 있으며, GT(ground Truth)로 정의되는 고해상도 타겟 이미지와 이에 대응하는 저해상도 버전의 이미지(LR; Low Resolution image)를 쌍으로 투입하여, 저해상도 이미지(LR)를 GT로 복원하도록 학습되는 방식인 SR(Super Resolution)모델을 포함할 수 있다. The
그리고 상기 학습 지원부 110는 학습용 이미지를 선택하고, 이를 이용하여 AI 연산 모델을 학습하도록 하기 위해 일련의 과정을 추가로 수행할 수 있는데, 이에 대하여 설명하기 위해 도 2를 참조하기로 한다. In addition, the
도 2는 본 발명의 실시 예에 따른 학습 지원부의 구성을 도시한 도면이다. 2 is a diagram illustrating a configuration of a learning support unit according to an embodiment of the present invention.
도 2에서 도시되는 바와 같이 상기 학습 지원부 110는 학습 이미지 분류부 111, 학습 이미지 선택부 112를 포함하여 구성될 수 있다. As shown in FIG. 2 , the
먼저, 상기 학습 이미지 분류부 111는 AI 연산 모델을 학습시킬 학습용 이미지를 그룹별로 분류할 수 있다. 이 때 이미지가 분류되는 기준은 std값에 근거할 수 있는데, 이에 대한 설명을 위해 도 4를 참조하기로 한다. First, the training
도 4는 본 발명의 실시 예에 따른 이미지 그룹에 대한 이해를 돕기 위한 도면이다. 4 is a diagram to help understand an image group according to an embodiment of the present invention.
도 4에서 도시되는 바와 같이, 임의 이미지들은 데이터의 분포 정도를 표시하는 값인 std값(표준편차를 의미)을 가지고 있으며, 본 발명의 실시 예에 따른 상기 학습 이미지 분류부 111는 임의의 이미지들에 대하여 std값을 확인하고, 이를 기반으로 이미지 그룹을 분류하는 동작을 수행할 수 있다. As shown in FIG. 4 , arbitrary images have a std value (meaning standard deviation), which is a value indicating the degree of distribution of data, and the
상기 std값은 데이터의 대략적인 구조를 담고 있으며, 그 값의 크기가 증가할수록 이미지의 복잡도가 증가되는 것으로 이해될 수 있다. 이 때 상기 학습 이미지 분류부 111는 임의의 패치 사이즈가 정해지면, 특정 이미지를 정해진 패치 사이즈로 분할할 수 있으며, 패치 사이즈로 이미지가 분할되면, 이를 기준으로 분할된 이미지의 std값을 산출할 수 있다. The std value contains an approximate structure of data, and it can be understood that the complexity of the image increases as the size of the std value increases. At this time, when an arbitrary patch size is determined, the training
상기 학습 이미지 분류부 111는 std값이 산출된 이미지들을 그 값의 크기에 대응하여 이미지 그룹을 분류할 수 있다. 도 4에서는 일 예를 도시하고 있는데, std값은 도 4에 도시되는 것보다 더욱 다양한 범위로 산출될 수 있다. 그러나 본 명세서에서는 이해를 돕기 위해, std값이 0부터 50까지의 범위에 해당하는 이미지들만을 참조하여 설명하기로 한다. The training
도 4에서 도시되는 바와 같이, 상기 학습 이미지 분류부 111는 std값의 범위에 따라 이미지 그룹을 분류할 수 있는데, 예를 들어, 0~50까지의 std값을 갖는 이미지들을 0~10, 10~20, 20~30, 30~40, 40~50과 같이 총 5개의 이미지 그룹에 분류할 수 있다. As shown in FIG. 4 , the training
이미지가 std값에 따라 그룹별로 분류되면, 상기 학습 이미지 선택부 112는 AI 연산 모델에 투입할 학습용 이미지 데이터를 선택할 수 있다. 이 때 상기 학습 이미지 선택부 112는 AI 연산 모델에 투입할 학습용 이미지들을 선택하고, AI 연산 모델에 투입하여 학습 동작을 진행할 수 있다. When the images are classified into groups according to the std value, the training
다양한 실시 예에 따라 상기 학습 이미지 선택부 112는 AI 연산 모델에 학습용이미지 데이터를 투입하여 학습 동작을 수행할 시, 기 분류된 이미지 그룹별로 여러 AI 연산 모델을 학습시킬 수 있다. 예를 들어, 학습 이미지 선택부 112는 제 1그룹(예, std 값이 0 내지 10 인 이미지 그룹)을 AI 연산 모델에 투입하여 학습시키고, 학습 결과 제 1 모델을 생성할 수 있다. 이와 유사하게, 상기 학습 이미지 선택부 112는 각 이미지 그룹을 AI 연산 모델에 투입하여 학습시킨 결과로, 제 2모델, 제 3모델과 같은 여러 유형의 결과 모델을 생성할 수 있다. According to various embodiments, the learning
그리고 상기 학습 이미지 선택부 112는 학습용 이미지 데이터를 선택할 시, 해당 AI 모델의 대상 이미지 속성에 따라 학습 이미지 선택 기준을 상이하게 결정할 수 있다. 구체적으로 예를 들면, 상기 학습 이미지 선택부 112는 대상 이미지의 속성에 따라 분류할 시, 검사용 이미지와 일상 이미지로 분류하고, 각각에 대하여 서로 다른 학습 기준을 적용할 수 있다. In addition, when selecting image data for training, the training
상기 검사용 이미지는 X-ray, CT 와 같은 검사를 위해 촬영되는 이미지들을 의미할 수 있으며, 이와 같은 검사를 목적으로 하는 이미지들은 std값의 분포 범위가 상대적으로 좁게 산출되고, 그에 비해 일반 카메라를 통해 촬영되는 일상 이미지는 std값의 분포 범위가 상대적으로 넓게 산출될 수 있다. The image for examination may mean images taken for examination such as X-ray and CT, and the images for such examination have a relatively narrow distribution range of std values. For everyday images taken through the std value, the distribution range of the std value may be calculated to be relatively wide.
그리고 상기 학습 이미지 선택부 112는 검사용 이미지를 대상으로 하는 AI 모델의 학습 시 학습용 이미지 데이터로 선택되는 std값의 범위를 예컨대, 10~50으로 설정하고, 일상 이미지를 대상으로 하는 AI 모델의 학습 시, 학습용 이미지 데이터로 선택되는 std값 범위를 예컨대, 0~100로 설정할 수 있다. 이 때 상기 학습용 이미지 데이터로 선택되는 std값의 범위는 예시를 든 것일 뿐이며, 실제 std값의 범위는 이보다 더 제한적이거나 더 넓은 범위를 가질 수 있다. In addition, the training
또는 상기 학습 이미지 선택부 112는 화질 개선의 대상이 되는 이미지의 속성(예, 바이오 X-ray, 바이오 초음파 이미지, CT이미지, 산업용 X-ray, 산업용 일반 카메라 이미지 등)에 따라 학습용으로 선정될 이미지의 데이터 구조값(std값)의 범위를 변경하되, 화질 개선의 대상 이미지의 평균 복잡도가 증가할수록 학습용으로 선정할 이미지의 데이터 구조값(std)을 기준으로 이미지 그룹의 선택을 증가 설정할 수 있다. 예를 들어, 만들고자 하는 AI 모델이 바이오용 X-ray 이미지의 해상도 개선을 위한 모델인 경우에 학습용으로 선정할 이미지 데이터가 3개의 이미지 그룹(예, std 20~30, 30~40, 40~50)으로 선정되었다고 가정하면, 만들고자 하는 AI 모델이 산업용 일반 카메라 이미지의 해상도 개선을 위한 모델인 경우 6개의 이미지 그룹(예, std 20~30, 30~40, 40~50, 50~60, 60~70, 70~80)이 학습용 이미지 데이터로 선정될 수 있다. 이처럼 화질 개선의 대상 이미지의 속성에 따라서 학습용 이미지로 선정되는 데이터 구조값(std)의 범위가 증가 또는 감소될 수 있다. Alternatively, the learning
다양한 실시 예에 따라 학습 단계에서 투입되는 학습용 이미지의 밸런스가 무너지는 경우 해당 AI 모델의 이미지 개선 성능이 저하될 수 있다. 이러한 문제를 방지하기 위해, 본 발명의 실시 예에 따른 학습 이미지 선택부 112는 std값이 기준 범위에 속하는 이미지들만을 학습용 이미지 데이터로 선택할 수 있다. 이를 위해 초해상도 모델 학습부 121a는 극단값의 std값을 갖는 데이터들을 학습 단계에서 배제할 수 있는데, 예를 들면, 제공되는 이미지들의 std값이 0~100까지의 범위로 확인되고, 각 이미지들은 std값의 크기에 따라 10개의 그룹(예, 1그룹: std 0~10, 2그룹: 10~20…10그룹: 90~100)으로 지정되었다고 할 때, 상기 초해상도 모델 학습부 121a는 극단값으로 여겨지는 소정의 std값을 갖는 이미지 그룹(예, 1그룹, 10그룹)에 해당하는 이미지들을 학습 단계에서 제거할 수 있다. According to various embodiments, when the balance of the training image input in the learning step is broken, the image improvement performance of the AI model may be deteriorated. In order to prevent this problem, the training
이와 같이 상기 학습 이미지 선택부 112는 해상도 개선의 대상이 되는 이미지의 속성(검사용 이미지 여부)에 따라, 학습용 이미지 데이터로 선정될 이미지의 std 기준 값을 설정할 수 있다. As described above, the training
또한 본 발명의 실시 예에 따른 해상도 개선 장치 100에서 제공하는 AI 모델은 각 std 값에 대응하는 하위 AI 모델을 다수개 포함하는 형태로 구성될 수 있다. 설명의 편의상 상위 AI 모델을 통합 모델, 하위 AI모델을 분할 모델로 지칭하여 설명하면, 본 발명의 실시 예에 따른 해상도 개선 장치 100는 다수개의 분할 모델을 포함하는 하나의 통합 모델을 구성할 수 있다. In addition, the AI model provided by the
그리고 상기 해상도 개선 장치 100는 분할 모델 각각은 특정 std값을 갖는 이미지 모델로 학습시킬 수 있는데, 이 때 대상 이미지의 속성에 따라 학습용 데이터로 투입되는 이미지 그룹의 개수를 상이하게 설정하고, 그에 따라 일 통합 모델에 포함되는 분할 모델의 개수를 조절할 수 있다. In addition, the
예를 들면, 상기 해상도 개선 장치 100는 X-ray와 같은 검사용 이미지를 대상으로 하는 AI 모델을 생성하기 위해, 학습용으로 투입되는 이미지 그룹의 개수를 기준치 이하(예, 4개)로 설정하고, 이미지 그룹 개수에 대응하여 분할 모델의 개수 또한 4개로 설정할 수 있다. 반면, 상기 해상도 개선 장치 100는 일상 이미지를 대상으로 하는 AI 모델을 생성하기 위해서는, 학습용으로 투입되는 이미지 그룹의 개수를 증가 설정하여 예컨대 10개로 설정할 수 있고, 이미지 그룹 개수에 대응하여 분할 모델의 개수 또한 10개로 설정할 수 있다. For example, the
다시 말해, 상기 해상도 개선 장치 100는 해상도 개선의 대상이 되는 이미지의 속성상 복잡도가 증가할수록 학습용으로 설정되는 이미지의 std 분포 범위, 이미지 그룹의 개수 및 그에 대응하여 생성할 분할 모델의 개수를 증가 설정할 수 있다. In other words, the
이하에서는 도 3을 참조하여, AI 모델을 활용한 연산을 통해 이미지의 해상도를 개선하는 동작에 대하여 구체적으로 설명하고자 한다. Hereinafter, with reference to FIG. 3 , an operation of improving the resolution of an image through an operation using an AI model will be described in detail.
도 3은 본 발명의 실시 예에 따른 AI 이미지 처리부의 구성을 도시한 도면이다. 3 is a diagram illustrating the configuration of an AI image processing unit according to an embodiment of the present invention.
도 3에서 도시되는 바와 같이, 본 발명의 실시 예에 따른 AI 이미지 처리부 120는 패치 사이즈 결정부 121, 이미지 분할부 122, AI 연산 처리부 123, 이미지 접합부 124를 포함하여 구성될 수 있다. As shown in FIG. 3 , the AI
상기 AI 이미지 처리부 120의 각 구성 요소에 대한 설명에 앞서, 이해를 돕기 위해 상기 AI 이미지 처리부 120가 일 대상 이미지의 해상도를 업그레이드하는 동작에 대한 전체적인 내용을 도 5를 참조하여 먼저 설명하기로 한다. Prior to a description of each component of the AI
도 5는 본 발명의 실시 예에 따른 이미지 분할을 통해 해상도 개선을 수행하는 동작에 대하여 도시한 도면이다. 5 is a diagram illustrating an operation of performing resolution improvement through image segmentation according to an embodiment of the present invention.
도 5에서 도시되는 바와 같이, 상기 AI 이미지 처리부 120는 해상도 개선의 대상이 되는 이미지 원본을 분할하고, 분할된 이미지들을 각각의 std값에 따라 분류하여, 해당 AI 모델(분할 모델)로 분산하여 투입할 수 있다. 도 5에서와 같이, 일 실시 예에 따른 AI 모델은 11개의 분할 모델을 포함하여 구성된다고 가정하면, 상기 분할된 이미지들은 std값을 기준으로 11종류로 분류되고, 각 이미지들의 std값에 대응하는 분할 모델에 투입되어 해상도 향상을 위한 AI 연산이 각각 처리될 수 있다. 각 분할 모델에서 산출된 결과 데이터는 여전히 분할된 형태일 것이므로, 상기 AI 이미지 처리부 120는 각 분할 모델을 통해 산출된 분할분 결과 데이터들을 접합하여 최종 결과 데이터를 산출할 수 있게 된다. As shown in FIG. 5 , the AI
다시 도 3에 대하여 이어서 설명하면, 상기 패치 사이즈 결정부 121는 AI 모델에 대상 이미지를 투입하기 전, 이미지를 분할하게 되는데, 이 때 대상 이미지는 기 설정된 패치 사이즈로 분할되게 되는데, 이 때 이미지가 분할되는 사이즈를 결정하게 된다. 3 again, the
다양한 실시 예에 따라 상기 패치 사이즈 결정부 121는 예컨대 24*24, 48*48 등으로 패치 사이즈를 결정할 수 있다. According to various embodiments, the
또한 다양한 실시 예에 따라 상기 패치 사이즈 결정부 121는 대상 이미지의 속성, 대상 이미지 내 주요 오브젝트의 유무, 대상 이미지 내 주요 오브젝트의 속성에 따라 패치 사이즈를 상이하게 설정할 수 있다. Also, according to various embodiments, the
본 발명의 특성상, 이미지를 분할한 후 접합하는 방식으로 해상도를 복원하기 때문에, 접합영역에서는 불가피하게 해상도의 저하가 발생될 수 있다. 따라서 이러한 문제를 최소화하기 위해서는 주요 오브젝트가 표시되는 영역에서는 주요 오브젝트가 분할되지 않도록 이미지를 분할하는 것이 중요하다. 따라서, 이러한 문제를 고려하여 상기 패치 사이즈 결정부 121는 주요 오브젝트의 유무, 주요 오브젝트의 위치 내지는 주요 오브젝트의 사이즈를 고려하여 패치 사이즈를 조절할 수 있다. Due to the nature of the present invention, since the resolution is restored by dividing the image and then splicing it, the resolution may inevitably be lowered in the splicing area. Therefore, in order to minimize this problem, it is important to divide the image so that the main object is not divided in the area where the main object is displayed. Accordingly, in consideration of this problem, the
보다 구체적으로, 상기 패치 사이즈 결정부 121는 주요 오브젝트의 유무를 1차적으로 판단하고, 주요 오브젝트의 위치 및 사이즈를 고려하여 가상 분할선을 그려보고, 주요 오브젝트를 분할하게 되는지 여부를 판단할 수 있다. 그리고 이후 상기 패치 사이즈 결정부 121는 설정 가능한 패치 사이즈들 중에서 주요 오브젝트를 분할하지 않도록 하거나 최소로 분할하도록 하는 사이즈로 결정할 수 있다. More specifically, the
또한 상기 이미지 분할부 122는 상기 패치 사이즈 결정부 121에서 결정한 패치 사이즈로 대상 이미지를 분할할 수 있다. 그리고 상기 이미지 분할부 122는 나아가 분할된 이미지의 std값을 구하고, 확인된 std값에 대응하여 이미지 그룹을 분류할 수 있다. Also, the
그리고 상기 AI 연산 처리부 123는 분류된 이미지 그룹을 각각의 std값에 대응하는 분할 모델에 투입하여 AI 연산을 수행하여, 결과 데이터를 산출할 수 있다. 이 때 상기 분할 모델에서 산출되는 결과 데이터는 해상도가 개선된 상태일 것이나, 분할된 상태의 이미지일 것이므로, 분할된 이미지를 원래 이미지와 같이 재접합하는 과정이 요구된다. In addition, the AI
마지막으로 상기 이미지 접합부 124는 상기 AI 연산 처리부 123에 의해 산출된 1차 결과값(해상도가 개선되었으나 여전히 분할된 상태인 이미지)를 기반으로 최종 결과 데이터를 산출하기 위한 접합 동작을 수행할 수 있다. Finally, the
본 발명은 실시 예에 따라 이미지 분할 당시에 분할된 이미지들을 추후 다시 접합할 수 있도록, 원본 이미지 내에서 분할 이미지가 자리한 위치 파악에 요구되는 위치값을 부여할 수 있다. 이에 따라 각 분할된 이미지는 위치값이 부여된 상태일 수 있고, 상기 이미지 접합부 124는 이러한 위치값을 기반으로 다시 분할된 이미지를 재조합하여 원본의 이미지와 같이 복원할 수 있다. According to an embodiment of the present invention, at the time of image segmentation, a position value required for determining the position of the segmented image in the original image may be provided so that the segmented images can be rejoined later. Accordingly, each of the divided images may be in a state in which a position value is assigned, and the
도 6은 본 발명의 실시 예에 따른 AI 모델의 학습 과정에 대한 순서를 도시한 순서도이다. 6 is a flowchart illustrating a sequence of a learning process of an AI model according to an embodiment of the present invention.
도 6에서 도시되는 바와 같이, 본 발명의 실시 예에 따른 해상도 개선 장치 100는 일 이미지의 std값을 확인하는 605동작을 수행할 수 있다. 이 때 상기 std값은 표준편차를 의미하며, 데이터의 분포 정도를 표시하는 값으로 데이터의 대략적인 구조를 담고 있다. As shown in FIG. 6 , the
그리고 상기 해상도 개선 장치 100는 상기 605동작에 의해 std값이 산출되면, 산출된 std값에 따라 이미지를 그룹별로 분류하는 610동작을 수행할 수 있다. 예를 들어 상기 해상도 개선 장치 100는 이미지가 갖는 std값을 기 설정된 단위(예, 10)로 분류할 수 있다. 이에 따라 std값이 0 이상 10 미만인 이미지들은 제 1그룹으로, std값이 10이상 20미만인 이미지들은 제 2그룹으로 분류될 수 있다. In addition, when the std value is calculated in
이후 상기 해상도 개선 장치 100는 기준에 부합하는 이미지 그룹을 학습용 이미지로 선택하는 615동작을 수행할 수 있다. 상기 해상도 개선 장치 100는 이미지 그룹이 예를 들어 5개 생성되었다고 하면, 5개의 이미지 그룹을 각각의 분할 모델에 학습시킬 수 있다. Thereafter, the
이후 상기 해상도 개선 장치 100는 선택된 학습용 이미지로 AI 모델을 학습시키는 620동작을 수행할 수 있다. 예컨대 상기 해상도 개선 장치 100는 5개의 이미지 그룹을 각각의 분할모델에 투입하여 학습할 경우, 5개의 학습 완료된 분할 모델을 얻을 수 있다. Thereafter, the
도 7은 본 발명의 실시 예에 따른 AI 모델을 통한 이미지 해상도 개선 과정을 도시한 순서도이다. 7 is a flowchart illustrating an image resolution improvement process through an AI model according to an embodiment of the present invention.
도 7에서 도시되는 바와 같이, 본 발명의 실시 예에 따른 해상도 개선 장치 100는 대상 이미지를 AI 모델에 투입하여 해상도를 개선시키고자 할 시, 대상 이미지를 임의의 패치 사이즈로 분할하는 705동작을 먼저 수행할 수 있다. As shown in FIG. 7 , when the
그리고 상기 해상도 개선 장치 100는 분할된 이미지의 std값을 확인하는 710동작을 수행할 수 있다. In addition, the
이후 상기 해상도 개선 장치 100는 분할 이미지의 std 값에 대응하는 유형의 AI 모델에 분할된 이미지를 투입하여 연산하는 715동작을 수행할 수 있다. 상기 715 동작이 수행되면, 분할된 다수개의 이미지들은 std값에 따라 다수 유형의 AI 모델로 분산되어 투입될 수 있다. 그리고 이에 따라 AI 모델을 통과하여 산출된 1차 결과값은 분할 이미지 형태이므로, 분할 당시 정보를 토대로 상기 분할 이미지는 다시 접합되어야 할 필요가 있다. Thereafter, the
이에 따라, 상기 해상도 개선 장치 100는 산출된 분할분 결과 이미지들을 접합하여 최종 결과 이미지를 생성하는 720동작을 수행할 수 있다. Accordingly, the
요약하면, 해상도 개선 장치 100는 해상도를 개선하고자 하는 대상 이미지를 기 설정된 사이즈로 분할하고, 분할된 이미지를 std값에 따라 분류하고, 분할된 이미지의 std값에 대응하는 AI모델에 상기 분할된 이미지를 투입하여 해상도를 높이며, 해상도가 개선된 분할 이미지를 조합하여 해상도가 개선된 미분할 상태의 결과 이미지를 산출할 수 있다. In summary, the
요컨대, 본 발명의 실시 예에 따른 이미지 분할 기반 해상도 개선 방법은 임의 이미지 각각에 대하여 데이터의 분포 정도를 의미하는 std값을 구하는 단계, 상기 std값의 수치에 따라 상기 이미지들을 이미지 그룹별로 분류하는 단계 및 다수의 이미지 그룹 중 기준에 부합하는 이미지 그룹을 학습용 이미지 데이터로 선정하여 AI 이미지 처리모델의 학습을 수행하는 단계를 포함할 수 있다. In other words, the image segmentation-based resolution improvement method according to an embodiment of the present invention includes the steps of obtaining a std value indicating the degree of data distribution for each arbitrary image, and classifying the images into image groups according to the numerical value of the std value. and selecting an image group that meets the criteria among a plurality of image groups as image data for training, and performing learning of the AI image processing model.
그리고 본 발명의 상기 이미지 분할 기반 해상도 개선 방법은 상기 AI이미지 처리 모델의 학습이 완료되면, 해상도 개선이 요구되는 대상 이미지를 상기 AI이미지 처리 모델에 투입하여 AI 연산을 수행하는 이미지 처리 단계를 더 포함할 수 있다. And when the learning of the AI image processing model is completed, the image division-based resolution improvement method of the present invention further includes an image processing step of inputting a target image requiring resolution improvement into the AI image processing model to perform an AI operation can do.
그리고 상기 이미지 처리 단계는 해상도 개선이 요구되는 대상 이미지를 상기 AI이미지 처리 모델에 투입하기 위해 상기 대상 이미지를 임의의 패치 사이즈로 분할하는 단계, 분할된 대상 이미지를 상기 AI이미지 처리 모델에 투입하여 AI 연산을 수행하는 단계 및 AI 연산 이후 산출된 분할분 결과 데이터들을 접합하여 최종 결과 데이터를 생성하는 단계를 포함하여 구성될 수 있다. And the image processing step is a step of dividing the target image into an arbitrary patch size in order to input the target image for which resolution improvement is required to the AI image processing model, and inputting the divided target image into the AI image processing model to AI It may be configured including the step of performing the calculation and the step of generating final result data by concatenating the divided result data calculated after the AI calculation.
그리고 상기 대상 이미지를 임의의 패치 사이즈로 분할하는 단계에서 상기 AI이미지 처리 모델의 학습 단계에서 투입된 학습용 이미지 데이터의 패치 사이즈에 대응하는 사이즈로 대상 이미지를 분할할 수 있다. 그리고 대상 이미지 분할 시, 대상 이미지가 포함하는 오브젝트의 유무 및 오브젝트의 사이즈에 대응하여 조절된 패치 사이즈로 분할하도록 설정될 수 있다. In the step of dividing the target image into arbitrary patch sizes, the target image may be divided into sizes corresponding to the patch sizes of the image data for training input in the training step of the AI image processing model. In addition, when dividing the target image, it may be set to divide the patch size according to the presence or absence of an object included in the target image and the size of the object.
상기 AI 이미지 처리모델의 학습을 수행하는 단계는 해상도 개선의 대상이 되는 이미지의 속성에 대응하여 학습용 이미지 데이터로 선택되는 std값의 범위를 상이하게 설정할 수 있다. 예를 들면, 대상 이미지의 속성은 X-ray, CT 와 같은 비교적 std 값의 분포 정도가 좁은 검사용 이미지와, std값의 분포 정도가 상대적으로 넓은 일상 이미지 등으로 분류될 수 있다. 검사용 이미지의 경우, 일상 이미지에 비해 std값의 분포 범위가 제한적이므로, 학습 단계에서도 마찬가지로 그에 대응하여 검사용 이미지 전용 AI 모델의 학습용 이미지 데이터로 선택되는 std값의 범위는 일상 이미지용 AI 모델의 학습용 이미지 데이터의 std 기준 범위에 비해 제한적일 수 있다. 예를 들어 std값의 범위가 0~100이라고 가정하면, 검사용 이미지 전용 AI 모델의 학습용 이미지 데이터 셋의 std값 범위는 10~40이라고 할 때, 일상 이미지용 AI 모델의 학습용 이미지 데이터 셋의 std값 범위는 0~100으로 설정될 수 있다. In the step of performing the learning of the AI image processing model, the range of the std value selected as the image data for learning may be set differently in response to the property of the image to be improved in resolution. For example, the property of the target image may be classified into an examination image having a relatively narrow std value distribution, such as X-ray and CT, and an everyday image having a relatively wide std value distribution. In the case of inspection images, as the distribution range of std values is limited compared to everyday images, the range of std values selected as image data for training of the AI model dedicated to inspection images is similar to that of the AI model for everyday images in the training stage. It may be limited compared to the std reference range of image data for training. For example, assuming the std value range is 0 to 100, the std value range of the training image dataset of the AI model for inspection is 10-40, the std of the training image dataset of the AI model for everyday images is The value range can be set from 0 to 100.
또한 본 발명의 실시 예에 따른 해상도 개선 장치 100는 학습 지원부 및 AI 이미지 처리부를 포함하여 구성될 수 있으며, 상기 학습 지원부는 임의 이미지 각각에 대하여 데이터의 분포 정도를 의미하는 std값을 구하고, 상기 이미지를 상기 std값의 수치에 따라 분류한 이미지 그룹을 생성하는 학습 이미지 분류부 및 기준에 부합하는 이미지 그룹 내 이미지들을 학습용 이미지 데이터로 선정하여 AI 이미지 처리모델의 학습을 수행하는 학습 이미지 선택부를 포함하고, 상기 AI 이미지 처리부는 상기 학습 지원부에 의해 상기 AI이미지 처리 모델의 학습이 완료됨에 따라, 해상도 개선이 요구되는 대상 이미지를 상기 AI 이미지 처리 모델에 투입하여 AI 연산을 수행하도록 구성될 수 있다. In addition, the
또한 본 발명의 다양한 실시 예에 따르면, 도면에 도시되지 않았으나, 상기 해상도 개선 장치 100는 외부로부터 이미지 데이터를 전송받기 위한 통신부와 외부로부터 수신된 이미지 데이터 및 해상도가 개선된 결과값을 저장하는 저장부를 더 포함할 수 있다. In addition, according to various embodiments of the present disclosure, although not shown in the drawings, the
상기 통신부는 사용자 기기와 서버 간의 데이터 송수신을 위해 네트워크를 이용할 수 있으며 상기 네트워크의 종류는 특별히 제한되지 않는다. 상기 네트워크는 예를 들어, 인터넷 프로토콜(IP)을 통하여 대용량 데이터의 송수신 서비스를 제공하는 아이피(IP: Internet Protocol)망 또는 서로 다른 IP 망을 통합한 올 아이피(All IP) 망 일 수 있다. 또한, 상기 네트워크는 유선망, Wibro(Wireless Broadband)망, WCDMA를 포함하는 이동통신망, HSDPA(High Speed Downlink Packet Access)망 및 LTE(Long Term Evolution) 망을 포함하는 이동통신망, LTE advanced(LTE-A), 5G(Five Generation)를 포함하는 이동통신망, 위성 통신망 및 와이파이(Wi-Fi)망 중 하나 이거나 또는 이들 중 적어도 하나 이상을 결합하여 이루어질 수 있다.The communication unit may use a network for data transmission/reception between the user device and the server, and the type of the network is not particularly limited. The network may be, for example, an IP (Internet Protocol) network that provides a large-capacity data transmission/reception service through Internet Protocol (IP) or an All IP network that integrates different IP networks. In addition, the network includes a wired network, a Wibro (Wireless Broadband) network, a mobile communication network including WCDMA, a High Speed Downlink Packet Access (HSDPA) network, and a Long Term Evolution (LTE) network including a mobile communication network, LTE advanced (LTE-A) ), a mobile communication network including 5G (Five Generation), a satellite communication network, and a Wi-Fi network, or a combination of at least one or more of them.
상기 저장부는 예를 들면, 내장 메모리 또는 외장 메모리를 포함할 수 있다. 내장메모리는, 예를 들면, 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비휘발성 메모리(non-volatile Memory)(예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, 플래시 메모리(예: NAND flash 또는 NOR flash 등), 하드 드라이브, 또는 솔리드 스테이트 드라이브(solid state drive(SSD)) 중 적어도 하나를 포함할 수 있다.The storage unit may include, for example, an internal memory or an external memory. The internal memory includes, for example, a volatile memory (eg, dynamic RAM (DRAM), static RAM (SRAM), or synchronous dynamic RAM (SDRAM), etc.), non-volatile memory (eg, OTPROM (one time programmable ROM), programmable ROM (PROM), erasable and programmable ROM (EPROM), electrically erasable and programmable ROM (EEPROM), mask ROM, flash ROM, flash memory (such as NAND flash or NOR flash), hard drive, or a solid state drive (SSD).
외장 메모리는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD(micro secure digital), Mini-SD(mini secure digital), XD(extreme digital), MMC(multi-media card) 또는 메모리 스틱(memory stick) 등을 더 포함할 수 있다. 외장 메모리는 다양한 인터페이스를 통하여 전자 장치와 기능적으로 및/또는 물리적으로 연결될 수 있다.External memory is a flash drive, for example, CF (compact flash), SD (secure digital), Micro-SD (micro secure digital), Mini-SD (mini secure digital), XD (extreme digital), It may further include a multi-media card (MMC) or a memory stick. The external memory may be functionally and/or physically connected to the electronic device through various interfaces.
상술한 예를 참조하여 본 발명을 상세하게 설명하였지만, 당업자라면 본 발명의 범위를 벗어나지 않으면서도 본 예들에 대한 개조, 변경 및 변형을 가할 수 있다. 요컨대 본 발명이 의도하는 효과를 달성하기 위해 도면에 도시된 모든 기능 블록을 별도로 포함하거나 도면에 도시된 모든 순서를 도시된 순서 그대로 따라야만 하는 것은 아니며, 그렇지 않더라도 얼마든지 청구항에 기재된 본 발명의 기술적 범위에 속할 수 있음에 주의한다.Although the present invention has been described in detail with reference to the above-described examples, those skilled in the art can make modifications, changes, and modifications to the examples without departing from the scope of the present invention. In short, in order to achieve the intended effect of the present invention, it is not necessary to separately include all the functional blocks shown in the drawings or follow all the orders shown in the drawings. Note that it may fall within the scope.
100 : 해상도 개선 장치
110 : 학습 지원부
111 : 학습 이미지 분류부
112 : 학습 이미지 선택부
120 : AI 이미지 처리부
121 : 패치 사이즈 결정부
122 : 이미지 분할부
123 : AI 연산 처리부
124 : 이미지 접합부100: resolution improvement device
110: Learning Support Department
111: learning image classification unit
112: learning image selection unit
120: AI image processing unit
121: patch size determining unit
122: image division part
123: AI operation processing unit
124: image joint
Claims (7)
상기 std값의 수치에 따라 상기 이미지들을 이미지 그룹별로 분류하는 단계; 및
다수의 이미지 그룹 중 기준에 부합하는 이미지 그룹을 학습용 이미지 데이터로 선정하여 AI 이미지 처리모델의 학습을 수행하는 단계; 를 포함하는 것을 특징으로 하는 이미지 분할 기반 해상도 개선 방법.obtaining a std value indicating a degree of data distribution for each arbitrary image;
classifying the images into image groups according to the numerical value of the std value; and
performing learning of the AI image processing model by selecting an image group that meets the criteria among a plurality of image groups as image data for training; Image segmentation-based resolution improvement method comprising a.
상기 AI이미지 처리 모델의 학습이 완료되면, 해상도 개선이 요구되는 대상 이미지를 상기 AI이미지 처리 모델에 투입하여 AI 연산을 수행하는 이미지 처리 단계;를 더 포함하는 것을 특징으로 하는 이미지 분할 기반 해상도 개선 방법. 2. The method of claim 1
When the learning of the AI image processing model is completed, an image processing step of performing AI operation by inputting a target image for which resolution improvement is required to the AI image processing model; .
상기 이미지 처리 단계는
해상도 개선이 요구되는 대상 이미지를 상기 AI이미지 처리 모델에 투입하기 위해 상기 대상 이미지를 임의의 패치 사이즈로 분할하는 단계;
분할된 대상 이미지를 상기 AI이미지 처리 모델에 투입하여 AI 연산을 수행하는 단계; 및
AI 연산 이후 산출된 분할분 결과 데이터들을 접합하여 최종 결과 데이터를 생성하는 단계;를 포함하는 것을 특징으로 하는 이미지 분할 기반 해상도 개선 방법. 3. The method of claim 2,
The image processing step is
dividing the target image into arbitrary patch sizes to input the target image for which resolution improvement is required to the AI image processing model;
performing AI calculation by inputting the segmented target image to the AI image processing model; and
Image segmentation-based resolution improvement method comprising the; generating final result data by concatenating segmentation result data calculated after AI operation.
상기 대상 이미지를 임의의 패치 사이즈로 분할하는 단계는
상기 AI이미지 처리 모델의 학습 단계에서 투입된 학습용 이미지 데이터의 패치 사이즈에 대응하는 사이즈로 대상 이미지를 분할하는 것을 특징으로 하는 이미지 분할 기반 해상도 개선 방법.4. The method of claim 3,
The step of dividing the target image into an arbitrary patch size is
Image division-based resolution improvement method, characterized in that the target image is divided into a size corresponding to the patch size of the image data for training input in the learning step of the AI image processing model.
상기 대상 이미지를 임의의 패치 사이즈로 분할하는 단계는
대상 이미지가 포함하는 오브젝트의 유무 및 오브젝트의 사이즈에 대응하여 조절된 패치 사이즈로 분할하는 것을 특징으로 하는 이미지 분할 기반 해상도 개선 방법.4. The method of claim 3
The step of dividing the target image into an arbitrary patch size is
An image segmentation-based resolution improvement method, characterized in that the segment is divided into patch sizes adjusted according to the presence or absence of an object included in the target image and the size of the object.
상기 AI 이미지 처리모델의 학습을 수행하는 단계는
해상도 개선의 대상이 되는 이미지의 속성에 대응하여 학습용 이미지 데이터로 선택되는 std값의 범위를 상이하게 설정하는 것을 특징으로 하는 이미지 분할 기반 해상도 개선 방법.The method of claim 1,
The step of performing the learning of the AI image processing model is
An image segmentation-based resolution improvement method, characterized in that a range of std values selected as image data for training is set differently in response to a property of an image to be improved in resolution.
상기 학습 지원부는
임의 이미지 각각에 대하여 데이터의 분포 정도를 의미하는 std값을 구하고, 상기 이미지를 상기 std값의 수치에 따라 분류한 이미지 그룹을 생성하는 학습 이미지 분류부; 및
기준에 부합하는 이미지 그룹 내 이미지들을 학습용 이미지 데이터로 선정하여 AI 이미지 처리모델의 학습을 수행하는 학습 이미지 선택부;를 포함하고,
상기 AI 이미지 처리부는
상기 학습 지원부에 의해 상기 AI이미지 처리 모델의 학습이 완료됨에 따라, 해상도 개선이 요구되는 대상 이미지를 상기 AI 이미지 처리 모델에 투입하여 AI 연산을 수행하는 것을 특징으로 이미지 분할 기반 해상도 개선 장치.
In the resolution improving device comprising a learning support unit and an AI image processing unit,
The learning support department
a learning image classification unit that obtains a std value indicating a degree of data distribution for each arbitrary image, and generates an image group in which the image is classified according to the numerical value of the std value; and
Including; a learning image selection unit that performs learning of the AI image processing model by selecting images in the image group that meet the criteria as image data for training;
The AI image processing unit
As the learning of the AI image processing model is completed by the learning support unit, the image division-based resolution improvement apparatus, characterized in that, by inputting the target image for which resolution improvement is required to the AI image processing model to perform AI operation.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020200102109A KR102478814B1 (en) | 2020-08-14 | 2020-08-14 | Method and apparatus for improving resolution based on image segmentation |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020200102109A KR102478814B1 (en) | 2020-08-14 | 2020-08-14 | Method and apparatus for improving resolution based on image segmentation |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20220021493A true KR20220021493A (en) | 2022-02-22 |
KR102478814B1 KR102478814B1 (en) | 2022-12-19 |
Family
ID=80494429
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020200102109A KR102478814B1 (en) | 2020-08-14 | 2020-08-14 | Method and apparatus for improving resolution based on image segmentation |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR102478814B1 (en) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101664743B1 (en) * | 2015-09-22 | 2016-10-12 | 현대자동차주식회사 | Apparatus for generating high resolution image and method thereof |
KR20170008638A (en) * | 2015-07-14 | 2017-01-24 | 삼성전자주식회사 | Three dimensional content producing apparatus and three dimensional content producing method thereof |
JP2019025044A (en) * | 2017-07-31 | 2019-02-21 | 株式会社日立製作所 | Medical imaging apparatus and medical image processing method |
JP2020504868A (en) * | 2016-12-23 | 2020-02-13 | マジック リープ, インコーポレイテッドMagic Leap,Inc. | Techniques for determining settings for a content capture device |
-
2020
- 2020-08-14 KR KR1020200102109A patent/KR102478814B1/en active IP Right Grant
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20170008638A (en) * | 2015-07-14 | 2017-01-24 | 삼성전자주식회사 | Three dimensional content producing apparatus and three dimensional content producing method thereof |
KR101664743B1 (en) * | 2015-09-22 | 2016-10-12 | 현대자동차주식회사 | Apparatus for generating high resolution image and method thereof |
JP2020504868A (en) * | 2016-12-23 | 2020-02-13 | マジック リープ, インコーポレイテッドMagic Leap,Inc. | Techniques for determining settings for a content capture device |
JP2019025044A (en) * | 2017-07-31 | 2019-02-21 | 株式会社日立製作所 | Medical imaging apparatus and medical image processing method |
Also Published As
Publication number | Publication date |
---|---|
KR102478814B1 (en) | 2022-12-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
AU2018211354B2 (en) | Image completion with improved deep neural networks | |
CN110162382B (en) | Container-based gray level publishing method, device, computer equipment and storage medium | |
KR102225822B1 (en) | Apparatus and method for generating learning data for artificial intelligence performance | |
CN111527499A (en) | Dynamic accuracy-based deployment and monitoring of machine learning models in provider networks | |
CN105701113A (en) | Method and device for optimizing webpage pre-loading | |
US20180268533A1 (en) | Digital Image Defect Identification and Correction | |
CN113807353B (en) | Image conversion model training method, device, equipment and storage medium | |
US11108844B1 (en) | Artificial intelligence based imaging systems and methods for interacting with individuals via a web environment | |
US11385878B2 (en) | Model deployment method, model deployment device and terminal equipment | |
JP2023535140A (en) | Identifying source datasets that fit the transfer learning process against the target domain | |
CN109360646A (en) | Pathology assistant diagnosis system based on artificial intelligence | |
WO2022252640A1 (en) | Image classification pre-processing method and apparatus, image classification method and apparatus, and device and storage medium | |
CN111461302A (en) | Data processing method, device and storage medium based on convolutional neural network | |
US20170287138A1 (en) | Apparatus and method for dividing image into regions | |
CN111242167A (en) | Distributed image annotation method and device, computer equipment and storage medium | |
KR20220021493A (en) | Method and apparatus for improving resolution based on image segmentation | |
KR20220070865A (en) | Resolution improvement method, device and program considering network environment | |
US10949353B1 (en) | Data iterator with automatic caching | |
US20210150763A1 (en) | Object oriented image normalization | |
CN113706390A (en) | Image conversion model training method, image conversion method, device and medium | |
KR20220070867A (en) | Resolution improvement method, device and program applicable to OTT service | |
US11550387B2 (en) | Stereo correspondence search | |
WO2021068529A1 (en) | Image recognition method and apparatus, computer device and storage medium | |
US20220222769A1 (en) | Dynamic allocation of system of chip resources for efficient signal processing | |
WO2014028440A2 (en) | Fast image processing for recognition objectives system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |