RU2730373C1 - Method and system for displaying current results during image processing - Google Patents

Method and system for displaying current results during image processing Download PDF

Info

Publication number
RU2730373C1
RU2730373C1 RU2019138641A RU2019138641A RU2730373C1 RU 2730373 C1 RU2730373 C1 RU 2730373C1 RU 2019138641 A RU2019138641 A RU 2019138641A RU 2019138641 A RU2019138641 A RU 2019138641A RU 2730373 C1 RU2730373 C1 RU 2730373C1
Authority
RU
Russia
Prior art keywords
image
original image
parts
processed
processing
Prior art date
Application number
RU2019138641A
Other languages
Russian (ru)
Inventor
Илья Владимирович Сафонов
Иван Викторович Якимчук
Original Assignee
Шлюмберже Текнолоджи Б.В.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Шлюмберже Текнолоджи Б.В. filed Critical Шлюмберже Текнолоджи Б.В.
Priority to RU2019138641A priority Critical patent/RU2730373C1/en
Application granted granted Critical
Publication of RU2730373C1 publication Critical patent/RU2730373C1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Processing Or Creating Images (AREA)

Abstract

FIELD: computer equipment.SUBSTANCE: invention relates to computer engineering for displaying current results of processing a large-size multi-dimensional image. Technical result is achieved by displaying on the sketch display device a decomposition of the original image into parts, a graph of the dependence of the numerical characteristic of the processed portions of the original image on the number of the processed part and the region for outputting a pair of image fragments, where the pair includes a portion of the processed portion of the image and a corresponding fragment of the portion of the original image. Symbols on sketched representation of decomposition of initial image into parts of processed parts of initial image and marking on display device of one of marked processed parts of initial image. Mappings on the display device in the region for outputting pairs of image fragments of the fragment of the marked part of the resulting image and the corresponding fragment of the original image and evaluation of the quality of processing of each marked part.EFFECT: technical result consists in reduction of losses of time and resources during image processing due to providing the user with possibility of evaluation of current quality of processing result.11 cl, 7 dwg

Description

Настоящее изобретение относится к обработке изображений, а точнее к способам и системам отображения для пользователя текущих результатов обработки многомерного изображения большого размера, когда обработка изображения выполняется по частям и занимает от десятков минут до десятков часов.The present invention relates to image processing, and more specifically to methods and systems for displaying current results of processing a large multidimensional image for a user, when image processing is performed in parts and takes from tens of minutes to tens of hours.

Во многих областях техники обрабатывают многомерные изображения большого размера, когда размер изображения сравним с размером оперативной памяти обычного персонального компьютера, или превышает его. Обработка изображений может содержать следующие операции, но не ограничена ими: изменение яркости и контраста, фильтрация, сегментация, классификация, коррекция локальных дефектов, геометрические преобразования, вычисление морфометрических характеристик объектов в изображении. Примером подобных данных являются трехмерные изображения компьютерной микротомографии, которые используются для построения цифровой модели керна для последующего моделирования характеристик течения жидкостей в керне, с целью оценки фильтрационно-емкостных свойств соответствующих пород. Также примерами подобных изображений являются трехмерные изображения, полученные с помощью рентгеновской компьютерной томографии (КТ), магнитно-резонансной томографии (МРТ), нейтронной томографии, FIB-SEM (растрового электронного микроскопа с фокусированным ионным пучком), а также кубы сейсмических атрибутов.In many areas of technology, multidimensional images of large size are processed when the size of the image is comparable to or exceeds the size of the main memory of a conventional personal computer. Image processing can contain the following operations, but is not limited to them: changing brightness and contrast, filtering, segmentation, classification, correction of local defects, geometric transformations, calculation of morphometric characteristics of objects in an image. An example of such data are three-dimensional images of computer microtomography, which are used to construct a digital core model for subsequent modeling of the characteristics of fluid flow in the core, in order to assess the reservoir properties of the corresponding rocks. Also examples of such images are three-dimensional images obtained using X-ray computed tomography (CT), magnetic resonance imaging (MRI), neutron tomography, FIB-SEM (Focused Ion Beam Scanning Electron Microscope), and seismic attribute cubes.

В силу ограниченного размера памяти вычислительных систем и с целью обеспечить, насколько это возможно, быструю обработку, стремятся обрабатывать большие изображения по частям и параллельно на нескольких устройствах. Часто изображение может храниться распределенно и обрабатываться по частям параллельно несколькими компьютерами в облачной архитектуре. Несмотря на параллельную обработку, в силу большого объема данных и сложности способов обработки, время обработки может занимать от десятков минут до десятков часов и более. Из-за неправильного выбора параметров часть или целое изображение могут быть обработаны неверно, что потребует заново перезапустить процесс обработки. Это приведет к потере времени и других ресурсов, например, денежных, если облачная инфраструктура арендуется на возмездной основе. Предпочтительно предоставить возможность оператору в процессе обработки видеть текущие результаты, чтобы он имел возможность прервать процесс обработки в случае появления неудовлетворительных результатов. Это приведет к сокращению потерь времени и ресурсов.Due to the limited memory size of computing systems and in order to provide as fast processing as possible, it is sought to process large images in parts and in parallel on multiple devices. Often, an image can be stored distributed and processed piece by piece in parallel by multiple computers in a cloud architecture. Despite the parallel processing, due to the large amount of data and the complexity of processing methods, processing time can take from tens of minutes to tens of hours or more. Due to incorrect selection of parameters, a part or a whole image may be processed incorrectly, which will require restarting the processing process. This will lead to the loss of time and other resources, for example, money if the cloud infrastructure is leased on a reimbursable basis. It is preferable to provide the operator with the opportunity to see the current results during the processing, so that he can interrupt the processing in case of unsatisfactory results. This will lead to less waste of time and resources.

Из уровня техники известно большое количество различных индикаторов прогресса, которые позволяют видеть, что процесс обработки идет, и оценить долю обработанного объема информации и время, остающееся до завершения процесса обработки. В патенте США 9477533 описан набор индикаторов прогресса для использования при параллельной обработке данных. Однако индикаторы прогресса не позволяют оценить текущие результаты обработки и прервать длительный процесс при возникновении неудовлетворительных результатов. В патентах США 7571064 и 7937230 описаны способы визуализации на графике одномерного звукового сигнала по частям. Все части сигнала по мере поступления выводятся на экран и увеличивается точность отображения сигнала. Однако данные способы направлены не на оценку качества результата обработки, а создают эффект анимации для формирования привлекательного интерфейса в процессе ожидания завершения операции.A large number of different progress indicators are known from the prior art, which allow you to see that the processing is in progress, and to estimate the proportion of the processed information volume and the time remaining until the processing is completed. US Pat. No. 9,477,533 describes a set of progress indicators for use in parallel processing. However, progress indicators do not allow evaluating the current processing results and interrupting a long process if unsatisfactory results occur. US Pat. Nos. 7,571,064 and 7,937,230 describe methods of plotting a one-dimensional audio signal in parts. All parts of the signal are displayed on the screen as they are received and the accuracy of the signal display increases. However, these methods are not aimed at assessing the quality of the processing result, but create an animation effect to form an attractive interface while waiting for the completion of the operation.

Техническим результатом заявленного изобретения является сокращение потерь времени и ресурсов при обработке изображения за счет предоставления пользователю возможности оценки текущего качества результата обработки и, при необходимости, остановки процесса обработки в случае неудовлетворительного качества.The technical result of the claimed invention is to reduce the loss of time and resources during image processing by providing the user with the opportunity to assess the current quality of the processing result and, if necessary, stop the processing in case of unsatisfactory quality.

Указанный технический результат достигается тем, что в соответствии с предлагаемым способом отображения текущих результатов обработки изображения на устройстве отображения получают исходное изображение для обработки и отображения, разбивают исходное изображение на части и нумеруют их. Передают задание на обработку пронумерованных частей исходного изображения и осуществляют обработку каждой части исходного изображения. Отображают на устройстве отображения эскизное представление разбиения исходного изображения на части, график зависимости по меньшей мере одной числовой характеристики обработанных частей исходного изображения от номера обработанной части и по меньшей мере одну область для вывода пары фрагментов изображений, где пара включает в себя фрагмент обработанной части изображения и соответствующий ему фрагмент части исходного изображения. Обозначают на эскизном представлении разбиения исходного изображения на части обработанные части исходного изображения и отмечают на устройстве отображения одну из обозначенных обработанных частей исходного изображения. Затем отображают на устройстве отображения в области для вывода пар фрагментов изображений фрагмент отмеченной части результирующего изображения и соответствующий ему фрагмент исходного изображения и оценивают качество обработки каждой отмеченной части.The specified technical result is achieved in that, in accordance with the proposed method for displaying the current results of image processing on a display device, an initial image is obtained for processing and display, the original image is divided into parts and numbered. A task is transmitted for processing the numbered parts of the original image, and processing of each part of the original image is carried out. A thumbnail representation of splitting the original image into parts, a graph of the dependence of at least one numerical characteristic of the processed parts of the original image on the number of the processed part and at least one area for outputting a pair of image fragments is displayed, where the pair includes a fragment of the processed image part and the corresponding fragment of a part of the original image. The processed parts of the original image are designated on the thumbnail representation of the splitting of the original image into parts and one of the designated processed parts of the original image is marked on the display device. Then a fragment of the marked part of the resulting image and the corresponding fragment of the original image are displayed on the display device in the area for outputting pairs of image fragments, and the processing quality of each marked part is estimated.

Обработка частей исходного изображения представляет собой обработку, выбираемую из группы, содержащей изменение яркости и контраста, фильтрацию, сегментацию, классификацию, коррекцию локальных дефектов, геометрические преобразования, вычисление морфометрических характеристик объектов в изображении.The processing of parts of the original image is a processing selected from the group containing changes in brightness and contrast, filtering, segmentation, classification, correction of local defects, geometric transformations, and the calculation of morphometric characteristics of objects in the image.

В соответствии с одним из вариантов осуществления изобретения обозначенную обработанную часть изображения отмечают с помощью первого указателя на эскизном представлении разбиения изображения, при этом связанный с первым указателем второй указатель отмечает точку на графике числовых характеристик обработанных частей исходного изображения, соответствующую числовой характеристике отмеченной части.In accordance with one embodiment of the invention, the designated processed part of the image is marked with a first pointer on the thumbnail representation of the image splitting, while the second pointer associated with the first pointer marks a point on the graph of the numerical characteristics of the processed parts of the original image corresponding to the numerical characteristic of the marked part.

В соответствии с другим вариантом осуществления изобретения обозначенную обработанную часть изображения отмечают с помощью второго указателя на графике числовых характеристик обработанных частей исходного изображения, при этом связанный со вторым указателем первый указатель отмечает обработанную часть изображения, соответствующее отмеченной на графике точке, на эскизном представлении разбиения исходного изображения.In accordance with another embodiment of the invention, the designated processed part of the image is marked with a second pointer on the graph of the numerical characteristics of the processed parts of the original image, while the first pointer associated with the second pointer marks the processed part of the image corresponding to the point marked on the graph in a thumbnail representation of the split of the original image ...

В случае неудовлетворительного качества обработки частей исходного изображения прерывают процесс обработки, например, с помощью сенсорной кнопки на устройстве отображения.In the case of unsatisfactory processing of parts of the original image, the processing is interrupted, for example, using a touch button on the display device.

В соответствии с еще одним вариантом реализации изобретения автоматически выбирают обработанную часть изображения, результат обработки которой наиболее сильно отличается от остальных ранее полученных результатов, обозначают на эскизном представлении разбиения исходного изображения выбранную обработанную часть, обозначают на графике числовых характеристик обработанных частей исходного изображения значение, соответствующее выбранной части, и отображают на устройстве отображения во второй области для вывода пар фрагментов изображений фрагмент выбранной обработанной части изображения и соответствующий ему фрагмент исходного изображения.In accordance with another embodiment of the invention, the processed part of the image is automatically selected, the processing result of which is most different from the rest of the previously obtained results, the selected processed part is indicated on the sketch representation of the division of the original image, the value corresponding to the selected parts, and display on the display device in the second area for outputting pairs of fragments of images a fragment of the selected processed part of the image and the corresponding fragment of the original image.

Предлагаемая система отображения текущих результатов обработки изображения содержит по меньшей мере один процессор, сконфигурированный с возможностью исполнения программ с инструкциями для обработки исходного изображения и обеспечения отображения на устройстве отображения эскизного представления разбиения исходного изображения на части, графика зависимости по меньшей мере одной числовой характеристики обработанных частей исходного изображения от номера обработанной части и по меньшей мере одной области для вывода пары фрагментов изображений, где пара включает в себя фрагмент обработанной части изображения и соответствующий ему фрагмент части исходного изображения, путем исполнения программ с инструкциями, содержащихся в памяти системы отображения текущих результатов обработки изображения.The proposed system for displaying the current results of image processing contains at least one processor configured to execute programs with instructions for processing the original image and providing display on the display device of a thumbnail representation of splitting the original image into parts, a graph of the dependence of at least one numerical characteristic of the processed parts of the original images from the number of the processed part and at least one area for outputting a pair of image fragments, where the pair includes a fragment of the processed image part and the corresponding fragment of a part of the original image, by executing programs with instructions contained in the memory of the display system of the current image processing results.

Система содержит также память, предназначеную для хранения частей исходного изображения, обработанных частей исходного изображения, числовых характеристики обработанных частей исходного изображения, фрагментов обработанных частей изображения и соответствующих им фрагментов частей исходного изображения, и содержащую программы с инструкциями, сконфигурированными для обработки исходного изображения и обеспечения отображения на устройстве отображения эскизного представления разбиения исходного изображения на части, графика зависимости по меньшей мере одной числовой характеристики обработанных частей исходного изображения от номера обработанной части и по меньшей мере одной области для вывода пары фрагментов изображений, где пара включает в себя фрагмент обработанной части изображения и соответствующий ему фрагмент части исходного изображения.The system also contains memory for storing parts of the original image, processed parts of the original image, numerical characteristics of the processed parts of the original image, fragments of the processed parts of the image and corresponding fragments of parts of the original image, and containing programs with instructions configured to process the original image and provide display on the display device of a thumbnail representation of splitting the original image into parts, a graph of the dependence of at least one numerical characteristic of the processed parts of the original image on the number of the processed part and at least one area for outputting a pair of image fragments, where the pair includes a fragment of the processed image part and the corresponding him a fragment of a part of the original image.

Кроме того, система содержит устройство отображения с по меньшей мере одним экраном, выполненное с возможностью отображения эскизного представления разбиения исходного изображения на части, графика зависимости по меньшей мере одной числовой характеристики обработанных частей исходного изображения от номера обработанной части и по меньшей мере одной области для вывода пары фрагментов изображений, где пара включает в себя фрагмент обработанной части изображения и соответствующий ему фрагмент части исходного изображения, и интерфейс пользователя.In addition, the system contains a display device with at least one screen, configured to display a thumbnail representation of the division of the original image into parts, a graph of the dependence of at least one numerical characteristic of the processed parts of the original image on the number of the processed part and at least one area for output pairs of image fragments, where the pair includes a fragment of the processed image part and the corresponding fragment of the original image part, and a user interface.

Процессор дополнительно может быть выполнен с возможностью отображения на устройстве отображения двух связанных между собой указателей, первый из которых предназначен для перемещения с помощью интерфейса пользователя на устройстве отображения по эскизному представлению разбиения изображения на части и активации части изображения, а второй указатель предзначен для перемещения с помощью интерфейса пользователя на устройстве отображения по графику числовой характеристики обработанных частей исходного изображения и активации части изображения, соответствующей выбранной точке графика.The processor can additionally be configured to display on the display device two interconnected pointers, the first of which is intended to be moved using the user interface on the display device according to the thumbnail representation of splitting the image into parts and activating a part of the image, and the second pointer is intended to be moved using the user interface on the display device on the graph of the numerical characteristics of the processed parts of the original image and activation of the part of the image corresponding to the selected point of the graph.

В соответствии с еще одним вариантом реализации изобретения процессор дополнительно может быть выполнен с возможностью отображения на устройстве отображения сенсорной кнопки для прерывания обработки.In accordance with yet another embodiment of the invention, the processor may further be configured to display on the display a touch button to interrupt processing.

Интерфейс пользователя может быть выполнен в виде по меньшей мере одного устройства, выбранного из группы: сенсорный экран, мышь, джойстик, тачпэд, клавиатура, микрофон для голосового управления, датчики для управление жестами.The user interface can be made in the form of at least one device selected from the group: touch screen, mouse, joystick, touchpad, keyboard, microphone for voice control, sensors for gesture control.

Изобретение поясняется чертежами, где на Фиг. 1 представлена блок-схема системы отображения текущих результатов в процессе обработки изображения, на Фиг. 2 - блок-схема способа системы отображения текущих результатов в процессе обработки изображения, на Фиг. 3 приведен пример эскизного представления разбиения исходного трехмерного изображения на неперекрывающиеся части, на Фиг. 4 представлен пример эскизного представления разбиения двухмерного изображения на перекрывающиеся части, на Фиг. 5 приведен пример эскизного представления разбиения трехмерного изображения на части, на Фиг. 6 представлен вариант выполнения отображаемых элементов и элемента управления в процессе коррекции кольцевых артефактов трехмерного томографического изображения, на Фиг. 7 - вариант выполнения отображаемых элементов и элемента управления в процессе сегментации трехмерного изображения.The invention is illustrated by drawings, where FIG. 1 is a block diagram of a system for displaying current results during image processing; FIG. 2 is a block diagram of a method of a system for displaying current results during image processing, FIG. 3 shows an example of a sketchy representation of the division of the original three-dimensional image into non-overlapping parts, FIG. 4 is an example of a sketchy representation of splitting a two-dimensional image into overlapping parts; FIG. 5 shows an example of a sketchy representation of dividing a three-dimensional image into parts, FIG. 6 shows an embodiment of the displayed elements and a control element in the process of correcting ring artifacts of a three-dimensional tomographic image; FIG. 7 shows an embodiment of displayed elements and a control element in the process of segmenting a three-dimensional image.

В данном описании изобретения "выбранной" называют ту часть изображения, которую автоматически выбирают из набора обработанных частей исходного изображения, а "отмеченной" называют ту часть изображения, которую оператор выбирает с помощью интерфейса пользователя. Далее термины "выбранная" и "отмеченная" используются без дополнительных пояснений.In this description of the invention, "selected" refers to that part of the image that is automatically selected from the set of processed parts of the original image, and "checked" refers to the part of the image that the operator selects using the user interface. In the following, the terms "selected" and "marked" are used without further explanation.

Создание визуального интерфейса для оценки текущих результатов обработки большого многомерного изображения является непростой задачей. Во-первых, данных много, поступают они, как правило, со скоростью, превышающей возможности человека для визуального анализа. Во-вторых, данные разных частей изображения могут обрабатываться параллельно и поступать асинхронно в произвольном порядке - зачастую непонятно, как соотносить поступающие данные с их положением в изображении. В-третьих, большой размер и размерность (в частности, трехмерность) изображений затрудняют детальный визуальный анализ результатов обработки.Creating a visual interface for evaluating the current results of processing a large multidimensional image is not an easy task. First, there is a lot of data, they come, as a rule, at a speed that exceeds a person's capabilities for visual analysis. Secondly, data from different parts of the image can be processed in parallel and come asynchronously in an arbitrary order - it is often not clear how to correlate the incoming data with its position in the image. Thirdly, the large size and dimension (in particular, three-dimensionality) of the images complicate a detailed visual analysis of the processing results.

Если просто выводить на экран текущие результаты обработки изображения фрагмент за фрагментом, то, скорее всего, это будет выглядеть как мелькание картинок. Практически невозможно будет сделать какой-либо вывод по этим быстро сменяющимся кадрам. Требуется обеспечить интервал времени, в ходе которого информация на устройстве отображения остается неизменной, и оператор имеет возможность проанализировать текущие результаты. Однако, тогда на экран выводится информация только о некоторых из обработанных частей изображения. Возникают следующие подзадачи: как наиболее продуктивным образом выводить на экран информацию о результате обработки части изображения; какую из имеющихся в настоящий момент обработанных частей изображения предпочтительнее показывать на экране; как предоставить пользователю возможность просмотра информации о результатах обработки остальных частей изображения, информация о которых не выводилась на экран; и как показывать пользователю трехмерные части изображений, чтобы обеспечить возможность детального визуального анализа результатов.If you just display the current results of image processing fragment by fragment, then, most likely, it will look like flickering pictures. It will be almost impossible to draw any conclusion from these rapidly changing frames. It is required to provide a time interval during which the information on the display device remains unchanged, and the operator is able to analyze the current results. However, then only some of the processed parts of the image are displayed on the screen. The following subtasks arise: how to display information about the result of processing a part of an image in the most productive way; which of the currently processed parts of the image is preferable to display on the screen; how to provide the user with the ability to view information about the results of processing the remaining parts of the image, information about which was not displayed on the screen; and how to show 3D portions of images to the user to enable detailed visual analysis of the results.

На Фиг. 1 показан пример системы отображения текущих результатов обработки изображения, содержащий по меньшей мере один процессор 1, память 2, причем память может быть разного типа (статическая и динамическая) и может быть распределена между несколькими процессорами, интерфейс 3 пользователя, интерфейс 4 обмена данными и устройство 5 отображения с по меньшей мере одним экраном. Все перечисленные компоненты 1-5 соединены каналом 6 обмена данными.FIG. 1 shows an example of a system for displaying the current results of image processing, containing at least one processor 1, memory 2, and the memory can be of different types (static and dynamic) and can be distributed between several processors, user interface 3, data exchange interface 4 and a device 5 displays with at least one screen. All of the listed components 1-5 are connected by communication channel 6.

Память 2 предназначена для хранения частей исходного изображения, обработанных частей исходного изображения, числовых характеристик обработанных частей исходного изображения, фрагментов обработанных частей изображения и соответствующих им фрагментов частей исходного изображения. Она также содержит программы 7 с инструкциями, сконфигурированными для обработки исходного изображения и обеспечения отображения на устройстве 5 отображения эскизного представления 8 разбиения исходного изображения на части, графика 9 зависимости по меньшей мере одной числовой характеристики обработанных частей исходного изображения от номера обработанной части и по меньшей мере одной области 10 для вывода пары фрагментов изображений, где пара включает в себя фрагмент обработанной части изображения и соответствующий ему фрагмент части исходного изображенияMemory 2 is intended for storing parts of the original image, processed parts of the original image, numerical characteristics of the processed parts of the original image, fragments of the processed parts of the image and corresponding fragments of parts of the original image. It also contains programs 7 with instructions configured to process the original image and provide display on the display device 5 of the thumbnail representation 8 of splitting the original image into parts, a graph 9 of the dependence of at least one numerical characteristic of the processed parts of the original image on the number of the processed part and at least one area 10 for outputting a pair of image fragments, where the pair includes a fragment of the processed part of the image and the corresponding fragment of a part of the original image

Процессор 1 сконфигурирован с возможностью исполнения программ 7 с инструкциями для обработки исходного изображения и обеспечения отображения на устройстве 5 отображения эскизного представления 8 разбиения исходного изображения на части, графика 9 зависимости по меньшей мере одной числовой характеристики обработанных частей исходного изображения от номера обработанной части и по меньшей мере одной области 10 для вывода пары фрагментов изображений, где пара включает в себя фрагмент обработанной части изображения и соответствующий ему фрагмент части исходного изображения, путем исполнения программ с инструкциями, содержащихся в памяти 2 системы отображения текущих результатов обработки изображения,The processor 1 is configured with the possibility of executing programs 7 with instructions for processing the original image and providing display on the display device 5 of the thumbnail representation 8 of splitting the original image into parts, a graph 9 of the dependence of at least one numerical characteristic of the processed parts of the original image on the number of the processed part and at least at least one area 10 for outputting a pair of image fragments, where the pair includes a fragment of the processed part of the image and the corresponding fragment of the part of the original image, by executing programs with instructions contained in the memory 2 of the display system of the current results of image processing,

Система может быть выполнена на основе одного компьютерного или микропроцессорного устройства, в том числе мобильного, тогда канал 6 обмена данными является шиной данных. Также система может быть выполнена в виде нескольких компьютерных и микропроцессорных устройств, часть из которых может быть мобильными, тогда канал 6 обмена данными является проводной или беспроводной сетью обмена данными. Обработка и хранение изображения может осуществляться несколькими устройствами в облачной среде или локальной сети. В этом случае используют интерфейс обмена данными, являющийся интерфейсом проводной или беспроводной сети. Также обработка и хранение изображения может осуществляться на том же самом устройстве, который используется для отображения текущих результатов. В этом случае обмен данными происходит в оперативной памяти. В качестве интерфейса 3 пользователя может использоваться любое из перечисленных устройств или их комбинация: сенсорный экран, мышь, джойстик, тачпэд, клавиатура, микрофон для голосового управления, датчики для управление жестами или иные способы ввода информации в микропроцессорную систему.The system can be implemented on the basis of one computer or microprocessor device, including a mobile one, then the data exchange channel 6 is a data bus. Also, the system can be made in the form of several computer and microprocessor devices, some of which can be mobile, then the data exchange channel 6 is a wired or wireless data exchange network. Image processing and storage can be carried out by several devices in the cloud or local area network. In this case, the data exchange interface is used, which is the interface of the wired or wireless network. Also, image processing and storage can be carried out on the same device that is used to display the current results. In this case, the data exchange takes place in RAM. Any of the listed devices or their combination can be used as the user interface 3: a touch screen, a mouse, a joystick, a touchpad, a keyboard, a microphone for voice control, sensors for gesture control, or other methods of entering information into a microprocessor system.

Устройство 5 отображения выполнено с возможностью отображения эскизного представления 8 разбиения исходного изображения на части, графика 9 зависимости по меньшей мере одной числовой характеристики обработанных частей исходного изображения от номера обработанной части и по меньшей мере одной области 10 для вывода пары фрагментов изображений, где пара включает в себя фрагмент обработанной части изображения и соответствующий ему фрагмент части исходного изображения.The display device 5 is configured to display a thumbnail representation 8 of dividing the original image into parts, a graph 9 of the dependence of at least one numerical characteristic of the processed parts of the original image on the number of the processed part, and at least one area 10 for outputting a pair of image fragments, where the pair includes a fragment of the processed part of the image and the corresponding fragment of a part of the original image.

Также процессор 1 может быть выполнен с возможностью обеспечения отображения на устройстве 5 отображения кнопки 11 для прерывания процесса обработки изображения и двух связанных между собой указателей 12 и 13, первый из которых выполнен с возможностью перемещения с помощью интерфейса 3 пользователя по эскизному представлению 8 разбиения изображения на части и отметки какой-либо обработанной части изображения. Второй указатель 13 выполнен с возможностью перемещения с помощью интерфейса 3 пользователя по графику 9 числовой характеристики обработанных частей исходного изображения и отметки части изображения, соответствующей точке графика 9 под указателем.Also, the processor 1 can be configured to display on the display device 5 a button 11 for interrupting the image processing and two interconnected pointers 12 and 13, the first of which is movable using the user interface 3 over a thumbnail view 8 of dividing the image into parts and marks of any processed part of the image. The second pointer 13 is configured to move with the help of the user interface 3 along the graph 9 of the numerical characteristics of the processed parts of the original image and mark the part of the image corresponding to the point of the graph 9 under the pointer.

На Фиг. 2 представлена блок-схема способа отображения текущих результатов обработки изображения, содержащего несколько этапов. После получения исходного изображения для обработки и отображения на первом этапе (поз. 14 на Фиг. 2) в соотвествии с предопределенными пользователем параметрами разбивают исходное изображение на части и нумеруют их.FIG. 2 is a block diagram of a method for displaying the current results of image processing, containing several stages. After obtaining the initial image for processing and display at the first stage (item 14 in Fig. 2), in accordance with the user-defined parameters, the original image is divided into parts and numbered.

Разбиение исходного изображения на части однозначным образом позволяет обозначить и выбрать интересующую часть изображения. Возможны различные варианты подобных разбиений исходного изображения на части и различные варианты способа нумерации частей изображения в зависимости от его размерности. Также возможны различные варианты эскизного представления разбиения изображения на части. Примеры различных разбиений изображений, нумерации частей и эскизных представлений разбиения изображения на части показаны на фиг. 3-5.Dividing the original image into parts in an unambiguous way allows you to designate and select an interesting part of the image. There are various options for such partitions of the original image into parts and different options for the method of numbering parts of the image depending on its dimension. There are also various options for the sketch representation of splitting the image into parts. Examples of various image splits, part numbering, and thumbnail representations of image splitting are shown in FIG. 3-5.

На фиг. 3 показано разбиение трехмерного исходного изображения перпендикулярно оси Z на непересекающиеся части, где каждая часть содержит несколько соседних срезов (горизонтальных слоев трехмерного изображения), например, томографического или FIB-SEM изображений. В качестве фона эскизного представления разбиения изображения на части используют поперечный срез в плоскости XZ, или проекцию изображения на плоскость XZ, или, в случае томографического изображения, одна из теневых проекций. Части изображения нумеруют по порядку (на фиг. 3 римскими цифрами) в соответствии с увеличением координаты Z. Возможен вариант, когда значение координаты Z, соответствующее положению части изображения, используют в качестве номера.FIG. 3 shows the division of a three-dimensional original image perpendicular to the Z-axis into non-intersecting parts, where each part contains several adjacent slices (horizontal layers of the three-dimensional image), for example, tomographic or FIB-SEM images. A cross section in the XZ plane, or the projection of the image on the XZ plane, or, in the case of a tomographic image, one of the shadow projections, is used as the background of the sketch representation of the image splitting into parts. Parts of the image are numbered in order (in Fig. 3 in Roman numerals) in accordance with the increase in the Z coordinate. It is possible that the value of the Z coordinate corresponding to the position of the image part is used as a number.

На фиг. 4 показано разбиение двумерного исходного изображения на шесть перекрывающихся частей. Области перекрытия заштрихованы. В качестве фона используют само это изображение. Части нумеруют в порядке зигзагообразного обхода (на фиг. 4 нумерация для примера показана римскими цифрами). Возможен вариант, когда линейная комбинация значений координат X и Y центра масс части используется в качестве его номера.FIG. 4 shows the splitting of a two-dimensional original image into six overlapping parts. The overlap areas are shaded. This image itself is used as a background. The parts are numbered in zigzag order (in Fig. 4, for example, the numbering is shown in Roman numerals). It is possible that a linear combination of the values of the X and Y coordinates of the center of mass of the part is used as its number.

На фиг. 5 показано разбиение трехмерного исходного изображения на 27 частей кубической формы (неважно, перекрывающихся или нет). Каждый слой кубов показан отдельно. В качестве фона используют поперечный срез в пределах данного слоя. Части нумеруют по мере удаления от центрального куба: в данном случае, сначала соседи по стороне, потом по ребру, наконец по углу (на фиг. 5 нумерация для примера показана римскими цифрами). Возможен вариант, когда линейная комбинация значений координат X, Y и Z центра масс части используется в качестве его номера.FIG. 5 shows the splitting of a 3D original image into 27 cubic pieces (whether overlapping or not). Each layer of cubes is shown separately. A cross section within this layer is used as a background. The parts are numbered as they move from the central cube: in this case, first neighbors along the side, then along the edge, and finally along the corner (in Fig. 5, for example, the numbering is shown in Roman numerals). It is possible that a linear combination of the values of the X, Y and Z coordinates of the center of mass of the part is used as its number.

Части исходного изображения могут быть перекрывающимися или неперекрывающимися. Части могут иметь размерность такую же, как размерность исходного изображения, или меньше; например, для трехмерного изображения части могут быть трехмерные, двумерные и одномерные.Parts of the original image can be overlapping or non-overlapping. Parts can have the same dimension as the original image, or less; for example, for a three-dimensional image, the parts can be three-dimensional, two-dimensional, and one-dimensional.

Далее (поз. 15 на Фиг. 2) с помощью интерфейса 4 (Фиг. 1) обмена данными передают задание на обработку пронумерованных частей исходного изображения. При визуальной оценке обработанного изображения целесообразно видеть на экране соответствующий фрагмент части исходного изображения. Для того, чтобы понимать, где в целом изображении расположена часть, которая в текущий момент времени демонстрируется пользователю, на следующем этапе (поз. 16 на Фиг. 2) выводят на устройство 5 отображения эскизное представление 8 разбиения исходного изображения на части. На устройство 5 отображения выводят также оси координат для графика 9 числовой характеристики обработанной части исходного изображения в зависимости от номера части и по меньшей мере одну область 10 для вывода пары фрагментов изображений, где пара включает фрагмент части обработанного изображения и соответствующий ему фрагмент части исходного изображения. Часто числовая характеристика является более информативной, чем демонстрация фрагмента части обработанного изображения, иногда бывает наоборот. Целью значительного количества операций обработки изображений не является получение каких-либо числовых характеристик. Однако, всегда можно предложить использовать некую числовую характеристику, которая будет более-менее адекватно характеризовать результат обработки. Например, при фильтрации шума можно вычислять изменение дисперсии пикселей изображения в локальной области по сравнению с исходным изображением; при проведении сегментации изображения пористой среды можно вычислять значение пористости для данной части изображения. Таким образом, для оценки качества обработки части изображения предлагается выводить фрагмент этой части обработанного изображения и соответствующий ему фрагмент исходного изображения, а также на графике отображать числовую характеристику обработанной части исходного изображения, причем по другой оси графика обозначают номер части изображения, соседним частям изображения присваивают близкие номера. Также в некоторых случаях можно отображать более одной числовой характеристики на одном или нескольких графиках.Further (item 15 in Fig. 2) using the data exchange interface 4 (Fig. 1), a task is transmitted for processing the numbered parts of the original image. When visually assessing the processed image, it is advisable to see on the screen the corresponding fragment of a part of the original image. In order to understand where in the whole image the part is located, which is currently shown to the user, in the next step (16 in Fig. 2) a thumbnail representation 8 of splitting the original image into parts is displayed on the display device 5. The display device 5 also displays the coordinate axes for the graph 9 of the numerical characteristics of the processed part of the original image depending on the part number and at least one area 10 for outputting a pair of image fragments, where the pair includes a fragment of a part of the processed image and a corresponding fragment of a part of the original image. Often a numerical characteristic is more informative than demonstrating a fragment of a part of a processed image, sometimes it is the other way around. The purpose of a significant number of image processing operations is not to obtain any numerical characteristics. However, you can always suggest using a certain numerical characteristic that will more or less adequately characterize the processing result. For example, when filtering noise, you can calculate the change in the variance of the pixels of the image in the local area compared to the original image; when performing image segmentation of a porous medium, it is possible to calculate the value of porosity for a given part of the image. Thus, to assess the quality of processing a part of the image, it is proposed to display a fragment of this part of the processed image and the corresponding fragment of the original image, as well as display the numerical characteristic of the processed part of the original image on the graph, and the number of the image part is designated along the other axis of the graph, the adjacent parts of the image are assigned numbers. Also, in some cases, you can display more than one numeric characteristic on one or more graphs.

На следующем этапе способа (поз. 17 на фиг. 2) осуществляют обработку каждой части исходного изображения. Обработка может содержать следующие типичные операции, но не ограничена ими: изменение яркости и контраста исходного изображения, фильтрация, сегментация, классификация, коррекция локальных дефектов, геометрические преобразования, вычисление морфометрических характеристик объектов в изображении.At the next stage of the method (item 17 in Fig. 2), each part of the original image is processed. Processing can contain the following typical operations, but is not limited to them: changing the brightness and contrast of the original image, filtering, segmentation, classification, correction of local defects, geometric transformations, calculation of morphometric characteristics of objects in the image.

Далее (поз. 18 на фиг. 2) получают с помощью интерфейса 4 обмена данными набор обработанных частей изображения за предопределенный интервал времени отображения. Длительность интервала времени отображения выбирается такой, чтобы оператор успел увидеть результат обработки для данной обработанной части и оценить его качество. Качество оценивают путем визуального сравнения фрагмента части обработанного изображения и соответствующего ему фрагмента исходного изображения, а также по числовой характеристике в зависимости от конкретной операции обработки изображения, например, для сегментации можно на фрагменте увидеть, что какие-то области сегментированы неправильно, а на числовой характеристике увидеть, что, например, пористость данной части сильно отличается от пористости по другим ранее обработанным частям.Then (18 in Fig. 2) a set of processed image parts is obtained using the data exchange interface 4 for a predetermined display time interval. The duration of the display time interval is chosen so that the operator has time to see the processing result for this processed part and evaluate its quality. The quality is assessed by visual comparison of a fragment of a part of the processed image and the corresponding fragment of the original image, as well as by a numerical characteristic, depending on a specific image processing operation, for example, for segmentation, you can see on a fragment that some areas are segmented incorrectly, and on a numerical characteristic see that, for example, the porosity of a given part is very different from the porosity of other previously processed parts.

Затем (поз. 19 на фиг. 2) отображают на устройстве отображения 5 на графике 9 числовые характеристики для всех обработанных частей изображения и обозначают с помощью цвета, или каких-либо обозначений (например, толстой рамки), или анимации (например, чередующееся затемнение и осветление) на эскизном представлении 8 разбиения изображения данные части как обработанные. На фиг. 3 обработанные части изображения показаны более светлыми. На фиг. 4 обработанные части отмечены толстыми рамками. На фиг. 5 обработанные части отмечены галочкой.Then (pos. 19 in Fig. 2), the numerical characteristics for all processed parts of the image are displayed on the display device 5 on the graph 9 and are indicated by color, or some designation (for example, a thick frame), or animation (for example, alternating dark and lightening) in the split image thumbnail view 8, the part data as processed. FIG. The 3 processed parts of the image are shown lighter. FIG. The 4 machined parts are marked with thick frames. FIG. 5 machined parts are marked with a check mark.

В соответствии с одним из вариантов осуществления изобретения на следующем этапе (поз. 20 на фиг. 2) отмечают с помощью связанных друг с другом первого 12 и второго 13 указателей обработанную часть изображения, для чего выполняют любую из двух операций: отмечают с помощью первого указателя 12 обработанную часть на эскизном представлении 8 разбиения изображения, при этом второй указатель 13 перемещается на точку графика 9, соответствующую числовой характеристике отмеченной обработанной части; либо отмечают с помощью второго указателя 13 точку на графике 9 числовых характеристик результата обработки, при этом первый указатель 12 на эскизном представлении 8 разбиения изображения на части перемещается на обработанную часть изображения, соответствующую выбранной на графике точке.In accordance with one of the embodiments of the invention, in the next step (20 in Fig. 2), the processed part of the image is marked with the help of the first 12 and the second 13 pointers connected to each other, for which either of the two operations is performed: mark with the first pointer 12 the processed part on the thumbnail representation 8 of splitting the image, while the second pointer 13 is moved to the point of the graph 9 corresponding to the numerical characteristic of the marked processed part; or, using the second pointer 13, a point on the graph 9 of the numerical characteristics of the processing result is marked, while the first pointer 12 on the thumbnail representation 8 of dividing the image into parts moves to the processed part of the image corresponding to the point selected on the graph.

На этапе 21 на фиг. 2 отображают на устройстве 5 отображения область 10 для вывода пар фрагментов изображений фрагмент отмеченной обработанной части изображения и соответствующий ему фрагмент исходного изображения. Связь отмеченной обработанной части на эскизном представлении 8 разбиения изображения на части и соответствующей ей числовой характеристики на графике 9 обозначается с помощью специального визуального элемента, например, стрелочки заданного цвета. Положение и масштаб фрагментов в отмеченной части изображения может быть фиксированным в соответствии с предопределенными параметрами, или данные параметры могут изменяться оператором с помощью интерфейса 3 пользователя, или данные параметры изменяются в соответствии с инструкциями, записанными в оперативную память 2. В последнем случае возможно создание следующих анимационных эффектов с заданной кадровой частотой: панорамирования вдоль 2D изображения за счет изменения положения 2D фрагментов; наезда и отъезда камеры за счет изменения масштаба 2D фрагментов; перелистывания слоев 3D изображения. Причем данные эффекты могут комбинироваться друг с другом.In step 21 in FIG. 2 displays on the display device 5 an area 10 for outputting pairs of image fragments a fragment of the marked processed image part and the corresponding fragment of the original image. The connection of the marked processed part on the thumbnail representation 8 of dividing the image into parts and the corresponding numerical characteristic on the graph 9 is indicated using a special visual element, for example, an arrow of a given color. The position and scale of the fragments in the marked part of the image can be fixed in accordance with predefined parameters, or these parameters can be changed by the operator using the user interface 3, or these parameters can be changed in accordance with the instructions written in the RAM 2. In the latter case, the creation of the following animation effects with a given frame rate: panning along a 2D image by changing the position of 2D fragments; camera arrival and departure by changing the scale of 2D fragments; flipping through the layers of the 3D image. Moreover, these effects can be combined with each other.

Если при оценке качества обработки какой-либо отмеченной обработанной части изображения в области 10 для вывода пар фрагментов или на графике 9 замечены неудовлетворительные результаты (поз. 22 на фиг. 2), то прерывают процесс обработки с помощью кнопки 11 элемента управления на устройстве 5 отображения (фиг. 1).If, when evaluating the processing quality of any marked processed part of the image in the area 10 for outputting pairs of fragments or on the graph 9, unsatisfactory results are noticed (item 22 in FIG. 2), then the processing process is interrupted using the control button 11 on the display device 5 (Fig. 1).

В соответствии с одним из вариантов осуществления изобретения устройство 5 отображения выполнено с возможностью вывода на устройство 5 отображения второй области для вывода пары фрагментов изображений для того, чтобы за предопределенный интервал времени отображения осуществлять автоматический выбор обработанной части изображения, результат обработки которой наиболее сильно отличается от остальных ранее полученных результатов. Выводят во вторую область для вывода пар фрагментов изображений фрагмент части обработанного изображения и соответствующий ему фрагмент исходного изображения; обозначают на графике 9 числовых характеристик значение, соответствующее выбранной части; обозначают на эскизном представлении 8 разбиения изображения выбранную часть.In accordance with one embodiment of the invention, the display device 5 is configured to output the second area to the display device 5 for outputting a pair of image fragments in order to automatically select the processed part of the image within a predetermined display time interval, the processing result of which is most different from the rest previously obtained results. A fragment of a part of the processed image and a corresponding fragment of the original image are output to the second area for outputting pairs of image fragments; indicate on the graph 9 of the numerical characteristics the value corresponding to the selected part; indicate the selected part on the thumbnail view 8 of the split image.

Отличие определяют по абсолютной величине разности численной характеристики (или, в случае нескольких характеристик, их комбинации) от среднего арифметического для этой характеристики в данном наборе или для всех ранее полученных результатов. В другом варианте отличие определяется по величине критерия схожести гистограмм интенсивностей для части изображения и для всех остальных частей изображения в данном наборе или всех обработанных ранее. В качестве критерия схожести могут выступать, например:The difference is determined by the absolute value of the difference of a numerical characteristic (or, in the case of several characteristics, their combination) from the arithmetic mean for this characteristic in a given set or for all previously obtained results. In another variant, the difference is determined by the value of the similarity criterion of the histograms of intensities for a part of the image and for all other parts of the image in this set or all previously processed. The similarity criterion can be, for example:

Расстояние Хеллингера (Hellinger):Hellinger distance:

Figure 00000001
Figure 00000001

где n - количество бит на элемент изображения, H - нормализованная гистограмма интенсивностей для части изображения, Hc - нормализованная гистограмма интенсивностей для остальных частей изображения.where n is the number of bits per image element, H is the normalized histogram of intensities for a part of the image, Hc is the normalized histogram of intensities for the rest of the image.

Сумма абсолютных разностей соответствующих друг другу столбцов гистограмм:The sum of the absolute differences of the corresponding histogram columns:

Figure 00000002
Figure 00000002

Так называемый, альтернативный критерий Хи-квадрат:The so-called alternative Chi-square test:

Figure 00000003
Figure 00000003

Связь выбранной наиболее отличающейся части на эскизном представлении 8 разбиения изображения на части и соответствующей ей числовой характеристики на графике 9 обозначают с помощью специального визуального элемента, например, стрелки заданного цвета. Положение и масштаб фрагментов в выбранной части изображения может быть фиксированным в соответствии с предопределенными параметрами, или данные параметры могут изменяться оператором с помощью интерфейса 3 пользователя или данные параметры изменяются в соответствии с инструкциями, записанными в оперативную память 2. В последнем случае возможно создание следующих анимационных эффектов с заданной кадровой частотой: панорамирования вдоль 2D изображения за счет изменения положения 2D фрагментов; наезда и отъезда камеры за счет изменения масштаба 2D фрагментов; перелистывания слоев 3D изображения. Причем данные эффекты могут комбинироваться друг с другом.The connection of the selected most different part on the thumbnail representation 8 of splitting the image into parts and the corresponding numerical characteristics on the graph 9 is indicated using a special visual element, for example, an arrow of a given color. The position and scale of the fragments in the selected part of the image can be fixed in accordance with predefined parameters, or these parameters can be changed by the operator using the user interface 3, or these parameters can be changed in accordance with the instructions written in the main memory 2. In the latter case, it is possible to create the following animation effects with a given frame rate: panning along a 2D image by changing the position of 2D fragments; camera arrival and departure by changing the scale of 2D fragments; flipping through the layers of the 3D image. Moreover, these effects can be combined with each other.

Рассмотрим примеры выполнения данного изобретения для нескольких задач обработки изображений. Вариант выполнения эскизного представления разбиения изображения на части, графика числовой характеристики результата обработки, фрагмента обработанной части изображения и соответствующего ему фрагмента исходного изображения в процессе коррекции кольцевых артефактов трехмерного томографического изображения показан на фиг. 6. Исходное изображение разбивается на перекрывающиеся части по несколько слоев, перпендикулярных оси Z. На эскизном представлении (Фиг 6. а) разбиения изображения на части обозначены только внутренние слои, которые не попадают в перекрывающиеся части. В качестве фона используется поперечный срез томографического изображения в плоскости XZ для Y равного половине размера изображения вдоль оси Y. Части пронумерованы по порядку при увеличении координаты Z. Обработанные части подсвечены синим цветом, необработанные - не подсвечены. Выбранная часть подсвечена желтым цветом, а отмеченная - красным. В качестве числовой характеристики результата обработки используется доля вокселей части изображения, которые повреждены кольцевым артефактом. Точки на графике (Фиг 6. b) числовой характеристики для обработанных частей синие. Соответствие точки на графике для выбранной части положению этой части в изображении показано прерывистой желтой стрелкой. Соответствие точки на графике для отмеченной части положению этой части в изображении показано прерывистой красной стрелкой, и данная точка обведена в красный кружок. На желтом фоне показаны соответствующие друг другу фрагменты для выбранной части изображения (Фиг. 6 с): сверху для исходного изображения, снизу для результата. На красном фоне показаны соответствующие друг другу фрагменты для отмеченной части изображения (Фиг 6. d): сверху для исходного изображения, снизу для результата. Таким образом, с помощью цвета красного и желтого обозначается информация, относящаяся к отмеченной пользователем и автоматически выбранной наиболее отличающейся от других частям соответственно. Размер и положение фрагментов выбираются автоматически средством управления так, чтобы самый большой по площади кольцевой артефакт был виден в максимально большом масштабе. С помощью связанных друг с другом указателей пользователь отмечает часть изображения на эскизном представлении или на графике. В данном случае целесообразно отмечать те точки на графике, которые соответствуют большим значениям процентной доли поврежденных вокселей. Дополнительно может отображаться процент обработанных на текущий момент частей изображения (59% на фиг. 6). Кнопка "Прервать" позволяет прервать процесс обработки. После завершения обработки с помощью элементов управления можно продолжить отмечать и просматривать обработанные части до тех пор, пока не нажата кнопка "Закрыть".Consider examples of the implementation of the present invention for several tasks of image processing. An embodiment of a sketch representation of splitting an image into parts, a graph of the numerical characteristics of the processing result, a fragment of the processed part of the image and the corresponding fragment of the original image in the process of correcting ring artifacts of a three-dimensional tomographic image is shown in Fig. 6. The original image is split into overlapping parts in several layers perpendicular to the Z axis. In the sketch representation (Fig. 6. a) of splitting the image into parts, only the inner layers are indicated, which do not fall into the overlapping parts. The background is a cross-section of the tomographic image in the XZ plane for Y equal to half the image size along the Y axis. The parts are numbered in order as the Z coordinate increases. Processed parts are highlighted in blue, unprocessed ones are not highlighted. The selected part is highlighted in yellow, and the marked part is in red. As a numerical characteristic of the processing result, the fraction of voxels of a part of the image that are damaged by a ring artifact is used. The points on the graph (Fig. 6. b) of the numerical characteristics for the processed parts are blue. The correspondence of a point on the graph for the selected part to the position of this part in the image is shown by a dashed yellow arrow. The correspondence of a point on the graph for the marked part to the position of this part in the image is shown by a dashed red arrow, and this point is circled in a red circle. On a yellow background, fragments corresponding to each other are shown for the selected part of the image (Fig. 6 c): above for the original image, below for the result. On a red background, fragments corresponding to each other are shown for the marked part of the image (Fig. 6. d): above for the original image, below for the result. Thus, with the help of the color of red and yellow, the information related to the marked by the user and automatically selected the most different from other parts, respectively, is indicated. The size and position of the fragments are automatically selected by the control so that the largest ring artifact in area is visible at the largest possible scale. Using linked pointers, the user marks a portion of an image in a thumbnail view or graph. In this case, it is advisable to mark those points on the graph that correspond to large values of the percentage of damaged voxels. Additionally, the percentage of currently processed image parts (59% in FIG. 6) can be displayed. The "Interrupt" button allows you to interrupt the processing process. Once machining is complete, you can use the controls to continue to mark and view the machined parts until you click Close.

Вариант выполнения отображаемых элементов и элементов управления в процессе сегментации трехмерного томографического изображения на воксели пор и породы показан на фиг. 7. Изображение разделено на две половины перпендикулярно оси Y, и каждая половина разбита на 4 части. На эскизном представлении (Фиг. 7 а) разбиения изображения на части показано разбиение обеих половин на 4 части. Таким образом имеем 8 частей. В качестве фона эскизного представления для каждой части используются два поперечных среза томографического изображения в плоскости XZ для середины каждой из половин изображения. Части пронумерованы против часовой стрелки начиная с нижней левой части, нумерация начинается с половины изображения, показанной ниже. Для обработанных частей указаны их номера (римскими цифрами), для необработанных - не показаны. Номер автоматически выбранной части заключен в треугольник, а номер отмеченной пользователем заключен в квадрат. Строятся графики для двух числовых характеристик частей изображения: пористости (Фиг. 7 b), вычисляемой как отношение количества черных вокселей к общему количеству вокселей для сегментированного изображения, и коэффициента схожести Фиг. 7 с ("Похожесть"), вычисляемое как единица минус расстояние Хеллингера между гистограммой данной части исходного изображения и гистограммой всего исходного изображения. Точки на графиках, соответствующие выбранной части заключены в треугольник, а соответствующие отмеченной части заключены в квадрат. Около соответствующих друг другу фрагментов для выбранной части изображения нарисован треугольник (Фиг. 7 d). Около соответствующих друг другу фрагментов для отмеченной части изображения нарисован квадрат (Фиг. 7 е). В обоих случаях слева расположен фрагмент исходного изображения, справа расположен фрагмент результата обработки. Таким образом, с помощью пиктограмм в виде квадрата и треугольника отмечается информация, относящаяся к отмеченной пользователем и выбранной автоматически частям соответственно. Размер и положение фрагментов для выбранной части изменяются средством управления так, чтобы создать анимационные эффекты панорамирования, наезда и отъезда камеры в пределах части среза (плоскости перпендикулярной оси Z), а также перехода между срезами. С помощью связанных друг с другом указателей пользователь отмечает часть изображения на эскизном представлении разбиения изображения или на любом из графиков. Размер и положение фрагментов для отмеченной части пользователь устанавливает с помощью элемента управления, который дополнительно включает кнопки для увеличения и уменьшения масштаба, перемещения между срезами вверх и вниз, перемещения по срезу влево, вправо, вверх и вниз. Дополнительно могут отображаеться сумма потраченных на данный момент ресурсов, например, денежная сумма в рублях, на обработку изображения в облаке, а также оценка времени до завершения обработки. Кнопка "Пауза" служит для приостановки обработки, например, для того чтобы оценить текущие результаты и при необходимости прервать процесс обработки. "Прервать" позволяет прервать процесс обработки. После завершения обработки кнопка "Прервать" заменяется кнопкой "Закрыть", и с помощью элементов управления можно продолжить отмечать и просматривать обработанные части до тех пор, пока не нажата кнопка "Закрыть".An embodiment of the displayed elements and controls during the segmentation of a three-dimensional tomographic image into voxels of pores and rocks is shown in Fig. 7. The image is divided into two halves perpendicular to the Y-axis, and each half is split into 4 parts. The sketch representation (Fig. 7 a) of splitting the image into parts shows the division of both halves into 4 parts. Thus, we have 8 parts. For the background of the thumbnail view for each part, two cross-sectional tomographic images in the XZ plane are used for the middle of each half of the image. Portions are numbered counterclockwise starting from the bottom left, the numbering starting from half of the image shown below. For the processed parts, their numbers are indicated (in Roman numerals), for the untreated ones, they are not shown. The number of the automatically selected part is enclosed in a triangle, and the number of the user-selected part is enclosed in a square. Graphs are built for two numerical characteristics of image parts: porosity (Fig. 7 b), calculated as the ratio of the number of black voxels to the total number of voxels for the segmented image, and the similarity factor of Fig. 7 s ("Similarity"), calculated as one minus the Hellinger distance between the histogram of a given portion of the original image and the histogram of the entire original image. Points on the graphs corresponding to the selected part are enclosed in a triangle, and the corresponding marked parts are enclosed in a square. A triangle is drawn near the corresponding fragments for the selected part of the image (Fig. 7 d). A square is drawn near the corresponding fragments for the marked part of the image (Fig. 7 e). In both cases, a fragment of the original image is located on the left, and a fragment of the processing result is located on the right. Thus, with the help of pictograms in the form of a square and a triangle, information is marked related to the parts marked by the user and selected automatically, respectively. The slice size and position for the selected portion is resized by the control to animate panning, zooming in, and out of the camera within the slice portion (plane perpendicular to the Z axis) and transitions between slices. Using linked pointers, the user marks a portion of an image on a split image thumbnail view or on any of the graphs. The user sets the size and position of the fragments for the marked part using a control that additionally includes buttons for zooming in and out, moving between slices up and down, moving along the slice left, right, up and down. Additionally, the amount of resources spent at the moment can be displayed, for example, the amount of money in rubles, for image processing in the cloud, as well as an estimate of the time until processing is completed. The "Pause" button serves to pause processing, for example, in order to evaluate the current results and, if necessary, interrupt the processing process. "Abort" allows you to interrupt the processing. When processing is complete, the Abort button is replaced with a Close button, and you can use the controls to continue marking and reviewing the processed portions until the Close button is clicked.

Хотя указанные выше варианты выполнения изобретения были изложены с целью иллюстрации, специалистам ясно, что возможны разные модификации, добавления и замены, не выходящие из объема и смысла настоящего изобретения, раскрытого в прилагаемой формуле изобретения.Although the above embodiments have been set forth for purposes of illustration, those skilled in the art will appreciate that various modifications, additions and substitutions are possible without departing from the scope and spirit of the present invention as disclosed in the appended claims.

Claims (24)

1. Способ отображения текущих результатов обработки изображения на устройстве отображения, в соответствии с которым:1. A method of displaying the current results of image processing on a display device, according to which: - получают исходное изображение для обработки и отображения;- get the original image for processing and display; - разбивают исходное изображение на части и нумеруют их;- divide the original image into parts and number them; - передают задание на обработку пронумерованных частей исходного изображения;- transferring the task for processing the numbered parts of the original image; - осуществляют обработку каждой части исходного изображения;- carry out processing of each part of the original image; - отображают на устройстве отображения эскизное представление разбиения исходного изображения на части, график зависимости по меньшей мере одной числовой характеристики обработанных частей исходного изображения от номера обработанной части и по меньшей мере одну область для вывода пары фрагментов изображений, где пара включает в себя фрагмент обработанной части изображения и соответствующий ему фрагмент части исходного изображения;- display on the display device a thumbnail representation of dividing the original image into parts, a graph of the dependence of at least one numerical characteristic of the processed parts of the original image on the number of the processed part and at least one area for outputting a pair of image fragments, where the pair includes a fragment of the processed image part and a corresponding fragment of a part of the original image; - обозначают на эскизном представлении разбиения исходного изображения на части обработанные части исходного изображения;- designate on a sketch representation of the division of the original image into parts the processed parts of the original image; - отмечают на устройстве отображения одну из обозначенных обработанных частей исходного изображения,- mark on the display device one of the designated processed parts of the original image, - отображают на устройстве отображения в области для вывода пар фрагментов изображений фрагмент отмеченной части результирующего изображения и соответствующий ему фрагмент исходного изображения, и- display on the display device in the area for outputting pairs of image fragments a fragment of the marked part of the resulting image and the corresponding fragment of the original image, and - оценивают качество обработки каждой отмеченной части.- evaluate the quality of processing of each marked part. 2. Способ по п. 1, в соответствии с которым обработка частей исходного изображения представляет собой обработку, выбираемую из группы, содержащей изменение яркости и контраста, фильтрацию, сегментацию, классификацию, коррекцию локальных дефектов, геометрические преобразования, вычисление морфометрических характеристик объектов в изображении.2. The method according to claim 1, according to which the processing of parts of the original image is a processing selected from the group consisting of brightness and contrast change, filtering, segmentation, classification, correction of local defects, geometric transformations, calculation of morphometric characteristics of objects in the image. 3. Способ по п. 1, в соответствии с которым обозначенную обработанную часть изображения отмечают с помощью первого указателя на эскизном представлении разбиения изображения, при этом связанный с первым указателем второй указатель отмечает точку на графике числовых характеристик обработанных частей исходного изображения, соответствующую числовой характеристике отмеченной части.3. The method according to claim 1, in accordance with which the designated processed part of the image is marked using the first pointer on the thumbnail representation of the image splitting, while the second pointer associated with the first pointer marks a point on the graph of the numerical characteristics of the processed parts of the original image corresponding to the numerical characteristic of the marked parts. 4. Способ по п. 1, в соответствии с которым обозначенную обработанную часть изображения отмечают с помощью второго указателя на графике числовых характеристик обработанных частей исходного изображения, при этом связанный со вторым указателем первый указатель отмечает обработанную часть изображения, соответствующую отмеченной на графике точке, на эскизном представлении разбиения исходного изображения.4. The method according to claim 1, in accordance with which the designated processed part of the image is marked with a second pointer on the graph of the numerical characteristics of the processed parts of the original image, while the first pointer associated with the second pointer marks the processed part of the image corresponding to the point marked on the graph on a sketch representation of the splitting of the original image. 5. Способ по п. 1, в соответствии с которым в случае неудовлетворительного качества обработки частей исходного изображения прерывают процесс обработки.5. The method according to claim 1, in accordance with which in the case of unsatisfactory processing of parts of the original image, the processing is interrupted. 6. Способ по п. 1, в соответствии с которым процесс обработки частей исходного изображения прерывают с помощью сенсорной кнопки на устройстве отображения.6. The method of claim 1, wherein the processing of portions of the original image is interrupted by a touch button on the display device. 7. Способ по п. 1, в соответствии с которым автоматически выбирают обработанную часть изображения, результат обработки которой наиболее сильно отличается от остальных ранее полученных результатов, обозначают на эскизном представлении разбиения исходного изображения выбранную обработанную часть, обозначают на графике числовых характеристик обработанных частей исходного изображения значение, соответствующее выбранной части, и отображают на устройстве отображения во второй области для вывода пар фрагментов изображений фрагмент выбранной обработанной части изображения и соответствующий ему фрагмент исходного изображения.7. The method according to claim 1, in accordance with which the processed part of the image is automatically selected, the processing result of which is most different from the rest of the previously obtained results, the selected processed part is indicated on the sketch representation of the division of the original image, the numerical characteristics of the processed parts of the original image are indicated on the graph the value corresponding to the selected part, and the fragment of the selected processed image part and the corresponding fragment of the original image are displayed on the display device in the second area for outputting pairs of image fragments. 8. Система отображения текущих результатов обработки изображения, содержащая:8. System for displaying current results of image processing, containing: - по меньшей мере один процессор, сконфигурированный с возможностью исполнения программ с инструкциями для обработки исходного изображения и обеспечения отображения на устройстве отображения эскизного представления разбиения исходного изображения на части, графика зависимости по меньшей мере одной числовой характеристики обработанных частей исходного изображения от номера обработанной части и по меньшей мере одной области для вывода пары фрагментов изображений, где пара включает в себя фрагмент обработанной части изображения и соответствующий ему фрагмент части исходного изображения, путем исполнения программ с инструкциями, содержащихся в памяти системы отображения текущих результатов обработки изображения,- at least one processor configured to execute programs with instructions for processing the original image and providing display on the display device of a thumbnail representation of splitting the original image into parts, a graph of the dependence of at least one numerical characteristic of the processed parts of the original image on the number of the processed part and at least one area for outputting a pair of image fragments, where the pair includes a fragment of the processed image part and the corresponding fragment of the original image part, by executing programs with instructions contained in the memory of the display system of the current image processing results, - память, предназначенную для хранения частей исходного изображения, обработанных частей исходного изображения, числовых характеристики обработанных частей исходного изображения, фрагментов обработанных частей изображения и соответствующих им фрагментов частей исходного изображения, и содержащую программы с инструкциями, сконфигурированными для обработки исходного изображения и обеспечения отображения на устройстве отображения эскизного представления разбиения исходного изображения на части, графика зависимости по меньшей мере одной числовой характеристики обработанных частей исходного изображения от номера обработанной части и по меньшей мере одной области для вывода пары фрагментов изображений, где пара включает в себя фрагмент обработанной части изображения и соответствующий ему фрагмент части исходного изображения, и- memory for storing parts of the original image, processed parts of the original image, numerical characteristics of the processed parts of the original image, fragments of the processed parts of the image and their corresponding fragments of parts of the original image, and containing programs with instructions configured to process the original image and provide display on the device displaying a thumbnail representation of splitting the original image into parts, a graph of the dependence of at least one numerical characteristic of the processed parts of the original image on the number of the processed part and at least one area for outputting a pair of image fragments, where the pair includes a fragment of the processed image part and its corresponding fragment parts of the original image, and - устройство отображения с по меньшей мере одним экраном, выполненное с возможностью отображения эскизного представления разбиения исходного изображения на части, графика зависимости по меньшей мере одной числовой характеристики обработанных частей исходного изображения от номера обработанной части и по меньшей мере одной области для вывода пары фрагментов изображений, где пара включает в себя фрагмент обработанной части изображения и соответствующий ему фрагмент части исходного изображения, и- a display device with at least one screen, configured to display a thumbnail representation of the division of the original image into parts, a graph of the dependence of at least one numerical characteristic of the processed parts of the original image on the number of the processed part and at least one area for outputting a pair of image fragments, where the pair includes a fragment of the processed image part and the corresponding fragment of the original image part, and - интерфейс пользователя.- user interface. 9. Система по п. 8, в которой процессор дополнительно выполнен с возможностью отображения на устройстве отображения двух связанных между собой указателей, первый из которых предназначен для перемещения с помощью интерфейса пользователя на устройстве отображения по эскизному представлению разбиения изображения на части и активации части изображения, а второй указатель предзначен для перемещения с помощью интерфейса пользователя на устройстве отображения по графику числовой характеристики обработанных частей исходного изображения и активации части изображения, соответствующей выбранной точке графика.9. The system according to claim. 8, in which the processor is further configured to display on the display device two interconnected indicators, the first of which is intended to be moved using the user interface on the display device on the thumbnail representation of splitting the image into parts and activating the part of the image, and the second pointer is intended for moving by the user interface on the display device along the graph the numerical characteristic of the processed parts of the original image and activating the part of the image corresponding to the selected point of the graph. 10. Система по п. 8, в которой процессор дополнительно выполнен с возможностью отображения на устройстве отображения сенсорной кнопки для прерывания обработки.10. The system of claim 8, wherein the processor is further configured to display on the display a touch button to interrupt processing. 11. Система по п. 8, отличающаяся тем, что интерфейс пользователя выполнен в виде по меньшей мере одного устройства, выбранного из группы: сенсорный экран, мышь, джойстик, тачпэд, клавиатура, микрофон для голосового управления, датчики для управление жестами.11. The system of claim. 8, characterized in that the user interface is made in the form of at least one device selected from the group: touch screen, mouse, joystick, touchpad, keyboard, microphone for voice control, sensors for gesture control.
RU2019138641A 2019-11-29 2019-11-29 Method and system for displaying current results during image processing RU2730373C1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
RU2019138641A RU2730373C1 (en) 2019-11-29 2019-11-29 Method and system for displaying current results during image processing

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
RU2019138641A RU2730373C1 (en) 2019-11-29 2019-11-29 Method and system for displaying current results during image processing

Publications (1)

Publication Number Publication Date
RU2730373C1 true RU2730373C1 (en) 2020-08-21

Family

ID=72237915

Family Applications (1)

Application Number Title Priority Date Filing Date
RU2019138641A RU2730373C1 (en) 2019-11-29 2019-11-29 Method and system for displaying current results during image processing

Country Status (1)

Country Link
RU (1) RU2730373C1 (en)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050210414A1 (en) * 2001-03-20 2005-09-22 Microsoft Corporation Auto thumbnail gallery
US20080129757A1 (en) * 2004-01-15 2008-06-05 Naoki Tanaka Image File List Display Device
US20090245666A1 (en) * 2008-04-01 2009-10-01 Canon Kabushiki Kaisha Image file editing apparatus and method, and program
RU2436160C2 (en) * 2008-10-31 2011-12-10 Сони Корпорейшн Image processing device, image display method and image display program
US20140225978A1 (en) * 2005-03-01 2014-08-14 EyesMatch Ltd. Method for image transformation, augmented reality, and teleperence

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050210414A1 (en) * 2001-03-20 2005-09-22 Microsoft Corporation Auto thumbnail gallery
US20080129757A1 (en) * 2004-01-15 2008-06-05 Naoki Tanaka Image File List Display Device
US20140225978A1 (en) * 2005-03-01 2014-08-14 EyesMatch Ltd. Method for image transformation, augmented reality, and teleperence
US20090245666A1 (en) * 2008-04-01 2009-10-01 Canon Kabushiki Kaisha Image file editing apparatus and method, and program
RU2436160C2 (en) * 2008-10-31 2011-12-10 Сони Корпорейшн Image processing device, image display method and image display program

Similar Documents

Publication Publication Date Title
JP5120926B2 (en) Image processing apparatus, image processing method, and program
Wu et al. ViSizer: a visualization resizing framework
JP2007528529A (en) Method and system for identifying the surface of a 3D dataset ("voxel partitioning")
JP6721333B2 (en) Selecting a perspective for a set of objects
JP2016126794A (en) Creation of bounding boxes on 3d modeled assembly
TW201447811A (en) Method for partitioning area, and inspection device
US20110148909A1 (en) Generating object representation from bitmap image
KR20120101974A (en) Method and system for rendering three dimensional views of a scene
JP2007198934A (en) Region of interest extraction method for image data, computer program using the same and region of interest extracting system
US11756199B2 (en) Image analysis in pathology
CN101248459A (en) A method of generating a 2D image of a 3D object
CN114882272A (en) Fusion analysis method for aerial manufacturing full-angle projection image surface patch attributes
Hao et al. Slice-based building facade reconstruction from 3D point clouds
KR20220054630A (en) A computer-implemented method for generating a three-dimensional wireframe model of an object comprising a plurality of parts.
RU2730373C1 (en) Method and system for displaying current results during image processing
CN109643441B (en) Image processing apparatus, image processing method, computer-readable storage medium, and image processing system
dos Passos et al. Sample-based synthesis of illustrative patterns
CN111932689B (en) Three-dimensional object quick selection method adopting ID pixel graph
CN114494272A (en) Metal part fast segmentation method based on deep learning
JP2006000126A (en) Image processing method, apparatus and program
Ohtake et al. Thickness-driven sheet metal segmentation of ct-scanned body-in-white. e
Ahrens et al. A modular extensible visualization system architecture for culled prioritized data streaming
EP2975850A1 (en) Method for correcting motion estimation between at least two frames of a video sequence, corresponding device, computer program and non-transitory computer-readable medium
CN115516412A (en) User interface for modifying pictures
CN108235775A (en) The system and method for block-based edge pixel detection eliminated with pseudo-edge