JP2019054471A - Microscope image processing apparatus, microscope image processing method, and microscope image processing program - Google Patents
Microscope image processing apparatus, microscope image processing method, and microscope image processing program Download PDFInfo
- Publication number
- JP2019054471A JP2019054471A JP2017178509A JP2017178509A JP2019054471A JP 2019054471 A JP2019054471 A JP 2019054471A JP 2017178509 A JP2017178509 A JP 2017178509A JP 2017178509 A JP2017178509 A JP 2017178509A JP 2019054471 A JP2019054471 A JP 2019054471A
- Authority
- JP
- Japan
- Prior art keywords
- pixel value
- image
- original image
- unphotographed
- area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001000 micrograph Methods 0.000 title claims abstract description 43
- 238000003672 processing method Methods 0.000 title claims description 7
- 238000000034 method Methods 0.000 claims description 104
- 239000002131 composite material Substances 0.000 claims description 15
- 230000007717 exclusion Effects 0.000 description 20
- 238000003384 imaging method Methods 0.000 description 5
- 230000002194 synthesizing effect Effects 0.000 description 5
- 230000015572 biosynthetic process Effects 0.000 description 3
- 238000003786 synthesis reaction Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 239000003086 colorant Substances 0.000 description 1
- 238000002073 fluorescence micrograph Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 238000010422 painting Methods 0.000 description 1
Images
Landscapes
- Microscoopes, Condenser (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
Abstract
Description
本発明は、顕微鏡画像処理装置、顕微鏡画像処理方法および顕微鏡画像処理プログラムに関するものである。 The present invention relates to a microscope image processing apparatus, a microscope image processing method, and a microscope image processing program.
従来、試料の異なる領域を撮影した複数の部分画像を貼り合わせて貼り合わせ画像を生成する顕微鏡システムが知られている(例えば、特許文献1参照。)。この顕微鏡システムを用いて、試料の全体ではなくユーザの興味範囲のみを撮影して貼り合わせを行う場合に、全画像範囲の一部に興味範囲の部分画像のみがモザイク状に貼り合わせられた貼り合わせ画像が生成される。 2. Description of the Related Art Conventionally, a microscope system that generates a composite image by combining a plurality of partial images obtained by photographing different regions of a sample is known (see, for example, Patent Document 1). When using this microscope system to shoot only the user's area of interest, not the entire sample, and paste it together, only a partial image of the area of interest is pasted in a mosaic pattern to a part of the entire image range. A combined image is generated.
このような貼り合わせ画像には、部分画像が存在しない未撮影領域が存在し、部分画像の背景色と未撮影領域の色とを近付けてこれらの境目を目立たなくするために、未撮影領域は、一般に、観察方法毎に予め定められた色で塗りつぶす処理が施される。例えば、明視野観察の場合には白で、蛍光観察の場合には黒で、未撮影領域が塗りつぶされる。 In such a composite image, there is an unphotographed area where no partial image exists, and in order to make the background color of the partial image and the color of the unphotographed area close to each other, the unphotographed area is Generally, a process of painting with a predetermined color for each observation method is performed. For example, an unphotographed area is filled with white for bright-field observation and black for fluorescence observation.
ユーザは、画像をレポートや論文等に貼付したり画像同士を比較したりする際に、画像に回転やリサイズ等の処理を施すことがある。例えば、画像内で傾いている撮影対象が正立するように画像を回転させたり、他の画像とサイズが揃うように画像をリサイズしたりする。このように回転後またはリサイズ後の画像にも、元の画像が存在しない未撮影領域が生じる。したがって、元の画像の背景と未撮影領域との境目を目立たなくするために、未撮影領域を塗りつぶす追加の処理が必要となるという不都合がある。 When a user pastes an image on a report, a paper, or the like or compares images, the user may perform processing such as rotation or resizing. For example, the image is rotated so that a subject to be imaged that is tilted in the image stands upright, or the image is resized so that the image is the same size as other images. In this way, an unphotographed area in which the original image does not exist also occurs in the image after rotation or resizing. Therefore, in order to make the boundary between the background of the original image and the non-photographed area inconspicuous, there is an inconvenience that an additional process for filling the non-photographed area is required.
また、観察方法に応じた色で未撮影領域を塗りつぶした場合、明視野観察時にホワイトバランスが適正に行われていないときや、蛍光観察時に遮光が十分に行われていないときには、元の画像の背景が一定の白色や黒色にはならず、元の画像と未撮影領域との境目が目立ってしまうという不都合がある。 In addition, when the unphotographed area is filled with a color according to the observation method, when the white balance is not properly performed during bright field observation or when light shielding is not sufficiently performed during fluorescence observation, the original image is displayed. There is a disadvantage that the background does not become constant white or black, and the boundary between the original image and the unphotographed area becomes conspicuous.
本発明は上述した事情に鑑みてなされたものであって、画像の回転やリサイズを行った場合でも、元の画像の背景と未撮影領域との境目を目立たなくすることができる顕微鏡画像処理装置、顕微鏡画像処理方法および顕微鏡画像処理プログラムを提供することを目的としている。 The present invention has been made in view of the circumstances described above, and is a microscope image processing apparatus that can make the boundary between the background of an original image and an unphotographed area inconspicuous even when the image is rotated or resized. An object of the present invention is to provide a microscope image processing method and a microscope image processing program.
上記目的を達成するため、本発明は以下の手段を提供する。
本発明の一態様は、顕微鏡によって取得された元画像に回転処理およびリサイズ処理の少なくとも一方を施して前記元画像の一部分からなる撮影済領域画像を生成する回転・リサイズ部と、前記元画像の画素値に基づいて未撮影領域の画素値を設定する未撮影領域色設定部と、前記回転・リサイズ部によって生成された前記撮影済領域画像と、前記未撮影領域色設定部によって設定された画素値を有する未撮影領域画像とを合成して合成画像を生成する合成部とを備え、前記未撮影領域色設定部が、前記元画像の前記一部分の縁部の画素値、または、前記回転処理および前記リサイズ処理によって前記元画像から除外された部分の画素値に基づいて、前記未撮影領域の画素値を設定する顕微鏡画像処理装置である。
In order to achieve the above object, the present invention provides the following means.
One aspect of the present invention includes a rotation / resize unit that generates at least one of a rotation process and a resizing process on an original image acquired by a microscope to generate a captured region image including a part of the original image; An unphotographed area color setting unit that sets a pixel value of an unphotographed area based on a pixel value, the photographed area image generated by the rotation / resizing unit, and pixels set by the unphotographed area color setting unit And a combining unit that generates a composite image by combining the unphotographed region image having the value, and the unphotographed region color setting unit includes the pixel value of the edge of the part of the original image or the rotation processing And a microscope image processing apparatus that sets a pixel value of the unphotographed area based on a pixel value of a portion excluded from the original image by the resizing process.
本態様によれば、顕微鏡によって取得された元画像が入力されると、回転・リサイズ部によって、元画像に回転処理およびリサイズ処理の少なくとも一方が施されることで、元画像の角の領域または辺に沿う領域が除外され元画像の一部分からなる撮影済領域画像が生成される。そして、合成部によって、撮影済領域画像が未撮影領域画像と合成されることで、合成画像が生成される。 According to this aspect, when the original image acquired by the microscope is input, the rotation / resize unit performs at least one of the rotation process and the resizing process on the original image, so that the corner area of the original image or An area along the side is excluded, and a captured area image including a part of the original image is generated. Then, the synthesized image is generated by synthesizing the photographed area image with the unphotographed area image by the synthesis unit.
通常、撮影対象全体が撮影済領域画像の中心に配置されるように回転処理およびリサイズ処理が行われるため、撮影済領域画像となる元画像の一部分の縁部ならびに回転処理およびリサイズ処理によって元画像から除外された部分(元画像の角の領域および辺に沿う領域)は背景であることが多い。このような元画像の一部分の縁部または元画像から除外された部分の画素値に基づいて、未撮影領域の色が元画像の背景の色に近くなるように、未撮影領域の画素値が未撮影領域色設定部によって設定される。その結果、元画像の取得時におけるホワイトバランスや遮光が適正に行われていない場合でも、撮影済領域画像の背景と未撮影領域との境目が目立たない合成画像を生成することができる。 Usually, the rotation process and the resizing process are performed so that the entire shooting target is arranged at the center of the shot area image. In many cases, the portion excluded from the region (the region along the corner and the side of the original image) is the background. Based on the pixel values of a part of the edge of the original image or the portion excluded from the original image, the pixel value of the unphotographed area is set so that the color of the unphotographed area is close to the background color of the original image. It is set by the unphotographed area color setting unit. As a result, it is possible to generate a composite image in which the boundary between the background of the photographed area image and the unphotographed area is not noticeable even when white balance and light shielding are not properly performed when the original image is acquired.
上記態様においては、前記未撮影領域色設定部が、前記元画像の前記一部分の縁部のうち、前記除外された部分に隣接する縁部の画素値に基づいて、前記未撮影領域の画素値を設定してもよい。
通常、回転処理およびリサイズ処理によって元画像から除外された部分および該除外された部分に隣接する縁部は背景であることが多い。したがって、除外された部分に隣接する縁部の画素値に基づいて、未撮影領域の色が元画像の背景の色により近くなるように、未撮影領域の画素値を設定することができる。
In the above aspect, the unphotographed area color setting unit is configured to determine a pixel value of the unphotographed area based on a pixel value of an edge adjacent to the excluded part of the edge of the part of the original image. May be set.
In general, the portion excluded from the original image by the rotation processing and the resizing processing and the edge adjacent to the excluded portion are often the background. Accordingly, the pixel value of the unphotographed area can be set so that the color of the unphotographed area becomes closer to the background color of the original image based on the pixel value of the edge adjacent to the excluded portion.
上記態様においては、前記未撮影領域色設定部が、前記元画像の前記一部分の縁部のうち、前記元画像の辺に沿う縁部の画素値に基づいて、前記未撮影領域の画素値を設定してもよい。
通常、撮影対象全体が元画像の中心に配置されるように元画像が取得されるので、元画像の辺に沿う縁部は背景であることが多い。したがって、元画像の辺に沿う縁部の画素値に基づいて、未撮影領域の色が元画像の背景の色により近くなるように、未撮影領域の画素値を設定することができる。
In the above aspect, the unphotographed area color setting unit calculates the pixel value of the unphotographed area based on the pixel value of the edge along the side of the original image among the partial edges of the original image. It may be set.
Usually, since the original image is acquired so that the entire photographing target is arranged at the center of the original image, the edge along the side of the original image is often the background. Therefore, the pixel value of the unphotographed area can be set so that the color of the unphotographed area is closer to the background color of the original image based on the pixel value of the edge along the side of the original image.
上記態様においては、前記未撮影領域色設定部が、前記元画像の前記一部分の縁部の画素値または前記元画像の前記除外された部分の画素値の最頻値または平均値を前記未撮影領域の画素値に設定してもよい。
このようにすることで、未撮影領域の色が元画像の背景の色により近くなるように、未撮影領域の画素値を設定することができる。
In the above aspect, the unphotographed area color setting unit obtains the mode value or the average value of the pixel values of the edge of the part of the original image or the pixel values of the excluded part of the original image. The pixel value of the area may be set.
In this way, the pixel value of the unphotographed area can be set so that the color of the unphotographed area becomes closer to the background color of the original image.
上記態様においては、前記元画像の撮影に使用された前記顕微鏡の観察方法を設定する観察方法設定部を備え、前記未撮影領域色設定部が、前記観察方法設定部によって設定された観察方法に基づいて前記元画像の画素値が取り得る範囲の一部分を計算対象外に設定し、該計算対象外に該当しない画素値の最頻値または平均値を前記未撮影領域の画素値に設定してもよい。
元画像内の撮影対象の周囲には、背景とは異なる色を有する何等かの像が映り込んでいることがある。このような背景の色とは異なる色の画素値を計算対象外に設定して未撮影領域の画素値の計算において除外することで、未撮影領域の色が元画像の背景の色により近くなるように、未撮影領域の画素値を設定することができる。
In the above aspect, an observation method setting unit that sets an observation method of the microscope used for photographing the original image is provided, and the unphotographed region color setting unit is an observation method set by the observation method setting unit. Based on a part of the range that can be taken by the pixel value of the original image based on the calculation target, and set the mode value or the average value of the pixel values not applicable to the calculation target as the pixel value of the unphotographed area Also good.
Some image having a color different from the background may be reflected around the subject in the original image. By setting the pixel value of a color different from the background color out of the calculation target and excluding it in the calculation of the pixel value of the unphotographed area, the color of the unphotographed area becomes closer to the background color of the original image. As described above, the pixel value of the unphotographed area can be set.
本発明の他の態様は、顕微鏡によって取得された元画像に回転処理およびリサイズ処理の少なくとも一方を施して前記元画像の一部分からなる撮影済領域画像を生成する回転・リサイズステップと、前記元画像の画素値に基づいて未撮影領域の画素値を設定する未撮影領域色設定ステップと、前記回転・リサイズステップにおいて生成された前記撮影済領域画像と、前記未撮影領域色設定ステップにおいて設定された画素値を有する未撮影領域画像とを合成して合成画像を生成する合成ステップとを含み、前記未撮影領域色設定ステップにおいて、前記元画像の前記一部分の画素値、または、前記回転処理および前記リサイズ処理によって前記元画像から除外された部分の画素値に基づいて、前記未撮影領域の画素値を設定する顕微鏡画像処理方法である。 According to another aspect of the present invention, there is provided a rotation / resize step for generating a photographed region image including a part of the original image by performing at least one of a rotation process and a resizing process on the original image acquired by a microscope, and the original image An unphotographed area color setting step for setting a pixel value of an unphotographed area based on the pixel value of the image, the photographed area image generated in the rotation / resizing step, and the non-photographed area color setting step Combining a non-photographed region image having a pixel value to generate a composite image, and in the unphotographed region color setting step, the pixel value of the portion of the original image, or the rotation process and the Based on the pixel value of the portion excluded from the original image by the resizing process, the microscope image process for setting the pixel value of the unphotographed area. It is a method.
本発明の他の態様は、顕微鏡によって取得された元画像に回転処理およびリサイズ処理の少なくとも一方を施して前記元画像の一部分からなる撮影済領域画像を生成する回転・リサイズステップと、前記元画像の画素値に基づいて未撮影領域の画素値を設定する未撮影領域色設定ステップと、前記回転・リサイズステップにおいて生成された前記撮影済領域画像と、前記未撮影領域色設定ステップにおいて設定された画素値を有する未撮影領域画像とを合成して合成画像を生成する合成ステップとをコンピュータに実行させ、前記未撮影領域色設定ステップにおいて、前記元画像の前記一部分の縁部の画素値、または、前記回転処理および前記リサイズ処理によって前記元画像から除外された部分の画素値に基づいて、前記未撮影領域の画素値を設定する顕微鏡画像処理プログラムである。 According to another aspect of the present invention, there is provided a rotation / resize step for generating a photographed region image including a part of the original image by performing at least one of a rotation process and a resizing process on the original image acquired by a microscope, and the original image An unphotographed area color setting step for setting a pixel value of an unphotographed area based on the pixel value of the image, the photographed area image generated in the rotation / resizing step, and the non-photographed area color setting step A synthesis step of generating a synthesized image by synthesizing the unphotographed area image having pixel values, and in the unphotographed area color setting step, the pixel value of the edge of the part of the original image, or , Pixels in the unphotographed area based on pixel values of portions excluded from the original image by the rotation process and the resizing process Is a microscope image processing program for setting.
本発明によれば、画像の回転やリサイズを行った場合でも、元の画像の背景と未撮影領域との境目を目立たなくすることができるという効果を奏する。 According to the present invention, even when the image is rotated or resized, the boundary between the background of the original image and the unphotographed area can be made inconspicuous.
本発明の一実施形態に係る顕微鏡画像処理装置1、顕微鏡画像処理方法および顕微鏡画像処理プログラムについて、図面を参照して以下に説明する。
本実施形態に係る顕微鏡画像処理装置1は、カメラが取り付けられた顕微鏡10によって取得された標本Aの元画像Dを処理するものである。顕微鏡画像処理装置1は、図1に示されるように、顕微鏡10に接続され、顕微鏡10から入力された元画像Dをメモリ(図示略)に記憶し、元画像Dに対してユーザの指示に基づく画像処理を施すようになっている。
A microscope image processing apparatus 1, a microscope image processing method, and a microscope image processing program according to an embodiment of the present invention will be described below with reference to the drawings.
The microscope image processing apparatus 1 according to the present embodiment processes an original image D of a specimen A acquired by a
本実施形態においては、標本Aとして、スライドガラス上に生体組織の切片が貼り付けられたスライド標本を想定している。したがって、元画像Dには、図2および図3に示されるように、撮影対象Bである切片と、切片の外側の領域である背景Cとが含まれる。 In the present embodiment, the specimen A is assumed to be a slide specimen in which a section of biological tissue is pasted on a slide glass. Therefore, as shown in FIGS. 2 and 3, the original image D includes a section that is the imaging target B and a background C that is an area outside the section.
顕微鏡画像処理装置1は、元画像Dの撮影に使用された顕微鏡10の観察方法を設定する観察方法設定部2と、元画像Dに回転処理およびリサイズ処理の少なくとも一方を施して撮影済領域画像Eを生成する回転・リサイズ部3と、未撮影領域Gの画素値を設定して未撮影領域画像を生成する未撮影領域色設定部4と、撮影済領域画像Eと未撮影領域画像とを合成して合成画像Fを生成する合成部5とを備えている。
The microscope image processing apparatus 1 includes an observation
顕微鏡画像処理装置1は、例えば、専用または汎用のコンピュータによって実現される。すなわち、顕微鏡画像処理装置1は、CPU(中央演算処理装置)のようなプロセッサと、プロセッサの作業領域として使用されるRAM(ランダムアクセスメモリ)のような主記憶装置と、補助記憶装置とを備える。補助記憶装置は、ハードディスクドライブのようなコンピュータ読み取り可能な非一時的な記録媒体であり、各部2,3,4,5の後述する処理をプロセッサに実行させる顕微鏡画像処理プログラムを記憶している。顕微鏡画像処理装置1を構成するコンピュータには、元画像Dおよび合成画像Fを表示するディスプレイ(図示略)と、マウスおよびキーボードのような入力装置(図示略)とが接続されている。ユーザは、画像処理に必要な指示を入力装置を使用して顕微鏡画像処理装置1に入力することができるようになっている。
The microscope image processing apparatus 1 is realized by, for example, a dedicated or general-purpose computer. That is, the microscope image processing apparatus 1 includes a processor such as a CPU (Central Processing Unit), a main storage device such as a RAM (Random Access Memory) used as a work area of the processor, and an auxiliary storage device. . The auxiliary storage device is a non-transitory computer-readable recording medium such as a hard disk drive, and stores a microscope image processing program that causes the processor to execute processing to be described later for each of the
観察方法設定部2は、明視野観察、暗視野観察、位相差観察、蛍光観察等の複数種類の観察方法の中から1つを、ユーザの入力に基づいて顕微鏡10の観察方法に設定する。例えば、ユーザが、ディスプレイに表示されたプルダウンメニューの中から1つの観察方法を入力装置を使用して選択し、観察方法設定部2が、ユーザによって選択された観察方法を顕微鏡10の観察方法に設定するように構成される。
あるいは、観察方法設定部2は、顕微鏡10または元画像Dのプロパティから観察方法の情報を自動的に取得し、取得された情報に基づいて観察方法を設定してもよい。
The observation
Alternatively, the observation
図2は、元画像Dの回転処理を示し、図3は、元画像Dのリサイズ処理を示している。
回転・リサイズ部3は、図2および図3に示されるように、ユーザの入力操作に基づいて元画像Dに対して回転処理およびリサイズ処理の少なくとも一方を施す。例えば、ユーザは、ディスプレイに表示された元画像Dを観察しながら、入力装置を操作することによって、回転・リサイズ部3に処理を実行させる。回転処理においては、図2に示されるように、元画像Dの角の部分(除外領域)Hが元画像Dの画像領域(図中の二点鎖線の矩形領域)からはみ出す。リサイズ処理においては、図3に示されるように、元画像Dの辺に沿う部分(除外領域)Hが元画像Dの画像領域からはみ出す。回転・リサイズ部3は、このような除外領域Hを除外し、画像領域内に位置する元画像Dの一部分からなる撮影済領域画像Eを生成する。したがって、元画像Dの画像領域と同一サイズの合成画像Fの画像領域には、元画像Dが存在しない未撮影領域Gが生じる。
FIG. 2 shows the rotation processing of the original image D, and FIG. 3 shows the resizing processing of the original image D.
As shown in FIGS. 2 and 3, the rotation / resize unit 3 performs at least one of a rotation process and a resizing process on the original image D based on a user input operation. For example, the user operates the input device while observing the original image D displayed on the display, thereby causing the rotation / resize unit 3 to execute processing. In the rotation processing, as shown in FIG. 2, the corner portion (exclusion region) H of the original image D protrudes from the image region of the original image D (rectangular region indicated by a two-dot chain line in the drawing). In the resizing process, as shown in FIG. 3, a portion (exclusion region) H along the side of the original image D protrudes from the image region of the original image D. The rotation / resize unit 3 excludes such an exclusion area H and generates a captured area image E including a part of the original image D located in the image area. Therefore, an unphotographed area G in which the original image D does not exist is generated in the image area of the composite image F having the same size as the image area of the original image D.
未撮影領域色設定部4は、未撮影領域Gの色が元画像D内の背景Cの色(背景色)と同一または略同一となるように、後述する第1、第2および第3の方法のいずれかによって未撮影領域Gの色を構成する画素値(例えば、RGB値)を元画像Dの画素値に基づいて設定する。次に、未撮影領域色設定部4は、設定された画素値を有する未撮影領域画像を生成する。未撮影領域画像は、図2および図3における未撮影領域Gに対応する画像である。例えば、図2の例においては、角の4つの三角形の未撮影領域画像が生成され、図3の例においては、上および下の辺に沿う2つの長方形の未撮影領域画像が生成される。
The unphotographed area
第1の方法は、元画像Dの除外領域Hの画素値に基づいて未撮影領域Gの画素値を設定する方法である。除外領域Hは、上述したように回転処理およびリサイズ処理において元画像Dから除外された部分である。未撮影領域色設定部4は、除外領域Hにおける全画素の画素値の最頻値または平均値を、未撮影領域Gの画素値に設定する。
ユーザの回転操作またはリサイズ操作によって元画像Dから除外された除外領域Hは、撮影対象Bを含まず背景Cの一部であることが多い。したがって、除外領域Hの画素値から背景色により近い色の画素値を算出することができる。
The first method is a method of setting the pixel value of the unphotographed area G based on the pixel value of the excluded area H of the original image D. The exclusion region H is a portion excluded from the original image D in the rotation process and the resizing process as described above. The unphotographed area
The excluded area H excluded from the original image D by the user's rotation operation or resizing operation often does not include the subject B and is a part of the background C. Accordingly, a pixel value of a color closer to the background color can be calculated from the pixel value of the exclusion region H.
第2の方法は、撮影済領域画像Eの縁部の画素値に基づいて未撮影領域Gの画素値を設定する方法である。未撮影領域色設定部4は、撮影済領域画像Eの縁部のうち、図4に示されるように、除外領域Hに隣接する少なくとも1つの縁部(隣接領域)Iにおいて縁に沿って並ぶ画素列の画素値の最頻値または平均値を、未撮影領域Gの画素値に設定する。複数(図4の例では4つの)の隣接領域Iが撮影済領域画像E内に存在する場合には、最頻値または平均値の計算に全ての隣接領域Iの画素値を用いてもよく、一部の隣接領域Iの画素値を用いてもよい。
ユーザの回転操作またはリサイズ操作によって元画像Dから除外された除外領域Hに隣接する隣接領域Iは、撮影対象Bを含まず背景Cの一部であることが多い。したがって、撮影済領域画像Eの隣接領域Iの画素値から背景色により近い色の画素値を算出することができる。
The second method is a method of setting the pixel value of the unphotographed region G based on the pixel value at the edge of the photographed region image E. The unphotographed area
The adjacent area I adjacent to the excluded area H excluded from the original image D by the user's rotation operation or resizing operation often does not include the subject B and is a part of the background C. Therefore, a pixel value of a color closer to the background color can be calculated from the pixel value of the adjacent region I of the photographed region image E.
第3の方法は、観察方法設定部2によって設定された観察方法に基づいて未撮影領域Gの画素値を設定する方法である。元画像Dの背景色は、撮影方法に応じた一定範囲内の色となる。例えば、明視野画像の背景色は白であり、位相差画像の背景色は灰であり、暗視野画像および蛍光画像の背景色は黒である。未撮影領域色設定部4は、図5に示されるように、観察方法とデフォルト色の画素値との対応関係を記憶している。デフォルト色は、対応する観察方法で取得された画像の背景色である。未撮影領域色設定部4は、観察方法設定部2によって設定された観察方法に対応するデフォルト色の画素値を未撮影領域Gの画素値に設定する。
The third method is a method of setting the pixel value of the unphotographed region G based on the observation method set by the observation
未撮影領域色設定部4は、第1、第2および第3の方法のいずれを採用するかを、除外領域Hの面積および画素値に基づき、以下の手順に従って決定する。
未撮影領域色設定部4は、除外領域Hの面積を算出し、除外領域Hの面積が第1の所定値(例えば、元画像Dの面積の10%)よりも大きく、かつ、除外領域Hにおける輝度値の最大差(最大輝度値と最小輝度値との差)が第2の所定値(例えば、輝度値が8ビットの場合には30)よりも小さいときに、第1の方法を採用する。輝度値は、画素値から算出される画素の明るさの値である。
The unphotographed area
The unphotographed area
除外領域H全体が背景Cであるときには除外領域Hの輝度値は略均一になるが、除外領域Hに背景以外の何等かの像が含まれている場合には、除外領域Hにおける輝度値の最大差が大きくなる。また、除外領域Hが広い程、除外領域Hの画素値から算出される背景色の信頼度が高くなる。したがって、除外領域Hが十分に広く、かつ、除外領域Hにおける輝度値の最大差が十分に小さいときには、背景色により近い色の画素値を除外領域Hの画素値から算出することができる。 When the entire exclusion area H is the background C, the brightness value of the exclusion area H is substantially uniform. However, when the exclusion area H includes any image other than the background, the brightness value of the exclusion area H is The maximum difference increases. In addition, the wider the excluded area H, the higher the reliability of the background color calculated from the pixel values in the excluded area H. Therefore, when the exclusion area H is sufficiently wide and the maximum difference in luminance value in the exclusion area H is sufficiently small, a pixel value of a color closer to the background color can be calculated from the pixel values of the exclusion area H.
除外領域Hの面積および画素値が上記条件を満たさないとき、未撮影領域色設定部4は、隣接領域Iにおける輝度値の最大差(最大輝度値と最小輝度値との差)を算出する。算出された差が第3の所定値(例えば、輝度値が8ビットの場合には30)よりも小さいとき、未撮影領域色設定部4は第2の方法を選択し、算出された差が第3の所定値以上であるとき、未撮影領域色設定部4は第3の方法を選択する。
When the area and pixel value of the excluded region H do not satisfy the above conditions, the unphotographed region
合成部5は、撮影済領域画像Eと、未撮影領域色設定部4によって生成された未撮影領域画像とを合成(結合)することで、元画像Dと同一サイズの合成画像Fを生成する。
The synthesizing
次に、顕微鏡画像処理装置1の作用について図6および図7を参照して説明する。
本実施形態に係る顕微鏡画像処理装置1を使用して顕微鏡10によって取得された元画像Dに回転処理およびリサイズ処理を施すためには、まず、ユーザは、ディスプレイに表示された元画像Dを観察し、元画像Dの撮影に使用された観察方法を入力装置を使用して選択する。これにより、図6に示されるように、観察方法設定部2によって観察方法が設定される(ステップS1)。
Next, the operation of the microscope image processing apparatus 1 will be described with reference to FIGS.
In order to perform rotation processing and resizing processing on the original image D acquired by the
次に、ユーザは、入力装置を使用して、元画像Dの回転操作およびリサイズ操作を行う。ユーザの操作に基づいて、回転処理およびリサイズ処理のうち少なくとも一方が、回転・リサイズ部3によって元画像Dに施されて、元画像Dの一部分からなる撮影済領域画像Eが生成される(回転・リサイズステップS2)。 Next, the user performs a rotation operation and a resize operation of the original image D using the input device. Based on the user's operation, at least one of the rotation process and the resizing process is performed on the original image D by the rotation / resize unit 3 to generate a captured region image E including a part of the original image D (rotation). -Resizing step S2).
次に、元画像D内の背景Cの画素値に基づき、未撮影領域色設定部4によって未撮影領域Gの画素値が設定される(未撮影領域色設定ステップS3)。
具体的には、図7に示されるように、除外領域Hの面積が算出され(ステップS31)、除外領域Hの面積が第1の所定値よりも大きく、かつ、除外領域Hの輝度値の最大差が第2の所定値よりも小さいか否かが判断される(ステップS32,S33)。除外領域Hの面積および輝度値が上記条件を満たす場合(ステップS32のYES、かつステップS33のYES)、除外領域Hの画素値の最頻値または平均値が未撮影領域Gの画素値に設定される(ステップS34)。
Next, based on the pixel value of the background C in the original image D, the pixel value of the unphotographed area G is set by the unphotographed area color setting unit 4 (unphotographed area color setting step S3).
Specifically, as shown in FIG. 7, the area of the exclusion region H is calculated (step S31), the area of the exclusion region H is larger than the first predetermined value, and the luminance value of the exclusion region H is It is determined whether or not the maximum difference is smaller than a second predetermined value (steps S32 and S33). When the area and brightness value of the excluded area H satisfy the above conditions (YES in step S32 and YES in step S33), the mode value or average value of the pixel values in the excluded area H is set as the pixel value in the unphotographed area G. (Step S34).
一方、除外領域Hの面積および輝度値が上記条件を満たさない場合(ステップS32およびS33のうち少なくとも一方においてNO)、隣接領域Iの輝度値の最大差が第3の所定値よりも小さいか否かが判断される(ステップS35)。隣接領域Iの輝度値が上記条件を満たす場合(ステップS35のYES)、隣接領域Iの画素値の最頻値または平均値が未撮影領域Gの画素値に設定される(ステップS36)。隣接領域Iの輝度値が上記条件を満たさない場合(ステップS35のNO)、ステップS1で設定された観察方法に対応付けられた画素値が未撮影領域Gの画素値に設定される(ステップS37)。 On the other hand, if the area and luminance value of the excluded region H do not satisfy the above conditions (NO in at least one of steps S32 and S33), whether or not the maximum difference in luminance value of the adjacent region I is smaller than the third predetermined value. Is determined (step S35). When the luminance value of the adjacent area I satisfies the above condition (YES in step S35), the mode value or average value of the pixel values of the adjacent area I is set as the pixel value of the unphotographed area G (step S36). When the luminance value of the adjacent region I does not satisfy the above condition (NO in step S35), the pixel value associated with the observation method set in step S1 is set as the pixel value of the unphotographed region G (step S37). ).
次に、未撮影領域色設定部4によって、ステップS3で設定された画素値を有する未撮影領域画像が生成される。次に、合成部5によって、撮影済領域画像Eと未撮影領域画像とを合成することで合成画像Fが生成される(合成ステップS5)。
Next, the unphotographed area
以上説明したように、元画像Dの回転処理およびリサイズ処理によって生成された合成画像Fの画像領域には、元画像Dの一部分である撮影済領域画像Eの他に元画像Dが存在しない未撮影領域Gが生じる。本実施形態に係る顕微鏡画像処理装置1によれば、背景Cの一部である可能性が高い除外領域Hまたは隣接領域Iの画素値に基づいて、元画像D内の背景Cの色に近い色の画素値が未撮影領域Gの画素値に設定される。したがって、元画像Dの取得時におけるホワイトバランスや遮光が適正に行われていない場合でも、未撮影領域Gが撮影済領域画像Eの背景Cに近い色で塗りつぶされ、撮影済領域画像Eの背景Cと未撮影領域Gとの境目が目立たない合成画像Fを生成することができる。 As described above, in the image area of the composite image F generated by the rotation process and the resizing process of the original image D, the original image D is not present in addition to the photographed area image E that is a part of the original image D. An imaging region G is generated. According to the microscope image processing apparatus 1 according to the present embodiment, the color is close to the color of the background C in the original image D based on the pixel value of the excluded area H or the adjacent area I that is likely to be a part of the background C. The pixel value of the color is set to the pixel value of the unphotographed area G. Therefore, even when white balance and light shielding are not properly performed at the time of acquisition of the original image D, the unphotographed area G is filled with a color close to the background C of the photographed area image E, and the background of the photographed area image E A composite image F in which the boundary between C and the unphotographed region G is not noticeable can be generated.
また、背景Cの色に近い色の画素値を除外領域Hおよび隣接領域Iの画素値から高い信頼度で得られないときには、元画像Dの撮影に使用された観察方法における一般的な背景色の画素値が未撮影領域Gの画素値に設定される。これにより、撮影済領域画像Eの背景Cの色と未撮影領域Gの色との差を極力抑えて、撮影済領域画像Eの背景Cと未撮影領域Gとの境界が目立たない合成画像Fを生成することができるという利点がある。 Further, when a pixel value of a color close to the color of the background C cannot be obtained with high reliability from the pixel values of the exclusion region H and the adjacent region I, a general background color in the observation method used for photographing the original image D Is set to the pixel value of the unphotographed area G. As a result, the difference between the color of the background C of the photographed region image E and the color of the unphotographed region G is suppressed as much as possible, and the composite image F in which the boundary between the background C of the photographed region image E and the non-photographed region G is inconspicuous. There is an advantage that can be generated.
本実施形態においては、未撮影領域Gの画素値を設定するための第2の方法において、隣接領域Iの画素値を用いることとしたが、これに代えて、図8に示されるように、撮影済領域画像Eの縁部のうち、元画像Dの少なくとも1つの辺に沿う縁部Jにおける画素列の画素値を用いてもよい。あるいは、撮影済領域画像Eの縁部の全周にわたって縁部Iおよび縁部Jの両方における画素列の画素値を用いてもよい。
通常、撮影対象B全体が元画像Dの中心に配置されるように元画像Dが取得されるため、縁部Jも背景Cの一部である可能性が高い。したがって、縁部Iに代えて、または縁部Iに加えて縁部Jの画素値を用いることによっても、背景色により近い色の画素値を算出することができる。
In the present embodiment, the pixel value of the adjacent region I is used in the second method for setting the pixel value of the unphotographed region G. Instead, as shown in FIG. Of the edges of the captured region image E, the pixel values of the pixel columns at the edge J along at least one side of the original image D may be used. Or you may use the pixel value of the pixel row | line | column in both the edge I and the edge J over the perimeter of the edge of the picked-up area | region image E. FIG.
Usually, since the original image D is acquired so that the entire photographing target B is arranged at the center of the original image D, there is a high possibility that the edge J is also a part of the background C. Therefore, the pixel value of the color closer to the background color can also be calculated by using the pixel value of the edge J instead of the edge I or in addition to the edge I.
本実施形態においては、未撮影領域色設定部4が、未撮影領域Gの画素値の算出において、除外領域Hにおける全ての画素値または隣接領域Iにおける全ての画素値を使用することとしたが、これに代えて、図9に示されるように、元画像Dの各画素が取り得る画素値の範囲の一部を計算対象外に設定し(ステップS38)、計算対象外に該当しない残りの画素値を未撮影領域Gの画素値の算出に使用してもよい(ステップS33’,S34’,S35’,S36’)。
In the present embodiment, the unphotographed area
スライド標本Aの撮影対象Bである切片の周囲には、識別用のシールが貼付されていたり、ペンで書き込みがされていたりすることがある。例えば、標本Aを明視野観察する際には、図10に示されるように、撮影対象Bである切片の位置を示す黒い目印が切片の周囲に付されることがある。このような撮影対象B以外の何等かの像が除外領域Hに映り込んでいるときには、図11に示されるように、除外領域Hにおける画素値には背景色の画素値とは異なる画素値も含まれる。したがって、除外領域Hにおける全ての画素値を計算に使用した場合、本来の背景色の画素値とは異なる画素値が算出されて未撮影領域Gが本来の背景色とは異なる色で塗りつぶされることになる。隣接領域Iの画素値から未撮影領域Gの画素値を算出する際にも、同様の不都合が生じ得る。 An identification sticker may be affixed around the section of the slide specimen A, which is the imaging target B, or may be written with a pen. For example, when the specimen A is observed in the bright field, as shown in FIG. 10, a black mark indicating the position of the section that is the imaging target B may be attached around the section. When any image other than the imaging target B is reflected in the exclusion area H, as shown in FIG. 11, the pixel values in the exclusion area H include pixel values different from the pixel values of the background color. included. Accordingly, when all the pixel values in the excluded area H are used for calculation, a pixel value different from the original background color pixel value is calculated, and the unphotographed area G is filled with a color different from the original background color. become. The same inconvenience may occur when the pixel value of the unphotographed area G is calculated from the pixel value of the adjacent area I.
未撮影領域色設定部4は、元画像Dの画素値が取り得る範囲のうち、元画像Dの背景色とは異なる色に対応する範囲を計算対象外に設定する。元画像Dの背景色は、上述したように観察方法によって異なるので、計算対象外とする画素値の範囲は観察方法に応じて設定される。例えば、24ビットカラーの明視野画像の場合、図11に示されるように、輝度値が50以下となる画素値の範囲が計算対象外に設定される。
The unphotographed area
未撮影領域色設定部4は、除外領域Hまたは隣接領域Iの画素値の中から、計算対象外に該当する画素値を除外し、残りの画素値をステップS33’,S35’における判断およびステップS34’,S36’における未撮影領域Gの画素値の計算に使用する。これにより、元画像Dの背景Cの色により近い色の画素値を算出することができ、撮影済領域画像Eと未撮影領域画像との境界が目立たない合成画像Fを生成することができる。
The unphotographed area
本実施形態においては、未撮影領域色設定部4が、未撮影領域Gの画素値の設定方法を第1、第2および第3の方法の中から選択することとしたが、これに代えて、第1および第2の方法の中から選択してもよい。あるいは、未撮影領域色設定部4は、常に第1の方法を用いてもよく、または常に第2の方法を用いてもよい。
In the present embodiment, the non-photographed area
本実施形態においては、元画像Dが、顕微鏡10によって取得された1枚の画像であることとしたが、元画像Dは、これに限定されるものではなく、回転処理およびリサイズ処理の対象となる任意の画像であってよい。例えば、元画像Dは、顕微鏡10によって取得された複数枚の画像を貼り合わせた貼り合わせ画像であってもよく、顕微鏡10によって取得された動画のフレーム画像であってもよい。
In the present embodiment, the original image D is a single image acquired by the
1 顕微鏡画像処理装置
2 観察方法設定部
3 回転・リサイズ部
4 未撮影領域色設定部
5 合成部
10 顕微鏡
A 標本
B 撮影対象
C 背景
D 元画像
E 撮影済領域画像
F 合成画像
G 未撮影領域
H 除外領域
I 縁部、隣接領域
J 縁部
S2 回転・リサイズステップ
S3 未撮影領域色設定ステップ
S5 合成ステップ
DESCRIPTION OF SYMBOLS 1 Microscope
Claims (7)
前記元画像の画素値に基づいて未撮影領域の画素値を設定する未撮影領域色設定部と、
前記回転・リサイズ部によって生成された前記撮影済領域画像と、前記未撮影領域色設定部によって設定された画素値を有する未撮影領域画像とを合成して合成画像を生成する合成部とを備え、
前記未撮影領域色設定部が、前記元画像の前記一部分の縁部の画素値、または、前記回転処理および前記リサイズ処理によって前記元画像から除外された部分の画素値に基づいて、前記未撮影領域の画素値を設定する顕微鏡画像処理装置。 A rotation / resize unit that performs at least one of a rotation process and a resizing process on an original image acquired by a microscope to generate a captured region image including a part of the original image;
An unphotographed area color setting unit for setting a pixel value of an unphotographed area based on the pixel value of the original image;
A combining unit that combines the photographed region image generated by the rotation / resizing unit with the unphotographed region image having the pixel value set by the unphotographed region color setting unit to generate a composite image; ,
The unphotographed area color setting unit is configured to select the non-photographed area based on a pixel value of an edge of the part of the original image or a pixel value of a part excluded from the original image by the rotation process and the resizing process. A microscope image processing apparatus for setting a pixel value of a region.
前記未撮影領域色設定部が、前記観察方法設定部によって設定された観察方法に基づいて前記元画像の画素値が取り得る範囲の一部分を計算対象外に設定し、該計算対象外に該当しない画素値の最頻値または平均値を前記未撮影領域の画素値に設定する請求項4に記載の顕微鏡画像処理装置。 An observation method setting unit for setting an observation method of the microscope used for photographing the original image;
Based on the observation method set by the observation method setting unit, the unphotographed area color setting unit sets a part of the range that can be taken by the pixel value of the original image, and does not fall outside the calculation target The microscope image processing apparatus according to claim 4, wherein a mode value or an average value of pixel values is set as a pixel value of the unphotographed area.
前記元画像の画素値に基づいて未撮影領域の画素値を設定する未撮影領域色設定ステップと、
前記回転・リサイズステップにおいて生成された前記撮影済領域画像と、前記未撮影領域色設定ステップにおいて設定された画素値を有する未撮影領域画像とを合成して合成画像を生成する合成ステップとを含み、
前記未撮影領域色設定ステップにおいて、前記元画像の前記一部分の縁部の画素値、または、前記回転処理および前記リサイズ処理によって前記元画像から除外された部分の画素値に基づいて、前記未撮影領域の画素値を設定する顕微鏡画像処理方法。 A rotation / resizing step that generates at least one of a rotation process and a resizing process on the original image acquired by the microscope to generate a captured region image including a part of the original image;
An unphotographed area color setting step for setting a pixel value of an unphotographed area based on the pixel value of the original image;
And a combining step of generating a combined image by combining the captured region image generated in the rotation / resizing step with the uncaptured region image having the pixel value set in the unphotographed region color setting step. ,
In the unphotographed area color setting step, based on the pixel value of the edge of the part of the original image or the pixel value of the part excluded from the original image by the rotation process and the resizing process, A microscope image processing method for setting a pixel value of a region.
前記元画像の画素値に基づいて未撮影領域の画素値を設定する未撮影領域色設定ステップと、
前記回転・リサイズステップにおいて生成された前記撮影済領域画像と、前記未撮影領域色設定ステップにおいて設定された画素値を有する未撮影領域画像とを合成して合成画像を生成する合成ステップとをコンピュータに実行させ、
前記未撮影領域色設定ステップにおいて、前記元画像の前記一部分の縁部の画素値、または、前記回転処理および前記リサイズ処理によって前記元画像から除外された部分の画素値に基づいて、前記未撮影領域の画素値を設定する顕微鏡画像処理プログラム。 A rotation / resizing step that generates at least one of a rotation process and a resizing process on the original image acquired by the microscope to generate a captured region image including a part of the original image;
An unphotographed area color setting step for setting a pixel value of an unphotographed area based on the pixel value of the original image;
A compositing step of compositing the captured region image generated in the rotation / resizing step with the uncaptured region image having the pixel value set in the unphotographed region color setting step to generate a composite image To run
In the unphotographed area color setting step, based on the pixel value of the edge of the part of the original image or the pixel value of the part excluded from the original image by the rotation process and the resizing process, A microscope image processing program that sets the pixel value of an area.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017178509A JP2019054471A (en) | 2017-09-19 | 2017-09-19 | Microscope image processing apparatus, microscope image processing method, and microscope image processing program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017178509A JP2019054471A (en) | 2017-09-19 | 2017-09-19 | Microscope image processing apparatus, microscope image processing method, and microscope image processing program |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019054471A true JP2019054471A (en) | 2019-04-04 |
Family
ID=66014734
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017178509A Pending JP2019054471A (en) | 2017-09-19 | 2017-09-19 | Microscope image processing apparatus, microscope image processing method, and microscope image processing program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2019054471A (en) |
-
2017
- 2017-09-19 JP JP2017178509A patent/JP2019054471A/en active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9934562B2 (en) | Method for dynamic range editing | |
CN112216243B (en) | Brightness compensation method, driving method and device for display device | |
KR20130018330A (en) | Imaging apparatus, image processing method, and recording medium for recording program thereon | |
WO2013100028A9 (en) | Image processing device, image display system, image processing method, and image processing program | |
CN111062870B (en) | Processing method and device | |
JP5653104B2 (en) | Image processing apparatus, image processing method, and program | |
WO2013100029A9 (en) | Image processing device, image display system, image processing method, and image processing program | |
JP6028527B2 (en) | Display processing apparatus, display processing method, and program | |
JP6742863B2 (en) | Microscope image processing apparatus, method and program | |
US10911692B2 (en) | Information processing apparatus, information processing method, and storage medium | |
JP2009157219A (en) | Evaluating method of display, and evaluation apparatus used for it | |
JP2019054471A (en) | Microscope image processing apparatus, microscope image processing method, and microscope image processing program | |
KR102470242B1 (en) | Image processing device, image processing method and program | |
JP2016046701A (en) | Image processing apparatus, image processing method and program | |
JP2016201771A (en) | Image processing device, image processing method and program | |
JP5889383B2 (en) | Image processing apparatus and image processing method | |
JP7329964B2 (en) | Image processing device, image processing method and program | |
JP7502902B2 (en) | IMAGE PROCESSING APPARATUS, IMAGING APPARATUS, CONTROL METHOD, AND PROGRAM | |
JP5364887B2 (en) | Image composition apparatus, image composition method, image composition program, and recording medium | |
JP2012022653A (en) | Image processing apparatus and image processing method | |
JP5448799B2 (en) | Display control apparatus and display control method | |
JP2024085780A (en) | Image processing device and image processing method | |
JP5903292B2 (en) | Image evaluation apparatus and image evaluation program | |
JP2014127964A (en) | Image processing device, image processing method, and program | |
JP5982245B2 (en) | Image processing apparatus and image processing method |