JP7253273B2 - Reproductive medical support system - Google Patents

Reproductive medical support system Download PDF

Info

Publication number
JP7253273B2
JP7253273B2 JP2020548310A JP2020548310A JP7253273B2 JP 7253273 B2 JP7253273 B2 JP 7253273B2 JP 2020548310 A JP2020548310 A JP 2020548310A JP 2020548310 A JP2020548310 A JP 2020548310A JP 7253273 B2 JP7253273 B2 JP 7253273B2
Authority
JP
Japan
Prior art keywords
sperm
display
image
analysis
displayed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020548310A
Other languages
Japanese (ja)
Other versions
JPWO2020059522A1 (en
Inventor
寧 湯村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yokohama City University
Original Assignee
Yokohama City University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yokohama City University filed Critical Yokohama City University
Publication of JPWO2020059522A1 publication Critical patent/JPWO2020059522A1/en
Application granted granted Critical
Publication of JP7253273B2 publication Critical patent/JP7253273B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
    • G01N15/10Investigating individual particles
    • G01N15/14Optical investigation techniques, e.g. flow cytometry
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N33/00Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
    • G01N33/48Biological material, e.g. blood, urine; Haemocytometers

Landscapes

  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Engineering & Computer Science (AREA)
  • Pathology (AREA)
  • Immunology (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Biochemistry (AREA)
  • Physics & Mathematics (AREA)
  • Hematology (AREA)
  • Medicinal Chemistry (AREA)
  • Food Science & Technology (AREA)
  • Urology & Nephrology (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • Dispersion Chemistry (AREA)
  • Investigating Or Analysing Biological Materials (AREA)

Description

本発明は、生殖医療支援システムに関する。 The present invention relates to a reproductive medical support system.

現在、先進国の生殖年齢にある夫婦(カップル)の6組に一組は不妊症であるとされる。さらに不妊カップルの48%は男性側にも原因があるとされている。男性不妊の治療を目的に行われる生殖医療には顕微授精や精巣内精子回収術が挙げられるが、いずれの治療法においても精子の探索や選別は人力に依存しているのが現状である。
また、生殖医療の現場で既に利用されている支援ツールとして精子運動解析装置(Computer assisted semen analyzer;CASA)が存在する。この支援ツールは、精子に関する種々のパラメータを測定可能であるものの、精子の探索作業や選別作業を直接的に支援するものではなく、その作業負担の軽減効果も限定的である。また、精子運動解析装置は、普及という観点から見ても、未だ十分とは言い難い状況である。
ところで、既に文献に開示されている生殖補助医療に係る支援ツールとしては、下記の特許文献1および特許文献2に記載されているものを例示することができる。
Currently, one out of six couples of reproductive age in developed countries is said to be infertile. In addition, 48% of infertile couples are attributed to male factors. Reproductive medicine for the treatment of male infertility includes microinsemination and intratesticular sperm retrieval, but the current situation is that sperm search and sorting in both treatments rely on human power.
In addition, there is a computer assisted semen analyzer (CASA) as a support tool already used in the field of reproductive medicine. Although this support tool can measure various parameters related to sperm, it does not directly support sperm searching and sorting work, and its work load reduction effect is limited. In addition, even from the viewpoint of widespread use of sperm motility analyzers, it is still difficult to say that they are sufficient.
By the way, examples of support tools related to assisted reproductive medicine that have already been disclosed in documents include those described in Patent Documents 1 and 2 below.

特許文献1には、液体サンプル中の生物学的粒子(卵母細胞や精子を含む)を分類することを目的として、機械学習(人工知能処理)によって訓練された分類器を用いて画像解析処理を行う技術が開示されている。 Patent Document 1 describes image analysis processing using a classifier trained by machine learning (artificial intelligence processing) for the purpose of classifying biological particles (including oocytes and sperm) in liquid samples. is disclosed.

特許文献2には、胚(未受精二次卵母細胞と精子が融合したものを含む)をランク付け又はカテゴリ化することを目的として、機械学習によって訓練された分類器を用いて画像解析処理を行う技術が開示されている。 In Patent Document 2, image analysis processing using a classifier trained by machine learning for the purpose of ranking or categorizing embryos (including fusion of unfertilized secondary oocytes and sperm) is disclosed.

特開2016-505836号公報JP 2016-505836 A 特開2016-509845号公報JP 2016-509845 A

上記に例示したいずれの先行技術も開発途上のものであり、生殖医療の現場に実際に導入されるに至っておらず、生殖医療を支援するという点においては十分な成果を出しているものではない。 All of the prior arts exemplified above are still under development, have not been actually introduced into the field of reproductive medicine, and have not produced sufficient results in terms of supporting reproductive medicine. .

本発明は、上記の課題に鑑みなされたものであり、生殖医療に従事する関係者(特に、精子回収作業を行う胚培養士)を支援する生殖医療支援システムを提供するものである。 The present invention has been made in view of the above problems, and provides a reproductive medical support system that supports persons involved in reproductive medicine (in particular, embryologists who collect sperm).

本発明によれば、精子を含有する検査対象物に関する検査作業を支援する生殖医療支援システムであって、前記検査対象物を拡大表示している第一映像を含む作業画面が表示される表示手段と、前記第一映像として前記作業画面に表示されている領域より広い領域が撮影されている映像データを取得し、前記映像データに対して画像解析処理を行う解析手段と、を備え、前記画像解析処理には、前記映像データに撮影されている精子を判別する判別処理と、前記判別処理によって判別された精子を解析する解析処理と、が含まれ、前記表示手段は、前記判別処理によって判別され且つ前記第一映像の表示領域内に表示されている精子に係る前記解析処理に基づく第一付加表示と、前記判別処理によって判別された精子の全部に係る前記解析処理又は前記判別処理によって判別され且つ前記第一映像の表示領域外である精子に係る前記解析処理に基づく第二付加表示と、を前記作業画面の表示領域内に表示する生殖医療支援システムが提供される。 According to the present invention, there is provided a reproductive medical support system for supporting inspection work on an inspection object containing sperm, wherein the display means displays a work screen including a first image showing an enlarged display of the inspection object. and an analysis means for acquiring image data in which an area wider than the area displayed on the work screen is captured as the first image, and performing image analysis processing on the image data, wherein the image The analysis processing includes discrimination processing for discriminating the sperm photographed in the video data and analysis processing for analyzing the sperm discriminated by the discrimination processing, and the display means discriminates by the discrimination processing. and a first additional display based on the analysis processing related to the sperm displayed in the display area of the first image; and a second additional display based on the analysis processing related to the sperm outside the display area of the first image within the display area of the work screen.

上記発明によれば、検査対象物を拡大表示している映像(第一映像)内に表示された精子に関する解析結果を示す表示(第一付加表示)の他に、当該映像に表される領域より広域の領域に表示された精子に関する解析結果を示す表示(第二付加表示)も表示されるので、より多くの有用な情報に基づいて検査作業を行うことができる。 According to the above invention, in addition to the display (first additional display) indicating the analysis result of the sperm displayed in the image (first image) in which the inspection target is enlarged, the area displayed in the image Since a display (second additional display) showing the analysis results of the spermatozoa displayed in a wider area is also displayed, inspection work can be performed based on more useful information.

本発明によれば、生殖医療に従事する関係者(特に、精子回収作業を行う胚培養士)を支援する生殖医療支援システムが提供される。 ADVANTAGE OF THE INVENTION According to this invention, the reproductive medical support system which supports the persons concerned (in particular, the embryocultivator who collects a spermatozoon) engaged in reproductive medical care is provided.

顕微授精時における検体セットを拡大撮影した画像の一具体例である。It is a specific example of an image obtained by enlarging and photographing a sample set during microinsemination. 精子運動解析装置に係る高精細カメラによって検体セットを拡大撮影した画像の一具体例である。It is a specific example of an image obtained by enlarging and photographing a sample set with a high-definition camera relating to the sperm motility analyzer. 生殖医療支援システムの構成図である。1 is a configuration diagram of a reproductive medical support system; FIG. 表示ユニットに表示される作業画面の具体例を示す図である。FIG. 4 is a diagram showing a specific example of a work screen displayed on the display unit; 表示ユニットに表示される作業画面の具体例を示す図である。FIG. 4 is a diagram showing a specific example of a work screen displayed on the display unit; 表示ユニットに表示される作業画面の具体例を示す図である。FIG. 4 is a diagram showing a specific example of a work screen displayed on the display unit; モニタに表示される作業画面の具体例を示す図である。It is a figure which shows the specific example of the work screen displayed on a monitor. モニタに表示される作業画面の具体例を示す図である。It is a figure which shows the specific example of the work screen displayed on a monitor. モニタに表示される作業画面の具体例を示す図である。It is a figure which shows the specific example of the work screen displayed on a monitor.

以下、本発明の実施形態(生殖医療支援システム100)について、図面を用いて説明する。なお、すべての図面において、同様の構成要素には同一の符号を付し、適宜に説明を省略する。 An embodiment (reproductive medical support system 100) of the present invention will be described below with reference to the drawings. In addition, in all the drawings, the same reference numerals are given to the same constituent elements, and the description thereof will be omitted as appropriate.

<生殖医療支援システム100の支援対象となる検査作業について>
本発明に係る生殖医療支援システム100の支援対象となる検査作業は、精子を含有する検査対象物(以下、検体セット)に関するものであれば足り、特に制限されない。その具体例として、以下の説明においては(i)顕微授精(運動精子回収法)に係る作業及び(ii)精巣内精子回収術に係る作業が、生殖医療支援システム100の支援対象とする。
<Regarding Examination Work Supported by Reproductive Medicine Support System 100>
The inspection work to be supported by the reproductive medical support system 100 according to the present invention is not particularly limited as long as it relates to an inspection object containing sperm (hereinafter referred to as a specimen set). As a specific example, in the following description, (i) work related to microinsemination (motile sperm collection method) and (ii) work related to intratesticular sperm collection technology are supported by the reproductive medical support system 100 .

顕微授精とは、射精した精液を洗浄して得られる検体セットを顕微鏡下で観察し、当該検体セットから健全な運動精子を1つ選択して回収し(運動精子回収法)、回収した運動精子を予め採取していた卵細胞に対して直接注入すること(卵細胞質内精子注入法)によって、人工的に授精を促す生殖医療である。顕微授精は、一般的には、体外受精を行ったとしても授精が成立しないケースにおいて行われる治療法である。
図1は、顕微授精時における検体セットを拡大撮影した画像の一具体例である。なお、当該画像は、400倍に拡大して撮影されたものであり、その拡大率は顕微授精時における一般的な拡大率に等しい。なお、顕微授精時における検体セットの拡大倍率は、400倍より低倍率とする場合や400倍より高倍率とする場合もあり、必ずしも一定とは限らない。
In microinsemination, a specimen set obtained by washing the ejaculated semen is observed under a microscope, one healthy motile sperm is selected from the specimen set and collected (motile sperm collection method), and the collected motile sperm It is reproductive medicine that artificially promotes fertilization by injecting directly into previously collected egg cells (cytoplasmic sperm injection method). Microinsemination is generally a therapeutic method performed in cases where insemination cannot be achieved even if in vitro fertilization is performed.
FIG. 1 is a specific example of an enlarged photographed image of a specimen set during microinsemination. The image was taken at a magnification of 400 times, and the magnification rate is the same as the general magnification rate at the time of microscopic insemination. Note that the magnifying power of the specimen set at the time of microinsemination may be lower than 400 times or higher than 400 times, and is not necessarily constant.

精巣内精子回収術とは、外科手術によって陰嚢を切開して精巣中の精細管を顕微鏡下で観察し、比較的健全と見られる精細管を採取した後に、採取した精細管から精子を回収する生殖医療である。精巣内精子回収術は、一般的には、上記の運動精子回収法によって精子を回収できない場合に行われる治療法である。
精巣内精子回収術は、精細管から精子を回収する場合、血液に含まれる他の細胞(赤血球や白血球)及び精細管を構成する組織細胞等が含まれる。従って、精巣内精子回収術は、検体セットに精子とは異なる浮遊物が多数混在すること、或いは治療対象となる患者が無精子症であるケースがほとんどであるため検体セットに含まれる精子の数が少ないこと、という点において運動精子回収法と相違する。
Intratesticular sperm retrieval involves surgically incising the scrotum, observing the seminiferous tubules in the testicles under a microscope, collecting relatively healthy seminiferous tubules, and then recovering sperm from the collected seminiferous tubules. reproductive medicine. Intratesticular sperm retrieval is generally a therapeutic method performed when sperm cannot be retrieved by the above motile sperm retrieval method.
When sperm is recovered from the seminiferous tubule in the intratesticular sperm retrieval technique, other cells (red blood cells and white blood cells) contained in the blood and tissue cells constituting the seminiferous tubule are included. Therefore, in testicular sperm retrieval, the number of spermatozoa contained in the specimen set is limited because the specimen set contains a large number of floating substances different from sperm, or the patient to be treated is azoospermia in most cases. It is different from the motile sperm collection method in that there are few motile sperm.

<精子運動解析装置について>
上述したように、生殖医療に関する検査作業を支援する装置として、精子運動解析装置(Computer assisted semen analyzer;CASA)がある。
精子運動解析装置は、検体セットを高精細カメラによって撮影し、画像解析処理によって検体セットに含有される精子の健全性(精子の数や運動量等)を自動解析して、その解析結果を表示出力又は印字出力することによって、胚培養士の検査及び計測にかける負担を軽減することができる。
<About the sperm movement analyzer>
As described above, there is a computer assisted semen analyzer (CASA) as a device that assists examination work related to reproductive medicine.
The sperm motility analyzer captures images of the specimen set with a high-definition camera, automatically analyzes the health of the sperm contained in the specimen set (sperm number, motility, etc.) by image analysis processing, and displays and outputs the analysis results. Alternatively, by printing out, it is possible to reduce the burden of inspection and measurement on the embryologist.

図2は、精子運動解析装置に係る高精細カメラによって検体セットを拡大撮影した画像の一具体例である。なお、当該画像は、位相差顕微鏡によって撮影されたものである。また、当該画像は、図1の画像に係る検体セットとは別の検体セットを撮影されたものであり、含有されている精子の数は相違する。 FIG. 2 is a specific example of an image obtained by enlarging and photographing a sample set with a high-definition camera relating to the sperm motility analyzer. In addition, the said image was image|photographed with the phase-contrast microscope. In addition, the image is obtained by photographing a sample set different from the sample set related to the image of FIG. 1, and the number of contained spermatozoa is different.

撮影された環境が相違するので単純比較できるものではないが、各精子単体で見たときの大きさから、図2の画像は図1の画像に比べて低い拡大率で撮影されていることがわかる。運動精子回収法においては1つの精子を回収することを目的とする為、その視野に収まる領域は比較的狭いことが好ましい。一方で、精子運動解析装置においては高精度に解析処理を行うことを目的とする為、解析対象となる領域(高精細カメラによる撮影領域)は比較的広いことが好ましい。このように相互に目的が異なるので、精子運動解析装置における拡大率は、運動精子回収法における拡大率に比べて、一般的に低く設定する傾向がある。 Although the images were taken in different environments, a simple comparison cannot be made, but from the size of each individual sperm, the image in Fig. 2 was taken at a lower magnification than the image in Fig. 1. Recognize. Since the method for collecting motile sperm is intended to collect one sperm, it is preferable that the area within the field of view is relatively narrow. On the other hand, since the purpose of the sperm motility analysis apparatus is to perform analysis processing with high accuracy, it is preferable that the area to be analyzed (the area captured by the high-definition camera) be relatively wide. Since the objectives are different from each other in this way, the magnification rate in the sperm motility analyzer tends to be generally set lower than the magnification rate in the method for collecting motile spermatozoa.

<生殖医療支援システム100の構成について>
上述したような従来行われている検査において、精子の回収作業における作業者(胚培養士)の視野と、精子運動解析装置の解析結果を示す表示とは、必ずしも一致するものではない。
本実施形態における生殖医療支援システム100は、精子の回収作業における作業者の視野に収まる表示領域内に、拡張現実(Augmented Reality;AR)を適用することによって、精子運動解析装置の解析結果を表示させることを目的とするものである。これにより、当該作業者の負担を従来の手法に比べてより軽減することができる。
以下、生殖医療支援システム100の構成について具体的に説明する。
<Regarding Configuration of Reproductive Medicine Support System 100>
In conventional examinations as described above, the operator's (embryologist's) field of view during the sperm collection operation does not necessarily match the display showing the analysis results of the sperm motility analyzer.
The reproductive medical support system 100 in this embodiment displays the analysis results of the sperm movement analysis device by applying augmented reality (AR) within the display area that fits in the field of view of the operator during the sperm collection work. It is intended to As a result, the burden on the operator can be reduced as compared with the conventional method.
The configuration of the reproductive medical support system 100 will be specifically described below.

図3は、生殖医療支援システム100の構成図である。
生殖医療支援システム100は、顕微鏡10と、解析装置20と、モニタ30と、を備える。
FIG. 3 is a configuration diagram of the reproductive medical support system 100. As shown in FIG.
A reproductive medical support system 100 includes a microscope 10 , an analysis device 20 and a monitor 30 .

顕微鏡10には、図3に図示するとおり、倒立型顕微鏡を採用する。但し、本発明の実施において、顕微鏡10は必ずしも倒立型顕微鏡である必要はなく、他の種別の顕微鏡であってもよい。なお、図3において顕微鏡10に重畳して図示されている破線は、顕微鏡10の光学経路を模式的に示すものであり、外形的に確認されるものではない。
顕微鏡10の光学経路は、不図示のミラーやレンズによって複数に分岐されるように構成されており、顕微鏡10の光学経路の途中には、撮影ユニット11と、表示ユニット12と、が組み込まれている。
撮影ユニット11は、検体セット(精子を含有する検査対象物)を拡大して撮影する構成である。
表示ユニット12は、撮影ユニット11によって生成された映像データを顕微鏡10の接眼レンズの視野内に表示する、或いは当該映像データに対して、後述する解析装置20の解析結果を反映した拡張現実画像からなる作業画面を顕微鏡10の接眼レンズの視野内に表示する構成であり、本発明に係る表示手段を実現するものである。
顕微鏡10が上記のような構成を有している為、顕微鏡10を接眼レンズから覗いている作業者は検体セットを顕微鏡下で観察しながら、解析装置20の解析結果を確認することができる。なお、表示ユニット12に表示される作業画面の詳細については、後述する。
なお、本実施形態における顕微鏡10は、位相差顕微鏡であることを前提として説明するが、本発明の実施はこれに限られず、他の形式の顕微鏡(明視野顕微鏡等)を用いることを許容する。
また、撮影ユニット11や表示ユニット12が設けられる位置は、上記の機能を実現する範囲において、適宜変更可能である。
The microscope 10 employs an inverted microscope as shown in FIG. However, in the practice of the present invention, microscope 10 does not necessarily have to be an inverted microscope and may be any other type of microscope. Note that the dashed lines superimposed on the microscope 10 in FIG. 3 schematically show the optical path of the microscope 10 and are not externally confirmed.
An optical path of the microscope 10 is configured to be branched into a plurality of parts by mirrors and lenses (not shown), and an imaging unit 11 and a display unit 12 are incorporated in the optical path of the microscope 10. there is
The photographing unit 11 is configured to magnify and photograph a specimen set (inspection object containing sperm).
The display unit 12 displays the video data generated by the imaging unit 11 within the field of view of the eyepiece of the microscope 10, or displays the video data from an augmented reality image reflecting the analysis result of the analysis device 20, which will be described later. This is a configuration for displaying a work screen in the field of view of the eyepiece of the microscope 10, and realizes the display means according to the present invention.
Since the microscope 10 has the configuration as described above, the operator looking into the microscope 10 through the eyepiece can confirm the analysis result of the analysis device 20 while observing the sample set under the microscope. Details of the work screen displayed on the display unit 12 will be described later.
Although the microscope 10 in the present embodiment is assumed to be a phase-contrast microscope, implementation of the present invention is not limited to this, and other types of microscopes (bright-field microscopes, etc.) may be used. .
Further, the positions at which the photographing unit 11 and the display unit 12 are provided can be changed as appropriate within the scope of realizing the above functions.

解析装置20は、撮影ユニット11によって生成された映像データを取得し、取得した映像データに対して画像解析処理を行う構成であり、本発明に係る解析手段を実現するものである。
解析装置20による画像解析処理は、映像データの取得と並行して随時(リアルタイムに)行われ、顕微鏡10を覗いている作業者は最新の解析結果を反映した作業画面を確認することができる。
The analysis device 20 acquires video data generated by the imaging unit 11 and performs image analysis processing on the acquired video data, and implements analysis means according to the present invention.
Image analysis processing by the analysis device 20 is performed as needed (in real time) in parallel with acquisition of video data, and an operator looking through the microscope 10 can confirm a work screen reflecting the latest analysis results.

解析装置20による画像解析処理には、例えば、以下のものが含まれる。
(i)映像データに撮影されている精子を判別する処理(以下、判別処理と称する)。
(ii)精子の移動軌跡を導出する処理(以下、移動解析処理と称する)。
(iii)判別処理によって判別された精子を計数する処理(以下、計数解析処理と称する)。
(iv)判別処理によって判別された精子を、複数にランク分けされた健全性によって分類する処理(以下、健全性解析処理と称する)。
(v)判別処理によって判別された精子の輪郭を抽出する処理(以下、輪郭解析処理と称する)。
なお、本発明の実施においては、本発明の目的に反しない限りにおいて、ここで挙げた各処理の少なくとも一部が省かれてもよく、ここで挙げていない他の処理が追加されてもよい。
また、ここで挙げた各処理(画像解析処理に含まれる処理)のうち少なくとも一部については、機械学習(ディープラーニング等)によって生成される学習済みモデルに基づいて実現されることが好ましい。特に、判別処理及び健全性解析処理については、上記の学習済みモデルに基づいて実現することによって高精度の解析結果を得ることが期待される。
Image analysis processing by the analysis device 20 includes, for example, the following.
(i) A process of discriminating the sperm captured in the video data (hereinafter referred to as a discriminating process).
(ii) A process of deriving a migration trajectory of spermatozoa (hereinafter referred to as migration analysis process).
(iii) Processing for counting the sperm discriminated by the discrimination processing (hereinafter referred to as counting analysis processing).
(iv) A process of classifying the sperm discriminated by the discrimination process according to the soundness classified into a plurality of ranks (hereinafter referred to as a soundness analysis process).
(v) A process of extracting the outline of the sperm discriminated by the discrimination process (hereinafter referred to as contour analysis process).
In carrying out the present invention, at least part of each of the processes listed here may be omitted, and other processes not listed here may be added, as long as the object of the present invention is not violated. .
At least part of each process (process included in the image analysis process) mentioned here is preferably realized based on a trained model generated by machine learning (deep learning, etc.). In particular, it is expected that highly accurate analysis results will be obtained by implementing the discrimination processing and soundness analysis processing based on the learned model.

解析装置20には、作業者等による操作を受け付ける操作入力手段として、キーボード21やマウス22が付設されている。なお、キーボード21やマウス22は、解析装置20に係る操作入力手段の具体例に過ぎず、他の構成に代えてもよい。例えば、解析装置20に係る操作入力手段として、後述のモニタ30と同等の機能を有する表示装置と位置入力装置とが一体に構成されたタッチパネルを設けてもよい。 The analysis device 20 is provided with a keyboard 21 and a mouse 22 as operation input means for receiving operations by an operator or the like. Note that the keyboard 21 and the mouse 22 are merely specific examples of operation input means for the analysis apparatus 20, and may be replaced with other configurations. For example, as an operation input means for the analysis device 20, a touch panel may be provided in which a display device having the same function as the monitor 30 described later and a position input device are integrated.

モニタ30は、上述した表示ユニット12と同様に、撮影ユニット11によって生成された映像データに対して解析装置20の解析結果を反映した拡張現実画像からなる作業画面を表示する構成であり、本発明に係る表示手段を実現するものである。なお、モニタ30に表示される作業画面の詳細については、後述する。
モニタ30は、顕微鏡10を覗いている作業者とは別の者(作業補助者等)が顕微鏡下の様子を視認する為に設けられるものであり、表示ユニット12と同じ内容が表示されてもよいし、表示される内容の一部が変更されてもよい。
Similar to the display unit 12 described above, the monitor 30 is configured to display a work screen composed of an augmented reality image reflecting the analysis result of the analysis device 20 for the video data generated by the imaging unit 11. The present invention realizes the display means according to the above. Details of the work screen displayed on the monitor 30 will be described later.
The monitor 30 is provided for a person other than the operator looking into the microscope 10 (work assistant, etc.) to view the situation under the microscope. Alternatively, part of the displayed content may be changed.

<表示ユニット12に表示される作業画面について>
図4~図6は、表示ユニット12に表示される作業画面の具体例を示す図である。なお、図4~図6は模式図であり、図示した各表示の寸法の大きさや比率は必ずしも厳密なものではない。
表示ユニット12に表示される作業画面は、図4~図6に図示されるとおり、メイン画面G1と、サブ画面G2と、を含んでいる。
<About the work screen displayed on the display unit 12>
4 to 6 are diagrams showing specific examples of work screens displayed on the display unit 12. FIG. 4 to 6 are schematic diagrams, and the sizes and ratios of the dimensions of each display shown are not necessarily strict.
The work screen displayed on the display unit 12 includes a main screen G1 and a sub-screen G2, as shown in FIGS. 4-6.

メイン画面G1は、検体セット(検査対象物)を拡大表示している映像(以下、第一映像と称する)を含んでいる。第一映像は、撮影ユニット11によって生成された映像データの撮影領域の一部を拡大したものである。言い換えれば、撮影ユニット11によって生成された映像データには、第一映像として作業画面に表示されている領域より広い領域が撮影されている。
例えば、図4に図示するメイン画面G1の表示領域内には、3つの精子が表示されている。これらの精子は、それぞれ上記の判別処理によって判別されたものであり、且つ、健全性解析処理に基づいて表示G11~G13がそれぞれに対して付されている。
具体的には、表示G11は、最も健全性に優れているランクAに分類された精子であることを示す指標「A」を表示するものである。表示G12は、ランクAに次いで優れているランクBに分類された精子であることを示す指標「B」を表示するものである。表示G13は、ランクBに次いで優れているランクCに分類された精子であることを示す指標「C」を表示するものである。
上述したように、表示G11~G13は、判別処理によって判別され且つ第一映像の表示領域内に表示されている精子に係る解析処理に基づく表示である為、本発明に係る第一付加表示に相当する表示であり、特に健全性解析処理によって分類された精子の健全性を示すものである。図4では、これらの精子の健全性を示す指標を、第一映像の表示領域内に表示されている精子ごとに付して第一付加表示とする表示態様を図示したが、本発明の実施はこれに限られず、例えば、それぞれの精子を色分けする等して区別することによって、健全性に係るランク分けを視認可能にしてもよい。
なお、本実施形態では精子の健全性の優劣を示す指標について「ランク」と表現しているが、「ランク」に類似する表現(例えば、レベル、グレード、クラス)に置換することを許容する。また、当該指標の順位(等級)を示すものとして英字(A~D)を使用しているが、作業者に対して同様の内容を認識させうる有意な表示(数字やグラフ等)に置換することを許容する。
The main screen G1 includes an image (hereinafter referred to as a first image) displaying an enlarged sample set (inspection object). The first video is an enlarged part of the shooting area of the video data generated by the shooting unit 11 . In other words, the image data generated by the image capturing unit 11 captures an area wider than the area displayed on the work screen as the first image.
For example, three sperms are displayed within the display area of the main screen G1 illustrated in FIG. These spermatozoa have been discriminated by the discriminating process described above, and are labeled with labels G11 to G13 based on the soundness analysis process.
Specifically, the display G11 displays an index "A" indicating that the sperm is classified into rank A, which is the most sound. A display G12 displays an index "B" indicating that the sperm is classified into the rank B, which is the second most excellent after the rank A. A display G13 displays an index "C" indicating that the sperm is classified into the rank C, which is the second most excellent after the rank B.
As described above, the displays G11 to G13 are displays based on the analysis processing related to the sperm determined by the determination processing and displayed in the display area of the first image. A corresponding display, specifically showing the health of the sperm as classified by the health analysis process. FIG. 4 illustrates a display mode in which an index indicating the soundness of these spermatozoa is attached to each spermatozoon displayed in the display area of the first video image as a first additional display, but the embodiment of the present invention is shown in FIG. is not limited to this, and for example, by distinguishing sperm by different colors, it is also possible to make the ranking related to soundness visible.
In the present embodiment, the index indicating superiority or inferiority of sperm soundness is expressed as "rank", but it is permissible to replace it with an expression similar to "rank" (for example, level, grade, class). In addition, although alphabetical letters (A to D) are used to indicate the ranking (grade) of the indicator, replace it with a meaningful display (numbers, graphs, etc.) that allows workers to recognize the same content. allow.

サブ画面G2は、撮影ユニット11によって撮影された映像データの撮影領域全体の様子を表示する画面である。サブ画面G2に表示される画像は、当該映像データの内容そのものであってもよいし、当該映像データの撮影領域における位置座標を容易に視認できるようにグリッド線等による補助線が加えられたものであってもよい。
例えば、図4に図示するサブ画面G2の表示領域内には、撮影ユニット11によって生成された映像データの撮影領域全体における第一映像の位置を示す表示G21と、精子の健全性に係る複数のランクのうちランクAに分類された精子の位置を示す表示G22~G25と、が表示されている。
具体的には、表示G22は、第一映像の表示領域内に表示されている精子のうちランクAに分類されているもの(表示G11が付されている精子)の位置を示している。また、表示G23~G25は、第一映像の表示領域外に表示されている精子のうちランクAに分類されているものの位置を示している。
上述したように、表示G22~G25は、判別処理によって判別された精子の全部に係る解析処理(健全性解析処理)に基づく表示であり、特に表示G23~G25に限って言えば、判別処理によって判別され且つ第一映像の表示領域外である精子に係る解析処理(健全性解析処理)に基づく表示である為、これらの表示は本発明に係る第二付加表示に相当するものと言える。このようにメイン画面G1(第一映像の表示領域)とは別に設けられたサブ画面G2(第二映像領域)に、ランクAに分類された精子の位置を示すことによって、作業者はメイン画面G1の表示領域外に位置する健全性に優れた精子を容易に探索することができるようになる。
なお、本実施形態では、精子の健全性に係る複数のランクのうちランクAに分類される精子の位置のみをサブ画面G2に表示する表示態様を図示したが、他のランクに分類される精子の位置をサブ画面G2に表示してもよい。
The sub-screen G2 is a screen that displays the appearance of the entire shooting area of the video data shot by the shooting unit 11 . The image displayed on the sub-screen G2 may be the content of the video data itself, or may be an image to which auxiliary lines such as grid lines are added so that the position coordinates in the shooting area of the video data can be easily visually recognized. may be
For example, in the display area of the sub-screen G2 shown in FIG. 4, there is a display G21 indicating the position of the first image in the entire imaging area of the image data generated by the imaging unit 11, and a plurality of images relating to sperm soundness. Indications G22 to G25 indicating the positions of spermatozoa classified into rank A among the ranks are displayed.
Specifically, the display G22 indicates the position of the sperm classified as rank A among the spermatozoa displayed in the display area of the first image (sperm labeled with the display G11). In addition, displays G23 to G25 indicate the positions of spermatozoa classified as rank A among the spermatozoa displayed outside the display area of the first image.
As described above, the displays G22 to G25 are displays based on the analysis processing (soundness analysis processing) related to all the sperm discriminated by the discrimination processing. Since the display is based on the analysis processing (soundness analysis processing) related to the sperm that has been determined and is outside the display area of the first image, it can be said that these displays correspond to the second additional display according to the present invention. In this way, by showing the positions of the sperm classified as rank A on the sub-screen G2 (second image area) provided separately from the main screen G1 (display area for the first image), the operator can It becomes possible to easily search for sperm with excellent soundness located outside the display area of G1.
In the present embodiment, a display mode is illustrated in which only the positions of sperm classified into rank A among the plurality of ranks related to sperm soundness are displayed on the sub-screen G2. may be displayed on the sub-screen G2.

図5は、図4において表示G11が付されていた精子が、作業者によって回収される(ガラス管で吸い取られる)瞬間を図示している。
このとき、当然ながら、メイン画面G1から表示G11が消失すると共に、サブ画面G2から表示G22が消失する。
FIG. 5 illustrates the moment when the sperm indicated by G11 in FIG. 4 is collected by the operator (sucked up with a glass tube).
At this time, of course, the display G11 disappears from the main screen G1, and the display G22 disappears from the sub-screen G2.

図6は、図4において作業画面に表示されていた精子に関する移動解析処理の結果(移動軌跡)が表示されている状態を図示している。なお、図6において破線で示すものが移動軌跡に相当する表示である。
図4において表示G11が付されていた精子は、図6に示す状態においてはメイン画面G1の表示領域外に移動しており、メイン画面G1の表示領域内には当該精子の移動軌跡のみが残るのみである。このような場合であっても、作業者は当該精子の移動軌跡に基づいて当該精子の移動方向を確認することができると共に、サブ画面G2で現在の位置も確認することができる。
ここでメイン画面G1に表示されている精子(表示G12が付されている精子と表示G13が付されている精子)の移動軌跡は、上記の移動解析処理によって導出されるものであって、第一映像の表示領域内に表示されている精子に係る移動軌跡である為、本発明に係る第一付加表示に相当するものと言える。また、メイン画面G1及びサブ画面G2に跨がって表示されている精子(表示G22が付されている精子)の移動軌跡は、上記の移動解析処理によって導出されるものであって、第一映像の表示領域内から当該表示領域外に移動した精子に係る移動軌跡である為、本発明に係る第二付加表示に相当するものと言える。更に、サブ画面G2に表示されている他の精子(表示G23が付されている精子と表示G24が付されている精子)の移動軌跡は、上記の移動解析処理によって導出されるものであって、第一映像の表示領域外に表示された精子に係る移動軌跡である為、本発明に係る第二付加表示に相当するものと言える。
FIG. 6 illustrates a state in which the result (movement trajectory) of the migration analysis process for sperm displayed on the work screen in FIG. 4 is displayed. It should be noted that the dashed line in FIG. 6 is a display corresponding to the movement locus.
4 has moved outside the display area of the main screen G1 in the state shown in FIG. 6, and only the movement trajectory of the sperm remains within the display area of the main screen G1. Only. Even in such a case, the operator can confirm the movement direction of the sperm based on the movement trajectory of the sperm, and can also confirm the current position on the sub-screen G2.
Here, the movement trajectory of the sperm displayed on the main screen G1 (sperm with display G12 and sperm with display G13) is derived by the movement analysis process described above. It can be said that this corresponds to the first additional display according to the present invention because it is the moving trajectory of the spermatozoa displayed within the display area of one image. In addition, the movement trajectory of the sperm (sperm with display G22) displayed across the main screen G1 and the sub-screen G2 is derived by the movement analysis process described above. Since it is a moving trajectory related to the sperm moving from within the image display area to outside the display area, it can be said to correspond to the second additional display according to the present invention. Furthermore, the movement trajectories of the other sperm displayed on the sub-screen G2 (the sperm with display G23 and the sperm with display G24) are derived by the movement analysis process described above. , is the movement trajectory of the spermatozoa displayed outside the display area of the first image, it can be said that it corresponds to the second additional display according to the present invention.

<モニタ30に表示される作業画面について>
図7は、モニタ30に表示される作業画面の具体例を示す図である。なお、図7は模式図であり、図示した各表示の寸法の大きさや比率は必ずしも厳密なものではない。
モニタ30に表示される作業画面は、図7に図示されるとおり、メイン画面G3と、サブ画面G4と、サイド表示G5と、マーキングアイコンG61と、マーキング解除アイコンG62と、を含んでいる。
<About the work screen displayed on the monitor 30>
FIG. 7 is a diagram showing a specific example of the work screen displayed on the monitor 30. As shown in FIG. Note that FIG. 7 is a schematic diagram, and the sizes and ratios of the dimensions of each display shown are not necessarily strict.
The work screen displayed on the monitor 30 includes a main screen G3, a sub-screen G4, a side display G5, a marking icon G61, and a marking cancellation icon G62, as shown in FIG.

メイン画面G3の表示領域内には、メイン画面G1と同様に、第一映像が表示されている。例えば、図7に図示するメイン画面G3の表示領域内には、図4に図示したメイン画面G1に表示されている第一映像と同じものが表示されており、表示されている3つの精子には健全性解析処理に基づく指標(第一付加表示に相当するもの)がそれぞれ付されている。 A first image is displayed in the display area of the main screen G3, similarly to the main screen G1. For example, in the display area of the main screen G3 shown in FIG. 7, the same image as the first image displayed on the main screen G1 shown in FIG. 4 is displayed. is attached with an index (corresponding to the first additional display) based on soundness analysis processing.

サブ画面G4の表示領域内には、サブ画面G2に表示されているものの他に、後述するマーキングアイコンG61による表示が追加されうる。例えば、図7に図示するサブ画面G4の表示領域内には、図4に図示するサブ画面G2の表示領域内に表示されているものに加えて、後述するマーキングアイコンG61の操作に応じてマーキングされた精子の位置を示す表示G41が表示されている。 In the display area of the sub-screen G4, in addition to what is displayed on the sub-screen G2, a marking icon G61, which will be described later, can be added. For example, in the display area of the sub-screen G4 shown in FIG. 7, in addition to what is displayed in the display area of the sub-screen G2 shown in FIG. A display G41 indicating the position of the sperm that has been detected is displayed.

サイド表示G5の表示領域内には、上記の計数解析処理によって計数された精子の数が表示され、これらは本発明に係る第二付加表示に相当する。当然ながら、サイド表示G5に表示されている各数値は計数解析処理に応じて変動するものであり、固定値ではない。
具体的には、上記の判別処理によって判別された精子の全部の数(撮影ユニット11によって撮影された映像データ内に含まれる精子の全数)と、上記の健全性解析処理によって分類された精子の健全性に係るランク別(即ち、ランクA、ランクB、ランクC及びランクDごと)に計数された精子の数を表示する。ここでランクDとは、健全性解析処理による分類において最も健全性が劣っていることを示す指標である。
これにより、作業者は、映像データ内に撮影されている精子の数に基づく判断をしながら、精子の回収作業を行うことができる。
なお、ここで挙げたものは、計数解析処理に基づく第二付加表示の具体例であり、本発明の実施において一部の表示内容が削除又は変更されてもよい。例えば、映像データ内に撮影されている精子の数に、所定の係数を乗算することによって、検体セット全体に含有されている精子の総数を導出して、サイド表示G5に第二付加表示として表示してもよい。
In the display area of the side display G5, the number of spermatozoa counted by the counting analysis process described above is displayed, which corresponds to the second additional display according to the present invention. Of course, each numerical value displayed on the side display G5 fluctuates according to the counting analysis processing, and is not a fixed value.
Specifically, the total number of sperm discriminated by the discrimination process (the total number of sperm contained in the video data captured by the imaging unit 11) and the number of sperm classified by the soundness analysis process The number of spermatozoa counted by rank of health (ie, by rank A, rank B, rank C and rank D) is displayed. Here, the rank D is an index indicating the lowest soundness in classification by soundness analysis processing.
As a result, the operator can collect the sperm while making a decision based on the number of sperm captured in the video data.
Note that what is given here is a specific example of the second additional display based on the counting analysis processing, and part of the display content may be deleted or changed in the implementation of the present invention. For example, by multiplying the number of spermatozoa photographed in the video data by a predetermined coefficient, the total number of spermatozoa contained in the entire specimen set is derived and displayed as a second additional display on the side display G5. You may

マーキングアイコンG61は、解析装置20に付設された操作入力手段(キーボード21やマウス22)が受け付けた作業者による選択操作に基づいて判別処理によって判別された精子のいずれかを任意に選択した後に、当該精子にマーキングする為のアイコン表示である。即ち、マーキングアイコンG61は、本発明に係るマーキング手段を実現する為のアイコン表示である。
マーキング解除アイコンG62は、解析装置20に付設された操作入力手段が受け付けた作業者による選択操作に基づいて既にマーキングされた精子のいずれかを任意に選択した後に、当該精子にされたマーキングを解除する為のアイコン表示である。
The marking icon G61 is used after arbitrarily selecting one of the sperm discriminated by the discriminating process based on the operator's selection operation received by the operation input means (keyboard 21 and mouse 22) attached to the analysis device 20. This is an icon display for marking the sperm. That is, the marking icon G61 is an icon display for realizing the marking means according to the present invention.
The marking cancellation icon G62 is used to cancel the marking on the sperm after arbitrarily selecting one of the already marked sperm based on the operator's selection operation received by the operation input means attached to the analysis device 20. This is an icon display for

図7に図示するとおり、マーキングされた精子の位置を示す表示G41は、サブ画面G2における他の表示(ランクAに分類された精子の位置を示す表示)とは区別可能に表示されることが好ましい。
解析装置20によって自動的に判別された精子と、作業者の意思で選択した精子と、を区別可能にする為である。
As illustrated in FIG. 7, the display G41 indicating the positions of the marked spermatozoa can be displayed so as to be distinguishable from other displays (displays indicating the positions of the sperm classified as rank A) on the sub-screen G2. preferable.
This is to make it possible to distinguish between the sperm automatically discriminated by the analysis device 20 and the sperm selected intentionally by the operator.

また、図7に図示するとおり、マーキングされた精子の位置を示す表示G41と、ランクAに分類された精子の位置を示す表示と、がメイン画面G3と別に設けられたサブ画面G4に表示される。言い換えれば、モニタ30は、マーキングされた精子の位置を示す表示と、特定のランクに分類された精子の位置を示す第二付加表示と、を第二映像領域に表示するものと言える。
これにより、解析装置20によって自動的に行われる解析処理の結果に関わらず、作業者の意思で選択した精子の位置についても、作業者はメイン画面G3(第一映像)の表示領域外まで確認することができる。
なお、図7においては、サブ画面G4にのみマーキングされた精子の位置が表示されている例を図示したが、マーキングされた精子がメイン画面G3に表示されている場合、当該精子と他の精子が区別可能であるように表示してもよい。
Further, as shown in FIG. 7, a display G41 indicating the position of the marked sperm and a display indicating the position of the sperm classified as rank A are displayed on a sub-screen G4 provided separately from the main screen G3. be. In other words, the monitor 30 can be said to display, in the second image area, a display showing the positions of marked spermatozoa and a second additional display showing the positions of spermatozoa classified into a specific rank.
As a result, regardless of the result of the analysis processing automatically performed by the analysis device 20, the operator can confirm the position of the sperm selected by the operator's intention even outside the display area of the main screen G3 (first image). can do.
Note that FIG. 7 illustrates an example in which the positions of the marked spermatozoa are displayed only on the sub-screen G4, but when the marked spermatozoa are displayed on the main screen G3, the spermatozoa and the other spermatozoa may be displayed so as to be distinguishable.

<精巣内精子回収術における作業画面について>
精巣内精子回収術における作業画面についても、上述した運動精子回収法における作業画面(図4~図7に図示した作業画面)と同様の表示がなされてよい。
しかしながら、上述したように、精巣内精子回収術では、検体セットに精子とは異なる浮遊物が多数混在すること、又は検体セットに含まれる精子の数が少ないケースが多い、という点において運動精子回収法と相違し、必ずしも運動精子回収法における作業画面と同様の表示内容では適切ではないケースも想定される。
<Work screen for intratesticular sperm retrieval>
As for the work screen in the intratesticular sperm recovery procedure, the same display as the work screen in the above-described motile sperm recovery method (the work screens illustrated in FIGS. 4 to 7) may be made.
However, as described above, in intratesticular sperm retrieval, motile sperm retrieval is often difficult because the specimen set contains a large number of floating substances different from sperm, or the number of sperm contained in the specimen set is small in many cases. Unlike the law, there may be cases where the same display content as the work screen in the motile sperm collection method is not necessarily appropriate.

図8及び図9は、モニタ30に表示される作業画面の具体例を示す図である。なお、図8及び図9は模式図であり、図示した各表示の寸法の大きさや比率は必ずしも厳密なものではない。また、図8及び図9におけるサイド表示G5に表示されている各数値は、図7におけるサイド表示G5と等しくなっているが、当然ながら各数値は計数解析処理に応じて変動するものであり、固定値ではない。 8 and 9 are diagrams showing specific examples of work screens displayed on the monitor 30. FIG. 8 and 9 are schematic diagrams, and the sizes and ratios of the dimensions of each display shown are not necessarily strict. Further, each numerical value displayed on the side display G5 in FIGS. 8 and 9 is the same as the side display G5 in FIG. Not a fixed value.

図8に図示する作業画面に係るメイン画面G7及び図9に図示する作業画面に係るメイン画面G8は、それぞれ精巣内精子回収術における検体セットを撮影した第一映像を表示領域内に表示するものである。
メイン画面G7に表示される第一映像については、精子の他に、赤血球や白血球、精巣を構成する組織片などが含有しており、図7に図示した第一映像に比べて、精子の輪郭(形状)を識別しがたい。
これを視認容易にする為に、上記の輪郭解析処理によって抽出された精子の輪郭を強調表示したものがメイン画面G8に表示される第一映像である。具体的には、輪郭解析処理によって抽出された精子の輪郭と背景表示のコントラスト比を大きくする画像処理によって精子の輪郭を明瞭にしたものである。また、当該画像処理に加えて、輪郭解析処理によって抽出された精子の輪郭を除く表示については、背景表示とのコントラスト比を小さくする画像処理を行って、精子以外の浮遊物の輪郭を不明瞭にすることによって、より精子を明瞭に視認することができるようになる。
なお、メイン画面G8における精子の輪郭の強調表示は、輪郭解析処理に基づく表示である為、本発明に係る第一付加表示に相当するものと言える。
A main screen G7 related to the work screen shown in FIG. 8 and a main screen G8 related to the work screen shown in FIG. is.
The first image displayed on the main screen G7 contains, in addition to sperm, red blood cells, white blood cells, tissue fragments constituting the testis, and the like, and the outline of the sperm is different from that of the first image shown in FIG. (shape) is difficult to distinguish.
In order to facilitate visual recognition of this, the first image displayed on the main screen G8 is the outline of the spermatozoon extracted by the above-described outline analysis process, highlighted. Specifically, the outline of the sperm is clarified by image processing that increases the contrast ratio between the outline of the sperm extracted by the outline analysis process and the background display. In addition to this image processing, for the display other than the outline of the sperm extracted by the outline analysis process, image processing is performed to reduce the contrast ratio with the background display, making the outline of floating matter other than sperm unclear. By doing so, the sperm can be seen more clearly.
It should be noted that the highlighted display of the outline of the sperm on the main screen G8 is a display based on the outline analysis process, and thus can be said to correspond to the first additional display according to the present invention.

以上説明したように、本実施形態に係る生殖医療支援システム100は、解析装置20によって実現される種々の解析処理の結果を反映する拡張現実を適用した作業画面を、表示ユニット12又はモニタ30に表示するので、精子を回収する作業に係る負担を軽減することができる。 As described above, the reproductive medical support system 100 according to the present embodiment displays a work screen to which augmented reality that reflects the results of various analysis processes realized by the analysis device 20 is displayed on the display unit 12 or the monitor 30. Since it is displayed, it is possible to reduce the burden associated with the work of collecting the sperm.

<本発明の変形例について>
ここまで各図を用いて説明される実施形態に即して本発明を説明したが、本発明は上述の実施形態に限定されるものではなく、本発明の目的が達成される限りにおける種々の変形、改良等の態様も含む。
<Regarding Modifications of the Present Invention>
Although the present invention has been described with reference to the embodiments described with reference to the respective drawings, the present invention is not limited to the above-described embodiments, and various modifications can be made as long as the object of the present invention can be achieved. Modifications, improvements, etc. are also included.

上記の実施形態における生殖医療支援システム100では、顕微鏡10、解析装置20及びモニタ30を備える構成としたが、本発明の実施はこれに限られない。
例えば、顕微鏡10を省いた構成としてもよい。この変形例において解析装置20の解析対象となる映像データは別の構成から取得してもよく、当該構成は生殖医療支援システム100に含まれなくてもよい。また、この変形例においてモニタ30が本発明に係る表示手段に相当し、解析装置20が本発明に係る解析手段に相当する。
或いは、モニタ30を省いた構成としてもよい。この変形例において顕微鏡10の表示ユニット12が本発明に係る表示手段に相当し、解析装置20が本発明に係る解析手段に相当する。
Although the reproductive medical support system 100 in the above embodiment is configured to include the microscope 10, the analysis device 20, and the monitor 30, implementation of the present invention is not limited to this.
For example, the configuration may be such that the microscope 10 is omitted. In this modification, the image data to be analyzed by the analysis device 20 may be acquired from another configuration, and the configuration may not be included in the reproductive medical support system 100 . Further, in this modified example, the monitor 30 corresponds to display means according to the present invention, and the analysis device 20 corresponds to analysis means according to the present invention.
Alternatively, the configuration may be such that the monitor 30 is omitted. In this modified example, the display unit 12 of the microscope 10 corresponds to the display means according to the invention, and the analysis device 20 corresponds to the analysis means according to the invention.

上記の実施形態において用いられる顕微鏡10は、撮影ユニット11と表示ユニット12とを有するものとして説明したが、少なくとも一方を備えない顕微鏡に代えてもよい。例えば顕微鏡は表示ユニット12を有して撮影ユニット11を有さないものとし、撮影ユニット11は顕微鏡とは別のカメラ装置として提供されてもよい。 Although the microscope 10 used in the above embodiment has been described as having the photographing unit 11 and the display unit 12, it may be replaced with a microscope that does not have at least one of them. For example, the microscope may have the display unit 12 but not the photographing unit 11, and the photographing unit 11 may be provided as a camera device separate from the microscope.

上記の実施形態において説明した作業画面(図4~図9に図示した作業画面)のレイアウトは適宜変更可能であり、これらのレイアウトは作業者によって任意に調整可能であること(レイアウトのカスタマイズ機能を有すること)がより好ましい。 The layout of the work screens described in the above embodiment (the work screens shown in FIGS. 4 to 9) can be changed as appropriate, and these layouts can be arbitrarily adjusted by the operator (the layout customization function can be used). have) is more preferable.

上記の実施形態では表示ユニット12の表示内容(図4~図6の作業画面に関する内容)と、モニタ30の表示内容(図7~図9の作業画面に関する内容)と、が一部相違する実施例を説明したが、本発明の実施においては一方の表示内容が他方の表示内容に転用されることを許容する。 In the above embodiment, the display contents of the display unit 12 (contents related to the work screens in FIGS. 4 to 6) and the display contents of the monitor 30 (contents related to the work screens in FIGS. 7 to 9) are partially different. Although an example has been described, the implementation of the present invention allows the display content of one to be diverted to the display content of the other.

上記の実施形態における健全性解析処理では、精子の健全性に係るランクを4段階(A~D)に分類する処理として説明したが、当該ランクは2段階以上であればよく、本発明の実施においてその段階数は特に制限されない。 In the soundness analysis process in the above embodiment, the process of classifying the ranks related to the soundness of the sperm into four stages (A to D) has been described, but the ranks may be two or more stages, and the implementation of the present invention The number of steps in is not particularly limited.

本実施形態は以下の技術思想を包含する。
(1)精子を含有する検査対象物に関する検査作業を支援する生殖医療支援システムであって、前記検査対象物を拡大表示している第一映像を含む作業画面が表示される表示手段と、前記第一映像として前記作業画面に表示されている領域より広い領域が撮影されている映像データを取得し、前記映像データに対して画像解析処理を行う解析手段と、を備え、前記画像解析処理には、前記映像データに撮影されている精子を判別する判別処理と、前記判別処理によって判別された精子を解析する解析処理と、が含まれ、前記表示手段は、前記判別処理によって判別され且つ前記第一映像の表示領域内に表示されている精子に係る前記解析処理に基づく第一付加表示と、前記判別処理によって判別された精子の全部に係る前記解析処理又は前記判別処理によって判別され且つ前記第一映像の表示領域外である精子に係る前記解析処理に基づく第二付加表示と、を前記作業画面の表示領域内に表示する生殖医療支援システム。
(2)前記解析処理には、精子の移動軌跡を導出する処理が含まれ、前記表示手段は、前記解析処理によって導出された精子の移動軌跡のうち、前記第一映像の表示領域内に表示されている精子に係る移動軌跡を前記第一付加表示として表示し、前記第一映像の表示領域内から当該表示領域外に移動した精子に係る移動軌跡を前記第二付加表示として表示する(1)に記載の生殖医療支援システム。
(3)前記解析処理には、前記判別処理によって判別された精子を計数する処理が含まれ、前記表示手段は、前記解析処理によって計数された精子の数を前記第二付加表示として表示する(1)又は(2)に記載の生殖医療支援システム。
(4)前記解析処理には、前記判別処理によって判別された精子を、複数にランク分けされた健全性によって分類する処理が含まれ、前記表示手段は、前記解析処理によって分類された精子の健全性を示す前記第一付加表示を表示する(1)から(3)のいずれか一つに記載の生殖医療支援システム。
(5)前記表示手段は、前記解析処理によって分類された精子の健全性を示す指標を、前記第一映像の表示領域内に表示されている精子ごとに付し、当該指標を前記第一付加表示として表示する(4)に記載の生殖医療支援システム。
(6)前記表示手段は、前記解析処理によって分類された精子の健全性に係るランク別に計数された精子の数を前記第二付加表示として表示する(3)に従属している(4)又は(5)に記載の生殖医療支援システム。
(7)前記表示手段は、前記判別処理によって判別され且つ前記第一映像の表示領域外である精子のうち、精子の健全性に係る複数のランクにおける特定のランクに分類された精子の位置を示す前記第二付加表示を、前記第一映像の表示領域とは別に設けられた第二映像領域に表示する(4)から(6)のいずれか一つに記載の生殖医療支援システム。
(8)前記判別処理によって判別された精子を、作業者による選択操作によって任意にマーキングするマーキング手段を備え、前記表示手段は、前記マーキング手段によってマーキングされた精子の位置を前記作業画面の表示領域内に表示する(1)から(7)のいずれか一つに記載の生殖医療支援システム。
(9)前記表示手段は、前記マーキング手段によってマーキングされた精子の位置を示す表示と、前記特定のランクに分類された精子の位置を示す前記第二付加表示と、を前記第二映像領域に表示する(7)に従属している(8)に記載の生殖医療支援システム。
(10)前記解析処理には、前記判別処理によって判別された精子の輪郭を抽出する処理が含まれ、前記表示手段は、前記解析処理によって抽出された精子の輪郭の強調表示を、前記第一付加表示として表示する(1)から(9)のいずれか一つに記載の生殖医療支援システム。
(11)前記画像解析処理に含まれる処理のうち少なくとも一部が、機械学習によって生成される学習済みモデルに基づいて実現される(1)から(10)のいずれか一つに記載の生殖医療支援システム。
This embodiment includes the following technical ideas.
(1) A reproductive medical support system for supporting an inspection work on an inspection object containing sperm, the display means displaying a work screen including a first image showing an enlarged display of the inspection object; an analysis means for acquiring image data in which an area wider than the area displayed on the work screen is captured as a first image, and performing image analysis processing on the image data; includes a discrimination process for discriminating the sperm photographed in the video data, and an analysis process for analyzing the sperm discriminated by the discrimination process, and the display means is discriminated by the discrimination process and the a first additional display based on the analysis processing related to the sperm displayed in the display area of the first image; A reproductive medical support system that displays a second additional display based on the analysis processing related to the sperm that is outside the display area of the first image within the display area of the work screen.
(2) The analysis process includes a process of deriving a sperm movement trajectory, and the display means displays the sperm movement trajectory derived by the analysis process in the display area of the first image. (1 ).
(3) The analysis process includes a process of counting the sperm determined by the determination process, and the display means displays the number of sperm counted by the analysis process as the second additional display ( 1) or the reproductive medical support system according to (2).
(4) The analysis process includes a process of classifying the sperm discriminated by the discrimination process according to the soundness classified into a plurality of ranks. The reproductive medical support system according to any one of (1) to (3), displaying the first additional display indicating sex.
(5) The display means attaches an index indicating the soundness of the sperm classified by the analysis process to each sperm displayed in the display area of the first image, and adds the index to the first addition. The reproductive medical support system according to (4) displayed as a display.
(6) The display means is subordinate to (3) for displaying the number of spermatozoa counted according to ranks related to sperm soundness classified by the analysis process as the second additional display (4) or The reproductive medical support system according to (5).
(7) The display means displays the position of a sperm classified into a specific rank among a plurality of ranks related to the soundness of the sperm, out of the sperm determined by the determination process and outside the display area of the first image. The reproductive medical support system according to any one of (4) to (6), wherein the second additional display shown is displayed in a second image area provided separately from the display area of the first image.
(8) Marking means for arbitrarily marking the sperm discriminated by the discriminating process by a selection operation by the operator, and the display means displays the position of the sperm marked by the marking means in the display area of the work screen. The reproductive medical support system according to any one of (1) to (7) displayed within.
(9) The display means displays the display indicating the position of the sperm marked by the marking means and the second additional display indicating the position of the sperm classified into the specific rank in the second image area. The reproductive medical support system according to (8) subordinate to displaying (7).
(10) The analysis process includes a process of extracting the outline of the sperm discriminated by the discrimination process, and the display means highlights the contour of the sperm extracted by the analysis process, and displays the outline of the sperm extracted by the first The reproductive medical support system according to any one of (1) to (9) displayed as an additional display.
(11) Reproductive medicine according to any one of (1) to (10), wherein at least part of the processing included in the image analysis processing is realized based on a trained model generated by machine learning. support system.

この出願は、2018年9月21日に出願された日本出願特願2018-177672を基礎とする優先権を主張し、その開示のすべてをここに取り込む。 This application claims priority based on Japanese Patent Application No. 2018-177672 filed on September 21, 2018, and incorporates all of its disclosure herein.

100 生殖医療支援システム
10 顕微鏡
11 撮影ユニット
12 表示ユニット
20 解析装置
21 キーボード
22 マウス
30 モニタ
100 reproductive medical support system 10 microscope 11 imaging unit 12 display unit 20 analysis device 21 keyboard 22 mouse 30 monitor

Claims (11)

精子を含有する検査対象物に関する検査作業を支援する生殖医療支援システムであって、
前記検査対象物を拡大表示している第一映像を含む作業画面が表示される表示手段と、
前記第一映像として前記作業画面に表示されている領域より広い領域が撮影されている映像データを取得し、前記映像データに対して画像解析処理を行う解析手段と、
を備え、
前記画像解析処理には、
前記映像データに撮影されている精子を判別する判別処理と、
前記判別処理によって判別された精子を解析する解析処理と、
が含まれ、
前記表示手段は、前記判別処理によって判別され且つ前記第一映像の表示領域内に表示されている精子に係る前記解析処理に基づく第一付加表示と、前記判別処理によって判別された精子の全部に係る前記解析処理又は前記判別処理によって判別され且つ前記第一映像の表示領域外である精子に係る前記解析処理に基づく第二付加表示と、を前記作業画面の表示領域内に表示する生殖医療支援システム。
A reproductive medical support system for supporting inspection work on an inspection object containing sperm,
display means for displaying a work screen including a first image showing an enlarged display of the object to be inspected;
an analysis means for acquiring image data in which an area wider than the area displayed on the work screen is captured as the first image, and performing image analysis processing on the image data;
with
In the image analysis process,
a discrimination process for discriminating the sperm photographed in the video data;
an analysis process for analyzing the sperm discriminated by the discrimination process;
includes
The display means displays a first additional display based on the analysis processing related to the sperm determined by the determination processing and displayed in the display area of the first image, and displays all of the sperm determined by the determination processing. and a second additional display based on the analysis process related to the sperm determined by the analysis process or the determination process and outside the display area of the first image within the display area of the work screen. system.
前記解析処理には、精子の移動軌跡を導出する処理が含まれ、
前記表示手段は、前記解析処理によって導出された精子の移動軌跡のうち、前記第一映像の表示領域内に表示されている精子に係る移動軌跡を前記第一付加表示として表示し、前記第一映像の表示領域内から当該表示領域外に移動した精子に係る移動軌跡を前記第二付加表示として表示する請求項1に記載の生殖医療支援システム。
The analysis process includes a process of deriving a sperm movement trajectory,
The display means displays, as the first additional display, the movement trajectory of the sperm displayed in the display area of the first image among the sperm movement trajectories derived by the analysis processing, and 2. The system for supporting reproductive medicine according to claim 1, wherein a movement trajectory of a sperm that has moved from within the image display area to outside the display area is displayed as the second additional display.
前記解析処理には、前記判別処理によって判別された精子を計数する処理が含まれ、
前記表示手段は、前記解析処理によって計数された精子の数を前記第二付加表示として表示する請求項1又は2に記載の生殖医療支援システム。
The analysis process includes a process of counting the sperm discriminated by the discrimination process,
3. The reproductive medical support system according to claim 1, wherein said display means displays the number of spermatozoa counted by said analysis processing as said second additional display.
前記解析処理には、前記判別処理によって判別された精子を、複数にランク分けされた健全性によって分類する処理が含まれ、
前記表示手段は、前記解析処理によって分類された精子の健全性を示す前記第一付加表示を表示する請求項1から3のいずれか一項に記載の生殖医療支援システム。
The analysis process includes a process of classifying the sperm discriminated by the discrimination process according to the soundness classified into a plurality of ranks,
4. The reproductive medical support system according to any one of claims 1 to 3, wherein said display means displays said first additional display indicating the soundness of sperm classified by said analysis processing.
前記表示手段は、前記解析処理によって分類された精子の健全性を示す指標を、前記第一映像の表示領域内に表示されている精子ごとに付し、当該指標を前記第一付加表示として表示する請求項4に記載の生殖医療支援システム。 The display means attaches an index indicating the soundness of the sperm classified by the analysis process to each sperm displayed in the display area of the first image, and displays the index as the first additional display. The reproductive medical support system according to claim 4. 前記表示手段は、前記解析処理によって分類された精子の健全性に係るランク別に計数された精子の数を前記第二付加表示として表示する請求項3に従属している請求項4又は5に記載の生殖医療支援システム。 6. A method according to claim 4, wherein said display means displays, as said second additional display, the number of spermatozoa counted by rank relating to sperm soundness classified by said analysis processing. reproductive medical support system. 前記表示手段は、前記判別処理によって判別され且つ前記第一映像の表示領域外である精子のうち、精子の健全性に係る複数のランクにおける特定のランクに分類された精子の位置を示す前記第二付加表示を、前記第一映像の表示領域とは別に設けられた第二映像領域に表示する請求項4から6のいずれか一項に記載の生殖医療支援システム。 The display means displays the position of a sperm classified into a specific rank among a plurality of ranks related to the soundness of the sperm among the sperm identified by the identification process and outside the display area of the first image. 7. The reproductive medical support system according to any one of claims 4 to 6, wherein the second additional display is displayed in a second image area provided separately from the display area of the first image. 前記判別処理によって判別された精子を、作業者による選択操作によって任意にマーキングするマーキング手段を備え、
前記表示手段は、前記マーキング手段によってマーキングされた精子の位置を前記作業画面の表示領域内に表示する請求項1から7のいずれか一項に記載の生殖医療支援システム。
A marking means for arbitrarily marking the sperm discriminated by the discrimination process by a selection operation by an operator,
8. The reproductive medical support system according to any one of claims 1 to 7, wherein said display means displays the position of the sperm marked by said marking means within a display area of said work screen.
前記表示手段は、前記マーキング手段によってマーキングされた精子の位置を示す表示と、前記特定のランクに分類された精子の位置を示す前記第二付加表示と、を前記第二映像領域に表示する請求項7に従属している請求項8に記載の生殖医療支援システム。 wherein the display means displays, in the second image area, a display showing the position of the sperm marked by the marking means and the second additional display showing the position of the sperm classified into the specific rank. Reproductive medical support system according to claim 8 when dependent on claim 7. 前記解析処理には、前記判別処理によって判別された精子の輪郭を抽出する処理が含まれ、
前記表示手段は、前記解析処理によって抽出された精子の輪郭の強調表示を、前記第一付加表示として表示する請求項1から9のいずれか一項に記載の生殖医療支援システム。
The analysis process includes a process of extracting the outline of the sperm discriminated by the discrimination process,
10. The reproductive medical support system according to any one of claims 1 to 9, wherein said display means displays, as said first additional display, a highlighted display of the outline of the sperm extracted by said analysis processing.
前記画像解析処理に含まれる処理のうち少なくとも一部が、機械学習によって生成される学習済みモデルに基づいて実現される請求項1から10のいずれか一項に記載の生殖医療支援システム。 The reproductive medical support system according to any one of claims 1 to 10, wherein at least part of the processing included in the image analysis processing is implemented based on a learned model generated by machine learning.
JP2020548310A 2018-09-21 2019-09-05 Reproductive medical support system Active JP7253273B2 (en)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018177672 2018-09-21
JP2018177672 2018-09-21
PCT/JP2019/034980 WO2020059522A1 (en) 2018-09-21 2019-09-05 Reproductive medicine support system

Publications (2)

Publication Number Publication Date
JPWO2020059522A1 JPWO2020059522A1 (en) 2021-08-30
JP7253273B2 true JP7253273B2 (en) 2023-04-06

Family

ID=69887421

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020548310A Active JP7253273B2 (en) 2018-09-21 2019-09-05 Reproductive medical support system

Country Status (2)

Country Link
JP (1) JP7253273B2 (en)
WO (1) WO2020059522A1 (en)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7214753B2 (en) * 2018-12-28 2023-01-30 株式会社エビデント microscope system
WO2021200003A1 (en) * 2020-03-31 2021-10-07 オリンパス株式会社 Microscope system, projection unit, and sperm sorting assistance method
WO2021200002A1 (en) * 2020-03-31 2021-10-07 オリンパス株式会社 Microscope system, projection unit, and egg testing assistance method
WO2023127001A1 (en) * 2021-12-27 2023-07-06 株式会社エビデント Microscope system, projection unit, and selection assistance method
JPWO2025206104A1 (en) * 2024-03-27 2025-10-02

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012118083A (en) 2012-01-11 2012-06-21 M E S Medical Electronic Systems Ltd Semen analysis
JP2012198249A (en) 2012-07-27 2012-10-18 Chiba Univ Method for inspecting sperm function
JP2016505836A (en) 2012-12-19 2016-02-25 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. System and method for classification of particles in a fluid sample
WO2017183190A1 (en) 2016-04-22 2017-10-26 佐藤 忠男 Sample observation kit and semen sample observation method using sample observation kit

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012118083A (en) 2012-01-11 2012-06-21 M E S Medical Electronic Systems Ltd Semen analysis
JP2012198249A (en) 2012-07-27 2012-10-18 Chiba Univ Method for inspecting sperm function
JP2016505836A (en) 2012-12-19 2016-02-25 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. System and method for classification of particles in a fluid sample
WO2017183190A1 (en) 2016-04-22 2017-10-26 佐藤 忠男 Sample observation kit and semen sample observation method using sample observation kit

Also Published As

Publication number Publication date
WO2020059522A1 (en) 2020-03-26
JPWO2020059522A1 (en) 2021-08-30

Similar Documents

Publication Publication Date Title
JP7253273B2 (en) Reproductive medical support system
US11636627B2 (en) System for histological examination of tissue specimens
EP3776458B1 (en) Augmented reality microscope for pathology with overlay of quantitative biomarker data
EP4130843A1 (en) Microscope system, projection unit, and sperm sorting assistance method
US6148096A (en) Specimen preview and inspection system
US10083340B2 (en) Automated cell segmentation quality control
ES2213750T3 (en) METHODS OF AUTOMATIC CLASSIFICATION OF CITOLOGICAL SPECIMENS.
WO2009009779A2 (en) Automated bone marrow cellularity determination
JP4154300B2 (en) Transmission electron microscope system and inspection method using the same
Chuter et al. Deep learning identifies high-quality fundus photographs and increases accuracy in automated primary open angle glaucoma detection
JP4864709B2 (en) A system for determining the staining quality of slides using a scatter plot distribution
US8478018B2 (en) Method for sample cell analysis using a virtual analysis plate
KR101106386B1 (en) System for classifying slides using scatter plot distributions
US20120243755A1 (en) Method for automatically seeding previously-classified images among images of objects of interest from a specimen
JP4578135B2 (en) Specimen image display method and specimen image display program
CN115629072A (en) Bone marrow smear image analysis and diagnosis method and pathological section scanner device
JP7793293B2 (en) Image processing device, control method and program for image processing device
JP7580169B1 (en) Sperm sorting assistance device, sperm sorting assistance system, and sperm sorting assistance program
Samuel et al. Design to automate the detection and counting of Tuberculosis (TB) bacilli
JP4785347B2 (en) Specimen image display method and specimen image display program
JP3654835B2 (en) Test system with sample preparation function
US20200193596A1 (en) Method And System For Identifying And Classifying Structures In A Blood Sample
JP5048038B2 (en) Blood cell classification result display method and blood cell classification result display program
Sergeev et al. Development of automated computer vision methods for cell counting and endometrial gland detection for medical images processing
EP4549910A1 (en) Particle detection method, particle detection apparatus, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220607

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230307

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230317

R150 Certificate of patent or registration of utility model

Ref document number: 7253273

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250