JP2011212314A - Blood vessel display control equipment and method, and program - Google Patents

Blood vessel display control equipment and method, and program Download PDF

Info

Publication number
JP2011212314A
JP2011212314A JP2010084390A JP2010084390A JP2011212314A JP 2011212314 A JP2011212314 A JP 2011212314A JP 2010084390 A JP2010084390 A JP 2010084390A JP 2010084390 A JP2010084390 A JP 2010084390A JP 2011212314 A JP2011212314 A JP 2011212314A
Authority
JP
Japan
Prior art keywords
blood vessel
extracted
pulmonary
point
intersection point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010084390A
Other languages
Japanese (ja)
Other versions
JP5539778B2 (en
Inventor
Osamu Mizuno
修 水野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2010084390A priority Critical patent/JP5539778B2/en
Publication of JP2011212314A publication Critical patent/JP2011212314A/en
Application granted granted Critical
Publication of JP5539778B2 publication Critical patent/JP5539778B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

PROBLEM TO BE SOLVED: To more easily confirm the result of extraction of a plurality of kinds of blood vessels in a three-dimensional medical image showing a subject.SOLUTION: When the blood vessels to be extracted are pulmonary arteries and pulmonary veins for example, a pulmonary blood vessel extraction section 31 extracts a vascular structure showing the pulmonary arteries or the pulmonary veins from the three-dimensional medical image showing the chest of the subject, stores relatedly each of the extracted vascular structure and blood vessel identification information showing the kind of the blood vessel of the vascular structure in a storage means, contact and intersection detection sections 31a and 31b detect contacts and intersections where the extracted vascular structures come into contact with or intersect each other, a display control section 33 displays the vascular structures in the contacts and intersections and the vicinities of the contacts and intersections in a mode permitting the blood vessel identification information related to the vascular structure to be identified for at least some of the detected contacts and intersections and displays the contacts and intersections in a mode permitting the contacts and intersections to be identified.

Description

本発明は、被検体を表す3次元医用画像から複数の種類の血管を抽出した結果を表示する装置および方法、並びにプログラムに関するものである。   The present invention relates to an apparatus and method for displaying a result of extracting a plurality of types of blood vessels from a three-dimensional medical image representing a subject, and a program.

肺の画像診断や手術シミュレーション等をより的確かつ詳細に行えるようにするための要素技術として、肺の血管を自動的に抽出・分類する技術がある。   There is a technique for automatically extracting and classifying pulmonary blood vessels as an elemental technique for enabling more accurate and detailed lung image diagnosis and surgical simulation.

例えば、胸部X線CT画像を入力として、ユーザによって指定された肺の血管を表すシード点に基づいて、領域拡張法(Region Growing)を用いて肺の血管領域を抽出する方法が知られている(例えば、非特許文献1)。   For example, a method of extracting a lung blood vessel region using a region growing method (Region Growing) based on a seed point representing a lung blood vessel designated by a user using a chest X-ray CT image as an input is known. (For example, Non-Patent Document 1).

また、3次元画像に対して多重解像度変換を行い、各解像度の画像に対してヘッセ行列の固有値解析を行い、各解像度の画像における解析結果を統合することによって、3次元画像中の様々なサイズの線構造(血管)を抽出する方法も知られている(例えば、非特許文献2)。   In addition, by performing multi-resolution conversion on a three-dimensional image, performing eigenvalue analysis of the Hessian matrix on each resolution image, and integrating the analysis results in each resolution image, various sizes in the three-dimensional image are obtained. A method of extracting the line structure (blood vessel) of the above is also known (for example, Non-Patent Document 2).

さらに、抽出された肺の血管を肺動脈と肺静脈に分類する手法も知られている。例えば、上記非特許文献1には、肺動脈と気管支は肺の各区域の中心付近を並行して走行するのに対して、肺静脈は肺の各区域の境界付近、すなわち、気管支と気管支の間を走行することに着目した手法が提案されている。具体的には、この手法は、抽出された血管構造を血管同士の接触関係に基づいて複数の血管枝グループに分解するとともに、公知の手法を用いて気管支も抽出し、さらに、抽出された気管支を母点集合として3次元ボロノイ分割を行うことによって肺区域の境界面を推定しておき、血管枝グループ毎に、気管支からの平均距離と肺区域の境界面からの平均距離を算出し、気管支に近く、肺区域の境界面から遠い血管枝グループを肺動脈に分類し、気管支から遠く、肺区域の境界面に近い血管枝グループを肺静脈に分類するものである。   Furthermore, a technique for classifying the extracted pulmonary blood vessels into pulmonary arteries and pulmonary veins is also known. For example, in Non-Patent Document 1 above, the pulmonary artery and bronchus run in parallel near the center of each area of the lung, whereas the pulmonary veins are near the boundary of each area of the lung, that is, between the bronchi and bronchus. A method that focuses on driving is proposed. Specifically, this method decomposes the extracted blood vessel structure into a plurality of blood vessel branch groups based on the contact relationship between blood vessels, extracts bronchi using a known method, and further extracts the extracted bronchi The boundary area of the lung area is estimated by performing three-dimensional Voronoi division using the set as the mother point set, and the average distance from the bronchus and the average distance from the boundary area of the lung area are calculated for each vascular branch group. The vascular branch group that is close to the pulmonary area and far from the boundary surface of the lung area is classified as a pulmonary artery, and the vascular branch group that is far from the bronchus and close to the boundary surface of the lung area is classified as pulmonary vein.

中村 翔、他4名、「木構造解析による胸部X線CT像からの肺動脈・肺静脈の自動分類」、電子情報通信学会技術研究報告. MI, 医用画像、日本、社団法人電子情報通信学会、2006年1月21日、Vol.105, No.580、pp.105-108、[2009年11月20日検索]、インターネット〈URL:http://www.murase.nuie.nagoya-u.ac.jp/~ide/res/paper/J05-kenkyukai-snaka-1.pdf〉Sho Nakamura and 4 others, "Automatic classification of pulmonary arteries and pulmonary veins from chest X-ray CT images by tree structure analysis", IEICE technical report. MI, Medical Image, Japan, IEICE, January 21, 2006, Vol.105, No.580, pp.105-108, [Searched on November 20, 2009], Internet <URL: http://www.murase.nuie.nagoya-u.ac .jp / ~ ide / res / paper / J05-kenkyukai-snaka-1.pdf> Y Sato, et al.、「Three-dimensional multi-scale line filter for segmentation and visualization of curvilinear structures in medical images.」、Medical Image Analysis、1998年6月、Vol.2、No.2、p.p.143-168Y Sato, et al., `` Three-dimensional multi-scale line filter for segmentation and visualization of curvilinear structures in medical images. '', Medical Image Analysis, June 1998, Vol.2, No.2, p.p.143-168

上記非特許文献1等に提案されている肺動脈と肺静脈の自動分類手法では、10から20%程度の誤分類が報告されており、自動分類の結果をそのまま用いると、肺の画像診断や手術シミュレーションの精度にも影響を及ぼしてしまうことになる。   In the automatic classification method of the pulmonary artery and pulmonary vein proposed in Non-Patent Document 1 and the like, about 10 to 20% of misclassification has been reported. If the result of automatic classification is used as it is, lung image diagnosis and surgery are performed. It will also affect the accuracy of the simulation.

本発明は上記事情に鑑みてなされたものであり、被検体を表す3次元医用画像中の複数の種類の血管の抽出結果をより容易に確認することを可能にする装置および方法、並びにプログラムを提供することを目的とするものである。   The present invention has been made in view of the above circumstances, and provides an apparatus, a method, and a program that can more easily confirm the extraction results of a plurality of types of blood vessels in a three-dimensional medical image representing a subject. It is intended to provide.

本発明の血管表示制御装置は、被検体を表す3次元医用画像から複数の種類の血管を表す血管構造を各々抽出し、該抽出された血管構造の各々と、該血管構造の血管の種類を表す血管識別情報とを関連づけて記憶手段に記憶させる血管抽出手段と、前記抽出された血管構造同士が接触または交差する接交点を検出する接交点検出手段と、前記検出された接交点の少なくとも一部について、該接交点および該接交点の近傍の前記血管構造を、該血管構造に関連づけられた血管識別情報を識別可能な態様で表示させるとともに、該接交点を識別可能な態様で表示させる表示制御手段とを備えたことを特徴とする。   The blood vessel display control device of the present invention extracts each of blood vessel structures representing a plurality of types of blood vessels from a three-dimensional medical image representing a subject, and determines each of the extracted blood vessel structures and the types of blood vessels of the blood vessel structure. At least one of the detected intersection point, a blood vessel extraction unit that associates and stores the blood vessel identification information to be expressed in the storage unit, a contact point detection unit that detects a contact point where the extracted blood vessel structures contact or intersect each other, and Display for displaying the tangent point and the vascular structure in the vicinity of the tangent point in such a manner that the vascular identification information associated with the vascular structure can be identified and the tangent point can be identified. And a control means.

本発明の血管表示制御方法は、被検体を表す3次元医用画像から複数の種類の血管を表す血管構造を各々抽出し、該抽出された血管構造の各々と、該血管構造の血管の種類を表す血管識別情報とを関連づけて記憶手段に記憶させるステップと、前記抽出された血管構造同士が接触または交差する接交点を検出するステップと、前記検出された接交点の少なくとも一部について、該接交点および該接交点の近傍の前記血管構造を、該血管構造に関連づけられた血管識別情報を識別可能な態様で表示させるとともに、該接交点を識別可能な態様で表示させるステップとを有することを特徴とする。   According to the blood vessel display control method of the present invention, blood vessel structures representing a plurality of types of blood vessels are each extracted from a three-dimensional medical image representing a subject, and each of the extracted blood vessel structures and the types of blood vessels of the blood vessel structure are determined. Storing the associated blood vessel identification information in the storage means, detecting the intersection point where the extracted blood vessel structures are in contact with or intersecting, and at least a part of the detected intersection point. Displaying the intersection and the vascular structure in the vicinity of the tangent point in a manner capable of identifying the vascular identification information associated with the vascular structure, and displaying the tangent point in a identifiable manner. Features.

本発明の血管表示制御プログラムは、コンピュータに上記方法を実行させるためのものである。   The blood vessel display control program of the present invention is for causing a computer to execute the above method.

本発明において、「3次元医用画像」の具体例としては、被検体の胸部(肺)を表すものや、頭部(脳)を表すものや、腹部(肝臓)を表すもの等が挙げられる。   In the present invention, specific examples of the “three-dimensional medical image” include those representing the chest (lung) of the subject, those representing the head (brain), and those representing the abdomen (liver).

また、抽出される血管構造の血管の種類の具体例としては、動脈、静脈、門脈が挙げられる。   Further, specific examples of the types of blood vessels of the extracted blood vessel structure include arteries, veins, and portal veins.

複数の種類の血管を表す血管構造の抽出方法としては、公知の抽出方法を採用することができる。具体的には、複数の種類の血管の血管構造を種類を識別することなく抽出した後で、抽出された血管を種類毎に分類することによって、複数の種類の血管を表す血管構造を各々抽出するようにしてもよいし、複数の種類の血管を表す血管構造を別個に抽出するようにしてもよい。   A known extraction method can be adopted as a method for extracting a blood vessel structure representing a plurality of types of blood vessels. Specifically, after extracting the vascular structures of multiple types of blood vessels without identifying the types, the extracted blood vessels are classified by type to extract each of the vascular structures representing the multiple types of blood vessels. Alternatively, blood vessel structures representing a plurality of types of blood vessels may be extracted separately.

血管構造を記憶させる際のデータ構造としては、木構造やネットワーク構造が挙げられる。   Examples of the data structure for storing the blood vessel structure include a tree structure and a network structure.

また、抽出された血管構造と血管識別情報との関連づけは、例えば、血管を分岐毎に分割した血管枝のように、血管構造を構成する部分毎に血管識別情報を関連づけるようにしてもよい。   In addition, the association between the extracted blood vessel structure and the blood vessel identification information may be made to associate the blood vessel identification information for each portion constituting the blood vessel structure, for example, a blood vessel branch obtained by dividing the blood vessel for each branch.

血管構造と血管識別情報の表示態様の具体例としては、血管の種類毎にを異なる色で表示させることや、血管構造の領域に各血管の芯線を血管の種類毎に異なる線種(実線と破線等)で重畳表示させること等が挙げられる。   Specific examples of the display mode of the blood vessel structure and the blood vessel identification information include displaying each blood vessel type with a different color, and displaying the core line of each blood vessel in the region of the blood vessel structure with a different line type (solid line and different line type). For example, the display may be superimposed with a broken line.

接交点の表示態様の具体例としては、接交点を囲む円等の図形や、接交点を指示する矢印等を用いたマーカーを付したり、接交点に血管構造とは異なる色を付したりすることが挙げられる。これらのマーカーや色づけは半透明に表示させるようにしてもよい。   As a specific example of the display mode of the intersection point, a marker such as a circle surrounding the intersection point, an arrow indicating the intersection point, or the like is attached, or a color different from the blood vessel structure is attached to the intersection point. To do. These markers and coloring may be displayed translucently.

また、接交点が複数検出された場合、各接交点および接交点の近傍の血管構造を表す局所画像のすべてを一覧表示してもよいし、胸部全体の画像と局所画像を並べて、または順次表示してもよい。あるいは、血管の基部付近の上記局所画像から順に表示するようにしてもよい。   When a plurality of intersection points are detected, all of the local images representing each intersection point and the blood vessel structure in the vicinity of the intersection point may be displayed in a list, or the entire chest image and the local image may be displayed side by side or sequentially. May be. Or you may make it display in order from the said local image near the base of a blood vessel.

本発明において、表示された血管構造および/またはその血管構造に関連づけられた血管識別情報に対する修正内容の入力を受け付け、入力された修正内容に基づいて記憶手段に記憶された血管構造および/またはその血管構造に関連づけられた血管識別情報を修正するようにしてもよい。ここで、血管構造の修正の具体例としては、血管の接続関係の修正が挙げられる。また、修正の際、血管構造の一部に対する、血管構造や血管識別情報の修正内容の入力を受け付け、その修正対象の血管構造の一部からその血管構造の末梢または基部に向かって一括して血管構造や血管識別情報を修正するようにしてもよい。   In the present invention, an input of correction content for the displayed blood vessel structure and / or blood vessel identification information associated with the blood vessel structure is received, and the blood vessel structure stored in the storage means based on the input correction content and / or the blood vessel structure The blood vessel identification information associated with the blood vessel structure may be corrected. Here, as a specific example of the correction of the blood vessel structure, correction of the connection relation of the blood vessels is given. Also, at the time of correction, input of correction contents of the blood vessel structure and blood vessel identification information for a part of the blood vessel structure is accepted, and from a part of the blood vessel structure to be corrected toward the periphery or the base of the blood vessel structure at once. The blood vessel structure and blood vessel identification information may be corrected.

また、入力された修正後の血管構造や血管識別情報に基づいて、接交点および接交点の近傍の血管構造の表示を更新させるようにしてもよい。   Further, the display of the tangent point and the vascular structure in the vicinity of the tangent point may be updated based on the input corrected vascular structure and vascular identification information.

本発明において、表示された血管構造および/またはその血管構造に関連づけられた血管識別情報の正誤の判定結果の入力を受け付けるようにしてもよい。   In the present invention, it is also possible to accept input of the correct / incorrect determination result of the displayed blood vessel structure and / or blood vessel identification information associated with the blood vessel structure.

本発明によれば、被検体を表す3次元医用画像から抽出された複数の種類の血管を表す血管構造の各々と、その血管構造の血管の種類を表す血管識別情報とを関連づけて記憶手段に記憶させておき、抽出された血管構造同士が接触または交差する接交点を検出し、検出された接交点の少なくとも一部について、接交点および接交点の近傍の血管構造を、血管構造に関連づけられた血管識別情報を識別可能な態様で表示させるとともに、接交点を識別可能な態様で表示させることができる。ここで、複数の種類の血管を表す血管構造の抽出の際には、血管構造同士が接触または交差する接交点において血管構造や血管識別情報の抽出結果に誤りが生じやすいので、各血管の血管識別情報を識別可能な態様で表示しつつ、この接交点を識別可能な態様で表示すれば、複数の種類の血管を表す血管構造の抽出結果の要所をより容易にかつより効率的に確認することが可能になる。   According to the present invention, each of the blood vessel structures representing a plurality of types of blood vessels extracted from the three-dimensional medical image representing the subject and the blood vessel identification information representing the types of blood vessels of the blood vessel structures are associated with each other in the storage means. Storing intersection points where the extracted vascular structures contact or intersect with each other are detected, and for at least some of the detected tangent points, the tangent points and the vascular structures in the vicinity of the tangent points can be associated with the vascular structures. The blood vessel identification information can be displayed in an identifiable manner, and the intersection point can be displayed in an identifiable manner. Here, when extracting a blood vessel structure representing a plurality of types of blood vessels, an error is likely to occur in the extraction result of the blood vessel structure or the blood vessel identification information at a tangent point where the blood vessel structures contact or intersect with each other. By displaying the identification information in an identifiable manner and displaying this intersection point in an identifiable manner, it is possible to more easily and more efficiently check the key points of the extraction results of blood vessel structures representing multiple types of blood vessels. It becomes possible to do.

また、血管構造および/またはその血管構造に関連づけられた血管識別情報に対する修正を行うようにすれば、上記表示により修正対象箇所の把握が容易なだけでなく、血管構造の抽出結果の修正もより簡便に行うことが可能になる。   If correction is made to the blood vessel structure and / or the blood vessel identification information associated with the blood vessel structure, not only the correction target part can be easily grasped by the display but also the extraction result of the blood vessel structure can be corrected. It becomes possible to carry out simply.

さらに、修正内容に基づいて血管構造の表示を更新するようにすれば、修正結果を即時に確認することが可能になり、また、行った修正がその修正箇所の周囲の血管構造にどのように波及したかも容易に把握することが可能になるので、修正作業の効率が向上する。   Furthermore, if the display of the vascular structure is updated based on the content of the correction, it is possible to immediately confirm the correction result, and how the correction made is applied to the vascular structure around the correction location. Since it is possible to easily grasp the spread, the efficiency of the correction work is improved.

また、血管構造および/またはその血管構造に関連づけられた血管識別情報の正誤の判定を行うようにすれば、上記表示により修正対象箇所の把握が容易なだけでなく、血管構造の抽出結果の判定もより簡便に行うことが可能になる。   In addition, if the correctness of the blood vessel structure and / or the blood vessel identification information associated with the blood vessel structure is determined, not only the correction target portion can be easily grasped by the above display, but also the determination result of the blood vessel structure is determined. Can be performed more easily.

本発明の実施の形態となる肺血管表示制御装置が導入された医用画像診断システムの概略構成図1 is a schematic configuration diagram of a medical image diagnostic system in which a pulmonary blood vessel display control device according to an embodiment of the present invention is introduced. 本発明の実施形態における肺血管表示制御機能を実現する構成および処理の流れを模式的に示したブロック図The block diagram which showed typically the structure and process flow which implement | achieve the pulmonary blood vessel display control function in embodiment of this invention 本発明の実施形態における医用画像診断システムを用いた肺血管表示制御処理の流れを表したフローチャートThe flowchart showing the flow of the pulmonary blood vessel display control processing using the medical image diagnostic system in the embodiment of the present invention 肺血管と芯線・分岐点を模式的に表した図Schematic representation of pulmonary blood vessels and core / branch points 肺血管を表す木構造データの一例を模式的に表した図Diagram showing an example of tree structure data representing pulmonary blood vessels 肺血管が接触した様子を模式的に表した図A diagram schematically showing the contact of pulmonary blood vessels 肺血管の接触部付近において、領域拡張法によって肺動脈を先に抽出した様子を模式的に表した図Schematic representation of how the pulmonary artery was first extracted by the region expansion method near the contact area of the pulmonary blood vessel 肺血管の接触部付近において、領域拡張法によって肺動脈を抽出後、肺静脈を抽出した様子を模式的に表した図Schematic representation of the pulmonary veins extracted after extracting the pulmonary artery by the region expansion method near the contact area of the pulmonary blood vessel 肺血管の交差した様子を模式的に表した図A diagram schematically showing the crossing of pulmonary blood vessels 肺血管の交差部付近において、領域拡張法によって肺動脈を先に抽出した様子を模式的に表した図Schematic representation of how the pulmonary artery was first extracted by the region expansion method near the intersection of pulmonary blood vessels 肺血管の交差部付近において、領域拡張法によって肺動脈を抽出後、肺静脈を抽出した様子を模式的に表した図Schematic representation of the pulmonary veins extracted after extracting the pulmonary artery by the region expansion method near the intersection of pulmonary blood vessels 第2の接交点検出部による接交点の検出処理例を模式的に表した図The figure which represented typically the detection process example of the intersection point by the 2nd intersection point detection part 肺動脈と肺静脈の抽出結果の第1の表示例を模式的に表した図The figure which expressed typically the 1st display example of the extraction result of a pulmonary artery and a pulmonary vein 肺動脈と肺静脈の抽出結果の第2の表示例を模式的に表した図A diagram schematically showing a second display example of the pulmonary artery and pulmonary vein extraction results 肺動脈と肺静脈の抽出結果の第3の表示例を模式的に表した図A diagram schematically showing a third display example of the pulmonary artery and pulmonary vein extraction results 抽出結果の修正前の肺動脈と肺静脈の一例を模式的に表した図Diagram showing an example of pulmonary artery and vein before correction of extraction results 肺動脈と肺静脈の抽出結果の第1の一括修正例を模式的に表した図The figure which expressed typically the 1st collective correction example of the extraction result of the pulmonary artery and the pulmonary vein 肺動脈と肺静脈の抽出結果の第2の一括修正例を模式的に表した図The figure which expressed typically the 2nd collective correction example of the extraction result of the pulmonary artery and the pulmonary vein 肺動脈と肺静脈の抽出結果の第3の一括修正例を模式的に表した図The figure which expressed typically the 3rd collective correction example of the extraction result of the pulmonary artery and the pulmonary vein 肺動脈と肺静脈の抽出結果の第1の一括修正例を実行する前の各血管構造を表す木構造データを模式的に表した図The figure which represented typically the tree structure data showing each vascular structure before performing the 1st batch correction example of the extraction result of a pulmonary artery and a pulmonary vein 肺動脈と肺静脈の抽出結果の第1の修正例を実行した後の各血管構造を表す木構造データを模式的に表した図The figure which represented typically the tree structure data showing each vascular structure after performing the 1st modification example of the extraction result of a pulmonary artery and a pulmonary vein

以下、本発明を、被検体の胸部を表す3次元医用画像から抽出された肺動脈と肺静脈を表す血管構造の表示、および、その抽出結果の修正を行う肺血管表示制御装置として実装した場合を例として、本発明の実施の形態となる血管表示制御装置が導入された医用画像診断システムについて説明する。   Hereinafter, a case where the present invention is implemented as a pulmonary blood vessel display control device that displays vascular structures representing pulmonary arteries and pulmonary veins extracted from a three-dimensional medical image representing the chest of a subject and corrects the extraction results. As an example, a medical image diagnostic system in which a blood vessel display control device according to an embodiment of the present invention is introduced will be described.

図1は、この医用画像診断システムの概要を示すハードウェア構成図である。図に示すように、このシステムでは、モダリティ1と、画像保管サーバ2と、画像処理ワークステーション3とが、ネットワーク9を経由して通信可能な状態で接続されている。   FIG. 1 is a hardware configuration diagram showing an outline of this medical image diagnostic system. As shown in the figure, in this system, a modality 1, an image storage server 2, and an image processing workstation 3 are connected via a network 9 in a communicable state.

モダリティ1には、被検体の検査対象部位を撮影することにより、その部位を表す3次元医用画像の画像データを生成し、その画像データにDICOM(Digital Imaging and Communications in Medicine)規格で規定された付帯情報を付加して、画像情報として出力する装置が含まれる。具体例としては、CT、MRIなどが挙げられる。本実施形態では、CTで被検体である人体の体軸方向にスキャンすることによって人体の胸部の3次元画像データを生成する場合について説明する。   The modality 1 generates image data of a three-dimensional medical image representing the region by imaging the region to be examined of the subject, and the image data is defined by the DICOM (Digital Imaging and Communications in Medicine) standard. A device for adding incidental information and outputting it as image information is included. Specific examples include CT and MRI. In the present embodiment, a case will be described in which three-dimensional image data of the chest of a human body is generated by scanning in the body axis direction of the human body that is the subject by CT.

画像保管サーバ2は、モダリティ1で取得された医用画像データや画像処理ワークステーション3での画像処理によって生成された医用画像の画像データを画像データベースに保存・管理するコンピュータであり、大容量外部記憶装置やデータベース管理用ソフトウェア(たとえば、ORDB(Object Relational Database)管理ソフトウェア)を備えている。   The image storage server 2 is a computer that stores and manages medical image data acquired by the modality 1 and image data of medical images generated by image processing at the image processing workstation 3 in an image database. A device and database management software (for example, ORDB (Object Relational Database) management software) are provided.

画像処理ワークステーション3は、読影者からの要求に応じて、モダリティ1や画像保管サーバ2から取得した医用画像データに対して画像処理(画像解析を含む)を行い、生成された画像を表示するコンピュータであり、CPU,主記憶装置、補助記憶装置、入出力インターフェース、通信インターフェース、入力装置(マウス、キーボード等)、表示装置(ディスプレイモニタ)、データバス等の周知のハードウェア構成を備え、周知のオペレーティングシステム等がインストールされたものである。本発明の肺血管表示制御処理は、この画像処理ワークステーション3に実装されており、この処理は、CD−ROM等の記録媒体からインストールされたプログラムを実行することによって実現される。また、プログラムは、インターネット等のネットワーク経由で接続されたサーバの記憶装置からダウンロードされた後にインストールされたものであってもよい。   The image processing workstation 3 performs image processing (including image analysis) on the medical image data acquired from the modality 1 or the image storage server 2 in response to a request from the interpreter, and displays the generated image. A computer having a well-known hardware configuration such as a CPU, main storage device, auxiliary storage device, input / output interface, communication interface, input device (mouse, keyboard, etc.), display device (display monitor), data bus, etc. The operating system is installed. The pulmonary blood vessel display control processing according to the present invention is implemented in the image processing workstation 3, and this processing is realized by executing a program installed from a recording medium such as a CD-ROM. The program may be installed after being downloaded from a storage device of a server connected via a network such as the Internet.

画像データの格納形式やネットワーク9経由での各装置間の通信は、DICOM等のプロトコルに基づいている。   The storage format of image data and communication between devices via the network 9 are based on a protocol such as DICOM.

図2は、画像処理ワークステーション3の機能のうち、本発明の実施形態となる肺血管表示制御処理に関連する部分を示すブロック図である。図に示すように、本発明の実施形態となる肺血管表示制御処理は、シード点設定部31aと血管構造抽出部(第1の接交点検出部を兼ねる)31bとからなる肺血管抽出部31、第2の接交点検出部32、表示制御部33、抽出結果修正部34によって実現される。また、3次元医用画像V、肺動脈シード点SPA、肺静脈シード点SPV、肺動脈の血管構造PA、肺静脈の血管構造PV、第1の接交点T1n、第2の接交点T2m、抽出結果の判定結果および修正指示情報MI、表示画像Iは、各々、上記各処理部によって、画像処理ワークステーション3の所定のメモリ領域に対して読み書きされるデータである。 FIG. 2 is a block diagram showing a part related to the pulmonary blood vessel display control process according to the embodiment of the present invention, among the functions of the image processing workstation 3. As shown in the figure, the pulmonary blood vessel display control process according to the embodiment of the present invention includes a pulmonary blood vessel extraction unit 31 including a seed point setting unit 31a and a blood vessel structure extraction unit (also serving as a first intersection detection unit) 31b. The second intersection detection unit 32, the display control unit 33, and the extraction result correction unit 34 are realized. Also, the three-dimensional medical image V, the pulmonary artery seed point SPA, the pulmonary vein seed point SPV, the pulmonary artery blood vessel structure PA, the pulmonary vein blood vessel structure PV, the first tangent point T1 n , the second tangent point T2 m , and the extraction result The determination result, the correction instruction information MI, and the display image I are data read / written from / to a predetermined memory area of the image processing workstation 3 by each processing unit.

図3は、本発明の実施形態となる肺血管表示制御処理ソフトウェアの実行下でのユーザの操作や、演算処理、表示処理等の流れを示したフローチャートであり、図2も参照しつつ、本発明の実施形態となる肺血管の抽出結果の確認および修正処理の流れについて説明する。   FIG. 3 is a flowchart showing a flow of user operations, calculation processing, display processing, and the like under the execution of the pulmonary blood vessel display control processing software according to the embodiment of the present invention. The flow of the pulmonary blood vessel extraction result confirmation and correction process according to an embodiment of the invention will be described.

まず、公知の画像検索システム、あるいは、公知のオーダリングシステムにおける画像検索・取得処理により、画像保管サーバ2から処理対象の3次元医用画像Vの画像データが取得される(#1)。   First, image data of the 3D medical image V to be processed is acquired from the image storage server 2 by image search / acquisition processing in a known image search system or a known ordering system (# 1).

次に、画像処理ワークステーション3では、肺血管抽出部31において、シード点設定部31aが、肺動脈・肺静脈の各々を抽出するための基準となる、肺動脈シード点SPA・肺静脈シード点SPVの設定を受け付け(#2)、血管構造抽出部31bが、設定された肺動脈シード点SPAに基づいて肺動脈の血管構造PAを抽出するとともに、肺静脈シード点SPVに基づいて肺静脈の血管構造PVを抽出し、画像処理ワークステーション3の所定のメモリ領域に格納する。さらに、血管構造抽出部31bは第1の接交点検出部を兼ねており、肺動脈および肺静脈の抽出の際に、各血管が接触または交差する点(ここでは接交点と呼ぶ)T1nを検出する(#3)。ここで、nは検出された複数の接交点を識別する添え字である。 Next, in the image processing workstation 3, in the pulmonary blood vessel extraction unit 31, the seed point setting unit 31a uses the pulmonary artery seed point SPA and the pulmonary vein seed point SPV as a reference for extracting each of the pulmonary artery and pulmonary vein. Accepting the setting (# 2), the vascular structure extraction unit 31b extracts the pulmonary artery vascular structure PA based on the set pulmonary artery seed point SPA, and the pulmonary vein vascular structure PV based on the pulmonary vein seed point SPV. Extracted and stored in a predetermined memory area of the image processing workstation 3. Further, the blood vessel structure extraction unit 31b also serves as a first intersection point detection unit, and detects a point T1 n where each blood vessel contacts or intersects (referred to as a intersection point here) when extracting the pulmonary artery and pulmonary vein. (# 3). Here, n is a subscript for identifying a plurality of detected intersection points.

第2の接交点検出部32は、第1の接交点検出部31bとは異なる手法により、肺動脈・肺静脈の接交点T2mを検出する(#4)。なお、mは検出された複数の接交点を識別する添え字である。 The second intersection detection unit 32 detects the intersection T2 m of the pulmonary artery / venous vein by a method different from that of the first intersection detection unit 31b (# 4). Note that m is a subscript identifying a plurality of detected intersection points.

表示制御部33は、図8Aに例示したように、検出された接交点T1n、T2mの少なくとも一部について、その接交点および接交点の近傍の血管構造PA、PVを、肺動脈と肺静脈とで異なる色に色分けするとともに、その接交点に円形のマーカーを付した表示画像Iを生成し、画像処理ワークステーション3のディスプレイに表示させる(#5)。 As illustrated in FIG. 8A, the display control unit 33 displays the blood vessel structures PA and PV in the vicinity of the detected intersection points T1 n and T2 m as well as the pulmonary artery and the pulmonary vein for at least a part of the detected intersection points T1 n and T2 m. The display image I having a circular marker at the intersection is generated and displayed on the display of the image processing workstation 3 (# 5).

抽出結果修正部34は、表示された血管構造PA、PVが抽出結果として正しいかどうかの判定結果MIの入力を受け付け、入力された判定結果MIを、表示された接交点T1n、T2mと関連づけて画像処理ワークステーション3の所定のメモリ領域に記憶させる。また、表示された血管構造PA、PVに対する修正内容MIの入力を受け付け、入力された修正内容MIに基づいて画像処理ワークステーション3のメモリ領域に記憶された肺動脈の血管構造PA、肺静脈の血管構造PVの情報を修正する(#6)。 The extraction result correction unit 34 receives an input of a determination result MI as to whether or not the displayed blood vessel structures PA and PV are correct as an extraction result, and the input determination result MI is displayed as the intersection points T1 n and T2 m displayed. The data is stored in a predetermined memory area of the image processing workstation 3 in association with each other. In addition, it accepts input of correction contents MI for the displayed blood vessel structures PA and PV, and stores blood vessel structures PA and pulmonary veins of the pulmonary artery stored in the memory area of the image processing workstation 3 based on the input correction contents MI. Modify the structure PV information (# 6).

最後に、表示制御部34は、判定後の接交点T1n, T2mの情報、および、修正後の肺動脈の血管構造PA、肺静脈の血管構造PVの情報に基づいて、ステップ#5で生成された表示画像Iを再度生成し、画像処理ワークステーション3のディスプレイの表示を更新する(#7)。 Finally, the display control unit 34 generates the information in step # 5 based on the information of the tangent points T1 n and T2 m after the determination, and the information on the vascular structure PA of the pulmonary artery and the vascular structure PV of the pulmonary vein after the correction. The generated display image I is generated again, and the display on the image processing workstation 3 is updated (# 7).

次に、各処理部で行われる処理の詳細について説明する。   Next, details of processing performed in each processing unit will be described.

シード点設定部31aは、3次元医用画像Vに基づいて所与のアキシャル断面による断面画像を生成して画像処理ワークステーション3のディスプレイに表示させ、表示された断面画像中のシード点の設定操作を受け付けるユーザインターフェースを提供する。例えば、ユーザは、画像処理ワークステーション3のマウスを操作して、表示された断面画像中の肺動脈内の所望の点を指定し、右クリック操作によって、指定された点に対する処理メニューを表示させ、表示された処理メニューから「肺動脈のシード点に設定」を選択する。シード点設定部31aは、このユーザ操作に応じて、指定された点の3次元医用画像Vにおける座標値を画像処理ワークステーション3の所定のメモリ領域に記憶させることによって、肺動脈シード点SPAが設定される。肺静脈のシード点SPVも同様に、ユーザが表示された断面画像中の肺静脈内の所望の点で右クリック操作を行い、表示された処理メニューから「肺静脈のシード点に設定」を選択し、シード点設定部31aは、指定された点の3次元医用画像Vにおける座標値を所定のメモリ領域に記憶させることによって、肺静脈シード点SPVが設定される。なお、シード点設定部31aは、肺動脈・肺静脈の各々について、複数のシード点を設定できるようにしてもよい。また、シード点の指定に際して、表示される断面画像の断面位置や断面の向き等の断面画像の生成条件の変更操作を受け付け、変更後の生成条件に基づいて生成された断面画像を表示させるようにしてもよい。   The seed point setting unit 31a generates a cross-sectional image with a given axial section based on the three-dimensional medical image V, displays the cross-sectional image on the display of the image processing workstation 3, and sets the seed point in the displayed cross-sectional image. Provide a user interface that accepts For example, the user operates the mouse of the image processing workstation 3 to specify a desired point in the pulmonary artery in the displayed cross-sectional image, and displays a processing menu for the specified point by a right click operation. Select “Set as pulmonary artery seed point” from the displayed processing menu. In response to this user operation, the seed point setting unit 31a stores the coordinate value of the specified point in the three-dimensional medical image V in a predetermined memory area of the image processing workstation 3, thereby setting the pulmonary artery seed point SPA. Is done. Similarly, for the pulmonary vein seed point SPV, the user right-clicks on a desired point in the pulmonary vein in the displayed cross-sectional image and selects “Set as pulmonary vein seed point” from the displayed processing menu. Then, the seed point setting unit 31a sets the pulmonary vein seed point SPV by storing the coordinate value of the designated point in the three-dimensional medical image V in a predetermined memory area. The seed point setting unit 31a may be configured to set a plurality of seed points for each of the pulmonary artery and pulmonary vein. Also, when specifying the seed point, it accepts a change operation of the generation conditions of the cross-sectional image such as the cross-sectional position and cross-section direction of the displayed cross-sectional image, and displays the cross-sectional image generated based on the generation condition after the change It may be.

血管構造抽出部31bは、公知の領域拡張法を用いて、入力された3次元医用画像データVとシード点の情報に基づいて、血管領域内の画素の集合を抽出し、図4Aに例示したように、抽出された血管領域に対して細線化処理を行い、得られた血管を表す細線の連結関係に基づいて細線上の各画素を端点・エッジ(辺)・分岐点に分類することによって、図4Bに例示したような血管構造を表す木構造データを得る。ここで、例えば、図4Aの細線のエッジ部B1からB9は、図4Bの木構造のノードB1からB9として対応づけられ、木構造のノードB1からB9の各々には、エッジ部B1からB9に対応する血管枝領域が肺動脈と肺静脈のいずれであるかを識別する血管識別情報や、その血管枝領域の位置情報、血管枝の向きが保持されている。また、各エッジにおける血管枝の径情報や血管枝の長さ等の特徴量も保持するようにしてもよい。なお、血管枝の向きは、その血管枝の方向ベクトルの向きであり、その血管枝において肺門部(血管の基部)から胸壁方向(血管の末梢)に向かう向きに近い方の向きとすることができる。 The blood vessel structure extraction unit 31b extracts a set of pixels in the blood vessel region based on the input three-dimensional medical image data V and seed point information using a known region expansion method, and is illustrated in FIG. 4A. As described above, the thinning process is performed on the extracted blood vessel region, and the pixels on the thin line are classified into end points, edges (sides), and branch points based on the connection relation of the thin lines representing the obtained blood vessels. Then, tree structure data representing the blood vessel structure as illustrated in FIG. 4B is obtained. Here, for example, B 9 from the edge portion B 1 of the thin line in FIG. 4A, associated from Node B 1 of the tree structure of Figure 4B as B 9, to each of the B 9 from Node B 1 of the tree structure, branch vessel regions and vascular identification information for identifying which one of the pulmonary artery and pulmonary vein corresponding the edge portion B 1 in B 9, the position information of the vessel branch region, branch vessel orientation is retained. Also, feature amounts such as the diameter information of the blood vessel branch and the length of the blood vessel branch at each edge may be held. The direction of the blood vessel branch is the direction of the direction vector of the blood vessel branch, and the direction close to the direction from the hilar portion (base of the blood vessel) to the chest wall direction (periphery of the blood vessel) in the blood vessel branch. it can.

また、血管構造抽出部31bはおいて、肺動脈シード点SPAに基づいた肺動脈の血管構造PAの抽出と肺静脈シード点SPVに基づいた肺静脈の血管構造PVの抽出とは、順次に行ってもよいし、並列に行ってもよい。   In the vascular structure extraction unit 31b, the pulmonary artery vascular structure PA based on the pulmonary artery seed point SPA and the pulmonary vein vascular structure PV based on the pulmonary vein seed point SPV may be sequentially extracted. However, they may be performed in parallel.

さらに、血管構造抽出部31bは、第1の血管接交点検出部としても機能する。具体的には、血管構造抽出部31bで行われる領域拡張法では、従来の方法と同様に、シード点を起点として、画素値や領域の面積等を用いた領域拡張条件を満たす隣接領域を血管領域として領域を順次拡張していく処理が行われ、領域拡張条件を満たす隣接領域が存在しなくなった場合に処理が終了となるが、本実施形態では、領域拡張条件を満たす隣接領域が既に血管領域として抽出済みである場合にも処理が終了となる。本実施形態では、この後者の処理終了条件を用いて、血管同士の接点または交点(接交点)T1nの検出を行う。ここで、接交点T1nは、肺動脈同士の接点または交点、肺静脈同士の接点または交点、肺動脈と肺静脈の接点または交点のいずれであってもよい。 Furthermore, the blood vessel structure extraction unit 31b also functions as a first blood vessel intersection detection unit. Specifically, in the region expansion method performed by the blood vessel structure extraction unit 31b, similar to the conventional method, the adjacent region that satisfies the region expansion condition using the pixel value, the area of the region, and the like starting from the seed point is selected as the blood vessel. The process is sequentially expanded as an area, and the process ends when there is no adjacent area that satisfies the area expansion condition. However, in this embodiment, the adjacent area that satisfies the area expansion condition is already a blood vessel. The process is also ended when the region has already been extracted. In the present embodiment, the contact or intersection (intersection point) T1 n between blood vessels is detected using the latter processing end condition. Here, the tangent point T1 n may be any one of a contact point or intersection point between pulmonary arteries, a contact point or intersection point between pulmonary veins, or a contact point or intersection point between pulmonary artery and pulmonary vein.

図5AからCは血管同士の接点を検出する場合を例示したものである。図5Aに示したように、2つの血管VL1とVL2とが接触しており、肺動脈シード点SPAに基づく領域拡張処理によって血管VL1が図の上方向から順に肺動脈として抽出される場合、図5Bの左側に示した断面SL1からSL4における血管の断面は図5Bの右側に示したようになり、図5Bで斜線を付した領域は、分岐を有する肺動脈の血管構造PA1として抽出される。次に、肺静脈シード点SPVに基づく領域拡張処理によって血管VL2が図の左方向から順に肺静脈として抽出される場合、断面SL5付近では肺静脈の血管構造PV1として抽出されるが、断面SL6では、血管VL2の断面は既に肺動脈の血管構造PA1として抽出済みであるから、上記後者の処理終了条件に該当し、肺静脈の血管構造の抽出処理は終了する。その結果、本来は血管VL2全体が肺静脈PV1として抽出されるべきであるにもかかわらず、図5Cのように断面SL6の位置までしか、肺静脈PV1として抽出されなかったことになる。このように、血管同士が接触する地点では、血管構造の誤抽出が生じるため、第1の血管接交点検出部(血管構造抽出部)31bは、上記後者の処理終了条件を用いて、血管同士の接点T1nを検出する。 FIGS. 5A to 5C illustrate the case of detecting a contact between blood vessels. As shown in FIG. 5A, when the two blood vessels VL 1 and VL 2 are in contact with each other and the blood vessel VL 1 is extracted as a pulmonary artery in order from the upper side of the figure by the region expansion process based on the pulmonary artery seed point SPA, cross-section of the blood vessels in the SL 4 from section SL 1 shown at the left side of FIG. 5B is as shown on the right side of FIG. 5B, the shaded region in FIG. 5B, extracted as a blood vessel structure PA 1 of the pulmonary artery having a branching Is done. Then, if the blood vessel VL 2 by the region expansion processing based on the pulmonary veins seed point SPV is extracted as the pulmonary veins in order from the left in figure, in the vicinity of section SL 5 are extracted as a blood vessel structure PV 1 in the pulmonary vein, In the cross section SL 6 , since the cross section of the blood vessel VL 2 has already been extracted as the pulmonary artery vascular structure PA 1 , the latter processing end condition is satisfied, and the pulmonary vein vascular structure extraction processing ends. As a result, although the entire blood vessel VL 2 should be extracted as the pulmonary vein PV 1 originally, only the position of the section SL 6 was extracted as the pulmonary vein PV 1 as shown in FIG. 5C. Become. As described above, since the blood vessel structure is erroneously extracted at the point where the blood vessels contact each other, the first blood vessel intersection detection unit (blood vessel structure extraction unit) 31b uses the latter processing end condition to The contact T1 n of is detected.

また、図6AからCは血管同士の交点を検出する場合を例示したものである。図6Aに示したように、2つの血管VL3とVL4とが交差しており、肺動脈シード点SPAに基づく領域拡張処理によって血管VL3が図の左方向から順に肺動脈として抽出される場合、図6Bの左側に示した断面SL7からSL10における血管の断面は図6Bの右側に示したようになり、図6Bで斜線を付した領域は、分岐を有する肺動脈の血管構造PA2として抽出される。次に、肺静脈シード点SPVに基づく領域拡張処理によって血管VL2が図の左方向から順に肺静脈として抽出される場合、断面SL11付近では肺静脈の血管構造PV2として抽出されるが、断面SL12では、血管VL4の断面は既に肺動脈の血管構造PA2として抽出済みであるから、上記後者の処理終了条件に該当し、肺静脈の血管構造の抽出処理は終了する。その結果、本来は血管VL4全体が肺静脈PV2として抽出されるべきであるにもかかわらず、図6Cのように断面SL12の位置までしか、肺静脈PV2として抽出されなかったことになる。このように、血管同士が交差する地点でも、血管構造の誤抽出が生じるため、第1の血管接交点検出部(血管構造抽出部)31bは、上記後者の処理終了条件を用いて、血管同士の交点T1nを検出する。 6A to 6C illustrate the case where the intersection of blood vessels is detected. As shown in FIG. 6A, when the two blood vessels VL 3 and VL 4 intersect, and the blood vessel VL 3 is extracted as a pulmonary artery in order from the left in the figure by the region expansion process based on the pulmonary artery seed point SPA, The cross section of the blood vessel in the cross sections SL 7 to SL 10 shown on the left side of FIG. 6B is as shown on the right side of FIG. 6B, and the hatched area in FIG. 6B is extracted as the vascular structure PA 2 of the pulmonary artery having a branch. Is done. Next, when the blood vessel VL 2 is extracted as a pulmonary vein in order from the left direction of the figure by region expansion processing based on the pulmonary vein seed point SPV, it is extracted as a vascular structure PV 2 of the pulmonary vein in the vicinity of the cross section SL 11 , in cross-section SL 12, since the cross section of the vessel VL 4 is already extracted as vasculature PA 2 of the pulmonary artery, it corresponds to the latter processing end conditions, extraction of vasculature pulmonary vein ends. As a result, despite originally should entire vessel VL 4 are extracted as the pulmonary vein PV 2, only up to the position of the cross-section SL 12 as shown in FIG. 6C, that has not been extracted as a pulmonary vein PV 2 Become. In this way, since the blood vessel structure is erroneously extracted even at the point where the blood vessels intersect, the first blood vessel intersection detection unit (blood vessel structure extraction unit) 31b uses the latter processing end condition to The intersection point T1 n of is detected.

なお、抽出された接交点T1nの情報は、画像処理ワークステーション3の所定のメモリ領域に格納される。接交点T1nの情報としては、接交点T1nの位置座標の他、接交点付近の抽出結果の正誤判定状況(「未処理」・「確認済み」・「修正済み」)を表す抽出結果ステータスが含まれている。この抽出結果ステータスの詳細については後述する。 Information on the extracted intersection point T1 n is stored in a predetermined memory area of the image processing workstation 3. The contact information intersection T1 n, other coordinates of the contact point of intersection T1 n, extraction result status representing the accuracy determination condition of tangent intersection near the extraction results ( "unprocessed", "confirmed", "fixed") It is included. Details of the extraction result status will be described later.

上記実施形態では、肺血管抽出部31が肺動脈と肺静脈を別個に抽出する場合について説明したが、例えば、非特許文献1に記載の領域拡張法や非特許文献2に記載のヘッセ行列の固有値解析を用いた方法によって、肺動脈と肺静脈を区別せずに血管構造を抽出した後、非特許文献1に記載の方法等を用いて、抽出された血管構造を肺動脈と肺静脈に分類するようにしてもよい。   In the above embodiment, the case where the pulmonary blood vessel extraction unit 31 extracts the pulmonary artery and the pulmonary vein separately has been described. For example, the region expansion method described in Non-Patent Document 1 or the eigenvalue of the Hessian matrix described in Non-Patent Document 2 After extracting the blood vessel structure without distinguishing between the pulmonary artery and the pulmonary vein by the method using the analysis, the extracted blood vessel structure is classified into the pulmonary artery and the pulmonary vein using the method described in Non-Patent Document 1, etc. It may be.

第2の接交点検出部32は、肺動脈の血管構造PAおよび肺静脈の血管構造PVに基づいて、上記第1の接交点検出部32とは異なる手法で、血管同士の接交点T2mを検出する。具体的には、細線化処理で検出された分岐点について、分岐点間の距離が所定の閾値d1以下となるような近接する分岐点を1つの分岐点に統合し、統合後の各分岐点について、その分岐点(注目分岐点)から所定距離d2内にある分岐点に接続する血管枝のうち注目分岐点に直接接続されている血管枝の数をカウントし、その注目分岐点に直接接続されている血管枝の数が4本以上となる場合に、その注目分岐点を血管同士が交差または接触する点と判定し、接交点T2mとして検出する。例えば図7に示したような血管構造の場合、分岐点の統合のための距離の閾値d1は円Th1の直径として表すことができ、分岐点BP1からBP8のうち、円Th1内に含まれうる分岐点BP5とBP6が1つの分岐点(ここではBPM1とする)に統合される。また、血管枝のカウント対象となる分岐点の抽出の基準となる距離d2は円Th2の半径として表すことができるので、統合後の分岐点BPM1を注目分岐点とした場合、分岐点BPM1を中心とする円Th2内に含まれる分岐点BP1からBP4、BP7、BP8が血管枝のカウント対象の分岐点となり、これらの分岐点に接続されている血管枝のうち、注目分岐点BPM1に直接接続されている血管枝は、血管枝BP2-BP5、BP4-BP6、BP6-BP7、BP5-BP8の4つであるから、上記の接交点判定条件を満たし、分岐点BPM1は接交点T2mとして検出される。あるいは、抽出された血管構造を構成する血管枝間の距離が所定の距離(例えば、血管径程度)より小さい場合、その血管枝は交差または接触していると判定してもよい。なお、この血管枝は、領域拡張法で得られた血管構造の分岐毎に分割されたものでもよいし、ヘッセ行列の固有値解析で得られた線分構造であってもよい。 Based on the pulmonary artery vascular structure PA and pulmonary vein vascular structure PV, the second tangent point detection unit 32 detects the tangent point T2 m between the blood vessels by a method different from that of the first tangent point detection unit 32. To do. Specifically, for branch points detected by the thinning process, adjacent branch points whose distance between the branch points is equal to or less than a predetermined threshold value d 1 are integrated into one branch point, and each branch after integration is integrated. For a point, the number of blood vessel branches that are directly connected to the branch point of interest among the branch points that are connected to the branch point within the predetermined distance d 2 from the branch point (the target branch point) is counted, and When the number of directly connected blood vessel branches is four or more, the branch point of interest is determined as a point where blood vessels intersect or contact each other, and is detected as a tangent point T2 m . For example, in the case of vascular structure as shown in FIG. 7, the threshold value d 1 distance for the branch point integration can be represented as the diameter of a circle Th 1, of the BP 8 from the branch point BP 1, circle Th 1 The branch points BP 5 and BP 6 that can be included in the block are integrated into one branch point (here, BP M1 ). In addition, since the distance d 2 that serves as a reference for extracting the branch point to be counted for the vascular branch can be expressed as the radius of the circle Th 2 , when the integrated branch point BP M1 is the target branch point, the branch point Branch points BP 1 to BP 4 , BP 7 , and BP 8 included in the circle Th 2 centered on BP M1 are the branch points to be counted for vascular branches, and among the vascular branches connected to these branch points Since the vascular branches directly connected to the target branch point BP M1 are the vascular branches BP 2 -BP 5 , BP 4 -BP 6 , BP 6 -BP 7 , and BP 5 -BP 8 , The intersection point determination condition is satisfied, and the branch point BP M1 is detected as the intersection point T2 m . Alternatively, when the distance between the blood vessel branches constituting the extracted blood vessel structure is smaller than a predetermined distance (for example, about the blood vessel diameter), it may be determined that the blood vessel branches intersect or contact each other. The blood vessel branch may be divided for each branch of the blood vessel structure obtained by the region expansion method, or may be a line segment structure obtained by eigenvalue analysis of the Hessian matrix.

なお、接交点T2mは、肺動脈同士の接点または交点、肺静脈同士の接点または交点、葉以上動脈と肺静脈の接点または交点のいずれであってもよい。 The tangent intersection T2 m may be any contact or intersection between pulmonary arteries, contact or intersection between pulmonary veins, or contact or intersection between arteries and pulmonary veins.

表示制御部33は、検出された接交点T1n、T2mの少なくとも一部について、接交点およびその接交点の近傍の血管構造PA、PVを、その血管構造に関連づけられた血管識別情報を識別可能な態様で表示させるとともに、接交点を識別可能な態様で画像処理ワークステーション3のディスプレイに表示させる。ここで、表示制御部33は、接交点T1n、T2mのうち、抽出結果ステータスが「未処理」のもののみを表示対象としてもよいし、表示対象の抽出結果ステータスをユーザが選択できるようにしてもよい。 The display control unit 33 identifies, for at least a part of the detected intersection points T1 n and T2 m , the vascular structure PA and PV in the vicinity of the tangent point and the vascular identification information associated with the vascular structure. In addition to being displayed in a possible manner, the intersection point is displayed on the display of the image processing workstation 3 in such a manner that the intersection point can be identified. Here, the display control unit 33 may set only the extraction result status of “unprocessed” among the intersection points T1 n and T2 m to be displayed, or the user can select the extraction result status of the display target. It may be.

図8AからCは、表示される画像Iの具体例である。各図に示したように、接交点には円形のマーカーM1からM3を付している。また、図8Aでは、3次元医用画像Vにおいて肺動脈と肺静脈の各血管構造に属する画素に対して異なる色を割り当てて公知のボリュームレンダリング処理を行うことにより、検出された接交点付近の血管構造を肺動脈と肺静脈で色分けして擬似3次元的に表現している。図8Bでは、図8Aと同様に色分けされた血管構造に、各血管の芯線(各血管の細線化結果、または、各血管の断面の中心を結ぶ曲線)や分岐点を重畳表示している。これに対して、図8Cでは、血管構造の色分け表示を行わずに、各血管の芯線と分岐点のみを、肺動脈と肺静脈とで異なる線種や色を用いて表現している。 8A to 8C are specific examples of the image I to be displayed. As shown in the drawings, the contact point of intersection are denoted by M 3 from the circular markers M 1. Also, in FIG. 8A, a known volume rendering process is performed by assigning different colors to the pixels belonging to the vascular structures of the pulmonary artery and pulmonary vein in the three-dimensional medical image V, so that the vascular structure near the detected intersection point is obtained. Is color-coded by pulmonary artery and pulmonary vein and expressed in a pseudo three-dimensional manner. In FIG. 8B, the core line of each blood vessel (the thinning result of each blood vessel or a curve connecting the centers of the cross sections of each blood vessel) and the branch point are superimposed and displayed on the blood vessel structure color-coded as in FIG. 8A. On the other hand, in FIG. 8C, only the core line and the branch point of each blood vessel are expressed using different line types and colors in the pulmonary artery and the pulmonary vein without performing color-coded display of the blood vessel structure.

なお、図8AからCは表示される画像Iは例示であり、これら以外の画像が表示されるようにしてもよい。例えば、接交点のマーカーとして用いる図形を矩形にしてもよいし、矢印等で接交点を指示するようにしてもよいし、また、接交点を血管構造とは異なる色で表示してもよいし、その際に、半透明化して重畳表示してもよい。さらに、第1の接交点検出部31bで検出された接交点T1nと第2の接交点検出部32で検出された接交点T2mとを異なる表示態様(マーカーの形状や色等)で表示するようにしてもよい。あるいは、抽出結果ステータスの値によって異なる表示態様で表示するようにしてもよい。一方、血管構造を表す画像についても、公知の手法によって生成されたMIP画像やMPR画像を用いてもよいし、各種画像を切り替えて表示できるようにしてもよい。また、視点の位置や視線方向(投影面)の変更操作を受け付け、異なる視点や角度から見た血管構造を表す画像を表示できるようにしてもよい。 8A to 8C are examples of the displayed image I, and other images may be displayed. For example, the graphic used as a marker for the intersection point may be rectangular, the intersection point may be indicated by an arrow or the like, or the intersection point may be displayed in a color different from the blood vessel structure. In this case, the display may be semi-transparent and superimposed. Further, the intersection point T1 n detected by the first intersection point detection unit 31b and the intersection point T2 m detected by the second intersection point detection unit 32 are displayed in different display modes (marker shape, color, etc.). You may make it do. Or you may make it display in a display mode which changes with the value of extraction result status. On the other hand, for the image representing the blood vessel structure, an MIP image or an MPR image generated by a known method may be used, or various images may be switched and displayed. In addition, an operation for changing the viewpoint position and the line-of-sight direction (projection plane) may be received so that an image representing a blood vessel structure viewed from a different viewpoint or angle may be displayed.

また、表示制御部33は、複数の接交点T1n、T2mの各々について、その周辺を表す上記の画像Iを生成し、生成された画像を並べて一覧表示させるようにしてもよいし、ユーザの操作に応じて切替表示させるようにしてもよい。また、肺動脈や肺静脈の基部に近い接交点の画像から順に表示させるようにしてもよい。あるいは、肺全体の血管構造を表す全体画像に対して接交点T1n、T2mをマーキングして表示させるとともに、ユーザが全体画像中の所望の接交点を指定する操作に応じて、指定された接交点の周辺を表す上記の局所画像を表示させるようにしてもよい。 Further, the display control unit 33 may generate the image I representing the periphery of each of the plurality of intersection points T1 n and T2 m and display the generated images side by side as a list. Switching display may be performed according to the operation. Moreover, you may make it display sequentially from the image of the intersection point close | similar to the base of a pulmonary artery or a pulmonary vein. Alternatively, the intersection points T1 n and T2 m are marked and displayed on the entire image representing the vascular structure of the entire lung, and specified according to an operation in which the user designates a desired intersection point in the entire image. The local image representing the periphery of the intersection may be displayed.

抽出結果修正部34は、表示された血管構造PA、PVの正誤判定結果、または、表示された血管構造PA、PVに対する修正内容を表す修正指示情報MIの入力を受け付けるユーザインターフェースを提供する。   The extraction result correction unit 34 provides a user interface that accepts input of correction instruction information MI indicating the correctness determination result of the displayed blood vessel structure PA and PV, or correction contents for the displayed blood vessel structure PA and PV.

図9Aは、表示制御部33によって表示された、ある接交点および接交点の近傍の血管構造PA11、PV11を模式的に表したものである。図において、肺動脈PA11は実線、肺静脈PV11は破線で表してある。ユーザは、表示された血管構造、特に、マーカーM11で示された接交点に接続する血管枝B11, B12, B17, B21の接続関係および血管の種類を確認し、抽出結果が正しいと判断した場合には、マーカーM11内を指定し、画像処理ワークステーション3のマウスの右クリック操作によって、指定された点に対する処理メニューを表示させ、表示された処理メニューから「抽出結果を『確認済み』にする」を選択する。抽出結果修正部34は、このユーザ操作に応じて、マーカーM11が付された接交点T1n、T2mの抽出結果ステータスを「確認済み」に更新して画像処理ワークステーション3のメモリ領域に記憶させる。 FIG. 9A schematically shows a certain intersection and the blood vessel structures PA 11 and PV 11 near the intersection displayed by the display control unit 33. In the figure, the pulmonary artery PA 11 is represented by a solid line, and the pulmonary vein PV 11 is represented by a broken line. The user checks the displayed blood vessel structure, in particular, the connection relation of the blood vessel branches B 11 , B 12 , B 17 , B 21 connected to the intersection point indicated by the marker M 11 and the type of blood vessel, and the extraction result is If it is determined that the correct, specify the marker M 11, the image processing right-click operation of the work station 3, to display the processing menu for the specified point, the "extraction result from the displayed processing menu Select “Make sure”. Extraction result modifying unit 34, in response to this user operation, it updates the extracted result status markers M tangent intersection 11 is attached T1 n, T2 m to "Confirmed" in the memory area of image processing workstation 3 Remember.

一方、抽出結果に誤りがあり、修正を行いたい場合、例えば、図9Aにおいて、マーカーM11で示された接交点に接続する血管枝B11, B12, B17, B21のうち血管枝B12の血管の種類および接続関係を修正したい場合であれば、ユーザは、血管枝B12を指定し、画像処理ワークステーション3のマウスの右クリック操作によって、指定された血管枝B12に対する処理メニューを表示させ、表示された処理メニューから「『肺静脈』に修正」を選択する。これにより、血管枝B12の血管の種類を「肺静脈」に修正するという修正指示情報MIが抽出結果修正部34に入力される。さらに、ユーザが、血管枝B21とB12を指定し、マウスの右クリック操作によって、指定された血管枝B21とB12に対する処理メニューを表示させ、表示された処理メニューから「血管枝を接続」を選択する。これにより、血管枝B21とB12を接続するという接続関係の修正を表す修正指示情報MIが抽出結果修正部34に追加入力される。あるいは、ユーザが、血管枝B21とB12を指定し、マウスの右クリック操作によって、指定された血管枝B21とB12に対する処理メニューを表示させ、表示された処理メニューから「血管枝を接続」を選択するだけで、血管枝B21とB12とを接続し、両血管枝のうち下流(末梢)側にある血管枝B12の血管の種類を、上流(基部)側にある血管枝B21と同じ「肺静脈」に修正するという修正指示情報MIが抽出結果修正部34に入力されるようにしてもよい。 On the other hand, when there is an error in the extraction result and it is desired to correct it, for example, in FIG. 9A, the vascular branch among the vascular branches B 11 , B 12 , B 17 , B 21 connected to the intersection point indicated by the marker M 11 in FIG. If you want to modify the blood vessels of the type and connection relationship of B 12, the user specifies a branch vessel B 12, the image processing right-click operation of the work station 3, the processing for a given branch vessel B 12 Display the menu and select “Modify to“ Pulmonary vein ”” from the displayed processing menu. As a result, correction instruction information MI for correcting the blood vessel type of the blood vessel branch B 12 to “pulmonary vein” is input to the extraction result correction unit 34. Further, the user specifies a branch vessel B 21 and B 12, by the right-click operation of the mouse to display a processing menu for branch vessel B 21 and B 12, which is designated, the "branch vessel from the displayed processing menu Select Connect. As a result, correction instruction information MI indicating correction of the connection relationship of connecting the blood vessel branches B 21 and B 12 is additionally input to the extraction result correction unit 34. Alternatively, the user specifies a branch vessel B 21 and B 12, by the right-click operation of the mouse to display a processing menu for branch vessel B 21 and B 12, which is designated, the "branch vessel from the displayed processing menu By simply selecting “Connect”, the blood vessel branches B 21 and B 12 are connected, and the blood vessel type of the blood vessel branch B 12 on the downstream (peripheral) side of both blood vessel branches is set to the blood vessel on the upstream (base) side. Correction instruction information MI for correction to the same “pulmonary vein” as in the branch B 21 may be input to the extraction result correction unit 34.

そして、ユーザが、表示画面中のメニュー選択等により、「一括修正」を選択すると、抽出結果修正部34は、入力された修正指示情報MIに基づいて画像処理ワークステーション3のメモリ領域に記憶された肺動脈の血管構造PA、肺静脈の血管構造PVの情報を修正する。図9Bは、上記修正指示内容に基づく血管構造および血管識別情報の一括修正後に、表示制御部33によって表示される表示画像Iを模式的に表したものである。図に示したように、抽出結果修正部34は、血管枝B21とB12とを接続し、血管枝B12を「肺静脈」に修正するだけでなく、血管枝B12の下流に接続されている血管枝B13からB16も「肺静脈」に一括修正し、表示制御部33は、修正後の肺動脈の血管構造PA、肺静脈の血管構造PVに基づいて表示画像Iを更新する。 When the user selects “collective correction” by menu selection on the display screen or the like, the extraction result correction unit 34 is stored in the memory area of the image processing workstation 3 based on the input correction instruction information MI. Corrected information on pulmonary artery vascular structure PA and pulmonary vein vascular structure PV. FIG. 9B schematically shows a display image I displayed by the display control unit 33 after the blood vessel structure and the blood vessel identification information are collectively corrected based on the content of the correction instruction. As shown in the figure, the extraction result correction unit 34 connects the vascular branches B 21 and B 12 to not only correct the vascular branch B 12 to “pulmonary veins” but also to connect to the downstream of the vascular branch B 12. The vascular branches B 13 to B 16 are also collectively corrected to “pulmonary vein”, and the display control unit 33 updates the display image I based on the corrected pulmonary artery vascular structure PA and pulmonary vein vascular structure PV.

図10A、Bは、この修正によるメモリ領域に記憶された肺動脈の血管構造PA、肺静脈の血管構造PVの木構造データの変化を模式的に表したものであり、図10Aが修正前、図10Bが修正後を表している。図10Aに示したように、修正前は、肺静脈PV11は血管枝B21を表すノードB21のみを有していたが、修正後は、図10Bに示したように、肺動脈PA11の血管枝B11を表すノードB11に接続されていた血管枝B12を表すノードB12、および、ノードB12の下流にある血管枝B13からB16を表すノードB13からB16が、木構造を維持したまま、肺静脈PV11の血管枝B21を表すノードB21に接続されている。 10A and 10B schematically show changes in the tree structure data of the pulmonary artery blood vessel structure PA and the pulmonary vein blood vessel structure PV stored in the memory area by this modification. FIG. 10B represents after correction. As shown in FIG. 10A, before the correction, the pulmonary vein PV 11 had only the node B 21 representing the vascular branch B 21 , but after the correction, as shown in FIG. 10B, the pulmonary artery PA 11 node B 12 represents a branch vessel B 12 which is connected to the node B 11 that represents a branch vessel B 11, and, B 16 from the node B 13 that represents the B 16 from the branch vessel B 13 downstream of the node B 12 is, while maintaining the tree structure, and is connected to the node B 21 that represents a branch vessel B 21 of the pulmonary vein PV 11.

また、上記修正と同時に、抽出結果修正部34は、マーカーM11が付された接交点の抽出結果ステータスを「修正済み」に更新し、表示制御部34が、抽出結果ステータスが「未処理」の接交点のみにマーカーを付すようにしておけば、図9Bに示したように、抽出結果ステータスが「修正済み」や「確認済み」の接交点には、マーカーが付されないようにすることができる。なお、この場合、抽出結果修正部34が、マーカーM12に対応する接交点の抽出結果ステータスを「修正済み」に変更するようにしてもよいが、この接交点付近の血管構造は自動的に修正が行われたことになるので、抽出結果ステータスを「未処理」のままにしておき、図9Bに示したように、マーカーM12を付して表示し、マーカーM12に対応する接交点に対するユーザによる抽出結果の判定・修正指示に応じて処理を行うようにした方が好ましい。 Further, the modifications at the same time, the extraction result modifying unit 34 updates the extraction result status tangent intersections marker M 11 is attached to the "fixed", the display control unit 34, the extraction result status is "unprocessed" If the marker is attached only to the intersection point of, as shown in FIG. 9B, the marker may not be attached to the intersection point whose extraction result status is “corrected” or “confirmed”. it can. In this case, the extraction result modifying unit 34 may be configured to change the extraction result status tangent intersection corresponding to the marker M 12 in the "fixed" but, vasculature near the contact point of intersection is automatically Since the correction is performed, the extraction result status is left as “unprocessed”, and as shown in FIG. 9B, the marker M 12 is displayed and the intersection point corresponding to the marker M 12 is displayed. It is preferable to perform processing in accordance with an extraction result determination / correction instruction by the user.

図9Cは、一括修正の他の動作例を表したものである。図に示したように、抽出結果修正部34は、血管枝B21とB12とを接続し、血管枝B12を「肺静脈」に修正するだけでなく、血管枝B12の下流に接続されている血管枝も一括修正を行うが、修正途上に抽出結果ステータスが「未処理」の接交点(図ではマーカーM12)がある場合には、その接交点までの血管枝B13, B14までを一括修正の対象とし、以降の血管枝B15, B16に対しては一括修正を行わず、マーカーM12に対応する接交点に対するユーザによる抽出結果の判定・修正指示に応じて処理を行うようにしてもよい。 FIG. 9C shows another operation example of batch correction. As shown in the figure, the extraction result correction unit 34 connects the vascular branches B 21 and B 12 to not only correct the vascular branch B 12 to “pulmonary veins” but also connect it downstream of the vascular branch B 12. However, if there is a tangent point (marker M 12 in the figure) whose extraction result status is “unprocessed” in the course of correction, the vascular branches B 13 , B up to the tangent point are also corrected. Up to 14 are subject to batch correction, and subsequent correction is not performed for the subsequent blood vessel branches B 15 and B 16 , but processing is performed according to the user's extraction result judgment / correction instructions for the intersection point corresponding to the marker M 12 May be performed.

図9Dは、一括修正のさらに他の動作例を表したものである。図に示したように、抽出結果修正部34は、血管枝B21とB12とを接続し、血管枝B12を「肺静脈」に修正するだけでなく、血管枝B12の下流に接続されている血管枝も一括修正を行うが、修正途上に抽出結果ステータスが「未処理」の接交点(図ではマーカーM12に対応する接交点)がある場合には、その接交点に接続する血管枝B14, B15, B16, B18の向きから各血管枝の接続関係を推定して一括修正を続行する。具体的には、図9Dの場合、抽出結果修正部34は、マーカーM12で表された接交点に接続する血管枝B14, B15, B16, B18の各血管枝間のなす角を求め、血管の曲がりが最小となるように各血管枝の接続関係を求める。その結果、血管枝B14とB16が接続され、血管枝B18とB15が接続される。ここで、血管枝B14とB16とでは血管枝B14の方が上流にあるので、より下流に位置する血管枝B15は血管枝B14と同じ「肺静脈」に修正される。一方、血管枝B18とB15とでは血管枝B18の方が上流にあるので、より下流に位置する血管枝B15は血管枝B18と同じ「肺動脈」となり、こちらは修正が行われない。なお、図9Bの場合と同様、抽出結果修正部34が、マーカーM12に対応する接交点の抽出結果ステータスを「修正済み」に変更するようにしてもよいが、抽出結果ステータスを「未処理」のままにしておき、図9Dに示したように、マーカーM12を付して表示し、マーカーM12に対応する接交点に対するユーザによる抽出結果の判定・修正指示に応じて処理を行うようにした方が好ましい。 FIG. 9D shows still another operation example of batch correction. As shown in the figure, the extraction result correction unit 34 connects the vascular branches B 21 and B 12 to not only correct the vascular branch B 12 to “pulmonary veins” but also connect it downstream of the vascular branch B 12. would do the bulk modify branch vessel that is, if the corrected developing extraction result status where there is contact the intersection of the "untreated" (against the intersection corresponding to a marker M 12 in the drawing) is connected to the contact point of intersection The connection relation of each blood vessel branch is estimated from the directions of the blood vessel branches B 14 , B 15 , B 16 , B 18 and the batch correction is continued. Specifically, in the case of FIG. 9D, the extraction result correction unit 34 forms an angle formed between the vascular branches B 14 , B 15 , B 16 , B 18 connected to the intersection point represented by the marker M 12. And the connection relation of each blood vessel branch is determined so that the bending of the blood vessel is minimized. As a result, the branch vessel B 14 and B 16 are connected, the branch vessel B 18 and B 15 are connected. Since towards branch vessel B 14 in the branch vessel B 14 and B 16 is upstream branch vessel B 15 located more downstream is modified to the same "pulmonary vein" and branch vessel B 14. Meanwhile, since the blood vessel branch B 18 and B 15 towards the branch vessel B 18 is upstream, more branch vessel B 15 is the same "pulmonary artery" and branch vessel B 18 located downstream, and the item is performed fixes Absent. As in the case of FIG. 9B, the extraction result modifying unit 34, but may be changed extraction result status tangent intersection corresponding to the marker M 12 to "fixed", the extraction result status to "unprocessed leave to leave the ", as shown in FIG. 9D, and displays designated by the marker M 12, to perform the process in accordance with the determination and correction instructions for the extraction result by the user to the contact point of intersection corresponding to the marker M 12 It is preferable to make it.

なお、上記一括修正の3つの動作モードは、ユーザによって実行時にまたは予め選択できるようにしてもよいし、一括修正の指示が行われた血管枝より下流にある血管構造の長さに応じて自動的に決定するようにしてもよいし、その他の何らかの基準に基づいて自動的に決定するようにしてもよい。また、一括修正モード以外に、各血管枝を個別に手動修正する個別修正モードを選択できるようにしてもよい。   The three operation modes for batch correction may be selectable at the time of execution or in advance by the user, or automatically according to the length of the blood vessel structure downstream from the blood vessel branch for which the batch correction instruction has been issued. It may be determined automatically, or may be determined automatically based on some other criteria. In addition to the batch correction mode, an individual correction mode in which each blood vessel branch is manually corrected individually may be selected.

また、血管枝を表す木構造の各ノードに、手動修正済みかどうかを識別するフラグを設けておき、抽出結果修正部34は、一括修正の際に、手動修正済みの血管枝、および、その血管枝よりも下流側の血管枝については一括修正を行わないようにしてもよい。   Further, each node of the tree structure representing the blood vessel branch is provided with a flag for identifying whether or not the manual correction has been performed, and the extraction result correction unit 34 performs the manual correction on the blood vessel branch and its Batch correction may not be performed for a vascular branch downstream from the vascular branch.

また、抽出結果修正部34の処理により血管構造が変更されることになるので、第2の接交点検出部32は、抽出結果修正部34の処理後に再度接交点T2mの検出を行うようにしてもよい。 Further, since the blood vessel structure is changed by the processing of the extraction result correction unit 34, the second intersection detection unit 32 detects the intersection T2 m again after the processing of the extraction result correction unit 34. May be.

以上のように、本発明の実施形態によれば、表示制御部33が、第1の接交点検出部31bで検出された接交点T1n、および、第2の接交点検出部32で検出された接交点T2mの少なくとも一部について、その接交点および接交点の近傍の血管構造PA、PVを、肺動脈と肺静脈とで異なる色に色分けするとともに、その接交点に円形のマーカーを付した表示画像Iを生成し、ディスプレイに表示させる。これにより、各血管が血管識別情報を識別可能な態様で表示されるともに、血管構造や血管識別情報の抽出結果に誤りが生じやすい血管構造同士が接触または交差する接交点が識別可能な態様で表示されるので、肺動脈と肺静脈の抽出結果の要所をより容易にかつより効率的に確認することが可能になる。 As described above, according to the embodiment of the present invention, the display control unit 33 is detected by the intersection point T1 n detected by the first intersection point detection unit 31b and the second intersection point detection unit 32. For at least a part of the intersection T2 m , the vascular structure PA and PV in the vicinity of the intersection and the intersection are colored in different colors between the pulmonary artery and the pulmonary vein, and a circular marker is attached to the intersection A display image I is generated and displayed on the display. In this manner, each blood vessel is displayed in such a manner that the blood vessel identification information can be identified, and at the same time, a tangent point where blood vessel structures and blood vessel structures that are likely to cause errors in blood vessel identification information extraction results can be identified. Since it is displayed, it becomes possible to more easily and more efficiently confirm the key points of the extraction results of the pulmonary artery and pulmonary vein.

また、抽出結果修正部34が、表示された血管構造PA、PVが抽出結果についての判定結果MIの入力を受け付け、表示された接交点T1n、T2mと関連づけてメモリ領域に記憶させるとともに、表示された血管構造PA、PVに対する修正内容MIの入力を受け付け、入力された修正内容MIに基づいてメモリ領域に記憶された肺動脈の血管構造PA、肺静脈の血管構造PVの情報を修正するので、上記表示により修正対象箇所の把握が容易なだけでなく、血管識別情報の判定や修正もより簡便に行うことが可能になる。 Further, the extraction result correction unit 34 receives the input of the determination result MI for the displayed blood vessel structures PA and PV, stores them in the memory area in association with the displayed intersection points T1 n and T2 m , Since the input of the correction content MI for the displayed vascular structure PA and PV is received, and the information on the vascular structure PA of the pulmonary artery and the vascular structure PV of the pulmonary vein stored in the memory area is corrected based on the input correction content MI The display makes it easy not only to grasp the correction target part, but also makes it easier to determine and correct the blood vessel identification information.

さらに、抽出結果修正部34が、接交点付近の血管構造PA、PVに対する修正内容MIに基づいて、その血管構造の下流部分に対しても一括して修正を行うので、ユーザによる修正負荷を軽減することが可能になる。また、一括修正の範囲を適宜設定することにより、修正精度と負荷軽減のバランスを取ることが可能になる。   In addition, the extraction result correction unit 34 corrects the downstream portion of the vascular structure based on the correction content MI for the vascular structure PA and PV near the intersection, thus reducing the correction load by the user. It becomes possible to do. In addition, by appropriately setting the range of batch correction, it becomes possible to balance the correction accuracy and load reduction.

また、表示制御部33が、判定後の接交点T1n, T2mの情報、および、修正後の肺動脈の血管構造PA、肺静脈の血管構造PVの情報に基づいて、表示画像Iの表示を更新するので、修正結果を即時に確認することが可能になり、また、行った修正がその修正箇所の周囲の血管構造にどのように波及したかも容易に把握することが可能になるので、判定・修正作業の効率が向上する。 Further, the display control unit 33 displays the display image I based on the information on the tangent points T1 n and T2 m after the determination, and the information on the corrected pulmonary artery vascular structure PA and pulmonary vein vascular structure PV. Because it is updated, it is possible to immediately confirm the correction result, and it is also possible to easily understand how the correction made has spread to the blood vessel structure around the correction location.・ The efficiency of correction work is improved.

その際、表示制御部33が、接交点T1n, T2mの各々に関連づけられた抽出結果ステータスに応じて、抽出結果ステータスが「未処理」の接交点以外はマーカーを表示させないようにするので、どの接交点に関して血管構造の抽出結果の判定や修正を行ったか、どの接交点に関しては未判定・未修正であるかを容易に把握することが可能になり、判定・修正作業の効率がさらに向上する。 At that time, the display control unit 33 prevents the display of markers other than the intersection points whose extraction result status is “unprocessed” in accordance with the extraction result statuses associated with the intersection points T1 n and T2 m . , It is possible to easily grasp which tangent point is judged and corrected for the extraction result of blood vessel structure, and which tangent point is undecided / uncorrected, which further improves the efficiency of judgment / correction work. improves.

また、表示制御部33が、肺全体の血管構造を表す全体画像に対して接交点T1n、T2mをマーキングして表示させるとともに、ユーザが全体画像中の所望の接交点を指定する操作に応じて、指定された接交点の周辺を表す上記の局所画像を表示させるようにした場合には、肺の血管構造の全体像を観察しながら、局所的な接交点付近の抽出結果の判定や修正を行うことが可能になり、判定・修正作業の効率と精度の向上に資する。 In addition, the display control unit 33 displays the tangent points T1 n and T2 m by marking the entire image representing the vascular structure of the entire lung and displays the desired tangent point in the entire image. Accordingly, when the above-mentioned local image representing the periphery of the designated intersection point is displayed, the extraction result near the local intersection point can be determined while observing the entire image of the vascular structure of the lung. Corrections can be made, which contributes to an improvement in the efficiency and accuracy of judgment / correction work.

また、表示制御部33が、肺動脈や肺静脈の基部に近い接交点の局所画像から順に表示させるようにすれば、抽出結果の誤りが少ない基部での判定結果に基づいて末梢部の接交点での抽出結果を判定・修正することが可能になり、判定・修正作業の手戻りが少なくなり、作業効率の向上に資する。   In addition, if the display control unit 33 displays in order from the local image of the tangent point close to the base of the pulmonary artery or pulmonary vein, based on the determination result at the base with few errors in the extraction results, As a result, it is possible to determine and correct the extraction result, and to reduce the rework of the determination and correction work, thereby contributing to the improvement of work efficiency.

上記の実施形態はあくまでも例示であり、上記のすべての説明が本発明の技術的範囲を限定的に解釈するために利用されるべきものではない。   The above embodiments are merely examples, and all the above descriptions should not be used to limit the technical scope of the present invention.

また、上記の実施形態におけるシステム構成、処理フロー、モジュール構成や具体的処理内容等に対して、本発明の趣旨から逸脱しない範囲で様々な改変を行ったものも、本発明の技術的範囲に含まれる。   In addition, various modifications made to the system configuration, processing flow, module configuration, specific processing contents, and the like in the above embodiment without departing from the spirit of the present invention are also within the technical scope of the present invention. included.

例えば、システム構成については、上記の実施形態では、図2に示された各処理が1台の画像処理ワークステーション3で行われるように説明したが、複数台のワークステーションに各処理を分散して協調処理するように構成してもよい。   For example, in the above embodiment, the system configuration has been described in which each process shown in FIG. 2 is performed by one image processing workstation 3, but each process is distributed to a plurality of workstations. May be configured to perform cooperative processing.

また、処理フローやモジュール構成については、肺血管抽出部31による肺動脈・静脈の自動抽出・分類処理の途中で、接交点を検出するようにし、接交点が検出されたら自動抽出処理を中断し、表示制御部33が検出された接交点をマーキング表示し、表示された接交点周辺での血管構造の抽出・分類を手動で行い、その後、肺血管抽出部31が自動抽出・分類処理を再開するような構成としてもよい。   As for the processing flow and the module configuration, the intersection point is detected during the automatic extraction / classification process of the pulmonary artery / vein by the pulmonary blood vessel extraction unit 31, and the automatic extraction process is interrupted when the intersection point is detected, The display control unit 33 performs marking display of the detected intersection point, manually extracts and classifies the blood vessel structure around the displayed intersection point, and then the pulmonary blood vessel extraction unit 31 resumes the automatic extraction and classification process. It is good also as such a structure.

さらに、処理対象についても、脳を表す3次元医用画像から動脈と静脈を抽出する場合や、肝臓を表す3次元医用画像から動脈、静脈、門脈のうちの2種類以上を抽出する場合等にも、上記と同様の装置で同様の手法を適用することができる。   Further, regarding processing targets, when extracting arteries and veins from a three-dimensional medical image representing the brain, extracting two or more types of arteries, veins, and portal veins from a three-dimensional medical image representing the liver, etc. Also, the same method can be applied with the same apparatus as described above.

1 モダリティ
2 画像保管サーバ
3 画像処理ワークステーション
9 ネットワーク
31 肺血管抽出部
31a シード点設定部
31b 血管構造抽出部(第1の接交点検出部)
32 第2の接交点検出部
33 表示制御部
34 抽出結果修正部
DESCRIPTION OF SYMBOLS 1 Modality 2 Image storage server 3 Image processing workstation 9 Network 31 Pulmonary blood vessel extraction part 31a Seed point setting part 31b Blood vessel structure extraction part (1st intersection point detection part)
32 Second intersection detection unit 33 Display control unit 34 Extraction result correction unit

Claims (7)

被検体を表す3次元医用画像から複数の種類の血管を表す血管構造を各々抽出し、該抽出された血管構造の各々と、該血管構造の血管の種類を表す血管識別情報とを関連づけて記憶手段に記憶させる血管抽出手段と、
前記抽出された血管構造同士が接触または交差する接交点を検出する接交点検出手段と、
前記検出された接交点の少なくとも一部について、該接交点および該接交点の近傍の前記血管構造を、該血管構造に関連づけられた血管識別情報を識別可能な態様で表示させるとともに、該接交点を識別可能な態様で表示させる表示制御手段とを備えたことを特徴とする血管表示制御装置。
Each of the blood vessel structures representing a plurality of types of blood vessels is extracted from the three-dimensional medical image representing the subject, and each of the extracted blood vessel structures is stored in association with blood vessel identification information representing the type of blood vessel of the blood vessel structure. Blood vessel extraction means to be stored in the means;
A tangent point detecting means for detecting a tangent point where the extracted vascular structures contact or intersect with each other;
Displaying at least a part of the detected intersection point, the intersection point and the blood vessel structure in the vicinity of the intersection point in a manner capable of identifying blood vessel identification information associated with the blood vessel structure, and the intersection point A blood vessel display control device comprising: a display control means for displaying the information in a distinguishable manner.
前記表示された血管構造および/または該血管構造に関連づけられた血管識別情報に対する修正内容の入力を受け付け、該入力された修正内容に基づいて前記記憶手段に記憶された血管構造および/または該血管構造に関連づけられた血管識別情報を修正する抽出結果修正手段をさらに備えたことを特徴とする請求項1に記載の血管表示制御装置。   An input of correction content for the displayed blood vessel structure and / or blood vessel identification information associated with the blood vessel structure is received, and the blood vessel structure and / or the blood vessel stored in the storage unit based on the input correction content The blood vessel display control device according to claim 1, further comprising extraction result correction means for correcting blood vessel identification information associated with the structure. 前記表示制御手段が、前記入力された修正内容に基づいて、前記接交点および該接交点の近傍の前記血管構造の表示を更新させるものであることを特徴とする請求項2に記載の血管表示制御装置。   3. The blood vessel display according to claim 2, wherein the display control means updates the display of the tangent point and the vascular structure in the vicinity of the tangent point based on the input correction content. Control device. 前記表示された血管構造および/または該血管構造に関連づけられた血管識別情報の正誤の判定結果の入力を受け付ける抽出結果判定手段をさらに備えたことを特徴とする請求項1から3のいずれか1項に記載の血管表示制御装置。   4. The method according to claim 1, further comprising an extraction result determination unit that receives an input of a correct / incorrect determination result of the displayed blood vessel structure and / or blood vessel identification information associated with the blood vessel structure. The blood vessel display control device according to Item. 前記3次元医用画像が被検体の胸部を表すものであり、
血管抽出手段によって抽出される血管構造の血管の種類が、肺動脈と肺静脈であることを特徴とする請求項1から4のいずれか1項に記載の血管表示制御装置。
The three-dimensional medical image represents a chest of a subject;
The blood vessel display control device according to any one of claims 1 to 4, wherein the types of blood vessels of the blood vessel structure extracted by the blood vessel extraction means are pulmonary arteries and pulmonary veins.
被検体を表す3次元医用画像から複数の種類の血管を表す血管構造を各々抽出し、該抽出された血管構造の各々と、該血管構造の血管の種類を表す血管識別情報とを関連づけて記憶手段に記憶させるステップと、
前記抽出された血管構造同士が接触または交差する接交点を検出するステップと、
前記検出された接交点の少なくとも一部について、該接交点および該接交点の近傍の前記血管構造を、該血管構造に関連づけられた血管識別情報を識別可能な態様で表示させるとともに、該接交点を識別可能な態様で表示させるステップとを備えたことを特徴とする血管表示制御方法。
Each of the blood vessel structures representing a plurality of types of blood vessels is extracted from the three-dimensional medical image representing the subject, and each of the extracted blood vessel structures is stored in association with blood vessel identification information representing the type of blood vessel of the blood vessel structure. Memorizing the means;
Detecting a tangent point where the extracted vascular structures contact or intersect;
Displaying at least a part of the detected intersection point, the intersection point and the blood vessel structure in the vicinity of the intersection point in a manner capable of identifying blood vessel identification information associated with the blood vessel structure, and the intersection point A blood vessel display control method comprising the steps of:
コンピュータに、
被検体を表す3次元医用画像から複数の種類の血管を表す血管構造を各々抽出し、該抽出された血管構造の各々と、該血管構造の血管の種類を表す血管識別情報とを関連づけて記憶手段に記憶させるステップと、
前記抽出された血管構造同士が接触または交差する接交点を検出するステップと、
前記検出された接交点の少なくとも一部について、該接交点および該接交点の近傍の前記血管構造を、該血管構造に関連づけられた血管識別情報を識別可能な態様で表示させるとともに、該接交点を識別可能な態様で表示させるステップとを実行させることを特徴とする血管表示制御プログラム。
On the computer,
Each of the blood vessel structures representing a plurality of types of blood vessels is extracted from the three-dimensional medical image representing the subject, and each of the extracted blood vessel structures is stored in association with blood vessel identification information representing the type of blood vessel of the blood vessel structure. Memorizing the means;
Detecting a tangent point where the extracted vascular structures contact or intersect;
Displaying at least a part of the detected intersection point, the intersection point and the blood vessel structure in the vicinity of the intersection point in a manner capable of identifying blood vessel identification information associated with the blood vessel structure, and the intersection point A blood vessel display control program for executing the step of displaying in a distinguishable manner.
JP2010084390A 2010-03-31 2010-03-31 Blood vessel display control device, its operating method and program Active JP5539778B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010084390A JP5539778B2 (en) 2010-03-31 2010-03-31 Blood vessel display control device, its operating method and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010084390A JP5539778B2 (en) 2010-03-31 2010-03-31 Blood vessel display control device, its operating method and program

Publications (2)

Publication Number Publication Date
JP2011212314A true JP2011212314A (en) 2011-10-27
JP5539778B2 JP5539778B2 (en) 2014-07-02

Family

ID=44942684

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010084390A Active JP5539778B2 (en) 2010-03-31 2010-03-31 Blood vessel display control device, its operating method and program

Country Status (1)

Country Link
JP (1) JP5539778B2 (en)

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013157236A1 (en) 2012-04-18 2013-10-24 富士フイルム株式会社 3d model data generation device, method and program
WO2014041791A1 (en) 2012-09-13 2014-03-20 富士フイルム株式会社 Device and method for displaying three-dimensional image, and program
WO2014041790A1 (en) 2012-09-13 2014-03-20 富士フイルム株式会社 Device and method for displaying three-dimensional image, and program
WO2014050018A1 (en) 2012-09-26 2014-04-03 富士フイルム株式会社 Method and device for generating virtual endoscope image, and program
WO2014050019A1 (en) 2012-09-26 2014-04-03 富士フイルム株式会社 Method and device for generating virtual endoscope image, and program
WO2014157706A1 (en) * 2013-03-29 2014-10-02 株式会社 東芝 Medical image processing device
JP2015150157A (en) * 2014-02-13 2015-08-24 株式会社東芝 Medical image processing apparatus, medical image processing method and program
DE102017103146A1 (en) 2016-02-25 2017-08-31 Fujifilm Corporation Evaluation device, evaluation method and evaluation program
US10204410B2 (en) 2015-10-13 2019-02-12 Toshiba Medical Systems Corporation Medical image processing apparatus and medical image processing method
JP2019154571A (en) * 2018-03-08 2019-09-19 キヤノンメディカルシステムズ株式会社 Analysis device and control program
DE112020002679T5 (en) 2019-06-06 2022-03-03 Fujifilm Corporation Three-dimensional ultrasonic image generating apparatus, three-dimensional ultrasonic image generating method and three-dimensional ultrasonic image generating program
JP2022133358A (en) * 2016-05-16 2022-09-13 キャスワークス リミテッド Vascular selection from images
WO2023079657A1 (en) * 2021-11-04 2023-05-11 国立大学法人東北大学 Information processing device, association method for organ structure having tree structure, and association program for organ structure having tree structure
JP2023521188A (en) * 2020-06-02 2023-05-23 メディピクセル インコーポレイテッド Method and apparatus for processing vascular images based on user input
JP2023521773A (en) * 2020-06-02 2023-05-25 メディピクセル インコーポレイテッド Method and apparatus for automatically processing blood vessel images
US11816837B2 (en) 2013-10-24 2023-11-14 Cathworks Ltd. Vascular characteristic determination with correspondence modeling of a vascular tree

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08280657A (en) * 1995-04-18 1996-10-29 Toshiba Corp X-ray diagnostic apparatus
WO2009109887A1 (en) * 2008-03-06 2009-09-11 Philips Intellectual Property & Standards Gmbh Method for analyzing a tube system
JP2010000144A (en) * 2008-06-18 2010-01-07 Toshiba Corp Medical image processing apparatus

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08280657A (en) * 1995-04-18 1996-10-29 Toshiba Corp X-ray diagnostic apparatus
WO2009109887A1 (en) * 2008-03-06 2009-09-11 Philips Intellectual Property & Standards Gmbh Method for analyzing a tube system
JP2010000144A (en) * 2008-06-18 2010-01-07 Toshiba Corp Medical image processing apparatus

Cited By (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013157236A1 (en) 2012-04-18 2013-10-24 富士フイルム株式会社 3d model data generation device, method and program
WO2014041791A1 (en) 2012-09-13 2014-03-20 富士フイルム株式会社 Device and method for displaying three-dimensional image, and program
WO2014041790A1 (en) 2012-09-13 2014-03-20 富士フイルム株式会社 Device and method for displaying three-dimensional image, and program
US10347033B2 (en) 2012-09-13 2019-07-09 Fujifilm Corporation Three-dimensional image display apparatus, method, and program
US9495794B2 (en) 2012-09-13 2016-11-15 Fujifilm Corporation Three-dimensional image display apparatus, method, and program
WO2014050018A1 (en) 2012-09-26 2014-04-03 富士フイルム株式会社 Method and device for generating virtual endoscope image, and program
WO2014050019A1 (en) 2012-09-26 2014-04-03 富士フイルム株式会社 Method and device for generating virtual endoscope image, and program
US9808145B2 (en) 2012-09-26 2017-11-07 Fujifilm Corporation Virtual endoscopic image generation device, method, and medium containing program
US9830737B2 (en) 2012-09-26 2017-11-28 Fujifilm Corporation Virtual endoscopic image generation device, method, and medium containing program
JP2014198099A (en) * 2013-03-29 2014-10-23 株式会社東芝 Medical image processing apparatus, medical image processing system and medical image diagnostic apparatus
WO2014157706A1 (en) * 2013-03-29 2014-10-02 株式会社 東芝 Medical image processing device
US20160015279A1 (en) * 2013-03-29 2016-01-21 Kabushiki Kaisha Toshiba Medical image processing apparatus
US11395601B2 (en) 2013-03-29 2022-07-26 Canon Medical Systems Corporation Medical image processing apparatus
US11816837B2 (en) 2013-10-24 2023-11-14 Cathworks Ltd. Vascular characteristic determination with correspondence modeling of a vascular tree
JP2015150157A (en) * 2014-02-13 2015-08-24 株式会社東芝 Medical image processing apparatus, medical image processing method and program
US10204410B2 (en) 2015-10-13 2019-02-12 Toshiba Medical Systems Corporation Medical image processing apparatus and medical image processing method
DE102017103146A1 (en) 2016-02-25 2017-08-31 Fujifilm Corporation Evaluation device, evaluation method and evaluation program
JP7404450B2 (en) 2016-05-16 2023-12-25 キャスワークス リミテッド How to select blood vessels from images
JP2022133358A (en) * 2016-05-16 2022-09-13 キャスワークス リミテッド Vascular selection from images
US11937963B2 (en) 2016-05-16 2024-03-26 Cathworks Ltd. Vascular selection from images
JP7175613B2 (en) 2018-03-08 2022-11-21 キヤノンメディカルシステムズ株式会社 Analysis device and control program
JP2019154571A (en) * 2018-03-08 2019-09-19 キヤノンメディカルシステムズ株式会社 Analysis device and control program
DE112020002679T5 (en) 2019-06-06 2022-03-03 Fujifilm Corporation Three-dimensional ultrasonic image generating apparatus, three-dimensional ultrasonic image generating method and three-dimensional ultrasonic image generating program
JP2023521188A (en) * 2020-06-02 2023-05-23 メディピクセル インコーポレイテッド Method and apparatus for processing vascular images based on user input
JP2023521773A (en) * 2020-06-02 2023-05-25 メディピクセル インコーポレイテッド Method and apparatus for automatically processing blood vessel images
JP7427293B2 (en) 2020-06-02 2024-02-05 メディピクセル インコーポレイテッド Method and device for automatically processing blood vessel images
JP7427294B2 (en) 2020-06-02 2024-02-05 メディピクセル インコーポレイテッド Method and apparatus for processing vascular images based on user input
WO2023079657A1 (en) * 2021-11-04 2023-05-11 国立大学法人東北大学 Information processing device, association method for organ structure having tree structure, and association program for organ structure having tree structure

Also Published As

Publication number Publication date
JP5539778B2 (en) 2014-07-02

Similar Documents

Publication Publication Date Title
JP5539778B2 (en) Blood vessel display control device, its operating method and program
JP5309109B2 (en) Medical image processing apparatus and method, and program
US10417517B2 (en) Medical image correlation apparatus, method and storage medium
EP1979856B1 (en) Enhanced navigational tools for comparing medical images
JP5538861B2 (en) Information processing apparatus, information processing method, information processing system, and program
JP5263995B2 (en) Network construction apparatus and method, and program
US10424067B2 (en) Image processing apparatus, image processing method and storage medium
JP5572470B2 (en) Diagnosis support apparatus, method, and program
JP5642407B2 (en) Diagnosis support system, diagnosis support program, and diagnosis support method
WO2011152094A1 (en) Medical apparatus and method for controlling the medical apparatus
JP6353827B2 (en) Image processing device
US9198603B2 (en) Device, method and program for searching for the shortest path in a tubular structure
US20090022387A1 (en) Medical image display system and medical image display program
JP2010528750A (en) Inspection of tubular structures
JP6824845B2 (en) Image processing systems, equipment, methods and programs
US20190258892A1 (en) Image processing apparatus, image processing method, and image processing system
CN103491877B (en) Medical image display apparatus, medical image displaying method
EP2168492B1 (en) Medical image displaying apparatus, medical image displaying method, and medical image displaying program
US20130195323A1 (en) System for Generating Object Contours in 3D Medical Image Data
US20130332868A1 (en) Facilitating user-interactive navigation of medical image data
JP2018036852A (en) Medical image processing device and program
JP5923067B2 (en) Diagnosis support apparatus, diagnosis support method, and diagnosis support program
JP2017189394A (en) Information processing apparatus and information processing system
WO2014050131A1 (en) Image processing device, image processing program, and operating method for image processing device
JP2006000126A (en) Image processing method, apparatus and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120703

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130628

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130910

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140408

R150 Certificate of patent or registration of utility model

Ref document number: 5539778

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140501

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250