JP2007000267A - Area extracting apparatus, area extracting method and program - Google Patents

Area extracting apparatus, area extracting method and program Download PDF

Info

Publication number
JP2007000267A
JP2007000267A JP2005182221A JP2005182221A JP2007000267A JP 2007000267 A JP2007000267 A JP 2007000267A JP 2005182221 A JP2005182221 A JP 2005182221A JP 2005182221 A JP2005182221 A JP 2005182221A JP 2007000267 A JP2007000267 A JP 2007000267A
Authority
JP
Japan
Prior art keywords
model
standard
standard model
region
models
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005182221A
Other languages
Japanese (ja)
Other versions
JP4701861B2 (en
Inventor
Koichi Fujiwara
浩一 藤原
Osamu Toyama
修 遠山
Shinichi Hotta
伸一 堀田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Medical and Graphic Inc
Original Assignee
Konica Minolta Medical and Graphic Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Medical and Graphic Inc filed Critical Konica Minolta Medical and Graphic Inc
Priority to JP2005182221A priority Critical patent/JP4701861B2/en
Publication of JP2007000267A publication Critical patent/JP2007000267A/en
Application granted granted Critical
Publication of JP4701861B2 publication Critical patent/JP4701861B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide a technique by which the original condition of a standard model before fitting action can be more effectively adjusted when applying a model fitting method on a plurality of objects. <P>SOLUTION: An area extracting apparatus 1 extracts the first object area BJ1 of a plurality of object areas from measured data by means of the model fitting method using the first standard model MS1 of a plurality of standard models, and obtains the variable power quantity and/or moving quantity of the first model MS1 at that time as the relative relationship between the first standard model and the first object area. Further, the apparatus 1 corrects the original condition of the second standard model MS2, (MS3) of a plurality of models based on the relative relationship and extracts the second object area BJ2, (BJ3) of a plurality of object areas from the measured data by means of the model fitting method using the corrected second standard model. <P>COPYRIGHT: (C)2007,JPO&INPIT

Description

本発明は、計測データから所望の対象物に関する領域を抽出する技術に関する。   The present invention relates to a technique for extracting a region related to a desired object from measurement data.

近年、医療分野において、X線CT(Computed Tomography)装置或いはMRI(Magnetic Resonance Imaging)装置等によって撮影された生体内の3次元画像が広く用いられている。これにより、体内の臓器等の情報が視覚的に把握可能となり診断精度の向上が期待できる。しかし、その一方で、診断に用いられる3次元画像は数十枚〜数百枚のスライス画像から構成されているため、このような膨大な情報量の中から診断に必要な情報のみを得ることは読影医師にとって大きな負担となっている。   In recent years, in-vivo three-dimensional images taken by an X-ray CT (Computed Tomography) apparatus or an MRI (Magnetic Resonance Imaging) apparatus are widely used in the medical field. As a result, information on internal organs and the like can be visually grasped, and an improvement in diagnostic accuracy can be expected. However, on the other hand, since the three-dimensional image used for diagnosis is composed of tens to hundreds of slice images, only information necessary for diagnosis is obtained from such an enormous amount of information. Is a big burden for doctors.

そこで、計算機を援用した定量的或いは自動的診断の要望が強まり、計算機による診断支援(CAD Computer−aided diagnosis)システムの研究が盛んに行われている。   Therefore, there is an increasing demand for quantitative or automatic diagnosis using a computer, and research on a computer aided diagnosis (CAD Computer-aided diagnosis) system has been actively conducted.

計算機による診断支援を行うには、診断に必要な情報、つまり臓器領域又は形状等を正確に抽出することが重要な課題となる。   In order to perform diagnosis support by a computer, it is an important issue to accurately extract information necessary for diagnosis, that is, an organ region or a shape.

臓器の領域抽出手法としては、予め用意した標準モデルをエネルギー最小化原理に基づいて変形させ、目的の輪郭を見つけるモデルフィッテイング(Model Fitting)手法が提案されている(非特許文献1)。   As an organ region extraction method, a model fitting method for finding a target contour by deforming a standard model prepared in advance based on the energy minimization principle has been proposed (Non-patent Document 1).

この手法によれば、標準モデルという予め特徴を持たせたモデルを変形させて該当領域を抽出するため、高精度な抽出処理が可能となる。   According to this method, since a corresponding region is extracted by deforming a model having a feature in advance, which is a standard model, high-precision extraction processing is possible.

ツァガーン・バイガルマ、清水昭伸、小畑秀文、「3次元可変形状モデルによる腹部CT像からの腎臓領域抽出法の開発」、電子情報通信学会論文誌、D-II、2002年1月、Vol.J85-D-II、No.1、pp.140-148Tsagaan Bigalma, Akinobu Shimizu, Hidefumi Obata, “Development of a method for extracting kidney regions from abdominal CT images using a three-dimensional deformable model”, IEICE Transactions, D-II, January 2002, Vol. D-II, No.1, pp.140-148

上記のモデルフィッティング手法による抽出結果の良否は、フィッテイング動作前の標準モデルの初期状態(初期位置等)に依存する。すなわち、モデルフィッティング手法においては、初期位置合わせ等を精度良く行うことが重要である。   The quality of the extraction result obtained by the above model fitting method depends on the initial state (initial position, etc.) of the standard model before the fitting operation. That is, in the model fitting method, it is important to perform initial alignment and the like with high accuracy.

ところで、このような抽出処理においては、単一の対象物だけでなく複数の対象物を抽出すること、すなわち、モデルフィッティング手法を適用して複数の対象物に対応する領域(対象物領域)を3次元画像から抽出することが考えられる。詳細には、複数の対象物のそれぞれに対応する標準モデルを予め準備しておき、これら複数の標準モデルを用いて、各対象物を3次元画像から抽出することが考えられる。   By the way, in such an extraction process, not only a single target object but also a plurality of target objects are extracted, that is, an area (target object area) corresponding to a plurality of target objects is applied by applying a model fitting technique. It can be considered to extract from a three-dimensional image. Specifically, it is conceivable that standard models corresponding to each of a plurality of objects are prepared in advance, and each object is extracted from a three-dimensional image using the plurality of standard models.

この場合、良好な抽出結果を得るためには、複数の対象物のそれぞれと、当該複数の対象物のそれぞれに対応する複数の標準モデルとの初期位置合わせ等を精度良く行うことが求められる。   In this case, in order to obtain a good extraction result, it is required to accurately perform initial alignment between each of the plurality of objects and a plurality of standard models corresponding to each of the plurality of objects.

しかしながら、上記のような初期位置合わせを精度良く行うために、初期位置合わせ処理を複数の対象物のそれぞれについて個別に行うものとすると、同様の初期位置合わせ処理を対象物の個数分繰り返す必要があり、非常に手間がかかるという問題がある。   However, in order to accurately perform the initial alignment as described above, if the initial alignment process is performed individually for each of a plurality of objects, it is necessary to repeat the same initial alignment process for the number of objects. There is a problem that it is very time-consuming.

そこで、この発明の課題は、複数の対象物についてモデルフィッティング手法を適用する場合において、フィッテイング動作前の標準モデルの初期状態の調整を、より効率的に行うことが可能な技術を提供することにある。   Therefore, an object of the present invention is to provide a technique capable of more efficiently adjusting the initial state of the standard model before the fitting operation when the model fitting method is applied to a plurality of objects. It is in.

上記課題を解決すべく、請求項1の発明は、計測データから複数の対象物領域を抽出する領域抽出装置であって、それぞれ異なる対象物に関する複数の標準モデルを格納する手段と、前記複数の標準モデルのうちの第1の標準モデルを用いて、前記複数の対象物領域のうちの第1の対象物領域を前記計測データからモデルフィッティング手法により抽出する手段と、前記第1の標準モデルを前記第1の対象物領域にフィッティングさせる際における前記第1の標準モデルの変倍量および/または移動量を、前記第1の標準モデルと前記第1の対象物領域との相対的関係として求める手段と、前記相対的関係に基づいて、前記複数のモデルのうちの第2の標準モデルの初期状態を修正する修正手段と、修正後の前記第2の標準モデルを用いて、前記複数の対象物領域のうちの第2の対象物領域を前記計測データからモデルフィッティング手法により抽出する手段とを備えることを特徴とする。   In order to solve the above-mentioned problem, the invention of claim 1 is an area extraction apparatus for extracting a plurality of object areas from measurement data, the means for storing a plurality of standard models relating to different objects, respectively, Means for extracting a first object region of the plurality of object regions from the measurement data by a model fitting technique using a first standard model of the standard models; and The amount of magnification and / or movement of the first standard model when fitting to the first object region is obtained as a relative relationship between the first standard model and the first object region. A correction means for correcting an initial state of a second standard model of the plurality of models based on the relative relationship, and the corrected second standard model, A second object region among the serial plurality of object area, characterized in that it comprises means for extracting the model fitting method from the measurement data.

請求項2の発明は、請求項1の発明に係る領域抽出装置において、前記修正手段は、前記第2の標準モデルの初期位置を修正することを特徴とする。   According to a second aspect of the present invention, in the region extracting apparatus according to the first aspect of the invention, the correction means corrects an initial position of the second standard model.

請求項3の発明は、請求項1または請求項2の発明に係る領域抽出装置において、前記修正手段は、前記第2の標準モデルの初期大きさを修正することを特徴とする。   According to a third aspect of the present invention, in the region extracting apparatus according to the first or second aspect of the present invention, the correction means corrects an initial size of the second standard model.

請求項4の発明は、計測データから複数の対象物領域を抽出する領域抽出方法であって、それぞれ異なる対象物に関する複数の標準モデルのうちの第1の標準モデルを用いて、前記複数の対象物領域のうちの第1の対象物領域を前記計測データからモデルフィッティング手法により抽出するステップと、前記第1の標準モデルを前記第1の対象物領域にフィッティングさせる際における前記第1の標準モデルの変倍量および/または移動量を、前記第1の標準モデルと前記第1の対象物領域との相対的関係として求めるステップと、前記相対的関係に基づいて、前記複数のモデルのうちの第2の標準モデルの初期状態を修正するステップと、修正後の前記第2の標準モデルを用いて、前記複数の対象物領域のうちの第2の対象物領域を前記計測データからモデルフィッティング手法により抽出するステップとを備えることを特徴とする。   The invention of claim 4 is an area extraction method for extracting a plurality of object areas from measurement data, wherein the plurality of objects are obtained by using a first standard model among a plurality of standard models for different objects. A step of extracting a first object area of the object area from the measurement data by a model fitting technique, and the first standard model when fitting the first standard model to the first object area A scaling amount and / or a moving amount of the first standard model and the first object region as a relative relationship, and based on the relative relationship, Using the step of correcting the initial state of the second standard model and the second standard model after correction, the second object area of the plurality of object areas is calculated as the total object area. Characterized in that it comprises a step of extracting the model fitting method from the data.

請求項5の発明は、コンピュータに、計測データから複数の対象物領域を抽出する領域抽出方法であって、それぞれ異なる対象物に関する複数の標準モデルのうちの第1の標準モデルを用いて、前記複数の対象物領域のうちの第1の対象物領域を前記計測データからモデルフィッティング手法により抽出するステップと、前記第1の標準モデルを前記第1の対象物領域にフィッティングさせる際における前記第1の標準モデルの変倍量および/または移動量を、前記第1の標準モデルと前記第1の対象物領域との相対的関係として求めるステップと、前記相対的関係に基づいて、前記複数のモデルのうちの第2の標準モデルの初期状態を修正するステップと、修正後の前記第2の標準モデルを用いて、前記複数の対象物領域のうちの第2の対象物領域を前記計測データからモデルフィッティング手法により抽出するステップと、備える領域抽出方法を実行させるためのプログラムであることを特徴とする。   The invention according to claim 5 is a region extraction method for extracting a plurality of object regions from measurement data in a computer, wherein a first standard model among a plurality of standard models for different objects is used, A step of extracting a first object area of a plurality of object areas from the measurement data by a model fitting technique, and the first standard model when fitting the first standard model to the first object area. Obtaining a scaling amount and / or a moving amount of the standard model as a relative relationship between the first standard model and the first object region, and based on the relative relationship, the plurality of models And correcting the initial state of the second standard model, and using the corrected second standard model, the second pair of the plurality of object regions. Wherein the objects area is a program for executing a step of extracting the model fitting method from the measured data, a region extraction method comprising.

請求項1ないし請求項5に記載の発明によれば、複数の対象物についてモデルフィッティング手法を適用するに際して、第2の標準モデルの初期状態の調整を、より効率的に行うことができる。   According to the first to fifth aspects of the invention, when the model fitting method is applied to a plurality of objects, the initial state of the second standard model can be adjusted more efficiently.

特に、請求項2に記載の発明によれば、第2の標準モデルの初期位置をより効率的に修正することができる。   In particular, according to the second aspect of the present invention, the initial position of the second standard model can be corrected more efficiently.

また特に、請求項3に記載の発明によれば、第2の標準モデルの初期大きさをより効率的に修正することができる。   In particular, according to the third aspect of the invention, the initial size of the second standard model can be corrected more efficiently.

以下、本発明の実施形態を図面に基づいて説明する。   Hereinafter, embodiments of the present invention will be described with reference to the drawings.

<A.構成>
図1は、本発明の実施形態に係る領域抽出装置1の概要を示す図である。領域抽出装置1は、計測データ(詳細には3次元計測データ(立体計測データとも称する))から所望の領域(詳細には立体領域)を抽出する装置である。
<A. Configuration>
FIG. 1 is a diagram showing an outline of a region extraction device 1 according to an embodiment of the present invention. The region extraction device 1 is a device that extracts a desired region (specifically, a three-dimensional region) from measurement data (specifically, three-dimensional measurement data (also referred to as three-dimensional measurement data)).

図1に示すように領域抽出装置1は、パーソナルコンピュータ(以下、単に「パソコン」と称する)2と、モニター3と、操作部4と、装着部5とを備えている。   As shown in FIG. 1, the region extracting apparatus 1 includes a personal computer (hereinafter simply referred to as “personal computer”) 2, a monitor 3, an operation unit 4, and a mounting unit 5.

パソコン2は、制御部20、入出力I/F21、及び記憶部22を備えている。   The personal computer 2 includes a control unit 20, an input / output I / F 21, and a storage unit 22.

入出力I/F21は、モニター3、操作部4および装着部5とパソコン2との相互間でデータの送受信を行うためのインターフェイス(I/F)であり、制御部20との間でデータの送受信を行う。   The input / output I / F 21 is an interface (I / F) for transmitting / receiving data between the monitor 3, the operation unit 4, the mounting unit 5, and the personal computer 2. Send and receive.

記憶部22は、例えばハードディスクなどで構成されており、領域抽出を実行するためのソフトウェアプログラム(以下、単に「プログラム」と称する)PG等を格納している。   The storage unit 22 is composed of, for example, a hard disk and stores a software program (hereinafter simply referred to as “program”) PG for executing region extraction.

制御部20は、主にCPU、ROM20a及びRAM20b等を有し、パソコン2の各部を統括制御する部位である。   The control unit 20 mainly includes a CPU, a ROM 20a, a RAM 20b, and the like, and is a part that performs overall control of each unit of the personal computer 2.

モニター3は、例えばCRTで構成され、制御部20で生成される表示用画像を可視的に出力する。   The monitor 3 is configured by a CRT, for example, and visually outputs a display image generated by the control unit 20.

操作部4は、キーボード及びマウス等から構成され、使用者(ユーザ)に各種操作にしたがって各種信号を入出力I/F21に送信する。   The operation unit 4 includes a keyboard and a mouse, and transmits various signals to the user (user) according to various operations to the input / output I / F 21.

また、装着部5は、メモリカード51等の記憶媒体を着脱自在に装着することができる。そして、装着部5に装着されたメモリカード51に格納される各種データ又はプログラム等を入出力I/F21を介して制御部20或いは記憶部22に取り込むことができる。   The mounting unit 5 can detachably mount a storage medium such as the memory card 51. Various data or programs stored in the memory card 51 attached to the attachment unit 5 can be taken into the control unit 20 or the storage unit 22 via the input / output I / F 21.

この実施形態においては、X線CT装置によって取得された3次元計測データ(3次元画像)から、複数(ここでは3つ)の対象物にそれぞれ対応する各領域(対象物領域)BJ1,BJ2,BJ3(図2参照)を領域抽出装置1によって抽出する場合について例示する。具体的には、腰骨および腎臓に相当する領域BJ1,BJ2,BJ3を対象物領域として抽出する。なお、図2は、人体の一部(腰部付近)を示す模式図である。   In this embodiment, from the three-dimensional measurement data (three-dimensional image) acquired by the X-ray CT apparatus, each region (object region) BJ1, BJ2, corresponding to a plurality of (here, three) objects. The case where BJ3 (refer FIG. 2) is extracted with the area | region extraction apparatus 1 is illustrated. Specifically, areas BJ1, BJ2, and BJ3 corresponding to the hip bone and kidney are extracted as object areas. FIG. 2 is a schematic diagram showing a part of the human body (near the waist).

詳細には、まず、複数の対象物領域BJ1,BJ2,BJ3のうち、対象物領域(腰骨に相当する領域)BJ1(図2参照)が、モデルフィッティング手法により抽出され、その後、他の対象物領域(詳細には左右2つの腎臓に相当する領域)BJ2,BJ3がモデルフィッティング手法により抽出される場合を例示する。各対象物領域BJ1,BJ2,BJ3の抽出には、それぞれ、対応する標準モデルMS1,MS2,MS3(図15参照)が用いられる。   Specifically, first, among the plurality of object regions BJ1, BJ2, and BJ3, the object region (region corresponding to the hip bone) BJ1 (see FIG. 2) is extracted by the model fitting method, and then the other objects. An example is shown in which regions (specifically, regions corresponding to two left and right kidneys) BJ2 and BJ3 are extracted by the model fitting method. Corresponding standard models MS1, MS2, and MS3 (see FIG. 15) are used for extracting the object areas BJ1, BJ2, and BJ3, respectively.

なお、モデルフィッティング時における変形前後の標準モデルを互いに区別するために、各標準モデルMSi(i=1,...,N;Nは標準モデルの数)について、変形前の標準モデルをMPi、変形後の標準モデルMQiとも表現する。たとえば、標準モデルMS1については、変形前の標準モデルをMP1、変形後の標準モデルをMQ1とも表現する(図16参照)。   In order to distinguish the standard models before and after deformation at the time of model fitting, for each standard model MSi (i = 1,..., N; N is the number of standard models), the standard model before deformation is MPi, It is also expressed as a standard model MQi after deformation. For example, for the standard model MS1, the standard model before deformation is expressed as MP1, and the standard model after deformation is expressed as MQ1 (see FIG. 16).

次に、領域抽出装置1の各種機能について説明する。   Next, various functions of the region extraction device 1 will be described.

図3は、領域抽出装置1の各種機能を示すブロック図である。これらの各種機能は、制御部20内のCPU等の各種ハードウェアを用いて所定のプログラムPGを実行することによって実現される。   FIG. 3 is a block diagram illustrating various functions of the region extraction device 1. These various functions are realized by executing a predetermined program PG using various hardware such as a CPU in the control unit 20.

図3に示されるように、領域抽出装置1は、モデル格納部31と計測データ入力部32と暫定領域抽出部33と初期位置決定部34とモデルフィッティング部35と相対関係取得部36とモデル修正部37と抽出領域出力部38とを備えている。   As shown in FIG. 3, the region extraction device 1 includes a model storage unit 31, a measurement data input unit 32, a temporary region extraction unit 33, an initial position determination unit 34, a model fitting unit 35, a relative relationship acquisition unit 36, and a model correction. A section 37 and an extraction area output section 38 are provided.

モデル格納部31は、それぞれ異なる対象物に関する複数の標準モデルMSiを格納する。これら複数の標準モデルMSiは、相互間の相対位置関係とともに格納されている。   The model storage unit 31 stores a plurality of standard models MSi relating to different objects. The plurality of standard models MSi are stored together with the relative positional relationship between them.

計測データ入力部32は、CT装置あるいはMRI装置などによって取得された3次元計測データ(ボリュームデータ)を入力する。   The measurement data input unit 32 inputs three-dimensional measurement data (volume data) acquired by a CT apparatus or an MRI apparatus.

暫定領域抽出部33は、モデルフィッティング手法とは異なる手法を用いて、抽出の対象となる領域(物体)を暫定的に抽出する機能を有している。この実施形態においては、対象物領域BJ1の候補領域(暫定領域)を領域拡張手法を用いて抽出する。   The provisional region extraction unit 33 has a function of provisionally extracting a region (object) to be extracted using a method different from the model fitting method. In this embodiment, the candidate area (provisional area) of the object area BJ1 is extracted using the area expansion method.

初期位置決定部34は、暫定的に抽出された対象物領域を用いて、標準モデルの初期配置位置を決定する機能を有している。この実施形態においては、この初期位置決定部34によって、標準モデルMS1の初期位置が決定される。   The initial position determination unit 34 has a function of determining the initial arrangement position of the standard model using the provisionally extracted object region. In this embodiment, the initial position determination unit 34 determines the initial position of the standard model MS1.

モデルフィッティング部35は、モデルフィッティング手法を用いて標準モデルを変形することにより、対象物領域を抽出する機能を有している。このモデルフィッティング部35は、第1モデルフィッティング部35aと第2モデルフィッティング部35bとを備えている。第1モデルフィッティング部35aは、基準となる標準モデルMS1に関するモデルフィッティング処理を実行して対象物領域BJ1を抽出し、第2モデルフィッティング部35bは、その他の標準モデルMS2,MS3に関するモデルフィッティング処理を実行して対象物領域BJ2,BJ3を抽出する。   The model fitting unit 35 has a function of extracting an object region by deforming a standard model using a model fitting method. The model fitting unit 35 includes a first model fitting unit 35a and a second model fitting unit 35b. The first model fitting unit 35a performs a model fitting process on the standard model MS1 serving as a reference to extract the object region BJ1, and the second model fitting unit 35b performs a model fitting process on the other standard models MS2 and MS3. This is executed to extract the object areas BJ2 and BJ3.

相対関係取得部36は、モデルフィッティング手法によって標準モデルMS1を対象物領域BJ1にフィッティングする際の標準モデルMS1の変倍量および/または移動量を、標準モデルMS1と対象物領域BJ1との相対的関係として、求める機能を有している。   The relative relationship acquisition unit 36 calculates the amount of scaling and / or movement of the standard model MS1 when the standard model MS1 is fitted to the object region BJ1 by the model fitting method, and the relative amount between the standard model MS1 and the object region BJ1. As a relation, it has a function to be sought.

モデル修正部37は、相対関係取得部36によって得られた相対的関係に基づいて、複数のモデルのうちの標準モデルMS2,MS3の初期状態(初期位置および初期大きさ)を修正する機能を有している。なお、第2モデルフィッティング部35bは、モデル修正部37による修正後の標準モデルMS2,MS3を用いてモデルフィッティング処理を実行し、対象物領域BJ2,BJ3を抽出する。   The model correcting unit 37 has a function of correcting the initial state (initial position and initial size) of the standard models MS2 and MS3 of the plurality of models based on the relative relationship obtained by the relative relationship acquiring unit 36. is doing. The second model fitting unit 35b executes the model fitting process using the standard models MS2 and MS3 corrected by the model correcting unit 37, and extracts the object areas BJ2 and BJ3.

抽出領域出力部38は、抽出した対象物領域BJ1,BJ2,BJ3をモニター3に表示出力する機能等を有している。   The extraction area output unit 38 has a function of displaying and outputting the extracted object areas BJ1, BJ2, and BJ3 on the monitor 3.

<B.動作>
<B1.動作概要>
次に、上述した領域抽出装置1の動作について詳細に説明する。
<B. Operation>
<B1. Outline of operation>
Next, the operation of the region extraction apparatus 1 described above will be described in detail.

図4は、領域抽出装置1の全体動作を示すフローチャートである。   FIG. 4 is a flowchart showing the overall operation of the region extraction apparatus 1.

図4に示されるように、領域抽出装置1は、ステップS1からステップS7までの工程を実行することによって、入力画像(3次元画像)から使用者(ユーザ)が指定した対象物を抽出する。なお、抽出対象物の指定は、ステップS1の処理開始前に使用者(ユーザ)によって予め行われる。指定手法としては、例えば、記憶部22に予めデータベース化されて保存されている項目一覧(例えば各種の内臓器および骨等が列挙された項目一覧)から、操作部(例えばマウス)4等の操作により使用者(ユーザ)が所望の項目を選択する態様等を採用することができる。以下では、腰骨と左右の腎臓とが抽出対象物として指定されている場合を想定する。   As shown in FIG. 4, the region extraction apparatus 1 extracts the target specified by the user (user) from the input image (three-dimensional image) by executing the processes from step S1 to step S7. The extraction target is designated in advance by the user (user) before the process of step S1 is started. As the designation method, for example, an operation of the operation unit (for example, mouse) 4 or the like from an item list (for example, an item list in which various internal organs, bones, and the like are enumerated) stored in the storage unit 22 in a database is stored. Thus, it is possible to adopt a mode in which the user (user) selects a desired item. In the following, it is assumed that the hip bone and the left and right kidneys are designated as extraction objects.

まず、1つの標準モデルMS1の対応対象物領域BJ1を抽出する領域抽出処理が実行される(ステップS1,S2,S3)。具体的には、腰骨に相当する領域BJ1が、モデルフィッティング手法により抽出される。この最初のモデルフィッティング処理における標準モデルMS1の初期位置は、領域拡張手法を用いて決定される(ステップS1,S2)。   First, region extraction processing for extracting the corresponding target region BJ1 of one standard model MS1 is executed (steps S1, S2, S3). Specifically, a region BJ1 corresponding to the hip bone is extracted by the model fitting method. The initial position of the standard model MS1 in this first model fitting process is determined using the region expansion method (steps S1 and S2).

その後、さらに他の標準モデルMS2,MS3の対応対象物領域BJ2,BJ3を抽出する領域抽出処理が行われる(ステップS4,S5,S6)。具体的には、腎臓に相当する領域BJ2,BJ3がモデルフィッティング手法により抽出される。ただし、領域BJ2,BJ3を抽出するモデルフィッティング処理においては、標準モデルMS2,MS3の初期位置等は、ステップS1,S2よりも簡易な態様(ステップS4,S5)で決定される。具体的には、領域抽出動作(ステップS3)における標準モデルMS1の変倍量(変倍率)および移動量(並進変位および回転変位)に基づいて、他の標準モデルMS2,MS3の初期状態が変更される。   Thereafter, a region extraction process is performed to extract the corresponding target regions BJ2 and BJ3 of the other standard models MS2 and MS3 (steps S4, S5, and S6). Specifically, regions BJ2 and BJ3 corresponding to the kidney are extracted by the model fitting method. However, in the model fitting process for extracting the regions BJ2 and BJ3, the initial positions and the like of the standard models MS2 and MS3 are determined in a simpler manner (steps S4 and S5) than in steps S1 and S2. Specifically, the initial states of the other standard models MS2 and MS3 are changed based on the magnification (magnification) and movement (translational displacement and rotational displacement) of the standard model MS1 in the region extraction operation (step S3). Is done.

そして、ステップS7では、抽出された対象物領域BJ1,BJ2,BJ3がモニター3に表示出力される。また、以後に容易に利用可能となるように、抽出結果を表すデータがメモリカード51と記憶部22とにそれぞれ出力されて格納される。   In step S7, the extracted object areas BJ1, BJ2, and BJ3 are displayed and output on the monitor 3. In addition, data representing the extraction result is output to and stored in the memory card 51 and the storage unit 22 so that they can be easily used thereafter.

以下、対象物領域BJ1の領域抽出処理(ステップS1,S2,S3)と、他の対象物領域BJ2,BJ3の領域抽出処理(ステップS4,S5,S6)とについてそれぞれ詳述する。   Hereinafter, the region extraction processing (steps S1, S2, S3) of the target region BJ1 and the region extraction processing (steps S4, S5, S6) of the other target regions BJ2, BJ3 will be described in detail.

<B2.最初の対象物領域BJ1に関する抽出処理>
まず、最初の対象物領域BJ1に関する領域抽出処理について説明する。
<B2. Extraction Process for First Object Area BJ1>
First, the region extraction process regarding the first object region BJ1 will be described.

上述したように、対象物領域BJ1は、最終的にはモデルフィッティング手法によって抽出される(ステップS3)。ただし、モデルフィッティング手法における標準モデルの初期位置を決定するに際しては、モデルフィッティング手法とは異なる手法(具体的には、領域拡張手法)が用いられる(ステップS1,S2)。具体的には、3次元画像から領域拡張手法を用いて対象物領域BJ1が暫定的に抽出され(ステップS1)、暫定的に抽出された当該対象物領域BJ1を用いて、標準モデルの初期位置(標準モデルを計測データ中に配置する際の初期位置)が決定され、標準モデルの配置が行われる(ステップS2)。その後に、初期位置に移動された標準モデルMS1を用いてモデルフィッティング手法が適用されることにより、計測データから対象物領域BJ1が抽出される(ステップS3)。   As described above, the object region BJ1 is finally extracted by the model fitting method (step S3). However, when determining the initial position of the standard model in the model fitting method, a method different from the model fitting method (specifically, a region expansion method) is used (steps S1 and S2). Specifically, the object area BJ1 is provisionally extracted from the three-dimensional image using the area expansion method (step S1), and the initial position of the standard model is obtained using the object area BJ1 temporarily extracted. (Initial position when the standard model is arranged in the measurement data) is determined, and the standard model is arranged (step S2). Thereafter, the object region BJ1 is extracted from the measurement data by applying the model fitting method using the standard model MS1 moved to the initial position (step S3).

以下、ステップS1〜S3についてそれぞれ詳細に説明する。   Hereinafter, each of steps S1 to S3 will be described in detail.

<暫定領域抽出処理>
ステップS1では、入力される3次元画像(ボリュームデータ)から、使用者(ユーザ)によって指定された対象物に対応する領域(対象物領域)が暫定的に抽出される。
<Provisional area extraction processing>
In step S1, an area (object area) corresponding to the object designated by the user (user) is provisionally extracted from the input three-dimensional image (volume data).

上述のように、暫定領域抽出処理(ステップS1)では、使用者(ユーザ)によって指定された物体を暫定的に抽出することを目的とする。   As described above, the provisional area extraction process (step S1) aims to tentatively extract an object designated by a user (user).

図5は、領域拡張手法を用いた暫定領域抽出処理(ステップS1)の詳細を示すフローチャートである。図6は、人体をX線CT装置で撮影した3次元画像TDP1と、当該3次元画像TDP1を構成する複数のスライス画像SDのうち所定位置におけるスライス画像PMとを示す図である。なお、図6に示すように、X線CT装置によって取得される3次元画像は、人体を輪切りにした断面を示す複数(例えば、数十枚から数百枚)のスライス画像SDで構成されている。各スライス画像SDは、各点(各画素)でのX線の吸収量(CT値)を濃淡表示して可視化した画像である。   FIG. 5 is a flowchart showing details of provisional region extraction processing (step S1) using the region expansion method. FIG. 6 is a diagram showing a three-dimensional image TDP1 obtained by imaging a human body with an X-ray CT apparatus and a slice image PM at a predetermined position among a plurality of slice images SD constituting the three-dimensional image TDP1. As shown in FIG. 6, the three-dimensional image acquired by the X-ray CT apparatus is composed of a plurality of (for example, several tens to several hundreds) slice images SD showing a cross-section of a human body. Yes. Each slice image SD is an image visualized by displaying the amount of X-ray absorption (CT value) at each point (each pixel) in grayscale.

また、図7は、図6に示されるスライス画像PM上の画素M1を中心として隣接する画素付近を拡大表示した図である。図7においては、スライス画像PMの画素M1の隣接画素として、同一階層のスライス画像PMにおける隣接8画素M2〜M9に加えて、スライス画像PUにおける隣接9画素U1〜U9と、スライス画像PDにおける隣接9画素D1〜D9とが示されている。なお、スライス画像PUは、スライス画像PMに対して+z方向に隣接するスライス画像(換言すればスライス画像PMの直上層のスライス画像)であり、スライス画像PDは、スライス画像PMに対して−z方向に隣接するスライス画像(換言すればスライス画像PMの直下層のスライス画像)である。   FIG. 7 is an enlarged view of the vicinity of adjacent pixels centered on the pixel M1 on the slice image PM shown in FIG. In FIG. 7, as adjacent pixels of the pixel M1 of the slice image PM, in addition to the adjacent 8 pixels M2 to M9 in the slice image PM of the same hierarchy, the adjacent 9 pixels U1 to U9 in the slice image PU and the adjacent in the slice image PD Nine pixels D1 to D9 are shown. The slice image PU is a slice image adjacent to the slice image PM in the + z direction (in other words, a slice image immediately above the slice image PM), and the slice image PD is −z with respect to the slice image PM. It is a slice image adjacent in the direction (in other words, a slice image immediately below the slice image PM).

以下では、図6のスライス画像PMに表示されている対象物領域BJ1を暫定的に抽出する場合を具体例に挙げて領域拡張手法を用いた暫定領域抽出処理について説明する。   In the following, the provisional region extraction processing using the region expansion method will be described with a specific example of the case where the target region BJ1 displayed in the slice image PM of FIG. 6 is provisionally extracted.

まず、ステップS11において、使用者(ユーザ)によって対象物領域内の拡張開始画素が特定される。具体的には、抽出したい物体(対象物領域)が表示されている任意のスライス画像(ここではスライス画像PM)上で、操作部(例えばマウス)4等の操作により対象物領域内の任意の点を特定する。より詳細には、対象物領域BJ1を抽出したい場合、スライス画像PM上の対象物領域BJ1内の任意の点(例えばM1)をマウス等により特定すればよい(図6参照)。この操作により、スライス画像PM上において特定点M1に相当する画素が拡張開始画素となる。   First, in step S11, the expansion start pixel in the object area is specified by the user (user). Specifically, on an arbitrary slice image (here, slice image PM) on which an object (object region) to be extracted is displayed, an arbitrary operation in the target region is performed by operating the operation unit (eg, mouse) 4 or the like. Identify points. More specifically, when it is desired to extract the object area BJ1, an arbitrary point (for example, M1) in the object area BJ1 on the slice image PM may be specified with a mouse or the like (see FIG. 6). By this operation, the pixel corresponding to the specific point M1 on the slice image PM becomes the expansion start pixel.

次に、ステップS12において、拡張開始画素に隣接する画素が拡張候補画素として検出される。詳細には、ステップS11において拡張開始画素をM1と特定したとすると、画素M1に隣接する画素全てが拡張候補画素となる。つまり、スライス画像PM上の画素M2〜M9、スライス画像PU上の画素U1〜U9、及びスライス画像PD上の画素D1〜D9の計26画素が拡張候補画素となる。   Next, in step S12, a pixel adjacent to the expansion start pixel is detected as an expansion candidate pixel. Specifically, if the expansion start pixel is specified as M1 in step S11, all the pixels adjacent to the pixel M1 are the expansion candidate pixels. That is, a total of 26 pixels, that is, the pixels M2 to M9 on the slice image PM, the pixels U1 to U9 on the slice image PU, and the pixels D1 to D9 on the slice image PD are extension candidate pixels.

次に、ステップS13において拡張候補画素がステップS12で検出されたか否かが判定され、ステップS12で拡張候補画素が検出されている場合には、ステップS14へ移行する。   Next, in step S13, it is determined whether or not an extended candidate pixel is detected in step S12. If an extended candidate pixel is detected in step S12, the process proceeds to step S14.

ステップS14では、検出された拡張候補画素の濃度値が所定範囲内か否かが判定される。具体的には、物体(腰骨等)の有する濃度値の範囲が物体ごとに予め定められており、拡張候補画素の濃度値が、抽出対象物体(対象物領域)の持つ濃度値の範囲内か否かを上下限の各閾値を用いて判定する。これにより、拡張候補画素が所定範囲内の濃度値を有していると判定されると、ステップS15に移行する。   In step S14, it is determined whether or not the density value of the detected extension candidate pixel is within a predetermined range. Specifically, the density value range of the object (such as the hip bone) is predetermined for each object, and the density value of the expansion candidate pixel is within the density value range of the extraction target object (target area). Whether or not is determined using the upper and lower thresholds. Accordingly, when it is determined that the expansion candidate pixel has a density value within a predetermined range, the process proceeds to step S15.

ステップS15では、当該拡張候補画素を抽出対象物体内の画素とする領域拡張を行う。   In step S15, region expansion is performed using the expansion candidate pixel as a pixel in the extraction target object.

一方、ステップS14において、拡張候補画素が所定範囲内の濃度値を有していないと判定されると、当該拡張候補画素の領域拡張は行われない。   On the other hand, if it is determined in step S14 that the extension candidate pixel does not have a density value within the predetermined range, the area extension of the extension candidate pixel is not performed.

次に、ステップS16では、拡張候補画素の濃度判定工程(ステップS14)をまだ経ていない拡張候補画素が存在するか否かが判断される。   Next, in step S16, it is determined whether or not there is an extension candidate pixel that has not passed through the extension candidate pixel density determination step (step S14).

濃度判定工程(ステップS14)を経ていない拡張候補画素が存在する場合には、当該未終了の拡張候補画素に対してステップS14、S16の処理が実行される。   If there is an extension candidate pixel that has not undergone the density determination step (step S14), the processes of steps S14 and S16 are performed on the unfinished extension candidate pixel.

一方、全ての拡張候補画素に対して濃度判定工程(ステップS14)が終了している場合には、ステップS12に戻り、ステップS15において拡張された画素(換言すれば、領域内の画素であるとして特定された画素)にさらに隣接する画素であって、領域内に存在するか否かが未だ判定されていない画素が、新たな拡張候補画素として検出される。その後、新たに検出された拡張候補画素に対して、上述のステップS13〜S16の工程が実行される。ステップS12〜S16の工程は、新たな拡張候補画素を検出することが可能な限り繰り返され、新たな拡張候補画素が検出できなくなると、暫定領域抽出処理は終了する(ステップS13)。このような拡張処理によって、暫定抽出領域は、上側の階層画像および下側の階層画像へと順次に拡張されるとともに、同一階層画像においてはより外側へと拡張されていく。   On the other hand, if the density determination step (step S14) has been completed for all the expansion candidate pixels, the process returns to step S12, and the pixels expanded in step S15 (in other words, the pixels in the region). A pixel that is further adjacent to the specified pixel) and has not yet been determined whether or not it exists in the region is detected as a new expansion candidate pixel. Thereafter, the above-described steps S13 to S16 are performed on the newly detected extended candidate pixel. Steps S12 to S16 are repeated as much as possible to detect a new extension candidate pixel. When a new extension candidate pixel cannot be detected, the provisional region extraction process ends (step S13). By such an expansion process, the temporary extraction area is sequentially expanded to the upper hierarchical image and the lower hierarchical image, and further expanded outward in the same hierarchical image.

このようにステップS12〜S16の工程が繰り返し実行されることによって拡張開始画素M1から徐々に3次元的に領域拡張が行われ、使用者(ユーザ)によって指定された物体が暫定的に抽出される。   As described above, the steps S12 to S16 are repeatedly executed, so that the region expansion is gradually performed three-dimensionally from the expansion start pixel M1, and the object designated by the user (user) is provisionally extracted. .

<初期位置決定処理>
次に、ステップS2において、ステップS1で暫定的に抽出された対象物領域を用いて、標準モデルMS1の初期位置が決定される。この初期位置処理(ステップS2)について、図8〜図10を参照しながら説明する。
<Initial position determination process>
Next, in step S2, the initial position of the standard model MS1 is determined using the object region temporarily extracted in step S1. The initial position process (step S2) will be described with reference to FIGS.

図8は、重心点を利用した初期位置決定処理(ステップS2)の詳細を示すフローチャートである。また、図9は、3次元画像(計測データ)に含まれる対象物領域BJ1(物体OBa)を示す図であり、図10は、標準モデルMS1を初期位置に移動させる様子を概念的に示す図である。図10においては、標準モデルを初期配置した際の対象物領域と標準モデルとの位置関係も示されている。なお、図9および図10等においては図示の都合上、適宜、対象物領域BJ1(物体OBa)およびそれに対応する標準モデルBJ1を簡略化(ないし抽象化)して示している。   FIG. 8 is a flowchart showing details of the initial position determination process (step S2) using the barycentric point. FIG. 9 is a diagram showing the object region BJ1 (object OBa) included in the three-dimensional image (measurement data), and FIG. 10 is a diagram conceptually showing how the standard model MS1 is moved to the initial position. It is. FIG. 10 also shows the positional relationship between the object region and the standard model when the standard model is initially arranged. In FIG. 9 and FIG. 10 and the like, the object region BJ1 (object OBa) and the corresponding standard model BJ1 are simplified (or abstracted) as appropriate for convenience of illustration.

まず、ステップS21において、ステップS1で暫定的に抽出された物体OBaの重心点GZが算出される。   First, in step S21, the center of gravity GZ of the object OBa temporarily extracted in step S1 is calculated.

次に、ステップS22では、後述のモデルフィッティングにおいて用いられる標準モデルの重心点GHをステップS21で算出された重心点GZに合わせる標準モデルの初期配置が行われる。例えば、図10に示されるように、標準モデルMS1の重心点GHを抽出対象物体OBaの重心点GZに合わせるように標準モデルMS1を移動して、標準モデルMS1を計測データ中に初期配置する。   Next, in step S22, the standard model is initially placed so that the center point GH of the standard model used in model fitting described later matches the center point GZ calculated in step S21. For example, as shown in FIG. 10, the standard model MS1 is moved so that the center of gravity GH of the standard model MS1 matches the center of gravity GZ of the extraction target object OBa, and the standard model MS1 is initially arranged in the measurement data.

重心点を利用した標準モデルの初期配置が終了すると、モデルフィッティング処理(ステップS3)に移行する。   When the initial placement of the standard model using the barycentric point is completed, the process proceeds to model fitting processing (step S3).

<モデルフィッティング処理>
ステップS3のモデルフィッテイング処理は、予め準備された一般的(標準的)な対象物領域のモデルである「標準モデル」を、計測データ内の対象物領域から得られる情報(形状等)を用いて変形する処理である。なお、本出願においては、モデルフィッティング処理による変形後の標準モデル(換言すれば対象物領域の情報が反映された標準モデル)を「個別モデル」とも称するものとする。
<Model fitting process>
The model fitting process in step S3 uses a “standard model” that is a model of a general (standard) object area prepared in advance and uses information (shape, etc.) obtained from the object area in the measurement data. It is a process to deform. In the present application, the standard model after the deformation by the model fitting process (in other words, the standard model reflecting the object area information) is also referred to as “individual model”.

このステップS3では、初期位置に配置された標準モデルMS1をモデルフィッティング手法によって変形することで、対象物領域が抽出される。   In step S3, the object region is extracted by deforming the standard model MS1 arranged at the initial position by the model fitting method.

図11は、モデルフィッティング処理(ステップS3)の詳細を示すフローチャートである。図12は、抽出対象物体OBaの輪郭上の点Q1を中心にした領域RQ(図10参照)付近を拡大表示した模式図であり、図13は、一部のスライス画像PQ1、PQ2及びPQ4を示す図である。図14は、制御点間を仮想バネで繋いだ模式図である。   FIG. 11 is a flowchart showing details of the model fitting process (step S3). FIG. 12 is a schematic diagram in which the vicinity of the region RQ (see FIG. 10) centered on the point Q1 on the contour of the extraction target object OBa is enlarged, and FIG. 13 shows some slice images PQ1, PQ2, and PQ4. FIG. FIG. 14 is a schematic diagram in which control points are connected by virtual springs.

なお、抽出対象物体(対象物領域)の標準モデルは、例えば、微小な多角形(例えば、三角形)のポリゴンで構成され、記憶部22等に保存されている。ポリゴンで構成された標準モデルは、各ポリゴンの頂点の3次元座標によってそのモデルの表面形状を表現することができる。また、標準モデルにおけるポリゴンの頂点のうち、全頂点あるいは代表的な幾つかの頂点を「制御点」とも称する。   Note that the standard model of the extraction target object (target object region) is composed of, for example, a minute polygon (for example, a triangle) and is stored in the storage unit 22 or the like. The standard model composed of polygons can express the surface shape of the model by the three-dimensional coordinates of the vertices of each polygon. In addition, of the vertices of the polygon in the standard model, all vertices or some representative vertices are also referred to as “control points”.

以下では、図11〜図14を用いてモデルフィッティング処理について詳述する。   Hereinafter, the model fitting process will be described in detail with reference to FIGS.

まず、ステップS31では、標準モデルMS1の制御点Cjに対応する点(以下、「対応点」とも称する)を3次元画像TDP1の中から検出する処理が行われる(図11参照)。ここでは、抽出対象物体OBaの輪郭(境界)を示す画素(境界点)のうち、制御点Cjの最も近傍に存在する画素を当該制御点Cjの対応点とする手法を用いる。なお、抽出対象物体OBaの輪郭(境界)は、各スライス画像SDにおいて、エッジ抽出処理を行うことなどによって取得される。   First, in step S31, processing for detecting a point corresponding to the control point Cj of the standard model MS1 (hereinafter also referred to as “corresponding point”) from the three-dimensional image TDP1 is performed (see FIG. 11). Here, a method is used in which a pixel existing nearest to the control point Cj among the pixels (boundary points) indicating the outline (boundary) of the extraction target object OBa is a corresponding point of the control point Cj. Note that the outline (boundary) of the extraction target object OBa is acquired by performing an edge extraction process in each slice image SD.

例えば、図12(立面図)においては、制御点C1の対応点は、制御点C1の最も近傍に存在する境界点(画素)Q1となる。ここで、図12においては、xz平面に平行な所定の平面(2次元空間)における境界点のみが示されているが、実際には、図13に示されるような3次元空間において制御点C1の最も近傍に存在する境界点が対応点となる。図13においては、制御点C1の各スライス画像PQ1、PQ2、PQ4における射影点が×印で示されている。   For example, in FIG. 12 (elevation), the corresponding point of the control point C1 is a boundary point (pixel) Q1 that is present nearest to the control point C1. Here, in FIG. 12, only boundary points in a predetermined plane (two-dimensional space) parallel to the xz plane are shown, but actually, the control point C1 in the three-dimensional space as shown in FIG. The boundary point existing closest to is a corresponding point. In FIG. 13, the projection points in the slice images PQ1, PQ2, and PQ4 of the control point C1 are indicated by crosses.

次に、ステップS32では、標準モデルの制御点Cjのうち任意の一点(以下、「移動対象点」とも称する)(例えば制御点C1)が一方向(例えばA1方向)に微小量L移動される(図12参照)。   Next, in step S32, an arbitrary one of the control points Cj of the standard model (hereinafter also referred to as “movement target point”) (for example, the control point C1) is moved by a minute amount L in one direction (for example, the A1 direction). (See FIG. 12).

さらに、ステップS33では、ステップS32において移動対象点を移動させ一時的に変形させた状態のモデル(以下、「一時変形モデル」とも称する)の総合エネルギーUeが算出される。   Further, in step S33, the total energy Ue of the model (hereinafter also referred to as “temporary deformation model”) in a state where the movement target point is moved and temporarily deformed in step S32 is calculated.

総合エネルギーUeは、式(1)に示されるように、制御点Cjと対応点との距離に関する外部エネルギーFeと、過剰な変形を避けるための内部エネルギーGeとの和で表される。なお、外部エネルギーFeおよび内部エネルギーGeについては後述する。   The total energy Ue is represented by the sum of the external energy Fe relating to the distance between the control point Cj and the corresponding point and the internal energy Ge for avoiding excessive deformation, as shown in the equation (1). External energy Fe and internal energy Ge will be described later.

Figure 2007000267
Figure 2007000267

次に、ステップS34において、移動対象点が全ての方向に移動されたか否かを判定する。例えば、3次元空間の全方位における移動対象点の移動方向を26方向(当該移動対象点(画素)に隣接する26画素へ向かう方向)とすると、26方向全ての方向に制御点C1が移動されたか否かを判定する。   Next, in step S34, it is determined whether or not the movement target point has been moved in all directions. For example, if the movement direction of the movement target point in all directions in the three-dimensional space is 26 directions (direction toward 26 pixels adjacent to the movement target point (pixel)), the control point C1 is moved in all 26 directions. It is determined whether or not.

移動対象点(制御点C1)を26方向全てに移動させた一時変形モデルの作成が終了していなければ、移動対象点の移動方向を変更して再び微小量L移動させ、異なる移動方向パターンの一時変形モデルを作成し、各一時変形モデルの総合エネルギーUeを算出する(ステップS32、S33)。   If the creation of the temporary deformation model in which the movement target point (control point C1) is moved in all 26 directions has not been completed, the movement direction of the movement target point is changed and moved again by a small amount L, and different movement direction patterns are obtained. A temporary deformation model is created and the total energy Ue of each temporary deformation model is calculated (steps S32 and S33).

そして、ステップS34において全方向の移動が終了したと判定されると、ステップS35へ移行する。   If it is determined in step S34 that the movement in all directions has been completed, the process proceeds to step S35.

ステップS35では、作成された全パターンの一時変形モデルの中から、総合エネルギーUeを最小とする一時変形モデルが選択される。換言すれば、或る制御点Cjを26方向に移動させて生成された各一時変形モデルのうち、総合エネルギーUeを最小化する一時変形モデルが選択される。例えば、後述するような内部エネルギーGeと外部エネルギーFeとの作用によれば、内部エネルギーGeを考慮せず外部エネルギーFeのみを考慮する場合には、その制御点が対応点に近づく方向へと移動する一時変形モデルが選択されることになる。ただし、内部エネルギーGeを考慮する場合には、その制御点が対応点に近づく方向とは異なる方向へと移動する一時変形モデルが選択されることもある。   In step S35, a temporary deformation model that minimizes the total energy Ue is selected from the generated temporary deformation models of all patterns. In other words, a temporary deformation model that minimizes the total energy Ue is selected from the temporary deformation models generated by moving a certain control point Cj in 26 directions. For example, according to the action of internal energy Ge and external energy Fe as will be described later, when only external energy Fe is considered without considering internal energy Ge, the control point moves in a direction approaching the corresponding point. The temporary deformation model to be selected is selected. However, when considering the internal energy Ge, a temporary deformation model in which the control point moves in a direction different from the direction approaching the corresponding point may be selected.

次に、ステップS36において全制御点Cjの移動が終了したか否かを判定する。具体的には、標準モデルの全ての制御点Cjについて微少量Lの移動が終了したか否かを判定し、終了していない制御点(未了点とも称する)が存在すれば、移動対象点を当該制御点(未了点)に変更してステップS32〜S35の動作を繰り返し、全ての制御点Cjの移動を完了した一時変形モデルを作成する。一方、全ての制御点の移動が終了していれば、ステップS37へ移行する。   Next, in step S36, it is determined whether or not all the control points Cj have been moved. Specifically, it is determined whether or not the movement of the minute amount L has been completed for all the control points Cj of the standard model, and if there is an unfinished control point (also referred to as an incomplete point), the movement target point Is changed to the control point (incomplete point), and the operations in steps S32 to S35 are repeated to create a temporary deformation model in which the movement of all the control points Cj is completed. On the other hand, if the movement of all the control points has been completed, the process proceeds to step S37.

ステップS37では、モデルフィッティング処理を終了するか否かを判定する。具体的には、全ての制御点Cjの移動を完了させた一時変形モデルにおける複数の制御点とその対応点との距離の平均値が所定値以下であることを条件とし、当該条件を満たす場合に、モデルフィッティング処理を終了するようにすればよい。これによれば、各制御点が対応点に所定程度近づいた場合に同処理を終了することができる。または、これに加えてあるいはこれに代えて、(全ての制御点Cjの移動を完了させた)前回の一時変形モデルと今回の一時変形モデルとの総合エネルギーUeの変化量が所定量以下であるか否かを終了判定の基準として用いてもよい。これによれば、制御点を移動しても総合エネルギーがあまり変化しなくなった場合に処理を終了することができる。   In step S37, it is determined whether or not to end the model fitting process. Specifically, when the condition is satisfied on condition that the average value of the distances between the plurality of control points and the corresponding points in the temporary deformation model in which the movement of all the control points Cj is completed is equal to or less than a predetermined value In addition, the model fitting process may be terminated. According to this, when each control point approaches the corresponding point to a predetermined extent, the same process can be ended. Alternatively, or in addition to this, the amount of change in the total energy Ue between the previous temporary deformation model (which has completed the movement of all control points Cj) and the current temporary deformation model is equal to or less than a predetermined amount. Whether or not it may be used as a criterion for end determination. According to this, a process can be complete | finished when the total energy does not change so much even if a control point is moved.

ステップS37においてモデルフィッティング処理を終了しないと判定される場合は、ステップS38へと移行する。   If it is determined in step S37 that the model fitting process is not finished, the process proceeds to step S38.

ステップS38では、上述のステップS32〜S37で実行される処理を単位処理ループとして当該単位処理ループが所定回数W(例えば10回)実行されたか否かを判定する。所定回数W実行されていなければ、所定回数W実行されるまで再びステップS32〜S37の処理ループを繰り返し、所定回数W実行されていれば、ステップS39へと移行する。すなわち、全ての制御点の移動を完了させた一時変形モデルが所定回数W作成されるまで、単位処理ループが繰り返される。   In step S38, it is determined whether the unit processing loop has been executed a predetermined number of times W (for example, 10 times) using the processing executed in steps S32 to S37 described above as a unit processing loop. If the predetermined number of times W is not executed, the processing loop of steps S32 to S37 is repeated again until the predetermined number of times W is executed. If the predetermined number of times W is executed, the process proceeds to step S39. That is, the unit processing loop is repeated until a temporary deformation model that completes the movement of all control points is created W a predetermined number of times.

ステップS39では、ステップS31で決定した対応点の更新が行われる。具体的には、上述の処理ループによって所定回数W移動した各制御点の最も近傍に存在する画素(境界点)を各制御点それぞれの新しい対応点とする対応点の更新が行われ、再びステップS32〜S39の処理が繰り返し行われる。このような「対応点の更新」によれば、制御点の移動に伴って制御点の最近傍境界点が変わる場合にも、対応点の適正化を図ることができる。   In step S39, the corresponding points determined in step S31 are updated. Specifically, the corresponding point is updated with the pixel (boundary point) closest to each control point having moved W a predetermined number of times by the above processing loop as a new corresponding point for each control point, and the step is again performed. The processes of S32 to S39 are repeated. According to such “update of corresponding point”, it is possible to optimize the corresponding point even when the nearest boundary point of the control point changes with the movement of the control point.

一方、ステップS37においてモデルフィッティング処理を終了すると判定される場合は、最終的に得られた一時変形モデルが、抽出対象物体に相当する個別モデルとして決定され、このステップS3の処理は終了する。   On the other hand, if it is determined in step S37 that the model fitting process is to be terminated, the finally obtained temporary deformation model is determined as an individual model corresponding to the extraction target object, and the process in step S3 is terminated.

このようなモデルフィッティング処理(ステップS3)においては、標準モデルを1制御点ごとに微少量Lずつ徐々に変形させることによって、抽出対象領域に相当する個別モデルが作成される。   In such a model fitting process (step S3), an individual model corresponding to the extraction target region is created by gradually deforming the standard model by a small amount L for each control point.

ここで、総合エネルギーUeを構成する外部エネルギーFe及び内部エネルギーGeについて説明する。   Here, the external energy Fe and the internal energy Ge constituting the total energy Ue will be described.

外部エネルギーFeは、各制御点Cjと当該各制御点Cjにそれぞれ対応する対応点Qjとの距離の二乗を用いて式(2)のように表される。   The external energy Fe is expressed as in Expression (2) using the square of the distance between each control point Cj and the corresponding point Qj corresponding to each control point Cj.

Figure 2007000267
Figure 2007000267

但し、αは定数、Ntは制御点の数、|Cj−Qj|は制御点Cjと対応点Qjとの距離を表すものとする。   Here, α is a constant, Nt is the number of control points, and | Cj−Qj | is the distance between the control point Cj and the corresponding point Qj.

このような外部エネルギーFeが非常に大きくなるような一時変形モデル、すなわち、制御点Cjと対応点Qjとの距離が移動前より大きくなった一時変形モデルは、その総合エネルギーUeが大きくなるため、上述のステップS35(総合エネルギーUeを最小とする制御点の移動を採用する工程)において採用されにくくなる。   Since the temporary deformation model in which the external energy Fe becomes very large, that is, the temporary deformation model in which the distance between the control point Cj and the corresponding point Qj is larger than that before the movement, the total energy Ue becomes large. It becomes difficult to be employed in the above-described step S35 (step of employing movement of the control point that minimizes the total energy Ue).

また、内部エネルギーGeは、例えば、図14に示されるように、制御点Cj間が仮想バネSPR(SPR1,SPR2,SPR3,...)によって繋がれていると想定すると、式(3)のように表される。   Assuming that the internal energy Ge is connected to the control points Cj by virtual springs SPR (SPR1, SPR2, SPR3,...) As shown in FIG. It is expressed as follows.

Figure 2007000267
Figure 2007000267

但し、βは定数、Kは仮想バネのバネ係数、Nhは仮想バネの本数、wは各仮想バネの変位量を表すものとする。   Here, β is a constant, K is a spring coefficient of a virtual spring, Nh is the number of virtual springs, and w is a displacement amount of each virtual spring.

式(3)によると、各制御点Cjの過剰な移動は、仮想バネSPRに蓄えられるエネルギーの増大として表現される。例えば、1つの制御点Czが、或る点Vzへと移動し他の制御点との相対変位が増大したとすると、仮想バネSPR1、SPR2及びSPR3には、各仮想バネの伸びによるエネルギーが蓄えられ内部エネルギーGeひいては総合エネルギーUeが大きくなる。   According to Equation (3), excessive movement of each control point Cj is expressed as an increase in energy stored in the virtual spring SPR. For example, if one control point Cz moves to a certain point Vz and the relative displacement with other control points increases, energy from the extension of each virtual spring is stored in the virtual springs SPR1, SPR2, and SPR3. The internal energy Ge and thus the total energy Ue increases.

このような過剰変形を伴う一時変形モデルは、その内部エネルギーGeが大きくなりその総合エネルギーUeも大きくなるため、上述のステップS35(総合エネルギーUeを最小とする制御点の移動を採用する工程)において採用されにくくなる。   In such a temporary deformation model with excessive deformation, the internal energy Ge increases and the total energy Ue also increases. Therefore, in the above-described step S35 (step of adopting the movement of the control point that minimizes the total energy Ue). It becomes difficult to be adopted.

換言すれば、内部エネルギーGeを減少させて総合エネルギーUeを減少させるような一時変形モデルがステップS35で選択されることによって、各制御点Cjの移動による過剰な変形を防止する作用を得ることができる。   In other words, the temporary deformation model that reduces the internal energy Ge and decreases the total energy Ue is selected in step S35, thereby obtaining an effect of preventing excessive deformation due to movement of each control point Cj. it can.

つまり、このような内部エネルギーGeを導入することによって、標準モデルの形状すなわち標準モデルを構成する各ポリゴンの形状を損なわない制御点Cjの移動が可能となる。   That is, by introducing such internal energy Ge, the control point Cj can be moved without impairing the shape of the standard model, that is, the shape of each polygon constituting the standard model.

上述の処理によれば、このような外部エネルギーFeと内部エネルギーGeとの和で表現される総合エネルギーUeを最小とする一時変形モデルが、標準モデルを最適に変形させる一時変形モデル(「最適変形モデル」とも称する)、すなわち個別モデルとして決定される。そして、当該個別モデルの対応位置に存在する領域が抽出対象領域として抽出される。これによれば、適切な領域抽出処理が実現される。   According to the above-described processing, the temporary deformation model that minimizes the total energy Ue expressed by the sum of the external energy Fe and the internal energy Ge is a temporary deformation model that optimally deforms the standard model (“optimum deformation”). Also referred to as “model”), that is, determined as an individual model. And the area | region which exists in the corresponding position of the said individual model is extracted as an extraction object area | region. According to this, an appropriate region extraction process is realized.

<B3.他の対象物領域BJ2,BJ3に関する抽出処理>
つぎに、他の対象物領域BJ2,BJ3に関する領域抽出処理について説明する。
<B3. Extraction Processing for Other Object Areas BJ2 and BJ3>
Next, an area extraction process regarding other object areas BJ2 and BJ3 will be described.

上記のようにして、複数の標準モデルMS1,MS2,MS3のうち1つの標準モデルMS1についての領域抽出動作が実行され、対象物領域BJ1が抽出される(ステップS1,S2,S3)と、さらに他の標準モデルMS2,MS3についてもモデルフィッティング手法を適用して領域抽出動作が行われ、対象物領域BJ2、BJ3が抽出される。   As described above, the region extraction operation for one standard model MS1 among the plurality of standard models MS1, MS2, and MS3 is executed to extract the object region BJ1 (steps S1, S2, and S3). The area extraction operation is performed on the other standard models MS2 and MS3 by applying the model fitting method, and the object areas BJ2 and BJ3 are extracted.

ところで、対象物領域BJ2,BJ3の抽出に際しても、上述のような領域拡張手法等を利用した上記と同様の初期位置合わせの処理(ステップS1,S2)を行うことも想定される。   By the way, when extracting the object areas BJ2 and BJ3, it is also assumed that the same initial alignment process (steps S1 and S2) as described above using the area expansion method as described above is performed.

しかしながら、上述の領域拡張手法を利用した初期位置決定処理は比較的大きな演算量を有しているため、同様の初期位置決定処理を複数の標準モデルに関して繰り返して行うとすれば処理負荷が大きくなってしまうという問題がある。また、領域拡張手法以外の手法を用いる場合であっても、各標準モデルに関する個別の初期位置決定処理が比較的大きな処理負荷を有する場合には同様の問題が発生する。   However, since the initial position determination process using the above-described region expansion method has a relatively large amount of calculation, if the same initial position determination process is repeatedly performed for a plurality of standard models, the processing load increases. There is a problem that it ends up. Even when a method other than the region expansion method is used, the same problem occurs when the individual initial position determination processing for each standard model has a relatively large processing load.

そこで、この実施形態では、他の標準モデルMS2,MS3についてモデルフィッティング手法を適用する際において、領域抽出動作(ステップS3)における標準モデルMS1の変倍量(変倍率)および移動量(並進変位および回転変位)に基づいて、他の標準モデルMS2,MS3の初期状態(初期位置および初期大きさ)を変更する手法について説明する。このような手法によれば、標準モデルMS2,MS3の初期状態を比較的簡易に(効率的に)設定して、対象物領域BJ2,BJ3をモデルフィッティングにより抽出することができる。   Therefore, in this embodiment, when the model fitting method is applied to the other standard models MS2 and MS3, the amount of magnification (magnification) and the amount of movement (translational displacement and translation) of the standard model MS1 in the region extraction operation (step S3). A method of changing the initial state (initial position and initial size) of the other standard models MS2 and MS3 based on (rotational displacement) will be described. According to such a method, the initial states of the standard models MS2 and MS3 can be set relatively easily (efficiently), and the object regions BJ2 and BJ3 can be extracted by model fitting.

そのため、まずステップS4において、ステップS3における変形前の標準モデルMP1と変形後の標準モデルMQ1との相対的関係(移動量および変倍量)を求める。詳細には、
(1)変形前の標準モデルMP1と変形後の標準モデルMQ1との変位の変化(より詳細には、モデルフィッティング手法適用時(ステップS3)における標準モデルMS1の移動量)、および
(2)変形前の標準モデルMP1と変形後の標準モデルMQ1との大きさの変化(より詳細には、モデルフィッティング手法適用時(ステップS3)における標準モデルMS1の変倍量)を求める。なお、変形後の標準モデルMQ1は対象物領域BJ1と等価であるとみなせるため、標準モデルMP1と変形後の標準モデルMQ1との相対的関係を求めることは、変形前の標準モデルMP1と対象物領域BJ1との相対的関係を求めることと等価である。
Therefore, first, in step S4, the relative relationship (movement amount and scaling amount) between the standard model MP1 before deformation in step S3 and the standard model MQ1 after deformation is obtained. In detail,
(1) Change in displacement between standard model MP1 before deformation and standard model MQ1 after deformation (more specifically, the amount of movement of standard model MS1 when the model fitting technique is applied (step S3)), and (2) deformation A change in size between the previous standard model MP1 and the deformed standard model MQ1 (more specifically, the amount of magnification of the standard model MS1 when the model fitting technique is applied (step S3)) is obtained. Since the standard model MQ1 after the deformation can be regarded as equivalent to the object area BJ1, the relative relationship between the standard model MP1 and the standard model MQ1 after the deformation is obtained by comparing the standard model MP1 before the deformation and the object. This is equivalent to obtaining a relative relationship with the region BJ1.

そして、ステップS5において、この相対的関係(詳細には、移動量および変倍量)に基づいて、対象物領域BJ2,BJ3を抽出する際における他の標準モデルMS2,MS3の初期位置および初期大きさを修正する。   In step S5, the initial positions and initial sizes of the other standard models MS2 and MS3 when extracting the object areas BJ2 and BJ3 based on this relative relationship (specifically, the moving amount and the zooming amount). Correct the size.

なお、ここでは、最初の標準モデルMS1の初期位置決定動作(ステップS2)に伴って、他の標準モデルMS2,MS3に関しても、標準モデルMS1と同様の位置変更が施されているものとし、位置変更後の標準モデルMS2,MS3をそれぞれMP2,MP3とも表記するものとする。換言すれば、ステップS5に先立つステップS2において、3つの標準モデルMS1〜MS3は、当初の相対位置関係を維持したまま移動され、標準モデルMP1〜MP3(図15参照)となっているものとする。また、後述するように、ステップS5の修正動作によって、標準モデルMP2が標準モデルMF2に修正され、標準モデルMP3が標準モデルMF3に修正される(図16参照)。   Here, with the initial position determination operation (step S2) of the first standard model MS1, the other standard models MS2 and MS3 are assumed to have been subjected to the same position change as the standard model MS1. The changed standard models MS2 and MS3 are also expressed as MP2 and MP3, respectively. In other words, in step S2 prior to step S5, the three standard models MS1 to MS3 are moved while maintaining the initial relative positional relationship and become standard models MP1 to MP3 (see FIG. 15). . As will be described later, the standard model MP2 is corrected to the standard model MF2 and the standard model MP3 is corrected to the standard model MF3 by the correction operation in step S5 (see FIG. 16).

図15は、モデルフィッティングによる変形処理(ステップS3)前の標準モデルMS1(MP1)等を示す概念図である。また、図16は、変形処理前の標準モデルMP1および変形処理後の標準モデルMQ1等を示す概念図である。図16においては、変形処理(ステップS3)前の標準モデルMP1が破線で示され、変形処理(ステップS3)後の標準モデルMQ1が実線で示されている。   FIG. 15 is a conceptual diagram showing the standard model MS1 (MP1) and the like before the deformation process (step S3) by model fitting. FIG. 16 is a conceptual diagram showing the standard model MP1 before the deformation process, the standard model MQ1 after the deformation process, and the like. In FIG. 16, the standard model MP1 before the deformation process (step S3) is indicated by a broken line, and the standard model MQ1 after the deformation process (step S3) is indicated by a solid line.

上述のステップS3における標準モデルMS1の変形(MP1→MQ1)は、変位の変化と大きさの変化とに大別される。より詳細には、このような標準モデルの変形は、並進要素と回転要素と変倍要素との3要素を含む。以下では、これらの各要素および当該各要素を修正する動作について、図17〜図19を参照しながら説明する。   The deformation (MP1 → MQ1) of the standard model MS1 in step S3 is roughly divided into a change in displacement and a change in size. More specifically, such a standard model deformation includes three elements: a translation element, a rotation element, and a scaling element. Hereinafter, these elements and operations for correcting the elements will be described with reference to FIGS. 17 to 19.

図17は、変形前後の標準モデルMP1,MQ1の相互間において、並進変位ベクトルAX=(x,y,z)T(Tは転置を意味する)で示される並進変位が存在する状態を示す図である。なお、このベクトルAXは、標準モデルMS1の変形前の重心位置GP1と変形後の重心位置GQ1との間の並進変位を表すベクトルである。このような並進変位が存在する場合には、他の標準モデルMS2(MP2),MS3(MP3)に対して上記の並進変位ベクトルAXと同じ変位量の変位を加えて移動させる。この結果、標準モデルMP2は標準モデルMF2に修正され、標準モデルMP3は標準モデルMF3に修正される。換言すれば、標準モデルMP2,MP3が平行移動される。 FIG. 17 is a diagram showing a state in which there is a translational displacement represented by a translational displacement vector AX = (x, y, z) T (T means transposition) between the standard models MP1 and MQ1 before and after deformation. It is. The vector AX is a vector representing the translational displacement between the center of gravity position GP1 before deformation of the standard model MS1 and the center of gravity position GQ1 after deformation. When such a translational displacement exists, the other standard models MS2 (MP2) and MS3 (MP3) are moved by applying the same displacement amount as the translational displacement vector AX. As a result, the standard model MP2 is corrected to the standard model MF2, and the standard model MP3 is corrected to the standard model MF3. In other words, the standard models MP2 and MP3 are translated.

また、図18は、変形前後の標準モデルMP1,MQ1の相互間において、回転変位ベクトルΘ=(θ,φ,ψ)Tで示される回転変位が存在する状態を示す図である。なお、ベクトルΘは、所定の回転中心(ここでは重心に一致する場合を例示している)回りの回転変位を表すベクトルである。このような回転変位が存在する場合には、他の標準モデルMS2(MP2),MS3(MP3)を上記回転中心回りに上記回転変位を加えて移動させる。この結果、標準モデルMP2は標準モデルMF2に修正され、標準モデルMP3は標準モデルMF3に移動される。換言すれば、標準モデルMP2,MP3が回転移動される。 FIG. 18 is a diagram showing a state in which there is a rotational displacement represented by a rotational displacement vector Θ = (θ, φ, ψ) T between the standard models MP1 and MQ1 before and after the deformation. The vector Θ is a vector representing a rotational displacement around a predetermined center of rotation (here, a case where it coincides with the center of gravity is illustrated). When such rotational displacement exists, the other standard models MS2 (MP2) and MS3 (MP3) are moved around the rotational center by applying the rotational displacement. As a result, the standard model MP2 is corrected to the standard model MF2, and the standard model MP3 is moved to the standard model MF3. In other words, the standard models MP2 and MP3 are rotationally moved.

また、図19は、変形前後の標準モデルMP1,MQ1の相互間において、変倍率αで示される変倍量が存在する状態を示す図である。なお、変倍率αは、変形後の標準モデルMQ1の大きさを変形前の標準モデルMP1の大きさで除した値である。変倍率αが1より大きい場合には標準モデルMS1が拡大変形されていることを意味し、変倍率αが1より小さい場合には標準モデルMS1が縮小変形されていることを意味する。   FIG. 19 is a diagram illustrating a state in which there is a zoom amount indicated by the zoom factor α between the standard models MP1 and MQ1 before and after the deformation. The scaling factor α is a value obtained by dividing the size of the standard model MQ1 after deformation by the size of the standard model MP1 before deformation. When the scaling factor α is larger than 1, it means that the standard model MS1 is enlarged and deformed, and when the scaling factor α is smaller than 1, it means that the standard model MS1 is reduced and deformed.

変倍率αで表現される関係が存在する場合には、他の標準モデルMS2(MP2),MS3(MP3)を、上記の変倍率αで変倍(拡大または縮小)するとともに、標準モデルMP1と標準モデルMP2との距離をα倍し且つ標準モデルMP1と標準モデルMP3との距離をα倍するように移動することによって、標準モデルMP2は標準モデルMF2に修正され、標準モデルMP3は標準モデルMF3に修正される。換言すれば、標準モデルMP2,MP3は、拡大あるいは縮小されるとともに、その変倍率に応じて移動する。   If there is a relationship expressed by the scaling factor α, the other standard models MS2 (MP2) and MS3 (MP3) are scaled (enlarged or reduced) by the scaling factor α, and the standard model MP1 The standard model MP2 is modified to the standard model MF2 by moving the distance between the standard model MP2 and the standard model MP1 and the standard model MP3 so that the distance between the standard model MP1 and the standard model MP3 is α, and the standard model MP3 is the standard model MF3. To be corrected. In other words, the standard models MP2 and MP3 are enlarged or reduced, and moved according to the magnification.

再び、図16を参照する。一般的に表現すれば、ステップS3における標準モデルMS1の変形(MP1→MQ1)は、図17から図19のような各種の変形が合成された変形である。標準モデルMP2,MP3に対して上記のような各種の修正が適宜に施されることによって、標準モデルMP2,MP3は、図16に示すような標準モデルMF2,MF3となる。なお、図16においては、修正処理(ステップS5)前の標準モデルMP2,MP3が破線で表現されており、当該修正処理後の標準モデルMF2,MF3が実線で表現されている。   Reference is again made to FIG. Generally speaking, the deformation (MP1 → MQ1) of the standard model MS1 in step S3 is a deformation obtained by combining various deformations as shown in FIGS. By appropriately performing various modifications as described above on the standard models MP2 and MP3, the standard models MP2 and MP3 become standard models MF2 and MF3 as shown in FIG. In FIG. 16, the standard models MP2 and MP3 before the correction process (step S5) are represented by broken lines, and the standard models MF2 and MF3 after the correction process are represented by solid lines.

より具体的には、まず、変形前の標準モデルMP1を変形後の標準モデルMQ1へと変換する図16のようなアフィン変換を求める。たとえば、標準モデルMS1の制御点のうちのいくつか(複数)を「代表制御点」として選出し、当該代表制御点の変形前後の座標値に基づいてアフィン変換行列を求めることができる。そして、当該アフィン変換を用いて、標準モデルMP2,MP3を修正する。これによれば、上記のような変倍(拡大又は縮小)、回転移動、平行移動の合成変換が施された後の標準モデルMF2,MF3を得ることができる。   More specifically, first, an affine transformation as shown in FIG. 16 for transforming the standard model MP1 before the transformation into the standard model MQ1 after the transformation is obtained. For example, some (plural) of the control points of the standard model MS1 can be selected as “representative control points”, and the affine transformation matrix can be obtained based on the coordinate values before and after the deformation of the representative control points. Then, the standard models MP2 and MP3 are corrected using the affine transformation. According to this, it is possible to obtain the standard models MF2 and MF3 after being subjected to the combined transformation of scaling (enlargement or reduction), rotational movement, and parallel movement as described above.

その後、ステップS6において、修正処理後の標準モデルMF2,MF3を用いてモデルフィッティング処理が実行される。このステップS6の処理は、ステップS3の処理と同様である。ステップS6の処理(モデルフィッティング処理)においては、標準モデルMF2が標準モデルMQ2(図16参照)に変形され、標準モデルMF3が標準モデルMQ3に変形される。そして、モデルフィッティング後(変形後)の標準モデルMQ2,MQ3(図16において二点鎖線で示す)は、それぞれ、対象物領域BJ2,BJ3と等価であるとみなせることに基づいて、変形後の標準モデルMQ2の存在領域が対象物領域BJ2として抽出され、変形後の標準モデルMQ3の存在領域が対象物領域BJ3として抽出される。   Thereafter, in step S6, model fitting processing is executed using the standard models MF2 and MF3 after the correction processing. The process in step S6 is the same as the process in step S3. In the process of step S6 (model fitting process), the standard model MF2 is transformed into the standard model MQ2 (see FIG. 16), and the standard model MF3 is transformed into the standard model MQ3. The standard models MQ2 and MQ3 (shown by two-dot chain lines in FIG. 16) after model fitting (after deformation) are based on the fact that they can be regarded as equivalent to the object regions BJ2 and BJ3, respectively. The existence area of the model MQ2 is extracted as the object area BJ2, and the existence area of the standard model MQ3 after the deformation is extracted as the object area BJ3.

このようにして、標準モデルMS2,MS3にそれぞれ対応する各対象物領域BJ2,BJ3が3次元計測データから抽出される。   In this way, the object areas BJ2 and BJ3 corresponding to the standard models MS2 and MS3, respectively, are extracted from the three-dimensional measurement data.

以上の動作によって、3つの対象物領域BJ1,BJ2,BJ3をモデルフィッティング手法を用いて抽出することができる。   With the above operation, the three object regions BJ1, BJ2, and BJ3 can be extracted using the model fitting method.

上記実施形態においては、標準モデルMS2,MS3に対応する対象物領域BJ2,BJ3をモデルフィッティング手法を用いて抽出する動作に先立って、標準モデルMS1と対象物領域BJ1との相対的関係に基づいて他の標準モデルMS2,MS3が修正される。したがって、標準モデルMS2,MS3についての初期位置合わせ等が容易に実現される。たとえば、標準モデルMS2,MS3については、領域拡張手法を用いた初期位置合わせは不要になり、効率的である。   In the above embodiment, prior to the operation of extracting the object areas BJ2 and BJ3 corresponding to the standard models MS2 and MS3 using the model fitting technique, based on the relative relationship between the standard model MS1 and the object area BJ1. Other standard models MS2 and MS3 are modified. Accordingly, initial alignment and the like for the standard models MS2 and MS3 can be easily realized. For example, with respect to the standard models MS2 and MS3, initial alignment using the region expansion method is unnecessary and efficient.

また特に、最初の標準モデル以外の複数の標準モデル(たとえばMS2,MS3)に関する初期位置合わせ等を、相対的関係を用いてまとめて行うことができるので、個別に拡張領域法等を用いて初期位置合わせを行う場合に比べて、効率的である。   In particular, since initial alignment and the like for a plurality of standard models (for example, MS2 and MS3) other than the first standard model can be performed collectively using relative relationships, initial expansion using the extended region method or the like can be performed individually. It is more efficient than the case where alignment is performed.

また特に、モデルフィッティング処理における標準モデルMS2,MS3の初期大きさを修正することによれば、3次元計測データにおける本来の対象物領域BJ2,BJ3に比較的近い大きさを有する状態から、標準モデルMS2,MS3を対象物領域BJ2,BJ3にフィッティングさせる処理を開始することができるので、モデルフィッティング処理における抽出精度を向上させることが可能である。   Further, in particular, by correcting the initial sizes of the standard models MS2 and MS3 in the model fitting process, the standard model is changed from a state having a size relatively close to the original object regions BJ2 and BJ3 in the three-dimensional measurement data. Since the process of fitting MS2 and MS3 to the object regions BJ2 and BJ3 can be started, the extraction accuracy in the model fitting process can be improved.

<C.変形例>
以上、この発明の実施の形態について説明したが、この発明は上記説明した内容のものに限定されるものではない。
<C. Modification>
Although the embodiments of the present invention have been described above, the present invention is not limited to the contents described above.

たとえば、上記においては、標準モデルMS1についての初期位置合わせを領域拡張手法を用いて行う場合(図4のステップS1,S2等)を例示したが、これに限定されない。詳細には、対象物における特定の特徴点(例えば先鋭部分の先端部等)を予め3次元計測データ(3次元画像)から抽出しておき、標準モデルMS1と3次元計測データとの間での当該特徴点に関する「ずれ」を補正するように標準モデルMS1の初期位置を修正するようにしてもよい。   For example, in the above, the case where the initial alignment for the standard model MS1 is performed using the region expansion method (steps S1, S2, etc. in FIG. 4) is illustrated, but the present invention is not limited to this. Specifically, a specific feature point (for example, the tip of a sharp portion) in the object is extracted in advance from the three-dimensional measurement data (three-dimensional image), and the standard feature MS1 and the three-dimensional measurement data are extracted. The initial position of the standard model MS1 may be corrected so as to correct the “deviation” regarding the feature point.

また、上記実施形態においては、標準モデルMP1を対象物領域BJ1にフィッティングさせる際における標準モデルMP1の変倍量および移動量の双方を、両者(標準モデルMP1および対象物領域BJ1)の相対的関係として求める場合を例示したが、これに限定されない。たとえば、標準モデルMP1を対象物領域BJ1にフィッティングさせる際における標準モデルMP1の移動量のみを両者の相対的関係として求めてもよく、あるいは、標準モデルMP1を対象物領域BJ1にフィッティングさせる際における標準モデルMP1の変倍量のみを両者の相対的関係として求めてもよい。   In the above embodiment, both the amount of scaling and the amount of movement of the standard model MP1 when fitting the standard model MP1 to the object region BJ1 are relative to each other (standard model MP1 and object region BJ1). However, the present invention is not limited to this. For example, only the movement amount of the standard model MP1 when fitting the standard model MP1 to the object region BJ1 may be obtained as a relative relationship between them, or the standard when fitting the standard model MP1 to the object region BJ1. Only the scaling amount of the model MP1 may be obtained as a relative relationship between them.

さらに、上記実施形態においては、モデルフィッティング手法を適用して対象物領域BJ2,BJ3を抽出する際における、標準モデルMP2,MP3の初期位置と初期大きさとの双方を修正する場合を例示したが、これに限定されない。たとえば、標準モデルMP2,MP3の初期位置のみを修正するようにしてもよく、あるいは、標準モデルMP2,MP3の初期大きさのみを修正するようにしてもよい。   Furthermore, in the above embodiment, the case where both the initial position and the initial size of the standard models MP2 and MP3 are corrected when the object regions BJ2 and BJ3 are extracted by applying the model fitting method is illustrated. It is not limited to this. For example, only the initial positions of the standard models MP2 and MP3 may be corrected, or only the initial sizes of the standard models MP2 and MP3 may be corrected.

また、上記実施形態においては、X線CT装置によって取得された3次元画像から対象物領域を抽出する場合を例示したが、これに限定されず、MRI装置など他の装置によって取得された画像から対象物領域を抽出するようにしてもよい。   Moreover, in the said embodiment, although the case where a target object area | region was extracted from the three-dimensional image acquired by the X-ray CT apparatus was illustrated, it is not limited to this, From the image acquired by other apparatuses, such as an MRI apparatus, You may make it extract a target object area | region.

また、上記実施形態においては、メモリカード51に格納された計測データを読み込む場合を想定しているが、これに限定されず、他の格納装置(例えばサーバコンピュータ)に格納された計測データをネットワーク等を介して受信して取得するようにしてもよい。   Moreover, in the said embodiment, although the case where the measurement data stored in the memory card 51 is read is assumed, it is not limited to this, Measurement data stored in another storage device (for example, server computer) is networked. It is also possible to receive and acquire the information via, for example.

実施形態に係る領域抽出装置の概要を示す図である。It is a figure which shows the outline | summary of the area | region extraction apparatus which concerns on embodiment. 人体の一部(腰部付近)を示す模式図である。It is a schematic diagram which shows a part of human body (near the waist | hip | lumbar part). 領域抽出装置の各種機能を示すブロック図である。It is a block diagram which shows the various functions of an area | region extraction apparatus. 領域抽出装置の全体動作を示すフローチャートである。It is a flowchart which shows the whole operation | movement of an area | region extraction apparatus. 領域拡張手法を用いた暫定領域抽出処理を示すフローチャートである。It is a flowchart which shows the temporary area | region extraction process using an area | region expansion method. X線CT装置による人体の3次元画像を示す図である。It is a figure which shows the three-dimensional image of the human body by X-ray CT apparatus. 所定のスライス画像上の画素M1付近の拡大図である。It is an enlarged view near pixel M1 on a predetermined slice image. 重心点を利用した初期位置決定処理を示すフローチャートである。It is a flowchart which shows the initial position determination process using a gravity center point. 3次元画像に含まれる物体を示す図である。It is a figure which shows the object contained in a three-dimensional image. モデルフィッティング処理を示すフローチャートである。It is a flowchart which shows a model fitting process. 標準モデルを初期位置に移動させる様子を示す図である。It is a figure which shows a mode that a standard model is moved to an initial position. 初期配置された標準モデルと抽出対象物体との関係を示す図である。It is a figure which shows the relationship between the standard model initially arranged, and an extraction object. スライス画像PQ1、PQ2及びPQ4を示す図である。It is a figure which shows the slice images PQ1, PQ2, and PQ4. 制御点間を仮想バネで繋いだ模式図である。It is the schematic diagram which connected between control points with the virtual spring. モデルフィッティングによる変形処理(ステップS3)前の標準モデルMS1(MP1)等を示す図である。It is a figure which shows standard model MS1 (MP1) etc. before the deformation | transformation process (step S3) by model fitting. 変形処理前後の各標準モデルを示す図である。It is a figure which shows each standard model before and behind a deformation | transformation process. 修正処理における並進要素を示す図である。It is a figure which shows the translation element in a correction process. 修正処理における回転要素を示す図である。It is a figure which shows the rotation element in a correction process. 修正処理における変倍要素を示す図である。It is a figure which shows the variable magnification element in a correction process.

符号の説明Explanation of symbols

1 領域抽出装置
35 モデルフィッティング部
Θ 回転変位ベクトル
α 変倍率
AX 並進変位ベクトル
BJ1,BJ2,BJ3 対象物領域
Cj,Ck,Cz 制御点
MF2,MF3,MPi,MQi,MSi 標準モデル
PD,PM,PQ1,PQ2,PQ4,PU,SD スライス画像
Qj 対応点
TDP1 3次元画像
1 region extraction device 35 model fitting unit Θ rotational displacement vector α scaling factor AX translational displacement vector BJ1, BJ2, BJ3 object region Cj, Ck, Cz control point MF2, MF3, MPi, MQi, MSi standard model PD, PM, PQ1 , PQ2, PQ4, PU, SD Slice image Qj Corresponding point TDP1 3D image

Claims (5)

計測データから複数の対象物領域を抽出する領域抽出装置であって、
それぞれ異なる対象物に関する複数の標準モデルを格納する手段と、
前記複数の標準モデルのうちの第1の標準モデルを用いて、前記複数の対象物領域のうちの第1の対象物領域を前記計測データからモデルフィッティング手法により抽出する手段と、
前記第1の標準モデルを前記第1の対象物領域にフィッティングさせる際における前記第1の標準モデルの変倍量および/または移動量を、前記第1の標準モデルと前記第1の対象物領域との相対的関係として求める手段と、
前記相対的関係に基づいて、前記複数のモデルのうちの第2の標準モデルの初期状態を修正する修正手段と、
修正後の前記第2の標準モデルを用いて、前記複数の対象物領域のうちの第2の対象物領域を前記計測データからモデルフィッティング手法により抽出する手段と、
を備えることを特徴とする領域抽出装置。
An area extraction apparatus for extracting a plurality of object areas from measurement data,
Means for storing a plurality of standard models for different objects;
Means for extracting a first object region of the plurality of object regions from the measurement data by a model fitting method using a first standard model of the plurality of standard models;
When the first standard model is fitted to the first object region, the amount of scaling and / or movement of the first standard model is expressed as the first standard model and the first object region. A means for obtaining a relative relationship with
Correction means for correcting an initial state of a second standard model of the plurality of models based on the relative relationship;
Means for extracting a second object region of the plurality of object regions from the measurement data by a model fitting method using the second standard model after correction;
An area extracting apparatus comprising:
請求項1に記載の領域抽出装置において、
前記修正手段は、前記第2の標準モデルの初期位置を修正することを特徴とする領域抽出装置。
The region extraction device according to claim 1, wherein
The area extracting apparatus, wherein the correcting means corrects an initial position of the second standard model.
請求項1または請求項2に記載の領域抽出装置において、
前記修正手段は、前記第2の標準モデルの初期大きさを修正することを特徴とする領域抽出装置。
In the area extraction device according to claim 1 or 2,
The region extracting apparatus characterized in that the correcting means corrects an initial size of the second standard model.
計測データから複数の対象物領域を抽出する領域抽出方法であって、
それぞれ異なる対象物に関する複数の標準モデルのうちの第1の標準モデルを用いて、前記複数の対象物領域のうちの第1の対象物領域を前記計測データからモデルフィッティング手法により抽出するステップと、
前記第1の標準モデルを前記第1の対象物領域にフィッティングさせる際における前記第1の標準モデルの変倍量および/または移動量を、前記第1の標準モデルと前記第1の対象物領域との相対的関係として求めるステップと、
前記相対的関係に基づいて、前記複数のモデルのうちの第2の標準モデルの初期状態を修正するステップと、
修正後の前記第2の標準モデルを用いて、前記複数の対象物領域のうちの第2の対象物領域を前記計測データからモデルフィッティング手法により抽出するステップと、
を備えることを特徴とする領域抽出方法。
An area extraction method for extracting a plurality of object areas from measurement data,
Extracting a first object region of the plurality of object regions from the measurement data by a model fitting method using a first standard model of a plurality of standard models for different objects;
When the first standard model is fitted to the first object region, the amount of scaling and / or movement of the first standard model is expressed as the first standard model and the first object region. A step for obtaining a relative relationship with
Modifying an initial state of a second standard model of the plurality of models based on the relative relationship;
Extracting the second object region of the plurality of object regions from the measurement data by a model fitting technique using the second standard model after correction;
A region extraction method comprising:
コンピュータに、
計測データから複数の対象物領域を抽出する領域抽出方法であって、
それぞれ異なる対象物に関する複数の標準モデルのうちの第1の標準モデルを用いて、前記複数の対象物領域のうちの第1の対象物領域を前記計測データからモデルフィッティング手法により抽出するステップと、
前記第1の標準モデルを前記第1の対象物領域にフィッティングさせる際における前記第1の標準モデルの変倍量および/または移動量を、前記第1の標準モデルと前記第1の対象物領域との相対的関係として求めるステップと、
前記相対的関係に基づいて、前記複数のモデルのうちの第2の標準モデルの初期状態を修正するステップと、
修正後の前記第2の標準モデルを用いて、前記複数の対象物領域のうちの第2の対象物領域を前記計測データからモデルフィッティング手法により抽出するステップと、
備える領域抽出方法を実行させるためのプログラム。
On the computer,
An area extraction method for extracting a plurality of object areas from measurement data,
Extracting a first object region of the plurality of object regions from the measurement data by a model fitting method using a first standard model of a plurality of standard models for different objects;
When the first standard model is fitted to the first object region, the amount of scaling and / or movement of the first standard model is expressed as the first standard model and the first object region. A step for obtaining a relative relationship with
Modifying an initial state of a second standard model of the plurality of models based on the relative relationship;
Extracting the second object region of the plurality of object regions from the measurement data by a model fitting technique using the second standard model after correction;
A program for executing a region extraction method provided.
JP2005182221A 2005-06-22 2005-06-22 Region extraction apparatus, region extraction method and program Expired - Fee Related JP4701861B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005182221A JP4701861B2 (en) 2005-06-22 2005-06-22 Region extraction apparatus, region extraction method and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005182221A JP4701861B2 (en) 2005-06-22 2005-06-22 Region extraction apparatus, region extraction method and program

Publications (2)

Publication Number Publication Date
JP2007000267A true JP2007000267A (en) 2007-01-11
JP4701861B2 JP4701861B2 (en) 2011-06-15

Family

ID=37686411

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005182221A Expired - Fee Related JP4701861B2 (en) 2005-06-22 2005-06-22 Region extraction apparatus, region extraction method and program

Country Status (1)

Country Link
JP (1) JP4701861B2 (en)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009232962A (en) * 2008-03-26 2009-10-15 Fujifilm Corp Target region extraction device, method and program
JP2010510825A (en) * 2006-11-28 2010-04-08 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ Data processing method, apparatus and computer program
JP2010172511A (en) * 2009-01-29 2010-08-12 Fujifilm Ri Pharma Co Ltd Apparatus and method for displaying organic surface image
JP2010253251A (en) * 2009-03-31 2010-11-11 Ge Medical Systems Global Technology Co Llc Magnetic resonance imaging apparatus, method for setting reference point, and program
JP2013519409A (en) * 2010-02-10 2013-05-30 アイモーフィクス リミテッド Image analysis
US9530077B2 (en) 2010-02-10 2016-12-27 Imorphics Limited Image analysis
US10855916B2 (en) 2018-03-15 2020-12-01 Ricoh Company, Ltd. Image processing apparatus, image capturing system, image processing method, and recording medium
US11928775B2 (en) 2020-11-26 2024-03-12 Ricoh Company, Ltd. Apparatus, system, method, and non-transitory medium which map two images onto a three-dimensional object to generate a virtual image

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002133400A (en) * 2000-10-24 2002-05-10 Oki Electric Ind Co Ltd Object extraction image processor
JP2002197443A (en) * 2000-12-25 2002-07-12 Minolta Co Ltd Generator of three-dimensional form data
WO2004036500A2 (en) * 2002-10-16 2004-04-29 Koninklijke Philips Electronics N.V. Hierarchical image segmentation
JP2005169118A (en) * 2003-12-08 2005-06-30 Siemens Ag Method for segmenting tomographic image data and image processing system

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002133400A (en) * 2000-10-24 2002-05-10 Oki Electric Ind Co Ltd Object extraction image processor
JP2002197443A (en) * 2000-12-25 2002-07-12 Minolta Co Ltd Generator of three-dimensional form data
WO2004036500A2 (en) * 2002-10-16 2004-04-29 Koninklijke Philips Electronics N.V. Hierarchical image segmentation
JP2005169118A (en) * 2003-12-08 2005-06-30 Siemens Ag Method for segmenting tomographic image data and image processing system

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010510825A (en) * 2006-11-28 2010-04-08 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ Data processing method, apparatus and computer program
JP2009232962A (en) * 2008-03-26 2009-10-15 Fujifilm Corp Target region extraction device, method and program
JP2010172511A (en) * 2009-01-29 2010-08-12 Fujifilm Ri Pharma Co Ltd Apparatus and method for displaying organic surface image
JP2010253251A (en) * 2009-03-31 2010-11-11 Ge Medical Systems Global Technology Co Llc Magnetic resonance imaging apparatus, method for setting reference point, and program
JP2013519409A (en) * 2010-02-10 2013-05-30 アイモーフィクス リミテッド Image analysis
US9530077B2 (en) 2010-02-10 2016-12-27 Imorphics Limited Image analysis
US10198662B2 (en) 2010-02-10 2019-02-05 Mako Surgical Corp. Image analysis
US10855916B2 (en) 2018-03-15 2020-12-01 Ricoh Company, Ltd. Image processing apparatus, image capturing system, image processing method, and recording medium
US11928775B2 (en) 2020-11-26 2024-03-12 Ricoh Company, Ltd. Apparatus, system, method, and non-transitory medium which map two images onto a three-dimensional object to generate a virtual image

Also Published As

Publication number Publication date
JP4701861B2 (en) 2011-06-15

Similar Documents

Publication Publication Date Title
JP5017909B2 (en) Region extraction apparatus, region extraction method, and program
JP4701861B2 (en) Region extraction apparatus, region extraction method and program
JP5654619B2 (en) Method and system for obtaining subject specific 3D information about the geometry of a body part
US20210012492A1 (en) Systems and methods for obtaining 3-d images from x-ray information for deformed elongate bones
JP4152648B2 (en) Method for segmenting a 3D image contained in an object
JP5355074B2 (en) 3D shape data processing apparatus, 3D shape data processing method and program
JP2016512977A (en) Medical image alignment
EP3025303B1 (en) Multi-modal segmentation of image data
US10445891B2 (en) Medical image processing apparatus and method
US20140218397A1 (en) Method and apparatus for providing virtual device planning
JP2007098028A (en) Modeling apparatus, modeling method, region extraction apparatus, and program
US20210256703A1 (en) Machine learning device, estimation device, non-transitory computer readable medium, and learned model
WO2019180746A1 (en) A method for obtaining 3-d deformity correction for bones
JP4910478B2 (en) Modeling apparatus, modeling method and program
JP2007312837A (en) Region extracting apparatus, region extracting method and program
US20070230782A1 (en) Method, a Computer Program, and Apparatus, an Image Analysis System and an Imaging System for an Object Mapping in a Multi-Dimensional Dataset
US10922853B2 (en) Reformatting while taking the anatomy of an object to be examined into consideration
JP2007534416A5 (en)
JP4720478B2 (en) Modeling device, region extraction device, and program
JP2007312971A (en) Modeling apparatus, modeling method and program
JP2007159927A (en) Modeling device and method, regional extractor, regional extraction method and program
Pettersson et al. Automatic hip bone segmentation using non-rigid registration
JP4736755B2 (en) Modeling device, region extraction device, modeling method and program
US20090115796A1 (en) Priori information encoding for manual adaptation of geometric models
Ün et al. An analytical method to create patient-specific deformed bone models using X-ray images and a healthy bone model

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080424

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20080605

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100921

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100924

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101118

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110208

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110221

R150 Certificate of patent or registration of utility model

Ref document number: 4701861

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees