JP2012000477A - Image processing apparatus - Google Patents

Image processing apparatus Download PDF

Info

Publication number
JP2012000477A
JP2012000477A JP2011172434A JP2011172434A JP2012000477A JP 2012000477 A JP2012000477 A JP 2012000477A JP 2011172434 A JP2011172434 A JP 2011172434A JP 2011172434 A JP2011172434 A JP 2011172434A JP 2012000477 A JP2012000477 A JP 2012000477A
Authority
JP
Japan
Prior art keywords
image
display
images
image processing
dimensional
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2011172434A
Other languages
Japanese (ja)
Inventor
Satoru Oishi
悟 大石
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2011172434A priority Critical patent/JP2012000477A/en
Publication of JP2012000477A publication Critical patent/JP2012000477A/en
Withdrawn legal-status Critical Current

Links

Images

Abstract

PROBLEM TO BE SOLVED: To provide an image processing apparatus, capable of synchronously displaying a plurality of images of display operation and image processing on the basis of imaging information when capturing an image and display parameters, facilitating comparison of the images, facilitating confirmation of change with time and therapeutic effect, and capable of providing medical information for helping medical examination and diagnosis.SOLUTION: The image processing apparatus is capable of processing a plurality of three-dimensional images. The apparatus includes: a synchronizing device for synchronously processing the second three-dimensional image so as to become the same embodiment as the first three-dimensional image according to a predetermined operation; a synthesis device for synthesizing the first three-dimensional image with the second three-dimensional image, which are synchronously processed, so as to match a specified point; and a display device capable of displaying the synthesized first and second three-dimensional images.

Description

本発明は、画像診断装置により得られた医療画像や医療情報を表示する画像処理装置に関する。   The present invention relates to an image processing apparatus that displays medical images and medical information obtained by an image diagnostic apparatus.

従来において、医用画像診断装置等にて撮影された患者の医用画像を観察するために画像表示および画像処理が行える画像処理装置が用いられている。この画像処理装置は二次元画像の表示に加え、三次元画像を観察することもできる。この観察の際には、比較のため例えば各々の画像表示の観察角度及び拡大率を全く同じ状態にして観察することにより、画像同士の比較が容易になる。三次元画像を表示する装置では、複数の三次元画像を表示することができるものもある。   Conventionally, an image processing apparatus capable of image display and image processing is used to observe a medical image of a patient photographed by a medical image diagnostic apparatus or the like. This image processing apparatus can observe a three-dimensional image in addition to displaying a two-dimensional image. At the time of this observation, for comparison, for example, the images can be easily compared by observing with the observation angle and magnification rate of each image display being exactly the same. Some apparatuses that display a three-dimensional image can display a plurality of three-dimensional images.

従来の図4に示される画像モニタ18を備えた画像処理装置にて表示される複数の画像は、主には別々にそれぞれの表示画像に対して操作することが行われる。一度に複数枚の表示画像を操作できる画像処理装置もあるが、それはその時々での表示状態からの変化分を同期させるのみであり、例えば角度同期して表示するためには、一度に操作できる装置で2つの画像の角度を同一に設定し、さらに一度に操作する表示機能を選択すると言う最低2アクションの操作により実行している。表示画面20には2つの三次元画像表示がされているが、互いの表示スケールは同期していないので、これを同期させるために数ステップの操作を要する。   A plurality of images displayed by an image processing apparatus including the conventional image monitor 18 shown in FIG. 4 are mainly operated separately for each display image. There is also an image processing device that can operate multiple display images at a time, but it only synchronizes the change from the display state at that time, for example, it can be operated at once to display in angle synchronization It is executed by an operation of at least two actions that the angle of two images is set to be the same by the apparatus and a display function to be operated at once is selected. Two three-dimensional images are displayed on the display screen 20, but the display scales of the two are not synchronized with each other, and several steps of operations are required to synchronize them.

特開平8−212325号公報JP-A-8-212325

しかしながら、従来の画像処理装置においては以下のような解決すべき課題があった。   However, the conventional image processing apparatus has the following problems to be solved.

表示画像の操作方法において、表示された患部画像の変化や治療効果を確認するためにはマニュアル操作により観察角度、拡大率、表示用画像処理といった画像処理操作を複数の画像に対して同じにして観察する必要があった。   In the operation method of the display image, in order to confirm the change of the displayed affected part image and the therapeutic effect, the image processing operations such as the observation angle, the enlargement ratio, and the display image processing are made the same for a plurality of images by manual operation It was necessary to observe.

時間と労力、更に熟練を要するこれらの操作の手間の多さが、これまで三次元画像の比較読影を広めることへの一つの障害となっていた。比較読影が臨床医学的に有用な診断・診察手法であることは、X線撮影やCT、MRIの断層像等の二次元画像で既に広く認められている。同様に三次元画像の比較読影も有用であることは想像に難くなく、撮影角度、拡大率、表示用画像処理を同期することが可能な画像処理装置が望まれていた。   The time, labor, and labor of these operations, which require more skill, have been an obstacle to spreading comparative interpretation of 3D images. The fact that comparative interpretation is a useful diagnostic / diagnosis method in clinical medicine has already been widely recognized in two-dimensional images such as X-ray imaging, CT, and MRI tomographic images. Similarly, it is not difficult to imagine that comparative interpretation of a three-dimensional image is useful, and an image processing apparatus that can synchronize an imaging angle, an enlargement ratio, and display image processing has been desired.

本発明の画像処理装置はこれらの課題を解決するものであり、表示操作や画像処理を撮影時の撮影情報および表示パラメータに基いて複数の画像を同期させて表示でき、画像の比較を容易にし、経時変化や治療効果の確認も容易であって、また、診察や診断の援助となる医療情報の提供が可能な画像処理装置を提供することを目的とする。   The image processing apparatus of the present invention solves these problems, and can display and synchronize a plurality of images based on shooting information and display parameters at the time of shooting, thereby facilitating comparison of images. It is an object of the present invention to provide an image processing apparatus that can easily check changes over time and treatment effects, and can provide medical information that assists in diagnosis and diagnosis.

本発明の実施形態に係る画像処理装置は、複数の三次元画像を処理可能な画像処理装置において、所定の操作に従い、前記第1の三次元画像と同じ態様となるよう前記第2の三次元画像を同期処理する同期手段、前記同期処理された前記第1の三次元画像と前記第2の三次元画像とを指定した点を一致させるように合成する手段、及び前記合成した第1の三次元画像及び第2の三次元画像を表示可能な表示手段を備えるものである。   In an image processing apparatus according to an embodiment of the present invention, in the image processing apparatus capable of processing a plurality of three-dimensional images, according to a predetermined operation, the second three-dimensional image has the same aspect as the first three-dimensional image. Synchronizing means for synchronously processing images, means for synthesizing the synchronized three-dimensional image and the second three-dimensional image so that designated points coincide with each other, and the synthesized first tertiary Display means capable of displaying the original image and the second three-dimensional image are provided.

本発明の実施の形態による画像処理装置の構成を説明するための概略図。BRIEF DESCRIPTION OF THE DRAWINGS Schematic for demonstrating the structure of the image processing apparatus by embodiment of this invention. 本発明の実施の形態による画像処理装置の構成を説明するための概略図。BRIEF DESCRIPTION OF THE DRAWINGS Schematic for demonstrating the structure of the image processing apparatus by embodiment of this invention. 本発明の実施の形態による画像処理装置による画面表示の一つの例を示す図。The figure which shows one example of the screen display by the image processing apparatus by embodiment of this invention. 従来の画像処理装置による画面表示の一つの例を示す図。The figure which shows one example of the screen display by the conventional image processing apparatus.

<第1の実施の形態>
図1は本発明の第1の実施の形態による画像処理装置の構成を説明するための概略図である。
<First Embodiment>
FIG. 1 is a schematic diagram for explaining the configuration of an image processing apparatus according to a first embodiment of the present invention.

この画像処理装置の構成は、ネットワーク8を経由してCT装置4、MRI装置5、超音波装置6、X線装置7または核医学装置等の画像診断装置及び画像データベース1に接続されている。各撮影装置では当該患者の内部構造を三次元的に画像化した三次元画像が再構成され、生成された画像は画像データベース1に格納される。また、画像処理装置は1台に限定されず、図1に示すように第一の画像処理装置2と、第二の画像処理装置3といったように複数の画像処理装置がネットワーク8に接続されている。   The configuration of this image processing apparatus is connected to an image diagnostic apparatus such as a CT apparatus 4, an MRI apparatus 5, an ultrasonic apparatus 6, an X-ray apparatus 7 or a nuclear medicine apparatus and an image database 1 via a network 8. In each imaging apparatus, a three-dimensional image obtained by three-dimensionally imaging the internal structure of the patient is reconstructed, and the generated image is stored in the image database 1. Further, the number of image processing apparatuses is not limited to one, and a plurality of image processing apparatuses such as a first image processing apparatus 2 and a second image processing apparatus 3 are connected to the network 8 as shown in FIG. Yes.

また、図2には図1にて示した第一の画像処理装置2や第二の画像処理装置3の内部構成を説明するための概略図が示されている。この画像処理装置の構成は、全体の処理をコントロールするCPU14、患者や画像選択および角度情報を入力する入力装置13、三次元画像を格納する画像メモリ9、三次元的な拡大・縮小・移動・回転を行う三次元AFIN処理部10、ボリュームレンダリング処理やサーフェイスレンダリング処理等の三次元画像処理を行い、三次元表示画像を構成する三次元画像処理部11、三次元表示画像の階調を変換するLUT(Look Up Table)12と、および三次元表示画像を表示する表示部(モニタ)15と、情報送受における信号伝送を行う信号バス16と、によって構成される。   2 is a schematic diagram for explaining the internal configuration of the first image processing apparatus 2 and the second image processing apparatus 3 shown in FIG. The configuration of the image processing apparatus includes a CPU 14 for controlling the entire processing, an input device 13 for inputting patient and image selection and angle information, an image memory 9 for storing a three-dimensional image, a three-dimensional enlargement / reduction / movement, 3D AFIN processing unit 10 that performs rotation, 3D image processing such as volume rendering processing and surface rendering processing, 3D image processing unit 11 that constitutes a 3D display image, and converts the gradation of the 3D display image An LUT (Look Up Table) 12, a display unit (monitor) 15 that displays a three-dimensional display image, and a signal bus 16 that performs signal transmission in information transmission / reception.

また画像データベース1には、三次元画像だけでなく、画像に付帯する患者・撮影情報、画像のオリエンテーションを示す情報等も保管されている。なお三次元AFIN処理10及び三次元画像処理11をCPU14が兼ねても良い。また表示装置15は複数の表示領域を有し、複数の三次元表示画像を一度に表示できる。その構造はマルチウィンドウ表示でも良いし、また複数のモニタで溝成しても良い。   The image database 1 stores not only a three-dimensional image but also patient / imaging information attached to the image, information indicating the orientation of the image, and the like. Note that the CPU 14 may also serve as the three-dimensional AFIN processing 10 and the three-dimensional image processing 11. The display device 15 has a plurality of display areas and can display a plurality of three-dimensional display images at a time. The structure may be a multi-window display or may be formed by a plurality of monitors.

次に画像処理装置の全体動作について説明する。   Next, the overall operation of the image processing apparatus will be described.

たとえば、画像データベース1に登録されている三次元画像AとBが画像処理装置に三次元表示されている場合を考える。この画像A,Bは同一モダリテイで撮影された画像でも良いし、異なるモダリテイで撮影された画像でも良い。各々の表示画像は通常は意図的に合致させない限り、それぞれの表示されている角度が異なっており、同期スイッチをONにすることにより操作者の意図的な操作をすることなく同じ角度からの表示画像になる。   For example, consider a case where the three-dimensional images A and B registered in the image database 1 are three-dimensionally displayed on the image processing apparatus. The images A and B may be images taken with the same modality or images taken with different modalities. Each displayed image is usually displayed at different angles unless they are intentionally matched. By turning on the synchronization switch, the display from the same angle can be performed without intentional operation by the operator. Become an image.

この時に、例えば現状画像Aがコントローラブルな画像であるとすると、画像Bの表示角度は画像Aの表示角度に一致するように回転される。これは単に初期表示角度からの変更量を一致させるのではなく、画像のオリエンテーションを考慮して、解剖学的に同じ角度から観察されるように変換するということを示す。例えばCT装置4の例では、患者挿入方向、画像観察方向、患者体位などが画像オリエンテーションを示す情報として挙げられる。   At this time, for example, if the current image A is a controllable image, the display angle of the image B is rotated so as to coincide with the display angle of the image A. This indicates that the change amount from the initial display angle is not made coincident, but conversion is performed so that the image is observed from the same angle in consideration of the orientation of the image. For example, in the example of the CT apparatus 4, the patient insertion direction, the image observation direction, the patient body position, and the like are listed as information indicating the image orientation.

患者挿入方向は、患者をCT装置4に頭から入れるか、もしくは足から入れるかにより、再構成される三次元画像の並び順が代わる。これらはTop First(TF:頭頂方向から順番に画像を構成している)/Foot First(FF:足尾方向から順番に画像を構成している)のように表現される。画像観察方向は、画像を観察する方向を示し、View from Top(VFT:頭頂方向から見た画像)/View from Foot(VFF:足尾方向から見た画像)のように表現される。   The order in which the reconstructed three-dimensional images are arranged changes depending on whether the patient is inserted into the CT apparatus 4 from the head or the foot. These are expressed as Top First (TF: Images are configured in order from the top of the head) / Foot First (FF: Images are configured in the order from the foot-and-tail direction). The image observation direction indicates the direction in which the image is observed, and is expressed as View from Top (VFT: image viewed from the top of the head) / View from Foot (VFF: image viewed from the foot-and-tail).

患者体位は、例えば、撮影時に患者が上下左右のどちらを向いていたかを示す。従って例えば画像Aと画像Bが共に初期表示角度であったとしても、画像AのオリエンテーションがVFTでTFであったとし、画像BのオリエンテーションがVFFでFFであったとする。患者体位は双方とも上向きであるとすると、この場合画像Bを上下反転させることにより、双方の観察角度は一致する。   The patient position indicates, for example, whether the patient is facing up, down, left, or right at the time of imaging. Therefore, for example, even if the image A and the image B are both at the initial display angle, it is assumed that the orientation of the image A is VFT and TF, and the orientation of the image B is VFF and FF. Assuming that both of the patient positions are upward, in this case, by inverting the image B up and down, the observation angles of both coincide.

MRl装置の場合は更に複雑で、断層面を患者に対して自由に設定できるため、さらに詳細なオリエンテーション情報が必要になるが、原理的には同じである。同期スイッチがONになっている間は片方の画像に加える処理、例えば回転、移動、拡大/縮小等も同様にもう一方の画像にも適用される。但し移動、拡大/縮小については相対的な変化のみである。すなわち片方の画像を倍に拡大した場合、もう一方の画像も倍に拡大する。   In the case of the MR1 apparatus, since the tomographic plane can be freely set for the patient, more detailed orientation information is required, but the principle is the same. While the synchronization switch is ON, processing applied to one image, for example, rotation, movement, enlargement / reduction, etc., is also applied to the other image. However, movement and enlargement / reduction are only relative changes. That is, when one image is doubled, the other image is doubled.

回転に関しては、装置的にはほぼ解剖学的に同じ角度から表示した画像を表示している場合でも、撮影前の患者の僅かな向きの変化により異なってしまう場合がある。本画像処理装置にはこのようなズレを補正する2種類の機能がある。   Regarding rotation, even if an image displayed from the same angle is displayed almost anatomically in terms of apparatus, it may differ due to a slight change in the orientation of the patient before imaging. This image processing apparatus has two types of functions for correcting such deviation.

1つめの機能は、解剖学的に一致する3点を画像A、B双方上で特定する方法である。例えば特定した点を画像A上の(aA、bA、cA)、画像B上の(aB、bB、cB)とする。さらにaA−aB、bA−bB、cA−cBがそれぞれ解剖学的に一致する点であるとする。この時直線aAbAとaBbBが同じ向きとなるように、且つaAcAとaBcBが同じ向きとなるように算出することにより、この補正が可能である。   The first function is a method for specifying three anatomically matching points on both images A and B. For example, it is assumed that the specified points are (aA, bA, cA) on the image A and (aB, bB, cB) on the image B. Furthermore, it is assumed that aA-aB, bA-bB, and cA-cB are anatomically coincident points. At this time, this correction can be made by calculating so that the straight lines aAbA and aBbB are in the same direction and aAcA and aBcB are in the same direction.

もう一つの機能がマニュアル操作による方法で、任意の機能が与えられた特別のボタンを押しつつの操作、例えばキーボードのSHIFTキーを押しながらの回転操作の際は、処理が片方の画像のみに対して行われ、SHIFTキーを離した時点で同期状態に復帰する。但しこの時最初の方法にしても後の方法にしても、最初の同期状態からの変化量を誤差として記憶しておき、その後の同期は誤差を補正した上で表示する。この同期をやめる際は、同期スイッチをOFFにすることにより同期状態は解除される。   Another function is the manual operation method. When an operation is performed while pressing a special button to which an arbitrary function is given, for example, a rotation operation while pressing the SHIFT key of the keyboard, the processing is performed only on one image. When the SHIFT key is released, the synchronization state is restored. However, at this time, whether it is the first method or the later method, the amount of change from the first synchronization state is stored as an error, and the subsequent synchronization is displayed after correcting the error. When the synchronization is stopped, the synchronization state is canceled by turning off the synchronization switch.

図3には本発明の第1の実施の形態による画像処理装置にて画像処理され、表示装置15にて表示された三次元画像の一つの例を示している。表示モニタ17の表示画面19には観察対象部位の三次元画像が表示されており、この図3に示されているのは2つの画像である。この2つの画像は互いに同期して表示されており、どちらか一方のスケールや観察角度、拡大率を操作すると、もう一方の三次元画像表示も同期して変更される。こうして常に同一条件で複数の三次元画像同士を比較することができる。   FIG. 3 shows an example of a three-dimensional image that has been subjected to image processing by the image processing device according to the first embodiment of the present invention and displayed on the display device 15. A three-dimensional image of the site to be observed is displayed on the display screen 19 of the display monitor 17, and two images are shown in FIG. These two images are displayed in synchronization with each other, and when one of the scale, observation angle, and magnification is manipulated, the other three-dimensional image display is also changed in synchronization. In this way, a plurality of three-dimensional images can always be compared under the same conditions.

本案施の形態では2つの三次元表示画像を表示した場合について説明しているが、本発明は画像の数に制限されることなく、たとえば3つ以上の画像表示でも可能である。また本実施の形態では、画像処理装置、検査装置、画像データベース1を全て別々の装置として記述しているが、本発明はその溝成に制限されることなく、これらの装置の2つ若しくは全てが一つの装置の中に構成されていても実施可能である。   In the present embodiment, the case where two three-dimensional display images are displayed has been described. However, the present invention is not limited to the number of images, and, for example, three or more image displays are possible. In this embodiment, the image processing apparatus, the inspection apparatus, and the image database 1 are all described as separate apparatuses. However, the present invention is not limited to the groove, and two or all of these apparatuses are described. Can be implemented even if they are configured in one apparatus.

<第2の実施の形態>
本発明の第2の実施の形態について以下に説明する。なお、第1の実施の形態と同一の構成については説明を省略する。
<Second Embodiment>
A second embodiment of the present invention will be described below. The description of the same configuration as that of the first embodiment is omitted.

今画像データベース1に登録されている三次元画像AとBが画像処理装置に三次元表示されている場合を考える。この画像A、Bは同一モダリテイで撮影された画像でも良いし、異なるモダリテイで撮影された画像でも良い。各々の表示画像は意図的に合致させない限り、それぞれの表示角度や拡大率が異なっており、同期の指示入力をすることにより操作者の手を煩わせることなく同じ角度からで、且つ同じ拡大率の表示画像になる。   Consider a case where the three-dimensional images A and B registered in the image database 1 are three-dimensionally displayed on the image processing apparatus. The images A and B may be images taken with the same modality or images taken with different modalities. Each display image has a different display angle and enlargement ratio unless they are intentionally matched, and the same enlargement ratio can be obtained from the same angle without bothering the operator by inputting synchronization instructions. Display image.

ここで拡大率の同期とは、物理的に同じ長さを表示装置上で同じ長さに表示することを指している。例えば現状画像Aがコントローラブルな画像であるとすると、画像Bの表示角度及び拡大率は画像Aの表示角度に一致するように回転される。これは単に初期表示角度、初期拡大牽からの変更量を一致させるのではなく、画像のオリエンテーションや画素ピッチを考慮して、解剖学的に同じ角度から観察されるように、物理的に同じ長さを表示装置上で同じ長さに変換するものである。   Here, the synchronization of the enlargement ratio refers to displaying the physically same length on the display device. For example, if the current image A is a controllable image, the display angle and enlargement ratio of the image B are rotated so as to match the display angle of the image A. This does not simply match the initial display angle and the amount of change from the initial enlargement check, but takes into account the orientation of the image and the pixel pitch, so that it is observed from the same angle anatomically. Is converted into the same length on the display device.

ここでは観察角度については第1の実施の形態と同様なので説明を省く。拡大率については、例えばCT装置の例では、撮影領域やマトリックスサイズにより断層面での画素ピッチが決まり、寝台移動幅(ヘリカルスキャン方式の場合は寝台移動速度)、コリメータ幅等により体軸方向の画素ピッチが決まる。今画像Aにおいて断層面及び体軸方向での画素ピッチが共に0.5mmであったとし、画像Bについては断層面及び体軸方向での画素ピッチが共に0.7mmであったとすると、全く同じ部位を撮影したとしても初期状態では画像Aの方が画像Bより1.4培に拡大されて表示される。   Here, the observation angle is the same as that in the first embodiment, and thus the description thereof is omitted. Regarding the enlargement ratio, for example, in the case of a CT apparatus, the pixel pitch on the tomographic plane is determined by the imaging region and matrix size, and the body axis direction is determined by the bed movement width (bed movement speed in the case of the helical scan method), the collimator width, and the like. Pixel pitch is determined. Assume that the pixel pitch in the tomographic plane and the body axis direction is 0.5 mm in the image A, and that the pixel pitch in the tomographic plane and the body axis direction is 0.7 mm in the image B. Even if the region is photographed, the image A is enlarged and displayed by 1.4 times more than the image B in the initial state.

同期スイッチがONの場合、この画素ピッチも考慮して補正され、この例の場合は例えば画像Aがコントローラブルで現状の初期表示状態から1.2培拡大表示されているとすると、画像Bは1.68(=1.2×1.4)倍に拡大されて表示される。同期スイッチがONになっている間は片方の画像に加える処理、例えば回転、移動、拡大・縮小等も同様にもう一方の画像にも適用される。   When the synchronous switch is ON, the pixel pitch is also corrected in consideration of this, and in this example, for example, if the image A is controllable and 1.2 times enlarged from the current initial display state, the image B is 1.68 (= 1.2 × 1.4) times enlarged and displayed. While the synchronization switch is ON, processing applied to one image, for example, rotation, movement, enlargement / reduction, etc., is also applied to the other image.

但し移動、については相対的な変化のみである。すなわち片方の画像をz軸方向に5mm移動した場合、もう一方の画像もz軸方向に5mm移動する。但し回転、拡大に関しては、ほぼ解剖学的に同じ角度、同じ拡大率で表示した画像を表示している場合でも、撮影前の患者の僅かな向きの変化や、撮影画像の歪み等により観察角度や拡大率が異なってしまう場合がある。観察角度についての補正法については第1の実施の形態で説明してあるので、ここでは拡大率の補正につい
てのみ説明する。
However, the movement is only a relative change. That is, when one image is moved 5 mm in the z-axis direction, the other image is also moved 5 mm in the z-axis direction. However, with regard to rotation and enlargement, even when displaying images displayed at almost the same anatomical angle and magnification, the observation angle is changed due to slight changes in the orientation of the patient before imaging, distortion of the captured image, etc. And the enlargement ratio may be different. Since the correction method for the observation angle has been described in the first embodiment, only the correction of the enlargement factor will be described here.

本発明の画像処理装置には、このようなズレを補正する2種類の機能がある。第1の機能は、解剖学的に一致する2点を画像A、B双方上で特定する方法である。例えば角度の誤差特定のために指定した点の内2点、画像A上の(aA,bA)、画像B上の(aB,bB)を使用するか、若しくは角度の誤差がないと判断した時は2点のみを画像A上の(aA,bA)、画像B上の(aB,bB)を指定しても良い。この時直線aAbAとaBbBが同じ長さとなるように拡大率を算出することにより、この補正が可能である。   The image processing apparatus of the present invention has two types of functions for correcting such deviation. The first function is a method for specifying two anatomically matching points on both images A and B. For example, when two of the points specified for specifying the angle error, (aA, bA) on image A, (aB, bB) on image B are used, or when it is determined that there is no angle error May specify (aA, bA) on image A and (aB, bB) on image B for only two points. At this time, this correction is possible by calculating the enlargement ratio so that the straight lines aAbA and aBbB have the same length.

もう一つの機能がマニュアル操作による方法で、所定の機能が付与されたボタンを押しつつの操作、例えばキーボードのSHIFTキーを押しながらの拡大操作の際は処理が片方の画像のみに対して行われ、SHIFTキーを押した時点で同期状態に復帰する。但しこの時、前者の方法にしても後者の方法にしても、最初の同期状態からの変化量を誤差として記憶しておき、その後の同期は誤差を補正した上で表示する。この同期をやめる際は、同期スイッチをOFFにすることにより同期状態は解除される。   Another function is a manual operation method. When an operation is performed while pressing a button to which a predetermined function is assigned, for example, when an enlargement operation is performed while pressing the SHIFT key of the keyboard, processing is performed only on one image. When the SHIFT key is pressed, the synchronization state is restored. However, at this time, in both the former method and the latter method, the amount of change from the initial synchronization state is stored as an error, and the subsequent synchronization is displayed after correcting the error. When the synchronization is stopped, the synchronization state is canceled by turning off the synchronization switch.

なお、本実施の形態では2つの三次元表示画像を表示した場合について説明しているが、もちろん画像の数に制限されることなく、3つ以上の画像を同時に処理することも可能である。   In this embodiment, the case where two three-dimensional display images are displayed has been described. Of course, the number of images is not limited, and three or more images can be processed simultaneously.

<第3の実施の形態>
本発明の第3の実施の形態の説明において、先に説明した第1および第2の実施の形態と重複する部分については説明を省略する。システム構成については第1の実施の形態と同様である。
<Third Embodiment>
In the description of the third embodiment of the present invention, the description of the same parts as those of the first and second embodiments described above will be omitted. The system configuration is the same as that of the first embodiment.

たとえば、画像データベース1に登録されている三次元画像AとBが画像処理装置に三次元表示されている場合について述べる。この画像A、Bは同じモダリテイで撮影された画像でも良いし、異なるモダリテイで撮影された画像でも良い。各々の表示画像は操作者の意図により故意に合致させない限り、それぞれに表示している角度や表示用画像処理は異なっている。そこで、同期スイッチをONにすることにより操作者の手を煩わせることなく同じ角度からで且つ同じ表面画像処理の表示画像になる。   For example, the case where the three-dimensional images A and B registered in the image database 1 are three-dimensionally displayed on the image processing apparatus will be described. The images A and B may be images taken with the same modality or images taken with different modalities. Unless each display image is intentionally matched by the operator's intention, the displayed angle and display image processing are different. Therefore, by turning on the synchronization switch, the display image of the same surface image processing is obtained from the same angle without bothering the operator.

例えば現状の画像Aがコントローラブルな画像であるとすると、画像Bの表示角度及び表示用画像処理は画像Aの表示角度や表示用画像処理に一致するように回転、表示される。これは単に初期表示角度、初期表示用画像処理からの変更量を一致させるのではなく、画像のオリエンテーションを考慮して、解剖学的に同じ角度から観察されるように変更することを指すものである。   For example, if the current image A is a controllable image, the display angle of image B and the display image processing are rotated and displayed so as to match the display angle of image A and the display image processing. This does not simply match the initial display angle and the amount of change from the image processing for initial display, but refers to changing the image so that it is observed from the same angle anatomically considering the orientation of the image. is there.

また表示用画像処理についても同様に全く同じ処理が施されるようにする。ここでは代表的な2種類の画像処理について説明する。サーフェイスレンダリング法では、閾値を設定し、その閾値の範囲内に入る領域を対象領域として、その対象に対して任意の方向から光が当った状態のように擬似的に演算を行い、その反射光を演算することにより表示画像が算出される。   Similarly, the same processing is performed on the display image processing. Here, two typical types of image processing will be described. In the surface rendering method, a threshold value is set, a region that falls within the threshold value range is set as a target region, and a pseudo operation is performed as if light hits the target from any direction, and the reflected light is calculated. A display image is calculated by calculating.

この時の閾値、光源の位置、強度、対象の色等が合致するように処理される。ボリュームレンダリング法の場合は、画素数を例えば反射率や屈折率等光学パラメータに変換する関数(光学変換関数)が定義されており、その物体に対し任意の方向から光を当てて、その反射光を計算することにより表示画像データが演算される。サーフェイスレンダリング法と異なるのは、サーフェイスレンダリング法では物体の表面が明確に定義でき、表面の後ろに隠れた情報は表示できない。   Processing is performed so that the threshold, the position of the light source, the intensity, the target color, and the like at this time match. In the volume rendering method, a function (optical conversion function) for converting the number of pixels into optical parameters such as reflectance and refractive index is defined, and the reflected light is applied to the object from any direction. The display image data is calculated by calculating. Unlike the surface rendering method, the surface rendering method can clearly define the surface of an object and cannot display information hidden behind the surface.

それに対し、ボリュームレンダリングでは光学変換関数の定義によっては、例えば霧の中に対象物がぼやけて見えるように、内部構造を可視化できる。   On the other hand, in volume rendering, depending on the definition of the optical conversion function, for example, the internal structure can be visualized so that the object looks blurred in fog.

同期スイッチがONとなった時はこの光学変換関数、光源の位置、強度、対象の色等が合致するように処理される。この同期をやめる際は、同期スイッチをOFFにすることにより同期状態は解除される。本実施の形態では2つの三次元表示画俵を表示した場合について説明しているが、もちろん画像の数に制限されることなく、3つ以上の画像処理も可能である。   When the synchronization switch is turned on, the optical conversion function, the position of the light source, the intensity, the target color, etc. are processed so as to match. When the synchronization is stopped, the synchronization state is canceled by turning off the synchronization switch. In this embodiment, the case where two three-dimensional display screens are displayed has been described. Of course, the number of images is not limited and three or more image processes are possible.

<第4の実施の形態>
本発明の第4の実施の形態の説明について、第1〜3の実施の形態と重複する部分については説明を省略する。第4の実施の形態の画像処理装置が備えるシステム構成については第1の実施の形態と同様である。
<Fourth embodiment>
Regarding the description of the fourth embodiment of the present invention, the description overlapping with the first to third embodiments will be omitted. The system configuration of the image processing apparatus according to the fourth embodiment is the same as that of the first embodiment.

画像データベース1に登録されている三次元画像AとBが画像処理装置に三次元表示されている場合を説明のための一つの例とする。この例において、画像A、Bは同一モダリテイで撮影された画像でも良いし、異なるモダリテイで撮影された画像でも良い。各々の表示画像は操作者が故意に一致させない限りそれぞれに表示している角度や拡大率、表示用画像処理が異なっており、同期スイッチをONにすることにより操作者の手を煩わせることなく同じ角度で且つ同じ拡大率、同じ表面処理の表示画像になる。   A case where the three-dimensional images A and B registered in the image database 1 are three-dimensionally displayed on the image processing apparatus is taken as an example for explanation. In this example, the images A and B may be images shot with the same modality, or may be images shot with different modalities. Each display image has different display angle, enlargement ratio, and display image processing unless the operator deliberately matches them. By turning on the synchronization switch, the operator's hand is not bothered. The display images have the same angle, the same magnification, and the same surface treatment.

例えば現状画像Aがコントローラブルな画像であるとすると、画像Bの表示角度、拡大率及び表示用画像処理は画像Aの表示角度や拡大率、表示用画像処理に一致するように回転、拡大、縮小にて表示される。これは単に初期表示角度、初期拡大率、初期表示用画像処理からの変更量を一致させるのではなく、画像のオリエンテーシヨンを考慮して、解剖学的に同じ角度から、同じサイズで観察されるように変更するものである。また表示用画像処理についても同様に全く同じ処理が施されるようにする。但し、この時の光学変換関数は、画素ピッチによって補正される。例えば画像Aの画素ピッチをm、画像Aの画素ピッチをnとし、画像Bの光学変換関数は以下の関数によって補正される。   For example, if the current image A is a controllable image, the display angle, enlargement ratio, and display image processing of the image B are rotated, enlarged, and matched to the display angle, enlargement ratio, and display image processing of the image A. Displayed in a reduced size. This is not just matching the initial display angle, the initial magnification, and the amount of change from the initial display image processing, but is observed from the same anatomical angle and the same size in consideration of the orientation of the image. It is to be changed as follows. Similarly, the same processing is performed on the display image processing. However, the optical conversion function at this time is corrected by the pixel pitch. For example, the pixel pitch of the image A is m, the pixel pitch of the image A is n, and the optical conversion function of the image B is corrected by the following function.

Figure 2012000477
ここで反射率γは以下のような数式でモデル化しており、Nは画素値を示している。
Figure 2012000477
ここでxは距離を示す。この同期をやめる際は、同期スイッチをOFFにすることにより同期状態は解除される。
Figure 2012000477
Here, the reflectance γ is modeled by the following mathematical formula, and N indicates a pixel value.
Figure 2012000477
Here, x represents a distance. When the synchronization is stopped, the synchronization state is canceled by turning off the synchronization switch.

本実施の形態では2つの三次元表示画像を表示した場合について説明しているが、本発明は画像の数に制限されることなく、3つ以上でも溝わない。   In this embodiment, the case where two three-dimensional display images are displayed has been described. However, the present invention is not limited to the number of images, and even three or more grooves are not formed.

<第5の実施の形態>
本実施の形態の内、実施の形態1、2、3、4と同じ部分については説明を省く。システム横成については実施の形態1と同様。
<Fifth embodiment>
Of the present embodiment, the same portions as those of the first, second, third, and fourth embodiments are not described. The system composition is the same as in the first embodiment.

画像データベース1に登録されている三次元画像AとBが画像処理装置に三次元表示されている場合を説明のための一つの例とする。この画像A、Bは同一モダリテイで撮影された画像でも良いし、異なるモダリテイで撮影された画像でも良い。各々の表示画像は操作者が故意に一致させない限り、それぞれに表示している角度や拡大率、表示用画像処理が異なっており、同期スイッチをONにすることにより自動的に同じ角度からの表示画像になる。拡大率については、補正しても良いし、もし同一モダリテイで同一条件で撮影した像であれば、わざわざ補正する必要はないし、必要であれば予めマニュアルで補正しても良い。また先に説明した第2の実施の形態と同じ方法で補正しても良い。表示条件についても先に説明した第3の実施の形態に示すような方法で補正することも可能である。   A case where the three-dimensional images A and B registered in the image database 1 are three-dimensionally displayed on the image processing apparatus is taken as an example for explanation. The images A and B may be images taken with the same modality or images taken with different modalities. Each display image has a different angle, magnification, and display image processing unless the operator deliberately matches it, and automatically displays from the same angle by turning on the synchronization switch. Become an image. The enlargement ratio may be corrected, or if it is an image taken with the same modality and under the same conditions, there is no need to correct it, and if necessary, it may be corrected manually in advance. Moreover, you may correct | amend by the same method as 2nd Embodiment demonstrated previously. The display conditions can also be corrected by the method described in the third embodiment described above.

この同期した状態から合成(フュージョン)スイッチを押すことができ、その場合はお互いの位置ズレを指定した点を−致させるようにして補正した後、三次元的に合成する。同期スイッチを一度ONにすると、画像同士の角度ズレ、位置ズレ、拡大率ズレ情報を保存しておき、再度合成スイッチが押された場合、表示角度、位置、拡大率が合致するように補正した後に合成を行う。   The synthesizing (fusion) switch can be pushed from this synchronized state. In this case, the correction is performed by making the designated positions misalign with each other, and then the three-dimensional synthesis is performed. Once the synchronization switch is turned ON, the angle deviation, position deviation, and enlargement ratio deviation information between images is saved, and when the composition switch is pressed again, the display angle, position, and enlargement ratio are corrected to match. The synthesis is performed later.

<第6の実施の形態>
本発明の第6の実施の形態は、画像処理装置の基本的な構成は少なくとも先に説明した第1〜5の実施の形態のいずれかと同様であれば実施可能であり、以下の説明において第1〜5の実施の形態と重複する部分は省略する。
<Sixth Embodiment>
The sixth embodiment of the present invention can be implemented as long as the basic configuration of the image processing apparatus is at least the same as any of the first to fifth embodiments described above. Portions overlapping with the first to fifth embodiments are omitted.

ボリュームレンダリング法では、画素値が反射率や屈折率等の光学パラメータに変換され、この光学パラメータで構成される物体に光を当てたと仮定して、表示画像が計算される。一般的には合成は1ピクセルおきの互い違いのピクセルを1枚の画像に合成することにより行われる。しかし本発明の画像処理装置では、変換した画像A、画像Bの光学パラメータμA、μBを用いて合成画像の光学パラメータを以下のように算出する。
μ=f(μA、μB)
この時fは任意の関数を示し、例えば以下の2種類のように使用される。
μ=μA+μB
または
μ=μA−μB
In the volume rendering method, pixel values are converted into optical parameters such as reflectance and refractive index, and a display image is calculated on the assumption that light is applied to an object configured with the optical parameters. In general, synthesis is performed by synthesizing alternate pixels every other pixel into one image. However, in the image processing apparatus of the present invention, the optical parameters of the composite image are calculated as follows using the optical parameters μA and μB of the converted images A and B.
μ = f (μA, μB)
At this time, f represents an arbitrary function, and is used as the following two types, for example.
μ = μA + μB
Or
μ = μA−μB

前者を用いることにより、解像度の良好な画像を得ることができる。また後者を用いることにより、画像Aと画像Bの違いを明瞭に観察することができる。   By using the former, an image with good resolution can be obtained. Also, by using the latter, the difference between the image A and the image B can be clearly observed.

また、一つの変形例として光学パラメータを合成する方法に代えて、別々の画像として処理した後、表示画線上で合成しても良い。本例では、例えば画像毎に別々の色、強度、光源の位置等を設定することにより、合成した画橡でありながら、両者の区別を明瞭にすることができる。   Further, as a modification, instead of the method of combining optical parameters, after processing as separate images, they may be combined on the display image line. In this example, for example, by setting different colors, intensities, light source positions, and the like for each image, it is possible to clarify the distinction between the two while being a combined thumbtack.

また、別の変形例では画像毎に異なる色を使用しているが、例えば画素値の範囲を指定してそれに含まれる領域を決定し、その領域同士の重なった部分と重ならない部分との色を変化させても良い。これにより注目部位での両者の区別を明瞭にすることができる。   In another modification, a different color is used for each image. For example, a range of pixel values is specified and an area included in the range is determined, and a color between a portion where the regions overlap and a portion that does not overlap May be changed. Thereby, the distinction between the two at the site of interest can be made clear.

<第7の実施の形態>
本発明の第7の実施の形態は、画像処理装置の基本的な構成は先に説明した第1〜6の実施の形態のいずれかと同様であっても実施可能であり、以下の説明においては基本的な構成が第1〜6の実施の形態のいずれかと同様であるとして、その重複する部分は省略して説明する。
<Seventh embodiment>
The seventh embodiment of the present invention can be implemented even if the basic configuration of the image processing apparatus is the same as any of the first to sixth embodiments described above, and in the following description, Assuming that the basic configuration is the same as that of any of the first to sixth embodiments, the overlapping portion will be omitted.

画像処理装置に読み込まれた診断画像、患者データ、検査データを元に診断を施し、それを診断結果として保存する。この時この診断データベースは「部位」、「病名」、「コメント(診断に至った経緯)」等からなり、それらをデータベースに登録しておく。またこれはレポーティングシステムの内容から、「部位」を示す辞書、「病名」を示す辞書などを有し、これらにヒットするキーワードを抽出して自動的にデータベースに登録しても良い。   Diagnosis is performed based on the diagnostic image, patient data, and examination data read into the image processing apparatus, and the result is stored as a diagnostic result. At this time, the diagnosis database is composed of “part”, “disease name”, “comment (background of the diagnosis)”, and the like are registered in the database. In addition, this may include a dictionary indicating “part”, a dictionary indicating “disease name”, and the like based on the contents of the reporting system, and keywords that hit these may be extracted and automatically registered in the database.

このようにして構築されたデータベースを利用して診断を行う際、新たな診断に有用な情報、例えば画像、検査結果などが加わった場合、そこでその結果を元に診断を行い、その結果を前記手順でデータベースに登録を行う。この時、この患者の過去のデータを検索し、その内容を比較して同じ部位若しくは関連する部位での診断情報があれば、その内容をポップアップウィンドゥで「診断日」、「診断者」、「症例」、「部位」等を提示し、その詳細を観察したい場合、そのウィンドゥ上で詳細ボタンを押すことにより、その画像等の検査内容、その時の結果(例えば診断に至った経緯)等を参照できる。   When making a diagnosis using the database constructed in this way, if information useful for a new diagnosis, such as an image or a test result, is added, a diagnosis is made based on the result, and the result is Follow the procedure to register in the database. At this time, past data of this patient is searched, and the contents are compared, and if there is diagnostic information in the same part or related part, the contents are displayed in a popup window as “diagnosis date”, “diagnostic”, “ If you want to observe the details of a case, part, etc., by clicking the detail button on the window, refer to the examination contents of the image, the results at that time (for example, the background to the diagnosis), etc. it can.

以上説明した本発明の実施の形態によれば、同期スイッチをONにすることにより、観察角度、拡大率、表示用画像処理を、撮影装置固有の撮影条件、表示パラメータを元に同期して表示することができるため、三次元画像の比較を容易にし、患部の経時変化や治療効果を確認しやすくなる。   According to the embodiment of the present invention described above, by turning on the synchronization switch, the observation angle, the enlargement ratio, and the display image processing are displayed synchronously based on the photographing conditions and display parameters unique to the photographing apparatus. Therefore, it is easy to compare the three-dimensional images, and it is easy to confirm the change with time and the treatment effect of the affected area.

また、同期スイッチをONにすることにより、観察角度について撮影装置固有の撮影角度情報を元に同期させることができる。   Further, by turning on the synchronization switch, the observation angle can be synchronized based on the photographing angle information unique to the photographing apparatus.

また、観察角度と拡大率を撮影装置固有の撮影情報を元に同期させることができ、観察角度や拡大率および表示用画像処理を撮影装置固有の撮影条件や表示パラメータを元に同期して表示することができる。   In addition, the observation angle and magnification can be synchronized based on the imaging information unique to the imaging device, and the observation angle, magnification, and display image processing can be synchronized based on the imaging conditions and display parameters specific to the imaging device. can do.

なお、以上説明した実施の形態は、本発明の理解を容易にするために記載されたものであって、本発明を限定するために記載されたものではない。したがって、上記の実施の形態に開示された各要素は、本発明の技術的範囲に属する全ての設計変更や均等物をも含む趣旨である。   The embodiment described above is described in order to facilitate understanding of the present invention, and is not described in order to limit the present invention. Therefore, each element disclosed in the above embodiment includes all design changes and equivalents belonging to the technical scope of the present invention.

1...画像データベース、2...第一の画像処理装置(画像処理装置)、3...第二の画像処理装置(画像処理装置)、8...ネットワーク、9...画像メモリ、10...三次元AFIN処理(AFIN)、11...三次元画像処理、12...LUT、15...表示部(モニタ)   DESCRIPTION OF SYMBOLS 1 ... Image database, 2 ... 1st image processing apparatus (image processing apparatus), 3 ... 2nd image processing apparatus (image processing apparatus), 8 ... Network, 9 ... Image Memory, 10 ... 3D AFIN processing (AFIN), 11 ... 3D image processing, 12 ... LUT, 15 ... Display unit (monitor)

Claims (1)

複数の三次元画像を処理可能な画像処理装置において、
所定の操作に従い、前記第1の三次元画像と同じ態様となるよう前記第2の三次元画像を同期処理する同期手段と、
前記同期処理された前記第1の三次元画像と前記第2の三次元画像とを指定した点を一致させるように合成する手段と、
前記合成した第1の三次元画像及び第2の三次元画像を表示可能な表示手段と、
を備えることを特徴とする画像処理装置。
In an image processing apparatus capable of processing a plurality of three-dimensional images,
Synchronization means for synchronously processing the second three-dimensional image so as to be in the same mode as the first three-dimensional image according to a predetermined operation;
Means for synthesizing the synchronized three-dimensional first image and the second three-dimensional image so as to match specified points;
Display means capable of displaying the synthesized first 3D image and second 3D image;
An image processing apparatus comprising:
JP2011172434A 2011-08-05 2011-08-05 Image processing apparatus Withdrawn JP2012000477A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011172434A JP2012000477A (en) 2011-08-05 2011-08-05 Image processing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011172434A JP2012000477A (en) 2011-08-05 2011-08-05 Image processing apparatus

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2000324411A Division JP5361103B2 (en) 2000-10-24 2000-10-24 Image processing device

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2012285564A Division JP5883378B2 (en) 2012-12-27 2012-12-27 Image processing device

Publications (1)

Publication Number Publication Date
JP2012000477A true JP2012000477A (en) 2012-01-05

Family

ID=45533116

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011172434A Withdrawn JP2012000477A (en) 2011-08-05 2011-08-05 Image processing apparatus

Country Status (1)

Country Link
JP (1) JP2012000477A (en)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08294485A (en) * 1995-02-28 1996-11-12 Toshiba Corp Picture display system and method using such system
JPH10137190A (en) * 1996-11-13 1998-05-26 Toshiba Iyou Syst Eng Kk Medical image processor

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08294485A (en) * 1995-02-28 1996-11-12 Toshiba Corp Picture display system and method using such system
JPH10137190A (en) * 1996-11-13 1998-05-26 Toshiba Iyou Syst Eng Kk Medical image processor

Similar Documents

Publication Publication Date Title
JP5361103B2 (en) Image processing device
US8611988B2 (en) Projection image generation apparatus and method, and computer readable recording medium on which is recorded program for the same
CN106569673B (en) Display method and display equipment for multimedia medical record report
JP5421828B2 (en) Endoscope observation support system, endoscope observation support device, operation method thereof, and program
JP5675227B2 (en) Endoscopic image processing apparatus, operation method, and program
KR102307530B1 (en) Method and system for displaying to a user a transition between a first rendered projection and a second rendered projection
US20070127792A1 (en) System and method for 3D graphical prescription of a medical imaging volume
JP5575620B2 (en) Image processing device
JP2011125568A (en) Image processor, image processing method, program and image processing system
JP6173783B2 (en) Medical image processing apparatus, magnetic resonance imaging apparatus, and medical image processing program
JP2006142022A (en) Method and apparatus for synching of image using region of interest mapped by user
JP2017046814A (en) Information processing device, image processing device, information processing system, information processing method, and program
CN103298407A (en) Medical image processing device and medical image diagnostic device
JPWO2011142222A1 (en) Image processing apparatus and image processing method
JP5214876B2 (en) 3D image processing apparatus and medical image diagnostic apparatus
JP2010069208A (en) Image processing device, image processing method, and image processing program
JP2017099531A (en) Image processing device, image processing method and x-ray diagnostic apparatus
JP5883378B2 (en) Image processing device
JP2014524810A (en) Method and system for rendering
JP5100041B2 (en) Image processing apparatus and image processing program
JP5398791B2 (en) Medical image display device
JP2013198822A (en) Image processing apparatus
EP1933278A1 (en) Image fusion visualisation
JP6274479B2 (en) Image processing apparatus, medical image diagnostic apparatus, and image processing program
TWI681751B (en) Method and system for verificating panoramic images of implants

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120207

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120406

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20121002

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121227

A911 Transfer of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20130109

A912 Removal of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20130412

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140422

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20140520