JP2018011807A - Image display device, x-image diagnostic apparatus and image display method - Google Patents

Image display device, x-image diagnostic apparatus and image display method Download PDF

Info

Publication number
JP2018011807A
JP2018011807A JP2016143863A JP2016143863A JP2018011807A JP 2018011807 A JP2018011807 A JP 2018011807A JP 2016143863 A JP2016143863 A JP 2016143863A JP 2016143863 A JP2016143863 A JP 2016143863A JP 2018011807 A JP2018011807 A JP 2018011807A
Authority
JP
Japan
Prior art keywords
image
moving image
reproduction
display
ray
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016143863A
Other languages
Japanese (ja)
Inventor
光代 二瓶
Mitsuyo Nihei
光代 二瓶
泰生 松岡
Yasuo Matsuoka
泰生 松岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2016143863A priority Critical patent/JP2018011807A/en
Publication of JP2018011807A publication Critical patent/JP2018011807A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Endoscopes (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an image display device, X-ray image diagnostic apparatus and image display method which facilitate the change operation of the display position when displaying an image that does not contain position information in the image and an image obtained by photographing the inside of a subject in association with each other.SOLUTION: A control device 21 (image display device) of an X-ray image diagnostic apparatus separately stores an endoscopic image (first moving image) and an X-ray fluoroscopic image (second moving image) that are simultaneously acquired in a storage device 23. Time information at the recording is added to each frame of the endoscopic image and the X-ray fluoroscopic image. The control device 21 displays the X-ray fluoroscopic image on a main screen 25a and the simultaneously-photographed endoscopic image on a sub screen 25b for synchronous reproduction at the reproduction. When an operator designates any position on the X-ray fluoroscopic image on the main screen 25a, the reproduction position at the time when an endoscope reaches the designated position is identified, and switching to reproduction from the reproduction position is performed.SELECTED DRAWING: Figure 5

Description

本発明は画像表示装置、X線画像診断装置、及び画像表示方法に係り、詳細には、複数の医用画像を関連付けて表示する画像表示装置、X線画像診断装置、及び画像表示方法に関する。   The present invention relates to an image display apparatus, an X-ray image diagnostic apparatus, and an image display method, and more particularly to an image display apparatus, an X-ray image diagnostic apparatus, and an image display method that display a plurality of medical images in association with each other.

従来より、内視鏡等の検査装置により被検体の体腔内部を撮像するとともに、別の撮影装置により被検体の断層像を撮像し、これらの画像を関連付けて表示する医療用画像診断装置が提案されている。例えば特許文献1には、内視鏡スコープの先端構成部のジャイロスコープとマーカに基づいてマーカの位置と撮像方向をMRI装置によって検出し、検出した情報を基にMRI装置のパルスシーケンスを設定することで、内視鏡画像とMRI装置により得られた断層像とを関連づける手法について記載されている。   Conventionally, a medical diagnostic imaging apparatus has been proposed in which an imaging device such as an endoscope is used to image the inside of a body cavity of a subject, a tomographic image of the subject is captured using another imaging device, and these images are displayed in association with each other. Has been. For example, in Patent Document 1, the position and imaging direction of the marker are detected by the MRI apparatus based on the gyroscope and the marker at the distal end configuration part of the endoscope scope, and the pulse sequence of the MRI apparatus is set based on the detected information. Thus, a technique for associating an endoscopic image with a tomographic image obtained by an MRI apparatus is described.

ところで、被検体にX線を照射し動画像であるX線透視像を得るX線画像診断装置がある。このX線画像診断装置により被検体の透視像を撮像しながら、内視鏡等による撮像を同時に行い画面に表示することで、被検体内における内視鏡の位置を確認しながら治療等を行う手法がある。   By the way, there is an X-ray diagnostic imaging apparatus that irradiates a subject with X-rays to obtain an X-ray fluoroscopic image as a moving image. While taking a fluoroscopic image of the subject with this X-ray image diagnostic apparatus, imaging with an endoscope or the like is simultaneously performed and displayed on the screen, thereby performing treatment while confirming the position of the endoscope in the subject. There is a technique.

特開平09−140665号公報Japanese Patent Laid-Open No. 09-140665

しかしながら、X線透視像は、断層像と異なり画像に被検体の断層位置情報等が含まれない。そのため上述の特許文献1の手法を適用できず、X線透視像と内視鏡像との関連付けが困難であった。   However, unlike the tomographic image, the fluoroscopic image does not include the tomographic position information of the subject. Therefore, the method of the above-mentioned Patent Document 1 cannot be applied, and it is difficult to associate an X-ray fluoroscopic image with an endoscopic image.

本発明は、前述した問題点に鑑みてなされたものであり、その目的とすることは、画像内の位置情報が含まれない画像と被検体内を撮像した画像とを関連付けて表示する際の表示位置の変更操作を容易とする画像表示装置、X線画像診断装置、及び画像表示方法を提供することである。   The present invention has been made in view of the above-described problems, and an object of the present invention is to display an image that does not include position information in an image and an image obtained by imaging the subject in association with each other. To provide an image display device, an X-ray image diagnostic device, and an image display method that facilitate a display position changing operation.

前述した目的を達成するために第1の発明は、被検体の体腔内に挿入されて被検体内を撮像する検査装置を用いて撮影された第1動画像を取得するとともに、前記検査装置の少なくとも一部が撮影範囲に含まれるように撮影された動画像である第2動画像を取得する画像取得部と、前記第1動画像及び第2動画像を同期再生する再生処理部と、前記第2動画像上の位置の指定を受け付ける位置指定部と、前記位置指定部により指定された位置に前記検査装置が到達した状態の前記第2動画像の再生位置を特定するとともに、特定した再生位置に対応する前記第1動画像の再生位置を特定する特定部と、前記特定部により特定された再生位置の画像が表示されるように前記第1動画像及び第2動画像の表示を更新する表示更新部と、を備えることを特徴とする画像表示装置である。   In order to achieve the above-described object, the first invention acquires a first moving image photographed using an inspection device that is inserted into a body cavity of a subject and images the inside of the subject, An image acquisition unit that acquires a second moving image that is a moving image shot so that at least a part thereof is included in the shooting range, a reproduction processing unit that synchronously reproduces the first moving image and the second moving image, and A position designation unit that accepts designation of a position on the second moving image; and a reproduction position of the second moving image in a state in which the inspection apparatus has reached the position designated by the position designation unit and the identified reproduction The display of the first moving image and the second moving image is updated so that the specifying unit for specifying the reproduction position of the first moving image corresponding to the position and the image at the reproduction position specified by the specifying unit are displayed. A display update unit An image display device characterized.

第2の発明は、被検体にX線を照射するX線源と、前記X線源と対向配置され前記被検体を透過した透過X線を検出するX線検出器と、前記X線検出器で検出した透過X線に基づいて前記被検体のX線透視像を生成する画像処理部と、被検体の体腔内に挿入されて被検体内を撮像する検査装置を用いて撮影された第1動画像を取得するとともに、前記画像処理部により生成されたX線透視像であって前記検査装置の少なくとも一部が撮影範囲に含まれるように撮影された動画像である第2動画像を取得する画像取得部と、前記第1動画像及び第2動画像を同期再生する再生処理部と、前記第2動画像上の位置の指定を受け付ける位置指定部と、前記位置指定部により指定された位置に前記検査装置が到達した状態の前記第2動画像の再生位置を特定するとともに、特定した再生位置に対応する前記第1動画像の再生位置を特定する特定部と、前記特定部により特定された再生位置の画像が表示されるように前記第1動画像及び第2動画像の表示を更新する表示更新部と、を備えることを特徴とするX線画像診断装置である。   According to a second aspect of the present invention, there is provided an X-ray source that irradiates a subject with X-rays, an X-ray detector that is disposed opposite to the X-ray source and detects transmitted X-rays transmitted through the subject, and the X-ray detector First imaged using an image processing unit that generates an X-ray fluoroscopic image of the subject based on the transmitted X-rays detected in step 1 and an inspection apparatus that is inserted into the body cavity of the subject and images the inside of the subject. A moving image is acquired, and a second moving image that is an X-ray fluoroscopic image generated by the image processing unit and captured so that at least a part of the inspection apparatus is included in the imaging range is acquired. Designated by the position designation unit, a reproduction processing unit that synchronously reproduces the first moving image and the second moving image, a position designation unit that accepts designation of a position on the second moving image, and the position designation unit Reproduction position of the second moving image in a state where the inspection device has reached the position A specifying unit that specifies the playback position of the first moving image corresponding to the specified playback position, and the first moving image and the first moving image so that an image of the playback position specified by the specifying unit is displayed. And a display update unit that updates the display of two moving images.

第3の発明は、被検体の体腔内に挿入されて被検体内を撮像する検査装置を用いて撮影された第1動画像を取得するとともに、前記検査装置の少なくとも一部が撮影範囲に含まれるように撮影された動画像である第2動画像を取得するステップと、前記第1動画像及び第2動画像を同期再生するステップと、前記第2動画像上の位置の指定を受け付けるステップと、指定された位置に前記検査装置が到達した状態の前記第2動画像の再生位置を特定するとともに、特定した再生位置に対応する前記第1動画像の再生位置を特定するステップと、特定された再生位置の画像が表示されるように前記第1動画像及び第2動画像の表示を更新するステップと、を含むことを特徴とする画像表示方法である。   According to a third aspect of the present invention, the first moving image is acquired by using an inspection apparatus that is inserted into the body cavity of the subject and images the inside of the subject, and at least a part of the inspection apparatus is included in the imaging range. Acquiring a second moving image that is a moving image shot in such a manner, a step of synchronously reproducing the first moving image and the second moving image, and a step of receiving designation of a position on the second moving image Identifying the reproduction position of the second moving image in a state where the inspection apparatus has reached the designated position, and identifying the reproduction position of the first moving image corresponding to the identified reproduction position; And updating the display of the first moving image and the second moving image so that the image at the reproduced position is displayed.

本発明により、画像内の位置情報が含まれない画像と被検体内を撮像した画像とを関連付けて表示する際の表示位置の変更操作を容易とする画像表示装置、X線画像診断装置、及び画像表示方法を提供できる。   According to the present invention, an image display device, an X-ray image diagnostic device that facilitates a change operation of a display position when an image that does not include position information in an image and an image obtained by imaging the inside of a subject are displayed in association with each other, and An image display method can be provided.

検査システム1の構成図Configuration diagram of inspection system 1 画像表示に関する機能構成図Functional configuration diagram related to image display 各動画像に付与される時間情報の例を示す図The figure which shows the example of the time information provided to each moving image 画像表示処理の流れを示すフローチャートFlow chart showing the flow of image display processing (a)X線透視像71上で位置(ROI70)を指定した状態を示す図、(b)指定位置(ROI70)に内視鏡31が移動したときのX線透視像72及び内視鏡画像82が表示された状態を示す図(A) The figure which shows the state which designated the position (ROI70) on the X-ray fluoroscopic image 71, (b) X-ray fluoroscopic image 72 and endoscopic image when the endoscope 31 moved to the designated position (ROI70). The figure which shows the state where 82 is displayed ROIの画像解析処理の流れを示すフローチャートFlowchart showing the flow of ROI image analysis processing ROI70内の画像情報を用いて指定位置に内視鏡31が到達した再生位置(フレーム)を探索する処理について説明する図The figure explaining the process which searches the reproduction | regeneration position (frame) which the endoscope 31 reached | attained to the designated position using the image information in ROI70. 内視鏡31を挿入したときと抜き去るときの双方を検出するためのROI解析処理の流れを示すフローチャートFlowchart showing the flow of ROI analysis processing for detecting both when the endoscope 31 is inserted and when it is removed メイン画面25aで複数の位置が指定された場合の画像表示処理について説明する図The figure explaining image display processing when a plurality of positions are specified on the main screen 25a 生体運動(呼吸等)に追従するようにROIを設定する処理を含む画像表示処理の流れを示すフローチャートThe flowchart which shows the flow of the image display process including the process which sets ROI so that biological movement (respiration etc.) may be followed ROIの位置を補正する処理の流れを説明する図The figure explaining the flow of processing which corrects the position of ROI ROI位置の補正について説明する図The figure explaining correction | amendment of ROI position 生体運動(呼吸等)によるROI内の画像のズレについて説明する図The figure explaining the shift | offset | difference of the image in ROI by living body movement (breathing etc.) 内視鏡の拡大機能を使用した場合の表示補正について説明する図The figure explaining display amendment at the time of using the magnification function of an endoscope 内視鏡の拡大機能を使用した場合の関心領域のサイズ補正について説明する図The figure explaining the size correction of the region of interest when the enlargement function of the endoscope is used

以下、添付図面を参照しながら、本発明の好適な実施形態について詳細に説明する。   Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings.

[第1の実施形態]
まず、図1及び図2を参照して本発明の全体構成について説明する。
[First Embodiment]
First, the overall configuration of the present invention will be described with reference to FIGS.

図1に示すように、検査システム1は第1動画像取得装置3、第2動画像取得装置(X線画像診断装置)10、及び操作装置(画像表示装置)20を備えて構成される。   As shown in FIG. 1, the inspection system 1 includes a first moving image acquisition device 3, a second moving image acquisition device (X-ray image diagnostic device) 10, and an operation device (image display device) 20.

第1動画像取得装置3は、検査装置31本体であり、検査装置31を用いて撮像される被検体4内の画像情報を第1動画像として取得し操作装置20に出力する。検査装置31は、被検体4の体腔内に挿入されて使用されるものであり、例えば内視鏡スコープである。内視鏡スコープはレンズ、プリズム、CCD(Charge Coupled Device)等を備える。また第1動画像取得装置3は、例えば内視鏡装置本体であり、内視鏡制御部、内視鏡画像処理部、操作部、及び内視鏡記録部等を備える。内視鏡装置本体の内視鏡制御部は内視鏡スコープのCCDにより変換された電気信号を階調変換し、内視鏡画像処理部は内視鏡制御部により階調変換された電気信号をモニタに表示可能な画像信号に変換し、内視鏡記録部に記憶するとともに操作装置(画像表示装置)20に出力する。   The first moving image acquisition device 3 is the main body of the inspection device 31, acquires image information in the subject 4 imaged using the inspection device 31 as a first moving image, and outputs it to the operation device 20. The inspection device 31 is used by being inserted into the body cavity of the subject 4 and is, for example, an endoscope scope. The endoscope scope includes a lens, a prism, a CCD (Charge Coupled Device), and the like. The first moving image acquisition device 3 is, for example, an endoscope device body, and includes an endoscope control unit, an endoscope image processing unit, an operation unit, an endoscope recording unit, and the like. The endoscope control unit of the endoscope apparatus main body performs gradation conversion on the electrical signal converted by the endoscope scope CCD, and the endoscope image processing unit performs the gradation conversion on the electrical signal converted by the endoscope control unit. Is converted into an image signal that can be displayed on the monitor, stored in the endoscope recording unit, and output to the operation device (image display device) 20.

第2動画像取得装置10は、検査装置31の少なくとも一部が撮影範囲に含まれるように被検体4の動画像を撮影する装置である。第2動画像取得装置10は、例えば被検体4のX線透視像を撮像するX線画像診断装置の撮影装置であり、操作装置20の制御装置21により制御される。X線画像診断装置(第2動画像取得装置10)は、X線管11、X線絞り13、高電圧発生器15、X線検出器16、X線画像処理部17を備える。被検体4は寝台5に載置される。   The second moving image acquisition apparatus 10 is an apparatus that captures a moving image of the subject 4 so that at least a part of the inspection apparatus 31 is included in the imaging range. The second moving image acquisition apparatus 10 is an imaging apparatus of an X-ray image diagnostic apparatus that captures an X-ray fluoroscopic image of the subject 4, for example, and is controlled by the control device 21 of the operation device 20. The X-ray image diagnostic apparatus (second moving image acquisition apparatus 10) includes an X-ray tube 11, an X-ray diaphragm 13, a high voltage generator 15, an X-ray detector 16, and an X-ray image processing unit 17. The subject 4 is placed on the bed 5.

X線管11は、高電圧発生器15から電力供給を受けて所定の線量のX線を発生させるX線管球を有する。高電圧発生器15は、操作装置20の制御装置21からの制御信号に基づきX線管11に対して電力を供給する。X線管11及び高電圧発生器15の動作は操作装置20の制御装置21により制御される。なお、X線管11と高電圧発生器15とは別体に構成されたものが多いが、一体的に構成されていてもよい。また、X線管11とX線絞り13とが一体的に設けられていてもよい。X線絞り13はX線遮蔽板を有し、制御装置21に制御されてX線遮蔽板を所定の位置まで開閉させて所望の形状のX線照射領域を形成する。   The X-ray tube 11 has an X-ray tube that receives power supply from the high voltage generator 15 and generates a predetermined dose of X-rays. The high voltage generator 15 supplies power to the X-ray tube 11 based on a control signal from the control device 21 of the operating device 20. The operations of the X-ray tube 11 and the high voltage generator 15 are controlled by the control device 21 of the operating device 20. Note that the X-ray tube 11 and the high voltage generator 15 are often configured separately, but may be configured integrally. Further, the X-ray tube 11 and the X-ray diaphragm 13 may be provided integrally. The X-ray diaphragm 13 has an X-ray shielding plate, and is controlled by the control device 21 to open and close the X-ray shielding plate to a predetermined position to form an X-ray irradiation region having a desired shape.

X線検出器16は、例えばシンチレータとフォトダイオードの組み合わせによって構成されるX線検出素子を2次元配列したフラットパネルディテクタ(FPD)やI.I.(image intensifier)等であり、被検体4を介してX線管11に対向する位置に設けられる。例えば、寝台5の天板の下面にX線検出器16が配置される。X線検出器16の各検出素子は、X線管11から照射され被検体4を透過したX線である透過X線を検出し、そのX線強度に応じた電気信号に変換する。   The X-ray detector 16 is, for example, a flat panel detector (FPD) in which an X-ray detection element constituted by a combination of a scintillator and a photodiode is two-dimensionally arranged, or an I.D. I. (Image intensifier) or the like, and is provided at a position facing the X-ray tube 11 through the subject 4. For example, the X-ray detector 16 is disposed on the lower surface of the top plate of the bed 5. Each detection element of the X-ray detector 16 detects transmitted X-rays, which are X-rays irradiated from the X-ray tube 11 and transmitted through the subject 4, and converts the detected X-rays into electrical signals corresponding to the X-ray intensity.

X線画像処理部17は、X線検出器16から出力された電気信号に対し、ガンマ変換、階調変換、画像の拡大、縮小等の処理を行ってX線画像を生成する。X線画像処理部17はX線検出器16から順次入力される電気信号に基づいて複数フレームから成るX線透視像(動画像)を生成する。X線画像処理部17は生成したX線透視像を操作装置20に出力する。   The X-ray image processing unit 17 performs processes such as gamma conversion, gradation conversion, image enlargement and reduction on the electrical signal output from the X-ray detector 16 to generate an X-ray image. The X-ray image processing unit 17 generates an X-ray fluoroscopic image (moving image) including a plurality of frames based on the electrical signals sequentially input from the X-ray detector 16. The X-ray image processing unit 17 outputs the generated X-ray fluoroscopic image to the controller device 20.

操作装置20は、X線画像診断装置(第2動画像取得装置)10の操作装置であり、操作者による操作入力を受け付け、入力された指示に従って第2動画像取得装置(X線画像診断装置)10を制御する。操作装置20は、制御装置21、画像処理装置22、記憶装置23、入力装置24、及び表示装置25を備え、本発明に係る画像表示装置として機能する。   The operation device 20 is an operation device of the X-ray image diagnostic device (second moving image acquisition device) 10, receives an operation input by an operator, and follows the input instruction, the second moving image acquisition device (X-ray image diagnostic device). ) 10 is controlled. The operating device 20 includes a control device 21, an image processing device 22, a storage device 23, an input device 24, and a display device 25, and functions as an image display device according to the present invention.

画像処理装置22は、第2動画像取得装置(X線画像診断装置)10から取得した第2動画像(X線透視像)を取得し、制御装置21による制御に従って画像の解析等を行う。   The image processing device 22 acquires the second moving image (X-ray fluoroscopic image) acquired from the second moving image acquisition device (X-ray image diagnostic device) 10, and performs image analysis or the like according to control by the control device 21.

記憶装置23は、取得した第1動画像(内視鏡画像)及び第2動画像(X線透視像)を記憶する。また、第2動画像取得装置(X線画像診断装置)10における透視動作や撮影動作に関するプログラムや各種透視条件、撮影条件、後述する画像表示処理に必要なプログラム及びデータ等を記憶する。   The storage device 23 stores the acquired first moving image (endoscopic image) and second moving image (X-ray fluoroscopic image). Further, a program relating to the fluoroscopic operation and the imaging operation in the second moving image acquisition apparatus (X-ray image diagnostic apparatus) 10, various fluoroscopic conditions, imaging conditions, a program and data necessary for image display processing described later, and the like are stored.

制御装置21は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)等により構成される。制御装置21は、入力装置24から入力された指令に基づきX線管11におけるX線照射、X線画像処理部17における画像処理、第1動画像及び第2動画像の取得、画像処理装置22における画像の解析、記憶装置23への画像の記憶、表示装置25における表示、X線絞り13等の動作を制御する。透視動作中、制御装置21は、X線管11から透視像取得用のX線量でX線を照射させ、動画像からなる透視像を得る。   The control device 21 includes a CPU (Central Processing Unit), a ROM (Read Only Memory), a RAM (Random Access Memory), and the like. Based on the command input from the input device 24, the control device 21 performs X-ray irradiation in the X-ray tube 11, image processing in the X-ray image processing unit 17, acquisition of the first moving image and the second moving image, and the image processing device 22. Control of the image analysis, storage of the image in the storage device 23, display on the display device 25, operation of the X-ray diaphragm 13, and the like. During the fluoroscopic operation, the control device 21 irradiates X-rays from the X-ray tube 11 with an X-ray dose for acquiring a fluoroscopic image to obtain a fluoroscopic image composed of a moving image.

また制御装置21は、第1動画像及び第2動画像を取得し、表示装置25に所定の表示形式で表示する画像表示処理を実行する。画像表示処理の詳細については後述する(図4等参照)。   In addition, the control device 21 acquires the first moving image and the second moving image, and executes an image display process for displaying the first moving image and the second moving image on the display device 25 in a predetermined display format. Details of the image display processing will be described later (see FIG. 4 and the like).

入力装置24は、キーボード、マウス、ジョイスティック等の入力装置を備え、操作者からの指令を制御装置21に入力する。なお、入力装置24は表示装置25と一体的に形成されたタッチパネル式の入力装置としてもよい。   The input device 24 includes input devices such as a keyboard, a mouse, and a joystick, and inputs commands from an operator to the control device 21. The input device 24 may be a touch panel type input device formed integrally with the display device 25.

表示装置25は液晶パネル、CRTモニタ等のディスプレイ装置である。本発明において、表示装置25は1つの表示画面内に複数の表示領域を有するか、或いは複数の表示画面を有する。一方の表示画面(表示領域)をメイン画面25a(図5参照)として第2動画像であるX線透視像71を表示し、他方の表示画面(表示領域)をサブ画面25bとして第1動画像である内視鏡画像81を表示する。なお、例えば図5の例では、メイン画面25aとサブ画面25bは異なるサイズとしているがこれに限定されず、同一のサイズとしてもよい。また、メイン画面25aとサブ画面25bのレイアウトも任意である。   The display device 25 is a display device such as a liquid crystal panel or a CRT monitor. In the present invention, the display device 25 has a plurality of display areas in one display screen, or has a plurality of display screens. The X-ray fluoroscopic image 71 as the second moving image is displayed with one display screen (display region) as the main screen 25a (see FIG. 5), and the first moving image with the other display screen (display region) as the sub screen 25b. An endoscopic image 81 is displayed. For example, in the example of FIG. 5, the main screen 25 a and the sub screen 25 b have different sizes, but are not limited to this, and may have the same size. The layout of the main screen 25a and the sub screen 25b is also arbitrary.

なお、図1の構成図ではX線画像診断装置の操作装置20に本発明の画像表示装置の機能を含む構成としたが、X線画像診断装置とは別のコンピュータ等を用いて本発明に係る画像表示装置の機能を実現してもよい。   In the configuration diagram of FIG. 1, the operation device 20 of the X-ray image diagnostic apparatus is configured to include the function of the image display apparatus of the present invention. However, the present invention is performed using a computer or the like different from the X-ray image diagnostic apparatus. The function of the image display apparatus may be realized.

次に、図2を参照して本発明に係る画像表示装置20の機能構成を説明する。以下の説明では、X線画像診断装置(第2動画像取得装置)10の操作装置20の制御装置21が本発明の画像表示装置20として機能する場合を例として説明する。   Next, the functional configuration of the image display apparatus 20 according to the present invention will be described with reference to FIG. In the following description, a case where the control device 21 of the operation device 20 of the X-ray image diagnostic apparatus (second moving image acquisition apparatus) 10 functions as the image display apparatus 20 of the present invention will be described as an example.

図2に示すように、制御装置21は、記録処理部51及び再生処理部52を備える。
記録処理部51は、第1動画像取得装置3から取得した第1動画像を取得するとともに、第2動画像取得装置10から第2動画像を取得する。取得した各動画像はそれぞれ記憶装置23の別のファイルに保存される。図3(a)は第1動画像のデータ構成を示す図、図3(b)は第2動画像のデータ構成を示す図である。図3に示すように第1及び第2動画像はそれぞれ複数フレームの画像を有し、各フレームには記録時の時間情報が付加される。第1動画像取得装置3と第2動画像取得装置10の撮像レート及び撮影開始タイミングは必ずしも一致するものではない。そのため記録処理部51は、第1動画像取得装置3の撮影開始タイミングと第2動画像取得装置10の撮影開始タイミングとの関係を記録し、再生時に参照することで同期再生を可能とする。
As shown in FIG. 2, the control device 21 includes a recording processing unit 51 and a reproduction processing unit 52.
The recording processing unit 51 acquires the first moving image acquired from the first moving image acquisition device 3 and acquires the second moving image from the second moving image acquisition device 10. Each acquired moving image is stored in a separate file in the storage device 23. FIG. 3A is a diagram illustrating the data configuration of the first moving image, and FIG. 3B is a diagram illustrating the data configuration of the second moving image. As shown in FIG. 3, each of the first and second moving images has a plurality of frames, and time information at the time of recording is added to each frame. The imaging rate and the imaging start timing of the first moving image acquisition device 3 and the second moving image acquisition device 10 do not necessarily match. Therefore, the recording processing unit 51 records the relationship between the shooting start timing of the first moving image acquisition device 3 and the shooting start timing of the second moving image acquisition device 10, and enables synchronous playback by referring to the relationship during playback.

再生処理部52は、記憶装置23から第1動画像及び第2動画像を取得し、各動画像に付加されている時間情報に基づいて同期再生する。再生処理部52は、例えば、第2動画像をメイン画面25aにて再生し、メイン画面25aに表示されている第2動画像の記録時に同じタイミングで撮影された第1動画像をサブ画面25bに表示する。   The reproduction processing unit 52 acquires the first moving image and the second moving image from the storage device 23, and performs synchronous reproduction based on the time information added to each moving image. For example, the reproduction processing unit 52 reproduces the second moving image on the main screen 25a, and displays the first moving image captured at the same timing when the second moving image displayed on the main screen 25a is recorded on the sub screen 25b. To display.

また、再生処理部52は位置指定部52a、特定部52b、表示更新部52cを備える。
位置指定部52aは、メイン画面25aに表示されている第2動画像上の任意の位置の指定を受け付ける。位置の指定は、例えば操作者による入力装置24のマウスのクリック操作や、タッチパネル式の入力装置であればタッチ操作等によって行われる。
The reproduction processing unit 52 includes a position specifying unit 52a, a specifying unit 52b, and a display updating unit 52c.
The position designation unit 52a accepts designation of an arbitrary position on the second moving image displayed on the main screen 25a. The designation of the position is performed by, for example, a mouse click operation of the input device 24 by an operator or a touch operation in the case of a touch panel type input device.

特定部52bは、位置指定部52aにより指定された位置に検査装置31が到達した状態の第2動画像の再生位置を特定するとともに、特定した再生位置に対応する第1動画像の再生位置を特定する。再生位置とは、動画像の各フレームのうち再生されるフレームの先頭フレームである。   The specifying unit 52b specifies the playback position of the second moving image in a state where the inspection apparatus 31 has reached the position specified by the position specifying unit 52a, and sets the playback position of the first moving image corresponding to the specified playback position. Identify. The reproduction position is the first frame of the frames to be reproduced among the frames of the moving image.

特定部52bは、再生位置の特定のため、位置指定部52aにより指定された位置に所定サイズの関心領域(ROI70)を設定し、設定された関心領域(ROI70)内の画像情報に基づいて当該関心領域(ROI70)内に検査装置31が含まれる状態の第2動画像の再生位置を特定する。そして特定した再生位置と同じ時刻に撮像された第1動画像を特定する。関心領域(ROI70)のサイズは、予め設定された固定サイズとしてもよいし、操作者により任意に設定されたサイズとしてもよい。また、後述するように関心領域は、被検体4の生体運動に追従して設定されることが望ましい(第3の実施の形態)。また第1動画像の撮像時の拡大率に応じて関心領域のサイズを変更してもよい(第5の実施の形態)。   The specifying unit 52b sets a region of interest (ROI 70) of a predetermined size at the position specified by the position specifying unit 52a to specify the reproduction position, and based on the image information in the set region of interest (ROI 70) The reproduction position of the second moving image in a state where the inspection apparatus 31 is included in the region of interest (ROI 70) is specified. And the 1st moving image imaged at the same time as the specified reproduction position is specified. The size of the region of interest (ROI 70) may be a fixed size set in advance or a size arbitrarily set by the operator. Further, as will be described later, it is desirable that the region of interest is set following the biological motion of the subject 4 (third embodiment). Further, the size of the region of interest may be changed according to the enlargement ratio at the time of capturing the first moving image (fifth embodiment).

特定部52bは、関心領域(ROI70)内の画素値ヒストグラムを生成し、生成したヒストグラムに基づき関心領域(ROI70)内に検査装置31が含まれるか否かを判定する。或いは、第2動画像の各フレームに設定された関心領域(ROI70)の画像の差分に基づき関心領域(ROI70)内に検査装置31が含まれるか否かを判定するものとしてもよい。特定部52bによる再生位置の特定処理については後述する。   The specifying unit 52b generates a pixel value histogram in the region of interest (ROI 70), and determines whether or not the inspection apparatus 31 is included in the region of interest (ROI 70) based on the generated histogram. Alternatively, it may be determined whether or not the inspection device 31 is included in the region of interest (ROI 70) based on the difference between the images of the region of interest (ROI 70) set in each frame of the second moving image. The reproduction position specifying process by the specifying unit 52b will be described later.

表示更新部52cは、特定部52bにより特定された再生位置の画像が表示されるように第1及び第2動画像の表示を更新する。   The display updating unit 52c updates the display of the first and second moving images so that the image at the reproduction position specified by the specifying unit 52b is displayed.

位置指定部52a、特定部52b、及び表示更新部52cを備えることにより、第1動画像及び第2動画像の同期再生中に第2動画像上で操作者が位置を指定すると、指定した位置に検査装置31が到達した時点で撮影された第1動画像、及び第2動画像がただちに表示装置25に表示されるよう表示が更新される。   By providing the position specifying unit 52a, the specifying unit 52b, and the display updating unit 52c, when the operator specifies the position on the second moving image during the synchronous reproduction of the first moving image and the second moving image, the specified position The display is updated so that the first moving image and the second moving image taken when the inspection device 31 arrives at the display device 25 are immediately displayed on the display device 25.

次に、図4〜図7を参照して、操作装置20(画像表示装置)が実行する画像表示処理について説明する。本実施の形態では、第1動画像は内視鏡画像81とし、第2動画像はX線透視像71として説明する。   Next, image display processing executed by the operation device 20 (image display device) will be described with reference to FIGS. In the present embodiment, the first moving image is described as an endoscopic image 81, and the second moving image is described as an X-ray fluoroscopic image 71.

検査システム1の第1動画像取得装置(内視鏡装置本体)3、及び第2動画像取得装置(X線画像診断装置)10が起動され(ステップS101)、各装置(第1動画像取得装置3、第2動画像取得装置10)で撮影が開始されると(ステップS102;Yes)、操作装置20の制御装置21は第1動画像取得装置(内視鏡装置)3から入力される内視鏡画像、及び第2動画像取得装置(X線画像診断装置)10から入力されるX線透視像を記憶装置23にそれぞれ保存する。内視鏡画像及びX線透視像の各フレームには、図3に示すように、いずれも録画時の時間情報が付加され、時間情報に基づいて同期再生可能な状態で保存される。   The first moving image acquisition device (endoscope device main body) 3 and the second moving image acquisition device (X-ray image diagnostic device) 10 of the inspection system 1 are activated (step S101), and each device (first moving image acquisition) is activated. When shooting is started by the device 3 and the second moving image acquisition device 10) (step S102; Yes), the control device 21 of the operating device 20 is input from the first moving image acquisition device (endoscope device) 3. The endoscopic image and the X-ray fluoroscopic image input from the second moving image acquisition apparatus (X-ray image diagnostic apparatus) 10 are stored in the storage device 23, respectively. As shown in FIG. 3, time information at the time of recording is added to each frame of the endoscopic image and the X-ray fluoroscopic image, and the frames are stored in a state where they can be synchronized and reproduced based on the time information.

第1動画像取得装置(内視鏡)3及び第2動画像取得装置(X線画像診断装置)10での撮像(録画)が終了し(ステップS103)、その後、録画データの再生指示が入力されると(ステップS104;Yes)、制御装置21は録画データの再生処理を開始する(ステップS105)。再生処理時において、制御装置21は記憶装置23から第1動画像(内視鏡画像)を読み出すとともに、当該第1動画像(内視鏡画像)と同時に撮影された第2動画像(X線透視像)の録画データを読み出し、表示装置25の各表示領域に並べて同期再生する。例えば、制御装置21は図5に示すように、表示装置25の表示画面にメイン画面25a及びサブ画面25bを形成し、メイン画面25aにX線透視像71(第2動画像)を表示し、サブ画面25bに内視鏡画像81(第1動画像)を表示する。   Imaging (recording) in the first moving image acquisition device (endoscope) 3 and the second moving image acquisition device (X-ray image diagnostic device) 10 is completed (step S103), and then a reproduction instruction for the recorded data is input. Then (step S104; Yes), the control device 21 starts a reproduction process of the recorded data (step S105). At the time of the reproduction process, the control device 21 reads out the first moving image (endoscopic image) from the storage device 23, and at the same time the second moving image (X-ray) taken at the same time as the first moving image (endoscopic image). The recorded data of the fluoroscopic image) is read out, arranged in each display area of the display device 25 and synchronously reproduced. For example, as shown in FIG. 5, the control device 21 forms a main screen 25a and a sub screen 25b on the display screen of the display device 25, and displays an X-ray fluoroscopic image 71 (second moving image) on the main screen 25a. An endoscopic image 81 (first moving image) is displayed on the sub screen 25b.

録画データの再生中に、メイン画面25aに表示されているX線透視像71上の任意の位置が操作者により指定されると(ステップS106;Yes)、制御装置21は指定された座標位置に所定サイズの関心領域(ROI70)を設定する(ステップS107)。ROI70は動画像(X線透視像)の各フレームの同じ座標位置に設定される。そして制御装置21は、各フレームのROI70内の画像を解析し(ステップS108)、ROI70内に検査装置31が到達した時のX線透視像71のフレーム番号及び内視鏡画像のフレーム番号を特定する。制御装置21は特定したフレーム番号を先頭再生位置として当該フレーム以降の動画像を各画面25a、25bに表示する(ステップS109)。   When an arbitrary position on the X-ray fluoroscopic image 71 displayed on the main screen 25a is designated by the operator during the reproduction of the recorded data (step S106; Yes), the control device 21 moves to the designated coordinate position. A region of interest (ROI 70) having a predetermined size is set (step S107). The ROI 70 is set at the same coordinate position of each frame of the moving image (X-ray fluoroscopic image). Then, the control device 21 analyzes the image in the ROI 70 of each frame (step S108), and specifies the frame number of the X-ray fluoroscopic image 71 and the frame number of the endoscopic image when the inspection device 31 reaches the ROI 70. To do. The control device 21 displays the moving image after the frame on the screens 25a and 25b with the identified frame number as the head reproduction position (step S109).

具体的には、図5(a)のX線透視像71で任意の位置が指定されると、その位置にROI70が設定される。その後、図5(b)に示すように、ROI70内に検査装置(内視鏡31)の先端部が到達した時に撮影されたX線透視像がメイン画面25aに表示される。サブ画面25bには、メイン画面25aのX線透視像72と同じ時点(ROI70内に検査装置(内視鏡31)の先端部が到達した時)に撮影された時点で撮影された内視鏡画像82が表示される。   Specifically, when an arbitrary position is designated in the X-ray fluoroscopic image 71 of FIG. 5A, the ROI 70 is set at that position. Thereafter, as shown in FIG. 5B, an X-ray fluoroscopic image taken when the distal end of the inspection apparatus (endoscope 31) reaches the ROI 70 is displayed on the main screen 25a. The sub screen 25b is an endoscope imaged at the same time as the X-ray fluoroscopic image 72 on the main screen 25a (when the distal end of the inspection apparatus (endoscope 31) reaches the ROI 70). An image 82 is displayed.

その後、最終フレームまで再生が終了するか、或いは表示終了指示が入力されると(ステップS110)、制御装置21は画像表示処理を終了する。その後、装置のシャットダウン指示があるとシャットダウン処理を実施する(ステップS111)。   Thereafter, when the reproduction is completed up to the final frame or a display end instruction is input (step S110), the control device 21 ends the image display process. Thereafter, when there is an instruction to shut down the apparatus, a shutdown process is performed (step S111).

ここで、図6及び図7を参照してROIの画像解析処理(図5のステップS108)について説明する。
制御装置21は、X線透視像(第2動画像)71上にROI70を設定すると設定したROI70の座標を取得し(ステップS201)、X線透視像71の各フレームの対応する座標位置にROI70を設定し、各フレームのROI70内の画像情報からそれぞれ画素値ヒストグラムを算出する(ステップS202)。
Here, the ROI image analysis processing (step S108 in FIG. 5) will be described with reference to FIGS.
When the ROI 70 is set on the X-ray fluoroscopic image (second moving image) 71, the control device 21 acquires the set coordinates of the ROI 70 (step S201), and the ROI 70 is located at the corresponding coordinate position of each frame of the X-ray fluoroscopic image 71. And a pixel value histogram is calculated from the image information in the ROI 70 of each frame (step S202).

図7(a−1)は、時刻t=Taにおけるフレームに設定されたROI70内の画像(X線透視像71の一部)を示す図であり、図7(a−2)は、時刻t=TaにおけるROI70内の画素値ヒストグラムを示す図である。また、図7(b−1)は、時刻t=TbにおけるROI70内の画像(X線透視像72の一部)を示す図であり、図7(b−2)は、時刻t=TbにおけるROI70内の画素値ヒストグラムを示す図である。画素値ヒストグラムの横軸は画素値、縦軸は頻度である。   FIG. 7A-1 shows an image (a part of the X-ray fluoroscopic image 71) in the ROI 70 set in the frame at time t = Ta, and FIG. 7A-2 shows the image at time t = Ta. It is a figure which shows the pixel value histogram in ROI70 in = Ta. FIG. 7B-1 is a diagram showing an image (a part of the X-ray fluoroscopic image 72) in the ROI 70 at time t = Tb, and FIG. 7B-2 is a diagram at time t = Tb. It is a figure which shows the pixel value histogram in ROI70. The horizontal axis of the pixel value histogram is the pixel value, and the vertical axis is the frequency.

制御装置21は、各フレームのROI70内の画素値ヒストグラムから特定画素値範囲外(特定画素値以下)の画素値の頻度が所定の閾値を超える画像が存在するか否かを判定する(ステップS203)。   The control device 21 determines whether or not there is an image in which the frequency of pixel values outside the specific pixel value range (below the specific pixel value) exceeds a predetermined threshold from the pixel value histogram in the ROI 70 of each frame (step S203). ).

図7(a−2)に示す画素値ヒストグラムでは、特定画素値(内視鏡の有無を判別可能な画素値)以下の頻度は小さい。そのため内視鏡31がROI70内に含まれないと判定される。一方、内視鏡31がROI70内に含まれる場合は(ステップS203;Yes)、図7(b−2)に示すように、特定画素値(内視鏡の有無を判別可能な画素値)以下の頻度が所定の閾値を超える。制御装置21は特定の画素値範囲(内視鏡の有無を判別可能な画素値)の頻度が閾値を超えたフレームのうち先頭フレームの時刻(時間情報)を特定する(ステップS204)。   In the pixel value histogram shown in FIG. 7A-2, the frequency is less than or equal to a specific pixel value (a pixel value with which the presence or absence of an endoscope can be determined). Therefore, it is determined that the endoscope 31 is not included in the ROI 70. On the other hand, when the endoscope 31 is included in the ROI 70 (step S203; Yes), as shown in FIG. 7 (b-2), it is equal to or less than a specific pixel value (a pixel value with which the presence or absence of the endoscope can be determined). Exceeds the predetermined threshold. The control device 21 specifies the time (time information) of the first frame among frames in which the frequency of a specific pixel value range (a pixel value capable of determining the presence or absence of an endoscope) exceeds a threshold (step S204).

制御装置21はステップS204で特定した時刻に撮影された各動画像(X線透視像72、内視鏡画像82)のフレームを特定し、特定したフレーム以降の各フレームをそれぞれメイン画面25a及びサブ画面25bにて表示再生する(ステップS205)。   The control device 21 specifies a frame of each moving image (X-ray fluoroscopic image 72, endoscopic image 82) taken at the time specified in step S204, and sets each frame after the specified frame to the main screen 25a and the sub screen. The display is reproduced on the screen 25b (step S205).

ステップS203において、特定画素値範囲の頻度が閾値を超える画像が存在しない場合は(ステップS203;No)、「該当画像がありません」といったメッセージを表示したダイアログを表示装置25に表示し(ステップS206)、再生中の画像の表示を継続する(ステップS207)。   If there is no image in which the frequency of the specific pixel value range exceeds the threshold in step S203 (step S203; No), a dialog displaying a message such as “no corresponding image” is displayed on the display device 25 (step S206). The display of the image being reproduced is continued (step S207).

これにより、操作者がメイン画面25a上で任意の位置を指定すると、指定した位置に内視鏡31が到達した時の画面に瞬時に切り替えることが可能となる。これにより再生の早送り操作(スクロール等)を行う必要がなく、容易に参照したい箇所を表示させることが可能となり、操作者の負担を軽減できる。   Thus, when the operator designates an arbitrary position on the main screen 25a, it is possible to instantaneously switch to the screen when the endoscope 31 reaches the designated position. As a result, it is not necessary to perform a fast-forward operation (such as scrolling) for reproduction, and it is possible to easily display a portion to be referred to, thereby reducing the burden on the operator.

なお、図4のステップS108のROIの画像解析処理は画素値ヒストグラムを用いる方法に限定されない。画像位置が指定された時のROI70内の画像とその他のフレームのROI70内の画像との差分に基づきROI70内に内視鏡31が含まれるか否かを判定してもよい。すなわち、ROI70内の画像の差分値が所定の閾値以上となったフレームをROI70内に内視鏡31が含まれるフレームと判断する。   Note that the ROI image analysis processing in step S108 in FIG. 4 is not limited to the method using the pixel value histogram. Whether or not the endoscope 31 is included in the ROI 70 may be determined based on the difference between the image in the ROI 70 when the image position is designated and the image in the ROI 70 of another frame. That is, a frame in which the difference value of the image in the ROI 70 is equal to or greater than a predetermined threshold is determined as a frame in which the endoscope 31 is included in the ROI 70.

また、制御装置21(特定部52b)は、ROI70に内視鏡31が侵入する時点のみならず、ROI70から内視鏡31が出る時点を再生位置として特定してもよい。図8に、ROI70から内視鏡31が出る時点を再生位置として特定する処理を含むフローチャートを示す。   Further, the control device 21 (specifying unit 52b) may specify not only the time when the endoscope 31 enters the ROI 70 but also the time when the endoscope 31 exits from the ROI 70 as the reproduction position. FIG. 8 shows a flowchart including processing for specifying the time point when the endoscope 31 exits from the ROI 70 as the reproduction position.

図8のステップS301〜ステップS307はROI70内に内視鏡が到達した時点(ROI70内に内視鏡31が含まれるフレームのうち最初のフレーム)を特定する処理であり、図6のステップS201〜ステップS207の処理と同様である。ROI70から内視鏡31が抜き去られる時点を再生位置として特定する場合は(ステップS308;Yes)、制御装置21はステップS301〜ステップS307の処理に続けて、ステップS309〜ステップS314の処理を実施する。   Steps S301 to S307 in FIG. 8 are processes for specifying the time point when the endoscope arrives in the ROI 70 (the first frame among the frames in which the endoscope 31 is included in the ROI 70), and steps S201 to S201 in FIG. This is the same as the processing in step S207. When the time point when the endoscope 31 is removed from the ROI 70 is specified as the reproduction position (step S308; Yes), the control device 21 performs the processing of steps S309 to S314 following the processing of steps S301 to S307. To do.

ステップS301〜ステップS307の処理を実施した後、制御装置21は更に画像の再生時間を進めて、図4のステップS107で設定されたROI70に対応する各フレームのROI内の画素値ヒストグラムを算出する(ステップS309)。   After performing the processing of step S301 to step S307, the control device 21 further advances the image reproduction time, and calculates a pixel value histogram in the ROI of each frame corresponding to the ROI 70 set in step S107 of FIG. (Step S309).

制御装置21は、各フレームのROI70内の画素値ヒストグラムから特定画素値の頻度が閾値を超える画像が存在するか否かを判定する(ステップS310)。制御装置21は特定の画素値範囲(内視鏡の有無を判別可能な画素値)の頻度が閾値を超えているフレームのうち最終フレームの時間情報(時刻)を特定する(ステップS311)。   The control device 21 determines whether there is an image in which the frequency of the specific pixel value exceeds the threshold from the pixel value histogram in the ROI 70 of each frame (step S310). The control device 21 specifies time information (time) of the last frame among frames in which the frequency of a specific pixel value range (a pixel value capable of determining the presence or absence of an endoscope) exceeds a threshold value (step S311).

制御装置21はステップS311で特定した時刻に撮影された各動画像(X線透視像、内視鏡画像)のフレームを特定し、特定したフレーム以降の各フレームをそれぞれメイン画面25a及びサブ画面25bに表示する(ステップS312)。   The control device 21 specifies a frame of each moving image (X-ray fluoroscopic image, endoscopic image) taken at the time specified in step S311 and sets each frame after the specified frame to the main screen 25a and the sub screen 25b, respectively. (Step S312).

ステップS310において、特定画素値の頻度が閾値を超える画像が存在しない場合は(ステップS310;No)、「該当画像がありません」といったメッセージを表示したダイアログを表示し(ステップS313)、再生中の画像の表示を継続する(ステップS314)。   If there is no image in which the frequency of the specific pixel value exceeds the threshold value in step S310 (step S310; No), a dialog with a message “No corresponding image” is displayed (step S313), and the image being reproduced is displayed. Is continuously displayed (step S314).

これにより、操作者がメイン画面25a上でX線透視像71、72上の任意の位置を指定すると、内視鏡が挿入される時と抜き去られる時の両方について、指定した位置を内視鏡が通過する画像に切り替えて表示することが可能となる。これにより再生の早送り操作(スクロール等)を行う必要がなく、操作者の負担を軽減できる。   As a result, when the operator designates an arbitrary position on the X-ray fluoroscopic images 71 and 72 on the main screen 25a, the designated position is endoscopically displayed both when the endoscope is inserted and when the endoscope is removed. It is possible to switch and display the image through which the mirror passes. As a result, it is not necessary to perform a fast-forwarding operation (such as scrolling), and the burden on the operator can be reduced.

[第2の実施形態]
図9を参照して、本発明の第2の実施形態について説明する。なお、以下の説明では、第1の実施形態と同一の各部は同一の符号を付し、重複する説明を省略する。
[Second Embodiment]
A second embodiment of the present invention will be described with reference to FIG. In the following description, the same parts as those in the first embodiment are denoted by the same reference numerals, and redundant descriptions are omitted.

第2の実施形態では、録画時または再生時にメイン画面25a上で第2動画像(X線透視像71)の複数の位置が指定された場合の画像表示処理について説明する。   In the second embodiment, an image display process when a plurality of positions of the second moving image (X-ray fluoroscopic image 71) is designated on the main screen 25a during recording or reproduction will be described.

図9(a)に示すようにメイン画面25aにてX線透視像(第2動画像)71を再生中に複数の位置が指定されると、制御装置21は、指定された各位置にそれぞれ関心領域(ROI1、ROI2、ROI3)を設定する。   As shown in FIG. 9A, when a plurality of positions are designated during the reproduction of the X-ray fluoroscopic image (second moving image) 71 on the main screen 25a, the control device 21 is set at each designated position. Regions of interest (ROI1, ROI2, ROI3) are set.

制御装置21は、各関心領域(ROI1、ROI2、ROI3)についてそれぞれ第1の実施の形態と同様に、X線透視像71の各フレームの対応する座標位置にそれぞれROI1、ROI2、ROI3を設定し、各フレームに設定したROI1、ROI2、ROI3内の画像を解析する。制御装置21は内視鏡31がROI1、ROI2、ROI3に到達した時刻をそれぞれ特定し、特定した各時刻のX線透視像71、72、73及び内視鏡画像81、82、83を順次切り替えてメイン画面25a、サブ画面25bにそれぞれ表示する。   As in the first embodiment, the control device 21 sets ROI1, ROI2, and ROI3 at the corresponding coordinate positions of each frame of the fluoroscopic image 71 for each region of interest (ROI1, ROI2, and ROI3). The images in ROI1, ROI2, and ROI3 set in each frame are analyzed. The control device 21 specifies the times when the endoscope 31 reaches ROI1, ROI2, and ROI3, and sequentially switches the fluoroscopic images 71, 72, 73 and the endoscope images 81, 82, 83 at the specified times. Are displayed on the main screen 25a and the sub screen 25b, respectively.

図9(b)はROI1の位置に内視鏡31が到達した時の表示画面であり、図9(c)はROI2の位置に内視鏡31が到達した時の表示画面であり、図9(d)はROI3の位置に内視鏡31が到達した時の表示画面である。メイン画面25aにはX線透視像71、72、73が順次切り替えて表示され、サブ画面25bには内視鏡画像81、82、83が順次切り替えて表示される。制御装置21は、図9(b)、図9(c)、図9(d)の表示状態を所定の時間間隔で切り替えて表示する。このように、操作者が表示させたい箇所をX線透視像71上で複数箇所指定すれば、その箇所に内視鏡が到達した時刻で撮像された画像だけを選択的に再生することが可能となる。これにより操作者は容易な操作で効率よく画像を観察できるようになる。   FIG. 9B is a display screen when the endoscope 31 reaches the position of ROI1, and FIG. 9C is a display screen when the endoscope 31 reaches the position of ROI2. (D) is a display screen when the endoscope 31 reaches the position of ROI3. X-ray fluoroscopic images 71, 72, 73 are sequentially switched and displayed on the main screen 25a, and endoscopic images 81, 82, 83 are sequentially switched and displayed on the sub-screen 25b. The control device 21 switches and displays the display states of FIGS. 9B, 9C, and 9D at predetermined time intervals. In this way, if a plurality of locations on the X-ray fluoroscopic image 71 are designated on the location that the operator wants to display, only the image captured at the time when the endoscope reaches the location can be selectively reproduced. It becomes. As a result, the operator can efficiently observe the image with a simple operation.

なお、メイン画面25a(X線透視像71)上で複数の位置が指定されている場合、指定された位置に内視鏡31が到達する時刻から所定時間分の画面だけを断続的に順次切替えて表示するのではなく、指定された複数の位置のうち最初(最も録画時刻が早い位置(例えばROI1の位置)に内視鏡31が到達した時刻)から、最後(最も録画時刻が遅い位置(例えばROI3の位置)に内視鏡31が到達する時刻)までの区間の動画像を連続的に再生するようにしてもよい。   In addition, when a plurality of positions are designated on the main screen 25a (X-ray fluoroscopic image 71), only the screen for a predetermined time is sequentially and sequentially switched from the time when the endoscope 31 reaches the designated position. Of the plurality of designated positions, from the first (the time when the endoscope 31 arrived at the earliest recording time (for example, the position of ROI1)) to the last (the position with the latest recording time ( For example, a moving image in a section until the time when the endoscope 31 reaches the position of ROI 3) may be continuously reproduced.

また制御装置21は画面表示を切り替える時間の間隔や表示パターン(指定位置の最初と最後の区間の連続再生を行うか、または指定位置のみの再生するか)を操作者が設定するためのユーザインターフェース(表示設定部)を更に備えることが望ましい。   The control device 21 also has a user interface for the operator to set a time interval for switching the screen display and a display pattern (whether continuous reproduction of the first and last sections of the designated position or reproduction of only the designated position). It is desirable to further include a (display setting unit).

[第3の実施形態]
図10〜図13を参照して、第3の実施の形態について説明する。
例えば、胸部を撮影する時は呼吸により体動が生じる。そのため、あるフレームで設定した関心領域(ROI)と同じ座標位置に他のフレームで関心領域(ROI)を設定すると、ROIの画像解析処理(図6)においてROI位置に内視鏡が含まれるか否かを正しく判定できないことがある。そこで、第3の実施の形態では、生体運動に追従するように各フレームにROIを設定する。
[Third Embodiment]
A third embodiment will be described with reference to FIGS.
For example, when photographing the chest, body movement occurs due to breathing. Therefore, if a region of interest (ROI) is set in another frame at the same coordinate position as the region of interest (ROI) set in a frame, does the ROI position include an endoscope in the ROI image analysis processing (FIG. 6)? It may not be possible to correctly determine whether or not. Therefore, in the third embodiment, an ROI is set for each frame so as to follow the biological motion.

図10を参照して第3の実施の形態の画像表示処理について説明する。
図10のフローチャートにおいてステップS401〜ステップS406の処理は第1の実施の形態の画像表示処理のステップS101〜ステップS106(図4)と同様である。すなわち、検査システム1の各装置(第1動画像取得装置3、第2動画像取得装置10)が起動され(ステップS401)、各装置で撮影が開始されると(ステップS402;Yes)、操作装置20の制御装置21は第1動画像取得装置(内視鏡)3から入力される内視鏡画像、及び第2動画像取得装置(X線画像診断装置)10から入力されるX線透視像を記憶装置23に保存する。内視鏡画像、X線透視像の各フレームには、いずれも録画時の時間情報が付加され、時間情報に基づいて同期再生可能な状態で保持される(図3参照)。
The image display process according to the third embodiment will be described with reference to FIG.
In the flowchart of FIG. 10, the processing from step S401 to step S406 is the same as step S101 to step S106 (FIG. 4) of the image display processing of the first embodiment. That is, when each device (the first moving image acquisition device 3 and the second moving image acquisition device 10) of the inspection system 1 is activated (step S401) and photographing is started in each device (step S402; Yes), the operation is performed. The control device 21 of the apparatus 20 includes an endoscopic image input from the first moving image acquisition device (endoscope) 3 and an X-ray fluoroscope input from the second moving image acquisition device (X-ray image diagnostic device) 10. The image is stored in the storage device 23. Time information at the time of recording is added to each frame of the endoscopic image and the X-ray fluoroscopic image, and is held in a state that can be synchronized and reproduced based on the time information (see FIG. 3).

第1動画像取得装置(内視鏡)3及び第2動画像取得装置(X線画像診断装置)10での録画が終了し(ステップS403)、録画データの再生指示が入力されると(ステップS404;Yes)、制御装置21は録画データの再生処理を開始する(ステップS405)。再生時には、制御装置21は記憶装置23から第1動画像(内視鏡画像)とこれと同時に撮影された第2動画像(X線透視像)のデータを取得し、表示装置25の各表示領域に並べて同期再生する。例えば、図5に示すように、表示装置25のメイン画面25aにX線透視像71が表示され、サブ画面25bに内視鏡画像81が表示される。   When the recording in the first moving image acquisition device (endoscope) 3 and the second moving image acquisition device (X-ray image diagnostic device) 10 is finished (step S403), and an instruction to reproduce the recorded data is input (step S403). S404; Yes), the control device 21 starts a reproduction process of the recorded data (step S405). At the time of reproduction, the control device 21 acquires data of the first moving image (endoscopic image) and the second moving image (X-ray fluoroscopic image) taken at the same time from the storage device 23, and displays each display on the display device 25. Play back in sync with the area. For example, as shown in FIG. 5, an X-ray fluoroscopic image 71 is displayed on the main screen 25a of the display device 25, and an endoscopic image 81 is displayed on the sub-screen 25b.

録画データの再生中に、メイン画面25aのX線透視像71上の任意の位置が操作者により指定されると(ステップS406;Yes)、制御装置21は指定された位置を中心に動き検出用ROI75(図12参照)を設定する(ステップS407)。動き検出用ROI75は想定される体動の大きさ(ずれ量)より広いサイズとし、各フレームで同じ座標位置に設定する。   When an arbitrary position on the X-ray fluoroscopic image 71 on the main screen 25a is designated by the operator during the reproduction of the recorded data (step S406; Yes), the control device 21 is for motion detection around the designated position. The ROI 75 (see FIG. 12) is set (step S407). The motion detection ROI 75 has a size larger than the assumed size (shift amount) of the body motion, and is set at the same coordinate position in each frame.

次に制御装置21はステップS407で設定された動き検出用ROI75内の画像を解析し、被検体4の動きに追従する検査装置検索用ROI76を各フレームに設定する(ステップS408)。   Next, the control device 21 analyzes the image in the motion detection ROI 75 set in step S407, and sets the inspection device search ROI 76 that follows the motion of the subject 4 in each frame (step S408).

ステップS408の検査装置検索用ROI76の設定方法について図11及び図12を参照して説明する。
図12(a)はX線透視像71に設定された動き検出用ROI75と、動き検出用ROI75内に設定される検査装置検索用ROI76を示す図である。動き検出用ROI75は、操作者により指定された位置を中心に、想定される体動の大きさに応じたサイズの範囲が設定される。動き検出用ROI75は、各フレームで固定の位置(同じ座標位置)とする。検査装置検索用ROI76は、第1の実施の形態のROI70と同様に画像解析の対象とするROIである。
A method for setting the inspection apparatus search ROI 76 in step S408 will be described with reference to FIGS.
FIG. 12A is a diagram showing the motion detection ROI 75 set in the X-ray fluoroscopic image 71 and the inspection device search ROI 76 set in the motion detection ROI 75. The motion detection ROI 75 is set with a size range corresponding to the assumed size of the body motion, centered on the position designated by the operator. The motion detection ROI 75 has a fixed position (same coordinate position) in each frame. The inspection device search ROI 76 is an ROI to be subjected to image analysis, similar to the ROI 70 of the first embodiment.

制御装置21は、ステップS406で位置を指定したフレームを基準フレームとし、基準フレームにおける動き検出用ROI75内の画像情報に基づいて、同じ領域(特徴部)を各フレームから検出する(ステップS501)。そしてステップS501で検出した各フレームの特徴部の領域の座標値と基準フレームにおける該当する領域との座標値のずれを算出する(ステップS502)。そしてステップS502で算出したズレを検査装置検索用ROI77の座標に反映して補正後の検査装置検索用ROI77を得る(ステップS503)。図12(b)は、被検体4の体動に追従するように設定された補正後検査装置検索用ROI77を示している。   The control device 21 uses the frame whose position is specified in step S406 as a reference frame, and detects the same region (feature portion) from each frame based on the image information in the motion detection ROI 75 in the reference frame (step S501). Then, the shift of the coordinate value of the feature area of each frame detected in step S501 and the coordinate value of the corresponding area in the reference frame is calculated (step S502). Then, the deviation calculated in step S502 is reflected in the coordinates of the inspection apparatus search ROI 77 to obtain a corrected inspection apparatus search ROI 77 (step S503). FIG. 12B shows the post-correction inspection apparatus search ROI 77 set so as to follow the body movement of the subject 4.

図10の説明に戻る。ステップS408において各フレームに動きに追従する検査装置検索用ROI76、77、…を設定すると、制御装置21は、ステップS408で各フレームに設定した各検査装置検索用ROI76、77、…内の画像を解析して(ステップS409)、検査装置検索用ROI76、77、…内に検査装置31が到達した時の各動画像(内視鏡画像及びX線透視像)の再生位置(フレーム番号)を特定し、特定されたフレーム番号以降の動画像を各画面25a、25bに表示する(ステップS410)。ステップS409、ステップS410の処理は、第1の実施の形態のステップS108、ステップS109と同様である。   Returning to the description of FIG. When the inspection device search ROIs 76, 77,... That follow the movement are set in each frame in step S408, the control device 21 displays the images in each inspection device search ROIs 76, 77,... Set in each frame in step S408. Analyzing (step S409) and specifying the reproduction position (frame number) of each moving image (endoscopic image and X-ray fluoroscopic image) when the inspection apparatus 31 reaches the inspection apparatus search ROI 76, 77,. The moving images after the specified frame number are displayed on the screens 25a and 25b (step S410). The processing of step S409 and step S410 is the same as that of step S108 and step S109 of the first embodiment.

すなわち、X線透視像71で任意の位置が指定されると、図12(a)のように検査装置検索用ROI76が設定されるとともに、図12(b)に示すように各フレームには、呼吸によるズレを補正した位置に検査装置検索用ROI77が設定される。ステップS409〜ステップS410の処理では、このように動きに合わせて位置が補正された検査装置検索用ROI77内に検査装置(内視鏡31)の先端部が入った時刻を特定し、特定した時刻におけるX線透視像をメイン画面25aに表示する。サブ画面25bでは、補正後の検査装置検索用ROI77内に検査装置(内視鏡31)の先端部が入った時点で撮影された内視鏡画像82が表示される。   That is, when an arbitrary position is specified in the X-ray fluoroscopic image 71, the inspection apparatus search ROI 76 is set as shown in FIG. 12A, and each frame as shown in FIG. The inspection device search ROI 77 is set at a position where the deviation due to respiration is corrected. In the processing of step S409 to step S410, the time when the distal end portion of the inspection apparatus (endoscope 31) enters the inspection apparatus search ROI 77 whose position is corrected in accordance with the movement in this way is specified, and the specified time Is displayed on the main screen 25a. In the sub-screen 25b, an endoscope image 82 that is captured when the tip of the inspection apparatus (endoscope 31) enters the corrected inspection apparatus search ROI 77 is displayed.

図13は、呼吸によるROIのズレを補正しない場合と補正する場合でのROI内の画像の違いを説明する図である。
図13(a)は検査装置検索用ROI76を各フレームで固定の座標に設定した場合を示している。時刻t=Taのフレームで設定された検査装置検索用ROI76内に描画された領域は、時刻t=Tbのフレームでは破線の位置から実線の位置(右側)にずれている様子が示されている。時刻t=Tbでは内視鏡31がROI76に含まれるが、画素値ヒストグラムによる処理では内視鏡31に相当する画素数が少ないため誤判定となる虞がある。
FIG. 13 is a diagram for explaining a difference in images in the ROI when the ROI shift due to respiration is not corrected and when it is corrected.
FIG. 13A shows a case where the inspection apparatus search ROI 76 is set to fixed coordinates in each frame. The region drawn in the inspection apparatus search ROI 76 set in the frame at time t = Ta is shifted from the position of the broken line to the position of the solid line (right side) in the frame at time t = Tb. . At time t = Tb, the endoscope 31 is included in the ROI 76. However, in the process using the pixel value histogram, since the number of pixels corresponding to the endoscope 31 is small, there is a risk of erroneous determination.

一方、図13(b)は検査装置検索用ROI76を体動に追従して移動させた場合を示している。時刻t=Taのフレームで設定された検査装置検索用ROI76内に描画された領域は、時刻t=Tbのフレームでは実線の位置であり、t=Taで設定された検査装置検索用ROI77内の位置(破線の位置)とほとんど同じ位置にある。時刻t=Tbでは内視鏡31がROI76に含まれ、正確に内視鏡31の到達を判定される。   On the other hand, FIG. 13B shows a case where the inspection device search ROI 76 is moved following the body movement. The region drawn in the inspection device search ROI 76 set in the frame at time t = Ta is the position of the solid line in the frame at time t = Tb, and in the inspection device search ROI 77 set at t = Ta. It is almost the same position as the position (the position of the broken line). At time t = Tb, the endoscope 31 is included in the ROI 76, and the arrival of the endoscope 31 is accurately determined.

録画データの最終フレームまで再生が終了するか、或いは表示終了指示が入力されると(ステップS411)、制御装置21は画像表示処理を終了する。その後、装置のシャットダウン指示があると装置のシャットダウン処理を実施して(ステップS412)、シャットダウンする。   When the reproduction is completed up to the last frame of the recorded data or a display end instruction is input (step S411), the control device 21 ends the image display process. Thereafter, when there is an instruction for shutting down the apparatus, the apparatus is shut down (step S412) and shuts down.

以上説明したように、第3の実施の形態の画像表示処理では、検査時の生体運動に追従するように検査装置検索用ROIを設定することで、体動の大きな部位の画像を表示する場合にも、検査装置31の検出精度を向上させ、正確に画像を表示させることが可能となる。   As described above, in the image display process according to the third embodiment, by setting the inspection apparatus search ROI so as to follow the biological motion at the time of the inspection, an image of a part with a large body movement is displayed. In addition, the detection accuracy of the inspection apparatus 31 can be improved and an image can be accurately displayed.

[第4の実施の形態]
次に、本発明の第4の実施の形態について説明する。内視鏡31等の検査装置には拡大機能を有するものがある。拡大機能とは、通常撮影の時と異なるフォーカス距離で撮影を行うものである。これにより拡大率に応じて通常撮影の時よりも離れた位置(または近い位置)を焦点として内視鏡画像が撮影、録画される。この拡大機能を用いて撮影された内視鏡画像(第1動画像)をX線透視像(第2動画像)と同期再生する際に、第1の実施の形態の画像表示処理を適用すると、図14(a)に示すように操作者がメイン画面25aのX線透視像71上で検査装置(内視鏡31)が移動した位置(ROI70)を指定しても、実際に内視鏡31によって撮影されている箇所は指定した位置と異なり、メイン画面25aとサブ画面25bとで表示している箇所のずれが生じることがある。
[Fourth Embodiment]
Next, a fourth embodiment of the present invention will be described. Some inspection apparatuses such as the endoscope 31 have an enlargement function. The enlargement function is to perform shooting at a focus distance different from that in normal shooting. As a result, an endoscopic image is taken and recorded with a position farther (or closer) as compared to the normal photographing according to the magnification ratio. When the endoscopic image (first moving image) photographed using this enlargement function is reproduced in synchronization with the X-ray fluoroscopic image (second moving image), the image display processing of the first embodiment is applied. Even if the operator designates the position (ROI 70) where the inspection apparatus (endoscope 31) has moved on the X-ray fluoroscopic image 71 on the main screen 25a as shown in FIG. Unlike the designated position, the location photographed by 31 may cause a shift in the location displayed on the main screen 25a and the sub screen 25b.

図14(b)、(c)、(d)は、サブ画面25bに表示される内視鏡画像81、81a、81bの例であり、(b)は通常撮影時の内視鏡画像81、図14(c)は拡大機能により撮影された内視鏡画像81a、図14(d)は第4の実施の形態の処理により拡大率補正された内視鏡画像81bの例である。   14B, 14C, and 14D are examples of endoscopic images 81, 81a, and 81b displayed on the sub-screen 25b, and FIG. 14B shows an endoscopic image 81 during normal shooting. FIG. 14C shows an example of an endoscopic image 81a photographed by the enlargement function, and FIG. 14D shows an example of an endoscopic image 81b that has been subjected to enlargement ratio correction by the processing of the fourth embodiment.

内視鏡31が被検体4内の同じ位置にあっても、図14(b)、(c)に示すように、拡大機能を使用して撮影された内視鏡画像81aは、通常撮影時の内視鏡画像81とフォーカス距離が異なるため異なる位置が撮影されている。   Even when the endoscope 31 is located at the same position in the subject 4, as shown in FIGS. 14B and 14C, the endoscope image 81a photographed using the enlargement function is displayed during normal photographing. Since the focus distance is different from that of the endoscope image 81, a different position is photographed.

そこで、第4の実施の形態の画像表示処理では、制御装置21は内視鏡画像の撮影時の拡大率とフォーカス距離との関係を示すデータを第1動画像取得装置3から取得する。メイン画面25aのX線透視像71上で位置が指定されると、取得したデータに基づいて通常撮影時とのフォーカス距離の差に応じた時間だけ通常撮影時(第1の実施の形態の画像表示処理で特定される再生位置)より遡った時刻に撮影されたフレームを再生位置として特定し、サブ画面25bに表示する。なお、これは内視鏡31が常に等しい速度で挿入されているという前提である。   Therefore, in the image display process according to the fourth embodiment, the control device 21 acquires data indicating the relationship between the enlargement ratio at the time of capturing an endoscopic image and the focus distance from the first moving image acquisition device 3. When a position is designated on the X-ray fluoroscopic image 71 on the main screen 25a, normal imaging is performed for the time corresponding to the difference in focus distance from normal imaging based on the acquired data (the image in the first embodiment). A frame shot at a time that is earlier than the playback position specified by the display process is specified as a playback position and displayed on the sub-screen 25b. This is based on the premise that the endoscope 31 is always inserted at the same speed.

これにより、拡大率に応じたフォーカス距離の差だけ通常撮影時よりも手前の位置から撮影されたフレームがサブ画面25bに表示されることとなり、図14(d)に示すように、通常撮影時と同様の内視鏡画像81b(拡大機能を利用して撮影された内視鏡画像)が表示される。つまり検査装置31の撮影時の倍率に関わらず、検査装置31が存在する場所から撮影した通常倍率の画像と同様の画像を表示できる。   As a result, a frame shot from a position before the normal shooting is displayed on the sub screen 25b by a difference in focus distance corresponding to the enlargement ratio, and as shown in FIG. The same endoscopic image 81b (endoscopic image photographed using the enlargement function) is displayed. That is, regardless of the magnification at the time of photographing of the inspection device 31, an image similar to the normal magnification image taken from the place where the inspection device 31 exists can be displayed.

[第5の実施の形態]
次に、図15を参照して本発明の第5の実施の形態を説明する。
上述したように、内視鏡31の拡大機能を利用すると、図15に示すように、通常撮影時とはフォーカス距離が異なるため、内視鏡31の位置から内視鏡画像として画像化される位置9、9aまでの距離が拡大率によって異なる。そのため、倍率が高くなるとX線透視像71上で位置を指定した際に設定されるROI70内に、内視鏡画像の画像化位置が入らないことがある(図15(b)参照)。
[Fifth Embodiment]
Next, a fifth embodiment of the present invention will be described with reference to FIG.
As described above, when the enlargement function of the endoscope 31 is used, as shown in FIG. 15, the focus distance is different from that at the time of normal photographing, so that the endoscope 31 is imaged from the position of the endoscope 31. The distance to the positions 9 and 9a differs depending on the enlargement ratio. Therefore, when the magnification is increased, the imaging position of the endoscopic image may not be included in the ROI 70 that is set when the position is designated on the X-ray fluoroscopic image 71 (see FIG. 15B).

そこで、第5の実施の形態では、制御装置21は内視鏡画像(第1動画像)における拡大率とフォーカス距離との関係を示すデータを取得し、X線透視像71上で位置が指定されると(図4のステップS106;Yes)、第1動画像(内視鏡画像)の拡大率(フォーカス距離)に応じてサイズまたは位置を調整した関心領域(ROI70a)を設定する(ステップS107)。例えば、拡大率が大きい場合は、図15(b)に示すように通常撮影時よりも拡大率に応じた大きいサイズのROI70aを設定するか、フォーカス位置9aがROIの中心となるようにROI70aの位置を調整して設定する。   Therefore, in the fifth embodiment, the control device 21 acquires data indicating the relationship between the enlargement ratio and the focus distance in the endoscopic image (first moving image), and the position is designated on the X-ray fluoroscopic image 71. Then (step S106 in FIG. 4; Yes), a region of interest (ROI 70a) whose size or position is adjusted according to the enlargement ratio (focus distance) of the first moving image (endoscopic image) is set (step S107). ). For example, when the enlargement ratio is large, as shown in FIG. 15B, the ROI 70a having a larger size corresponding to the enlargement ratio than that during normal shooting is set, or the ROI 70a is set so that the focus position 9a is at the center of the ROI. Adjust and set the position.

これにより、ROI70a内に必ず内視鏡画像の画像化位置(フォーカス位置)9aが入るようになり、操作者により指定された位置が撮影された画面を表示することが可能となる。   As a result, the imaging position (focus position) 9a of the endoscopic image always enters the ROI 70a, and it is possible to display a screen on which the position designated by the operator is photographed.

以上、各実施形態において、本発明の好適な画像表示装置、X線画像診断装置、及び画像表示方法について説明したが、本発明は上述の実施形態に限定されるものではない。当業者であれば、本願で開示した技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。   As described above, in each embodiment, the preferred image display apparatus, X-ray image diagnostic apparatus, and image display method of the present invention have been described. However, the present invention is not limited to the above-described embodiment. It will be apparent to those skilled in the art that various changes or modifications can be conceived within the scope of the technical idea disclosed in the present application, and these are naturally within the technical scope of the present invention. Understood.

1・・・・・・検査システム
10・・・・・第2動画像取得装置(X線画像診断装置)
11・・・・・X線管
13・・・・・X線絞り
15・・・・・高電圧発生器
16・・・・・X線検出器
17・・・・・X線画像処理部
20・・・・・操作装置(画像表示装置)
21・・・・・制御装置
22・・・・・画像処理装置
23・・・・・記憶装置
24・・・・・入力装置
25・・・・・表示装置
25a・・・・メイン画面
25b・・・・サブ画面
3・・・・・・第1動画像取得装置
31・・・・・検査装置(内視鏡)
4・・・・・・被検体
5・・・・・・寝台
51・・・・・記録処理部
52・・・・・再生処理部
52a・・・・位置指定部
52b・・・・特定部
52c・・・・表示更新部
70・・・・・関心領域(ROI)
71、72、73・・・・・X線透視像
75・・・・・・・・・・・動き検出用ROI
76、77・・・・・・・・検査装置検索用ROI
81、82、83・・・・・内視鏡画像
9,9a・・・画像化位置

1. Inspection system 10 ... Second moving image acquisition device (X-ray diagnostic imaging device)
11 X-ray tube 13 X-ray diaphragm 15 High-voltage generator 16 X-ray detector 17 X-ray image processing unit 20 ... Operating devices (image display devices)
21... Control device 22... Image processing device 23... Storage device 24... Input device 25. ... Sub-screen 3 ... First moving image acquisition device 31 ... Inspection device (endoscope)
4... Subject 5... Bed 51... Recording processing section 52 .. reproduction processing section 52 a... Position specifying section 52 b. 52c ··· Display update unit 70 · · · Region of interest (ROI)
71, 72, 73 ... X-ray fluoroscopic image 75 ... ROI for motion detection
76, 77 ... ・ ・ ・ ・ ・ ROI for inspection device search
81, 82, 83 ... Endoscopic images 9, 9a ... Imaging position

Claims (13)

被検体の体腔内に挿入されて被検体内を撮像する検査装置を用いて撮影された第1動画像を取得するとともに、前記検査装置の少なくとも一部が撮影範囲に含まれるように撮影された動画像である第2動画像を取得する画像取得部と、
前記第1動画像及び第2動画像を同期再生する再生処理部と、
前記第2動画像上の位置の指定を受け付ける位置指定部と、
前記位置指定部により指定された位置に前記検査装置が到達した状態の前記第2動画像の再生位置を特定するとともに、特定した再生位置に対応する前記第1動画像の再生位置を特定する特定部と、
前記特定部により特定された再生位置の画像が表示されるように前記第1動画像及び第2動画像の表示を更新する表示更新部と、
を備えることを特徴とする画像表示装置。
The first moving image was acquired using an inspection apparatus that is inserted into the body cavity of the subject and images the inside of the subject, and at least a part of the inspection apparatus was captured so as to be included in the imaging range An image acquisition unit for acquiring a second moving image that is a moving image;
A reproduction processing unit for synchronously reproducing the first moving image and the second moving image;
A position designation unit for accepting designation of a position on the second moving image;
A specification for specifying the playback position of the second moving image in a state in which the inspection apparatus has reached the position specified by the position specifying unit and specifying the playback position of the first moving image corresponding to the specified playback position And
A display update unit for updating the display of the first moving image and the second moving image so that an image at the reproduction position specified by the specifying unit is displayed;
An image display device comprising:
前記位置指定部により指定された位置に所定サイズの関心領域を設定する関心領域設定部を更に備え、
前記特定部は、前記関心領域内の画像情報に基づいて前記関心領域内に前記検査装置が含まれる状態の前記第1動画像及び第2動画像の再生位置を特定することを特徴とする請求項1に記載の画像表示装置。
A region-of-interest setting unit for setting a region of interest of a predetermined size at a position specified by the position specifying unit;
The identification unit identifies a reproduction position of the first moving image and the second moving image in a state in which the inspection apparatus is included in the region of interest based on image information in the region of interest. Item 4. The image display device according to Item 1.
前記特定部は、前記関心領域内の画素値ヒストグラムに基づき前記関心領域内に前記検査装置が含まれるか否かを判定することを特徴とする請求項2に記載の画像表示装置。   The image display device according to claim 2, wherein the specifying unit determines whether or not the inspection device is included in the region of interest based on a pixel value histogram in the region of interest. 前記特定部は、各フレームの前記関心領域内の画像の差分に基づき前記関心領域内に前記検査装置が含まれるか否かを判定することを特徴とする請求項2に記載の画像表示装置。   The image display device according to claim 2, wherein the specifying unit determines whether the inspection device is included in the region of interest based on a difference between images in the region of interest of each frame. 前記特定部は、前記関心領域に前記検査装置が侵入する時点、及び前記関心領域から前記検査装置が出る時点の少なくともいずれか一方を前記再生位置として特定することを特徴とする請求項2から請求項4のいずれか一項に記載の画像表示装置。   3. The apparatus according to claim 2, wherein the specifying unit specifies at least one of a time point when the inspection apparatus enters the region of interest and a time point when the inspection apparatus exits the region of interest as the reproduction position. Item 5. The image display device according to any one of Items 4 to 6. 前記位置指定部により複数の位置が設定された場合は、
前記特定部は前記位置指定部により指定された各位置について第1動画像及び第2動画像の再生位置を特定し、
前記表示更新部は前記特定した再生位置の画像を順次切り替えて表示することを特徴とする請求項1にから請求項5のいずれか一項に記載の画像表示装置。
When a plurality of positions are set by the position specifying unit,
The specifying unit specifies the playback position of the first moving image and the second moving image for each position specified by the position specifying unit;
The image display apparatus according to claim 1, wherein the display update unit sequentially switches and displays the images at the specified reproduction position.
前記表示更新部による表示の切替時間や再生パターンの設定を受け付ける表示設定部を更に備えることを特徴とする請求項6に記載の画像表示装置。   The image display apparatus according to claim 6, further comprising a display setting unit that receives a setting of a display switching time and a reproduction pattern by the display update unit. 前記表示更新部は、前記位置指定部により指定された複数の位置のうち最初と最後の位置に対応する区間の第1動画像及び第2動画像を並べて連続再生することを特徴とする請求項6に記載の画像表示装置。   The display update unit is configured to continuously reproduce the first moving image and the second moving image in a section corresponding to the first and last positions among a plurality of positions specified by the position specifying unit. 6. The image display device according to 6. 前記関心領域設定部は、前記位置指定部により指定された位置における生体運動に追従するように前記関心領域を設定することを特徴とする請求項2に記載の画像表示装置。   The image display device according to claim 2, wherein the region-of-interest setting unit sets the region of interest so as to follow a biological motion at a position specified by the position specifying unit. 前記特定部は、前記第1動画像の撮像時における拡大率とフォーカス距離との関係を示すデータを取得し、取得したデータに基づいて前記フォーカス距離に応じた時間だけ通常撮影時よりも遡った時間に撮影されたフレームを前記再生位置として特定することを特徴とする請求項1から請求項9のいずれか一項に記載の画像表示装置。   The specifying unit acquires data indicating a relationship between an enlargement ratio and a focus distance at the time of capturing the first moving image, and goes back from a normal shooting time by a time corresponding to the focus distance based on the acquired data. The image display device according to any one of claims 1 to 9, wherein a frame photographed in time is specified as the reproduction position. 前記関心領域設定部は、前記第1動画像の撮像時におけるフォーカス距離を取得し、前記第1動画像のフォーカス距離に応じて前記関心領域の位置及びサイズを調整することを特徴とする請求項2から請求項10のいずれか一項に記載の画像表示装置。   The region of interest setting unit acquires a focus distance at the time of capturing the first moving image, and adjusts the position and size of the region of interest according to the focus distance of the first moving image. The image display device according to any one of claims 2 to 10. 被検体にX線を照射するX線源と、
前記X線源と対向配置され前記被検体を透過した透過X線を検出するX線検出器と、
前記X線検出器で検出した透過X線に基づいて前記被検体のX線透視像を生成する画像処理部と、
被検体の体腔内に挿入されて被検体内を撮像する検査装置を用いて撮影された第1動画像を取得するとともに、前記画像処理部により生成されたX線透視像であって前記検査装置の少なくとも一部が撮影範囲に含まれるように撮影された動画像である第2動画像を取得する画像取得部と、
前記第1動画像及び第2動画像を同期再生する再生処理部と、
前記第2動画像上の位置の指定を受け付ける位置指定部と、
前記位置指定部により指定された位置に前記検査装置が到達した状態の前記第2動画像の再生位置を特定するとともに、特定した再生位置に対応する前記第1動画像の再生位置を特定する特定部と、
前記特定部により特定された再生位置の画像が表示されるように前記第1動画像及び第2動画像の表示を更新する表示更新部と、
を備えることを特徴とするX線画像診断装置。
An X-ray source for irradiating the subject with X-rays;
An X-ray detector arranged to face the X-ray source and detecting transmitted X-rays transmitted through the subject;
An image processing unit that generates an X-ray fluoroscopic image of the subject based on transmitted X-rays detected by the X-ray detector;
An X-ray fluoroscopic image generated by the image processing unit, wherein the first moving image is acquired using an inspection apparatus that is inserted into a body cavity of an object and images the inside of the object. An image acquisition unit that acquires a second moving image that is a moving image shot so that at least a part of the image is included in the shooting range;
A reproduction processing unit for synchronously reproducing the first moving image and the second moving image;
A position designation unit for accepting designation of a position on the second moving image;
A specification for specifying the playback position of the second moving image in a state in which the inspection apparatus has reached the position specified by the position specifying unit and specifying the playback position of the first moving image corresponding to the specified playback position And
A display update unit for updating the display of the first moving image and the second moving image so that an image at the reproduction position specified by the specifying unit is displayed;
An X-ray diagnostic imaging apparatus comprising:
被検体の体腔内に挿入されて被検体内を撮像する検査装置を用いて撮影された第1動画像を取得するとともに、前記検査装置の少なくとも一部が撮影範囲に含まれるように撮影された動画像である第2動画像を取得するステップと、
前記第1動画像及び第2動画像を同期再生するステップと、
前記第2動画像上の位置の指定を受け付けるステップと、
指定された位置に前記検査装置が到達した状態の前記第2動画像の再生位置を特定するとともに、特定した再生位置に対応する前記第1動画像の再生位置を特定するステップと、
特定された再生位置の画像が表示されるように前記第1動画像及び第2動画像の表示を更新するステップと、
を含むことを特徴とする画像表示方法。
The first moving image was acquired using an inspection apparatus that is inserted into the body cavity of the subject and images the inside of the subject, and at least a part of the inspection apparatus was captured so as to be included in the imaging range Obtaining a second moving image which is a moving image;
Synchronously reproducing the first moving image and the second moving image;
Receiving a designation of a position on the second moving image;
Identifying the reproduction position of the second moving image in a state where the inspection apparatus has reached the designated position, and identifying the reproduction position of the first moving image corresponding to the identified reproduction position;
Updating the display of the first moving image and the second moving image so that an image at the specified reproduction position is displayed;
An image display method comprising:
JP2016143863A 2016-07-22 2016-07-22 Image display device, x-image diagnostic apparatus and image display method Pending JP2018011807A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016143863A JP2018011807A (en) 2016-07-22 2016-07-22 Image display device, x-image diagnostic apparatus and image display method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016143863A JP2018011807A (en) 2016-07-22 2016-07-22 Image display device, x-image diagnostic apparatus and image display method

Publications (1)

Publication Number Publication Date
JP2018011807A true JP2018011807A (en) 2018-01-25

Family

ID=61020574

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016143863A Pending JP2018011807A (en) 2016-07-22 2016-07-22 Image display device, x-image diagnostic apparatus and image display method

Country Status (1)

Country Link
JP (1) JP2018011807A (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022520480A (en) * 2019-10-21 2022-03-30 インファービジョン メディカル テクノロジー カンパニー リミテッド Image matching methods, devices, devices and storage media
JP7463923B2 (en) 2020-09-15 2024-04-09 コニカミノルタ株式会社 X-ray dynamic image display device, program, X-ray dynamic image display method, and X-ray dynamic image display system
JP7488092B2 (en) 2020-04-10 2024-05-21 キヤノンメディカルシステムズ株式会社 X-ray diagnostic apparatus, medical information processing apparatus, and medical information processing program

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001033710A (en) * 1999-07-15 2001-02-09 Asahi Optical Co Ltd Endoscope for macroobservation
JP2004121835A (en) * 2002-09-12 2004-04-22 Hitachi Medical Corp Follow-up control method for interested area, image diagnosing system using the method, and follow-up control program for interested area
JP2005118107A (en) * 2003-10-14 2005-05-12 Pentax Corp Image display system
JP2010148778A (en) * 2008-12-26 2010-07-08 Toshiba Corp Image display and image display method
JP2013005830A (en) * 2011-06-22 2013-01-10 Fujifilm Corp Endoscope system, processor device, and object distance measuring method
US20140270436A1 (en) * 2013-03-12 2014-09-18 Lightlab Imaging, Inc. Vascular Data Processing and Image Registration Systems, Methods, and Apparatuses
WO2015044979A1 (en) * 2013-09-26 2015-04-02 テルモ株式会社 Information processing device, imaging system, information processing method and program
JP2016007508A (en) * 2014-06-26 2016-01-18 株式会社東芝 X-ray diagnostic apparatus

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001033710A (en) * 1999-07-15 2001-02-09 Asahi Optical Co Ltd Endoscope for macroobservation
JP2004121835A (en) * 2002-09-12 2004-04-22 Hitachi Medical Corp Follow-up control method for interested area, image diagnosing system using the method, and follow-up control program for interested area
JP2005118107A (en) * 2003-10-14 2005-05-12 Pentax Corp Image display system
JP2010148778A (en) * 2008-12-26 2010-07-08 Toshiba Corp Image display and image display method
JP2013005830A (en) * 2011-06-22 2013-01-10 Fujifilm Corp Endoscope system, processor device, and object distance measuring method
US20140270436A1 (en) * 2013-03-12 2014-09-18 Lightlab Imaging, Inc. Vascular Data Processing and Image Registration Systems, Methods, and Apparatuses
WO2015044979A1 (en) * 2013-09-26 2015-04-02 テルモ株式会社 Information processing device, imaging system, information processing method and program
JP2016007508A (en) * 2014-06-26 2016-01-18 株式会社東芝 X-ray diagnostic apparatus

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022520480A (en) * 2019-10-21 2022-03-30 インファービジョン メディカル テクノロジー カンパニー リミテッド Image matching methods, devices, devices and storage media
JP7190059B2 (en) 2019-10-21 2022-12-14 インファービジョン メディカル テクノロジー カンパニー リミテッド Image matching method, apparatus, device and storage medium
JP7488092B2 (en) 2020-04-10 2024-05-21 キヤノンメディカルシステムズ株式会社 X-ray diagnostic apparatus, medical information processing apparatus, and medical information processing program
JP7463923B2 (en) 2020-09-15 2024-04-09 コニカミノルタ株式会社 X-ray dynamic image display device, program, X-ray dynamic image display method, and X-ray dynamic image display system

Similar Documents

Publication Publication Date Title
US8971601B2 (en) Medical image diagnosis device and medical image processing method
US9384545B2 (en) X-ray image diagnosis apparatus
WO2013125276A1 (en) X-ray ct device, image display device, and image display method
JP4226829B2 (en) X-ray diagnostic apparatus and image processing apparatus
JP2016054999A (en) Image processing apparatus and x-ray diagnostic apparatus
JP6308728B2 (en) Radiographic system and method of operating radiographic system
JP2018011807A (en) Image display device, x-image diagnostic apparatus and image display method
JP2017063839A (en) X-ray diagnostic apparatus
JP2012147934A (en) X-ray diagnostic device, image processing device and image processing program
JP5573688B2 (en) Radiography equipment
JP2015150206A (en) X-ray imaging apparatus
US9526469B2 (en) X-ray diagnostic apparatus
CN111803110A (en) X-ray fluoroscopic photographing apparatus
JP2001340321A (en) Radiodiagnostic system
JPH10179569A (en) Medical image diagnostic device and monitor image display method
JP6740699B2 (en) Image analysis system
US20070286334A1 (en) Radiography device for recording dynamic processes and associated recording method
JP5134873B2 (en) X-ray fluoroscopic equipment
JP6605220B2 (en) X-ray imaging device
US11191504B2 (en) X-ray diagnosis apparatus comprising a blood vessel running information acquiring function, a position specification function, and a diaphragm control function
JP2018033818A (en) X-ray fluoroscopic apparatus, x-ray irradiation field setup method, and x-ray condition control method
JP2005245761A (en) X-ray diagnostic apparatus
JP2007143952A (en) X-ray imaging apparatus
JP7392478B2 (en) Magnification calculation device, long-length photographing system, program, and magnification calculation method
WO2023095245A1 (en) X-ray imaging device

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160810

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20171030

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20171031

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171116

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190318

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200204

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200326

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200407

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20201013