JP2008194334A - Endoscope image display method, device, and program - Google Patents

Endoscope image display method, device, and program Download PDF

Info

Publication number
JP2008194334A
JP2008194334A JP2007034376A JP2007034376A JP2008194334A JP 2008194334 A JP2008194334 A JP 2008194334A JP 2007034376 A JP2007034376 A JP 2007034376A JP 2007034376 A JP2007034376 A JP 2007034376A JP 2008194334 A JP2008194334 A JP 2008194334A
Authority
JP
Japan
Prior art keywords
blood vessel
image
pattern
comparison
endoscope
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2007034376A
Other languages
Japanese (ja)
Inventor
Motoshige Asano
元重 浅野
Makoto Hara
誠 原
Atsushi Suga
淳 須賀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2007034376A priority Critical patent/JP2008194334A/en
Publication of JP2008194334A publication Critical patent/JP2008194334A/en
Withdrawn legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To simultaneously display an endoscope animation and a comparative endoscope animation, both showing the same internal body part. <P>SOLUTION: A blood vessel pattern X is extracted from the frame image PF of an endoscope animation P obtained by a pattern extraction means 3. In a shift vector operation means 5a, a shift vector showing a positional difference of blood vessels between a blood vessel pattern X and a comparative blood vessel pattern Y is generated, and the blood vessels within the blood vessel pattern X are shifted by the pattern shift means 5b using the shift vector. Next, a correlation coefficient ρ is calculated between the blood vessels X and all the comparative blood vessel pattern Y extracted from the comparative frame image PF0 constituting the comparative endoscope animations P0. In the comparative image selection means 5d, the comparative frame image PF0 including the blood vessel pattern X is selected, and both of the frame image PF including the blood vessel pattern X and the compared frame image PF0 are simultaneously displayed. <P>COPYRIGHT: (C)2008,JPO&INPIT

Description

本発明は、内視鏡装置を用いて撮影され取得された内視鏡動画像を表示装置に表示する内視鏡画像表示方法および装置ならびにプログラムに関するものである。   The present invention relates to an endoscopic image display method, apparatus, and program for displaying an endoscopic moving image photographed and acquired using an endoscopic apparatus on a display device.

内視鏡装置を用いて被写体の体腔内の撮影をしたときに、内視鏡装置を用いて撮影されている内視鏡画像だけでなく、内視鏡画像に関連した情報や過去に撮影した内視鏡画像を同時に表示することが提案されている(たとえば特許文献1参照)。特許文献1においては、内視鏡装置とたとえばパーソナルコンピュータ等の外部接続機器とをデータ転送可能に接続し、内視鏡画像と同じ患者の過去の内視鏡画像を表示させたいときには、外部接続機器で検索した過去の内視鏡画像を比較画像として内視鏡画像と同時に表示することができるようになっている。
特開2001−157200号公報
When taking an image of a body cavity of a subject using an endoscope device, information related to the endoscope image as well as an endoscope image taken using the endoscope device or a past image was taken. It has been proposed to display an endoscopic image simultaneously (for example, see Patent Document 1). In Patent Document 1, when an endoscope apparatus and an external connection device such as a personal computer are connected so as to be able to transfer data, and when it is desired to display a past endoscopic image of the same patient as the endoscopic image, the external connection is performed. It is possible to display a past endoscopic image retrieved by the device as a comparative image at the same time as the endoscopic image.
JP 2001-157200 A

特許文献1において表示する内視鏡画像および過去の内視鏡画像は静止画である一方、近年においては、撮影している内視鏡画像を動画として表示する場合がある。よって、内視鏡画像が動画像の場合にも、内視鏡画像と過去の内視鏡画像とを同時に表示することが望まれている。   While the endoscopic image and the past endoscopic image displayed in Patent Document 1 are still images, in recent years, the captured endoscopic image may be displayed as a moving image. Therefore, it is desired to simultaneously display an endoscopic image and a past endoscopic image even when the endoscopic image is a moving image.

しかし、特許文献1のように、動画の場合に内視鏡画像と過去の内視鏡画像を同時に表示したとき、必ずしも体腔内の同一の部位の画像が同時に表示装置に表示されるとは限らないという問題がある。つまり、内視鏡画像と過去の内視鏡画像とが体腔内の同一の部位を撮影したものであっても、内視鏡画像と過去の内視鏡画像との間で同一の部位が表示されるタイミングが異なる場合がある。一方で、内視鏡画像と過去の内視鏡画像とを比較することにより診断効率を向上させるためには、同一の部位を撮影したときの内視鏡画像と過去の内視鏡画像とを同時に表示する必要がある。   However, as in Patent Document 1, when an endoscopic image and a past endoscopic image are displayed at the same time in the case of a moving image, an image of the same part in the body cavity is not always displayed on the display device at the same time. There is no problem. That is, even if the endoscopic image and the past endoscopic image are images of the same part in the body cavity, the same part is displayed between the endoscopic image and the past endoscopic image. May be different timing. On the other hand, in order to improve the diagnostic efficiency by comparing the endoscopic image and the past endoscopic image, the endoscopic image and the past endoscopic image when the same part is imaged are compared. It is necessary to display at the same time.

そこで、本発明は、同一の部位を撮影したときの内視鏡動画像と比較内視鏡動画像とを動画として同時に表示装置に表示させることができる内視鏡画像表示方法および装置ならびにプログラムを提供することを目的とするものである。    Therefore, the present invention provides an endoscopic image display method, apparatus, and program capable of simultaneously displaying an endoscopic moving image and a comparative endoscopic moving image when a same part is imaged as a moving image on a display device. It is intended to provide.

本発明の内視鏡画像表示方法は、内視鏡装置を用いて動画として取得された被験者の内視鏡動画像を構成するフレーム画像に含まれる血脈を血管パターンとして抽出し、予め内視鏡装置を用いて動画として取得された被験者の比較内視鏡動画像を構成する複数の比較フレーム画像から、抽出した血管パターンを含む比較フレーム画像を選択し、フレーム画像を表示装置に表示するときに、選択した比較フレーム画像を同時に表示することを特徴とするものである。   An endoscopic image display method according to the present invention extracts a blood vessel included in a frame image constituting an endoscope moving image of a subject acquired as a moving image using an endoscopic device as a blood vessel pattern, and stores the endoscope in advance. When selecting a comparison frame image including an extracted blood vessel pattern from a plurality of comparison frame images constituting a comparative endoscopic moving image of a subject acquired as a moving image using the apparatus and displaying the frame image on a display device The selected comparison frame image is displayed at the same time.

本発明の内視鏡表示装置は、内視鏡装置を用いて動画として取得された被験者の内視鏡動画像を構成するフレーム画像に含まれる血脈を血管パターンとして抽出するパターン抽出手段と、予め内視鏡装置を用いて動画として取得された被験者の比較内視鏡動画像を記憶した画像データベースと、画像データベースに記憶された比較内視鏡動画像を構成する複数の比較フレーム画像から、パターン抽出手段により抽出された血管パターンを含む比較フレーム画像を選択する比較画像処理手段と、フレーム画像を表示装置に表示するときに、比較画像処理手段により選択された比較フレーム画像を同時に表示する表示制御手段とを備えたことを特徴とするものである。   An endoscope display apparatus according to the present invention includes a pattern extraction unit that extracts a blood vessel included in a frame image constituting an endoscope moving image of a subject acquired as a moving image using the endoscope apparatus as a blood vessel pattern, A pattern from an image database storing a comparative endoscopic moving image of a subject acquired as a moving image using an endoscopic device, and a plurality of comparison frame images constituting the comparative endoscopic moving image stored in the image database Comparison image processing means for selecting a comparison frame image including the blood vessel pattern extracted by the extraction means, and display control for simultaneously displaying the comparison frame image selected by the comparison image processing means when the frame image is displayed on the display device Means.

本発明の内視鏡画像表示プログラムは、コンピュータに、内視鏡装置を用いて動画として取得された被験者の内視鏡動画像を構成するフレーム画像に含まれる血脈を血管パターンとして抽出し、予め内視鏡装置を用いて動画として取得された被験者の比較内視鏡動画像を構成する複数の比較フレーム画像から、抽出した血管パターンを含む比較フレーム画像を選択し、フレーム画像を表示装置に表示するときに、選択した比較フレーム画像を同時に表示することを実行させることを特徴とするものである。   The endoscopic image display program of the present invention extracts, as a blood vessel pattern, a blood vessel included in a frame image that constitutes an endoscopic moving image of a subject acquired as a moving image using an endoscopic device on a computer. A comparison frame image including an extracted blood vessel pattern is selected from a plurality of comparison frame images constituting a comparative endoscope moving image of a subject obtained as a moving image using an endoscope apparatus, and the frame image is displayed on a display device In this case, the selected comparison frame image is displayed at the same time.

ここで、内視鏡動画像は、内視鏡装置を用いて取得された動画像であれば、体腔内のいずれの部位の画像であっても良い。また、比較内視鏡動画像は、内視鏡動画像が撮影したすべての撮影部位を撮影し取得されたものに限らず、一部に内視鏡動画像と同一の被写体を含むものであればよい。   Here, the endoscope moving image may be an image of any part in the body cavity as long as it is a moving image acquired using the endoscope apparatus. Further, the comparative endoscopic moving image is not limited to the one obtained by photographing all the imaging parts taken by the endoscopic moving image, but may partially include the same subject as the endoscopic moving image. That's fine.

さらに、内視鏡動画像は、内視鏡装置を用いて動画として取得した直後に表示装置に表示されるものであってもよいし(リアルタイム表示)、一度画像データベースに記憶され、記憶された内視鏡動画像が表示装置に表示されるものであってもよい。   Furthermore, the endoscope moving image may be displayed on the display device immediately after being acquired as a moving image using the endoscope device (real-time display), or once stored and stored in the image database. An endoscope moving image may be displayed on a display device.

また、パターン抽出手段は、血脈を血管パターンとして抽出するものであればよく、たとえば内視鏡画像に含まれる血脈が黒色領域になるように内視鏡画像に2値化処理を施すことにより、血脈を血管パターンとして抽出するものであってもよいし、静脈パターンの分岐点の座標、長さ、分岐角度等の特徴量を血管パターンとして抽出するようにしても良い。   Further, the pattern extraction means may be any means as long as it extracts blood vessels as blood vessel patterns. For example, by performing binarization processing on the endoscopic image so that the blood vessels included in the endoscopic image become a black region, A blood vessel may be extracted as a blood vessel pattern, or feature quantities such as coordinates of a branch point, length, and branch angle of a vein pattern may be extracted as a blood vessel pattern.

なお、血管パターンが2値化画像からなる場合、比較画像処理手段は、フレーム画像から抽出した血管パターンをそのまま用いて比較フレーム画像の選択を行うようにしても良いし、パターン回転手段により血管パターンに対しアフィン変換を施すことにより生成された回転角度の異なる複数の血管パターンを用いて比較フレーム画像の検索を行うようにしても良い。   When the blood vessel pattern is composed of a binarized image, the comparison image processing unit may select the comparison frame image using the blood vessel pattern extracted from the frame image as it is, or the blood vessel pattern may be selected by the pattern rotation unit. A comparison frame image may be searched using a plurality of blood vessel patterns having different rotation angles generated by performing affine transformation on the image.

また、比較画像処理手段は、血管パターンを含む比較フレーム画像の選択を行うものであればどのような手法を用いるものであっても良く、たとえばオプティカルフロー推定法を用いても良いし、公知のパターン認識手法を用いるようにしても良い。オプティカルフロー推定法により比較フレーム画像の選択を行う場合、たとえば比較画像処理手段は、比較画像処理手段が、血管パターン内の黒色領域の位置と、比較血管パターン内の黒色領域の位置とのずれをシフトベクトルとして算出するシフトベクトル算出手段と、シフトベクトル算出手段により算出されたシフトベクトルを用いて血管パターン内において黒色領域の位置をシフトさせるパターンシフト手段と、パターンシフト手段により黒色領域がシフトされた血管パターンと比較血管パターンとの相関度合いを相関係数として算出する係数算出手段と、係数算出手段において比較フレーム画像毎に含まれる複数の比較血管パターンについてそれぞれ算出された複数の相関係数を用いて、血管パターンを含む比較フレーム画像を選択する比較画像選択手段とを備えたものであってもよい。   The comparison image processing means may use any method as long as it selects a comparison frame image including a blood vessel pattern. For example, an optical flow estimation method may be used. A pattern recognition method may be used. When the comparison frame image is selected by the optical flow estimation method, for example, the comparison image processing unit causes the comparison image processing unit to detect a shift between the position of the black region in the blood vessel pattern and the position of the black region in the comparison blood vessel pattern. Shift vector calculation means for calculating as a shift vector, pattern shift means for shifting the position of the black area in the blood vessel pattern using the shift vector calculated by the shift vector calculation means, and the black area is shifted by the pattern shift means Coefficient calculation means for calculating the correlation degree between the blood vessel pattern and the comparison blood vessel pattern as a correlation coefficient, and a plurality of correlation coefficients calculated for each of the plurality of comparison blood vessel patterns included in each comparison frame image by the coefficient calculation means. Select the comparison frame image that contains the blood vessel pattern. May be such that a comparison image selection unit that.

本発明の内視鏡画像表示方法および装置ならびにプログラムによれば、内視鏡装置を用いて動画として取得された被験者の内視鏡動画像を構成するフレーム画像に含まれる血脈を血管パターンとして抽出し、予め内視鏡装置を用いて動画として取得された被験者の比較内視鏡動画像を構成する複数の比較フレーム画像から、抽出した血管パターンを含む比較フレーム画像を選択し、フレーム画像を表示装置に表示するときに、選択した比較フレーム画像を同時に表示することにより、内視鏡動画像と比較内視鏡動画像を表示装置に同時に表示するとき、内視鏡動画像と比較内視鏡動画像とが体腔内の同一の部位を表示することになるため、内視鏡動画像と比較内視鏡動画像とを比較しながら診断等を行うことができ、診断効率の向上を図ることができる。   According to the endoscopic image display method, apparatus, and program of the present invention, a blood vessel included in a frame image constituting an endoscopic moving image of a subject acquired as a moving image using the endoscopic apparatus is extracted as a blood vessel pattern. Then, a comparison frame image including the extracted blood vessel pattern is selected from a plurality of comparison frame images constituting a comparative endoscope moving image of a subject acquired as a moving image in advance using an endoscope apparatus, and the frame image is displayed. When displaying the endoscopic moving image and the comparative endoscopic moving image simultaneously on the display device by simultaneously displaying the selected comparison frame image when displaying on the device, the endoscopic moving image and the comparative endoscopic image are displayed. Since the moving image displays the same part in the body cavity, diagnosis or the like can be performed while comparing the endoscopic moving image and the comparative endoscopic moving image, thereby improving the diagnostic efficiency. Can.

なお、血管パターンに対しアフィン変換を施すことにより、回転角度の異なる複数の血管パターンを生成するパターン回転手段をさらに備え、比較画像処理手段が、該パターン回転手段により生成された血管パターンを用いて該血管パターンを含むフレーム画像を選択するものであるとき、内視鏡動画像と比較内視鏡動画像を撮影により取得するとき、異なる撮影角度等から撮影した場合であっても、血管パターンを含む比較フレーム画像を検索することができる。   The image processing apparatus further includes pattern rotation means for generating a plurality of blood vessel patterns having different rotation angles by performing affine transformation on the blood vessel pattern, and the comparison image processing means uses the blood vessel pattern generated by the pattern rotation means. When selecting a frame image including the blood vessel pattern, when obtaining an endoscopic moving image and a comparative endoscopic moving image by photographing, the blood vessel pattern is obtained even when the images are taken from different photographing angles. The comparison frame image including it can be searched.

また、比較画像処理手段が、血管パターン内の黒色領域の位置と、比較血管パターン内の黒色領域の位置とのずれをシフトベクトルとして算出するシフトベクトル算出手段と、シフトベクトル算出手段により算出されたシフトベクトルを用いて血管パターン内において黒色領域の位置をシフトさせるパターンシフト手段と、パターンシフト手段により黒色領域がシフトされた血管パターンと比較血管パターンとの相関度合いを相関係数として算出する係数算出手段と、係数算出手段において比較フレーム画像毎に含まれる複数の比較血管パターンについてそれぞれ算出された複数の相関係数を用いて、血管パターンを含む比較フレーム画像を選択する比較画像選択手段とを備えたものであれば、精度良く高速に比較フレーム画像の検索を行うことができる。   Further, the comparison image processing means is calculated by the shift vector calculation means and the shift vector calculation means for calculating the shift between the position of the black area in the blood vessel pattern and the position of the black area in the comparison blood vessel pattern as a shift vector. Coefficient calculation that calculates the correlation coefficient between the pattern shift means that shifts the position of the black area in the blood vessel pattern using the shift vector and the blood vessel pattern whose black area is shifted by the pattern shift means and the comparative blood vessel pattern as a correlation coefficient And a comparison image selection means for selecting a comparison frame image including a blood vessel pattern using a plurality of correlation coefficients respectively calculated for a plurality of comparison blood vessel patterns included for each comparison frame image in the coefficient calculation means. Search for comparison frame images with high accuracy and speed. Door can be.

以下、図面を参照して本発明の好ましい実施の形態を詳細に説明する。以下、図面を参照して本発明の内視鏡表示装置の好ましい実施の形態を詳細に説明する。なお、図1のような内視鏡画像表示装置1の構成は、補助記憶装置に読み込まれた内視鏡画像表示プログラムをコンピュータ(たとえばパーソナルコンピュータ等)上で実行することにより実現される。このとき、この内視鏡画像表示プログラムは、CD−ROM等の情報記憶媒体に記憶され、もしくはインターネット等のネットワークを介して配布され、コンピュータにインストールされることになる。   Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the drawings. Hereinafter, preferred embodiments of an endoscope display device of the present invention will be described in detail with reference to the drawings. The configuration of the endoscopic image display device 1 as shown in FIG. 1 is realized by executing an endoscopic image display program read into the auxiliary storage device on a computer (for example, a personal computer). At this time, this endoscopic image display program is stored in an information storage medium such as a CD-ROM, or distributed via a network such as the Internet and installed in a computer.

内視鏡画像表示装置1は、内視鏡装置50により取得された被験者の内視鏡動画像Pと、過去に被験者体腔内を撮影したときに得られた内視鏡動画像Pとを同時に表示装置100に表示する際、内視鏡動画像Pと比較内視鏡動画像P0とが同一の体腔内の部位を表示装置100に映し出すようにするものである。内視鏡画像表示装置1は、画像取得手段2、パターン抽出手段3、画像データベースDB、比較画像処理手段5、表示制御手段6等を有している。   The endoscopic image display device 1 simultaneously displays an endoscopic moving image P of a subject acquired by the endoscopic device 50 and an endoscopic moving image P obtained when the inside of the subject's body cavity is captured in the past. When displaying on the display device 100, the endoscopic moving image P and the comparative endoscopic moving image P0 are displayed on the display device 100 in the same body cavity. The endoscopic image display device 1 includes an image acquisition unit 2, a pattern extraction unit 3, an image database DB, a comparison image processing unit 5, a display control unit 6, and the like.

画像取得手段2は、内視鏡装置50により取得された被験者の体腔内の内視鏡動画像Pを取得するものである。なお、画像取得手段2は、内視鏡装置50において撮影されている映像をリアルタイムで取得するものであってもよいし、既に内視鏡装置50による撮影が終了し、画像データベースDBに記憶されている内視鏡動画像Pを取得するものであってもよい。   The image acquisition unit 2 acquires the endoscope moving image P in the body cavity of the subject acquired by the endoscope apparatus 50. Note that the image acquisition unit 2 may acquire the video imaged in the endoscope apparatus 50 in real time, or has already been captured by the endoscope apparatus 50 and is stored in the image database DB. The endoscope moving image P may be acquired.

パターン抽出手段3は、画像取得手段2により取得された内視鏡動画像Pの各フレーム画像PFにそれぞれ含まれる血管パターンXを抽出するものである。具体的には、パターン抽出手段3はフレーム画像PFの色情報を2値化(白黒化)するフィルタリング処理を施す。すると、フレーム画像PF内の血脈は2値化画像内において黒色の領域となってあらわれる。パターン抽出手段3は、黒色の領域として血脈が表れた2値化画像を血管パターンXとして抽出する。   The pattern extraction unit 3 extracts the blood vessel pattern X included in each frame image PF of the endoscope moving image P acquired by the image acquisition unit 2. Specifically, the pattern extraction means 3 performs a filtering process for binarizing (monochrome) the color information of the frame image PF. Then, the blood veins in the frame image PF appear as black areas in the binarized image. The pattern extraction unit 3 extracts a binarized image in which a blood vessel appears as a black region as a blood vessel pattern X.

画像データベースDBは、予め内視鏡装置を用いて被写体を撮影し動画として取得した複数の比較フレーム画像PF0から構成される比較内視鏡動画像P0を記憶したものである。この比較内視鏡動画像P0は、上述した内視鏡動画像Pと同一の被験者を撮影することにより取得されたものであって、たとえば被験者の体腔内(たとえば食道)を過去に撮影したものからなっている。また、画像データベースDBには上述したパターン抽出手段3により抽出された比較血管パターンYが各比較フレーム画像PF0毎にそれぞれ関連づけされて記憶されている。なお、画像データベースDBには、複数の被験者の比較内視鏡動画像P0および比較血管パターンYが記憶されており、たとえばキーボードやマウス等の個人情報の入力に従い、パターン選択手段DBMが認証データベースDBから入力された個人情報PDに関連づけされた比較内視鏡動画像P0を選択し、この比較内視鏡動画像P0の比較血管パターンYを選択するようになっている。   The image database DB stores a comparative endoscope moving image P0 composed of a plurality of comparison frame images PF0 obtained by photographing a subject using an endoscope apparatus in advance and acquired as a moving image. This comparative endoscopic moving image P0 is obtained by photographing the same subject as the above-described endoscopic moving image P, and is obtained, for example, by photographing the subject's body cavity (for example, the esophagus) in the past. It is made up of. In the image database DB, the comparative blood vessel pattern Y extracted by the pattern extracting means 3 described above is stored in association with each comparative frame image PF0. The image database DB stores a comparative endoscope moving image P0 and a comparative blood vessel pattern Y of a plurality of subjects. For example, the pattern selection means DBM performs authentication database DB according to input of personal information such as a keyboard and a mouse. The comparative endoscopic moving image P0 associated with the personal information PD input from is selected, and the comparative blood vessel pattern Y of the comparative endoscopic moving image P0 is selected.

パターン回転手段4は、血管パターンXをたとえば15°ずつアフィン変換に変換した回転角度の異なる複数の血管パターンXを生成するものである。このように、血管パターンXを回転させることにより、血管パターンXと比較血管パターンYとの撮影角度(画角)や撮影方向が異なる場合であっても、確実に照合を行うことができる。   The pattern rotation means 4 generates a plurality of blood vessel patterns X having different rotation angles by converting the blood vessel pattern X into, for example, 15 ° by affine transformation. As described above, by rotating the blood vessel pattern X, even when the imaging angle (field angle) and the imaging direction of the blood vessel pattern X and the comparative blood vessel pattern Y are different, the verification can be performed reliably.

比較画像処理手段5は、パターン抽出手段3により抽出された血管パターンXと特定の人物の比較血管パターンYとをオプティカルフロー推定法の一種であるLucas-Kanade 法を用いて照合し、内視鏡動画像Pの被写体となった人が特定の人物であることを照合するものである。   The comparison image processing means 5 collates the blood vessel pattern X extracted by the pattern extraction means 3 with the comparison blood vessel pattern Y of a specific person using the Lucas-Kanade method which is a kind of optical flow estimation method, and It is verified that the person who is the subject of the moving image P is a specific person.

具体的には、図2に示すように、比較画像処理手段5はシフトベクトル算出手段5a、パターンシフト手段5b、係数算出手段5c、比較画像選択手段5d等を備えている。なお、Lucas-Kanade 法は2台のカメラで立体視のために同時撮影した画像において物体の同一地点の認識のために考案された手法であり、2台のカメラにより撮影された2つの画像に写っている物体がほとんど変形していないことを仮定したものである。なお、シフトベクトルの算出方法については、'Pyramidal Implementation of the Lucas Kanade Feature Tracker Description of the algorithm' に開示されている。   Specifically, as shown in FIG. 2, the comparison image processing unit 5 includes a shift vector calculation unit 5a, a pattern shift unit 5b, a coefficient calculation unit 5c, a comparison image selection unit 5d, and the like. The Lucas-Kanade method was devised for recognizing the same point of an object in images taken simultaneously for stereoscopic viewing with two cameras. This is based on the assumption that the object in the image is hardly deformed. The shift vector calculation method is disclosed in 'Pyramidal Implementation of the Lucas Kanade Feature Tracker Description of the algorithm'.

シフトベクトル算出手段5aは、血管パターンXにおける血脈(黒色領域)の位置と比較血管パターンYにおける血脈(黒色領域)の位置とのずれをシフトベクトルとして算出するものである。つまり、2値化画像内における血管パターンXの平行移動距離を求める際に、抽出された血管パターンXと比較血管パターンYとの間において物体の変形は少ないと仮定しLucas-Kanade 法を用いてシフトベクトルを算出する。言い換えれば微小領域内の等輝度画素は同じ血管パターンが2枚の画像内において位置がずれた(移動した)ものであるとの仮定の下、2つの血管パターンX、Y間のシフトベクトルを算出する。そして、パターンシフト手段5bは、シフトベクトル算出手段5aにより算出されたシフトベクトルを用いて血管パターンX内における血脈(黒色領域)の位置をシフトさせる。なお、血管パターンXと比較血管パターンYとが似ていない場合、不正確なシフト量が算出されてしまうが、後述する相関係数ρの一致度が低くなるため、そのときに一致候補から除去することになる。   The shift vector calculation means 5a calculates a shift between the position of the blood vessel (black region) in the blood vessel pattern X and the position of the blood vessel (black region) in the comparative blood vessel pattern Y as a shift vector. That is, when obtaining the parallel movement distance of the blood vessel pattern X in the binarized image, it is assumed that there is little deformation of the object between the extracted blood vessel pattern X and the comparative blood vessel pattern Y, and the Lucas-Kanade method is used. A shift vector is calculated. In other words, the shift vector between the two blood vessel patterns X and Y is calculated under the assumption that the same luminance pixels in the minute region are shifted (moved) in the same blood vessel pattern in the two images. To do. Then, the pattern shift unit 5b shifts the position of the blood vessel (black region) in the blood vessel pattern X using the shift vector calculated by the shift vector calculation unit 5a. If the blood vessel pattern X and the comparative blood vessel pattern Y are not similar, an inaccurate shift amount is calculated. However, since the degree of coincidence of the correlation coefficient ρ described later is low, it is removed from the coincidence candidates at that time. Will do.

また、血管パターンXを回転させた後にシフトベクトル算出手段5aによりシフトベクトルを算出するようにしているが、血管パターンXと比較血管パターンYとからシフトベクトルを算出した後、シフトベクトルが大きすぎる場合にパターン回転手段4により血管パターンXを回転させるようにしても良い。   Further, the shift vector is calculated by the shift vector calculation means 5a after the blood vessel pattern X is rotated, but the shift vector is too large after calculating the shift vector from the blood vessel pattern X and the comparative blood vessel pattern Y. Alternatively, the blood vessel pattern X may be rotated by the pattern rotating means 4.

係数算出手段5cは、パターンシフト手段5bにより黒色領域がシフトした血管パターンXと画像データベースDBに記憶された複数の比較血管パターンYとの相関度合いを相関係数ρとして算出するものである。具体的には、係数算出手段5cはたとえば下記式(1)に示すような、各血管パターンX、Yの共分散を各血管パターンX、Yのそれぞれについて算出された標準偏差の積で除算することにより相関係数ρを算出する。

Figure 2008194334
The coefficient calculating means 5c calculates the correlation degree between the blood vessel pattern X whose black region has been shifted by the pattern shifting means 5b and the plurality of comparative blood vessel patterns Y stored in the image database DB as a correlation coefficient ρ. Specifically, the coefficient calculating means 5c divides the covariance of each blood vessel pattern X and Y by the product of the standard deviation calculated for each blood vessel pattern X and Y as shown in the following formula (1), for example. Thus, the correlation coefficient ρ is calculated.
Figure 2008194334

ここで、Xi(i=1、2、・・・N、Nは血管パターンXの画素数)は血管パターンXの画素値、Yi(i=1、2、・・・N、Nは血管パターンYの画素数)は比較血管パターンYの画素値を示している。なお、血管パターンXおよび比較血管パターンYはそれぞれ2次元方向に画素が配列されたものであるが、上記式(1)においては、N個の1次元の画素列に再配列し相関係数ρの算出を行う。具体的には、係数算出手段5cは各血管パターンX、Yの左上から右上に向かう画素列を上の列から下の列までつなげてN個の1次元の画素列からなるデータに再配列し、式(1)により相関係数ρを算出する。上記式(1)に示すような相関係数ρを算出することにより、全体の平均的な明るさの変化に影響されることなく2つの血管パターンX、Yを比較することができる。   Here, Xi (i = 1, 2,... N, N is the number of pixels of the blood vessel pattern X) is the pixel value of the blood vessel pattern X, and Yi (i = 1, 2,... N, N is the blood vessel pattern. Y represents the pixel value of the comparative blood vessel pattern Y. Note that the blood vessel pattern X and the comparative blood vessel pattern Y are each formed by arranging pixels in a two-dimensional direction. However, in the above equation (1), the correlation coefficient ρ is rearranged into N one-dimensional pixel rows. Is calculated. Specifically, the coefficient calculating unit 5c connects the pixel rows from the upper left to the upper right of the blood vessel patterns X and Y from the upper row to the lower row, and rearranges the data into data composed of N one-dimensional pixel rows. Then, the correlation coefficient ρ is calculated by the equation (1). By calculating the correlation coefficient ρ as shown in the above equation (1), it is possible to compare the two blood vessel patterns X and Y without being affected by the overall average brightness change.

比較画像選択手段5dは、係数算出手段5cにおいて複数の比較血管パターンYについてそれぞれ算出された複数の相関係数ρを用いて、血管パターンXを含む比較フレーム画像PF0を選択するものである。ここで、比較画像選択手段5dは、たとえば相関係数ρ=0.0〜0.2の場合ほとんど相関関係がない、相関係数ρ=0.2〜0.4の場合やや相関関係がある、相関係数ρ=0.4〜0.7の場合かなり相関関係がある、相関係数ρ=0.7〜1.0の場合強い相関関係がある、と判断するようになっている。そして、1つの血管パターンXに対し算出された複数の相関係数ρのうち、たとえば相関係数ρ=0.7〜1.0のものがある場合、比較画像選択手段5dは最も相関度の強い比較フレーム画像PF0を選択する。   The comparison image selection unit 5d selects the comparison frame image PF0 including the blood vessel pattern X by using the plurality of correlation coefficients ρ respectively calculated for the plurality of comparison blood vessel patterns Y by the coefficient calculation unit 5c. Here, the comparison image selection unit 5d has little correlation when the correlation coefficient ρ = 0.0 to 0.2, for example, and has a slight correlation when the correlation coefficient ρ = 0.2 to 0.4. When the correlation coefficient ρ = 0.4 to 0.7, there is a considerable correlation, and when the correlation coefficient ρ = 0.7 to 1.0, it is determined that there is a strong correlation. If there is, for example, a correlation coefficient ρ = 0.7 to 1.0 among the plurality of correlation coefficients ρ calculated for one blood vessel pattern X, the comparison image selection means 5d has the highest correlation degree. A strong comparison frame image PF0 is selected.

一方、たとえば複数の相関係数ρのいずれもが相関係数ρ<0.7である場合、比較画像選択手段5dはフレーム画像の選択は行わない、あるいは相関係数ρ<0.7である場合であっても、最も相関係数の大きい比較フレーム画像PF0を選択する。   On the other hand, for example, when all of the plurality of correlation coefficients ρ are correlation coefficients ρ <0.7, the comparison image selection unit 5d does not select a frame image, or the correlation coefficient ρ <0.7. Even in this case, the comparison frame image PF0 having the largest correlation coefficient is selected.

図1の表示制御手段6は、フレーム画像PFを表示装置100に表示するときに、比較画像処理手段5において選択された比較フレーム画像PF0を同時に表示するものである。その結果、表示装置100には、体腔内の略同一の部位の撮影により取得された内視鏡動画像Pと比較内視鏡動画像P0とが同時に表示される。すなわち、内視鏡動画像Pが動画表示されているときに表示装置100に表示されるフレーム画像PFが順次切り替わる度に、それに併せて比較フレーム画像PF0も切り替わることになる。これにより、動画の場合であっても、過去に所定の部位を撮影したときの比較内視鏡動画像P0を参考にしながら、内視鏡装置50を用いて体腔内の所定の部位の内視鏡動画像Pを診断することができるため、診断効率の向上を図ることができる。   The display control means 6 in FIG. 1 simultaneously displays the comparison frame image PF0 selected by the comparison image processing means 5 when displaying the frame image PF on the display device 100. As a result, the display device 100 simultaneously displays the endoscope moving image P and the comparative endoscope moving image P0 acquired by photographing substantially the same part in the body cavity. That is, every time the frame image PF displayed on the display device 100 is sequentially switched when the endoscope moving image P is displayed as a moving image, the comparison frame image PF0 is also switched accordingly. As a result, even in the case of a moving image, the endoscope device 50 is used to perform an endoscopic observation of a predetermined part in the body cavity while referring to the comparative endoscope moving image P0 obtained when a predetermined part is photographed in the past. Since the mirrored image P can be diagnosed, the diagnostic efficiency can be improved.

なお、表示制御手段6は、フレーム画像PFと比較フレーム画像PF0自体をそのまま表示するようにしているが、フレーム画像PFに加工を施した後表示するようにしてもよい。たとえばフレーム画像PFと選択された比較フレーム画像PF0との差異点をマーキングして表示する等の公知の技術を用いてフレーム画像PFもしくは比較フレーム画像PF0を加工した状態で表示装置100に表示するようにしても良い。   Although the display control means 6 displays the frame image PF and the comparison frame image PF0 itself as they are, they may be displayed after processing the frame image PF. For example, the frame image PF or the comparison frame image PF0 is processed and displayed on the display device 100 using a known technique such as marking and displaying a difference between the frame image PF and the selected comparison frame image PF0. Anyway.

また、表示制御手段6は、内視鏡装置50により撮影し取得されている内視鏡動画像Pをリアルタイムで表示するものであってもよいし、画像データベースDBに記憶された内視鏡動画像Pを表示するものであってもよい。このとき、画像データベースDBには、フレーム画像PFと比較画像選択手段5dにより選択された比較フレーム画像PF0とが関連づけされた状態で記憶される。   Moreover, the display control means 6 may display the endoscope moving image P photographed and acquired by the endoscope apparatus 50 in real time, or an endoscope moving image stored in the image database DB. The image P may be displayed. At this time, the frame image PF and the comparison frame image PF0 selected by the comparison image selection means 5d are stored in the image database DB in association with each other.

図3は本発明の内視鏡画像表示方法の好ましい実施の形態を示すフローチャートであり、図1から図3を参照して内視鏡画像表示方法について説明する。まず、内視鏡装置50により体腔内の撮影が行われ、画像取得手段2において内視鏡動画像Pが取得される(ステップST1)。次に、パターン抽出手段3により取得した内視鏡動画像Pのフレーム画像PFが2値化処理されることにより、フレーム画像PF内の血脈が黒色領域として表現された2値化画像からなる血管パターンXが抽出される(ステップST2)。   FIG. 3 is a flowchart showing a preferred embodiment of the endoscopic image display method of the present invention, and the endoscopic image display method will be described with reference to FIGS. 1 to 3. First, imaging within the body cavity is performed by the endoscope apparatus 50, and the endoscope moving image P is acquired by the image acquisition means 2 (step ST1). Next, the frame image PF of the endoscope moving image P acquired by the pattern extraction unit 3 is binarized, whereby a blood vessel composed of a binarized image in which blood vessels in the frame image PF are expressed as black regions. Pattern X is extracted (step ST2).

そして、パターン回転手段4において、抽出された血管パターンXがアフィン変換されることにより、回転角度の異なる複数の血管パターンXが生成される(ステップST3)。   Then, the pattern rotation means 4 performs affine transformation on the extracted blood vessel pattern X, thereby generating a plurality of blood vessel patterns X having different rotation angles (step ST3).

一方、キーボードやマウス等から個人情報が入力されるにより、画像選択手段DBMにおいて認証すべき被験者の内視鏡動画像P0が画像データベースDBから選択され、この内視鏡動画像P0の各比較フレーム画像PF0に関連づけされた比較血管パターンYが逐次選択される(ステップST4)。なお、比較血管パターンYの取得は、シフトベクトルの生成前に行われればよく、たとえば内視鏡画像Pの取得(ステップST1)の前に行うようにしても良い。   On the other hand, when personal information is input from a keyboard, a mouse, or the like, an endoscope moving image P0 of a subject to be authenticated is selected from the image database DB by the image selection means DBM, and each comparison frame of the endoscope moving image P0 is selected. The comparison blood vessel pattern Y associated with the image PF0 is sequentially selected (step ST4). The comparative blood vessel pattern Y may be acquired before the generation of the shift vector. For example, it may be performed before the acquisition of the endoscope image P (step ST1).

その後、シフトベクトル算出手段5aにおいて、回転した血管パターンXと比較血管パターンYとにおける血脈の位置ずれを示すシフトベクトルが生成され、パターンシフト手段5bにより血管パターンX内の黒色領域がシフトベクトルを用いてシフトされる(ステップST5)。 Thereafter, in the shift vector calculation means 5a, a shift vector indicating a blood vessel position shift between the rotated blood vessel pattern X and the comparative blood vessel pattern Y is generated, and the black region in the blood vessel pattern X uses the shift vector by the pattern shift means 5b. (Step ST5).

次に、係数算出手段5cにおいて、シフトされた血管パターンXと比較血管パターンYとの間の相関係数ρが上記式(1)を用いて算出される(ステップST6)。この相関係数ρの算出が、回転された複数の血管パターンXと、比較内視鏡動画像P0を構成する比較フレーム画像PF0から抽出されたすべての比較血管パターンYとの間で算出される(ステップST4〜7)。   Next, in the coefficient calculation means 5c, the correlation coefficient ρ between the shifted blood vessel pattern X and the comparative blood vessel pattern Y is calculated using the above equation (1) (step ST6). The calculation of the correlation coefficient ρ is calculated between the plurality of rotated blood vessel patterns X and all of the comparative blood vessel patterns Y extracted from the comparative frame image PF0 constituting the comparative endoscope moving image P0. (Steps ST4-7).

その後、比較画像選択手段5dにおいて、1つの血管パターンXについて算出された複数の相関係数ρにおいて、相関係数ρが0.7以上であるか否かが判断される(ステップST8)。複数の相関係数ρのうち0.7以上の比較フレーム画像PF0があるとき、この比較フレーム画像PF0は血管パターンXを含むものであると判断し、この比較フレーム画像PF0が表示装置100に表示されるものとして選択される。そして、表示制御手段6において、血管パターンXを含むフレーム画像PFと比較フレーム画像PF0とが同時に表示される(ステップST9)。一方、複数の相関係数ρのいずれもが0.7未満であるとき、血管パターンXを含む比較フレーム画像PF0はないと判断し、表示制御手段6により比較フレーム画像PF0は表示装置100に表示されない(ステップST10)。   Thereafter, in the comparison image selection means 5d, it is determined whether or not the correlation coefficient ρ is 0.7 or more among the plurality of correlation coefficients ρ calculated for one blood vessel pattern X (step ST8). When there is a comparison frame image PF0 of 0.7 or more among the plurality of correlation coefficients ρ, it is determined that the comparison frame image PF0 includes the blood vessel pattern X, and this comparison frame image PF0 is displayed on the display device 100. Selected as a thing. Then, the display control means 6 simultaneously displays the frame image PF including the blood vessel pattern X and the comparison frame image PF0 (step ST9). On the other hand, when all of the plurality of correlation coefficients ρ are less than 0.7, it is determined that there is no comparison frame image PF0 including the blood vessel pattern X, and the display control means 6 displays the comparison frame image PF0 on the display device 100. Not performed (step ST10).

上記実施の形態によれば、内視鏡装置50を用いて体腔内の被写体を撮影し動画として取得した複数のフレーム画像PFからなる内視鏡動画像Pを表示装置に表示するとき、内視鏡動画像Pのフレーム画像PFに含まれる血脈を血管パターンXとして抽出し、被写体を予め撮影し動画として取得した比較内視鏡動画像P0を構成する複数の比較フレーム画像PF0の中から抽出した血管パターンXを含む比較フレーム画像PF0を選択し、フレーム画像PFを表示装置100に表示するときに選択した比較フレーム画像PF0を同時に表示することにより、表示装置100に表示されるフレーム画像PFの撮影部位と同一の部位を撮影した比較フレーム画像PF0を同時に表示する事ができるため、内視鏡動画像Pと比較内視鏡動画像P0とを比較しながら診断等を行うことによる診断効率の向上を図ることができる。   According to the above embodiment, when displaying an endoscope moving image P composed of a plurality of frame images PF obtained by capturing an image of a subject in a body cavity using the endoscope device 50 as a moving image on the display device, A blood vessel included in the frame image PF of the mirror image P is extracted as a blood vessel pattern X, and is extracted from a plurality of comparison frame images PF0 constituting the comparative endoscope moving image P0 obtained by photographing a subject in advance and acquired as a moving image. By selecting the comparison frame image PF0 including the blood vessel pattern X and simultaneously displaying the comparison frame image PF0 selected when the frame image PF is displayed on the display device 100, the frame image PF displayed on the display device 100 is captured. Since the comparison frame image PF0 obtained by photographing the same part as the part can be displayed at the same time, the endoscope moving image P and the comparison endoscope moving image P0 While comparing can be improved diagnostic efficiency by performing the diagnosis.

なお、血管パターンXに対しアフィン変換を施すことにより、回転角度の異なる複数の血管パターンXを生成するパターン回転手段4をさらに備え、比較画像処理手段5が、パターン回転手段4により生成された血管パターンを用いて血管パターンXを含むフレーム画像PFを検索するものであるとき、内視鏡動画像Pと比較内視鏡動画像P0を撮影により取得するとき、異なる撮影角度等から撮影した場合であっても、血管パターンXを含む比較フレーム画像PF0を検索することができる。   The blood vessel pattern X is further provided with pattern rotation means 4 for generating a plurality of blood vessel patterns X having different rotation angles by performing affine transformation, and the comparison image processing means 5 is a blood vessel generated by the pattern rotation means 4. When searching for a frame image PF including a blood vessel pattern X using a pattern, when acquiring an endoscopic moving image P and a comparative endoscopic moving image P0 by shooting, when shooting from different shooting angles, etc. Even if it exists, the comparison frame image PF0 including the blood vessel pattern X can be searched.

また、比較画像処理手段5が、フレーム画像PF内の血管パターンの位置と比較フレーム画像PF内から抽出された比較血管パターンYの位置とのずれをシフトベクトルとして算出するシフトベクトル算出手段5aと、シフトベクトル算出手段5aにより算出されたシフトベクトルを用いてフレーム画像PF内において血管パターンXの位置をシフトさせるパターンシフト手段5bと、パターンシフト手段5bにより血管パターンXがシフトしたフレーム画像PFと比較フレーム画像PF0との相関度合いを相関係数ρとして算出する係数算出手段5cと、係数算出手段5cにおいて複数の比較血管パターンYについてそれぞれ算出された相関係数ρを用いて、血管パターンXを含む比較フレーム画像PF0を選択する比較画像選択手段5dとを備えたものであれば、精度良く高速に比較フレーム画像PF0の検索を行うことができる。   In addition, the comparison image processing unit 5 calculates, as a shift vector, a shift between the position of the blood vessel pattern in the frame image PF and the position of the comparative blood vessel pattern Y extracted from the comparison frame image PF, A pattern shift means 5b for shifting the position of the blood vessel pattern X in the frame image PF using the shift vector calculated by the shift vector calculation means 5a, a frame image PF in which the blood vessel pattern X is shifted by the pattern shift means 5b, and a comparison frame A coefficient calculation unit 5c that calculates the degree of correlation with the image PF0 as a correlation coefficient ρ, and a comparison including the blood vessel pattern X using the correlation coefficient ρ calculated for each of the plurality of comparative blood vessel patterns Y by the coefficient calculation unit 5c. Comparison image selection means 5d for selecting the frame image PF0; The comparison frame image PF0 can be searched with high accuracy and high speed.

本発明の実施の形態は上記実施の形態に限定されない。たとえば、比較画像処理手段5は、パターン回転手段4により回転された血管パターンXと比較血管パターンYとを用いて比較フレーム画像PF0の選択・関連づけを行うようにしているが、血管パターンXではなく抽出した血管パターンX自体を用いて比較血管パターンYとの相関係数ρを算出し、比較フレーム画像PF0の選択・関連づけを行うようにしても良い。   The embodiment of the present invention is not limited to the above embodiment. For example, the comparison image processing unit 5 selects and associates the comparison frame image PF0 using the blood vessel pattern X and the comparison blood vessel pattern Y rotated by the pattern rotation unit 4, but not the blood vessel pattern X. The correlation coefficient ρ with the comparative blood vessel pattern Y may be calculated using the extracted blood vessel pattern X itself, and the comparison frame image PF0 may be selected and associated.

また、図1のパターン抽出手段3において、血管パターンXを画像として抽出するようにしているが、静脈パターンの分岐点の座標、長さ、分岐角度等の特徴量を血管パターンXとして抽出するようにしても良い。このとき、画像データベースDBにも上述した静脈パターンの分岐点の座標等の特徴量が記憶されるものであり、比較画像処理手段5はこれら特徴量を用いた公知のパターン認識を用いて照合が行われることになる。   In addition, the blood vessel pattern X is extracted as an image in the pattern extraction unit 3 of FIG. 1, but feature quantities such as the coordinates, length, and branch angle of the branch point of the vein pattern are extracted as the blood vessel pattern X. Anyway. At this time, feature quantities such as the coordinates of the branch points of the vein pattern described above are also stored in the image database DB, and the comparison image processing means 5 can perform matching using known pattern recognition using these feature quantities. Will be done.

また、上記実施の形態において、パターン回転手段4が抽出された血管パターンXを回転させるようにしているが、画像データベースDBに記憶された比較血管パターンYをアフィン変換により回転させるようにしても良い。あるいは、回転させた比較血管パターンYを予め画像データベースDBに記憶しておき、比較画像処理手段5による照合実行時にはパターン回転手段4による回転処理を行わないようにしてもよい。   In the above embodiment, the pattern rotation means 4 rotates the extracted blood vessel pattern X. However, the comparative blood vessel pattern Y stored in the image database DB may be rotated by affine transformation. . Alternatively, the rotated comparison blood vessel pattern Y may be stored in the image database DB in advance, and the rotation processing by the pattern rotation unit 4 may not be performed when the comparison image processing unit 5 performs collation.

さらに、上記実施の形態において、内視鏡動画像Pのすべてのフレーム画像PFに対し行う場合について例示しているが、すべてのフレーム画像PFに対して上述した比較フレーム画像PF0の選択を行わず、内視鏡動画像Pを再生しているときに、一定時間間隔でフレーム画像PFのサンプリングを行い、このサンプリングされたフレーム画像PFに対して上述した比較フレーム画像PF0の検索を行うことにより、比較内視鏡動画像P0を再生するようにしてもよい。   Furthermore, in the above-described embodiment, the case where it is performed for all the frame images PF of the endoscope moving image P is illustrated, but the above-described comparison frame image PF0 is not selected for all the frame images PF. When the endoscope moving image P is being reproduced, the frame image PF is sampled at regular time intervals, and the above-described comparison frame image PF0 is searched for the sampled frame image PF. The comparative endoscope moving image P0 may be reproduced.

また、動画像の表示を行っている場合について例示しているが、内視鏡動画像Pと比較内視鏡動画像P0とを予め上述した照合処理を行い、フレーム画像PFと比較フレーム画像PF0とを関連づけした状態で内視鏡動画像Pおよび比較内視鏡動画像P0を記憶しておき、内視鏡動画像Pを再生したときに、これに同期して比較内視鏡動画像P0が再生され、表示装置100に同時に表示されるようにしても良い。   Further, although a case where a moving image is displayed is illustrated, the above-described matching process is performed on the endoscope moving image P and the comparative endoscope moving image P0 in advance, and the frame image PF and the comparative frame image PF0 are displayed. Are stored in association with each other, the endoscope moving image P and the comparative endoscope moving image P0 are stored, and when the endoscope moving image P is reproduced, the comparative endoscope moving image P0 is synchronized with this. May be reproduced and displayed on the display device 100 at the same time.

本発明の内視鏡画像表示装置の好ましい実施の形態を示すブロック図The block diagram which shows preferable embodiment of the endoscopic image display apparatus of this invention 図1の内視鏡画像表示装置における照合手段の一例を示すブロック図The block diagram which shows an example of the collation means in the endoscopic image display apparatus of FIG. 本発明の内視鏡画像表示方法の好ましい実施の形態を示すフローチャートThe flowchart which shows preferable embodiment of the endoscopic image display method of this invention

符号の説明Explanation of symbols

1 内視鏡画像表示装置
2 画像取得手段
3 パターン抽出手段
4 パターン回転手段
5 比較画像処理手段
5a シフトベクトル算出手段
5b パターンシフト手段
5c 係数算出手段
5d 比較画像選択手段
6 表示制御手段
50 内視鏡装置
100 表示装置
P 内視鏡動画像
P0 比較内視鏡動画像
PF フレーム画像
PF0 比較フレーム画像
X 血管パターン
Y 比較血管パターン
ρ 相関係数
DESCRIPTION OF SYMBOLS 1 Endoscopic image display apparatus 2 Image acquisition means 3 Pattern extraction means 4 Pattern rotation means 5 Comparison image processing means 5a Shift vector calculation means 5b Pattern shift means 5c Coefficient calculation means 5d Comparison image selection means 6 Display control means 50 Endoscope Device 100 Display device P Endoscopic moving image P0 Comparative endoscopic moving image PF Frame image PF0 Comparative frame image X Blood vessel pattern Y Comparative blood vessel pattern ρ Correlation coefficient

Claims (6)

内視鏡装置を用いて被験者から動画として取得した内視鏡動画像を構成するフレーム画像に含まれる血管パターンを抽出し、
予め前記内視鏡装置を用いて前記被験者から動画として取得した比較内視鏡動画像を構成する複数の比較フレーム画像から、抽出した前記血管パターンを含む前記比較フレーム画像を選択し、
前記フレーム画像を前記表示装置に表示するときに、選択した前記比較フレーム画像を同時に表示する
ことを特徴とする内視鏡画像表示方法。
Extracting a blood vessel pattern included in a frame image constituting an endoscope moving image acquired as a moving image from a subject using an endoscope apparatus;
Select the comparison frame image including the extracted blood vessel pattern from a plurality of comparison frame images constituting a comparative endoscope moving image acquired as a moving image from the subject using the endoscope device in advance,
An endoscopic image display method, comprising: simultaneously displaying the selected comparison frame image when displaying the frame image on the display device.
内視鏡装置を用いて動画として取得された被験者の内視鏡動画像を構成するフレーム画像に含まれる血脈を血管パターンとして抽出するパターン抽出手段と、
予め前記内視鏡装置を用いて動画として取得された前記被験者の比較内視鏡動画像を記憶した画像データベースと、
該画像データベースに記憶された前記比較内視鏡動画像を構成する複数の前記比較フレーム画像から、前記パターン抽出手段により抽出された前記血管パターンを含む前記比較フレーム画像を選択する比較画像処理手段と、
前記フレーム画像を前記表示装置に表示するときに、前記比較画像処理手段により選択された前記比較フレーム画像を同時に表示する表示制御手段と
を備えたことを特徴とする内視鏡画像表示装置。
Pattern extraction means for extracting a blood vessel included in a frame image constituting an endoscope moving image of a subject acquired as a moving image using an endoscope apparatus as a blood vessel pattern;
An image database storing the comparison endoscope moving image of the subject acquired as a moving image in advance using the endoscope device;
Comparison image processing means for selecting the comparison frame image including the blood vessel pattern extracted by the pattern extraction means from the plurality of comparison frame images constituting the comparison endoscope moving image stored in the image database; ,
An endoscopic image display device comprising: display control means for simultaneously displaying the comparison frame image selected by the comparison image processing means when the frame image is displayed on the display device.
前記パターン抽出手段が、前記内視鏡画像に含まれる前記血脈が黒色領域になるように前記内視鏡画像に2値化処理を施すことにより、前記血脈を前記血管パターンとして抽出するものであることを特徴とする請求項2記載の個人認証装置。   The pattern extraction means extracts the blood vessel as the blood vessel pattern by performing binarization processing on the endoscopic image so that the blood vessel included in the endoscopic image becomes a black region. The personal authentication device according to claim 2. 前記血管パターンに対しアフィン変換を施すことにより、回転角度の異なる複数の前記血管パターンを生成するパターン回転手段をさらに備え、前記比較画像処理手段が、該パターン回転手段により生成された前記血管パターンを用いて該血管パターンを含む前記フレーム画像を選択するものであることを特徴とする請求項3記載の内視鏡画像表示装置。   The apparatus further includes pattern rotation means for generating a plurality of blood vessel patterns having different rotation angles by performing affine transformation on the blood vessel pattern, and the comparison image processing means is configured to output the blood vessel pattern generated by the pattern rotation means. 4. The endoscopic image display device according to claim 3, wherein the frame image including the blood vessel pattern is used to select the frame image. 前記比較画像処理手段が、
前記血管パターン内の黒色領域の位置と、前記比較血管パターン内の黒色領域の位置とのずれをシフトベクトルとして算出するシフトベクトル算出手段と、
該シフトベクトル算出手段により算出された前記シフトベクトルを用いて前記血管パターン内において黒色領域の位置をシフトさせるパターンシフト手段と、
該パターンシフト手段により黒色領域がシフトされた前記血管パターンと前記比較血管パターンとの相関度合いを相関係数として算出する係数算出手段と、
該係数算出手段において前記比較フレーム画像毎に含まれる前記複数の比較血管パターンについてそれぞれ算出された複数の前記相関係数を用いて、前記血管パターンを含む前記比較フレーム画像を選択する比較画像選択手段と
を備えたものであることを特徴とする請求項3または4記載の内視鏡画像表示装置。
The comparative image processing means is
Shift vector calculating means for calculating a shift between the position of the black region in the blood vessel pattern and the position of the black region in the comparative blood vessel pattern as a shift vector;
Pattern shifting means for shifting the position of the black region in the blood vessel pattern using the shift vector calculated by the shift vector calculating means;
Coefficient calculating means for calculating a correlation coefficient between the blood vessel pattern in which the black region is shifted by the pattern shifting means and the comparative blood vessel pattern as a correlation coefficient;
Comparison image selection means for selecting the comparison frame image including the blood vessel pattern by using the plurality of correlation coefficients respectively calculated for the plurality of comparison blood vessel patterns included in each of the comparison frame images in the coefficient calculation means. The endoscopic image display device according to claim 3 or 4, characterized by comprising:
コンピュータに、
内視鏡装置を用いて動画として取得された被験者の内視鏡動画像を構成するフレーム画像に含まれる血脈を血管パターンとして抽出し、
予め前記内視鏡装置を用いて動画として取得された前記被験者の比較内視鏡動画像を構成する複数の比較フレーム画像から、抽出した前記血管パターンを含む前記比較フレーム画像を選択し、
前記フレーム画像を前記表示装置に表示するときに、選択した前記比較フレーム画像を同時に表示する
ことを実行させるための内視鏡画像表示プログラム。
On the computer,
Extracting a blood vessel included in a frame image constituting an endoscope moving image of a subject obtained as a moving image using an endoscope device as a blood vessel pattern;
Selecting the comparison frame image including the extracted blood vessel pattern from a plurality of comparison frame images constituting a comparison endoscope moving image of the subject acquired as a moving image in advance using the endoscope apparatus;
An endoscope image display program for executing the simultaneous display of the selected comparison frame image when displaying the frame image on the display device.
JP2007034376A 2007-02-15 2007-02-15 Endoscope image display method, device, and program Withdrawn JP2008194334A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007034376A JP2008194334A (en) 2007-02-15 2007-02-15 Endoscope image display method, device, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007034376A JP2008194334A (en) 2007-02-15 2007-02-15 Endoscope image display method, device, and program

Publications (1)

Publication Number Publication Date
JP2008194334A true JP2008194334A (en) 2008-08-28

Family

ID=39753821

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007034376A Withdrawn JP2008194334A (en) 2007-02-15 2007-02-15 Endoscope image display method, device, and program

Country Status (1)

Country Link
JP (1) JP2008194334A (en)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
ES2341079A1 (en) * 2008-12-11 2010-06-14 Fundacio Clinic Per A La Recerca Biomedica Equipment for infrared vision of anatomical structures and signal processing methods thereof
WO2012011303A1 (en) * 2010-07-21 2012-01-26 オリンパスメディカルシステムズ株式会社 Image processing device and image processing method
WO2014002565A1 (en) * 2012-06-26 2014-01-03 ソニー株式会社 Imaging control device, storage system, and storage medium
EP2719322A1 (en) * 2010-09-08 2014-04-16 Covidien LP Catheter with imaging assembly
WO2014070396A1 (en) * 2012-11-02 2014-05-08 Covidien Lp Catheter with imaging assembly and console with reference library and related methods therefor
USD716841S1 (en) 2012-09-07 2014-11-04 Covidien Lp Display screen with annotate file icon
USD717340S1 (en) 2012-09-07 2014-11-11 Covidien Lp Display screen with enteral feeding icon
USD735343S1 (en) 2012-09-07 2015-07-28 Covidien Lp Console
US9198835B2 (en) 2012-09-07 2015-12-01 Covidien Lp Catheter with imaging assembly with placement aid and related methods therefor
WO2016080414A1 (en) * 2014-11-21 2016-05-26 オリンパス株式会社 Endoscope video processor
US9517184B2 (en) 2012-09-07 2016-12-13 Covidien Lp Feeding tube with insufflation device and related methods therefor

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
ES2341079A1 (en) * 2008-12-11 2010-06-14 Fundacio Clinic Per A La Recerca Biomedica Equipment for infrared vision of anatomical structures and signal processing methods thereof
WO2012011303A1 (en) * 2010-07-21 2012-01-26 オリンパスメディカルシステムズ株式会社 Image processing device and image processing method
JP4971525B2 (en) * 2010-07-21 2012-07-11 オリンパスメディカルシステムズ株式会社 Image processing apparatus and image processing apparatus control method
CN102596001A (en) * 2010-07-21 2012-07-18 奥林巴斯医疗株式会社 Image processing device and image processing method
US8306301B2 (en) 2010-07-21 2012-11-06 Olympus Medical Systems Corp. Image processing apparatus and image processing method
CN102596001B (en) * 2010-07-21 2014-10-15 奥林巴斯医疗株式会社 Image processing device and image processing method
US10272016B2 (en) 2010-09-08 2019-04-30 Kpr U.S., Llc Catheter with imaging assembly
EP2719322A1 (en) * 2010-09-08 2014-04-16 Covidien LP Catheter with imaging assembly
US9585813B2 (en) 2010-09-08 2017-03-07 Covidien Lp Feeding tube system with imaging assembly and console
US9538908B2 (en) 2010-09-08 2017-01-10 Covidien Lp Catheter with imaging assembly
US9433339B2 (en) 2010-09-08 2016-09-06 Covidien Lp Catheter with imaging assembly and console with reference library and related methods therefor
US9406123B2 (en) 2012-06-26 2016-08-02 Sony Corporation Imaging control apparatus, storage system, and storage medium
JPWO2014002565A1 (en) * 2012-06-26 2016-05-30 ソニー株式会社 Imaging control apparatus, storage system, and storage medium
US9911186B2 (en) 2012-06-26 2018-03-06 Sony Corporation Imaging control apparatus, storage system, and storage medium
WO2014002565A1 (en) * 2012-06-26 2014-01-03 ソニー株式会社 Imaging control device, storage system, and storage medium
US9198835B2 (en) 2012-09-07 2015-12-01 Covidien Lp Catheter with imaging assembly with placement aid and related methods therefor
USD735343S1 (en) 2012-09-07 2015-07-28 Covidien Lp Console
USD717340S1 (en) 2012-09-07 2014-11-11 Covidien Lp Display screen with enteral feeding icon
US9517184B2 (en) 2012-09-07 2016-12-13 Covidien Lp Feeding tube with insufflation device and related methods therefor
USD716841S1 (en) 2012-09-07 2014-11-04 Covidien Lp Display screen with annotate file icon
WO2014070396A1 (en) * 2012-11-02 2014-05-08 Covidien Lp Catheter with imaging assembly and console with reference library and related methods therefor
WO2016080414A1 (en) * 2014-11-21 2016-05-26 オリンパス株式会社 Endoscope video processor

Similar Documents

Publication Publication Date Title
JP2008194334A (en) Endoscope image display method, device, and program
JP5080944B2 (en) Panorama fundus image synthesis apparatus and method
US9672619B2 (en) Image processing device, information storage device, and image processing method
US10037468B2 (en) Image processing device, information storage device, and image processing method
JP6368709B2 (en) Method for generating 3D body data
JP4842374B2 (en) Image processing apparatus, image processing method, and image processing program
EP2979606A1 (en) Image processing device, endoscopic device, program and image processing method
CN102670168A (en) Ophthalmologic apparatus and control method of same
JP5959923B2 (en) Detection device, control method thereof, control program, imaging device and display device
JP4373840B2 (en) Moving object tracking method, moving object tracking program and recording medium thereof, and moving object tracking apparatus
JP5780142B2 (en) Image processing apparatus and image processing method
EP1857978A1 (en) Method, system and computer product for deriving three-dimensional information progressivly from a streaming video sequence
Hernandez-Matas et al. An experimental evaluation of the accuracy of keypoints-based retinal image registration
JP2013183912A (en) Image summarization device and program
JP4843787B2 (en) Subject tracking method and apparatus
JP7163049B2 (en) Information processing device, information processing method and program
JP4550769B2 (en) Image detection apparatus and image detection method
JP6288770B2 (en) Face detection method, face detection system, and face detection program
JP7312026B2 (en) Image processing device, image processing method and program
JP6544970B2 (en) IMAGE PROCESSING APPARATUS, IMAGE PROCESSING METHOD, AND PROGRAM
JP2005092451A (en) Head detector and head detecting method and head detecting program
JP2010110500A (en) Imaging device and imaging method
JP2012003724A (en) Three-dimensional fingertip position detection method, three-dimensional fingertip position detector and program
KR20160000533A (en) The method of multi detection and tracking with local feature point for providing information of an object in augmented reality
JP2022101519A (en) Method of creating hyperspectral high speed camera image using generative adversarial network algorithm

Legal Events

Date Code Title Description
A300 Withdrawal of application because of no request for examination

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20100511