JP6454489B2 - 観察システム - Google Patents
観察システム Download PDFInfo
- Publication number
- JP6454489B2 JP6454489B2 JP2014142631A JP2014142631A JP6454489B2 JP 6454489 B2 JP6454489 B2 JP 6454489B2 JP 2014142631 A JP2014142631 A JP 2014142631A JP 2014142631 A JP2014142631 A JP 2014142631A JP 6454489 B2 JP6454489 B2 JP 6454489B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- light
- subject
- information
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000005286 illumination Methods 0.000 claims description 154
- 230000003287 optical effect Effects 0.000 claims description 112
- 238000003384 imaging method Methods 0.000 claims description 56
- 238000004364 calculation method Methods 0.000 claims description 25
- 238000012545 processing Methods 0.000 claims description 21
- 238000009826 distribution Methods 0.000 claims description 19
- 238000000605 extraction Methods 0.000 claims description 18
- 230000003595 spectral effect Effects 0.000 claims description 18
- 230000001678 irradiating effect Effects 0.000 claims description 13
- 238000001514 detection method Methods 0.000 claims description 7
- 239000000284 extract Substances 0.000 claims description 6
- 238000010586 diagram Methods 0.000 description 24
- 238000006243 chemical reaction Methods 0.000 description 20
- 238000003780 insertion Methods 0.000 description 15
- 230000037431 insertion Effects 0.000 description 15
- 238000000034 method Methods 0.000 description 11
- 238000012986 modification Methods 0.000 description 9
- 230000004048 modification Effects 0.000 description 9
- 230000005284 excitation Effects 0.000 description 8
- 238000005259 measurement Methods 0.000 description 6
- 239000013307 optical fiber Substances 0.000 description 6
- 239000000126 substance Substances 0.000 description 6
- 239000000049 pigment Substances 0.000 description 4
- 239000004065 semiconductor Substances 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 210000001519 tissue Anatomy 0.000 description 3
- 210000004204 blood vessel Anatomy 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 210000003097 mucus Anatomy 0.000 description 2
- 240000001973 Ficus microcarpa Species 0.000 description 1
- 238000005452 bending Methods 0.000 description 1
- 150000001875 compounds Chemical class 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 210000000936 intestine Anatomy 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000000691 measurement method Methods 0.000 description 1
- 210000003205 muscle Anatomy 0.000 description 1
- 238000012856 packing Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 238000005507 spraying Methods 0.000 description 1
- 239000002344 surface layer Substances 0.000 description 1
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0655—Control therefor
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00006—Operational features of endoscopes characterised by electronic signal processing of control signals
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/0002—Operational features of endoscopes provided with data storages
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00043—Operational features of endoscopes provided with output arrangements
- A61B1/00045—Display arrangement
- A61B1/0005—Display arrangement combining images e.g. side-by-side, superimposed or tiled
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00064—Constructional details of the endoscope body
- A61B1/00071—Insertion part of the endoscope body
- A61B1/0008—Insertion part of the endoscope body characterised by distal tip features
- A61B1/00096—Optical elements
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/043—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/045—Control thereof
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/05—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0607—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements for annular illumination
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0653—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements with wavelength conversion
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0661—Endoscope light sources
- A61B1/0676—Endoscope light sources at distal tip of an endoscope
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/07—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements using light-conductive means, e.g. optical fibres
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C3/00—Measuring distances in line of sight; Optical rangefinders
- G01C3/02—Details
- G01C3/06—Use of electric means to obtain final indication
- G01C3/08—Use of electric radiation detectors
Description
[第1の実施形態]
図1は、本発明の第1の実施形態に係る観察システム1の全体構成を示している。図2(a),(b),(c)は、第1の画像と第2の画像を重ね合わせたときの同一点画素(素同一点由来画素)について説明するための図である。
観察システム1は、単独であっても、他の機能を有する機器に組み入れて実施することも可能である。本実施形態では、観察システムの構成部位を、内視鏡の挿入部及び、光源装置又はビデオプロセッサに組み入れて構成される例を提案している。尚、内視鏡の構成部位が観察システム1の構成部位と同等の機能を有している場合には、内視鏡側の構成部位で兼用してもよい。
3次元画像生成部5は、観察システム全体を制御する制御部21と、画像処理部22と、画像データ(画像及び画像に関する情報等)と光学情報(光量(光度)、撮像画素のアドレス情報等)を記録する記録部(光学情報記録部)23と、同一点由来画素抽出部(以下、抽出部と称する)24と、被検体の凹凸状態を示す被検体遠近情報を算出する演算部25と、被検体遠近情報から被検体の表面形状を推定する表面形状推定部26と、で構成される。
一例として、1つの撮像素子で撮像した2つの画像間で被検体の位置がずれていた場合には、それぞれの画像上の被検体の共通の特徴点(同一点)を抽出する画像処理を行う。後述する図4(c)に示すように、それらの特徴点が重なるように2枚の画像の位置関係を特定することで、2つの画像間の同一点を特定することができ、対応する撮像素子4の同一点画素が選択される。
これらを組み合わせ、同じ被検体における画像上の画素を仮の同一点として、画像処理等により位置を微調整するようなアルゴリズムを用いることが可能である。短時間で連続撮像された第1の画像と第2の画像は、被検体に対する撮像素子がほぼ等しい位置で撮像された2枚の画像である。このため、図2(a),2(b)に示すように、少なくとも2組の特徴点(第1の特徴点:XA1,XB1),(第2の特徴点:XA2,XB2)が、共に同一点として抽出された場合、第1の画像と第2の画像を、これらの2組の特徴点(XA1とXA2,XB1とXB2)が重なるように配置する。
同一点画像(XB2)とする。さらに、複数個J(J:整数)の同一点がある場合には、第1画像第J同一点由来画素及び、第2画像第J同一点由来画素とする。
図6は、挿入部2の先端面2aと被検体20の表面とが傾斜して対向していた場合の2つの反射光における光量の関係を示す図である。図7は、第1の照明光と第2の照明光の反射光量の比による被検体の表面の傾斜を概念的に示す図である。
図6に示すように、先端面2aと被検体20の表面とが傾斜して対向する状態であった場合には、被検体20の反射及び散乱光量の割合が、撮像素子4の撮像視野方向(図6の矢印34)である観察軸に対する照明光の入射方向に依存して変化する。観察軸は、撮像素子の観察方向、一般的には先端の平面に対する垂線となる。この観察軸から被検体の観察表面がどのくらい傾いているかを観察軸傾斜角として表すことにする。
つまり、図7に示すように、第3グループのP1/P2<1が得られた場合には、傾斜部d5の傾斜状態となる。反対に、第1グループのP1/P2>1におけるP1/P2が1より大きい場合は、傾斜部d4のように、傾斜部d5とは、逆方向の傾斜状態となる。これらは、繋がる平面部どうし、例えば、平面部d2に対する平面部d1と平面部d3の高低差によって傾斜角度が変わっており、この傾斜角度は、P1とP2の光量差により推定することも可能である。
まず、発光制御部7により第1の光変換ユニットと第2の光変換ユニットの照射のタイミングを異なるように制御する。最初に、発光制御部7は、第1の照明光30Iを被検体20の観察箇所に照射させて[図10(A)]、撮像素子4は、被検体20からの反射光30Rを受光し、第1の撮像信号を画像処理部22へ出力する[図10(C)](ステップS1)。画像処理部22は、第1の撮像信号から受光した反射光による第1の反射光量を算出して記録部23に画像データと共に記録する[図10(D)](ステップS2)。
演算部25は、抽出された同一点画素の光量情報の比であるP1/P2≒1となる観察箇所(平面部)について被検体遠近情報を算出する[図10(F)]。また、引き続き、前述した傾斜部を算出してもよい。さらに、表面形状推定部26は、算出された被検体遠近情報から被検体の観察箇所の表面形状を推定し[図10(G)]、記録部23から読み出された画像に対して凹凸強調の画像処理を行う(ステップS6)。表示部6は、凹凸強調された観察箇所の画像を表示する(ステップS7)。
第2の実施形態に係る観察システムは、前述した第1の実施形態の構成と同等であり、同じ構成部位には同じ参照符号を付して、その説明を省略する。
図11は、第2の実施形態に係る観察システム1が被検体20に距離L/2に近接する状態で照明光から被検体遠近情報を取得する概念的な配置例を示す図である。図12は、観察システム1が被検体20に距離Lに遠隔する状態で照明光から被検体遠近情報を取得する概念的な配置例を示す図である。
光源ユニット3と被検体20が近距離にあった場合、その距離に比例して、反射光量P1も大きくなる。例えば、図11には、撮像素子4と被検体20との距離がL/2の例を示す。反対に、光源ユニット3と被検体20が遠距離にあった場合、その距離に比例して、反射光量P2も小さくなる。図12には、例えば、撮像素子4と被検体20との距離がLの例を示す。
以上のように、本実施形態によれば、前述した第1の実施形態の作用効果に加えて、さらに精度の高い表面形状や凹凸強調画像を得ることが可能となる。
図14,図15を参照して、第3の実施形態に係る観察システムについて説明する。前述した第1、第2の実施形態では、2つの照射窓が受光窓を中心として、直径方向に略同一距離を離れて対称に配置された構成例を示したが、これら窓の配置はこれに限定されるものではない。第3の実施形態に係る観察システムは、光源ユニットが3つ以上の照射窓を有する観察システムである。本実施形態の光源ユニット以外の構成部位は、第1の実施形態の構成と同等であり、同じ構成部位には同じ参照符号を付して、その説明を省略する。
また、図15に示すように、3つ以上の照射窓から照射される複数の照明光について、それぞれの光量情報を用い、前述した手法を用いて、被検体遠近情報を得ることも可能である。
また、観察軸に対して傾斜した場合についても、常に(P1:P2:P3≒1:β:γ)となるような画素を観察箇所として抽出することが可能となる。
この変形例は、観察システムが、4つ以上の照射窓を配置する構成である。
構成例については、照明窓が複数個、配置されたそれぞれに照明光を照射する構成以外は、図1及び図14に示す構成で実現することができる。
例えば、内側に撮像素子4が配置された1つの受光窓11を介して、被検体20の画像を撮像する。受光窓11を略中心として、近傍には、複数の照射窓が配置される。発光制御部7は、光源装置が発生させた同一の光学特性の照明光を複数の照射窓から選択的に順次、被検体20へ照射する。撮像素子4は、選択的に順次照射された照明光下で、照明光毎に撮像された複数の画像を取り込み、画像処理部22に撮像信号として出力する。画像処理部22は、各画像に含まれる光学情報を生成し、光学情報をその画像に関係づけて記録部23に記録させる。
表面形状推定部26は、被検体遠近情報に基づき、画像に共通する複数の同一点をそれぞれ撮像した複数の同一点由来画素が出力した光学情報を対となった画像どうしで比較する。その比較結果が略1の同一点を平面部、又は比較結果が略1を超える同一点を第1傾斜部、又は、比較結果が略1に満たない同一点を第2傾斜部と判定する。これらの判定から平面部及び第1,第2傾斜部に、前に求められている相対的な距離を関連づけて、被検体の表面形状を推定する。表示部6は、表面形状推定部により推定された表面形状による立体的な画像として表示する。
まず、前述したように、複数の照明窓から連続して順次照射された照明光下で撮像した被検体の画像を取得し、記録部23に画像を記録する。
以後の演算部25による被検体遠近情報を算出及び、表面形状推定部26による被検体の表面形状を推定するは、前述した変形例と同等である。
(1)受光窓から取り入れた被検体の画像を撮像する撮像素子と、
前記受光窓の近傍に配置され、前記被検体に第1の照明光を照射する第1の照射窓と、前記受光窓に対する前記第1の照射窓の位置と対称となる位置に配置されて前記被検体に前記第1の照明光と同じ光学特性の第2の照明光を照射する第2の照射窓と、前記第1の照明光及び前記第2の照明光を互いに異なるタイミングで発光させる発光制御部と、を備える光源装置と、
前記撮像素子により、前記第1の照明光下で撮像された前記被検体の第1の画像と、前記第2の照明光下で撮像された前記被検体の第2の画像と、を取り込み、
前記第1の画像に含まれる第1の光学情報と前記第2の画像に含まれる第2の光学情報を生成する画像処理部と、
前記画像処理部が出力した画像に関係づけて前記第1の光学情報と前記第2の光学情報を記録する記録部と、
前記第1の画像と前記第2の画像とを比較して、撮像されている被検体上の同じ特徴点を同一点として複数個を見い出し、前記第1の画像上の同一点を第1画像同一点由来画素として、及び前記第2の画像上の前記同一点を第2画像同一点由来画素として対応づけて抽出する同一点由来画素抽出部と、
前記同一点由来画素抽出部により抽出された前記被検体上の複数の同一点の中から設定された第1同一点と第2同一点に対して、
前記第1同一点における第1画像第1同一点由来画素の有する第1の光学情報と、第2画像第1同一点由来画素の有する第2の光学情報と、
前記第2同一点における第1画像第2同一点由来画素の有する第1の光学情報と、第2画像第2同一点由来画素の有する第2の光学情報と、をそれぞれに比較して、
前記被検体上の第1同一点と第2同一点の、前記撮像素子からの相対的な距離関係である被検体遠近情報を算出する演算部と、
前記被検体遠近情報に基づいて、前記被検体の表面形状を推定する表面形状推定部と、
前記表面形状推定部により推定された表面形状による立体的な画像として表示する表示部と、
を具備することを特徴とする観察システム。
Claims (14)
- 第1の照明光を照射する第1の照射窓と、
第2の照明光を照射する第2の照射窓と、を有する光源装置と、
前記第1、及び第2の照明光に照射された、被検体の画像を撮像する撮像素子と、
を有する観察システムにおいて、
前記光源装置は、第1の照明光と、第2の照明光とを、互いに異なるタイミングで発光させる発光制御部を有しており、
前記第1の照明光と第2の照明光は、互いにほぼ等しい光学特性を有しており、
前記撮像素子は、
前記第1の照明光のみによる前記被検体の画像である第1の画像と、
前記第2の照明光のみによる前記被検体の画像である第2の画像と、を取得可能であり、
前記第1の画像は、第1の光学情報を、第2の画像は第2の光学情報をそれぞれ含んでおり、
前記観察システムは、
第1の光学情報と第2の光学情報を記録する光学情報記録部と、
前記第1の画像と前記第2の画像を比較して、被検体上の3箇所以上の同一点に由来する、第1の画像上の同一点由来画素である第1画像同一点由来画素と、第2の画像上の同一点由来画素である第2画像同一点由来画素とを、前記3箇所以上のそれぞれの箇所で対応付けて、被検体上の複数の同一点として、第1同一点と第2同一点を抽出する同一点由来画素抽出部と、を有し、さらに、
前記3箇所以上の前記第1同一点における第1画像第1同一点由来画素の有する、前記同一点由来画素が検出した前記第1の照明光に基づく被検体の第1の光量情報である第1の光学情報と、第2画像第1同一点由来画素の有する、前記同一点由来画素が検出した、前記第2の照明光に基づく被検体の第2の光量情報である第2の光学情報と、
前記3箇所以上の前記第2同一点における第1画像第2同一点由来画素の有する第1の光学情報と、第2画像第2同一点由来画素の有する第2の光学情報と、
を全ての同一点に対して比較し、Jを1以上の整数としたときに、
第1画像第J同一点由来画素の第1の光量情報と、第2画像第J同一点由来画素の第2の光量情報と、の比である光量比情報を演算し、
前記光量比情報に基づいて、被検体遠近情報を算出する演算部と、
前記3箇所以上の相対的な被検体遠近情報から前記被検体の表面形状を推定する表面形状推定部と、
前記表面形状推定部により推定された表面形状が反映された立体的な画像を表示する表示部と、を有し、
前記第1画像第J同一点由来画素の第1の光量情報と、前記第2画像第J同一点由来画素の第2の光量情報との比、が互いに略等しい画素を、等光量比画素としたときに、前記第1、及び第2の画像が、複数の等光量比画素を有している場合、
前記演算部は、前記複数の等光量比画素の光量情報の大小に基づいて、前記撮像素子からの相対的な距離情報である被検体遠近情報を算出し、
前記表面形状推定部が前記被検体遠近情報に基づいて、前記被検体の表面形状を推定する、観察システム。 - 前記等光量比画素のうち、第J同一点における第1の光量情報と第2の光量情報とが互いに等しい画素を同一光量画素としたときに、
前記演算部は、前記同一光量画素の光量の絶対値の大小に基づいて、前記被検体と前記撮像素子との距離情報を被検体遠近情報として算出する、請求項1に記載の観察システム。 - 前記演算部は、前記距離情報を、前記等光量比画素又は同一光量画素のいずれかの受光した光量の絶対値の平方根の逆数に比例した値として算出する、請求項1または2に記載の観察システム。
- 前記演算部は、前記光量比情報に基づいて、被検体上の同一点の、前記撮像素子と前記第1の照射窓と前記第2の照射窓とにより定義される観察軸に対する観察軸傾斜角を算出する、請求項1に記載の観察システム。
- 前記演算部は、前記光量比情報が異なり連なる複数の画素について、前記観察軸傾斜角をそれぞれに算出し、異なる観察軸傾斜角を有する画素を、画像上の連なる位置関係に基づいて滑らかに接続し、被検体の表面形状を算出する、請求項4に記載の観察システム。
- 第1の照明光を照射する第1の照射窓と、
第2の照明光を照射する第2の照射窓と、を有する光源装置と、
前記第1、及び第2の照明光に照射された、被検体の画像を撮像する撮像素子と、
を有する観察システムにおいて、
前記光源装置は、第1の照明光と、第2の照明光とを、互いに異なるタイミングで発光させる発光制御部を有しており、
前記第1の照明光と第2の照明光は、互いにほぼ等しい光学特性を有しており、
前記撮像素子は、
前記第1の照明光のみによる前記被検体の画像である第1の画像と、
前記第2の照明光のみによる前記被検体の画像である第2の画像と、を取得可能であり、
前記第1の画像は、第1の光学情報を、第2の画像は第2の光学情報をそれぞれ含んでおり、
前記観察システムは、
第1の光学情報と第2の光学情報を記録し、光源の照射方向と光強度の関係である配光情報を有する光学情報記録部と、
前記第1の画像と前記第2の画像を比較して、被検体上の3箇所以上の同一点に由来する、第1の画像上の同一点由来画素である第1画像同一点由来画素と、第2の画像上の同一点由来画素である第2画像同一点由来画素とを、それぞれに対応する箇所で対応付けて、被検体上の複数の同一点として、第1同一点と第2同一点を抽出する同一点由来画素抽出部と、を有し、さらに、
前記3箇所以上の前記第1同一点における第1画像第1同一点由来画素の有する、前記同一点由来画素が検出した前記第1の照明光に基づく被検体の第1の光量情報である第1の光学情報と、第2画像第1同一点由来画素の有する、前記同一点由来画素が検出した、前記第2の照明光に基づく被検体の第2の光量情報である第2の光学情報と、
前記3箇所以上の前記第2同一点における第1画像第2同一点由来画素の有する第1の光学情報と、第2画像第2同一点由来画素の有する第2の光学情報と、
を全ての同一点に対して比較して、Jを1以上の整数としたときに、
第1画像第J同一点由来画素の第1の光量情報と、第2画像第J同一点由来画素の第2の光量情報と、の比である光量比情報を演算し、
前記光量比情報に基づいて、被検体遠近情報を算出し、前記配光情報に基づいて、前記被検体遠近情報を補正する演算部と、
前記3箇所以上の相対的な被検体遠近情報から前記被検体の表面形状を推定する表面形状推定部と、
前記表面形状推定部により推定された表面形状が反映された立体的な画像を表示する表示部と、を有する観察システム。 - 第1の照明光を照射する第1の照射窓と、
第2の照明光を照射する第2の照射窓と、を有する光源装置と、
前記第1、及び第2の照明光に照射された、被検体の画像を撮像する撮像素子と、
を有する観察システムにおいて、
前記光源装置は、第1の照明光と、第2の照明光とを、互いに異なるタイミングで発光させる発光制御部を有しており、
前記第1の照明光と第2の照明光は、互いにほぼ等しい光学特性を有しており、
前記撮像素子は、
前記第1の照明光のみによる前記被検体の画像である第1の画像と、
前記第2の照明光のみによる前記被検体の画像である第2の画像と、を取得可能であり、
前記第1の画像は、第1の光学情報を、第2の画像は第2の光学情報をそれぞれ含んでおり、
前記観察システムは、
第1の光学情報と第2の光学情報を記録し、前記被検体の分光反射率情報を有する光学情報記録部と、
前記第1の画像と前記第2の画像を比較して、被検体上の3箇所以上の同一点に由来する、第1の画像上の同一点由来画素である第1画像同一点由来画素と、第2の画像上の同一点由来画素である第2画像同一点由来画素とを、それぞれに対応する箇所で対応付けて、被検体上の複数の同一点として、第1同一点と第2同一点を抽出する同一点由来画素抽出部と、を有し、さらに、
前記3箇所以上の前記第1同一点における第1画像第1同一点由来画素の有する、前記同一点由来画素が検出した前記第1の照明光に基づく被検体の第1の光量情報である第1の光学情報と、第2画像第1同一点由来画素の有する、前記同一点由来画素が検出した、前記第2の照明光に基づく被検体の第2の光量情報である第2の光学情報と、
前記3箇所以上の前記第2同一点における第1画像第2同一点由来画素の有する第1の光学情報と、第2画像第2同一点由来画素の有する第2の光学情報と、
を全ての同一点に対して比較して、Jを1以上の整数としたときに、
第1画像第J同一点由来画素の第1の光量情報と、第2画像第J同一点由来画素の第2の光量情報と、の比である光量比情報を演算し、
前記光量比情報に基づいて、被検体遠近情報を算出し、前記分光反射率情報に基づいて被検体遠近情報を補正する演算部と、
前記3箇所以上の相対的な被検体遠近情報から前記被検体の表面形状を推定する表面形状推定部と、
前記表面形状推定部により推定された表面形状が反映された立体的な画像を表示する表示部と、を有する観察システム。 - 第1の照明光を照射する第1の照射窓と、
第2の照明光を照射する第2の照射窓と、を有する光源装置と、
前記第1、及び第2の照明光に照射された、被検体の画像を撮像する撮像素子と、
を有する観察システムにおいて、
前記光源装置は、第1の照明光と、第2の照明光とを、互いに異なるタイミングで発光させる発光制御部を有しており、
前記第1の照明光と第2の照明光は、互いにほぼ等しい光学特性を有しており、
前記撮像素子は、照明光を波長に基づいて分光検出可能な分光検出撮像素子であり
前記第1の照明光のみによる前記被検体の画像である第1の画像と、
前記第2の照明光のみによる前記被検体の画像である第2の画像と、を取得可能であり、
前記第1の画像は、第1の光学情報を、第2の画像は第2の光学情報をそれぞれ含んでおり、
前記観察システムは、
第1の光学情報と第2の光学情報を記録する光学情報記録部と、
前記第1の画像と前記第2の画像を比較して、被検体上の同一点に由来する、第1の画像上の同一点由来画素である第1画像同一点由来画素と、第2の画像上の同一点由来画素である第2画像同一点由来画素とを対応付けて、被検体上の複数の同一点として、第1同一点と第2同一点を抽出する同一点由来画素抽出部と、を有し、さらに、
前記第1同一点における第1画像第1同一点由来画素の有する第1の光学情報と、第2画像第1同一点由来画素の有する第2の光学情報と、
前記第2同一点における第1画像第2同一点由来画素の有する第1の光学情報と、第2画像第2同一点由来画素の有する第2の光学情報と、
を比較して、被検体上の第1同一点と第2同一点の、前記撮像素子が受光した光学情報のうち、所定の波長域の光量情報である所定波長域光量情報に基づいて相対的な距離関係である被検体遠近情報を算出する演算部と、
前記被検体遠近情報から被検体の表面形状を推定する表面形状推定部と、
前記表面形状推定部により推定された表面形状が反映された立体的な画像を表示する表示部と、
を有する、観察システム。 - 前記所定の波長域は、前記被検体の分光反射率が高い領域である、請求項8に記載の観察システム。
- 前記第1画像第J同一点由来画素は、複数の画素により構成された画素郡であり、前記第1画像第J同一点由来画素と、前記第2画像第J同一点由来画素とは、同一の画素数、画素配置であり、前記第1、及び第2の光学情報は、前記画素郡の画素構成に基づいて、前記演算部により算出される、請求項1に記載の観察システム。
- 前記第1、及び第2の光学情報は、前記画素郡を構成する個々の画素の光学情報の和である、請求項10に記載の観察システム。
- 第1の照明光を照射する第1の照射窓と、
第2の照明光を照射する第2の照射窓と、を有する光源装置と、
前記第1、及び第2の照明光に照射された、被検体の画像を撮像する撮像素子と、
を有する観察システムにおいて、
前記光源装置は、第1の照明光と、第2の照明光とを、互いに異なるタイミングで発光させる発光制御部を有しており、
前記第1の照明光と第2の照明光は、互いにほぼ等しい光学特性を有しており、
前記撮像素子は、照明光の波長に基づいて分光検出可能な分光検出撮像素子であり、
前記第1の照明光のみによる前記被検体の画像である第1の画像と、
前記第2の照明光のみによる前記被検体の画像である第2の画像と、を取得可能であり、
前記第1の画像は、第1の光学情報を、第2の画像は第2の光学情報をそれぞれ含んでおり、
前記観察システムは、
第1の光学情報と第2の光学情報を記録する光学情報記録部と、
前記第1の画像と前記第2の画像を比較して、被検体上の3箇所以上の同一点に由来する、第1の画像上の同一点由来画素である第1画像同一点由来画素と、第2の画像上の同一点由来画素である第2画像同一点由来画素とを、それぞれに対応する箇所で対応付けて、被検体上の複数の同一点として、第1同一点と第2同一点を抽出する同一点由来画素抽出部と、を有し、さらに、
前記3箇所以上の前記第1同一点における、複数の画素により構成され、検出可能な分光領域が異なる画素を含む画素郡である第1画像第1同一点由来画素の有する、前記同一点由来画素が検出した前記第1の照明光に基づき、前記分光領域が等しい個々の画素の和として算出される被検体の第1の光量情報である第1の光学情報と、前記第1画像第1同一点由来画素と同一の画素数、画素配置である第2画像第1同一点由来画素の有する、前記同一点由来画素が検出した、前記第2の照明光に基づき、前記分光領域が等しい個々の画素の和として算出される被検体の第2の光量情報である第2の光学情報と、
前記3箇所以上の前記第2同一点における第1画像第2同一点由来画素の有する第1の光学情報と、第2画像第2同一点由来画素の有する第2の光学情報と、
を全ての同一点に対して比較して、Jを1以上の整数としたときに、
第1画像第J同一点由来画素の第1の光量情報と、第2画像第J同一点由来画素の第2の光量情報と、の比である光量比情報を演算し、
前記光量比情報に基づいて、被検体遠近情報を算出する演算部と、
前記3箇所以上の相対的な被検体遠近情報から前記被検体の表面形状を推定する表面形状推定部と、
前記表面形状推定部により推定された表面形状が反映された立体的な画像を表示する表示部と、を有する観察システム。 - 前記光源装置は、3つ以上の照射窓を備え、前記照射窓の2つを選択して、照明光を照射し、撮像された画像から被検体遠近情報を算出することを特徴とする請求項1乃至12のうちのいずれか1項に記載の観察システム。
- 1つの受光窓から取り入れた被検体の画像を撮像する撮像素子と、
前記受光窓の近傍に配置され、前記被検体に同一の光学特性の照明光をそれぞれに照射する複数の照射窓と、
前記複数の照射窓から選択的に順次、前記照明光を照射させる発光制御部と、を備える光源装置と、
選択的に順次照射された照明光下で、前記撮像素子により、照明光毎に撮像された複数の画像を取り込み、前記画像の光量を含む光学情報を生成する画像処理部と、
前記画像処理部が出力した画像に関係づけて前記光学情報を記録する記録部と、
読み出した前記複数の画像内に撮像されている前記被検体上の共通の特徴点を同一点として、各画像内に複数の同一点を設定し、それらの同一点を同一点由来画素として抽出する同一点由来画素抽出部と、
前記同一点由来画素の前記光学情報による光量の値から前記撮像素子からの相対的な距離とする被検体遠近情報を算出する演算部と、
前記複数の同一点をそれぞれ撮像した複数の同一点由来画素の光学情報による光量の比をとり、前記比の結果が略1の同一点を平面部、前記比の結果が略1を超える同一点を第1傾斜部、及び前記比の結果が略1に満たない同一点を第2傾斜部と判定して、
前記平面部及び前記第1,第2傾斜部に前記相対的な距離を関連づけて繋ぎ、前記被検体の表面形状を推定する表面形状推定部と、
前記表面形状推定部により推定された表面形状による立体的な画像として表示する表示部と、
を具備することを特徴とする観察システム。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014142631A JP6454489B2 (ja) | 2014-07-10 | 2014-07-10 | 観察システム |
CN201580037611.6A CN106574831B (zh) | 2014-07-10 | 2015-06-24 | 观察系统 |
PCT/JP2015/068214 WO2016006451A1 (ja) | 2014-07-10 | 2015-06-24 | 観察システム |
DE112015002821.8T DE112015002821T5 (de) | 2014-07-10 | 2015-06-24 | Beobachtungssystem |
US15/398,044 US10485402B2 (en) | 2014-07-10 | 2017-01-04 | Observation system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014142631A JP6454489B2 (ja) | 2014-07-10 | 2014-07-10 | 観察システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016017921A JP2016017921A (ja) | 2016-02-01 |
JP6454489B2 true JP6454489B2 (ja) | 2019-01-16 |
Family
ID=55064089
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014142631A Active JP6454489B2 (ja) | 2014-07-10 | 2014-07-10 | 観察システム |
Country Status (5)
Country | Link |
---|---|
US (1) | US10485402B2 (ja) |
JP (1) | JP6454489B2 (ja) |
CN (1) | CN106574831B (ja) |
DE (1) | DE112015002821T5 (ja) |
WO (1) | WO2016006451A1 (ja) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017020873A (ja) * | 2015-07-09 | 2017-01-26 | キヤノン株式会社 | 被計測物の形状を計測する計測装置 |
JP6698451B2 (ja) * | 2016-07-11 | 2020-05-27 | オリンパス株式会社 | 観察装置 |
WO2018180068A1 (en) * | 2017-03-29 | 2018-10-04 | Sony Corporation | Medical imaging device and endoscope |
JP6959027B2 (ja) * | 2017-04-25 | 2021-11-02 | 三菱重工業株式会社 | クリアランス計測装置、クリアランス計測センサ及びクリアランス計測方法 |
EP3633350A4 (en) * | 2017-05-29 | 2020-06-03 | Sumitomo Electric Industries, Ltd. | OBSERVATION CONTAINER AND MICROPARTICLE MEASURING DEVICE |
CN110740676B (zh) * | 2017-06-15 | 2022-02-25 | 奥林巴斯株式会社 | 内窥镜系统、内窥镜图像处理方法以及记录介质 |
CN109171616A (zh) * | 2018-08-07 | 2019-01-11 | 重庆金山医疗器械有限公司 | 获得被测物内部3d形状的系统及方法 |
US11004254B2 (en) * | 2019-07-25 | 2021-05-11 | Nvidia Corporation | Performance of ray-traced shadow creation within a scene |
CN112161579B (zh) * | 2020-09-17 | 2022-06-17 | 武大巨成结构股份有限公司 | 一种锚孔内径测量方法 |
CN115143929A (zh) * | 2022-03-28 | 2022-10-04 | 南京大学 | 一种基于光纤束的内窥测距仪 |
CN116429250B (zh) * | 2023-06-14 | 2023-10-13 | 深圳深浦电气有限公司 | 光电检测电路、光电检测方法和光电传感器 |
Family Cites Families (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS63242233A (ja) * | 1987-03-31 | 1988-10-07 | 株式会社東芝 | 電子内視鏡装置 |
JPH05211996A (ja) * | 1992-02-03 | 1993-08-24 | Toshiba Corp | スコープ画像の均一性補正方法 |
JPH0676888A (ja) | 1992-08-26 | 1994-03-18 | Matsushita Electric Works Ltd | 同軸コネクタ |
JPH09187038A (ja) * | 1995-12-27 | 1997-07-15 | Canon Inc | 3次元形状抽出装置 |
US6445814B2 (en) * | 1996-07-01 | 2002-09-03 | Canon Kabushiki Kaisha | Three-dimensional information processing apparatus and method |
JP2000136913A (ja) * | 1998-11-02 | 2000-05-16 | Minolta Co Ltd | 画像読取装置 |
DE10136160A1 (de) * | 2001-07-25 | 2003-02-13 | Philips Corp Intellectual Pty | Verfahren und Vorrichtung zur Registrierung zweier 3D-Bilddatensätze |
JP2003093336A (ja) * | 2001-09-26 | 2003-04-02 | Toshiba Corp | 電子内視鏡装置 |
US7711179B2 (en) * | 2004-04-21 | 2010-05-04 | Nextengine, Inc. | Hand held portable three dimensional scanner |
US20070161854A1 (en) * | 2005-10-26 | 2007-07-12 | Moshe Alamaro | System and method for endoscopic measurement and mapping of internal organs, tumors and other objects |
CN101437437B (zh) * | 2006-05-09 | 2012-01-11 | 皇家飞利浦电子股份有限公司 | 用于对物体内部三维成像的成像系统 |
JP5362189B2 (ja) * | 2006-05-10 | 2013-12-11 | 株式会社トプコン | 画像処理装置及びその処理方法 |
JP4899647B2 (ja) * | 2006-06-05 | 2012-03-21 | 富士通株式会社 | 距離測定プログラム、距離測定装置、距離測定方法 |
ATE546755T1 (de) * | 2007-10-30 | 2012-03-15 | Olympus Corp | Endoskopvorrichtung |
US8280496B2 (en) * | 2007-12-13 | 2012-10-02 | Boston Scientific Scimed, Inc. | Extended spectral sensitivity endoscope system and method of using the same |
JP5291955B2 (ja) * | 2008-03-10 | 2013-09-18 | 富士フイルム株式会社 | 内視鏡検査システム |
US9582889B2 (en) * | 2009-07-30 | 2017-02-28 | Apple Inc. | Depth mapping based on pattern matching and stereoscopic information |
CN101882306B (zh) * | 2010-06-13 | 2011-12-21 | 浙江大学 | 一种表面凹凸物体照片的高精度拼接方法 |
JP5538143B2 (ja) * | 2010-08-31 | 2014-07-02 | 富士フイルム株式会社 | 内視鏡システム |
WO2012073413A1 (ja) * | 2010-12-01 | 2012-06-07 | パナソニック株式会社 | 立体画像撮影装置および内視鏡 |
JP2013063179A (ja) * | 2011-09-16 | 2013-04-11 | Olympus Medical Systems Corp | 観察システム |
RU2014118932A (ru) * | 2011-10-13 | 2015-11-20 | Конинклейке Филипс Н.В. | Медицинский зонд с мультиволоконной полостью |
US11510600B2 (en) * | 2012-01-04 | 2022-11-29 | The Trustees Of Dartmouth College | Method and apparatus for quantitative and depth resolved hyperspectral fluorescence and reflectance imaging for surgical guidance |
US9911203B2 (en) * | 2013-10-02 | 2018-03-06 | Given Imaging Ltd. | System and method for size estimation of in-vivo objects |
DE102014210051A1 (de) * | 2014-05-27 | 2015-12-03 | Carl Zeiss Meditec Ag | Verfahren und Vorrichtung zur Bestimmung einer Oberflächentopographie eines Körpers |
-
2014
- 2014-07-10 JP JP2014142631A patent/JP6454489B2/ja active Active
-
2015
- 2015-06-24 CN CN201580037611.6A patent/CN106574831B/zh active Active
- 2015-06-24 DE DE112015002821.8T patent/DE112015002821T5/de not_active Withdrawn
- 2015-06-24 WO PCT/JP2015/068214 patent/WO2016006451A1/ja active Application Filing
-
2017
- 2017-01-04 US US15/398,044 patent/US10485402B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2016017921A (ja) | 2016-02-01 |
CN106574831B (zh) | 2019-05-28 |
WO2016006451A1 (ja) | 2016-01-14 |
US20170112360A1 (en) | 2017-04-27 |
CN106574831A (zh) | 2017-04-19 |
DE112015002821T5 (de) | 2017-03-09 |
US10485402B2 (en) | 2019-11-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6454489B2 (ja) | 観察システム | |
US11190752B2 (en) | Optical imaging system and methods thereof | |
JP6586211B2 (ja) | プロジェクションマッピング装置 | |
US9427137B2 (en) | Imaging a patient's interior | |
US9436868B2 (en) | Object classification for measured three-dimensional object scenes | |
JP4741158B2 (ja) | イメージセンサおよびそれを使用した内視鏡 | |
JP6045417B2 (ja) | 画像処理装置、電子機器、内視鏡装置、プログラム及び画像処理装置の作動方法 | |
JP2019523064A5 (ja) | ||
JP2017537744A (ja) | 口腔内3d蛍光撮像 | |
JP6745508B2 (ja) | 画像処理システム、画像処理装置、投影装置、及び投影方法 | |
CN114128243A (zh) | 在缺光环境中利用拓扑激光扫描进行超光谱和荧光成像 | |
US20160143509A1 (en) | System for stereo reconstruction from monoscopic endoscope images | |
JP6706026B2 (ja) | 内視鏡システムおよび内視鏡装置の作動方法 | |
US20220007925A1 (en) | Medical imaging systems and methods | |
JP2015198260A (ja) | 監視カメラシステム | |
JP6419093B2 (ja) | 撮像装置 | |
JP2005287900A (ja) | 内視鏡 | |
CN103561627B (zh) | 图像处理装置 | |
CN114554933A (zh) | 引导成像设备检测荧光并确定荧光的寿命的系统和方法 | |
WO2024039586A1 (en) | Systems and methods for detecting and mitigating extraneous light at a scene | |
JP2024508315A (ja) | シーン深度推測を強化するための視鏡修正 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170609 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180612 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20180803 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20181011 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20181120 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20181217 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6454489 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |