JP2017000193A - 画像処理装置 - Google Patents
画像処理装置 Download PDFInfo
- Publication number
- JP2017000193A JP2017000193A JP2015114142A JP2015114142A JP2017000193A JP 2017000193 A JP2017000193 A JP 2017000193A JP 2015114142 A JP2015114142 A JP 2015114142A JP 2015114142 A JP2015114142 A JP 2015114142A JP 2017000193 A JP2017000193 A JP 2017000193A
- Authority
- JP
- Japan
- Prior art keywords
- image
- scanning
- signal
- mask
- mapping
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00163—Optical arrangements
- A61B1/00172—Optical arrangements with means for scanning
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00043—Operational features of endoscopes provided with output arrangements
- A61B1/00055—Operational features of endoscopes provided with output arrangements for alerting the user
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B26/00—Optical devices or arrangements for the control of light using movable or deformable optical elements
- G02B26/08—Optical devices or arrangements for the control of light using movable or deformable optical elements for controlling the direction of light
- G02B26/10—Scanning systems
- G02B26/103—Scanning systems having movable or deformable optical fibres, light guides or waveguides as scanning elements
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Surgery (AREA)
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Optics & Photonics (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Pathology (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Biophysics (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Radiology & Medical Imaging (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Signal Processing (AREA)
- General Physics & Mathematics (AREA)
- Instruments For Viewing The Inside Of Hollow Bodies (AREA)
- Endoscopes (AREA)
Abstract
Description
例えば、第1の従来例としての特開2014−18556号公報は、キャリブレーション装置を用いて、狭い走査領域を走査する場合でも、照射スポットの位置を正確に検出可能にしている。
また、第1の従来例としての特開2014−36779号公報は、光ファイバの出射端近傍に5つ以上のアクチュエータを備えた光ファイバ走査手段と、前記光ファイバの出射端側に配置され、前記光ファイバの出射端の回転軌跡を検出する検出手段と、前記検出手段により検出された前記光ファイバの出射端の回転軌跡に基づいて前記アクチュエータが異常か否かを判定する判定手段等を備えた走査型内視鏡装置を開示している。
また、第2の従来例も起動時に異常か否かを判定することを開示すると共に、5つ以上のアクチュエータと、光ファイバの出射端の回転軌跡を検出する検出手段としてのセンサとが必要になる構成であり、通常の走査型内視鏡には適用できない。このため、被検体内に挿入して内視鏡検査を行っている最中においても、取得された画像が異常か否かを把握できる画像を表示し、術者等のユーザがその異常を認識できるようにした画像処理装置が望まれる。
本発明は上述した点に鑑みてなされたもので、内視鏡検査を行っている最中においても、取得された画像が異常か否かを把握できる画像を表示し、ユーザが異常を認識し易くできる画像処理装置を提供することを目的とする。
(第1の実施形態)
図1に示すように本発明の第1の実施形態を備えた走査型内視鏡装置1は、走査型光プローブを形成する走査型内視鏡2と、走査型内視鏡2が着脱自在に接続される第1の実施形態の画像処理装置3と、画像処理装置3に接続される表示装置としてのモニタ4と、を有する。
走査型内視鏡2は、被検体5の体内又は体腔内に挿入可能な細長の形状及び可撓性を備える挿入部6を有し、挿入部6の基端(後端)には、走査型内視鏡2を画像処理装置3のコネクタ受け8に着脱自在に接続するためのコネクタ7が設けられている。
また、挿入部6は、硬質の先端部11と、その後端からコネクタ7に延びる、可撓性を有する可撓管部とを有する。なお、先端部11と可撓管部との間に、湾曲自在の湾曲部を設け、可撓管部とコネクタ7との間に湾曲部を湾曲する操作ノブ等を設けた操作部を設けるようにしても良い。
先端部11は、硬質の筒状部材としての円筒部材13を有し、この円筒部材13の後端に可撓性の円筒チューブの先端が連結され、この円筒チューブの後端は、コネクタ7に固定されている。
円筒部材13の内側には、光ファイバ15の先端側を、該光ファイバ15の長手方向(図1ではZ軸方向)と直交する2つの方向に揺動する如くに駆動する光走査部を形成するアクチュエータ17が配置されている。このアクチュエータ17は、挿入部6内を挿通された駆動線18a,18bを介して画像処理装置3内部の駆動ユニット32から駆動信号(又は駆動電圧)が印加されることにより、長手方向に伸縮する。
図2は図1のA−A線断面によりアクチュエータ17の周辺部の構成を示す。図2に示すように(円筒部材13における)中心軸Oに沿って配置される断面が正方形の直方体形状の硬質の接合部材としてのフェルール20は、例えば、ジルコニア(セラミック)またはニッケル等により形成されている。
フェルール20は、中心軸Oに沿って光ファイバ15が固定され、Z軸と直交するY軸方向(紙面の上下方向)の両側面と、X軸方向(紙面の左右方向)の両側面とにアクチュエータ17を形成するアクチュエータ素子(光走査素子)を形成する圧電素子17a、17bと17c、17dが取り付けられている。
また、この保持部材19の基端側は、円筒部材13の基端に嵌合して接着剤等により固定されている。
図1に示すように円筒部材13及び円筒チューブの外周面に沿って、被写体により反射された照明光(戻り光又は反射光)を受光するための受光用光ファイバ23がリング状に複数本、配置され、受光用光ファイバ23により受光された(観察対象からの戻り光又は反射)光は、コネクタ7を経て画像処理装置3内部の受光用光ファイバ23bに導光される。この受光用光ファイバ23bに導光された光は、検出ユニット33に入射され、光電変換により電気信号に変換される。
また、各走査型内視鏡2には、アクチュエータ17により、光ファイバ15の先端を渦巻き形状の所定の走査パターンに沿って駆動させるための駆動データ及び駆動した場合の照射位置(走査位置又は走査スポット位置)に対応する2次元の座標位置データ等の情報を格納したメモリ25を有する。このメモリ25に格納された情報は、コネクタ7の接点、信号線を経て画像処理装置3内部のコントローラ34に入力される。コントローラ34は、入力された上記情報を例えばメモリ35又はXYマッピング回路43内のXYマッピングメモリ43a(図4参照)に格納し、格納した情報を参照して、光源ユニット31や駆動ユニット32を制御する。なお、メモリ35をXYマッピングメモリ43aとしても良い。
画像処理装置3は、光源ユニット31と、駆動ユニット32と、検出ユニット33と、画像処理装置3の各ユニットを制御するコントローラ34と、コントローラ34と接続され、各種の情報を格納するメモリ35と、を有する。また、画像処理装置3には、ユーザが各種の入力指示を行う入力装置36が接続されている。
R光源31a、G光源31b及びB光源31bは、例えばレーザダイオード等のレーザ光源を用いて構成され、コントローラ34の制御によりオンされた際に、それぞれR光、G光、B光を合波器31dへ出射する。コントローラ34は、R光源31a、G光源31b及びB光源31bの離散的なパルス発光を制御する中央演算装置(CPUと略記)などから構成される発光制御回路34aを有する。
コントローラ34の発光制御回路34aは、R光源31a、G光源31b及びB光源31bに対して同時にパルス的に発光させる制御信号を送り、R光源31a、G光源31b及びB光源31bは同時にR光、G光、B光を発生し、合波器31dへ出射する。
駆動ユニット32は、正弦波に近いデジタルの交流信号を発生する信号発生器32aと、信号発生器32aにより発生したデジタルの交流信号の位相を90°シフトする位相シフト回路32bと、切替スイッチ32c、32dと、デジタル信号をアナログ信号に変換するD/A変換器32e、32fと、アナログ信号を増幅して、90°位相が異なる駆動信号を出力するアンプ32g及び32hと、を有する。
信号発生器32aは、光ファイバ15の先端をY軸方向に走査(振動)させるための交流信号を発生し、この交流信号は切替スイッチ32cの接点aを経てD/A変換器32eによりアナログの交流信号に変換され、アンプ32gにより増幅されてY軸方向に走査(振動)させる駆動信号となる。
アンプ32g及び32hから出力される2つの駆動信号(Y方向用駆動信号、X方向用駆動信号)は、図3Aに示した波形となり、圧電素子17a,17bと17c,17dにそれぞれ印加される。
そして、2つの駆動信号の印加により光ファイバ15の先端は、図3Bに示すように渦巻き形状の走査軌跡を形成するように走査される。
なお、図3Aに示すように2つの駆動信号は、走査開始付近における一部の期間を除いて互いに90度ずれた位相状態を保持する。走査開始付近における一部の期間、具体的にはY方向用駆動信号が時間taから0〜90度、出力される期間、X方向用駆動信号は出力されないで0となっている。
この補正は、後述するように通常の走査の場合のマッピング情報を、駆動信号を入れ替えた場合にも共通して利用できるようにするためのものとなる。換言すると、駆動信号を入れ替えた場合も、別のマッピング情報を利用する場合には、上記の補正は不要となる。
図3Bは光ファイバ15の先端の走査軌跡を示すが、被検体5等の観察対象側においても同様に渦巻き形状の走査軌跡(走査経路)を形成する。図3Bに示す走査開始位置Paを走査範囲のほぼ中心として、走査終了位置Pbまでのほぼ円形の範囲が走査範囲となり、この走査範囲の画像がモニタ4において内視鏡画像(単に画像とも言う)として表示される。
接点aがONする状態においては、図3Aの2つの駆動信号に対応した図3Bに示す軌跡に対応した画像がモニタ4に表示される。なお、図3Bに示す軌跡に対応した画像(信号)は、ラスタスキャン方式の画像(信号)としてモニタ4に表示される。接点aをON(選択)した場合の図3Aの2つの駆動信号に対応した又は図3Bの軌跡に対応した画像を通常走査画像(又は第1の画像)と言う。
2つの駆動信号を入れ替え、入れ替える前の走査軌跡(通常走査軌跡という)を90度回転した走査軌跡とすることにより、入れ替えた場合の照射位置の情報として、入れ替える前の通常走査軌跡のマッピング情報を利用できるようにしている(後述)。
接点bをON(選択)した場合の図3Aの2つの駆動信号を入れ替えに対応した又は図3Bの軌跡を90度回転した軌跡に対応した画像を回転走査画像(又は第2の画像)と言う。上記入力装置36は、第2の画像を生成するタイミングを設定する設定部を形成する。
本実施形態においては、切替スイッチ32c、32dを連動して切り替えることにより、通常走査画像と、回転走査画像とを生成し、両画像を比較することにより、正常な走査画像であるか、圧電素子17a〜17dが異常状態になった異常画像であるか否かを識別し易い判定用画像を生成するようにしている。なお、図3B及び図3Cに示す渦巻き形状の走査は、実際にはより円形に近い形状での走査となり、同じ被写体を走査した場合に取得される2つの画像は、実質的に同じ画像となる。これに対して、後述するように圧電素子17a〜17dの少なくとも1つの走査特性が異常な状態になると、2つの画像は異常な状態を反映した位置ずれした画像となる。
検出器33b、33c及び33dは、フォトダイオード等の光検出器により構成され、分波器33aから出力されるR光の強度、G光の強度、及びB光の強度をそれぞれ検出し、当該検出したR光、G光及びB光の強度にそれぞれ応じたアナログのR,G,B検出信号を生成し、A/D変換器33e、33f、及び33gへ出力する。
A/D変換器33e、33f、及び33gは、検出器33b、33c及び33dからそれぞれ出力されたアナログのR、G及びB検出信号を、それぞれデジタルのR、G及びB検出信号データに変換してコントローラ34内の画像処理回路41へ出力する。画像処理回路41は、図4に示すように構成されている。
通常モードに設定されている場合には、検出ユニット33から出力される検出信号データは、画像処理回路41内の第1メモリ回路42の一方のメモリ42aに1フレーム分の検出信号データが順次格納される。第1メモリ42aに格納された1フレーム分の検出信号データは、第1のマッピング部を形成するXYマッピング回路43により、照射位置に対応付けられた位置の画素データに変換され、メモリ回路44の一方のメモリ44aに格納される。
XYマッピング回路43は、予め各検出信号(データ)に各照射位置を対応付けたルックアップテーブル等から構成されるXYマッピングメモリ43aを内蔵している。そして、例えば走査開始位置からj番目に検出された検出信号データは、j番目に対応する照射位置のXY座標がXYマッピングメモリ43aから読み出され、メモリ回路44の一方のメモリ44aに、特定されたXY座標の画素データとして格納される。
このようにして、渦巻き状の走査に対応したXY座標の画素データがメモリ44aに格納される。
一方、切替スイッチ32c,32dが判定モードに切り替えられると、駆動線18a,18bに出力される駆動信号が切り替えられる。図4において判定モードの処理を点線で示す。
この場合には、検出ユニット33から出力される検出信号データは、画像処理回路41内の第1メモリ回路42の他方のメモリ42bに1フレーム分の検出信号データが順次格納される。他方のメモリ42bに格納された1フレーム分の検出信号データは、XYマッピング回路43により、照射位置に対応付けられた位置の画素データに変換され、メモリ回路44の他方のメモリ44bに格納される。
通常走査の場合の渦巻き状軌跡に沿ったj番目の照射位置に対応するXY座標を示すマッピング位置(の情報)を(X,Y)とした場合、XYマッピング回路43は、回転走査の場合の渦巻き状軌跡に沿ったj番目の照射位置に対応するXY座標を示すマッピング位置を(Y,―X)として、通常走査の場合のマッピング情報を利用する。
また、メモリ回路46のメモリ46a,46bの画像は、両画像における比較し易い代表位置となる特徴部を抽出する特徴部抽出回路47に入力され、特徴部抽出回路47は、一方の画像における特徴部と、該一方の画像における特徴部に対応する他方の画像における特徴部を抽出する。特徴部抽出回路47は、特徴部として例えば周囲よりも輝度、画素値等が異なる部位等を抽出する。
特徴部抽出回路47により抽出された対応する両特徴部は、位置ずれ算出回路48に入力され、位置ずれ算出回路48は、対応する両特徴部間の位置ずれ量を算出する。
位置ずれ算出回路48により算出された位置ずれ量は、判定回路49に入力され、判定回路49は、位置ずれを閾値回路(図4では単に閾値と略記)49aが出力する閾値と比較し、閾値以上の位置ずれ量が存在する場合には、圧電素子17a〜17dにおける少なくとも1つが異常である(つまりアクチュエータ17が異常である)と判定し、判定結果の情報を画像生成回路50に出力する。なお、閾値回路49aは、圧電素子17a〜17dの走査特性におけるばらつきを考慮して、走査特性のばらつきによる位置ずれ量の上限値よりも大きな値の閾値を出力する。
本実施形態の画像処理装置3は、被検体5内を第1及び第2の光走査素子を形成する圧電素子17a,17b及び17c,17dにより、照明光を2次元的に走査する光走査部を形成するアクチュエータ17を備えた内視鏡を形成する走査型内視鏡2により取得された戻り光信号に対して、予め登録された前記光走査部の走査位置に対応する2次元位置情報を用いて、表示装置を形成するモニタ4に表示するための第1の画像を生成するためのマッピングを行う第1のマッピング部を形成するXYマッピング回路43と、前記第1及び第2の光走査素子の走査方向を置換した場合の戻り光信号に対して、予め登録された前記光走査部の走査位置に対応する2次元位置情報を用いて、前記表示装置に表示するための前記第1の画像に対応する第2の画像を生成するためのマッピングを行う第2のマッピング部を形成するXYマッピング回路43と、前記第1の画像における代表位置と前記第2の画像における前記代表位置に対応する対応位置間における位置ずれ量が閾値以上に逸脱したか否かを判定する判定部を形成する判定回路49と、前記表示装置に表示される前記被検体5の画像としての前記第1の画像と共に、前記判定部による判定結果に応じた判定用画像を生成する画像生成部を形成する画像生成回路50と、を有することを特徴とする。
走査型内視鏡2が画像処理装置3に接続され、画像処理装置3の電源が投入されると、画像処理装置3を含む走査型内視鏡装置1が動作状態になる。
最初のステップS1において術者は、通常モードの他に判定モードを行う場合には、判定モードを行うタイミングのモード設定等を含む初期設定を入力装置36等から行う。
次のステップS2においてコントローラ34は、まず、通常モードで通常走査画像を生成するように制御する。この場合、コントローラ34は、切替スイッチ32c,32dの接点aが選択された状態において図3Aに示す2つの駆動信号を圧電素子17a,17bと17c,17dに印加するように制御する。そして、ステップS3に示すようにコントローラ34の画像処理回路41は、この状態において検出ユニット33により検出した信号に対して、画像処理回路41は、図4における実線で示す処理を行い、スキャン変換回路45を経て通常走査画像(信号)を生成し、モニタ4に出力する。
次のステップS5においてコントローラ34は、判定モードを行うタイミングか否かを判定する。コントローラ34は、判定モードを行うタイミングでない場合、又は入力装置36から判定モードを行う指示入力がない場合には、ステップS2の処理に戻る。この場合には、モニタ4は、通常走査画像の動画を表示する。
一方、判定モードを行うタイミングである場合、又は入力装置36から判定モードを行う指示入力がある場合には、ステップS6においてコントローラ34は、判定モードの処理を行う。この場合、コントローラ34は、切替スイッチ32c,32dの接点aから接点bが選択された状態に切替え、駆動信号の切替を行う。
駆動信号を切り替えた状態においての判定モードの処理は、図4における点線で示す処理となる。この場合には、メモリ回路46のメモリ46bには、回転走査した場合の回転走査画像が格納される。
次のステップS9において位置ずれ算出回路48は、対応する特徴部間の位置ずれ量を算出する。
また、次のステップS10において判定回路49は、対応する特徴部間の位置ずれ量が閾値回路49aの閾値以上であるか否かを判定する。
光走査部を形成するアクチュエータ17における4つの圧電素子17a〜17dが正常である場合には、2つの駆動信号(換言するとY走査用駆動信号とX走査用駆動信号)を入れ替えても被検体5を渦巻き状に走査した場合の2つの画像は殆ど変化しない。4つの圧電素子17a〜17dは、特性が完全には一致していないので、2つの画像は、完全には一致しないが、上記閾値より小さい範囲内での位置ずれ量となる。
例えば、圧電素子17aの走査特性が許容される範囲以上に小さい走査特性となるように変化した異常事態が発生したとする。この場合には、2つの圧電素子17a,17bによりY軸方向に走査する走査範囲が(圧電素子17aの走査特性が小さくなる原因のために)小さくなる。
このため、正常な状態においては図3Bに示した走査軌跡は、図6Aに示すように変化する。また、駆動信号を切り替えた場合、正常な状態においては図3Cに示した走査軌跡は、図6Bに示すように変化する。
つまり、正常な状態においては、被検体5に対して、図3Bに示すような軌跡により取得した画像と、図3Cに示すような軌跡により取得した画像とは殆ど一致する。
より具体的な説明を図6Cを参照して説明する。
図6Cは、正常な状態において、走査開始位置Paを中心位置O′に設定された円形となる特定の被写体の例を示す。この特定の被写体においては、円形輪郭部Cを有し、中心位置O′から一定の距離(例えばd)となるX軸上の位置をP1、Y軸上の位置をP2とする。
この被写体を図6Aの走査軌跡により画像として取得すると、取得される画像上ではY軸上の位置P2が中心位置O′から一定の距離dとなる位置よりも外側の位置P2aのようになる。なお、X軸上の位置P1に対しては、正常な状態の場合と同じとなる。そして、(圧電素子17aの異常のために)正常な状態において取得される円形輪郭部Cは、点線で示すようにY軸方向に延びた楕円輪郭部Caのように変形してしまう。
このため、同じ被検体5から時間的に接近した状態で、通常モードと判定モードによりそれぞれ画像を取得し、両画像における対応する位置間を比較し、その位置ずれ量からアクチュエータ17が正常な状態か異常状態かを判定することが可能になる。対応する位置間を比較する場合、上述したように画像における周囲と異なる輝度値、又は画素値を有する、特徴部を(抽出又は特定し易い代表位置として)抽出し、特徴部間で位置ずれ量を算出するようにしても良い。
なお、位置ずれ量を算出する場合、図6CにおけるX軸上、Y軸上においてそれぞれ対応する位置間のずれ量(具体的にはP1,P1b間の位置ずれ量、P2,P2a間の位置ずれ量)を算出することができると、異常判定を行い易い。
判定回路49による判定結果は画像生成回路50に送られ、画像生成回路50は、位置ずれ量が閾値以上と判定された判定結果の場合には、ステップS11において通常走査画像に重畳する判定用画像を生成し、モニタ4に出力する。モニタ4は、通常走査画像と共に、判定用画像を表示する。画像生成回路50の判定用画像生成回路50aは、例えば図6Cにおける楕円輪郭部CaのようなY軸方向が長軸となる扁平した画像を判定用画像として生成する。この場合、閾値以上のずれがある場合には、判定用画像生成回路50aは、位置ずれ量の大きさが大きい程、扁平度が大きくなる楕円形状の判定用画像を生成する。
なお、両画像における位置ずれ量が算出される特徴部又は代表位置としては、渦巻き状走査における外周側に近い位置の方が、中心側に近い位置よりも望ましい。つまり、走査特性が異常であるか否かを判定する場合、中心側における特徴部間の位置ずれ量を算出するよりは、中心から離間した外周側又は周辺側に近い領域において、特徴部間の位置ずれ量を算出する方が、異常であるか否かを判定し易い。また、X軸上及びY軸上に近い位置において、特徴部(又は代表位置)を抽出し、それらの間の位置ずれ量から異常であるか否かを判定するようにして良い。
また、中心位置O′又は通常走査画像の中心位置を2次元座標の原点(0,0)として、原点(0,0)から特徴部の2次元位置(X1,Y1)までの距離(X12+Y12)1/2の値に応じて、異常を判定する場合に用いる閾値の値を可変設定しても良い。具体的には、原点(0,0)からの距離が大きい特徴部の2次元位置程、異常を判定する場合の閾値の値を大きくする。
また、図6Cから分かるように異常状態においては、位置ずれ量は、方向依存性を有し、X,Y軸上において最も顕著に表れ、X,Y軸から45度、135度となる斜め方向においてほぼ最小となる。このため、原点(0,0)から特徴部に至る線分がX軸となす角度(θ1とする)とY軸となす角度(θ2とする)との2つの角度θ1,θ2における小さい方の角度(θとする)が、小さい程、大きな閾値を用いて異常の有無を判定するようにしても良い。
また、この場合、角度θ1又はθ2が45度に近い値になると小さな閾値に設定することが必要となり、小さな値の誤差が存在すると異常の有無の判定結果に影響する。このため、原点(0,0)から特徴部に至る線分がX軸となす角度θ1と、Y軸となす角度θ2とが45度に近い角度の範囲(例えば40度〜45度又は35度〜45度)を異常の有無を判定する角度領域に利用しないようにしても良い。換言すると、X軸を中心角とした±α(例えば−35<α<35)の角度範囲、Y軸を中心角とした±αの角度範囲を異常の有無を判定する角度領域に設定するようにしても良い。
なお、判定用画像を生成するためには、各画像における特徴部(又は代表位置)の数を、2点以上の複数とすることが望ましい。また、上記極性の算出情報を利用しても良い。
例えば図6Dにおいて実線で示す画像が通常走査画像であるとすると、異常状態と判定された場合には、点線で示す判定用画像が通常走査画像上に重畳して表示される。
術者は、図6Dに示す判定用画像により、X軸方向とY軸方向とで走査特性が異なることを容易に認識することができる。図6Dの場合には、通常走査画像がX軸方向に比較して、Y軸方向に伸張された特性の画像であることを認識することができる。また、術者は、判定用画像における扁平度により、異常状態における異常の程度を把握し易い。ステップS12の次のステップS13においてコントローラ34は、術者により内視鏡検査の(走査)終了指示の入力が入力装置36から行われたか否かを判定する。コントローラ34は、内視鏡検査の走査終了指示が無い場合には、ステップS2の処理を行うように制御する。一方、内視鏡検査の終了指示がされた場合には、コントローラ34は図5の処理を終了する。
なお、図5における判定モードを行うタイミングとして、例えば通常モードを行う状態において、図7Aに示すように(所定のタイミングとして)周期的に行うようにしても良い。図7Aに示す例では通常モードで例えば1〜10分程度の期間T1、通常走査画像を生成して表示し、1〜数フレームの期間T2、判定モードで動作し(図7Aでは判と略記)、異常状態で無い判定結果の場合には、通常モードに戻る。判定モードで動作し、判定回路49が異常状態と判定した場合(図7Aでは時間tc)には、上述したようにモニタ4は通常走査画像と共に判定用画像を重畳した状態の表示となる(図7Aでは重畳画像表示で示している)。なお、図7Aにおいて、期間T2においては、モニタ4がこの期間T2直前においてメモリ46aに格納された通常走査画像を表示する(ようにコントローラ34が制御する)。
図5においては、異常状態と判定した場合、ステップS11において通常走査画像と共に判定用画像を表示すると説明しているが、この状態の場合には、短い周期で通常モードと判定モードを間欠的に行うようにコントローラ34が制御するようにしても良い。
このため、異常状態と判定した場合においても、通常走査画像を間欠的に取得し、間欠的に取得した通常走査画像をモニタ4に表示することにより、近似的に動画に近い画像を表示できるようにしても良い。図7Bは、図7Aにおいて異常状態と判定した場合、通常モード(通と略記)と判定モード(判と略記)とを、それぞれ短い期間T3(例えば数秒程度)で間欠的に交互に行う様子を示す。
このようにすると、異常状態においても、走査型内視鏡2を被検体5内から抜去する際に、画像無し(又は静止画)の場合よりは抜去し易い画像を表示できる。
また、本実施形態によれば、異常状態が発生した場合には、判定用画像により、その異常の程度を把握することができる。
上述した画像処理回路41に設けたXYマッピング回路43の代わりに、被検体5内を観察する走査型内視鏡2により得られた戻り光信号を、画像を表示するための表示部としてのモニタ4における走査型記内視鏡2における観察範囲に対応する大きさの領域にマッピングをするマッピング部43′を設けるようにしても良い。
このマッピング部43′を備えた変形例の画像生成装置68を、画像処理装置61と共に図8Aに示す。
なお、図8Aにおいては、マッピング部43′を備えた画像生成装置68と、画像処理装置61とが別体で構成されているが、図8Bに示すようにマッピング部43′を備えた画像生成装置68の機能と、図8Aに示す画像処理装置61との機能を纏めた画像処理装置61Bのような構成にしても良い。図8Aに示す画像処理装置61には、マッピング部43′を備えた画像生成装置68により生成された画像信号を入力することができると共に、マッピング部43′を備えない画像生成装置68(一般の画像生成装置とも言う)により生成された画像信号を入力するもできる。このため、以下の説明においては、一般の画像生成装置により生成された画像信号が入力される場合の説明も行っている。
これに対して、画像処理装置61Bは、マッピング部43′を備えた画像生成装置68により生成された画像信号に対する画像処理を行う。画像処理装置61Bは、走査型内視鏡2の(観察範囲に相当する)視野が縮小された場合に、前記視野の縮小に伴って表示部における前記マッピング部43′によるマッピングが行われなくなる領域に前記被検体5(の画像)とは異なる表示をする画像(又は警告用画像)を生成する画像生成部の機能を持つ。
第1マスク生成回路63は、画像入力部62から入力される画像信号に対して、該画像信号の画像の2次元領域の表示サイズ(大きさ)を規制するための第1マスクを生成する。より具体的には、第1マスク生成回路63は、画像入力部62から入力される画像信号を表示装置としてのモニタ4に表示した場合、正常な状態での画像の表示領域のサイズの下限値以下の画像信号のみを通すように規制する第1マスクを生成する。
第2マスク生成回路63は、第1マスクの内側に警告用マスクとしての第2マスクを生成する。
画像処理装置61内に設けられたマスク生成回路65は、マッピング部43′を備えた画像生成装置68が接続された場合には、走査型内視鏡2の(走査範囲に相当する)視野が縮小された場合に、前記視野の縮小に伴って表示部としてのモニタ4におけるマッピング部43′によるマッピングが行われなくなる領域に前記被検体5(の画像)とは異なる表示をする画像(又は警告用画像)を生成する画像生成部の機能を持つ。
上記画像処理装置61は、マスク生成回路65が生成する第1マスクと第2マスクとの大きさ、形状、色などを可変設定する設定部67を有する。
一方、図8Bに示す画像処理装置61Bにおいては、図8Aに示す画像処理装置61における着脱自在となる画像(信号)入力部62を有しないで、マッピング部43′を備えた画像生成装置68の出力信号がマスク生成回路65の第1マスク生成回路63に入力される構成となっており、設定部67等を有する。
また、図8Bに示す画像処理装置61Bの場合には、図1における画像処理装置3におけるXYマッピング回路43をマッピング部43′に置換した画像処理装置3の機能を備える。また、画像生成装置68として、図1の画像処理装置3の場合と同様に、光源ユニット31、駆動ユニット32、検出ユニット33、コントローラ34、メモリ35等と共に、走査型内視鏡2を着脱自在に接続することができるコネクタ8を備えた構成にしても良い。なお、コントローラ34は、マッピング部43′を備える。
なお、マッピング部43′は、画像生成装置68に接続される走査型内視鏡2に搭載された光ファイバ15の先端部及びアクチュエータ17を含む走査部に対して駆動ユニット32から出力される駆動信号の印加に対する電気的特性等に基づいて、照明光の照射位置からの戻り光信号に対して、前記照射位置に対応する2次元位置となる画像信号に変換する。
例えば、工場出荷時等において、画像生成装置68に接続される走査型内視鏡2に搭載されたアクチュエータ17に対して、駆動ユニット32から所定の周波数においての螺旋状に走査させるための駆動信号を、(該駆動信号の)電圧、電流の条件を変えて印加した場合における光ファイバ15の先端部の2次元位置、又は走査型内視鏡2の先端から所定の距離に設定されたスクリーン面上での照明光の2次元照射位置の情報と、駆動線18a,18bの基端付近にそれぞれ介挿した、一定の抵抗値を有する抵抗に流れる電流値と、抵抗両端の電圧値との関係を詳しく調べる。
このようにして、基準となる第1の走査範囲となる第1の螺旋状走査範囲と、第1の走査範囲より狭い走査範囲となる第2の螺旋状走査範囲、第1の走査範囲より広い走査範囲となる第3の螺旋状走査範囲等、走査範囲の大きさ(サイズ)が異なる各走査軌跡と、該各走査軌跡の場合における電気的特性の情報とを互いに関係付けた情報として取得する。
コントローラ34は、メモリ25に格納された関係情報を参照して駆動ユニット32から出力する駆動信号を、例えば第1の螺旋状走査範囲に対応する駆動信号として出力し、かつその際、抵抗の測定電流、測定電圧を測定し、測定された測定電流、測定電圧と、関係情報における測定電流、測定電圧との差分をそれぞれ算出する。
差分の絶対値が閾値以下の場合には、マッピング部43′は、メモリ25に格納された(第1の螺旋状走査範囲に対応する)関係情報を用いてマッピングを行い、差分の絶対値が閾値を超える場合には、差分の符号を含めて第1の螺旋状走査範囲より狭い又は広い螺旋状走査範囲の場合の関係情報等を用いてマッピングを行う。
従って、マッピング部43′を経てマスク回路65に入力される画像信号は、走査型記内視鏡2における観察範囲(又は走査範囲)に対応する大きさの領域の画像信号となる。
図8A又は図8Bの設定部67は、画像生成装置68が生成する画像信号の画像の表示サイズに対応した第1マスクの大きさ、形状を設定する設定信号をマスク生成回路65の第1マスク生成回路63に出力する。設定信号は、ユーザがキーボード等から第2マスクの大きさの縦横のサイズ、形状をそれぞれ設定するデータであっても良いし、予め登録された複数のサイズ、形状から、画像入力部62に入力される画像に対応した第1マスクの大きさを選択的に指定する選択信号であっても良い。
また、第2マスク生成回路64は、第1マスク生成回路63を経て入力される色信号R,G,Bの画像を、分割された複数の分割領域におけるいずれの分割領域に属するかを判定する領域判定回路73a,73b,73cと、判定された分割領域毎にその分割領域においての画像信号の有無(0レベル以上であるか否か)を検出する信号(有無)検出回路74と、信号検出回路74の検出結果に対応して警告用マスクとしての第2マスクを出力するための第2マスクの画像信号としての第2マスク信号を生成する第2マスク信号生成回路75と、信号検出回路74の検出結果に応じて、(画像信号を形成する)色信号R,G,Bと第2マスク信号とを切り替えて出力する切替回路76a〜76cを備える。第2マスク信号生成回路75は、設定部67からの設定信号により、第2マスク信号を生成する。なお、領域判定回路73a,73b,73cの機能を信号検出回路74が兼ねるようにしても良い。
また、第2マスク信号生成回路75は、信号検出部が少なくとも最も周辺側の分割領域において、画像信号を検出しない場合には、最も周辺側の分割領域において、正常な状態よりも縮小した異常画像であることを示す警告用画像として表示するための第2マスクを生成する第2マスク生成部を形成する。
図10Aは、マスク生成回路63(の第1マスク信号生成回路72)が生成する第1マスクとして例えば円形マスクM1を示す。なお、図10Aの円形マスクM1における斜線で示す部分は、入力される画像信号をマスクする部分を示し、斜線の内側の円形部分が入力される画像信号を通す部分を示す。
図10Aに示す円形マスクM1の直径は、画像生成装置68が生成する画像の表示サイズにおける下限値に設定されている。
即ち、画像生成装置68が生成する画像の表示サイズは、画像生成装置68毎に許容される範囲内で若干の個体差があるために、許容される範囲として上限値と下限値が存在する。そして、上記のように円形マスクM1の直径は、下限値に設定される。
この場合、図9の第1マスク信号生成回路72は、図10Aにおける円形マスクM1の内側ではゲートを開にする“H”の信号をゲート回路71a〜71cに出力し、円形マスクM1の外側(図10Aの斜線部分)においてはゲートを閉にする斜線“L”の信号をゲート回路71a〜71cに出力する。
また、領域判定回路73a〜73cは、第1マスクの形状に対応して、図9において模式的に示すように第1マスク生成回路63から入力される色信号R,G,Bが同心となる複数の円環(円リング)c1,c2,c3の各領域におけるいずれの領域に属するかを判定する。なお、図9においては、領域判定回路73aにおいてのみ、円環c1,c2,c3を示している。領域判定回路73b、73cでは円環c1,c2,c3の符号を省略している。
そして、信号検出回路74は、第1マスク生成回路63から入力される色信号R,G,Bが、領域判定回路73a〜73cにより判定された円環cI(I=1,2,3)の各領域において、色信号R,G,Bの有無を0レベルより僅かに大きい閾値と比較して、信号の有無を判定(又は検出)する。
第2マスク信号生成回路75は、例えば信号検出回路74が検出する複数の円環cIと同じ形状及びサイズの第2マスク信号を生成する。後述するように円環cIに対応する(円環cIと)異なる形状等の第2マスク信号を生成するようにしても良い。
なお、第2マスク信号生成回路75は、例えば第2マスク信号生成回路75の内部にメモリを有し、このメモリ内に複数の円環dIからなる第2マスクM2の形状の情報を格納し、信号検出回路74の判定結果に応じて、対応する円環dIの形状情報を読出し、第2マスク信号として切替回路76a〜76cの接点bにそれぞれ出力するようにしても良い。また、以下の説明においては、円形マスクM1に対応した円環形状等の第2マスクの場合を説明するが、第1マスクを例えば矩形又は長方形にした場合には、矩形又は長方形リング形状の第2マスクを生成するようにしても良い。
また、信号検出回路74は、複数の円環cIにおける最も外側の円環(第1円環と略記)c1の領域から優先して、該領域に色信号R,G,Bにおけるいずれの信号も存在しないか否かを判定する。
図9においては、例えば第1円環c1の領域において色信号R,G,Bにおけるいずれの信号も存在しないと判定した場合として、信号検出回路74は、切替回路76aを接点bがONするように切替え(切替回路76b,76cに対しては接点aがONのままの切替状態を維持)、第1円環c1と同じ形状の第2マスクの第2マスク信号を出力する例を示している。この場合には、赤色の第2マスク信号が警告用の画像信号としてモニタ4に出力される。
また、第1円環c1の領域において、色信号R,G,B全てにおいていずれも存在しないと判定された場合には、信号検出回路74は、第2円環c2の領域においても同様の判定を行い、同様の処理(但し、第2円環c2の領域において)を行う。また、第2円環c2の領域においても色信号R,G,B全てにおいていずれも存在しないと判定された場合には、信号検出回路74は、第3円環(実際には円)c3の領域においても同様の判定を行う。
このような構成であるため、第1円環c1に色信号R,G,Bが一部でも存在する場合には、画像処理装置61に入力された画像信号を形成する色信号は、第1マスクM1の円形領域以内の画像の画像信号がモニタ4に出力され、第1マスクM1の円形領域以内の画像が表示される。
これに対して、例えば、マッピング部43′において光ファイバ15の先端の走査軌跡の大きさに応じてマッピングサイズを変化させることで、走査型内視鏡2の観察範囲に対応する大きさの領域にマッピングされた画像信号が画像処理装置61又は61B内のマスク回路65に入力される場合を想定する。この場合、マスク回路65に入力された画像信号における画像が正常な表示サイズから(走査範囲又は観察範囲の縮小のために)縮小された表示サイズの画像の画像信号として入力されると、例えば第1円環c1の領域において、第1円環c1の領域に全く画像信号が存在しないために、この第1円環c1の領域より小さい範囲が表示サイズとなる縮小された画像であることが判定(検出)される。そして、縮小された画像の外側に、警告用画像となる第1円環d1のサイズの第2マスクが、例えば図10Cに示すように表示される。
なお、図10Cは、第1円環c1の領域のみにおいて、いずれの色信号R,G,Bも存在しないと判定された場合を示し、第2円環c2の領域においても、いずれの色信号R,G,Bも存在しないと判定された場合には、第2円環c2の領域においても(円環d2の)第2マスクM2が表示されることになる。
術者等のユーザは、図10Cの画像を観察することにより、警告用画像となる円環d1が表示されることから、画像処理装置61に入力される画像が縮小された異常なサイズの画像であることを容易に知ることができる。
このように第1の実施形態の変形例によれば、内視鏡検査を行っている最中においても、取得された画像が異常か否かを把握できる画像を表示し、ユーザは異常を認識し易い。
なお、上述した説明においては、領域判定回路73a,73b,73cの円環cIと第2マスク信号生成回路75が生成する第2マスクM2を形成する円環dIとを等しいサイズ及び形状に設定した場合において説明したが、異なるように設定しても良い。
例えば、図11Aに示すように円環c1、c2,c3の各領域において、いずれの色信号も検出されない場合には、同心状の円d1,d2,d3のようなパターンを第2マスクM2とする第2マスク信号として出力するように設定部67において設定しても良い。
また、画像の中心からの距離に応じて異なる表示を行うものであればよく、図11Bに示すように円d1,d2,d3の太さを、外側から内側に行くほど、太くなるように設定しても良い。
また、図11A,11Bに示す例の他に、図11Cに示すように外側から内側に行くほどにカラーの濃度が徐々に高くなるような円環d1,d2,d3の第2マスク信号を生成するようにしても良い。
また、図示した例では、第1マスクとして円形マスクM1と、この円形マスクM1に対応した第2マスクM2として円環、又は円形状の場合を説明したが、前述のように第1マスクとして矩形又は長方形のマスクを設定しても良いし、この矩形又は長方形のマスクに対応した第2マスクを設定しても良い。図8Aから図11Cにおいて説明した画像処理装置は付記に記載の内容を含む。
[付記]
画像入力部から入力される画像信号を表示装置に表示した場合、正常な状態での画像の表示領域のサイズの下限値以下の画像信号のみを通すように規制する第1マスクを生成する第1マスク生成部と、
前記表示領域のサイズの下限値を通過した前記画像信号に対して、前記第1マスクの周辺側の領域から中心側の領域を複数に分割した複数の各分割領域において、閾値を用いて画像信号の有無を、最も周辺側となる分割領域を優先して検出する信号検出部と、
前記信号検出部が少なくとも前記最も周辺側の分割領域において、前記画像信号を検出しない場合には、前記最も周辺側の分割領域において、正常な状態よりも縮小した異常画像であることを示す警告用画像として表示するための第2マスクを生成する第2マスク生成部と、を有することを特徴とする画像処理装置。
Claims (5)
- 被検体内を観察する内視鏡により得られた戻り光信号を、画像を表示するための表示部における前記内視鏡における観察範囲に対応する大きさの領域にマッピングをするマッピング部と、
前記内視鏡の視野が縮小された場合に、前記視野の縮小に伴って前記表示部における前記マッピングが行われなくなる領域に前記被検体とは異なる表示をする画像を生成する画像生成部と
を有することを特徴とする画像処理装置。 - 前記マッピング部において、前記戻り光信号は、前記被検体上に照明光を走査する走査型内視鏡により得られる撮像信号となり、前記観察範囲として前記照明光の走査範囲に対応する大きさの領域にマッピングされ、
前記画像生成部は、前記走査型内視鏡による前記照明光の走査範囲が縮小された場合に、前記走査範囲の縮小に伴って前記表示部における前記マッピングが行われなくなる領域に前記被検体とは異なる表示をする画像を生成することを特徴とする請求項1に記載の画像処理装置。 - 前記画像生成部は、前記マッピングが行われなくなる領域に、前記画像の中心からの距離によって異なる表示を行う画像を生成することを特徴とする請求項1に記載の画像処理装置。
- 前記マッピング部において、前記撮像信号は、前記被写体においてらせん状に前記照明光を走査する前記走査型内視鏡により得られ、
前記画像生成部は、前記マッピングが行われなくなる領域の外側から中心に向かって徐々に強調される画像であることを特徴とする請求項2に記載の画像処理装置。 - 前記画像生成部は、さらに前記らせん状の走査範囲に対応した大きさの円形のマスク処理を施し、前記マスクの円形の領域内に前記被検体とは異なる表示をする画像を生成することを特徴とする請求項4に記載の画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015114142A JP2017000193A (ja) | 2015-06-04 | 2015-06-04 | 画像処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015114142A JP2017000193A (ja) | 2015-06-04 | 2015-06-04 | 画像処理装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017000193A true JP2017000193A (ja) | 2017-01-05 |
Family
ID=57753007
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015114142A Pending JP2017000193A (ja) | 2015-06-04 | 2015-06-04 | 画像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2017000193A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3114982A4 (en) * | 2014-11-10 | 2018-01-03 | Olympus Corporation | Optical scanning observation system |
WO2019039353A1 (ja) * | 2017-08-22 | 2019-02-28 | 富士フイルム株式会社 | 光源装置、内視鏡システム、及び光源装置の作動方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005073708A (ja) * | 2003-08-29 | 2005-03-24 | Pentax Corp | 電子内視鏡 |
JP2007044221A (ja) * | 2005-08-10 | 2007-02-22 | Optiscan Pty Ltd | 走査型共焦点内視鏡システムおよび該システムの画像表示範囲調整方法 |
JP2011152301A (ja) * | 2010-01-28 | 2011-08-11 | Hoya Corp | 電子内視鏡システム |
JP2013244045A (ja) * | 2012-05-23 | 2013-12-09 | Olympus Corp | 走査型内視鏡装置 |
-
2015
- 2015-06-04 JP JP2015114142A patent/JP2017000193A/ja active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005073708A (ja) * | 2003-08-29 | 2005-03-24 | Pentax Corp | 電子内視鏡 |
JP2007044221A (ja) * | 2005-08-10 | 2007-02-22 | Optiscan Pty Ltd | 走査型共焦点内視鏡システムおよび該システムの画像表示範囲調整方法 |
JP2011152301A (ja) * | 2010-01-28 | 2011-08-11 | Hoya Corp | 電子内視鏡システム |
JP2013244045A (ja) * | 2012-05-23 | 2013-12-09 | Olympus Corp | 走査型内視鏡装置 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3114982A4 (en) * | 2014-11-10 | 2018-01-03 | Olympus Corporation | Optical scanning observation system |
US9962065B2 (en) | 2014-11-10 | 2018-05-08 | Olympus Corporation | Optical scanning observation system with drive voltage correction |
WO2019039353A1 (ja) * | 2017-08-22 | 2019-02-28 | 富士フイルム株式会社 | 光源装置、内視鏡システム、及び光源装置の作動方法 |
US11304600B2 (en) | 2017-08-22 | 2022-04-19 | Fujifilm Corporation | Light source device, endoscope system, and method of operating light source device |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5608718B2 (ja) | 走査ビーム装置の較正 | |
WO2013175861A1 (ja) | 走査型内視鏡用キャリブレーション器具 | |
EP2742848A1 (en) | Endoscope and endoscope device | |
JP2008514342A (ja) | イメージの歪みを減らす再マッピング法 | |
JP2011045461A (ja) | 光走査型内視鏡プロセッサ | |
JP2008514344A (ja) | スキャニング・ビーム・デバイス用の構成メモリ | |
JP2017000193A (ja) | 画像処理装置 | |
US20220095895A1 (en) | Light source device | |
JP2011055939A (ja) | 内視鏡装置 | |
JP2011055938A (ja) | 内視鏡装置 | |
JP5865562B1 (ja) | 走査型内視鏡用画像処理装置 | |
JP5981071B1 (ja) | 走査型内視鏡装置 | |
JP2017086549A (ja) | 走査型内視鏡装置 | |
JP6188669B2 (ja) | 走査型内視鏡装置 | |
US9962065B2 (en) | Optical scanning observation system with drive voltage correction | |
JP6143953B2 (ja) | 走査型内視鏡システム | |
JP6381123B2 (ja) | 光走査型観察システム | |
WO2016075997A1 (ja) | 走査型内視鏡 | |
WO2017130452A1 (ja) | 走査型内視鏡用プロセッサ | |
WO2016017199A1 (ja) | 光走査型観察システム | |
US20240164706A1 (en) | In-vivo observation system, observation system, in-vivo observation method, and in-vivo observation device | |
JP6072397B1 (ja) | 走査型内視鏡装置 | |
JP6731426B2 (ja) | 走査型内視鏡システム | |
JP6640231B2 (ja) | 光走査型観察システム | |
WO2015186385A1 (ja) | 挿入補助具及び光走査型観察システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180125 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20181031 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20181120 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190118 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20190118 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190402 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20191029 |