JP6419018B2 - 内視鏡診断装置、内視鏡診断装置の作動方法、プログラムおよび記録媒体 - Google Patents

内視鏡診断装置、内視鏡診断装置の作動方法、プログラムおよび記録媒体 Download PDF

Info

Publication number
JP6419018B2
JP6419018B2 JP2015088567A JP2015088567A JP6419018B2 JP 6419018 B2 JP6419018 B2 JP 6419018B2 JP 2015088567 A JP2015088567 A JP 2015088567A JP 2015088567 A JP2015088567 A JP 2015088567A JP 6419018 B2 JP6419018 B2 JP 6419018B2
Authority
JP
Japan
Prior art keywords
frame
heat generation
image sensor
endoscope
generation mode
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015088567A
Other languages
English (en)
Other versions
JP2016202627A (ja
Inventor
小柴 賢明
賢明 小柴
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2015088567A priority Critical patent/JP6419018B2/ja
Publication of JP2016202627A publication Critical patent/JP2016202627A/ja
Application granted granted Critical
Publication of JP6419018B2 publication Critical patent/JP6419018B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Endoscopes (AREA)

Description

本発明は、内視鏡スコープの先端部に配置された撮像素子の受光面を保護する透光性保護基板の曇りを除去する機能を備える内視鏡診断装置、内視鏡診断装置の作動方法、プログラムおよび記録媒体に関するものである。
被検体内を観察するために、内視鏡診断装置が用いられている。被検体内の観察を行う場合、内視鏡スコープが被検体の体腔内に挿入されて、その先端部から、例えば、白色光が被観察領域に照射され、その反射光をCCD(Charge Coupled Device:電荷結合素子)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor:相補型金属酸化膜半導体)イメージセンサ等の撮像素子で受光して内視鏡画像が撮像される。撮像された内視鏡画像は表示部に表示され、内視鏡診断装置の操作者により、内視鏡画像の観察が行われる。
撮像素子は、内視鏡スコープの先端部に配置され、その受光面には、受光面を保護するためのカバーガラス(透光性保護基板)が配置されている。内視鏡スコープが被検体内に挿入されると、被検体内とカバーガラスとの温度差により、カバーガラスの受光面側に曇りが発生することが知られている。また、内視鏡診断装置が起動された直後は、撮像素子が急速に暖まるのに対して、カバーガラスはすぐに暖まらないため、両者の温度差によりカバーガラスに曇りが発生しやすい。
これに対し、特許文献1には、電源立上げから所定時間の間、基準電圧よりも低い抑制電圧をCCDに与えてその発熱を抑制し、その後に基準電圧をCCDに供給することにより、電源立上げ時にCCDとカバーガラスとの温度差を小さくして結露等を防止することが記載されている。また、同文献には、カバーガラスの近傍に周辺回路を配置したり、ヒータで熱を与えて温度差を低減したりすることが記載されている。
また、特許文献2には、内視鏡挿入部の先端部の内部にヒータを配置し、温度センサにより先端部の内部の熱量情報を計測して、熱量情報を基に、制御ユニットによりヒータの駆動を制御することが記載されている。
また、特許文献3には、内視鏡観察時に、曇り検出手段によって画像処理を用いて内視鏡の挿入部先端のカバーガラスに発生した曇りを検出し、その検出結果に応じて内視鏡の曇り除去制御手段によって気腹装置を制御し、腹腔内の二酸化炭素ガスなどの気体を入れ換えて内視鏡の曇りを除去することが記載されている。
また、本発明に関連性のある先行技術文献として、水平または垂直ブランキング期間に低電力駆動を行うことを記載する特許文献4および特許文献5、撮像素子を、電源の投入とともに通電して、撮像素子の受光部に実装されたガラス基板を加熱することにより、撮像素子の受光部を覆うカバーの結露を効果的に防止することを記載する特許文献6、撮像素子を冷却して被検体像の曇りの発生を防止することを記載する特許文献7がある。
特開2007−260190号公報 特開2014−131530号公報 特開平11−318810号公報 特開2002−300479号公報 特開2009−159205号公報 特開2008−141037号公報 特開平5−34605号公報
しかし、特許文献1,2ではヒータを使用するため、内視鏡スコープの先端部のサイズが大きくなる。また、特許文献1では、CCDに供給する電圧を変更してその発熱量を変化させる方法を採用しているが、CCDの特性変動を伴う可能性がある。なお、特許文献1には、CMOSイメージセンサへの言及はない。特許文献3では、内視鏡の曇り検出方法が提案されているが、曇りの防止にガスを用いる必要がある。
本発明の目的は、従来技術の問題点を解消し、装置を大型化することなく、CMOSイメージセンサの受光面に配置された透光性保護基板の曇りを解消することができる内視鏡診断装置、内視鏡診断装置の作動方法、プログラムおよび記録媒体を提供することにある。
上記目的を達成するために、本発明は、内視鏡スコープの内視鏡挿入部の先端面から照明光を出射する照明部と、
内視鏡スコープの先端部に配置されたCMOSイメージセンサにより照明光が照射された被検体の内視鏡画像を撮像する撮像部と、
内視鏡画像の画像解析を行って、CMOSイメージセンサの受光面を保護する透光性保護基板に曇りが生じているか否かを検出する曇り検出部と、
透光性保護基板に曇りが生じていることが検出された場合に、通常モードから発熱モードに切り替える動作モード設定部と、
nを2以上の整数とすると、発熱モードの場合に、CMOSイメージセンサが動作する際のフレームレートを通常モードの場合のn倍とし、かつ、1枚のフレーム画像を撮像する際のCMOSイメージセンサの露光時間を1フレーム時間の1/n倍として、1フレーム時間に2枚以上、n枚以下のフレーム画像を撮像部に撮像させる制御部とを備えることを特徴とする内視鏡診断装置を提供するものである。
ここで、mを2以上、n以下の整数とすると、発熱モードの場合に、1フレーム時間に撮像される2枚以上、n枚以下のフレーム画像のうちのm枚のフレーム画像のデータを画素毎に加算することにより、発熱モードのフレーム画像を生成するフレーム画像合成部を備えることが好ましい。
また、mを2以上、n以下の整数とすると、発熱モードの場合に、1フレーム時間に撮像される2枚以上、n枚以下のフレーム画像のうちのm枚のフレーム画像のデータを画素毎に加算平均しm倍して合成することにより、通常モードのフレーム画像に相当する輝度を有する発熱モードのフレーム画像を生成するフレーム画像合成部を備えることが好ましい。
また、制御部は、フレーム画像を撮像する際の照明光の光量が一定値を超える場合、通常モードの場合に、1枚のフレーム画像を撮像する際のCMOSイメージセンサの露光時間を1フレーム時間の1/n倍よりも短くし、発熱モードの場合に、1枚のフレーム画像を撮像する際のCMOSイメージセンサの露光時間を通常モードの場合と同じ露光時間とすることが好ましい。
また、mを2以上、n以下の整数とすると、発熱モードの場合に、1フレーム時間に撮像される2枚以上、n枚以下のフレーム画像のうちのm枚のフレーム画像のデータを画素毎に加算平均することにより、通常モードのフレーム画像に相当する輝度を有する発熱モードのフレーム画像を生成するフレーム画像合成部を備えることが好ましい。
また、制御部は、通常モードの場合、1フレーム時間のうちのデータ読み出し期間中に、CMOSイメージセンサから内視鏡画像に対応するデータを読み出し、1フレーム時間のうちの残りのブランキング期間中に、CMOSイメージセンサからデータを読み出さず、発熱モードの場合、データ読み出し期間中に、データを読み出し、ブランキング期間中に、CMOSイメージセンサからダミーのデータを読み出すことが好ましい。
また、制御部は、発熱モードの場合に、照明光の光量を通常モードの場合よりも大きくさせ、かつ、1枚のフレーム画像を撮像する際のCMOSイメージセンサの露光量が、通常モードの場合と発熱モードの場合とで同じにするように、CMOSイメージセンサの露光時間を短くさせることが好ましい。
また、曇り検出部は、内視鏡画像の空間周波数を算出し、空間周波数の低周波成分が一定値よりも大きい場合に、透光性保護基板に曇りが生じていることを検出することが好ましい。
また、さらに、ユーザにより入力される指示を受け取る指示入力部を備え、
動作モード設定部は、発熱モードに切り替える指示が指示入力部から入力された場合に、通常モードから発熱モードに切り替えることが好ましい。
また、動作モード設定部は、さらに、内視鏡診断装置が起動された直後に、発熱モードに設定することが好ましい。
また、動作モード設定部は、発熱モードとされてから一定の時間が経過した後、発熱モードから通常モードに切り替えることが好ましい。
また、動作モード設定部は、発熱モードとされた後、透光性保護基板に曇りが生じていることが検出されなくなった場合に、発熱モードから通常モードに切り替えることが好ましい。
また、本発明は、内視鏡スコープの先端部に配置されたCMOSイメージセンサにより内視鏡画像を撮像する内視鏡診断装置の作動方法であって、
内視鏡診断装置の曇り検出部が、内視鏡画像の画像解析を行って、CMOSイメージセンサの受光面を保護する透光性保護基板に曇りが生じているか否かを検出するステップと、
内視鏡診断装置の動作モード設定部が、透光性保護基板に曇りが生じていることが検出された場合に、通常モードから発熱モードに切り替えるステップと、
内視鏡診断装置の制御部が、nを2以上の整数とすると、発熱モードの場合に、CMOSイメージセンサが動作する際のフレームレートを通常モードの場合のn倍とし、かつ、1枚のフレーム画像を撮像する際のCMOSイメージセンサの露光時間を1フレーム時間の1/n倍として、1フレーム時間に2枚以上、n枚以下のフレーム画像を撮像部に撮像させるステップとを含むことを特徴とする内視鏡診断装置の作動方法を提供する。
ここで、制御部は、フレーム画像を撮像する際の照明光の光量が一定値を超える場合、通常モードの場合に、1枚のフレーム画像を撮像する際のCMOSイメージセンサの露光時間を1フレーム時間の1/n倍よりも短くし、発熱モードの場合に、1枚のフレーム画像を撮像する際のCMOSイメージセンサの露光時間を通常モードの場合と同じ露光時間とすることが好ましい。
また、さらに、制御部が、通常モードの場合、1フレーム時間のうちのデータ読み出し期間中に、CMOSイメージセンサから内視鏡画像に対応するデータを読み出し、1フレーム時間のうちの残りのブランキング期間中に、CMOSイメージセンサからデータを読み出さず、発熱モードの場合、データ読み出し期間中に、データを読み出し、ブランキング期間中に、CMOSイメージセンサからダミーのデータを読み出すステップを含むことが好ましい。
また、さらに、制御部が、発熱モードの場合に、照明光の光量を通常モードの場合よりも大きくさせ、かつ、1枚のフレーム画像を撮像する際のCMOSイメージセンサの露光量が、通常モードの場合と発熱モードの場合とで同じにするように、CMOSイメージセンサの露光時間を短くさせるステップを含むことが好ましい。
また、本発明は、上記に記載の内視鏡診断装置の作動方法の各々のステップをコンピュータに実行させるためのプログラムを提供する。
また、本発明は、上記に記載の内視鏡診断装置の作動方法の各々のステップをコンピュータに実行させるためのプログラムが記録されたコンピュータ読み取り可能な記録媒体を提供する。
本発明によれば、CMOSイメージセンサの透光性保護基板に曇りが発生した場合に、CMOSイメージセンサ自身の発熱量を増大させることにより、透光性保護基板の温度が上昇する時間を短縮し、透光性保護基板の曇りを短時間で解消することができる。また、本発明では、CMOSイメージセンサ自身の動作を制御して発熱量を増大させるため、透光性保護基板の曇りを解消するためのヒータやガス等は不要であり、装置が大型化することもない。
本発明の内視鏡診断装置の構成を表す一実施形態の外観図である。 図1に示す内視鏡診断装置の内部構成を表すブロック図である。 内視鏡スコープの先端部の構成を表す概念図である。 青色レーザ光源からの青色レーザ光及び青色レーザ光が蛍光体により波長変換された発光スペクトルを示すグラフである。 カバーガラスの曇りを解消する場合の内視鏡診断装置の動作を表す一例のフローチャートである。 通常モードおよび発熱モードにおけるCMOSイメージセンサの露光時間を表す一例の概念図である。 オーバ露光となる場合のCMOSイメージセンサの露光時間を表す一例の概念図である。 ブランキング期間中にデータの読み出しを行う場合のCMOSイメージセンサの露光時間を表す一例の概念図である。 照明光の光量を大きくする場合のCMOSイメージセンサの露光時間を表す一例の概念図である。
以下に、添付の図面に示す好適実施形態に基づいて、本発明の内視鏡診断装置、内視鏡診断装置の作動方法、プログラムおよび記録媒体を詳細に説明する。
図1は、本発明の内視鏡診断装置の構成を表す一実施形態の外観図、図2は、その内部構成を表すブロック図である。これらの図に示す内視鏡診断装置10は、光源装置12と、光源装置12から発せられる光を用いて被検体の被観察領域の内視鏡画像を撮像する内視鏡スコープ14と、内視鏡スコープ14で撮像された内視鏡画像を画像処理するプロセッサ装置16と、プロセッサ装置16から出力される画像処理後の内視鏡画像を表示する表示装置18と、入力操作を受け付ける入力装置20とによって構成されている。
まず、光源装置12は、光源制御部22と、レーザ光源LD24と、カプラ(分波器)26とによって構成されている。
本実施形態において、レーザ光源LD24からは、中心波長が445nmである、青色の一定の波長範囲(例えば、中心波長±10nm)の狭帯域光が発せられる。レーザ光源LD24は、照明光として、後述する蛍光体から白色光(疑似白色光)を発生させるための励起光を発する光源であって、後述するプロセッサ装置16の制御部によって制御される光源制御部22によりオンオフ(点灯消灯)制御および光量制御が行われる。
レーザ光源LD24としては、ブロードエリア型のInGaN系レーザダイオードが利用でき、また、InGaNAs系レーザダイオードやGaNAs系レーザダイオード等を用いることもできる。
なお、白色光を発生するための白色光光源は、励起光および蛍光体の組合せに限定されず、白色光を発するものであればよく、例えば、キセノンランプ、ハロゲンランプ、白色LED(発光ダイオード)などを利用することもできる。また、レーザ光源LD24から発せられるレーザ光の波長は上記例に限定されず、同様の役割を果たす波長のレーザ光を適宜選択することができる。
レーザ光源LD24から発せられるレーザ光は、集光レンズ(図示略)を介して光ファイバに入力され、カプラ26により2系統の光に分波されてコネクタ部32Aに伝送される。カプラ26は、ハーフミラー、反射ミラー等によって構成される。
続いて、内視鏡スコープ14は、被検体内に挿入される内視鏡挿入部の先端面から2系統(2灯)の照明光を出射する照明光学系と、被観察領域の内視鏡画像を撮像する1系統(1眼)の撮像光学系とを有する、電子内視鏡である。内視鏡スコープ14は、内視鏡挿入部28と、内視鏡挿入部28の先端の湾曲操作や観察のための操作を行う操作部30と、内視鏡スコープ14を光源装置12およびプロセッサ装置16に着脱自在に接続するコネクタ部32A,32Bとを備えている。
内視鏡挿入部28は、可撓性を持つ軟性部34と、湾曲部36と、先端部(以降、内視鏡先端部とも呼称する)38とから構成されている。
湾曲部36は、軟性部34と先端部38との間に設けられ、操作部30に配置されたアングルノブ40の回動操作により湾曲自在に構成されている。この湾曲部36は、内視鏡スコープ14が使用される被検体の部位等に応じて、任意の方向、任意の角度に湾曲でき、内視鏡先端部38を、所望の観察部位に向けることができる。
図3に示すように、内視鏡挿入部28の先端面46には、被観察領域へ光を照射する2系統の照明窓42A,42B、被観察領域からの反射光を撮像する1系統の観察窓44、内視鏡挿入部28の内部に設けられている鉗子チャンネルに挿入される、処置具等の出口となる鉗子口74、同じく送気・送水チャンネルの出口となる送気・送水口76等が配置されている。
観察窓44、鉗子口74、送気・送水口76は、先端面46の中央部に配置されている。照明窓42A,42Bは、観察窓44を挟んでその両脇側に配置されている。
照明窓42Aの奥には、光ファイバ48Aが収納されている。光ファイバ48Aは、光源装置12からコネクタ部32Aを介して内視鏡先端部38まで敷設されている。光ファイバ48Aの先端部(照明窓42A側)の先には蛍光体54Aが配置され、さらに蛍光体54Aの先にレンズ52A等の光学系が取り付けられている。同様に、照明窓42Bの奥には、先端部に蛍光体54Bおよびレンズ52B等の光学系を有する光ファイバ48Bが収納されている。
蛍光体54A,54Bは、レーザ光源LD24からの青色レーザ光の一部を吸収して緑色〜黄色に励起発光する複数種の蛍光物質(例えばYAG系蛍光物質、或いはBAM(BaMgAl1017)等の蛍光物質)を含んで構成される。白色光観察用の励起光が蛍光体54A,54Bに照射されると、蛍光体54A,54Bから発せられる緑色〜黄色の励起発光光(蛍光)と、蛍光体54A,54Bにより吸収されず透過した青色レーザ光とが合わされて、白色光(疑似白色光)が生成される。
図4は、青色レーザ光源からの青色レーザ光及び青色レーザ光が蛍光体により波長変換された発光スペクトルを示すグラフである。レーザ光源LD24から発せられる青色レーザ光は、中心波長445nmの輝線で表され、青色レーザ光による蛍光体54A,54Bからの励起発光光は、概ね450nm〜700nmの波長範囲で発光強度が増大する分光強度分布となる。この励起発光光と青色レーザ光との合波光によって、上述した疑似白色光が形成される。
ここで、本発明でいう白色光とは、厳密に可視光の全ての波長成分を含むものに限らず、例えば、上述した疑似白色光を始めとして、基準色であるR(赤)、G(緑)、B(青)等、特定の波長帯の光を含むものであればよい。つまり、本発明のいう白色光には、例えば、緑色から赤色にかけての波長成分を含む光や、青色から緑色にかけての波長成分を含む光等も広義に含まれるものとする。
照明窓42A側および照明窓42B側の照明光学系は同等の構成および作用のものであって、照明窓42A,42Bからは、基本的に同時に同等の照明光が照射される。照明光学系は、内視鏡スコープ14の内視鏡挿入部28の先端面46から照明光を出射するする本発明の照明部に相当する。なお、照明窓42A,42Bからそれぞれ異なる照明光を照射させることもできる。また、2系統の照明光を出射する照明光学系を有することは必須ではなく、例えば、1系統や4系統の照明光を出射する照明光学系でも同等の機能を実現することができる。
観察窓44の奥には、被検体の被観察領域の像光を取り込むための対物レンズユニット56等の光学系が取り付けられ、さらに対物レンズユニット56の奥には、被観察領域の画像情報を取得するCMOSイメージセンサ等の撮像素子58が取り付けられている。撮像素子58は、内視鏡スコープ14の先端部に配置されたCMOSイメージセンサにより照明光が照射された被検体の内視鏡画像を撮像する本発明の撮像部に相当する。
撮像素子58は、対物レンズユニット56からの光を受光面(撮像面)で受光し、受光した光を光電変換して画像信号(デジタル信号)を出力する。撮像素子58の受光面には、可視光の約370〜720nmの波長範囲を3分割する分光透過率を有する、R色(約580nm〜760nm)、G色(約450nm〜630nm)、B色(約380nm〜510nm)のカラーフィルタが設けられ、R画素、G画素、B画素の3色の画素を1組として、複数組の画素がマトリクス状に配列されている。
また、撮像素子58の受光面には、受光面を保護するためのカバーガラスが配置されている。なお、カバーガラスは、被検体の像光に対して透光性のある保護基板であればよく、ガラス材に限らず透明樹脂等の他の材料であってもよい。
光源装置12から光ファイバ48A,48Bによって導光された光は、内視鏡先端部38から被検体の被観察領域に向けて照射される。そして、照明光が照射された被観察領域の様子が対物レンズユニット56により撮像素子58の受光面上に結像され、撮像素子58により光電変換されて撮像される。撮像素子58からは、撮像された被検体の被観察領域の内視鏡画像の画像信号(デジタル信号)が出力される。
撮像素子58から出力される内視鏡画像の画像信号(デジタル信号)は、スコープケーブル62およびコネクタ部32Bを介してプロセッサ装置16の画像処理部に入力される。
続いて、プロセッサ装置16は、画像処理部70と、曇り検出部78と、動作モード設定部80と、フレーム画像合成部82と、制御部68と、記憶部72とを備えている。また、制御部68には、表示装置18および入力装置20が接続されている。入力装置20は、ユーザにより入力される指示を受け取る本発明の指示入力部に相当する。プロセッサ装置16は、内視鏡スコープ14から入力される内視鏡画像の画像信号を画像処理するとともに、光源装置12の光源制御部22、撮像素子58であるCMOSイメージセンサ等の動作を制御する。
画像処理部70は、内視鏡スコープ14から入力される内視鏡画像の画像信号に対してあらかじめ設定された各種の画像処理を施し、画像処理後の内視鏡画像の画像信号を出力する。画像処理後の内視鏡画像の画像信号は、制御部68に送られる。
制御部68は、画像処理後の内視鏡画像を表示装置18に表示させる。また、制御部68は、内視鏡スコープ14の撮像スイッチ66や入力装置20から入力される指示に基づいて、光源装置12の光源制御部22の動作を制御したり、例えば、1枚(1フレーム)の内視鏡画像を単位として記憶部72に記憶させたり、撮像素子58であるCMOSイメージセンサのカバーガラスの曇りを解消するために、CMOSイメージセンサの動作を制御したりする。
曇り検出部78は、画像処理部70による画像処理後の内視鏡画像の画像解析を行って、撮像素子58であるCMOSイメージセンサの受光面を保護するカバーガラスに曇りが生じているか否かを検出するものである。
曇り検出部78が内視鏡画像からカバーガラスの曇りを検出する方法は何ら限定されないが、例えば、特許文献3に記載されている検出方法を利用することができる。
すなわち、内視鏡画像の空間周波数を高速フーリエ変換して算出し、空間周波数の低周波成分の値を、あらかじめ設定された一定値と比較する。カバーガラスが曇ると内視鏡画像にボケが生じる、すなわち、内視鏡画像全体における空間周波数の低周波成分が増大する。従って、比較の結果、空間周波数の低周波成分が一定値よりも大きい場合は、カバーガラスに曇りが生じていると判断することができる。
動作モード設定部80は、曇り検出部78によりカバーガラスに曇りが生じていることが検出された場合に、内視鏡診断装置10の動作モードを、通常モードから発熱モードに切り替えるものである。
ここで、通常モードは、内視鏡画像を撮像するための通常の動作を行う動作モードであり、発熱モードは、カバーガラスの曇りを解消するために、カバーガラスの温度が上昇する時間を短縮させるための動作を行う動作モードである。
フレーム画像合成部82は、発熱モードの場合に、画像処理部70による画像処理後の内視鏡画像である、1フレーム時間に撮像される複数のフレーム画像を合成して、通常モードのフレーム画像に相当する輝度を有する発熱モードのフレーム画像を生成するものである。
次に、内視鏡診断装置10の動作を説明する。
まず、内視鏡画像を撮像する場合の動作を説明する。
内視鏡画像の撮像時には、光源制御部22の制御により、レーザ光源LD24があらかじめ設定された一定の発光量で点灯される。レーザ光源LD24から発せられる中心波長445nmのレーザ光が蛍光体54A,54Bに照射され、蛍光体54A,54Bから白色光が発せられる。蛍光体54A,54Bから発せられる白色光は被検体に照射され、その反射光が撮像素子58で受光されて被検体の被観察領域の内視鏡画像が撮像される。
撮像素子58から出力される内視鏡画像の画像信号(デジタル信号)は、画像処理部70により各種の画像処理が施され、画像処理後の内視鏡画像の画像信号が出力される。そして、制御部68により、画像処理後の内視鏡画像の画像信号に対応する内視鏡画像が表示装置18上に表示され、必要に応じて、内視鏡画像の画像信号が記憶部72に記憶される。
続いて、図5のフローチャートを参照して、撮像素子58であるCMOSイメージセンサのカバーガラスの曇りを解消する場合の動作を説明する。
内視鏡診断装置10が起動されると(ステップS1)、動作モード設定部80により、内視鏡診断装置10の動作モードが通常モードに設定される(ステップS2)。通常モードの場合、画像処理部70により画像処理が施された内視鏡画像が、制御部68の制御により表示装置18に表示される。
続いて、曇り検出部78により、画像処理部70による画像処理後の内視鏡画像の画像解析が行われて、CMOSイメージセンサのカバーガラスに曇りが生じているか否かの検出が行われる(ステップS3)。
その結果、カバーガラスに曇りが生じていることが検出された場合には(ステップS4でYes)、動作モード設定部80により、動作モードが通常モードから発熱モードに切り替えられる(ステップS5)。
内視鏡診断装置10の動作モードが発熱モードに設定されると、制御部68の制御により、CMOSイメージセンサが動作する際のフレームレートが通常モードの場合のn倍(nは2以上の整数)とされ、かつ、1枚のフレーム画像を撮像する際のCMOSイメージセンサの露光時間が1フレーム時間の1/n倍とされる。そして、CMOSイメージセンサにより、1フレーム時間に2枚以上、n枚以下のフレーム画像が撮像される。
また、発熱モードの場合、フレーム画像合成部82により、画像処理部70による画像処理後の内視鏡画像である、1フレーム時間に撮像される2枚以上、n枚以下のフレーム画像のうちのm枚(mは2以上、n以下の整数)のフレーム画像のデータが画素毎に加算される。これにより、通常モードのフレーム画像に相当する輝度を有する発熱モードのフレーム画像が生成される。発熱モードの場合、発熱モードのフレーム画像が、制御部68の制御により表示装置18に表示される。
図6は、通常モードおよび発熱モードにおけるCMOSイメージセンサの露光時間を表す一例の概念図である。同図の縦方向は、通常モードおよび発熱モードの露光時間、右方向は、左側から右側へ向かってフレーム時間の経過を表す。1フレーム時間は1/30秒であり、同図には、2フレーム時間が表示されている。通常モードのフレームレートは30フレーム/秒であり、発熱モードのフレームレートは60フレーム/秒である。
この例では、発熱モードの場合に、制御部68により、CMOSイメージセンサが動作する際のフレームレートが通常モードの場合の30フレーム/秒の2倍の60フレーム/秒とされ、かつ、1枚のフレーム画像を撮像する際のCMOSイメージセンサの露光時間が通常モードの場合の1/30秒の1/2倍の1/60秒とされる。そして、1フレーム時間である1/30秒の間に2枚のフレーム画像が撮像される。
例えば、CMOSイメージセンサの内部クロックの周波数をPLL回路(位相同期回路)等で通常モードの場合の2倍に引き上げることにより、フレームレートを、通常モードの場合の30フレーム/秒から60フレーム/秒とすることができる。発熱モードの場合に、CMOSイメージセンサのクロック周波数を上げると、通常モードの場合よりも発熱量が多くなるため、カバーガラスの温度が上昇する時間を短縮することができ、カバーガラスの曇りを短時間で解消することができる。
また、フレーム画像合成部82により、1フレーム時間に撮像される2枚のフレーム画像のデータが画素毎に単純加算して合成され、通常モードのフレーム画像に相当する輝度を有する発熱モードのフレーム画像が生成される。
発熱モードのフレーム画像は、通常モードのフレーム画像と比べて、フレームレートが2倍であるため、映像は通常モードの場合よりもなめらかであるが、露光時間が半分であるため、輝度は通常モードの場合の1/2倍になる。従って、通常モードから発熱モードに切り替えられると、輝度が大きく変化するため違和感がある。発熱モードの場合は、カバーガラスに曇りが発生している状態であるため、画質を向上させるよりも、輝度が変化することによる違和感がない方が望ましい。
そこで、発熱モードの場合、前述のように、1フレーム時間に撮像される2枚のフレーム画像のデータを画素毎に合成し、通常モードのフレーム画像に相当する輝度を有する発熱モードのフレーム画像を生成することにより、違和感をなくすことができる。
続いて、動作モードが発熱モードとされてから一定の時間が経過した後、ステップS2へ戻り、動作モード設定部80により、動作モードが発熱モードから通常モードに切り替えられる。発熱モードに設定される一定の時間は、カバーガラスの曇りを解消することができる時間を、あらかじめ測定しておくことにより決定することができる。また、カバーガラスの曇りの解消後、通常モードに戻すことにより、カバーガラスに曇りが無い時は消費電力を低減したり、撮像素子58の発熱を抑えたりすることができる。
これ以後の動作は上記の繰り返しである。
一方、カバーガラスに曇りが生じていることが検出されなかった場合には(ステップS4でNo)、続いて、内視鏡診断装置10の動作が終了したか否かの判定が行われる(ステップS6)。
その結果、内視鏡診断装置10の動作が終了していない場合には(ステップS6でNo)、ステップS2へ戻り、上記動作が繰り返される。一方、内視鏡診断装置10の動作が終了している場合には(ステップS6でYes)、処理を終了する。
上記のように、内視鏡診断装置10では、CMOSイメージセンサのカバーガラスに曇りが発生した場合に、CMOSイメージセンサ自身の発熱量を増大させることにより、カバーガラスの温度が上昇する時間を短縮し、カバーガラスの曇りを短時間で解消することができる。また、内視鏡診断装置10では、CMOSイメージセンサ自身の動作を制御して発熱量を増大させるため、カバーガラスの曇りを解消するためのヒータやガス等は不要であり、装置が大型化することもない。
なお、内視鏡画像の画像解析を行って、カバーガラスの曇りを検出することに加えて、ユーザにより発熱モードに切り替える指示が入力装置20を介して入力された場合に、動作モードを通常モードから発熱モードに切り替えてもよい。これにより、ユーザが、カバーガラスの曇りを視認した場合に、任意のタイミングで動作モードを通常モードから発熱モードに切り替えることができ、カバーガラスの曇りを即座に解消することができる。
また、発熱モードの場合に、m枚のフレーム画像のデータを画素毎に単純加算して合成する代わりに、1フレーム時間に撮像される2枚以上、n枚以下のフレーム画像のうちのm枚のフレーム画像のデータを画素毎に加算平均しm倍して合成してもよい。これにより、単純加算の場合よりも画質を向上させることができる。また、画質が向上されるため、カバーガラスの曇りの検出精度を向上させることができる。
なお、通常モードのフレーム画像に相当する輝度を有する発熱モードのフレーム画像を合成することができるのであれば、フレーム画像の合成方法は何ら限定されない。
また、前述のように、内視鏡診断装置10が起動された直後は、CMOSイメージセンサが急速に暖まるのに対して、カバーガラスはすぐに暖まらないため、温度差によりカバーガラスに曇りが発生しやすい。そのため、内視鏡診断装置10が起動された直後に、発熱モードに設定し、発熱モードとされてから一定の時間が経過した後、発熱モードから通常モードに切り替えてもよい。これにより、カバーガラスに曇りが発生するのを未然に防止、ないし、カバーガラスの曇りを短時間で解消することができる。
また、発熱モードとされてから一定の時間が経過した後、発熱モードから通常モードに切り替える代わりに、発熱モードとされた後、カバーガラスに曇りが生じていることが検出されなくなった場合に、発熱モードから通常モードに切り替えてもよい。これにより、カバーガラスの曇りを確実に解消することができる。
また、フレーム画像を撮像する際の照明光の光量が、あらかじめ設定された一定値を超える場合、露光時間を1フレーム時間にすると、オーバ露光となる場合がある。この場合、オーバ露光とならないように、通常モードの場合に、電子シャッタ等を用いて、1枚のフレーム画像を撮像する際のCMOSイメージセンサの露光時間を1フレーム時間の1/n倍よりも短くし、発熱モードの場合に、1枚のフレーム画像を撮像する際のCMOSイメージセンサの露光時間を通常モードの場合と同じ露光時間としてもよい。
この場合、通常モードの場合と発熱モードの場合の照明光の光量および露光時間は同じであり、両方のフレーム画像の輝度は同じであるから、発熱モードのフレーム画像を合成する必要はない。その一方で、1フレーム時間に撮像される2枚以上、n枚以下のフレーム画像のうちのm枚のフレーム画像のデータを画素毎に加算平均することにより、通常モードのフレーム画像に相当する輝度を有する発熱モードのフレーム画像を生成してもよい。これにより、発熱モードのフレーム画像の画質を向上させることができる。
図7に示すように、例えば、通常モードの1フレーム時間が1/30秒である場合に、オーバ露光とならないように、通常モードの場合のCMOSイメージセンサの露光時間を1フレーム時間の1/2倍の1/60秒にする場合を考える。この場合、発熱モードの場合のCMOSイメージセンサの露光時間も通常モードの場合と同じ1/60秒の露光時間とする。
通常モードの場合、1フレーム時間に1枚のフレーム画像が撮像され、1フレーム時間の残りの1/60秒の期間において、CMOSイメージセンサの露光は行われない。一方、発熱モードの場合、1フレーム時間の残りの1/60秒の期間においてもダミーの撮像が行われ、1フレーム時間に2枚のフレーム画像が撮像される。これにより、発熱モードの場合に、CMOSイメージセンサの発熱量が多くなり、カバーガラスの曇りを短時間で解消することができる。
また、図8に示すように、通常モードの場合、1フレーム時間のうちのデータ読み出し期間中に、CMOSイメージセンサから内視鏡画像に対応するデータが読み出される(通常駆動)。一方、1フレーム時間のうちの残りのブランキング期間中に、CMOSイメージセンサからデータは読み出されない(低電力駆動)。ブランキング期間では、CMOSイメージセンサの内部電圧を下げたり、クロックを停止して露光やデータの読み出しを行わないことにより、通常モード時の消費電力を低減することが行われる。
これに対し、発熱モードの場合、1フレーム時間のうちのデータ読み出し期間中に、通常モードの場合と同じように、CMOSイメージセンサから内視鏡画像に対応するデータが読み出され、1フレーム時間のうちの残りのブランキング期間中にも、CMOSイメージセンサからダミーのデータが読み出されるようにしてもよい(通常駆動)。これにより、CMOSイメージセンサの発熱量が増大し、カバーガラスの曇りの解消を早めることができる。
また、図9に示すように、発熱モードの場合に、フレーム画像を撮像する際の照明光の光量を通常モードの場合よりも大きくさせ、かつ、1枚のフレーム画像を撮像する際のCMOSイメージセンサの露光量が、通常モードの場合と発熱モードの場合とで同じにするように、CMOSイメージセンサの露光時間を短くさせてもよい。
この例では、発熱モードの場合に、制御部68により、照明光の光量が通常モードの場合の4倍の光量とされ、かつ、1枚のフレーム画像を撮像する際のCMOSイメージセンサの露光時間が通常モードの場合の1/4倍の1/120秒とされる。これにより、1枚のフレーム画像を撮像する際のCMOSイメージセンサの露光量は、通常モードの場合と発熱モードの場合とで同じになる。
このように、発熱モードの場合に、通常モードの場合よりも照明光の光量を大きくすることにより、CMOSイメージセンサの発熱量を増加させることができ、カバーガラスの曇りの解消を早めることができる。
本発明の装置は、装置が備える各々の構成要素を専用のハードウェアで構成してもよいし、各々の構成要素をプログラムされたコンピュータで構成してもよい。
本発明の方法は、例えば、その各々のステップをコンピュータに実行させるためのプログラムにより実施することができる。また、このプログラムが記録されたコンピュータ読み取り可能な記録媒体を提供することもできる。
本発明は、基本的に以上のようなものである。
以上、本発明について詳細に説明したが、本発明は上記実施形態に限定されず、本発明の主旨を逸脱しない範囲において、種々の改良や変更をしてもよいのはもちろんである。
10 内視鏡診断装置
12 光源装置
14 内視鏡スコープ
16 プロセッサ装置
18 表示装置
20 入力装置
22 光源制御部
26 カプラ(分波器)
28 内視鏡挿入部
30 操作部
32A、32B コネクタ部
34 軟性部
36 湾曲部
38 先端部
40 アングルノブ
42A、42B 照明窓
44 観察窓
46 先端面
48A、48B 光ファイバ
52A、52B レンズ
54A、54B 蛍光体
56 対物レンズユニット
58 撮像素子
62 スコープケーブル
66 撮像スイッチ
68 制御部
70 画像処理部
72 記憶部
74 鉗子口
76 送気・送水口
78 曇り検出部
80 動作モード設定部
82 フレーム画像合成部
24 レーザ光源LD

Claims (18)

  1. 内視鏡スコープの内視鏡挿入部の先端面から照明光を出射する照明部と、
    前記内視鏡スコープの先端部に配置されたCMOSイメージセンサにより前記照明光が照射された被検体の内視鏡画像を撮像する撮像部と、
    前記内視鏡画像の画像解析を行って、前記CMOSイメージセンサの受光面を保護する透光性保護基板に曇りが生じているか否かを検出する曇り検出部と、
    前記透光性保護基板に曇りが生じていることが検出された場合に、通常モードから発熱モードに切り替える動作モード設定部と、
    nを2以上の整数とすると、前記発熱モードの場合に、前記CMOSイメージセンサが動作する際のフレームレートを前記通常モードの場合のn倍とし、かつ、1枚のフレーム画像を撮像する際の前記CMOSイメージセンサの露光時間を1フレーム時間の1/n倍として、前記1フレーム時間に2枚以上、n枚以下のフレーム画像を前記撮像部に撮像させる制御部とを備えることを特徴とする内視鏡診断装置。
  2. mを2以上、n以下の整数とすると、前記発熱モードの場合に、前記1フレーム時間に撮像される2枚以上、n枚以下のフレーム画像のうちのm枚のフレーム画像のデータを画素毎に加算することにより、前記発熱モードのフレーム画像を生成するフレーム画像合成部を備える請求項1に記載の内視鏡診断装置。
  3. mを2以上、n以下の整数とすると、前記発熱モードの場合に、前記1フレーム時間に撮像される2枚以上、n枚以下のフレーム画像のうちのm枚のフレーム画像のデータを画素毎に加算平均しm倍して合成することにより、前記通常モードのフレーム画像に相当する輝度を有する前記発熱モードのフレーム画像を生成するフレーム画像合成部を備える請求項1に記載の内視鏡診断装置。
  4. 前記制御部は、前記フレーム画像を撮像する際の照明光の光量が一定値を超える場合、前記通常モードの場合に、前記1枚のフレーム画像を撮像する際の前記CMOSイメージセンサの露光時間を前記1フレーム時間の1/n倍よりも短くし、前記発熱モードの場合に、前記1枚のフレーム画像を撮像する際の前記CMOSイメージセンサの露光時間を前記通常モードの場合と同じ露光時間とする請求項1〜3のいずれか1項に記載の内視鏡診断装置。
  5. mを2以上、n以下の整数とすると、前記発熱モードの場合に、前記1フレーム時間に撮像される2枚以上、n枚以下のフレーム画像のうちのm枚のフレーム画像のデータを画素毎に加算平均することにより、前記通常モードのフレーム画像に相当する輝度を有する前記発熱モードのフレーム画像を生成するフレーム画像合成部を備える請求項4に記載の内視鏡診断装置。
  6. 前記制御部は、前記通常モードの場合、前記1フレーム時間のうちのデータ読み出し期間中に、前記CMOSイメージセンサから前記内視鏡画像に対応するデータを読み出し、前記1フレーム時間のうちの残りのブランキング期間中に、前記CMOSイメージセンサからデータを読み出さず、前記発熱モードの場合、前記データ読み出し期間中に、前記データを読み出し、前記ブランキング期間中に、前記CMOSイメージセンサからダミーのデータを読み出す請求項1〜5のいずれか1項に記載の内視鏡診断装置。
  7. 前記制御部は、前記発熱モードの場合に、前記フレーム画像を撮像する際の照明光の光量を前記通常モードの場合よりも大きくさせ、かつ、前記1枚のフレーム画像を撮像する際の前記CMOSイメージセンサの露光量が、前記通常モードの場合と前記発熱モードの場合とで同じにするように、前記CMOSイメージセンサの露光時間を短くさせる請求項1〜6のいずれか1項に記載の内視鏡診断装置。
  8. 前記曇り検出部は、前記内視鏡画像の空間周波数を算出し、前記空間周波数の低周波成分が一定値よりも大きい場合に、前記透光性保護基板に曇りが生じていることを検出する請求項1〜7のいずれか1項に記載の内視鏡診断装置。
  9. さらに、ユーザにより入力される指示を受け取る指示入力部を備え、
    前記動作モード設定部は、前記発熱モードに切り替える指示が指示入力部から入力された場合に、前記通常モードから前記発熱モードに切り替える請求項1〜8のいずれか1項に記載の内視鏡診断装置。
  10. 前記動作モード設定部は、さらに、前記内視鏡診断装置が起動された直後に、前記発熱モードに設定する請求項1〜9のいずれか1項に記載の内視鏡診断装置。
  11. 前記動作モード設定部は、前記発熱モードとされてから一定の時間が経過した後、前記発熱モードから前記通常モードに切り替える請求項1〜10のいずれか1項に記載の内視鏡診断装置。
  12. 前記動作モード設定部は、前記発熱モードとされた後、前記透光性保護基板に曇りが生じていることが検出されなくなった場合に、前記発熱モードから前記通常モードに切り替える請求項1〜10のいずれか1項に記載の内視鏡診断装置。
  13. 内視鏡スコープの先端部に配置されたCMOSイメージセンサにより内視鏡画像を撮像する内視鏡診断装置の作動方法であって、
    前記内視鏡診断装置の曇り検出部が、前記内視鏡画像の画像解析を行って、前記CMOSイメージセンサの受光面を保護する透光性保護基板に曇りが生じているか否かを検出するステップと、
    前記内視鏡診断装置の動作モード設定部が、前記透光性保護基板に曇りが生じていることが検出された場合に、通常モードから発熱モードに切り替えるステップと、
    前記内視鏡診断装置の制御部が、nを2以上の整数とすると、前記発熱モードの場合に、前記CMOSイメージセンサが動作する際のフレームレートを前記通常モードの場合のn倍とし、かつ、1枚のフレーム画像を撮像する際の前記CMOSイメージセンサの露光時間を1フレーム時間の1/n倍として、前記1フレーム時間に2枚以上、n枚以下のフレーム画像を前記撮像部に撮像させるステップとを含むことを特徴とする内視鏡診断装置の作動方法。
  14. 前記制御部は、前記フレーム画像を撮像する際の照明光の光量が一定値を超える場合、前記通常モードの場合に、前記1枚のフレーム画像を撮像する際の前記CMOSイメージセンサの露光時間を前記1フレーム時間の1/n倍よりも短くし、前記発熱モードの場合に、前記1枚のフレーム画像を撮像する際の前記CMOSイメージセンサの露光時間を前記通常モードの場合と同じ露光時間とする請求項13に記載の内視鏡診断装置の作動方法。
  15. さらに、前記制御部が、前記通常モードの場合、前記1フレーム時間のうちのデータ読み出し期間中に、前記CMOSイメージセンサから前記内視鏡画像に対応するデータを読み出し、前記1フレーム時間のうちの残りのブランキング期間中に、前記CMOSイメージセンサからデータを読み出さず、前記発熱モードの場合、前記データ読み出し期間中に、前記データを読み出し、前記ブランキング期間中に、前記CMOSイメージセンサからダミーのデータを読み出すステップを含む請求項13または14に記載の内視鏡診断装置の作動方法。
  16. さらに、前記制御部が、前記発熱モードの場合に、前記フレーム画像を撮像する際の照明光の光量を前記通常モードの場合よりも大きくさせ、かつ、前記1枚のフレーム画像を撮像する際の前記CMOSイメージセンサの露光量が、前記通常モードの場合と前記発熱モードの場合とで同じにするように、前記CMOSイメージセンサの露光時間を短くさせるステップを含む請求項13〜15のいずれか1項に記載の内視鏡診断装置の作動方法。
  17. 請求項13〜16のいずれか1項に記載の内視鏡診断装置の作動方法の各々のステップをコンピュータに実行させるためのプログラム。
  18. 請求項13〜16のいずれか1項に記載の内視鏡診断装置の作動方法の各々のステップをコンピュータに実行させるためのプログラムが記録されたコンピュータ読み取り可能な記録媒体。
JP2015088567A 2015-04-23 2015-04-23 内視鏡診断装置、内視鏡診断装置の作動方法、プログラムおよび記録媒体 Active JP6419018B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015088567A JP6419018B2 (ja) 2015-04-23 2015-04-23 内視鏡診断装置、内視鏡診断装置の作動方法、プログラムおよび記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015088567A JP6419018B2 (ja) 2015-04-23 2015-04-23 内視鏡診断装置、内視鏡診断装置の作動方法、プログラムおよび記録媒体

Publications (2)

Publication Number Publication Date
JP2016202627A JP2016202627A (ja) 2016-12-08
JP6419018B2 true JP6419018B2 (ja) 2018-11-07

Family

ID=57486312

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015088567A Active JP6419018B2 (ja) 2015-04-23 2015-04-23 内視鏡診断装置、内視鏡診断装置の作動方法、プログラムおよび記録媒体

Country Status (1)

Country Link
JP (1) JP6419018B2 (ja)

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11318810A (ja) * 1998-05-14 1999-11-24 Olympus Optical Co Ltd 内視鏡曇り除去システム
JP5303414B2 (ja) * 2009-09-25 2013-10-02 富士フイルム株式会社 撮像装置及び内視鏡
JP2011206079A (ja) * 2010-03-26 2011-10-20 Fujifilm Corp 撮像装置及び内視鏡
JP2012143319A (ja) * 2011-01-07 2012-08-02 Fujifilm Corp 内視鏡システム及びその駆動方法
JP5587834B2 (ja) * 2011-06-20 2014-09-10 富士フイルム株式会社 電子内視鏡装置及び電子内視鏡システム
JPWO2013128764A1 (ja) * 2012-03-01 2015-07-30 オリンパスメディカルシステムズ株式会社 医療システム

Also Published As

Publication number Publication date
JP2016202627A (ja) 2016-12-08

Similar Documents

Publication Publication Date Title
JP6956805B2 (ja) 内視鏡システム、内視鏡システムの制御方法
JP6364050B2 (ja) 内視鏡システム
JP5460506B2 (ja) 内視鏡装置の作動方法及び内視鏡装置
US8936548B2 (en) Method of controlling endoscope and endoscope
JP4855728B2 (ja) 照明装置及び観察装置
WO2012043771A1 (ja) 撮像装置
US20200337540A1 (en) Endoscope system
US20060155166A1 (en) Endoscope device
US20200397263A1 (en) Endoscope system and fluorescence image output method
JP5539840B2 (ja) 電子内視鏡システム、電子内視鏡システムのプロセッサ装置、及び電子内視鏡システムの作動方法
JP2011092683A (ja) 電子内視鏡装置
JP6419019B2 (ja) 内視鏡診断装置、内視鏡診断装置の作動方法、プログラムおよび記録媒体
JP2012050641A (ja) 内視鏡システム
JP5538143B2 (ja) 内視鏡システム
JP2012081048A (ja) 電子内視鏡システム、電子内視鏡、及び励起光照射方法
JP5525991B2 (ja) 電子内視鏡システム、電子内視鏡システムのプロセッサ装置、及び電子内視鏡システムの作動方法
JP6196593B2 (ja) 内視鏡システム、光源装置、内視鏡システムの作動方法、及び光源装置の作動方法
JP5677555B2 (ja) 内視鏡装置
JP6419018B2 (ja) 内視鏡診断装置、内視鏡診断装置の作動方法、プログラムおよび記録媒体
JP5763893B2 (ja) 画像処理システム及びプログラム並びに内視鏡システムの作動方法
JP6266559B2 (ja) 内視鏡診断装置、画像処理方法、プログラムおよび記録媒体
JP5557699B2 (ja) 電子内視鏡装置
JP2010136775A (ja) 画像取得方法および内視鏡装置
JP5827720B2 (ja) 内視鏡システム
JP5072404B2 (ja) 蛍光観察電子内視鏡装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170822

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180424

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180425

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180528

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181002

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181009

R150 Certificate of patent or registration of utility model

Ref document number: 6419018

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250