JP2011087793A - 電子内視鏡用プロセッサ - Google Patents

電子内視鏡用プロセッサ Download PDF

Info

Publication number
JP2011087793A
JP2011087793A JP2009244296A JP2009244296A JP2011087793A JP 2011087793 A JP2011087793 A JP 2011087793A JP 2009244296 A JP2009244296 A JP 2009244296A JP 2009244296 A JP2009244296 A JP 2009244296A JP 2011087793 A JP2011087793 A JP 2011087793A
Authority
JP
Japan
Prior art keywords
image data
lesion
electronic endoscope
processor
coordinates
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009244296A
Other languages
English (en)
Other versions
JP5455550B2 (ja
Inventor
Yuichi Kawabata
祐一 河端
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hoya Corp
Original Assignee
Hoya Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hoya Corp filed Critical Hoya Corp
Priority to JP2009244296A priority Critical patent/JP5455550B2/ja
Publication of JP2011087793A publication Critical patent/JP2011087793A/ja
Application granted granted Critical
Publication of JP5455550B2 publication Critical patent/JP5455550B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Endoscopes (AREA)

Abstract

【課題】病変部の位置を自動認識し、病変部の位置を示すマークを自動的に内視鏡画像に重畳させることが可能な電子内視鏡用プロセッサを提供する。
【解決手段】電子内視鏡用プロセッサが、撮像素子が撮像した画像をデジタル画像データに変換する画像変換手段と、デジタル画像データを処理して該デジタル画像データに対応する画像に含まれる粘膜のピットパターンの形状に基づいて該デジタル画像データに対応する画像に含まれる病変部を推定するとともに該病変部の座標を特定する病変部位置特定手段と、病変部位置特定手段によって特定された座標に基づいてデジタル画像データに病変部の位置を示すマークを示す画像データを重畳するマーキング手段を有する。
【選択図】 図7

Description

本発明は、電子内視鏡と接続され、電子内視鏡が撮影した画像を処理してモニタ等に表示させる電子内視鏡用プロセッサに関する。
挿入管の先端に内蔵された固体撮像素子によって挿入管先端部周囲を撮像する電子内視鏡と、固体撮像素子から出力される映像信号を処理してモニタ等に表示させる電子内視鏡用プロセッサが、消化器等の体腔内の観察及び診断に広く利用されている。このような電子内視鏡用プロセッサにおいて、内視鏡画像中の病変部に、病変部の位置を示す矢印等のマークを重畳可能とすることは、診断に有用である。
上記の「内視鏡画像中の病変部にマークを重畳可能とする」という目的のため、特許文献1に記載されている電子内視鏡用プロセッサが提案されている。特許文献1に記載の電子内視鏡用プロセッサは、キーボード操作によって、モニタに表示される内視鏡画像に、病変部の位置を示す矢印を重畳することが可能となっている。
特開平1−297038号公報
上記のように、特許文献1に記載の電子内視鏡装置は、病変部の位置を示すマークをモニタに表示することは可能ではあるが、病変部のモニタの画面内における所在は、術者の手動操作によって指示される。例えば、術者のキーボード操作によってマークの表示位置が調整される。そのため、内視鏡処置中における術者の負担が大きなものとなっていた。
本発明は上記の問題を解決するためになされたものである。すなわち、本発明は、病変部の位置を自動認識し、病変部の位置を示すマークを自動的に内視鏡画像に重畳させることが可能な電子内視鏡用プロセッサを提供することを目的とする。
上記の目的を達成するため、本発明の電子内視鏡用プロセッサは、撮像素子が撮像した画像をデジタル画像データに変換する画像変換手段と、デジタル画像データを処理して該デジタル画像データに対応する画像に含まれる粘膜のピットパターンの形状に基づいて該デジタル画像データに対応する画像に含まれる病変部を推定するとともに該病変部の座標を特定する病変部位置特定手段と、病変部位置特定手段によって特定された座標に基づいてデジタル画像データに病変部の位置を示すマークを示す画像データを重畳するマーキング手段を有する。
上記の構成によれば、自動的に病変部の位置が特定されるため、病変部の位置を手動で指定することなく病変部の位置を示すマークを画像中に記入することができる。
また、病変部位置特定手段は、例えばデジタル画像データに二値化及びラベリング処理を行ってピットパターン中の非染色部の抽出を行い、各非染色部の真円度に基づいて該デジタル画像データに対応する画像中の病変部の座標を特定する。
また、病変部位置特定手段は、例えば、デジタル画像データに対応する画像を複数の領域に分割し、複数の領域に含まれる非染色部の真円度の平均値を該複数の領域毎に演算し、非染色部の真円度の平均値が最も小さい領域が病変部であると推定し、病変部であると推定された領域に含まれる座標を病変部の座標とする。
また、病変部位置特定手段は、分割された複数の領域の各々に含まれる非染色部の真円度の平均値を、該分割された複数の領域毎に異なる重み付け係数を掛けることによって補正し、重み付け係数は、デジタル画像データに対応する画像の中心に近い領域程小さく設定されている構成とすることが好ましい。
一般に、電子内視鏡用プロセッサの使用者は、内視鏡観察中に病変部を発見したときに、病変部が画像の中央に来るように電子内視鏡を操作する。従って、病変部にマークを付与しようとする時は、画像の中心部が病変部である可能性が比較的高い。このため、病変部により確実にマークが付与されるようになる。
また、病変部位置特定手段は、例えば病変部であると推定された領域の中心点の座標を前記病変部の座標とする。
また、病変部位置特定手段は、デジタル画像データに対応する画像に含まれる病変部を複数箇所推定して、該複数箇所の病変部毎に該病変部の座標を特定し、電子内視鏡用プロセッサは、複数箇所の病変部の座標のうち、どの病変部の座標に基づいたマークを画面上に描画するのかの選択を受け付ける病変部選択手段を有し、マーキング手段は、複数箇所の病変部の座標のうち、病変部選択手段によって選択された座標に基づいて、デジタル画像データに病変部の位置を示すマークを示す画像データを重畳する構成とすることが好ましい。
このような構成とすると、電子内視鏡用プロセッサの使用者は、病変部位置特定手段が推定した複数の病変部の候補の中から病変部を選択し、選択された病変部の位置にマークを重畳させることが可能となる。病変部位置特定手段が病変部の候補を1つしか推定しない構成では、病変部位置特定手段が病変部以外の部位を病変部であると判断したときに、手動で病変部の位置を入力する必要があるが、本構成によれば、複数の病変部の候補の中から適切なものが選択されるので、病変部により確実にマークが付与されるようになる。
また、電子内視鏡用プロセッサに、デジタル画像データに対応する画像を表示可能なタッチパネルモニタが内蔵されている構成としてもよい。
また、この構成においては、病変部選択手段が前記タッチパネルモニタであることが好ましい。
このような構成とすると、タッチパネルモニタに表示された画像から目を離すことなく、タッチパネルを操作して病変部の選択操作を行うことが可能となる。
また、病変部位置特定手段によって特定された座標に基づいてコメント記入欄を示す画像データをマークを示す画像データが重畳されたデジタル画像データに重畳するコメント描画手段と、文字の入力を受け付ける文字入力手段と、文字入力手段によって入力された文字を示す画像データをコメント記入欄を示す画像データが重畳されたデジタル画像データに重畳する文字描画手段とをさらに有する構成としてもよい。
このような構成とすると、例えば、マークが示す病変部がどのような病変部であるか等の情報を示す文字情報を内視鏡画像に重畳させることができる。
また、文字入力手段がタッチパネルモニタを含む構成としてもよい。例えば、タッチパネルモニタの画面に文字入力の為のソフトウェアキーボードが表示可能である。好ましくは、ソフトウェアキーボードは、タッチパネルの画面に選択的に表示又は非表示されるものである。或いは、タッチパネルモニタの画面には文字入力の為の手書き入力パッドが表示可能である。
また、電子内視鏡用プロセッサが、ストレージと、少なくとも病変部の位置を示すマークを示す画像データが重畳されたデジタル画像データを画像データファイルとしてストレージに保存する画像保存手段とを有する構成としてもよい。
以上のように、本発明の電子内視鏡用プロセッサによれば、病変部の位置を自動認識し、病変部の位置を示すマークを自動的に内視鏡画像に重畳させることが可能となる。
図1は、本発明の実施の形態の電子内視鏡システムのブロック図である。 図2は、本発明の実施の形態のタッチパネルモニタの画面の表示内容の一例を示したものである。 図3は、円及びコメント部が表示されたタッチパネルモニタの画面の表示内容の一例を示したものである。 図4は、大型のソフトウェアキーボードが表示されたタッチパネルモニタの画面の表示内容の一例を示したものである。 図5は、ソフトウェアキーボードの代わりに手書き入力パッドが表示されたタッチパネルモニタの画面の表示内容の一例を示したものである。 図6は、文字色設定のためのサブメニューが表示されたタッチパネルモニタの画面の表示内容の一例を示したものである。 図7は、本発明の実施の形態の電子内視鏡用プロセッサの主コントローラによって実行されるプログラムのフローチャートである。 図8は、大腸の健常な部位のピットパターンの一例である。 図9は、大腸の病変部のピットパターンの一例である。
以下、本発明の実施の形態について図面を用いて説明する。図1は、本実施形態の電子内視鏡システムのブロック図である。本実施形態の電子内視鏡システム1は、電子内視鏡100と、電子内視鏡用プロセッサ200を有する。
電子内視鏡100は、図1に示す如く、その先端にCCD等の撮像素子101を内蔵した挿入管100aと、該挿入管100aの基端に接続され患者の体腔内の対象部位を観察したり撮像したりする為の複数の操作ボタン(図1においては、1つに省略されている。)104や挿入管100aを湾曲操作する為の操作レバー(図示せず)等が設けられた操作部100bと、該操作部に続き電子内視鏡100を電子内視鏡プロセッサ200に接続する為の接続部100cとから構成される。撮像素子101によって撮像された画像は、挿入管100a、操作部100b並びに接続部100c内を挿通する画像信号ケーブル102を介して、電子内視鏡用プロセッサ200に送信される。また、電子内視鏡用プロセッサ200は、電子内視鏡100の撮像素子101によって撮像された画像を処理するビデオプロセッサとしての機能と、電子内視鏡100に照明光を供給するための光源装置としての機能を備えた装置である。
電子内視鏡用プロセッサ200の光源装置としての機能について以下に説明する。図1に示されるように、照明光の伝播経路であるライトガイド103が、電子内視鏡100の挿入管100a、操作部100b並びに接続部100c内に挿通されている。また、電子内視鏡用プロセッサ200は、光源部220を有する。電子内視鏡100が電子内視鏡用プロセッサ200に接続されている状態では、ライトガイド103の基端部は、電子内視鏡用プロセッサ200の内部に配置されており、光源部220は、LEDやランプ等の光源によって生成された照明光を電子内視鏡100のライトガイド103の基端部に入射させるものである。ライトガイド103の基端部に入射した照明光は、ライトガイド103によって電子内視鏡100の挿入管100aの先端部まで導かれ、該先端部付近を照明する。
光源部220は電子内視鏡用プロセッサ200のペリフェラルコントローラ212に接続されている。ペリフェラルコントローラ212は、電子内視鏡用プロセッサ200の主コントローラ211に接続されている。主コントローラ211は、ペリフェラルコントローラ212を介して光源部220の光源の点灯及び消灯を制御することが可能である。
次に電子内視鏡用プロセッサ200のビデオプロセッサとしての機能について以下に説明する。電子内視鏡用プロセッサ200は、前段ビデオコントローラ231と、第1ビデオメモリ232と、第1後段ビデオコントローラ233と、第2ビデオメモリ234と、第2後段ビデオコントローラ235を有する。電子内視鏡100の撮像素子101によって撮像された画像の画像信号は、前段ビデオコントローラ231によってホワイトバランス調整及びデジタル信号への変換が行われ、デジタルの画像データとして第1ビデオメモリ232及び第2ビデオメモリ234に記憶される。第1後段ビデオコントローラ233は、第1ビデオメモリ232に記憶された画像データを周期的に読み出してビデオ信号に変換する。第1後段ビデオコントローラ233によって生成されるビデオ信号は、ビデオケーブル236を介して電子内視鏡用プロセッサ200の外部に設けられた外部モニタ310に送られる。この結果、外部モニタ310には、電子内視鏡100の撮像素子101によって撮像された内視鏡画像が動画として表示される。
また、第2後段ビデオコントローラ235は、第2ビデオメモリ234に記憶された画像データを周期的に読み出してビデオ信号に変換する。変換されたビデオ信号は、電子内視鏡用プロセッサ200に内蔵されたタッチパネルモニタ240に送られるようになっている。この結果、タッチパネルモニタ240には、電子内視鏡100の撮像素子101によって撮像された内視鏡画像が動画として表示される。
また、主コントローラ211は、前段ビデオコントローラ231に信号を送ることによって、前段ビデオコントローラ231から第2ビデオメモリ234への画像データの送信を停止することができる。前段ビデオコントローラ231から第2ビデオメモリ234への画像データの送信が停止した状態では、第2ビデオメモリ234には画像データの送信が停止する直前の画像データが保持され続けることになる。そして、第2後段ビデオコントローラ235によってこの画像データが繰り返し読み出され、ビデオ信号に変換され、タッチパネルモニタ240に送信される。この結果、タッチパネルモニタ240には、画像データの送信が停止する直前の内視鏡画像が静止画像として表示され続ける。第2ビデオメモリ234への画像データの送信が停止した状態であっても、前段ビデオコントローラ231から第1ビデオメモリ232への画像データの送信は引き続き行われるため、外部モニタ310には内視鏡画像が動画として表示され続ける。
また、第2ビデオメモリ234は、2フレームの画像データを記憶可能となっている。一方のフレーム(主フレーム)には、前段ビデオコントローラ231によって生成される画像データが記憶されている。また、電子内視鏡用プロセッサ200の主コントローラ211は、第2ビデオメモリ234の他方のフレーム(オーバーレイフレーム)に画像データを書き込むことができるようになっている。第2後段ビデオコントローラ235は、第2ビデオメモリ234の主フレームの画像データとオーバーレイフレームの画像データの両方を読み出して、主フレームの画像にオーバーレイフレームの画像が重ね合わされた画像を生成し、生成された画像をビデオ信号に変換してタッチパネルモニタ240に出力する。すなわち、主コントローラ211は、タッチパネルモニタ240上に内視鏡画像の上に他の画像が重ね合わされた画像を、タッチパネルモニタ240に表示させることが可能である。例えば、電子内視鏡システム1を操作するためのメニュー画面の画像データをオーバーレイフレームに書き込み、内視鏡画像にメニュー画面が重ね合わされた画像をタッチパネルモニタ240上に表示させることが可能である。或いは、撮像素子101によって撮像された画像とともに、操作メニューや付加情報(日時、患者名等)をタッチパネルモニタ240上に表示させることが可能である。
タッチパネルモニタ240は、指やスタイラス等が画面のどの位置(座標)に触れたかを検知し、その座標情報をペリフェラルコントローラ212に送信する。なお、タッチパネルモニタ240は、感圧方式、静電容量方式等、様々な方式のタッチパネルの中から適宜選択されるものである。電子内視鏡用プロセッサ200の主コントローラ211は、ペリフェラルコントローラ212を介して、タッチパネルモニタ240から出力された座標情報を得ることができる。電子内視鏡システム1の使用者は、指やスタイラス等でタッチパネルモニタ240に触れることによって、電子内視鏡用プロセッサ200を操作する、或いは電子内視鏡用プロセッサ200に情報を入力することができる。
電子内視鏡用プロセッサ200には、キーボード320が接続されている。キーボード300を操作することによってキーボード320から出力されるキー入力信号は、ペリフェラルコントローラ212を介して主コントローラ211に送信される。電子内視鏡システム1の使用者は、キーボード320を操作することによっても、電子内視鏡用プロセッサ200を操作する、或いは電子内視鏡用プロセッサ200に情報を入力することができる。
また、ペリフェラルコントローラ212は、制御信号ケーブル105を介して電子内視鏡100の操作ボタン104と接続されている。電子内視鏡システム1の使用者は、操作ボタン104を押すことによって、電子内視鏡用プロセッサ200を操作することができる。本実施形態においては、操作ボタン104は、内視鏡画像を静止画像としてタッチパネルモニタ240に表示させる際に操作される。すなわち、タッチパネルモニタ240に内視鏡画像が動画として表示されている状態で操作ボタン104が押されると、ペリフェラルコントローラ212を介して主コントローラ211に操作に関する制御信号が送信される。主コントローラ211は、前段ビデオコントローラ231に制御信号を送信する。上記制御信号を受信した前段ビデオコントローラ231は、第2ビデオメモリ234への画像データの送信を停止する。これにより、タッチパネルモニタ240には内視鏡画像が静止画として表示される。
本実施形態の電子内視鏡システム1では、タッチパネルモニタ240やキーボード320を操作することによって、タッチパネルモニタ240に表示されている内視鏡画像にコメントを重畳することが可能である。また、タッチパネルモニタ240やキーボード320を操作することによって、撮像素子101によって撮像された画像及びコメントを画像データとしてストレージ250に保存することが可能である。そして、タッチパネルモニタ240やキーボード320を操作することによってストレージ250に保存された画像データをタッチパネルモニタ240に表示させることができる。タッチパネルモニタ240に表示された画像は、例えば診断結果を患者に説明する際に参照される。
撮像素子101によって撮像された画像にコメントを重畳するための機構について以下に説明する。図2は、本実施形態のタッチパネルモニタ240の画面241の表示内容の一例を示したものである。図2に示されるように、画面241の左側部分は内視鏡画像が表示される画像表示エリア242となっており、画面241の右側部分はメニューボタンM1〜M5やソフトウェアキーボードK1が配置されるメニューエリア243となっている。
電子内視鏡100の操作ボタン104(図1)が押されて静止画像の内視鏡画像がタッチパネルモニタ240に表示されると、主コントローラ211(図1)は、第2ビデオメモリ234の主フレームに記憶されている内視鏡画像の画像データの画像解析を行って、病変部である可能性が高い領域を抽出し、病変部である可能性が高い領域にマーキングを行うようになっている。すなわち、図3に示されるように、主コントローラ211は、病変部の可能性が高いものと判断された領域が円Cで囲われるよう、オーバーレイフレームに円Cの画像データを書き込む。この結果、病変部を示すマークとしての円Cがタッチパネルモニタ240に表示される。さらに、主コントローラ211は、円Cの外周に吹き出し状のコメント部Pが表示されるよう、第2ビデオメモリ234のオーバーレイフレームにコメント部Pの画像データを書き込む。また、コメント部Pが表示されている状態で、指又はスタイラスでソフトウェアキーボードK1に触れると、主コントローラ211は、コメント部P内に文字が記入されるよう、第2ビデオメモリ234のオーバーレイフレームに文字の画像データを書き込む。なお、コメント部Pの枠の部分以外の部分は、背景の内視鏡画像が透過している。
また、メニューボタンM2を操作することによって、コメント部P内に表示される文字の色を変更することができる。具体的には、メニューボタンM2が押されると、図6に示されるように、画面241上に文字色選択用のパレットSM2を含むサイドメニューSMが表示されるように、主コントローラ211は第2ビデオメモリのオーバーレイフレームの書き換えを行う。タッチパネルモニタ240にメニューSMが表示されている状態で、指やスタイラスでパレットSM2に触れることによって文字色を選択することが可能となっている。また、サイドメニューSMには文字色を自動的に設定するためのボタンSM1が配置されている。指やスタイラスでボタンSM1に触れると、文字色はコメント部P内の画像の補色となるよう設定される。文字色を自動的に設定する場合は、文字とコメント部P内の画像が互いに補色の関係となり、見やすい色の文字色となる。ボタンSM1パレットSM2のいずれかに指やスタイラスが触れると、主コントローラ211は、文字色の設定変更を行い、次いで、サイドメニューSMの画像データを第2ビデオメモリ234から消去する。
電子内視鏡100の操作ボタン104(図1)が押されると、主コントローラ211(図1)は、病変部である可能性が高い領域を複数抽出し(すなわち、複数箇所の病変部を推定する)、最も可能性の高いものにマーキングを行う。病変部である可能性が高い領域にマーキングが行われた状態で、指又はスタイラスがメニューボタンM3に触れると、主コントローラ211は、円C及びコメント部Pを一旦消去し、それまでマーキングされていた領域の次に病変部である可能性の高い領域に円C及びコメント部Pが表示されるよう、第2ビデオメモリ234のオーバーレイフレームの内容を書き換える。このように、メニューボタンM3を操作することによって、複数抽出された領域のうち操作者がマーキングを行いたい領域に円C及びコメント部Pを移動させることができる。
なお、メニューボタンM4を操作することによって、上記の病変部の自動検出機能を使用しないようにすることも可能である。病変部の自動検出機能を使用しない場合に、電子内視鏡100の操作ボタン104(図1)が押されると、内視鏡画像は静止画としてタッチパネルモニタ240に表示されるが、円C及びコメント部Pは重畳表示されない。電子内視鏡100の操作ボタン104が押された後に、指又はスタイラスで画像表示エリア242に触れると、主コントローラ211は、触れた位置を中心とする円Cの画像データを第2ビデオメモリ234のオーバーレイフレームに書き込み、さらに、オーバーレイフレームの円Cの外周の位置にコメント部Pの画像データを書き込む。この結果、タッチパネル240に円C及びコメント部Pが表示され、コメント部Pへのコメントの記入が可能な状態となる。
なお、ソフトウェアキーボードK1の代わりに、キーボード320(図1)を操作することによって、コメント部P内に文字を記入することも可能である。また、指やスタイラスでメニューボタンM5に触れることによって、コメント部Pへの文字の入力方法を変更することが可能である。具体的には、図3の状態でメニューボタンM5に触れると、図4のように、ソフトウェアキーボードK1よりも大きいソフトウェアキーボードK2が、画像表示エリア242に表示される。そして、ソフトウェアキーボードK2に触れることによって、コメント部Pに文字を入力することができる。また、図4の状態でメニューボタンM5に触れると、図5のように、手書き入力パッドFがメニューエリア243に表示されるように、主コントローラ211が第2ビデオメモリ234のオーバーレイフレームを書き換える。そして、手書き入力パッドF上で文字を描くように指やスタイラスを動かすことによって、手書き文字認識によりコメント部Pに文字を入力することができる。なお、図5の状態でメニューボタンM5に触れると、手書き入力パッドFの代わりにソフトウェアキーボードK1がメニューエリア243に表示された、図3の状態に戻る。
また、指又はスタイラスにてメニューボタンM1に触れると、主コントローラ211は、主フレームに記憶された内視鏡画像に、オーバーレイフレームに記憶された円C及びコメント部Pの画像が重ね合わされた画像データを生成し、生成された画像データを画像データファイルに変換し、得られた画像データファイルをストレージ250(図1)に保存する。
以上説明した内視鏡画像へのコメント記入及び内視鏡画像の保存機能は、主コントローラ211が図7のフローチャートで示されるプログラムを実行することによって実現される。
本プログラムは、内視鏡画像を静止画としてタッチパネルモニタ240に表示させる処理が行われた、すなわち、電子内視鏡100の操作ボタン104が押された時に実行される。本プログラムが実行されると、ステップS1が最初に実行される。ステップS1では、主コントローラ211は、病変部の自動検出機能がオンに設定されているかどうかの判断を行う。自動検出機能がオンに設定されているのであれば(S1:YES)、ステップS2に進む。
ステップS2では、病変部の中心座標を検出する。病変部の中心座標の検出機能は、染色された大腸の粘膜の内視鏡画像から病変部を自動検出するものである。
大腸の病変部の有無は、ピットパターンの形状を解析することによって行われる。ピットパターンとは粘膜をメチレンブルーやクレシールバイオレット、ピオクタニン等の色素によって染色したときに現れる模様のことである。健常な部位では、図8に示されるように、アスペクト比の小さい楕円状の非染色部nが多数配列されたピットパターンが得られる。一方、病変部では、図9に示されるように、アスペクト比の大きな形状の非染色部nが多数配列されたピットパターンが得られる。
そこで、主コントローラ211は、内視鏡画像の二値化及びラベリング処理によって非染色部nの抽出を行い、抽出された非染色部nの夫々について、周長sと面積aを演算し、下記の数1に基づいて非染色部nの真円度cを算出する。
Figure 2011087793
数1に示されるように、アスペクト比が大きい非染色部n程、真円度cは小さな値となる。一方、非染色部nの形状が真円に近ければ、真円度cは1に近づく。そこで、本実施形態においては、主コントローラ211は、内視鏡画像を、例えば水平5マス、垂直5マスの25マスに分割し、各マスに含まれる非染色部nの真円度の平均値を計算し、平均値の最も小さくなるマスの中心座標を病変部(円C)の中心座標とする。また、主コントローラ211が、画像表示エリア242の中心に最も近いマスで最小の値を取り、画像表示エリア242の中心から離れるほど値が大きくなるような重み付け係数を非染色部nの真円度の平均値に掛けて平均値の補正を行い、補正された平均値が最も小さくなるマスを病変部(円C)の中心座標とする構成としてもよい。一般に内視鏡システム1の操作者は、病変部を画像表示エリア242(図2〜5)の略中心に来るように電子内視鏡100を操作した後に電子内視鏡100の操作ボタン104を押して静止画をタッチパネル240に表示させるので、このような重み付け係数で非染色部nの真円度の平均値を補正することによって、病変部をより確実にマーキングすることができる。
次いで、非染色部nの真円度の平均値が小さい順を優先順位として、この優先順位が高いものから順に1番目から5番目のマスの座標(すなわち、非染色部nの真円度の平均値が最も小さい5つのマスの座標)を、優先順位と関連づけて記憶する。なお、記憶されるマスの座標の数は、5つに限定されるものではなく、5より多くの数のマスの座標を記憶してもよく、或いは、5より少ない数のマスの座標を記憶する構成としてもよい。次いで、ステップS3に進む。
一方、ステップS1にて、病変部の自動検出機能がオフに設定されているのであれば(S1:NO)、ステップS11に進む。ステップS11では、主コントローラ211は、タッチパネルモニタ240(図1〜6)からの入力を受け付ける。タッチパネルモニタ240に指やスタイラスが触れると、ステップS12に進む。
ステップS12は、ステップS11においてタッチパネルモニタ240の画面241のどの座標に指やスタイラスが触れたのかに応じて、異なるステップに分岐する分岐ステップである。指やスタイラスが触れたのが画像表示エリア242であるならば、ステップS13に進む。
ステップS13では、主コントローラ211は、ステップS11で指やスタイラスが触れた部分の座標を、病変部の座標として記憶する。次いで、ステップS3に進む。
また、ステップS11で指やスタイラスが触れた部分の座標がメニューボタンM1であるならば、ステップS12からステップS6に分岐して内視鏡画像の保存が行われる(後述)。また、ステップS11で指やスタイラスが触れた部分の座標が画像表示エリア242でもメニューボタンM1でもないのであれば、ステップS12からステップS11に分岐する。
以上のように、ステップS12及びS13が実行されると、内視鏡システム1の使用者によって病変部の座標が指示される。また、ステップS12及びS6が実行されると、病変部のマーキングを行うことなく内視鏡画像のストレージ250(図1)への保存が行われる。
ステップS3では、主コントローラ211は、ステップS2又はS13で設定された病変部の座標に基づいて、円C及びコメント部P(図3〜6)が重畳されるよう、第2ビデオメモリ234のオーバーレイフレームの書き換えを行う。なお、病変部の座標がステップS2で設定されたものであれば、優先順位の最も高い病変部の座標に基づいて円C及びコメント部Pの重畳を行う。次いで、ステップS4に進む。
ステップS4では、主コントローラ211は、キーボード320(図1)又はタッチパネルモニタ240からの入力を受け付ける。タッチパネルモニタ240に指やスタイラスが触れるか、キーボード320によるキー入力が発生すると、ステップS5に進む。
ステップS5は、ステップS4でどのような入力があったかに応じて、異なるステップに分岐する分岐ステップである。キーボード320によるキー入力が発生したか、指やスタイラスが触れたのがソフトウェアキーボードK1(図2、3、6)、K2(図4)又は手書き入力パッドF(図5)であるならば、ステップS21に進む。
ステップS21では、主コントローラ211は、ソフトウェアキーボードK1、K2、手書き入力パッドF、又はキーボード320にて入力された文字をビットマップで表現した画像データを、第2ビデオメモリ234のオーバーレイフレームのコメント部P(図3〜6)内の位置に追記する。次いでステップS4に戻る。
ステップS4においてメニューボタンM2が操作されたのであれば、ステップS5からS22に分岐する。ステップS22では、主コントローラ211は、サブメニューSM(図6)が画面241上に表示されるよう、第2ビデオメモリ234のオーバーレイフレームの画像データを書き換える。次いで、サブメニューSMでの入力内容に応じてコメント部P内の文字の色が変更されるよう、第2ビデオメモリ234のオーバーレイフレームの画像データを書き換える。次いでステップS4に戻る。
また、ステップS4においてメニューボタンM3が操作されたのであれば、ステップS5からS23に分岐する。ステップS23では、主コントローラ211は、一旦円C及びコメント部Pが消去されるよう第2ビデオメモリ234のオーバーレイフレームの書き換えを行うとともに、病変部候補の座標の優先順位を入れ換える。具体的には、それまで優先順位が1位だった座標(すなわち、現在表示されている円Cに対応する座標)の優先順位を最下位とし、優先順位2〜最下位の座標の優先順位を1つずつ繰り上げる。なお、記憶されている座標が1つのみ、すなわち病変部の座標がステップS13で指定されたものである場合は、上記の優先順位入れ替えの処理は行われない。次いで、ステップS3に戻る。ステップS3では、優先順位が1位の座標(すなわち、ステップS23の実行前は優先順位が2位であった座標)に基づいて円C及びコメント部Pが表示されるよう、主コントローラ211は第2ビデオメモリ234のオーバーレイフレームの書き換えを行う。このように、ステップS23が実行されることによって、タッチパネルモニタ240上に表示される円Cの位置が切り換えられる。
また、ステップS4においてメニューボタンM4が操作されたのであれば、ステップS5からステップS24に分岐する。ステップS24では、主コントローラ211は、円C及びコメント部Pが消去されるよう、第2ビデオメモリ234のオーバーレイフレームの書き換えを行う。次いで、ステップS11に進み、電子内視鏡システム1の使用者による病変部の座標指定が行われる。
また、ステップS4においてメニューボタンM5が操作されたのであれば、ステップS5からステップS25に分岐する。ステップS25にて、ソフトウェアキーボードK1が現在画面241に表示されているのであれば、主コントローラ211(図1)は、ソフトウェアキーボードK1の代わりにソフトウェアキーボードK2を画面241に表示させるよう、第2ビデオメモリ234のオーバーレイフレームの書き換えを行う。また、ソフトウェアキーボードK2が現在画面241に表示されているのであれば、主コントローラ211(図1)は、ソフトウェアキーボードK2の代わりに手書き入力パッドFを画面241に表示させるよう、第2ビデオメモリ234のオーバーレイフレームの書き換えを行う。また、手書き入力パッドFが現在画面241に表示されているのであれば、主コントローラ211(図1)は、手書き入力パッドの代わりにソフトウェアキーボードK1を画面241に表示させるよう、第2ビデオメモリ234のオーバーレイフレームの書き換えを行う。このように、本ステップが実行されると、画面241に表示されている文字入力のためのインターフェースが切り換わるようになっている。
また、ステップS4においてメニューボタンM1が操作されたのであれば、ステップS6に進む。
ステップS4においてメニューボタンM1〜M5、ソフトウェアキーボードK1、K2及び手書き入力パッドF以外の画面241上の部分に指又はスタイラスが触れた時は、何も処理を行わず、ステップS4に戻る。
ステップS6では、主コントローラ211は、第2ビデオメモリ234の主フレームに記憶されている内視鏡画像の画像データと、オーバーレイフレームに記憶されている円C及びコメントPの画像データとを結合し、円C及びコメントPが含まれる内視鏡画像を示す一枚の画像データを生成する。次いで、ステップS7に進む。
ステップS7では、主コントローラ211は、ステップS6で生成された画像データを、画像データファイルとしてストレージ250に保存する。次いで、ステップS8に進む。
ステップS8では、主コントローラ211(図1)は前段ビデオコントローラ231(図1)に制御信号を送り、前段ビデオコントローラ231から第2ビデオメモリ234に画像データが再び送信されるようにする。これにより、タッチパネルモニタ240には再び内視鏡画像が動画として表示されるようになる。次いで、本プログラムを終了する。
以上のように、本プログラムが実行されることによって、病変部を示す円C及びコメント部Pが追加された内視鏡画像が、画像データファイルとしてストレージ250に保存される。
本実施形態においては、染色された大腸の粘膜の内視鏡画像から病変部の位置を自動検出するものである。しかしながら、本発明は上記の構成に限定されるものではなく、ピットパターンの形状に基づいて病変部の抽出が可能な他の器官の粘膜の内視鏡画像から、病変部の位置を自動検出する構成も又、本発明に含まれる。
また、本実施形態においては、タッチパネルモニタ240の画面上に、各種操作を行うための5つのボタンM1〜M5が表示されている。しかしながら、画面上に表示されるボタンの数、ボタンの表示位置、ボタンの大きさ、ボタンの配列(複数のボタンを垂直方向に並べるか、或いは水平方向に並べるか等)、及びボタンの夫々に割り当てられる機能については、内視鏡システム1の使用者によって、適宜設定変更を行うことが可能である。
また、本実施形態においては、初期状態ではソフトウェアキーボードK1が文字入力のためのインターフェースとして画面上に表示されており、ボタンM5が操作されると、文字入力のためのインターフェースが切り換わるようになっている。しかしながら、初期状態で表示される文字入力のためのインターフェースを、ソフトウェアキーボードK2または手書き入力パッドFとするよう、内視鏡システムの使用者が適宜設定変更を行うことが可能である。また、ボタンM5が操作されたときに文字入力のためのインターフェースを切り換える順番もまた、内視鏡システムの使用者が適宜設定変更を行うことが可能である。
1 電子内視鏡システム
100 電子内視鏡
101 撮像素子
104 操作ボタン
200 電子内視鏡用プロセッサ
211 主コントローラ
212 ペリフェラルコントローラ
231 前段ビデオコントローラ
232 第1ビデオメモリ
233 第1後段ビデオコントローラ
234 第2ビデオメモリ
235 第2後段ビデオコントローラ
240 タッチパネルモニタ
250 ストレージ
310 外部モニタ
320 キーボード

Claims (14)

  1. 電子内視鏡と接続されて該電子内視鏡の撮像素子が撮像した画像をビデオ信号に変換して表示手段に表示させる電子内視鏡用プロセッサであって、
    前記撮像素子が撮像した画像をデジタル画像データに変換する画像変換手段と、
    前記デジタル画像データを処理して、該デジタル画像データに対応する画像に含まれる粘膜のピットパターンの形状に基づいて、該デジタル画像データに対応する画像に含まれる病変部を推定するとともに該病変部の座標を特定する病変部位置特定手段と、
    前記病変部位置特定手段によって特定された座標に基づいて、前記デジタル画像データに病変部の位置を示すマークを示す画像データを重畳するマーキング手段と
    を有することを特徴とする電子内視鏡用プロセッサ。
  2. 前記病変部位置特定手段は、前記デジタル画像データに二値化及びラベリング処理を行って前記ピットパターン中の非染色部の抽出を行い、各非染色部の真円度に基づいて該デジタル画像データに対応する画像中の病変部の座標を特定することを特徴とする請求項1に記載の電子内視鏡用プロセッサ。
  3. 前記病変部位置特定手段は、
    前記デジタル画像データに対応する画像を複数の領域に分割し、
    前記複数の領域に含まれる非染色部の真円度の平均値を該複数の領域毎に演算し、
    前記非染色部の真円度の平均値が最も小さい領域が前記病変部であると推定し、
    前記病変部であると推定された領域に含まれる座標を前記病変部の座標とする
    ことを特徴とする請求項2に記載の電子内視鏡用プロセッサ。
  4. 前記病変部位置特定手段は、前記分割された複数の領域の各々に含まれる非染色部の真円度の平均値を、該分割された複数の領域毎に異なる重み付け係数を掛けることによって補正し、
    前記重み付け係数は、前記デジタル画像データに対応する画像の中心に近い領域程小さく設定されている
    ことを特徴とする請求項3に記載の電子内視鏡用プロセッサ。
  5. 前記病変部位置特定手段は、前記病変部であると推定された領域の中心点の座標を前記病変部の座標とすることを特徴とする請求項3又は4に記載の電子内視鏡用プロセッサ。
  6. 前記病変部位置特定手段は、前記デジタル画像データに対応する画像に含まれる病変部を複数箇所推定して、該複数箇所の病変部毎に該病変部の座標を特定し、
    前記電子内視鏡用プロセッサは、前記複数箇所の病変部の座標のうち、どの病変部の座標に基づいたマークを画面上に描画するのかの選択を受け付ける病変部選択手段を有し、
    前記マーキング手段は、前記複数箇所の病変部の座標のうち、前記病変部選択手段によって選択された座標に基づいて、前記デジタル画像データに前記病変部の位置を示すマークを示す画像データを重畳する
    ことを特徴とする請求項1から5のいずれか一項に記載の電子内視鏡用プロセッサ。
  7. 前記電子内視鏡用プロセッサに、前記デジタル画像データに対応する画像を表示可能なタッチパネルモニタが設けられていることを特徴とする請求項1から請求項6のいずれか一項に記載の電子内視鏡用プロセッサ。
  8. 前記病変部選択手段が前記タッチパネルモニタであることを特徴とする請求項6を引用する請求項7に記載の電子内視鏡用プロセッサ。
  9. 前記病変部位置特定手段によって特定された座標に基づいてコメント記入欄を示す画像データを前記マークを示す画像データが重畳されたデジタル画像データに重畳するコメント描画手段と、
    文字の入力を受け付ける文字入力手段と、
    前記文字入力手段によって入力された文字を示す画像データを、前記コメント記入欄を示す画像データが重畳されたデジタル画像データに重畳する文字描画手段と
    をさらに有することを特徴とする請求項1から8のいずれか一項に記載の電子内視鏡用プロセッサ。
  10. 前記文字入力手段が前記タッチパネルモニタを含むことを特徴とする請求項7または8を引用する請求項9に記載の電子内視鏡用プロセッサ。
  11. 前記タッチパネルモニタの画面には文字入力の為のソフトウェアキーボードが表示可能であることを特徴とする請求項10に記載の電子内視鏡用プロセッサ。
  12. 前記ソフトウェアキーボードは、前記タッチパネルモニタの画面に選択的に表示又は非表示されるものであることを特徴とする請求項11に記載の電子内視鏡用プロセッサ。
  13. 前記タッチパネルモニタの画面には文字入力の為の手書き入力パッドが表示可能であることを特徴とする請求項9から請求項12のいずれか一項に記載の電子内視鏡用プロセッサ。
  14. ストレージと、
    少なくとも前記病変部の位置を示すマークを示す画像データが重畳されたデジタル画像データを画像データファイルとして前記ストレージに保存する画像保存手段と
    をさらに有することを特徴とする請求項1から13のいずれか一項に記載の電子内視鏡用プロセッサ。
JP2009244296A 2009-10-23 2009-10-23 電子内視鏡用プロセッサ Active JP5455550B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009244296A JP5455550B2 (ja) 2009-10-23 2009-10-23 電子内視鏡用プロセッサ

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009244296A JP5455550B2 (ja) 2009-10-23 2009-10-23 電子内視鏡用プロセッサ

Publications (2)

Publication Number Publication Date
JP2011087793A true JP2011087793A (ja) 2011-05-06
JP5455550B2 JP5455550B2 (ja) 2014-03-26

Family

ID=44106651

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009244296A Active JP5455550B2 (ja) 2009-10-23 2009-10-23 電子内視鏡用プロセッサ

Country Status (1)

Country Link
JP (1) JP5455550B2 (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012170641A (ja) * 2011-02-22 2012-09-10 Olympus Corp 蛍光観察装置
JP2014018430A (ja) * 2012-07-18 2014-02-03 Olympus Corp 内視鏡システム
JP2016174639A (ja) * 2015-03-18 2016-10-06 株式会社日立製作所 超音波診断装置及びプログラム
WO2018020558A1 (ja) * 2016-07-25 2018-02-01 オリンパス株式会社 画像処理装置、画像処理方法およびプログラム
WO2018069992A1 (ja) * 2016-10-12 2018-04-19 オリンパス株式会社 挿入システム
WO2019146075A1 (ja) * 2018-01-26 2019-08-01 オリンパス株式会社 内視鏡画像処理装置、内視鏡画像処理プログラム及び内視鏡画像処理方法
CN111655116A (zh) * 2017-10-30 2020-09-11 公益财团法人癌研究会 图像诊断辅助装置、资料收集方法、图像诊断辅助方法及图像诊断辅助程序
CN111989025A (zh) * 2018-03-30 2020-11-24 奥林巴斯株式会社 诊断辅助装置、诊断辅助方法和诊断辅助程序
WO2021010225A1 (ja) * 2019-07-18 2021-01-21 Hoya株式会社 コンピュータプログラム、情報処理方法、及び内視鏡用プロセッサ
WO2021132023A1 (ja) 2019-12-26 2021-07-01 富士フイルム株式会社 医用画像処理装置、医用画像処理方法及びプログラム

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000325305A (ja) * 1999-05-18 2000-11-28 Olympus Optical Co Ltd 内視鏡用画像処理装置
JP2004181096A (ja) * 2002-12-05 2004-07-02 Olympus Corp 画像処理方法
JP2006141734A (ja) * 2004-11-19 2006-06-08 Olympus Corp 画像処理装置、画像処理方法、及び画像処理プログラム
JP2008029521A (ja) * 2006-07-27 2008-02-14 Olympus Medical Systems Corp 内視鏡システム
JP2008099874A (ja) * 2006-10-19 2008-05-01 Pentax Corp 内視鏡プロセッサおよび内視鏡システム
JP2008307229A (ja) * 2007-06-14 2008-12-25 Olympus Corp 画像処理装置および画像処理プログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000325305A (ja) * 1999-05-18 2000-11-28 Olympus Optical Co Ltd 内視鏡用画像処理装置
JP2004181096A (ja) * 2002-12-05 2004-07-02 Olympus Corp 画像処理方法
JP2006141734A (ja) * 2004-11-19 2006-06-08 Olympus Corp 画像処理装置、画像処理方法、及び画像処理プログラム
JP2008029521A (ja) * 2006-07-27 2008-02-14 Olympus Medical Systems Corp 内視鏡システム
JP2008099874A (ja) * 2006-10-19 2008-05-01 Pentax Corp 内視鏡プロセッサおよび内視鏡システム
JP2008307229A (ja) * 2007-06-14 2008-12-25 Olympus Corp 画像処理装置および画像処理プログラム

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012170641A (ja) * 2011-02-22 2012-09-10 Olympus Corp 蛍光観察装置
JP2014018430A (ja) * 2012-07-18 2014-02-03 Olympus Corp 内視鏡システム
JP2016174639A (ja) * 2015-03-18 2016-10-06 株式会社日立製作所 超音波診断装置及びプログラム
WO2018020558A1 (ja) * 2016-07-25 2018-02-01 オリンパス株式会社 画像処理装置、画像処理方法およびプログラム
CN109475278A (zh) * 2016-07-25 2019-03-15 奥林巴斯株式会社 图像处理装置、图像处理方法和程序
JPWO2018020558A1 (ja) * 2016-07-25 2019-05-09 オリンパス株式会社 画像処理装置、画像処理方法およびプログラム
US11602263B2 (en) 2016-10-12 2023-03-14 Olympus Corporation Insertion system, method and computer-readable storage medium for displaying attention state information over plurality of times
WO2018069992A1 (ja) * 2016-10-12 2018-04-19 オリンパス株式会社 挿入システム
JPWO2018069992A1 (ja) * 2016-10-12 2019-07-18 オリンパス株式会社 挿入システム
CN111655116A (zh) * 2017-10-30 2020-09-11 公益财团法人癌研究会 图像诊断辅助装置、资料收集方法、图像诊断辅助方法及图像诊断辅助程序
WO2019146075A1 (ja) * 2018-01-26 2019-08-01 オリンパス株式会社 内視鏡画像処理装置、内視鏡画像処理プログラム及び内視鏡画像処理方法
CN111989025A (zh) * 2018-03-30 2020-11-24 奥林巴斯株式会社 诊断辅助装置、诊断辅助方法和诊断辅助程序
WO2021010225A1 (ja) * 2019-07-18 2021-01-21 Hoya株式会社 コンピュータプログラム、情報処理方法、及び内視鏡用プロセッサ
CN113168699A (zh) * 2019-07-18 2021-07-23 Hoya株式会社 计算机程序、信息处理方法以及内窥镜用处理器
US20210393109A1 (en) * 2019-07-18 2021-12-23 Hoya Corporation Computer program and endoscope processor
CN113168699B (zh) * 2019-07-18 2023-07-25 Hoya株式会社 计算机程序、信息处理方法以及内窥镜用处理器
US11937767B2 (en) 2019-07-18 2024-03-26 Hoya Corporation Endoscope
WO2021132023A1 (ja) 2019-12-26 2021-07-01 富士フイルム株式会社 医用画像処理装置、医用画像処理方法及びプログラム

Also Published As

Publication number Publication date
JP5455550B2 (ja) 2014-03-26

Similar Documents

Publication Publication Date Title
JP5455550B2 (ja) 電子内視鏡用プロセッサ
CN107077258B (zh) 投射型影像显示装置以及影像显示方法
US8353816B2 (en) Endoscopy system and method therefor
JP6217632B2 (ja) 撮像制御装置、記憶システムおよび記憶媒体
US11607109B2 (en) Endoscopic image processing device, endoscopic image processing method, endoscopic image processing program, and endoscope system
US20040239760A1 (en) Medical image recording apparatus, endoscopic image display method, endoscopic image capture method, and portable storage medium therefor
JP2008301968A (ja) 内視鏡画像処理装置
US20100030021A1 (en) Image Display Apparatus, Endoscope System Using the Same, and Image Display Method
US8970687B2 (en) Medical information management apparatus and medical information management system
JP2004337596A (ja) 画像表示装置、画像表示方法および画像表示プログラム
EP3795062A1 (en) Endoscope device, endoscope operation method, and program
US10568497B2 (en) Signal processing apparatus and endoscope system with composite image generation
JP2007286696A (ja) 入力装置
WO2020110214A1 (ja) 内視鏡システム、及び、内視鏡用画像処理方法、並びに、内視鏡用画像処理プログラム
US10123681B2 (en) Endoscope insertion shape observation apparatus having a controller to drive bending of insertion portion of endoscope
JP5581122B2 (ja) 電子内視鏡装置
JP2006223850A (ja) 電子内視鏡システム
JP2011217854A (ja) 電子内視鏡用プロセッサ
WO2018179979A1 (ja) 制御装置、外部機器、医療用観察システム、制御方法、表示方法およびプログラム
JP7389257B2 (ja) 内視鏡システム及びその作動方法
JP2008119260A (ja) 生体観測システム
EP4285810A1 (en) Medical image processing device, method, and program
WO2018043585A1 (ja) 内視鏡装置、情報処理装置およびプログラム
JP4827414B2 (ja) 電子内視鏡システムとファイリングシステム
JP2006042902A (ja) 電子内視鏡装置及び内視鏡画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120807

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20130510

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130726

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131003

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140107

R150 Certificate of patent or registration of utility model

Ref document number: 5455550

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250