JP2014210194A - 内視鏡装置 - Google Patents

内視鏡装置 Download PDF

Info

Publication number
JP2014210194A
JP2014210194A JP2014129340A JP2014129340A JP2014210194A JP 2014210194 A JP2014210194 A JP 2014210194A JP 2014129340 A JP2014129340 A JP 2014129340A JP 2014129340 A JP2014129340 A JP 2014129340A JP 2014210194 A JP2014210194 A JP 2014210194A
Authority
JP
Japan
Prior art keywords
image
video signal
measurement
unit
processing unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014129340A
Other languages
English (en)
Other versions
JP5771729B2 (ja
Inventor
小川 清富
Kiyotomi Ogawa
清富 小川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2014129340A priority Critical patent/JP5771729B2/ja
Publication of JP2014210194A publication Critical patent/JP2014210194A/ja
Application granted granted Critical
Publication of JP5771729B2 publication Critical patent/JP5771729B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes

Landscapes

  • Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Endoscopes (AREA)
  • Surgery (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • General Physics & Mathematics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Astronomy & Astrophysics (AREA)
  • Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)

Abstract

【課題】計測精度の低下を防止することができる内視鏡装置を提供する。
【解決手段】
ユーザが計測起動操作指示を行った場合、ぶれ演算処理部46によって算出された動きベクトルの大きさによって設定されたぶれ検出フラグの値を確認し、そのぶれ検出フラグの値が第2の閾値を超えた場合に設定される2であった場合には、制御部48は計測処理部47を起動させず、計測処理を実行させない。
【選択図】図9

Description

本発明は、内視鏡により被写体を撮像して得られた映像信号に基づいて計測処理を実行する内視鏡装置に関する。
内視鏡装置は、ボイラー、タービン、エンジン、パイプ等の内部の傷や腐食等の観察や検査に使用されている。また、内視鏡装置において、内視鏡で撮像された画像上で指定された計測点をもとに、三角測量の原理で長さや面積などの計測を行う機能を備えた計測用内視鏡装置がある。特許文献1,2には、内視鏡の先端から観察対象の被写体(観察対象物)までの距離(物体距離)をリアルタイムに表示することによって、内視鏡の先端が計測に適した距離まで観察対象物に近づいているかどうかをユーザに知らせることができる計測用内視鏡装置が記載されている。
特開2006−136706号公報 特開2006−325741号公報
しかし、内視鏡の先端が観察対象物まで十分に近づいて画像を取得しても、その画像を取得する際に内視鏡の先端または観察対象物が動いてしまった場合には、画像にぶれが発生してしまう。そして、ユーザがそのぶれに気づかずに計測処理を実行すると、計測精度が低下する可能性があった。
本発明は、上述した課題に鑑みてなされたものであって、計測精度の低下を防止する内視鏡装置を提供することを目的とする。
本発明は、上記の課題を解決するためになされたもので、被写体を撮像し撮像信号を生成する撮像部と、前記撮像信号に基づいて生成される映像信号に基づく画像からぶれ量を検出する検出部と、前記撮像信号に基づいて生成される表示信号に基づく画像を表示する表示部と、撮像された被写体を計測する計測処理部と、ユーザの操作指示を入力するための操作指示部と、を備え、前記表示信号に基づく画像が前記表示部に表示されている状態で、前記操作指示部に計測起動指示が入力されたとき、前記検出部によって検出された、前記映像信号に基づく画像のぶれ量が所定の閾値を超える場合に、前記計測処理部は当該映像信号に基づく画像に対する計測処理を禁止する、ことを特徴とする内視鏡装置である。
また、本発明の内視鏡装置において、前記表示部によって前記画像が表示されている状態で、前記操作指示部に計測起動指示が入力されたとき、前記映像信号に基づく画像のぶれ量が所定の閾値を超える場合に、さらに、ユーザに対して前記画像が計測に適していないことを通知することを特徴とする。
また、本発明の内視鏡装置において、前記撮像部は複数の撮像信号を生成し、前記検出部は前記複数の撮像信号に基づいて生成される連続する複数の映像信号に基づく複数の画像からぶれ量を検出することを特徴とする。
また、本発明の内視鏡装置において、前記検出部はライブ状態のときに前記映像信号に基づく画像のぶれ量を検出することを特徴とする。
また、本発明の内視鏡装置において、前記操作指示部から前記画像を静止させて表示する指示が入力された後に、前記検出部は前記映像信号に基づく画像に基づいてぶれ量を検出することを特徴とする。
また、本発明の内視鏡装置において、ユーザに対して前記画像が計測に適していないことを通知するために、前記表示部は計測不可能である旨の警告メッセージを表示することを特徴とする。
また、本発明の内視鏡装置において、前記映像信号に基づく画像はフレーム画像であることを特徴とする。
本発明によれば、画像のぶれ量が所定の閾値を超える場合に、当該画像に対する計測処理を禁止することによって、計測精度の低下を防止することができる。
本発明の一実施形態による内視鏡装置の全体構成を示す斜視図である。 本発明の一実施形態による内視鏡装置の内部構成を示すブロック図である。 本発明の一実施形態による内視鏡装置の機能構成を示すブロック図である。 本発明の一実施形態による内視鏡装置の機能構成を示すブロック図である。 本発明の一実施形態による内視鏡装置の機能構成を示すブロック図である。 本発明の一実施形態による内視鏡装置の動作の手順を示すフローチャートである。 本発明の一実施形態による内視鏡装置の動作の手順を示すフローチャートである。 本発明の一実施形態による内視鏡装置の動作の手順を示すフローチャートである。 本発明の一実施形態による内視鏡装置の動作の手順を示すフローチャートである。 本発明の一実施形態による内視鏡装置の動作の手順を示すフローチャートである。 本発明の一実施形態による内視鏡装置の動作の手順を示すフローチャートである。 本発明の一実施形態による内視鏡装置の動作の手順を示すフローチャートである。 本発明の一実施形態による内視鏡装置の機能構成を示すブロック図である。 本発明の一実施形態による内視鏡装置の機能構成を示すブロック図である。 ステレオ計測による計測点の3次元座標の求め方を説明するための参考図である。
以下、図面を参照し、本発明の実施形態を説明する。図1は、本実施形態による内視鏡装置の全体構成を示している。図1に示すように、内視鏡装置1は、内視鏡2と、この内視鏡2に接続された装置本体3とを備えている。内視鏡2は、細長な挿入部20と、装置全体の各種動作制御を実行する際に必要な操作を行うための操作部6とを備えている。装置本体3は、内視鏡2で撮像された被写体の画像や操作制御内容(例えば処理メニュー)等の表示を行う表示装置であるモニタ4(液晶モニタ)と、内部に制御ユニット10(図2参照)を有する筐体5とを備えている。
挿入部20は、硬質な先端部21と、例えば上下左右に湾曲可能な湾曲部22と、柔軟性を有する可撓管部23とを先端側から順に連設して構成されている。先端部21には、観察視野を2つ有するステレオ光学アダプタや観察視野が1つの通常観察光学アダプタ等、各種光学アダプタが着脱自在になっている。
図2に示すように筐体5内には、内視鏡ユニット8、CCU9(カメラコントロールユニット)、および制御ユニット10が設けられており、挿入部20の基端部は内視鏡ユニット8に接続されている。内視鏡ユニット8は、先端部21に内蔵されている光源を駆動する光源駆動装置と、挿入部20を構成する湾曲部22を湾曲させる湾曲装置とを備えて構成され、CCU9は、撮像素子28をインターレース駆動する撮像素子駆動装置を備えて構成されている。
先端部21には撮像素子28が内蔵されている。撮像素子28は、光学アダプタを介して結像された被写体像を光電変換し、撮像信号を生成する。インターレース駆動により、撮像素子28は、奇数フィールドの撮像信号と偶数フィールドの撮像信号を交互に出力する。CCU9には、撮像素子28から出力された撮像信号が入力される。この撮像信号は、CCU9内で例えばNTSC信号等の映像信号(画像データ)に変換されて、制御ユニット10へ供給される。また、先端部21には、被写体に照射する照明光を発生するLED等の光源も内蔵されている。
制御ユニット10内には、映像信号が入力される映像信号処理回路12、ROM13、RAM14、カードI/F15(カードインターフェイス)、USB I/F16(USBインターフェイス)、およびRS−232C I/F17(RS−232Cインターフェイス)と、これら各種機能を主要プログラムに基づいて実行し動作制御を行うCPU18とが設けられている。
RS−232C I/F17には、CCU9および内視鏡ユニット8が接続されると共に、これらCCU9や内視鏡ユニット8等の制御および動作指示を行う操作部6が接続されている。ユーザが操作部6を操作すると、その操作内容に基づいて、CCU9および内視鏡ユニット8を動作制御する際に必要な通信が行われる。
USB I/F16は、制御ユニット10とパーソナルコンピュータ31とを電気的に接続するためのインターフェイスである。このUSB I/F16を介して制御ユニット10とパーソナルコンピュータ31とを接続することによって、パーソナルコンピュータ31側で内視鏡画像の表示指示や、計測時における画像処理等の各種の指示制御を行うことが可能になると共に、制御ユニット10とパーソナルコンピュータ31との間での各種の処理に必要な制御情報やデータ等の入出力を行うことが可能になる。
また、カードI/F15には、メモリカード32を自由に着脱することができるようになっている。メモリカード32をカードI/F15に装着することにより、CPU18による制御に従って、このメモリカード32に記憶されている制御処理情報や画像情報等のデータの制御ユニット10への取り込み、あるいは制御処理情報や画像情報等のデータのメモリカード32への記録を行うことが可能になる。
映像信号処理回路12は、CCU9から供給された映像信号に基づく内視鏡画像と、グラフィックによる操作メニューとを合成した合成画像を表示するため、CPU18の制御により生成される、操作メニューに基づくグラフィック画像信号とCCU9からの映像信号を合成する処理や、モニタ4の画面上に表示するのに必要な処理等を行い、表示信号をモニタ4に供給する。
また、この映像信号処理回路12は、単に内視鏡画像、あるいは操作メニュー等の画像を単独で表示するための処理を行うことも可能である。したがって、モニタ4の画面上には、内視鏡画像、操作メニュー画像、内視鏡画像と操作メニュー画像との合成画像等が表示される。なお、本実施形態のモニタ4は、インターレース駆動により生成された映像信号に対応しているものとする。
CPU18は、ROM13に格納されているプログラムを実行することによって、目的に応じた処理を行うように各種回路部等を制御して、内視鏡装置1全体の動作制御を行う。RAM14は、CPU18によって、データの一時格納用の作業領域として使用される。
図3、図4、図5は、内視鏡装置1のうち、本実施形態の説明の中心となる部分の機能構成を示している。図3は、計測起動操作が行われる場合の機能構成を示している。計測起動操作とは、計測機能を起動する指示を入力する操作である。
図4は、画像記録操作が行われる場合の機能構成を示している。画像記録操作とは、フレーム画像をメモリカード32等に記録する指示を入力する操作である。図5は、画像再生操作が行われる場合の機能構成を示している。画像再生操作とは、画像記録操作によりメモリカード32等に記録されたフレーム画像を再生する指示を入力する操作である。
映像信号生成部41はCCU9の機能に対応する。この映像信号生成部41は、撮像素子28から出力された撮像信号に基づいて、第1の画像を構成する映像信号を生成する。より具体的には、映像信号生成部41は、撮像素子28のインターレース駆動に同期して、奇数フィールドの映像信号と偶数フィールドの映像信号を交互に出力する。
フレーム画像生成処理部42、奇数フィールド画像生成処理部43、偶数フィールド画像生成処理部44は映像信号処理回路12の機能に対応する。フレーム画像生成処理部42は、映像信号生成部41から出力された奇数フィールドの映像信号と偶数フィールドの映像信号を合成してフレームの映像信号を生成する。以下では、フレーム画像生成処理部42が生成するフレームの映像信号をフレーム画像と記載する。フレーム画像の奇数行(奇数フィールド)の映像信号は、映像信号生成部41から出力された奇数フィールドの映像信号で構成され、フレーム画像の偶数行(偶数フィールド)の映像信号は、映像信号生成部41から出力された偶数フィールドの映像信号で構成される。
奇数フィールド画像生成処理部43は、映像信号生成部41から出力された奇数フィールドの映像信号に基づいてフレームの映像信号を生成する。以下では、奇数フィールド画像生成処理部43が生成するフレームの映像信号を奇数フィールド画像と記載する。奇数フィールド画像の奇数行(奇数フィールド)の映像信号は、映像信号生成部41から出力された奇数フィールドの映像信号で構成されており、奇数フィールド画像の偶数行(偶数フィールド)の映像信号は、奇数行の映像信号で補間されたものである。奇数フィールド画像の各偶数行の映像信号は、上下に隣接する奇数行の映像信号の平均でもよい。
偶数フィールド画像生成処理部44は、映像信号生成部41から出力された偶数フィールドの映像信号に基づいてフレームの映像信号を生成する。以下では、偶数フィールド画像生成処理部44が生成するフレームの映像信号を偶数フィールド画像と記載する。偶数フィールド画像の偶数行(偶数フィールド)の映像信号は、映像信号生成部41から出力された偶数フィールドの映像信号で構成されており、偶数フィールド画像の奇数行(奇数フィールド)の映像信号は、偶数行の映像信号で補間されたものである。偶数フィールド画像の各奇数行の映像信号は、上下に隣接する偶数行の映像信号の平均でもよい。
ぶれ軽減処理部45,52、ぶれ演算処理部46、計測処理部47、制御部48、画像記録部49、画像再生部50、奇数フィールド画像生成処理部51はCPU18の機能に対応する。ぶれ演算処理部46は、奇数フィールド画像生成処理部43から出力された奇数フィールド画像と、偶数フィールド画像生成処理部44から出力された偶数フィールド画像とに基づいて、各画像間の運動パラメータである動きベクトルを算出する。ぶれ軽減処理部45は、ぶれ演算処理部46によって算出された動きベクトルの大きさが所定値を超える場合に、フレーム画像生成処理部42から出力されたフレーム画像を、奇数フィールド画像生成処理部43から出力された奇数フィールド画像(第2の画像)に置き換える処理を行う。この奇数フィールド画像の代わりに偶数フィールド画像を用いてもよい。
撮像素子28では、インターレース駆動により、奇数行と偶数行に分けて2回の走査が行われる。このため、フレーム画像では、先端部21または観察対象物に動きがあると、2回の走査タイミングの違いにより画像にぶれが発生する。これに対して、奇数フィールド画像は、1回の走査により取得された奇数フィールドの映像信号で構成されているため、先端部21または観察対象物に動きがあっても、フレーム画像よりぶれが低下する。
計測処理部47は、フレーム画像または奇数フィールド画像に基づいて計測処理を実行する。制御部48は、ぶれ軽減処理部45等の各部のそれぞれへの処理の割り当てを制御すると共に、内視鏡装置1全体の動作を制御する。
画像記録部49は、画像記録操作が行われた場合に、フレーム画像生成処理部42によって生成されたフレーム画像と、ぶれ検出フラグとをメモリカード32等に記録する。ぶれ検出フラグは、ぶれ演算処理部46によって算出された動きベクトルの大きさに応じた値をとるフラグである。画像再生部50は、画像再生操作が行われた場合に、メモリカード32等に記録されているフレーム画像とぶれ検出フラグを再生する。
奇数フィールド画像生成処理部51は、画像再生部50によって再生されたフレーム画像中の奇数行の映像信号に基づいてフレームの映像信号を生成する。以下では、奇数フィールド画像生成処理部51が生成するフレームの映像信号を奇数フィールド画像と記載する。この奇数フィールド画像の奇数行(奇数フィールド)の映像信号は、画像再生部50によって再生されたフレーム画像中の奇数行の映像信号で構成されており、奇数フィールド画像の偶数行(偶数フィールド)の映像信号は、奇数行の映像信号で補間されたものである。奇数フィールド画像の各偶数行の映像信号は、上下に隣接する奇数行の映像信号の平均でもよい。
ぶれ軽減処理部52は、画像再生部50によって再生されたぶれ検出フラグの値が所定の値である場合に、画像再生部50によって再生されたフレーム画像を、奇数フィールド画像生成処理部51によって生成された奇数フィールド画像(第2の画像)に置き換える処理を行う。ぶれ検出フラグの値が所定の値である場合とは、画像記録前にぶれ演算処理部46によって算出された動きベクトルの大きさが所定値を超える場合に相当する。
次に、本実施形態による内視鏡装置1の動作を説明する。内視鏡装置1は、電源が投入されると、撮像と画像表示を繰り返し行うライブ状態となる。図6に示すように、ライブ状態では、撮像素子28は奇数行と偶数行のそれぞれの走査を行い、奇数フィールドの撮像信号と偶数フィールドの撮像信号を生成する(ステップS100)。映像信号生成部41は、奇数フィールドの撮像信号と偶数フィールドの撮像信号をそれぞれ映像信号に変換し、奇数フィールドの映像信号と偶数フィールドの映像信号を出力する(ステップS105)。
映像信号処理回路12は、CPU18から供給されるグラフィック画像信号と偶数・奇数フィールドの映像信号を合成して表示信号を生成し、モニタ4へ出力する。モニタ4は、表示信号に基づいて画像を表示する(ステップS110)。制御部48は、操作部6からの信号を検出し(ステップS115)、ユーザによる操作部6の操作内容を判定する(ステップS120)。ユーザが操作を行っていない場合、処理はステップS100に戻る。また、ユーザがフリーズ操作を行った場合、内視鏡装置1はフリーズ開始状態となる。フリーズ操作(第1の操作指示)とは、静止画像を表示する指示を入力する操作である。また、ユーザが画像再生操作を行った場合、内視鏡装置1は画像再生開始状態となる。
図7に示すように、フリーズ開始状態では、フレーム画像生成処理部42は、映像信号生成部41から出力された奇数フィールドの映像信号と偶数フィールドの映像信号を合成してフレーム画像を生成する(ステップS200)。映像信号処理回路12は、CPU18から供給されるグラフィック画像信号とフレーム画像を合成して表示信号を生成し、モニタ4へ出力する。モニタ4は、表示信号に基づいて画像を表示する(ステップS205)。モニタ4に表示された画像は静止画像であり、モニタ4は、フリーズ状態が終了するまでこの静止画像を表示し続ける。
続いて、奇数フィールド画像生成処理部43は、映像信号生成部41から出力された奇数フィールドの映像信号に基づいて奇数フィールド画像を生成する(ステップS210)。また、偶数フィールド画像生成処理部44は、映像信号生成部41から出力された偶数フィールドの映像信号に基づいて偶数フィールド画像を生成する(ステップS215)。なお、奇数フィールド画像と偶数フィールド画像の生成は、フレーム画像の生成よりも前に行ってもよい。
続いて、ぶれ演算処理部46は、奇数フィールド画像生成処理部43から出力された奇数フィールド画像と、偶数フィールド画像生成処理部44から出力された偶数フィールド画像とに基づいて、フレーム画像に発生しているぶれ量の指標となる動きベクトルを算出する(ステップS220)。以下、動きベクトルの算出方法を説明する。
本実施形態では、計測を行う場合、同一被写体に関する2つの被写体像を結像可能なステレオ光学アダプタを通して左右一対の被写体像(以下、左画像および右画像とする)が撮像される。このため、フレーム画像、奇数フィールド画像、偶数フィールド画像のそれぞれに対応する画像には、左画像と右画像が含まれる。
ぶれ演算処理部46は、例えば奇数フィールド画像に含まれる左画像の中心点を中心としたW×Hピクセルの範囲をテンプレートに設定し、その中心点に対応する偶数フィールド画像上の対応点を探索する。対応点の探索は、例えば輝度のSAD(Sum of Absolute Differences)を算出することにより行われる。テンプレートの画素値をt(x,y)、探索対象の画像の画素値をg(x,y)とすると、座標(u,v)におけるSADであるF(u,v) は一般に(1)式で算出される。
テンプレートの幅をW、高さをHとし、−W/2≦NW≦W/2,−H/2≦NH≦H/2とする。また、奇数フィールド画像に相当する画像に含まれる左画像の中心座標を (Ox,Oy)とし、Ox−W/2≦u≦Ox+W/2,Oy−H/2≦v≦Oy+H/2の範囲でF(u,v)が算出される。F(u,v)が最小となるときの座標(Ex,Ey)が対応点となる。
奇数フィールド画像に含まれる左画像の中心座標(Ox,Oy)の対応点の座標(Ex,Ey)から、動きベクトルmは(2)式で算出される。
m=(Ex−Ox,Ey−Oy) ・・・(2)
以上が動きベクトルの算出方法である。
動きベクトルの算出が終了すると、制御部48は、予め設定されている2つの閾値と動きベクトルの大きさとの大小関係を判定する(ステップS225)。以下では、2つの閾値を第1の閾値、第2の閾値とし、第1の閾値<第2の閾値であるものとする。動きベクトルの大きさが第1の閾値以下である場合、制御部48はぶれ検出フラグに0を設定する(ステップS230)。また、動きベクトルの大きさが第1の閾値を超え、かつ第2の閾値未満である場合、制御部48はぶれ検出フラグに1を設定する(ステップS235)。また、動きベクトルの大きさが第2の閾値を超える場合、制御部48はぶれ検出フラグに2を設定する(ステップS240)。ステップS230,S235,S240の処理が終了すると、内視鏡装置1はフリーズ状態となる。
フリーズ状態では、図8に示すように、制御部48は、操作部6からの信号を検出し(ステップS300)、ユーザによる操作部6の操作内容を判定する(ステップS305)。ユーザが操作を行っていない場合、処理はステップS300に戻る。また、ユーザが計測起動操作(第2の操作指示)を行った場合、内視鏡装置1は計測状態となる。ユーザが画像記録操作を行った場合、内視鏡装置1は画像記録処理状態となる。
計測状態では、図9に示すように、制御部48は、ステップS230,S235,S240で設定されたぶれ検出フラグの値を判定する(ステップS400)。ぶれ検出フラグの値が0であった場合、処理はステップS430に進む。この場合、フレーム画像が以降の計測処理で使用される。また、ぶれ検出フラグの値が1であった場合、処理はステップS405に進む。この場合、フレーム画像よりもぶれ量の少ない奇数フィールド画像が以降の計測処理で使用される。
また、ぶれ検出フラグの値が2であった場合、映像信号処理回路12は、CPU18から供給されるグラフィック画像信号とフレーム画像を合成して表示信号を生成し、モニタ4へ出力する。このときCPU18から供給されるグラフィック画像信号は、計測不可能であることをユーザに通知するための警告メッセージ等を含む。モニタ4は、表示信号に基づいて画像を表示する。これによって、モニタ4には、内視鏡画像と共に警告メッセージ等が表示される(ステップS410)。この場合、制御部48は計測処理部47を起動しないため、計測処理は実行されない。ステップS410ではモニタ4に警告メッセージを表示してもよいし、ぶれ量の値を表示してもよい。これによって、ユーザは、計測を実行する前にフレーム画像が計測に適しているか否かを知ることができる。
処理がステップS405に進んだ場合、映像信号処理回路12は、CPU18から供給されるグラフィック画像信号とフレーム画像を合成して表示信号を生成し、モニタ4へ出力する。このときCPU18から供給されるグラフィック画像信号は、映像信号を補正してから計測を行うかどうかをユーザに選択させるための確認メッセージ等を含む。モニタ4は、表示信号に基づいて画像を表示する。これによって、モニタ4には、内視鏡画像と共に確認メッセージ等が表示される(ステップS405)。
続いて、制御部48は、操作部6からの信号を監視し、ユーザが操作を行うまで待機する(ステップS415)。ユーザが操作を行った場合、制御部48は、ユーザによる操作部6の操作内容を判定する(ステップS420)。映像信号を補正してから計測を行うことを拒否する操作が行われた場合、内視鏡装置1はライブ状態に戻る。この場合、制御部48は計測処理部47を起動しないため、計測処理は実行されない。また、映像信号を補正してから計測を行うことを許可する操作が行われた場合、ぶれ軽減処理部45は、フレーム画像生成処理部42から出力されたフレーム画像を、奇数フィールド画像生成処理部43から出力された奇数フィールド画像に置き換える処理を行う(ステップS425)。
続いて、制御部48は計測処理部47を起動する。また、映像信号処理回路12は、CPU18から供給されるグラフィック画像信号と奇数フィールド画像を合成して表示信号を生成し、モニタ4へ出力する。このときCPU18から供給されるグラフィック画像信号は、計測に必要なメニュー等を含む。これによって、モニタ4には、内視鏡画像と共に計測のメニュー等が表示される(ステップS430)。続いて、計測処理部47は、フレーム画像または奇数フィールド画像に基づいて計測処理を実行する(ステップS435)。
ぶれ検出フラグの値が0であった場合には、ステップS200で生成されたフレーム画像が計測処理に使用される。また、ぶれ検出フラグの値が1であった場合には、ステップS425でフレーム画像と置き換えられた奇数フィールド画像が計測処理に使用される。ステップS435で実行される計測処理には、ユーザによる操作部6の操作内容に基づいて内視鏡画像上に計測点を設定する処理や、計測点で指定される長さや面積を算出する処理等が含まれる。この計測処理では、フレーム画像または奇数フィールド画像に基づく画像がモニタ4に表示され、その画像上に計測点が設定される。
また、ステップS435で実行される計測処理では、三角測量の原理を利用したステレオ計測により、スポット座標に位置する計測点の3次元座標が算出され、長さや面積の計算に使用される。以下、図15を参照しながら、ステレオ計測による計測点の3次元座標の求め方を説明する。左側および右側の光学系で撮像された画像に対して、三角測量の方法により、計測点60の3次元座標(X,Y,Z)が以下の(3)式〜(5)式で計算される。ただし、歪み補正が施された左右の画像上の計測点61,62の座標をそれぞれ(XL,YL)、(XR,YR)とし、左側と右側の光学中心63,64の距離をDとし、焦点距離をFとし、t=D/(XL−XR)とする。
X=t×XR+D/2 ・・・(3)
Y=t×YR ・・・(4)
Z=t×F ・・・(5)
上記のように元画像上の計測点61,62の座標が決定されると、パラメータDおよびFを用いて計測点60の3次元座標が求まる。いくつかの点の3次元座標を求めることによって、2点間の距離、2点を結ぶ線と1点の距離、面積、深さ、表面形状等の様々な計測が可能である。また、左側の光学中心63、または右側の光学中心64から被写体までの距離(物体距離)を求めることも可能となる。上記のステレオ計測を行うためには、内視鏡先端部21とステレオ光学アダプタを含む光学系の特性を示す光学データが必要である。なお、光学データの詳細は、例えば特開2004−49638号公報に記載されているので、その説明を省略する。
画像記録処理状態では、図10に示すように、画像記録部49は、ステップS200で生成されたフレーム画像をメモリカード32等に記録する(ステップS500)。また、画像記録部49は、ステップS230,S235,S240で設定されたぶれ検出フラグをメモリカード32等に記録する(ステップS505)。ステップS505の処理が終了すると、内視鏡装置1はフリーズ状態となる。
画像再生開始状態では、図11に示すように、画像再生部50は、メモリカード32等からフレーム画像を読み込む(ステップS600)。また、画像再生部50は、メモリカード32等からぶれ検出フラグを読み込む(ステップS605)。映像信号処理回路12は、CPU18から供給されるグラフィック画像信号とフレーム画像を合成して表示信号を生成し、モニタ4へ出力する。モニタ4は、表示信号に基づいて画像を表示する(ステップS610)。
続いて、制御部48は、操作部6からの信号を検出し(ステップS615)、ユーザが計測起動操作を行ったか否かを判定する(ステップS620)。ユーザが計測起動操作を行っていない場合、処理はステップS615に戻る。また、ユーザが計測起動操作を行った場合、内視鏡装置1は計測状態となる。
計測状態では、図12に示す処理が実行される。図12において、図9に示した処理と同一の処理には同一のステップ番号が付与されている。図12では、図9に示した処理にないステップS421の処理が追加されている。また、図12では、ステップS401,S426,S436の処理内容は、図9に示したステップS400,S425,S435の処理内容と同一であるが、処理に用いるデータや信号が、図9に示した各ステップの処理に用いるデータや信号と異なる。
ステップS401では、ステップS605でメモリカード32等から読み込まれたぶれ検出フラグの値が使用される。ぶれ検出フラグの値に応じた処理の分岐は図9と同様である。ステップS421では、奇数フィールド画像生成処理部51は、ステップS600でメモリカード等から読み込まれたフレーム画像中の奇数行の映像信号に基づいて奇数フィールド画像を生成する。ステップS426では、ぶれ軽減処理部45は、ステップS600でメモリカード等から読み込まれたフレーム画像を、ステップS421で生成された奇数フィールド画像に置き換える処理を行う。
ステップS436では、ぶれ検出フラグの値が0であった場合には、ステップS600でメモリカード等から読み込まれたフレーム画像が計測処理に使用される。また、ステップS436では、ぶれ検出フラグの値が1であった場合には、ステップS426でフレーム画像と置き換えられた奇数フィールド画像が計測処理に使用される。
次に、本実施形態の変形例を説明する。図13は、図3に示した機能構成の変形例である。図3では、映像信号処理回路12の機能に対応する奇数フィールド画像生成処理部43と偶数フィールド画像生成処理部44が設けられていたが、これに代えて図13では、CPU18の機能に対応する奇数フィールド画像生成処理部53と偶数フィールド画像生成処理部54が設けられている。
奇数フィールド画像生成処理部53は、フレーム画像生成処理部42から出力されたフレーム画像に基づいてフレームの映像信号を生成する。以下では、奇数フィールド画像生成処理部53が生成するフレームの映像信号を奇数フィールド画像と記載する。この奇数フィールド画像の奇数行(奇数フィールド)の映像信号は、フレーム画像生成処理部42から出力されたフレーム画像中の奇数行の映像信号で構成されており、奇数フィールド画像の偶数行(偶数フィールド)の映像信号は、奇数行の映像信号で補間されたものである。奇数フィールド画像の各偶数行の映像信号は、上下に隣接する奇数行の映像信号の平均でもよい。
偶数フィールド画像生成処理部54は、フレーム画像生成処理部42から出力されたフレーム画像に基づいてフレームの映像信号を生成する。以下では、偶数フィールド画像生成処理部54が生成するフレームの映像信号を偶数フィールド画像と記載する。この偶数フィールド画像の偶数行(偶数フィールド)の映像信号は、フレーム画像生成処理部42から出力されたフレーム画像中の偶数行の映像信号で構成されており、偶数フィールド画像の奇数行(奇数フィールド)の映像信号は、偶数行の映像信号で補間されたものである。偶数フィールド画像の各奇数行の映像信号は、上下に隣接する偶数行の映像信号の平均でもよい。
ぶれ演算処理部46は、奇数フィールド画像生成処理部53によって生成された奇数フィールド画像と、偶数フィールド画像生成処理部54によって生成された偶数フィールド画像とに基づいて動きベクトルを算出する。ぶれ軽減処理部45は、ぶれ演算処理部46によって算出された動きベクトルの大きさが所定値を超える場合に、フレーム画像生成処理部42から出力されたフレーム画像を、奇数フィールド画像生成処理部53によって生成された奇数フィールド画像(第2の画像)に置き換える処理を行う。この奇数フィールド画像の代わりに偶数フィールド画像を用いてもよい。
図13に示した機能構成を有する内視鏡装置1の動作は、図6〜図12を用いて説明した動作と同様である。
図14は、図3に示した機能構成の他の変形例である。図14では、CPU18の機能に対応するぶれ軽減処理部55が実行する処理の内容が、図3のぶれ軽減処理部45が実行する処理の内容と異なる。
ぶれ軽減処理部55は、ぶれ演算処理部46によって算出された動きベクトルの大きさが所定値を超える場合に、フレーム画像生成処理部42から出力されたフレーム画像を構成する偶数行および奇数行の映像信号のうち少なくとも一方の映像信号を動きベクトルに基づいて補正した映像信号を生成する。以下では、ぶれ軽減処理部55が生成する映像信号を補正フレーム画像(第2の画像)と記載する。ぶれ軽減処理部55は、具体的には以下のようにして補正フレーム画像を記載する。
奇数フィールド画像の画素(i,j)の輝度をf1(i,j)とし、偶数フィールド画像の画素(i,j)の輝度をf2(i,j)とし、補正画像の画素(i,j)の輝度をf3(i,j)とする。また、ぶれ演算処理部46によって算出された動きベクトルmを以下の(6)式とする。
m=(Ex−Ox,Ey−Oy)≡(Mx,My) ・・・(6)
ぶれ軽減処理部55は、以下の(7)式と(8)式により補正画像を生成する。
f3(i,j)=f1(i,j) (jが奇数のとき) ・・・(7)
f3(i,j)=f2(i+Mx,j+My) (jが偶数のとき) ・・・(8)
上記の場合、ぶれ軽減処理部55は、フレーム画像の偶数行の映像信号を補正した補正フレーム画像を生成する。ただし、フレーム画像の奇数行の映像信号を補正した補正フレーム画像を生成するようにしてもよいし、フレーム画像の偶数行と奇数行の映像信号を補正した補正フレーム画像を生成するようにしてもよい。また、(8)式において、画素(i+Mx,j+My)が、偶数フィールド画像を構成する画素の範囲外となる場合、f3(i,j)=f2(i,j)としておき、最終的に生成された補正フレーム画像から外周部を除いた画像を以降の処理で用いるようにしてもよい。
図14に示した機能構成を有する内視鏡装置1の動作は、図6〜図12を用いて説明した動作と同様である。ただし、ステップS425では、ぶれ軽減処理部55が上記のように補正フレーム画像を生成する。また、ステップS435では、ぶれ検出フラグの値が1であった場合、計測処理部47は、補正フレーム画像を用いて計測処理を実行する。
また、ステップS426では、図5のぶれ軽減処理部52が動作するものとしているが、図5に示した機能構成に対して、画像再生部50によって再生されたフレーム画像から偶数フィールド画像を生成する偶数フィールド画像生成処理部を追加し、ぶれ軽減処理部52の代わりに、偶数フィールド画像と奇数フィールド画像から補正フレーム画像を生成するぶれ軽減処理部を設けてもよい。
本実施形態の運動パラメータとして、動きベクトルの他に、回転量と拡大率を求めてもよい。回転量は、偶数フィールド画像と奇数フィールド画像のそれぞれの慣性主軸の傾きの差から求まる。奇数フィールド画像の画素(i,j)の輝度をf(i,j)とすると、奇数フィールド画像の2次のモーメントは以下の(9)〜(11)式となる。



また、慣性主軸の傾きは以下の(12)式となる。
上記の(9)〜(11)式において、奇数フィールド画像の大きさをN×Mとし、Nn={1,2,・・・,N}、Nm={1,2,・・・,M}とする。上記と同様にして、偶数フィールド画像の慣性主軸の傾きも求めることができ、偶数フィールド画像と奇数フィールド画像のそれぞれの慣性主軸の傾きの差を算出することによって、回転量を求めることができる。
拡大率は、偶数フィールド画像と奇数フィールド画像のそれぞれの慣性モーメントの比から求まる。上記と同様に奇数フィールド画像の画素(i,j)の輝度をf(i,j)とすると、奇数フィールド画像の0次のモーメントは以下の(13)式となり、1次のモーメントは以下の(14)式、(15)式となる。


重心(iG,jG)は、iG=m10/m00,jG=m01/m00となり、奇数フィールド画像の慣性モーメントは以下の(16)式となる。
上記と同様にして、偶数フィールド画像の慣性モーメントも求めることができ、偶数フィールド画像と奇数フィールド画像のそれぞれの慣性モーメントの比を算出することによって、拡大率を求めることができる。
本実施形態では、フリーズ操作が行われた場合に画像のぶれ量の算出を行っているが、内視鏡装置1がライブ状態のときに常にフレーム画像を生成し、フレーム画像から偶数フィールド画像と奇数フィールド画像を生成し、ぶれ量を算出してもよい。さらに、内視鏡装置1がライブ状態のときにぶれ量が所定量を超えたら、モニタ4に警告メッセージ等を表示したり、フリーズ状態への移行を禁止したりしてもよい。さらに、内視鏡装置1がライブ状態からフリーズ状態に移行したときにぶれ量の判定を行い、ぶれ量が所定量を超えたら、モニタ4にフレーム画像(静止画像)と共に警告メッセージ等を表示してもよい。
また、本実施形態では、偶数フィールド画像と奇数フィールド画像からぶれ量を算出しているが、連続する2フレームの映像信号からぶれ量を算出してもよい。
上述したように、本実施形態による内視鏡装置1は、奇数フィールド画像または偶数フィールド画像からフレーム画像を生成する。あるいは、内視鏡装置1は、フレーム画像を構成する2つのフィールドのうち少なくとも一方のフィールドの映像信号をぶれ量の分だけ補正した補正フレーム画像を生成する。これによって、内視鏡2の先端または観察対象物が動いて画像にぶれが発生した場合でも、フレーム画像生成処理部42が生成したフレーム画像よりもぶれ量を低減したフレーム画像または補正フレーム画像を生成することが可能となる。このフレーム画像または補正フレーム画像に基づいて計測処理部47が計測処理を実行することによって、計測精度の低下を防止することができる。
また、本実施形態では、ぶれ量が第1の閾値以下の場合にはフレーム画像生成処理部42が生成したフレーム画像に基づいて計測処理部47が計測処理を実行し、ぶれ量が第1の閾値を超え、かつ第2の閾値未満の場合には奇数フィールド画像または偶数フィールド画像から生成したフレーム画像もしくは補正フレーム画像に基づいて計測処理部47が計測処理を実行する。これによって、大きなぶれが発生した場合に計測精度が大きく低下することを防止することができる。
また、本実施形態では、計測時に、奇数フィールド画像または偶数フィールド画像から生成したフレーム画像もしくは補正フレーム画像に基づく画像がモニタ4に表示される。これによって、ユーザは、ぶれ量の低減された画像を見ながら計測点を指定するので、ユーザが希望通りの場所に計測点を指定しやすくなり、計測精度の低下を防止することができる。
また、本実施形態では、ぶれ量が第2の閾値以下である場合に計測処理の実行が許可され、ぶれ量が第2の閾値を超えた場合に計測処理の実行が禁止される。これによって、計測精度の低下を防止することができる。
また、本実施形態では、ぶれ量が第2の閾値を超えた場合に、モニタ4に警告メッセージ等が表示される。これによって、ユーザは、計測を実行する前にフレーム画像が計測に適していないことを知ることができる。
以上、図面を参照して本発明の実施形態について詳述してきたが、具体的な構成は上記の実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計変更等も含まれる。
1・・・内視鏡装置、2・・・内視鏡、3・・・装置本体、4・・・モニタ(表示部)、5・・・筐体、6・・・操作部(操作指示部)、8・・・内視鏡ユニット(撮像部)、10・・・制御ユニット、12・・・映像信号処理回路、18・・・CPU、28・・・撮像素子(撮像部)、29・・・LED、41・・・映像信号生成部(撮像部)、42・・・フレーム画像生成処理部、43,51,53・・・奇数フィールド画像生成処理部、44,54・・・偶数フィールド画像生成処理部、45,52,55・・・ぶれ軽減処理部(処理部)、46・・・ぶれ演算処理部(検出部)、47・・・計測処理部(計測部)、48・・・制御部、49・・・画像記録部、50・・・画像再生部

Claims (7)

  1. 被写体を撮像し撮像信号を生成する撮像部と、
    前記撮像信号に基づいて生成される映像信号に基づく画像からぶれ量を検出する検出部と、
    前記撮像信号に基づいて生成される表示信号に基づく画像を表示する表示部と、
    撮像された被写体を計測する計測処理部と、
    ユーザの操作指示を入力するための操作指示部と、を備え、
    前記表示信号に基づく画像が前記表示部に表示されている状態で、前記操作指示部に計測起動指示が入力されたとき、前記検出部によって検出された、前記映像信号に基づく画像のぶれ量が所定の閾値を超える場合に、前記計測処理部は当該映像信号に基づく画像に対する計測処理を禁止することを特徴とする内視鏡装置。
  2. 前記表示部によって前記画像が表示されている状態で、前記操作指示部に計測起動指示が入力されたとき、前記映像信号に基づく画像のぶれ量が所定の閾値を超える場合に、さらに、ユーザに対して前記画像が計測に適していないことを通知することを特徴とする請求項1記載の内視鏡装置。
  3. 前記撮像部は複数の撮像信号を生成し、
    前記検出部は前記複数の撮像信号に基づいて生成される連続する複数の映像信号に基づく複数の画像からぶれ量を検出することを特徴とする請求項1記載の内視鏡装置。
  4. 前記検出部はライブ状態のときに前記映像信号に基づく画像のぶれ量を検出することを特徴とする請求項1または2に記載の内視鏡装置。
  5. 前記操作指示部から前記画像を静止させて表示する指示が入力された後に、前記検出部は前記映像信号に基づく画像に基づいてぶれ量を検出することを特徴とする請求項1または2に記載の内視鏡装置。
  6. ユーザに対して前記画像が計測に適していないことを通知するために、前記表示部は計測不可能である旨の警告メッセージを表示することを特徴とする請求項2記載の内視鏡装置。
  7. 前記映像信号に基づく画像はフレーム画像であることを特徴とする請求項1記載の内視鏡装置。
JP2014129340A 2014-06-24 2014-06-24 内視鏡装置 Active JP5771729B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014129340A JP5771729B2 (ja) 2014-06-24 2014-06-24 内視鏡装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014129340A JP5771729B2 (ja) 2014-06-24 2014-06-24 内視鏡装置

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2009172174A Division JP5570769B2 (ja) 2009-07-23 2009-07-23 内視鏡装置、計測方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP2014210194A true JP2014210194A (ja) 2014-11-13
JP5771729B2 JP5771729B2 (ja) 2015-09-02

Family

ID=51930406

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014129340A Active JP5771729B2 (ja) 2014-06-24 2014-06-24 内視鏡装置

Country Status (1)

Country Link
JP (1) JP5771729B2 (ja)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01303124A (ja) * 1988-06-01 1989-12-07 Toshiba Corp 内視鏡装置
JPH06285016A (ja) * 1992-09-03 1994-10-11 Fukuda Denshi Co Ltd 血管内視鏡装置
JP2000023183A (ja) * 1998-06-29 2000-01-21 Olympus Optical Co Ltd 電子内視鏡装置
JP2002345738A (ja) * 2001-05-30 2002-12-03 Olympus Optical Co Ltd 計測内視鏡装置
JP2006136706A (ja) * 2004-10-12 2006-06-01 Olympus Corp 計測用内視鏡装置及び内視鏡用プログラム
JP2008061219A (ja) * 2006-06-14 2008-03-13 Canon Inc 画像処理装置、撮像装置、及び画像処理装置の制御方法
JP2009102137A (ja) * 2007-10-24 2009-05-14 Canon Inc シート積載装置及び画像形成システム
JP2009150848A (ja) * 2007-12-21 2009-07-09 Topcon Corp 画像処理装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01303124A (ja) * 1988-06-01 1989-12-07 Toshiba Corp 内視鏡装置
JPH06285016A (ja) * 1992-09-03 1994-10-11 Fukuda Denshi Co Ltd 血管内視鏡装置
JP2000023183A (ja) * 1998-06-29 2000-01-21 Olympus Optical Co Ltd 電子内視鏡装置
JP2002345738A (ja) * 2001-05-30 2002-12-03 Olympus Optical Co Ltd 計測内視鏡装置
JP2006136706A (ja) * 2004-10-12 2006-06-01 Olympus Corp 計測用内視鏡装置及び内視鏡用プログラム
JP2008061219A (ja) * 2006-06-14 2008-03-13 Canon Inc 画像処理装置、撮像装置、及び画像処理装置の制御方法
JP2009102137A (ja) * 2007-10-24 2009-05-14 Canon Inc シート積載装置及び画像形成システム
JP2009150848A (ja) * 2007-12-21 2009-07-09 Topcon Corp 画像処理装置

Also Published As

Publication number Publication date
JP5771729B2 (ja) 2015-09-02

Similar Documents

Publication Publication Date Title
JP5570769B2 (ja) 内視鏡装置、計測方法、およびプログラム
JP5073564B2 (ja) 計測用内視鏡装置およびプログラム
JP5361592B2 (ja) 内視鏡装置、計測方法、およびプログラム
JP5530225B2 (ja) 内視鏡装置およびプログラム
US8496575B2 (en) Measuring endoscope apparatus, program and recording medium
JP2011158549A (ja) 内視鏡装置およびプログラム
JP5311143B2 (ja) 測定装置および方法、並びに、プログラム
JP2015228954A (ja) 画像処理装置および画像処理方法
JP2015228955A (ja) 画像処理装置、画像処理方法、並びにプログラム
JP5231173B2 (ja) 計測用内視鏡装置およびプログラム
JP2018197674A (ja) 計測装置の作動方法、計測装置、計測システム、3次元形状復元装置、およびプログラム
JP5186286B2 (ja) 計測用内視鏡装置およびプログラム
JP4487077B2 (ja) 単一の撮像装置で連続取得したビデオ映像による立体表示方法
JP7464060B2 (ja) 画像処理装置、制御方法及びプログラム
JP5826609B2 (ja) 内視鏡装置、内視鏡装置の制御方法、およびプログラム
JP6023865B2 (ja) 内視鏡装置、内視鏡装置の制御方法、およびプログラム
JP5771729B2 (ja) 内視鏡装置
CN110858397A (zh) 测量装置、测量装置的工作方法以及存储介质
JP2020154234A (ja) 観察装置の作動方法、観察装置、およびプログラム
JP5602449B2 (ja) 内視鏡装置
JP2004012192A (ja) 測定顕微鏡装置、その表示方法、及びその表示プログラム
JP5253109B2 (ja) 内視鏡装置および内視鏡画像用プログラム
JP2019045249A (ja) 計測装置および計測装置の作動方法
JP6400767B2 (ja) 計測内視鏡装置
JP2005279054A (ja) 変換画像表示装置、変換画像表示方法並びに工業用内視鏡装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150310

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150313

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150424

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150603

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150629

R151 Written notification of patent or utility model registration

Ref document number: 5771729

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250