JP2012120706A - 内視鏡装置、内視鏡画像再生装置及びデータ構造 - Google Patents

内視鏡装置、内視鏡画像再生装置及びデータ構造 Download PDF

Info

Publication number
JP2012120706A
JP2012120706A JP2010273935A JP2010273935A JP2012120706A JP 2012120706 A JP2012120706 A JP 2012120706A JP 2010273935 A JP2010273935 A JP 2010273935A JP 2010273935 A JP2010273935 A JP 2010273935A JP 2012120706 A JP2012120706 A JP 2012120706A
Authority
JP
Japan
Prior art keywords
insertion length
unit
playback
image
file
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010273935A
Other languages
English (en)
Other versions
JP2012120706A5 (ja
JP5690124B2 (ja
Inventor
Yoichiro Kasai
洋一朗 笠井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2010273935A priority Critical patent/JP5690124B2/ja
Publication of JP2012120706A publication Critical patent/JP2012120706A/ja
Publication of JP2012120706A5 publication Critical patent/JP2012120706A5/ja
Application granted granted Critical
Publication of JP5690124B2 publication Critical patent/JP5690124B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Endoscopes (AREA)

Abstract

【課題】検査画像を記録した動画から所望の検査部位を素早く検出することができる内視鏡装置を提供する。
【解決手段】内視鏡装置1は、先端部2aに設けられた撮像素子8により撮像された撮像信号に画像処理を施し、内視鏡画像を生成する画像処理部11と、先端部2aを検査対象に挿入した挿入長に関する情報を検出する挿入長検出部7と、挿入長に関する情報に所定の信号処理を施し、挿入長情報を検出する挿入長信号処理部13と、内視鏡画像のデータに挿入長情報のデータを対応付けて1つのAVIファイル20に格納し、記録媒体19に記録する記録媒体読み書き部16と、再生ウィンドウ40でAVIファイル20を再生中に、挿入長を指定する挿入長指定エディットボックス49で挿入長が指定された場合、指定された挿入長に対応付けられた最初のフレームから再生を開始させる制御を行うメイン制御部18とを有する。
【選択図】図1

Description

本発明は、内視鏡装置、内視鏡画像再生装置及びデータ構造に関し、特に、検査画像を記録した動画から所望の検査部位を素早く検出することができる内視鏡装置、内視鏡画像再生装置及びデータ構造に関する。
従来、内視鏡装置は、検査対象に挿入部を挿入して検査対象画像を得る内視鏡と、この検査対象画像を表示する表示手段を備えて構成したものが一般的に使用されている。内視鏡は、管路に挿入する挿入部あるいはその先端部に、管路内の検査対象画像を得るための対物光学系及びイメージガイドファイバ等を内蔵している。また、内視鏡は、挿入部の先端部の向きを自在に所望する方向へ指向させるための湾曲部を挿入部の先端部に有している。このような構成を有する内視鏡は、湾曲部を湾曲動作させて挿入部の先端部を所望とする様々な方向に指向させたり、あるいは、挿入部にひねりを与えたりしながら、複雑な形状の管路に挿入していくことができるようになっている。
このような内視鏡装置では、検査映像を静止画あるいは動画として記録する機能を備えており、検査部位の静止画あるいは検査中の映像の動画を記録して検査報告書に貼り付けたり、検査の証拠として残したりする。
特に、近年では、記録メディアの大容量化が進んでおり、内視鏡装置で動画の記録を行い、記録後に内視鏡装置あるいはパーソナルコンピュータ等で動画を再生し、詳細な検査を行うことが多くなってきている。
しかしながら、この場合、記録されている動画は、検査対象であるパイプ等の単調な映像となるため、検査者は、動画の中から、確認したい検査部位を探し出すのに苦労するという問題があった。
そこで、例えば、内視鏡の検査対象への挿入長を基に、基準となる挿入長情報と、検査中のライブ画像を比較する内視鏡装置が提案されている(例えば、特許文献1参照)。
特許第4436638号公報
しかしながら、特許文献1の内視鏡装置は、検査現場でのライブ画像において所望の検査部位を検出することはできるが、検査画像を記録した動画から所望の検査部位を検出することはできなかった。
そこで、本発明は、検査画像を記録した動画から所望の検査部位を素早く検出することができる内視鏡装置を提供することを目的とする。
本発明の一態様によれば、内視鏡挿入部の先端部に設けられた撮像素子により撮像された撮像信号に画像処理を施し、内視鏡画像を生成する画像処理部と、前記先端部を検査対象に挿入した挿入長に関する情報を検出する挿入長検出部と、前記挿入長検出部によって検出された前記挿入長に関する情報に所定の信号処理を施し、挿入長情報を検出する挿入長信号処理部と、記録媒体が着脱可能であって、前記内視鏡画像のデータに前記挿入長情報のデータを対応付けて1つの動画ファイルに格納し、前記記録媒体に記録する記録媒体読み書き部と、前記動画ファイルの再生が指示されると、再生ウィンドウで動画ファイルを再生するとともに、前記再生ウィンドウに設けられた、挿入長を指定する挿入長指定ボックスで挿入長が指定された場合、前記指定された挿入長に対応付けられた最初のフレームから再生を開始させる制御を行う制御部と、を有することを特徴とする内視鏡装置を提供することができる。
また、本発明の一態様によれば、記録媒体が着脱可能であって、前記記録媒体に記録された動画ファイルを読み出す記録媒体読み書き部と、前記動画ファイルの再生が指示されると、再生ウィンドウで動画ファイルを再生するとともに、前記再生ウィンドウに設けられた、挿入長を指定する挿入長指定ボックスで挿入長が指定された場合、前記指定された挿入長に対応付けられた最初のフレームから再生を開始させる制御を行う制御部と、を有することを特徴とする内視鏡画像再生装置を提供することができる。
また、本発明の一態様によれば、単位時間毎に区切られた複数のストリームデータ領域と、前記複数のストリームデータ領域のそれぞれに設けられた複数の画像格納領域と、
を備え、前記複数の画像格納領域毎に同一の挿入長の内視鏡画像のデータが格納されていることを特徴とする動画ファイルのデータ構造を提供することができる。
本発明の内視鏡装置によれば、検査画像を記録した動画から所望の検査部位を素早く検出することができる。
本発明の第1の実施の形態に係る内視鏡装置の構成を示す図である。 AVIファイルの構造の例について説明するための図である。 再生ウィンドウの例を説明するための図である。 挿入長が指定された際の再生ウィンドウの例を説明するための図である。 AVIファイルを再生する内視鏡画像再生装置の構成の例を示す図である。 挿入長が指定された場合の処理の流れの例を説明するためのフローチャートである。 第2の実施の形態に係る再生ウィンドウの例を説明するための図である。 第2の実施の形態に係る再生ウィンドウの例を説明するための図である。 再生バーの単位を挿入長とした場合のAVIファイルの構造の例を説明するための図である。 再生単位切り換えボタンが押下された場合の処理の流れの例を説明するためのフローチャートである。 図10のステップS13の処理の流れの例について説明するためのフローチャートである。 図10のステップS15の処理の流れの例について説明するためのフローチャートである。 第3の実施の形態に係る再生ウィンドウの例を説明するための図である。 重力方向を一致させる処理の流れの例を説明するためのフローチャートである。 検査マニュアルファイルの例を説明するための図である。
以下、図面を参照して本発明の実施の形態について詳細に説明する。
(第1の実施の形態)
まず、図1に基づき、本発明の第1の実施の形態に係る内視鏡装置の構成について説明する。
図1は、本発明の第1の実施の形態に係る内視鏡装置の構成を示す図である。
図1に示すように、内視鏡装置1は、先端部2aを有する長尺な挿入部2と、本体部3と、表示部4aを有する表示装置4と、内視鏡装置1に対して所望の操作を行う操作部5とを備えて構成されている。また、内視鏡装置1は、挿入部2の根元に、挿入部2を検査対象に挿入した長さ、即ち、挿入長を検出する挿入長検出部7を有する根元部6を備えて構成されている。
先端部2aは、被写体像を光電変換し撮像信号を生成するCCD等の撮像素子8を備える。また、挿入部2は、先端部2aの基端付近に、先端部2aの重力方向に関する情報を検出する重力方向検出部9を備える。
重力方向検出部9は、例えば、重力センサであり、検出した先端部2aの重力方向に関する情報に応じた信号、即ち、先端部2aの重力方向に関する情報信号を本体部3に出力する。
挿入長検出部7は、例えば、挿入部2を挟み込む2つのローラと、光学式のロータリーエンコーダとを備え、この光学式のロータリーエンコーダでローラの回転数を検出する。挿入長検出部7は、検出したローラの回転数、即ち、挿入長に関する情報信号を本体部3に出力する。
本体部3は、画像処理部11と、重力信号処理部12と、挿入長信号処理部13と、グラフィック生成部14と、画像合成部15と、記録媒体読み書き部16と、記憶部17と、メイン制御部18とを備えて構成されている。
画像処理部11には、挿入部2の先端部2aに内蔵されている撮像素子8から出力された撮像信号が入力される。画像処理部11は、この撮像信号に対し、例えば、ガンマ補正処理、エッジ強調処理及びデジタルズーム処理等の画像処理を施し、内視鏡画像を生成する。画像処理部11は、この生成した内視鏡画像を画像合成部15に供給する。
重力信号処理部12には、重力方向検出部9から出力された先端部2aの重力方向に関する情報信号が入力される。重力信号処理部12は、この情報信号に対し、例えば鉛直下方向からの傾斜角度等の重力情報に変換し、変換した重力情報をメイン制御部18に供給する。
挿入長信号処理部13には、挿入長検出部7から出力されたローラの回転数に関する情報信号が入力される。挿入長信号処理部13は、この回転数に関する情報信号から挿入部2の挿入長に変換し、変換した挿入長情報をメイン制御部18に供給する。
これらの重力情報及び挿入長情報は、メイン制御部18からグラフィック生成部14に供給される。グラフィック生成部14は、メイン制御部18から供給された重力情報及び挿入長情報に基づいて、挿入部2の重力方向及び挿入長を示すインジケータを生成し、生成したインジケータを画像合成部15に供給する。
画像合成部15は、画像処理部11から供給された内視鏡画像と、グラフィック生成部14から供給されたインジケータとを1枚の映像データとして合成し、合成した合成画像を表示装置4に出力する。これにより、表示装置4の表示部4aに合成画像が表示される。
また、この画像合成部15は、メイン制御部18による制御に応じて、内視鏡画像を表示装置4の表示部4aに単独で表示するための処理を行うことも可能である。そのため、表示装置4の表示部4aには、内視鏡画像、あるいは内視鏡画像とインジケータとの合成画像等が表示される。
記録媒体読み書き部16は、例えば、フラッシュメモリカード等の記録媒体19が着脱自在に接続されるようになっている。記録媒体読み書き部16に記録媒体19が装着された状態において、検査者が操作部5を操作して記録操作を指示すると、記録媒体読み書き部16は、メイン制御部18からの制御に従って、画像合成部15に供給される内視鏡画像のデータ、挿入長情報のデータ及び重力情報のデータを読み出し、記録媒体19に供給して記録する。このような記録処理において、記録媒体読み書き部16は、内視鏡画像のデータ、挿入長情報のデータ及び重力情報のデータを1つの動画ファイル、例えば、Motion JPEG形式のAVIファイルとして記録媒体19に記録する。
また、記録媒体読み書き部16は、メイン制御部18による制御に従って、記録媒体19に記録されている内視鏡画像のデータ、重力情報のデータ、及び挿入長情報のデータを読み出すことができる。このとき、記録媒体読み書き部16は、内視鏡画像のデータを画像合成部15に供給し、重力情報及び挿入長情報のデータをメイン制御部18に供給する。メイン制御部18に供給された重力情報及び挿入長情報のデータは、グラフィック生成部14に供給され、重力方向及び挿入長を示すインジケータが生成される。この重力方向及び挿入長を示すインジケータは、画像合成部15に供給され、内視鏡画像とインジケータとを合成した合成画像が生成される。これにより、表示装置4の表示部4aに合成画像が表示される。
記憶部17は、例えば、ROM等であり、メイン制御部18によってデータの書き込み及び読み出しが行われる。また、記憶部17は、記憶部17には、動画ファイルの再生を行うための再生ソフトが記憶されている。
操作部5には、先端部2aの湾曲操作及び上述した記録媒体19への記録操作等を行うための図示しない操作スイッチ等が設けられており、検査者は、操作部5の操作スイッチを操作し、湾曲操作及び記録操作等の所望の操作を行う。操作部5は、検査者の操作に応じた操作信号をメイン制御部18に供給する。
メイン制御部18は、後述するように、挿入長指定エディットボックスで挿入長が指定されると、指定された挿入長が対応付けられた最初のフレームからAVIファイルを再生する。また、メイン制御部18は、操作部5からの操作信号に応じた処理を行うように各回路部等を制御し、内視鏡装置1全体の動作制御を行う。さらに、メイン制御部18は、動画ファイルの再生が指示されると、記憶部17に記憶されている再生ソフトを読み出し実行するとともに、記憶部17へのデータの書き込み、あるいは、記憶部17からデータの読み出しを行う。
次に、記録媒体19に記録されるAVIファイルの構造について説明する。
図2は、AVIファイルの構造の例について説明するための図である。
図2に示すように、AVIファイル20は、RIFF(Resource Interchange File Format)というフォーマットであり、ファイルの先頭から順に、LIST“hdrl”で示すヘッダ部21と、JUNKで示すダミーチャンク22と、LIST“movi”で示すストリームデータ部23と、idx1で示すインデックス24とを有した構造となっている。
このヘッダ部21は、Avihで示すAVIメインヘッダ25と、LIST“strl”で示すビデオデータ用のストリームリスト26と、LIST“strl”で示すオーディオデータ用のストリームリスト27とを有した構造となっている。
このオーディオデータ用のストリームリスト27は、strhで示すAVIストリームヘッダ28と、strfで示すストリームフォーマット29、strnで示すオプションデータ30とを有した構造となっている。
本実施の形態では、ヘッダ部21のオプションデータ30のオプションデータ内容に付加情報フラグが追加されている。この付加情報フラグは、AVIファイル20に重力情報及び挿入長情報のデータが格納されているか否かを示すフラグである。AVIファイル20に重力情報及び挿入長情報のデータが格納されていない場合、付加情報フラグのフラグ情報は0に設定され、AVIファイル20に重力情報及び挿入長情報のデータが格納されている場合、付加情報フラグのフラグ情報は1に設定される。この付加情報フラグのフラグ情報の設定は、メイン制御部18によって実行される。
また、ストリームデータ部23は、単位時間毎に区切られた複数、ここでは2つのストリームデータ23a及び23bを有した構造となっている。なお、図2では、2つのストリームデータ23a及び23bのみを記載しているが、動画像の撮影時間に応じたストリームデータがストリームデータ部23に格納される。即ち、AVIファイル20に60秒の動画像を記録する場合、ストリームデータ部23は、60個のストリームデータを有することになる。なお、各ストリームデータの構成は同一のため、以下では、ストリームデータ23aの構成を例に説明する。
ストリームデータ領域としてのストリームデータ23aは、画像格納領域としての30個の画像ストリーム31aと、1つの音声ストリーム32aとにより構成され、さらに、重力情報及び挿入長情報のデータを付加する場合、情報格納領域としての情報ストリーム33aの領域が確保される。そして、重力情報及び挿入長情報のデータを付加する場合、この情報ストリーム33aの領域に重力情報及び挿入長情報のデータが格納される。この画像格納領域としての30個の画像ストリーム31aには、内視鏡画像のデータが格納され、音声ストリーム32aには、その内視鏡画像のデータに対応付けられた音声情報のデータが格納され、情報ストリーム33aには、その内視鏡画像のデータに対応付けられた重力情報及び挿入長情報のデータが格納される。
なお、単位時間あたりのストリームデータ23aには、30個の画像ストリーム31aが格納されているが、即ち、フレームレートが30となっているが、フレームレートは30に限定されることなく、例えば、24であってもよい。
また、音声記録を行なわない場合、音声ストリーム32aの領域を設けないようにしてもよい。または、音声ストリーム32aの領域に重力情報及び挿入長情報のデータを格納し、情報ストリーム33aを設けないようにしてもよい。これにより、AVIファイル20のファイルサイズを小さくすることができる。
また、本実施の形態では、1つのAVIファイル20に内視鏡画像、重力情報及び挿入長情報のデータを格納して保存している。例えば、動画ファイルが大量にある場合、内視鏡画像のデータと、重力情報及び挿入長情報のデータとを別のファイルに保存していると、ファイルのコピー及び移動等が煩わしい。また、動画ファイルが大量にある場合、内視鏡画像のデータと、重力情報及び挿入長情報のデータとを別のファイルに保存していると、ファイルのコピー及び移動等の漏れが発生することがある。即ち、内視鏡画像のデータのファイルと、重力情報及び挿入長情報のデータのファイルとのいずれか一方にコピー漏れ等があると、詳細な検査ができなくなる。これに対し、本実施の形態では、1つのAVIファイル20に内視鏡画像、重力情報及び挿入長情報のデータを記録するので、ファイルのコピー漏れ等の発生を防ぐことができ、ファイルの管理が容易になる。
なお、動画ファイルの形式は、AVIファイル20に限定されることなく、MOVファイル等であってもよい。MOVファイルは、トラック単位で構成されており、動画、音声に加え、テキストトラック、チャプタトラック等を含むことできる。例えば、このテキストトラックまたはチャプタトラックに重力情報及び挿入長情報のデータを記録することができる。
次に、AVIファイル20の再生が指示された際の再生ウィンドウについて説明する。
図3は、再生ウィンドウの例を説明するための図であり、図4は、挿入長が指定された際の再生ウィンドウの例を説明するための図である。
再生ウィンドウ40は、検査者がAVIファイル20の再生を指示した際に最初に表示されるウィンドウであり、表示部4aに表示される。
この再生ウィンドウ40は、メイン制御部18が記憶部17から再生ソフトを読み出し、実行することで表示部4aに表示される。メイン制御部18は、検査者よってAVIファイル20の再生が指示されると、再生ウィンドウ40の生成をグラフィック生成部14に指示する。グラフィック生成部14は、メイン制御部18の指示に応じて、再生ウィンドウ40を表示するためのグラフィック画像信号を生成し、画像合成部15に出力する。画像合成部15は、このグラフィック画像信号に内視鏡画像及び挿入長を示すインジケータ等を合成して表示部4aに出力することにより、再生ウィンドウ40が表示部4aに表示される。以下、再生ウィンドウ40のグラフィカルユーザインターフェイス(GUI)の機能について説明する。
画像表示ボックス41は、内視鏡画像を表示するためのボックスであり、再生ソフトが実行されると、画像表示ボックス41にAVIファイル20に格納されている内視鏡画像が順次表示される。画像表示ボックス41に表示される内視鏡画像には、挿入長を示す挿入長インジケータ42が合成される。なお、重力方向を示すインジケータを内視鏡画像に合成して表示してもよい。
再生バー43は、動画ファイル、ここでは、再生が指示されたAVIファイル20の総再生時間を表すためのバーであり、再生バー43の右端の下には、AVIファイル20の総再生時間が表示される。このように、再生バー43の単位は時間となっている。
再生ポインタ44は、再生バー43内に設けられ、総再生時間に対してどの程度を再生したのかを表すためのポインタであり、AVIファイル20を再生中は、再生ポインタ44が右へと移動していく。再生ポインタ44の下には、現在の再生時間が表示される。なお、検査者は、操作部5を用いて図示しないカーソル等により再生ポインタ44をドラッグすることで、AVIファイル20を再生中に早送りまたは巻き戻しをすることも可能である。
再生ボタン45は、動画の停止中にAVIファイル20を再生させるためのボタンであり、停止ボタン46は、AVIファイル20の再生中に動画を停止させるためのボタンである。また、巻き戻しボタン47は、AVIファイル20の再生中の巻き戻しをさせるためのボタンであり、早送りボタン48は、AVIファイル20の再生中に早送りをさせるためのボタンである。
挿入長指定エディットボックス49は、挿入長を指定するためのボックスである。検査者が挿入長指定エディットボックス49に特定の挿入長を入力すると、メイン制御部18は、AVIファイル20から指定された挿入長が対応付けられた先頭のフレームを検索する。そして、メイン制御部18は、図4に示すように、指定された挿入長が対応付けられた先頭のフレームからAVIファイル20を再生する。さらに、メイン制御部18は、挿入長が指定された場合、再生時間の下に挿入長を表示する。この場合、画像表示ボックス41に表示される内視鏡画像に挿入長インジケータ42を合成しないようにしてもよい。
このような記録媒体19に記録されたAVIファイル20は、内視鏡装置1で再生することも可能であるが、検査者が記録媒体19を会社等に持ち帰り、詳細な検査を行う場合、重量のある内視鏡装置1も持ち運ぶことは面倒である。そこで、検査者は、記録媒体19のみを会社等に持ち帰り、記録媒体19に記録されたAVIファイル20を図5に示す再生装置で再生し、詳細な検査を行うことができる。
図5は、AVIファイルを再生する内視鏡画像再生装置の構成の例を示す図である。
内視鏡画像再生装置100は、例えば、パーソナルコンピュータであり、本体部101と、LCD等の表示部102aを備えた表示装置102と、キーボートあるいはマウス等の各種操作を行うための操作部103とを有して構成されている。
本体部101は、記録媒体読み書き部111と、記憶部112と、メイン制御部113と、グラフィック生成部114と、画像合成部115と有して構成されている。
検査者が操作部103を用いて再生処理を指示すると、その操作信号がメイン制御部113に供給される。記憶部112には、上述した再生ソフトが記憶されている。メイン制御部113は、この操作信号に応じて、記憶部112から再生ソフトを読み出して実行するとともに、記録媒体読み書き部111にAVIファイル20に記録されているデータの読み出しを指示する。記録媒体読み書き部111は、メイン制御部113の制御により、装着された記録媒体19に記録されているAVIファイル20を読み出す。
記録媒体読み書き部111は、AVIファイル20から読み出した内視鏡画像のデータを画像合成部115に出力し、挿入長情報をメイン制御部113に出力する。そして、メイン制御部113は、再生ウィンドウ40の生成及び挿入長インジケータ42の生成をグラフィック生成部114に指示する。グラフィック生成部114は、メイン制御部113からの指示に応じて、再生ウィンドウ40を表示するためのグラフィック画像信号及び挿入長を示す挿入長インジケータ42を生成して画像合成部115に出力する。
画像合成部115は、再生ウィンドウ40に内視鏡画像のデータ及び挿入長を示す挿入長インジケータ42を合成し、表示装置102に出力する。これにより、表示部102a上に図3に示す再生ウィンドウ40が表示され、AVIファイル20に記録された動画が再生される。メイン制御部113は、挿入長指定エディットボックス49で挿入長が指定されると、指定された挿入長が対応付けられた最初のフレームからAVIファイル20を再生する。この結果、検査者は、検査現場から動画像データを持ち帰った後、AVIファイル20を再生し、詳細な検査を行う際に、再生ウィンドウ40の挿入長指定エディットボックス49で挿入長を指定し、検査画像を記録したAVIファイル20から所望の検査部位を素早く検出することができる。
ここで、挿入長指定エディットボックス49で挿入長が指定された場合の処理について説明する。
図6は、挿入長が指定された場合の処理の流れの例を説明するためのフローチャートである。
まず、挿入長が指定されたか否かが判定される(ステップS1)。挿入長が指定されていない場合、NOとなり、処理を終了する。一方、挿入長が指定された場合、YESとなり、指定された挿入長(距離)が記憶部17に記憶される(ステップS2)。再生中のAVIファイル20から、記憶部17に記憶されている挿入長が対応付けられた最初のフレームが検索される(ステップS3)。検索して得られたフレームから再生が開始され(ステップS4)、処理を終了する。
以上のように、内視鏡装置1は、挿入長指定エディットボックス49で挿入長が指定されると、メイン制御部18の制御によって、指定された挿入長が対応付けられた最初のフレームからAVIファイル20を再生するようにした。
よって、本実施の形態の内視鏡装置1によれば、検査画像を記録した動画から所望の検査部位を素早く検出することができる。
(第2の実施の形態)
次に、第2の実施の形態について説明する。
本実施の形態では、再生バー43の単位を切り換えることができる内視鏡装置について説明する。なお、本実施の形態の内視鏡装置1aの構成は、第1の実施の形態の内視鏡装置1と同様のため、説明を省略する。
図7及び図8は、第2の実施の形態に係る再生ウィンドウの例を説明するための図である。
検査者が記録媒体19に記録したAVIファイル20の再生を指示すると、メイン制御部18は、図7に示す再生バー43の単位が時間の状態の再生ウィンドウ40aの生成をグラフィック生成部14に指示する。再生ウィンドウ40aは、図3の再生ウィンドウ40と略同じであり、挿入長指定エディットボックス49に代わり、再生の単位を切り換える再生単位切り換えボタン50を有して構成される。
再生単位切り換えボタン50の表示は、再生バー43の単位が時間の状態では、「meter」となっている。検査者が、AVIファイル20を再生中に詳細な検査を実施したい検査部位の内視鏡画像を確認するために、図7の右下にある再生単位切り換えボタン50を押下すると、メイン制御部18は、図8に示す再生ウィンドウ40bの生成をグラフィック生成部14に指示する。
再生ウィンドウ40bは、再生の単位が時間である再生バー43に代わり、再生の単位が挿入長である再生バー51を用いて構成される。この再生バー51の右端の下には、総挿入長が表示される。また、再生ウィンドウ40bでは、再生ポインタ44の下に現在の挿入長が表示され、挿入長インジケータ42が表示されないようになっている。さらに、再生の単位が挿入長に変更されると、再生単位切り換えボタン50の表示は、メイン制御部18の制御により、「meter」から「time」に変更される。検査者が再生単位切り換えボタン50をもう一度押下すると、再生の単位が時間である再生ウィンドウ40aに切り換わる。
このような再生ウィンドウ40bでは、再生バー51の単位が挿入長となっているため、検査者は、再生ポインタ44をドラッグし、挿入長の位置を素早く指定して再生することができる。
検査者が記録媒体19に記録されているAVIファイル20の再生操作を行うと、メイン制御部18は、再生バー51の単位を挿入長とするAVIファイル20a(図8参照)を生成し、記憶部17に記憶する。そして、検査者が再生バー43の単位を時間としている場合は、一般的な動画再生と同様にAVIファイル20を再生し、検査者が再生バー51の単位を挿入長に指定した場合は、記憶部17に記憶されているAVIファイル20aを再生する。
図9は、再生バーの単位を挿入長とした場合のAVIファイルの構造の例を説明するための図である。
図9に示すAVIファイル20aは、再生バー43の単位が時間のAVIファイル20と構造自体は略同じであるが、ストリームデータ23a及び23bに代わり、ストリームデータ52a及び53aを有した構造となっている。
ストリームデータ領域としてのストリームデータ52aは、画像格納領域としての30個の画像ストリーム54aと、1つの音声ストリーム55aとにより構成され、ストリームデータ53aは、30個の画像ストリーム54bと、1つの音声ストリーム55bとにより構成されている。なお、図2と同様に、情報ストリームの領域を設け、重力情報のデータを格納するようにしてもよい。
30個の画像ストリーム54a及び54bには、特定の挿入長毎の内視鏡画像のデータが格納される。例えば、30個の画像ストリーム54aには、挿入長が0mの内視鏡画像のデータが格納され、30個の画像ストリーム54bには、挿入長が0.1mの内視鏡画像のデータが格納される。AVIファイル20には、内視鏡画像のデータに挿入長情報が対応付けられているため、AVIファイル20から同じ挿入長の内視鏡画像のデータが30個読み出され、30個の画像ストリーム54aに格納される。
このとき、AVIファイル20において同じ挿入長に対応する内視鏡画像のデータが1秒分のフレーム数以上、即ち、本実施の形態では30フレーム以上ある場合、画像ストリーム54aに収まらない31フレーム以降の内視鏡画像のデータは破棄する。また、AVIファイル20において同じ挿入長に対応する内視鏡画像のデータが30フレーム以下の場合、内視鏡画像のデータが格納されていない画像ストリーム54aには、その挿入長での最後のフレームの内視鏡画像のデータを格納する。
なお、再生バー51が挿入長の場合のAVIファイル20aは、記憶部17に記憶せずに、他のハードディスク等の記憶媒体に一時的に記憶してもよい。また、AVIファイル20aは、AVIファイル20を再生するときに生成されるが、例えば、AVIファイル20を記録媒体19に記録するときに生成してもよいし、AVIファイル20を再生する前に、別途、生成指示を出すことにより生成してもよい。
検査者が再生単位切り換えボタン50を押下し、再生バー51の単位を挿入長に指定した場合、メイン制御部18は、AVIファイル20から生成され、記憶部17に記憶されたAVIファイル20aを読み出して再生する。
次に、再生単位切り換えボタン50が押下された場合の処理について説明する。
図10は、再生単位切り換えボタンが押下された場合の処理の流れの例を説明するためのフローチャートである。
まず、再生単位切り換えボタン50が押下されたか否かが判定される(ステップS11)。再生単位切り換えボタン50が押下されていない場合、NOとなり、処理を終了する。再生単位切り換えボタン50が押下された場合、YESとなり、現在の再生バー43の単位(モード)が時間か否かが判定される(ステップS12)。現在の再生バー43の単位(モード)が時間の場合、YESとなり、再生中のAVIファイル20と対となる再生バー51の単位が挿入長のAVIファイル20aを、現在の時間に対応する挿入長の最初のフレームから再生が開始され(ステップS13)、処理を終了する。一方、現在の再生バー43の単位(モード)が時間でない場合、NOとなり、現在の再生バー43の単位(モード)が挿入長か否かが判定される(ステップS14)。現在の再生バー43の単位(モード)が挿入長でない場合、NOとなり、処理を終了する。一方、現在の再生バー43の単位(モード)が挿入長の場合、YESとなり、再生中のAVIファイル20aと対となる再生バー43の単位が時間のAVIファイル20を、現在の挿入長に対応する時間の最初のフレームから再生が開始され(ステップS15)、処理を終了する。
図11は、図10のステップS13の処理の流れの例について説明するためのフローチャートである。
まず、再生中のAVIファイル20の時間が記憶部17に記憶される(ステップS21)。再生中のAVIファイル20が一時停止され、非表示にされる(ステップS22)。再生中のAVIファイル20と対となる再生バー51の単位(モード)が挿入長のAVIファイル20aが開かれる(ステップS23)。再生バー51の単位(モード)が挿入長のAVIファイル20aから、記憶部17で記憶されている時間に対応する挿入長の最初のフレームが検索される(ステップS24)。最後に、検索して得られたフレームから再生が開始され(ステップS25)、処理を終了する。
図12は、図10のステップS15の処理の流れの例について説明するためのフローチャートである。
まず、再生中のAVIファイル20aの挿入長が記憶部17に記憶される(ステップS31)。再生中のAVIファイル20aが一時停止され、非表示にされる(ステップS32)。再生中のAVIファイル20aと対となる再生バー43の単位(モード)が時間のAVIファイル20が開かれる(ステップS33)。再生バー43の単位(モード)が時間のAVIファイル20から、記憶部17で記憶されている挿入長に対応する時間の最初のフレームが検索される(ステップS34)。最後に、検索して得られたフレームから再生が開始され(ステップS35)、処理を終了する。
以上のように、内視鏡装置1aは、AVIファイル20の再生が指示された際に、再生バー43の単位を挿入長とするAVIファイル20aを生成する。そして、内視鏡装置1は、再生単位切り換えボタン50が押下されると、AVIファイル20を再生するようにした。
よって、内視鏡装置1aは、第1の実施の形態と同様に、検査画像を記録した動画から所望の検査部位を素早く検出することができる。
(第3の実施の形態)
次に、第3の実施の形態について説明する。
従来、工業用の内視鏡装置では、発電プラントあるいは航空機のエンジン等の定期検査に使用されるが、この場合、同じ検査部位の前回の検査結果と今回の検査結果とを比較して、クラック等の欠陥の進み具合を評価するために利用したりする。しかし、2つの動画を同時に再生した場合でも、時間の経過に伴う検査部位は、検査時毎で異なるため、同じ検査部位を並べて表示しての比較ができない。
そこで、本実施の形態では、2つの動画を比較する、例えば、同じ検査対象の1年前の定期検査で記録された動画と、この定期検査の1年後に記録された動画とを比較することができる内視鏡装置について説明する。なお、本実施の形態の内視鏡装置1bの構成は、第1の実施の形態の内視鏡装置1と同様のため、説明を省略する。
図13は、第3の実施の形態に係る再生ウィンドウの例を説明するための図である。
図13に示す再生ウィンドウ40cは、2つの画像表示ボックス60a及び60bを有し、再生の単位が挿入長である再生バー51を用いた構成である。その他の構成は、再生ウィンドウ40と同様のため、説明を省略する。なお、再生ウィンドウ40cは、2つの画像表示ボックス60a及び60bを有しているが、これに限定されることなく、3つ以上の画像表示ボックスを有していてもよい。
検査者が、例えば、記録媒体19に記録されている2つのAVIファイル20を選択し、比較再生操作をした場合、メイン制御部18は、2つのAVIファイル20のそれぞれについて、再生バー51の単位が挿入長であるAVIファイル20aを生成し、生成した2つのAVIファイル20aを同時に再生し、画像表示ボックス60a及び60bに内視鏡画像を表示する制御を行う。なお、再生バー51の単位を挿入長としたAVIファイル20aを生成し、再生する方法は、第2の実施の形態と同様のため説明を省略する。
従来、同じ検査対象を記録したAVIファイル20を同時に再生した場合、2つの検査で検査対象に挿入部2を挿入する速度が違うため、検査対象の同じ検査部位を表示しながら再生することはできない。
これに対し、内視鏡装置1bは、2つのAVIファイル20のそれぞれから再生バー51の単位を挿入長としたAVIファイル20aを生成し、同時に再生するため、画像表示ボックス60a及び60bには、同じ挿入長の内視鏡画像が表示される。このため、検査者は、2つの動画の比較を容易に行うことができる。
よって、本実施の形態の内視鏡装置1bによれば、2つの動画の比較を容易に行うことができる。
なお、2つのAVIファイル20aを同時に並べて再生する際に、AVIファイル20aに格納されている重力情報に基づいて、一方の内視鏡画像を他方の内視鏡画像と重力方向が一致するように回転させて表示してもよい。
図14は、重力方向を一致させる処理の流れの例を説明するためのフローチャートである。
まず、図13に向かって左側の画像表示ボックス60aで現在再生中のフレームに対応付けられている重力方向のロール角(重力方向に対する画像の回転角度)が取得される(ステップS41)。次に、図13に向かって右側の画像表示ボックス60bで現在再生中のフレームに対応付けられている重力方向のロール角が取得される(ステップS42)。最後に、取得したロール角の差分が算出され、算出された回転角度分だけ右側の内視鏡画像を回転させて表示させる(ステップS43)。以上の処理により、検査者は、内視鏡画像同士の比較をさらに容易にすることができる。
また、2つの動画を比較する場合、以下の使用方法をしてもよい。
一般的に、先端部2aには、交換式の光学アダプタ(レンズ)を取り付けて検査を行うが、その際に、同じ検査対象を視野方向が異なる光学アダプタで撮影した複数の動画同士を比較再生する。このとき、重力方向を内視鏡画像に合成して表示する。これにより、検査者は、同じ検査部位を異なる視野方向で撮像した内視鏡画像を並べて確認することができる。
また、工業用の内視鏡検査において、検査対象における検査部位の検査を定期的に行うことがマニュアル化されていることがある。そこで、メイン制御部18は、動画を記録時に検査マニュアルファイルを用いて、AVIファイル20にチャプタを入れるようにしてもよい。
図15は、検査マニュアルファイルの例を説明するための図である。
図15に示す検査マニュアルファイル61では、検査箇所に相当する挿入長がリスト化されている。検査者は、AVIファイル20または20aの再生を指示する際に、検査マニュアルファイル61を指定する。メイン制御部18は、検査マニュアルファイル61で指定されている挿入長にチャプタを設定する。
なお、検査者は、操作部5を操作して記録操作を指示する際に、この検査マニュアルファイル61を指定するようにしてもよい。メイン制御部18は、AVIファイル20として記録しているときに、検査マニュアルファイル61で指定されている挿入長にチャプタを設定する。また、挿入長が所定の時間変化がなかった場合、あるいは、重力方向に大きな変化があった場合等に、チャプタを設定するようにしてもよい。
これにより、検査者は、AVIファイル20または20aを再生時に、チャプタが設定された挿入長に対応付けられた内視鏡画像の頭出しを容易に行うことができる。
さらに、メイン制御部18は、再生バー51の単位を挿入長としたAVIファイル20a同士を比較する際に、2つのAVIファイル20aで同じ挿入長の内視鏡画像の差分の有無を検出するようにしてもよい。そして、メイン制御部18は、検出した差分が所定以上のレベルになった場合、差分が所定以上のレベルになった挿入長をチャプタとして自動設定する。また、メイン制御部18は、差分が所定以上のレベルになった挿入長を検査マニュアルファイル61に検査箇所として自動設定するようにしてもよい。これにより、次回の検査から、差分が所定以上のレベルになった挿入長の内視鏡画像の頭出しを容易に行うことができる。
なお、本明細書における各フローチャート中の各ステップは、その性質に反しない限り、実行順序を変更し、複数同時に実行し、あるいは実行毎に異なった順序で実行してもよい。
本発明は、上述した実施の形態に限定されるものではなく、本発明の要旨を変えない範囲において、種々の変更、改変等が可能である。
1,1a,1b…内視鏡装置、2…挿入部、2a…先端部、3…本体部、4…表示装置、4a…表示部、5…操作部、6…根元部、7…挿入長検出部、8…撮像素子、9…重力方向検出部、11…画像処理部、12…重力信号処理部、13…挿入長信号処理部、14…グラフィック生成部、15…画像合成部、16…記録媒体読み書き部、17…記憶部、18…メイン制御部、19…記録媒体、20,20a…AVIファイル、40,40a,40b,40c…再生ウィンドウ、41…画像表示ボックス、42…挿入長インジケータ、43…再生バー、44…再生ポインタ、45…再生ボタン、46…停止ボタン、47…巻き戻しボタン、48…早送りボタン、49…挿入長指定エディットボックス、50…再生単位切り換えボタン、51…再生バー、60a,60b…画像表示ボックス、61…検査マニュアルファイル、100…内視鏡画像再生装置、101…本体部、102…表示装置、102a…表示部、103…操作部、111…記録媒体読み書き部、112…記憶部、113…メイン制御部、114…グラフィック生成部、115…画像合成部。

Claims (9)

  1. 内視鏡挿入部の先端部に設けられた撮像素子により撮像された撮像信号に画像処理を施し、内視鏡画像を生成する画像処理部と、
    前記先端部を検査対象に挿入した挿入長に関する情報を検出する挿入長検出部と、
    前記挿入長検出部によって検出された前記挿入長に関する情報に所定の信号処理を施し、挿入長情報を検出する挿入長信号処理部と、
    記録媒体が着脱可能であって、前記内視鏡画像のデータに前記挿入長情報のデータを対応付けて1つの動画ファイルに格納し、前記記録媒体に記録する記録媒体読み書き部と、
    前記動画ファイルの再生が指示されると、再生ウィンドウで動画ファイルを再生するとともに、前記再生ウィンドウに設けられた、挿入長を指定する挿入長指定ボックスで挿入長が指定された場合、前記指定された挿入長に対応付けられた最初のフレームから再生を開始させる制御を行う制御部と、
    を有することを特徴とする内視鏡装置。
  2. 前記動画ファイルに含まれる前記挿入長情報のデータから前記内視鏡挿入部の前記先端部の挿入長を示す挿入長インジケータを生成するグラフィック生成部と、
    前記動画ファイルに含まれる内視鏡画像のデータと、前記グラフィック生成部で生成された前記挿入長を示す挿入長インジケータとを合成した合成画像を前記再生ウィンドウに表示させる画像合成部とをさらに有することを特徴とする請求項1に記載の内視鏡装置。
  3. 前記制御部は、前記動画ファイルの再生が指示されると、前記動画ファイルから再生バーの単位を挿入長とする動画ファイルを生成して記憶部に記憶するとともに、前記再生ウィンドウに設けられた、前記再生バーの単位を切り換える再生単位切り換えボタンが押下された場合、前記再生バーの単位を挿入長とする動画ファイルの現在の時間に対応する挿入長の最初のフレームから再生を開始することを特徴とする請求項1に記載の内視鏡装置。
  4. 前記制御部は、同一の検査対象を撮像して得られた複数の動画ファイルのそれぞれから前記再生バーの単位を挿入長とする動画ファイルを生成し、生成した複数の前記再生バーの単位を挿入長とする動画ファイルを前記再生ウィンドウで再生させることを特徴とする請求項1に記載の内視鏡装置。
  5. 記録媒体が着脱可能であって、前記記録媒体に記録された動画ファイルを読み出す記録媒体読み書き部と、
    前記動画ファイルの再生が指示されると、再生ウィンドウで動画ファイルを再生するとともに、前記再生ウィンドウに設けられた、挿入長を指定する挿入長指定ボックスで挿入長が指定された場合、前記指定された挿入長に対応付けられた最初のフレームから再生を開始させる制御を行う制御部と、
    を有することを特徴とする内視鏡画像再生装置。
  6. 前記動画ファイルに含まれる前記挿入長情報のデータから前記内視鏡挿入部の前記先端部の挿入長を示す挿入長インジケータを生成するグラフィック生成部と、
    前記動画ファイルに含まれる内視鏡画像のデータと、前記グラフィック生成部で生成された前記挿入長を示す挿入長インジケータとを合成した合成画像を前記再生ウィンドウに表示させる画像合成部とをさらに有することを特徴とする請求項5に記載の内視鏡画像再生装置。
  7. 前記制御部は、前記動画ファイルの再生が指示されると、前記動画ファイルから再生バーの単位を挿入長とする動画ファイルを生成して記憶部に記憶するとともに、前記再生ウィンドウに設けられた、前記再生バーの単位を切り換える再生単位切り換えボタンが押下された場合、前記再生バーの単位を挿入長とする動画ファイルの現在の時間に対応する挿入長の最初のフレームから再生を開始することを特徴とする請求項5に記載の内視鏡画像再生装置。
  8. 前記制御部は、同一の検査対象を撮像して得られた複数の動画ファイルのそれぞれから前記再生バーの単位を挿入長とする動画ファイルを生成し、生成した複数の前記再生バーの単位を挿入長とする動画ファイルを前記再生ウィンドウで再生させることを特徴とする請求項5に記載の内視鏡画像再生装置。
  9. 単位時間毎に区切られた複数のストリームデータ領域と、
    前記複数のストリームデータ領域のそれぞれに設けられた複数の画像格納領域と、
    を備え、
    前記複数の画像格納領域毎に同一の挿入長の内視鏡画像のデータが格納されていることを特徴とする動画ファイルのデータ構造。
JP2010273935A 2010-12-08 2010-12-08 内視鏡装置、内視鏡画像再生装置及びデータ構造を記録した記録媒体 Active JP5690124B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010273935A JP5690124B2 (ja) 2010-12-08 2010-12-08 内視鏡装置、内視鏡画像再生装置及びデータ構造を記録した記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010273935A JP5690124B2 (ja) 2010-12-08 2010-12-08 内視鏡装置、内視鏡画像再生装置及びデータ構造を記録した記録媒体

Publications (3)

Publication Number Publication Date
JP2012120706A true JP2012120706A (ja) 2012-06-28
JP2012120706A5 JP2012120706A5 (ja) 2014-01-30
JP5690124B2 JP5690124B2 (ja) 2015-03-25

Family

ID=46502824

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010273935A Active JP5690124B2 (ja) 2010-12-08 2010-12-08 内視鏡装置、内視鏡画像再生装置及びデータ構造を記録した記録媒体

Country Status (1)

Country Link
JP (1) JP5690124B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019198322A1 (ja) * 2018-04-10 2019-10-17 オリンパス株式会社 医療システム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07171088A (ja) * 1993-12-20 1995-07-11 Olympus Optical Co Ltd 内視鏡画像記録再生システム
JP2006043449A (ja) * 2004-07-08 2006-02-16 Pentax Corp 内視鏡システム
JP2007313170A (ja) * 2006-05-29 2007-12-06 Olympus Corp 内視鏡システムおよび内視鏡観察方法
JP2009077765A (ja) * 2007-09-25 2009-04-16 Fujifilm Corp 内視鏡システム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07171088A (ja) * 1993-12-20 1995-07-11 Olympus Optical Co Ltd 内視鏡画像記録再生システム
JP2006043449A (ja) * 2004-07-08 2006-02-16 Pentax Corp 内視鏡システム
JP2007313170A (ja) * 2006-05-29 2007-12-06 Olympus Corp 内視鏡システムおよび内視鏡観察方法
JP2009077765A (ja) * 2007-09-25 2009-04-16 Fujifilm Corp 内視鏡システム

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019198322A1 (ja) * 2018-04-10 2019-10-17 オリンパス株式会社 医療システム
CN111936033A (zh) * 2018-04-10 2020-11-13 奥林巴斯株式会社 医疗系统
US12042339B2 (en) 2018-04-10 2024-07-23 Olympus Corporation Medical system and method of controlling medical system

Also Published As

Publication number Publication date
JP5690124B2 (ja) 2015-03-25

Similar Documents

Publication Publication Date Title
US11817131B2 (en) Interface for indicating video editing decisions
JP5980604B2 (ja) 内視鏡システム
US9118818B2 (en) Endoscope apparatus, reproducing apparatus, displaying method and inspection report generating apparatus
JP5751899B2 (ja) 医用画像処理装置及び医用画像診断装置
JP5635265B2 (ja) 編集装置および編集方法
JP2006345489A5 (ja)
US8698883B2 (en) Endoscopic image reproducing apparatus
JP5690124B2 (ja) 内視鏡装置、内視鏡画像再生装置及びデータ構造を記録した記録媒体
KR20140136802A (ko) 디지털 영상 녹화 장치 및 이의 동작방법
JP2010147509A (ja) 映像処理装置及び映像配信システム
JP2007124538A (ja) 電子機器、及び、再生管理方法
JP2004193695A (ja) 記録再生装置及び方法
US7555197B2 (en) Image processing apparatus
JP2009250792A (ja) データ検査システム
JP6230237B2 (ja) 内視鏡装置
JP5846940B2 (ja) 情報処理装置、プログラム、情報処理方法及び再生方法
KR20100042866A (ko) 관로 조사보고서 작성 시스템
TW200924527A (en) Video recording and playing system and method for setting and playing video section
JP2012120706A5 (ja)
JP5037090B2 (ja) 超音波診断装置、超音波画像記録装置
JP4379534B2 (ja) 記録再生装置
JP4424441B2 (ja) 画像管理装置、画像管理方法
JP4600585B2 (ja) 画像管理装置、画像管理方法
JP3550667B2 (ja) 映像データ表示装置
JP3845641B2 (ja) 画像編集装置および画像編集方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131204

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131204

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140716

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140805

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141003

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150113

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150130

R151 Written notification of patent or utility model registration

Ref document number: 5690124

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250