JP5601218B2 - 情報処理装置、情報処理方法及びプログラム - Google Patents

情報処理装置、情報処理方法及びプログラム Download PDF

Info

Publication number
JP5601218B2
JP5601218B2 JP2011012130A JP2011012130A JP5601218B2 JP 5601218 B2 JP5601218 B2 JP 5601218B2 JP 2011012130 A JP2011012130 A JP 2011012130A JP 2011012130 A JP2011012130 A JP 2011012130A JP 5601218 B2 JP5601218 B2 JP 5601218B2
Authority
JP
Japan
Prior art keywords
image
display range
movement amount
thumbnail map
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011012130A
Other languages
English (en)
Other versions
JP2012155016A (ja
Inventor
寛 長谷川
重篤 吉岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2011012130A priority Critical patent/JP5601218B2/ja
Publication of JP2012155016A publication Critical patent/JP2012155016A/ja
Application granted granted Critical
Publication of JP5601218B2 publication Critical patent/JP5601218B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Microscoopes, Condenser (AREA)
  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)

Description

本発明は、元画像を縮小した画像であるサムネイル画像と、このサムネイル画像の中で指定された領域の部分画像を観察画像として表示可能な情報処理装置、情報処理方法及びプログラムに関する。
医療又は病理等の分野において、光学顕微鏡により拡大して得られた、生体の細胞、組織、臓器等の標本の画像をデジタル化し、そのデジタル画像をモニタに表示し、このモニタに表示された画像を病理医等がその肉眼で観察して診断を行うデジタルパソロジー(病理診断)技術が提案されている(例えば特許文献1)。
この際、肉眼による画像の観察を効率化するための画像表示方法の改良が検討されてきた。例えば、上記の特許文献1では、モニタ上に標本を光学顕微鏡で撮影した元画像を表示するとともに、プレパラートを表示し、プレパラートに元画像の画素を引きして縮小した縮小画像を表示する。これにより、標本の全体像を確認できるとともに、標本上の実際に観察している位置や範囲などを容易に認識することができる、としている。
特開開2001−166218号公報(段落[0026]、図3)
モニタに標本の元画像を様々なズーム倍率で表示するとともに、元画像より小さい解像度で標本全体の画像を「サムネイルマップ」として表示することのできる画像表示システムであるビューワ装置の開発が進められている。このようなビューワ装置では、サムネイルマップ上に、標本画像全体における観察画像の範囲を示す枠が表示され、この枠をユーザがポインティングデバイスを操作して移動させることによって、標本画像全体における観察画像の表示範囲が移動するといった機能の組み込みが望まれている。
しかしながら、サムネイルマップは元画像の画素を間引いて縮小した画像であることから、サムネイルマップ上の1ピクセルは観察画像上では、2倍ものピクセル数からなる領域に相当する。このため、サムネイルマップ上の枠をユーザがポインティングデバイスを操作して斜めに移動させるときの操作方向の僅かなブレなどによって枠が斜め方向のみならず縦横の方向にも移動するさまが観察画像の表示範囲の移動の仕方に視覚的に現れてしまうなど、解決すべき点があった。この点を含め、サムネイルマップ上の枠を移動させて観察画像の表示範囲を移動させる処理の様々な面での性能向上が期待されている。
以上のような事情に鑑み、本発明の目的は、サムネイルマップ上の枠を移動させて観察画像の表示範囲を移動させる処理の性能の向上を図ることのできる情報処理装置、情報処理方法及びプログラムを提供することにある。
上記目的を達成するため、本発明の一形態に係る画像処理装置は、元画像を第1の圧縮率で空間的に圧縮した第1の画像に、前記元画像を第1の圧縮率よりも低い第2の圧縮率で空間的に圧縮した第2の画像の前記元画像中の表示範囲を示す枠を合成してサムネイルマップを生成するサムネイルマップ生成部と、前記第2の画像と前記サムネイルマップ生成部により生成された前記サムネイルマップとを合成して表示装置に出力する合成部と、ユーザより前記サムネイルマップ上の前記枠に対する、互いに直交する2軸方向の移動量を入力する入力部と、前記入力部より今回を含め過去直近に入力された複数の移動量の平均値を第1の補正移動量として、この第1の補正移動量をもとに前記第2の画像の前記表示範囲を移動させる表示範囲計算部とを具備する。
本発明では、表示範囲計算部が、入力部より今回を含め過去直近に入力された複数の移動量の平均値を第1の補正移動量として、この第1の補正移動量をもとに第2の画像の表示範囲を移動させることにより、サムネイルマップ上の枠が斜めに移動されたとき、観察画像の表示範囲が階段状に大きく揺れることがなくなり、ユーザの操作性が改善される。
前記表示範囲計算部は、前記移動量の入力の回数をカウントし、カウントした入力の回数が所定の回数以上であるとき、前記第1の補正移動量をもとに前記第2の画像の前記表示範囲を移動させ、前記カウントした入力の回数が所定の回数未満であるとき、今回を含め過去に入力された移動量の平均値を第2の補正移動量として、この第2の補正移動量をもとに前記第2の画像の前記表示範囲を移動させるものであってもよい。
この構成によれば、サムネイルマップ上の枠の移動を開始してから所定回数移動量が入力されるまでの初期段階から、観察画像の表示範囲が階段状に大きく揺れる現象を抑制することができる。
前記表示範囲計算部は、前記第1の補正移動量をもとに算出された前記第2の画像の前記表示範囲の移動先の位置である第1の位置と、前記サムネイルマップ上の前記枠の移動先の位置を前記第2の画像のスケールに置き換えた第2の位置との距離が予め設定された第1の上限値以内に収まるように前記第1の位置を補正するものであってもよい。
これにより、サムネイルマップ上の枠と観察画像の表示範囲との空間的な整合性を確保することができ、ユーザにとって良好な操作性が保証される。
前記表示範囲計算部は、前記サムネイルマップ上の前記枠の移動の加速度が閾値以上であるとき、前記第1の補正移動量をもとに算出された前記第2の画像の前記表示範囲の移動先の位置である第1の位置と、前記サムネイルマップ上の前記枠の移動先の位置を前記第2の画像のスケールに置き換えた第2の位置との距離が予め設定された第2の上限値以内に収まるように前記第1の位置を補正するものであってもよい。
これによっても、サムネイルマップ上の枠と観察画像の表示範囲との空間的な整合性を確保することができ、ユーザにとって良好な操作性が保証される。
前記表示範囲計算部は、前記互いに直交する2軸のうちの第1の軸方向について、前記入力部より過去に入力された移動量の正負の向きに対して逆向きの移動量が入力された場合、前記第1の補正移動量の前記第1の軸方向成分の移動量を調整し、前記互いに直交する2軸のうちの第2の軸方向について、前記入力部より過去に入力された移動量の正負の向きに対して逆向きの移動量が入力された場合、前記第1の補正移動量の前記第2の軸方向成分の移動量を調整するものであってもよい。
これにより、過去に入力された移動量の正負の向きに対して逆向きの移動量が入力された場合に、サムネイルマップ上の枠の位置と観察画像の表示範囲とのずれが過大になるのを抑制できる。
前記表示範囲計算部は、今回を含め過去直近に入力された複数の移動量にそれぞれ直近度に応じた重みをつけて補正移動量を計算するようにしてもよい。
上記目的を達成するため、本発明の別の形態に係る情報処理方法は、サムネイルマップ生成部が、元画像を第1の圧縮率で空間的に圧縮した第1の画像に、前記元画像を第1の圧縮率よりも低い第2の圧縮率で空間的に圧縮した第2の画像の前記元画像中の表示範囲を示す枠を合成してサムネイルマップを生成し、合成部が、前記第2の画像と前記サムネイルマップ生成部により生成された前記サムネイルマップとを合成して表示装置に出力し、入力部が、ユーザより前記サムネイルマップ上の前記枠に対する、互いに直交する2軸方向の移動量を入力し、表示範囲計算部が、前記入力部より今回を含め過去直近に入力された複数の移動量の平均値を第1の補正移動量として、この第1の補正移動量をもとに前記第2の画像の前記表示範囲を移動させることを特徴とする。
上記目的を達成するため、本発明の別の形態に係るプログラムは、元画像を第1の圧縮率で空間的に圧縮した第1の画像に、前記元画像を第1の圧縮率よりも低い第2の圧縮率で空間的に圧縮した第2の画像の前記元画像中の表示範囲を示す枠を合成してサムネイルマップを生成するサムネイルマップ生成部と、前記第2の画像と前記サムネイルマップ生成部により生成された前記サムネイルマップとを合成して表示装置に出力する合成部と、ユーザより前記サムネイルマップ上の前記枠に対する、互いに直交する2軸方向の移動量を入力する入力部と、前記入力部より今回を含め過去直近に入力された複数の移動量の平均値を第1の補正移動量として、この第1の補正移動量をもとに前記第2の画像の前記表示範囲を移動させる表示範囲計算部としてコンピュータを機能させるプログラムである。
以上のように本発明によれば、サムネイルマップ上の枠を移動させて観察画像の表示範囲を移動させる処理の性能の向上を図ることができる。
本発明の第1の実施形態に係る顕微鏡システムの構成を示すブロック図である。 画像ピラミッド構造を示す図である。 第1の実施形態に係るビューワ装置として用いられるコンピュータのハードウェア構成を示すブロック図である。 第1の実施形態に係るビューワ装置によって表示されるサムネイルマップと観察画像を含む観察環境画面の例を示す図である。 図4に示した観察環境画面での観察画像の表示範囲の移動操作を示す図である。 第1の実施形態に係るビューワ装置の機能的な構成を示すブロック図である。 第1の実施形態に係るビューワ装置の動作に関するフローチャートである。 第1の実施形態に係るビューワ装置のサムネイルマップ上での枠の移動を示す図である。 二次補正前の観察画像の表示範囲の一次補正位置とサムネイルマップ上の枠の位置を示す図である。 観察画像の移動先の表示範囲の一次補正位置に対する二次補正の例を示す図である。 第1の実施形態に係る観察画像の表示範囲の移動を典型的な方式と比較して示す図である。 変形例1に係る枠の移動の加速度の増大に伴う観察画像の表示範囲の一次補正位置とサムネイルマップ上の枠の位置を示す図である。 変形例1に係る観察画像の表示範囲の一次補正位置に対する加速度に応じた二次補正の例を示す図である。 変形例2に係るサムネイルマップ上での枠の移動方向がY軸方向で正負逆転する例を示す図である。 変形例2に係るサムネイルマップ上の枠の位置と観察画像の表示範囲の位置とのずれが過大になる様子を示す図である。 変形例2の効果を説明するための図である。
以下、本発明の実施形態を説明する。
本実施形態は、元画像を第1の圧縮率で空間的に圧縮した第1の画像であるサムネイル画像と、元画像を第1の圧縮率よりも低い第2の圧縮率で空間的に圧縮した第2の画像である観察画像とを1画面(1ウィンドウ)内に表示可能な情報処理装置に関するものである。サムネイル画像には、元画像全体を俯瞰することができる程度まで高い圧縮率で空間的に圧縮された画像が利用される。一方、観察画像は標本の肉眼による観察に用いられる画像である。このため観察画像には、元画像(圧縮率=1)もしくは比較的に低い圧縮率で圧縮された画像が利用される。したがって、物理的な画面に表示される観察画像は元画像全体の中の一部の範囲であることが普通である。しかし、このように画面に表示される観察画像が元画像全体の中の一部の範囲である場合、ユーザにとっては、観察中の観察画像が元画像全体の中のどの範囲に位置するかが分からない。
そこで元画像全体を俯瞰したサムネイル画像上に、現在表示中の観察画像の元画像中の範囲を囲む枠が合成されて表示されるようになっている。この枠が合成されたサムネイル画像を「サムネイルマップ」と呼ぶ。サムネイルマップ上の枠は、ポインティングデバイスなどの入力装置を操作して入力されるユーザからの指示によって、任意の方向へ任意の量だけ移動させることが可能である。サムネイルマップ上の枠が移動させると、これに伴って観察画像の元画像中の表示範囲も更新される。すなわち、枠の移動量に対して、サムネイル画像の解像度に対する観察画像の解像度の倍率を乗じて得られた値が観察画像の移動量として算出され、この移動量をもとに観察画像の移動先の位置が算出される。
本実施形態は、このようにサムネイルマップ上の枠を移動させて観察画像の表示範囲を移動させる処理の性能の向上を図ることのできる情報処理装置を提供するものである。
以下に、本実施形態の詳細を図面を用いて説明する。
[顕微鏡システムの構成]
図1は、本発明の第1の実施形態に係る顕微鏡システム1の構成を示すブロック図である。
同図に示すように、顕微鏡システム1は、顕微鏡2、顕微鏡制御ユニット3、サーバ装置4、ビューワ装置5(情報処理装置に相当する。)、表示装置6、および入力装置7を有する。
顕微鏡2は、顕微鏡制御ユニット3からの制御信号を受けて動作する光学顕微鏡である。顕微鏡2は、撮像装置21、鏡筒22、ステージ23、ステージ駆動部24を有する。撮像装置21は、例えば、CCD(Charge Coupled Device Image Sensor)やCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子を備える撮像デバイスである。鏡筒22は、対物レンズ及び接眼レンズなどを支持した構造体である。ステージ23はステージ駆動部24によって鏡筒22の光学系の光軸方向(Z軸方向)とこの光軸方向に対して直交する方向(X軸方向、Y軸方向)に駆動可能とされ、標本Pの位置を上記の3軸方向に可変する。ステージ駆動部24は、ステッピングモータ等の駆動機構を内蔵し、顕微鏡制御ユニット3からの制御指令に従ってステージ23の移動量および移動方向を制御する。以上の構成を有することによって、顕微鏡2は、ステージ23上に載置された標本Pの像を鏡筒22内の光学系にて拡大し、拡大された像を撮像装置21にて撮像してRAWデータとして顕微鏡制御ユニット3に出力する。
顕微鏡制御ユニット3は、顕微鏡2を制御するユニットである。顕微鏡制御ユニット3は、例えば、撮像装置21の撮像タイミングの制御、ステージ駆動部24の制御などを行う。また、顕微鏡制御ユニット3は、顕微鏡2の撮像装置21より伝送された画像データから下記の画像ピラミッド構造を生成する。
顕微鏡制御ユニット3は、顕微鏡2の撮像装置21より伝送された画像データを、1/2、1/2、1/2、・・・、1/2の各倍率で空間的に圧縮する。これにより1つの標本に対して(N+1)階層分の画像データが得られる。図2は画像ピラミッド構造を示す図である。同図の例では、説明の簡単のため、画像ピラミッド構造が実際よりも少ない5層で構成される場合を示している。ここで、第1層目を顕微鏡2の撮像装置21より伝送された画像データ(元画像)とすると、この元画像を、1/2倍率で圧縮したものが第2層目、1/2倍率で圧縮したものが第3層目、1/2倍率で圧縮したものが第4層目、1/2倍率で圧縮したものが第5層目となる。
また、画像ピラミッド構造における各階層の画像データはそれぞれ「タイル」と呼ばれるに所定の解像度の領域に分割されて管理される。タイルの解像度は、例えば256×256(pixel)、256×512(pixel)などである。それぞれのタイルには、画像ピラミッド構造において個々をユニークに識別することができるようにタイルIDが割り当てられる。
顕微鏡制御ユニット3は、以上のように作成された画像ピラミッド構造における各階層の画像データを上記タイル単位で圧縮符号化し、上記の画像ピラミッド構造にしてサーバ装置4に伝送する。
図1に戻って、サーバ装置4は、顕微鏡制御ユニット3より伝送された画像データをストレージに蓄積する。また、サーバ装置4は、ビューワ装置5と例えば、IPネットワークなどの伝送路を通じて接続され、ビューワ装置5からのリクエストに対してタイル単位で画像データを応答する。
ビューワ装置5(情報処理装置に相当する。)は、サーバ装置4にサムネイルマップ用および観察画像用の画像データを取得するためのリクエストを送り、サーバ装置4より応答された画像データを復号して表示装置に出力する。ビューワ装置5は、サーバ装置4に蓄積された画像データにアクセスする際、目的の画像データを標本名とタイルIDとの組み合わせにより一意に指定することができる。
表示装置6は、サーバ装置4から出力された映像信号を受けてサムネイルマップおよび観察画像を含む表示データを可視的に表示する。表示装置6は、例えばCRT(Cathode Ray Tube)や液晶ディスプレイ等である。
入力装置7は、ユーザからの各種の操作指令を受け付けてビューワ装置5に出力する。入力装置7は、例えば、マウスなどのポインティングデバイスであり、表示画面に表示されるカーソルポインタをX軸及びY軸方向に移動操作して、それぞれの軸方向の移動量をビューワ装置5に供給する。
次に、顕微鏡制御ユニット3、サーバ装置4、ビューワ装置5のハードウェア構成について説明する。
顕微鏡制御ユニット3、サーバ装置4、ビューワ装置5は、例えばPC(Personal Computer)などの典型的なコンピュータのハードウェア構成を有するものである。
図3はビューワ装置5として用いられるコンピュータのハードウェア構成を示すブロック図である。
このコンピュータは、CPU11、ROM12、メインメモリ13、ストレージ部14、ネットワークインタフェース部15、ディスプレイ制御部17、入力インタフェース部18、システムバス19などで構成される。
CPU(Central Processing Unit)11は、ROM12に記憶されたプログラムにしたがって、各種の制御や演算処理を行うことが可能である。
ROM(Random Access Memory)12には、CPU11により実行されるプログラムや各種の固定データなどが格納される。
メインメモリ13は、CPU11による演算処理の作業空間として用いられるメモリである。
ストレージ部14は、ユーザデータとして画像データなどのデータを保存するための装置である。ストレージ部14は、より具体的には、HDD(Hard Disc Drive)、SSD(Solid State Drive)などの大容量で書き換えが可能な記憶装置である。
ネットワークインタフェース部15は、インターネット、ローカルエリアネットワークなどのネットワーク80との有線または無線での接続を処理するインタフェースである。
ディスプレイ制御部17は、表示装置6に出力する表示用の映像信号を生成する。
入力インタフェース部18は、例えば、マウス、キーボード、コントローラなどのユーザの入力装置7からの入力を処理する。
顕微鏡制御ユニット3およびサーバ装置4の構成もこれと同様である。
[ビューワ装置5の機能的な構成]
次に、ビューワ装置5の機能的な構成について説明する。
ビューワ装置5は、図4に示すように、元画像を第1の圧縮率で空間的に圧縮した第1の画像であるサムネイルマップ103と、元画像を第1の圧縮率よりも低い第2の圧縮率(圧縮率=1を含む。)で空間的に圧縮した第2の画像である観察画像101とを合成した観察環境画面を生成して表示装置6に表示させることができる。
サムネイルマップ103上には、観察画像101の表示範囲をサムネイルマップ103のスケールに置き換えて示す枠105が表示される。また、図5に示すように、この枠105は、ユーザによって例えばマウス(入力装置7)のドラッグ操作などによってサムネイルマップ103上で任意の位置に移動させることが可能である。この枠105の移動に伴って、観察画像101の表示範囲もサムネイルマップ103上の枠105の位置に対応するように移動される。
また、ユーザが入力装置7を操作することによって観察画像101として表示させる画像の圧縮率(階層)を変更することも可能である。この観察画像101の圧縮率(階層)の変更操作に伴って、サムネイルマップ103上の枠105のサイズも変更される。これにより観察画像101のズームイン/ズームアウトを行うことができる。
図6は、ビューワ装置5の観察環境画面の表示に係る機能的な構成を示すブロック図である。
同図に示すように、ビューワ装置5は、入力I/F部51(入力部に相当する。)、表示範囲計算部52、画像データ取得部53、デコーダ54、枠生成部55、サムネイルマップ合成部56(サムネイルマップ生成部に相当する。)、画像合成部57(合成部に相当する。)を具備する。
入力I/F部51は、入力装置7からX軸およびY軸方向の移動量を一定の時間周期で取得し、表示範囲計算部52および枠生成部55に供給する。
表示範囲計算部52は、入力I/F部51より入力された操作量をもとに、観察画像における移動先の表示範囲を算出し、算出された表示範囲を満たす画像データの取得を画像データ取得部53に依頼する。
画像データ取得部53は、表示範囲計算部52より依頼された観察画像用の画像データおよびサムネイルマップ用の画像データをサーバ装置4より取得する。
デコーダ54は、画像データ取得部53にて取得された観察画像用の画像データおよびサムネイルマップ用の画像データを復号する。サムネイルマップ用の画像データの復号結果はサムネイルマップ合成部56に出力され、観察画像用の画像データの復号結果は画像合成部57に出力される。
枠生成部55は、入力I/F部51より入力された移動量をもとに、サムネイルマップ上の枠の表示イメージを生成してサムネイルマップ合成部56に出力する。
サムネイルマップ合成部56は、デコーダ54より出力されたサムネイルマップ用の画像データであるサムネイル画像と枠生成部55により生成された枠の表示イメージとを合成してサムネイルマップを生成し、画像合成部57に出力する。
画像合成部57は、サムネイルマップ合成部56によって合成されたサムネイルマップとデコーダ54より出力された観察画像とを合成し、合成画像をディスプレイ制御部17(図3参照)を通じて表示装置6に供給する。
[顕微鏡システムの動作]
次に、顕微鏡システム1の動作について説明する。動作の説明は、
1.観察環境画面が表示されるまでの動作
2.観察画像の表示範囲を移動させる動作
の順で行う
(1.観察環境画面が表示されるまでの動作)
顕微鏡2は顕微鏡制御ユニット3による制御の下、ステージ23上に載置された標本Pの顕微像を撮像し、画像データを顕微鏡制御ユニット3に出力する。顕微鏡制御ユニット3は、顕微鏡2からの画像データが入力されると、この画像データを空間的に圧縮して画像ピラミッド構造を生成し、この画像ピラミッド構造における各階層の画像データをタイル単位で圧縮符号化してサーバ装置4に出力する。サーバ装置4は顕微鏡制御ユニット3より伝送された画像ピラミッド構造の各階層の画像データをストレージに保存する。以後サーバ装置4は、ビューワ装置5からの画像データの取得要求を受けた場合には、その要求された画像データをストレージに保存された画像ピラミッド構造からタイル単位で抽出し、ビューワ装置5に応答する。
ビューワ装置5では、まず、画像データ取得部53がサムネイルマップ用として予め設定された所定の階層の画像データと観察対象用として予め設定された所定の階層の所定の範囲の画像データをサーバ装置4に要求する。画像データ取得部53は、サーバ装置4より応答されたサムネイルマップ用の画像データおよび観察対象用の画像データをそれぞれデコーダ54に出力する。デコーダ54によって復号されたサムネイル画像はサムネイルマップ合成部56に出力される。一方、デコーダ54によって復号された観察画像は画像合成部57に出力される。
サムネイルマップ合成部56は、デコーダ54によって復号されたサムネイル画像と、枠生成部55により生成された枠の表示イメージとを合成して、この結果をサムネイルマップとして画像合成部57に出力する。画像合成部57は、このサムネイルマップとデコーダ54からの観察画像とを合成する。合成された画像はディスプレイ制御部17(図3参照)を通じて表示装置6に出力される。
これにより、図4に示したように、表示装置6に、観察画像101とサムネイルマップ103を含む観察環境画面に表示される。サムネイルマップ103には、観察画像101の表示範囲をサムネイルマップ103のスケールに置き換えて示す枠105が合成されて表示される。
(2.観察画像の表示範囲を移動させる動作)
次に、ビューワ装置5において、ユーザが入力装置7を操作してサムネイルマップ103上の枠105を移動操作することで観察画像101の表示範囲を移動させる動作について説明する。
サムネイルマップ103上の枠105を移動させるように、入力装置7より入力された移動量は入力I/F部51にて取り込まれ、入力I/F部51から表示範囲計算部52および枠生成部55に供給される。
枠生成部55は、入力I/F部51からの移動量をもとにサムネイルマップ上での移動先の枠105の表示イメージを生成してサムネイルマップ合成部56に出力する。これにより、サムネイルマップ103上の枠105が現在の位置から移動量が示す方向と距離だけ移動される。
一方、表示範囲計算部52は入力I/F部51からの移動量をもとに、観察画像101の元画像内での移動先の表示範囲を計算する。
図7は、サムネイルマップ103上の枠105の移動操作により観察画像の表示範囲を移動させる処理に関するフローチャートである。
なお、本処理は、例えば、図8に示すように、移動方向がX軸およびY軸それぞれの方向において正負逆転しないことを前提とする。図8はサムネイルマップ上での枠の移動を示している。点線によって示される格子は、サムネイルマップにおける所定のピクセル数に対応する。枠105を指定した状態でドラッグ操作などが行われることで、サムネイルマップ上で枠105がドラッグ操作の方向へドラッグ操作の量だけ移動される。矢印a−fは、ビューワ装置5が入力装置7から一定の周期で取り込んだ移動量をもとに枠105を移動させた経路を示している。説明の簡単のため、この例では、略一定速度で枠105が移動操作された場合を想定している。
ここから図7の処理の説明を行う。表示範囲計算部52は、入力I/F部51より移動量を取得すると(ステップS101)、これを保存するとともに、カウンタをインクリメントする(ステップS102)。次に、表示範囲計算部52は、カウンタの値が予め設定された値(n)に達したかどうかを判定する(ステップS103)。
カウンタの値がnに達していない場合から説明する。
カウンタの値がnに達していない場合とは、サムネイルマップ上での枠の移動操作を開始してから移動量の取得回数がまだn回に達していない場合のことである。この場合、表示範囲計算部52は、今回を含め過去に入力された移動量の平均値を第2の補正移動量として求める(ステップS104)。例えば、n=4とし、カウンタの値が"2"であるとき、今回と前回の移動量の平均値が第2の補正移動量として求められる。より具体的には、X軸方向の今回の移動量が2ピクセル、前回の移動量が0ピクセルであれば、X軸方向の第2の補正移動量は1ピクセルになる。Y軸方向についても同様に第2の補正移動量が求められる。また、カウンタの値が"3"であるとき、X軸方向およびY軸方向毎の、今回と前回と前々回の移動量の平均値が第2の補正移動量となる。
続いて、表示範囲計算部52は、第2の補正移動量を観察画像101のスケールに置き換える(ステップS105)。具体的には、サムネイルマップとして図2に示した画像ピラミッド構造において元画像を1/2倍率で圧縮した第4層目のタイルが使用され、観察画像として元画像を1/2倍率で圧縮した第2層目のタイルが使用される場合、第2の補正移動量を16倍にスケールアップしたものが観察画像101のスケールに合わせた第2の補正移動量となる。
次に、表示範囲計算部52は、この観察画像101のスケールに合わせた第2の補正移動量と現在の観察画像101の表示範囲の位置とから、観察画像101の移動先の表示範囲の位置を計算する(ステップS106)。そして表示範囲計算部52は、この観察画像101の移動先の表示範囲の位置の計算結果をもとに、観察画像101の移動先の表示範囲を表示させるために必要な画像データの1以上のタイルIDを算出し、これらのタイルIDを画像データ取得部53に通知して画像データの取得を依頼する。画像データ取得部53によって取得された画像データはデコーダ54にて復号された後、画像合成部57にてサムネイルマップと合成されて表示装置6に出力される(ステップS107)。このようにして観察画像の表示範囲が移動される。
以上の動作は、カウンタの値がn−1になるまで繰り返される。
次に、カウンタの値がnに達っている場合を説明する。
この場合、表示範囲計算部52は、今回を含め過去直近に入力されたn回の移動量の平均値を第1の補正移動量として求める(ステップS108)。例えば、n=4とし、カウンタの値が"4"であるとき、X軸方向およびY軸方向毎の、今回を含め過去直近に入力された4回の移動量の平均値が第1の補正移動量として求められる。また、カウンタの値が"5"であるときも、X軸方向およびY軸方向毎の、今回を含め過去直近に入力された4回の移動量の平均値が第1の補正移動量として求められる。カウンタの値が"6"以上であるときも同様である。
続いて、表示範囲計算部52は、前記の動作と同様に、第1の補正移動量を観察画像のスケールに置き換える(ステップS109)。次に、表示範囲計算部52は、この観察画像のスケールに置き換えられた第1の補正移動量を現在の観察画像の表示範囲の位置に加算して、観察画像の移動先の表示範囲の位置を一次補正位置として計算する(ステップS110)。
次に、表示範囲計算部52は、図9に示すように、観察画像の移動先の表示範囲の一次補正位置PX(第1の位置)と、サムネイルマップ上の移動先の枠の位置を観察画像のスケールに置き換えた位置Px’(第2の位置)との距離dを計算する。この距離dが過大になってサムネイルマップ上の枠と観察画像の表示範囲との空間的な不整合が拡がることは、ユーザの操作性の低下につながる。そこで距離dが予め決められた第1の上限値dr1を超える場合(ステップS111のYES)、表示範囲計算部52は、その距離dが第1の上限値dr1以内に収まるように一次補正位置PX(第1の位置)を二次補正する(ステップS112)。
図10は観察画像の移動先の表示範囲の一次補正位置に対する二次補正の例を示す図である。この例は、サムネイルマップ上の移動先の枠の位置を観察画像のスケールに置き換えた位置Px’(第2の位置)と、観察画像の移動先の表示範囲の一次補正位置PX(第1の位置)とを結ぶ直線上の中間点PXaを二次補正位置とする場合を示している。二次補正の方法はこれに限らず、距離dが第1の上限値dr1以内に収まるようにする方法であればよい。
二次補正完了後、ステップS107に移行する。すなわち、表示範囲計算部52は、この観察画像の移動先の表示範囲の位置の二次補正結果をもとに、観察画像の移動先の表示範囲を表示させるために必要な画像データの1以上のタイルIDを算出し、これらのタイルIDを画像データ取得部53に通知して画像データの取得を依頼する。画像データ取得部53によって取得された画像データはデコーダ54にて復号された後、画像合成部57にてサムネイルマップと合成されて表示装置6に出力される。これにより観察画像の表示範囲が二次補正を反映した位置に移動される。
また、距離dが予め決められた上限値を超えていない場合には(ステップS111のYES)、表示範囲計算部52は二次補正を行うことなく、ステップS107の処理に移行することで、観察画像の表示範囲は一次補正のみを反映した位置に移動される。
以上の動作は、所定のリセット条件が成立するまで繰り返される。所定のリセット条件としては、例えば、観察画像の階層が切り替えられたとき、表示範囲の移動速度が所定の閾値を越えたとき、観察環境画面の表示を終了させたとき、などがある。所定のリセット条件が成立に伴って上記のカウンタもリセットされる。
図11は、本実施形態による観察画像の表示範囲の移動を典型的な方式と比較して示す図である。n=3とした。図中において、符号A−Fで示される比較的太い線の矢印は本実施形態による観察画像の表示範囲の移動経路、符号a’−f’で示される比較的細い線の矢印は典型的な方式(従来方式)に基づく観察画像の表示範囲の移動経路を示している。107は観察画像の表示範囲である。
ここで、矢印a’−f’によって示される典型的な方式(従来方式)に基づく観察画像の表示範囲の移動経路は、図7に示したサムネイルマップ上での枠の移動経路に空間的に対応している。このためサムネイルマップ上の枠をポインティングデバイスを操作して斜めに移動させるときの操作方向の僅かなブレなどによって枠が縦横の方向にも移動してしまう様が観察画像の表示範囲の移動の仕方に視覚的に現れてしまう。これに対して、比較的太い線の矢印A−Fによって示される観察画像の表示範囲の移動経路に示されるように、本実施形態によれば、観察画像の表示範囲が階段状に大きく揺れることがなくなり、ユーザの操作性が改善される。
<変形例1>
(枠の移動の加速度に応じた二次補正)
上記の実施形態によると、図12に示すように、サムネイルマップ上の枠の位置を観察画像のスケールに置き換えた位置Pe’と、観察画像の移動先の表示範囲の一次補正位置PEとの距離dが枠の移動の加速度が大きくなるにつれて増大する傾向がある。
そこで表示範囲計算部52に、次のようなアルゴリズムを組み込んでもよい。
1.表示範囲計算部52は、サムネイルマップ上での枠の移動の加速度、例えば枠の連続する各回の移動量の差から加速度を求める。
2.表示範囲計算部52は、加速度の値が閾値以上であるとき、観察画像の移動先の表示範囲の一次補正位置(第1の位置)と、サムネイルマップ上の移動先の枠の位置を観察画像のスケールに置き換えた位置(第2の位置)との距離dに対する第2の上限値を設定する。
3.表示範囲計算部52は、上記の距離dが第2の上限値以内に収まるように一次補正位置(第1の位置)を二次補正する。なお、第2の上限値は第1の実施形態で用いられた第1の上限値と同じであってもよい。
図13は、この加速度の値に応じた二次補正の例を示す図である。この例は、第2の上限値としてdr2が設定され、加速度の値が閾値以上となった場合の二次補正を示している。表示範囲計算部52は、前回の観察画像の表示範囲の位置PDと今回の観察画像の表示範囲の位置PEとを通過する直線上で上記距離が第2の上限値dr2と等しく点の位置PEaを二次補正位置として算出する。二次補正の方法はこれに限らず、距離dが第2の上限値dr2以内に収まるようにする方法であればよい。
なお、本処理は、サムネイルマップ上での枠の移動の加速度が大きくなったときのみならず、加速度が小さくなったときにも有効である。
これにより、サムネイルマップ上での枠の移動の加速度の変化によって、サムネイルマップ上の枠の位置と観察画像の表示範囲の位置との整合性が過度にずれることを防止できる。
<変形例2>
(移動の正負方向の切り替えに応じた制御)
上記の実施形態では、サムネイルマップ上での枠の移動方向がX軸およびY軸それぞれの方向において正負逆転しない場合について説明したが、実際の運用においては枠の移動方向がX軸およびY軸それぞれの方向で正負逆転する場合がある。
図14はサムネイルマップ上での枠の移動方向がY軸方向で正負逆転する例を示す図である。矢印a→矢印b→矢印cまで枠が移動操作された後、矢印dのように、それまでの移動に対してY軸方向において正負逆向きに移動操作が行われたことを示している。このような場合、第1の実施形態の方式をそのまま採用すると、例えば、図15に示すように、Y軸方向において観察画像の表示範囲が枠の移動に対して正負逆向きに移動し、サムネイルマップ上の枠の位置と観察画像の表示範囲とのずれが過大になることがある。
このような場合に対処するために、表示範囲計算部52は次のような処理を行う。
1.表示範囲計算部52は、X軸方向について、過去に入力された移動量の正負の向きに対して逆向きの移動量が入力された場合、第1の補正移動量のX軸方向成分の移動量を零にするなどして調整する。
2.表示範囲計算部52は、X軸方向について、過去に入力された移動量の正負の向きに対して逆向きの移動量が入力された場合、第1の補正移動量のY軸方向成分の移動量を零にするなどして調整する。
以上の処理によって、図16に示すように、図14に示した枠のY軸の正方向への移動操作に対して観察画像の表示範囲をY軸方向に移動させないようにすることができ、サムネイルマップ上の枠の位置と観察画像の表示範囲とのずれが過大になるのを抑制できる。
なお、ここでは補正移動量を零にすることとしたが、所定の計算方法によって補正移動量の該当する軸方向成分の移動量を低減することによっても、サムネイルマップ上の枠の位置と観察画像の表示範囲との整合性のずれが過大になるのを阻止することができる。
<変形例3>
(補正移動量の他の計算方法)
表示範囲計算部52は、今回を含め過去直近に入力されたn回の移動量にそれぞれ直近度に応じた重みの値を乗じて行き、各移動量を合算し、合算値を重みの値の和の二乗の値で割ったものを補正移動量としてもよい。例えば、n=6とした場合、表示範囲計算部52は、最新の移動操作量から順番に1.0、0.8、0.6、0.4、0.2、0の重みを乗じて行く。表示範囲計算部52は、それぞれの重みが乗じられた移動操作量を合算し、合算値を3(1.0+0.8+0.6+0.4+0.2)で割った値を補正移動量とする。これにより、直近の移動量に対する応答性を高めつつ過去の移動量に対して平均化された補正移動量が得られる。
<変形例4>
観察画像の表示範囲のより滑らかな移動を実現するために、観察画像の表示範囲の前回の位置と今回の位置の間にベジェ曲線やB−スプライン曲線などの関数計算によって得られる曲線上の通過点を1点以上設定し、この曲線上に設定された点を通過させるように観察画像の表示範囲を移動させてもよい。
本発明はこの実施形態にのみ限定されるものではなく、本発明の要旨を逸脱しない範囲内において変更することが可能である。
1…顕微鏡システム
5…ビューワ装置
6…表示装置
7…入力装置
51…入力I/F部
52…表示範囲計算部
53…画像データ取得部
54…デコーダ
55…枠生成部
56…サムネイルマップ合成部
57…画像合成部
101…観察画像
103…サムネイルマップ
105…枠
107…観察画像の表示範囲

Claims (7)

  1. 元画像を第1の圧縮率で空間的に圧縮した第1の画像に、前記元画像を第1の圧縮率よりも低い第2の圧縮率で空間的に圧縮した第2の画像の前記元画像中の表示範囲を示す枠を合成してサムネイルマップを生成するサムネイルマップ生成部と、
    前記第2の画像と前記サムネイルマップ生成部により生成された前記サムネイルマップとを合成して表示装置に出力する合成部と、
    ユーザより前記サムネイルマップ上の前記枠に対する、互いに直交する2軸方向の移動量を入力する入力部と、
    前記移動量の入力の回数をカウントし、カウントした入力の回数が所定の回数以上であるとき、前記入力部より今回を含め過去直近に入力された複数の移動量の平均値を第1の補正移動量として計算し、前記第1の補正移動量をもとに前記第2の画像の前記表示範囲を移動させ、前記カウントした入力の回数が所定の回数未満であるとき、今回を含め過去に入力された移動量の平均値を第2の補正移動量として、この第2の補正移動量をもとに前記第2の画像の前記表示範囲を移動させる表示範囲計算部と
    を具備する情報処理装置。
  2. 元画像を第1の圧縮率で空間的に圧縮した第1の画像に、前記元画像を第1の圧縮率よりも低い第2の圧縮率で空間的に圧縮した第2の画像の前記元画像中の表示範囲を示す枠を合成してサムネイルマップを生成するサムネイルマップ生成部と、
    前記第2の画像と前記サムネイルマップ生成部により生成された前記サムネイルマップとを合成して表示装置に出力する合成部と、
    ユーザより前記サムネイルマップ上の前記枠に対する、互いに直交する2軸方向の移動量を入力する入力部と、
    前記入力部より今回を含め過去直近に入力された複数の移動量の平均値を第1の補正移動量として、この第1の補正移動量をもとに前記第2の画像の前記表示範囲を移動させる表示範囲計算部と
    を具備し、
    前記表示範囲計算部は、前記第1の補正移動量をもとに算出された前記第2の画像の前記表示範囲の移動先の位置である第1の位置と、前記サムネイルマップ上の前記枠の移動先の位置を前記第2の画像のスケールに置き換えた第2の位置との距離が予め設定された第1の上限値以内に収まるように前記第1の位置を補正する表示範囲計算部と
    を具備する情報処理装置。
  3. 元画像を第1の圧縮率で空間的に圧縮した第1の画像に、前記元画像を第1の圧縮率よりも低い第2の圧縮率で空間的に圧縮した第2の画像の前記元画像中の表示範囲を示す枠を合成してサムネイルマップを生成するサムネイルマップ生成部と、
    前記第2の画像と前記サムネイルマップ生成部により生成された前記サムネイルマップとを合成して表示装置に出力する合成部と、
    ユーザより前記サムネイルマップ上の前記枠に対する、互いに直交する2軸方向の移動量を入力する入力部と、
    前記入力部より今回を含め過去直近に入力された複数の移動量の平均値を第1の補正移動量として、この第1の補正移動量をもとに前記第2の画像の前記表示範囲を移動させる表示範囲計算部と
    を具備し、
    前記表示範囲計算部は、前記サムネイルマップ上の前記枠の移動の加速度が閾値以上であるとき、前記第1の補正移動量をもとに算出された前記第2の画像の前記表示範囲の移動先の位置である第1の位置と、前記サムネイルマップ上の前記枠の移動先の位置を前記第2の画像のスケールに置き換えた第2の位置との距離が予め設定された第2の上限値以内に収まるように前記第1の位置を補正する
    情報処理装置。
  4. 元画像を第1の圧縮率で空間的に圧縮した第1の画像に、前記元画像を第1の圧縮率よりも低い第2の圧縮率で空間的に圧縮した第2の画像の前記元画像中の表示範囲を示す枠を合成してサムネイルマップを生成するサムネイルマップ生成部と、
    前記第2の画像と前記サムネイルマップ生成部により生成された前記サムネイルマップとを合成して表示装置に出力する合成部と、
    ユーザより前記サムネイルマップ上の前記枠に対する、互いに直交する2軸方向の移動量を入力する入力部と、
    前記入力部より今回を含め過去直近に入力された複数の移動量の平均値を第1の補正移動量として、この第1の補正移動量をもとに前記第2の画像の前記表示範囲を移動させる表示範囲計算部と
    を具備し、
    前記表示範囲計算部は、前記互いに直交する2軸のうちの第1の軸方向について、前記入力部より過去に入力された移動量の正負の向きに対して逆向きの移動量が入力された場合、前記第1の補正移動量の前記第1の軸方向成分の移動量を調整し、前記互いに直交する2軸のうちの第2の軸方向について、前記入力部より過去に入力された移動量の正負の向きに対して逆向きの移動量が入力された場合、前記第1の補正移動量の前記第2の軸方向成分の移動量を調整する
    情報処理装置。
  5. 請求項1ないしのいずれか1項に記載の情報処理装置であって、
    前記表示範囲計算部は、今回を含め過去直近に入力された複数の移動量にそれぞれ直近度に応じた重みをつけて補正移動量を計算する
    情報処理装置。
  6. サムネイルマップ生成部が、元画像を第1の圧縮率で空間的に圧縮した第1の画像に、前記元画像を第1の圧縮率よりも低い第2の圧縮率で空間的に圧縮した第2の画像の前記元画像中の表示範囲を示す枠を合成してサムネイルマップを生成し、
    合成部が、前記第2の画像と前記サムネイルマップ生成部により生成された前記サムネイルマップとを合成して表示装置に出力し、
    入力部が、ユーザより前記サムネイルマップ上の前記枠に対する、互いに直交する2軸方向の移動量を入力し、
    表示範囲計算部が、前記移動量の入力の回数をカウントし、カウントした入力の回数が所定の回数以上であるとき、前記入力部より今回を含め過去直近に入力された複数の移動量の平均値を第1の補正移動量として計算し、前記第1の補正移動量をもとに前記第2の画像の前記表示範囲を移動させ、前記カウントした入力の回数が所定の回数未満であるとき、今回を含め過去に入力された移動量の平均値を第2の補正移動量として、この第2の補正移動量をもとに前記第2の画像の前記表示範囲を移動させる
    情報処理方法。
  7. 元画像を第1の圧縮率で空間的に圧縮した第1の画像に、前記元画像を第1の圧縮率よりも低い第2の圧縮率で空間的に圧縮した第2の画像の前記元画像中の表示範囲を示す枠を合成してサムネイルマップを生成するサムネイルマップ生成部と、
    前記第2の画像と前記サムネイルマップ生成部により生成された前記サムネイルマップとを合成して表示装置に出力する合成部と、
    ユーザより前記サムネイルマップ上の前記枠に対する、互いに直交する2軸方向の移動量を入力する入力部と、
    前記移動量の入力の回数をカウントし、カウントした入力の回数が所定の回数以上であるとき、前記入力部より今回を含め過去直近に入力された複数の移動量の平均値を第1の補正移動量として計算し、前記第1の補正移動量をもとに前記第2の画像の前記表示範囲を移動させ、前記カウントした入力の回数が所定の回数未満であるとき、今回を含め過去に入力された移動量の平均値を第2の補正移動量として、この第2の補正移動量をもとに前記第2の画像の前記表示範囲を移動させる表示範囲計算部
    としてコンピュータを機能させるプログラム。
JP2011012130A 2011-01-24 2011-01-24 情報処理装置、情報処理方法及びプログラム Active JP5601218B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011012130A JP5601218B2 (ja) 2011-01-24 2011-01-24 情報処理装置、情報処理方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011012130A JP5601218B2 (ja) 2011-01-24 2011-01-24 情報処理装置、情報処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2012155016A JP2012155016A (ja) 2012-08-16
JP5601218B2 true JP5601218B2 (ja) 2014-10-08

Family

ID=46836827

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011012130A Active JP5601218B2 (ja) 2011-01-24 2011-01-24 情報処理装置、情報処理方法及びプログラム

Country Status (1)

Country Link
JP (1) JP5601218B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6455829B2 (ja) * 2013-04-01 2019-01-23 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
CN112805670B (zh) * 2018-12-19 2024-02-09 徕卡生物系统成像股份有限公司 用于数字病理学的眼睛跟踪的图像查看器

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07104937A (ja) * 1993-10-07 1995-04-21 Fujitsu Ltd カーソル表示制御方式
JPH1139099A (ja) * 1997-07-15 1999-02-12 Sharp Corp 座標入力装置
US7738688B2 (en) * 2000-05-03 2010-06-15 Aperio Technologies, Inc. System and method for viewing virtual slides
JP2006350271A (ja) * 2005-06-17 2006-12-28 Kiyotada Washitani 顕微鏡イメージ再現装置、顕微鏡イメージ再現プログラムおよびその記録媒体

Also Published As

Publication number Publication date
JP2012155016A (ja) 2012-08-16

Similar Documents

Publication Publication Date Title
US10067658B2 (en) Image processing apparatus, method, and computer-readable medium for controlling the display of an image
EP2362343B1 (en) Information processing apparatus, method and computer-readable medium
US8643671B2 (en) Information processing apparatus, method, and computer-readable medium
US9710598B2 (en) Information processor, image data optimization method and program
US20160119551A1 (en) Optimized 360 Degree De-Warping with Virtual Cameras
US8913162B2 (en) Image processing method, image processing apparatus and image capturing apparatus
JP2013012893A (ja) 画像変換装置、カメラ、画像変換方法およびプログラム
JP2011150400A (ja) 情報処理装置、情報処理方法、及びそのプログラム
US20160042122A1 (en) Image processing method and image processing apparatus
US10936850B2 (en) Information processing apparatus, information processing method, method, and information processing program
JP2014029380A (ja) 情報処理装置、情報処理方法、プログラム及び画像表示装置
US20130265322A1 (en) Image processing apparatus, image processing system, image processing method, and image processing program
JP5925757B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
KR100596976B1 (ko) 왜곡 영상 보정 장치 및 방법 및 이를 이용하는 영상디스플레이 시스템
JP2013153429A (ja) 画像処理装置、画像表示システム、画像処理方法および画像処理プログラム
JP5601218B2 (ja) 情報処理装置、情報処理方法及びプログラム
US10908795B2 (en) Information processing apparatus, information processing method
JP6106967B2 (ja) 情報処理装置、情報処理方法、プログラム及び画像表示装置
US20140063072A1 (en) Information processing apparatus, information processing method, and information processing program
JP5826606B2 (ja) 画像配信サーバ
JP7219804B2 (ja) 情報処理装置、情報処理システム、情報処理方法およびプログラム
JP2009258862A (ja) 映像表示装置及び映像表示方法
CN118042092A (zh) 全景图像的局部投影方法与装置
US20080018669A1 (en) method and system for integrated image zoom and montage
CN116095495A (zh) 调整参数确定方法、装置、电子设备和存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140117

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140416

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140507

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140701

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140722

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140804

R151 Written notification of patent or utility model registration

Ref document number: 5601218

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250