JP5468189B2 - 映像表示装置及び映像表示方法 - Google Patents

映像表示装置及び映像表示方法 Download PDF

Info

Publication number
JP5468189B2
JP5468189B2 JP2007023113A JP2007023113A JP5468189B2 JP 5468189 B2 JP5468189 B2 JP 5468189B2 JP 2007023113 A JP2007023113 A JP 2007023113A JP 2007023113 A JP2007023113 A JP 2007023113A JP 5468189 B2 JP5468189 B2 JP 5468189B2
Authority
JP
Japan
Prior art keywords
thumbnail
video display
thumbnails
displayed
determined
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007023113A
Other languages
English (en)
Other versions
JP2008191241A (ja
Inventor
秀一 渡部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2007023113A priority Critical patent/JP5468189B2/ja
Publication of JP2008191241A publication Critical patent/JP2008191241A/ja
Application granted granted Critical
Publication of JP5468189B2 publication Critical patent/JP5468189B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Indexing, Searching, Synchronizing, And The Amount Of Synchronization Travel Of Record Carriers (AREA)
  • Management Or Editing Of Information On Record Carriers (AREA)

Description

本発明は、映像を管理するために行うサムネール一覧表示に関し、特に、サムネールとして動画を表示する際に、効率良く動画をサムネール表示するための映像表示装置及び映像表示方法に関する。
映像の再生機器(プレーヤ)、録再機器(レコーダ)、あるいは、放送やネットワーク経由で取得される映像の録画・再生機能を有するPC等において、DVD(Digital Versatile Disc)、BD(Blu−ray Disc)、SDメモリカード、HDD(Hard−Disk Drive)など記録媒体に記録された多数の映像を効率的に提示・管理する手段として、サムネール表示が多く用いられている。
サムネールとは映像の代わりに表示される映像を代表する小画像(通常は元の画像の縮小画像)を指し、サムネール表示とは、複数映像のサムネール(代表縮小画像)による一覧表示形式を指す。サムネールは通常、静止画であるが、サムネールを静止画でなく動画で表示する、いわゆる動画サムネールも、機器の処理能力の向上に伴って徐々にみられつつある。処理能力が十分なら、全てのサムネールを動画表示することが原理的に可能である。
また、特許文献1には、カーソルのあたったサムネールを動画表示する例、及び、カーソルがあたったサムネールのみをフレームレートを変えて動画表示する例が示されている。
特開2004−032535号公報
サムネール表示は、一覧表示される映像について、所望の映像を選択するのに利用されるものであって、特許文献1のように逐一カーソルをあててサムネールを動画再生させるといった形式では、素早く効率的な映像の選択を行うことができなかった。
また、全てのサムネールを常に動画表示すれば上記の問題は回避されるが、全サムネールを動画表示することは機器に高い処理負荷をかける。特許文献1には、各動画のフレームレートを落とすことでそのような負荷を軽減することが示されているが、特許文献1の方式では表示する動画サムネールの数が増えるとそれぞれの動画サムネールのフレームレートも減ってしまい、動画表示する利点が失われてしまっていた。
さらに、動画サムネールが符号化された映像データであった場合には、復号器をサムネール表示数分用意する必要があり、現実的ではなかった。
そこで、本発明は上記の問題を鑑みてなされたものであり、必要以上に機器に処理負荷をかけることなく、効率的に複数サムネールの動画表示を行うことが可能な映像表示装置及び方法を提供する。それにより、ユーザが容易に個々の映像を確認可能とする映像表示装置及び方法を提供するものである。
本発明に係る映像表示装置及び方法は、前記目的を達成するために、以下の特徴を有している。
すなわち、本発明に係る映像表示装置は、複数の映像にそれぞれ対応した複数のサムネールを画面に一覧表示する映像表示装置であって、表示された前記複数のサムネールから特定の第1のサムネールを選択する特定サムネール選択手段と、前記特定サムネール選択手段により選択された前記第1のサムネールに対して、判定対象の第2のサムネールが前記第1のサムネールの近傍にあるか否かを判定する判定手段と、前記判定手段において前記第2のサムネールが前記第1のサムネールの近傍にあると判定されたとき、前記第2のサムネールを動画表示とし、前記第2のサムネールが前記第1のサムネールの近傍にないと判定されたとき、前記第2のサムネールを静止画表示とする表示制御手段と、を備えることを特徴とする。
また、本発明に係る映像表示装置において、前記判定手段は、前記第1のサムネールと前記第2のサムネールとの距離を求め、該距離を閾値判定することにより近傍にあるか否かを判定することを特徴とする。
また、本発明に係る映像表示装置において、前記判定手段は、前記複数のサムネールの一覧表示の形態が変更されたときにのみ、前記閾値判定を行うことを特徴とする。
本発明に係る映像表示方法は、複数の映像にそれぞれ対応した複数のサムネールを画面に一覧表示する映像表示方法であって、表示された前記複数のサムネールから特定の第1のサムネールを選択するステップと、前記選択された前記第1のサムネールに対して、判定対象の第2のサムネールが前記第1のサムネールの近傍にあるか否かを判定するステップと、前記第2のサムネールが前記第1のサムネールの近傍にあると判定されたとき、前記第2のサムネールを動画表示とし、前記第2のサムネールが前記第1のサムネールの近傍にないと判定されたとき、前記第2のサムネールを静止画表示とするよう表示制御するステップと、を含むことを特徴とする。
本発明に係る映像表示装置は、複数の映像にそれぞれ対応した複数のサムネールを画面に一覧表示する映像表示装置であって、表示された前記複数のサムネールから特定の第1のサムネールを選択する特定サムネール選択手段と、前記特定サムネール選択手段により選択された前記第1のサムネールに対して、判定対象の第2のサムネールが前記第1のサムネールからどの程度離れているかを示す近傍の度合いを判定する判定手段と、前記判定手段において判定された前記近傍の度合いに基づいて、所定のフレームレートを与えて前記第2のサムネールを動画表示する表示制御手段と、を備えることを特徴とする。
また、本発明に係る映像表示装置において、前記判定手段は、前記第1のサムネールと前記第2のサムネールとの距離を求め、該距離を閾値判定することにより前記近傍の度合いを判定することを特徴とする。
また、本発明に係る映像表示装置において、前記判定手段は、前記複数のサムネールの一覧表示の形態が変更されたときにのみ、前記閾値判定を行うことを特徴とする。
また、本発明に係る映像表示装置において、前記判定手段は、前記第1のサムネールと前記第2のサムネールとの距離を求め、該距離から前記近傍の度合いを関数演算により算出することを特徴とする。
また、本発明に係る映像表示装置において、前記所定のフレームレートは、前記近傍の度合いが高いほど高く、前記近傍の度合いが低いほど低くすることを特徴とする。
本発明に係る映像表示方法は、複数の映像にそれぞれ対応した複数のサムネールを画面に一覧表示する映像表示方法であって、表示された前記複数のサムネールから特定の第1のサムネールを選択するステップと、前記選択された前記第1のサムネールに対して、判定対象の第2のサムネールが前記第1のサムネールからどの程度離れているかを示す近傍の度合いを判定するステップと、前記判定された前記近傍の度合いに基づいて、所定のフレームレートを与えて前記第2のサムネールを動画表示するように制御するステップと、を含むことを特徴とする。
本発明に係る映像表示装置は、複数の映像にそれぞれ対応した複数のサムネールを画面に一覧表示する映像表示装置であって、表示された前記複数のサムネールから特定の第1のサムネールを選択する特定サムネール選択手段と、前記特定サムネール選択手段で選択された前記第1のサムネールに対して、判定対象の第2のサムネールが前記第1のサムネールからどの程度離れているかを示す近傍の度合いを判定する判定手段と、前記判定手段において前記第2のサムネールが前記第1のサムネールの近傍にあると判定されたとき、前記第2のサムネールを動画表示とし、前記第2のサムネールが前記第1のサムネールの近傍にないと判定されたとき、前記第2のサムネールを静止画表示とし、前記判定手段において判定された前記近傍の度合いに基づいて、前記第2のサムネールの動画表示を異なる情報量でサムネール表示する表示制御手段と、を備えることを特徴とする。
また、本発明に係る映像表示装置は、複数の映像にそれぞれ対応した複数のサムネールを画面に一覧表示する映像表示装置であって、表示された前記複数のサムネールから特定の第1のサムネールを選択する特定サムネール選択手段と、前記特定サムネール選択手段で選択された前記第1のサムネールに対して、判定対象の第2のサムネールのうち少なくとも1つは動画表示であり、前記第1のサムネールからどの程度離れているかを示す近傍の度合いを判定する判定手段と、前記判定手段において判定された前記近傍の度合いに基づいて、前記第2のサムネールを解像度を変えて異なる情報量でサムネール表示する表示制御手段と、を備えることを特徴とする。
また、本発明に係る映像表示装置において、前記サムネール表示する際の情報量は、前記近傍の度合いが高いほど高く、前記近傍の度合いが低いほど低くすることを特徴とする。
本発明に係る映像表示方法は、複数の映像にそれぞれ対応した複数のサムネールを画面に一覧表示する映像表示方法であって、表示された前記複数のサムネールから特定の第1のサムネールを選択するステップと、前記選択された前記第1のサムネールに対して、判定対象の第2のサムネールが前記第1のサムネールからどの程度離れているかを示す近傍の度合いを判定するステップと、前記判定するステップにおいて前記第2のサムネールが前記第1のサムネールの近傍にあると判定されたとき、前記第2のサムネールを動画表示とし、前記第2のサムネールが前記第1のサムネールの近傍にないと判定されたとき、前記第2のサムネールを静止画表示とし、前記判定された前記近傍の度合いに基づいて、前記第2のサムネールの動画表示を異なる情報量でサムネール表示するよう表示制御するステップと、を含むことを特徴とする。
また、本発明に係る映像表示方法は、複数の映像にそれぞれ対応した複数のサムネールを画面に一覧表示する映像表示方法であって、表示された前記複数のサムネールから特定の第1のサムネールを選択するステップと、前記選択された前記第1のサムネールに対して、判定対象の第2のサムネールのうち少なくとも1つは動画表示であり、前記第1のサムネールからどの程度離れているかを示す近傍の度合いを判定するステップと、前記判定された前記近傍の度合いに基づいて、前記第2のサムネールを解像度を変えて異なる情報量でサムネール表示するよう表示制御するステップと、を含むことを特徴とする。
本発明に係る映像表示装置及び方法によれば、カーソルをあて選択されたサムネールに対して、選択されたサムネール及びその近傍のサムネールのみを動画表示する、あるいは、選択されたサムネール及びその近傍のサムネールをより高いフレームレートで動画表示することにより、注視点近辺(注視候補領域)に情報量の多い動画表示を集め、ユーザの視点の移動とリンクした効率的な映像情報の提示を可能とする。
また、本発明に係る映像表示装置及び方法によれば、表示形態に合せて動画表示されるサムネールの選択を行うことで、機器の処理能力に対して無駄の無い動画サムネール表示を可能とする。
以下、本発明に係る実施形態について、図面を参照して詳細に説明する。
なお、図において、同一の符号を付した部分は同一のものを表すものとする。
(第1の実施形態の説明)
本発明の第1の実施形態に係る映像表示装置を、図1乃至図7を用いて説明する。
図1は、第1の実施形態に係る映像表示装置1の概略構成を示す機能ブロック図である。
図1に示すように、映像表示装置1は、表示制御部101、選択部102、判定部103、並びに表示部104を備えて構成される。
本実施形態に係る映像表示装置1は、一覧表示されるサムネールを動画表示する、いわゆる動画サムネール表示において、一画面に一覧表示される複数のサムネールに対し、動画表示か静止画表示かを選択する機能を備えている。この選択処理機能は、選択対象のサムネールとその時点で画面上のカーソルがあたっているサムネール(アクティベートされたサムネール)との間の論理的距離に基づいて判断処理し、カーソルのあたったサムネール(特定のサムネール)を中心として、カーソルのあたったサムネール及びその近傍のサムネールについてのみ動画表示が選択される特徴を有する。このために、映像表示装置1は、表示形態(後記する)に合せて、判定対象のサムネールがカーソルのあたったサムネールの近傍かどうかを判定する判定部(判定手段)103を備えている。
表示制御部(表示制御手段)101は、表示部104で画面に表示される各サムネールデータの再生(符号化データの場合、復号処理を含む)と、サムネールの画面上への配置とを制御する。表示制御部101は、また、カーソル表示を制御し、ユーザ操作により入力される操作情報に従ってカーソルを移動し、選択されている特定のサムネールに合せてカーソルを表示する(特定サムネール選択手段)。
図2に、ユーザ操作による一覧表示画面の変化の例を示した。図2(a)において、画面201には複数のサムネール202が表示されている(図2はサムネールを格子状に配置した例である。)。
そして、選択されているサムネール202aに対して、選択されていることを示すカーソル203が表示されている。図2の例では、カーソル203はサムネールを囲む太枠で表されている。ユーザがカーソルを右に移動する操作を入力すると、カーソルが1つ右のサムネールに移動し、図2(b)に示すような表示画面に変わる。次に、ユーザがカーソルを下に移動する操作を入力すると、カーソルが1つ下のサムネールに移動し、図2(c)のような表示画面となる。
なお、カーソルの表示形態は図示のものに限らず、個々のサムネールを特定できるものであればよい。例えばマウスアイコンのようなものであってもよい。
本発明はサムネールの表示制御に係ることから、本実施形態では、映像表示装置1のサムネールの表示制御機能についてのみ説明するが、実際の映像機器は、無論、サムネール表示以外にも、再生映像を表示したり、特殊再生を行ったり、再生における各種の操作情報を画面上に表示したり、といった機能を有する。即ち、本実施形態に係る映像表示装置1は、サムネール表示を内部機能に含む各種の映像機器の内部構成として実施可能であることは言うまでもない。この点は、他の実施形態についても同様である。
選択部102は、画面に一覧表示される各サムネールについて、サムネール表示する映像データとして静止画データ、動画データのいずれを用いるかを選択し、選択された一方を表示制御部101へ出力する。この時、選択は、以下で説明する判定部103からの指示に基づいて行われる。
なお、これらサムネール表示に用いられる静止画データ、動画データは、そのサムネールが代表する元の映像データから直接得られるものでも、元の映像データとは別に与えられるものでもよい。本発明では、これらサムネール表示用の静止画データ、動画データが、いつ、どのように用意されるかについては特に限定しない。例えば、サムネール表示の度に映像表示装置1を含む映像機器が元の映像データからサムネール表示用の静止画/動画データを生成する構成でも、元の映像データが映像表示装置1を含む映像機器に蓄積された段階でサムネール表示用の静止画/動画データを生成し別途蓄積しておく構成でもよい。無論、動画サムネール表示用の動画データとして元の映像データを用いることも可能である。
判定部103は、画面に一覧表示される各サムネールに対して、動画表示するか、静止画表示するかを判定し、判定結果を指示情報として出力し選択部102に指示する。また、表示制御部101に対して、どのサムネールを動画表示とするかを伝える。
以下に、どのサムネールを動画表示提示するかについての基本概念を説明する。
一般的に、一覧表示画面におけるユーザの視線位置は、カーソルの移動に合せて移動すると考えられる。即ち、カーソルが注視点にあたり、ユーザはその近辺に視線移動する確率が高い。このため、ユーザの注視点=選択された(カーソルのあたった)サムネールに対して近傍のサムネールを動画表示し、注視点近辺(注視候補領域)に動画表示されたサムネールを集めることで、ユーザの視点の移動とリンクした効率的な映像情報の提示を可能とする。
このため、判定部103では、カーソルがあたったサムネール(第1のサムネール)と各サムネール(第2のサムネール)との距離を求めて、該距離に基づいて、カーソルのあたったサムネールに近いサムネールを動画表示、遠いサムネールを静止画表示と判断する。
次に、サムネール間の距離を求める方法について説明する。
図3、図4、図5に、サムネールの各種の表示形態の例を示す。
図3は、複数のサムネールを画面上に格子状に並べて表示する表示形態を示した例である。
図3の例では、サムネールは画面上に2次元上に配置されている。従って、図3(a)を参照して、カーソルのあたったサムネールの表示位置を2次元座標(x_i,y_i)とし、これに対して他の任意のサムネールの表示位置を(x_j,y_j)とすると、サムネール間の距離D_i,jは下記の式(1)ように与えられる。
D_i,j=Root{(x_i−x_j)^2+(y_i−y_j)^2}・・(1)
ここで、Rootは、平方根(√)の演算を意味するものとし、以下同様である。
この距離D_i,jに対して、判定部103では、近傍と判断される閾値距離D_Tを設定し、
D_i,j≦D_T
の時、表示位置(x_j、y_j)のサムネールを動画表示とし、
D_i,j>D_T
の時、表示位置(x_j、y_j)のサムネールを静止画表示と判定する。
上記距離D_i,jの定義は通常のユークリッド距離であるが、異なる距離の定義を用いて上記判定を行ってもよい。
また、図3(a)では、サムネールの位置座標を、サムネールの中心位置の画面上の座標として表しているが、これは他の位置、例えば各サムネールの左上頂点の座標位置等としても同様である。また、画面上の座標でなく、2次元上に配置された各サムネールのインデックス番号を座標として用いてもよい。図3(b)は、サムネールが格子状に配置される表示形態の別の例を示した図である。この図で、サムネールは縦方向、横方向で配置される間隔が異なるため、画面位置をサムネールの座標として捉えた場合には、縦に並ぶサムネールより横に並ぶサムネールの方が遠い位置にあると判定されるが、インデックス番号を座標として捉えた場合には、縦、横とも等距離であると判定される。
近傍と判定されるサムネールの数、近傍とされる領域の大きさは閾値D_Tの値に依存し、閾値D_Tの値は機器の処理能力の制限等により適宜設定される。処理能力が十分に高い機器では閾値D_Tの値を大きく、動画表示されるサムネールの数を多く(動画表示される領域を広く)設定する。処理能力が制限された機器では閾値D_Tの値を小さくし、動画表示されるサムネールの数を(動画表示される領域を)制限する。
あるいは、搭載する復号器の数等によって動画表示できるサムネールの数が制限されているような場合には、上記した閾値D_Tによる処理ではなく、カーソルのあたったサムネールに最も近いサムネールから近い順に制限数N個まで(カーソルのあたったサムネールも1とカウントする)のサムネールを選んで、それらを動画サムネール表示するとしてもよい。
図4は、複数のサムネールを画面上に一直線状に並べて表示する表示形態を示した例である。
図4の例では、サムネールは画面上に直線状に配置されるので、サムネールの表示位置を示す座標は1次元で表される。即ち、図4(a)((b)及び(c))を参照して、カーソルのあたったサムネールの座標x_i、他の任意のサムネールの座標x_jとし、サムネール間の距離D_i,jは、下記の式(2)で表される。
D_i,j=Root{(x_i−x_j)^2}=|x_i−x_j|・・(2)
この距離D_i,jに対して、判定部103は、閾値距離D_Tを用い、
D_i,j≦D_T
の時、表示位置x_jのサムネールを動画表示とし、
D_i,j>D_T
の時、表示位置x_jのサムネールを静止画表示と判定する。
距離の定義が上記に限らないのは、上記で図3を用いて説明したのと同様である。また、図3で説明したのと同様、復号器の数等によって動画表示できるサムネールの数が制限されているような場合には、カーソルのあたったサムネールに最も近いサムネールから、近い順に制限数N個まで(カーソルのあたったサムネールを含む)選んで動画表示する処理も可能である。
図4のように直線上に配置された例では、実際には、カーソルのあたったサムネールの両隣から順に選ぶことになる。また、配置が直線上でなく曲線上に配置されるような表示形態であっても、各サムネールの位置が1次元で表される場合には、ここで説明した処理をあてはめることが可能である。
図5は、サムネールが仮想の3次元空間上に配置される表示形態を示した図である。
図5の例では、各サムネールの表示位置は3次元座標として与えられる。即ち、図5(a)を参照して、カーソルのあたったサムネールの表示位置を座標(x_i,y_i,z_i)とし、他の任意のサムネールの表示位置を座標(x_j,y_j,z_j)で表すと、サムネール間の距離D_i,jは、下記の式(3)ように与えられる。
D_i,j=Root{(x_i−x_j)^2+(y_i−y_j)^2+(z_i−z_j)^2}・・・(3)
以下、図3、図4と共に説明した例と同様にして、距離D_i,jに対して、近傍と判断される閾値距離D_Tとし、判定部103は、
D_i,j≦D_T
の時、表示位置(x_j,y_j,z_j)のサムネールを動画表示とし、
D_i,j>D_T
の時、表示位置(x_j,y_j,z_j)のサムネールを静止画表示と判定する。
図5(a)は、サムネールが3次元上に格子状に配置される表示形態を示した例である。また、図5(b)、図5(c)は、格子状以外のサムネールの3次元配置の例を示した図である。これらの表示形態においても、サムネールの表示位置が3次元座標で表されれば、ここで説明したのと同様にして近傍の判定をあてはめることが可能である。
図6に、上記説明した近傍の判定処理を実行し、サムネール表示を行った際の具体的な表示例を示す。図6の例は、図3に示したのと同様、複数のサムネールが2次元格子状に配置された際の例である。この時、図6(a)に示すように、カーソルがあたっているサムネール、及びその近辺のサムネールのみが動画表示され、他のサムネールは静止画表示されている。カーソルのあたったサムネールを中心に、どの範囲までのサムネールを動画表示とするかは、上記した閾値距離D_Tの値によって左右される。
図6(b)は、図6(a)の状態から、カーソルを右に1つ、下に1つ移動した後の表示の状態を示した図である。図6(a)から図6(b)に示すように、カーソルが移動すると、カーソルの移動に同期して動画表示される(動画表示と選択される)サムネールも変化する。
なお、本実施形態にかかる映像表示装置1の判定部103で判定される、選択されたサムネールに対する(選択されたサムネールを中心とした)近傍サムネールの範囲(近傍と判断される領域の大きさ、形状)は、サムネール一覧表示の表示形態が変更されない間は固定となる。このため、図7に図示したように、サムネール一覧表示の表示形態が選択された際に、判定部103が一度だけ近傍判定を実行し、近傍サムネールの範囲を求めてテンプレート化して保持する(図7に示す(1)テンプレートの作成)こととし、表示形態を変更しない間は、選択されたサムネールの移動に対して、保持されているテンプレートを当てはめる(図7に示す(2)テンプレートの適用)ことで、判定部103が動画表示する近傍サムネール領域を逐次与えるようにしてもよい。
そして、サムネール一覧表示の表示形態が変更されたとき(例えば、図3から図4の形態に変更、図4から図5の形態に変更、など)にのみ、判定部103の近傍判定手段は、再度近傍判定を行い、保持されているテンプレートを入れ替える。こうすることで、近傍の判定にかかる処理時間等を軽減することができる。
(第2の実施形態の説明)
本発明の第2の実施形態に係る映像表示装置を、図8乃至図10、及び図3を用いて説明する。
図8は、第2の実施形態に係る映像表示装置7の概略構成を示す機能ブロック図である。映像表示装置7は、表示制御部701、判定部702、並びに表示部104を含んで構成される。
第1の実施形態に係る映像表示装置1では、判定部103において、各サムネールを動画表示するか、静止画表示するかを判定していた。そして、判定部103からの指示に基づき、選択部102で、サムネール表示用のデータとして静止画データ、動画データのいずれかを選択していた。これに対し、第2の実施形態に係る映像表示装置7では、判定部702において、動画表示する各サムネールのフレームレートを、高くするか、中程度にするか、低くするかを、選択された(カーソルのあたった)サムネールと対象のサムネールとの論理的距離に基づいて判定する。そして、判定で得られた指示情報(各動画サムネールのフレームレート情報)を表示制御部701に与える。全てのサムネールが動画表示であるため、選択部102にあたる機能ブロックは無い。
判定部702の処理を、ここでは図3に示されたサムネールの表示形態の例を用いて説明する。なお、図4、図5に示した別のサムネールの表示形態の例を用いても同様の処理が行えることは、既に第1の実施形態で説明した通りであり、改めて説明するまでもない。
図3(a)を参照して、カーソルのあたったサムネールの座標(x_i,y_i)、他の任意のサムネールの座標(x_j,y_j)とし、サムネール間の距離D_i,jを上記式(1)と同様に、下記の式(4)で与える。
D_i,j=Root{(x_i−x_j)^2+(y_i−y_j)^2}・・(4)
この距離D_i,jに対し、判定部702では、フレームレート高とする閾値距離D_H、フレームレート中とする閾値距離D_M(D_H<D_M)の2つを定義して用いる。即ち、
D_i,j≦D_H
の時、座標(x_j、y_j)のサムネールを高いフレームレートで動画表示し、
D_H<D_i,j≦D_M
の時、座標(x_j、y_j)のサムネールを中程度のフレームレートで動画表示し、
D_M<D_i,j
の時、座標(x_j、y_j)のサムネールを低いフレームレートで動画表示すると判定する。
図9に、本実施形態におけるサムネール表示の例を示す。図9に示すように、一覧表示されるサムネールは全て動画表示され、かつ、カーソルがあたっているサムネールを中心に、フレームレートの高いサムネール、中程度のサムネール、低いサムネールを表示する。また、図9(a)から図9(b)に示されるように、カーソルが移動すると、カーソルの移動に同期してサムネールのフレームレートが変化する。即ち、カーソルの移動によってカーソル(のあたったサムネール)に近づいたサムネールはフレームレートが上がり、カーソルの移動によってカーソル(のあたったサムネール)から遠ざかったサムネールはフレームレートが下げられる。
なお、フレームレートのレベルは図示した3段階(高/中/低)とは限らず、2段階、あるいは4段階、更にそれ以上の多段階にすることも可能である。また、段階的に変えるのでなく、カーソルのあたったサムネールとの距離に応じて連続的にフレームレートを変化させることも可能である。即ち、フレームレートrを変換式f()を用いて、
r=f(D_i,j)、但し
D_i,j1<D_i,j2のとき、f(D_i,j1)>f(D_i,j2)
により求めるとしてもよい。
本実施形態における表示制御部701は、上記した動画サムネール表示を実現するために、入力された1つの動画データに対して、指定されたフレームレートで映像を再生(符号化データの場合、復号処理を含む)する機能を有する。あるいは、表示制御部が任意の指定されたフレームレートで再生する機能を持たない場合に、本実施形態に係る映像表示装置を構成する他の機能ブロック図を示したのが、図10である。
図10の映像表示装置9は、表示制御部901が指定のフレームレートで映像を再生する機能を持たない代わりに、予めサムネール用の動画データとして複数種類の(図10の例ではフレームレート高、中、低、3種類の)フレームレートの異なる動画データが与えられるものとし、それらのいずれを用いるかを判定部903から指示された選択部902が選択するように構成される。表示制御部901は、判定部903からの指示に従い、選択部902で選択されたフレームレートの異なる動画データを再生し、表示部104で表示する。
なお、第1の実施形態と同様に、本実施形態に係る映像表示装置7、9でも、近傍サムネールの範囲を判定部702、903でテンプレート化して保持し、近傍の判定をサムネール一覧表示の表示形態が変更されたときにのみ行うようにすることで、近傍の判定にかかる処理を軽減することができる。本実施形態では、フレームレート高とする近傍領域と、フレームレート中とする近傍領域との2つをテンプレート化して保持する。こうすることで、近傍の判定にかかる処理を軽減することができる。
(第3の実施形態の説明)
本発明の第3の実施形態に係る映像表示装置を、図11、図12、図13及び図3を用いて説明する。
図11は、本発明の第3の実施形態に係る映像表示装置10の概略構成を示した機能ブロック図である。
本実施形態に係る映像表示装置10の概略構成は、第1の実施形態と同様に図1で表されるが、映像表示装置1と映像表示装置10とでは、判定部103と1003、表示制御部101と1001が異なる。
第1の実施形態にかかる映像表示装置1では、判定部103において、各サムネールを動画表示するか、静止画表示するかを判定していた。そして、選択部102で、サムネール表示用のデータとして静止画データ、動画データのいずれかを選択していた。また、第2の実施形態に係る映像表示装置7では、判定部702において、動画表示する各サムネールのフレームレートの高低を判定していた。これらに対して、第3の実施形態に係る映像表示装置10では、判定部1003において、各サムネールを動画表示するか静止画表示するか、並びに動画表示するサムネールのフレームレートの高低の判定を行うものとする。そして、判定部1003は、上記判定した結果から、選択部102にはサムネール表示用のデータとして静止画データ、動画データのいずれかを選択するかを指示し、表示制御部1001にはサムネールを静止画表示するか、あるいはいずれのフレームレートで動画表示するかを指示する。
判定部1003の判定処理の動作について、ここでも第2の実施形態と同様に、図3に示されたサムネールの表示形態の例を用いて説明する。
なお、図4、図5に示した別のサムネールの表示形態の例を用いても同様の処理が行えることは、既に第1の実施形態で説明した通りであり、改めて説明するまでもない。
図3(a)を参照して、カーソルのあたったサムネールの座標(x_i,y_i)、他の任意のサムネールの座標(x_j,y_j)とし、サムネール間の距離D_i,jは、上記式(1)と同様、下式(5)で与えられる。
D_i,j=Root{(x_i−x_j)^2+(y_i−y_j)^2}・・(5)
この距離D_i,jに対し、判定部1003では、フレームレート高で動画表示と判定する閾値距離D_H、フレームレート中で動画表示と判定する閾値距離D_M、フレームレート低で動画表示と判定する閾値距離D_L(D_H<D_M<D_L)の3つを定義して用いる。即ち、
D_i,j≦D_H
の時、座標(x_j、y_j)のサムネールを高いフレームレートで動画表示し、
D_H<D_i,j≦D_M
の時、座標(x_j、y_j)のサムネールを中程度のフレームレートで動画表示し、
D_M<D_i,j≦D_L
の時、座標(x_j、y_j)のサムネールを低いフレームレートで動画表示し、
D_L<D_i,j
の時、座標(x_j、y_j)のサムネールを静止画表示すると判定する。この判定式から明らかなように、この閾値D_Lは、第1の実施形態における動画表示か静止画表示かを判定する閾値距離D_Tにあたるものである。
図12に、本実施形態におけるサムネール表示の例を示す。図12に示すように、一覧表示されるサムネールはカーソルがあたっているサムネールを中心に、フレームレートの高い動画サムネール、フレームレートが中程度の動画サムネール、フレームレートの低い動画サムネールが表示され、さらにその外側に静止画サムネールを表示する。また、図11(a)から図11(b)に示されるように、カーソルの移動に伴ってそれぞれのサムネールがいずれのフレームレートで動画表示されるか、あるいは静止画表示されるかも変化する。
なお、第2の実施形態と同様に、動画サムネールのフレームレートのレベルは3段階とは限らず、2段階、あるいは4段階、更にそれ以上の多段階にすることも可能である。また、段階的に変えるのでなく、カーソルのあたったサムネールとの距離に応じて連続的にフレームレートを変化させることも可能である。即ち、動画表示か静止画表示かを切替える閾値距離D_L=D_Tを用いて、動画表示か静止画かを決定し、動画表示されるサムネールについては変換式r=f()でフレームレートrを算出する。
本実施形態における表示制御部1001は、上記した動画サムネール表示を実現するために、入力された1つの動画データに対して、指定されたフレームレートで映像を動画再生(符号化データの場合、復号処理を含む)する機能を有する。あるいは、表示制御部が任意の指定されたフレームレートで動画再生する機能を持たない場合に、本実施形態に係る映像表示装置を構成する他の機能ブロック図を示したのが、図13である。
図13の映像表示装置11は、表示制御部1101が指定のフレームレートで映像を動画再生する機能を持たない代わりに、予めサムネール用の動画データとして複数種類(図13の例ではフレームレート高、中、低、3種類)のフレームレートの異なる動画データが与えられるものとし、これらの動画データ並びに静止画データのいずれを用いるかを判定部1103から指示された選択部1102が選択するように構成される。表示制御部1101は、判定部1103からの指示に従い、選択部1102で選択されたフレームレートの異なる動画データもしくは静止画データを再生し、表示部104で表示する。
なお、第1及び第2の実施形態と同様に、本実施形態に係る映像表示装置10、11でも、近傍サムネールの範囲を判定部1003、1103でテンプレート化して保持し、近傍の判定をサムネール一覧表示の表示形態が変更されたときにのみ行うようにすることで、近傍の判定にかかる処理を軽減することができる。
本実施形態では、フレームレート高の動画表示とする近傍領域、フレームレート中の動画表示とする近傍領域、フレームレート低の動画表示とする近傍領域の3つをテンプレート化して保持する。こうすることで、近傍の判定にかかる処理を軽減することができる。
本発明の映像表示装置は、カーソルをあてて選択されたサムネールに対して、選択されたサムネール及びその近傍のサムネールのみを動画表示することにより、ユーザが視点移動する確率の高い注視点の近辺(注視候補領域)は重点的に動画表示し、即ち高い情報量で映像表示し、視点移動の確率の低い注視点から離れた位置(非注視候補領域)は情報量の低い静止画表示とし、処理を軽減し、ユーザに対して効率良く映像情報の表示を可能とする。
また、本発明の映像表示装置は、カーソルをあてて選択されたサムネールに対して、選択されたサムネール及びその近傍のサムネールを高いフレームレートで、それ以外を低いフレームレートで動画表示することにより、ユーザが視点移動する確率の高い注視点の近辺(注視候補領域)は高フレームレートの動画で、即ち高い情報量で映像表示し、視点移動の確率の低い注視点から離れた位置(非注視候補領域)は情報量の低い低フレームレートの動画表示とし、処理を軽減し、ユーザに対して効率良く映像情報の表示を可能とする。
さらに、近傍サムネールであるか否かの判定はサムネールの表示形態に合せて行い、表示形態が変更された時にのみ近傍の範囲を求めるようにすることで、近傍の判定にかかる処理を軽減することを可能する。動画表示するサムネールの数は、復号器の数の制限や処理能力の制限等により決定する。
なお、上記各実施形態の説明では、注視点にあたるサムネールを選択する手段としてカーソルが用いられることを前提に説明したが、カーソルに限らずとも、一覧表示されたサムネールから特定のサムネールを選ぶ情報、その手段があれば、本発明で説明した映像表示装置、映像表示方法が同様に適用可能であることは言うまでもない。即ち、例えば視線検出手段が用意され、ユーザが視線移動により一覧表示されたサムネールから特定のサムネールを直接選択する手段が用意されれば、その視線検出手段で得られる情報を用いて注視サムネールを与え、以降は、その近傍を判断し動画表示するか否かを判定することで、本発明の映像表示装置、映像表示方法が適用される。従って、本発明の映像表示装置、映像表示方法は、任意の手段で特定のサムネールを選択する手段を備えればよい、と言える。
また、上記各実施形態の説明では、映像の(サムネールの)情報量を減らす手段として、動画を静止画にする、動画のフレームレートを下げる、の2つが用いられることを前提に説明したが、情報量を下げる(表示の処理を軽減する)ための手段はこれらに限られない。特に、動画表示する際の情報量を下げる手段としては、例えば、表示される動画の時間を短縮する(10分の映像に対して先頭の30秒のみを表示するなど)、表示される動画のサイズ(解像度)を下げる、といったことで情報量を下げること(即ち表示の処理を軽減すること)が可能である。即ち、本発明の映像表示装置、映像表示方法は、選択されたサムネールに対して、近傍のサムネールは高い情報量で表示し、近傍でないサムネールは低い情報量で(軽い処理で)表示する、任意の表示制御手段を備えればよい、と言える。あるいは、近傍であるほど高い情報量でサムネールを表示し、近傍から離れるほど低い情報量で(軽い処理で)表示する、任意の表示制御手段を備えればよい、と言える。
なお、ここで開示された実施形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は、上記した説明ではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
本発明の第1の実施形態に係る映像表示装置の概略構成を示した機能ブロック図である。 本発明の第1の実施形態に係る映像表示装置において操作と画面の変化の関係を示した図である。 本発明の第1の実施形態に係る映像表示装置においてサムネール表示の一表示形態を示した図である。 本発明の第1の実施形態に係る映像表示装置においてサムネール表示の他の一表示形態を示した図である。 本発明の第1の実施形態に係る映像表示装置においてサムネール表示のさらに他の一表示形態を示した図である。 本発明の第1の実施形態に係る映像表示装置において画面に表示されるサムネール一覧表示の表示例を示した図である。 本発明の第1の実施形態に係る映像表示装置において近傍の範囲をテンプレート化して扱う例を示した説明図である。 本発明の第2の実施形態に係る映像表示装置の概略構成を示した機能ブロック図である。 本発明の第2の実施形態に係る映像表示装置において画面に表示されるサムネール一覧表示の表示例を示した図である。 本発明の第2の実施形態に係る映像表示装置の他の概略構成を示した機能ブロック図である。 本発明の第3の実施形態に係る映像表示装置の概略構成を示した機能ブロック図である。 本発明の第3の実施形態に係る映像表示装置において画面に表示されるサムネール一覧表示の表示例を示した図である。 本発明の第3の実施形態に係る映像表示装置の他の概略構成を示した機能ブロック図である。
符号の説明
1、7、9、10、11 映像表示装置
101、701、901、1001、1101 表示制御部
102、902、1102 選択部
103、702、903、1003、1103 判定部
104 表示部
201 画面
202、202a サムネール
203 カーソル

Claims (15)

  1. 複数の映像にそれぞれ対応した複数のサムネールを画面に一覧表示する映像表示装置であって、
    表示された前記複数のサムネールから特定の第1のサムネールを選択する特定サムネール選択手段と、
    前記特定サムネール選択手段により選択された前記第1のサムネールに対して、判定対象の第2のサムネールが前記第1のサムネールの近傍にあるか否かを判定する判定手段と、
    前記判定手段において前記第2のサムネールが前記第1のサムネールの近傍にあると判定されたとき、前記第2のサムネールを動画表示とし、前記第2のサムネールが前記第1のサムネールの近傍にないと判定されたとき、前記第2のサムネールを静止画表示とする表示制御手段と、
    を備えることを特徴とする映像表示装置。
  2. 前記判定手段は、前記第1のサムネールと前記第2のサムネールとの距離を求め、該距離を閾値判定することにより近傍にあるか否かを判定することを特徴とする請求項1に記載の映像表示装置。
  3. 前記判定手段は、前記複数のサムネールの一覧表示の形態が変更されたときにのみ、前記閾値判定を行うことを特徴とする請求項2に記載の映像表示装置。
  4. 複数の映像にそれぞれ対応した複数のサムネールを画面に一覧表示する映像表示方法であって、
    表示された前記複数のサムネールから特定の第1のサムネールを選択するステップと、
    前記選択された前記第1のサムネールに対して、判定対象の第2のサムネールが前記第1のサムネールの近傍にあるか否かを判定するステップと、
    前記第2のサムネールが前記第1のサムネールの近傍にあると判定されたとき、前記第2のサムネールを動画表示とし、前記第2のサムネールが前記第1のサムネールの近傍にないと判定されたとき、前記第2のサムネールを静止画表示とするよう表示制御するステップと、
    を含むことを特徴とする映像表示方法。
  5. 複数の映像にそれぞれ対応した複数のサムネールを画面に一覧表示する映像表示装置であって、
    表示された前記複数のサムネールから特定の第1のサムネールを選択する特定サムネール選択手段と、
    前記特定サムネール選択手段により選択された前記第1のサムネールに対して、判定対象の第2のサムネールが前記第1のサムネールからどの程度離れているかを示す近傍の度合いを判定する判定手段と、
    前記判定手段において判定された前記近傍の度合いに基づいて、所定のフレームレートを与えて前記第2のサムネールを動画表示する表示制御手段と、
    を備えることを特徴とする映像表示装置。
  6. 前記判定手段は、前記第1のサムネールと前記第2のサムネールとの距離を求め、該距離を閾値判定することにより前記近傍の度合いを判定することを特徴とする請求項5に記載の映像表示装置。
  7. 前記判定手段は、前記複数のサムネールの一覧表示の形態が変更されたときにのみ、前記閾値判定を行うことを特徴とする請求項6に記載の映像表示装置。
  8. 前記判定手段は、前記第1のサムネールと前記第2のサムネールとの距離を求め、該距離から前記近傍の度合いを関数演算により算出することを特徴とする請求項5に記載の映像表示装置。
  9. 前記所定のフレームレートは、前記近傍の度合いが高いほど高く、前記近傍の度合いが低いほど低くすることを特徴とする請求項5から請求項8のいずれか1項に記載の映像表示装置。
  10. 複数の映像にそれぞれ対応した複数のサムネールを画面に一覧表示する映像表示方法であって、
    表示された前記複数のサムネールから特定の第1のサムネールを選択するステップと、
    前記選択された前記第1のサムネールに対して、判定対象の第2のサムネールが前記第1のサムネールからどの程度離れているかを示す近傍の度合いを判定するステップと、
    前記判定された前記近傍の度合いに基づいて、所定のフレームレートを与えて前記第2のサムネールを動画表示するように制御するステップと、
    を含むことを特徴とする映像表示方法。
  11. 複数の映像にそれぞれ対応した複数のサムネールを画面に一覧表示する映像表示装置であって、
    表示された前記複数のサムネールから特定の第1のサムネールを選択する特定サムネール選択手段と、
    前記特定サムネール選択手段で選択された前記第1のサムネールに対して、判定対象の第2のサムネールが前記第1のサムネールからどの程度離れているかを示す近傍の度合いを判定する判定手段と、
    前記判定手段において前記第2のサムネールが前記第1のサムネールの近傍にあると判定されたとき、前記第2のサムネールを動画表示とし、前記第2のサムネールが前記第1のサムネールの近傍にないと判定されたとき、前記第2のサムネールを静止画表示とし、前記判定手段において判定された前記近傍の度合いに基づいて、前記第2のサムネールの動画表示を異なる情報量でサムネール表示する表示制御手段と、
    を備えることを特徴とする映像表示装置。
  12. 複数の映像にそれぞれ対応した複数のサムネールを画面に一覧表示する映像表示装置であって、
    表示された前記複数のサムネールから特定の第1のサムネールを選択する特定サムネール選択手段と、
    前記特定サムネール選択手段で選択された前記第1のサムネールに対して、判定対象の第2のサムネールのうち少なくとも1つは動画表示であり、前記第1のサムネールからどの程度離れているかを示す近傍の度合いを判定する判定手段と、
    前記判定手段において判定された前記近傍の度合いに基づいて、前記第2のサムネールを解像度を変えて異なる情報量でサムネール表示する表示制御手段と、
    を備えることを特徴とする映像表示装置。
  13. 前記サムネール表示する際の情報量は、前記近傍の度合いが高いほど高く、前記近傍の度合いが低いほど低くすることを特徴とする請求項11又は12に記載の映像表示装置。
  14. 複数の映像にそれぞれ対応した複数のサムネールを画面に一覧表示する映像表示方法であって、
    表示された前記複数のサムネールから特定の第1のサムネールを選択するステップと、
    前記選択された前記第1のサムネールに対して、判定対象の第2のサムネールが前記第1のサムネールからどの程度離れているかを示す近傍の度合いを判定するステップと、
    前記判定するステップにおいて前記第2のサムネールが前記第1のサムネールの近傍にあると判定されたとき、前記第2のサムネールを動画表示とし、前記第2のサムネールが前記第1のサムネールの近傍にないと判定されたとき、前記第2のサムネールを静止画表示とし、前記判定された前記近傍の度合いに基づいて、前記第2のサムネールの動画表示を異なる情報量でサムネール表示するよう表示制御するステップと、
    を含むことを特徴とする映像表示方法。
  15. 複数の映像にそれぞれ対応した複数のサムネールを画面に一覧表示する映像表示方法であって、
    表示された前記複数のサムネールから特定の第1のサムネールを選択するステップと、
    前記選択された前記第1のサムネールに対して、判定対象の第2のサムネールのうち少なくとも1つは動画表示であり、前記第1のサムネールからどの程度離れているかを示す近傍の度合いを判定するステップと、
    前記判定された前記近傍の度合いに基づいて、前記第2のサムネールを解像度を変えて異なる情報量でサムネール表示するよう表示制御するステップと、
    を含むことを特徴とする映像表示方法。
JP2007023113A 2007-02-01 2007-02-01 映像表示装置及び映像表示方法 Expired - Fee Related JP5468189B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007023113A JP5468189B2 (ja) 2007-02-01 2007-02-01 映像表示装置及び映像表示方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007023113A JP5468189B2 (ja) 2007-02-01 2007-02-01 映像表示装置及び映像表示方法

Publications (2)

Publication Number Publication Date
JP2008191241A JP2008191241A (ja) 2008-08-21
JP5468189B2 true JP5468189B2 (ja) 2014-04-09

Family

ID=39751435

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007023113A Expired - Fee Related JP5468189B2 (ja) 2007-02-01 2007-02-01 映像表示装置及び映像表示方法

Country Status (1)

Country Link
JP (1) JP5468189B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014219841A (ja) * 2013-05-08 2014-11-20 住友電工ネットワークス株式会社 操作入力装置および操作入力プログラム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4235393B2 (ja) * 2002-03-11 2009-03-11 富士フイルム株式会社 インデックス画像表示制御装置
JP2004032535A (ja) * 2002-06-27 2004-01-29 Canon Inc 画像再生装置及び画像記録再生装置及びそれらの制御方法及びプログラム及び記憶媒体
JP2005286608A (ja) * 2004-03-29 2005-10-13 Sharp Corp サムネイル表示装置
JP4476261B2 (ja) * 2006-09-13 2010-06-09 株式会社ソニー・コンピュータエンタテインメント 復号装置および復号方法

Also Published As

Publication number Publication date
JP2008191241A (ja) 2008-08-21

Similar Documents

Publication Publication Date Title
CN102362308B (zh) 信息处理装置和信息处理方法
TWI353781B (ja)
JP4683031B2 (ja) 電子機器、コンテンツ分類方法及びそのプログラム
US11102520B2 (en) Image display method and image display apparatus
JP5391224B2 (ja) 映像付加情報表示制御装置およびその動作方法
CN105340014A (zh) 用于视频编辑的触摸优化设计
CN104618656A (zh) 一种信息处理的方法及电子设备
JP2011244175A (ja) 電子機器、映像処理方法及びプログラム
JP2009063822A5 (ja)
JPWO2019054360A1 (ja) 画像表示方法、画像配信方法、画像表示装置及び画像配信装置
JP5202584B2 (ja) 画像処理装置、コンテンツ作成支援装置、画像処理方法、コンテンツ作成支援方法、および画像ファイルのデータ構造
JP6149862B2 (ja) 表示制御装置、表示制御システムおよび表示制御方法
RU2014107671A (ru) Устройство формирования данных движущегося изображения, устройство отображения движущегося изображения, способ формирования данных движущегося изображения, способ отображения движущегося изображения, структура данных файла движущегося изображения
JP4124421B2 (ja) 画像表示制御装置
JP5092033B2 (ja) 電子機器、表示制御方法及び表示制御プログラム
JP6501674B2 (ja) 画像処理装置及び画像処理方法
US20110122136A1 (en) Method and apparatus for filtering vector object's control points
JP2017026828A (ja) 動画再生プログラム、装置、及び方法
US20110200303A1 (en) Method of Video Playback
JP5468189B2 (ja) 映像表示装置及び映像表示方法
JP6468847B2 (ja) 画像復号装置、画像復号方法、及びプログラム
WO2019211936A1 (ja) 情報処理装置、情報処理方法、及び記録媒体
KR102278748B1 (ko) 360 vr 인터랙티브 중계를 위한 사용자 인터페이스 및 방법
JP2013145515A (ja) 表示装置、表示方法及び表示プログラム
JP5460006B2 (ja) 動画検索装置及び動画検索方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090218

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120309

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130226

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130415

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140129

R150 Certificate of patent or registration of utility model

Ref document number: 5468189

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees