JP5267606B2 - 表示装置及びプログラム - Google Patents

表示装置及びプログラム Download PDF

Info

Publication number
JP5267606B2
JP5267606B2 JP2011076883A JP2011076883A JP5267606B2 JP 5267606 B2 JP5267606 B2 JP 5267606B2 JP 2011076883 A JP2011076883 A JP 2011076883A JP 2011076883 A JP2011076883 A JP 2011076883A JP 5267606 B2 JP5267606 B2 JP 5267606B2
Authority
JP
Japan
Prior art keywords
image
conversion
schedule
program
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011076883A
Other languages
English (en)
Other versions
JP2012212997A (ja
Inventor
篤志 助則
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2011076883A priority Critical patent/JP5267606B2/ja
Priority to CN201210083625.XA priority patent/CN102737688B/zh
Priority to US13/432,634 priority patent/US20120249577A1/en
Publication of JP2012212997A publication Critical patent/JP2012212997A/ja
Application granted granted Critical
Publication of JP5267606B2 publication Critical patent/JP5267606B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/102Programmed access in sequence to addressed parts of tracks of operating record carriers
    • G11B27/105Programmed access in sequence to addressed parts of tracks of operating record carriers of operating discs

Landscapes

  • Controls And Circuits For Display Device (AREA)
  • Processing Or Creating Images (AREA)
  • Television Signal Processing For Recording (AREA)

Description

本発明は、表示装置及びプログラムに関する。
複数のデジタルスチル画像を記憶し、順次切り替えてスライドショーを行うデジタルフォトフレームと呼ばれる画像表示装置が知られている。
デジタルフォトフレームの中には、音楽再生機能を備え、再生している音楽に合わせて画像を切り替えてスライドショーを行うものがある。
ここで、特許文献1は、画像と音声データとを対応付け、音声データの再生が完了したタイミングで次の画像を表示するデジタルフォトフレームを開示している。
特開2002−281440号公報
従来のデジタルフォトフレームは、予め記憶している画像を順番に切り替えて表示するのみであり、表示におもしろみや意外性に欠ける場合があった。
また、音楽に合わせて画像を切り替えるデジタルフォトフレームでは、画像の切り替えのタイミングが固定的で、おもしろみや意外性に欠ける場合があった。このため、画像の表示を開始してしばらくすると、観者が表示を注目しなくなる傾向がある。
同様の問題は、デジタルフォトフレームに限らず、予め記憶している画像を順次切り替えて表示するタイプの種々の表示装置に共通に存在する。
本発明は上記のような事情に鑑みてなされたもので、観者に意外感やおもしろみを感じさせることができる表示装置及びプログラムを提供することを目的とする。
また、この発明は、観者の注目を引きつけることができる表示装置とプログラムを提供することを他の目的とする。
また、この発明は、予め記憶させた画像以外の画像を表示することのできる表示装置とプログラムを提供することを他の目的とする。
上記目的を達成するための本発明に係る表示装置は、
複数の画像を記憶する画像記憶手段と、
前記画像記憶手段に記憶されている複数の画像と該複数の画像の少なくとも1つを画像変換して得られる変換画像との表示スケジュールを設定するスケジュール設定手段と、
前記スケジュール設定手段により設定されたスケジュールに従って、表示対象の画像を順次表示する表示手段と、
前記スケジュール設定手段により設定された変換画像の表示タイミングまでに前記複数の画像のうちの少なくとも1つを画像変換して前記変換画像を生成する画像変換手段と、
を備え
前記画像変換手段は、複数の変換プログラムを備え、
さらに、
前記複数の変換プログラムのうちの所定の変換プログラムによる画像変換が前記スケジュールで設定された変換画像の表示タイミングまでに終了するか否かを判別する判別手段と、
前記判別手段により終了しないと判別されたときに、前記スケジュールで設定された変換画像の表示タイミングまでに画像変換処理を終了することができる他の変換プログラムを選択する選択手段と、
前記所定の変換プログラム又は前記選択手段により選択された他の変換プログラムにより画像変換を行う手段と、
を備えることを特徴とする。
本発明の表示装置及びプログラムによれば、複数の画像と変換画像を表示するスケジュールを設定し、設定したスケジュールに従って表示対象の画像を順次表示し、複数の画像の少なくとも1つを画像変換して変換画像を生成する。そのため、予め記憶している画像以外の画像を表示することができ、観者に意外感やおもしろみを感じさせることができ、その結果観者の注目を引きつけることができる。
本発明の実施形態1に係る表示装置の構成を表すブロック図である。 実施形態1に係る表示処理の概要を表す図である。 実施形態1に係る曲データの構成を示す図である。 実施形態1に係るスライドショー実行前処理を表すフローチャートである。 実施形態1に係るスライドショー実行処理を表すフローチャートである。 本発明の実施形態2に係るスライドショー実行前処理を表すフローチャートである。 実施形態2に係る画像変換プログラム情報の構成を示す図である。 本発明の実施形態3に係る表示装置の構成を表すブロック図である。 実施形態3に係る表示処理の概要を表す図である。 実施形態3に係るスライドショー実行前処理を表すフローチャートである。 実施形態3に係る画像変換プログラム情報の構成を示す図である。 本発明の実施形態に係る画像を徐々に切り替えて表示する処理を示す図である。 本発明の実施の形態に係る表示装置のハードウェア構成の一例を示すブロック図である。
以下、本発明を実施するための形態を、図を参照しながら説明する。なお、図中同一又は相当する部分には同一符号を付す。
(実施形態1)
本発明の実施形態1に係る表示装置1は、予め記憶している音楽を再生しつつデジタルスチル画像を切り替えつつ順次表示する機能を備えるデジタルフォトフレームであり、図1に示すように、制御部10と、記憶部20と、タッチパネル30と、入力部40と、音声出力部50と、から構成される。
制御部10は、CPU(Central processing unit)、DPS(Digital signal processer)等から構成され、記憶部20に記憶されたプログラムに基づき動作し、記憶部20と、タッチパネル30と、入力部40と、音声出力部50と、を制御する。制御部10は、マルチタスクで複数のプログラムを平行して実行する機能を備える。制御部10は、このような構成により、機能的に、タッチパネル制御部11と、入力制御部12と、音声出力制御部13と、記憶制御部14と、を備える。
タッチパネル制御部11は、タッチパネル30を制御する。具体的には、制御部10は、タッチパネル30を構成する表示部31に画像を表示させ、また、センサ32が検出したユーザの操作を示す情報を受け取る。
入力制御部12は、入力部40からユーザが行った入力操作を特定する情報を受け取る。
音声出力制御部13は、音声出力部50に制御部10が行った処理結果に基づき音声を出力させる。音声とは、楽曲、人の声、その他の音、等の音を意味する。
記憶制御部14は、記憶部20を制御する。具体的には、記憶制御部14は、記憶部20に制御部10の処理結果に基づく情報を記憶させ、記憶部20に記憶されていた情報を読み出す。
記憶部20は、物理的にはフラッシュメモリ等の不揮発性メモリ等から構成され、機能的には音声記憶部21と、画像記憶部22と、スライドショー実行プログラム記憶部23と、画像変換プログラム記憶部24と、から構成される。
音声記憶部21は、音声データとヘッダ情報とから構成される曲データを記憶する。
画像記憶部22は、写真等の複数の画像の画像データを記憶する。画像の種類や画像データの形式は任意であるが、予め表示部31の画素数等に合わせてサイズ等が調整されたラスターイメージであることが好ましい。本実施形態では、画像は写真の画像であって、撮影日時等の属性情報と共に画像記憶部22に格納されている。
スライドショー実行プログラム記憶部23は、制御部10が下記スライドショーを実行するためのプログラムを記憶する。
画像変換プログラム記憶部24は、制御部10が画像変換を実行するための画像変換プログラムを記憶する。画像変換プログラムの種類は任意であるが、例えば、i)写真を絵画風(油彩調、水彩調等)に変換するプログラム、ii)写真中の背景部分を特定し、背景部分に他の画像を合成するプログラム、iii)写真中の人物を特定し、人物を加工するプログラム、iv)画像の全部又は一部の画素の色相・彩度・明度を変換するプログラム等、既知の任意の画像変換プログラムを採用できる。
タッチパネル30は、画面を表示し、ユーザによる画面をなぞる等の操作を検出するデバイスである。タッチパネル30は、タッチパネル制御部11から指定された画像を表示する表示部31の上に、その画像をなぞる等によって行われた操作を検出するセンサ32(タッチセンサ)が重ねられた構成を有する。タッチパネル30は、センサ32が検出した操作の情報をタッチパネル制御部11に伝達する。
入力部40は、複数のキーと、キー操作を入力制御部12に伝達する入出力部と、から構成される。
音声出力部50は、物理的には音声出力制御部13から伝達された音声データを入力する入力部と、入力された音声データを放音するスピーカと、から構成され、音声出力制御部13から指示された音声を放音する。
次に、表示装置1が実行する処理の概要を、図2を参照して説明する。
表示装置1は、音声記憶部21に予め記憶しておいた曲データに基づいて音楽を再生しつつ、画像記憶部22に予め記憶されている複数の画像を切り替えて順次表示するというスライドショーを行う。ここで、音楽の歌詞がある部分に予め記憶している画像を表示し、間奏部分(歌詞の無い部分)に間奏の直前に演奏していた画像を所定の手法で変換した画像を表示する。
このような表示を行うため、表示装置1は起動されると(時刻t0)、前処理を開始する。前処理では、スライドショーのスケジュール等を決定する。ここでは、表示対象の画像を画像1〜画像4とする。
まず、間奏を除いた曲の長さ(時間)を特定し、特定した時間を画像数4で割って、各画像の表示時間tを決定する。
次に、間奏が開始される直前に表示される画像が特定される。図2の例では、画像3が、間奏が開始される直前に表示される画像となる。
間奏時に画像3を所定の手法で変換した変換画像を表示するために、画像変換プログラム記憶部24に記録された変換プログラムを用いて画像3を変換する処理を開始する。この変換画像は、画像3(写真)を絵画調に変換したものである。
前処理が終わると、スライドショーを開始する(時刻t1)。具体的には、BGMとして音声記憶部21に記憶された曲の再生を開始し、併せて、スケジュールに基づいて画像を表示部31に表示する。
時間の経過と共に、画像1から画像2へ(時刻t2)、画像2から画像3へ(時刻t3)と切り替えて画像を表示部31に表示する。このとき、t2−t1と、t3−t2と、の値はtである。
曲が間奏部分にさしかかると(時刻t4)、直前まで表示されていた画像3を変換した変換画像が表示される。
間奏部分が終了すると(時刻t5)、スライドショーを再開する。再開したスライドショーでは、画像3が残り時間(t−t4+t3)だけ表示される。画像3を、累計時間tだけ表示すると(時刻t6)、画像4を表示する。
画像4を時間tだけ表示すると、曲が終了し、スライドショーを終了する。
上記した処理では、前処理が終了した時点からスライドショーが開始される。その後、画像3の変換画像を生成する処理が、前処理が終わった後でスライドショーと並行して行われる。そのため、画像3を変換する時間を待たずにスライドショーが開始できる。また、時刻t4において変換画像を表示する時点では画像3を変換した変換画像の生成は終了しているため、時刻t4において処理遅延がおこらないという効果が得られる。さらに、画像を表示するスケジュールや変換画像を表示するタイミングを自動的に定めるため、ユーザが予め煩雑な設定操作を行う必要がない。
なお、上記処理が終了した後の表示装置1の動作は、初期設定又はユーザ設定によって定まる。この設定は任意であり、例えば、上記スライドショーを繰り返し実行する設定、スライドショーの後に予め定められた画像を表示する設定、スライドショーの終了と共に表示装置1の電源をオフにする設定、等が可能である。
ここで、音声記憶部21に記憶された曲データ300の構造を、図3を参照して説明する。
曲データ300は、音楽の音を記述する音声データ301と、曲の構成要素等の情報を記載したヘッダ情報302と、から構成される。ヘッダ情報302は、曲データ300のヘッダ部に記載されている。
ヘッダ情報302は、曲名(Name)、アーティスト名(Artist)、全曲長、曲の構成要素が曲の中でどこに位置するかを表す情報、から構成される。図3の例では、音声データ301は、前奏部分(イントロ、Intro)と、Aメロディー(MelodyA)と、Bメロディー(MelodyB)と、間奏(Interlude)と、A’メロディー(MelodyA2)と、から構成される。ヘッダ情報302では、上記各構成要素に対して、開始時間と終了時間とが定義されている。
当該曲が演奏されると、まず前奏部分(Intro)が曲の開始2秒から始まり、10秒まで続く。次にAメロディー(MelodyA)が10秒から1分40秒まで流れる。次に、Bメロディー(MelodyB)が1分40秒から2分40秒まで流れる。そして、間奏が2分40秒から3分までの20秒流れる。そして、間奏が終わると、Aメロディーの変形であるA’メロディー(MelodyA2)が流れ、曲は終了する。なお、最初と最後とにある構成要素が定義されていない部分は、音の無い余白部分である。
制御部10は、音声記憶部21に記憶された曲データ300のヘッド部からヘッダ情報302を抽出し、間奏部分が曲のどの部分を占めるか検出する。
次に、表示装置1が上記処理をどのように実行するか、図4〜5を参照して具体的に説明する。
表示装置1が立ち上げられると、制御部10は、図4に示すスライドショー実行前処理1を開始する。
まず、制御部10は画像記憶部22に記憶されている画像の情報を取得する(ステップS101)。具体的には、記憶されている画像の数と、それぞれの画像の撮影時期と、を取得する。
次に、音声記憶部21に記憶されている曲データ300のヘッダ情報302を取得する(ステップS102)。
次に、制御部10はヘッダ情報302および画像の情報から、画像を表示するスケジュールを決定する(ステップS103)。具体的には、ヘッダ情報302から、曲の全長から間奏部分を除いた長さを計算する。そして、求めた長さを画像の数で除算して、画像一枚あたりの表示時間tを算出し、各画像を、曲の間奏部分を除いて、撮影時期が古い順番に当該表示時間だけ表示してスライドショーを終了するようスケジュールを決定する。図2の例では、画像1をt1からt2まで、画像2をt2からt3まで、画像3をt3からt4までとt5からt6まで、画像4をt6から曲終了まで、それぞれ時間tだけ表示するというスケジュールが決定される。
次に、前記スケジュールにおいて、曲の間奏が開始される直前に表示される画像を検出する(ステップS104)。図2の例では、画像3を検出する。
最後に、上記ステップS104で検出された間奏開始直前に表示される画像を変換した変換画像の生成が開始される(ステップS105)。この変換は、画像変換プログラム記憶部24に記憶されたプログラムを用いて、制御部10が実行する。
そして、スライドショー実行前処理1は終了する。
スライドショー実行前処理1が終了すると、制御部10は次に図5に示すスライドショー実行処理1を開始する。
スライドショー実行処理1を開始すると、音声記憶部21に記憶された曲データ300の音声データ301の再生を開始する(ステップS201)。当該音声データは、音声出力制御部13が、音声出力部50を用いて出力する。合わせてスライドショーの経過時間を示すタイマT1のカウントを開始する。
次に、タイマT1を参照してスライドショーの終了時間(曲の終了時間)に到達したかを判別する(ステップS202)。
スライドショーの終了時間に到達した場合(ステップS202;YES)、処理は終了する。
一方、スライドショーの終了時間に到達していない場合(ステップS202;NO)、スケジュールに従って、次の画像が表示される(ステップS203)。スライドショーが開始された直後の場合は、最初の画像が表示される。さらに、今回表示した画像の表示時間を計測するタイマT2のカウントを開始させる。T2のカウントがすでに行われている場合はT2をリセットしたのちカウントを開始する。
画像が表示されると、次に、タイマT1を参照して間奏の開始時間に到達したか判別される(ステップS204)。間奏の開始時間に到達している場合(ステップS204;YES)、間奏に入った場合の処理(ステップS206)が行われる。この場合の処理については後述する。
一方、間奏に入っていない場合(ステップS204;NO)、タイマT2を参照して現在表示されている画像の表示時間が終了したか判別される(ステップS205)。具体的には、タイマT2の計測時間が、スライドショー実行前処理1のステップS103で定義された各画像の表示時間tを超えているか判別され、超えている場合に当該画像の表示時間が終了したと判別される。
現在の画像の表示時間が終了していない場合(ステップS205;NO)、ステップS204にリターンし、ステップS204から繰り返しチェックが行われ、間奏に入るか、表示時間が終了するか、どちらかの時刻に到達するまでその画像が表示される。
一方、表示時間が終了していた場合(ステップS205;YES)、ステップS203に戻り、次の画像を表示する。
ステップS204で、間奏に入る時間に到達したと判別すると(ステップS204;YES)、その直前まで表示されていた画像(スライドショー実行前処理1のステップS104で検出された画像)の変換画像を表示する(ステップS206)。直前に表示された画像の表示時間を表すタイマT2のカウントを一旦停止する。
この変換画像は、上記スライドショー実行前処理1(図4)のステップS105で生成が開始され、記憶部20に格納されている。間奏に入るまでの時間の間、スライドショーを表示する処理と平行して制御部10が当該変換画像の生成処理を行っているため(図2)、ステップS206においてこの変換画像を遅滞なく表示することが出来る。
次に、タイマT1を参照して間奏が終了したか判別される(ステップS207)。間奏が終了していない場合(ステップS207;NO)、間奏が終了するまで当該変換画像が表示される。一方、間奏が終了した場合(ステップS207;YES)、間奏が開始される直前に表示されていた画像が表示される(ステップS208)。さらに、タイマT2のカウントを再開し、ステップS205にもどり、スライドショーを続行する。
以上でスライドショー実行処理1についての説明を終える。
上記した実施形態1の表示装置1によれば、煩雑な準備操作を行わなくても、音声記憶部21に記憶された曲の間奏中に画像変換を行った、画風の異なる画像を表示することが出来る。また、スライドショーの開始前・途中で、画像変換を実行するための待ち時間がない。さらに、変換画像を表示する際に、画像変換を事前に行っているために、間奏に入るタイミングとずれることも無い。そのため、ユーザにストレスを与えることなく予め記憶している画像以外の画像を表示することができ、観者に意外感やおもしろみを感じさせることができ、その結果観者の注目を引きつけることができる。
(実施形態2)
本発明の実施形態2について説明する。実施形態2は、実施形態1の構成に加え、スライドショー実行前処理において、変換画像を表示するタイミングまでの時間に基づいて、画像変換を実行するプログラムを選択する構成を持つ事を特徴とする。
実施形態2に係る表示装置2の構成は、以下の相違点を除き実施形態1(図1)と同様である。
その相違点とは、画像変換プログラム記憶部24が、図7に例示するように、複数の画像変換プログラムを記憶し、さらに当該複数の画像変換プログラムの特徴(標準処理時間、優先度等)を登録したリスト(画像変換プログラム情報)を記憶している点である。
次に、表示装置2が実行する処理を、図6を参照して説明する。
表示装置2が立ち上げられると、スライドショー実行前処理2が開始される。
スケジュール実行前処理2において、画像情報の取得(ステップS301)から間奏が開始される直前に表示される画像を検出する(ステップS304)までは、実施形態1に係るスライドショー実行前処理1(図4、ステップS101〜104)と同様の処理が行われる。
スライドショー実行前処理2においては、次に、予め定められたデフォルトの変換処理プログラムを用いた変換画像の生成が、間奏の開始までに間に合うかどうかが判別される(ステップS305)。具体的な判別方法については後述する。
そして、間奏の開始までに間に合うと判別された場合は(ステップS305;YES)、デフォルトの変換プログラムが選択され(ステップS306)、当該プログラムによって変換処理が行われる。
一方、間奏の開始までに間に合わないと判別された場合には(ステップS305;NO)、代替プログラムが選択される(ステップS307)。具体的な選択方法については後述する。
ステップS306又はステップS307のどちらかで変換プログラムが選択されると、ステップ304で検出された画像を変換した変換画像の生成が、選択された変換プログラムを用いて開始される(ステップS308)。
そして、スライドショー実行前処理2は終了する。
スライドショー実行前処理2が終了すると、次にスライドショーが実行される。スライドショーは、実施形態1のスライドショー実行処理1(図5)と同様に実行される。
ここで、実施形態2において間奏の開始までに処理が間に合うか判別する処理(図6、ステップS305)及び代替プログラムを選択する処理(図6,ステップS307)がどのように行われるか具体的に説明する。この処理は、画像変換プログラム情報に基づいて行われる。
画像変換プログラム情報の構成について、図7を参照して説明する。画像変換プログラム情報は、画像変換プログラム記憶部24に記憶されている各画像変換プログラムの特性を登録したリストである。
上記リストは、プログラム名、プログラムID,標準処理時間、優先度等を対応づけて記憶する。
プログラム名は、画像処理プログラムの名前を示す。
プログラムIDは、対応する画像処理プログラムを一意に表すID(識別情報)である。
標準処理時間は、各画像処理プログラムが画像処理を実行するために必要な処理時間の目安が登録されている。処理時間の目安は、例えば、そのプログラムが画像記憶部22に記憶された画像データ(好ましくは、予め表示部31の表示に適したサイズに調整されている)を処理するために要する標準的な時間を、実験等によって求めた値である。
優先度は、各行が対応する画像処理プログラムを選択する際の優先度を定義する数値(自然数)が登録されている。この数値の値が小さいほど優先度が高いことを意味する。デフォルトの画像変換プログラムとは、優先度が1に設定されているプログラムのことである。
制御部10は、図6のステップS305において、現時点から間奏開始までの時間と、デフォルトの画像変換プログラム(優先度1のプログラム)の標準処理時間に安全係数を乗算した時間(処理時間)と、を比較する。この安全係数は、処理時間に余裕を見るためのもので、予め実験等によって求められた数値である。
前記処理時間が、間奏開始までの時間よりも短い場合、生成処理は間に合うと判別される。
例えば、前記安全係数が1.3である場合に、図7の例でデフォルトのプログラムである油絵調変換1というプログラムを用いる場合、変換開始から間奏までの時間が390秒以上あれば生成処理は間に合うと判別される。
一方、前記処理時間が、間奏開始までの時間よりも長い場合、代替プログラムが選択される(ステップS307)。具体的には、画像変換プログラム情報に登録されたプログラムの優先度が高い(優先度の数値が低い)順に、上記処理時間が求められ、当該処理時間が間奏までの時間と比較される。処理時間が間奏までの時間よりも短いプログラムの中で、最も優先度が高い処理プログラムが代替プログラムとして選択される。
間奏までに非常に時間がない場合に備え、画像変換プログラム情報には、無処理(処理を行わない)という行が登録されている。この行の優先度の数値は、常にリストの中で最大値(図7の例では999)を取る。
上記した実施形態2によれば、実施形態1の効果に追加して、間奏までの時間に基づき、その時間内で行える最良の(優先度の高い)画像処理を行った画像を間奏中に表示することが出来る。そのため、処理時間が間に合う中で最もおもしろみのある画像を表示することにより、観者に意外感やおもしろみを感じさせることができ、その結果観者の注目を引きつけることができる。
(実施形態3)
実施形態3について説明する。
実施形態3は、スライドショーを開始してから変換元画像に選ばれた画像を解析する処理を行い、最適な画像処理プログラムを選択する構成を持つことを特徴とする。
画像変換プログラムの中には、画像のサイズが同じであっても、処理に必要な時間が画像によって大きく変動するものがある。
例えば、ラスターイメージから線にあたる部位を抽出してベクトル画像に変換し、当該線を筆で描いたような画像に変換するプログラムでは、変換元となる画像に含まれるベクトル要素の数によって大きく処理時間が異なる。実施形態3は、このような画像によって大きく処理時間が変動するような変換プログラムを用いた変換画像であっても、所定のタイミングで表示できる事を特徴とする。
実施形態3に係る表示装置3の構成は、実施形態2に係る表示装置2と比して、制御部10に画像解析部15を備える点で異なる(図8)。
画像解析部15は、画像を解析し、画像変換プログラムが画像を変換するためにどの程度の時間が必要となるか推定する。
実施形態3に係る表示装置3が実行する処理の概要を、図9を参照して説明する。実施形態3が実行する処理は、前処理及び変換処理が、実施形態1及び2と比べて異なる。
表示装置3が起動されると(時刻t0)、前処理が開始される。前処理では、スライドショーのスケジュール等が決定される。
実施形態3では、画像変換を実行するプログラムを決定する前に画像表示と音声出力とが開始される(t1)。そして、画像表示及び音声出力と平行して、画像変換を実行するためのプログラムを選択するために、画像3の解析とプログラム選択処理が行われる。
なお、このとき間奏までの時間が所定の閾値より短いと判別された場合(解析を行う余裕がない場合)は、解析処理は行われず、実施形態2と同様の処理が行われる。具体的には、例えば、間奏に入る間での時間(t4)と、実験的に求められた所定の閾値(例えば1分)と、を比較して、間奏に入るまでの時間の方が短ければ解析処理は実行されない。
選択処理が終わると、画像3を変換するプログラムが特定され、画像3の変換が開始される。その他の処理については実施形態1及び2(図2)と同様である。
上記した処理では、画像3の変換を実行するプログラムを選択するための解析処理が、スライドショー(画像表示、音声出力)と平行して実行される。そのため、解析処理に時間が長くかかる場合でも、スライドショーの開始までの待ち時間は長くならない。
続いて、実施形態3に係るスライドショー実行前処理3について、図10を参照して説明する。スライドショー実行前処理3では、図9で示した、前処理と、画像の解析・選択処理と、が実行される。
スライドショー実行前処理3は、画像枚数を取得する処理(ステップS401)から、間奏直前の表示画像を検出する処理(ステップS404)までは、実施形態1に係るスライドショー実行前処理1(図4、ステップS101〜ステップS104)と同様に処理が実行される。
次に、スライドショーが開始される(ステップS405)。即ち、図9で示した画像表示処理、音声出力処理が開始される。具体的には、図5で示したスライドショー実行処理1と同じ処理が開始される。
次に、ステップS404において検出された画像の解析が行われる(ステップS406)。具体的には、画像をベクトル画像に変換し、当該ベクトル画像にベクトルが何単位含まれているかを取得する。取得した数をUとする。このとき、例えば100ベクトルを一単位として、含まれるベクトルが3000個であるとすると、元画像にはベクトル要素が30単位含まれていることになり、U=30が得られる。このベクトルの単位は予め定められた所定の数値である。
次に、前記解析結果を用いて、予め定められたデフォルトの変換処理プログラムを用いた変換画像の生成が、間奏の開始までに間に合うかどうかが判別される(ステップS407)。具体的な判別方法については後述する。
そして、間奏の開始までに間に合うと判別された場合は(ステップS407;YES)、スライドショー実行プログラム記憶部23に記憶されたデフォルトの変換プログラムが選択され(ステップS408)、当該プログラムを用いて、ステップS404の変換画像の生成が開始される。
一方、間奏の開始までに間に合わないと判別された場合には(ステップS407;NO)、処理時間が短くてすむ代替プログラムが選択される(ステップS409)。具体的な選択方法については後述する。
そして、当該選択されたプログラムを用いて、ステップS404の変換画像の生成が開始される。
ステップS408又はステップS409が終了すると、スライドショー実行前処理3は終了する。
このとき、スライドショーはすでに開始されているため、あらたにスライドショー実行処理は始まらない。
ここで、間奏の開始までに処理が間に合うか判別する処理(図10、ステップS407)及び代替処理を選択する処理(図10、ステップS408)がどのように行われるか具体的に説明する。この処理は、画像変換プログラム情報に基づいて行われる。
実施形態3の画像変換プログラム情報の構成について、図11を参照して説明する。実施形態3の画像変換プログラム情報は、各プログラムについて、ベクトル数による変動指数が定義されている点が実施形態2の画像変換プログラム情報と異なる。
実施形態3の画像変換プログラム情報には、プログラム名、プログラムID、標準処理時間、優先度に加えて、ベクトル数による変動指数等が対応づけて記録されている。
プログラム名は、画像処理プログラムの名前を示す。
プログラムIDは、対応する画像処理プログラムを一意に表すID(識別情報)である。
標準処理時間は、各行が対応する画像処理プログラムが画像処理を実行するための基礎となる時間を示す。
また、ベクトル数による変動指数は、そのプログラムによる変換画像の生成に必要な処理時間が、変換元となる画像に含まれているベクトル要素1単位につきどの程度増加するかを示す。
各プログラムの推定処理時間PTは、PT=(標準処理時間+変動指数×U)によって求められる。
標準処理時間と変動指数とは実験によって求められた値である。
制御部10は、図10のステップS407において、現時点から間奏開始までの時間と、デフォルトの画像変換プログラム(優先度1のプログラム)のPTに安全係数を乗算した時間(処理時間)と、を比較する。この安全係数は、処理時間に余裕を見るためのもので、予め実験によって求められた数値である。
前記処理時間が、間奏開始までの時間よりも短い場合、生成処理は間に合うと判別される(ステップS407;YES)。
一方、前記処理時間が、間奏開始までの時間よりも長い場合、代替プログラムが選択される(ステップS409)。具体的には、画像変換プログラム情報に登録されたプログラムの優先度が高い(優先度の数値が低い)順に、上記処理時間が求められ、当該処理時間が間奏までの時間と比較される。処理時間が間奏までの時間よりも短いプログラムの中で、最も優先度が高い処理プログラムが代替プログラムとして選択される。
間奏までに非常に時間がない場合に備え、画像変換プログラム情報には、無処理(処理を行わない)という行が登録されている。この行の優先度の数値は、常にリストの中で最大値を取る。
上記した実施形態3によれば、画像変換プログラム記憶部24にベクトル数に依存して処理速度が大きく変動する画像変換プログラムが記憶されている場合でも、画像変換にかかる時間を推定して、所定のタイミングに間に合うプログラムを選択することが出来る。
そのため、様々な画像変換プログラムを候補として画像変換プログラム記憶部24に記憶して利用できるため、変換画像の画風を幅広く取ることが出来きる。その結果、観者により意外感やおもしろみを感じさせることができ、その結果観者の注目を引きつけることができる。
以上、本発明の実施形態について説明したが、本発明の実施形態は上記に限られる物ではない。
例えば、上記実施形態では、変換画像を表示する際に、元画像から変換画像に瞬時に切り替える。しかし、本発明において変換画像を表示する方法はこれに限られない。
例えば、画像を切り替える際に、変換の中間段階の画像を徐々に入れ替えて表示するようにしてもよい。
この場合に行われる処理を、図12を参照して説明する。図2の変換処理において、元画像(変換度0%)を変換した変換画像(変換度100%)の画像を生成が完了すると、元画像と変換処理とを合成して中間段階の画像を複数生成する。図12の例では、元画像と変換画像を重みづけて加算して平均値を作成し、変換度25%、変換度50%、変換度75%の画像を生成して保存する(図12(A))。この合成画像(中間段階の画像)は、例えば対応する各画素について、色値を合成比率に基づいて加重平均する事によって生成するプログラム等、既知の合成画像生成プログラムを用いて生成する。
そして、当該中間段階の画像を、間奏に入るタイミング(t4)で当該中間段階の画像を変換度0%から100%まで順次切り替えて表示する(図12(B))。また、元画像に切り替えるタイミング(t5)において変換度100%から変換度0%まで順次切り替えて表示する。
これにより、ユーザに間奏に入るタイミングで写真が徐々に絵画に変わっていくような印象を与える事が出来る。
また、ユーザがスライドショーの実行の設定等を自由に行う事ができるようにしてもよい。例えば、ユーザが入力部40又はタッチパネル30を操作して種々の設定をできるようにしてもよい。
また、この実施形態では、音声記憶部21に複数の曲データを記憶させておき、スライドショーの起動にあたって当該複数の曲データのうち一つをユーザ又は所定の条件により選択し、選択された音声データによってスライドショーを実施するようにしてもよい。さらに、ユーザ又は所定の条件により、画像記憶部22に記憶されている画像の中から、スライドショーで表示される画像を選択するようにしてもよい。曲データや画像の選択の手法自体は任意である。
このとき、また、画像表示の順番を自由に選択することも出来る。
この場合、ユーザはニーズにあったスライドショーを任意に設定して実行することができる。
また、上記実施形態においては、再生される音声は、間奏部分を特定する情報が付与された曲データであった。しかし、本発明はこれに限定されない。ヘッダ情報の無い曲データであってもよい。この場合、例えば、制御部10が曲データを解析し、人間の歌声が含まれている部分と含まれていない部分を抽出して間奏部分を特定するようにしてもよい。
また、曲データを間奏部分とメロディー部分とに分離できない場合には、曲調が変化するタイミングを抽出し、当該タイミングで変換画像を表示するようにしてもよい。
さらに、この場合に再生される音は楽曲に限らず、人間の会話する声等、その他の音であってよい。
また、上記実施形態では、間奏中に一つの変換画像を見せる構成を取った。しかし、間奏中に表示される変換画像は一つで無くても良い。このとき、当該間奏中に表示される複数の変換画像の変換処理を予め実行する。また、複数の間奏部分を持つ曲に対して、それぞれの間奏部分に対応する画像を変換して表示する構成も可能である。
さらに、上記実施形態では、音楽の間奏部分で変換画像を表示する例を説明したが、本発明の応用範囲はこれに限定される物ではなく、スライドショーにおいて準備作業や待ち時間無く変換画像を表示する様々な状況において広く応用可能である。
例えば、新たな告知手段を持つタイマ機能を持つ表示装置が考えられる。この表示装置は、所定の時間までは写真によるスライドショーを行い、所定のタイミングになると、例えば、油絵調に変換された写真を表示する。ユーザは、表示画面に油絵調の画像が表示されたことにより、時間が経過したことを知ることができる。
ここで、本発明の実施の形態に係る表示装置1〜3の具体的なハードウェア構成の一例を、図13を参照して説明する。
表示装置1〜3は、制御部101、主記憶部102、外部記憶部103、操作部104、タッチパネル105、入出力部106および送受信部107を備える。
主記憶部102、外部記憶部103、操作部104、タッチパネル105、入出力部106および送受信部107はいずれも内部バス100を介して制御部101に接続されている。
制御部101はCPU、画像処理用DSP、音信号処理用DSP、等から構成され、外部記憶部103に記憶されている制御プログラム108に従って、表示装置1の制御部10の各処理を実行する。
主記憶部102はRAM(Random-Access Memory)等から構成され、外部記憶部103に記憶されている制御プログラム108をロードし、制御部101の作業領域として用いられる。
外部記憶部103は、フラッシュメモリ、ハードディスク、等の不揮発性メモリから構成され、表示装置1の処理を制御部101に行わせるためのプログラムをあらかじめ記憶し、また、制御部101の指示に従って、このプログラムが記憶するデータを制御部101に供給し、制御部101から供給されたデータを記憶する。表示装置1の記憶部20は、主記憶部102と外部記憶部103とによって構成される。
操作部104は筐体に備えられたキーあるいはキーボードおよびマウスなどのポインティングデバイス等と、キーボードおよびポインティングデバイス等を内部バス100に接続するインターフェース装置から構成されている。
タッチパネル105は、LCD(Liquid Crystal Display)と感圧センサ又は静電気センサなどから構成される。
入出力部106は、シリアルインターフェースまたはパラレルインターフェースから構成されている。入出力部106は、ユーザが外部装置を接続して情報伝達する場合、当該外部装置と接続される。
送受信部107は、ネットワークに接続する網終端装置または無線通信装置、およびそれらと接続するシリアルインターフェースまたはLAN(Local Area Network)インターフェースから構成されている。送受信部107は、ネットワークを介して、他のユーザに表示装置1に記憶された情報を伝達する。また、他のユーザから情報を受信する。
表示装置1〜3及びその他の実施形態に係る表示装置の、制御部10、記憶部20、タッチパネル30、入力部40、音声出力部50、の処理は、制御プログラム108が、制御部101、主記憶部102、外部記憶部103、操作部104、タッチパネル105、入出力部106および送受信部107などを資源として用いて処理することによって実行する。
以上、本発明の好ましい実施形態について説明したが、本発明は係る特定の実施形態に限定されるものではなく、本発明には、特許請求の範囲に記載された発明とその均等の範囲が含まれる。以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
(付記1)
複数の画像を記憶する画像記憶手段と、
前記画像記憶手段に記憶されている複数の画像と該複数の画像の少なくとも1つを画像変換して得られる変換画像との表示スケジュールを設定するスケジュール設定手段と、
前記スケジュール設定手段により設定されたスケジュールに従って、表示対象の画像を順次表示する表示手段と、
前記スケジュール設定手段により設定された変換画像の表示タイミングまでに前記複数の画像のうちの少なくとも1つを画像変換して前記変換画像を生成する画像変換手段と、
を備えることを特徴とする表示装置。
(付記2)
前記画像変換手段は、複数の変換プログラムを備え、
さらに、
前記複数の変換プログラムのうちの所定の変換プログラムによる画像変換が前記スケジュールで設定された変換画像の表示タイミングまでに終了するか否かを判別する判別手段と、
前記判別手段により終了しないと判別されたときに、前記スケジュールで設定された変換画像の表示タイミングまでに画像変換処理を終了することができる他の変換プログラムを選択する選択手段と、
前記所定の変換プログラム又は前記選択手段により選択された他の変換プログラムにより画像変換を行う手段と、
を備える、ことを特徴とする付記1に記載の表示装置。
(付記3)
音声データを再生する再生手段をさらに備え、
前記スケジュール設定手段は、音声データに基づいて、前記スケジュールを設定する、
ことを特徴とする付記1又は2に記載の表示装置。
(付記4)
前記音声データの間奏部分を検出する間奏検出手段をさらに備え、
前記スケジュール設定手段は、前記再生手段が前記間奏部分を再生する期間中に前記変換画像の表示タイミングを設定する、
ことを特徴とする付記3に記載の表示装置。
(付記5)
前記画像変換手段は、前記スケジュール設定手段が決定したスケジュールにおいて、前記変換画像を表示する直前に表示される画像を、前記画像変換を行う前記複数の画像のうちの少なくとも1つの画像として選択する、
ことを特徴とする付記1乃至4の何れか一つに記載の表示装置。
(付記6)
前記画像変換手段は、前記画像変換の程度が異なる中間段階の画像を生成し、
前記表示手段は、前記中間段階の画像を表示した後、前記変換画像を表示する、
ことを特徴とする付記1乃至5のいずれか1つに記載の表示装置。
(付記7)
コンピュータを、
予め記憶されている複数の画像と該複数の画像の少なくとも1つを画像変換して得られる変換画像との表示スケジュールを設定するスケジュール設定手段、
前記スケジュール設定手段により設定されたスケジュールに従って、表示対象の画像を順次表示する表示手段、
前記複数の画像のうちの少なくとも1つを画像変換して前記変換画像を生成する画像変換手段、
として機能させることを特徴とするプログラム。
1…表示装置、2…表示装置、3…表示装置、10…制御部、11…タッチパネル制御部、12…入力制御部、13…音声出力制御部、14…記憶制御部、15…画像解析部、20…記憶部、21…音声記憶部、22…画像記憶部、23…スライドショー実行プログラム記憶部、24…画像変換プログラム記憶部、30…タッチパネル、31…表示部、32…センサ、40…入力部、50…音声出力部、100…内部バス、101…制御部、102…主記憶部、103…外部記憶部、104…操作部、105…タッチパネル、106…入出力部、107…送受信部、300…曲データ、301…音声データ、302…ヘッダ情報

Claims (6)

  1. 複数の画像を記憶する画像記憶手段と、
    前記画像記憶手段に記憶されている複数の画像と該複数の画像の少なくとも1つを画像変換して得られる変換画像との表示スケジュールを設定するスケジュール設定手段と、
    前記スケジュール設定手段により設定されたスケジュールに従って、表示対象の画像を順次表示する表示手段と、
    前記スケジュール設定手段により設定された変換画像の表示タイミングまでに前記複数の画像のうちの少なくとも1つを画像変換して前記変換画像を生成する画像変換手段と、
    を備え
    前記画像変換手段は、複数の変換プログラムを備え、
    さらに、
    前記複数の変換プログラムのうちの所定の変換プログラムによる画像変換が前記スケジュールで設定された変換画像の表示タイミングまでに終了するか否かを判別する判別手段と、
    前記判別手段により終了しないと判別されたときに、前記スケジュールで設定された変換画像の表示タイミングまでに画像変換処理を終了することができる他の変換プログラムを選択する選択手段と、
    前記所定の変換プログラム又は前記選択手段により選択された他の変換プログラムにより画像変換を行う手段と、
    を備える、
    ことを特徴とする表示装置。
  2. 音声データを再生する再生手段をさらに備え、
    前記スケジュール設定手段は、音声データに基づいて、前記スケジュールを設定する、
    ことを特徴とする請求項1に記載の表示装置。
  3. 前記音声データの間奏部分を検出する間奏検出手段をさらに備え、
    前記スケジュール設定手段は、前記再生手段が前記間奏部分を再生する期間中に前記変換画像の表示タイミングを設定する、
    ことを特徴とする請求項に記載の表示装置。
  4. 前記画像変換手段は、前記スケジュール設定手段が決定したスケジュールにおいて、前記変換画像を表示する直前に表示される画像を、前記画像変換を行う前記複数の画像のうちの少なくとも1つの画像として選択する、
    ことを特徴とする請求項1乃至の何れか一項に記載の表示装置。
  5. 前記画像変換手段は、前記画像変換の程度が異なる中間段階の画像を生成し、
    前記表示手段は、前記中間段階の画像を表示した後、前記変換画像を表示する、
    ことを特徴とする請求項1乃至のいずれか1項に記載の表示装置。
  6. コンピュータを、
    予め記憶されている複数の画像と該複数の画像の少なくとも1つを画像変換して得られる変換画像との表示スケジュールを設定するスケジュール設定手段、
    前記スケジュール設定手段により設定されたスケジュールに従って、表示対象の画像を順次表示する表示手段、
    前記複数の画像のうちの少なくとも1つを画像変換して前記変換画像を生成する画像変換手段、
    として機能させ、
    前記画像変換手段は、複数の変換プログラムを備え、
    さらに、
    前記複数の変換プログラムのうちの所定の変換プログラムによる画像変換が前記スケジュールで設定された変換画像の表示タイミングまでに終了するか否かを判別する判別手段、
    前記判別手段により終了しないと判別されたときに、前記スケジュールで設定された変換画像の表示タイミングまでに画像変換処理を終了することができる他の変換プログラムを選択する選択手段、
    前記所定の変換プログラム又は前記選択手段により選択された他の変換プログラムにより画像変換を行う手段、
    として機能させることを特徴とするプログラム。
JP2011076883A 2011-03-30 2011-03-30 表示装置及びプログラム Expired - Fee Related JP5267606B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2011076883A JP5267606B2 (ja) 2011-03-30 2011-03-30 表示装置及びプログラム
CN201210083625.XA CN102737688B (zh) 2011-03-30 2012-03-27 显示装置和显示方法
US13/432,634 US20120249577A1 (en) 2011-03-30 2012-03-28 Display apparatus and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011076883A JP5267606B2 (ja) 2011-03-30 2011-03-30 表示装置及びプログラム

Publications (2)

Publication Number Publication Date
JP2012212997A JP2012212997A (ja) 2012-11-01
JP5267606B2 true JP5267606B2 (ja) 2013-08-21

Family

ID=46926608

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011076883A Expired - Fee Related JP5267606B2 (ja) 2011-03-30 2011-03-30 表示装置及びプログラム

Country Status (3)

Country Link
US (1) US20120249577A1 (ja)
JP (1) JP5267606B2 (ja)
CN (1) CN102737688B (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9955123B2 (en) 2012-03-02 2018-04-24 Sight Machine, Inc. Machine-vision system and method for remote quality inspection of a product
US8958627B2 (en) * 2012-05-09 2015-02-17 Sight Machine, Inc. System and method of distributed processing for machine-vision analysis
JP5667279B1 (ja) * 2013-12-24 2015-02-12 有限会社エージーインク 照明装置、及び、この照明装置が取り付けられてなる額縁
US11520554B2 (en) * 2020-05-06 2022-12-06 Kyle Britton Digital décor device

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4130517B2 (ja) * 1999-06-02 2008-08-06 富士フイルム株式会社 音楽再生機能付きディジタル・スチル・カメラおよび画像音楽再生装置
CN2648940Y (zh) * 2003-09-04 2004-10-20 崇雅科技股份有限公司 多功能电子相框
JP2006140559A (ja) * 2004-11-10 2006-06-01 Matsushita Electric Ind Co Ltd 画像再生装置及び画像再生方法
JP2007188561A (ja) * 2006-01-11 2007-07-26 Fujifilm Corp 音楽付きスライドショー自動生成装置及びプログラム
JP2009169209A (ja) * 2008-01-18 2009-07-30 Olympus Imaging Corp 画像表示装置、画像表示方法、および画像表示用プログラム
JP2009141678A (ja) * 2007-12-06 2009-06-25 Fujifilm Corp デジタルフォトフレームおよびその画像表示方法
CN101924847B (zh) * 2009-06-16 2012-06-13 宏碁股份有限公司 多媒体播放装置及其播放方法
JP2011165173A (ja) * 2010-01-18 2011-08-25 Canon Inc 情報処理装置、情報処理装置の動作方法、および記憶媒体
CN102236881A (zh) * 2010-04-23 2011-11-09 卡西欧计算机株式会社 图像处理装置和图像处理方法
JP2012049837A (ja) * 2010-08-27 2012-03-08 Casio Comput Co Ltd 画像表示装置

Also Published As

Publication number Publication date
CN102737688A (zh) 2012-10-17
US20120249577A1 (en) 2012-10-04
CN102737688B (zh) 2015-06-03
JP2012212997A (ja) 2012-11-01

Similar Documents

Publication Publication Date Title
CN110312169B (zh) 视频数据处理方法、电子设备及存储介质
JP7230394B2 (ja) テレビ会議装置及びテレビ会議プログラム
JP5267606B2 (ja) 表示装置及びプログラム
WO2016078390A1 (zh) 一种截图图像输出方法、装置及存储介质
JP6095381B2 (ja) データ処理装置、データ処理方法及びプログラム
JP2019101754A (ja) 要約装置及びその制御方法、要約システム、プログラム
JP2009171176A (ja) 再生装置およびその制御方法並びにプログラム
JP2014068290A (ja) 画像処理装置、画像処理方法、およびプログラム
EP3506191A1 (en) Display control device, display control method, and program
CN101924847B (zh) 多媒体播放装置及其播放方法
US20110292062A1 (en) Image processing apparatus, method, and storage medium storing a program
JP5556194B2 (ja) 表示制御装置及び表示制御プログラム
JP2020080115A (ja) サムネイル出力装置、サムネイル出力方法およびサムネイル出力プログラム
WO2014203870A1 (ja) 演奏システム、演奏方法及び演奏プログラム
CN109428972A (zh) 终端中的语音控制方法和设备
JP2012169743A (ja) 情報処理装置及び情報処理方法
WO2023281580A1 (ja) 情報提示方法、情報提示装置、および情報提示プログラム
JP7271821B2 (ja) クラウド音声変換システム
JP2020052511A (ja) 要約生成装置、要約生成方法、及びプログラム
US20230014604A1 (en) Electronic device for generating mouth shape and method for operating thereof
JP7389070B2 (ja) 情報処理装置、情報処理方法、およびプログラム
JP6252083B2 (ja) 会議システム、サーバ装置、クライアント端末、およびプログラム
CN111816183B (zh) 基于音视频录制的语音识别方法、装置、设备及存储介质
JP2012137559A (ja) カラオケ装置、カラオケ装置の制御方法及び制御プログラム
JP2012137560A (ja) カラオケ装置、カラオケ装置の制御方法及び制御プログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130204

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130219

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130322

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130409

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130422

R150 Certificate of patent or registration of utility model

Ref document number: 5267606

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees