JP4567111B2 - 情報選択方法、情報選択装置及び記録媒体 - Google Patents

情報選択方法、情報選択装置及び記録媒体 Download PDF

Info

Publication number
JP4567111B2
JP4567111B2 JP03629999A JP3629999A JP4567111B2 JP 4567111 B2 JP4567111 B2 JP 4567111B2 JP 03629999 A JP03629999 A JP 03629999A JP 3629999 A JP3629999 A JP 3629999A JP 4567111 B2 JP4567111 B2 JP 4567111B2
Authority
JP
Japan
Prior art keywords
sound image
sound
image
information
selection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP03629999A
Other languages
English (en)
Other versions
JP2000236600A5 (ja
JP2000236600A (ja
Inventor
あずさ 梅本
充 水口
直樹 浦野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP03629999A priority Critical patent/JP4567111B2/ja
Priority to US09/504,438 priority patent/US6983251B1/en
Publication of JP2000236600A publication Critical patent/JP2000236600A/ja
Publication of JP2000236600A5 publication Critical patent/JP2000236600A5/ja
Application granted granted Critical
Publication of JP4567111B2 publication Critical patent/JP4567111B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

【0001】
【発明の属する技術分野】
本発明は、複数の音像に基づき、その音像に関係づけられた情報を選択する情報選択方法、情報選択装置及び記録媒体に関する。
なお、この明細書で、「音像の位置」とは、可能な限り、その場所で音が発生しているように聞こえる場所、又は、その方向から音が聞こえる方向のどちらの意味にも用いる。
【0002】
【従来の技術】
従来の技術として、複数の情報から1つの情報を選択する方法として、ディスプレイ上に示される文字情報を用いた検索エンジンなどがあげられる。しかし、画面に注目し続ける作業はユーザにとって負担になる。そこで音声を利用する技術が注目されている。また、ラジオ番組、音楽CDなどの多数候補の音声メディアが選択対象にあるときは、文字情報だけを用いて取捨選択するよりも実際にその内容を聞き、直接選択する方が自然である。
【0003】
複数の音源に基づき、その音源に関係づけられた情報を選択する方法が文献1(特開平10−124292号公報)に記載されている。ここでは、複数の音源がユーザの周囲に定位されており、基本的には同じ音量で同時に音を発生している。ユーザは同時に発生する音を聞き分け、所望の方向を指示することにより、その方向の音像と関係づけられた情報を選択することができる。具体的に説明すると、例えば、ビデオ機器の操作として、前方には「再生」、右に「録画」、後方には「巻き戻し」、左には「停止」などの各音声メッセージを定位させる。ユーザが録音したい場合には十字パッドなどのポインティングデバイスを用いて、右方を選択すればよい。文献1に記載された別の方法では、各音像毎にわずかに時間差をおいて発音させる、音質差(男声、女声)をつけることにより、発生する各音を聞き取りやすくする工夫がなされている。
【0004】
また、単一音源がユーザの周囲で回転し、ユーザが方向を示すことにより、聞き逃した情報を再度再生させる方法が文献2(Minoru kobayashi,Chris Schmandt(MIT)“Dynamic Soundscape:mapping time to space for audio browsing"(CHI97))に記載されている。ここでは、まず、1つの音源が一定の音量と音質で、各トピックを読み上げながらユーザの周囲を回転する。聞き逃したトピックがあるとき、ユーザがそのトピックを発声していた部分を、ポインティングデバイスを用いて指し示すと、その場所に音源が発生し、その場所を通過するとき発声していたトピックから再生し始める。なお、その際は、元の音源は音量を落とし、新たに発声した音源は、音量を大きめに再生し、両者とも回転する。このシステムは同時に8個までの音源が存在することが許されている。
【0005】
【発明が解決しようとする課題】
しかしながら、文献1の方法では、時間差を置いて発音させたり、方向別に音質を変え、音像の定位位置を分かりやすくしたとしても、人間が聞き分けられる方向は高々8方向と限界があり、選択肢が多数存在する場合には対応できない。
また、ビデオ予約のように、再生、録画等の単語のみの発音の場合はよいが、複数のニュース番組のように連続した内容の音声が発生している場合は、たとえ8方向以下であっても聞き分けは困難である。
【0006】
また、文献2の方法では、ユーザの入力がない限り、発音される音は一つのみであり、同時に複数の情報を得ることはできない。
本発明は上記課題に基づいて創案されたもので、複数の情報から1つを選択する際に、音声を利用したユーザインタフェースとなる情報選択方法、情報選択装置及び記録媒体を提供することを目的とする。
【0007】
【課題を解決するための手段】
本発明の情報選択装置は、音源を備え、所望の情報を選択する情報選択装置であって、前記音源より音像を提示する際に、複数の音像が移動しているかのように、個々の音像の位置を制御する音像制御手段と、選択指示を受け付ける選択指示受付手段と、前記選択指示受付手段において、選択指示を受け付けた時点において、ユーザの最も近くに位置している音像に関連付けられている情報が選択されたと判断する情報選択手段と、を備えるものである。また、各々の音像の音量を制御することによって、複数の音像が移動しているかのように音像の位置を制御することで、音量に関係づけて情報を選択することができる。前記ユーザの最も近くに位置している音像とは、前記音像制御手段によって制御された音像の音量が、最も大きい音像であってもよい。
【0008】
さらに、前記音像制御手段は、前記個々の音像の位置を、大略円周上を移動しているかのように制御することで、各音像の区別が容易な音像の位置配置とすることができる。また、音像の位置変化指示を受け付ける位置変化指示受付手段を備え、前記音像制御手段は、前記位置変化指示受付手段にて受け付けた指示に基づいて、前記個々の音像の位置を、進める或いは戻すよう制御することで、ユーザの意思によって音像の位置変化を制御することができる。
【0009】
さらに、画像表示手段と、前記画像表示手段にて、前記個々の音像の位置に、各々の音像に関連付けられている情報に対応する画像を表示するよう制御する画像表示制御手段と、を備えることで、更に視覚を利用して情報を選択することができる。また、前記画像表示制御手段は、個々の音像の位置変化に伴って、表示する画像の面積を変化させてもよい。
【0010】
また、本発明の情報選択方法は、音像を提示し、複数の音像が移動しているかのように、個々の音像の位置を制御する音像制御ステップと、選択指示を受け付ける選択指示受付ステップと、前記選択指示受付ステップにおいて、選択指示を受け付けた時点において、ユーザの最も近くに位置している音像に関連付けられている情報が選択されたと判断する情報選択ステップと、を備える、情報選択方法である。また、本発明は、音像を提示し、複数の音像が移動しているかのように、個々の音像の位置を制御する音像制御ステップと、選択指示を受け付ける選択指示受付ステップと、前記選択指示受付ステップにおいて、選択指示を受け付けた時点において、ユーザの最も近くに位置している音像に関連付けられている情報が選択されたと判断する情報選択ステップと、を機能させるためのプログラムを記録した、コンピュータ読み取り可能な記録媒体である。
【0011】
【発明の実施の形態】
以下、本発明の好適な実施の形態を図面を参照して詳細に説明する。
図1は、第1の実施の形態の操作イメージ図である。ユーザ1は、ヘッドフォン装置2を通して、制御装置3で制御される複数の音像を聞く。制御装置3の入力手段には巻き戻しボタン4、決定ボタン5、早送りボタン6を備えたコントローラが設けられている。制御装置3は、ユーザ1の正面方向の水平面上にある音像P1〜P2Nを認識できるように、ヘッドフォン装置2又はステレオスピーカの左右の音量調節を実現する演算を用い、複数音像P1〜P2Nが円周上を一定間隔で回転しているかのように同時再生する制御を行う。回転制御を行う際、ある音像Pがユーザに最も近い点Aに来たときにはその音量を最大に設定し、最も遠い点Bに来たときに最小音量になるよう、回転とともに音量を順次下げていき、その後、Bにて最小音量になった後、Aにて最大音量になるよう、順次音量を上げる。図1中の各音像の音量の大小関係は、P1>P2>・・・>PN>PN+1<・・・<P2N、P2N<P1となる。(ここまで、図2のS121)。
【0012】
図2は、第1の実施の形態の動作を説明する制御フロー図である。以下、図1と図2を用いて多チャンネル放送のスポーツ番組案内を例にとって説明する。プロレス番組にはプロレスラーのテーマソング、相撲中継には相撲の始まりに鳴る太鼓の音、といった、各スポーツを連想させる音楽又は音声を用意し、音像として回転させる。また音声は、各放送の音声そのものを用いてもよい。ここでは、図1の音像P1がプロレスラーのテーマソング、P2が相撲の太鼓の音、PN+1がテニスボールをラケットで打った音、P2Nが野球の応援歌だとする。
【0013】
ステップS12において、上記のように音量の異なる音像が回転し、ステップS13において、ユーザが最大音量のプロレスを選びたいと判断した場合には、図1の状態で決定ボタン5を押すと、プロレスが所望の情報として処理される(図2のS13,16,17)。図1の状態で他のスポーツを選びたいときには、所望のものが一番大きく聞こえるまで待つか、早送りボタン6,巻き戻しボタン4を用いて、選びたいものが一番大きく聞こえるようにするために、各音像の位置を1ステップ戻すか(S14)、各音像の位置を1ステップ進める(S15)。その後、決定ボタン5を押す。例えば、図1における状態で野球を選びたい場合には、少し待つか、早送りボタン6を押す。相撲は、長く待つか巻き戻しボタン4を押す、もしくは、早送りボタン6で調整すればよい。また、各音像のそれぞれの位置に対応する選択スイッチを設けておいて選択しようとする音像に対応する選択スイッチを押すようにしてもよい。この場合には、所望の音像を直接に選択することができる。
【0014】
図2のステップS12を再び参照する。多チャンネル放送の映画放送案内など、数が多く一度に回転させるのが困難な数の選択肢については、一定数のみを抽出して回転させる。一定時間選択されない音像については、ユーザから最も遠い点Bにおいて未回転の情報と入れ替えることにより、多数の選択肢から、一つを選ぶ場合に対応する(図2、S122,S123)。その際、情報が新しくなったことを示すために、通知音を情報発音の妨げにならない程度に発音させる。この方法を図5を用いて説明する。前述のスポーツ番組案内において、テニスが一定時間選択されていなかった場合(図5(a)参照)、未回転音像キューQの先頭にある音像(ゴルフ番組の音像であったとする)を未回転音像キューQから取り出し、テニスの代わりに回転させる。テニスの音像は、未回転音像キューQの最後に入れる(図5(b))。その後、ゴルフの音像が初めて最大音量に設定されるときに、通知音を同時に発音させる(図5(c))。
【0015】
図3は第2の実施の形態の操作イメージ図であり、図4はその動作を説明する制御フロー図である。情報選択のために音像だけでなく、画像も併用する場合について説明する。制御装置3の入力手段には巻き戻しボタン4、決定ボタン5、早送りボタン6、十字パッド7、ディスプレイ装置8を備えたコントローラが設けられている。ユーザ1は、ヘッドフォン装置2及びディスプレイ装置8を通して、制御装置3で制御される複数の画像を見、音像を聞く。制御装置3は、画像情報を表示するためのディスプレイ装置8を用い、一定間隔を置いて回転する音像P1〜P2Nにそれぞれ対応づけられた画像D1〜D2Nを音像に同期させて回転させる制御を行う(図4、S321)。音量と画像の対応は、最大音量のとき画像は面積最大になり、その後、音量は順次小さくなり、最小音量になる。この音量と対応して画像の面積は面積最大から順次小さくなり、面積が最小になる。その後、音量と面積は再び、最小から次第に大きくなり、最大音量、面積最大となる。
【0016】
ユーザが情報を選択する場合には、ポインティングデバイス、例えば十字パッド7を用いてディスプレイ8装置上のポインタFを操作し、ディスプレイ装置8上の画像を直接に選択する。あるいは、図3の状態で他のスポーツを選びたいときには、所望の画像が手前に来て音像が一番大きく聞こえるまで待つか、早送りボタン6,巻き戻しボタン4を用いて、選びたいものが手前に来て音像が一番大きく聞こえるようにするために、各画像及び音像の位置を1ステップ戻すか(S34)、各画像及び音像の位置を1ステップ進める(S35)。その後、決定ボタン5あるいは十字パッド7を押す。これによって、十字パッド7によって指示された音像に関連づけられた情報を「所望の情報」と判断する(S36)。例えば、図3における状態で野球を選びたい場合には、少し待つか、早送りボタン6を押す。相撲は、長く待つか巻き戻しボタン4を押す、もしくは、早送りボタン6で調整すればよい。
【0017】
図4のステップS32を再び参照する。多チャンネル放送の映画放送案内など、数が多く一度に回転させるのが困難な数の選択肢については、一定数のみを抽出して回転させる。一定時間選択されない音像については、ユーザから最も遠い点Bにおいて未回転の情報と入れ替えることにより、多数の選択肢から、一つを選ぶ場合に対応する(S322,S323)。
選択メニューが多い場合、カテゴライズすることが可能であれば、まずカテゴリのインデックスを、インデックスの名前を読み上げた音像で作成し、その音像を選択すると、該カテゴリの内容を各々音像として回転させるといったように、メニューを階層化してもよい。
【0018】
図6はその具体例の操作イメージ図である。まず、図6(a)において、スポーツ、映画、音楽、ドラマのうちスポーツのカテゴリを示す音像を選択したとする。その音像を選択すると、該カテゴリの内容、すなわち、野球、プロレス、テニス、相撲等の音像を回転させる。次に図6(b)において、野球を示す音像を選択すると、このカテゴリの下の階層である巨人vs阪神、中日vsヤクルト、横浜vs広島、西武vs近鉄といった対戦カードの音像が回転する(図6(c))。
【0019】
以上、本発明の方法について説明したが、図7を参照して、本発明を実現する装置について説明する。11はディスプレイ、12はヘッドフォン、13はハードディスク、14はメモリ、15はCPU、16は十字パッド、決定ボタン、早送りボタン、巻き戻しボタンを備えたコントローラである。プログラムはネットワーク経由又はプログラム媒体の形でハードディスク13から供給され、メモリ14に蓄えられる。CPU15は、メモリ14上のプログラムを読み、複数の音像を音量・回転制御を加えて、ヘッドフォン12に供給する。また、複数の音像にあわせ、複数の画像を大きさ調整・回転制御を加えてディスプレイ11に供給する。コントローラ16からの指示があるとCPU15はコントローラ16に指示された音像、画像をユーザの所望の情報であると判断する。
【0020】
なお、本発明は上記実施の形態に限定されるものではない。
本発明は、コンピュータを制御装置3として機能させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体であってもよく、例えば、磁気テープ、CD−ROM、ICカード、RAMカード等のいかなるタイプの記録媒体であってもよい。
【0021】
【発明の効果】
以上のように、本発明を用いれば、音声を利用して多くの情報源の中から1つを選択することができる。また、最大の音量の音像が所望の情報であると決めておけば、1つのボタンで情報選択を行うことができる。また、早送り、巻き戻しを併用することで、回転待ち時間の節約ができ、短時間で所望の情報を得ることができる。
また、方向性をもった選択方法を採用することで、待ち時間をさらに短縮することができる。また音像だけでなく、画像も併用して回転させることで、回転状況と、回転している情報の視覚情報も画像で確認できるので、さらに容易に所望の情報を得ることができる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態の操作イメージ図である。
【図2】第1の実施の形態の動作を説明する制御フロー図である。
【図3】第2の実施の形態の操作イメージ図である。
【図4】第2の実施の形態の動作を説明するフロー図である。
【図5】第1の実施の形態の詳細な操作イメージ図である。
【図6】メニュー階層化の操作イメージ図である。
【図7】本発明を実現する装置の構成図である。
【符号の説明】
1 ユーザ
2 ヘッドフォン装置
3 制御装置
4 巻き戻しボタン
5 決定ボタン
6 早送りボタン
7 十字パッド

Claims (9)

  1. 音源を備え、所望の情報を選択する情報選択装置であって、
    前記音源より音像を提示する際に、複数の音像が順次ユーザの近くに移動するかのように、個々の音像の位置をユーザ操作によらずに制御する音像制御手段と、
    選択指示を受け付ける選択指示受付手段と、
    前記選択指示受付手段において、選択指示を受け付けた時点において、ユーザの最も近くに位置している音像に関連付けられている情報が選択されたと判断する、情報選択手段と、
    を備える、情報選択装置。
  2. 前記音像制御手段は、各々の音像の音量を制御することによって、複数の音像が移動しているかのように音像の位置を制御する、請求項1に記載の情報選択装置。
  3. 前記ユーザの最も近くに位置している音像とは、前記音像制御手段によって制御された音像の音量が、最も大きい音像である、請求項2に記載の情報選択装置。
  4. 前記音像制御手段は、前記個々の音像の位置を、大略円周上を移動しているかのように制御する、請求項1乃至請求項3のいずれか一項に記載の情報選択装置。
  5. さらに、音像の位置変化指示を受け付ける位置変化指示受付手段を備え、
    前記音像制御手段は、前記位置変化指示受付手段にて受け付けた指示に基づいて、前記個々の音像の位置を、進める或いは戻すよう制御する、請求項1乃至請求項4のいずれか一項に記載の情報選択装置。
  6. さらに、画像表示手段と、
    前記画像表示手段にて、前記個々の音像の位置に、各々の音像に関連付けられている情報に対応する画像を表示するよう制御する画像表示制御手段と、
    を備える、請求項1乃至請求項5のいずれか一項に記載の情報選択装置。
  7. 前記画像表示制御手段は、個々の音像の位置変化に伴って、表示する画像の面積を変化させる、請求項6に記載の情報選択装置。
  8. 音像を提示し、複数の音像が順次ユーザの近くに移動するかのように、個々の音像の位置をユーザ操作によらずに制御する音像制御ステップと、
    選択指示を受け付ける選択指示受付ステップと、
    前記選択指示受付ステップにおいて、選択指示を受け付けた時点において、ユーザの最も近くに位置している音像に関連付けられている情報が選択されたと判断する、情報選択ステップと、
    を備える、情報選択方法。
  9. 音像を提示し、複数の音像が順次ユーザの近くに移動するかのように、個々の音像の位置をユーザ操作によらずに制御する音像制御ステップと、
    選択指示を受け付ける選択指示受付ステップと、
    前記選択指示受付ステップにおいて、選択指示を受け付けた時点において、ユーザの最も近くに位置している音像に関連付けられている情報が選択されたと判断する、情報選択ステップと、
    を機能させるためのプログラムを記録した、コンピュータ読み取り可能な記録媒体。
JP03629999A 1999-02-15 1999-02-15 情報選択方法、情報選択装置及び記録媒体 Expired - Fee Related JP4567111B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP03629999A JP4567111B2 (ja) 1999-02-15 1999-02-15 情報選択方法、情報選択装置及び記録媒体
US09/504,438 US6983251B1 (en) 1999-02-15 2000-02-15 Information selection apparatus selecting desired information from plurality of audio information by mainly using audio

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP03629999A JP4567111B2 (ja) 1999-02-15 1999-02-15 情報選択方法、情報選択装置及び記録媒体

Publications (3)

Publication Number Publication Date
JP2000236600A JP2000236600A (ja) 2000-08-29
JP2000236600A5 JP2000236600A5 (ja) 2006-03-30
JP4567111B2 true JP4567111B2 (ja) 2010-10-20

Family

ID=12465947

Family Applications (1)

Application Number Title Priority Date Filing Date
JP03629999A Expired - Fee Related JP4567111B2 (ja) 1999-02-15 1999-02-15 情報選択方法、情報選択装置及び記録媒体

Country Status (1)

Country Link
JP (1) JP4567111B2 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5074766B2 (ja) * 2004-10-01 2012-11-14 パナソニック株式会社 音響調整装置および音響調整方法
KR100643308B1 (ko) 2005-07-11 2006-11-10 삼성전자주식회사 음악 파일 탐색 기능을 제공하는 장치 및 방법
JP2008226400A (ja) 2007-03-15 2008-09-25 Sony Computer Entertainment Inc オーディオ再生装置およびオーディオ再生方法
JP4561766B2 (ja) * 2007-04-06 2010-10-13 株式会社デンソー 音データ検索支援装置、音データ再生装置、プログラム
JP5217280B2 (ja) * 2007-07-27 2013-06-19 ヤマハ株式会社 音処理装置およびプログラム
JP5151521B2 (ja) * 2008-02-08 2013-02-27 株式会社デンソー 情報特定装置,情報特定方法およびプログラム
JP5794783B2 (ja) 2008-03-13 2015-10-14 コーニンクレッカ フィリップス エヌ ヴェ 複数のアイテムからのアイテムの選択を可能にする方法及びデバイス
US9389829B2 (en) * 2009-04-09 2016-07-12 Aliphcom Spatial user interface for audio system
JP5810934B2 (ja) * 2012-01-20 2015-11-11 株式会社Jvcケンウッド 報知装置、報知方法及びそのプログラム
JP5983313B2 (ja) * 2012-10-30 2016-08-31 富士通株式会社 情報処理装置、音像定位強調方法、及び音像定位強調プログラム
JP2015076797A (ja) * 2013-10-10 2015-04-20 富士通株式会社 空間情報提示装置、空間情報提示方法及び空間情報提示用コンピュータプログラム

Also Published As

Publication number Publication date
JP2000236600A (ja) 2000-08-29

Similar Documents

Publication Publication Date Title
US6983251B1 (en) Information selection apparatus selecting desired information from plurality of audio information by mainly using audio
US6041023A (en) Portable digital radio and compact disk player
US9972297B2 (en) Sound processing device, sound data selecting method and sound data selecting program
US20110029867A1 (en) Music reproducing apparatus and method of portable terminal
JP2010205394A (ja) 音源再生装置及び音源選択再生方法
KR20020079903A (ko) 가상음상정위 처리장치, 가상음상정위 처리방법 및 기록매체
US20110085682A1 (en) Apparatus and method for reproducing music in a portable terminal
JP4567111B2 (ja) 情報選択方法、情報選択装置及び記録媒体
JP2007213040A (ja) オーディオファイル再生装置およびこれを利用したオーディオファイルナビゲーション方法
US20040102955A1 (en) DVD driver for language study and method of processing audio streams thereof
JP6443205B2 (ja) コンテンツ再生システム、コンテンツ再生装置、コンテンツ関連情報配信装置、コンテンツ再生方法、及びコンテンツ再生プログラム
JP2004356793A (ja) 映像再生装置
JP3766770B2 (ja) 情報提示装置、情報提示方法、及び情報提示プログラムを記録したコンピュータで読取可能な記録媒体
JP2010074258A (ja) 表示装置及び表示方法
JP4672823B2 (ja) 音声データ選択方法、音声出力装置
JP4352007B2 (ja) 楽曲処理装置、制御方法及びプログラム
JP2004362723A (ja) 情報再生装置
WO2024004651A1 (ja) 音声再生装置、音声再生方法及び音声再生プログラム
JP2002313064A (ja) 記録媒体再生装置
JP2001184077A (ja) 再生装置、及び再生プログラムが記録された記録媒体
JP2003007036A (ja) オーディオ信号再生装置
JP4340205B2 (ja) コンテンツ再生装置
JP3092612U (ja) Dvdプレイヤ一体型テレビジョン受像機及び映像音声再生装置
JP4577251B2 (ja) 再生装置
JP3088366U (ja) カラオケ装置

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060215

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071030

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071228

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20080205

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080407

A911 Transfer of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20080422

A912 Removal of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20090123

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100805

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130813

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees