JP3766770B2 - 情報提示装置、情報提示方法、及び情報提示プログラムを記録したコンピュータで読取可能な記録媒体 - Google Patents

情報提示装置、情報提示方法、及び情報提示プログラムを記録したコンピュータで読取可能な記録媒体 Download PDF

Info

Publication number
JP3766770B2
JP3766770B2 JP30649999A JP30649999A JP3766770B2 JP 3766770 B2 JP3766770 B2 JP 3766770B2 JP 30649999 A JP30649999 A JP 30649999A JP 30649999 A JP30649999 A JP 30649999A JP 3766770 B2 JP3766770 B2 JP 3766770B2
Authority
JP
Japan
Prior art keywords
information
presentation
state
presented
sound
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP30649999A
Other languages
English (en)
Other versions
JP2001125767A (ja
Inventor
あずさ 梅本
充 水口
直樹 浦野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP30649999A priority Critical patent/JP3766770B2/ja
Priority to US09/504,438 priority patent/US6983251B1/en
Publication of JP2001125767A publication Critical patent/JP2001125767A/ja
Application granted granted Critical
Publication of JP3766770B2 publication Critical patent/JP3766770B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Stereophonic System (AREA)
  • User Interface Of Digital Computer (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、複数の音声情報を用いて、その音声情報源に関連付けられた情報を選択する情報選択方法、情報選択装置及びプログラムを記録した事を特徴とする記録媒体に関する。
【0002】
なお、この明細書で「音像の位置」とは、可能な限りその場所で音が発声しているように聞こえる場所、または、その方向から音が聞こえる方向のどちらの意味にも用いる。
【0003】
【従来の技術】
従来の技術として、複数の情報から一つの情報を選択する方法として、ディスプレイ上に示される文字情報を用いた検索エンジンなどがあげられる。しかし、画面に注目しつづける作業はユーザにとって負担になる。そこで、音声を利用する技術が注目されている。また、ラジオ番組、音楽CDなどの多数候補の音声メディアが選択対象にあるときは、文字情報だけを用いて取捨選択するよりも実際にその内容を聞き、直接選択するほうが自然である。
【0004】
複数情報から一つの情報を選択する方法に音声を用いたものとして、情報を一つ一つ提示し、所望の情報が提示されたときにボタンを押して選択する方法と、各情報を音像としてユーザの周りの円周上を回転させ、所望の情報が一番大きく再生されたときにボタンを押して情報を選択する方法が文献1(梅本あずさ、柴尾忠秀、水口充、浦野直樹(シャープ(株))「音声提示型インタフェースの提案」(DICOMO'99))に記載されている。ここでは、第1の手法(手法1)として、情報に関連付けられた音声を同時に再生しながら、それぞれ音像としてユーザのまわりに定位させ、ユーザの前にある仮想的な円周上を回転させ、所望の情報がユーザの一番近く、つまり音量が一番大きく聞こえたときにボタンを押す事でユーザは所望の情報をえることができるものが紹介され、第2の手法(手法2)として、情報に関連付けられた音声を自動的もしくは手動で順次切り替えて再生し、ユーザは所望の情報が再生されている間に決定ボタンを押す事で所望の情報を得ることができるものが紹介されている。
【0005】
【発明が解決しようとする課題】
しかしながら、文献1中の手法1において、円周上を回転する際に、提示される情報の種類に関わらず一定の速度や半径、間隔で回転させているため、よく聞き取れるユーザとそうでないユーザが存在してしまう。
【0006】
また、手法1において、回転を早めたり戻したりする操作はできるが、直接隣の音像をすぐに聞きたいという場合には何回もボタンを押して隣の音像を引き寄せなければならない。
【0007】
また、手法1において、円周上を回る音像の位置を送ったり戻したりする操作では、ディスプレイを伴わない場合、音声そのものしか音像の位置を知る手がかりがないので、どの程度音像の位置移動を指示したかを把握しにくい。
【0008】
また、手法1では、音楽や放送音声など比較的長い音声情報を提示するときや、ユーザがどんな情報が提示されるかあらかじめ予測できておらず一通り眺め通したい状況であれば便利であるが、そうでない情報の場合には不便さがある。
【0009】
その逆に、手法2は、インデックスのような比較的短い音声を提示するときや、ユーザがどんな情報が提示されるかあらかじめ予測できている状況であれば便利であるが、それ以外の状況には不便さがある。
【0010】
また、提示される音声それぞれに音量差がある場合、手法1では、各音像に対して同じような音量コントロールをしていても遠くにあるはずの音の方が近くにある音よりも音量レベルが高かった場合、「遠くの音のほうが小さく聞こえる」ような音量で遠近を判断する事ができず、音を正しく聞き分けることが困難であり、手法2では提示される音声が変わるたびによく聞こえたり聞こえなかったりする音声が出現する。
【0011】
また、提示される音声がそれぞれコンサート録音によるステレオ音声である場合、個々の音声には空間的広がりが感じられる。このような音声を手法1を用いて提示させた場合、音像の定位位置をユーザが認知する事が困難となり使い勝手の面で支障をきたしている。
【0012】
本発明は上記課題に基づいて創案されたもので、複数の情報から一つを選択する際に音声を利用したユーザインタフェースとなる情報選択方法、情報選択装置及び記録媒体を提供することを目的とする。
【0013】
【課題を解決するための手段】
本発明に係る情報提示装置は、複数の情報を、少なくとも音像情報として提示する情報提示装置において、
音像情報を提示する際、提示する音像情報の性質又はユーザの状態に応じて、その提示状態を変更するための手段を備えてなることを特徴とするものである。
【0014】
このように、音像情報の提示状態を変更するための手段を持つことにより、提示する音像情報の長さ、音量、ステレオ/モノラル、サンプリング周波数や再生ハードに依存した音質と言った、性質や、例えば提示する情報の前後をユーザが知っている場合と、そうでない場合、或は、音像として与えられる情報のユーザの捉えやすさと言った、ユーザの状態に応じて、音像情報の提示状態を容易に変更することが可能になる。
【0015】
本発明に係る情報提示装置は、前記変更される提示状態が、複数の音像情報をその提示位置を変えて同時に提示する状態と、複数の音像情報を順次提示する状態とのいずれかを含んでなることを特徴とするものである。
【0016】
このように、音像情報を同時に提示する状態と、順次提示する状態とを、選択することにより、画一的な情報提示でなく、音として情報を提示する場合に、より的確にその音像情報を提示することが可能になる。
【0017】
本発明に係る情報提示装置は、前記複数の音像情報をその提示位置を変えて同時に提示する際、
前記音像情報の位置を個別に時間制御し、配置する手段を備えて、
各音像の位置を略円周上に配置して回転させ、提示する音像情報の性質に応じて、その回転条件及び、音像定位条件を設定してなることを特徴とするものである。
【0018】
このように、音像情報を略円周上に配置して回転させ、その円のある接点にユーザを配置することにより、複数の音像情報を同時に提示する際、ユーザ自身が、自分に最も近い音像情報位置、自分に最も遠い音像情報位置等の音像の相互位置関係を認識することが容易になる。また、その回転速度、回転半径といった回転条件、音像間の距離といった音像定位条件を設定することにより、個々のユーザに合わせた、情報提示環境を作ることが可能になる。
【0019】
尚、この音像情報を配置する円は、全円である必要はなく、同時に提示される音像情報の数や、ユーザの嗜好に合わせて、ユーザからより遠い位置にある円周の一部がカットされた状態で、音像情報が提示されていてもよい。
【0020】
本発明に係る情報提示装置は、前記複数の音像情報をその提示位置を変えて同時に提示する際、
前記音像情報の位置を個別に時間制御し、配置する手段を備えて、
各音像の位置を回転に依らず、ユーザの指示する位置に変更させてなることを特徴とするものである。
【0021】
このように、各音像の位置を回転に依らず、即ち、回転で回ってくるのを待たずに、ユーザの指示する位置に変更する手段を有することにより、所望の情報と関連付けられた音像情報を即座に手元に引き寄せる、即ち、「戻し」「送り」ボタン等を何度も押すことなく、ワンステップで引き寄せることが可能になる。
【0022】
また、提示されている全音像の微妙な位置変化から、別の音像を直接呼び出すことまで、この情報提示装置に基いて、様々な情報選択を行うことが可能になる。
【0023】
本発明に係る情報提示装置は、前記情報の持つ各音像情報の間の性質に差がある場合、その音像情報の提示をする前に、各音像情報の性質の均質化を行う手段を有してなることを特徴とするものである。
【0024】
このように、各音像情報の性質の均質化を行って、例えば、音像情報の音量レベルに差がある場合は、その正規化を、又、音像情報が、ステレオ音声と、モノラル音声とが混ざっている場合は、ステレオ音声のモノラル化を予め行ってから、音像情報として提示することにより、どの音像情報に対しても、ユーザが音像情報の定位位置を認識することが可能になる。
【0025】
本発明に係る情報提示装置は、前記情報が、音像情報以外の提示情報を有し、各音像情報を提示する際に、これらの音像情報以外の提示情報を併せて提示する手段を有してなることを特徴とするものである。
【0026】
このように、例えば、画像情報や、触による情報等、音像情報以外の提示情報を、併せて提示することにより、ユーザは所望の情報の獲得をより容易に行うことが可能になる。
【0027】
本発明に係る情報提示方法は、複数の情報を、少なくとも音像情報として提示する情報提示方法において、
音像情報を提示する際、提示する音像情報の性質に応じて、その提示状態を変更するためのステップを備えてなることを特徴とするものである。
【0028】
本発明に係る記録媒体は、複数の情報を、少なくとも音像情報として提示する際、コンピュータを、提示する音像情報の性質に応じて、その提示状態を変更するための手段として、機能させるための情報提示プログラムを記録したコンピュータで読取可能な記録媒体であることを特徴とする。
また、本発明は、複数の情報を、少なくとも音像情報として提示する情報提示装置において、音像情報を提示する際、提示する音像情報の性質又はユーザの状態に応じて、その提示状態を変更するための手段と、前記音像情報を提示する際に、前記音像情報に対応する視覚情報を提示する手段、とを含む情報提示装置を提供する。
また、本発明は、前記視覚情報を提示する手段は、前記複数の音像情報に対応する複数の視覚情報を一覧表示させることを特徴とする情報提示装置を提供する。
また、本発明は、前記音像情報の提示状態が変更された場合に、前記視覚情報の提示状態をあわせて変更することを特徴とする情報提供装置を提供する。
【0029】
【発明の実施の形態】
以下、本発明の好適な実施の形態を図面を参照して詳細に説明する。
(実施例1)
図1は、本発明を実現するための機器のシステム構成図である。システムは、音声記憶部111、主制御部112、メニュー制御部113、音声変換部114、再生制御部115、情報記憶部116を含んだ制御装置11、ヘッドフォン、スピーカーなどの音声提示用外部情報提示装置12、ディスプレイなどの音声以外の情報提示用外部情報提示装置13、決定ボタンを少なくとも備え、他に十字パッド、ジョグダイヤル、シャトルリング、マウスなどを備えた提示指示装置14、からなる。この図において、制御装置11と、外部情報提示装置12、13、提示指示装置14とは、ケーブルを用いて1台のマシンに接続されているが、本願発明はこれに限定されるものではなく、ケーブル、ネットワーク経由、無線(電波やIR等)通信により、相互に接続されていてもよい。
【0030】
主制御部112は、複数の情報を音像情報として定位させて同時に再生しながら個別に音量や定位位置を制御する手法(手法1)と、音声情報を順次切り替えて提示する手法(手法2)を持っており、情報記憶部116に格納された情報にしたがって、手法1と手法2を適宜切り替えて、音声記憶部111に格納されている音声情報の再生、もしくは情報記憶部116の内容を音声変換部114で変換した音声の再生を再生制御部115に指示する。
【0031】
ここで、提示方法の切り替えを指示する流れを図12を用いて説明する。ユーザの指示により、システムが起動すると(S1201)提示する一連の音声情報がシステムに読みこまれ、提示する一連の情報の中にある閾値よりも長い音声情報が含まれているかどうかを調べ(S1202)含まれているときには手法1(音像情報として同時に再生提示)を用いる事とし(S1203)、そうでないときには手法2(順次切り替えて再生提示)を用いることとする(S1204)。
【0032】
この閾値はシステムが一貫して持つ値でもよいし、各ユーザの操作履歴から学習したユーザ毎に設定した値でもよい。
【0033】
また、提示を開始する前に音量やステレオ/モノラルの正規化を行うステップを経てもよい(S1205)。ここまでをシステムが自動的に行った後、提示を開始する。提示が始まった(S1206)後でも提示を終了するまで(S1210)常にユーザからの切り替え指示(手法の切り替え(S1207,S1208)、音声パラメータの正規化・正規化の解除(S1209、S1212))を受けつけられるようにする。
【0034】
手法1について図2、図3を用いて説明する。図2は操作イメージ図、図3は手法1の形態の動作を説明する制御フロー図である。ユーザ1はヘッドフォン装置2を通して、制御装置3で制御される複数の音像を聞く。制御装置3の入力手段には巻き戻しボタン4、決定ボタン5、早送りボタン6を備えたコントローラが設けられている。
【0035】
制御装置3はユーザ1の正面方向の水平面上にある音像P1〜P2Nを認識できるようにヘッドフォン装置2又はステレオスピーカーの左右の音量を比較し、調節する演算を用い、複数音像P1〜P2Nが円周上を一定間隔で回転しているかのように同時再生する制御を行う。回転制御を行う際、ある音像Pがユーザに最も近い点Aに来たときにはその音量を最大に設定し、最も遠い点Bに来たときに最小音量になるよう、回転とともに音量を順次下げて行き、その後、Bにて最小音量になった後、Aにて最大音量になるよう、順次音量を上げる。図2中の各音像の音量の大小関係は、P1>P2>…>PN>PN+1<P2N、P2N<P1となる(ここまで、図3のS321)。
【0036】
多チャンネル放送などの番組案内など、数が多く一度に回転させるのが困難な数の選択肢については、一定数のみを抽出して回転させる。一定時間選択されない音像については、ユーザから最も遠い点Bにおいて未回転の情報と入れ換えることにより多数の選択肢から一つを選ぶ場合に対応する(図3S322,S323)。その際、情報が新しくなった事を示すために、通知音を情報発音の妨げにならない程度に発音させてもよい。
【0037】
また、音像の回転を制御するために微妙に音像の位置を進めたい場合には早送りボタン6を短く押し、戻したい場合は巻き戻しボタン4を短く押す。また、直接別の音像を手元に引き寄せたい場合には適宜早送りボタン6または巻き戻しボタン4を長めに押せばよい。ボタンの押し方は必ずしもこの例に従うものではないが、このようなユーザによる音像の位置変化を支持するステップを受けて手法1では音像の位置変化の制御を行う(図3S33,S34)。このとき、位置変化を指示するボタンに、ユーザがどれだけ音像の位置を動かしたかを、ボタンの押し具合の抵抗を調整することによって触覚的にフィードバックを行う手段を含むことで、ユーザがどれだけ音像の位置を変化させているかを感じ取りやすくすることができる。
【0038】
また、手法1について、各音像の再生時間の長さなどに応じて、適宜回転スピードや回転半径、音像間距離などの音像定位と回転に関するパラメータを変化させ、ユーザが使いやすいように提示に工夫を加えてもよい。また、このパラメータを変化する指示をユーザが行えるステップや、手段を付け加えてもよい。
【0039】
手法2について図4、図5を用いて説明する。図4は手法2の操作イメージ図である。ユーザ1は、ヘッドフォン装置2を通して、制御装置3が提示する音声情報を順番に聞く。制御装置3の入力手段には戻しボタン4、決定ボタン5、送りボタン6を備えたコントローラが設けられている。制御装置3は、複数の情報源に対応する音声情報を順次切り替えて提示する。つまり、提示されるべき全ての情報PがS個あったとすると、情報PはP1からPSまでソーティングされており、制御装置3は、P1を提示し終わるとP2の提示、P2の提示の後はP3…、のように、順次切り替えて提示していく。
【0040】
図5は、図1の実施の形態の動作を説明する制御フロー図である。ここでは、N番目の情報PNを提示しているときについて説明する。システムを起動すると、まずソーティング済みの提示されるべき全ての情報のうち、一番目に順序づけられた情報から提示し始めることとする(S501)。
【0041】
PNの提示中にボタンが押されなかった場合、PN+1を次の提示情報とする(S505)。このときN+1がSを越える、つまりS番目の情報まで提示してしまった場合は次に1番目の情報を提示するとする(S507)。PNの提示中にボタンが押された場合はただちにPNの提示を中止する(S508)。押されたボタンが戻しボタンだった場合は次に提示する情報をPN−1とする(S511)。N−1が0となる、つまりNが1だった場合には、次にS番目の情報を提示する(S514)。押されたボタンが送りボタンだった場合は次の提示する情報をPN+1とする(S510)。N+1がSを越える場合は前述のとおりである(S507)。押されたボタンが決定ボタンだった場合は、PNをユーザの所望の情報であると判断する(S513)。この手法においても、数が多い場合には一定数のみを抽出して提示し、一定時間選択されない音声情報については、順次新しい(まだユーザに提示していない)情報と入れ換えて提示してもよい。
【0042】
ここで両手法(手法1と手法2)において、このユーザに提示する情報のソーティング順(並び順)は、以前に情報を選択した際のユーザの好みを反映するものであってもよい。また、両手法において、提示する各音声に音量レベルの差があった場合、提示する前に正規化を行い、全音声がほぼ同音量レベルで再生されるようにしてもよい。
(実施例2)
図6は本発明をメールアプリケーションに応用したときの操作の流れを示している。この例では、図2(手法1)と図4(手法2)に記載のいずれかの方法を複数回繰り返し利用している。以下、図1、図2、図4、図6を用いて、メールアプリケーションを例にとって説明する。まず最初にアプリケーションをスタートするとメールが何件来ているかを音声で知らせる(S601)。その後提示する音声情報として「○通目○○さんより」のように差出人を読み上げたものと、アプリケーションを終了させる「終了します」メッセージを用意し、手法1ならそれぞれを音像として定位させ同時に再生し、手法2なら順番に再生して提示する(S602)。ユーザが上記選択手段に基づいて一つメールを選択すると、選択されたメールの日付、差出人、件名を読み上げ(S603)、そのメールに対する処理を示すメッセージを提示すべき音声情報として手法1、手法2のいずれかの方法で提示する(S604)。
【0043】
以下同様に、選択できる情報を自動的に手法1もしくは手法2を用いて提示し、ユーザが前記選択手段を用いて選択していくことで動作が進行する。情報の内容を把握するのにメッセージを最初から最後まで聞く必要のないときは、情報が提示されている間に図2、4中の送りボタン6を押すことで、手法1であれば先の音像を呼び出す事ができ、手法2であれば現在提示されている情報を飛ばして次の情報の提示を促す事ができる。同様に、前に聞いた情報の内容を忘れてしまいもう一度確認したい場合は図2、4中の戻しボタン4を押すことで前に提示されていた情報を再度提示させることができる。
【0044】
例えば、図6において、返信メールの録音に失敗しもう一度録音しなおしたい場合は、その他のメッセージ「送信します(S6081)」「送信を取りやめます(S6082)」を図2、4中の送りボタン6で飛ばし、「録音をやり直します(S6083)」をすぐに提示させることができる。または、図2、4中の戻しボタン4で情報の提示順を逆順に辿り、提示させてもよい。
【0045】
こうして、操作ボタンを3つとし、実際の操作を音声で提示し、その音声を選択させる形をとって操作を進めることで、操作ボタンの確認作業を軽減し、聴覚だけで操作できるインタフェースを実現できる。
【0046】
また、提示の方法について、提示するメニューが長い場合や、前後にどのようなメールがあるか知りながら情報を聞きたい場合には手法1、提示するメニューが比較的短く、一つ一つ聞きたい場合には手法2を用いることができるようにすることで、どんな内容が提示されるときでも、常にユーザにとって最適の状態で情報の提示をすることができる。手法の切り替えは主制御部112で自動的に行ってもよいし、切り替えをユーザが指示できるボタンを設け、ユーザ指示を受けて主制御部112が切り替えてもよい。
【0047】
また、情報の提示を、複数メールを提示(S602)、選択したメールに対する操作一覧(S604,S606,S608)の4段階に分ける事によって、その都度必要な情報をユーザに提示することができ、メール本体の選択と選択したメールに対する操作を同じ方法と同じボタンで扱うことができる。
【0048】
このとき、手法1と手法2は少なくとも決定ボタン5を、ないしは加えて巻き戻しボタン4と早送りボタン6を備えるような共通のインタフェースを持つことで、手法が切り替わっても同じボタンと同じ操作でユーザは情報を取り出すことができる。
【0049】
次に、図1と図6を用いて、メモリの動きを説明する。
【0050】
まず、主制御部112は情報記憶部116に従い、到着メール件数に応じて「メールが到着しています。新しいメールは○件です」(S601)の部分に件数を入れて音声変換部112において音声メッセージに変換し、変換後の音声の再生を再生制御部115に指示する。その後、情報記憶部116に格納されている到着メールの差出人一覧をそれぞれ、音声変換部112を通じてそれぞれ「○通目○○さんより」(S6021〜S6023)と音声に変換したものと、音声記憶部111に格納されている「終了します」(S6024)とをメール選択メニューとして、情報記憶部116に格納する。
【0051】
メニュー制御部116は格納された音声メニューS602をそれぞれ順に再生制御部115に再生するように指示する。
【0052】
ユーザ15が、メール差出人音声(S6021〜S6023)が再生されているときに提示指示装置14中の決定ボタンを押した場合、主制御部112は、ユーザがボタンを押したときに提示中であったメールに該当する題名情報を情報記憶部116に問い合わせ、「○通目○○さんより○○○について」(S603)のように何通目の誰から来たどんな題名であるかという音声に音声変換部112を通じて音声に変換し情報記憶部116に格納し、再生制御部115で再生する。
【0053】
その後、選択されたメールに対して行える動作を読み上げた音声「読み上げます(S6041)」「次のメールを読みます(S6042)」を音声記憶部811から読み出し、機能メニュー(S604)として、情報記憶部116に格納する。メニュー制御部113は、情報記憶部116に格納された機能メニュー(S604)をそれぞれ再生制御部115に再生するように指示する。
【0054】
以下同様にユーザ15の指示に従って情報記憶部116に音声メニューを読みこみ、メニュー制御部113によって、音声提示が指示される。
【0055】
図6中のS6024,S604,S605,S606,S607,S608は固定メッセージのため
あらかじめ音声記憶部111に音声として記憶されており、提示するときには直接情報記憶部116に読みこみ、再生制御部115で再生される。
【0056】
S601,S6021〜S6023、S603は、メールの内容によって変わってくるため、情報記憶部115に格納されているメール内容を音声変換部114を通じて音声に変換し、変換後音声を情報記憶部115に格納し、再生制御部115によって再生する。
【0057】
この例では、メールを扱ったために音声変換部114はテキストを音声合成するものであるが、扱う情報によっては、音声合成だけとは限らず、人声以外の音声であってもよい。
(実施例3)
次に、本発明を音楽CD検索システムに応用した例を図7に示し、手法1と手法2を適宜切り替える方法について説明する。スタートさせると、まず、ジャンルを読み上げた音声を情報として提示し(S701)、その中から邦楽を選ぶと、邦楽の中のさらに細かいジャンルを提示する(S702)。以下同様にしてカテゴリのインデックスを選択決定する動作を繰り返し、所望の情報を選択する。図7中のS702、S705には、カテゴリのインデックスを音声合成したものではなく、CDのサビの部分などでも一意にその情報の中身が理解できるため、直接CDの音声をインデックスとして使用してもよい。
【0058】
以上のように、検索対象となる情報の数が多くなる場合にはカテゴライズしてインデックスをユーザに提示することで、所望の情報をユーザに提供する。また、元の操作に(一つ上の階層に)戻るには、図2,4中の戻しボタン4、決定ボタン5、送りボタンに新たに一つ前に戻るボタンを付け加えてもよい。また、一つ前の階層に戻れる場合には、提示する情報とともに「一つ前のメニューに戻る」という音声情報を提示し、ユーザがその情報を選んだときには一つ前の階層に戻ることができるようにしてもよい。
【0059】
図7の例では、選択できるメニュー、インデックスをS701, S702, S703, S705, S706, S707の7段階に分ける事によって所望の音楽情報を得ることができる。また、7段階のインデックス情報に「一つ前のメニューに戻る」メッセージを付け加え、情報本体と、システム操作コマンドを同じ次元で扱うこともできる。この「一つ前のメニューに戻る」メッセージは、一連のインデックス中に一つないしは複数用意し、インデックスの数が多い場合には一定間隔おきに用意してもよい。
【0060】
この応用例について、システムをスタートさせると、まずジャンルを読み上げた音声を情報として提示することになるが、このとき、「ポップス」「クラッシック」など、比較的短い時間で提示できるガイド音声による音声情報であったとすると手法2の方が適切であると判断し、手法2を用いて音声を順次切り替えてユーザに提示する。ガイド音声ではなくそれぞれのジャンルを代表するような音楽をインデックスとして用いる場合は手法1のほうが適切であると判断し、手法1を用いてそれぞれの音楽を音像として同じに再生しながら回転させてユーザに提示する。この例のように、主制御部112は提示する音声の性質によって手法1と手法2を切り替えてユーザに情報を提示する。またこのとき、ユーザが好みに応じて手法1と手法2を切り替えることができるボタンを付け加え、ユーザ指示に基づいて主制御部112が手法1と手法2を切り替えるようにしてもよい。
【0061】
このとき、手法1と手法2は少なくとも決定ボタン5を、ないしは加えて巻き戻しボタン4と早送りボタン6を備えるような共通のインタフェースを持つことで、手法が切り替わっても同じボタンと同じ操作でユーザは情報を取り出すことができる。
【0062】
多チャンネル放送の番組案内に本発明を応用する場合には、チャンネル別、時間別の他に、ジャンル別、対象年齢別などのインデックスを用意して、ユーザが所望の番組を選べるように促してもよい。この場合も、インデックス名を音声合成したものを提示音声としてもよいし、番組中の音声をそのまま用いてもよい。
【0063】
現在放送中の番組一覧を本発明の手法で提示するときには、一定時間ごとにチャンネルを切り替えて提示してもよいし、それぞれの番組における特徴のある音声を番組の情報として提示してもよい。この場合は、時間が経ち、あるチャンネルにおいて番組が次の番組に入れ替わった場合には順次それに対応して、入れ替わった番組の音声を提示する。
【0064】
この場合も、番組の音声をそのまま流すときは手法1を、インデックスなどの比較的短い音声を使用する時などは手法2を用いるように主制御部112が自動的に判断し切り替えても良いし、手法切り替えのユーザ指示を受けて主制御部112が切り替えてもよい。
【0065】
また、提示する各音声がそれぞれ違った録音レベルで録音されているような場合、そのまま手法1を用いて提示を行うと「遠い位置の音は小さく、近い位置の音は大きい」という音像定位位置をユーザが認識するきっかけの一つである音量差がつかなくなってしまうことがある。そこで、手法1を用いて提示する前に各音声の音量を正規化し提示することで、使い勝手を損なうことなく提示することができる。加えて、手法1と2を切りかえる手段を持っていれば、音量レベルの正規化を行いたくないとユーザが判断したときには、音量レベルはそのままで手法2に切りかえ提示させる事もでき、多少聴取困難であっても音量レベルを変えずに手法1で提示させる、こともできるようにすることで、あらゆる場合でユーザによって使いやすい提示手段を選ぶことができる。
【0066】
また、提示する各音声で、コンサート録音されたような空間的広がり感が感じられるような音声があった場合、そのような音声を用いて手法1で提示を行うと音像を定位した位置をユーザが把握しにくいことがある。そこで、手法1を用いて提示する前にそのような広がり感を持った音声をモノラル音声に変換して提示することで、使い勝手を損なうことなく提示することができる。加えて、手法1と2を切りかえる手段を持っていれば、モノラル音声への変換を行いたくないとユーザが判断したときには、ステレオ音声のままで手法2に切り替えて維持させる事もでき、多少聴取困難であってもステレオ音声のままで手法1で提示させる、こともできるようにすることで、あらゆる場合でユーザにとって使いやすい提示手段を選ぶことができる。
【0067】
本発明を用いたほかの応用例として、WWW上のホームページをブラウズするときには、ホームページ上のテキスト情報を音声合成する、ホームページに添付されている音楽情報を用いる、ホームページの色情報を音に変換する、など、あらかじめ何らかの方法でホームページを音声化しておき、ユーザの欲しそうな情報が掲載されているホームページの候補を音声として提示することも考えられる。
【0068】
以上のように、ユーザに候補として提示したい情報を何らかの方法で音声化し、音声化した情報の音声としての特徴(再生時間など)に従って手法1、手法2いずれかの方法でユーザに提示することによって、どんな情報でもユーザが複数の情報をブラウズすることができる。
【0069】
また、聴覚情報だけでなく、補助的に視覚情報を用いて、視覚と聴覚の両方で情報をユーザに提示してもよい。以下視覚情報を補助的に用いた例として図8、図9、図10を用いて説明する。
【0070】
図8は、手法1について視覚情報を用いた形態のイメージ図である。制御装置3の入力手段には巻き戻しボタン4、決定ボタン5、早送りボタン6、十字パッド7、ディスプレイ装置8を備えたコントローラが設けられている。ユーザ1はヘッドフォン装置2及びディスプレイ装置8を通して制御装置3で制御される複数の画像を見、音像を聞く。制御装置3は、画像情報を表示するためのディスプレイ装置8を用い、一定間隔を置いて回転する音像P1〜P2Nにそれぞれ対応付けられた画像D1〜D2Nを音像に同期させて回転させる制御を行う。音量と画像の対応は最大音量のとき画像は面積最大になり、その後音量は順次小さくなり、最小音量になる。この音量と対応して画像の面積は面積最大から順次小さくなり面積が最小になる。その後、音量と面積は再び、最大から次第に大きくなり、最大音量、面積最大となる。これによって、どの画像がどの音像に対応していて、どの情報がどこにあるか一目でわかるような工夫をすることができる。なお、このとき提示する画像は静止画であっても動画であってもよい。
【0071】
ユーザが情報を選択する場合には、ポインティングデバイス、例えば十字パッド7を用いてディスプレイ装置8上のポインタFを操作し、ディスプレイ装置8上の画像を直接に選択する。あるいは、所望の情報がユーザから見て奥のほうにある場合は、所望の情報が手前に来て音像が一番大きく聞こえるまで待つか、早送りボタン6、巻き戻しボタン4を用いて選びたいものが手前に来て一番大きく聞こえるようにするように制御し、決定ボタン5にて決定すればよい。
【0072】
図9は、手法2について視覚情報を用いた形態のイメージ図である。
ユーザ1は、ヘッドフォン装置2を通して、制御装置3が提示する音声情報を順番に聞く。それと同時に、制御装置3は、提示している音声情報に関連付けられた画像情報をディスプレイ装置8に提示する。ディスプレイ装置8には、提示すべき全ての情報についての画像が一覧表示されており、音声にて提示中の情報に関連付けられた情報に対応する画像情報は太枠で囲むなどの、一目で提示中の音声に関連付けられている事がわかるような工夫をする。
【0073】
図10は、提示情報が切り替わったときのディスプレイ装置8の表示の変化を示している。制御装置3は、複数の情報源に対応する音声情報を順次切り替えて提示すると当時に、ディスプレイ装置8に提示している画像情報についても、提示音声を切り替える毎に対応する画像情報に注目がいくような工夫をする。図6では、音声にて提示中の情報に関連付けられた情報に対応する画像情報は太枠で囲んでいる。S61の状態ではGの情報を音声にて提示中である。ここで、ユーザの指示がない場合もしくは、ユーザが送るボタン6を押すことによって次の情報の提示が指示された場合、制御装置3は、Hの情報を提示し、太枠をHに移動する(S62)。S61の状態で、ユーザが十字パッドの下方向キーを押したとき、制御装置3は、ディスプレイ装置8上でGの下に表示しているKの情報の提示をユーザによって指示されたと判断し、Gの音声提示を中止し、Kの音声提示を開始し、当時に太枠をKに移動する(S63)。
【0074】
このように、画像情報を併用することで、音声で提示中でない他の情報を画像情報を用いて閲覧でき、また、戻しボタン4、送りボタン6を一回押すだけでは提示を指示できない情報を十字パッドを用いて提示を直接指示させることができる。
【0075】
ポインティングデバイスとして使用する十字パッドは、マウス、シャトルリング、ジョグダイアル、マウス、ジョイスティックなどでも構わない。
【0076】
以上、本発明の方法について説明したが、図11を参照して、本発明を実現する装置について説明する。
【0077】
1101はディスプレイ装置、1102はヘッドフォン、1103はハードディスク、1104はメモリ、1105はCPU、1106は十字パッド、決定ボタン、送りボタン、戻しボタン、一つ前の階層に戻るボタン、を備えたコントローラ、である。プログラムはネットワーク経由またはプログラム媒体の形でハードディスク1103から供給され、メモリ1104に蓄えられる。CPU1105は、メモリ1104上のプログラムを読み、ヘッドフォン1102に供給する。また、提示中の音声に合わせ提示中の音声に対応した画像を際立たせるよう制御してディスプレイ装置1101に供給する。コントローラ76からの指示があるとCPU1105はコントローラ1106が押されたときにヘッドフォンに供給していた音声情報に基づく情報をユーザの所望の情報であると判断する。
【0078】
図13は、本発明の情報提示装置に備わるコントローラの他の例である。戻しボタン4、決定ボタン5、送りボタン6、十字パッド7以外に、音量正規化/解除指示ボタン9、ステレオ・モノラル切り替えボタン10、提示手法切り替え指示ボタン11のいずれか、又はすべてを備え、ユーザの手元指示により、情報提示状態を変更し、提示する音像情報の性質が異なる場合には正規化或はモノラル化等の音像情報の性質の均質化を行ってもよい。
【0079】
なお、本発明によるポインティングデバイスは、ユーザの操作の度合に応じて、触覚フィードバックを返す機能を兼ね備えていてもよい。例えば、音像情報は、たとえ、これに画像情報が加わったとしても、ユーザによっては音の位置を知る手がかりが少ない、ということもある。このような場合、例えばトラックボール等のポインティングデバイス自身も音像の提示状態に合わせてじわじわと回転して、音像情報を動かすのに早送りだと、すんなり動かせる一方、巻き戻しだと手に若干の抵抗が返ってくるなどの触フィードバックを加えることにより、音像位置をより正確にユーザが認識することが可能になる。また、音像情報を引き寄せる動作において、音像情報の回転と同期してポインティングデバイス等のインターフェイス装置に触等によりなんらかのフィードバックをかけることによって、ユーザサイドの操作利便性が向上する。
【0080】
なお、本発明は上記実施の形態に限定されるものではない。本発明は、コンピュータを制御装置3として機能させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体であってもよく、例えば、磁気テープ、CD−ROM、ICカード、RAMカード等のいかなるタイプの記録媒体であってもよい。
【0081】
また、本明細書中に記述したメールアプリケーション、CDカタログ、多チャンネル放送、WWWブラウズへの応用のほかにも、本発明は、多くの情報の中から一つを選ぶ、メニューの中から所望のものを選択する形の技術として広い分野で応用が可能である。
【0082】
【発明の効果】
以上のように、本発明を用いれば、音声を利用して多くの情報源の中から一つを選択することができる。また、ユーザがボタンを押したときに最大の音量の音像が所望の音像である、もしくは再生されている音声が所望の情報である、と判断させる事でボタン一つでも複数の情報の中からユーザが所望の情報を選択することができる。
【0083】
また、回転する音像の回転速度や回転半径、音像間距離を自動的あるいはユーザ指示によって調節したり、音像の位置をユーザが自由に変化させられたり、順番に再生する手法においてユーザ指示によって次に提示されるべき音声情報の提示、一つ前に提示されていた情報の再提示を指示することができる手段を備えて、複数の情報源の中から一つの情報を選択する際に良好なユーザインタフェースを提供できる。
【0084】
さらに、2手法を提示する音声の特性に応じて自動的に切り替える、もしくはユーザが手動で切り替えることができる手段を備える事で、常に効率よく情報を提示できる。
【0085】
また、方向を指示できるコントローラを用いる事によって、待ち時間をさらに短縮する事ができ、直接情報を選択することができる。
【0086】
また、音声だけでなく、画像を併用して用いる事で、再生されている音声の持つ情報をを画像を用いてより具体的に知る事ができ、回転状況、提示状況を目で確認できるため、さらに容易に所望の情報を得ることができる。
【図面の簡単な説明】
【図1】本発明を実現する装置の構成図である。
【図2】本発明の実施例1の手法1の操作イメージ図である。
【図3】本発明の実施例1の手法1の基本動作を説明する制御フロー図である。
【図4】本発明の実施例1の手法2の操作イメージ図である。
【図5】本発明の実施例1の手法2の基本動作を説明する制御フロー図である。
【図6】本発明の実施例2による、メールアプリケーションに適用したときの、提示情報の移り変わりの様子を示す制御フロー図である。
【図7】本発明の実施例3による、音楽CD検索に適用したときの、提示情報の移り変わりの様子を示す制御フロー図である。
【図8】本発明の実施例3の手法1に画像を併用した形態の操作イメージ図である。
【図9】本発明の実施例3の手法2に画像を併用した形態の操作イメージ図である。
【図10】本発明の実施例3の手法2に画像を併用した場合の表示の変化を表す図である。
【図11】本発明の実施例3を実現する装置の構成図である。
【図12】本発明の情報提示装置による情報提示状態の切り替えを説明するフロー図である。
【図13】本発明の情報提示装置による、他のコントローラを示す模式図である。

Claims (10)

  1. 複数の情報それぞれを、少なくとも音声情報として提示する情報提示装置において、
    複数の音声情報を提示する際、前記複数の音声情報の提示状態を、その提示位置を変えながら同時に提示する状態、または、前記複数の音声情報を順次に切り替えて提示する状態のいずれかに変更するための状態変更手段を備えて、
    前記状態変更手段は、前記複数の音声情報に、音声情報の長さが、所定の閾値より長い音声情報が含まれていると判定する場合において前記同時に提示する状態に変更し、含まれていないと判定する場合において前記順次に切り替えて提示する状態に変更する、情報提示装置。
  2. 前記複数の音声情報をその提示位置を変えながら同時に提示する状態において、前記音声情報の位置を個別に時間制御し、配置する手段をさらに備えて、
    各音声情報の位置を回転に依らず、ユーザの指示する位置に変更させてなることを特徴とする、請求項1に記載の情報提示装置。
  3. 前記複数の音声情報の各音声情報の間に、音量レベルの差、またはステレオ音声とモノラル音声の差がある場合に、音声情報の提示をする前に、前記音量レベルの差については各音声情報の音量レベルの正規化を行い、前記ステレオ音声とモノラル音声の差については前記ステレオ音声である音声情報のモノラル化を行う手段をさらに備える、請求項1または2に記載の情報提示装置。
  4. 外部から操作される操作部と、
    前記複数の音声情報を、その提示位置を変えながら同時に提示する状態において、前記操作部の操作に基づき前記複数の音声情報の提示位置を変化させる位置変化手段と、
    操作に応じて前記操作部を介して触覚される抵抗のレベルを、前記位置変化手段による提示位置の変化量に応じて調整する手段とをさらに備える、請求項1に記載の情報提示装置。
  5. 前記複数の情報は、前記音声情報以外の提示情報を有し、各音声情報を提示する際に、当該音声情報以外の提示情報も併せて提示する手段をさらに備える、請求項1からのいずれかに記載の情報提示装置。
  6. 記憶部に予め格納された複数の情報それぞれを、少なくとも音声情報として提示する情報提示方法であって、
    複数の音声情報を提示する際、前記複数の音声情報の提示状態を、その提示位置を変えながら同時に提示する状態、または、前記複数の音声情報を順次に切り替えて提示する状態のいずれかに変更するための状態変更ステップを備えて、
    前記状態変更ステップでは、前記複数の音声情報に、音声情報の長さが、所定の閾値より長い音声情報が含まれていると判定する場合において前記同時に提示する状態に変更し、含まれていないと判定する場合において前記順次に切り替えて提示する状態に変更する、情報提示方法。
  7. 複数の情報それぞれを、少なくとも音声情報として提示する際、コンピュータを、複数の音声情報の提示状態を、その提示位置を変えながら同時に提示する状態、または、前記複数の音声情報を順次に切り替えて提示する状態のいずれかに変更するための状態変更手段として、機能させる情報提示プログラムを記録したコンピュータで読取可能な記録媒体であって、
    前記状態変更手段は、前記複数の音声情報に、音声情報の長さが、所定の閾値より長い音声情報が含まれていると判定する場合において前記同時に提示する状態に変更し、含まれていないと判定する場合において前記順次に切り替えて提示する状態に変更することを特徴とする、情報提示プログラムを記録したコンピュータで読取可能な記録媒体。
  8. 複数の情報それぞれを、少なくとも音声情報として提示する情報提示装置において、
    複数の音声情報を提示する際、前記複数の音声情報の提示状態を、その提示位置を変えながら同時に提示する状態、または、前記複数の音声情報を順次に切り替えて提示する状態のいずれかに変更するための状態変更手段と、
    各音声情報を提示する際に、当該音声情報に対応する視覚情報を提示する手段とを備え、
    前記状態変更手段は、前記複数の音声情報に、音声情報の長さが、所定の閾値より長い音声情報が含まれていると判定する場合においては前記同時に提示する状態に変更し、含まれていないと判定する場合においては前記順次に切り替えて提示する状態に変更する、情報提示装置。
  9. 前記視覚情報を提示する手段は、前記複数の音声情報に対応する複数の視覚情報を一覧表示することを特徴とする、請求項に記載の情報提示装置。
  10. 前記音声情報の提示状態が変更された場合に、前記視覚情報の提示状態をあわせて変更する手段をさらに備え、
    前記視覚情報の提示状態をあわせて変更する手段は、
    前記複数の音声情報の提示状態が、その提示位置を変えながら同時に提示する状態に変更された場合においては、前記複数の視覚情報それぞれを対応する前記音声情報の提示位
    置にて同時に提示する状態に変更し、
    前記複数の音声情報の提示状態が、前記複数の音声情報を順次に切り替えて提示する状態に変更された場合においては、一覧表示される前記複数の視覚情報のうち前記音声情報の順次の切り替え提示に伴って、対応の前記視覚情報を順次の切り替えに従い注目を促す態様で提示する状態に変更することを特徴とする、請求項に記載の情報提示装置。
JP30649999A 1999-02-15 1999-10-28 情報提示装置、情報提示方法、及び情報提示プログラムを記録したコンピュータで読取可能な記録媒体 Expired - Fee Related JP3766770B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP30649999A JP3766770B2 (ja) 1999-10-28 1999-10-28 情報提示装置、情報提示方法、及び情報提示プログラムを記録したコンピュータで読取可能な記録媒体
US09/504,438 US6983251B1 (en) 1999-02-15 2000-02-15 Information selection apparatus selecting desired information from plurality of audio information by mainly using audio

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP30649999A JP3766770B2 (ja) 1999-10-28 1999-10-28 情報提示装置、情報提示方法、及び情報提示プログラムを記録したコンピュータで読取可能な記録媒体

Publications (2)

Publication Number Publication Date
JP2001125767A JP2001125767A (ja) 2001-05-11
JP3766770B2 true JP3766770B2 (ja) 2006-04-19

Family

ID=17957771

Family Applications (1)

Application Number Title Priority Date Filing Date
JP30649999A Expired - Fee Related JP3766770B2 (ja) 1999-02-15 1999-10-28 情報提示装置、情報提示方法、及び情報提示プログラムを記録したコンピュータで読取可能な記録媒体

Country Status (1)

Country Link
JP (1) JP3766770B2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7752546B2 (en) * 2001-06-29 2010-07-06 Thomson Licensing Method and system for providing an acoustic interface
US6703550B2 (en) * 2001-10-10 2004-03-09 Immersion Corporation Sound data output and manipulation using haptic feedback
JP2003131785A (ja) * 2001-10-22 2003-05-09 Toshiba Corp インタフェース装置および操作制御方法およびプログラム製品
DE10248754B4 (de) * 2002-10-18 2004-11-18 Siemens Ag Verfahren zum Vortäuschen einer Bewegung mittels einer akustischen Wiedergabeeinrichtung und Schallwiedergabeanordnung dafür
JP2007228336A (ja) * 2006-02-24 2007-09-06 Alpine Electronics Inc 車載用オーディオ/ビデオ装置及びソース選択方法
JP4372169B2 (ja) * 2007-02-26 2009-11-25 株式会社ソニー・コンピュータエンタテインメント オーディオ再生装置およびオーディオ再生方法
JP5217280B2 (ja) * 2007-07-27 2013-06-19 ヤマハ株式会社 音処理装置およびプログラム
JP5151521B2 (ja) * 2008-02-08 2013-02-27 株式会社デンソー 情報特定装置,情報特定方法およびプログラム
CN117765839B (zh) * 2023-12-25 2024-07-16 广东保伦电子股份有限公司 一种室内智慧导览方法、装置及存储介质

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3786294B2 (ja) * 1995-10-02 2006-06-14 ソニー株式会社 画像制御装置および方法
JP3309735B2 (ja) * 1996-10-24 2002-07-29 三菱電機株式会社 音声マンマシンインタフェース装置
JPH1139132A (ja) * 1997-07-15 1999-02-12 Sharp Corp インターフェースシステム

Also Published As

Publication number Publication date
JP2001125767A (ja) 2001-05-11

Similar Documents

Publication Publication Date Title
JP3629384B2 (ja) 情報選択装置及び記録媒体
US6983251B1 (en) Information selection apparatus selecting desired information from plurality of audio information by mainly using audio
US7735012B2 (en) Audio user interface for computing devices
US10540394B1 (en) Configuring a playlist or sequence of compositions or stream of compositions
US9135901B2 (en) Using recognition-segments to find and act-upon a composition
JP4561766B2 (ja) 音データ検索支援装置、音データ再生装置、プログラム
US20090282335A1 (en) Electronic device with 3d positional audio function and method
US20020105534A1 (en) Universal media bar for controlling different types of media
KR101386852B1 (ko) 공간적 청각 큐들을 이용한 데이터 검색
KR101419764B1 (ko) 휴대단말기의 음성 이모티콘 제어방법
JP3766770B2 (ja) 情報提示装置、情報提示方法、及び情報提示プログラムを記録したコンピュータで読取可能な記録媒体
JP2003348243A (ja) 音声情報をアーカイブする技術
US6697841B1 (en) Dictation system employing computer-to-computer transmission of voice files controlled by hand microphone
JP3763300B2 (ja) テンプレートファイル編集装置及び編集プログラム
US8032241B2 (en) Apparatus for playing back audio files and method of navigating through audio files using the apparatus
JP2001290841A (ja) 情報提示装置、情報提示方法および情報提示プログラムを記録したコンピュータで読取可能な記録媒体
EP0529729A1 (en) Device having functional means supported by ancillary message reproduction means
JP2006012257A (ja) 楽曲選択装置、楽曲選択システム、及び楽曲選択方法
JP4520375B2 (ja) 音声操作支援装置、電子機器、画像形成装置およびプログラム
JP2004252652A (ja) 電子機器
JP2007311020A (ja) 再生装置、再生方法、及び車載用再生装置
JP2002334098A (ja) 情報選択方法、情報選択装置、情報選択サーバ、情報選択クライアント装置、コンピュータを情報選択装置として機能させるためのプログラムおよびそれを記録した記録媒体
JPWO2020183749A1 (ja) 再生装置及びその制御方法
US20120275605A1 (en) Audio Playback
KR20070066022A (ko) 휴대용 음원 재생기에서의 파일 정보 음성 출력 방법

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20040831

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040907

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041108

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20041108

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20051122

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060110

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060124

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060130

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100203

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100203

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110203

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120203

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120203

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130203

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130203

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140203

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees