JP4047323B2 - 情報処理装置及びその方法、プログラム - Google Patents

情報処理装置及びその方法、プログラム Download PDF

Info

Publication number
JP4047323B2
JP4047323B2 JP2004294273A JP2004294273A JP4047323B2 JP 4047323 B2 JP4047323 B2 JP 4047323B2 JP 2004294273 A JP2004294273 A JP 2004294273A JP 2004294273 A JP2004294273 A JP 2004294273A JP 4047323 B2 JP4047323 B2 JP 4047323B2
Authority
JP
Japan
Prior art keywords
display
displayed
content
range
output
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004294273A
Other languages
English (en)
Other versions
JP2005055920A (ja
Inventor
桂一 酒井
哲夫 小坂
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2004294273A priority Critical patent/JP4047323B2/ja
Publication of JP2005055920A publication Critical patent/JP2005055920A/ja
Application granted granted Critical
Publication of JP4047323B2 publication Critical patent/JP4047323B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

本発明は、コンテンツデータに基づいて、情報表示及び音声入出力を制御するマルチモーダル入出力装置及びその方法、プログラムに関するものである。
インターネットを用いたインフラストラクチャーの充実により、ニュースのような日々刻々として新たに発生する情報(フロー情報)を身近な情報機器によって入手可能な環境が整いつつある。こうした情報機器は、主にGUIを用いて操作することが主流であった。
一方、音声認識技術、音声規則合成技術といった音声入出力技術の進歩により、電話等の音声のみのモダリティを用いて、GUIの操作を音声に置き換えるCTI(Computer Telephony Integration)といった技術も進歩してきている。
また、これを応用して、ユーザインタフェースとしてGUIと音声入出力を併用するマルチモーダルインタフェースの需要が高まってきている。例えば、特許文献1では、GUI上のメール表示画面内のメールを音声出力で読み上げ、かつその読み上げ箇所をカーソル表示し、更に、そのメールの音声出力の進行に伴って、メール表示画面をスクロールする技術を開示している。
特開平9−190328号
しかしながら、こうした画像表示と音声入出力を併用可能なマルチモーダル入出力装置においては、GUI上に表示されている表示範囲をユーザが変更した際には、その表示範囲の変更に伴う音声出力を適切に制御できないという課題があった。
本発明は上記の問題点に鑑みてなされたものであり、表示エリアに表示されていないデータであっても、表示されているデータに連続するデータについても音声合成することで、表示データに連続するデータをもれなく音声合成することができる情報処理装置及びその方法、プログラムを提供することを目的とする。
上記の目的を達成するための本発明による情報処理装置は以下の構成を備える。即ち、 コンテンツデータを表示エリアに表示するよう制御する表示制御手段と、
前記表示エリア内のコンテンツデータの表示範囲を変更する変更手段と、
前記表示範囲を示す表示範囲情報を保持する表示範囲保持手段と、
前記表示範囲情報に基づいて、前記表示エリアに表示されているコンテンツデータと、前記表示エリアに表示されていないコンテンツデータ中で、前記表示エリアに表示されているコンテンツデータと連続するコンテンツデータとを、音声合成の対象とするデータとして判定する判定手段と、
前記判定手段で判定されたデータの音声合成を行う音声合成手段と
を備える。
また、好ましくは、前記コンテンツデータは、テキスト情報を含み、
前記判定手段は、前記テキスト中の一文が途中で表示されていない場合に、該一文全てを音声合成の対象とするデータとして判定する。
上記の目的を達成するための本発明による情報処理方法は以下の構成を備える。即ち、
コンテンツデータを表示エリアに表示するよう制御する表示制御工程と、
前記表示エリア内のコンテンツデータの表示範囲を変更する変更工程と、
前記表示範囲を示す表示範囲情報に基づいて、前記表示エリアに表示されているコンテンツデータと、前記表示エリアに表示されていないコンテンツデータ中で、前記表示エリアに表示されているコンテンツデータと連続するコンテンツデータとを、音声合成の対象とするデータとして判定する判定工程と、
前記判定工程で判定されたデータの音声合成を行う音声合成工程と
を備える。
上記の目的を達成するための本発明によるプログラムは以下の構成を備える。即ち、
コンテンツデータを表示エリアに表示するよう制御する表示制御工程のプログラムコードと、
前記表示エリア内のコンテンツデータの表示範囲を変更する変更工程のプログラムコードと、
前記表示範囲を示す表示範囲情報に基づいて、前記表示エリアに表示されているコンテンツデータ及び前記表示エリアに表示されていないコンテンツデータ中で、前記表示エリアに表示されているコンテンツデータと連続するコンテンツデータを音声合成の対象とするデータとして判定する判定工程のプログラムコードと、
前記判定工程で判定されたデータの音声合成を行う音声合成工程のプログラムコードと
を備える。
本発明によれば、表示エリアに表示されていないデータであっても、表示されているデータに連続するデータについても音声合成することで、表示データに連続するデータをもれなく音声合成することができる情報処理装置及びその方法、プログラムを提供することができる。
以下、図面を参照して本発明の好適な実施形態を詳細に説明する。
<実施形態1>
図1は本発明の実施形態1のマルチモーダル入出力装置のハードウェアの構成例を示すブロック図である。
マルチモーダル入出力装置において、101は、GUIを表示するためのディスプレイ装置である。102は、数値演算・制御等の処理を行うCPU等のCPUである。103は、後述する各実施形態の処理手順や処理に必要な一時的なデータおよびプログラム、若しくは、音声認識用文法データや音声モデル等の各種データを格納するメモリである。このメモリ103は、ディスク装置等の外部メモリ装置若しくはRAM・ROM等の内部メモリ装置からなる。
104は、デジタル音声信号からアナログ音声信号へ変換するD/A変換器である。105は、D/A変換器104で変換されたアナログ音声信号を出力するスピーカである。106は、マウスやスタイラス等のポインティングデバイス及びキーボードの各種キー(アルファベットキー、テンキー、それに付与されている矢印ボタン等)、あるいは音声入力可能なマイクを用いて各種データの入力を行う指示入力部である。107は、ネットワークを介して、Webサーバ等の外部装置とデータの送受信を行う通信部である。108は、バスであり、マルチモーダル入出力装置の各種構成要素を相互に接続する。
また、後述するマルチモーダル入出力装置それぞれで実現される各種機能は、装置のメモリ103に記憶されるプログラムがCPU102によって実行されることによって実現されても良いし、専用のハードウェアで実現されても良い。
図2は本発明の実施形態1のマルチモーダル入出力装置の機能構成を示す図である。
図2において、201はディスプレイ101に表示するGUIの内容(コンテンツ)を保持するコンテンツ保持部であり、メモリ103に格納される。コンテンツ保持部201に保持されるコンテンツは、プログラムによって記述されたものでも構わないし、XMLやHTMLなどのマークアップ言語で記述されたハイパーテキスト文書でも構わない。
202は、コンテンツ保持部201に保持されたコンテンツをディスプレイ101にGUIとして表示するGUI表示部である。GUI表示部202は、例えば、ブラウザ等で実現される。203は、GUI表示部202に表示されているコンテンツの表示範囲を示す表示範囲情報を保持する表示範囲保持部である。
ここで、図3にコンテンツ保持部201に保持されるHTMLで記述されたコンテンツ例、図4にそのGUI表示部202におけるGUI表示例、図5にそのGUI表示例に対して表示範囲保持部203で保持される表示範囲情報例を示す。
図4では、GUI表示部202がコンテンツを表示するための表示エリア(例えば、ブラウザ画面)400において、401はコンテンツのヘッダ、402はコンテンツ本文、403はコンテンツの表示範囲を縦方向にスクロールするスクロールバー、404はコンテンツ中のカーソルを示す。
また、図5においては、表示範囲保持部203に保持される表示範囲情報として、その先頭位置(図3における10行目の24バイト目)を示している。
尚、表示範囲情報としては、他の例えば、コンテンツの先頭からの総バイト目で保持しても構わないし、先頭からの何文目や、何文目の何文節目、あるいは何文目の何文字目等の表示範囲を特定できる情報であれば、どのような構成の情報で保持しても構わない。また、先頭位置の情報に限らず、表示範囲中の音声合成対象のテキストデータをそのまま保持する構成でもかまわない。コンテンツがハイパーテキスト文書のようにいくつかのフレームにわかれている場合は、デフォルトのフレーム、もしくは、ユーザが明示的に選択したフレームの先頭位置を表示範囲情報とする。
図2の説明に戻る。
204は、指示入力部106から表示範囲の切替を入力する表示範囲切替入力部である。205は、表示範囲切替入力部204により入力された表示範囲の切替に基づき、表示範囲保持部203に保持される表示範囲情報を切り替える表示範囲切替部である。そして、この表示範囲情報に基づいて、GUI表示部202は、表示エリア400内の表示対象のコンテンツの表示範囲を更新する。
206は、表示範囲保持部203に保持された表示範囲情報から、コンテンツ中の音声合成対象の合成文(テキストデータ)を判定する合成文判定部である。つまり、表示範囲情報で特定される表示範囲内に含まれるコンテンツ中のテキストデータを音声合成対象の合成文として判定する。
207は、合成文判定部206で判定された合成文の音声合成を行う音声合成部である。208は、音声合成部207で合成されたデジタル音声信号をD/A変換器104を通してアナログ音声信号に変換し、スピーカ105から合成音声(アナログ音声信号)を出力する音声出力部である。209は、図2の各種構成要素を相互に接続するバスである。
次に、実施形態1のマルチモーダル入出力装置が実行する処理について、図6を用いて説明する。
図6は本発明の実施形態1のマルチモーダル入出力装置が実行する処理を示すフローチャートである。
まず、ステップS601で、コンテンツ保持部201に保持されたコンテンツを、GUI表示部202に表示する。ステップS602で、GUI表示部202に表示されたコンテンツの表示範囲(例えば、左上の位置)を計測し、表示範囲保持部203に表示範囲情報を保持する。ステップS603で、合成文書判定部206において、コンテンツ中の音声合成対象の合成文を判定し、音声合成部207に送信する。
ステップS604で、音声合成部207において、合成文判定部206から受信した音声合成対象の合成文の音声合成を行う。ステップS605で、音声出力部208において、スピーカ105より合成された音声を出力し、終了する。
尚、ステップS604〜エンドの間においては、指示入力部106による表示範囲の変更が随時可能であり、その変更の有無を判定する処理を、ステップS606で実行する。
ステップS606では、スクロールバー403に対して、例えば、ポインティングデバイスによるドラッグ操作や、カーソル404に対するキーボード上の矢印キーの押下によって、表示範囲の変更がある場合(ステップS606でYES)、ステップS607に進む。ステップS607では、表示範囲の変更が発生した時点で実行していたステップS604あるいはステップS605の処理を中断した後、表示範囲の変更を実行し、ステップS601に戻る。
尚、この表示範囲の変更中に、その変更中である旨をユーザに報知するために、例えば、カセットテープレコーダの早送り、巻き戻し時に発生する音に似た効果音(「キュルキュル」等)を音声出力する構成としても構わない。
また、実施形態1では、スクロールバー403は、表示エリア400内のコンテンツを縦方向にスクロールするものであるが、横方向にスクロールする横スクロールバーを構成して、コンテンツの横方向の一部のみを表示する場合も考えられる。しかしながら、横方向で表示されない部分のコンテンツは、通常、表示されている部分のコンテンツとテキストとしてつながっているので、そういう場合には、横スクロールバー表示により表示されていない範囲のテキスト部分も音声合成を行うものとする。但し、例えば、表形式で表されているものなど、オブジェクトとして表示部分と独立した箇所と考えられるものについては、この横スクロールバーによってコンテンツの表示範囲が変更された場合にも、上記実施形態1で説明した処理を、同様に適用するようにしても構わない。
更に、表示エリア400のサイズは固定のものとして説明しているが、表示エリア400のサイズは、ポインティングデバイスによるドラッグ操作や、カーソル404に対するキーボードのキー操作によって変更することが可能である。このような表示エリア400のサイズ自体が変更されて、コンテンツの表示範囲が変更された場合にも、上記実施形態1で説明した処理を、同様に適用することができる。
以上説明したように、実施形態1によれば、表示範囲内で表示される音声合成対象の合成文に対する音声合成/出力中に、表示範囲の変更がある場合でも、表示範囲の変更による表示範囲内で表示される音声合成対象の合成文の変更に応じて、音声出力内容を連動して変更することができる。これにより、ユーザに違和感のない音声出力とGUI表示を提供することができる。
<実施形態2>
音声出力機能を有するiモード端末(NTTドコモ社が提供するiモードサービスを利用可能な端末)やPDA(Personal Digital Assistant)等の比較的表示画面が小さい携帯端末でコンテンツを出力する場合には、その出力方法として、表示対象のコンテンツ中の概要部分のみをGUI表示し、詳細部分については、GUI表示せず、音声合成により出力する構成が想定される。
例えば、図3のコンテンツ例をPDA及びiモード端末それぞれで出力する場合について、図7及び図8用いて説明する。
図7は、iモード端末よりは表示画面が大きいPDAの表示画面における図3のコンテンツのGUI表示例である。特に、PDAを想定したマルチモーダル入出力装置においては、図3のコンテンツ中の「見出し」に相当する見出し部分(<h1>〜</h1>タグで囲まれるテキストデータ)及び「概要」に相当する概要部分(<h2>〜</h2>タグで囲まれるテキストデータ)をGUI表示する。また、コンテンツ中の「詳細内容」に相当する詳細内容部分(<h3>〜</h3>タグで囲まれるテキストデータ)をGUI表示せず、音声合成のみで出力する。
また、図8は、PDAよりは表示画面が小さいiモード端末の表示画面における図3のコンテンツのGUI表示例である。特に、iモード端末を想定したマルチモーダル入出力装置においては、図3のコンテンツ中の見出し部分(<h1>〜</h1>タグで囲まれるテキストデータ)をGUI表示する。また、概要部分(<h2>〜</h2>タグで囲まれるテキストデータ)及び詳細内容部分(<h3>〜</h3>タグで囲まれるテキストデータ)は、GUI表示せず、音声合成のみで出力する。更に、図8のGUI表示例では、コンテンツ全体に対する表示部分をスクロールバーで表現せずに、表示部分内の選択箇所は非選択箇所と区別するために、その表示形態を非選択箇所の表示形態とは異ならせて表示する。例えば、選択箇所を下線で表現し、図8のGUI表示例では、「見出し」に相当する見出し部分が選択状態であることを示している。
尚、この選択箇所の表示形態は、下線に限定されず、色付き表示、ブリンク表示、別フォント表示、別スタイル表示等の非選択箇所と区別がつくような表示形態であればどのようなものでも良い。
このような携帯端末において、実施形態1の図6のフローチャートで説明される処理を応用すれば、音声合成対象の合成文がGUI上に表示されていない場合に、指示入力部106からスクロールバーに対するポインティングデバイスによる表示範囲の移動や、矢印キーによる選択部分の表示画面の切替入力により、その移動や切替入力に応じて音声合成対象の合成文を変更することができる。
このような構成の場合は、図2の表示範囲保持部203で保持する表示範囲情報は、現在表示されているコンテンツの先頭位置、もしくは、見出し部分や概要部分のテキストデータを保持しておく。そして、合成文判定部206は、この表示範囲情報から得られるテキストデータを音声合成対象の合成文として判定する。
以上説明したように、実施形態2によれば、比較的表示画面が小さい携帯端末のような、音声合成出力される音声に対応するテキストデータが表示画面に表示されない場合においても、表示画面の移動や表示画面の切替に応じて、音声出力内容を連動して変更することができる。これにより、ユーザに違和感のない音声出力とGUI表示を提供することができる。
<実施形態3>
実施形態3では、実施形態1の図2のマルチモーダル入出力装置の機能構成に加えて、図9に示すように、コンテンツ中の既に音声出力した範囲を保持する既出力範囲保持部901を構成する。このような構成にすることで、既出力範囲保持部901に保持された範囲は音声出力を禁止することができ、既に音声出力した範囲を再度音声出力しないようにして、無駄な音声出力を排除することができる。
次に、実施形態3のマルチモーダル入出力装置が実行する処理について、図10を用いて説明する。
図10は本発明の実施形態3のマルチモーダル入出力装置が実行する処理を示すフローチャートである。
尚、図10のフローチャートは、実施形態1の図6のフローチャートのステップS603とステップS604の間に、ステップS1001を追加した構成である。
ステップS1001では、既に音声出力した範囲を示す既出力範囲情報を既出力範囲保持部901に保持する。その後、表示範囲の変更が発生し、再度、ステップS603の処理を行う場合は、合成文判定部206は、既出力範囲保持部901に保持されている既出力範囲情報を参照して、既に音声出力した合成文以外から音声合成対象の合成文を判定する。
これに加えて、ステップS601の処理において、既出力範囲保持部901に保持されている既出力範囲情報を参照して、既に音声出力した範囲の色やフォントを、まだ音声出力していない範囲の色やフォントと変えることにより、音声出力の範囲の有無をユーザにわかりやすく提示するような構成にすることもできる。
尚、既出力範囲保持部901に保持する既出力範囲情報は、表示範囲保持部203に保持する表示範囲情報と、同様の概念で、既に音声出力した範囲を特定できる情報であればどのようなものでも構わない。
以上説明したように、実施形態3によれば、コンテンツ中の既に音声出力した範囲を保持しておくことで、表示範囲の変更に応じて、音声出力内容を変更する場合に、その音声出力した範囲を除外して音声出力内容を判定することができる。これにより、無駄な音声出力を排除することができ、ユーザに適切でかつ効率的なコンテンツ出力を提供することができる。
<実施形態4>
実施形態3では、既に音声出力した範囲は、音声合成出力を禁止する構成としたが、この既に音声出力した範囲は再度音声合成するか否かをユーザが動的に変更する構成にすることもできる。実施形態4では、この構成を実現するために、図11に示すように、実施形態3の図9のマルチモーダル入出力装置の機能構成に加えて、既に音声出力した範囲の再音声出力の可否を示す再々生可否情報を保持する再々生可否保持部1101を構成する。
この再々生可否情報の入力は、図4の表示エリア400上に構成されるボタンやメニュー等から切り替える構成にしても構わない。
あるいは、図12に示すように、既に音声出力した範囲が再度、指示入力部106から指示入力された場合に、既出力範囲保持部901に保持されている既出力範囲情報を削除する既出力範囲変更部1201を構成しても構わない。
以上説明したように、実施形態4によれば、実施形態3で説明した効果に加えて、ユーザの要求に応じて、コンテンツ中の既に音声出力した範囲を再度音声出力することができる。
<実施形態5>
上記実施形態1〜4で説明した処理を、コンテンツ中のマークアップ言語のタグで設定して実現する構成にしても構わない。このような構成を実現するためのマークアップ言語を用いて記述したコンテンツ例を図13及び図14に、また、図3、図13及び図14のコンテンツによるGUI表示例を図15に示す。
図13中の「<TextToSpeech」〜「>」で囲まれた部分が音声合成に係る制御を記述する音声合成制御タグである。また、この音声合成制御タグで囲まれる部分中のinterlock_mode属性およびrepeat属性のon/offにより、音声合成対象の合成文の音声出力と表示とを連動させるか否か、また、既に音声出力した範囲を再度音声合成するか否かを定義する。つまり、interlock_mode属性が「on」である場合には、音声合成対象の合成文の音声出力と表示とを連動させ、「off」である場合には、音声合成対象の合成文の音声出力と表示とを連像させない。また、repeat属性が「on」である場合には、既に音声出力した範囲を再度音声合成し、「off」である場合には、既に音声出力した範囲を再度音声合成する。
また、この音声合成制御タグで定義される属性のon/offの設定は、例えば、図14のコンテンツによって実現される図15のフレーム1501内のトグルボタン1502及び1503で実行する。
フレーム1501において、トグルボタン1502は、音声合成対象の合成文の音声出力とを表示とを連動させるか否かを切替指示するトグルボタンである。また、トグルボタン1503は、既に音声出力した範囲を再度音声合成するか否かを切替指示するトグルボタンである。そして、それぞれのトグルボタンの操作状態に応じて、図13中の制御スクリプトが、音声合成対象の合成文の音声出力と表示とを連動させるか否か、また、既に音声出力した範囲を再度音声合成するか否かの切替を制御する。
以上説明したように、実施形態5によれば、実施形態1〜4で説明した処理を汎用性の高いマークアップ言語を用いて記述したコンテンツで実現することで、ユーザは、そのコンテンツを表示可能なブラウザを用いるだけで実施形態1〜4で説明した処理と同等の処理を実現することができる。また、実施形態1〜4で説明した処理を実現するための機器依存性を低減し、開発効率を向上することができる。
尚、本発明は、前述した実施形態の機能を実現するソフトウェアのプログラム(実施形態では図に示すフローチャートに対応したプログラム)を、システム或いは装置に直接或いは遠隔から供給し、そのシステム或いは装置のコンピュータが該供給されたプログラムコードを読み出して実行することによっても達成される場合を含む。その場合、プログラムの機能を有していれば、形態は、プログラムである必要はない。
従って、本発明の機能処理をコンピュータで実現するために、該コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明は、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。
その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等、プログラムの形態を問わない。
プログラムを供給するための記録媒体としては、例えば、フロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、MO、CD−ROM、CD−R、CD−RW、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD−ROM,DVD−R)などがある。
その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続し、該ホームページから本発明のコンピュータプログラムそのもの、もしくは圧縮され自動インストール機能を含むファイルをハードディスク等の記録媒体にダウンロードすることによっても供給できる。また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWWサーバも、本発明に含まれるものである。
また、本発明のプログラムを暗号化してCD−ROM等の記憶媒体に格納してユーザに配布し、所定の条件をクリアしたユーザに対し、インターネットを介してホームページから暗号化を解く鍵情報をダウンロードさせ、その鍵情報を使用することにより暗号化されたプログラムを実行してコンピュータにインストールさせて実現することも可能である。
また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される他、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどが、実際の処理の一部または全部を行い、その処理によっても前述した実施形態の機能が実現され得る。
さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によっても前述した実施形態の機能が実現される。
本発明の実施形態1のマルチモーダル入出力装置のハードウェアの構成例を示すブロック図である。 本発明の実施形態1のマルチモーダル入出力装置の機能構成を示す図である。 本発明の実施形態1のコンテンツ例を示す図である。 本発明の実施形態1のGUI表示例を示す図である。 本発明の実施形態1の表示範囲情報例を示す図である。 本発明の実施形態1のマルチモーダル入出力装置が実行する処理を示すフローチャートである。 本発明の実施形態2のGUI表示例を示す図である。 本発明の実施形態2の別のGUI表示例を示す図である。 本発明の実施形態3のマルチモーダル入出力装置の機能構成を示す図である。 本発明の実施形態3のマルチモーダル入出力装置が実行する処理を示すフローチャートである。 本発明の実施形態4のマルチモーダル入出力装置の機能構成を示す図である。 本発明の実施形態4の別のマルチモーダル入出力装置の機能構成を示す図である。 本発明の実施形態5のコンテンツ例を示す図である。 本発明の実施形態5の別のコンテンツ例を示す図である。 本発明の実施形態5のGUI表示例を示す図である。
符号の説明
101 ディスプレイ
102 CPU
103 メモリ
104 D/A変換器
105 スピーカ
106 指示入力部
201 コンテンツ保持部
202 GUI表示部
203 表示範囲保持部
204 表示範囲切替入力部
205 表示範囲切替部
206 合成文判定部
207 音声合成部
208 音声出力部
209 バス
901 既出力範囲保持部
1101 再々生可否保持部
1201 既出力範囲変更部

Claims (3)

  1. テキスト情報を含むコンテンツデータを表示エリアに表示するよう制御する表示制御手段と、
    前記表示エリア内のコンテンツデータの表示範囲を変更する変更手段と、
    前記表示範囲を示す表示範囲情報を保持する表示範囲保持手段と、
    前記表示範囲情報に基づいて、前記コンテンツデータの前記表示エリアに表示されている部分と、前記コンテンツデータ内のテキスト情報中の一文が途中から表示されていない場合には、該一文の表示されていない部分とを音声合成の対象とするデータとして判定する判定手段と、
    前記判定手段で判定されたデータの音声合成を行う音声合成手段と
    を備えることを特徴とする情報処理装置。
  2. テキスト情報を含むコンテンツデータを表示エリアに表示するよう制御する表示制御工程と、
    前記表示エリア内のコンテンツデータの表示範囲を変更する変更工程と、
    前記表示範囲情報に基づいて、前記コンテンツデータの前記表示エリアに表示されている部分と、前記コンテンツデータ内のテキスト情報中の一文が途中から表示されていない場合には、該一文の表示されていない部分とを音声合成の対象とするデータとして判定する判定工程と、
    前記判定工程で判定されたデータの音声合成を行う音声合成工程と
    を備えることを特徴とする情報処理方法。
  3. テキスト情報を含むコンテンツデータを表示エリアに表示するよう制御する表示制御工程のプログラムコードと、
    前記表示エリア内のコンテンツデータの表示範囲を変更する変更工程のプログラムコードと、
    前記表示範囲情報に基づいて、前記コンテンツデータの前記表示エリアに表示されている部分と、前記コンテンツデータ内のテキスト情報中の一文が途中から表示されていない場合には、該一文の表示されていない部分とを音声合成の対象とするデータとして判定する判定工程のプログラムコードと、
    前記判定工程で判定されたデータの音声合成を行う音声合成工程のプログラムコードと
    を備えることを特徴とするプログラム。
JP2004294273A 2004-10-06 2004-10-06 情報処理装置及びその方法、プログラム Expired - Fee Related JP4047323B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004294273A JP4047323B2 (ja) 2004-10-06 2004-10-06 情報処理装置及びその方法、プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004294273A JP4047323B2 (ja) 2004-10-06 2004-10-06 情報処理装置及びその方法、プログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2001381697A Division JP3884951B2 (ja) 2001-12-12 2001-12-14 情報処理装置及びその方法、プログラム

Publications (2)

Publication Number Publication Date
JP2005055920A JP2005055920A (ja) 2005-03-03
JP4047323B2 true JP4047323B2 (ja) 2008-02-13

Family

ID=34373775

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004294273A Expired - Fee Related JP4047323B2 (ja) 2004-10-06 2004-10-06 情報処理装置及びその方法、プログラム

Country Status (1)

Country Link
JP (1) JP4047323B2 (ja)

Also Published As

Publication number Publication date
JP2005055920A (ja) 2005-03-03

Similar Documents

Publication Publication Date Title
JP3938121B2 (ja) 情報処理装置及びその制御方法、プログラム
JP4006338B2 (ja) 情報処理装置及びその方法、プログラム
KR101445869B1 (ko) 미디어 인터페이스
RU2355045C2 (ru) Последовательный мультимодальный ввод
JP2005149484A (ja) 逐次的なマルチモーダル入力
JP2002342212A (ja) 情報アクセス方法、情報アクセスシステムおよびプログラム
JP2001014319A (ja) ハイパーテキストアクセス装置
JP2011175598A (ja) 手話アニメーション生成装置及び手話アニメーション生成プログラム
JP2007328510A (ja) コンテンツ変換装置、コンテンツ表示装置、コンテンツ閲覧装置、コンテンツ変換方法、コンテンツ閲覧方法およびプログラム
JP7200533B2 (ja) 情報処理装置およびプログラム
JP3733322B2 (ja) マルチモーダル文書受信装置及びマルチモーダル文書送信装置、マルチモーダル文書送受信システム及びそれらの制御方法、プログラム
KR100826778B1 (ko) 멀티모달을 위한 브라우저 기반의 무선 단말과, 무선단말을 위한 브라우저 기반의 멀티모달 서버 및 시스템과이의 운용 방법
KR101968669B1 (ko) 통화 서비스 제공 방법 및 컴퓨터 프로그램
JP3884951B2 (ja) 情報処理装置及びその方法、プログラム
JP2009098727A (ja) 画像表示装置、画像ビューアプログラム
JP4047323B2 (ja) 情報処理装置及びその方法、プログラム
JP3958348B1 (ja) 携帯電話の制御方法、携帯電話及び携帯電話のプログラム
WO2001042975A1 (fr) Procede et dispositif de traitement de l'information, et support
JP7140016B2 (ja) 音声出力方法、音声出力システム及びプログラム
JP3558052B2 (ja) マルチメディア実行システム、マルチメディアファイルの実行方法およびシーケンサにより読み出し可能なマルチメディアファイル構造体
JP2002268664A (ja) 音声変換装置及びプログラム
JP2004171111A (ja) Webブラウザ制御方法及び装置
JP2003202890A (ja) 音声認識装置及びその方法、プログラム
KR20020036895A (ko) 전자책 서비스 시스템
JP2000339132A (ja) 文書音声化装置および文書音声化方法

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20041210

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20050318

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050518

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20050524

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20050617

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20071121

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101130

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101130

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111130

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121130

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131130

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees