JP2008021002A - Webサーバ装置、表示情報音声合成装置及びプログラム - Google Patents

Webサーバ装置、表示情報音声合成装置及びプログラム Download PDF

Info

Publication number
JP2008021002A
JP2008021002A JP2006190481A JP2006190481A JP2008021002A JP 2008021002 A JP2008021002 A JP 2008021002A JP 2006190481 A JP2006190481 A JP 2006190481A JP 2006190481 A JP2006190481 A JP 2006190481A JP 2008021002 A JP2008021002 A JP 2008021002A
Authority
JP
Japan
Prior art keywords
document
information
screen
transition
transition source
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2006190481A
Other languages
English (en)
Inventor
Takashi Ueno
高史 上野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd filed Critical Fuji Xerox Co Ltd
Priority to JP2006190481A priority Critical patent/JP2008021002A/ja
Publication of JP2008021002A publication Critical patent/JP2008021002A/ja
Pending legal-status Critical Current

Links

Images

Abstract

【課題】 遷移先から遷移元画面に戻った場合、遷移前に最後に操作された個所に続く個所からの表示要素の音声合成出力へと迅速に移行できるようにする。
【解決手段】 文書再構築情報管理部153は、Webブラウザ151により表示された画面上で、別文書をリンク先とする文字列が選択された場合、遷移元文書のリンク先情報と、最後の操作個所情報を文書再構築制御情報として保持、管理し、文書再構築部154は、遷移先画面上で遷移元文書をリンク先とする文字列が選択された場合、該遷移元文書に対応する文書再構築制御情報に基づき、読上げ開始タグ及びスキップタグを付加した遷移元文書を再構築し、該再構築文書に基づき遷移元画面が表示されると、読上げ制御部152が、スキップタグ間に囲まれている表示要素をスキップし、読上げ開始タグに続く表示要素から音声読上げを再開する。
【選択図】 図2

Description

本発明は、ハイパーテキスト形式の文書に基づく画面の表示中、該画面上の表示要素を音声合成して出力する表示情報音声合成装置及びプログラム、並びに、表示情報音声合成装置に音声合成処理用の文書情報を渡すWebサーバ装置に関する。
コンピュータのネットワークにおいて、例えば、クライアントPC(パーソナル・コンピュータ)からWebアプリケーションを操作してWeb情報を閲覧するWebブラウザの一つに、ユーザが指定したWeb宛先から取得した情報を基にWeb画面を表示したうえで、該Web画面に表示された情報(テキスト)を音声に変換して出力する(表示情報を音声により読上げる)音声ブラウザがある。
音声ブラウザでWebアプリケーションを操作する場合、画面上の特定の個所を読上げる技術として、例えば、画面に共通に表示されているナビゲーション部分などをユーザ操作によりスキップする技術が知られている。
表示情報の特定個所を読上げる制御の他の例として、例えば、下記特許文献1には、ユーザが、ウインドウの大きさを変えて画面の特定の位置を表示させる操作を行うことにより、画面の任意の個所を読上げ対象にする技術が開示されている。
また、下記特許文献2には、読上げる個所を容易な操作で指示することでテキストの任意の一部を読上げ対象にする技術、具体的には、リモコンの矢印キーを操作することによりタグの要素を順次選択し、選択された範囲の要素であるテキストを音声化する技術が開示されている。
また、下記特許文献3には、読上げるテキストにリンクが含まれている場合、そのリンク先のテキストも読上げる技術が開示されている。
また、下記特許文献4には、文字列を抽出して音声合成させていくなかで、抽出した文字列がリンクキーワード(リンクを示すキーワード)の場合は、音声再生回数が一回目の時、抽出したリンクキーワードの1つ前のリンクポインタを設定することで、移動指示の遅れにより意図するリンク先とは異なるリンク先へ移動してしまうことを防止する技術が開示されている。
特開2003−44070号公報 特開2000−339132号公報 特開2002−229578号公報 特開2001−14319号公報
上述した公知技術(第1乃至第4の特許文献記載の技術)のうち、読上げ範囲を特定する技術は、特定の部位を予めまたは読上げ時にユーザ操作によって指定する必要があり、Webアプリケーションが状況に応じて動的に読上げ開始個所を音声ブラウザに指定することはできなかった。
また、リンク先を読上げる技術は、リンク先の全ての情報を単純に読上げることしかできなかった。
従って、画面上のコマンドボタンなどを操作することで別画面や同一画面内の別の個所に一旦遷移した後、その画面での操作によって元の画面または位置に戻ってきた時に、元の画面で操作を続けるために当該画面上のコマンドボタンまでの任意区間の音声ブラウザによる音声読上げを飛ばし、できるだけ早く、該コマンドボタンの直後の位置からの音声読上げを再開するという運用は実現できなかった。
本発明は、上記問題点を解消し、リンク先が関連付けられた表示要素を選択する等の遷移操作により遷移した遷移先から遷移元画面に戻った場合、該遷移元画面で遷移前に最後に操作された個所までの任意区間の音声合成出力をスキップし、当該最後に操作された個所に続く個所からの表示要素の音声合成出力へと迅速に移行できるWebサーバ装置、表示情報音声合成装置及びプログラムを提供することを目的とする。
上記目的を達成するために、請求項1記載の発明は、ハイパーテキスト形式の文書を取得して画面に表示する表示制御手段と、前記表示制御手段により表示された画面上で、遷移先へのリンク情報を保持するリンク保持情報が選択された場合、該画面に対応する遷移元文書のリンク先情報と、該遷移元文書中の最後に操作された個所を示す最後の操作個所情報を文書再構築制御情報として保持、管理する情報管理手段と、前記画面上での前記リンク保持情報の選択に応じて遷移した遷移先画面上で遷移元文書へのリンク情報を保持するリンク保持情報が選択された場合、前記情報管理手段により該遷移元文書に対応して管理される文書再構築制御情報に基づき、当該遷移元文書上の前記最後の操作個所情報に対応する個所を音声合成出力の開始箇所として指示する音声合成開始タグ、及び、前記音声合成開始タグ直前までの任意区間を音声合成出力をスキップする区間として指示するスキップタグを付加した遷移元文書を再構築する文書再構築手段と、前記再構築された遷移元文書に基づき前記表示制御手段により表示される遷移元画面上で、該遷移元文書中の前記スキップタグにより指示された区間に対応する表示要素をスキップした後、前記音声合成開始タグに続く表示要素から順に音声合成して出力させる音声合成出力制御手段とを具備することを特徴とする。
請求項2記載の発明は、上記請求項1記載の発明において、前記情報管理手段は、前記遷移元画面から遷移した前記遷移先画面を第1の遷移先画面として、第nの遷移先画面まで順繰りに遷移が繰り返される場合、各回の遷移が行われる毎に、その回の遷移元画面に対応する文書の情報、該文書に対応する最後の操作個所情報を時系列に文書再構築制御情報として管理し、前記文書再構築手段は、前記第nの遷移先画面から前記第1の遷移先画面まで順繰りに遷移を戻す場合、各回の遷移戻しが行われる毎に、その回の遷移元画面に対応して管理されている前記文書再構築制御情報を基に、前記音声合成開始タグ及びスキップタグを付加した遷移元文書を再構築することを特徴とする。
請求項3記載の発明は、上記請求項1または2記載の発明において、前記情報管理手段は、前記遷移元文書のリンク先情報に基づき取得した遷移元文書と、前記最後の操作個所情報を基に、前記取得した遷移元文書中の当該最後に操作された箇所に続く個所の前に前記音声合成開始タグを付加した音声合成開始タグ付加文書と、前記取得した遷移元文書中の最後に操作された個所の直前の箇所と、当該個所の前の任意の個所とに前記スキップタグを付加したスキップタグ付加文書とを前記文書再構築制御情報として管理し、前記文書再構築手段は、前記取得した遷移元文書、音声合成開始タグ付加文書及びスキップタグ付加文書を合成して前記遷移元文書を再構築することを特徴とする。
請求項4記載の発明は、上記請求項1乃至3のいずれか記載の発明において、遷移元画面に戻った時に該遷移元画面で最後に操作された個所に続く個所からの音声合成出力を実行するか、実行しないかの選択を受付ける選択受付手段を更に具備することを特徴とする。
請求項5記載の発明は、上記請求項4記載の発明において、前記文書再構築手段は、前記選択受付手段により前記音声合成出力を実行する旨が選択された場合、前記遷移先画面上で前記遷移元文書へのリンク情報を保持するリンク保持情報が選択された時に、前記音声合成開始タグ及び前記スキップタグを付加した遷移元文書を再構築し、前記選択受付手段により前記音声合成出力を実行しない旨が選択された場合、前記遷移先画面上で前記遷移元文書へのリンク情報を保持するリンク保持情報が選択された時に、前記文書再構築制御情報中の前記リンク先情報に基づき遷移元文書を取得して前記表示制御手段に受け渡すことを特徴とする。
請求項6記載の発明に係わるWebサーバ装置は、ハイパーテキスト形式の文書を受取り、画面に表示する表示制御手段と、前記画面に対応する文書中のタグを解析し、該画面の表示要素を音声合成して出力する音声合成手段を有する表示情報音声合成装置と通信接続され、前記表示情報音声合成装置で、前記表示制御手段により表示された画面上で、遷移先へのリンク情報を保持するリンク保持情報が選択された場合、該画面に対応する遷移元文書のリンク先情報と、該遷移元文書中の最後に操作された個所を示す最後の操作個所情報を文書再構築制御情報として保持、管理する情報管理手段と、前記表示情報音声合成装置で、前記画面上での前記リンク保持情報の選択に応じて遷移した遷移先画面上で遷移元文書へのリンク情報を保持するリンク保持情報が選択された場合、前記情報管理手段により該遷移元文書に対応して管理される文書再構築制御情報に基づき、当該遷移元文書上の前記最後の操作個所情報に対応する個所を音声合成出力の開始箇所として指示する音声合成開始タグ、及び、前記音声合成開始タグ直前までの任意区間を音声合成出力をスキップする区間として指示するスキップタグを付加した遷移元文書を再構築し、前記表示制御手段に受け渡す文書再構築手段とを具備することを特徴とする。
請求項7記載の発明に係わる表示情報音声合成プログラムは、Webサーバ装置からハイパーテキスト形式の文書を受取り、画面に表示する表示制御手段と、前記画面に対応する文書中のタグを解析し、該画面の表示要素を音声合成して出力する音声合成手段を有する表示情報音声合成装置に実装され、前記表示制御手段により表示された画面上で、遷移先へのリンク情報を保持するリンク保持情報が選択された場合、該画面に対応する遷移元文書のリンク先情報と、該遷移元文書中の最後に操作された個所を示す最後の操作個所情報を文書再構築制御情報として情報管理手段により保持、管理する情報管理処理と、前記画面上での前記リンク保持情報の選択に応じて遷移した遷移先画面上で遷移元文書へのリンク情報を保持するリンク保持情報が選択された場合、前記情報管理手段により該遷移元文書に対応して管理される文書再構築制御情報に基づき、当該遷移元文書上の前記最後の操作個所情報に対応する個所を音声合成出力の開始箇所として指示する音声合成開始タグ、及び、前記音声合成開始タグ直前までの任意区間を音声合成出力をスキップする区間として指示するスキップタグを付加した遷移元文書を文書再構築手段により再構築する文書再構築処理と、前記再構築された遷移元文書に基づき前記表示制御手段により表示される遷移元画面上で、該遷移元文書中の前記スキップタグにより指示された区間に対応する表示要素をスキップした後、前記音声合成開始タグに続く表示要素から順に音声合成して出力させるべく音声合成出力制御手段により前記音声合成手段を制御する処理とを前記表示情報音声合成装置に行なわせる。
本発明によれば、ハイパーテキスト形式の文書に基づき表示された画面上で、遷移先へのリンク情報を保持するリンク保持情報の選択が行なわれると、該画面に対応する遷移元文書のリンク先情報と、該遷移元文書中の最後に操作された個所を示す最後の操作個所情報が文書再構築制御情報として情報管理手段により保持、管理され、その後、上記リンク保持情報の選択に応じて遷移した遷移先画面上で遷移元文書へのリンク情報を保持するリンク保持情報が選択されると、情報管理手段により該遷移元文書に対応して管理される文書再構築制御情報に基づき、当該遷移元文書上の最後の操作個所情報に対応する個所を音声合成出力の開始箇所として指示する音声合成開始タグ、及び、音声合成開始タグ直前までの任意区間を音声合成出力をスキップする区間として指示するスキップタグを付加した遷移元文書が文書再構築手段により再構築されるため、該再構築された遷移元文書に基づき表示される遷移元画面上で、該遷移元文書中のスキップタグにより指示された区間に対応する表示要素をスキップした後、音声合成開始タグに続く表示要素から順に音声合成して出力させる制御によって、遷移先から遷移元画面に戻った場合、該遷移元画面で遷移前に最後に操作された個所に続く個所からその表示要素の音声合成出力を再開するまでの時間が短くて済む。
以下、本発明の実施形態について添付図面を参照して詳細に説明する。
図1は、本発明に係る表示情報音声合成システムの全体構成を示すブロック図である。
このシステムは、ユーザがWeb(WWW:World Wide Web)画面の閲覧に用いるクライアント端末(特許請求の範囲における表示情報音声合成装置に相当)10と、該クライアント端末10がWeb画面を表示するために必要な文書情報をWeb上から取得して該クライアント端末10に渡す処理を行うWebサーバ30とをインターネット等の通信が可能な通信ネットワーク(以下、NWと呼称)50を介して接続して構成される。
クライアント端末10は、例えば、PC(パーソナル・コンピュータ)により実現され、Webサーバ30は、Webアプリケーションを実装したサーバコンピュータにより実現される。
このシステムでは、クライアント端末(クライアントPC)10に実装されるWebブラウザ(browser)と、Webサーバ30に実装されるWebアプリケーションとが協働して、クライアント端末10におけるWeb画面の表示処理を実現する。
この表示処理において、Webブラウザは、Webサーバ30(Webアプリケーション)から、TCP/IPの上位プロトコルであるHTTP(HyperText Transfer Protocol)を使ってHTML(HyperText Markup Language)やXML(eXtensible Markup Language)等のマークアップ言語で記述された文書を受信し、該文書に本文と共に含まれる制御情報(タグ)を解析し、該解析結果に従って当該文書の本文の内容を画面上に描画(表示)する処理を行なう。
ここで、Webブラウザが表示対象とする文書(WebアプリケーションがWeb上の各リンク先から取得する文書)は、ハイパーテキスト形式の文書であり、該ハイパーテキスト文書に基づき表示した画面上には、該画面上の別の個所や別の画面(文書)へのリンク情報が関連付けられている要素〔コマンドボタン(以下に示す「OK」等のボタン)、文字列(同、「詳細設定」、「B工程詳細設定」等)、画像等〕も存在することになる。
これにより、Webブラウザが表示した画面上で、上記要素(以下、リンク保持情報という)の選択操作(クリック)がなされると、Webアプリケーションは、該リンク保持情報に関連付けられているリンク先から文書を取得してHTTPによりWebブラウザに渡し、Webブラウザはその文書を取得して画面を表示することで、遷移元画面から遷移先画面に切換え表示する。
また、この遷移先画面上で、遷移元画面(文書)をリンク先とするリンク保持情報が選択されると、Webアプリケーションは、該リンク保持情報のリンク先から文書(遷移元の文書に相当)を取得してWebブラウザに渡し、Webブラウザが、該文書に基づき画面を表示し、遷移元画面に切換え表示する。
このように、クライアント端末10では、WebブラウザがWebアプリケーションと協働して行なう表示処理によって、ある文書に基づく画面の表示中に、該画面上での遷移操作〔別の個所または画面(文書)をリンク先とするリンク保持情報の選択〕を契機に当該画面の別の個所または別の画面に遷移し、その後、遷移先画面上での元の画面に戻る操作〔遷移元の文書をリンク先とするリンク保持情報〕を契機に遷移元画面に戻すといった表示処理を行うことができる。
また、クライアント端末10には、音声ブラウザ(後述の読上げ制御部152に相当)も実装される。音声ブラウザは、WebブラウザがWebアプリケーションから取得した文書に基づき画面を表示すると、該表示内容(文書の本文:テキストデータ)を音声合成して出力する処理、つまり、表示内容を音声として読上げる処理を行う。
本発明において、音声ブラウザは、上述した如く、画面の表示中に、該画面上での遷移操作により遷移先の画面に遷移し、その後、該遷移先画面上での元の画面に戻る操作により遷移元画面を表示する遷移過程において、最初の画面の表示時には、該画面の表示内容を先頭部分から順に音声読上げしていく処理を行うが、その後、遷移先画面に遷移し、該遷移先画面から遷移元画面に戻った時には、該遷移元画面で遷移前に最後に操作された個所の直前までの任意区間の表示要素をスキップし、該最後に操作された個所に続く個所から、当該該遷移元画面の表示内容の音声読上げを行なう機能構成を有する。
以下、本発明における、遷移元画面で最後に操作した個所に続く個所からの音声読上げ機能を実現するための各実施例について順に説明していく。
図2は、実施例1に係わる表示情報音声合成システムのクライアント端末10とWebサーバ30の機能構成を示すブロック図である。
本実施例において、クライアント端末10は、キーボードやマウス等の入力デバイスから成る入力/操作部11、Web画面等の各種情報の表示を行う表示部12、表示部12に表示されるWeb画面(以下、単に画面と呼称)の表示内容(テキストデータ)を音声合成してスピーカ(図示せず)から出力する音声合成部13、動作プログラム等の各種情報を記憶する記憶部14、装置全体の制御を行う制御部15、NW50とのインタフェースを司るネットワーク・インタフェース(NW I/F)部16を備えて構成される。
クライアント端末10において、制御部15は、例えば、記憶部13にインストールされているWebブラウザ151を読み出して常駐させ、該Webブラウザ151により、Webサーバ30のWebアプリケーション351と協働して取得した文書情報に基づく画面表示制御を行う。
また、制御部15には、Webブラウザ151による画面表示制御に連携して、該表示された画面上の表示要素(テキストデータ)を音声合成部13により音声合成して出力させる制御、すなわち、画面上の本文要素の音声による読上げ制御を行なう読上げ制御部(音声ブラウザ)152が設けられる。
更に、制御部15には、文書再構築情報管理部153、文書再構築部154が設けられる。
文書再構築情報管理部153は、Webブラウザ151により表示された画面上で、上述した遷移操作(別の個所または画面がリンク先として関連付けられているリンク保持情報の選択等)がなされたことを検知すると、該表示中の遷移元画面に対応する遷移元文書の情報(リンク先情報)と、該遷移元文書中の最後に操作された個所の情報を文書再構築制御情報として保持し、管理する。
文書再構築部154は、上記遷移操作後にWebブラウザ151によって表示部12に表示される遷移先の画面上で遷移元画面に戻る操作(遷移元文書をリンク先とするリンク保持情報の選択等)がなされた場合、文書再構築制御情報管理部153により該遷移元文書に関連して管理される文書再構築制御情報に基づき、最後の操作個所情報に対応する個所を音声合成出力の開始箇所として指示する音声合成開始タグ、及び、音声合成開始タグ直前までの任意区間を音声合成出力をスキップする区間として指示するスキップタグを付加した遷移元文書を再構築する処理を行う。
一方、Webサーバ30は、NW50とのインタフェースを司るネットワーク・インタフェース(NW I/F)部31、動作プログラム等の各種情報を記憶する記憶部32、HDD等の記憶装置33、動作プログラムに基づき装置全体の制御を行なう制御部35を備えて構成される。
Webサーバ30において、制御部35は、例えば、記憶部32にインストールされているWebアプリケーション351を読み出して常駐させ、該Webアプリケーション351が、クライアント端末10のWebブラウザ151が表示する画面上での所望のリンク先の直接入力、あるいは、該画面上のリンク保持情報の選択に応じて、該当するリンク先にアクセスして文書情報を取得してWebブラウザ151に受け渡す制御を行なう。
上記構成を有する本実施例のシステムにおいて、クライアント端末10は、ユーザが入力/操作部11でWebブラウザ151の起動操作を行うと、該Webブラウザ151が起動し、初期画面として、例えば、本システムで実行可能な各種処理のメニュー画面を表示部12に表示する。
このメニュー画面上で、ユーザが所望の処理項目(例えば、「○○の設定」)を選択する操作を行うと、Webブラウザ151は、該処理項目に関連付けられたリンク先情報(「○○の設定」の内容のある場所:URL)をWebサーバ30のWebアプリケーション351に伝える。
これにより、Webアプリケーション351は、選択された処理項目に関連付けられるリンク先(URL:Universal Resource Locator)にアクセスして文書情報(当該処理の手順等が記述された文書情報)を取得してWebブラウザ151に渡す。
一方、Webブラウザ151は、上記処理項目の選択操作受付け後、該処理項目の関連付けられたURLからWebアプリケーション351によって取得された文書情報を取込み、該文書情報に基づく画面を表示部12に表示する。
図3は、本実施例に係わるクライアント端末10における表示情報音声合成処理動作を示すフローチャートである。
図3では、特に、クライアント端末10において、Webブラウザ151が上述した手順でWebサーバ30のWebアプリケーション351を通じて取得した文書情報に基づいて表示部12に画面を表示した後の処理について開示している。
図3において、クライアント端末10は、Webブラウザ151がWebアプリケーション351を通じて取得した文書情報に基づく画面を表示部12に表示すると(ステップS101)、読上げ制御部152が音声合成部13を駆動し、該画面上に表示された要素(文書本文に相当するテキストデータ)を順に音声合成して図示しないスピーカから再生出力する、いわゆる、音声読上げを開始する(ステップS102)。
この画面表示内容の音声読上げ実行中、読上げ制御部152は、画面上の最後の要素までの読上げ完了等によって、当該表示処理を終了する操作がなされたか否か(ステップS103)と、当該画面上で、例えば、リンク保持情報である文字列が読上げられた後に、ユーザにより当該文字列を選択する操作(遷移操作)がなされたか否か(ステップS104)を順次監視する。
この間、終了操作がなされた場合(ステップS103YES)、該画面を閉じて処理を終了し、終了操作がなされない場合(ステップS103NO)は、遷移操作がなされていないと判断(ステップS104NO)される限り、音声読上げの処理(ステップS102)を続行する。
その後、音声読上げ処理によって、例えば、該画面上のリンク保持情報文字列が読上げられた後、ユーザによって、該リンク保持情報文字列を選択(クリック)する操作(遷移操作)が行なわれた場合(ステップS104YES)、文書再構築制御情報管理部153は、該画面上で最後に操作された個所の情報を抽出し、当該画面(遷移元画面)に対応する文書(該画面を表示する元となる文書)の情報(当該文書のリンク先情報)と、当該画面上で最後に操作された個所の情報を、例えば、記憶部14に設けられる管理テーブル141(図5参照)に保持する(ステップS105)。
引き続き、Webブラウザ151は、画面の表示中、上記ステップS104でユーザにより遷移操作(リンク保持情報のクリック)が行なわれたことを認識したWebアプリケーション351が該遷移操作がなされたリンク保持情報に関連付けられているリンク先から取得した文書情報を当該Webアプリケーション351から読込み、表示部12に、該文書情報に基づいて画面(遷移先画面)を表示する(ステップS106)。
遷移先画面が表示されると、読上げ制御部152が音声合成部13を駆動して該遷移先画面上に表示された要素の音声読上げを実行する(ステップS107)。
この遷移先画面上の表示内容の音声読上げ実行中、読上げ制御部152は、該遷移先画面上で、例えば、更に別のリンク先への関連付けがなされたリンク保持情報が読上げられた後に、ユーザが該リンク保持情報をクリックする操作〔該遷移先画面(第1の遷移先画面)から更に別の遷移先画面(第2の遷移先)への遷移操作〕がなされたか否か(ステップS108)と、該遷移先画面上で、遷移元画面をリンク先とするリンク保持情報〔例えば、該遷移先画面上に設けられた「OK」ボタン〕をクリックする操作(遷移元に戻る操作)が行なわれたか否かを順次監視する(ステップS109)。
この間、遷移操作がなされないまま(ステップS108NO)、遷移元に戻る操作がなされた場合(ステップS109YES)、文書再構築部154は、文書再構築制御情報管理部153によって管理されている文書再構築制御情報、すなわち、遷移元文書の情報(URL)と、遷移元画面で最後に操作された個所の情報に基づき遷移元画面を表示するための文書情報を再構築する。
具体的には、上記URLからWebアプリケーション351を通じて読み込んだ遷移元文書情報中に、遷移元画面で最後に操作された個所の情報が示す箇所を基準にしてスキップタグと読上げ開始タグを付加した文書情報(遷移元画面表示用文書情報)を再構築する(ステップS110)。
ここで、スキップタグは、読上げ開始タグ直前までの任意区間の要素の音声による読上げをスキップすることを、また、読上げ開始タグは、当該タグ以降の要素から音声よる読上げを開始することを、それぞれ、音声ブラウザ(読上げ制御部152)に対して指示する情報である。
引き続き、Webブラウザ151は、文書再構築部154により再構築された文書情報に基づき、表示部12に、遷移元画面を表示する(ステップS111)。
この再構築された文書情報に基づく遷移元画面が表示されると、読上げ制御部152は、該表示された遷移元画面に対応する文書情報中のスキップタグ及び読上げ開始タグを解析し、スキップタグの間に囲まれている要素の音声読上げをスキップしたうえで、読上げ開始タグ以降の要素からの音声読上げを実行する(ステップS112)。
なお、ここで読上げ制御部152は、スキップタグの間の要素の前にタイトル(図6,図7参照)等の要素がある場合には、該要素を先頭から順に音声読上げし、スキップタグの間の要素をスキップした後、読上げ開始タグ以降の要素からの音声読上げを行う(後述のS119においても同様)。
その後はステップS103に戻り、終了操作が行なわれない場合(ステップS103NO)は、ステップS102で遷移元画面上の要素の音声読上げを続行し(但し、読上げ対象要素がある場合)、終了操作が行なわれることにより(ステップS103YES)、遷移元画面を閉じて処理を終了する。
一方、上記ステップS108及びS109の継続実施中、表示中の遷移先画面上で別のリンク先への遷移操作がなされた場合(ステップS108YES)、文書再構築制御情報管理部153は、表示中の遷移先画面(第1の遷移先画面)上で最後に操作された個所の情報を抽出し、該第1の遷移先画面に対応する遷移先文書情報のリンク先情報と、当該最後に操作された個所の情報を管理テーブル141(図5参照)に保持する(ステップS113)。
引き続き、Webブラウザ151は、第1の遷移先画面の表示中、上記ステップS113でユーザにより第2の遷移先への遷移操作(リンク保持情報のクリック)が行なわれたことを認識したWebアプリケーション351が該遷移操作がなされたリンク保持情報に関連付けられているリンク先から取得した文書情報(第2の遷移先文書情報)を当該Webアプリケーション351から読込み、表示部12に、該文書情報に基づいて第2の遷移先画面を表示する(ステップS114)。
第2の遷移先画面が表示されると、読上げ制御部152が音声合成部13を駆動して該第2の遷移先画面上に表示された要素(テキスト情報)の音声読上げを実行する(ステップS115)。
この第2の遷移先画面上の表示内容の音声読上げ実行中、読上げ制御部152は、該第2の遷移先画面上で、第1の遷移先画面をリンク先とするリンク保持情報〔例えば、当該第1の遷移先画面上に設けられた「OK」ボタン〕をクリックする操作(第1の遷移先に戻る操作)が行なわれたか否かを監視する(ステップS116)。
ここで、第1の遷移先に戻る操作がなされた場合(ステップS116YES)、文書再構築部154は、文書再構築制御情報管理部153によって管理されている文書再構築制御情報、すなわち、第1の遷移先文書の情報(URL)と、第1の遷移先画面で最後に操作された個所の情報に基づき第1の遷移先画面を表示するための文書情報を再構築する。
具体的には、遷移元文書情報を対象とした場合と同様、上記URLからWebアプリケーション351を通じて読み込んだ第1の遷移先文書情報中に、第1の遷移先画面で最後に操作された個所の情報が示す箇所を基準にしてスキップタグと読上げ開始タグを付加した文書情報(第1の遷移先画面表示用文書情報)を再構築する(ステップS117)。
引き続き、Webブラウザ151は、文書再構築部154により上記ステップS117で再構築された文書情報に基づき、表示部12に、第1の遷移先画面を表示する(ステップS118)。
第1の遷移先画面が表示されると、読上げ制御部152は、該表示された第1の遷移先画面に対応する文書情報中のスキップタグ及び読上げ開始タグを解析し、スキップタグの間に囲まれている要素の音声読上げをスキップしたうえで、読上げ開始タグ以降の要素からの音声読上げを実行する(ステップS119)。
その後はステップS108に戻り、第1の遷移先画面上で遷移操作が行なわれず(ステップS108NO)、かつ、遷移元画面へ戻る操作が行なわれない間(ステップS109NO)は、ステップS107で該第1の遷移先画面上の表示内容の音声読上げを続ける(但し、読上げ対象要素がある場合)。
そして、この間、遷移元画面へ戻る操作が行なわれた場合(ステップS109YES)は、既に述べた方法で、文書再構築部154が遷移元画面に対応する文書情報を再構築し(ステップS110)、次いで、Webブラウザ151が該再構築された文書情報に基づき表示部12に遷移元画面を表示する(ステップS111)。
更に、読上げ制御部152は、該表示された遷移元画面に対応する文書情報中のスキップタグ及び読上げ開始タグを解析し、スキップタグの間に囲まれている要素の音声読上げをスキップしたうえで、読上げ開始タグ以降の要素からの音声読上げを行う(ステップS112)。
その後はステップS103に戻って遷移元画面上の要素の音声読上げを続け(但し、音声読上げ自体は最後の要素まで読上げた時点で終わる)、読み上げが完了して終了操作が行なわれることにより(ステップS103YES)、遷移元画面を閉じて処理を終了する。
次に、本実施例のクライアント端末10における表示情報音声合成処理動作(図3参照)の具体例として、図4に示すように、遷移元画面125(図4の左側)から第1の遷移先画面126(同、中央)を経て第2の遷移先画面127(同、右側)に遷移した後、該第2の遷移先画面127から第1の遷移画面126を経て遷移元画面125に戻る場合の処理について検証してみる。
図4において、遷移元画面125は、例えば、クライアント端末10で、Webブラウザ151の起動時に表示されるメニュー画面上で、ユーザにより「○○の設定」というリンク保持情報文字列〔遷移先画面125に対応する文書へのリンク情報(http://data11)が関連付けられている。〕が選択されたことを認識したWebアプリケーション351が該文字列「○○の設定」に関連付けられているリンク先から文書情報を取得し、次いで、Webブラウザ151がこの文書情報を読み込んで、描画機能により表示部12に表示するものである。
こうして遷移元画面125が表示されると、読上げ制御部152は、対応する遷移元文書中にスキップタグがないことを確認し、該遷移元画面125の最上部の「○○の設定」における先頭部の「○」から順に音声読上げを行なっていく。
そして、この遷移元画面125上でリンク保持情報文字列である「詳細設定」が読上げられた後、ユーザによってこの文字列「詳細設定」〔第1の遷移先画面126に対応する文書へのリンク情報(http://data21)が関連付けられている。〕がクリックされる遷移操作が行なわれると、文書再構築制御情報管理部153が、該遷移元画面125上で最後に操作された個所の情報として「詳細設定」を抽出し、これを、遷移元画面に対応する文書情報(遷移元文書情報)と共に保持する。
次に、Webブラウザ151は、遷移元画面125上での上記遷移操作に基づき、文字列「詳細設定」に対応するリンク先から第1の遷移先の文書情報を読み込んで第1の遷移先画面126を表示する。
ここでも、読上げ制御部152は、第1の遷移先文書情報中にスキップタグがないことを確認し、該第1の遷移先画面126の最上部の「○○の詳細設定」における先頭部の「○」から順に音声読上げを行なっていく。
そして、この第1の遷移先画面126上でリンク保持情報文字列である「B工程詳細設定」が読上げられた後、ユーザによってこの文字列「B工程詳細設定」〔第2の遷移先画面127に対応する文書へのリンク情報(http://data31)が関連付けられている。〕がクリックされる遷移操作が行なわれると、文書再構築制御情報管理部153が、当該第1の遷移先画面126上で最後に操作された個所の情報として「B工程詳細設定」を抽出し、これを、第1の遷移先画面に対応する文書情報(第1の遷移先文書情報)と共に保持する。
次に、Webブラウザ151は、第1の遷移先画面126上での遷移操作に基づき、文字列「B工程詳細設定」に対応するリンク先から第2の遷移先文書情報を読み込んで第2の遷移先画面127を表示する。
ここでも、読上げ制御部152は、第2の遷移先文書情報中にスキップタグがないことを確認し、該第2の遷移先画面127の最上部の「B工程詳細設定」における先頭部の「B」の文字から順に音声読上げを行なっていく。
そして、第2の遷移先画面127の最後部のボタンに当たる文字列「キャンセル」が読み上げられた後、ユーザによって、該「キャンセル」ボタンの前のボタンに当たる、第1の遷移先文書をリンク先とする「OK」ボタンの押下(選択)操作が行なわれることで、Webブラウザ151は第1の遷移先画面126の表示に戻す処理を開始する。
上述した如く、遷移先画面125を表示後、第2の遷移先画面127における第1の遷移先画面126へ戻る操作までの遷移過程において、文書再構築制御情報管理部153は、図5に示す如く、例えば、記憶部14に設けられる管理テーブル141において、遷移元画面125及び第1の遷移先画面126に各々対応する文書再構築制御情報を保持していることになる。
この管理テーブル141において、遷移元画面125に対応する文書再構築制御情報としては、該遷移元画面125に対応する文書のリンク先情報(URL:http://data11)と、該遷移元画面125上で最後に操作された個所の情報である「詳細設定」が保持され、第1の遷移先画面126に対応する文書再構築制御情報としては、該第1の遷移先画面126に対応する第1の遷移先文書のリンク先情報(URL:http://data21)と、該第1の遷移先画面126上で最後に操作された個所の情報である「B工程詳細設定」が保持されている。
これにより、第2の遷移先画面127上での「OK」ボタン〔第1の遷移先画面126に対応する文書へのリンク情報(http://data21)が関連付けられている。〕の押下により、第1の遷移先画面126の表示に戻す際、文書再構築部154は、管理テーブル141に保持されている第1の遷移先画面126に対応する文書再構築制御情報を参照して、例えば、図6に示すような文書情報1261を再構築する。
図6において、文書情報1261には、遷移前に最後に操作された個所の情報「B工程詳細設定」を基準に、該「B工程詳細設定」に続く最初の要素(「以上」)の前に、音声読上げの開始を指示する読上げ開始タグ1262(「yomiagestart」)が記述され、該文書情報1261の先頭部にあるタイトル「○○の詳細設定」の後の「○○の詳細設定は、」中の「○」の前と、上記「B工程詳細設定」の後には、当該区間の要素の読上げをスキップすることを指示するスキップタグ1263a(「yomiageskip」)と、スキップタグ1263b(「/yomiageskip」)とが記述されている。
なお、この再構築された第1の遷移先文書情報1261中、読上げ開始タグ1262、スキップタグ1263a,1263bを除いた部分が、該当するリンク先(URL:http://data21)から取得された元々の文書情報である。
文書再構築部154により上記第1の遷移先文書情報1261が再構築された後、Webブラウザ151は、表示部12に、図4の中央部に示す内容の第1の遷移先画面126を表示する。
また、第1の遷移先画面126が表示されると、読上げ制御部152は、該第1の遷移先画面126に対応する第1の遷移先文書情報1261中の読上げ開始タグ1262と、スキップタグ1263a,1263bを解析し、該第1の遷移先画面126上のタイトル「○○の詳細設定」の音声読上げを行い、次いで、スキップタグ1263aと1263bの間に囲まれた要素の音声読上げをスキップした後、読上げ開始タグ1262に続く「以上」という語句の「以」から順にその後へと音声読上げを行なっていく。
その後、この第1の遷移先画面126の最後の要素までの読上げ完了し、当該第1の遷移先画面126上で「OK」ボタンが押下されると、Webブラウザ151は遷移元画面125の表示に戻す処理を開始する。
この遷移元画面125の表示に戻す処理に際し、文書再構築部154は、管理テーブル141に保持されている遷移元画面125に対応する文書再構築制御情報を参照して、例えば、図7に示すような文書情報1251を再構築する。
図7において、文書情報1251には、遷移前に最後に操作された個所の情報「詳細設定」を基準に、該「詳細設定」に続く最初の要素(「以上」)の前に、音声読上げの開始を指示する読上げ開始タグ1252(「yomiagestart」)が記述され、該文書情報1251の先頭部にあるタイトル「○○の設定」の後の「○○の設定は以下のよう」中の「○」の前と、上記「詳細設定」の後には、当該区間の要素の読上げをスキップすることを指示するスキップタグ1253a(「yomiageskip」)と、スキップタグ1253b(「/yomiageskip」)とが記述されている。
ここで、再構築された遷移元文書情報1251中、読上げ開始タグ1252、スキップタグ1253a,1253bを除いた部分が、該当するリンク先(URL:http://data11)から取得された元々の文書情報である。
文書再構築部154により上記遷移元文書情報1251が再構築された後、Webブラウザ151は、表示部12に、図4の左側に示す内容の遷移元画面125を表示する。
また、遷移元画面125が表示されると、読上げ制御部152は、該遷移元画面125に対応する遷移元文書情報1251中の読上げ開始タグ1252と、スキップタグ1253a,1253bを解析し、該遷移元画面125上のタイトル「○○の設定」の音声読上げを行い、次いで、スキップタグ1253aと1253bの間に囲まれた要素の音声読上げをスキップした後、読上げ開始タグ1252に続く「以上」という語句の「以」から順にその後へと音声読上げを行なっていく。
その後、遷移元画面125の最後の表示要素までの読上げ完了し、当該遷移元画面125の表示中に、入力/操作部11により表示を終了する操作がなされることにより、Webブラウザ151は遷移元画面125を閉じてメニュー画面の表示に戻す。
なお、上記の説明では、文書再構築制御情報管理部153が、遷移元の文書情報のURLと、遷移元画面で最後に操作された個所の情報とを管理テーブル141を用いて管理する例を挙げたが、スキップタグ及び読上げ開始タグも一緒に文書再構築制御情報として管理するようにしても良い。
これを実現するためには、文書再構築制御情報管理部153において、遷移元文書情報のURLに基づき取得した遷移元文書と、該取得した遷移元文書中の最後に操作された箇所に続く要素の前に読上げ開始タグ(遷移元画面で最後に操作された個所の情報を基に付加位置を決める)を付加した読上げ開始タグ付きの遷移元文書と、上記取得した遷移元文書中の先頭部のタイトルの後の要素の前と読上げ開始タグの直前の要素の後とにスキップタグを付加したスキップタグ付きの遷移元文書とを管理するようにすれば良い(図3におけるステップS105及びS113の処理時)。
この場合、文書再構築部154は、図3におけるステップS110及びS117の処理において、文書再構築制御情報管理部153が管理する上記遷移元文書と、読上げ開始タグ付きの遷移元文書と、スキップタグ付きの遷移元文書とを合成して遷移元画面表示用の遷移元文書を再構築することができる。
また、上記の説明では、第2の遷移先画面127は更に別の遷移先へのリンクが関連付けられたリンク保持情報を有せず、第1の遷移先画面126に戻るしかない場合の処理例(図3乃至図7参照)を挙げているが、これに限らず、遷移元画面125から遷移した遷移先画面を第1の遷移先画面126として、第nの遷移先画面まで順繰りに遷移が繰り返されるケースにおいても、文書再構築制御情報管理部153が、各回の遷移が行われる毎に、その回の遷移元画面に対応する文書のリンク先情報、該文書中の最後に操作された個所の情報、読上げ開始タグ及びスキップタグを時系列に文書再構築制御情報として管理する一方で、文書再構築部154が、第nの遷移先画面から第1の遷移先画面まで順繰りに遷移を戻す場合、各回の遷移戻しが行われる毎に、その回の遷移元画面に対応して管理されている文書再構築制御情報を基に、該遷移元画面に対応する文書に読上げ開始タグ及びスキップタグを付加した遷移元文書を再構築する構成としても良い。
このように、本実施例では、ハイパーテキスト形式の文書に基づく画面の表示中、該画面上で遷移操作がなされると、該遷移操作された遷移元文書の情報を、該遷移元文書中の最後に操作された個所の情報、音声による読上げ開始を指示する読上げ開始タグ、及び前記読上げ開始タグ直前までの間の音声読上げをスキップする個所(区間)を指示するスキップタグと共に文書再構築制御情報として文書再構築制御情報管理部153が管理する一方で、遷移操作に基づき遷移した遷移先から遷移元に戻る操作がなされた場合、文書再構築制御情報管理部153が管理している文書再構築制御情報に基づき、文書再構築部154が、当該遷移元文書上の最後の操作個所情報に対応する個所の直前に読上げ開始タグを付加し、かつ、該最後の操作個所情報に対応する個所の前の最初の要素の後と、その前の任意の要素の前とにスキップタグを付加した遷移元文書を再構築するようにしたものである。
かかる構成によれば、ある文書に基づく画面の表示中になされる遷移操作により遷移先に遷移し、その後、該遷移先で遷移元に戻る操作が行われることにより、文書再構築部154によって再構築された文書に基づきWebブラウザ151が遷移元画面を表示する際、音声ブラウザ(読上げ制御部152)は、上記再構築された文書中のスキップタグ及び読上げ開始タグを解析することにより、スキップタグに囲まれた要素の読上げをスキップした後、読上げ開始タグが付加された個所、すなわち、再構築された遷移元文書に基づき表示された遷移元画面上でその前の遷移操作で最後に操作された個所に続く個所から音声読上げを再開することができる。
これにより、ネットワークに接続されたWebアプリケーション351を音声ブラウザ(読上げ制御部152)を介して操作するクライアント端末10において、音声ブラウザのユーザによるWebアプリケーションの操作性向上が見込める。
また、本発明によれば、遷移元から遷移先に遷移し、更に、該遷移先から別の遷移先へと順繰りに遷移が繰り返される場合、文書再構築制御情報管理部153は、遷移が行なわれる毎に、該当する遷移先文書中の最後に操作された個所の情報、読上げ開始タグ及びスキップタグを、各遷移毎の遷移先文書の情報と関連付けて時系列に文書再構築制御情報として管理する。
かかる構成によれば、各遷移先から直前の遷移先に戻る操作がなされる毎に、文書再構築部154が、文書再構築制御情報管理部153によって管理されている、当該遷移先画面に対応する文書再構築制御情報に基づき、当該遷移先文書に読上げ開始タグ及びスキップタグを付加した遷移先画面表示用文書を再構築することで、音声ブラウザは、上記再構築された各回の遷移先画面表示用文書を基にWebブラウザ151によって表示される各回の遷移先画面上で、それぞれ、遷移前に最後に操作された個所に続く個所から音声読上げを再開することができる。
また、本発明によれば、遷移元に戻る際に、該遷移元で遷移前に最後に操作された個所の続きから音声読上げを開始させる処理機能(文書再構築制御情報管理部153、文書再構築部154)を、クライアント端末10の音声ブラウザ(読上げ制御部152)上で動作させる構成としたため、該音声ブラウザを使用する限り、ユーザがこれまで使用してきたWebアプリケーション351でも当該音声読上げ技術を実現可能となる。
図8は、実施例2に係わる表示情報音声合成システムのクライアント端末10BとWebサーバ30Bの機能構成を示すブロック図である。
実施例1では、遷移先から戻る際に表示する遷移元文書情報の再構築に用いる制御情報を管理する機能(文書再構築制御情報管理部153)と、遷移先から戻る際に遷移元文書情報を再構築する機能(文書再構築部154)をクライアント端末10側に設けているのに対して、実施例2では、これら両機能をWebサーバ30B側に設けたものである。
図8において、クライアント端末10Bに備わる各構成要素のうち、入力/操作部11、表示部12、音声合成部13、記憶部14、NW I/F部16は、それぞれ、実施例1に係わるクライアント端末10(図2参照)の該当各部と同等のものである。
また、このクライアント端末10Bの制御部15bには、実施例1に係わるクライアント端末10が持つものとそれぞれ同等のWebブラウザ151と読上げ制御部152が設けられる。
一方、Webサーバ30Bに備わる各構成要素のうち、NW I/F部31、記憶部32、記憶装置33は、それぞれ、実施例1に係わるWebサーバ30の該当各部と同等のものである。
また、Webサーバ30Bの制御部35bには、実施例1に係わるWebサーバ30が持つものと同等のWebアプリケーション351の他、文書再構築制御情報管理部352、文書再構築部353が設けられる。
文書再構築情報管理部352は、Webアプリケーション351が取得してクライアント端末10に受け渡した文書に基づきWebブラウザ151により表示部12に表示された画面上で、上述した遷移操作〔別の個所または画面(文書)がリンク先として関連付けられているリンク保持情報の選択等〕がなされたことを認識し、該表示中の遷移元画面に対応する遷移元文書の情報(リンク先情報)と、該遷移元文書中の最後に操作された個所の情報を文書再構築制御情報として管理する。
文書再構築部353は、上記遷移操作後にWebブラウザ151によって表示部12に表示される遷移先の画面上で遷移元画面に戻る操作(遷移元文書をリンク先とするリンク保持情報の選択等)がなされたことを認識し、文書再構築制御情報管理部252により管理される文書再構築制御情報に基づき、上記読上げ開始タグ及びスキップタグを付加した遷移元文書を再構築してクライアント端末10Bに受け渡す処理を行う。
なお、本実施例においても、実施例1と同様、文書再構築情報管理部352において、遷移元の文書情報のURLと、遷移元画面で最後に操作された個所の情報の他、スキップタグ及び読上げ開始タグも一緒に文書再構築制御情報として管理するようにしても良い。
以下、本実施例のシステムにおけるWebサーバ30Bの文書取得/再構築処理動作について図9に示すフローチャートを参照して説明する。
この文書取得/再構築処理動作は、クライアント端末10Bと協働して実施するものであり、例えば、図9のステップS201では、クライアント端末10でユーザがWebブラウザ151を起動し、これにより表示部12に表示されたメニュー画面上で何等かの処理項目を選択する操作を行うと、Webサーバ30Bでは、Webアプリケーション351が上記選択操作を受け、選択された処理項目に関連付けられているリンク先(URL)にアクセスして文書情報を取得してWebブラウザ151に受け渡す(ステップS201)。
一方、クライアント端末10Bでは、Webブラウザ151が、Webアプリケーション351から渡された文書情報を読込み、該文書情報に基づく画面を表示部12に表示し、次いで、読上げ制御部152が音声合成部13を駆動し、当該画面上に表示された要素(テキスト情報)の音声読上げを開始する。
このクライアント端末10Bでの表示情報音声読上げ実行中、Webアプリケーション351は、クライアント端末10Bで表示中の画面上での最後の要素までの読上げ完了等によって、当該表示処理を終了する操作がなされたか否か(ステップS202)と、当該画面上で、例えば、リンク保持情報文字列が読上げられた後に、ユーザにより当該文字列を選択する操作(遷移操作)がなされたか否か(ステップS203)をWebブラウザ151を通じて順次監視する。
この間、終了操作がなされた場合(ステップS202YES)、Webブラウザ151との協働による文書取得処理を終了し、終了操作がなされない場合(ステップS202NO)は、遷移操作がなされた否かの監視(ステップS203)を続ける。
その後、クライアント端末10Bでの表示画面の音声読上げ続行中に、例えば、該画面上のリンク保持情報文字列が読上げられた後、ユーザによって、該リンク保持情報文字列を選択(クリック)する操作(遷移操作)が行なわれた場合、Webサーバ30Bでは、該遷移操作が行なわれた(ステップS203YES)ことを認識し、文書再構築制御情報管理部352が、該画面上で最後に操作された個所の情報を抽出し、当該画面(遷移元画面)に対応する文書の情報(当該遷移元文書のリンク先情報)と、当該画面上で最後に操作された個所の情報を、例えば、記憶部32に設けられる管理テーブル321(図5参照)に保持する(ステップS204)。
また、Webアプリケーション351は、クライアント端末10Bで上記遷移操作(リンク保持情報文字列のクリック)が行なわれたことを認識して、該当するリンク先から文書情報を取得し、これをクライアント端末10Bに受け渡す(ステップS205)。
一方、クライアント端末10Bでは、Webブラウザ151が、Webアプリケーション351から渡された文書情報を基に遷移先画面を表示部12に表示し、読上げ制御部152が音声合成部13を駆動して該第1の遷移先画面上に表示された要素(テキスト情報)の音声読上げを実行する。
このクライアント端末10Bでの遷移先画面の音声読上げ実行中、Webサーバ30Bでは、Webアプリケーション351が、該遷移先画面上で、例えば、更に別のリンク先への関連付けされたリンク保持情報文字列が読上げられた後に、ユーザが該文字列をクリックする操作〔該遷移先画面(第1の遷移先画面)から更に別の遷移先画面(第2の遷移先)への遷移操作〕がなされたか否か(ステップS206)と、該遷移先画面上で、遷移元画面をリンク先とするリンク保持情報〔例えば、当該遷移先画面上に設けられた「OK」ボタン〕をクリックする操作(遷移元に戻る操作)が行なわれたか否かをWebブラウザ151を通じて順次監視する(ステップS207)。
この間、遷移操作がなされないまま(ステップS206NO)、遷移元に戻る操作がなされた場合(ステップS207YES)、Webサーバ30Bでは、文書再構築部353が、文書再構築制御情報管理部352によって管理されている文書再構築制御情報、すなわち、遷移元文書の情報(URL)と、遷移元画面で最後に操作された個所の情報に基づき遷移元画面を表示するための文書情報を再構築する(ステップS208)。
具体的には、上記URLからWebアプリケーション351が読み込んだ遷移元文書情報中に、遷移元画面で最後に操作された個所の情報が示す箇所を基準にしてスキップタグと読上げ開始タグを付加(付加方法は実施例1と同様)した文書情報(遷移元画面表示用文書情報)を再構築し(ステップS208)、該再構築した文書情報をクライアント端末10Bに受け渡す(ステップS209)。
一方、クライアント端末10Bでは、Webブラウザ151が、文書再構築部353により再構築された文書情報を受取り、該文書情報を基に表示部12に遷移元画面を表示し、読上げ制御部152が、該表示された遷移元画面に対応する文書情報中のスキップタグ及び読上げ開始タグを解析し、スキップタグの間に囲まれた要素の音声読上げをスキップしたうえで、読上げ開始タグ以降の要素からの音声読上げを行なう。
この間、Webサーバ30Bは、ステップS202以降の処理に戻り、クライアント端末10Bで遷移元画面の終了操作が行なわれた場合(ステップS202YES)は、Webブラウザ151との協働による文書取得処理を終了する。
一方、上記ステップS206及びS207の継続実施中、クライアント端末10Bで表示中の遷移先画面上で別のリンク先への遷移操作がなされた場合、Webサーバ30Bでは、該遷移操作が行なわれたこと(ステップS206YES)を認識し、文書再構築制御情報管理部352が、表示中の遷移先画面(第1の遷移先画面)上で最後に操作された個所の情報を抽出し、該第1の遷移先画面に対応する遷移先文書情報のリンク先情報と、当該最後に操作された個所の情報を管理テーブル321(図5参照)に保持する(ステップS210)。
また、Webアプリケーション351は、クライアント端末10Bで第1の遷移先画面の表示中、ユーザにより第2の遷移先への遷移操作(リンク保持情報文字列のクリック)が行なわれたことを認識し、該文字列に関連付けられているリンク先から文書情報(第2の遷移先文書情報)を取得し、これをクライアント端末10Bに受け渡す(ステップS211)。
一方、クライアント端末10Bでは、Webブラウザ151が、Webアプリケーション351から渡された文書情報を基に第2の遷移先画面を表示部12に表示し、読上げ制御部152が音声合成部13を駆動して該第2の遷移先画面上に表示された要素(テキスト情報)の音声読上げを実行する。
このクライアント端末10Bでの第2の遷移先画面の音声読上げ実行中、Webサーバ30Bでは、Webアプリケーション351が、該第2の遷移先画面上で、例えば、第1の遷移先画面をリンク先とするリンク保持情報〔例えば、当該第2の遷移先画面上に設けられた「OK」ボタン〕をクリックする操作(第1の遷移先に戻る操作)が行なわれたか否かをWebブラウザ151を通じて監視する(ステップS212)。
ここで、第2の遷移先に戻る操作がなされた場合(ステップS212YES)、文書再構築部353は、文書再構築制御情報管理部352によって管理されている文書再構築制御情報、すなわち、第1の遷移先文書の情報(URL)と、第1の遷移先画面で最後に操作された個所の情報に基づき第1の遷移先画面を表示するための文書情報を再構築する(ステップS213)。
具体的には、上記URLからWebアプリケーション351が取得した第1の遷移先文書情報中に、第1の遷移先画面で最後に操作された個所の情報が示す箇所を基準にしてスキップタグと読上げ開始タグを付加した文書情報(第1の遷移先画面表示用文書情報)を再構築し(ステップS213)、該再構築した文書情報をクライアント端末10Bに渡す(ステップS214)。
一方、クライアント端末10Bでは、Webブラウザ151が、文書再構築部353から受け取った再構築文書情報に基づき、表示部12に、第1の遷移先画面を表示し、読上げ制御部152が、該第1の遷移先画面に対応する文書情報中のスキップタグ及び読上げ開始タグを解析し、スキップタグの間に囲まれた要素の音声読上げをスキップしたうえで、読上げ開始タグ以降の要素からの音声読上げを実行する。
この間、Webサーバ30Bでは、ステップS206に戻り、該ステップS206とS207の処理を続行する。
このステップS206及びS207の監視処理中、遷移操作がなされないまま(ステップS206NO)、遷移元に戻る操作がなされた場合(ステップS207YES)、Webサーバ30Bにおいて、文書再構築部353は、既に述べた方法で遷移元画面を表示するための文書情報を再構築し(ステップS208)、これをクライアント端末10Bに渡す(ステップS209)。
ステップS209以降のWebサーバ30Bの処理動作は、既に述べた通りである。
ここで、本実施例に係わるWebサーバ30Bによる文書取得/再構築処理動作の具体例として、クライアント端末10Bが、実施例1と同様(図4と同様)、遷移元画面125から第1の遷移画面126、第2の遷移画面127へと順に遷移し、その後、第2の遷移画面127から第1の遷移画面126、遷移元画面125へと順に戻る場合について検証してみる。
この場合、クライアント端末10Bにおいて、遷移元画面125上でリンク保持情報である文字列「詳細設定」までの要素の音声読上げを行なった後に第1の遷移画面126への遷移操作(「詳細設定」をクリック)が行なわれ、該遷移操作により第1の遷移画面126を表示し、リンク保持情報である文字列「B工程詳細設定」までの要素の音声読上げを行なった後に第2の遷移画面127への遷移操作(「B工程詳細設定」をクリック)が行なわれ、該遷移操作により第2の遷移画面127を表示し、該画面127上で音声読上げを開始するまでの遷移過程において、Webサーバ30Bでは、図9に示すステップS204、S210の処理によって、文書再構築制御情報管理部352が、例えば、記憶部32に設けられる管理テーブル321上に、図4に示す内容(この例では、実施例1と同内容)の、遷移元画面125及び第1の遷移先画面126に各々対応する文書再構築制御情報を保持していることになる。
その後、第2の遷移先画面127において、最後の要素まで音声読上げが完了した後、同画面127上で第1の遷移先画面に戻る操作(「OK」ボタンのクリック)が行なわれると、Webサーバ30Bでは、図9に示すステップS213、S214の処理によって、文書再構築部353が、例えば、図6に示すように、読上げ開始タグ1262及びスキップタグ1263a,1263bを付加した第1の遷移先文書情報1261を再構築してクライアント端末10Bに渡す。
これにより、クライアント10Bは、Webサーバ30Bから受取った、再構築された第1の遷移先文書情報1261を基に、Webブラウザ151によって、表示部12に、図4の中央部に示す内容の第1の遷移先画面126を表示し、かつ、音声ブラウザ152によって、該第1の遷移先画面126に対応する第1の遷移先文書情報1261中の読上げ開始タグ1262と、スキップタグ1263a,1263bを解析し、タイトル「○○の詳細設定」を音声読上げし、次いで、スキップタグ1263aと1263bとの間に囲まれた要素の音声読上げをスキップした後、読上げ開始タグ1262に続く「以上」という語句の「以」から順にその後へと音声読上げを行なっていく。
その後、この第1の遷移先画面126の最後の表示要素までの読上げ完了し、遷移元画面125へ戻る操作(第1の遷移先画面126上の「OK」ボタンのクリック)が行われると、Webサーバ30Bでは、図9に示すステップS208、S209の処理によって、文書再構築部353が、例えば、図7に示すように、読上げ開始タグ1252及びスキップタグ1253a,1253bを付加した遷移元文書情報1251を再構築してクライアント端末10Bに渡す。
これにより、クライアント10Bは、Webサーバ30Bから受取った、再構築された遷移元文書情報1251を基に、Webブラウザ151によって、表示部12に、図4の左側に示す内容の遷移元画面125を表示し、かつ、音声ブラウザ152によって、該遷移元画面125に対応する遷移元文書情報1251中の読上げ開始タグ1252と、スキップタグ1253a,1353bを解析し、タイトル「○○の設定」を音声読上げし、次いで、スキップタグ1253aと1353bとの間に囲まれた要素の音声読上げをスキップした後、読上げ開始タグ1252に続く「以上」という語句の「以」から順にその後へと音声読上げを行なっていく。
以上の如くのWebサーバ30Bでの文書取得/再構築処理によって、本実施例では、図4において、第2の遷移先画面127から第1の遷移先画面126に戻った際には、第1の遷移先画面126上で、遷移前に最後に操作された個所の前の任意の区間の表示要素をスキップし、遷移前に最後に操作された個所に続く個所から音声読上げを開始させることができ、また、第1の遷移先画面126から遷移元画面125に戻った際には、遷移元画面125上で、遷移前に最後に操作された個所の前の任意の区間の表示要素をスキップし、遷移前に最後に操作された個所に続く個所から音声読上げを開始させることができる。
このように、本実施例に係わるWebサーバ30Bでは、クライアント端末10Bにおいて、ハイパーテキスト形式の文書に基づく画面の表示中、該画面上で遷移操作がなされたことを認識し、文書再構築制御情報管理部352が、遷移操作された遷移元文書の情報を、該遷移元文書中の最後に操作された個所の情報、読上げ開始タグ、及びスキップタグと共に文書再構築制御情報として管理し、クライアント端末10Bにおいて、遷移操作に基づき遷移した遷移先から遷移元に戻る操作がなされたことを認識して、文書再構築部353が、文書再構築制御情報管理部352が管理している文書再構築制御情報に基づき、読上げ開始タグ及びスキップタグを付加した遷移元文書を再構築してクライアント端末10Bに受け渡す構成としたものである。
かかる構成によれば、ある文書に基づく画面の表示中になされる遷移操作により遷移先の画面を表示し、その後、該遷移先画面上での遷移元画面に戻る操作に応じてWebサーバ30Bから文書再構築部353が再構築した遷移元文書を受取って遷移元画面を表示するクライアント端末10において、その音声ブラウザに、該再構築された遷移元文書中のスキップタグの間に囲まれた要素の音声読上げをスキップすることを認識させ、該読上げ開始タグが付加された個所、すなわち、再構築された遷移元文書に基づき表示された遷移元画面に対応する遷移前の画面上で最後に操作された個所(遷移操作個所)に続く個所から音声読上げを再開させることができる。
特に、本実施例では、遷移元に戻る際に、該遷移元で遷移前に最後に操作された個所の続きから音声読上げを開始させる処理機能(文書再構築制御情報管理部352、文書再構築部353)を、Webサーバ30BのWebアプリケーション351上で動作させる構成としたため、該Webアプリケーション351を使用する限り、ユーザがこれまで使用してきたWebブラウザ151、音声ブラウザ(読上げ制御部152)でも当該音声読上げ機能を実現可能となる。
次に、他の実施例について説明する。
上記実施例1,2では、遷移先から遷移元に戻る場合に遷移元で遷移前に最後に操作された個所に続く個所から音声読上げを行なう制御(続き読上げ制御)を自動的に(常時)実行する例を挙げているが、当該続き読上げ制御を実行するか否かをユーザに選択させる構成としても良い。
これを実施例1において実現するためには、例えば、以下に述べる読上げ開始位置設定画面128を表示し、該画面128上で上記続き読上げ制御を実行するか、実行しないかの選択を受付ける選択受付機能をクライアント端末10に設ける。
かかるクライアント端末10において、Webブラウザ151は、例えば、上述したメニュー画面上で、ユーザが、複数のメニューの中から“読上げ開始位置設定”を選択すると、図10に示すような読上げ開始位置設定画面128を表示部12に表示させる。
読上げ開始位置設定画面128が表示されると、読上げ制御部152は、該読上げ開始位置選択画面128の表示要素を先頭から順に音声読上げしていき、音声読上げを実行するかまたは実行しないかを、[OK]ボタンまたは「キャンセル」ボタンの押下によって選択することをユーザに促す。
この音声読上げの実行中、制御部15は、当該読上げ開始位置設定画面128上の「OK」ボタンまたは「キャンセル」ボタンのいずれかが押下されたかを監視する。
この間、例えば、最後部にあるボタンの名称である「キャンセル」の読上げが完了した後、「OK」ボタンが押下された場合、制御部15は、音声読上げモードを、遷移元に戻った時に最後に操作された個所の続きから音声読上げすることを意味する続き読上げモードに設定し(例えば、フラグを「1」にする)、また、「キャンセル」ボタンが押下された場合、音声読上げモードを通常モードに設定する(例えば、フラグを「0」にする)。
上記音声読上げモードの設定後、クライアント端末10において、図4に例示するような遷移元画面125、第1の遷移先画面126、第2の遷移先画面127間の遷移操作がなされる時、音声読上げモードとして続き読上げモードが設定されている場合には、該続き読上げモードが設定されていることを認識した制御部15が、読上げ制御部152、文書再構築制御情報管理部153、文書再構築部154を制御して、図3に示すフローチャートに沿った表示情報音声合成処理を実施する。
これに対して、音声読上げモードとして通常モードが設定されている場合、制御部15は、例えば、図3のステップS109で遷移元に戻る操作がなされた時(ステップS109YES)にはWebブラウザ151に遷移元画面の表示を指示する。
これにより、Webブラウザ151は、上記ステップS109での遷移操作によりクリックされたリンク保持情報に関連付けられているリンク先からWebアプリケーション351によって取得される遷移元文書情報を読込み、表示部12に、該文書情報に基づいて遷移元を表示する。
この時にWebブラウザ151が読み込む遷移元文書情報は、文書再構築部154によって再構築されたものではなく、リンク先から取得した元々の文書情報(スキップタグ、読上げ貸しタグがない)であるため、読上げ制御部152は、該取得した文書情報に基づき表示された遷移元画面上で先頭の要素から順に音声読上げを実行する。
同様に、図3のステップS116で第1の遷移先に戻る操作がなされた時(ステップS116YES)にも、Webブラウザ151が元々の第1の遷移先文書を取得して第1の遷移先画面を表示し、読上げ制御部152が該第1の遷移先画面上の先頭個所から順に音声読上げを行なうように制御する。
また、上記続き読上げ制御を実行するか、実行しないかをユーザに選択させる機能を実施例2において実現するためには、Webサーバ30Bに、クライアント端末10で、Webブラウザ151が表示する読上げ開始位置設定画面128上で行なわれる続き読上げ制御を実行するか、実行しないかの選択指示〔「OK」ボタンまたは「キャンセル」ボタンの押下〕を受付け、該選択指示に従って続き読上げモードまたは通常読上げモードを設定する機能を設ければ良い。
そして、続き読上げモードが設定された場合には、例えば、図9に例示するように、遷移元に戻る操作がなされることにより(ステップS207YES、S212)、スキップタグ、読上げ開始タグを付加した遷移元文書情報を再構築(ステップS208、S213)してWebブラウザ151に受渡し、一方、通常読上げモードが設定された場合には、遷移元に戻る操作がなされても(ステップS207YES、S212)、遷移元文書の再構築は行なわず、Webブラウザ151が元々の遷移元文書を取得してWebブラウザ151に受渡しする制御(図9で非図示)を行なえば良い。
また、上述したメニュー選択を経て読上げモードを一括設定する以外にも、例えば、上記読上げ開始位置設定画面128を遷移元に戻る操作が行なわれる度(例えば、図3のステップS109YES、S116YES等)に表示し、その都度、続き読上げを実行するか否かをユーザに選択させるように変更することも可能である。
この他、本発明は、上記し、且つ図面に示す実施例に限定することなく、その要旨を変更しない範囲内で適宜変形して実施できるものである。
例えば、上記実施例では、ハイパーテキスト形式の文書に基づく画面の表示中、該画面上のリンク保持情報(コマンドボタンやテキストリンク)によって当該画面とは別の画面に遷移した後、遷移元画面に戻る場合の前回最後の操作個所に続く個所からの音声読上げ制御について例示しているが、これに限らず、表示中の画面上のコマンドボタンやテキストリンクによって当該画面の別の個所に遷移後、当該画面の元の個所に戻った時に前回最後の操作個所に続く個所から音声読上げを行う制御も実現可能である。
また、表示中の画面上のコマンドボタンやテキストリンクによって当該画面の情報内容が更新され、画面全体が再表示された時、画面上でも最も上部にある変更箇所から音声読上げを再開する制御にも適用可能である。
また、表示中の画面上のコマンドボタンやテキストリンクによって同一画面の情報が更新され、画面の一部が再表示された時、再表示された箇所から音声読上げを再開する制御に適用可能である。
具体例としては、図11に示すように、リスト1291にオブジェクトが一覧表示された画面129a上で、そのリスト部分にページめくりのコマンドボタン1292がある場合、コマンドボタン1292をクリック(斜線塗り潰しで表す)して、遷移後の画面129b上で次のページや前のページを表示させた場合は、そのリスト部分を読上げる制御が可能であり、これによりWebアプリケーションの操作性を高めることができる。
また、上記実施例では、遷移元画面で前回最後の操作個所に続く個所から音声読上げを行なう続き読上げ制御機能をクライアント端末10のWebブラウザ151上で動作させる例(実施例1)、及び、Webサーバ30BのWebアプリケーション351上で動作させる例(実施例2)について説明したが、当該続き読上げ制御機能を有する単体のアプリケーション(表示情報音声合成プログラム)として配布することもでき、この場合には、ユーザがWebアプリケーション351を使ってクライアント端末10の制御部15にダウンロードして(実装して)動作させれば、ユーザがこれまで使用してきたWebアプリケーション351と音声ブラウザ(読上げ制御部152)でも当該制御を実現できるようになる。
また、上記実施例では、再構築された遷移元文書に基づき遷移元画面を表示した際、該遷移元文書中の遷移前に最後に操作した個所の直前までの要素のうち、タイトル部分については音声読上げをスキップする対象から除外した例を挙げているが、該タイトルについても音声読上げスキップ対象となるようにスキップタグを付加する構成としても良く、この場合には、遷移元文書を表示後、先頭部から読上げ開始タグの直前までの全ての要素をスキップしたうえで、最初から、読上げ開始タグの後の要素からの音声読上げを開始することができる。
本発明は、ハイパーテキスト形式の文書に基づき画面を表示し、表示要素を音声合成して出力する表示情報音声合成装置、及び、表示情報音声合成装置に音声合成処理用の文書情報を渡すWebサーバ装置に適用でき、遷移先から遷移元に戻る際、音声合成開始タグ及びスキップタグを付加した遷移元文書を再構築して画面を表示することで、スキップタグ間に囲まれた表示要素をスキップし、音声合成開始タグに続く表示要素から音声合成出力を開始できる。
本発明に係る表示情報音声合成システムの全体構成を示すブロック図。 実施例1に係わる表示情報音声合成システムのクライアント端末とWebサーバの機能構成を示すブロック図。 実施例1に係わるクライアント端末における表示情報音声合成処理動作を示すフローチャート。 遷移操作と読上げ開始の関係を説明するための画面遷移操作例を示す概念図。 文書再構築制御情報を管理する管理テーブルの情報保持形態を示す表図。 第1の遷移元に戻る際の再構築文書の一例を示す図。 遷移元に戻る際の再構築文書の一例を示す図。 実施例2に係わる表示情報音声合成システムのクライアント端末とWebサーバの機能構成を示すブロック図。 実施例2に係わるWebサーバにおける文書取得/再構築処理動作を示すフローチャート。 読上げ開始位置設定画面の表示例を示す図。 遷移操作と読上げ開始の関係を説明するための図4とは別の画面遷移操作例を示す概念図。
符号の説明
10,10B…クライアント端末(PC)、11…入力/操作部、12…表示部、125…遷移元画面、126…第1の遷移先画面、1251…再構築された遷移元文書、1261…再構築された第1の遷移先文書、1252,1262…読上げ開始タグ、1253,1263…スキップタグ、127…第2の遷移先画面、128…読上げ開始位置設定画面、129…リスト付画面、13…音声合成部、14…記憶部、141,321…管理テーブル、15,15b…制御部、151…Webブラウザ、152…読上げ制御部、153…文書再構築制御情報管理部、154…文書再構築部、16…ネットワーク・インタフェース(NW I/F)部、30,30B…Webサーバ、31…ネットワーク・インタフェース(NW I/F)部、32…記憶部、33…記憶装置、35,35b…制御部、351…Webアプリケーション、352……文書再構築制御情報管理部、353…文書再構築部、50…通信ネットワーク(NW)

Claims (7)

  1. ハイパーテキスト形式の文書を取得して画面に表示する表示制御手段と、
    前記表示制御手段により表示された画面上で、遷移先へのリンク情報を保持するリンク保持情報が選択された場合、該画面に対応する遷移元文書のリンク先情報と、該遷移元文書中の最後に操作された個所を示す最後の操作個所情報を文書再構築制御情報として保持、管理する情報管理手段と、
    前記画面上での前記リンク保持情報の選択に応じて遷移した遷移先画面上で遷移元文書へのリンク情報を保持するリンク保持情報が選択された場合、前記情報管理手段により該遷移元文書に対応して管理される文書再構築制御情報に基づき、当該遷移元文書上の前記最後の操作個所情報に対応する個所を音声合成出力の開始箇所として指示する音声合成開始タグ、及び、前記音声合成開始タグ直前までの任意区間を音声合成出力をスキップする区間として指示するスキップタグを付加した遷移元文書を再構築する文書再構築手段と、
    前記再構築された遷移元文書に基づき前記表示制御手段により表示される遷移元画面上で、該遷移元文書中の前記スキップタグにより指示された区間に対応する表示要素をスキップした後、前記音声合成開始タグに続く表示要素から順に音声合成して出力させる音声合成出力制御手段と
    を具備することを特徴とする表示情報音声合成装置。
  2. 前記情報管理手段は、
    前記遷移元画面から遷移した前記遷移先画面を第1の遷移先画面として、第nの遷移先画面まで順繰りに遷移が繰り返される場合、各回の遷移が行われる毎に、その回の遷移元画面に対応する文書の情報、該文書に対応する最後の操作個所情報を時系列に文書再構築制御情報として管理し、
    前記文書再構築手段は、
    前記第nの遷移先画面から前記第1の遷移先画面まで順繰りに遷移を戻す場合、各回の遷移戻しが行われる毎に、その回の遷移元画面に対応して管理されている前記文書再構築制御情報を基に、前記音声合成開始タグ及びスキップタグを付加した遷移元文書を再構築する
    ことを特徴とする請求項2記載の表示情報音声合成装置。
  3. 前記情報管理手段は、
    前記遷移元文書のリンク先情報に基づき取得した遷移元文書と、
    前記最後の操作個所情報を基に、前記取得した遷移元文書中の当該最後に操作された箇所に続く個所の前に前記音声合成開始タグを付加した音声合成開始タグ付加文書と、
    前記取得した遷移元文書中の最後に操作された個所の直前の箇所と、当該個所の前の任意の個所とに前記スキップタグを付加したスキップタグ付加文書と
    を前記文書再構築制御情報として管理し、
    前記文書再構築手段は、
    前記取得した遷移元文書、音声合成開始タグ付加文書及びスキップタグ付加文書を合成して前記遷移元文書を再構築する
    ことを特徴とする請求項1または2記載の表示情報音声合成装置。
  4. 遷移元画面に戻った時に該遷移元画面で最後に操作された個所に続く個所からの音声合成出力を実行するか、実行しないかの選択を受付ける選択受付手段
    を更に具備することを特徴とする請求項1乃至3のいずれか記載の表示情報音声合成装置。
  5. 前記文書再構築手段は、
    前記選択受付手段により前記音声合成出力を実行する旨が選択された場合、前記遷移先画面上で前記遷移元文書へのリンク情報を保持するリンク保持情報が選択された時に、前記音声合成開始タグ及び前記スキップタグを付加した遷移元文書を再構築し、
    前記選択受付手段により前記音声合成出力を実行しない旨が選択された場合、前記遷移先画面上で前記遷移元文書へのリンク情報を保持するリンク保持情報が選択された時に、前記文書再構築制御情報中の前記リンク先情報に基づき遷移元文書を取得して前記表示制御手段に受け渡す
    ことを特徴とする請求4記載の表示情報音声合成装置。
  6. ハイパーテキスト形式の文書を受取り、画面に表示する表示制御手段と、前記画面に対応する文書中のタグを解析し、該画面の表示要素を音声合成して出力する音声合成手段を有する表示情報音声合成装置と通信接続され、
    前記表示情報音声合成装置で、前記表示制御手段により表示された画面上で、遷移先へのリンク情報を保持するリンク保持情報が選択された場合、該画面に対応する遷移元文書のリンク先情報と、該遷移元文書中の最後に操作された個所を示す最後の操作個所情報を文書再構築制御情報として保持、管理する情報管理手段と、
    前記表示情報音声合成装置で、前記画面上での前記リンク保持情報の選択に応じて遷移した遷移先画面上で遷移元文書へのリンク情報を保持するリンク保持情報が選択された場合、前記情報管理手段により該遷移元文書に対応して管理される文書再構築制御情報に基づき、当該遷移元文書上の前記最後の操作個所情報に対応する個所を音声合成出力の開始箇所として指示する音声合成開始タグ、及び、前記音声合成開始タグ直前までの任意区間を音声合成出力をスキップする区間として指示するスキップタグを付加した遷移元文書を再構築し、前記表示制御手段に受け渡す文書再構築手段と
    を具備することを特徴とするWebサーバ装置。
  7. Webサーバ装置からハイパーテキスト形式の文書を受取り、画面に表示する表示制御手段と、前記画面に対応する文書中のタグを解析し、該画面の表示要素を音声合成して出力する音声合成手段を有する表示情報音声合成装置に実装され、
    前記表示制御手段により表示された画面上で、遷移先へのリンク情報を保持するリンク保持情報が選択された場合、該画面に対応する遷移元文書のリンク先情報と、該遷移元文書中の最後に操作された個所を示す最後の操作個所情報を文書再構築制御情報として情報管理手段により保持、管理する情報管理処理と、
    前記画面上での前記リンク保持情報の選択に応じて遷移した遷移先画面上で遷移元文書へのリンク情報を保持するリンク保持情報が選択された場合、前記情報管理手段により該遷移元文書に対応して管理される文書再構築制御情報に基づき、当該遷移元文書上の前記最後の操作個所情報に対応する個所を音声合成出力の開始箇所として指示する音声合成開始タグ、及び、前記音声合成開始タグ直前までの任意区間を音声合成出力をスキップする区間として指示するスキップタグを付加した遷移元文書を文書再構築手段により再構築する文書再構築処理と、
    前記再構築された遷移元文書に基づき前記表示制御手段により表示される遷移元画面上で、該遷移元文書中の前記スキップタグにより指示された区間に対応する表示要素をスキップした後、前記音声合成開始タグに続く表示要素から順に音声合成して出力させるべく音声合成出力制御手段により前記音声合成手段を制御する処理と
    を前記表示情報音声合成装置に行なわせる表示情報音声合成プログラム。
JP2006190481A 2006-07-11 2006-07-11 Webサーバ装置、表示情報音声合成装置及びプログラム Pending JP2008021002A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006190481A JP2008021002A (ja) 2006-07-11 2006-07-11 Webサーバ装置、表示情報音声合成装置及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006190481A JP2008021002A (ja) 2006-07-11 2006-07-11 Webサーバ装置、表示情報音声合成装置及びプログラム

Publications (1)

Publication Number Publication Date
JP2008021002A true JP2008021002A (ja) 2008-01-31

Family

ID=39076896

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006190481A Pending JP2008021002A (ja) 2006-07-11 2006-07-11 Webサーバ装置、表示情報音声合成装置及びプログラム

Country Status (1)

Country Link
JP (1) JP2008021002A (ja)

Cited By (101)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015528918A (ja) * 2012-06-29 2015-10-01 アップル インコーポレイテッド 文書の音声作動式ナビゲーション及びブラウジングのための機器、方法、及びユーザインターフェース
US9633660B2 (en) 2010-02-25 2017-04-25 Apple Inc. User profiling for voice input processing
US9668024B2 (en) 2014-06-30 2017-05-30 Apple Inc. Intelligent automated assistant for TV user interactions
US9865248B2 (en) 2008-04-05 2018-01-09 Apple Inc. Intelligent text-to-speech conversion
US9934775B2 (en) 2016-05-26 2018-04-03 Apple Inc. Unit-selection text-to-speech synthesis based on predicted concatenation parameters
US9953088B2 (en) 2012-05-14 2018-04-24 Apple Inc. Crowd sourcing information to fulfill user requests
US9966060B2 (en) 2013-06-07 2018-05-08 Apple Inc. System and method for user-specified pronunciation of words for speech synthesis and recognition
US9971774B2 (en) 2012-09-19 2018-05-15 Apple Inc. Voice-based media searching
US9972304B2 (en) 2016-06-03 2018-05-15 Apple Inc. Privacy preserving distributed evaluation framework for embedded personalized systems
US9986419B2 (en) 2014-09-30 2018-05-29 Apple Inc. Social reminders
US10043516B2 (en) 2016-09-23 2018-08-07 Apple Inc. Intelligent automated assistant
US10049668B2 (en) 2015-12-02 2018-08-14 Apple Inc. Applying neural network language models to weighted finite state transducers for automatic speech recognition
US10049663B2 (en) 2016-06-08 2018-08-14 Apple, Inc. Intelligent automated assistant for media exploration
US10067938B2 (en) 2016-06-10 2018-09-04 Apple Inc. Multilingual word prediction
US10079014B2 (en) 2012-06-08 2018-09-18 Apple Inc. Name recognition system
US10083690B2 (en) 2014-05-30 2018-09-25 Apple Inc. Better resolution when referencing to concepts
US10089072B2 (en) 2016-06-11 2018-10-02 Apple Inc. Intelligent device arbitration and control
US10108612B2 (en) 2008-07-31 2018-10-23 Apple Inc. Mobile device having human language translation capability with positional feedback
US10169329B2 (en) 2014-05-30 2019-01-01 Apple Inc. Exemplar-based natural language processing
US10192552B2 (en) 2016-06-10 2019-01-29 Apple Inc. Digital assistant providing whispered speech
US10223066B2 (en) 2015-12-23 2019-03-05 Apple Inc. Proactive assistance based on dialog communication between devices
US10249300B2 (en) 2016-06-06 2019-04-02 Apple Inc. Intelligent list reading
US10269345B2 (en) 2016-06-11 2019-04-23 Apple Inc. Intelligent task discovery
US10283110B2 (en) 2009-07-02 2019-05-07 Apple Inc. Methods and apparatuses for automatic speech recognition
US10297253B2 (en) 2016-06-11 2019-05-21 Apple Inc. Application integration with a digital assistant
US10303715B2 (en) 2017-05-16 2019-05-28 Apple Inc. Intelligent automated assistant for media exploration
US10311871B2 (en) 2015-03-08 2019-06-04 Apple Inc. Competing devices responding to voice triggers
US10311144B2 (en) 2017-05-16 2019-06-04 Apple Inc. Emoji word sense disambiguation
US10318871B2 (en) 2005-09-08 2019-06-11 Apple Inc. Method and apparatus for building an intelligent automated assistant
US10332518B2 (en) 2017-05-09 2019-06-25 Apple Inc. User interface for correcting recognition errors
US10354011B2 (en) 2016-06-09 2019-07-16 Apple Inc. Intelligent automated assistant in a home environment
US10356243B2 (en) 2015-06-05 2019-07-16 Apple Inc. Virtual assistant aided communication with 3rd party service in a communication session
US10366158B2 (en) 2015-09-29 2019-07-30 Apple Inc. Efficient word encoding for recurrent neural network language models
US10381016B2 (en) 2008-01-03 2019-08-13 Apple Inc. Methods and apparatus for altering audio output signals
US10395654B2 (en) 2017-05-11 2019-08-27 Apple Inc. Text normalization based on a data-driven learning network
US10403278B2 (en) 2017-05-16 2019-09-03 Apple Inc. Methods and systems for phonetic matching in digital assistant services
US10403283B1 (en) 2018-06-01 2019-09-03 Apple Inc. Voice interaction at a primary device to access call functionality of a companion device
US10410637B2 (en) 2017-05-12 2019-09-10 Apple Inc. User-specific acoustic models
US10417405B2 (en) 2011-03-21 2019-09-17 Apple Inc. Device access using voice authentication
US10417266B2 (en) 2017-05-09 2019-09-17 Apple Inc. Context-aware ranking of intelligent response suggestions
US10431204B2 (en) 2014-09-11 2019-10-01 Apple Inc. Method and apparatus for discovering trending terms in speech requests
US10438595B2 (en) 2014-09-30 2019-10-08 Apple Inc. Speaker identification and unsupervised speaker adaptation techniques
US10445429B2 (en) 2017-09-21 2019-10-15 Apple Inc. Natural language understanding using vocabularies with compressed serialized tries
US10446143B2 (en) 2016-03-14 2019-10-15 Apple Inc. Identification of voice inputs providing credentials
US10453443B2 (en) 2014-09-30 2019-10-22 Apple Inc. Providing an indication of the suitability of speech recognition
US10474753B2 (en) 2016-09-07 2019-11-12 Apple Inc. Language identification using recurrent neural networks
US10482874B2 (en) 2017-05-15 2019-11-19 Apple Inc. Hierarchical belief states for digital assistants
US10490187B2 (en) 2016-06-10 2019-11-26 Apple Inc. Digital assistant providing automated status report
US10497365B2 (en) 2014-05-30 2019-12-03 Apple Inc. Multi-command single utterance input method
US10496705B1 (en) 2018-06-03 2019-12-03 Apple Inc. Accelerated task performance
US10509862B2 (en) 2016-06-10 2019-12-17 Apple Inc. Dynamic phrase expansion of language input
US10521466B2 (en) 2016-06-11 2019-12-31 Apple Inc. Data driven natural language event detection and classification
US10529332B2 (en) 2015-03-08 2020-01-07 Apple Inc. Virtual assistant activation
US10567477B2 (en) 2015-03-08 2020-02-18 Apple Inc. Virtual assistant continuity
US10592604B2 (en) 2018-03-12 2020-03-17 Apple Inc. Inverse text normalization for automatic speech recognition
US10593346B2 (en) 2016-12-22 2020-03-17 Apple Inc. Rank-reduced token representation for automatic speech recognition
US10636424B2 (en) 2017-11-30 2020-04-28 Apple Inc. Multi-turn canned dialog
US10643611B2 (en) 2008-10-02 2020-05-05 Apple Inc. Electronic devices with voice command and contextual data processing capabilities
US10657328B2 (en) 2017-06-02 2020-05-19 Apple Inc. Multi-task recurrent neural network architecture for efficient morphology handling in neural language modeling
US10657961B2 (en) 2013-06-08 2020-05-19 Apple Inc. Interpreting and acting upon commands that involve sharing information with remote devices
US10671428B2 (en) 2015-09-08 2020-06-02 Apple Inc. Distributed personal assistant
US10684703B2 (en) 2018-06-01 2020-06-16 Apple Inc. Attention aware virtual assistant dismissal
US10691473B2 (en) 2015-11-06 2020-06-23 Apple Inc. Intelligent automated assistant in a messaging environment
US10699717B2 (en) 2014-05-30 2020-06-30 Apple Inc. Intelligent assistant for home automation
US10706841B2 (en) 2010-01-18 2020-07-07 Apple Inc. Task flow identification based on user intent
US10726832B2 (en) 2017-05-11 2020-07-28 Apple Inc. Maintaining privacy of personal information
US10733993B2 (en) 2016-06-10 2020-08-04 Apple Inc. Intelligent digital assistant in a multi-tasking environment
US10733982B2 (en) 2018-01-08 2020-08-04 Apple Inc. Multi-directional dialog
US10733375B2 (en) 2018-01-31 2020-08-04 Apple Inc. Knowledge-based framework for improving natural language understanding
US10747498B2 (en) 2015-09-08 2020-08-18 Apple Inc. Zero latency digital assistant
US10755051B2 (en) 2017-09-29 2020-08-25 Apple Inc. Rule-based natural language processing
US10755703B2 (en) 2017-05-11 2020-08-25 Apple Inc. Offline personal assistant
US10769385B2 (en) 2013-06-09 2020-09-08 Apple Inc. System and method for inferring user intent from speech inputs
US10791176B2 (en) 2017-05-12 2020-09-29 Apple Inc. Synchronization and task delegation of a digital assistant
US10789959B2 (en) 2018-03-02 2020-09-29 Apple Inc. Training speaker recognition models for digital assistants
US10789945B2 (en) 2017-05-12 2020-09-29 Apple Inc. Low-latency intelligent automated assistant
US10795541B2 (en) 2009-06-05 2020-10-06 Apple Inc. Intelligent organization of tasks items
US10810274B2 (en) 2017-05-15 2020-10-20 Apple Inc. Optimizing dialogue policy decisions for digital assistants using implicit feedback
US10818288B2 (en) 2018-03-26 2020-10-27 Apple Inc. Natural assistant interaction
US10892996B2 (en) 2018-06-01 2021-01-12 Apple Inc. Variable latency device coordination
US10909331B2 (en) 2018-03-30 2021-02-02 Apple Inc. Implicit identification of translation payload with neural machine translation
US10928918B2 (en) 2018-05-07 2021-02-23 Apple Inc. Raise to speak
US10984780B2 (en) 2018-05-21 2021-04-20 Apple Inc. Global semantic word embeddings using bi-directional recurrent neural networks
US11010550B2 (en) 2015-09-29 2021-05-18 Apple Inc. Unified language modeling framework for word prediction, auto-completion and auto-correction
US11025565B2 (en) 2015-06-07 2021-06-01 Apple Inc. Personalized prediction of responses for instant messaging
US11023513B2 (en) 2007-12-20 2021-06-01 Apple Inc. Method and apparatus for searching using an active ontology
US11048473B2 (en) 2013-06-09 2021-06-29 Apple Inc. Device, method, and graphical user interface for enabling conversation persistence across two or more instances of a digital assistant
US11069336B2 (en) 2012-03-02 2021-07-20 Apple Inc. Systems and methods for name pronunciation
US11080012B2 (en) 2009-06-05 2021-08-03 Apple Inc. Interface for a virtual digital assistant
US11127397B2 (en) 2015-05-27 2021-09-21 Apple Inc. Device voice control
US11145294B2 (en) 2018-05-07 2021-10-12 Apple Inc. Intelligent automated assistant for delivering content from user experiences
US11204787B2 (en) 2017-01-09 2021-12-21 Apple Inc. Application integration with a digital assistant
US11217255B2 (en) 2017-05-16 2022-01-04 Apple Inc. Far-field extension for digital assistant services
US11231904B2 (en) 2015-03-06 2022-01-25 Apple Inc. Reducing response latency of intelligent automated assistants
US11281993B2 (en) 2016-12-05 2022-03-22 Apple Inc. Model and ensemble compression for metric learning
US11301477B2 (en) 2017-05-12 2022-04-12 Apple Inc. Feedback analysis of a digital assistant
US11314370B2 (en) 2013-12-06 2022-04-26 Apple Inc. Method for extracting salient dialog usage from live data
US11350253B2 (en) 2011-06-03 2022-05-31 Apple Inc. Active transport based notifications
US11386266B2 (en) 2018-06-01 2022-07-12 Apple Inc. Text correction
US11495218B2 (en) 2018-06-01 2022-11-08 Apple Inc. Virtual assistant operation in multi-device environments
US11587559B2 (en) 2015-09-30 2023-02-21 Apple Inc. Intelligent device identification

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000339132A (ja) * 1999-05-31 2000-12-08 Sony Corp 文書音声化装置および文書音声化方法
JP2003084785A (ja) * 2001-09-12 2003-03-19 Sony Corp 情報処理装置および情報処理方法、記録媒体、並びにプログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000339132A (ja) * 1999-05-31 2000-12-08 Sony Corp 文書音声化装置および文書音声化方法
JP2003084785A (ja) * 2001-09-12 2003-03-19 Sony Corp 情報処理装置および情報処理方法、記録媒体、並びにプログラム

Cited By (128)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10318871B2 (en) 2005-09-08 2019-06-11 Apple Inc. Method and apparatus for building an intelligent automated assistant
US11023513B2 (en) 2007-12-20 2021-06-01 Apple Inc. Method and apparatus for searching using an active ontology
US10381016B2 (en) 2008-01-03 2019-08-13 Apple Inc. Methods and apparatus for altering audio output signals
US9865248B2 (en) 2008-04-05 2018-01-09 Apple Inc. Intelligent text-to-speech conversion
US10108612B2 (en) 2008-07-31 2018-10-23 Apple Inc. Mobile device having human language translation capability with positional feedback
US11348582B2 (en) 2008-10-02 2022-05-31 Apple Inc. Electronic devices with voice command and contextual data processing capabilities
US10643611B2 (en) 2008-10-02 2020-05-05 Apple Inc. Electronic devices with voice command and contextual data processing capabilities
US10795541B2 (en) 2009-06-05 2020-10-06 Apple Inc. Intelligent organization of tasks items
US11080012B2 (en) 2009-06-05 2021-08-03 Apple Inc. Interface for a virtual digital assistant
US10283110B2 (en) 2009-07-02 2019-05-07 Apple Inc. Methods and apparatuses for automatic speech recognition
US11423886B2 (en) 2010-01-18 2022-08-23 Apple Inc. Task flow identification based on user intent
US10706841B2 (en) 2010-01-18 2020-07-07 Apple Inc. Task flow identification based on user intent
US9633660B2 (en) 2010-02-25 2017-04-25 Apple Inc. User profiling for voice input processing
US10692504B2 (en) 2010-02-25 2020-06-23 Apple Inc. User profiling for voice input processing
US10049675B2 (en) 2010-02-25 2018-08-14 Apple Inc. User profiling for voice input processing
US10417405B2 (en) 2011-03-21 2019-09-17 Apple Inc. Device access using voice authentication
US11350253B2 (en) 2011-06-03 2022-05-31 Apple Inc. Active transport based notifications
US11069336B2 (en) 2012-03-02 2021-07-20 Apple Inc. Systems and methods for name pronunciation
US9953088B2 (en) 2012-05-14 2018-04-24 Apple Inc. Crowd sourcing information to fulfill user requests
US10079014B2 (en) 2012-06-08 2018-09-18 Apple Inc. Name recognition system
JP2015528918A (ja) * 2012-06-29 2015-10-01 アップル インコーポレイテッド 文書の音声作動式ナビゲーション及びブラウジングのための機器、方法、及びユーザインターフェース
US9495129B2 (en) 2012-06-29 2016-11-15 Apple Inc. Device, method, and user interface for voice-activated navigation and browsing of a document
US9971774B2 (en) 2012-09-19 2018-05-15 Apple Inc. Voice-based media searching
US9966060B2 (en) 2013-06-07 2018-05-08 Apple Inc. System and method for user-specified pronunciation of words for speech synthesis and recognition
US10657961B2 (en) 2013-06-08 2020-05-19 Apple Inc. Interpreting and acting upon commands that involve sharing information with remote devices
US11048473B2 (en) 2013-06-09 2021-06-29 Apple Inc. Device, method, and graphical user interface for enabling conversation persistence across two or more instances of a digital assistant
US10769385B2 (en) 2013-06-09 2020-09-08 Apple Inc. System and method for inferring user intent from speech inputs
US11314370B2 (en) 2013-12-06 2022-04-26 Apple Inc. Method for extracting salient dialog usage from live data
US10417344B2 (en) 2014-05-30 2019-09-17 Apple Inc. Exemplar-based natural language processing
US10657966B2 (en) 2014-05-30 2020-05-19 Apple Inc. Better resolution when referencing to concepts
US10083690B2 (en) 2014-05-30 2018-09-25 Apple Inc. Better resolution when referencing to concepts
US10699717B2 (en) 2014-05-30 2020-06-30 Apple Inc. Intelligent assistant for home automation
US10169329B2 (en) 2014-05-30 2019-01-01 Apple Inc. Exemplar-based natural language processing
US10714095B2 (en) 2014-05-30 2020-07-14 Apple Inc. Intelligent assistant for home automation
US10497365B2 (en) 2014-05-30 2019-12-03 Apple Inc. Multi-command single utterance input method
US11257504B2 (en) 2014-05-30 2022-02-22 Apple Inc. Intelligent assistant for home automation
US10904611B2 (en) 2014-06-30 2021-01-26 Apple Inc. Intelligent automated assistant for TV user interactions
US9668024B2 (en) 2014-06-30 2017-05-30 Apple Inc. Intelligent automated assistant for TV user interactions
US10431204B2 (en) 2014-09-11 2019-10-01 Apple Inc. Method and apparatus for discovering trending terms in speech requests
US10390213B2 (en) 2014-09-30 2019-08-20 Apple Inc. Social reminders
US10453443B2 (en) 2014-09-30 2019-10-22 Apple Inc. Providing an indication of the suitability of speech recognition
US10438595B2 (en) 2014-09-30 2019-10-08 Apple Inc. Speaker identification and unsupervised speaker adaptation techniques
US9986419B2 (en) 2014-09-30 2018-05-29 Apple Inc. Social reminders
US11231904B2 (en) 2015-03-06 2022-01-25 Apple Inc. Reducing response latency of intelligent automated assistants
US10529332B2 (en) 2015-03-08 2020-01-07 Apple Inc. Virtual assistant activation
US10311871B2 (en) 2015-03-08 2019-06-04 Apple Inc. Competing devices responding to voice triggers
US11087759B2 (en) 2015-03-08 2021-08-10 Apple Inc. Virtual assistant activation
US10567477B2 (en) 2015-03-08 2020-02-18 Apple Inc. Virtual assistant continuity
US11127397B2 (en) 2015-05-27 2021-09-21 Apple Inc. Device voice control
US10356243B2 (en) 2015-06-05 2019-07-16 Apple Inc. Virtual assistant aided communication with 3rd party service in a communication session
US11025565B2 (en) 2015-06-07 2021-06-01 Apple Inc. Personalized prediction of responses for instant messaging
US10671428B2 (en) 2015-09-08 2020-06-02 Apple Inc. Distributed personal assistant
US10747498B2 (en) 2015-09-08 2020-08-18 Apple Inc. Zero latency digital assistant
US11500672B2 (en) 2015-09-08 2022-11-15 Apple Inc. Distributed personal assistant
US11010550B2 (en) 2015-09-29 2021-05-18 Apple Inc. Unified language modeling framework for word prediction, auto-completion and auto-correction
US10366158B2 (en) 2015-09-29 2019-07-30 Apple Inc. Efficient word encoding for recurrent neural network language models
US11587559B2 (en) 2015-09-30 2023-02-21 Apple Inc. Intelligent device identification
US10691473B2 (en) 2015-11-06 2020-06-23 Apple Inc. Intelligent automated assistant in a messaging environment
US11526368B2 (en) 2015-11-06 2022-12-13 Apple Inc. Intelligent automated assistant in a messaging environment
US10354652B2 (en) 2015-12-02 2019-07-16 Apple Inc. Applying neural network language models to weighted finite state transducers for automatic speech recognition
US10049668B2 (en) 2015-12-02 2018-08-14 Apple Inc. Applying neural network language models to weighted finite state transducers for automatic speech recognition
US10223066B2 (en) 2015-12-23 2019-03-05 Apple Inc. Proactive assistance based on dialog communication between devices
US10446143B2 (en) 2016-03-14 2019-10-15 Apple Inc. Identification of voice inputs providing credentials
US9934775B2 (en) 2016-05-26 2018-04-03 Apple Inc. Unit-selection text-to-speech synthesis based on predicted concatenation parameters
US9972304B2 (en) 2016-06-03 2018-05-15 Apple Inc. Privacy preserving distributed evaluation framework for embedded personalized systems
US10249300B2 (en) 2016-06-06 2019-04-02 Apple Inc. Intelligent list reading
US11069347B2 (en) 2016-06-08 2021-07-20 Apple Inc. Intelligent automated assistant for media exploration
US10049663B2 (en) 2016-06-08 2018-08-14 Apple, Inc. Intelligent automated assistant for media exploration
US10354011B2 (en) 2016-06-09 2019-07-16 Apple Inc. Intelligent automated assistant in a home environment
US10192552B2 (en) 2016-06-10 2019-01-29 Apple Inc. Digital assistant providing whispered speech
US10509862B2 (en) 2016-06-10 2019-12-17 Apple Inc. Dynamic phrase expansion of language input
US10490187B2 (en) 2016-06-10 2019-11-26 Apple Inc. Digital assistant providing automated status report
US11037565B2 (en) 2016-06-10 2021-06-15 Apple Inc. Intelligent digital assistant in a multi-tasking environment
US10733993B2 (en) 2016-06-10 2020-08-04 Apple Inc. Intelligent digital assistant in a multi-tasking environment
US10067938B2 (en) 2016-06-10 2018-09-04 Apple Inc. Multilingual word prediction
US10580409B2 (en) 2016-06-11 2020-03-03 Apple Inc. Application integration with a digital assistant
US10521466B2 (en) 2016-06-11 2019-12-31 Apple Inc. Data driven natural language event detection and classification
US10269345B2 (en) 2016-06-11 2019-04-23 Apple Inc. Intelligent task discovery
US10297253B2 (en) 2016-06-11 2019-05-21 Apple Inc. Application integration with a digital assistant
US11152002B2 (en) 2016-06-11 2021-10-19 Apple Inc. Application integration with a digital assistant
US10089072B2 (en) 2016-06-11 2018-10-02 Apple Inc. Intelligent device arbitration and control
US10942702B2 (en) 2016-06-11 2021-03-09 Apple Inc. Intelligent device arbitration and control
US10474753B2 (en) 2016-09-07 2019-11-12 Apple Inc. Language identification using recurrent neural networks
US10553215B2 (en) 2016-09-23 2020-02-04 Apple Inc. Intelligent automated assistant
US10043516B2 (en) 2016-09-23 2018-08-07 Apple Inc. Intelligent automated assistant
US11281993B2 (en) 2016-12-05 2022-03-22 Apple Inc. Model and ensemble compression for metric learning
US10593346B2 (en) 2016-12-22 2020-03-17 Apple Inc. Rank-reduced token representation for automatic speech recognition
US11204787B2 (en) 2017-01-09 2021-12-21 Apple Inc. Application integration with a digital assistant
US10417266B2 (en) 2017-05-09 2019-09-17 Apple Inc. Context-aware ranking of intelligent response suggestions
US10332518B2 (en) 2017-05-09 2019-06-25 Apple Inc. User interface for correcting recognition errors
US10726832B2 (en) 2017-05-11 2020-07-28 Apple Inc. Maintaining privacy of personal information
US10755703B2 (en) 2017-05-11 2020-08-25 Apple Inc. Offline personal assistant
US10847142B2 (en) 2017-05-11 2020-11-24 Apple Inc. Maintaining privacy of personal information
US10395654B2 (en) 2017-05-11 2019-08-27 Apple Inc. Text normalization based on a data-driven learning network
US10410637B2 (en) 2017-05-12 2019-09-10 Apple Inc. User-specific acoustic models
US10789945B2 (en) 2017-05-12 2020-09-29 Apple Inc. Low-latency intelligent automated assistant
US10791176B2 (en) 2017-05-12 2020-09-29 Apple Inc. Synchronization and task delegation of a digital assistant
US11405466B2 (en) 2017-05-12 2022-08-02 Apple Inc. Synchronization and task delegation of a digital assistant
US11301477B2 (en) 2017-05-12 2022-04-12 Apple Inc. Feedback analysis of a digital assistant
US10810274B2 (en) 2017-05-15 2020-10-20 Apple Inc. Optimizing dialogue policy decisions for digital assistants using implicit feedback
US10482874B2 (en) 2017-05-15 2019-11-19 Apple Inc. Hierarchical belief states for digital assistants
US10303715B2 (en) 2017-05-16 2019-05-28 Apple Inc. Intelligent automated assistant for media exploration
US10403278B2 (en) 2017-05-16 2019-09-03 Apple Inc. Methods and systems for phonetic matching in digital assistant services
US11217255B2 (en) 2017-05-16 2022-01-04 Apple Inc. Far-field extension for digital assistant services
US10311144B2 (en) 2017-05-16 2019-06-04 Apple Inc. Emoji word sense disambiguation
US10657328B2 (en) 2017-06-02 2020-05-19 Apple Inc. Multi-task recurrent neural network architecture for efficient morphology handling in neural language modeling
US10445429B2 (en) 2017-09-21 2019-10-15 Apple Inc. Natural language understanding using vocabularies with compressed serialized tries
US10755051B2 (en) 2017-09-29 2020-08-25 Apple Inc. Rule-based natural language processing
US10636424B2 (en) 2017-11-30 2020-04-28 Apple Inc. Multi-turn canned dialog
US10733982B2 (en) 2018-01-08 2020-08-04 Apple Inc. Multi-directional dialog
US10733375B2 (en) 2018-01-31 2020-08-04 Apple Inc. Knowledge-based framework for improving natural language understanding
US10789959B2 (en) 2018-03-02 2020-09-29 Apple Inc. Training speaker recognition models for digital assistants
US10592604B2 (en) 2018-03-12 2020-03-17 Apple Inc. Inverse text normalization for automatic speech recognition
US10818288B2 (en) 2018-03-26 2020-10-27 Apple Inc. Natural assistant interaction
US10909331B2 (en) 2018-03-30 2021-02-02 Apple Inc. Implicit identification of translation payload with neural machine translation
US11145294B2 (en) 2018-05-07 2021-10-12 Apple Inc. Intelligent automated assistant for delivering content from user experiences
US10928918B2 (en) 2018-05-07 2021-02-23 Apple Inc. Raise to speak
US10984780B2 (en) 2018-05-21 2021-04-20 Apple Inc. Global semantic word embeddings using bi-directional recurrent neural networks
US10984798B2 (en) 2018-06-01 2021-04-20 Apple Inc. Voice interaction at a primary device to access call functionality of a companion device
US10403283B1 (en) 2018-06-01 2019-09-03 Apple Inc. Voice interaction at a primary device to access call functionality of a companion device
US11386266B2 (en) 2018-06-01 2022-07-12 Apple Inc. Text correction
US11009970B2 (en) 2018-06-01 2021-05-18 Apple Inc. Attention aware virtual assistant dismissal
US11495218B2 (en) 2018-06-01 2022-11-08 Apple Inc. Virtual assistant operation in multi-device environments
US10684703B2 (en) 2018-06-01 2020-06-16 Apple Inc. Attention aware virtual assistant dismissal
US10892996B2 (en) 2018-06-01 2021-01-12 Apple Inc. Variable latency device coordination
US10944859B2 (en) 2018-06-03 2021-03-09 Apple Inc. Accelerated task performance
US10504518B1 (en) 2018-06-03 2019-12-10 Apple Inc. Accelerated task performance
US10496705B1 (en) 2018-06-03 2019-12-03 Apple Inc. Accelerated task performance

Similar Documents

Publication Publication Date Title
JP2008021002A (ja) Webサーバ装置、表示情報音声合成装置及びプログラム
JP2003150542A (ja) デジタル・コンテンツに付加されるアノテーション情報を共有するための方法、プログラムおよびコンピュータ・システム
JP2005031995A (ja) ユーザインタフェース制御装置及びその方法
JP2009169537A (ja) 情報処理装置、シンボル表示方法、シンボル表示プログラム
JP2007328510A (ja) コンテンツ変換装置、コンテンツ表示装置、コンテンツ閲覧装置、コンテンツ変換方法、コンテンツ閲覧方法およびプログラム
JP4292789B2 (ja) ブラウザ機能拡張方法
JP2001084212A (ja) ホームページ作成方法
JP2007047988A (ja) Webページ再編集方法及びシステム
JP2009176231A (ja) クライアント装置およびクライアント制御プログラム
JP5267342B2 (ja) マッシュアッププログラム、マッシュアップ装置及びマッシュアップ方法
JP4938589B2 (ja) ウェブページ閲覧装置およびウェブページ閲覧サーバ
JPH10187408A (ja) ウェブ・ブラウザ内のオーディオ機能を制御するためのユーザ・インタフェース
JP5338298B2 (ja) ページ閲覧装置およびプログラム
US8683338B2 (en) Information processing device
JP2004234380A (ja) テーブル表示切替方法,テキストデータ変換プログラム及びタグプログラム
JP4014361B2 (ja) 音声合成装置及び音声合成方法並びに音声合成プログラムを記録したコンピュータ読み取り可能な記録媒体
JP2011128970A (ja) ウェブページ作成支援装置、ウェブページ作成支援方法、コンピュータプログラム
JP3139972B2 (ja) スクリプト解釈実行機能を有するファクシミリ端末利用型www検索装置、および、画像データベース装置
JP2007164210A (ja) コンテンツ音声化提供システム
JP2009271576A (ja) クライアント端末装置、シンクライアントシステム、シンクライアントサーバ装置、クライアント端末装置制御方法
KR20030073001A (ko) 웹사이트 제작을 위한 웹페이지 생성 및 편집방법
JP2005010992A (ja) 合成音声によるウェブページの説明および広告の方法及びサーバ
JP2000222326A (ja) 学習支援方法及びシステム及び学習支援プログラムを格納した記憶媒体
KR20200051165A (ko) Internet Explorer에서의 인터넷 정보 처리 자동화 방법
JP2010039811A (ja) デジタル放送受信装置およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090210

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100201

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100413

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100610

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20110607