JP4728841B2 - 提示情報出力装置 - Google Patents

提示情報出力装置 Download PDF

Info

Publication number
JP4728841B2
JP4728841B2 JP2006061285A JP2006061285A JP4728841B2 JP 4728841 B2 JP4728841 B2 JP 4728841B2 JP 2006061285 A JP2006061285 A JP 2006061285A JP 2006061285 A JP2006061285 A JP 2006061285A JP 4728841 B2 JP4728841 B2 JP 4728841B2
Authority
JP
Japan
Prior art keywords
presentation
information
unit
data
subtitle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2006061285A
Other languages
English (en)
Other versions
JP2007243438A (ja
Inventor
忠裕 坂井
悟 近藤
拓也 半田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japan Broadcasting Corp filed Critical Japan Broadcasting Corp
Priority to JP2006061285A priority Critical patent/JP4728841B2/ja
Publication of JP2007243438A publication Critical patent/JP2007243438A/ja
Application granted granted Critical
Publication of JP4728841B2 publication Critical patent/JP4728841B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、例えばディジタル放送でサービスされる字幕放送番組の文字情報や、会議において聴覚障害者への情報保障で用いられる字幕文字情報等のような実時間の情報を視覚障害者に提示情報として出力する提示情報出力装置に関する。
視覚障害には、視力の低下した弱視や視野が狭い視野狭窄、全盲、視覚及び聴覚の両方に障害のある盲ろう等がある。従来、放送や通信の情報を視覚障害者に伝達するものとして、以下に示すようなものが知られている。
まず、第1の従来例としては、放送や通信の情報を文字情報に変換して一旦蓄積した後に画面上に表示し、パーソナルコンピュータ上で動作するスクリーンリーダー、例えば「95リーダー」や「JAWS」等により、画面上の文字を読み上げると共に点字で提示するものが実用化されている。これにより、例えばインターネット上の情報をブラウザで取得し、画面に表示された文字情報を点字に変換して視覚障害者に提示することができる。
次に、第2の従来例としては、文字放送の文字情報を点字装置や指点字装置で得るものが研究レベルで開発されている。これは、文字放送の文字情報を受信して一旦蓄積し、蓄積した文字情報を読み出して点字に変換し、視覚障害者に提示するものである。
他方、例えば会議において聴覚障害者への情報保障を目的として、話者の言葉をタイプライタで入力し、入力された文字情報をパーソナルコンピュータを介してスクリーンに表示するシステムが知られている(例えば、非特許文献1参照。)。このシステムが応用された第3の従来例として、タイプライタで入力された文字情報を点字に変換し、視覚障害者に提示するものが提案されている(例えば、非特許文献2参照。)。この第3の従来例のシステムでは、タイプライタで打鍵する時間分だけ話し言葉よりも遅延するが、実時間に近い状態で話者の言葉を点字に変換して視覚障害者に提示することができる。
また、電話回線を介したコミュニケーションのために、米国で聴覚障害者用に開発された電話コミュニケーション機器TDD/TTY(Telecommunications Device for the Deaf/TeleTYpewriter)がある。このTDD/TTYは、タイプライタから入力された文字情報を電話回線経由で送信し、受信側では液晶画面に文字を表示するものである。このシステムが応用された第4の従来例として、TDD/TTYを盲ろう者用に改修し、受信側の液晶ディスプレイを点字ピンディスプレイに置き換えて情報を提示するものが提案されている(例えば、非特許文献3参照。)。
黒木ほか著"聴覚障害者のための音声字幕かシステムにおけるノンバーバル情報の提示方法"、ヒューマンインタフェースシンポジウム2004論文集、pp.329−332(2004) 河井ほか著"誰でも参加できる学会を目指して−視覚障害関連情報保障"、2005年電子情報通信学会総合大会講演論文集、基礎・境界、HK−1−2、(2005)p.SS6−7 小林ほか著"盲ろう者によるコンピュータネットワーク利用の可能性と課題"、信学技報ET97−79(1997−11)、pp.61−65
しかしながら、第1及び第2の従来例として示したものでは、入力された情報を一旦蓄積し、蓄積した情報を読み出して提示する構成なので、蓄積された情報を利用者が所望する提示速度で提示することは可能であるが、例えば放送のように時々刻々と変化する実時間の情報が伝達されるメディアについては、その情報を実時間で提示できないという問題があった。具体的には、例えば放送における災害時報道では、その情報を全て蓄積する以前に、できる限り実時間に近い状態で視覚障害者に提示することが求められるが、第1及び第2の従来例として示したものでは、一旦情報を全て蓄積する構成なので、災害時報道の情報を実時間で提示できないという問題があった。
また、第3の従来例として示したものでは、話者の言葉をタイプライタで入力して文字情報に変換する構成なので、タイプライタの打鍵速度によっては視覚障害者が提示情報を取得できない場合があった。具体的には、視覚障害者が点字や指点字等の触覚によって情報を取得する際の触読速度は個人により大きな差があるので、第3の従来例として示したものでは、タイプライタが打鍵される速度よりも視覚障害者の触読速度が遅い場合に提示情報が欠落してしまい、視覚障害者は提示情報を取得できないという問題があった。
また、第4の従来例として示したものでは、1対1の対話形式には適用できるが、1対多の情報伝達においては適用できないので、例えば放送のように時々刻々と変化する実時間の情報を1対多の形式で伝達するメディアの情報は提示できないという問題があった。
前述のように、従来のものはそれぞれ問題を有しており、視覚障害者の中でも特に盲ろう者が、例えば放送のニュースや番組を楽しむためのメディアとしては、現在は字幕放送番組が唯一生番組での情報が得られるものであるが、この字幕放送番組の情報を欠落せずに、できる限り実時間に近い状態で情報を提示するものは存在していない。
本発明は、従来の問題を解決するためになされたものであり、実時間で入力される情報を欠落させることなく、できる限り実時間に近づけた状態で利用者に提示することができる提示情報出力装置を提供することを目的とする。
本発明の提示情報出力装置は、実時間で入力される字幕情報を格納する情報格納手段と、格納された前記字幕情報を触読情報に変換して利用者に提示する際の提示速度を設定する提示速度設定手段と、前記触読情報を出力する提示情報出力手段と、前記情報格納手段に格納された前記字幕情報を実時間で提示する実時間提示モード及び前記提示速度に応じて提示する遅延提示モードのいずれかの提示モードを設定する提示モード設定手段とを備え、前記提示情報出力手段は、前記提示モード設定手段によって設定された提示モードで前記触読情報を出力するものであって、前記遅延提示モードにおいて前記文字情報が話者を識別する情報を含むときに前記利用者の操作に応じて前記触読情報を前記話者ごとに早送りして出力する構成を有している。
この構成により、本発明の提示情報出力装置は、提示情報出力手段が、情報格納手段に実時間で入力され格納された字幕情報を触読情報として提示速度に応じて出力するので、所望する提示速度を利用者に設定させることにより、実時間で入力される字幕情報を欠落させることなく、できる限り実時間に近づけた状態で利用者に提示することができる。
また、この構成により、本発明の提示情報出力装置は、実時間提示モード及び遅延提示モードのいずれかで提示情報を出力することができる。
また、この構成により、本発明の提示情報出力装置は、遅延提示モードで提示情報を出力している場合でも、より実時間モードに近い状態に変更することができ、利用者の便宜を図ることができる。
さらに、本発明の提示情報出力装置は、入力される前記情報は、字幕放送番組の文字情報を含み、前記情報格納手段は、前記文字情報の文節、文及び段落のうちのいずれかの単位毎に前記文字情報を格納する複数の一時バッファを備え、前記提示情報出力手段は、前記単位毎に格納された情報を結合して出力する構成を有している。
この構成により、本発明の提示情報出力装置は、字幕放送番組の文字情報を不自然な位置で途切れることなく複数の一時バッファ毎に格納することができるので、自然で違和感のない提示情報を容易に出力することができる。
さらに、本発明の提示情報出力装置は、前記提示情報出力手段が出力する前記触読情報を前記利用者が使用する受信端末に送信する送信装置をさらに備えた構成を有している。
さらに、本発明の提示情報出力装置は、字幕放送番組の1画面分の字幕データを格納する1画面データバッファ部と、前記1画面分の字幕データを順次結合することによって前記字幕放送番組のデータを蓄積する番組データ蓄積部と、前記1画面データバッファ部又は前記番組データ蓄積部に格納された前記字幕データを触読情報に変換して利用者に提示する際の提示速度を設定する提示速度設定手段と、前記触読情報を出力する提示情報出力手段と、前記1画面データバッファ部に格納された前記字幕データを実時間で提示する実時間提示モード、前記1画面データバッファ部に格納された前記字幕データを前記提示速度に応じて提示する遅延提示モード及び前記番組データ蓄積部に格納された前記字幕放送番組の字幕データを前記提示速度に応じて提示する番組選択提示モードのいずれかの提示モードを設定する提示モード設定手段とを備え、前記提示情報出力手段は、前記提示モード設定手段によって設定された提示モードで前記触読情報を出力する構成を有している。
さらに、本発明の提示情報出力装置は、前記番組データ蓄積部は、複数の字幕放送番組のデータを蓄積するものであって、前記番組データ蓄積部に蓄積された前記複数の字幕放送番組のいずれかを選択するためのメニュー情報を生成するメニュー情報生成手段を備えた構成を有している。
この構成により、本発明の提示情報出力装置は、蓄積した字幕放送番組をメニュー情報に基づいて利用者に選択させて提示することができる。
本発明は、実時間で入力される情報を欠落させることなく、できる限り実時間に近づけた状態で利用者に提示することができるという効果を有する提示情報出力装置を提供することができるものである。
以下、本発明の実施の形態について図面を用いて説明する。なお、実時間で入力される情報としてディジタル放送で提供される字幕放送の情報を例として取り挙げ、本発明の提示情報出力装置を備えた情報提示システムが字幕放送の情報を視覚障害者に提示する例について説明する。
(第1の実施の形態)
まず、本発明の第1の実施の形態に係る情報提示システムの構成について説明する。
図1に示すように、本実施の形態に係る情報提示システム100は、字幕放送番組のトランスポートストリームのデータ(以下「TSデータ」という。)を入力して提示情報を出力する提示情報出力装置10と、提示情報を提示する情報提示装置20とを備えている。なお、情報提示システム100は、例えばCPU(Central Processing Unit)、ROM(Read−Only Memory)、RAM(Random−Access Memory)等を備え、所定のプログラムによって動作するようになっている。
提示情報出力装置10は、TSデータから字幕データを抽出する字幕データ抽出部11と、抽出された字幕データを格納する一時バッファ遅延提示部12と、字幕データを提示情報として出力する提示制御部13と、提示制御部13の動作を制御するための制御情報を設定する制御情報設定部14とを備えている。ここで、提示情報とは、利用者が触読する触読情報、視認する視認情報及び聴取する聴取情報のうちの少なくとも1つを含むものをいう。
情報提示装置20は、提示情報を音声に変換して出力する音声出力部21と、提示情報を弱視者用の表示に変換して画面表示する弱視画面表示部22と、提示情報を例えば点字や指点字等の触覚情報に変換して提示する触覚提示部23と、提示情報出力装置10の制御情報を入力する制御情報入力部24とを備えている。
字幕データ抽出部11は、ディジタル放送の受信機(図示省略)が出力する字幕放送番組のTSデータから文字情報を含む字幕データを、例えば字幕画面毎に、又は文節、文及び段落のうちのいずれかの単位毎に抽出するようになっている。なお、字幕データの文言は、字幕放送番組における字幕データのみを限定して示すものではなく、例えば地震や事件等の情報を速報する際に用いられる文字スーパのデータを含むものである。
一時バッファ遅延提示部12は、例えば半導体メモリで構成された複数の一時バッファを備え、この一時バッファの個数は任意の個数に設定できるようになっている。また、一時バッファ遅延提示部12は、字幕データ抽出部11が字幕データを抽出した単位毎に、字幕データを複数の一時バッファに順次格納するようになっている。ここで、一時バッファ遅延提示部12は、本発明の情報格納手段を構成している。なお、複数の一時バッファは、例えば利用者の触読速度に応じて任意の個数に適応的に増減できる構成としてもよい。また、複数の一時バッファの構成として、字幕データの格納順を予め定め、先頭から末尾まで順次字幕データを格納して行き、末尾の一時バッファに格納した後に再度先頭の一時バッファに戻って字幕データを書き換えるようにしてもよい。
提示制御部13は、一時バッファ遅延提示部12に格納された情報を時系列に沿って順次読み出し、例えば文の単位毎に格納された文字情報を結合して提示情報とし、情報提示装置20に出力するようになっている。また、提示制御部13は、制御情報設定部14によって設定された制御情報に応じて提示情報を出力するようになっている。この制御情報は、情報提示装置20の制御情報入力部24(後述)によって設定されるものである。なお、提示制御部13は、本発明の提示情報出力手段を構成している。
制御情報設定部14は、情報提示装置20の制御情報入力部24によって入力された制御情報を記憶するメモリを備え、この制御情報に基づいて例えば提示速度を設定するようになっている。なお、制御情報設定部14は、本発明の提示速度設定手段を構成している。
音声出力部21は、例えば音声合成装置、音声増幅装置及びスピーカを備え、提示制御部13から出力された提示情報を音声に変換して出力するようになっている。
弱視画面表示部22は、例えば弱視者用の画面を生成する画面生成装置、液晶ディスプレイ等を備え、提示制御部13から出力された提示情報を弱視者が視認できるような表示に変換して画面表示するようになっている。ここで、画面生成装置は、文字サイズを所定のサイズに拡大した拡大文字や、例えば文字の背景色を黒色にして文字色を白色にする反転色文字等を液晶ディスプレイに表示するための画面データを生成するものである。
触覚提示部23は、点字、指点字又は指文字等(以下「点字等」という。)を表すための触覚ピン及び触覚ピンの駆動装置を備え、触覚ピンの凹凸駆動によって形成される点字等により利用者に情報を提示するようになっている。
制御情報入力部24は、例えばキーボード、スイッチ、可変抵抗器等で構成され、利用者が制御情報を任意に設定できるようになっている。なお、制御情報入力部24は、本発明の提示モード設定手段を構成している。
ここで、制御情報は、提示の形態を指定するための提示モードの情報及び字幕画面を更新するための画面更新情報を含む。具体的には、利用者が触覚提示部23を用いて提示情報を触読する場合、例えば1行分の文字データが触覚提示部23によって提示され、利用者は提示された文字データを読み終わると更新キーを操作して字幕画面を更新できるようになっている。また、提示速度は、利用者が提示情報を触読する速度、視認する速度又は聴取する速度であり、より速い提示速度に対応できる利用者ほど更新キーを操作する時間間隔が短くなる。
また、提示モードには、時々刻々と入力される字幕データの入力速度と同一の速度で提示内容を提示する実時間提示モードと、この実時間提示モードよりも遅延させて提示内容を提示する遅延提示モードとが含まれており、利用者は、制御情報入力部24の操作により両者のいずれかを選択できるようになっている。
また、遅延提示モードにおいては、提示内容を例えば字幕画面毎に更新する際に、更新キーの操作により字幕データの更新が実行できるようになっている。さらに、遅延提示モードにおいては、利用者は、任意の提示速度の設定ができるようになっており、また、一時バッファ遅延提示部12内の複数の一時バッファのいずれかに格納された字幕データを選択することにより、現在の提示状態を実時間での提示状態に近づける処理(以下「早送り処理」という。)が選択できるようになっている。この場合、提示制御部13は、一時バッファ遅延提示部12に格納された字幕データのうち、遅延提示モードにおいて現在提示されている字幕データが格納された時刻よりも後に格納された字幕データを読み出して出力することにより、早送り処理が行われる。
次に、本実施の形態に係る情報提示システム100の動作について説明する。
まず、字幕データ抽出部11によって、字幕放送が行われているか否かが判断され、字幕放送が行われている場合は、実時間で入力されるTSデータから文字情報を含む字幕データが例えば文の単位毎に抽出され、一時バッファ遅延提示部12に順次出力される。
次いで、一時バッファ遅延提示部12によって、字幕データ抽出部11が抽出した字幕データの単位毎に字幕データが複数の一時バッファに順次格納される。
さらに、提示制御部13によって、制御情報入力部24により予め設定された制御情報に基づき、一時バッファ遅延提示部12から順次字幕データが読み出され、読み出された字幕データが提示情報とされて情報提示装置20に順次出力される。なお、提示制御部13の具体的な動作については後述する。
そして、情報提示装置20によって、所定の提示情報が利用者に提示される。具体的には、音声出力部21によって、提示情報が音声合成され、スピーカから音声として出力される。また、弱視画面表示部22によって、提示情報が弱視者用の画面データとして変換され、液晶ディスプレイに表示される。また、触覚提示部23によって、提示情報が点字等に変換されて提示される。
ここで、提示制御部13の動作について、図2を用いて具体的に説明する。
一例として字幕データは、図2(a)に示すように、データA1、B1、C1、A2、・・・という順序で時刻t1を起点として字幕データ抽出部11から出力され、一時バッファ遅延提示部12の複数の一時バッファ内にデータ毎に格納されるものとする。また、字幕データ抽出部11は、字幕データに含まれる例えば話者を識別するための文字色の情報に基づき、字幕放送番組の話者を識別する機能を有するものとし、一時バッファ遅延提示部12は、話者の識別情報をインデックス情報として字幕データを順次格納するものとする。また、データA、B及びCは、3人の話者の発言を文字情報に変換したデータを示し、添え字は各話者の発言順序を示すものとする。
例えば、比較的高速で触読できる利用者Yが、実時間提示モードで字幕データを触読しようとする場合、制御情報入力部24において提示モードを実時間提示モードに設定することにより、提示制御部13は、図2(b)に示すように、字幕データが入力される時刻に対して遅延させることなく提示情報を出力する。その結果、利用者Yは、実時間で提示情報を取得することができる。
一方、利用者Yの2倍の触読時間を要する利用者Zが、自己の触読速度で字幕データを触読しようとする場合、制御情報入力部24において提示モードを遅延提示モードに設定後、提示速度を実時間提示モードの1/2の速度に設定することにより、提示制御部13は、図2(c)に示すように、字幕データを提示速度に応じて一時バッファ遅延提示部12から読み出し、情報提示装置20に出力する。その結果、利用者Zは、設定した提示速度による遅延は生ずるが、字幕データの連続性を保ったまま、実時間に近い状態で提示情報を取得することができる。
また、提示制御部13は、利用者の設定により、早送り処理も実行する。例えば、時刻t2において、実時間では話者Cの3度目の発言データが一時バッファ遅延提示部12に格納される途中であるが、利用者Zは、図2(c)に示すように、話者Cの2度目の発言内容の触読を開始したところである。ここで、利用者Zは、制御情報入力部24を操作することにより、図2(d)に示すように、時刻t2において、話者Aの3度目の発言内容を触読開始できるよう早送り処理を実行することができる。同様に図2(e)に示すように、利用者Zは、時刻t2において、話者Aの4度目の発言内容を触読開始できるよう設定することもできる。さらに、同様に図2(f)に示すように、利用者Zは、時刻t2以降における話者Cの3度目の発言内容を触読開始できるよう設定することもできる。
すなわち、利用者は、遅延提示モードにおいて制御情報入力部24を操作することにより、実時間上の所定時刻位置に触読位置を移動することができる。したがって、話者Aが仮に会議の司会者である場合、遅延提示モードで提示情報を触読中の利用者は、司会者の発言内容に基づき、例えば興味のある話題を選択的に触読することにより、遅延提示モードを実行中でありながら、より実時間に近い状態で会議の内容を把握することができる。
以上のように、本実施の形態に係る情報提示システム100によれば、提示情報出力装置10は、一時バッファ遅延提示部12に実時間で入力され格納された情報を所定の提示情報として利用者の所望する提示速度に応じて出力し、情報提示装置20は、提示情報を音声や点字等で提示する構成としたので、実時間で入力される情報を欠落させることなく、できる限り実時間に近づけた状態で利用者に提示することができる。
また、本実施の形態に係る情報提示システム100によれば、制御情報設定部14は、実時間提示モード又は遅延提示モードを設定する構成としたので、実時間提示モードにおいては、実時間で提示情報を利用者に提示することができ、遅延提示モードにおいては、利用者の所望する提示速度に応じて、できる限り実時間に近づけた状態で提示情報を利用者に提示することができる。
また、本実施の形態に係る提示情報出力装置10によれば、制御情報設定部14は、利用者が所望する提示速度を設定し、提示制御部13は、一時バッファ遅延提示部12に実時間で入力され格納された情報を所定の提示情報として利用者の所望する提示速度に応じて出力する構成としたので、実時間で入力される情報を欠落させることなく、できる限り実時間に近づけた状態で利用者に提示することができる。
なお、前述の実施の形態において、実時間で入力される情報としてディジタル放送で提供される字幕放送番組のTSデータを例に挙げて説明したが、本発明はこれに限定されるものではなく、実時間で入力される情報であればよく、例えば会議において聴覚障害者への情報保障で用いられる字幕文字情報を対象としても同様な効果が得られる。
また、前述の実施の形態において、情報提示装置20が、音声出力部21、弱視画面表示部22及び触覚提示部23を備える例を挙げて説明したが、本発明はこれに限定されるものではなく、音声出力部21、弱視画面表示部22及び触覚提示部23のうちの少なくとも1つを備える構成としても同様の効果が得られる。
また、前述の実施の形態に係る提示制御部13の動作説明において、字幕データ抽出部11が、文字色の情報に基づいて字幕放送番組の話者を識別する機能を有するものとしたが、本発明はこれに限定されるものではなく、例えば会議における話者の音声を音声識別装置で識別し、識別した音声データを文字情報に変換して処理する構成としてもよい。
また、前述の実施の形態において、情報提示システム100が、情報提示装置20を1つ備えた構成を例に挙げて説明したが、本発明はこれに限定されるものではない。
例えば、提示情報出力装置10が提示情報を送信する送信装置を備え、情報提示装置20が複数の受信端末で構成され、各受信端末が提示情報を受信する受信装置をそれぞれ備える構成としてもよい。この構成により、例えば学会に出席した複数の視覚障害者に、発表者の発言内容を欠落させることなく、できる限り実時間に近づけた状態で音声や点字等の提示情報を提示することができる。さらに、携帯性を有する受信端末で情報提示装置20を構成することにより、利用者の利便性を向上させることができる。
(第2の実施の形態)
まず、本発明の第2の実施の形態に係る情報提示システムの構成について説明する。
図3に示すように、本実施の形態に係る情報提示システム200は、TSデータを入力して提示情報を出力する提示情報出力装置30と、提示情報を提示する情報提示装置60とを備えている。なお、情報提示システム200は、例えばCPU、ROM、RAM等を備え、所定のプログラムによって動作するようになっている。
提示情報出力装置30は、字幕データを処理する字幕データ処理装置40と、字幕データを格納する情報格納装置50と、提示モードの切り替え制御を行う提示モード切替制御部31と、字幕データを提示情報として出力する提示制御部32と、提示制御部32の動作を制御するための制御情報を設定する制御情報設定部33とを備えている。
字幕データ処理装置40は、TSデータから字幕データを抽出する字幕データ抽出部41と、字幕画面の切替制御を行う字幕切替制御部42と、字幕放送番組の切替制御を行う番組切替制御部43と、1画面分の字幕データを格納する1画面データバッファ部44と、字幕データを字幕放送番組毎に蓄積する番組データ蓄積部45と、字幕放送番組の番組メニューを作成する番組メニュー作成部46とを備えている。
情報格納装置50は、字幕データを実時間で提示するための実時間提示部51と、字幕データを格納して遅延提示するための一時バッファ遅延提示部52と、1番組分の全データを提示するための全データ提示部53とを備えている。
情報提示装置60は、提示情報を音声に変換して出力する音声出力部61と、提示情報を弱視者用の表示に変換して画面表示する弱視画面表示部62と、提示情報を点字等の触覚情報に変換して提示する触覚提示部63と、提示情報出力装置30の制御情報を入力する制御情報入力部64とを備えている。ここで、制御情報入力部64は、本発明の提示モード設定手段を構成している。
字幕データ抽出部41は、TSデータから文字情報を含む字幕データを、例えば字幕画面毎に、又は文節、文及び段落のうちのいずれかの単位毎に抽出するようになっている。ここで、本実施の形態に係るTSデータは、字幕が表示される字幕画面を切り替えて字幕表示を更新するために例えば時刻情報に基づいた字幕切替情報と、字幕放送番組を識別するための番組切替情報とを含むものであり、字幕データ抽出部41は、字幕切替情報及び番組切替情報を取得して、字幕切替制御部42及び番組切替制御部43にそれぞれ出力するようになっている。
字幕切替制御部42は、字幕データ抽出部41からの字幕切替情報に基づき、字幕データを更新するための字幕データ更新信号を生成し、1画面データバッファ部44に出力するようになっている。
番組切替制御部43は、字幕データ抽出部41からの番組切替情報に基づき、番組データ蓄積部45に字幕データを字幕放送番組毎に蓄積するようになっている。なお、番組切替情報は、字幕放送番組の番組名の情報を含み、番組切替制御部43は、例えば番組名をファイル名として字幕データを番組データ蓄積部45に蓄積するようになっている。
1画面データバッファ部44は、例えば半導体メモリで構成され、字幕データ抽出部41が抽出した字幕データを1画面表示分だけ格納するようになっている。また、1画面データバッファ部44は、字幕切替制御部42から字幕データ更新信号を受信したとき、格納している字幕データを番組データ蓄積部45、実時間提示部51及び一時バッファ遅延提示部52にそれぞれ出力し、新たな字幕データを字幕データ抽出部41から入力するようになっている。
番組データ蓄積部45は、例えばハードディスクドライブで構成された複数の一時バッファを備え、この一時バッファの個数は任意の個数に設定できるようになっている。また、番組データ蓄積部45は、字幕放送番組の全字幕データ及び当該字幕放送番組のメニュー情報を字幕放送番組毎に複数の一時バッファに順次蓄積するようになっている。なお、番組データ蓄積部45は、本発明の字幕放送番組蓄積手段を構成している。
番組メニュー作成部46は、番組切替制御部43が取得した番組切替情報に基づき、番組データ蓄積部45に蓄積された全ての字幕放送番組のいずれかを選択するための番組メニュー情報を作成するようになっている。具体的には、番組切替制御部43は、字幕放送番組の番組切替情報を検出した際に番組名を取得し、番組メニュー作成部46は、番組切替制御部43が取得した番組名を番組メニューでの選択項目とすることにより番組メニュー情報を作成する。なお、番組メニュー作成部46は、本発明のメニュー情報生成手段を構成している。
実時間提示部51、一時バッファ遅延提示部52及び全データ提示部53は、例えば半導体メモリで構成され、提示モード切替制御部31の制御信号に基づいて格納された提示情報を提示制御部32に出力するようになっている。なお、一時バッファ遅延提示部52の構成は、第1の実施の形態に係る一時バッファ遅延提示部12と同様なので詳細な説明は省略する。また、一時バッファ遅延提示部52は、本発明の情報格納手段を構成している。
提示モード切替制御部31は、情報提示装置60の制御情報入力部64によって設定された提示モードに基づいて、実時間提示部51、一時バッファ遅延提示部52及び全データ提示部53のいずれかに格納された字幕データを提示制御部32に出力するようになっている。また、前述の提示モードには、第1の実施の形態において説明した実時間提示モード及び遅延提示モードに加え、番組データ蓄積部45に蓄積された字幕放送番組から1つを選択して提示する番組選択提示モードが含まれる。
提示モード切替制御部31は、実時間提示モードが選択された場合、実時間提示部51を選択し、その出力が提示制御部32に入力されるよう設定する。また、提示モード切替制御部31は、遅延提示モードが選択された場合、一時バッファ遅延提示部52を選択し、その出力が提示制御部32に入力されるよう設定する。さらに、提示モード切替制御部31は、番組選択提示モードが選択された場合、全データ提示部53を選択し、その出力が提示制御部32に入力されるよう設定し、番組メニュー作成部46が作成した番組メニュー情報を全データ提示部53に取得させる。その結果、提示制御部32が番組メニュー情報を情報提示装置60に出力し、情報提示装置60がメニュー画面を提示するので、利用者は字幕放送番組のいずれかを選択することが可能となる。なお、番組選択提示モードによって文字情報を取得する場合でも、後述の制御情報設定部33により利用者の触読速度に応じた提示速度で提示情報を取得できるようになっている。
提示制御部32は、実時間提示部51、一時バッファ遅延提示部52又は全データ提示部53に格納された文字情報を読み出し、例えば文の単位毎に格納された文字情報を結合して提示情報とし、情報提示装置60に出力するようになっている。また、提示制御部32は、制御情報設定部33によって設定された制御情報に応じて提示情報を出力するようになっている。なお、提示制御部32は、本発明の提示情報出力手段を構成している。
制御情報設定部33は、情報提示装置60の制御情報入力部64によって入力された制御情報を記憶するメモリを備え、この制御情報に基づいて例えば提示速度を設定するようになっている。なお、制御情報設定部33は、本発明の提示速度設定手段を構成している。
なお、情報提示装置60の構成は、第1の実施の形態に係る情報提示装置20と同様なので説明を省略する。
次に、本実施の形態に係る情報提示システム200の動作について、図3及び図4を用いて説明する。なお、一時バッファ遅延提示部52及び番組データ蓄積部45のバッファ数をそれぞれN及びMで表し、N=20、M=20とする。また、説明を簡略化するため、字幕画面の1画面に表示される字幕データは1行の1文とし、提示する文の数をn、番組の数をmで表す。
まず、字幕データ抽出部41によって、TSデータが入力され、字幕放送が行われているか否かが判断される(ステップS11)。例えば、TSデータに字幕データ重畳信号が含まれている場合、字幕データ抽出部41は、字幕放送が行われていると判断する。
ステップS11において字幕放送が行われていると判断された場合は、図示しないCPUによってn及びmが初期化される(ステップS12)。一方、ステップS11において字幕放送が行われていると判断されなかった場合は、ステップS11を繰り返す。
次いで、字幕データ抽出部41によって、1番組分の字幕放送が終了したか否かが判断される(ステップS13)。この判断は、入力されたTSデータに番組終了の信号が含まれているか否かにより実行される。
ステップS13において、1番組分の字幕放送が終了したと判断されなかった場合は、字幕データ抽出部41によって、TSデータから1画面分の字幕データが抽出され、1画面データバッファ部44に格納される(ステップS14)。
次いで、字幕データ抽出部41によって、1行更新の信号が検出されたか否かが判断される(ステップS15)。ステップS15において、1行更新の信号が検出されたと判断された場合は、CPUによって、nが1だけ増加され(ステップS16)、1行更新の信号が検出されたと判断されなかった場合は、ステップS15を繰り返す。
続いて、CPUによって、nの値がNに代入され、一時バッファ遅延提示部52に設定された複数のバッファの間で、字幕データを順次入れ替えてシフトさせるための処理が実行される(ステップS17)。ステップS17において、変数iは、初期値がゼロで、nが20の整数倍の数を超える毎に1ずつ増加されるものであり、新たな字幕データが入力される毎に20個のバッファを順次入れ替えてシフトさせるためのものである。例えばn=25のときi=1であり、このときN=5である。
次いで、1画面データバッファ部44に格納されたデータが、番組データ蓄積部45及び実時間提示部51に出力されると共に、一時バッファ遅延提示部52に字幕データD(N)として出力される。(ステップS18)。
また、字幕放送番組のメニュー画面を例えばXML(eXtensible Markup Language)で記述して表示する場合は、番組切替制御部43によって、メニュー画面の選択ボタンのタグItemNの属性値にD(N)として記述され(ステップS19)、番組データ蓄積部45に格納される。
また、番組切替制御部43によって、字幕データの結合処理が行われて1番組分の字幕データDtxtが生成され(ステップS20)、番組データ蓄積部45に格納され、ステップS13に進む。
一方、ステップS13において、1番組分の字幕放送が終了したと判断された場合は、CPUによって、mが1だけ増加される(ステップS21)。
続いて、CPUによって、mの値がMに代入され、番組データ蓄積部45に設定された複数のバッファの間で、字幕データを順次入れ替えてシフトさせるための処理が実行される(ステップS22)。ステップS22において、変数jは、初期値がゼロで、mが20の整数倍の数を超える毎に1ずつ増加されるものであり、新たな字幕データが入力される毎に20個のバッファを順次入れ替えてシフトさせるためのものである。例えばm=43のときj=2であり、このときM=3である。
そして、番組データ蓄積部45によって、1番組分の字幕データDtxtが、例えば番組名をファイル名として蓄積される(ステップS23)。
次に、提示情報の出力処理について説明する。
第1に、利用者が実時間提示モードを選択した場合は、ステップS18において実時間提示部51に格納された字幕データが、提示制御部32によって実時間提示部51から順次読み出され、情報提示装置60に出力される。その結果、情報提示装置60によって、提示情報が音声や点字等として出力され(ステップS31)、利用者は、例えば触覚提示部63を触読することによって、実時間で提示情報を取得することができる。
第2に、利用者が遅延提示モードを選択した場合は、ステップS18において一時バッファ遅延提示部52に格納された字幕データが、提示制御部32によって、一時バッファ遅延提示部52から1画面分読み出され(ステップS41)、読み出された字幕情報が情報提示装置60に出力される。
次いで、提示制御部32によって、更新操作が実行されたか否かが判断され(ステップS42)、更新操作が実行されたと判断された場合は、新たな字幕データが一時バッファ遅延提示部52から1画面分読み出されて字幕情報が情報提示装置60に出力されることにより、音声や点字等の提示情報が更新される(ステップS43)。
したがって、遅延提示モードを選択した利用者は、例えば触覚提示部63を触読することによって、所望の提示速度で、かつ、できる限り実時間に近い状態で提示情報を取得することができる。
第3に、利用者が番組選択提示モードを選択した場合は、提示モード切替制御部31によって、全データ提示部53が選択され、その出力が提示制御部32に入力されるよう設定されることにより、まず、情報提示装置60にメニュー画面が提示される(ステップS51)。具体的には、番組選択提示モードにおいては、番組メニュー作成部46が作成した番組メニュー情報が全データ提示部53に出力され、提示制御部32によって、番組メニュー情報が情報提示装置60に出力され、例えば触覚提示部63によってメニュー画面が提示される。
次いで、利用者が制御情報入力部64を操作することにより、字幕放送番組が選択される(ステップS52)。
そして、選択された字幕放送番組の全字幕データが番組データ蓄積部45から全データ提示部53に出力された後、提示制御部32を介して情報提示装置60に出力され、情報提示装置60によって、提示情報が音声や点字等として出力される(ステップS53)。
したがって、番組選択提示モードを選択した利用者は、番組データ蓄積部45に蓄積された字幕放送番組のいずれかを選択した後、実時間提示モード又は遅延提示モードにより、例えば触覚提示部63を触読することによって点字等で提示情報を取得することができる。
以上のように、本実施の形態に係る情報提示システム200によれば、提示情報出力装置30は、提示モードが設定された状態で提示情報を利用者の所望する提示速度に応じて出力し、情報提示装置60は、提示情報を音声や点字等で提示する構成としたので、実時間で入力される情報を欠落させることなく、できる限り実時間に近づけた状態で利用者に提示することができる。
また、本実施の形態に係る提示情報出力装置30によれば、提示モード切替制御部31は、実時間提示モード、遅延提示モード又は番組選択提示モードを切り替え、提示制御部32は、提示モードに応じて提示情報を出力する構成としたので、実時間提示モードにおいて、実時間で提示情報を利用者に提示することができる。また、遅延提示モードにおいて、利用者の所望する提示速度に応じて、できる限り実時間に近づけた状態で提示情報を利用者に提示することができる。さらに、番組選択提示モードにおいて、利用者の所望する提示速度に応じて、番組データ蓄積部45に蓄積された字幕放送番組を利用者に提示することができる。
なお、前述の実施の形態において、番組データ蓄積部45が1画面データバッファ部44から字幕データを入力する例を挙げて説明したが、本発明はこれに限定されるものではなく、番組データ蓄積部45が字幕データ抽出部41から字幕データを入力する構成としても同様な効果が得られる。
以上のように、本発明に係る提示情報出力装置は、実時間で入力される情報を欠落させることなく、できる限り実時間に近づけた状態で利用者に提示することができるという効果を有し、ディジタル放送でサービスされる字幕放送番組の文字情報や、会議において聴覚障害者への情報保障で用いられる字幕文字情報等のような実時間の情報を視覚障害者に提示情報として出力する提示情報出力装置等として有用である。
本発明の第1の実施の形態に係る情報提示システムのブロック図 本発明の第1の実施の形態に係る提示制御部の動作を説明するための図 (a)字幕データの構成例を示す図 (b)利用者Yが実時間提示モードで字幕データを触読する状態を示す図 (c)利用者Zが遅延提示モードで字幕データを触読する状態を示す図 (d)利用者Zが遅延提示モードで字幕データを触読し、時刻t2で早送り処理を実行した第1の例を示す図 (e)利用者Zが遅延提示モードで字幕データを触読し、時刻t2で早送り処理を実行した第2の例を示す図 (f)利用者Zが遅延提示モードで字幕データを触読し、時刻t2で早送り処理を実行した第3の例を示す図 本発明の第2の実施の形態に係る情報提示システムのブロック図 本発明の第2の実施の形態に係る情報提示システムの各ステップのフローチャート
符号の説明
10、30 提示情報出力装置
11、41 字幕データ抽出部
12、52 一時バッファ遅延提示部(情報格納手段)
13、32 提示制御部(提示情報出力手段)
14、33 制御情報設定部(提示速度設定手段)
20、60 情報提示装置
21、61 音声出力部
22、62 弱視画面表示部
23、63 触覚提示部
24、64 制御情報入力部(提示モード設定手段)
31 提示モード切替制御部
40 字幕データ処理装置
42 字幕切替制御部
43 番組切替制御部
44 1画面データバッファ部
45 番組データ蓄積部(字幕放送番組蓄積手段)
46 番組メニュー作成部(メニュー情報生成手段)
50 情報格納装置
51 実時間提示部
53 全データ提示部
100、200 情報提示システム

Claims (5)

  1. 実時間で入力される字幕情報を格納する情報格納手段と、格納された前記字幕情報を触読情報に変換して利用者に提示する際の提示速度を設定する提示速度設定手段と、前記触読情報を出力する提示情報出力手段と、前記情報格納手段に格納された前記字幕情報を実時間で提示する実時間提示モード及び前記提示速度に応じて提示する遅延提示モードのいずれかの提示モードを設定する提示モード設定手段とを備え、
    前記提示情報出力手段は、前記提示モード設定手段によって設定された提示モードで前記触読情報を出力するものであって、前記遅延提示モードにおいて前記文字情報が話者を識別する情報を含むときに前記利用者の操作に応じて前記触読情報を前記話者ごとに早送りして出力することを特徴とする提示情報出力装置。
  2. 入力される前記字幕情報は、字幕放送番組の文字情報を含み、
    前記情報格納手段は、前記文字情報の文節、文及び段落のうちのいずれかの単位毎に前記文字情報を格納する複数の一時バッファを備え、
    前記提示情報出力手段は、前記単位毎に格納された情報を結合して出力することを特徴とする請求項1に記載の提示情報出力装置。
  3. 前記提示情報出力手段が出力する前記触読情報を前記利用者が使用する受信端末に送信する送信装置をさらに備えたことを特徴とする請求項1又は請求項2に記載の提示情報出力装置。
  4. 字幕放送番組の1画面分の字幕データを格納する1画面データバッファ部と、前記1画面分の字幕データを順次結合することによって前記字幕放送番組のデータを蓄積する番組データ蓄積部と、前記1画面データバッファ部又は前記番組データ蓄積部に格納された前記字幕データを触読情報に変換して利用者に提示する際の提示速度を設定する提示速度設定手段と、前記触読情報を出力する提示情報出力手段と、前記1画面データバッファ部に格納された前記字幕データを実時間で提示する実時間提示モード、前記1画面データバッファ部に格納された前記字幕データを前記提示速度に応じて提示する遅延提示モード及び前記番組データ蓄積部に格納された前記字幕放送番組の字幕データを前記提示速度に応じて提示する番組選択提示モードのいずれかの提示モードを設定する提示モード設定手段とを備え、
    前記提示情報出力手段は、前記提示モード設定手段によって設定された提示モードで前記触読情報を出力することを特徴とする提示情報出力装置。
  5. 前記番組データ蓄積部は、複数の字幕放送番組のデータを蓄積するものであって、
    前記番組データ蓄積部に蓄積された前記複数の字幕放送番組のいずれかを選択するためのメニュー情報を生成するメニュー情報生成手段を備えたことを特徴とする請求項4に記載の提示情報出力装置。
JP2006061285A 2006-03-07 2006-03-07 提示情報出力装置 Active JP4728841B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006061285A JP4728841B2 (ja) 2006-03-07 2006-03-07 提示情報出力装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006061285A JP4728841B2 (ja) 2006-03-07 2006-03-07 提示情報出力装置

Publications (2)

Publication Number Publication Date
JP2007243438A JP2007243438A (ja) 2007-09-20
JP4728841B2 true JP4728841B2 (ja) 2011-07-20

Family

ID=38588548

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006061285A Active JP4728841B2 (ja) 2006-03-07 2006-03-07 提示情報出力装置

Country Status (1)

Country Link
JP (1) JP4728841B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5439404B2 (ja) * 2011-02-01 2014-03-12 日本電信電話株式会社 点字ディスプレイシステムの制御装置およびその動作方法
KR101929484B1 (ko) * 2012-04-23 2018-12-14 엘지전자 주식회사 영상표시장치 및 그 동작방법
US9955235B2 (en) * 2015-12-15 2018-04-24 Sony Corporation System and method to communicate an emergency alert message

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07298154A (ja) * 1994-04-27 1995-11-10 Sanyo Electric Co Ltd クローズドキャプションデコーダ及びそのクローズドキャプションデコーダを備えてなる映像信号再生装置
JPH08190339A (ja) * 1995-01-10 1996-07-23 Brother Ind Ltd カラオケ装置
JPH10268756A (ja) * 1997-03-26 1998-10-09 Mitsubishi Electric Corp 電子点字装置
JP2003333445A (ja) * 2002-05-16 2003-11-21 Seiko Epson Corp 字幕抽出装置
JP2004213832A (ja) * 2003-01-08 2004-07-29 Funai Electric Co Ltd 光ディスク再生装置
JP2005057638A (ja) * 2003-08-07 2005-03-03 Matsushita Electric Ind Co Ltd デジタル放送装置およびデジタル放送対応受信端末装置
JP2005134886A (ja) * 2003-10-10 2005-05-26 Ask:Kk 点字表示装置
JP2005331639A (ja) * 2004-05-19 2005-12-02 Nippon Hoso Kyokai <Nhk> 触覚呈示装置および触覚呈示制御装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08153118A (ja) * 1994-11-30 1996-06-11 Toshiba Corp 音声データ処理装置
JP2003331217A (ja) * 2002-03-08 2003-11-21 Nec Corp 文字入力装置、文字入力方法及び文字入力プログラム

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07298154A (ja) * 1994-04-27 1995-11-10 Sanyo Electric Co Ltd クローズドキャプションデコーダ及びそのクローズドキャプションデコーダを備えてなる映像信号再生装置
JPH08190339A (ja) * 1995-01-10 1996-07-23 Brother Ind Ltd カラオケ装置
JPH10268756A (ja) * 1997-03-26 1998-10-09 Mitsubishi Electric Corp 電子点字装置
JP2003333445A (ja) * 2002-05-16 2003-11-21 Seiko Epson Corp 字幕抽出装置
JP2004213832A (ja) * 2003-01-08 2004-07-29 Funai Electric Co Ltd 光ディスク再生装置
JP2005057638A (ja) * 2003-08-07 2005-03-03 Matsushita Electric Ind Co Ltd デジタル放送装置およびデジタル放送対応受信端末装置
JP2005134886A (ja) * 2003-10-10 2005-05-26 Ask:Kk 点字表示装置
JP2005331639A (ja) * 2004-05-19 2005-12-02 Nippon Hoso Kyokai <Nhk> 触覚呈示装置および触覚呈示制御装置

Also Published As

Publication number Publication date
JP2007243438A (ja) 2007-09-20

Similar Documents

Publication Publication Date Title
US7028265B2 (en) Window display system and method for a computer system
EP1486949A1 (en) Audio video conversion apparatus and method, and audio video conversion program
US20040218451A1 (en) Accessible user interface and navigation system and method
Sánchez et al. Mobile messenger for the blind
US10601980B1 (en) Captioning system and method for the vision impaired
JP3986009B2 (ja) 文字データ修正装置、その方法及びそのプログラム、並びに、字幕の生成方法
JP4728841B2 (ja) 提示情報出力装置
JP2006013972A (ja) デジタル放送受信装置
US20080300012A1 (en) Mobile phone and method for executing functions thereof
KR101130276B1 (ko) 수화 통역 시스템 및 방법
US8676578B2 (en) Meeting support apparatus, method and program
JP2019179314A (ja) 会議システム、会議システム制御方法およびプログラム
US20050219219A1 (en) Text data editing apparatus and method
EP3010016B1 (en) Input information support apparatus, method for supporting input information, and input information support program
TWI387341B (zh) 電視機及其操作方法
EP1259071B1 (en) Method for modifying a user interface of a consumer electronic apparatus, corresponding consumer electronic apparatus
Rana et al. Accessibility evaluation of iPhone’s user interface for visually impaired
US20230409842A1 (en) Translation system
JP2017182822A (ja) 入力情報支援装置、入力情報支援方法および入力情報支援プログラム
STANDARD Accessibility―ICT products and services
Farringdon et al. Co-modal browser-an interface for wearable computers
KR20150029268A (ko) 장애인 지원을 위한 휴대 단말
Greene Pay Attention: How to Be More Present on Zoom
JP2016119107A (ja) 入力情報支援装置、入力情報支援方法および入力情報支援プログラム
KR20050010105A (ko) 음성 메뉴 제어방법 및 그 장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080606

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100914

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101101

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101228

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110223

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110322

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110415

R150 Certificate of patent or registration of utility model

Ref document number: 4728841

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140422

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250