JP2004302286A - 情報出力装置、情報出力プログラム - Google Patents

情報出力装置、情報出力プログラム Download PDF

Info

Publication number
JP2004302286A
JP2004302286A JP2003097035A JP2003097035A JP2004302286A JP 2004302286 A JP2004302286 A JP 2004302286A JP 2003097035 A JP2003097035 A JP 2003097035A JP 2003097035 A JP2003097035 A JP 2003097035A JP 2004302286 A JP2004302286 A JP 2004302286A
Authority
JP
Japan
Prior art keywords
display
text
information
input
display unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2003097035A
Other languages
English (en)
Inventor
Takashi Koshiro
孝 湖城
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2003097035A priority Critical patent/JP2004302286A/ja
Publication of JP2004302286A publication Critical patent/JP2004302286A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Electrically Operated Instructional Devices (AREA)

Abstract

【課題】テキストデータをもとにした表現を体得できるゲームを実施する。
【解決手段】携帯機器10は、再生用ファイル12cにおいて、テキストデータを表示単位毎に表示タイミングを示す情報と、表示単位に対する表示形態を示す情報を記録している(タイムコードファイル12c3)。携帯機器10は、再生用ファイル12cに記録された表示タイミングを示す情報に基づいて、テキストデータを所定の表示形態で表示し、この表示された所定の表示形態のそれぞれに対して決められた入力、例えば入力部17aからのキー入力操作、あるいは音声入力部19aからの音声入力を検知し、この検知された入力が所定の表示形態に対して決められた入力であるか否かを判定して、その判定された結果をゲーム評価として出力する。
【選択図】 図1

Description

【0001】
【発明の属する技術分野】
本発明は、音声、テキスト、画像などの複数種のデータの出力を利用したゲームを実行する情報出力装置、情報出力プログラムに関する。
【0002】
【従来の技術】
従来、音楽、テキスト、画像などを同時並行して再生する技術としては、例えばMPEG−3により情報圧縮された音声ファイルのフレーム毎に、当該各フレームに設けられた付加データエリアに対して、音声ファイルに同期再生すべきテキストファイルや画像ファイルの同期情報を埋め込んでおくことにより、例えばカラオケの場合では、カラオケ音声とそのイメージ画像および歌詞のテキストを同期再生するものがある。
【0003】
また、音声に対する文字の時間的な対応情報が予め用意されていることを前提に、当該音声信号の特徴量を抽出し対応する文字と関連付けて表示する装置も考えられている。(例えば、特許文献1参照。)
また、音声と画像を同期して出力することでゲームを実施する装置も考えられている(例えば、特許文献2)。特許文献2に記載された音楽ゲーム装置は、楽曲ゲームと同期してタイミング情報をガイドマーカとしてスクロール表示して、ガイドマーカと基準マーカとの一致タイミングと、操作部への操作タイミングとのずれを評価する。
【0004】
【特許文献1】
特公平06−025905号公報
【0005】
【特許文献1】
特開2002−239223号公報
【0006】
【発明が解決しようとする課題】
従来の音声と画像を同期して出力することでゲームを実施する装置では、楽曲データを対象として、この楽曲データに合わせた操作タイミングのずれを評価しているに過ぎない。すなわち、楽曲が表現しようとしているリズム感を体得することができる程度でしかなかった。
【0007】
本発明は、前記のような問題に鑑みてなされたもので、テキストデータをもとにした表現を体得できるゲームを実施することが可能となる情報出力装置、情報出力プログラムを提供することを目的とる。
【0008】
【課題を解決するための手段】
すなわち、本発明の請求項1に係る情報出力装置では、テキストデータを表示単位毎に表示タイミングを示す情報と関連づけて記録するテキスト情報記録手段と、前記テキスト情報記録手段によって記録された表示単位に対する表示形態を示す情報を記録する表示形態情報記録手段とを有し、表示制御手段により、前記テキスト情報記録手段に記録された表示タイミングを示す情報に基づいて、前記表示単位毎に前記表示形態情報記録手段に記録された情報に従って前記テキストデータを所定の表示形態で表示する。入力検知手段によって、前記表示制御手段によって表示された所定の表示形態のそれぞれに対して決められた入力を検知し、前記入力検知手段により検知された入力が前記表示制御手段により所定の表示形態に対して決められた入力であるか否かを判定し、結果出力手段により前記判定手段によって判定された結果を出力する。
【0009】
これによれば、テキストデータに基づいて表示単位毎に表示される所定の表示形態に対して、それぞれの表示形態に決められた入力をすることで評価されるゲームが実現され、このゲームによりテキストデータをもとにした表現、例えば英文テキストを読み上げる場合の各単語の強弱や抑揚(イントネーション)などの発音上の表現を体得することができるようになる。
【0010】
また、本発明の請求項2に係る情報出力装置では、前記テキスト情報記録手段に記録されたテキストデータに応じた音声データを記録する音声記録手段と、前記音声記録手段に記録された音声データをもとに、前記表示制御手段により所定の表示形態で表示される表示単位のテキスト部分の音声を出力する音声出力手段とを有する。
【0011】
これによれば、テキストを所定の表示形態で表示させるだけでなく音声を同期させて出力できるため、音声を聞きながらゲームを実行することで、テキストデータをもとにした表現をより効果的に体得することができるようになる。
【0012】
また、本発明の請求項3に係る情報出力装置では、前記表示制御手段は、前記テキスト情報記録手段に記録されたテキストデータに応じて表示されるテキストに対して、所定の記号を付加する。
【0013】
これによれば、ユーザは所定の記号を確認しながら、決められた入力をすることができる。
【0014】
また、本発明の請求項4に係る情報出力装置では、前記表示制御手段は、前記表示単位ごとの高低と強弱の組み合わせを表す記号を付加する。
【0015】
これによれば、テキストデータをもとにした表現が高低と強弱との組み合わせによる記号によって表されることになり、ユーザは、この記号を確認しながら入力をすることで、テキストデータをもとにした高低と強弱をもつ表現を体得することができるようになる。
【0016】
また、本発明の請求項5に係る情報出力装置では、前記表示制御手段は、前記表示単位ごとの高低に応じた位置に記号を付加する。
【0017】
これによれば、ユーザは、記号の種類だけでなく、記号がテキストに対して付加されている位置、例えばテキストに対して上あるいは下の何れに付加されているかによって、テキストデータをもとにした表現を確認することができる。
【0018】
また、本発明の請求項6に係る情報出力装置では、前記入力検知手段は、前記所定の表示形態のそれぞれに割り当てられたキーに対する操作による入力を検知する。
【0019】
これによれば、ユーザは、キー操作として、例えば上下方向キーに対する操作時間(押し続けている時間)を変えたキー操作をすることでゲームを実行することができ、この操作をすることでテキストデータをもとにした表現を体得することができる。
【0020】
また、本発明の請求項7に係る情報出力装置では、前記入力検知手段は、前記所定の表示形態のそれぞれに決められた音声の入力を検知する。
【0021】
これによれば、ユーザは、音声を入力することでゲームを実行することができ、声を出しながらテキストデータをもとにした表現を体得することができる。
【0022】
また、本発明の請求項8に係る情報出力装置では、前記テキスト情報記録手段に記録された各表示単位の表示タイミングを示す情報に基づいて、各表示単位のテキストをそれぞれの表示タイミングに合わせた配置によって表示させるテキスト表示制御手段をさらに有する。
【0023】
これによれば、テキストデータをもとにした表現、例えばテキストを読み上げる際に各単語をどのようなタイミングで発生されるかを、テキストが表示される際の配置によって表されることになり、ユーザは、このテキストの配置を確認しながら入力をすることで、発声タイミングが変化される表現の違いなどを体得することができるようになる。
【0024】
また、本発明の請求項9に係る情報出力装置では、前記テキスト表示制御手段は、第1の表示単位のテキストの配置を、前記第1の表示単位に対応する表示タイミングと、前記第1の表示単位のテキストの次に配置される第2の表示単位に対する表示タイミングとの時間差に基づいて決定する。
【0025】
これによれば、テキスト情報記録手段にテキストデータの各表示単位を表示タイミングの情報と関連付けて記録しておくことで、各表示単位に対する表示タイミングの時間差からテキストの配置を決定することができる。
【0026】
また、本発明の請求項10に係る情報出力装置では、前記テキスト表示制御手段は、前記表示単位のテキストを、同テキスト中の各文字のフォントを変更して配置する。
【0027】
これによれば、テキストデータをもとにしてテキスト中の各文字を表示する際に、各文字に対応するフォントデータをもとにした例えば拡大/縮小処理をすることで、テキスト中の各表示単位(単語)の配置を変更することができる。
【0028】
また、本発明の請求項11に係る情報出力プログラムでは、このプログラムをコンピュータにインストールすることで、コンピュータを、テキストデータを表示単位毎に表示タイミングを示す情報と関連づけて記録するテキスト情報記録手段と、前記テキスト情報記録手段によって記録された表示単位に対する表示形態を示す情報を記録する表示形態情報記録手段と、前記テキスト情報記録手段に記録された表示タイミングを示す情報に基づいて、前記表示単位毎に前記表示形態情報記録手段に記録された情報に従って前記テキストデータを所定の表示形態で表示する表示制御手段と、前記表示制御手段によって表示された所定の表示形態のそれぞれに対して決められた入力を検知する入力検知手段と、前記入力検知手段により検知された入力が前記表示制御手段により所定の表示形態に対して決められた入力であるか否かを判定する判定手段と、前記判定手段によって判定された結果を出力する結果出力手段とに機能させる。
【0029】
これにより、コンピュータでは、テキストデータに基づいて表示単位毎に表示される所定の表示形態に対して、それぞれの表示形態に決められた入力をすることで評価されるゲームが実現され、このゲームによりテキストデータをもとにした表現、例えば英文テキストを読み上げる場合の各単語の強弱や抑揚(イントネーション)などの発音上の表現を体得させることができるようになる。
【0030】
【発明の実施の形態】
以下、図面を参照して本発明の実施の形態について説明する。
【0031】
図1は本発明の情報出力装置の実施形態に係る携帯機器10の電子回路の構成を示すブロック図である。
【0032】
携帯機器(PDA:personal digital assistants)10は、各種の記録媒体に記録されたプログラム、又は、通信伝送されたプログラムを読み込んで、その読み込んだプログラムによって動作が制御されるコンピュータによって構成され、その電子回路には、CPU(central processing unit)11が備えられる。
【0033】
CPU11は、メモリ12内のROM12Aに予め記録された携帯機器制御プログラム、あるいはROMカードなどの外部記録媒体13から記録媒体読取部14を介してメモリ12に読み込まれた携帯機器制御プログラム、あるいはインターネットなどの通信ネットワークN上の他のコンピュータ端末(サーバ30など)から電送制御部15を介してメモリ12に読み込まれた携帯機器制御プログラムに応じて、回路各部の動作を制御するもので、メモリ12に記録された携帯機器制御プログラムは、スイッチやキーからなる入力部17aおよびマウスやタブレットからなる座標入力装置17bからのユーザ操作に応じた入力信号、あるいは電送制御部15に受信されるネットワークN上の他のコンピュータ端末からの通信信号、あるいはBluetooth(R)による近距離無線接続や有線接続による通信部16を介して受信される外部の通信機器(PC:personal computer)20からの通信信号に応じて起動される。
【0034】
CPU11には、メモリ12、記録媒体読取部14、電送制御部15、通信部16、入力部17a、座標入力装置17bが接続される他に、LCDからなる表示部18、マイクを備え音声を入力する音声入力部19a、左右チャンネルのスピーカL、Rを備え音声を出力するステレオ音声出力部19bなどが接続される。音声入力部19aとステレオ音声出力部19bは、例えば図2に示すようなヘッドセットとして構成することができる。
【0035】
また、CPU11には、処理時間計時用のタイマが内蔵される。
【0036】
この携帯機器10のメモリ12は、ROM12A、FLASHメモリ(EEP−ROM)12B、RAM12Cを備えて構成される。
【0037】
ROM12Aには、当該携帯機器10の全体の動作を司るシステムプログラムや電送制御部15を介して通信ネットワークN上の各コンピュータ端末(30)とデータ通信するためのネット通信プログラム、通信部16を介して外部の通信機器(PC)20とデータ通信するための外部機器通信プログラムが記録される他に、音声・テキスト・画像などの各種のファイルを同期再生しながら入力部17aからのキー(あるいはボタン)に対する操作による入力、あるいは音声入力部19aからの音声入力によりゲームを実行するための同期コンテンツ再生ゲーム処理プログラム12a1などを含む、携帯機器制御プログラム12aが記録される。
【0038】
FLASHメモリ(EEP−ROM)12Bには、同期コンテンツ再生ゲーム処理プログラム12a1に基づき再生ゲーム処理の対象となる暗号化された再生用ファイル(CASファイル)12bなどが記録される。
【0039】
ここで、FLASHメモリ(EEP−ROM)12B内に記録される暗号化再生用ファイル12bは、例えば英語など各種言語や歌の練習をテキスト・音声・画像の同期再生により行うためのファイルであり、所定のアルゴリズムにより圧縮・暗号化されている。
【0040】
この暗号化再生用ファイル12bは、例えばCD−ROMに記録されて配布されたり、通信ネットワーク(インターネット)N上のサーバ30から配信配布されたりするもので、CD−ROMあるいはサーバ30により配布された暗号化再生用ファイル12bは、例えばユーザ自宅PCとしての通信機器(PC)20に読み込まれた後、携帯機器(PDA)10の通信部16を介してFLASHメモリ(EEP−ROM)12Bに転送格納される。
【0041】
RAM12Cには、暗号化された再生用ファイル12bを伸張・復号化した解読された再生用ファイル(CASファイル)12cが記録されると共に、この解読再生ファイル12cの中の画像ファイルが展開されて記録される画像展開バッファ12fが備えられる。解読されたCASファイル12cは、再生命令の処理単位時間(12c1a)を記録するヘッダ情報(12c1)、およびファイルシーケンステーブル(12c2)、タイムコードファイル(12c3)、コンテンツ内容データ(12c4)で構成される。また、RAM12Cには、同期コンテンツ再生ゲーム処理プログラム12a1により再生用ファイル12cを再生することにより実行されるゲームの評価結果を示すゲーム評価データ12d(ゲーム結果データ、評価コメントデータを含む)が記録される。
【0042】
さらに、RAM12Cには、その他各種の処理に応じてCPU11に入出力される種々のデータを一時記録するためワークエリアが用意される。
【0043】
図2は、本実施形態における携帯機器10(情報出力装置)の外観構成の一例を示している。図2に示す携帯機器10は、例えば電子辞書装置として構成されたもので、文字キーに対する入力操作によって見出し語の文字列を入力することで、見出し語に対応する情報を検索して出力(テキスト表示、音声出力など)する機能を有している。入力部17aとしては、文字キー、カーソルキー、特定の機能が割り当てられたファンクションキーが設けられている他、上下方向の指示を入力ための上下キー17a1(ボタン)が設けられている。また、音声入力部19aとステレオ音声出力部19bは、例えば図2に示すようなヘッドセットとして構成されており、携帯機器10から出力される音声をステレオ音声出力部19b(スピーカ)から聞きながら、音声入力部19a(マイク)から音声を入力することができる。
【0044】
次に、メモリ12に記録される再生用ファイル12b(12c)について説明する。
携帯機器10の再生対象ファイルとなる再生用ファイル12b(12c)は、ファイルシーケンステーブル12c2とタイムコードファイル12c3とコンテンツ内容データ12c4との組み合わせにより構成される。
【0045】
図2で示すタイムコードファイル12c3には、個々のファイル毎に予め設定される一定時間間隔の元の(基準)処理単位時間(例えば25ms)で各種ファイル同期再生のコマンド処理を行うためのタイムコードが記述配列されるもので、この各タイムコードは、命令を指示するコマンドコードと、当該コマンドに関わるコンテンツ内容データ12c4に含まれるファイル内容を対応付けするためのファイルシーケンステーブル12c2の参照番号や指定数値からなるパラメータデータとの組み合わせにより構成される。
【0046】
なお、このタイムコードに従い順次コマンド処理を行うための一定時間間隔の元の(基準)処理単位時間12c1aは、当該タイムコードファイル12c3のヘッダ情報12c1に記述設定される。
【0047】
例えば図2で示すタイムコードファイル12c3からなる再生用ファイル12b(12c)のファイル再生時間は、予め設定された元の(基準)処理単位時間が25msである場合、2400ステップのタイムコードからなる再生処理を経て60秒間となる。
【0048】
ファイルシーケンステーブル12c2は、複数種類のファイル(HTML/画像/テキスト/音声など)の各種類毎に、タイムコードファイル12c3に記述される各コマンドのパラメータデータと実際のファイル内容の格納先(ID)番号とを対応付けたテーブルである。
【0049】
コンテンツ内容データ12c4は、ファイルシーケンステーブル12c2により各コマンドコードと対応付けされる実際の音声、画像、テキストなどのファイルデータが、そのそれぞれのID番号を対応付けて記録される。
【0050】
タイムコードファイル12c3に使用されるコマンドとしては、LT(i番目テキストロード)、VD(i番目テキスト文節表示)、BL(文字カウンタリセット・i番目文節ブロック指定)、HN(ハイライト無し・文字カウンタカウントアップ)、HL(i番目文字までハイライト・文字カウント)、LS(1行スクロール・文字カウンタカウントアップ)、DH(i番目HTMLファイル表示)、DI(i番目イメージファイル表示)、PS(i番目サウンドファイルプレイ)、CS(クリアオールファイル)、PP(基本タイムi秒間停止)、FN(処理終了)、NP(無効)、GM(ゲーム用表示形態指定、ゲーム処理)などの各コマンドがある。
【0051】
例えばコマンドコード「HL」は、タイムコードファイル12c3において、パラメータデータが示す文字列(i番目の文字列)、例えば単語についてハイライト表示する表示タイミングに応じた位置に記述される。
【0052】
コマンドコードは、処理単位時間12c1aに応じて一定時間毎に実行されるため、何れの順番で記述されるかによって表示タイミングが決められる。すなわち、テキストデータの表示単位(単語)が、表示タイミングを示す情報と関連付けて記録されることになる。
【0053】
また、コマンドコード「GM」は、コマンドコード「HL」によってハイライト表示される表示単位(例えば単語)に対して、ゲームを実施する際にユーザに提示する所定の表示形態、例えば高低と強弱の組み合わせを表す記号(マーク)を指定するものでコマンドコード「HL」と対応づけて記述される。また、コマンドコード「GM」は、キー入力または音声の入力を検知して、その検知された入力が表示形態に予め決められた入力であるかを判定し、その結果をゲーム評価として記録するゲーム処理の実行を示す。
【0054】
次に、本実施形態における携帯機器10による同期コンテンツファイル再生ゲーム処理について説明する。
図4は携帯機器10の同期コンテンツ再生ゲーム処理プログラム12a1に従った再生ゲーム処理を示すフローチャート、図5及び図6は再生ゲーム処理に伴うVDコマンド処理を示すフローチャート、図7はVDコマンド処理に伴う高低強弱表示処理を示すフローチャート、図8は再生ゲーム処理に伴うGMコマンド処理を示すフローチャートである。
【0055】
図9は携帯機器10の再生ゲーム処理に伴う学習内容/ゲームモードの選択操作・表示状態を示す図であり、同図(a)(b)は学習内容/ゲームモードの選択画面を示す図、同図(c)(d)は学習内容とゲームモードの選択画面を対象とする選択操作キー、同図(e)は画面中で表示される記号(マーク)の詳細を示す図である。
【0056】
例えば英語の勉強がテキストと画像と音声で行える英語教材再生ファイルを、CD−ROMや通信ネットワーク(インターネット)N上のサーバ30から自宅PCである通信機器(PC)20に取り込み、携帯機器10の通信部16を介して当該再生用ファイル(CASファイル)12bがFLASHメモリ12Bに、あるいは解読された再生用ファイル12cとしてRAM12Cに格納された状態にあるものとする。ここで、入力部17aあるいは座標入力装置(マウス/タブレット)17bの操作によりこの再生用ファイル12b(12c)の再生が指示されると、まず携帯機器10は、同期コンテンツ再生ゲーム処理プログラム12a1を起動して、図9(a)または図9(b)に示すように、学習内容とゲームモードをユーザ選択させるための学習内容/ゲームモード選択画面Gを表示部18に表示する(ステップA1)。
【0057】
この学習内容選択画面Gにあって、図9(c)(d)に示すように、入力部17aのカーソルキー17a1および「決定」キー17a2の操作により、学習内容としてレッスン1〜5の何れかが選択されると、携帯機器10は、RAM12C内の各ワークエリアのクリア処理などのイニシャライズ処理を実行し、選択されたレッスンを示すデータを学習内容選択データ12dとしてRAM12Cに記録する(ステップA0)。また、同様にして、カーソルキー17a1および「決定」キー17a2の操作により、ゲームモードとして何れかが選択されると、携帯機器10は、指定されたゲームモードを示すゲームモードデータ12eをRAM12Cに記録する(ステップA1)。
【0058】
ゲームモードとしては、ゲーム実行時の入力方法として、音声出力部19bから出力される音声を聞きながら入力部17aに設けられた所定のキー(例えば、図2に示す上下キー17a1)を用いたキー入力操作をする「聞いてキーイン」、あるいは音声入力部19a(マイク)から音声入力をする「自分でしゃべる」の何れかを選択することができる。
【0059】
携帯機器10は、ゲームモードとして「聞いてキーイン」が選択された場合には、図9(a)に示すように、テキスト表示に付加される高低強弱を表すマークのそれぞれに対応するキー入力操作の説明を表示する。例えば、黒二重丸マークは高くて強いことを表すマーク(高音・強マーク)であり、このマークに対してしては上キーを長く押すことが表示される。同様にして、黒一重丸マークは高くて強いことを表すマーク(高音・弱マーク)であり上キーを短く押し、白二重丸マークは低くて強いことを表すマーク(低音・強マーク)であり下キーを長く押し、白一重丸マークは低くて弱いことを表すマーク(低音・弱マーク)であり下キーを短く押すことが、それぞれ表示されている。
【0060】
また、ゲームモードとして「自分でしゃべる」が選択された場合には、図9(b)に示すように、テキスト表示に付加される高低強弱を表すマークのそれぞれに対応する音声入力の説明を表示する。例えば、黒二重丸マークは高くて強いことを表すマークであり、このマークに対してしては高い声で強く発声することが表示される。同様にして、黒一重丸マークは高くて強いことを表すマークであり高い声で弱く、白二重丸マークは低くて強いことを表すマークであり低い声で強く、白一重丸マークは低くて弱いことを表すマークであり低めの声で弱く発声することが、それぞれ表示されている。
【0061】
ゲーム実行時に、ここで表示される入力方法に従う入力を正しいタイミングで行なうことで、高い評価結果を得ることができる。すなわち、高い評価が得られる入力操作あるいは音声入力(発声)をすることで、テキストをもとにした表現、例えば英文テキストを読み上げる場合の各単語の強弱や高低の変化による抑揚(イントネーション)などの発音上の表現を体得することができるようになる。
【0062】
例えば英語テキストを読み上げる音声の場合、読み上げられる文章中においてポイントとなる単語については、強くかつ時間をかけてゆっくり明瞭に発言され、そのほかの単語については弱く短く発言される傾向がある。すなわち、同じ1単語であっても読み上げる時間と強弱に差があり、またテキストの内容に応じて高低が変化する。再生ゲーム処理では、各単語の文字列(表示単位)を、単語を読み上げる時間に応じた幅によって表示することでテキストの表示の配置を決める。これにより、テキストが表示されている画面から、テキストに対応する音声がどのような特徴をもつか、例えばテキストを読み上げる場合などの各単語の音声出力(発声)のタイミングがどのようになっているかを把握できるようになる。また、テキストを読み上げる時間に応じた幅で配置されたテキストに中の各単語に対して、高低と強弱の組み合わせを表すマークをテキストに対して付加して表示することで、テキストを発声する場合の正しい各単語についての強弱高低を把握することができるようになる。
【0063】
なお、図9(a)(b)に示す画面において、テキスト表示をテキストの内容を読み上げる音声に応じて表示幅を変更して表示する音声幅文字表示と通常の文字幅によって表示する通常文字表示を指定するための文字表示モードの設定もできるようにしても良い(図示せず)。後述する図5(ステップB1,B2)の処理では、文字表示モードの設定ができるものとして説明している。
【0064】
また、図9(a)(b)に示すマークは一例であって、例えば図9(e)に示すようなキャラクタ化したマークを用いて、ゲームとして興味を向上させるようにしても良い。また、マークの形状だけでなく、色の違いによって高低と強弱の組み合わせを表現するようにしても良い。さらに、高低と強弱をそれぞれ別のマークによって表現するようにしても良い。
【0065】
コンテンツ内容データ12c4には、テキスト中の各単語の再生タイミングに応じてコマンドとパラメータデータが記録されているため、各単語に対応するコマンドの記録位置と、各記録位置の間隔(時間に相当する)、及び単語の文字数をもとに、テキスト表示する際の文字のサイズ(横幅)が求められ、また各単語に対して付加される各単語を読み上げる際の高低強弱を表すマークが求められる。詳細については後述する。
【0066】
次に、携帯機器10は、FLASHメモリ12Bに格納された暗号化された再生用ファイル12b(CASファイル)12bを解読(復号化)して(ステップA2)、解読された再生用ファイル12cとしてRAM12Cに記録する(ステップA3)。
【0067】
次に、解読された再生用ファイル(CASファイル)12cのヘッダ情報12c1に記述された処理単位時間12c1a(例えば25ms/50ms/…)を、CPU11による再生用ファイル(CASファイル)12cの一定時間間隔の読み出し時間として設定する(ステップA4)。
【0068】
そして、RAM12Cに格納された再生用ファイル(CASファイル)12cの先頭に読み出しポインタをセットし(ステップA5)、当該再生用ファイル12cの再生ゲーム処理タイミングを計時するためのタイマをスタートする(ステップA6)。
【0069】
ここで、先読み処理が当該再生ゲーム処理に並行して起動される(ステップA7)。
【0070】
この先読み処理では、再生用ファイル12cのタイムコードファイル12c3(図3)に従った現在の読み出しポインタの位置のコマンド処理よりも後に画像データを表示させるためのコマンド(「DI」コマンド)がある場合は、予め当該画像データ表示用のコマンドのパラメータデータにより指示される画像データを先読みして画像展開バッファ12fに展開しておくことで、読み出しポインタが実際に後の画像表示用のコマンドの位置まで移動した場合に、処理に遅れなく指定の画像ファイルを直ちに出力表示できるようにする。
【0071】
ステップA6において、処理タイマがスタートされると、ステップA4にて設定された再生用ファイル12cに応じた処理単位時間毎に読み出しポインタの位置の当該メディア再生用ファイル12cを構成するタイムコードファイル12c3のコマンドコードおよびそのパラメータデータを読み出す(ステップA8)。
【0072】
ここで、再生用ファイル12cにおけるタイムコードファイル12c3から読み出されたコマンドコードが、「FN」ではないと判断された場合には(ステップA9、No)、コマンドに対応したサブルーチンをコールして実行する(ステップA10)
すると、再び処理タイマによる計時動作が開始され、当該タイマによる計時時間が次の処理単位時間12c1aに到達したか否か判断される(ステップA11)。
【0073】
ここで、タイマによる計時時間が次の処理単位時間12c1aに到達したと判断された場合には(ステップA11)、RAM12Cに格納された解読された再生用ファイル(CASファイル)12cに対する読み出しポインタが次の位置に更新セットされ(ステップA12)、ステップA8における読み出しポインタの位置のコマンドコードを読み出す処理から前述と同様の処理が繰り返される(ステップA12→A8〜A11)。
【0074】
すなわち、端末装置10のCPU11は、ROM12Aに記録された同期コンテンツ再生ゲーム処理プログラム12a2に従って、ヘッダ情報12c1に設定された処理単位時間毎に、タイムコードファイル12c3に配列されたコマンドコードおよびそのパラメータデータを読み出し、そのコマンドに対応する処理を指示するだけで、当該タイムコードファイル12c3に記述された各コマンドに応じた同期コンテンツ再生ゲーム処理が実行される。
【0075】
次に、図3に示すタイムコードファイル12c3に記録されたコマンドコードとパラメータデータに基づいた英会話テキスト・音声・画像ファイルを利用して再生ゲーム処理の具体例について説明する。
【0076】
図10及び図11は、図3に示すタイムコードファイル12c3に基づく再生ゲーム処理によって表示される画面の一例を示す図、図12はゲーム評価結果が表示される画面の一例を示す図である。
【0077】
前述したように、ヘッダに予め記述設定された(基準)処理単位時間(例えば25ms)12c1a毎に、ステップA10において以下に説明するコマンド処理が順次実行される。
【0078】
まず、タイムコードファイル12c3の第1コマンドコード「LT」(i番目テキストロード)およびそのパラメータデータ「01」が読み出されると、LTコマンド処理がコールされて実行される。
【0079】
LTコマンド処理では、まず、ファイルシーケンステーブル12c2からテキスト番号iのID番号を読み出し、指定IDのコンテンツ(テキストデータ)をRAM12Cのワークエリアにロードする。ここでは、テキスト番号「01」のID番号「19」に対応するテキストデータが読み出されて記録される。
【0080】
第2コマンドコード「VD」(i番目テキスト文節表示)およびそのパラメータデータ「00」が読み出されると、図5及び図6のフローチャートに示すVDコマンド処理がコールされて実行される。
【0081】
まず、ゲームモードデータ12eを参照しても単語幅の変更が必要なモードが指定されているか、すなわち音声幅文字表示がユーザによって指定されているかを判別する(ステップB1)。
【0082】
ここで、単語幅の変更が必要なモードが指定されていない場合(ステップB1、No)、携帯機器10は、ワークエリアにロードされているテキストデータを、表示画面中のテキストフレーム内に通常の形態で表示する(ステップB2)。すなわち、予め決められたフォントにより、文字間と単語間に予め決められた所定のスペースを設けて各文字を表示する。
【0083】
一方、単語幅の変更が必要なモードが指定されている場合(ステップB1、Yes)、携帯機器10は、現在の命令(コマンドコード)の位置の次のポインタの位置番号を変数Pにセット(RAM12Cのワークエリアに格納)する(ステップB3)。ここでは、2番目のコマンドコードを対象としているのでP=3となる。
【0084】
次に、表示させる単語の先頭のドット位置Xsに初期値「0」をセットし(ステップB4)、また画面中に表示させたテキストに対して他と異なる表示属性、例えばアンダーラインの付加やハイライトを施す先頭文字の位置Csに初期値「1」をセットする(ステップB5)。
【0085】
次に、現在の読み出しポインタが示す位置以降から、順次、タイムコードファイル12c3を参照してコマンドコード「HL」(i番目文字までハイライト・文字カウント)を検索する。この際、参照対象とするコマンドコードの位置を示す読み出しポインタをI=I+1として順次更新していく(ステップB6、B7)。
【0086】
コマンドコード「HL」が見つかると、この現在の命令の位置の読み出しポインタの位置番号I(最初の位置)をPOとしてセットする(ステップB8)。図2に示すタイムコードファイル12c3の例では、40番目にコマンドコード「HL」が存在するので、PO=40としてセットされる。
【0087】
また、現在の命令の位置の読み出しポインタの位置番号I(最初の位置)をPsとしてセットする(ステップB9)。図3に示すタイムコードファイル12c3の例では、40番目にコマンドコード「HL」が存在するので、Ps=40としてセットされる。
【0088】
また、ハイライト指定の末尾の文字位置をCeとしてセットする。すなわち、タイムコードファイル12c3のコマンドコード「HL」に対して設定されたパラメータデータの数値データがCeとしてセットされる(ステップB10)。40番目のコマンドコード「HL」については、パラメータデータ「05」がセットされており、例えばハイライト表示の対象文字数が5文字が指定されている。従って、Ce=5としてセットされる。
【0089】
そして、Cs(ハイライト指定の先頭文字)の位置からCe(ハイライト指定の末尾の文字)の位置までの文字列(テキストデータ)を読み出し、表示配置の変更対象とするテキストデータとして変数CHR$に記録する(ステップB11)。ここでは、CHR$=「What 」(1文字分のスペース有り)としてセットされる。
【0090】
次に、現在の命令位置の後ろのコマンドコード「GM」を検知し、コマンドコード「GM」のパラメータデータを読み出して、CHR$に一時記憶する(ステップB12)。コマンドコード「GM」のパラメータデータは、コマンドコード「HL」のパラメータデータが示す単語に対する表示形態を示すデータであり、ここではテキストに対して付加すべき高低強弱を表すマーク(あるいは文字修飾の形態)を示す。
【0091】
次に、参照対象とするコマンドコードの位置を示す読み出しポインタをI=I+1として更新し(ステップB13)、タイムコードファイル12c3から次のコマンドコード「HL」を検索する。ここで、更新した読み出しポインタが示すコマンドコードが「HL」でない場合(ステップB14、No)、前述と同様にして、読み出しポインタをI=I+1として順次更新し、タイムコードファイル12c3から次のコマンドコード「HL」を探索する(ステップB27,BB28、B14)。
【0092】
コマンドコード「HL」が検索されると(ステップB14、Yes)、現在の命令の位置の読み出しポインタの位置番号IをPeとしてセットする(ステップB15)。図3に示すタイムコードファイル12c3では40番目のコマンドコード「HL」の次に64番目のコマンドコードに「HL」が存在するので、Pe=64としてセットされる。
【0093】
次に、先にセットしたPsとPOの値、及びテキストを表示する表示画面中の表示サイズと同表示サイズに対して決められる時間との比率をもとに、前回文字表示開始ドット位置Xsをセットする(ステップB16)。すなわち、Xs=(Ps−PO)×2.5によって算出する。なお、先頭の単語に対する処理では(Ps−PO)=40−40=0であり、Xs=0となる。
【0094】
ここでは、表示画面0〜499ドットに対してタイムコード0〜159が対応づけられるものとして、テキストを表示する表示画面中の表示サイズと同表示サイズに対して決められる時間との比率を2.5として表している。例えば、すなわち、表示位置「100」とタイムコード「40」が対応する。
【0095】
タイムコードは、タイムコードファイル12c3に記述されており、処理単位時間12c1a毎に実行される。このため、表示サイズにタイムコードを対応づけることは、処理単位時間12c1aに応じた時間が対応づけられることになる。
【0096】
次に、先にセットしたPeとPOの値、及びテキストを表示する表示画面中の表示サイズと同表示サイズに対して決められる時間との比率をもとに、前回文字表示終了ドット位置Xeをセットする(ステップB17)。すなわち、Xe=(Pe−PO)×2.5によって算出する。この場合、Xe=(Pe−PO)×2.5=(64−40)×2.5=60となる。これにより、現在処理対象としている表示単位(単語「what 」)に対する表示範囲(Xs〜Xe)が求められる。
【0097】
ここで、CHR$に記憶された前回文字列をXs〜Xeの幅に合わせて拡大または縮小して表示する(ステップB18)。ここでは、CHR$=「What 」と記録されているので、5文字を例えば横幅方向に60ドットの範囲に均等に配置するように、フォントの形状を拡大あるいは縮小する(文字間のスペースの幅も均等に割り当てる)。なお、横幅方向に拡大/縮小するだけでなく、縦方向についても拡大/縮小するようにしても良い。この場合、横幅方向と同じ拡大/縮小率を用いる必要はない。
【0098】
ここで、配置を決めた単語(表示単位)を所定の表示形態、すなわちテキストを読み上げる場合の高低強弱を明示する形態に表示するための高低強弱表示処理を実行する(ステップB19)。
【0099】
図7(a)には、高低強弱表示処理のフローチャートを示している。
【0100】
まず、高低強弱表示処理では、ステップB12においてCHR$に記憶されたコマンドコード「GM」のパラメータデータを読み出し(ステップC1)、その値に応じたマークを付加する(ステップC2〜C5)。例えば、CHR=「11」の場合には、コマンドコード「HL」が示す文字列中の文字に対応する位置に「高音・強マーク」を表示する(ステップC2)。以下、同様にCHR=「10」の場合には「高音・弱マーク」(ステップC3)、CHR=「01」の場合には「低音・強マーク」(ステップC4)、CHR=「00」の場合には「低音・弱マーク」を付加する(ステップC5)。
【0101】
また、高低強弱表示処理によってテキストに対して付加されるマークは、テキスト表示に対して、高低に応じてテキストの上または下に付加する形態と、全てをテキストの下(あるいは上)に付加する形態を用いることができる。図11に示す表示例では、「高音・強マーク」「高音・弱マーク」については該当テキストの上に付加し、「低音・強マーク」「低音・弱マーク」については該当テキストの下に付加している。図10に示す表示例では、全てのマークをテキストの下に付加して表示している。何れの表示形態によって表示するかは、ゲームモードの指定において、ゲームモードと共にユーザによって選択させても良いし、予め何れか一方の表示に決められていても良い。
【0102】
なお、図10や図11に示すようにマークの付加によらず、テキストに対する修飾によって高低強弱を表すようにしても良い。図7(b)は、高低強弱をマークの付加によらず、他の文字修飾によって表す場合の高低強弱表示処理を説明するためのフローチャートである。
【0103】
この、高低強弱表示処理では、ステップB12においてCHR$に記憶されたコマンドコード「GM」のパラメータデータを読み出し(ステップD1)、その値に応じた高低、強弱に対応する修飾を該当する単語に対して修飾を施す(ステップD2〜D5)。例えば、CHR=「11」の場合には、コマンドコード「HL」が示す文字列(CHR$の記憶した文字列)に対して、表示位置を通常より上位置に移動させると共に文字列を白抜きする修飾を施す(ステップD2)。以下、同様にCHR=「10」の場合には上位置に移動(文字列は通常文字)する修飾を施し(ステップD3)、CHR=「01」の場合には白井地に移動させると共に文字列を白抜きする修飾を施し(ステップD4)、CHR=「00」の場合には下位置に移動する(文字列は通常文字)する修飾を施す(ステップD5)。
【0104】
図13には、図7(b)に示す高低強弱表示処理によって表示されるテキストの一例を示している。図13に示すように、テキストのみの表示によって高低強弱を表現することができる。この場合、表示画面中にマークを付加して表示するスペースが不足している場合などに有効な表示形態である。
【0105】
こうして、最初の単語(表示単位)に対する処理が終了すると、次の表示単位の文字列に対する処理の準備として、ハイライト指定の先頭文字位置CsをCs=Ce+1として次の単語の先頭文字位置に更新し(ステップB20)、ハイライト指定の末尾の文字位置CeをステップB14において探索されたコマンドコード「HL」のパラメータデータが示す数値(次単語の最後の文字位置)に更新する。この場合、Cs=5+1=6に更新され、Ceは64番目のコマンドコード「HL」に対応するパラメータデータが示す「10」に更新される。
【0106】
そして、文字列の末尾にある単語に対する処理が終了し、次の処理対象とする単語を次行に移行する必要がある場合には(ステップB22、Yes)、改行処理とX方向位置補正を実行する(ステップB23)。すなわち、次に、テキストを表示する行を次行に更新すると共に、単語の表示開始位置(X座標値)をテキスト表示フレームの先頭に更新する。
【0107】
なお、次行に移行する必要がない場合(及び改行処理が終了した後)に、Csの位置からCeの位置までの文字列を読み出し、表示配置の変更対象とするテキストデータとして変数CHR$に記録する(ステップB24)。ここでは、CHR$=「high 」(1文字分のスペース有り)としてセットされる。
【0108】
そして、最初の単語(表示単位)に対する処理が終了すると、次の表示単位の文字列に対する処理の準備として、現在のPeの値をPSにセットする(ステップB26)。
【0109】
次に、前述と同様にして、読み出しポインタをI=I+1として順次更新し、タイムコードファイル12c3から次のコマンドコード「HL」を探索する(ステップB27、B28、B14)。
【0110】
ここでは、第88コマンドコード「HL」が検索されるので(ステップB14、Yes)、現在の命令の位置の読み出しポインタの位置番号I=88をPeとしてセットし(ステップB15)、先にセットしたPsとPOの値、及び表示サイズと時間との比率をもとに前回文字表示開始ドット位置Xs=(Ps−PO)×2.5=(64−40)×2.5=60をセットする(ステップB16)。
【0111】
また、先にセットしたPeとPOの値、及び表示サイズと時間との比率をもとに、前回文字表示終了ドット位置Xe=(Pe−PO)×2.5=(88−40)×2.5=120をセットする。これにより、現在処理対象としている表示単位(単語「high 」)に対する表示範囲(Xs〜Xe)が求められる。そして、前述と同様にして、CHR$に記憶された文字列をXs〜Xeの幅に合わせて拡大または縮小して表示する(ステップB18)と共に、高低強弱表示処理によってマークを付加する(あるいは高低強弱を表す修飾を施す)(ステップB19)。
【0112】
以下、同様にして、タイムコードファイル12c3から順次検索される第136、第148、第164、第188などのコマンドコード「HL」、コマンドコード「GM」について、前述と同様の処理を実行することで、各単語についての配置とマークの付加(高低強弱表示)を決定することができる。
【0113】
そして、前述と同様にして、読み出しポインタをI=I+1として更新した結果(ステップB27)、読み出しポインタが示す位置のコマンドコードが処理の終了を示す「FN」であった場合(ステップB28、Yes)、現在の命令の位置の読み出しポインタの位置番号IをPeとしてセットする(ステップB29)。図3に示すタイムコードファイル12c3では2399番目のコマンドコードが「FN」であるのでPe=2399としてセットされる。
【0114】
次に、先にセットしたPsとPOの値、及びテキストを表示する表示画面中の表示サイズと同表示サイズに対して決められる時間との比率(2.5)をもとに、前回文字表示開始ドット位置Xsをセットし(ステップB30)、また、先にセットしたPeとPOの値、及び比率(2.5)をもとに、前回文字表示終了ドット位置Xeをセットする(ステップB31)。
【0115】
ここで、CHR$に記憶された前回文字列をXs〜Xeの幅に合わせて拡大/縮小表示する(ステップB32)。以上によりVDコマンド処理を終了する。
【0116】
こうして、コマンドコード「VD」に応じてVDコマンド処理を実行することで、タイムコードファイル12c3に表示タイミングと関連付けて記述されたコマンドコード「HL」とコマンドコード「GM」をもとにして、各表示単位(単語)のテキストをそれぞれの表示タイミング(ハイライト表示)に合わせた配置によって、それぞれに高低強弱表すマークを付加して(あるいは修飾を施して)表示させることができる。
【0117】
図10及び図11には、VDコマンド処理によって決定される、テキストデータ中の各単語に対して決定された配置例を表している。図10及び図11に示すように、例えば第1行目のテキスト中の「school」「go」、第2行目の「Higashi」などのポイントなる単語が、発言のタイミングに応じた間隔をもった配置によって表示されている。通常、テキストを読み上げる音声において、ポイントとなる単語については、強くかつ時間をかけてゆっくり発言される傾向があるため、これらの単語の配置がゆっくり読み上げられることを明示するように、他の単語よりも広い間隔(及び文字サイズ)をもって表示されている。
【0118】
テキスト中の各単語に対するコマンドコード「HL」を、テキストを読み上げた際の単語の発声タイミングに合わせた順番(コマンドコードの記述位置)で記述しておくことにより、図10及び図11に示すように、それぞれの単語を発言タイミングに合わせた配置により表示させることができる。
【0119】
図10及び図11に示す第1行目のテキスト「What high school do you go to?」に対しては、通常のテキスト表示をした場合には、各単語が同じフォントによって表示されるが、音声幅文字表示を実行することで各単語の幅が拡大/縮小されて配置される。
【0120】
次に、第38コマンドコード「DI」(i番目イメージファイル表示)およびそのパラメータデータ「01」が読み出されると、DIコマンド処理がコールされて実行される。
【0121】
DIコマンド処理では、ファイルシーケンステーブル12c2から画像番号iのID番号を読み出し、指定IDのコンテンツ(イメージデータ)を表示部18の画像表示フレームY内に表示する。ここでは、画像番号「01」のID番号「5」に対応するイメージデータ(画像1)が読み出されて画像表示フレームにおいて表示される。
【0122】
次に、第39コマンドコード「PS」(i番目サウンドファイルプレイ)およびそのパラメータデータ「01」が読み出されると、PSコマンド処理がコールされて実行される。
【0123】
PSコマンド処理では、ファイルシーケンステーブル12c2から音声番号iのID番号を読み出し、指定IDのコンテンツ(音声データ)を音声出力部19bから再生出力する。ここでは、音声番号「01」のID番号「30」に対応する音声データ(音声1)が読み出されて出力される。
【0124】
次に、第40コマンドコード「HL」(i番目文字までハイライト・文字カウント)およびそのパラメータデータ「05」が読み出されると、HLコマンド処理がコールされて実行される。
【0125】
まず、VDコマンド処理によって表示されているテキストに対して、パラメータデータが示すi番目までハイライト表示し、文字カウンタをi番目の文字までカウントアップ。ここでは、パラメータデータが「05」であるので5文字目(テキスト1については「What 」(1文字分のスペース有り))までをハイライト表示する。
【0126】
次に、第41コマンドコード「GM」およびそのパラメータデータ「11」が読み出されると、図8のフローチャートに示すGMコマンド処理がコールされて実行される。
【0127】
まず、先に指定されたゲームモードが判別される(ステップE1)。ここで、ゲームモードが「聞いてキーイン」に設定されている場合、入力部17a(上下キー17a1)の操作によるキー入力が検知された場合(ステップE2)、そのキー入力が上キーと下キーの何れからのキー入力であるかを検知して高低を判別する(ステップE2)。ここで、キー入力が上キーであった場合には(ステップE3、Yes)、高音指定のキー入力であることを設定し(CHRin=10)し、キー入力が下キーであった場合には(ステップE3、No)、低音指定のキー入力であることを設定する(CHRin=00)。なお、2桁の数値の10の位が「1」が高音、「0」が低音を示している。
【0128】
また、キー入力操作が予め決められた時間以上長い場合には、例えば1秒以上押し続けられていた場合には(ステップE6、Yes)、音声が強いことを設定し(CHRin=CHRin+1)(ステップE7)、キー入力操作が予め決められた時間よりも短い場合には、例えば1秒未満押し続けられていた場合には(ステップE12、No)、音声が弱いことを設定する(CHRinの変更なし)。
【0129】
ここで、CHRの値(正しい高低/強弱)を読み出して、CHRin(ユーザ入力の高低/強弱)と比較する(ステップE14)。なお、正しい高低/強弱を表すCHRの値は、コマンドコード「GM」のパラメータデータから取得される。
【0130】
この比較の結果、10の位が一致した場合(ステップE15、Yes)、高低についての得点をゲーム評価データ12dのゲーム結果データに加点する(ステップE16)。一方、10の位が一致しなかった場合(ステップE15、No)、高低についての得点をゲーム評価データ12dのゲーム結果データから減点する(ステップE17)。
【0131】
また、この比較の結果、1の位が一致した場合(ステップE18、Yes)、強弱についての得点をゲーム評価データ12dのゲーム結果データに加点する(ステップE19)。一方、1の位が一致しなかった場合(ステップE18、Yes)、強弱についての得点をゲーム評価データ12dのゲーム結果データから減点する(ステップE20)。
【0132】
こうして、ユーザからのキー入力操作に対する評価を実施して、ゲーム評価データ12d(ゲーム結果データ)として集計する。
【0133】
以下、同様にして、第64コマンドコード「HL」(パラメータデータ「10」)、第88コマンドコード「HL」(パラメータデータ「17」)、第136コマンドコード「HL」(パラメータデータ「20」)、第148コマンドコード「HL」(パラメータデータ「24」)、第164コマンドコード「HL」(パラメータデータ「27」)、第188コマンドコード「HL」(パラメータデータ「31」)などがそれぞれの処理時間において実行される。
【0134】
この結果、テキスト1の各単語が時間の経過に伴って、コマンドコード「HL」がタイムコードファイル12c3に記述されたタイミングで順次ハイライト表示される。
【0135】
そして、各コマンドコード「HL」に連続して記述されているコマンドコード「GM」を実行して、ユーザにより音声入力部19aから入力される音声に対して、前述と同様にして評価してゲーム結果データに集計していく。
【0136】
図10(a)は、第88コマンドコード「HL」が実行された時のテキストに対してハイライト表示された画面を示す図であり、テキスト「What high school」がハイライト表示されていると共に高低強弱を表すマークが付加されている。ユーザは、音声出力と同期して、時間の経過と共にハイライト表示されていく英文テキストの内容を、マークにあわせてキー入力操作することでゲームを進行させることができる。英文テキストを読み上げる場合の高低強弱をキー操作によって入力することができれば高得点を獲得することができ、それにより英文テキストを正しく発声する高低強弱を体得できる。
【0137】
以下、同様にして、図10(b)〜(d)は、それぞれに対応してタイムコードファイル12c3に記述されたコマンドコード「HL」、コマンドコード「GM」が実行された時のテキストに対してハイライト表示された画面を示す図である。
【0138】
なお、前述した説明において、キー入力操作時間を判別する際に1秒以上押し続けられているか否かによって行っているが、この時間は一例であって、音声の発声速度やタイムコードファイル12c3に対するコマンドコードの記述場所などによって任意に決められる。
【0139】
なお、前述した説明は、ゲームモード「聞いてキーイン」の場合であるが、ゲームモードが「自分でしゃべる」であった場合(ステップE1、No)には次のようにコマンドコード「GM」に対する処理が実行される。このゲームモードを実行する場合、図2に示すヘッドセットを利用することで、ヘッドホンのスピーカ19aから音声を聞きながら音声を入力することができる。
【0140】
ゲームモードが「自分でしゃべる」に設定されている場合、音声入力部19a(マイク)から入力された音声を検知して高低を判別する(ステップE8)。ここで、入力された音声が高音であった場合には(ステップE10、Yes)、入力音声が高音であることを設定し(CHRin=10)し、入力された音声が低音であった場合には(ステップE10、No)、入力音声が低音であることを設定する(CHRin=00)。なお、2桁の数値の10の位が「1」が高音、「0」が低音を示している。
【0141】
また、入力された音声が大であった(強い)場合には(ステップE12、Yes)、入力音声が強いことを設定し(CHRin=CHRin+1)(ステップE13)、入力された音声が小さい(弱い)場合には(ステップE12、No)、入力音声が弱いことを設定する(CHRinの変更なし)。
【0142】
ここで、CHRの値(正しい高低/強弱)を読み出して、CHRin(ユーザ入力の高低/強弱)と比較する(ステップE14)。なお、正しい高低/強弱を表すCHRの値は、コマンドコード「GM」のパラメータデータから取得される。
【0143】
この比較の結果、10の位が一致した場合(ステップE15、Yes)、高低についての得点をゲーム評価データ12dのゲーム結果データに加点する(ステップE16)。一方、10の位が一致しなかった場合(ステップE15、No)、高低についての得点をゲーム評価データ12dのゲーム結果データから減点する(ステップE17)。
【0144】
また、この比較の結果、1の位が一致した場合(ステップE18、Yes)、強弱についての得点をゲーム評価データ12dのゲーム結果データに加点する(ステップE19)。一方、1の位が一致しなかった場合(ステップE18、Yes)、強弱についての得点をゲーム評価データ12dのゲーム結果データから減点する(ステップE20)。
【0145】
こうして、ユーザからの音声入力に対する評価を実施して、ゲーム評価データ12d(ゲーム結果データ)として集計する。
【0146】
なお、図10(a)〜(d)では、テキストに対してハイライト表示させる例を示しているが、他の表示形態によってテキスト表示を変更するようにしても良い。
【0147】
図11(a)は、第88コマンドコード「HL」が実行された時のテキストに対して他の表示形態としてアンダーラインが付加された画面を示す図であり、テキスト「What high school」にアンダーラインが付加されていると共に高低強弱を表すマークが付加されている。ユーザは、時間の経過と共にアンダーラインが付加されていく英文テキストの内容を、マークにあわせて高低強弱をつけて発声(「What high school」)することでゲームを進行させることができる。マークが示す正しい音声を入力することができれば高得点を獲得することができ、それにより英文テキストを正しく発声する高低強弱を体得できる。
【0148】
以下、同様にして、図11(b)〜(d)は、それぞれに対応してタイムコードファイル12c3に記述されたコマンドコード「HL」、コマンドコード「GM」が実行された時のテキストに対してアンダーラインがテキストに付加された表示画面を示す図である。
【0149】
なお、図10(a)〜(d)ではハイライト表示した部分についてはそのままハイライト表示の状態を継続しているが、図11(a)〜(d)に示すように、音声の読み上げの対象としている文(あるい行)のみに対して表示形態を変更(アンダーライン付加)した状態を継続するようにしても良い。なお、アンダーラインを付加する表示形態以外を用いることも可能である。
【0150】
以上のようにして、再生用ファイル12cにおけるタイムコードファイル12c3から読み出されたコマンドコードを実行していき、処理終了を表す「FN」か読み出された場合には(ステップA9)、その時点で再生ゲーム処理の停止(ストップ)処理を実行し(ステップA13)、ゲーム評価データ12dとして記憶されているゲーム結果データをもとにゲーム評価(イントネーション、強弱)を表示すると共に(ステップA14)、このゲーム評価結果に応じた評価コメントデータを読み出して表示する(ステップA15、A16)。
【0151】
図12(a)(b)に示すゲーム評価と評価コメントの表示例では、ゲーム結果データの値が大きいほど多くのマークを表示して表している。図12(a)に示す例では、「パンチ」(強弱)についての得点が低いために「パンチがいまいち、自信を持ってしゃべろう」の評価コメントが表示されている。なお、この表示画面は、ゲームモードとして「自分でしゃべる」が選択されてゲームが実行された場合の例である。図12(b)示す例では、ノリ(イントネーション)と「パンチ」(強弱)の何れも高得点であるために「ノリもパンチもグッドなキーイン! しゃべりもチャレンジしよう」の評価コメントが表示されている。なお、この表示画面は、ゲームモードとして「聞いてキーイン」が選択されてゲームが実行された場合の例である。
【0152】
このようにして、タイムコードファイル12c3に記述されたコマンドコードに応じた処理を、それぞれが記述された順に処理単位時間12c1aに応じた時間の経過と共に順次実行することで、コマンドコード「VD」によるテキスト表示、コマンドコード「DI」による画像表示、コマンドコード「PS」による音声出力により、複数の異なるデータを同期して出力することができる。この際、コマンドコード「HL」が同期出力される音声の内容に応じて記述されていれば、例えば音声中の単語が発声された時に該当する単語がハイライト表示されるようにコマンドが記述されていれば、VDコマンド処理において、コマンドコード「HL」を利用してテキスト中の単語の配置を変更することで、発声される音声の特徴(各単語を読み上げる時間など)を表現したテキスト表示を実現することができる。また、このテキスト表示に対して、テキスト音声を読み上げる場合の高低と強弱を表すマークをテキストに付加して表示し、このマークにあわせた入力(音声、キー入力)に対して正しくさせることで高得点を獲得できるゲームを実施することができる。高得点が獲得できるように入力することができれば、テキストを読み上げる際の正しい強弱や抑揚(イントネーション)が体得されていることになる。
【0153】
なお、前記実施形態において記載した携帯機器10による各処理の手法は、何れもコンピュータに実行させることができるプログラムとして、メモリカード(ROMカード、RAMカード等)、磁気ディスク(フレキシブルディスク、ハードディスク等)、光ディスク(CD−ROM、DVD等)、半導体メモリ等の外部記録媒体13に格納して配布することができる。そして、通信ネットワーク(インターネット)Nとの通信機能を備えた種々のコンピュータ端末は、この外部記録媒体13に記録されたプログラムを記録媒体読取部14によってメモリ12に読み込み、この読み込んだプログラムによって動作が制御されることにより、実施形態において説明したテキスト、音声、画像の同期再生機能を実現し、前述した手法による同様の処理を実行することができる。
【0154】
また、各手法を実現するためのプログラムのデータは、プログラムコードの形態として通信ネットワーク(インターネット)N上を伝送させることができ、この通信ネットワーク(インターネット)Nに接続されたコンピュータ端末から前記のプログラムデータを取り込み、前述した各実施形態のテキスト、音声、画像の同期再生機能を実現することもできる。
【0155】
なお、本願発明は、前記実施形態に限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で種々に変形することが可能である。さらに、実施形態には種々の段階の発明が含まれており、開示される複数の構成要件における適宜な組み合わせにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件から幾つかの構成要件が削除されたり、幾つかの構成要件が組み合わされても、発明が解決しようとする課題の欄で述べた課題が解決でき、発明の効果の欄で述べられている効果が得られる場合には、この構成要件が削除されたり組み合わされた構成が発明として抽出され得るものである。
【0156】
【発明の効果】
以上のように、本発明の請求項1に係る情報出力装置によれば、テキストデータを表示単位毎に表示タイミングを示す情報と関連づけて記録するテキスト情報記録手段と、前記テキスト情報記録手段によって記録された表示単位に対する表示形態を示す情報を記録する表示形態情報記録手段とを有し、表示制御手段により、前記テキスト情報記録手段に記録された表示タイミングを示す情報に基づいて、前記表示単位毎に前記表示形態情報記録手段に記録された情報に従って前記テキストデータを所定の表示形態で表示する。入力検知手段によって、前記表示制御手段によって表示された所定の表示形態のそれぞれに対して決められた入力を検知し、前記入力検知手段により検知された入力が前記表示制御手段により所定の表示形態に対して決められた入力であるか否かを判定し、結果出力手段により前記判定手段によって判定された結果を出力するので、テキストデータに基づいて表示単位毎に表示される所定の表示形態に対して、それぞれの表示形態に決められた入力をすることで評価されるゲームが実現され、このゲームによりテキストデータをもとにした表現、例えば英文テキストを読み上げる場合の各単語の強弱や抑揚(イントネーション)などの発音上の表現を体得することができるようになる。
【0157】
また、本発明の請求項2に係る情報出力装置によれば、前記テキスト情報記録手段に記録されたテキストデータに応じた音声データを記録する音声記録手段と、前記音声記録手段に記録された音声データをもとに、前記表示制御手段により所定の表示形態で表示される表示単位のテキスト部分の音声を出力する音声出力手段とを有するので、テキストを所定の表示形態で表示させるだけでなく音声を同期させて出力できるため、音声を聞きながらゲームを実行することで、テキストデータをもとにした表現をより効果的に体得することができるようになる。
【0158】
また、本発明の請求項3に係る情報出力装置によれば、前記表示制御手段は、前記テキスト情報記録手段に記録されたテキストデータに応じて表示されるテキストに対して、所定の記号を付加するので、ユーザは所定の記号を確認しながら、決められた入力をすることができる。
【0159】
また、本発明の請求項4に係る情報出力装置によれば、前記表示制御手段は、前記表示単位ごとの高低と強弱の組み合わせを表す記号を付加するので、テキストデータをもとにした表現が高低と強弱との組み合わせによる記号によって表されることになり、ユーザは、この記号を確認しながら入力をすることで、テキストデータをもとにした高低と強弱をもつ表現を体得することができるようになる。
【0160】
また、本発明の請求項5に係る情報出力装置によれば、前記表示制御手段は、前記表示単位ごとの高低に応じた位置に記号を付加するので、ユーザは、記号の種類だけでなく、記号がテキストに対して付加されている位置、例えばテキストに対して上あるいは下の何れに付加されているかによって、テキストデータをもとにした表現を確認することができる。
【0161】
また、本発明の請求項6に係る情報出力装置によれば、前記入力検知手段は、前記所定の表示形態のそれぞれに割り当てられたキーに対する操作による入力を検知するので、ユーザは、キー操作として、例えば上下方向キーに対する操作時間(押している時間)を変えたキー操作をすることでゲームを実行することができ、この操作をすることでテキストデータをもとにした表現を体得することができる。
【0162】
また、本発明の請求項7に係る情報出力装置によれば、前記入力検知手段は、前記所定の表示形態のそれぞれに決められた音声の入力を検知するので、ユーザは、音声を入力することでゲームを実行することができ、声を出しながらテキストデータをもとにした表現を体得することができる。
【0163】
また、本発明の請求項8に係る情報出力装置によれば、前記テキスト情報記録手段に記録された各表示単位の表示タイミングを示す情報に基づいて、各表示単位のテキストをそれぞれの表示タイミングに合わせた配置によって表示させるテキスト表示制御手段をさらに有するので、テキストデータをもとにした表現、例えばテキストを読み上げる際に各単語をどのようなタイミングで発生されるかを、テキストが表示される際の配置によって表されることになり、ユーザは、このテキストの配置を確認しながら入力をすることで、発声タイミングが変化される表現の違いなどを体得することができるようになる。
【0164】
また、本発明の請求項9に係る情報出力装置によれば、前記テキスト表示制御手段は、第1の表示単位のテキストの配置を、前記第1の表示単位に対応する表示タイミングと、前記第1の表示単位のテキストの次に配置される第2の表示単位に対する表示タイミングとの時間差に基づいて決定するので、テキスト情報記録手段にテキストデータの各表示単位を表示タイミングの情報と関連付けて記録しておくことで、各表示単位に対する表示タイミングの時間差からテキストの配置を決定することができる。
【0165】
また、本発明の請求項10に係る情報出力装置によれば、前記テキスト表示制御手段は、前記表示単位のテキストを、同テキスト中の各文字のフォントを変更して配置するので、テキストデータをもとにしてテキスト中の各文字を表示する際に、各文字に対応するフォントデータをもとにした例えば拡大/縮小処理をすることで、テキスト中の各表示単位(単語)の配置を変更することができる。
【0166】
また、本発明の請求項11に係る情報出力プログラムによれば、このプログラムをコンピュータにインストールすることで、コンピュータを、テキストデータを表示単位毎に表示タイミングを示す情報と関連づけて記録するテキスト情報記録手段と、前記テキスト情報記録手段によって記録された表示単位に対する表示形態を示す情報を記録する表示形態情報記録手段と、前記テキスト情報記録手段に記録された表示タイミングを示す情報に基づいて、前記表示単位毎に前記表示形態情報記録手段に記録された情報に従って前記テキストデータを所定の表示形態で表示する表示制御手段と、前記表示制御手段によって表示された所定の表示形態のそれぞれに対して決められた入力を検知する入力検知手段と、前記入力検知手段により検知された入力が前記表示制御手段により所定の表示形態に対して決められた入力であるか否かを判定する判定手段と、前記判定手段によって判定された結果を出力する結果出力手段とに機能させるので、コンピュータでは、テキストデータに基づいて表示単位毎に表示される所定の表示形態に対して、それぞれの表示形態に決められた入力をすることで評価されるゲームが実現され、このゲームによりテキストデータをもとにした表現、例えば英文テキストを読み上げる場合の各単語の強弱や抑揚(イントネーション)などの発音上の表現を体得させることができるようになる。
【図面の簡単な説明】
【図1】本発明の情報出力装置の実施形態に係る携帯機器10の電子回路の構成を示すブロック図。
【図2】本実施形態における携帯機器10(情報出力装置)の外観構成の一例を示す図。
【図3】タイムコードファイル12c3に記録されたコマンドコードとパラメータデータの一例を示す図。
【図4】携帯機器10の同期コンテンツ再生ゲーム処理プログラム12a1に従った再生ゲーム処理を示すフローチャート。
【図5】再生ゲーム処理に伴うVDコマンド処理を示すフローチャート。
【図6】再生ゲーム処理に伴うVDコマンド処理を示すフローチャート。
【図7】VDコマンド処理に伴う高低強弱表示処理を示すフローチャート。
【図8】再生ゲーム処理に伴うGMコマンド処理を示すフローチャート。
【図9】携帯機器10の再生ゲーム処理に伴う学習内容/ゲームモードの選択操作・表示状態を示す図。
【図10】図3に示すタイムコードファイル12c3に基づく再生ゲーム処理によって表示される画面の一例を示す図。
【図11】図3に示すタイムコードファイル12c3に基づく再生ゲーム処理によって表示される画面の一例を示す図。
【図12】ゲーム評価結果が表示される画面の一例を示す図。
【図13】図7(b)に示す高低強弱表示処理によって表示されるテキストの一例を示す図。
【符号の説明】
10 …携帯機器
11 …CPU
12 …メモリ
12A…ROM
12a…携帯機器制御プログラム
12a1…同期コンテンツ再生ゲーム処理プログラム
12B…FLASHメモリ
12b…暗号化された再生用ファイル(CASファイル)
12C…RAM
12c…解読された再生用ファイル(CASファイル)
12c1…ヘッダ情報
12c1a…処理単位時間
12c2…ファイルシーケンステーブル
12c3…タイムコードファイル
12c4…コンテンツ内容データ
12d…学習内容選択データ
12e…ゲームモードデータ
12f…画像展開バッファ
13 …外部記録媒体
14 …記録媒体読取部
15 …電送制御部
16 …通信部
17a…入力部
17b…座標入力装置
18 …表示部
19a…音声入力部
19b…ステレオ音声出力部
20 …通信機器(自宅PC)
30 …サーバ
N …ネットワーク(インターネット)

Claims (11)

  1. テキストデータを表示単位毎に表示タイミングを示す情報と関連づけて記録するテキスト情報記録手段と、
    前記テキスト情報記録手段によって記録された表示単位に対する表示形態を示す情報を記録する表示形態情報記録手段と、
    前記テキスト情報記録手段に記録された表示タイミングを示す情報に基づいて、前記表示単位毎に前記表示形態情報記録手段に記録された情報に従って前記テキストデータを所定の表示形態で表示する表示制御手段と、
    前記表示制御手段によって表示された所定の表示形態のそれぞれに対して決められた入力を検知する入力検知手段と、
    前記入力検知手段により検知された入力が前記表示制御手段により所定の表示形態に対して決められた入力であるか否かを判定する判定手段と、
    前記判定手段によって判定された結果を出力する結果出力手段と
    を具備したことを特徴とする情報出力装置。
  2. 前記テキスト情報記録手段に記録されたテキストデータに応じた音声データを記録する音声記録手段と、
    前記音声記録手段に記録された音声データをもとに、前記表示制御手段により所定の表示形態で表示される表示単位のテキスト部分の音声を出力する音声出力手段と
    を具備したことを特徴とする請求項1記載の情報出力装置。
  3. 前記表示制御手段は、前記テキスト情報記録手段に記録されたテキストデータに応じて表示されるテキストに対して、所定の記号を付加することを特徴とする請求項1または請求項2記載の情報出力装置。
  4. 前記表示制御手段は、
    前記表示単位ごとの高低と強弱の組み合わせを表す記号を付加することを特徴とする請求項3記載の情報出力装置。
  5. 前記表示制御手段は、
    前記表示単位ごとの高低に応じた位置に記号を付加することを特徴とする請求項4記載の情報出力装置。
  6. 前記入力検知手段は、
    前記所定の表示形態のそれぞれに割り当てられたキーに対する操作による入力を検知することを特徴とする請求項1記載の情報出力装置。
  7. 前記入力検知手段は、
    前記所定の表示形態のそれぞれに決められた音声の入力を検知することを特徴とする請求項1記載の情報出力装置。
  8. 前記テキスト情報記録手段に記録された各表示単位の表示タイミングを示す情報に基づいて、各表示単位のテキストをそれぞれの表示タイミングに合わせた配置によって表示させるテキスト表示制御手段を具備したことを特徴とする請求項1記載の情報出力装置。
  9. 前記テキスト表示制御手段は、
    第1の表示単位のテキストの配置を、前記第1の表示単位に対応する表示タイミングと、前記第1の表示単位のテキストの次に配置される第2の表示単位に対する表示タイミングとの時間差に基づいて決定することを特徴とする請求項8記載の情報出力装置。
  10. 前記テキスト表示制御手段は、前記表示単位のテキストを、同テキスト中の各文字のフォントを変更して配置することを特徴とする請求項8記載の情報出力装置。
  11. コンピュータを、
    テキストデータを表示単位毎に表示タイミングを示す情報と関連づけて記録するテキスト情報記録手段と、
    前記テキスト情報記録手段によって記録された表示単位に対する表示形態を示す情報を記録する表示形態情報記録手段と、
    前記テキスト情報記録手段に記録された表示タイミングを示す情報に基づいて、前記表示単位毎に前記表示形態情報記録手段に記録された情報に従って前記テキストデータを所定の表示形態で表示する表示制御手段と、
    前記表示制御手段によって表示された所定の表示形態のそれぞれに対して決められた入力を検知する入力検知手段と、
    前記入力検知手段により検知された入力が前記表示制御手段により所定の表示形態に対して決められた入力であるか否かを判定する判定手段と、
    前記判定手段によって判定された結果を出力する結果出力手段とに機能させるための情報出力プログラム。
JP2003097035A 2003-03-31 2003-03-31 情報出力装置、情報出力プログラム Pending JP2004302286A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003097035A JP2004302286A (ja) 2003-03-31 2003-03-31 情報出力装置、情報出力プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003097035A JP2004302286A (ja) 2003-03-31 2003-03-31 情報出力装置、情報出力プログラム

Publications (1)

Publication Number Publication Date
JP2004302286A true JP2004302286A (ja) 2004-10-28

Family

ID=33408930

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003097035A Pending JP2004302286A (ja) 2003-03-31 2003-03-31 情報出力装置、情報出力プログラム

Country Status (1)

Country Link
JP (1) JP2004302286A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006162867A (ja) * 2004-12-06 2006-06-22 Sharp Corp 出力装置および出力方法
JPWO2009044818A1 (ja) * 2007-10-05 2011-02-10 シャープ株式会社 コンテンツ表示制御装置、コンテンツ表示制御方法、プログラム、および記録媒体
CN103080991A (zh) * 2010-10-07 2013-05-01 阿姆司教育株式会社 基于音乐的语言学习方法及使用该方法的学习装置

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006162867A (ja) * 2004-12-06 2006-06-22 Sharp Corp 出力装置および出力方法
JP4594056B2 (ja) * 2004-12-06 2010-12-08 シャープ株式会社 出力装置および出力方法
JPWO2009044818A1 (ja) * 2007-10-05 2011-02-10 シャープ株式会社 コンテンツ表示制御装置、コンテンツ表示制御方法、プログラム、および記録媒体
CN103080991A (zh) * 2010-10-07 2013-05-01 阿姆司教育株式会社 基于音乐的语言学习方法及使用该方法的学习装置
JP2013541732A (ja) * 2010-10-07 2013-11-14 アモセデュ カンパニー リミテッド 音楽ベース言語学習方法と、これを活用した学習装置

Similar Documents

Publication Publication Date Title
JP2004347786A (ja) 音声表示出力制御装置、画像表示制御装置、および音声表示出力制御処理プログラム、画像表示制御処理プログラム
US20090204399A1 (en) Speech data summarizing and reproducing apparatus, speech data summarizing and reproducing method, and speech data summarizing and reproducing program
JP2005070645A (ja) テキスト音声同期装置およびテキスト音声同期処理プログラム
JP2005189454A (ja) テキスト同期音声再生制御装置及びプログラム
JP2004266576A (ja) メディアデータ記憶装置、およびメディアデータ記憶処理プログラム
JP2007264569A (ja) 検索装置、制御方法及びプログラム
JP2018146961A (ja) 音声再生装置及び音楽再生プログラム
JP2007322934A (ja) 歌唱練習装置、カラオケ装置及びプログラム
JP4483936B2 (ja) 音楽・映像再生装置
JP2004302286A (ja) 情報出力装置、情報出力プログラム
JP4591481B2 (ja) 表示制御装置および表示制御処理プログラム
JP4171680B2 (ja) 音楽再生装置の情報設定装置、情報設定方法、及び情報設定プログラム
KR20180078197A (ko) 이 보이스북 편집장치 및 재생장치
JP2004302285A (ja) 情報出力装置、情報出力プログラム
JP4277512B2 (ja) 電子機器及びプログラム
JP2012098753A (ja) 音声表示出力制御装置、画像表示制御装置、および音声表示出力制御処理プログラム、画像表示制御処理プログラム
KR101103329B1 (ko) 어학 학습기 재생 방법
JP2008022979A (ja) ゲームシステム、プログラムおよび情報記憶媒体
JP4407119B2 (ja) 命令コード作成装置
JP2005077678A (ja) テキスト音声同期装置およびテキスト音声同期処理プログラム
KR20150055921A (ko) 동영상 재생 제어 방법 및 장치
JP4459077B2 (ja) ナレーション支援装置、その原稿編集方法およびプログラム
JP3794355B2 (ja) 再生制御装置および再生制御処理プログラム
JP2008022978A (ja) ゲームシステム、プログラムおよび情報記憶媒体
WO2022209557A1 (ja) 電子楽器、電子楽器の制御方法、及びプログラム