JP2007534278A - ショートメッセージサービスを通じる音声 - Google Patents

ショートメッセージサービスを通じる音声 Download PDF

Info

Publication number
JP2007534278A
JP2007534278A JP2007509601A JP2007509601A JP2007534278A JP 2007534278 A JP2007534278 A JP 2007534278A JP 2007509601 A JP2007509601 A JP 2007509601A JP 2007509601 A JP2007509601 A JP 2007509601A JP 2007534278 A JP2007534278 A JP 2007534278A
Authority
JP
Japan
Prior art keywords
character
utterance
message
representation
communication device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2007509601A
Other languages
English (en)
Inventor
エル. ロス、ダニエル
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Voice Signal Technologies Inc
Original Assignee
Voice Signal Technologies Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Family has litigation
First worldwide family litigation filed litigation Critical https://patents.darts-ip.com/?family=35197620&utm_source=google_patent&utm_medium=platform_link&utm_campaign=public_patent_search&patent=JP2007534278(A) "Global patent litigation dataset” by Darts-ip is licensed under a Creative Commons Attribution 4.0 International License.
Application filed by Voice Signal Technologies Inc filed Critical Voice Signal Technologies Inc
Publication of JP2007534278A publication Critical patent/JP2007534278A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W88/00Devices specially adapted for wireless communication networks, e.g. terminals, base stations or access point devices
    • H04W88/02Terminal devices
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00Speech synthesis; Text to speech systems
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/0018Speech coding using phonetic or linguistical decoding of the source; Reconstruction using text-to-speech synthesis
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B1/00Details of transmission systems, not covered by a single one of groups H04B3/00 - H04B13/00; Details of transmission systems not characterised by the medium used for transmission
    • H04B1/38Transceivers, i.e. devices in which transmitter and receiver form a structural unit and in which at least one part is used for functions of transmitting and receiving
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/7243User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages
    • H04M1/72433User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages for voice messaging, e.g. dictaphones
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/7243User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages
    • H04M1/72436User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages for text messaging, e.g. short messaging services [SMS] or e-mails
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/725Cordless telephones
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/02Feature extraction for speech recognition; Selection of recognition unit
    • G10L2015/025Phonemes, fenemes or fenones being the recognition units
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/26Devices for calling a subscriber
    • H04M1/27Devices whereby a plurality of signals may be stored simultaneously
    • H04M1/271Devices whereby a plurality of signals may be stored simultaneously controlled by voice recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Acoustics & Sound (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Multimedia (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • Telephonic Communication Services (AREA)
  • Mobile Radio Communication Systems (AREA)
  • Telephone Function (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

移動体通信デバイスによる音声メッセージの送信方法に関する。この方法には、移動体通信デバイスのユーザから発話を受信する工程と、受信した発話の非文字表現を生成する工程と、非文字表現を文字メッセージの本体へ挿入する工程と、無線メッセージングチャネルを通じて移動体通信デバイスから受信者のデバイスへ文字メッセージを送信する工程とが含まれる。

Description

本発明は移動体通信デバイス、例えば、携帯電話機などにおいて利用可能な通信チャネルを通じる音声メッセージの伝達に関する。
無線通信ネットワークを通じて伝送される音声情報の量を最小化して、そのネットワーク上で一度にサポート可能な電話呼の数を最大化するため、携帯電話機では音声コーダ/デコーダ、即ち、コーデックが利用される。コーデックによって、冗長な情報、即ち、不要な情報の多くが音声信号から除去される。次に、ネットワークを通じて受信側の携帯電話機へ音声の基本成分が伝送され、受信側の携帯電話機でデコードされる、即ち、先に除去された情報に類似するデータと再結合される。これによって、エンドユーザによる認識の可能な音声が再構成される。コーデックには、データ伝送を最小とする必要と、受信端においてデコードされたときに自然に聞こえるのに充分な元の音声情報を保持する必要とを平衡させる必要がある。自然に聞こえる通話を維持するのに必要な最低レートは、おおよそ2.4kビット毎秒であるが、一般に、今日の音声コーデックでは4.5k〜8kビット毎秒にまで音声信号を圧縮することが可能である。そうした低ビットレートまで音声を圧縮する性能にもかかわらず、多くの市場、特に発展途上国における新興の市場においては、大量の音声呼を取扱うためのネットワークインフラは限定されている。これによって、そうした市場における無線電話呼のコストは大きくなり得る。
携帯電話機による通信方法で、これに代わり人気の増大しているものは、文字メッセージングである。音声呼の高いコストに応えて、一部の市場、特に比較的若い統計人口の間では、SMSと呼ばれる文字ベースの移動体間メッセージング、即ち、ショートメッセージサービス(Short Message Service)が非常に用いられるようになっている。SMSによって、音声呼が進行中であるか否かにかかわらず、ユーザは常時、短い文字メッセージを受発信することが可能となる。通常、ユーザはデバイス上に提供されている小さなキーボードによりメッセージの文字をタイプ入力する。メッセージは160キャラクタまでにハードウェア的に制限されており、低帯域幅の帯域外メッセージ転送チャネルを通じてパケットとして送信される。これによって、無線ネットワークに対する負荷を最小とする簡易的な通信が可能となる。
GSM、TDMA、CDMAなど最も旧式な(legacy)無線ネットワークシステムはSMSの送受信が可能な文字/データチャネルを備えているので、発展途上国の新興市場においても、このサービスのためのインフラは既に存在している。一部の推定によると、現在、SMSメッセージの総数は、月当たりほぼ400億メッセージである。SMSは、今日では世界中の無線ネットワークオペレータに対する最も重要な非音声ベースの収益源であると考えられる。結果として、キャリアはSMSの使用の促進に非常に興味を有する。実際、文字メッセージングに関連する大きな収益のため、発展途上市場のネットワークオペレータが、より進んだ音声ネットワークインフラの導入を制限する場合がある。
一部の市場では、携帯電話呼の通話のコストは比較的高価であり、文字メッセージング(例えば、SMSによる)が望ましい代替の通信手段となっている。しかしながら、それらの市場の一部には、文字の使用に対し他の障壁が存在する場合がある。送信者及び受信者の両方が読み/書きのうちの少なくとも一方が可能である必要がある。しかしながら、非常に大きな人口を有するインドなど、新興市場においては、成人の識字率はほぼ60%
であり、多数の人々が携帯電話機に文字メッセージをタイプ入力するのに充分なほどには読み書きできない。したがって、メッセージを書くことも読むこともできないそうした市場の多くの消費者においては、SMS文字メッセージングは代替の通信モードとして有効でない。それにもかかわらず、本明細書に記載の実施形態のうちの少なくとも一部では、そうした消費者が文字メッセージングではなく口頭で通信するための低コストな非音声無線通信チャネルを用いることが可能な機構を提供する。
一態様では、一般に、本発明は移動体通信デバイスによる音声メッセージの送信方法を特徴とする。この方法は、移動体通信デバイスのユーザから発話を受信する工程と、受信した発話の非文字表現を生成する工程と、非文字表現を文字メッセージの本体へ挿入する工程と、無線メッセージングチャネルを通じて移動体通信デバイスから受信者のデバイスへ文字メッセージを送信する工程とからなる。
実施形態は次の特徴のうちの1つ以上を含む。移動体通信デバイスは携帯電話機である。受信した発話の非文字表現を生成する工程は、受信した発話から導出される信号に対して認識を実行し、非文字表現である記号列を生成する工程を含む。記号列の記号は音素、ダイフォン(diphone)及びトライフォン(triphone)からなる群から選択される(より詳細には、記号は音素である)。無線メッセージングチャネルはSMSチャネルであり、文字メッセージはSMSメッセージである。また、この方法は、文字メッセージを発話の非文字表現を格納するものとして識別するインジケータを文字メッセージに組み込む工程を含む。非文字表現は受信した発話の圧縮されたバージョンである。
別の態様では、一般に、本発明は移動体通信デバイスにおける発話を表現するメッセージの受信方法を特徴とする。この方法は、発話の非文字表現を格納する文字メッセージを無線メッセージングチャネルを通じて受信する工程と、文字メッセージから非文字表現を抽出する工程と、発声される発話のオーディオ表現を非文字表現から合成する工程と、合成したオーディオ表現を移動体通信デバイス上のオーディオ出力デバイスを通じて再生する工程とからなる。
実施形態は次の特徴のうちの1つ以上を含む。移動体通信デバイスは携帯電話機である。発話の非文字表現は発話の音を表現する記号列である。記号列の記号は音素、ダイフォン及びトライフォンからなる群から選択される(より詳細には、記号は音素である)。無線メッセージングチャネルはSMSチャネルであり、文字メッセージはSMSメッセージである。受信した文字メッセージは文字メッセージを発話の非文字表現を格納するものとして識別するインジケータを含む。非文字表現は発話の圧縮されたバージョンである。
さらに別の態様では、一般に、本発明は音声メッセージを送信するための移動体通信デバイスを特徴とする。この移動体通信デバイスは、プロセッサシステムと、移動体通信デバイスのユーザから発話を受信するためのマイクロホンと、トランシーバと、コードを記憶するメモリとからなる。コードはプロセッサシステム上で実行されるとき、移動体通信デバイスに、受信した発話の非文字表現を生成すること、非文字表現を文字メッセージの本体へ挿入すること、及び、無線メッセージングチャネルを通じて移動体通信デバイスから受信者のデバイスへトランシーバにより文字メッセージを送信することを行わせる。
さらに別の態様では、一般に、本発明は音声メッセージを受信するための移動体通信デバイスを特徴とする。この移動体通信デバイスは、プロセッサシステムと、発話の非文字表現を格納する文字メッセージを受信するためのトランシーバと、オーディオ出力デバイスと、コードを記憶するメモリとからなる。コードはプロセッサシステム上で実行されるとき、移動体通信デバイスに、受信した文字メッセージから非文字表現を抽出すること、
非文字表現から、発声される発話のオーディオ表現を合成すること、及び、合成したオーディオ表現をオーディオ出力デバイスを通じて再生すること、を行わせる。
記載の実施形態は、携帯電話機において利用可能なSMSネットワークを通じて、発声される情報又はオーディオ情報を送受信する方法である。ユーザは携帯電話機に、所望のメッセージ、即ち、発話を発声する。次に、電話機の音声認識アルゴリズムは発話の非文字表現を生成する。電話機のSMSアプリケーションは、SMSネットワークを介して受信者の電話機へ、SMSメッセージの本体により、この非文字表現を送信する。受信者の電話機にて、別のSMSアプリケーションがSMSメッセージの本体から非文字表現を抽出する。次に、シンセサイザが非文字表現からオーディオメッセージを合成し、合成したメッセージを受信者に対し再生する。
図1には、実装されている機能をさらに詳細に示す高次ブロック図を示す。ユーザが携帯電話機100に発話110を発声すると、電話機内の認識エンジン120のフロントエンドの特徴抽出部130はその発話を処理し、その音響学的特徴を抽出する。通常、特徴抽出部130はデジタイザ102を備える。デジタイザ102は受信したアナログ信号をディジタル表現へ変換する。デジタイザ102は入力信号を一連の重畳フレームに分割し、各フレーム内に信号のディジタル表現を出力する。次に、フィルタ104が信号のスペクトルをフィルタリングし、特に、音声信号に対する非音声雑音の影響を減少させ、発話の受信されたチャネルのスペクトル特性によって生じる種々の障害を補正する。このフィルタリング処理によって、発話の主な言語成分が保持されたまま、例えば、非常に高い周波数及び非常に低い周波数など、有意な有効な情報を搬送していないと考えられる種々の周波数は除去される。アナライザ106はフィルタリングされたディジタル信号を解析し、フレームの関連する音響学的特徴、即ち、特徴ベクトルを抽出する。特徴抽出部130の出力は、受信した発話の音響学的表現140である。記載の実施形態では、特徴抽出部130はMELケプストラム符号化手法を用いて、関連する特徴を抽出する。
この電話機は、メモリのデータベース160に音素の集合を記憶している。音素は、発声される言葉の音を構成する基本的な音声単位である。また、この電話機は各音素の音響学的モデルと、音素を識別するインデックス又はポインタとを記憶する。音響学的モデルは本来、統計的なものであり、特定の音響学的特徴の集合の発生の与える、特定の音素の発声される確率を示す。
記載の実施形態では、認識エンジン120は非制約的な音素認識部150を用い、ユーザの発話を特徴付ける一連の特徴ベクトルを与える可能性が最も高い一連の音素(即ち、音素列)を決定する。この認識部150は順序又はユーザにより発声される言葉について仮定することなく、各音素の候補を等しい重みで考慮するという点で、非制約的である。換言すると、音声認識部150は比較的簡単な(crude)認識部であり、発声される単語の識別を可能とする言語モデルを使用しない。
認識部150は発話の音響学的表現を、携帯電話機上の音素データベース160に記憶されている音素の音響学的表現と統計的に比較する。音素データベース160は、音響学的表現に加え、ユーザの言葉に見出される音を有効に記述するために充分に大きな音素の集合を格納している。音素認識部150は受信した発話の音響学的表現を音素の音響学的表現と統計的に比較し、最良一致(best match)を識別する。これは、隠れマルコフモデル(HMM)と呼ばれる周知の手法を用いて行われるが、他の統計手法若しくは非統計手法が用いられてもよく、記憶されている音声単位と音声の特徴を比較するモデルが用いられてもよい。
音素認識部150は一連のインデックス又はポインタとして、認識した一連の音素を音素のデータベースへ出力する。即ち、音素認識部150は認識した音素列の各音素に対し、そのデータベースの音素において、その音素を識別する特定のインデックス又はポインタを検索し、そのインデックス又はポインタを出力する。この出力は発声される発話の非文字表現、この場合には、音素列である。この列の値は、通信リンクの受信端のシンセサイザが発話を編成する一連の音を再生成することが可能な値、即ち、他端のユーザが一般に認識可能であるように発話を再生成することが可能な値である。しかしながら、単語認識が実行されないので、通常、音素列は文字として容易に可読ではない。
音素認識部150は携帯電話機上でも動作するSMSアプリケーション180用に、バッファ175に音素列を記憶する。SMSアプリケーション180は非文字表現を受信するための文字メッセージのシェルを生成し、そのアドレスフィールドを受信者の電話機のアドレスで満たす。バッファ175が完全に満たされるとき又は発話が完了するとき、SMSアプリケーション180は記憶されている音素列をSMSメッセージの本体へ挿入するとともに、そのメッセージを受信端のシンセサイザ用の非文字音素列を格納するものとして識別するフラグも挿入する。実行時、フラグは他端のSMSアプリケーションに、SMSの内容を通常時にユーザに対し表示される文字メッセージとして処理しないようアラートする。次にSMSアプリケーション180は、SMSチャネルを通じて受信者の携帯電話機にSMSメッセージを無線発信する。
また、音素認識部150は、受信者の携帯電話機の合成する音の品質及び理解し易さのうちの一方又は両方を改良するのに有用な他の情報も、SMSバッファ175に記憶する。例えば、各音素の時間的な長さ、その音量その他、受信側の電話機においてシンセサイザの生成する音の品質を制御するために使用可能なパラメータも指定される。記載の実施形態では、音素認識部150は休止も認識するため、認識した休止を削除し、発話の表現に必要な空間を節約する。
音声認識アルゴリズムによって、通常、ほぼ200〜700ビット毎秒以下のレートにて、発話110は非文字表現170へ圧縮される。SMSネットワークを通じて送信されるとき、多くの地域ではSMSネットワークの単一のメッセージ情報は1200ビットに制限されているが、これは受信側の携帯電話機での再生において、約10秒の長さの発話に相当する。
なお、上述のアプローチに代わるアプローチでは、発話に対し完全音声認識が実行され、認識された文字メッセージはSMSメッセージの本体により送信される。しかしながら、これには、そうした電話機の販売される消費者の話すであろう種類の単語の辞書を含む語彙を備える完全機能認識部が電話機に存在する必要がある。これは特に、350を超える異なる言語の存在するインドのような市場における販売用の電話機の場合、実際的ではない。そうした環境において音声認識を実行するために必要なアルゴリズムは非常に洗練されたものであり、かつ、複雑であろう。さらに、その音声認識を実行するために必要な資源は、通常、一般大衆に販売される高価でない携帯電話機において利用可能な資源を超えるものであろう。一方、発声されたことの音素列表現を生成することのみを必要とする認識部は、文字認識とは対照的に、組立がはるかに複雑でなく、はるかに少ないオンボード計算資源及びメモリ資源しか必要としない。これに加えて、音素認識をサポートするために必要な音素の集合は、特に、完全音声認識を実行するために必要であろう単語の語彙と比較して小さい。実際、本明細書に記載の目的においては、汎用の音素集合を用いることによって認識部がほとんどの言語を取扱うことが可能となる。
また、音素認識部150が発話170の音響学的表現のセグメントを音素の音響学的表現と統計学的に一致させるとき、最良一致の音素が発話と正確に一致しない場合がある。
例えば、認識部が「d」音を「t」音と解釈する場合があるが、これは特徴抽出部130によって取得される特徴が両方の音で同様であり、音素認識部150においていずれの音も他の音より有意には良く一致しないためである。そうしたエラーは音声から文字への認識に対し、より大きな有害な効果を有するが、本明細書に記載の用途においては、通常、有害な効果は相当少ない。合成されたオーディオメッセージを聴取する者に対し、合成されている音素列におけるそうしたエラーの存在が再生を不明瞭とすることはないと考えられる。実際、知覚されない場合もある。
図2には、SMSチャネルの受信側に実装される機能を示す高次ブロック図を示す。受信者によって操作される携帯電話機200が発話の非文字表現を格納するSMSメッセージを受信すると、SMSアプリケーション280はユーザに提示するためのメッセージを処理する。受信したSMSメッセージ内のフラグによって、SMSメッセージの内容はオーディオ信号を生成するためにシンセサイザにより処理される必要のある音声列として識別される。換言すると、フラグによって、SMSアプリケーションはメッセージの内容が通常時にユーザに対し単に表示される文字メッセージとは異なるように、このメッセージを処理する。SMSアプリケーション280はシンセサイザ220を制御するために供給された任意の記憶されているパラメータと共に、音声列と、音を生成する手法とを携帯電話機内のシンセサイザ220へ渡す。受信者の携帯電話機も送信者の携帯電話機のように自身の音響学的表現に加え、音素のデータベースを格納する。受信した音声列を編成するインデックス又はポインタによって、音声列を解釈してオーディオメッセージにするために、そのデータベースのいずれの音素が合成される必要があるかが識別される。シンセサイザは携帯電話機のスピーカを通じ、音声列を表現する一連の音を再生する。このようにして、発声される発話はSMSメッセージ機器によりリアルタイムでなく受信者へ伝送される。
適切な場合、単一のメッセージの本体に収まらない非文字表現に対する、より長い発話を取扱うために、一連の複数のSMSメッセージを生成するようにSMSアプリケーションをプログラムすることが可能である。本質的には、SMSアプリケーションは音声列を「パケット化」し、発話全体の一部を各々格納する複数のSMSメッセージ(即ち、パケット)を受信者の携帯電話機へ送信する。各メッセージは、受信者側のSMSが発話の完全な表現を正確に再構成することが可能であるように、インデックス化、即ち、タグ付けされる。また、接続の受信者側のSMSアプリケーションは、2つ以上のSMSメッセージの内容を連結することによって、受信した非文字表現が構成されることを認識するようにプログラムされる必要がある。
上述の実施形態では、発話を表現するために用いられる音声の単位は音素である。しかしながら、音素以外に、種々の他の記号集合のうちの1つが用いられ得る。例えば、記号はダイフォン、トライフォン、音節及び半音節その他、意図されるユーザの発声される発話内に格納される音を有効に表現するように作用する集合である。
特定の市場を目標とする実装においては、その市場において用いられる言語の音を最適に表現するように選択される音声単位に関する「調整された」辞書がデバイスに組み込まれ得る。これに代えて、電話機がほとんどの言語を認識及び表現することを可能とする、汎用の音素集合が用いられ得る。
上述のように、音素認識部は完全な言語モデルを備えておらず、実際、いかなる言語モデルも備えていない場合もある。その機能は単に発話内の音を認識することである。この目的においては、その音の意味を認識する必要はない。したがって、結果として得られる認識部の生成する表現は非文字表現であり、ユーザには可読でない場合がある。しかしながら、これは選択された記号集合がその記号の集合の中に単語を含まないことを意味する
のではない。簡潔には、単音節の単語は、例えば、選択された記号集合の中の記号又は単位と見なされる。
実行時、音声認識アルゴリズムは発声された発話の圧縮されたバージョンを生成する。記載の実施形態では、その圧縮されたバージョンは非文字表現(即ち、音声列)である。実際、認識を実行することなく単に圧縮を実行する他のアルゴリズムが用いられ得る。例えば、音素認識部を用いる代わりにボコーダを用いて圧縮された表現を生成し、次にこの圧縮された表現がSMSメッセージの本体へ挿入される。換言すれば、SMSチャネル又は別の非音声チャネルを通じる送信に適切な非文字表現を生成する、任意のアルゴリズムを用いることが可能である。意味を有する情報を伝達するために充分な長さを有する発話を送信するように、選択されたアルゴリズムは音声を充分に圧縮可能であることが望ましい。受信端においては、発声される発話のオーディオバージョンを再構成するように、適切な圧縮アルゴリズムが実装される必要がある。
種々の機能をシステムに追加して、ユーザビリティを高めることが可能である。上述のように、そうした機能の1つは、受信側の電話機が受信ユーザにオーディオメッセージを再生する「音声」を選択するオプションを、送信ユーザに与えることである。この機能は「音声」パラメータを表現する追加の文字列を発話の非文字表現に追加し、合成アルゴリズムに命令を与えることによって実装される。ユーザは電話機上のメニュー駆動インタフェースを通じてこれらのパラメータを選択すること、調整すること、又はその両方を行うことが可能である。これらのパラメータは、所望の効果を生成するようにシンセサイザアルゴリズムを調整するために用いられる。同様に、パラメータには再生速度その他、オーディオメッセージがより自然に、即ち、より送信ユーザを表現して聞こえるようにする、オーディオメッセージに対する他の変更が含まれ得る。システムに実装可能な別の機能は送信ユーザ及び受信ユーザの両方に対するオーディオプロンプトガイダンスである。このオーディオプロンプトガイダンスによって、読み書きのできないユーザがシステムをより良く操作することが可能となる。この場合、両者の電話機は「発信音の後に記録してください」、「送信したい人の電話番号を入力」など、予め記録されている幾つかのメッセージを記憶している。ユーザ入力に応答して、電話機が適切なメッセージをオーディオで再生する。
システムに実装可能な別の機能は、ユーザが発話の長さと再生成の品質との間で優先順位を決定することを可能とすることである。この場合、電話機は発話の非文字表現の長さ及び品質を変化させることの可能な複数のアルゴリズムを記憶する。ユーザが発話を記録する前に、電話機はユーザに長さ/品質の選択肢を提示する。ユーザが口頭で又は電話機のキーパッドを介して応答を入力すると、電話機はユーザ命令に対応するアルゴリズムを用いて発話を処理する。次に電話機は、発話の非文字表現からどのようにメッセージを合成するかについて受信側の電話機に命令を与える、一連のキャラクタを追加する。
記載の実施形態では、携帯電話機は図3の高次機能ブロック図に示すようなスマートホン300である。スマートホン300は、Microsoft PocketPCにより動作する電話機であり、そのコアにセルラー通信機能(例えば、音声帯域及びチャネル符号化機能を含む)を取扱うためのベース帯域DSP302(デジタル信号プロセッサ)と、PocketPCオペレーティングシステムの動作するアプリケーションプロセッサ304(例えば、Intel StrongArm SA−1110)とを備える。この電話機は、より従来的なPDA機能に加え、GSM音声呼、SMS(ショートメッセージングサービス)文字メッセージング、無線電子メール及びデスクトップ同様のウェブブラウジングをサポートする。
受発信機能はRFシンセサイザ306及びRF無線トランシーバ308と、それに続く
電力増幅器モジュール310とによって実装される。電力増幅器モジュール310は、アンテナ312による最終段階のRF発信を取扱う。インタフェースASIC(特定用途向け集積回路)314及びオーディオコーデック(CODEC)316によって、スピーカ、マイクロホンその他、コマンド及び情報を入力するための数字又は英数字キーパッド(図示せず)など電話機に提供される入力/出力デバイスへのインタフェースが提供される。DSP302はコード記憶のためにフラッシュメモリ318を用いる。Li−Ion(リチウムイオン)バッテリ320は電話機に電力を供給し、DSP302に接続されている電力管理モジュール322は電話機内の電力消費を管理する。アプリケーションプロセッサ114用の揮発性及び不揮発性メモリは、それぞれSDRAM324及びフラッシュメモリ326の形態で提供される。このメモリ構成は、オペレーティングシステム用のコード、電話帳(phone directory)などカスタマイズ可能な機能用のコード、並びに上述の音声認識、合成及びSMSアプリケーションのコードを含めスマートホンに含まれ得る任意のアプリケーションソフトウェア用のコードを保持するために用いられる。また、音素と、音素の音響学的表現と、音素を表現する記号とを含む音素データベースも記憶する。
スマートホン用の視覚表示デバイスは、LCDディスプレイ330を駆動するLCDドライバチップ328を備える。電話機内の他のデバイスにクロック信号を提供してリアルタイムのインジケータを提供する、クロックモジュール332も存在する。
上述のコンポーネントの全部は適切に設計される筐体334内にパッケージされる。上述のスマートホンは幾つかの異なる市販の電話機の一般的な内部構造を表現するものであり、それらの電話機の内部回路設計は当業者には一般に知られているため、図3に示すコンポーネントに関するさらなる詳細及びそれらの動作は提供されておらず、また本発明の理解には不要である。
一般に、デバイスが携帯電話機である必要は全くないが、発話を受信し、それを発話の非文字表現へ変換して、SMS又は別の非音声チャネルを通じて送信する機能を備える。例えば、マイクロホンと、発話の非文字表現を生成するのに適切なソフトウェアと、SMSプロトコル及び周波数を利用する無線発信器とを備えるラップトップコンピュータ又は同様の機能を有する他のデバイスも用いられてよい。
上述の例ではSMSネットワークが提示されているが、それを通じて文字、データ及び音声以外の媒体のうちの1つ以上の送信されるネットワークが用いられることが可能である。一例として、MMS(マルチメディアサービス)メッセージングチャネルもまた使用される。
また、上述のMELケプストラム符号化手法は、受信した発話の特徴を抽出及び表現するための多くの既知の代替手段のうちの単なる一例である。例えば、LPCケプストラル係数など、MELケプストラム符号化手法の代わりに任意の他の既知の手法が用いられる。以下は、非文字表現を生成するために使用可能な符号化手法の2つの例である。(1)益子貴史(Takashi Masuko)、徳田恵一(Tokuda Keiichi)、小林隆夫(Kobayashi Takao)、「HMMを用いる極低ビットレート音声符号化装置における話者適応(A Very Low Bit Rate Speech Coder Using HMM with Speaker Adaptations)」、1998年のICASSPにおける発表論文及びシステムズ・アンド・コンピューターズ・イン・ジャパン(Systems and Computers in Japan)、2001年、第32巻、第12号、p.38−46、(2)エム.ハビーブッラー・パガーカ(M.Habibullah Pagarkar)、ラクシュミ・ゴーパーラクリシュナン(Lakshmi Gopalakrishnan)、ニミシュ・
シェス(Nimish Sheth)、リズワナ・シャイク(Rizwana Shaikh)、ヴィラク・シャー(Virag Shah)、「デーヴァナーガリー音声体系を用いる言語独立音声圧縮(Language Independent Speech Compression Using Devanagari Phonetics)」、http:www.geocities.com/virag81/docs.htmlのURLにてウェブ上で見出される。これらの両方を引用によって援用する。
音声認識システムのブロック図。 音声合成システムのブロック図。 音声認識システム及び音声合成システムを組み込むスマートホンの高次ブロック図。

Claims (22)

  1. 移動体通信デバイスによる音声メッセージの送信方法であって、
    移動体通信デバイスのユーザから発話を受信する発話受信工程と、
    受信した発話の非文字表現を生成する非文字表現生成工程と、
    非文字表現のうちの少なくとも一部を文字メッセージの本体へ挿入する非文字表現挿入工程と、
    無線メッセージングチャネルを通じて移動体通信デバイスから受信者のデバイスへ文字メッセージを送信する文字メッセージ送信工程と、からなる方法。
  2. 移動体通信デバイスは携帯電話機である請求項1に記載の方法。
  3. 非文字表現挿入工程は非文字表現の全部を文字メッセージの本体へ挿入する工程を含む請求項1に記載の方法。
  4. 非文字表現生成工程は、受信した発話から導出される信号に対して認識を実行し、非文字表現である記号列を生成する工程を含む請求項1に記載の方法。
  5. 記号列の記号は音素、ダイフォン、トライフォン、音節及び半音節から選択される請求項4に記載の方法。
  6. 認識は音素認識であり、生成した記号列の記号は音素である請求項4に記載の方法。
  7. 非文字表現生成工程は、受信した発話から導出される信号に対して音素認識を実行し、非文字表現である音素列を生成する工程を含む請求項1に記載の方法。
  8. 無線メッセージングチャネルはSMSチャネルであり、文字メッセージはSMSメッセージである請求項1に記載の方法。
  9. 文字メッセージを発話の非文字表現を格納するものとして識別するインジケータを文字メッセージに組み込む工程を含む請求項1に記載の方法。
  10. 非文字表現は受信した発話の圧縮されたバージョンである請求項1に記載の方法。
  11. 非文字表現を複数の区分に分割する工程と、
    各区分を複数の文字メッセージのうちの異なる対応する文字メッセージの本体へ挿入する工程と、
    最初に言及される文字メッセージは同複数の文字メッセージのうちの1つであることと、
    無線メッセージングチャネルを通じて移動体通信デバイスから受信者のデバイスへ複数の文字メッセージを送信する工程と、を含む請求項1に記載の方法。
  12. 移動体通信デバイスの動作方法であって、
    発話の非文字表現を格納する文字メッセージを無線メッセージングチャネルを通じて受信する工程と、
    文字メッセージから非文字表現を抽出する工程と、
    発声される発話のオーディオ表現を非文字表現から合成する工程と、
    合成したオーディオ表現を移動体通信デバイス上のオーディオ出力デバイスを通じて再生する工程と、からなる方法。
  13. 移動体通信デバイスは携帯電話機である請求項12に記載の方法。
  14. 発話の非文字表現は発話の音を表現する記号列である請求項12に記載の方法。
  15. 記号列の記号は音素、ダイフォン、トライフォン、音節及び半音節から選択される請求項14に記載の方法。
  16. 記号列の記号は音素である請求項14に記載の方法。
  17. 無線メッセージングチャネルはSMSチャネルであり、文字メッセージはSMSメッセージである請求項12に記載の方法。
  18. 受信した文字メッセージは文字メッセージを発話の非文字表現を格納するものとして識別するインジケータを含む請求項12に記載の方法。
  19. 非文字表現は発話の圧縮されたバージョンである請求項12に記載の方法。
  20. 無線メッセージングチャネルを通じて、最初に言及される文字メッセージに加え複数の文字メッセージを受信する工程と、最初に言及される文字メッセージ及び同複数の文字メッセージは文字メッセージの集合を形成することと、文字メッセージの集合の各文字メッセージは発話の異なる部分の非文字表現を格納することと、
    複数の文字メッセージから非文字表現を抽出する工程と、
    文字メッセージの集合から抽出した非文字表現から、発声される発話のオーディオ表現を合成する工程と、を含む請求項12に記載の方法。
  21. 音声メッセージを送信するための移動体通信デバイスであって、
    プロセッサシステムと、
    移動体通信デバイスのユーザから発話を受信するためのマイクロホンと、
    トランシーバと、
    コードを記憶するメモリと、
    コードはプロセッサシステム上で実行されるとき移動体通信デバイスに、
    受信した発話の非文字表現を生成すること、
    非文字表現を文字メッセージの本体へ挿入すること、及び、
    無線メッセージングチャネルを通じて移動体通信デバイスから受信者のデバイスへトランシーバにより文字メッセージを送信すること、
    を行わせることと、からなる移動体通信デバイス。
  22. 音声メッセージを受信するための移動体通信デバイスであって、
    プロセッサシステムと、
    発話の非文字表現を格納する文字メッセージを受信するためのトランシーバと、
    オーディオ出力デバイスと、
    コードを記憶するメモリと、
    コードはプロセッサシステム上で実行されるとき移動体通信デバイスに、
    受信した文字メッセージから非文字表現を抽出すること、
    非文字表現から、発声される発話のオーディオ表現を合成すること、及び、
    合成したオーディオ表現をオーディオ出力デバイスを通じて再生すること、
    を行わせることと、からなる移動体通信デバイス。
JP2007509601A 2004-04-20 2005-04-20 ショートメッセージサービスを通じる音声 Pending JP2007534278A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US56375404P 2004-04-20 2004-04-20
PCT/US2005/013478 WO2005104092A2 (en) 2004-04-20 2005-04-20 Voice over short message service

Publications (1)

Publication Number Publication Date
JP2007534278A true JP2007534278A (ja) 2007-11-22

Family

ID=35197620

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007509601A Pending JP2007534278A (ja) 2004-04-20 2005-04-20 ショートメッセージサービスを通じる音声

Country Status (7)

Country Link
US (3) US7395078B2 (ja)
JP (1) JP2007534278A (ja)
KR (1) KR20070007882A (ja)
CN (1) CN101095287B (ja)
DE (1) DE112005000924T5 (ja)
GB (1) GB2429137B (ja)
WO (1) WO2005104092A2 (ja)

Families Citing this family (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7184786B2 (en) * 2003-12-23 2007-02-27 Kirusa, Inc. Techniques for combining voice with wireless text short message services
US7817606B2 (en) * 2004-04-05 2010-10-19 Daniel J. LIN Method for establishing network connections between stationary terminals and remote devices through mobile devices
EP1784992B1 (en) * 2004-08-14 2018-07-04 Kirusa, Inc. Methods for identifying messages and communicating with users of a multimodal message service
US8054950B1 (en) * 2005-06-17 2011-11-08 Sprint Spectrum L.P. Network initiation and pull of media from mobile devices
US7769142B2 (en) * 2005-07-14 2010-08-03 Microsoft Corporation Asynchronous discrete manageable instant voice messages
US20070083367A1 (en) * 2005-10-11 2007-04-12 Motorola, Inc. Method and system for bandwidth efficient and enhanced concatenative synthesis based communication
US20070207782A1 (en) * 2006-03-06 2007-09-06 Tran Bao Q Multimedia telephone
US20070208564A1 (en) * 2006-03-06 2007-09-06 Available For Licensing Telephone based search system
US7761293B2 (en) * 2006-03-06 2010-07-20 Tran Bao Q Spoken mobile engine
US8917716B2 (en) 2006-04-17 2014-12-23 Muse Green Investments LLC Mesh network telephone system
US8229479B1 (en) 2006-05-23 2012-07-24 Nextel Communications, Inc. Systems and methods for multimedia messaging
US7976386B2 (en) * 2006-06-12 2011-07-12 Tran Bao Q Mesh network game controller with voice transmission, search capability, motion detection, and/or position detection
US7701331B2 (en) * 2006-06-12 2010-04-20 Tran Bao Q Mesh network door lock
US20070287477A1 (en) * 2006-06-12 2007-12-13 Available For Licensing Mobile device with shakeable snow rendering
EP1879000A1 (en) * 2006-07-10 2008-01-16 Harman Becker Automotive Systems GmbH Transmission of text messages by navigation systems
US8050693B2 (en) * 2007-04-02 2011-11-01 Yahoo! Inc. Employing the SMS protocol as a transport layer protocol
US20080318679A1 (en) * 2007-06-21 2008-12-25 Alexander Bach Tran Foot game controller with motion detection and/or position detection
US20090005022A1 (en) * 2007-06-29 2009-01-01 Nokia Corporation Methods, Apparatuses and Computer Program Products for Providing a Party Defined Theme
US8213580B2 (en) * 2007-10-25 2012-07-03 International Business Machines Corporation Automated message conversion based on availability of bandwidth
CN101212721B (zh) * 2007-12-25 2011-01-19 华为软件技术有限公司 信息处理方法、系统及信息合并装置
US8364486B2 (en) * 2008-03-12 2013-01-29 Intelligent Mechatronic Systems Inc. Speech understanding method and system
US8639505B2 (en) * 2008-04-23 2014-01-28 Nvoq Incorporated Method and systems for simplifying copying and pasting transcriptions generated from a dictation based speech-to-text system
US8639512B2 (en) 2008-04-23 2014-01-28 Nvoq Incorporated Method and systems for measuring user performance with speech-to-text conversion for dictation systems
CN102655006A (zh) * 2011-03-03 2012-09-05 富泰华工业(深圳)有限公司 语音传输装置及其语音传输方法
US20120259633A1 (en) * 2011-04-07 2012-10-11 Microsoft Corporation Audio-interactive message exchange
US9111457B2 (en) * 2011-09-20 2015-08-18 International Business Machines Corporation Voice pronunciation for text communication
US9992021B1 (en) 2013-03-14 2018-06-05 GoTenna, Inc. System and method for private and point-to-point communication between computing devices
DE102013005844B3 (de) * 2013-03-28 2014-08-28 Technische Universität Braunschweig Verfahren und Vorrichtung zum Messen der Qualität eines Sprachsignals
CN106469041A (zh) * 2016-08-30 2017-03-01 北京小米移动软件有限公司 推送消息的方法及装置、终端设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05188990A (ja) * 1992-01-13 1993-07-30 Oki Electric Ind Co Ltd 音声認識方法
JPH10260692A (ja) * 1997-03-18 1998-09-29 Toshiba Corp 音声の認識合成符号化/復号化方法及び音声符号化/復号化システム
JP2000138956A (ja) * 1998-08-19 2000-05-16 Lucent Technol Inc 音声情報伝達方法及び音声情報伝達装置

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6240384B1 (en) * 1995-12-04 2001-05-29 Kabushiki Kaisha Toshiba Speech synthesis method
JPH11202885A (ja) * 1998-01-19 1999-07-30 Sony Corp 変換情報配信システム、変換情報送信装置、変換情報受信装置
JP3848455B2 (ja) * 1998-02-16 2006-11-22 富士通株式会社 情報読み上げシステム及び当該システムに用いる情報端末並びに記録媒体
US6163765A (en) * 1998-03-30 2000-12-19 Motorola, Inc. Subband normalization, transformation, and voiceness to recognize phonemes for text messaging in a radio communication system
US20030014253A1 (en) * 1999-11-24 2003-01-16 Conal P. Walsh Application of speed reading techiques in text-to-speech generation
US20020102966A1 (en) * 2000-11-06 2002-08-01 Lev Tsvi H. Object identification method for portable devices
EP1215659A1 (en) * 2000-12-14 2002-06-19 Nokia Corporation Locally distibuted speech recognition system and method of its operation
US6625576B2 (en) * 2001-01-29 2003-09-23 Lucent Technologies Inc. Method and apparatus for performing text-to-speech conversion in a client/server environment
US7088723B2 (en) * 2001-02-23 2006-08-08 Samsung Electronics Co., Ltd. System and method for enhancing a voice channel in voice over internet protocol
US7076738B2 (en) * 2001-03-02 2006-07-11 Semantic Compaction Systems Computer device, method and article of manufacture for utilizing sequenced symbols to enable programmed application and commands
WO2002077975A1 (en) * 2001-03-27 2002-10-03 Koninklijke Philips Electronics N.V. Method to select and send text messages with a mobile
US6990180B2 (en) * 2001-04-05 2006-01-24 Nokia Mobile Phones Limited Short voice message (SVM) service method, apparatus and system
EP1324314B1 (de) * 2001-12-12 2004-10-06 Siemens Aktiengesellschaft Spracherkennungssystem und Verfahren zum Betrieb eines solchen
KR100450319B1 (ko) * 2001-12-24 2004-10-01 한국전자통신연구원 가상 환경에서 참여자간의 의사전달 장치 및 방법
EP1365359A1 (en) * 2002-05-24 2003-11-26 BRITISH TELECOMMUNICATIONS public limited company Image processing method and system
CN1771748A (zh) * 2003-06-20 2006-05-10 诺基亚公司 用于将短消息服务字符映射为例如声音、震动或者图形效果的移动设备
JP4743686B2 (ja) * 2005-01-19 2011-08-10 京セラ株式会社 携帯端末装置、およびその音声読み上げ方法、並びに音声読み上げプログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05188990A (ja) * 1992-01-13 1993-07-30 Oki Electric Ind Co Ltd 音声認識方法
JPH10260692A (ja) * 1997-03-18 1998-09-29 Toshiba Corp 音声の認識合成符号化/復号化方法及び音声符号化/復号化システム
JP2000138956A (ja) * 1998-08-19 2000-05-16 Lucent Technol Inc 音声情報伝達方法及び音声情報伝達装置

Also Published As

Publication number Publication date
US20090017849A1 (en) 2009-01-15
US8081993B2 (en) 2011-12-20
CN101095287A (zh) 2007-12-26
GB0620538D0 (en) 2006-11-29
WO2005104092A3 (en) 2007-05-18
CN101095287B (zh) 2011-05-18
KR20070007882A (ko) 2007-01-16
US20120089399A1 (en) 2012-04-12
GB2429137B (en) 2009-03-18
WO2005104092A2 (en) 2005-11-03
US7395078B2 (en) 2008-07-01
DE112005000924T5 (de) 2008-07-17
US20050266831A1 (en) 2005-12-01
GB2429137A (en) 2007-02-14

Similar Documents

Publication Publication Date Title
US7395078B2 (en) Voice over short message service
JP4607334B2 (ja) 分散された音声認識システム
JP6374028B2 (ja) 音声プロファイルの管理および発話信号の生成
US6119086A (en) Speech coding via speech recognition and synthesis based on pre-enrolled phonetic tokens
US6681208B2 (en) Text-to-speech native coding in a communication system
JPH10260692A (ja) 音声の認識合成符号化/復号化方法及び音声符号化/復号化システム
WO2004034377A2 (en) Apparatus, methods and programming for speech synthesis via bit manipulations of compressed data base
JP2007300640A (ja) ボイスメッセージのテキスト表示を通信装置へ提供する方法及びシステム
JP2000187496A (ja) デジタル無線チャネル上の自動音声/話者認識
Cohen Embedded speech recognition applications in mobile phones: Status, trends, and challenges
US20070129945A1 (en) Voice quality control for high quality speech reconstruction
EP1298647B1 (en) A communication device and a method for transmitting and receiving of natural speech, comprising a speech recognition module coupled to an encoder
JP5524131B2 (ja) テキスト及び音声特徴量収集方法、そのシステム、プログラム
JP3552200B2 (ja) 音声信号伝送装置および音声信号伝送方法
US20020116180A1 (en) Method for transmission and storage of speech
Sarathy et al. Text to speech synthesis system for mobile applications
JP2003323191A (ja) 音声対応インターネットホームページのアクセスシステム
Tan et al. Distributed speech recognition standards
Riccio et al. Voice based remote data base access
EP1103954A1 (en) Digital speech acquisition, transmission, storage and search system and method
JP2003058177A (ja) 文章読み上げシステム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080328

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100706

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100713

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20101013

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20101020

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20110315