JP4212809B2 - 音声認識に基づく情報信号の供給する方法および装置 - Google Patents

音声認識に基づく情報信号の供給する方法および装置 Download PDF

Info

Publication number
JP4212809B2
JP4212809B2 JP2001529187A JP2001529187A JP4212809B2 JP 4212809 B2 JP4212809 B2 JP 4212809B2 JP 2001529187 A JP2001529187 A JP 2001529187A JP 2001529187 A JP2001529187 A JP 2001529187A JP 4212809 B2 JP4212809 B2 JP 4212809B2
Authority
JP
Japan
Prior art keywords
subscriber unit
information signal
signal
speech
infrastructure
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2001529187A
Other languages
English (en)
Other versions
JP2003511914A (ja
Inventor
アイラ・エイ・ガーソン
Original Assignee
ファストモービル・インク
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ファストモービル・インク filed Critical ファストモービル・インク
Publication of JP2003511914A publication Critical patent/JP2003511914A/ja
Application granted granted Critical
Publication of JP4212809B2 publication Critical patent/JP4212809B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/28Constructional details of speech recognition systems
    • G10L15/30Distributed recognition, e.g. in client-server systems, for mobile phones or network applications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M3/00Automatic or semi-automatic exchanges
    • H04M3/42Systems providing special services or facilities to subscribers
    • H04M3/487Arrangements for providing information services, e.g. recorded voice services or time announcements
    • H04M3/493Interactive information services, e.g. directory enquiries ; Arrangements therefor, e.g. interactive voice response [IVR] systems or voice portals
    • H04M3/4936Speech interaction details
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2201/00Electronic components, circuits, software, systems or apparatus used in telephone systems
    • H04M2201/40Electronic components, circuits, software, systems or apparatus used in telephone systems using speech recognition
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2207/00Type of exchange or network, i.e. telephonic medium, in which the telephonic communication takes place
    • H04M2207/18Type of exchange or network, i.e. telephonic medium, in which the telephonic communication takes place wireless networks

Description

【0001】
【発明の属する技術分野】
本発明は、一般的に音声認識が組み込まれている通信システムに関し、またより具体的には、音声認識分析に基づいて、加入者ユニットあるいは関連するデバイスあるいはその双方に対する情報信号の提供に関する。
【0002】
【従来の技術】
音声認識システムは、特に電話システムに関して一般的に公知の技術である。米国特許4,914,692、5,475,791、5,708,704と、また5,765,130は、音声認識システムを組み込んだ電話網を例示している。各システムの共通する特徴は、音声認識エレメント(即ち、音声認識を実施するデバイス)は、加入者の通信デバイス(即ち、ユーザーの電話)とは逆に、一般的に、電話網の構成の中心に位置されている。典型的には、音声の合成と音声認識エレメントとの組み合せは、電話網あるいはインフラストラクチャ内で展開されている。呼者は、そのシステムにアクセスし、音声合成エレメントを介して、合成された音声の形での情報のプロンプトあるいはクエリーの提供を受けることができる。呼者は、一般的に、合成された音声に対して口頭による応答を行い、音声認識エレメントは、呼者にさらなるサービスを提供するために、呼者の口頭による応答を処理する。
【0003】
【発明が解決しようとする課題】
従来の技術の主要部が、前記で説明されたシステムに関連して存在してはいるが無線通信システムへの音声認識システムの組み込みは、新しく開発されたばかりである。無線通信環境の中での音声認識の応用の標準化に努めるために、オーロラ・プロジェクトと呼ばれる欧州通信規格協会(ETSI)による取り組みが最近開始された。オーロラ・プロジェクトの目標は、音声認識システムの普及のためのグローバルな規格である。このプロジェクトは、クライアント/サーバ構成を確立することを提案している。この構成では、特徴抽出あるいはパラメータ化などのフロントエンドの音声認識処理が、加入者ユニット(例えば、セルラ電話のような携帯無線デバイス)で実施される。その後、フロントエンドにより提供されるデータは、サーバに転送され、バックエンドの音声認識処理が行われる。
【0004】
オーロラ・プロジェクトにより提案されているクライアント/サーバ構成は、普及される音声認識システムのニーズに答えるものであると期待されるが、現時点では、オーロラ・プロジェクトで実施可能な特徴とサービスがどの様なものであるかは明確でない。例えば、いわゆるテレマティックス・システムに向けての開発が進行中である。このシステムは、広い意味でユーザーとユーザーの車の中のデバイスに対する情報を基礎とするサービスの提供に関するテクノロジーを含んでいるが、どの様にしてテレマティックス・システムに音声認識テクノロジーを組み込むかについての画期的な解決をもたらすものと思われない。従って、種々のサービスを可能とするために、音声認識テクノロジーをテレマティックス・システムや他のシステムに組み込む技術を提供するのが有利であると思われる。
【0005】
【課題を解決するための手段】
本発明は、特に、音声認識処理を基礎とする加入者ユニットに情報を提供するための無線通信環境に応用可能な技術を提供する。本発明に係る無線システムは、一般的に、インフラストラクチャを有する無線通信の中の少なくとも1個の加入者ユニットを備える。インフラストラクチャが、音声認識サーバから成っていても、好ましくは、各々の加入者ユニットが、音声認識クライアントを実行することが好ましい。所定の加入者ユニットは、符号化されていない音声信号を入力として取り込み、その入力は、その後音声認識クライアントによりパラメータ化される。パラメータ化された音声は、それから、音声認識サーバに提供され、次に、パラメータ化された音声に基づいて音声認識分析を実行する。音声認識分析により識別された部分的に何れかの認識された発話に基づいた情報信号は、加入者ユニットに提供される。情報信号は、加入者ユニット自身あるいは加入者ユニットに接続されている1個あるいはそれ以上のデバイス制御のための制御信号を備えているとしてもよい。また、情報信号は、加入者ユニット自身あるいは加入者ユニットに接続されているデバイスにより処理されるデータ信号を備えているものとしてもよい。このデータ信号を、ローカルので制御信号を生成するために使用したり、あるいは音声認識サーバにへの追加のユーザーのデータの提供に持って行くことができ、前述のように、サーバが、追加情報信号に応答するようにすることができる。このように、本発明は、部分的にクライアント/サーバ音声認識モデルに基づいて、無線加入者ユニットの中でサービスを行うことができる技術を提供する。
【0006】
【発明の実施の形態】
本発明を、図1〜7を引用して、より詳しく説明することができる。図1は、加入者ユニット102、103を備える無線通信100のシステム全体のアーキテクチャを示している。加入者の装置102、103は、無線システム110に対応している無線チャンネル105を経由してインフラストラクチャと通信する。本発明のインフラストラクチャは、無線システム110に加えて、スモール・エンティティ・システム120と、コンテンツ・プロバイダ・システム130と、企業システム140がデータ網150を介して相互に接続されているものとすることもできる。
【0007】
加入者ユニットは、通信インフラストラクチャと通信可能な携帯電話103あるいは車両搭載の無線通信デバイス102のような無線通信デバイスであってもよい。図1の中に示されている以外の各種の加入者ユニットを使用することができ、本発明はこの点で限定されないものと解釈されるものとする。加入者ユニット102、103を、ハンズフリーで音声通信するためのハンズフリーセルラ電話と、ローカルの音声認識及び合成システムと、またクライアント−サーバ音声認識及び合成システムのクライアント部分の構成部品を備えるものとすることができる。これらの構成部品は、図2、図3に関して、更に詳しく説明される。
【0008】
加入者ユニット102、103は、無線チャンネル105を経由して無線システム110と無線通信を行う。無線システム110は、当業者であれば、本発明を、音声通信に対応しているセルラ以外のタイプの無線システムに有利に応用することが分かるが、好ましくは、セルラ・システムを備えるものとすることが好ましい。無線チャンネル105は、一般的に、デジタル搬送技術を実施し、また音声あるいはデータあるいはその双方を、加入者ユニット102、103へ及びユニットから搬送できる無線周波数(RF)搬送波である。アナログ技術のような他の伝送技術でも、使用できるものと解釈されるものとする。好ましい実施例の中で、無線チャンネル105は、欧州通信規格協会(ETSI)により規定されている一般パケット無線サービス(GPRS)のような無線パケット・データ・チャンネルである。無線チャンネル105は、データを転送して、クライアント−サーバ音声認識及び合成システムのクライアント部分と、クライアント−サーバ音声認識及び合成システムのサーバ部分との間の通信を容易にする。表示、制御、あるいは状態情報の様な他の情報も、また無線チャンネル105上で転送できる。
【0009】
無線システム110は、加入者ユニット102、103から無線チャンネル105により送信されたものを受信するアンテナ112を備える。アンテナ112は、またチャンネル105を経由して加入者ユニット102、103に送信する。アンテナ112を経由して受信されたデータは、データ信号に転換されて、無線網113に転送される。反対に、無線網113からのデータは、転送のためにアンテナ112に送信される。本発明に関連しては、無線網113は、一般的に公知の基地局や、制御装置や、リソース・アロケータ(資源割当装置)や、インターフェースや、データベース等の様な無線システムを実行するのに必要な諸デバイスを備える。当業者であれば分かるとおり、無線網113に組み込まれる特定のエレメントは、例えば、セルラ・システム、自動車に搭載された地上移動システムのような無線システム110の特定のタイプに応じて異なる。
【0010】
クライアント−サーバ音声認識及び合成システムのサーバ部分を提供する音声認識サーバ115を無線網113に連結して、無線システム110のオペレータが、音声を基礎とするサービスを、加入者ユニット102、103に提供することができるようにすることができる。制御エンティティ116を、無線網113に連結することができる。音声認識サーバ115により提供された入力に応答して、制御エンティティ116を使用して、制御信号を加入者ユニット102、103に送って、加入者ユニットあるいは装置に相互接続されているデバイスを制御することができる。図示されているとおり、適切にプログラムされた全ての汎用コンピュータを備えるものとすることができるエンティティ116を、無線網113を経由するかあるいは図の中の破線で示されているように直接に音声認識サーバ115に接続することができる。
【0011】
前記で指摘されているとおり、本発明のインフラストラクチャを、データ網150を経由して互いに接続された種々のシステム110、120、130、140を備えるものとすることができる。適切なデータ網150は、公知の通信網技術を使用したプライベートデータ網やインターネットなどの公衆ネットワークや、これらの組み合せなどを備えるものとすることができる。無線システム110内の音声認識サーバ115と選択的に又は付加的に、遠隔音声認識サーバ123、132、143、145を、各種の方法でデータ網150に接続して、音声を基礎とするサービスを、加入者ユニット102、103に提供するようにしてもよい。遠隔音声認識サーバが備わっている場合は、同様に、データ網150及び全ての介在する通信パス(経路)を経由して、制御エンティティ116と通信することができる。
【0012】
小型のエンティティ・システム120(小規模事業所あるいは在宅の様な)内では、デスクトップ・パソコンあるいは他の汎用処理デバイスの様な、コンピュータ122を使用して、音声認識サーバ123を実行することができる。加入者ユニット102、103を出入りするデータは、無線システム110とデータ網150を経由して、コンピュータ122に向けられる。保存されたソフトウエアのアルゴリズム及び処理を実行してから、コンピュータ122は、音声認識サーバ123の機能を提供する。サーバは、好ましい実施例の中で、音声認識システムと音声合成システムの双方のサーバ部分を備える。場合、例えば、コンピュータ122がユーザーのパソコンである場合、コンピュータ上の音声認識サーバのソフトウエアを、コンピュータ内のユーザーのEメールや、電話帖や、カレンダーや、他の情報の様なユーザーの個人情報に接続させることができる。この構成で、加入者ユニットのユーザーは、音声をベースとするインターフェースを利用して、自分のパソコン上の個人情報にアクセスできる。本発明に基づくクライアント−サーバ音声認識と音声合成システムのクライアント部分は、下記の図2と3に関連させて説明される。本発明に基づくクライアント−サーバ音声認識と音声合成システムのサーバ部分は、下記の図4と5に関連させて説明される。
【0013】
また、加入者ユニットのユーザーが利用可能にしたい情報を有するコンテンツ・プロバイダ130は、音声認識サーバ132を、データ網に接続させることができる。特集あるいは特別のサービスとしての申出に、音声認識サーバ132は、コンテンツのプロバイダの情報(図示されていない)へのアクセスを希望する加入者ユニットのユーザーに、音声をベースとするインターフェースを提供する。
【0014】
別の音声認識サーバのための可能な場所は、大企業あるいは同様のエンティティなどの企業140内である。イントラネットの様な企業内の通信網146は、セキュリティ(安全)ゲートウエイ(複数のネット間の接続)142を経由してデータ網150に接続される。セキュリティ・ゲートウエイ142は、加入者ユニットと連動して、企業内通信網146に対する安全なアクセスを提供する。公知の技術のとおり、この方法で提供される安全なアクセスは、一般的に、認証と暗号技術に一部依存する。この方法で、安全でないデータ網150を介した、加入者ユニットと内部通信網146との間の安全な通信が提供される。企業140内で、音声認識サーバ145を実行するサーバ・ソフトウエアを、所定の従業員のワークステーションのようなパソコン144上に提供できる。小規模のエンティティ・システムの中で使用するための前記で説明された構成と同様に、このワークステーションアプローチで、従業員は音声をベースとするインターフェースを経由して、作業に関連の又は他の情報にアクセスできる。また、コンテンツ・プロバイダ130モデルと同様に、企業140は、内部で利用できる音声認識サーバ143を提供して、企業のデータベースへのアクセスを提供することができる。
【0015】
本発明の音声認識サーバが配置されている場所の如何を問わず、サーバを使用して、各種の音声をベースとするサービスを実行することができる。例えば、制御エンティティ116が設けられている場合、これと連動させて、音声認識サーバで、加入者ユニット又は、これに接続されているデバイスの操作の制御をすることができる。この明細書全体を通じて使用されている音声認識サーバと言う用語が、音声合成機能をも同時に含むことに留意しなければならない。
【0016】
本発明のインフラストラクチャは、また、音声認識サーバ102、103とまた通常の電話システムとの間の相互接続を提供する。機能は、無線網113をPOTS(旧式の電話システム)網118に接続することで、図1の中に示されている。公知の技術のとおり、POTS網、あるいは同様の電話網は、陸上通信線あるいは他の無線デバイスのような複数の呼び局への通話アクセスを提供する。この方法で、音声認識サーバ102、103のユーザーは、他の呼び局119との音声通信を続行できる。
【0017】
図2は、本発明に係る加入者ユニットを実行するのに使用できるハードウエアのアーキテクチュアを示している。図示されているとり、2個の無線トランシーバ、即ち無線データ・トランシーバ203と無線音声トランシーバ204を使用することができる。公知の技術のように、これらのトランシーバを、データと音声機能の双方を実行することができる単独のトランシーバに結合させることもできる。無線データ・トランシーバ203と無線音声トランシーバ204の双方ともアンテナ205に接続されている。また、各々のトランシーバに対して、別個のアンテナを使用することができる。無線音声トランシーバ204は、全ての必要な信号処理や、プロトコル終了や、変調/復調等を実行して、無線音声通信を提供し、セルラ・トランシーバを備える。同様の方法で、無線データ・トランシーバーはインフラとのデータ接続性を提供する。好ましい実施例では、無線データ・トランシーバ203は、欧州通信規格協会(ETSI)により規定されている一般パケット・データ無線サービス(GPRS)のような無線パケットデータに対応している。
【0018】
本発明を、下記で説明されているとおり、車両搭載システムに有利に応用できることが見込まれる。車両搭載に利用された場合、本発明に係る加入者ユニットは、一般的に車両の一部であり、加入者ユニットの一部ではないと見なされる処理構成部品を備える。本発明を説明する目的で、処理構成部品を、加入者ユニットの一部と仮定する。加入者ユニットの実用に当たって、設計面を斟酌して、処理構成部品を含めたり専用とし含めないこともできるものと解釈されるものとする。好ましい実施例の中で、処理構成部品は、IBM社の“Power PC”のような汎用プロセッサ(CPU)201と、また、Motorola社のDSP56300シリーズ・プロセッサのようなデジタル信号処理装置(DSP)202を備える。CPU201とDSP202は、公知の技術のとおり、データ・バスとアドレス・バスを介して互いに接続されていることと、また他の制御接続を示すために、図2の中で隣接して示されている。別の実施例の中で、CPU201とDSP202の双方の機能を単独のプロセッサに結合させたり、あるいは複数のプロセッサに分割することができるようになっている。CPU201とDSP202の双方は、関連するプロセッサに対するプログラムとデータの保存を提供する個々のメモリー240、241に接続されている。保存されているソフトウエアのルーチンを使用して、CPU201あるいはDSP202あるいはその双方をプログラム化して、本発明の機能の少なくとも一部を実行することができる。CPU201とDSP202は、下記の図3と図7に関連させて、少なくとも部分的に、下記で説明される。
【0019】
好ましい実施例で、加入者ユニットは、また、アンテナ207に接続されている全地球測位衛星(GPS)受信機206を備える。GPS受信機206は、DSP202に接続されて、受信されたGPS情報を提供している。DSP202は、GPS受信機206から情報を取り込んでから、無線通信デバイスの場所の座標を計算する。また、GPS受信機206を、CPU201に直接場所の情報を提供するものとすることができる。
【0020】
CPU201とDSP202の種々の出入力は、図2の中に示されている。図2の中に示されているとおり、太線は、音声関係情報に対応し、また太い破線は、制御/データ関連情報に対応する。オプションとしてのエレメントと信号パスは、点線で示されている。DSP202は、下記で更に詳しく説明されているとおり、電話(セル電話)の会話に対する音声入力と、ローカルの音声認識装置とクライアント−サーバ音声認識装置のクライアント側の部分の双方に音声入力を提供するマイク270から、マイク音声220を受信する。DSP202は、また、電話(セル電話)の音声に対する音声出力と、ローカルの音声合成装置とクライアント−サーバ音声合成装置のクライアント側の部分の双方からの音声出力の双方を提供する少なくとも1個のスピーカー271に向けられている出力音声211に接続されている。携帯デバイスの中のように、マイク270とスピーカー271の位置を互いに近付けたり、あるいは、サンバイザーに取り付けられているマイクとダッシュボードあるいはドアに取り付けられているスピーカーを有する自動車での応用のように、互いに引き離すことができることに留意しなければならない。
【0021】
本発明のもう一つの実施例の中で、CPU201は、双方向インターフェース230を経由して、車両搭載のデータ・バス208に接続されている。データ・バス208で、セル電話や、娯楽(ラジオ、カセット・プレーヤー)システムや、車内環境システムのような車に搭載されている種々のデバイス209a-nとCPU201との間で通信される状態情報を制御することができる。適切なデータ・バス208を、自動車技術者協会により現在標準化作業が進行中のITSデータ・バス(IDB)とすることが見込まれる。ブルートゥース・シグ(SIG)(意見交換フォーラム)により定義される近距離無線データ通信システムのような種々のデバイス間の制御と状態情報を通信する別の手段を使用することができる。データ・バス208で、CPU201は、ローカルの認識装置、あるいはクライアント−サーバ認識装置の何れかにより認識された音声命令に応答して、車両搭載のデータ・バス上のデバイス209を制御できる。
【0022】
CPU201は、データ受信接続線231と、またデータ送信接続線232を経由して無線データ・トランシーバ203に接続されている。接続線231、232で、CPU201は、無線システム110から送信された制御情報と音声合成情報を受信することができる。音声合成情報は、無線データ・チャンネル105を経由して、クライアント−サーバ音声合成システムのサーバ部分から受信される。CPU201は、音声合成情報を復号してから、DSP202に届けられる。DSP202は、出力された音声を合成してから、合成されたものを音声出力211に届けられる。受信データ接続線231を経由して受信された全ての制御情報を、加入者ユニット自身を操作するために利用したり、1個あるいはそれ以上のデバイスに送信して、デバイスの動作を制御することができる。更に、CPU201は、状態情報と、またクライアント−サーバ音声認識システムのクライアント部分からの出力データを、無線システム110に送信することができる。クライアント−サーバ音声認識システムのクライアント部分は、下記で更に詳しく説明されているとおり、好ましくは、DSP202とCPU201内のソフトウエアの中で実行されることが好ましい。音声認識に対応させるときに、DSP202は、マイク入力線220を受信してから、音声を処理して、パラメータ化された音声信号を、CPU201に音声を提供する。CPU201は、パラメータ化された音声信号を符号化して、情報は、接続線232を経由して、無線データ・トランシーバ203に送信され、更に、無線データ・チャンネル105上で、インフラストラクチャの中の音声認識サーバに向けて送信される。
【0023】
無線音声トランシーバ204は、双方向データ・バス233を経由して、CPU201に接続されている。データ・バスで、音声トランシーバ204を操作して、無線音声トランシーバ204からの状態情報を受信することができる。無線音声トランシーバ204は、音声送信接続線221と、また受信音声接続線210を経由して、DSP202に接続されている。電話(セルラ)の通話を活用するために無線音声トランシーバ204が使用されているとき、音声は、DSP202により、マイクの入力線220から受信される。マイクの音声は、処理(例えば、フィルター、圧縮等)されてから、無線音声トランシーバ204に提供されて、更にセルラ・インフラストラクチャに送信される。逆に、無線音声トランシーバ204により受信された音声は、受信音声接続線210を経由して、DSP202に送信され、そこで音声は、処理(解凍、フィルター等)されてから、スピーカー出力線211に提供される。DSP202により実行される処理は、図3を引用して、更に詳しく説明される。
【0024】
図2の中に示されている加入者ユニットを、オプションとして、音声通信中に、手動でインターラプト表示線251を使用するための入力デバイス250を備えるものとすることができる。即ち、音声による通信中に、加入者ユニットのユーザーは、手動で入力デバイスを動作させて、インターラプト表示を提供することで、音声認識機能をウェークアップさせたいと言うユーザーの意思を伝えることができる。例えば、音声による通信中に、加入者ユニットのユーザーが、音声をインターラプトして、音声をベースとするコマンドを電子案内係に提供して、ダイヤルして、通話に第三者を加えたくなることがある。入力デバイス250を、実質的に如何なるタイプのユーザーにより動作される入力機構を備えるものとすることができる。例として、特に挙げることができるものは、単一あるいは多目的ボタンや、多重位置セレクタや、あるいは入力機能を有するメニューで駆動されるディスプレーである。また、入力250を、双方向インターフェース230と、また車両搭載データ・バス208を経由して、CPU201に接続することができる。入力デバイス250が設けられていると否とを問わず、CPU201は、インターラプト表示があるかないかを識別するための検出装置としての役割を果たす。CPU201が、入力デバイス250に対する検出装置としての役割を果たしているときは、CPU201は、参照符号260がふられている信号パスにより示されているとおり、インターラプト表示の存在をDSP202に指摘する。反対に、インターラプト表示を提供するための検出装置に接続されている加入者ユニットの中の音声認識装置を使用する他の機能(好ましくは、DSP202あるいはCPU201あるいはその双方により実行されることが好ましい)を有している。場合、参照符号260aが振られている信号パスで示されているとおり、CPU201あるいはDSP202の何れかは、インターラプト表示の存在を指摘する。一旦インターラプト表示の存在が検出されたか否かを問わず、音声認識エレメントの一部(好ましくは、加入者ユニットに関連してか、あるいは一部として実行されるクライアント部分であることが好ましい)が動作して、コマンドをベースとする音声処理を開始する。更に、音声認識エレメントの一部が動作したと言う表示をユーザーと、また音声認識サーバに提供することができる。好ましい実施例の中で、表示は、送信データ接続線232を経由して、無線データ・トランシーバ203に搬送され、更に、音声識別エレメントを提供するために、音声認識クライアントと協動する音声認識サーバに送信される。
【0025】
最後に、加入者ユニットには、インターラプト表示に応答して音声認識の機能が動作したことを伝える表示器制御線256に応答して加入者ユニットのユーザーに表示を提供する表示器255が装備されていることが好ましい。表示器255は、インターラプト表示装置に応答して動作させられ、一定期間のトーンあるいはビープの様な、音声表示を提供するのに使用されるスピーカーを備えるものとすることができる(ここでも、入力デバイスをベースとする信号260、あるいは音声をベースとする信号260aの何れかを使用して、インターラプト表示の存在を受けることができるようになっている。)他の実施例の中で、音声をスピーカー出力線211に向ける、DSP202により実行されるソフトウエア・プログラムを経由して表示器の機能が設けられている。スピーカーを、別々のものにするか、あるいは同じスピーカー271を使用して、出力音声線211を可聴とすることができる。また、表示器255を、可視表示装置を提供するLEDあるいはLCD表示装置の様な表示装置を備えるものとすることができる。表示器255の特定の形態は、設計の選択の問題であり、本発明では、必ずしも事項に限定されないものとする。更に、表示器255を、双方向インターフェース230と、また車両搭載データ・バス208を経由して、CPU201に接続することができる。
【0026】
ここで、図3を引用して、加入者ユニット(本発明に従って動作する)の中で実行される処理部分は図示される。好ましくは、図3に示される処理は保存されたCPU201あるいはDSP202あるいはその双方により実行されるマシンにより読み取り可能な命令を使用して実行される。下記に発表されている解説は、自動車の中に展開されている加入者ユニットの動作を説明しているが、図3の中に一般的に示され、この明細書の中で説明されている機能は、同様に非車両をベースとする使用に応用できるか、あるいは音声認識を使用することで利点を発揮させることができる。
【0027】
マイクの音声線220は、入力として加入者ユニットに提供される。自動車の環境下では、マイクは、一般的にサンバイサあるいは車両のステアリングコラムに直接取り付けられているか隣接した所にある通常ハンズフリーマイクである。好ましくは、マイクの音声線220が、デジタルの形態で、エコー・キャンセラー(2個の信号の伝送遅延による反射の取消)と環境処理(ECEP)ブロック301の所まで到達することが好ましい。スピーカーの音声211は、全ての必要な処理を受けてから、ECEPブロック301を経由して、スピーカー(複数を含む)に届けられる。車両の中では、スピーカーは、ダッシュボードの下に取り付けられる。また、スピーカー音声線211を、娯楽システムのスピーカー・システムを経由して演奏される車両の中の娯楽システムを経由させることができる。スピーカー音声線211は、好ましくは、デジタル・フォーマットであることが好ましい。例えば、セルラ通話が進行中であるとき、セルラ電話から受信された音声は、受信音声接続線210を経由してECEPブロック301に到達する。同様にして、送信される音声は、送信音声接続線221を経由して、セル電話に届けられる。
【0028】
ECEPブロック301には、送信音声接続線221を経由して、無線トランシーバ204に届けられる前に、マイク音声線220からのスピーカー音声線211のエコー・キャンセルが提供される。エコー・キャンセルは、音声エコー・キャンセルとして知られており、また公知の技術である。例えば、Amano他に交付された、“サブ・バンド音声エコー・キャンセラー”の名称の米国特許5,136,599と、またGenterに交付された、“サブバンド減衰とノイズ除去制御を有するエコー・キャンセラー”の名称の米国特許5,561,668は、音声エコー・キャンセルを実施するのに適切な技術を教示しており、特許の教示事項は、引用により、この明細書の中に組み込まれている。
【0029】
ECEPブロック301は、またエコー・キャンセルの他に、環境処理をマイク音声線220に提供して、加入者ユニットにより送信された音声を受信する側により快適な音声信号を提供する。一般的に普及している一つの技術は、ノイズ抑圧と呼ばれている。車両の中のハンズフリーマイクは、一般的に、他人に聞き取られる多数のタイプの音声ノイズを取り込む。他人に聞き取られる知覚されるバックグラウンド・ノイズを減らす技術は、例えば、Vilmur他に交付された米国特許4,811,404により説明されており、特許の教示事項は、引用により、この明細書の中に組み込まれている。
【0030】
ECEPブロック301は、また、第1音声パス316を経由して、音声合成バックエンド304により提供された合成された音声のエコー・キャンセル処理を提供する。合成された音声は、音声出力線211を経由して、スピーカー(複数を含む)に届けられる。受信された音声がスピーカー(複数を含む)に向けられた場合と同様に、マイクの音声パス220上で到達したスピーカーの音声“エコー”は、打ち消される。作用で、音響的にマイクに連結されたスピーカーの音声を、音声が音声認識のフロント・エンド302に届く前に、マイクの音声から取り除くことができる。タイプの処理により、公知の技術で“バージイン”として知られている技術を動作させることができる。バージインで、出力音声が同時にシステムで生成されながら、音声認識システムを、音声に対応させることができる。“バージイン”の実施例は、例えば、米国特許4,914,692と、5,475,791と、5,708,704、また5,765,130の中に見い出すことができる。
【0031】
エコーが打ち消されたマイクの音声は、音声認識処理が実行される度に、第2音声パス326を経由して、音声認識フロント・エンド302に供給される。オプションとして、ECEPブロック301は、第1データ・パス327を経由して、バックグラウンド・ノイズ情報を音声認識フロント・エンド302に提供する。バックグラウンド・ノイズ情報を、ノイズが多い環境の中で動作する音声認識システムに対する認識性能を改善するのに使用できる。処理を実施するのに適する技術は、Gerson等の米国特許4,918,732の中で説明されており、特許の教示事項は、この明細書の中で、引用で組み込まれている。
【0032】
エコーが打ち消されたマイクの音声と、オプションとして、ECEPブロック301から受信されたバックグラウンド・ノイズ情報を基礎として、音声認識フロント・エンド302は、パラメータ化された音声情報を生成する。音声認識フロント・エンド302と、また音声合成バック・エンド304は、共に、音声認識及び合成システムをベースとするクライアント−サーバのクライアント側の部分の核となる機能を提供する。パラメータ化された音声情報は、一般的に、特徴ベクトルの形態であり、この場合、10から20ミリ秒毎に新しいベクトルが計算される。音声信号のパラメータ化のために普及している一つの技術は、1980年8月の、音声音声と信号処理に関する、ASSP−28(4)の、頁357−366IEEE(米国電気電子技術者協会の会報の、“連続的に喋られる文の単音節の言葉の認識に対するパラメータによる表示の比較”Davi他により説明されているとおりの、mel cepstraであり、刊行物の教示、引用によりこの明細書の中に組み込まれている。
【0033】
音声認識フロント・エンド302により計算されたパラメータのベクトルは、加入者ユニットの中の音声認識処理のために、第2データ・パス325を経由して、加入者ユニットの中の音声認識ブロック303に送られる。パラメータのベクトルは、また、オプションとして、第3データ・パス323を経由して、音声アプリケーション・プロトコル・インターフェース(API)(複数)と、またデータ・プロトコル(複数)を備えるプロトコル処理ブロック306に送られる。公知の技術に従って、処理ブロック306は、送信データ接続線232を経由して、パラメータ・ベクトルを無線データトランシーバ203に送る。反対に、無線データトランシーバ203は、音声認識装置をベースとするクライアント−サーバの一部として機能するパラメータ・ベクトルをサーバに送る。単独の音声認識フロント・エンド302が示されているが、実際的には、加入者ユニットの中の音声認識装置303と、音声認識装置をベースとするクライアント−サーバは、種々の音声認識フロントエンドを利用することができる。
【0034】
加入者ユニットの中の音声認識装置303は、音声認識フロント・エンド302からパラメータ・ベクトル325を受信してから、フロント・エンド上で音声認識分析を実行し、例えば、パラメータ化された音声の中に認識できる発話があるかどうかを決定する。一つの実施例の中で、認識された発話(一般的に単語)は、加入者ユニットの中の音声認識装置303から、第4データ・パス324を経由して、プロトコル処理ブロック306に送られ、パスは、更に処理を行うために、認識された発話を種々のアプリケーション307に渡す。CPU201、あるいはDSP202あるいはその双方を使用して実行することができるアプリケーション307は、認識された発話をベースとする検出装置アプリケーションを備えるものとすることができ、音声をベースとするインターラプト指示表示が受信されたことを確かめる。例えば、検出装置は、突合せのための検索を行いながら、認識された発話を予め設定された発話のリスト(例えば“ウェークアップ”)と比較する。整合が検出されたときは、検出装置アプリケーションは、信号260aを発して、インターラプト表示の存在を知らせる。インターラプト表示の存在は、次に、音声認識エレメントを動作させて、音声をベースとするコマンドの処理を開始させるのに使用される。作用の概略は、音声認識フロント・エンドに送られる信号260aにより図3の中で示されている。作用に応答して、音声認識フロント・エンド302は、引続き、パラメータ化された音声を、加入者ユニットの中の音声認識装置に向けて送るか、あるいは、好ましくは、追加の処理のために音声認識サーバに送信するために、プロトコル処理ブロック306に送ることが好ましい。(また、オプションとして入力デバイス250により提供される入力デバイスをベースとする信号260が、同じ役割を果たすことができることに留意しなければならない)。更に、インターラプト表示の存在を、送信データ接続線232に送信して、音声認識装置のインフラストラクチャをベースとするエレメントに表示を与えることができる。
【0035】
音声合成バック・エンド304は、入力として音声のパラメータ化された表示を取り込んでから、パラメータ化された表示を、音声信号に転換し、信号は、それから、第1音声パス316を経由して、ECEPブロック301に届けられる。使用される特定のパラメータ化された表示は、設計の選択の問題である。一般的に普及しているパラメータ化された表示は、Klattの“縦続接続/並列接続フォルマント合成装置のためのソフトウエア”の題名の米国音声協会の協会誌の、1980年の67卷の頁971−995の中で説明されている、フォルマント(音色を特徴づける周波数成分)である。直線予測パラメータは、1976年のSpringer Verlag書房の、Markel他の、音声の直線予測の中で解説されている、もう一つの一般に普及しているパラメータ化された表示である。KlattとMarkel他の関連する教示は、引用で、この明細書の中に組み込まれている。
【0036】
クライアント−サーバをベースとする音声合成の場合、音声のパラメータ化された表示は、無線チャンネル105と、無線データ・トランシーバ203と、またプロトコル処理ブロック306を経由する通信網から受信され、それから、音声のパラメータ化された表示は、第5パス313を経由して、音声合成バック−エンドに送られる。ローカルの音声合成の場合は、アプリケーション307は、喋られるテキストのストリングを生成する。テキスト・ストリングは、プロトコル処理ブロック306を通過してから、第6パス314を経由して、ローカルの音声合成装置305に送られる。音声合成装置305は、テキスト・ストリングを、音声信号のパラメータ化された表示に転換してから、パラメータ化された表示を、第7パス315を経由して、音声合成バック−エンド304に送って、音声信号に転換する。
【0037】
受信データ接続線231を、音声合成情報以外の受信された情報を、更に転送するのに使用できることに留意しなければならない。例えば、音声合成情報以外の情報を、インフラストラクチャから受信されたデータ(表示情報の様な)あるいは制御情報あるいはその双方と、またシステムにダウンロードされるべきコードを備えるものとすることができる。同様に、送信データ接続線232を、音声認識フロント−エンド302により計算されたパラメータ・ベクトル以外の送信情報を転送するのに使用できる。例えば、他の送信情報を、デバイス状態情報と、デバイスの容量と、またバージインのタイミングに関する情報を備えるものとすることができる。
【0038】
ここで、図4を引用して、音声認識サーバのハードウエアの実施例が示されており、実施例には、本発明に係るクライアント−サーバ音声認識及び合成システムのサーバ部分が設けられている。図1に関連して前記で説明されているとおり、サーバを、複数の環境の中で設置させることができる。インフラストラクチャあるいは通信網接続線411を経由して、加入者ユニットあるいは制御エンティティとのデータ通信を行うことができる。図1の中で示されているとおり、接続線411を、例えば無線システム内に限定して、無線通信網に直接接続させることができる。また、接続線411を、公衆あるいは専用通信網、あるいは、他のデータ通信リンクとすることができるが、本発明は、この面に限定されない。
【0039】
通信網インターフェース405は、CPU401と通信網接続線との間の接続性を提供する。通信網インターフェース405は、通信網411からのデータを、受信パス408を経由して、CPU401に向けて送り、送信パス410を経由してCPU401から通信網接続線411に向けて送る。クライアント−サーバ構成の一部として、CPU401は、通信網インターフェースと通信網接続線411を経由して、1個あるいはそれ以上のクライアントと通信する(好ましくは、加入者ユニットの中で実行される)。好ましい実施例の中で、CPU401は、クライアント−サーバ音声認識及び合成システムのサーバ部分を実行する。図示されていないが、図4の中のサーバを、加入者ユニットの中のインターフェースを備えるものとして、サーバへの装置内のアクセスを行って、例えばサーバの保守と、状態の点検と他の同様の機能を容易にすることができる。
【0040】
メモリー403は、マシンで読み取り可能な命令(ソフトウエア)と、また、クライアント−サーバ構成のサーバ部分を実施するのに当たって、CPU401による実行と使用のためのプログラム・データを保存する。ソフトウエアの動作と構造は、図5を引用して説明される。
【0041】
図5は、音声認識及び合成サーバ機能を示している。少なくとも1個の音声認識クライアントと協働して、図5の中に示されている音声認識サーバの機能は、音声認識エレメントを提供する。加入者ユニットからのデータは、受信パス408を経由して、受信機(RX)502の所に到達する。受信機は、データを復号してから、音声認識データ503を、音声認識クライアントから音声認識分析装置504に向ける。デバイスの状態情報と、デバイスの容量、とバージインコンテキストに関する情報の様な、加入者ユニットからの他の情報506は、受信機502により、ローカルの制御プロセッサ508に向けられる。一つの実施例の中で、他の情報506は、音声認識エレメント(例えば、音声認識クライアント)の一部が動作した加入者ユニットからの表示を備える。表示を、音声認識サーバの中の音声認識処理を開始させるのに使用することができる。
【0042】
クライアント−サーバ構成の一部として、音声認識分析装置504は、加入者ユニットから音声認識パラメータ・ベクトルを取り込んでから、認識処理を完了する。認識された単語あるいは発話507は、それから、ローカルの制御プロセッサ508に送られる。パラメータ・ベクトルを認識された発話に転換するのに必要な処理の説明は、1988年の、“自動音声認識:スフィンクス・システム”の中で見ることができ、刊行物の教示事項は、引用でこの明細書の中に組み込まれている。
【0043】
ローカルの制御プロセッサ508は、音声認識分析装置504と、また他の情報508から認識された発話507を受信する。一般的に、本発明には、認識された発話を受信したら直ちに動作し、認識された発話が、制御信号を提供する制御プロセッサが必要である。好ましい実施例の中で、諸制御信号が、使用されて、次の加入者ユニット、あるいは加入者ユニットに接続されている少なくとも1個のデバイスの動作を制御する。目的のために、ローカルの制御プロセッサを、好ましくは1個あるいはそれ以上の方法で動作するようになっていることが好ましい。第1に、ローカルの制御プロセッサ508が、アプリケーション・プログラムを実行することができる。一般的なアプリケーションの一つの例は、米国特許5,652,789の中で説明されているとおりの電子案内台である。また、アプリケーションを、遠隔操作プロセッサ516上で操作できる。例えば、図1のシステムの中で、遠隔操作プロセッサは、制御エンティティ116を備える。この場合、ローカルの制御プロセッサ508は、データ通信網接続線515を経由して、遠隔操作プロセッサ516と通信することで、データを通過させてから受信するゲートウェーとして動作する。データ通信網接続線515を、公衆通信網(例えばインターネット)や、専用通信網(例えば、イントラネット)、あるいは他の一部のデータ通信リンクとすることができる。事実、ローカルの制御プロセッサ508は、ユーザーにより使用されるアプリケーション/サービス次第で、データ通信網上に設置される種々の遠隔操作プロセッサと通信できる。
【0044】
遠隔操作プロセッサ516あるいはローカルの制御プロセッサ508の何れかを実行させるアプリケーション・プログラムは、認識された発話507あるいは他の情報506あるいはその双方に対する応答を決定する。好ましくは、応答を、合成されたメッセージあるいは、制御信号あるいはその双方を備えるものとすることができることが好ましい。制御信号513は、ローカルの制御プロセッサ508から、送信機(TX)510に中継される。一般的にテキスト情報に合成される情報514は、ローカルの制御プロセッサ508から、テキストから音声への分析装置512に送られる。テキストから音声への分析装置512は、入力テキスト・ストリングを、パラメータ化された音声表示に転換する。前記に転換を実行するのに適切な技術は、1997年の、Sproat(編集者)の“多言語テキストから音声の合成:ベル社の取り組み”の中に説明されており、刊行物の教示事項は、引用により、この明細書の中に組み込まれている。テキストから音声への分析装置512からのパラメータ化された音声表示511は、必要に応じて多重化する送信機510に、パラメータ化された音声表示511と制御情報513は、送信パス410上で加入者ユニットに提供される。前記で説明されたものと同じ方法で操作して、テキストから音声への分析装置512を使用して、合成されたプロンプトを提供するか、あるいは同様に、加入者ユニットの所での出力音声信号としての役割を果たさせることができる。
【0045】
ここで、図6を引用して、本発明に係る音声認識サーバの動作を説明するフローチャートが示されている。ステップ601の所で、音声認識サーバは、加入者ユニットからパラメータ化された音声信号を受信する。実用面では、音声認識サーバは、単独の加入者ユニットからのパラメータ化された音声信号を処理する性能を有しており、利用可能な処理と通信資源によってのみ制約される。ステップ602の所で、音声認識サーバは、パラメータ化された音声信号を受信したら、直ちに音声認識分析を実行する。良好な環境を仮定して、音声認識分析は、パラメータ化された信号の中で検出された認識された発話に関する情報を提供する。
【0046】
前記で指摘されているとおり、本発明の意味での情報信号を、加入者ユニットあるいは加入者ユニットに接続されているデバイスにより操作されるデータ信号か、あるいは加入者ユニットあるいは装置に連動するデバイスの動作操作に使用できる制御信号を備えるものとすることができる。認識された発話に応答する情報信号を提供するために、認識された発話を、1個あるいは2個の方法で処理することができる。ステップ603と604により示されている第1の方法に従って、音声認識サーバ(例えば、ローカルの制御プロセッサ508を経由して)は、初めに認識された発話をベースとする情報信号を決定する。例えば、作用を、ルックアップ−テーブル(表引きテーブル)や、パターン整合や同様の機構あるいはその双方の使用を通して実施して、特定の認識された発話あるいは発話のストリングを1個あるいはそれ以上の予め設定された情報信号と相関関係を持たせることができる。例えば、認識された発話が、一部の関係者の電話番号に関する問い合わせを備える場合は、応答に当たって提供される情報信号は、名前により索引が付けられている電話番号のデータベースで確かめられた前者の関係者の電話番号を備えるものとすることができる。もう一つの例として、認識された発話が、指名された当事者との通話を確立するための命令を備える場合は、情報信号を、データベースから決定されたとおりの関連する当事者の電話番号と、更にコマンドの内容により索引が付けられたもう一つのデータベースにより決定されたとおりの加入者ユニットに命令して当事者の電話番号にダイヤルする制御信号を備えるものとすることができる。当業者であれば、多数の同様のシナリオを容易に見つけ出すことができる。使用される方法の如何を問わず、音声認識サーバは、次に作用の結果生じた情報信号を加入者ユニットに提供する。
【0047】
第2の方法の中で、音声認識サーバは、如何なる制御信号をも直接決定するのではなく、認識された発話に関する情報を、制御エンティティあるいは遠隔操作制御プロセッサ605に提供する。この方法で、制御エンティティあるいは遠隔操作制御プロセッサは、ステップ603に関して説明されているとおり、同じ処理を実行することができる。実行の後で、制御エンティティあるいは遠隔操作制御プロセッサは、情報信号を、直接加入者ユニットに向ける。使用される方法の如何を問わず、本発明の音声認識サーバは、無線通信システムの中の加入者ユニットに対する、情報信号の提供を容易にする。
【0048】
オプションとしてのステップ606と607は、また図6の中に示されており、追加のユーザーに入力に応答する音声認識サーバ(あるいは連動する制御エンティティ)の操作を説明している。即ち、ステップ606の所で、情報信号に応答して提供されたユーザーのデータは、加入者ユニットから受信される。この意味で、“ユーザーのデータ”は、パラメータ化された音声信号のみならず、例えばDTMF(プッシュホンの二重トーン多重周波数)トーンの様な他の入力データを備えるものとすることができる。例えば、ユーザーが、当初から当事者の電話番号を名前で要求した場合に、このシナリオを、起こさせることができる。しかし、同じ名前を有する複数の当事者が理由で不明確さが存在する場合は、指で触れるトーンパッド(即ち、DTMFトーンを使用して)使用を通じて、あるいは当事者の一つの名前に応答することで、応答で提供される情報信号が、一人の当事者を選択するようにユーザーに求めるようにすることができる。この場合の特定の当事者を選択するデータは、ユーザーのデータとなる。ここでも、この機能にまたがる広範な状態は、この明細書の読者にとって自明の理である。ユーザーのデータに応答するのに当たって、また、データあるいは制御あるいはその双方の信号を備える追加の情報信号を、ステップ607の所で提供することができる。この例に関して、追加の情報信号は、当事者により選択された電話番号と、場合によっては加入者ユニットに電話番号をダイヤルするように命令する制御信号を備えるはずである。
【0049】
ここで、図7を引用して、本発明に係る加入者ユニットの動作を説明するフローチャートが示されている。ステップ701の所で、加入者ユニットは、符号化されていない音声信号を受信する。好ましくは、符号化されていない音声信号は、次の処理の前に、デジタル表示あるいはデジタル表示に転換されていることが好ましい。ステップ702の所で、前記で説明された技術に従って、符号化されていない音声信号は、パラメータ化された音声信号を提供するために分析される。パラメータ化された音声信号は、それから、ステップ703の所で、音声認識サーバに転送され、この場合に、図6の中で示された処理ステップと、またこの説明に従って、情報信号は可能であれば確かめられる。
【0050】
ステップ704の所で、加入者ユニットは、もしあれば、パラメータ化された音声信号に基づく情報信号を受信する。従って、ステップ705と706の所で、情報信号は、加入者ユニットにより操作されるか、自動車に搭載されている場合の様に、加入者ユニット自身あるいは加入者ユニットに連結されている全てのデバイスの動作を制御するために使用される。情報信号が、データを備える場合に、このデータを使用して、加入者ユニットの所で生成することができることに留意しなければならない。例えば、インフラストラクチャからの電話番号の受信を使用して、加入者ユニットに電話番号をダイヤルすることを命令する制御信号を発起させることができる。また、音声によるプロンプトの受信で、進行している音声入力の音量を減らしたり、前部弱めたり加入者ユニットに接続されているステレオを命令する制御信号の生成を行わせることができる。この機能を組み込んだ他の例は、自明の理である。
【0051】
更に、オプションとしてのステップ707と708は、前記で説明されたステップ606と607に対応し、また補完である。特に、ステップ707の所で、加入者ユニットは、ユーザーのデータをインフラストラクチャ(即ち、音声認識サーバあるいは制御エンティティあるいはその双方)に提供する。ここでも、ステップ707の所で提供されるユーザーのデータは、以前に受信された情報信号に応答する。ステップ708の所で、加入者ユニットは、インフラストラクチャからのデータあるいは制御信号あるいはその双方を備える追加の情報信号を受信し、制御信号は、加入者ユニットにより操作されるか、あるいは加入者ユニットあるいは加入者ユニットに接続されているデバイスを制御するために使用される。
【0052】
前記に説明された本発明は、無線通信システムの中の制御信号を加入者ユニットに提供するための独特の技術を提供する。クライアント−サーバ音声認識構成に基づいて、本発明は、加入者ユニットに情報信号を供給するための効率的な方法を提供する。従って、本発明を、サービスを可能とするのに使用することができる。前記で説明されたことは、単に本発明の原理の応用の例示である。当業者であれば、本発明の精神と範囲を逸脱することなく、他の構成と方法を実行できる。
【図面の簡単な説明】
【図1】 本発明に係る無線通信システムのブロック図である。
【図2】 本発明に係る加入者ユニットのブロック図である。
【図3】 本発明に係る加入者ユニットの中の音声とデータ処理機能の略図である。
【図4】 本発明に係る音声認識サーバのブロック図である。
【図5】 本発明に係る音声認識サーバの中の音声とデータ処理機能の略図である。
【図6】 本発明に係る音声認識サーバの動作を示すフローチャートである。
【図7】 本発明に係る加入者ユニットの動作を示すフローチャートである。
【図1】
113 無線網
115 音声認識サーバ
116 制御エンティティ
118 POTS
122 コンピュータ
123 音声認識サーバ
132 音声認識サーバ
142 セキュリティ・ゲートウエイ
143 音声認識サーバ
144 コンピュータ
145 音声認識サーバ
【図2】
201 CPU
202 DSP
203 無線データ・トランシーバ
204 無線音声トランシーバ
206 GPS受信機
209a−n デバイス
240 メモリー
241 メモリー
250 入力
255 表示器
【図3】
301 エコーキャンセル及び環境処理
302 音声認識フロント・エンド
303 ローカル音声認識
304 音声合成バック・エンド
305 ローカル音声合成
306 音声アプリケーション・プロトコルインターフェース/データプロトコル
307 アプリケーション
TO SPEAKER スピーカーへ
FROM MICROPHONE マイクから
FROM VOICE RECEIVE 受信された音声から
TO VOICE TRANSMIT 音声送信へ
TO DATA TRANSMIT データ送信へ
FROM DATA RECEI
VE 受信されたデータから
【図4】
401 CPU
403 メモリー
405 通信網インターフェース
【図5】
502 受信機
504 音声認識分析装置
508 ローカルの制御プロセッシング
510 送信機
512 テキストから音声への分析装置
516 遠隔操作プロセッシング
【図6】
SERVER サーバ
601 パラメータ化された音声信号の受信
602 音声認識分析の実行
603 認識された発話を基礎とする情報信号の決定
604 情報信号を加入者ユニットに提供
605 認識された発話に関する情報を制御エンティティへの提供
606 ユーザーのデータの受信
607 追加の情報信号の提供
【図7】
SUBSCRIBER 加入者
701 符号化されていない音声信号の受信
702 符号化されていない音声信号を分析して、パラメータ化された音声信号の提供
703 パラメータ化された音声信号の送信
704 情報信号の受信
705 加入者ユニット、デバイスあるいはその双方の制御
706 受信されたデータによる操作
707 ユーザーのデータの提供
708 追加の信号の受信

Claims (44)

  1. 1つ以上の加入者ユニットと無線通信するインフラストラクチャの一部を形成する音声認識サーバにおいて、前記の1つ以上の加入者ユニットがそれぞれ音声認識クライアントを備え、前記の1つ以上の加入者ユニットに情報信号を供給する方法であって、
    前記の加入者ユニットからパラメータで表示された音声信号を受信するステップと、
    認識された発話を供給するために、前記のパラメータで表示された音声信号の音声認識分析を行うステップと、
    前記の認識された発話に応答して、情報信号を加入者ユニットに供給するステップと
    前記の情報信号に応答して前記の加入者ユニットからユーザーのデータを受信するステップと、
    前記のユーザーのデータに応答して、前記の加入者ユニットに付加情報信号を供給するステップとを備え、
    前記の加入者ユニットが、少なくとも1つのデバイスに結合され、
    前記の情報信号を加入者ユニットに供給するステップが、前記の少なくとも1つのデバイスに前記の情報信号を向けるステップをさらに備え、
    前記の少なくとも1つのデバイスが、前記の情報信号に基づいて動作する
    ことを特徴とする加入者ユニットに情報信号を供給する方法。
  2. 前記の音声認識クライアントが、前記の加入者ユニットへの符号化されていない音声信号に基づいて、パラメータで表示された音声信号を供給する、請求項1に記載の方法。
  3. 前記の情報信号を加入者ユニットに供給するステップが、
    前記の加入者ユニットに前記の情報信号を向けるステップをさらに備え、
    前記の情報信号が加入者ユニットの動作を制御する、請求項1に記載の方法。
  4. 前記の加入者ユニットが、少なくとも1つのデバイスに結合され、
    前記の情報信号を加入者ユニットに供給するステップが、
    前記の少なくとも1つのデバイスに情報信号を向けるステップをさらに備え、前記の情報信号が前記の少なくとも1つのデバイスの動作を制御する、請求項1に記載の方法。
  5. 前記の情報信号を加入者ユニットに供給するステップが、
    前記の加入者ユニットに前記の情報信号を向けるステップをさらに備え、
    前記の加入者ユニットが、前記の情報信号に基づいて動作する、請求項1に記載の方法。
  6. 前記の情報信号に応答して前記の加入者ユニットからユーザーのデータを受信するステップと、
    前記のユーザーのデータに応答して、前記の加入者ユニットに付加情報信号を供給するステップとをさらに備える、請求項5に記載の方法。
  7. 請求項1に記載のステップを行うコンピュータ実行可能命令を有する、コンピュータ読取り可能媒体。
  8. 1つ以上の加入者ユニットと無線通信するインフラストラクチャの一部を形成する音声認識サーバにおいて、1つ以上の加入者ユニットがそれぞれ音声認識クライアントを備え、1つ以上の加入者ユニットに情報信号を供給する方法であって、
    前記の加入者ユニットからパラメータで表示された音声信号を受信するステップと、
    認識された発話を供給するために、前記のパラメータで表示された音声信号の音声認識分析を行うステップと、
    前記の認識された発話に関する情報を、前記のインフラストラクチャの一部を形成する制御エンティティに供給するステップと、
    前記の制御エンティティが、前記の認識された発話に関する情報に基づいて、前記の加入者ユニットに情報信号を供給するステップと、
    前記の情報信号に応答して前記の加入者ユニットからユーザーのデータを受信するステップと、
    前記のユーザーのデータに応答して、前記の加入者ユニットに付加情報信号を供給するステップとを備え、
    前記の加入者ユニットが、少なくとも1つのデバイスに結合され、
    前記の加入者ユニットに情報信号を供給するステップが、前記の少なくとも1つのデバイスに前記の情報信号を向けるステップをさらに備え、
    前記の少なくとも1つのデバイスが、前記の情報信号に基づいて動作する
    ことを特徴とする加入者ユニットに情報信号を供給する方法。
  9. 前記の音声認識クライアントが、前記の加入者ユニットへの符号化されていない音声信号入力に基づいて、パラメータで表示された音声信号を供給する、請求項6に記載の方法。
  10. 請求項6に記載のステップを行うコンピュータ実行可能命令を有する、コンピュータ読取り可能媒体。
  11. インフラストラクチャと無線通信する加入者ユニットにおいて、加入者ユニットが音声認識クライアントを備え、インフラストラクチャが音声認識サーバを備え、加入者ユニットに情報信号を提供する方法であって、
    前記の音声認識クライアントにより、符号化されていない音声信号を受信するステップと、
    パラメータで表示された音声信号を供給するために、前記の音声認識クライアントにより前記の符号化されていない音声信号を分析するステップと、
    前記の加入者ユニットにより、前記の音声認識サーバにパラメータで表示された音声信号を送信するステップと、
    前記の加入者ユニットにより、前記のインフラストラクチャから、前記のパラメータで表示された音声信号をベースとする情報信号を受信するステップと、
    前記の情報信号に応答してユーザーのデータを前記のインフラストラクチャに提供するステップと、
    前記のユーザーのデータに応答して、前記のインフラストラクチャから追加信号を受信するステップとを備え、
    前記の加入者ユニットが、少なくとも1個のデバイスに結合され、
    前記の少なくとも1個のデバイスが、前記の情報信号に基づいて動作する
    ことを特徴とする、前記の加入者ユニットに情報信号を提供する方法。
  12. 前記の情報信号を使用して、前記の加入者ユニットの動作を制御することを特徴とする、請求項11に記載されている方法。
  13. 前記の情報信号をベースとして、前記の加入者ユニットの中で制御信号を生成して、前記の加入者ユニットおよび前記の少なくとも1個のデバイスのうちいずれかを制御するステップをさらに備えることを特徴とする、請求項11に記載されている方法。
  14. 前記の情報信号を使用して、前記の少なくとも1個のデバイスを制御するステップさらに備えることを特徴とする、請求項11に記載されている方法。
  15. 前記の加入者ユニットが、自動車をベースとする通信パスを経由し、前記の少なくとも1個のデバイスに接続され、また前記の情報信号が、前記の自動車をベースとする通信パスを経由して、前記の少なくとも1個のデバイスに提供されることを特徴とする、請求項14に記載されている方法。
  16. 前記の情報信号に基づき動作するステップをさらに備えることを特徴とする、請求項11に記載されている方法。
  17. 前記の情報信号に応答してユーザーのデータを前記のインフラストラクチャに提供するステップと、
    前記のユーザーのデータに応答して、前記のインフラストラクチャから追加信号を受信するステップとをさらに備えることを特徴とする、請求項16に記載されている方法。
  18. 前記の情報信号が、前記の音声認識サーバにより提供されることを特徴とする、請求項11に記載されている方法。
  19. 前記の情報信号が、前記のインフラストラクチャの一部を形成しまた前記の音声認識サーバに接続されている前記の制御エンティティにより提供されることを特徴とする、請求項11に記載されている方法。
  20. コンピュータで実行可能な請求項11に記載されている方法を実行するための命令を有するコンピュータ読取り可能媒体
  21. 音声認識サーバを備えるインフラストラクチャと無線で通信する1個あるいはそれ以上の加入者ユニットを備える無線通信システムの中で、前記の1個あるいはそれ以上の加入者ユニットの各々が、音声認識クライアントから成り、前記の1個あるいはそれ以上の加入者ユニットに情報信号を提供する方法において、
    前記の音声認識クライアント、符号化されていない音声信号を受信するステップと、
    前記の音声認識クライアント、前記の符号化されていない音声信号を分析して、パラメータ化された音声信号を提供するステップと、
    前記の加入者ユニット、前記のパラメータ化された音声信号を、前記の音声認識サーバに送信するステップと、
    前記の音声認識サーバ、パラメータ化された音声信号の音声認識分析を実行して、認識された発話を提供するステップと
    前記の認識された発話に応答して、前記のインフラストラクチャ、前記の情報信号を前記の加入者ユニットに提供するステップと、
    前記のインフラストラクチャが、前記の加入者ユニットからの情報信号に応答して、ユーザーのデータを受信するステップと、
    前記のインフラストラクチャが、前記のユーザーのデータに応答して追加情報を前記の加入者ユニットに提供するステップとを備え、
    前記の加入者ユニットが、少なくとも1つのデバイスに結合され、
    前記の情報信号を前記の加入者ユニットに提供するステップが、前記の少なくとも1つのデバイスに前記の情報信号を向けるステップをさらに備え、
    前記の少なくとも1つのデバイスが、前記の情報信号に基づいて動作する
    ことを特徴とする前記の1個あるいはそれ以上の加入者ユニットに情報信号を提供する方法。
  22. 記の情報信号をベースとして、前記の加入者ユニットの中で制御信号を生成して、前記の加入者ユニットおよび前記の少なくとも1個のデバイスのうちいずれかを制御するステップをさらに備えることを特徴とする、請求項21に記載されている方法。
  23. 前記の加入者ユニットに情報信号を向けるステップをさらに備え、
    前記の情報信号が前記の加入者ユニットの動作を制御することを特徴とする、請求項21に記載されている方法。
  24. 前記の加入者ユニットが、少なくとも1つのデバイスに結合され、
    前記の情報信号を前記の加入者ユニットに提供するステップが、
    前記の少なくとも1つのデバイスに情報信号を向けるステップをさらに備え、前記の情報信号が少なくとも1つのデバイスの動作を制御することを特徴とする、請求項21に記載されている方法。
  25. 前記の加入者ユニットが、自動車をベースとする通信パスを経由し、前記の少なくとも1個のデバイスに接続され、また前記の情報信号が、前記の自動車をベースとする通信パスを経由して、前記の少なくとも1個のデバイスに提供されることを特徴とする、請求項24に記載されている方法。
  26. 前記の加入者ユニットに情報信号を向けるステップをさらに備え、
    前記の加入者ユニットが、前記の情報信号に基づいて動作することを特徴とする、請求項21に記載されている方法。
  27. 前記のインフラストラクチャにより、前記の加入者ユニットからの前記の情報信号に応答して、ユーザーのデータを受信するステップと、
    前記のインフラストラクチャにより、前記のユーザーのデータに応答して追加情報を前記の加入者ユニットに提供するステップとを備えることを特徴とする、請求項26に記載されている方法。
  28. 前記の情報信号が、前記の音声認識サーバにより提供されることを特徴とする、請求項21に記載されている方法。
  29. 前記の情報信号が、前記のインフラストラクチャの一部を形成しまた前記の音声認識サーバに接続されている制御エンティティにより提供されることを特徴とする、請求項21に記載されている方法。
  30. コンピュータで実行可能な請求項21に記載されている方法を実行するための命令を有するコンピュータ読取り可能媒体
  31. 無線通信システムのインフラストラクチャの中で使用される音声認識サーバであって、前記のインフラストラクチャが、無線で1個あるいはそれ以上の加入者ユニットと通信する音声認識サーバにおいて、
    パラメータ化された音声信号に関する入力信号を取り込んでから、パラメータ化された音声信号を出力として提供する受信機と、
    前記の受信機に接続され、前記のパラメータ化された音声信号上で音声認識分析を実行して、認識された発話を提供する音声認識分析装置と、
    入力として前記の認識された発話を取り込んでから、前記の認識された発話をベースとした情報信号を提供する制御プロセッサと、
    前記の制御プロセッサに接続されており、また前記の認識された発話関する情報を、前記のインフラストラクチャの一部を形成する制御エンティティに提供する送信器を備え、
    前記の受信機が、前記のパラメータ化された音声信号に関する入力信号以外の他の情報を、前記の制御プロセッサに供給し、
    前記の制御エンティティが、前記の認識された発話に関する情報をベースとする情報を1個あるいはそれ以上の加入者ユニットに提供するものであることを特徴とする音声認識サーバ。
  32. ーザーの作業場と、企業の通信網と、公衆回線を備える場所のグループの何れか一つの中に常駐していることを特徴とする請求項31に記載されている音声認識サーバ。
  33. 無線で1個あるいはそれ以上の加入者ユニットと通信するインフラストラクチャの中で使用される音声認識サーバであって
    パラメータ化された音声信号に関する入力信号を取り込んでから、パラメータ化された音声信号を出力として提供する受信機と、
    前記の受信機に接続され、前記のパラメータ化された音声信号上で音声認識分析を実行して、認識された発話を提供する音声認識分析装置と、
    入力として前記の認識された発話を取り込んでから、前記の認識された発話をベースとしたテキスト情報および制御信号を提供する制御プロセッサと、
    前記の制御プロセッサに接続され、前記のテキスト情報をパラメータ化された音声表示に転換する、テキストから音声への分析装置と、
    前記のパラメータ化された音声表示および前記の制御信号前記の1個あるいはそれ以上の加入者ユニットに提供する、前記の制御プロセッサおよび前記のテキストから音声への分析装置に接続されている送信機を備えることを特徴とする、音声認識サーバ。
  34. ーザーの作業場と、企業の通信網と、公衆回線を備える場所のグループの何れか一つの中に常駐していることを特徴とする請求項33に記載されている音声認識サーバ。
  35. 無線でインフラストラクチャと通信する加入者ユニットにおいて、
    符号化されていない音声信号を入力として取り込んでから、前記の符号化されていない音声信号を分析して、パラメータ化された音声信号を提供する音声認識クライアントと、
    無線で、前記のパラメータ化された音声信号を前記のインフラストラクチャに伝える、前記の音声認識クライアントに接続されている送信機と、
    前記のパラメータ化された音声信号をベースとする情報信号を入力信号として取り込んでから、前記の情報信号を出力として提供する受信機と、
    インターラプト表示を発生させる入力デバイスと、
    前記の音声認識クライアントに接続され、前記のインターラプト表示の有無を識別する検出装置とを備え、
    前記の検出装置が前記のインターラプト表示を検出したのち前記の音声認識クライアントが作動し、音声処理が開始される
    ことを特徴とする加入者ユニット。
  36. なくとも1個のデバイスと前記の受信機とを接続する接続手段をさらに備え、
    前記の情報信号が、前記の少なくとも1個のデバイスの動作を制御するために使用されるものであることを特徴とする、請求項35に記載されている加入者ユニット。
  37. 前記の接続手段が、自動車をベースとする通信パスを備えることを特徴とする、請求項36に記載されている加入者ユニット。
  38. 前記の情報信号が、加入者ユニットの動作を制御するために使用されるものであることを特徴とする、請求項35に記載されている加入者ユニット。
  39. 加入者ユニットおよび前記の少なくとも1個のデバイスのうちいずれかを制御するための制御信号を前記の情報信号に基づいて生成する制御信号生成手段をさらに備えることを特徴とする、請求項35に記載されている加入者ユニット。
  40. 前記の情報信号に基づき加入者ユニットが動作することを特徴とする、請求項35に記載されている加入者ユニット。
  41. 前記の送信機が、更に、前記の情報信号に応答してユーザーのデータを前記のインフラストラクチャに提供するように機能し、
    前記の受信機が、更に、前記のユーザーのデータに応答して、前記のインフラストラクチャから追加の情報を受信するように機能することを特徴とする、請求項40に記載されている加入者ユニット。
  42. なくとも1個のデバイスと前記の受信機とを接続する接続手段をさらに備え、
    前記の少なくとも1個のデバイスが、前記の情報信号に基づき動作するものであることを特徴とする、請求項35に記載されている加入者ユニット。
  43. 前記の送信機が、更に、前記の情報信号に応答してユーザーのデータを前記のインフラストラクチャに提供するように機能し、
    前記の受信機が、更に、前記のユーザーのデータに応答して、前記のインフラストラクチャから追加の情報を受信するように機能することを特徴とする、請求項42に記載されている加入者ユニット。
  44. 前記の接続手段が、自動車ベースとする通信パスを備えることを特徴とする、請求項42に記載されている加入者ユニット。
JP2001529187A 1999-10-05 2000-10-04 音声認識に基づく情報信号の供給する方法および装置 Expired - Lifetime JP4212809B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US09/412,119 US6868385B1 (en) 1999-10-05 1999-10-05 Method and apparatus for the provision of information signals based upon speech recognition
US09/412,119 1999-10-05
PCT/US2000/027268 WO2001026349A1 (en) 1999-10-05 2000-10-04 Method and apparatus for the provision of information signals based upon speech recognition

Publications (2)

Publication Number Publication Date
JP2003511914A JP2003511914A (ja) 2003-03-25
JP4212809B2 true JP4212809B2 (ja) 2009-01-21

Family

ID=23631673

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001529187A Expired - Lifetime JP4212809B2 (ja) 1999-10-05 2000-10-04 音声認識に基づく情報信号の供給する方法および装置

Country Status (6)

Country Link
US (3) US6868385B1 (ja)
JP (1) JP4212809B2 (ja)
KR (1) KR20020064792A (ja)
CN (1) CN100530355C (ja)
AU (1) AU7750700A (ja)
WO (1) WO2001026349A1 (ja)

Families Citing this family (185)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6868385B1 (en) * 1999-10-05 2005-03-15 Yomobile, Inc. Method and apparatus for the provision of information signals based upon speech recognition
US8645137B2 (en) 2000-03-16 2014-02-04 Apple Inc. Fast, language-independent method for user authentication by voice
AUPQ724600A0 (en) * 2000-05-02 2000-05-25 Rojone Pty Limited Personal monitoring system
EP1168737B8 (en) * 2000-06-30 2010-03-10 Alcatel Lucent Telecommunication system, and switch, and server, and method
US6944591B1 (en) * 2000-07-27 2005-09-13 International Business Machines Corporation Audio support system for controlling an e-mail system in a remote computer
US7233903B2 (en) * 2001-03-26 2007-06-19 International Business Machines Corporation Systems and methods for marking and later identifying barcoded items using speech
US7406421B2 (en) 2001-10-26 2008-07-29 Intellisist Inc. Systems and methods for reviewing informational content in a vehicle
US6885735B2 (en) * 2001-03-29 2005-04-26 Intellisist, Llc System and method for transmitting voice input from a remote location over a wireless data channel
JP3932281B2 (ja) * 2001-04-19 2007-06-20 秀樹 室屋 無線リンクを用いた機器相互接続装置及び方法、機器相互接続用利用シーンテーブル作成方法並びに記録媒体
US7941313B2 (en) * 2001-05-17 2011-05-10 Qualcomm Incorporated System and method for transmitting speech activity information ahead of speech features in a distributed voice recognition system
GB0113583D0 (en) * 2001-06-04 2001-07-25 Hewlett Packard Co Speech system barge-in control
US7203643B2 (en) * 2001-06-14 2007-04-10 Qualcomm Incorporated Method and apparatus for transmitting speech activity in distributed voice recognition systems
US20030033144A1 (en) * 2001-08-08 2003-02-13 Apple Computer, Inc. Integrated sound input system
US20030061049A1 (en) * 2001-08-30 2003-03-27 Clarity, Llc Synthesized speech intelligibility enhancement through environment awareness
US7336602B2 (en) * 2002-01-29 2008-02-26 Intel Corporation Apparatus and method for wireless/wired communications interface
US8249880B2 (en) * 2002-02-14 2012-08-21 Intellisist, Inc. Real-time display of system instructions
US7254708B2 (en) * 2002-03-05 2007-08-07 Intel Corporation Apparatus and method for wireless device set-up and authentication using audio authentication—information
US7398209B2 (en) * 2002-06-03 2008-07-08 Voicebox Technologies, Inc. Systems and methods for responding to natural language speech utterance
CN100496067C (zh) * 2002-07-02 2009-06-03 诺基亚有限公司 通过语音识别操作数据记录的方法和通信设备
US7693720B2 (en) * 2002-07-15 2010-04-06 Voicebox Technologies, Inc. Mobile systems and methods for responding to natural language speech utterance
US20040267534A1 (en) * 2003-06-27 2004-12-30 General Motors Corporation Selective vehicle component control
US20080249779A1 (en) * 2003-06-30 2008-10-09 Marcus Hennecke Speech dialog system
US20050193092A1 (en) * 2003-12-19 2005-09-01 General Motors Corporation Method and system for controlling an in-vehicle CD player
US9224394B2 (en) 2009-03-24 2015-12-29 Sirius Xm Connected Vehicle Services Inc Service oriented speech recognition for in-vehicle automated interaction and in-vehicle user interfaces requiring minimal cognitive driver processing for same
US8275618B2 (en) * 2004-12-22 2012-09-25 Nuance Communications, Inc. Mobile dictation correction user interface
US7640160B2 (en) 2005-08-05 2009-12-29 Voicebox Technologies, Inc. Systems and methods for responding to natural language speech utterance
US7620549B2 (en) 2005-08-10 2009-11-17 Voicebox Technologies, Inc. System and method of supporting adaptive misrecognition in conversational speech
US7949529B2 (en) 2005-08-29 2011-05-24 Voicebox Technologies, Inc. Mobile systems and methods of supporting natural language human-machine interactions
US8677377B2 (en) 2005-09-08 2014-03-18 Apple Inc. Method and apparatus for building an intelligent automated assistant
US9318108B2 (en) 2010-01-18 2016-04-19 Apple Inc. Intelligent automated assistant
US8073681B2 (en) 2006-10-16 2011-12-06 Voicebox Technologies, Inc. System and method for a cooperative conversational voice user interface
US7818176B2 (en) 2007-02-06 2010-10-19 Voicebox Technologies, Inc. System and method for selecting and presenting advertisements based on natural language processing of voice-based input
US8949266B2 (en) 2007-03-07 2015-02-03 Vlingo Corporation Multiple web-based content category searching in mobile search application
US8886545B2 (en) * 2007-03-07 2014-11-11 Vlingo Corporation Dealing with switch latency in speech recognition
US8838457B2 (en) * 2007-03-07 2014-09-16 Vlingo Corporation Using results of unstructured language model based speech recognition to control a system-level function of a mobile communications facility
US8949130B2 (en) * 2007-03-07 2015-02-03 Vlingo Corporation Internal and external speech recognition use with a mobile communication facility
US8880405B2 (en) 2007-03-07 2014-11-04 Vlingo Corporation Application text entry in a mobile environment using a speech processing facility
US10056077B2 (en) 2007-03-07 2018-08-21 Nuance Communications, Inc. Using speech recognition results based on an unstructured language model with a music system
US8886540B2 (en) * 2007-03-07 2014-11-11 Vlingo Corporation Using speech recognition results based on an unstructured language model in a mobile communication facility application
US8977255B2 (en) 2007-04-03 2015-03-10 Apple Inc. Method and system for operating a multi-function portable electronic device using voice-activation
CN101030994A (zh) * 2007-04-11 2007-09-05 华为技术有限公司 语音识别方法、系统、语音识别服务器
US8112280B2 (en) * 2007-11-19 2012-02-07 Sensory, Inc. Systems and methods of performing speech recognition with barge-in for use in a bluetooth system
US8140335B2 (en) 2007-12-11 2012-03-20 Voicebox Technologies, Inc. System and method for providing a natural language voice user interface in an integrated voice navigation services environment
US9330720B2 (en) 2008-01-03 2016-05-03 Apple Inc. Methods and apparatus for altering audio output signals
US8626152B2 (en) 2008-01-31 2014-01-07 Agero Connected Sevices, Inc. Flexible telematics system and method for providing telematics to a vehicle
US20090204407A1 (en) * 2008-02-08 2009-08-13 Shields T Russell System and method for processing a spoken request from a user
US8099289B2 (en) * 2008-02-13 2012-01-17 Sensory, Inc. Voice interface and search for electronic devices including bluetooth headsets and remote systems
US8996376B2 (en) 2008-04-05 2015-03-31 Apple Inc. Intelligent text-to-speech conversion
US10496753B2 (en) 2010-01-18 2019-12-03 Apple Inc. Automatically adapting user interfaces for hands-free interaction
US9305548B2 (en) 2008-05-27 2016-04-05 Voicebox Technologies Corporation System and method for an integrated, multi-modal, multi-device natural language voice services environment
US8589161B2 (en) * 2008-05-27 2013-11-19 Voicebox Technologies, Inc. System and method for an integrated, multi-modal, multi-device natural language voice services environment
US9128981B1 (en) 2008-07-29 2015-09-08 James L. Geer Phone assisted ‘photographic memory’
US20100030549A1 (en) 2008-07-31 2010-02-04 Lee Michael M Mobile device having human language translation capability with positional feedback
US9959870B2 (en) 2008-12-11 2018-05-01 Apple Inc. Speech recognition involving a mobile device
US8326637B2 (en) 2009-02-20 2012-12-04 Voicebox Technologies, Inc. System and method for processing multi-modal device interactions in a natural language voice services environment
US9858925B2 (en) 2009-06-05 2018-01-02 Apple Inc. Using context information to facilitate processing of commands in a virtual assistant
US10241644B2 (en) 2011-06-03 2019-03-26 Apple Inc. Actionable reminder entries
US20120311585A1 (en) 2011-06-03 2012-12-06 Apple Inc. Organizing task items that represent tasks to perform
US10241752B2 (en) 2011-09-30 2019-03-26 Apple Inc. Interface for a virtual digital assistant
US9431006B2 (en) 2009-07-02 2016-08-30 Apple Inc. Methods and apparatuses for automatic speech recognition
US8892439B2 (en) * 2009-07-15 2014-11-18 Microsoft Corporation Combination and federation of local and remote speech recognition
US20110111805A1 (en) 2009-11-06 2011-05-12 Apple Inc. Synthesized audio message over communication links
US9171541B2 (en) 2009-11-10 2015-10-27 Voicebox Technologies Corporation System and method for hybrid processing in a natural language voice services environment
US10553209B2 (en) 2010-01-18 2020-02-04 Apple Inc. Systems and methods for hands-free notification summaries
US10705794B2 (en) 2010-01-18 2020-07-07 Apple Inc. Automatically adapting user interfaces for hands-free interaction
US10679605B2 (en) 2010-01-18 2020-06-09 Apple Inc. Hands-free list-reading by intelligent automated assistant
US10276170B2 (en) 2010-01-18 2019-04-30 Apple Inc. Intelligent automated assistant
DE202011111062U1 (de) 2010-01-25 2019-02-19 Newvaluexchange Ltd. Vorrichtung und System für eine Digitalkonversationsmanagementplattform
US8682667B2 (en) 2010-02-25 2014-03-25 Apple Inc. User profiling for selecting user specific voice input processing information
US10762293B2 (en) 2010-12-22 2020-09-01 Apple Inc. Using parts-of-speech tagging and named entity recognition for spelling correction
CN102685307A (zh) * 2011-03-15 2012-09-19 中兴通讯股份有限公司 命令信息处理方法、装置及系统
US9262612B2 (en) 2011-03-21 2016-02-16 Apple Inc. Device access using voice authentication
CN102143270B (zh) * 2011-04-08 2015-11-18 广东好帮手电子科技股份有限公司 一种基于蓝牙功能的手机车载电话通讯方法及设备
US8914290B2 (en) 2011-05-20 2014-12-16 Vocollect, Inc. Systems and methods for dynamically improving user intelligibility of synthesized speech in a work environment
US10057736B2 (en) 2011-06-03 2018-08-21 Apple Inc. Active transport based notifications
US8994660B2 (en) 2011-08-29 2015-03-31 Apple Inc. Text correction processing
CN103188410A (zh) * 2011-12-29 2013-07-03 上海博泰悦臻电子设备制造有限公司 语音自动应答云端服务器、系统及方法
US10134385B2 (en) 2012-03-02 2018-11-20 Apple Inc. Systems and methods for name pronunciation
US9483461B2 (en) 2012-03-06 2016-11-01 Apple Inc. Handling speech synthesis of content for multiple languages
US9280610B2 (en) 2012-05-14 2016-03-08 Apple Inc. Crowd sourcing information to fulfill user requests
US9721563B2 (en) 2012-06-08 2017-08-01 Apple Inc. Name recognition system
US9495129B2 (en) 2012-06-29 2016-11-15 Apple Inc. Device, method, and user interface for voice-activated navigation and browsing of a document
US20140006825A1 (en) * 2012-06-30 2014-01-02 David Shenhav Systems and methods to wake up a device from a power conservation state
US9576574B2 (en) 2012-09-10 2017-02-21 Apple Inc. Context-sensitive handling of interruptions by intelligent digital assistant
US9547647B2 (en) 2012-09-19 2017-01-17 Apple Inc. Voice-based media searching
KR102112742B1 (ko) * 2013-01-22 2020-05-19 삼성전자주식회사 전자장치 및 그 음성 처리 방법
BR112015018905B1 (pt) 2013-02-07 2022-02-22 Apple Inc Método de operação de recurso de ativação por voz, mídia de armazenamento legível por computador e dispositivo eletrônico
US9368114B2 (en) 2013-03-14 2016-06-14 Apple Inc. Context-sensitive handling of interruptions
KR101759009B1 (ko) 2013-03-15 2017-07-17 애플 인크. 적어도 부분적인 보이스 커맨드 시스템을 트레이닝시키는 것
WO2014144579A1 (en) 2013-03-15 2014-09-18 Apple Inc. System and method for updating an adaptive speech recognition model
KR20140127508A (ko) * 2013-04-25 2014-11-04 삼성전자주식회사 음성처리장치 및 음성처리방법
WO2014197334A2 (en) 2013-06-07 2014-12-11 Apple Inc. System and method for user-specified pronunciation of words for speech synthesis and recognition
WO2014197336A1 (en) 2013-06-07 2014-12-11 Apple Inc. System and method for detecting errors in interactions with a voice-based digital assistant
US9582608B2 (en) 2013-06-07 2017-02-28 Apple Inc. Unified ranking with entropy-weighted information for phrase-based semantic auto-completion
WO2014197335A1 (en) 2013-06-08 2014-12-11 Apple Inc. Interpreting and acting upon commands that involve sharing information with remote devices
CN105264524B (zh) 2013-06-09 2019-08-02 苹果公司 用于实现跨数字助理的两个或更多个实例的会话持续性的设备、方法、和图形用户界面
US10176167B2 (en) 2013-06-09 2019-01-08 Apple Inc. System and method for inferring user intent from speech inputs
CN105265005B (zh) 2013-06-13 2019-09-17 苹果公司 用于由语音命令发起的紧急呼叫的系统和方法
JP6163266B2 (ja) 2013-08-06 2017-07-12 アップル インコーポレイテッド リモート機器からの作動に基づくスマート応答の自動作動
CN104575494A (zh) * 2013-10-16 2015-04-29 中兴通讯股份有限公司 一种语音处理的方法和终端
US9449602B2 (en) * 2013-12-03 2016-09-20 Google Inc. Dual uplink pre-processing paths for machine and human listening
US9620105B2 (en) 2014-05-15 2017-04-11 Apple Inc. Analyzing audio input for efficient speech and music recognition
US10592095B2 (en) 2014-05-23 2020-03-17 Apple Inc. Instantaneous speaking of content on touch devices
US9502031B2 (en) 2014-05-27 2016-11-22 Apple Inc. Method for supporting dynamic grammars in WFST-based ASR
US10170123B2 (en) 2014-05-30 2019-01-01 Apple Inc. Intelligent assistant for home automation
US10289433B2 (en) 2014-05-30 2019-05-14 Apple Inc. Domain specific language for encoding assistant dialog
US9734193B2 (en) 2014-05-30 2017-08-15 Apple Inc. Determining domain salience ranking from ambiguous words in natural speech
US9760559B2 (en) 2014-05-30 2017-09-12 Apple Inc. Predictive text input
US9785630B2 (en) 2014-05-30 2017-10-10 Apple Inc. Text prediction using combined word N-gram and unigram language models
US9633004B2 (en) 2014-05-30 2017-04-25 Apple Inc. Better resolution when referencing to concepts
US9842101B2 (en) 2014-05-30 2017-12-12 Apple Inc. Predictive conversion of language input
US10078631B2 (en) 2014-05-30 2018-09-18 Apple Inc. Entropy-guided text prediction using combined word and character n-gram language models
US9430463B2 (en) 2014-05-30 2016-08-30 Apple Inc. Exemplar-based natural language processing
EP3149728B1 (en) 2014-05-30 2019-01-16 Apple Inc. Multi-command single utterance input method
US9715875B2 (en) 2014-05-30 2017-07-25 Apple Inc. Reducing the need for manual start/end-pointing and trigger phrases
US10659851B2 (en) 2014-06-30 2020-05-19 Apple Inc. Real-time digital assistant knowledge updates
US9338493B2 (en) 2014-06-30 2016-05-10 Apple Inc. Intelligent automated assistant for TV user interactions
CN104197299A (zh) * 2014-08-21 2014-12-10 浙江生辉照明有限公司 照明装置及基于该装置的语音播报系统及方法
US10446141B2 (en) 2014-08-28 2019-10-15 Apple Inc. Automatic speech recognition based on user feedback
US9818400B2 (en) 2014-09-11 2017-11-14 Apple Inc. Method and apparatus for discovering trending terms in speech requests
US10789041B2 (en) 2014-09-12 2020-09-29 Apple Inc. Dynamic thresholds for always listening speech trigger
WO2016044290A1 (en) 2014-09-16 2016-03-24 Kennewick Michael R Voice commerce
US9898459B2 (en) 2014-09-16 2018-02-20 Voicebox Technologies Corporation Integration of domain information into state transitions of a finite state transducer for natural language processing
US10127911B2 (en) 2014-09-30 2018-11-13 Apple Inc. Speaker identification and unsupervised speaker adaptation techniques
US9668121B2 (en) 2014-09-30 2017-05-30 Apple Inc. Social reminders
US9886432B2 (en) 2014-09-30 2018-02-06 Apple Inc. Parsimonious handling of word inflection via categorical stem + suffix N-gram language models
US10074360B2 (en) 2014-09-30 2018-09-11 Apple Inc. Providing an indication of the suitability of speech recognition
US9646609B2 (en) 2014-09-30 2017-05-09 Apple Inc. Caching apparatus for serving phonetic pronunciations
CN107003999B (zh) 2014-10-15 2020-08-21 声钰科技 对用户的在先自然语言输入的后续响应的系统和方法
US10614799B2 (en) 2014-11-26 2020-04-07 Voicebox Technologies Corporation System and method of providing intent predictions for an utterance prior to a system detection of an end of the utterance
US10431214B2 (en) 2014-11-26 2019-10-01 Voicebox Technologies Corporation System and method of determining a domain and/or an action related to a natural language input
US10552013B2 (en) 2014-12-02 2020-02-04 Apple Inc. Data detection
US9711141B2 (en) 2014-12-09 2017-07-18 Apple Inc. Disambiguating heteronyms in speech synthesis
US9865280B2 (en) 2015-03-06 2018-01-09 Apple Inc. Structured dictation using intelligent automated assistants
US9886953B2 (en) 2015-03-08 2018-02-06 Apple Inc. Virtual assistant activation
US10567477B2 (en) 2015-03-08 2020-02-18 Apple Inc. Virtual assistant continuity
US9721566B2 (en) 2015-03-08 2017-08-01 Apple Inc. Competing devices responding to voice triggers
US9899019B2 (en) 2015-03-18 2018-02-20 Apple Inc. Systems and methods for structured stem and suffix language models
US9842105B2 (en) 2015-04-16 2017-12-12 Apple Inc. Parsimonious continuous-space phrase representations for natural language processing
US10083688B2 (en) 2015-05-27 2018-09-25 Apple Inc. Device voice control for selecting a displayed affordance
US10127220B2 (en) 2015-06-04 2018-11-13 Apple Inc. Language identification from short strings
US9578173B2 (en) 2015-06-05 2017-02-21 Apple Inc. Virtual assistant aided communication with 3rd party service in a communication session
US10101822B2 (en) 2015-06-05 2018-10-16 Apple Inc. Language input correction
US10255907B2 (en) 2015-06-07 2019-04-09 Apple Inc. Automatic accent detection using acoustic models
US10186254B2 (en) 2015-06-07 2019-01-22 Apple Inc. Context-based endpoint detection
US11025565B2 (en) 2015-06-07 2021-06-01 Apple Inc. Personalized prediction of responses for instant messaging
US10671428B2 (en) 2015-09-08 2020-06-02 Apple Inc. Distributed personal assistant
US10747498B2 (en) 2015-09-08 2020-08-18 Apple Inc. Zero latency digital assistant
US9697820B2 (en) 2015-09-24 2017-07-04 Apple Inc. Unit-selection text-to-speech synthesis using concatenation-sensitive neural networks
US10366158B2 (en) 2015-09-29 2019-07-30 Apple Inc. Efficient word encoding for recurrent neural network language models
US11010550B2 (en) 2015-09-29 2021-05-18 Apple Inc. Unified language modeling framework for word prediction, auto-completion and auto-correction
US11587559B2 (en) 2015-09-30 2023-02-21 Apple Inc. Intelligent device identification
CN108701454B (zh) * 2015-10-21 2023-05-30 谷歌有限责任公司 对话系统中的参数收集和自动对话生成
US10691473B2 (en) 2015-11-06 2020-06-23 Apple Inc. Intelligent automated assistant in a messaging environment
US10049668B2 (en) 2015-12-02 2018-08-14 Apple Inc. Applying neural network language models to weighted finite state transducers for automatic speech recognition
US10223066B2 (en) 2015-12-23 2019-03-05 Apple Inc. Proactive assistance based on dialog communication between devices
US10446143B2 (en) 2016-03-14 2019-10-15 Apple Inc. Identification of voice inputs providing credentials
US9934775B2 (en) 2016-05-26 2018-04-03 Apple Inc. Unit-selection text-to-speech synthesis based on predicted concatenation parameters
US9972304B2 (en) 2016-06-03 2018-05-15 Apple Inc. Privacy preserving distributed evaluation framework for embedded personalized systems
US10249300B2 (en) 2016-06-06 2019-04-02 Apple Inc. Intelligent list reading
US10049663B2 (en) 2016-06-08 2018-08-14 Apple, Inc. Intelligent automated assistant for media exploration
DK179588B1 (en) 2016-06-09 2019-02-22 Apple Inc. INTELLIGENT AUTOMATED ASSISTANT IN A HOME ENVIRONMENT
US10490187B2 (en) 2016-06-10 2019-11-26 Apple Inc. Digital assistant providing automated status report
US10192552B2 (en) 2016-06-10 2019-01-29 Apple Inc. Digital assistant providing whispered speech
US10067938B2 (en) 2016-06-10 2018-09-04 Apple Inc. Multilingual word prediction
US10509862B2 (en) 2016-06-10 2019-12-17 Apple Inc. Dynamic phrase expansion of language input
US10586535B2 (en) 2016-06-10 2020-03-10 Apple Inc. Intelligent digital assistant in a multi-tasking environment
DK201670540A1 (en) 2016-06-11 2018-01-08 Apple Inc Application integration with a digital assistant
DK179415B1 (en) 2016-06-11 2018-06-14 Apple Inc Intelligent device arbitration and control
DK179343B1 (en) 2016-06-11 2018-05-14 Apple Inc Intelligent task discovery
DK179049B1 (en) 2016-06-11 2017-09-18 Apple Inc Data driven natural language event detection and classification
US10714121B2 (en) 2016-07-27 2020-07-14 Vocollect, Inc. Distinguishing user speech from background speech in speech-dense environments
WO2018023106A1 (en) 2016-07-29 2018-02-01 Erik SWART System and method of disambiguating natural language processing requests
US10057681B2 (en) 2016-08-01 2018-08-21 Bose Corporation Entertainment audio processing
US10043516B2 (en) 2016-09-23 2018-08-07 Apple Inc. Intelligent automated assistant
TWI606390B (zh) * 2016-09-23 2017-11-21 元鼎音訊股份有限公司 可自動調整聲音輸出之方法及電子裝置
US10593346B2 (en) 2016-12-22 2020-03-17 Apple Inc. Rank-reduced token representation for automatic speech recognition
DK201770439A1 (en) 2017-05-11 2018-12-13 Apple Inc. Offline personal assistant
DK179745B1 (en) 2017-05-12 2019-05-01 Apple Inc. SYNCHRONIZATION AND TASK DELEGATION OF A DIGITAL ASSISTANT
DK179496B1 (en) 2017-05-12 2019-01-15 Apple Inc. USER-SPECIFIC Acoustic Models
DK201770432A1 (en) 2017-05-15 2018-12-21 Apple Inc. Hierarchical belief states for digital assistants
DK201770431A1 (en) 2017-05-15 2018-12-20 Apple Inc. Optimizing dialogue policy decisions for digital assistants using implicit feedback
DK179549B1 (en) 2017-05-16 2019-02-12 Apple Inc. FAR-FIELD EXTENSION FOR DIGITAL ASSISTANT SERVICES
DE102017213946B4 (de) * 2017-08-10 2022-11-10 Audi Ag Verfahren zum Aufbereiten eines Erkennungsergebnisses eines automatischen Online-Spracherkenners für ein mobiles Endgerät
CN108091337A (zh) * 2017-12-29 2018-05-29 安徽创视纪科技有限公司 一种基于交互式语音云识别的密室机关控制系统

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4914692A (en) 1987-12-29 1990-04-03 At&T Bell Laboratories Automatic speech recognition using echo cancellation
US5199062A (en) * 1988-01-20 1993-03-30 Phone Base Systems Inc. Telephone communications system including a digital telephone switch, a voice response unit and a stored program sequence for controlling both the switch and the voice response unit
US5703881A (en) * 1990-12-06 1997-12-30 Hughes Electronics Multi-subscriber unit for radio communication system and method
US5155760A (en) 1991-06-26 1992-10-13 At&T Bell Laboratories Voice messaging system with voice activated prompt interrupt
SE9201236L (sv) * 1992-04-21 1993-04-26 Televerket Anordning vid mobila telesystem foer att moejliggoera jaemfoerelser av subjektiv samtalskvalite
US5475791A (en) 1993-08-13 1995-12-12 Voice Control Systems, Inc. Method for recognizing a spoken word in the presence of interfering speech
US5758317A (en) 1993-10-04 1998-05-26 Motorola, Inc. Method for voice-based affiliation of an operator identification code to a communication unit
US5652789A (en) 1994-09-30 1997-07-29 Wildfire Communications, Inc. Network based knowledgeable assistant
AU707122B2 (en) * 1994-10-25 1999-07-01 British Telecommunications Public Limited Company Voice-operated services
US5768308A (en) * 1994-12-19 1998-06-16 Northern Telecom Limited System for TDMA mobile-to-mobile VSELP codec bypass
US5774859A (en) * 1995-01-03 1998-06-30 Scientific-Atlanta, Inc. Information system having a speech interface
US5708704A (en) 1995-04-07 1998-01-13 Texas Instruments Incorporated Speech recognition method and system with improved voice-activated prompt interrupt capability
US5771273A (en) * 1996-02-05 1998-06-23 Bell Atlantic Network Services, Inc. Network accessed personal secretary
US5905773A (en) * 1996-03-28 1999-05-18 Northern Telecom Limited Apparatus and method for reducing speech recognition vocabulary perplexity and dynamically selecting acoustic models
US5765130A (en) 1996-05-21 1998-06-09 Applied Language Technologies, Inc. Method and apparatus for facilitating speech barge-in in connection with voice recognition systems
US5953700A (en) 1997-06-11 1999-09-14 International Business Machines Corporation Portable acoustic interface for remote access to automatic speech/speaker recognition server
US6085080A (en) * 1997-06-26 2000-07-04 Nokia Mobile Phones Limited Rejection of incoming and outgoing calls in WLL terminal
US6009383A (en) * 1997-10-30 1999-12-28 Nortel Networks Corporation Digital connection for voice activated services on wireless networks
US6868385B1 (en) * 1999-10-05 2005-03-15 Yomobile, Inc. Method and apparatus for the provision of information signals based upon speech recognition
US20020173333A1 (en) * 2001-05-18 2002-11-21 Buchholz Dale R. Method and apparatus for processing barge-in requests

Also Published As

Publication number Publication date
CN100530355C (zh) 2009-08-19
US6868385B1 (en) 2005-03-15
JP2003511914A (ja) 2003-03-25
WO2001026349A1 (en) 2001-04-12
AU7750700A (en) 2001-05-10
USRE45066E1 (en) 2014-08-05
USRE45041E1 (en) 2014-07-22
CN1408173A (zh) 2003-04-02
KR20020064792A (ko) 2002-08-09

Similar Documents

Publication Publication Date Title
JP4212809B2 (ja) 音声認識に基づく情報信号の供給する方法および装置
JP5425945B2 (ja) ローカルなインターラプト検出に基づく音声認識技術
JP5306503B2 (ja) 出力オーディオ信号が生ずる間に入力音声信号を処理する方法および装置
US7356471B2 (en) Adjusting sound characteristic of a communication network using test signal prior to providing communication to speech recognition server
CN102543077B (zh) 基于语言独立女性语音数据的男性声学模型适应方法
US6393403B1 (en) Mobile communication devices having speech recognition functionality
US6424945B1 (en) Voice packet data network browsing for mobile terminals system and method using a dual-mode wireless connection
US20020173333A1 (en) Method and apparatus for processing barge-in requests
US20050065779A1 (en) Comprehensive multiple feature telematics system
JP2007529916A (ja) コンピュータでの音声通信
CN102623006A (zh) 阻塞音语音能量到较低频率的映射
US20050113061A1 (en) Method and system for establishing a telephony data connection to receiver
US20020077814A1 (en) Voice recognition system method and apparatus
GB2368441A (en) Voice to voice data handling system
WO2021150647A1 (en) System and method for data analytics for communications in walkie-talkie network
JP2002237877A (ja) ハンズフリーシステム、携帯電話およびハンズフリー装置
JP2002508629A (ja) 電話呼び出しを確立するための方法

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20060502

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060524

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061107

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070823

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070904

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20071218

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080110

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080930

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081029

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111107

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4212809

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111107

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121107

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121107

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131107

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250