JP2004301907A - Speech encoding device - Google Patents
Speech encoding device Download PDFInfo
- Publication number
- JP2004301907A JP2004301907A JP2003091747A JP2003091747A JP2004301907A JP 2004301907 A JP2004301907 A JP 2004301907A JP 2003091747 A JP2003091747 A JP 2003091747A JP 2003091747 A JP2003091747 A JP 2003091747A JP 2004301907 A JP2004301907 A JP 2004301907A
- Authority
- JP
- Japan
- Prior art keywords
- encoding
- voice
- audio
- audio signal
- transmitted
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
Description
【0001】
【発明の属する技術分野】
本発明は、デジタル音声通信に必要な音声符号化装置に関する。
【0002】
【従来の技術】
デジタル方式の移動通信網や固定通信網、インターネットなどによる音声通信においては、伝送効率の向上を図るため、音声信号を高効率で符号化する音声符号化装置が用いられる。なお、本明細書中、「音声符号化装置」という用語は、符号化機能のみならず復号化機能をも有する広い意味で使用する。
【0003】
近年、各種通信網の伝送速度の向上やマルチメディア通信の発展により、音声通信のサービス形態として、単なる電話としての機能のみならず、テレビ電話としての利用や、テレビ会議などの、より臨場感が要求される音声通信を行うこと、各種情報を音声で案内する際に背景にBGMがあるような音声信号をより高品質に伝送することなど、様々な形態があり、音声信号の符号化に対して、高い効率を維持しつつより高い品質で音声信号を符号化できる装置が求められている。
【0004】
図3は、従来の音声符号化装置の一般的な構成を示す図である(たとえば、非特許文献1参照)。
【0005】
図3の装置において、送信する音声信号は符号化部1に入力され、ここで符号化処理が行われた後、音声符号化データとして出力される。音声符号化データは通信相手に送信される。一方、通信相手から受信した音声符号化データは復号化部3に入力され、ここで復号化処理が行われた後、復号音声信号として出力される。なお、音声信号の符号化は、一般に、入力音声信号に対して一定の区間(以下「音声フレーム」という)毎に区切られ、この音声フレーム単位で符号化処理と復号化処理が行われる。
【0006】
このような音声符号化装置を用いて音声通信を実現するためには、音声通信による通話の双方向性を考慮して、符号化によって生じる遅延(以下「符号化遅延」という)がある程度小さいこと、たとえば、符号化部単体の遅延量で50ms程度まで、また、処理遅延や伝送路遅延を含めた片側(送信側または受信側)の合計遅延量で150ms程度までであることが望まれる。
【0007】
このような音声通信に適した高効率の符号化方式としては、ITU−T(International Telecommunication Union Telecommunication standardization sector:国際電気通信連合電気通信標準化部門)や3GPP(3rd Generation Partnership Project)などの標準化機関で規格化されている様々な方式があり、代表的な例として、ITU−T標準G.729(CS−ACELP符号化)や3GPP標準のAMR符号化などが挙げられる。
【0008】
【非特許文献1】
3GPP 標準規格 TS26.071:AMR speech CODEC; General description
【0009】
【発明が解決しようとする課題】
しかしながら、上記に示した従来の高効率な音声符号化装置においては、音声の帯域が3.4kHzまでの音声信号を対象とした符号化方式であるため、より高い音声品質を実現するためには必ずしも十分ではなく、より音声帯域の広い高品質な符号化が望まれる。
【0010】
この点、音声帯域の広い非常に高品質な符号化を実現できる符号化方式として、音楽信号の符号化を対象とした、MP3やAACと呼ばれる符号化方式がある。しかし、これらは、双方向通信用の符号化方式ではないため、符号化遅延が大きく(たとえば、符号化部単体の遅延量で100msのオーダ)、音声通信用の符号化方式として使用する場合には、符号化遅延により音声通信に支障が生じるという問題がある。
【0011】
また、一般に、音声品質を高く維持したまま低い遅延で符号化を実現する場合には、伝送に要する符号化ビットレートが高くなり、伝送効率が低下するという問題がある。
【0012】
本発明は、かかる点に鑑みてなされたものであり、伝送効率と双方向通信における低遅延性とを両立させることができる音声符号化装置を提供することを目的とする。
【0013】
【課題を解決するための手段】
本発明の音声符号化装置は、第1の音声符号化方式を用いて、送信する音声信号を符号化する第1符号化手段と、前記第1の音声符号化方式に比べて、符号化遅延が大きく、かつ、符号化ビットレートが低いまたは符号化音声品質が高い第2の符号化方式を用いて、送信する音声信号を符号化する第2符号化手段と、受信された音声符号化データを復号化する復号化手段と、送信する音声信号および復号化後の音声信号を用いて、音声通信の双方向性度合を検出する検出手段と、検出された音声通信双方向性度合に基づいて、前記第1符号化手段および前記第2符号化手段のいずれか一方を選択する選択手段と、選択された符号化手段の処理結果を出力する出力手段と、を有する構成を採る。このとき、たとえば、前記選択手段は、音声通信の双方向性度合が高い場合は、第1符号化手段を選択し、音声通信の双方向性度合が低い場合は、第2符号化手段を選択する、構成を採る。また、たとえば、前記復号化手段は、前記第1の音声符号化方式および前記第2の音声符号化方式のうち、選択された一の音声符号化方式を用いて、受信された音声符号化データを復号化する、構成を採る。
【0014】
この構成によれば、送信する音声信号を符号化する符号化手段として、第1の音声符号化方式を用いる第1符号化手段と、第1の音声符号化方式に比べて、符号化遅延が大きく、かつ、符号化ビットレートが低いまたは符号化音声品質が高い第2の符号化方式を用いる第2符号化手段とを設け、送信する音声信号および復号化後の音声信号を用いて音声通信の双方向性度合を検出し、検出した音声通信双方向性度合に基づいて、符号化遅延が比較的小さい第1符号化手段と、符号化遅延は比較的大きいが符号化ビットレートは比較的低いまたは符号化音声品質は比較的高い第2符号化手段のいずれか一方を適切に選択するため、符号化の遅延が適切に制御され、伝送効率と双方向通信における低遅延性とを両立させることができる。
【0015】
本発明の音声符号化装置は、上記の構成において、前記検出手段は、送信する音声信号に対して判定された有音区間に関する送信側の情報および復号化後の音声信号に対して判定された有音区間に関する受信側の情報を用いて、音声通信の双方向性度合を検出する、構成を採る。
【0016】
この構成によれば、音声通信の双方向性度合を検出する際に、送信する音声信号に対して判定された有音区間に関する送信側の情報および復号化後の音声信号に対して判定された有音区間に関する受信側の情報を用いるため、音声通信の双方向性度合をより適切に検出することができる。
【0017】
本発明の音声符号化装置は、上記の構成において、前記検出手段は、送信する音声信号に対して判定された有音区間に関する送信側の情報および復号化後の音声信号に対して判定された有音区間に関する受信側の情報として、送信側の有音率と受信側の有音率との組み合わせ情報、送信側の有音区間と受信側の有音区間との相補性度情報、および送信側の有音区間と受信側の有音区間との交互発生度情報のうち、少なくとも一以上の情報を用いて、音声通信の双方向性度合を検出する、構成を採る。
【0018】
この構成によれば、送信する音声信号に対して判定された有音区間に関する送信側の情報および復号化後の音声信号に対して判定された有音区間に関する受信側の情報として、具体的に、上記の各種情報を用いるため、音声通信の双方向性度合をより一層高い精度で検出することができる。
【0019】
本発明の携帯端末装置は、上記構成の音声符号化装置を有する構成を採る。
【0020】
この構成によれば、上記と同様の作用効果を有する携帯端末装置を実現することができる。
【0021】
本発明の基地局装置は、上記構成の音声符号化装置を有する構成を採る。
【0022】
この構成によれば、上記と同様の作用効果を有する基地局装置を実現することができる。
【0023】
本発明の音声符号化方法は、第1の音声符号化方式を用いて、送信する音声信号を符号化する第1符号化ステップと、前記第1の音声符号化方式に比べて、符号化遅延が大きく、かつ、符号化ビットレートが低いまたは符号化音声品質が高い第2の符号化方式を用いて、送信する音声信号を符号化する第2符号化ステップと、受信された音声符号化データを復号化する復号化ステップと、送信する音声信号および復号化後の音声信号を用いて、音声通信の双方向性度合を検出する検出ステップと、前記検出ステップで検出した音声通信双方向性度合に基づいて、前記第1符号化方式および前記第2符号化方式のいずれか一方を選択する選択ステップと、前記第1符号化ステップおよび前記第2符号化ステップの各処理結果のうち、前記選択ステップで選択した符号化方式に基づく処理結果を出力する出力ステップと、を有するようにした。
【0024】
この方法によれば、送信する音声信号を符号化する符号化ステップとして、第1の音声符号化方式を用いる第1符号化ステップと、第1の音声符号化方式に比べて、符号化遅延が大きく、かつ、符号化ビットレートが低いまたは符号化音声品質が高い第2の符号化方式を用いる第2符号化ステップとを設け、送信する音声信号および復号化後の音声信号を用いて音声通信の双方向性度合を検出し、検出した音声通信双方向性度合に基づいて、符号化遅延が比較的小さい第1符号化手段と、符号化遅延は比較的大きいが符号化ビットレートは比較的低いまたは符号化音声品質は比較的高い第2符号化手段のいずれか一方を適切に選択するため、符号化の遅延が適切に制御され、伝送効率と双方向通信における低遅延性とを両立させることができる。
【0025】
本発明の音声符号化プログラムは、コンピュータに、第1の音声符号化方式を用いて、送信する音声信号を符号化する第1符号化ステップと、前記第1の音声符号化方式に比べて、符号化遅延が大きく、かつ、符号化ビットレートが低いまたは符号化音声品質が高い第2の符号化方式を用いて、送信する音声信号を符号化する第2符号化ステップと、受信された音声符号化データを復号化する復号化ステップと、送信する音声信号および復号化後の音声信号を用いて、音声通信の双方向性度合を検出する検出ステップと、前記検出ステップで検出した音声通信双方向性度合に基づいて、前記第1符号化方式および前記第2符号化方式のいずれか一方を選択する選択ステップと、前記第1符号化ステップおよび前記第2符号化ステップの各処理結果のうち、前記選択ステップで選択した符号化方式に基づく処理結果を出力する出力ステップと、を実行させるようにした。
【0026】
このプログラムによれば、送信する音声信号を符号化する符号化ステップとして、第1の音声符号化方式を用いる第1符号化ステップと、第1の音声符号化方式に比べて、符号化遅延が大きく、かつ、符号化ビットレートが低いまたは符号化音声品質が高い第2の符号化方式を用いる第2符号化ステップとを設け、送信する音声信号および復号化後の音声信号を用いて音声通信の双方向性度合を検出し、検出した音声通信双方向性度合に基づいて、符号化遅延が比較的小さい第1符号化手段と、符号化遅延は比較的大きいが符号化ビットレートは比較的低いまたは符号化音声品質は比較的高い第2符号化手段のいずれか一方を適切に選択するため、符号化の遅延が適切に制御され、伝送効率と双方向通信における低遅延性とを両立させることができる。
【0027】
【発明の実施の形態】
本発明の骨子は、音声通信の双方向性度合から符号化遅延を制御することで、伝送効率と双方向通信における低遅延性とを両立させることである。
【0028】
以下、本発明の実施の形態について、図面を参照して詳細に説明する。
【0029】
図1は、本発明の一実施の形態に係る音声符号化装置の構成を示すブロック図である。
【0030】
この音声符号化装置は、送信側に、第1符号化部101、第2符号化部103、符号化選択部105、および切り替え器107を有し、受信側に、第1復号化部109、第2復号化部111、切り替え器113、および切り替え器115を有する。
【0031】
まず、送信側の構成要素について説明する。
【0032】
第1符号化部101および第2符号化部103は、それぞれ、送信する音声信号(入力音声信号)に対して音声符号化を行い、音声符号化データを切り替え器107に出力する。ここで、第1符号化部101は、符号化遅延が小さい第1の符号化方式を使用し、第2符号化部103は、第1の符号化方式に比べて、符号化遅延が大きく、かつ、符号化ビットレートが低いまたは符号化音声品質が高い第2の符号化方式を使用する。たとえば、第2の符号化方式は、第1の符号化方式に比べて、▲1▼符号化遅延が大きくかつ符号化ビットレートが低い場合(符号化音声品質は同等)と、▲2▼符号化遅延が大きくかつ音声品質が高い場合(符号化ビットレートは同等)とを有する。具体的な符号化方式は、上記条件を満たすものであれば任意のものでよい。具体例は、たとえば、次の表1に示すとおりである。
【0033】
【表1】
【0034】
ここで、上記の表1において、例1および例2は、第1符号化部101に対して、第2符号化部103が、符号化遅延が大きく、かつ、符号化音声品質がほぼ同等(または同等に近い)で符号化ビットレートが低い場合であり、例3は、第1符号化部101に対して、第2符号化部103が、符号化遅延が大きく、かつ、符号化ビットレートが同等で符号化音声品質が高い場合である。
【0035】
なお、第1符号化部101および第2符号化部103に適用する符号化方式は、上記の例に限定されるわけではなく、前述のように、上記条件を満たすものであれば任意のものでよい。たとえば、第2符号化部103に適用する符号化方式は、第1符号化部101に適用する符号化方式に対して、フレーム長の増加や入力音声信号先読み遅延の増加などによる変更を加えたものでもよい。また、第1符号化部101にCELP系の符号化方式を、第2符号化部103に周波数変換符号化の方式をそれぞれ適用したものでもよい。また、スケーラブル構成の符号化において、ベースレイヤを低遅延の符号化とし、エンハンスレイヤを低遅延の符号化と、遅延の大きい符号化を切りかえる構成として、第1符号化部101および第2符号化部103を構成するようにしてもよい。
【0036】
符号化選択部105は、送信側の入力音声信号および後述する動作により得られる受信側の復号音声信号を用いて、音声通信の双方向性度合を検出し、検出した音声通信双方向性度合に応じて、送信側の入力音声信号を符号化するために第1符号化部101と第2符号化部103のいずれを選択すべきかを示す情報(以下「符号化選択情報」という)を出力する。具体的には、たとえば、音声通信の双方向性度合が高い場合は、符号化遅延が小さい第1符号化部101を選択し、音声通信の双方向性度合が低い場合は、符号化遅延が大きくかつ符号化ビットレートが低い(または符号化音声品質が高い)第2符号化部103を選択し、この情報を符号化選択情報として出力する。符号化選択情報は、切り替え器107に出力されるとともに、通信相手に送信される。なお、符号化選択部105の内部構成は、後で詳細に説明する。
【0037】
切り替え器107は、符号化選択部105から出力された符号化選択情報に基づいて、内部スイッチを切り替え、第1符号化部101から出力された音声符号化データと第2符号化部103から出力された音声符号化データのうち、選択された方の音声符号化データを、送信すべき音声符号化データとして出力する。なお、切り替え器107から出力された音声符号化データは、符号化選択部105から出力された符号化選択情報と共に、通信相手に送信される。
【0038】
次に、受信側の構成要素について説明する。
【0039】
第1復号化部109および第2復号化部111は、選択的に、それぞれ、切り替え器113の出力(音声符号化データ)に対して音声復号化を行い、復号音声信号を切り替え器115に出力する。ここで、第1復号化部109は送信側の第1符号化部101に対応し、第2復号化部111は送信側の第2符号化部103に対応している。第1復号化部109または第2復号化部111から出力された復号音声信号は、切り替え器115を介して図示しない所定の処理部および送信側の符号化選択部105に供給される。
【0040】
切り替え器113および切り替え器115は、それぞれ、互いに同期して動作し、通信相手から受信された符号化選択情報に基づいて、内部スイッチを切り替える。すなわち、切り替え器113は、通信相手から受信された音声符号化データを、第1復号化部109および第2復号化部111のうち、選択された方の符号化方式を備えた復号化部に供給し、切り替え器115は、その復号化部から出力された復号音声信号を上記所定の処理部および符号化選択部105に供給する。
【0041】
図2は、図1の符号化選択部105の構成の一例を示すブロック図である。
【0042】
この符号化選択部105は、送信音声有音判定部121、受信音声有音判定部123、送信音声有音率算出部125、受信音声有音率算出部127、有音区間相補性度算出部129、有音区間交互発生度算出部131、音声通信双方向性度合検出部133、および符号化選択判定部135を有する。
【0043】
送信音声有音判定部121は、送信する音声信号(入力音声信号)が、ある一定区間毎に有音か無音かの判定を行い、この判定結果を送信音声有音率算出部125、有音区間相補性度算出部129、および有音区間交互発生度算出部131に出力する。
【0044】
受信音声有音判定部123は、受信した音声信号(復号音声信号)が、ある一定区間毎に有音か無音かの判定を行い、この判定結果を受信音声有音率算出部127、有音区間相補性度算出部129、および有音区間交互発生度算出部131に出力する。
【0045】
なお、本実施の形態では、このように送信音声有音判定部121および受信音声有音判定部123を設けて、有音・無音の判定を行うようにしているが、これに限定されない。たとえば、第1符号化部101および第2符号化部103に適用される音声符号化方式自体にあらかじめ有音・無音の判定処理が組み込まれている場合には、その情報をそのまま利用するようにしてもよい。
【0046】
送信音声有音率算出部125は、送信音声有音判定部121から出力された判定結果(送信音声の有音判定情報)を用いて、送信音声の有音率VAFs(0≦VAFs≦1)を算出する。ここで、送信音声の有音率VAFsとは、送信音声における有音の割合のことである。算出された有音率VAFsは、音声通信双方向性度合検出部133に出力される。
【0047】
受信音声有音率算出部127は、受信音声有音判定部123から出力された判定結果(受信音声の有音判定情報)を用いて、受信音声の有音率VAFr(0≦VAFr≦1)を算出する。ここで、受信音声の有音率VAFrとは、受信音声における有音の割合のことである。算出された有音率VAFrは、音声通信双方向性度合検出部133に出力される。
【0048】
有音区間相補性度算出部129は、送信音声有音判定部121から出力された判定結果(送信音声の有音判定情報)および受信音声有音判定部123から出力された判定結果(受信音声の有音判定情報)を用いて、送信音声と受信音声の有音区間相補性度を算出する。ここで、有音区間相補性度とは、送信音声の有音区間と受信音声の有音区間が時間的に重なったり(送信受信共に有音)また空きになったり(送信受信共に有音でない)する場合がどの程度ないかを示す度合である。本実施の形態では、この有音区間相補性度を、音声通信の双方向性度合を示す1つの指標とする。具体的には、たとえば、一例として、次の(式1)に示す値COMPを、この有音区間相補性度を示す1つの指標とする。算出された有音区間相補性度は、音声通信双方向性度合検出部133に出力される。
【0049】
【0050】
有音区間交互発生度算出部131は、送信音声有音判定部121から出力された判定結果(送信音声の有音判定情報)および受信音声有音判定部123から出力された判定結果(受信音声の有音判定情報)を用いて、送信音声と受信音声の有音区間交互発生度を算出する。ここで、有音区間交互発生度とは、ある単位時間に、送信音声と受信音声がどの程度の頻度で交互に有音区間となっているかを示すパラメータである。本実施の形態では、この有音区間交互発生度を、音声通信の双方向性度合を示す別の指標とする。具体的には、たとえば、有音区間交互発生度NINTRを、単位時間(1sec)当たりの送話側から受話側(または受話側から送話側)への有音区間の変化の回数と定義する。算出された有音区間交互発生度は、音声通信双方向性度合検出部133に出力される。
【0051】
音声通信双方向性度合検出部133は、送信音声有音率算出部125、受信音声有音率算出部127、有音区間相補性度算出部129、および有音区間交互発生度算出部131でそれぞれ得られた、送信音声の有音率VAFs、受信音声の有音率VAFr、有音区間相補性度COMP、および有音区間交互発生度NINTRを用いて、音声通信双方向性度合を判定(検出)する。この判定(検出)結果は、符号化選択判定部135に出力される。
【0052】
具体的には、たとえば、下記の(式2)、(式3)、(式4)、(式5)を用いて、音声通信双方向性度合を示すフラグFLAGを求める。
【0053】
【0057】
符号化選択判定部135は、音声通信双方向性度合検出部133で得られた判定(検出)結果FLAGに基づいて、入力音声信号を符号化するために第1符号化部101と第2符号化部103のいずれを選択すべきかを示す情報(符号化選択情報)を決定し、出力する。具体的には、たとえば、FLAG=1の場合は、音声通信の双方向性度合が高いものと判断して、第1符号化部101を選択し、FLAG=0の場合は、音声通信の双方向性度合が低いものと判断して、第2符号化部103を選択する。
【0058】
なお、本実施の形態では、3種類の判定情報FLAG1、FLAG2、FLAG3から判定を行っているが、これに限定されるわけではなく、これら3種類の中のいずれか1つまたは任意の組み合わせで判定を行うようにしてもよい。
【0059】
次いで、上記構成を有する音声符号化装置の動作について説明する。
【0060】
まず、第1符号化部101および第2符号化部103で、それぞれ、入力音声信号に対して音声符号化を行い、音声符号化データを切り替え器105に出力する。上記のように、第1符号化部101には、符号化遅延が小さい符号化方式が適用され、第2符号化部103には、第1符号化部101に比べて符号化遅延が大きくかつ符号化ビットレートが低い(または符号化音声品質が高い)符号化方式が適用されている。
【0061】
そして、符号化選択部105で、送信側の入力音声信号および受信側の復号音声信号を用いて、音声通信の双方向性度合を検出し、検出した音声通信双方向性度合に応じて、第1符号化部101と第2符号化部103のいずれを選択すべきかを示す情報(符号化選択情報)を出力する。具体的には、たとえば、上記のように、音声通信の双方向性度合が高い場合は、符号化遅延が小さい第1符号化部101を選択し、音声通信の双方向性度合が低い場合は、符号化遅延が大きくかつ符号化ビットレートが低い(または符号化音声品質が高い)第2符号化部103を選択し、この情報を符号化選択情報として出力する。符号化選択情報は、切り替え器107に出力されるとともに、通信相手に送信される。
【0062】
また、このとき、音声通信の双方向性度合の検出に当たっては、たとえば、上記のように、送信側の入力音声信号および受信側の復号音声信号を用いて、送信音声と受信音声の有音判定を行い、この判定結果を用いて、送信音声有音率、受信音声有音率、有音区間相補性度、有音区間交互発生度をそれぞれ算出した後、これらの算出結果を用いて、上記(式2)〜(式5)により、音声通信の双方向性度合を判定(検出)する。
【0063】
そして、切り替え器107で、符号化選択部105から出力された符号化選択情報に基づいて、内部スイッチを切り替え、第1符号化部101から出力された音声符号化データと第2符号化部103から出力された音声符号化データのうち、選択された方の音声符号化データを、送信すべき音声符号化データとして出力する。なお、切り替え器107から出力された音声符号化データは、符号化選択部105から出力された符号化選択情報と共に、通信相手に送信される。
【0064】
一方、通信相手から音声符号化データおよび符号化選択情報を受信すると、受信した符号化選択情報に基づいて、切り替え器113、115の内部スイッチを切り替え、第1復号化部109または第2復号化部111で、切り替え器113の出力(音声符号化データ)に対して音声復号化を行い、得られた復号音声信号を、切り替え器115を介して図示しない所定の処理部および送信側の符号化選択部105に出力する。
【0065】
このように、本実施の形態によれば、送信する音声信号を符号化する符号化手段として、符号化遅延が小さい第1の音声符号化方式を用いる第1符号化部101と、第1の音声符号化方式に比べて符号化遅延が大きくかつ符号化ビットレートが低い(または符号化音声品質が高い)第2の符号化方式を用いる第2符号化部103とを設け、送信側の入力音声信号および受信側の復号音声信号を用いて音声通信の双方向性度合を検出し、検出した音声通信双方向性度合に基づいて、符号化遅延が小さい第1符号化手段と、符号化遅延は大きいが符号化ビットレートは低い(または符号化音声品質は高い)第2符号化手段のいずれか一方を適切に選択するため、符号化の遅延が適切に制御され、伝送効率と双方向通信における低遅延性とを両立させることができる。
【0066】
なお、本実施の形態では、符号化の遅延量が異なる2つの符号化部101、103を切り替えるようにしているが、切り替える符号化部の数はこれに限定されるわけではなく、3つ以上の符号化部を設け、これら3つ以上の符号化部を音声通信双方向性度合によって適切に切り替える構成としてもよい。
【0067】
また、本実施の形態は、上記の機能を実現させる制御プログラムをコンピュータに実行させる構成としてもよい。
【0068】
【発明の効果】
以上説明したように、本発明によれば、伝送効率と双方向通信における低遅延性とを両立させることができる。
【図面の簡単な説明】
【図1】本発明の一実施の形態に係る音声符号化装置の構成を示すブロック図
【図2】図1の符号化選択部の構成を示すブロック図
【図3】従来の音声符号化装置の構成の一例を示すブロック図
【符号の説明】
101 第1符号化部
103 第2符号化部
105 符号化選択部
107、113、115 切り替え器
109 第1復号化部
111 第2復号化部
121 送信音声有音判定部
123 受信音声有音判定部
125 送信音声有音率算出部
127 受信音声有音率算出部
129 有音区間相補性度算出部
131 有音区間交互発生度算出部
133 音声通信双方向性度合検出部
135 符号化選択判定部[0001]
TECHNICAL FIELD OF THE INVENTION
The present invention relates to an audio encoding device required for digital audio communication.
[0002]
[Prior art]
2. Description of the Related Art In a voice communication using a digital mobile communication network, a fixed communication network, the Internet, or the like, a voice coding apparatus that codes a voice signal with high efficiency is used to improve transmission efficiency. In this specification, the term "speech coding apparatus" is used in a broad sense having not only a coding function but also a decoding function.
[0003]
In recent years, with the improvement of transmission speeds of various communication networks and the development of multimedia communications, voice communication services have become more than just phone functions, but also have more realism such as videophone use and videoconferencing. There are various forms, such as performing required voice communication and transmitting higher quality voice signals with BGM in the background when guiding various information by voice. Thus, there is a need for a device that can encode a speech signal with higher quality while maintaining high efficiency.
[0004]
FIG. 3 is a diagram showing a general configuration of a conventional speech coding apparatus (for example, see Non-Patent Document 1).
[0005]
In the apparatus shown in FIG. 3, the audio signal to be transmitted is input to the
[0006]
In order to realize voice communication using such a voice coding device, the delay caused by coding (hereinafter referred to as “coding delay”) must be small to some extent in consideration of the two-way nature of voice communication. For example, it is desired that the delay amount of the encoding unit alone is up to about 50 ms, and that the total delay amount of one side (transmitting side or receiving side) including the processing delay and the transmission path delay is up to about 150 ms.
[0007]
As a high-efficiency coding method suitable for such voice communication, an ITU-T (International Telecommunication Union Telecommunication standardization sector: International Telecommunication Union Telecommunication Standardization Sector) and 3GPP (3rd Generation Partnership Standardization Organization, etc.) There are various standardized systems, and a typical example is the ITU-T standard G.400. 729 (CS-ACELP encoding) and 3GPP standard AMR encoding.
[0008]
[Non-patent document 1]
3GPP standard TS26.071: AMR speech codec; General description
[0009]
[Problems to be solved by the invention]
However, in the above-described conventional high-efficiency speech coding apparatus, since the coding method is for a speech signal whose speech band is up to 3.4 kHz, in order to realize higher speech quality, It is not always sufficient, and high-quality coding with a wider voice band is desired.
[0010]
In this regard, as a coding method capable of achieving very high quality coding over a wide audio band, there is a coding method called MP3 or AAC for coding a music signal. However, since these are not coding systems for two-way communication, the coding delay is large (for example, the delay amount of the coding unit alone is on the order of 100 ms), and when these are used as coding systems for voice communication. However, there is a problem that voice communication is hindered due to coding delay.
[0011]
In general, when encoding is realized with low delay while maintaining high audio quality, there is a problem that an encoding bit rate required for transmission increases and transmission efficiency decreases.
[0012]
The present invention has been made in view of the above, and has as its object to provide a speech encoding device that can achieve both transmission efficiency and low delay in bidirectional communication.
[0013]
[Means for Solving the Problems]
An audio encoding apparatus according to the present invention includes a first encoding unit that encodes an audio signal to be transmitted using a first audio encoding method, and an encoding delay compared with the first audio encoding method. Encoding means for encoding an audio signal to be transmitted using a second encoding method having a large encoding bit rate or a low encoding bit rate or high encoded audio quality; and received audio encoded data. A decoding means for decoding the audio signal, a detection means for detecting the bidirectional degree of the voice communication using the transmitted audio signal and the decoded audio signal, and , A selecting means for selecting one of the first coding means and the second coding means, and an output means for outputting a processing result of the selected coding means. At this time, for example, the selecting unit selects the first encoding unit when the degree of bidirectionality of the voice communication is high, and selects the second encoding unit when the degree of bidirectionality of the voice communication is low. Take the configuration. Also, for example, the decoding unit may be configured to use a selected one of the first audio coding method and the second audio coding method for the received audio coded data. , And adopt a configuration.
[0014]
According to this configuration, as encoding means for encoding the audio signal to be transmitted, the first encoding means using the first audio encoding method and the encoding delay are shorter than those of the first audio encoding method. A second encoding unit that uses a second encoding method that is large and has a low encoding bit rate or a high encoding audio quality, and performs audio communication using an audio signal to be transmitted and an audio signal after decoding. And a first encoding unit having a relatively small encoding delay and a relatively large encoding delay but a relatively large encoding bit rate, based on the detected voice communication bidirectionality. Since either one of the second encoding means having a low or encoded voice quality is relatively high is appropriately selected, the encoding delay is appropriately controlled, and both transmission efficiency and low delay in bidirectional communication are compatible. be able to.
[0015]
In the speech encoding apparatus according to the present invention, in the above-described configuration, the detection unit determines the information on the transmitting side regarding the sound interval determined for the audio signal to be transmitted and the decoded audio signal. A configuration is adopted in which the degree of bidirectionality of voice communication is detected using information on the receiving side regarding a sound section.
[0016]
According to this configuration, when detecting the degree of bidirectionality of the voice communication, it is determined based on the information on the transmitting side regarding the sound interval determined on the voice signal to be transmitted and the voice signal after decoding. Since the information on the receiving side regarding the sound section is used, the degree of the bidirectionality of the voice communication can be detected more appropriately.
[0017]
In the speech encoding apparatus according to the present invention, in the above-described configuration, the detection unit determines the information on the transmitting side regarding the sound interval determined for the audio signal to be transmitted and the decoded audio signal. As information on the receiving side regarding the voiced section, information on a combination of the voiced rate on the transmitting side and the voiced rate on the receiving side, complementarity information between the voiced section on the transmitting side and the voiced section on the receiving side, and transmission The bidirectional degree of voice communication is detected using at least one or more pieces of information on the alternating occurrence degree of the sound section on the receiving side and the sound section on the receiving side.
[0018]
According to this configuration, the information on the transmitting side regarding the voiced section determined for the audio signal to be transmitted and the information on the receiving side regarding the voiced section determined on the decoded voice signal are specifically described. Since the above various information is used, the degree of bidirectionality of voice communication can be detected with higher accuracy.
[0019]
The portable terminal device of the present invention employs a configuration including the above-described audio encoding device.
[0020]
According to this configuration, it is possible to realize a portable terminal device having the same operation and effect as described above.
[0021]
The base station apparatus according to the present invention employs a configuration having the speech coding apparatus having the above configuration.
[0022]
According to this configuration, it is possible to realize a base station apparatus having the same functions and effects as described above.
[0023]
The voice coding method of the present invention includes a first coding step of coding a voice signal to be transmitted using a first voice coding method, and a coding delay compared with the first voice coding method. A second encoding step of encoding an audio signal to be transmitted using a second encoding scheme having a large encoding bit rate or a low encoding bit rate or a high encoded audio quality; Using the audio signal to be transmitted and the decoded audio signal to detect the bidirectionality of the audio communication; and the audio communication bidirectionality detected in the detecting step. A selecting step of selecting one of the first encoding method and the second encoding method, based on the following, and selecting one of the processing results of the first encoding step and the second encoding step S And outputting the processing result based on the selected coding scheme in-up, and to have.
[0024]
According to this method, the encoding step of encoding the audio signal to be transmitted includes a first encoding step using the first audio encoding method, and an encoding delay that is shorter than that of the first audio encoding method. A second encoding step using a second encoding scheme that is large and has a low encoding bit rate or a high encoding voice quality, and uses a voice signal to be transmitted and a voice signal after decoding. And a first encoding unit having a relatively small encoding delay and a relatively large encoding delay but a relatively large encoding bit rate, based on the detected voice communication bidirectionality. Since either one of the second encoding means having a low or encoded voice quality is relatively high is appropriately selected, the encoding delay is appropriately controlled, and both transmission efficiency and low delay in bidirectional communication are compatible. It is possible .
[0025]
An audio encoding program according to the present invention provides a computer with a first encoding step of encoding an audio signal to be transmitted using a first audio encoding method, A second encoding step of encoding the audio signal to be transmitted using a second encoding scheme with a large encoding delay and a low encoding bit rate or high encoded audio quality; A decoding step of decoding encoded data, a detection step of detecting the degree of bidirectionality of voice communication using a voice signal to be transmitted and a voice signal after decoding, and a voice communication detected in the detection step. A selecting step of selecting one of the first encoding method and the second encoding method based on the degree of directivity; and a processing of each of the first encoding step and the second encoding step Of fruit were to be executed and an output step of outputting a processing result based on the coding scheme selected in the selecting step.
[0026]
According to this program, the encoding step for encoding the audio signal to be transmitted includes a first encoding step using the first audio encoding method, and an encoding delay that is shorter than that of the first audio encoding method. A second encoding step using a second encoding scheme that is large and has a low encoding bit rate or a high encoding voice quality, and uses a voice signal to be transmitted and a voice signal after decoding. And a first encoding unit having a relatively small encoding delay and a relatively large encoding delay but a relatively large encoding bit rate, based on the detected voice communication bidirectionality. Since either one of the second encoding means having a low or encoded voice quality is relatively high is appropriately selected, the encoding delay is appropriately controlled, and both transmission efficiency and low delay in bidirectional communication are compatible. thing It can be.
[0027]
BEST MODE FOR CARRYING OUT THE INVENTION
The gist of the present invention is to achieve both transmission efficiency and low delay in bidirectional communication by controlling the encoding delay based on the degree of bidirectionality of voice communication.
[0028]
Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.
[0029]
FIG. 1 is a block diagram showing a configuration of a speech coding apparatus according to one embodiment of the present invention.
[0030]
This speech coding apparatus includes a
[0031]
First, the components on the transmitting side will be described.
[0032]
Each of
[0033]
[Table 1]
[0034]
Here, in Table 1 above, in Example 1 and Example 2, the
[0035]
Note that the encoding method applied to the
[0036]
The
[0037]
The
[0038]
Next, components on the receiving side will be described.
[0039]
The
[0040]
The
[0041]
FIG. 2 is a block diagram illustrating an example of the configuration of the
[0042]
The
[0043]
The transmitted voice
[0044]
The received voice
[0045]
In this embodiment, the transmission voice
[0046]
Using the determination result (transmitted voice presence determination information) output from the transmitted voice
[0047]
The received voice activity
[0048]
The voiced section
[0049]
[0050]
The voiced section alternating occurrence
[0051]
The voice communication bidirectionality
[0052]
Specifically, for example, a flag FLAG indicating the degree of voice communication bidirectionality is obtained using the following (Equation 2), (Equation 3), (Equation 4), and (Equation 5).
[0053]
[0057]
The encoding
[0058]
In the present embodiment, the determination is made based on the three types of determination information FLAG1, FLAG2, and FLAG3. However, the present invention is not limited to this, and any one of these three types or an arbitrary combination is used. The determination may be performed.
[0059]
Next, the operation of the speech coding apparatus having the above configuration will be described.
[0060]
First, the
[0061]
Then, the
[0062]
Further, at this time, when detecting the degree of bidirectionality of the voice communication, for example, as described above, using the input voice signal on the transmission side and the decoded voice signal on the reception side, the presence / absence determination of the transmission voice and the reception voice is performed. Is performed, and using this determination result, after calculating the transmission voice sound rate, the reception voice sound rate, the sound section complementarity degree, and the sound section alternate occurrence degree, using these calculation results, Based on (Equation 2) to (Equation 5), the degree of bidirectionality of voice communication is determined (detected).
[0063]
Then, the
[0064]
On the other hand, when voice encoded data and coding selection information are received from the communication partner, the internal switches of the
[0065]
As described above, according to the present embodiment, the
[0066]
In the present embodiment, two encoding
[0067]
Further, the present embodiment may be configured to cause a computer to execute a control program for realizing the above functions.
[0068]
【The invention's effect】
As described above, according to the present invention, it is possible to achieve both transmission efficiency and low delay in bidirectional communication.
[Brief description of the drawings]
FIG. 1 is a block diagram illustrating a configuration of a speech coding apparatus according to an embodiment of the present invention.
FIG. 2 is a block diagram illustrating a configuration of an encoding selection unit in FIG. 1;
FIG. 3 is a block diagram showing an example of a configuration of a conventional speech encoding device.
[Explanation of symbols]
101 first encoding unit
103 second encoding unit
105 Encoding selection unit
107, 113, 115 switch
109 first decoding unit
111 second decryption unit
121 Transmission sound existence judgment unit
123 Received sound existence judgment unit
125 Transmission voice sound rate calculation unit
127 Received voice soundness ratio calculation unit
129 Sounded section complementarity calculator
131 Sounded section alternating occurrence calculation unit
133 voice communication bidirectionality detection unit
135 Encoding selection determination unit
Claims (9)
前記第1の音声符号化方式に比べて、符号化遅延が大きく、かつ、符号化ビットレートが低いまたは符号化音声品質が高い第2の符号化方式を用いて、送信する音声信号を符号化する第2符号化手段と、
受信された音声符号化データを復号化する復号化手段と、
送信する音声信号および復号化後の音声信号を用いて、音声通信の双方向性度合を検出する検出手段と、
検出された音声通信双方向性度合に基づいて、前記第1符号化手段および前記第2符号化手段のいずれか一方を選択する選択手段と、
選択された符号化手段の処理結果を出力する出力手段と、
を有することを特徴とする音声符号化装置。A first encoding unit that encodes an audio signal to be transmitted using a first audio encoding method;
An audio signal to be transmitted is encoded using a second encoding method having a large encoding delay and a low encoding bit rate or a high encoded audio quality as compared with the first audio encoding method. Second encoding means,
Decoding means for decoding the received encoded voice data;
Using the audio signal to be transmitted and the audio signal after decoding, detection means for detecting the degree of bidirectionality of the audio communication,
Selecting means for selecting one of the first encoding means and the second encoding means based on the detected voice communication bidirectionality degree;
Output means for outputting a processing result of the selected encoding means,
A speech encoding device comprising:
音声通信の双方向性度合が高い場合は、第1符号化手段を選択し、音声通信の双方向性度合が低い場合は、第2符号化手段を選択する、
ことを特徴とする請求項1記載の音声符号化装置。The selecting means,
If the degree of bidirectionality of voice communication is high, select the first encoding unit; if the degree of bidirectionality of voice communication is low, select the second encoding unit.
The speech encoding device according to claim 1, wherein:
送信する音声信号に対して判定された有音区間に関する送信側の情報および復号化後の音声信号に対して判定された有音区間に関する受信側の情報を用いて、音声通信の双方向性度合を検出する、
ことを特徴とする請求項1記載の音声符号化装置。The detecting means,
Using the information on the transmitting side regarding the sound period determined for the audio signal to be transmitted and the information on the receiving side regarding the sound period determined for the decoded audio signal, the degree of bidirectionality of the voice communication is determined. To detect the
The speech encoding device according to claim 1, wherein:
送信する音声信号に対して判定された有音区間に関する送信側の情報および復号化後の音声信号に対して判定された有音区間に関する受信側の情報として、送信側の有音率と受信側の有音率との組み合わせ情報、送信側の有音区間と受信側の有音区間との相補性度情報、および送信側の有音区間と受信側の有音区間との交互発生度情報のうち、少なくとも一以上の情報を用いて、音声通信の双方向性度合を検出する、
ことを特徴とする請求項3記載の音声符号化装置。The detecting means,
As the information on the transmitting side regarding the voiced section determined for the audio signal to be transmitted and the information on the receiving side regarding the voiced section determined on the decoded voice signal, the voice ratio of the transmitting side and the receiving side , The complementation information between the sound section on the transmitting side and the sound section on the receiving side, and the alternating information on the sound section on the transmitting side and the sound section on the receiving side. Of which, at least one or more pieces of information are used to detect the degree of bidirectionality of voice communication.
4. The speech encoding device according to claim 3, wherein:
前記第1の音声符号化方式および前記第2の音声符号化方式のうち、選択された一の音声符号化方式を用いて、受信された音声符号化データを復号化する、
ことを特徴とする請求項1記載の音声符号化装置。The decoding means,
Decoding the received encoded voice data using a selected one of the first and second voice encoding schemes;
The speech encoding device according to claim 1, wherein:
前記第1の音声符号化方式に比べて、符号化遅延が大きく、かつ、符号化ビットレートが低いまたは符号化音声品質が高い第2の符号化方式を用いて、送信する音声信号を符号化する第2符号化ステップと、
受信された音声符号化データを復号化する復号化ステップと、
送信する音声信号および復号化後の音声信号を用いて、音声通信の双方向性度合を検出する検出ステップと、
前記検出ステップで検出した音声通信双方向性度合に基づいて、前記第1符号化方式および前記第2符号化方式のいずれか一方を選択する選択ステップと、
前記第1符号化ステップおよび前記第2符号化ステップの各処理結果のうち、前記選択ステップで選択した符号化方式に基づく処理結果を出力する出力ステップと、
を有することを特徴とする音声符号化方法。A first encoding step of encoding an audio signal to be transmitted using a first audio encoding scheme;
An audio signal to be transmitted is encoded using a second encoding method having a large encoding delay and a low encoding bit rate or a high encoded audio quality as compared with the first audio encoding method. A second encoding step,
A decoding step of decoding the received encoded voice data;
Using the audio signal to be transmitted and the audio signal after decoding, a detection step of detecting the degree of bidirectionality of the audio communication,
A selecting step of selecting one of the first encoding method and the second encoding method based on the voice communication bidirectionality detected in the detecting step;
An output step of, among the processing results of the first encoding step and the second encoding step, outputting a processing result based on the encoding scheme selected in the selecting step;
A speech encoding method comprising:
第1の音声符号化方式を用いて、送信する音声信号を符号化する第1符号化ステップと、
前記第1の音声符号化方式に比べて、符号化遅延が大きく、かつ、符号化ビットレートが低いまたは符号化音声品質が高い第2の符号化方式を用いて、送信する音声信号を符号化する第2符号化ステップと、
受信された音声符号化データを復号化する復号化ステップと、
送信する音声信号および復号化後の音声信号を用いて、音声通信の双方向性度合を検出する検出ステップと、
前記検出ステップで検出した音声通信双方向性度合に基づいて、前記第1符号化方式および前記第2符号化方式のいずれか一方を選択する選択ステップと、
前記第1符号化ステップおよび前記第2符号化ステップの各処理結果のうち、前記選択ステップで選択した符号化方式に基づく処理結果を出力する出力ステップと、
を実行させることを特徴とする音声符号化プログラム。On the computer,
A first encoding step of encoding an audio signal to be transmitted using a first audio encoding scheme;
An audio signal to be transmitted is encoded using a second encoding method having a large encoding delay and a low encoding bit rate or a high encoded audio quality as compared with the first audio encoding method. A second encoding step,
A decoding step of decoding the received encoded voice data;
Using the audio signal to be transmitted and the audio signal after decoding, a detection step of detecting the degree of bidirectionality of the audio communication,
A selecting step of selecting one of the first encoding method and the second encoding method based on the voice communication bidirectionality detected in the detecting step;
An output step of, among the processing results of the first encoding step and the second encoding step, outputting a processing result based on the encoding scheme selected in the selecting step;
A speech encoding program characterized by executing the following.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003091747A JP4437011B2 (en) | 2003-03-28 | 2003-03-28 | Speech encoding device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003091747A JP4437011B2 (en) | 2003-03-28 | 2003-03-28 | Speech encoding device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004301907A true JP2004301907A (en) | 2004-10-28 |
JP4437011B2 JP4437011B2 (en) | 2010-03-24 |
Family
ID=33405047
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003091747A Expired - Lifetime JP4437011B2 (en) | 2003-03-28 | 2003-03-28 | Speech encoding device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4437011B2 (en) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006195144A (en) * | 2005-01-13 | 2006-07-27 | Kddi Corp | Communication terminal |
JP2009089156A (en) * | 2007-10-01 | 2009-04-23 | Yamaha Corp | Distribution system and method |
JP2009089157A (en) * | 2007-10-01 | 2009-04-23 | Yamaha Corp | Distribution system and method |
JP2011509632A (en) * | 2008-01-10 | 2011-03-24 | ヒューレット−パッカード デベロップメント カンパニー エル.ピー. | Multi-directional peer-to-peer media streaming |
JP2012253823A (en) * | 2012-09-24 | 2012-12-20 | Yamaha Corp | Distribution system, distribution method, distribution server and communication terminal |
WO2014010175A1 (en) * | 2012-07-09 | 2014-01-16 | パナソニック株式会社 | Encoding device and encoding method |
-
2003
- 2003-03-28 JP JP2003091747A patent/JP4437011B2/en not_active Expired - Lifetime
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006195144A (en) * | 2005-01-13 | 2006-07-27 | Kddi Corp | Communication terminal |
JP4628798B2 (en) * | 2005-01-13 | 2011-02-09 | Kddi株式会社 | Communication terminal device |
JP2009089156A (en) * | 2007-10-01 | 2009-04-23 | Yamaha Corp | Distribution system and method |
JP2009089157A (en) * | 2007-10-01 | 2009-04-23 | Yamaha Corp | Distribution system and method |
JP2011509632A (en) * | 2008-01-10 | 2011-03-24 | ヒューレット−パッカード デベロップメント カンパニー エル.ピー. | Multi-directional peer-to-peer media streaming |
WO2014010175A1 (en) * | 2012-07-09 | 2014-01-16 | パナソニック株式会社 | Encoding device and encoding method |
JP2012253823A (en) * | 2012-09-24 | 2012-12-20 | Yamaha Corp | Distribution system, distribution method, distribution server and communication terminal |
Also Published As
Publication number | Publication date |
---|---|
JP4437011B2 (en) | 2010-03-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6546897B2 (en) | Method of performing coding for frame loss concealment for multi-rate speech / audio codecs | |
JP4922455B2 (en) | Method and apparatus for detecting and suppressing echo in packet networks | |
JP6151405B2 (en) | System, method, apparatus and computer readable medium for criticality threshold control | |
JP4991854B2 (en) | System and method for modifying a window having a frame associated with an audio signal | |
AU2005246538B2 (en) | Supporting a switch between audio coder modes | |
TWI464734B (en) | Systems and methods for preventing the loss of information within a speech frame | |
JP5275231B2 (en) | Method and apparatus for wideband coding of active frames | |
JP2004507924A (en) | Method and apparatus for using an asymmetric voice coder to generate an asymmetric link in a wireless communication system | |
JP2004509367A (en) | Encoding and decoding of multi-channel signals | |
JP5713296B2 (en) | Apparatus and method for encoding at least one parameter associated with a signal source | |
JPWO2007116809A1 (en) | Stereo speech coding apparatus, stereo speech decoding apparatus, and methods thereof | |
US10607624B2 (en) | Signal codec device and method in communication system | |
CN112334980A (en) | Adaptive comfort noise parameter determination | |
JP2005241761A (en) | Communication device and signal encoding/decoding method | |
US8144862B2 (en) | Method and apparatus for the detection and suppression of echo in packet based communication networks using frame energy estimation | |
WO2005091273A2 (en) | Method of comfort noise generation for speech communication | |
JP4437011B2 (en) | Speech encoding device | |
JP2010539550A (en) | Transmission error spoofing of digital signals by complexity distribution | |
JP4437052B2 (en) | Speech decoding apparatus and speech decoding method | |
US8509460B2 (en) | Sound mixing apparatus and method and multipoint conference server | |
WO2023031498A1 (en) | Silence descriptor using spatial parameters | |
JP2013054282A (en) | Communication device and communication method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060208 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090202 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090217 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090420 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20090804 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20091029 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20091111 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20091208 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100104 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4437011 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130108 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130108 Year of fee payment: 3 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
EXPY | Cancellation because of completion of term |