JP2004266724A - Real time voice buffer control apparatus - Google Patents
Real time voice buffer control apparatus Download PDFInfo
- Publication number
- JP2004266724A JP2004266724A JP2003057087A JP2003057087A JP2004266724A JP 2004266724 A JP2004266724 A JP 2004266724A JP 2003057087 A JP2003057087 A JP 2003057087A JP 2003057087 A JP2003057087 A JP 2003057087A JP 2004266724 A JP2004266724 A JP 2004266724A
- Authority
- JP
- Japan
- Prior art keywords
- audio
- reception buffer
- data
- audio data
- buffer
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Detection And Prevention Of Errors In Transmission (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
- Telephone Function (AREA)
Abstract
Description
【0001】
【発明の属する技術分野】
本発明は、パケット転送サービスを提供するネットワークを介してリアルタイム音声通信を行うシステムに関し、その受信側のバッファを制御するリアルタイム音声用バッファ制御装置に関する。
【0002】
【従来の技術】
従来、パケット転送のネットワークを介してリアルタイム音声通信を行う場合、ネットワークでのデータの伝送揺らぎ(ジッタ)により、受信側のバッファ容量を越えるデータの転送があるとバッファ容量を超えた音声データが欠落し、また、ネットワークでの遅延が大きくなると音声データの途切れが発生していた。
【0003】
このようなジッタによるバッファ容量を超えた音声データの欠落を少なくするため、リアルタイム音声用バッファ制御装置が提案されている。
【0004】
このリアルタイム音声用バッファ制御装置200は、図11に示すように、受信バッファ201と、再生制御モジュール202と、スイッチャ203と、高速再生モジュール204と、音声デコーダ205とを備える。
【0005】
このリアルタイム音声用バッファ制御装置200は、受信したパケットを音声データにして音声再生モジュール300に出力するもので、再生制御モジュール202は、受信バッファ201のデータ蓄積量を監視し、データ蓄積量が第1の閾値を超えると、スイッチャ203により受信バッファ201の出力を高速再生モジュール204に切り替え、高速再生モジュール204でパケットの間引きを行ってデータを高速に処理し、受信バッファ201のデータ蓄積量を減少させるとともに音声再生の遅延時間を短くし、受信バッファ201のデータ蓄積量が第2の閾値より少なくなると、スイッチャ203により受信バッファの出力を音声デコーダ205に切り替えて、通常の再生速度としていた(例えば、特許文献1参照)。
【0006】
【特許文献1】
特開2000−295286号公報
【0007】
【発明が解決しようとする課題】
しかしながら、このような従来のリアルタイム音声用バッファ制御装置においては、バッファ容量を超えた音声データの欠落を少なくすることには対応しているが、ネットワークの伝送遅延による音声データが途切れる場合に対応するためバッファ容量を大きくする必要があり、遅延が大きくなってしまう。
【0008】
遅延を少なくするためにバッファ容量を少なくすると、図12に示すように、音声データの再生を終了してもジッタにより次の音声データが間に合わない状態(ジッタを吸収できない状態)が発生し、図13に示すように音声波形が乱れ、音声波形全体として(マクロ的に見て)図14に示すように、元の音と比較して波形が不連続となるため、音声の聞き取りに違和感を生じるという問題がある。
【0009】
本発明はこのような問題を解決するためになされたもので、ネットワークの伝送揺らぎが生じても違和感の無い音声を再生することができるリアルタイム音声用バッファ制御装置を提供するものである。
【0010】
【課題を解決するための手段】
本発明のリアルタイム音声用バッファ制御装置は、受信した音声データを一時的に記憶しておく受信バッファ手段と、予め上限値および下限値が設定され、前記受信バッファ手段の使用量が前記下限値を下回ったこと、または前記受信バッファ手段の使用量が前記上限値を上回ったことを検出して出力する受信バッファ監視手段と、前記受信バッファ監視手段が前記受信バッファ手段の使用量が前記下限値を下回ったことを出力したとき、前記受信バッファ手段が出力した音声データを波形加工補正してデータ量を増加させ、前記受信バッファ監視手段が前記受信バッファ手段の使用量が前記上限値を上回ったことを出力したとき、前記受信バッファ手段が出力した音声データを波形加工補正してデータ量を削減させる音声波形データ波形加工補正手段とを備える構成を有している。
【0011】
この構成により、受信バッファ手段の使用量が下限値を下回ったときは音声データのデータ量を増加させてアンダーフロー状態を回避させ、受信バッファ手段の使用量が上限値を上回ったときは音声データのデータ量を削減させてオーバーフロー状態を回避させることとなる。
【0012】
ここで、受信した音声データがデータ圧縮された圧縮音声データであれば、前記圧縮音声データをデコードして音声データを復元して前記受信バッファ手段へ出力する圧縮音声デコード手段を備える構成とした。
この構成により、データ圧縮された音声データも処理することができる。
【0013】
【発明の実施の形態】
以下、本発明の実施の形態について、図面を参照して説明する。
図1は本発明の一実施の形態の音声受信装置の構成を示す図である。
【0014】
図1に示すように、本実施の形態の音声受信装置1は、ネットワーク2からデータを受信するリアルタイム音声用バッファ制御装置11と、リアルタイム音声用バッファ制御装置11から出力される音声データを再生する音声再生手段12とを備えている。
【0015】
リアルタイム音声用バッファ制御装置11は、ネットワーク2から受信したパケットデータから音声データを抽出して出力するパケット受信手段111と、パケット受信手段111が出力する音声データを一時記憶しておく受信バッファ手段112と、受信バッファ手段112のバッファ使用状態を監視する受信バッファ監視手段113と、受信バッファ監視手段113の監視結果に基づいて音声波形データを波形加工補正する音声波形データ波形加工補正手段114とを備えている。
【0016】
このような音声受信装置1は、図2に示すように、リアルタイム音声データをネットワーク2に送出する音声送出装置3とネットワーク2を介して通信可能となっており、音声送出装置3が送出するリアルタイム音声データをネットワーク2を介して受信して再生するものである。
【0017】
音声送出装置3は、図3(a)に示すような波形の音声を送出する場合、図3(b)に示すように、音声データを所定の長さに分割し、分割した音声データをそれぞれパケットデータ化しネットワーク2を介して音声受信装置1に送出する。
【0018】
音声受信装置1は、図4に示すように、受信したパケットの音声データをバッファリングし、バッファリングした音声データを順次再生していく。
【0019】
図5に示すように、受信バッファ手段112は、受信したパケットの音声データを連続的に記憶し、音声波形データ波形加工補正手段114に順次出力して、出力した音声データは消去していくようになっている。
【0020】
受信バッファ手段112には、常にある程度のデータが記憶されている状態が良く、ネットワーク2のジッタにより音声データのパケットの到着が遅れて受信バッファ手段112に記憶している音声データが全て出力されてしまうと、再生する音声データが無くなってしまうという状態(アンダーフロー状態)になってしまう。
【0021】
この状態を防ぐため、受信バッファ手段112の容量を大きくすると、音声データの再生に遅延が生じ、受信して記憶しておく音声データが受信バッファ手段112の容量を越えてしまうという状態(オーバーフロー状態)になってしまう。
【0022】
本実施の形態の音声受信装置1のリアルタイム音声用バッファ制御装置11では、受信バッファ監視手段113で受信バッファ手段112の使用状態(データを記憶している量)を監視し、アンダーフロー状態またはオーバーフロー状態の直前の状態を感知して音声波形データ波形加工補正手段114に通知し、音声波形データ波形加工補正手段114により音声データの波形を波形加工補正して受信バッファ手段112の使用量を調整するようになっている。
【0023】
具体的には、受信バッファ監視手段113は、予めバッファ使用量の下限値および上限値を設定されており、受信バッファ手段112のバッファ使用量が下限値を下回った場合、またはバッファの使用量が上限値を上回った場合、音声波形データ波形加工補正手段114に通知する。
【0024】
音声波形データ波形加工補正手段114は、受信バッファ手段112のバッファ使用量が下限値を下回ったことを通知されると、受信バッファ手段112から入力された音声データを波形加工補正し、図6に示すように、再生時間が長くなるようにデータ量を増加させ、増加させた音声データを再生している間に遅れていたパケットが届くようにする。
【0025】
また、音声波形データ波形加工補正手段114は、受信バッファ手段112のバッファ使用量が上限値を上回ったことを通知されると、受信バッファ手段112から入力された音声データを波形加工補正し、図7に示すように、再生時間が短くなるようにデータ量を減少させ、音声データの再生時間を短縮して受信バッファ手段112に記憶しているデータ量を早く減少させる。
【0026】
波形加工補正された音声データの再生波形は、図8に示すようになり、またマクロ的に見ると図9に示すようになり、波形が連続的で遅延がないものとなる。
【0027】
以上のように本実施の形態においては、受信バッファ手段112のバッファ使用量を受信バッファ監視手段113で監視し、予め設定された上限値を超えたり下限値を超えたら音声波形データ波形加工補正手段114に通知し、音声波形データ波形加工補正手段114で音声データを波形加工補正をして音声データの再生時間を調整することで、違和感の無い遅延の少ない音声を再生することができる。
【0028】
本実施の形態の他の態様としては、図10に示すように、パケット受信手段111が出力した音声データがデータ容量を圧縮された音声データであった場合、圧縮された音声データをデコードして元のデータに戻して受信バッファ手段112に出力する圧縮音声デコード手段131を設けたリアルタイム音声用バッファ制御装置13を備えるようにする。このように構成することによって、受信した音声データがデータ圧縮されていた場合でも、違和感の無い遅延の少ない音声を再生することができる。
【0029】
【発明の効果】
以上説明したように、本発明によれば、受信バッファ手段の使用量を監視し、アンダーフロー状態になりそうなときは音声データのデータ量を波形加工補正により増加させ、またオーバーフロー状態になりそうなときは音声データのデータ量を波形加工補正により削減させることにより、アンダーフロー状態およびオーバーフロー状態を回避させることができ、ネットワークの伝送揺らぎが生じても違和感の無い音声を再生することができる。
【図面の簡単な説明】
【図1】本発明の一実施の形態の音声受信装置を示すブロック図
【図2】本発明の一実施の形態の音声受信装置の使用形態を示す構成図
【図3】本発明の一実施の形態の音声受信装置の音声データのパケット化を示す図
【図4】本発明の一実施の形態の音声受信装置の音声データのバッファリングを示す図
【図5】本発明の一実施の形態の音声受信装置の受信バッファ手段と再生の関係を示す図
【図6】本発明の一実施の形態の音声受信装置の音声データのデータ量増加を示す図
【図7】本発明の一実施の形態の音声受信装置の音声データのデータ量削減を示す図
【図8】本発明の一実施の形態の音声受信装置の波形加工補正による再生音声波形を示す図
【図9】本発明の一実施の形態の音声受信装置の波形加工補正による再生音声波形をマクロ的に見た図
【図10】本発明の一実施の形態の他の態様の音声受信装置のリアルタイム音声用バッファ制御装置を示すブロック図
【図11】従来のリアルタイム音声用バッファ制御装置を示すブロック図
【図12】従来のリアルタイム音声用バッファ制御装置の受信バッファと再生の関係を示す図
【図13】従来のリアルタイム音声用バッファ制御装置の再生音声波形を示す図
【図14】従来のリアルタイム音声用バッファ制御装置の再生音声波形をマクロ的に見た図
【符号の説明】
1 音声受信装置
2 ネットワーク
3 音声送出装置
11 リアルタイム音声用バッファ制御装置
111 パケット受信手段
112 受信バッファ手段
113 受信バッファ監視手段
114 音声波形データ波形加工補正手段
131 圧縮音声デコード手段
12 音声再生手段
13 リアルタイム音声用バッファ制御装置
200 リアルタイム音声用バッファ制御装置
201 受信バッファ
202 再生制御モジュール
203 スイッチャ
204 高速再生モジュール
205 音声デコーダ
300 音声再生モジュール[0001]
TECHNICAL FIELD OF THE INVENTION
The present invention relates to a system for performing real-time voice communication via a network that provides a packet transfer service, and relates to a real-time voice buffer control device that controls a buffer on the receiving side.
[0002]
[Prior art]
Conventionally, when real-time voice communication is performed via a packet transfer network, voice data exceeding the buffer capacity is lost if there is data transfer exceeding the buffer capacity on the receiving side due to data transmission fluctuation (jitter) on the network. In addition, when the delay in the network increases, the audio data is interrupted.
[0003]
To reduce the loss of audio data exceeding the buffer capacity due to such jitter, a real-time audio buffer control device has been proposed.
[0004]
As shown in FIG. 11, the real-time audio
[0005]
The real-time audio
[0006]
[Patent Document 1]
JP 2000-295286 A
[Problems to be solved by the invention]
However, in such a conventional real-time audio buffer control device, although it is possible to reduce the loss of audio data exceeding the buffer capacity, it is possible to cope with a case where audio data is interrupted due to a network transmission delay. Therefore, it is necessary to increase the buffer capacity, and the delay increases.
[0008]
If the buffer capacity is reduced in order to reduce the delay, as shown in FIG. 12, even after the reproduction of the audio data is completed, a state occurs in which the next audio data cannot be made in time due to jitter (a state in which the jitter cannot be absorbed). As shown in FIG. 13, the sound waveform is disturbed, and as a whole (as viewed in a macro) the sound waveform becomes discontinuous as compared with the original sound as shown in FIG. There is a problem.
[0009]
SUMMARY OF THE INVENTION The present invention has been made to solve such a problem, and an object of the present invention is to provide a real-time audio buffer control device capable of reproducing sound without any uncomfortable feeling even when network transmission fluctuations occur.
[0010]
[Means for Solving the Problems]
The real-time audio buffer control device of the present invention is a reception buffer unit for temporarily storing received audio data, and an upper limit and a lower limit are set in advance, and the usage amount of the reception buffer is set to the lower limit. The receiving buffer monitoring means for detecting and outputting that the amount has fallen or the usage amount of the reception buffer means has exceeded the upper limit, and the reception buffer monitoring means has determined that the usage amount of the reception buffer means has reached the lower limit. When the output of the reception buffer unit is output, the audio data output by the reception buffer unit is subjected to waveform processing correction to increase the data amount, and the reception buffer monitoring unit determines that the usage amount of the reception buffer unit exceeds the upper limit value. When audio data is output, the audio data output by the reception buffer means is subjected to waveform processing correction to reduce the data amount. It has a configuration and a correcting means.
[0011]
With this configuration, when the usage amount of the reception buffer means falls below the lower limit value, the data amount of the audio data is increased to avoid an underflow state, and when the usage amount of the reception buffer means exceeds the upper limit value, the audio data is reduced. To reduce the amount of data to avoid an overflow state.
[0012]
Here, if the received audio data is compressed audio data that has been subjected to data compression, a configuration is provided in which compressed audio decoding means is provided for decoding the compressed audio data, restoring the audio data, and outputting the restored audio data to the reception buffer means.
With this configuration, it is also possible to process audio data that has been compressed.
[0013]
BEST MODE FOR CARRYING OUT THE INVENTION
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
FIG. 1 is a diagram showing a configuration of a voice receiving device according to an embodiment of the present invention.
[0014]
As shown in FIG. 1, the
[0015]
The real-time audio
[0016]
As shown in FIG. 2, such a
[0017]
When transmitting an audio having a waveform as shown in FIG. 3A, the
[0018]
As shown in FIG. 4, the
[0019]
As shown in FIG. 5, the
[0020]
It is preferable that a certain amount of data is always stored in the
[0021]
If the capacity of the reception buffer means 112 is increased to prevent this state, a delay occurs in the reproduction of the audio data, and the audio data to be received and stored exceeds the capacity of the reception buffer means 112 (overflow state). )Become.
[0022]
In the real-time audio
[0023]
Specifically, the receiving
[0024]
When notified that the buffer usage of the
[0025]
When notified that the buffer usage of the
[0026]
The reproduced waveform of the audio data subjected to the waveform processing correction is as shown in FIG. 8, and when viewed macroscopically, as shown in FIG. 9, the waveform is continuous and has no delay.
[0027]
As described above, in the present embodiment, the buffer usage of the
[0028]
As another aspect of the present embodiment, as shown in FIG. 10, when the audio data output by the
[0029]
【The invention's effect】
As described above, according to the present invention, the usage amount of the reception buffer means is monitored, and when an underflow state is likely to occur, the data amount of audio data is increased by waveform processing correction, and an overflow state is likely to occur. In such a case, by reducing the data amount of the audio data by the waveform processing correction, the underflow state and the overflow state can be avoided, and the audio can be reproduced without a sense of incongruity even if the network transmission fluctuation occurs.
[Brief description of the drawings]
FIG. 1 is a block diagram illustrating a voice receiving apparatus according to an embodiment of the present invention; FIG. 2 is a configuration diagram illustrating a use form of the voice receiving apparatus according to an embodiment of the present invention; FIG. FIG. 4 is a diagram showing packetization of voice data of the voice receiving device according to the embodiment of the present invention; FIG. 4 is a diagram showing buffering of voice data of the voice receiving device according to the embodiment of the present invention; FIG. FIG. 6 is a diagram showing a relationship between reception buffer means and reproduction of the audio receiving device of FIG. 6 FIG. 6 is a diagram showing an increase in the amount of audio data of the audio receiving device of one embodiment of the present invention FIG. FIG. 8 is a diagram showing a data amount reduction of the audio data of the audio receiving device according to the embodiment. FIG. 8 is a diagram showing a reproduced audio waveform by waveform processing correction of the audio receiving device according to the embodiment of the present invention. The reproduced audio waveform by the waveform processing correction of the audio FIG. 10 is a block diagram showing a real-time audio buffer control device of an audio receiving device according to another embodiment of the present invention. FIG. 11 shows a conventional real-time audio buffer control device. FIG. 12 is a diagram showing a relationship between a reception buffer and a reproduction of a conventional real-time audio buffer control device. FIG. 13 is a diagram showing a reproduction audio waveform of a conventional real-time audio buffer control device. Macro view of the reproduced audio waveform of the audio buffer controller [Explanation of the symbols]
REFERENCE SIGNS
Claims (2)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003057087A JP2004266724A (en) | 2003-03-04 | 2003-03-04 | Real time voice buffer control apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003057087A JP2004266724A (en) | 2003-03-04 | 2003-03-04 | Real time voice buffer control apparatus |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004266724A true JP2004266724A (en) | 2004-09-24 |
Family
ID=33120597
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003057087A Pending JP2004266724A (en) | 2003-03-04 | 2003-03-04 | Real time voice buffer control apparatus |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004266724A (en) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008512062A (en) * | 2004-08-30 | 2008-04-17 | クゥアルコム・インコーポレイテッド | Method and apparatus for adaptive dejitter buffer |
JP2008311887A (en) * | 2007-06-14 | 2008-12-25 | Nec Access Technica Ltd | Sound signal receiver, sound signal communication equipment, and sound signal receiving method |
JP2009065607A (en) * | 2007-09-10 | 2009-03-26 | Oki Electric Ind Co Ltd | JITTER BUFFER CONTROL METHOD AND VoIP TERMINAL |
WO2010082236A1 (en) * | 2009-01-16 | 2010-07-22 | パナソニック株式会社 | Buffer controller and radio communication terminal |
US8085678B2 (en) | 2004-10-13 | 2011-12-27 | Qualcomm Incorporated | Media (voice) playback (de-jitter) buffer adjustments based on air interface |
US8155965B2 (en) | 2005-03-11 | 2012-04-10 | Qualcomm Incorporated | Time warping frames inside the vocoder by modifying the residual |
US8355907B2 (en) | 2005-03-11 | 2013-01-15 | Qualcomm Incorporated | Method and apparatus for phase matching frames in vocoders |
-
2003
- 2003-03-04 JP JP2003057087A patent/JP2004266724A/en active Pending
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008512062A (en) * | 2004-08-30 | 2008-04-17 | クゥアルコム・インコーポレイテッド | Method and apparatus for adaptive dejitter buffer |
US7817677B2 (en) | 2004-08-30 | 2010-10-19 | Qualcomm Incorporated | Method and apparatus for processing packetized data in a wireless communication system |
US7826441B2 (en) | 2004-08-30 | 2010-11-02 | Qualcomm Incorporated | Method and apparatus for an adaptive de-jitter buffer in a wireless communication system |
US7830900B2 (en) | 2004-08-30 | 2010-11-09 | Qualcomm Incorporated | Method and apparatus for an adaptive de-jitter buffer |
US8331385B2 (en) | 2004-08-30 | 2012-12-11 | Qualcomm Incorporated | Method and apparatus for flexible packet selection in a wireless communication system |
US8085678B2 (en) | 2004-10-13 | 2011-12-27 | Qualcomm Incorporated | Media (voice) playback (de-jitter) buffer adjustments based on air interface |
US8155965B2 (en) | 2005-03-11 | 2012-04-10 | Qualcomm Incorporated | Time warping frames inside the vocoder by modifying the residual |
US8355907B2 (en) | 2005-03-11 | 2013-01-15 | Qualcomm Incorporated | Method and apparatus for phase matching frames in vocoders |
JP2008311887A (en) * | 2007-06-14 | 2008-12-25 | Nec Access Technica Ltd | Sound signal receiver, sound signal communication equipment, and sound signal receiving method |
JP4514161B2 (en) * | 2007-06-14 | 2010-07-28 | Necアクセステクニカ株式会社 | Audio signal receiving apparatus, audio signal communication apparatus, and audio signal receiving method |
JP2009065607A (en) * | 2007-09-10 | 2009-03-26 | Oki Electric Ind Co Ltd | JITTER BUFFER CONTROL METHOD AND VoIP TERMINAL |
WO2010082236A1 (en) * | 2009-01-16 | 2010-07-22 | パナソニック株式会社 | Buffer controller and radio communication terminal |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3925311B2 (en) | Data distribution system | |
JP4744444B2 (en) | STREAM DATA RECEIVING / REPRODUCING DEVICE, COMMUNICATION SYSTEM, AND STREAM DATA RECEIVING / REPRODUCING METHOD | |
JP4462996B2 (en) | Packet receiving method and packet receiving apparatus | |
JP4699947B2 (en) | Communication terminal device | |
JP2001045067A (en) | Voice transmission device | |
US7240013B2 (en) | Method and apparatus for controlling buffering of audio stream | |
JP2007194823A (en) | Video and audio controller, video and audio adjustment system, video and audio adjusting method, and program | |
JP4076981B2 (en) | Communication terminal apparatus and buffer control method | |
JP2008005392A (en) | Communication terminal device and buffer controlling method | |
JP2004266724A (en) | Real time voice buffer control apparatus | |
JP2002271389A (en) | Packet processor and packet processing method | |
US10812789B2 (en) | Encoding/transmitting apparatus and encoding/transmitting method | |
KR102506494B1 (en) | Transmission device, transmission method, reception device, reception method, and program | |
JP5186094B2 (en) | Communication terminal, multimedia playback control method, and program | |
JP5218995B2 (en) | Video playback terminal, video playback method and program | |
KR102510865B1 (en) | Signal processing device, signal processing method, and program | |
JP2000286886A (en) | System and method for absorbing fluctuation in delay | |
JP4376165B2 (en) | Receiver, clock adjustment method, and broadcasting system | |
JP2002112199A (en) | Receiving reproducing device and its method | |
JP2008113226A (en) | Communication apparatus and communication method | |
JP3827192B2 (en) | Multimedia communication terminal | |
JP5652776B2 (en) | Information processing device | |
JP2005292375A (en) | Audio-reproducing device and clock-frequency control method | |
JP2005323173A (en) | Information processor and method for processing information | |
KR100685982B1 (en) | Method and apparatus for synchronization of media information |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060124 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070423 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070508 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20070918 |