JP2007312122A - Network receiver - Google Patents

Network receiver Download PDF

Info

Publication number
JP2007312122A
JP2007312122A JP2006139267A JP2006139267A JP2007312122A JP 2007312122 A JP2007312122 A JP 2007312122A JP 2006139267 A JP2006139267 A JP 2006139267A JP 2006139267 A JP2006139267 A JP 2006139267A JP 2007312122 A JP2007312122 A JP 2007312122A
Authority
JP
Japan
Prior art keywords
buffer
playback
video data
data
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006139267A
Other languages
Japanese (ja)
Other versions
JP4933145B2 (en
Inventor
Noritaka Okuyama
宣隆 奥山
Satoru Mio
識 三尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2006139267A priority Critical patent/JP4933145B2/en
Publication of JP2007312122A publication Critical patent/JP2007312122A/en
Application granted granted Critical
Publication of JP4933145B2 publication Critical patent/JP4933145B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To prevent influence on image reproduction due to jitter or clock asynchronization between a transmitting side and a receiving side in the case of receiving real-time data through a network. <P>SOLUTION: Real-time image data received through a communication network 3 are written in a buffer 8, read out from the buffer 8 and decoded by a decoder 9 and the decoded data are supplied to a display 10 to reproduce an image. When data volume to be stored in the buffer 8 is reduced due to jitter in the received image data or clock asynchronization (frequency deviation) between the transmitting side and the receiving side and an underflow inclination is generated, slow reproduction or a display image is freezed for a short period, the data volume to be stored in the buffer 8 is increased to solve the underflow inclination. When the data volume to be stored in the buffer 8 is increased and an overflow inclination is generated, quick reproduction or reading from the buffer 8 is skipped for a short period and the data volume to be stored in the buffer 8 is reduced to solve the overflow inclination. <P>COPYRIGHT: (C)2008,JPO&INPIT

Description

本発明は、例えば、IP(Internet Protocol)放送などのネットワークを通じてリアルタイムで配信または放送される映像データを受信し、映像再生するネットワーク受信機に関する。   The present invention relates to a network receiver that receives video data distributed or broadcast in real time through a network such as an IP (Internet Protocol) broadcast and reproduces the video.

従来、送信側通信端末から受信側通信端末に画像データや音声データをリアルタイムで(即ち、送信側通信端末から一方的に)送信し、受信側通信端末でこれを受信して視聴するシステムが知られている。IP放送では、かかるリアルタイムで送信される画像データや音声データ(即ち、リアルタイムデータ)は、パケット化され、IPの規格に従って送信側通信端末から受信側通信端末への送信が行なわれ、番組の放送が行なわれる。   2. Description of the Related Art Conventionally, there is a known system in which image data and audio data are transmitted from a transmission side communication terminal to a reception side communication terminal in real time (that is, unilaterally from the transmission side communication terminal) and received and viewed by the reception side communication terminal. It has been. In IP broadcasting, such image data and audio data (that is, real-time data) transmitted in real time are packetized and transmitted from the transmitting communication terminal to the receiving communication terminal in accordance with the IP standard. Is done.

このように、通信端末間でかかるリアルタイムデータをパケット化して通信する場合、送信側通信端末では、リアルタイムデータがエンコードされ、パケット化されて送信され、受信側通信端末では、受信されたリアルタイムデータが受信したパケット順にバッファに書き込まれて一時保存され、書き込み順に読み出されてデコードされる。この場合、パケットのデコード順は受信時のパケットの順序と一致しなければならない。   In this way, when communication is performed by packetizing such real time data between communication terminals, the transmission side communication terminal encodes the real time data, packetizes and transmits the data, and the reception side communication terminal receives the received real time data. It is written in the buffer in the order of received packets and temporarily stored, and is read and decoded in the order of writing. In this case, the decoding order of the packets must match the order of the packets at the time of reception.

通信端末間でリアルタイムデータをパケット化して通信する場合、送信側通信端末と受信側通信端末とのクロックの同期を取るために、送信側通信端末では、リアルタイムデータをエンコードするためのクロックをカウントして、パケット毎にその送信時のクロックのカウント値をタイムスタンプとして付加し、受信側通信端末では、ここでも、デコードするためのクロックをカウントして、そのカウント値と受信したパケットのタイムスタンプとの差分を検出し、受信されるパケット毎のかかる差分値の変化状態から、送信側通信端末のクロックに受信側通信端末のクロックが同期しているか否か(即ち、周波数が一致しているか否か)を判定し、同期していなければ、クロックの周波数を制御するようにした技術が提案されている(例えば、特許文献1参照)。   When communication is performed by packetizing real-time data between communication terminals, the transmitter communication terminal counts the clock for encoding real-time data in order to synchronize the clocks of the transmitter communication terminal and the receiver communication terminal. Then, the count value of the clock at the time of transmission is added as a time stamp for each packet, and the receiving side communication terminal again counts the clock for decoding, and the count value and the time stamp of the received packet Whether or not the clock of the receiving communication terminal is synchronized with the clock of the transmitting communication terminal from the change state of the difference value for each received packet (that is, whether the frequencies match) If it is not synchronized, a technique has been proposed that controls the clock frequency (for example, , See Patent Document 1).

また、映像受信端末からの要求により、映像配信サーバから映像コンテンツファイルをこの要求した映像受信端末にダウンロードするようにしたシステムにおいて、映像配信サーバで配信する映像コンテンツファイルの映像データのフレーム毎にタイムスタンプを付加し、映像受信端末でかかる映像データを受信してバッファに一時記憶し、クロックのカウント値とこのタイムスタンプとを基に、このバッファから映像データの各フレームをそのバッファへの書込み順に読み出してデコードする技術が開示されている(例えば、特許文献2参照)。   Also, in a system in which a video content file is downloaded from the video distribution server to the requested video receiving terminal in response to a request from the video receiving terminal, a time is set for each frame of video data of the video content file distributed by the video distribution server. A stamp is added, and the video receiving terminal receives the video data and temporarily stores it in the buffer. Based on the clock count value and this time stamp, each frame of video data from this buffer is written in the order of writing to the buffer. A technique for reading and decoding is disclosed (for example, see Patent Document 2).

そして、この特許文献2に記載の技術では、映像受信端末でバッファから映像データを読み出し、デコードして映像再生が行なわれているときに、通信障害が発生した映像受信端末で映像データが受信できなくなり、バッファでの映像データの蓄積データ量が次第に減少して設定された下限閾値(アンダーフロー用閾値)以下になってバッファがアンダーフローすると、通信障害が回復して映像データのダウンロートを再開できるまで、バッファからの映像データの読み出しを停止して映像再生を中断し、また、映像受信端末でバッファから映像データを読み出し、デコードして映像再生が行なわれているときに、バッファで映像データの蓄積データ量が次第に増加して設定された上限閾値(オーバーフロー用閾値)以上のオーバーフロー状態となると、映像配信サーバからの配信を停止させ、バッファからの映像データの読み出しと映像再生をそのまま継続し、バッファでの映像データの蓄積データ量がオーバーフロー用閾値以下となると、映像配信サーバからのダウンロートを再開させるようにしている。   In the technique described in Patent Document 2, when video data is read from the buffer and decoded and reproduced by the video receiving terminal, the video receiving terminal where the communication failure has occurred can receive the video data. When the buffer is underflowed when the amount of video data stored in the buffer gradually decreases and falls below the set lower threshold (underflow threshold), the communication failure is recovered and video data download resumes. Until it is possible to stop reading video data from the buffer and interrupt video playback, and when the video data is read from the buffer and decoded by the video receiving terminal, video data is read from the buffer. Overflow condition that exceeds the upper limit threshold (threshold for overflow) set by increasing the amount of stored data gradually Then, the distribution from the video distribution server is stopped, the reading of the video data from the buffer and the video reproduction are continued, and when the accumulated data amount of the video data in the buffer falls below the overflow threshold, The download is resumed.

なお、以上のように使用されるバッファでは、映像データが先頭のアドレスから書き込まれ、最終アドレスまで書き込まれると、先頭のアドレスに戻ってそこから再び書込みが行なわれるものであって、映像データの読み出しも同様である。このように、バッファは機能的にリング状をなしているものであって、書込みが先行し、読出しがその後から追い掛けるように動作する。ここで、かかるバッファでの上記の蓄積データ量は、バッファに書き込まれたが、まだ読み出されていない映像データのデータ量であり、バッファのアンダーフローは、バッファでの蓄積データ量が減少し過ぎてバッファでの読出し位置(アドレス)が書込み位置を追い越してしまう状態をいう。また、バッファのオーバーフローは、バッファでの蓄積データ量が増加し過ぎてバッファでの書込み位置が読出し位置を追い越してしまう状態をいう。
特開2000−332802号公報 特開2003−289526号公報
In the buffer used as described above, the video data is written from the head address, and when it is written to the last address, it returns to the head address and is written again from there. The same applies to reading. Thus, the buffer is functionally ring-shaped, and operates so that writing precedes and reading follows after that. Here, the amount of accumulated data in such a buffer is the amount of video data that has been written to the buffer but has not yet been read. Underflow of the buffer reduces the amount of accumulated data in the buffer. This is a state where the reading position (address) in the buffer overtakes the writing position. In addition, the buffer overflow is a state in which the amount of data stored in the buffer increases excessively and the write position in the buffer overtakes the read position.
JP 2000-332802 A JP 2003-289526 A

ところで、通信端末間で映像データの通信を行なうと、通信ネットワーク上でジッタが生ずると、等価的に伝送レートが変化した状態となる。かかるジッタによると、受信側通信端末でのデコードのためのバッファへの映像データの書込み速度が変化することになり、この書込み速度の変化が加算されることにより、バッファはアンダーフローし、あるいはオーバーフローする。また、送信側通信端末と受信側通信端末とでのクロックの周波数にずれ(同期ずれ)があると、かかる同期ずれが微小なものであっても、受信側通信端末の上記バッファでは、映像データの書込み速度と読み出し速度との違いが生じ、この速度の違いが累積されて、バッファがアンダーフローし、あるいはオーバーフローする。   By the way, when video data is communicated between communication terminals, if jitter occurs on the communication network, the transmission rate is equivalently changed. According to such jitter, the writing speed of the video data to the buffer for decoding at the receiving communication terminal changes, and the buffer underflows or overflows by adding this change in writing speed. To do. Further, if there is a deviation (synchronization deviation) in the clock frequency between the transmission side communication terminal and the reception side communication terminal, even if the synchronization deviation is minute, the video data is stored in the buffer of the reception side communication terminal. A difference between the writing speed and the reading speed occurs, and the difference in speed is accumulated, and the buffer underflows or overflows.

そこで、上記特許文献1に記載の技術のように、リアルタイムデータを受信する場合には、受信側通信端末のバッファにおいて、カウンタによるクロックのカウント値に一致したタイムスタンプが付加されたパケットを読み出すものであるから、通信ネットワークでのジッタや送信側と受信側通信端末とのクロックの同期ずれによってバッファがアンダーフローし、上記のように、バッファでの読出し位置が書込み位置を追い越すと、クロックのカウント値にタイムスタンプが一致するパケットのバッファへの書込みタイミングがこのクロックのカウント値のタイミングよりも遅れることになって、クロックのカウント値に一致するタイムスタンプのパケットがバッファ内に存在しなくなり、バッファからパケットを読み出すことができなくなって映像再生ができなくなる。   Therefore, as in the technique described in Patent Document 1, when receiving real-time data, a buffer of the receiving communication terminal reads a packet with a time stamp that matches the count value of the clock by the counter. Therefore, if the buffer underflows due to jitter in the communication network or a clock synchronization error between the transmitting and receiving communication terminals, and the read position in the buffer overtakes the write position as described above, the clock count The write timing to the buffer of the packet whose time stamp matches the value is later than the timing of the count value of this clock, and the packet of the time stamp that matches the count value of the clock does not exist in the buffer. Unable to read packet from It becomes impossible to video playback me.

また、バッファがオーバーフローしたときには、逆に、バッファでの書込み位置が読出し位置を追い越すことになるので、この追越しの位置からは、クロックのカウント値とはかけ離れたタイムスタンプのパケットに書き換えられることになり、クロックのカウント値に一致したタイムスタンプのパケットが失われてしまう。これにより、バッファからパケットを読み出すことができず、映像再生ができなくなる。   On the other hand, when the buffer overflows, the write position in the buffer overtakes the read position, and from this overtake position, it is rewritten to a time stamp packet far from the clock count value. Thus, the time stamp packet that matches the count value of the clock is lost. As a result, packets cannot be read from the buffer, and video playback cannot be performed.

また、上記特許文献2に記載の技術では、バッファの蓄積データ量がアンダーフロー制御用の閾値以下となると、このバッファからの映像データの読出しが禁止されてバッファへの映像データの蓄積が行なわれるから、バッファのアンダーフローを回避できるし、また、バッファの蓄積データ量がオーバーフロー制御用の閾値以上となると、映像配信サーバからのダウンロードを禁止してバッファへの映像データの蓄積を禁止して映像データの読み出しを継続するから、オーバーフロー状態も回避できる。   In the technique described in Patent Document 2, when the amount of data stored in the buffer is equal to or less than a threshold for underflow control, reading of the video data from the buffer is prohibited and the video data is stored in the buffer. Therefore, underflow of the buffer can be avoided, and if the amount of data stored in the buffer exceeds the threshold for overflow control, downloading from the video distribution server is prohibited and video data is not stored in the buffer. Since data reading is continued, an overflow condition can be avoided.

しかし、このことは、映像配信サーバからの映像コンテンツファイルのダウンロードが映像受信端末からの要求によって行なわれるものであるから可能であり、上記特許文献1に記載のような一方的に送信されるリアルタイムの映像データや音声データを扱うシステムに適用することはできない。   However, this is possible because the download of the video content file from the video distribution server is performed in response to a request from the video receiving terminal, and the real-time transmitted unilaterally as described in Patent Document 1 above. It cannot be applied to systems that handle video data and audio data.

即ち、IP放送システムのような送信装置側から一方的に映像データや音声データが送信されるリアルタイムデータの通信システムでは、受信側通信端末側の受信状態に関係なく、リアルタイムデータの送信が行なわれるものであるから、通信ネットワークでのジッタや送信側,受信側でのクロックの微小な周波数ずれの蓄積により、受信側通信端末のデコードのためのバッファにオーバーフローが生じても、上記特許文献2に記載の発明のように、送信装置でのリアルタイムデータの送信を中断させることができず、受信側通信端末でリアルタイムデータの受信を中断せざるを得ず、この結果、この受信中断期間でリアルタイムデータが失われることになる。バッファにアンダーフローが生じた場合には、受信側通信端末でのリアルタイムデータの受信の中断はないから、リアルタイムデータが失われることはないが、アンダーフローが解除するまで映像再生が中断されることになり、この間、ユーザは映像を視聴することができず、IP放送などのリアルタイムデータの映像,音声の再生の連続性が損なわれてユーザに不自然な感じを与えることになる。   That is, in a real-time data communication system in which video data and audio data are transmitted unilaterally from a transmitting device such as an IP broadcast system, real-time data is transmitted regardless of the reception state on the receiving communication terminal side. Therefore, even if an overflow occurs in the decoding buffer of the receiving communication terminal due to the accumulation of jitter in the communication network and the minute frequency deviation of the clock on the transmitting side and the receiving side, the above-mentioned Patent Document 2 Like the described invention, the transmission of the real-time data in the transmission device cannot be interrupted, and reception of the real-time data must be interrupted in the receiving side communication terminal. As a result, the real-time data is received in this reception interruption period. Will be lost. When underflow occurs in the buffer, real-time data reception is not interrupted at the receiving communication terminal, so real-time data will not be lost, but video playback will be interrupted until underflow is canceled. During this time, the user cannot view the video, and the continuity of playback of video and audio of real-time data such as IP broadcast is impaired, giving the user an unnatural feeling.

本発明の目的は、かかる問題を解消し、通信ネットワークを通じて映像データや音声データのリアルタイムデータを受信する際、通信ネットワークでのジッタや送信側でのクロックとのクロック同期ずれ(周波数のずれ)が発生しても、受信したリアルタイムデータの映像や音声を滑らかに再生可能としたネットワーク受信機を提供することにある。   The object of the present invention is to solve such problems, and when receiving real-time data of video data or audio data through a communication network, jitter in the communication network or clock synchronization shift (frequency shift) with the clock on the transmission side It is an object of the present invention to provide a network receiver that can smoothly reproduce video and audio of received real-time data even if it occurs.

上記目的を達成するために、本発明は、ネットワークを通じてリアルタイムで配信または放送される映像データを受信して再生するネットワーク受信機であって、受信した該映像データを一時蓄積するバッファと、該バッファから読み出された該映像データをデコードするデコーダと、該デコーダでデコードされた該映像データが供給されて映像再生するディスプレイと、該バッファや該デコーダを制御する制御部とを備え、該制御部の制御により、該映像データによる通常速の再生中での該バッファでの該映像データの蓄積データ量を管理し、該バッファの蓄積データ量の増減に応じた短い所定期間特殊再生を実行し、該所定時間の経過とともに、該特殊再生から該通常速の再生に復帰することを特徴とするものである。   In order to achieve the above object, the present invention provides a network receiver for receiving and reproducing video data distributed or broadcasted in real time through a network, a buffer for temporarily storing the received video data, and the buffer A decoder that decodes the video data read from the display, a display that is supplied with the video data decoded by the decoder and plays back video, and a control unit that controls the buffer and the decoder. To control the amount of stored data of the video data in the buffer during normal speed playback of the video data, and execute special playback for a short predetermined period according to the increase or decrease of the amount of stored data in the buffer, The special reproduction is restored to the normal speed reproduction with the elapse of the predetermined time.

また、本発明は、通常速の再生時に前記バッファの蓄積データ量が設定された許容下限閾値よりも少ないアンデーフロー傾向になったときに、前記特殊再生としてスロー再生を実行し、通常速の再生時に前記バッファの蓄積データ量が設定された許容上限閾値よりも多いオーバーフロー傾向になったときに、前記特殊再生として速見再生を実行することを特徴とするものである。   In addition, the present invention performs slow playback as the special playback when the amount of data stored in the buffer tends to be less than a set allowable lower limit threshold during normal speed playback, and performs normal speed playback. When the amount of data stored in the buffer tends to overflow more than a set allowable upper limit threshold value, fast-playing is executed as the special playback.

また、本発明は、前記スロー再生が、前記通常速の再生に対して約0.8倍速の再生であって、前記速見再生が、前記通常速の再生に対して約1.5倍速の再生であることを特徴とするものである。   In the present invention, the slow playback is about 0.8 times faster playback than the normal speed playback, and the fast-view playback is about 1.5 times faster playback than the normal speed playback. It is characterized by being.

また、本発明は、前記所定期間がタイマによって設定されることを特徴とするものである。   Further, the present invention is characterized in that the predetermined period is set by a timer.

また、本発明は、前記所定期間が、前記アンダーフロー傾向もしくは前記オーバーフローが前記特殊再生の実行によって解消したことを検出することにより、終了することを特徴とするものである。   Further, the present invention is characterized in that the predetermined period ends when it is detected that the underflow tendency or the overflow has been eliminated by executing the special reproduction.

上記目的を達成するために、本発明は、ネットワークを通じてリアルタイムで配信または放送される映像データを受信して再生するネットワーク受信機であって、受信した該映像データを一時蓄積するバッファと、該バッファから読み出された該映像データをデコードするデコーダと、該デコーダでデコードされた該映像データが供給されて映像再生するディスプレイと、該バッファや該デコーダを制御する制御部とを備え、該制御部の制御により、該映像データによる通常速の再生中に該バッファでの該映像データの蓄積データ量を管理し、(1)通常速の再生時に前記バッファの蓄積データ量が設定された許容下限閾値よりも少ないアンデーフロー傾向になったときに、短い所定期間前記バッファからの前記映像データの読み出しを停止して、前記ディスプレイでの再生画像をフリーズ状態とする特殊再生を行ない、該所定期間の経過後、該通常速の再生に復帰し、(2)通常速の再生時に前記バッファの蓄積データ量が設定された許容上限閾値よりも多いオーバーフロー傾向になったときに、前記特殊再生として、前記バッファでの映像データの読み出しをフレーム単位でスキップし、該スキップの終了とともに、該通常速の再生に復帰することを特徴とするものである。   In order to achieve the above object, the present invention provides a network receiver for receiving and reproducing video data distributed or broadcasted in real time through a network, a buffer for temporarily storing the received video data, and the buffer A decoder that decodes the video data read from the display, a display that is supplied with the video data decoded by the decoder and plays back video, and a control unit that controls the buffer and the decoder. To control the accumulated data amount of the video data in the buffer during normal speed reproduction by the video data, and (1) an allowable lower limit threshold in which the accumulated data amount of the buffer is set during normal speed reproduction. Stop reading the video data from the buffer for a short period of time when there is a trend of less thanday flow Then, special playback is performed to freeze the playback image on the display, and the normal speed playback is resumed after the predetermined period. (2) The amount of data stored in the buffer is set during normal speed playback. When the overflow tendency exceeds the allowable upper limit threshold, the video data reading in the buffer is skipped frame by frame as the special reproduction, and the normal speed reproduction is resumed at the end of the skip. It is characterized by this.

また、本発明は、前記バッファがアンターフロー傾向となって前記再生画像をフリーズ状態とする前記所定期間は、タイマによって設定することを特徴とするものである。   Further, the present invention is characterized in that the predetermined period during which the buffer is in an underflow tendency and the reproduced image is frozen is set by a timer.

また、本発明は、前記通常速の再生から前記特殊再生への切り替えは、前記映像データによる映像のシーンの切り替え部とすることを特徴とするものである。   Further, the present invention is characterized in that the switching from the normal speed reproduction to the special reproduction is a video scene switching unit based on the video data.

また、本発明は、前記通常速の再生から前記特殊再生への切り替えは、前記映像データによる映像の無音声部分とすることを特徴とするものてある。   Further, the present invention is characterized in that the switching from the normal speed reproduction to the special reproduction is performed as an audioless portion of the video based on the video data.

また、本発明は、前記特殊再生を行なう前記所定期間は、GOPでのIピクチャの周期以下とすることを特徴とするものである。   Further, the present invention is characterized in that the predetermined period during which the special reproduction is performed is equal to or less than the period of the I picture in the GOP.

本発明によると、通信ネットワークでリアルタイムデータにジッタが発生したり、送信側と受信側とのクロックに同期ずれがあったりすることにより、受信したリアルタイムデータのデコードのためのバッファがアンダーフロー傾向やオーバーフロー傾向になっても、短い時間だけ特殊再生を行なうことにより、映像の再生に乱れや違和感をほとんど生じることなく、アンダーフロー傾向やオーバーフロー傾向解消して再生を継続させることができる。   According to the present invention, the jitter for real-time data in the communication network or the synchronization between the clocks of the transmission side and the reception side may cause the buffer for decoding the received real-time data to have an underflow tendency. Even if an overflow tendency occurs, special playback is performed only for a short time, so that the playback of the video can be continued and the underflow tendency or the overflow tendency can be eliminated with almost no disturbance or incongruity.

以下、本発明の実施形態を図面を参照して説明する。   Hereinafter, embodiments of the present invention will be described with reference to the drawings.

図1は本発明によるネットワーク受信機の第1の実施形態を用いた通信システムを示す構成図であって、1はこの実施形態のネットワーク受信機、2はデータ送出装置、3は通信ネットワーク、4はエンコーダ、5は送出部、6はクロック発生部、7は受信部、8はバッファ、9はデコーダ、10はディスプレイ、11は制御部、12はクロック発生部である。   FIG. 1 is a block diagram showing a communication system using a first embodiment of a network receiver according to the present invention, where 1 is a network receiver of this embodiment, 2 is a data transmission device, 3 is a communication network, 4 Is an encoder, 5 is a sending unit, 6 is a clock generating unit, 7 is a receiving unit, 8 is a buffer, 9 is a decoder, 10 is a display, 11 is a control unit, and 12 is a clock generating unit.

同図において、データ送出装置2では、図示しない信号源からのリアルタイムの画像データや音声データ(以下、これらを映像データという)がエンコーダ4に供給され、クロック発生部6からのクロック(送信側のクロック)φ1を用いてエンコードされる。かかるエンコードの方式としては、例えば、MPEG(Moving Picture Experts Group phase)2または4の規格に基づく圧縮符号化方式が用いられる。エンコードされた映像データは送出部5に供給され、例えば、IP(Internet Protocol)に従ってパケット化されてインターネットなどの通信ネットワーク3に送出され、ネットワーク受信機1に配信または放送される。映像データのかかる送信は、データ送出装置2によって一方的に規定される送り出し下で行なわれる。なお、ここでは、代表として、ネットワーク受信機1を1つのみ示している。   In the figure, in the data transmission device 2, real-time image data and audio data (hereinafter referred to as video data) from a signal source (not shown) are supplied to the encoder 4, and a clock (from the transmission side) is transmitted from the clock generator 6. Clock) φ1 is used for encoding. As such an encoding method, for example, a compression coding method based on MPEG (Moving Picture Experts Group phase) 2 or 4 standard is used. The encoded video data is supplied to the sending unit 5, packetized according to, for example, IP (Internet Protocol), sent to the communication network 3 such as the Internet, and distributed or broadcast to the network receiver 1. Such transmission of the video data is performed under a transmission unilaterally defined by the data transmission device 2. Here, only one network receiver 1 is shown as a representative.

ネットワーク受信機1では、通信ネットワーク3を通して送られてくるIPによる映像データが受信部7で受信される(ここでは、映像データが画像データと音声データとに分離されるが、ここでは、まとめて映像データとして説明する)。この映像データは、制御部11の制御のもとに、そのパケットが順次バッファ8に蓄積され、順次読み出されてデコーダ9に供給される。デコーダ9では、制御部11の制御のもとに、バッファ8から順次供給される映像データのパケットがクロック発生部12からのクロックφ2を用いてデコードされる。デコードされた映像データはディスプレイ10に供給され、例えば、IP放送の映像として、映像表示される。   In the network receiver 1, video data based on IP sent through the communication network 3 is received by the receiving unit 7 (here, the video data is separated into image data and audio data, but here, collectively Explained as video data). The video data is sequentially stored in the buffer 8 under the control of the control unit 11, sequentially read out, and supplied to the decoder 9. In the decoder 9, the video data packets sequentially supplied from the buffer 8 are decoded using the clock φ 2 from the clock generator 12 under the control of the controller 11. The decoded video data is supplied to the display 10 and displayed as, for example, an IP broadcast video.

バッファ8では、受信された映像データがそのクロックφのタイミングで書き込まれ、クロック発生部12からのクロック(受信側のクロック)φ2のタイミングで読み出されるのであるが、通信ネツトワーク3での伝送中、この映像データにジッタ(周波数変動)が生ずると(この場合には、この受信された映像データのクロックφが周波数変動する)、あるいはまた、送信側でのクロックφ1と受信側のクロックφ2とに周波数のずれ(クロックの同期ずれ)があると、かかるクロックの同期ずれが微小であっても、バッファ8での映像データの書込みレートと読出しレートとに差が生ずることになり、かかるレートの差が加算されることにより、バッファ8にアンダーフローやオーバーフローが生ずることになる。   In the buffer 8, the received video data is written at the timing of the clock φ, and is read out at the timing of the clock (reception side clock) φ 2 from the clock generation unit 12, but is being transmitted in the communication network 3. When jitter (frequency fluctuation) occurs in the video data (in this case, the clock φ of the received video data fluctuates), or the clock φ1 on the transmission side and the clock φ2 on the reception side If there is a frequency shift (clock synchronization shift), even if the clock synchronization shift is very small, a difference occurs between the video data writing rate and the reading rate in the buffer 8, By adding the difference, underflow or overflow occurs in the buffer 8.

図2(a)はバッファ8がアンダーフローの傾向になった状態を示すものであって、これは、蓄積データ量Vがバッファ8に設定されている蓄積データ量の許容下限閾値TH1以下となったときの状態をいうものである。ここで、バッファ8は、上記のように、機能的にリング状をなしているものであって、その蓄積データ量Vはバッファ8内での読出しが行なわれていない映像データのデータ量をいうものである。   FIG. 2A shows a state in which the buffer 8 tends to underflow. This is because the accumulated data amount V is equal to or less than the allowable lower limit threshold TH1 of the accumulated data amount set in the buffer 8. This is the state when Here, the buffer 8 is functionally ring-shaped as described above, and the accumulated data amount V is the amount of video data that has not been read out in the buffer 8. Is.

上記のように、受信された映像データにジッタが含まれ、あるいは送信側のクロックφ1と受信側のクロックφ2との間に同期ずれがあり、これにより、バッファ8への映像データの書込みレートがバッファ8からの読出しレートよりも小さいと、バッファ8内の蓄積データ量Vが時間経過とともに減少する。制御部11はバッファ8での蓄積データ量Vを常時監視しており、図2(a)に示すように、この蓄積データ量Vが許容下限閾値TH1以下となると、制御部11は、バッファ8がアンダーフローの傾向になったと判定し、このアンダーフロー傾向を解除するための後述する制御処理を行なう。   As described above, the received video data includes jitter, or there is a synchronization shift between the clock φ1 on the transmission side and the clock φ2 on the reception side, so that the writing rate of the video data to the buffer 8 is increased. When the reading rate from the buffer 8 is smaller, the accumulated data amount V in the buffer 8 decreases with time. The control unit 11 constantly monitors the accumulated data amount V in the buffer 8, and as shown in FIG. 2A, when the accumulated data amount V becomes equal to or less than the allowable lower limit threshold TH1, the control unit 11 Is determined to have an underflow tendency, and a control process to be described later for canceling the underflow tendency is performed.

また、図2(b)はバッファ8がオーバーフローの傾向になった状態を示すものであって、これは、蓄積データ量Vがバッファ8に設定されている蓄積データ量の許容上限閾値TH2以下となったときの状態をいうものである。   FIG. 2B shows a state in which the buffer 8 tends to overflow. This is because the accumulated data amount V is equal to or less than the allowable upper limit threshold TH2 of the accumulated data amount set in the buffer 8. It means the state when it becomes.

上記のように、受信された映像データにジッタが含まれ、あるいは送信側のクロックφ1と受信側のクロックφ2との間に同期ずれがあり、これにより、バッファ8への映像データの書込みレートがバッファ8からの読出しレートよりも大きいと、バッファ8内の蓄積データ量Vが時間経過とともに増加し、図2(b)に示すように、この蓄積データ量Vが許容上限閾値TH2以上となると、制御部11は、バッファ8がオーバーフローの傾向になったと判定し、このオーバフロー傾向を解除するための後述する制御処理を行なう。   As described above, the received video data includes jitter, or there is a synchronization shift between the clock φ1 on the transmission side and the clock φ2 on the reception side, so that the writing rate of the video data to the buffer 8 is increased. When the reading rate from the buffer 8 is larger, the accumulated data amount V in the buffer 8 increases with time, and as shown in FIG. 2B, when this accumulated data amount V becomes equal to or greater than the allowable upper limit threshold TH2, The control unit 11 determines that the buffer 8 has a tendency to overflow, and performs control processing to be described later for canceling this overflow tendency.

図3は図1におけるネットワーク受信機1の第1の実施形態での制御部11の制御ルーチンを示すフローチャートである。   FIG. 3 is a flowchart showing a control routine of the control unit 11 in the first embodiment of the network receiver 1 in FIG.

同図において、バッファ8から映像データが読み出され、デコーダ9でデコードされてディスプレイ10で通常速の映像再生が行なわれているときには(ステップS101の“Y”)、バッファ8での蓄積データ量Vが許容下限閾値TH1よりも少ないか否か判定する(ステップS102)。図2(a)に示すように少なくなった場合には(ステップS102の“Y”)、バッファ8がアンダーフローの傾向になったとして、例えば、通常速の映像再生の0.8倍速のスロー再生を短時間行なうように、バッファ8での読み出しやデコーダ9などを制御する(ステップS103)。このスロー再生の実行時間は図示しないタイマによって計測するものであって、このスロー再生の開始とともに、このタイマをスタートさせて(ステップS106)、短い所定の設定時間経過してタイマから割込みがあると(ステップS107)、バッファ8の読み出しやデコーダ9などを制御して通常速の映像再生に戻す(ステップS108)。   In the figure, when the video data is read from the buffer 8, decoded by the decoder 9, and normal speed video reproduction is performed on the display 10 ("Y" in step S101), the amount of data stored in the buffer 8 It is determined whether or not V is smaller than the allowable lower limit threshold TH1 (step S102). As shown in FIG. 2 (a), when the number is reduced (“Y” in step S102), it is assumed that the buffer 8 tends to underflow. The reading in the buffer 8 and the decoder 9 are controlled so that the reproduction is performed for a short time (step S103). The execution time of this slow playback is measured by a timer (not shown). When this slow playback is started, this timer is started (step S106), and when a short predetermined set time elapses, there is an interrupt from the timer. (Step S107), the reading of the buffer 8 and the decoder 9 are controlled to return to normal-speed video reproduction (Step S108).

通常速の映像再生の場合には、バッファ8から各フレームの映像データを順に規定のフレーム周期(例えば、1/30秒)で読み出し、この周期で各フレームの映像をデコードして順にディスプレイ10で再生するが、スロー再生の場合には、クロック発生部12からのクロックφ2を通常速の再生よりも遅くし、これによってバッファ8からの映像データの読み出しとデコードするフレームの数を減らす。例えば、上記の0.8倍速のスロー再生の場合には、10フレームに相当する期間に8フレームのデコードが行なわれる。但し、画像の表示は10回行なわれるので、2回分は同じフレームが繰り返し表示されることになる。   In the case of normal speed video reproduction, the video data of each frame is sequentially read from the buffer 8 at a prescribed frame period (for example, 1/30 second), and the video of each frame is decoded at this period and sequentially displayed on the display 10. In the case of slow reproduction, the clock φ2 from the clock generator 12 is made slower than the normal speed reproduction, thereby reducing the number of frames for reading and decoding video data from the buffer 8. For example, in the case of the above-mentioned 0.8 × slow playback, 8 frames are decoded in a period corresponding to 10 frames. However, since the image is displayed ten times, the same frame is repeatedly displayed twice.

このように、スロー再生の期間中、バッファ8への受信した映像データの書込みは通常通り行なわれるのに対し、映像データの読み出しは通常より減少する。   In this manner, during the slow reproduction period, the received video data is written to the buffer 8 as usual, while the video data read is less than usual.

図4(a)はアンダーフローの傾向になったときのバッファ8での蓄積データ量Vの変化を示す図である。   FIG. 4A is a diagram illustrating a change in the amount of accumulated data V in the buffer 8 when an underflow tendency occurs.

図4(a)において、通常速の再生中バッファ8の蓄積データ量Vが許容下限閾値TH1よりも少ないV1となってアンダーフローの傾向になったことが検出されると、スロー再生が行なわれるが、このときも、バッファ8から映像データの読み出しが、減少はするが、行なわれるから、このスロー再生期間(上記のタイマで規定される期間)でのバッファ8からの映像データの読み出し量をΔVrとすると、この読み出しによってバッファ8での蓄積データ量V2はV1−ΔVrとなる。このスロー再生期間、バッファ8への映像データの書き込みが連続して行なわれるから、かかる書み込み量をΔVwとすると、スロー再生期間が終了した直後のバッファ8の蓄積データ量Vは、
V=V2+ΔVw=V1+(ΔVw−ΔVr)
となる。ここで、スロー再生期間では、バッファ8からの映像データの読み出し量は減少するので、ΔVw>ΔVrであり、
スロー再生終了時の蓄積データ量V>スロー再生開始時の蓄積データ量V1
となる。これにより、スロー再生終了開始時の蓄積データ量Vが許容下限閾値TH1を超えて、バッファ8のアンダーフロー傾向を解消することが可能となる。
In FIG. 4 (a), when it is detected that the accumulated data amount V of the normal speed reproducing buffer 8 is V1 smaller than the allowable lower limit threshold TH1 and tends to underflow, slow reproduction is performed. At this time, however, the reading of the video data from the buffer 8 is performed with a decrease, but the amount of video data read from the buffer 8 during this slow playback period (the period defined by the timer) is reduced. Assuming ΔVr, the read data amount V2 stored in the buffer 8 becomes V1−ΔVr. Since the video data is continuously written to the buffer 8 during the slow reproduction period, if the write amount is ΔVw, the accumulated data amount V of the buffer 8 immediately after the end of the slow reproduction period is:
V = V2 + ΔVw = V1 + (ΔVw−ΔVr)
It becomes. Here, in the slow reproduction period, the amount of video data read from the buffer 8 decreases, so ΔVw> ΔVr,
Accumulated data amount V at the end of slow playback> Accumulated data amount V1 at the start of slow playback
It becomes. As a result, the accumulated data amount V at the start of the slow playback end exceeds the allowable lower limit threshold TH1, and the underflow tendency of the buffer 8 can be eliminated.

このようにして、アンダーフローの傾向となっても、映像が途切れることなく再生されることになり、また、スロー再生の期間をできるだけ短くすることにより、スロー再生を目立たなくしてアンダーフローの傾向を解消することが可能となる。   In this way, even if there is an underflow trend, the video will be played back without interruption, and by making the slow playback period as short as possible, the slow playback will be inconspicuous and the underflow trend will be reduced. It can be solved.

また、図3において、通常速の映像再生時(ステップS101の“Y”)、図2(b)に示すように、バッファ8での蓄積データ量Vがこのバッファ8の許容上限閾値TH2よりも多くなってオーバーフローの傾向になると(ステップS102が“N”でステップS104が“Y”)、例えば、通常速の映像再生の1.5倍速の速見再生を短時間行なうように、バッファ8での読み出しやデコーダ9などを制御する(ステップS105)。この速見再生の実行時間も図示しないタイマによって計測し、この速見再生の開始とともに、このタイマをスタートさせて(ステップS106)、短い所定の設定時間経過してタイマから割込みがあると(ステップS107)、バッファ8での読み出しやデコーダ9などを制御して通常速の映像再生に戻す(ステップS108)。   In FIG. 3, during normal speed video reproduction (“Y” in step S <b> 101), as shown in FIG. When the number of overflows tends to increase (step S102 is “N” and step S104 is “Y”), for example, the buffer 8 is set so that 1.5 times normal speed playback of normal speed video playback is performed for a short time. Reading and the decoder 9 are controlled (step S105). The execution time of this quick-view playback is also measured by a timer (not shown), and at the same time as the start of this quick-view playback, this timer is started (step S106). Then, the reading in the buffer 8 and the decoder 9 are controlled to return to normal speed video reproduction (step S108).

この速見再生は、クロックφ2を通常速の再生よりも速くすることにより、バッファ8からの映像データの読み出しとデコードするフレーム数を増加させる。上記の1.5倍速の速見再生の場合には、2フレームに相当する期間に3フレーム分の映像データがバッファ8から読み出されてデコードされる。但し、画像の表示は2回のみ行なわれるため、1フレームは飛ばされ、これが繰り返されるものである。このように、速見再生の期間中、バッファ8からの映像データの読み出しは、通常よりも増加する。   In this quick-view reproduction, the number of frames to be read and decoded from the buffer 8 is increased by making the clock φ2 faster than the normal-speed reproduction. In the case of the 1.5 × speed fast-view playback, video data for 3 frames is read from the buffer 8 and decoded in a period corresponding to 2 frames. However, since the image is displayed only twice, one frame is skipped and this is repeated. In this way, the readout of video data from the buffer 8 increases during normal speed playback.

図4(b)はオーバーフローの傾向になったときのバッファ8での蓄積データ量Vの変化を示す図である。   FIG. 4B is a diagram showing a change in the accumulated data amount V in the buffer 8 when the tendency to overflow occurs.

図4(b)において、バッファ8の蓄積データ量Vが許容上限閾値TH2よりも多いV1となってオーバーフローの傾向になると、上記のように、速見再生が行なわれるが、このときも、バッファ8から映像データの読み出しが行なわれるから、この速見再生期間(上記のタイマで規定される期間)でのバッファ8からの映像データの読み出し量をΔVrとすると、この読み出しによってバッファ8での蓄積データ量V2=V1−ΔVrとなるが、この速見再生期間、バッファ8への映像データの書込みが連続して行なわれるから、かかる書込み量をΔVwとすると、速見再生期間が終了した直後のバッファ8の蓄積データ量Vは、
V=V2+ΔVw=V1−(ΔVr−ΔVw)
となる。ここで、速見再生期間では、バッファ8で映像データの書き込みよりも読み出しが多いので、ΔVw<ΔVrであり、
速見再生終了時の蓄積データ量V<速見再生開始時の蓄積データ量V1
となる。これにより、速見再生終了時の蓄積データ量Vが許容上限閾値TH2よりも少なくなって、バッファ8のオーバーフローの傾向を解消することが可能となる。
In FIG. 4B, when the stored data amount V in the buffer 8 becomes V1 larger than the allowable upper limit threshold TH2 and tends to overflow, fast-playing is performed as described above. Since the video data is read from the video data, the amount of video data read from the buffer 8 during this quick-playback period (the period specified by the timer) is ΔVr. Although V2 = V1−ΔVr, video data is continuously written to the buffer 8 during the quick-playback period. Therefore, if the write amount is ΔVw, the buffer 8 is stored immediately after the quick-playback period ends. The amount of data V is
V = V2 + ΔVw = V1− (ΔVr−ΔVw)
It becomes. Here, in the quick-view reproduction period, since there is more reading in the buffer 8 than in the writing of the video data, ΔVw <ΔVr,
Accumulated data amount V at the end of fast-playing reproduction <accumulated data amount V1 at the start of fast-playing reproduction
It becomes. As a result, the accumulated data amount V at the end of the quick-view reproduction becomes smaller than the allowable upper limit threshold TH2, and the tendency of the buffer 8 to overflow can be eliminated.

このようにして、バッファ8がオーバーフローの傾向になっても、映像再生が途切れることなく行なわれることになり、また、速見再生期間をできるだけ短くすることにより、速見再生を目立たなくしてオーバーフローの傾向を解消することができる。   In this way, even if the buffer 8 tends to overflow, the video playback is performed without interruption, and the fast-play playback period is made as short as possible to make the fast-play playback inconspicuous and to cause an overflow tendency. Can be resolved.

なお、図3において、通常速の映像再生時(ステップS101の“Y”)、バッファ8の蓄積データ量Vが許容下限閾値TH1以上で(ステップS102の“N”)、かつ許容上限閾値TH2以上であるときには(ステップS104の“N”)、この通常速の映像再生がそのまま継続する(即ち、ステップS101,102,104の一連の動作を繰り返す)。また、スロー再生や速見再生などの特殊再生時では(ステップS101の“N”)、ユーザからのその再生の終了の指示があるまでは、この制御ルーチンからはずれてその特殊再生を継続するし、ユーザからの通常速の再生の停止の指示があると(ステップS101の“N”)、この制御ルーチンからはずれる。   In FIG. 3, during normal-speed video reproduction (“Y” in step S101), the accumulated data amount V in the buffer 8 is equal to or greater than the allowable lower limit threshold TH1 (“N” in step S102), and is equal to or greater than the allowable upper limit threshold TH2. (N in step S104), the normal-speed video reproduction continues as it is (that is, a series of operations in steps S101, 102, and 104 are repeated). Also, during special playback such as slow playback or fast-view playback ("N" in step S101), the special playback is continued from this control routine until the user gives an instruction to end the playback, If there is an instruction to stop normal speed reproduction from the user ("N" in step S101), the control routine is departed.

以上のように、この第1の実施形態では、スロー再生や速見再生などの特殊再生を行なう期間に、バッファ8の蓄積データ量がアンダーフロー傾向やオーバーフロー傾向から回復することになる。   As described above, in the first embodiment, the amount of data stored in the buffer 8 recovers from an underflow tendency or an overflow tendency during a period during which special playback such as slow playback or fast-view playback is performed.

これにより、通信ネットワーク3を通じて受信した映像データのジッタや送・受信側のクロックの同期ずれに起因する受信データ量の揺らぎ、従って、バッファ8での映像データの書込レートの揺らぎが生じても、オーバーフローやアンダーフローによるバッファ8の破綻(表示される映像がデコード不良となったり、映像が途切れること)を招くことなく、滑らかな映像再生を実現できる。   As a result, even if fluctuations in the amount of received data due to jitter of video data received through the communication network 3 or clock synchronization deviation on the transmission / reception side occur, and therefore fluctuations in the writing rate of the video data in the buffer 8 occur. Smooth video reproduction can be realized without incurring the failure of the buffer 8 due to overflow or underflow (the displayed video becomes defective in decoding or the video is interrupted).

なお、スロー再生や速見再生の通常速の再生に対する上記の再生速度の比率は一例として示すものであって、使用するデコーダ9が動作可能な値であれば、これに限るものではない。   It should be noted that the ratio of the playback speed to the normal speed playback of slow playback or fast-view playback is shown as an example, and is not limited to this as long as the decoder 9 used can operate.

図5は本発明によるネットワーク受信機の第2の実施形態での制御部の制御ルーチンを示すフローチャートである。   FIG. 5 is a flowchart showing a control routine of the control unit in the second embodiment of the network receiver according to the present invention.

この第2の実施形態も、その構成は図1に示すものと同様である。図5に示すこの制御ルーチンは、バッファ8がアンダーフロー傾向あるいはオーバフロー傾向となったときに実行する特殊再生が異なるものであって、これ以外については、図3に示す第1の制御ルーチンと同様である。即ち、図5においては、図3でのステップS103をステップS203とし、図3でのステップS105をステップS205とするものであり、これら以外のステップは図3でのステップと同じであって、同じステップには図3と同じステップ番号を付けている。以下では、図3と重複する説明は省略する。   The configuration of the second embodiment is the same as that shown in FIG. This control routine shown in FIG. 5 is different from the special reproduction executed when the buffer 8 tends to underflow or overflow, and is otherwise the same as the first control routine shown in FIG. It is. That is, in FIG. 5, step S103 in FIG. 3 is set as step S203, and step S105 in FIG. 3 is set as step S205. The other steps are the same as those in FIG. Steps have the same step numbers as in FIG. Below, the description which overlaps with FIG. 3 is abbreviate | omitted.

図5において、バッファ8から映像データが読み出され、デコーダ9でデコードされてディスプレイ10で通常速の映像再生が行なわれていて(ステップS101の“Y”)、このときのバッファ8での蓄積データ量Vが、図2(a)に示すように、許容下限閾値TH1よりも少なくなった場合には(ステップS102の“Y”)、アンダーフローの傾向になったと判定して、ディスプレイ10での表示画像をフリーズし(即ち、静止画再生状態とし)、バッファ8からの映像データの読み出しを停止してデコーダ9でのデコードを停止する(ステップS203)。このフリーズ状態も、タイマによって決められた所定の設定時間行なわれ(ステップS106〜S107)、この所定の設定時間が経過すると、通常速の映像再生に戻る(ステップS108)。   In FIG. 5, the video data is read out from the buffer 8, decoded by the decoder 9, and normal-speed video reproduction is performed on the display 10 ("Y" in step S101). As shown in FIG. 2A, when the data amount V is smaller than the allowable lower limit threshold TH1 (“Y” in step S102), it is determined that the tendency of underflow has occurred, and the display 10 The display image is frozen (that is, the still image is reproduced), the reading of the video data from the buffer 8 is stopped, and the decoding by the decoder 9 is stopped (step S203). This freeze state is also performed for a predetermined set time determined by the timer (steps S106 to S107), and when the predetermined set time elapses, normal video playback is resumed (step S108).

図6(a)はこの第2の実施形態でのアンダーフロー傾向になったときのバッファ8での蓄積データ量Vの変化を示す図である。   FIG. 6A is a diagram showing a change in the amount of accumulated data V in the buffer 8 when an underflow tendency occurs in the second embodiment.

図6(a)において、バッファ8の蓄積データ量Vが許容下限閾値TH1よりも少ないV1となってアンダーフローの傾向になると、ディスプレイ10での再生画像がフリーズ状態となる。しかし、再生画像がフリーズしているときには、バッファ8で映像データの読み出しは行なわれないが、バッファ8での映像データの書き込みはそのまま継続している。そして、上記タイマで決まる所定の設定時間が経過すると、このフリーズ状態から通常速の映像再生状態に戻るが、この所定の設定時間にバッファ8に書き込まれた映像データのデータ量をΔVwとすると、このときのバッファ8の蓄積データ量Vは、
V=V1+ΔVw
従って、V>V1となる。これにより、この蓄積データ量Vが許容下限閾値TH1を超えるようにすることが可能である。
In FIG. 6A, when the accumulated data amount V of the buffer 8 becomes V1 smaller than the allowable lower limit threshold TH1 and tends to underflow, the reproduced image on the display 10 is frozen. However, when the reproduced image is frozen, the video data is not read in the buffer 8, but the video data is still written in the buffer 8. Then, when a predetermined set time determined by the timer elapses, the freeze state returns to the normal speed video reproduction state. If the data amount of the video data written in the buffer 8 during the predetermined set time is ΔVw, The amount of data V stored in the buffer 8 at this time is
V = V1 + ΔVw
Therefore, V> V1. As a result, the accumulated data amount V can exceed the allowable lower limit threshold TH1.

このようにして、バッファ8がアンダーフローの傾向となっても、映像が途切れることなく再生されることになり、また、フリーズ再生の期間をできるだけ短くすることにより、このフリーズ再生を目立たなくしてアンダーフローの傾向を解消することができる。   In this way, even if the buffer 8 tends to underflow, the video is reproduced without interruption, and the freeze reproduction is made inconspicuous by making the freeze reproduction period as short as possible. The tendency of the flow can be eliminated.

また、図5において、ディスプレイ10で通常速の映像再生が行なわれていて(ステップS101の“Y”)、このときのバッファ8での蓄積データ量Vが、図2(a)に示すように、許容上限閾値TH2よりも多くなった場合には(ステップS102の“N”とステップS104の“Y”)、バッファ8がオーバーフローの傾向になったと判定して、バッファ8での読み出し位置を複数フレーム飛ばしてスキップする(ステップS205)。バッファ8での複数フレーム分スキップして映像データの読み出しを開始すると、この読み出しを開始した映像データのフレームから通常速の映像再生に戻る(ステップS108)。スキップされた複数フレームは読み出されないが、読み出されたものとして扱われる。   In FIG. 5, normal speed video reproduction is performed on the display 10 (“Y” in step S101), and the amount of data V stored in the buffer 8 at this time is as shown in FIG. If it exceeds the allowable upper limit threshold TH2 ("N" in step S102 and "Y" in step S104), it is determined that the buffer 8 tends to overflow, and a plurality of read positions in the buffer 8 are set. Skip frames and skip (step S205). When reading of the video data is started after skipping a plurality of frames in the buffer 8, the normal video playback is resumed from the frame of the video data from which the reading has been started (step S108). The skipped frames are not read but are treated as being read.

図6(b)はオーバーフローの傾向になったときのバッファ8での蓄積データ量Vの変化を示す図である。   FIG. 6B is a diagram showing a change in the amount of accumulated data V in the buffer 8 when the tendency of overflow occurs.

図6(b)において、バッファ8の蓄積データ量Vが許容上限閾値TH2よりも多いV1となってオーバーフローの傾向になると、上記のように、ディスプレイ10での表示画像をフリーズ状態とするとともに、バッファ8では、読み出し位置が複数フレーム分スキップされ、この複数フレームを読み出さないで破棄する(即ち、既に読み出し済みのものとみなす)。   In FIG. 6B, when the accumulated data amount V in the buffer 8 becomes V1 larger than the allowable upper limit threshold TH2 and tends to overflow, the display image on the display 10 is set in a frozen state as described above. In the buffer 8, the reading position is skipped for a plurality of frames, and the plurality of frames are discarded without being read (that is, already read).

ここで、スキップされた複数フレームのデータ量をΔVsとすると、このスキップによってバッファ8での蓄積データ量V2はV1−ΔVsとなるが、このスキップの間もバッファ8への映像データの書込みが連続して行なわれるから、かかる書込みデータ量をΔVwとすると、スキップが終了して通常速の映像再生に戻ったときのバッファ8の蓄積データ量Vは、
V=V2+ΔVw=V2−(ΔVs−ΔVw)
となる。ここで、スキップは短時間で行なわれるから、スキップによって失われるデータ量ΔVsがその間の映像データの書込データ量ΔVwよりも多いので、ΔVw<ΔVsであり、
スキップ終了時の蓄積データ量V<スキップ開始時の蓄積データ量V1
となる。これにより、スキップ終了時の蓄積データ量Vが許容上限閾値TH2よりも少なくなって、バッファ8のオーバーフロー傾向を解消することが可能となる。
Here, if the data amount of a plurality of skipped frames is ΔVs, the accumulated data amount V2 in the buffer 8 becomes V1−ΔVs due to this skip, but video data is continuously written to the buffer 8 during this skip. Therefore, if the amount of write data is ΔVw, the amount of data V stored in the buffer 8 when the skip is finished and the normal speed video reproduction is resumed is
V = V2 + ΔVw = V2− (ΔVs−ΔVw)
It becomes. Here, since the skip is performed in a short time, the data amount ΔVs lost by the skip is larger than the video data write data amount ΔVw during that time, so ΔVw <ΔVs,
Accumulated data amount at the end of skip V <Accumulated data amount at the start of skip V1
It becomes. As a result, the accumulated data amount V at the end of skip becomes smaller than the allowable upper limit threshold TH2, and the overflow tendency of the buffer 8 can be eliminated.

このようにして、バッファ8がオーバーフロー傾向となっても、映像再生が途切れることなく行なわれることになり、また、スキップの期間をできるだけ短くすることにより、表示画像のフリーズを目立たなくしてオーバーフローの傾向を解消することができる。   In this way, even if the buffer 8 tends to overflow, the video reproduction is performed without interruption, and the skip period is shortened as much as possible to make the display image freeze inconspicuous. Can be eliminated.

この第2の実施形態では、バッファ8がアンダーフロー傾向になったときには、バッファ8からの映像データの読み出しを停止し、また、オーバーフロー傾向になったときには、バッファ8での読み出し位置を複数フレーム分スキップするものであるから、アンダーフロー傾向になったときも、また、オーバーフロー傾向になったときも、第1の実施形態よりも早くその傾向を解消でき、オーバーフローやアンダーフローによる破綻を生じることがなく、映像(画像・音声)を滑らかに再生することができる。   In the second embodiment, when the buffer 8 tends to underflow, reading of the video data from the buffer 8 is stopped, and when the buffer 8 tends to overflow, the reading position in the buffer 8 is set for a plurality of frames. Since it is skipped, when it tends to underflow or overflow, the tendency can be resolved earlier than in the first embodiment, and failure due to overflow or underflow may occur. Video (image / sound) can be reproduced smoothly.

なお、上記各実施形態では、バッファ8がオーバーフロー傾向もしくはアンダーフロー傾向になってときに行なう特殊再生を、シーンの変わり目や無音声部分で開始するようにしてもよい。これによると、特殊再生したことを視聴者がより気づきにくくできすることができ、違和感を少なくすることができる。   In each of the above embodiments, the special reproduction that is performed when the buffer 8 tends to overflow or underflow may be started at a scene change or silent portion. According to this, it is possible to make it difficult for the viewer to notice that special playback has been performed, and to reduce the sense of discomfort.

また、上記各実施形態では、タイマを用いて短時間の特殊再生を行なうように制御するものであったが、その代わりに、バッファ8の蓄積データ量がオーバーフロー傾向もしくはアンダーフロー傾向を解消した値になったことを検出して、特殊再生から通常速の再生に切り替えるようにしてもよい。なお、バッファ8の許容下限,上限閾値やタイマの選び方によって特殊再生の時間は異なるが、受信映像データのGOP(Group Of Picture)毎にIピクチャ(フレーム内符号化画面)の周期(約1/2秒)以下、好ましくは1フレームの周期(1/30秒)程度にすることが(1フレームの周期(1/30秒)程度とは、この期間ディスプレイ10では、1フレームの画像を表示する)、視聴者が気づきにくく違和感を与えないようにする上で望ましい。   In each of the above embodiments, the timer is used to perform the special reproduction for a short time. Instead, the accumulated data amount in the buffer 8 is a value in which the overflow tendency or the underflow tendency is eliminated. It is also possible to switch from special playback to normal speed playback by detecting that Although the special reproduction time varies depending on the allowable lower and upper thresholds of the buffer 8 and how to select the timer, the period of the I picture (intra-frame coding screen) (approximately 1 / frame) for each GOP (Group Of Picture) of the received video data. 2 seconds) or less, preferably about one frame period (1/30 second) (about one frame period (1/30 second)). The display 10 displays an image of one frame during this period. ), Which is desirable to prevent viewers from recognizing and feeling uncomfortable.

また、上記各実施形態では、図1における映像データ送出装置2として、その中のエンコーダ4にリアルタイムエンコーダを使用して、エンコード後、そのままデータを送出例を示したが、エンコードしたデータを一旦蓄積して準備し、そのデータを送出配信するサーバ装置としても、同様の効果が得られることは明らかである。   Further, in each of the above embodiments, the video data transmission device 2 in FIG. 1 is shown as an example in which a real-time encoder is used as the encoder 4 therein and the data is transmitted as it is after encoding. However, the encoded data is temporarily stored. Thus, it is obvious that the same effect can be obtained as a server device that prepares and transmits and distributes the data.

本発明によるネットワーク受信機の第1の実施形態を示すブロック構成図である。It is a block block diagram which shows 1st Embodiment of the network receiver by this invention. 図1におけるバッファにアンダーフロー傾向とオーバーフロー傾向とを示す図である。It is a figure which shows the underflow tendency and the overflow tendency to the buffer in FIG. 本発明によるネットワーク受信機の第1の実施形態の制御ルーチンを示すフローチャートである。It is a flowchart which shows the control routine of 1st Embodiment of the network receiver by this invention. 図3に示す制御ルーチンによるバッファのアンダーフロー傾向とオーバーフロー傾向との解消動作を示す図である。It is a figure which shows the cancellation | release operation | movement of the buffer underflow tendency and the overflow tendency by the control routine shown in FIG. 本発明によるネットワーク受信機の第2の実施形態での制御ルーチンを示すフローチャートである。It is a flowchart which shows the control routine in 2nd Embodiment of the network receiver by this invention. 図5に示す制御ルーチンによるバッファのアンダーフロー傾向とオーバーフロー傾向との解消動作を示す図である。It is a figure which shows the cancellation | release operation | movement of the buffer underflow tendency and the overflow tendency by the control routine shown in FIG.

符号の説明Explanation of symbols

1 ネットワーク受信機
2 映像データ送出装置
3 通信ネットワーク
4 エンコーダ
5 送出部
6 クロック発生部
7 受信部
8 バッファ
9 デコーダ
10 ディスプレイ
11 制御部
12 クロック発生部
V 蓄積データ量
DESCRIPTION OF SYMBOLS 1 Network receiver 2 Image | video data transmission device 3 Communication network 4 Encoder 5 Transmission part 6 Clock generation part 7 Reception part 8 Buffer 9 Decoder 10 Display 11 Control part 12 Clock generation part V Accumulated data amount

Claims (10)

ネットワークを通じてリアルタイムで配信または放送される映像データを受信して再生するネットワーク受信機において、
受信した該映像データを一時蓄積するバッファと、
該バッファから読み出された該映像データをデコードするデコーダと、
該デコーダでデコードされた該映像データが供給されて映像再生するディスプレイと、
該バッファや該デコーダを制御する制御部と
を備え、
該制御部の制御により、該映像データによる通常速の再生中での該バッファでの該映像データの蓄積データ量を管理し、該バッファの蓄積データ量の増減に応じた短い所定期間特殊再生を実行し、該所定時間の経過とともに、該特殊再生から該通常速の再生に復帰することを特徴とするネットワーク受信機。
In a network receiver that receives and plays back video data distributed or broadcast in real time over a network,
A buffer for temporarily storing the received video data;
A decoder for decoding the video data read from the buffer;
A display that receives the video data decoded by the decoder and reproduces the video;
A control unit for controlling the buffer and the decoder,
Under the control of the control unit, the amount of stored data of the video data in the buffer during normal speed playback of the video data is managed, and special playback is performed for a short predetermined period according to the increase or decrease of the stored data amount of the buffer. A network receiver that executes and returns from the special reproduction to the normal reproduction with the lapse of the predetermined time.
請求項1において、
通常速の再生時に前記バッファの蓄積データ量が設定された許容下限閾値よりも少ないアンデーフロー傾向になったときに、前記特殊再生としてスロー再生を実行し、
通常速の再生時に前記バッファの蓄積データ量が設定された許容上限閾値よりも多いオーバーフロー傾向になったときに、前記特殊再生として速見再生を実行することを特徴とするネットワーク受信機。
In claim 1,
When the amount of data stored in the buffer tends to be less than the set allowable lower limit threshold during normal speed playback, slow playback is executed as the special playback,
A network receiver, wherein fast-play playback is executed as the special playback when the amount of data stored in the buffer tends to overflow more than a set allowable upper limit threshold during normal-speed playback.
請求項2において、
前記スロー再生は、前記通常速の再生に対して約0.8倍速の再生であって、
前記速見再生は、前記通常速の再生に対して約1.5倍速の再生であることを特徴とするネットワーク受信機。
In claim 2,
The slow playback is about 0.8 times faster playback than the normal speed playback,
The network receiver according to claim 1, wherein the fast-view playback is about 1.5 times faster playback than the normal speed playback.
請求項1〜3のいずれか1つにおいて、
前記所定期間は、タイマによって設定されることを特徴とするネットワーク受信機。
In any one of Claims 1-3,
The network receiver according to claim 1, wherein the predetermined period is set by a timer.
請求項2または3において、
前記所定期間は、前記アンダーフロー傾向もしくは前記オーバーフロー傾向が前記特殊再生の実行によって解消したことを検出することにより、終了することを特徴とするネットワーク受信機。
In claim 2 or 3,
The network receiver according to claim 1, wherein the predetermined period is ended by detecting that the underflow tendency or the overflow tendency has been eliminated by executing the special reproduction.
ネットワークを通じてリアルタイムで配信または放送される映像データを受信して再生するネットワーク受信機において、
受信した該映像データを一時蓄積するバッファと、
該バッファから読み出された該映像データをデコードするデコーダと、
該デコーダでデコードされた該映像データが供給されて映像再生するディスプレイと、
該バッファや該デコーダを制御する制御部と
を備え、
該制御部の制御により、該映像データによる通常速の再生中に該バッファでの該映像データの蓄積データ量を管理し、
(1)通常速の再生時に前記バッファの蓄積データ量が設定された許容下限閾値よりも少ないアンデーフロー傾向になったときに、短い所定期間前記バッファからの前記映像データの読み出しを停止して、前記ディスプレイでの再生画像をフリーズ状態とする特殊再生を行ない、該所定期間の経過後、該通常速の再生に復帰し、
(2)通常速の再生時に前記バッファの蓄積データ量が設定された許容上限閾値よりも多いオーバーフロー傾向になったときに、前記特殊再生として、前記バッファでの映像データの読み出しをフレーム単位でスキップし、該スキップの終了とともに、該通常速の再生に復帰することを特徴とするネットワーク受信機。
In a network receiver that receives and plays back video data distributed or broadcast in real time over a network,
A buffer for temporarily storing the received video data;
A decoder for decoding the video data read from the buffer;
A display that receives the video data decoded by the decoder and reproduces the video;
A control unit for controlling the buffer and the decoder,
Under control of the control unit, the amount of data stored in the buffer in the buffer is managed during normal speed playback using the video data.
(1) When the amount of accumulated data in the buffer tends to be less than the set allowable lower limit threshold during normal speed reproduction, the reading of the video data from the buffer is stopped for a short predetermined period, Performs special playback to freeze the playback image on the display, and after the predetermined period, returns to the normal speed playback,
(2) During normal speed playback, when the amount of data stored in the buffer tends to overflow more than a set allowable upper limit threshold, video data reading in the buffer is skipped frame by frame as the special playback. And a network receiver which returns to the normal speed reproduction upon completion of the skip.
請求項6において、
前記バッファがアンターフロー傾向となって前記再生画像をフリーズ状態とする前記所定期間は、タイマによって設定することを特徴とするネットワーク受信機。
In claim 6,
The network receiver according to claim 1, wherein the predetermined period during which the buffer is in an underflow tendency and the reproduced image is frozen is set by a timer.
請求項1〜7のいずれか1つにおいて、
前記通常速の再生から前記特殊再生への切り替えは、前記映像データによる映像のシーンの切り替え部とすることを特徴とするネットワーク受信機。
In any one of Claims 1-7,
The network receiver according to claim 1, wherein switching from the normal speed reproduction to the special reproduction is performed by a video scene switching unit based on the video data.
請求項1〜7のいずれか1つにおいて、
前記通常速の再生から前記特殊再生への切り替えは、前記映像データによる映像の無音声部分とすることを特徴とするネットワーク受信機。
In any one of Claims 1-7,
The network receiver according to claim 1, wherein switching from the normal speed reproduction to the special reproduction is performed in a soundless portion of the video based on the video data.
請求項1〜9のいずれか1つにおいて、
前記特殊再生を行なう前記所定期間は、GOPでのIピクチャの周期以下とすることを特徴とするネットワーク受信機。
In any one of Claims 1-9,
The network receiver according to claim 1, wherein the predetermined period during which the special reproduction is performed is equal to or less than a period of an I picture in a GOP.
JP2006139267A 2006-05-18 2006-05-18 Network receiver Active JP4933145B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006139267A JP4933145B2 (en) 2006-05-18 2006-05-18 Network receiver

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006139267A JP4933145B2 (en) 2006-05-18 2006-05-18 Network receiver

Publications (2)

Publication Number Publication Date
JP2007312122A true JP2007312122A (en) 2007-11-29
JP4933145B2 JP4933145B2 (en) 2012-05-16

Family

ID=38844562

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006139267A Active JP4933145B2 (en) 2006-05-18 2006-05-18 Network receiver

Country Status (1)

Country Link
JP (1) JP4933145B2 (en)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009258608A (en) * 2008-03-21 2009-11-05 Onkyo Corp Stream reproducing device and its program
JP2011101342A (en) * 2009-10-05 2011-05-19 Panasonic Electric Works Co Ltd Transmission delay control method and calling system
JP2011211615A (en) * 2010-03-30 2011-10-20 Nec Personal Products Co Ltd Apparatus, system and method for switching tuner
JP2012123620A (en) * 2010-12-08 2012-06-28 Fujitsu Semiconductor Ltd Data transfer device, data transfer method and semiconductor device
JP2013027051A (en) * 2012-09-04 2013-02-04 Toshiba Corp Electronic apparatus and playback control method
JP2014007603A (en) * 2012-06-25 2014-01-16 Panasonic Corp Content reproducing device, content reproducing system and content reproducing method
US9282205B2 (en) 2013-04-10 2016-03-08 Fuji Xerox Co., Ltd. Electronic apparatus, image forming apparatus, and non-transitory computer readable medium

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08140042A (en) * 1994-11-07 1996-05-31 Sony Corp Reproducing device and recording and reproducing device for picture data
JP2001169285A (en) * 1994-11-30 2001-06-22 Sanyo Electric Co Ltd Mpeg video decoder
JP2003333488A (en) * 2002-05-09 2003-11-21 Mitsubishi Electric Corp System and method for reproducing streaming data

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08140042A (en) * 1994-11-07 1996-05-31 Sony Corp Reproducing device and recording and reproducing device for picture data
JP2001169285A (en) * 1994-11-30 2001-06-22 Sanyo Electric Co Ltd Mpeg video decoder
JP2003333488A (en) * 2002-05-09 2003-11-21 Mitsubishi Electric Corp System and method for reproducing streaming data

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009258608A (en) * 2008-03-21 2009-11-05 Onkyo Corp Stream reproducing device and its program
JP4600698B2 (en) * 2008-03-21 2010-12-15 オンキヨー株式会社 Stream reproducing apparatus and program thereof
JP2011101342A (en) * 2009-10-05 2011-05-19 Panasonic Electric Works Co Ltd Transmission delay control method and calling system
JP2011211615A (en) * 2010-03-30 2011-10-20 Nec Personal Products Co Ltd Apparatus, system and method for switching tuner
JP2012123620A (en) * 2010-12-08 2012-06-28 Fujitsu Semiconductor Ltd Data transfer device, data transfer method and semiconductor device
JP2014007603A (en) * 2012-06-25 2014-01-16 Panasonic Corp Content reproducing device, content reproducing system and content reproducing method
JP2013027051A (en) * 2012-09-04 2013-02-04 Toshiba Corp Electronic apparatus and playback control method
US9282205B2 (en) 2013-04-10 2016-03-08 Fuji Xerox Co., Ltd. Electronic apparatus, image forming apparatus, and non-transitory computer readable medium

Also Published As

Publication number Publication date
JP4933145B2 (en) 2012-05-16

Similar Documents

Publication Publication Date Title
KR101350754B1 (en) Method for reducing channel change times and synchronizing audio/video content during channel change
JP3739609B2 (en) Method and apparatus for adaptive synchronization of digital video and audio playback in multimedia playback systems
JP5215604B2 (en) Client device, communication system, and data processing method
US7471337B2 (en) Method of audio-video synchronization
RU2488968C2 (en) Coding device and method of data stream generation
US9363302B2 (en) Media stream scheduling for hiccup-free fast-channel-change in the presence of network chokepoints
US9332050B2 (en) Media streaming with adaptation
US8837586B2 (en) Bandwidth-friendly representation switching in adaptive streaming
JP4347322B2 (en) Receiving apparatus and method, and program
JP4933145B2 (en) Network receiver
JP2004507178A (en) Video signal encoding method
JP2006513608A (en) Audio-visual content transmission system and method
JP2006186580A (en) Reproducing device and decoding control method
JP2008029006A (en) Client device, communication system and data processing method
US20090147842A1 (en) Video processing
JP4096915B2 (en) Digital information reproducing apparatus and method
JP2005286749A (en) Video image decoding device and video image transmission system using it
JP2004015553A (en) Synchronization control method and apparatus thereof, synchronization reproduction apparatus and tv receiving apparatus using the control method and apparatus
JP3671969B2 (en) Data multiplexing method and multiple data decoding method
JPH099215A (en) Data multiplex method, data transmission method, multiplex data decoding method and multiplex data decoder
JP2004350237A (en) Stream transfer apparatus, stream transfer method, stream transfer program, and display time correcting apparatus
JP2007195064A (en) Device and method for transmitting, image information, program, and storage medium
JP2002094938A (en) Data processing method and system, data transmission system, transmission medium
JP2023077670A (en) Transmission device and transmission program
JP2016076884A (en) Multimedia synchronous reproduction device and multimedia synchronous reproduction method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111122

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120112

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120207

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120216

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4933145

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150224

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250