明 メディァ分離方法と画像復号方法及び装置 技術分野 TECHNICAL FIELD The present invention relates to a media separation method and an image decoding method and apparatus.
^―、、 本発明は、 テレビ電話などの動画像通信を行う通信装置に用いて好適なメァ ィァ分離方法と画像復号方法及び装置に関する。 冃. The present invention relates to a media separation method, an image decoding method, and a device suitable for use in a communication device for performing moving image communication such as a videophone.冃.
細 1 Fine 1
従来、 動画像信号や音声信号を符号化してこれらを 1つの信号に多重化する 技術として、 国際電気通信連合 (ITU-T :インターナショナル 'テレコミュニ ケーシヨン .ユニオン) で勧告化された Reco觀 endation H.223がある。 この H. 223には、 伝送するメディア (音声や映像のことをメディアと呼ぶ) の特徴に 応じて適切なレイヤでパケヅト化するァダプテ一シヨンレイヤ (AL1から AL3ま での 3種類ある) と、 それそれのァダプテーシヨンレイヤから出力されるパケ ットを組み合わせて多重化するマックスレイヤとがある。 Conventionally, as a technology for encoding video and audio signals and multiplexing them into one signal, Reco-Viewing Endation H recommended by the International Telecommunication Union (ITU-T: International 'Telecommunication Union)) There is .223. This H.223 includes an adaptation layer (three types from AL1 to AL3) that packetizes with an appropriate layer according to the characteristics of the media to be transmitted (audio and video are called media). There is a max layer that combines and multiplexes the packets output from the adaptation layer.
ァダプテーシヨンレイヤは、 AL1から AL3の中からメディァの特徴に応じて適 切なものが選択されるが、 一般的に動画像信号に対しては AL3が選択される。 A L3は誤り検出機能や再送制御機能を有していることから、 リアル夕ィム画像通 信に好適と言われている。 ァダプテ一シヨンレイヤでバケツト化されたものを AL-SDU (ァダブテーシヨンレイヤ ·サ一ビス ·データ 'ユニット) パケットと 呼ばれる。 マックスレイヤは、 AL1〜AL3から出力された AL- SDUパケットを 1つ の伝送デ一夕としてまとめるものである。 多重化処理はこのマックスレイヤで 行われる。 The appropriate adaptation layer is selected from AL1 to AL3 according to the characteristics of the media, but AL3 is generally selected for a moving image signal. AL3 is said to be suitable for real-time image communication because it has an error detection function and a retransmission control function. A packet that has been bucketed by the adaptation layer is called an AL-SDU (adaptation layer, service, data unit) packet. The max layer collects the AL-SDU packets output from AL1 to AL3 into one transmission data stream. The multiplexing process is performed in this max layer.
また、 受信時には、 マックスレイヤで各メディア毎にパケットの分離が行わ れた後、 分離されたバケツトがそれぞれに対応するァダプテーシヨンレイヤに 入力される。 この場合、 動画像信号であれば、 AL3に AL- SDUパケットが入力さ れて誤り検出処理が行われる。 誤り検出処理後のデータは画像復号器 (図示略
) に入力される。 誤り検出処理によって誤りが検出された場合は、 誤りがある AL - SDUパケッ卜を再送するか否か、 またその AL-SDUパケットを画像復号器 (図 示略) に渡すか否かについては ΙΤϋ-Τの勧告外の内容であるため、 自由に選択 することができる。 At the time of reception, packets are separated for each medium in the max layer, and the separated buckets are input to the corresponding adaptation layers. In this case, if it is a moving image signal, the AL-SDU packet is input to AL3 and error detection processing is performed. The data after error detection processing is sent to an image decoder (not shown). ). If an error is detected by the error detection process, whether to retransmit the AL-SDU packet containing the error and whether to pass the AL-SDU packet to the image decoder (not shown) are as follows. Since the content is outside the recommendations of -Τ, it can be freely selected.
動画像信号を符号ィ匕する技術として、 国際標準化委員会 (IS0/IEC) で勧告 化された IS0/IEC 14496 part 2(Visual) (通称 MPEG - 4) がある。 この MPEG-4は マルチメディァ符号化方式であり、 様々な映像素材を符号化できる技術である 。 この画像符号化技術は、 「動き補償予測符号化」、 「離散コサイン変換」及 び「可変長符号」 の 3つの技術で実現されている。 As a technique for encoding moving picture signals, there is IS0 / IEC 14496 part 2 (Visual) (commonly known as MPEG-4) recommended by the International Standards Committee (IS0 / IEC). This MPEG-4 is a multimedia encoding method, and is a technology that can encode various video materials. This image coding technology is realized by three technologies: “motion-compensated predictive coding”, “discrete cosine transform”, and “variable-length code”.
動き補償予測符号化は、 最初に入力画像と前の符号化画像を比較してその間 の動き量を測定 (動き検出) する。 次いで、 測定した動き量と前の符号化画像 とに基づいて入力画像を予測する。 そして、 予測した画像 (予測画像) と入力 画像との差分 (予測誤差信号) を算出する。 次いで、 算出した予測誤差信号と 前述の動き量を受信側へ伝送する。 この方法を採ることにより、 少ないデータ 量での画像情報伝送が可能となる。 離散コサイン変換は、 前述の予測誤差信号 を周波数領域に変換するものである。 予測誤差信号を周波数領域に変換すると ある特定の周波数領域 (低周波領域) にパワーが集中するので、 この特徴を活 かして可変長符号化と組み合わせることでさらに少ないデ一夕量での画像情報 伝送が可能となる。 可変長符号化は、 符号化するデ一夕の出現頻度に偏りがあ る場合に、 その偏りを利用して出現頻度の高い事象に対しては短い符号長、 出 現頻度の低い事象に対しては長い符号長で表現することにより、 平均符号長を 短くする方式である。 これら 「動き補償予測符号化」、 「離散コサイン変換」 及び「可変長符号」 の三つの技術は画像全体に適用するのではなく、 1つの画 像を 1 6 X 1 6画素のプロック (符号化ブロックと呼ぶ) に分割した符号化ブ ロック毎に適用する。 In motion-compensated predictive coding, the input image is compared with the previous coded image, and the amount of motion between them is measured (motion detection). Next, the input image is predicted based on the measured amount of motion and the previous encoded image. Then, the difference (prediction error signal) between the predicted image (predicted image) and the input image is calculated. Next, the calculated prediction error signal and the motion amount described above are transmitted to the receiving side. By adopting this method, image information transmission with a small data amount becomes possible. The discrete cosine transform is for transforming the above-mentioned prediction error signal into the frequency domain. When the prediction error signal is converted to the frequency domain, the power is concentrated in a specific frequency domain (low frequency domain). By combining this feature with variable-length coding, images with a smaller amount of data can be obtained. Information transmission becomes possible. In variable-length coding, when the frequency of occurrence of data to be encoded is biased, the bias is used to shorten the code length for events with a high frequency of occurrence, and for events with a low frequency of occurrence. In this method, the average code length is shortened by expressing it with a long code length. These three techniques, “motion-compensated predictive coding”, “discrete cosine transform”, and “variable-length coding”, do not apply to the entire image, but block one image into a 16 × 16 pixel block (encoding). This is applied to each coding block divided into blocks.
ところで、 近年、 携帯電話などの無線通信端末の普及により動画像信号の無 線伝送技術に注目が集まっている。 無線伝送は、 有線伝送と比較して伝送誤り 率が高いために伝送誤り耐性を有する符号化技術を必要としている。 伝送誤り
による画質劣化を抑制する技術として、 ビデオバケツトと呼ばれる技術が知ら れている。 これは、 1画面分又は 1個以上の符号化プロックのデ一夕を 1つの 伝送単位 (ビデオパケット) として伝送する方式である。 By the way, in recent years, with the spread of wireless communication terminals such as mobile phones, attention has been paid to wireless transmission technology for moving image signals. Wireless transmission requires a coding technique that has transmission error resistance because the transmission error rate is higher than that of wired transmission. Transmission error A technique called a video bucket is known as a technique for suppressing the image quality degradation due to image quality. In this method, data for one screen or one or more encoded blocks is transmitted as one transmission unit (video packet).
ビデオパケットの構成方法の一例としては、 符号化ブロック単位の発生符号 量を累積し、 ある一定の符号量に達したところでビデオパケットを構成する方 法がある (例えば特開平 7— 0 1 4 5 1 4号公報) 。 この方法を採ることによ り、 背景などの符号量が少ない部 ^^は多くの符号化ブロックでビデオパケット が構成され、 動きが大きくて符号量が多い部分は少ない符号化プロックでビデ ォパケットが構成される。 利点としては、 伝送誤りが原因でビデオパケットに 誤りが発生した場合でも動きの大きい部分は少ない符号化ブロックで構成され ているために劣化の範囲を小さく抑えることができる。 また、 動きの小さな背 景部分は多くの符号化プロックを含んでいるものの、 動きが殆どないために劣 化が目立たない。 この方法を採ることにより、 効率良くビットを割り振ること が可能となる。 As an example of a video packet configuration method, there is a method of accumulating a generated code amount for each coding block and forming a video packet when a certain code amount is reached (for example, Japanese Patent Application Laid-Open No. No. 14). By adopting this method, the video packet is composed of many coded blocks in the area where the amount of code is small, such as the background, and the video packet is formed by the small coding block in the area where the motion is large and the amount of code is large. Be composed. As an advantage, even when an error occurs in a video packet due to a transmission error, the portion with large motion is composed of few coded blocks, so that the range of deterioration can be suppressed to a small value. In addition, the background part with small movement contains many coding blocks, but the deterioration is not conspicuous because there is almost no movement. By employing this method, bits can be efficiently allocated.
また、 伝送誤りによる画質劣化抑制技術として、 隠蔽処理と呼ばれる技術が 知られている。 これは、 伝送誤りによって失われた符号化ブロック部分を他の 情報で置換することにより、 失われた部分の画質劣化を補償する技術である。 この隠蔽処理技術は MPEG-4の勧告外であるが重要な位置付けの技術として、 一 例が示されている。 Also, a technique called concealment processing is known as a technique for suppressing image quality degradation due to transmission errors. This is a technique that replaces the coded block portion lost due to a transmission error with other information, thereby compensating for the image quality degradation of the lost portion. An example of this concealment processing technology is shown as an important but important technology outside the MPEG-4 recommendation.
一方、 符号化デ一夕の誤りを検出できるようにした技術として、 例えば特開 平 7— 3 1 2 7 5 0号公報で開示されたものがある。 On the other hand, as a technique capable of detecting an error in encoded data, there is a technique disclosed in, for example, Japanese Patent Application Laid-Open No. 7-321750.
図 1は、 同公報で開示された動画通信装置の構成を示すプロック図である。 この図において、 送信側装置 1は、 送信対象となる信号を符号化する符号化器 2と、 符号化されたデータ列から特定のコード列を検出する特定コード列検出 器 3と、 特定のコード列が検出される毎に特定コード列を含む符号化データを 送信単位として受信側装置 5へ送信する制御を行う通信制御部 4とを備えてい る。 受信側装置 5は、 送信側装置 1から送信された符号化デ一夕を受信する通 信制御部 6と、 受信したデ一夕の正誤を判定するエラー検出器 7と、 受信デー
夕を復号する復号化器 9と、 通信制御部 6と符号化器 9との間に挿入され、 ェ ラ一検出器 7からの誤り通知信号により新たなデ一夕列を生成し、 受信デ一夕 の一部を置き換えて復号化器 9へ送るコード置換器 8とを備えている。 FIG. 1 is a block diagram showing a configuration of the moving image communication device disclosed in the publication. In this figure, a transmitting device 1 includes an encoder 2 for encoding a signal to be transmitted, a specific code sequence detector 3 for detecting a specific code sequence from an encoded data sequence, and a specific code. A communication control unit 4 that controls transmission of encoded data including a specific code sequence to the receiving device 5 as a transmission unit each time a sequence is detected. The receiving device 5 includes a communication control unit 6 for receiving the encoded data transmitted from the transmitting device 1, an error detector 7 for determining whether the received data is correct, The decoder 9 is inserted between the communication controller 6 and the encoder 9 for decoding the data, and generates a new data stream based on the error notification signal from the error detector 7 and A code replacement unit 8 is provided which replaces a part of the message and sends it to a decoder 9.
送信側装置 1では、 符号化器 2から次々に時系列で発生するデータが通信制 御部 4の送信バッファに書き込まれると同時に、 特定コード列検出器 3により 順次検査される。 符号化器 2から特定の時系列データが発生すると、 特定コー ド列検出器 3より通信制御部 4に特定コ一ド検出が通知される。通信制御部 4 は、 この通知を受けると、 データの書き込み先となる送信バッファを切り替え て、 検出された特定コード及びそれ以降のデータを引き続き切り替え先の送信 バッファに書き込み、 更に先に書き込んだ送信バッファの内容を通信回線 1 0 に送出する。 ここで、 特定コード列検出器 3が検出すべき特定コードを、 符号 化器 2からの単位デ一夕 (符号化データ) の始まりを示すコード (開始コード ) としている。 In the transmitting side device 1, the data sequentially generated in time series from the encoder 2 is written into the transmission buffer of the communication control unit 4 and, at the same time, is sequentially inspected by the specific code sequence detector 3. When specific time-series data is generated from the encoder 2, the specific code sequence detector 3 notifies the communication control unit 4 of the detection of the specific code. Upon receiving this notification, the communication control unit 4 switches the transmission buffer to which the data is written, continuously writes the detected specific code and the data thereafter to the transmission buffer of the switching destination, and further writes the previously written transmission buffer. Sends the contents of the buffer to communication line 10. Here, the specific code to be detected by the specific code sequence detector 3 is a code (start code) indicating the beginning of the unit data (encoded data) from the encoder 2.
他方、 受信側装置 5において、 通信制御部 6は、 受信したデ一夕を受信バッ ファに書き込み、 送信側装置 1から送られたデータの全ての受信を完了すると 、 受信バッファを切り替えて、 切り替え先の受信バッファに送信側装置 1から 送られてくる次の受信バッファのデータを書き込んで行く。 エラー検出器 7は 、 受信したデ一夕に誤りがあつたかどうかを検査し、 もし誤った部分があれば 、 誤り検出をコード置換器 8に通知する。 コード置換器 8は、 通信制御部 6が 受信データの書き込みを終了した受信バッファからその内容を読み出して復号 化器 9に送るが、 エラ一検出器 7から誤り検出通知を受けた場合には、 受信バ ッファ内のデータを破棄し、 デ一夕誤りを示すコードを新たに生成して特定コ 一ドの位置に置き換えて符号化器 9に送る。 On the other hand, in the receiving device 5, the communication control unit 6 writes the received data into the receiving buffer, and when all the data sent from the transmitting device 1 has been received, switches the receiving buffer and switches. The data of the next receiving buffer sent from the transmitting device 1 is written to the previous receiving buffer. The error detector 7 checks whether there is an error in the received data. If there is an error, the error detector 7 notifies the code replacement unit 8 of the error detection. The code replacement unit 8 reads the content from the reception buffer in which the communication control unit 6 has finished writing the received data and sends it to the decoder 9, but when receiving an error detection notification from the error detector 7, The data in the reception buffer is discarded, a code indicating a data error is newly generated, replaced with the position of the specific code, and sent to the encoder 9.
図 2は、 符号化器 2から出力されるデータ系列を示す図であって、 左から右 へ時間系列で示している。 符号化データ A 3 2、 符号化デ一夕 B 3 3、 符号化 データ C 3 6の順で出力され、 各符号データには始まりを示す開始コード A 3 1、 開始コード B 3 3、 開始コード C 3 5が付加される。 これら開始コード A 3 1、 B 3 3、 C 3 5は特定コード列検出部 1 2で特定コードとして検出され
るコードである。 FIG. 2 is a diagram illustrating a data sequence output from the encoder 2, which is a time sequence from left to right. The coded data A32, coded data B33, and coded data C36 are output in this order, and each coded data has a start code A31, a start code B33, and a start code indicating the beginning. C 35 is added. These start codes A 31, B 33, and C 35 are detected as specific codes by the specific code string detection unit 12. Code.
一方、 図 3は、 復号化器 9に入力されるデータの系列を示す図であって、 左 から右へ時間系列で示している。 開始コード D 4 1に続いて符号化データ D 4 2が入力される。 そして、 次のデ一夕に誤りがあった場合には、 エラーコード 4 3の入力に続いてエラ一デ一夕 4 4が入力される。 On the other hand, FIG. 3 is a diagram showing a sequence of data input to the decoder 9, and shows a time sequence from left to right. Encoded data D42 is input following the start code D41. If there is an error in the next error, an error code 43 is input, and then an error message 44 is input.
このように、 通信誤りが発生した場合、 受信側装置 5で、 開始コードからェ ラーコードに置き換えるので、 復号化器 9が符号化デ一夕の予測できない位置 で誤ったデータを処理してしまって大きな画像の乱れを表示してしまうような ことを防く、ことができる。 As described above, when a communication error occurs, the start code is replaced with the error code in the receiving device 5, so that the decoder 9 processes erroneous data at an unpredictable position in the encoded data. To prevent the display of large image disturbances.
しかしながら、 従来技術においては、 次のような問題がある。 However, the conventional technology has the following problems.
( I ) メディァ分離処理における問題 (I) Problems in media separation processing
ァダプテ一シヨンレイヤ AL3において、 誤りが検出された AL- SDUバケツトの 扱いについての規定がなかった。 There was no provision in the adaptation layer AL3 for the handling of an AL-SDU bucket where an error was detected.
誤りが混在した AL-SDUパケットの扱いについて、 以下に示す方法が考えられ る。 The following methods can be considered for handling AL-SDU packets with mixed errors.
( 1 ) 誤りが検出された AL- SDUパケットをそのまま画像復号器に渡す。 (1) The AL-SDU packet in which the error was detected is passed to the image decoder as it is.
( 2 ) 誤りが検出された AL- SDUパケヅトをそのまま廃棄する。 (2) Discard the AL-SDU packet in which the error was detected.
( 3 ) 誤りが発生したビヅ ト位置を記憶する。 (3) Store the bit position where the error occurred.
しかしながら、 これらの方法には次のような問題がある。 However, these methods have the following problems.
( 1 ) の方法では、 ァダプテーションレイヤ AL3の誤り検出処理が全く無為に なってしまう。 In the method (1), the error detection processing of the adaptation layer AL3 is completely useless.
( 2 ) の方法では、 誤りが検出された AL-SDUパケット前後のパケットがつなが つてしまい、 前後の AL-SDUパケットは誤りが無いにも関わらず、 その境界部分 で不整合が生じてしまう。 In the method (2), the packets before and after the AL-SDU packet in which the error was detected are connected, and the AL-SDU packets before and after have no errors, but inconsistency occurs at the boundary.
( 3 ) の方法では、 誤りが発生したビット位置を記憶するためのメモリやボイ ン夕の管理が必要であり、 また伝送誤りが頻発する場合には理論上確保すべき メモリ容量を確定できない。 In the method of (3), it is necessary to manage the memory for storing the bit position where the error has occurred and the number of bits and bits. If transmission errors frequently occur, the memory capacity to be theoretically secured cannot be determined.
( II) 画像符号化技術の伝送誤り発生時における問題
( 1 ) 可変長符号を用いたビット列に伝送誤りが発生した場合、 復号化器では 伝送誤りが発生した位置を特定することができない。 (II) Problems when transmission errors occur in image coding technology (1) If a transmission error occurs in a bit string using a variable-length code, the decoder cannot identify the position where the transmission error occurred.
前述の可変長符号は、 符号化効率を高めるために符号長が異なっているが、 伝送誤りが発生した場合に符号の区切り位置がずれてしまい、 符号化器からの 本来のデータと異なるデ一夕として復号することがある。 また、 伝送誤りによ り、 可変長符号の中に存在しないコードとなってしまって復号できなくなるこ とがある。 前述の通り、 伝送誤りが一度発生した場合、 符号の区切り位置がず れたまま復号を継続し、 そのうちに復号できないコードを検出することが極め て多く、 復号できないコードを検出したそのビットに誤りがある場合には誤り 位置を特定することができない。 The above-mentioned variable-length codes have different code lengths in order to increase coding efficiency. However, if a transmission error occurs, the code delimiter position shifts, and data that differs from the original data from the encoder is lost. It may be decoded as evening. Also, due to a transmission error, a code that does not exist in the variable length code may not be able to be decoded. As described above, if a transmission error occurs once, decoding is continued with the delimiter position of the code shifted, and very often a code that cannot be decoded is detected during that time. If there is, the error location cannot be specified.
( 2 ) また、 伝送誤りを検出した時に乱れた画像を表示しないようにするため 、 伝送誤りのある符号化ブロックの表示を行わず、 代わりに例えば前の画面と 同じ位置の画像に置換する隠蔽処理が行われる場合がある。 この場合、 隠蔽処 理を実施するにはどの符号化プロックからどの符号化ブロックまでを対象とす るのかを決定しなければならない。 しかしながら、 前述の課題の通り、 伝送誤 りを検出できてもその誤り位置を特定できないため、 正しく復号されている可 能性のある符号化プロックも廃棄してしまうことを前提に誤りのあつた AL- SDU パケットを含むビデオパケット単位で隠蔽処理を行うか、 または誤って復号し た画像を表示することを前提に誤りを検出した符号化プロックから隠蔽処理を 行うかのいずれかの処理を行うのが一般的である。 このように、 誤り位置が特 定できないために適切な隠蔽処理範囲を決定できず、 画質劣化要因となる問題 がめる。 (2) In order to prevent display of a distorted image when a transmission error is detected, concealment is performed such that a coded block having a transmission error is not displayed, and instead, for example, an image at the same position as the previous screen is replaced. Processing may be performed. In this case, in order to perform the concealment processing, it is necessary to determine which coding block to which coding block is to be targeted. However, as described above, even if a transmission error can be detected, the error position cannot be specified, so that the coding block that may have been correctly decoded is discarded. Performs either concealment processing in units of video packets including AL-SDU packets or concealment processing from coding blocks that have detected errors on the assumption that erroneously decoded images are displayed. It is common. As described above, since an error position cannot be specified, an appropriate concealment processing range cannot be determined, and a problem that causes image quality deterioration is caused.
(III) 特閧平 7— 3 1 2 7 5 0号公報で開示された動画通信装置における問 題 (III) Problems in the moving picture communication device disclosed in Japanese Patent Application Publication No. 7-311750
受信側装置 5において、 受信した符号化データに誤りを検出すると、 それを エラーデータとして出力するか又は破棄するとともに、 それの先頭にある開始 コードを破棄してエラ一コードを生成して出力することで、 復号化処理の中で 品質劣化を最小限に抑えた処理を容易に実現するようにしている。 しかしなが
ら、 誤りがあった符号化データそのものをエラーデ一夕として出力するか又は 破棄してしまうことから、 必ずしも十分に品質劣化抑制を行うことができると は限らない。 例えば、 符号化デ一夕が 1画面の全ラインのうち、 複数ラインを 1単位としたものである場合、 これをそっくり破棄してしまうと、 これに対応 する画像部分の再生が困難になる。 また、 エラ一デ一夕として扱っても誤り部 分を特定する手段を持たないので (誤り部分を特定する手段の記載はない) 、 精度のよい画像再生は期待できない。 発明の開示 When the receiving apparatus 5 detects an error in the received encoded data, it outputs or discards the error data as error data, and discards the start code at the head of the data to generate and output an error code. As a result, it is possible to easily realize processing that minimizes quality degradation in the decoding processing. However Therefore, the coded data itself having an error is output as an error message or discarded, so that the quality deterioration cannot always be sufficiently suppressed. For example, if the coded data is one line of multiple lines out of all the lines of one screen, discarding them altogether makes it difficult to reproduce the corresponding image part. In addition, since there is no means for specifying an error part even if it is treated as an error (no means for specifying an error part is described), accurate image reproduction cannot be expected. Disclosure of the invention
本発明の目的は、 伝送誤り発生時における画質劣化を最小限に抑えることが できるメディァ分離方法と画像復号方法及び装置を提供することである。 この目的は、 多重化信号から分離した AL-SDUパケットに伝送誤りがあれば、 その AL- SDUバケツトを廃棄し、 代わりに特定の符号を揷入して画像復号処理に 誤りがある事を知らせることで達成される。 特定の符号は、 可変長符号テープ ルに存在せず、 且つ画像復号処理において特定できるものである。 図面の簡単な説明 An object of the present invention is to provide a media separation method, an image decoding method, and an apparatus capable of minimizing image quality degradation when a transmission error occurs. The purpose of this is to discard the AL-SDU bucket if there is a transmission error in the AL-SDU packet separated from the multiplexed signal, and insert a specific code instead to notify that there is an error in the image decoding process. Is achieved by The specific code does not exist in the variable-length code table and can be specified in the image decoding process. BRIEF DESCRIPTION OF THE FIGURES
図 1は、 従来の動画像通信装置の構成を示すプロック図; FIG. 1 is a block diagram showing a configuration of a conventional moving image communication device;
図 2は、 従来の動画像通信装置の動作を説明するための図; FIG. 2 is a diagram for explaining the operation of the conventional moving image communication device;
図 3は、 従来の動画像通信装置の動作を説明するための図; FIG. 3 is a diagram for explaining the operation of the conventional moving image communication device;
図 4は、 本発明の実施の形態 1に係る画像通信端末装置の受信側の構成を示 すブロック図; FIG. 4 is a block diagram showing a configuration of a receiving side of the image communication terminal device according to Embodiment 1 of the present invention;
図 5は、 本発明の実施の形態 1に係る画像通信端末装置の画像復号部の構成 を示すプロック図; FIG. 5 is a block diagram showing a configuration of an image decoding unit of the image communication terminal device according to Embodiment 1 of the present invention;
図 6は、 本発明の実施の形態 1に係る画像通信端末装置の動作を説明するた めの図; FIG. 6 is a diagram for explaining the operation of the image communication terminal device according to Embodiment 1 of the present invention;
図 7は、 本発明の実施の形態 2に係る画像通信端末装置の画像復号部の構成 を示すプロック図;
図 8は、 本発明の実施の形態 2に係る画像通信端末装置の画像復号部の動作 を説明するための図; FIG. 7 is a block diagram showing a configuration of an image decoding unit of the image communication terminal device according to Embodiment 2 of the present invention; FIG. 8 is a diagram for explaining the operation of the image decoding unit of the image communication terminal device according to Embodiment 2 of the present invention;
図 9は、 本発明の実施の形態 3に係る画像通信端末装置の画像復号部の構成 を示すプロック図; FIG. 9 is a block diagram showing a configuration of an image decoding unit of the image communication terminal device according to Embodiment 3 of the present invention;
図 1 0は、 本発明の実施の形態 3に係る画像通信端末装置の画像復号部の動 作を説明するための図である。 発明を実施するための最良の形態 FIG. 10 is a diagram for explaining an operation of the image decoding unit of the image communication terminal device according to Embodiment 3 of the present invention. BEST MODE FOR CARRYING OUT THE INVENTION
以下、 発明を実施するための最良の形態について、 図面を参照して詳細に説 明する。 Hereinafter, the best mode for carrying out the invention will be described in detail with reference to the drawings.
(実施の形態 1 ) (Embodiment 1)
図 4は、 本発明の実施の形態 1に係る画像通信端末装置の受信側の構成を示 すブロック図である。 FIG. 4 is a block diagram showing a configuration on the receiving side of the image communication terminal device according to Embodiment 1 of the present invention.
図 4において、 本実施の形態に係る画像通信端末装置は、 受信アンテナ 1 0 1と、 受信アンテナ 1 0 1を介して無線信号を受信する無線受信部 1 0 2と、 無線受信部 1 0 2より出力される受信信号から多重化信号を復調する復調部 1 0 3と、 復調部 1 0 3にて復調された多重化信号から画像信号と音声信号とに 分離するメディア分離部 (メディア分離装置に対応する) 1 0 4と、 メディア 分離処理を行うためのプログラムが格納された R O M 1 0 5と、 メディァ分離 処理にて使用される R AM (ワークメモリ) 1 0 6と、 メディア分離部 1 0 4 にて分離された画像信号中の AL-SDU画像バケツトから元の画像信号を復元する 画像復号部 1 0 7と、 画像復号処理を行うためのプログラムが格納された R O M l 0 8と、 画像復号処理にて使用される R AM (ワークメモリ) 1 0 9と、 画像信号をアナログ変換する D/A変換部 1 1 0と、 画像を視覚表示する表示 部 1 1 1と、 メディァ分離部 1 0 にて分離された音声信号中の AL- SDU音声パ ケットから元の音声信号を復元する音声復号部 1 1 2と、 音声信号をアナログ 変換する D/A変換部 1 1 3と、 音声を出力するためのスピーカ 1 1 4とを備 えて構成される。 なお、 上記メディア分離部 1 0 4や画像復号部 1 0 7は、 例
えば D S P (ディジ夕ルシグナルプロセッサ) などで実現される。 In FIG. 4, the image communication terminal apparatus according to the present embodiment includes a receiving antenna 101, a radio receiving section 102 for receiving a radio signal via receiving antenna 101, and a radio receiving section 102. Demodulation unit 103 for demodulating the multiplexed signal from the received signal output from the unit, and a media separation unit (media separation device) for separating the multiplexed signal demodulated by the demodulation unit 103 into an image signal and an audio signal. 104, ROM 105 storing a program for performing media separation processing, RAM (work memory) 106 used in media separation processing, and media separation unit 1 An image decoding unit 107 for restoring the original image signal from the AL-SDU image bucket in the image signal separated at 04, a ROM 108 storing a program for performing image decoding processing, RAM (work memory) used in image decoding processing The D / A conversion section 110 converts the image signal into analog, the display section 111 displays the image visually, and the AL-SDU audio packet in the audio signal separated by the media separation section 110. It comprises a voice decoding unit 112 for restoring the audio signal, a D / A conversion unit 113 for converting the audio signal into an analog signal, and a speaker 114 for outputting audio. The media separation unit 104 and the image decoding unit 107 are examples. For example, it is realized by a DSP (Digital Signal Processor).
図 5は、 メディア分離部 1 0 4の構成を示すブロック図である。 この図に示 すように、 メディア分離部 1 0 4は、 多重ィ匕信号から AL-SDU画像パケットの区 切り (同期語) を検出する同期語検出器 2 0 1と、 多重化信号から AL-SDU画像 パケットと AL- SDU音声パケヅトを分離するメディア分離器 2 0 2と、 伝送誤り がある AL- SDU画像パケットを検出する誤り検出器 2 0 3と、 特定符号を生成す る特定符号発生器 2 0 4と、 切替スィッチ 2 0 5と、 を備えて構成される。 同期語検出器 2 0 1は、 復調部 1 0 3で復調された多重化信号から同期語を 検出すると、 その旨をメディア分離器 2 0 2に通知する。 メディア分離器 2 0 2は、 同期語検出器 2 0 1より同期語が検出された旨の通知を受けると、 その 時点での多重化信号から AL-SDU画像パケヅトと AL - SDU音声パケヅトを分離する 。 ここで、 同期語と同期語とで挟まれた部分が 1つの多重化パケットとなり同 期が確立する。 FIG. 5 is a block diagram showing the configuration of the media separation unit 104. As shown in this figure, the media demultiplexing unit 104 includes a synchronizing word detector 201 for detecting a segment (synchronizing word) of an AL-SDU image packet from the multiplexed signal, and an AL signal from the multiplexed signal. -Media separator 202 for separating S-SDU image packets and AL-SDU voice packets, Error detector 203 for detecting AL-SDU image packets with transmission errors, and specific code generation for generating specific codes And a switching switch 205. When detecting the synchronization word from the multiplexed signal demodulated by the demodulation unit 103, the synchronization word detector 201 notifies the media separator 202 of the detection. Upon receiving notification from the sync word detector 201 that the sync word has been detected, the media separator 202 separates the AL-SDU image packet and the AL-SDU voice packet from the multiplexed signal at that time. To Here, the portion sandwiched between the synchronization words becomes one multiplexed packet, and synchronization is established.
分離された AL- SDU画像パケットは、 誤り検出器 2 0 3にて誤り検出処理が行 われる。 誤り検出器 2 0 3は、 誤りのある AL-SDU画像パケットを検出すると、 切替スィヅチ 2 0 5をメディァ分離器 2 0 2側から特定符号発生器 2 0 4側に 切り替えて、 誤りのある AL-SDU画像パケットを出力しないようにし、 代わりに 特定符号発生器 2 0 4にて発生した特定符号を出力する。 この場合、 特定符号 発生器 2 0 4より発生する特定符号は、 画像復号部 1 0 7 (図 1参照) で用い られる可変長符号と完全に識別できるものである。 すなわち、 画像を表現する ための様々な符号を含む可変長符号テーブル中には存在せず、 且つ画像復号部 1 0 7が認識することのできる符号である。 誤り検出器 2 0 3にて誤りのある AL-SDU画像パケヅトが検出されなかった場合は、 切替スィツチ 2 0 5はメディ ァ分離器 2 0 2側に切り替わった状態を維持するので、 メディア分離器 2 0 2 で分離された AL- SDU画像パケットはそのまま出力される。 誤り検出器 2 0 3は 、 切替スィツチ 2 0 5を特定符号発生器 2 0 4側に切り替えた後、 次に送られ て来る多重化信号の同期語のタイミングでメディァ分離器 2 0 2側に切り替え る。
ここで、 図 6は、 多重化信号の作成 ·分離、 特定符号付与の過程を示すもの である。 The separated AL-SDU image packet is subjected to error detection processing by the error detector 203. When the error detector 203 detects an erroneous AL-SDU image packet, it switches the switch 205 from the media separator 202 to the specific code generator 204 and outputs the erroneous AL. -Do not output the SDU image packet, and output the specific code generated by the specific code generator 204 instead. In this case, the specific code generated by the specific code generator 204 can be completely distinguished from the variable length code used in the image decoding unit 107 (see FIG. 1). That is, it is a code that does not exist in the variable-length code table including various codes for representing an image and can be recognized by the image decoding unit 107. If the error detector 203 does not detect an erroneous AL-SDU image packet, the switching switch 205 maintains the state of switching to the media separator 202 side. The AL-SDU image packet separated in 202 is output as it is. The error detector 203 switches the switching switch 205 to the specific code generator 204 side, and then sends it to the media separator 202 at the timing of the synchronization word of the multiplex signal transmitted next. Switch. Here, FIG. 6 shows the process of creating / separating a multiplexed signal and assigning a specific code.
まず、 1つの画像を例えば 1 6 X 1 6に分割してブロックを生成する。 次い で、 生成した複数のブロック夫々を符号化する。 1画像分のプロック全てを符 号化した後、 例えば符号化ブロック # 1から # 4までを 1つの伝送単位として ビデオパケットを生成する。 そして、 各伝送単位毎に誤り検出符号等を付与し て AL- SDU画像パケットを構成する。 この場合、 1つの伝送単位が長ければ、 複 数の AL-SDU画像パケッ卜に分割することもある。 図 6では 2つに分割した場合 を示している。 AL-SDU画像パケットを生成した後、 AL- SDU音声パケヅトと多重 化し、 多重化信号として送信する。 そして、 送信した多重化信号を受信側が受 信すると、 多重化信号のヘッダ情報に基づいて画像の AL-SDUパケットと音声の AL-SDUパケットとに分離する。 そして、 分離した AL-SDU画像パケットに誤りが あれば、 その AL-SDU画像パケットを廃棄して代わりに特定符号を挿入する。 特 定符号を挿入した場合、 次の伝送単位まで復号を行わない。 First, a block is generated by dividing one image into, for example, 16 × 16. Next, each of the generated blocks is encoded. After encoding all blocks for one image, a video packet is generated using, for example, encoding blocks # 1 to # 4 as one transmission unit. Then, an AL-SDU image packet is configured by adding an error detection code or the like to each transmission unit. In this case, if one transmission unit is long, it may be divided into multiple AL-SDU image packets. Figure 6 shows a case where the data is divided into two. After generating the AL-SDU image packet, multiplex it with the AL-SDU voice packet and transmit it as a multiplexed signal. Then, when the receiving side receives the transmitted multiplexed signal, it separates the AL-SDU packet of the image and the AL-SDU packet of the audio based on the header information of the multiplexed signal. If there is an error in the separated AL-SDU image packet, the AL-SDU image packet is discarded and a specific code is inserted instead. When a specific code is inserted, decoding is not performed until the next transmission unit.
次に、 図 4及び図 5を参照して、 本実施の形態に係る画像通信端末装置の動 作について説明する。 Next, an operation of the image communication terminal apparatus according to the present embodiment will be described with reference to FIGS.
アンテナ 1 0 1にて捉えられた無線信号が無線受信部 1 0 2にて受信されて 、 復調部 1 0 3にて多重化信号が復調される。 復調された多重化信号は、 メデ ィァ分離部 1 0 4で AL-SDU画像パケヅトと AL-SDU音声パケヅ卜に分離される。 この際、 分離された AL- SDU画像パケヅトと AL-SDU音声パケヅトが一時的に R A M l 0 6に格納される。 そして、 分離された AL- SDU画像パケヅ トは、 画像復号 部 1 0 7に入力されてディジ夕ル画像信号に復号された後、 D/A変換部 1 1 0にてアナログ画像信号に変換されて表示部 1 1 1にて視覚表示される。 送信 側 (図示略) より送られてくる多重化信号の中で誤りのある AL-SDU画像バケツ トが検出された場合には、 そのパケットの出力が行われず、 その分の画像は表 示部 1 1上に表示されない。 一方、 分離された AL-SDU音声パケットは音声復号 部 1 1 2に入力されてディジタル音声信号に復号された後、 DZA変換部 1 1 3にてアナログ音声信号に変換されてスピーカ 1 1 4より音声出力される。
このように、 本実施の形態に係る画像通信端末装置によれば、 1画像分の画 像信号を複数に分割してブロックを生成し、 それそれを符号化した後、 複数個 を 1伝送単位としたビデオパケットを生成し、 このビデオバケツトをそのまま もしくは分割して生成した AL-SDU画像パケット単位で誤り検出を行い、 誤りの ある AL-SDU画像パケットについては、 画像復号部 1 0 7で特定できる特定符号 に置換するようにしたので、 伝送誤り発生時における画質劣化を最小限に抑え ることができる。 特に 本発明では、 AL- SDU画像パケット単位で誤りを検出す るので、 AL- SDU画像パケヅト単位で誤り検出するようにしていない特開平 7— 3 1 2 7 5 0号公報で開示された動画像通信装置よりも伝送誤り発生時におけ る画質劣化を低く抑えることが可能である。 A radio signal captured by antenna 101 is received by radio reception section 102, and a multiplexed signal is demodulated by demodulation section 103. The demodulated multiplexed signal is separated into an AL-SDU image packet and an AL-SDU audio packet by a media separation unit 104. At this time, the separated AL-SDU image packet and AL-SDU audio packet are temporarily stored in the RAM 106. Then, the separated AL-SDU image packet is input to the image decoding unit 107 and decoded into a digital image signal, and then converted to an analog image signal by the D / A conversion unit 110. This is visually displayed on the display unit 111. If an erroneous AL-SDU image bucket is detected in the multiplexed signal sent from the transmitting side (not shown), the packet is not output and the corresponding image is displayed on the display unit. 1 Not displayed on 1. On the other hand, the separated AL-SDU voice packet is input to the voice decoding unit 112, where it is decoded into a digital voice signal, converted to an analog voice signal by the DZA conversion unit 113, and transmitted from the speaker 114. Voice output. As described above, according to the image communication terminal apparatus according to the present embodiment, an image signal for one image is divided into a plurality of blocks to generate blocks, and after each block is encoded, the plurality is divided into one transmission unit. Then, an error is detected for each AL-SDU image packet generated by dividing or dividing this video bucket as it is, and for the AL-SDU image packet having an error, the image decoding unit 107 Since it is replaced with a specific code that can be specified, it is possible to minimize image quality degradation when a transmission error occurs. In particular, according to the present invention, since an error is detected in AL-SDU image packet units, the moving image disclosed in Japanese Patent Application Laid-Open No. 7-321750 does not detect errors in AL-SDU image packet units. It is possible to suppress image quality degradation at the time of transmission error occurrence lower than in the image communication device.
(実施の形態 2 ) (Embodiment 2)
図 7は、 本発明の実施の形態 2に係る画像通信端末装置の画像復号部 1 0 7 の構成を示すブロック図である。 なお、 画像復号部 1 0 7以外の部分は、 上述 した実施の形態 1に係る画像通信端末装置と同様であるので、 説明上必要な場 合には図 1を参照することとする。 FIG. 7 is a block diagram showing a configuration of the image decoding unit 107 of the image communication terminal device according to Embodiment 2 of the present invention. Note that portions other than the image decoding unit 107 are the same as those of the image communication terminal device according to Embodiment 1 described above, and therefore, FIG. 1 will be referred to when necessary for the description.
図 7において、 本実施の形態に係る画像通信端末装置の画像復号部 1 0 7は 、 可変長復号器 3 0 1と、 逆量子化器 3 0 2と、 逆離散コサイン変換器 3 0 3 と、 フレームメモリ 3 0 4と、 フレームメモリ 3 0 4に対する読み出し Z書き 込みアドレスを発生するアドレス発生器 3 0 5と、 離散コサイン変換器 3 0 3 の出力とフレームメモリ 3 0 4から読み出されたデータとを加算する加算器 3 0 6と、 特定符号を検出する特定符号検出器 3 0 7と、 切替スィツチ 3 0 8と を備えて構成される。 In FIG. 7, the image decoding unit 107 of the image communication terminal device according to the present embodiment includes a variable-length decoder 301, an inverse quantizer 302, and an inverse discrete cosine transformer 303. The frame memory 304, the read from the frame memory 304, the Z address generator that generates the Z write address, the output of the discrete cosine transformer 303, and the read from the frame memory 304 It comprises an adder 306 for adding data, a specific code detector 307 for detecting a specific code, and a switching switch 308.
可変長復号器 3 0 1は、 画像内の符号化ブロックの位置や、 その符号化プロ ヅクが前フレームに対してどの程度動いたのかといった動きべクトルを復号す るとともに、 画像の差分を周波数変換した信号 (以下、 周波数信号) を復号す る。 逆量子化器 3 0 2は、 画像の周波数信号を所定の値で逆量子化して周波数 信号に戻す処理を行う。 逆離散コサイン変換器 3 0 3は周波数信号を画像信号 に変換する処理を行う。 なお、 この画像信号は前フレームに対する予測誤差信
号である。 アドレス発生器 3 0 5は、 可変長復号器 3 0 1にて復号された符号 化ブロックアドレスと動きべクトルとにより、 前フレームの領域を切り出して 読み出す読出しアドレスを発生する。 なお、 この読出しアドレスによって読み 出される画像信号は予測画像である。 The variable-length decoder 301 decodes a motion vector such as the position of a coded block in an image and how much the coded block has moved with respect to the previous frame, and calculates the difference between the images in frequency. Decode the converted signal (hereinafter, frequency signal). The inverse quantizer 302 performs a process of inversely quantizing the frequency signal of the image with a predetermined value to return to a frequency signal. The inverse discrete cosine transformer 303 performs a process of converting a frequency signal into an image signal. Note that this image signal is a prediction error signal for the previous frame. No. The address generator 305 generates a read address based on the coded block address decoded by the variable length decoder 301 and the motion vector to cut out the area of the previous frame and read it. The image signal read by the read address is a predicted image.
加算器 3 0 6は、 予測誤差信号と予測画像を加算して再生画像を構成する。 特定符号検出器 3 0 7は、 受信した画像信号の中から特定符号の検出を行う。 特定符号を検出していない間は、 切替スィツチ 3 0 8を加算器 3 0 6側に切り 替えた状態を維持し、 復号完了した符号化ブロックデータを出力する。 特定符 号を検出したときには、 切替スイッチ 3 0 8を加算器 3 0 6側から 「0」 デー 夕側に切り替えて、 符号化ブロックデータの出力を停止する。 出力した符号化 ブロックデータは、 次のフレームの予測画像として用いるためにフレームメモ リ 3 0 4に書き込まれる。 The adder 303 adds the prediction error signal and the prediction image to form a reproduced image. The specific code detector 307 detects a specific code from the received image signal. As long as the specific code is not detected, the state in which the switching switch 308 is switched to the adder 306 is maintained, and the decoded block data that has been decoded is output. When a specific code is detected, the changeover switch 308 is switched from the adder 306 to the “0” data side to stop outputting the coded block data. The output coded block data is written to the frame memory 304 for use as a predicted image of the next frame.
図 8は、 本実施の形態に係る画像通信端末装置の動作の一例を示す図である 例えば、 符号化プロック # 3の図に示す位置で特定符号を検出した場合、 そ の直前の符号化プロック即ち符号化プロック # 2の位置を特定して、 その符号 化プロック # 2以前の符号化プロック即ち符号化プロック # 2、 # 1が正しく 認識できたものと判断し、 これらに対する表示を行う。 なお、 この例では、 ビ デォバケツトを 3つの AL-SDU画像パケヅトに分割しており、 それそれに誤り検 出符号を付与している。 . FIG. 8 is a diagram showing an example of the operation of the image communication terminal device according to the present embodiment.For example, when a specific code is detected at the position shown in the drawing of coding block # 3, the coding block immediately before that is detected. That is, the position of the encoding block # 2 is specified, and it is determined that the encoding blocks prior to the encoding block # 2, that is, the encoding blocks # 2 and # 1, have been correctly recognized, and a display is made for these. Note that in this example, the video bucket is divided into three AL-SDU image packets, and an error detection code is added to each of them. .
このように、 本実施の形態に係る画像通信端末装置によれば、 画像信号中に 特定符号を検出した場合に、 その特定符号を検出する直前までの誤りの無い符 号化プロヅクを復号して表示するので、 実施の形態 1に係る画像通信端末装置 よりも更に画像品質の低下を抑えることができる。 As described above, according to the image communication terminal apparatus according to the present embodiment, when a specific code is detected in an image signal, an error-free encoded program up to immediately before the detection of the specific code is decoded. Since the display is performed, it is possible to further suppress the deterioration of the image quality as compared with the image communication terminal device according to the first embodiment.
(実施の形態 3 ) (Embodiment 3)
図 9は、 本発明の実施の形態 3に係る画像通信端末装置の画像復号部 1 1 7 の構成を示すブロック図である。 なお、 この図において、 前述した図 7と共通 する部分には同一の符号を付けている。 また、 本実施の形態において画像復号
部 1 1 7以外の受信側の各部は上述した実施の形態 1に係る画像通信端末装置 と同様であるので、 説明上必要な場合には場合は図 1を参照することとする。 図 9において、 本実施の形態に係る画像通信端末装置の画像復号部 1 1 7は 、 可変長復号器 3 0 1と、 逆量子化器 3 0 2と、 逆離散コサイン変換器 3 0 3 と、 フレームメモリ 3 0 4と、 アドレス発生器 3 0 5と、 加算器 3 0 6と、 特 定符号検出器 3 0 7と、 スイッチ 3 0 8と、 同期語検出器 3 0 9とを備えて構 成される。 FIG. 9 is a block diagram showing a configuration of the image decoding unit 117 of the image communication terminal device according to Embodiment 3 of the present invention. Note that, in this figure, the same parts as those in FIG. 7 described above are denoted by the same reference numerals. Also, in the present embodiment, image decoding Since the components on the receiving side other than the components 117 are the same as those of the image communication terminal device according to the above-described first embodiment, FIG. 1 will be referred to when necessary for the description. In FIG. 9, the image decoding unit 1 17 of the image communication terminal apparatus according to the present embodiment includes a variable-length decoder 301, an inverse quantizer 302, and an inverse discrete cosine transformer 303. , A frame memory 304, an address generator 305, an adder 306, a special code detector 307, a switch 308, and a synchronous word detector 309. It is composed.
メディア分離部 1 0 4 (図 4参照) にて分離された画像信号は、 可変長復号 器 3 0 1に入力されて、 画像内の符号化プロックの位置やそのプロックの位置 が前フレームに対してどの程度動いたのかといった動きぺクトルが復号される とともに、 画像の周波数信号が復号される。 画像の周波数信号は、 逆量子化器 3 0 2で逆量子化されて周波数信号に戻される。 そして、 戻された周波数信号 が逆離散コサイン変換器 3 0 3にて画像信号に変換される。 この画像信号は、 前フレームに対する予測誤差信号である。 また、 可変長復号器 3 0 1にて復号 された符号化ブロックアドレスと動きベクトルにより、 アドレス発生器 3 0 5 から前フレームの領域を切り出して読み出す読出しアドレスが出力される。 そ して、 この読出しアドレスに対応する画像信号がフレームメモリ 3 0 4から読 み出される。 読み出された画像信号は予測画像である。 The image signal separated by the media separation unit 104 (see FIG. 4) is input to the variable-length decoder 301 so that the position of the coding block in the image and the position of the block are different from those of the previous frame. The motion vector, such as how much the camera has moved, is decoded, and the frequency signal of the image is decoded. The frequency signal of the image is inversely quantized by the inverse quantizer 302 and returned to the frequency signal. Then, the returned frequency signal is converted into an image signal by the inverse discrete cosine transformer 303. This image signal is a prediction error signal for the previous frame. Also, based on the coded block address and the motion vector decoded by the variable-length decoder 301, a read address from which the area of the previous frame is cut out and read is output from the address generator 305. Then, an image signal corresponding to the read address is read from the frame memory 304. The read image signal is a predicted image.
一方、 特定符号検出器 3 0 7によって、 メディア分離部 1 0 4にて分離され た画像信号の中から特定符号が検出されて、 ァドレス発生器 3 0 5に入力され ると、 アドレス発生器 3 0 5は、 発生したアドレスを廃棄し、 符号化プロヅク アドレスのみから算出したアドレスを出力する。 これにより、 フレームメモリ 3 0 4からは前フレームにおける現在処理対象中の符号化ブロックと同じ位置 にあるデータが読み出される。 On the other hand, when the specific code detector 307 detects a specific code from the image signal separated by the media separation unit 104 and inputs it to the address generator 305, the address generator 05 discards the generated address and outputs the address calculated only from the encoded program address. As a result, data at the same position as the current block to be processed in the previous frame is read from the frame memory 304.
同期語検出器 3 0 9によって、 メディア分離部 1 0 4にて分離された画像信 号の中から画像パケットゃフレームの開始を示す同期語が検出されると、 アド レス発生器 3 0 5は、 動きべクトルと符号化ブロックアドレスから生成したァ ドレスを出力する。 この場合、 特定符号検出器 3 0 7にて特定符号が検出され
ていて、 符号化ブロックアドレスのみから算出したァドレスを出力していれば 、 この出力から動きべクトルと符号化プロックアドレスから生成したァドレス を出力するように切り替える。 When the synchronization word detector 309 detects a synchronization word indicating the start of an image packet / frame from the image signals separated by the media separation unit 104, the address generator 305 Outputs the address generated from the motion vector and the coded block address. In this case, the specific code is detected by the specific code detector 307. If the address calculated only from the coded block address is output, the output is changed to output the motion vector and the address generated from the coded block address.
ァドレス発生器 3 0 5は、 特定符号検出器 3 0 7と同期語検出部 3 0 9が何 も検出していなければ現状の出力状態を維持する。 特定符号検出部 3 0 7にて 特定符号が検出されると、 切替スィツチ 3 0 8が 「0」 デ一夕側に切り替えら れて、 途中まで復号された符号化ブロックの予測誤差信号に代わって 「0」 デ —夕が出力される。 また、 同期語検出器 3 0 9にて同期語が検出されると、 切 替スィツチ 3 0 8が逆離散コサイン変換器 3 0 3側に切り替えられて、 予測誤 差信号が出力される。 すなわち、 特定符号検出器 3 0 7にて特定符号が検出さ れた場合には、 切替スイッチ 3 0 8が 「0」 デ一夕側に切り替わり、 同期語検 出器 3 0 9にて同期語が検出された場合には、 切替スィツチ 3 0 8が逆離散コ サイン変換器 3 0 3側に切り替わる。 このように制御することで、 特定符号検 出部 3 0 7にて特定符号が検出された場合は、 切替スィツチ 3 0 8からは 「0 」 データが出力されて、 フレームメモリ 3 0 4から前フレームにある同じ位置 の画像が出力されるので、 再生される画像は前のフレームと同じ符号化プロッ クとなる。 これは、 処理中の符号化ブロックに誤りが発生した場合に、 前のフ レームと同じ位置にある画像で置換する隠蔽処理の一例である。 この隠蔽処理 は、 同期語検出部 3 0 9にて同期語が検出されるまで継続される。 The address generator 305 maintains the current output state unless the specific code detector 307 and the synchronizing word detector 309 detect anything. When the specific code is detected by the specific code detection unit 307, the switching switch 308 is switched to “0” to the data side and replaced with the prediction error signal of the coded block partially decoded. And “0” is output. Further, when the synchronizing word is detected by the synchronizing word detector 309, the switching switch 308 is switched to the inverse discrete cosine converter 303, and a prediction error signal is output. That is, when the specific code is detected by the specific code detector 307, the changeover switch 308 is switched to “0” and the synchronizing word is detected by the synchronizing word detector 309. Is detected, the switching switch 308 is switched to the inverse discrete cosine transformer 303 side. By performing such control, when a specific code is detected by the specific code detection unit 307, “0” data is output from the switching switch 308, and the data is output from the frame memory 304 before Since the image at the same position in the frame is output, the reproduced image has the same encoding block as the previous frame. This is an example of concealment processing that replaces an image in the same position as the previous frame when an error occurs in the coded block being processed. This concealment process is continued until the synchronization word is detected by the synchronization word detection unit 309.
同期語検出器 3 0 9にて同期語が検出された場合は、 スィッチ 3 0 8からは 予測誤差信号が出力されて、 フレームメモリ 3 0 4からは予測信号が出力され る。 そして、 これらが加算器 3 0 6にて加算されて再生画像が得られる。 図 9は、 本実施の形態に係る画像通信装置の動作の一例を示す図である。 例えば、 符号化プロック # 1〜# 6を 1つのビデオパケットとし、 また 3つ の AL-SDU画像パケットに分割している。 すなわち、 符号化ブロック # 1、 # 2 及び符号化ブロック # 3の一部分と、 符号化ブロック # 3の残りの部分、 符号 化プロック # 4及び符号化プロヅク # 5の一部分と、 符号化プロック # 5の残 りの部分及び符号化プロック # 6とから成っている。 そして、 各部には誤り検
出符号を付与している。 また、 各伝送単位の先頭には同期語を付与している。 そして、 例えば符号化ブロック # 3の残りの部分で特定符号を検出したとする と、 特定符号を検出した符号化プロック即ち符号化プロック # 3から次の同期 語までを隠蔽処理対象として、 前のフレームにある同じ位置の画像を出力する このように、 本実施の形態に係る画像通信端末装置によれば、 メディア分離 部 1 0 4にて分離された画像信号から特定符号を検出すると、 途中まで復号し た符号化ブロックの予測誤差信号の出力を止めて、 フレームメモリ 3 0 4に保 持されている前のフレームにある同じ位置の画像を出力し、 この出力を次の同 期語を検出するまで継続するので、 実施の形態 2の画像通信端末装置よりも更 に伝送誤り発生時における画質劣化を低く抑えることができる。 When the synchronization word is detected by the synchronization word detector 309, a prediction error signal is output from the switch 308, and a prediction signal is output from the frame memory 304. Then, these are added by the adder 306 to obtain a reproduced image. FIG. 9 is a diagram showing an example of the operation of the image communication device according to the present embodiment. For example, encoding blocks # 1 to # 6 are made into one video packet, and are divided into three AL-SDU image packets. That is, a part of coding block # 1, # 2 and coding block # 3, the rest of coding block # 3, a part of coding block # 4 and coding block # 5, and a coding block # 5 And encoding block # 6. Each part has an error detection The output code is assigned. In addition, a synchronization word is added to the head of each transmission unit. Then, for example, if a specific code is detected in the remaining portion of the coding block # 3, the coding block in which the specific code is detected, that is, from coding block # 3 to the next synchronizing word is subjected to the concealment processing, and As described above, according to the image communication terminal device according to the present embodiment, when the specific code is detected from the image signal separated by media separation unit 104, Stops outputting the prediction error signal of the decoded coded block, outputs the image at the same position in the previous frame held in the frame memory 304, and detects this output to detect the next synchronization word Therefore, the image quality degradation when a transmission error occurs can be further suppressed as compared with the image communication terminal apparatus according to the second embodiment.
なお、 本実施の形態においては、 前フレームと同じ位置にある符号化ブロッ クで置換するように説明したが、 本発明は隠蔽処理対象を特定する発明である ために、 隠蔽方法 (例えば、 周辺の符号化ブロック情報を用いて、 置換する方 法など) には依存しないことは容易に類推できる。 Note that, in the present embodiment, it has been described that replacement is performed with a coding block located at the same position as the previous frame. However, since the present invention is an invention for specifying a concealment processing target, a concealment method (for example, It can easily be inferred that it does not depend on the replacement method using the coded block information.
また、 本発明の実施の形態 1から実施の形態 3は、 画像通信端末装置を例と してハ一ドウエア構成としたが、 ソフトウエアにより実現することも可能であ る。 すなわち、 半導体メモリ、 磁気ディスク、 光ディスク、 光磁気ディスクな どの書き込み可能な記録媒体に本発明の方法をプログラム化して記憶させてお き、 この記憶させたプログラムを C P U (中央処理装置) にて処理をさせるよ うにしても良い。 また、 本発明は、 このソフトウェアを記録媒体から読み出し てコンピュータで実施する事も可能であり、 同様の作用をなすことは言うまで もない。 Further, although the first to third embodiments of the present invention have a hardware configuration by taking an image communication terminal device as an example, they can be realized by software. That is, the method of the present invention is programmed and stored in a writable recording medium such as a semiconductor memory, a magnetic disk, an optical disk, and a magneto-optical disk, and the stored program is processed by a CPU (central processing unit). You may try to do it. In addition, the present invention can read out the software from the recording medium and execute the software on a computer, and it goes without saying that the same operation is performed.
また、 本発明は、 移動体通信システムの基地局装置にも勿論適用することが できる。 Further, the present invention can of course be applied to a base station device of a mobile communication system.
また、 本発明の実施の形態 1から実施の形態 3を備え、 多重化部 ·符号化部 を有する構成にし、 送信側と受信側で使用すれば、 双方向による無線画像通信 が可能となる。
また、 本発明は伝送中に誤りを発生しやすい無線伝送路において特に有効で あるが、 有線伝送路においても有効なものである。 以上説明したように、 本発明によれば、 メディア分離処理において画像信号 に誤りが検出した場合に AL-SDU画像パケット単位で誤りが発生した位置を容易 に画像復号部に通知することが可能となる。 In addition, if the transmission apparatus includes the first to third embodiments of the present invention and has a configuration including a multiplexing unit and an encoding unit and is used on the transmission side and the reception side, bidirectional wireless image communication can be performed. Further, the present invention is particularly effective in a wireless transmission path in which an error easily occurs during transmission, but is also effective in a wired transmission path. As described above, according to the present invention, when an error is detected in an image signal in media separation processing, it is possible to easily notify an image decoding unit of a position where an error has occurred in AL-SDU image packet units. Become.
また、 受信した画像信号内に特定符号を検出すると、 誤り発生直前までに復 号できた画像の表示を可能とし、 また誤り発生直後から次の同期がかかるまで の間を隠蔽処理対象とすることが可能となる。 このように、 可変長符号を用い ながらも誤り位置を特定できるために、 正しく復号した部分の表示と隠蔽すベ き部分とを効率良く、 しかも簡易な手段で実現することが可能である。 言いか えると、 極めて少ないハードウェアもしくはソフトウェア資産で伝送誤り発生 時の高画質化を実現することが可能である。 本明細書は、 2 0 0 0年 4月 2 5日出願の特願 2 0 0 0— 1 2 4 3 2 1に基 づくものである。 この内容をここに含めておく。 産業上の利用可能性 Also, when a specific code is detected in the received image signal, it is possible to display an image that could be decoded just before the error occurred, and to perform concealment processing from the time immediately after the error occurred until the next synchronization. Becomes possible. As described above, since the error position can be specified while using the variable-length code, the display of the correctly decoded portion and the portion to be concealed can be realized efficiently and with simple means. In other words, it is possible to achieve high image quality when transmission errors occur with extremely few hardware or software resources. This description is based on Japanese Patent Application No. 2000-124324, filed on April 25, 2000. This content is included here. Industrial applicability
本発明は、 テレビ電話などの動画像通信装置に用いて好適である。
The present invention is suitable for use in a moving image communication device such as a videophone.