JP2013192024A - 映像送信装置およびそのプログラム、ならびに、映像受信装置およびそのプログラム - Google Patents

映像送信装置およびそのプログラム、ならびに、映像受信装置およびそのプログラム Download PDF

Info

Publication number
JP2013192024A
JP2013192024A JP2012056640A JP2012056640A JP2013192024A JP 2013192024 A JP2013192024 A JP 2013192024A JP 2012056640 A JP2012056640 A JP 2012056640A JP 2012056640 A JP2012056640 A JP 2012056640A JP 2013192024 A JP2013192024 A JP 2013192024A
Authority
JP
Japan
Prior art keywords
signal
prediction
video
prediction candidate
difference
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012056640A
Other languages
English (en)
Inventor
Katsunori Aoki
勝典 青木
Masaaki Kurozumi
正顕 黒住
Tomohito Koyama
智史 小山
Shuhei Oda
周平 小田
Kiyohiko Ishikawa
清彦 石川
Makoto Yamamoto
真 山本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Nippon Hoso Kyokai NHK
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Hoso Kyokai NHK, Japan Broadcasting Corp filed Critical Nippon Hoso Kyokai NHK
Priority to JP2012056640A priority Critical patent/JP2013192024A/ja
Publication of JP2013192024A publication Critical patent/JP2013192024A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】予測符号化して映像信号を伝送する際に、映像送信装置から映像受信装置に伝送する予測信号を生成するための情報を削減することが可能な映像伝送システムを提供する。
【解決手段】映像伝送システムSは、映像受信装置30において、すでに復号された映像信号から予測信号の候補を複数生成して映像送信装置10に送信し、映像送信装置10において、その候補から予測信号を選択して映像信号を符号化し、選択した予測信号を識別する情報を付加して映像受信装置30に送信することで、映像受信装置30が、選択された予測信号を用いて映像信号を復号することを特徴とする。
【選択図】図1

Description

本発明は、双方向伝送路を用いて映像信号を送受信する映像送信装置およびそのプログラム、ならびに、映像受信装置およびそのプログラムに関する。
従来、インターネット等の双方向伝送路を介して、映像信号を伝送することが一般的に行われている。この映像信号は情報量が多いため、その伝送には高いビットレートの伝送路が必要である。しかし、高いビットレートを確保できない伝送路しか利用できない場合、送信側では、映像信号を符号化し低いビットレートの信号に変換して送信する。そして、受信側では、受信した符号化信号を、もとの映像信号に復号する。この符号化および復号処理は、例えば、MPEG−2等で規格化されている(非特許文献1参照)。
従来のMPEG−2等の映像符号化では、送信側で、すでに伝送した信号を用いて、これから伝送しようとする信号を予測する信号(予測信号)を生成し、実際の信号と予測信号との差(差信号)を、受信側に伝送している(予測符号化)。このとき、より正確な予測信号を用いることができれば、予測信号の誤差が小さくなり、差信号の値を“0”付近に集中させることができ、低いビットレートで伝送しても画質劣化が目立たなくなる。
また、予測符号化を行うためには、送信装置と受信装置とで共通の予測信号を使用する必要がある。このため、従来は、送信装置から受信装置に対して、差信号の情報と、予測信号を生成するための情報との両方を伝送している。
また、現在、インターネット接続サービスには、一般利用者の通信端末から伝送路に向かう上り回線の通信速度(上り帯域)と、伝送路から通信端末に向かう下り回線の通信速度(下り帯域)とが異なるサービスが存在する。例えば、固定回線におけるADSL(Asymmetric Digital Subscriber Line:非対称デジタル加入者線)を用いた接続サービス(非特許文献2参照)や、移動体向けのWiMax(Worldwide Interoperability for Microwave Access)、HSDPA(High Speed Downlink Packet Access)等の接続サービスでは、上り帯域が下り帯域より大幅に小さな値に制限されている。
これらのインターネット接続サービスを用いて、配信サーバから通信端末に映像信号を伝送する場合、映像信号は下り回線で伝送される。この下り回線の通信速度は高速であるため、高画質での伝送が可能である。
ISO/IEC 13818-2:2000 Information technology -- Generic coding of moving pictures and associated audio information: Video ITU-T Recommendation G.992.1: Asymmetric digital subscriber line (ADSL) transceivers
上り帯域が下り帯域より大幅に小さな値に制限された双方向伝送路において、上り回線で映像信号を伝送する場合、例えば、カメラマンが撮影したカメラ映像を放送局や配信サーバに伝送する場合、従来技術では、帯域の小さな上り回線を用いて、差信号の情報と予測信号を生成するための情報との両方を伝送する必要がある。このため、差信号の伝送に利用できる帯域が一層わずかなものとなり、高画質での伝送は困難であった。
本発明は、このような問題に鑑みてなされたものであり、送信側から受信側に伝送する予測信号を生成するための情報を削減し、差信号を伝送する上り回線の帯域を増加させることが可能な映像送信装置およびそのプログラム、ならびに、映像受信装置およびそのプログラムを提供することを課題とする。
本発明は、前記課題を解決するために創案されたものであり、まず、請求項1に記載の映像送信装置は、映像送信装置から映像受信装置へ映像信号をブロックごとに予測符号化して伝送する際に、前記映像受信装置において、前記映像送信装置の伝送ブロックに対する予測信号の候補である予測候補信号を複数生成し、前記映像送信装置において、前記複数の予測候補信号の中の一つを予測信号として選択し前記伝送ブロックを符号化して伝送する映像伝送システムにおける映像送信装置であって、予測候補受信手段と、予測候補復号手段と、予測信号選択手段と、差分手段と、差信号符号化手段と、符号送信手段とを備える構成とした。
かかる構成において、映像送信装置は、予測候補受信手段によって、映像受信装置から、複数の予測候補信号を符号化した予測候補符号と、予測候補信号を識別する識別情報とを受信する。これによって、映像送信装置は、自身が予測処理を行うことなく、映像受信装置が予測した予測候補信号を、下り回線を介して取得することができる。
そして、映像送信装置は、予測候補復号手段によって、受信した予測候補符号を予測候補信号に復号する。
また、映像送信装置は、予測信号選択手段によって、映像信号のブロックごとに、復号された予測候補信号の中から、予測信号を一つ選択する、なお、予測精度を高くするためには、伝送するブロック(伝送ブロック)との差異が小さい予測信号が望ましい。そして、映像送信装置は、差分手段によって、選択された予測信号と伝送ブロックとの差分をとることで差信号を生成する。このように、類似する予測信号と伝送ブロックとの差分をとることで、符号化する情報量を削減することができる。そして、映像送信装置は、差信号符号化手段によって、差信号を差信号符号に符号化することで、情報量が削減された差信号符号を生成する。
そして、映像送信装置は、符号送信手段によって、差信号符号と、予測信号選択手段で選択された予測信号に対応する識別情報とを、映像受信装置に送信する。これによって、映像受信装置において、映像送信装置が複数の予測候補信号の中からどの予測信号を用いて差信号を生成したのかを認識することができ、映像信号を復号することが可能になる。
また、請求項2に記載の映像受信装置は、映像送信装置から映像受信装置へ映像信号をブロックごとに予測符号化して伝送する際に、前記映像受信装置において、前記映像送信装置の伝送ブロックに対する予測信号の候補である予測候補信号を複数生成し、前記映像送信装置において、前記複数の予測候補信号の中の一つを予測信号として選択し前記伝送ブロックを符号化して伝送する映像伝送システムにおける映像受信装置であって、復号信号記憶手段と、符号受信手段と、差信号復号手段と、予測手段と、生成情報記憶手段と、予測候補送信手段と、予測信号復号手段と、加算手段とを備える構成とした。
かかる構成において、映像受信装置は、符号受信手段によって、映像送信装置から、映像信号のブロックごとに、複数の予測候補信号から選択した予測信号との差分(差信号)を符号化した差信号符号と、選択した予測候補信号を識別する識別情報とを受信する。これによって、映像受信装置は、映像送信装置が複数の予測候補信号の中からどの予測信号を用いて差信号を生成したのかを認識することができる。
そして、映像受信装置は、差信号復号手段によって、差信号符号を差信号に復号する。
そして、映像受信装置は、予測手段によって、すでに復号された復号信号から、今後の予測対象となるブロックに対する予測候補信号を、予め定めた規則によって複数生成し、予測候補符号として符号化する。さらに、映像受信装置は、予測手段によって、復号信号から、予測候補信号を生成した手法を特定するパラメータを、生成情報として生成し、生成情報記憶手段に記憶する。これによって、生成情報を参照することで、予測候補信号を再生成することが可能になる。
そして、映像受信装置は、予測候補送信手段によって、予測手段で生成された予測候補符号と、予測候補信号を識別する識別情報とを、映像送信装置に送信する。この識別情報は、映像送信装置がどの予測候補信号を予測信号として選択したかを特定するための情報となる。
また、映像受信装置は、予測信号復号手段によって、符号受信手段で受信した識別情報に対応する生成情報記憶手段に記憶されている生成情報に基づいて、復号信号から予測信号を生成する。
そして、映像受信装置は、加算手段によって、予測信号復号手段で生成された予測信号と、差信号復号手段で復号された差信号とを加算して映像信号のブロックを復号するとともに、復号信号記憶手段に記憶する。これによって、映像信号が復号されるとともに、予測を行うための信号として、復号信号記憶手段に映像信号が蓄積されることになる。
また、請求項3に記載の映像送信装置は、映像送信装置から映像受信装置へ映像信号をブロックごとに予測符号化して伝送する際に、前記映像受信装置において、前記映像送信装置の伝送ブロックに対する予測信号の候補である予測候補信号を複数生成し、前記映像送信装置において、前記複数の予測候補信号の中の一つを予測信号として選択し前記伝送ブロックを符号化して伝送する映像伝送システムにおける映像送信装置であって、予測候補受信手段と、予測信号選択手段と、差分手段と、差信号符号化手段と、符号送信手段と、差信号復号手段と、加算手段と、復号信号記憶手段と、予測信号復号手段とを備える構成とした。
かかる構成において、映像送信装置は、予測候補受信手段によって、映像受信装置から、複数の予測候補信号を生成するためのパラメータである生成情報と、予測候補信号を識別する識別情報とを受信する。
また、映像送信装置は、予測信号選択手段によって、映像信号のブロックごとに、予測候補信号の一つを予測信号として選択する。なお、予測候補信号は、予測信号復号手段によって、生成情報に基づいて生成されたものである。
そして、映像送信装置は、差分手段によって、選択された予測信号と伝送ブロックとの差分をとることで差信号を生成する。このように、類似する予測信号と伝送ブロックとの差分をとることで、符号化する情報量を削減することができる。そして、映像送信装置は、差信号符号化手段によって、差信号を差信号符号に符号化することで、情報量が削減された差信号符号を生成する。
そして、映像送信装置は、符号送信手段によって、差信号符号と、予測信号選択手段で選択された予測信号に対応する識別情報とを、映像受信装置に送信する。これによって、映像受信装置において、映像送信装置が複数の予測候補信号の中からどの予測信号を用いて差信号を生成したのかを認識することができ、映像信号を復号することが可能になる。
また、映像送信装置は、差信号復号手段によって、差信号符号化手段で符号化された差信号符号を、映像受信装置と同じ復号処理で差信号に復号する。
そして、映像送信装置は、加算手段によって、差信号復号手段で復号された差信号と、予測信号選択手段で選択された予測信号とを加算して伝送ブロックを復号した復号信号を生成し、復号信号記憶手段に順次記憶する。これによって、映像受信装置で復号される映像信号と同じ映像信号が、復号信号記憶手段に蓄積されることになる。
そして、映像送信装置は、予測信号復号手段によって、予測候補受信手段で受信した生成情報で特定される予測候補信号を生成した手法により、復号信号から予測候補信号を複数生成する。この生成された複数の予測候補信号から、予測信号選択手段が予測信号を選択することになり、映像受信装置から、予測候補信号そのものを受信する必要がなくなる。
さらに、請求項4に記載の映像送信装置は、請求項3に記載の映像送信装置において、予測手段をさらに備える構成とした。
かかる構成において、映像送信装置は、予測手段によって、すでに復号された復号信号から、次に予測対象となるブロックに対する予測候補信号を、予め定めた規則によって複数生成する。さらに、映像送信装置は、予測手段によって、復号信号から、予測候補信号を生成した手法を特定するパラメータを、生成情報として生成する。
また、映像送信装置は、予測信号選択手段によって、予測手段で予測された予測候補信号と、予測信号復号手段で生成された予測候補信号との中から、予測信号を一つ選択する。なお、予測精度を高くするためには、伝送ブロックとの差異が小さい予測信号が望ましい。また、予測手段で予測された予測候補信号から予測信号を選択した場合、映像受信装置にその信号を生成するための生成情報を送信する必要がある。このため、予測信号選択手段は、予測精度の向上効果と、生成情報として送信する情報増加との影響のバランスを考慮して予測信号を選択する。このように、映像送信装置と映像受信装置との双方で予測することで、予測精度を高めることができる。
そして、映像送信装置は、予測信号選択手段によって、予測手段で予測された予測候補信号が選択された場合、符号送信手段によって、生成情報を映像受信装置に送信する。これによって、生成情報を参照することで、映像受信装置において、予測候補信号を再生成することが可能になる。
また、請求項5に記載の映像受信装置は、映像送信装置から映像受信装置へ映像信号をブロックごとに予測符号化して伝送する際に、前記映像受信装置において、前記映像送信装置の伝送ブロックに対する予測信号の候補である予測候補信号を複数生成し、前記映像送信装置において、前記複数の予測候補信号の中の一つを予測信号として選択し前記伝送ブロックを符号化して伝送する映像伝送システムにおける映像受信装置であって、復号信号記憶手段と、符号受信手段と、差信号復号手段と、予測手段と、生成情報記憶手段と、予測候補送信手段と、予測信号復号手段と、加算手段とを備える構成とした。
かかる構成において、映像受信装置は、符号受信手段によって、映像送信装置から、映像信号のブロックごとに、複数の予測候補信号から選択した予測信号との差分(差信号)を符号化した差信号符号と、選択した予測候補信号を識別する識別情報とを受信する。これによって、映像受信装置は、映像送信装置が複数の予測候補信号の中からどの予測信号を用いて差信号を生成したのかを認識することができる。
そして、映像受信装置は、差信号復号手段によって、差信号符号を差信号に復号する。
そして、映像受信装置は、予測手段によって、復号信号から、今後の予測対象となるブロックに対する予測候補信号を複数生成し、予測候補符号として符号化する。さらに、映像受信装置は、予測手段によって、復号信号から、予測候補信号を生成した手法を特定するパラメータを、生成情報として生成し、生成情報記憶手段に記憶する。これによって、生成情報を参照することで、予測候補信号を再生成することが可能になる。
そして、映像受信装置は、予測候補送信手段によって、予測手段で生成された生成情報と、予測候補信号を識別する識別情報とを、映像送信装置に送信する。この識別情報は、映像送信装置がどの予測候補信号を予測信号として選択したかを特定するための情報となる。
また、映像受信装置は、予測信号復号手段によって、符号受信手段で受信した識別情報に対応する生成情報記憶手段に記憶されている生成情報に基づいて、復号信号から予測信号を生成する。
そして、映像受信装置は、加算手段によって、予測信号復号手段で生成された予測信号と、差信号復号手段で復号された差信号とを加算して映像信号のブロックを復号するとともに、復号信号記憶手段に記憶する。これによって、映像信号が復号されるとともに、予測を行うための信号として、復号信号記憶手段に映像信号が蓄積されることになる。
さらに、請求項6に記載の映像受信装置は、請求項5に記載の映像受信装置において、前記符号受信手段で、前記映像送信装置において予測した予測候補信号を生成するためのパラメータである生成情報を受信した場合、前記予測信号復号手段が、前記生成情報記憶手段に記憶されている生成情報の代わりに、前記符号受信手段で受信した生成情報に基づいて、前記復号信号から予測信号を生成する構成とした。
かかる構成において、映像受信装置は、自身が生成した予測候補信号が選択された場合、予測信号復号手段によって、生成情報記憶手段に記憶されている予測信号復号手段によって、生成情報で復号信号から予測信号を生成し、映像送信装置が生成した予測候補信号が選択された場合、映像送信装置から受信した生成情報で復号信号から予測信号を生成する。なお、映像受信装置は、予測手段が生成した予測候補信号を記憶しておき、自身が生成した予測候補信号が選択された場合には、予測信号復号手段によって、その記憶しておいた予測候補信号を予測信号として用いることとしてもよい。
また、請求項7に記載の映像送信装置は、請求項1,3,4のいずれか一項に記載の映像送信装置において、過去に送信した映像信号を映像受信装置と共通に記憶した映像記憶装置を外部に接続し、外部参照入力手段と、外部参照送信手段とをさらに備える構成とした。
かかる構成において、映像送信装置は、外部参照入力手段によって、映像記憶装置に記憶されている映像信号の中で、予測信号の参照先の候補を特定する外部参照情報を、外部から入力する。そして、映像送信装置は、外部参照送信手段によって、外部参照情報を映像受信装置に送信する。
そして、映像送信装置は、予測候補受信手段で、予測候補信号を生成するためのパラメータとして、映像記憶装置に記憶されている映像信号を参照する旨を示す生成情報を受信した場合、予測信号復号手段によって、当該生成情報に基づいて、映像記憶手段に記憶されている映像信号から予測信号を生成する。
また、請求項8に記載の映像受信装置は、請求項2,5,6のいずれか一項に記載の映像受信装置において、過去に受信した映像信号を前記映像送信装置と共通に記憶した映像記憶装置を外部に接続し、外部参照受信手段をさらに備える構成とした。
かかる構成において、映像受信装置は、外部参照受信手段によって、映像記憶装置に記憶されている映像信号の中で、予測信号の参照先の候補となるフレームを特定する外部参照情報を、映像送信装置から受信する。
そして、映像受信装置は、予測手段によって、今後の予測対象となるブロックに対する予測候補信号を外部参照情報で特定される参照先を参照して生成する。
これによって、映像送信装置と映像受信装置とで共通に蓄積している映像信号で予測信号を共有することができる。
また、請求項9に記載の映像送信プログラムは、映像送信装置から映像受信装置へ映像信号をブロックごとに予測符号化して伝送する際に、前記映像受信装置において、前記映像送信装置の伝送ブロックに対する予測信号の候補である予測候補信号を複数生成し、前記映像送信装置において、前記複数の予測候補信号の中の一つを予測信号として選択し前記伝送ブロックを符号化して伝送するために、前記映像送信装置のコンピュータを、予測候補受信手段、予測候補復号手段、予測信号選択手段、差分手段、差信号符号化手段、符号送信手段として機能させるためのプログラムとして構成した。
かかる構成において、映像送信プログラムは、予測候補受信手段によって、映像受信装置から、複数の予測候補信号を符号化した予測候補符号と、予測候補信号を識別する識別情報とを受信する。そして、映像送信プログラムは、予測候補復号手段によって、受信した予測候補符号を予測候補信号に復号する。
また、映像送信プログラムは、予測信号選択手段によって、映像信号のブロックごとに、復号された予測候補信号の一つを予測信号として選択する。そして、映像送信プログラムは、差分手段によって、選択された予測信号と伝送ブロックとの差分をとることで差信号を生成する。
そして、映像送信プログラムは、差信号符号化手段によって、差信号を差信号符号に符号化することで、情報量が削減された差信号符号を生成する。そして、映像送信プログラムは、符号送信手段によって、差信号符号と、予測信号選択手段で選択された予測信号に対応する識別情報とを、映像受信装置に送信する。
さらに、請求項10に記載の映像受信プログラムは、映像送信装置から映像受信装置へ映像信号をブロックごとに予測符号化して伝送する際に、前記映像受信装置において、前記映像送信装置の伝送ブロックに対する予測信号の候補である予測候補信号を複数生成し、前記映像送信装置において、前記複数の予測候補信号の中の一つを予測信号として選択し前記伝送ブロックを符号化して伝送するために、前記映像受信装置のコンピュータを、符号受信手段、差信号復号手段、予測手段、予測候補送信手段、予測信号復号手段、加算手段として機能させるためのプログラムとして構成した。
かかる構成において、映像受信プログラムは、符号受信手段によって、映像送信装置から、映像信号のブロックごとに、複数の予測候補信号から選択した予測信号との差分(差信号)を符号化した差信号符号と、選択した予測候補信号を識別する識別情報とを受信する。そして、映像受信プログラムは、差信号復号手段によって、差信号符号を差信号に復号する。
そして、映像受信プログラムは、予測手段によって、すでに復号された復号信号から、今後の予測対象となるブロックに対する予測候補信号を、予め定めた規則によって複数生成し、予測候補符号として符号化する。さらに、映像受信プログラムは、予測手段によって、復号信号から、予測候補信号を生成した手法を特定するパラメータを、生成情報として生成し、生成情報記憶手段に記憶する。そして、映像受信プログラムは、予測候補送信手段によって、予測手段で生成された予測候補符号と、予測候補信号を識別する識別情報とを、映像送信装置に送信する。
また、映像受信プログラムは、予測信号復号手段によって、符号受信手段で受信した識別情報に対応する生成情報記憶手段に記憶されている生成情報に基づいて、復号信号から予測信号を生成する。そして、映像受信プログラムは、加算手段によって、予測信号復号手段で生成された予測信号と、差信号復号手段で復号された差信号とを加算して映像信号のブロックを復号するとともに、復号信号記憶手段に記憶する。
本発明は、以下に示す優れた効果を奏するものである。
請求項1,2,9,10に記載の発明によれば、映像受信装置において、予測符号化方式における予測信号の候補を生成し、映像送信装置に送信することができる。このように、映像送信装置における下り回線を使用して、映像送信装置に予測信号(予測候補信号)を送信することで、映像送信装置から映像受信装置に伝送する予測信号を生成するための情報を削減することができる。また、これによって、差信号の伝送に利用できる帯域を増加させることができる。
請求項3,5に記載の発明によれば、映像受信装置において、予測符号化方式における予測信号の候補を生成し、候補を生成するためのパラメータを映像送信装置に送信することができる。このように、映像送信装置における下り回線を使用して、映像送信装置に予測信号(予測候補信号)を生成するためのパラメータを送信することで、映像送信装置から映像受信装置に伝送する予測信号を生成するための情報を削減することができる。また、これによって、差信号の伝送に利用できる帯域を増加させることができる。
請求項4,6に記載の発明によれば、映像送信装置と映像受信装置とでそれぞれ予測符号化方式における予測信号の候補を生成し、双方向の回線を介して、共有することができる。このため、本発明は、映像送信装置から映像受信装置に伝送する予測信号を生成するための情報を削減し、差信号の伝送に利用できる帯域を増加させることができるとともに、映像受信装置で生成した予測候補信号の精度が低い場合に、映像送信装置で生成した予測信号を利用することで、予測信号の精度を維持し、画質低下を防ぐことができる。
請求項7,8に記載の発明によれば、過去に伝送した映像信号の一部を予測信号として参照することができるため、過去に伝送した映像信号の一部を加工等する場合、予測信号が過去に伝送した映像信号に類似する可能性が高いことから、予測精度を高め、符号化効率を高めることができる。
本発明の第1実施形態に係る映像伝送システムにおける映像送信装置および映像受信装置の構成を示すブロック構成図である。 本発明の第1実施形態に係る映像受信装置の予測手段が生成する生成情報の一例を説明するためのデータ構造図である。 本発明の第1実施形態に係る映像伝送システムにおける映像送信装置および映像受信装置の動作を示すフローチャートである。 本発明の第2実施形態に係る映像伝送システムにおける映像送信装置および映像受信装置の構成を示すブロック構成図である。 本発明の第2実施形態に係る映像送信装置の予測手段が生成する生成情報の一例を説明するためのデータ構造図である。 本発明の第3実施形態に係る映像伝送システムにおける映像送信装置および映像受信装置の構成を示すブロック構成図である。 本発明の第3実施形態に係る映像伝送システムにおける映像送信装置に入力される外部参照情報の一例を説明するための図である。 本発明の第3実施形態に係る映像受信装置の予測手段が生成する生成情報の一例を説明するためのデータ構造図である。
以下、本発明の実施形態について図面を参照して説明する。
≪第1実施形態:映像伝送システムの構成≫
最初に、図1を参照して、本発明の第1実施形態に係る映像送信装置10と映像受信装置30とを含んだ映像伝送システムSの構成について説明する。
図1に示すように、映像伝送システムSは、映像送信装置10と映像受信装置30とを、伝送路Nを介して接続し、映像信号を予測符号化して伝送するものである。
映像送信装置10は、映像信号を符号化し、伝送路Nを介して、映像受信装置30に送信するものである。ここで、映像送信装置10は、伝送路Nの下り回線を介して、映像受信装置30から、映像信号を符号化する際に参照する予測信号の候補(予測候補信号)を取得し、映像信号を符号化する機能を有する。
映像受信装置30は、映像送信装置10で符号化された映像信号(符号化映像信号)を、伝送路Nを介して受信し、復号するものである。ここで、映像受信装置30は、過去に受信した映像信号から、映像送信装置10が符号化を行う際の予測信号の候補(予測候補信号)を複数生成し、映像送信装置10に送信する機能を有する。
伝送路Nは、双方向通信可能なネットワークである。例えば、この伝送路Nには、インターネット接続サービスで提供されるネットワークを用いることができる。
この映像伝送システムSは、例えば、カメラマンが撮影したカメラ映像を放送局に送信する場合、映像送信装置10は、カメラ(不図示)に搭載され、映像受信装置30は、放送局に設置されることになる。
以下、本発明の第1実施形態に係る映像送信装置10および映像受信装置30について詳細に説明する。ここでは、予測信号を生成する側である映像受信装置30から先に説明する。
[映像受信装置の構成]
図1に示すように、本発明の第1実施形態に係る映像受信装置30は、復号信号記憶手段31と、予測手段32と、生成情報記憶手段33と、予測候補送信手段34と、符号受信手段35と、差信号復号手段36と、予測信号復号手段37と、加算手段38とを備える。
復号信号記憶手段(受信側復号信号記憶手段)31は、復号された映像信号(復号信号)を記憶するものである。この復号信号記憶手段31は、後記する加算手段38から出力される予め定めた大きさの領域であるブロック(マクロブロック)単位で順次復号された映像信号を、予め定めたフレーム数分だけ、当該フレームを識別する情報(フレーム番号〔例えば、タイムコード〕)と対応付けて一時的に記憶する。この復号信号記憶手段31は、一般的なフレームメモリで構成することができる。また、この復号信号記憶手段31に記憶された映像信号は、予測手段32および予測信号復号手段37によって参照される。
予測手段(受信側予測手段)32は、復号信号記憶手段31に記憶されている、すでに復号された映像信号から、予め定めた規則に基づいて、映像送信装置10で、今後伝送(符号化)するブロック(伝送ブロック)の候補となるデータ(予測候補信号)を予測(生成)するものである。
例えば、予測手段32は、伝送ブロックに隣接するすでに復号された領域(ブロック)を、予測候補のデータ(予測候補信号)とすることができる。また、予測手段32は、伝送ブロックに隣接するすでに復号された複数の領域(ブロック)の値の加算平均を、予測候補のデータ(予測候補信号)としてもよい。
また、予測手段32は、伝送ブロックの位置に対応する、現時点より前に復号された映像信号のブロックと当該ブロックに隣接するブロックとの輝度値の変化を、伝送ブロックと当該ブロックに隣接するブロックとの輝度値の変化とみなし、輝度値をその変化と同じように線形変換することで、予測候補信号を生成することとしてもよい。
このように、予測手段32は、一つの予測手法に限定されず、予め定めた複数の手法によって、複数の予測候補信号を生成する。
また、予測手段32は、伝送ブロックに対する予測候補信号を特定する情報として、復号信号記憶手段31に記憶されている復号信号から予測候補信号を生成するための生成情報(パラメータ)を生成する。すなわち、予測手段32は、予測対象ブロック(伝送ブロック)を特定する情報(フレーム番号、位置、大きさ等)である予測対象ブロック情報と、複数の予測候補信号を識別するための情報である予測候補識別と、予測候補信号の生成手法を示す情報である予測種別識別と、予測候補信号を生成する際に参照する参照先や線形変換式を示すパラメータ情報とを、予測候補信号を再生成するための生成情報として生成情報記憶手段33に書き込む。
また、予測手段32は、生成した複数の予測候補信号を符号化(例えば、可変長符号化)することで予測候補符号を生成し、この予測候補符号を識別するための識別情報である予測対象ブロック情報および予測候補識別を付加して、予測候補情報として、予測候補送信手段34に出力する。
ここで、図2を参照して、予測手段32が生成する生成情報について具体的に説明する。図2に示すように、予測手段32が生成する生成情報は、予測対象ブロック情報Aに、予測候補識別B、予測種別識別Cおよびパラメータ情報Dを複数対応付けたものである。
ここで、予測対象ブロック情報Aは、予測対象ブロック(伝送ブロック)のフレーム番号、位置、大きさを特定する情報である。図2の例では、予測対象ブロック情報Aは、予測対象ブロックが、フレーム#1内の座標(16,16)−座標(32,32)の矩形領域であることを示している。
予測候補識別Bは、複数の予測候補信号を識別するための情報である。この予測候補識別Bは、予測対象ブロック(予測対象ブロック情報A)内で固有の値であればよい。例えば、図2の例では、予測候補識別B〜Bにそれぞれ識別番号“1”〜“4”を設定した例を示している。
予測種別識別Cは、予測候補信号の生成手法を示す情報である。また、パラメータ情報Dは、予測候補信号を再生成する際に参照する参照先や線形変換式を示す情報である。例えば、図2の例では、予測種別識別C,C“領域データ”で、予測候補信号が、パラメータ情報D,Dで特定される領域を抽出することで生成されるデータであることを示している。
また、予測識別種別C“参照データの線形変換”で、予測候補信号が、パラメータ情報Dで特定される参照先の領域のデータを線形変換することで生成されるデータであることを示している。この図2の例では、輝度のみを線形変換し、色差については変換を行わないことを示している。
また、予測識別種別C“参照データの平均値”で、予測候補信号が、パラメータ情報Dで特定される2つの参照先の領域のデータを平均することで生成されるデータであることを示している。
なお、ここでは、予測種別識別C,Cのように、演算によって予測候補信号を生成する生成情報の例を示したが、予測手段32は、その演算結果である予測候補信号を記憶手段(例えば、復号記憶手段31)に記憶しておき、予測種別識別Cで、例えば、“生成済み予測候補信号”、パラメータ情報Dで、生成済み予測候補信号を特定する情報(記憶している予測候補信号のアドレスや領域の大きさ等)を生成情報として設定することとしてもよい。これによって、後記する予測信号復号手段37において、予測信号を生成する際に演算処理を省略することができる。
図1に戻って、映像受信装置30の構成について説明を続ける。
生成情報記憶手段33は、予測手段32で予測された複数の予測候補信号を再生成する情報(生成情報)を記憶するものである。すなわち、生成情報記憶手段33は、図2で説明したように、予測対象ブロック情報と、複数の予測候補識別、予測種別識別およびパラメータ情報とを記憶する。
このように、生成情報記憶手段33に、予測手段32が予測候補信号を生成した手法を特定した情報を記憶しておくことで、後記する予測信号復号手段37において、同一の予測候補信号を再生成することが可能になる。
予測候補送信手段34は、予測手段32で生成された予測候補情報(予測対象ブロック情報、予測候補識別、予測候補符号〔符号化予測候補信号〕)を、伝送路Nを介して、映像送信装置10に送信するものである。この予測候補情報に含まれる複数の予測候補信号を参照して、映像送信装置10が映像信号の符号化を行う。
符号受信手段35は、映像送信装置10から、伝送路Nを介して、符号化された映像信号(符号化映像信号)をブロックごとに受信するものである。なお、符号化映像信号には、映像送信装置10において、どの予測候補信号を参照したかを特定する選択情報(識別情報)が付加されている。
ここで、符号化映像信号の各ブロックは、映像受信装置30が映像送信装置10に送信した複数の予測候補信号のうちの一つを予測信号とし、映像信号との差分をとって符号化した信号(差信号符号)である。ただし、例えば、初期フレームにおいて予測信号が存在しない場合や、シーン変化に伴い予測信号を参照することが適切でない場合等、映像送信装置10において、予測信号を参照せずに、映像信号をそのまま符号化する場合もある。以下、符号受信手段35が受信した信号を、映像信号をそのまま符号化した信号を含めて差信号符号と呼ぶこととする。
また、差信号符号に付加されている選択情報は、予測手段32で生成された予測候補情報(予測対象ブロック情報、予測候補識別、予測候補符号〔符号化予測候補信号〕)の中で、参照した予測候補信号を特定する予測対象ブロック情報と予測候補識別(図2参照)とからなる情報である。
この符号受信手段35は、受信した符号化映像信号(差信号符号)を、差信号復号手段36に出力する。また、符号受信手段35は、差信号符号に付加されている選択情報を、予測信号復号手段37に出力する。
差信号復号手段(受信側差信号復号手段)36は、符号受信手段35で受信したブロックごとの符号化映像信号(差信号符号)を復号するものである。この差信号復号手段36における復号処理は、後記する映像送信装置10の差信号符号化手段15の符号化処理と対応するものである。例えば、符号化映像信号(差信号符号)が、差信号符号化手段15において、映像信号(差信号)をDCT変換し、DCT係数を可変長符号化した信号であれば、差信号復号手段36は、可変長符号をDCT係数に変換した後、逆DCT変換を行う。
この差信号復号手段36は、復号したブロックごとの映像信号(差信号)を加算手段38に出力する。
予測信号復号手段37は、差信号符号に付加されている選択情報(識別情報)に基づいて、生成情報記憶手段33に記憶されている生成情報から、予測信号を生成するものである。すなわち、予測信号復号手段37は、選択情報で示される予測対象ブロック情報と予測候補識別とに対応して生成情報記憶手段33に記憶されている生成情報である予測種別識別とパラメータ情報とに基づいて、復号信号記憶手段31に記憶されている復号済みの映像信号から、予測信号を生成する。
例えば、図2に示した例で説明すると、選択情報として、予測対象ブロック情報(フレーム#1,(16,16)−(32,32))、予測候補識別(“1”)が指定された場合、予測信号復号手段37は、生成情報記憶手段33に記憶されている予測種別識別Cおよびパラメータ情報Dにより、復号信号記憶手段31に記憶されているフレーム#1の(16,0)−(32,16)の領域データを予測信号として生成(抽出)する。
この予測信号復号手段37は、生成した予測信号を加算手段38に出力する。
なお、予測信号復号手段37は、選択情報が付加されていない、あるいは、選択情報として、予測信号を使用していない旨の予め定めた符号が付加されていた場合、予測信号を生成しないこととする。この場合、予測信号として、領域内の値を“0”とした信号を生成することとしてもよい。あるいは、予測信号復号手段37は、予測信号を使用しない場合に、後記する映像送信装置10の差分手段14において、予め定めた値(例えば、“128”)を減算することとした場合、当該値に対応した値(例えば、“128”)の信号を生成することとしてもよい。
加算手段(受信側加算手段)38は、ブロックごとに、差信号復号手段36で復号された差信号と、予測信号復号手段37で復号された予測信号とを加算することで、映像信号を生成するものである。この加算手段38は、生成した映像信号を、復号結果として外部に出力するとともに、復号信号記憶手段31に書き込み記憶する。
このように、映像受信装置30を構成することで、映像伝送システムSにおいて、映像信号を予測符号化して伝送する際に、映像受信装置30は、映像送信装置10に、予測信号の候補を通知する。また、映像受信装置30は、映像送信装置10から、使用した予測信号を特定する情報(選択情報)を取得することで、映像信号を復号する。
[映像送信装置の構成]
次に、図1を参照して、本発明の第1実施形態に係る映像送信装置10の構成について説明する。図1に示すように、映像送信装置10は、予測候補受信手段11と、予測候補復号手段12と、予測信号選択手段13と、差分手段14と、差信号符号化手段15と、符号送信手段16とを備える。
予測候補受信手段11は、映像受信装置30から、伝送路Nを介して、映像信号を符号化する際の予測信号の候補を含んだ予測候補情報(予測対象ブロック情報、予測候補識別、予測候補符号〔符号化予測候補信号〕)を受信するものである。
この予測候補受信手段11は、受信した予測候補情報を予測候補復号手段12に出力する。
予測候補復号手段12は、予測候補受信手段11で受信した予測候補情報から、予測信号の候補となる予測候補信号を復号するものである。すなわち、予測候補復号手段12は、予測候補情報から、予測対象ブロックを特定する予測対象ブロック情報(図2参照)と、複数の予測候補信号を識別する予測候補識別(図2参照)とを抽出するとともに、予測候補情報に符号化されて含まれている複数の予測候補信号を復号する。
この予測候補復号手段12は、予測対象ブロック情報と、複数の予測候補識別および予測候補識別に対応した予測候補信号とを、予測信号選択手段13に出力する。
予測信号選択手段13は、入力された映像信号について、予め定めた大きさの領域であるブロック(マクロブロック)ごとに、予測候補復号手段12で復号された複数の予測候補信号から予測信号を一つ選択するものである。
例えば、予測信号選択手段13は、伝送ブロックと最も類似する予測候補信号を、予測信号として選択する。
また、例えば、予測信号選択手段13は、伝送ブロックとの間で類似度が高い予測候補信号を探索する際に、類似度が予め定めた基準よりも高い予測候補信号が探索された場合、その予測候補信号を予測信号として選択し、それ以降の予測候補信号については探索を行わないこととしてもよい。これによって、映像受信装置30から、非常に多くの予測候補信号が送信された場合であっても、処理時間を短縮することができる。
また、例えば、予測信号選択手段13は、予測候補信号の一つが伝送ブロックの位置と同じ直前のフレームのブロックであった場合、当該位置と異なる位置の予測候補信号と伝送ブロックとの類似度が、同じ位置の予測候補信号と伝送ブロックとの類似度よりも高い場合であっても、その差が僅差(予め定めた閾値以下)であれば、同じ位置の予測候補信号を予測信号として選択することとしてもよい。これによって、伝送ブロックと周囲のブロックとにおいて、予測誤差の傾向が異なることを防止することができ、符号化劣化を軽減することができる。
この予測信号選択手段13は、選択した予測信号を差分手段14に出力するとともに、その選択した予測信号(予測候補信号)を特定する予測対象ブロック情報および予測候補識別を含んだ情報である選択情報(識別情報)を符号送信手段16に出力する。
なお、予測信号選択手段13は、複数の予測候補信号の中で伝送ブロックとの類似の度合いが予め定めた基準に満たない場合、あるいは、予測候補信号がまだ入力されていない場合、予測信号を選択しないこととする。これによって、映像信号を符号化する初期動作時や、シーン変化が発生する場合には、後記する差信号符号化手段15において、予測信号を参照せずに符号化が行われることになる。また、このとき、予測信号選択手段13は、予測信号を選択しなかった旨を、選択情報として、符号送信手段16に通知する。
差分手段14は、入力された映像信号のブロックごとに、予測信号選択手段13で選択された予測信号との差分を演算するものである。このように、ブロックごとに類似する予測信号との差分をとることで、符号化する情報量を削減することができる。
この差分手段14は、演算結果である差信号を差信号符号化手段15に出力する。
なお、差分手段14は、予測信号選択手段13が予測信号を選択しなかった場合、映像信号のブロックをそのまま差信号符号化手段15に出力する。この場合、差分手段14は、映像受信装置30との間で予め定めた値(例えば、“128”)を減算することとしてもよい。
差信号符号化手段15は、差分手段14から出力される差信号を符号化し、差信号符号を生成するものである。例えば、差信号符号化手段15は、差信号をDCT変換し、DCT係数の値を丸めたのち可変長符号化することで情報量を削減した差信号符号を生成する。
この差信号符号化手段15は、生成した差信号符号を符号送信手段16に出力する。
符号送信手段16は、差信号符号化手段15で符号化された差信号符号を、伝送路Nを介して、映像受信装置30に送信するものである。なお、符号送信手段16は、差信号符号を送信する際に、予測信号選択手段13から出力される予測信号を特定する選択情報(識別情報)を差信号符号に付加することとする。これによって、差信号がどの予測候補信号を用いて生成されたのかを映像受信装置30に通知することができる。
このように、映像送信装置10を構成することで、映像伝送システムSにおいて、映像信号を予測符号化して伝送する際に、映像送信装置10は、映像受信装置30から通知された予測信号を用いて映像信号を符号化する。
以上説明したように、映像伝送システムSは、映像送信装置10において、伝送路Nの下り回線を介して、映像受信装置30から予測信号(予測候補信号)を取得するため、映像送信装置10から映像受信装置30に送信する、予測信号を生成するための情報が、従来に比べて削減され、差信号の伝送に利用できる帯域を増加させることができる。
≪第1実施形態:映像伝送システムの動作≫
次に、映像伝送システムSの動作について説明する。以下では、本発明の第1実施形態に係る映像送信装置10と、映像受信装置30とについて、それぞれ個別に動作を説明する。
[映像送信装置の動作]
最初に、図3を参照(構成については適宜図1参照)して、映像送信装置10の動作について説明する。なお、ここでは、映像伝送システムSの動作を分かりやすく説明するために、映像送信装置10の動作を一つのブロックに対する動作として順を追って説明する。しかし、映像送信装置10は、ブロックに対する処理が完結するまで、次のブロックの処理を禁止するものではなく、複数のブロックを一括して処理しても構わない。
まず、映像送信装置10は、入力された映像信号の各ブロックに対して、そのブロックに対応する予測候補情報が予測候補受信手段11によって受信されているか否かを判定する(ステップS10)。すなわち、映像送信装置10は、当該ブロックに対応する予測候補情報が、図示を省略したメモリに、予測候補受信手段11によって書き込まれているか否かを判定する。なお、予測候補受信手段11における予測候補情報の受信は、当該動作中において適宜行われ、逐次、ブロックに対応付けて予測候補情報がメモリに保持されるため、ここではステップとしての記載を省略している。
ここで、符号化対象のブロックに対応する予測候補情報を受信されていない場合(ステップS10でNo)、映像送信装置10は、ステップS11に動作を進める。
すなわち、映像送信装置10は、差信号符号化手段15によって、入力された映像信号をブロックごとに符号化する(ステップS11)。このステップS11は、映像信号を符号化する初期動作時、シーン変化が発生する場合等、予測信号が存在しない、あるいは、予測信号が伝送ブロックに対して大きく相違している場合に動作する。なお、予測信号が存在しない等の場合であっても、差分手段14によって、伝送ブロックから、予め定めた値を減算した差信号を対象として符号化を行っても構わない。
その後、映像送信装置10は、符号送信手段16によって、ステップS11で符号化された符号化映像信号を、伝送路Nを介して、映像受信装置30に送信し(ステップS12)、当該ブロックに対する処理を終了する。
一方、符号化対象のブロックに対応する予測候補情報を受信されている場合(ステップS10でYes)、映像送信装置10は、予測候補復号手段12によって、その予測候補情報から、予測対象ブロック情報と予測候補識別とを抽出し、予測候補情報に符号化されて含まれている複数の予測候補信号を復号する(ステップS13)。
さらに、映像送信装置10は、予測信号選択手段13によって、入力された映像信号について、予め定めた大きさの領域であるブロックごとに、ステップS13で復号された複数の予測候補信号から、予測信号を一つ選択する(ステップS14)。例えば、予測信号選択手段13は、伝送ブロックと最も類似する予測候補信号を、予測信号として選択する。
なお、ここで、伝送ブロックとの類似の度合いが予め定めた基準に満たない等によって、予測信号が選択されなかった場合(ステップS15でNo)、映像送信装置10は、ステップS11に動作を進める。
一方、予測信号が選択された場合(ステップS15でYes)、映像送信装置10は、差分手段14によって、伝送ブロックと、ステップS14で選択された予測信号との差分を演算し、差信号を生成する(ステップS16)。
さらに、映像送信装置10は、差信号符号化手段15によって、差信号を符号化する(ステップS17)。
そして、映像送信装置10は、ステップS17で符号化された映像信号(差信号符号)と、ステップS14で予測信号選択手段13が選択した予測信号を特定する選択情報(識別情報)とを、伝送路Nを介して、映像受信装置30に送信し(ステップS18)、当該ブロックに対する処理を終了する。
なお、ここでは、ステップS15において、予測信号が選択されなかった場合(ステップS15でNo)、ステップS11に進むこととしているが、予め定めた伝送ブロックの個数だけ符号化するごとに、ステップS11に進むこととしてもよい。
以上の動作によって、映像送信装置10は、映像受信装置30から通知された予測信号を用いて映像信号を符号化する。
[映像受信装置の動作]
次に、図3を参照(構成については適宜図1参照)して、映像受信装置30の動作について説明する。
まず、映像受信装置30は、符号受信手段35によって、映像送信装置10から、伝送路Nを介して、符号化映像信号(差信号符号)をブロックごとに受信する(ステップS30)。
そして、映像受信装置30は、予測信号復号手段37によって、ステップS30で受信した符号に付加されている選択情報に基づいて、受信した符号化映像信号が予測信号を用いて符号化された差信号符号であるか否かを判定する(ステップS31)。
ここで、符号化映像信号が予測信号を用いて符号化された差信号符号である場合(ステップS31でYes)、映像受信装置30は、差信号復号手段36によって、差信号符号を復号する(ステップS32)。さらに、映像受信装置30は、予測信号復号手段37によって、選択情報で示される予測対象ブロック情報と予測候補識別とに対応して生成情報記憶手段33に記憶されている生成情報に基づいて、復号信号記憶手段31に記憶されている復号済みの映像信号から、選択された予測信号を生成する(ステップS33)。
そして、映像受信装置30は、加算手段38によって、ステップS32で復号された差信号と、ステップS33で生成された予測信号とを加算して、映像信号のブロックを生成する(ステップS34)。このとき、加算手段38は、生成した映像信号のブロックを復号結果として外部に出力するとともに、復号信号記憶手段31に書き込み記憶する。
一方、ステップS31で受信した符号化映像信号が予測信号を用いずに符号化されたものである場合(ステップS31でNo)、映像受信装置30は、差信号復号手段36によって、符号化映像信号を復号し、外部に出力するとともに、復号信号記憶手段31に書き込み記憶する(ステップS35)。
その後、映像受信装置30は、予測手段32によって、復号信号記憶手段31に記憶されている、すでに復号された映像信号から、予め定めた規則に基づいて、映像送信装置10で次以降に伝送するブロックの候補となる予測候補信号を複数生成し、符号化する(ステップS36)。また、予測手段32は、復号信号記憶手段31に記憶されている復号信号からステップS36で生成した予測候補信号を再生成するための生成情報(パラメータ)を、生成情報記憶手段33に記憶する(ステップS37)。
そして、映像受信装置30は、予測候補送信手段34によって、ステップS36で符号化された予測候補信号に、この予測候補信号を識別する情報を付加した予測候補情報を、伝送路Nを介して、映像送信装置10に送信する(ステップS38)。
以上の動作によって、映像受信装置30は、映像送信装置10の伝送ブロックに対する予測信号の候補を映像送信装置10に通知することができる。
≪第2実施形態:映像伝送システム≫
次に、図4を参照して、本発明の第2実施形態に係る映像送信装置10Aと映像受信装置30Aとを含んだ映像伝送システムSの構成について説明する。
図4に示すように、映像伝送システムSは、映像送信装置10Aと映像受信装置30Aとを、伝送路Nを介して接続し、映像信号を伝送するものである。
映像伝送システムS(図1参照)は、映像受信装置30が予測信号の候補を生成して、映像送信装置10がその候補の中から予測信号を選択して使用する形態であった。しかし、映像伝送システムSは、さらに、映像送信装置10Aにおいても予測信号の候補を複数生成し、映像送信装置10Aが、映像受信装置30Aで生成された予測信号の候補と、映像送信装置10A自身が生成した予測信号の候補の中から予測信号を選択して使用する形態としている。
以下、本発明の第2実施形態に係る映像送信装置10Aおよび映像受信装置30Aについて説明する。
[映像送信装置の構成]
図4に示すように、本発明の第2実施形態に係る映像送信装置10Aは、予測候補受信手段11Aと、予測候補復号手段12Aと、予測信号選択手段13Aと、差分手段14と、差信号符号化手段15と、符号送信手段16と、順序変換手段17と、差信号復号手段18と、加算手段19と、復号信号記憶手段20と、予測手段21とを備える。
すなわち、映像送信装置10Aは、映像送信装置10(図1参照)に、順序変換手段17と、差信号復号手段18と、加算手段19と、復号信号記憶手段20と、予測手段21とを、新たな構成として付加している。さらに、映像送信装置10Aは、映像送信装置10(図1参照)の予測候補受信手段11と、予測候補復号手段12と、予測信号選択手段13とについて、機能を変更した新たな予測候補受信手段11Aと、予測候補復号手段12Aと、予測信号選択手段13Aとして構成している。
差分手段14、差信号符号化手段15および符号送信手段16は、映像送信装置10(図1参照)と同一の構成であるため、同一の符号を付して説明を省略する。
まず、第1実施形態に対して新たな構成として付加した順序変換手段17と、差信号復号手段18と、加算手段19と、復号信号記憶手段20と、予測手段21とについて説明する。
順序変換手段(送信側順序変換手段)17は、入力された映像信号についてフレーム単位で順序を変換するものである。すなわち、順序変換手段17は、予め定めた規則によって、時系列で後に入力されたフレームを前のフレームよりも先に出力する。
具体的には、順序変換手段17は、MPEG2等で規定されているBフレーム(フレーム内挿符号化フレーム)のように、時系列の前後のフレームを参照して符号化する場合、後のフレームを先に出力する。例えば、“I”をフレーム内符号化フレーム、“B”(B,B)をフレーム内挿符号化フレーム、“P”をフレーム間予測符号化フレームとしたとき、順序変換手段17は、“IBP…”のフレームの並びを、“IPB…”に変換する。
この順序変換手段17は、順序を並び替えた映像信号をブロックごとに予測信号選択手段13A、差分手段14および予測手段21に出力する。
差信号復号手段(送信側差信号復号手段)18は、差信号符号化手段15で符号化されたブロックごとの符号化映像信号(差信号符号)を復号するものである。この差信号復号手段18は、映像受信装置30Aの差信号復号手段36と同一のものであって、映像受信装置30Aで復号する差信号と同一の差信号を生成する。
この差信号復号手段18は、復号したブロックごとの映像信号(差信号)を加算手段19に出力する。
加算手段(送信側加算手段)19は、ブロックごとに、差信号復号手段18で復号された差信号と、後記する予測信号選択手段13Aで選択された予測信号とを加算することで、映像信号を生成するものである。この加算手段19は、生成した映像信号を、復号結果として復号信号記憶手段20に書き込み記憶する。
復号信号記憶手段(送信側復号信号記憶手段)20は、加算手段19で生成された映像信号(復号信号)を記憶するものである。この復号信号記憶手段20は、映像信号を予め定めたフレーム数分だけ、当該フレームを識別する情報(例えば、タイムコード)と対応付けて一時的に記憶する。この復号信号記憶手段20は、一般的なフレームメモリで構成することができる。これによって、映像送信装置10Aにおいても、映像受信装置30Aにおいて復号される映像信号が再現されることになる。
なお、この復号信号記憶手段20に記憶される映像信号には、順序変換手段17で変換された順序に従って、予測対象ブロックのフレームに対して、過去または未来のフレームが含まれることになる。
予測手段(送信側予測手段)21は、復号信号記憶手段20に記憶されている映像信号から、次に伝送(符号化)するブロック(伝送ブロック)の候補となるデータ(予測候補信号)を予測するものである。ここでは、予測手段21は、時系列で過去の映像信号、あるいは、過去または未来の映像信号から、予測候補信号を予測する。
この予測手段21の予測には、一般的な動き補償予測を用いることができる。例えば、予測手段21は、復号信号記憶手段20に記憶されている過去、あるいは、過去または未来の映像信号として復号された、伝送ブロック(予測対象ブロック)の近傍領域において、絶対値差分和が最小となる領域を、予測候補信号とする。なお、予測手段21は、絶対値差分和が最小となるものに限らず、絶対値差分和が小さいものから順に予め定めた数だけ複数の候補を予測してもよい。
この予測手段21は、予測対象ブロックごとに、予測対象ブロックを特定する情報(フレーム番号、位置、大きさ等)である予測対象ブロック情報と、複数の予測候補信号を識別するための情報である予測候補識別と、予測候補信号の生成手法を示す情報である予測種別識別と、予測候補信号を生成する際に参照する参照先を示すパラメータ情報とからなる、送信側で予測した予測信号を再生成するための情報(生成情報)を、予測した予測候補信号とともに、予測信号選択手段13Aに出力する。
ここで、図5を参照して、予測手段21が生成する生成情報について具体的に説明する。図5に示すように、予測手段21が生成する生成情報は、予測対象ブロック情報Aに、予測候補識別B、予測種別識別Cおよびパラメータ情報Dを複数対応付けたものである。
ここで、予測対象ブロック情報Aは、予測対象ブロックのフレーム番号、位置、大きさを特定する情報である。図5の例では、予測対象ブロック情報Aは、予測対象ブロックが、フレーム#1内の座標(16,16)−座標(32,32)の矩形領域であることを示している。
予測候補識別Bは、複数の予測候補信号を識別するための情報である。この予測候補識別Bは、予測対象ブロック(予測対象ブロック情報A)内で固有の値であればよい。例えば、図5の例では、予測候補識別B〜Bにそれぞれ識別番号“1”〜“3”を設定した例を示している。なお、この予測候補識別Bは、映像受信装置30Aの予測手段32において生成される生成情報とを区別するため、それぞれを区別可能な値で予め割り当てておく。例えば、映像受信装置30Aの予測手段32が、予測候補識別Bとして、“1”から番号を付け、予測手段21が、“100”から番号を付ける等である。
予測種別識別Cは、予測候補信号の生成手法を示す情報である。また、パラメータ情報Dは、予測候補信号を再生成する際に参照する参照先を示す情報である。例えば、図5の例では、予測種別識別C,C“動き補償予測”で、予測候補信号が、パラメータ情報D,Dで特定される領域、すなわち、過去のフレームであるフレーム#0の(16,16)−(32,32)の領域を、相対座標で(+2,−1),(+2,0)だけ移動させた領域を抽出することで生成されるデータであることを示している。
また、予測識別種別C“双方向動き補償予測”で、過去のフレームであるフレーム#0の(16,16)−(32,32)の領域を、相対座標で(+2,−1)だけ移動させた領域と、未来のフレームであるフレーム#3の(16,16)−(32,32)の領域を、相対座標で(−6,+2)だけ移動させた領域との2つの領域で生成(例えば、平均で生成)されるデータであることを示している。
図4に戻って、映像送信装置10Aの構成について説明を続ける。
次に、映像送信装置10(図1参照)に対して機能を変更した予測候補受信手段11Aと、予測候補復号手段12Aと、予測信号選択手段13Aとについて説明する。
予測候補受信手段11Aは、映像受信装置30Aから、伝送路Nを介して、映像信号を符号化する際の複数の予測信号の候補を特定する情報である予測候補情報を受信するものである。この予測候補受信手段11Aは、受信した予測候補情報を予測候補復号手段12Aに出力する。
なお、映像送信装置10Aは、映像受信装置30Aとで、同一の復号信号を共有することになるため、予測候補受信手段11Aが受信する予測候補情報は、予測信号の実体は含まず、予測候補信号を生成するために必要な予測対象ブロック情報と、予測候補識別と、パラメータ情報(図2参照)とで構成される。
予測候補復号手段12Aは、予測候補受信手段11Aで受信した予測候補情報から、予測信号の候補となる予測候補信号を復号(生成)するものである。すなわち、予測候補復号手段12Aは、予測候補情報に含まれている予測対象ブロック情報と、予測候補識別と、予測種別識別と、パラメータ情報(それぞれ図2参照)とに基づいて、複数の予測候補信号を生成する。
そして、予測候補復号手段12Aは、予測候補情報に含まれている予測対象ブロック情報と、予測候補識別と、生成した予測候補信号とを、予測信号選択手段13Aに出力する。
予測信号選択手段13Aは、順序変換手段17から順次出力される映像信号について、予め定めた大きさの領域であるブロックごとに、予測候補復号手段12Aで復号(生成)された複数の予測候補信号、および、予測手段21で予測された複数の予測候補信号から、予測信号を一つ選択するものである。
この予測信号選択手段13Aは、選択した予測信号を差分手段14および加算手段19に出力するとともに、その選択した予測信号(予測候補信号)を特定する予測対象ブロック情報および予測候補識別を含んだ情報である選択情報(識別情報)を符号送信手段16に出力する。なお、予測信号選択手段13Aは、予測手段21で予測された予測候補信号から予測信号を選択した場合、選択情報に、さらに、予測種別識別と、パラメータ情報とを含ませる。これによって、映像送信装置10Aで予測した予測信号を、映像受信装置30Aで生成することが可能になる。
このように、予測信号選択手段13Aが予測手段21で予測された予測候補信号から予測信号を選択した場合、選択情報には、パラメータ情報等の生成情報が付加されることになる。すなわち、映像送信装置10Aから映像受信装置30Aに送信する情報量が増加することになる。
そこで、予測信号選択手段13Aは、予測精度の向上効果と、生成情報として送信する情報増加との影響のバランスを考慮して予測信号を選択することとする。例えば、予測信号選択手段13Aは、伝送ブロックと予測信号との絶対値和と、予測候補信号の生成手法(予測種別)ごとに予め定めた一定の重みとの合計値が最も小さい予測信号を選択する。
なお、予測信号選択手段13Aは、複数の予測候補信号の中で伝送ブロックとの類似の度合いが予め定めた基準に満たない場合、あるいは、予測候補信号がまだ入力されていない場合は、予測信号を選択しないこととする。また、このとき、予測信号選択手段13Aは、予測信号を選択しなかった旨を、選択情報として、符号送信手段16に通知する。
このように、映像送信装置10Aを構成することで、映像伝送システムSにおいて、映像信号を予測符号化して伝送する際に、映像送信装置10Aは、映像受信装置30Aから通知された予測信号に加え、映像送信装置10A自身が予測した予測符号を用いて映像信号を符号化する。
[映像受信装置の構成]
次に、図4を参照して、本発明の第2実施形態に係る映像受信装置30Aの構成について説明する。図4に示すように、映像受信装置30Aは、復号信号記憶手段31と、予測手段32と、生成情報記憶手段33と、予測候補送信手段34と、符号受信手段35と、差信号復号手段36と、予測信号復号手段37Aと、加算手段38と、順序変換手段39とを備える。
ここで、予測信号復号手段37Aおよび順序変換手段39以外の構成は、図1で説明した映像受信装置30と同一の構成であるため、同一の符号を付して説明を省略する。
予測信号復号手段37Aは、差信号符号に付加されている選択情報に基づいて、予測信号を復号(生成)するものである。
ここで、映像送信装置10Aの予測信号選択手段13Aが、映像受信装置30Aから通知された予測候補信号の中から予測信号を選択した場合、選択情報には、予測信号を特定する予測対象ブロック情報および予測候補識別(それぞれ図2参照)が含まれている。
また、映像送信装置10Aの予測信号選択手段13Aが、映像送信装置10Aの予測手段21で予測した予測候補信号の中から予測信号を選択した場合、選択情報には、予測信号を特定する情報として、さらに、予測種別識別およびパラメータ情報(それぞれ図5参照)が含まれている。
そこで、予測信号復号手段37Aは、選択情報として、映像受信装置30Aが予測した予測信号を使用した旨が通知された場合、予測信号復号手段37(図1参照)と同様に、選択情報で示される予測対象ブロック情報と予測候補識別とに対応して生成情報記憶手段33に記憶されている、予測種別識別とパラメータ情報とに基づいて、復号信号記憶手段31に記憶されている復号済みの映像信号から、予測信号を生成する。
また、予測信号復号手段37Aは、選択情報として、映像送信装置10Aが予測した予測信号を使用した旨が通知された場合、選択情報で示される予測種別識別とパラメータ情報とに基づいて、復号信号記憶手段31に記憶されている復号済みの映像信号から、予測信号を生成する。例えば、図5に示した例で説明すると、選択情報として、予測対象ブロック情報(フレーム#1,(16,16)−(32,32))、予測候補識別(“1”)、予測種別識別(“動き補償予測”)、パラメータ情報(フレーム#0、(+2,−1))が指定された場合、予測信号復号手段37Aは、予測対象ブロックの座標位置をx方向に“+2”画素、y方向に“−1”画素ずらした、復号信号記憶手段31に記憶されているフレーム#0の(18,15)−(33,31)の領域データを予測信号として生成(抽出)する。
この予測信号復号手段37Aは、生成した予測信号を加算手段38に出力する。
順序変換手段(受信側順序変換手段)39は、復号信号記憶手段31に記憶されているフレームの順番が入れ替わった映像信号を、フレームの時系列の順番に変換して出力するものである。
ここで、映像送信装置10Aの順序変換手段17によって、映像信号はフレームの順番が変換されているため、復号信号記憶手段31には、フレームが時系列の順番に配置されないことになる。そこで、順序変換手段39は、フレームを識別する情報(フレーム番号〔例えば、タイムコード〕)の順に、復号信号記憶手段31から、映像信号を読み出して出力する。
このように、映像受信装置30Aを構成することで、映像受信装置30Aは、自身が予測した予測信号以外に、映像送信装置10Aが予測した予測信号からも、映像信号を復号することができる。
以上説明したように、映像伝送システムSは、映像送信装置10Aが、映像受信装置30Aから予測信号(予測候補信号)を取得するとともに、映像送信装置10Aからも予測信号を映像受信装置30Aに通知することを可能にしたため、映像送信装置10Aから映像受信装置30Aに送信する、予測信号を生成するための情報が、従来に比べて削減され、差信号の伝送に利用できる帯域を増加させることができる。
また、映像送信装置10Aは、自身が予測した予測信号と、映像受信装置30Aが予測した予測信号とで最適な予測信号を利用できるため、予測精度を高めることができる。
なお、映像伝送システムSの動作は、図3で説明した映像伝送システムSの動作において、映像送信装置10Aでさらに差信号符号を復号して、予測信号の候補を生成する動作が付加され、映像受信装置30Aでその予測信号を生成する動作が付加されている。
さらに、映像信号のフレームの順番を入れ替える動作が付加されている。
それ以外の動作は、映像伝送システムSと同様であるため、ここでは、詳細な説明は省略する。
≪第3実施形態:映像伝送システム≫
次に、図6を参照して、本発明の第3実施形態に係る映像送信装置10Bと映像受信装置30Bとを含んだ映像伝送システムSの構成について説明する。なお、映像伝送システムSでは、映像送信装置10Bに、送信する映像信号を記憶する外部記憶装置である映像記憶装置100を接続し、映像受信装置30Bに、受信した映像信号を記憶する外部記憶装置である映像記憶装置200を接続して構成している。
この映像伝送システムSは、第1実施形態に係る映像伝送システムS(図1参照)に対し、すでに伝送した映像信号を加工して新たな映像信号を伝送する場合を想定し、過去に伝送した映像信号についても参照対象として、予測信号を生成する機能を付加している。
以下、本発明の第3実施形態に係る映像送信装置10Bおよび映像受信装置30Bについて説明する。
[映像送信装置の構成]
図6に示すように、本発明の第3実施形態に係る映像送信装置10Bは、予測候補受信手段11と、予測候補復号手段12Bと、予測信号選択手段13と、差分手段14と、差信号符号化手段15と、符号送信手段16と、外部参照入力手段22と、外部参照送信手段23とを備える。
予測候補復号手段12B、外部参照入力手段22および外部参照送信手段23以外の構成は、映像送信装置10(図1参照)と同一の構成であるため、同一の符号を付して説明を省略する。
まず、映像送信装置10(図1参照)に対して新たな構成として付加した外部参照入力手段22および外部参照送信手段23について説明する。
外部参照入力手段22は、映像送信装置10Bと映像受信装置30Bとで共通して記憶している過去の映像信号を特定する情報(外部参照情報)を入力するものである。
この外部参照情報は、映像記憶装置100と映像記憶装置200とで一意に映像信号を特定する情報であれば、その形式は限定されるものではない。例えば、映像信号を、映像信号を記録したファイル名とフレーム番号とで特定することができる。一例として、図7に、外部参照する映像信号を、ファイル名(A.m2v)と、開始フレームの番号(10)と、終了フレーム番号(20)とで特定した外部参照情報の例を示している。なお、図7では、ファイル名が同じであっても異なるデータを参照することを防ぐため、ファイルのハッシュ値であるMD5(Message Digest Algorithm 5)検査情報を付加している。
この外部参照入力手段22は、入力された外部参照情報を、外部参照送信手段23に出力する。
なお、この外部参照情報は、必ずしも映像信号内のフレームで特定する必要はない。例えば、複数のフレーム内の位置(領域)を指定することとしてもよいし、複数のブロックを指定することとしてもよい。
外部参照送信手段23は、外部参照入力手段22で入力された外部参照情報を、伝送路Nを介して、映像受信装置30Bに送信するものである。
次に、映像送信装置10(図1参照)に対して機能を変更した予測候補復号手段12Bについて説明する。
予測候補復号手段12Bは、予測候補受信手段11で受信した予測候補情報から、予測対象ブロックを特定する予測対象ブロック情報と、複数の予測候補信号を識別する予測候補識別とを抽出し、予測候補情報に符号化されて含まれている複数の予測候補信号を復号するもので、予測候補復号手段12(図1参照)と同様の機能を有する。
また、予測候補復号手段12Bは、予測候補受信手段11で受信した予測候補情報に、外部の映像信号を参照する旨の予測候補識別が含まれていた場合、さらに予測候補情報に含まれているパラメータ情報によって、映像記憶装置100から、指定された領域の映像信号を読み出して、予測候補信号とする。
なお、この予測候補復号手段12Bに入力される予測候補情報については、後で行う映像受信装置30Bの予測手段32Bの説明において併せて行うこととする。
この予測候補復号手段12Bは、予測対象ブロック情報と、複数の予測候補識別および予測候補識別に対応した予測候補信号とを、予測信号選択手段13に出力する。
このように、映像送信装置10Bを構成することで、映像送信装置10Bは、映像受信装置30Bとで共通の外部映像信号からも予測信号を選択して符号化処理を行うことができる。
[映像受信装置の構成]
次に、図6を参照して、本発明の第3実施形態に係る映像受信装置30Bの構成について説明する。図6に示すように、映像受信装置30Bは、復号信号記憶手段31と、予測手段32Bと、生成情報記憶手段33と、予測候補送信手段34と、符号受信手段35と、差信号復号手段36と、予測信号復号手段37と、加算手段38と、外部参照受信手段40とを備える。
ここで、予測手段32Bおよび外部参照受信手段40以外の構成は、図1で説明した映像受信装置30と同一の構成であるため、同一の符号を付して説明を省略する。
まず、第1実施形態に対して新たな構成として付加した外部参照受信手段40について説明する。
外部参照受信手段40は、映像送信装置10Bから、伝送路Nを介して、外部参照情報(図7参照)を受信するものである。この外部参照受信手段40は、受信した外部参照情報を、予測手段32Bに出力する。
次に、映像送信装置10(図1参照)に対して機能を変更した予測手段32Bについて説明する。
予測手段32Bは、復号信号記憶手段31に記憶されている、すでに復号された映像信号から、予め定めた規則に基づいて、映像送信装置10Bで、今後伝送(符号化)するブロック(伝送ブロック)の候補となるデータ(予測候補信号)を予測するものであって、予測手段32(図1参照)と同じ機能を有している。
さらに、予測手段32Bは、外部参照受信手段40で受信した外部参照情報で指定された外部の映像信号(映像記憶装置200に記憶された映像信号)からも、予測候補信号を生成する機能を有している。
すなわち、予測手段32Bは、伝送ブロック(予測対象ブロック)に類似する領域を、外部参照情報で特定される映像信号内で探索し、最も類似度の高い(あるいは、類似度が予め定めた基準よりも高い)領域を、予測候補のデータ(予測候補信号)とする。
この予測手段32Bは、予測対象ブロックを特定する情報(フレーム番号、位置、大きさ等)である予測対象ブロック情報と、複数の予測候補信号を識別するための情報である予測候補識別と、予測候補信号の生成手法を示す情報である予測種別識別と、予測候補信号を生成する際に参照する参照先や線形変換式を示すパラメータ情報とを、予測候補信号を再生成するための生成情報として生成情報記憶手段33に書き込む。
また、予測手段32Bは、外部参照情報で特定される映像信号内で予測候補信号を探索した場合、予測対象ブロック情報と、予測候補識別と、予測候補信号が外部参照信号であることを示す予測種別識別と、予測候補信号の位置を特定するパラメータ情報とを、生成情報記憶手段33に書き込む。
そして、予測手段32Bは、生成した複数の予測候補信号を符号化(例えば、可変長符号化)することで予測候補符号を生成し、この予測候補符号を識別するための識別情報である予測対象ブロック情報および予測候補識別を付加して、予測候補情報として、予測候補送信手段34に出力する。
なお、予測手段32Bは、予測候補信号が外部参照信号である場合、当該外部参照信号は映像送信装置10Bに接続されている映像記憶装置100に記憶されているため、予測候補信号そのものを通知する必要はなく、その代わりに、パラメータ情報を通知すればよい。
ここで、図8を参照して、予測手段32Bが生成する生成情報について具体的に説明する。図8に示すように、予測手段32Bが生成する生成情報は、予測対象ブロック情報Aに、予測候補識別B、予測種別識別Cおよびパラメータ情報Dを複数対応付けたものである。なお、図2で説明した情報と同一の情報については、説明を省略する。
予測識別種別Cの“外部参照信号”は、予測候補信号が、パラメータ情報Dで特定される参照先の領域を抽出することで生成されるデータであることを示している。
パラメータ情報Dでは、外部参照信号の参照先を示している。図8の例では、外部参照信号が、ファイル名“A.m2v”の11フレーム目の座標(16,16)−座標(32,32)の矩形領域であることを示している。
このように、映像受信装置30Bを構成することで、映像受信装置30Bは、映像送信装置10Bとで共通の外部映像信号から予測信号を選択して復号処理を行うことができる。
以上説明したように、映像伝送システムSは、第1実施形態で説明した映像伝送システムS(図1参照)の効果に加え、映像送信装置10Bと映像受信装置30Bとで過去に伝送した共通の映像信号を参照して予測信号を生成するため、過去の映像信号を一部加工して伝送する場合、類似度の高い予測信号が選択される可能性が高まり、符号化効率を高めることができる。
なお、映像伝送システムSの動作は、図3で説明した映像伝送システムSの動作において、復号された映像信号以外に、過去に復号されて外部の記憶装置(映像記憶装置)に記憶されている映像信号を参照するための参照情報(外部参照情報)を、映像送信装置10Bから映像受信装置30Bに通知し、映像受信装置30Bが、外部参照情報を参照して予測候補信号を生成する動作が付加されている。
それ以外の動作は、映像伝送システムSと同様であるため、ここでは、詳細な説明は省略する。
以上、本発明の実施形態について種々説明したが、これらの映像送信装置10,10A,10B、映像受信装置30,30A,30Bは、コンピュータを前記した各手段として機能させるプログラムによって動作させることができる。
なお、本発明は、第1〜第3実施形態に限定されることなく、種々変形することが可能である。
例えば、図1で説明した映像受信装置30の予測手段32では、フレーム内予測やフレーム間予測によって、予測信号の候補を予測したが、復号信号記憶手段31に記憶されている過去のフレームから、動き補償予測によって予測信号の候補を予測することとしてもよい。
また、図4で説明した映像送信装置10Aおよび映像受信装置30Aでは、順序変換手段17によって、過去および未来の映像信号から予測信号の候補を予測することを可能にしたが、過去のみの映像信号から予測信号の候補を予測することとしてもよい。その場合、映像送信装置10Aから順序変換手段17を省略し、映像受信装置30Aから順序変換手段39を省略すればよい。
さらに、図4で説明した映像送信装置10Aにおいて、予測手段21を省略しても構わない。この場合、映像送信装置10Aでは、映像受信装置30Aから取得した予測候補信号のみで映像信号の符号化を行う、図1の第1実施形態と同じ形態となる。しかし、映像受信装置30Aと同じ映像信号が復号信号記憶手段20に記憶されているため、映像受信装置30Aから映像送信装置10Aに、予測候補信号を符号化した予測候補符号を伝送する必要はない。
また、図6で説明した映像送信装置10Bおよび映像受信装置30Bは、図1で説明した映像送信装置10および映像受信装置30に外部信号を参照する構成を付加した。しかし、図4で説明した映像送信装置10Aおよび映像受信装置30Aに外部信号を参照する構成を付加しても構わない。
S 映像伝送システム
10 映像送信装置
11 予測候補受信手段
12 予測候補復号手段
13 予測信号選択手段
14 差分手段
15 差信号符号化手段
16 符号送信手段
17 順序変換手段(送信側順序変換手段)
18 差信号復号手段(送信側差信号復号手段)
19 加算手段(送信側加算手段)
20 復号信号記憶手段(送信側復号信号記憶手段)
21 予測手段(送信側予測手段)
22 外部参照入力手段
23 外部参照送信手段
30 映像受信装置
31 復号信号記憶手段(受信側復号信号記憶手段)
32 予測手段(受信側予測手段)
33 生成情報記憶手段
34 予測候補送信手段
35 符号受信手段
36 差信号復号手段(受信側差信号復号手段)
37 予測信号復号手段
38 加算手段(受信側加算手段)
39 順序変換手段(受信側順序変換手段)
40 外部参照受信手段
100 映像記憶装置(送信側映像記憶装置)
200 映像記憶装置(受信側映像記憶装置)

Claims (10)

  1. 映像送信装置から映像受信装置へ映像信号をブロックごとに予測符号化して伝送する際に、前記映像受信装置において、前記映像送信装置の伝送ブロックに対する予測信号の候補である予測候補信号を複数生成し、前記映像送信装置において、前記複数の予測候補信号の中の一つを予測信号として選択し前記伝送ブロックを符号化して伝送する映像伝送システムにおける映像送信装置であって、
    前記映像受信装置から、前記複数の予測候補信号を符号化した予測候補符号と、前記予測候補信号を識別する識別情報とを受信する予測候補受信手段と、
    この予測候補受信手段で受信した予測候補符号を予測候補信号に復号する予測候補復号手段と、
    入力された映像信号のブロックごとに、復号された予測候補信号の一つを予測信号として選択する予測信号選択手段と、
    この予測信号選択手段で選択された予測信号と前記伝送ブロックとの差分をとることで差信号を生成する差分手段と、
    この差分手段で生成された差信号を差信号符号に符号化する差信号符号化手段と、
    この差信号符号化手段で符号化された差信号符号と、前記予測信号選択手段で選択された予測信号に対応する前記識別情報とを、前記映像受信装置に送信する符号送信手段と、
    を備えることを特徴とする映像送信装置。
  2. 映像送信装置から映像受信装置へ映像信号をブロックごとに予測符号化して伝送する際に、前記映像受信装置において、前記映像送信装置の伝送ブロックに対する予測信号の候補である予測候補信号を複数生成し、前記映像送信装置において、前記複数の予測候補信号の中の一つを予測信号として選択し前記伝送ブロックを符号化して伝送する映像伝送システムにおける映像受信装置であって、
    復号した映像信号を復号信号として順次記憶する復号信号記憶手段と、
    前記映像送信装置から、映像信号のブロックごとに、前記複数の予測候補信号から選択した予測信号との差分を符号化した差信号符号と、選択した予測候補信号を識別する識別情報とを受信する符号受信手段と、
    この符号受信手段で受信した差信号符号を差信号に復号する差信号復号手段と、
    前記復号信号から、今後の予測対象となるブロックに対する予測候補信号を複数生成し、予測候補符号として符号化するとともに、前記復号信号から前記予測候補信号を生成するためのパラメータを生成情報として生成する予測手段と、
    前記生成情報を記憶する生成情報記憶手段と、
    前記予測手段で生成された予測候補符号と、前記予測候補信号を識別する識別情報とを、前記映像送信装置に送信する予測候補送信手段と、
    前記符号受信手段で受信した識別情報に対応する前記生成情報記憶手段に記憶されている生成情報に基づいて、前記復号信号から予測信号を生成する予測信号復号手段と、
    この予測信号復号手段で生成された予測信号と、前記差信号復号手段で復号された差信号とを加算して映像信号のブロックを復号するとともに、前記復号信号記憶手段に記憶する加算手段と、
    を備えることを特徴とする映像受信装置。
  3. 映像送信装置から映像受信装置へ映像信号をブロックごとに予測符号化して伝送する際に、前記映像受信装置において、前記映像送信装置の伝送ブロックに対する予測信号の候補である予測候補信号を複数生成し、前記映像送信装置において、前記複数の予測候補信号の中の一つを予測信号として選択し前記伝送ブロックを符号化して伝送する映像伝送システムにおける映像送信装置であって、
    前記映像受信装置から、前記複数の予測候補信号を生成するためのパラメータである生成情報と、前記予測候補信号を識別する識別情報とを受信する予測候補受信手段と、
    入力された映像信号のブロックごとに、予測候補信号の一つを予測信号として選択する予測信号選択手段と、
    この予測信号選択手段で選択された予測信号と前記伝送ブロックとの差分をとることで差信号を生成する差分手段と、
    この差分手段で生成された差信号を差信号符号に符号化する差信号符号化手段と、
    この差信号符号化手段で符号化された差信号符号と、前記予測信号選択手段で選択された予測信号に対応する前記識別情報とを、前記映像受信装置に送信する符号送信手段と、
    前記差信号符号化手段で符号化された差信号符号を、前記映像受信装置と同じ復号処理で差信号に復号する差信号復号手段と、
    この差信号復号手段で復号された差信号と、前記予測信号選択手段で選択された予測信号とを加算して前記伝送ブロックを復号した復号信号を生成する加算手段と、
    この加算手段で生成された復号信号を順次記憶する復号信号記憶手段と、
    前記予測候補受信手段で受信した生成情報に基づいて、前記復号信号から、前記予測信号選択手段が予測信号を選択する候補となる予測候補信号を生成する予測信号復号手段と、
    を備えることを特徴とする映像送信装置。
  4. 前記復号信号から、次に予測対象となるブロックに対する予測候補信号を複数生成するとともに、前記復号信号から前記予測候補信号を生成するためのパラメータを生成情報として生成する予測手段をさらに備え、
    前記予測信号選択手段は、前記予測手段で予測された予測候補信号と、前記予測信号復号手段で生成された予測候補信号との中から一つを予測信号として選択し、
    前記予測信号選択手段で、前記予測手段で予測された予測候補信号が選択された場合、前記符号送信手段は、前記生成情報を記映像受信装置に送信することを特徴とする請求項3に記載の映像送信装置。
  5. 映像送信装置から映像受信装置へ映像信号をブロックごとに予測符号化して伝送する際に、前記映像受信装置において、前記映像送信装置の伝送ブロックに対する予測信号の候補である予測候補信号を複数生成し、前記映像送信装置において、前記複数の予測候補信号の中の一つを予測信号として選択し前記伝送ブロックを符号化して伝送する映像伝送システムにおける映像受信装置であって、
    復号した映像信号を復号信号として順次記憶する復号信号記憶手段と、
    前記映像送信装置から、映像信号のブロックごとに、前記複数の予測候補信号から選択した予測信号との差分を符号化した差信号符号と、選択した予測候補信号を識別する識別情報とを受信する符号受信手段と、
    この符号受信手段で受信した差信号符号を差信号に復号する差信号復号手段と、
    前記復号信号から、今後の予測対象となるブロックに対する予測候補信号を複数生成し、予測候補符号として符号化するとともに、前記復号信号から前記予測候補信号を生成するためのパラメータを生成情報として生成する予測手段と、
    前記生成情報を記憶する生成情報記憶手段と、
    前記生成情報と、前記予測候補信号を識別する識別情報とを、前記映像送信装置に送信する予測候補送信手段と、
    前記符号受信手段で受信した識別情報に対応する前記生成情報記憶手段に記憶されている生成情報に基づいて、前記復号信号から予測信号を生成する予測信号復号手段と、
    この予測信号復号手段で生成された予測信号と、前記差信号復号手段で復号された差信号とを加算して映像信号のブロックを復号するとともに、前記復号信号記憶手段に記憶する加算手段と、
    を備えることを特徴とする映像受信装置。
  6. 前記符号受信手段で、前記映像送信装置において予測した予測候補信号を生成するためのパラメータである生成情報を受信した場合、
    前記予測信号復号手段は、前記生成情報記憶手段に記憶されている生成情報の代わりに、前記符号受信手段で受信した生成情報に基づいて、前記復号信号から予測信号を生成することを特徴とする請求項5に記載の映像受信装置。
  7. 過去に送信した映像信号を前記映像受信装置と共通に記憶した映像記憶装置を接続し、
    前記映像記憶装置に記憶されている映像信号の中で、予測信号の参照先の候補を特定する外部参照情報を、外部から入力する外部参照入力手段と、
    この外部参照入力手段で入力された外部参照情報を、前記映像受信装置に送信する外部参照送信手段と、をさらに備え、
    前記予測候補受信手段で、予測候補信号を生成するためのパラメータとして、前記映像記憶装置に記憶されている映像信号を参照する旨を示す生成情報を受信した場合、
    前記予測信号復号手段は、当該生成情報に基づいて、前記映像記憶手段に記憶されている映像信号から予測信号を生成することを特徴とする請求項1,3,4のいずれか一項に記載の映像送信装置。
  8. 過去に受信した映像信号を前記映像送信装置と共通に記憶した映像記憶装置を接続し、
    前記映像記憶装置に記憶されている映像信号の中で、予測信号の参照先の候補となるフレームを特定する外部参照情報を、前記映像送信装置から受信する外部参照受信手段をさらに備え、
    前記予測手段は、今後の予測対象となるブロックに対する予測候補信号を前記外部参照情報で特定される参照先を参照して生成することを特徴とする請求項2,5,6のいずれか一項に記載の映像受信装置。
  9. 映像送信装置から映像受信装置へ映像信号をブロックごとに予測符号化して伝送する際に、前記映像受信装置において、前記映像送信装置の伝送ブロックに対する予測信号の候補である予測候補信号を複数生成し、前記映像送信装置において、前記複数の予測候補信号の中の一つを予測信号として選択し前記伝送ブロックを符号化して伝送するために、前記映像送信装置のコンピュータを、
    前記映像受信装置から、前記複数の予測候補信号を符号化した予測候補符号と、前記予測候補信号を識別する識別情報とを受信する予測候補受信手段、
    この予測候補受信手段で受信した予測候補符号を予測候補信号に復号する予測候補復号手段、
    入力された映像信号のブロックごとに、復号された予測候補信号の一つを予測信号として選択する予測信号選択手段、
    この予測信号選択手段で選択された予測信号と前記伝送ブロックとの差分をとることで差信号を生成する差分手段、
    この差分手段で生成された差信号を差信号符号に符号化する差信号符号化手段、
    この差信号符号化手段で符号化された差信号符号と、前記予測信号選択手段で選択された予測信号に対応する前記識別情報とを、前記映像受信装置に送信する符号送信手段、
    として機能させるための映像送信プログラム。
  10. 映像送信装置から映像受信装置へ映像信号をブロックごとに予測符号化して伝送する際に、前記映像受信装置において、前記映像送信装置の伝送ブロックに対する予測信号の候補である予測候補信号を複数生成し、前記映像送信装置において、前記複数の予測候補信号の中の一つを予測信号として選択し前記伝送ブロックを符号化して伝送するために、前記映像受信装置のコンピュータを、
    前記映像送信装置から、映像信号のブロックごとに、前記複数の予測候補信号から選択した予測信号との差分を符号化した差信号符号と、選択した予測候補信号を識別する識別情報とを受信する符号受信手段、
    この符号受信手段で受信した差信号符号を差信号に復号する差信号復号手段、
    復号信号記憶手段に記憶されている過去に復号された映像信号である復号信号から、今後の予測対象となるブロックに対する予測候補信号を複数生成し、予測候補符号として符号化するとともに、前記予測候補符号ごとに、前記復号信号から前記予測候補信号を生成するためのパラメータを生成情報として生成し、生成情報記憶手段に記憶する予測手段、
    前記予測手段で生成された予測候補符号と、前記予測候補信号を識別する識別情報とを、前記映像送信装置に送信する予測候補送信手段、
    前記符号受信手段で受信した識別情報に対応する前記生成情報記憶手段に記憶されている生成情報に基づいて、前記復号信号から予測信号を生成する予測信号復号手段、
    この予測信号復号手段で生成された予測信号と、前記差信号復号手段で復号された差信号とを加算して映像信号のブロックを復号するとともに、前記復号信号記憶手段に記憶する加算手段、
    として機能させるための映像受信プログラム。
JP2012056640A 2012-03-14 2012-03-14 映像送信装置およびそのプログラム、ならびに、映像受信装置およびそのプログラム Pending JP2013192024A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012056640A JP2013192024A (ja) 2012-03-14 2012-03-14 映像送信装置およびそのプログラム、ならびに、映像受信装置およびそのプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012056640A JP2013192024A (ja) 2012-03-14 2012-03-14 映像送信装置およびそのプログラム、ならびに、映像受信装置およびそのプログラム

Publications (1)

Publication Number Publication Date
JP2013192024A true JP2013192024A (ja) 2013-09-26

Family

ID=49391878

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012056640A Pending JP2013192024A (ja) 2012-03-14 2012-03-14 映像送信装置およびそのプログラム、ならびに、映像受信装置およびそのプログラム

Country Status (1)

Country Link
JP (1) JP2013192024A (ja)

Similar Documents

Publication Publication Date Title
TWI826546B (zh) 對以歷史為基礎之運動向量預測器之改良
CN107888914B (zh) 动图像编码装置以及动图像编码方法
CN107483924B (zh) 动图像解码装置、动图像解码方法以及存储介质
JP2022500930A (ja) ビデオコーディングにおける条件付きデコーダ側動きベクトル精緻化のための装置および方法
JP6065088B2 (ja) 動画像符号化装置、動画像符号化方法、及び動画像符号化プログラム、並びに、送信装置、送信方法、及び送信プログラム
JP5725106B2 (ja) 動画像復号装置、動画像復号方法及び動画像復号プログラム、並びに、受信装置、受信方法、及び受信プログラム
JP5880758B2 (ja) 動画像復号装置、動画像復号方法、及び動画像復号プログラム、並びに、受信装置、受信方法、及び受信プログラム
JP2013192024A (ja) 映像送信装置およびそのプログラム、ならびに、映像受信装置およびそのプログラム
JP5843042B1 (ja) 動画像復号装置、動画像復号方法、及び動画像復号プログラム、並びに、受信装置、受信方法、及び受信プログラム
KR20240071392A (ko) 이중-예측 가중화를 갖는 dmvr을 위한 방법 및 장치

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20140326