JP5240530B2 - 画像処理装置および方法 - Google Patents

画像処理装置および方法 Download PDF

Info

Publication number
JP5240530B2
JP5240530B2 JP2010531922A JP2010531922A JP5240530B2 JP 5240530 B2 JP5240530 B2 JP 5240530B2 JP 2010531922 A JP2010531922 A JP 2010531922A JP 2010531922 A JP2010531922 A JP 2010531922A JP 5240530 B2 JP5240530 B2 JP 5240530B2
Authority
JP
Japan
Prior art keywords
image
area
decoded
filter
block
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010531922A
Other languages
English (en)
Other versions
JPWO2010038857A1 (ja
Inventor
健治 近藤
潤一 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2010531922A priority Critical patent/JP5240530B2/ja
Publication of JPWO2010038857A1 publication Critical patent/JPWO2010038857A1/ja
Application granted granted Critical
Publication of JP5240530B2 publication Critical patent/JP5240530B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、画像処理装置および方法に関し、特に、動き補償処理を含む画像の圧縮符号化処理を行う場合に好適な画像処理装置および方法に関する。
従来、動画像を圧縮符号化する技術として、離散コサイン変換等の直交変換と動き補償を用いたMPEGやH.26x等が知られている。
MPEG2は、汎用画像符号化方式として定義されており、飛び越し走査画像と順次走査画像の双方に対応するとともに、標準解像度と高解像度の双方の画像にも標準的な仕様でも対応できる技術として、プロフェッショナル用途およびコンシューマ用途の広範なアプリケーションに現在広く用いられている。
MPEG2を用いることにより、例えば720×480画素の標準解像度であって飛び越し走査画像の場合には４乃至８Mbps、1920×1088画素の高解像度であって飛び越し走査画像である場合には１８乃至２２Mbpsの符号量（ビットレート）を割り当てることで、高い圧縮率と良好な画質の実現が可能である。
一方、H.26xは、当初、テレビ会議用の画像符号化技術として開発が進められた。例えば、H.26Lは、MPEG2やMPEG4などに比べ、その符号化、復号に際してより多くの演算量が要求される。しかしながら、H.26Lは、より高い符号化効率が実現されることが知られている。
また、MPEG4の活動の一環として、H.26Lをベースとし、H.26Lではサポートされない機能をも取り入れて、より高い符号化効率を実現する技術の標準化が行なわれ、H.264およびMPEG-4 Part10（Advanced Video Coding）として規格化されている。この規格を、以下においてはAVC規格と称する。
図１は、入力される動画像をAVC規格に基づいて圧縮符号化し、その結果得られる画像圧縮情報（符号化信号）を出力する画像符号化装置の構成の一例を示している。
この画像符号化装置１０は、アナログディジタル変換部（A/D）１１、画像並替バッファ１２、加算器１３、直交変換部１４、量子化部１５、可逆符号化部１６、蓄積バッファ１７、およびレート制御部２６から構成される。さらに、画像符号化装置１０は、逆量子化部１８、逆直交変換部１９、加算器２０、デブロックフィルタ２１、フレームメモリ２２、イントラ予測部２３、および動き予測・補償部２４から構成される。
画像符号化装置１０において、符号化対象として入力される動画像（以下、入力画像と称する）は、A/D１１によってデジタル信号に変換されて、画像並替バッファ１２に入力される。画像並替バッファ１２では、出力時のGOP(Group of Pictures)構造に応じ、画像の順序並び替えられて、後段に供給される。
画像並替バッファ１２から出力される画像がイントラ符号化される場合、画像並替バッファ１２からの符号化対象の画像がイントラ予測部２３に供給されて予測画像が生成される。そして、生成された予測画像と、符号化対象の画像とが加算器１３に供給され、これらの差分信号が算出されて直交変換部１４に出力される。
直交変換部１４では、加算器１３の出力が直交変換（離散コサイン変換、カルーネン・レーベ変換等）され、この結果得られる変換係数が量子化部１５によって量子化される。なお、量子化部１５による量子化レートは、レート制御部２６により、蓄積バッファ１７の蓄積量に応じて制御される。量子化された変換係数は、可逆符号化部１６および逆量子化部１８に供給される。
可逆符号化部１６では、量子化された変換係数が可逆符号化（可変長符号化、算術符号化等）され、この結果が蓄積バッファ１７に蓄積された後に画像圧縮情報として後段に出力される。
一方、逆量子化部１８では、量子化された変換係数に対して、量子化部１５による量子化に対応する逆量子化が行なわれて逆直交変換部１９に出力される。逆直交変換部１９では、逆量子化の結果得られた変換係数に対し、直交変換部１４による直交変換に対応する逆直交変換が行なわれて、この結果が加算器２０に出力される。
加算器２０では、逆直交変換の結果と符号化対象の画像とが加算されて、符号化対象の画像を符号化して復号したときの復号画像が生成される。生成された復号画像は、デブロックフィルタ２１によりブロック歪が除去された後にフレームメモリ２２に蓄積される。
イントラ予測部２３では、符号化対象の画像に対応する予測画像が生成されるとともに、符号化対象の画像の各マクロブロックに対して適用されたイントラ予測モードを示す情報が可逆符号化部１６に出力される。このイントラ予測モードを示す情報は、可逆符号化部１６により、画像圧縮情報のヘッダに記述される情報の一部として符号化される。
なお、イントラ予測モードは、H.264の場合、輝度信号に対してイントラ4×4予測モード、イントラ8×8予測モードおよびイントラ16×16予測モードが定義されている。また、色差信号に対しては、各マクロブロックに、輝度信号とは独立した予測モードを定義することが可能である。例えば、イントラ4×4予測モードについては、各4×4輝度ブロックに対して１つのイントラ予測モードが定義される。イントラ8×8予測モードについては、各8×8輝度ブロックに対して、１つのイントラ予測モードが定義されることになる。イントラ16×16予測モードに対しては、各マクロブロックに対して、１つの予測モードが定義されることになる。また、色差信号に対しては、各マクロブロックに対して、１つの予測モードが定義されることになる。
画像並替バッファ１２から出力される画像がインター符号化される場合、符号化対象の画像が動き予測・補償部２４に入力される。これと同時に、フレームメモリ２２から復号画像が参照画像として動き予測・補償部２４に読み出されて、符号化対象の画像と参照画像により動き予測・補償処理が施され、この結果得られる予測画像が加算器１３に供給される。加算器１３では、符号化対象の画像と予測画像との差分信号に変換され、直交変換部１４に出力される。直交変換部１４以降の後段の処理については、イントラ符号化の場合と同様なので、その説明は省略する。
なお、動き予測・補償部２４では、上述した予測画像の生成と同時に各マクロブロックの動きベクトルが検出されて可逆符号化部１６に出力される。この動きベクトルは、可逆符号化部１６により、画像圧縮情報のヘッダに記述される情報の一部として符号化される。
ここで、動き予測・補償部２４における動き補償について説明する。動き補償とは、符号化対象の画像の一部を、フレームメモリ２２に蓄積されている復号画像の一部を用いて充てる処理であり、復号画像のどの位置の一部を参照するかについては、動き予測・補償部２４によって検出される動きベクトルによって表される。
この動きベクトルは、予測精度を向上させるために、1/２ Pel、1/4 Pelなどの整数以下の分数精度で演算される。このように、分数精度で動き補償を行うためには、画像上に実在する画素と画素の間に、すなわち、画素が実在していない位置に、補間処理（インターポーレーション）によって新たに画素を設定する必要がある。
インターポーレーションによって画素数を増やす場合の例について、図２を参照して説明する。図２は、画素数を縦横それぞれ４倍に増やす場合の例を示している。図２において、白丸○は実在する画素の位置を示し、白四角形□は補間画素の位置を示している。
各補間画素は、例えば、以下に示す補間式に示すように、実在する複数の画素、および算出済みの補間画素と所定のフィルタ係数との線形結合によって補間演算される。
ｂ＝（Ｅ−５Ｆ＋２０Ｇ＋２０Ｈ−５Ｉ＋Ｊ）／３２
ｈ＝（Ａ−５Ｃ＋２０Ｇ＋２０Ｍ−５Ｒ＋Ｔ)／３２
ｊ＝（aa−５bb＋２０ｂ＋２０ｓ−５gg＋hh）／３２
ａ＝（Ｇ＋ｂ）／２
ｄ＝（Ｇ＋ｈ）／２
ｆ＝（ｂ＋ｊ）／２
ｒ＝（ｍ＋ｓ）／２
なお、補間画素aa，bb，s，gg，hhは、補間画素ｂを算出する上式と同様の式により算出される。補間画素cc，dd，ｍ，ee，ffは、補間画素ｈを算出する上式と同様の式により算出される。補間画素ｃは、補間画素ａを算出する上式と同様の式により算出される。補間画素ｉ，ｋ，ｑは、補間画素ｄを算出する上式と同様の式により算出される。補間画素ｅ，ｇ，ｏは、補間画素ｒを算出する上式と同様の式により算出される。
上記の補間式は、H．264およびAVC規格などで採用されているものであり、この補間式は偶数のタップを有するFIR(Finite Impulse Response)フィルタによって実現される。
なお、動き予測・補償部２４では、FIRフィルタの代わりに、補間式におけるフィルタ係数をフレーム毎に適応的に変更することができるAIF（アダプティブ・インターポーレーション・フィルタ）２５を内蔵しており、このAIF２５を用いて補間処理を行うことにより、エイリアシングの影響や符号化歪みを低減し、動き補償の誤差を小さくするようになされている。なお、適応的に変更されるAIF２５のフィルタ係数は、動きベクトルとともに可逆符号化部１６に出力され、符号化されて画像圧縮情報として出力されることになる。
AIFについては、例えば、非特許文献１および２に記載されている。
「Motion- and Aliasing-Compensated Prediction for Hybrid Video Coding」Thomas Wedi and Hans Georg Musmann, IEEE Transactions on circuits and systems for video technology, Vol.13, No.7, July 2003 「Prediction of P- and B-Frames Using a Two-dimensional Non-separable Adaptive Wiener Interpolation Filter for H.264/AVC」Yuri Vatis, Joern Ostermann, ITU-T SG16 VCEG 30th Meeting, Hangzhou China, October 2006
動き予測・補償部２４にAIFを適用した場合、AIFのフィルタ係数も符号化して画像圧縮情報に含めることになる。このフィルタ係数を、例えば、符号化対象の画像毎に変更する程度であれば、その符号量は問題とならないが、例えば、符号化対象の画像を複数の領域に分割し、各領域に対して適切なフィルタ係数を生成するようにした場合、その符号量が増加してしまうことになる。
本発明はこのような状況に鑑みてなされたものであり、高性能な動き補償を実現しつつ、符号量の増加を抑止できるようにするものである。
本発明の第１の側面である画像処理装置は、復号の対象となる復号対象画像の対象ブロックに隣接し、かつ、前記対象ブロックよりも先に復号される領域を復号済領域として設定するとともに、参照画像の参照ブロックに対する位置関係が前記復号済領域の位置関係と同じ領域を前記参照領域として設定する設定手段と、前記設定手段により設定された参照領域の画素値を前記設定手段により設定された復号済領域の画素値に変換するフィルタのフィルタ係数を算出する算出手段と、前記算出手段により算出されたフィルタ係数を有する調整フィルタを用いて、前記参照ブロックの画素値を補間する補間手段と、前記補間手段により画素値が補間された参照ブロックを前記対象ブロックに動き補償することにより、前記復号対象画像に対応する予測画像を生成する生成手段とを有する。
前記算出手段は、前記復号領域の画素値と前記参照領域の画素値をフィルタ処理した結果との２乗誤差が最小となるように、前記フィルタ係数を算出することができる。
前記復号済領域は、第１復号済領域と前記第１復号済領域よりもスキャン順で後に位置する第２復号済領域とからなり、前記参照領域は、前記第１復号済領域に対応する第１参照領域と前記第２復号済領域に対応する第２参照領域とからなり、前記算出手段は、前記第１参照領域及び前記第１復号済領域と前記第２参照領域及び前記第２復号済領域とを対象として、異なる方向のフィルタの係数を算出することができる。
前記スキャン順はラスタースキャン順であり、前記算出手段は、前記第１参照領域及び前記第１復号済領域に対して水平方向のフィルタの係数を算出し、前記第２参照領域及び前記第２復号済領域に対して垂直方向のフィルタの係数を算出することができる。
前記第１復号済領域と前記第２復号済領域とは同じ大きさであるようにすることができる。
前記フィルタは、ＡＩＦ（アダプティブ・インターポーレーション・フィルタ）であるようにすることができる。
前記対象ブロックと前記参照ブロックとの間における整数精度の動きベクトルを受け取る受取り手段を更に有し、前記設定手段は、前記受取り手段により受け取られた動きベクトルに基づいて、前記復号済領域と前記参照領域とを設定することができる。
本発明の第１の側面である画像処理方法は、復号の対象となる復号対象画像の対象ブロックに隣接し、かつ、前記対象ブロックよりも先に復号される領域を復号済領域として設定するとともに、参照画像の参照ブロックに対する位置関係が前記復号済領域の位置関係と同じ領域を前記参照領域として設定し、設定された参照領域の画素値を復号済領域の画素値に変換するフィルタのフィルタ係数を算出し、算出されたフィルタ係数を有する調整フィルタを用いて、前記参照ブロックの画素値を補間し、画素値が補間された参照ブロックを前記対象ブロックに動き補償することにより、前記復号対象画像に対応する予測画像を生成する。
本発明の第１の側面においては、復号の対象となる復号対象画像の対象ブロックに隣接し、かつ、対象ブロックよりも先に復号される領域が復号済領域として設定されるとともに、参照画像の参照ブロックに対する位置関係が復号済領域の位置関係と同じ領域が参照領域として設定され、設定された参照領域の画素値を復号済領域の画素値に変換するフィルタのフィルタ係数が算出され、算出されたフィルタ係数を有する調整フィルタを用いて、参照ブロックの画素値が補間され、画素値が補間された参照ブロックを対象ブロックに動き補償することにより、復号対象画像に対応する予測画像が生成される。
本発明の第２の側面である画像処理装置は、符号化の対象となる符号化対象画像の対象ブロックに隣接し、かつ、前記対象ブロックよりも先に符号化される領域を符号化済領域として設定するとともに、前記符号化対象画像よりも先に符号化されてから復号された参照画像の参照ブロックに対する位置関係が前記符号化済領域の位置関係と同じ領域を前記参照領域として設定する設定手段と、前記設定手段により設定された参照領域の画素値を前記設定手段により設定された符号化済領域の画素値に変換するフィルタのフィルタ係数を算出する算出手段と、前記算出手段により算出されたフィルタ係数を有する調整フィルタを用いて、前記参照ブロックの画素値を補間する補間手段と、前記補間手段により画素値が補間された参照ブロックを前記対象ブロックに動き補償することにより、前記符号化対象画像に対応する予測画像を生成する生成手段とを有する。
前記対象ブロックと前記参照ブロックとの間の動きベクトルを整数精度で演算する動きベクトル演算手段を更に有することができる。
前記フィルタは、ＡＩＦ（アダプティブ・インターポーレーション・フィルタ）であるようにすることができる。
本発明の第２の側面である画像処理方法は、符号化の対象となる符号化対象画像の対象ブロックに隣接し、かつ、前記対象ブロックよりも先に符号化される領域を符号化済領域として設定するとともに、前記符号化対象画像よりも先に符号化されてから復号された参照画像の参照ブロックに対する位置関係が前記符号化済領域の位置関係と同じ領域を前記参照領域として設定し、設定された参照領域の画素値を符号化済領域の画素値に変換するフィルタのフィルタ係数を算出し、算出されたフィルタ係数を有する調整フィルタを用いて、前記参照ブロックの画素値を補間し、画素値が補間された参照ブロックを前記対象ブロックに動き補償することにより、前記符号化対象画像に対応する予測画像を生成する。
本発明の第２の側面においては、符号化の対象となる符号化対象画像の対象ブロックに隣接し、かつ、前記対象ブロックよりも先に符号化される領域が符号化済領域として設定されるとともに、前記符号化対象画像よりも先に符号化されてから復号された参照画像の参照ブロックに対する位置関係が前記符号化済領域の位置関係と同じ領域が前記参照領域として設定され、設定された参照領域の画素値を符号化済領域の画素値に変換するフィルタのフィルタ係数が算出され、算出されたフィルタ係数を有する調整フィルタを用いて、前記参照ブロックの画素値が補間され、画素値が補間された参照ブロックを前記対象ブロックに動き補償することにより、前記符号化対象画像に対応する予測画像が生成される。
本発明の一側面によれば、高性能な動き補償を実現しつつ、符号量の増加を抑止することができる。
従来の画像符号化装置の構成の一例を示すブロック図である。 画素の補間を説明するための図である。 本発明を適用した画像符号化装置の構成例を示すブロック図である。 インター符号化時の処理を説明するフローチャートである。 微調整フィルタを用いたインター符号化を説明するための図である。 微調整フィルタを用いたインター符号化を説明するための図である。 微調整フィルタを用いたインター符号化を説明するための図である。 微調整フィルタを用いたインター符号化を説明するための図である。 微調整フィルタを生成するための領域の形状の例を示す図である。 微調整フィルタを生成するための領域の形状の例を示す図である。 微調整フィルタを生成するための領域の形状の例を示す図である。 本発明を適用した画像復号装置の構成例を示すブロック図である。 インター符号化されている画像の復号処理を説明するフローチャートである。 微調整フィルタを用いた復号を説明するための図である。 微調整フィルタを用いた復号を説明するための図である。 微調整フィルタを用いた復号を説明するための図である。 微調整フィルタを用いた復号を説明するための図である。 本発明を適用したテレビジョン受像機の主な構成例を示すブロック図である。 本発明を適用した携帯電話機の主な構成例を示すブロック図である。 本発明を適用したハードディスクレコーダの主な構成例を示すブロック図である。 本発明を適用したカメラの主な構成例を示すブロック図である。 マクロブロックサイズの例を示す図である。
以下、本発明を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。
図３は、本発明の一実施の形態である画像符号化装置の構成例を示している。この画像符号化装置４０は、入力される動画像（以下、入力画像を称する）を圧縮符号化し、その結果得られる画像圧縮情報を出力するものである。
画像符号化装置４０は、図１の画像符号化装置１０の動き予測・補償部２４に代えて動き予測・補償部４１が設けられている点で画像符号化装置１０と相違する。動き予測・補償部４１以外の構成要素については、画像符号化装置１０と共通であり、同一の符号をつけているので、その説明は適宜省略する。
ところで、上述したように、動き予測・補償部２４にAIF２５を内蔵し、分数精度で動き補償を行った場合、動きベクトルも分数精度で表現することになるので、動きベクトルを整数精度で表現していた場合に比較して、その情報量が増してしまい、結果的に画像圧縮情報の符号量が増加してしまうことになる。
動き予測・補償部４１は、画像符号化装置１０の動き予測・補償部２４が動きベクトルを分数精度で演算していたことに対し、動きベクトルを整数精度で演算するようになされている。したがって、動き予測・補償部４１から出力される整数精度の動きベクトルを表現するための情報量も、分数精度のそれと比較して減少するので、結果的に画像符号化装置４０から出力される画像圧縮情報の符号量を、画像符号化装置１０から出力される画像圧縮情報に比較して減少させることができる。
動き予測・補償部４１は、フィルタ生成部４２を内蔵する。フィルタ生成部４２は、動き補償において、符号化対象の画像上の符号化対象ブロックに参照画像上の参照ブロックを充てた後、その画素値を水平方向および垂直方向に微調整するための微調整フィルタを生成する。
次に、画像符号化装置４０の動作について説明する。
画像符号化装置４０において、入力画像はA/D１１によってデジタル信号に変換されて、画像並替バッファ１２に入力される。画像並替バッファ１２では、出力時のGOP構造に応じ、画像の順序並び替えられて、後段に供給される。
画像並替バッファ１２から出力される画像がイントラ符号化される場合、加算器１３に、符号化対象の画像の画素値とイントラ予測部２３でイントラ予測された予測画像の画素値とが供給され、これらの差分信号が算出されて直交変換部１４に出力される。
加算器１３の出力は、直交変換部１４により直交変換（離散コサイン変換、カルーネン・レーベ変換等）され、その結果得られた変換係数が量子化部１５により量子化される。量子化された変換係数は、可逆符号化部１６および逆量子化部１８に供給される。
可逆符号化部１６では、量子化された変換係数が可逆符号化（可変長符号化、算術符号化等）され、この結果が蓄積バッファ１７に蓄積された後に画像圧縮情報として後段に出力される。
一方、逆量子化部１８では、量子化された変換係数に対して、量子化部１５による量子化に対応する逆量子化が行なわれ、逆直交変換部１９により、逆量子化によって得られた変換係数に対し、直交変換部１４による直交変換に対応する逆直交変換が行なわれて、その結果が加算器２０に出力される。
加算器２０では、逆直交変換の結果と符号化対象の画像とが加算されて、符号化対象の画像を符号化して復号したときの復号画像が生成される。生成された復号画像は、デブロックフィルタ２１によりブロック歪が除去された後にフレームメモリ２２に蓄積される。
イントラ予測部２３では、符号化対象の画像の各マクロブロックに対して適用されたイントラ予測モードを示す情報が可逆符号化部１６に出力される。このイントラ予測モードを示す情報は、可逆符号化部１６により、画像圧縮情報のヘッダに記述される情報の一部として符号化される。
画像並替バッファ１２から出力される画像がインター符号化される場合、符号化対象の画像は動き予測・補償部４１に入力される。これと同時に、フレームメモリ２２から参照画像として復号画像が読み出されて、符号化対象の画像と参照画像により動き予測・補償処理が施され、その結果得られる予測画像が加算器１３に供給され、符号化対象の画像との差分信号に変換され、直交変換部１４に出力される。直交変換部１４以降の後段の処理については、イントラ符号化の場合と同様なので、その説明は省略する。
なお、動き予測・補償部４１では、上述した予測画像の生成に際し、符号化対象の画像の各マクロブロックの動きベクトルが整数精度で演算されるとともに、フィルタ生成部４２により、微調整フィルタが生成される。なお、演算された整数精度の動きベクトルは、可逆符号化部１６に出力されて、画像圧縮情報のヘッダに記述される情報の一部として符号化される。
次に、符号化対象の画像がインター符号化される時の処理について、図４のフローチャートを参照して説明する。
当該処理の前提として、動き予測・補償部４１には、画像並替バッファ１２から符号化対象の画像が入力され、また、フレームメモリ２２から参照画像として復号画像が読み出されているものとする。
ステップＳ１において、動き予測・補償部４１は、図５に示すように、符号化対象の画像上に設けた符号化対象ブロック５１に最も類似する参照画像上の参照ブロック５２の位置を特定し、符号化対象ブロック５１と参照ブロック５２の座標の差に相当する動きベクトル（ＭＶ）を演算する。
なお、図５において、参照画像の全体を覆う斜線、および符号化対象の画像の符号化対象ブロック５１の手前までを覆う斜線は、既に符号化済みの領域であることを示している。以降の図６乃至図８においても同様である。ただし、画像の符号化および復号は、画像の左上から右下まで、ラスタースキャン順に行なわれるものとする。
ステップＳ２において、フィルタ生成部４２は、図６に示すように、参照画像の参照ブロック５２の上側に隣接して所定サイズの領域Ａを設定し、同様に、符号化対象画像の符号化対象ブロック５１の上側に隣接して同じサイズの領域Ａ’を設定する。ここで、領域Ａ，Ａ’は、符号化対象ブロック５１が復号されるとき、既に復号済みの領域であることが特徴である。
さらにステップＳ２において、フィルタ生成部４２は、領域Ａの画素値を領域Ａ’の画素値に変換する水平方向の微調整フィルタHhを生成する。この微調整フィルタHhは、FIRフィルタにより実現できる。微調整フィルタHhの生成については後述する。
ステップＳ３において、フィルタ生成部４２は、図７に示すように、参照画像の参照ブロック５２の左側に隣接して所定サイズの領域Ｂを設定し、同様に、符号化対象画像の符号化対象ブロック５１の左側に隣接して同じサイズの領域Ｂ’を設定する。ここで、領域Ｂ，Ｂ’も、符号化対象ブロック５１が復号されるとき、既に復号済みの領域であることが特徴である。
さらにステップＳ３において、フィルタ生成部４２は、領域Ｂの画素値を領域Ｂ’の画素値に変換する垂直方向の微調整フィルタHvを生成する。この微調整フィルタHvも、FIRフィルタにより実現できる。微調整フィルタHvの生成についても後述する。
ステップＳ４において、動き予測・補償部４１は、図８に示すように、参照画像の参照ブロック５２に水平方向の微調整フィルタHhと垂直方向の微調整フィルタHvを適用して画素値を微調整したものを、符号化対象ブロック５１に対応する予測画像の位置に充てることにより、動き補償された予測画像を徐々に生成する。
そして、符号化対象の画像の全領域を順に符号化対象ブロック５１として、以上説明したステップＳ１乃至Ｓ４が行なわれることにより、動き補償された予測画像が生成され、加算器１３に出力される。
ステップＳ５においては、加算器１３により、符号化対象の画像と予測画像の画素値の差分信号が算出され、この差分信号が、直交変換部１４により直交変換され、その結果得られた変換係数が、量子化部１５により量子化され、可逆符号化部１６に入力される。
一方、動き予測・補償部４１で演算された整数精度の動きベクトルも、ステップＳ６において、可逆符号化部１６に入力され、可逆符号化部１６により、量子化された変換係数とともに可逆符号化され、この結果が蓄積バッファ１７に蓄積された後に画像圧縮情報として後段に出力される。
以上説明したように、画像符号化装置４０のインター符号化時の処理では、動きベクトルを整数精度としたので、分数精度の動きベクトルを出力する場合に比較して、画像圧縮情報の符号量を抑えることができる。また、AIFを用いないので、そのフィルタ係数で出力する必要がない。
さらに、微調整フィルタを適用したことにより、従来の動き補償と同様に符号化対象ブロック５１が参照ブロック５２から平行移動している場合に良好な動き補償ができることに加え、回転、ボケ、拡大縮小、および輝度変化している場合についても補償することができる。
ここで、微調整フィルタHh，Hvの生成について説明する。
微調整フィルタHh，Hvは、例えばFIRフィルタによって実現される。FIRフィルタは、入力された画像に対し、次式（１）で表される畳み込み演算を行う。
Figure 0005240530
 ・・・（１）
式（１）において、ｙは微調整フィルタ処理後の値、すなわち、領域Ａ’（またはＢ’）の画素値である。ｘは微調整フィルタ処理前の値、すなわち、領域Ａ（またはＢ）の画素値である。ｈはフィルタ係数である。このフィルタ係数は、インパルス応答とも称され、フィルタ係数ｈによりFIRフィルタの特性が決定される。
ただし、式（１）では、(2N+1)タップの１次元FIRフィルタを示しているが、タップ数を変更したり、２次元に拡張することができる。２次元の画像領域に対して１次元FIRフィルタを用いる場合、横（縦）方向にフィルタ処理を行った後、縦（横）方向にフィルタ処理を行えばよい。
微調整フィルタHh，HvとしてのFIRフィルタのフィルタ係数は、領域Ａ’（またはＢ’）の画素値と、領域Ａ（またはＢ）の画素値をフィルタ処理した結果との、次式（２）に示す平均二乗誤差ｅが最小となるように決定する。
Figure 0005240530
 ・・・（２）
式（２）において、d(n)は領域Ａ’（またはＢ’）の画素値、y(n)は領域Ａ（またはＢ）の画素値をフィルタ処理した結果、ｘは領域Ａ（またはＢ）の画素値である。E{ }は括弧内の期待値を表す。
式（２）に基づいてフィルタ係数ｈを求めるには、次式（３）に示すように、平均二乗誤差ｅをフィルタ係数ｈで偏微分する。
Figure 0005240530
 ・・・（３）
さらに、次式（４）に示すように、式（３）を０として整理し、フィルタ係数ｈを演算すればよい。
Figure 0005240530
 ・・・（４）
式（４）において、h(x) OPが平均２乗誤差ｅを最小とするフィルタ係数である。この式（４）は連立方程式となり、この連立方程式の解としてフィルタ係数を求めることができる。
なお、微調整フィルタは、上述したFIRフィルタの他、参照画像の領域Ａ，Ｂから、符号化対象画像の領域Ａ’，Ｂ’が推定できるものであればよい。例えば、アフィン変換を適用するようにしてもよい。
ところで、微調整フィルタHh，Hvを生成するための領域Ａ，Ｂについては、符号化対象ブロックが復号されるとき、既に復号済みの領域であればよい。すなわち、例えば、図９に示すように、領域Ａ，Ｂの横幅が参照ブロックの横幅を超える形状であってもよい。また、例えば、図１０に示すように、領域Ａ，Ｂの横幅が参照ブロックの横幅と同じ形状であってもよい。さらに、図１１に示すように、領域Ａ，Ｂが参照ブロックと同じ形状であってもよい。ただし当然ながら、画像符号化装置４０で採用した領域Ａ，Ｂの形状と、復号側で採用する領域Ａ，Ｂの形状は一致している必要がある。
次に、画像符号化装置４０から出力される画像圧縮情報を復号する画像復号装置について、図１２を参照して説明する。
図１２は、本発明を適用した画像復号装置の構成例を示すブロック図である。この画像復号装置６０は、蓄積バッファ６１、可逆復号部６２、逆量子化部６３、逆直交変換部６４、加算器６５、デブロックフィルタ６６、画像並替バッファ６７、デジタルアナログ変換部６８、フレームメモリ６９、動き予測・補償部７０、およびイントラ予測部７２から構成される。
画像復号装置６０においては、画像符号化装置４０の出力である画像圧縮情報が蓄積バッファ６１に供給されて蓄積されて、順次、可逆復号部６２に出力される。可逆復号部６２では、画像圧縮情報としての符号化信号が復号され、復号結果として得られる量子化された変換係数が逆量子化部６３に出力される。さらに、復号する画像がインター符号化されている場合、復号結果として得られる動きベクトルが動き予測・補償部７０に出力される。また、復号する画像がイントラ符号化されている場合、復号結果として得られるイントラ予測モード情報がイントラ予測部７２に出力される。
逆量子化部６３では、量子化されている変換係数が逆量子化され、その結果得られる変換係数が逆直交変換部６４に出力される。逆直交変換部６４では、変換係数が逆直交変換され、その結果得られる差分信号が加算器６５に出力される。加算器６５では、復号する画像がインター符号化されている場合、動き予測・補償部７０から入力される予測画像に、逆直交変換部６４からの差分信号が加算されて復号画像が生成される。復号する画像がイントラ符号化されている場合、イントラ予測部７２から入力される予測画像に、逆直交変換部６４からの差分信号が加算されて復号画像が生成される。
デブロックフィルタ６６では、復号画像からブロック歪が除去される。画像並替バッファ６７では、ブロック歪が除去された復号画像がその再生タイミングまで保持され、再生タイミングに従ってデジタルアナログ変換部６８に出力される。デジタルアナログ変換部６８では、復号画像がアナログ信号に変換されて後段（例えば、ディスプレイ）に出力される。
フレームメモリ６９では、ブロック歪が除去された復号画像が保持される。動き予測・補償部７０では、フレームメモリ６９に保持されている復号画像が参照画像として読み出され、可逆復号部６２からの動きベクトルに基づき、予測画像が生成されて加算器６５に出力される。イントラ予測部７２では、可逆復号部６２からのイントラ予測モードに基づき、予測画像が生成されて加算器６５に出力される。
次に、復号する画像がインター符号化されている場合の復号処理について、図１３のフローチャートを参照して説明する。
当該処理の前提として、動き予測・補償部７０には、フレームメモリ６９に保持されている復号画像が参照画像として読み出されているものとする。
ステップＳ１１において、可逆復号部６２は、蓄積バッファ６１から供給された画像圧縮情報を復号し、その結果得られる整数精度の動きベクトルを動き予測・補償部７０に出力する。ここで得られる動きベクトルは、図１４に示すように、現在復号中の画像の復号対象ブロック９１に充当すべき、参照画像の参照ブロック９２の座標位置を、相対的に表している。
なお、図１４において、参照画像の全体を覆う斜線、および現在復号中の画像の復号対象ブロック９１の手前までを覆う斜線は、既に復号済みの領域であることを示している。以降の図１５乃至図１７においても同様である。ただし、画像の復号は、画像の左上から右下まで、ラスタースキャン順に行なわれるものとする。
ステップＳ１２において、動き予測・補償部７０のフィルタ生成部７１は、図１５に示すように、フレームメモリ６９から読み出した参照画像の参照ブロック９２の上側に隣接して所定サイズ（符号化時に設定される領域Ａと同じサイズ）の領域Ａを設定し、同様に、現在復号中の画像の復号対象ブロック９１の上側に隣接して同じサイズの領域Ａ’を設定する。ここで、領域Ａ，Ａ’は、既に復号済みの領域である。
さらにステップＳ１２において、フィルタ生成部７１は、領域Ａの画素値を領域Ａ’の画素値に変換する水平方向の微調整フィルタHhを生成する。この微調整フィルタHhは、符号化時に生成するものと同様の方法により生成する。
ステップＳ１３において、フィルタ生成部７１は、図１６に示すように、参照画像の参照ブロック９２の左側に隣接して所定サイズの領域Ｂを設定し、同様に、現在復号中の画像の復号対象ブロック９１の左側に隣接して同じサイズの領域Ｂ’を設定する。ここで、領域Ｂ，Ｂ’も既に復号済みの領域である。
さらにステップＳ１３において、フィルタ生成部７１は、領域Ｂの画素値を領域Ｂ’の画素値に変換する垂直方向の微調整フィルタHvを生成する。この微調整フィルタHvも、符号化時に生成するものと同様の方法により生成する。
ステップＳ１４において、動き予測・補償部７０は、図１７に示すように、参照画像の参照ブロック９２に水平方向の微調整フィルタHhと垂直方向の微調整フィルタHvを適用して画素値を微調整したものを、復号対象ブロック９１に対応する予測画像の位置に充てることにより、動き補償された予測画像を徐々に生成する。
そして、現在復号中の画像の全領域を順に復号対象ブロック９１として、以上説明したステップＳ１１乃至Ｓ１４が行なわれることにより、動き補償された予測画像が生成され、加算器６５に出力される。
一方、ステップＳ１５において、可逆復号部６２は、画像圧縮情報の復号することにより得られた、量子化された変換係数を逆量子化部６３に出力する。この量子化された変換係数は、逆量子化部６３より逆量子化され、逆直交変換部６４により逆直交変換され、その結果得られる差分信号が加算器６５に入力される。
ステップＳ１６において、加算器６５は、動き予測・補償部７０からの予測画像と、逆直交変換部６４からの差分信号を加算することにより復号画像を生成する。この復号画像は、デブロックフィルタ６６によりブロック歪が除去された後、画像並替バッファ６７に蓄積され、それぞれの再生タイミングに従って後段に出力される。また、ブロック歪が除去された復号画像はフレームメモリ６９に保持されて、次フレーム以降の復号時に参照画像として利用される。
以上説明したように、インター符号化された画像の復号処理では、参照ブロックを復号対象ブロックに充当するに際して、それぞれに隣接する領域に基づいて生成した微調整フィルタを用いて画素値を調整するので、従来の動き補償と同様に復号対象ブロック９１が参照ブロック９２から平行移動している場合に良好な動き補償ができることに加え、回転、ボケ、拡大縮小、および輝度変化している場合についても補償することができる。よって、高品質な動き補償を行うことができる。
本発明は、エンコーダ側で生成されたフィルタ係数の伝送に伴う符号量の増加・オーバヘッドを抑制するために、デコーダ側でフィルタ係数を精度良く推定・生成する点に着目している。この場合、対象ブロックに隣接するブロックと参照ブロックに隣接するブロックとの間には相関が高い点に着目して、参照ブロックに隣接するブロック内の画素値を入力して、対象ブロックに隣接するブロック内の画素値をフィルタ処理した結果を出力として、（平均）最小２乗誤差が最小となるようにフィルタ係数を算出する。これにより、フィルタ係数の伝送に伴う符号量の増加を抑えつつ、デコーダ側で精度の高いフィルタ係数を算出することができる。
ところで、上述した画像符号化装置４０および画像復号装置６０は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできるソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
また、プログラムは、１台のコンピュータにより処理されるものであってもよいし、複数のコンピュータによって分散処理されるものであってもよい。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであってもよい。
なお、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
例えば、上述した画像符号化装置４０や画像復号装置６０は、任意の電子機器に適用することができる。以下にその例について説明する。
図１８は、本発明を適用した画像復号装置６０を用いるテレビジョン受像機の主な構成例を示すブロック図である。
図１８に示されるテレビジョン受像機１０００は、地上波チューナ１０１３、ビデオデコーダ１０１５、映像信号処理回路１０１８、グラフィック生成回路１０１９、パネル駆動回路１０２０、および表示パネル１０２１を有する。
地上波チューナ１０１３は、地上アナログ放送の放送波信号を、アンテナを介して受信し、復調し、映像信号を取得し、それをビデオデコーダ１０１５に供給する。ビデオデコーダ１０１５は、地上波チューナ１０１３から供給された映像信号に対してデコード処理を施し、得られたデジタルのコンポーネント信号を映像信号処理回路１０１８に供給する。
映像信号処理回路１０１８は、ビデオデコーダ１０１５から供給された映像データに対してノイズ除去などの所定の処理を施し、得られた映像データをグラフィック生成回路１０１９に供給する。
グラフィック生成回路１０１９は、表示パネル１０２１に表示させる番組の映像データや、ネットワークを介して供給されるアプリケーションに基づく処理による画像データなどを生成し、生成した映像データや画像データをパネル駆動回路１０２０に供給する。また、グラフィック生成回路１０１９は、項目の選択などにユーザにより利用される画面を表示するための映像データ（グラフィック）を生成し、それを番組の映像データに重畳したりすることによって得られた映像データをパネル駆動回路１０２０に供給するといった処理も適宜行う。
パネル駆動回路１０２０は、グラフィック生成回路１０１９から供給されたデータに基づいて表示パネル１０２１を駆動し、番組の映像や上述した各種の画面を表示パネル１０２１に表示させる。
表示パネル１０２１はLCD（Liquid Crystal Display）などよりなり、パネル駆動回路１０２０による制御に従って番組の映像などを表示させる。
また、テレビジョン受像機１０００は、音声A/D（Analog/Digital)変換回路１０１４、音声信号処理回路１０２２、エコーキャンセル／音声合成回路１０２３、音声増幅回路１０２４、およびスピーカ１０２５も有する。
地上波チューナ１０１３は、受信した放送波信号を復調することにより、映像信号だけでなく音声信号も取得する。地上波チューナ１０１３は、取得した音声信号を音声A/D変換回路１０１４に供給する。
音声A/D変換回路１０１４は、地上波チューナ１０１３から供給された音声信号に対してA/D変換処理を施し、得られたデジタルの音声信号を音声信号処理回路１０２２に供給する。
音声信号処理回路１０２２は、音声A/D変換回路１０１４から供給された音声データに対してノイズ除去などの所定の処理を施し、得られた音声データをエコーキャンセル／音声合成回路１０２３に供給する。
エコーキャンセル／音声合成回路１０２３は、音声信号処理回路１０２２から供給された音声データを音声増幅回路１０２４に供給する。
音声増幅回路１０２４は、エコーキャンセル／音声合成回路１０２３から供給された音声データに対してD/A変換処理、増幅処理を施し、所定の音量に調整した後、音声をスピーカ１０２５から出力させる。
さらに、テレビジョン受像機１０００は、デジタルチューナ１０１６およびMPEGデコーダ１０１７も有する。
デジタルチューナ１０１６は、デジタル放送（地上デジタル放送、BS（Broadcasting Satellite）／CS（Communications Satellite）デジタル放送）の放送波信号を、アンテナを介して受信し、復調し、MPEG-TS（Moving Picture Experts Group-Transport Stream）を取得し、それをMPEGデコーダ１０１７に供給する。
MPEGデコーダ１０１７は、デジタルチューナ１０１６から供給されたMPEG-TSに施されているスクランブルを解除し、再生対象（視聴対象）になっている番組のデータを含むストリームを抽出する。MPEGデコーダ１０１７は、抽出したストリームを構成する音声パケットをデコードし、得られた音声データを音声信号処理回路１０２２に供給するとともに、ストリームを構成する映像パケットをデコードし、得られた映像データを映像信号処理回路１０１８に供給する。また、MPEGデコーダ１０１７は、MPEG-TSから抽出したEPG（Electronic Program Guide)データを図示せぬ経路を介してCPU１０３２に供給する。
テレビジョン受像機１０００は、このように映像パケットをデコードするMPEGデコーダ１０１７として、上述した画像復号装置６０を用いる。なお、放送局等より送信されるMPEG-TSは、画像符号化装置４０によって符号化されている。
MPEGデコーダ１０１７は、画像復号装置６０の場合と同様に、対象ブロックに隣接するブロックと参照ブロックに隣接するブロックとの間には相関が高い点に着目して、参照ブロックに隣接するブロック内の画素値を入力して、対象ブロックに隣接するブロック内の画素値をフィルタ処理した結果を出力として、（平均）最小２乗誤差が最小となるようにフィルタ係数を算出する。したがって、MPEGデコーダ１０１７は、符号化側でフィルタ係数の伝送に伴う符号量の増加を抑えつつ、精度の高いフィルタ係数を算出することができる。
MPEGデコーダ１０１７から供給された映像データは、ビデオデコーダ１０１５から供給された映像データの場合と同様に、映像信号処理回路１０１８において所定の処理が施され、グラフィック生成回路１０１９において、生成された映像データ等が適宜重畳され、パネル駆動回路１０２０を介して表示パネル１０２１に供給され、その画像が表示される。
MPEGデコーダ１０１７から供給された音声データは、音声A/D変換回路１０１４から供給された音声データの場合と同様に、音声信号処理回路１０２２において所定の処理が施され、エコーキャンセル／音声合成回路１０２３を介して音声増幅回路１０２４に供給され、D/A変換処理や増幅処理が施される。その結果、所定の音量に調整された音声がスピーカ１０２５から出力される。
また、テレビジョン受像機１０００は、マイクロホン１０２６、およびA/D変換回路１０２７も有する。
A/D変換回路１０２７は、音声会話用のものとしてテレビジョン受像機１０００に設けられるマイクロホン１０２６により取り込まれたユーザの音声の信号を受信し、受信した音声信号に対してA/D変換処理を施し、得られたデジタルの音声データをエコーキャンセル／音声合成回路１０２３に供給する。
エコーキャンセル／音声合成回路１０２３は、テレビジョン受像機１０００のユーザ（ユーザＡ）の音声のデータがA/D変換回路１０２７から供給されている場合、ユーザＡの音声データを対象としてエコーキャンセルを行い、他の音声データと合成するなどして得られた音声のデータを、音声増幅回路１０２４を介してスピーカ１０２５より出力させる。
さらに、テレビジョン受像機１０００は、音声コーデック１０２８、内部バス１０２９、SDRAM（Synchronous Dynamic Random Access Memory)１０３０、フラッシュメモリ１０３１、CPU１０３２、USB（Universal Serial Bus) I/F１０３３、およびネットワークI/F１０３４も有する。
A/D変換回路１０２７は、音声会話用のものとしてテレビジョン受像機１０００に設けられるマイクロホン１０２６により取り込まれたユーザの音声の信号を受信し、受信した音声信号に対してA/D変換処理を施し、得られたデジタルの音声データを音声コーデック１０２８に供給する。
音声コーデック１０２８は、A/D変換回路１０２７から供給された音声データを、ネットワーク経由で送信するための所定のフォーマットのデータに変換し、内部バス１０２９を介してネットワークI/F１０３４に供給する。
ネットワークI/F１０３４は、ネットワーク端子１０３５に装着されたケーブルを介してネットワークに接続される。ネットワークI/F１０３４は、例えば、そのネットワークに接続される他の装置に対して、音声コーデック１０２８から供給された音声データを送信する。また、ネットワークI/F１０３４は、例えば、ネットワークを介して接続される他の装置から送信される音声データを、ネットワーク端子１０３５を介して受信し、それを、内部バス１０２９を介して音声コーデック１０２８に供給する。
音声コーデック１０２８は、ネットワークI/F１０３４から供給された音声データを所定のフォーマットのデータに変換し、それをエコーキャンセル／音声合成回路１０２３に供給する。
エコーキャンセル／音声合成回路１０２３は、音声コーデック１０２８から供給される音声データを対象としてエコーキャンセルを行い、他の音声データと合成するなどして得られた音声のデータを、音声増幅回路１０２４を介してスピーカ１０２５より出力させる。
SDRAM１０３０は、CPU１０３２が処理を行う上で必要な各種のデータを記憶する。
フラッシュメモリ１０３１は、CPU１０３２により実行されるプログラムを記憶する。フラッシュメモリ１０３１に記憶されているプログラムは、テレビジョン受像機１０００の起動時などの所定のタイミングでCPU１０３２により読み出される。フラッシュメモリ１０３１には、デジタル放送を介して取得されたEPGデータ、ネットワークを介して所定のサーバから取得されたデータなども記憶される。
例えば、フラッシュメモリ１０３１には、CPU１０３２の制御によりネットワークを介して所定のサーバから取得されたコンテンツデータを含むMPEG-TSが記憶される。フラッシュメモリ１０３１は、例えばCPU１０３２の制御により、そのMPEG-TSを、内部バス１０２９を介してMPEGデコーダ１０１７に供給する。
MPEGデコーダ１０１７は、デジタルチューナ１０１６から供給されたMPEG-TSの場合と同様に、そのMPEG-TSを処理する。このようにテレビジョン受像機１０００は、映像や音声等よりなるコンテンツデータを、ネットワークを介して受信し、MPEGデコーダ１０１７を用いてデコードし、その映像を表示させたり、音声を出力させたりすることができる。
また、テレビジョン受像機１０００は、リモートコントローラ１０５１から送信される赤外線信号を受光する受光部１０３７も有する。
受光部１０３７は、リモートコントローラ１０５１からの赤外線を受光し、復調して得られたユーザ操作の内容を表す制御コードをCPU１０３２に出力する。
CPU１０３２は、フラッシュメモリ１０３１に記憶されているプログラムを実行し、受光部１０３７から供給される制御コードなどに応じてテレビジョン受像機１０００の全体の動作を制御する。CPU１０３２とテレビジョン受像機１０００の各部は、図示せぬ経路を介して接続されている。
USB I/F１０３３は、USB端子１０３６に装着されたUSBケーブルを介して接続される、テレビジョン受像機１０００の外部の機器との間でデータの送受信を行う。ネットワークI/F１０３４は、ネットワーク端子１０３５に装着されたケーブルを介してネットワークに接続し、ネットワークに接続される各種の装置と音声データ以外のデータの送受信も行う。
テレビジョン受像機１０００は、MPEGデコーダ１０１７として画像復号装置６０を用いることにより、精度の高いフィルタ係数を算出することができる。その結果として、符号化側で生成されたフィルタ係数の伝送に伴う符号量の増加やオーバヘッドが抑制される。
図１９は、本発明を適用した画像符号化装置および画像復号装置を用いる携帯電話機の主な構成例を示すブロック図である。
図１９に示される携帯電話機１１００は、各部を統括的に制御するようになされた主制御部１１５０、電源回路部１１５１、操作入力制御部１１５２、画像エンコーダ１１５３、カメラI/F部１１５４、LCD制御部１１５５、画像デコーダ１１５６、多重分離部１１５７、記録再生部１１６２、変復調回路部１１５８、および音声コーデック１１５９を有する。これらは、バス１１６０を介して互いに接続されている。
また、携帯電話機１１００は、操作キー１１１９、CCD（Charge Coupled Devices）カメラ１１１６、液晶ディスプレイ１１１８、記憶部１１２３、送受信回路部１１６３、アンテナ１１１４、マイクロホン（マイク）１１２１、およびスピーカ１１１７を有する。
電源回路部１１５１は、ユーザの操作により終話および電源キーがオン状態にされると、バッテリパックから各部に対して電力を供給することにより携帯電話機１１００を動作可能な状態に起動する。
携帯電話機１１００は、CPU、ROMおよびRAM等でなる主制御部１１５０の制御に基づいて、音声通話モードやデータ通信モード等の各種モードで、音声信号の送受信、電子メールや画像データの送受信、画像撮影、またはデータ記録等の各種動作を行う。
例えば、音声通話モードにおいて、携帯電話機１１００は、マイクロホン（マイク）１１２１で集音した音声信号を、音声コーデック１１５９によってデジタル音声データに変換し、これを変復調回路部１１５８でスペクトラム拡散処理し、送受信回路部１１６３でデジタルアナログ変換処理および周波数変換処理する。携帯電話機１１００は、その変換処理により得られた送信用信号を、アンテナ１１１４を介して図示しない基地局へ送信する。基地局へ伝送された送信用信号（音声信号）は、公衆電話回線網を介して通話相手の携帯電話機に供給される。
また、例えば、音声通話モードにおいて、携帯電話機１１００は、アンテナ１１１４で受信した受信信号を送受信回路部１１６３で増幅し、さらに周波数変換処理およびアナログデジタル変換処理し、変復調回路部１１５８でスペクトラム逆拡散処理し、音声コーデック１１５９によってアナログ音声信号に変換する。携帯電話機１１００は、その変換して得られたアナログ音声信号をスピーカ１１１７から出力する。
更に、例えば、データ通信モードにおいて電子メールを送信する場合、携帯電話機１１００は、操作キー１１１９の操作によって入力された電子メールのテキストデータを、操作入力制御部１１５２において受け付ける。携帯電話機１１００は、そのテキストデータを主制御部１１５０において処理し、LCD制御部１１５５を介して、画像として液晶ディスプレイ１１１８に表示させる。
また、携帯電話機１１００は、主制御部１１５０において、操作入力制御部１１５２が受け付けたテキストデータやユーザ指示等に基づいて電子メールデータを生成する。携帯電話機１１００は、その電子メールデータを、変復調回路部１１５８でスペクトラム拡散処理し、送受信回路部１１６３でデジタルアナログ変換処理および周波数変換処理する。携帯電話機１１００は、その変換処理により得られた送信用信号を、アンテナ１１１４を介して図示しない基地局へ送信する。基地局へ伝送された送信用信号（電子メール）は、ネットワークおよびメールサーバ等を介して、所定のあて先に供給される。
また、例えば、データ通信モードにおいて電子メールを受信する場合、携帯電話機１１００は、基地局から送信された信号を、アンテナ１１１４を介して送受信回路部１１６３で受信し、増幅し、さらに周波数変換処理およびアナログデジタル変換処理する。携帯電話機１１００は、その受信信号を変復調回路部１１５８でスペクトラム逆拡散処理して元の電子メールデータを復元する。携帯電話機１１００は、復元された電子メールデータを、LCD制御部１１５５を介して液晶ディスプレイ１１１８に表示する。
なお、携帯電話機１１００は、受信した電子メールデータを、記録再生部１１６２を介して、記憶部１１２３に記録する（記憶させる）ことも可能である。
この記憶部１１２３は、書き換え可能な任意の記憶媒体である。記憶部１１２３は、例えば、RAMや内蔵型フラッシュメモリ等の半導体メモリであってもよいし、ハードディスクであってもよいし、磁気ディスク、光磁気ディスク、光ディスク、USBメモリ、またはメモリカード等のリムーバブルメディアであってもよい。もちろん、これら以外のものであってもよい。
さらに、例えば、データ通信モードにおいて画像データを送信する場合、携帯電話機１１００は、撮像によりCCDカメラ１１１６で画像データを生成する。CCDカメラ１１１６は、レンズや絞り等の光学デバイスと光電変換素子としてのCCDを有し、被写体を撮像し、受光した光の強度を電気信号に変換し、被写体の画像の画像データを生成する。CCDカメラ１１１６は、その画像データを、カメラI/F部１１５４を介して、画像エンコーダ１１５３で符号化し、符号化画像データに変換する。
携帯電話機１１００は、このような処理を行う画像エンコーダ１１５３として、上述した画像符号化装置４０を用いる。画像エンコーダ１０５３は、画像符号化装置４０の場合と同様に、対象ブロックに隣接するブロックと参照ブロックに隣接するブロックとの間には相関が高い点に着目して、参照ブロックに隣接するブロック内の画素値を入力して、対象ブロックに隣接するブロック内の画素値をフィルタ処理した結果を出力として、（平均）最小２乗誤差が最小となるようにフィルタ係数を算出する。これにより、画像エンコーダ１０５３は、フィルタ係数の伝送に伴う符号量の増加を抑えつつ、復号側で精度の高いフィルタ係数を算出させることができる。
なお、携帯電話機１１００は、このとき同時に、CCDカメラ１１１６で撮像中にマイクロホン（マイク）１１２１で集音した音声を、音声コーデック１１５９においてアナログデジタル変換し、さらに符号化する。
携帯電話機１１００は、多重分離部１１５７において、画像エンコーダ１１５３から供給された符号化画像データと、音声コーデック１１５９から供給されたデジタル音声データとを、所定の方式で多重化する。携帯電話機１１００は、その結果得られる多重化データを、変復調回路部１１５８でスペクトラム拡散処理し、送受信回路部１１６３でデジタルアナログ変換処理および周波数変換処理する。携帯電話機１１００は、その変換処理により得られた送信用信号を、アンテナ１１１４を介して図示しない基地局へ送信する。基地局へ伝送された送信用信号（画像データ）は、ネットワーク等を介して、通信相手に供給される。
なお、画像データを送信しない場合、携帯電話機１１００は、CCDカメラ１１１６で生成した画像データを、画像エンコーダ１１５３を介さずに、LCD制御部１１５５を介して液晶ディスプレイ１１１８に表示させることもできる。
また、例えば、データ通信モードにおいて、簡易ホームページ等にリンクされた動画像ファイルのデータを受信する場合、携帯電話機１１００は、基地局から送信された信号を、アンテナ１１１４を介して送受信回路部１１６３で受信し、増幅し、さらに周波数変換処理およびアナログデジタル変換処理する。携帯電話機１１００は、その受信信号を変復調回路部１１５８でスペクトラム逆拡散処理して元の多重化データを復元する。携帯電話機１１００は、多重分離部１１５７において、その多重化データを分離して、符号化画像データと音声データとに分ける。
携帯電話機１１００は、画像デコーダ１１５６において符号化画像データをデコードすることにより、再生動画像データを生成し、これを、LCD制御部１１５５を介して液晶ディスプレイ１１１８に表示させる。これにより、例えば、簡易ホームページにリンクされた動画像ファイルに含まれる動画データが液晶ディスプレイ１１１８に表示される。
携帯電話機１１００は、このような処理を行う画像デコーダ１１５６として、上述した画像復号装置６０を用いる。つまり、画像デコーダ１１５６は、画像復号装置６０の場合と同様に、対象ブロックに隣接するブロックと参照ブロックに隣接するブロックとの間には相関が高い点に着目して、参照ブロックに隣接するブロック内の画素値を入力して、対象ブロックに隣接するブロック内の画素値をフィルタ処理した結果を出力として、（平均）最小２乗誤差が最小となるようにフィルタ係数を算出する。したがって、画像デコーダ１１５６は、符号化側でフィルタ係数の伝送に伴う符号量の増加を抑えつつ、精度の高いフィルタ係数を算出することができる。
このとき、携帯電話機１１００は、同時に、音声コーデック１１５９において、デジタルの音声データをアナログ音声信号に変換し、これをスピーカ１１１７より出力させる。これにより、例えば、簡易ホームページにリンクされた動画像ファイルに含まれる音声データが再生される。
なお、電子メールの場合と同様に、携帯電話機１１００は、受信した簡易ホームページ等にリンクされたデータを、記録再生部１１６２を介して、記憶部１１２３に記録する（記憶させる）ことも可能である。
また、携帯電話機１１００は、主制御部１１５０において、撮像されてCCDカメラ１１１６で得られた２次元コードを解析し、２次元コードに記録された情報を取得することができる。
さらに、携帯電話機１１００は、赤外線通信部１１８１で赤外線により外部の機器と通信することができる。
携帯電話機１１００は、画像エンコーダ１１５３として画像符号化装置４０を用いることにより、フィルタ係数の伝送に伴う符号量の増加を抑制することができる。その結果として、携帯電話機１１００は、例えばCCDカメラ１１１６において生成された画像データを符号化して伝送する際の、フィルタ係数の伝送に伴う符号量の増加やオーバヘッドを抑制することができる。
また、携帯電話機１１００は、画像デコーダ１１５６として画像復号装置６０を用いることにより、フィルタ係数を精度良く推定・生成することができる。その結果として、携帯電話機１１００は、例えば、簡易ホームページ等にリンクされた動画像ファイルのデータ（符号化データ）を受信する際の、フィルタ係数の伝送に伴う符号量の増加やオーバヘッドを抑制することができる。
なお、以上において、携帯電話機１１００が、CCDカメラ１１１６を用いるように説明したが、このCCDカメラ１１１６の代わりに、CMOS（Complementary Metal Oxide Semiconductor）を用いたイメージセンサ（CMOSイメージセンサ）を用いるようにしてもよい。この場合も、携帯電話機１１００は、CCDカメラ１１１６を用いる場合と同様に、被写体を撮像し、被写体の画像の画像データを生成することができる。
また、以上においては携帯電話機１１００として説明したが、例えば、PDA（Personal Digital Assistants）、スマートフォン、UMPC（Ultra Mobile Personal Computer）、ネットブック、ノート型パーソナルコンピュータ等、この携帯電話機１１００と同様の撮像機能や通信機能を有する装置であれば、どのような装置であっても携帯電話機１１００の場合と同様に、画像符号化装置４０および画像復号装置６０を適用することができる。
図２０は、本発明を適用した画像符号化装置および画像復号装置を用いるハードディスクレコーダの主な構成例を示すブロック図である。
図２０に示されるハードディスクレコーダ（HDDレコーダ）１２００は、チューナにより受信された、衛星や地上のアンテナ等より送信される放送波信号（テレビジョン信号）に含まれる放送番組のオーディオデータとビデオデータを、内蔵するハードディスクに保存し、その保存したデータをユーザの指示に応じたタイミングでユーザに提供する装置である。
ハードディスクレコーダ１２００は、例えば、放送波信号よりオーディオデータとビデオデータを抽出し、それらを適宜復号し、内蔵するハードディスクに記憶させることができる。また、ハードディスクレコーダ１２００は、例えば、ネットワークを介して他の装置からオーディオデータやビデオデータを取得し、それらを適宜復号し、内蔵するハードディスクに記憶させることもできる。
さらに、ハードディスクレコーダ１２００は、例えば、内蔵するハードディスクに記録されているオーディオデータやビデオデータを復号してモニタ１２６０に供給し、モニタ１２６０の画面にその画像を表示させ、モニタ１２６０のスピーカよりその音声を出力させることができる。また、ハードディスクレコーダ１２００は、例えば、チューナを介して取得された放送波信号より抽出されたオーディオデータとビデオデータ、または、ネットワークを介して他の装置から取得したオーディオデータやビデオデータを復号してモニタ１２６０に供給し、モニタ１２６０の画面にその画像を表示させ、モニタ１２６０のスピーカよりその音声を出力させることもできる。
もちろん、この他の動作も可能である。
図２０に示されるように、ハードディスクレコーダ１２００は、受信部１２２１、復調部１２２２、デマルチプレクサ１２２３、オーディオデコーダ１２２４、ビデオデコーダ１２２５、およびレコーダ制御部１２２６を有する。ハードディスクレコーダ１２００は、さらに、EPGデータメモリ１２２７、プログラムメモリ１２２８、ワークメモリ１２２９、ディスプレイコンバータ１２３０、OSD（On Screen Display）制御部１２３１、ディスプレイ制御部１２３２、記録再生部１２３３、D/Aコンバータ１２３４、および通信部１２３５を有する。
また、ディスプレイコンバータ１２３０は、ビデオエンコーダ１２４１を有する。記録再生部１２３３は、エンコーダ１２５１およびデコーダ１２５２を有する。
受信部１２２１は、リモートコントローラ（図示せず）からの赤外線信号を受信し、電気信号に変換してレコーダ制御部１２２６に出力する。レコーダ制御部１２２６は、例えば、マイクロプロセッサなどにより構成され、プログラムメモリ１２２８に記憶されているプログラムに従って、各種の処理を実行する。レコーダ制御部１２２６は、このとき、ワークメモリ１２２９を必要に応じて使用する。
通信部１２３５は、ネットワークに接続され、ネットワークを介して他の装置との通信処理を行う。例えば、通信部１２３５は、レコーダ制御部１２２６により制御され、チューナ（図示せず）と通信し、主にチューナに対して選局制御信号を出力する。
復調部１２２２は、チューナより供給された信号を、復調し、デマルチプレクサ１２２３に出力する。デマルチプレクサ１２２３は、復調部１２２２より供給されたデータを、オーディオデータ、ビデオデータ、およびEPGデータに分離し、それぞれ、オーディオデコーダ１２２４、ビデオデコーダ１２２５、またはレコーダ制御部１２２６に出力する。
オーディオデコーダ１２２４は、入力されたオーディオデータをデコードし、記録再生部１２３３に出力する。ビデオデコーダ１２２５は、入力されたビデオデータをデコードし、ディスプレイコンバータ１２３０に出力する。レコーダ制御部１２２６は、入力されたEPGデータをEPGデータメモリ１２２７に供給し、記憶させる。
ディスプレイコンバータ１２３０は、ビデオデコーダ１２２５またはレコーダ制御部１２２６より供給されたビデオデータを、ビデオエンコーダ１２４１により、例えばNTSC（National Television Standards Committee）方式のビデオデータにエンコードし、記録再生部１２３３に出力する。また、ディスプレイコンバータ１２３０は、ビデオデコーダ１２２５またはレコーダ制御部１２２６より供給されるビデオデータの画面のサイズを、モニタ１２６０のサイズに対応するサイズに変換し、ビデオエンコーダ１２４１によってNTSC方式のビデオデータに変換し、アナログ信号に変換し、ディスプレイ制御部１２３２に出力する。
ディスプレイ制御部１２３２は、レコーダ制御部１２２６の制御のもと、OSD（On Screen Display）制御部１２３１が出力したOSD信号を、ディスプレイコンバータ１２３０より入力されたビデオ信号に重畳し、モニタ１２６０のディスプレイに出力し、表示させる。
モニタ１２６０にはまた、オーディオデコーダ１２２４が出力したオーディオデータが、D/Aコンバータ１２３４によりアナログ信号に変換されて供給されている。モニタ１２６０は、このオーディオ信号を内蔵するスピーカから出力する。
記録再生部１２３３は、ビデオデータやオーディオデータ等を記録する記憶媒体としてハードディスクを有する。
記録再生部１２３３は、例えば、オーディオデコーダ１２２４より供給されるオーディオデータを、エンコーダ１２５１によりエンコードする。また、記録再生部１２３３は、ディスプレイコンバータ１２３０のビデオエンコーダ１２４１より供給されるビデオデータを、エンコーダ１２５１によりエンコードする。記録再生部１２３３は、そのオーディオデータの符号化データとビデオデータの符号化データとをマルチプレクサにより合成する。記録再生部１２３３は、その合成データをチャネルコーディングして増幅し、そのデータを、記録ヘッドを介してハードディスクに書き込む。
記録再生部１２３３は、再生ヘッドを介してハードディスクに記録されているデータを再生し、増幅し、デマルチプレクサによりオーディオデータとビデオデータに分離する。記録再生部１２３３は、デコーダ１２５２によりオーディオデータおよびビデオデータをデコードする。記録再生部１２３３は、復号したオーディオデータをD/A変換し、モニタ１２６０のスピーカに出力する。また、記録再生部１２３３は、復号したビデオデータをD/A変換し、モニタ１２６０のディスプレイに出力する。
レコーダ制御部１２２６は、受信部１２２１を介して受信されるリモートコントローラからの赤外線信号により示されるユーザ指示に基づいて、EPGデータメモリ１２２７から最新のEPGデータを読み出し、それをOSD制御部１２３１に供給する。OSD制御部１２３１は、入力されたEPGデータに対応する画像データを発生し、ディスプレイ制御部１２３２に出力する。ディスプレイ制御部１２３２は、OSD制御部１２３１より入力されたビデオデータをモニタ１２６０のディスプレイに出力し、表示させる。これにより、モニタ１２６０のディスプレイには、EPG（電子番組ガイド）が表示される。
また、ハードディスクレコーダ１２００は、インターネット等のネットワークを介して他の装置から供給されるビデオデータ、オーディオデータ、またはEPGデータ等の各種データを取得することができる。
通信部１２３５は、レコーダ制御部１２２６に制御され、ネットワークを介して他の装置から送信されるビデオデータ、オーディオデータ、およびEPGデータ等の符号化データを取得し、それをレコーダ制御部１２２６に供給する。レコーダ制御部１２２６は、例えば、取得したビデオデータやオーディオデータの符号化データを記録再生部１２３３に供給し、ハードディスクに記憶させる。このとき、レコーダ制御部１２２６および記録再生部１２３３が、必要に応じて再エンコード等の処理を行うようにしてもよい。
また、レコーダ制御部１２２６は、取得したビデオデータやオーディオデータの符号化データを復号し、得られるビデオデータをディスプレイコンバータ１２３０に供給する。ディスプレイコンバータ１２３０は、ビデオデコーダ１２２５から供給されるビデオデータと同様に、レコーダ制御部１２２６から供給されるビデオデータを処理し、ディスプレイ制御部１２３２を介してモニタ１２６０に供給し、その画像を表示させる。
また、この画像表示に合わせて、レコーダ制御部１２２６が、復号したオーディオデータを、D/Aコンバータ１２３４を介してモニタ１２６０に供給し、その音声をスピーカから出力させるようにしてもよい。
さらに、レコーダ制御部１２２６は、取得したEPGデータの符号化データを復号し、復号したEPGデータをEPGデータメモリ１２２７に供給する。
以上のようなハードディスクレコーダ１２００は、ビデオデコーダ１２２５、デコーダ１２５２、およびレコーダ制御部１２２６に内蔵されるデコーダとして画像復号装置６０を用いる。つまり、ビデオデコーダ１２２５、デコーダ１２５２、およびレコーダ制御部１２２６に内蔵されるデコーダは、画像復号装置６０の場合と同様に、対象ブロックに隣接するブロックと参照ブロックに隣接するブロックとの間には相関が高い点に着目して、参照ブロックに隣接するブロック内の画素値を入力して、対象ブロックに隣接するブロック内の画素値をフィルタ処理した結果を出力として、（平均）最小２乗誤差が最小となるようにフィルタ係数を算出する。したがって、ビデオデコーダ１２２５、デコーダ１２５２、およびレコーダ制御部１２２６に内蔵されるデコーダは、符号化側でフィルタ係数の伝送に伴う符号量の増加を抑えつつ、精度の高いフィルタ係数を算出することができる。
したがって、ハードディスクレコーダ１２００は、例えば、チューナや通信部１２３５によるビデオデータ（符号化データ）の受信の際や、記録再生部１２３３によるビデオデータ（符号化データ）のハードディスクからの再生の際の、フィルタ係数の伝送に伴う符号量の増加やオーバヘッドを抑制することができる。
また、ハードディスクレコーダ１２００は、エンコーダ１２５１として画像符号化装置４０を用いる。したがって、エンコーダ１２５１は、画像符号化装置４０の場合と同様に、対象ブロックに隣接するブロックと参照ブロックに隣接するブロックとの間には相関が高い点に着目して、参照ブロックに隣接するブロック内の画素値を入力して、対象ブロックに隣接するブロック内の画素値をフィルタ処理した結果を出力として、（平均）最小２乗誤差が最小となるようにフィルタ係数を算出する。したがって、エンコーダ１２５１は、フィルタ係数の伝送に伴う符号量の増加を抑えつつ、復号側で精度の高いフィルタ係数を算出させることができる。
したがって、ハードディスクレコーダ１２００は、例えば、ハードディスクに符号化データを記録する際の、フィルタ係数の伝送に伴う符号量の増加やオーバヘッドを抑制することができる。
なお、以上においては、ビデオデータやオーディオデータをハードディスクに記録するハードディスクレコーダ１２００について説明したが、もちろん、記録媒体はどのようなものであってもよい。例えばフラッシュメモリ、光ディスク、またはビデオテープ等、ハードディスク以外の記録媒体を適用するレコーダであっても、上述したハードディスクレコーダ１２００の場合と同様に、画像符号化装置４０および画像復号装置６０を適用することができる。
図２１は、本発明を適用した画像符号化装置および画像復号装置を用いるカメラの主な構成例を示すブロック図である。
図２１に示されるカメラ１３００は、被写体を撮像し、被写体の画像をLCD１３１６に表示させたり、それを画像データとして、記録メディア１３３３に記録したりする。
レンズブロック１３１１は、光（すなわち、被写体の映像）を、CCD/CMOS１３１２に入射させる。CCD/CMOS１３１２は、CCDまたはCMOSを用いたイメージセンサであり、受光した光の強度を電気信号に変換し、カメラ信号処理部１３１３に供給する。
カメラ信号処理部１３１３は、CCD/CMOS１３１２から供給された電気信号を、Ｙ，Ｃｒ，Ｃｂの色差信号に変換し、画像信号処理部１３１４に供給する。画像信号処理部１３１４は、コントローラ１３２１の制御の下、カメラ信号処理部１３１３から供給された画像信号に対して所定の画像処理を施したり、その画像信号をエンコーダ１３４１で符号化したりする。画像信号処理部１３１４は、画像信号を符号化して生成した符号化データを、デコーダ１３１５に供給する。さらに、画像信号処理部１３１４は、オンスクリーンディスプレイ（OSD）１３２０において生成された表示用データを取得し、それをデコーダ１３１５に供給する。
以上の処理において、カメラ信号処理部１３１３は、バス１３１７を介して接続されるDRAM（Dynamic Random Access Memory）１３１８を適宜利用し、必要に応じて画像データや、その画像データが符号化された符号化データ等をそのDRAM１３１８に保持させる。
デコーダ１３１５は、画像信号処理部１３１４から供給された符号化データを復号し、得られた画像データ（復号画像データ）をLCD１３１６に供給する。また、デコーダ１３１５は、画像信号処理部１３１４から供給された表示用データをLCD１３１６に供給する。LCD１３１６は、デコーダ１３１５から供給された復号画像データの画像と表示用データの画像を適宜合成し、その合成画像を表示する。
オンスクリーンディスプレイ１３２０は、コントローラ１３２１の制御の下、記号、文字、または図形からなるメニュー画面やアイコンなどの表示用データを、バス１３１７を介して画像信号処理部１３１４に出力する。
コントローラ１３２１は、ユーザが操作部１３２２を用いて指令した内容を示す信号に基づいて、各種処理を実行するとともに、バス１３１７を介して、画像信号処理部１３１４、DRAM１３１８、外部インタフェース１３１９、オンスクリーンディスプレイ１３２０、およびメディアドライブ１３２３等を制御する。FLASH ROM１３２４には、コントローラ１３２１が各種処理を実行する上で必要なプログラムやデータ等が格納される。
例えば、コントローラ１３２１は、画像信号処理部１３１４やデコーダ１３１５に代わって、DRAM１３１８に記憶されている画像データを符号化したり、DRAM１３１８に記憶されている符号化データを復号したりすることができる。このとき、コントローラ１３２１は、画像信号処理部１３１４やデコーダ１３１５の符号化・復号方式と同様の方式によって符号化・復号処理を行うようにしてもよいし、画像信号処理部１３１４やデコーダ１３１５が対応していない方式により符号化・復号処理を行うようにしてもよい。
また、例えば、操作部１３２２から画像印刷の開始が指示された場合、コントローラ１３２１は、DRAM１３１８から画像データを読み出し、それを、バス１３１７を介して外部インタフェース１３１９に接続されるプリンタ１３３４に供給して印刷させる。
さらに、例えば、操作部１３２２から画像記録が指示された場合、コントローラ１３２１は、DRAM１３１８から符号化データを読み出し、それを、バス１３１７を介してメディアドライブ１３２３に装着される記録メディア１３３３に供給して記憶させる。
記録メディア１３３３は、例えば、磁気ディスク、光磁気ディスク、光ディスク、または半導体メモリ等の、読み書き可能な任意のリムーバブルメディアである。記録メディア１３３３は、もちろん、リムーバブルメディアとしての種類も任意であり、テープデバイスであってもよいし、ディスクであってもよいし、メモリカードであってもよい。もちろん、非接触ICカード等であっても良い。
また、メディアドライブ１３２３と記録メディア１３３３を一体化し、例えば、内蔵型ハードディスクドライブやSSD（Solid State Drive）等のように、非可搬性の記憶媒体により構成されるようにしてもよい。
外部インタフェース１３１９は、例えば、USB入出力端子などで構成され、画像の印刷を行う場合に、プリンタ１３３４と接続される。また、外部インタフェース１３１９には、必要に応じてドライブ１３３１が接続され、磁気ディスク、光ディスク、あるいは光磁気ディスクなどのリムーバブルメディア１３３２が適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて、FLASH ROM１３２４にインストールされる。
さらに、外部インタフェース１３１９は、LANやインターネット等の所定のネットワークに接続されるネットワークインタフェースを有する。コントローラ１３２１は、例えば、操作部１３２２からの指示に従って、DRAM１３１８から符号化データを読み出し、それを外部インタフェース１３１９から、ネットワークを介して接続される他の装置に供給させることができる。また、コントローラ１３２１は、ネットワークを介して他の装置から供給される符号化データや画像データを、外部インタフェース１３１９を介して取得し、それをDRAM１３１８に保持させたり、画像信号処理部１３１４に供給したりすることができる。
以上のようなカメラ１３００は、デコーダ１３１５として画像復号装置６０を用いる。つまり、デコーダ１３１５は、画像復号装置６０の場合と同様に、対象ブロックに隣接するブロックと参照ブロックに隣接するブロックとの間には相関が高い点に着目して、参照ブロックに隣接するブロック内の画素値を入力して、対象ブロックに隣接するブロック内の画素値をフィルタ処理した結果を出力として、（平均）最小２乗誤差が最小となるようにフィルタ係数を算出する。したがって、デコーダ１３１５は、画像復号装置６０の場合と同様に、符号化側でフィルタ係数の伝送に伴う符号量の増加を抑えつつ、精度の高いフィルタ係数を算出することができる。
したがって、カメラ１３００は、例えば、CCD/CMOS１３１２において生成される画像データや、DRAM１３１８または記録メディア１３３３からビデオデータの符号化データを読み出す際や、ネットワークを介してビデオデータの符号化データを取得する際の、フィルタ係数の伝送に伴う符号量の増加やオーバヘッドを抑制することができる。
また、カメラ１３００は、エンコーダ１３４１として画像符号化装置４０を用いる。エンコーダ１３４１は、画像符号化装置４０の場合と同様に、対象ブロックに隣接するブロックと参照ブロックに隣接するブロックとの間には相関が高い点に着目して、参照ブロックに隣接するブロック内の画素値を入力して、対象ブロックに隣接するブロック内の画素値をフィルタ処理した結果を出力として、（平均）最小２乗誤差が最小となるようにフィルタ係数を算出する。したがって、エンコーダ１３４１は、フィルタ係数の伝送に伴う符号量の増加を抑えつつ、復号側で精度の高いフィルタ係数を算出させることができる。
したがって、カメラ１３００は、例えば、DRAM１３１８や記録メディア１３３３に符号化データを記録する際や、符号化データを他の装置に提供する際の、フィルタ係数の伝送に伴う符号量の増加やオーバヘッドを抑制することができる。
なお、コントローラ１３２１が行う復号処理に画像復号装置６０の復号方法を適用するようにしてもよい。同様に、コントローラ１３２１が行う符号化処理に画像符号化装置４０の符号化方法を適用するようにしてもよい。
また、カメラ１３００が撮像する画像データは動画像であってもよいし、静止画像であってもよい。
もちろん、画像符号化装置４０および画像復号装置６０は、上述した装置以外の装置やシステムにも適用可能である。
また、マクロブロックの大きさは任意である。本発明は、例えば図２２に示されるようなあらゆる大きさのマクロブロックに対して適用することができる。例えば、本発明は、通常の１６×１６画素のようなマクロブロックだけでなく、３２×３２画素のような拡張されたマクロブロック（拡張マクロブロック）にも適用することができる。
図２２において、上段には、左から、３２×３２画素、３２×１６画素、１６×３２画素、および１６×１６画素のブロック（パーティション）に分割された３２×３２画素で構成されるマクロブロックが順に示されている。また、中段には、左から、１６×１６画素、１６×８画素、８×１６画素、および８×８画素のブロックに分割された１６×１６画素で構成されるブロックが順に示されている。さらに、下段には、左から、８×８画素、８×４画素、４×８画素、および４×４画素のブロックに分割された８×８画素のブロックが順に示されている。
すなわち、３２×３２画素のマクロブロックは、上段に示される３２×３２画素、３２×１６画素、１６×３２画素、および１６×１６画素のブロックでの処理が可能である。
上段の右側に示される１６×１６画素のブロックは、H．264/AVC方式と同様に、中段に示される１６×１６画素、１６×８画素、８×１６画素、および８×８画素のブロックでの処理が可能である。
中段の右側に示される８×８画素のブロックは、H．264/AVC方式と同様に、下段に示される８×８画素、８×４画素、４×８画素、および４×４画素のブロックでの処理が可能である。
これらのブロックは、以下の３階層に分類することができる。すなわち、図２２の上段に示される３２×３２画素、３２×１６画素、および１６×３２画素のブロックを第１階層と称する。上段の右側に示される１６×１６画素のブロック、並びに、中段に示される１６×１６画素、１６×８画素、および８×１６画素のブロックを、第２階層と称する。中段の右側に示される８×８画素のブロック、並びに、下段に示される８×８画素、８×４画素、４×８画素、および４×４画素のブロックを、第３階層と称する。
このような階層構造を採用することにより、１６×１６画素のブロック以下に関しては、H．264/AVC方式と互換性を保ちながら、そのスーパーセットとして、より大きなブロックを定義することができる。
例えば、画像符号化装置４０や画像復号装置６０が、階層毎にフィルタ係数を算出するようにしてもよい。また、例えば、画像符号化装置４０や画像復号装置６０が、第２の階層よりブロックサイズが大きい階層である第１階層に対応するフィルタ係数を、第２階層に対しても設定するようにしてもよい。さらに、例えば、画像符号化装置４０や画像復号装置６０が、過去の同一の階層に対するフィルタ係数を設定するようにしてもよい。
第１階層や第２階層のように、比較的大きなブロックサイズを用いて符号化が行われるマクロブロックは、比較的高周波成分を含んでいない。これに対して、第３階層のように、比較的小さなブロックサイズを用いて符号化が行われるマクロブロックは、比較的、高周波成分を含んでいると考えられる。
そこで、ブロックサイズの異なる各階層に応じて、別々にフィルタ係数を算出することにより、画像の持つ、局所的性質に適した符号化性能向上を実現させることが可能である。
なお、フィルタのタップ数も、階層毎に異なるものであってもよい。
４０ 画像符号化装置， ４１ 動き予測・補償部， ４２ フィルタ生成部， ６０ 画像復号装置， ７０ 動き予測・補償部， ７１ フィルタ生成部

Claims (12)

  1. 復号の対象となる復号対象画像の対象ブロックに隣接し、かつ、前記対象ブロックよりも先に復号される領域を復号済領域として設定するとともに、参照画像の参照ブロックに対する位置関係が前記復号済領域の位置関係と同じ領域を前記参照領域として設定する設定手段と、
    前記設定手段により設定された参照領域の画素値を前記設定手段により設定された復号済領域の画素値に変換するフィルタのフィルタ係数を算出する算出手段と、
    前記算出手段により算出されたフィルタ係数を有する調整フィルタを用いて、前記参照ブロックの画素値を補間する補間手段と、
    前記補間手段により画素値が補間された参照ブロックを前記対象ブロックに動き補償することにより、前記復号対象画像に対応する予測画像を生成する生成手段と
    を有する画像処理装置。
  2. 前記算出手段は、前記復号領域の画素値と前記参照領域の画素値をフィルタ処理した結果との２乗誤差が最小となるように、前記フィルタ係数を算出する
    請求項１に記載の画像処理装置。
  3. 前記復号済領域は、第１復号済領域と前記第１復号済領域よりもスキャン順で後に位置する第２復号済領域とからなり、
    前記参照領域は、前記第１復号済領域に対応する第１参照領域と前記第２復号済領域に対応する第２参照領域とからなり、
    前記算出手段は、前記第１参照領域及び前記第１復号済領域と前記第２参照領域及び前記第２復号済領域とを対象として、異なる方向のフィルタの係数を算出する
    請求項２に記載の画像処理装置。
  4. 前記スキャン順はラスタースキャン順であり、
    前記算出手段は、前記第１参照領域及び前記第１復号済領域に対して水平方向のフィルタの係数を算出し、前記第２参照領域及び前記第２復号済領域に対して垂直方向のフィルタの係数を算出する
    請求項３に記載の画像処理装置。
  5. 前記第１復号済領域と前記第２復号済領域とは同じ大きさである
    請求項４に記載の画像処理装置。
  6. 前記フィルタは、ＡＩＦ（アダプティブ・インターポーレーション・フィルタ）である
    請求項５に記載の画像処理装置
  7. 前記対象ブロックと前記参照ブロックとの間における整数精度の動きベクトルを受け取る受取り手段を更に有し、
    前記設定手段は、前記受取り手段により受け取られた動きベクトルに基づいて、前記復号済領域と前記参照領域とを設定する
    請求項１に記載の画像処理装置。
  8. 復号の対象となる復号対象画像の対象ブロックに隣接し、かつ、前記対象ブロックよりも先に復号される領域を復号済領域として設定するとともに、参照画像の参照ブロックに対する位置関係が前記復号済領域の位置関係と同じ領域を前記参照領域として設定し、
    設定された参照領域の画素値を復号済領域の画素値に変換するフィルタのフィルタ係数を算出し、
    算出されたフィルタ係数を有する調整フィルタを用いて、前記参照ブロックの画素値を補間し、
    画素値が補間された参照ブロックを前記対象ブロックに動き補償することにより、前記復号対象画像に対応する予測画像を生成する
    画像処理方法。
  9. 符号化の対象となる符号化対象画像の対象ブロックに隣接し、かつ、前記対象ブロックよりも先に符号化される領域を符号化済領域として設定するとともに、前記符号化対象画像よりも先に符号化されてから復号された参照画像の参照ブロックに対する位置関係が前記符号化済領域の位置関係と同じ領域を前記参照領域として設定する設定手段と、
    前記設定手段により設定された参照領域の画素値を前記設定手段により設定された符号化済領域の画素値に変換するフィルタのフィルタ係数を算出する算出手段と、
    前記算出手段により算出されたフィルタ係数を有する調整フィルタを用いて、前記参照ブロックの画素値を補間する補間手段と、
    前記補間手段により画素値が補間された参照ブロックを前記対象ブロックに動き補償することにより、前記符号化対象画像に対応する予測画像を生成する生成手段と
    を有する画像処理装置。
  10. 前記対象ブロックと前記参照ブロックとの間の動きベクトルを整数精度で演算する動きベクトル演算手段を更に有する
    請求項９に記載の画像処理装置。
  11. 前記フィルタは、ＡＩＦ（アダプティブ・インターポーレーション・フィルタ）である
    請求項９に記載の画像処理装置。
  12. 符号化の対象となる符号化対象画像の対象ブロックに隣接し、かつ、前記対象ブロックよりも先に符号化される領域を符号化済領域として設定するとともに、前記符号化対象画像よりも先に符号化されてから復号された参照画像の参照ブロックに対する位置関係が前記符号化済領域の位置関係と同じ領域を前記参照領域として設定し、
    設定された参照領域の画素値を符号化済領域の画素値に変換するフィルタのフィルタ係数を算出し、
    算出されたフィルタ係数を有する調整フィルタを用いて、前記参照ブロックの画素値を補間し、
    画素値が補間された参照ブロックを前記対象ブロックに動き補償することにより、前記符号化対象画像に対応する予測画像を生成する
    画像処理方法。
JP2010531922A 2008-10-02 2009-10-02 画像処理装置および方法 Expired - Fee Related JP5240530B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010531922A JP5240530B2 (ja) 2008-10-02 2009-10-02 画像処理装置および方法

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2008257051 2008-10-02
JP2008257051 2008-10-02
JP2010531922A JP5240530B2 (ja) 2008-10-02 2009-10-02 画像処理装置および方法
PCT/JP2009/067224 WO2010038857A1 (ja) 2008-10-02 2009-10-02 画像処理装置および方法

Publications (2)

Publication Number Publication Date
JPWO2010038857A1 JPWO2010038857A1 (ja) 2012-03-01
JP5240530B2 true JP5240530B2 (ja) 2013-07-17

Family

ID=42073615

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010531922A Expired - Fee Related JP5240530B2 (ja) 2008-10-02 2009-10-02 画像処理装置および方法

Country Status (4)

Country Link
US (1) US8831103B2 (ja)
JP (1) JP5240530B2 (ja)
CN (1) CN102224734B (ja)
WO (1) WO2010038857A1 (ja)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5604825B2 (ja) 2009-08-19 2014-10-15 ソニー株式会社 画像処理装置および方法
ES2820437T3 (es) 2010-07-20 2021-04-21 Ntt Docomo Inc Método de codificación predictiva de imágenes, dispositivo de decodificación predictiva de imágenes, método de decodificación predictiva de imágenes y programa de decodificación predictiva de imágenes
WO2012096150A1 (ja) * 2011-01-12 2012-07-19 三菱電機株式会社 動画像符号化装置、動画像復号装置、動画像符号化方法及び動画像復号方法
JP6056122B2 (ja) 2011-01-24 2017-01-11 ソニー株式会社 画像符号化装置と画像復号装置およびその方法とプログラム
RU2018128647A (ru) 2013-03-21 2018-10-05 Сони Корпорейшн Устройство кодирования изображения и способ и устройство декодирования изображения и способ
EP3061253A4 (en) 2013-10-25 2016-08-31 Microsoft Technology Licensing Llc PAIRING OF BLOCKS BY HASHING VIDEO AND IMAGE CODING
WO2015058397A1 (en) 2013-10-25 2015-04-30 Microsoft Technology Licensing, Llc Representing blocks with hash values in video and image coding and decoding
US9774881B2 (en) * 2014-01-08 2017-09-26 Microsoft Technology Licensing, Llc Representing motion vectors in an encoded bitstream
US9749642B2 (en) 2014-01-08 2017-08-29 Microsoft Technology Licensing, Llc Selection of motion vector precision
US9942560B2 (en) * 2014-01-08 2018-04-10 Microsoft Technology Licensing, Llc Encoding screen capture data
KR102185245B1 (ko) * 2014-03-04 2020-12-01 마이크로소프트 테크놀로지 라이센싱, 엘엘씨 해시 기반 블록 매칭을 위한 해시 테이블 구성 및 이용가능성 검사
US10368092B2 (en) 2014-03-04 2019-07-30 Microsoft Technology Licensing, Llc Encoder-side decisions for block flipping and skip mode in intra block copy prediction
US10681372B2 (en) * 2014-06-23 2020-06-09 Microsoft Technology Licensing, Llc Encoder decisions based on results of hash-based block matching
JP6462119B2 (ja) 2014-09-30 2019-01-30 マイクロソフト テクノロジー ライセンシング，エルエルシー コンピューティングデバイス
US10390039B2 (en) 2016-08-31 2019-08-20 Microsoft Technology Licensing, Llc Motion estimation for screen remoting scenarios
US11095877B2 (en) 2016-11-30 2021-08-17 Microsoft Technology Licensing, Llc Local hash-based motion estimation for screen remoting scenarios
US11202085B1 (en) 2020-06-12 2021-12-14 Microsoft Technology Licensing, Llc Low-cost hash table construction and hash-based block matching for variable-size blocks

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05244585A (ja) * 1992-02-28 1993-09-21 Victor Co Of Japan Ltd 予測符号化装置及び復号化装置
JP2000175192A (ja) * 1998-12-08 2000-06-23 Matsushita Electric Ind Co Ltd 高能率符号化装置
JP2004147328A (ja) * 2002-10-22 2004-05-20 Docomo Communications Laboratories Usa Inc 動き補償予測を用いたビデオ符号化のための適応補間フィルタシステム
JP2007274479A (ja) * 2006-03-31 2007-10-18 Toshiba Corp 画像符号化装置及び画像復号化装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2000018129A1 (en) * 1998-09-22 2000-03-30 Matsushita Electric Industrial Co., Ltd. Video signal encoding method, video signal encoder, and program recorded medium
KR100708091B1 (ko) * 2000-06-13 2007-04-16 삼성전자주식회사 양방향 움직임 벡터를 이용한 프레임 레이트 변환 장치 및그 방법
JP3862613B2 (ja) * 2002-06-05 2006-12-27 キヤノン株式会社 画像処理装置及び画像処理方法並びにコンピュータプログラム
JP4198550B2 (ja) * 2002-09-10 2008-12-17 株式会社東芝 フレーム補間方法およびこのフレーム補間方法を用いた装置
US7616692B2 (en) * 2003-09-07 2009-11-10 Microsoft Corporation Hybrid motion vector prediction for interlaced forward-predicted fields
US7606309B2 (en) * 2004-09-30 2009-10-20 Intel Corporation Motion estimation for video processing using 2-D (spatial) convolution
JP2008536414A (ja) * 2005-04-13 2008-09-04 ゴットフリート・ヴィルヘルム・ライプニッツ・ウニヴェルジテート・ハノーヴァー ビデオの拡張された符号化方法及び装置
JP2007043651A (ja) * 2005-07-05 2007-02-15 Ntt Docomo Inc 動画像符号化装置、動画像符号化方法、動画像符号化プログラム、動画像復号装置、動画像復号方法及び動画像復号プログラム
US8254707B2 (en) * 2005-12-07 2012-08-28 Sony Corporation Encoding device, encoding method, encoding program, decoding device, decoding method, and decoding program in interlace scanning
JP5244585B2 (ja) 2006-03-27 2013-07-24 京セラ株式会社 光伝送基板及びその製造方法並びに光伝送装置
CN101455087B (zh) * 2006-05-24 2011-01-12 松下电器产业株式会社 图像编码装置、图像编码方法及图像编码用集成电路
EP1983759A1 (en) * 2007-04-19 2008-10-22 Matsushita Electric Industrial Co., Ltd. Estimation of separable adaptive interpolation filters for hybrid video coding

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05244585A (ja) * 1992-02-28 1993-09-21 Victor Co Of Japan Ltd 予測符号化装置及び復号化装置
JP2000175192A (ja) * 1998-12-08 2000-06-23 Matsushita Electric Ind Co Ltd 高能率符号化装置
JP2004147328A (ja) * 2002-10-22 2004-05-20 Docomo Communications Laboratories Usa Inc 動き補償予測を用いたビデオ符号化のための適応補間フィルタシステム
JP2007274479A (ja) * 2006-03-31 2007-10-18 Toshiba Corp 画像符号化装置及び画像復号化装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
JPN6013011093; Ｔｈｏｍａｓ　Ｗｅｄｉ　ａｎｄ　Ｈａｎｓ　Ｇｅｏｒｇ　Ｍｕｓｍａｎｎ: 'Ｍｏｔｉｏｎ-　ａｎｄ　Ａｌｉａｓｉｎｇ-Ｃｏｍｐｅｎｓａｔｅｄ　Ｐｒｅｄｉｃｔｉｏｎ　ｆｏｒ　Ｈｙｂｒｉｄ　Ｖｉｄｅｏ　Ｃｏｄｉｎｇ' ＩＥＥＥ　Ｔｒａｎｓａｃｔｉｏｎｓ　ｏｎ　Ｃｉｒｃｕｉｔｓ　ａｎｄ　Ｓｙｓｔｅｍｓ　ｆｏｒ　Ｖｉｄｅｏ　Ｔｅｃｈｎｏｌｏｇｙ Ｖｏｌ．１３，　Ｎｏ．７, 200307, Ｐａｇｅｓ　５７７-５８６ *

Also Published As

Publication number Publication date
CN102224734B (zh) 2013-11-13
JPWO2010038857A1 (ja) 2012-03-01
US20110243234A1 (en) 2011-10-06
WO2010038857A1 (ja) 2010-04-08
CN102224734A (zh) 2011-10-19
US8831103B2 (en) 2014-09-09

Similar Documents

Publication Publication Date Title
JP5240530B2 (ja) 画像処理装置および方法
JP5234368B2 (ja) 画像処理装置および方法
WO2010035731A1 (ja) 画像処理装置および方法
WO2010101064A1 (ja) 画像処理装置および方法
WO2010035733A1 (ja) 画像処理装置および方法
WO2011018965A1 (ja) 画像処理装置および方法
WO2010035734A1 (ja) 画像処理装置および方法
WO2010035730A1 (ja) 画像処理装置および方法
WO2010095559A1 (ja) 画像処理装置および方法
WO2011078002A1 (ja) 画像処理装置および方法、並びにプログラム
WO2012096229A1 (ja) 符号化装置および符号化方法、並びに復号装置および復号方法
WO2011086964A1 (ja) 画像処理装置および方法、並びにプログラム
JPWO2010095560A1 (ja) 画像処理装置および方法
WO2010035732A1 (ja) 画像処理装置および方法
WO2011152315A1 (ja) 画像処理装置および方法
US20110229049A1 (en) Image processing apparatus, image processing method, and program
JPWO2010064675A1 (ja) 画像処理装置および画像処理方法、並びにプログラム
JP2011223337A (ja) 画像処理装置および方法
WO2010010943A1 (ja) 画像処理装置および方法
WO2011096318A1 (ja) 画像処理装置および方法
WO2010038858A1 (ja) 画像処理装置および方法
JP2011135184A (ja) 画像処理装置および方法、並びにプログラム
WO2010101063A1 (ja) 画像処理装置および方法
WO2012077532A1 (ja) 画像処理装置、画像処理方法、およびプログラム
JPWO2010035735A1 (ja) 画像処理装置および方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120831

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121220

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130307

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130320

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160412

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160412

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees