JP2017085496A - 動画像符号化装置及びその制御方法、コンピュータプログラム - Google Patents

動画像符号化装置及びその制御方法、コンピュータプログラム Download PDF

Info

Publication number
JP2017085496A
JP2017085496A JP2015214801A JP2015214801A JP2017085496A JP 2017085496 A JP2017085496 A JP 2017085496A JP 2015214801 A JP2015214801 A JP 2015214801A JP 2015214801 A JP2015214801 A JP 2015214801A JP 2017085496 A JP2017085496 A JP 2017085496A
Authority
JP
Japan
Prior art keywords
image
offset
encoding
processing
band
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2015214801A
Other languages
English (en)
Inventor
小林 幸史
Yukifumi Kobayashi
幸史 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2015214801A priority Critical patent/JP2017085496A/ja
Priority to US15/333,362 priority patent/US10419775B2/en
Publication of JP2017085496A publication Critical patent/JP2017085496A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】動画像符号化装置において適応オフセット処理による高画質を保ちつつ、処理量を削減可能な手法を提供する。【解決手段】動画像符号化装置は、符号化対象画像をブロック単位に予測符号化する符号化手段と、予測符号化された画像を復号して復号画像を生成する復号手段と、復号画像にデブロッキングフィルタ処理を施すフィルタ手段と、デブロッキングフィルタ処理された復号画像にオフセット処理を施すオフセット処理手段とを備える。符号化手段は、オフセット処理手段によりオフセット処理された復号画像に基づき予測符号化を行い、オフセット処理手段は、処理対象のブロックの画像の特徴に応じて、ブロック内の画像が低周波成分画像に関する特徴を有する場合に第1のオフセット処理を実行し、ブロック内の画像が低周波成分画像に関する特徴を有しない場合に第2のオフセット処理を実行する。【選択図】図1

Description

本発明は動画像符号化装置及びその制御方法、並びにコンピュータプログラムに関する。
デジタルビデオカメラやハードディスクレコーダーなど、動画像を記録できるデジタル機器が普及している。これらのデジタル機器では情報量の多い動画像を容量の制限されたフラッシュメモリやハードディスクといった記録メディアに効率的に記録するため、動画像データの圧縮符号化を行っている。
代表的な動画像圧縮符号化方式として、H.264符号化方式がある。H.264符号化方式はビデオカメラのハイビジョン記録方式であるAVCHDや、地上デジタル放送のワンセグ放送に採用されていて、広く普及している動画像圧縮符号化方式である(非特許文献1参照)。
近年、4kテレビが市場に出るなど、動画像の高解像度化、高フレームレート化が進んでいる。それにともない、動画像の圧縮効率のさらなる向上が求められている。H.264符号化方式の後継規格として、さらに高効率な動画像圧縮符号化方式であるHEVC(High Efficiency Video Coding)符号化方式が国際標準規格として策定された。HEVC符号化方式はH.264符号化方式の約2倍の圧縮効率があるといわれ、次世代動画像デジタル機器に採用される見込みであり、将来的に広く普及する可能性が高い動画像圧縮符号化方式である(非特許文献2参照)。
HEVC符号化方式で新たに採用された符号化ツールとして、適応オフセット処理(SAO:Sample Adaptive Offset)と呼ばれる技術がある。これは、デブロッキングフィルタ後のデコード画像に対して行われる処理で、HEVC符号化方式の高画質化に大きく貢献している(特許文献1参照)。
適応オフセット処理には、バンドオフセット処理とエッジオフセット処理とがあり、符号化時にCTU(Coding Tree Unit)単位でどちらの処理を行うか、もしくはどちらも行わないかを決定する。バンドオフセット処理を行う場合、バンド位置とオフセット値とを決定し、エッジオフセット処理を行うときは、エッジ方向とオフセット値とを決定して、それらのパラメータの符号化を行う。
特開2012-5113号公報
改訂三版H.264/AVC 教科書、大久保 榮[監修]、角野眞也、菊池義浩、鈴木輝彦[共編]、2009年1月1日発行 高効率映像符号化技術 HEVC/H.265とその応用、村上篤道、浅井光太郎、関口俊一[共編]、2013年2月25日発行
符号化時に適応オフセット処理のパラメータを決定する際には、画素単位でバンド位置やエッジ方向を調べ、適切なオフセット値算出のための処理などを行う必要がある。適応オフセット処理の全てのパターンでそれらの処理を行い、評価値を算出して、それに基づきパラメータ決定を行うと、処理量が非常に膨大になってしまう。
そこで本発明は、動画像符号化装置において適応オフセット処理による高画質を保ちつつ、処理量を削減可能な手法を提供することを目的とする。
上記課題を解決するための本発明は、動画像符号化装置であって、
符号化対象画像をブロック単位に予測符号化する符号化手段と、
前記予測符号化された符号化画像を復号して復号画像を生成する復号手段と、
前記復号画像にデブロッキングフィルタ処理を施すフィルタ手段と、
前記デブロッキングフィルタ処理が施された復号画像にオフセット処理を施すオフセット処理手段と
を備え、
前記符号化手段は、前記オフセット処理手段によりオフセット処理された復号画像に基づき前記予測符号化を行い、
前記オフセット処理手段は、処理対象のブロックの画像の特徴に応じて、前記ブロック内の画像が低周波成分画像に関する特徴を有する場合に低周波成分画像のための第1のオフセット処理を選択して実行し、前記ブロック内の画像が低周波成分画像に関する特徴を有しない場合に高周波成分画像のための第2のオフセット処理を選択して実行することを特徴とする。
本発明によれば、動画像符号化装置において、適応オフセット処理による高画質を保ちつつ、処理量を削減できる。
発明の実施形態1に対応する符号化装置を用いたカメラシステムの一例を示すブロック図 発明の実施形態に対応するバンドオフセット処理の例を説明するための図 発明の実施形態に対応するエッジオフセット処理のエッジ方向を説明するための図 発明の実施形態に対応するエッジオフセット処理のカテゴリを説明するための図 発明の実施形態に対応するバンドオフセット処理部の機能構成の一例を示す機能ブロック図 発明の実施形態に対応するエッジオフセット処理部の機能構成の一例を示す機能ブロック図 発明の実施形態2に対応する符号化装置を用いたカメラシステムの一例を示すブロック図 発明の実施形態3に対応する符号化装置を用いたカメラシステムの一例を示すブロック図 発明の実施形態3に対応するバンド位置毎の画素数の計数方法を説明するための図 発明の実施形態3に対応する処理の一例を示すフローチャート 発明の実施形態4に対応する符号化装置を用いたカメラシステムの一例を示すブロック図
以下、図面を参照しながら本発明の好適な実施の形態を説明する。
[実施形態1]
図1は発明の第1の実施形態に対応する動画像符号化装置を用いたカメラシステムの例を示すブロック図である。図1では、HEVC符号化方式を実現する動画像符号化装置を例に示してある。図1のカメラシステム100において、レンズ、撮像素子、記録メディアのような物理的デバイスを少なくとも除いた動画像符号化装置の各ブロックは専用ロジック回路やメモリを用いてハードウェア的に構成されてもよい。或いは、メモリに記憶されている処理プログラムをCPU等のコンピュータが実行することにより、ソフトウェア的に構成されてもよい。
以下、図1に示す各構成要素を参照して、発明の実施形態に対応するカメラシステムの動作を説明する。まず、被写体からの反射光がレンズ101を通過して、撮像部102のCCDやCMOS等の撮像素子に入射し、被写体像の撮影が行われる。撮像部102では、撮像画素において生成されたアナログ画像のアナログ画素データをデジタル画素データに変換してデジタル画像を生成し、現像処理部103に出力する。
現像処理部103は、入力されたデジタル画像に対してディベイヤー処理、キズ補正、ノイズ除去、拡大縮小処理、YCbCr形式への色変換などの画像処理を実施する。画像処理後、圧縮符号化が可能な形式になったデジタル画像が、現像処理部103から符号化フレームバッファ104へ提供される。この画像を符号化対象画像とする。
動画像符号化装置では、当該符号化対象画像に対して予測符号化処理を行う。まず、動き予測部105では、符号化フレームバッファ104に格納されている符号化対象画像と、参照フレームバッファ116に格納されている参照画像との間でブロックマッチングをとり、動きベクトル検出を行う。符号化対象画像と、検出された動きベクトルと参照画像とに基づき生成した予測画像との間で画素の差分をとり、その差分画像を直交変換部106に出力する。またローカルデコード画像作成用に、動きベクトルに基づき生成された予測画像を動き補償部113に出力する。
直交変換部106では、送られてきた差分画像に対して離散コサイン変換を行い、変換係数を生成し、量子化部107に出力する。量子化部107では、直交変換部106から送られてきた変換係数に対して、量子化制御部108が出力する量子化ステップサイズに従い、量子化処理を行う。量子化処理により得られた変換係数は符号化ストリーム作成のため可変長符号化部109、ならびにローカルデコード画像作成のため逆量子化部111に出力される。可変長符号化部109では、以上の予測符号化処理により得られた量子化処理後の変換係数に対してジグザグスキャン、オルタネートスキャン等を行い、可変長符号化が行われる。これに対して、動きベクトルや量子化ステップサイズ、マクロブロック分割情報、適応オフセット処理用パラメータなどの符号化方式情報を可変長符号化したものを付加し、符号化ストリームを生成する。生成された符号化ストリームは記録メディア110に記録される。
また符号化の際にマクロブロックごとの発生符号量を算出し、量子化制御部108に出力する。量子化制御部108では、可変長符号化部109から送られてくる発生符号量を用いて、目標とする符号量になるように量子化ステップサイズを決定し、量子化部107に出力する。
次に、予測符号化処理により得られた量子化後の変換係数に基づく復号処理を行う。具体的に逆量子化部111では、量子化部107から送られてきた量子化後の変換係数に対して逆量子化を行い、ローカルデコード用の変換係数を生成する。この変換係数は逆直交変換部112に出力される。逆直交変換部112では、送られてきた変換係数に対して逆離散コサイン変換を行い差分画像を生成する。生成された差分画像は動き補償部113に出力される。動き補償部113では、動き予測部105から送られてきた動きベクトル位置の予測画像と、逆直交変換部112から送られてきた差分画像を加算することにより、ローカルデコード用の復号画像データを生成する。以上の復号処理により生成された復号画像データはデブロッキングフィルタ部114に出力される。
デブロッキングフィルタ部114では、復号画像データに対して、ブロック境界におけるノイズの発生を抑制するためにデブロッキングフィルタをかける。デブロッキングフィルタ後の画像は、適応オフセット処理部115に出力される。また、分散算出用に分散算出部117にも出力される。分散算出部117では、入力された画像につき処理対象のブロック単位での分散値を算出する。分散値とは、画素値の大きさのちらばり具合を示す指標であり、平坦な絵柄ほど分散値が小さく、複雑な絵柄ほど分散値が大きくなる傾向がある。分散値を算出するブロックがL×Lであり、その画素値がP1〜PL×Lであるとする。この場合、画素の平均値Pmean、および画素の分散値varは以下の式(1)、式(2)により算出することができる。
Figure 2017085496
Figure 2017085496
例えば分散値を算出する処理対象となるブロックをCTUと同じサイズであるとし、そのブロックサイズが64×64だとすると、L=64を式(1)、式(2)に代入することで分散値を算出することができる。算出された分散値は適応オフセット処理部115に出力される。
適応オフセット処理部115では、バンドオフセット処理、エッジオフセット処理、もしくは何も処理をしない、のいずれかを選択し、適応オフセット処理を行うバンド位置、エッジ方向、オフセット値などを決定する。適応オフセット処理の詳細については後述する。
デブロッキングフィルタ後の画像に対して適応オフセット処理を行ったものをローカルデコード画像として参照フレームバッファ116に格納する。また、適応オフセット処理としてどの処理を選択したか、バンド位置、エッジ方向、オフセット値などの適応オフセット処理用のパラメータを符号化ストリームとして生成するため、可変長符号化部109に出力する。このような動作により、符号化ストリーム、ローカルデコード画像が作成される。
次に適応オフセット処理の詳細について説明する。HEVC符号化方式における適応オフセット処理にはバンドオフセット処理とエッジオフセット処理がある。一般的にバンドオフセット処理は、画素値の変化が少ない平坦部(低周波成分の多い画像)に効果があるといわれている。また、エッジオフセット処理は、画素値の変化が大きいエッジ部分など、モスキートノイズが出やすい部分(高周波成分の多い画像)に効果があるといわれている。
これらの処理は、CTUごとに、画像の特徴に応じて適応オフセット処理としてバンドオフセット処理とエッジオフセット処理のどちらか一方のみを適用できる。即ち、CTUの画像が低周波成分画像に関する特徴を有する場合には低周波成分画像のためのバンドオフセット処理を選択し、低周波成分画像に関する特徴を有しない場合は高周波成分画像のためのエッジオフセット処理を選択する。またCTUごとに適応オフセット処理を行わない、という選択をすることもできる。適応オフセット処理は、輝度と色差に対してそれぞれ独立に処理を行うことができる。ここでは輝度も色差も1画素が8ビットで構成されるものとし、画素値は0〜255の範囲の値をとるものとする。また、適応オフセット処理は輝度の処理が行われた後で色差の処理が行われるものとし、これ以降はすべて輝度に関する動作の説明とする。
バンドオフセット処理について説明する。バンドオフセット処理は画素値の0〜255の範囲を8画素値ごとの複数のバンドに分け、オフセットを加える先頭のバンド位置の指定と、指定された先頭から所定数の(4バンド分の4つの)オフセット値の指定を行い、指定されたバンド位置に該当する画素値の画素に対して、指定されたオフセット値を加える処理を行う。バンド位置の指定方法は、以下の式(3)で表すものとする。
バンド位置=画素値/8 ...(3)
すなわち画素値0〜7であればバンド位置=0、画素値8〜15であればバンド位置=1となる。以下、画素値16〜255について、バンド位置が8ずつずれていく。オフセット値を指定できるバンド位置は、指定されたバンド位置から4バンド分である。指定されたバンド位置をBPとすると、BP、BP+1、BP+2、BP+3の4つのバンド位置のオフセットをそれぞれ指定できる。バンド位置がBPのオフセット値をOFF0,BP+1のオフセット値をOFF1、BP+2のオフセット値をOFF2、BP+3のオフセット値をOFF3とする。適応オフセット処理前の画素の画素値がバンド位置BP、BP+1、BP+2、BP+3のどれかに該当する場合、該当したバンド位置のオフセット値を加える処理を行い、バンドオフセット処理後の画像が生成される。
次に、バンドオフセット処理の例を図2を参照して説明する。ここではBP=3、すなわちバンドオフセットのバンド位置として画素値24〜31を指定している。また、オフセット値としてOFF0=1、OFF1=−1、OFF2=3、OFF3=2と指定している。これは画素値24〜31にはオフセット値1、画素値32〜39にはオフセット値−1、画素値40〜47にはオフセット値3、画素値48〜55にはオフセット値2を指定していることになる。例えば、適応オフセット処理前の画素が33であった場合、オフセット値は−1なので、画素値を33−1=32に変更する。同様にしてCTU内のすべての画素に対して画素値を調べ、指定したバンド位置に該当する画素について、指定されたオフセット値を加える。指定されたバンド位置に該当しない画素は画素値を変更しない。このようにして、バンドオフセット処理が完了する。
次にエッジオフセット処理について説明する。エッジオフセット処理は、処理を行う対象画素(注目画素)と、その隣接画素の3画素の大小関係によって4つのカテゴリに分類され、カテゴリごとにオフセット値を加える処理を行う。隣接画素の方向を指定するエッジ方向の指定と、4つのカテゴリごとのオフセット値の指定を行う。エッジ方向について、図3を用いて説明する。エッジオフセット処理の対象画素をC、そのエッジ方向の隣接画素をNとする。図3の(a)横方向、(b)縦方向、(c)斜め方向1、(d)斜め方向2の4つのエッジ方向のうち1つを指定する。
カテゴリについて、図4を用いて説明する。指定されたエッジ方向に対して、エッジオフセット処理の対象画素Cと、隣接画素2画素Nの計3画素の画素値の大小関係でカテゴリが決定される。隣接画素Nがどちらも対象画素Cよりも大きい場合(a)カテゴリ1、となる。隣接画素Nの1画素が対象画素Cと同じ画素値で、もう一つの隣接画素Nが対象画素Cよりも大きい場合(b)カテゴリ2、となる。隣接画素Nの1画素が対象画素Cと同じ画素値で、もう一つの隣接画素Nが対象画素Cよりも小さい場合(c)カテゴリ3、となる。隣接画素Nがどちらも対象画素Cよりも小さい場合(d)カテゴリ4、となる。このように決められた4つのカテゴリに対して、それぞれオフセット値の指定を行う。
適応オフセット処理前の画素が、指定されたエッジ方向の隣接画素を含めた3画素の大小関係で4つのカテゴリのうちどれかに当てはまる場合、そのカテゴリについて指定されたオフセット値を加算する処理を行い、エッジオフセット処理後の画像を生成する。この4つのカテゴリに当てはまらない場合、対象画素はエッジオフセット処理の適用外となる。このようにしてエッジオフセット処理が完了する。
符号化時の適応オフセット処理について説明する。符号化時には、適応オフセット処理として、バンドオフセット処理を行うか、エッジオフセット処理を行うか、適応オフセット処理を行わないかの符号化判定処理を行う。この判定結果に従い、デブロッキングフィルタ後の画像に対して適応オフセット処理を行い、ローカルデコード画像を作成する。この符号化判定処理はCTUごとに行われる。
次に、本実施形態に対応する適応オフセット処理部115の動作について説明する。適応オフセット処理部115では、分散算出部117の出力する分散値に応じて、バンドオフセット処理とエッジオフセット処理のどちらか一方だけを選択して符号化判定処理を行う。一般的にバンドオフセット処理は画素値の変化が少ない平坦部の画像に効果があるといわれている。その特性を利用し、処理対象のブロックが平坦である場合にはバンドオフセット処理を行うかどうかの符号化判定処理のみを行い、平坦ではない場合にはエッジオフセット処理を行うかどうかの符号化判定処理のみを行う。
適応オフセットの処理対象となるブロックが平坦部かどうかの判定に分散算出部117の出力するブロック単位の分散値を用いる。分散値が低い場合に平坦部という判定を行う。あらかじめ決められた閾値αに対して、分散値をvarとすると、var<αの場合に、そのブロックを平坦部と判定する。分散値を用いてそのブロックが平坦部と判定された場合は、バンドオフセット処理を行うかどうかの符号化判定処理を行う。平坦部と判定されなかった場合は、エッジオフセット処理を行うかどうかの符号化判定処理を行う。
このように本実施形態では、バンドオフセット処理の効果が高そうな平坦部の処理にはバンドオフセット処理のみ符号化判定処理を行い、そうでない場合にはエッジオフセット処理のみ符号化判定処理を行う。これにより、適応オフセット処理に対して適切な判定処理を行いつつ、処理量を削減することができる。
バンドオフセット処理の符号化判定処理について説明する。まず、バンドオフセットを適用するバンド位置とオフセット値を決定する。その後、バンドオフセット処理を行うかどうかの符号化判定処理を行う。なお、ここで説明する方法は一例であって、パラメータの決定方法や、バンドオフセット処理を行うかどうかの判定方法は、ここで説明するものに限定されない。
符号化時のバンドオフセット処理のパラメータ(オフセット値)決定方法、および符号化判定処理の例を、図5を用いて説明する。図5は、適応オフセット処理部115がバンドオフセット処理部として機能する場合の機能構成の一例を示すブロック図である。なお、図5の機能ブロック図は、適応オフセット処理部115における処理の流れを示すフロー図として参照することも可能である。その場合、図5の各機能ブロックは、適応オフセット処理部115において実行される処理ステップをそれぞれ表すものとして解釈される。
図5に示すオフセット値の決定方法では、バンド位置ごとのデブロッキングフィルタ後の画像と符号化対象画像の差分平均値をオフセット値として用いる。バンド位置の決定方法としては、全バンド位置におけるバンドオフセット適用後の画像と符号化対象画像との間で差分絶対値和によるコスト算出を行い、もっともコストが小さいときのバンド位置をバンドオフセットのバンド位置として用いる。適応オフセット処理のパラメータはCTUごとに符号化されるので、CTU単位でパラメータの決定処理、符号化判定処理が行われる。
まず、バンド位置ごとのオフセット値を算出する。バンド位置カウンタ501はバンド位置ごとにカウンタを持っており、デブロッキングフィルタ後の画像に対して画素毎にどこのバンド位置に該当するかを調べ、それぞれのバンド位置に属する画素数をカウントする。バンド位置ごとの画素数はオフセット値算出部504に出力される。差分算出部502はデブロッキングフィルタ後の画像に対して画素毎にどこのバンド位置に該当するか調べ、さらにデブロッキングフィルタ後の画像と符号化対象画像との間で画素ごとに差分をとり、バンド位置と差分値をセットで累積加算部503に出力する。
累積加算部503はバンド位置ごとに該当する差分値の累積加算処理を行い、バンド位置ごとの累積加算値をオフセット値算出部504に出力する。オフセット値算出部504では、バンド位置ごとに累積加算値を画素数で割り、1画素あたりの差分平均値を算出する。これを、当該バンド位置のオフセット値として決定する。バンド位置ごとのオフセット値はオフセット値加算部505に出力される。次に、全バンド位置におけるバンドオフセット適用後のコスト算出を行う。オフセット値加算部505では、デブロッキングフィルタ後の画像に対して指定された先頭バンド位置のバンドオフセット処理を行う。指定された先頭バンド位置から4バンド分に該当する画素値に対して、オフセット値算出部504で決定したオフセット値を用いて加算処理を行う。オフセット加算後の画像はコスト算出部506に出力される。
コスト算出部506では、オフセット加算後の画像と符号化対象画像との間で、すべての画素に対する差分絶対値和を算出し、これを当該先頭バンド位置のコストとする。すべての先頭バンド位置に対して、オフセット値加算部505でのオフセット加算処理とコスト算出部506でのコスト算出を行い、もっともコストが小さい先頭バンド位置を、バンドオフセットのバンド位置として決定する。このようにして、バンドオフセット処理のバンド位置、オフセット値、そのときのコストが決定する。このコストは判定部507に送られる。コスト算出部506では、さらにバンドオフセット処理を行わない場合のコスト算出も行う。デブロッキングフィルタ後の画像と符号化対象画像との間で、すべての画素に対する差分絶対値和を算出し、これをバンドオフセット処理を行わない場合のコストとする。このコストも判定部507に送られる。
判定部507では、バンドオフセット処理を行うかどうかの符号化判定処理が行われる。まず、バンドオフセット処理を行った場合に画質がどの程度良くなるかを示す指標となる、画質改善コストを算出する。これはバンドオフセット処理を行わない場合のコストからバンドオフセット処理を行った場合のコストを引いたものとなる。バンドオフセット処理を行う場合、バンド位置、オフセット値を符号化する必要がある。バンドオフセット処理を行うかどうかの判定は、この符号量の増加に対して、それ以上の画質改善の効果が得られるかどうかによって決めることができる。バンドオフセット処理を行わない場合のコストが元々少ない場合には、画質改善コストが小さくなるので改善効果は低くなる。一方、バンドオフセット処理を行わない場合のコストが高い場合には、画質改善コストが大きくなり高い改善効果が期待できる。符号量の増加はほぼ一定なので、画質改善コストが所定値以上であれば、画質改善効果が大きいと判断することができる。判定部507では、画質改善コストが所定値以上であればバンドオフセット処理を行い、画質改善コストが所定値より小さければ、バンドオフセット処理を行わない、という判定を行う。
判定結果はコスト算出部506に送られる。コスト算出部506では判定結果に従い、符号化パラメータ、およびローカルデコード画像を出力する。
判定結果がバンドオフセット処理を行わないという場合は、符号化パラメータとして適応オフセット処理を行わないというフラグを出力する。また、ローカルデコード画像として、デブロッキングフィルタ後の画像を出力する。判定結果がバンドオフセット処理を行うという場合は、符号化パラメータとしてバンドオフセット処理を行うというフラグ、バンド位置、4バンド分のオフセット値を出力する。またローカルデコード画像としてデブロッキングフィルタ後の画像にバンドオフセット処理を施した画像を出力する。
以上のようにして、バンドオフセット処理のパラメータであるバンド位置、オフセット値を決定することができる。また、バンドオフセット処理を行うかどうかを判定することができる。
次に、エッジオフセット処理の符号化判定処理について説明する。まず、エッジオフセットを適用するエッジ方向とオフセット値を決定する。その後、エッジオフセット処理を行うかどうかの符号化判定処理を行う。これらのパラメータの決定方法や、エッジオフセット処理を行うかどうかの判定方法にはさまざまなものが考えられる。符号化時のエッジオフセット処理のパラメータ決定方法、および符号化判定処理の例を、図6を用いて説明する。図6は、適応オフセット処理部115がエッジオフセット処理部として機能する場合の機能構成の一例を示すブロック図である。なお、図6の機能ブロック図は、適応オフセット処理部115における処理の流れを示すフロー図として参照することも可能である。その場合、図6の各機能ブロックは、適応オフセット処理部115において実行される処理ステップをそれぞれ表すものとして解釈される。
オフセット値の決定方法は、各エッジ方向、カテゴリごとのデブロッキングフィルタ後の画像と符号化対象画像の差分平均値をオフセット値として用いるものである。エッジ方向の決定方法は、全エッジ方向におけるエッジオフセット適用後の画像と符号化対象画像との間で差分絶対値和によるコスト算出を行い、もっともコストが小さいときのエッジ方向をエッジオフセットのエッジ方向として用いるものである。
まず、各エッジ方向、カテゴリごとのオフセット値を算出する。カテゴリカウンタ601は各エッジ方向のカテゴリごとにカウンタを持っている。図3の(a)〜(d)の4つのエッジ方向のそれぞれに、図4の(a)〜(d)の4つのカテゴリに対するカウンタを持っている。デブロッキングフィルタ後の画像に対して画素ごとに、4つのエッジ方向すべてに対してどのカテゴリに該当するかを調べ、それぞれのカテゴリに属する画素数をカウントする。各エッジ方向、カテゴリごとの画素数はオフセット値算出部604に出力される。
差分算出部602はデブロッキングフィルタ後の画像に対して画素ごとに、各エッジ方向のどこのカテゴリに該当するか調べる。さらにデブロッキングフィルタ後の画像と符号化対象画像との間で画素ごとに差分をとり、エッジ方向、カテゴリと差分値をセットで累積加算部603に出力する。累積加算部603は各エッジ方向のカテゴリごとに該当する差分値の累積加算処理を行い、各エッジ方向のカテゴリごとの累積加算値をオフセット値算出部604に出力する。オフセット値算出部604では、各エッジ方向のカテゴリごとに累積加算値を画素数で割り、1画素あたりの差分平均値を算出する。これを、当該エッジ方向、カテゴリのオフセット値として決定する。各エッジ方向のカテゴリごとのオフセット値はオフセット値加算部605に出力される。
次に、全エッジ方向におけるエッジオフセット適用後のコスト算出を行う。オフセット値加算部605では、デブロッキングフィルタ後の画像に対して指定されたエッジ方向のエッジオフセット処理を行う。指定されたエッジ方向の各カテゴリに該当する画素値に対して、オフセット値算出部604で決定したオフセット値を用いて加算処理を行う。オフセット加算後の画像はコスト算出部606に出力される。
コスト算出部606では、オフセット加算後の画像と符号化対象画像との間で、すべての画素に対する差分絶対値和を算出し、これを当該エッジ方向のコストとする。すべてのエッジ方向に対して、オフセット値加算部605でのオフセット加算処理とコスト算出部606でのコスト算出を行い、もっともコストが小さいエッジ方向を、エッジオフセットのエッジ方向として決定する。このようにして、エッジオフセット処理のエッジ方向、オフセット値、そのときのコストが決定する。このコストは判定部607に送られる。
コスト算出部606では、さらにエッジオフセット処理を行わない場合のコスト算出も行う。デブロッキングフィルタ後の画像と符号化対象画像との間で、すべての画素に対する差分絶対値和を算出し、これをエッジオフセット処理を行わない場合のコストとする。このコストも判定部607に送られる。
判定部607では、エッジオフセット処理を行うかどうかの符号化判定処理が行われる。まず、エッジオフセット処理を行った場合に画質がどの程度良くなるかを示す指標となる、画質改善コストを算出する。これはエッジオフセット処理を行わない場合のコストからエッジオフセット処理を行った場合のコストを引いたものとなる。
エッジオフセット処理を行う場合、エッジ方向、オフセット値を符号化する必要がある。エッジオフセット処理を行うかどうかの判定は、この符号量の増加に対して、それ以上の画質改善の効果が得られるかどうかによって決めることができる。エッジオフセット処理を行わない場合のコストが元々少ない場合には、画質改善コストが小さくなるので改善効果は低くなる。一方、エッジオフセット処理を行わない場合のコストが高い場合には、画質改善コストが大きくなり高い改善効果が期待できる。符号量の増加はほぼ一定なので、画質改善コストがある決められた閾値以上であれば、画質改善効果が大きいといえる。判定部607では、画質改善コストがあらかじめ決められたある閾値以上であればエッジオフセット処理を行い、画質改善コストが閾値以下であれば、エッジオフセット処理を行わない、という判定を行う。
判定結果はコスト算出部606に送られる。コスト算出部606では判定結果に従い、符号化パラメータ、およびローカルデコード画像を出力する。判定結果がエッジオフセット処理を行わないという場合は、符号化パラメータとして適応オフセット処理を行わないというフラグを出力する。また、ローカルデコード画像として、デブロッキングフィルタ後の画像を出力する。 判定結果がエッジオフセット処理を行うという場合は、符号化パラメータとしてエッジオフセット処理を行うというフラグ、エッジ方向、各カテゴリのオフセット値を出力する。またローカルデコード画像としてデブロッキングフィルタ後の画像にエッジオフセット処理を施した画像を出力する。
以上のようにして、エッジオフセット処理のパラメータであるエッジ方向、オフセット値を決定することができる。また、エッジオフセット処理を行うかどうかを判定することができる。なお、エッジオフセット処理のパラメータ決定方法、およびエッジオフセット処理を行うかどうかの判定方法はこれに限ったものではなく、どのような方法を用いてもよい。
以上のように、適応オフセット処理の対象となるブロックのデブロッキングフィルタ後の画素の分散値を取得し、その分散値に応じてバンドオフセット処理の符号化判定処理、もしくはエッジオフセット処理の符号化判定処理のどちらか一方のみを行う。バンドオフセット処理に効果がある平坦部においてはバンドオフセット処理の符号化判定処理を行い、そうではない場合にはエッジオフセット処理の符号化判定処理を行うことにより、適応オフセット処理の効果を損なうことなく処理を削減することができる。なお、本実施例ではHEVC符号化方式を例に説明を行ったが、適応オフセット処理を行うものであれば、どのような符号化方式にも適用することができる。
[実施形態2]
次に発明の第2の実施形態について説明する。通常、動画像の符号化においては主観画質を向上させるために、適応量子化制御を行うことが多い。これは画像の特徴を抽出し、視覚的に劣化が目立たない部分と視覚的に劣化が目立つ部分とで適応的に量子化ステップサイズを変える制御を行う。この画像の特徴を表すパラメータの一つとして、符号化対象画像のブロック単位の分散値が一般的に用いられている。そこで、本実施形態では、画像の特徴を表すパラメータとして符号化対象画像の分散値を用いるシステムにおいて、その分散値を適応オフセット処理にも用いる場合を説明する。
本実施形態では適応オフセット処理の対象ブロックの分散値を、デブロッキングフィルタ後の画素から算出するのではなく、これから符号化を行う符号化対象画像の画素から算出することを特徴とする。本実施形態に対応する動画像符号化装置を用いたカメラシステム構成を表すブロック図を図7に示す。ここでは、第1の実施形態との差異についてのみ詳細に説明する。図1では、デブロッキングフィルタ部114の後段に分散算出部117を配置していたが、図7では、符号化フレームバッファの後段に分散算出部701を配置している。これにより、適応量子化制御用の分散値算出部と、適応オフセット処理の符号化判定用の分散値算出部を兼用できるので、回路規模を抑えることができる。
図7において、分散算出部701は、符号化フレームバッファ104からブロック単位で符号化対象画像を取得する。実施形態1における式(1)、式(2)を用いてブロック単位で分散値を算出する。分散値を算出するブロック単位は、例えばCTUサイズである。算出した分散値は量子化制御部702、および適応オフセット処理部115に送られる。量子化制御部702では、分散算出部701が出力する分散値に応じて量子化ステップサイズを変化させる。例えば、分散値が低いときには量子化ステップサイズを小さくし、分散値が高いときには量子化ステップサイズを大きくする、といった動作を行う。適応オフセット処理部115では、分散算出部701が出力する分散値に応じて、実施形態1と同様にバンドオフセット処理とエッジオフセット処理のどちらか一方だけを選択して符号化判定処理を行う。符号化処理によって、ローカルデコード画像は符号化対象画像に対して劣化しているが、平坦部であるという特徴は変わらない。そのため適応オフセット処理の対象画像である、デブロッキングフィルタ後のローカルデコード画像も、やはり平坦部という判定をすることができる。
このように、本実施形態では、適応量子化制御用の分散値算出部と、適応オフセット処理の符号化判定用の分散値算出部を兼用することにより回路規模を抑えることができる。また、実施形態1と同様にバンドオフセット処理の効果が高そうな平坦部の処理にはバンドオフセット処理のみ符号化判定処理を行い、そうではない場合にはエッジオフセット処理のみ符号化判定処理を行うことで、適応オフセット処理に対して適切な判定処理を行いつつ、処理量を削減することができる。
[実施形態3]
次に、発明の第3の実施形態を説明する。上記の実施形態1及び2では、バンドオフセット処理とエッジオフセット処理のいずれを実行するかの判定に用いる画像の特徴パラメータとして画像の分散値を用いる場合を説明した。これに対し本実施形態では、適応オフセット処理の対象となるブロックのデブロッキングフィルタ後の画素のバンド位置毎の画素数を取得し、連続した所定数のバンド(4バンド)で画素数が最大となるバンド位置とその画素数を算出する。そして、画素数に応じてバンドオフセット処理の符号化判定処理、もしくはエッジオフセット処理の符号化判定処理のどちらか一方のみを行う。
本実施形態に対応する動画像符号化装置を用いたカメラシステム構成を表すブロック図を図8に示す。ここでは、実施形態1との差異についてのみ詳細に説明する。図1及び図7では、動画像符号化装置は分散算出部117、701を備えていたが、本実施形態ではデブロッキングフィルタ部114の後段に画素数計数部801とバンド位置判定部802が配置されている。画素数計数部801は、バンドオフセット処理のバンド位置ごとにカウンタを持っており、バンド位置ごとの画素数をカウントしバンド位置判定部802に出力する。バンド位置判定部802は、バンド位置ごとの画素数からバンドオフセット処理のバンド位置を決定する。また、バンドオフセット処理の符号化判定処理を行うのか、エッジオフセット処理の符号化判定処理を行うのかを決定する。
以下、図9及び図10を参照しながら画素数計数部801及びバンド位置判定部802の動作をより具体的に説明する。図9は、バンド位置ごとの画素数の例を示す図であり、図10は画素数計数部801、バンド位置判定部802及び適応オフセット処理部115の動作の一例を示すフローチャートである。
まずS1001において画素数計数部801では、適応オフセット処理の対象となるデブロッキングフィルタ部114の出力する画像に対して、CTU単位でバンドオフセット処理のバンド位置ごとの画素数を計測する。式(3)で表されたバンド位置0から31の計32個のカウンタを持ち、デブロッキングフィルタ部114の出力する画像を1画素ごとに画素値を判定し、該当するバンド位置のカウンタをカウントアップしていく。CTUのすべての画素の計測が終了したら、各バンド位置の画素数をバンド位置判定部118に出力する。
S1002において、バンド位置判定部802は、バンド位置ごとの画素数から連続した4バンド内の画素数をそれぞれ算出する。次にS1003において、バンド位置判定部802は、4バンド内の画素数が最大となるバンド位置を決定する。バンド位置ごとの画素数の例を図9を用いて説明する。バンド位置0〜31の画素数をそれぞれcnt0〜cnt31と表す。各バンド位置を先頭とする連続した4バンド分の画素数をそれぞれ算出する。例えば、バンド位置0を先頭とする場合の4バンド分の画素数はcnt0+cnt1+cnt2+cnt3となる。バンド位置が31を超える場合は、バンド位置0に戻る。例えば、バンド位置30を先頭とする場合の4バンド分の画素数はcnt30+cnt31+cnt0+cnt1となる。
バンド位置判定部802は、以上のようにして算出したバンド位置0〜31を先頭とする4バンド分の画素数のうち、もっとも画素数の多いバンド位置を選択する。これをバンドオフセット処理を行うときのバンド位置とする。実施形態1及び2では、全バンド位置のバンドオフセット処理後の画像から、最も画質改善効果の高いものを選択していた。これに対して本実施形態では、各バンド位置の画素数を計測し、その画素数を比較するのみでバンド位置を決めるので処理量を削減することができる。
次に、バンド位置判定部802は、選択したバンド位置を先頭とする4バンド分の画素数からバンドオフセット処理の符号化判定処理を行うか、エッジオフセット処理の符号化判定処理を行うかを選択する。選択したバンド位置を先頭とする4バンド分の画素数は、バンドオフセット処理の適用対象となる画素の画素数である。すなわち、この画素数が多いほどバンドオフセット処理の効果が高いことが見込める。この4バンド分の画素数がある閾値以上である場合に、バンドオフセット処理の符号化判定処理を行う。この閾値をβとし、この値はあらかじめ決めておく。閾値βの決定方法は、例えばCTUの画素数の50%以上というように決めておくことができる。CTUサイズが64×64画素で、その50%を閾値βに設定する場合、以下の式(4)のように算出することができる。
β=(64×64)×(50/100)=2048 ...(4)
バンド位置判定部802は、選択したバンド位置を先頭とする連続した4バンド分の画素値を適応オフセット処理部115に渡す。S1004において適応オフセット処理部115は、当該4バンド分の画素数が、閾値β以上であるか判別する。もし、4バンド分の画素数が閾値β以上である場合、S1005において適応オフセット処理部115はバンドオフセット処理の符号化判定処理を実行する。一方、4バンド分の画素数が閾値βよりも少ない場合、S1006において適応オフセット処理部115はエッジオフセット処理の符号化判定処理を実行する。なお、実行されるバンドオフセット処理及びエッジオフセット処理の詳細は上述と同様であるので説明は省略する。以上のようにして、適応オフセット処理の符号化判定処理が行われる。
次に、本実施形態に対応するバンドオフセット処理の符号化判定処理について説明する。バンドオフセットを適用するバンド位置は、バンド位置判定部118により既に決定している。このバンド位置において、まずバンドオフセット処理に適用するオフセット値を決定する。その後、バンドオフセット処理を行うかどうかの符号化判定処理を行う。
バンドオフセット処理のオフセット値決定方法、および符号化判定処理の例を、図5を用いて説明する。オフセット値の決定方法は、バンド位置判定部118で決定したバンド位置のデブロッキングフィルタ後の画像と符号化画像の差分平均値をオフセット値として用いるものである。まず、バンド位置ごとのオフセット値を算出する。バンド位置カウンタ501は4バンド分のカウンタを持っている。デブロッキングフィルタ後の画像に対して、決定したバンド位置を先頭とする4バンドに該当するかどうかを画素ごとに調べ、該当したバンド位置に属する画素数をカウントする。各バンド位置の画素数はオフセット値算出部504に出力される。
差分算出部502はデブロッキングフィルタ後の画像に対して、決定したバンド位置を先頭とする4バンドに該当するか調べ、該当した画素はデブロッキングフィルタ後の画像と符号化画像との間で画素の差分をとる。バンド位置と画素差分値をセットで累積加算部503に出力する。累積加算部503はバンド位置ごとに該当する画素差分値の累積加算処理を行い、バンド位置ごとの累積加算値をオフセット値算出部504に出力する。オフセット値算出部504では、バンド位置ごとに累積加算値を画素数で割り、1画素あたりの差分平均値を算出する。これを、当該バンド位置のオフセット値として決定する。バンド位置ごとのオフセット値はオフセット値加算部505に出力される。
次に、バンドオフセット適用後のコスト算出を行う。オフセット値加算部505では、デブロッキングフィルタ後の画像に対してバンドオフセット処理を行う。バンド位置判定部118で決定した先頭バンド位置から4バンド分に該当する画素値に対して、オフセット値算出部504で決定したオフセット値を用いて加算処理を行う。オフセット加算後の画像はコスト算出部506に出力される。コスト算出部506では、オフセット加算後の画像と符号化画像との間で、すべての画素に対する差分絶対値和を算出し、これをバンドオフセット適用時のコストとする。このようにして、バンドオフセット処理のオフセット値とそのときのコストが決定する。このコストは判定部507に送られる。
コスト算出部506では、実施形態1と同様、バンドオフセット処理を行わない場合のコスト算出も行う。算出したコストは判定部507に送信する。判定部507では、バンドオフセット処理を行うかどうかの符号化判定処理を行う。まず、実施形態1と同様にして画質改善コストを算出する。判定部507では、画質改善コストがあらかじめ決められたある閾値以上であればバンドオフセット処理を行い、画質改善コストが閾値以下であれば、バンドオフセット処理を行わない、という判定を行う。判定結果はコスト算出部506に送られる。コスト算出部506では判定結果に従い、符号化パラメータ、およびローカルデコード画像を出力する。判定結果がバンドオフセット処理を行わないという場合は、符号化パラメータとして適応オフセット処理を行わないというフラグを出力する。また、ローカルデコード画像として、デブロッキングフィルタ後の画像を出力する。判定結果がバンドオフセット処理を行うという場合は、符号化パラメータとしてバンドオフセット処理を行うというフラグ、バンド位置、4バンド分のオフセット値を出力する。またローカルデコード画像としてデブロッキングフィルタ後の画像にバンドオフセット処理を施した画像を出力する。
以上のようにして、バンドオフセット処理のパラメータである、オフセット値を決定することができる。また、バンドオフセット処理を行うかどうかを判定することができる。
次に、エッジオフセット処理の符号化判定処理であるが、当該処理は実施形態1と同様であり、図3、図4及び図6に従って実行することができるので、ここでの詳細な説明は省略する。
以上のように、適応オフセット処理の対象となるブロックのデブロッキングフィルタ後の画素のバンド位置ごとの画素数を取得し、連続した4バンドで最も画素数の多いバンド位置とその画素数を算出し、その画素数に応じてバンドオフセット処理の符号化判定処理、もしくはエッジオフセット処理の符号化判定処理のどちらか一方のみを行う。
本実施形態では、ある4バンド部分に画素が集中しており、バンドオフセット処理の効果が高そうな場合にはバンドオフセット処理のみ符号化判定処理を行い、そうでない場合にはエッジオフセット処理のみ符号化判定処理を行うことで、適応オフセット処理に対して適切な判定処理を行いつつ、処理量を削減することができる。なお、HEVC符号化方式を例に説明を行ったが、適応オフセット処理を行うものであれば、どのような符号化方式にも適用することができる。
[実施形態4]
次に、発明の第4の実施形態を説明する。上記の実施形態3では、バンド位置毎の画素数に基づきバンドオフセット処理のバンド位置決定と符号化判定に関する処理を行った。これに対し、本実施形態では、バンドオフセット処理のバンド位置決定にのみバンド位置毎の画素数を使用し、符号化判定に関する処理には実施形態1及び2で使用した画像の分散値を使用する。
本実施形態に対応する動画像符号化装置を用いたカメラシステム構成を表すブロック図を図11に示す。ここでは、実施形態3との差異についてのみ詳細に説明する。図11に示す構成では、デブロッキングフィルタ部114の後段にさらに分散算出部1101が配置される。分散算出部1101は、デブロッキングフィルタ処理後の画素に対して分散値を算出し、適応オフセット処理部115はその分散値に応じて、バンドオフセット処理とエッジオフセット処理のどちらか一方だけを選択して符号化判定処理を行う。
本実施形態におけるバンド位置の決定方法、及び、バンドオフセット処理とエッジオフセット処理の符号化判定処理の詳細については実施形態3で説明したものと同様である。また、分散値の算出及びバンドオフセット処理とエッジオフセット処理のいずれか一方を選択する選択方法については実施形態1で説明したものと同様である。よって、これらの詳細に関する説明は省略する。なお、分散算出部1101の配置位置については、実施形態2で示したように符号化フレームバッファ104の後段に配置することもできる。その場合には、量子化制御部108が量子化ステップサイズを制御するために分散値を利用することができる。
以上のように、本実施形態では画像の分散値に従いバンドオフセット処理の効果が高そうな平坦部の処理にはバンドオフセット処理のみ符号化判定処理を行い、そうでない場合にはエッジオフセット処理のみ符号化判定処理を行うことで、適応オフセット処理に対して適切な判定処理を行いつつ、処理量を削減することができる。また各バンド位置の画素数を計測し、その画素数を比較することでバンド位置を決定することにより、処理量を削減することができる。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
101:レンズ、102:撮像部、103:現像処理部

Claims (12)

  1. 動画像符号化装置であって、
    符号化対象画像をブロック単位に予測符号化する符号化手段と、
    前記予測符号化された符号化画像を復号して復号画像を生成する復号手段と、
    前記復号画像にデブロッキングフィルタ処理を施すフィルタ手段と、
    前記デブロッキングフィルタ処理が施された復号画像にオフセット処理を施すオフセット処理手段と
    を備え、
    前記符号化手段は、前記オフセット処理手段によりオフセット処理された復号画像に基づき前記予測符号化を行い、
    前記オフセット処理手段は、処理対象のブロックの画像の特徴に応じて、前記ブロックの画像が低周波成分画像に関する特徴を有する場合に低周波成分画像のための第1のオフセット処理を選択して実行し、前記ブロックの画像が低周波成分画像に関する特徴を有しない場合に高周波成分画像のための第2のオフセット処理を選択して実行することを特徴とする動画像符号化装置。
  2. 前記処理対象のブロックの画像の分散値を算出する算出手段を更に備え、
    前記オフセット処理手段は、前記処理対象のブロックの画像の分散値に基づき、前記分散値が第1の閾値より小さい場合に前記第1のオフセット処理を選択し、前記分散値が第1の閾値以上の場合に前記第2のオフセット処理を選択することを特徴とする請求項1に記載の動画像符号化装置。
  3. 前記デブロッキングフィルタ処理が施された前記復号画像の前記処理対象のブロックに含まれる画素につき、画素値が取り得る値の範囲を複数に分割して得られるバンドごとに、画素値が該バンドに含まれる画素数をカウントする計数手段と、
    複数のバンドのうち、連続する所定数のバンドに含まれる画素数が最大となる先頭のバンド位置を決定する決定手段と
    を更に備え、
    前記オフセット処理手段は、該決定された先頭のバンド位置から前記所定数のバンドに含まれる画素数が第2の閾値以上の場合に前記第1のオフセット処理を選択し、前記決定された先頭のバンド位置から前記所定数のバンドに含まれる画素数が前記第2の閾値より小さい場合に前記第2のオフセット処理を選択することを特徴とする請求項1に記載の動画像符号化装置。
  4. 前記デブロッキングフィルタ処理が施された前記復号画像の前記処理対象のブロックに含まれる画素につき、画素値が取り得る値の範囲を複数に分割して得られるバンドごとに、画素値が該バンドに含まれる画素数をカウントする計数手段と、
    複数のバンドのうち、連続する所定数のバンドに含まれる画素数が最大となる先頭のバンド位置を決定する決定手段と
    前記処理対象のブロックの画像の分散値を算出する算出手段を更に備え、
    前記オフセット処理手段は、前記処理対象のブロックの画像の分散値に基づき、分散値が第1の閾値より小さい場合に、前記決定された先頭のバンド位置から所定数のバンドに含まれる画素について前記第1のオフセット処理を選択し、前記分散値が第1の閾値以上の場合に前記第2のオフセット処理を選択して実行することを特徴とする請求項1に記載の動画像符号化装置。
  5. 前記算出手段は、前記符号化対象画像と、前記デブロッキングフィルタ処理が施された前記復号画像とのいずれかにつき、前記処理対象のブロックの画像の分散値を算出することを特徴とする請求項2又は4に記載の動画像符号化装置。
  6. 前記算出手段が、前記符号化対象画像につき前記処理対象のブロックの画像の分散値を算出した場合に、
    前記符号化手段は、予測符号化における量子化ステップサイズを前記分散値に基づき制御することを特徴とする請求項5に記載の動画像符号化装置。
  7. 前記オフセット処理手段は、前記第1のオフセット処理と前記第2のオフセット処理とのいずれかを選択した場合に、該選択されたオフセット処理に基づく画質改善効果に対応するコストを算出し、前記コストが所定値より大きい場合に前記選択されたオフセット処理を実行することを特徴とする請求項1乃至6のいずれか1項に記載の動画像符号化装置。
  8. 前記オフセット処理手段は、前記デブロッキングフィルタ処理が施された前記復号画像につき、前記選択されたオフセット処理を行った場合と行わなかった場合とで、前記符号化対象画像との差分絶対値和を比較し、比較された該差分絶対値和の差を前記コストとすることを特徴とする請求項7に記載の動画像符号化装置。
  9. 前記低周波成分画像は平坦部の画像であって、前記高周波成分画像はエッジ部分の画像であることを特徴とする請求項1乃至8のいずれか1項に記載の動画像符号化装置。
  10. 被写体像を撮像し、符号化対象画像を出力する撮像手段と、
    前記撮像手段から出力された前記符号化対象画像をブロック単位に符号化処理する請求項1乃至9のいずれか1項に記載の前記動画像符号化装置と
    を備えることを特徴とする撮像装置。
  11. 動画像符号化装置の制御方法であって、
    符号化手段が、符号化対象画像をブロック単位に予測符号化する符号化工程と、
    復号手段が、前記予測符号化された符号化画像を復号して復号画像を生成する復号工程と、
    フィルタ手段が、前記復号画像にデブロッキングフィルタ処理を施すフィルタ工程と、
    オフセット処理手段が、前記デブロッキングフィルタ処理が施された復号画像にオフセット処理を施すオフセット処理工程と
    を備え、
    前記符号化工程では、前記オフセット処理手段によりオフセット処理された復号画像に基づき前記予測符号化を行い、
    前記オフセット処理工程では、処理対象のブロックの画像の特徴に応じて、前記ブロックの画像が低周波成分画像に関する特徴を有する場合に低周波成分画像のための第1のオフセット処理を選択して実行し、前記ブロックの画像が低周波成分画像に関する特徴を有しない場合に高周波成分画像のための第2のオフセット処理を選択して実行することを特徴とする動画像符号化装置の制御方法。
  12. コンピュータを請求項1乃至9のいずれか1項に記載の動画像符号化装置の各手段として機能させるためのプログラム。
JP2015214801A 2015-10-30 2015-10-30 動画像符号化装置及びその制御方法、コンピュータプログラム Pending JP2017085496A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015214801A JP2017085496A (ja) 2015-10-30 2015-10-30 動画像符号化装置及びその制御方法、コンピュータプログラム
US15/333,362 US10419775B2 (en) 2015-10-30 2016-10-25 Moving image encoding apparatus, image capturing apparatus, moving image encoding method, and non-transitory computer readable storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015214801A JP2017085496A (ja) 2015-10-30 2015-10-30 動画像符号化装置及びその制御方法、コンピュータプログラム

Publications (1)

Publication Number Publication Date
JP2017085496A true JP2017085496A (ja) 2017-05-18

Family

ID=58635126

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015214801A Pending JP2017085496A (ja) 2015-10-30 2015-10-30 動画像符号化装置及びその制御方法、コンピュータプログラム

Country Status (2)

Country Link
US (1) US10419775B2 (ja)
JP (1) JP2017085496A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE112018002144T5 (de) 2017-04-24 2020-01-09 Denso Corporation Objekterfassungsvorrichtung

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11683530B2 (en) * 2021-03-19 2023-06-20 Tencent America LLC Adaptive non-linear mapping for sample offset

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090016631A1 (en) * 2007-07-10 2009-01-15 Texas Instruments Incorporated Video Coding Rate Control
JP5165083B2 (ja) 2010-06-15 2013-03-21 聯發科技股▲ふん▼有限公司 ビデオコーディングの適応オフセットに用いる装置および方法
JP2014110509A (ja) 2012-11-30 2014-06-12 Canon Inc 画像符号化装置及び画像符号化方法
JP5951144B2 (ja) 2013-12-04 2016-07-13 三菱電機株式会社 画像符号化装置
JP6253406B2 (ja) 2013-12-27 2017-12-27 キヤノン株式会社 画像符号化装置、撮像装置、画像符号化方法、及びプログラム
US9628822B2 (en) 2014-01-30 2017-04-18 Qualcomm Incorporated Low complexity sample adaptive offset encoding
US9495731B2 (en) * 2015-04-15 2016-11-15 Apple Inc. Debanding image data based on spatial activity

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE112018002144T5 (de) 2017-04-24 2020-01-09 Denso Corporation Objekterfassungsvorrichtung

Also Published As

Publication number Publication date
US10419775B2 (en) 2019-09-17
US20170127078A1 (en) 2017-05-04

Similar Documents

Publication Publication Date Title
JP5276170B2 (ja) バンディング・アーチファクトを検出する方法および装置
TWI432034B (zh) 多視點圖像編碼方法、多視點圖像解碼方法、多視點圖像編碼裝置、多視點圖像解碼裝置、多視點圖像編碼程式及多視點圖像解碼程式
JP4194479B2 (ja) 画像処理装置及び方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体
JP5215951B2 (ja) 符号化装置及びその制御方法、コンピュータプログラム
US20130028322A1 (en) Moving image prediction encoder, moving image prediction decoder, moving image prediction encoding method, and moving image prediction decoding method
JP6300565B2 (ja) 動画像符号化装置、プログラム、および、集積回路
JP2008507190A (ja) 動き補償方法
JP2015103970A (ja) 動画像符号化装置、動画像符号化方法、動画像符号化プログラム、及び動画像撮影装置
JP2015050661A (ja) 符号化装置、符号化装置の制御方法、及び、コンピュータプログラム
JP6253406B2 (ja) 画像符号化装置、撮像装置、画像符号化方法、及びプログラム
US10666970B2 (en) Encoding apparatus, encoding method, and storage medium
JP2017085496A (ja) 動画像符号化装置及びその制御方法、コンピュータプログラム
JP5178616B2 (ja) シーンチェンジ検出装置および映像記録装置
JP5943733B2 (ja) 画像符号化装置およびその制御方法ならびにプログラム
JP5913929B2 (ja) 動画像符号化装置及びその制御方法、コンピュータプログラム
JP6564315B2 (ja) 符号化装置、復号装置、及びプログラム
US11202082B2 (en) Image processing apparatus and method
US10516896B2 (en) Encoding device, encoding method, and storage medium
JP6171584B2 (ja) 動画像符号化装置、動画像符号化方法、および動画像符号化プログラム
JP4719108B2 (ja) 映像符号化方法、映像符号化装置、映像符号化プログラムおよびそのプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2015115901A (ja) 符号化装置、符号化装置の制御方法、及び、コンピュータプログラム
JP2020005228A (ja) ループフィルタ制御装置、画像符号化装置、画像復号装置、及びプログラム
JP2014110509A (ja) 画像符号化装置及び画像符号化方法
JP2011004051A (ja) 動画像符号化方法,動画像符号化装置および動画像符号化プログラム
JP2022158242A (ja) 符号化装置及び方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181017

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190612

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190618

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20191209