JP2018082252A - 画像符号化装置及びその制御方法及びプログラム - Google Patents
画像符号化装置及びその制御方法及びプログラム Download PDFInfo
- Publication number
- JP2018082252A JP2018082252A JP2016221834A JP2016221834A JP2018082252A JP 2018082252 A JP2018082252 A JP 2018082252A JP 2016221834 A JP2016221834 A JP 2016221834A JP 2016221834 A JP2016221834 A JP 2016221834A JP 2018082252 A JP2018082252 A JP 2018082252A
- Authority
- JP
- Japan
- Prior art keywords
- encoding
- planes
- plane
- unit
- subframe
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Processing Of Color Television Signals (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
【課題】 ベイヤ配列の画像等の4成分画像に対し、3成分画像の符号化技術を小規模に修正するだけで、符号化を実現する。
【解決手段】動画像データを符号化する画像符号化装置であって、4成分で構成されるフレーム画像データを順に入力する入力部と、3つの色プレーンで構成される画像データを符号化する符号化部と、入力部により入力した4成分で構成されるフレーム画像データを、各成分の種類で分離することで4つのプレーンに分離し、当該4つのプレーンから、それぞれが3つプレーンで構成される第1のサブフレーム、第2のサブフレームを生成し、当該第1のサブフレーム、第2のサブフレームを、符号化部で符号化させる符号化制御部とを有する。ここで、4つのプレーンを第1乃至第4のプレーンとしたとき、第1のサブフレームは第1、第3、第4のプレーンで構成され、第2のサブフレームは第2、第3、第4のプレーンで構成される。
【選択図】 図1
【解決手段】動画像データを符号化する画像符号化装置であって、4成分で構成されるフレーム画像データを順に入力する入力部と、3つの色プレーンで構成される画像データを符号化する符号化部と、入力部により入力した4成分で構成されるフレーム画像データを、各成分の種類で分離することで4つのプレーンに分離し、当該4つのプレーンから、それぞれが3つプレーンで構成される第1のサブフレーム、第2のサブフレームを生成し、当該第1のサブフレーム、第2のサブフレームを、符号化部で符号化させる符号化制御部とを有する。ここで、4つのプレーンを第1乃至第4のプレーンとしたとき、第1のサブフレームは第1、第3、第4のプレーンで構成され、第2のサブフレームは第2、第3、第4のプレーンで構成される。
【選択図】 図1
Description
本発明は、ベイヤ配列画像等の4成分で構成される動画像の符号化技術に関するものである。
近年、8K解像度対応、4:2:2や4:4:4色差フォーマット対応、そして1画素あたりのビット数が8ビットを超える多ビット対応に加えて、センサからのベイヤ配列のままの画像(以下、ベイヤRAW画像)をHEVC(High Efficiency Video Codec)方式やH.264方式等のハイブリッド画像符号化技術を用いて圧縮する検討が行われている。
図2に示すようにベイヤRAW画像は、1画素毎にG1(緑),G2(緑),R(赤)B(青)いずれかの色成分の画素情報を持つデータのため、同じ色成分のみをまとめて分離すると、4プレーン構成になる。
一方で、H.264やHEVCのコーデックでは、入力画像としてYUVの3プレーンを前提としているため、上述の4プレーン構成のベイヤRAW画像をそのままでは符号化できない。そこで、G1とG2のデータを連続する画素としてG1G2G1G2と並べたものを一つのYプレーンとして扱うと、異なる垂直座標の画素を同一ラインに配置することとなり、空間的相関が悪くイントラ予測の符号化効率が悪くなってしまう。
図2に示すようにベイヤRAW画像は、1画素毎にG1(緑),G2(緑),R(赤)B(青)いずれかの色成分の画素情報を持つデータのため、同じ色成分のみをまとめて分離すると、4プレーン構成になる。
一方で、H.264やHEVCのコーデックでは、入力画像としてYUVの3プレーンを前提としているため、上述の4プレーン構成のベイヤRAW画像をそのままでは符号化できない。そこで、G1とG2のデータを連続する画素としてG1G2G1G2と並べたものを一つのYプレーンとして扱うと、異なる垂直座標の画素を同一ラインに配置することとなり、空間的相関が悪くイントラ予測の符号化効率が悪くなってしまう。
このような課題を解決するために、特許文献1では、ベイヤ画像をG1,G2,R,Bの4プレーンに分離し、R,G1,Bの3プレーンを既存の3プレーン入力前提の画像符号化装置で行い、残りのG2プレーンを別途ランレングス符号化装置で行う方法を開示している。
しかしながら、特許文献1に開示された方法は、従来の画像符号化器に加え、別途符号化器を新規追加する必要があり、システム全体の回路規模増加、各符号化器の制御が複雑になってしまう課題が残る。
本発明は上記の問題点に鑑み、ベイヤ配列の画像等の4成分画像に対し、3成分画像の符号化技術を小規模に修正するだけで、符号化を実現する技術を提供するものである。
この課題を解決するため、例えば本発明の画像符号化装置は以下の構成を備える。すなわち、
動画像データを符号化する画像符号化装置であって、
4成分で構成されるフレーム画像データを順に入力する入力手段と、
3つの色プレーンで構成される画像データを符号化する符号化手段と、
前記入力手段により入力した4成分で構成されるフレーム画像データを、各成分の種類で分離することで4つのプレーンに分離し、当該4つのプレーンから、それぞれが3つプレーンで構成される第1のサブフレーム、第2のサブフレームを生成し、当該第1のサブフレーム、第2のサブフレームを、前記符号化手段で符号化させる符号化制御手段とを有し、
前記4つのプレーンを第1乃至第4プレーンとしたとき、前記第1のサブフレームは第1、第3、第4のプレーンで構成され、前記第2のサブフレームは第2、第3、第4のプレーンで構成されることを特徴とする。
動画像データを符号化する画像符号化装置であって、
4成分で構成されるフレーム画像データを順に入力する入力手段と、
3つの色プレーンで構成される画像データを符号化する符号化手段と、
前記入力手段により入力した4成分で構成されるフレーム画像データを、各成分の種類で分離することで4つのプレーンに分離し、当該4つのプレーンから、それぞれが3つプレーンで構成される第1のサブフレーム、第2のサブフレームを生成し、当該第1のサブフレーム、第2のサブフレームを、前記符号化手段で符号化させる符号化制御手段とを有し、
前記4つのプレーンを第1乃至第4プレーンとしたとき、前記第1のサブフレームは第1、第3、第4のプレーンで構成され、前記第2のサブフレームは第2、第3、第4のプレーンで構成されることを特徴とする。
本発明によれば、既存のYUV画像等の3成分で構成される画像を対象とした画像符号化技術を利用しながらも、ベイヤRAW画像から得られる4成分の画像に対しても効率の良い符号化を行うことが可能になる。
以下、添付図面に従って本発明に係る実施形態を詳細に説明する。
[第1の実施形態]
図1は、実施形態における画像符号化装置を搭載する撮像装置(デジタルビデオカメラ)のブロック構成図である。なお、実施形態における技術的特徴は符号化にあるので、図示では、符号化とは直接には関係のない操作部や表示部等については省略している点に注意されたい。
図1は、実施形態における画像符号化装置を搭載する撮像装置(デジタルビデオカメラ)のブロック構成図である。なお、実施形態における技術的特徴は符号化にあるので、図示では、符号化とは直接には関係のない操作部や表示部等については省略している点に注意されたい。
本装置は、装置全体の制御を司る制御部200(CPU、ROM、RAMで構成される)を有する。また本装置は、制御部200による制御対象要素として、撮像部100、フレームメモリ101、画像符号化部102、フレーム同期信号カウンタ115、入力プレーン画像組み合わせ指示部116、参照フレーム指示部117、記録部119を有する。なお、一般に、動画像データとして記録することになる符号化対象のピクチャの種類としては、Iピクチャ(Intra Picture)ピクチャ、Pピクチャ(Predictive Picture)、Bピクチャ(Bidirectionally Predictive Picture)が知られている。実施形態では説明を単純化するためIピクチャとPピクチャの2種類として説明する。また、フレーム同期信号カウンタ115、符号化プレーン指示部116、参照フレーム指示部117及び制御部200が、画像符号化部102の符号化を制御する符号化制御部として機能することになる。
撮像部100は、レンズなどの光学部及びベイヤ配列のカラーフィルタを前面にしたCCD等のセンサを含む。そして、撮像部100は、レンズから取り込んだ光信号をセンサにて電気信号へ変換した後、デジタル形式のベイヤ配列の画像データとして、大容量DRAM等のフレームメモリ101に出力する。この際、撮像部100は、4成分で構成されるベイヤRAW画像データを、R(赤)成分の画素で構成されるプレーン、B(青)成分の画素で構成されるプレーン、G1(緑)成分の画素で構成されるプレーン、G2(緑)成分の画素で構成されるプレーンの4つのプレーンに分離して、フレームメモリ101に格納する。なお、実施形態における撮像部100は、30フレーム/秒のフレームレートでベイヤRAW画像データを撮像するものとするが、このフレームレートは例示であり、特に制限はない。
画像符号化部102は、フレームメモリ101から読み出したデジタルRAW画像データを、後述する符号化プレーン指示部116および参照フレーム指示部117からの通知パラメータに基づいて、フレーム単位でH.264またはHEVC方式で画像符号化圧縮を行い、ビットストリーム出力する。この際、画像符号化部102は、ローカルデコードを行い、得られたフレームをフレームメモリ101に書き出す。フレーム間符号化の際の参照フレームとして利用するためである。
フレーム同期信号カウンタ115は、不図示の基準ビデオクロック信号発生器からのフレーム周期に出力されるVブランキング等のフレーム更新タイミング信号を検出し、当該符号化装置において、符号化処理を開始してからの前述のタイミング信号を計数する。そして、フレーム動機信号カウンタ115は、1枚のベイヤRAW画像データを符号化するたびに、Iピクチャとして符号化するのか、Pピクチャとして符号化するのかを示す信号を画像符号部102に供給する。例えば、1GOPが10枚のベイヤRAW画像データで構成されるとした場合、1枚についてはIピクチャとし、後続する9枚をPピクチャとして決定する。
また、フレーム同期信号カウンタ115は、符号化開始時の初期値“1”からカウントアップを開始し、そのカウントアップを行う周波数は、撮像部100の2倍の1/60秒の周期である。以降、撮像部100が1枚のベイヤRAW画像データを撮像する期間である1/30秒を2つに分割した場合の前半の1/60秒に相当する期間を第1のフレーム期間、後半の1/60秒に相当する期間を第2のフレーム期間と表現する。
符号化プレーン指示部116は、フレーム同期信号カウンタ115の値を取得し、当該カウンタの値が偶奇のいずれかであるかに基づき、画像符号化器102の符号化対象のプレーンの組み合わせを決定する。本実施形態では、カウンタ値が奇数を示す第1のフレーム期間では、G1,B,Rの3プレーンを符号化対象とする。一方、カウンタ値が偶数を示す第2のフレーム期間では、G2,B,Rの3プレーンを符号化対象とする。
参照フレーム指示部117は、符号化プレーン指示部118においてフレーム期間毎に切り替わる符号化プレーンの切り替わりに応じて、G1またはG2プレーンについて、同じG1プレーン同士、G2プレーン同士を画面間符号化時に参照するように画像符号化部102に通知する。
例えば、撮像部100による第i番目のフレームを示すベイヤRAW画像データFiをPピクチャとして符号化する場合を考察する。
ここでベイヤRAW画像データFiから分離された4つのプレーンをG1i,G2i,Ri,Biプレーンと表す。そして、今、画像符号化部102が第1のフレーム期間にて、G1i、Bi、Riをフレーム間符号化するものとする。このとき、画像符号化部102が、G1iプレーンの符号化のために、G1i-1プレーンを参照し、G2i、G2i-1は参照しない。また、画像符号化部102が、G2iプレーンを符号化する際には、G2i-1プレーンを参照し、G1i、G1i-1は参照しない。ここで、G1i-1プレーン、G2i-1プレーンは、いずれもローカルデコードされて、フレームメモリ101に格納されているものである。
フレーム同期信号カウンタ115、符号化プレーン指示部116、そして参照フレーム指示部117は、専用のハードウェア機能として実現しても良いし、CPU等の制御コントローラ上で動作するソフトウェアとして実現しても良く、本発明を限定するものではない。
記録部119は、画像符号化部102で圧縮符号化された出力ビットストリームを、ハードディスク、DVD、フラッシュメモリ(メモリカードを含む)等の不揮発性記録媒体に記録する。
以上が本実施形態における符号化に係る撮像装置の構成の説明である。続いて、画像符号化部102の構成と符号化処理の詳細について説明する。
画像符号化部102は、イントラ予測部103、インター予測部104、イントラ・インター判定部105、予測画像生成部106、整数変換部107、量子化部108、エントロピー符号化部109を有する。更に、画像符号化部102は、符号量制御部110、逆量子化部111、逆整数変換部112、ループフィルタ113、ビットストリーム生成部114、メタデータ生成部118、減算器120、加算器121を有する。
イントラ予測部103は、フレームメモリ101に格納された着目フレームにおける、符号化対象の着目ブロックの画像データを読み出し、その着目ブロックと、同じ着目フレーム内の既符号化領域における複数のブロックとの相関(予測誤差)を計算する。そして、イントラ予測部103は、最も相関の高い1つのブロック(予測誤差の最も小さいブロック)を、イントラ予測ブロックとして、イントラ・インター判定部105に供給する。また、イントラ予測部103は、着目ブロックに対するイントラ予測ブロックの相対位置を示すベクトル情報もイントラ・インター判定部105に供給する。
インター予測部104は、フレームメモリ101に格納された着目フレームにおける、符号化対象の着目ブロックの画像データを読み出す。そして、インター予測部104は、その着目ブロックと、参照フレーム指示部117が指示した、既に符号化が完了した以前のフレーム内の複数のブロックとの相関を計算する。そして、インター予測部104は、最も相関の高い1つのブロックを、インター予測ブロックとして、イントラ・インター判定部105に供給する。また、インター予測部104は、着目ブロックに対するインター予測ブロックの相対位置を示すベクトル情報もイントラ・インター判定部105に供給する。
イントラ・インター判定部105は、着目しているベイヤRAW画像データがIピクチャとして符号化する場合には、イントラ予測部103からのブロックを着目ブロックの予測ブロックとして決定し、ベクトル情報を予測画像生成部106及びエントロピー符号化部109に供給する。
イントラ・インター判定部105は、着目しているベイヤRAW画像データがPピクチャとして符号化する場合には、イントラ予測部103からのイントラ予測ブロックとインター予測部104からのインター予測ブロックのいずれか一方を、着目ブロックの予測ブロックとして決定し、その決定した予測ブロックがいずれであるかを示す予測モード情報とベクトル情報を予測画像生成部106及びエントロピー符号化部109に供給する。具体的には、イントラ・インター判定部105は、イントラ予測ブロックと着目ブロックとの誤差、及び、インター予測ブロックと着目ブロックとの誤差を比較し、誤差の小さい方を予測モードとして決定する。
なお、イントラ予測部103及びインター予測部104は、予測ブロックを決定する際に相関度(予測誤差)を既に求めている。そこで、イントラ・インター判定部105は、その相関度を参照して予測モードを決定しても良い。
予測画像生成部106は、イントラ・インター判定部105からの予測モード及びベクトル情報で特定されるブロックを予測ブロックとして、フレームメモリ101から抽出し、減算器120及び加算器121に供給する。
減算器120は、フレームメモリ101から読み出した着目ブロックから、予測画像生成部106から供給された予測ブロックを減算することで、差分ブロックを生成し、整数変換部107に供給する。加算器121は、後述する逆整数変換部112による処理結果に、予測画像生成部106から供給された予測ブロックを加算して、着目ブロックの復号ブロックを生成し、ループフィルタ113に供給する。
整数変換部107は、ブロック単位で、画素データの空間解像度変換を行って空間周波数係数データに変換する。実施形態では、この整数変換部107はDCT(Discrete Cosine Transform)を行うものとして説明するが、他の変換(例えばウェーブレット変換)でも構わない。
量子化部108は、目標符号量に基づいて量子化係数を算出し、整数変換部107で空間周波数係数データに対して量子化処理を行い、その結果をエントロピー符号化部109及び逆量子化部111に供給する。
エントロピー符号化部109は、量子化部108にて量子化後の係数データ、ベクトル値を、CABAC(コンテキスト適応算術符号化)方式等のビットデータの出現確率の偏りを利用したエントロピー符号化による情報圧縮を行う。
ビットストリーム生成部114は、エントロピー符号化部109から1画面分の符号化データに相当するピクチャデータに加え、復号処理のために必要なパラメータ(SPSやPPS等のヘッダ情報)、そして後述するメタデータ生成部118で生成したメタデータを付加し、所定のデータフォーマットに整形して出力する。
符号量制御部110は、エントロピー符号化部109で出力した符号化データの符号量を取得し、ビットレートやバッファモデルに基づいて1ピクチャ当たりの目標符号量を算出した後、パラメータ(量子化ステップ値)を決定し、量子化部108に設定する。このようにして、フィードバック制御が行われる。
逆量子化部111は、量子化部108にて量子化した係数データを、再度量子化係数を乗じて係数データを計算する。逆整数変換部112は、逆量子化部111から出力された係数データを逆整数変換(実施形態では逆DCT変換)を行い、差分ブロックを生成する。加算器121は、先に説明した予測画像生成部106が生成した予測ブロックを、差分ブロックに加算することで、画像ブロックを生成することになる。
ループフィルタ113は、加算器121から供給された画像ブロックに対し、ブロック境界で発生する符号化歪みを軽減するフィルタ処理(デブロッキング処理)を施し、フレームメモリ101へ格納する。
メタデータ生成部118では、符号化プレーン指示部116および参照フレーム指示部117からのパラメータに基づき、画像符号化部102で符号化したBおよびRプレーンが第2のフレーム期間に相当するデータであるか否かを示す情報をメタデータとして生成し、符号化データにメタデータとして挿入する。
以上、実施形態における画像符号化に係る構成と動作を説明した。次に、実施形態における、制御部200にとる具体的な動作処理フローチャートを、図3を参照して説明する。なお、以下に示す処理フローは、不図示の操作部からユーザによる記録開始が指示されたことをトリガにして開始される動画像記録処理中の、1フレーム期間に対する処理である。
制御部200は、ステップS301にて、上述のフレーム同期信号カウンタ115の計数結果を取得し、S302にて、係数結果が偶数、奇数のいずれかを判定することで、現在のフレーム期間が第1、第2のフレーム期間のいずれであるかを判定する。第1のフレーム期間であると判定された場合、制御部200は、ステップS303にて、G1、B,Rの3プレーンを符号化対象して決定する。一方、現在のフレーム期間が第2のフレーム期間であると判定された場合,制御部200は、ステップS304にて、G2,B,Rの3プレーンを符号化対象画像として決定する。
なお、第2のフレーム期間での符号化対象のB,Rプレーンは、直前の第1のフレーム期間で符号化を終えたB,Rプレーンとそれぞれ同じである点に注意されたい。
ステップS305以降は、ステップS303またはS304で決定した3プレーン分の画像データの符号化に対する処理である。
ステップS305において、制御部200は、全プレーンの符号化を終えたか否かを判定する。全プレーンの符号化が未完である場合(ステップS305の判定結果がFALSEを示す場合)、制御部200は処理をステップS306に進め、符号化対象の着目ベイヤRAW画像データを、Iピクチャとして符号化するのか否かを判定する。
Iピクチャとして符号化すると判定された場合、制御部200は、ステップS307にて、符号化対象のプレーンについて画面内符号化を実行する。
ここでステップS307の処理について補足説明する。符号化対象の着目ベイヤRAW画像データがIピクチャとして符号化され、且つ、現在のフレーム期間が第1のフレーム期間の場合、実施形態では、G1,B,Rプレーンのそれぞれに対してイントラ符号化が実行される。一方、符号化対象の着目ベイヤRAW画像データがIピクチャとして符号化され、且つ、現在のフレーム期間が第2のフレーム期間である場合、実施形態では、G2プレーンはイントラ符号化が行われる。しかし、B,Rプレーンについては直前の第1のフレーム期間のB,Rプレーンを参照プレーンとして符号化を行う。つまり、第2のフレーム期間におけるB,Rプレーンは、Pピクチャの場合と同じ処理を行う。第1のフレーム期間におけるB,Rプレーンと、第2のフレーム期間におけるB,Rプレーンは同じプレーンであり、符号化上の不都合な点はなく、且つ、非常に高い符号化効率が得られるためである。また、第2のフレーム期間で符号化したB,Rプレーンが、直前の第1のフレーム期間で符号化したB、Rプレーンと同一であること示す情報をメタデータとしてビットストリーム中に埋め込む。
ステップS306にて、符号化対象の着目ベイヤRAW画像データがPピクチャとして符号化すると判定された場合には、制御部200は処理をステップS308に進める。
ステップS308にて、制御部200は、着目フレーム期間での符号化対象にG1プレーンが含まれているか否かを判定する。含まれていると判定した場合、制御部200は、インター予測部104に対し、着目フレーム内のG1プレーンを符号化する際の参照プレーンとして、着目フレーム期間より前に符号化が完了しているG1プレーンを参照するように設定する(ステップS309)。そして、ステップS310にて、制御部200は、画像符号化部102を制御し、符号化を開始させる。
ステップS311にて、制御部200は、着目フレーム期間での符号化対象にG2プレーンが含まれているか否かを判定する。含まれていると判定した場合、制御部200は、インター予測部104に対し、着目フレーム内のG2プレーンを符号化する際の参照プレーンとして、着目フレーム期間より前に符号化が完了しているG2プレーンを参照するように設定する(ステップS312)。そして、ステップS310にて、制御部200は、画像符号化部102を制御し、符号化を開始させる。
ステップS313にて、制御部200は、着目フレーム期間が、第2のフレーム期間であるか否かを判定する。第2のフレーム期間であると判定した場合、制御部200はステップS314にて、第2のフレーム期間でのB、Rプレーンの画像データは、直前の第1のフレーム期間で符号化したB、Rプレーンと同一であること示す情報をメタデータとしてビットストリーム中に埋め込む。そして、ステップS310にて、制御部200は、画像符号化部102を制御し、符号化を開始させる。
図5に、メタデータを埋め込んだビットストリーム形式のデータ構造を示す。本実施形態における画像符号化部102では、プレーン毎に独立して量子化、動きベクトル探索を行う符号化を行うため、1フレーム分の符号化データ、すなわち1アクセスユニット内に、プレーン毎のスライスデータが3プレーン分シーケンシャルに格納されたデータ構造となる。
H.264規格準拠のデータ構として本実施例を実現するためには、SPS(Sequence Parsemeter Set)のseparate_colour_plane_flagを1に設定し、各プレーンのスライスデータを、AからCのスライスパーティションデータに分け、colour_plane_idで色プレーンを識別できるようにする。そしてアクセスユニットAU#0には、第1のフレーム期間に符号化した3プレーン分のデータ、アクセスユニットAU#1には、第2のフレーム期間に符号化した3プレーン分のデータ、そしてAU#2には、再び第1のフレーム期間のデータを交互に構成される。
前述したステップS314にて埋め込まれるメタデータは、図4における第2のフレーム期間の符号化データのG成分の前に、H.264規格の付加情報として定義しているSEI(Supplimental Enhanced Information)データとして格納する。H.264規格では各種SEIメッセージがあるが、本実施形態ではユーザ定義の任意のデータ形式、User Data Unregistered SEIで、第2のフレーム期間に符号化したデータが当該ストリーム位置より後続することを、2nd_period_coded_flagとして設定するものとする。
本実施形態では、上述のSEIをビットストリーム中に埋め込むことで定義しているが、符号化データとは別のデータファイルとして別途管理する方法でも良く、当該ビットストリーム復号時に、第2のフレーム期間の符号化データの復号処理よりも前に、同義の情報が取得可能な構成であれば、特に限定するものではない。
以上、本実施形態におけるベイヤRAW画像データの符号化処理フローを説明した。続いて、上記処理フローに基づいたベイヤRAW画像データの符号化処理について、時間方向の動作タイミングを、図4を参照して説明する。なお、図示は、連続するベイヤRAW画像データがそれぞれPピクチャとして符号化される例を示している。
本実施形態では、第1のフレーム期間に、第1のプレーンにはG1成分、第2のプレーンにB成分、そして第3のプレーンにR成分を割り当て、G1、B、Rのプレーン順番で符号化するものとする。また、第2のフレーム期間には、第1のプレーンにG2成分、第2のプレーンにB成分、第3のプレーンにR成分を割り当てて、G2,B、Rのプレーン順番で符号化処理を行うものとする。
図中の符号化中の色成分を示すG1、G2,B、Rの添字は、撮像部100が撮像した1つのベイヤRAW画像データの期間を示している。先に説明したように、実施形態では、この期間は第1のフレーム期間、第2のフレーム期間としている。そして、第2のフレーム期間での符号化対象のBおよびRプレーンは、直前の第1のフレーム期間のB及びRプレーンと同じ画像データである。また第1、第2のプレーン期間でのG1、G2プレーンを符号化する際には、図中の矢印で示したように、画面内符号化した時の参照関係が、1フレーム期間間隙をもって、同じプレーン画像間で行うよう符号化している。
このように、空間的な画素位置が同じプレーン同士で参照関係を持つことで、符号化効率の低下を抑制することがきる。
以上述べたシステム構成と処理ステップを備えることによって、3プレーン画像入力のみに対応した画像符号化装置を用いて、4プレーンのベイヤ画像データの符号化処理を実現することが可能になる。しかも、ベイヤRAW画像データをIピクチャ、Pピクチャのいずれで符号化する場合であっても、第2のプレーン期間における、B,Rプレーンを符号化する際の参照するのは、直前の第1のプレーン期間におけるB,Rプレーンであり、共に1つのベイヤRAW画像データから分離したものであるので、符号化高率は非常に高いものが期待できる。つまり、第2のプレーン期間におけるB,Rプレーンの符号量は極めて少ないものとなり、3プレーンの符号化技術を利用しながらも、ベイヤRAW画像の動画の符号化を効率よく行うことが可能になる。
なお、撮像部100が撮像した1枚のベイヤRAW画像データをフレーム画像データと表現した場合、上記実施形態におけるG1,B,Rプレーンで構成されるセットを第1のサブフレーム、G2,B,Rプレーンで構成されるセットを第2のサブフレームとして表現できる。
[第2の実施形態]
上記実施形態(第1の実施形態)では、ベイヤRAW画像データを構成する4プレーンの符号化を、B,Rプレーンは共通とし、フレーム期間毎に、G1とG2プレーンを切り替えることで、3プレーン画像として符号化する方法を説明した。
上記実施形態(第1の実施形態)では、ベイヤRAW画像データを構成する4プレーンの符号化を、B,Rプレーンは共通とし、フレーム期間毎に、G1とG2プレーンを切り替えることで、3プレーン画像として符号化する方法を説明した。
第2の実施形態では、第1のフレーム期間と第2にフレーム期間で、BとR成分の画像データが同一であることに着目し、第2のフレーム期間のBおよびRプレーン符号化時に、画面間予測(インター符号化)をする符号化モードを強制的に制限するようにし、符号化に係る演算コストの削減及び符号化効率を向上する。
本第2の実施形態を図6、図7を用いて説明する。図6は本第2の実施形態における撮像装置の符号化に関わる部分のブロック構成図を示している。第1の実施形態と同じ構成については同参照符号を付し、その説明は省略する。
本第2の実施形態における、第1の実施形態との相違点は、画像符号化部102内に符号化モード限定部600を設けた点である。この符号化モード限定部600は、符号化プレーン指示部116から第2のプレーン期間であること(符号化対象としてG2,B,Rプレーンを符号化すること)が指示され、尚且つ、符号化しようとしている着目プレーンがRプレーン,Bプレーンのいずれかであるとき、イントラ・インター判定部105に対して強制的にインター予測部104からの予測ブロックを選択させるものである。
以下、本第2の実施形態における特徴となる処理について、図7を参照して説明する。なお、当該動作フローにおいて、ステップS301からS313までは、第1の実施形態と同じであるので、同参照符号を付し、その説明は省略する。
ステップS313にて、制御部200が、現在のフレーム期間が第2のフレーム期間であると判定した場合、ステップS314にて、メタデータを生成し、符号化ストリームに埋め込む。この後、S700にて、制御部200は、B,Rプレーンに対してスキップマクロブロックモードで符号化するように設定し、S310にて符号化を行わせる。
第1と第2のフレーム期間において、BおよびRプレーン画像はまったく同じ映像のため、画面間の差分が無いことが符号化前の時点で自明である。そのため、実際の画面間符号化処理でベクトル探索による膨大な演算を行う必要がなく、外挿パラメータとして強制的にスキップマクロブロックモードで符号化する指定することによって、符号化装置の処理時間短縮、ひいては消費電力低減を実現できる。また、スキップマクロブロックとして符号化すれば、第2のフレーム期間で発生する符号量が少なくなるため、符号量制御としても第1のフレーム期間のデータに多くの符号量を割り当てて、画質を向上させることができる。以上が本第2の実施形態の動作を説明した。
[第3の実施形態]
上記第2の実施形態では、ベイヤ画像データの符号化時に、第2のフレーム期間のBおよびRプレーンの符号化処理を、スキップマクロブロックモードで符号化する方法を説明した。
上記第2の実施形態では、ベイヤ画像データの符号化時に、第2のフレーム期間のBおよびRプレーンの符号化処理を、スキップマクロブロックモードで符号化する方法を説明した。
第3の実施形態では、上述の第1、第2の実施形態で符号化出力を行ったビットストリームを復号する画像復号装置を説明する。
図8は、第3の実施形態における画像復号装置のブロック構成図であり、図9は復号処理手順を示すフローチャート、図10は復号処理時におけるプレーンと参照プレーンの推移を示す図である。
画像復号装置は、装置全体の制御を司る制御部850(CPU、ROM、RAMで構成される)を有する。そして、本装置は、制御部850による制御対象要素として、表示部800、フレームメモリ801、画像復号部802、参照フレーム指示部803、デコードスキップ指示部804、メタデータ取得部805、再生部806を有する。
再生部806は、メモリカードやハードディスク等の記録媒体、場合によってはネットワークから符号化ストリームを取得する。画像復号部802は、再生部806からストリームを受信し、フレーム単位で復号処理を繰り返し行う。
フレーム801には復号後の画像データが格納される。表示部800は、復号後の画像データを読み出してパネルやテレビモニタ等の出力機器へ表示する。
メタデータ取得部805は、画像復号部802内のビットストリーム解析部807から、上述の第1の実施形態で説明した第2のフレーム期間の符号化データであることを示す情報を、ビットストリーム中のメタデータから取得する。デコードスキップ指示部804は、メタデータ取得部803の結果に基づいて、プレーン単位で復号処理を行う画像復号部802において、復号処理のスキップ許可通知を指示する。
参照フレーム指示部803は、デコードスキップ指示部804からの復号処理のスキップ通知に基づいて、スキップした符号化データから復号したフレームを、復号処理における参照先フレームとしないように変更する機能を有する。
続いて、画像復号部802内部の構成と復号処理の詳細について説明する。
画像復号部802は、ビットストリーム解析部807、エントロピー復号部808と、逆量子化部809と、逆整数変換部810と、予測画像生成部811、ループフィルタ813、加算器814を備えている。このうち、逆量子化部809、逆整数変換部810、予測画像生成部811、ループフィルタ813は、図1における逆量子化部111、逆整数変換部112、予測画像生成部106、ループフィルタ113、加算器121に相当する機能を実現するものである。
ビットストリーム解析部807は、再生部806によって再生されたストリームを、アクセスユニット単位で、SPSやPPS、スライスヘッダ等のヘッダ情報を解析し、スライス層以上の復号処理に必要なパラメータを抽出する。また、ビットストリーム解析部807は、SEIの付加情報については別途メタデータ取得部803に通知する。
エントロピー復号部804は、ビットストリーム解析部805から受信したヘッダ階層以下のスライスデータを復号し、量子化後の係数データを出力する。また、エントロピー復号部804は、予測モードや量子化係数などの符号化パラメータも合わせて復号する。
逆量子化部111は、復号した量子化後の係数データを逆量子化し、整数変換係数データとして逆整数変換部112へ供給する。逆整数変換部112は、整数変換係数データを逆整数変換(逆DCT変換)し、予測画像ブロックとの差分ブロックを出力する。
予測画像生成部106は、復号した予測モードやベクトル情報などの符号化パラメータに応じて予測画像ブロックを生成する。予測モードがイントラ予測の場合、予測画像生成部106は、復号しようとするブロックと同じプレーン内の既に復号済みのブロックを、フレームメモリ801から読み出し、加算器814に供給する。一方、予測モードがインター予測の場合は、予測画像生成部106は、フレームメモリ801に格納されている、既に復号したプレーン内の、ベクトルで示されるブロックを、予測ブロックとして読み出し、加算器814に供給する。
加算器814は、逆整数変換部810からの差分ブロックと、予測画像生成部811が生成した予測ブロックとを加算し、ループフィルタ813に供給する。ループフィルタ813は、符号化歪の軽減処理が施し、フレームメモリ101に格納する。
以上が第3の実施例における画像復号装置における各構成要素の主な処理内容である。続いて、本第3の実施形態の復号処理を図9のフローチャートに従って説明する。当該処理フローは、画像復号装置が不図示の操作部から、ユーザによる再生開始の指示を受けた際に繰り返し実行する1フレーム期間分の復号処理である。
制御部850は、ステップS901にて、記再生部806から読み出したビットストリームから、アクセスユニット分の復号処理、すなわち3プレーン分の復号処理を終了したかを判定する。3プレーン分の復号処理を終えたと判定した場合には、本処理を終える。一方、復号処理が未完であると判定した場合、制御部850は、処理をステップS902に進める。このステップS902にて、制御部850は、復号対象のベイヤRAW画像データがIピクチャであるか否かを判定する。Iピクチャである場合、制御部850はステップS903にて、画面内復号処理を実行する。
ここで、ステップS903における処理について補足する。復号対象の着目ベイヤRAW画像データがIピクチャであり、復号対象が第1のフレーム期間のプレーンの場合、実施形態では、G1,B,Rプレーンのそれぞれがイントラ符号化されているので、それらをイントラ復号する。一方、符号化対象の着目ベイヤRAW画像データがIピクチャとして符号化され、且つ、現在のフレーム期間が第2のフレーム期間である場合、実施形態では、G2プレーンについてはイントラ復号を行う。しかし、B,Rプレーンについては直前の第1のフレーム期間のB,Rプレーンを参照プレーンとして復号を行う。なお、第2のフレーム期間におけるB,Rプレーンは、第1のフレーム期間におけるB,Rプレーンと同じであるので、第2のフレーム期間におけるB,Rプレーンの復号処理は省略し、直前に復号したB,Rプレーンを復号結果として出力しても良い。
ステップS902にて、制御部850は、復号対象のベイヤRAW画像データがIピクチャではないと判定した場合(Pピクチャである場合)、処理をステップS904に進める。このステップS904にて、制御部850は、復号対象のプレーンがG1プレーン又はG2プレーンであるか否かを判定する。
H.264規格に準拠した、具体的な判断方法としては、符号化時にプレーン毎にスライスヘッダに付与したcolour_plane_idに基づいて、どの色プレーンなのかを識別する。復号しようとするプレーンがG1またはG2プレーンの場合は(ステップS904のTRUEの場合)、当該プレーンと同じ色プレーンを参照する画面間復号を行い、次のプレーン復号処理を継続する(ステップS905)。
一方、復号対象のプレーンがBまたはRプレーンの場合(ステップS904のFALSEの場合)、制御部850はステップS906に処理を進め、ビットストリーム解析部805においてヘッダやスライスデータから分離したSEIメッセージをメタデータ取得部803で復号し、第1の実施形態で説明したメタデータを取得する。そして、ステップS907にて、制御部850は、取得したメタデータの復号結果に基づいて、プレーンの符号化データが符号化装置において第2のフレーム期間に符号化したデータか否かを、2nd_period_coded_flag情報から判断する。そして当該符号化ピクチャが第2のフレーム期間におけるBまたはRプレーンデータだった場合は(ステップS907のTRUE)、当該符号化ピクチャが参照するフレーム情報をヘッダ情報から取得して図示せぬSRAM等のメモリに一時的に保存する(ステップS909)。続いて、当該プレーンの符号化ピクチャは、前回のフレーム復号時に、すなわち第1のフレーム期間で符号化したピクチャデータと同じ復号画像データであり、既に復号済みであると判断し、復号処理をスキップする(ステップS910)。
ここで、ステップS909およびステップS910の処理は、メタデータ取得部803からの情報に基づいてデコードスキップ指示部802で行う。
また、ステップS907の判定結果がFALSEとなった場合は、復号対象のBまたはRプレーンは、第1のフレーム期間に符号化されたデータであることになる。それ故、制御部850は、ステップS910において復号処理をスキップしたピクチャを参照すると正しく復号できなくなってしまう。そこで、制御部850は、ステップS908にて、元のヘッダ情報から導出した参照フレーム情報を、ステップS909で保存した参照フレーム情報に変更して復号処理を行う。
以上、本第3の実施形態における復号処理を説明した。続いて、上記処理フローに基づいたベイヤRAW画像データの復号処理について、時間方向の動作タイミングを、図10を用いて説明する。
本第3の実施形態では、第1の実施形態の動作タイミングと同様に、第1のフレーム期間における第1のプレーンにはG1成分、第2のプレーンにB成分、そして第3のプレーンにR成分を割り当て、G1、B、Rの順番で復号するものとする。一方、第2のフレーム期間における第1のプレーンにG2成分を復号するが、第2のプレーンおよび第3のプレーンについては、第1のフレーム期間に同じ画像のBおよびRプレーンの画像を既に復号済みのため、復号処理をスキップする。
図10では、点描にて、ビットストリームとして対象プレーンのデータは存在するものの、復号処理をスキップしていることを明示的に表記している。
また、符号化処理時点の参照関係では、第1のフレーム期間のB1プレーンは、第2のフレーム期間のB0プレーン画像を参照しているが、前記復号処理フローの参照先フレーム情報の差し替えによって、図中の矢1000印で示した第1のフレーム期間のB0プレーンを参照するよう変更する。Rプレーンについても同様の操作を行なうものとする。
このように、符号化時に付与したメタデータを復号処理時に利用することによって、簡単な制御で、システム全体の復号処理に伴うメモリアクセスを低減し、ひいては省電力効果を実現することができる。
以上述べたシステム構成と処理ステップを備えることによって、4プレーンのベイヤ画像データの復号処理を実現することが可能となる。
なお、上記実施形態では、撮像装置に適用した例を説明したが、ベイヤRAW画像データを無圧縮として保存した記憶媒体から、符号化を行っても良い。この場合、上記実施形態で説明した、第1フレーム期間、第2フレーム期間の時間的制約はなくなる。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100…撮像部、101…フレームメモリ、102…画像符号化部、103…イントラ予測部、104…インター予測部、105…イントラ・インター判定部、106…予測画像生成部、107…整数変換部、108…量子化部、109…エントロピー符号化部、110…符号量制御部、111…逆量子化部、112…逆整数変換部、113…ループフィルタ、114…ビットストリーム生成部、115…フレーム同期信号カウンタ、116…符号化プレーン指示部、117…参照フレーム指示部、118…メタデータ生成部、119…記録部、120…減算器、121…加算器
Claims (8)
- 動画像データを符号化する画像符号化装置であって、
4成分で構成されるフレーム画像データを順に入力する入力手段と、
3つの色プレーンで構成される画像データを符号化する符号化手段と、
前記入力手段により入力した4成分で構成されるフレーム画像データを、各成分の種類で分離することで4つのプレーンに分離し、当該4つのプレーンから、それぞれが3つプレーンで構成される第1のサブフレーム、第2のサブフレームを生成し、当該第1のサブフレーム、第2のサブフレームを、前記符号化手段で符号化させる符号化制御手段とを有し、
前記4つのプレーンを第1乃至第4のプレーンとしたとき、前記第1のサブフレームは第1、第3、第4のプレーンで構成され、前記第2のサブフレームは第2、第3、第4のプレーンで構成されることを特徴とする画像符号化装置。 - 前記フレーム画像データは、ベイヤ配列の画像データであって、前記第1のサブフレームはG1,B,Rプレーンで構成され、前記第2のサブフレームはG2,B,Rプレーンで構成されることを特徴とする請求項1に記載の画像符号化装置。
- 前記符号化制御手段は、
G1プレーン又はG2プレーンを符号化する場合には、直前に符号化を完了したフレーム画像データにおける同じ成分のプレーンを参照するよう前記符号化手段を制御することで、G1プレーンを符号化する場合にはG2プレーンを参照せず、且つ、G2プレーンを符号化する際にはG1プレーンを参照しないようにし、
R又はBプレーンを符号化する場合には、直前に符号化が完了した同じ成分のプレーンを参照するよう前記符号化手段を制御する
ことを特徴とする請求項2に記載の画像符号化装置。 - 前記符号化制御手段は、前記第2のサブフレームを構成するB,Rプレーンについては、スキップマクロブロックモードを適用した符号化を行わせることを特徴とする請求項2に記載の画像符号化装置。
- 前記符号化制御手段は、前記第2のサブフレームから得られた符号化データに、第2のサブフレームであることを表すメタデータを埋め込むメタデータ生成手段を有することを特徴とする請求項1乃至4のいずれか1項に記載の画像符号化装置。
- 前記メタデータ生成手段は、埋め込むメタデータとして、H.264規格で定義されるSEIメッセージにおける、User Data Unregistered SEIを用いることを特徴とする請求項5に記載の画像符号化装置。
- 3つの色プレーンで構成される画像データを符号化する符号化手段を有し、当該符号化手段を用いて動画像データを符号化する画像符号化装置の制御方法であって、
4成分で構成されるフレーム画像データを順に入力する入力工程と、
前記入力工程により入力した4成分で構成されるフレーム画像データを、各成分の種類で分離することで4つのプレーンに分離し、当該4つのプレーンから、それぞれが3つプレーンで構成される第1のサブフレーム、第2のサブフレームを生成し、当該第1のサブフレーム、第2のサブフレームを、前記符号化手段で符号化させる符号化制御工程とを有し、
前記4つのプレーンを第1乃至第4のプレーンとしたとき、前記第1のサブフレームは第1、第3、第4のプレーンで構成され、前記第2のサブフレームは第2、第3、第4のプレーンで構成されることを特徴とする画像符号化装置の制御方法。 - コンピュータが読み込み実行することで、前記コンピュータに、請求項1乃至6のいずれか1項に記載の画像符号化装置が有する各手段として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016221834A JP2018082252A (ja) | 2016-11-14 | 2016-11-14 | 画像符号化装置及びその制御方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016221834A JP2018082252A (ja) | 2016-11-14 | 2016-11-14 | 画像符号化装置及びその制御方法及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018082252A true JP2018082252A (ja) | 2018-05-24 |
Family
ID=62199091
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016221834A Pending JP2018082252A (ja) | 2016-11-14 | 2016-11-14 | 画像符号化装置及びその制御方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2018082252A (ja) |
-
2016
- 2016-11-14 JP JP2016221834A patent/JP2018082252A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR20110071231A (ko) | 부호화 방법, 복호화 방법 및 장치 | |
WO2012098845A1 (ja) | 画像符号化方法、画像符号化装置、画像復号方法及び画像復号装置 | |
JP2010035133A (ja) | 動画像符号化装置及び動画像符号化方法 | |
US8165217B2 (en) | Image decoding apparatus and method for decoding prediction encoded image data | |
US9654775B2 (en) | Video encoder with weighted prediction and methods for use therewith | |
KR20220074952A (ko) | 영상/비디오 코딩 방법 및 장치 | |
JP2007318615A (ja) | 動画再生装置、動画再生方法およびプログラム | |
US20220150527A1 (en) | Method and device for decoding image by using bdpcm in image coding system | |
JP2007142809A (ja) | 映像記録装置 | |
US8953055B2 (en) | Image pickup apparatus | |
JP2018082252A (ja) | 画像符号化装置及びその制御方法及びプログラム | |
JP2011055023A (ja) | 画像符号化装置及び画像復号化装置 | |
JP4700992B2 (ja) | 画像処理装置 | |
JPH11289515A (ja) | 画像信号処理装置及び方法、画像信号記録装置及び方法並びに記録媒体 | |
JP7431549B2 (ja) | 符号化装置、撮像装置、制御方法、及びプログラム | |
JP2018129753A (ja) | 画像符号化装置、画像復号化装置、その制御方法、および制御プログラム | |
US11973985B2 (en) | Video encoder with motion compensated temporal filtering | |
JP5248583B2 (ja) | 動画像復号装置及び動画像復号方法 | |
JP2009290387A (ja) | エンコーダ、デコーダ、及び記録再生装置 | |
JP2007228096A (ja) | デジタル動画像記録装置及びデジタル動画像記録方法 | |
JP2009081727A (ja) | 画像符号化装置及びその制御方法、プログラム | |
US11197014B2 (en) | Encoding apparatus, decoding apparatus, and image processing system | |
JP2010050860A (ja) | 画像表示装置、録画再生装置、及び画像処理方法 | |
JP2015037223A (ja) | 画像処理装置及びその制御方法 | |
JP5946980B1 (ja) | 画像復号化方法 |