JP7129326B2 - 撮像装置及びその制御方法及びプログラム - Google Patents

撮像装置及びその制御方法及びプログラム Download PDF

Info

Publication number
JP7129326B2
JP7129326B2 JP2018234707A JP2018234707A JP7129326B2 JP 7129326 B2 JP7129326 B2 JP 7129326B2 JP 2018234707 A JP2018234707 A JP 2018234707A JP 2018234707 A JP2018234707 A JP 2018234707A JP 7129326 B2 JP7129326 B2 JP 7129326B2
Authority
JP
Japan
Prior art keywords
image quality
quantization
brightness
channel
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018234707A
Other languages
English (en)
Other versions
JP2020096326A (ja
Inventor
成記 望月
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018234707A priority Critical patent/JP7129326B2/ja
Priority to US16/709,697 priority patent/US11082698B2/en
Publication of JP2020096326A publication Critical patent/JP2020096326A/ja
Application granted granted Critical
Publication of JP7129326B2 publication Critical patent/JP7129326B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/63Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/115Selection of the code volume for a coding unit prior to coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • H04N19/126Details of normalisation or weighting functions, e.g. normalisation matrices or variable uniform quantisers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/15Data rate or code amount at the encoder output by monitoring actual compressed data size at the memory before deciding storage at the transmission buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/154Measured or subjectively estimated visual quality after decoding, e.g. measurement of distortion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera

Description

本発明は、撮像装置及びその制御方法及びプログラムに関するものである。
昨今のディジタル・カメラの撮像素子にはCCD又はCMOSイメージセンサーが多く採用されており、単板式の撮像素子では図2に示すようなベイヤ配列のカラーフィルタを通すことにより緑(G)、青(B)、赤(R)の画素データ(以下、RAWデータと呼ぶ)が得られる。図2の例では、R(赤)、G1(緑)、G2(緑)、B(青)の周期的なパターンで構成されており、人間の視覚的な感度は色成分よりも輝度成分(明度成分)に敏感なことから輝度成分を多く含む緑が赤や青に対して2倍の面積が割り当てられている。このようにベイヤ配列のRAWデータは、1画素に対して1つの色成分の情報しか持たない。通常、カラー画像は、1画素は緑、青、赤の3つの色成分で構成されるので、残り2成分を周り画素値から導出することが行われる。このように、ベイヤ配列(1画素1成分)の画像から、1画素3成分の画像データを生成する処理はデモザイク処理と呼ばれる。
ディジタル・カメラでは、上記デモザイク処理に始まりノイズ除去処理、光学歪み補正、色補正処理等の現像処理を行い最終的な画像データを生成し、静止画の場合はJPEG、動画の場合はH.264等に代表される符号化方式により圧縮された画像データが記録される。一方でユーザ自身の好みに応じて現像処理が実行できるように現像処理前のRAWデータを記録する機能も搭載されている。RAWデータの記録形式には、非圧縮又は可逆圧縮形式を採用する場合が多く、一般に記録されるRAWデータのサイズは、現像後の圧縮画像データに対して大きい。そこで撮像素子の高密度化、高画素化に伴いRAWデータを圧縮し、コンパクトに記録することが重要となってきている。
しかしながらRAWデータは、現像過程でユーザニーズに応じた様々な処理が施されることを考慮する必要があるため、画質を保証するために可逆圧縮が適用される場合や、非可逆圧縮であってもワーストケースを想定した低い圧縮率で運用されることが多い。
そこで圧縮による劣化の影響を評価する方法も重要であり、例えば人間の視覚特性を考慮して画質評価を行う技術(特許文献1)や、ブロック歪みを考慮して画質評価を行う技術(特許文献2)等が提案されている。
特開平11-261740号公報 特開2005-159419号公報
一般に圧縮には量子化処理が用いられ、所定の量子化ステップによる除算を行うため、量子化前の信号レベルが小さいほど元データに対して情報を損失しやすいと考えられる。
しかしながら、RAWデータの場合、現像処理において露出補正、色補正等のようにオフセットやゲインアップのような強調処理が施されることが想定される。このため、RAWデータにおいては明度の低い信号ほど量子化による情報損失の影響を受けやすく、即ち視覚的な画質劣化の影響も受けやすいと考えられるため、明度を考慮した画質評価方法が望まれている。
本発明は、かかる点に鑑み成されたものであり、RAW画像データに対する圧縮による現像後の劣化の影響を考慮して評価することで、ユーザが許容する画質と圧縮率によるRAW画像データの記録を支援する技術を提供しようとするものである。
この課題を解決するため、例えば本発明の撮像装置は以下の構成を備える。すなわち、
撮像手段と、当該撮像手段で得たRAW画像データを複数のチャネルに変換する変換手段と、チャネルごとに周波数変換、量子化、そしてエントロピー符号化を行う符号化手段とを有する撮像装置であって、
前記変換手段で得た複数のチャネルのうち明度成分を主とするチャネルについての前記周波数変換で得られた低周波成分のサブバンドに基づき、1画面を複数の領域に分割した場合の各領域の明度を分類する分類手段と、
明度ごとに、各領域の前記量子化の前後のデータの差の程度を表す指標値を導出する導出手段と、
明度の低い指標値を優先して、画質を評価する評価手段とを有する。
本発明によれば、RAW画像データに対する圧縮による現像後の劣化の影響を考慮して評価することで、ユーザが許容する画質と圧縮率によるRAW画像データの記録を支援することが可能になる。
実施形態である撮像装置の構成を示すブロック図。 ベイヤ配列のRAWデータを示す図。 チャネル変換の例を示す図。 周波数変換(サブバンド分割)の例を示す図。 予測符号化方法(MED予測)を示す図。 符号量制御に関わる量子化制御単位の例を示す図。 フィードフォワード制御に関わる量子化制御単位の例を示す図。 量子化制御単位とRAWデータの関係を示す図。 符号化データの記録形式の例を示す図。 ヘッダ情報のシンタクス要素の例を示す図。 第1の実施形態の画質評価方法を示すフローチャート。 明度分類方法を示すフローチャート。 第2の実施形態の画質評価方法を示すフローチャート。 第3の実施形態の画質評価方法を示すフローチャート。 明度領域毎の量子化制御方法を示すフローチャート。 画質評価モードの動作を示すフローチャート。
以下、添付図面に従って本発明に係る実施形態を詳細に説明する。なお、以下に示す実施形態における構成は一例に過ぎず、本発明は図示された構成に限定されるものではない。
[第1の実施形態]
第1の実施形態における撮像装置100の構成及び処理の流れを、図1(a)に示すブロック図を参照して説明する。
制御部101は、撮像装置100を構成する各処理部を制御するものであり、CPU、CPUが実行するプログラムや各種データを記憶しているROM、ならびに、ワークエリアなどとして使用されるRAMで構成される。
撮像部102は、光学レンズ、絞り、フォーカス制御及びレンズ駆動部を含む光学ズームが可能なレンズ光学系とレンズ光学系からの光情報を電気信号に変換するCCDイメージセンサー又はCMOSセンサーなどの撮像素子を含み、撮像素子により得られた電気信号をディジタル信号へ変換したRAWデータをRAWデータ符号化部103へ出力する。ここでRAWデータは、図2に示すように受光した画素領域である有効撮像領域と遮光された画素領域であるオプティカルブラック領域とで構成さる。尚、RAWデータは、ベイヤ配列のR(赤)、G1(緑),G2(緑)、B(青)の4つの色要素で構成されるものとするが、その配列や色要素はこの構成に限定されず他の方式であっても良い。
RAWデータ符号化部103は、撮像部102から入力されたRAWデータを符号化し、生成した符号化データを画像・記録処理部104へ出力する。RAWデータ符号化部103に関わる詳細な構成や動作については後述する。
画像・記録処理部104は、入力された符号化データに対して所定の記録フォーマット化を行い記録媒体106へ記録すると共に、入力された符号化データを復号してRAWデータを復元し、デモザイク処理、ノイズ除去処理、光学歪み補正処理、色補正処理等の現像処理により生成された画像データを表示部105へ出力する。
表示部105は、入力された画像データを表示するための例えば液晶パネルや有機ELパネルで構成されたディスプレイである。
記録媒体106は、例えば不揮発性メモリで構成される記録メディアである。典型的には、脱着可能なメモリカードである。
操作部108は、各種スイッチやボタン、タッチパネルなどで構成され、ユーザによる指示を撮像装置に伝えるためのものである。制御部101は、操作部108を介したユーザからの指示に従って各種処理や制御を行うことになる。
以上、実施形態における撮像装置100の大まかな構成を説明した。続いて、RAWデータ符号化部103の詳細な構成及び処理の流れについて図1に示すブロック図を参照して説明する。
RAWデータ符号化部103は、主にチャネル変換部103a、周波数変換部103b、量子化パラメータ生成部103c、量子化部103d、エントロピー符号化部103e及び画質評価部103fで構成されている。
チャネル変換部103aは、図3(a)乃至(c)に示すように入力されたベイヤ配列のRAWデータを複数のチャネルに変換する。例えば、ベイヤ配列のRAWデータから、R成分のみのプレーン(Rチャネル)、G1成分のみのプレーン(G1チャネル)、G2成分のみのプレーン(G2チャネル)、およびB成分のみのプレーン(Bチャネル)の4チャネルへの変換である。また、例えばR、G1、G2、Bから、次式(1)に従ったC0乃至C3の4チャネルデータへの変換である。
C0=a+c
C1=B-G2
C2=R-G1
C3=b-a …(1)
式中、a=G2+floor(C1/2)、b=G1+floor(C2/2)、c=floor(C3/2)である。ここで、floor(x)は、実数xに対して最大の整数を返す床関数である。
また、ここで、C0が輝度相当のチャネルを示し、C1乃至C3は色差に対応するチャネルを示している。
尚、ここでは図3(a)に示すように4つのチャネルへ変換する構成例を示しているが、図3(b)や図3(c)に示すようにR、G1とG2を合わせたG、B毎の3つのチャネルへの変換でも良く、チャネル数や変換方法は上記方法に限らない。要するに、複数チャネル化したデータから、元のベイヤ配列の画像に復元できれば良い。
周波数変換部103bは、チャネル単位に所定の分解レベル(以降、levと記す)まで離散ウェーブレット変換(周波数変換処理)を行い、生成されたサブバンドデータ(変換係数)を量子化パラメータ生成部103c、量子化部103d及び画質評価部103fへ出力する。
図4(a)は、lev=1のサブバンド分割処理に関わる離散ウェーブレット変換を実現するためのフィルタバンク構成を示している。離散ウェーブレット変換処理を水平、垂直方向に実行すると、図4(b)に示すように1つの低周波数サブバンド{LL}と、3つの高周波数サブバンド{HL、LH、HH}が得られる。図4(a)に示すローパスフィルタ(以降、lpfと呼ぶ)及びハイパスフィルタ(以降、hpfと呼ぶ)の伝達関数は次式(2)、(3)に示す通りである。
lpf(z)=(-z-2+2z-1+6+2z1-z2)/8 …(2)
hpf(z)=(-z-1+2-z1)/2 …(3)
また、図4(a)における「↓2」は2対1のダウンサンプリングを表す。従って、水平方向と垂直方向とで1回ずつのダウンサンプリングが実行されるので、1回のウェーブレット変換で得られる個々のサブバンドのサイズは元のサイズの1/4となる。分解レベル1を超える分解レベルのサブバンドを得るためには、直前の分解レベルで得たサブバンド{LL}に対して再帰的に離散ウェーブレット変換を行えばよい。例えばlev=3の場合は、変換対象の1プレーンは、図4(c)に示すように10個のサブバンドに分割される。尚、ここでは離散ウェーブレット変換は上記式(1)、(2)に示すように5タップのlpfと、3タップのhpfで構成しているが、これとは異なるタップ数及び異なる係数のフィルタ構成であっても良い。
量子化パラメータ生成部103cは、周波数変換部103bにより生成されたサブバンドデータ(変換係数)に対して量子化処理を行うために、予め設定された圧縮率から算出された目標符号量に基づき、所定のサブバンドデータ単位に符号量制御に関わる量子化パラメータ生成処理を行い、まず全チャネル、全サブバンドに共通の第1の量子化パラメータを生成する。
図6は、各チャネルをlev=3でサブバンド分割した場合の符号量制御に関わる符号量の評価及び量子化パラメータを更新する単位を示す。C0からC3までの全チャネル(実施形態では4チャネル)のレベル3のサブバンド{3LL,3HL,3LH,3HH}の垂直方向にN(Nは整数)ライン分、レベル2のサブバンド{2HL,2LH,2HH}の垂直方向に2×Nライン分、レベル1のサブバンド{1HL,1LH,1HH}の垂直方向に4×Nライン分のサブバンドデータを纏めて1つの処理単位とする。
当業者であれば、図6の右側に示す各サブバンドの係数は、符号化する画像における同じ領域の係数を表すことになるのは容易に理解できよう。以降、図6の右側に示す係数の集合を「バンド」と記す(なお、サブバンドと混同されないように注意されたい)。
量子化パラメータ生成部203は、バンドに対応する目標符号量と発生符号量とを比較し、次のバンドの発生符号量を目標発生符号量に近づけるようにフィードバック制御を行うことを繰り返し、全チャネル、全サブバンドに共通の量子化パラメータ(QpBr)を生成する。つまり、バンド数がBnである場合、QpBr(0)、QpBr(1)、QpBr(2)、…、QpBr(Bn-1)を求める。尚、RAWデータに対して画面内の符号量制御を行わない場合には、上記に示すような符号量制御単位に関係なく全画面固定となる全チャネル、全サブバンドに共通のQpBrを設定又は生成すれば良い。
さて、実施形態における量子化パラメータ生成部203は、バンド毎の符号化処理が行われるごとに、次のバンドの符号化の符号量の制御を次式に従って実行する。
QpBr(i)=QpBr(0)+r×Σ{S(i-1)-T(i-1)}
QpBr(0) : 最初のバンドの初期量子化パラメータ
QpBr(i):i番目のバンドに対する量子化パラメータ(i>0)
r:制御感度
S(i):第i番目のバンドで生成された符号化データの符号量
T(i):第i番目のバンドの目標符号量
なお、1フレームに含まれるバンドの個数をBn,1フレームの目標符号量をTとしたとき、T(i)=T/Bnとなる。本実施形態では、第i番目の目標符号量T(i)を、T(i)=T/Bnに設定したが、異なる方法で目標符号量を設定してもよい。
上記の式では、先頭のバンドに対して設定した初期量子化パラメータQpBr(0)を基準とし、第i番目のバンドの量子化パラメータQpBr(i)を、その直前までの第i-1番目までのバンドの発生符号量と目標符号量との差分の大きさに応じて調整する。より具体的には、先頭のバンド以降に発生した符号量の合計(総発生符号量)と、対応する目標符号量の合計(総目標符号量)との符号量差分が小さくなるように初期量子化パラメータの値を調整して、処理対象のバンドの量子化パラメータQpBr(i)を決定する。
このようにして、バンドごとに量子化パラメータQpBrを生成した後、量子化パラメータ生成部103cは、バンドを更に細分化(セグメント化)し、第2の処理単位であるセグメントごと量子化パラメータQpBsを生成する。
図7(a)は、各チャネルをlev=3でサブバンド分割した場合の画質制御に関わるサブバンドデータの評価及び量子化パラメータを更新する第2の処理単位(セグメント)を示す。各セグメントでは、全チャネルのレベル3のサブバンド{3LL,3HL,3LH,3HH}の水平、垂直方向それぞれにM×N(M、Nはそれぞれ整数)、レベル2のサブバンド{2HL,2LH,2HH}の水平、垂直方向にそれぞれ(2×M)×(2×N)、レベル1のサブバンド{1HL,1LH,1HH}の水平、垂直方向にそれぞれ(4×M)×(4×N)としている。
ここに示す第2の処理単位としてのセグメントは、第1の処理単位としてのバンドを水平方向に細分化したものである。本実施形態ではセグメント化は、各サブバンドに含まれるセグメント数が一致するように行う。M=1、N=1とすると、セグメントはレベル1相当でバンドを水平方向に4画素係数に分割したものと捉えることができる。量子化パラメータ生成部103cは、バンドごとに算出した量子化パラメータQpBrを、セグメントごとの画質特性に応じて修正することで、セグメントごとの量子化パラメータを生成する。
第p番目のバンドの量子化パラメータをQpBr(p)と表し、第p番目のバンド内の第q番目のセグメントの量子化パラメータをQpBs(p,q)とする。そして、1つのバンドがQ個のセグメントを含むとすると、量子化パラメータ生成部103cは、QpBs(p,0)、QpBs(p,1)、…、QpBs(p,Q-1)を求めることになる。そして、量子化パラメータ生成部103cは、第p番目のバンド内の最初のセグメントの量子化パラメータの値QpBs(p,0)は、第p番目のバンドの量子化パラメータQpBr(p)を用いる。そして、第q番目(q≧1)のセグメントについては、直前のq-1番目のセグメントの3LLのサブバンドデータを低周波成分として評価してオフセット値(正負の値が取り得る)を求め、直前のセグメントで用いた量子化パラメータQpBs(p,q-1)にそのオフセット値を加算することで決定する。
上記のようにして、求めた全バンド、全セグメント量子化パラメータQpBs(0,0)、QpBs(0,1)、…、QpBs(Bn-1、Q-1)が、第1の量子化パラメータとなる。ここで、M=N=1としたとき、1つの量子化パラメータQpBsがカバーする範囲は、図8に示すように各チャネルの8×8画素となり、これはRAW画像データの16×16画素に相当する。
次に、量子化パラメータ生成部103cは、上記で求めた第1の量子化パラメータQpBsから、実際の量子化処理で用いる、各チャネル、各サブバンド固有の量子化パラメータQpSb(第2の量子化パラメータ)を次式(4)に従って決定する。
QpSb[i][j]=QpBs×α[i][j]+β[i][j] …(4)
α:傾き
β:切片
i:チャネルインデックス(0~3)
j:サブバンドインデックス(0~9)
ここで、式(4)における、傾きα及び切片βは、各チャネル、各サブバンド個別に与える変数となっており、各チャネル、各サブバンド個別の重み係数α、βにより各チャネル、各サブバンドに対して柔軟に量子化制御することが可能となっている。また、各サブバンドについては低周波成分寄りのサブバンドほど量子化パラメータの値を小さくするためα、βの値を小さくし、高周波成分寄りのサブバンドほど量子化パラメータの値を大きくするためにα、βの値が大きくなる。
そして、量子化パラメータ生成部103cは、上記の第2の量子化パラメータを、直前のバンドの符号化処理を終えるたびに、量子化部103d、および、画質評価部103fに供給する。
さて、量子化部103dは、周波数変換部103bより入力したサブバンドデータ(変換係数)に対し、量子化パラメータ生成部103cから供給された個別の量子化パラメータ(第2の量子化パラメータ)に基づき量子化処理を行い、量子化後のサブバンドデータ(変換係数)をエントロピー符号化部103e及び画質評価部103fへ出力する。
エントロピー符号化部103eは、量子化部103dから入力された量子化後のサブバンドデータ(変換係数)、及び、第1の量子化パラメータQpBsに対して、サブバンド毎にラスタースキャン順で予測差分型エントロピー符号化を行う。ここでは、図5に示すように符号化対象データ(変換係数)の周辺データからMED(Median Edge Detector)予測により予測値pdを生成し、符号化対象データxの値と予測値pdとの差分データを例えばハフマン符号化、ゴロム符号化等によりエントロピー符号化を行う。尚、予測方式やエントロピー符号化方式は、他の方式であっても良い。また、各サブバンド別にライン単位に発生した発生符号量を量子化パラメータ生成部103cへ供給する。
画質評価部103fは、周波数変換部103bが出力する量子化前のサブバンドデータ、量子化部103dが出力する量子化後のサブバンドデータ及び実際に用いた量子化パラメータQpSbを受信する。そして、画質評価部103fが、符号化劣化の影響を評価するための評価値を生成し、その評価値に基づき画質評価を行う。かかる画質評価の方法については、後述する。
以上、実施形態におけるRAWデータ符号化部103の構成と処理内容を説明した。RAWデータ符号化部103で生成された符号化データは、画像・記録処理部104により図9(a)に示すデータ形式に基づき多重化され記録される。
符号化RAWデータ形式は、図9(a)に示すように階層構造となっており、符号化データ全体に関わる情報を示す「main_header」から始まり、RAWデータを複数の画素ブロック単位にタイル分割して符号化することを想定して「tile_header」と「tile_data」によりタイル単位にデータを格納することが可能となっている。タイル分割を行わない場合は、「tile_header」と「tile_data」は1つのみとなる。
「tile_data」には、まず符号化量子化パラメータに関わる情報を示す「qp_header」と符号化量子化パラメータ自体である「coded_qp_data」が配置される。続く符号化RAWデータである「coded_raw_data」は、チャネル単位に並んで配置されており、各チャネルに関わる情報を示す「channel_header」とそのチャネル毎の符号化データである「channel_data」の順にチャネル分のデータが格納される。チャネル毎の符号化データである「channel_data」は、サブバンド毎の符号化データの集合で構成されており、各サブバンドに関わる情報を示す「sb_header」とサブバンド毎の符号化データである「sb_data」がサブバンドインデックス順に並んでいる。サブバンドインデックスは、図9(b)に示す通りである。
続いて、各ヘッダ情報のシンタクス要素について図10(a)乃至(e)に基づき説明を行う。
「main_header」は、符号化RAWデータ全体のデータ量を示す「coded_data_size」、RAWデータの幅を示す「width」、RAWデータの高さを示す「height」、RAWデータのビット深度を示す「depth」、RAWデータの符号化時のチャネル数を示す「channel」、チャネル変換のタイプを示す「type」、各チャネルのサブバンド分解レベルを示す「lev」で構成される。
「tile_header」は、タイル分割位置を識別するためのタイルのインデックスを示す「tile_index」、タイルに含まれる符号化データ量を示す「tile_data_size」、タイルの幅を示す「tile_width」、タイルの高さを示す「tile_height」で構成される。
「qp_header」は、符号化量子化パラメータのデータ量を示す「qp_data_size」、符号化量子化パラメータの幅、即ちRAWデータに対応する水平方向の量子化パラメータ数を示す「qp_width」、符号化量子化パラメータの高さ、即ちRAWデータに対応する垂直方向の量子化パラメータ数を示す「qp_height」で構成される。
「channel_header」は、チャネルを識別するためのチャネルのインデックスを示す「channel_index」、チャネルの符号化データ量を示す「channel_data_size」で構成される。
「sb_header」は、サブバンドを識別するためのサブバンドインデックスを示す「sb_index」、サブバンドの符号化データ量を示す「sb_data_size」、各サブバンドの量子化パラメータを生成するための式(4)におけるα値を示す「sb_qp_a」、各サブバンドの量子化パラメータを生成するための式(4)におけるβ値を示す「sb_qp_b」で構成される。
続いて、実施形態における画質評価部103fにおける画質評価方法について図11に示すフローチャートに基づき説明を行う。
S1101にて、画質評価部103fは、まず始めに周波数変換部103bから供給されるサブバンドの内、低周波サブバンドに基づき、1フレーム内における複数の領域毎の明度を分類する。説明を単純化するため、画質評価部103fは、図7(b)に示すように、3LLのサブバンドデータを用いることにより、図8に示すようにRAWデータの16×16画素相当の領域ごとに明度を分類するものとする。RAWデータの水平方向の画素数をW,垂直方向の画素数をHと定義したとき、この領域の個数は(W/16)×(H/16)となる。水平方向の第i番目、垂直方向の第j番目の領域をR(i,j)と表す。ここで、0≦i≦(W/16-1)、0≦j≦(H/16-1)である。実施形態では、1つの領域Rは上記セグメントと同じ領域サイズであるが、セグメントの整数倍であると演算上の都合が良い。
なお、チャネル変換部103aが生成する4チャネルのプレーンが、R、G1、G2、Bそれぞれのプレーンの場合、輝度(または明度)情報を多く含むG1(又はG2)チャネルの3LLのサブバンドデータを用いれば良い。また、チャネル変換部103aが、式(1)に基づきチャネル変換を行った場合は、R、G1、G2、Bの平均値から算出された輝度相当の信号であるC0チャネルの3LLのサブバンドデータを用いれば良い。
図12に示すフローチャートは、図11のS1101の分類処理の詳細な例である。以下、同図に従って画質評価部103fの明度分類処理を説明する。
S1201にて、画質評価部103fは、各領域R(,)のサブバンドLL(実施形態ではウェーブレットを3回行うので3LL)の係数値と、暗部判定用の閾値TH1とを比較し、大小判定を行う。実施形態の場合、1つの領域に対応するサブバンド3LLの係数は1個であるが、係数の個数が複数の場合(M,Nのいずれかが2以上の場合)にはその平均値と、閾値TH1とを比較し、大小判定するものとする。
3LLの係数が閾値TH1以下であった場合、画質評価部103fはS1202にて、その領域R(,)は明度領域1(暗部)に属すると判定する。
S1201にて、3LLの係数値が閾値TH1より大きいと判定された場合、画質評価部103fは処理をS1203に進める。このS1203にて、画質評価部103fは、各領域R(,)のサブバンド3LLの係数値と、明部判定用の閾値TH2(TH2>TH1の関係になる)とを比較し、大小判定を行う。3LLの係数が閾値TH2以上であった場合、画質評価部103fはS1204にて、その領域R(,)は明度領域3(明部)に属すると判定する。そして、TH1<3LL<TH2の場合、画質評価部103fはS1205にて、その領域R(,)は明度領域2(中間部)に属すると判定する。
上記のようにして、画質評価部103fは、符号化対象の1枚のRAW画像データ内の、全領域R(,)それぞれを、暗部、中間部、明部のいずれかに分類する。
図11のフローチャートの説明に戻る。画質評価部103fは、S1101の処理を終えると、処理をS1102に進める。
画質評価部103fは、不図示の逆量子化処理部、逆周波数変換処理部、及び、逆チャネル変換部を有している。そして、画質評価部103fは、これらを用いて、明度領域1、2、3それぞれに分類された領域毎の、符号化による劣化度合いを示す評価値を算出する。実施形態では、符号化前のRAWデータと量子化後のサブバンドデータから復元したRAWデータから、PSNR(Peek Signal to Noise Ratio)値を算出する。ここで、RAWデータ内の1つの領域に含まる画素数をN、符号化前のその領域の画素値をyi(i=0,1,…、N-1)、とする。また、逆量子化処理部、逆周波数変換処理部、および、逆チャネル変換部で得られた、復元したRAWデータの画素値をy'iとし、画素の取り得る最大値をymaxとすると次式(5)により算出される。
Figure 0007129326000001
上記のように、PSNR値は、信号の理論ピーク値と誤差の2乗平均値を用いて算出され、その値は常用対数により表現され、その単位はdB(デシベル)となる。この値が大きい程、符号化後のRAWデータが符号化前のRAWデータに近いこと、すなわち、符号化による画質の劣化が小さいことを示している。したがって、このPSNRは、符号化後のRAWデータの画質を表す評価値として利用できる。
画質評価部103fは、明度領域1(暗部)に分類された全領域のPSNRの算出を行い、その平均値を明度領域1の画質評価値PSNR1として算出する。
画素評価部103fは、明度領域2(中間部)に分類された全領域のPSNRの算出を行い、その平均値を明度領域2の画質評価値PSNR2として算出する。
画質評価部103fには、予め画質評価基準となる閾値TH_PSNR1、TH_PSNR2が制御部101により設定されている。この閾値TH_PSNR1、TH_PSNRS2の値は、ユーザが操作部108により選択された画質水準に基づき決定される。例えば、「ビジュアル・ロスレス」、「ファイン」、「ノーマル」といった3つの画質水準をユーザにより選択できるようにし、選択された画質水準に応じて予め統計的に算出された基準値から、閾値TH_PSNR1、TH_PSNRS2が決定され、設定される。
続いて、画質評価部103fは、算出した明度領域1、2の画素評価値PSNR1、PSNR2を。明度の低い領域から順に比較することにより画質評価を行う。
まず画質評価部103fは、S1103にて、明度領域1(暗部)の評価値PSNR1と、閾値TH_PSNR1とを比較し、大小判定を行う。評価値PSNR1が閾値TH_PSNR1より小さい場合、画質評価部103fは処理をS1104に進め、着目しているフレームの符号化による画質を「低」として決定する。
また、評価値PSNR1が閾値TH_PSNR1以上であった場合、画質評価部103fは処理をS1105に進める。このS1105にて、画質評価部103fは、明度領域2(中間部)の評価値PSNR2と、閾値TH_PSNR2とを比較し、大小判定を行う。評価値PSNR2が閾値TH_PSNR2より小さい場合、画質評価部103fは処理をS1106に進め、着目しているフレームの符号化による画質を「中」として決定する。
また、評価値PSNR2が閾値TH_PSNR2以上であった場合、画質評価部103fは処理をS1107に進める。このS1107にて、画質評価部103fは、着目しているフレームの符号化による画質を「高」として決定する。
こうして画質評価部103fにより生成された画質評価結果(高、中、低のいずれか)を示す情報は、制御部101に供給される。制御部101は、この結果を、表示部105に識別可能に表示する。
ユーザにしてみると、撮像装置100により撮影状態にあるとき、表示部105から、現在の撮影シーンが設定した画質水準を満たしているか否かの事前チェックできることになり、最適な圧縮率によるRAWデータ記録を行えるか否かを判定できる。ユーザは、十分に画質水準を満たしていると判定した場合には、操作部108より記録を行うことを指示することで、画像・記録処理部104は記録媒体106への記録を開始する。なお、記録部108への記録中も、画質評価は係属しても構わない。
ここでは、その応用例として静止画連写記録又は動画記録を前提とした所定フレーム分の撮影によるRAWデータに対する符号化処理に基づく画質評価を行いつつ、記録媒体106への記録を行わない画質評価モードを有するものとして図16に示すフローチャートに基づき説明を行う。
まず制御部101は、始めにRAWデータ記録に対する符号化時の圧縮率を設定する(S1601)。圧縮率は、予め設定された複数段階のステップの中からユーザが操作部108を操作して、選択するものとする。
次に所定フレーム数のRAWデータの符号化処理を行い、前述のように画質評価部103fにより画質評価を行う(S1602)。尚、画質評価に伴い符号化するフレーム数は、例えば量子化パラメータ生成部103cによる量子化制御行うフレーム数単位等であれば良い。また、評価は、評価する期間で撮像されたフレーム数による評価の平均値を求めるものとする。例えば、上記評価処理の「低」を1、「中」を2、「高」を3と数値化し、画質評価の期間に含まてるフレーム数の平均値を求める。そして、例えば平均値が1.5未満は「低」、1.5以上2.5未満は「中」、2.5以上は「高」とする。
次に制御部101は、S1603にて、画質評価の結果が「高」であるかどうかを判定する。「高」である場合は、画質水準を満たしているため圧縮率を変更は行わない。制御部101は、S1607にて、現在の画質の評価結果と圧縮率が適正であることを表示部105に表示し、ユーザに通知する。例えば、制御部101は、評価結果と圧縮率を示す文字、数値などを緑色で表示する。
一方、画質「高」でない場合は、制御部101は、S1604にて、画質評価の結果が「中」であるかどうかを判定する。「中」である場合は、画質水準を満たしていない可能性があるため、S1605にて、圧縮率を1ステップ分緩和する。具体的には、1フレーム値の目標符号量を予め設定さられた値だけ増加させることで、量子化ステップが大きい値になりにくいようにする。そして、制御部101は、S1607にて、現在の画質の評価結果と圧縮率を表示部105に表示し、ユーザに通知する。例えば、制御部101は、評価結果と圧縮率を示す文字、数値などを黄色で表示する。
また、S1604にて、画質が「中」ではないと判定された場合(画質が「低」の場合)、画質水準を満たしていない可能性があるため、制御部101は、S1606にて、確実に画質水準を保証可能な圧縮率へ変更する。画質水準を保証可能な圧縮率は、予めさまざまなシーンに対して統計的な画質評価に基づき決定された設定値がプリセットされているものとする。そして、制御部101は、S1607にて、現在の画質の評価結果と圧縮率を表示部105に表示し、ユーザに通知する。例えば、制御部101は、評価結果と圧縮率を示す文字、数値などを赤色で表示する。
以上のように明度が低いほど優先して、量子化前後のサブバンドデータに基づき評価値を生成することにより、現像後の画質水準を考慮した画質評価を行うことが可能となり、ユーザの求める画質水準に対して最適な圧縮率でのRAWデータ記録支援を行うことが可能となる。
[第2の実施形態]
本第2の実施形態である撮像装置は、上記の第1の実施形態で示した撮像装置と同様の構成である。ただし、画質評価部103fの画質評価方法が異なっている。そこで共通となる構成の説明は省略するものとし、差分となる画質評価部103fにおける画質評価方法について図13に示すフローチャートに基づき説明を行う。
S1301にて、画質評価部103fは、領域R(,)についての、周波数変換部103bから供給されるサブバンドのうち、低周波サブバンド3LLに基づき、着目ブロックの明度領域を分類する。この明度領域の分類方法については、第1の実施形態(図12)と同様である。
次に、S1302にて、明度領域毎に、画質評価部103fは、周波数変換部103bで生成された量子化前のサブバンドデータと、量子化部103dにより生成された量子化後のサブバンドデータのそれぞれの有意係数、即ち値が非0の係数をカウントする。そして、画質評価部103fは、量子化前後の有意係数比率情報を生成し、その比率情報に基づき、明度領域毎の画質劣化の程度を示す指標値を求める。以下に具体例を説明する。
画質評価部103fは、明度領域毎に、量子化前のサブバンド毎の係数の数に対する有意係数の個数の比率情報sigc_sb_ratioを算出する。比率情報sigc_sb_ratioは、次式(6)に示す通りである。
Figure 0007129326000002
ここで、sbはサブバンドインデックスを示し、実施形態の場合には0~9のいずれかである。また、wは予め設定されや重み係数である。
また、サブバンドインデックス「0」は、図9(b)から、サブバンド“3LL”を差示す。よって、sigc_sb_ratio(0)は、サブバンド“3LL”に含まれる係数の個数を分母とし、非0の係数の個数を分子とする比率を表す。また、サブバンド毎に掛ける重み係数は、量子化方法に応じた値を設定すれば良く、例えば、サブバンドの重要度に応じて重み係数を決定しても良いし、特定のサブバンドのみを比較する場合は、対象外のサブバンドの有意係数比率情報をマスクするために0係数を使用しても良い。
画質評価部103fは、式(6)に従って、量子化前の明度領域1の比率情報をsigc_ratio_1A、量子化前の明度領域2の比率情報をsigc_ratio_2Aを算出する。
また、画質評価部103fは、式(6)に従って、量子化後の明度領域1の比率情報をsigc_ratio_1B、量子化後の明度領域2の比率情報をsigc_ratio_2Bも算出する。
そして、画質評価部103fは、量子化前の比率情報sigc_ratio_1Aから、量子化後の比率情報sigc_ratio_1Bを減じた値を、明度領域1の最終的な画質評価値D_sigc_ratio_1として算出する。
D_sigc_ratio_1=sigc_ratio_1A-sigc_ratio_1B
これまでの説明から明らかなように、この画質評価値D_sigc_ratio_1が小さい程、量子化後のサブバンドデータが量子化前のサブバンドデータに近いこと、すなわち、劣化が小さいことを示す。
同様に、画質評価部103fは、量子化前の比率情報sigc_ratio_2Aから、量子化後の比率情報sigc_ratio_2Bを減じた値を、明度領域2の画質評価値D_sigc_ratio_2として算出する。
上記のようにして、画質評価値D_sigc_ratio_1、D_sigc_ratio_2の算出を終えると、画質評価部103fは処理をS1303に進める。
このS1303にて、画質評価部103fは、明度領域1の画質評価値D_sigc_ratio_1と明度領域1用の閾値Th_1とを比較する。
D_sigc_ratio_1≧Th_1の場合、画質評価部103fは、処理をS1304に進め、着目しているフレームの符号化による画質を「低」として決定する。
D_sigc_ratio_1<Th_1の場合、画質評価部103fは、処理をS1305に進める。このS1305にて、画質評価部103fは、明度領域2の画質評価値D_sigc_ratio_2と、明度領域2用の閾値Th_2と比較し、大小判定を行う。
D_sigc_ratio_2≧Th_2の場合、画質評価部103fは、処理をS1306に進め、着目しているフレームの符号化による画質を「中」として決定する。
また、D_sigc_ratio_2<Th_2の場合、画質評価部103fは、処理をS1307に進め、着目しているフレームの符号化による画質を「高」として決定する。
こうして画質評価部103fは、画質評価結果を制御部101に通知する。制御部101は、この画質評価結果を表示部105に識別可能に表示する。
以上のように明度領域毎に量子化前後のサブバンドデータの有意係数の比率情報に基づき評価値を生成することにより現像後の画質水準を考慮した画質評価を行うことが可能となり、ユーザの求める画質水準に対して最適な圧縮率でのRAWデータ記録支援を行うことが可能となる。
なお、上記第2の実施形態では、サブバンドに含まれる係数の個数を分母とし、非0の係数の個数を分子とする比率を求めたが、分母に含まれる変換係数の個数は、量子化前後で同じであるので、サブバンド毎の量子化前後の非ゼロの変換係数の差を求めるようにしても良い。
[第3の実施形態]
本第3の実施形態である撮像装置は、第1の実施形態で示した撮像装置と同様の構成である。異なる点は、画質評価部103fの画質評価方法である。そこで共通となる構成の説明は省略するものとし、差分となる画質評価部103fにおける画質評価方法について図14に示すフローチャートに基づき説明する。
画質評価部103fは、S1401にて、周波数変換部103bから供給されるサブバンドの内、低周波サブバンドに基づいて、そのサブバンドが示す領域(実施形態ではRAWデータにおける16×16画素相当)を、明度領域1(暗部)、明度領域2(中間部)、明度領域3(明部)のいずれかに分類する。この明度領域の分類方法については同様であるため詳細な説明は省略する。
次にS1402にて、画質評価部103fは、符号化による劣化度合いを示す評価値として量子化部103dにより量子化処理の使用された明度領域毎の量子化パラメータの平均値(以下、A_QPとする)を算出する。ここで、明度領域1の量子化パラメータの平均値をA_QP1、明度領域2の量子化パラメータの平均値をA_QP2とする。ここで量子化パラメータ生成部103cの生成する量子化パラメータは、画質評価部103fと同様に図12のフローチャートに示す明度領域分類方法を用いて明度領域を分類し、その明度領域毎に量子化の強弱を調整する画質制御に関わる量子化パラメータ生成が行われているものとする。
例えば、図15のフローチャートに示すように量子化パラメータ生成部103cは、lev=3でサブバンド分割した場合、周波数変換部103bから供給されるサブバンドデータの内、3LLのサブバンドデータ値が閾値TH1以下であるかどうかを判定する(S1501)。閾値TH1以下であれば暗部と判定し、QpBrに対して所定値分マイナス補正を行う(S1502)。閾値TH1よりも大きい場合は、閾値TH2≧であるかどうかを判定する(S1503)。閾値TH2以上であれば明部と判定し、QpBrに対して所定値分プラス補正を行う(S1504)。閾値TH2よりも小さい場合は、中間部と判定し、QpBrに対して補正を行わない。尚、量子化パラメータは値が大きい程、粗く量子化されるものとする。
符号量制御により画面内でQpBrが変動し、それに伴い画質制御により生成される明度領域毎の量子化パラメータも変動する。
ここで画質評価部103fは、予め画質評価基準となる量子化パラメータの基準の閾値(以下、S_QPとする)が制御部101により設定されており、その基準値は、ユーザにより選択された画質水準に基づき決定される。ここで、明度領域1用の閾値をS_QP1、明度領域2用の閾値をS_QP2とする。
続いて、画質評価部103fは、上記のように生成されたA_QPと基準値となるS_QPを明度の低い領域から順に比較することにより画質評価を行う。
まずS1403にて、画質評価部103fは、明度領域1の評価値A_QP1と閾値S_QP1とを比較し、大小判定を行う。
A_QP1≧S_QP1の場合、指定された画質水準を下回っているので、画質評価部103fはS1404に処理を進め、画質は「低」と判定する。
また、A_QP1<S_QP1の場合、画質評価部103fは処理をS1405に進める。このS1405にて、画質評価部103fは、明度領域2の評価値A_QP2と閾値S_QP2とを比較し、大小判定を行う。
A_QP2≧S_QP2の場合、指定された画質水準を下回っているので、画質評価部103fはS1406に処理を進め、画質は「中」と判定する。
また、A_QP2<S_QP2の場合、指定された画質水準を満たしているので、画質評価部103fはS1407に処理を進め、画質は「高」と判定する。
こうして画質評価部103fにより生成された画質評価結果を制御部101に通知する。制御部101は、この通知内容を、表示部105へ表示しユーザへ知らせることになる。
以上のように明度領域毎に量子化パラメータ情報に基づき評価値を生成することにより現像後の画質水準を考慮した画質評価を行うことが可能となり、ユーザの求める画質水準に対して最適な圧縮率でのRAWデータ記録支援を行うことが可能となる。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100…撮像装置、101…制御部、102…撮像部、103…RAWデータ符号化部、103a…チャネル変換部、103b…周波数変換部、103c…量子化パラメータ生成部、103d…量子化部、103e…エントロピー符号化部、103f…画質評価部、104…画像・記録部、105…表示部、106…記録媒体、108…操作部

Claims (12)

  1. 撮像手段と、当該撮像手段で得たRAW画像データを複数のチャネルに変換する変換手段と、チャネルごとに周波数変換、量子化、そしてエントロピー符号化を行う符号化手段とを有する撮像装置であって、
    前記変換手段で得た複数のチャネルのうち明度成分を主とするチャネルについての前記周波数変換で得られた低周波成分のサブバンドに基づき、1画面を複数の領域に分割した場合の各領域の明度を分類する分類手段と、
    明度ごとに、各領域の前記量子化の前後のデータの差の程度を表す指標値を導出する導出手段と、
    明度の低い指標値を優先して、画質を評価する評価手段と、
    を有することを特徴とする撮像装置。
  2. 前記分類手段は、予め設定された閾値を用いて、前記領域を、少なくとも暗部、明部、および、その中間を示す中間部の3つの分類することを特徴とする請求項1に記載の撮像装置。
  3. 前記周波数変換は離散ウェーブレット変換であることを特徴とする請求項1又は2に記載の撮像装置。
  4. 前記導出手段は、量子化前のRAW画像データと、復号して得たRAW画像データに基づくPSNR値を前記指標値として、明度ごとに導出することを特徴とする請求項3に記載の撮像装置。
  5. 前記導出手段は、量子化前のサブバンドにおける非ゼロの変換係数の個数と量子化後のサブバンドの非ゼロの変換係数の個数との差を前記指標値として、明度ごとに導出することを特徴とする請求項3に記載の撮像装置。
  6. 前記導出手段は、量子化する際の量子化パラメータに対して、明度ごとに補正した量子化パラメータを前記指標値として、明度ごとに導出することを特徴とする請求項3に記載の撮像装置。
  7. 前記評価手段による評価結果を、表示する表示手段を更に有することを特徴とする請求項1乃至6のいずれか1項に記載の撮像装置。
  8. 前記RAW画像データはベイヤ配列の画像データであって、
    前記変換手段は、前記RAW画像データから、R成分のみで構成されるRチャネル、B成分のみで構成されるBチャネル、G1成分のみで構成されるG1チャネル、G2成分のみで構成されるG2チャネルに変換し、
    前記分類手段は、前記G1チャネル、もしくは、G2チャネルの画像データに基づいて明度の分類を行うことを特徴とする請求項1乃至7のいずれか1項に記載の撮像装置。
  9. 前記RAW画像データはベイヤ配列の画像データであって、
    前記変換手段は、輝度に対応するチャネルと、色差に対応する複数のチャネルに変換し、
    前記分類手段は、前記輝度に対応するチャネルのデータに基づいて明度の分類を行うことを特徴とする請求項1乃至7のいずれか1項に記載の撮像装置。
  10. 前記符号化手段が符号化する1フレームの目標符号量を、ユーザの操作に従って設定する手段を更に有することを特徴とする請求項1乃至9のいずれか1項に記載の撮像装置。
  11. 撮像手段と、当該撮像手段で得たRAW画像データを複数のチャネルに変換する変換手段と、チャネルごとに周波数変換、量子化、そしてエントロピー符号化を行う符号化手段とを有する撮像装置の制御方法であって、
    前記変換手段で得た複数のチャネルのうち明度成分を主とするチャネルについての前記周波数変換で得られた低周波成分のサブバンドに基づき、1画面を複数の領域に分割した場合の各領域の明度を分類する分類工程と、
    明度ごとに、各領域の前記量子化の前後のデータの差の程度を表す指標値を導出する導出工程と、
    明度の低い指標値を優先して、画質を評価する評価工程と、
    を有することを特徴とする撮像装置の制御方法。
  12. 撮像手段と、当該撮像手段で得たRAW画像データを複数のチャネルに変換する変換手段と、チャネルごとに周波数変換、量子化、そしてエントロピー符号化を行う符号化手段とを有するコンピュータが読み込み実行することで、前記コンピュータに、請求項11に記載の方法の各工程を実行させるためのプログラム。
JP2018234707A 2018-12-14 2018-12-14 撮像装置及びその制御方法及びプログラム Active JP7129326B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018234707A JP7129326B2 (ja) 2018-12-14 2018-12-14 撮像装置及びその制御方法及びプログラム
US16/709,697 US11082698B2 (en) 2018-12-14 2019-12-10 Image capturing apparatus having a function for encoding raw image control method therof, and non-transitory computer-readable storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018234707A JP7129326B2 (ja) 2018-12-14 2018-12-14 撮像装置及びその制御方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2020096326A JP2020096326A (ja) 2020-06-18
JP7129326B2 true JP7129326B2 (ja) 2022-09-01

Family

ID=71071275

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018234707A Active JP7129326B2 (ja) 2018-12-14 2018-12-14 撮像装置及びその制御方法及びプログラム

Country Status (2)

Country Link
US (1) US11082698B2 (ja)
JP (1) JP7129326B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018094553A1 (zh) * 2016-11-22 2018-05-31 上海联影医疗科技有限公司 显示方法和装置
JP2021182733A (ja) * 2020-05-19 2021-11-25 キヤノン株式会社 撮像装置およびその制御方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010118912A (ja) 2008-11-13 2010-05-27 Canon Inc 画像符号化装置、制御方法、及びプログラム
JP2015095805A (ja) 2013-11-13 2015-05-18 キヤノン株式会社 画像処理装置、画像処理方法、プログラム
JP2015138995A (ja) 2014-01-20 2015-07-30 日本放送協会 符号化装置、復号装置、及びプログラム
JP2018067758A (ja) 2016-10-17 2018-04-26 キヤノン株式会社 画像符号化装置及びその制御方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11261740A (ja) 1998-03-13 1999-09-24 Ricoh Co Ltd 画像評価方法、装置および記録媒体
JP4194479B2 (ja) 2003-11-20 2008-12-10 キヤノン株式会社 画像処理装置及び方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体
KR101092650B1 (ko) * 2010-01-12 2011-12-13 서강대학교산학협력단 양자화 코드를 이용한 화질 평가 방법 및 장치
JP6077811B2 (ja) * 2012-10-04 2017-02-08 キヤノン株式会社 画像符号化装置、画像符号化方法およびプログラム
JP6663201B2 (ja) * 2015-10-27 2020-03-11 キヤノン株式会社 画像符号化装置及びその制御方法、並びに、コンピュータプログラム及び記憶媒体
JP6857973B2 (ja) * 2016-06-14 2021-04-14 キヤノン株式会社 画像符号化装置及びその制御方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010118912A (ja) 2008-11-13 2010-05-27 Canon Inc 画像符号化装置、制御方法、及びプログラム
JP2015095805A (ja) 2013-11-13 2015-05-18 キヤノン株式会社 画像処理装置、画像処理方法、プログラム
JP2015138995A (ja) 2014-01-20 2015-07-30 日本放送協会 符号化装置、復号装置、及びプログラム
JP2018067758A (ja) 2016-10-17 2018-04-26 キヤノン株式会社 画像符号化装置及びその制御方法

Also Published As

Publication number Publication date
US20200195931A1 (en) 2020-06-18
US11082698B2 (en) 2021-08-03
JP2020096326A (ja) 2020-06-18

Similar Documents

Publication Publication Date Title
JP6663201B2 (ja) 画像符号化装置及びその制御方法、並びに、コンピュータプログラム及び記憶媒体
US10776956B2 (en) Image coding apparatus, image decoding apparatus, image coding method, image decoding method, and non-transitory computer-readable storage medium
JP7129326B2 (ja) 撮像装置及びその制御方法及びプログラム
JP6857973B2 (ja) 画像符号化装置及びその制御方法
JP6857970B2 (ja) 画像符号化装置及びその制御方法
JP7001383B2 (ja) 符号化装置、符号化方法、及び、プログラム
JP7033013B2 (ja) 画像符号化装置、画像復号装置、及び、それらの制御方法、並びに、プログラム
JP6806466B2 (ja) 画像符号化装置及びその制御方法
JP6632752B2 (ja) 画像符号化装置及び方法及びプログラム及び記憶媒体
JP6465570B2 (ja) 撮像装置、撮像装置の制御方法
JP7321237B2 (ja) 画像符号化装置、画像符号化方法、プログラム
JP6465571B2 (ja) 撮像装置、撮像装置の制御方法
US10951891B2 (en) Coding apparatus capable of recording raw image, control method therefor, and storage medium storing control program therefor
JP4375662B2 (ja) 画像処理装置、画像処理方法、プログラム、情報記録媒体及び撮像装置
JP2021182700A (ja) 符号化装置及び方法、プログラム、記憶媒体
JP6916618B2 (ja) 画像符号化装置及びその制御方法及びプログラム
JP6775339B2 (ja) 画像符号化装置及びその制御方法
JP6497981B2 (ja) 画像符号化装置及びその制御方法
JP2019114911A (ja) 画像符号化装置及びその制御方法及びプログラム
JP2020109923A (ja) 画像符号化装置及びその制御方法及びプログラム
JP7387333B2 (ja) 符号化装置及びその制御方法
JP2021069059A (ja) 画像処理装置および画像処理方法
JP2017085556A (ja) 画像処理装置、撮像装置、画像処理方法及びプログラム
JP6812214B2 (ja) 画像符号化装置、画像符号化方法、及びプログラム
JP2021182699A (ja) 符号化装置及び方法、プログラム、記憶媒体

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211109

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220621

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220627

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220704

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220715

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220822

R151 Written notification of patent or utility model registration

Ref document number: 7129326

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151