JP2023052939A - 符号化装置、復号装置、符号化方法、復号方法、符号化プログラム、および復号プログラム - Google Patents
符号化装置、復号装置、符号化方法、復号方法、符号化プログラム、および復号プログラム Download PDFInfo
- Publication number
- JP2023052939A JP2023052939A JP2023016588A JP2023016588A JP2023052939A JP 2023052939 A JP2023052939 A JP 2023052939A JP 2023016588 A JP2023016588 A JP 2023016588A JP 2023016588 A JP2023016588 A JP 2023016588A JP 2023052939 A JP2023052939 A JP 2023052939A
- Authority
- JP
- Japan
- Prior art keywords
- correction
- gradation
- optical black
- signal level
- image data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title description 23
- 238000012937 correction Methods 0.000 claims abstract description 465
- 230000003287 optical effect Effects 0.000 claims abstract description 245
- 238000003384 imaging method Methods 0.000 claims description 25
- 238000012545 processing Methods 0.000 description 52
- 230000006870 function Effects 0.000 description 22
- 238000011161 development Methods 0.000 description 17
- 238000013139 quantization Methods 0.000 description 13
- 238000010586 diagram Methods 0.000 description 12
- 230000010365 information processing Effects 0.000 description 12
- 230000000694 effects Effects 0.000 description 10
- 230000008569 process Effects 0.000 description 10
- 239000013598 vector Substances 0.000 description 9
- 230000007423 decrease Effects 0.000 description 7
- 230000009467 reduction Effects 0.000 description 7
- 238000009825 accumulation Methods 0.000 description 6
- 238000006243 chemical reaction Methods 0.000 description 5
- 230000006835 compression Effects 0.000 description 4
- 238000007906 compression Methods 0.000 description 4
- 230000035945 sensitivity Effects 0.000 description 4
- 230000001629 suppression Effects 0.000 description 4
- 230000009466 transformation Effects 0.000 description 4
- 238000001514 detection method Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 230000000875 corresponding effect Effects 0.000 description 2
- NAWXUBYGYWOOIX-SFHVURJKSA-N (2s)-2-[[4-[2-(2,4-diaminoquinazolin-6-yl)ethyl]benzoyl]amino]-4-methylidenepentanedioic acid Chemical compound C1=CC2=NC(N)=NC(N)=C2C=C1CCC1=CC=C(C(=O)N[C@@H](CC(=C)C(O)=O)C(O)=O)C=C1 NAWXUBYGYWOOIX-SFHVURJKSA-N 0.000 description 1
- 101100202463 Schizophyllum commune SC14 gene Proteins 0.000 description 1
- 230000002238 attenuated effect Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000006837 decompression Effects 0.000 description 1
- 230000002950 deficient Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000004907 flux Effects 0.000 description 1
- 230000008676 import Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/46—Embedding additional information in the video signal during the compression process
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/64—Circuits for processing colour signals
- H04N9/646—Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
- H04N1/56—Processing of colour picture signals
- H04N1/60—Colour correction or control
- H04N1/6027—Correction or control of colour gradation or colour contrast
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/76—Circuitry for compensating brightness variation in the scene by influencing the image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/82—Camera processing pipelines; Components thereof for controlling camera response irrespective of the scene brightness, e.g. gamma correction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/86—Camera processing pipelines; Components thereof for processing colour signals for controlling the colour saturation of colour signals, e.g. automatic chroma control circuits
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/40—Picture signal circuits
- H04N1/407—Control or modification of tonal gradation or of extreme levels, e.g. background level
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Studio Devices (AREA)
- Facsimile Image Signal Circuits (AREA)
- Image Processing (AREA)
Abstract
【課題】階調補正による暗部符号化歪を抑制すること。【解決手段】符号化装置は、光学的黒を有する撮像素子からのRAW画像データを、ガンマ係数と前記光学的黒の値とに基づいて階調補正する補正部と、前記補正部によって階調補正された階調補正RAW画像データを符号化する符号化部と、を有し、前記補正部は、前記RAW画像データの入力信号レベルが前記光学的黒の値よりも低い第1区間について第1の階調補正を実行し、前記RAW画像データの入力信号レベルが前記光学的黒の値から最大値までの少なくとも一部である第2区間について第2の階調補正を実行する。【選択図】図2
Description
本出願は、平成30年(2018年)1月16日に出願された日本出願である特願2018-5212の優先権を主張し、その内容を参照することにより、本出願に取り込む。
本発明は、符号化装置、復号装置、符号化方法、復号方法、符号化プログラム、および復号プログラムに関する。
RAW画像データに階調補正を施す技術が開示されている。しかしながら、撮像素子からの出力の光学的黒がゼロでないとき、暗部符号化歪抑制のため、上述したような√γ等による階調補正を施して符号化すると、光学的黒がゼロの場合に比べて、階調補正による暗部符号化歪抑制の度合が低減する。
本願において開示される発明の一側面となる符号化装置は、光学的黒を有する撮像素子からのRAW画像データを、ガンマ係数と前記光学的黒の値とに基づいて階調補正する補正部と、前記補正部によって階調補正された階調補正RAW画像データを符号化する符号化部と、を有する。
本願において開示される発明の一側面となる復号装置は、ガンマ係数と光学的黒の値とに基づいて階調補正された階調補正RAW画像データが符号化された符号化RAW画像データを取得する取得部と、前記取得部によって取得された符号化RAW画像データを前記階調補正RAW画像データに復号する復号部と、前記復号部によって復号された前記階調補正RAW画像データを、前記ガンマ係数と前記光学的黒の値とに基づいて階調逆補正して、階調補正前のRAW画像データを出力する逆補正部と、を有する。
本願において開示される発明の一側面となる符号化方法は、光学的黒を有する撮像素子からのRAW画像データを、ガンマ係数と前記光学的黒の値とに基づいて階調補正する補正処理と、前記補正処理によって階調補正された階調補正RAW画像データを符号化する符号化処理と、を実行する。
本願において開示される発明の一側面となる復号方法は、ガンマ係数と光学的黒の値とに基づいて階調補正された階調補正RAW画像データが符号化された符号化RAW画像データを取得する取得処理と、前記取得処理によって取得された符号化RAW画像データを前記階調補正RAW画像データに復号する復号処理と、前記復号処理によって復号された前記階調補正RAW画像データを、前記ガンマ係数と前記光学的黒の値とに基づいて階調逆補正して、階調補正前のRAW画像データを出力する逆補正処理と、を実行する。
<情報処理装置のハードウェア構成例>
図1は、情報処理装置のハードウェア構成例を示すブロック図である。情報処理装置100は、符号化装置および復号装置のいずれか一方、または両方を含む装置である。情報処理装置100は、たとえば、デジタルカメラやデジタルビデオカメラなどの撮像装置であってもよく、パーソナルコンピュータやタブレット、スマートフォン、ゲーム機でもよい。
図1は、情報処理装置のハードウェア構成例を示すブロック図である。情報処理装置100は、符号化装置および復号装置のいずれか一方、または両方を含む装置である。情報処理装置100は、たとえば、デジタルカメラやデジタルビデオカメラなどの撮像装置であってもよく、パーソナルコンピュータやタブレット、スマートフォン、ゲーム機でもよい。
情報処理装置100は、プロセッサ101と、記憶デバイス102と、操作デバイス103と、LSI(Large Scale Integration)104と、撮像ユニット105と、通信IF(Interface)106と、を有する。これらは、バス108により接続されている。プロセッサ101は、情報処理装置100を制御する。記憶デバイス102は、プロセッサ101の作業エリアとなる。
記憶デバイス102は、各種プログラムやデータを記憶する非一時的なまたは一時的な記録媒体である。記憶デバイス102としては、たとえば、ROM(Read Only Memory)、RAM(Random Access Memory)、HDD(Hard Disk Drive)、フラッシュメモリがある。操作デバイス103は、データを操作する。操作デバイス103としては、たとえば、ボタン、スイッチ、タッチパネルがある。
LSI104は、色補間、ホワイトバランス調整、輪郭強調、ガンマ補正、階調変換などの画像処理や符号化処理、復号処理、圧縮伸張処理など、特定の処理を実行する集積回路である。
撮像ユニット105は、被写体を撮像してRAW画像データを生成する。撮像ユニット105は、撮像光学系151と、カラーフィルタ152を有する撮像素子153と、信号処理回路154と、を有する。
撮像光学系151は、たとえば、ズームレンズやフォーカスレンズを含む複数のレンズで構成されている。なお、簡単のため、図1では撮像光学系151を1枚のレンズで図示する。
撮像素子153は、撮像光学系151を通過した光束による被写体の結像を撮像(撮影)するデバイスである。撮像素子153は、順次走査方式の固体撮像素子(たとえば、CCD(Charge Coupled Device)イメージセンサ)であってもよく、XYアドレス方式の固体撮像素子(たとえば、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ)であってもよい。
撮像素子153の受光面には、光電変換部を有する画素群160がマトリクス状に配列されている。そして、撮像素子153の各画素には、それぞれが異なる色成分の光を透過させる複数種類のカラーフィルタ152が所定の色配列に従って配置される。そのため、撮像素子153の各画素は、カラーフィルタ152での色分解によって各色成分に対応する電気信号を出力する。
実施例1では、たとえば、赤色(R)、緑色(G)、青色(B)のカラーフィルタ152が2行2列のベイヤ配列にしたがって受光面に周期的に配置されている。一例として、撮像素子153の色配列の奇数行にはG,Bの画素が交互に並ぶとともに、色配列の偶数行にはR,Gの画素が交互に並んでいる。そして、色配列の全体では緑色画素が市松模様をなすように配置されている。これにより、撮像素子153は、撮影時にカラーのRAW画像データを取得することができる。
なお、撮像素子153において2次元アレイ状に配列された画素群160は、有効画素領域161と、光学的黒画素領域162と、により構成される。有効画素領域161は、実際に光を受光し光電変換によって生成された信号電荷を増幅して信号処理回路154に出力する画素領域である。
光学的黒画素領域162は、黒レベルの基準になる光学的黒を出力するための画素領域である。光学的黒画素領域162は、たとえば、有効画素領域161の外周に設けられる。光学的黒画素領域162は、たとえば、撮像素子153で発生した熱ノイズなどを減算補正するために設けられる。
信号処理回路154は、撮像素子153から入力される画像信号に対して、アナログ信号処理(相関二重サンプリング、黒レベル補正など)と、A/D変換処理と、デジタル信号処理(欠陥画素補正など)とを順次実行する。信号処理回路154から出力されるRAW画像データは、LSI104または記憶デバイス102に入力される。通信IF106は、ネットワークを介して外部装置と接続し、データを送受信する。
<符号化装置の機能的構成例>
図2は、実施例1にかかる符号化装置の機能的構成例を示すブロック図である。符号化装置200は、階調補正部201と、符号化部202と、記録部203と、設定部204と、を有する。階調補正部201、符号化部202、記録部203、および設定部204は、具体的には、たとえば、記憶デバイス102に記憶されたプログラムをプロセッサ101に実行させることにより、または、LSI104により実現される機能である。
図2は、実施例1にかかる符号化装置の機能的構成例を示すブロック図である。符号化装置200は、階調補正部201と、符号化部202と、記録部203と、設定部204と、を有する。階調補正部201、符号化部202、記録部203、および設定部204は、具体的には、たとえば、記憶デバイス102に記憶されたプログラムをプロセッサ101に実行させることにより、または、LSI104により実現される機能である。
階調補正部201は、RAW画像データを階調補正する。RAW画像データは、カラーフィルタ152を介して得られた被写体からの光を光電変換する撮像素子153からの光の強度に線形な画素値の画像データである。換言すれば、RAW画像データは、ガンマ補正、デモザイク処理、ホワイトバランス調整、および色変換処理のような画像処理が施されていない画像データである。RAW画像データのデータ量は、上述した画像処理や符号化処理(圧縮処理ともいう)が実行されたデータに比べて大きい。なお、RAW画像データは、静止画でもよく、動画像の1フレームでもよい。
階調補正部201は、光学的黒画素領域162を有する撮像素子153からのRAW画像データを、ガンマ係数の値(ガンマ値)と光学的黒の値とに基づいて階調補正する。たとえば、階調補正部201は、当該RAW画像データについて光学的黒値を基準に√γ等による階調補正を実行する。階調補正部201は、階調補正に際し、ノイズリダクション処理(NR処理)を実行してもよい。なお、階調補正部201による階調補正の詳細は後述する。
符号化部202は、階調補正部201によって階調補正されたRAW画像データ(以下、階調補正RAW画像データ)を符号化し、符号化された階調補正RAW画像データ(以下、符号化階調補正RAW画像データ)を出力する。符号化部202は、階調補正RAW画像データが静止画である場合、フレーム内符号化により、階調補正RAW画像データをIピクチャに符号化する。
また、符号化部202は、階調補正RAW画像データが動画像の1フレームである場合、フレーム内予測符号化により、階調補正RAW画像データをIピクチャに、または、他の階調補正RAW画像データを参照してフレーム間予測符号化により階調補正RAW画像データをPピクチャまたはBピクチャに符号化する。
撮像素子153からの出力である光学的黒の値がゼロでない場合、暗部符号化歪抑制のために単に√γ等による階調補正を施すと、光学的黒値がゼロの場合に比べて、階調補正による暗部符号化歪の抑制度合が小さくなる。符号化部202は、光学的黒値を基準に√γ等による階調補正を実行し、符号化階調補正RAW画像データのヘッダ情報に、復号再生時に用いるγ値に加えて光学的黒値を付与する。これにより、階調補正による暗部符号化歪の抑制度合の低下を解消する。
記録部203は、符号化階調補正RAW画像データを記憶デバイス102に記録する。設定部204は、ガンマ係数の値や算定仮ゲイン、露出値を設定し、階調補正部201に出力する。設定部204の詳細は、実施例3、実施例4で後述する。
<符号化階調補正RAW画像データのデータ構造例>
図3は、符号化階調補正RAW画像データのデータ構造例を示す説明図である。符号化階調補正RAW画像データ300は、ヘッダ情報301と符号化データ列302とを有する。ヘッダ情報301は、符号化部202により付与される情報である。ヘッダ情報301は、画像形式情報311と制御情報312とを含む。符号化データ列302は、階調補正RAW画像データを符号化したデータ列である。
図3は、符号化階調補正RAW画像データのデータ構造例を示す説明図である。符号化階調補正RAW画像データ300は、ヘッダ情報301と符号化データ列302とを有する。ヘッダ情報301は、符号化部202により付与される情報である。ヘッダ情報301は、画像形式情報311と制御情報312とを含む。符号化データ列302は、階調補正RAW画像データを符号化したデータ列である。
ヘッダ情報301の各要素について具体的に説明する。画像形式情報311は、符号化前の階調補正RAW画像データのサイズ、符号化階調補正RAW画像データのサイズ、色配列のパターンを特定する識別情報、符号化前の階調補正RAW画像データの画素数を含む。
制御情報312は、符号化階調補正RAW画像データの種類(Iピクチャ、Pピクチャ、Bピクチャのいずれか)、参照フレームの識別情報のほか、階調補正を施したときのガンマ値321、黒レベルの基準となる光学的黒値322、算定仮ゲイン323、第1ポーチ幅324、第2ポーチ幅325、階調補正識別子326を含む。
算定仮ゲイン323については、実施例3および実施例4で後述する。第1ポーチ幅324および第2ポーチ幅325については、実施例4で後述する。階調補正識別子326は、階調補正を実行するアルゴリズムを特定する識別子である。階調補正識別子326により、復号装置は、符号化階調補正RAW画像データ300が、どのアルゴリズムにより階調補正されたかを特定することができる。
<符号化部202の構成例>
図4は、符号化部202の構成例を示すブロック図である。符号化部202は、第1蓄積部401と、減算部402と、直交変換部403と、量子化部404と、可変長符号化部405と、逆量子化部406と、逆直交変換部407と、加算部408と、第2蓄積部409と、動き検出部410と、動き補償部411と、を有する。
図4は、符号化部202の構成例を示すブロック図である。符号化部202は、第1蓄積部401と、減算部402と、直交変換部403と、量子化部404と、可変長符号化部405と、逆量子化部406と、逆直交変換部407と、加算部408と、第2蓄積部409と、動き検出部410と、動き補償部411と、を有する。
第1蓄積部401は、階調補正部201から出力される階調補正RAW画像データを蓄積する。第1蓄積部401に蓄積された階調補正RAW画像データは、符号化対象の画像データとして入力順に減算部402へ出力される。なお、符号化の完了した階調補正RAW画像データは第1蓄積部401から順次消去される。
減算部402は、PピクチャまたはBピクチャを生成するときには、入力された原画像(階調補正RAW画像データ)の成分フレームと、動き補償部411で生成された後述の予測値との差分信号(予測誤差値)を出力する。また、減算部402は、Iピクチャを生成するときには、入力された原画像の成分フレームをそのまま出力する。
直交変換部403は、Iピクチャを生成するときには、減算部402をスルーして入力された原画像に対して直交変換を行う。また、直交変換部403は、PピクチャまたはBピクチャを生成するときには、上述した差分信号に対して直交変換をおこなう。
量子化部404は、直交変換部403から入力されたブロック単位の周波数係数(直交変換係数)を量子化係数に変換する。量子化部404の出力は、可変長符号化部405および逆量子化部406にそれぞれ入力される。
可変長符号化部405は、量子化係数や、動き検出部410からの動きベクトルを可変長符号化し、符号化階調補正RAW画像データ(Iピクチャ、Pピクチャ、Bピクチャ)を出力する。
逆量子化部406は、符号化の単位であるブロック単位で量子化係数を逆量子化して周波数係数を復号する。逆直交変換部407は、逆量子化部406で復号された周波数係数を逆直交変換して予測誤差値(または原画像)を復号する。
加算部408は、復号された予測誤差値と、動き補償部411で生成された後述の予測値とを加算する。そして、加算部408から出力されたピクチャの復号値(参照フレーム)は第2蓄積部409に蓄積される。なお、以後の動き補償予測で参照されない参照フレームは第2蓄積部409から順次消去される。
動き検出部410は、第2蓄積部409の参照フレームを用いて、符号化対象の階調補正RAW画像データを予測するための動きベクトルを検出する。動きベクトルは、動き補償部411および可変長符号化部405に出力される。
動き補償部411は、動きベクトルおよび参照フレームに基づいて、符号化対象の階調補正RAW画像データをブロック単位で予測した予測値を出力する。この予測値は、減算部402および加算部408に出力される。
なお、或るブロックについて動き補償予測を行う場合、符号化対象の階調補正RAW画像データが予測値と完全に一致すると動きベクトルのみが符号化される。また、符号化対象の階調補正RAW画像データが予測値と部分的に一致する場合、動きベクトルと差分画像が符号化される。また、符号化対象の階調補正RAW画像データが予測値からすべて外れる場合には、ブロック全体分の画像がすべて符号化される。
<符号化処理手順例>
図5は、符号化装置200による符号化処理手順例を示すフローチャートである。符号化装置200は、光学的黒画素領域162を有する撮像素子153から出力されたRAW画像データの入力を受け付け(ステップS501)、階調補正部201により、階調補正アルゴリズムを用いて、当該RAW画像データを階調補正する(ステップS502)。
図5は、符号化装置200による符号化処理手順例を示すフローチャートである。符号化装置200は、光学的黒画素領域162を有する撮像素子153から出力されたRAW画像データの入力を受け付け(ステップS501)、階調補正部201により、階調補正アルゴリズムを用いて、当該RAW画像データを階調補正する(ステップS502)。
つぎに、符号化装置200は、符号化部202により、階調補正RAW画像データを符号化する(ステップS503)。そして、符号化装置200は、記録部203により、符号化階調補正RAW画像データ300を記憶デバイス102に格納する(ステップS504)。
<復号装置の機能的構成例>
図6は、復号装置の機能的構成例を示すブロック図である。復号装置600は、取得部601と、復号部602と、階調逆補正部603と、を有する。取得部601、復号部602、および階調逆補正部603は、具体的には、たとえば、記憶デバイス102に記憶されたプログラムをプロセッサ101に実行させることにより、または、LSI104により実現される機能である。
図6は、復号装置の機能的構成例を示すブロック図である。復号装置600は、取得部601と、復号部602と、階調逆補正部603と、を有する。取得部601、復号部602、および階調逆補正部603は、具体的には、たとえば、記憶デバイス102に記憶されたプログラムをプロセッサ101に実行させることにより、または、LSI104により実現される機能である。
取得部601は、符号化装置200によって符号化された符号化階調補正RAW画像データ300を取得する。復号装置600が符号化装置200と通信可能である場合、取得部601は、符号化装置200から送信されてくる符号化階調補正RAW画像データ300を受信する。復号装置600が符号化装置200と同一装置内に実装されている場合、取得部601は、記憶デバイス102に格納された符号化階調補正RAW画像データ300を読み出す。
復号部602は、制御情報312を用いて符号化階調補正RAW画像データ300を階調補正RAW画像データに復号する。具体的には、たとえば、復号部は、符号化階調補正RAW画像データ300の種類(Iピクチャ、Pピクチャ、Bピクチャ)に応じて、参照フレームを特定し、符号化階調補正RAW画像データ300を階調補正RAW画像データに復号する。
階調逆補正部603は、復号部602によって復号された階調補正RAW画像データを階調逆補正し、階調補正前のRAW画像データに復元する。具体的には、たとえば、階調逆補正部603は、制御情報312の階調補正識別子326を参照して、RAW画像データに施された階調補正アルゴリズムを特定し、特定した階調補正アルゴリズムに対応する階調逆補正アルゴリズムを実行する。階調逆補正部603は、階調逆補正に際し、ノイズリダクション処理(NR処理)を実行してもよい。
<復号部602の構成例>
図7は、復号部602の構成例を示すブロック図である。復号部602は、可変長符号復号部701と、逆量子化部702と、逆直交変換部703と、加算部704と、第3蓄積部705、動き補償部706を有している。
図7は、復号部602の構成例を示すブロック図である。復号部602は、可変長符号復号部701と、逆量子化部702と、逆直交変換部703と、加算部704と、第3蓄積部705、動き補償部706を有している。
可変長符号復号部701は、入力される符号化階調補正RAW画像データ300を復号し、量子化係数や、動きベクトルを出力する。なお、復号された量子化係数は逆量子化部702に入力され、復号された動きベクトルは動き補償部706に入力される。
逆量子化部702は、ブロック単位で量子化係数を逆量子化して周波数係数を復号する。逆直交変換部703は、逆量子化部702で復号された周波数係数を逆直交変換して予測誤差値(または原画像の信号)を復号する。
加算部704は、復号された予測誤差値と動き補償部706で生成された予測値とを加算することで、復号された画像データをブロック単位で出力する。そして、加算部704から出力された画像データは階調補正RAW画像データとして出力されるとともに、第3蓄積部705に入力される。
第3蓄積部705は、画像の復号値を参照フレームとして蓄積する。なお、以後の動き補償予測で参照されない画像データは第3蓄積部705から順次消去される。動き補償部706は、動きベクトルおよび参照フレームに基づいて、復号対象の画像をブロック単位で予測した予測値を加算部704に出力する。
<復号処理手順例>
図8は、復号装置600による復号処理手順例を示すフローチャートである。復号装置600は、取得部601により、符号化階調補正RAW画像データ300を取得し(ステップS801)、復号部602により、符号化階調補正RAW画像データ300を階調補正RAW画像データに復号する(ステップS2102)。そして、復号装置600は、階調逆補正部603により、復号された階調補正RAW画像データを階調逆補正して、RAW画像データを復元する(ステップS803)。
図8は、復号装置600による復号処理手順例を示すフローチャートである。復号装置600は、取得部601により、符号化階調補正RAW画像データ300を取得し(ステップS801)、復号部602により、符号化階調補正RAW画像データ300を階調補正RAW画像データに復号する(ステップS2102)。そして、復号装置600は、階調逆補正部603により、復号された階調補正RAW画像データを階調逆補正して、RAW画像データを復元する(ステップS803)。
<階調補正および階調逆補正の具体例>
つぎに、実施例1にかかる階調補正部201による階調補正および階調逆補正部603による階調逆補正の具体例について、図9~図17を用いて説明する。本実施例1との比較のため、光学的黒値を用いない階調補正および階調逆補正を図9~図11のグラフに示し、実施例1の階調補正1および階調逆補正1を図12~図14に示し、実施例1の階調補正2および階調逆補正2を図15~図17に示す。
つぎに、実施例1にかかる階調補正部201による階調補正および階調逆補正部603による階調逆補正の具体例について、図9~図17を用いて説明する。本実施例1との比較のため、光学的黒値を用いない階調補正および階調逆補正を図9~図11のグラフに示し、実施例1の階調補正1および階調逆補正1を図12~図14に示し、実施例1の階調補正2および階調逆補正2を図15~図17に示す。
(光学的黒値を用いない場合の階調補正の特性)
図9は、光学的黒値を用いない場合の階調補正の入出力特性を示すグラフである。横軸は、撮像素子153からのRAW画像データの信号レベル(入力信号レベルE)であり、縦軸は、階調補正RAW画像データの信号レベル(出力信号レベルE´)である。以降、図12、図15、図18、図21、図24でも同様である。ただし、図9の入力信号レベルEは、光学的黒画素領域162を有しない撮像素子153からのRAW画像データの信号レベルである。
図9は、光学的黒値を用いない場合の階調補正の入出力特性を示すグラフである。横軸は、撮像素子153からのRAW画像データの信号レベル(入力信号レベルE)であり、縦軸は、階調補正RAW画像データの信号レベル(出力信号レベルE´)である。以降、図12、図15、図18、図21、図24でも同様である。ただし、図9の入力信号レベルEは、光学的黒画素領域162を有しない撮像素子153からのRAW画像データの信号レベルである。
また、信号レベルとは、たとえば、有効画素領域161内の画素の輝度を示す電圧値であり、0.0~1.0の範囲で正規化される。信号レベルが小さい画素は暗い画素、信号レベルが大きい画素は明るい画素を示す。また、OB(オプティカルブラック)は、光学的黒値である。
図9の入出力特性グラフ900を示す階調補正アルゴリズムは、下記式(1)で表現される。
E´=OETF[E]=E1/γ・・・・・(1)
ただし、EはRAW画像データの信号レベル(入力信号レベル)、E´は階調補正RAW画像データの信号レベル(出力信号レベル)、OETF[]は階調補正関数、γはガンマ値である。
入出力特性グラフ900において、入力信号レベルが0.0から光学的黒値OBまでの区間SC9について階調補正が実行される。RAW画像データを符号化する場合、暗部および明部を均等に符号化するため、現像段階でガンマ補正を施すと、暗部が強調され、符号化による圧縮率が高いほど符号化歪みが目立つ。
図10は、光学的黒値を用いない場合の階調補正のゲイン特性を示すグラフである。ゲインとは、入力信号レベルEの強調度である。光学的黒値を用いない場合の階調補正のゲイン特性グラフ1000は、式(1)の微分により、下記式(2)で表現される。
G={OETF[E]}’=(1/γ)×E{(1/γ)-1}・・・・・(2)
Gは、入力信号レベルEのゲインである。ゲイン特性グラフ1000において、入力信号レベルEが0.0から光学的黒値OBまでの区間SC9のゲインGの値が光学的黒値OBのゲインGの値よりも大きい。すなわち、現像処理後は無効となる入力信号レベルEが0.0から光学的黒値OBまでの区間SC9の画素のゲインが大きい。したがって、現像処理後に画像として有効な光学的黒値OB以上の区間におけるゲインが小さくなり符号化歪抑制効果が小さくなる。
図11は、光学的黒値を用いない場合の階調逆補正の入出力特性を示すグラフである。横軸は、階調補正RAW画像データの信号レベル(入力信号レベルE´)であり、縦軸は、階調補正RAW画像データから階調逆補正されたRAW画像データの信号レベル(出力信号レベルE)である。
以降、図14、図17、図20、図23、図26でも同様である。ただし、図11の出力信号レベルEは、階調逆補正により復元された、光学的黒画素領域162を有しない撮像素子153からのRAW画像データの信号レベルである。また、信号レベルとは、図9と同様、たとえば、有効画素領域161内の画素の輝度を示す電圧値であり、0.0~1.0の範囲で正規化される。信号レベルが小さい画素は暗い画素、信号レベルが大きい画素は明るい画素を示す。
図10の入出力特性グラフ1100を示す階調逆補正アルゴリズムは、下記式(3)で表現される。
E=EOTF[E´]=Eγ・・・・・(3)
ただし、E´は階調補正RAW画像データの信号レベル(入力信号レベル)、Eは復元されたRAW画像データの信号レベル(出力信号レベル)、EOTF[]は階調逆補正関数、γはガンマ値である。
(光学的黒値を用いた場合の階調補正の特性例1)
つぎに、図12~図14を用いて、光学的黒値を用いた場合の階調補正の特性例1について説明する。
つぎに、図12~図14を用いて、光学的黒値を用いた場合の階調補正の特性例1について説明する。
図12は、光学的黒値を用いた場合の階調補正の入出力特性1を示すグラフである。入出力特性グラフ1200では、階調補正部201が、光学的黒値OBよりも低い入力信号レベルEについて階調補正を実行しない。換言すれば、図12の入出力特性グラフ1200では、入力信号レベルEが0.0から光学的黒値OBまでの区間SC9で出力信号レベルE´が0.0であり、入力信号レベルEが光学的黒値OBから立ち上がり、入力信号レベルEが1.0で出力信号レベルE´が最大値をとる。
図12の入出力特性グラフ1200を示す階調補正アルゴリズムは、下記式(4)で表現される。
ただし、EはRAW画像データの信号レベル(入力信号レベル)、E´は階調補正RAW画像データの信号レベル(出力信号レベル)、OETF[]は階調補正関数、OBは光学的黒値、γはガンマ値である。階調補正部201は、式(4)の階調補正アルゴリズムを示す階調補正識別子326を符号化部202に出力し、符号化部202は、階調補正部201からの階調補正識別子326をヘッダ情報301内の制御情報312として付与する。
図13は、光学的黒値を用いた場合の階調補正の入出力特性1におけるゲイン特性を示すグラフである。光学的黒値OBを用いた場合の階調補正における入力信号レベルEのゲイン特性グラフ1300は、式(4)の微分により、下記式(5)で表現される。
Gは、入力信号レベルEのゲインである。ゲイン特性グラフ1300において、入力信号レベルEが0.0から光学的黒値OBまでの区間のゲインGの値が0.0であるため、暗部である0.0から光学的黒値OBまでの区間SC9の入力信号レベルEが強調されない。また、光学的黒値OBでゲインGの値が最大値をとるため、現像処理後に画像として有効な光学的黒値OB以上の区間におけるゲインを大きくすることで符号化歪抑制効果を大きくすることができる。
現像処理や画像調整時に、暗部の絵柄を見易くする等の理由で暗部を明るく表現することがある。このとき、符号化部202と復号部602との間で生じる暗部の歪が目立ち易くなる。階調補正で暗部のゲインGを大きくすることで、符号化部202と復号部602との間で生じる暗部の歪が抑制される。これにより、現像処理や画像調整時に、暗部の絵柄を見易くする等の理由で暗部を明るく表現しても、暗部の歪が目立ち難くなる。
図14は、光学的黒値を用いる場合の階調逆補正の入出力特性1を示すグラフである。図14の入出力特性グラフ1400を示す階調逆補正アルゴリズムは、下記式(6)で表現される。
E=EOTF[E´]=(E´)γ+OB・・・・・(6)
ただし、E´は階調補正RAW画像データの信号レベル(入力信号レベル)、Eは復元されたRAW画像データの信号レベル(出力信号レベル)、EOTF[]は階調逆補正関数である。階調逆補正部603は、制御情報312に式(4)を示す階調補正識別子326を検出した場合、式(6)の階調逆補正を実行する。
入出力特性グラフ1400において、復元されたRAW画像データでは、出力信号レベルEの最小値が光学的黒値OBであるため、現像処理後に画像として有効な光学的黒値OB以上の区間におけるゲインを大きくすることで符号化歪抑制効果を大きくすることができる。
(光学的黒値を用いた場合の階調補正の特性例2)
つぎに、図15~図17を用いて、光学的黒値を用いた場合の階調補正の特性例2について説明する。光学的黒値OBを用いた場合の階調補正の特性例1では、図12の入出力特性グラフ1200において、出力信号レベルE´の明部である区間SC12で復元されない状態となる。光学的黒値OBを用いた場合の階調補正の特性例2では、光学的黒値OBを用いた場合の階調補正の特性例1のように、本来の黒の再現性が高くして黒浮きを抑制しつつ、明部の再現性の向上を図る。
つぎに、図15~図17を用いて、光学的黒値を用いた場合の階調補正の特性例2について説明する。光学的黒値OBを用いた場合の階調補正の特性例1では、図12の入出力特性グラフ1200において、出力信号レベルE´の明部である区間SC12で復元されない状態となる。光学的黒値OBを用いた場合の階調補正の特性例2では、光学的黒値OBを用いた場合の階調補正の特性例1のように、本来の黒の再現性が高くして黒浮きを抑制しつつ、明部の再現性の向上を図る。
図15は、光学的黒値を用いた場合の階調補正の入出力特性2を示すグラフである。光学的黒値OBを用いた場合の階調補正の入出力特性例2では、光学的黒値OBを用いた場合の階調補正の入出力特性例1と同様、階調補正部201が、光学的黒値OBよりも低い入力信号レベルEについて階調補正を実行しない。
換言すれば、図15の入出力特性グラフ1500では、入力信号レベルEが0.0から光学的黒値までの区間SC9で出力信号レベルE´が0.0であり、入力信号レベルEが光学的黒値OBから立ち上がり、入力信号レベルEが1.0で出力信号レベルE´が上限である1.0をとる。
図15の入出力特性グラフ1500を示す階調補正アルゴリズムは、下記式(7)で表現される。
ただし、EはRAW画像データの信号レベル(入力信号レベル)、E´は階調補正RAW画像データの信号レベル(出力信号レベル)、OETF[]は階調補正関数、OBは光学的黒値、γはガンマ値である。階調補正部201は、式(7)の階調補正アルゴリズムを示す階調補正識別子326を符号化部202に出力し、符号化部202は、階調補正部201からの階調補正識別子326をヘッダ情報301内の制御情報312として付与する。
このように、出力信号レベルE´の最大値を1.0としたことにより、入出力特性グラフ1200に比べて、明部での色再現性の向上を図ることができる。
図16は、光学的黒値を用いた場合の階調補正の入出力特性2におけるゲイン特性を示すグラフである。光学的黒値OBを用いた場合の階調補正における入力信号レベルEのゲイン特性グラフ1600は、式(7)の微分により、下記式(8)で表現される。
Gは、入力信号レベルEのゲインである。入力信号レベルEが0.0から光学的黒値OBまでの区間SC9のゲインGの値が0.0であるため、暗部である0.0から光学的黒値OBまでの区間SC9の入力信号レベルEが強調されない。また、光学的黒値OBでゲインGの値が最大値(無限大)をとるため、現像処理後に画像として有効な光学的黒値OB以上の区間におけるゲインを大きくすることで符号化歪抑制効果を大きくすることができる。
また、光学的黒値を用いた場合の階調補正の入出力特性例1と同様、階調補正で暗部のゲインGを大きくすることで、符号化部202と復号部602との間で生じる暗部の歪が抑制される。これにより、現像処理や画像調整時に、暗部の絵柄を見易くする等の理由で暗部を明るく表現しても、暗部の歪が目立ち難くなる。
図17は、光学的黒値を用いる場合の階調逆補正の入出力特性2を示すグラフである。図17の入出力特性グラフ1700を示す階調逆補正アルゴリズムは、下記式(9)で表現される。
E=EOTF[E´]=(1-OB)×(E´)γ+OB・・・・・(9)
ただし、E´は階調補正RAW画像データの信号レベル(入力信号レベル)、Eは復元されたRAW画像データの信号レベル(出力信号レベル)、EOTF[]は階調逆補正関数である。階調逆補正部603は、制御情報312に式(7)を示す階調補正識別子326を検出した場合、式(9)の階調逆補正を実行する。
光学的黒値OBを用いた場合の階調補正の入出力特性例1と同様、復元されたRAW画像データでは、出力信号レベルEの最小値が光学的黒値OBであるため、出力信号レベルEが0.0から光学的黒値OBまでの区間SC11の画素の色は再現されず、現像処理後に画像として有効な光学的黒値OB以上の区間におけるゲインを大きくすることで符号化歪抑制効果を大きくすることができる。
また、図14の入出力特性グラフ1400のような入力信号レベルE´が存在しない区間SC14が、図17の入出力特性グラフ1700には存在しない。すなわち、光学的黒値OBを用いた場合の階調補正の入出力特性例2では、明部の画素の色再現性の向上を図ることができる。
実施例2は、光学的黒値OB以下の入力信号レベルEを再現しつつ、実施例1の光学的黒値を用いた場合の階調補正の入出力特性例2のように光学的黒値OBのゲインGを最大化する例である。実施例2では、実施例1との相違点を中心に説明し、実施例1と同一構成および同一処理内容については、実施例2でも流用し、かつ、その説明を省略する。
図18は、光学的黒値を用いた場合の階調補正の入出力特性3を示すグラフである。光学的黒値を用いた場合の階調補正の入出力特性例3では、光学的黒値を用いた場合の階調補正の入出力特性例1,2と異なり、階調補正部201が、光学的黒値OBよりも低い入力信号レベルEについて負の階調補正、すなわち、負の1/γ補正を実行し、光学的黒値OB以上の入力信号レベルEについて正の階調補正、すなわち、正の1/γ補正を実行する。
具体的には、たとえば、入出力特性グラフ1800のうち、区間SC9の波形1801は、負の1/γ補正により得られる波形であり、光学的黒値OB以上の区間の波形1802は、正の1/γ補正により得られる波形である。
図18の入出力特性グラフ1800を示す階調補正アルゴリズムは、下記式(10)で表現される。
ただし、EはRAW画像データの信号レベル(入力信号レベル)、E´は階調補正RAW画像データの信号レベル(出力信号レベル)、OETF[]は階調補正関数、OBは光学的黒値、γはガンマ値である。
式(10)のうち、条件がE<OBである場合の式が負の1/γ補正の式であり、条件がOB≦Eである場合の式が正の1/γ補正の式である。階調補正部201は、式(10)の階調補正アルゴリズムを示す階調補正識別子326を符号化部202に出力し、符号化部202は、階調補正部201からの階調補正識別子326をヘッダ情報301内の制御情報312として付与する。
区間SC9において負の1/γ補正を実行することで、階調補正されたRAW画像データでの光学的黒値OB付近の色再現性の向上を図ることができる。すなわち、入出力特性グラフ1800の光学的黒値OB付近において、光学的黒値OBよりも入力信号レベルEが小さい側(マイナス方向)のノイズと光学的黒値OBよりも入力信号レベルEが大きい側(プラス方向)のノイズとがノイズリダクション処理で相殺されるため、実施例1よりも効率的にノイズを除去することができる。したがって、階調補正されたRAW画像データの光学的黒値OB付近の黒浮きを抑制し、色再現性の向上を図ることができる。
図19は、光学的黒値を用いた場合の階調補正の入出力特性3におけるゲイン特性を示すグラフである。光学的黒値OBを用いた場合の階調補正における入力信号レベルEのゲイン特性グラフ1900は、式(10)の微分により、下記式(11)で表現される。
Gは、入力信号レベルEのゲインである。具体的には、たとえば、ゲイン特性グラフ1900では、ゲインGは、区間SC9において、入力信号レベルEが0.0で最小値をとり、0.0から増加して光学的黒値OBで最大値(無限大)となる。
区間SC19を、光学的黒値OBから光学的黒値OBの2倍となる入力信号レベルEの値2OBまでの区間とする。ゲインGは、区間SC19において、入力信号レベルEが光学的黒値OBで最大値(無限大)をとり、光学的黒値OBから減少して2OBで最小値となる。すなわち、区間SC9のゲイン特性を示す波形1901と区間SC19のゲイン特性を示す波形1902は、光学的黒値OBに対して線対称である。
これにより、暗部となる区間SC9および区間SC19において、光学的黒値OBがゲインGの最大値となる。また、区間SC9および区間SC19において、入力信号レベルEが光学的黒値OBから離間するほどゲインGが減衰する。したがって、現像処理後に画像として有効な光学的黒値OB以上の区間におけるゲインを大きくすることで符号化歪抑制効果を大きくすることができるとともに、当該暗部で発生するノイズを低減することができる。
また、波形1901,1902が光学的黒値OBに対し線対称であることから、光学的黒値OB付近において、光学的黒値OBよりも入力信号レベルEが小さい側(マイナス方向)のノイズと光学的黒値OBよりも入力信号レベルEが大きい側(プラス方向)のノイズとがノイズリダクション処理で相殺されてノイズが低減されるため、黒浮きを抑制することができる。
また、実施例1と同様、階調補正で暗部のゲインGを大きくすることで、符号化部202と復号部602との間で生じる暗部の歪が抑制される。これにより、現像処理や画像調整時に、暗部の絵柄を見易くする等の理由で暗部を明るく表現しても、暗部の歪が目立ち難くなる。
図20は、光学的黒値を用いる場合の階調逆補正の入出力特性3を示すグラフである。階調逆補正部603は、階調補正RAW画像データの特定の入力信号レベルE´の値β以上について正の階調逆補正、すなわち、正のγ補正を実行し、βよりも低い入力信号レベルについて負の階調逆補正、すなわち、負のγ補正を実行する。
区間SC201を、入力信号レベルE´が0.0から式(10)に示したβまでの区間とし、区間SC202を、入力信号レベルE´がβから1.0までの区間とする。具体的には、たとえば、入出力特性グラフ2000のうち、区間SC201の波形2001は、負のγ補正により得られる波形であり、区間SC202の波形2002は、正のγ補正により得られる波形である。
図20の入出力特性グラフ2000を示す階調逆補正アルゴリズムは、下記式(12)で表現される。
ただし、E´は階調補正RAW画像データの信号レベル(入力信号レベル)、Eは復元されたRAW画像データの信号レベル(出力信号レベル)、EOTF[]は階調逆補正関数である。式(12)のうち、条件がE´<βである場合の式が負のγ補正の式であり、条件がβ≦E´である場合の式が正のγ補正の式である。階調逆補正部603は、制御情報312に式(10)を示す階調補正識別子326を検出した場合、式(12)の階調逆補正を実行する。
区間SC201において負のγ補正を実行することで、階調逆補正された復元RAW画像データでの光学的黒値OB付近の符号化歪抑制効果を大きくできるとともに、当該暗部で発生するノイズを低減することができるので、色再現性の向上を図ることができる。
実施例3は、実施例2において、明部のゲインを上昇させる例である。実施例3では、実施例2との相違点を中心に説明し、実施例2と同一構成および同一処理内容については、実施例3でも流用し、かつ、その説明を省略する。
図21は、光学的黒値を用いた場合の階調補正の入出力特性4を示すグラフである。光学的黒値を用いた場合の階調補正の入出力特性例4では、階調補正部201が、光学的黒値OBよりも低い入力信号レベルEについて負の階調補正、すなわち、負のオフセット1/γ補正を実行し、光学的黒値OB以上の入力信号レベルEについて正の階調補正、すなわち、正のオフセット1/γ補正を実行する。
具体的には、たとえば、入出力特性グラフ2100のうち、区間SC9の波形2101は、負のオフセット1/γ補正により得られる波形であり、光学的黒値OB以上の区間の波形2102は、正のオフセット1/γ補正により得られる波形である。
図21の入出力特性グラフ2100を示す階調補正アルゴリズムは、下記式(13)で表現される。
ただし、EはRAW画像データの信号レベル(入力信号レベル)、E´は階調補正RAW画像データの信号レベル(出力信号レベル)、OETF[]は階調補正関数、OBは光学的黒値、γはガンマ値、gは算定仮ゲインである。式(13)のうち、条件がE<OBである場合の式が負のオフセット1/γ補正の式であり、条件がOB≦Eである場合の式が正のオフセット1/γ補正の式である。階調補正部201は、式(13)の階調補正アルゴリズムを示す階調補正識別子326を符号化部202に出力し、符号化部202は、階調補正部201からの階調補正識別子326をヘッダ情報301内の制御情報312として付与する。
図22は、光学的黒値を用いた場合の階調補正の入出力特性4におけるゲイン特性を示すグラフである。光学的黒値OBを用いた場合の階調補正における入力信号レベルEのゲイン特性グラフ2200は、式(13)の微分により、下記式(14)で表現される。
Gは、入力信号レベルEのゲインである。具体的には、たとえば、ゲイン特性グラフ2200では、ゲインGは、区間SC9において、入力信号レベルEが0.0で最小値をとり、0.0から増加して光学的黒値OBで最大値である算定仮ゲインgとなる。算定仮ゲインは、設定部204によって設定される値である。
ゲインGは、区間SC19において、入力信号レベルEが光学的黒値OBで最大値である算定仮ゲインgをとり、光学的黒値OBから減少して2OBで最小値となる。すなわち、区間SC9のゲイン特性を示す波形2201と区間SC19のゲイン特性を示す波形2202は、光学的黒値OBに対して線対称である。
また、光学的黒値OBでのゲインGの値を実施例2の無限大から算定仮ゲインgへオフセットしたことにより、ゲイン特性グラフ2200は、ゲイン特性グラフ1900に比べて、明部の入力信号レベルが高くなる。したがって、階調補正により光学的黒値OB付近の画素を強調し、かつ、明部側の画素を強調することができる。
図23は、光学的黒値を用いる場合の階調逆補正の入出力特性4を示すグラフである。階調逆補正部603は、階調補正RAW画像データの特定の入力信号レベルE´の値OUT[1]以上について正の階調逆補正、すなわち、正のオフセットγ補正を実行し、OUT[1]よりも低い入力信号レベルについて負の階調逆補正、すなわち、負のオフセットγ補正を実行する。
区間SC231を、入力信号レベルE´が0.0から式(13)に示したOUT[1]までの区間とし、区間SC232を、入力信号レベルE´がOUT[1]から1.0までの区間とする。具体的には、たとえば、入出力特性グラフ2300のうち、区間SC231の波形2301は、負のオフセットγ補正により得られる波形であり、区間SC232の波形2302は、正のオフセットγ補正により得られる波形である。
図23の入出力特性グラフ2300を示す階調逆補正アルゴリズムは、下記式(15)で表現される。
ただし、E´は階調補正RAW画像データの信号レベル(入力信号レベル)、Eは復元されたRAW画像データの信号レベル(出力信号レベル)、EOTF[]は階調逆補正関数である。式(15)のうち、条件がE´<OUT[1]である場合の式が負のオフセットγ補正の式であり、条件がOUT[1]≦E´である場合の式が正のオフセットγ補正の式である。階調逆補正部603は、制御情報312に式(13)を示す階調補正識別子326を検出した場合、式(15)の階調逆補正を実行する。
区間SC231において負のオフセットγ補正を実行することで、階調逆補正されたRAW画像データでの光学的黒値OB付近の色再現性の向上を図ることができる。また、明部のゲインも高くなるため、階調補正により明部側の画素を強調することができる。
また、設定部204は、算定仮ゲインgに替えて、算定ゲインGOBを階調逆補正部603に設定してもよい(下記式(16))。算定ゲインGOBを階調逆補正部603に設定することにより、階調逆補正で元のRAW画像データにおける暗部である光学的黒や明部の再現性の向上を図ることができる。
GOB=C×g・・・・・(16)
実施例4は、実施例3の算定仮ゲインgに光学的黒値を含む一定幅の入力信号レベルEを設けた例である。実施例4では、実施例3との相違点を中心に説明し、実施例3と同一構成および同一処理内容については、実施例4でも流用し、かつ、その説明を省略する。
図24は、光学的黒値を用いた場合の階調補正の入出力特性5を示すグラフである。光学的黒値を用いた場合の階調補正の入出力特性例5では、設定部204により、光学的黒値OBを含む一定のポーチ幅Dが設定される。ポーチ幅Dの入力信号レベルEでは同一ゲインGとなる。
ポーチ幅Dのうち入力信号レベルEの値がP1(0.0<P1<OB)から光学的黒値OBまでの範囲を第1ポーチ幅D1、ポーチ幅Dのうち入力信号レベルEの値が光学的黒値OBからP2(OB≦P2)までの範囲を第2ポーチ幅D2とする。ポーチ幅Dは、入力信号レベルEのゲインGが一定となる範囲である。
階調補正部201が、入力信号レベルEの値が0.0からP1までの区間SC24について、負の階調補正、すなわち、負のオフセット1/γ補正を実行し、入力信号レベルEの値がポーチ幅Dの区間について、ゲインGが一定となる階調補正を実行し、入力信号レベルEの値がP2以上の区間について、正の階調補正、すなわち、正のオフセット1/γ補正を実行する。
具体的には、たとえば、入出力特性グラフ2400のうち、区間SC24の波形2401は、負のオフセット1/γ補正により得られる波形であり、ポーチ幅Dの区間の波形2402は、ゲインGが一定となる階調補正により得られる波形であり、入力信号レベルEの値がP2以上の区間の波形2403は、正のオフセット1/γ補正により得られる波形である。
図24の入出力特性グラフ2400を示す階調補正アルゴリズムは、下記式(17)で表現される。
ただし、EはRAW画像データの信号レベル(入力信号レベル)、E´は階調補正RAW画像データの信号レベル(出力信号レベル)、OETF[]は階調補正関数、OBは光学的黒値、γはガンマ値、gは算定仮ゲインである。また、IN[1]は、第1ポーチ幅D1、IN[2]は第2ポーチ幅D2である。
式(17)のうち、条件がE<OBである場合の式が負のオフセット1/γ補正の式であり、条件がIN[1]≦E<IN[2]、すなわち、ポーチ幅Dである場合の式がゲインGが一定となる階調補正であり、条件がIN[2]≦Eである場合の式が正のオフセット1/γ補正の式である。階調補正部201は、式(17)の階調補正アルゴリズムを示す階調補正識別子326を符号化部202に出力して、符号化部202は、階調補正部201からの階調補正識別子326をヘッダ情報301内の制御情報312として付与する。
図25は、光学的黒値を用いた場合の階調補正の入出力特性5におけるゲイン特性を示すグラフである。光学的黒値OBを用いた場合の階調補正における入力信号レベルEのゲイン特性グラフ2500は、式(17)の微分により、下記式(18)で表現される。
Gは、入力信号レベルEのゲインである。具体的には、たとえば、ゲイン特性グラフ2500では、ゲインGは、区間SC24において、入力信号レベルEが0.0で最小値をとり、0.0から増加してポーチ幅Dの右端であるP1で最大値である算定仮ゲインgとなる。算定仮ゲインgは、設定部204によって設定される値である。
ゲインGは、ポーチ幅Dにおいて算定仮ゲインgで一定となる。そして、ゲインGは、ポーチ幅Dの左端であるP2以上において、光学的黒値OBから減少する。第1ポーチ幅D1を設定したことにより、光学的黒値OB付近のノイズを保存することができる。また、第2ポーチ幅D2を設定したことにより、圧縮率が高いほど黒の表現力を高めることができる。
また、第2ポーチ幅D2は、設定部204によって設定される露出量により可変となる。具体的には、光学的黒値OBは固定であり、P2の位置が変更される。たとえば、設定部204において露出量を露出アンダーに設定することにより、P2は入力信号レベルEが大きくなる方向に変更され、第2ポーチ幅P2が広くなる。
一方、設定部204において露出量を露出オーバーに設定することにより、P2は入力信号レベルEが小さくなる方向に変更され、第2ポーチ幅P2が狭くなる。このように、露出量に応じて、第2ポーチ幅D2を伸縮することができ、露出量に応じて光学的黒値付近の画素を強調することができる。
図26は、光学的黒値を用いる場合の階調逆補正の入出力特性5を示すグラフである。階調逆補正部603は、階調補正RAW画像データの特定の入力信号レベルE´の値OUT[2]以上について正の階調逆補正、すなわち、正のオフセットγ補正を実行し、OUT[1]以上OUT[2]未満についてゲインGが一定となる階調逆補正、OUT[1]よりも低い入力信号レベルについて負の階調逆補正、すなわち、負のオフセットγ補正を実行する。
区間SC261を、入力信号レベルE´が0.0から式(16)に示したOUT[1]までの区間とし、区間SC262を、入力信号レベルE´がOUT[1]からOUT[2]までの区間とし、区間SC263を、入力信号レベルE´がOUT[2]から1.0までの区間とする。
具体的には、たとえば、入出力特性グラフ2600のうち、区間SC261の波形2301は、負のオフセットγ補正により得られる波形であり、区間SC262の波形2602は、ゲインGが一定となる階調逆補正により得られる波形であり、区間SC263の波形2603は、正のオフセットγ補正により得られる波形である。
図26の入出力特性グラフ2600を示す階調逆補正アルゴリズムは、下記式(19)で表現される。
ただし、E´は階調補正RAW画像データの信号レベル(入力信号レベル)、Eは復元されたRAW画像データの信号レベル(出力信号レベル)、EOTF[]は階調逆補正関数である。式(19)のうち、条件がE´<OUT[1]である場合の式が負のオフセットγ補正の式であり、条件がIn[1]≦E<In[2]である場合の式がゲインGが一定となる階調逆補正の式であり、条件がOUT[2]≦E´である場合の式が正のオフセットγ補正の式である。階調逆補正部603は、制御情報312に式(17)を示す階調補正識別子326を検出した場合、式(19)の階調逆補正を実行する。
区間SC261において負のオフセットγ補正を実行することで、階調逆補正されたRAW画像データでの光学的黒値OB付近の色再現性の向上を図ることができる。また、明部のゲインも高くなるため、階調補正により明部側の画素を強調することができる。
実施例5は、入出力特性グラフにおいて入力信号レベルEが0からOBまでの区間の正の傾きを一定にした場合の例を示す。実施例5では、実施例3との相違点を中心に説明し、実施例3と同一構成および同一処理内容については、実施例5でも流用し、かつ、その説明を省略する。
図27は、光学的黒値を用いた場合の階調補正の入出力特性6を示すグラフである。光学的黒値を用いた場合の階調補正の入出力特性例6では、階調補正部201が、光学的黒値OBよりも低い入力信号レベルEについて正の傾きが一定となるような階調補正を実行し、光学的黒値OB以上の入力信号レベルEについて正の階調補正、すなわち、正のオフセット1/γ補正を実行する。
具体的には、たとえば、入出力特性グラフ2700のうち、区間SC9の波形2701は、入力信号レベルEの増加に伴って出力信号レベルE´が増加する線形な波形である。すなわち、区間SC9では、入力信号レベルEおよび出力信号レベルE´の間には正比例の関係がある。光学的黒値OB以上の区間SC27(OB≦E)の波形2702は、正のオフセット1/γ補正により得られる波形である。階調補正部201は、入力信号レベルEが1.0のときに出力信号レベルE´が1.0となるように階調補正でフィッティングする。
図27の入出力特性グラフ2700を示す階調補正アルゴリズムは、下記式(20)で表現される。
ただし、EはRAW画像データの信号レベル(入力信号レベル)、E´は階調補正RAW画像データの信号レベル(出力信号レベル)、OETF[]は階調補正関数、OBは光学的黒値、γはガンマ値である。Sは、区間SC9の波形2701の傾きを示す固定値である。傾きSは、図27では、たとえば、S=4である。傾きSは正の値であればよい。αは、設定部204で調整可能なフィッティング係数である。具体的には、たとえば、設定部204は、情報処理装置100でのISO感度の増減に応じてフィッティング係数αを調整することが可能である。
式(20)のうち、条件がE<OBである場合の式が入力信号レベルEについて正の傾きが一定となるような階調補正の式であり、条件がOB≦Eである場合の式が正のオフセット1/γ補正の式である。階調補正部201は、式(20)の階調補正アルゴリズムを示す階調補正識別子326を符号化部202に出力し、符号化部202は、階調補正部201からの階調補正識別子326をヘッダ情報301内の制御情報312として付与する。
図28は、光学的黒値を用いた場合の階調補正の入出力特性6におけるゲイン特性を示すグラフである。光学的黒値OBを用いた場合の階調補正における入力信号レベルEのゲイン特性グラフ2800は、式(20)の微分により、下記式(21)で表現される。
Gは、入力信号レベルEのゲインである。具体的には、たとえば、ゲイン特性グラフ2800では、ゲインGは、区間SC9において、一定の値をとる。
また、実施例1と同様、階調補正で暗部のゲインGを大きくすることで、符号化部202と復号部602との間で生じる暗部の歪が抑制される。これにより、現像処理や画像調整時に、暗部の絵柄を見易くする等の理由で暗部を明るく表現しても、暗部の歪が目立ち難くなる。
図29は、光学的黒値を用いる場合の階調逆補正の入出力特性6を示すグラフである。階調逆補正部603は、光学的黒値OBよりも低い入力信号レベルE´について正の傾きが一定となるような階調逆補正を実行し、βよりも低い入力信号レベルE´について負の階調逆補正、すなわち、負のγ補正を実行する。
区間SC291を、入力信号レベルE´が0.0から式(10)に示したβまでの区間とし、区間SC292を、入力信号レベルE´がβから1.0までの区間とする。具体的には、たとえば、入出力特性グラフ2900のうち、区間SC291の波形2901は、正の傾きが一定となるような階調逆補正により得られる波形であり、区間SC292の波形2902は、正のγ補正により得られる波形である。
図29の入出力特性グラフ2900を示す階調逆補正アルゴリズムは、下記式(22)で表現される。
ただし、E´は階調補正RAW画像データの信号レベル(入力信号レベル)、Eは復元されたRAW画像データの信号レベル(出力信号レベル)、EOTF[]は階調逆補正関数である。式(22)のうち、条件がE´<βである場合の式が光学的黒値OBよりも低い入力信号レベルEについて正の傾きが一定となるような階調逆補正の式であり、条件がβ≦E´である場合の式が正のγ補正の式である。階調逆補正部603は、制御情報312に式(20)を示す階調補正識別子326を検出した場合、式(22)の階調逆補正を実行する。
区間SC201において正の傾きが一定となるような階調逆補正を実行することで、階調逆補正された復元RAW画像データでの光学的黒値OB付近の符号化歪抑制効果を大きくできるとともに、当該暗部で発生するノイズを低減することができるので、色再現性の向上を図ることができる。
実施例6は、実施例5において、フィッティング係数を2個用いる例を示す。具体的には、たとえば、実施例5では、入出力特性グラフ2700において入力信号レベルEがOB以上(OB≦E)となる区間で、フィッティング係数であるαを調整可能とした。実施例6では、入力信号レベルEがOB未満(E<OB)となる区間SC9およびOB以上(OB≦E)となる区間の各々で、異なるフィッティング係数を用いる。実施例6では、実施例5との相違点を中心に説明し、実施例5と同一構成および同一処理内容については、実施例6でも流用し、かつ、その説明を省略する。
図30は、光学的黒値を用いた場合の階調補正の入出力特性7を示すグラフである。光学的黒値を用いた場合の階調補正の入出力特性例7では、入出力特性例6と同様、階調補正部201が、光学的黒値OBよりも低い入力信号レベルEについて正の傾きが一定となるような階調補正を実行し、光学的黒値OB以上の入力信号レベルEについて正の階調補正、すなわち、正のオフセット1/γ補正を実行する。
具体的には、たとえば、入出力特性グラフ3000のうち、区間SC9の波形3001は、入力信号レベルEの増加に伴って出力信号レベルE´が増加する線形な波形であり、光学的黒値OB以上の区間の波形3002は、正のオフセット1/γ補正により得られる波形である。階調補正部201は、入力信号レベルEが1.0のときに出力信号レベルE´が1.0となるように階調補正でフィッティングする。
図30の入出力特性グラフ3000を示す階調補正アルゴリズムは、下記式(23)で表現される。
ただし、EはRAW画像データの信号レベル(入力信号レベル)、E´は階調補正RAW画像データの信号レベル(出力信号レベル)、OETF[]は階調補正関数、OBは光学的黒値、γはガンマ値である。α1は、調整可能なフィッティング係数であり、区間SC9の波形3001の正の傾きを示す。α1は、図30では、たとえば、α1=2である。α1は正の値であればよい。α2は、α1とは異なるフィッティング係数であり、α1に依存する。
設定部204は、情報処理装置100でのISO感度の増減に応じてフィッティング係数αを調整することが可能である。これにより、区間SC9においてフィッティング係数α1で入出力特性グラフ3000の調整が可能となり、かつ、OB≦Eの区間SC27においてフィッティング係数α1とは異なる値のフィッティング係数α2で入出力特性グラフ3000の調整が可能となる。
式(23)のうち、条件がE<OBである場合の式が入力信号レベルEについて正の傾きが一定となるような階調補正の式であり、条件がOB≦Eである場合の式が正のオフセット1/γ補正の式である。階調補正部201は、式(23)の階調補正アルゴリズムを示す階調補正識別子326を符号化部202に出力し、符号化部202は、階調補正部201からの階調補正識別子326をヘッダ情報301内の制御情報312として付与する。
図31は、光学的黒値を用いた場合の階調補正の入出力特性7におけるゲイン特性を示すグラフである。光学的黒値OBを用いた場合の階調補正における入力信号レベルEのゲイン特性グラフ3100は、式(23)の微分により、下記式(24)で表現される。
Gは、入力信号レベルEのゲインである。具体的には、たとえば、ゲイン特性グラフ3100では、ゲインGは、区間SC9において、一定の値をとる。
また、実施例1と同様、階調補正で暗部のゲインGを大きくすることで、符号化部202と復号部602との間で生じる暗部の歪が抑制される。これにより、現像処理や画像調整時に、暗部の絵柄を見易くする等の理由で暗部を明るく表現しても、暗部の歪が目立ち難くなる。
図32は、光学的黒値を用いる場合の階調逆補正の入出力特性7を示すグラフである。階調逆補正部603は、光学的黒値OBよりも低い入力信号レベルEについて正の傾きが一定となるような階調逆補正を実行し、βよりも低い入力信号レベルについて負の階調逆補正、すなわち、負のγ補正を実行する。
区間SC321を、入力信号レベルE´が0.0から式(10)に示したβまでの区間とし、区間SC292を、入力信号レベルE´がβから1.0までの区間とする。具体的には、たとえば、入出力特性グラフ3200のうち、区間SC321の波形3201は、負のγ補正により得られる波形であり、区間SC322の波形3202は、正のγ補正により得られる波形である。
図32の入出力特性グラフ3200を示す階調逆補正アルゴリズムは、下記式(25)で表現される。
ただし、E´は階調補正RAW画像データの信号レベル(入力信号レベル)、Eは復元されたRAW画像データの信号レベル(出力信号レベル)、EOTF[]は階調逆補正関数である。式(25)のうち、条件がE´<βである場合の式が光学的黒値OBよりも低い入力信号レベルEについて正の傾きが一定となるような階調逆補正の式であり、条件がβ≦E´である場合の式が正のγ補正の式である。階調逆補正部603は、制御情報312に式(23)を示す階調補正識別子326を検出した場合、式(25)の階調逆補正を実行する。
区間SC321において正の傾きが一定となるような階調逆補正を実行することで、階調逆補正された復元RAW画像データでの光学的黒値OB付近の符号化歪抑制効果を大きくできるとともに、当該暗部で発生するノイズを低減することができるので、色再現性の向上を図ることができる。
実施例7は、実施例2の他の例であり、光学的黒値OB以下の入力信号レベルEを再現しつつ、実施例1の光学的黒値を用いた場合の階調補正の入出力特性例2のように光学的黒値OBのゲインGを最大化する例である。実施例7では、実施例2との相違点を中心に説明し、実施例2と同一構成および同一処理内容については、実施例7でも流用し、かつ、その説明を省略する。
図33は、光学的黒値を用いた場合の階調補正の入出力特性8を示すグラフである。光学的黒値を用いた場合の階調補正の入出力特性例8では、光学的黒値を用いた場合の階調補正の入出力特性例1,2と異なり、階調補正部201が、光学的黒値OBよりも低い入力信号レベルEについて負の階調補正、すなわち、負の1/γ補正を実行し、光学的黒値OB以上の入力信号レベルEについて正の階調補正、すなわち、正の1/γ補正を実行する。
具体的には、たとえば、入出力特性グラフ3300のうち、区間SC9の波形3301は、負の1/γ補正により得られる波形であり、光学的黒値OB以上の区間の波形3302は、正の1/γ補正により得られる波形である。
図33の入出力特性グラフ3300を示す階調補正アルゴリズムは、下記式(26)で表現される。
ただし、EはRAW画像データの信号レベル(入力信号レベル)、E´は階調補正RAW画像データの信号レベル(出力信号レベル)、OETF[]は階調補正関数、OBは光学的黒値、γはガンマ値、αは、設定部204で調整可能なフィッティング係数である。具体的には、たとえば、設定部204は、情報処理装置100でのISO感度の増減に応じてフィッティング係数αを調整することが可能である。
式(26)のうち、条件がE<OBである場合の式が負の1/γ補正の式であり、条件がOB≦Eである場合の式が正の1/γ補正の式である。階調補正部201は、式(26)の階調補正アルゴリズムを示す階調補正識別子326を符号化部202に出力し、符号化部202は、階調補正部201からの階調補正識別子326をヘッダ情報301内の制御情報312として付与する。
区間SC9において負の1/γ補正を実行することで、階調補正されたRAW画像データでの光学的黒値OB付近の色再現性の向上を図ることができる。すなわち、入出力特性グラフ3300の光学的黒値OB付近において、光学的黒値OBよりも入力信号レベルEが小さい側(マイナス方向)のノイズと光学的黒値OBよりも入力信号レベルEが大きい側(プラス方向)のノイズとがノイズリダクション処理で相殺されるため、実施例1よりも効率的にノイズを除去することができる。したがって、階調補正されたRAW画像データの光学的黒値OB付近の黒浮きを抑制し、色再現性の向上を図ることができる。
図34は、光学的黒値を用いた場合の階調補正の入出力特性8におけるゲイン特性を示すグラフである。光学的黒値OBを用いた場合の階調補正における入力信号レベルEのゲイン特性グラフ3400は、式(26)の微分により、下記式(27)で表現される。
Gは、入力信号レベルEのゲインである。具体的には、たとえば、ゲイン特性グラフ3400では、ゲインGは、区間SC9において、入力信号レベルEが0.0で最小値をとり、0.0から増加して光学的黒値OBで最大値(無限大)となる。
また、階調補正で暗部のゲインGを大きくすることで、符号化部202と復号部602との間で生じる暗部の歪が抑制される。これにより、現像処理や画像調整時に、暗部の絵柄を見易くする等の理由で暗部を明るく表現しても、暗部の歪が目立ち難くなる。
図35は、光学的黒値を用いる場合の階調逆補正の入出力特性8を示すグラフである。階調逆補正部603は、階調補正RAW画像データの特定の入力信号レベルE´の値β以上について正の階調逆補正、すなわち、正のγ補正を実行し、βよりも低い入力信号レベルについて負の階調逆補正、すなわち、負のγ補正を実行する。
区間SC351を、入力信号レベルE´が0.0から式(10)に示したβまでの区間とし、区間SC352を、入力信号レベルE´がβから1.0までの区間とする。具体的には、たとえば、入出力特性グラフ3500のうち、区間SC351の波形3501は、負のγ補正により得られる波形であり、区間SC352の波形3502は、正のγ補正により得られる波形である。
図35の入出力特性グラフ3500を示す階調逆補正アルゴリズムは、下記式(28)で表現される。
ただし、E´は階調補正RAW画像データの信号レベル(入力信号レベル)、Eは復元されたRAW画像データの信号レベル(出力信号レベル)、EOTF[]は階調逆補正関数である。式(28)のうち、条件がE´<βである場合の式が負のγ補正の式であり、条件がβ≦E´である場合の式が正のγ補正の式である。階調逆補正部603は、制御情報312に式(26)を示す階調補正識別子326を検出した場合、式(28)の階調逆補正を実行する。
区間SC351において負のγ補正を実行することで、階調逆補正された復元RAW画像データでの光学的黒値OB付近の符号化歪抑制効果を大きくできるとともに、当該暗部で発生するノイズを低減することができるので、色再現性の向上を図ることができる。
実施例8は、実施例7において、フィッティング係数を2個用いる例を示す。具体的には、たとえば、実施例7では、入出力特性グラフ3300において入力信号レベルEがOB以上(OB≦E)となる区間SC27で、フィッティング係数であるαを調整可能とした。実施例8では、入力信号レベルEがOB未満(E<OB)となる区間SC9およびOB以上(OB≦E)となる区間SC27の各々で、異なるフィッティング係数を用いる。実施例8では、実施例7との相違点を中心に説明し、実施例7と同一構成および同一処理内容については、実施例8でも流用し、かつ、その説明を省略する。
図36は、光学的黒値を用いた場合の階調補正の入出力特性9を示すグラフである。光学的黒値を用いた場合の階調補正の入出力特性例9では、入出力特性例8と同様、光学的黒値を用いた場合の階調補正の入出力特性例1,2と異なり、階調補正部201が、光学的黒値OBよりも低い入力信号レベルEについて負の階調補正、すなわち、負の1/γ補正を実行し、光学的黒値OB以上の入力信号レベルEについて正の階調補正、すなわち、正の1/γ補正を実行する。
具体的には、たとえば、入出力特性グラフ3600のうち、区間SC9の波形3601は、負の1/γ補正により得られる波形であり、光学的黒値OB以上の区間SC27の波形3602は、正の1/γ補正により得られる波形である。
図36の入出力特性グラフ3600を示す階調補正アルゴリズムは、下記式(29)で表現される。
ただし、EはRAW画像データの信号レベル(入力信号レベル)、E´は階調補正RAW画像データの信号レベル(出力信号レベル)、OETF[]は階調補正関数、OBは光学的黒値、γはガンマ値、α1およびα2は調整可能なフィッティング係数である。α2は、α1とは異なるフィッティング係数であり、α1に依存する。
設定部204は、情報処理装置100でのISO感度の増減に応じてフィッティング係数αを調整することが可能である。これにより、区間SC9においてフィッティング係数α1で入出力特性グラフ3600の調整が可能となり、かつ、OB≦Eの区間SC27においてフィッティング係数α1とは異なる値のフィッティング係数α2で入出力特性グラフ3600の調整が可能となる。
式(29)のうち、条件がE<OBである場合の式が負の1/γ補正の式であり、条件がOB≦Eである場合の式が正の1/γ補正の式である。階調補正部201は、式(29)の階調補正アルゴリズムを示す階調補正識別子326を符号化部202に出力し、符号化部202は、階調補正部201からの階調補正識別子326をヘッダ情報301内の制御情報312として付与する。
区間SC9において負の1/γ補正を実行することで、階調補正されたRAW画像データでの光学的黒値OB付近の色再現性の向上を図ることができる。すなわち、入出力特性グラフ3600の光学的黒値OB付近において、光学的黒値OBよりも入力信号レベルEが小さい側(マイナス方向)のノイズと光学的黒値OBよりも入力信号レベルEが大きい側(プラス方向)のノイズとがノイズリダクション処理で相殺されるため、実施例1よりも効率的にノイズを除去することができる。したがって、階調補正されたRAW画像データの光学的黒値OB付近の黒浮きを抑制し、色再現性の向上を図ることができる。
図37は、光学的黒値を用いた場合の階調補正の入出力特性9におけるゲイン特性を示すグラフである。光学的黒値OBを用いた場合の階調補正における入力信号レベルEのゲイン特性グラフ3700は、式(29)の微分により、下記式(30)で表現される。
Gは、入力信号レベルEのゲインである。具体的には、たとえば、ゲイン特性グラフ3700では、ゲインGは、区間SC9において、入力信号レベルEが0.0で最小値をとり、0.0から増加して光学的黒値OBで最大値(無限大)となる。
また、階調補正で暗部のゲインGを大きくすることで、符号化部202と復号部602との間で生じる暗部の歪が抑制される。これにより、現像処理や画像調整時に、暗部の絵柄を見易くする等の理由で暗部を明るく表現しても、暗部の歪が目立ち難くなる。
図38は、光学的黒値を用いる場合の階調逆補正の入出力特性9を示すグラフである。階調逆補正部603は、階調補正RAW画像データの特定の入力信号レベルE´の値β以上について正の階調逆補正、すなわち、正のγ補正を実行し、βよりも低い入力信号レベルについて負の階調逆補正、すなわち、負のγ補正を実行する。
区間SC381を、入力信号レベルE´が0.0から式(10)に示したβまでの区間とし、区間SC382を、入力信号レベルE´がβから1.0までの区間とする。具体的には、たとえば、入出力特性グラフ3800のうち、区間SC381の波形3801は、負のγ補正により得られる波形であり、区間SC382の波形3802は、正のγ補正により得られる波形である。
図38の入出力特性グラフ3800を示す階調逆補正アルゴリズムは、下記式(31)で表現される。
ただし、E´は階調補正RAW画像データの信号レベル(入力信号レベル)、Eは復元されたRAW画像データの信号レベル(出力信号レベル)、EOTF[]は階調逆補正関数である。式(31)のうち、条件がE´<βである場合の式が負のγ補正の式であり、条件がβ≦E´である場合の式が正のγ補正の式である。階調逆補正部603は、制御情報312に式(29)を示す階調補正識別子326を検出した場合、式(31)の階調逆補正を実行する。
区間SC381において負のγ補正を実行することで、階調逆補正された復元RAW画像データでの光学的黒値OB付近の符号化歪抑制効果を大きくできるとともに、当該暗部で発生するノイズを低減することができるので、色再現性の向上を図ることができる。
以上説明したように、本実施例によれば、階調補正による暗部符号化歪を抑制することができる。また、たとえば、現像処理や画像調整時に、暗部の絵柄を見易くする等の理由で暗部を明るく表現する場合、階調補正で暗部のゲインGを大きくすることで、符号化部202と復号部602との間で生じる暗部の歪を抑制することができる。これにより、現像処理や画像調整時に、暗部の絵柄を見易くする等の理由で暗部を明るく表現しても、暗部の歪が目立ち難くなる。また、階調逆補正により元のRAW画像データに復元することができる。
100 情報処理装置、153 撮像素子、161 有効画素領域、162 光学的黒画素領域、200 符号化装置、201 階調補正部、202 符号化部、203 記録部、204 設定部、312 制御情報、326 階調補正識別子、600 復号装置、601 取得部、602 復号部、603 階調逆補正部
Claims (1)
- 光学的黒を有する撮像素子からのRAW画像データを、ガンマ係数と前記光学的黒の値とに基づいて階調補正する補正部と、
前記補正部によって階調補正された階調補正RAW画像データを符号化する符号化部と、を有し、
前記補正部は、前記RAW画像データの入力信号レベルが前記光学的黒の値よりも低い第1区間について第1の階調補正を実行し、前記RAW画像データの入力信号レベルが前記光学的黒の値から最大値までの少なくとも一部である第2区間について第2の階調補正を実行する、符号化装置。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018005212 | 2018-01-16 | ||
JP2018005212 | 2018-01-16 | ||
JP2019566488A JP7226337B2 (ja) | 2018-01-16 | 2019-01-16 | 符号化装置、復号装置、符号化方法、復号方法、符号化プログラム、および復号プログラム |
PCT/JP2019/001150 WO2019142836A1 (ja) | 2018-01-16 | 2019-01-16 | 符号化装置、復号装置、符号化方法、復号方法、符号化プログラム、および復号プログラム |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019566488A Division JP7226337B2 (ja) | 2018-01-16 | 2019-01-16 | 符号化装置、復号装置、符号化方法、復号方法、符号化プログラム、および復号プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023052939A true JP2023052939A (ja) | 2023-04-12 |
Family
ID=67302289
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019566488A Active JP7226337B2 (ja) | 2018-01-16 | 2019-01-16 | 符号化装置、復号装置、符号化方法、復号方法、符号化プログラム、および復号プログラム |
JP2023016588A Pending JP2023052939A (ja) | 2018-01-16 | 2023-02-07 | 符号化装置、復号装置、符号化方法、復号方法、符号化プログラム、および復号プログラム |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019566488A Active JP7226337B2 (ja) | 2018-01-16 | 2019-01-16 | 符号化装置、復号装置、符号化方法、復号方法、符号化プログラム、および復号プログラム |
Country Status (5)
Country | Link |
---|---|
US (3) | US11146772B2 (ja) |
EP (1) | EP3742736A4 (ja) |
JP (2) | JP7226337B2 (ja) |
CN (3) | CN117579835A (ja) |
WO (1) | WO2019142836A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7226337B2 (ja) * | 2018-01-16 | 2023-02-21 | 株式会社ニコン | 符号化装置、復号装置、符号化方法、復号方法、符号化プログラム、および復号プログラム |
Family Cites Families (30)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6437178A (en) * | 1987-08-01 | 1989-02-07 | Sharp Kk | Digital video camera |
US5926562A (en) * | 1995-06-23 | 1999-07-20 | Fuji Photo Film Co., Ltd. | Image processing method using reference values to determine exposure state |
US6978045B1 (en) * | 1998-10-02 | 2005-12-20 | Minolta Co., Ltd. | Image-processing apparatus |
JP2001037178A (ja) * | 1999-07-16 | 2001-02-09 | Okuma Corp | 電動機の回転子 |
US6738510B2 (en) * | 2000-02-22 | 2004-05-18 | Olympus Optical Co., Ltd. | Image processing apparatus |
US7382402B2 (en) * | 2002-07-24 | 2008-06-03 | Matsushita Electric Industrial Co., Ltd. | Imaging system |
JP4439173B2 (ja) * | 2002-10-04 | 2010-03-24 | 富士フイルム株式会社 | デジタルカメラ及び情報端末 |
US7643675B2 (en) * | 2003-08-01 | 2010-01-05 | Microsoft Corporation | Strategies for processing image information using a color information data structure |
JP4118213B2 (ja) * | 2003-09-24 | 2008-07-16 | シャープ株式会社 | 画像圧縮方法、画像圧縮装置、撮像装置、処理箇所特定方法、処理箇所特定器及びコンピュータプログラム |
JP2006270478A (ja) | 2005-03-24 | 2006-10-05 | Fuji Photo Film Co Ltd | ディジタル・カメラ,画像再生装置およびそれらの制御方法ならびに画像再生装置を制御するプログラム |
EP1998571A1 (en) * | 2006-03-20 | 2008-12-03 | Sony Corporation | Image signal processing device and image signal processing method |
JP4677391B2 (ja) | 2006-10-26 | 2011-04-27 | キヤノン株式会社 | 画像処理装置、画像処理装置の制御方法、コンピュータプログラム、及び記憶媒体 |
JP4797949B2 (ja) * | 2006-11-24 | 2011-10-19 | ソニー株式会社 | 撮像装置、画像処理装置、方法およびプログラム |
JP4835525B2 (ja) * | 2007-07-04 | 2011-12-14 | ソニー株式会社 | 画像処理装置、画像処理方法及びプログラム |
JP4976266B2 (ja) * | 2007-12-05 | 2012-07-18 | 株式会社リコー | 画像処理装置、画像処理方法及びプログラム |
JP4964830B2 (ja) * | 2008-06-11 | 2012-07-04 | 富士フイルム株式会社 | 全方位撮像装置及び全方位画像の撮像制御方法 |
JP2010124114A (ja) * | 2008-11-18 | 2010-06-03 | Nikon Corp | デジタルカメラおよび画像データ処理プログラム |
EP2406959B1 (en) * | 2009-03-13 | 2015-01-14 | Dolby Laboratories Licensing Corporation | Layered compression of high dynamic range, visual dynamic range, and wide color gamut video |
JP2011188083A (ja) * | 2010-03-05 | 2011-09-22 | Sony Corp | 情報処理装置、情報処理方法、プログラム、及び光学顕微鏡を搭載した撮像装置 |
CN103891294B (zh) * | 2011-04-28 | 2017-09-01 | 皇家飞利浦有限公司 | 用于hdr图像编码和解码的装置与方法 |
US9854247B2 (en) * | 2012-07-09 | 2017-12-26 | Nikon Corporation | Moving image compression device, moving image decoding device, image compression device, image decoding device, imaging device, and non-transitory medium storing program |
CN104125379B (zh) * | 2013-04-23 | 2018-05-04 | 奥林巴斯株式会社 | 摄像装置 |
US10356442B2 (en) * | 2013-11-01 | 2019-07-16 | Sony Corporation | Image processing apparatus and method |
JP6242171B2 (ja) * | 2013-11-13 | 2017-12-06 | キヤノン株式会社 | 画像処理装置、画像処理方法、プログラム |
US10015525B2 (en) * | 2014-10-27 | 2018-07-03 | Dolby Laboratories Licensing Corporation | Content mapping using extended color range |
AU2015207825A1 (en) | 2015-07-28 | 2017-02-16 | Canon Kabushiki Kaisha | Method, apparatus and system for encoding video data for selected viewing conditions |
JP6652301B2 (ja) * | 2016-01-27 | 2020-02-19 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
KR102555407B1 (ko) | 2016-06-30 | 2023-07-14 | 엘지디스플레이 주식회사 | 플렉서블 유기발광 다이오드 표시장치 |
JP7213616B2 (ja) * | 2017-12-26 | 2023-01-27 | 株式会社Preferred Networks | 情報処理装置、情報処理プログラム及び情報処理方法。 |
JP7226337B2 (ja) * | 2018-01-16 | 2023-02-21 | 株式会社ニコン | 符号化装置、復号装置、符号化方法、復号方法、符号化プログラム、および復号プログラム |
-
2019
- 2019-01-16 JP JP2019566488A patent/JP7226337B2/ja active Active
- 2019-01-16 CN CN202311512979.6A patent/CN117579835A/zh active Pending
- 2019-01-16 CN CN202311512390.6A patent/CN117579834A/zh active Pending
- 2019-01-16 CN CN201980019570.6A patent/CN111886872B/zh active Active
- 2019-01-16 EP EP19741066.5A patent/EP3742736A4/en active Pending
- 2019-01-16 US US16/962,785 patent/US11146772B2/en active Active
- 2019-01-16 WO PCT/JP2019/001150 patent/WO2019142836A1/ja unknown
-
2021
- 2021-09-21 US US17/480,727 patent/US11895447B2/en active Active
-
2023
- 2023-02-07 JP JP2023016588A patent/JP2023052939A/ja active Pending
- 2023-11-21 US US18/515,575 patent/US20240089419A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
US11146772B2 (en) | 2021-10-12 |
CN111886872A (zh) | 2020-11-03 |
CN117579834A (zh) | 2024-02-20 |
JPWO2019142836A1 (ja) | 2021-01-28 |
JP7226337B2 (ja) | 2023-02-21 |
CN111886872B (zh) | 2023-12-01 |
US11895447B2 (en) | 2024-02-06 |
WO2019142836A1 (ja) | 2019-07-25 |
EP3742736A4 (en) | 2021-12-08 |
EP3742736A1 (en) | 2020-11-25 |
US20220006993A1 (en) | 2022-01-06 |
US20210014464A1 (en) | 2021-01-14 |
CN117579835A (zh) | 2024-02-20 |
US20240089419A1 (en) | 2024-03-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8233060B2 (en) | Image data processing apparatus, image data processing method, and program | |
JP4799438B2 (ja) | 画像記録装置、画像記録方法、画像符号化装置、及びプログラム | |
JP4682990B2 (ja) | カメラ画像圧縮処理装置及び圧縮処理方法 | |
US9854167B2 (en) | Signal processing device and moving image capturing device | |
KR101579736B1 (ko) | 노이즈 저감 장치, 노이즈 저감 방법 및 컴퓨터 판독가능 저장매체 | |
US11336896B2 (en) | Image encoding apparatus and image decoding apparatus, methods of controlling the same, and non-transitory computer-readable storage medium | |
KR20080095084A (ko) | 영상 잡음 제거 장치 및 방법 | |
US20240089419A1 (en) | Encoder, decoder, encoding method, decoding method, and recording medium | |
JP2011171842A (ja) | 画像処理装置及び画像処理プログラム | |
JP6906324B2 (ja) | 符号化装置、符号化方法、及び、プログラム | |
JP2015023498A (ja) | 画像符号化装置、画像符号化方法およびプログラム | |
JP5213604B2 (ja) | 撮像装置 | |
JP2006166108A (ja) | 撮像装置および撮像制御方法 | |
US10516896B2 (en) | Encoding device, encoding method, and storage medium | |
JP6152642B2 (ja) | 動画像圧縮装置、動画像復号装置およびプログラム | |
JP5165084B2 (ja) | 画像符号化装置 | |
JP2008103928A (ja) | 撮像装置 | |
JP2017200199A (ja) | 動画像圧縮装置、動画像復号装置およびプログラム | |
KR100771138B1 (ko) | 촬영 장치 및 영상 보정 방법 | |
JP2006197181A (ja) | 固体撮像素子の信号処理装置および信号処理方法、並びに画像処理装置 | |
JP5299910B2 (ja) | 撮像装置及び撮像方法 | |
JP2019036992A (ja) | 圧縮装置、復号装置およびプログラム | |
JP2011029690A (ja) | 電子カメラ及び画像符号化方法 | |
JP2020005093A (ja) | 撮像装置、撮像装置の制御方法、及びプログラム | |
JP2010118942A (ja) | 画像処理装置及び撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230207 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240109 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20240307 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20240702 |