JP2018056969A - 画像処理装置 - Google Patents
画像処理装置 Download PDFInfo
- Publication number
- JP2018056969A JP2018056969A JP2016194771A JP2016194771A JP2018056969A JP 2018056969 A JP2018056969 A JP 2018056969A JP 2016194771 A JP2016194771 A JP 2016194771A JP 2016194771 A JP2016194771 A JP 2016194771A JP 2018056969 A JP2018056969 A JP 2018056969A
- Authority
- JP
- Japan
- Prior art keywords
- raw image
- image
- raw
- unit
- conversion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000007906 compression Methods 0.000 claims abstract description 42
- 230000006835 compression Effects 0.000 claims abstract description 38
- 238000006243 chemical reaction Methods 0.000 claims description 133
- 238000003384 imaging method Methods 0.000 claims description 19
- 230000009466 transformation Effects 0.000 claims description 4
- 230000006837 decompression Effects 0.000 claims description 2
- 238000003672 processing method Methods 0.000 claims description 2
- 230000006866 deterioration Effects 0.000 abstract description 7
- 238000000034 method Methods 0.000 description 14
- 230000008569 process Effects 0.000 description 9
- 238000013139 quantization Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 5
- 230000015572 biosynthetic process Effects 0.000 description 3
- 238000000354 decomposition reaction Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G06T5/92—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
- G06T3/40—Scaling the whole image or part thereof
- G06T3/4015—Demosaicing, e.g. colour filter array [CFA], Bayer pattern
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/21—Intermediate information storage
- H04N1/2104—Intermediate information storage for one or a few pictures
- H04N1/2112—Intermediate information storage for one or a few pictures using still video cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2101/00—Still video cameras
Abstract
【課題】RAW画像を圧縮する場合であっても、画像調整による画質劣化を抑制することを可能とする技術を提供する。
【解決手段】画像処理装置であって、第1のRAW画像の現像処理を行なう現像処理手段と、現像処理された前記第1のRAW画像を出力する出力手段と、第2のRAW画像を圧縮し、圧縮された状態の第2のRAW画像を生成するRAW圧縮手段と、前記圧縮された前記第2のRAW画像を記憶媒体に書き込む制御手段とを備え、前記第1のRAW画像と前記第2のRAW画像とは、同一のRAW画像から得られる画像であって、かつ、前記第2のRAW画像は、前記第1のRAW画像よりも暗部の画素のレベルがより持ち上げられていることを特徴とする。
【選択図】 図1
【解決手段】画像処理装置であって、第1のRAW画像の現像処理を行なう現像処理手段と、現像処理された前記第1のRAW画像を出力する出力手段と、第2のRAW画像を圧縮し、圧縮された状態の第2のRAW画像を生成するRAW圧縮手段と、前記圧縮された前記第2のRAW画像を記憶媒体に書き込む制御手段とを備え、前記第1のRAW画像と前記第2のRAW画像とは、同一のRAW画像から得られる画像であって、かつ、前記第2のRAW画像は、前記第1のRAW画像よりも暗部の画素のレベルがより持ち上げられていることを特徴とする。
【選択図】 図1
Description
本発明は、画像処理装置、画像処理方法、プログラムに関する。
画像符号化復号装置では、撮像センサによって撮像された生の画像情報(RAW画像)をデベイヤー処理(デモザイク処理)し、輝度と色差から成る信号に変換して、各信号についてノイズ除去、光学的な歪補正、画像の適正化などの所謂現像処理を行っている。そして、現像処理された輝度信号及び色差信号を圧縮符号化して、記憶媒体に記録するのが一般的である。
一方で、RAW画像を記録できる装置も存在する。RAW画像は記録に必要なデータ量が膨大になるが、オリジナル画像に対する補正や劣化を最低限に抑えられ、撮影後に編集できる利点があるので、上級者によって好んで使われている。ただし、RAW画像はデータ量が膨大であるため、限りある記憶媒体に少しでも多くの画像を記録出来るようデータ量を抑えたい。このため、RAW画像を圧縮することでデータ量を抑える。しかし、撮影条件によっては圧縮処理により画質劣化を招くことがある。
特許文献1は、画質劣化を抑えるため、人間視覚システムの特性に応じて量子化を変更する技術が提案されている。
しかしながら、上記提案技術では、現像処理等による画像調整により画質劣化が発生してしまうことがある。そこで、本発明は、RAW画像を圧縮する場合であっても、画像調整による画質劣化を抑制することを可能とする技術を提供する。
上記課題を解決するための発明は、画像処理装置であって、
第1のRAW画像の現像処理を行なう現像処理手段と、
現像処理された前記第1のRAW画像を出力する出力手段と、
第2のRAW画像を圧縮し、圧縮された状態の第2のRAW画像を生成するRAW圧縮手段と、
前記圧縮された前記第2のRAW画像を記憶媒体に書き込む制御手段と
を備え、
前記第1のRAW画像と前記第2のRAW画像とは、同一のRAW画像から得られる画像であって、かつ、前記第2のRAW画像は、前記第1のRAW画像よりも暗部の画素のレベルがより持ち上げられていることを特徴とする。
第1のRAW画像の現像処理を行なう現像処理手段と、
現像処理された前記第1のRAW画像を出力する出力手段と、
第2のRAW画像を圧縮し、圧縮された状態の第2のRAW画像を生成するRAW圧縮手段と、
前記圧縮された前記第2のRAW画像を記憶媒体に書き込む制御手段と
を備え、
前記第1のRAW画像と前記第2のRAW画像とは、同一のRAW画像から得られる画像であって、かつ、前記第2のRAW画像は、前記第1のRAW画像よりも暗部の画素のレベルがより持ち上げられていることを特徴とする。
本発明によれば、RAW画像を圧縮する場合であっても、画像調整による画質劣化を抑制することができる。
[実施形態1]
以下、図面を参照しながら、発明の実施形態1を詳細に説明する。図1は、発明の実施形態に係る画像処理装置100の構成例を示すブロック図である。
以下、図面を参照しながら、発明の実施形態1を詳細に説明する。図1は、発明の実施形態に係る画像処理装置100の構成例を示すブロック図である。
当該画像処理装置100は、例えばデジタルカメラ、デジタルビデオカメラとして実現することができる。また、それ以外に、例えばパーソナルコンピュータ、携帯電話、スマートフォン、PDA、タブレット端末、携帯型メディアプレーヤなどの任意の情報処理端末或いは撮像装置として実現することもできる。なお、図1は、デジタルカメラ等として機能する場合を考慮して撮像センサ部102を含む構成を示した。しかし、発明の実施形態として、RAW画像を圧縮し、記録することが可能な画像符号化復号化装置、画像記録装置、画像圧縮装置等として、撮像センサ部102を有しない構成で実現してもよい。
また、図1に示す画像処理装置100の構成において、撮像素子や表示素子のような物理的デバイスを除き、各ブロックは専用ロジック回路やメモリを用いてハードウェア的に構成されてもよい。或いは、メモリに記憶されている処理プログラムをCPU等のコンピュータが実行することにより、ソフトウェア的に構成されてもよい。
図1において、制御部150は、装置全体の制御を司るものであり、CPU、そのCPUが実行するプログラムを格納したROM、さらにはワークエリアとして使用するRAMを含む。この制御部150は、ユーザからの指示入力を受け付ける操作部151と接続されている。
図示の構成において、操作部151を介してユーザが撮影指示を入力すると、制御部150の制御下にて、撮像対象となる被写体の光学像が撮像光学部101を介して入力され、撮像センサ部102上に結像する。撮像センサ部102は、画素毎に配置される赤、緑、青(RGB)のカラーフィルターを透過した光を電気信号に変換する。
当該カラーフィルターの例を図2(a)に示す。図2(a)は、撮像センサ部102に配置されるカラーフィルターの一例を示す図であり、画像処理装置100が扱う画像の画素配列を表している。図2(a)に示すように、赤(R)、緑(G)、青(B)が画素毎にモザイク状に配置されていて、2×2の4画素につき赤1画素、青1画素、緑2画素を1セットにして規則的に並べられた構造となっている。このような画素の配置は、一般にベイヤー配列と呼ばれている。
撮像センサ部102によって変換された電気信号は、センサ信号処理部103によって画素の修復処理が施される。修復処理には、撮像センサ部102における欠落画素や信頼性の低い画素の値に対し、周辺画素値を用いて修復対象の画素を補間したり、所定のオフセット値を減算したりする処理が含まれる。本実施形態では、センサ信号処理部103から出力される画像を、生(未現像)の画像を意味するRAW画像と称す。
センサ信号処理部103から出力されたRAW画像は第1データ変換部104、及びカメラ情報生成部109へ供給される。まず、第1データ変換部104では、入力されたRAW画像のデータ変換が行われる。第1データ変換部104が行なうデータ変換は、ダイナミックレンジを確保し、表示及び編集等に適したデータにするための非線形変換(第1データ変換)である。本実施形態では、非線形変換としてLog変換を用いて説明を行う。図3(a)は、発明の実施形態に対応する第1データ変換部104における非線形変換を示すグラフである。実線が第1データ変換の入出力関係を示し、一点鎖線は変換前を示している。第1データ変換部104では、以下に示す式1に従って、処理対象のRAW画像の各画素の値を変換する。
y1 = a・Log10(b・x + c) + d...式1
y1 = a・Log10(b・x + c) + d...式1
ここで、xはセンサ信号処理部103から出力されたRAW画像の各画素値を表し、yはLog変換後の画素値を表す。a,b,c,dは所定の固定値であり、実数とすることができる。具体的に、aは、変換後の値の取り得る範囲を決定するパラメータである。bは、暗部の画素値の立ち上がりの度合いを決定するためのパラメータであり、bの値が大きいほど暗部の画素値の立ち上がりが急峻になる。cは、主に初期値を決定するために作用するパラメータであり、dは変換後の値の大きさを全体として調整するためのパラメータである。
第1データ変換部104は、図3(a)に対応する変換テーブルを保持しておき、当該変換テーブルに基づいて入力されたRAW画像の各画素値を決定することができる。図3(a)のグラフでは、縦軸が変換前のRAW画像の画素値を表し、横軸は変換後のRAW画像の画素値を表す。本実施形態では8bit(各画素値は0から255までのいずれかの値を取り得る。)のデータで表しているが、ビット幅は何ビットでもよい。本実施形態では、変換後の画像もRAW画像とする。このような第1データ変換により、図3(a)の一点鎖線で示す元の値に対して、値の小さい暗部側が持ち上がると共に、値の大きい高輝度側は、最大値(8ビットで255)に到達しない範囲で値が寝かせられる。
図1に戻ると、第1データ変換部104は、変換したRAW画像(第1RAW画像)を、現像部105と、第2データ変換部110にそれぞれ供給する。現像部105は、入力されたRAW画像の現像処理を行う。現像部105は、RAW画像に対してデベイヤー処理(デモザイク処理)を施し、ホワイトバランス調整を行い、輝度と色差から成る信号に変換して、各信号に含まれるノイズを除去、光学的な歪を補正し、また表示部107の出力特性に応じたガンマ補正を行なって画像を適正化するなどの所謂現像処理を行う。
現像部105には、第1データ変換部104からのRAW画像か、第3データ変換部115からのRAW画像のいずれかが入力される。撮像センサ部102で撮影されたRAW画像を撮影と同時に表示部107で表示する、いわゆるスルー表示(ライブビュー)の場合には第1データ変換部104からのRAW画像が入力される。また、操作部151に対するユーザ操作に応じて記憶媒体113に記憶されたRAW画像を表示部107に表示する場合には、第3データ変換部115からのRAW画像が入力される。
現像部105によって現像処理された画像情報は、表示処理部106を介して表示部107にて表示される。また、現像処理された画像情報は、映像出力端子108により、外部に接続された表示機器に出力されてもよい。映像出力端子108は、例えばHDMIやSDIのような汎用インタフェースを含む。また、図1では簡単のために記載を省略しているが、現像処理された画像情報は不図示の画像処理部に供給されて圧縮符号化されてJPEG等の別のフォーマットの画像に変換されても良い。画像処理部により生成されたJPEG画像等は記憶媒体113に記憶することができる。
カメラ情報生成部109は、センサ信号処理部103、第1データ変換部104及び現像部105から、それぞれRAW画像を取得し、任意の矩形ブロック毎に算出されるレベル平均値の情報やヒストグラム等を基にカメラ情報を生成する。カメラ情報には、RAW画像における暗部、中間域、高輝度部の範囲を含むことができる。カメラ情報生成部109は、生成したカメラ情報とセンサ信号処理部103から取得したRAW画像を第2データ変換部110へ供給する。
第2データ変換部110は、カメラ情報生成部109から入力されたカメラ情報とRAW画像とに基づき、第1データ変換部104から供給されたRAW画像に対して後段のRAW圧縮部111における圧縮処理に適したデータ変換(第2データ変換)を行う。第2データ変換部110におけるデータ変換処理の詳細は後述する。第2データ変換部110は、データ変換により得られたRAW画像(第2RAW画像)をRAW圧縮部111に供給する。
RAW圧縮部111は供給されたRAW画像に対して圧縮処理を行う。一般に、圧縮処理では高周波成分の情報を削減しても視覚的に分かりづらい。このため、ウェーブレット変換によって高周波成分と低周波成分に分解し、より高い周波数成分の情報を圧縮する方が符号化効率がよいと知られている。
図2(b)は、ウェーブレット変換を垂直、水平フィルタリングをそれぞれ2回施した、分解レベル2の場合のサブバンド形成図である。図において、Lv1が高周波成分であるため、Lv1の情報を量子化等により削減する。RAW圧縮部111では、ウェーブレット変換により出力された係数を量子化、差分符号化及びエントロピー符号化等の技術を用いて高能率符号化し、圧縮された状態のRAWファイルに変換する。この際、制御部150は、RAWファイルのヘッダに、復号に必要な情報を含める処理も行う。
ここで第2データ変換部110の動作の詳細を説明する。RAW画像を表示、もしくは別形式のファイル(例えば、JPEG画像ファイル等)に変換する場合に、現像処理及び画像調整を実施することができる。当該現像処理及び画像調整では、黒つぶれ、白飛びを抑えるように階調補正を行う。黒つぶれを抑えるためには黒レベルを決め、更に階調補正を行うことにより暗部を特に持ち上げる処理を行う。従って、RAW圧縮により暗部に圧縮誤差が生じていた場合には、現像処理等で暗部を持ち上げることにより当該圧縮誤差が増大或いは強調されてしまう。このようなRAW圧縮による暗部に生ずる圧縮誤差は、以下のような原理で発生すると考えられる。
例えば、ウェーブレット変換によって出力されたウェーブレット係数を量子化する圧縮処理を行なう場合、暗部は信号レベルが低いためウェーブレット係数が概ね低くなる傾向がある。更に、ウェーブレット係数が小さいと量子化によって係数0となり情報を失ってしまうこともある。この場合、RAW圧縮により暗部の画素値がつぶれてしまい暗部の解像度が得られない。このような画像について現像処理等でさらに暗部を持ち上げる処理を行なうと、上記のように圧縮誤差が強調されてしまうことになる。
そこで、本実施形態ではRAW圧縮部111における圧縮処理に先立って、暗部の圧縮誤差を軽減するためのデータ変換(第2データ変換)を行う。具体的に、第1データ変換部104で得られた変換後のRAW画像の信号レベルについて、暗部を更に持ち上げ、量子化による係数0の発生を抑制する。その際、白飛びを抑えるために高輝度部は最大値を下回るようにデータを寝かせ最大値に張り付く(クリップする)ことを抑制する。
ウェーブレット変換によって出力されたウェーブレット係数を量子化する圧縮処理において、高輝度部は信号レベルが高いためウェーブレット係数が概ね高くなる傾向がある。ウェーブレット係数が大きいとき、量子化を行っても符号量が大きくなってしまう。このため、データ変換を行い、信号レベルを寝かせ、量子化による発生符号量を抑制する。
第2データ変換部110は、以下の式2に従って、処理対象のRAW画像の各画素の値を変換する。ここで処理対象となるRAW画像はセンサ信号処理部103が出力したRAW画像とする。当該処理対象のRAW画像は、上述のようにカメラ情報生成部109から供給されても良い。
y2 = f・Log10(g・x + h) + i...式2
となる。ただし、f,g,h,iは任意の実数である。f,g,h,iの各パラメータは、式1のa, b, c, dにそれぞれ対応する性質を有する。
y2 = f・Log10(g・x + h) + i...式2
となる。ただし、f,g,h,iは任意の実数である。f,g,h,iの各パラメータは、式1のa, b, c, dにそれぞれ対応する性質を有する。
第2データ変換部110は、式1と式2とで得られた結果を合成(加算)して出力することにより第2データ変換を実行する。これは、第1データ変換部104における第1データ変換の実行結果に、式2に基づく変換結果を加算して出力することに相当する。或いは、第1データ変換の実行結果を式2に基づき補正すると言い換えることもできる。第2データ変換部110は、第1データ変換部104における変換結果を補正、修正或いは調整するものであり、その度合いは上記式2に含まれるパラメータによって制御が可能となっている。
本実施形態では、第2データ変換部110はカメラ情報生成部109からカメラ情報として、RAW画像における暗部、中間域、高輝度部の範囲の情報を取得する。よって、第2データ変換部110は処理対象の画素値が暗部、中間部、高輝度部のいずれに属するかに応じて、パラメータの大きさを調整することができる。ここで、RAW画像の各画素が8ビットで0から255の範囲のいずれかの値を取る場合、暗部に属するレベルの小さい画素値における立ち上がりは、上記パラメータbに対応するgを調節することにより制御できる。gが大きい程、暗部の立ち上がりは大きくなるため、その分、第1データ変換結果の調整度合い(補正量)が大きくなる。
よって、第2データ変換部110は、カメラ情報生成部109から取得したカメラ情報により、処理対象の画素値が暗部に属すると判定した場合には、gの値を他の場合よりも大きくすることができる。例えば、暗部、中間部、高輝度部の各パラメータをg1、g2、g3とした場合、g1>g2>g3とすることができる。また、圧縮処理のブロック単位に暗部、中間部、高輝度部の割合を判定し、割合に応じてパラメータgの大きさを決定しても良い。
その他のパラメータについては、例えばf(式1のaに対応)は、変換後の値の取り得る範囲を規定するためのパラメータであり、固定値でも良い。また、h、iについても同様に固定値であっても良い。
第2データ変換部110は上記式1及び式2で得られた結果を合成し、RAW圧縮部111に供給する。ここでの合成は、以下の式3として近似することができる。
y1+ y2 = Y= aLog10(b・x + c) + d+ fLog10(g・x + h) + i
≒j・Log10(k・x2 + m・x + n) + p...式3
ここで、係数k,m,nは、k・x2 + m・x + n = (b・x + c)・(g・x + h)で置換した値であり、pは、p = d + iで置換した値であり、jは、xが最大値のときにyが最大値となる係数である。Yの最大値は、ホワイトレベルである。
y1+ y2 = Y= aLog10(b・x + c) + d+ fLog10(g・x + h) + i
≒j・Log10(k・x2 + m・x + n) + p...式3
ここで、係数k,m,nは、k・x2 + m・x + n = (b・x + c)・(g・x + h)で置換した値であり、pは、p = d + iで置換した値であり、jは、xが最大値のときにyが最大値となる係数である。Yの最大値は、ホワイトレベルである。
図3(b)は、第1データ変換及び第2データ変換の入出力関係を対比したグラフである。実線は第1データ変換における入出力関係を示し、破線が第2データ変換における入出力関係を示す。図3(b)を参照すると、縦軸で示される変換後のRAW画像の画素値は、第2データ変換部110による第2データ変換後の方が値が大きくなっている。特に、変換後の値が150に到達する変換前の値は第1データ変換では約50なのに対し、第2データ変換ではその半分の約25となっており、第2データ変換の方がより暗部の立ち上がりが急峻となっている。これにより、暗部であっても信号レベルが高くなるのでウェーブレット係数の低下を解消し、量子化処理における係数0の発生を抑制することができる。
第2データ変換部110は、図3(b)に対応する変換テーブルを保持しておき、当該変換テーブルに基づいて入力されたRAW画像の各画素値を決定することができる。また、図3(b)に対応するテーブルは、カメラ情報に応じた複数パターンのテーブル、例えば暗部の割合が多いブロックに適用するテーブルや、高輝度部の割合が多いブロックに適用するテーブル等を用意しておくことができる。
図1に戻り、処理の説明を行う。RAW圧縮部111では、第2データ変換部110から出力された変換後のRAW画像に対して圧縮処理を行なう。本実施形態では、ウェーブレット変換(周波数変換の1つ)を実行する。ウェーブレット変換では、サブバンドに分解され、サブバンド毎にサブバンド係数が出力される。出力された係数を量子化及びエントロピー符号化等の技術を用いて高能率符号化し、圧縮された状態のRAWファイルに変換する。この際、制御部150は、RAWファイルのヘッダに、復号に必要な情報を含める処理も行う。
図4(a)はRAWファイルのファイルフォーマットの一例である。図において、RAWファイルはヘッダ部とデータ部とに分かれており、ヘッダ部はメインヘッダ部とサブヘッダ部とを含む。サブヘッダ部は複数のプレーンヘッダ部を含むように構成され、各プレーンヘッダ部には複数のサブバンドヘッダ部が含まれる。データ部は複数のプレーンデータを含み、各プレーンデータは複数のサブバンドデータを含むように構成されている。プレーンヘッダ及びサブバンドヘッダには、プレーンデータとサブバンドデータに対応する情報が含まれている。
図4(b)はメインヘッダ部のデータ構造の一例を示す。メインヘッダ部には、識別番号、画像サイズ、画像のビット幅、データ変換情報、ウェーブレット変換の分解レベル、ヘッダ長、データ部のアドレス、データ長及びサブヘッダ長が含まれている。データ変換情報には、式2に用いた任意の実数f, g, h, iもしくは、k, m, n, pを含むことができる。或いは、予め定められたテーブルを用いる場合には当該テーブルを特定するための情報を含めることができる。図4(c)はプレーンヘッダ部のデータ構造の一例を示す。プレーンヘッダ識別番号、ヘッダ長、データ部のアドレス及びデータ長、サブバンド数及びサブバンドヘッダが含まれる。図4(d)はサブバンドヘッダ部のデータ構造の一例を示す。サブバンドヘッダ部は識別番号、ヘッダ長、データ部のアドレス及びデータ長が含まれる。
図1に戻り、RAW圧縮部111から出力されたRAWファイルは、バッファ112に保持される。制御部150は、バッファ112が保持するRAWファイルを記憶媒体113に書き込む。記憶媒体113は、内蔵式の大容量メモリやハードディスク、又は、着脱式のメモリカード等である。更にはネットワークを介した記憶装置であってもよい。
ユーザから操作部151を介してRAWファイルを表示部107で再生表示する再生指示を受付けると、制御部150は、記憶媒体113から、ユーザが指定したRAWファイルを記憶媒体113から読み出してバッファ112に書き込む。RAW伸張部114は、バッファ112に格納されているRAWファイルを読みだして、圧縮済みのRAWファイルを復号して伸張する。RAW伸張部114による伸張処理により得られたRAW画像は、第3データ変換部115に入力される。第3データ変換部115では、ファイルヘッダに記載されたデータ変換情報を読み出し、逆変換処理を行う。
第2データ変換部110における第2データ変換はRAW圧縮のために行なった処理であるから、表示部107における表示等のために、この逆変換処理により第1データ変換部104による第1データ変換時のRAW画像に戻す。これにより、スルー表示した場合と記憶媒体113からRAWファイルを読み出して表示する場合とで現像部105における処理を切替える必要もなく、また、処理経路によってRAW画像が異なって表示されることもなくなる。
第3データ変換部115が実行する逆変換は、第1データ変換によるRAW画像(第1RAW画像)と、第2データ変換によるRAW画像(第2RAW画像)との差分に相当する値を、該第2RAW画像から減ずることにより第1RAW画像を得る処理である。具体的には、式3で算出されたデータから式1で算出されたデータへ戻す処理であり、式1をLogAとし、式2をLogBとした場合、LogA+LogBである式3は、Log(A*B)と表せる。式3をLogCとすれば、式3から式1への逆変換は、(LogA+LogB)−LogBであるがLog(C/B)であり、その処理を行えばよい。或いは、予め逆変換用のテーブルを用意しておいても良い。逆変換により得られたRAW画像は、現像部104に入力される。現像部104以降の説明は前述の通りである。
以上のように、本実施形態に対応する画像処理装置では、RAW画像を圧縮処理する場合にRAW画像の特徴に応じてRAW画像の画素値を補正することで、圧縮処理による圧縮誤差の発生を抑制することができる。特に本実施形態では、表示用のRAW画像を生成するための第1データ変換と、当該表示用のRAW画像を記録用のRAW画像に変換するための第2データ変換とを実行し、第2データ変換では、変換対象のRAW画像の特徴に応じて、変換用パラメータを調整する。これにより、RAW画像の特徴に応じて圧縮処理による圧縮誤差の発生を効果的に抑制することができる。特に、暗部における圧縮誤差の発生を抑制することができる。その結果、記憶媒体113に記憶されたRAWファイルを再生する場合であっても、撮影時にスルー表示する場合と同等の表示が可能となる。
[実施形態2]
図5は発明の実施形態2に係る画像処理装置の構成例を示すブロック図である。図5中で、前述の実施形態1で用いた図1と同一構成要素には同一の番号を付している。また、全体的な処理は実施形態1と同様であるので、処理が異なる部分について以下に説明する。
図5は発明の実施形態2に係る画像処理装置の構成例を示すブロック図である。図5中で、前述の実施形態1で用いた図1と同一構成要素には同一の番号を付している。また、全体的な処理は実施形態1と同様であるので、処理が異なる部分について以下に説明する。
センサ信号処理部103から出力されたRAW画像は第4データ変換部501に入力される。第4データ変換部501は、上述の実施形態1における式3に対応するデータ変換を行う。第4データ変換部501で変換されたRAW画像は、RAW圧縮部111に入力される。更にはスイッチ502を介し第5データ変換部503に入力される。この第5データ変換部503は図1の第3データ変換部115と同様の動作を行なう。第5データ変換部503に入力されたRAW画像は、実施形態で記載の式1に対応する値に変換される。第5データ変換部503は生成したRAW画像を現像部105に入力する。
スイッチ502がONの場合には、RAW圧縮部111及びバッファ112を介した記憶媒体113への書き込みと、第5データ変換部503、現像部105、表示処理部106及び表示部107を介したスルー表示とを同時に実施することができる。また、スイッチ502がOFFの場合には、記憶媒体113への記録のみを行って、消費電力を抑えることもできる。また、操作部151に対するユーザ操作に基づいて記憶媒体113から読み出したRAWファイルを表示部107に表示させる場合にも、スイッチ502はOFFとすることができる。
本実施形態でも、実施形態1と同様に、カメラ情報に応じてRAW画像のデータ変換を行なうことで、現像処理等による画像調整を考慮したデータとして、圧縮処理による画像の画質劣化を抑制することができる。
本実施形態でも、実施形態1と同様に、カメラ情報に応じてRAW画像のデータ変換を行なうことで、現像処理等による画像調整を考慮したデータとして、圧縮処理による画像の画質劣化を抑制することができる。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
101 撮像光学部、102 撮像センサ部、103 センサ信号処理部、104 第1データ変換部、105 現像部、106 表示処理部、107 表示部、108 映像出力端子、109 カメラ情報生成部、110 第2データ変換部、111 RAW圧縮部、112 バッファ、113 記憶媒体、114 RAW伸張部、115 第3データ変換部、150 制御部、151 操作部
Claims (14)
- 第1のRAW画像の現像処理を行なう現像処理手段と、
現像処理された前記第1のRAW画像を出力する出力手段と、
第2のRAW画像を圧縮し、圧縮された状態の第2のRAW画像を生成するRAW圧縮手段と、
前記圧縮された前記第2のRAW画像を記憶媒体に書き込む制御手段と
を備え、
前記第1のRAW画像と前記第2のRAW画像とは、同一のRAW画像から得られる画像であって、かつ、前記第2のRAW画像は、前記第1のRAW画像よりも暗部の画素のレベルがより持ち上げられていることを特徴とする画像処理装置。 - 撮像手段から出力されたRAW画像を変換して前記第1のRAW画像を生成する第1の変換手段と、
前記撮像手段から出力されたRAW画像を変換して前記第2のRAW画像を生成する第2の変換手段と
を更に備えることを特徴とする請求項1に記載の画像処理装置。 - 前記第2の変換手段は、前記第1のRAW画像に、前記撮像手段から出力されたRAW画像に対する変換結果を合成することにより前記第2のRAW画像を生成し、
前記第2の変換手段による前記変換により前記暗部の画素のレベルを持ち上げる度合いは、前記第1の変換手段による前記変換により前記暗部の画素のレベルを持ち上げる度合いよりも小さいことを特徴とする請求項2に記載の画像処理装置。 - 前記第2の変換手段は前記撮像手段から出力されたRAW画像が有する特徴に応じて前記暗部の画素のレベルを持ち上げる度合いを変更することを特徴とする請求項3に記載の画像処理装置。
- 前記第2の変換手段は前記撮像手段から出力されたRAW画像が暗部を含む割合が高いほど、前記暗部の画素のレベルを持ち上げる度合いを大きくすることを特徴とする請求項4に記載の画像処理装置。
- 前記制御手段が前記記憶媒体から読み出した前記圧縮された前記第2のRAW画像を伸張する伸張手段と、
伸張された前記第2のRAW画像を前記第1のRAW画像に変換する第3の変換手段と
を更に備え、
前記現像処理手段は、前記第3の変換手段により得られた第1のRAW画像に対して前記現像処理を行なうことを特徴とする請求項2から5のいずれか1項に記載の画像処理装置。 - 撮像手段から出力されたRAW画像を変換して前記第2のRAW画像を生成する第4の変換手段と、
前記第2のRAW画像を変換して前記第1のRAW画像を生成する第5の変換手段と
を更に備えることを特徴とする請求項1に記載の画像処理装置。 - 前記第5の変換手段は、前記第1のRAW画像と前記第2のRAW画像との差分に相当する値を、前記第2のRAW画像から減ずることにより前記第1のRAW画像を生成することを特徴とする請求項7に記載の画像処理装置。
- 前記第4の変換手段は、前記撮像手段から出力されたRAW画像に対する第1の非線形変換と第2の非線形変換との合成により前記第2のRAW画像を生成し、
前記第5の変換手段は、前記第2のRAW画像から前記第2の非線形変換の変換結果を減ずることにより前記第1のRAW画像を生成することを特徴とする請求項8に記載の画像処理装置。 - 前記第4の変換手段は前記撮像手段から出力されたRAW画像が有する特徴に応じて前記暗部の画素のレベルを持ち上げる度合いを変更することを特徴とする請求項7から9のいずれか1項に記載の画像処理装置。
- 前記第4の変換手段は前記撮像手段から出力されたRAW画像が暗部を含む割合が高いほど、前記暗部の画素のレベルを持ち上げる度合いを大きくすることを特徴とする請求項10に記載の画像処理装置。
- 撮像手段を更に備えることを特徴とする請求項1から11のいずれか1項に記載の画像処理装置。
- 第1のRAW画像の現像処理を行なう現像処理工程と、
現像処理された前記第1のRAW画像を出力する出力工程と、
第2のRAW画像を圧縮し、圧縮された状態の第2のRAW画像を生成するRAW圧縮工程と、
前記圧縮された前記第2のRAW画像を記憶媒体に書き込む制御工程と
を含み、
前記第1のRAW画像と前記第2のRAW画像とは同一のRAW画像から得られる画像であって、かつ、前記第2のRAW画像は、前記第1のRAW画像よりも暗部の画素のレベルがより持ち上げられていることを特徴とする画像処理方法。 - コンピュータを請求項1から11のいずれか1項に記載の画像処理装置の各手段として機能させることを特徴とするプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016194771A JP6793511B2 (ja) | 2016-09-30 | 2016-09-30 | 画像処理装置 |
US15/718,672 US10497093B2 (en) | 2016-09-30 | 2017-09-28 | Image processing apparatus for minimizing deterioration of image quality of a raw image |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016194771A JP6793511B2 (ja) | 2016-09-30 | 2016-09-30 | 画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018056969A true JP2018056969A (ja) | 2018-04-05 |
JP6793511B2 JP6793511B2 (ja) | 2020-12-02 |
Family
ID=61757107
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016194771A Active JP6793511B2 (ja) | 2016-09-30 | 2016-09-30 | 画像処理装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US10497093B2 (ja) |
JP (1) | JP6793511B2 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108648155A (zh) * | 2018-05-07 | 2018-10-12 | 河北省科学院应用数学研究所 | 基于压缩域的图像增强方法及终端设备 |
CN108717687A (zh) * | 2018-05-07 | 2018-10-30 | 河北省科学院应用数学研究所 | 基于转换压缩的图像增强方法及终端设备 |
JP7446797B2 (ja) | 2019-12-03 | 2024-03-11 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法およびプログラム |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010515326A (ja) * | 2006-12-29 | 2010-05-06 | ノキア コーポレイション | 画像前処理のための方法およびシステム |
US20100328442A1 (en) * | 2009-06-25 | 2010-12-30 | Pixart Imaging Inc. | Human face detection and tracking device |
JP2015179909A (ja) * | 2014-03-18 | 2015-10-08 | キヤノン株式会社 | 撮像装置及びその制御方法 |
JP2015186062A (ja) * | 2014-03-25 | 2015-10-22 | キヤノン株式会社 | 画像合成処理装置 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7142235B2 (en) * | 1998-07-30 | 2006-11-28 | Hewlett-Packard Development Company, L.P. | Opportunistic improvement of digital camera image quality |
US6411740B1 (en) | 1998-11-04 | 2002-06-25 | Sharp Laboratories Of America, Incorporated | Method for non-uniform quantization in a resolution hierarchy by use of a nonlinearity |
US7065257B2 (en) * | 2001-09-03 | 2006-06-20 | Kabushiki Kaisha Toyota Chuo Kenkyusho | Image processing method and apparatus |
US8233747B2 (en) * | 2009-04-03 | 2012-07-31 | Sony Corporation | Method and apparatus for forming super resolution images from raw data representative of color filter array images |
JP2013026744A (ja) * | 2011-07-19 | 2013-02-04 | Sanyo Electric Co Ltd | 電子カメラ |
KR101871945B1 (ko) * | 2013-01-17 | 2018-08-02 | 한화에어로스페이스 주식회사 | 영상 처리 장치 및 방법 |
US9628732B2 (en) * | 2013-08-23 | 2017-04-18 | Semiconductor Components Industries, Llc | Imaging systems and methods for performing column-based image sensor pixel gain adjustments |
JP6242171B2 (ja) * | 2013-11-13 | 2017-12-06 | キヤノン株式会社 | 画像処理装置、画像処理方法、プログラム |
JP2017098845A (ja) * | 2015-11-26 | 2017-06-01 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
-
2016
- 2016-09-30 JP JP2016194771A patent/JP6793511B2/ja active Active
-
2017
- 2017-09-28 US US15/718,672 patent/US10497093B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010515326A (ja) * | 2006-12-29 | 2010-05-06 | ノキア コーポレイション | 画像前処理のための方法およびシステム |
US20100328442A1 (en) * | 2009-06-25 | 2010-12-30 | Pixart Imaging Inc. | Human face detection and tracking device |
JP2015179909A (ja) * | 2014-03-18 | 2015-10-08 | キヤノン株式会社 | 撮像装置及びその制御方法 |
JP2015186062A (ja) * | 2014-03-25 | 2015-10-22 | キヤノン株式会社 | 画像合成処理装置 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108648155A (zh) * | 2018-05-07 | 2018-10-12 | 河北省科学院应用数学研究所 | 基于压缩域的图像增强方法及终端设备 |
CN108717687A (zh) * | 2018-05-07 | 2018-10-30 | 河北省科学院应用数学研究所 | 基于转换压缩的图像增强方法及终端设备 |
JP7446797B2 (ja) | 2019-12-03 | 2024-03-11 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法およびプログラム |
Also Published As
Publication number | Publication date |
---|---|
US20180096456A1 (en) | 2018-04-05 |
JP6793511B2 (ja) | 2020-12-02 |
US10497093B2 (en) | 2019-12-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5965025B2 (ja) | Hdr画像のための画像処理 | |
JP5231529B2 (ja) | ビデオカメラ | |
JP5086067B2 (ja) | 高ダイナミックレンジ画像を符号化するための方法、表現するためのデータ構造、及び符号化装置 | |
JP4083587B2 (ja) | 画質向上方法及びそのための装置 | |
JP2016508700A (ja) | ビデオカメラ | |
US10497093B2 (en) | Image processing apparatus for minimizing deterioration of image quality of a raw image | |
US10142604B2 (en) | Imaging apparatus and control method thereof | |
JP2015195582A (ja) | 画像処理装置及びその制御方法、撮像装置及びその制御方法、並びに、記録媒体 | |
US11483497B2 (en) | Encoding apparatus and method, image capture apparatus, and storage medium | |
JP4941219B2 (ja) | ノイズ抑圧装置、ノイズ抑圧方法、ノイズ抑圧プログラムおよび撮像装置 | |
US10003801B2 (en) | Image capturing apparatus that encodes and method of controlling the same | |
JP6871727B2 (ja) | 撮像装置、画像処理方法、及び、プログラム | |
JP4208767B2 (ja) | 画像処理装置及び画像処理方法 | |
KR101434897B1 (ko) | 화상 처리 장치, 및 화상 처리 장치의 제어 방법 | |
JP2008271411A (ja) | 画像符号化装置、画像符号化装置の制御方法、プログラム、及び記憶媒体 | |
US20240013356A1 (en) | Method for generating high dynamic range image, and image processing system | |
JP7419044B2 (ja) | 符号化装置、撮像装置、制御方法、およびプログラム | |
JP2021103818A (ja) | 画像符号化装置、撮像装置、画像符号化装置の制御方法、及び、プログラム | |
JP2021184575A (ja) | 撮像装置及びその制御方法及びプログラム | |
JP2016005086A (ja) | 画像記録システムおよび画像記録再生装置 | |
JP2021034846A (ja) | 符号化装置及びその制御方法 | |
JP2014220626A (ja) | 撮像装置及びその制御方法、プログラム、記憶媒体 | |
JP2021048522A (ja) | 画像処理装置および画像処理方法 | |
JP2020005067A (ja) | 画像処理装置、撮像装置、画像処理方法、及びプログラム | |
Fischer et al. | A survey on lossy compression of DSC raw data |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190920 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20201012 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20201110 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6793511 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |