JP5589585B2 - 画像処理装置、画像処理方法およびプログラム - Google Patents
画像処理装置、画像処理方法およびプログラム Download PDFInfo
- Publication number
- JP5589585B2 JP5589585B2 JP2010136947A JP2010136947A JP5589585B2 JP 5589585 B2 JP5589585 B2 JP 5589585B2 JP 2010136947 A JP2010136947 A JP 2010136947A JP 2010136947 A JP2010136947 A JP 2010136947A JP 5589585 B2 JP5589585 B2 JP 5589585B2
- Authority
- JP
- Japan
- Prior art keywords
- unit
- value
- gain
- image
- procedure
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000012545 processing Methods 0.000 title claims description 675
- 238000003672 processing method Methods 0.000 title claims description 7
- 238000000034 method Methods 0.000 claims description 267
- 238000004364 calculation method Methods 0.000 claims description 246
- 238000009499 grossing Methods 0.000 claims description 140
- 238000005286 illumination Methods 0.000 claims description 135
- 238000000611 regression analysis Methods 0.000 claims description 57
- 230000008859 change Effects 0.000 claims description 47
- 230000010354 integration Effects 0.000 claims description 45
- 238000003384 imaging method Methods 0.000 claims description 41
- 230000003595 spectral effect Effects 0.000 claims description 38
- 238000006243 chemical reaction Methods 0.000 description 178
- 230000008569 process Effects 0.000 description 132
- 230000006870 function Effects 0.000 description 100
- 208000003443 Unconsciousness Diseases 0.000 description 75
- 230000000875 corresponding effect Effects 0.000 description 57
- 230000002829 reductive effect Effects 0.000 description 53
- 238000012937 correction Methods 0.000 description 49
- 238000010586 diagram Methods 0.000 description 47
- 230000015654 memory Effects 0.000 description 35
- 230000000694 effects Effects 0.000 description 19
- 230000002146 bilateral effect Effects 0.000 description 13
- 230000014509 gene expression Effects 0.000 description 11
- 238000001228 spectrum Methods 0.000 description 10
- 238000005070 sampling Methods 0.000 description 9
- 230000009467 reduction Effects 0.000 description 8
- 238000003860 storage Methods 0.000 description 8
- 229920006395 saturated elastomer Polymers 0.000 description 7
- 230000009471 action Effects 0.000 description 6
- 230000009466 transformation Effects 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 5
- 101100144723 Streptomyces coelicolor (strain ATCC BAA-471 / A3(2) / M145) rnc gene Proteins 0.000 description 4
- 238000007796 conventional method Methods 0.000 description 4
- 239000011159 matrix material Substances 0.000 description 4
- 230000002441 reversible effect Effects 0.000 description 4
- 230000035945 sensitivity Effects 0.000 description 4
- 239000002131 composite material Substances 0.000 description 3
- 230000007423 decrease Effects 0.000 description 3
- 238000001914 filtration Methods 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 230000002596 correlated effect Effects 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 239000013598 vector Substances 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- QSHDDOUJBYECFT-UHFFFAOYSA-N mercury Chemical compound [Hg] QSHDDOUJBYECFT-UHFFFAOYSA-N 0.000 description 1
- 229910052753 mercury Inorganic materials 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000036961 partial effect Effects 0.000 description 1
- 238000011946 reduction process Methods 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 230000003936 working memory Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/88—Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/64—Circuits for processing colour signals
- H04N9/73—Colour balance circuits, e.g. white balance circuits or colour temperature control
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
- Color Television Image Signal Generators (AREA)
- Processing Of Color Television Signals (AREA)
Description
1.第1の実施の形態(乗算によりゲイン適用を行う例)
2.第2の実施の形態(重み付け平滑化によりゲイン適用を行う例)
3.第3の実施の形態(ブロックヒストグラムを利用したエッジ保存型平滑化によりゲイン適用を行う例)
4.第4の実施の形態(入力画像に対して解像度変換を行う例)
5.第5の実施の形態(フレームメモリを利用して入力画像を合成する例)
6.第6の実施の形態(ホワイトバランス処理を照明成分変換処理の前段で行う例)
7.第7の実施の形態(ホワイトバランス処理された入力画像を用いる例)
8.第8の実施の形態(ガンマ補正処理された入力画像を用いる例)
9.第9の実施の形態(重回帰分析を利用して輝度を算出する例)
10.第10の実施の形態(ゲインを利用して平滑化を行う例)
[撮像装置の構成例]
図1は、本発明の実施の形態における撮像装置の一例を示す図である。この撮像装置は、大別して光学系、信号処理系、記録系、表示系、および、制御系から構成される。
図2は、本発明の第1の実施の形態における画像処理回路23の処理機能の一例を示す図である。画像処理回路23は、照明成分変換処理部120と、ホワイトバランス処理部130と、デモザイク処理部140と、階調補正処理部150と、ガンマ補正処理部160と、YC変換処理部170とを備える。この画像処理回路23は、A/D変換回路22によってデジタイズされたモザイク画像を入力画像として画像処理を施すものである。モザイク画像は、各画素にR、G、Bの何れかの色に対応する強度信号が格納されたものであり、その色配列は図3に示すようなベイヤー配列を想定している。なお、モザイク画像は、RAWデータと呼ばれることもある。また、各画素で格納する強度信号は、R、G、Bに限らず、C、M、Y、または、それ以外の色情報でも構わない。
図3は、本発明の実施の形態において想定するモザイク画像の色配列の一例としてのベイヤー配列を示す図である。このベイヤー配列では、Gの色の画素が市松状に配置され、それ以外の画素位置ではRの色の画素が水平方向および垂直方向に1画素おきの正方格子状に配置され、残りの画素位置にBの色の画素が水平方向および垂直方向に1画素おきの正方格子状に配置されている。
図5は、本発明の第1の実施の形態における照明成分変換処理部120の構成例を示す図である。照明成分変換処理部120は、デモザイク処理部221および222と、ホワイトバランス算出部230と、基準画像ホワイトバランス保持部240と、チャンネルゲイン算出部250と、チャンネルゲイン適用部260とを備える。
図6は、本発明の第1の実施の形態におけるチャンネルゲイン算出部250の構成例を示す図である。このチャンネルゲイン算出部250は、色変換ゲイン算出部311および312を備えて、ゲインS(p)を算出する。
I(p)=E(p)・ρ(p)
ただし、
KI(p)=KoG(p)=Gs(p)/Gc(p)
すなわち、
図10は、本発明の実施の形態におけるチャンネルゲイン適用部260の第1の構成例を示す図である。このチャンネルゲイン適用部260の第1の構成例は、乗算部261および262を備える。乗算部261は、デモザイク処理部222からの処理対象画像Is(p)のRs(p)とチャンネルゲイン算出部250からのゲインFSR(p)とを乗算するものである。乗算部262は、デモザイク処理部222からの処理対象画像Is(p)のBs(p)とチャンネルゲイン算出部250からのゲインFSB(p)とを乗算するものである。両者の処理を式に表すと、次式のようになる。
Rl(p)=FSR(p)×Rs(p)
Bl(p)=FSB(p)×Bs(p)
図11は、本発明の実施の形態における撮像装置の動作例を示す図である。まず、フラッシュ発光部61を発光させずに撮像が行われ(ステップS901)、基準画像のモザイク画像Mcとして基準モザイク画像保持部111に格納される(ステップS902)。次に、フラッシュ発光部61を発光させた撮像が行われ(ステップS903)、処理対象画像のモザイク画像Msとして処理対象モザイク画像保持部112に格納される(ステップS904)。
上述の第1の実施の形態においては、乗算部261および262における単純な乗算によりゲイン適用を行った。しかしながら、実際のゲイン適用の際には画素の座標が微妙にずれることがあり、このままでは外乱に対して十分に対応できない場合も生じ得る。そこで、以下では各画素の信頼度に応じて周囲の画素から平滑化を行うことにより、ロバストなゲイン適用を行う例について説明する。なお、前提となる撮像装置および画像処理回路23の構成については第1の実施の形態と同様であるため、説明を省略する。
図15は、本発明の第2の実施の形態における照明成分変換処理部120の構成例を示す図である。この照明成分変換処理部120の構成例は、デモザイク処理部221からの出力がチャンネルゲイン適用部260に入力されている点において、図5により説明した第1の構成例と異なり、この点以外は第1の構成例と同様の構成となっている。したがって、他の構成については説明を省略する。
図16は、本発明の第2の実施の形態におけるチャンネルゲイン適用部260の構成例を示す図である。このチャンネルゲイン適用部260の構成例は、除算部421乃至423と、露出補償部431乃至433と、飽和信頼度算出部440と、黒つぶれ信頼度算出部450と、動被写体信頼度算出部460と、信頼度選択部470と、平滑化処理部480とを備える。
KG(p)=KoG(p)×expCV
KR(p)=KoR(p)×expCV
KB(p)=KoB(p)×expCV
なお、この露出補償処理は、後段の条件判定において露出補償値分のずれを考慮することで省略することができる。
図20は、本発明の第2の実施の形態における動被写体信頼度算出部460の構成例を示す図である。この動被写体信頼度算出部460は、比率逆転度算出部461と、比率予測部462と、分光反射率変化量予測部463と、環境光スペクトル色バランス値保持部464と、フラッシュ光スペクトル色バランス値保持部465と、最小値選択部466とを備える。
Es(p)=E"c(p)+E"pf(p)
したがって、比率Koは次式により表される。
図24は、本発明の第2の実施の形態におけるチャンネルゲイン適用部260の動作例を示す図である。ここでは、以下の処理が各画素を対象として繰り返される(ループL705)。
本発明の第3の実施の形態では、空間軸および輝度軸にて複数に分割した各ブロックで画素頻度値および定義されたある特性値を算出した後、各画素位置と各ブロック間の距離で定義される重みに基づいて、ブロック毎の特性値を重みつき加算する。特性値としては、ブロック毎の内部に含まれる画素のゲインの積分値(総和)や、内部に含まれる画素のゲインの中央値に内部に含まれる画素の画素数を乗じたものなどを用いることができる。この演算を数式で表すと次式のようになる。
図26は、本発明の第3の実施の形態における平滑化処理部480の処理機能例を示す図である。この平滑化処理部480の処理機能例は、乗算部511および512と、輝度算出部521と、非線形変換部522とを備えている。また、この平滑化処理部480の第2の処理機能例は、ブロック積分値算出部531および532と、ブロックヒストグラム算出部533と、ブロック積分値保持部541および542と、ブロックヒストグラム保持部543とを備えている。また、この平滑化処理部480の第2の処理機能例は、位相補償処理部551および552と、加重積和部561および562と、ゲイン適用部571および572とをさらに備えている。
Rl(p)=Rs(p)×SWlR(p)
Bl(p)=Bs(p)×SWlB(p)
なお、加重積和部561、562、ゲイン適用部571、572は、特許請求の範囲に記載の平滑化処理部の一例である。
図27は、本発明の第3の実施の形態におけるブロック積分値算出部531、532およびブロックヒストグラム算出部533の構成例を示す図である。このブロック積分値算出部531、532およびブロックヒストグラム算出部533の各々は、ブロック選択部534と、n個の積分器535−1乃至nとを備えている。ここで、画像の幅方向のブロック分割数をW、画像の高さ方向のブロック分割数をH、画像の輝度方向のブロック分割数をDとすると、ブロック数nはW×H×Dとなる。
図28は、本発明の第3の実施の形態における加重積和部561および562の構成例を示す図である。この加重積和部561および562の各々は、補間部563および564と、空間重み関数テーブル保持部565と、積和部566および567と、輝度重み関数テーブル保持部568と、除算部569とを備える。
図30および31は、本発明の第3の実施の形態における平滑化処理部480の動作例を示す図である。
本発明の範疇で、照明成分変換処理は、別の形態として、入力画像に対して解像度変換した上で比較する処理を備えることができる。照明成分変換処理における中間データは画像全体の大局的な照明分布や構造などを抽出したものであるため、事前に縮小された画像から中間データを算出してもそれらの情報が損なわれることがなく、演算量を減らすことができる。また、縮小した後に比較することにより、動被写体の影響を抑えることができる。さらに、解像度変換処理部導入により、LCDに向けて出力しているモニタ画像などが使用可能となる。その結果、基準モザイク画像としてモニタ画像を使用した際には、フラッシュ発光、非発光の連写撮影することなく色再現性の高い画像を生成することができるとともに、メモリの節約にも寄与する。入力画像を縮小する方法としては、縮小画像の各画素位置に対応する処理対象画像のモザイク画像上の領域に属する画素の単純平均のように、比較的簡単な方法でよい。
図34は、本発明の第4の実施の形態における照明成分変換処理部120の構成例を示す図である。この照明成分変換処理部120は、第3の実施の形態と同様に、デモザイク処理部221および222と、ホワイトバランス算出部230と、基準画像ホワイトバランス保持部240と、チャンネルゲイン算出部250と、チャンネルゲイン適用部260とを備える。この例において、チャンネルゲイン算出部250は、図15のチャンネルゲイン算出部250とは入出力が異なり、解像度変換後の値になるが、それ以外は同様の操作が行われる。この照明成分変換処理部120は、さらに、解像度変換部271および272を備える。
図35は、本発明の第4の実施の形態におけるチャンネルゲイン適用部260の構成例を示す図である。このチャンネルゲイン適用部260は、図16において説明した第2の実施の形態におけるものと同様の構成を備える。ただし、信頼度生成の際には縮小画像が用いられ、それぞれ縮小された基準画像BRc(q)、BGc(q)、BBc(q)、および縮小された処理対象画像BRs(q)、BGs(q)、BBs(q)が入力される。また、平滑化処理部480においては、処理対象画像Rs(p)、Gs(p)、Bs(p)の他、縮小された処理対象画像BRs(q)、BGs(q)、BBs(q)、縮小画像に基づく信頼度BFT(q)、縮小画像のゲインBFSR(q)、BFSB(q)が入力される。ここで、pおよびqは各画素を表す。
図36は、本発明の第4の実施の形態における平滑化処理部480の構成例を示す図である。この平滑化処理部480は、図26により説明した第3の実施の形態のものと同様の構成を備えている。ただし、ブロック積分値の算出のために用いられる画像は縮小画像となっている。すなわち、乗算部511および512に入力されるのは、縮小画像のゲインBFSR(q)、BFSB(q)および縮小画像に基づく信頼度BFT(q)である。また、輝度算出部523に入力されるのは、縮小された処理対象画像BRs(q)、BGs(q)、BBs(q)である。
図37は、本発明の第4の実施の形態における照明成分変換処理部120の動作例を示す図である。この動作例は、図12により説明した第1の実施の形態におけるものと基本的には同様である。ただし、解像度変換部271および272において、基準画像および処理対象画像の縮小処理が行われる(ステップS821およびS822)。また、チャンネルゲイン適用部260において、処理対象画像に合わせてゲインが拡大されて、各チャンネルに適用される(ステップS818)。この時、当該画素が、黒つぶれ、白とびしていないか、動被写体か否かの判定から信頼度が設定され、エッジ保存型の平滑化フィルタにより各チャンネルの元の画素位置を考慮して空間平滑化したゲインが適用される。
また、照明成分変換処理の他の態様として、以下に説明するような別の態様をとることも可能である。ここまでに説明した照明成分変換処理では、デジタルカメラによって撮像された単独の画像を基準画像および処理対象画像としてきた。以下に説明するのは、フレームメモリを備え、複数の画像から合成入力画像を生成することにより、フラッシュ発光または非発光以外のシーンにも対応する実施の形態である。
図41は、本発明の第5の実施の形態における照明成分変換処理部120の構成例を示す図である。この照明成分変換処理部120は、第4の実施の形態と同様に、デモザイク処理部221および222と、ホワイトバランス算出部230と、基準画像ホワイトバランス保持部240と、チャンネルゲイン算出部250と、チャンネルゲイン適用部260とを備える。この照明成分変換処理部120は、さらに、フレーム加算部280を備える。このフレーム加算部280は、複数の画像から合成入力画像を生成するものである。
図42は、本発明の第5の実施の形態におけるフレーム加算部280の構成例を示す図である。このフレーム加算部280は、加算部281および282と、基準モザイク画像保持部283と、処理対象モザイク画像保持部284と、制御パラメータ決定部285とを備える。
図43および44は、本発明の第5の実施の形態における照明成分変換処理部120の動作例を示す図である。この照明成分変換処理部120の後半は図12により説明した第1の実施の形態と同様であるが、前半において基準モザイク画像保持部283および処理対象モザイク画像保持部284に対するフレーム加算を行う点が異なっている。なお、基準モザイク画像保持部283および処理対象モザイク画像保持部284を、以下ではフレームメモリと称する。
[画像処理回路23の処理機能例]
図45は、本発明の第6の実施の形態における画像処理回路23の処理機能の一例を示す図である。この画像処理回路23は、図2により説明した第1の実施の形態のものと比べて、ホワイトバランス処理を照明成分変換処理部120の前段で行う点で異なる。すなわち、ホワイトバランス処理部131および132において推定されたホワイトバランス値を算出し、それぞれ基準画像ホワイトバランス保持部181および処理対象画像ホワイトバランス保持部182に格納される。そして、この格納されたホワイトバランス値は照明成分変換処理部120に供給される。
[画像処理回路23の処理機能例]
図46は、本発明の第7の実施の形態における画像処理回路23の処理機能の一例を示す図である。この画像処理回路23では、ゲイン算出だけでなく実際にホワイトバランス処理まで行ったモザイク画像を照明成分変換処理部の入力としている。ここでは、ホワイトバランス処理部131および132がホワイトバランスを算出し、それぞれ基準画像ホワイトバランス保持部181および処理対象画像ホワイトバランス保持部182に格納するとともに、ホワイトバランス処理済みの画像を照明成分変換処理部120に対する入力としている。
本発明の第8の実施の形態では、RAWデータに対して何らかの変換処理が加えられた2枚の画像を想定する。例えば、図2の撮像装置の画像処理回路23におけるホワイトバランス処理部130乃至YC変換処理部170に相当する処理がなされた2枚の画像を想定する。画像フォーマットとしては、例えば、JPEG(Joint Photographic Experts Group)形式を想定する。また、入力画像は画素毎に3チャンネル揃っており、それぞれの画像に対して既にホワイトバランス処理がなされていることを想定する。すなわち、第7の実施の形態と同様に、第8の実施の形態ではホワイトバランス処理済みの画像を入力画像とすることができる。
図47は、本発明の第8の実施の形態における画像処理回路23の処理機能の一例を示す図である。この画像処理回路23は、逆ガンマ補正処理部133および134と、照明成分変換処理部120と、ガンマ補正処理部160と、YC変換処理部170と、基準画像ホワイトバランス保持部183と、処理対象画像ホワイトバランス保持部184とを備える。
f(FS(p)・Is(p))
ここで、説明を簡単にするために、図6における上限値クリッピング部、下限値クリッピング部、黒つぶれ補償部、飽和補償部を省略し、ゲインS(p)=ゲインFS(p)とすると、以下のようになる。
f(S(p)・Is(p))
一方、変換f後の画像を照明成分変換処理部120への入力として色変換ゲイン算出部311および312で得られるゲインをtS(p)とすると、ゲイン適用後の画像は以下のようになる。
tS(p)・f(Is(p))
ここで求めるべきなのは、上2式の結果を一致させるtS(p)である。したがって、次式が得られる。
f(S(p)・Is(p)=tS(p)・f(Is(p))
tS(p)=(f(S(p)・Is(p))/f(Is(p))
f(I(p)・J(p))=f(I(p))・f(J(p))
f(1/I(p))=1/f(I(p))
この仮定を用いると、変換後の画像に対して数4と同様の処理を行うことで、次式のように対応する色変換ゲインtFS(p)が求まることがわかる。
また、このとき、チャンネルゲイン算出部250で用いられるゲイン上限値、ゲイン下限値、飽和補償値、黒つぶれ補償値は、逆ガンマ補正処理の第7の実施の形態の数39および数40で求められたそれぞれをγ乗した値を用いることが有効である。したがって、黒つぶれ補償値は1、飽和補償値は(WBc/WBs)γと設定すればよく、ゲイン上限値およびゲイン下限値は次式により設定すればよい。
上述の第3または第4の実施の形態ではエッジ保存平滑化の際に、RGB値から固定係数に従って輝度を算出してから非線形変換を行っているが、本発明の第9の実施の形態ではRGB値を非線形変換した後に重回帰分析を施すことによって算出することを想定する。
図48は、本発明の第9の実施の形態における平滑化処理部480の処理機能例を示す図である。この平滑化処理部480の処理機能例は、図26に示した第3の実施の形態における輝度算出部521および非線形変換部522に代えて、非線形変換部611、621乃至623および輝度算出部630を備えている。
Σ(KG (nl)(p)−(CCR・Rs (nl)(p)+CCG・Gs (nl)(p)+
CCB・Bs (nl)(p)+CCOffset))2
すなわち、ここでは、Rs (nl)(p)、Gs (nl)(p)およびBs (nl)(p)を説明変量とし、KG (nl)(p)を目的変量とした重回帰分析が行われる。なお、この例では1画面全体に対して1組の重回帰分析パラメータを求めることを想定しているが、画面の一部である小領域毎に重回帰分析パラメータを求めるようにしてもよい。また、ここではRGB全てのチャンネルを用いて重回帰分析を行ったが、特定のチャンネルのみを用いて重回帰分析を行ってもよく、CCOffsetを0に固定して重回帰分析を行ってもよい。
L(nl)(p)=CCR・Rs (nl)(p)+CCG・Gs (nl)(p)+
CCB・Bs (nl)(p)+CCOffset
図49は、本発明の第9の実施の形態における平滑化処理部480の他の処理機能例を示す図である。この平滑化処理部480の他の処理機能例は、図36に示した第4の実施の形態における輝度算出部523および非線形変換部524に代えて、非線形変換部612、621乃至623、641乃至643および輝度算出部630を備えている。上述の通り、第4の実施の形態は、第3の実施の形態において入力画像に対して解像度変換した上で比較する処理を備えたものであり、図48の例と図49の例においても同様の関係を有している。
図50および51は、本発明の第9の実施の形態における平滑化処理部480の図48の処理機能例に対応する動作例を示す図である。なお、ここでは、図30と同じ処理については同じ参照符号を付している。
上述の第3または第4の実施の形態ではエッジ保存平滑化の際に、位置と輝度の周囲のヒストグラムから平滑化を行っているが、本発明の第10の実施の形態では粗いゲインそのものも加重積和に利用して平滑化を行うことを想定する。
図55は、本発明の第10の実施の形態における平滑化処理部480の処理機能例を示す図である。この平滑化処理部480の処理機能例は、図26に示した第3の実施の形態における加重積和部561および562に対して、さらにゲインFSR(p)およびFSB(p)を入力している。加重積和部561および562では、位置pのゲインFSR(p)およびFSB(p)と位置pおよび輝度値L(nl)(p)に対応する座標rの平均ゲインHSWR(r)およびHSWB(r)とを比較することにより、加重積和のための重みが計算される。
図56は、本発明の第10の実施の形態における加重積和部561および562の構成例を示す図である。この加重積和部561および562の各々は、図28に示した第3の実施の形態における補間部563および564の前段に、除算部651と、比較部652と、乗算部653および654とを備えた構成を有する。
HSWR(r)=ISWR(r)/IFT(r)
HSWB(r)=ISWB(r)/IFT(r)
なお、除算部651は、特許請求の範囲に記載の第1の除算部の一例である。
△Max(r)=max(absR,absB)
absR=ABS(FSR(p)−HSWR(r))/SWUNITR
absB=ABS(FSB(p)−HSWB(r))/SWUNITB
SWUNITR=ABS(ゲイン上限値R−ゲイン下限値R)
SWUNITB=ABS(ゲイン上限値B−ゲイン下限値B)
ゲイン上限値およびゲイン下限値は、数5および数6に示したものと同様である。SWUNITにより平均ゲインの差を割ることにより、ゲインと平均ゲインの差が0.0から1.0の範囲に正規化されることになる。各画素のゲインは上限値および下限値によってクリップされているため、差の絶対値の範囲は0から「上限値−下限値」となる。また、この正規化により、RとBの差を比較して大きい方を△Max(r)とすることが可能となる。
Σω(i,j,p)・θ(△Max(i,j,λ))・ISWR(i,j,λ)
Σω(i,j,p)・θ(△Max(i,j,λ))・ISWB(i,j,λ)
ここでは、座標rを、空間的な位置i,jおよび輝度λの3次元座標(i,j,λ)に展開している。また、演算Σについては、ここでは空間的な位置i,jについて総和を行うものとする。
Σω(i,j,p)・θ(△Max(i,j,λ))・IFT(i,j,λ)
演算Σについては、ここでは空間的な位置i,jについて総和を行うものとする。
Σ(ψ(λ,L(nl)(p))・ω(i,j,p)・
θ(△Max(i,j,λ))・ISWR(i,j,λ))
Σ(ψ(λ,L(nl)(p))・ω(i,j,p)・
θ(△Max(i,j,λ))・ISWB(i,j,λ))
演算Σについては、ここでは空間的な位置i,jおよび輝度λについて総和を行うものとする。
Σ(ψ(λ,L(nl)(p))・ω(i,j,p)・
θ(△Max(i,j,λ))・IFT(i,j,λ))
演算Σについては、ここでは空間的な位置i,jおよび輝度λについて総和を行うものとする。
図58は、本発明の第10の実施の形態における平滑化処理部480の他の処理機能例を示す図である。この平滑化処理部480の他の処理機能例は、図36に示した第4の実施の形態においてさらに解像度変換部661および662を備えている。上述の通り、第4の実施の形態は、第3の実施の形態において入力画像に対して解像度変換した上で比較する処理を備えたものであり、図55の例と図58の例においても同様の関係を有している。
図59は、本発明の第10の実施の形態における平滑化処理部480の図58の処理機能例に対応する加重積和部561および562の構成例を示す図である。この加重積和部561および562の各々は、図56と同様に、補間部563および564の前段に、除算部671と、比較部672と、乗算部673および674とを備えた構成を有する。
図60は、本発明の第10の実施の形態における平滑化処理部480の図55の処理機能例に対応する動作例を示す図である。なお、前半の処理は第3の実施の形態における図30と同様であるため、ここでは省略している。
12 絞り
13 撮像素子
21 サンプリング回路
22 A/D変換回路
23 画像処理回路
31 符号化/復号器
32 メモリ
41 表示ドライバ
42 表示部
51 タイミング生成器
52 操作入力受付部
53 ドライバ
54 制御部
59 バス
61 フラッシュ発光部
62 フラッシュ制御部
111 基準モザイク画像保持部
112 処理対象モザイク画像保持部
120 照明成分変換処理部
130、131 ホワイトバランス処理部
133 逆ガンマ補正処理部
140 デモザイク処理部
150 階調補正処理部
160 ガンマ補正処理部
170 YC変換処理部
181、183 基準画像ホワイトバランス保持部
182、184 処理対象画像ホワイトバランス保持部
191 Y画像保持部
192 C画像保持部
213 新規基準モザイク画像保持部
214 新規処理対象モザイク画像保持部
221、222 デモザイク処理部
230 ホワイトバランス算出部
240 基準画像ホワイトバランス保持部
250 チャンネルゲイン算出部
260 チャンネルゲイン適用部
261、262 乗算部
271 解像度変換部
280 フレーム加算部
281、282 加算部
283 基準モザイク画像保持部
284 処理対象モザイク画像保持部
285 制御パラメータ決定部
290 照明成分変換済モザイク画像保持部
311、312 色変換ゲイン算出部
321、322 上限値クリッピング部
323 ゲイン上限値R保持部
324 ゲイン上限値B保持部
331、332 下限値クリッピング部
333 ゲイン下限値R保持部
334 ゲイン下限値B保持部
341、342 黒つぶれ補償部
343 黒つぶれ補償値R保持部
344 黒つぶれ補償値B保持部
345 黒つぶれ度算出部
351、352 飽和補償部
353 飽和補償値R保持部
354 飽和補償値B保持部
355 飽和度算出部
421〜423 除算部
431〜433 露出補償部
440 飽和信頼度算出部
450 黒つぶれ信頼度算出部
460 動被写体信頼度算出部
461 比率逆転度算出部
462 比率予測部
463 分光反射率変化量予測部
464 環境光スペクトル色バランス値保持部
465 フラッシュ光スペクトル色バランス値保持部
466 最小値選択部
470 信頼度選択部
480 平滑化処理部
511 乗算部
521、523、630 輝度算出部
522、611、612、621乃至623、641乃至643 非線形変換部
531 ブロック積分値算出部
533 ブロックヒストグラム算出部
534 ブロック選択部
535 積分器
536 加算部
537 レジスタ
538 ブロック積分値保持部
541、542 ブロック積分値保持部
543 ブロックヒストグラム保持部
551 位相補償処理部
561、562 加重積和部
563、564 補間部
565 空間重み関数テーブル保持部
566、567 積和部
568 輝度重み関数テーブル保持部
569 除算部
571、572 ゲイン適用部
631、634 重回帰分析部
632、635 重回帰分析パラメータ保持部
633、636 重回帰予測値算出部
651、671 除算部
652、672 比較部
653、654、673、674 乗算部
661、662 解像度変換部
Claims (23)
- 異なる照明環境下で撮像された基準画像および処理対象画像から、各画素位置におけるチャンネル毎に照明成分を変換するためのゲインを算出するチャンネルゲイン算出部と、
前記ゲインを前記処理対象画像に適用するためのチャンネルゲイン適用部と
を具備し、
前記チャンネルゲイン適用部は、
前記基準画像と前記処理対象画像の対応画素における特性値の変化から空間的に被写体が動いた画素か否かを判定して動被写体信頼度を算出する動被写体信頼度算出部と、
前記動被写体信頼度に基づいて前記ゲインを空間平滑化した上で前記処理対象画像に対して適用する平滑化処理部と
を備え、
前記動被写体信頼度算出部は、
前記処理対象画像の画素の信号強度の変化が基準画像および処理対象画像全体の照明成分の変化の方向と逆転しているか否かに応じて前記動被写体信頼度を算出する比率逆転度算出部を備える
画像処理装置。 - 前記基準画像および前記処理対象画像の撮像条件の違いを補償するために露出強度が等しくなるよう強度調整する露出補償部をさらに具備する請求項1記載の画像処理装置。
- 前記チャンネルゲイン適用部は、
前記基準画像の画素値から画素の飽和信頼度を算出する飽和信頼度算出部と、
前記飽和信頼度に基づいて前記ゲインを空間平滑化した上で前記処理対象画像に対して適用する平滑化処理部と
を備える請求項1記載の画像処理装置。 - 前記チャンネルゲイン適用部は、
前記基準画像の画素値から画素の黒つぶれ信頼度を算出する黒つぶれ信頼度算出部と、
前記黒つぶれ信頼度に基づいて前記ゲインを空間平滑化した上で前記処理対象画像に対して適用する平滑化処理部と
を備える請求項1記載の画像処理装置。 - 前記チャンネルゲイン適用部は、
前記基準画像の画素値および前記基準画像と前記処理対象画像とのチャンネル間比率から画素の黒つぶれ信頼度を算出する黒つぶれ信頼度算出部と、
前記黒つぶれ信頼度に基づいて前記ゲインを空間平滑化した上で前記処理対象画像に対して適用する平滑化処理部と
を備える請求項1記載の画像処理装置。 - 異なる照明環境下で撮像された基準画像および処理対象画像から、各画素位置におけるチャンネル毎に照明成分を変換するためのゲインを算出するチャンネルゲイン算出部と、
前記ゲインを前記処理対象画像に適用するためのチャンネルゲイン適用部と
を具備し、
前記チャンネルゲイン適用部は、
前記基準画像と前記処理対象画像の対応画素における特性値の変化から空間的に被写体が動いた画素か否かを判定して動被写体信頼度を算出する動被写体信頼度算出部と、
前記動被写体信頼度に基づいて前記ゲインを空間平滑化した上で前記処理対象画像に対して適用する平滑化処理部と
を備え、
前記動被写体信頼度算出部は、
前記基準画像と前記処理対象画像の対応画素の分光反射率の変化に応じて前記動被写体信頼度を算出する分光反射率変化量予測部を備える
画像処理装置。 - 前記基準画像および前記処理対象画像の撮像条件の違いを補償するために露出強度が等しくなるよう強度調整する露出補償部をさらに具備する請求項6記載の画像処理装置。
- 前記チャンネルゲイン適用部は、
前記基準画像の画素値から画素の飽和信頼度を算出する飽和信頼度算出部と、
前記飽和信頼度に基づいて前記ゲインを空間平滑化した上で前記処理対象画像に対して適用する平滑化処理部と
を備える請求項6記載の画像処理装置。 - 前記チャンネルゲイン適用部は、
前記基準画像の画素値から画素の黒つぶれ信頼度を算出する黒つぶれ信頼度算出部と、
前記黒つぶれ信頼度に基づいて前記ゲインを空間平滑化した上で前記処理対象画像に対して適用する平滑化処理部と
を備える請求項6記載の画像処理装置。 - 前記チャンネルゲイン適用部は、
前記基準画像の画素値および前記基準画像と前記処理対象画像とのチャンネル間比率から画素の黒つぶれ信頼度を算出する黒つぶれ信頼度算出部と、
前記黒つぶれ信頼度に基づいて前記ゲインを空間平滑化した上で前記処理対象画像に対して適用する平滑化処理部と
を備える請求項6記載の画像処理装置。 - 異なる照明環境下で撮像された基準画像および処理対象画像から、各画素位置におけるチャンネル毎に照明成分を変換するためのゲインを算出するチャンネルゲイン算出部と、
前記ゲインを前記処理対象画像に適用するためのチャンネルゲイン適用部と
を具備し、
前記チャンネルゲイン適用部は、
前記処理対象画像の画素値から輝度を算出する輝度算出部と、
画素間の輝度の差に基づいて前記ゲインを空間平滑化した上で前記処理対象画像に対して適用する平滑化処理部とを備え、
前記輝度算出部は、前記基準画像と前記処理対象画像の対応画素の強度比を目的変量とし、前記処理対象画像の画素値を説明変量とした重回帰分析に基づいて前記輝度を算出する
画像処理装置。 - 空間軸方向および輝度軸方向に領域を複数に分割した各ブロックについて処理対象画像の画素の頻度値をブロックヒストグラムとして算出するブロックヒストグラム算出部と、
前記各ブロックに属する特性値の積分値を算出するブロック積分値算出部と、
ブロックヒストグラムとブロック積分値と算出対象となる画素位置の輝度値とから前記算出対象となる画素位置の大局ゲイン値を算出する加重積和部と、
前記処理対象画像に前記大局ゲイン値を適用するゲイン適用部と
を具備し、
前記加重積和部は、
予め定義された空間軸方向の重み関数によって前記算出対象となる画素位置への前記ブロックヒストグラムの補間を行う第1の補間部と、
予め定義された空間軸方向の重み関数によって前記算出対象となる画素位置への前記ブロック毎の特性値の補間を行う第2の補間部と、
予め定義された輝度軸方向の重み関数によって前記補間されたブロックヒストグラムの荷重和を算出する第1の積和部と、
予め定義された輝度軸方向の重み関数によって前記補間された特性値の荷重和を算出する第2の積和部と、
前記第2の積和部の出力を前記第1の積和部の出力によって除算する除算部と
を備える
画像処理装置。 - 空間軸方向および輝度軸方向に領域を複数に分割した各ブロックについて処理対象画像の画素の頻度値をブロックヒストグラムとして算出するブロックヒストグラム算出部と、
前記各ブロックに属する特性値の積分値を算出するブロック積分値算出部と、
ブロックヒストグラムとブロック積分値と算出対象となる画素位置の輝度値とから前記算出対象となる画素位置の大局ゲイン値を算出する加重積和部と、
前記処理対象画像に前記大局ゲイン値を適用するゲイン適用部と
を具備し、
前記加重積和部は、
前記ブロック毎の特性値を前記ブロックヒストグラムの値で除算することによってブロック位置毎の平均特性値を計算する第1の除算部と、
前記平均特性値と前記算出対象となる画素位置に関する特性値とを比較することによって重みを計算する比較部と、
前記比較部において算出された重みを対応するブロック位置の前記ブロック毎の特性値に乗じる第1の乗算部と、
前記比較部において算出された重みを対応するブロック位置の前記ブロックヒストグラムの値に乗じる第2の乗算部と、
予め定義された空間軸方向の重み関数によって前記算出対象となる画素位置へ前記第1の乗算部の出力である重み付きブロックヒストグラムの補間を行う第1の補間部と、
予め定義された予め定義された空間軸方向の重み関数によって前記算出対象となる画素位置への第2の乗算部の出力であるブロック毎の重み付き特性値の補間を行う第2の補間部と、
予め定義された輝度軸方向の重み関数によって前記補間されたブロックヒストグラムの荷重和を算出する第1の積和部と、
予め定義された輝度軸方向の重み関数によって前記補間された特性値の荷重和を算出する第2の積和部と、
前記第2の積和部の出力を前記第1の積和部の出力によって除算する第2の除算部とを備える
画像処理装置。 - 異なる照明環境下で撮像された基準画像および処理対象画像から、各画素位置におけるチャンネル毎に照明成分を変換するためのゲインを算出するチャンネルゲイン算出手順と、
前記ゲインを前記処理対象画像に適用するためのチャンネルゲイン適用手順と
を具備し、
前記チャンネルゲイン適用手順は、
前記基準画像と前記処理対象画像の対応画素における特性値の変化から空間的に被写体が動いた画素か否かを判定して動被写体信頼度を算出する動被写体信頼度算出手順と、
前記動被写体信頼度に基づいて前記ゲインを空間平滑化した上で前記処理対象画像に対して適用する平滑化処理手順と
を備え、
前記動被写体信頼度算出手順は、
前記処理対象画像の画素の信号強度の変化が基準画像および処理対象画像全体の照明成分の変化の方向と逆転しているか否かに応じて前記動被写体信頼度を算出する比率逆転度算出手順を備える
画像処理方法。 - 異なる照明環境下で撮像された基準画像および処理対象画像から、各画素位置におけるチャンネル毎に照明成分を変換するためのゲインを算出するチャンネルゲイン算出手順と、
前記ゲインを前記処理対象画像に適用するためのチャンネルゲイン適用手順と
を具備し、
前記チャンネルゲイン適用手順は、
前記基準画像と前記処理対象画像の対応画素における特性値の変化から空間的に被写体が動いた画素か否かを判定して動被写体信頼度を算出する動被写体信頼度算出手順と、
前記動被写体信頼度に基づいて前記ゲインを空間平滑化した上で前記処理対象画像に対して適用する平滑化処理手順と
を備え、
前記動被写体信頼度算出手順は、
前記基準画像と前記処理対象画像の対応画素の分光反射率の変化に応じて前記動被写体信頼度を算出する分光反射率変化量予測手順を備える
画像処理方法。 - 異なる照明環境下で撮像された基準画像および処理対象画像から、各画素位置におけるチャンネル毎に照明成分を変換するためのゲインを算出するチャンネルゲイン算出手順と、
前記ゲインを前記処理対象画像に適用するためのチャンネルゲイン適用手順と
を具備し、
前記チャンネルゲイン適用手順は、
前記処理対象画像の画素値から輝度を算出する輝度算出手順と、
画素間の輝度の差に基づいて前記ゲインを空間平滑化した上で前記処理対象画像に対して適用する平滑化処理手順とを備え、
前記輝度算出手順は、前記基準画像と前記処理対象画像の対応画素の強度比を目的変量とし、前記処理対象画像の画素値を説明変量とした重回帰分析に基づいて前記輝度を算出する
画像処理方法。 - 空間軸方向および輝度軸方向に領域を複数に分割した各ブロックについて処理対象画像の画素の頻度値をブロックヒストグラムとして算出するブロックヒストグラム算出手順と、
前記各ブロックに属する特性値の積分値を算出するブロック積分値算出手順と、
ブロックヒストグラムとブロック積分値と算出対象となる画素位置の輝度値とから前記算出対象となる画素位置の大局ゲイン値を算出する加重積和手順と、
前記処理対象画像に前記大局ゲイン値を適用するゲイン適用手順と
を具備し、
前記加重積和手順は、
予め定義された空間軸方向の重み関数によって前記算出対象となる画素位置への前記ブロックヒストグラムの補間を行う第1の補間手順と、
予め定義された空間軸方向の重み関数によって前記算出対象となる画素位置への前記ブロック毎の特性値の補間を行う第2の補間手順と、
予め定義された輝度軸方向の重み関数によって前記補間されたブロックヒストグラムの荷重和を算出する第1の積和手順と、
予め定義された輝度軸方向の重み関数によって前記補間された特性値の荷重和を算出する第2の積和手順と、
前記第2の積和手順の出力を前記第1の積和手順の出力によって除算する除算手順と
を備える
画像処理方法。 - 空間軸方向および輝度軸方向に領域を複数に分割した各ブロックについて処理対象画像の画素の頻度値をブロックヒストグラムとして算出するブロックヒストグラム算出手順と、
前記各ブロックに属する特性値の積分値を算出するブロック積分値算出手順と、
ブロックヒストグラムとブロック積分値と算出対象となる画素位置の輝度値とから前記算出対象となる画素位置の大局ゲイン値を算出する加重積和手順と、
前記処理対象画像に前記大局ゲイン値を適用するゲイン適用手順と
を具備し、
前記加重積和手順は、
前記ブロック毎の特性値を前記ブロックヒストグラムの値で除算することによってブロック位置毎の平均特性値を計算する第1の除算手順と、
前記平均特性値と前記算出対象となる画素位置に関する特性値とを比較することによって重みを計算する比較手順と、
前記比較手順において算出された重みを対応するブロック位置の前記ブロック毎の特性値に乗じる第1の乗算手順と、
前記比較手順において算出された重みを対応するブロック位置の前記ブロックヒストグラムの値に乗じる第2の乗算手順と、
予め定義された空間軸方向の重み関数によって前記算出対象となる画素位置へ前記第1の乗算手順の出力である重み付きブロックヒストグラムの補間を行う第1の補間手順と、
予め定義された予め定義された空間軸方向の重み関数によって前記算出対象となる画素位置への第2の乗算手順の出力であるブロック毎の重み付き特性値の補間を行う第2の補間手順と、
予め定義された輝度軸方向の重み関数によって前記補間されたブロックヒストグラムの荷重和を算出する第1の積和手順と、
予め定義された輝度軸方向の重み関数によって前記補間された特性値の荷重和を算出する第2の積和手順と、
前記第2の積和手順の出力を前記第1の積和手順の出力によって除算する第2の除算手順とを備える
画像処理方法。 - 異なる照明環境下で撮像された基準画像および処理対象画像から、各画素位置におけるチャンネル毎に照明成分を変換するためのゲインを算出するチャンネルゲイン算出手順と、
前記ゲインを前記処理対象画像に適用するためのチャンネルゲイン適用手順と
をコンピュータに実行させるプログラムであって、
前記チャンネルゲイン適用手順は、
前記基準画像と前記処理対象画像の対応画素における特性値の変化から空間的に被写体が動いた画素か否かを判定して動被写体信頼度を算出する動被写体信頼度算出手順と、
前記動被写体信頼度に基づいて前記ゲインを空間平滑化した上で前記処理対象画像に対して適用する平滑化処理手順と
を備え、
前記動被写体信頼度算出手順は、
前記処理対象画像の画素の信号強度の変化が基準画像および処理対象画像全体の照明成分の変化の方向と逆転しているか否かに応じて前記動被写体信頼度を算出する比率逆転度算出手順を備える
プログラム。 - 異なる照明環境下で撮像された基準画像および処理対象画像から、各画素位置におけるチャンネル毎に照明成分を変換するためのゲインを算出するチャンネルゲイン算出手順と、
前記ゲインを前記処理対象画像に適用するためのチャンネルゲイン適用手順と
をコンピュータに実行させるプログラムであって、
前記チャンネルゲイン適用手順は、
前記基準画像と前記処理対象画像の対応画素における特性値の変化から空間的に被写体が動いた画素か否かを判定して動被写体信頼度を算出する動被写体信頼度算出手順と、
前記動被写体信頼度に基づいて前記ゲインを空間平滑化した上で前記処理対象画像に対して適用する平滑化処理手順と
を備え、
前記動被写体信頼度算出手順は、
前記基準画像と前記処理対象画像の対応画素の分光反射率の変化に応じて前記動被写体信頼度を算出する分光反射率変化量予測手順を備える
プログラム。 - 異なる照明環境下で撮像された基準画像および処理対象画像から、各画素位置におけるチャンネル毎に照明成分を変換するためのゲインを算出するチャンネルゲイン算出手順と、
前記ゲインを前記処理対象画像に適用するためのチャンネルゲイン適用手順と
をコンピュータに実行させるプログラムであって、
前記チャンネルゲイン適用手順は、
前記処理対象画像の画素値から輝度を算出する輝度算出手順と、
画素間の輝度の差に基づいて前記ゲインを空間平滑化した上で前記処理対象画像に対して適用する平滑化処理手順とを備え、
前記輝度算出手順は、前記基準画像と前記処理対象画像の対応画素の強度比を目的変量とし、前記処理対象画像の画素値を説明変量とした重回帰分析に基づいて前記輝度を算出する
プログラム。 - 空間軸方向および輝度軸方向に領域を複数に分割した各ブロックについて処理対象画像の画素の頻度値をブロックヒストグラムとして算出するブロックヒストグラム算出手順と、
前記各ブロックに属する特性値の積分値を算出するブロック積分値算出手順と、
ブロックヒストグラムとブロック積分値と算出対象となる画素位置の輝度値とから前記算出対象となる画素位置の大局ゲイン値を算出する加重積和手順と、
前記処理対象画像に前記大局ゲイン値を適用するゲイン適用手順と
をコンピュータに実行させるプログラムであって、
前記加重積和手順は、
予め定義された空間軸方向の重み関数によって前記算出対象となる画素位置への前記ブロックヒストグラムの補間を行う第1の補間手順と、
予め定義された空間軸方向の重み関数によって前記算出対象となる画素位置への前記ブロック毎の特性値の補間を行う第2の補間手順と、
予め定義された輝度軸方向の重み関数によって前記補間されたブロックヒストグラムの荷重和を算出する第1の積和手順と、
予め定義された輝度軸方向の重み関数によって前記補間された特性値の荷重和を算出する第2の積和手順と、
前記第2の積和手順の出力を前記第1の積和手順の出力によって除算する除算手順と
を備える
プログラム。 - 空間軸方向および輝度軸方向に領域を複数に分割した各ブロックについて処理対象画像の画素の頻度値をブロックヒストグラムとして算出するブロックヒストグラム算出手順と、
前記各ブロックに属する特性値の積分値を算出するブロック積分値算出手順と、
ブロックヒストグラムとブロック積分値と算出対象となる画素位置の輝度値とから前記算出対象となる画素位置の大局ゲイン値を算出する加重積和手順と、
前記処理対象画像に前記大局ゲイン値を適用するゲイン適用手順と
をコンピュータに実行させるプログラムであって、
前記加重積和手順は、
前記ブロック毎の特性値を前記ブロックヒストグラムの値で除算することによってブロック位置毎の平均特性値を計算する第1の除算手順と、
前記平均特性値と前記算出対象となる画素位置に関する特性値とを比較することによって重みを計算する比較手順と、
前記比較手順において算出された重みを対応するブロック位置の前記ブロック毎の特性値に乗じる第1の乗算手順と、
前記比較手順において算出された重みを対応するブロック位置の前記ブロックヒストグラムの値に乗じる第2の乗算手順と、
予め定義された空間軸方向の重み関数によって前記算出対象となる画素位置へ前記第1の乗算手順の出力である重み付きブロックヒストグラムの補間を行う第1の補間手順と、
予め定義された予め定義された空間軸方向の重み関数によって前記算出対象となる画素位置への第2の乗算手順の出力であるブロック毎の重み付き特性値の補間を行う第2の補間手順と、
予め定義された輝度軸方向の重み関数によって前記補間されたブロックヒストグラムの荷重和を算出する第1の積和手順と、
予め定義された輝度軸方向の重み関数によって前記補間された特性値の荷重和を算出する第2の積和手順と、
前記第2の積和手順の出力を前記第1の積和手順の出力によって除算する第2の除算手順とを備える
プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010136947A JP5589585B2 (ja) | 2009-07-07 | 2010-06-16 | 画像処理装置、画像処理方法およびプログラム |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009160954 | 2009-07-07 | ||
JP2009160954 | 2009-07-07 | ||
JP2010136947A JP5589585B2 (ja) | 2009-07-07 | 2010-06-16 | 画像処理装置、画像処理方法およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2011035894A JP2011035894A (ja) | 2011-02-17 |
JP5589585B2 true JP5589585B2 (ja) | 2014-09-17 |
Family
ID=43429256
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010136947A Expired - Fee Related JP5589585B2 (ja) | 2009-07-07 | 2010-06-16 | 画像処理装置、画像処理方法およびプログラム |
Country Status (6)
Country | Link |
---|---|
US (1) | US8659675B2 (ja) |
EP (1) | EP2453658A4 (ja) |
JP (1) | JP5589585B2 (ja) |
KR (1) | KR20120039499A (ja) |
CN (1) | CN102138329B (ja) |
WO (1) | WO2011004832A1 (ja) |
Families Citing this family (47)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4935925B1 (ja) * | 2010-11-04 | 2012-05-23 | カシオ計算機株式会社 | 撮像装置、ホワイトバランス調整方法及びホワイトバランス調整プログラム |
US8988740B2 (en) * | 2011-01-04 | 2015-03-24 | Piqx Imaging Pte Ltd | Scanning method and apparatus |
JP2012216888A (ja) * | 2011-03-31 | 2012-11-08 | Sony Corp | 画像理装置および方法、並びにプログラム |
JP5743696B2 (ja) * | 2011-05-06 | 2015-07-01 | キヤノン株式会社 | 画像処理装置、画像処理方法及びプログラム |
CN102209246B (zh) * | 2011-05-23 | 2013-01-09 | 北京工业大学 | 一种实时视频白平衡处理系统 |
KR101248808B1 (ko) * | 2011-06-03 | 2013-04-01 | 주식회사 동부하이텍 | 경계 영역의 잡음 제거 장치 및 방법 |
JP5895734B2 (ja) * | 2011-09-05 | 2016-03-30 | コニカミノルタ株式会社 | 画像処理装置及び画像処理方法 |
JP5732145B2 (ja) * | 2011-12-16 | 2015-06-10 | 本田技研工業株式会社 | 画像処理装置 |
TWI516133B (zh) * | 2012-01-18 | 2016-01-01 | 聯詠科技股份有限公司 | 影像處理裝置及方法 |
CN104137421B (zh) * | 2012-03-01 | 2016-09-28 | 株式会社尼康 | A/d转换电路及固体成像装置 |
JP2013229677A (ja) * | 2012-04-24 | 2013-11-07 | Olympus Corp | 画像処理プログラム及び画像処理装置 |
JP6045894B2 (ja) | 2012-11-30 | 2016-12-14 | ハンファテクウィン株式会社Hanwha Techwin Co.,Ltd. | 画像処理装置および画像処理方法 |
KR101871945B1 (ko) * | 2013-01-17 | 2018-08-02 | 한화에어로스페이스 주식회사 | 영상 처리 장치 및 방법 |
JP6265625B2 (ja) * | 2013-05-13 | 2018-01-24 | キヤノン株式会社 | 画像処理装置及び画像処理方法 |
US9042643B2 (en) * | 2013-06-20 | 2015-05-26 | Himax Imaging Limited | Method for demosaicking |
CN103402102B (zh) * | 2013-07-17 | 2015-12-09 | 广东欧珀移动通信有限公司 | 双摄像头摄像系统及其白平衡调节的方法与装置 |
JP2015070529A (ja) * | 2013-09-30 | 2015-04-13 | 株式会社リコー | 画像処理装置、撮像装置および画像処理方法 |
JP2015154307A (ja) | 2014-02-17 | 2015-08-24 | ソニー株式会社 | 画像処理装置、画像処理方法、およびプログラム |
EP3678359A1 (en) * | 2014-05-16 | 2020-07-08 | Panasonic Intellectual Property Management Co., Ltd. | Converting method and converting apparatus |
WO2015188359A1 (zh) * | 2014-06-12 | 2015-12-17 | 深圳市大疆创新科技有限公司 | 一种图片处理方法、装置 |
US9727947B2 (en) | 2015-03-23 | 2017-08-08 | Microsoft Technology Licensing, Llc | Downscaling a digital raw image frame |
CN105376498A (zh) * | 2015-10-16 | 2016-03-02 | 凌云光技术集团有限责任公司 | 一种扩展相机动态范围的图像处理方法及系统 |
KR20170048972A (ko) * | 2015-10-27 | 2017-05-10 | 삼성전자주식회사 | 영상을 생성하는 방법 및 장치 |
JP2017099616A (ja) * | 2015-12-01 | 2017-06-08 | ソニー株式会社 | 手術用制御装置、手術用制御方法、およびプログラム、並びに手術システム |
US10070111B2 (en) * | 2015-12-22 | 2018-09-04 | Adobe Systems Incorporated | Local white balance under mixed illumination using flash photography |
KR102512828B1 (ko) | 2016-01-22 | 2023-03-22 | 삼성전자주식회사 | 이벤트 신호 처리 방법 및 장치 |
JP2018036102A (ja) * | 2016-08-30 | 2018-03-08 | ソニーセミコンダクタソリューションズ株式会社 | 測距装置、および、測距装置の制御方法 |
KR102601853B1 (ko) * | 2016-11-30 | 2023-11-13 | 엘지디스플레이 주식회사 | 표시장치 및 그의 영상 처리방법 |
JP6778602B2 (ja) * | 2016-12-14 | 2020-11-04 | 三星電子株式会社Samsung Electronics Co.,Ltd. | 撮像装置、画像データ生成方法および画像データ生成プログラム |
US10943100B2 (en) | 2017-01-19 | 2021-03-09 | Mindmaze Holding Sa | Systems, methods, devices and apparatuses for detecting facial expression |
WO2018142228A2 (en) | 2017-01-19 | 2018-08-09 | Mindmaze Holding Sa | Systems, methods, apparatuses and devices for detecting facial expression and for tracking movement and location including for at least one of a virtual and augmented reality system |
CN110892408A (zh) | 2017-02-07 | 2020-03-17 | 迈恩德玛泽控股股份有限公司 | 用于立体视觉和跟踪的系统、方法和装置 |
CN107820069B (zh) * | 2017-11-16 | 2020-10-27 | 安徽亿联智能有限公司 | 一种视频监控设备isp调试方法 |
TWI680675B (zh) * | 2017-12-29 | 2019-12-21 | 聯發科技股份有限公司 | 影像處理裝置與相關的影像處理方法 |
CN110933348A (zh) * | 2019-05-05 | 2020-03-27 | 唐山明天科技有限公司 | 一种采用动态压缩比的数字录像方法及装置 |
JP2021018123A (ja) * | 2019-07-19 | 2021-02-15 | ソニーセミコンダクタソリューションズ株式会社 | 信号処理装置、信号処理方法 |
JP7467247B2 (ja) | 2020-06-11 | 2024-04-15 | キヤノン株式会社 | 画像処理装置、画像処理方法及びプログラム |
WO2022038652A1 (ja) * | 2020-08-17 | 2022-02-24 | シャープNecディスプレイソリューションズ株式会社 | 表示データ処理装置、画像表示システム及び表示データ処理方法 |
CN112288721B (zh) * | 2020-10-29 | 2022-03-01 | 四川九洲电器集团有限责任公司 | 一种用于目标检测的马赛克多光谱图像生成方法 |
WO2022103427A1 (en) * | 2020-11-12 | 2022-05-19 | Innopeak Technology, Inc. | Color correction of image fusion in radiance domain |
US11653105B2 (en) * | 2020-12-02 | 2023-05-16 | Texas Instmments Incorporated | Intensity separated local white balance correction |
KR20220140369A (ko) * | 2021-04-09 | 2022-10-18 | 에스케이하이닉스 주식회사 | 이미지 센싱 장치 및 그 동작 방법 |
WO2023115560A1 (zh) * | 2021-12-24 | 2023-06-29 | 深圳市大疆创新科技有限公司 | 图像处理方法、装置及存储介质 |
CN114466477A (zh) * | 2021-12-31 | 2022-05-10 | 珠海雷特科技股份有限公司 | 多通道光源的恒流调光方法、计算机装置及计算机可读存储介质 |
KR20230160096A (ko) * | 2022-05-16 | 2023-11-23 | 주식회사 실리콘아츠 | 에지 선명도의 조정이 가능한 초해상화 이미지 생성 장치 및 방법 |
TWI787134B (zh) * | 2022-05-26 | 2022-12-11 | 國立臺灣大學 | 一種用於快速雜訊抑制對比度增強的資料處理方法及包含其的影像採集和處理系統 |
CN118158551A (zh) * | 2024-04-30 | 2024-06-07 | 合肥埃科光电科技股份有限公司 | 一种基于fpga的去马赛克方法、系统及介质 |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3540485B2 (ja) * | 1995-04-13 | 2004-07-07 | 株式会社リコー | 電子スチルカメラ |
JP4258976B2 (ja) * | 1999-03-24 | 2009-04-30 | パナソニック株式会社 | 画像処理装置および処理方法 |
US20020118967A1 (en) * | 2000-12-22 | 2002-08-29 | Funston David L. | Color correcting flash apparatus, camera, and method |
JP2004096506A (ja) * | 2002-08-30 | 2004-03-25 | Konica Minolta Holdings Inc | 画像形成方法、画像処理装置及び画像記録装置 |
US7428997B2 (en) * | 2003-07-29 | 2008-09-30 | Microvision, Inc. | Method and apparatus for illuminating a field-of-view and capturing an image |
JP2005064853A (ja) * | 2003-08-12 | 2005-03-10 | Minolta Co Ltd | 撮像装置、プログラム、および色バランス補正方法 |
JP3838243B2 (ja) | 2003-09-04 | 2006-10-25 | ソニー株式会社 | 画像処理方法、および画像処理装置、並びにコンピュータ・プログラム |
US7394488B2 (en) | 2003-10-30 | 2008-07-01 | Hewlett-Packard Development Company, L.P. | System and method for dual white balance compensation of images |
JP4379129B2 (ja) | 2004-01-23 | 2009-12-09 | ソニー株式会社 | 画像処理方法、および画像処理装置、並びにコンピュータ・プログラム |
JP4389671B2 (ja) * | 2004-06-01 | 2009-12-24 | ソニー株式会社 | 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム |
US7457477B2 (en) | 2004-07-06 | 2008-11-25 | Microsoft Corporation | Digital photography with flash/no flash extension |
JP4740602B2 (ja) * | 2005-01-19 | 2011-08-03 | イーストマン コダック カンパニー | オートホワイトバランス装置及びホワイトバランス調整方法 |
JP4635828B2 (ja) * | 2005-11-07 | 2011-02-23 | コニカミノルタホールディングス株式会社 | 撮像装置、画像処理装置、画像処理方法及び画像処理プログラム |
JP5049490B2 (ja) * | 2005-12-19 | 2012-10-17 | イーストマン コダック カンパニー | デジタルカメラ、ゲイン算出装置 |
US7903168B2 (en) * | 2006-04-06 | 2011-03-08 | Eastman Kodak Company | Camera and method with additional evaluation image capture based on scene brightness changes |
US7698351B1 (en) * | 2006-04-28 | 2010-04-13 | Netapp, Inc. | GUI architecture for namespace and storage management |
US7893975B2 (en) * | 2006-10-13 | 2011-02-22 | Apple Inc. | System and method for processing images using predetermined tone reproduction curves |
TW200820797A (en) * | 2006-10-23 | 2008-05-01 | Benq Corp | Photographing methods and systems, and machine readable medium thereof |
JP2009130630A (ja) * | 2007-11-22 | 2009-06-11 | Canon Inc | 色処理装置およびその方法 |
-
2010
- 2010-06-16 JP JP2010136947A patent/JP5589585B2/ja not_active Expired - Fee Related
- 2010-07-07 US US13/060,904 patent/US8659675B2/en active Active
- 2010-07-07 WO PCT/JP2010/061513 patent/WO2011004832A1/ja active Application Filing
- 2010-07-07 EP EP10797143.4A patent/EP2453658A4/en not_active Withdrawn
- 2010-07-07 CN CN201080002486.2A patent/CN102138329B/zh not_active Expired - Fee Related
- 2010-07-07 KR KR1020117005169A patent/KR20120039499A/ko not_active Application Discontinuation
Also Published As
Publication number | Publication date |
---|---|
EP2453658A1 (en) | 2012-05-16 |
US8659675B2 (en) | 2014-02-25 |
KR20120039499A (ko) | 2012-04-25 |
US20120274798A1 (en) | 2012-11-01 |
CN102138329B (zh) | 2014-03-12 |
JP2011035894A (ja) | 2011-02-17 |
WO2011004832A1 (ja) | 2011-01-13 |
EP2453658A4 (en) | 2013-06-12 |
CN102138329A (zh) | 2011-07-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5589585B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
US8526729B2 (en) | Image processing apparatus and method, and program | |
US8493473B2 (en) | System and method for RAW image processing | |
US9767544B2 (en) | Scene adaptive brightness/contrast enhancement | |
US7893975B2 (en) | System and method for processing images using predetermined tone reproduction curves | |
US8582923B2 (en) | Image processing apparatus, image processsing method, and program | |
JP5254466B2 (ja) | ハイダイナミックレンジイメージ合成 | |
US7835569B2 (en) | System and method for raw image processing using conversion matrix interpolated from predetermined camera characterization matrices | |
US8305487B2 (en) | Method and apparatus for controlling multiple exposures | |
JP5597717B2 (ja) | 撮像素子における欠陥画素の検出及び補正のためのシステム及び方法 | |
CN110022469B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
US7738699B2 (en) | Image processing apparatus | |
JP4678218B2 (ja) | 撮像装置及び画像処理方法 | |
JP4946581B2 (ja) | 画像処理装置 | |
JP2013509093A (ja) | 重み付け勾配を利用した画像データのデモザイク処理のためのシステム及び方法 | |
WO2015119271A1 (ja) | 画像処理装置、撮像装置、画像処理方法、コンピュータにより処理可能な一時的でない記憶媒体 | |
US20200228770A1 (en) | Lens rolloff assisted auto white balance | |
JP5315125B2 (ja) | 画像処理装置、撮像装置、および合成画像の生成方法 | |
US20100079582A1 (en) | Method and System for Capturing and Using Automatic Focus Information | |
US20200228769A1 (en) | Lens rolloff assisted auto white balance | |
CN115706870A (zh) | 视频处理方法、装置、电子设备和存储介质 | |
JP2018133658A (ja) | 画像処理装置、制御方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20130501 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20140124 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140225 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140404 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140701 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140714 |
|
LAPS | Cancellation because of no payment of annual fees |