JP6822121B2 - 画像処理装置、画像処理方法及びプログラム - Google Patents
画像処理装置、画像処理方法及びプログラム Download PDFInfo
- Publication number
- JP6822121B2 JP6822121B2 JP2016245983A JP2016245983A JP6822121B2 JP 6822121 B2 JP6822121 B2 JP 6822121B2 JP 2016245983 A JP2016245983 A JP 2016245983A JP 2016245983 A JP2016245983 A JP 2016245983A JP 6822121 B2 JP6822121 B2 JP 6822121B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- unit
- processing
- image processing
- transfer function
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 264
- 238000003672 processing method Methods 0.000 title claims description 5
- 238000013139 quantization Methods 0.000 claims description 185
- 238000012546 transfer Methods 0.000 claims description 138
- 238000000034 method Methods 0.000 claims description 111
- 238000006243 chemical reaction Methods 0.000 claims description 78
- 230000008569 process Effects 0.000 claims description 76
- 238000001514 detection method Methods 0.000 claims description 19
- 230000008859 change Effects 0.000 claims description 8
- 230000006870 function Effects 0.000 description 150
- 230000006835 compression Effects 0.000 description 25
- 238000007906 compression Methods 0.000 description 25
- 230000000694 effects Effects 0.000 description 21
- 238000010586 diagram Methods 0.000 description 19
- 239000003086 colorant Substances 0.000 description 17
- 230000006866 deterioration Effects 0.000 description 11
- 238000004364 calculation method Methods 0.000 description 9
- 238000013507 mapping Methods 0.000 description 8
- 238000012986 modification Methods 0.000 description 8
- 230000004048 modification Effects 0.000 description 8
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 7
- 230000005540 biological transmission Effects 0.000 description 6
- 238000003384 imaging method Methods 0.000 description 5
- 230000002441 reversible effect Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 241000255925 Diptera Species 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000001151 other effect Effects 0.000 description 2
- 241000282412 Homo Species 0.000 description 1
- 241000023320 Luma <angiosperm> Species 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000001771 impaired effect Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000005693 optoelectronics Effects 0.000 description 1
- 238000011002 quantification Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000008054 signal transmission Effects 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/41—Bandwidth or redundancy reduction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/167—Position within a video image, e.g. region of interest [ROI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/40—Picture signal circuits
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
- H04N1/56—Processing of colour picture signals
- H04N1/60—Colour correction or control
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
- H04N1/64—Systems for the transmission or the storage of the colour picture signal; Details therefor, e.g. coding or decoding means therefor
- H04N1/642—Adapting to different types of images, e.g. characters, graphs, black and white image portions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/124—Quantisation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/124—Quantisation
- H04N19/126—Details of normalisation or weighting functions, e.g. normalisation matrices or variable uniform quantisers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/136—Incoming video signal characteristics or properties
- H04N19/14—Coding unit complexity, e.g. amount of activity or edge presence estimation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/186—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
Description
なお、上記の効果は必ずしも限定的なものではなく、上記の効果と共に、又は上記の効果に代えて、本明細書に示されたいずれかの効果、又は本明細書から把握され得る他の効果が奏されてもよい。
1.関連技術の説明
1−1.SDR及びHDR
1−2.コーデック歪み
1−3.伝達関数
1−4.色域
2.第1の実施形態
2−1.導入
2−2.システムの概要
2−3.画像処理装置の概略的な構成
2−4.符号化部及び制御部の詳細な構成
2−5.処理の流れ
2−6.第1の実施形態のまとめ
3.第2の実施形態
3−1.導入
3−2.システムの概要
3−3.画像処理装置の概略的な構成
3−4.符号化部及び制御部の詳細な構成
3−5.処理の流れ
3−6.変形例
3−7.第2の実施形態のまとめ
4.ハードウェア構成例
5.総括
[1−1.SDR及びHDR]
近年、実世界の様子をより忠実に再現し又はより豊富な明るさ及び色彩で映像を再生することを可能とするための、映像信号表現の拡張が進められている。HDRは、従来の標準的なダイナミックレンジであるSDRよりも広い輝度ダイナミックレンジで画像又は映像を表現しようとする概念である。
SDR映像かHDR映像かに関わらず、画像信号を非可逆圧縮を含む映像符号化方式で符号化すると、復号される画像信号に基づいて再生される画像に、画質の劣化が生じる。こうした画質の劣化を、本明細書ではコーデック歪みという。コーデック歪みの度合いは、PSNR(Peak Signal-to-Noise Ratio)という指標で評価され得る。概して、符号化効率を同等とした場合、H.264/AVCで符号化/復号された画像の画質は、MPEG−2で符号化/復号された画像の画質よりも高く、H.265/HEVCで符号化/復号された画像の画質はH.264/AVCよりも高い。しかしながら、通常、コーデック歪みの評価は、エンコーダへ入力される原画像とデコーダから出力される復号画像とを比較することにより行われる。HDR映像の撮像若しくは表示の際に行われる信号変換、又はダイナミックレンジの縮減若しくは拡張がコーデック歪みにどのように作用するかは、あまり知られていない。
−特定色領域(例えば、肌色領域)
−平坦な領域(例えば、模様の無い建物の壁)
これらの部分領域において歪みが顕著となる原因は、HDR用の信号フォーマットの信号伝達関数及び色域の選択に依存して、色成分の個々の符号値が意味する実世界における階調又は色に違いがあることである。
一般に、撮像装置における光から画像信号への信号変換の特性は、OETF(Opto-Electronic Transfer Function;光電気伝達関数)でモデル化される。図3は、典型的なSDR用の信号フォーマットのOETF及びHDR用の信号フォーマットのOETFのそれぞれの例を示している。図3において、横軸は、変換前の光の輝度ダイナミックレンジを表し、100%が100nitの輝度に相当する。縦軸は、変換後の画像信号の符号値を表し、10bitの場合には符号値は0から1023までの値をとり得る。図中に破線で示したSDR用の信号フォーマット(例えば、BT.709)のOETFと実線で示したHDR用のOETF(例えば、HLG、ST2084又はS−Log3)とを比較すると、特に符号値が相対的に大きい部分において伝達関数の傾きの違いが顕著である。これは、こうした部分において、HDRのケースではSDRと比較して画像情報がより高い圧縮比で圧縮されていること、即ち符号値の同程度の変化がHDRのケースではSDRのケースよりも大きい階調の変化を表すことを意味している。RGB表色系において赤色(R)成分、緑色(G)成分及び青色(B)成分の各々の伝達関数を解析した場合にも、図3に示したグラフに類似したHDRとSDRとの間の信号伝達特性の違いが確認された。
実世界の様子をより忠実に再現し又はよりリッチな映像表現を可能とする技術として、HDRと共に色域もまた重要な概念である。ITU−Rにより標準化されたBT.2020は、これまで多くのアプリケーションで使用されてきたBT.709の色域と比較して、より鮮やかな色彩を表現することを可能とする色域を定義している。図5は、BT.709及びBT.2020により定義されている色域について説明するための説明図である。図5を参照すると、所定の拘束条件を用いて3次元の色空間を2次元平面へマッピングした色域グラフが示されている。グラフ中の十字マークは、白色がマッピングされる位置を示す。グラフ中の破線は、BT.709に従って表現することのできる色の範囲を示す。グラフ中の実線は、BT.2020に従って表現することのできる色の範囲を示す。グラフ中の点線は、人間の視覚が識別することのできる色の範囲を示す。図5から理解されるように、BT.2020は、BT.709よりも多彩な色を表現することを可能とする。BT.709が実世界に存在する色の約75%を表現可能であるのに対し、BT.2020は99%以上の色を表現可能であると言われている。BT.2020は、SDR映像の色域として利用されてもよく、又はHDR映像の色域として利用されてもよい。
[2−1.導入]
HDR用の信号フォーマットを用いた場合に画像内の部分領域において顕著となる上述したコーデック歪みは、それら部分領域において原信号の階調を表現するための割り当て符号量が不足することを原因としている。MPEG−2、H.264/AVC又はH.265/HEVCといった映像符号化方式に準拠するエンコーダは、所要の圧縮率を達成するために、画像信号を周波数ドメインにおいて量子化する。通常は、イントラ予測又はインター予測といった予測技術を適用した後の予測残差を直交変換することにより得られる変換係数が量子化される。しかし、SDR映像の符号化のために最適化されたそれらエンコーダにより使用される量子化ステップの決定方式は、HDR用の信号フォーマットが使用される場合にはしばしば非最適となる。
図7Aは、本実施形態に係る画像処理システムの構成の第1の例を示す説明図である。図7Aに示した画像処理システム10aは、撮像装置11、信号処理装置14、及びサーバ装置15を含む。
図8Aは、本実施形態に係る画像処理装置の概略的な構成の第1の例を示すブロック図である。図8Aに示した画像処理装置100aは、例えば、図7Aの例におけるサーバ装置15、又は図7Bの例における撮像装置12若しくは端末装置16(又は、それら装置のいずれかに搭載される画像処理モジュール)であってよい。画像処理装置100aは、信号取得部101、情報取得部103、符号化部110及び制御部140を備える。
本項では、図8A及び図8Bに示した符号化部110及び制御部140のより具体的な構成について詳しく説明する。図9は、第1の実施形態に係る符号化部及び制御部の詳細な構成の一例を示すブロック図である。
図9を参照すると、符号化部110は、並び替えバッファ111、ブロック設定部112、減算部113、直交変換部114、量子化部115、可逆符号化部116、逆量子化部121、逆直交変換部122、加算部123、ループフィルタ124、フレームメモリ126、スイッチ127、モード選択部128、イントラ予測部130及びインター予測部135を備える。
図9を参照すると、制御部140は、統計演算部141及び量子化制御部143を備える。
図14は、本実施形態に係る符号化制御処理の流れの一例を示すフローチャートである。ここで説明する符号化制御処理は、映像を構成する個々の画像について繰り返されてよい。複数の画像にわたって変化しないパラメータを取得し又は設定するための処理ステップは、2回目以降の繰り返しにおいてスキップされてもよい。なお、ここでは、説明の簡明さのために、量子化処理の制御に直接的に関連しない処理ステップについての説明は省略される。
ここまで、図6〜図14を用いて、本開示に係る技術の第1の実施形態について説明した。上述した実施形態では、光と画像信号との間の変換に関する伝達関数及び色域のうちの少なくとも一方に基づいて、画像を符号化する際の量子化処理に関する処理パラメータが決定される。かかる構成によれば、伝達関数の相違、又は色域の相違に起因して不適切な量子化ステップが使用されることを防止することができる。それにより、画像を符号化する際に原信号の階調を表現するために十分な割り当て符号量を確保して、画質の劣化を防止することができる。
[3−1.導入]
前節で説明したように、HDRのケースではSDRと比較して画像情報がより高い圧縮比で圧縮されている。色域が異なる場合にも、画像情報の圧縮比は相違する。画像情報の圧縮比が相違すれば、画像信号の同一の符号値は、実世界における異なる明るさ又は色を表す。前節においては、従来画一的に決定されていた量子化ステップをこうした符号値の意味の相違を考慮に入れて柔軟に決定することを提案した。しかし、量子化ステップの調整に関するパラメータ以外にも、符号値の意味の相違を考慮に入れて決定されるべき処理パラメータは存在する。画像処理の様々な場面で実行される画素分類処理に関するパラメータもまた、そうした処理パラメータに該当する。
本実施形態に係る画像処理システムは、第1の実施形態における画像処理システム10a又は10bと同様に構成されてもよい。一例として、システム内のいずれかの装置が画像を符号化するエンコーダとしての機能を有し、エンコーダにおいて特定の領域(例えば、肌色領域)の画質の保護を強化するために領域検出処理が実行されてもよい。他の例として、本実施形態に係る画像処理システムは画像信号を取得する任意の種類の装置を含み、その装置において顔認識、ジェスチャ認識、生体認証又は拡張現実などの様々な目的のために画素分類処理が実行されてもよい。本実施形態では、そうした画素分類処理において伝達関数及び色域の少なくとも一方に基づいて画素分類のための処理パラメータが制御される。それにより、画一的な処理パラメータが使用される例と比較して、より正確な画素分類結果を得ることが可能とされる。
図16は、第2の実施形態に係る画像処理装置の概略的な構成の一例を示すブロック図である。図16に示した画像処理装置200aは、信号取得部201、情報取得部203、符号化部210及び制御部240を備える。
本項では、図16に示した符号化部210及び制御部240のより具体的な構成について詳しく説明する。図17は、第2の実施形態に係る符号化部及び制御部の詳細な構成の一例を示すブロック図である。
図17を参照すると、符号化部210は、並び替えバッファ111、ブロック設定部112、減算部113、直交変換部114、量子化部215、可逆符号化部116、逆量子化部221、逆直交変換部122、加算部123、ループフィルタ124、フレームメモリ126、スイッチ127、モード選択部128、イントラ予測部130及びインター予測部135を備える。
図17を参照すると、制御部240は、閾値制御部241、画素分類部243及び量子化制御部245を備える。
図18は、本実施形態に係る符号化制御処理の流れの一例を示すフローチャートである。ここで説明する符号化制御処理は、映像を構成する個々の画像について繰り返されてよい。複数の画像にわたって変化しないパラメータを取得し又は設定するための処理ステップは、2回目以降の繰り返しにおいてスキップされてもよい。なお、ここでは、説明の簡明さのために、画素分類に関連しない処理ステップについての説明は省略される。
ここまで、画素分類の結果をエンコーダにおいて割り当て符号量の制御のために利用する例について主に説明した。しかしながら、本実施形態のアイディアは、画素分類の結果を他の用途に利用するケースにも適用可能である。本項では、そうした一変形例について説明する。
図19は、第2の実施形態に係る画像処理装置の構成の一変形例を示すブロック図である。図19に示した画像処理装置200bは、信号取得部201、情報取得部203、閾値制御部250、画素分類部260及び出力信号生成部270を備える。
図20は、図19を用いて説明した変形例に係る画像処理の流れの一例を示すフローチャートである。
ここまで、図15A〜図20を用いて、本開示に係る技術の第2の実施形態について説明した。上述した実施形態では、光と画像信号との間の変換に関する伝達関数及び色域のうちの少なくとも一方に基づいて、多様な目的で行われ得る画素分類処理に関する処理パラメータが決定される。かかる構成によれば、伝達関数の相違、又は色域の相違に起因して不適切な基準で画素が分類されることを防止し、画素分類の結果に基づく処理の適正な実行を保証することができる。
前節までに説明した実施形態は、ソフトウェア、ハードウェア、及びソフトウェアとハードウェアとの組合せのいずれを用いて実現されてもよい。画像処理装置100a、100b、200a又は200bがソフトウェアを使用する場合、ソフトウェアを構成するプログラムは、例えば、装置の内部又は外部に設けられる記憶媒体(非一時的な媒体:non-transitory media)に予め格納される。そして、各プログラムは、例えば、実行時にRAM(Random Access Memory)に読み込まれ、CPU(Central Processing Unit)などのプロセッサにより実行される。
本開示に係る技術は、ここまでに詳しく説明した仕組みに従って、多様化しつつある映像信号表現に必ずしも十分に適応できていない例えばデジタルビデオカメラ、デジタルカムコーダ、ビデオエンコーダ、又はエンコード機能若しくは画素分類機能を有する任意の種類の既存の装置に対する改善を提供する。本開示に係る技術によれば、HDR映像を扱う場合に不適切な処理パラメータが使用されることが防止され得る。
(1)
画像に適用される光と画像信号との間の変換に関する伝達関数及び前記画像に適用される色域のうちの少なくとも一方に基づいて、前記画像に対する画像処理のための処理パラメータを決定する制御部と、
前記制御部により決定される前記処理パラメータを用いて、前記画像処理を実行する処理部と、
を備える画像処理装置。
(2)
前記制御部は、前記伝達関数及び前記色域の組合せに基づいて、前記処理パラメータを決定する、前記(1)に記載の画像処理装置。
(3)
前記制御部は、前記伝達関数及び前記色域のうちの前記少なくとも一方の相違に起因する画像信号の符号値の変化が前記画像処理に与える影響を打ち消すように、前記処理パラメータを決定する、前記(1)又は前記(2)に記載の画像処理装置。
(4)
前記処理部は、前記画像の部分領域ごとの符号化難易度に応じて調整される量子化ステップで各部分領域について量子化処理を実行し、
前記処理パラメータは、前記量子化処理に関するパラメータである、
前記(1)〜(3)のいずれか1項に記載の画像処理装置。
(5)
前記量子化処理に関するパラメータは、前記画像についての前記量子化ステップの調整利得を含む、前記(4)に記載の画像処理装置。
(6)
前記制御部は、前記伝達関数及び前記色域のうちの前記少なくとも一方に基づいて、前記画像についての前記量子化ステップの基本調整利得を決定する、前記(5)に記載の画像処理装置。
(7)
前記処理部は、前記基本調整利得と各部分領域の符号化難易度とに基づいて調整される調整後の量子化ステップで、各部分領域について前記量子化処理を実行する、前記(6)に記載の画像処理装置。
(8)
前記処理部は、前記処理パラメータを用いて前記画像について画素分類処理を実行する、前記(1)又は前記(2)に記載の画像処理装置。
(9)
前記処理パラメータは、前記画素分類処理において色成分の符号値と比較される閾値を含む、前記(8)に記載の画像処理装置。
(10)
前記画素分類処理は、前記画像内の特定の領域を検出するための領域検出処理を含み、
前記閾値は、領域検出閾値を含む、
前記(9)に記載の画像処理装置。
(11)
前記特定の領域は、特定の色の領域であり、
前記領域検出閾値は、色判定閾値を含む、
前記(10)に記載の画像処理装置。
(12)
前記特定の色は、肌色であり、
前記色判定閾値は、肌色判定閾値を含む、
前記(11)に記載の画像処理装置。
(13)
前記画像処理装置は、前記領域検出処理の結果に基づいて調整される量子化ステップで前記画像について量子化処理を実行する量子化部、をさらに備える、前記(12)に記載の画像処理装置。
(14)
前記画像処理装置は、前記伝達関数及び前記色域のうちの一方又は双方に関連付けられる前記処理パラメータの値を記憶する記憶部、をさらに備える、前記(1)〜(13)のいずれか1項に記載の画像処理装置。
(15)
前記制御部は、前記伝達関数及び前記色域のうちの前記少なくとも一方に関する入力情報に基づいて前記伝達関数及び前記色域のうちの前記少なくとも一方の種別を判定し、判定した前記種別に基づいて前記画像処理のための前記処理パラメータを決定する、前記(1)〜(14)のいずれか1項に記載の画像処理装置。
(16)
前記入力情報は、ユーザインタフェースを介して取得された情報である、前記(15)に記載の画像処理装置。
(17)
前記入力情報は、前記画像を表現する入力画像信号と多重化される補助信号から取得された情報である、前記(15)に記載の画像処理装置。
(18)
画像に適用される光と画像信号との間の変換に関する伝達関数及び前記画像に適用される色域のうちの少なくとも一方に基づいて、前記画像に対する画像処理のための処理パラメータを決定することと、
決定される前記処理パラメータを用いて、前記画像処理を実行することと、
を含む画像処理方法。
(19)
画像処理装置のプロセッサを、
画像に適用される光と画像信号との間の変換に関する伝達関数及び前記画像に適用される色域のうちの少なくとも一方に基づいて、前記画像に対する画像処理のための処理パラメータを決定する制御部と、
前記制御部により決定される前記処理パラメータを用いて、前記画像処理を実行する処理部と、
として機能させるためのプログラム。
101 信号取得部
102 信号処理部
103,104 情報取得部
107 記憶部
110 符号化部
115 量子化部(処理部)
140 制御部
200a,200b 画像処理装置
201 信号取得部
203 情報取得部
210 符号化部
240 制御部
241,250 閾値制御部
243,260 画素分類部(処理部)
270 出力信号生成部
Claims (18)
- 画像に適用される光と画像信号との間の変換に関する伝達関数及び前記画像に適用される色域の組み合わせに基づいて、前記画像に対する画像処理のための処理パラメータを決定する制御部と、
前記制御部により決定される前記処理パラメータを用いて、前記画像処理を実行する処理部と、
を備え、
前記制御部が決定する前記処理パラメータは、前記伝達関数及び前記色域の組み合せごとに定義される、
画像処理装置。 - 前記制御部は、前記伝達関数及び前記色域のうちの前記少なくとも一方の相違に起因する画像信号の符号値の変化が前記画像処理に与える影響を打ち消すように、前記処理パラメータを決定する、請求項1に記載の画像処理装置。
- 前記処理部は、前記画像の部分領域ごとの符号化難易度に応じて調整される量子化ステップで各部分領域について量子化処理を実行し、
前記処理パラメータは、前記量子化処理に関するパラメータである、
請求項1または請求項2に記載の画像処理装置。 - 前記量子化処理に関するパラメータは、前記画像についての前記量子化ステップの調整利得を含む、請求項3に記載の画像処理装置。
- 前記制御部は、前記伝達関数及び前記色域のうちの前記少なくとも一方に基づいて、前記画像についての前記量子化ステップの基本調整利得を決定する、請求項4に記載の画像処理装置。
- 前記処理部は、前記基本調整利得と各部分領域の符号化難易度とに基づいて調整される調整後の量子化ステップで、各部分領域について前記量子化処理を実行する、請求項5に記載の画像処理装置。
- 前記処理部は、前記処理パラメータを用いて前記画像について画素分類処理を実行する、請求項1に記載の画像処理装置。
- 前記処理パラメータは、前記画素分類処理において色成分の符号値と比較される閾値を含む、請求項7に記載の画像処理装置。
- 前記画素分類処理は、前記画像内の特定の領域を検出するための領域検出処理を含み、
前記閾値は、領域検出閾値を含む、
請求項8に記載の画像処理装置。 - 前記特定の領域は、特定の色の領域であり、
前記領域検出閾値は、色判定閾値を含む、
請求項9に記載の画像処理装置。 - 前記特定の色は、肌色であり、
前記色判定閾値は、肌色判定閾値を含む、
請求項10に記載の画像処理装置。 - 前記画像処理装置は、前記領域検出処理の結果に基づいて調整される量子化ステップで前記画像について量子化処理を実行する量子化部、をさらに備える、請求項11に記載の画像処理装置。
- 前記画像処理装置は、前記伝達関数及び前記色域のうちの一方又は双方に関連付けられる前記処理パラメータの値を記憶する記憶部、をさらに備える、請求項1〜12のいずれか1項に記載の画像処理装置。
- 前記制御部は、前記伝達関数及び前記色域のうちの前記少なくとも一方に関する入力情報に基づいて前記伝達関数及び前記色域のうちの前記少なくとも一方の種別を判定し、判定した前記種別に基づいて前記画像処理のための前記処理パラメータを決定する、請求項1〜13のいずれか1項に記載の画像処理装置。
- 前記入力情報は、ユーザインタフェースを介して取得された情報である、請求項14に記載の画像処理装置。
- 前記入力情報は、前記画像を表現する入力画像信号と多重化される補助信号から取得された情報である、請求項14に記載の画像処理装置。
- 画像に適用される光と画像信号との間の変換に関する伝達関数及び前記画像に適用される色域の組み合わせに基づいて、前記画像に対する画像処理のための処理パラメータを決定することと、
決定される前記処理パラメータを用いて、前記画像処理を実行することと、
を含み、
前記決定することが決定する前記処理パラメータは、前記伝達関数及び前記色域の組み合せごとに定義される、
画像処理方法。 - 画像処理装置のプロセッサを、
画像に適用される光と画像信号との間の変換に関する伝達関数及び前記画像に適用される色域の組み合わせに基づいて、前記画像に対する画像処理のための処理パラメータを決定する制御部と、
前記制御部により決定される前記処理パラメータを用いて、前記画像処理を実行する処理部と、
として機能させ、
前記制御部が決定する前記処理パラメータは、前記伝達関数及び前記色域の組み合せごとに定義される、
ためのプログラム。
Priority Applications (8)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016245983A JP6822121B2 (ja) | 2016-12-19 | 2016-12-19 | 画像処理装置、画像処理方法及びプログラム |
PCT/JP2017/037600 WO2018116605A1 (ja) | 2016-12-19 | 2017-10-17 | 画像処理装置、画像処理方法及びプログラム |
CN201780076634.7A CN110050465B (zh) | 2016-12-19 | 2017-10-17 | 图像处理设备、图像处理方法和程序 |
KR1020197016706A KR20190097004A (ko) | 2016-12-19 | 2017-10-17 | 화상 처리 장치, 화상 처리 방법 및 프로그램 |
US16/469,020 US11006113B2 (en) | 2016-12-19 | 2017-10-17 | Image processing device, method, and program deciding a processing parameter |
EP17885014.5A EP3641315A4 (en) | 2016-12-19 | 2017-10-17 | IMAGE PROCESSING DEVICE, IMAGE PROCESSING METHOD AND PROGRAM |
BR112019011927-2A BR112019011927A2 (pt) | 2016-12-19 | 2017-10-17 | dispositivo de processamento de imagem, método de processamento de imagem, e, programa. |
US17/226,556 US20210235089A1 (en) | 2016-12-19 | 2021-04-09 | Image processing device, image processing method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016245983A JP6822121B2 (ja) | 2016-12-19 | 2016-12-19 | 画像処理装置、画像処理方法及びプログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2018101863A JP2018101863A (ja) | 2018-06-28 |
JP2018101863A5 JP2018101863A5 (ja) | 2020-01-30 |
JP6822121B2 true JP6822121B2 (ja) | 2021-01-27 |
Family
ID=62626130
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016245983A Active JP6822121B2 (ja) | 2016-12-19 | 2016-12-19 | 画像処理装置、画像処理方法及びプログラム |
Country Status (7)
Country | Link |
---|---|
US (2) | US11006113B2 (ja) |
EP (1) | EP3641315A4 (ja) |
JP (1) | JP6822121B2 (ja) |
KR (1) | KR20190097004A (ja) |
CN (1) | CN110050465B (ja) |
BR (1) | BR112019011927A2 (ja) |
WO (1) | WO2018116605A1 (ja) |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018025466A1 (ja) * | 2016-08-04 | 2018-02-08 | ソニー株式会社 | 画像処理装置、及び画像処理方法 |
JP6822121B2 (ja) * | 2016-12-19 | 2021-01-27 | ソニー株式会社 | 画像処理装置、画像処理方法及びプログラム |
JP6822122B2 (ja) * | 2016-12-19 | 2021-01-27 | ソニー株式会社 | 画像処理装置、画像処理方法及びプログラム |
SG11202105604UA (en) * | 2018-11-27 | 2021-06-29 | Op Solutions Llc | Block-based spatial activity measures for pictures cross-reference to related applications |
KR20210094030A (ko) * | 2018-11-27 | 2021-07-28 | 오피 솔루션즈, 엘엘씨 | 컨텍스트 세그먼트화 및 처리를 위한 블록-기반 픽처 융합 |
US10986320B2 (en) | 2019-01-31 | 2021-04-20 | Coretronic Corporation | Projector and method for projecting image light beam |
US11095861B2 (en) | 2019-01-31 | 2021-08-17 | Coretronic Corporation | Projector and method for projecting image light beam |
JP7256658B2 (ja) * | 2019-03-01 | 2023-04-12 | キヤノン株式会社 | 画像符号化装置及びその制御方法及びプログラム |
EP3754978A1 (en) * | 2019-06-18 | 2020-12-23 | Coretronic Corporation | Projector and method for projecting image light beam |
CN110400308B (zh) * | 2019-07-30 | 2022-01-28 | 青岛海信医疗设备股份有限公司 | 一种图像显示方法、装置、设备及存储介质 |
CN110781932B (zh) * | 2019-10-14 | 2022-03-11 | 国家广播电视总局广播电视科学研究院 | 一种多类别图像转换与对比的超高清片源色域检测方法 |
US11638019B2 (en) * | 2020-07-29 | 2023-04-25 | Alibaba Group Holding Limited | Methods and systems for prediction from multiple cross-components |
US11330196B2 (en) * | 2020-10-12 | 2022-05-10 | Microsoft Technology Licensing, Llc | Estimating illumination in an environment based on an image of a reference object |
CN116630305B (zh) * | 2023-07-18 | 2024-02-13 | 北京阿丘机器人科技有限公司 | 电池盖板外观检测方法、装置、设备及存储介质 |
Family Cites Families (38)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4791483A (en) * | 1987-11-20 | 1988-12-13 | The Grass Valley Group, Inc. | Adaptive differential pulse code modulation video encoder |
KR100307618B1 (ko) * | 1994-05-31 | 2001-11-30 | 윤종용 | 영상부호화방법및장치 |
US6343141B1 (en) * | 1996-10-08 | 2002-01-29 | Lucent Technologies Inc. | Skin area detection for video image systems |
US6452970B1 (en) * | 1997-10-28 | 2002-09-17 | Siemens Aktiengesellschaft | Method and device for processing a digitized image |
US6882685B2 (en) * | 2001-09-18 | 2005-04-19 | Microsoft Corporation | Block transform and quantization for image and video coding |
US8315466B2 (en) * | 2006-12-22 | 2012-11-20 | Qualcomm Incorporated | Decoder-side region of interest video processing |
US8503521B2 (en) * | 2007-01-16 | 2013-08-06 | Chih-Ta Star SUNG | Method of digital video reference frame compression |
US20080198932A1 (en) * | 2007-02-21 | 2008-08-21 | Nucore Technology Inc. | Complexity-based rate control using adaptive prefilter |
US8787445B2 (en) * | 2007-03-15 | 2014-07-22 | Nvidia Corporation | Allocation of available bits to represent different portions of video frames captured in a sequence |
US8363719B2 (en) * | 2007-10-29 | 2013-01-29 | Canon Kabushiki Kaisha | Encoding apparatus, method of controlling thereof, and computer program |
US8175158B2 (en) | 2008-01-04 | 2012-05-08 | Sharp Laboratories Of America, Inc. | Methods and systems for inter-layer image prediction parameter determination |
EP2094016A1 (en) * | 2008-02-19 | 2009-08-26 | Thomson Licensing | Method and device for compressing an image and storage medium carrying an image compressed by said method |
TWI538473B (zh) * | 2011-03-15 | 2016-06-11 | 杜比實驗室特許公司 | 影像資料轉換的方法與設備 |
CN103891294B (zh) | 2011-04-28 | 2017-09-01 | 皇家飞利浦有限公司 | 用于hdr图像编码和解码的装置与方法 |
US8792550B2 (en) * | 2011-08-04 | 2014-07-29 | Qualcomm Incorporated | Color/gray patch prevention for video coding |
WO2013108685A1 (ja) * | 2012-01-17 | 2013-07-25 | ソニー株式会社 | 符号化装置および符号化方法、復号装置および復号方法、プログラム |
KR102070622B1 (ko) * | 2012-11-23 | 2020-01-29 | 삼성전자주식회사 | 동영상을 위한 양자화 테이블 추정 방법 및 장치 |
US9307256B2 (en) * | 2013-01-21 | 2016-04-05 | The Regents Of The University Of California | Method and apparatus for spatially scalable video compression and transmission |
CN105009580B (zh) | 2013-02-21 | 2017-09-29 | 杜比实验室特许公司 | 高动态范围视频的显示管理 |
US20150016509A1 (en) * | 2013-07-09 | 2015-01-15 | Magnum Semiconductor, Inc. | Apparatuses and methods for adjusting a quantization parameter to improve subjective quality |
US20150063461A1 (en) * | 2013-08-27 | 2015-03-05 | Magnum Semiconductor, Inc. | Methods and apparatuses for adjusting macroblock quantization parameters to improve visual quality for lossy video encoding |
JP6202330B2 (ja) * | 2013-10-15 | 2017-09-27 | ソニー株式会社 | 復号装置および復号方法、並びに符号化装置および符号化方法 |
US20150181168A1 (en) * | 2013-12-20 | 2015-06-25 | DDD IP Ventures, Ltd. | Interactive quality improvement for video conferencing |
KR102414567B1 (ko) * | 2014-02-25 | 2022-06-29 | 애플 인크. | 비디오 인코딩 및 디코딩을 위한 적응형 전달 함수 |
KR102361927B1 (ko) | 2014-02-26 | 2022-02-11 | 인터디지털 브이씨 홀딩스 인코포레이티드 | Hdr 이미지들을 인코딩 및 디코딩하기 위한 방법 및 장치 |
WO2016017236A1 (ja) | 2014-07-28 | 2016-02-04 | 株式会社J-オイルミルズ | 飼料原料及びその用途 |
US10136133B2 (en) * | 2014-11-11 | 2018-11-20 | Dolby Laboratories Licensing Corporation | Rate control adaptation for high-dynamic range images |
US20160309154A1 (en) * | 2015-04-17 | 2016-10-20 | Qualcomm Incorporated | Dynamic range adjustment for high dynamic range and wide color gamut video coding |
WO2016172361A1 (en) * | 2015-04-21 | 2016-10-27 | Vid Scale, Inc. | High dynamic range video coding |
WO2016172394A1 (en) * | 2015-04-21 | 2016-10-27 | Arris Enterprises Llc | Adaptive perceptual mapping and signaling for video coding |
CN107852512A (zh) * | 2015-06-07 | 2018-03-27 | 夏普株式会社 | 基于亮度转换函数或视频色彩分量值的优化视频编码的系统及方法 |
US10397585B2 (en) * | 2015-06-08 | 2019-08-27 | Qualcomm Incorporated | Processing high dynamic range and wide color gamut video data for video coding |
US10244245B2 (en) * | 2015-06-08 | 2019-03-26 | Qualcomm Incorporated | Content-adaptive application of fixed transfer function to high dynamic range (HDR) and/or wide color gamut (WCG) video data |
WO2017015564A1 (en) * | 2015-07-22 | 2017-01-26 | Arris Enterprises Llc | System for coding high dynamic range and wide color gamut sequences |
KR102140083B1 (ko) * | 2015-09-23 | 2020-07-31 | 애리스 엔터프라이지즈 엘엘씨 | 높은 동적 범위 및 넓은 컬러 색역 시퀀스들을 재형성하고 코딩하기 위한 시스템 |
US10491895B2 (en) * | 2016-05-23 | 2019-11-26 | Intel Corporation | Fast and robust human skin tone region detection for improved video coding |
JP6822121B2 (ja) * | 2016-12-19 | 2021-01-27 | ソニー株式会社 | 画像処理装置、画像処理方法及びプログラム |
JP6822122B2 (ja) * | 2016-12-19 | 2021-01-27 | ソニー株式会社 | 画像処理装置、画像処理方法及びプログラム |
-
2016
- 2016-12-19 JP JP2016245983A patent/JP6822121B2/ja active Active
-
2017
- 2017-10-17 EP EP17885014.5A patent/EP3641315A4/en active Pending
- 2017-10-17 US US16/469,020 patent/US11006113B2/en active Active
- 2017-10-17 KR KR1020197016706A patent/KR20190097004A/ko not_active Application Discontinuation
- 2017-10-17 BR BR112019011927-2A patent/BR112019011927A2/pt not_active IP Right Cessation
- 2017-10-17 WO PCT/JP2017/037600 patent/WO2018116605A1/ja active Application Filing
- 2017-10-17 CN CN201780076634.7A patent/CN110050465B/zh active Active
-
2021
- 2021-04-09 US US17/226,556 patent/US20210235089A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
CN110050465A (zh) | 2019-07-23 |
US11006113B2 (en) | 2021-05-11 |
EP3641315A1 (en) | 2020-04-22 |
EP3641315A4 (en) | 2020-05-06 |
US20190320187A1 (en) | 2019-10-17 |
CN110050465B (zh) | 2022-06-17 |
JP2018101863A (ja) | 2018-06-28 |
WO2018116605A1 (ja) | 2018-06-28 |
KR20190097004A (ko) | 2019-08-20 |
US20210235089A1 (en) | 2021-07-29 |
BR112019011927A2 (pt) | 2019-10-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6822121B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6822122B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6822123B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
CA2615299C (en) | Image encoding device, image decoding device, image encoding method, and image decoding method | |
JP6882198B2 (ja) | 高ダイナミックレンジ(hdr)および/または広色域(wcg)ビデオデータへの固定伝達関数のコンテンツ適応型適用 | |
EP2357826B1 (en) | Image encoding device, image decoding device, image encoding method, and image decoding method | |
US20130107956A1 (en) | Generation of high dynamic range images from low dynamic range images | |
TW201924336A (zh) | 利用內容適應性空間變化量化之視訊寫碼 | |
US20100021071A1 (en) | Image coding apparatus and image decoding apparatus | |
US10735724B2 (en) | Method and device for compressing image on basis of photography information | |
KR20190008205A (ko) | 화상 처리 장치 및 방법 | |
JP2018533867A (ja) | Qp値の決定 | |
TW201445982A (zh) | 可適性色彩空間轉換寫碼 | |
RU2628133C2 (ru) | Кодирование и декодирование слайсов в изображениях видеопотока | |
CN108156461A (zh) | 一种Bayer图像压缩方法及装置 | |
US20080187043A1 (en) | Method and apparatus for encoding/decoding image using adaptive quantization step | |
Lee et al. | A new intra prediction method using channel correlations for the H. 264/AVC intra coding | |
US11032547B2 (en) | Image encoding apparatus, control method thereof, and non-transitory computer-readable storage medium | |
AU2016200566B2 (en) | Image processing device and method | |
JP2020109923A (ja) | 画像符号化装置及びその制御方法及びプログラム | |
Kikuchi et al. | Adaptive color space transforms for 4: 4: 4 video coding considering uncorrelated noise among color components | |
Luo et al. | Subjective Quality Based Optimization for JPEG XR Encoding Algorithm | |
JP2006271002A (ja) | 符号化装置及び符号化方法 | |
Li et al. | Human visual system based adaptive inter quantization |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20190208 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20190214 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20190222 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20190515 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20190522 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191212 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191212 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200908 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201102 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20201208 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20201221 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6822121 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |