JP6640122B2 - 画像処理のための方法及びデバイス - Google Patents

画像処理のための方法及びデバイス Download PDF

Info

Publication number
JP6640122B2
JP6640122B2 JP2016573858A JP2016573858A JP6640122B2 JP 6640122 B2 JP6640122 B2 JP 6640122B2 JP 2016573858 A JP2016573858 A JP 2016573858A JP 2016573858 A JP2016573858 A JP 2016573858A JP 6640122 B2 JP6640122 B2 JP 6640122B2
Authority
JP
Japan
Prior art keywords
hdr
ldr
edge map
time
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016573858A
Other languages
English (en)
Other versions
JP2017528018A (ja
JP2017528018A5 (ja
Inventor
ボイタード,ロナン
ポウリ,タニア
ソロウ,ドミニク
コゾット,レミ
ブアタッチ,カディ
Original Assignee
インターデジタル ヴイシー ホールディングス, インコーポレイテッド
インターデジタル ヴイシー ホールディングス, インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from EP14305998.8A external-priority patent/EP2961169A1/en
Application filed by インターデジタル ヴイシー ホールディングス, インコーポレイテッド, インターデジタル ヴイシー ホールディングス, インコーポレイテッド filed Critical インターデジタル ヴイシー ホールディングス, インコーポレイテッド
Publication of JP2017528018A publication Critical patent/JP2017528018A/ja
Publication of JP2017528018A5 publication Critical patent/JP2017528018A5/ja
Application granted granted Critical
Publication of JP6640122B2 publication Critical patent/JP6640122B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • H04N19/521Processing of motion vectors for estimating the reliability of the determined motion vectors or motion vector field, e.g. for smoothing the motion vector field or for correcting motion vectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/745Detection of flicker frequency or suppression of flicker wherein the flicker is caused by illumination, e.g. due to fluorescent tube illumination or pulsed LED illumination
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/14Coding unit complexity, e.g. amount of activity or edge presence estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/187Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scalable video layer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/1883Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit relating to sub-band structure, e.g. hierarchical level, directional tree, e.g. low-high [LH], high-low [HL], high-high [HH]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/31Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the temporal domain
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/36Scalability techniques involving formatting the layers as a function of picture distortion after decoding, e.g. signal-to-noise [SNR] scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • H04N19/615Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding using motion compensated temporal filtering [MCTF]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel

Description

本発明は、ビデオシーケンスの画像を処理する方法及び装置に関する。特に、本発明は、例えばトーンマッピング処理を適用することにより、HDR画像からLDR画像が得られる画像シーケンスの処理に関する。
撮像デバイスにより取得されるシーンにおける光のばらつきは、かなり大きいことがある。例えば、シーンの影に配置された物体は、直射日光で照らされる物体と比較してかなり暗く見える。従来の低ダイナミックレンジ(Low Dynamic Range;LDR)画像により提供される、制限されたダイナミックレンジ及び色域は、多くの場合、そのようなシーン内のルミナンス及び色の変化を正確に再現するのに十分なレンジを提供しない。通常、画像のピクセルのルミナンス又は色を表すLDR画像の成分値は、限られたビット数(通常8ビット、10ビット、又は12ビット)により表される。そのような表現により提供される限られたルミナンス範囲では、特にルミナンスの明るいレンジ及び暗いレンジにおいて、小さな信号変化を有効に再現することができない。
高ダイナミックレンジ撮像(High Dynamic Range;HDR又はHDRIとも呼ばれる)では、従来のLDR画像と比較して、シーンの明るいエリアと暗いエリアとの間でルミナンスのダイナミックレンジをより大きくすることができる。これは、HDR撮像において、信号表現(signal representation)をより広いダイナミックレンジに拡張して、レンジ全体にわたり高い信号精度を提供することにより達成される。HDR画像では、ピクセルの成分値は、通常、より多数のビット(例えば、16ビット〜64ビット)を用いて表され、浮動小数点形式(例えば、各成分に32ビット又は16ビット、すなわち浮動又は半浮動)、最も普及している形式であるopenEXR半浮動形式(RGB成分毎に16ビット、すなわち、ピクセル毎に48ビット)又は典型的には少なくとも16ビットを用いる長表現(long representation)による整数を含む。そのようなレンジは、人間の視覚系の自然な感度に対応する。このようにして、HDR画像は、現実のシーンで見られる広範囲のルミナンスをより正確に表し、それにより、シーンのより現実的な表現を提供する。高ダイナミックレンジ撮像は、コンピュータグラフィックス及び画像処理コミュニティの両方で広く使用されるようになりつつある。
しかし、表示デバイスによっては、HDR撮像により提供される全範囲の光強度を再現するには不十分な、限られたダイナミックレンジを有するものがある。このため、様々な技法を使用して、LDR型ディスプレイと互換性のあるHDR画像データをレンダリングしてきた。例えば、トーンマッピングは、ある組の色を別の組の色にマッピングして、より制限されたダイナミックレンジを有する媒体で高ダイナミックレンジ画像の外観を近似させるために使用される技法である。トーンマッピングオペレータ(TMO)は、HDR画像で利用可能な広範囲の値をLDRディスプレイ(低ダイナミックレンジ)で再現できるようにする。
TMOには2つの主なタイプがある:グローバルオペレータ及びローカルオペレータである。
グローバルオペレータは、HDRフレームの特徴を使用して、全体画像の単調増加トーンマッピング曲線を計算する。その結果、これらのオペレータは、輝度の空間的なコヒーレンス性を保証する。しかし、グローバルオペレータは、通常、HDRフレームに含まれるより細かい細部を再現することができない。ローカルオペレータは、ピクセルの空間的な近傍に基づいて各ピクセルをトーンマッピングする。これらの技法は局所的な空間コントラストを上げ、それにより、より多くの細部があるフレームを提供する。
TMOを入力ビデオシーケンスの各フレームに別個に適用すると、通常、時間的に非コヒーレントになる。時間的な非コヒーレンス性には2つの主なタイプがある。フリッカーアーティファクト及び時間的な輝度の非コヒーレンス性である。
フリッカーアーティファクトは、TMOに起因するものであり、連続画像でのトーンマッピングの急速変化によって生じる。その結果、同様のHDRルミナンス値が異なるLDR値にマッピングされる。TMOに起因するそのようなフリッカーアーティファクトは、望ましくなく、低減すべきである。
時間的な輝度の非コヒーレンス性は、短期における時間的な輝度の非コヒーレンス性及び長期における時間的な輝度の非コヒーレンス性を含む。短期における時間的な輝度の非コヒーレンス性は、HDRシーンで(大域的又は局所的な)ルミナンス状況の急速な変化が生じる場合に発生する。時間的に近いフレームを考慮せずにTMOを適用すると、異なるHDR値が同様のLDR値にマッピングされることになる。その結果、トーンマッピングは、保存すべきであったシーンについての情報を失う。
最後に、長期における時間的な輝度の非コヒーレンス性は、相対的HDRフレームの輝度が、トーンマッピング処理の過程で保存されない場合に生じる。その結果、HDRシーケンスで最も明るいと知覚されるフレームは、必ずしもLDRシーケンスで最も明るいわけではない。フリッカーアーティファクト及び短期における時間的な輝度の非コヒーレンス性とは異なり、長期における時間的な輝度の非コヒーレンス性は、必ずしも連続フレームを通して見られるわけではない。
まとめると、グローバルであれ、ローカルであれ、TMOをHDRビデオシーケンスのフレームに別個に適用すると、時間的な非コヒーレンス性が生じる。
そのような問題に対処しようとして、様々な手法が提案されてきた。例えば、時間的フィルタリングに基づく解決策が提案されている(Boitard R., Thoreau D., Bouatouch K., Cozot R.: Temporal Coherency in Video Tone Mapping, a Survey. In HDRi2013 - First International Conference and SME Workshop on HDR imaging (2013), no.1, pp. 1 - 6)。TMOに応じて、ピクチャへのマッピングに適合する演算されたトーンマッピング曲線又は変数は、フィルタリングされる。そのような変数の例は、(ピクチャの全体輝度の指標である)ピクチャの幾何学的平均、その最大値又は最小値等である。しかし、これらの技法はグローバルTMOのみで上手くいき、その理由は、ローカルTMOが非線形で空間的に変化するトーンマッピング曲線を有するためである。加えて、短期における時間的な輝度の非コヒーレンス性が生じる場合、これらの技法は、両方の照明状況を一緒にフィルタリングし、その結果、元のHDRシーンの照明状況のいずれにも対応しない遷移状態のトーンマッピングになる。
ローカルTMOの場合、時間的なコヒーレンス性を保持することの本質は、時間及び空間にわたるトーンマッピングの高いばらつきを回避することにある。GDCオペレータに基づく解決策が、Leeら(Lee C., Kim C.- S.: Gradient Domain Tone Mapping of High Dynamic Range Videos. In 2007 IEEE International Conference on Image Processing (2007), no. 2, IEEE, pp. III-461-III-464)により提案されている。
まず、この技法は、連続HDRフレームの各対にピクセル単位のモーション推定を実行し、その結果生成されるモーションフィールドは、対応するLDRフレームの時間的なコヒーレンス性の制約として使用される。この制約は、モーションベクトルを通して関連付けられた2つのピクセルが、同様にトーンマッピングされることを保証する。
この技法から生成される視覚的改善にも拘らず、幾つかの欠点がなお存在する。第1に、この解決策はモーション推定のロバスト性に依存する。この推定が失敗する場合(物体のオクルージョンが生じた場合)、時間的なコヒーレンス性の制約は、異なる物体に属するピクセルに適用され、通常、ゴーストアーティファクトが生じる。そのようなモーション推定問題は、非コヒーレントなモーションベクトルと呼ばれる。この問題は、短期における時間的な輝度の非コヒーレンス性が生じる場合にも発生する。この場合、この技法は、トーンマッピングされた値を、LDRシーケンス内の先行するフレームでの値に近いものに合わせる。さらに、この技法は、GDCオペレータである1つのローカルTMOのみに向けて設計され、他のTMOに向けて拡張することができない。
最後に、Guthierら(Guthier, B., Kopf, S., Eble, M., & Effelsberg, W.(2001). Flicker reduction in tone mapped high dynamic range video. In Proc. of IS&T/SPIE Electronic Imaging (EI) on Color Imaging XVI: Displaying, Processing, Hardcopy, and Applications (p. 78660C-78660C-15))は、トーンマッピングシーケンスからの情報のみを使用して、あらゆるTMOの出力を後処理することにより、フリッカーアーティファクトを低減する技法を設計した。
この方法は、ビデオシーケンスの連続フレーム間で、(ピクチャの全体輝度の指標である)幾何学的平均を比較する。フリッカーアーティファクトは、この差分が閾値よりも大きい場合、検出される。アーティファクトが見つけられるとすぐに、輝度閾値に達するまで、反復的な輝度調整を使用してアーティファクトを低減する。
この解決策はいかなる時間的アーティファクトも検出する。その結果、輝度閾値よりも大きい、HDRビデオシーケンスの輝度変化は、トーンマッピング処理中、低減され、短期における時間的な輝度の非コヒーレンス性が生じる。加えて、時間的な非コヒーレンス性は、大域的にのみ考慮され、局所的な時間的な非コヒーレンス性は無視される。
本発明は、上記を念頭に置いて考案された。本発明の一般的な態様は、HDRソースの連続するフレーム及び対応するトーンマッピングされたLDRシーケンスのフレームを時間的に分解することと、HDR周波数サブバンドとLDR周波数サブバンドとの比較を実行することとを含む。
本発明の第1の態様によれば、ビデオシーケンスの画像を処理する方法であって、現在のHDR画像及び先行するHDR画像を含む2つの時間的に連続するHDR画像の時間周波数分解を実行することであって、それにより、高HDR時間周波数サブバンド及び低HDR時間周波数サブバンドを取得する、HDR画像の時間周波数分解を実行することと、2つの時間的に連続するHDR画像からそれぞれ得られた、現在のLDR画像及び先行LDR画像を含む2つの時間的に連続するLDR画像の時間周波数分解を実行することであって、それにより、高LDR時間周波数サブバンド及び低LDR時間周波数サブバンドを取得する、LDR画像の時間周波数分解を実行することと、高HDR時間周波数サブバンドからHDRエッジマップを取得し、高LDR時間周波数サブバンドからLDRエッジマップを取得することと、高HDR時間周波数サブバンドと高LDR時間周波数サブバンドとの比較に基づいて、現在のLDR画像を変更することであって、比較は、取得されたHDRエッジマップ及びLDRエッジマップに対して実行されて、例えば、エッジマップの対応するピクセル間の差分を検出することで実行される、変更することとを含む、方法が提供される。
HDR周波数サブバンドとLDR周波数サブバンドとの比較により、ピクセル単位での時間的な非コヒーレンス性を検出することができる。例えば、トーンマッピングビデオシーケンスの連続フレームでの時間的な非コヒーレンス性を低減することができる。周波数サブバンドの比較により、ゴーストアーティファクトの出現を低減することができる。
HDR又はLDRの高時間周波数サブバンドは、低時間周波数サブバンドよりも高い周波数範囲の時間周波数サブバンドを示す。当然、HDR又はLDRの低時間周波数サブバンドは、高時間周波数サブバンドよりも低い周波数範囲の時間周波数サブバンドを示す。
実施形態では、本方法は、高HDR時間周波数サブバンドから、少なくとも1つのHDR閾値に基づいてHDRエッジマップを取得し、高LDR時間周波数サブバンドから、少なくとも1つのLDR閾値に基づいてLDRエッジマップを取得することを含み、比較は、取得されたHDRエッジマップ及びLDRエッジマップに対して実行される。
実施形態では、エッジ検出はキャニーフィルタを適用することを含む。
実施形態では、本方法は、エッジマップの比較から、フリッカーアーティファクトの存在と短期的な輝度の非コヒーレンス性とを区別することを含む。
実施形態では、HDRエッジマップを取得するための少なくとも1つのHDR閾値及び/又はLDRエッジマップを取得するための少なくとも1つのLDR閾値は、ユーザにより定義される。
実施形態では、HDRエッジマップを取得するための少なくとも1つのHDR閾値は、低HDR時間周波数サブバンドに基づき、及び/又はLDRエッジマップを取得するための少なくとも1つのLDR閾値は、低LDR時間周波数サブバンドに基づく。
実施形態では、画像のピクセル当たりの閾値は、各低時間周波数サブバンドの値に依存する。
実施形態では、時間周波数分解を実行することは、2つの時間的に連続するHDRフレーム又は対応するLDRフレームのモーション推定から特定されるモーションベクトルに基づいて、モーション補償時間フィルタリングを実行することを含む。
好ましくは、モーションベクトルは、2つの時間的に連続するHDRフレームのモーション推定から得られる。これは、より正確なモーション推定を提供する。
実施形態では、本方法は、2つの時間的に連続したHDR画像間のモーション推定を実行して、HDR画像の時間周波数分解及びトーンマッピングされたLDR画像の時間周波数分解を実行するためのモーションベクトルを提供することを含む。モーション推定の使用により、空間領域及び時間領域全体を通して時間的な非コヒーレンスアーティファクトを検出することができる。
実施形態では、現在のLDR画像を変更することは、フリッカーアーティファクトをLDR閾値未満に低減するか、又は短期的な輝度のコヒーレンス性をLDR閾値を上回るように増大させることを含む。
本発明が、HDR画像からLDR画像を取得する任意のプロセスに適用可能なことが理解される。任意のダイナミックレンジスケーリング処理を適用して、対応するHDR画像からLDR画像を取得し得る。実施形態では、現在のLDR画像及び先行するLDR画像はそれぞれ、トーンマッピング処理により、現在のHDR画像及び先行するHDR画像からそれぞれ得られる。そのような実施形態では、任意のトーンマッピングオペレータを適用し得ることが理解される。
本発明の第2の態様によれば、ビデオシーケンスの画像を処理するデバイスであって、現在のHDR画像及び先行するHDR画像を含む2つの時間的に連続したHDR画像の時間周波数分解を実行して、高周波数HDR時間周波数サブバンド及び低周波数HDR時間周波数サブバンドを取得するとともに、2つの時間的に連続するHDR画像からそれぞれ得られた2つの時間的に連続するLDR画像の時間周波数分解を実行して、高周波数LDR周波数サブバンド及び低周波数LDR周波数サブバンドを取得するフィルタと、高HDR時間周波数サブバンドと高LDR時間周波数サブバンドとの比較を実行するコンパレータと、高HDR時間周波数サブバンドと高LDR時間周波数サブバンドとの比較に基づいて、現在のLDR画像を変更する画像補正器とを含む、デバイスが提供される。本デバイスには、少なくとも1つのHDR閾値に基づいて、高HDR時間周波数サブバンドからHDRエッジマップを取得し、少なくとも1つのLDR閾値に基づいて、高LDR時間周波数サブバンドからLDRエッジマップを取得するエッジマップ生成器が提供され、コンパレータは、取得されたHDRエッジマップ及びLDRエッジマップに対して比較を実行して、対応するピクセル間の差分を検出するように構成される。
実施形態では、エッジマップ生成器はキャニーフィルタを含む。
実施形態では、キャニーフィルタは、平滑化モジュール、閾値処理モジュール、及びエッジ補間モジュールを含む。
実施形態では、HDRエッジマップを取得するための少なくとも1つのHDR閾値及び/又はLDRエッジマップを取得するための少なくとも1つのLDR閾値は、ユーザにより定義される。
実施形態では、HDRエッジマップを取得するための少なくとも1つのHDR閾値は、低周波数HDR時間周波数サブバンドに基づき、及び/又はLDRエッジマップを取得する少なくとも1つのLDR閾値は、低周波数LDR時間周波数サブバンドに基づく。
実施形態では、フィルタは、2つの時間的に連続するHDRフレーム又は対応するLDRフレームのモーション推定から特定されるモーションベクトルに基づいて、モーション補償時間フィルタリングを実行するように構成される。
本発明の更なる態様によれば、ビデオシーケンスの画像を処理する、本発明の第2の態様の任意の実施形態によるデバイスと、LDR画像を表示するディスプレイとを含む表示デバイスが提供される。
本発明の実施形態は、HDRサブバンドを使用して、HDRシーケンスでの(大域的又は局所的)照明状況の時間的変化(又は時間的変化がないこと)を検出して、それらをLDRシーケンスにおいて保存するため、フリッカーアーティファクト及び短期的な非コヒーレンス性アーティファクトの両方に対処するのに役立つ。
本発明の実施形態による方法の少なくとも部分は、コンピュータにより実施し得る。したがって、本発明は、全体的にハードウェアの実施形態、全体的にソフトウェアの実施形態(ファームウェア、常駐ソフトウェア、マイクロコード等を含む)、又はソフトウェア態様とハードウェア態様とを組み合わせた実施形態の形態をとり得、これらは全般的に、本明細書では、「回路」、「モジュール」、又は「システム」と呼ばれ得る。さらに、本発明は、媒体で実施されるコンピュータ使用可能プログラムコードを有する任意の有形表現媒体で実施されるコンピュータプログラム製品の形態をとり得る。
本発明は、ソフトウェアで実施することができるため、任意の適する搬送媒体でプログラマブル装置に提供されるコンピュータ可読コードとして実施することができる。有形搬送媒体は、フロッピーディスク、CD−ROM、ハードディスクドライブ、磁気テープデバイス、又は固体状態記憶デバイス等の記憶媒体を含み得る。一時的な搬送媒体は、電気信号、電子信号、光信号、音響信号、磁気信号、又は電磁信号、例えば、マイクロ波又はRE信号等の信号を含み得る。
本発明の実施形態について、単なる例として、以下の図面を参照してこれより説明する。
本発明の第1の実施形態によるビデオシーケンスの画像を処理する方法の概略ブロック図である。 本発明の実施形態による、モーション補償(MC)を使用して2つのフレームの時間的サブバンド分解を実行する方法の概略図である。 本発明の実施形態による、周波数サブバンドの比較を実行する方法のステップを示す概略図である。 本発明の1つ又は複数の実施形態を実施することができる処理デバイスのブロック図である。 本発明の1つ又は複数の実施形態を実施することができる電子デバイスの例のブロック図である。
時間的な非コヒーレンス性アーティファクトは、ビデオシーケンスの連続フレームでの大域的又は局所的な輝度変化(又は輝度変化がないこと)である。本明細書に記載される本発明の実施形態により対処し得る2つのタイプの時間的な非コヒーレンス性は、フリッカーアーティファクト(HDRシーケンスには輝度変化がなく、一方、LDRシーケンスでは輝度変化が発生する)及び短期的な輝度の非コヒーレンス性(HDRシーケンスには輝度変化があり、一方、LDRシーケンスには輝度変化が生じない)である。
図1は、本発明の第1の実施形態による、ビデオシーケンスの画像を処理する方法のステップを示す概略ブロック図である。
方法は、ステップS101において開始され、HDR画像データが取得される。本例でのHDR画像データは、画像ビデオシーケンスを表す。HDR画像データは、例えば、ビデオカメラ等の撮像デバイスから直接取得してもよく、ローカル又はリモートに配置し得るメモリから取得してもよく、又は無線若しくは有線通信線を介して受信してもよい。
本明細書で使用される場合、「HDR画像」又は「HDRフレーム」という用語は、通常、16ビットよりも大きいビット数により表される浮動小数点形式(浮動若しくは半浮動)、固定点形式、又は長表現整数形式の高ダイナミックレンジデータを含む任意のHDR画像又はフレームを指す。
図1に示される例では、2つの時間的に連続したHDRフレームFHDR t−1及びFHDR が、処理のためにHDRビデオシーケンスから取得される:現在の(時間tの)HDRフレームがFHDR であり、時間的に先行する(時間t−1の)HDRフレームがFHDR t−1である。
ステップS102において、2つの時間的に連続するHDRフレームFHDR t−1及びFHDR は、任意のTMOを使用するトーンマッピング処理によりトーンマッピングされて、2つの対応するトーンマッピングされたLDR画像FLDR t−1及びFLDR を取得する:現在の(時間tの)LFRフレームがFLDR であり、時間的に先行する(時間t−1の)LDRフレームがFLDR t−1である。先行するトーンマッピングされたフレーム(FLDR t−1)は、本発明の実施形態に係る処理の前の反復における現在のLDRフレームとして、既に時間的な非コヒーレンス性の低減を受けていることがあり、この場合、(図1でFLDR* t−1)と示される。
モーション推定が、HDRビデオシーケンスの先行するHDRフレームFHDR t−1と現在のHDRフレームFHDR との間で実行される。ステップS103において、モーション推定から得られたモーションベクトル(Motion vectors;Mv)を使用して、HDRビデオシーケンスの2つの連続するHDRフレームFHDR t−1及びFHDR に対してモーション補償時間フィルタリング(Motion Compensated Temporal Filtering;MCTF)を実行する。この処理は、2つの連続したHDRフレームFHDR t−1及びFHDR を2つの時間周波数サブバンド:一般に高周波数サブバンド(HHDR)として記されるより高い周波数のサブバンド及び低周波数サブバンド(LHDR)として一般に記されるより低い周波数のサブバンド、に分解することを含む。
同様に、ステップS104において、MCTFが、2つの連続するHDRフレームFHDR t−1及びFHDR に対応する、トーンマッピングされたLDRビデオシーケンスの先行するフレームFLDR* t−1及び現在のフレームFLDR に対して実行される。トーンマッピングされたLDRビデオシーケンスの先行するフレームFLDR* t−1及び現在のフレームFLDR に適用されるMCTFは、HDRビデオシーケンスの対応する2つの連続したHDRフレームFHDR t−1及びFHDR のMCTFで適用されるものと同じモーションベクトルを使用する。その結果、LDRフレームの2つの時間周波数サブバンドが得られる:より高い(高)周波数サブバンド(HLDR)及びより低い(低)周波数サブバンド(LLDR)である。
よりよい精度のために、2つの連続したHDRフレームで実行されたモーション推定からモーションベクトルを得ることが好ましいが、本発明の幾つかの実施形態では、モーションベクトルは、2つの連続したLDRフレームで実行されたモーション推定から取得し得る。
LDRシーケンス及びHDRシーケンスの両方から得られた高周波数時間周波数サブバンド(HLDR及びHHDR)が、ステップS105において使用されて、時間的な非コヒーレンス性アーティファクトを検出する。この検出を使用して、ビデオシーケンスの現在のLDRフレームFLDR* は、それらのアーティファクトを低減するように変更される。サブバンド分解から生じる低周波数時間周波数サブバンドの更なる処理が必須ではない場合がある。
本発明の実施形態による、ステップS103及びS104において適用された時間周波数分解の処理について、図2を参照して説明する。
図2の例では、一般的にFt−1及びFとして参照されるHDRフレームFHDR t−1及びFHDR 又は対応するトーンマッピングされたLDRフレームFLDR t−1及びFLDR の時間周波数分解の処理は、先行するHDRフレームFHDR t−1と現在のHDRフレームFHDR との間のモーション推定から得られる後方向モーションベクトルv及び前方向モーションベクトルvを使用して、正規直交変換を適用し、ステップS201及びS202において、高時間周波数サブバンドH及び低時間周波数サブバンドLをそれぞれ取得することを含む。
Figure 0006640122

ここで、H及びLは、それぞれLDRレベル又はHDRレベルで取得される高及び低時間周波数サブバンドであり、v及びvは、それぞれ時間的に連続するHDRフレーム間のモーション推定から得られる後方向及び前方向モーションベクトルであり、nは、フレームFでのピクセル位置であり、pは、n+vに対応する。
図1のステップS105のアーティファクト検出及び低減機能を実施する本発明による実施形態の例について、図3を参照して説明する。LDRレベルでの高時間周波数サブバンドHLDR及びHDRレベルでの高時間周波数サブバンドHHDRはそれぞれ、ステップS311及びS321において、各閾値をそれぞれ使用して、各エッジマップEHDR及びELDRを生成する。
Figure 0006640122
次に、2つのエッジマップは、ステップS330において、互いに比較されて、エッジ差分を検出し、差分が検出される場合、時間的な非コヒーレント性アーティファクトが存在するとみなされる。表1の例にまとめられるように、幾つかの場合を区別し得る。
Figure 0006640122
エッジマップで生じる任意の差分を補正するために、現在のトーンマッピングされたフレーム(FLDR )は、ステップS340において、必要とされる各ピクセルロケーション(x,y)において補正されて、フリッカーアーティファクトを閾値未満に低減するか、又は短期的な輝度の非コヒーレンス性を、閾値を上回るように低減させる。
表1は、EHDR(n)及びELDR(n)で得られる値が1又は0であるバイナリエッジマップの例を示すが、本発明の他の実施形態では、複数の閾値をHDR及びLDR高時間周波数サブバンドに適用して、対応するエッジマップを取得し得ることが理解される。各エッジマップの取得に、複数の異なる閾値が使用される場合、エッジの強度を示す各HDR及びLDRエッジマップが取得される。強度がHDR高周波数サブバンドとLDR高周波数サブバンドとで異なる場合、現在のLDR画像は、強度差の差分に基づいて変更される。
HDR閾値及びLDR閾値は、幾つかの方法で計算し得る。
例えば、一実施形態では、閾値はユーザにより定義される。
別の実施形態では、閾値は、2つの低周波数サブバンド(LHDR及びLLDR)からそれぞれ導出される。そのような場合、低周波数サブバンドの値に応じて、ピクセル毎に閾値がある。
本発明の実施形態による正確なエッジ差分機能の適用についてこれより説明する。表1の例では、対処すべき2つの事例がある。第1に、2つの時間的に連続するHDRフレーム間に時間エッジが存在せず、一方、対応する時間的に連続するLDRフレームにエッジが存在する。これは、TMOの適用により導入されるフリッカーアーティファクトに対応する。例では、このアーティファクトは事例「FA」と呼ばれる。第2に、時間エッジが2つの時間的に連続するHDRフレーム間に存在し、一方、時間的に連続するLDRフレームには存在しない。これは短期における時間的な輝度の非コヒーレンス性である。例では、このアーティファクトは事例「BI」と呼ばれる。
実施形態によれば、アーティファクトは、HDRエッジマップEHDR及びLDRエッジマップELDRが同じ値を有するように低減される。例えば、以下の式:
Figure 0006640122

に関して、
Figure 0006640122

は、アーティファクトが低減された、処理後の現在のLDRフレームであり、以下のように計算される:
Figure 0006640122

ここで、「fa」及び「bi」は、フリッカーアーティファクト「FA」及び時間的な輝度の非コヒーレンス性アーティファクト「BI」がそれぞれ検出されたピクセルを表す。fav及びbivは、ピクセル「fa」及び「bi」にそれぞれ関連付けられたモーションベクトルに対応する。最後に、「デルタ」は、結果として得られる値を閾値よりも上にして、式(A)及び(B)での不等性に配慮するために適用される量子化ステップである。
図1〜図3では、示されるモジュールは機能ユニットに対応し、区別可能な物理的ユニットに対応することもあれば、しないこともある。例えば、複数のそのようなモジュールは、独自の構成要素又は回路に関連付けられることもあれば、又はソフトウェアモジュールに対応することもある。さらに、モジュールは潜在的に、別個の物理的実体で構成されてもよく、又はソフトウェア機能で構成されてもよい。
本発明の実施形態と互換性があるデバイスは、ハードウェアのみで、ソフトウェアのみで、又はハードウェアとソフトウェアとの組合せで実施し得る。ハードウェアに関して、例えば専用ハードウェア、例えば、ASIC<特定用途向け集積回路>、FPGA<フィールドプログラマブルゲートアレイ>、又はVLSI<超大規模集積>等が、又はデバイスに埋め込まれた幾つかの集積電子構成要素を使用することにより、又はハードウェア構成要素及びソフトウェア構成要素の組合せから、使用され得る。
本発明の更なる実施形態では、エッジ検出技法が適用されて、HDR及びLDR高時間周波数サブバンド(HLDR及びHHDR)に存在するエッジを検出し、各エッジマップを取得する。これは、高周波数サブバンドに存在するエッジを検出することを含み、エッジは、現在の画像と先行する画像との間のルミナンス変化に対応し、時間的アーティファクトを示す。これを達成するために、キャニーフィルタが使用される。キャニーフィルタは、エッジ検出を可能にし、例えば、ラプラスフィルタと比較して、エッジのより精密な位置特定を提供する。例えば、ガウシアンを適用することにより、平滑化を実行し得る。次に、後続ステップにおいて、エッジは、勾配を適用することにより検出される。後続ステップにおいて、閾値が適用される。閾値は、例えば、係数αにより変更することができる。次に、検出されたエッジは、勾配法線がどこに極大を有するか探すことによる補間によって改良される。非極大は抑制することができ、HDRエッジマップ及びLDRエッジマップは、ステップS105でのアーティファクトの検出及び補正のための比較のために得られる。
図4は、本発明の1つ又は複数の実施形態を実施し得る電子デバイス400の機能構成要素を表す概略ブロック図である。
電子デバイス400は、メモリ410、1つ又は複数の処理ユニット(CPU)420、アプリケーションとのデータ転送のための入力/出力インタフェース430、及び外部デバイス又はネットワークに接続するためのインタフェースポート470を含む。構成要素は、1つ又は複数の通信バス450を介して通信する。
メモリは、高速ランダムアクセスメモリ(RAM)411及び読み取り専用メモリ(ROM)412を含み得る。メモリのレジスタは、デバイスの任意のメモリの低容量(幾つかのビット)部分又は高容量部分(例えば、コンピュータプログラムコード全体又は大量の圧縮若しくは非圧縮データ)に対応し得る。ROM412は、少なくともプログラムコード及びパラメータを記憶する。本発明の実施形態による、画像シーケンスを処理する方法のアルゴリズムは、ROM412に記憶し得る。
1つ又は複数のCPU420は、メモリ410に記憶された様々なソフトウェアプログラム及び/又は命令セットを実行して、処理デバイス400の機能を実行し、データを処理する。RAM411は、レジスタに、CPU420により実行され、デバイス400の電源投入後にアップロードされ、レジスタにデータを入力し、レジスタにおいてアルゴリズムの異なる段階でデータを仲介するプログラム及びレジスタにおいてアルゴリズムを実行するために使用される他の変数を含む。電源投入されると、CPU420は、ソフトウェアプログラムをRAM411からアップロードし、対応する命令を実行する。
本発明の実施形態により処理される画像は、メモリ410に記憶し得る。本発明の実施形態による方法から得られる処理済みデータは、メモリ410に記憶し得る。
メモリ410は、1つ又は複数の磁気ディスク記憶デバイス、フラッシュメモリデバイス、又は他の不揮発性固体状態メモリデバイス等の不揮発性メモリを含み得る。幾つかの実施形態では、メモリは、1つ又は複数のCPU420からリモートに配置される記憶装置をさらに含み得る。例えば、インタフェース及び/又は通信ネットワークを介してアクセス可能な記憶装置である。
幾つかの実施形態では、デバイスには、電池440等の電源が提供される。代替の実施形態によれば、電源はデバイスの外部にあり得る。
デバイスは、ディスプレイ460、例えば、本発明の実施形態による方法から取得された処理済みLDR画像を表示するLDR互換性ディスプレイを提供し得る。他の実施形態では、ディスプレイは、デバイス400のリモートに配置され、処理済みデータは、例えば、有線若しくは無線データ通信インタフェースを介して、又は有線若しくは無線ネットワーク接続を介して、ポート470によりディスプレイに転送される。HDR画像は、有線若しくは無線通信インタフェースを介して、又は有線若しくは無線ネットワーク接続を介して、ポート470により受信し得る。
図5は、本発明の実施形態を実施し得る電子システムの構成要素を示す概略ブロック図である。電子システムは、HDR画像を取得する画像取得モジュール510、本発明の1つ又は複数の実施形態によりHDR画像を処理する画像プロセッサ520、及びLDR画像のディスプレイと互換性がある表示デバイスを含む。HDR取得デバイス510は、例えば、HDRフォーマットの画像を取得するように構成されるビデオレコーダ又はHDR画像が記憶される媒体であり得る。
画像プロセッサ520は、現在のHDR画像FHDR t−1及びFHDR と、先行するHDR画像FHDR t−1を含む2つの時間的に連続するHDR画像FHDR t−1及びFHDR の時間周波数分解を実行して、高HDR時間周波数サブバンドHHDR及び低HDR時間周波数サブバンドLHDRを取得し、2つの時間的に連続するHDR画像からそれぞれ得られる2つの時間的に連続するLDR画像FLDR t−1及びFLDR の時間周波数分割を実行して、高LDR時間周波数サブバンドHLDR及び低LDR時間周波数サブバンドLLDRを取得するフィルタ521、高HDR時間周波数サブバンドHHDRと高LDR時間周波数サブバンドHLDRとの比較を実行するコンパレータ522、並びに高HDR時間周波数サブバンドHHDRと高LDR時間周波数サブバンドHLDRとの比較に基づいて、現在のLDR画像FLDR を変更する画像補正器523を含む。次に、処理された画像は、表示のためにLDR表示デバイス530に転送される。
本発明の実施形態は、フリッカーアーティファクト及び短期的な輝度の非コヒーレンス性の検出を可能にするとともに、そのような影響の低減を可能にする。さらに、本発明の実施形態を使用して、フリッカーアーティファクトを短期的な輝度のコヒーレンス性から区別することができる。本発明は、任意のトーンマッピング又は他のHDR−LDRスケーリング技法に関して汎用的である。トーンマッピングの場合、本発明の実施形態は、トーンマッピング処理で使用されるトーンマッピングオペレータにより導入されたゴーストアーティファクトを検出するのに役立つ。
本発明は、特定の実施形態を参照して上述されたが、本発明は特定の実施形態に限定されず、変更形態は、本発明の範囲内にある技術の当業者にとって明らかである。
例えば、本発明の実施形態は、HDR画像をLDR画像に変換するトーンマッピング技法に関して説明されたが、本発明はトーンマッピング技法に限定されず、HDR画像をLDR互換性画像に変換する任意の技法に適用し得ることが理解される。
多くの更なる変更形態及び変形形態は、上記例示的な実施形態を参照した上で、当業者に示唆され、上記例示的な実施形態は、単なる例として与えられ、本発明の範囲の限定を意図せず、本発明の範囲は添付の特許請求の範囲のみにより決定される。特に、異なる実施形態からの異なる特徴は、適切な場合、相互に交換し得る。
[付記1]
ビデオシーケンスの画像を処理する方法であって、
現在のHDR画像及び先行するHDR画像を含む2つの時間的に連続するHDR画像の時間周波数分解を実行すること(S103)であって、それにより、高HDR時間周波数サブバンド及び低HDR時間周波数サブバンドを取得する、HDR画像の時間周波数分解を実行すること(S103)と、
前記2つの時間的に連続するHDR画像からそれぞれ得られた2つの時間的に連続するLDR画像の時間周波数分解を実行すること(S104)であって、それにより、高LDR時間周波数サブバンド及び低LDR時間周波数サブバンドを取得する、LDR画像の時間周波数分解を実行すること(S104)と、
前記高HDR時間周波数サブバンドからHDRエッジマップを取得し、前記高LDR時間周波数サブバンドからLDRエッジマップを取得することと、
前記高HDR時間周波数サブバンドと前記高LDR時間周波数サブバンドとの比較に基づいて、前記現在のLDR画像を変更すること(S105)であって、前記比較は、前記取得されたHDRエッジマップ及びLDRエッジマップに対して実行され(S330)て、対応するピクセル間の差分を検出することで実行される、変更すること(S105)と
を含む、方法。
[付記2]
前記エッジマップの比較から、フリッカーアーティファクトの存在と短期的な輝度の非コヒーレンス性の存在とを区別することを含む、付記1に記載の方法。
[付記3]
前記HDRエッジマップ(S311)は、前記高HDR時間周波数サブバンドから、少なくとも1つのHDR閾値に基づいて取得され、前記LDRエッジマップ(S321)は、前記高LDR時間周波数サブバンドから、少なくとも1つのLDR閾値に基づいて取得される、付記1又は2に記載の方法。
[付記4]
前記HDRエッジマップは、キャニーフィルタを前記高HDR時間周波数サブバンドに適用することにより取得され、前記LDRエッジマップは、キャニーフィルタを前記高LDR時間周波数サブバンドに適用することにより取得される、付記1又は2に記載の方法。
[付記5]
キャニーフィルタを適用することによるエッジ検出は、平滑化ステップ、閾値処理ステップ、及び補間ステップを含む、付記4に記載の方法。
[付記6]
時間周波数分解を実行することは、2つの時間的に連続するHDRフレーム又は2つの時間的に連続する対応するLDRフレームのモーション推定から特定されるモーションベクトルに基づいて、モーション補償時間フィルタリングを実行することを含む、付記1〜5のいずれか一項に記載の方法。
[付記7]
前記現在のLDR画像を変更することは、フリッカーアーティファクトを前記LDR閾値未満に低減するか、又は短期的な輝度のコヒーレンス性を前記LDR閾値を上回るように増大させることを含む、付記1〜6のいずれか一項に記載の方法。
[付記8]
前記現在のLDR画像及び前記先行するLDR画像は、トーンマッピング処理により前記現在のHDR画像及び前記先行するHDR画像からそれぞれ得られる、付記1〜7のいずれか一項に記載の方法。
[付記9]
ビデオシーケンスの画像を処理するデバイスであって、
現在のHDR画像及び先行するHDR画像を含む2つの時間的に連続したHDR画像の時間周波数分解を実行して、高HDR時間周波数サブバンド及び低HDR時間周波数サブバンドを取得するとともに、前記2つの時間的に連続するHDR画像からそれぞれ得られた2つの時間的に連続するLDR画像の時間周波数分解を実行して、高LDR時間周波数サブバンド及び低LDR時間周波数サブバンドを取得するフィルタ(521)と、
前記高HDR時間周波数サブバンドと前記高LDR時間周波数サブバンドとの比較を実行するコンパレータ(522)と、
前記高HDR時間周波数サブバンドと前記高LDR時間周波数サブバンドとの比較に基づいて、前記現在のLDR画像を変更する画像補正器(523)と、
前記高HDR時間周波数サブバンドからHDRエッジマップを取得し、前記高LDR時間周波数サブバンドからLDRエッジマップを取得するエッジマップ生成器であって、前記コンパレータは、前記取得されたHDRエッジマップ及び前記LDRエッジマップに対して比較を実行して、対応するピクセル間の差分を検出するように構成される、エッジマップ生成器と
を含む、デバイス。
[付記10]
前記エッジマップ生成器は、前記高HDR時間周波数サブバンドから、少なくとも1つのHDR閾値に基づいてHDRエッジマップを取得し、前記高LDR時間周波数サブバンドから、少なくとも1つのLDR閾値に基づいて前記LDRエッジマップを取得するように構成される、付記9に記載のデバイス。
[付記11]
前記エッジマップ生成器はキャニーフィルタを含む、付記9に記載のデバイス。
[付記12]
前記キャニーフィルタは、平滑化モジュール、閾値処理モジュール、及びエッジ補間モジュールを含む、付記11に記載のデバイス。
[付記13]
前記フィルタは、2つの時間的に連続するHDRフレーム又は2つの時間的に連続する対応するLDRフレームのモーション推定から特定されるモーションベクトルに基づいて、モーション補償時間フィルタリングを実行することにより、時間周波数分解を実行するように構成される、付記9〜12のいずれか一項に記載のデバイス。
[付記14]
ビデオシーケンスの画像を処理する、付記9〜13のいずれか一項に記載のデバイス(520)と、
LDR画像を表示するディスプレイ(530)と
を含む表示デバイス。
[付記15]
プログラマブル装置にロードされ、前記プログラマブル装置により実行されると、付記1〜8のいずれか一項に記載の方法を実施する命令シーケンスを含む、前記プログラマブル装置のコンピュータプログラム製品。

Claims (14)

  1. ビデオシーケンスの画像を処理する方法であって、
    現在のHDR画像及び先行するHDR画像を含む2つの時間的に連続したHDR画像の時間周波数分解を実行することであって、それにより、高HDR時間周波数サブバンド及び低HDR時間周波数サブバンドを取得する、HDR画像の時間周波数分解を実行することと、
    前記2つの時間的に連続するHDR画像からそれぞれ得られた2つの時間的に連続するLDR画像の時間周波数分解を実行することであって、それにより、高LDR時間周波数サブバンド及び低LDR時間周波数サブバンドを取得する、LDR画像の時間周波数分解を実行することと、
    前記高HDR時間周波数サブバンドからHDRエッジマップを取得し、前記高LDR時間周波数サブバンドからLDRエッジマップを取得することと、
    前記HDRエッジマップと前記LDRエッジマップとを比較して、対応するピクセル間の差分を検出することと、
    少なくとも1つのピクセルロケーション(x,y)において前記HDRエッジマップ及び前記LDRエッジマップで生じる差分について、前記少なくとも1つのピクセルロケーションにおいて前記現在のLDR画像を補正することであって、前記補正することは、前記エッジマップの比較から、フリッカーアーティファクトの存在と短期的な輝度の非コヒーレント性の存在とを区別する、補正することと
    を含む、方法。
  2. 前記HDRエッジマップは、前記高HDR時間周波数サブバンドから、少なくとも1つのHDR閾値に基づいて取得され、前記LDRエッジマップは、前記高LDR時間周波数サブバンドから、少なくとも1つのLDR閾値に基づいて得られる、請求項1に記載の方法。
  3. 前記現在のLDR画像を補正することは、フリッカーアーティファクトを前記LDR閾値未満に低減するか、又は短期的な輝度のコヒーレンス性を前記LDR閾値を上回るように増大させることを含む、請求項2に記載の方法。
  4. 前記HDRエッジマップは、キャニーフィルタを前記高HDR時間周波数サブバンドに適用することにより取得され、前記LDRエッジマップは、キャニーフィルタを前記高LDR時間周波数サブバンドに適用することにより取得される、請求項1に記載の方法。
  5. キャニーフィルタを適用することによるエッジ検出は、平滑化ステップ、閾値処理ステップ、及び補間ステップを含む、請求項4に記載の方法。
  6. 時間周波数分解を実行することは、2つの時間的に連続するHDRフレーム又は2つの時間的に連続する対応するLDRフレームのモーション推定から特定されるモーションベクトルに基づいて、モーション補償時間フィルタリングを実行することを含む、請求項1〜5のいずれか一項に記載の方法。
  7. 前記現在のLDR画像及び前記先行LDR画像は、トーンマッピング処理により前記現在のHDR画像及び前記先行するHDR画像からそれぞれ得られる、請求項1〜6のいずれか一項に記載の方法。
  8. ビデオシーケンスの画像を処理するデバイスであって、
    現在のHDR画像及び先行するHDR画像を含む2つの時間的に連続したHDR画像の時間周波数分解を実行して、高HDR時間周波数サブバンド及び低HDR時間周波数サブバンドを取得するとともに、前記2つの時間的に連続するHDR画像からそれぞれ得られた2つの時間的に連続するLDR画像の時間周波数分解を実行して、高LDR時間周波数サブバンド及び低LDR時間周波数サブバンドを取得するフィルタと、
    前記高HDR時間周波数サブバンドからHDRエッジマップを取得し、前記高LDR時間周波数サブバンドからLDRエッジマップを取得するエッジマップ生成器と、
    前記HDRエッジマップと前記LDRエッジマップとの比較を実行して、対応するピクセル間の差分を検出するコンパレータと、
    少なくとも1つのピクセルロケーション(x,y)において前記HDRエッジマップ及び前記LDRエッジマップで生じる差分について、前記少なくとも1つのピクセルロケーションにおいて前記現在のLDR画像を補正する画像補正器であって、前記補正は、前記エッジマップの比較から、フリッカーアーティファクトの存在と短期的な輝度の非コヒーレント性の存在とを区別する、画像補正器と
    を含む、デバイス。
  9. 前記エッジマップ生成器は、前記高HDR時間周波数サブバンドから、少なくとも1つのHDR閾値に基づいてHDRエッジマップを取得し、前記高LDR時間周波数サブバンドから、少なくとも1つのLDR閾値に基づいて前記LDRエッジマップを取得するように構成される、請求項8に記載のデバイス。
  10. 前記エッジマップ生成器はキャニーフィルタを含む、請求項8に記載のデバイス。
  11. 前記キャニーフィルタは、平滑化モジュール、閾値処理モジュール、及びエッジ補間モジュールを含む、請求項10に記載のデバイス。
  12. 前記フィルタは、2つの時間的に連続するHDRフレーム又は2つの時間的に連続する対応するLDRフレームのモーション推定から特定されるモーションベクトルに基づいて、モーション補償時間フィルタリングを実行することにより、時間周波数分解を実行するように構成される、請求項8〜11のいずれか一項に記載のデバイス。
  13. ビデオシーケンスの画像を処理する、請求項8〜12のいずれか一項に記載のデバイスと、LDR画像を表示するディスプレイとを含む表示デバイス。
  14. プログラマブル装置にロードされ、前記プログラマブル装置により実行されると、請求項1〜7のいずれか一項に記載の方法を実施する命令シーケンスを含む、前記プログラマブル装置のコンピュータプログラム製品。
JP2016573858A 2014-06-25 2015-06-17 画像処理のための方法及びデバイス Active JP6640122B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
EP14305998.8 2014-06-25
EP14305998.8A EP2961169A1 (en) 2014-06-25 2014-06-25 Method and device for processing images
EP14306016.8 2014-06-27
EP14306016 2014-06-27
PCT/EP2015/063523 WO2015197436A1 (en) 2014-06-25 2015-06-17 Method and device for processing images

Publications (3)

Publication Number Publication Date
JP2017528018A JP2017528018A (ja) 2017-09-21
JP2017528018A5 JP2017528018A5 (ja) 2018-07-05
JP6640122B2 true JP6640122B2 (ja) 2020-02-05

Family

ID=53433202

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016573858A Active JP6640122B2 (ja) 2014-06-25 2015-06-17 画像処理のための方法及びデバイス

Country Status (7)

Country Link
US (1) US10334270B2 (ja)
EP (1) EP3162067B1 (ja)
JP (1) JP6640122B2 (ja)
KR (1) KR102445762B1 (ja)
CN (1) CN106537911B (ja)
TW (1) TWI678914B (ja)
WO (1) WO2015197436A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10225485B1 (en) * 2014-10-12 2019-03-05 Oliver Markus Haynold Method and apparatus for accelerated tonemapping
EP3319013A1 (en) * 2016-11-03 2018-05-09 Thomson Licensing Method and device for estimating cast shadow regions and/or highlight regions in images
CN111970564B (zh) * 2020-08-26 2023-03-24 展讯通信(上海)有限公司 Hdr视频显示处理的优化方法及装置、存储介质、终端
CN113395599A (zh) * 2020-12-03 2021-09-14 腾讯科技(深圳)有限公司 一种视频处理方法、装置、电子设备及介质
CN117121468A (zh) 2021-04-13 2023-11-24 三星电子株式会社 电子装置及其控制方法
KR20220141543A (ko) * 2021-04-13 2022-10-20 삼성전자주식회사 전자 장치 및 그 제어 방법

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2002045020A1 (en) * 2000-11-30 2002-06-06 Canon Kabushiki Kaisha Image processing device, image processing method, storage medium, and program
AUPR222500A0 (en) 2000-12-21 2001-01-25 Unisearch Limited Method for efficient scalable compression of video
US7257273B2 (en) 2001-04-09 2007-08-14 Mingjing Li Hierarchical scheme for blur detection in digital image using wavelet transform
US7483486B2 (en) * 2004-07-02 2009-01-27 Max-Planck-Gesellschaft Zur Forderung Der Wissenschaften E.V. Method and apparatus for encoding high dynamic range video
JP4837365B2 (ja) * 2005-11-16 2011-12-14 オリンパス株式会社 画像処理システム、画像処理プログラム
WO2007082562A2 (en) 2006-01-23 2007-07-26 MAX-PLANCK-Gesellschaft zur Förderung der Wissenschaften e.V. High dynamic range codecs
JP2010055194A (ja) * 2008-08-26 2010-03-11 Sony Corp 画像処理装置および方法、学習装置および方法、並びにプログラム
US8326046B2 (en) * 2009-02-11 2012-12-04 Ecole De Technologie Superieure Method and system for determining structural similarity between images
RU2504011C2 (ru) * 2009-03-13 2014-01-10 Долби Лабораторис Лайсэнзин Корпорейшн Многоуровневое сжатие видеоизображения с расширенным динамическим диапазоном, визуальным динамическим диапазоном и широкой цветовой гаммой
JP5544764B2 (ja) * 2009-06-09 2014-07-09 ソニー株式会社 画像処理装置および方法、並びにプログラム
JP5397059B2 (ja) * 2009-07-17 2014-01-22 ソニー株式会社 画像処理装置および方法、プログラム、並びに記録媒体
CN102696220A (zh) * 2009-10-08 2012-09-26 国际商业机器公司 将数字图像从低动态范围图像转换为高动态范围图像的方法与系统
US8606009B2 (en) * 2010-02-04 2013-12-10 Microsoft Corporation High dynamic range image generation and rendering
JP5726914B2 (ja) * 2010-02-19 2015-06-03 トムソン ライセンシングThomson Licensing 高ダイナミックレンジのビデオ・トーン・マッピングのためのパラメータ補間
US8983206B2 (en) 2011-05-04 2015-03-17 Ecole de Techbologie Superieure Method and system for increasing robustness of visual quality metrics using spatial shifting
US9332156B2 (en) 2011-06-09 2016-05-03 Hewlett-Packard Development Company, L.P. Glare and shadow mitigation by fusing multiple frames
GB201201230D0 (en) * 2012-01-25 2012-03-07 Univ Delft Tech Adaptive multi-dimensional data decomposition

Also Published As

Publication number Publication date
EP3162067A1 (en) 2017-05-03
WO2015197436A1 (en) 2015-12-30
TWI678914B (zh) 2019-12-01
JP2017528018A (ja) 2017-09-21
TW201611579A (zh) 2016-03-16
CN106537911A (zh) 2017-03-22
KR102445762B1 (ko) 2022-09-22
EP3162067B1 (en) 2021-03-31
US10334270B2 (en) 2019-06-25
CN106537911B (zh) 2019-11-01
KR20170026375A (ko) 2017-03-08
US20170134745A1 (en) 2017-05-11

Similar Documents

Publication Publication Date Title
JP6640122B2 (ja) 画像処理のための方法及びデバイス
KR101574733B1 (ko) 고화질 컬러 영상을 획득하기 위한 영상 처리 장치 및 방법
US8295629B2 (en) Method and system for processing low-illuminance image
JP6678376B2 (ja) 動き検出装置および動き検出方法
US10462368B1 (en) Temporal filtering based on motion detection between temporally non-adjacent pictures
WO2014012364A1 (zh) 一种多曝光运动图像的校正方法及装置
KR20150145725A (ko) Ldr 비디오 시퀀스의 동적 범위 확장을 위한 방법 및 장치
JP2019050580A (ja) ビデオシーケンスをトーンマッピングする方法
Mangiat et al. Spatially adaptive filtering for registration artifact removal in HDR video
CN111242860B (zh) 超级夜景图像的生成方法、装置、电子设备及存储介质
KR101874738B1 (ko) 영상처리를 이용하여 ldr 영상으로부터 hdr 영상을 생성하는 장치 및 방법
WO2023273868A1 (zh) 图像降噪方法、装置、终端、存储介质
KR20140008623A (ko) 영상 처리 방법 및 장치
CN115104120A (zh) 将低动态范围图像合并为单幅图像的方法及装置
EP2961169A1 (en) Method and device for processing images
Yoo et al. Flicker removal for CMOS wide dynamic range imaging based on alternating current component analysis
JP2015041984A (ja) 画像処理装置および画像処理方法
EP4078506A1 (en) A system for performing ambient light image correction
Boitard et al. Temporal coherency in video tone mapping, a survey
JP2014220759A (ja) 画像処理装置および画像処理方法
Kanj et al. A Variational Method for Flicker Removal in High Speed Video Sequences
Seybold et al. Denoising camera data: Shape-adaptive noise reduction for color filter array image data
Lee et al. High quality video acquisition and segmentation using alternate flashing system

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180522

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180522

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190627

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190717

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191016

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20191106

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191127

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191225

R150 Certificate of patent or registration of utility model

Ref document number: 6640122

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250