JP7136956B2 - 画像処理方法及び装置、端末並びに記憶媒体 - Google Patents

画像処理方法及び装置、端末並びに記憶媒体 Download PDF

Info

Publication number
JP7136956B2
JP7136956B2 JP2021046853A JP2021046853A JP7136956B2 JP 7136956 B2 JP7136956 B2 JP 7136956B2 JP 2021046853 A JP2021046853 A JP 2021046853A JP 2021046853 A JP2021046853 A JP 2021046853A JP 7136956 B2 JP7136956 B2 JP 7136956B2
Authority
JP
Japan
Prior art keywords
image
diffraction
area
brightness
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021046853A
Other languages
English (en)
Other versions
JP2022027436A (ja
Inventor
チアホ パン
リン リウ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Xiaomi Mobile Software Co Ltd
Original Assignee
Beijing Xiaomi Mobile Software Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Xiaomi Mobile Software Co Ltd filed Critical Beijing Xiaomi Mobile Software Co Ltd
Publication of JP2022027436A publication Critical patent/JP2022027436A/ja
Application granted granted Critical
Publication of JP7136956B2 publication Critical patent/JP7136956B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • G06T5/75Unsharp masking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/60Image enhancement or restoration using machine learning, e.g. neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/68Circuits for processing colour signals for controlling the amplitude of colour signals, e.g. automatic chroma control circuits
    • H04N9/69Circuits for processing colour signals for controlling the amplitude of colour signals, e.g. automatic chroma control circuits for modifying the colour signals by gamma correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Description

本願は、2020年7月31日に中国特許局に提出された、出願番号が202010761645.2である中国特許出願に基づいて提出されるものであり、当該中国特許出願の優先権を主張し、当該中国特許出願の全ての内容が参照によって本願に組み込まれる。
本発明は、電子機器の技術分野に関し、特に、画像処理方法及び装置、端末並びに記憶媒体に関する。
端末技術の不断の発展に伴い、人々の日常生活にますます便利さがもたらされ、端末機器の外見などに対するユーザの要求も徐々に高まっている。ここで、フルスクリーンは、既に、移動端末の開発動向となっている。
現在、フルスクリーンは、全て、部材昇降や、スライドカバーや、サイドスピンなどの昇降機構を使用する昇降手段によって実現され、また、水滴スクリーンやパンチホールスクリーンなどの設計手段によって実現されている。
上記のフルスクリーンの設計手段では、撮影用のカメラ部は、全て、ディスプレイスクリーンの裏側に配置されている。ディスプレイスクリーンには、金属回路が配置されているため、これらの領域において、透過率を低減させ、且つ回路部の一部の透光領域に散乱や回折が発生する。よって、ディスプレイスクリーンの裏側に配置されたカメラ部にて写真を撮る時、画質が低下するという問題がある。
本発明は、画像処理方法及び装置、端末並びに記憶媒体を提供する。
本開示の実施例の第1態様によれば、画像処理方法を提供し、前記画像処理方法は、
第1画像における画素の輝度に基づいて、ハイライト領域を決定することであって、前記ハイライト領域に含まれた画素の輝度が前記ハイライト領域の周辺における画素の輝度より大きいことと、
前記ハイライト領域に基づいて、前記第1画像における回折領域を決定することであって、前記回折領域が前記ハイライト領域の周辺に分布される画像領域であることと、
前記回折領域の輝度を低下させることにより、第2画像を取得することとを含む。
オプションとして、前記ハイライト領域に基づいて、前記第1画像における回折領域を決定することは、
前記第1画像における画素の輝度のライトフィールドの分布を決定することと、
前記ライトフィールドの分布に基づいて、前記第1画像における前記ハイライト領域の輝度の低下方向で、回折現象を満たす画像領域が存在するか否かを決定することと、
前記回折現象を満たす画像領域が存在すると、前記画像領域が前記回折領域であると決定することとを含む。
オプションとして、前記ライトフィールドの分布に基づいて、前記第1画像の前記ハイライト領域の輝度の低下方向で、回折現象を満たす画像領域が存在するか否かを決定することは、
前記ライトフィールドの分布及び前記回折現象の輝度特性に基づいて、高次位置が存在するか否かを決定することであって、前記高次位置は、前記第1画像の前記ハイライト領域以外の領域において、第1部分領域の画素の輝度と第2部分領域の画素の輝度の差分値が第1閾値より大きい場合、第1部分領域の画素の所在位置であり、前記第1部分領域の画素の輝度が第2部分領域の画素の輝度より大きいことと、
前記高次位置が存在すると、前記回折現象を満たす前記画像領域が存在すると決定することとを含む。
オプションとして、前記高次位置が存在すると、前記回折現象を満たす前記画像領域が存在すると決定することは、
前記高次位置に位置する画素で構成された形状と前記ハイライト領域の形状との類似度が第1類似度閾値より大きいか否かを決定することと、
前記第1類似度閾値より大きいと、前記回折現象を満たす前記画像領域が存在すると決定することとを含む。
オプションとして、前記第1画像は、K(ただし、K≧2)次の前記高次位置を含み、第K次の前記高次位置の画素の輝度は、第K-1次の前記高次位置の画素の輝度と等しいか、前記K値との逆相関を有する。
オプションとして、前記画像処理方法は、さらに、
前記回折領域内の画素と前記回折領域外の画素との間の色彩の違いの程度に基づいて、前記回折領域に分散現象が存在するか否かを決定することを含み、
前記回折領域の輝度を低下させることにより、第2画像を取得することは、
前記回折領域に分散現象が存在すると、前記回折領域の輝度及び彩度を低下させることにより、前記第2画像を取得することを含む。
オプションとして、前記回折領域内の画素と前記回折領域外の画素との間の色彩の違いの程度に基づいて、前記回折領域に分散現象が存在するか否かを決定することは、
前記回折領域内の画素の色と前記回折領域外の画素の色との間の色差値を取得することと、
前記色差値がプリセットされた色閾値より大きいと、前記回折領域に前記分散現象が存在すると決定することとを含む。
オプションとして、前記回折領域の輝度を低下させることにより、第2画像を取得することは、
前記回折領域内の各画素点の輝度値に基づき、前記輝度値との正相関関係に基づいて、調整される輝度値を決定することと、
前記回折領域内の各画素点の輝度値から前記各画素点に対応する調整される輝度値を減算することにより、ガウス分布を示す輝度値を有する前記第2画像を取得することとを含む。
オプションとして、前記回折領域の輝度を低下させることにより、第2画像を取得することは、
逆Gamma関数に従って前記回折領域の輝度を低下させることにより、輝度調整後の前記第2画像を取得することを含む。
オプションとして、前記第1画像における画素の輝度に基づいて、ハイライト領域を決定することは、
前記第1画像における各画素点の輝度値に基づきクラスタリングすることにより、異なる領域を分割することであって、前記領域内の画素点間の輝度差がいずれもプリセットされた差の範囲内にあることと、
分割された前記領域において、領域の平均輝度値が最も大きい領域を前記ハイライト領域として取得することとを含む。
オプションとして、前記回折領域の輝度を低下させることにより、第2画像を取得することは、
前記回折領域を含む第1画像を、プリセットされた画質補償モデルに入力することにより、輝度調整後の前記第2画像を取得することを含み、ここで、前記プリセットされた画質補償モ償モデルが、ニューラルネットワーク手段にてトレーニングすることにより取得されたものである。
本開示の実施例の第2態様によれば、画像処理装置を提供し、前記画像処理装置は、
第1画像における画素の輝度に基づいて、ハイライト領域を決定するように構成される第1決定モジュールであって、前記ハイライト領域に含まれた画素の輝度が前記ハイライト領域の周辺における画素の輝度より大きい第1決定モジュールと、
前記ハイライト領域に基づいて、前記第1画像における回折領域を決定するように構成される第2決定モジュールであって、前記回折領域が、前記ハイライト領域の周辺に分布される画像領域である第2決定モジュールと、
前記回折領域の輝度を低下させることにより、第2画像を取得するように構成される調整モジュールとを備える。
オプションとして、前記第2決定モジュールは、具体的に、前記第1画像における画素の輝度のライトフィールドの分布を決定し、前記ライトフィールドの分布に基づいて、前記第1画像の前記ハイライト領域の輝度の低下方向で、回折現象を満たす画像領域が存在するか否かを決定し、前記回折現象を満たす画像領域が存在すると、前記画像領域が前記回折領域であると決定するように構成される。
オプションとして、前記第2決定モジュールは、具体的に、前記ライトフィールドの分布及び前記回折現象の輝度特性に基づいて、高次位置が存在するか否かを決定して、前記高次位置が存在すると、前記回折現象を満たす前記画像領域が存在するように構成されて、前記高次位置は、前記第1画像の前記ハイライト領域以外の領域において、第1部分領域の画素の輝度と第2部分領域の画素の輝度の差分値が第1閾値より大きい場合、第1部分領域の画素の所在位置であり、前記第1部分領域の画素の輝度が第2部分領域の画素の輝度より大きい。
オプションとして、前記第2決定モジュールは、具体的に、前記高次位置に位置する画素で構成された形状と前記ハイライト領域の形状との類似度が第1類似度閾値より大きいか否かを決定し、前記第1類似度閾値より大きいと、前記回折現象を満たす前記画像領域が存在すると決定するように構成される。
オプションとして、前記第1画像は、K(Kは2より大きいか等しい)次の前記高次位置を含み、第K次の前記高次位置の画素の輝度は、第K-1次の前記高次位置の画素の輝度と等しいか、前記K値との逆相関を有し、
オプションに、前記画像処理装置は、さらに、
具体的に、前記回折領域内の画素と前記回折領域外の画素との間の色彩の違いの程度に基づいて、前記回折領域に分散現象が存在するか否かを決定するように構成される第3決定モジュールを備え、
前記調整モジュールは、具体的に、前記回折領域に分散現象が存在すると、前記回折領域の輝度及び彩度を低下させることにより、前記第2画像を取得するように構成される。
オプションとして、前記第3決定モジュールは、具体的に、前記回折領域内の画素の色と前記回折領域外の画素の色との間の色差値を取得し、前記色差値がプリセットされた色閾値より大きいと、前記回折領域に前記分散現象が存在すると決定するように構成される。
オプションとして、前記調整モジュールは、具体的に、前記回折領域内の各画素点の輝度値に基づき、前記輝度値との正相関関係に基づいて、調整される輝度値を決定し、前記回折領域内の各画素点の輝度値から前記各画素点に対応する調整される輝度値を減算することにより、ガウス分布を示す輝度値を有する前記第2画像を取得するように構成される。
オプションとして、前記調整モジュールは、具体的に、逆Gamma関数に従って前記回折領域の輝度を低下させることにより、輝度調整後の前記第2画像を取得するように構成される。
オプションとして、前記調整モジュールは、具体的に、前記回折領域を含む第1画像をプリセットされた画質補償モデルに入力することにより、輝度調整後の前記第2画像を取得するように構成され、前記プリセットされた画質補償モ償モデルが、ニューラルネットワーク手段にてトレーニングすることにより取得されたものである。
オプションとして、前記第1決定モジュールは、具体的に、前記第1画像における各画素点の輝度値に基づきクラスタリングすることにより、異なる領域を分割し、前記領域内の画素点間の輝度差がいずれもプリセットされた差の範囲内にあり、分割された前記領域において、領域の平均輝度値が最も大きい領域を前記ハイライト領域として取得するように構成される。
本開示の実施例の第3態様によれば、端末を提供し、前記端末は、上記の第2態様における画像処理装置を備える。
本開示の実施例の第4態様によれば、記憶媒体を提供し、前記記憶媒体は、前記記憶媒体の命令がコンピュータのプロセッサによって実行されるときに、コンピュータが上記の第1態様に記載の画像処理方法を実行できるように構成される。
例えば、本願は以下の項目を提供する。
(項目1)
第1画像における画素の輝度に基づいて、含まれた画素の輝度がその周辺における画素の輝度より大きいハイライト領域を決定することと、
上記ハイライト領域に基づいて、上記第1画像における上記ハイライト領域の周辺に分布される回折領域を決定することと、
上記回折領域の輝度を低下させることにより、第2画像を取得することと、を含むことを特徴とする、
画像処理方法。
(項目2)
上記ハイライト領域に基づいて、上記第1画像における回折領域を決定することは、
上記第1画像における画素の輝度のライトフィールドの分布を決定することと、
上記ライトフィールドの分布に基づいて、上記第1画像における上記ハイライト領域の輝度の低下方向で、回折現象を満たす画像領域が存在するか否かを決定することと、
上記回折現象を満たす画像領域が存在すると、上記画像領域が上記回折領域であると決定することと、を含むことを特徴とする、
上記項目に記載の画像処理方法。
(項目3)
上記ライトフィールドの分布に基づいて、上記第1画像における上記ハイライト領域の輝度の低下方向で、回折現象を満たす画像領域が存在するか否かを決定することは、
上記ライトフィールドの分布及び上記回折現象の輝度特性に基づいて、高次位置が存在するか否かを決定することと、
上記高次位置が存在すると、上記回折現象を満たす上記画像領域が存在すると決定することと、を含み、
上記高次位置は、上記第1画像の上記ハイライト領域以外の領域において、第1部分領域の画素の輝度と第2部分領域の画素の輝度との間の差分値が第1閾値より大きい場合、第1部分領域の画素の所在位置であり、上記第1部分領域の画素の輝度が第2部分領域の画素の輝度より大きくされるように構成されることを特徴とする、
上記項目のいずれか一項に記載の画像処理方法。
(項目4)
上記高次位置が存在すると、上記回折現象を満たす上記画像領域が存在すると決定することは、
上記高次位置に位置する画素で構成された形状と上記ハイライト領域の形状との類似度が第1類似度閾値より大きいか否かを決定することと、
上記第1類似度閾値より大きいと、上記回折現象を満たす上記画像領域が存在すると決定することと、を含むことを特徴とする、
上記項目のいずれか一項に記載の画像処理方法。
(項目5)
上記第1画像において、K(ただし、K≧2)次の上記高次位置を含み、
第K次の上記高次位置の画素の輝度は、第K-1次の上記高次位置の画素の輝度と等しいか、上記K値との逆相関を有することを特徴とする、
上記項目のいずれか一項に記載の画像処理方法。
(項目6)
上記画像処理方法は、さらに、
上記回折領域内の画素と上記回折領域外の画素との間の色彩の違いの程度に基づいて、上記回折領域に分散現象が存在するか否かを決定することを含み、
上記回折領域の輝度を低下させることにより、第2画像を取得することは、
上記回折領域に分散現象が存在すると、上記回折領域の輝度及び彩度を低下させることにより、上記第2画像を取得することを含むことを特徴とする、
上記項目のいずれか一項に記載の画像処理方法。
(項目7)
上記回折領域内の画素と上記回折領域外の画素との間の色彩の違いの程度に基づいて、上記回折領域に分散現象が存在するか否かを決定することは、
上記回折領域内の画素の色と上記回折領域外の画素の色との間の色差値を取得することと、
上記色差値がプリセットされた色閾値より大きいと、上記回折領域に上記分散現象が存在すると決定することとを含むことを特徴とする、
上記項目のいずれか一項に記載の画像処理方法。
(項目8)
上記回折領域の輝度を低下させることにより、第2画像を取得することは、
上記回折領域内の各画素点の輝度値に基づき、上記輝度値との正相関関係に基づいて、調整される輝度値を決定することと、
上記回折領域内の各画素点の輝度値から上記各画素点に対応する調整される輝度値を減算することにより、ガウス分布を示す輝度値を有する上記第2画像を取得することと、を含むことを特徴とする、
上記項目のいずれか一項に記載の画像処理方法。
(項目9)
上記回折領域の輝度を低下させることにより、第2画像を取得することは、
逆Gamma関数に従って上記回折領域の輝度を低下させることにより、輝度調整後の上記第2画像を取得することを含むことを特徴とする、
上記項目のいずれか一項に記載の画像処理方法。
(項目10)
上記回折領域の輝度を低下させることにより、第2画像を取得することは、
プリセットされた、ニューラルネットワーク手段にてトレーニングすることにより取得された画質補償モデルに、上記回折領域を含む第1画像を入力することにより、輝度調整後の上記第2画像を取得することを含むことを特徴とする、
上記項目のいずれか一項に記載の画像処理方法。
(項目11)
上記第1画像における画素の輝度に基づいて、ハイライト領域を決定することは、
上記第1画像における各画素点の輝度値に基づきクラスタリングすることにより、画素点間の輝度差がいずれもプリセットされた差の範囲内にある、異なる領域を分割することと、
分割された上記領域において、領域の平均輝度値が最も大きい領域を上記ハイライト領域として取得することとを含むことを特徴とする、
上記項目のいずれか一項に記載の画像処理方法。
(項目12)
第1画像における画素の輝度に基づいて、含まれた画素の輝度がその周辺における画素の輝度より大きいハイライト領域を決定するように構成される第1決定モジュールと、
上記ハイライト領域に基づいて、上記第1画像における上記ハイライト領域の周辺に分布される回折領域を決定するように構成される第2決定モジュールと、
上記回折領域の輝度を低下させることにより、第2画像を取得するように構成される調整モジュールと、を備えることを特徴とする、
画像処理装置。
(項目13)
上記第2決定モジュールにおいて、具体的に、
上記第1画像における画素の輝度のライトフィールドの分布を決定し、上記ライトフィールドの分布に基づいて、上記第1画像における上記ハイライト領域の輝度の低下方向で、回折現象を満たす画像領域が存在するか否かを決定し、上記回折現象を満たす画像領域が存在すると、上記画像領域が上記回折領域であると決定するように構成されることを特徴とする、
上記項目に記載の画像処理装置。
(項目14)
上記第2決定モジュールにおいて、具体的に、
上記ライトフィールドの分布及び上記回折現象の輝度特性に基づいて、高次位置が存在するか否かを決定して、上記高次位置が存在すると、上記回折現象を満たす上記画像領域が存在するように構成されて、
上記高次位置は、上記第1画像の上記ハイライト領域以外の領域において、第1部分領域の画素の輝度と第2部分領域の画素の輝度との間の差分値が第1閾値より大きい場合、第1部分領域の画素の所在位置であり、上記第1部分領域の画素の輝度が第2部分領域の画素の輝度より大きくされるように構成されることを特徴とする
上記項目のいずれか一項に記載の画像処理装置。
(項目15)
上記第2決定モジュールにおいて、具体的に、
上記高次位置に位置する画素で構成された形状と上記ハイライト領域の形状との類似度が第1類似度閾値より大きいか否かを決定し、上記第1類似度閾値より大きいと、上記回折現象を満たす上記画像領域が存在すると決定するように構成されることを特徴とする、
上記項目のいずれか一項に記載の画像処理装置。
(項目16)
上記第1画像において、K(ただし、K≧2)次の上記高次位置を含み、
第K次の上記高次位置の画素の輝度は、第K-1次の上記高次位置の画素の輝度と等しいか、上記K値との逆相関を有することを特徴とする、
上記項目のいずれか一項に記載の画像処理装置。
(項目17)
上記画像処理装置は、さらに、
具体的に、上記回折領域内の画素と上記回折領域外の画素との間の色彩の違いの程度に基づいて、上記回折領域に分散現象が存在するか否かを決定するように構成される第3決定モジュールを備え、
上記調整モジュールにおいて、具体的に、
上記回折領域に分散現象が存在すると、上記回折領域の輝度及び彩度を低下させることにより、上記第2画像を取得するように構成されることを特徴とする、
上記項目のいずれか一項に記載の画像処理装置。
(項目18)
上記第3決定モジュールにおいて、具体的に、
上記回折領域内の画素の色と上記回折領域外の画素の色との間の色差値を取得し、上記色差値がプリセットされた色閾値より大きいと、上記回折領域に上記分散現象が存在すると決定するように構成されることを特徴とする、
上記項目のいずれか一項に記載の画像処理装置。
(項目19)
上記調整モジュールにおいて、具体的に、
上記回折領域内の各画素点の輝度値に基づき、上記輝度値との正相関関係に基づいて、調整される輝度値を決定し、上記回折領域内の各画素点の輝度値から上記各画素点に対応する調整される輝度値を減算することにより、ガウス分布を示す輝度値を有する上記第2画像を取得するように構成されることを特徴とする、
上記項目のいずれか一項に記載の画像処理装置。
(項目20)
上記調整モジュールにおいて、具体的に、
逆Gamma関数に従って上記回折領域の輝度を低下させることにより、輝度調整後の上記第2画像を取得するように構成されることを特徴とする、
上記項目のいずれか一項に記載の画像処理装置。
(項目21)
上記調整モジュールにおいて、具体的に、
プリセットされた、ニューラルネットワーク手段にてトレーニングすることにより取得された画質補償モデルに、上記回折領域を含む第1画像を入力することにより、輝度調整後の上記第2画像を取得するように構成されることを特徴とする、
上記項目のいずれか一項に記載の画像処理装置。
(項目22)
上記第1決定モジュールにおいて、具体的に、
上記第1画像における各画素点の輝度値に基づきクラスタリングすることにより、画素点間の輝度差がいずれもプリセットされた差の範囲内にある、異なる領域を分割し、分割された上記領域において、領域の平均輝度値が最も大きい領域を上記ハイライト領域として取得するように構成されることを特徴とする、
上記項目のいずれか一項に記載の画像処理装置。
(項目23)
上記項目のいずれか一項に記載の画像処理装置を備えることを特徴とする、
端末。
(項目24)
上記記憶媒体における命令がコンピュータのプロセッサによって実行されるときに、コンピュータが上記項目のいずれか一項に記載の画像処理方法を実行できるように構成されることを特徴とする、
非一時的なコンピュータ読み取り可能な記憶媒体。
(摘要)
本発明は、画像処理方法及び装置、端末並びに記憶媒体に関するものである。当該方法は、第1画像における画素の輝度に基づいて、含まれた画素の輝度がその周辺における画素の輝度より大きいハイライト領域を決定することと、前記ハイライト領域に基づいて、前記第1画像における前記ハイライト領域の周辺に分布される回折領域を決定することと、前記回折領域の輝度を低下させることにより、第2画像を取得することとを含む。当該方法によれば、回折領域の輝度を低下させた後、回折によるオーバーラップ映像が低減され、画像がよりリアルになる。
本開示の実施例による技術的解決策は、以下の有利な効果を含み得る。
本開示は、先ず、第1画像におけるハイライト領域を決定し、次に、ハイライト領域に基づいて回折領域を決定し、回折領域の輝度を低下させることにより第2画像を取得する。複数組の露光値による画像を合成して回折現象を低減する手段と比べると、一方では、シングルフレームの画像に基づき輝度を低下させることにより、回折によるオーバーラップ映像を低減する手段は、シングルフレームの画像のみに基づいて処理するため、他の異なる露光で取得された画像の影響を受けることがないため、回折によって形成されたオーバーラップ映像を低減する時の効果がより安定になり、他方では、露光値を調整してマルチフレームの画像を撮影する必要がないため、頻繁に撮影することによる移動端末の消費電力を削減することができ、さらに、複数組の露光値による画像を合成する時にゴーストなどが生成するという逆効果を回避することができる。
上記した一般的な説明および後述する詳細な説明は、あくまでも、単なる例示および説明に過ぎず、本開示を限定するものではないことを理解されたい。
ここでの図面は、本明細書に組み込まれてその一部を構成し、本発明と一致する実施例を示し、明細書とともに本発明の原理を説明するために使用される。
本開示の実施例によって示された画像処理方法のフローチャートである。 本開示の実施例における画像の第1の模式図である。 本開示の実施例における画像の第2の模式図である。 本開示の実施例における回折画像の第3の模式図である。 本開示の実施例における回折画像の第4の模式図である。 本開示の実施例における回折画像の第5の模式図である。 本開示の実施例における回折領域の輝度を低減することの模式図である。 本発明の実施例における露光画像の模式図である。 回折現象に対応する光強度分布のグラフである。 本発明の実施例における、回折領域に分散現象が存在することの模式図である。 本発明の実施例における、回折領域におけるエッジ部分のカラーの彩度を低減することの模式図である。 逆Gamma関数のグラフの模式図である。 一例示的な実施例によって示された画像処理装置の模式図である。 本発明の実施例によって示された端末のブロック図である。
ここで、例示的な実施例について詳細に説明し、その例は図面に示す。以下の説明が添付の図面に関する場合、特に明記しない限り、異なる図面の同じ数字は、同様または類似の要素を表す。以下の例示的な実施例で説明される実施形態は、本発明と一致するすべての実施形態を表すものではない。むしろ、それらは、添付された特許請求の範囲に詳述されたように、本発明のいくつの態様と一致する装置および方法の例である。
図1は、本開示の実施例によって示された画像処理方法のフローチャートであり、図1に示すように、画像処理方法は、次のステップを含む。
ステップS11において、第1画像における画素の輝度に基づいて、ハイライト領域を決定し、ここで、前記ハイライト領域に含まれた画素の輝度が、前記ハイライト領域の周辺における画素の輝度より大きい。
ステップS12において、前記ハイライト領域に基づいて、前記第1画像における回折領域を決定し、前記回折領域が、前記ハイライト領域の周辺に分布される画像領域である。
ステップS13において、前記回折領域の輝度を低下させることにより、第2画像を取得する。
本開示の画像処理方法は、移動端末に適用されてもよく、サーバに適用されてもよい。サーバに適用される場合、移動端末は、収集した第1画像をサーバに送信して、サーバは、ステップS11~S13により第1画像を処理して第2画像を取得した後、移動端末に表示するように、第2画像を移動端末に送信することができる。
画像処理方法が移動端末に適用されることを例とすると、移動端末は、携帯電話、タブレットコンピュータ、カメラまたはスマートウェアラブルデバイスなどを含む。移動端末は、例えば、画像収集を実行できる携帯電話におけるフロントウェブカメラまたはリアウェブカメラのような画像収集部を含む。
図2aは、本開示の実施例における画像の第1の模式図であり、図2bは、本開示の実施例における画像の第2の模式図である。図2aに示す画像は、ディスプレイスクリーン又はガラスなどの障害物の影響を受けずに取得された画像であり、図2bは、ディスプレイスクリーンまたはガラスなどの障害物の影響を受けて取得された画像である。図2aと図2bを比べると、図2aに示す画像の精細度及びコントラストが図2bよりも優れていることが分かる。
上記の画質が低下する現象は、特に、照明光源や太陽光など比較的輝度の大きい被写体を撮影する時に顕著になる。
図3は、本開示の実施例における回折画像の第3の模式図であり、図4は、本開示の実施例における回折画像の第4の模式図である。図3及び図4に示すように、ディスプレイスクリーンの影響により、照明光源を撮像する場合、ディスプレイスクリーンの影響により、回折によって生成されたオーバーラップ映像が光源の近くに現れ、画像が非現実的になる。
これらについて、本開示は、画像における輝度の大きい領域(ハイライト領域)を検出し、ハイライト領域の近くで、画像回折によって生成されたオーバーラップ領域を見つけて補償することにより、回折によって生成されたオーバーラップ映像を除去してよりリアルな画像を取得する。
本開示の実施例において、第1画像における画素の輝度に基づいて、ハイライト領域を決定し、ハイライト領域に含まれる画素の輝度は、ハイライト領域の周辺における画素の輝度より大きく、ここで、ハイライト領域に含まれる画素の輝度がハイライト領域の周辺における画素の輝度より大きいこととは、ハイライト領域の輝度とハイライト領域の周辺における画素の輝度との間の差分値が所定値より大きいことであってもよく、ハイライト領域の輝度の平均値がハイライト領域の周辺における画素の平均値より高いことであってもよい。
一実施例において、ステップS11において、当該ハイライト領域は、画像内で輝度が最も大きい連続領域であり得、ハイライト領域に含まれる画素の輝度がいずれもハイライト領域の周辺における画素の輝度より高い。
別の実施例において、ステップS11において、当該ハイライト領域は、画像画素の輝度が急激に変化する画像における複数の領域のうち、輝度の高い1つまたは複数の領域であり得る。例えば、画像収集中に収集される空間内に離散的に分布した複数のライトがついている場合、画像にはライトに対応するハイライト領域が複数形成される。
一形態において、通常光源などの明るい物体を撮影する時、明るい被写体が撮像された画像の各画素の値は収集ビット幅の彩度になる傾向があるため、彩度に近い閾値を事前設定してハイライト領域を決定することができる。例えば、画像の収集ビット幅が8ビットである場合、画素値の範囲は0~255であり、ここで、255は彩度である。この場合、閾値を230に設定し、閾値230を超えた画素をハイライト領域に属する画素として決定する。
別の形態において、前記第1画像における画素の輝度に基づいて、ハイライト領域を決定することは、
前記第1画像における各画素点の輝度値に基づきクラスタリングすることにより、異なる領域を分割することであって、前記領域内の画素点間の輝度差は、いずれも、プリセットされた差の範囲内にあることと、
分割された前記領域において、領域の平均輝度値が最も大きい領域を前記ハイライト領域として取得することとを含む。
当該実施例において、画像処理装置は、第1画像における各画素点の輝度値をクラスタリングし、輝度が類似する(即ち、輝度差は、プリセットされた差の範囲内にある)画素を1つのカテゴリにクラスタリングすることにより、異なる領域を分割する。分割された異なる輝度領域について、領域の平均輝度値を統計し、最も大きい平均輝度値を有する領域をハイライト領域として使用することができる。
領域内の輝度差がプリセットされた差の範囲内にあるため、領域の平均輝度値が最も大きい領域をハイライト領域として使用する場合、当該ハイライト領域に含まれた画素の輝度もハイライト領域の周辺における画素の輝度より大きいことを理解することができる。ハイライト領域を決定するための閾値に基づく方法と比べると、クラスタリング手段がより普遍的である。
ステップS12において、画像処理装置は、ハイライト領域に基づいて、第1画像においてハイライト領域の周辺に分布される回折領域を決定する。回折とは、光が伝播中に障害物に遭遇して元の直線から外れて伝播され、光強度分布を形成する物理現象である。回折によって形成された回折領域は、明暗(即ち、輝度が不均一である)を有する各サブ領域を含み、且つハイライト領域の形状に類似するサブ領域が存在する場合がある。
図3を例にとると、L1で識別される領域は全てハイライト領域であり、ハイライト領域はリング状であり、ハイライト領域の近くに輝度が不均一な回折領域があり、当該回折領域は、リング状に似た形状のサブ領域を含む。
図4を例にとると、L2で識別される領域はハイライト領域であり、ハイライト領域の両側にも輝度が不均一な回折領域があり、且つ回折領域は、長方形に似た形状のサブ領域を含む。
回折現象は照明光源または太陽などの輝度の大きい被写体を撮影する時に顕著になるため、撮影された第1画像では、回折領域の輝度が背景領域の輝度より大きい場合があることに留意されたい。ここで、背景領域とは、第1画像において、回折領域及びハイライト領域を除く領域を指す。これらについて、本発明は、ステップS13において回折領域の輝度を低下させることにより、第2画像を取得する。回折領域の輝度を低減することにより、即ち、回折によって生成されたオーバーラップ映像による影響を低減することにより、よりリアルな画像を取得できることを理解することができる。
回折領域の輝度を低減する場合、背景領域の輝度に基づき回折領域の輝度の調整値を決定して、回折領域の輝度が背景と一致する傾向を有するようにすることができ、フィッティング関数にて回折領域の輝度を低減することもでき、本発明の実施例は、これらに対して限定しない。
図5aは、本開示の実施例における回折画像の模式図であり、図5bは、本開示の実施例における、回折領域の輝度を低減することの模式図である。図5aに示すように、Bに示される縦方向の領域は、ハイライト領域及び回折領域を含む部分であり、図5aから分かるように、ハイライト領域の周辺の回折領域の輝度が背景領域よりも大きい。図5bに示すように、回折領域の輝度を低下させた後、回折によって生成されたオーバーラップ映像が低減され、画像がよりリアルになる。
一形態において、回折による非現実的な現象を低減するために、ハイダイナミックレンジ(HDR:High-Dynamic Range)画像を使用する手段により、通常の露光で取得された画像と、露光を低下させた時に取得された1セット又は複数のセットの画像を合成して回折によって生成されたオーバーラップ映像を低減することができる。
図6は、本開示の実施例における露光画像の模式図であり、図6の左側の画像は通常の露光で取得された画像であり、右側の画像は、露光値が通常の露光より低い時に取得された画像である。図6に示すように、通常の露光の画像には回折によって生成されたオーバーラップ映像が存在し、右側の低い露光値に対応する画像では回折によって生成されたオーバーラップ映像が目立たないため、当該2つの画像を合成することにより、回折によって生成されたオーバーラップ映像現象を低減することができ、それにより、合成後の画像はよりリアルになる。
しかしながら、上記のHDRを使用する方式では、露光値を制御し難いため、調整された露光値が低すぎると、元の明るい領域の合成に影響を及ぼす可能性があり、調整された露光値が足りない場合、低い露光で取得された画像に依然として回折によって生成されたオーバーラップ映像が存在する可能性があるため、合成する時、回折によって生成されたオーバーラップ映像を削除することができないという問題がある。
上記の方式と比べると、本発明の、先ず、第1画像におけるハイライト領域を決定し、次に、ハイライト領域に基づいて回折領域を決定し、回折領域の輝度を低下させて輝度調整後の第2画像を低減する方式は、一方では、露光値を調整することなくマルチフレームの画像を撮影するため、頻繁に撮影することによる移動端末の消費電力を削減することができ、他方では、シングルフレームの画像に基づき輝度を低下させて回折によるオーバーラップ映像を低減し、他の異なる露光で取得された画像の影響を受ける必要がないため、回折によって生成されたオーバーラップ映像を低減する効果がより良くなる。
一実施例において、ステップS12は、
前記第1画像における画素の輝度のライトフィールドの分布を決定することと、
前記ライトフィールドの分布に基づいて、前記第1画像の前記ハイライト領域の輝度の低下方向で、回折現象を満たす画像領域が存在するか否かを決定することと、
前記回折現象を満たす画像領域が存在すると、前記画像領域が前記回折領域であると決定することとを含む。
上記のように、回折とは、光が伝播中に障害物に遭遇して元の伝播経路から外れることにより形成された光強度分布現象である。図7は、回折現象に対応する光強度分布のグラフであり、図7に示すように、横軸は、外側に拡張する光源の範囲を表し、縦軸は、対応する拡張範囲での光強度と光源の光強度の比を表す。
図7から分かるように、光源の光強度は最も大きく、光源を中心に、光源から離れた部分範囲内の光強度は正規分布している。図7に示すK1のように、正規分布の境界で、光源から離れる方向で、光強度は、再び徐々に増加し始め、最大値に増加した後、光強度は再び徐々に低減し始め、正規分布に似た新しい現象を示す。図7から分かるように、当該正規分布現象が繰り返し発生し、光源から離れるほど、正規分布のピーク値は小さくなり、光強度分布グラフには、さらに、正規分布K2がある。もちろん、他のピーク値が徐々に低減する他の正規分布現象もあり得るが、図7には示されていない。上記の光強度分布の変化傾向は、即ち、回折領域内に明暗サブ領域が存在する現象である。
図7に示す光強度分布グラフは、点広がり関数(PSF:Point Spread Function)に対応するグラフである。画像の輝度は光強度の具現であるため、第1画像における各画素の輝度とPSFモデルをフィッティングして、第1画像における画素の輝度のライトフィールドの分布を決定することができる。回折がある場合、第1画像における各画素の輝度のライトフィールドの分布は、図7の光強度分布グラフに類似していることを理解することができる。
当該実施例において、第1画像における各画素のライトフィールドの分布に基づいて、第1画像におけるハイライト領域の輝度の低下方向で、回折現象を満たす画像領域が存在するか否かを決定する。なお、回折現象は、回折実験に基づいて、回折時の光強度分布をフィッティングして、図7の光強度分布グラフに存在する、繰り返し発生する正規分布(K1及びK2部分など)現象によって決定された画像モードを得ることができ、当該画像モードには、明暗領域が存在し、即ち回折領域には、明暗サブ領域が存在する。
したがって、本開示の実施例において、回折現象が存在する場合、第1画像には明暗パターンがあり、この場合、明暗パターンを含む画像領域を回折領域として決定する。
一実施例において、前記ライトフィールドの分布に基づいて、前記第1画像の前記ハイライト領域の輝度の低下方向で、回折現象を満たす画像領域が存在するか否かを決定することは、
前記ライトフィールドの分布及び前記回折現象の輝度特性に基づいて、高次位置が存在するか否かを決定することであって、前記高次位置が、前記第1画像の前記ハイライト領域以外の領域において、第1部分領域の画素の輝度と第2部分領域の画素の輝度との間の差分値が第1閾値より大きい場合、第1部分領域の画素の所在位置であり、前記第1部分領域の画素の輝度が第2部分領域の画素の輝度より大きいことと、
前記高次位置が存在すると、前記回折現象を満たす前記画像領域があると決定することとを含む。
本開示の実施例において、回折現象の輝度特性は、実験に従って決定することができる。例えば、回折実験に従って取得された図7に示す光強度分布グラフでは、K1で識別される正規分布は1次位置であり、K2で識別される正規分布は2次位置であり、2次位置に対応する光強度値は、1次位置に対応する光強度値より小さい。当該1次位置及び2次位置は、両方とも回折により、部分領域の輝度が実際の輝度より高くなる位置であり、1次位置の画素の輝度は、1次位置の周辺の部分領域の画素の輝度より高く、2次位置の画素の輝度も2次位置の周辺の部分領域の画素の輝度より高いことに留意されたい。本開示の実施例では、1次位置及び2次位置は、両方とも高次位置に属する。高次位置があり、及び高次位置の画素の輝度は、光源の輝度と一定の比例関係を持つことができ、高次位置の画素の輝度は、周辺の部分領域の画素の輝度より高く、次数の増加に伴い、高次位置の画素の輝度は低下し、上記の特徴は全て回折現象の輝度特性に属する。
本開示では、高次位置は1次位置及び2次位置に限定されないことに留意されたい。例えば、光源輝度が十分に強い場合、3次位置、4次位置などの2次より高い次数を有する高次位置を含むこともでき、ここで、3次位置の輝度は2次位置の輝度より低く、4次位置の輝度は3次位置の輝度より低い。なお、回折現象が存在する場合、少なくとも1次位置が存在する。
上記の回折現象の輝度特性に基づいて、本開示は、第1画像のライトフィールドの分布及び回折現象の輝度特性に従って高次位置が存在するか否かを決定することができる。具体的に、第1画像における各画素の輝度のライトフィールドの分布に基づいて、図7のようなの光強度分布グラフに含まれた高次位置が存在するか否かを決定する。当該高次位置は、第1画像のハイライト領域以外の領域において、第1部分領域の画素の輝度と第2部分領域の画素の輝度との間の差分値が第1閾値より大きい場合、第1部分領域の画素の所在位置であり、前記第1部分領域の画素の輝度は第2部分領域の画素の輝度より大きい。
当該実施例において、ハイライト領域以外の領域は、第1部分領域及び第2部分領域を含む。第1部分領域と第2部分領域の画素の輝度の差が第1閾値より大きい場合、画素の輝度の大きい第1領域の画素の所在位置を高次位置として決定する。ここで、第1部分領域及び第2部分領域は、隣接する領域である。
本開示の実施例において、クラスタリングアルゴリズムを使用して、ハイライト領域以外の領域の各画素の輝度に対して輝度クラスタリングを実行して、異なる輝度の部分領域を決定し、隣接する部分領域の輝度間の差分値が第1閾値より大きいか否かを比較して、高次位置を決定することができることに留意されたい。
一実施例において、第1画像は、1つの前記高次位置を含み、例えば、画像処理装置は、ライトフィールドの分布において、図7のK1で識別された1次位置のようなものが存在するか否かを決定する。
別の実施例において、第1画像は、K次の前記高次位置を含み、ここで、前記Kは2より大きいか等しく、第K次の前記高次位置の画素の輝度は、第K-1次の前記高次位置の画素の輝度と等しいか、前記K値との逆相関を有する。例えば、2つの次数を有する高次位置が存在する場合、画像処理装置は、ライトフィールドの分布において、K1で識別された1次位置及びK2で識別された2次位置のようなものが存在するか否かを決定し、ここで、1次位置の画素の輝度は、2次位置の画素の輝度より大きい。さらに例えば、3つの高次位置が存在する場合、画像処理装置はまた、図7で識別されていない3次位置が存在するか否かを決定し、ここで、3次位置の画素の輝度は、2次位置の画素の輝度より小さい。
さらに、本開示の実施例において、異なる次数を有する高次位置を決定する場合、第1閾値は可変であり、例えば、第1閾値は、K値と逆相関を有することができることに留意されたい。
一実施例において、前記高次位置が存在すると、前記回折現象を満たす前記画像領域があると決定することは、
前記高次位置に位置する画素で構成された形状と前記ハイライト領域の形状との類似度が第1類似度閾値より大きいか否かを決定することと、
前記第1類似度閾値より大きいと、前記回折現象を満たす前記画像領域が存在すると決定することとを含む。
回折が発生する時、ハイライト領域の形状に類似するサブ領域が回折領域に存在する場合がある。当該サブ領域は、高次位置の1次位置又は2次位置の画素で構成された領域に対応する。したがって、当該実施例において、高次位置の画素で構成された形状とハイライト領域の形状との類似度が第1類似度閾値より大きいか否かをさらに決定する必要がある。第1類似度閾値より大きい場合、回折現象を満たす画像領域が存在すると決定する。
なお、高次位置が1次位置を含む場合、1次位置の画素で構成された形状とハイライト領域の形状との類似度が第1類似度閾値より大きいか否かを決定し、高次位置が1次位置及び2次位置を含む場合、1次位置及び2次位置の画素で構成された形状とハイライト領域の形状との類似度が第1類似度閾値より大きいか否かをそれぞれ決定する必要がある。
図4を例にとると、図4のA1は1次位置であり、A1の画素の輝度は、ハイライト領域L2に含まれる画素の輝度に次ぐものであり、A1の形状は長方形であり、図4のA2は2次位置であり、A2の画素の輝度はA1の画素の輝度より小さく、A2の形状も長方形である。
なお、第1画像において、ハイライト領域、1次位置及び2次位置の画素で構成された形状を決定する場合、canny演算子、sobel演算子など、エッジ検出演算子を使用して輪郭を決定することができる。決定された輪郭に基づいて、1次位置に対応する輪郭特徴及び2次位置に対応する輪郭特徴と、ハイライト領域の輪郭特徴との類似度をそれぞれ比較することができる。ここで、輪郭特徴は、輪郭の曲率、輪郭の長さ及び直径の類似度などであってもよく、本開示は、形状の類似度をどのように決定するかに対して特に限定しない。
本開示の実施例において、回折領域が存在するか否かを決定場合、回折現象が発生する時の輝度特性に基づいて、高次位置が存在するか否かを決定することだけでなく、高次位置とハイライト領域の形状の類似度が条件を満たすか否かに基づいて、回折領域が存在するか否かも決定するため、回折領域の決定精度を向上させることができることを理解することができる。
一実施例において、前記画像処理方法は、
前記回折領域内の画素と前記回折領域外の画素との間の色彩の違いの程度に基づいて、前記回折領域に分散現象が存在するか否かを決定することをさらに含み、
前記回折領域の輝度を低下させることにより、第2画像を取得することは、
前記回折領域に分散現象が存在すると、前記回折領域の輝度及び彩度を低下させることにより、前記第2画像を取得することを含む。第2画像分散現象を得ることは、多色光が複数の単色光に分解される現象を指す。例えば、白色光は、異なる波長の光によって合成され、白色光が媒体(三角柱など)を通過するとき、7つの色に分散された単色光を見つけ、これは、分散現象に属する。分散現象が発生すると、画像の色が変化することを理解することができる。
回折領域の分散現象は、分散がない場合、回折領域内のエッジの画素の色彩が背景部分と一致するため、偶にエッジ領域で発生することがある。ここで、背景部分とは、ハイライト領域及び回折領域以外の部分を指す。分散が発生すると、回折領域内のエッジの画素の色彩は背景部分と異なる。本開示の実施例において、回折領域内のエッジの画素と回折領域外の画素との間の色彩の違いの程度は、次の態様に具現される。1、回折領域内のエッジの画素のカラーモードが回折領域外の画素のカラーモードと一致するか否か。例えば、回折領域外の画素は単色であり、回折領域内のエッジの画素は様々な色を有すると、カラーモードが異なると見なされ、カラーモードが異なると分散がある可能性がある。2、回折領域内のエッジの画素のカラーの彩度と回折領域外の画素のカラーの彩度に違いがあるか否か。
これらについて、本開示は、回折領域内の画素と回折領域外の画素との間の色彩の違いの程度に基づいて、回折領域に分散現象が存在するか否かを決定する。当該実施例において、回折領域に分散現象が存在する場合、分散現象を低減するために、分散現象のある回折領域の彩度を低減する。
図8aは、本開示の実施例における、回折領域に分散現象が存在することの模式図であり、図8bは、本開示の実施例における、回折領域内のエッジ部分のカラーの彩度を低減することの模式図である。図8aに示すように、照明光源の周辺に回折領域があり、且つ白色光の照明光源が回折された後、回折領域は複数の色成分を含み、即ち、回折領域に分散現象が存在する。図8bに示すように、分散現象のある回折領域のカラーの彩度を低下させた後、回折領域のエッジの色彩は背景部分の色彩になる傾向がある。
当該実施例において、回折領域に分散が存在する場合、回折領域の輝度を低減するだけでなく、分散現象を有する回折領域のエッジの彩度を低下させて第2画像を取得する。この手段により、回折領域の輝度を低下させて回折によって生成されたオーバーラップ映像を低減することができるだけでなく、分散による偽色彩の問題を軽減することもできるため、よりリアルな画像を取得することができることを理解することができる。
一実施例において、前記回折領域内の画素と前記回折領域外の画素との間の色彩の違いの程度に基づいて、前記回折領域に分散現象が存在するか否かを決定することは、
前記回折領域内の分散現象がある画素の色と前記回折領域外の画素の色との間の色差値を取得することと、
前記色差値がプリセットされた色閾値より大きいと、前記回折領域に前記分散現象が存在すると決定することとを含む。
当該実施例において、回折領域内の画素と回折領域外の画素との間の色彩の違いの程度に基づいて、回折領域に分散現象が存在するか否かを決定する時、色差値及びプリセットされた色閾値に基づいて判断することができる。
色差値を決定する時、RGB色空間での各画素の色成分:赤画素(R)、緑画素(G)及び青画素(B)など、回折領域内の画素及び回折領域外の画素の色情報に基づいて、R成分の平均値、G成分の平均値及びB成分の平均値をそれぞれ決定し、分散現象を有する回折領域内の画素の色成分の平均値と回折領域外の画素の対応する色成分の平均値とを減算する。同時に、プリセットされた各色成分に対する色閾値に基づいて、各色成分の平均値間の差分値が対応するプリセットされた色閾値より大きいと決定した場合、分散現象が回折領域に存在すると決定する。
RGB空間では、各色成分の値は全て輝度と密接に関連しているため、輝度が変化する限り、各色成分の値もそれに応じて変化する。したがって、RGB空間は、色関連情報をよりダイレクトに反映することができない可能性がある。これらについて、本開示は、RGB空間に属する第1画像をHSV/HSL空間に変換し、HSV/HSL空間で分散現象を有する回折領域内の画素の色と回折領域外の画素の色との色差値を取得することができる。
HSV/HSL空間では、色調(H)は色相を反映し、彩度(S)は、色相空間の色の彩度を反映し、H及びSは両方とも色を反映する情報であるため、色空間変換度のH及びSの情報に従って色差値を決定することができ、これにより、色差の決定精度を向上させる。
HSV/HSL空間では、例えば、回折領域内の画素と回折領域外の画素のH成分の平均値、S成分の平均値をそれぞれ統計し、平均値間の差及び対応する成分のプリセットされた色閾値に基づいて、各成分の平均値間の差値が対応するプリセットされた色閾値より大きいと決定した場合、分散現象が回折領域に存在すると決定することができる。
一実施例において、ステップS13は、
前記回折領域内の各画素点の輝度値に基づき、前記輝度値との正相関関係に基づいて、調整される輝度値を決定することと、
前記回折領域内の各画素点の輝度値から前記各画素点に対応する調整される輝度値を減算することにより、ガウス分布を示す輝度値を有する前記第2画像を取得することとを含む。
当該実施例において、回折領域の輝度を低下させることにより、輝度調整後の第2画像を取得する時、回折領域内の各画素点の輝度値に基づき、輝度値との正相関関係に基づいて、調整される輝度値を決定する。ここで、正相関とは、回折領域内の画素点の輝度値が大きいほど、決定された調整される輝度値が大きい。
上記のように、第1画像における各画素の輝度のライトフィールドの分布は、図7の光強度分布グラフに類似し、回折領域は、K1及びK2を含む正規分布部分を含む。K1を例にとると、調整される輝度値を決定する時、ピーク値の調整される値が最も大きいと設定することができ、ピーク値の周辺の画素点に対応する調整される値は比較的小さいため、K1部分の調整される値は、逆正規分布に類似するグラフで示される。上記の方式に基づいて、調整される値を決定した後、K1部分の各画素点の輝度値から当該部分に対応する調整される値を差し引くことで、K1部分を直線に近づけることができる。同様に、k2部分についても同様に調整される値を決定し、K2部分の各画素点の輝度値を使用して当該部分に対応する調整される値を差し引くことで、正規分布を有するK2部分のグラフも直線に近づけるように変化する。
回折領域内の各画素点の輝度値から各画素点に対応する調整される輝度値を差し引いた後、図7のK1及びK2と同様の正規分布現象がなくなり、全体の輝度がガウス分布(即ち、正規分布)を有するグラフが示されることを理解することができる。即ち、取得された第2画像の輝度値はガウス分布で示される。
一実施例において、ステップS13は、
逆Gamma関数に従って前記回折領域の輝度を低下させることにより、輝度調整後の前記第2画像を取得することを含む。
本開示の実施例において、逆Gamma関数に従って回折領域の輝度を低減することもできる。図9は、逆Gamma関数のグラフの模式図であり、図9に示す逆Gamma関数グラフに基づき、第1画像の基で逆Gamma関数を使用して輝度を低減する時に、図7に示す回折領域に属するK1及びK2の輝度の一部は低減し、K1及びK2の光源部分はそのままで維持することを理解することができる。したがって、当該方法によって取得された輝度調整後の第2画像も、回折によって生成されたオーバーラップ映像をある程度低減することができ、第2画像が第1画像よりもリアルになる。
一実施例において、ステップS13は、
前記回折領域を含む第1画像をプリセットされた画質補償モデルに入力することにより、輝度調整後の前記第2画像を取得することを含み、ここで、前記プリセットされた画質補償モ償モデルは、ニューラルネットワーク方式を用いてトレーニングすることにより取得されたものである。
本開示の実施例において、プリセットされた画質補償モデルを介して第1画像の画質を補償することもでき、当該画質補償モデルは、画像の画質を改善するために入力画像の輝度を調整するため、第1画像を当該モデルに入力した後、輝度調整後の第2画像を取得することができる。
当該実施例において、プリセットされた画質補償モ償モデルは、ニューラルネットワーク方式を用いてトレーニングすることにより取得されたものであり、例えば、画質補償モデルは、畳み込みニューラルネットワーク又は深層ニューラルネットワークを介して、大量のサンプル画像をトレーニングすることにより取得されたモデルである。具体的に、サンプル画像は、端末が出荷する前に、同じ目標対象に対して画像収集を実行することによりそれぞれ取得した、回折現象を含む実際の画像及び回折現象を含まないベンチマーク画像であり得る。ここで、回折現象を含む実際の画像は、端末のウエブカメラの上にディスプレイスクリーンが分布されたシーンで取得したものであり、回折現象を含まないベンチマーク画像は、端末のウエブカメラの上にディスプレイスクリーンが分布されていないシーンで取得したものである。取得した回折現象を含まない実際の画像に基づき、ニューラルネットワークモデルを使用してトレーニングし、トレーニング中、損失関数を介して、実際の画像のトレーニング値とベンチマーク画像の間の画質の差を測定する。従って、誤差逆伝播にてネットワークのパラメータを不断に最適化して、トレーニングされた画質補償モデルを取得することができる。
図10は、一例示的な実施例によって示された画像処理装置の模式図である。図10を参照すると、当該画像処理装置は、
第1画像における画素の輝度に基づいて、ハイライト領域を決定するように構成される第1決定モジュール101であって、前記ハイライト領域に含まれた画素の輝度が前記ハイライト領域の周辺における画素の輝度より大きい第1決定モジュール101と、
前記ハイライト領域に基づいて、前記第1画像における回折領域を決定するように構成される第2決定モジュール102であって、前記回折領域が、前記ハイライト領域の周辺に分布される画像領域である第2決定モジュール102と、
前記回折領域の輝度を低下させることにより、第2画像を取得するように構成される調整モジュール103とを備える。
オプションとして、前記第2決定モジュール102は、具体的に、前記第1画像における画素の輝度のライトフィールドの分布を決定し、前記ライトフィールドの分布に基づいて、前記第1画像の前記ハイライト領域の輝度の低下方向で、回折現象を満たす画像領域が存在するか否かを決定し、前記回折現象を満たす画像領域が存在すると、前記画像領域が前記回折領域であると決定するように構成される。
オプションとして、前記第2決定モジュール102は、具体的に、前記ライトフィールドの分布及び前記回折現象の輝度特性に基づいて、高次位置が存在するか否かを決定するように構成され、前記高次位置は、前記第1画像の前記ハイライト領域以外の領域において、第1部分領域の画素の輝度と第2部分領域の画素の輝度との間の差分値が第1閾値より大きい場合、第1部分領域の画素の所在位置であり、前記第1部分領域の画素の輝度は第2部分領域の画素の輝度より大きい。
オプションとして、前記第2決定モジュールは、具体的に、前記高次位置に位置する画素で構成された形状と前記ハイライト領域の形状との類似度が第1類似度閾値より大きいか否かを決定し、前記第1類似度閾値より大きいと、前記回折現象を満たす前記画像領域があると決定するように構成される。
オプションとして、前記第1画像は、K(ただし、K≧2)次の前記高次位置を含み、ここで、第K次の前記高次位置の画素の輝度は、第K-1次の前記高次位置の画素の輝度と等しいか、前記K値との逆相関を有する。
オプションとして、前記画像処理装置は、さらに、
具体的に、前記回折領域内の画素と前記回折領域外の画素との間の色彩の違いの程度に基づいて、前記回折領域に分散現象が存在するか否かを決定するように構成される第3決定モジュールを備え、
前記調整モジュール103は、具体的に、前記回折領域に分散現象が存在すると、前記回折領域の輝度及び彩度を低下させることにより、前記第2画像を取得するように構成される。
オプションとして、前記第3決定モジュール104は、具体的に、前記回折領域内の画素の色と前記回折領域外の画素の色との間の色差値を取得し、前記色差値がプリセットされた色閾値より大きいと、前記回折領域に前記分散現象が存在すると決定するように構成される。
オプションとして、前記調整モジュール103は、具体的に、前記回折領域内の各画素点の輝度値に基づき、前記輝度値との正相関関係に基づいて、調整される輝度値を決定し、前記回折領域内の各画素点の輝度値から前記各画素点に対応する調整される輝度値を減算することにより、ガウス分布を示す輝度値を有する前記第2画像を取得するように構成される。
オプションとして、前記調整モジュール103は、具体的に、逆Gamma関数に従って前記回折領域の輝度を低下させることにより、輝度調整後の前記第2画像を取得するように構成される。
オプションとして、前記調整モジュール103は、具体的に、前記回折領域を含む第1画像をプリセットされた画質補償モデルに入力することにより、輝度調整後の前記第2画像を取得するように構成され、前記プリセットされた画質補償モ償モデルは、ニューラルネットワーク方式を用いてトレーニングすることにより取得されたものである。
オプションとして、前記第1決定モジュール101は、具体的に、前記第1画像における各画素点の輝度値に基づきクラスタリングすることにより、異なる領域を分割し、前記領域内の画素点間の輝度差はいずれも、プリセットされた差の範囲内にあり、分割された前記領域において、領域の平均輝度値が最も大きい領域を前記ハイライト領域として取得するように構成される。
上述の実施例の装置に関して、ここで、各モジュールが動作を実行する具体的な手段は、既に、前記方法に関する実施例で詳細に説明されており、ここでは詳細に説明しない。
図11は、一例示的な実施例によって示された端末装置800のブロック図である。例えば、装置800は、モバイル電話、モバイルコンピュータなどであり得る。
図11を参照すると、装置800は、処理ユニット802、メモリ804、電力ユニット806、マルチメディアユニット808、オーディオユニット810、入力/出力(I/O)インターフェース812、センサユニット814、及び通信ユニット816のうちの1つまたは複数のユニットを備えることができる。
処理ユニット802は、一般的に、表示、電話の呼び出し、データ通信、カメラ操作及び記録操作に関する操作のような装置800の全体操作を制御する。処理ユニット802は、上記の方法のステップのすべてまたは一部を完了するために、1つまたは複数のプロセッサ820を備えて命令を実行することができる。加えて、処理ユニット802は、処理ユニット802と他のユニットの間のやり取りを容易にするために、1つまたは複数のモジュールを備えることができる。例えば、処理ユニット802は、マルチメディアユニット808と処理ユニット802との間のやり取りを容易にするために、マルチメディアモジュールを備えることができる。
メモリ804は、機器800での操作をサポートするために、様々なタイプのデータを格納するように構成される。これらのデータの例には、装置800で動作する任意のアプリケーションまたは方法の命令、連絡先データ、電話帳データ、メッセージ、写真、ビデオ等が含まれる。第1メモリ804は、スタティックランダムアクセスメモリ(SRAM)、電気的に消去可能なプログラム可能な読み取り専用メモリ(EEPROM)、消去可能なプログラム可能な読み取り専用メモリ(EPROM)、プログラム可能な読み取り専用メモリ(PROM)、読み取り専用メモリ(ROM)、磁気メモリ、フラッシュメモリ、磁気ディスク、または光ディスクなど、あらゆるタイプの揮発性または不揮発性ストレージデバイスまたはそれらの組み合わせによって実現されることができる。
電力ユニット806は、装置800の様々なユニットに電力を供給する。電力ユニット806は、電力管理システム、1つまたは複数の電源、及び装置800の電力の生成、管理および分配に関する他のユニットを備えることができる。
マルチメディアユニット808は、前記装置800とユーザとの間の、出力インターフェースを提供するスクリーンを備える。一部の実施例において、スクリーンは、液晶ディスプレイ(LCD)及びタッチパネル(TP)を備えることができる。スクリーンがタッチパネルを備える場合、スクリーンは、ユーザからの入力信号を受信するためのタッチスクリーンとして実現されることができる。タッチパネルは、タッチ、スライド及びタッチパネルでのジェスチャーを感知するための1つまたは複数のタッチセンサを備える。前記タッチセンサは、タッチまたはスライドの操作の境界を感知するだけでなく、前記タッチまたはスライド動作に関連する持続時間及び圧力も検出することができる。一部の実施例において、マルチメディアユニット808は、1つのフロントウェブカメラおよび/またはリアウェブカメラを備える。機器800が撮影モードまたはビデオモードなどの動作モードにあるとき、フロントウェブカメラおよび/またはリアウェブカメラは、外部のマルチメディアデータを受信することができる。各フロントウェブカメラ及びリアウェブカメラは、固定された光学レンズシステムであり、または焦点距離と光学ズーム機能を持つことができる。
オーディオユニット810は、オーディオ信号を出力および/または入力するように構成される。例えば、オーディオユニット810は、1つのマイクロフォン(MIC)を備え、装置800が通話モード、録音モード及び音声認識モードなどの動作モードにあるとき、マイクロフォンは、外部オーディオ信号を受信するように構成される。受信されたオーディオ信号は、メモリ804にさらに記憶されてもよく、または通信ユニット816を介して送信されてもよい。一部の実施例において、オーディオユニット810は、さらに、オーディオ信号を出力するためのスピーカを備える。
I/Oインターフェース812は、処理ユニット802と周辺インターフェースモジュールとの間にインターフェースを提供し、前記周辺インターフェースモジュールは、キーボード、クリックホイール、ボタンなどであってもよい。これらのボタンは、ホームボタン、ボリュームボタン、スタートボタン、ロックボタンを備えることができるが、これらに限定されない。
センサユニット814は、装置800に各態様の状態の評価を提供するための1つまたは複数のセンサを備える。例えば、センサユニット814は、機器800のオン/オフ状態と、装置800のディスプレイやキーパッドなどのユニットの相対的な位置づけを検出することができ、センサユニット814は、装置800または装置800のユニットの位置の変化、ユーザとの装置800の接触の有無、装置800の向きまたは加速/減速、及び装置800の温度の変化も検出することができる。センサユニット814は、物理的接触なしに近くの物体の存在を検出するように構成された近接センサを備えることができる。センサユニット814は、撮像用途で使用するためのCMOSまたはCCD画像センサなどの光センサをさらに備えることができる。一部の実施例において、当該センサユニット814は、さらに、加速度センサ、ジャイロスコープセンサ、磁気センサ、圧力センサまたは温度センサを備えることができる。
通信ユニット816は、装置800と他の装置の間の有線または無線通信を容易にするように構成される。装置800は、Wi-Fi、2Gまたは3G、またはそれらの組み合わせなどの通信規格に基づく無線ネットワークにアクセスすることができる。一例示的な実施例において、前記通信ユニット816は、放送チャンネルを介して外部放送管理システムからの放送信号または放送関連情報を受信する。一例示的な実施例において、前記通信ユニット816は、さらに、短距離通信を促進するために、近距離通信(NFC)モジュールを備える。例えば、NFCモジュールは、無線周波数識別(RFID)技術、赤外線データ協会(IrDA)技術、超広帯域(UWB)技術、ブルートゥース(登録商標)(BT)技術及び他の技術に基づいて具現することができる。
例示的な実施例において、装置800は、上記の方法を実行するように構成される、1つまたは複数の特定用途向け集積回路(ASIC)、デジタル信号プロセッサ(DSP)、デジタル信号処理装置(DSPD)、プログラマブルロジックデバイス(PLD)、フィールドプログラマブルゲートアレイ(FPGA)、コントローラ、マイクロコントローラ、マイクロプロセッサまたは他の電子素子によって具現されることができる。
例示的な実施例において、命令を含むメモリ804などの、命令を含む非一時的なコンピュータ読み取り可能な記憶媒体をさらに提供し、前記命令は、装置800のプロセッサ820によって実行されて上記の方法を完了することができる。例えば、前記非一時的なコンピュータ読み取り可能な記憶媒体は、ROM、ランダムアクセスメモリ(RAM)、CD-ROM、磁気テープ、フロッピー(登録商標)ディスクおよび光学データ記憶装置などであってもよい。
非一時的なコンピュータ読み取り可能な記憶媒体は、前記記憶媒体の命令が端末のプロセッサによって実行されると、端末が制御方法を実行することができるようにし、前記方法は、
第1画像における画素の輝度に基づいて、ハイライト領域を決定することであって、前記ハイライト領域に含まれた画素の輝度が前記ハイライト領域の周辺における画素の輝度より大きいことと、
前記ハイライト領域に基づいて、前記第1画像における回折領域を決定することであって、前記回折領域が、前記ハイライト領域の周辺に分布される画像領域であることと、
前記回折領域の輝度を低下させることにより、第2画像を取得することとを含む。
当業者は、明細書を考慮して、本明細書に開示された発明を実施した後に、本発明の他の実施形態を容易に想到し得ることである。本出願は、本発明のあらゆる変形、応用または適応変化を網羅することを意図し、これらの変形、応用または適応変化は、本発明の普通の原理に準拠し、本発明によって開示されない本技術分野における公知知識または慣用技術手段を含む。明細書と実施例は、例示としてのみ考慮され、本発明の本質的な範囲および思想は添付の特許請求の範囲によって示される。
本発明は、上記に既に説明し且つ図面に示した正確な構造に限定されるものではなく、その範囲から逸脱することなく様々な修正及び変更を行うことができることを理解されたい。本発明の範囲は、添付の特許請求の範囲によってのみ制限される。

Claims (22)

  1. 画像処理方法であって、
    第1画像における画素の輝度に基づいて、含まれた画素の輝度がその周辺における画素の輝度より大きいハイライト領域を決定することと、
    前記ハイライト領域に基づいて、前記第1画像における前記ハイライト領域の周辺に分布される回折領域を決定することと、
    前記回折領域の輝度を低下させることにより、第2画像を取得すること
    を含み、
    前記第1画像における画素の輝度に基づいて、ハイライト領域を決定することは、
    前記第1画像における各画素点の輝度値に基づきクラスタリングすることにより、画素点間の輝度差がいずれもプリセットされた差の範囲内にある、異なる領域を分割することと、
    分割された前記領域において、領域の平均輝度値が最も大きい領域を前記ハイライト領域として取得することと
    を含む、画像処理方法。
  2. 前記ハイライト領域に基づいて、前記第1画像における回折領域を決定することは、
    前記第1画像における画素の輝度のライトフィールドの分布を決定することと、
    前記ライトフィールドの分布に基づいて、前記第1画像における前記ハイライト領域の輝度の低下方向で、回折現象を満たす画像領域が存在するか否かを決定することと、
    前記回折現象を満たす画像領域が存在すると、前記画像領域が前記回折領域であると決定すること
    を含む請求項1に記載の画像処理方法。
  3. 前記ライトフィールドの分布に基づいて、前記第1画像における前記ハイライト領域の輝度の低下方向で、回折現象を満たす画像領域が存在するか否かを決定することは、
    前記ライトフィールドの分布及び前記回折現象の輝度特性に基づいて、高次位置が存在するか否かを決定することと、
    前記高次位置が存在すると、前記回折現象を満たす前記画像領域が存在すると決定すること
    を含み、
    前記高次位置は、前記第1画像の前記ハイライト領域以外の領域において、第1部分領域の画素の輝度と第2部分領域の画素の輝度との間の差分値が第1閾値より大きい場合、第1部分領域の画素の所在位置であり、前記第1部分領域の画素の輝度が第2部分領域の画素の輝度より大きくされるように構成されてい請求項2に記載の画像処理方法。
  4. 前記高次位置が存在すると、前記回折現象を満たす前記画像領域が存在すると決定することは、
    前記高次位置に位置する画素で構成された形状と前記ハイライト領域の形状との類似度が第1類似度閾値より大きいか否かを決定することと、
    前記第1類似度閾値より大きいと、前記回折現象を満たす前記画像領域が存在すると決定すること
    を含む請求項3に記載の画像処理方法。
  5. 前記第1画像において、K(ただし、K≧2)次の前記高次位置を含み、
    第K次の前記高次位置の画素の輝度は、第K-1次の前記高次位置の画素の輝度と等しいか、前記K値との逆相関を有する請求項3に記載の画像処理方法。
  6. 前記画像処理方法は
    前記回折領域内の画素と前記回折領域外の画素との間の色彩の違いの程度に基づいて、前記回折領域に分散現象が存在するか否かを決定することをさらに含み、
    前記回折領域の輝度を低下させることにより、第2画像を取得することは、
    前記回折領域に分散現象が存在すると、前記回折領域の輝度及び彩度を低下させることにより、前記第2画像を取得することを含む請求項1に記載の画像処理方法。
  7. 前記回折領域内の画素と前記回折領域外の画素との間の色彩の違いの程度に基づいて、前記回折領域に分散現象が存在するか否かを決定することは、
    前記回折領域内の画素の色と前記回折領域外の画素の色との間の色差値を取得することと、
    前記色差値がプリセットされた色閾値より大きいと、前記回折領域に前記分散現象が存在すると決定すること
    を含む請求項6に記載の画像処理方法。
  8. 前記回折領域の輝度を低下させることにより、第2画像を取得することは、
    前記回折領域内の各画素点の輝度値に基づき、前記輝度値との正相関関係に基づいて、調整される輝度値を決定することと、
    前記回折領域内の各画素点の輝度値から前記各画素点に対応する調整される輝度値を減算することにより、ガウス分布を示す輝度値を有する前記第2画像を取得すること
    を含む請求項1に記載の画像処理方法。
  9. 前記回折領域の輝度を低下させることにより、第2画像を取得することは、
    逆Gamma関数に従って前記回折領域の輝度を低下させることにより、輝度調整後の前記第2画像を取得することを含む請求項1に記載の画像処理方法。
  10. 前記回折領域の輝度を低下させることにより、第2画像を取得することは、
    プリセットされた、ニューラルネットワーク手段にてトレーニングすることにより取得された画質補償モデルに、前記回折領域を含む第1画像を入力することにより、輝度調整後の前記第2画像を取得することを含む請求項1に記載の画像処理方法。
  11. 画像処理装置であって、
    第1画像における画素の輝度に基づいて、含まれた画素の輝度がその周辺における画素の輝度より大きいハイライト領域を決定するように構成されている第1決定モジュールと、
    前記ハイライト領域に基づいて、前記第1画像における前記ハイライト領域の周辺に分布される回折領域を決定するように構成されている第2決定モジュールと、
    前記回折領域の輝度を低下させることにより、第2画像を取得するように構成されている調整モジュール
    を備え、
    前記第1決定モジュールは、
    前記第1画像における各画素点の輝度値に基づきクラスタリングすることにより、画素点間の輝度差がいずれもプリセットされた差の範囲内にある、異なる領域を分割することと、
    分割された前記領域において、領域の平均輝度値が最も大きい領域を前記ハイライト領域として取得することと
    を行うようにさらに構成されている、画像処理装置。
  12. 前記第2決定モジュールは、
    前記第1画像における画素の輝度のライトフィールドの分布を決定することと、
    前記ライトフィールドの分布に基づいて、前記第1画像における前記ハイライト領域の輝度の低下方向で、回折現象を満たす画像領域が存在するか否かを決定することと、
    前記回折現象を満たす画像領域が存在すると、前記画像領域が前記回折領域であると決定することと
    を行うようにさらに構成されてい請求項11に記載の画像処理装置。
  13. 前記第2決定モジュールは、
    前記ライトフィールドの分布及び前記回折現象の輝度特性に基づいて、高次位置が存在するか否かを決定することと、
    前記高次位置が存在すると、前記回折現象を満たす前記画像領域が存在すると決定することと
    を行うようにさらに構成されており、
    前記高次位置は、前記第1画像の前記ハイライト領域以外の領域において、第1部分領域の画素の輝度と第2部分領域の画素の輝度との間の差分値が第1閾値より大きい場合、第1部分領域の画素の所在位置であり、前記第1部分領域の画素の輝度が第2部分領域の画素の輝度より大きくされるように構成されてい請求項12に記載の画像処理装置。
  14. 前記第2決定モジュールは、
    前記高次位置に位置する画素で構成された形状と前記ハイライト領域の形状との類似度が第1類似度閾値より大きいか否かを決定することと、
    前記第1類似度閾値より大きいと、前記回折現象を満たす前記画像領域が存在すると決定することと
    を行うようにさらに構成されてい請求項13に記載の画像処理装置。
  15. 前記第1画像において、K(ただし、K≧2)次の前記高次位置を含み、
    第K次の前記高次位置の画素の輝度は、第K-1次の前記高次位置の画素の輝度と等しいか、前記K値との逆相関を有する請求項13に記載の画像処理装置。
  16. 前記画像処理装置は
    前記回折領域内の画素と前記回折領域外の画素との間の色彩の違いの程度に基づいて、前記回折領域に分散現象が存在するか否かを決定するように構成されている第3決定モジュールをさらに備え、
    前記調整モジュールは、
    前記回折領域に分散現象が存在すると、前記回折領域の輝度及び彩度を低下させることにより、前記第2画像を取得するようにさらに構成されてい請求項11に記載の画像処理装置。
  17. 前記第3決定モジュールは、
    前記回折領域内の画素の色と前記回折領域外の画素の色との間の色差値を取得することと、
    前記色差値がプリセットされた色閾値より大きいと、前記回折領域に前記分散現象が存在すると決定することと
    を行うようにさらに構成されてい請求項16に記載の画像処理装置。
  18. 前記調整モジュールは、
    前記回折領域内の各画素点の輝度値に基づき、前記輝度値との正相関関係に基づいて、調整される輝度値を決定することと、
    前記回折領域内の各画素点の輝度値から前記各画素点に対応する調整される輝度値を減算することにより、ガウス分布を示す輝度値を有する前記第2画像を取得することと
    を行うようにさらに構成されてい請求項11に記載の画像処理装置。
  19. 前記調整モジュールは、
    逆Gamma関数に従って前記回折領域の輝度を低下させることにより、輝度調整後の前記第2画像を取得するようにさらに構成されてい請求項11に記載の画像処理装置。
  20. 前記調整モジュールは、
    プリセットされた、ニューラルネットワーク手段にてトレーニングすることにより取得された画質補償モデルに、前記回折領域を含む第1画像を入力することにより、輝度調整後の前記第2画像を取得するようにさらに構成されてい請求項11に記載の画像処理装置。
  21. 請求項11~20のいずれか一項に記載の画像処理装置を備え端末。
  22. 命令が記憶されている非一時的なコンピュータ読み取り可能な記憶媒体であって、
    前記命令は、コンピュータのプロセッサによって実行されると請求項1~10のいずれか一項に記載の画像処理方法を実行することを前記プロセッサに行わせる、非一時的なコンピュータ読み取り可能な記憶媒体。
JP2021046853A 2020-07-31 2021-03-22 画像処理方法及び装置、端末並びに記憶媒体 Active JP7136956B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN202010761645.2 2020-07-31
CN202010761645.2A CN114066785A (zh) 2020-07-31 2020-07-31 图像处理方法及装置、终端和存储介质

Publications (2)

Publication Number Publication Date
JP2022027436A JP2022027436A (ja) 2022-02-10
JP7136956B2 true JP7136956B2 (ja) 2022-09-13

Family

ID=75277821

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021046853A Active JP7136956B2 (ja) 2020-07-31 2021-03-22 画像処理方法及び装置、端末並びに記憶媒体

Country Status (5)

Country Link
US (1) US11783450B2 (ja)
EP (1) EP3945491A1 (ja)
JP (1) JP7136956B2 (ja)
KR (1) KR102459527B1 (ja)
CN (1) CN114066785A (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114066785A (zh) * 2020-07-31 2022-02-18 北京小米移动软件有限公司 图像处理方法及装置、终端和存储介质
CN114845062B (zh) * 2022-04-29 2024-04-02 深圳市联洲国际技术有限公司 图像的处理方法、非易失性存储介质、处理器与电子设备
CN115116406B (zh) * 2022-05-27 2023-10-27 青岛海信移动通信技术有限公司 一种反射屏模组前光亮点补偿方法、设备、系统及介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005136917A (ja) 2003-10-31 2005-05-26 Canon Inc 画像処理方法、画像処理装置、画像処理プログラムおよび撮像システム
JP2011259089A (ja) 2010-06-07 2011-12-22 Sony Corp 画像表示装置、電子機器、画像表示システム、画像取得方法、プログラム

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1528797B1 (en) 2003-10-31 2015-07-08 Canon Kabushiki Kaisha Image processing apparatus, image-taking system and image processing method
JP4830923B2 (ja) * 2007-03-13 2011-12-07 Nkワークス株式会社 画像処理装置及び画像処理方法
KR20090061926A (ko) * 2007-12-12 2009-06-17 삼성전자주식회사 디스플레이장치 및 그 제어방법
JP2009303061A (ja) * 2008-06-16 2009-12-24 Canon Inc 画像処理装置およびその制御方法
CN101861599B (zh) * 2008-09-17 2012-07-04 松下电器产业株式会社 图像处理装置、摄像装置、评价装置、图像处理方法以及光学系统评价方法
JP2011022656A (ja) * 2009-07-13 2011-02-03 Nikon Corp 画像処理装置及び画像処理プログラム
US8989436B2 (en) * 2010-03-30 2015-03-24 Nikon Corporation Image processing method, computer-readable storage medium, image processing apparatus, and imaging apparatus
WO2012127552A1 (ja) * 2011-03-23 2012-09-27 パナソニック株式会社 画像処理装置、撮像装置及び画像処理方法
US8908062B2 (en) * 2011-06-30 2014-12-09 Nikon Corporation Flare determination apparatus, image processing apparatus, and storage medium storing flare determination program
JP2016051982A (ja) * 2014-08-29 2016-04-11 株式会社ニコン 画像処理装置、カメラおよび画像処理プログラム
US9979909B2 (en) * 2015-07-24 2018-05-22 Lytro, Inc. Automatic lens flare detection and correction for light-field images
JP7242185B2 (ja) * 2018-01-10 2023-03-20 キヤノン株式会社 画像処理方法、画像処理装置、画像処理プログラム、および、記憶媒体
US10382712B1 (en) * 2018-08-01 2019-08-13 Qualcomm Incorporated Automatic removal of lens flares from images
EP3855395B1 (en) * 2018-09-18 2024-05-15 Panasonic Intellectual Property Management Co., Ltd. Depth acquisition device, depth acquisition method and program
CN109489583B (zh) * 2018-11-19 2021-09-17 先临三维科技股份有限公司 投影装置、采集装置及具有其的三维扫描系统
KR20200094058A (ko) * 2019-01-29 2020-08-06 한국과학기술원 렌즈리스 초분광 영상 이미징 방법 및 그 장치
CN110489580B (zh) 2019-08-26 2022-04-26 Oppo(重庆)智能科技有限公司 图像处理方法、装置、显示屏组件以及电子设备
TW202143213A (zh) * 2020-02-03 2021-11-16 日商索尼半導體解決方案公司 電子機器
CN114066785A (zh) * 2020-07-31 2022-02-18 北京小米移动软件有限公司 图像处理方法及装置、终端和存储介质
WO2022066194A1 (en) * 2020-09-28 2022-03-31 Google Llc Learning-based lens flare removal

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005136917A (ja) 2003-10-31 2005-05-26 Canon Inc 画像処理方法、画像処理装置、画像処理プログラムおよび撮像システム
JP2011259089A (ja) 2010-06-07 2011-12-22 Sony Corp 画像表示装置、電子機器、画像表示システム、画像取得方法、プログラム

Also Published As

Publication number Publication date
KR20220015915A (ko) 2022-02-08
KR102459527B1 (ko) 2022-10-27
US20220036511A1 (en) 2022-02-03
JP2022027436A (ja) 2022-02-10
EP3945491A1 (en) 2022-02-02
US11783450B2 (en) 2023-10-10
CN114066785A (zh) 2022-02-18

Similar Documents

Publication Publication Date Title
JP7136956B2 (ja) 画像処理方法及び装置、端末並びに記憶媒体
CN109345485B (zh) 一种图像增强方法、装置、电子设备及存储介质
US10949958B2 (en) Fast fourier color constancy
CN110958401B (zh) 一种超级夜景图像颜色校正方法、装置和电子设备
CN106131441B (zh) 拍照方法及装置、电子设备
CN112614064B (zh) 图像处理方法、装置、电子设备及存储介质
WO2023137956A1 (zh) 图像处理方法、装置、电子设备及存储介质
CN106982327B (zh) 图像处理方法和装置
CN111625213A (zh) 画面显示方法、装置和存储介质
US11222235B2 (en) Method and apparatus for training image processing model, and storage medium
CN106803920B (zh) 一种图像处理的方法、装置及智能会议终端
US10951816B2 (en) Method and apparatus for processing image, electronic device and storage medium
US11756167B2 (en) Method for processing image, electronic device and storage medium
CN111741187B (zh) 图像处理方法、装置及存储介质
CN115239570A (zh) 图像处理方法、图像处理装置及存储介质
CN110728180A (zh) 图像处理方法、装置及存储介质
CN116866495A (zh) 图像获取方法、装置、终端设备及存储介质
CN115641269A (zh) 一种图像修补方法、装置及可读存储介质
CN112785537A (zh) 图像处理方法、装置以及存储介质
CN114338956A (zh) 图像处理方法、图像处理装置及存储介质
WO2023236215A1 (zh) 图像处理方法、装置及存储介质
CN111310600B (zh) 一种图像处理方法、装置、设备及介质
US20230410260A1 (en) Method and apparatus for processing image
WO2023221119A1 (zh) 一种图像的处理方法、装置及存储介质
WO2023231009A1 (zh) 一种对焦方法、装置及存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210322

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220411

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220512

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220805

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220822

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220901

R150 Certificate of patent or registration of utility model

Ref document number: 7136956

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150