JP2022550565A - 画像処理方法、画像処理装置、電子機器、及びコンピュータプログラム - Google Patents

画像処理方法、画像処理装置、電子機器、及びコンピュータプログラム Download PDF

Info

Publication number
JP2022550565A
JP2022550565A JP2022520267A JP2022520267A JP2022550565A JP 2022550565 A JP2022550565 A JP 2022550565A JP 2022520267 A JP2022520267 A JP 2022520267A JP 2022520267 A JP2022520267 A JP 2022520267A JP 2022550565 A JP2022550565 A JP 2022550565A
Authority
JP
Japan
Prior art keywords
color feature
histogram
interval
image
intervals
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022520267A
Other languages
English (en)
Inventor
志成 李
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Publication of JP2022550565A publication Critical patent/JP2022550565A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/50Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/56Extraction of image or video features relating to colour
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/40068Modification of image resolution, i.e. determining the values of picture elements at new relative positions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/58Edge or detail enhancement; Noise or error suppression, e.g. colour misregistration correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Signal Processing (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

画像処理方法であって、原画像における、色特徴値が各色特徴区間内にある画素点の数に基づいて、原画像に対応する第1ヒストグラムを取得するステップと、原画像のアップサンプリング画像における、色特徴値が各色特徴区間内にある画素点の数に基づいて、アップサンプリング画像に対応する第2ヒストグラムを取得するステップと、第1ヒストグラムと第2ヒストグラムとに基づいて、第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間をそれぞれ決定するステップと、第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間に基づいて、アップサンプリング画像における各色特徴区間にある画素点の色特徴値を処理することにより、ターゲット画像を取得するステップと、を含む。

Description

本願は、2020年1月14日に中国特許庁に提出された、出願番号が第202010038997.5号であり、発明の名称が「画像処理方法、装置、電子機器、及び記憶媒体」である、中国特許出願に基づく優先権を主張し、その全ての内容が、参照することにより本願に組み込まれている。
本願は、コンピュータの技術分野に関し、特に画像処理方法、装置、電子機器、及び記憶媒体に関する。
画像処理の分野では、高解像度の画像を取得したり、圧縮画像の解像度を復元したりすること、即ち、画像に対してアップサンプリング処理を行うことが、しばしば必要になる。従来のアップサンプリングアルゴリズムは、主に、補間アルゴリズム、又は深層学習に基づくアルゴリズムなどがある。その基本原理は、いずれも、近傍の画素点の色特徴値に基づいて、挿入される画素点の色特徴値を計算することである。
これらのアルゴリズムでは、局所的な近傍の画素点の色情報のみに基づいて、挿入される画素点の色情報を計算するため、アップサンプリング後の画像に顕著なジャギー及び色エッジノイズなどが発生し、アップサンプリング画像の品質及び表示効果が低下する。
画像処理方法であって、
原画像における、色特徴値が各色特徴区間内にある画素点の数に基づいて、前記原画像に対応する第1ヒストグラムを取得するステップと、
前記原画像のアップサンプリング画像における、色特徴値が前記各色特徴区間内にある画素点の数に基づいて、前記アップサンプリング画像に対応する第2ヒストグラムを取得するステップと、
前記第1ヒストグラムと前記第2ヒストグラムとに基づいて、前記第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間をそれぞれ決定するステップと、
前記第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間に基づいて、前記アップサンプリング画像における前記各色特徴区間にある画素点の色特徴値を処理することにより、ターゲット画像を取得するステップと、を含む。
画像処理装置であって、
原画像における、色特徴値が各色特徴区間内にある画素点の数に基づいて、前記原画像に対応する第1ヒストグラムを取得する第1統計モジュールと、
前記原画像のアップサンプリング画像における、色特徴値が前記各色特徴区間内にある画素点の数に基づいて、前記アップサンプリング画像に対応する第2ヒストグラムを取得する第2統計モジュールと、
前記第1ヒストグラムと前記第2ヒストグラムとに基づいて、前記第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間をそれぞれ決定するマッチングモジュールと、
前記第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間に基づいて、前記アップサンプリング画像における前記各色特徴区間にある画素点の色特徴値を処理することにより、ターゲット画像を取得する処理モジュールと、を含む。
メモリと、1つ又は複数のプロセッサとを備える電子機器であって、メモリには、コンピュータ可読命令が記憶され、コンピュータ可読命令は、プロセッサによって実行されると、上記画像処理方法のステップを1つ又は複数のプロセッサに実行させる。
コンピュータ可読命令を記憶した1つ又は複数の不揮発性コンピュータ可読記憶媒体であって、コンピュータ可読命令は、1つ又は複数のプロセッサによって実行されると、上記画像処理方法のステップを1つ又は複数のプロセッサに実行させる。
本願の実施例の構成をより明確に説明するために、以下に、本願の実施例に必要な図面を簡単に紹介する。明らかに、以下に紹介される図面は本願のいくつかの実施例を示しているに過ぎず、当業者であれば、創造的な労働をすることなく、これらの図面から他の図面を得ることもできる。
本願の一実施例で提供される画像処理方法の応用シナリオの模式図である。 本願の他の実施例で提供される画像処理方法の応用シナリオの模式図である。 本願の一実施例で提供される画像処理方法がニューラルネットワークに適用される場合の模式図である。 本願の他の実施例で提供される画像処理方法がニューラルネットワークに適用される場合の模式図である。 本願の一実施例で提供される画像処理方法の手順の模式図である。 本願の一実施例で提供される画像に対応する階調値、及び階調値を統計して得られたヒストグラムである。 本願の一実施例で提供される第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間を決定する手順の模式図である。 本願の一実施例で提供されるアップサンプリング画像とターゲット画像との対応図である。 本願の一実施例で提供される画像処理装置の構成の模式図である。 本願の一実施例で提供される電子機器の構成の模式図である。
本願の実施例の目的、構成、及びメリットをより明確にするために、以下、本願の実施例の図面を参照しながら、本願の実施例の構成を明確かつ完全に説明する。
以下、理解を容易にするために、本願の実施例に係る用語を解釈する。
ヒストグラム(Histogram)とは、質量分布プロファイルとも呼ばれ、統計レポートグラフであり、高さが異なる一連の縦方向の縞又は線分でデータ分布状況を示し、一般的に、横軸でデータタイプを示し、縦軸で分布状況を示す。本願では、色特徴値を複数の色特徴区間に予め分割し(即ち、ヒストグラムの横軸は、色特徴区間である)、1つの画像における、色特徴値が各色特徴区間にある画素点の数を統計することにより、該画像の色特徴分布状況を示すヒストグラムを取得する。
RGBとは、産業界の色基準であり、赤(R)、緑(G)、青(B)という3つの色チャネルの変化及びそれらの相互の重畳によって様々な色を取得するものである。RGBは、即ち、赤、緑、青という3つのチャネルの色を表す。この基準は、ほとんど人間の視力で感知可能なほぼ全ての色を含み、最も広く適用される色システムの1つである。
YUVとは、色コーディング方法であり、各ビデオ処理コンポーネントでよく使用される。YUVでは、写真又はビデオをコーディングする際に、人間の感知能力を考慮して、色度の帯域幅を低減することを可能にする。YUVは、true-color色空間(color space)をコンパイルした種類であり、Y’UV、YUV、YCbCr、YPbPrなどは、いずれもYUVと呼ばれてもよく、互いに重なっている部分がある。「Y」は、輝度(Luminance又はLuma)、即ち階調値を表し、「U」と「V」は、色度(Chrominance又はChroma)を表し、映像の色相及び彩度を記述することを役割として、画素の色を指定するためのものである。
CIELabとは、CIEの1つの色システム、表色系である。CIELabに基づくことは、この色システムに基づくことを意味し、基本的に、ある色の数値情報を決定するために用いられる。Labモードは、1976年に国際照明委員会(CIE)によって公布された色モードであり、CIE組織が決定した、理論的に人間の目で見える全ての色を含む色モードである。Labモードは、RGBとCMYKという2つの色モードの不足を補い、Photoshopでは、ある色モードから他の色モードに切り替えるときに使用される内部色モードである。Labモードも、3つのチャネルで構成される。1つ目のチャネルは、明度、即ち「L」である。aチャネルの色は、赤色から深緑色であり、bチャネルは、青色から黄色である。表現される色範囲について、最も広いのはLabモードであり、次はRGBモードであり、最も狭いのはCMYKモードである。つまり、Labモードは、定義される色が最も多く、光線及び機器とは関係ないとともに、処理速度が、RGBモードと同様に速く、CMYKモードよりも数倍速い。
色特徴区間とは、色特徴に対応する色特徴値の範囲を分割して得られた複数の区間範囲である。本願において、色特徴は、画素点の階調、輝度、色などの、画素点の色特徴を示すデータであってもよい。例えば、例えば、色特徴が画素点の階調であり、階調値の範囲が0~255である場合、0~255の階調値の範囲を複数の区間範囲に分割して、各区間範囲それぞれを1つの色特徴区間としてもよい。例えば、0~15を1つの色特徴区間とし、16~31を1つの色特徴区間とし、このように類推して、合計16個の連続的な色特徴区間b1~b16を得ることができる。説明を容易にするために、色特徴区間biのレベルをiと記してもよい。
サブサンプリング(subsampled)とは、ダウンサンプリング(downsampled)とも呼ばれてもよく、画像を表示領域の大きさに適合させ、又は、原画像に対応するサムネイルを生成するように、画像の解像度を低下させ、即ち、画像の画素点の数を削減することを目的とする。
アップサンプリング(upsampling)とは、画像超解像(Image Super Resolution)であってもよく、画像を高解像度の応用の場合に適応させ、又は、原画像から失われた細部を復元することができるように、画像の解像度を向上させ、即ち、画像の画素点の数を増加することを目的とする。実際の適用では、画像補間(interpolating)、又は深層学習に基づくアルゴリズムによって、画像に対してアップサンプリング処理を行うことができる。一般的な補間アルゴリズムは、最近傍補間、双線形補間、バイキュービック補間アルゴリズム、平均値補間、中央値補間などの方法がある。
通常、高解像度の画像を取得する必要がある場合、原画像をアップサンプリングすることにより、原画像におけるより多くの細部を復元又は再構成し、さらに、より高い解像度の表示機器に表示してもよい。又は、ニューラルネットワークを利用して画像を処理する際に、入力画像の解像度がニューラルネットワークの入力サイズに適することを保証するために、通常、まず入力画像をサブサンプリングしてからニューラルネットワークに入力し、次に、ニューラルネットワークの出力画像をアップサンプリングすることにより、出力画像のを元の解像度に復元する。ニューラルネットワークにおいても、少なくとも1つのサブサンプリングネットワーク層を設け、処理過程において画像の解像度を低下させることにより処理効率を向上させ、少なくとも1つのアップサンプリングネットワーク層を設けることにより、サブサンプリング画像の解像度を復元するようにしてもよい。
図面における任意の要素の数は、いずれも、限定ではなく例示のためのものであり、任意の名称は、いずれも、区別のみのためのものであり、何らの制限的な意味も有しない。
具体的な実践過程において、関連するアップサンプリングアルゴリズムは、主に、画像補間アルゴリズム、又は深層学習に基づくアルゴリズムなどがある。任意の補間アルゴリズムの基本原理は、いずれも、近傍の画素点の色特徴値に基づいて、挿入される画素点の色特徴値を算出することであるが、深層学習に基づくアルゴリズムの基本原理も、ニューラルネットワークによって近傍の画素点の間の関係を学習することにより、挿入される画素点を取得することである。これらのアルゴリズムでは、局所的な近傍の画素点の色情報のみに基づいて、挿入される画素点の色情報を計算するため、アップサンプリング後の画像に顕著なジャギー及び色エッジノイズなどが発生する。また、画像エッジには、上、下、左、右のうちの1つ又は2つの方向が欠いている近傍画素セットがある。現在のアルゴリズムでは、利用可能な近傍の画素点で充填することしかできないため、画像エッジにおける画素点の効果と予想との差が大きくなる。これらは、共にアップサンプリング画像の品質及び表示効果を低下させる。
このため、本願は、画像処理方法を提供する。該方法は、原画像における、色特徴値が各色特徴区間内にある画素点の数に基づいて、原画像に対応する第1ヒストグラムを取得するステップと、原画像のアップサンプリング画像における、色特徴値が各色特徴区間内にある画素点の数に基づいて、アップサンプリング画像に対応する第2ヒストグラムを取得するステップと、第1ヒストグラムと第2ヒストグラムとに基づいて、第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間をそれぞれ決定するステップと、各色特徴区間にマッチするターゲット色特徴区間に基づいて、アップサンプリング画像における各色特徴区間にある画素点の色特徴値を処理することにより、ターゲット画像を取得するステップと、を含む。上記画像処理方法において、第1ヒストグラムは、原画像における色特徴分布状況を示すヒストグラムであり、第2ヒストグラムは、アップサンプリング画像の色特徴分布状況を示すヒストグラムである。第1ヒストグラム及び第2ヒストグラムに掲示された色特徴分布状況に基づいて、第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間を決定し、次に、アップサンプリング画像に対応するターゲット画像の色特徴分布状況をできるだけ原画像の色特徴分布状況に一致させるように、マッチするターゲット色特徴区間に基づいて、アップサンプリング画像における画素点の色特徴値を1つずつ調整することにより、アップサンプリング画像に対応するターゲット画像を取得する。該方法は、アップサンプリング画像に現れるジャギーや色エッジノイズなどを顕著に弱め、アップサンプリング画像の品質及び表示効果を向上させ、画像の細部をより良く復元することができ、処理方式が簡単かつ効率的であり、特に処理効率に対する要求が高い応用の場合、例えば、ビデオのリアルタイム伝送に適する。
本願の実施例の設計思想を紹介した後、以下に、本願の実施例の構成を適用可能な応用シナリオについて簡単に紹介する。説明すべきものとして、以下に紹介する応用シナリオは、限定ではなく、本願の実施例を説明するためのものに過ぎない。具体的に実施する際に、実際のニーズに応じて、本願の実施例で提供される構成を柔軟に応用することが可能である。
図1Aを参照する。図1Aは、本願の実施例で提供される画像処理方法の応用シナリオの模式図である。この応用シナリオは、端末機器101-1、端末機器101-2、…、端末機器101-nを含む)複数の端末機器と、バックグラウンドサーバ102とを含む。ここで、各端末機器とバックグラウンドサーバ102とは、無線又は有線のネットワークを介して接続され、端末機器は、デスクトップコンピュータ、スマートフォン、モバイルコンピュータ、タブレットコンピュータ、メディアプレーヤ、スマートウェアラブルデバイス、テレビ、監視カメラなどを含むが、これらに限定されない。バックグラウンドサーバは、1台のサーバ、複数台のサーバで構成されるサーバクラスタ、又はクラウドコンピューティングセンタであってもよい。端末機器は、画像又はビデオをバックグラウンドサーバ102にアップロードしたり、バックグラウンドサーバ102から画像又はビデオを取得したりすることができる。画像又はビデオを収集又は伝送する過程において、限られた帯域幅を効率的に利用するために、低解像度の画像又はビデオを伝送し、次に、受信側で低解像度の画像又はビデオを高解像度の画像又はビデオに変換するようにしてもよい。端末機器又はバックグラウンドサーバ102は、いずれも、画像又はビデオをアップサンプリングする際に、本願で提供される画像処理方法を参照して、アップサンプリング後の画像に対して強化処理を行うことができる。具体的な応用シナリオは、ビデオ生放送、ビデオ伝送、画像伝送などに限定されない。
当然のことながら、2台の端末機器の間で画像又はビデオを直接伝送してもよい。例えば、監視カメラは、収集したビデオに対してサブサンプリング処理を行った後に監視ディスプレイに伝送し、監視ディスプレイは、サブサンプリングされたビデオに対してアップサンプリング処理を行うことにより、高解像度のビデオを取得して表示する。
図1Bを参照する。図1Bは、本願の実施例で提供される画像処理方法の応用シナリオの模式図である。ここで、端末機器111には、画像処理アプリケーションがインストールされ、該画像アプリケーションには、本願で提供される画像処理方法に対応するソフトウェア機能モジュールが埋め込まれる。ユーザが端末機器111内の画像処理アプリケーションを使用して原画像に対応する高解像度の画像(即ち、アップサンプリング画像)を取得する際に、本願で提供される画像処理方法により、原画像のヒストグラムと、アップサンプリング画像のヒストグラムとに基づいて、アップサンプリング画像を処理することにより、高解像度の画像を取得することができる。例えば、圧縮された画像又はビデオ、汚損された写真、解像度の低い監視ビデオ又は写真などに対して、上記画像処理アプリケーションによって画像を復元及び再構成することができる。端末機器111は、デスクトップコンピュータ、モバイルコンピュータ、タブレットコンピュータ、スマートフォンなどの、画像処理アプリケーションを実行可能な機器を含むが、これらに限定されない。
本願で提供される画像処理方法は、画像閲覧ソフトウェア又は画像編集ソフトウェアに埋め込まれてもよい。ユーザが画像閲覧ソフトウェア又は画像編集ソフトウェアによって画像を閲覧する過程において、ユーザが画像のいくつかの細部に焦点を合わせる必要がある場合、画像の拡大縮小変換を行うことができる。このとき、画像閲覧ソフトウェア又は画像編集ソフトウェアは、原画像のヒストグラムと、アップサンプリング画像のヒストグラムとに基づいて、アップサンプリング画像を処理することにより、高解像度の画像を取得することができる。
本願で提供される画像処理方法は、レーダ画像、衛星リモートセンシング画像、天文観測画像、地質探査データ画像、生物学・医学の切片、顕微画像などの特別な画像、日常の人物風景画像、及びビデオの処理に広く適用することができる。
本願で提供される画像処理方法は、ニューラルネットワークに適用することもできる。例えば、図1Cを参照すると、ニューラルネットワークを利用して画像を処理する際に、入力画像の解像度がニューラルネットワークの入力サイズに適することを保証するために、通常、まず入力画像をサブサンプリングしてからニューラルネットワークに入力し、次に、ニューラルネットワークの出力画像をアップサンプリングすることにより、出力画像のを入力画像の解像度に復元する。ターゲット画像の品質及び表示効果を向上させるために、本願で提供される画像処理方法を利用して、アップサンプリング画像に対して強化処理を行うことにより、ターゲット画像を取得してもよい。また、図1Dを参照すると、ニューラルネットワークは、少なくとも1回のサブサンプリング処理をさらに含んでもよく、処理過程において画像の解像度を低下させることにより処理効率を向上させるとともに、少なくとも1回のアップサンプリング処理により、画像の解像度を復元する。この場合、本願で提供される画像処理方法を利用してアップサンプリング処理後の画像を処理するために、アップサンプリングネットワーク層の後に1つの強化処理層を追加してもよい。これにより、アップサンプリング画像の品質を向上させ、処理後の画像を次のネットワーク層に入力して処理する。
当然のことながら、本願の実施例で提供される方法は、上記の応用シナリオに限定されず、他の可能な応用シナリオにも適用することができる。本願の実施例はこれを限定しない。上記の応用シナリオでの各機器が実現できる機能は、後続の方法の実施例で併せて説明するが、ここではこれ以上の説明を省略する。
以下、本願の実施例で提供される構成をさらに説明するために、図面及び具体的な実施形態を参照しながらそれを詳細に説明する。本願の実施例では、以下の実施例又は図面に示す方法の操作ステップが提供されているが、通常の労働、又は創造性が不要な労働に基づいて、前記方法は、より多く又はより少ない操作ステップを含んでもよい。論理的に必要な因果関係が存在しないステップにおいて、これらのステップの実行順序は、本願の実施例で提供される実行順序に限定されない。
以下、上記の応用シナリオを参照して、本願の実施例で提供される構成を説明する。
図2を参照すると、本願の実施例で提供される画像処理方法は、上記の応用シナリオにおける端末機器又はバックグラウンドサーバに適用することができ、具体的に以下のステップを含む。
S201では、原画像における、色特徴値が各色特徴区間内にある画素点の数に基づいて、原画像に対応する第1ヒストグラムを取得する。
本願の実施例において、原画像は、アップサンプリング処理前の画像であってもよく、原画像は、1枚の単一の画像であってもよいし、ビデオにおける1フレーム1フレームの画像であってもよい。
本願の実施例における色特徴は、画素点の色特性を示す特徴であり、例えば、画素点の階調、輝度、色などであってもよい。それに応じて、色特徴値は、画素点の階調値、画素点の輝度値、画素点の色値などの少なくとも1つを含む。
具体的に実施する際に、色値は、画像に使用される色システムに基づいて決定することができる。例えば、画像が階調画像である場合、画像における各画素点の色特徴は、階調値を含んでもよい。この場合、1つの画像に対して、階調値に対応するヒストグラムを取得することができる。画像がRGBを用いて色を記述する場合、画像における各画素点の色特徴は、R(赤色)、G(緑色)、B(青色)という3つの色特徴を含む。この3つの色特徴をそれぞれ統計してもよく、即ち、1つの画像に対して、R(赤色)、G(緑色)、B(青色)という3つの色特徴にそれぞれ対応する3つのヒストグラムを取得することができる。カラー画像の場合、式gray=R×0.299+G×0.587+B×0.114によって、カラー画像における各画素点の階調値を得ることができる。
具体的に実施する際に、色特徴区間は、当業者が、具体的な応用シナリオと、色特徴に対応する特徴値の範囲とに基づいて予め設定してもよく、1つの色特徴区間は、1つの色特徴値又は1つの色特徴値範囲に対応してもよい。例えば、色特徴が画素点の階調であり、階調値の範囲が0~255である場合、各階調値それぞれを1つの色特徴区間としてもよく、即ち、合計256個の階調区間を得ることができる。0~255の階調値の範囲を複数の領域に分割して、各領域それぞれを1つの色特徴区間としてもよい。例えば、0~15を1つの色特徴区間とし、16~31を1つの色特徴区間とし、このように類推して、合計16個の色特徴区間b1~b16を得ることができる。図3を参照する。図3は、1つの画像における各画素点の階調値を示す。該画像に対して、階調値が上記16個の色特徴区間内にある画素点の数を統計することにより、該画像の階調値に対応するヒストグラムを取得する。
S202では、原画像のアップサンプリング画像における、色特徴値が各色特徴区間内にある画素点の数に基づいて、アップサンプリング画像に対応する第2ヒストグラムを取得する。
本願の実施例におけるアップサンプリング画像は、原画像に対してアップサンプリング処理を行って得られた画像である。本願は、具体的なアップサンプリング処理方法を限定しない。
説明すべきものとして、第1ヒストグラムと第2ヒストグラムにおける色特徴区間は、同じである。
S203では、第1ヒストグラムと第2ヒストグラムとに基づいて、第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間をそれぞれ決定する。
S204では、第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間に基づいて、アップサンプリング画像における各色特徴区間にある画素点の色特徴値を処理することにより、ターゲット画像を取得する。
本願の実施例において、第1ヒストグラムは、原画像における色特徴分布状況を示すヒストグラムであり、第2ヒストグラムは、アップサンプリング画像の色特徴分布状況を示すヒストグラムである。
具体的に実施する際に、第1ヒストグラム及び第2ヒストグラムに掲示された色特徴分布状況に基づいて、第2ヒストグラムにおける各色特徴区間と、第1ヒストグラムにおける色特徴区間とのマッチング関係を決定することができる。該マッチング関係は、第1ヒストグラム及び第2ヒストグラムにおける色特徴分布状況が最も近い色特徴区間の間の対応関係を掲示する。マッチング関係に基づいて、第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間を決定する。次に、アップサンプリング画像に対応するターゲット画像の色特徴分布状況をできるだけ原画像の色特徴分布状況に一致させるように、第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間に基づいて、アップサンプリング画像における画素点の色特徴値を1つずつ調整することにより、アップサンプリング画像に対応するターゲット画像を取得する。
具体的に実施する際に、第2ヒストグラムにおけるある色特徴区間がそのマッチするターゲット色特徴区間と同じである場合、アップサンプリング画像における該色特徴区間にある画素点の色特徴値を調整する必要がない。
1枚の原画像のアップサンプリング画像に対して、複数の色特徴を同時に調整してもよい。この場合、この複数の色特徴のうちの各色特徴に対して、原画像の各色特徴に対する第1ヒストグラムと、アップサンプリング画像の各色特徴に対する第2ヒストグラムとを取得し、次に、各色特徴に対応する第1ヒストグラム及び第2ヒストグラムに基づいて、アップサンプリング画像における各色特徴の色特徴値をそれぞれ調整する。
例えば、アップサンプリング画像における輝度及び階調を調整する必要がある場合、原画像の輝度に対応する第1ヒストグラムVL1、原画像の階調に対応する第1ヒストグラムVG1、アップサンプリング画像の輝度に対応する第2ヒストグラムVL2、アップサンプリング画像の階調に対応する第2ヒストグラムVG2を取得する。次に、第1ヒストグラムVL1及び第2ヒストグラムVL2に基づいて、第2ヒストグラムにおける各輝度区間にマッチするターゲット輝度区間をそれぞれ決定し、各輝度区間にマッチするターゲット輝度区間に基づいて、アップサンプリング画像P1における、各輝度区間にある画素点の輝度値を、各輝度区間にマッチするターゲット輝度区間に対応する輝度値に調整することにより、画像P2を取得する。続いて、第1ヒストグラムVG1及び第2ヒストグラムVG2に基づいて、第2ヒストグラムにおける各階調区間にマッチするターゲット階調区間をそれぞれ決定し、各階調区間にマッチするターゲット階調区間に基づいて、画像P2における、各階調区間にある画素点の階調値を、各階調区間にマッチするターゲット階調区間に対応する階調値に調整することにより、ターゲット画像P3を取得する。
例えば、画像にYUV色コーディングが使用される場合、原画像の色特徴Y、U、Vにそれぞれ対応する第1ヒストグラムと、アップサンプリング画像の色特徴Y、U、Vにそれぞれ対応する第2ヒストグラムとを取得することができる。色特徴Yに対応する第1ヒストグラム及び第2ヒストグラムに基づいて、色特徴Yに対応する第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間をそれぞれ決定し、各色特徴区間にマッチするターゲット色特徴区間に基づいて、アップサンプリング画像P1における、色特徴Yに対応する第2ヒストグラムの各色特徴区間にある画素点の色特徴Yの数値を処理することにより、画像P2を取得する。次に、色特徴Uに対応する第1ヒストグラム及び第2ヒストグラムに基づいて、色特徴Uに対応する第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間をそれぞれ決定し、各色特徴区間にマッチするターゲット色特徴区間に基づいて、画像P2における、色特徴Uに対応する第2ヒストグラムの各色特徴区間にある画素点の色特徴Uの数値を処理することにより、画像P3を取得する。最後に、色特徴Vに対応する第1ヒストグラム及び第2ヒストグラムに基づいて、色特徴Vに対応する第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間をそれぞれ決定し、各色特徴区間にマッチするターゲット色特徴区間に基づいて、画像P3における、色特徴Vに対応する第2ヒストグラムの各色特徴区間にある画素点の色特徴Vの数値を処理することにより、ターゲット画像を取得する。
本願の実施例で提供される画像処理方法は、アップサンプリング画像に現れるジャギーや色エッジノイズなどを顕著に弱め、アップサンプリング画像の品質及び表示効果を向上させ、画像の細部をより良く復元することができ、処理方式が簡単かつ効率的であり、特に処理効率に対する要求が高い応用の場合、例えば、ビデオのリアルタイム伝送に適する。
具体的に実施する際に、第2ヒストグラムにおける各色特徴区間と、第1ヒストグラムにおける色特徴区間とのマッチング関係を様々な方式で決定してもよい。これにより、第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間を決定する。
1つの可能な実施形態では、第1ヒストグラムと第2ヒストグラムでそれぞれ統計された各色特徴区間に対応する比率に基づいて、第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間を決定してもよい。ここで、第1ヒストグラムにおける各色特徴区間に対応する比率は、原画像における、色特徴値が対応の色特徴区間内にある画素点の数と、原画像に含まれる画素点の総数との比率であり、第2ヒストグラムにおける各色特徴区間に対応する比率は、アップサンプリング画像における、色特徴値が対応の色特徴区間内にある画素点の数と、アップサンプリング画像に含まれる画素点の総数との比率である。
これに基づき、ステップS203は、具体的に、第2ヒストグラムにおけるいずれか1つの色特徴区間について、第1ヒストグラムにおける各色特徴区間に対応する比率と、いずれか1つの色特徴区間に対応する比率との差を決定し、第1ヒストグラムにおける、指定条件を満たす差に対応する色特徴区間の中から、いずれか1つの色特徴区間にマッチするターゲット色特徴区間を決定するステップを含む。
具体的に実施する際に、指定条件は、第2ヒストグラムにおけるいずれか1つの色特徴区間に対応する全ての差のうちの最小値であってもよい。例えば、第1ヒストグラム及び第2ヒストグラムは、いずれも、16個の色特徴区間b1~b16を含む。第2ヒストグラムにおける色特徴区間b1を例として、第2ヒストグラムにおける色特徴区間b1の比率と、第1ヒストグラムにおける各色特徴区間に対応する比率との差をそれぞれ計算して、合計16個の差を得ることができる。この16個の差の中から最小の差を選択し、第1ヒストグラムにおける、該差に対応する色特徴区間を、第2ヒストグラムにおける色特徴区間b1にマッチするターゲット色特徴区間として決定する。例えば、最小の差が、第2ヒストグラムにおける色特徴区間b1の比率と、第1ヒストグラムにおける色特徴区間b3の比率との差である場合、第2ヒストグラムにおける色特徴区間b1にマッチするターゲット色特徴区間は、b3である。
具体的に実施する際に、第2ヒストグラムにおけるいずれか1つの色特徴区間に対応する全ての差を小さい順にソートしてもよい。この場合、指定条件は、上位N個の差であってもよい。ここで、Nは1以上であり、且つ色特徴区間の総数よりも小さい。Nの具体的な値は、当業者が実際の応用シナリオに応じて決定してもよい。本願の実施例はこれを限定しない。例えば、第1ヒストグラム及び第2ヒストグラムは、いずれも、16個の色特徴区間b1~b16を含み、且つN=3である。第2ヒストグラムにおける色特徴区間b1を例として、第2ヒストグラムにおける色特徴区間b1の比率と、第1ヒストグラムにおける各色特徴区間に対応する比率との差をそれぞれ計算して、合計16個の差を得ることができる。この16個の差を小さい順にソートし、上位3つの差を選択する。第1ヒストグラムにおける、上位3つの差に対応する色特徴区間がb1、b3、b10であるとすると、b1、b3、b10の中から、1つの色特徴区間を、第2ヒストグラムにおける色特徴区間b1にマッチするターゲット色特徴区間として決定する。
具体的に実施する際に、指定条件は、差が差閾値よりも小さいことであってもよい。即ち、第1ヒストグラムにおける、差閾値よりも小さい差に対応する色特徴区間を、第2ヒストグラムにおける、該差に対応する色特徴区間にマッチするターゲット色特徴区間として決定する。第2ヒストグラムにおける色特徴区間b1を例として、第2ヒストグラムにおける色特徴区間b1の比率と、第1ヒストグラムにおける色特徴区間b4の比率との差が差閾値よりも小さくて、第2ヒストグラムにおける色特徴区間b1の比率と、第1ヒストグラムにおける色特徴区間b2の比率との差が差閾値よりも小さい場合、色特徴区間b2とb4の中から、1つの色特徴区間を第2ヒストグラムにおける色特徴区間b1にマッチするターゲット色特徴区間として決定する。
上記の実施形態で提供される画像処理方法は、第1ヒストグラムと第2ヒストグラムにおける各色特徴区間の比率の差に基づいて、第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間を簡単かつ効率的に決定することができ、アップサンプリング画像に現れるジャギーや色エッジノイズなどを顕著に弱め、アップサンプリング画像の品質及び表示効果を向上させ、画像の細部をより良く復元することができる。
さらに、第2ヒストグラムにおけるいずれか1つの色特徴区間について、指定条件を満たす差が1つだけ存在する場合、第1ヒストグラムにおける、指定条件を満たす該差に対応する色特徴区間を、該いずれか1つの色特徴区間にマッチするターゲット色特徴区間として決定し、所定条件を満たす少なくとも2つの差が存在する場合、第1ヒストグラムにおける、少なくとも2つの差のそれぞれに対応する色特徴区間を決定し、決定した少なくとも2つの色特徴区間の中から、該いずれか1つの色特徴区間とのレベル差が最小となる色特徴区間を選択して、該いずれか1つの色特徴区間にマッチするターゲット色特徴区間として決定する。
本願の実施例において、2つの色特徴区間の間のレベル差が小さいほど、この2つの色特徴区間で表される色特徴値が近いことを示す。階調値を例として、色特徴区間b1に対応する階調値範囲が0~15であり、色特徴区間b2に対応する階調値範囲が16~31であり、色特徴区間b16に対応する階調値範囲が240~255であり、明らかに、色特徴区間b1と色特徴区間b2との階調値がより近い。同一の画像において複数の色特徴区間の比率が同じである状況が存在する可能性があるため、第2ヒストグラムにおける1つの色特徴区間に対して、第1ヒストグラムにおいて複数の色特徴区間の比率が該第2ヒストグラムにおける該色特徴区間の比率と同じ又は近い可能性があるが、それと近い色特徴区間のみが所望の調整後のターゲット色特徴区間である。
第2ヒストグラムにおける色特徴区間b1を例として、第2ヒストグラムにおける色特徴区間b1の比率と、第1ヒストグラムにおける各色特徴区間に対応する比率との差をそれぞれ計算して、合計16個の差値d1,1、d1,2、…d1,i、…d1,16を得ることができる。ここで、d1,iは、第2ヒストグラムにおける色特徴区間b1の比率と、第2ヒストグラムにおける色特徴区間biの比率との差を表す。上記16個の差のうち、d1,2及びd1,5が指定条件を満たす場合、第1ヒストグラムにおける、第2ヒストグラムにおける色特徴区間b1にマッチする色特徴区間は、それぞれ、b2及びb5である。この場合、色特徴区間b2と色特徴区間b1とのレベル差が、色特徴区間b5と色特徴区間b1とのレベル差よりも小さく、即ち、色特徴区間b2に対応する色特徴値が、色特徴区間b1に対応する色特徴値とより近いため、第2ヒストグラムにおける色特徴区間b1にマッチするターゲット色特徴区間は、b2である。
さらに、上述したヒストグラムマッチングの発明構想に基づいて、マッチングの正確さを向上させるために、第1ヒストグラムと第2ヒストグラムで統計された色特徴値の分布状況に基づいて、いくつかのアルゴリズムで第1ヒストグラムと第2ヒストグラムにおける色特徴区間のマッピング関係を決定してもよい。マッピング関係に基づいて、第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間を決定することができる。
例えば、以下の式によって、第1ヒストグラムと第2ヒストグラムにおける色特徴区間のマッピング関係を決定することができる。
Figure 2022550565000002
ここで、MINは、最小値を求める関数であり、Indexは、関数MINの出力する最小値に対応する色特徴区間bjを取得する関数であり、iは、第2ヒストグラムV2におけるi番目の色特徴区間biを表し、V2[i]は、第2ヒストグラムV2におけるi番目の色特徴区間biの比率を表し、V1[j]は、第1ヒストグラムV1におけるj番目の色特徴区間bjの比率を表し、1≦j≦nであり、nは、色特徴区間の総数である。ここで、a=MSE/618であり、平均二乗誤差
Figure 2022550565000003
であり、パラメータaは、第1ヒストグラムと第2ヒストグラムとの色特徴区間の比率の全体的なずれ状況を示すことができ、パラメータc=|j-i|は、第1ヒストグラムにおける色特徴区間jと、第2ヒストグラムにおける色特徴区間iとのレベル差を示し、パラメータcを増加させることは、第2ヒストグラムにおける色特徴区間iに近い色特徴区間がヒットされる確率を向上させることができる。F(i)は、即ち、第2ヒストグラムV2におけるi番目の色特徴区間biにマッチするターゲット色特徴区間に対応するインデックス番号である。例えば、F(i)=kである場合、第2ヒストグラムV2におけるi番目の色特徴区間biにマッチするターゲット色特徴区間は、bkである。
実際の応用において、マッピング関係F(i)は、上記に列挙された式に限定されず、パラメータa及びcも、上記に列挙された方式に限定されない。例えば、マッピング関係は、
Figure 2022550565000004
であってもよく、又は、
Figure 2022550565000005
であってもよい。
ここで、MAXは、最大値を求める関数であり、F(i)≧1を保証する。
上記の実施形態で提供される画像処理方法では、第1ヒストグラムと第2ヒストグラムにおける各色特徴区間の比率の差を基に、色特徴区間の間のレベル差を参照して、第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間を決定し、マッチングの正確さをさらに向上させる。
他の可能な実施形態では、原画像の第1ヒストグラムと、アップサンプリング画像の第2ヒストグラムとに基づいて、第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間を計算してもよい。ここで、第1ヒストグラムで統計されるのは、原画像における、色特徴値が各色特徴区間内にある画素点の数であり、第2ヒストグラムで統計されるのは、アップサンプリング画像における、色特徴値が各色特徴区間内にある画素点の数である。
これに基づいて、図4を参照すると、ステップS203は、以下のステップを含んでもよい。
S401では、第1ヒストグラムに基づいて、原画像における画素点の色特徴区間に対応する第1平均値及び第1分散を決定し、第2ヒストグラムに基づいて、アップサンプリング画像における画素点の色特徴区間に対応する第2平均値及び第2分散を決定する。
具体的に実施する際に、第1平均値
Figure 2022550565000006
であり、第1分散
Figure 2022550565000007
であり、第2平均値
Figure 2022550565000008
であり、第1分散
Figure 2022550565000009
である。ここで、nは、色特徴区間の総数であり、V1[i]は、第1ヒストグラムV1におけるi番目の色特徴区間biの比率を表し、V2[i]は、第2ヒストグラムV2におけるi番目の色特徴区間biの比率を表す。
S402では、第1平均値、第1分散、第2平均値、及び第2分散に基づいて、第1ヒストグラムにおける色特徴区間と、第2ヒストグラムにおける色特徴区間との第1マッピング関係を決定する。
具体的に実施する際に、第1マッピング関係は、
F(i)=round(α(i-E2)+E1)であってもよい。
ここで、α=D2/D1であり、roundは、四捨五入して整数を求める関数であり、V2(i)は、第2のヒストグラムにおける、色特徴区間bi内にある画素点の数である。F(i)は、即ち、第2のヒストグラムV2におけるi番目の色特徴区間biにマッチするターゲット色特徴区間に対応するインデックス番号である。例えば、F(1)=2である場合、第2のヒストグラムV2における色特徴区間b1にマッチするターゲット色特徴区間は、b2である。
具体的に実施する際に、第1マッピング関係は、
F(i)=MID(round(α(i-E2)+E1),1,n)であってもよい。
ここで、α=D2/D1であり、MIDは、round(α(V2[i]-E2)+E1)、1、及びnという3つの数の中央値を求める関数であり、1≦F(i)≦nを保証し、roundは、四捨五入して整数を求める関数である。
S403では、第1マッピング関係に基づいて、第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間を決定する。
具体的に実施する際に、F(1)=2とすると、第2ヒストグラムV2における色特徴区間b1にマッチするターゲット色特徴区間は、b2であり、F(2)=4とすると、第2ヒストグラムV2における色特徴区間b2にマッチするターゲット色特徴区間は、b4であり、このように類推して、第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間が取得される。
上記の実施形態で提供される画像処理方法は、直接的に、第1ヒストグラムと第2ヒストグラムにおける各色特徴区間の比率に基づいて、第1ヒストグラムと第2ヒストグラムにおける各色特徴区間のマッピング関係を計算し、マッピング関係に基づいて、第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間を決定し、処理方式が簡単かつ効率的である。
上記のいずれか1つの実施形態を基にして、ステップS204は、具体的に、各色特徴区間それぞれが1つの色特徴値に対応する場合、アップサンプリング画像における各色特徴区間にある画素点の色特徴値を、各色特徴区間にマッチするターゲット色特徴区間に対応する色特徴値にそれぞれ調整することにより、ターゲット画像を取得するステップを含む。
色特徴が画素点の階調である場合を例として説明する。階調値の範囲が0~255であるとすると、各階調値それぞれを1つの色特徴区間とし、即ち、合計256個の階調区間b1~b256を得ることができる。即ち、各階調区間それぞれは、1つの階調値に対応する。仮に、第2ヒストグラムにおける階調区間b1にマッチするターゲット階調区間がb2であるとすると、アップサンプリング画像における階調区間b1にある画素点の階調値0を、ターゲット階調区間b2に対応する階調値1に変更し、第2ヒストグラムにおける階調区間b2にマッチするターゲット階調区間がb2であるとすると、アップサンプリング画像における階調区間b2にある画素点の階調値を調整する必要がない。
上記のいずれか1つの実施形態を基にして、ステップS204は、具体的に、各色特徴区間それぞれが1つの色特徴値範囲に対応する場合、第2ヒストグラムにおける各色特徴区間に対応する色特徴値範囲と、各色特徴区間にマッチするターゲット色特徴区間に対応する色特徴値範囲との第2マッピング関係をそれぞれ決定し、アップサンプリング画像における各色特徴区間にある画素点の色特徴値を、第2マッピング関係に基づいて決定した色特徴値に調整するステップを含む。
色特徴が画素点の階調である場合を例として説明する。階調値の範囲が0~255であるとすると、0~255の階調値の範囲を複数の16個の領域に分割して、各領域それぞれを1つの色特徴区間とし、例えば、0~15を1つの色特徴区間とし、16~31を1つの色特徴区間とし、このように類推して、合計16個の色特徴区間b1~b16を得ることができる。第2ヒストグラムにおける階調区間b1にマッチするターゲット階調区間は、b2であり、階調区間b1の色特徴範囲は、0~15であり、ターゲット階調区間b2の色特徴値範囲は、16~31であり、両者間の第2マッピング関係は、0→16、1→17、…、15→31である。このため、第2ヒストグラムにおける階調区間b1における階調値が0である画素点の階調値を16に調整し、第2ヒストグラムにおける階調区間b1における階調値が1である画素点の階調値を17に調整し、このように類推する。
図5を参照する。図5は、1枚のアップサンプリング画像、及び本願の実施例で提供される画像処理方法によって取得された、該アップサンプリング画像に対応するターゲット画像である。図5における処理前後の2枚の画像の比較から分かるように、アップサンプリング画像に比べて、本願の実施例で提供される画像処理方法によって取得されたターゲット画像には、顕著なジャギー及び色エッジノイズが現れることなく、ターゲット画像の品質及び表示効果が元のアップサンプリング図形よりも優れ、画像の細部をより良く復元することが可能である。
図6に示すように、上記の画像処理方法と同じ発明構想に基づき、本願の実施例は、第1統計モジュール601と、第2統計モジュール602と、マッチングモジュール603と、処理モジュール604とを含む画像処理装置60をさらに提供する。
第1統計モジュール601は、原画像における、色特徴値が各色特徴区間内にある画素点の数に基づいて、原画像に対応する第1ヒストグラムを取得する。
第2統計モジュール602は、原画像のアップサンプリング画像における、色特徴値が各色特徴区間内にある画素点の数に基づいて、アップサンプリング画像に対応する第2ヒストグラムを取得する。
マッチングモジュール603は、第1ヒストグラムと第2ヒストグラムとに基づいて、第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間をそれぞれ決定する。
処理モジュール604は、第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間に基づいて、アップサンプリング画像における各色特徴区間にある画素点の色特徴値を処理することにより、ターゲット画像を取得する。
任意選択的に、マッチングモジュール603は、具体的に、第2ヒストグラムにおけるいずれか1つの色特徴区間について、第1ヒストグラムにおける各色特徴区間に対応する比率と、いずれか1つの色特徴区間に対応する比率との差を決定し、第1ヒストグラムにおける、指定条件を満たす差に対応する色特徴区間の中から、いずれか1つの色特徴区間にマッチするターゲット色特徴区間を決定し、第1ヒストグラムにおける各色特徴区間に対応する比率は、原画像における、色特徴値が対応の色特徴区間内にある画素点の数と、原画像に含まれる画素点の総数との比率であり、第2ヒストグラムにおける各色特徴区間に対応する比率は、アップサンプリング画像における、色特徴値が対応の色特徴区間内にある画素点の数と、アップサンプリング画像に含まれる画素点の総数との比率である。
任意選択的に、マッチングモジュール603は、具体的に、指定条件を満たす少なくとも2つの差が存在する場合、第1ヒストグラムにおける、少なくとも2つの差のそれぞれに対応する色特徴区間を決定し、決定した少なくとも2つの色特徴区間の中から、いずれか1つの色特徴区間とのレベル差が最小となる色特徴区間を選択して、いずれか1つの色特徴区間にマッチするターゲット色特徴区間として決定する。
任意選択的に、マッチングモジュール603は、具体的に、
第1ヒストグラムに基づいて、原画像における画素点の色特徴区間に対応する第1平均値及び第1分散を決定し、
第2ヒストグラムに基づいて、アップサンプリング画像における画素点の色特徴区間に対応する第2平均値及び第2分散を決定し、
第1平均値、第1分散、第2平均値、及び第2分散に基づいて、第1ヒストグラムにおける色特徴区間と、第2ヒストグラムにおける色特徴区間との第1マッピング関係を決定し、
第1マッピング関係に基づいて、第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間を決定する。
任意選択的に、処理モジュール604は、具体的に、
各色特徴区間それぞれが1つの色特徴値に対応する場合、アップサンプリング画像における各色特徴区間にある画素点の色特徴値を、各色特徴区間にマッチするターゲット色特徴区間に対応する色特徴値にそれぞれ調整することにより、ターゲット画像を取得し、
各色特徴区間それぞれが1つの色特徴値範囲に対応する場合、第2ヒストグラムにおける各色特徴区間に対応する色特徴値範囲と、各色特徴区間にマッチするターゲット色特徴区間に対応する色特徴値範囲との第2マッピング関係をそれぞれ決定し、アップサンプリング画像における各色特徴区間にある画素点の色特徴値を、第2マッピング関係に基づいて決定した色特徴値に調整する。
任意選択的に、色特徴値は、画素点の階調値、画素点の輝度値、画素点の色値の少なくとも1つを含む。
本願の実施例で提供される画像処理装置は、上記の画像処理方法とは、同じ発明構想を採用し、同じ有益な効果を取得することができる。ここでは、これ以上の説明を省略する。
上記の画像処理方法と同じ発明構想に基づき、本願の実施例は、電子機器をさらに提供する。該電子機器は、具体的に、図1A、図1bにおける端末機器又はサーバなどであってもよい。図7に示すように、該電子機器70は、プロセッサ701と、メモリ702とを備えてもよい。メモリ702には、コンピュータ可読命令が記憶され、コンピュータ可読命令は、プロセッサ701によって実行されると、プロセッサ701に上記画像処理方法のステップを実行させる。ここで、画像処理方法のステップは、上述した各実施例の画像処理方法におけるステップであってもよい。
プロセッサ701は、汎用プロセッサ、例えば、中央処理装置(CPU)、デジタルシグナルプロセッサ(DSP:Digital Signal Processor)、特定用途向け集積回路(ASIC:Application Specific Integrated Circuit)、フィールドプログラマブルゲートアレイ(FPGA:Field Programmable Gate Array)又は他のプログラマブル論理デバイス、ディスクリートゲート又はトランジスタ論理デバイス、ディスクリートハードウェアコンポーネントであってもよく、本願の実施例に開示された各方法、ステップ、及び論理ブロック図を実現又は実行することができる。汎用プロセッサは、マイクロプロセッサや一般的な任意のプロセッサなどとしてもよい。本願の実施例と結び付けて開示された方法のステップは、ハードウェアプロセッサによって実行されるように直接的に具現化してもよく、又は、プロセッサにおけるハードウェアとソフトウェアモジュールとの組み合わせによって実行されてもよい。
メモリ702は、不揮発性コンピュータ可読記憶媒体として、不揮発性ソフトウェアプログラム、不揮発性コンピュータ実行可能プログラム、及びモジュールを記憶するために用いられてもよい。メモリは、少なくとも1つのタイプの記憶媒体を含むことができ、例えば、フラッシュメモリ、ハードディスク、マルチメディアカード、カード型メモリ、ランダムアクセスメモリ(RAM:Random Access Memory)、スタティックランダムアクセスメモリ(SRAM:Static Random Access Memory)、プログラマブル読み出し専用メモリ(PROM:Programmable Read Only Memory)、読み出し専用メモリ(ROM:Read Only Memory)、電気的に消去可能なプログラマブル読み出し専用メモリ(EEPROM:Electrically Erasable Programmable Read-Only Memory)、磁気メモリ、磁気ディスク、光ディスクなどを含んでもよい。メモリは、命令又はデータ構造の形態の所望のプログラムコードを搬送又は記憶するために使用することができ、コンピュータによってアクセス可能な任意の他の媒体であるが、これに限定されない。本願の実施例におけるメモリ702は、回路、又は記憶機能を実現可能な他の任意の装置であってもよく、プログラム命令及び/又はデータを記憶するために用いられる。
本願の実施例では、コンピュータ可読記憶媒体が提供されている。このコンピュータ可読記憶媒体は、上記電子機器に用いられるコンピュータ可読命令を記憶するために用いられ、コンピュータ可読命令が、プロセッサによって実行されると、プロセッサに上記の画像処理方法のステップを実行させる。
一実施例では、コンピュータ可読記憶媒体に記憶されたコンピュータ可読命令を含むコンピュータプログラム製品又はコンピュータ可読命令が提供されている。コンピュータ機器のプロセッサは、コンピュータ可読記憶媒体から、該コンピュータ可読命令を読み取る。プロセッサは、該コンピュータ可読命令を実行することにより、該コンピュータ機器に上記の各方法の実施例におけるステップを実行させる。
上記コンピュータ可読記憶媒体は、コンピュータがアクセス可能な任意の利用可能な媒体又はデータ記憶機器であってもよく、磁気メモリ(例えば、フロッピーディスク、ハードディスク、磁気テープ、光磁気ディスク(MO)など)、光学メモリ(例えば、CD、DVD、BD、HVDなど)、及び半導体メモリ(例えば、ROM、EPROM、EEPROM、不揮発性メモリ(NAND FLASH)、ソリッドステートディスク(SSD))などを含むが、これらに限定されない。
上記のように、上記の実施例は、本願の構成を詳細に説明するためのものに過ぎないが、上記の実施例の説明は、単に本願の実施例の方法の理解を助けるためのものであり、本願の実施例を限定するものと理解すべきではない。当業者であれば容易に想到できる変更又は置換えは、いずれも本願の実施例の保護範囲内に含まれるべきである。
101-1 端末機器
101-2 端末機器
101-n 端末機器
102 バックグラウンドサーバ
111 端末機器
60 画像処理装置
70 電子機器
601 第1統計モジュール
602 第2統計モジュール
603 マッチングモジュール
604 処理モジュール
701 プロセッサ
702 メモリ
CIELabとは、CIEの1つの色システム、表色系である。CIELabに基づくことは、この色システムに基づくことを意味し、基本的に、ある色の数値情報を決定するために用いられる。Labモードは、1976年に国際照明委員会(CIE)によって公布された色モードであり、CIE組織が決定した、理論的に人間の目で見える全ての色を含む色モードである。Labモードは、RGBとCMYKという2つの色モードの不足を補い、Photoshopでは、ある色モードから他の色モードに切り替えるときに使用される内部色モードである。Labモードも、3つのチャネルで構成される。1つ目のチャネルは、明度、即ち「L」である。aチャネルの色は、赤色から深緑色であり、bチャネルの色は、青色から黄色である。表現される色範囲について、最も広いのはLabモードであり、次はRGBモードであり、最も狭いのはCMYKモードである。つまり、Labモードは、定義される色が最も多く、光線及び機器とは関係ないとともに、処理速度が、RGBモードと同様に速く、CMYKモードよりも数倍速い。
色特徴区間とは、色特徴に対応する色特徴値の範囲を分割して得られた複数の区間範囲である。本願において、色特徴は、画素点の階調、輝度、色などの、画素点の色特徴を示すデータであってもよい。例えば、色特徴が画素点の階調であり、階調値の範囲が0~255である場合、0~255の階調値の範囲を複数の区間範囲に分割して、各区間範囲それぞれを1つの色特徴区間としてもよい。例えば、0~15を1つの色特徴区間とし、16~31を1つの色特徴区間とし、このように類推して、合計16個の連続的な色特徴区間b1~b16を得ることができる。説明を容易にするために、色特徴区間biのレベルをiと記してもよい。
アップサンプリング(upsampling)とは、画像超解像(Image Super Resolution)であってもよく、画像を高解像度の応用の場合に適応させ、又は、原画像から失われた細部を復元することができるように、画像の解像度を向上させ、即ち、画像の画素点の数を増加することを目的とする。実際の適用では、画像補間(interpolating)、又は深層学習に基づくアルゴリズムによって、画像に対してアップサンプリング処理を行うことができる。一般的な補間アルゴリズムは、最近傍補間、双線形補間、バイキュービック補間、平均値補間、中央値補間などの方法がある。
通常、高解像度の画像を取得する必要がある場合、原画像をアップサンプリングすることにより、原画像におけるより多くの細部を復元又は再構成し、さらに、より高い解像度の表示機器に表示してもよい。又は、ニューラルネットワークを利用して画像を処理する際に、入力画像の解像度がニューラルネットワークの入力サイズに適することを保証するために、通常、まず入力画像をサブサンプリングしてからニューラルネットワークに入力し、次に、ニューラルネットワークの出力画像をアップサンプリングすることにより、出力画像の解像度を元の解像度に復元する。ニューラルネットワークにおいても、少なくとも1つのサブサンプリングネットワーク層を設け、処理過程において画像の解像度を低下させることにより処理効率を向上させ、少なくとも1つのアップサンプリングネットワーク層を設けることにより、サブサンプリング画像の解像度を復元するようにしてもよい。
図1Aを参照する。図1Aは、本願の実施例で提供される画像処理方法の応用シナリオの模式図である。この応用シナリオは、端末機器101-1、端末機器101-2、…、端末機器101-nを含む複数の端末機器と、バックグラウンドサーバ102とを含む。ここで、各端末機器とバックグラウンドサーバ102とは、無線又は有線のネットワークを介して接続され、端末機器は、デスクトップコンピュータ、スマートフォン、モバイルコンピュータ、タブレットコンピュータ、メディアプレーヤ、スマートウェアラブルデバイス、テレビ、監視カメラなどを含むが、これらに限定されない。バックグラウンドサーバは、1台のサーバ、複数台のサーバで構成されるサーバクラスタ、又はクラウドコンピューティングセンタであってもよい。端末機器は、画像又はビデオをバックグラウンドサーバ102にアップロードしたり、バックグラウンドサーバ102から画像又はビデオを取得したりすることができる。画像又はビデオを収集又は伝送する過程において、限られた帯域幅を効率的に利用するために、低解像度の画像又はビデオを伝送し、次に、受信側で低解像度の画像又はビデオを高解像度の画像又はビデオに変換するようにしてもよい。端末機器又はバックグラウンドサーバ102は、いずれも、画像又はビデオをアップサンプリングする際に、本願で提供される画像処理方法を参照して、アップサンプリング後の画像に対して強化処理を行うことができる。具体的な応用シナリオは、ビデオ生放送、ビデオ伝送、画像伝送などに限定されない。
図1Bを参照する。図1Bは、本願の実施例で提供される画像処理方法の応用シナリオの模式図である。ここで、端末機器111には、画像処理アプリケーションがインストールされ、該画像処理アプリケーションには、本願で提供される画像処理方法に対応するソフトウェア機能モジュールが埋め込まれる。ユーザが端末機器111内の画像処理アプリケーションを使用して原画像に対応する高解像度の画像(即ち、アップサンプリング画像)を取得する際に、本願で提供される画像処理方法により、原画像のヒストグラムと、アップサンプリング画像のヒストグラムとに基づいて、アップサンプリング画像を処理することにより、高解像度の画像を取得することができる。例えば、圧縮された画像又はビデオ、汚損された写真、解像度の低い監視ビデオ又は写真などに対して、上記画像処理アプリケーションによって画像を復元及び再構成することができる。端末機器111は、デスクトップコンピュータ、モバイルコンピュータ、タブレットコンピュータ、スマートフォンなどの、画像処理アプリケーションを実行可能な機器を含むが、これらに限定されない。
本願で提供される画像処理方法は、ニューラルネットワークに適用することもできる。例えば、図1Cを参照すると、ニューラルネットワークを利用して画像を処理する際に、入力画像の解像度がニューラルネットワークの入力サイズに適することを保証するために、通常、まず入力画像をサブサンプリングしてからニューラルネットワークに入力し、次に、ニューラルネットワークの出力画像をアップサンプリングすることにより、出力画像の解像度を入力画像の解像度に復元する。ターゲット画像の品質及び表示効果を向上させるために、本願で提供される画像処理方法を利用して、アップサンプリング画像に対して強化処理を行うことにより、ターゲット画像を取得してもよい。また、図1Dを参照すると、ニューラルネットワークは、少なくとも1回のサブサンプリング処理をさらに含んでもよく、処理過程において画像の解像度を低下させることにより処理効率を向上させるとともに、少なくとも1回のアップサンプリング処理により、画像の解像度を復元する。この場合、本願で提供される画像処理方法を利用してアップサンプリング処理後の画像を処理するために、アップサンプリングネットワーク層の後に1つの強化処理層を追加してもよい。これにより、アップサンプリング画像の品質を向上させ、処理後の画像を次のネットワーク層に入力して処理する。
第2ヒストグラムにおける色特徴区間b1を例として、第2ヒストグラムにおける色特徴区間b1の比率と、第1ヒストグラムにおける各色特徴区間に対応する比率との差をそれぞれ計算して、合計16個の差値d1,1、d1,2、…d1,i、…d1,16を得ることができる。ここで、d1,iは、第2ヒストグラムにおける色特徴区間b1の比率と、第ヒストグラムにおける色特徴区間biの比率との差を表す。上記16個の差のうち、d1,2及びd1,5が指定条件を満たす場合、第1ヒストグラムにおける、第2ヒストグラムにおける色特徴区間b1にマッチする色特徴区間は、それぞれ、b2及びb5である。この場合、色特徴区間b2と色特徴区間b1とのレベル差が、色特徴区間b5と色特徴区間b1とのレベル差よりも小さく、即ち、色特徴区間b2に対応する色特徴値が、色特徴区間b1に対応する色特徴値とより近いため、第2ヒストグラムにおける色特徴区間b1にマッチするターゲット色特徴区間は、b2である。
具体的に実施する際に、第1平均値
Figure 2022550565000020
であり、第1分散
Figure 2022550565000021
であり、第2平均値
Figure 2022550565000022
であり、第分散
Figure 2022550565000023
である。ここで、nは、色特徴区間の総数であり、V1[i]は、第1ヒストグラムV1におけるi番目の色特徴区間biの比率を表し、V2[i]は、第2ヒストグラムV2におけるi番目の色特徴区間biの比率を表す。
ここで、α=D2/D1であり、roundは、四捨五入して整数を求める関数であり、V2(i)は、第2のヒストグラムにおける、色特徴値が色特徴区間bi内にある画素点の数である。F(i)は、即ち、第2のヒストグラムV2におけるi番目の色特徴区間biにマッチするターゲット色特徴区間に対応するインデックス番号である。例えば、F(1)=2である場合、第2のヒストグラムV2における色特徴区間b1にマッチするターゲット色特徴区間は、b2である。
色特徴が画素点の階調である場合を例として説明する。階調値の範囲が0~255であるとすると、0~255の階調値の範囲を16個の領域に分割して、各領域それぞれを1つの色特徴区間とし、例えば、0~15を1つの色特徴区間とし、16~31を1つの色特徴区間とし、このように類推して、合計16個の色特徴区間b1~b16を得ることができる。第2ヒストグラムにおける階調区間b1にマッチするターゲット階調区間は、b2であり、階調区間b1の色特徴範囲は、0~15であり、ターゲット階調区間b2の色特徴値範囲は、16~31であり、両者間の第2マッピング関係は、0→16、1→17、…、15→31である。このため、第2ヒストグラムにおける階調区間b1における階調値が0である画素点の階調値を16に調整し、第2ヒストグラムにおける階調区間b1における階調値が1である画素点の階調値を17に調整し、このように類推する。
図5を参照する。図5は、1枚のアップサンプリング画像、及び本願の実施例で提供される画像処理方法によって取得された、該アップサンプリング画像に対応するターゲット画像である。図5における処理前後の2枚の画像の比較から分かるように、アップサンプリング画像に比べて、本願の実施例で提供される画像処理方法によって取得されたターゲット画像には、顕著なジャギー及び色エッジノイズが現れることなく、ターゲット画像の品質及び表示効果が元のアップサンプリング画像よりも優れ、画像の細部をより良く復元することが可能である。

Claims (20)

  1. 電子機器が実行する画像処理方法であって、
    原画像における、色特徴値が各色特徴区間内にある画素点の数に基づいて、前記原画像に対応する第1ヒストグラムを取得するステップと、
    前記原画像のアップサンプリング画像における、色特徴値が前記各色特徴区間内にある画素点の数に基づいて、前記アップサンプリング画像に対応する第2ヒストグラムを取得するステップと、
    前記第1ヒストグラムと前記第2ヒストグラムとに基づいて、前記第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間をそれぞれ決定するステップと、
    前記第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間に基づいて、前記アップサンプリング画像における前記各色特徴区間にある画素点の色特徴値を処理することにより、ターゲット画像を取得するステップと、
    を含む方法。
  2. 前記第1ヒストグラムと前記第2ヒストグラムとに基づいて、前記第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間をそれぞれ決定する前記ステップは、
    前記第2ヒストグラムにおけるいずれか1つの色特徴区間について、前記第1ヒストグラムにおける各色特徴区間に対応する比率と、前記いずれか1つの色特徴区間に対応する比率との差を決定し、前記第1ヒストグラムにおける、指定条件を満たす差に対応する色特徴区間の中から、前記いずれか1つの色特徴区間にマッチするターゲット色特徴区間を決定するステップを含み、前記第1ヒストグラムにおける各色特徴区間に対応する比率は、前記原画像における、色特徴値が対応の色特徴区間内にある画素点の数と、前記原画像に含まれる画素点の総数との比率であり、前記第2ヒストグラムにおける各色特徴区間に対応する比率は、前記アップサンプリング画像における、色特徴値が対応の色特徴区間内にある画素点の数と、前記アップサンプリング画像に含まれる画素点の総数との比率である、
    請求項1に記載の方法。
  3. 前記指定条件を満たす少なくとも2つの差が存在する場合、前記第1ヒストグラムにおける、指定条件を満たす差に対応する色特徴区間の中から、前記いずれか1つの色特徴区間にマッチするターゲット色特徴区間を決定する前記ステップは、
    前記第1ヒストグラムにおける、前記少なくとも2つの差のそれぞれに対応する色特徴区間を決定するステップと、
    決定した少なくとも2つの色特徴区間の中から、前記いずれか1つの色特徴区間とのレベル差が最小となる色特徴区間を選択して、前記いずれか1つの色特徴区間にマッチするターゲット色特徴区間として決定するステップと、を含む、
    請求項2に記載の方法。
  4. 前記指定条件を満たす差が1つだけ存在する場合、前記第1ヒストグラムにおける、指定条件を満たす差に対応する色特徴区間の中から、前記いずれか1つの色特徴区間にマッチするターゲット色特徴区間を決定する前記ステップは、
    第1ヒストグラムにおける、前記指定条件を満たす前記差に対応する色特徴区間を、前記いずれか1つの色特徴区間にマッチするターゲット色特徴区間として決定するステップを含む、
    請求項2に記載の方法。
  5. 前記第1ヒストグラムと前記第2ヒストグラムとに基づいて、前記第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間をそれぞれ決定する前記ステップは、
    前記第1ヒストグラムに基づいて、前記原画像における画素点の色特徴区間に対応する第1平均値及び第1分散を決定するステップと、
    前記第2ヒストグラムに基づいて、前記アップサンプリング画像における画素点の色特徴区間に対応する第2平均値及び第2分散を決定するステップと、
    前記第1平均値、前記第1分散、前記第2平均値、及び前記第2分散に基づいて、前記第1ヒストグラムにおける色特徴区間と、前記第2ヒストグラムにおける色特徴区間との第1マッピング関係を決定するステップと、
    前記第1マッピング関係に基づいて、前記第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間を決定するステップと、を含む、
    請求項1に記載の方法。
  6. 前記第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間に基づいて、前記アップサンプリング画像における前記各色特徴区間にある画素点の色特徴値を処理することにより、ターゲット画像を取得する前記ステップは、
    各色特徴区間それぞれが1つの色特徴値に対応する場合、前記アップサンプリング画像における前記各色特徴区間にある画素点の色特徴値を、前記各色特徴区間にマッチするターゲット色特徴区間に対応する色特徴値にそれぞれ調整することにより、ターゲット画像を取得するステップと、
    各色特徴区間それぞれが1つの色特徴値範囲に対応する場合、前記第2ヒストグラムにおける各色特徴区間に対応する色特徴値範囲と、各色特徴区間にマッチするターゲット色特徴区間に対応する色特徴値範囲との第2マッピング関係をそれぞれ決定し、前記アップサンプリング画像における前記各色特徴区間にある画素点の色特徴値を、前記第2マッピング関係に基づいて決定した色特徴値に調整するステップと、を含む、
    請求項1乃至5のいずれか1項に記載の方法。
  7. 前記色特徴値は、画素点の階調値、画素点の輝度値、画素点の色値の少なくとも1つを含む、請求項1乃至5のいずれか1項に記載の方法。
  8. 画像処理装置であって、
    原画像における、色特徴値が各色特徴区間内にある画素点の数に基づいて、前記原画像に対応する第1ヒストグラムを取得する第1統計モジュールと、
    前記原画像のアップサンプリング画像における、色特徴値が前記各色特徴区間内にある画素点の数に基づいて、前記アップサンプリング画像に対応する第2ヒストグラムを取得する第2統計モジュールと、
    前記第1ヒストグラムと前記第2ヒストグラムとに基づいて、前記第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間をそれぞれ決定するマッチングモジュールと、
    前記第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間に基づいて、前記アップサンプリング画像における前記各色特徴区間にある画素点の色特徴値を処理することにより、ターゲット画像を取得する処理モジュールと、
    を含む装置。
  9. 前記マッチングモジュールは、具体的に、前記第2ヒストグラムにおけるいずれか1つの色特徴区間について、前記第1ヒストグラムにおける各色特徴区間に対応する比率と、前記いずれか1つの色特徴区間に対応する比率との差を決定し、前記第1ヒストグラムにおける、指定条件を満たす差に対応する色特徴区間の中から、前記いずれか1つの色特徴区間にマッチするターゲット色特徴区間を決定し、前記第1ヒストグラムにおける各色特徴区間に対応する比率は、前記原画像における、色特徴値が対応の色特徴区間内にある画素点の数と、前記原画像に含まれる画素点の総数との比率であり、前記第2ヒストグラムにおける各色特徴区間に対応する比率は、前記アップサンプリング画像における、色特徴値が対応の色特徴区間内にある画素点の数と、前記アップサンプリング画像に含まれる画素点の総数との比率である、請求項8に記載の装置。
  10. 前記マッチングモジュールは、具体的に、前記指定条件を満たす少なくとも2つの差が存在する場合、前記第1ヒストグラムにおける、前記少なくとも2つの差のそれぞれに対応する色特徴区間を決定し、決定した少なくとも2つの色特徴区間の中から、前記いずれか1つの色特徴区間とのレベル差が最小となる色特徴区間を選択して、前記いずれか1つの色特徴区間にマッチするターゲット色特徴区間として決定する、請求項9に記載の装置。
  11. 前記マッチングモジュールは、具体的に、前記指定条件を満たす差が1つだけ存在する場合、第1ヒストグラムにおける、前記指定条件を満たす前記差に対応する色特徴区間を、前記いずれか1つの色特徴区間にマッチするターゲット色特徴区間として決定する、請求項9に記載の装置。
  12. 前記マッチングモジュールは、具体的に、
    前記第1ヒストグラムに基づいて、前記原画像における画素点の色特徴区間に対応する第1平均値及び第1分散を決定し、
    前記第2ヒストグラムに基づいて、前記アップサンプリング画像における画素点の色特徴区間に対応する第2平均値及び第2分散を決定し、
    前記第1平均値、前記第1分散、前記第2平均値、及び前記第2分散に基づいて、前記第1ヒストグラムにおける色特徴区間と、前記第2ヒストグラムにおける色特徴区間との第1マッピング関係を決定し、
    前記第1マッピング関係に基づいて、前記第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間を決定する、
    請求項8に記載の装置。
  13. 前記処理モジュールは、具体的に、
    各色特徴区間それぞれが1つの色特徴値に対応する場合、前記アップサンプリング画像における前記各色特徴区間にある画素点の色特徴値を、前記各色特徴区間にマッチするターゲット色特徴区間に対応する色特徴値にそれぞれ調整することにより、ターゲット画像を取得し、
    各色特徴区間それぞれが1つの色特徴値範囲に対応する場合、前記第2ヒストグラムにおける各色特徴区間に対応する色特徴値範囲と、各色特徴区間にマッチするターゲット色特徴区間に対応する色特徴値範囲との第2マッピング関係をそれぞれ決定し、前記アップサンプリング画像における前記各色特徴区間にある画素点の色特徴値を、前記第2マッピング関係に基づいて決定した色特徴値に調整する、
    請求項8乃至12のいずれか1項に記載の装置。
  14. 前記色特徴値は、画素点の階調値、画素点の輝度値、画素点の色値の少なくとも1つを含む、請求項8乃至12に記載のいずれか1項に記載の装置。
  15. メモリと、1つ又は複数のプロセッサとを備える電子機器であって、メモリには、コンピュータ可読命令が記憶され、コンピュータ可読命令は、プロセッサによって実行されると、1つ又は複数のプロセッサに、
    原画像における、色特徴値が各色特徴区間内にある画素点の数に基づいて、前記原画像に対応する第1ヒストグラムを取得するステップと、
    前記原画像のアップサンプリング画像における、色特徴値が前記各色特徴区間内にある画素点の数に基づいて、前記アップサンプリング画像に対応する第2ヒストグラムを取得するステップと、
    前記第1ヒストグラムと前記第2ヒストグラムとに基づいて、前記第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間をそれぞれ決定するステップと、
    前記第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間に基づいて、前記アップサンプリング画像における前記各色特徴区間にある画素点の色特徴値を処理することにより、ターゲット画像を取得するステップと、
    を実行させる電子機器。
  16. 前記コンピュータ可読命令は、プロセッサによって実行されると、1つ又は複数のプロセッサに、
    前記第2ヒストグラムにおけるいずれか1つの色特徴区間について、前記第1ヒストグラムにおける各色特徴区間に対応する比率と、前記いずれか1つの色特徴区間に対応する比率との差を決定し、前記第1ヒストグラムにおける、指定条件を満たす差に対応する色特徴区間の中から、前記いずれか1つの色特徴区間にマッチするターゲット色特徴区間を決定するステップをさらに実行させ、前記第1ヒストグラムにおける各色特徴区間に対応する比率は、前記原画像における、色特徴値が対応の色特徴区間内にある画素点の数と、前記原画像に含まれる画素点の総数との比率であり、前記第2ヒストグラムにおける各色特徴区間に対応する比率は、前記アップサンプリング画像における、色特徴値が対応の色特徴区間内にある画素点の数と、前記アップサンプリング画像に含まれる画素点の総数との比率である、
    請求項15に記載の電子機器。
  17. 前記コンピュータ可読命令は、プロセッサによって実行されると、1つ又は複数のプロセッサに、
    前記指定条件を満たす少なくとも2つの差が存在する場合、前記第1ヒストグラムにおける、前記少なくとも2つの差のそれぞれに対応する色特徴区間を決定するステップと、
    決定した少なくとも2つの色特徴区間の中から、前記いずれか1つの色特徴区間とのレベル差が最小となる色特徴区間を選択して、前記いずれか1つの色特徴区間にマッチするターゲット色特徴区間として決定するステップと、をさらに実行させる、
    請求項16に記載の電子機器。
  18. 前記コンピュータ可読命令は、プロセッサによって実行されると、1つ又は複数のプロセッサに、
    前記指定条件を満たす差が1つだけ存在する場合、第1ヒストグラムにおける、前記指定条件を満たす前記差に対応する色特徴区間を、前記いずれか1つの色特徴区間にマッチするターゲット色特徴区間として決定するステップをさらに実行させる、
    請求項16に記載の電子機器。
  19. 前記コンピュータ可読命令は、プロセッサによって実行されると、1つ又は複数のプロセッサに、
    前記第1ヒストグラムに基づいて、前記原画像における画素点の色特徴区間に対応する第1平均値及び第1分散を決定するステップと、
    前記第2ヒストグラムに基づいて、前記アップサンプリング画像における画素点の色特徴区間に対応する第2平均値及び第2分散を決定するステップと、
    前記第1平均値、前記第1分散、前記第2平均値、及び前記第2分散に基づいて、前記第1ヒストグラムにおける色特徴区間と、前記第2ヒストグラムにおける色特徴区間との第1マッピング関係を決定するステップと、
    前記第1マッピング関係に基づいて、前記第2ヒストグラムにおける各色特徴区間にマッチするターゲット色特徴区間を決定するステップと、をさらに実行させる、
    請求項15に記載の電子機器。
  20. コンピュータ可読命令を記憶した不揮発性記憶媒体であって、前記コンピュータ可読命令は、プロセッサによって実行されると、請求項1乃至7のいずれか1項に記載の方法を前記プロセッサに実行させる記憶媒体。
JP2022520267A 2020-01-14 2020-10-20 画像処理方法、画像処理装置、電子機器、及びコンピュータプログラム Pending JP2022550565A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN202010038997.5 2020-01-14
CN202010038997.5A CN111260593B (zh) 2020-01-14 2020-01-14 图像处理方法、装置、电子设备及存储介质
PCT/CN2020/122203 WO2021143241A1 (zh) 2020-01-14 2020-10-20 图像处理方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
JP2022550565A true JP2022550565A (ja) 2022-12-02

Family

ID=70945241

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022520267A Pending JP2022550565A (ja) 2020-01-14 2020-10-20 画像処理方法、画像処理装置、電子機器、及びコンピュータプログラム

Country Status (6)

Country Link
US (1) US20220138920A1 (ja)
EP (1) EP4024327A4 (ja)
JP (1) JP2022550565A (ja)
KR (1) KR102617626B1 (ja)
CN (1) CN111260593B (ja)
WO (1) WO2021143241A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111260593B (zh) * 2020-01-14 2023-03-14 腾讯科技(深圳)有限公司 图像处理方法、装置、电子设备及存储介质
CN113160038B (zh) * 2021-04-28 2024-03-26 北京达佳互联信息技术有限公司 一种图像风格迁移方法、装置、电子设备及存储介质
CN113129392B (zh) * 2021-05-17 2022-07-26 杭州万事利丝绸文化股份有限公司 一种颜色搭配方法及系统
CN113421209B (zh) * 2021-06-21 2022-12-30 安谋科技(中国)有限公司 图像处理方法、片上系统、电子设备和介质
CN113538280B (zh) * 2021-07-20 2022-03-04 江苏天汇空间信息研究院有限公司 基于矩阵二值化的遥感影像去除彩线和残缺影像拼接方法
CN113933294B (zh) * 2021-11-08 2023-07-18 中国联合网络通信集团有限公司 浓度检测方法及装置
CN115082703B (zh) * 2022-07-19 2022-11-11 深圳大学 概念关联颜色提取方法、装置、计算机设备和存储介质
CN116310448B (zh) * 2023-05-24 2023-08-04 山东曙岳车辆有限公司 基于计算机视觉的集装箱拼装匹配性检测方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008191884A (ja) * 2007-02-05 2008-08-21 Nippon Telegr & Teleph Corp <Ntt> 画像処理方法、画像処理装置、画像処理プログラム及びそのプログラムを記録したコンピュータ読み取り可能な記録媒体
CN107492070A (zh) * 2017-07-10 2017-12-19 华北电力大学 一种双通道卷积神经网络的单图像超分辨率计算方法

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2947082B1 (fr) * 2009-06-22 2014-12-12 St Ericsson France Sas Procede et dispositif de traitement d'une image numerique pour eclaircir ladite image.
CN103460243B (zh) * 2011-03-17 2016-08-17 杜比实验室特许公司 使用直方图产生图像内容的替代版本
CN103778900B (zh) * 2012-10-23 2016-04-20 浙江大华技术股份有限公司 一种图像处理方法及系统
US10521892B2 (en) * 2016-08-31 2019-12-31 Adobe Inc. Image lighting transfer via multi-dimensional histogram matching
EP3507773A1 (en) * 2016-09-02 2019-07-10 Artomatix Ltd. Systems and methods for providing convolutional neural network based image synthesis using stable and controllable parametric models, a multiscale synthesis framework and novel network architectures
CN108090887B (zh) * 2016-11-23 2020-09-04 杭州海康威视数字技术股份有限公司 一种视频图像处理方法及装置
CN109003249B (zh) * 2017-06-07 2022-04-26 展讯通信(天津)有限公司 增强图像细节的方法、装置及终端
JP2019016117A (ja) * 2017-07-05 2019-01-31 日本電信電話株式会社 画像調整装置、局所的コントラスト量計算装置、方法、及びプログラム
CN108924525B (zh) * 2018-06-06 2021-07-06 平安科技(深圳)有限公司 图像亮度调整方法、装置、计算机设备及存储介质
CN109064434B (zh) * 2018-06-28 2021-01-08 广州视源电子科技股份有限公司 图像增强的方法、装置、存储介质及计算机设备
CN108900819B (zh) * 2018-08-20 2020-09-15 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及电子设备
CN110049332A (zh) * 2019-04-11 2019-07-23 深圳市朗驰欣创科技股份有限公司 一种图像压缩方法、图像压缩装置及电子设备
CN111260593B (zh) * 2020-01-14 2023-03-14 腾讯科技(深圳)有限公司 图像处理方法、装置、电子设备及存储介质

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008191884A (ja) * 2007-02-05 2008-08-21 Nippon Telegr & Teleph Corp <Ntt> 画像処理方法、画像処理装置、画像処理プログラム及びそのプログラムを記録したコンピュータ読み取り可能な記録媒体
CN107492070A (zh) * 2017-07-10 2017-12-19 华北电力大学 一种双通道卷积神经网络的单图像超分辨率计算方法

Also Published As

Publication number Publication date
KR102617626B1 (ko) 2023-12-27
EP4024327A1 (en) 2022-07-06
CN111260593A (zh) 2020-06-09
WO2021143241A1 (zh) 2021-07-22
KR20220043158A (ko) 2022-04-05
CN111260593B (zh) 2023-03-14
EP4024327A4 (en) 2023-01-04
US20220138920A1 (en) 2022-05-05

Similar Documents

Publication Publication Date Title
JP2022550565A (ja) 画像処理方法、画像処理装置、電子機器、及びコンピュータプログラム
RU2740034C1 (ru) Линейный кодер для обработки изображений/видео
CN106095351B (zh) 改进不同显示能力之间基于感知照度非线性的图像数据交换的装置和方法
CN109274985B (zh) 视频转码方法、装置、计算机设备和存储介质
US11030729B2 (en) Image processing method and apparatus for adjusting a dynamic range of an image
CN111163268B (zh) 一种图像处理方法、装置以及计算机存储介质
EP3113496A1 (en) Method and device for encoding both a hdr picture and a sdr picture obtained from said hdr picture using color mapping functions
JP2018507620A (ja) カラー・ピクチャを復号する方法および装置
CN111724316B (zh) 处理高动态范围图像的方法和装置
US8331695B1 (en) Integrated circuit having a circuit for and method of updating parameters associated with a background estimation portion of a video frame
CN115496668A (zh) 图像处理方法、装置、电子设备及存储介质
CN114998122A (zh) 一种低照度图像增强方法
CN114467298B (zh) 一种图像信号转换处理方法、装置及终端设备
WO2016197323A1 (zh) 视频编解码方法和视频编解码器
CN113613024B (zh) 视频预处理方法及设备
WO2021223205A1 (en) Encoder, decoder, system, and method for determining tone mapping curve parameters
CN114385847A (zh) 一种图片数据处理方法、装置、计算机设备及存储介质
WO2023134235A1 (zh) 图像处理方法及电子设备
US11094086B2 (en) Method and apparatus for coding image data
EP3108451A1 (en) Image processing to retain small color/gray differences
CN115293998A (zh) 图像处理方法、装置、电子设备和计算机可读存储介质
CN112532957A (zh) 一种图像处理方法及装置
CN116830567A (zh) 彩度调节方法、彩度调节装置、电子设备和可读存储介质

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220331

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220331

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230424

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230508

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230804

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231120

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240208

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240520