JP6977483B2 - 画像処理装置、画像処理方法、画像処理システムおよびプログラム - Google Patents

画像処理装置、画像処理方法、画像処理システムおよびプログラム Download PDF

Info

Publication number
JP6977483B2
JP6977483B2 JP2017210438A JP2017210438A JP6977483B2 JP 6977483 B2 JP6977483 B2 JP 6977483B2 JP 2017210438 A JP2017210438 A JP 2017210438A JP 2017210438 A JP2017210438 A JP 2017210438A JP 6977483 B2 JP6977483 B2 JP 6977483B2
Authority
JP
Japan
Prior art keywords
image
color conversion
setting information
shooting setting
color
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017210438A
Other languages
English (en)
Other versions
JP2019083445A (ja
Inventor
稔弘 岩渕
典子 酒井
将司 森本
千鶴 大沢
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd, Fujifilm Business Innovation Corp filed Critical Fuji Xerox Co Ltd
Priority to JP2017210438A priority Critical patent/JP6977483B2/ja
Priority to US16/018,084 priority patent/US10834370B2/en
Priority to CN201810868289.7A priority patent/CN109729259B/zh
Publication of JP2019083445A publication Critical patent/JP2019083445A/ja
Application granted granted Critical
Publication of JP6977483B2 publication Critical patent/JP6977483B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6027Correction or control of colour gradation or colour contrast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/62Retouching, i.e. modification of isolated colours only or in isolated picture areas only
    • H04N1/628Memory colours, e.g. skin or sky
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths

Description

本発明は、画像処理装置、画像処理方法、画像処理システム、プログラムに関する。
近年、デジタルカメラやスマートフォン、タブレット等の機器の普及によりデジタル画像を撮影・閲覧するユーザが増加している。このとき撮影を行なう環境は、照明光等の影響により様々であり、また撮影対象も様々である。そのため撮影後に撮影された画像がユーザの意図するようなものとならないことがあり、そのため撮影された画像の色味等を調整することが一般的に行われている。
特許文献1には、限定された撮影条件下で撮影された対象の画像を初期登録する初期登録手段と、初期登録手段に登録されている画像を分析し、学習に不足な画像を撮像装置に取得させる不足画像取得手段と、取得した学習に不足な画像を追加登録する不足画像追加登録手段と、不足画像追加登録手段に登録されている画像から学習に用いる学習サンプルを抽出する学習サンプル抽出手段と、抽出された学習サンプルを用いて学習を行なう学習手段と、を備える画像学習装置が記載されている。
また特許文献2には、情報処理装置として、次の処理を行なうものが記載されている。即ち、画像入力装置から入力される画像を分類する分類ルールの学習に用いる学習データを生成するサーバを設ける。そしてサーバが、画像入力装置から入力された初期画像を受け付ける。さらに、画像入力装置に関するデバイス情報を取得する。またさらに、デバイス情報にづいて、初期画像を増加させるための増加パラメータを決定し、増加パラメータ用いて初期画像を増加させることで、学習データを生成する。
特開2004−213567号公報 特開2016−38732号公報
色変換前の画像情報および色変換後の画像情報からなる画像情報の組から色変換特性(色変換モデル)を作成し、これを利用することで撮影手段で撮影した写真等の色調整を行なうことができる。
しかしながら、撮影手段の撮影設定情報が異なると、例えば、撮影対象が同一であっても色調整の方向性が異なるため、画像情報の組から作成された色変換特性が意図した色変換にならない場合がある。これを回避するため、撮影設定情報毎に、画像情報の組を用意することが望ましいが、撮影設定情報毎に色変換特性を作成するのは、必要な画像の数とその手間が膨大になりやすい。
本発明は、従来より簡単に画像情報を撮影した撮影手段の撮影設定情報ごとに色変換特性を作成することができる画像処理装置等を提供する。
請求項1に記載の発明は、色変換前の画像情報、および色変換後の画像情報からなる画像情報の組を受け付ける受付手段と、前記色変換前の画像を撮影したときの撮影条件の中から設定された撮影設定情報に基づいて、画像を色変換する色変換特性を作成する色変換特性作成手段と、前記撮影設定情報を基に、前記色変換特性作成手段で前記色変換特性を作成するために使用する画像を選択する選択手段と、を備え、前記選択手段は、前記撮影条件のうちの少なくとも1つに対する撮影設定情報の中で、他の撮影設定情報に対する画像数より多い撮影設定情報に該当する画像、または、その撮影設定情報を含む複数の撮影設定情報に該当する画像を選択することを特徴とする画像処理装置である。
請求項に記載の発明は、前記選択手段は、撮影設定情報に対する画像数の分布について、予め定められた枚数以上の極大値に対応する撮影設定情報、または、その撮影設定情報を含む複数の撮影設定情報に該当する画像を選択することを特徴とする請求項に記載の画像処理装置である。
請求項に記載の発明は、前記選択手段は、極大値が複数あるときに、撮影設定情報の差が予め定められた以上のときに、それぞれの極大値を取る撮影設定情報に該当する画像を選択することを特徴とする請求項に記載の画像処理装置である。
請求項に記載の発明は、前記選択手段は、撮影設定情報の少なくとも1つに対する前記色変換前の画像の枚数の分布の中で、枚数がより多くなる撮影設定情報に該当する高頻度画像となる撮影設定情報以外の場合の画像について、当該高頻度画像を使用して作成した前記色変換特性を用いて前記色変換前の画像を色変換したときの画像情報と、前記色変換後の画像の画像情報とを比較したときの差が、予め定められた範囲内である画像を追加画像として選択することを特徴とする請求項に記載の画像処理装置である。
請求項に記載の発明は、前記選択手段は、前記予め定められた範囲内となる画像の撮影設定情報と、前記高頻度画像を取る撮影設定情報との間に、前記差が当該範囲以上となる撮影設定情報があるときは、追加画像として選択しないことを特徴とする請求項に記載の画像処理装置である。
請求項に記載の発明は、前記色変換特性を利用して色変換を行なう対象となる被色変換画像を色変換する色変換手段をさらに備えることを特徴とする請求項1に記載の画像処理装置である。
請求項に記載の発明は、前記色変換手段は、前記被色変換画像の撮影設定情報と前記色変換特性を作成したときに選択した前記色変換前の画像の撮影設定情報とを比較したときの一致度が、予め定められた値以上のときに当該被色変換画像を色変換することを特徴とする請求項に記載の画像処理装置である。
請求項に記載の発明は、前記一致度が予め定められた値未満であるときは、警告通知を行なう通知手段をさらに備えることを特徴とする請求項に記載の画像処理装置である。
請求項に記載の発明は、色変換前の画像情報、および色変換後の画像情報からなる画像情報の組を受け付ける受付工程と、前記色変換前の画像を撮影したときの撮影条件の中から設定された撮影設定情報に基づいて、画像を色変換する色変換特性を作成する色変換特性作成工程と、前記撮影設定情報を基に、前記色変換特性作成工程で前記色変換特性を作成するために使用する画像を選択する選択工程と、を含み、前記選択工程は、前記撮影条件のうちの少なくとも1つに対する撮影設定情報の中で、他の撮影設定情報に対する画像数より多い撮影設定情報に該当する画像、または、その撮影設定情報を含む複数の撮影設定情報に該当する画像を選択することを特徴とする画像処理方法である。
請求項10に記載の発明は、撮影対象を撮影する撮影装置と、前記撮影装置により撮影した画像に対し色変換を行なう画像処理装置と、を備え、前記画像処理装置は、色変換前の画像情報、および色変換後の画像情報からなる画像情報の組を受け付ける受付手段と、前記色変換前の画像を撮影したときの撮影条件の中から設定された撮影設定情報に基づいて、画像を色変換する色変換特性を作成する色変換特性作成手段と、前記撮影設定情報を基に、前記色変換特性作成手段で前記色変換特性を作成するために使用する画像を選択する選択手段と、を備え、前記選択手段は、前記撮影条件のうちの少なくとも1つに対する撮影設定情報の中で、他の撮影設定情報に対する画像数より多い撮影設定情報に該当する画像、または、その撮影設定情報を含む複数の撮影設定情報に該当する画像を選択することを特徴とする画像処理システムである。
請求項11に記載の発明は、コンピュータに、色変換前の画像情報、および色変換後の画像情報からなる画像情報の組を受け付ける受付機能と、前記色変換前の画像を撮影したときの撮影条件の中から設定された撮影設定情報に基づいて、画像を色変換する色変換特性を作成する色変換特性作成機能と、前記撮影設定情報を基に、前記色変換特性作成機能で前記色変換特性を作成するために使用する画像を選択する選択機能と、を実現させ、
前記選択機能は、前記撮影条件のうちの少なくとも1つに対する撮影設定情報の中で、他の撮影設定情報に対する画像数より多い撮影設定情報に該当する画像、または、その撮影設定情報を含む複数の撮影設定情報に該当する画像を選択することを特徴とするプログラムである
請求項の発明によれば、色変換特性を作成するのに適した画像をより容易に選択することができる。
請求項の発明によれば、色変換特性を作成するのにより適した画像を選択することができる。
請求項の発明によれば、色変換特性を作成するのにより適した画像をさらに選択することができる。
請求項の発明によれば、色変換特性を作成するのに使用できる画像をさらに選択することができる。
請求項の発明によれば、色変換特性を作成するのに使用できる画像をさらに選択することができる。
請求項の発明によれば、被色変換画像の色変換を、撮影手段の撮影設定情報に合わせて行なうことができる。
請求項の発明によれば、被色変換画像の色変換を行なうときに、作成した色変換特性にどの程度適しているかがわかる。
請求項の発明によれば、被色変換画像の色変換を行なうのに、作成した色変換特性が適していないことを、ユーザに対し知らせることができる。
請求項の発明によれば、色変換特性を作成するのに適した画像をより容易に選択することができる。
請求項10の発明によれば、色変換特性を作成するのに適した画像をより容易に選択することができる。
請求項11の発明によれば、色変換特性を作成するのに適した画像をより容易に選択することができる。
本実施の形態における画像処理システムの構成例を示す図である。 本実施の形態における画像処理装置の機能構成例を表すブロック図である。 (a)〜(f)は、画像情報取得手段が取得する画像情報の組の例について示した図である。 分析手段が、f値の設定に対する色変換前の画像の枚数の分布を作成した場合の第1の例を示した図である。 分析手段が、f値の設定に対する色変換前の画像の枚数の分布を作成した場合の第2の例を示した図である。 分析手段が、f値の設定に対する色変換前の画像の枚数の分布を作成した場合の第3の例を示した図である。 追加画像を選択する方法について示した図である。 (a)〜(b)は、色調整前の画像情報と色調整後の画像情報との組の例を示した図である。 色変換モデルの一例について示した図である。 色変換モデルを作成する際の画像処理装置の動作について説明したフローチャートである。 被色変換画像を色変換する際の画像処理装置の動作について説明したフローチャートである。 図10のステップ103で、分析手段が、ピーク(極大値)を決定する方法について説明したフローチャートである。 図10のステップ105で、選択手段が、追加画像を選択する方法について説明したフローチャートである。 (a)は、分析手段が、2つの撮影設定情報を分析する場合について示した図である。(b)は、選択手段が、追加画像を選択するために、色差(dE)を算出した場合を示した図である。
以下、添付図面を参照して、本発明の実施の形態について詳細に説明する。
<画像処理システム全体の説明>
図1は、本実施の形態における画像処理システム1の構成例を示す図である。
図示するように本実施の形態の画像処理システム1は、カメラ40により撮影した原画像に対し色調整(色変換)を行なう画像処理装置10と、画像処理装置10により出力された表示情報に基づき画像を表示する表示装置20と、画像処理装置10に対しユーザが種々の情報を入力するための入力装置30と、撮影対象Sを撮影し画像処理装置10で色調整するための画像情報を生成するカメラ40とを備える。
画像処理装置10は、例えば、所謂汎用のパーソナルコンピュータ(PC)である。そして、画像処理装置10は、OS(Operating System)による管理下において、各種アプリケーションソフトウェアを動作させることで、色調整等が行われるようになっている。
画像処理装置10は、演算手段であるCPU(Central Processing Unit)と、記憶手段であるメインメモリ及びHDD(Hard Disk Drive)とを備える。ここで、CPUは、OS(Operating System、基本ソフトウェア)やアプリケーションプログラム(応用ソフトウェア)等の各種ソフトウェアを実行する。また、メインメモリは、各種ソフトウェアやその実行に用いるデータ等を記憶する記憶領域であり、HDDは、各種ソフトウェアに対する入力データや各種ソフトウェアからの出力データ等を記憶する記憶領域である。
更に、画像処理装置10は、外部との通信を行なうための通信インタフェース(以下、「通信I/F」と表記する)と、キーボードやマウス等の入力デバイスとを備える。
表示装置20は、表示画面20aに画像を表示する。表示装置20は、例えばPC用の液晶ディスプレイ、液晶テレビあるいはプロジェクタなど、画像を表示する機能を備えたもので構成される。したがって、表示装置20における表示方式は、液晶方式に限定されるものではない。なお、図1に示す例では、表示装置20内に表示画面20aが設けられているが、表示装置20として例えばプロジェクタを用いる場合、表示画面20aは、表示装置20の外部に設けられたスクリーン等となる。
入力装置30は、キーボードやマウス等で構成される。入力装置30は、色調整を行なうためのアプリケーションソフトウェアの起動、終了や、色調整を行なう際に、ユーザが画像処理装置10に対し色調整を行なうための指示を入力するのに使用する。
カメラ40は、撮影装置の一例であり、例えば、入射した光を収束する光学系と、光学系により収束された光を検出する撮像手段であるイメージセンサとを備える。
光学系は、単一のレンズまたは複数のレンズを組み合わせて構成される。光学系は、レンズの組み合わせおよびレンズ表面に施されたコーティング等により、各種の収差が除去されている。イメージセンサは、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子を配列して構成される。
画像処理装置10および表示装置20は、DVI(Digital Visual Interface)を介して接続されている。なお、DVIに代えて、HDMI(登録商標)(High-Definition Multimedia Interface)やDisplayPort等を介して接続するようにしてもかまわない。
また画像処理装置10と入力装置30とは、例えば、USB(Universal Serial Bus)を介して接続されている。なお、USBに代えて、IEEE1394やRS−232C等を介して接続されていてもよい。
さらに画像処理装置10およびカメラ40とは、図示する例では、有線で接続されており、例えば、USB、IEEE1394、RS−232Cを介して接続されている。これによりカメラ40で撮影された画像の画像情報が、有線により画像処理装置10に送られる。ただしこれに限られるものではなく、無線LAN(Local Area Network)、ブルートゥース(Bluetooth)(登録商標)等の無線接続であってもよい。さらに画像処理装置10およびカメラ40とを接続せず、SDカード等のメモリカード等を介して画像情報を画像処理装置10に受け渡してもよい。
このような画像処理システム1において、まず最初にユーザが、カメラ40により撮影対象Sを撮影する。カメラ40により撮影した画像は、原画像であり、原画像の画像情報は、画像処理装置10に送られる。そして表示装置20には、色調整を行なう前の画像である原画像が表示される。次にユーザが入力装置30を使用して、画像処理装置10に対し色調整を行なうための指示を入力すると、画像処理装置10により原画像に対し色調整がなされる。この色調整の結果は、例えば、表示装置20に表示される画像に反映され、色調整前の画像とは異なる色調整後の画像が再描画されて表示装置20に表示される。
また画像処理装置10では、色調整の結果を基に、色変換特性(色変換モデル)を作成する。「色変換モデル」は、色調整前の画像情報と色調整後の画像情報との関係である。また「色変換モデル」は、色調整前の画像情報と色調整後の画像情報との関係を表す関数であると言ってもよい。例えば、画像情報がRed(R)、Green(G)、Blue(B)からなるRGBデータであったとき、色調整前の画像情報を(R、G、B)、色調整後の画像情報を(R、G、B)とすると、(R、G、B)と(R、G、B)との関係を表す。
さらに画像処理装置10では、色変換モデルを基に、色調整前の原画像の画像情報を色調整後の画像情報に色変換を行なう変換関係を作成する。「変換関係」は、色調整前の画像情報を色調整後の画像情報に変換するための変換情報である。この変換関係は、LUT(Look up Table)として作成することができる。LUTは、多次元LUTとすることができる。また1次元LUTとすることもできる。さらに変換関係は、LUTではなく、多次元マトリクスであってもよい。変換関係は多次元LUT、LUT、マトリックス以外にも、学習のための教師データ(入出力データ対)として保持してもよい。
変換関係は、画像情報がRGBデータの場合、色調整前の画像情報である(R、G、B)を、色調整後の画像情報である(R、G、B)に変換する、(R、G、B)→(R、G、B)とするための情報である。この変換関係を使用することで、先に行なった色調整と同様の色調整を再現することができる。つまり新たに色調整前の画像情報が生じたときに、この変換関係を使用して色変換を行なうことで、先に行なった色調整と同様の色調整を行ない、色調整後の画像情報を生成することができる。なお本実施の形態では、変換関係を使用して、この色変換(色調整)を行なう対象となる画像を、以後、「被色変換画像」と言うことがある。
変換関係が多次元LUTの場合、ここでは3次元LUTとなり、(R、G、B)を(R、G、B)に直接変換する。即ち、(R、G、B)→(R、G、B)とするものとなる。また変換関係が1次元LUTの場合、R、G、Bのそれぞれについて変換する。即ち、R→R、G→G、B→Bとするものとなる。本実施の形態では、RGBの色空間での変換を例示しているが、CMYK等の他の色空間の変換であってもよい。この場合、画像情報は、C(シアン)、M(マゼンタ)、Y(イエロー)、K(黒)の各色からなるCMYKデータとなる。そして、変換関係が多次元LUTの場合、ここでは4次元LUTとなり、色調整前の画像情報である(C、M、Y、K)を、色調整後の画像情報である(C、M、Y、K)に変換する、(C、M、Y、K)→(C、M、Y、K)とするものとなる。また変換関係が1次元LUTの場合、C、M、Y、Kのそれぞれについて変換する。即ち、C→C、M→M、Y→Y、K→Kとするものとなる。
なお本実施の形態における画像処理システム1は、図1の形態に限られるものではない。例えば、画像処理システム1としてタブレット端末を例示することができる。この場合、タブレット端末は、タッチパネルを備え、このタッチパネルにより画像の表示を行なうとともにタッチ等のユーザの指示が入力される。即ち、タッチパネルが、表示装置20および入力装置30として機能する。なおカメラ40としては、タブレット端末に内蔵されたカメラを用いることができる。また同様に表示装置20および入力装置30を統合した装置として、タッチモニタを用いることもできる。これは、上記表示装置20の表示画面20aとしてタッチパネルを使用したものである。この場合、画像処理装置10により出力された画像情報に基づきタッチモニタに画像が表示される。そしてユーザは、このタッチモニタをタッチ等することで色調整を行なうための指示を入力する。
ここで、撮影対象Sを撮影したときのカメラ40の撮影条件やその撮影条件の中の撮影設定情報が異なると、例え、同一の撮影対象Sを撮影したときでも色再現は異なる。即ち、カメラ40の撮影条件やその撮影条件の中の撮影設定情報が異なると、撮影された画像の色は異なる。そのため同一の撮影対象Sを撮影した場合であっても、撮影設定情報が異なると色調整の方向性は、異なることになる。なおここで「撮影条件」とは、撮影対象Sを撮影するときのカメラ40の設定全般のことを言う。本実施の形態では、「撮影条件」のうち、画像の色再現に影響を及ぼしやすいものが特に重要となる。具体的には、「撮影条件」は、例えば、f値、ISO感度、シャッタースピードである。撮影対象Sを撮影するときの照明等の環境条件が撮影条件に含まれていてもよい。また「撮影設定情報」とは、撮影条件における変数の中の設定値の情報であり、例えば、f値が9であることが撮影設定情報となる。
よって色変換特性(色変換モデル)を作成するときに、撮影設定情報についても考慮することが必要となる。もし撮影設定情報を考慮しないで色変換モデルを作成した場合は、色変換モデルの精度が低くなることがある。つまり色変換を行なう際に、撮影設定情報を考慮しないと、色調整の方向性が異なるデータが入り込むため、これが画像情報の複数の組から導出される色変換モデルについての精度を低下させる一因となる。そしてこの場合、色変換モデルを基に作成される変換関係についても精度が低下するため、先に行なった色調整を再現することが困難になる。つまり意図した色変換にならない。
これを回避するために、例えば、撮影条件やその撮影条件の中の撮影設定情報毎に分けて色変換モデルを作成することが考えられる。しかし撮影設定情報は、複数あり、またそのレンジ幅も広い。そして全ての撮影設定情報、レンジ幅に対応する色変換モデルを作成するには、そのそれぞれについて、撮影対象Sを撮影し、画像情報の組を用意する必要がある。ただしこの場合、必要な画像情報の組の数は膨大になりやすくなるとともに、色変換モデルを作成する手間も膨大となりやすい。対して、画像情報の組の数を少なくすると色変換モデルの精度が低下する。
また従来技術である、限定された撮影条件下で撮影された対象の画像を初期登録し、初期登録されている画像を分析して、学習に不足な画像を撮像装置に取得させる方法では、まず特定の撮影条件に固定した画像を収集することが困難である。さらにこの方法では、上述した場合と同様に、必要な画像が非常に多くなるとともに、収集した画像の特徴にばらつきが発生する。その結果、色変換モデルの精度が低下しやすい。
さらに他の従来技術である、初期画像を増加させるための増加パラメータを決定し、増加パラメータを用いて初期画像を増加させることで、学習データを生成する方法では、特定の撮影条件の画像を増加させるだけであり、学習データの不足を補うことは困難である。その結果、同様に、色変換モデルの精度が低下しやすい。
そこで本実施の形態では、画像処理装置10の構成を以下のようにし、画像情報の組を撮影したカメラ40の撮影設定情報に適した色変換モデルを作成するようにする。
<画像処理装置10の説明>
図2は、本実施の形態における画像処理装置10の機能構成例を表すブロック図である。なお図2では、画像処理装置10が有する種々の機能のうち本実施の形態に関係するものを選択して図示している。
図示するように本実施の形態の画像処理装置10は、画像情報を取得する画像情報取得手段11と、撮影設定情報を分析する分析手段12と、画像情報の組の選択を行なう選択手段13と、画像情報を抽出する領域を決定する領域決定手段14と、画像情報を抽出する画像情報抽出手段15と、変換関係として色変換係数を算出する色変換係数算出手段16と、ユーザに対する通知を行なう通知手段17と、被色変換画像に対し色変換を行なう色変換手段18と、を備える。
画像情報取得手段11は、カメラ40で撮影した色調整(色変換)前の画像、およびユーザが色調整を行なった後の色調整後の画像について、それぞれの画像情報を画像情報の組として取得する。また画像情報取得手段11は、後述する方法で作成した色変換モデルを利用して色変換を行なう対象となる被色変換画像の画像情報を取得する。
これらの画像情報は、表示装置20で表示を行なうためのデータ形式となっており、例えば、前述のRGBデータである。なお画像情報取得手段11は、他のデータ形式で画像情報を取得し、これを色変換してRGBデータ等としてもよい。
以上のように、画像情報取得手段11は、色変換前の画像情報、および色変換後の画像情報からなる画像情報の組を受け付ける受付手段として機能する。
図3(a)〜(f)は、画像情報取得手段11が取得する画像情報の組の例について示した図である。
ここでは、商品である衣服または商品である衣服を着用した人物を撮影したときの画像情報を3組用意した場合を示している。このうち図3(a)および図3(b)は、それぞれダウンジャケットDjを撮影したときの画像情報の組である。ここでは、図3(a)が色調整前の画像であり、図3(b)が色調整後の画像である。同様に図3(c)および図3(d)は、それぞれシャツShを着用した人物を撮影したときの画像情報の組である。ここでは、図3(c)が色調整前の画像であり、図3(d)が色調整後の画像である。さらに図3(e)および図3(f)は、それぞれワンピースDrを撮影したときの画像情報の組である。ここでは、図3(e)が色調整前の画像であり、図3(f)が色調整後の画像である。
このように本実施の形態では、色調整(色変換)前の画像と色調整後の画像とを複数組用意することで、より多くの色を含む画像情報の組を取得するようにする。
分析手段12は、カメラ40で撮影した画像の撮影設定情報を分析する。ここでは、分析手段12は、色調整(色変換)前の画像を撮影したときの撮影設定情報を分析する。
以下、分析手段12が行なう撮影設定情報の分析について詳述する。
分析手段12は、画像情報のヘッダとして使用されているExif(Exchangeable image file format)情報を利用し、撮影設定情報の分析を行なう。このExif情報には、例えば、f値(レンズの焦点距離を有効口径で割った値であり、レンズの明るさを示す指標、絞り)、ISO感度(フィルムがどの程度弱い光まで記録できるかを示した国際規格、ただしデジタルカメラの場合、レンズから入ってきた光を、カメラ内でどの程度増幅させるかの指標を表す)、シャッタースピード(シャッターを開く時間)等の情報が含まれている。そして本実施の形態では、分析手段12は、まず撮影設定情報の少なくとも1つに対する色調整前の画像の枚数の分布を作成する。ここでは、分析手段12が、撮影条件のうちの1つであるf値の設定に対する色調整前の画像の枚数の分布を作成する場合について説明を行なう。
図4は、分析手段12が、f値の設定に対する色調整前の画像の枚数の分布を作成した場合の第1の例を示した図である。図4で、横軸はf値を表し、縦軸は、色調整前の画像の枚数を表す。
図示する例では、f値が、2から増加するに従い、色調整前の画像の枚数は増加し、f値が11のときに、ピーク(極大値)Pを取る。さらにf値が11よりも増加すると、色調整前の画像の枚数は、減少する。即ち、この場合、色調整前の画像の枚数は、f値が11のときに、1つのピークPを取り、このピークPの前後では、ピークPから離れるに従い、概ね色調整前の画像の枚数は、減少していく。そしてこのピークPにおける枚数は、予め定められた閾値以上となる。なお以下、図4の場合のように、閾値以上のピークが1つ(ピークP)ある場合を、「ケース1」と言うことがある。
また図5は、分析手段12が、f値の設定に対する色調整前の画像の枚数の分布を作成した場合の第2の例を示した図である。図5でも、横軸はf値を表し、縦軸は、色調整前の画像の枚数を表す。
図示する例では、f値が、2から増加するに従い、色調整前の画像の枚数は増加し、f値が9のときに、1つ目のピーク(極大値)P1を取る。さらにf値が9よりも増加すると、色調整前の画像の枚数は、減少し、f値が、11のときに極小値を取る。そしてさらにf値が11よりも増加すると、色調整前の画像の枚数は、増加し、f値が、16のときに、2つ目のピークP2を取る。さらにf値が16よりも増加すると、色調整前の画像の枚数は、減少する。そしてこのピークP1、P2における枚数は、予め定められた閾値以上となる。即ち、この場合、色調整前の画像の枚数は、f値が9と16のときに、2つのピークP1、P2を取り、このピークP1、P2の前後では、ピークP1、P2から離れるに従い、概ね色調整前の画像の枚数は、減少していく。なお以下、図5の場合のように、閾値以上のピークが複数(ピークP1、P2)ある場合を、「ケース2」と言うことがある。
さらに図6は、分析手段12が、f値の設定に対する色調整前の画像の枚数の分布を作成した場合の第3の例を示した図である。図6でも、横軸はf値を表し、縦軸は、色調整前の画像の枚数を表す。
図示する例では、f値は、全体にわたり、ほぼ一定であり、ピーク(極大値)を取る箇所はない。なお以下、図6の場合のように、閾値以上のピークがない場合を、「ケース3」とこと場合がある。
また分析手段12は、上述した被色変換画像を撮影したときの撮影設定情報をさらに分析する。
分析手段12は、被色変換画像についても、図4〜図6で説明したのと同様の撮影設定情報の分析を行なう。つまりこの場合、f値に対する被色変換画像の枚数の分布を作成する。
さらに分析手段12は、被色変換画像の撮影設定情報と色変換特性(色変換モデル)を作成するときに選択した色変換前の画像の撮影設定情報とを比較したときの一致度を算出する。つまり分析手段12は、被色変換画像の撮影設定情報が、後述する選択手段13で選択した撮影設定情報にどの程度一致しているか否かを分析する。つまり、「一致度」は、被色変換画像の撮影設定情報と、色変換特性(色変換モデル)を作成するときに選択した色変換前の画像の撮影設定情報とがどの程度一致しているかを表す指標であってもよい。例えば、被色変換画像の撮影設定情報中に、色変換特性(色変換モデル)を作成するときに選択した色変換前の画像の撮影設定情報が含まれる割合であってもよい。例えば、色変換特性(色変換モデル)を作成するときに選択した色変換前の画像の撮影設定情報として、f値が11だった場合、被色変換画像100枚のうち、f値が11のものが50枚あったときは、一致度は50%である。これにより被色変換画像を色変換するために使用する色変換モデルが適切であるか否かを判断できる。即ち、一致度がより大きければ、被色変換画像を色変換するためにより適した色変換モデルであると考えることができ、一致度がより小さければ、被色変換画像を色変換するためにより適さない色変換モデルであると考えることができる。
選択手段13は、撮影設定情報を基に、色変換係数算出手段16で色変換モデルを作成するための画像を選択する。
本実施の形態では、選択手段13は、撮影条件のうちの少なくとも1つに対する撮影設定情報の中で、他の撮影設定情報に対する画像数よりより多い撮影設定情報に該当する画像を選択する。具体的には、選択手段13は、撮影設定情報の少なくとも1つに対する色変換前の画像の枚数の分布を見たときに、枚数がより多くなる高頻度画像を選択する。即ち、「高頻度画像」とは、撮影設定情報の少なくとも1つに対する色変換前の画像の枚数の分布の中で、枚数がより多くなる撮影設定情報に該当する画像である。
さらに具体的には、選択手段13は、撮影設定情報に対する画像数の分布について、予め定められた枚数以上の極大値に対応する撮影設定情報に該当する画像を高頻度画像として選択する。図4の例で説明を行なうと、閾値として、図示するように予め定められた枚数を設定し、この枚数以上になるとともに、ピーク(極大値)を取る画像として、f値が11の画像を高頻度画像とすることができる。また図5の例では、閾値として、図示するように予め定められた枚数を設定し、この枚数以上になるとともに、ピーク(極大値)を取る画像として、f値が9と16の画像を高頻度画像とすることができる。対して、図6の例では、閾値以上の枚数となる場合がないため、高頻度画像はない。
なお図5のようにピーク(極大値)が複数あるときに、選択手段13は、撮影設定情報の差が予め定められた以上のときに、それぞれの極大値を取る画像を高頻度画像として選択することが好ましい。つまり図5のように複数のピークがあるときは、このピークが予め定められた差以上離れているときには、それぞれの極大値を取る画像を高頻度画像とするが、予め定められた差未満のとき、即ち、ピーク同士が接近しているときは、何れかピークが高い方(枚数が多い方)を高頻度画像とする。
なお上述した例では、撮影設定情報の1つについて、ピーク(極大値)を取る画像を高頻度画像としたが、ピークの前後の撮影設定情報に該当する画像についても併せて高頻度画像として扱ってもよい。図4の例では、f値が11の画像の他に、f値が、10と13の画像を併せて高頻度画像として扱うことができる。また図5の例では、f値が9および16の画像の他に、f値が9の前後の8と10の画像と、f値が16の前後の14と18の画像とを高頻度画像として扱うことができる。つまり選択手段13は、ピークを取る撮影設定情報を含む複数の撮影設定情報に該当する画像も高頻度画像として併せて選択する。高頻度画像として扱うか否かの判断は、一致度を用いてもよく、予め定めた一致度に含まれる画像を高頻度画像としてもよい。
また選択手段13は、高頻度画像となる撮影設定情報以外の場合の画像について、高頻度画像を使用して作成した色変換モデルを用いて色変換前の画像を色変換したときの画像情報と、色変換後の画像の画像情報とを比較したときの差が、予め定められた範囲内である画像を追加画像として選択することが好ましい。ここで、この差としては、色値の差であり、例えば、色値間のユークリッド距離である色差(dE)である。ただしこれに限られるものではなく、例えば、色値の少なくとも1つの差であってもよい。例えば、HSL色空間における輝度の差(dL)、色相の差(dh)などであってもよい。またL色区間における彩度の差(dC)、色相角の差(dθ)などであってもよい。
つまり高頻度画像を使用して作成した色変換モデルの精度がよい場合、この色変換モデルを使用して色変換前の画像を色変換した色値と、画像情報取得手段11で取得した色変換後の画像の画像情報の色値との差は、より小さくなる。対して、この色変換モデルの精度がよくない場合、この差はより大きくなる。よってこの差を見ることで、この色変換モデルを使用したときに精度がよくなるときの撮影設定情報がわかる。よってこの撮影設定情報で撮影した画像についても色変換モデルを作成するのに使用する追加画像とし、色変換モデルを作成するのに使用する画像情報の組の数を増加させるその結果、色変換モデルの精度がさらによくなりやすい。つまり「追加画像」とは、高頻度画像の他に、特定の撮影設定情報に適した色変換モデルを作成するのに、好ましい画像として追加される画像である。
図7は、追加画像を選択する方法について示した図である。図7で、横軸はf値を表し、縦軸は、色差(dE)を表す。
図7では、f値が、9〜16の間の色差を示している。なおここでは、f値が11のときに上述したピークがあるとし、極大値を取る画像を高頻度画像は、f値が11のときの画像となる。そして予め定められた閾値を決め、色差がこの閾値以下の撮影設定情報に対応する画像を追加画像とする。つまりこの場合、「差が、予め定められた範囲内」とは、色差がこの閾値以下の範囲を言う。この例では、f値が10、13、16の撮影設定情報で撮影した画像についても色変換モデルを作成するのに使用する追加画像とする。即ち、f値が10、11、13、16の撮影設定情報に対応する画像情報の組についても色変換モデルを作成するのに使用する。またf値が9、14の撮影設定情報で撮影した画像については、追加画像とせず、この撮影設定情報に対応する画像情報の組については、色変換モデルを作成するのに使用しない。
また追加画像を選択する際に、選択手段13は、予め定められた範囲内となる画像の撮影設定情報と、高頻度画像を取る撮影設定情報との間に、上記差がこの範囲以上となる撮影設定情報があるときは、追加画像として選択しないようにしてもよい。
つまり図7の例では、f値が16のときは、色差が閾値以下となるが、高頻度画像を取る撮影設定情報であるf値が11のときとの間に、閾値以上となる撮影設定情報として、f値が14の場合がある。よってf値が16の撮影設定情報で撮影した画像については、追加画像としないようにする。
領域決定手段14は、色調整(色変換)前の画像と色調整後の画像うちいずれか一方の画像について、画像情報を抽出する領域を決定する。
つまり領域決定手段14は、例えば、図3に示した画像の中から画像情報をどの位置から取得するかを決定する。この場合、色調整は商品である衣服の箇所に対して行われる。つまり商品の色は、色再現をより厳密に行ない、実際の商品の色と画像として表示される商品の色とが合致することが要求される。そのため色調整を行なう対象となりやすい。
具体的には、例えば、領域決定手段14は、背景以外の箇所を画像情報を抽出する領域とする。そのために領域決定手段14は、背景と背景以外の箇所を判断する必要がある。ここで背景の画像情報は、画像の左端の画像情報とほぼ同じとなる。そのため画像の左端の画像情報と大きく画像情報が変化している箇所を背景以外の箇所とすることができる。このとき画像の左端の画像情報と比較する画像情報をサンプリングするには、例えば、画像中において予め定められた間隔で画素位置を決定し、画像の左端の画素との画像情報を比較していく。また予め定められたサイズのマスクを画像情報に適用し、このマスク内の画像情報の平均値と画像の左端の画素との画像情報を比較してもよい。
さらに他の方法としては、画像情報を基に周波数解析をし、高周波が発生した画素位置を取得する。この画素位置は、背景以外の箇所の輪郭となるため、この輪郭の内側を背景以外の箇所とする。さらに他の方法としては、画像の中央から予め定められたサイズの範囲を規定しておき、この内部を背景以外の箇所とする。
領域決定手段14は、色調整(色変換)前の画像および色調整後の画像の何れかの画像について、以上説明したような処理を行ない、画像情報を抽出する領域を決定する。
画像情報抽出手段15は、領域決定手段14によって指定された、色調整(色変換)前の画像または色調整後の画像のうち一方の画像の領域内と、他方の画像のこれに対応する領域内とから画像情報を抽出する。これは、画像中の互いに対応する位置における画像情報の組として、色調整前の画像から画像情報を抽出するとともに、色調整後の画像から画像情報を抽出する、と言うこともできる。
つまり色調整前の画像および色調整後の画像から、画像中で同じとなる位置において、色調整前の画像情報および色調整後の画像情報を抽出する。
図8(a)〜(b)は、色調整前の画像情報と色調整後の画像情報との組の例を示した図である。
ここで図8(a)は、色調整前の画像とこれから抽出した色調整前の画像情報の例を示している。ここでは、色調整前の画像がブラウスの画像であり、その中のBr1〜Br5で示した箇所において抽出した画像情報をRGBa1〜RGBa5として示している。この場合、ブラウスは、青単色であり、RGBa1〜RGBa5は、何れも青色を表すRGBデータとなっている。
また図8(b)は、色調整後の画像とこれから抽出した色調整後の画像情報の例を示している。ここでは、図8(a)と同様のBr1〜Br5で示した箇所において抽出した画像情報をRGBb1〜RGBb5として示している。
画像情報抽出手段15では、以上説明したような方法により、色調整(色変換)前の画像情報とこれに対応する色調整後の画像情報とを抽出された画像情報の組として取得する。
色変換係数算出手段16は、色変換モデルを作成する。よって色変換係数算出手段16は、画像を色変換する色変換特性(色変換モデル)を作成する色変換特性作成手段として機能する。このとき色変換係数算出手段16は、上述の通り、色変換前の画像を撮影したときの撮影条件の中から設定された撮影設定情報に基づいて、色変換モデルを作成する。この選択された画像は、上述した高頻度画像および追加画像である。またさらに色変換係数算出手段16は、色変換モデルを基に、3次元LUT等の変換関係を作成する。
図9は、色変換モデルの一例について示した図である。
ここで横軸は、色調整(色変換)前の画像情報を表し、縦軸は、色調整後の画像情報を表す。色調整前の画像情報および色調整後の画像情報は、RGBデータであり、図9では、色調整前の画像情報は、RGBa、色調整後の画像情報は、RGBbとして図示している。
そして黒丸Prは、色調整前の画像情報と色調整前の画像情報とをプロットしたものであり、ここでは、色調整前の画像情報と色調整後の画像情報との組が、12個であったことを示している。
また実線Jsは、色調整前の画像情報と色調整後の画像情報との関係であり、色変換係数算出手段16で作成される色変換モデルを表す。この色変換モデルは、上述したように、色調整前の画像情報と色調整後の画像情報との関係を表した関数であると言うこともでき、この関数をfとすると、RGBb=f(RGBa)と表すこともできる。この色変換モデルは、公知の方法で作成することができる。ただし、重み付け回帰モデルやニューラルネットワークなどの非線形特性に対するフィッティング性能が高い方法を使用することが好ましい。ただし、非線形特性に限定されず、Matrixモデルを使用した線形特性を用いてもよい。
通知手段17は、ユーザに対し、警告通知を行なう。この警告通知としては、特に限られるものではなく、表示装置20に警告メッセージを表示することで通知する方法や、音声や警告音等の音により通知する方法がある。
色変換手段18は、色変換係数算出手段16で作成された変換関係を使用して、被色変換画像を色変換する。これにより被色変換画像は、色変換され、色変換画像となる。
<画像処理装置10の動作の説明>
次に画像処理装置10の動作について説明する。
図10は、色変換モデルを作成する際の画像処理装置10の動作について説明したフローチャートである。なお以下に説明する画像処理装置10の動作は、画像処理装置10が、色変換モデルを作成する画像処理方法として捉えることもできる。
色変換モデルを作成する際には、まず画像情報取得手段11が、色調整(色変換)前の画像および色変換後の画像について、それぞれの画像情報を画像情報の組として取得する(ステップ101:受付工程)。この場合、色調整前の画像は、カメラ40で撮影した画像であり、色調整後の画像は、ユーザが、画像処理装置10等を使用して、カメラ40で撮影した画像に対し色調整を行なった後の画像となる。
次に、分析手段12が、画像情報取得手段11が取得した画像情報の組のうち、色調整(色変換)前の画像について撮影設定情報を分析する。その結果、図4〜図6で説明したような撮影設定情報の少なくとも1つ(ここでは、例えば、f値)に対する色調整(色変換)前の画像の枚数の分布が算出される(ステップ102:分析工程)。
さらに分析手段12は、この分布におけるピーク(極大値)を決定する(ステップ103:ピーク決定工程)。
次に、選択手段13は、ピークの位置を基に、分析手段12により分析された撮影設定情報を基に、色変換係数算出手段16で色変換モデルを作成するための画像として、高頻度画像を選択する(ステップ104:高頻度画像選択工程)。
次に、選択手段13が、高頻度画像を取る撮影設定情報以外の場合の画像について、追加画像を選択する(ステップ105:追加画像選択工程)。これは、高頻度画像について作成した変換関係を用いて、図7で説明した方法により行なう。
そして選択手段13は、ステップ104およびステップ105で選択した高頻度画像および追加画像を、色変換モデルを作成するために使用する画像として決定する(ステップ106:画像決定工程)。
次に、領域決定手段14が、高頻度画像および追加画像において、色調整(色変換)前の画像と色調整後の画像うちいずれか一方の画像について、画像情報を抽出する領域を決定する(ステップ107:抽出領域決定工程)。
さらに画像情報抽出手段15は、領域決定手段14によって指定された、色調整(色変換)前の画像または色調整後の画像のうち一方の画像の領域内と、他方の画像のこれに対応する領域内とから画像情報を抽出する(ステップ108:画像情報抽出工程)。
次に色変換係数算出手段16が、ステップ108で抽出された画像情報を基に色変換特性(色変換モデル)を作成する(ステップ109:色変換特性作成工程)。
さらに色変換係数算出手段16は、ステップ109で作成した色変換モデルを基に、色調整を再現する変換関係を作成する(ステップ110:変換関係作成工程)。
図11は、被色変換画像を色変換する際の画像処理装置10の動作について説明したフローチャートである。
被色変換画像を色変換する際には、まず画像情報取得手段11が、被色変換画像を取得する(ステップ201:被色変換画像取得工程)。
次に、分析手段12が、被色変換画像について撮影設定情報を分析する。その結果、図4〜図6で説明したような撮影設定情報の少なくとも1つ(ここでは、例えば、f値)に対する色変換前の画像の枚数の分布が算出される(ステップ202:被色変換画像分析工程)。
そして分析手段12が、被色変換画像の撮影設定情報と色変換モデルを作成したときに選択した色変換前の画像の撮影設定情報とを比較し、一致度を算出する(ステップ203:一致度算出工程)。
そして分析手段12は、一致度が予め定められた閾値以上であるか否かを判断する(ステップ204:一致度判断工程)。
その結果、一致度が予め定められた閾値以上であった場合(ステップ204でYes)、色変換手段18が、使用する変換関係を決定し(ステップ205:変換関係決定工程)、被色変換画像の色変換を行なう(ステップ206:色変換工程)。その結果、被色変換画像が色変換された色変換画像が出力される。
一方、ステップ204で、一致度が予め定められた閾値未満であった場合(ステップ204でNo)、通知手段17が、ユーザに対し警告通知を行なう(ステップ207:警告通知工程)。このとき、被色変換画像の色変換は中止される。ただし、ユーザの了承のもと、ステップ206に進み、被色変換画像の色変換を行ってもよい。
次に図10のステップ103について詳述する。
図12は、図10のステップ103で、分析手段12が、ピーク(極大値)を決定する方法について説明したフローチャートである。
まず分析手段12は、ステップ102で作成されたf値に対する色調整(色変換)前の画像の枚数の分布から、最も多い画像の枚数Aを取得する(ステップ301)。
次に、分析手段12は、枚数Aが、予め定められた閾値C1以上であるか否かを判断する(ステップ302)。
その結果、枚数Aが、予め定められた閾値C1未満だった場合(ステップ302でNo)、分析手段12は、図6に示したようなケース3の場合であると判断する(ステップ303)。即ち、この場合、色変換モデルは作成できない。
対して、枚数Aが、予め定められた閾値C1以上だった場合(ステップ302でYes)、分析手段12は、枚数Aの箇所以外の撮影設定情報における枚数Bを取得する(ステップ304)。この枚数Bは、複数通り取得される。
そして分析手段12は、隣り合う撮影設定情報における枚数Bの差分として、差分Dをそれぞれ算出する(ステップ305)。
次に、分析手段12は、差分Dの中で、予め定められた閾値C2以上のものがあるか否かを判断する(ステップ306)。これにより、急峻なピークがあるか否かが判断できる。
その結果、差分Dが、予め定められた閾値C2以上のものがある場合(ステップ306でYes)、即ち、急峻なピークがある場合、分析手段12は、閾値C1以上の枚数Bがあるか否かを判断する(ステップ307)。これにより、急峻なピークが閾値C1以上となるか否かが判断できる。
そして閾値C1以上の枚数Bがある場合(ステップ307でYes)、即ち、閾値C1以上の急峻なピークがある場合、分析手段12は、枚数Aの箇所とこの枚数Bの箇所との撮影設定情報の差Eを算出する(ステップ308)。
その結果、撮影設定情報の差Eが、閾値C3以上である場合(ステップ309)、即ち、撮影設定情報が離れている場合、枚数Aの箇所とこの枚数Bの箇所との間に閾値C1未満となる撮影設定情報が存在するか否かを判断する(ステップ310)。これにより、連続したピークでなく、独立したピークであるか否かが判断できる。
そして枚数Aの箇所とこの枚数Bの箇所との間に閾値C1未満となる撮影設定情報が存在しない場合(ステップ310でYes)、即ち、独立したピークである場合、分析手段12は、図5で示したケース2の場合であると判断する(ステップ311)。つまりこの場合、ピークは複数存在する。
一方、ステップ306でNoの場合(急峻なピークがない場合)、ステップ307でNoの場合(閾値C1以上の急峻なピークがない場合)、ステップ309でNoの場合(ピーク間の差が小さく撮影設定情報の差が小さい場合)、およびステップ310でNoの場合(独立したピークでない場合)は、図4で示したケース1の場合であると判断する(ステップ312)。つまりこの場合、ピークは1つだけ存在する。
次に図10のステップ105について詳述する。
図13は、図10のステップ105で、選択手段13が、追加画像を選択する方法について説明したフローチャートである。
まず選択手段13は、1つのピークについて、高頻度画像の画像情報の組および撮影設定情報を取得する(ステップ401)。
次に、色変換係数算出手段16が、高頻度画像についての画像情報の組から、色変換モデルを作成し、さらに変換関係を作成する(ステップ402)。この変換関係は、追加画像を選択するために、暫定的に作成されるものである。
そして選択手段13は、高頻度画像を取る撮影設定情報以外の他の撮影設定情報の画像情報の組を取得する(ステップ403)。
さらに色変換手段18が、ステップ403で取得した画像情報の組のうち、色調整(色変換)前の画像の画像情報を、ステップ402で作成した変換関係を用いて色変換する(ステップ404)。
そして選択手段13は、色調整(色変換)前の画像の画像情報とステップ402で色変換した後の画像情報との色差(dE)を算出する(ステップ405)。
次に、選択手段13は、全てのピークについて処理が終了したか否かを判断する(ステップ406)。
その結果、全てのピークについて処理が終了していない場合(ステップ406でNo)、ステップ401に戻る。
対して、全てのピークについて処理が終了した場合(ステップ406でYes)、図7で説明したように、色差(dE)が閾値未満のものを追加画像として選択する(ステップ407)。
なお上述した例によれば、分析手段12は、撮影設定情報として、f値など1つを分析する場合について説明したが、複数の撮影設定情報を分析してもよい。
図14(a)は、分析手段12が、2つの撮影設定情報を分析する場合について示した図である。
図示する例は、f値およびISO感度の2つの撮影設定情報に対する色調整(色変換)前の画像の枚数の分布を作成した場合を示している。図14(a)は、図4〜図6に対し、撮影設定情報を1つから2つにした場合に対応する。そしてこの場合もピーク(極大値)Pを求めることができ、撮影設定情報として、f値が9で、ISO感度が200であるときにピークPを取ることを示している。
また図14(b)は、選択手段13が、追加画像を選択するために、色差(dE)を算出した場合を示した図である。
図示する例は、f値およびISO感度の2つの撮影設定情報に対する色差(dE)の分布を作成した場合を示している。図14(b)は、図7に対し、撮影設定情報を1つから2つにした場合に対応する。
以上詳述した画像処理装置10によれば、撮影手段の撮影設定情報に適した色変換特性を作成するのに、より好ましい画像情報の組を高頻度画像として選択できる。そして高頻度画像から追加画像をさらに選択し、これらを基に色変換特性を作成する。つまり高頻度画像は、特定の撮影設定情報に適した色変換特性を作成するのに最も好ましい画像情報の組として、いわば教師点となる画像の母集団となる。さらに追加画像は、特定の撮影設定情報に適した色変換特性を作成するのに許容できるレンジの画像情報の組となる。
そしてこれにより、従来より簡単に画像情報を撮影した撮影手段の撮影設定情報ごとに色変換特性を作成することができる。
<プログラムの説明>
ここで以上説明を行った本実施の形態における画像処理装置10が行なう処理は、例えば、アプリケーションソフトウェア等のプログラムとして用意される。
よって本実施の形態で画像処理装置10が行なう処理は、コンピュータに、色変換前の画像情報、および色変換後の画像情報からなる画像情報の組を受け付ける受付機能と、色変換前の画像を撮影したときの撮影条件の中から設定された撮影設定情報に基づいて、画像を色変換する色変換特性を作成する色変換特性作成機能と、を実現させるためのプログラムとして捉えることができる。
なお、本実施の形態を実現するプログラムは、通信手段により提供することはもちろん、CD−ROM等の記録媒体に格納して提供することも可能である。
以上、本実施の形態について説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、種々の変更または改良を加えたものも、本発明の技術的範囲に含まれることは、特許請求の範囲の記載から明らかである。
1…画像処理システム、10…画像処理装置、11…画像情報取得手段、12…分析手段、13…選択手段、14…領域決定手段、15…画像情報抽出手段、16…色変換係数算出手段、17…通知手段、18…色変換手段、40…カメラ

Claims (11)

  1. 色変換前の画像情報、および色変換後の画像情報からなる画像情報の組を受け付ける受付手段と、
    前記色変換前の画像を撮影したときの撮影条件の中から設定された撮影設定情報に基づいて、画像を色変換する色変換特性を作成する色変換特性作成手段と、
    前記撮影設定情報を基に、前記色変換特性作成手段で前記色変換特性を作成するために使用する画像を選択する選択手段と
    を備え、
    前記選択手段は、前記撮影条件のうちの少なくとも1つに対する撮影設定情報の中で、他の撮影設定情報に対する画像数より多い撮影設定情報に該当する画像、または、その撮影設定情報を含む複数の撮影設定情報に該当する画像を選択することを特徴とする画像処理装置。
  2. 前記選択手段は、撮影設定情報に対する画像数の分布について、予め定められた枚数以上の極大値に対応する撮影設定情報、または、その撮影設定情報を含む複数の撮影設定情報に該当する画像を選択することを特徴とする請求項に記載の画像処理装置。
  3. 前記選択手段は、極大値が複数あるときに、撮影設定情報の差が予め定められた以上のときに、それぞれの極大値を取る撮影設定情報に該当する画像を選択することを特徴とする請求項に記載の画像処理装置。
  4. 前記選択手段は、撮影設定情報の少なくとも1つに対する前記色変換前の画像の枚数の分布の中で、枚数がより多くなる撮影設定情報に該当する高頻度画像となる撮影設定情報以外の場合の画像について、当該高頻度画像を使用して作成した前記色変換特性を用いて前記色変換前の画像を色変換したときの画像情報と、前記色変換後の画像の画像情報とを比較したときの差が、予め定められた範囲内である画像を追加画像として選択することを特徴とする請求項に記載の画像処理装置。
  5. 前記選択手段は、前記予め定められた範囲内となる画像の撮影設定情報と、前記高頻度画像を取る撮影設定情報との間に、前記差が当該範囲以上となる撮影設定情報があるときは、追加画像として選択しないことを特徴とする請求項に記載の画像処理装置。
  6. 前記色変換特性を利用して色変換を行なう対象となる被色変換画像を色変換する色変換手段をさらに備えることを特徴とする請求項1に記載の画像処理装置。
  7. 前記色変換手段は、前記被色変換画像の撮影設定情報と前記色変換特性を作成したときに選択した前記色変換前の画像の撮影設定情報とを比較したときの一致度が、予め定められた値以上のときに当該被色変換画像を色変換することを特徴とする請求項に記載の画像処理装置。
  8. 前記一致度が予め定められた値未満であるときは、警告通知を行なう通知手段をさらに備えることを特徴とする請求項に記載の画像処理装置。
  9. 色変換前の画像情報、および色変換後の画像情報からなる画像情報の組を受け付ける受付工程と、
    前記色変換前の画像を撮影したときの撮影条件の中から設定された撮影設定情報に基づいて、画像を色変換する色変換特性を作成する色変換特性作成工程と、
    前記撮影設定情報を基に、前記色変換特性作成工程で前記色変換特性を作成するために使用する画像を選択する選択工程と、
    を含み、
    前記選択工程は、前記撮影条件のうちの少なくとも1つに対する撮影設定情報の中で、他の撮影設定情報に対する画像数より多い撮影設定情報に該当する画像、または、その撮影設定情報を含む複数の撮影設定情報に該当する画像を選択することを特徴とする画像処理方法。
  10. 撮影対象を撮影する撮影装置と、
    前記撮影装置により撮影した画像に対し色変換を行なう画像処理装置と、
    を備え、
    前記画像処理装置は、
    色変換前の画像情報、および色変換後の画像情報からなる画像情報の組を受け付ける受付手段と、
    前記色変換前の画像を撮影したときの撮影条件の中から設定された撮影設定情報に基づいて、画像を色変換する色変換特性を作成する色変換特性作成手段と、
    前記撮影設定情報を基に、前記色変換特性作成手段で前記色変換特性を作成するために使用する画像を選択する選択手段と、
    を備え、
    前記選択手段は、前記撮影条件のうちの少なくとも1つに対する撮影設定情報の中で、他の撮影設定情報に対する画像数より多い撮影設定情報に該当する画像、または、その撮影設定情報を含む複数の撮影設定情報に該当する画像を選択することを特徴とする画像処理システム。
  11. コンピュータに、
    色変換前の画像情報、および色変換後の画像情報からなる画像情報の組を受け付ける受付機能と、
    前記色変換前の画像を撮影したときの撮影条件の中から設定された撮影設定情報に基づいて、画像を色変換する色変換特性を作成する色変換特性作成機能と、
    前記撮影設定情報を基に、前記色変換特性作成機能で前記色変換特性を作成するために使用する画像を選択する選択機能と、
    を実現させ、
    前記選択機能は、前記撮影条件のうちの少なくとも1つに対する撮影設定情報の中で、他の撮影設定情報に対する画像数より多い撮影設定情報に該当する画像、または、その撮影設定情報を含む複数の撮影設定情報に該当する画像を選択することを特徴とするプログラム。
JP2017210438A 2017-10-31 2017-10-31 画像処理装置、画像処理方法、画像処理システムおよびプログラム Active JP6977483B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2017210438A JP6977483B2 (ja) 2017-10-31 2017-10-31 画像処理装置、画像処理方法、画像処理システムおよびプログラム
US16/018,084 US10834370B2 (en) 2017-10-31 2018-06-26 Image processing apparatus, image processing method, and non-transitory computer readable medium for color conversion
CN201810868289.7A CN109729259B (zh) 2017-10-31 2018-08-02 图像处理装置、其方法、其系统以及计算机可读介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017210438A JP6977483B2 (ja) 2017-10-31 2017-10-31 画像処理装置、画像処理方法、画像処理システムおよびプログラム

Publications (2)

Publication Number Publication Date
JP2019083445A JP2019083445A (ja) 2019-05-30
JP6977483B2 true JP6977483B2 (ja) 2021-12-08

Family

ID=66245705

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017210438A Active JP6977483B2 (ja) 2017-10-31 2017-10-31 画像処理装置、画像処理方法、画像処理システムおよびプログラム

Country Status (3)

Country Link
US (1) US10834370B2 (ja)
JP (1) JP6977483B2 (ja)
CN (1) CN109729259B (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7408973B2 (ja) 2019-09-18 2024-01-09 富士フイルムビジネスイノベーション株式会社 学習モデル生成装置、画像補正装置、学習モデル生成プログラム、及び画像補正プログラム
JP2021144574A (ja) 2020-03-13 2021-09-24 富士フイルムビジネスイノベーション株式会社 画像処理装置及びプログラム
JP2021149825A (ja) 2020-03-23 2021-09-27 富士フイルムビジネスイノベーション株式会社 画像処理装置及びプログラム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004213567A (ja) 2003-01-08 2004-07-29 Ntt Docomo Inc 画像学習装置及びその学習方法
US20060045381A1 (en) * 2004-08-31 2006-03-02 Sanyo Electric Co., Ltd. Image processing apparatus, shooting apparatus and image display apparatus
JP2006094297A (ja) * 2004-09-27 2006-04-06 Fuji Xerox Co Ltd 画像形成装置、画像処理装置、画像処理方法及びそのプログラム
KR100953788B1 (ko) * 2005-05-12 2010-04-21 올림푸스 메디칼 시스템즈 가부시키가이샤 생체 관측 장치
JP4254806B2 (ja) * 2006-05-23 2009-04-15 ブラザー工業株式会社 画像形成装置及び記録媒体
JP5862259B2 (ja) * 2011-12-09 2016-02-16 ブラザー工業株式会社 表示制御装置、および、コンピュータプログラム
CN102855607A (zh) * 2012-07-18 2013-01-02 中国科学院自动化研究所 一种基于机器学习的遥感图像色彩校正方法
JP6433187B2 (ja) 2014-08-07 2018-12-05 キヤノン株式会社 情報処理装置、その制御方法およびコンピュータプログラム

Also Published As

Publication number Publication date
CN109729259A (zh) 2019-05-07
JP2019083445A (ja) 2019-05-30
US20190132565A1 (en) 2019-05-02
CN109729259B (zh) 2022-07-05
US10834370B2 (en) 2020-11-10

Similar Documents

Publication Publication Date Title
WO2019085792A1 (en) Image processing method and device, readable storage medium and electronic device
KR100658998B1 (ko) 화상 처리 장치, 화상 처리 방법, 및 그 프로그램을 기록한 컴퓨터로 읽을 수 있는 매체
US10602026B2 (en) Image processing apparatus, image processing method, and non-transitory computer readable medium
JP6977483B2 (ja) 画像処理装置、画像処理方法、画像処理システムおよびプログラム
CN104660905B (zh) 拍照处理方法及装置
WO2022151813A1 (zh) 电子设备、前置图像信号处理器及图像处理方法
US11544853B2 (en) Image processing apparatus and non-transitory computer readable medium for preparing color conversion model using color data
JP6915483B2 (ja) 画像処理装置、画像処理システムおよびプログラム
WO2013114803A1 (ja) 画像処理装置及びその画像処理方法、並びにコンピュータ・プログラム、および画像処理システム
JP6915482B2 (ja) 画像処理装置、画像処理システムおよびプログラム
JP2015192338A (ja) 画像処理装置および画像処理プログラム
JP6939455B2 (ja) 画像処理装置、画像処理方法、画像処理システムおよびプログラム
CN108132935B (zh) 图像分类方法及图像展示方法
JP6753145B2 (ja) 画像処理装置、画像処理方法、画像処理システムおよびプログラム
JP2002368982A (ja) 画像処理装置および画像処理方法および記録媒体
JP2010055404A (ja) 画像処理方法及び画像処理装置
CN113781330A (zh) 图像处理方法、装置及电子系统
JP6398860B2 (ja) 色補正装置、色補正方法及び色補正プログラム
KR20100069501A (ko) 영상 처리 방법 및 장치, 및 이를 이용한 디지털 촬영 장치
WO2013114802A1 (ja) 画像処理装置及びその画像処理方法、並びにコンピュータ・プログラム、および画像処理システム
JP2009239772A (ja) 撮像装置、画像処理装置、および画像処理方法、並びにプログラム
JP6590681B2 (ja) 画像処理装置、画像処理方法、及びプログラム
US11659149B2 (en) Image processing apparatus and non-transitory computer readable medium
JP2010197968A (ja) 合焦評価装置、カメラおよびプログラム
WO2013179923A1 (ja) 画像処理装置、画像処理方法、画像処理プログラムおよび撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200831

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210615

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210813

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211012

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211025

R150 Certificate of patent or registration of utility model

Ref document number: 6977483

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150