JP7057159B2 - 画像処理装置、画像処理方法およびプログラム - Google Patents

画像処理装置、画像処理方法およびプログラム Download PDF

Info

Publication number
JP7057159B2
JP7057159B2 JP2018037241A JP2018037241A JP7057159B2 JP 7057159 B2 JP7057159 B2 JP 7057159B2 JP 2018037241 A JP2018037241 A JP 2018037241A JP 2018037241 A JP2018037241 A JP 2018037241A JP 7057159 B2 JP7057159 B2 JP 7057159B2
Authority
JP
Japan
Prior art keywords
color
color space
image data
image
difference
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018037241A
Other languages
English (en)
Other versions
JP2019153900A (ja
Inventor
光洋 小野
萌美 浦野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018037241A priority Critical patent/JP7057159B2/ja
Priority to US16/287,511 priority patent/US10939018B2/en
Priority to EP19159977.8A priority patent/EP3534601B1/en
Priority to CN201910156684.7A priority patent/CN110225223B/zh
Publication of JP2019153900A publication Critical patent/JP2019153900A/ja
Application granted granted Critical
Publication of JP7057159B2 publication Critical patent/JP7057159B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6058Reduction of colour to a range of reproducible colours, e.g. to ink- reproducible colour gamut
    • H04N1/6063Reduction of colour to a range of reproducible colours, e.g. to ink- reproducible colour gamut dependent on the contents of the image to be reproduced
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6016Conversion to subtractive colour signals
    • H04N1/6019Conversion to subtractive colour signals using look-up tables
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00204Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a digital computer or a digital computer system, e.g. an internet server
    • H04N1/00244Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a digital computer or a digital computer system, e.g. an internet server with a server, e.g. an internet server
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6077Colour balance, e.g. colour cast correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/62Retouching, i.e. modification of isolated colours only or in isolated picture areas only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/0077Types of the still picture apparatus
    • H04N2201/0084Digital still camera

Description

本発明は、画像を処理する画像処理技術に関する。
ネットワークカメラなどに用いられる画像データは、国際電気通信連合無線通信部門(ITU-R)で作成された勧告BT.709などの規格に対応している。画像データは、このような標準化された規格に対応することにより、色空間の色域も定義される。ただし、定義された色空間の色域外の広色域の画像データは、規格にて定義された色空間の色域内にガマットマッピングされることとなる。ガマットマッピングの手法として、特許文献1には、特定色を維持しつつ、被写体の実物の色と被写体を表示装置に表示したときの色の全体の印象を合わせる方法が開示されている。
特開2016-178459号公報
しかしながら、特許文献1に開示された方法の場合、規格により定義された色空間の色域内にガマットマッピングする際に特定色を維持可能とはなされているが、例えば特定の色とその周辺の色との間の関係を維持できなくなることがある。このため、例えば規格に定義された色空間にガマットマッピングされた後に、特定の色と周辺の色とが区別できなくなったり、特定の色と周辺の色との関係がずれてしまったりすることがある。
そこで、本発明は、規格で定義された色空間へのマッピングが行われる場合でも、特定の色とその周辺の色との関係を維持可能にすることを目的とする。
本発明の画像処理装置は、第1の色空間の画像データを第2の色空間の画像データに変換する変換手段と、前記第1の色空間における特定の色と前記特定の色の周辺の色との差に基づいて前記変換手段における前記変換を制御する制御手段と、を有し、前記制御手段は、前記第1の色空間における前記特定の色と前記周辺の色との差を大きくするように、前記変換を制御することを特徴とする。
本発明によれば、規格で定義された色空間へのマッピングが行われる場合でも、特定の色とその周辺の色との関係を維持可能となる。
概略的なシステム構成例を示す図である。 撮像装置の概略構成例を示す図である。 ビューワクライアント装置の概略構成例を示す図である。 撮像装置の処理部のブロック図である。 基本の3DLUTによる色空間変換処理の説明に用いる図である。 画像キャプチャから3DLUT作成までのフローチャートである。 撮影画像と色指定の例を示す図である。 修正した3DLUTによる色空間変換処理の説明に用いる図である。 3DLUT作成のフローチャートである。
以下、本発明の好ましい実施形態を、添付の図面に基づいて詳細に説明する。
本実施形態では、画像処理装置の一適用例として、例えばネットワークに接続された監視カメラ等の撮像装置(ネットワークカメラとする。)により撮影された画像を処理する装置を挙げて説明する。なお、本実施形態の撮像装置は、ネットワークカメラに限らず、例えばデジタル一眼レフカメラ、ミラーレス一眼カメラ、コンパクトデジタルカメラ、カムコーダ、車載カメラ、医療用カメラ、工業用カメラ等であってもよい。その他にも、撮像装置は、タブレット端末、PHS、スマートフォン、フィーチャフォン、携帯ゲーム機などの携帯情報端末に搭載されている撮影デバイスでもよい。また、本実施形態の画像処理装置は、ネットワークカメラ等の撮像装置内に備えられてもよいし、撮像装置の制御や撮像装置から送信された画像データを受信して処理する専用の制御装置、パーソナルコンピュータ(PC)、携帯情報端末等に備えられていてもよい。
図1は、本実施形態のネットワークカメラシステムの概略構成例を示した図である。
図1に示すように、本実施形態のネットワークカメラシステムは、カメラサーバ110とビューワクライアント装置(以下、クライアント装置120とする。)とネットワーク130とにより構成されている。
カメラサーバ110は、カメラの他に、ネットワーク130に接続する通信装置をも有し、カメラによって撮影(撮像)した画像データを、ネットワーク130を介して送信する。また、カメラサーバ110は、画像データ以外のデータの通信も行うことができるように構成されている。なお、カメラは、サーバと分離されていてもよい。また、カメラは、静止画の撮影と動画像の撮影が可能となるように構成されている。
クライアント装置120は、ネットワーク130を介して、カメラサーバ110にアクセスし、カメラの各種設定の変更、当該カメラで撮像された画像データの受信等を行う。また本実施形態の場合、クライアント装置120は、ネットワーク130を介してカメラサーバ110から受信した画像データ或いは予め蓄積した画像データなどに対する各種処理や、その処理後の画像データに基づく画像の表示等をも行う。
ネットワーク130は、カメラサーバ110とクライアント装置120とを通信可能に接続するものであり、例えば、Ethernet(登録商標)等の通信規格を満足する複数のルータ、スイッチ、ケーブル等から構成されている。なお、本実施形態において、ネットワーク130は、カメラサーバ110とクライアント装置120との間の通信が支障なく行えるものであれば、その通信規格や規模、構成は問わない。したがって、ネットワーク130としては、インターネットから無線LAN等にいたるまで適用が可能である。
図2は、本実施形態のカメラサーバ110の構成例(主にカメラの構成)を示した図である。
図2において、図中の一点鎖線は光軸O1を示しており、光軸O1上には、対物レンズ201、フォーカスレンズ202、撮影レンズ203からなるレンズ光学系が配置され、さらに絞り204、フィルタ205、撮像素子206が配置されている。撮像素子206は、CCDまたはCMOSセンサにより構成され、レンズ光学系、絞り204、フィルタ205を通って撮像面上に結像された光学像を光電変換して画像信号を生成し、さらにアナログデジタル変換して出力する。撮像素子206から出力された画像データは、処理部207に送られる。処理部207の構成および動作の詳細については後述する。
また、撮像素子206から出力された画像データは、処理部207を介して、制御部208にも送られる。
制御部208には記録部209が接続されており、制御部208は、撮像素子206からの画像データを記録部209に記録させる。また、制御部208は、CPUを有していてもよい。この場合、制御部208のCPUは、例えば記録部209或いは不図示のROM等に保持されている制御プログラム等を実行することにより、カメラサーバ110における各種の機能動作を実現する。また、カメラサーバ110において信号処理に係る各要素の一部または全部の機能は、制御部208のCPUがプログラムを実行することで実現してもよい。また、カメラサーバ110の各要素のうち少なくとも一部が専用のハードウェアにより動作するようになされていてもよい。この場合、専用のハードウェアは、制御部208の制御に基づいて動作する。制御部208には、通信部210も接続されている。
通信部210にはネットワーク130が接続されている。通信部210は、撮影された画像データや撮影画像に関わるメタデータなどを、ネットワーク130を介してクライアント装置120に送信する。また、通信部210は、ネットワーク130を介して、クライアント装置120からのコマンドを受信し、制御部208へ伝えることが可能なように構成されている。さらに、通信部210は、不図示の外部ストレージや外部コンピュータ等の外部機器を制御部208に接続することも可能となされており、撮影画像をそれら外部機器へ転送可能となされている。なお、外部コンピュータ等の外部機器は、通信部210を介して制御部208にコマンドを送信することで、例えば撮影の開始や終了を指示することも可能であるとする。
図3は、本実施形態におけるクライアント装置120の概略構成例を示すブロック図である。
図3において、CPU301は、クライアント装置120における動作を統括的に制御するものである。ROM302は、CPU301が処理を実行するために必要な制御プログラム等を記憶する不揮発性メモリである。RAM303は、CPU301の主メモリ、ワークエリア等として機能する。すなわち、CPU301は、処理の実行に際してROM302から必要なプログラム等をRAM303にロードし、当該プログラム等を実行することで各種の機能動作や信号処理を実現する。クライアント装置120の各要素の一部または全部の機能は、CPU301がプログラムを実行することで実現することができる。ただし、クライアント装置120の各要素のうち少なくとも一部が専用のハードウェアにより動作するようになされていてもよい。この場合、専用のハードウェアは、CPU301の制御に基づいて動作する。
HDD304は、例えば、CPU301がプログラムを用いた処理を行う際に必要な各種データや各種情報等を記憶している。また、HDD304は、例えば、CPU301がプログラム等を用いた処理を行うことにより得られた各種データや各種情報等を記憶する。
操作入力部305は、不図示の電源ボタンやキーボード、マウス等の操作デバイスからの操作信号を取得する入力部である。
表示部307は、カメラサーバ110から取得した画像や、カメラサーバ110の各種制御パラメータ等を入力するためのGUI(グラフィカルユーザインタフェース)等を表示する。
通信部306は、クライアント装置120とネットワーク130との通信の処理を行う。具体的には、カメラサーバ110で撮影された画像データを、ネットワーク130を経由して受信する。また通信部306は、例えば操作入力部305を介して入力された操作信号に基づいてCPU301が生成したカメラ設定コマンド等を、ネットワーク130を介してカメラサーバ110へ送信し、そのレスポンスや画像データ以外の必要なデータの受信等も行う。
図4は本実施形態のカメラサーバ110における処理部207の内部構成例を示したブロック図である。
図4において、補正処理部401は、入力された画像データに対し、レンズ光学系の特性や撮像素子206のセンサ特性などに応じた補正を行う。
前処理部402は、入力された画像データに対し、ゲイン調整やノイズリダクション処理、WB(ホワイトバランス)の調整、シャープネス処理など、現像前の処理を行う。
記録処理部403は、前処理部402による前処理が終了した画像データや後述する現像処理部404による現像処理後の画像データをメモリ等に記録する。記録処理部403のメモリは、いわゆるSDカード等のような着脱可能な半導体メモリ等であってもよい。
後処理部405は、後述する現像処理後の画像データに対し、ノイズリダクション処理や色補正などの画像処理を行う。
現像処理部404は、撮像素子206より入力されたRAW画像データに対し、デモザイク処理、色空間圧縮を含むトーンカーブ処理、色空間変換処理などの現像処理を行う。現像処理部404の現像処理には、RAW画像が有する色空間(以下、RAW色空間とする。)の色を、カメラサーバ110が画像を送信する際の送信色空間である標準規格の色空間(以下、標準色空間とする。)に変換する色空間変換処理が含まれる。本実施形態において、現像処理部404の現像処理で行われる色空間変換処理には、後述するような色変換テーブル(3次元ルックアップテーブル、以下、3DLUTとする。)が用いられる。
本実施形態の場合、3DLUTは、制御部208による制御の下で、処理部207の現像処理部404に設定される。また本実施形態において、3DLUTは、基本の3DLUTが予め用意されているとする。そして本実施形態において、この現像処理部404に予め設定されている基本3DLUTは、必要に応じて修正可能となされており、基本3DLUTを修正することによって、現像処理部404の現像処理で行われる色空間変換処理が制御される。詳細は後述するが、基本3DLUTの修正は、クライアント装置120により行われてもよいし、クライアント装置120からの情報を基にカメラサーバ110の制御部208が処理部207を制御することにより行われてもよい。
ここで、3DLUTの生成処理の詳細説明を行う前に、本実施形態のようにカメラサーバ110のカメラにて撮影された画像をクライアント装置120に送信して表示する場合のユースケースと、その際に注意しなければならない点について説明する。
本実施形態では、一例として、特定の色とその周辺の色との差が重要視されるユースケースを挙げて説明する。特定色と周辺色との差が重要視されるユースケースとしては、例えば遊技場(カジノ等)で用いられているコインを監視カメラ等で撮影し、その撮影画像に写っているコインの色を基に、そのコインが正規品か模造品かを判定するようなケースが想定できる。このユースケースでは、カメラサーバ110の撮影画像における正規品のコインの色と模造品のコインの色との差が、クライアント装置120側でも維持されている必要があり、色の差が維持できていない場合には正規品と模造品の判定を誤る虞がある。他のユースケースとして、例えば農場の果実をカメラで撮影し、その撮影画像内の果実の色が成熟時の目標色か成熟前の色であるかを見ることで成熟度合いを判断するようなケースも想定可能である。このユースケースの場合も同様に、撮影画像における果実の成熟時の色と成熟前の色との差が、クライアント装置120側でも維持されている必要があり、色の差が維持できていない場合には果実の成熟度合いの判断を誤る虞がある。
一方で、カメラサーバ110から撮影画像をクライアント装置120に送信する場合、カメラサーバ110の現像処理部404では、撮影画像の色空間であるRAW色空間を、規格に定められた色空間である標準色空間に変換する色空間変換処理が行われる。このような色空間変換処理は3DLUTを用いて行われ、カメラサーバ110からクライアント装置120には、その色空間変換処理後の画像データが送信される。そして、このようにRAW色空間の撮影画像を3DLUTにより標準色空間の画像の色空間変換処理した場合、撮影画像における特定色と周辺色との差が、クライアント装置120側で維持できなくなることがある。
図5は、カメラサーバ110の現像処理部404において、予め設定されている基本3DLUTを用いた色空間変換処理が行われる場合の説明に用いる図である。図5は明度-彩度の色空間を表しており、カメラサーバ110のカメラ固有のRAW色空間701は図中実線で表され、標準色空間702は図中破線で表されている。
現像処理部404での色空間変換処理に用いる基本3DLUTは、カメラサーバ110のカメラ固有のRAW色空間701を標準色空間702に変換するための色変換テーブルであり、各RGB値は6グリッドで分けられているとする。ここで、基本3DLUTを用いた色空間変換処理では、入力となるRAW色空間701内の色のうち、標準色空間702の色域内で再現可能な色は、色空間変換処理後でもその色が一致するような処理が行われる。一方、基本3DLUTを用いた色空間処理において、入力となるRAW色空間701内の色のうち、標準色空間702の色域外にあって再現不可能な色は、標準色空間702の色域の境界部分にマッピングされる。
つまり、RAW色空間701内の色のうち、標準色空間702の範囲内の色は基本3DLUTを用いた色空間変換処理の入力色と出力色が一致するように変換されるが、標準色空間702の範囲外の色は標準色空間702の境界部分に圧縮されることになる。例えば、図5に示すように、RAW色空間701内のグリッドのうち、標準色空間702の範囲内にあるグリッド721は、基本3DLUTを用いた色空間変換処理により、グリッド721と略々同じ位置(つまり略々同じ色)のグリッド731となる。一方、RAW色空間701内のグリッドのうち、標準色空間702の範囲外にあるグリッド720は、基本3DLUTを用いた色空間変換処理の結果、標準色空間702の境界部分のグリッド730のように圧縮されるようになる。
このため、例えば撮影画像の特定色とその周辺色を含むグリッドの一部でも標準色空間の色域外にある場合、その色域外の色が標準色空間の境界部分に圧縮されるため、撮影画像の特定色と周辺色との差が、クライアント装置120側では維持できなくなる。すなわちこの場合、例えばカメラサーバ110において遊技場で用いられているコインを撮影して、クライアント装置120側でコインの色を見て正規品か模造品かを判定するようなユースケースでは正規品と模造品の判定を誤る虞がある。つまり、撮影画像の特定色とその周辺色との色の差が重要視されるユースケースでは、カメラサーバ110において撮影画像に色空間変換処理を行って送信する場合に、撮影画像における色の差が、クライアント装置120側で維持されることが必要となる。
そこで、本実施形態においては、色空間変換処理で用いられる基本3DLUTを、必要に応じて修正して色空間変換処理を行うことにより、撮影画像における特定色と周辺色との色の差がクライアント装置120側でも維持されるようにする。すなわち、本実施形態では、基本3DLUTを修正することで色空間変換処理を制御して、撮影画像における特定色と周辺色との色の差がクライアント装置120側でも維持されるようにする。
以下、図6から図9を参照して、本実施形態における3DLUTの生成処理、例えば基本3DLUTを修正することによる色空間変換の制御処理について詳細に説明する。基本3DLUTを修正する処理は、クライアント装置120が行ってもよいし、カメラサーバ110が行われてもよい。以下の説明では、クライアント装置120が基本3DLUTを修正する処理の例を挙げる。
先ず、図6のフローチャートを参照し、クライアント装置が3DLUTを必要に応じて修正する制御処理の例について説明する。この例では、クライアント装置120による制御の下、カメラサーバ110の処理部207の現像処理部404に予め設定されている基本3DLUTが修正される。なお、図6のフローチャートの説明では、ステップS501~S506をそれぞれS501~S506と略記する。このことは後述する他のフローチャートにおいても同様とする。図6の説明において、クライアント装置120側で行われる処理は、図3に示したROM302からRAM303にロードされたプログラムをCPU301が実行することにより行われるとする。また、カメラサーバ110側で行われる処理は、図2の制御部208が各部を制御することにより行われるとする。
図6のS501において、クライアント装置120のCPU301は、カメラサーバ110より送信された動画から画像をキャプチャする。ここで、カメラサーバ110からクライアント装置120に送信される動画のフレームは、現像処理部404において現像処理が行われた後の画像であり、S501においてCPU301は、その現像処理後の画像をキャプチャする。キャプチャ画像は、カメラサーバ110の現像処理部404における現像処理により色空間変換処理がなされた後の標準色空間の画像である。
図7は、S501においてキャプチャされた画像600の一例を示した図である。図7に示すように、キャプチャ画像600は、認識対象となる正規品の遊戯用のコイン601と、識別対象となる模造品の遊戯用のコイン604とが撮影された画像であるとする。
またクライアント装置120のCPU301は、キャプチャ画像のフレーム情報(例えばフレーム番号のように動画からキャプチャした画像を特定可能な情報)を画像要求コマンドと共に、通信部306を介してカメラサーバ110へ送信する。カメラサーバ110の制御部208は、通信部210を介して画像要求コマンドを受信すると、そのコマンドに含まれるフレーム情報を基に、クライアント装置120側でキャプチャされた画像を特定する。カメラサーバ110は、前述したように記録処理部403に現像処理前の画像を保持しており、制御部208は、それら保持されている現像処理前の画像の中から、クライアント装置120でキャプチャされた画像のフレーム情報に対応した画像を特定する。そして、制御部208は、その特定した現像処理前の画像データを、通信部210を介してクライアント装置120へ送信する。すなわち、このときカメラサーバ110からクライアント装置120へ送られる現像処理前の画像は、色空間変換処理がなされていないRAW色空間の画像である。クライアント装置120では、現像処理前の画像データを受信すると、その画像データをRAM303或いはHDD304に保持する。
次にS502において、クライアント装置120のCPU301は、S501でキャプチャした画像を用いて、認識対象である正規品のコイン601における認識対象色の位置を設定する。この場合、CPU301は、キャプチャ画像に対し、正規品のコイン601における認識対象の色領域603と、そのコイン601を囲むような例えば矩形のエリア602とを設定する。なお、エリア602の形状は矩形には限定されず、コイン601を囲むことができるのであれば他の形状でもよい。そして、CPU301は、設定した矩形エリア602内の認識対象の色領域603について、予め設定された変動範囲内の色を指定色として設定し、その指定色に含まれる色の各画素の領域を指定色エリアとしてRAM303或いはHDD304に保持する。変動範囲は、予め設定されていてもよいし、例えばクライアント装置120の表示部307のGUIを介してユーザにより任意に設定されてもよい。ユーザが変動範囲を設定可能な場合、ユーザによる変動範囲の設定に応じた指定色エリアを表示するようにし、ユーザが表示部307の表示を見ながら変動範囲を設定することで指定色エリアを指定できるように構成されていてもよい。
次にS503において、CPU301は、S501でキャプチャした画像を用いて、識別対象である模造品のコイン604についてもS502と同様の処理を行い、模造品のコイン604における識別対象の色領域606と矩形のエリア605とを設定する。さらに、CPU301は、S502と同様の処理により、変動範囲内の色を指定色として設定し、その指定色となっている色の各画素の領域を指定色エリアとして保持する。
このように、S502とS503の処理によって、キャプチャ画像に基づいた、認識対象である正規品のコイン601における指定色と、識別対象である模造品のコイン604における指定色とが、判定範囲の色情報として設定される。
次にS504において、CPU301は、広い色域における認識対象色と識別対象色の設定を行う。ここで、本実施形態において、広い色域とは、カメラサーバ110のカメラによるRAW画像が有するRAW色空間の色域に相当し、カメラサーバ110が画像を送信する際の送信色空間である標準色空間の色域に対して相対的に広い色域のことである。S504では、この広色域において、正規品のコイン601の認識対象色の設定と、模造品のコイン604の識別対象色の設定とが行われる。このため、CPU301は、S501でキャプチャ画像に対応してカメラサーバ110から取得した現像処理前のRAW画像を用い、S502及びS503と同様の処理を行うことにより、広色域における認識対象色と識別対象色とを設定する。
そして、このようにRAW画像に基づいて取得された、正規品のコイン601の広色域における色情報と、模造品のコイン604の広色域における色情報とが、前述したキャプチャ画像に基づく判定範囲の色に対して比較される色情報として設定される。当該比較に用いられる色情報は、例えばRAM303又はHDD304に保持され、後述するように基本3DLUTを修正する際に用いられる。なお、RAW画像を基に取得される色情報は、該当する指定色エリアのRGB値の平均値でもよいし、RAW画像のプロファイルを作成してXYZやL*a*b*空間に変換した情報でもよい。本実施形態の場合、この広色域における認識対象色は、例えばカメラの撮影画像の特定色とその周辺色との差が重要視されるユースケースにおける特定色に相当し、また当該広色域における識別対象色は、特定色に対する周辺色に相当する。
次のS505において、CPU301は、S502とS503の処理により取得された判定範囲の色情報と、S504の処理により取得された色情報とを基に、色域の判定を行う。例えば、CPU301は、S504でRAW画像から取得した色情報が、カメラサーバ110の送信色空間である標準色空間の範囲内にあるかどうかを判定する。そして、CPU301は、この色域判定の結果、S504で得られた色情報が標準色空間の範囲内(色域内)であると判定した場合には、この図5のフローチャートの処理を終了する。一方、CPU301は、S504で得られた色情報が標準色空間の範囲外(色域外)であると判定した場合には、S506に処理を進める。
なお、前述の説明では、画像を基に色情報を取得する例を挙げたが、例えば測色装置を用いて色を測定し、その測色値を用いて取得した色情報を基にS505までの処理が行われてもよい。
S506に進むと、カメラサーバ110の現像処理部404が現像処理の際に行う色空間変換処理で用いる3DLUTの生成処理が行われる。本実施形態の場合、現像処理部404に予め設定されている基本3DLUTが修正されることにより、色空間変換処理で用いられる3DLUTが生成される。S506における3DLUT生成処理は、クライアント装置120のCPU301により行われてもよいし、カメラサーバ110の制御部208による制御の下で処理部207により行われてもよい。このS506のLUT修正処理の詳細については後述する。
次に、図8と図9を参照して、図6のS506における基本3DLUTの修正による3DLUTの生成処理の詳細について説明する。ここでは、先に、クライアント装置120のCPU301により3DLUTが生成される例について説明する。カメラサーバ110の制御部208による制御の下で処理部207により3DLUTが生成される例については後に説明する。
図8は、基本3DLUTを修正した後の3DLUTによる色空間変換処理の説明に用いる図である。前述の図5と同様に、図8は明度-彩度の色空間を表しており、RAW色空間701は図中実線で表され、標準色空間702は図中破線で表されている。
ここで、図8の例では、RAW色空間701の前述した特定色である認識対象色をプロット910で示しており、このプロット910にて示された認識対象色は、標準色空間702の色域外になっているとする。また、前述した周辺色である識別対象色は、RAW色空間701のプロット910を含むグリッド(周辺グリッド920とする。)の範囲内の色であるとする。さらに、図8において、明度LTは、現像処理部404における色空間変換処理時のターゲットとなる明度を示しており、この例では50%明度の点としている。
本実施形態において、基本3DLUTを修正して生成される3DLUTは、図8のRAW色空間701におけるプロット910と周辺グリッド920を、標準色空間702においてプロット911と周辺グリッド921に変換するような3DLUTとなされる。すなわち修正後の3DLUTは、プロット910と周辺グリッド920を、プロット910と明度LTとを結ぶ直線上であって、標準色空間702の境界からプロット910と周辺グリッド920との色差に相当する分だけ離れた位置に変換するLUTとなされる。
図9は、図8で説明したように基本3DLUTを修正した3DLUTを生成する際の処理の流れを示したフローチャートである。図9のフローチャートの処理は、前述した図6のS506における基本3DLUTの修正による3DLUTの生成処理の詳細な処理である。
図9のS801において、クライアント装置120のCPU301は、前述したようにRAM303又はHDD304に保持している色情報を取得し、それらの色の差(保持色差とする。)を算出する。ここで色の差を算出するのに用いられる色情報は、前述のS504で取得されて保持されたRAW色空間における色情報である。したがって、S801では、RAW画像のRAW色空間(広色域空間)における正規品のコインと模造品のコインとの色の差が保持色差として算出されることになり、図8の例ではプロット910と周辺グリッド920との色差に相当する。なお、本実施形態において、色差としては例えばCIE ΔE1976の色空間における色差を用いるとするが、それ以外にもCIE ΔE1994やCIE ΔE2000などを用いてもよい。
次にS802において、CPU301は、特定色である認識対象色について基本3DLUTを用いた色空間変換処理を行う。図8の例の場合、プロット910における色空間変換処理後のプロットが得られることになる。
また次のS803において、CPU301は、周辺色である識別対象色について基本3DLUTを用いた色空間変換処理を行う。図8の例の場合、周辺グリッド920における色空間変換処理後の周辺グリッドが得られることになる。
さらに、CPU301は、S801で求めた保持色差と、S802とS803で求めた色空間変換処理後のプロットと周辺グリッドの色差とが、略々等しい位置関係となるプロットを、図8のプロット911として設定する。これにより、プロット910と周辺グリッド920の色差の関係を維持した変換を行うことができることになる。同様に、プロット911との色差が、S801で求めた保持色差より小さい周辺グリッドがある場合には処理を継続していく。
次にS804において、CPU301は、S803での色空間変換処理後のグリッドについてスムージング処理を行う。このスムージング処理では、S803までの処理によって位置が変更された周辺グリッドと、その周辺グリッドに隣接していて位置が変更されていないグリッドとの間にギャップが生じているため、それらギャップを無くして間隔が均等になるようにする。例えば、隣接していて位置が変更されていないグリッドについて、位置が変更された周辺グリッドとの間隔が均等になるように修正を行って、グリッド間のギャップを埋めていくようなスムージング処理を行う。
以上の処理により、図8のプロット910とグリッド920を、プロット910と明度LTとを結ぶ直線上であって、標準色空間702の境界から保持色差に相当する分だけ離れた位置のプロット911と周辺グリッド921に変換する処理が実現される。本実施形態では、基本3DLUTを、このような色空間変換処理を行う3DLUTに修正する。この修正後の3DLUTが、クライアント装置120からカメラサーバ110に送られ、処理部207の現像処理部404に設定される。
これにより、カメラサーバ110からは、RAW色空間における特定色である認識対象色と周辺色である識別対象色との色差を維持した、色空間変換処理後の画像が、クライアント装置120に送られることになる。したがって、色域の広い空間における特定の色とその周辺の色の差が重要視されるユースケース、例えば遊技場の監視カメラで撮影された画像のコインの色を基に正規品か模造品か判定するケースにおいて判定精度を高めることができる。
ここまでは、クライアント装置120が基本3DLUTを修正する例を説明したが、以下、クライアント装置120から保持色の情報を取得して、カメラサーバ110の制御部208による制御の下で処理部207が基本3DLUTを修正する例を説明する。ここでは、図6のS506において基本3DLUTを修正して3DLUTを生成する処理を、カメラサーバ110が行う場合の例について、図8のフローチャートを流用しながら説明する。
カメラサーバ110が基本3DLUTを修正する例の場合、図9のS801において、カメラサーバ110の制御部208は、クライアント装置120から前述のように保持されている色情報を取得する。カメラサーバ110の制御部208は、クライアント装置120から取得した色情報を基に前述同様にして保持色差を算出する。
次に、S802において、カメラサーバ110の制御部208は、処理部207に対し、前述のCPU301で行われたのと同様の色空間変換処理、つまり特定色である認識対象色の色空間変換処理を行わせる。また、制御部208は、S803において、処理部207に対し、前述同様に、周辺色である識別対象色の色空間変換処理を行わせる。そして、制御部208は、S801で求めた保持色差と、S802とS803で求めた色空間変換処理後のプロットと周辺グリッドの色差とが、略々等しい位置関係となるプロットを設定する。また前述同様に、制御部208は、プロット911との色差が、S801で求めた保持色差より小さい周辺グリッドがある場合には処理を継続していく。
次にS804において、制御部208は、処理部207に対し、前述同様の色空間変換処理後の周辺グリッドのスムージング処理を行わせる。そして、制御部208は、処理部207の現像処理部404に設定されている基本3DLUTを、前述同様に色空間変換処理を行う3DLUTに修正する。この修正後の3DLUTを用いることで、カメラサーバ110は、RAW色空間における特定色である認識対象色と周辺色である識別対象色との色差を維持した、色空間変換処理後の画像を、クライアント装置120に送ることができることになる。
前述した実施形態では、クライアント装置120において特定色と周辺色を指定したが、カメラサーバ110においてそれらの色の指定が行われてもよい。
また前述した実施形態では、特定色とその周辺色とを指定してそれらの色差を求めて3DLUTを生成する例を挙げたが、特定色との色差を指定して、その指定した色差を維持するような3DLUTを前述同様に生成して色空間変換処理を行うようにしてもよい。
前述した実施形態では、指定した特定色と周辺色との色差を維持可能な3DLUTを生成して色空間変換処理を行う例を挙げたが、特定色と周辺色との色の相対的な関係を維持しつつ色差が大きくなるような3DLUTを生成して色空間変換処理を行ってもよい。特定色と周辺色との色の相対的な関係を維持しつつ色差が大きくなるような3DLUTについても、前述同様に基本3DLUTを修正することにより生成可能である。このように特定色と周辺色との色差が大きくなるような色空間変換処理が行われた場合、特定色とその周辺色との差がより視認し易くなる。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
上述の実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。即ち、本発明は、その技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
110:カメラサーバ、120:ビューワクライアント装置、207:処理部、208:制御部、209:記録部、210:通信部、CPU:301、404:現像処理部

Claims (15)

  1. 第1の色空間の画像データを第2の色空間の画像データに変換する変換手段と、
    前記第1の色空間における特定の色と前記特定の色の周辺の色との差に基づいて前記変換手段における前記変換を制御する制御手段と、
    を有し、
    前記制御手段は、前記第1の色空間における前記特定の色と前記周辺の色との差を大きくするように、前記変換を制御することを特徴とする画像処理装置。
  2. 前記第1の色空間の画像データを生成する生成手段を有し、
    前記変換手段は、前記生成された前記第1の色空間の画像データを前記第2の色空間の画像データに変換することを特徴とする請求項1に記載の画像処理装置。
  3. 第1の色空間の画像データを撮像して第2の色空間の画像データに変換する撮像装置から、前記第2の空間の画像データを受信する画像処理装置であって、
    前記撮像装置が撮像した前記第1の色空間の画像データを取得する取得手段と、
    前記第1の色空間における特定の色と前記特定の色の周辺の色との差に基づいて、前記撮像装置における前記変換を制御する制御手段と、
    を有することを特徴とする画像処理装置。
  4. 前記制御手段は、前記第1の色空間における前記特定の色と前記周辺の色との差を維持するように、前記変換を制御することを特徴とする請求項に記載の画像処理装置。
  5. 前記制御手段は、前記第1の色空間における前記特定の色と前記周辺の色との差を大きくするように、前記変換を制御することを特徴とする請求項に記載の画像処理装置。
  6. 前記第1の色空間における前記特定の色を指定する第1の指定手段と、
    前記周辺の色を指定する第2の指定手段と、を有し、
    前記制御手段は、前記第1の指定手段により指定された前記特定の色と前記第2の指定手段により指定された前記周辺の色との色の差に基づいて前記変換を制御することを特徴とする請求項1から5のいずれか1項に記載の画像処理装置。
  7. 前記制御手段は、前記第1の指定手段にて指定された前記特定の色と前記第2の指定手段にて指定された前記周辺の色とが前記第1の色空間の範囲に収まり、かつ前記第2の色空間の範囲を超えている場合に、前記第1の色空間における前記特定の色と前記周辺の色との差に基づいた前記変換を行うことを特徴とする請求項6に記載の画像処理装置。
  8. 前記第1の色空間における特定の色を指定する第1の指定手段と、
    前記特定の色に対する色の差を指定する第2の指定手段と、を有し、
    前記制御手段は、前記第1の指定手段により指定された前記特定の色と前記第2の指定手段により指定された前記色の差とに基づいて前記変換を制御することを特徴とする請求項1から5のいずれか1項に記載の画像処理装置。
  9. 前記制御手段は、前記第1の色空間における特定の色と前記色の差とに基づいて、第1の色空間の画像データを第2の色空間の画像データに変換する際の基本のルックアップテーブルを修正し、
    前記第1の色空間の画像データの前記第2の色空間の画像データへの変換は前記ルックアップテーブルを基に行われることを特徴とする請求項1から8のいずれか1項に記載の画像処理装置。
  10. 前記制御手段は、前記基本のルックアップテーブルを、前記変換のターゲットとなる明度と、前記第1の色空間における前記特定の色とを結ぶ直線上であって、前記第2の色空間の境界から前記色の差の分だけ離れた色を、前記変換された後の前記第2の色空間の前記特定の色とするルックアップテーブルに修正することを特徴とする請求項9に記載の画像処理装置。
  11. 前記制御手段は、前記基本のルックアップテーブルを、前記変換された後の前記第2の色空間の前記特定の色との色の差が、前記第1の色空間における特定の色と前記周辺の色との差に等しくなる位置関係になるように、前記第2の色空間における前記周辺の色を設定するルックアップテーブルに修正することを特徴とする請求項10に記載の画像処理装置。
  12. 前記修正されたルックアップテーブルに基づいて前記変換が行われた前記第2の色空間におけるグリッドの間隔を均等にするスムージング処理を行う手段を有することを特徴とする請求項11に記載の画像処理装置。
  13. 画像処理装置の画像処理方法であって、
    第1の色空間の画像データを第2の色空間の画像データに変換する変換工程と、
    前記第1の色空間における特定の色と前記特定の色の周辺の色との差に基づいて前記変換工程における前記変換を制御する制御工程と、
    を有し、
    前記制御工程では、前記第1の色空間における前記特定の色と前記周辺の色との差を大きくするように、前記変換を制御することを特徴とする画像処理方法。
  14. 第1の色空間の画像データを撮像して第2の色空間の画像データに変換する撮像装置から、前記第2の空間の画像データを受信する画像処理装置の画像処理方法であって、
    前記撮像装置が撮像した前記第1の色空間の画像データを取得する取得工程と、
    前記第1の色空間における特定の色と前記特定の色の周辺の色との差に基づいて、前記撮像装置における前記変換を制御する制御工程と、
    を有することを特徴とする画像処理方法。
  15. コンピュータを、請求項1から12のいずれか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
JP2018037241A 2018-03-02 2018-03-02 画像処理装置、画像処理方法およびプログラム Active JP7057159B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2018037241A JP7057159B2 (ja) 2018-03-02 2018-03-02 画像処理装置、画像処理方法およびプログラム
US16/287,511 US10939018B2 (en) 2018-03-02 2019-02-27 Image processing apparatus, image processing method, and storage medium
EP19159977.8A EP3534601B1 (en) 2018-03-02 2019-02-28 Image processing apparatus, image processing method, and storage medium
CN201910156684.7A CN110225223B (zh) 2018-03-02 2019-03-01 图像处理设备及其控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018037241A JP7057159B2 (ja) 2018-03-02 2018-03-02 画像処理装置、画像処理方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2019153900A JP2019153900A (ja) 2019-09-12
JP7057159B2 true JP7057159B2 (ja) 2022-04-19

Family

ID=65635552

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018037241A Active JP7057159B2 (ja) 2018-03-02 2018-03-02 画像処理装置、画像処理方法およびプログラム

Country Status (4)

Country Link
US (1) US10939018B2 (ja)
EP (1) EP3534601B1 (ja)
JP (1) JP7057159B2 (ja)
CN (1) CN110225223B (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10841458B2 (en) * 2018-03-02 2020-11-17 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and storage medium

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009038593A (ja) 2007-08-01 2009-02-19 Canon Inc 色処理装置およびその方法
JP2015115833A (ja) 2013-12-12 2015-06-22 ソニー株式会社 画像処理システムおよび画像処理方法

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002218271A (ja) 2001-01-19 2002-08-02 Sharp Corp 画像処理装置、画像形成装置、並びに画像処理方法
JP4666274B2 (ja) * 2001-02-20 2011-04-06 日本電気株式会社 カラー画像処理装置及びその方法
JP4329271B2 (ja) * 2001-03-22 2009-09-09 コニカミノルタビジネステクノロジーズ株式会社 画像処理装置、画像形成装置、および画像処理方法
US7830550B2 (en) * 2006-08-07 2010-11-09 Samsung Electronics Co., Ltd. Image converting method and apparatus, and image forming apparatus having the same
US20100328343A1 (en) * 2008-01-24 2010-12-30 Natsuki Saito Image signal processing device and image signal processing program
JP5446474B2 (ja) 2009-05-29 2014-03-19 ソニー株式会社 情報処理装置および方法、並びにプログラム
JP5627215B2 (ja) * 2009-11-04 2014-11-19 キヤノン株式会社 画像処理装置及びその制御方法
CN103002193B (zh) * 2012-09-29 2015-06-03 天津科技大学 数字图像调整系统和方法
JP5406998B1 (ja) * 2013-03-07 2014-02-05 Eizo株式会社 色調整装置、画像表示装置、及び色調整方法
JP6011558B2 (ja) * 2014-02-06 2016-10-19 コニカミノルタ株式会社 色合せ精度の検証方法、画像形成システム用プログラム、および画像形成システム用プログラムを記録した記録媒体
KR102190233B1 (ko) 2014-10-06 2020-12-11 삼성전자주식회사 영상 처리 장치 및 이의 영상 처리 방법
JP6485146B2 (ja) 2015-03-19 2019-03-20 富士ゼロックス株式会社 色変換情報生成装置及びプログラム
US10819882B2 (en) * 2018-02-28 2020-10-27 Panasonic Intellectual Property Management Co., Ltd. Image processing device and imaging apparatus

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009038593A (ja) 2007-08-01 2009-02-19 Canon Inc 色処理装置およびその方法
JP2015115833A (ja) 2013-12-12 2015-06-22 ソニー株式会社 画像処理システムおよび画像処理方法

Also Published As

Publication number Publication date
EP3534601B1 (en) 2021-12-22
US20190273842A1 (en) 2019-09-05
EP3534601A1 (en) 2019-09-04
CN110225223B (zh) 2022-03-25
JP2019153900A (ja) 2019-09-12
US10939018B2 (en) 2021-03-02
CN110225223A (zh) 2019-09-10

Similar Documents

Publication Publication Date Title
JP6129119B2 (ja) 画像処理装置、画像処理システム、撮像装置、および画像処理方法
JP2020166628A (ja) 画像処理方法、画像処理装置、プログラム、画像処理システム、および、学習済みモデルの製造方法
JP4533287B2 (ja) 色処理方法およびその装置
US10600170B2 (en) Method and device for producing a digital image
JP7057159B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2015231052A (ja) 撮像装置および方法、並びにプログラム
JP2010026734A (ja) 画像処理装置およびその方法
JP2009100302A (ja) 画像処理装置、画像処理方法、プログラム、撮像装置、及び撮像方法
JP5962169B2 (ja) デジタルカメラ、色変換プログラムおよび記録制御プログラム
US10217196B2 (en) Image processing apparatus having image refocusing function, control method for image processing apparatus, and storage medium
JP7286328B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP6257319B2 (ja) 撮像装置および画像処理装置
JP2022045567A (ja) 撮像制御装置、撮像制御方法、及びプログラム
JP5952573B2 (ja) 画像処理装置およびその制御方法
JP2020191546A (ja) 画像処理装置、画像処理方法、およびプログラム
EP3534344B1 (en) Image processing apparatus, image processing method and program
JP2014236226A (ja) 画像処理装置および画像処理方法
JP5539561B2 (ja) 画像処理装置およびその方法
JP2019165398A (ja) 画像処理装置、画像処理方法及びプログラム
JP5574015B2 (ja) 画像処理装置、電子カメラおよび画像処理プログラム
JP2016170637A (ja) 画像処理装置および画像処理方法
JP6039726B2 (ja) 撮像装置及びその制御方法
JP2021078051A (ja) 画像処理装置および画像制御方法、プログラム、並びに記憶媒体
JP2018088618A (ja) 撮像装置
JP6292870B2 (ja) 画像処理装置、画像処理方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210226

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220308

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220407

R151 Written notification of patent or utility model registration

Ref document number: 7057159

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151