JP7075271B2 - 画像処理装置、情報表示装置、制御方法、及びプログラム - Google Patents

画像処理装置、情報表示装置、制御方法、及びプログラム Download PDF

Info

Publication number
JP7075271B2
JP7075271B2 JP2018081737A JP2018081737A JP7075271B2 JP 7075271 B2 JP7075271 B2 JP 7075271B2 JP 2018081737 A JP2018081737 A JP 2018081737A JP 2018081737 A JP2018081737 A JP 2018081737A JP 7075271 B2 JP7075271 B2 JP 7075271B2
Authority
JP
Japan
Prior art keywords
image
output range
range
area
output
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018081737A
Other languages
English (en)
Other versions
JP2019191767A (ja
Inventor
萌美 浦野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018081737A priority Critical patent/JP7075271B2/ja
Priority to EP19168311.9A priority patent/EP3557862B1/en
Priority to CN201910302867.5A priority patent/CN110392205B/zh
Priority to US16/386,666 priority patent/US10887511B2/en
Publication of JP2019191767A publication Critical patent/JP2019191767A/ja
Application granted granted Critical
Publication of JP7075271B2 publication Critical patent/JP7075271B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G06T5/90
    • G06T5/94
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/30Arrangements for executing machine instructions, e.g. instruction decode
    • G06F9/30003Arrangements for executing specific machine instructions
    • G06F9/3004Arrangements for executing specific machine instructions to perform operations on memory
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration by the use of histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/661Transmitting camera control signals through networks, e.g. control via the Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/743Bracketing, i.e. taking a series of images with varying exposure conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10144Varying exposure

Description

本発明は、画像の調整技術に関する。
近年、ネットワークカメラを利用した監視システムが広く普及している。ネットワークカメラは、大規模な公共機関や量販店などにおける監視カメラ等、幅広い用途で利用されており、屋内および屋外などの照度差の大きな環境や照明が異なる環境等での撮影が行われることが想定される。特許文献1には、撮影するシーンに応じて、ガンマ補正やゲイン補正を行う技術が開示されている。
特開2004-056568号公報
しかし、特許文献1に記載の技術では、1つの画像内に輝度が大きく異なる領域が存在する場合、明度と色再現とを両立できず視認性が落ちる場合がありうるという課題があった。
本発明は、上記課題に鑑みなされたものであり、1つの画像内に輝度が大きく異なる領域が存在する場合にその領域内の被写体の視認性を高める技術を提供する。
本発明の一態様による画像処理装置は、1つのシーンを撮像した画像の輝度値の分布に基づいて、前記画像に含まれる領域を分類する分類手段と、分類された領域の中から処理対象の領域の選択を受け付ける受付手段と、前記選択された領域の画素の輝度値の入力範囲に対する第1の出力範囲を、当該領域が選択されていない場合の第2の出力範囲と比して広く拡張する拡張手段と、輝度値の出力範囲が前記第1の出力範囲に拡張された、前記選択された領域を少なくとも含んだ画像を出力する出力手段と、を有する。
本発明によれば、1つの画像内に輝度が大きく異なる領域が存在する場合にその領域内の被写体の視認性を高めることができる。
システムの構成例を示す図である。 カメラサーバの構成例を示すブロック図である。 ビューワクライアントの構成例を示すブロック図である。 カメラサーバの画像処理部の機能構成例を示すブロック図である。 カメラサーバの処理の流れの第1の例を示すフローチャートである。 ビューワクライアントの処理の流れの第1の例を示すフローチャートである。 撮像されたシーンの例を示す図である。 撮像されたシーンの輝度に関するヒストグラムの例を示す図である。 ガンマカーブを概念的に説明する図である。 撮像されたシーンのマップ化を説明する図である。 設定ごとの入力範囲と出力範囲の関係を説明する図である。 (A)ユーザ操作画面の例と、(B)WDR処理後の画像の例を示す図である。 自動設定による入力範囲と出力範囲の関係を説明する図である。 互いに異なる露出で撮影された画像の輝度に関するヒストグラムの例を示す図である。 露出が異なる複数の画像の合成処理を説明するための図である。 露出が異なる複数の画像に適用されるガンマ値と合成処理を説明する図である。
以下、本発明の実施の形態について、添付の図面を参照しながら詳細に説明する。なお、以下の説明は一例に過ぎず、本発明を以下の実施の形態に限定することは意図されていない。すなわち、本発明の趣旨を逸脱しない範囲で、以下の実施形態に対して様々な変更及び変形がなされうる。
(システム構成)
図1に、本実施形態に係るネットワークカメラシステム100の構成例を示す。本システムは、カメラサーバ110とビューワクライアント120とを含んで構成される。なお、カメラサーバ110とビューワクライアント120は、ネットワーク130を介して接続される。カメラサーバ110は、ネットワーク130を介して、ネットワークカメラによって撮影(撮像)された画像の画像データを配信する。ビューワクライアント120は、ネットワーク130を介してカメラサーバ110にアクセスする。そして、ビューワクライアント120は、カメラの設定の変更、そのカメラでの撮像によって得られた画像データの処理、又は蓄積された画像データ等の処理を実行し、処理後の画像データに基づいて画像を表示する。ネットワーク130は、カメラサーバ110とビューワクライアント120とを通信可能に接続する。ネットワーク130は、例えば、イーサネット(登録商標)等の通信規格に従って動作する、1つ以上のルータ、スイッチ、ケーブル等を含んで構成される。なお、ネットワーク130は、カメラサーバ110とビューワクライアント120との間の通信を実行可能である限りにおいて、その通信規格や規模、構成が限定されない任意のネットワークでありうる。すなわち、ネットワーク130は、インターネット/イントラネット、WAN/LAN、有線/無線等のいずれが用いられてもよい。なお、カメラサーバ110はネットワークカメラと異なる撮像装置に対応してもよい。例えば、デジタル一眼レフカメラ、ミラーレス一眼カメラ、コンパクトデジタルカメラ、カムコーダ、タブレット端末、PHS、スマートフォン、フィーチャフォン、携帯ゲーム機等の撮像機能を有する任意の装置が撮像した画像の画像データが配信されうる。
(装置構成)
続いて、カメラサーバ110及びビューワクライアント120の構成例について説明する。図2は、カメラサーバ110の構成例を示すブロック図である。カメラサーバ110は、一例において、撮像光学系201、撮像素子部202、CPU203、ROM204、RAM205、撮像系制御部206、画像処理部207、エンコーダ部208、及び通信部209を含んで構成される。なお、CPUはCentral Processing Unitの、ROMはRead Only Memoryの、RAMはRandom Access Memoryの、頭字語である。
撮像光学系201は、対物レンズ、ズームレンズ、フォーカスレンズ、光学絞り等を含んで構成され、被写体の光情報を撮像素子部202へ集光する。撮像素子部202は、撮像光学系201によって集光された光情報を電流値(電気信号)へと変換する素子であるCCDまたはCMOSセンサを含み、カラーフィルタ等を用いることによって色情報を取得するように構成される。また、撮像素子部202は、すべての画素に対して、任意の露光時間を設定可能な撮像センサでありうる。
CPU203は、各構成の処理の全てに関係し、ROM204やRAM205に格納された命令を順次に読み込んで解釈し、その結果に従って処理を実行する。なお、CPU203はプロセッサの一例であり、MPU(Micro Processing Unit)や、ASIC(特定用途向け集積回路)等の他のプロセッサがこれに代えて又はこれに加えて用いられてもよい。また、特定の処理を実行するようにプログラミングされたFPGA(フィールドプログラマブルゲートアレイ)等のゲートアレイ回路が、CPU203に代えて又はこれに加えて用いられてもよい。また、ROM204及びRAM205に代えて又はこれらに加えて、他のメモリや記憶デバイスが用いられてもよい。すなわち、カメラサーバ110は、1つ以上の任意のプロセッサと1つ以上の任意のメモリ/記憶装置を含んで構成されうる。
撮像系制御部206は、撮像光学系201に対して、フォーカスを合わせるためのフォーカスレンズの駆動、絞りの調整等の制御を行う。また、撮像系制御部206は、撮像素子部202に対して、露光時間の異なる複数の画像を取得するための制御を行う。なお、この制御は、例えばCPU203からの指示によって実行される。絞りの駆動制御は、例えば、プログラムAutomatic Exposure(AE)、シャッター速度優先AE、絞り優先AE等の、ユーザが設定した撮影モードにより指定されるAE機能に基づいて計算された露出値に基づいて行われる。また、撮像系制御部206は、(必要に応じてAE制御と共に)Autofocus(AF)制御を行う。AF制御には、アクティブ方式、位相差検出方式、コントラスト検出方式等が適用される。なお、この種のAEおよびAFの構成および制御については周知であるため、ここでの詳細な説明は省略する。
画像処理部207は、撮像素子部202において生成された電気信号を取得し、その電気信号に対して後述の画像処理を行うことにより、輝度信号Yと色差信号Cb及びCrとを生成する。エンコーダ部208は、画像処理部207によって処理された画像データを、JpegやH.264などの所定のフォーマットに変換する処理を行う。通信部209は、カメラサーバ110とネットワーク130との間の通信の処理を行う。カメラサーバ110は、通信部209を介して、画像処理部207及びエンコーダ部208によって処理された画像データを出力し、その画像データはネットワーク130を介してビューワクライアント120へ配信される。また、カメラサーバ110は、通信部209及びネットワーク130を介して、ビューワクライアント120からのカメラ操作コマンドや指定領域のガンマ特性の選択結果の情報を受信し、それらに対する応答や画像データ以外の必要なデータの送信を行う。
図3は、ビューワクライアント120の構成例を示すブロック図である。ビューワクライアント120は、一例において、CPU301、ROM302、RAM303、HDD304、操作入力部305、通信部306、及び表示部307を含んで構成される。なお、HDDはハードディスクドライブのことを示す。
CPU301は、ビューワクライアント120における動作を統括的に制御する。なお、CPU301はプロセッサの一例であり、MPUやASIC等の他のプロセッサがこれに代えて又はこれに加えて用いられてもよい。また、特定の処理を実行するようにプログラミングされたFPGA(フィールドプログラマブルゲートアレイ)等のゲートアレイ回路が、CPU301に代えて又はこれに加えて用いられてもよい。ROM302は、CPU301が処理を実行するために必要な制御プログラム等を記憶する不揮発性メモリである。RAM303は、CPU301の主メモリ、ワークエリア等として機能するメモリである。すなわち、CPU301は、処理の実行に際して、例えばROM302から必要なプログラム等をRAM303にロードし、そのプログラム等を実行することによって各種の処理を実行する。HDD304は、例えば、CPU301がプログラムを用いた処理を行う際に必要な各種データや各種情報等を記憶する。また、HDD304には、例えば、CPU301がプログラム等を用いた処理を行うことにより得られた各種データや各種情報等が記憶される。
操作入力部305は、電源ボタン、キーボード、マウス等の操作デバイスを通じてユーザ操作の入力を受け付ける入力受付部である。通信部306は、ビューワクライアント120とネットワーク130との間の通信のための処理を行う。例えば、ビューワクライアント120は、通信部306を用いて、また、ネットワーク130を経由して、撮影された画像についての画像データを受信する。また、ビューワクライアント120は、通信部306を用いて、ネットワーク130を介して、カメラ操作コマンドをカメラサーバ110へ送信し、そのレスポンスや画像データ以外の必要なデータを受信する。表示部307は、情報をユーザに提示するための、ディスプレイやLED(発光ダイオード)等の視覚的な出力デバイスを含んで構成される。また、表示部307は、音声によって情報を提示する音声出力デバイスや振動によって情報を提示する振動デバイス等のうちの1つ以上を含んで構成されてもよい。例えば、表示部307は、カメラサーバ110の各種制御パラメータ入力のためのGUI等を表示する。
なお、ビューワクライアント120の各要素の一部または全部の機能は、CPU301がプログラムを実行することで実現することができる。ただし、ビューワクライアント120の各要素のうち少なくとも一部が専用のハードウェアによって実現されてもよい。なお、この場合に、その専用のハードウェアがCPU301の制御に基づいて動作するように構成されうる。
以下では、上述の、カメラサーバ110の画像処理部207の機能構成のいくつかの例と、処理の流れの例について説明する。
(画像処理部の構成)
図4に、画像処理部207の機能構成の第1の例を示す。画像処理部207は、その機能として、現像処理部400とダイナミックレンジ拡張処理部420とを有する。現像処理部400は、例えば、光学補正部401、センサ補正部402、ゲイン調整部403、NR処理部404、WB調整部405、ガンマ補正部406、シャープネス処理部407、色処理部408、及びアトリビュート生成部409を含む。ダイナミックレンジ拡張処理部420は、例えば、ヒストグラム解析処理部421、マップ作成処理部422、ガンマ調整部423、及びWDR合成処理部424を含む。
現像処理部400は、撮像素子部202から入力された画像データに対して、各機能部における処理を施す。すなわち、光学補正部401はレンズ等の光学系の補正を行い、センサ補正部402はセンサの補正を行い、ゲイン調整部403はゲイン調整を行い、NR処理部404はノイズリダクション(NR)処理を行う。また、WB調整部405はホワイトバランス(WB)の調整を行い、ガンマ補正部406はガンマ補正を行い、シャープネス処理部407はシャープネス処理を行い、色処理部408は色処理を行う。現像処理部400の出力は、メモリ440に蓄積される。アトリビュート生成部409は、画素の輝度に応じて、画像処理を変えるためのアトリビュート情報を各画像処理部に伝達する。各処理部は伝達された処理情報に対して処理パラメータを変更することが可能なように構成される。例えば、輝度のしきい値Ythが不図示のアトリビュート生成部に設定される。アトリビュート設定部は、処理画素ごとの輝度を閾値Ythと比較し、閾値よりも大きいか否かを画素の輝度情報にアトリビュートの情報として付加する。光学補正部401~色処理部408は、このアトリビュートの情報を参照し、各モジュールが有する処理パラメータを変更することができる。
ヒストグラム解析処理部421は、現像された画像の輝度についてヒストグラム解析を行い、輝度の分布を取得する。マップ作成処理部422は、ヒストグラム解析処理部421による解析結果に基づいて、例えば、現像された画像の全体の輝度と比して特異な輝度値を有する領域を特定したマップ情報を生成する。ガンマ調整部423は、ビューワクライアント120からの指示に応じて、画像のうちの少なくとも一部の領域についてのガンマ補正時のガンマ値を調整する。WDR合成処理部424は、互いに異なる露出で取得された複数の画像を合成する合成処理を実行することにより、ダイナミックレンジが拡大された画像を生成する。
(処理の流れ)
続いて、カメラサーバ110(画像処理部207)及びビューワクライアント120が実行する処理の流れの例について説明する。
[処理例1]
図5は、カメラサーバ110が実行する処理の流れの例を示しており、図6は、ビューワクライアント120が実行する処理の流れの例を示している。
まず、ビューワクライアント120において、例えばユーザ操作によって、調整指示が受け付けられる(S601)。なお、調整指示は、例えば所定のアプリケーションの設定に基づいて、ユーザ操作によらずに自動的に受け付けられてもよい。例えば、監視カメラのアプリケーションにおいて、撮像される領域中に他の部分と比較して照度差が大きい領域が発生しやすい時間帯に、自動的に調整指示がなされるような設定がなされてもよい。ビューワクライアント120は、調整指示を受け付けると、カメラサーバ110に対して、調整指示があったことを通知する。カメラサーバ110の画像処理部207は、この通知に応じて、図5の処理を実行する。なお、カメラサーバ110は、ビューワクライアント120からの指示を受けることなく、画像を配信するように構成されうる。このような指示がない場合は、カメラサーバ110は、後述のS501、S502、S507及びS508の処理のみを実行しうる。
画像処理部207は、撮像素子部202から出力された画像データを取得し(S501)、上述の現像処理部400において各種処理を施す(S502)。このとき、画像処理部207は、S501において、露光時間の異なる複数の画像を取得する。そして、画像処理部207は、取得した画像データ(露光時間の異なる複数の画像のそれぞれ)について、ヒストグラム解析を行う(S503)。ここで、ヒストグラム解析について、図7及び図8を用いて説明する。
図7は、窓の外の領域701と室内の領域702とが含まれる範囲が撮影されたシーンの一例を示している。このとき、例えば、日中は、領域701の照度値が高く領域702の照度値が低い傾向があり、夜間は領域701の照度値が低く領域702の照度値が高い傾向がある。このような照度差のあるシーンの場合に撮像された画像の輝度値についてのヒストグラムを作成すると、例えば図8のようになる。このヒストグラムは、図8に示すように、例えば日中において相対的に照度値の低い室内の領域702に対応するピーク802と、相対的に照度値の高い窓の外の領域701に対応するピーク801を有しうる。また、このヒストグラムは、ピーク801とピーク802との間に度数の低い範囲803を含みうる。このように、室内環境と屋外環境とが同時に撮像される場合等、撮像された画像の一部の領域の輝度値が他の領域の輝度値と大きく異なる場合、図8のように輝度値の度数分布が二極化しうる。画像処理部207は、マップ作成処理部422により、このヒストグラム解析の結果を用いて、撮像シーンについてピーク801に属する領域とピーク802に属する領域とをマッピングした画像を生成する。例えば、マップ作成処理部422は、画像全体を、ヒストグラムに基づいて複数の領域に分割する。一例において、1920pixel×1080pixelのサイズを有する処理画像がそれぞれ64pixel×36pixelの900個のブロックに分割され、輝度値によって各ブロックが分類される。例えば、図8のようなヒストグラムに基づいて、各ブロックが、ピーク801及びピーク802のいずれの側の分布に属するかが判定される。例えば、マップ作成処理部422は、範囲803における所定値を閾値として、その閾値よりも輝度が高い画素数が所定比率以上(例えばブロック内の画素数の2/3以上)であるブロックと、それ以外のブロックとに分類しうる。この結果得られる画像の例を図10に示す。図10の例では、屋外に対応する部分が明るいため、その部分とそれ以外とが区別可能なように分類されている。マップ作成処理部422は、作成したマップ情報(例えば図10の画像または各ブロックがどのように分類されたかを示すテーブル等の情報)をメモリ440へ格納する。また、カメラサーバ110は、このマップ情報をビューワクライアント120へ送信する。
ビューワクライアント120は、このマップ情報を受信して、各領域がヒストグラムの2つのピークのいずれに属するかを図10のように区別して表示する。これにより、調整する領域をユーザが選択可能となるように、画像が表示される(S602)。ビューワクライアント120は、一例において、2つに分類された領域のうち、領域のサイズが小さい方が判別可能となるように表示してもよい。なお、カメラサーバ110が、このようなサイズが小さい方の領域の情報をマップ情報として通知し、サイズが大きい方の領域(調整対象としない領域)についてはマップ情報として通知しないようにしてもよい。また、ここでは、図8のような2つのピークのいずれに属するかを区別して表示するものとするが、ヒストグラムにおいて3つ以上のピークが生じた場合に、それぞれのピークに対応する領域を判別可能に表示してもよい。また、この場合には、複数の分類された領域のうち、サイズが小さい方から所定数の領域を判別可能に表示し、その他の領域については特段の表示を行わなくてもよい。そして、ビューワクライアント120は、調整対象とする領域を指定するユーザ操作を受け付ける(S603)。ビューワクライアント120は、このユーザ操作によって指定された領域を特定する情報をカメラサーバ110へ送信する。
カメラサーバ110は、S501で取得した露光時間がそれぞれ異なる複数の画像のうち、調整対象として指定された領域に対応する露出の画像を選択する(S504)。例えば、図8のピーク801に対応する領域701が調整対象として選択された場合、すなわち、他の領域と比べて照度が高い領域が調整対象として選択された場合、カメラサーバ110は、その領域の撮影に対して適切な露光時間の短い画像を選択する。一方、他の領域と比べて照度が低い領域が調整対象として選択された場合、カメラサーバ110は、露光時間の長い画像を選択する。
ビューワクライアント120は、続いて、調整レベルの指定を受け付け(S604)、カメラサーバ110へ指定された調整レベルの情報を通知する。なお、ビューワクライアント120は、調整レベルの指定を受け付けていない場合は、この情報をカメラサーバ110へ通知しなくてもよいし、指定が受け付けられていないことを示す情報をカメラサーバ110へ通知してもよい。なお、調整レベルの自動選択後に、ユーザ操作によってその選択結果がキャンセルされた場合、指定が受け付けられていないことを示す情報がカメラサーバ110へ通知されるようにしてもよい。この通知は、カメラサーバ110を操作するためのコマンドとして送信されうる。調整レベルの指定は、ユーザ操作を受け付けることや、所定のアプリケーション等による自動指定を受け付けることによって行われうる。図12(A)に、調整レベルの指定を受け付けるためのグラフィカルユーザインタフェースの例を示す。図12(A)の例では、ダイナミックレンジを拡大するWDR(Wide Dynamic Range)の調整処理をオンとするかオフとするかを選択可能とする項目と、その調整処理のレベル(WDRレベル)を選択可能とする項目とが表示される。なお、WDRレベルは、領域1202に示すようにスライドバーで強弱を設定できるようにしてもよいし、領域1203に示すように数段階のレベル設定のいずれかを選択できるようにしてもよい。なお、図12(A)では、領域1202及び領域1203が共に表示されているような図解がなされているが、これらのいずれか一方のみが表示されてもよい。また、これら以外の手法が用いられてもよい。例えば、WDRレベルを表す数値を入力可能なように構成されてもよい。本実施形態では、WDRがオンとされることによって、後述の処理が実行される。WDRレベルは、調整対象の領域の出力範囲をどの程度拡張するかを示す。WDRレベルが大きいほど、調整対象の領域の出力範囲が広く拡張される。
ここで、本実施形態に係るWDR処理を実行する場合の入力と出力との関係について、図11を用いて説明する。図11は、入力される画素の輝度値と出力の輝度値との関係を示している。本実施形態に係るWDR処理では、選択されていない領域702に関しては、通常の手順で入力と出力との関係が定められる。すなわち、本処理例では、輝度値の低い画素(暗い場所に対応する画素)については、従来のWDR処理を施す場合と同様に、直線(X)で示すような入力に対する出力が決定される。一方、処理対象として選択された領域701については出力の範囲を拡張する。すなわち、図11の(1)~(3)に示すように、処理対象の画像領域の画素の多くについての輝度値が含まれる輝度値の所定の範囲について、その所定の範囲内の輝度値の画素を入力とした場合の出力範囲が拡張される。すなわち、所定の範囲のうちで輝度値が低い画素について、出力画素の輝度値が下げられる。一方、所定の範囲のうちで輝度値が高い画素が入力された場合は、従来のWDR処理が施される場合と同程度の輝度値の画素が出力される。このとき、WDRレベルが高い場合、輝度値が相対的に低い画素について、出力の輝度値をより低くするようにする。すなわち、WDRレベルが高い場合は例えば図11の(3)のような出力が用いられ、WDRレベルが低い場合は例えば図11の(1)のような出力が用いられる。なお、図11には、3つのWDRレベルが規定される場合の例を示しているが、WDRレベルは2段階で規定されてもよいし、4つ以上の段階で規定されてもよい。
入力輝度値についての上述の所定の範囲は、S503のヒストグラム解析によって決定される。例えば、本実施形態では、図8のように2つの分布のピーク(ピーク801及びピーク802)に挟まれた範囲803を境界として、領域701が選択された場合にピーク801側が含まれる範囲が、所定の範囲として決定される。なお、領域702が選択された場合にはピーク802側が含まれる範囲が、所定の範囲として決定されてもよい。この場合、例えば所定の範囲のうち入力輝度値が高い領域についての出力輝度値が、従来のWDR処理が実行される場合よりも引き上げられうる。
なお、WDR処理のレベルは自動で決定されてもよい。例えば、図7のように室内で窓がある逆光シーンにおいて、S503のヒストグラム解析の結果、処理対象は図8のピーク801に対応する輝度値の画像になる。このピーク801は、図13における輝度値の高い方の(入力範囲1301を包含する)所定の範囲の分布に対応する。次に、その所定の範囲のうちの特定範囲、例えば上位5%と下位5%の範囲を、それぞれハイライトポイントとダークポイントとして設定して、入力範囲1301を算出する。この算出した入力範囲1301に基づいて、例えば対応表1302のような、所定の入力範囲と出力範囲の対応表を参照し、出力範囲1303が決定される。例えば、入力範囲の幅が32以下であれば、出力範囲の幅が64と決定される。そして、ハイライトポイントを出力最大値とし、ダークポイントが上述のようにして決定された出力範囲の最小値となるように、出力値1304が算出される。これにより、入力輝度の分布が狭い場合に輝度を伸長しすぎることがなくなり、一方で出力範囲が拡張されるため、適切な明度と色再現を得ることができる。なお、ユーザによってWDRレベルの指定があった場合でも、図13の対応表1302のようなテーブルが用意されてもよい。すなわち、WDRレベルが「強」「中」「弱」である場合について、それぞれ別個のテーブルを用意しておいてもよい。例えば、入力範囲の幅が32以下の場合に、WDRレベルが「弱」であれば出力範囲の幅を48とし、WDRレベルが「中」であれば出力範囲の幅を64とし、WDRレベルが「強」であれば出力範囲の幅を96とするなどのテーブルが用意されてもよい。このとき、処理対象の領域が、処理対象外の領域の輝度値の分布よりも高い輝度値の分布を有するか否か(例えば、処理対象の領域がピーク801に対応するかピーク802に対応するか)に応じて、出力範囲が決定される。すなわち、輝度値が高いピーク801に対応する領域が処理対象の場合、入力範囲の幅が狭いほど、その領域の暗部が明るくなるように出力範囲が決定されうる。また、輝度値が低いピーク802に対応する領域が処理対象の場合、入力範囲の幅が狭いほど、その領域の明部が暗くなるように出力範囲が決定されうる。
カメラサーバ110は、ビューワクライアント120において調整対象の領域や調整レベルが指定されたか否かを判定し(S505)、指定があった場合(S505でYES)は処理をS506へ進める。一方、カメラサーバ110は、指定がなかった場合(S505でNO)には処理をS507へ進める。S506では、カメラサーバ110は、ビューワクライアント120からの選択結果の通知に従って、入力範囲及び出力範囲の選択処理を実行する。S506では、S503のヒストグラム解析の結果に応じて、指定された調整対象の領域に対応する入力範囲が選択されうる。また、ユーザによってWDRレベルの指定があった場合、例えばWDRレベルが「強」「中」「弱」のいずれが指定されたかによって、図11の(1)~(3)のいずれかに応じて出力範囲が決定されうる。また、WDRレベルが自動設定される場合は、図13のようにして、入力範囲に対応する出力範囲が決定されうる。S507では、本実施形態に係るWDR処理を実行せずに、画像全体に対して図11の(X)に応じた入出力関係が用いられうる。
その後、カメラサーバ110は、ガンマ調整処理を行い(S508)、ガンマ調整後の異なる露出の複数の画像を合成する(S509)。ここで、合成処理について図15及び図16を用いて説明する。図15は、合成処理を説明するブロック図である。まず、互いに異なる露出で撮影された複数の画像(例えば、露出アンダーの画像、適正な露出の画像、及び露出オーバーの画像)に対してガンマ補正部406においてガンマ補正を行い、その補正後の画像が一時的にメモリ440に保持される。なお、露出アンダーの画像は、露出時間が短いため明るい場所での撮影に適しており、露出オーバーの画像は、露出時間が長いため暗い場所での撮影に適する。また、ここでの適正露出は、画像上で広い範囲を占める室内の領域702に対して適正な露出となっている。そして、アンダー露出が、窓の外の領域701に対して適正な露出となっている。そして、保持された画像に対して、WDR合成処理部424において、階調補正として所定値のオフセット加算または階調の伸長処理を行う。なお、S504において指定された画像についてはオフセット加算処理を行わず階調の伸長処理を行い、未選択の画像にのみオフセット加算処理を行う。そして、それぞれの画像が加算されて合成される。合成された後に、上述のガンマ調整部411においてガンマ調整が行われ出力画像として出力される。図16は、各画像に適用されるガンマ値と合成処理を説明する図である。図16(A)は、露出の異なる3種類の画像に適用されるガンマ曲線を示している。ガンマ曲線は、入出力の対応を示しており、オーバー露出画像に適用されるガンマ曲線(関係1601)、適正露出画像に適用される関係1602、及び、アンダー露出画像に適用される関係1603が示されている。なお、横軸の入力は、各画像の露出差を考慮した値になっている。縦軸は8ビットの出力値(0~255)を示している。なお、上述のS504において画像が指定されていない場合の入力と出力との関係は、図16(B)の曲線1610のようになる。図16(A)に示すガンマ曲線に対して、適正露出のガンマ曲線がオフセット加算によって256だけオフセットされて加算され、アンダー露出のガンマ曲線がオフセット加算によって512オフセットされて加算されることで、曲線1610が得られる。この特性では、アンダー露出の画像は出力輝度512~767の範囲で出力される。この図16(B)に示される合成画像の再現域では、入力階調に対する出力階調の連続性が保たれる一方で、特にダイナミックレンジの狭い表示装置において視認性が低くなってしまう。これに対して、図16(C)は、S504においてアンダー露出画像が指定された場合の入力と出力との関係を示している。この場合、図16(A)に示すガンマ曲線に対して、適正露出のガンマ曲線はオフセット加算によって256だけオフセットされて加算され、関係1620の部分が得られる。その一方で、選択画像であるアンダー露出画像は、オフセット加算ではなくガンマ値の伸長処理によって関係1621に示すような特性となる。これにより、アンダー露出画像に対する出力範囲(ガンマ値)が、適正露出画像やオーバー露出画像に対する出力範囲(ガンマ値)の少なくとも一部と重複するように設定される。この処理によれば、アンダー露出画像の暗部が暗くなり、ダイナミックレンジの狭い表示装置においてもユーザが選択したガンマ特性によって視認性が確保される。なお、本処理例では、入力輝度が高い領域が処理対象であるため、その領域の暗部が暗くなる処理が行われるが、入力輝度が低い領域が処理対象の場合は、その領域の明部がさらに明るくなる処理が行われる。なお、出力範囲は上述のように設定可能であり、入力輝度が高い領域が処理対象の場合、出力範囲が狭くなるほどその領域の暗部が明るくなり、入力輝度が低い領域が処理対象の場合、出力範囲が狭くなるほどその領域の明部が暗くなる。
ここで、図9(A)~図9(D)を用いて、本実施形態に係る処理を行った後に合成された画像の入力と出力との関係の概念について説明する。図9(A)は、従来のWDR処理が実行される場合の入力と出力との関係を示している。また、図9(B)~図9(D)は、図11の(1)~(3)がそれぞれ用いられる場合の入力と出力との関係を示している。図9(B)~図9(D)に示すように、本実施形態の処理が実行されると、例えば領域701に対応する部分の入力範囲において、相対的に入力輝度値が低い画素についての出力輝度が下げられて出力範囲が拡張されたように見える。なお、領域702において高輝度値の画素が含まれていたとしても、その画素については出力範囲の拡大は行われない。これは、領域701については、領域702の画素に対して行われるような出力範囲の拡張処理は行われないからである。なお、WDRレベルが低い場合のガンマ補正後の入力と出力の関係は図9(B)のようになり、WDRレベルが高い場合のガンマ補正後の入力と出力の関係は図9(D)のようになる。また、WDRレベルがこれらの中間の場合のガンマ補正後の入力と出力の関係は図9(C)のようになる。これらのWDRレベルが用いられた場合の、領域1201においてWDR処理を実行した後の出力の例を図12(B)に示す。WDR処理が実行されると、WDRレベルが「弱」であっても、輝度値の低い画素の出力輝度が下げられるため、領域1201内に含まれる人物等の被写体がより明瞭に表示されるようになる。WDRレベルが「中」まで上げられると、輝度値の低い画素の出力輝度がより下げられ、出力輝度の範囲が拡大されるため、被写体がさらに明瞭に表示されるようになる。一方で、全体の輝度が低下することとなるため、処理対象の領域全体が相対的に暗くなる。同様に、WDRレベルが「強」まで上げられると、輝度値の低い画素の出力輝度がさらに下げられ、被写体がさらに明瞭に表示されるようになり、その一方で、全体の輝度が低下して領域全体が暗くなる。
カメラサーバ110は、S509において合成した後の画像をビューワクライアント120へ送信する。ビューワクライアント120は、受信した画像を表示する(S605)。ここでの合成では、上述のように、異なる露出の複数の画像が所定の露出の度合で分類され、暗部領域について適性露出と露出オーバーの階調が足し合わされ、明部領域について適性露出と露出アンダーの階調が足し合わされる。ただし、これに限られず、例えば、処理対象の領域に適した露出で撮影された画像を用い、他の領域についてはその領域に適した露出で撮影された画像を用いること等によって、被写体の視認性を高めるようにしうる。なお、カメラサーバ110は、領域701については図16(C)のような合成処理を実行し、領域702については図16(B)のような合成処理を実行する。さらに、ガンマ調整以外の画像処理、例えば、ホワイトバランス調整、ノイズリダクション処理やシャープネス処理、コントラスト調整、彩度調整も異なる露出画像ごとに処理設定を変えることができる。なお、S605で表示される画像は、図12(B)に示すような、選択された処理対象の領域のみの画像であってもよいし、領域701及び領域702についてそれぞれ用意された画像をさらに(例えばはめ込み等により)合成した画像であってもよい。
なお、上述の実施形態では、他の領域と比して輝度値の高い領域が処理対象として選択される例について説明したが、これに限られない。すなわち、他の領域と比して輝度値の低い領域が処理対象として選択されてもよい。
ビューワクライアント120は、上述のように、カメラサーバ110から配信される動画像を表示するとともに、カメラサーバ110の撮影に関する設定やネットワークに関する設定を行うことができる。ビューワクライアント120は、S602で、例えば、表示部307(ユーザが使用するモニタやディスプレイ等)の表示画面において、カメラサーバ110から配信される撮影画像と上述のマップとを重畳して表示してもよい。この時、ビューワクライアント120は、マップで互いに異なる領域が区別可能となるように、枠を表示し、異なる色で塗り潰し、又は、点滅表示を行ってもよい。また、ビューワクライアント120は、画像内でクリック選択があった場合に、上述のような枠表示や色表示や点滅表示を行ってもよい。なお、本実施形態では、処理対象領域(選択領域)が矩形領域である場合について説明したが、領域の形状は任意であってもよい。
なお、ビューワクライアント120から受信された設定は、アトリビュート生成部409で設定されたしきい値によって切り替えられる各画像処理モジュールの画像処理パラメータに、反映されうる。例えばアトリビュート生成部409は、輝度しきい値としてヒストグラムの度数の低い範囲803に相当する輝度しきい値を設定し、この値を境に各画像処理パラメータが変更される。このため、被写体が移動した場合でも、同一の被写体に対しては同一のガンマ補正がかかり続ける。また、同様に、輝度の高い画素に対するホワイトバランスも保持されうる。
このように、本処理例によれば、明るさの関係が連続性を保たずに入出力の関係が逆転したとしても、明るいエリアまたは暗いエリアが視認できるようになるため、監視システム等の用途に適した画像を表示することができる。また、通常の連続性のあるガンマ調整を行うモードと本実施形態の処理を行う監視モードとを用意し、監視モードが選択される場合に本実施形態のWDR処理を実行するような、モード選択を可能とするようにシステムを構成してもよい。これにより、視認性を重視したモードをユーザが選べるようにすることで、汎用性を広げ、さらに自動で最適な設定を行うことで照度が変化してもそれに対応して適切な明度や色再現性を維持することができるようになる。
本処理例では、異なる露出の複数の画像から、所定の輝度値の画像に対して入力輝度範囲に対する出力輝度範囲をユーザ操作によって又は自動で選択することにより、ダイナミックレンジを広くしながら適切な明度と色再現を得ることができる。
[処理例2]
上述の処理例1では、ヒストグラムに基づいて分類された画像の一部の領域を選択して、その領域についての出力範囲を拡張するようにした。本実施形態では、露出の異なる複数の画像を用いて、その画像の出力範囲を調整する。以下では、特に第1の例と異なる点に着目して説明する。
本処理例では、ビューワクライアント120は、S602において処理画像を選択する。ここでの処理画像とは、合成前の露出の異なる画像を指しており、ここでは、露出アンダーの画像、適正な露出の画像、露出オーバーの画像の3種類の露出で撮影した画像のうちのいずれの画像を調整するのかが選択される。
本処理例では、S503において、互いに異なる露出で撮影された複数の画像(例えば、露出アンダーの画像、適正な露出の画像、及び露出オーバーの画像)のそれぞれについてヒストグラム解析を行う。図14に、図7のシーンにおける各画像の輝度に関するヒストグラムの例を示す。曲線1401はアンダー露出画像、曲線1402は適正露出画像、そして、曲線1403はオーバー露出画像の、ヒストグラムを示している。適正露出は、画像上で広い範囲を占める室内の領域702に対して適正な露出となっており、アンダー露出は、窓の外の領域701に対して適正な露出となっている。S503では、図8のようなヒストグラムが、互いに露出が異なる複数の画像のそれぞれに関して作成される。次に、S504において、カメラサーバ110は、ビューワクライアント120がS602で指定した処理画像を取得する。S602で処理画像が指定されていない場合は、処理画像がないためS506及びS508の処理は実行されない。これにより、異なる露出で撮影された複数の画像の中から調整処理を行う画像が選択される。S508では、S602において選択された画像に対して、S603において選択されたガンマによってガンマ調整が実行される。選択されていない画像に対しては、デフォルトのガンマ変換が実行される。その後、画像が合成される。画像の合成は、図15及び図16を用いて上述した通りである。
なお、本処理例では、撮影エリア全体が合成されるが、これに限られない。すなわち、処理例1のように、撮影される画像の少なくとも一部の領域が合成されるようにしてもよい。また、異なる露出の複数の画像を所定の露出の度合で分類し、暗部領域においては適性露出と露出オーバーの階調が足し合わされ、明部領域においては適性露出と露出アンダーの階調が足し合わされうる。さらに、ガンマ調整以外の画像処理、例えば、ホワイトバランス調整、ノイズリダクション処理やシャープネス処理、コントラスト調整、彩度調整も異なる露出画像ごとに処理設定が変えられてもよい。
本処理例によれば、異なる露出の複数の画像から、所定の輝度の画像に対して、入力輝度範囲に対する出力輝度範囲がユーザ操作によって選択されることにより、ダイナミックレンジを拡張しながら適切な明度と色再現とを得ることができる。
[処理例3]
処理例2では、WDRレベルを複数の候補の中からユーザが選択する場合について説明した。本実施形態においては、ユーザ操作による選択がない状態において自動で適切なWDRレベルを適用する場合の例について説明する。
本処理例では、図7のような室内で窓がある逆光シーンにおいて、S503のヒストグラム解析の結果、図8のピーク801の輝度値に対応する画像が、S506のガンマ調整の処理対象として選択される。そして、処理例1のように、例えば図13の分布においてピーク801に対応する所定の範囲の上位5%と下位5%の範囲を、それぞれハイライトポイントとダークポイントとして設定し、入力範囲1301を算出する。この算出した入力範囲1301に基づいて、例えば対応表1302のような、所定の入力範囲と出力範囲の対応表を参照し、出力範囲1303が決定される。さらに、ハイライトポイントを出力最大値とし、ダークポイントが、上述のようにして決定された出力範囲の最小値となるように出力値1304が算出される。
これにより、入力輝度の分布が狭い場合でも、輝度を伸長しすぎることなくダイナミックレンジを拡張し、適切な明度と色再現とを得ることができる。また、本処理例では、図7に示すような窓がある逆光シーンのうち、高輝度領域を処理対象として説明したが、逆に低輝度部が処理対象とされてもよい。
本処理例によれば、明るさの関係が連続性を保たずに入出力の関係が逆転したとしても、明るいエリアまたは暗いエリアが視認できるようになるため、監視システム等の用途に適した画像を表示することができる。また、通常の連続性のあるガンマ調整を行うモードと本実施形態の処理を行う監視モードとを用意し、監視モードが選択される場合に本実施形態のWDR処理を実行するような、モード選択を可能とするようにシステムを構成してもよい。これにより、視認性を重視したモードをユーザが選べるようにすることで、汎用性を広げ、さらに自動で最適な設定を行うことで照度が変化してもそれに対応して適切な明度や色再現性を維持することができるようになる。
本処理例では、異なる露出の複数の画像から、所定の輝度の画像に対して入力輝度範囲に対する出力輝度範囲を自動で選択することにより、ダイナミックレンジを広くしながら適切な明度と色再現を得ることができる。
なお、処理例1及び2において、ユーザ操作による画像やWDRレベルの指定がコマンドを通してビューワクライアント120からカメラサーバ110へ通知されるとした。また、このコマンドの内容が反映された合成画像が、カメラサーバ110からビューワクライアント120へ配信され、ビューワクライアント120で表示するとした。しかしながらこれに限られない。例えば、カメラサーバ110から合成前の画像がビューワクライアント120へ配信され、ビューワクライアント120において合成処理を行うようにしてもよい。この場合、コマンドの通信が不要となるため、ユーザの選択結果に応じた出力を短い時間で確認することが可能となる。また、上述の説明では、主として、カメラサーバ110が画像処理部207を有する画像処理装置として機能し、ビューワクライアント120が処理後の画像を表示する情報表示装置である構成について説明したが、これに限られない。すなわち、ビューワクライアント120が画像処理部207を有し、カメラサーバ110から処理前の画像データを取得して、上述のカメラサーバ110が実行すると説明された処理をビューワクライアント120が実行してもよい。
<<その他の実施形態>>
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
201:撮像光学系、202:撮像素子部、206:撮像系制御部、207:情報処理部、208:エンコーダ部、209:通信部、305:操作入力部、306:通信部、307:表示部、406:ガンマ補正部、421:ヒストグラム解析処理部、422:マップ作成処理部、423:ガンマ調整部、424:WDR合成処理部

Claims (17)

  1. 1つのシーンを撮像した画像の輝度値の分布に基づいて、前記画像に含まれる領域を分類する分類手段と、
    分類された領域の中から処理対象の領域の選択を受け付ける受付手段と、
    前記選択された領域の画素の輝度値の入力範囲に対する第1の出力範囲を、当該領域が選択されていない場合の第2の出力範囲と比して広く拡張する拡張手段と、
    輝度値の出力範囲が前記第1の出力範囲に拡張された、前記選択された領域を少なくとも含んだ画像を出力する出力手段と、
    を有することを特徴とする画像処理装置。
  2. 前記拡張手段は、互いに異なる露出で前記1つのシーンを撮像して得られた複数の画像のうち、前記選択された領域に応じた画像の輝度値の入力範囲に対する第3の出力範囲を、当該領域が選択されていない場合の第4の出力範囲よりも広く拡張し、
    前記出力手段は、前記選択された領域について、前記複数の画像のうち出力範囲が前記第3の出力範囲に拡張された画像と、前記複数の画像のうち前記出力範囲が前記第3の出力範囲に拡張されていない画像とを合成して出力する、
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記出力手段は、前記選択されていない領域について、出力範囲が前記第3の出力範囲に拡張されていない前記複数の画像を合成して出力する、
    ことを特徴とする請求項2に記載の画像処理装置。
  4. 前記第1の出力範囲は、前記選択されていない領域の輝度の出力範囲の少なくとも一部と重なる、
    ことを特徴とする請求項1から3のいずれか1項に記載の画像処理装置。
  5. 前記拡張手段は、前記選択された領域に対応する輝度値の分布に基づいて、輝度値の前記入力範囲を設定し、当該入力範囲の広さに基づいて、前記第1の出力範囲の広さを決定する、
    ことを特徴とする請求項1から4のいずれか1項に記載の画像処理装置。
  6. 前記受付手段は、前記第1の出力範囲の広さを決定するためのユーザ操作を受け付ける、
    ことを特徴とする請求項1から4のいずれか1項に記載の画像処理装置。
  7. 前記拡張手段は、前記選択された領域が、前記選択されていない領域の輝度値の分布より高い輝度値の分布を有する場合、前記入力範囲の広さが小さいほど前記選択された領域における暗部が明るくなるように、前記第1の出力範囲の広さを決定する、
    ことを特徴とする請求項5又は6に記載の画像処理装置。
  8. 前記拡張手段は、前記選択された領域が、前記選択されていない領域の輝度値の分布より低い輝度値の分布を有する場合、前記入力範囲の広さが小さいほど前記選択された領域における明部が暗くなるように、前記第1の出力範囲の広さを決定する、
    ことを特徴とする請求項5又は6に記載の画像処理装置。
  9. 前記分類ごとに異なるパラメータを用いて画像処理を実行する実行手段をさらに有する、
    ことを特徴とする請求項1から8のいずれか1項に記載の画像処理装置。
  10. 1つのシーンを撮像した画像の輝度値の分布に基づいて、前記画像に含まれる領域を分類する情報を他の装置から取得する取得手段と、
    分類された領域を区別可能に表示する表示手段と、
    分類された領域の中から処理対象の領域の選択を受け付ける受付手段と、
    受け付けた情報を前記他の装置へ送信する送信手段と、
    前記他の装置において、選択された領域の画素の輝度値の入力範囲に対する第1の出力範囲が、当該領域が選択されていない場合の第2の出力範囲と比して広く拡張された、当該選択された領域を少なくとも含んだ画像を受信する受信手段と、
    を有し、
    前記表示手段は、受信した画像を表示する、
    ことを特徴とする情報表示装置。
  11. 前記表示手段は、さらに、前記受付手段がユーザ操作を受け付けるためのグラフィカルユーザインタフェース(GUI)を表示する、
    ことを特徴とする請求項10に記載の情報表示装置。
  12. 前記受付手段は、前記選択された領域の画素の輝度値の入力範囲に対する出力範囲の拡張を行うか否かと、前記第1の出力範囲の広さの設定との少なくともいずれかのためのユーザ操作を受け付ける、
    ことを特徴とする請求項10又は11に記載の情報表示装置。
  13. 前記送信手段は、さらに、前記分類ごとの画像処理を実行させるためのパラメータを前記他の装置へ送信する、
    ことを特徴とする請求項10から12のいずれか1項に記載の情報表示装置。
  14. 画像処理装置の制御方法であって、
    1つのシーンを撮像した画像の輝度値の分布に基づいて、前記画像に含まれる領域を分類する分類工程と、
    分類された領域の中から処理対象の領域の選択を受け付ける受付工程と、
    前記選択された領域の画素の輝度値の入力範囲に対する第1の出力範囲を、当該領域が選択されていない場合の第2の出力範囲と比して広く拡張する拡張工程と、
    輝度値の出力範囲が拡張された、前記選択された領域を少なくとも含んだ画像を出力する出力工程と、
    を有することを特徴とする制御方法。
  15. 情報表示装置の制御方法であって、
    1つのシーンを撮像した画像の輝度値の分布に基づいて、前記画像に含まれる領域を分類する情報を他の装置から取得する取得工程と、
    分類された領域を区別可能に表示する表示工程と、
    分類された領域の中から処理対象の領域の選択を受け付ける受付工程と、
    受け付けた情報を前記他の装置へ送信する送信工程と、
    前記他の装置において、選択された領域の画素の輝度値の入力範囲に対する第1の出力範囲が、当該領域が選択されていない場合の第2の出力範囲と比して広く拡張された、当該選択された領域を少なくとも含んだ画像を受信する受信工程と、
    受信した画像を表示する工程と、
    を有することを特徴とする制御方法。
  16. コンピュータを、請求項1から9のいずれか1項に記載の画像処理装置が有する各手段として機能させるためのプログラム。
  17. コンピュータを、請求項10から13のいずれか1項に記載の情報表示装置が有する各手段として機能させるためのプログラム。
JP2018081737A 2018-04-20 2018-04-20 画像処理装置、情報表示装置、制御方法、及びプログラム Active JP7075271B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2018081737A JP7075271B2 (ja) 2018-04-20 2018-04-20 画像処理装置、情報表示装置、制御方法、及びプログラム
EP19168311.9A EP3557862B1 (en) 2018-04-20 2019-04-10 Image processing apparatus, information display apparatus, control method, and program
CN201910302867.5A CN110392205B (zh) 2018-04-20 2019-04-16 图像处理设备、信息显示设备、控制方法和存储介质
US16/386,666 US10887511B2 (en) 2018-04-20 2019-04-17 Image processing apparatus, information display apparatus, control method, and computer-readable storage medium that output a combined image based on brightness values of pixels in an image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018081737A JP7075271B2 (ja) 2018-04-20 2018-04-20 画像処理装置、情報表示装置、制御方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2019191767A JP2019191767A (ja) 2019-10-31
JP7075271B2 true JP7075271B2 (ja) 2022-05-25

Family

ID=66349259

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018081737A Active JP7075271B2 (ja) 2018-04-20 2018-04-20 画像処理装置、情報表示装置、制御方法、及びプログラム

Country Status (4)

Country Link
US (1) US10887511B2 (ja)
EP (1) EP3557862B1 (ja)
JP (1) JP7075271B2 (ja)
CN (1) CN110392205B (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11049224B2 (en) * 2018-12-05 2021-06-29 Microsoft Technology Licensing, Llc Automated real-time high dynamic range content review system
JP7362441B2 (ja) 2019-11-18 2023-10-17 キヤノン株式会社 撮像装置および撮像装置の制御方法
JP7438779B2 (ja) * 2020-02-13 2024-02-27 キヤノン株式会社 画像処理装置、画像処理システム、および、それらの制御方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001313870A (ja) 2000-04-13 2001-11-09 Meikei Jo 影像処理装置およびその影像処理方法
JP2012010048A (ja) 2010-06-24 2012-01-12 Hitachi Ltd 画像信号処理装置
JP2012142143A (ja) 2010-12-28 2012-07-26 Hitachi High-Technologies Corp 荷電粒子線装置及び観察画像生成方法

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5929908A (en) * 1995-02-03 1999-07-27 Canon Kabushiki Kaisha Image sensing apparatus which performs dynamic range expansion and image sensing method for dynamic range expansion
JP4015492B2 (ja) 2002-07-22 2007-11-28 富士フイルム株式会社 画像合成方法および撮像装置
US7508421B2 (en) 2002-06-24 2009-03-24 Fujifilm Corporation Image pickup apparatus and image processing method
CN100552713C (zh) * 2006-06-23 2009-10-21 腾讯科技(深圳)有限公司 一种图像处理方法
CN101803366B (zh) * 2007-07-25 2015-01-14 坎德拉微系统(S)私人有限公司 用于成像系统的曝光控制
CN101290754B (zh) * 2008-05-28 2011-02-02 香港应用科技研究院有限公司 Lcd背光调暗,lcd/图像信号补偿和控制lcd显示器的方法
US9167174B1 (en) * 2014-11-05 2015-10-20 Duelight Llc Systems and methods for high-dynamic range images
JP6159105B2 (ja) * 2013-03-06 2017-07-05 キヤノン株式会社 撮像装置及びその制御方法
WO2014192152A1 (ja) * 2013-05-31 2014-12-04 株式会社ニコン 電子機器及び制御プログラム
JP2015088784A (ja) 2013-10-28 2015-05-07 キヤノン株式会社 撮像装置
AU2017308749A1 (en) * 2016-08-09 2019-02-21 Contrast, Inc. Real-time HDR video for vehicle control

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001313870A (ja) 2000-04-13 2001-11-09 Meikei Jo 影像処理装置およびその影像処理方法
JP2012010048A (ja) 2010-06-24 2012-01-12 Hitachi Ltd 画像信号処理装置
JP2012142143A (ja) 2010-12-28 2012-07-26 Hitachi High-Technologies Corp 荷電粒子線装置及び観察画像生成方法

Also Published As

Publication number Publication date
EP3557862B1 (en) 2021-02-17
US10887511B2 (en) 2021-01-05
JP2019191767A (ja) 2019-10-31
EP3557862A1 (en) 2019-10-23
US20190327410A1 (en) 2019-10-24
CN110392205A (zh) 2019-10-29
CN110392205B (zh) 2021-12-31

Similar Documents

Publication Publication Date Title
US10021313B1 (en) Image adjustment techniques for multiple-frame images
JP5624809B2 (ja) 画像信号処理装置
US20200204763A1 (en) Imaging apparatus and imaging method
JP2003198891A (ja) 画像表示制御装置と画像表示制御方法及び撮像装置
JP7075271B2 (ja) 画像処理装置、情報表示装置、制御方法、及びプログラム
JP7285791B2 (ja) 画像処理装置、および出力情報制御方法、並びにプログラム
US20190082092A1 (en) Imaging apparatus, image processing apparatus, imaging method, image processing method, and storage medium
JP2019047169A (ja) ハイダイナミックレンジ画像を作成する装置、方法、及びプログラム
WO2019124289A1 (ja) 装置、制御方法および記憶媒体
JP2019176305A (ja) 撮像装置およびその制御方法、並びにプログラム
JP2014232994A (ja) 画像処理装置及び方法、及び撮像装置
JP7075272B2 (ja) 画像処理装置、情報表示装置、制御方法、及びプログラム
JP7224826B2 (ja) 撮像制御装置、撮像制御方法、およびプログラム
JP2023090492A (ja) 画像処理装置および画像処理方法、撮像装置
US11336802B2 (en) Imaging apparatus
JP2019033470A (ja) 画像処理システム、撮像装置、画像処理装置、制御方法およびプログラム
US20190052803A1 (en) Image processing system, imaging apparatus, image processing apparatus, control method, and storage medium
US20230209176A1 (en) Imaging apparatus
JP2019047436A (ja) 画像処理装置、画像処理方法、画像処理プログラム及び撮像装置
JP2019050551A (ja) 撮像装置、画像処理装置、撮像方法、画像処理方法、およびプログラム
JP2008022333A (ja) 撮像装置及び撮像方法
WO2019216072A1 (ja) 画像処理装置、画像処理方法、及びプログラム
JP6232712B2 (ja) 画像処理装置、撮像装置及び画像処理プログラム
JP2021057709A (ja) 撮像装置および露出制御方法
JP2020205530A (ja) 制御装置、撮像システム、制御方法

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210407

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220311

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220415

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220513

R151 Written notification of patent or utility model registration

Ref document number: 7075271

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151