JP2014147047A - 画像処理装置、方法、及びプログラム、並びに撮像装置 - Google Patents

画像処理装置、方法、及びプログラム、並びに撮像装置 Download PDF

Info

Publication number
JP2014147047A
JP2014147047A JP2013016104A JP2013016104A JP2014147047A JP 2014147047 A JP2014147047 A JP 2014147047A JP 2013016104 A JP2013016104 A JP 2013016104A JP 2013016104 A JP2013016104 A JP 2013016104A JP 2014147047 A JP2014147047 A JP 2014147047A
Authority
JP
Japan
Prior art keywords
image
mask
region
luminance
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013016104A
Other languages
English (en)
Other versions
JP6056511B2 (ja
Inventor
Daisuke Maruta
大輔 丸田
Chiaki Igarashi
千秋 五十嵐
Yuji Umezu
有司 梅津
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Semiconductor Ltd
Original Assignee
Fujitsu Semiconductor Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Semiconductor Ltd filed Critical Fujitsu Semiconductor Ltd
Priority to JP2013016104A priority Critical patent/JP6056511B2/ja
Priority to US14/085,480 priority patent/US9208546B2/en
Publication of JP2014147047A publication Critical patent/JP2014147047A/ja
Application granted granted Critical
Publication of JP6056511B2 publication Critical patent/JP6056511B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/136Segmentation; Edge detection involving thresholding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

【課題】簡易な処理で、画質を向上させたクロスフィルタ処理を行う
【解決手段】高輝度領域抽出部31が、原画像から高輝度領域を抽出した高輝度領域抽出画像を出力する。マスク生成部32が、高輝度領域出力画像に対して、ぼかし処理及び2値化処理を行って、面積大の高輝度領域に対応したマスク領域を有するマスクを生成する。マスク適用部33が、高輝度領域抽出画像にマスクを適用して、マスク領域に対応する面積大の高輝度領域を削除したマスク適用画像を出力する。輝線生成部34が、面積大の高輝度領域が削除されたマスク適用画像にぼかし、回転、拡大・縮小の処理を行って輝線を生成し、合成部35が、原画像に輝線を合成する。
【選択図】図5

Description

開示の技術は、画像処理装置、画像処理方法、画像処理プログラム、及び撮像装置に関する。
カメラレンズに装着する光学フィルタの一種に、イルミネーションなどの光源へ十字型などの輝線を作る「クロスフィルタ」が存在する。
近年、光学フィルタを装着できない小型デジタルカメラを中心に、特殊効果としてクロスフィルタ効果を付加できるデジタルカメラ製品が存在する。このクロスフィルタ効果は画像処理により実現されるのが一般的である。
クロスフィルタ効果の画像処理による実現方法としては、画像の高輝度領域に輝線を合成する手法が一般的であり、以下の2種類に分類できる。1つは、画像をスキャンして高輝度領域を探索し、予め用意した輝線パターンを1つずつ探索した高輝度領域に合成していく方法である。もう1つは、原画像から高輝度領域を抽出した画像に対して、ある1方向にぼかし処理を適用して細く伸びた輝線を作成する方法である。この方法では、ぼかし処理を異なる複数の方向(例えば、十字型のクロスフィルタ効果の場合は2方向)に適用して作成された複数の輝線を原画像へ合成する。
ここで、原画像から抽出された高輝度領域の全てについて輝線を作成して原画像に合成した場合、面積の大きい高輝度領域に輝線が付加されて、汚く滲んだ印象の見苦しい画像になってしまう。また、複数の高輝度領域が密集して存在する場合には、輝線が付加され過ぎて汚い印象の見苦しい画像になってしまう。
そこで、例えば、対象画像データから選択された高輝度画素群のうち、高輝度画素群のサイズが所定の輝点許容画素サイズ以下となる高輝度画素群を選択する手法が提案されている。
また、画像から抽出された高輝度画素が複数隣接して群を形成している場合に、その群の中から代表画素を選択して処理対象光源とし、処理対象光源を中心として光条パターンを合成する手法が提案されている。
また、画像データを分割した各分割領域内で輝度値が第1閾値以上の第1基準画素の存在密度が最大である位置の画素を第2基準画素と判定し、第2基準画素が略中心となるように、画像データに光芒画像データを付加する手法が提案されている。
また、入力画像から特定された高輝度領域に対し、所定条件に基づいて優先度を決定し、特定した高輝度領域が所定数以上あるとき、優先度の高い高輝度領域から順に所定数選択して、高輝度領域を強調表示した強調画像を入力画像に合成する手法が提案されている。
特開2005−92724号公報 特開2005−94617号公報 特開2003−256832号公報 特開2003−58880号公報 特開2011−151454号公報
従来手法では、抽出された高輝度領域の全てに輝線を付加するのではなく、選択的に輝線を付加している。しかし、従来手法では、輝線を付加する高輝度領域を選択するために、画素群のサイズの計数や、どの高輝度領域を選択するかという判定に煩雑な処理を要する。
開示の技術は、一つの側面として、簡易な処理で、画質を向上させたクロスフィルタ処理を行うことが目的である。
開示の技術は、原画像から輝度が第1閾値以上の第1高輝度領域を抽出する抽出部を備えている。また、開示の技術は、前記第1高輝度領域に対して、ぼかし処理及び2値化処理を行って、前記第1高輝度領域を含むマスクを生成するマスク生成部を備えている。また、開示の技術は、前記マスクに基づいて、前記前記第1高輝度領域の削除処理、及び間引き処理の少なくとも一方を行うマスク適用部を備えている。また、開示の技術は、前記マスク適用部の出力に含まれる第2高輝度領域に基づいて輝線を生成する輝線生成部を備えている。また開示の技術は、前記原画像に前記輝線を合成する合成部を備えている。
開示の技術は、一つの側面として、簡易な処理で、画質を向上させたクロスフィルタ処理を行うことができる、という効果を有する。
第1実施形態に係る撮像装置の構成の一例を示すブロック図である。 線形フィルタを説明するための概略図である。 線形平滑化フィルタの一例を示す概略図である。 線形平滑化フィルタの他の例を示す概略図である。 第1実施形態に係る画像処理部の機能的構成の一例を示すブロック図である。 マスク生成部の処理を説明するための概略図である。 マスク生成部の処理を説明するための概略図である。 マスク生成部の処理を説明するための概略図である。 マスク生成部の処理を説明するための概略図である。 マスク生成部の処理を説明するための概略図である。 第1実施形態における画像処理を示すフローチャートである。 第1実施形態における画像処理を説明するためのイメージ図である。 第1実施形態におけるマスク生成を説明するための概略図である。 面積大の高輝度領域削除処理を示すフローチャートである。 輝線生成処理を示すフローチャートである。 輝線の生成を説明するためのイメージ図である。 輝線の合成を説明するためのイメージ図である。 第2実施形態における画像処理を示すフローチャートである。 密集高輝度領域間引き処理を示すフローチャートである。 第2実施形態における画像処理を説明するためのイメージ図である。 第2実施形態における画像処理を説明するためのイメージ図である。 第2実施形態における画像処理を説明するためのイメージ図である。 第3実施形態に係る画像処理部の機能的構成の一例を示すブロック図である。 第3実施形態における第1マスク生成を説明するための概略図である。 第3実施形態における第2マスク生成を説明するための概略図である。 色付き輝線生成部の処理を説明するための概略図である。 色付き輝線生成部の処理を説明するための概略図である。 第3実施形態における画像処理を示すフローチャートである。 第3実施形態における画像処理を説明するためのイメージ図である。 色付き輝線生成処理を示すフローチャートである。 第4実施形態に係る撮像装置の画像処理部として機能するコンピュータの一例を示す概略ブロック図である。
以下、図面を参照して開示の技術の実施形態の一例を詳細に説明する。
〔第1実施形態〕
図1に、第1実施形態に係る撮像装置10を示す。撮像装置10は、撮像部12、表示部14、及び画像処理部16を備えている。
撮像部12は、例えばCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子と、例えば複数の光学レンズを含むレンズ群、絞り調整機構、ズーム機構、及び自動焦点調節機構等を含むレンズ部とを備えている。なお、ズーム機構を省略し、撮像倍率の変更を電子ズームによって実現してもよい。撮像部12は、画像の撮像が指示されると、設定された撮像条件に従って撮像素子により撮像された電気信号(アナログ信号)をデジタル信号に変換する。さらに、変換されたデジタル信号を、色補完処理、ガンマ処理等の処理を施したYCbCr画像データに変換して出力する。
表示部14は、例えば、液晶ディスプレイ等である。表示部14は、撮像部12で撮像され、画像処理部16で画像処理された画像が表示される。また、各種設定を行うためのメニュー画面を表示するようにしてもよい。
画像処理部16は、図1に示すように、CPU(Central Processing Unit)21及びRAM(Random Access Memory)22を備えている。また、画像処理部16は、ぼかし回路23、拡大・縮小回路24、回転回路25、マスク回路26、2値化回路27、重み付け加算回路28、画素抽出回路29、及びαブレンド回路30を備えている。画像処理部16は、例えば、画像処理プロセッサである。画像処理部16は、撮像部12から出力されたYCbCr画像データを入力として受け付け、後述する画像処理を行う。なお、画像処理部16は、開示の技術の画像処理装置の一例である。
CPU21は、撮像部12に所定の撮像条件に従った撮像を指示し、撮像部12から出力されたYCbCr画像を取得して、RAM22に記憶する。また、CPU21は、RAM22と、ぼかし回路23、拡大・縮小回路24、回転回路25、マスク回路26、2値化回路27、重み付け加算回路28、画素抽出回路29、及びαブレンド回路30との間のデータの入出力を制御する。
ぼかし回路23は、下記(1)式のh(k,l)で表される線形フィルタを使用して、入力画像に対してぼかし処理を行う。
ここで、f(i,j)は入力画像の画素(i,j)の画素値であり、g(i,j)は出力画像の画素(i,j)の画素値である。wは線形フィルタが注目画素の上下左右の何画素分に対応するフィルタ係数を有するかを示す値、すなわち線形フィルタの大きさを示す値である。例えば、w=1の場合には、線形フィルタの大きさは3×3であり、w=2の場合には、5×5である。
例えば、図2に示すように、入力画像内の注目画素(図2中太線)に、各フィルタ係数がA,B,C,D,E,F,G,H,Iである3×3サイズの線形フィルタを適用する場合について説明する。注目画素を含む周辺3×3画素の画素値はa,b,c,d,e,f,g,h,iであるとする。この場合、出力画像における注目画素の画素値(図2中★印)は、(1)式に示すような積和演算により、aA+bB+cC+dD+eE+fF+gG+hH+iIとなる。フィルタ係数の与え方により、ぼかし回路23は、ぼかし処理、エッジ抽出など様々な機能を実現することができる。
また、フィルタ係数の和が1である線形フィルタはぼかし効果を持つ。計算上は線形フィルタが適用される領域内に含まれる画素の画素値の平均処理に相当する。このようなフィルタを以下では「線形平滑化フィルタ」と呼ぶ。なお、図3に示すように、フィルタ係数が全て等しい場合は単純平均、図4に示すように、フィルタ係数が等しくない場合は加重平均に相当する処理によりぼかし処理が行われる。本実施形態では、いずれの線形平滑化フィルタを用いてもよい。
拡大・縮小回路24は、入力画像を設定された拡大率で拡大して、または設定された縮小率で縮小して出力する。なお、拡大率及び縮小率は、入力画像の水平方向及び垂直方向の各々に対して個別に設定可能である。
回転回路25は、入力画像を設定された角度回転して出力する。
マスク回路26は、入力画像にマスクを適用して、マスクが有するマスク領域とマスク領域以外の領域とで異なる処理を加えた画像を出力する。
2値化回路27は、入力画像の各画素の画素値を設定された閾値と比較し、閾値以上の画素値の画素を第1画素値、閾値未満の画素値の画素を第2画素値のように2値化して出力する。
重み付け加算回路28は、複数の入力画像間の対応する画素同士の画素値を重み付け加算した画像を出力する。
画素抽出回路29は、入力画像から、設定された条件を満たす画素値を有する画素を抽出して出力する。
αブレンド回路30は、複数の入力画像の各々を、設定されたブレンド比に基づいて合成した画像を出力する。
ここで、画像処理部16の機能的構成の一例を図5に示す。画像処理部16は、高輝度領域抽出部31、マスク生成部32、マスク適用部33、輝線生成部34、及び合成部35を備えている。各機能部は、図1に示す各回路のうちの1つまたは複数の組み合わせにより実現される。例えば、高輝度領域抽出部31は、画素抽出回路29により実現される。また、例えば、マスク生成部32は、ぼかし回路23及び2値化回路27により実現される。また、例えば、マスク適用部33は、マスク回路26及びαブレンド回路30により実現される。また、例えば、輝線生成部34は、ぼかし回路23、拡大・縮小回路24、回転回路25、及び画素抽出回路29により実現される。また、例えば、合成部35は、重み付け加算回路28により実現される。
高輝度領域抽出部31は、撮像部12から入力されたYCbCr画像のY成分で表されたY画像をスキャンしながら、輝度値が予め設定された所定の閾値以上の画素または画素群を高輝度領域として抽出した高輝度領域抽出画像を出力する。
マスク生成部32は、高輝度領域抽出画像に対して、ぼかし処理と2値化処理とを組み合わせた処理を行って、所定サイズ以上の高輝度領域(以下、「面積大の高輝度領域」という)に対応したマスク領域を有するマスクを生成する。以下に、マスクの具体的な生成方法について説明する。ここでは、説明を簡単にするため、高輝度領域に含まれる画素の輝度値が全て同一で、直径がR画素の高輝度領域に対するマスクの生成について説明する。また、高輝度領域を抽出する際の閾値を輝度値の上限値Ymaxとした場合を考える。
図6に、上記の高輝度領域の直径方向の各画素位置に対する輝度値を示す。この高輝度領域に対してN×N線形平滑化フィルタを1回適用した場合、図6中のAに示すように、高輝度領域の直径方向の画素数は約(N−1)画素分広がり、R+(N−1)画素となる。一方、N×N線形平滑化フィルタ適用後は、フィルタ適用領域の周辺部で輝度値が減少するため、フィルタ適用前の高輝度領域内の最大輝度値(ここではYmax)を保持できる画素は、図6中のBに示すように、約R−(N−1)画素になる。従って、Rが約(N−1)以下の場合には、図7に示すように、フィルタ適用前の最大輝度値を保持できる画素は存在しなくなり、全画素で輝度値が最大輝度値より小さい値に減少する。
上述のように、高輝度領域の直径がR>N−1の場合には、N×N線形平滑化フィルタを1回適用しても、フィルタ適用前の最大輝度値(ここではYmax)を保持する画素が残る。このため、図8に示すように、Ymaxを閾値として、輝度値がYmax以上の画素の輝度値がYmax、輝度値がYmax未満の画素の輝度値が0となるように2値化処理することにより、輝度値がYmaxの画素のみを残すことができる。一方、高輝度領域の直径がR≦N−1の場合には、N×N線形平滑化フィルタを1回適用すると、フィルタ適用前の最大輝度値を保持する画素は残らない。このため、図9に示すように、Ymaxを閾値として2値化処理することにより、輝度値を有する領域が消滅する。なお、高輝度領域を抽出する際の閾値をYmaxより若干小さい高輝度値(=YH)とした場合、上記の2値化の閾値もYHとすることにより、概ね同じ結果が得られる。
次に、残った高輝度領域にN×N線形平滑化フィルタを1回適用する。これにより、図10中のCに示すように、高輝度領域はRまで広がる。そして、閾値を低輝度値(=YL、例えば輝度値0以外の画素を抽出する場合にはYL=1)として、輝度値がYL以上の画素の輝度値がYmax、輝度値が0の画素の輝度値が0となるように2値化処理する。これにより、直径Rのマスク領域を有するマスクが生成される。
このように、マスク生成部32は、線形平滑化フィルタの大きさNを適切に設定したぼかし処理と、高輝度領域抽出の際の閾値を用いた2値化処理とを組み合わせた処理を行う。これにより、所定サイズ(上記の例ではN−1)以上の高輝度領域に対応したマスク領域を有するマスクを生成することができる。
また、上記のように、線形平滑化フィルタの大きさNのみで所定サイズを制御する場合に限らない。例えば、n×n(n<N)線形平滑化フィルタを用いたぼかし処理を行う場合、ぼかし処理の対象となる画像を一旦(n−1)/(N−1)に縮小し、n×n線形平滑化フィルタを1回適用する。そして、画像を元のサイズに拡大することにより、N×N線形平滑化フィルタを1回適用した場合と同様の結果が得られる。
また、ぼかし処理の対象となる画像を縮小せず、n×n線形平滑化フィルタを複数回(k回)適用してもよい。この場合、フィルタ適用回数kはk=(N−1)/(n−1)とすればよい。n×n線形平滑化フィルタをk回適用すると、図6中のAに示す高輝度領域の直径方向の画素数は約R+k(n−1)画素となり、図6中のBに示す高輝度領域の直径方向の画素数は約R−k(n−1)画素となる。
ただし、フィルタ適用回数kが大きくなると(例えば、k≧10)、図6中のBに示す高輝度領域の直径方向の画素数は約R−k(n−1)より大きくなり、所望のマスク領域が得られない場合がある。そこで、n×n線形平滑化フィルタを1回適用する毎に、高輝度の閾値YHにより2値化してフィルタの適用を繰り返すようにするとよい。
また、マスク領域がマスク生成前の元の高輝度領域と略同じ大きさの場合には、マスク適用後に面積大の高輝度領域の周辺部が残ってしまう可能性があるため、マスク領域を元の高輝度領域より若干大きく生成するようにするとよい。そのためには、n×n線形平滑化フィルタの適用回数k=(N−1)/(n−1)を1程度増やす。
また、クロスフィルタ効果を適用する際は、入力画像サイズによらず同等の結果が得られるようにしたい。すなわち、同じ画像について、画素数(解像度)を変えて処理した場合でも、輝線が付加される箇所と付加されない箇所とにばらつきが生じないことが望ましい。そのためには、ぼかし処理を行う際に、高輝度領域抽出画像のサイズが大きくなるほど広くぼかすことが必要になる。高輝度領域抽出画像のサイズに応じて線形平滑化フィルタの適用回数を増加させることも考えられるが、処理時間上好ましくない上、画像サイズに応じたパラメータ調整も必要となる。
そこで、マスク生成部32は、ぼかし処理を行う際に、高輝度領域抽出画像を特定のサイズ(例えばVGA)に変換してからぼかし処理を行い、マスク領域を抽出た後に元のサイズに戻す。これにより、入力画像サイズによらず同等の結果を得ることができる。なお、画像を縮小して拡大すると一般に画像の画質は劣化するが、マスク生成部32では、マスクを生成することが目的であるため、画質の劣化は問題にならない。
マスク適用部33は、高輝度領域抽出画像にマスク生成部32で生成されたマスクを適用し、高輝度領域抽出画像において、マスク領域に対応する高輝度領域を削除する。マスク適用部33は、マスク適用後の画像をマスク適用画像として出力する。
輝線生成部34は、マスク適用画像に対して、ぼかし処理、拡大・縮小処理、回転処理等を行って、輝線画像を生成する。
合成部35は、原画像(YCbCr画像)に輝線生成部34で生成された輝線画像を合成し、クロスフィルタ処理画像を生成する。
次に、第1実施形態に係る撮像装置10の作用について説明する。CPU21により撮像指示がなされると撮像部12により画像が撮像され、原画像を示すYCbCr画像データが所定の記憶領域に記憶される。そして、クロスフィルタ処理モードが設定されている状態で、原画像を表示部14に表示する際に、原画像を示すYCbCr画像データがRAM22に記憶され、画像処理部16により、図11に示す画像処理が実行される。
図11に示す画像処理のステップ100で、CPU21が、RAM22に記憶された、例えば図12の40に示すような原画像であるYCbCr画像のY成分で表されたY画像を画素抽出回路29に入力する。画素抽出回路29は、Y画像をスキャンしながら、輝度値が予め設定された所定の閾値YH以上の画素または画素群を高輝度領域として抽出し、図12の41に示すような高輝度領域抽出画像を出力する。図12の高輝度領域抽出画像41中の白い領域が高輝度領域41L、41Sである。なお、ここでは、説明のため、高輝度領域41Lを削除すべき面積大の高輝度領域、高輝度領域41Sを削除しない高輝度領域として想定している。また、図13の41Aは、図12の高輝度領域抽出画像41のA−A線上の画素位置に対応した輝度値を表す。なお、本ステップの処理は、図5に示す機能ブロック図の高輝度領域抽出部31における処理である。
次に、ステップ200で、面積大の高輝度領域削除処理を実行する。ここで、図14を参照して、面積大の高輝度領域削除処理について説明する。
図14に示す面積大の高輝度領域削除処理のステップ202で、CPU21が、画素抽出回路29から出力された高輝度領域抽出画像41を拡大・縮小回路24に入力する。拡大・縮小回路24は、高輝度領域抽出画像41を拡大または縮小することにより、特定のサイズに変換する。
次に、ステップ204で、CPU21が、拡大・縮小回路24から出力されたサイズ変換された高輝度領域抽出画像41をぼかし回路23に入力する。ぼかし回路23は、入力された高輝度領域抽出画像41に対して、例えばN×N線形平滑化フィルタを1回適用することによりぼかし処理を行い、図12の42に示すような処理中画像を出力する。また、図13の42Bは、図12の処理中画像42のB−B線上の画素位置に対応した輝度値を表す。高輝度領域41Lに対応する処理中画像42の領域にはYH以上の輝度値を保持した画素が残っているが、高輝度領域41Sに対応する処理中画像42の領域にはYH以上の輝度値を保持した画素が残っていない。
次に、ステップ206で、CPU21が、処理中画像42を2値化回路27に入力する。2値化回路27は、入力された処理中画像42を高輝度の閾値YHで2値化処理し、図12の43に示すような処理中画像43を出力する。また、図13の43Cは、図12の処理中画像43のC−C線上の画素位置に対応した輝度値を表す。高輝度領域41Lに対応する処理中画像43の領域に高輝度領域41Lを細らせた領域が残り、高輝度領域41Sに対応する処理中画像43の領域からは輝度値を有する領域が消滅する。
次に、ステップ208で、CPU21が、処理中画像43をぼかし回路23に入力する。ぼかし回路23は、入力された処理中画像43に対して、上記ステップ204と同様に、例えばN×N線形平滑化フィルタを1回適用することによりぼかし処理を行い、図12の44に示すような処理中画像を出力する。また、図13の44Dは、図12の処理中画像44のD−D線上の画素位置に対応した輝度値を表す。
次に、ステップ210で、CPU21が、処理中画像44を拡大・縮小回路24に入力する。拡大・縮小回路24は、処理中画像44を拡大または縮小することにより、元の高輝度領域抽出画像41のサイズに変換する。元のサイズに変換された処理中画像44では、輝度値を有する領域が、元の高輝度領域抽出画像41の高輝度領域41Lと略同じサイズまで広がる。
次に、ステップ212で、CPU21が、サイズ変換された処理中画像44を2値化回路27に入力する。2値化回路27は、入力された処理中画像44を低輝度の閾値YLで2値化処理し、図12の45に示すようなマスク45を生成する。また、図13の45Eは、図12のマスク45のE−E線上の画素位置に対応した輝度値を表す。これにより、高輝度領域41Lに対応するマスク領域を有するマスク45が生成される。
次に、ステップ214で、CPU21が、マスク45と高輝度領域抽出画像41とをマスク回路26に入力する。マスク回路26は、高輝度領域抽出画像41にマスク45を適用し、マスク45のマスク領域に対応する高輝度領域抽出画像41内の面積大の高輝度領域を削除したマスク適用画像46を出力して、図11に示す画像処理にリターンする。
なお、上記ステップ202〜212の処理は、図5に示す機能ブロック図のマスク生成部32における処理であり、上記ステップ214の処理は、図5に示す機能ブロック図のマスク適用部33における処理である。
次に、図11に示す画像処理のステップ300で、輝線生成処理を実行する。ここで、図15を参照して、輝線生成処理について説明する。ここでは、1つの高輝度領域に対して、十字型のクロスフィルタ効果を実現するために、2つの輝線を生成する場合について説明する。
図15に示す輝線生成処理のステップ302で、CPU21が、マスク回路26から出力されたマスク適用画像46を回転回路25に入力する。回転回路25は、マスク適用画像46を所定角度回転させて、図16の47H、47Vに示すような処理中画像を出力する。例えば、処理中画像47Hはマスク適用画像46を左に角度α回転させて生成し、処理中画像47Vはマスク適用画像46を右に角度β回転させて生成する。角度α及びβは、生成する輝線の角度に応じて設定しておく。さらに、α+βを、2つの輝線のなす角となるように、例えばα+β=90°のように設定しておく。
次に、ステップ304で、CPU21が、処理中画像47H、47Vを拡大・縮小回路24に入力する。拡大・縮小回路24は、処理中画像47H、47Vの各々の水平方向のサイズを縮小して、図16の48H、48Vに示すような処理中画像を出力する。縮小率は、生成する輝線の長さに応じて、輝線の長さが長いほど大な値で設定しておく。
次に、ステップ306で、CPU21が、処理中画像48H、48Vをぼかし回路23に入力する。ぼかし回路23は、処理中画像48H、48Vの各々に対して、水平方向にぼかし処理を行い、図16の49H、49Vに示すような処理中画像を出力する。
次に、ステップ308で、CPU21が、処理中画像49H、49Vを拡大・縮小回路24に入力する。拡大・縮小回路24は、処理中画像49H、49Vの各々の水平方向のサイズを元のマスク適用画像46のサイズまで拡大し、図16の50H、50Vに示すような処理中画像を出力する。
次に、ステップ310で、CPU21が、処理中画像50H、50Vを回転回路25に入力する。回転回路25は、処理中画像50H、50Vの各々を上記ステップ302で行った回転に対して逆回転させ、図16の51H、51Vに示すような輝線画像を出力して、図11に示す画像処理にリターンする。
なお、輝線生成処理は、図5に示す機能ブロック図の輝線生成部34における処理である。
次に、図11に示す画像処理のステップ400で、CPU21が、生成された輝線画像51H、51Vと、原画像40とを重み付け加算回路28に入力する。重み付け加算回路28は、図17に示すように、原画像40に輝線画像51H、51Vを合成したクロスフィルタ処理画像52を生成して出力する。
次に、ステップ402で、CPU21が、重み付け加算回路28から出力されたクロスフィルタ処理画像52をRAM22に記憶し、クロスフィルタ処理画像52が表示部14に表示されるように制御して、画像処理を終了する。
なお、上記ステップ400及び402の処理は、図5に示す機能ブロック図の合成部35における処理である。
以上説明したように、第1実施形態に係る撮像装置によれば、ぼかし処理と2値化処理とを組み合わせた簡易な処理により面積大の高輝度領域に対応したマスク領域を有するマスクを生成する。そして、このマスクを高輝度領域抽出画像に適用して面積大の高輝度領域を削除してから輝線を生成するため、見苦しい輝線の生成を抑制することができる。従って、輝線を付加する高輝度領域を判定するような煩雑な処理を要することなく、簡易な処理で、画質を向上させたクロスフィルタ処理を行うことができる。
〔第2実施形態〕
次に、第2実施形態について説明する。なお、第2実施形態に係る撮像装置10のハードウェア構成は、図1に示す第1実施形態に係る撮像装置10のハードウェア構成と同様であるため説明を省略する。また、第2実施形態における画像処理部16の機能的構成は、第1実施形態の画像処理部16の機能的構成と、マスク生成部232及びマスク適用部233が異なるだけであるため、異なる点について説明する。
マスク生成部232は、高輝度領域抽出画像において、複数の高輝度領域が所定間隔以下で密集した領域(以下、「密集高輝度領域」という)に対応したマスク領域を有するマスクを生成する。マスク生成部232は、第1実施形態におけるマスク生成部32と同様、高輝度領域抽出画像に対して、ぼかし処理と2値化処理とを組み合わせた処理を行うことにより、マスクを生成する。
マスク適用部233は、高輝度領域抽出画像から高輝度領域の間引き処理を行った全体間引き画像を生成する。また、マスク適用部233は、マスク生成部232で生成されたマスクのマスク領域では全体間引き画像を使用し、マスク領域以外の領域では高輝度領域抽出画像を使用して、高輝度領域抽出画像と全体間引き画像とを合成する。これにより、密集高輝度領域のみ間引き処理がされたマスク適用画像が生成される。マスク適用部233は、生成したマスク適用画像を出力する。
次に、第2実施形態に係る撮像装置10の作用について説明する。第2実施形態では、画像処理部16により、図18に示す画像処理が実行される。図18に示す画像処理では、図11に示す第1実施形態における画像処理のステップ200で実行される面積大の高輝度領域削除処理に替えて、ステップ500で密集高輝度領域間引き処理が実行される。ここで、図19を参照して、密集高輝度領域間引き処理について説明する。
図19に示す密集高輝度領域間引き処理のステップ502で、CPU21が、画素抽出回路29から出力された、例えば図20の53に示すような高輝度領域抽出画像を拡大・縮小回路24に入力する。なお、説明のため、図20の高輝度領域抽出画像53中の破線で囲んだ領域は密集高輝度領域を想定している。拡大・縮小回路24は、高輝度領域抽出画像53を拡大または縮小することにより、特定のサイズに変換する。
次に、ステップ504で、CPU21が、拡大・縮小回路24から出力されたサイズ変換された高輝度領域抽出画像53をぼかし回路23に入力する。ぼかし回路23は、入力された高輝度領域抽出画像53に対して、例えばN×N線形平滑化フィルタを1回適用することによりぼかし処理を行い、図20の54に示すような処理中画像を出力する。ここでのぼかし処理は、所定間隔以下で密集した複数の高輝度領域が輝度値を有する一つの領域となるようにする。
次に、ステップ506で、CPU21が、処理中画像54を2値化回路27に入力する。2値化回路27は、入力された処理中画像54を低輝度の閾値YLで2値化処理し、図20の55に示すような処理中画像を出力する。
次に、ステップ508で、CPU21が、処理中画像55をぼかし回路23に入力する。ぼかし回路23は、入力された処理中画像55に対して、例えばN×N線形平滑化フィルタを1回適用することによりぼかし処理を行い、図20の56に示すような処理中画像を出力する。
次に、ステップ510で、CPU21が、処理中画像56を2値化回路27に入力する。2値化回路27は、入力された処理中画像56を高輝度の閾値YHで2値化処理し、図20の57に示すような処理中画像を出力する。
次に、ステップ512で、CPU21が、処理中画像57をぼかし回路23に入力する。ぼかし回路23は、入力された処理中画像57に対して、例えばN×N線形平滑化フィルタを1回適用することによりぼかし処理を行い、図20の58に示すような処理中画像を出力する。
次に、ステップ514で、CPU21が、処理中画像58を拡大・縮小回路24に入力する。拡大・縮小回路24は、処理中画像58を拡大または縮小することにより、元の高輝度領域抽出画像53のサイズに変換する。元のサイズに変換された処理中画像58では、輝度値を有する領域が、元の高輝度領域抽出画像53の密集高輝度領域に対応したサイズまで広がる。
次に、ステップ516で、CPU21が、サイズ変換された処理中画像58を2値化回路27に入力する。2値化回路27は、入力された処理中画像58を低輝度の閾値YLで2値化処理し、図20の59に示すようなマスクを生成する。これにより、密集高輝度領域に対応するマスク領域を有するマスク59が生成される。
次に、ステップ518で、CPU21が、高輝度領域抽出画像53を拡大・縮小回路24に入力する。拡大・縮小回路24は、高輝度領域抽出画像53を間引き率に応じて一旦縮小し、再び元のサイズに拡大し、図21の60に示すような処理中画像を出力する。
次に、ステップ520で、CPU21が、高輝度領域抽出画像53と処理中画像60とをマスク回路26に入力する。マスク回路26は、処理中画像60と高輝度領域抽出画像53との共通領域を抽出することにより、図21の61に示すような全体間引き画像を出力する。
次に、ステップ522で、CPU21が、マスク59、高輝度領域抽出画像53、及び全体間引き画像61をαブレンド回路30に入力する。αブレンド回路30は、図22に示すように、マスク59のマスク領域では全体間引き画像61を使用し、マスク領域以外の領域では高輝度領域抽出画像53を使用して、高輝度領域抽出画像53と全体間引き画像61とを合成する。αブレンド回路30は、マスク59を適用して合成した画像をマスク適用画像62として出力し、図18に示す画像処理にリターンする。
なお、上記ステップ502〜516の処理は、図5に示す機能ブロック図のマスク生成部232における処理であり、上記ステップ518〜522の処理は、図5に示す機能ブロック図のマスク適用部233における処理である。
以上説明したように、第2実施形態に係る撮像装置によれば、ぼかし処理と2値化処理とを組み合わせた簡易な処理により密集高輝度領域に対応したマスク領域を有するマスクを生成する。そして、このマスクを高輝度領域抽出画像と高輝度領域抽出画像を全体的に間引いた画像とに適用して、密集した高輝度領域を間引いてから輝線を生成するため、輝線が付加され過ぎるような見苦しい輝線の生成を抑制することができる。従って、輝線を付加する高輝度領域を判定するような煩雑な処理を要することなく、簡易な処理で、画質を向上させたクロスフィルタ処理を行うことができる。
なお、第2実施形態では、密集高輝度領域に対応した領域を有するマスクを生成したが、このマスクのマスク領域は、第1実施形態で説明した面積大の高輝度領域に対応した領域も含むものとなる。従って、第2実施形態で生成したマスクを用いて、第1実施形態のように面積大の高輝度領域を削除することもできる。
また、第2実施形態では、マスクを生成するためのぼかし処理の際に、N×N線形平滑化フィルタを1回適用する場合について説明したが、これに限定されない。第1実施形態で説明したように、ぼかし処理の対象画像を(n−1)/(N−1)に縮小した上で、n×n(n<N)線形平滑化フィルタを1回適用してもよい。また、n×n線形平滑化フィルタをk(k=(N−1)/(n−1))回適用してもよい。
また、第2実施形態で生成されたマスクを利用して、マスク領域に含まれる高輝度領域に対しては、マスク領域以外の領域の高輝度領域に対する輝線に比べて、長さの短い輝線を生成するようにしてもよい。
〔第3実施形態〕
次に、第3実施形態について説明する。なお、第3実施形態に係る撮像装置10のハードウェア構成は、図1に示す第1実施形態に係る撮像装置10のハードウェア構成と同様であるため説明を省略する。
図23に、第3実施形態の画像処理部16の機能的構成の一例を示す。なお、第1実施形態の画像処理部16と同一の機能部については、同一符号を付して詳細な説明を省略する。
画像処理部16は、高輝度領域抽出部31、マスク生成部332、マスク適用部333、輝線生成部34、色付き輝線生成部36、及び合成部335を備えている。各機能部は、図1に示す各回路のうちの1つまたは複数の組み合わせにより実現される。例えば、色付き輝線生成部36は、ぼかし回路23、拡大・縮小回路24、回転回路25、及び画素抽出回路29により実現される。
マスク生成部332は、高輝度領域抽出画像に対して、ぼかし処理と2値化処理とを組み合わせた処理を行って、面積大の高輝度領域に対応したマスク領域を有する第1マスクを生成する。また、マスク生成部332は、高輝度領域抽出画像に対して、ぼかし処理と2値化処理とを組み合わせた処理を行って、密集高輝度領域に対応したマスク領域を有する第2マスクを生成する。
以下に、第1マスクの具体的な生成方法について説明する。第1実施形態のマスク生成部32では、図12に示すように、ぼかし処理と2値化処理との組み合わせ処理(図12中の破線で囲まれた箇所に相当)を2回行うことにより、マスクを生成する場合について説明した。第3実施形態のマスク生成部332では、ぼかし処理と2値化処理との組み合わせ処理を1回行うことにより、第1マスクを生成する場合について説明する。また、ここでは、説明を簡単にするため、高輝度領域に含まれる画素の輝度値が全て同一で、直径がR画素の高輝度領域に対するマスクの生成について説明する。また、高輝度領域を抽出する際の閾値を高輝度の閾値YHとした場合を考える。
図24に、上記の高輝度領域の直径方向の各画素位置に対する輝度値を表す。図24中の41Lは、削除すべき面積大の高輝度領域、41Sは削除しない高輝度領域を示す。高輝度領域に対して線形フィルタを適用してぼかし処理を行うと、図24中のAに示すように、フィルタ適用前の高輝度領域41Lの外周部分の画素の輝度値は、0とYHとの間の中程度の輝度値YM1となる。
そこで、面積大の高輝度領域の所定サイズに応じて設定したフィルタサイズ及びフィルタ適用回数のぼかし処理を所定サイズの高輝度領域に行った際の、フィルタ適用前の高輝度領域41Lの外周部分の画素のフィルタ適用後の輝度値を閾値YM1として定めておく。また、所定サイズより小さい高輝度領域に上記のぼかし処理を行った後の最大輝度値より閾値YM1が大きくなるようにフィルタサイズ及びフィルタ適用回数を定めておく。これにより、YM1を閾値として2値化すれば、フィルタ適用前の高輝度領域41Lと略同じ領域をマスク領域として抽出することができる。高輝度領域41Sについては、フィルタ適用後の輝度値がYM1より小さくなるため、YM1を閾値として2値化することにより消滅する。
次に、第2マスクの具体的な生成方法について説明する。第2実施形態のマスク生成部232では、図20に示すように、ぼかし処理と2値化処理との組み合わせ処理(図20中の破線で囲まれた箇所に相当)を3回行うことにより、マスクを生成する場合について説明した。第3実施形態のマスク生成部332では、ぼかし処理と2値化処理との組み合わせ処理を1回行うことにより、第2マスクを生成する場合について説明する。
図25に、高輝度領域の直径方向の各画素位置に対する輝度値を表す。図25中の41Dは密集高輝度領域、41Cは密集していない高輝度領域を示す。密集高輝度領域41Dは、複数の高輝度領域が所定間隔以下で密集した領域であり、密集していない高輝度領域41Cは、所定間隔離れた位置に他の高輝度領域が存在しない高輝度領域である。高輝度領域に対して線形フィルタを適用してぼかし処理を行うと、密集高輝度領域41Dでは、密集していない高輝度領域41Cに比べて、輝度値の減少が少ない。図25中のAに示すように、フィルタ適用前の密集高輝度領域41Dの外周部分の画素の輝度値は、0とYHとの間の中程度の輝度値YM2となる。
そこで、予め設定したフィルタサイズ及びフィルタ適用回数のぼかし処理を密集高輝度領域に行った際の、フィルタ適用前の密集高輝度領域41Dの外周部分の画素のフィルタ適用後の輝度値を閾値YM2として定めておく。また、密集していない高輝度領域41Cに上記のぼかし処理を行った後の最大輝度値より閾値YM2が大きくなるようにフィルタサイズ及びフィルタ適用回数を定めておく。これにより、YM2を閾値として2値化すれば、フィルタ適用前の密集高輝度領域と略同じ領域をマスク領域として抽出することができる。密集していない高輝度領域41Cについては、フィルタ適用後の輝度値がYM2より小さくなるため、YM2を閾値として2値化することにより消滅する。
また、第1マスク及び第2マスクの生成でのぼかし処理は、第1実施形態のマスク生成部32と同様で、例えば、N×N線形平滑化フィルタを1回適用することにより行うことができる。また、ぼかし処理の対象画像を(n−1)/(N−1)に縮小した上で、n×n(n<N)線形平滑化フィルタを1回適用してもよい。また、n×n線形平滑化フィルタをk(k=(N−1)/(n−1))回適用してもよい。
マスク適用部333は、マスク生成部332で生成された第1マスクを第1実施形態と同様に適用して、面積大の高輝度領域を削除すると共に、第2マスクを第2実施形態と同様に適用して、密集高輝度領域を間引いたマスク適用画像を生成する。
色付き輝線生成部36は、原画像であるYCbCr画像の色差成分(CbCr成分)で表されたCbCr画像のうち、高輝度領域に対応する領域(色付きの高輝度領域)から、輝線生成部34と同様の処理により、光源と同じ色の色付き輝線を生成する。ただし、図26に示すように、色付きの高輝度領域であっても、高輝度部分の中央部分にはほとんど色差成分が存在しないため、CbCr画像から輝線を生成しても色付き輝線とならない場合がある。そこで、色付き輝線生成部36は、図27に示すように、予めCbCr画像にぼかし処理を適用し、高輝度領域の周辺部分の色差成分を中央部分へ移してから、輝線を生成する。これにより、輝線に十分な色を付けることができる。
また、原画像に色付き輝線を合成する際に、輝度値が飽和した輝度飽和画素に色差成分(CbCr成分)を与えると、画像表示のためYCbCr画像である合成画像をsRGB画像へ変換した際に、不自然な色になる場合がある。これはYCbCr空間がsRGB空間より広く、輝度が飽和しており、かつ色差成分を有する場合はsRGB空間からはみ出すためである。
この問題を回避するため、合成部335は、原画像に色付き輝線を合成した後に、Y画像から輝度が飽和した輝度飽和画素を抽出し、輝度飽和画素を無彩色(色差成分を0)にする。
次に、第3実施形態に係る撮像装置10の作用について説明する。第3実施形態では、画像処理部16により、図28に示す画像処理が実行される。なお、第1及び第2実施形態における画像処理と同一の処理については、同一符号を付して詳細な説明を省略する。
図28に示す画像処理のステップ100で、CPU21が、RAM22に記憶された、図29の63に示すような原画像であるYCbCr画像のY成分で表されたY画像を画素抽出回路29に入力する。画素抽出回路29は、Y画像から高輝度領域を抽出し、図29の64に示すような高輝度領域抽出画像を出力する。なお、図29の原画像63において、63Aは色差成分を有しているが高輝度ではない領域、63Bは色付き高輝度領域である。
次に、ステップ600で、面積大の高輝度領域削除処理を実行する。ここで実行される面積大の高輝度領域削除処理について、第1実施形態における面積大の高輝度領域削除処理(図14)と異なる点について説明する。
第3実施形態における面積大の高輝度領域削除処理では、図14のステップ202〜214の処理のうち、ステップ204及び206を省略する。また、ステップ212の2値化処理で用いる閾値を中程度の閾値YM1とする。
なお、上記ステップ202及び208〜212の処理は、図23に示す機能ブロック図のマスク生成部332における処理であり、上記ステップ214の処理は、図23に示す機能ブロック図のマスク適用部333における処理である。
次に、図28に示す画像処理のステップ700で、密集高輝度領域間引き処理を実行する。ここで実行される密集高輝度領域間引き処理について、第2実施形態における密集高輝度領域間引き処理(図19)と異なる点について説明する。
第3実施形態における密集高輝度領域間引き処理では、図19のステップ502〜522のうち、ステップ504〜510を省略する。また、ステップ516の2値化処理で用いる閾値を中程度の閾値YM2とする。
なお、上記ステップ502及び512〜516の処理は、図23に示す機能ブロック図のマスク生成部332における処理であり、上記ステップ518〜522の処理は、図23に示す機能ブロック図のマスク適用部333における処理である。
次に、図28に示す画像処理のステップ300で、図15に示す輝線生成処理を実行し、図29の65に示すような輝線画像を生成する。なお、図29の65では2方向に生成した輝線画像を合わせた状態を示している。
次に、ステップ800で、色付き輝線生成処理を実行する。ここで、図30を参照して、色付き輝線生成処理について説明する。
図30に示す色付き輝線生成処理のステップ802で、CPU21が、図29の66に示すような、原画像であるYCbCr画像の色差成分(CbCr成分)で表された、CbCr画像をぼかし回路23に入力する。ぼかし回路23は、CbCr画像66にぼかし処理を行う。これにより、高輝度領域の周辺部分の色差成分を中央部分へ移す。
次に、ステップ804で、CPU21が、ぼかし処理が行われたCbCr画像66を画素抽出回路29へ入力する。画素抽出回路29は、高輝度領域抽出画像64に基づいて、CbCr画像66から高輝度領域に対応する領域である色付き高輝度領域を抽出する。画素抽出回路29は、色付き高輝度領域を抽出した図29の67に示すような処理中画像を出力する。
次に、ステップ806で、処理中画像67に対して、図15に示す輝線生成処理を実行することにより、色付き輝線画像68H、68Vを生成して、図28に示す画像処理へリターンする。
なお、色付き輝線生成処理は、図23に示す機能ブロック図の色付き輝線生成部36における処理である。
次に、図28に示す画像処理のステップ900で、CPU21が、輝線画像65、色付き輝線画像68H、68V、及び原画像63を重み付け加算回路28に入力する。重み付け加算回路28は、原画像63に輝線画像65、色付き輝線画像68H、68Vを合成し、図29の69に示すような処理中画像69を出力する。
次に、ステップ902で、CPU21が、処理中画像69を画素抽出回路29に入力する。画素抽出回路29は、YCbCr画像である処理中画像69のY成分で表されるY画像から輝度値が飽和している輝度飽和画素を抽出し、図29の70に示すような輝度飽和画像を出力する。
次に、ステップ904で、CPU21が、処理中画像69と輝度飽和画像70とをマスク回路26に入力する。マスク回路26は、輝度飽和画像70に基づいて、処理中画像69内の輝度飽和画素を無彩色(色差成分を0)にしたクロスフィルタ処理画像71を生成して出力する。
次に、ステップ402で、CPU21が、マスク回路26から出力されたクロスフィルタ処理画像71をRAM22に記憶し、クロスフィルタ処理画像71が表示部14に表示されるように制御して、画像処理を終了する。
なお、上記ステップ900〜904及び402の処理は、図23に示す機能ブロック図の合成部335における処理である。
以上説明したように、第3実施形態に係る撮像装置によれば、面積大の高輝度領域の削除、及び密集高輝度領域の間引きを共に行うため、より見苦しさを抑制することができる。また、ぼかし処理と2値化処理とを組み合わせた処理を1回行うという簡易な処理により、面積大の高輝度領域の削除を行うための第1マスク、及び密集高輝度領域の間引きを行うための第2マスクの各々を生成することができる。これにより、より簡易な処理で、画質を向上させたクロスフィルタ処理を行うことができる。さらに、色付きの輝線も加え、輝度飽和画素を無彩色にすることで、より画質を向上させたクロスフィルタ処理を行うことができる。
また、第1〜第3実施形態では、画像処理部16を、ぼかし回路や2値化回路等を備えた汎用の画像処理プロセッサで実現することができ、ハードウェアの拡張により回路規模が膨大になることもなく、ハードウェアによる高速処理が実現可能である。
〔第4実施形態〕
次に、第4実施形態について説明する。第1〜第3実施形態では、画像処理部16を画像処理プロセッサとする場合について説明した。第4実施形態に係る撮像装置10における画像処理部16は、例えば図31に示すコンピュータ80で実現することができる。コンピュータ80はCPU82、メモリ84、及び不揮発性の記憶部86を備えている。CPU82、メモリ84、及び記憶部86は、バス88を介して互いに接続されている。また、コンピュータ80には、撮像部12及び表示部14が接続されている。
記憶部86はHDD(Hard Disk Drive)やフラッシュメモリ等によって実現できる。記録媒体としての記憶部86には、コンピュータ80を画像処理部16として機能させるための画像処理プログラム90が記憶されている。CPU82は、画像処理プログラム90を記憶部86から読み出してメモリ84に展開し、画像処理プログラム90が有するプロセスを順次実行する。
画像処理プログラム90は、高輝度領域抽出プロセス91、マスク生成プロセス92、マスク適用プロセス93、輝線生成プロセス94、及び合成プロセス95を備えている。
CPU82は、高輝度領域抽出プロセス91を実行することで、図5に示す高輝度領域抽出部31として動作する。また、CPU82は、マスク生成プロセス92を実行することで、図5に示すマスク生成部32として動作する。また、CPU82は、マスク適用プロセス93を実行することで、図5に示すマスク適用部33として動作する。また、CPU82は、輝線生成プロセス94を実行することで、図5に示す輝線生成部34として動作する。また、CPU82は、合成プロセス95を実行することで、図5に示す合成部35として動作する。これにより、画像処理プログラム90を実行したコンピュータ80が、第1実施形態と同様の画像処理部16として機能することになる。
また、記憶部86に、コンピュータ80を画像処理部16として機能させるための画像処理プログラム290を記憶しておいてもよい。この場合、CPU82は、画像処理プログラム290を記憶部86から読み出してメモリ84に展開し、画像処理プログラム290が有するプロセスを順次実行する。
画像処理プログラム290は、高輝度領域抽出プロセス91、マスク生成プロセス292、マスク適用プロセス293、輝線生成プロセス94、及び合成プロセス95を備えている。
CPU82は、マスク生成プロセス292を実行することで、図5に示すマスク生成部232として動作する。また、CPU82は、マスク適用プロセス293を実行することで、図5に示すマスク適用部233として動作する。その他のプロセスは上記画像処理プログラム90の場合と同様である。これにより、画像処理プログラム290を実行したコンピュータ80が、第2実施形態と同様の画像処理部16として機能することになる。
また、記憶部86に、コンピュータ80を画像処理部16として機能させるための画像処理プログラム390を記憶しておいてもよい。この場合、CPU82は、画像処理プログラム390を記憶部86から読み出してメモリ84に展開し、画像処理プログラム390が有するプロセスを順次実行する。
画像処理プログラム390は、高輝度領域抽出プロセス91、マスク生成プロセス392、マスク適用プロセス393、輝線生成プロセス94、色付き輝線生成プロセス96、及び合成プロセス395を備えている。
CPU82は、マスク生成プロセス392を実行することで、図23に示すマスク生成部332として動作する。また、CPU82は、マスク適用プロセス393を実行することで、図23に示すマスク適用部333として動作する。また、CPU82は、色付き輝線生成プロセス96を実行することで、図23に示す色付き輝線生成部36として動作する。また、CPU82は、合成プロセス395を実行することで、図23に示す合成部335として動作する。その他のプロセスは上記画像処理プログラム90の場合と同様である。これにより、画像処理プログラム390を実行したコンピュータ80が、第3実施形態と同様の画像処理部16として機能することになる。
以上説明したように、第4実施形態に係る撮像装置によれば、第1〜第3実施形態に係る撮像装置と同様の効果を、ソフトウェアにより実現することができる。
なお、上記では開示の技術における画像処理プログラムの一例である画像処理プログラム90、290、390が記憶部86に予め記憶(インストール)されている態様を説明した。しかし、開示の技術における画像処理プログラムは、CD−ROMやDVD−ROM等の記録媒体に記録されている形態で提供することも可能である。
以上の実施形態に関し、更に以下の付記を開示する。
(付記1)
原画像から輝度が第1閾値以上の第1高輝度領域を抽出する抽出部と、前記第1高輝度領域に対して、ぼかし処理及び2値化処理を行って、前記第1高輝度領域を含むマスクを生成するマスク生成部と、前記マスクに基づいて、前記前記第1高輝度領域の削除処理、及び間引き処理の少なくとも一方を行うマスク適用部と、前記マスク適用部の出力に含まれる第2高輝度領域に基づいて輝線を生成する輝線生成部と、前記原画像に前記輝線を合成する合成部と、を含む画像処理装置。
(付記2)
前記マスク生成部は、前記第1高輝度領域に対して、線形フィルタ処理を含む前記ぼかし処理を行い、前記ぼかし処理後の画像に対して前記第1閾値よりも小さい第2閾値に基づいて前記2値化処理を行うことにより、前記マスクを生成する付記1記載の画像処理装置。
(付記3)
前記マスク生成部は、前記第1高輝度領域が所定サイズより大きい場合に、前記第1高輝度領域内の最大輝度値を保持し、前記第1高輝度領域が前記所定サイズより小さい場合に前記第1高輝度領域内の最大輝度値を保持しない線形フィルタ処理を含む第1ぼかし処理を行い、前記第1ぼかし処理後の画像に対して前記第1閾値に基づいて第1の2値化処理を行い、前記第1の2値化処理後の高輝度領域に前記第1ぼかし処理を行い、前記第1ぼかし処理後の画像に対して2値化処理を行うことにより、前記マスクを生成する付記1記載の画像処理装置。
(付記4)
前記マスク生成部は、前記第1高輝度領域に対して、線形フィルタ処理を含む前記ぼかし処理を行い、前記ぼかし処理後の画像に対して、前記第1高輝度領域を複数含む領域の外周部の輝度値を第2閾値として2値化処理することにより、前記マスクを生成する付記1記載の画像処理装置。
(付記5)
前記マスク生成部は、前記第1高輝度領域に対して、所定間隔以下で離間して存在する複数の前記第1高輝度領域が一つの領域となる線形フィルタ処理を含む第1ぼかし処理を行い、前記第1ぼかし処理後の画像に対して第1の2値化処理を行い、前記第1の2値化処理により抽出された高輝度領域に第2ぼかし処理を行い、前記第2ぼかし処理後の画像に対して前記第1閾値に基づいて第2の2値化処理を行い、前記第2の2値化処理により抽出された高輝度領域に第3ぼかし処理を行い、前記第3ぼかし処理後の画像に対して第3の2値化処理を行うことにより、前記マスクを生成する付記1記載の画像処理装置。
(付記6)
前記第1高輝度領域に対応する前記原画像の領域が有する色差成分に基づいて、色差成分を有する色付き輝線を生成する色付き輝線生成部を含み、前記合成部は、前記原画像に前記色付き輝線を合成する付記1〜付記5のいずれか1つに記載の画像処理装置。
(付記7)
前記マスク生成部は、前記ぼかし処理を行うぼかし回路、前記2値化処理を行う2値化回路を含む付記1〜付記6のいずれか1つに記載の画像処理装置。
(付記8)
前記撮像部と、付記1〜付記7のいずれか1つに記載の画像処理装置と、前記合成部で合成された画像を表示する表示部と、を含む撮像装置。
(付記9)
原画像から輝度が第1閾値以上の第1高輝度領域を抽出し、前記第1高輝度領域に対して、ぼかし処理及び2値化処理を行って、前記第1高輝度領域を含むマスクを生成し、前記マスクに基づいて、前記前記第1高輝度領域の削除処理、及び間引き処理の少なくとも一方を行った出力に含まれる第2高輝度領域に基づいて輝線を生成し、前記原画像に前記輝線を合成することを含む画像処理方法。
(付記10)
前記第1高輝度領域に対して、線形フィルタ処理を含む前記ぼかし処理を行い、前記ぼかし処理後の画像に対して前記第1閾値よりも小さい第2閾値に基づいて前記2値化処理を行うことにより、前記マスクを生成する付記9記載の画像処理方法。
(付記11)
前記第1高輝度領域が所定サイズより大きい場合に、前記第1高輝度領域内の最大輝度値を保持し、前記第1高輝度領域が前記所定サイズより小さい場合に前記第1高輝度領域内の最大輝度値を保持しない線形フィルタ処理を含む第1ぼかし処理を行い、前記第1ぼかし処理後の画像に対して前記第1閾値に基づいて第1の2値化処理を行い、前記第1の2値化処理後の高輝度領域に前記第1ぼかし処理を行い、前記第1ぼかし処理後の画像に対して2値化処理を行うことにより、前記マスクを生成する付記9記載の画像処理方法。
(付記12)
前記第1高輝度領域に対して、線形フィルタ処理を含む前記ぼかし処理を行い、前記ぼかし処理後の画像に対して、前記第1高輝度領域を複数含む領域の外周部の輝度値を第2閾値として2値化処理することにより、前記マスクを生成する付記9記載の画像処理方法。
(付記13)
前記第1高輝度領域に対して、所定間隔以下で離間して存在する複数の前記第1高輝度領域が一つの領域となる線形フィルタ処理を含む第1ぼかし処理を行い、前記第1ぼかし処理後の画像に対して第1の2値化処理を行い、前記第1の2値化処理により抽出された高輝度領域に第2ぼかし処理を行い、前記第2ぼかし処理後の画像に対して前記第1閾値に基づいて第2の2値化処理を行い、前記第2の2値化処理により抽出された高輝度領域に第3ぼかし処理を行い、前記第3ぼかし処理後の画像に対して第3の2値化処理を行うことにより、前記マスクを生成する付記9記載の画像処理方法。
(付記14)
前記第1高輝度領域に対応する前記原画像の領域が有する色差成分に基づいて、色差成分を有する色付き輝線を生成することを含み、前記原画像に前記色付き輝線を合成する付記9〜付記13のいずれか1つに記載の画像処理方法。
(付記15)
前記ぼかし処理をぼかし回路で行い、前記2値化処理を2値化回路で行うことを含む付記9〜付記14のいずれか1つに記載の画像処理方法(図1)。
(付記16)
コンピュータに、原画像から輝度が第1閾値以上の第1高輝度領域を抽出し、前記第1高輝度領域に対して、ぼかし処理及び2値化処理を行って、前記第1高輝度領域を含むマスクを生成し、前記マスクに基づいて、前記前記第1高輝度領域の削除処理、及び間引き処理の少なくとも一方を行った出力に含まれる第2高輝度領域に基づいて輝線を生成し、前記原画像に前記輝線を合成することを含む処理を実行させるための画像処理プログラム。
(付記17)
前記第1高輝度領域に対して、線形フィルタ処理を含む前記ぼかし処理を行い、前記ぼかし処理後の画像に対して前記第1閾値よりも小さい第2閾値に基づいて前記2値化処理を行うことにより、前記マスクを生成する付記16記載の画像処理プログラム。
(付記18)
前記第1高輝度領域が所定サイズより大きい場合に、前記第1高輝度領域内の最大輝度値を保持し、前記第1高輝度領域が前記所定サイズより小さい場合に前記第1高輝度領域内の最大輝度値を保持しない線形フィルタ処理を含む第1ぼかし処理を行い、前記第1ぼかし処理後の画像に対して前記第1閾値に基づいて第1の2値化処理を行い、前記第1の2値化処理後の高輝度領域に前記第1ぼかし処理を行い、前記第1ぼかし処理後の画像に対して2値化処理を行うことにより、前記マスクを生成する付記16記載の画像処理プログラム。
(付記19)
前記第1高輝度領域に対して、線形フィルタ処理を含む前記ぼかし処理を行い、前記ぼかし処理後の画像に対して、前記第1高輝度領域を複数含む領域の外周部の輝度値を第2閾値として2値化処理することにより、前記マスクを生成する付記16記載の画像処理プログラム。
(付記20)
前記第1高輝度領域に対して、所定間隔以下で離間して存在する複数の前記第1高輝度領域が一つの領域となる線形フィルタ処理を含む第1ぼかし処理を行い、前記第1ぼかし処理後の画像に対して第1の2値化処理を行い、前記第1の2値化処理により抽出された高輝度領域に第2ぼかし処理を行い、前記第2ぼかし処理後の画像に対して前記第1閾値に基づいて第2の2値化処理を行い、前記第2の2値化処理により抽出された高輝度領域に第3ぼかし処理を行い、前記第3ぼかし処理後の画像に対して第3の2値化処理を行うことにより、前記マスクを生成する付記16記載の画像処理プログラム。
(付記21)
コンピュータに、前記第1高輝度領域に対応する前記原画像の領域が有する色差成分に基づいて、色差成分を有する色付き輝線を生成することを含み、前記原画像に前記色付き輝線を合成する処理を実行させるための付記16〜付記20のいずれか1つに記載の画像処理プログラム。
10 撮像装置
12 撮像部
14 表示部
16 画像処理部
23 ぼかし回路
24 拡大・縮小回路
25 回転回路
26 マスク回路
27 2値化回路
28 重み付け加算回路
29 画素抽出回路
30 αブレンド回路
31 高輝度領域抽出部
32、232、332 マスク生成部
33、233、333 マスク適用部
34 輝線生成部
35、335 合成部
36 色付き輝線生成部
80 コンピュータ

Claims (10)

  1. 原画像から輝度が第1閾値以上の第1高輝度領域を抽出する抽出部と、
    前記第1高輝度領域に対して、ぼかし処理及び2値化処理を行って、前記第1高輝度領域を含むマスクを生成するマスク生成部と、
    前記マスクに基づいて、前記前記第1高輝度領域の削除処理、及び間引き処理の少なくとも一方を行うマスク適用部と、
    前記マスク適用部の出力に含まれる第2高輝度領域に基づいて輝線を生成する輝線生成部と、
    前記原画像に前記輝線を合成する合成部と、
    を含む画像処理装置。
  2. 前記マスク生成部は、前記第1高輝度領域に対して、線形フィルタ処理を含む前記ぼかし処理を行い、前記ぼかし処理後の画像に対して前記第1閾値よりも小さい第2閾値に基づいて前記2値化処理を行うことにより、前記マスクを生成する請求項1記載の画像処理装置。
  3. 前記マスク生成部は、前記第1高輝度領域が所定サイズより大きい場合に、前記第1高輝度領域内の最大輝度値を保持し、前記第1高輝度領域が前記所定サイズより小さい場合に前記第1高輝度領域内の最大輝度値を保持しない線形フィルタ処理を含む第1ぼかし処理を行い、前記第1ぼかし処理後の画像に対して前記第1閾値に基づいて第1の2値化処理を行い、前記第1の2値化処理後の高輝度領域に前記第1ぼかし処理を行い、前記第1ぼかし処理後の画像に対して2値化処理を行うことにより、前記マスクを生成する請求項1記載の画像処理装置。
  4. 前記マスク生成部は、前記第1高輝度領域に対して、線形フィルタ処理を含む前記ぼかし処理を行い、前記ぼかし処理後の画像に対して、前記第1高輝度領域を複数含む領域の外周部の輝度値を第2閾値として2値化処理することにより、前記マスクを生成する請求項1記載の画像処理装置。
  5. 前記マスク生成部は、前記第1高輝度領域に対して、所定間隔以下で離間して存在する複数の前記第1高輝度領域が一つの領域となる線形フィルタ処理を含む第1ぼかし処理を行い、前記第1ぼかし処理後の画像に対して第1の2値化処理を行い、前記第1の2値化処理により抽出された高輝度領域に第2ぼかし処理を行い、前記第2ぼかし処理後の画像に対して前記第1閾値に基づいて第2の2値化処理を行い、前記第2の2値化処理により抽出された高輝度領域に第3ぼかし処理を行い、前記第3ぼかし処理後の画像に対して第3の2値化処理を行うことにより、前記マスクを生成する請求項1記載の画像処理装置。
  6. 前記第1高輝度領域に対応する前記原画像の領域が有する色差成分に基づいて、色差成分を有する色付き輝線を生成する色付き輝線生成部を含み、
    前記合成部は、前記原画像に前記色付き輝線を合成する
    請求項1〜請求項5のいずれか1項記載の画像処理装置。
  7. 前記マスク生成部は、前記ぼかし処理を行うぼかし回路、前記2値化処理を行う2値化回路を含む請求項1〜請求項6のいずれか1項記載の画像処理装置。
  8. 前記撮像部と、
    請求項1〜請求項7のいずれか1項記載の画像処理装置と、
    前記合成部で合成された画像を表示する表示部と、
    を含む撮像装置。
  9. 原画像から輝度が第1閾値以上の第1高輝度領域を抽出し、
    前記第1高輝度領域に対して、ぼかし処理及び2値化処理を行って、前記第1高輝度領域を含むマスクを生成し、
    前記マスクに基づいて、前記前記第1高輝度領域の削除処理、及び間引き処理の少なくとも一方を行った出力に含まれる第2高輝度領域に基づいて輝線を生成し、
    前記原画像に前記輝線を合成する
    ことを含む画像処理方法。
  10. コンピュータに、
    原画像から輝度が第1閾値以上の第1高輝度領域を抽出し、
    前記第1高輝度領域に対して、ぼかし処理及び2値化処理を行って、前記第1高輝度領域を含むマスクを生成し、
    前記マスクに基づいて、前記前記第1高輝度領域の削除処理、及び間引き処理の少なくとも一方を行った出力に含まれる第2高輝度領域に基づいて輝線を生成し、
    前記原画像に前記輝線を合成する
    ことを含む処理を実行させるための画像処理プログラム。
JP2013016104A 2013-01-30 2013-01-30 画像処理装置、方法、及びプログラム、並びに撮像装置 Active JP6056511B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2013016104A JP6056511B2 (ja) 2013-01-30 2013-01-30 画像処理装置、方法、及びプログラム、並びに撮像装置
US14/085,480 US9208546B2 (en) 2013-01-30 2013-11-20 Image processing apparatus, method and imaging apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013016104A JP6056511B2 (ja) 2013-01-30 2013-01-30 画像処理装置、方法、及びプログラム、並びに撮像装置

Publications (2)

Publication Number Publication Date
JP2014147047A true JP2014147047A (ja) 2014-08-14
JP6056511B2 JP6056511B2 (ja) 2017-01-11

Family

ID=51223009

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013016104A Active JP6056511B2 (ja) 2013-01-30 2013-01-30 画像処理装置、方法、及びプログラム、並びに撮像装置

Country Status (2)

Country Link
US (1) US9208546B2 (ja)
JP (1) JP6056511B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5866085B1 (ja) * 2015-05-19 2016-02-17 三菱電機株式会社 ユーザインタフェース装置およびユーザインタフェース装置の画面表示方法

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111539905B (zh) * 2020-05-15 2023-08-25 北京百度网讯科技有限公司 用于生成图像的方法、装置、设备以及存储介质
CN116503530B (zh) * 2023-04-19 2023-12-05 钛玛科(北京)工业科技有限公司 一种基于图像卷积的间歇区提取方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0564075A (ja) * 1991-08-30 1993-03-12 Fuji Photo Film Co Ltd ビデオ・カメラ,それを用いた撮影方法およびその動作方法,ならびに画像処理装置および方法
JPH0630373A (ja) * 1992-07-10 1994-02-04 Kyocera Corp 特殊効果機能を持つ電子スチルカメラおよび再生装置
JPH1051630A (ja) * 1996-08-02 1998-02-20 Casio Comput Co Ltd 画像処理装置
JP2009152779A (ja) * 2007-12-19 2009-07-09 Nikon Corp 撮像装置及び画像効果付与プログラム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003058880A (ja) 2001-08-21 2003-02-28 Noritsu Koki Co Ltd クロスフィルタ処理方法、クロスフィルタ処理装置、クロスフィルタ処理プログラム、及びこれを記録するコンピュータ読み取り可能な記録媒体
JP2003256832A (ja) 2002-02-27 2003-09-12 Seiko Epson Corp 画像処理装置およびその方法並びにコンピュータプログラム
JP4210995B2 (ja) 2003-09-19 2009-01-21 ノーリツ鋼機株式会社 輝点検出方法及び輝点検出プログラム
JP4207124B2 (ja) 2003-09-19 2009-01-14 ノーリツ鋼機株式会社 輝線描画処理方法及び輝線描画処理プログラム
JP2011151454A (ja) 2010-01-19 2011-08-04 Sony Corp 画像処理装置、撮像機器及び画像処理方法
US8908062B2 (en) * 2011-06-30 2014-12-09 Nikon Corporation Flare determination apparatus, image processing apparatus, and storage medium storing flare determination program

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0564075A (ja) * 1991-08-30 1993-03-12 Fuji Photo Film Co Ltd ビデオ・カメラ,それを用いた撮影方法およびその動作方法,ならびに画像処理装置および方法
JPH0630373A (ja) * 1992-07-10 1994-02-04 Kyocera Corp 特殊効果機能を持つ電子スチルカメラおよび再生装置
JPH1051630A (ja) * 1996-08-02 1998-02-20 Casio Comput Co Ltd 画像処理装置
JP2009152779A (ja) * 2007-12-19 2009-07-09 Nikon Corp 撮像装置及び画像効果付与プログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5866085B1 (ja) * 2015-05-19 2016-02-17 三菱電機株式会社 ユーザインタフェース装置およびユーザインタフェース装置の画面表示方法
WO2016185551A1 (ja) * 2015-05-19 2016-11-24 三菱電機株式会社 ユーザインタフェース装置およびユーザインタフェース装置の画面表示方法

Also Published As

Publication number Publication date
JP6056511B2 (ja) 2017-01-11
US9208546B2 (en) 2015-12-08
US20140212032A1 (en) 2014-07-31

Similar Documents

Publication Publication Date Title
EP2536152B1 (en) Image processing device and image processing method
JP2006033656A (ja) ユーザインタフェース提供装置
JP5672796B2 (ja) 画像処理装置、画像処理方法
US8094213B2 (en) Image processing apparatus, image processing method, and program in which an original image is modified with respect to a desired reference point set on a screen
JP2020129276A (ja) 画像処理装置、画像処理方法、およびプログラム
KR20120098802A (ko) 화상처리장치
JP2012165213A (ja) 画像処理装置
JP2010034964A (ja) 画像合成装置、画像合成方法及び画像合成プログラム
JP4386959B1 (ja) 画像処理装置
JP2014119997A (ja) 画像処理装置およびその制御方法
JP2022179514A (ja) 制御装置、撮像装置、制御方法およびプログラム
JP2008060814A (ja) 撮像装置
JP6056511B2 (ja) 画像処理装置、方法、及びプログラム、並びに撮像装置
JP5455728B2 (ja) 撮像装置、画像処理装置、及び画像処理方法
JP6006390B1 (ja) 撮像システム、画像処理方法
JP6541501B2 (ja) 画像処理装置、撮像装置、及び画像処理方法
JP5042251B2 (ja) 画像処理装置および画像処理方法
EP3125191A1 (en) Image processing device
JP2011151454A (ja) 画像処理装置、撮像機器及び画像処理方法
KR100617661B1 (ko) 영상 처리 장치 및 그 방법
JP6826472B2 (ja) 画像処理装置およびその制御方法
KR20160069452A (ko) 영상 처리 장치, 영상 처리 방법, 및 프로그램
JP4355305B2 (ja) 画像処理装置、コンピュータプログラム、及び記録媒体
JPWO2016084253A1 (ja) 画像処理装置及び画像処理方法
JP2013143725A (ja) 画像表示装置、画像表示方法及びプログラム

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20150608

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150929

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160711

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160906

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161019

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161108

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161121

R150 Certificate of patent or registration of utility model

Ref document number: 6056511

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150