JP2016085593A - 画像処理装置、画像処理方法、及びプログラム - Google Patents

画像処理装置、画像処理方法、及びプログラム Download PDF

Info

Publication number
JP2016085593A
JP2016085593A JP2014217715A JP2014217715A JP2016085593A JP 2016085593 A JP2016085593 A JP 2016085593A JP 2014217715 A JP2014217715 A JP 2014217715A JP 2014217715 A JP2014217715 A JP 2014217715A JP 2016085593 A JP2016085593 A JP 2016085593A
Authority
JP
Japan
Prior art keywords
image
gradient
image data
subject
wavy
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2014217715A
Other languages
English (en)
Inventor
悟 牛嶋
Satoru Ushijima
悟 牛嶋
馬場 孝之
Takayuki Baba
孝之 馬場
上原 祐介
Yusuke Uehara
祐介 上原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2014217715A priority Critical patent/JP2016085593A/ja
Publication of JP2016085593A publication Critical patent/JP2016085593A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

【課題】波状の被写体が存在する画像か否かの認識精度を向上させること。【解決手段】画像処理装置1は、画像データ3における各画素の輝度勾配方向を算出する勾配方向算出部103Aと、輝度の勾配方向が画面上向きかつ予め定めた角度範囲内である上向き勾配の画素及び輝度の勾配方向が画面下向きかつ予め定めた角度範囲内である下向き勾配の画素を抽出し、複数の上向き勾配の画素が画面左右方向に連続した上向き勾配の横長領域及び複数の下向き勾配の画素が画面左右方向に連続した下向き勾配の横長領域を抽出する横長領域抽出部103Bと、前記上向き勾配の横長領域と前記下向き勾配の横長領域とが画面上下方向に繰り返される領域が存在する画像データ3を波状の被写体が存在する画像データと認識する波状被写体認識部103Cと、を備える。【選択図】図1

Description

本発明は、画像処理装置、画像処理方法、及びプログラムに関する。
デジタルカメラ等で撮像した画像データは、パーソナルコンピュータ等に画像処理のソフトウェア(プログラム)を実行させることにより、補正や管理を手軽に行うことができる。
画像処理プログラムを実行するコンピュータ(以下「画像処理装置」という)には、画像データの撮像シーンを自動認識するものがある。撮像シーンを自動認識することにより、例えば画像データを撮像シーンに適した色合いに自動補正することや、画像データを自動分類することができる。
撮像シーンの認識方法の1つとして、ウェーブレット変換を用いる方法が知られている(例えば特許文献1を参照)。この種の認識方法では、変換後の低周波成分からなるボケ画像と各画素の色空間上の距離、及び高周波成分の分布から被写体の特徴量を学習し、画像上の小ブロックごとの特徴量を算出して被写体が何であるかを認識する。例えば、空と海とが写っている画像では、空の部分は元画像とボケ画像との色空間上の差が小さく、海の部分は元画像とボケ画像との色空間上の差が大きくなる。このような特徴と、平均的に一定強度の高周波成分が分布することとを利用して、撮像シーンが海のシーンであるか否かを認識する。
特開2004−062605号公報
しかしながら、上述のウェーブレット変換を用いた撮像シーンの認識方法では、高周波成分の分布にのみ着目しており、高周波成分の方向を考慮していない。また、小ブロック内の平均的な色空間上の距離にのみ着目しており、画素の位置関係等を考慮していない。そのため、元画像とボケ画像との差が大きく、かつ平均的に一定強度の高周波成分が分布した部分があれば、海が存在しない画像であっても海の画像と認識してしまうことがある。例えば、多数の粒状の物体が画面全体に広がっている画像が、自動認識により海のシーンの画像と誤認識され、海のシーンの画像に分類されてしまうことがある。すなわち、多数の画像データの中から海のような波状の被写体が存在する画像を認識して自動抽出する際に、誤って波状の被写体が存在しない画像も抽出してしまうことがある。
このように画像を誤って認識、分類した場合、ユーザが手作業により正しく分類しなおすこととなり、分類作業に手間がかかる。また、特定の撮像シーンの画像に対し、光源や撮像装置の特性等に依存した色の偏り(色被り)に応じて色合いを自動補正する場合に、補正する必要の無い画像データまで補正してしまうことがある。
本発明の1つの側面に係る目的は、波状の被写体が存在する画像か否かの認識精度を向上させることである。
本発明の1つの態様の画像処理装置は、画像データにおける各画素の輝度の勾配方向を算出する勾配方向算出部と、前記輝度の勾配方向が画面上向きかつ予め定めた角度範囲内である上向き勾配の画素及び前記輝度の勾配方向が画面下向きかつ予め定めた角度範囲内である下向き勾配の画素を抽出し、複数の前記上向き勾配の画素が画面左右方向に連続した上向き勾配の横長領域及び複数の前記下向き勾配の画素画素が画面左右方向に連続した下向き勾配の横長領域を抽出する横長領域抽出部と、前記上向き勾配の横長領域と前記下向き勾配の横長領域とが画面上下方向に繰り返される領域が存在する前記画像データを波状の被写体が存在する画像の画像データと認識する波状被写体認識部と、を備える。
上述の態様によれば、波状の被写体が存在する画像か否かの認識精度を向上させることである。
本発明の第1の実施形態に係る画像処理装置の構成を示す機能ブロック図である。 画像処理の対象となる画像の一例を示す写真とその模式図である。 画像処理の対象となる画像の別の例を示す写真である。 第1の実施形態に係る画像処理全体の手順を示すフローチャートである。 輝度の勾配方向の算出手順を説明する模式図である。 輝度の勾配方向の算出方法を説明する模式図である。 勾配方向の上向き及び下向きの定義を説明する模式図である。 勾配方向が上向きの画素及び下向きの画素の抽出結果を示す模式図である。 グルーピングの方法を説明する模式図である。 横長領域の抽出方法を説明する模式図である。 勾配方向が上向きの横長領域及び下向きの横長領域の抽出結果を示す模式図である。 図4の被写体認識処理の処理内容を示すフローチャート(その1)である。 図4の被写体認識処理の処理内容を示すフローチャート(その2)である。 横長領域のデータの分割例と小ブロック内の横長領域の分布の例を示す模式図である。 波状の被写体が存在するか否かの認識結果の一例を説明する模式図である。 第1の実施形態に係る画像処理装置の構成の変形例を示す機能ブロック図である。 画像処理の対象となる画像のさらに別の例を示す模式図である。 第1の実施形態に係る画像処理全体の手順の変形例を示すフローチャートである。 本発明の第2の実施形態に係る画像処理装置の構成を示す機能ブロック図である。 第2の実施形態に係る画像処理全体の手順を示すフローチャートである。 本発明の第3の実施形態に係る画像処理装置の構成を示す機能ブロック図である。 第3の実施形態に係る画像処理全体の手順を示すフローチャートである。 図21の撮像シーン認識処理の処理内容を示すフローチャートである。 本発明の第4の実施形態に係る画像処理装置の構成を示す機能ブロック図である。 第4の実施形態に係る画像処理全体の手順を示すフローチャート(その1)である。 第4の実施形態に係る画像処理全体の手順を示すフローチャート(その2)である。 図24Aの画像判別処理の処理内容を示すフローチャートである。
以下、図面を参照しながら、本発明の実施形態を詳細に説明する。
第1の実施形態では、波状の被写体が存在する画像であるか否かを認識する画像処理装置及び画像処理方法について説明する。
また、第2の実施形態では、第1の実施形態で説明した処理により波状の被写体が存在すると認識された画像について、波のある海(水面)が存在する画像か否かを特定する画像処理装置及び画像処理方法について説明する。
さらに、第3の実施形態では、第2の実施形態で説明した処理により波のある海が存在すると特定された画像について、夕焼け又は朝焼けの海の画像であるか否かを認識する画像処理装置及び画像処理方法について説明する。
加えて、第4の実施形態では、第3の実施形態で説明した処理を適用することで夕焼け又は朝焼けの海の画像に対する意図しない色合いの補正を防ぐ画像処理装置及び画像処理方法について説明する。
(第1の実施形態)
図1は、本発明の第1の実施形態に係る画像処理装置の構成を示す機能ブロック図である。
図1に示すように、本実施形態の画像処理装置1は、画像データ取得部101と、画像データ格納部102と、波状被写体検索部103と、画像データ出力部104とを備える。
画像データ取得部101は、外部装置2から画像データを取得する。外部装置2は、例えばデジタルカメラ等の撮像装置、あるいはイメージスキャナである。画像データ取得部101により取得した画像データは、処理前の画像データ3として画像データ格納部102に格納する。画像データ格納部102は、例えばハードディスク装置や、RAM等の半導体メモリ装置である。また、画像データ格納部102には、波状被写体検索部103による処理を行った後の画像データが処理済みの画像データ4として格納される。
波状被写体検索部103は、処理前の画像データ3に波状の被写体が存在するかを検索し、検索結果に応じて波状の被写体が存在する画像のデータか否かを認識する。波状被写体検索部103は、勾配方向算出部103Aと、横長領域抽出部103Bと、被写体認識部103Cとを有する。勾配方向算出部103Aは、画像データ3における各画素の輝度の勾配方向を算出する。横長領域抽出部103Bは、後述のように、勾配方向が上向きの画素が横方向に連続した横長領域及び勾配方向が下向きの画素が横方向に連続した横長領域を抽出する。被写体認識部103Cは、勾配方向が上向きの横長領域及び下向きの横長領域の分布を用い、波状の被写体が存在する画像のデータか否かを認識する。
画像データ出力部104は、画像データ格納部102に格納された画像データ3,4を表示装置5に出力する。
図2は、画像処理の対象となる画像の一例を示す写真とその模式図である。図3は、画像処理の対象となる画像の他の一例を示す写真である。なお、以下の説明において、画面上下方向は図中の画像の左上方に付した直交座標軸のy軸方向とし、画面左右方向はx軸方向とする。
本実施形態の画像処理装置1による画像処理(認識処理)の対象となる画像には、図2の(a)及び(b)に示すような夕焼けの海を撮影した画像30がある。なお、図2の(a)は夕焼けの海を撮像した画像をグレースケールで表した写真であり、図2の(b)は図2の(a)の写真の構図を模式的に示した図である。画像30は、画像内における鉛直上下方向で空31と海32とに分かれており、水平線32Cのやや上方、撮像方向(画面奥行き方向)の遠方側に太陽33が写っている。海32の表面には、略平面波である波の山32Aと谷32Bとが撮像方向(画面奥行き方向)に交互に現れている。図2に示したように、画像内における水平方向をx軸方向、鉛直方向をy軸方向とした場合、波の山32A及び谷32Bは、それぞれ画像内におけるx軸方向(画面左右方向)に長く延びており、y軸方向(画面上下方向)に交互に並んでいる。
また、画像処理の対象となる画像には、テクスチャのような画像、例えば図3に示すような多数の粒状の物体が画面全体に広がっている画像300等も含まれる。図3に示した画像300は、上述のウェーブレット変換を用いた撮像シーンの認識方法において海の画像(波状の被写体が存在する画像)と誤認識されることがある画像の一例である。
画像データ格納部102には、これら被写体の異なるさまざまな画像のデータが、それぞれ処理前の画像データ3として格納される。そして、本実施形態の画像処理装置1は、複数の画像データ3のそれぞれについて、波状の被写体が存在する画像のデータであるか否かを認識する。この際、画像処理装置1は、下記の処理を行うことで、図2の(a)に示したような海の画像30は波状の被写体が存在する画像と認識し、図3に示したような画像300は波状の被写体が存在しない画像と認識する。
図4は、第1の実施形態に係る画像処理全体の手順を示すフローチャートである。
図5は、輝度の勾配方向の算出手順を説明する模式図である。図6は、輝度の勾配方向の算出方法を説明する模式図である。図7は、勾配方向の上向き及び下向きの定義を説明する模式図である。図8は、勾配方向が上向きの画素及び下向きの画素の抽出結果を示す模式図である。図9は、グルーピングの方法を説明する模式図である。図10は、横長領域の抽出方法を説明する模式図である。図11は、勾配方向が上向きの横長領域及び下向きの横長領域の抽出結果を示す模式図である。
波状の被写体が存在する画像のデータであるか否かの認識は、波状被写体検索部103が行う。波状被写体検索部103は、図4に示すように、まずデータ格納部102から処理対象の画像データ3を1つ読み出す(ステップS1)。
次に、波状被写体検索部103は、読み出した画像データから各画素の輝度の勾配方向を算出する(ステップS2)。ステップS2は、勾配方向算出部103Aが行う。
勾配方向算出部103Aは、例えば図5に示すように、画像データ34における左上角部の画素P(0,0)から右下角部の画素P(X,Y)まで、ラスタスキャン方式で各画素P(x,y)の輝度の勾配方向を算出する。すなわち、画像データにおける水平方向(x軸方向)に並んだ画素P(0,y)〜P(X,y)の各画素の輝度の勾配方向をxの値を1ずつ増やしながら順次算出する処理を、y=0からYまでyの値を1ずつ増やしながら繰り返し行う。
また、画素P(x,y)の輝度の勾配方向は、Histograms of Oriented Gradients(HOG)特徴量を求める際の算出方法を用いて算出する。具体的には、まず画素P(x、y)を中心とする3×3画素の各画素の輝度とSobelフィルタとを用いて勾配のx軸方向成分Lx及びy軸方向成分Lyを算出する。勾配のx軸方向成分Lxは、図6の(a)に示したx方向用の勾配フィルタFxを3×3画素の各画素の輝度に適用し、輝度を加算して算出する。勾配のy軸方向成分Lyは、図6の(b)に示したy方向用の勾配フィルタFyを3×3画素の各画素の輝度に適用し、輝度を加算して算出する。そして、図6の(c)に示すように、勾配のx軸方向成分Lx及びy軸方向成分Lyから勾配L(x,y)を算出し、勾配L(x,y)とy軸方向成分Lyとのなす角θを勾配方向とする。
各画素の輝度の勾配方向を算出したら、次に、勾配方向が画面上向きの画素及び画面下向きの画素を抽出する(ステップS3)。ステップS3は、横長領域抽出部103Bが行う。以下の説明では、画面上向き及び画面下向きを、単に上向き及び下向きという。
横長領域抽出部103Bは、例えば図7に示すように、y軸方向成分Lyに対する角度±φを閾値として設定し、勾配方向θが閾値角度φよりも小さい画素を勾配方向が上向き又は下向きの画素として抽出する。このとき、横長領域抽出部103Bは、勾配L1のように勾配方向が+Ly方向であり角度θが閾値角度φより小さい勾配である画素を、勾配方向が上向きの画素として抽出する。一方、勾配L2のように勾配方向が−Ly方向であり角度θが閾値角度φより小さい勾配である画素を、勾配方向が下向きの画素として抽出する。また、勾配L3のように角度θが閾値角度φよりも大きい勾配である画素は、勾配方向が上向き及び下向きのいずれにも該当しない画素とし抽出しない。以下の説明では、勾配方向が上向きであることを上向き勾配ともいい、勾配方向が下向きであることを下向き勾配ともいう。
図2の(a)に示した画像30のデータに対しステップS3までの処理を行った結果の画像を図8に示す。なお、図8の(a)に示した画像35は、上向き勾配の画素を白色、それ以外の画素を黒色で示した画像である。また、図8の(b)に示した画像36は、下向き勾配の画素を白色、それ以外の画素を黒色で示した画像である。画像30における海32の部分には、画面奥行き方向(画面上下方向)を伝播方向とする波がある。このような波のある海32に、奥行き方向の遠方側に位置する太陽33からの光が当たると、例えば波の谷32Bとその上方にある山32Aとの間の輝度は、山32Aに近づくにつれて高くなる。そのため、波の谷32Bとその上方にある山32Aとの間に相当する位置の画素は、上方に位置する画素ほど輝度が高くなる傾向があり、上向き勾配の画素が多くなる。よって、図8の(a)に示した画像35の海32の部分は、大まかに見ると、上向き勾配の画素が略水平方向に連続した白色領域と、上向き勾配以外の画素からなる黒色領域とが画面上下方向に交互に並んだ状態になる。
また、波の谷32Bとその下方にある山32Aとの間の輝度も、山32Aに近づくにつれて高くなる。そのため、波の谷32Bとその下方にある山32Aとの間に相当する位置の画素は、下方に位置する画素ほど輝度が高くなる傾向があり、下向き勾配の画素が多くなる。よって、図8の(b)に示した画像36の海32の部分は、大まかに見ると、下向き勾配の画素が略水平方向に連続した白色領域と、下向き勾配以外の画素からなる黒色領域とが画面上下方向に交互に並んだ状態になる。
一方、図3に示したような多数の粒状の物体が画面全体に広がっている画像300では、個々の粒状物体における輪郭部分の輝度の勾配方向が等方的になるので、上向き勾配の画素、下向き勾配の画素、及びそれ以外の画素がランダムに分布する。そのため、図3に示した画像300を上向き勾配の画素が連続した領域とそれ以外の領域とに分けて見た場合、これらの領域が画面上下方向に交互に並んだ状態にはならない。
したがって、上向き勾配の画素からなる領域及び下向き勾配の画素からなる領域がいずれも略水平方向に長く延びており、かつ画面上下方向に交互に並んでいる領域があれば、その領域に波状の被写体が存在している可能性が高い。
そこで、ステップS3の後、横長領域抽出部103Bは、勾配方向が上向きの画素からなる横長領域を抽出するとともに、勾配方向が下向きの画素からなる横長領域を抽出する(ステップS4,S5)。なお、以下の説明では、勾配方向が上向きの画素からなる横長領域を上向き勾配の横長領域ともいい、勾配方向が下向きの画素からなる横長領域を下向向き勾配の横長領域ともいう。
上向き勾配の横長領域の抽出(ステップS4)は、図8の(a)に示した画像35のように画像内の画素を上向き勾配の画素とそれ以外の画素とに分けたデータを用いて行う。例えば図9の(a)に示すように、画像35の一部分(8×6画素)を取り出した部分画像35Aの各画素P(x,y)は、上向き勾配の画素Puと、それ以外の画素Pnとに分けられる。そこで、ステップS4では、まず、画像35において隣接する複数の上向き勾配の画素Puのグルーピングを行う。グルーピングでは、注目画素PPを中心とする3×3画素の領域17を画像35(部分画像35A)に設定し、注目画素PPが上向き勾配の画素Puであるか否かを判定する。そして、注目画素PPが上向き勾配の画素Puである場合、領域17内の他の画素(すなわち注目画素PPと隣接する画素)に上向き勾配の画素Puがあれば、それらを1つのグループにする。図9(a)に示した例では、注目画素PPと、注目画素PPの右隣の画素と、注目画素PPの右斜め下方の画素とが1つのグループになる。また、注目画素PP(領域17)をx方向に1画素分ずらすと、さらに2つの上向き勾配の画素Puがグループに追加される。このグルーピングを画像35の画素P(x,y)に対しラスタスキャン方式で行い、上向き勾配の画素Puからなるグループを生成する。グルーピングの結果、部分画像35Aには、図9の(b)に示すように3つのグループGU〜GUが生成される。
なお、上向き勾配の画素Puからなるグループの形状は、元の画像の撮像シーンや画像内における位置によって異なる。そこで、グルーピングの後、生成されたグループの中から形状が横長のグループのみを抽出する。例えば、図10(a)に示すように、画像35の一部分を取り出した部分画像35Bに、グルーピングにより形状の異なる4つのグループGU〜GUが生成されたとする。この4つのグループGU〜GUから横長のグループ(横長領域)のみを抽出するため、それぞれのグループGU〜GUに対し外接矩形BRA〜BRAを設定する。そして、外接矩形BRA〜BRAの形状が予め定めた横長領域の条件を満たすグループのみを、横長領域として抽出する。本実施形態では、横長領域の条件を、外接矩形における幅(x方向の画素数)が高さ(y方向の画素数)の2倍以上とする。図10の(a)に示した外接矩形BRA〜BRAのうち、横長領域の条件を満たしているのは、左上の外接矩形BRAと右下の外接矩形BRAのみである。そのため、部分画像35Bからは、図10の(b)に示すように、2つの外接矩形BRA,BRAと対応する2つのグループGU,GUのみが上向き勾配の横長領域として抽出される。
図8の(a)に示した画像35のデータに対しステップS4の処理を行った結果の画像を図11の(a)に示す。なお、図11の(a)に示した画像37は、上向き勾配の横長領域を白色、それ以外の領域を黒色で示した画像である。すなわち、画像37では、上向き勾配の画素であってもステップS4で抽出した横長領域に含まれない画素は黒色で示されている。
下向き勾配の横長領域の抽出(ステップS5)は、図8の(b)に示した画像36のように画像内の画素を下向き勾配の画素とそれ以外の画素とに分けたデータを用い、ステップS4と同様の手順で行う。
図8の(b)に示した画像36のデータに対しステップS5の処理を行った結果の画像を図11の(b)に示す。なお、図11の(b)に示した画像38は、下向き勾配の横長領域を白色、それ以外の領域を黒色で示した画像である。すなわち、画像38では、下向き勾配の画素であってもステップS5で抽出した横長領域に含まれない画素は黒色で示されている。
ステップS4,S5により上向き勾配の横長領域及び下向き勾配の横長領域を抽出したら、図4に示したように、次に、被写体認識処理を行う(ステップS6)。ステップS6の処理は、被写体認識部103Cが行う。
図12Aは、図4の被写体認識処理の処理内容を示すフローチャート(その1)である。図12Bは、図4の被写体認識処理の処理内容を示すフローチャート(その2)である。
図13は、横長領域のデータの分割例と小ブロック内の横長領域の分布の例を示す模式図である。図14は、波状の被写体が存在するか否かの認識結果の一例を説明する模式図である。
被写体認識処理では、図12Aに示すように、まず、上向き勾配の横長領域及び下向き勾配の横長領域を抽出した画像データを、横C個、縦R個の小ブロックB(h,k)に分割する(ステップS601)。ステップS601では、図13の(a)に示したように、図11に示した画像37,38を重ねたデータをC×R個の小ブロックB(h,k)に分割する。このとき、1つの小ブロックB(h,k)は、例えば図13の(b)に示すように、上向き勾配の横長領域(白色領域)、下向き勾配の横長領域(ハッチングを付した領域)、及びそれ以外の領域(黒色領域)の3つの領域に分けられる。なお、図13の(a)に示した例では画像データを7×5個の小ブロックB(h,k){h=1〜7,k=1〜5}に分割しているが、小ブロックB(h,k)の数はこれに限らず画像の寸法等に応じて適宜変更すればよい。
次に、被写体認識部103Cは、波状の被写体の候補(以下「被写体候補」という)の縦行数NRを0に設定するとともに、小ブロックB(h,k)の変数kを1に設定する(ステップS602)。
次に、小ブロックB(h,k)の変数kが縦方向の小ブロックB(h,k)の分割数R以下であるか判断する(ステップS603)。被写体認識処理の開始直後はk<R(ステップS603;Yes)であるため、次に、被写体候補の横ブロック数NBを0に設定するとともに、小ブロック(h,k)の変数hを1に設定する(ステップS604)。
次に、小ブロックB(h,k)の変数hが横方向の小ブロックB(h,k)の分割数C以下であるか判断する(ステップS605)。被写体認識処理の開始直後はh<C(ステップS605;Yes)であるため、次に、小ブロック(h,k)は被写体候補であるか判断する(ステップS606)。
ステップS606では、小ブロックB(h,k)内に、上向き勾配の横長領域と下向き勾配の横長領域とが画面上下方向に交互に現れるか否かを判断する。本実施形態では、下記の条件1〜3をステップS606の判断条件とし、全ての条件を満たした小ブロックB(h,k)を被写体候補と判定する。
(条件1)上向き勾配の横長領域の画素数及び下向き勾配の横長領域の画素数のうちの少ないほうの画素数を多いほうの画素数で除算した値が、予め定めた閾値TH1(例えば0.5)以上であること。
(条件2)上向き勾配の横長領域の数と下向き勾配の横長領域の数との合計を小ブロックの面積(画素数)で除算した値が、予め定めた閾値TH2(例えば0.02)以上であること。
(条件3)上向き勾配の横長領域の画素数と下向き勾配の横長領域の画素数との合計を小ブロックの面積(画素数)で除算した値が、予め定めた閾値TH3(例えば0.5)以上であること。
判断対象の小ブロックB(h,k)が条件1〜3を全て満たす場合(ステップS606;Yes)、被写体候補の横ブロック数NBに1を加える(ステップS607)。その後、変数hに1を加え(ステップS608)、ステップS605の判断に戻る。一方、判断対象の小ブロックB(h,k)が条件1〜3の1つ以上を満たしていない場合(ステップS606;No)、ステップS607をスキップし、変数hに1を加えて(ステップS608)ステップS605の判断に戻る。
ステップS605〜S608を繰り返し、変数hが横方向の小ブロックB(h,k)の分割数Cより大きくなると(ステップS605;No)、次に、被写体候補の横ブロック数NBが閾値TH4以上であるか判断する(ステップS609)。NB≧TH4の場合(ステップS609;Yes)、被写体候補の縦行数NRに1を加える(ステップS610)。その後、変数kに1を加え(ステップS611)、ステップS603の判断に戻る。一方、NB<TH4の場合(ステップS606;No)、ステップS610をスキップし、変数kに1を加えて(ステップS611)ステップS603の判断に戻る。
ステップS609では、横方向(x軸方向)に並んだC個の小ブロックB(1,k)〜B(C,k)のうちの何個が被写体候補であれば、その小ブロック行を被写体候補の小ブロック行とみなすかを判断する。本実施形態のように横方向の小ブロックの分割数Cが7である場合、閾値TH4は、例えば5に設定する。なお、閾値TH4は、横方向の小ブロックの分割数C等に応じて適宜設定すればよい。
ステップS603〜S611を繰り返し、変数kが縦方向の小ブロックB(h,k)の分割数Rより大きくなると(ステップS603;No)、次に、図12Bに示すように、被写体候補の縦行数NRが閾値TH5以上であるか判断する(ステップS612)。被写体候補の縦行数NRが多いということは、被写体候補、すなわち波状の被写体らしき像の存在する小ブロック行が画像内に多いということである。そのため、NR≧TH5の場合(ステップS612;Yes)、処理対象の画像データを、撮像方向(画面奥行き方向)が伝播方向となる波状の被写体が存在する画像データと認識する(ステップS613)。一方、NR<TH5の場合(ステップS612;No)、処理対象の画像データを、撮像方向が伝播方向となる波状の被写体が存在しない画像データと認識する(ステップS614)。本実施形態のように縦方向の小ブロックの分割数Rが5である場合、閾値TH5は、例えば2に設定する。なお、閾値TH5は、縦方向の小ブロックの分割数R等に応じて適宜設定すればよい。
処理対象の画像データ3が図2に示した画像30のような撮像方向を伝播方向とする波のある海32の画像のデータである場合、画像30と小ブロックB(h,k)とは、図14の(a)に示したような関係になる。上2行の小ブロックB(h,1),B(h,2){h=1〜7}の被写体は空31であり、下2行の小ブロックB(h,4),B(h,5){h=1〜7}の被写体は海32である。また、中央行の小ブロックB(h,3){h=1〜7}は、水平線32Cを境として空31及び海32が存在している。
このような画像30に対しステップS2〜S5及びステップS6(ステップS601〜S611)の処理を行うと、図14の(b)に示したような判定データ39が得られる。なお、判定データ39において、網掛けを付した小ブロックB(h,k)はステップS606で被写体候補ではないと判定された小ブロックであり、白無地の小ブロックB(h,k)は被写体候補であると判定された小ブロックである。
判定データ39における最上行の小ブロックB(h,1){h=1〜7}の被写体は、図14の(a)に示したように空31である。空31は波状の被写体ではないため、ステップS606において小ブロックB(h,1){h=1〜7}は全て被写体候補ではないと判定される。したがって、ステップS609の判断において、小ブロックB(h,1){h=1〜7}の小ブロック行は被写体候補ではないと判定される。
一方、判定データ39における中央行の小ブロックB(h,3){h=1〜7}には、図14の(a)に示したように空31と海32とが存在しているが、海32のほうが面積が広い。そのため、ステップS606において小ブロックB(h,3){h=1〜7}は被写体候補と判定される可能性が高い。なお、小ブロックB(h,3){h=1〜7}における左右方向の端の小ブロックのように太陽33から離れた小ブロックは暗い(輝度が低い)ので被写体候補ではないと判定されることもある。しかしながら、図14の(b)に示したように被写体候補であると判定された小ブロックが5個あれば、ステップ609の判断において小ブロックB(h,3){h=1〜7}の小ブロック行は被写体候補であると判定される。
さらに、判定データ39における上から4行目の小ブロックB(h,4){h=1〜7}の被写体は、図14の(a)に示したように海32である。海32は波状の被写体であるため、ステップS606において小ブロックB(h,4){h=1〜7}は全て被写体候補と判定される。したがって、ステップS609の判断において、小ブロック(h,4){h=1〜7}の小ブロック行は被写体候補と判定される。同様に、画像データ39における最下行の小ブロック行も、被写体候補と判定される。
すなわち、図14の(b)に示した判定データ39には、被写体候補と判定される小ブロック行が3行存在する(NB=3)。そのため、判定データ39を用いたステップS612による判断の結果、画像30のデータ(判定データ39の元データ)は、波状の被写体が存在する画像データと認識される。
一方、図3に示したような多数の粒状の物体が画面全体に広がっている画像300では、上述のように上向き勾配の画素が連続した領域とそれ以外の領域とに分けて見た場合、これらの領域が画面上下方向に交互に並んだ状態にはならない。また、画像300では、下向き勾配の画素が連続した領域とそれ以外の領域とに分けて見た場合も、これらの領域が画面上下方向に交互に並んだ状態にはならない。すなわち、画像300では、上向き勾配の横長領域と下向き勾配の横長領域とが交互に並んだ小ブロック(被写体候補)が存在する可能性が非常に低い。よって、図3に示した画像300のデータがステップS6の被写体認識処理において波状の被写体が存在する画像データと認識される可能性は非常に低い。
ステップS613又はステップS614により波状の被写体が存在する画像データか否かを認識すると、被写体認識処理(図3のステップS6)が終了する。被写体認識処理が終了すると、図3に示したように、画像データと処理結果とを関連付けて格納する(ステップS7)。ステップS7では、例えば、処理対象の画像データ3(すなわちステップS1で読み出した画像データ)に波状の被写体が存在するか否かを識別する識別子を埋め込み、処理済みの画像データ4として画像データ格納部102に格納する。また、画像データ3に識別子を埋め込む代わりに、例えば画像データのファイル名と識別子とを対応付けるリストを画像データ格納部102等に格納しておき、ステップS7においてリストにファイル名と識別子とを追加するようにしてもよい。
なお、画像データ格納部102に処理前の画像データ3が複数格納されている場合には、全ての画像データ3又は選択したいくつかの画像データ3のそれぞれに対し、図3に示したステップS1〜S7の処理を行う。複数の画像データ3に対するステップS1〜S7の処理は、1つの画像データに対する処理を順次繰り返して行ってもよいし、いくつかの画像データに対する処理を並行して行ってもよい。
以上説明したように、第1の実施形態の画像処理装置1及び画像処理方法によれば、波状の被写体における輝度の勾配方向の特徴を利用して画像に波状の被写体が存在するかを検索し、波状の被写体が存在する画像か否かを認識する。そのため、例えば図3に示した画像300のような波状の被写体が存在しない画像を波状の被写体が存在する画像と誤認識することを防げ、波状の被写体が存在する画像か否かの認識精度を向上させることができる。
なお、上述の画像処理方法では、ステップS612の判断における被写体候補の小ブロック行の閾値TH5を2としたが、閾値TH5は1であってもよい。閾値TH5は、波状の被写体が存在すると認識するための被写体候補の小ブロック行の最小値である。そのため、閾値TH5を1とする場合、例えば図12Aに示したステップS609の判断においてNB≧TH4となった時点で、撮像方向を伝播方向とする波状の被写体が存在する画像と認識してもよい。
また、画像処理装置1は、コンピュータと、コンピュータに上記の画像処理を実行させるプログラムとにより実現することができる。その際、画像処理装置1は、図1に示した構成に限らず、適宜変更可能である。例えば、画像データ取得部102は、上述の外部装置2ではなく、CD−ROM等の可搬型記録媒体に記録された画像データを読み出して取得する装置であってもよい。
さらに、処理前の画像データ3及び処理済みの画像データ4は、画像サーバ等の画像処理装置1とは別の装置に格納してもよい。
図15は、第1の実施形態に係る画像処理装置の構成の変形例を示す機能ブロック図である。
本実施形態に係る画像処理装置1として、図1には、処理前の画像データ3及び処理済みの画像データ4を格納する画像データ格納部102を備えた画像処理装置1の構成を示している。しかしながら、本実施形態に係る画像処理装置1は、例えば図15に示すように、LAN等のネットワークで接続された画像サーバ6から処理前の画像データ3を取得し、処理済みの画像データ4を画像サーバ6に格納する構成であってもよい。
図15に示した画像処理装置1は、波状被写体検索部103と、通信制御部105とを備える。波状被写体検索部103は、上述のように輝度勾配方向算出部103Aと、横長領域抽出部103Bと、被写体認識部103とを有する。通信制御部105は、画像サーバ6との間での通信を制御する。通信制御部105は、画像データ受信部105Aと、画像データ送信部105Bとを有する。画像データ受信部105Aは、画像データ格納部601から画像処理装置1に向けて送られる処理前の画像データ3を受信する。画像データ送信部105Bは、波状被写体検索部103による検索及び認識処理が済んだ画像データを処理済みの画像データ4として画像サーバ6に送信し画像データ格納部601に格納させる。
さらに、本実施形態の画像処理方法は、図3、図11A及び図11Bに示した手順に限らず、適宜変更可能である。以下、本実施形態の画像処理方法の変形例について説明する。
(第1の実施形態の画像処理方法の変形例)
図16は、画像処理の対象となる画像のさらに別の例を示す模式図である。
本実施形態の画像処理の対象となる画像の一例として、図2には、夕焼けの海を撮像した画像30を示している。この画像30は、画像内での鉛直方向と実空間の鉛直方向とが一致する向き(以下「正位置」という)で表示した場合に横長になる。
デジタルカメラ等の撮像装置で撮像した画像のデータにおける各画素の位置は、通常、画面が横長になる向きで定義される。すなわち、画像30における各画素の位置は、図5に示したように、横長になる向きにしたときの左上隅の画素がP(0,0)、右下隅の画素がP(X,Y)に定義される。そして、画像30を表示装置に表示する際も、初期状態では、画素P(0,0)が左上隅になり画素P(X,Y)が右下隅になるように表示する。そのため、画像30を表示装置5等に表示する際には、マウス等の入力手段を介して画像を回転させる操作をしなくても、図2に示したような正位置で表示される。
また、撮像装置を90度回転させて夕焼けの海を撮像した縦長の画像も、各画素の位置は、例えば図16に示す画像30Vのように画面が横長になる向きにしたときの左上隅の画素がP(0,0)、右下隅の画素がP(X,Y)に定義される。したがって、画像30Vは、初期状態では、画像内での鉛直方向が実空間の鉛直方向と略直交する向き、すなわち海32の波における山32A及び谷32Bが画面左右方向に交互に並ぶ向きで表示される。図16に示したような画像30Vも、海32の波の伝播方向は撮像方向(画面奥行き方向)と略一致しているので、波状の被写体が存在する画像と認識する必要が有る。そのため、伝播方向が画面左右方向になる向きでも波状の被写体が存在する画像と認識できるよう、本実施形態の画像処理は、例えば図17に示すような手順で行ってもよい。
図17は、第1の実施形態に係る画像処理全体の手順の変形例を示すフローチャートである。
本実施形態の画像処理の変形例では、図17に示すように、まず波状被写体検索部103により処理対象の画像データを読み出す(ステップS1)。次に、読み出した画像データに波状の被写体が存在するかを検索し、波状の被写体が存在する画像か否かを認識する(ステップS8)。波状被写体検索部103は、ステップS8として上述のステップS2〜S6の処理を行う。そのため、ステップS8が終了すると、処理対象の画像データに波状の被写体が存在するか否かの認識が終了している。
波状被写体検索部103は、読み出した1つの画像データに対する検索及び認識処理を終えると、波状の被写体が存在する画像と認識したか否かに応じて次に行う処理を判断する(ステップS9)。波状の被写体が存在する画像と認識した場合(ステップS9;Yes)、上述の手順と同様、画像データと処理結果とを関連付けて画像データ格納部102に格納し(ステップS7)、画像処理を終了する。
一方、波状の被写体が存在しない画像と認識した場合(ステップS9;No)、次に、画像を90度回転させてステップS8の処理をしたか判断(確認)する(ステップS10)。90度回転させてステップS8の処理をしていない場合(ステップS10;No)、画像を90度回転させ(ステップS11)、ステップS8の処理を行う。ステップS11は、例えば画面が右回りで90度回転するよう画像データの画素P(x,y)をP(Y−y,x)に座標変換する。
そして、90度回転させた画像が波状の被写体が存在する画像と認識されれば、波状被写体検索部103は、読み出した画像データを波状の被写体が存在する画像データとして画像データ格納部102に格納する(ステップS9;Yes,ステップS7)。また、90度回転させても波状の被写体が存在しない画像と認識された場合(ステップS9;No,ステップS10;Yes)、読み出した画像データを波状の被写体が存在しない画像データとして画像データ格納部102に格納する(ステップS7)。
このように、波状の被写体が存在しない画像データと認識された場合に、画面が90度回転するよう画像データを変換して再度波状の被写体の検索及び認識処理を行うことで、図16に示した画像データも波状の被写体が存在する画像データと認識される。これにより、波状の被写体が存在する画像か否かの認識精度をより向上させることができる。
(第2の実施形態)
第2の実施形態では、第1の実施形態で説明した処理により波状の被写体が存在すると認識された画像について、画像に存在する波状の被写体が波のある海であるか否かを特定する画像処理装置及び画像処理方法を説明する。
図18は、本発明の第2の実施形態に係る画像処理装置の構成を示す機能ブロック図である。
図18に示すように、本実施形態の画像処理装置1は、画像データ取得部101と、画像データ格納部102と、波状被写体検索部103と、画像データ出力部104と、波状被写体特定部106とを備える。画像データ取得部101、画像データ格納部102、波状被写体検索部103、及び画像データ出力部104の機能は、それぞれ第1の実施形態で説明したとおりである。
波状被写体特定部106は、波状被写体検索部103により波状の被写体が存在すると認識された画像について、波状の被写体が波のある海(水面)であるか否かを特定する。
図19は、第2の実施形態に係る画像処理全体の手順を示すフローチャートである。
本実施形態の画像処理装置1では、処理前の画像データ3について、まず波状の被写体が存在する画像であるか否かを認識する。そして、波状の被写体が存在すると認識された画像について、波状の被写体が海であるか否かを特定する。
すなわち本実施形態の画像処理装置1では、図19に示すように、まず処理対象の画像データを読み出し(ステップS1)、波状の被写体が存在するかを検索して波状の被写体が存在する画像か否かを認識する(ステップS8)。ステップS1,S8は、波状被写体検索部103が行う。波状被写体検索部103は、ステップS8の処理として、第1の実施形態で説明したステップS2〜S6の処理を行う。そのため、ステップS8が終了すると、処理対象の画像データに波状の被写体が存在するか否かの認識が終了している。
ステップS8が終了すると、波状被写体検索部103は、ステップS8の処理結果に応じて次に行う処理を判断する(ステップS9)。波状の被写体が存在しない画像と認識した場合(ステップS9;No)、上述の手順と同様、画像データと処理結果とを関連付けて画像データ格納部102に格納し(ステップS7)、画像処理を終了する。
一方、波状の被写体が存在する画像と認識した場合(ステップS9;Yes)、波状被写体特定部106に波状の被写体が何であるかを識別させる(ステップS15)。ステップS8の処理では波状の被写体が存在するか否かを認識しているだけであり、画像に存在する波状の被写体がどのような物体(例えば波のある水面)であるかまではわからない。そこで、本実施形態では、ステップS15により画像内の波状の被写体がどのような物体であるかを識別する。ステップS15は、例えば撮像シーンが海のシーンであるか否か等を識別する周知の識別方法を用いて行えばよい。
ステップS15の後、波状被写体特定部106は、波状の被写体が水面(海)の波であるか否かを判断する(ステップS16)。波状の被写体が水面(海)の波である場合(ステップS16;Yes)、処理対象の画像データを波のある海が存在する画像データと特定する(ステップS17)。一方、波状の被写体が水面(海)の波ではない場合(ステップS16;No)、処理対象の画像データを波のある海が存在しない画像データと特定する(ステップS18)。
ステップS17又はステップS18により波状の被写体が波のある海であるか否かを特定したら、画像データと処理結果とを関連付けて画像データ格納部102に格納し(ステップS7)、画像処理を終了する。
なお、画像データ格納部102に処理前の画像データ3が複数格納されている場合には、全ての画像データ3又は選択したいくつかの画像データ3のそれぞれに対し、図19に示した処理を行う。複数の画像データ3に対する処理は、1つの画像データに対する処理を順次繰り返して行ってもよいし、いくつかの画像データに対する処理を並行して行ってもよい。
以上説明したように、第2の実施形態の画像処理装置1及び画像処理方法によれば、波状の被写体における輝度の勾配方向の特徴を利用して画像に波状の被写体が存在するかを検索し、波状の被写体が存在する画像か否かを認識する。そのため、波状の被写体が存在しない画像を波状の被写体が存在する画像と誤認識することを防げる。また、波状の被写体が存在する画像についてのみ、波状の被写体が何(どのような物体)であるかを識別し、波のある海が存在する画像か否かを特定する。そのため、波状の被写体が存在しない画像を波のある海が存在する画像に特定してしまうことを防げ、波のある海が存在する画像の認識精度が向上する。また、波状の被写体が存在しない画像に対し波のある海が存在するか否かを特定する処理を行わなくてよいので、画像処理装置1の処理負荷を軽減できる。
なお、本実施形態の画像処理も、図17に示した処理と同様、ステップS8の処理において波状の被写体が存在しない画像と認識された場合に画像を90度回転させ再度ステップS8の処理を行うようにしてもよい。
(第3の実施形態)
第3実施形態では、第2の実施形態で説明した処理により波のある海が存在すると特定された画像について、撮像シーンが夕焼け又は朝焼けの海であるか否かを認識する画像処理装置及び画像処理方法を説明する。
図20は、本発明の第3の実施形態に係る画像処理装置の構成を示す機能ブロック図である。
図20に示すように、本実施形態の画像処理装置1は、画像データ取得部101と、画像データ格納部102と、波状被写体検索部103と、画像データ出力部104と、波状被写体特定部106と、撮像シーン認識部107と、を備える。画像データ取得部101、画像データ格納部102、波状被写体検索部103、及び画像データ出力部104の機能は、それぞれ第1の実施形態で説明したとおりである。また、波状被写体特定部106の機能は、第2の実施形態で説明したとおりである。
撮像シーン認識部107は、波状被写体特定部106により波のある海が存在すると特定された画像に対し、撮像シーンが夕焼け又は朝焼けの海であるか否かを認識する。
図21は、第3の実施形態に係る画像処理全体の手順を示すフローチャートである。図22は、図21の撮像シーン認識処理の処理内容を示すフローチャートである。
本実施形態の画像処理装置1では、図21に示すように、まず処理対象の画像データを読み出し(ステップS1)、波状の被写体が存在するかを検索して波状の被写体が存在する画像か否かを認識する(ステップS8)。ステップS1,S8は、波状被写体検索部103が行う。波状被写体検索部103は、ステップS8の処理として、第1の実施形態で説明したステップS2〜S6の処理を行う。そのため、ステップS8が終了すると、処理対象の画像データに波状の被写体が存在するか否かの認識が終了している。
ステップS8が終了すると、波状被写体検索部103は、ステップS8の処理結果に応じて次に行う処理を判断する(ステップS9)。波状の被写体が存在しない画像と認識した場合(ステップS9;No)、画像データと処理結果とを関連付けて画像データ格納部102に格納し(ステップS7)、画像処理を終了する。
一方、波状の被写体が存在する画像と認識した場合(ステップS9;Yes)、波状被写体特定部106に波状の被写体が何であるかを識別させる(ステップS15)。ステップS8の処理では波状の被写体が存在するか否かを認識しているだけであり、画像に存在する波状の被写体がどのような物体(例えば波のある水面)であるかまではわからない。そこで、本実施形態では、ステップS15により画像内の波状の被写体がどのような物体であるかを識別する。ステップS15は、例えば撮像シーンが海のシーンであるか否か等を識別する周知の識別方法を用いて行えばよい。
ステップS15の後、波状被写体特定部106は、波状の被写体が水面(海)の波であるか否かを判断する(ステップS16)。波状の被写体が水面(海)の波である場合(ステップS16;Yes)、処理対象の画像データを波のある海が存在する画像データと特定し(ステップS17)、撮像シーン認識部107に撮像シーン認識処理を行わせる(ステップS20)。一方、波状の被写体が水面(海)の波ではない場合には、処理対象の画像データを波のある海が存在しない画像データと特定する(ステップS18)。そして、波のある海が存在しない画像データと特定すると、画像データと処理結果とを関連付けて画像データ格納部102に格納し(ステップS7)、画像処理を終了する。
ステップS20の撮像シーン認識処理は、上記のように撮像シーン認識部107が行う。撮像シーン認識部107は、例えば図22に示すように、まず画像データの各画素の色値に基づくヒストグラムを作成する(ステップS21)。ステップS21では、画像データ内の画素を色値で分別し、各色値の画素数をまとめたヒストグラムを作成する。
撮像シーン認識部107は、次に、ヒストグラムを用いて画像の色の傾向を算出する(ステップS22)。ステップS22では、例えば色値を赤色系、緑色系、及び青色系の3つに大別して各色系の画素数を集計する。そして、画素数が極端に多い色系が存在する場合、画素数が多い色系を画像の色の傾向とする。例えば緑色系の画素数が赤色系及び青色系の画素数に比べて多い場合、画像の色の傾向は緑色傾向とする。
次に、画像の色が赤色傾向であるか判断する(ステップS23)。撮像シーン認識処理の対象となっている画像データは、波状の被写体が波のある海であると特定された画像のデータである。そのため、赤色傾向であれば、夕焼け又は朝焼けの海の画像である可能性が非常に高い。したがって、赤色傾向である場合(ステップS23;Yes)、処理対象の画像の撮像シーンは夕焼け又は朝焼けの海のシーンと認識する(ステップS24)。一方、赤色傾向ではない場合(ステップS23;No)、処理対象の画像の撮像シーンは夕焼け又は朝焼け以外の海のシーンと認識する(ステップS25)。
ステップS24又はステップS25により画像データの撮像シーンを認識すると、撮像シーン認識処理が終了する。撮像シーン認識処理が終了すると、図21に示したように、画像データと処理結果とを関連付けて画像データ格納部102に格納し(ステップS7)、画像処理を終了する。
なお、画像データ格納部102に処理前の画像データ3が複数格納されている場合には、全ての画像データ3又は選択したいくつかの画像データ3のそれぞれに対し、図21及び図22に示した処理を行う。複数の画像データ3に対する処理は、1つの画像データに対する処理を順次繰り返して行ってもよいし、いくつかの画像データに対する処理を並行して行ってもよい。
以上説明したように、第3の実施形態の画像処理装置1及び画像処理方法によれば、波状の被写体における輝度の勾配方向の特徴を利用して画像に波状の被写体が存在するかを検索し、波状の被写体が存在する画像か否かを認識する。そのため、波状の被写体が存在しない画像を波状の被写体が存在する画像と誤認識することを防げる。また、波状の被写体が存在する画像についてのみ、波状の被写体が何であるかを識別し、波のある海が存在する画像か否かを特定する。そのため、波状の被写体が存在しない画像を波のある海が存在する画像に特定してしまうことを防げ、波のある海が存在する画像の認識精度が向上する。また、波のある海が存在する画像についてのみ、撮像シーンが夕焼け又は朝焼けの海であるか否かを認識する。そのため、波状の被写体が存在しない画像を夕焼け又は朝焼けの海の画像と誤認識することを防げ、夕焼け又は朝焼けの海の画像の認識精度が向上する。
さらに、波状の被写体が存在しない画像に対し波のある海が存在するか否かを特定する処理や撮像シーンを認識する処理を行わなくてよいので、画像処理装置1の処理負荷を軽減できる。
なお、本実施形態の画像処理も、図17に示した処理と同様、ステップS8の処理において波状の被写体が存在しない画像と認識された場合に画像を90度回転させ再度ステップS8の処理を行うようにしてもよい。
(第4の実施形態)
第4の実施形態では、第3の実施形態で説明した画像処理を適用することで夕焼け又は朝焼けの海の画像に対する意図しない色合いの補正を防ぐ画像処理装置及び画像処理方法について説明する。
図23は、本発明の第4の実施形態に係る画像処理装置の構成を示す機能ブロック図である。
図23に示すように、本実施形態の画像処理装置1は、画像データ取得部101と、画像データ格納部102と、波状被写体検索部103と、画像データ出力部104と、波状被写体特定部106と、撮像シーン認識部107とを備える。また、本実施形態の画像処理装置1は、画像判別部108と、色補正部109とを更に備える。
画像データ取得部101、画像データ格納部102、波状被写体検索部103、及び画像データ出力部104の機能は、第1の実施形態で説明したとおりである。また、波状被写体特定部106の機能は、第2の実施形態で説明したとおりである。また、撮像シーン認識部107の機能は、第3の実施形態で説明したとおりである。
画像判別部108は、画像データ3が予め指定した撮像シーンの画像データであるか否かを判別する。本実施形態では、画像判別部108は、撮像シーンが夕焼け又は朝焼けであるか否かを判別する。
色補正部109は、画像データ3が予め指定した撮像シーンの画像ではなく、かつ光源や撮像装置の特性等に依存した色の偏り(色被り)がある場合に色の偏りを補正する。
本実施形態の画像処理装置1は、例えば新聞や雑誌等に掲載する画像の色合いの自動補正に用いられる。色合いの補正例としては、画像が赤色傾向である場合に赤みを緩和する補正が挙げられる。しかしながら、撮像シーンが夕焼け又は朝焼けの画像のようなもともと赤みの強い画像については、色合いを補正せずに掲載(使用)することが望まれる。そのため、画像判別部108において撮像シーンが夕焼け又は朝焼けであると判定された画像については、色補正部109による補正を行わないようにする。
ところが、夕焼け又は朝焼けの海の画像は、画像判別部108において夕焼け又は朝焼けの画像ではないと誤判定され、色補正部109による補正の対象となってしまうことがある。このような事態を鑑み、本実施形態の画像処理装置1では、第3の実施形態で説明した構成及び画像処理方法を適用することで、夕焼け又は朝焼けの画像ではないと誤判定された夕焼け又は朝焼けの海の画像を色補正部109による補正の対象から除外する。
図24Aは、第4の実施形態に係る画像処理全体の手順を示すフローチャート(その1)である。図24Bは、第4の実施形態に係る画像処理全体の手順を示すフローチャート(その2)である。図25は、図24Aの画像判別処理の処理内容を示すフローチャートである。
本実施形態の画像処理装置1では、図24Aに示すように、まず処理対象の画像データを読み出し(ステップS1)、画像判別処理を行う(ステップS30)。ステップS1,S30は、画像判別部108が行う。画像判別部108は、例えば図25に示した手順で夕焼け又は朝焼けの画像であるか否かを判別する。
画像判別処理(ステップS30)においては、まず画像データの各画素の色値を読み出す(ステップS31)。次に、読み出した色値に基づいて画像内の配色の傾向を算出する(ステップS32)。ステップS32では、例えば画像内を同系色の画素からなる領域に分割し、各領域の面積や色の分布等を算出する。夕焼け又は朝焼けの画像においては、太陽光が当たっている被写体は赤色系になり、太陽光が当たっていない部分や太陽から遠い部分は黒色になる。例えば夕焼け又は朝焼けの市街地を撮像した画像の場合、撮像位置と太陽との間に位置する建造物のうち太陽光が当たる面は赤色やオレンジ色になり、その他は黒色になる。また、夕焼け又は朝焼けの市街地を撮像した画像では、建造物の上方に空があり、空のうちの建物との境界付近は赤色やオレンジ色になる。そこで、次に、配色が赤色領域と黒色領域とに分かれるかを判断する(ステップS33)。ステップS33では、例えば画面における赤色領域及び黒色領域の占める割合が閾値以上であり、かつ画面の上方に赤色領域が存在し下方に黒色領域が存在する場合、赤色領域と黒色領域とに分かれると判断する。配色が赤色領域と黒色領域とに分かれる場合(ステップS33;Yes)、夕焼け又は朝焼けの画像と判定し(ステップS34)、画像判別処理を終了する。一方、配色が赤色領域と黒色領域とに分けられない場合(ステップS33;No)、夕焼け及び朝焼け以外の画像と判定し(ステップS35)、画像判別処理を終了する。
なお、画像判別処理は、図25に示した手順に限らず、周知の判別方法のいずれかを用いて行えばよい。
画像判別部108は、画像判別処理を終えると、図24Aに示したように、夕焼け又は朝焼けの画像であるか否かの判定結果に応じて次に行う処理を判断する(ステップS40)。夕焼け又は朝焼けの画像であると判定した場合(ステップS40;Yes)、図24Bに示すように、画像データと処理結果とを関連付けて画像データ格納部102に格納し(ステップS7)、画像処理を終了する。一方、夕焼け又は朝焼けの画像ではないと判定した場合(ステップS40;No)、波状被写体検索部103に波状の被写体が存在する画像であるか否かを認識させる(ステップS8)。波状被写体認識部103は、ステップS8の処理として第1の実施形態で説明したステップS2〜S6の処理を行う。そのため、ステップS8が終了すると、処理対象の画像データに波状の被写体が存在するか否かの認識が終了している。
ステップS8が終了すると、波状被写体検索部103は、波状の被写体が存在する画像であるか否かの認識結果に応じて次に行う処理を判断する(ステップS9)。波状の被写体が存在しない画像であると認識した場合(ステップS9;No)、画像データを色補正部109に渡し、色補正部109に補正処理をさせる(ステップS45〜S47)。
色補正部109は、図24Bに示すように、まず色の傾向を算出し(ステップS45)、補正の必要の有無を判断する(ステップS46)。補正の必要が無い場合(ステップS46;No)、画像データと処理結果とを関連付けて画像データ格納部102に格納し(ステップS7)、画像処理を終了する。一方、補正の必要が有ると判定した場合(ステップS46;Yes)、画像内の色を補正する(ステップS47)。そして、補正後の画像データと処理結果とを関連付けて画像データ格納部102に格納し(ステップS7)、画像処理を終了する。色補正部109によるステップS45〜S47の処理は、周知の補正方法のいずれかを用いて行えばよい。
話をステップS9の判断に戻す。波状被写体検索部103は、波状の被写体が存在する画像と認識した場合(ステップS9;Yes)、波状被写体特定部106に波状の被写体が何(どのような物体)であるかを特定する波状被写体特定処理を行わせる(ステップS50)。波状被写体特定部106は、ステップS50の処理として第2の実施形態で説明したステップS15〜S18の処理を行い、画像に存在する波状の被写体が波のある海であるか否かを特定する。
波状被写体特定部105は、波状被写体特定処理を終えると、波のある海が存在する画像であるか否かの特定結果に応じて次に行う処理を判断する(ステップS51)。波のある海が存在する画像ではないと特定した場合(ステップS51;No)、画像データを色補正部109に渡し、色補正部109に補正処理をさせる(ステップS45〜S47)。一方、波のある海が存在する画像と特定した場合(ステップS51;Yes)、画像データを撮像シーン認識部107に渡し、撮像シーン認識部107に撮像シーン認識処理を行わせる(図24BのステップS20)。撮像シーン認識部107は、ステップS20の処理として第3の実施形態で説明したステップS21〜S25の処理(図22を参照)を行い、夕焼け又は朝焼けの海の画像であるか否かを認識する。
撮像シーン認識部107は、撮像シーン認識処理を終えると、夕焼け又は朝焼けの海の画像であるか否かの認識結果に応じて次に行う処理を判断する(ステップS52)。上記のように、夕焼け又は朝焼けの海の画像はもともと赤みを帯びた画像であるため、色補正部109による補正の対象から除外する。よって、夕焼け又は朝焼けの海の画像であると認識した場合(ステップS52;Yes)、図24Bに示すように、画像データと処理結果とを関連付けて画像データ格納部102に格納し(ステップS7)、画像処理を終了する。一方、夕焼け又は朝焼けの海の画像ではないと認識した場合(ステップS52;No)、画像データを色補正部109に渡し、色補正部109に補正処理をさせる(ステップS45〜S47)。色補正部109は、ステップS45〜S47の処理を終えると、画像データと処理結果とを関連付けて画像データ格納部102に格納し(ステップS7)、画像処理を終了する。
画像判定部108で行うステップS30の画像判別処理では、上述のように、画面における赤色領域及び黒色領域の占める割合が閾値以上であり、かつ画面の上方に赤色領域が存在し下方に黒色領域が存在する画像を、夕焼け又は朝焼けの画像と判定する。しかしながら、図2に示したような夕焼け又は朝焼けの海の画像においては、海32にも太陽光が当たっており、海32も赤色系の色になっている。そのため、夕焼け又は朝焼けの海の画像は、ステップS30の判別処理において夕焼け又は朝焼けの画像ではないと判定されることが多い。しかしながら、本実施形態の画像処理方法では、ステップS30の判別処理において夕焼け又は朝焼けの画像ではないと判定された場合でも、以後の処理において夕焼け又は朝焼けの海の画像と認識し色補正部109による補正の対象から除外できる。そのため、夕焼け又は朝焼けの海の画像を赤色傾向(赤被り)の画像と誤認識して色合いを自動補正してしまうことを防止できる。
なお、画像データ格納部102に処理前の画像データ3が複数格納されている場合には、全ての画像データ3又は選択したいくつかの画像データ3のそれぞれに対し、図24A及び図24Bに示した処理を行う。複数の画像データ3に対する処理は、1つの画像データに対する処理を順次繰り返して行ってもよいし、いくつかの画像データに対する処理を並行して行ってもよい。
以上説明したように、第4の実施形態の画像処理装置1及び画像処理方法によれば、画像判別部108による判別処理で夕焼け又は朝焼けの画像と判定されなかった画像から、夕焼け又は朝焼けの海の画像を抽出することができる。そのため、夕焼け又は朝焼けの海の画像を色補正部109による色合いの補正の対象から除外することができる。すなわち、夕焼け又は朝焼けの海の画像が赤色傾向(赤被り)の画像と誤認識され、赤被りを除去するよう色を補正されることを容易に防止できる。したがって、画像処理完了後、誤って色が補正された夕焼け又は朝焼けの画像の有無を調べ、誤って補正された画像の色を元に戻す作業を軽減できる。よって、画像処理装置1の処理負荷やオペレータの作業負担を軽減できる。
以上記載した各実施例を含む実施形態に関し、さらに以下の付記を開示する。
(付記1)
画像データにおける各画素の輝度勾配方向を算出する勾配方向算出部と、
前記輝度の勾配方向が画面上向きかつ予め定めた角度範囲内である上向き勾配の画素及び前記輝度の勾配方向が画面下向きかつ予め定めた角度範囲内である下向き勾配の画素を特定し、複数の前記上向き勾配の画素が画面左右方向に連続した上向き勾配の横長領域及び複数の前記下向き勾配の画素が画面左右方向に連続した下向き勾配の横長領域を抽出する横長領域抽出部と、
前記上向き勾配の横長領域と前記下向き勾配の横長領域とが画面上下方向に繰り返される領域が存在する前記画像データを波状の被写体が存在する画像データと認識する被写体認識部と、
を備えることを特徴とする画像処理装置。
(付記2)
前記被写体認識部は、前記画像データをC×R個の小ブロックに分割して前記小ブロック毎に前記上向き勾配の横長領域と前記下向き勾配の横長領域が画面上下方向に繰り返している否かを判断し、
前記上向き勾配の横長領域と前記下向き勾配の横長領域が繰り返している小ブロックが画面左右方向に所定の数以上並んでいる場合に前記波状の被写体が存在する画像データと認識する
ことを特徴とする付記1に記載の画像処理装置。
(付記3)
前記上向き勾配の横長領域と前記下向き勾配の横長領域が画面上下方向に繰り返していない場合に、画面が90度回転するよう前記画像データの各画素の位置を変換し、前記上向き勾配の横長領域及び前記下向き勾配の横長領域の抽出、及び前記上向き勾配の横長領域と前記下向き勾配の横長領域とが画面上下方向に繰り返される領域が存在するか否かの判断を再度行う
ことを特徴とする付記1に記載の画像処理装置。
(付記4)
前記横長領域抽出部は、
隣接する複数の上向き勾配の画素を1つのグループにするとともに、隣接する複数の下向き勾配の画素を1つのグループにし、
前記グループのうち、当該グループの外接矩形における画面左右方向の画素数と画面上下方向の画素数との比が予め定めた条件を満たすグループを前記上向き勾配の横長領域及び前記下向き勾配の横長領域とする
ことを特徴とする付記1に記載の画像処理装置。
(付記5)
前記画像データに存在する前記波状の被写体が波のある水面であるか否かを特定する被写体特定部、を更に備える
ことを特徴とする付記1に記載の画像処理装置。
(付記6)
前記波状の被写体が波のある水面である画像データについて、撮像シーンが夕焼け又は朝焼けであるか否かを認識する撮像シーン認識部、を更に備える
ことを特徴とする付記5に記載の画像処理装置。
(付記7)
前記撮像シーン認識部は、前記画像データの各画素の色情報を読み出し、画面の色が赤色系の色に偏っている場合に夕焼け又は朝焼けであると認識する
ことを特徴とする付記6に記載の画像処理装置。
(付記8)
前記画像データの色合いを補正する色補正部、を更に備え、
前記撮像シーン認識部は、撮像シーンが夕焼け又は朝焼けであると認識した画像データを前記色補正部による補正の対象から除外する
ことを特徴とする付記6に記載の画像処理装置。
(付記9)
コンピュータが、
画像データにおける各画素の輝度の勾配方向を算出し、
前記輝度の勾配方向が画面上向きかつ予め定めた角度範囲内である上向き勾配の画素、及び前記輝度の勾配方向が画面下向きかつ予め定めた角度範囲内である下向き勾配の画素を抽出し、
複数の前記上向き勾配の画素が画面左右方向に連続した上向き勾配の横長領域、及び複数の前記下向き勾配の画素が画面左右方向に連続した下向き勾配の横長領域を抽出し、
前記上向き勾配の横長領域と前記下向き勾配の横長領域とが画面上下方向に繰り返される領域が所定の寸法以上である前記画像データを波状の被写体が存在する画像データと認識する
ことを特徴とする画像処理方法。
(付記10)
前記上向き勾配の横長領域及び前記下向き勾配の横長領域を抽出する処理は、
隣接する複数の上向き勾配の画素を1つのグループにするとともに、隣接する複数の下向き勾配の画素を1つのグループにし、
前記グループのうち、当該グループの外接矩形における画面左右方向の画素数と画面上下方向の画素数との比が予め定めた条件を満たすグループを前記上向き勾配の横長領域及び前記下向き勾配の横長領域とする
ことを特徴とする付記9に記載の画像処理方法。
(付記11)
波状の被写体が存在すると認識された画像データにおける前記波状の被写体が波のある水面であるか否かを特定する
ことを特徴とする付記9に記載の画像処理方法。
(付記12)
前記波状の被写体が波のある水面であると特定された画像データにおける撮像シーンが夕焼け又は朝焼けであるか否かを認識する
ことを特徴とする付記11に記載の画像処理方法。
(付記13)
前記画像データの色合いを補正する処理、を更に有し、
前記撮像シーンが夕焼け又は朝焼けであると認識した画像データを前記色合いの補正の対象から除外する
ことを特徴とする付記12に記載の画像処理方法。
(付記14)
画像データにおける各画素の輝度の勾配方向を算出し、
前記輝度の勾配方向が画面上向きかつ予め定めた角度範囲内である上向き勾配の画素、及び前記輝度の勾配方向が画面下向きかつ予め定めた角度範囲内である下向き勾配の画素を抽出し、
複数の前記上向き勾配の画素が画面左右方向に連続した上向き勾配の横長領域、及び複数の前記下向き勾配の画素が画面左右方向に連続した下向き勾配の横長領域を抽出し、
前記上向き勾配の横長領域と前記下向き勾配の横長領域とが画面上下方向に繰り返される領域が所定の寸法以上である前記画像データを波状の被写体が存在する画像データと認識する、
処理をコンピュータに実行させるためのプログラム。
1 画像処理
101 画像データ取得部
102 画像データ格納部
103 波状被写体検索部
103A 勾配方向算出部
103B 横長領域抽出部
103C 被写体認識部
104 画像データ出力部
105 通信制御部
106 波状被写体特定部
107 撮像シーン認識部
108 画像判定部
109 色補正部
2 外部装置
3 (処理前の)画像データ
4 (処理済みの)画像データ
5 表示装置
6 画像サーバ
30,300,30V 画像
31 空
32 海
32A 波の山
32B 波の谷
32C 水平線
33 太陽

Claims (9)

  1. 画像データにおける各画素の輝度の勾配方向を算出する勾配方向算出部と、
    前記輝度の勾配方向が画面上向きかつ予め定めた角度範囲内である上向き勾配の画素及び前記輝度の勾配方向が画面下向きかつ予め定めた角度範囲内である下向き勾配の画素を抽出し、複数の前記上向き勾配の画素が画面左右方向に連続した上向き勾配の横長領域及び複数の前記下向き勾配の画素が画面左右方向に連続した下向き勾配の横長領域を抽出する横長領域抽出部と、
    前記上向き勾配の横長領域と前記下向き勾配の横長領域とが画面上下方向に繰り返される領域が存在する前記画像データを波状の被写体が存在する画像データと認識する波状被写体認識部と、
    を備えることを特徴とする画像処理装置。
  2. 前記画像データに存在する前記波状の被写体が波のある水面であるか否かを特定する被写体特定部、を更に備える
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記波状の被写体が波のある水面である画像データについて、撮像シーンが夕焼け又は朝焼けであるか否かを認識する撮像シーン認識部、を更に備える
    ことを特徴とする請求項2に記載の画像処理装置。
  4. 前記画像データの色合いを補正する色補正部、を更に備え、
    前記撮像シーン認識部は、撮像シーンが夕焼け又は朝焼けであると認識した画像データを前記色補正部による補正の対象から除外する
    ことを特徴とする請求項3に記載の画像処理装置。
  5. コンピュータが、
    画像データにおける各画素の輝度の勾配方向を算出し、
    輝度の勾配方向が画面上向きかつ予め定めた角度範囲内である上向き勾配の画素、及び前記輝度の勾配方向が画面下向きかつ予め定めた角度範囲内である下向き勾配の画素を抽出し、
    複数の前記上向き勾配の画素が画面左右方向に連続した上向き勾配の横長領域、及び複数の前記下向き勾配の画素が画面左右方向に連続した下向き勾配の横長領域を抽出し、
    前記上向き勾配の横長領域と前記下向き勾配の横長領域とが画面上下方向に繰り返される領域が所定の寸法以上である前記画像データを波状の被写体が存在する画像データと認識する
    ことを特徴とする画像処理方法。
  6. 波状の被写体が存在すると認識された画像データにおける前記波状の被写体が波のある水面であるか否かを特定する
    ことを特徴とする請求項5に記載の画像処理方法。
  7. 前記波状の被写体が波のある水面であると特定された画像データにおける撮像シーンが夕焼け又は朝焼けであるか否かを認識する
    ことを特徴とする請求項6に記載の画像処理方法。
  8. 前記画像データの色合いを補正する処理、を更に有し、
    前記撮像シーンが夕焼け又は朝焼けであると認識した画像データを前記色合いの補正の対象から除外する
    ことを特徴とする請求項7に記載の画像処理方法。
  9. 画像データにおける各画素の輝度の勾配方向を算出し、
    前記輝度の勾配方向が画面上向きかつ予め定めた角度範囲内である上向き勾配の画素、及び前記輝度の勾配方向が画面下向きかつ予め定めた角度範囲内である下向き勾配の画素を抽出し、
    複数の前記上向き勾配の画素が画面左右方向に連続した上向き勾配の横長領域、及び複数の前記下向き勾配の画素が画面左右方向に連続した下向き勾配の横長領域を抽出し、
    前記上向き勾配の横長領域と前記下向き勾配の横長領域とが画面上下方向に繰り返される領域が所定の寸法以上である前記画像データを波状の被写体が存在する画像データと認識する、
    処理をコンピュータに実行させるためのプログラム。
JP2014217715A 2014-10-24 2014-10-24 画像処理装置、画像処理方法、及びプログラム Pending JP2016085593A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014217715A JP2016085593A (ja) 2014-10-24 2014-10-24 画像処理装置、画像処理方法、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014217715A JP2016085593A (ja) 2014-10-24 2014-10-24 画像処理装置、画像処理方法、及びプログラム

Publications (1)

Publication Number Publication Date
JP2016085593A true JP2016085593A (ja) 2016-05-19

Family

ID=55973763

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014217715A Pending JP2016085593A (ja) 2014-10-24 2014-10-24 画像処理装置、画像処理方法、及びプログラム

Country Status (1)

Country Link
JP (1) JP2016085593A (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000132684A (ja) * 1998-10-23 2000-05-12 Matsushita Electric Works Ltd 外観検査方法
JP2001195591A (ja) * 1999-11-29 2001-07-19 Eastman Kodak Co 画像中の空を検出する方法
JP2004062605A (ja) * 2002-07-30 2004-02-26 Fuji Photo Film Co Ltd シーン識別方法および装置ならびにプログラム
JP2008154261A (ja) * 2008-01-21 2008-07-03 Seiko Epson Corp 撮影場面の判定および撮影場面に応じた画像処理

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000132684A (ja) * 1998-10-23 2000-05-12 Matsushita Electric Works Ltd 外観検査方法
JP2001195591A (ja) * 1999-11-29 2001-07-19 Eastman Kodak Co 画像中の空を検出する方法
JP2004062605A (ja) * 2002-07-30 2004-02-26 Fuji Photo Film Co Ltd シーン識別方法および装置ならびにプログラム
JP2008154261A (ja) * 2008-01-21 2008-07-03 Seiko Epson Corp 撮影場面の判定および撮影場面に応じた画像処理

Similar Documents

Publication Publication Date Title
US7929756B2 (en) Method for classifying a digital image
US9805281B2 (en) Model-based dewarping method and apparatus
CN101443791B (zh) 用于在数字图像中的前景和背景之间提供分离的方法和设备
KR101604249B1 (ko) 멀티스펙트럼 이미징 시스템
CN101416219B (zh) 数字图像中的前景/背景分割
US20200250840A1 (en) Shadow detection method and system for surveillance video image, and shadow removing method
JP5701181B2 (ja) 画像処理装置、画像処理方法及びコンピュータプログラム
US20050196044A1 (en) Method of extracting candidate human region within image, system for extracting candidate human region, program for extracting candidate human region, method of discerning top and bottom of human image, system for discerning top and bottom, and program for discerning top and bottom
CN104008542B (zh) 一种针对特定平面图形的快速角点匹配方法
WO2018147059A1 (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP5818552B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2013025650A (ja) 画像処理装置、画像処理方法およびプログラム
Orozco et al. Techniques for source camera identification
JP5864936B2 (ja) 画像処理装置、画像処理方法およびプログラム
EP2890109A1 (en) Method for sorting a group of images of a database and method for color correcting an image, corresponding devices, computer program and non-transitory computer-readable medium
JP2016085593A (ja) 画像処理装置、画像処理方法、及びプログラム
JP2011170554A (ja) 物体認識装置、物体認識方法及び物体認識プログラム
KR101741761B1 (ko) 멀티 프레임 기반 건물 인식을 위한 특징점 분류 방법
JP2005250778A (ja) 画像の天地方向判定
JP4579646B2 (ja) 画像処理装置、画像処理方法、コンピュータプログラム及び記憶媒体
JP5818571B2 (ja) 撮像装置、その制御方法、および制御プログラム
JP2011124955A (ja) 画像処理方法及び画像処理装置
JP2005078233A (ja) 領域抽出法および領域抽出装置
JP2010197968A (ja) 合焦評価装置、カメラおよびプログラム
JP2005202841A (ja) 画像処理方法及び装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170704

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180625

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180703

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20190115