JP2022069197A - 画像処理装置及びその制御方法及びプログラム - Google Patents
画像処理装置及びその制御方法及びプログラム Download PDFInfo
- Publication number
- JP2022069197A JP2022069197A JP2020178247A JP2020178247A JP2022069197A JP 2022069197 A JP2022069197 A JP 2022069197A JP 2020178247 A JP2020178247 A JP 2020178247A JP 2020178247 A JP2020178247 A JP 2020178247A JP 2022069197 A JP2022069197 A JP 2022069197A
- Authority
- JP
- Japan
- Prior art keywords
- image
- image processing
- fine particle
- image data
- processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 202
- 238000000034 method Methods 0.000 title claims abstract description 79
- 239000010419 fine particle Substances 0.000 claims abstract description 79
- 230000008569 process Effects 0.000 claims abstract description 68
- 238000003384 imaging method Methods 0.000 claims abstract description 17
- 238000003672 processing method Methods 0.000 claims 2
- 238000004501 airglow Methods 0.000 description 53
- 238000013500 data storage Methods 0.000 description 53
- 238000004364 calculation method Methods 0.000 description 52
- 238000012937 correction Methods 0.000 description 48
- 238000001514 detection method Methods 0.000 description 26
- 238000002834 transmittance Methods 0.000 description 15
- 230000000694 effects Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 9
- 230000015572 biosynthetic process Effects 0.000 description 6
- 238000003786 synthesis reaction Methods 0.000 description 6
- ATJFFYVFTNAWJD-UHFFFAOYSA-N Tin Chemical compound [Sn] ATJFFYVFTNAWJD-UHFFFAOYSA-N 0.000 description 4
- 238000000605 extraction Methods 0.000 description 4
- 238000001914 filtration Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 238000003702 image correction Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000012935 Averaging Methods 0.000 description 2
- 238000000149 argon plasma sintering Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 239000002131 composite material Substances 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 1
- 239000003795 chemical substances by application Substances 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
Abstract
Description
[概要]
本実施形態では、霧などの微小粒子成分(以下、微粒子)が発生している状況下で、撮影した入力画像に対して、まず微小粒子成分の影響除去処理を行う。次に、人物検出などのオブジェクト検出処理を行うことで、微小粒子成分の影響を除去した画像から人物などのオブジェクトを抽出する。この抽出結果に基づいて、除去画像を生成する際の入力画像のミー散乱成分とレイリー散乱成分の比率を変えることで、微小粒子成分の影響の出方を変えた画像を作る。これらの画像を合成することで、よりオブジェクトの視認性の高い画像得る。
図1は、本実施形態が適用する画像処理装置100のブロック構成図である。本実施形態の画像処理装置100は、CPU101、RAM102、ROM103、HDD I/F104、HDD105、入力I/F106、出力I/F107、システムバス108を有する。CPU101は、以下に述べる各構成を統括的に制御するプロセッサである。RAM102はCPU101の主メモリ、ワークエリアとして機能するメモリであり、ROM103は、画像処理装置100内での処理を司るプログラムや各種パラメータを格納するメモリである。
実施形態の画像処理装置100における処理の流れを図2のブロック図、および図4のフローチャートを用いて説明する。
ここで、図4のS404、S407の微粒子除去処理について、図2、図3の処理ブロック図、及び、図5のフローチャートを用いて詳細に説明する。なお、S404,S407の違いは、処理に用いるパラメータが異なる点である点に注意されたい。
次に、S502の大気光算出の処理について説明する。大気光算出部301は、まず入力画像をRGB画像から輝度画像(Y画像)へ変換する。次に、大気光算出部301は、変換したY画像からヒストグラムを生成し、上位1%の値を閾値とし、閾値以上の画素値を持つ画素の位置の中から、ロバスト推定処理を行い、大気光を推定するための画素を決定する。そして、決定された画素の画素値をもとに大気光を推定する。
ARGB=(ΣAR/n,ΣAG/n,ΣAB/n) …(1)
AY=(ΣAR/n+ΣAG/n+ΣAB/n)/3 …(2)
ここで、AR、AG、AB、AYはそれぞれ、Rチャンネル、Gチャンネル、Bチャンネル、下位画素画像の大気光成分の値を示す。また、nはS704で決定した参照画素の総数、ΣはS704で決定した画素の数の和を示す。なお、ここで示した式(1)、(2)はあくまで一例であり、実施形態における大気光推定のための計算式は、他の式であっても構わない。たとえば、式(2)を、ΣAR/n,ΣAG/n,ΣAB/nの中で最も小さい値としてもよい。
次に、S501の下位画素画像算出部302による下位画素画像生成処理を、図6(a),(b)を用いて説明する。図6(a)のように、入力画像中のある注目画素P5を中心にして、周囲ピクセルの画素をP1~P4,P6~P9と表す。また、画素P1~P9が有するR,G,Bの成分値を、P1(R1,G1,B1)~P9(R9,G9,B9)と表現する。
T1=(2×R4+4×B1+2×G9)/8 …(3)
下位画素画像算出部302は以上の処理を全画素に対して行うことで、下位画素画像を生成することになる。そして、下位画素画像算出部302は、生成した下位画素画像を下位画素画像データ記憶部310に保存する。なお、上記で挙げた計算方法は下位画素画像を求める際の計算式の例であり、この計算式に沿っている必要はない。たとえば、下位2番目から下位4つの画素を平均することで求めてもよい。また、また、本実施形態では注目画素から1画素分の距離にある周囲画素を参照し下位画素を生成したが、もちろん2画素分の距離になる周囲画素を参照して下位画素を求めてもよいし、更なる距離にある周囲画素を参照しても構わない。図6(a),(b)は、あくまで例示であると理解されたい。
次に、補正処理部304による下位画素画像による補正画像生成処理(図5のS503)を、図8のフローチャートを参照して説明する。
lower_A=Tin_lower/AY …(4)
ここで、Tin_lowerは、S502で生成した下位画素画像を示す。
tlower=1.0-ω×lower_A(x,y) …(5)
ここで、ωは調整のための係数で、例えば“0.9”とする。また、x、yは、画像の水平方向及び垂直方向の座標である。係数ωは、対象の画素の透過光が霧などの微小粒子による散乱光のみで構成されていた場合に透過率が0になり、微小粒子除去処理後の画素値が0になるのを避けるために設けられた値であって、上で挙げた“0.9”でなくても良い。
次に、RGB下位画素画像による補正処理部305の補正画像生成処理(図5のS504)を、図9のフローチャートを参照して説明する。
RGB_A(x、y、c)=Tin_RGB(x、y、c)/ARGB …(7)
ここで、Tin_RGBは、補正前のRGB下位画素値画像データを示し、RGB_Aは補正後のRGB下位画素値画像データを示す。また、x、yは画像の水平、垂直方向の座標を示し、cは色プレーン(R,G,Bのいずれか)である。
T3R=(2×R2+4×R3+2×R4)/8 …(8)
同様に、Gチャンネルの最小値T3Gを求める場合は、上式(8)にG2,G3,G4を代入した結果となる。Bチャンネルの最小値T3Bも同様である。これらの値は、それぞれ注目画素のプレーンと同じプレーンの画素値を採用することが、下位画素画像との違いである。下位画素画像は、RGB下位画素画像とは異なり、注目画素周辺の全プレーンの画素を対象に行われる。このため、採用される画素は、RGBいずれのプレーンの画素からも採用される可能性があるが、RGB下位画素値の場合は、各色プレーンからのみ採用される。この違いにより、光の散乱の波長による影響を考慮することができる。
tRGB=1.0-ω×patch_RGB_A(x,y,c) …(9)
ここで、ωは調整のための係数で、例えば0.9とする。ωは、対象の画素の透過光が霧などの微小粒子による散乱光のみで構成されていた場合透過率が0になり、微小粒子除去処理後の画素値が0になるのを避けるために設けられた値であって、上で挙げた0.9でなくても構わない。
次に、ミー散乱成分算出部306による、下位画素補正画像データ、および入力画像から、ミー散乱による光の散乱成分の算出処理(S505)を、図11のフローチャートを参照して説明する。
・I(x,y,c)-Jlower(x,y,c)≧0のとき:
M(x,y,c)=I(x,y,c)-Jlower(x,y,c)
・I(x,y,c)-Jlower(x,y,c)<0のとき:
M(x,y,c)=0
ここで、M(x,y,c)はミー散乱成分画像である。この計算によって、ミー散乱成分を画像から取り出すことができる。
次に、レイリー散乱成分算出部307による、レイリー散乱成分の算出処理(S506」)を、図12のフローチャートを参照して説明する。
・I(x,y,c)-JRGB(x,y,c)-M(x,y,c)≧0のとき: R(x,y,c)=I(x,y,c)-JRGB(x,y,c)-M(x,y,c)
・I(x,y,c)-JRGB(x,y,c)-M(x,y,c)<0のとき:
R(x,y,c)=0 …(12)
ここで、R(x,y,c)はレイリー散乱成分画像である。この計算によって、レイリー散乱成分を画像から取り出すことができる。
次に、合成処理部308の合成処理(S507)を説明する。
Jout(x,y,c)=JRGB(x,y,c)+m・M(x,y,c)+r・R(x,y,c) …(13)
ここで、mはミー散乱強度係数、rはレイリー散乱強度係数である。本実施形態では、第一、第二のパラメータでそれぞれ、0~1の間を取ることが望ましいが、もちろんそれ以外の値を用いてもかまわない。
次に、処理結果を表示するユーザーインターフェースを交えた例(UI例)を、図13、このときの処理フローを図14に示す。
次に、実施例2とは異なるUI例の場合について説明する。処理の流れは実施例2と同じであるが、表示例が異なる。
なお、上述した各処理部のうち、オブジェクト抽出処理部206、微粒子除去処理部等については、その代わりとして、機械学習された学習済みモデルを代わりに用いて処理しても良い。その場合には、例えば、その処理部への入力データと出力データとの組合せを学習データとして複数個準備する。複数の学習データから機械学習によって知識を獲得し、獲得した知識に基づいて入力データに対する出力データを結果を出力する学習済みモデルを生成する。学習済みモデルは、例えばニューラルネットワークモデルにより構成可能である。そして、その学習済みモデルは、前記処理部と同等の処理をするためのプログラムとして、CPUあるいはGPUなどと協働で動作することにより、前記処理部の処理を行う。なお、上記学習済みモデルは、必要に応じて一定の処理後に更新しても良い。
202 微粒子除去処理部
203 微粒子除去画像データ出力部
Claims (8)
- 撮像手段による撮像で得られた画像データを処理する画像処理装置であって、
前記画像データにおける第一の領域に、第一の微粒子除去の処理を行う第一の画像処理手段と、
前記画像データにおける前記第一の領域と異なる第二の領域に、前記第一の微粒子除去の処理と異なる第二の微粒子除去の処理を行う第二の画像処理手段と、
前記第一の画像処理手段による前記第一の微粒子除去の処理と前記第二の画像処理手段による前記第二の微粒子除去の処理とが行われた前記画像データを、前記第一の領域もしくは前記第二の領域を示す情報とともに、表示させる表示手段と、
を有することを特徴とする画像処理装置。 - 前記第一の領域もしくは前記第二の領域を示す情報は、前記第一の領域もしくは前記第二の領域を示す表示枠であることを特徴とする請求項1に記載の画像処理装置。
- 前記第一の領域もしくは前記第二の領域は、ユーザの指定に基づき設定されることを特徴とする請求項1に記載の画像処理装置。
- 前記第一の画像処理手段は、第一のパラメータにより、前記第一の領域に前記第一の微粒子除去の処理を行い、前記第二の画像処理手段は、前記第一のパラメータと異なる第二のパラメータにより、前記第二の領域に前記第二の微粒子除去の処理を行うことを特徴とする請求項1に記載の画像処理装置。
- 前記表示手段は、前記第一の画像処理手段による前記第一の微粒子除去の処理と前記第二の画像処理手段による前記第二の微粒子除去の処理とが行われた前記画像データを、前記第一の領域もしくは前記第二の領域の拡大表示の画像とともに、表示させることを特徴とする請求項1に記載の画像処理装置。
- 前記第一の領域もしくは前記第二の領域それぞれは、複数の領域であることを特徴とする請求項1に記載の前記画像処理装置。
- 撮像手段による撮像で得られた画像データを処理する画像処理方法であって、
第一の画像処理手段が、前記画像データにおける第一の領域に、第一の微粒子除去の処理を行う第一の画像処理工程と、
第二の画像処理手段が、前記画像データにおける前記第一の領域と異なる第二の領域に、前記第一の微粒子除去の処理と異なる第二の微粒子除去の処理を行う第二の画像処理工程と、
表示手段が、前記第一の画像処理工程による前記第一の微粒子除去の処理と前記第二の画像処理工程による前記第二の微粒子除去の処理とが行われた前記画像データを、前記第一の領域もしくは前記第二の領域を示す情報とともに、表示させる表示工程と、
を有することを特徴とする画像処理方法。 - コンピュータを、
撮像手段による撮像で得られた画像データを処理する画像処理装置であって、
前記画像データにおける第一の領域に、第一の微粒子除去の処理を行う第一の画像処理手段と、
前記画像データにおける前記第一の領域と異なる第二の領域に、前記第一の微粒子除去の処理と異なる第二の微粒子除去の処理を行う第二の画像処理手段と、
前記第一の画像処理手段による前記第一の微粒子除去の処理と前記第二の画像処理手段による前記第二の微粒子除去の処理とが行われた前記画像データを、前記第一の領域もしくは前記第二の領域を示す情報とともに、表示させる表示手段と、
を有することを特徴とする画像処理装置として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020178247A JP2022069197A (ja) | 2020-10-23 | 2020-10-23 | 画像処理装置及びその制御方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020178247A JP2022069197A (ja) | 2020-10-23 | 2020-10-23 | 画像処理装置及びその制御方法及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022069197A true JP2022069197A (ja) | 2022-05-11 |
Family
ID=81521913
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020178247A Pending JP2022069197A (ja) | 2020-10-23 | 2020-10-23 | 画像処理装置及びその制御方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2022069197A (ja) |
-
2020
- 2020-10-23 JP JP2020178247A patent/JP2022069197A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7003238B2 (ja) | 画像処理方法、装置、及び、デバイス | |
JP6635799B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
US10304164B2 (en) | Image processing apparatus, image processing method, and storage medium for performing lighting processing for image data | |
JP6579868B2 (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
JP6818463B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
WO2013168618A1 (ja) | 画像処理装置及び画像処理方法 | |
JP6282095B2 (ja) | 画像処理装置、画像処理方法およびプログラム。 | |
JP6576083B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP6320115B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP2014232938A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JPWO2014069103A1 (ja) | 画像処理装置 | |
JP2020061080A (ja) | 画像処理装置、撮像装置、画像処理方法 | |
US20230274398A1 (en) | Image processing apparatus for reducing influence of fine particle in an image, control method of same, and non-transitory computer-readable storage medium | |
JP2013026933A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
KR101468433B1 (ko) | 결합된 색상 채널 변환 맵을 이용한 다이나믹 레인지 확장 장치 및 방법 | |
JP2019205205A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP2022069197A (ja) | 画像処理装置及びその制御方法及びプログラム | |
JP6661268B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2018160024A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP5178933B1 (ja) | 画像処理装置 | |
JP7034690B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP7227785B2 (ja) | 画像処理装置、画像処理方法およびコンピュータプログラム | |
JP2019086969A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
KR101631023B1 (ko) | 이웃 기반의 강도 보정 장치, 백그라운드 획득 장치 및 그 방법 | |
JP6494817B2 (ja) | 画像処理装置、画像処理方法およびプログラム。 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20231020 |
|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20231213 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240724 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240730 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240927 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20241015 |