JP5966935B2 - 赤外線目標検出装置 - Google Patents

赤外線目標検出装置 Download PDF

Info

Publication number
JP5966935B2
JP5966935B2 JP2013002231A JP2013002231A JP5966935B2 JP 5966935 B2 JP5966935 B2 JP 5966935B2 JP 2013002231 A JP2013002231 A JP 2013002231A JP 2013002231 A JP2013002231 A JP 2013002231A JP 5966935 B2 JP5966935 B2 JP 5966935B2
Authority
JP
Japan
Prior art keywords
target
infrared
target detection
image
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013002231A
Other languages
English (en)
Other versions
JP2014134442A (ja
Inventor
力 古川
力 古川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2013002231A priority Critical patent/JP5966935B2/ja
Publication of JP2014134442A publication Critical patent/JP2014134442A/ja
Application granted granted Critical
Publication of JP5966935B2 publication Critical patent/JP5966935B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measurement Of Optical Distance (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Description

本発明は、艦船または航空機に搭載され、赤外線画像を撮像し、撮像した赤外線画像を基に船舶、航空機、飛翔体等の小目標を検出する赤外線目標検出装置に関するものである。
従来の赤外線目標検出装置は、赤外線撮像器により目標を撮像した赤外線画像に対して、注目画素の輝度値と注目画素周辺近傍領域における輝度のばらつきをノイズもしくはクラッタ源として計測し、注目画素毎に前記ノイズもしくはクラッタ源の計測結果を用いて二値化閾値を求める。そして、求めた二値化閾値により撮像した赤外線画像を二値化処理することで、前記輝度のばらつきが高い領域である海上、雲などのクラッタを抑圧し、かつ、青空のような輝度のばらつきの低いクリアスカイ背景領域にある目標を安定して検出することが知られている(例えば特許文献1参照)。
この赤外線目標検出装置では、艦船または航空機から撮像した赤外線画像の二値化画像を用いて目標のラベリング処理、及び目標の特徴量として重心、面積、領域を演算することで、海上を航行する船舶、上空を飛来してくる航空機や飛翔体等の微小目標を、探知することができる。
特許文献1に記載の方法は、赤外線撮像器により目標を撮像した赤外線画像に対して、ラスタ走査しながら注目画素の輝度値と注目画素周辺領域における輝度ばらつきを計測し、注目画素毎に前記輝度ばらつきの計測値を用いて、注目画素周辺領域における輝度ばらつき計測結果に見合った二値化閾値を求めて二値化することで目標を抽出し検出する方法である。
特開平9−27954号公報(図1) 特開2010−14482号公報(図1)
しかしながら、特許文献1に記載の方法は、クリアスカイ背景領域にある目標を安定して検出し、複雑な輝度ばらつきを持ち輝度のばらつきが高い領域(以後、クラッタ背景領域と称する)である海上、雲などのクラッタを効果的に抑圧することが期待できる反面、相対的にクラッタ背景領域にある目標検出性能はクリアスカイ背景領域にある目標検出性能に対して悪くなる問題があった。
また、クラッタ背景領域における目標検出性能をクリアスカイ背景領域における目標検出性能と同等にするために、仮に、二値化しきい値をクリアスカイ背景領域における二値化しきい値相当に下げてクラッタ背景領域にある目標検出性能をクリアスカイ背景領域における目標検出性能に見直したとしても、反対に、注目画素周辺領域の輝度ばらつき計測結果に見合わない二値化しきい値を用いることによって、クラッタ背景領域にあるクラッタを誤検出してしまう問題があった。
特許文献2の記載の方法では、クリアスカイ背景領域にある、高度方向に対する輝度のグラデーション分布に起因したクリアスカイ背景領域における目標検出性能の劣化の影響を防ぐための目標検出する方式であるため、クラッタ背景領域における目標検出性能を改善するものではない。
このように、特許文献1、特許文献2記載による目標検出方法では、クラッタ背景領域におけるクラッタ抑圧及び、クリアスカイ背景領域と同等の目標検出性能の両立は、困難であるという問題があった。
このように従来の、赤外線撮像器により目標を撮像した赤外線画像を使用した赤外線目標検出装置は、クラッタ背景領域である海上、雲などのクラッタを抑圧して誤警報を低減可能な反面、相対的にクラッタ背景領域における目標検出性能がクリアスカイ背景領域にある目標検出性能に対して劣ってしまう問題があった。
したがってクラッタ背景領域においては、クラッタによる誤警報低減と、クリアスカイ背景領域と同等の目標検出性能を同時に両立することが課題となっていた。
本発明に係る赤外線目標検出装置は、ジンバル機構に設置され、同一の視野領域の赤外線画像を撮像する受光感度波長帯の異なる2台の赤外線撮像器と、
前記ジンバル機構を駆動制御し、前記赤外線撮像器を目標方向に各々指向させるジンバル駆動制御部と、
各々の赤外線撮像器が撮像した赤外線画像において、各々注目する注目画素の輝度値と前記注目画素の周辺領域における輝度平均値及び輝度ばらつきを求め、前記輝度ばらつきに基づき前記周辺領域が輝度ばらつきの低いクリアスカイ領域であるか、輝度ばらつきの高いクラッタ領域であるかを判定し、前記判定の結果に対応する二値化閾値を用いて二値化した二値画像を出力する目標検出処理部と、
前記二値画像で検出された各々の目標候補に対し空間的な位置の同一性を、各々の前記赤外線撮像器から前記目標候補に対する空間上における視線ベクトル間の差分ベクトルを評価指標とし、前記差分ベクトルが最短となるときの絶対値を算出し、前記絶対値を所定の値と比較することで評価し、前記絶対値が前記所定の値より小さいことにより同一性が高いと判断した目標について、真目標とみなして二値画像を出力するステレオマッチング処理部とを備える。

本発明によれば、赤外線撮像器により目標を撮像した赤外線画像に対する目標検出処理について、クラッタ背景領域においても、クラッタ抑圧と、クリアスカイ背景領域と同等の目標検出性能を同時に両立することが可能となる。
さらに、従来艦船等での目標測距ではレーザやレーダ等のアクティブセンサを用いた、いわゆるアクティブ測距によるものであるが、上記目標検出の効果によって、海上等のクラッタの影響を受けずに安定して目標検出を行い、かつ、パッシブ測距によって対象目標からの対電子妨害手段の影響を受けずに安定して測距継続することが可能となる。
実施の形態1に係る赤外線目標検出装置を説明するブロック図である。 実施の形態1に係る目標検出処理部を説明するブロック図である。 実施の形態1に係るステレオマッチング処理を説明する機能ブロック図である。 実施の形態1に係る目標検出処理、ステレオマッチング処理の原理を説明する概念図である。 実施の形態1に係るテンプレートマッチング処理概念を説明する図である。 実施の形態1に係る目標視線ベクトル生成の概念を説明する図である。 実施の形態2に係る赤外線目標検出装置を説明するブロック図である。 実施の形態2に係る画像合成表示例を示す概念図である。 実施の形態3に係る赤外線目標検出装置を説明するブロック図である。 実施の形態4に係る赤外線目標検出装置を説明するブロック図である。 実施の形態4に係る画像表示における目標シンボルの例を示す概念図である。 実施の形態5に係る赤外線目標検出装置を説明するブロック図である。
実施の形態1.
図1は実施の形態1による赤外線目標検出装置1の構成を示すブロック図である。
赤外線目標検出装置1は、艦船または航空機等に搭載され、目標からの赤外線を集光し、集光した赤外線を検知して撮像画像信号に電気変換して撮像画像信号を出力する#1赤外線撮像器2、#2赤外線撮像器3と、上記互いに同じ視野領域を撮像するようにジンバル機構4に配置し、#1赤外線撮像器2と#2赤外線撮像器3は互いに同じ視野領域を撮像しながら海上を航行する船舶または上空を飛来する航空機等の微小目標の方向に対して機械的に指向するジンバル駆動制御部5と、前記目標を撮像した#1赤外線画像と#2赤外線画像に対して、注目画素の輝度値と注目画素周辺領域における輝度ばらつきを計測し、注目画素毎に上記の輝度ばらつきの計測値を用いて二値化閾値を求め、二値化処理を行い二値化処理後の二値化画像を出力する目標検出処理部7と、前記目標を撮像した#1赤外線画像、#2赤外線画像に対して、NCC(Normalized Cross Correlation、正規化相互相関、以後NCCと称する)などのパターンマッチング処理を行い#1、#2二値化画像を取得し、更に前記二値化画像より得られる#1、#2の目標位置同士を組合せてその際の視軸ベクトル間の距離を計測し、同時刻でステレオ視した目標形状の同一性と、及び、目標の空間的な位置の同一性を評価検証することで真目標を抽出し、#1二値化画像、#2二値化画像として出力するステレオマッチング処理部9と、前記ステレオマッチング処理部9からの#1二値画像、#2二値画像に対して、目標のラベリング、及び二値化画像における目標の特徴量として重心位置、面積等を演算する特徴量演算回路8とから構成される。
図2は目標検出処理部7のブロック図である。図3はステレオマッチング処理部9の機能ブロック図である。図4は本発明における目標検出とステレオマッチング処理の原理を示した図である。
図2において、目標検出処理部7は前記#1赤外線画像、#2赤外線画像毎に、注目画素ごとに画素周辺の所定のウィンド内における画素データの切り出しを行うウィンド回路30と、前記領域内の平均輝度を計測する平均輝度演算回路31と、前記領域内の標準偏差を計測する標準偏差演算回路32と、前記標準偏差結果から、注目画素周辺領域がクリアスカイ領域かクラッタ領域かを判定するクリアスカイ/クラッタ領域判定34と、前記判定の結果、平均輝度結果、標準偏差結果によって、二値化しきい値を算出する二値しきい値演算回路33と、前記#1赤外線画像、#2赤外線画像毎の二値化しきい値と前記#1赤外線画像、#2赤外線画像の輝度値を用いて二値化計算を行う二値化回路35を備える。
ここで本実施の形態に係る目標検出処理部7と、特許文献1、2における目標検出処理部とは、前記標準偏差結果より注目画素周辺領域がクリアスカイ領域であるか、クラッタ領域であるかの判定を行うクリアスカイ領域/クラッタ領域判定34を新たに設けたこと、及び、二値化しきい値演算回路33において、前記クリアスカイ領域/クラッタ領域判定結果に基づき、対応する二値化係数を用いて二値化しきい値をそれぞれ算出し、クラッタ領域の場合は目標検出性能がクリアスカイ領域相当と同じになるように二値化係数を低く設定するようにした点で相違する。
次に、赤外線目標検出装置1の動作について説明する。
#1赤外線撮像器2と#2赤外線撮像器3を互いに同一の視野領域を撮像するようにジンバル機構4に配置し、ジンバル駆動制御部5によって目標方向に指向することで、#1赤外線撮像器2と#2赤外線撮像器3より、それぞれ同一時刻における同一目標を撮像した#1赤外線画像、#2赤外線画像を得る。
前記#1赤外線画像と#2赤外線画像は、目標検出処理部7、ステレオマッチング処理部9へ入力される。
次に、目標検出処理部7の動作を説明する。
目標検出処理部7による目標検出方式は、前記#1赤外線画像と#2赤外線画像における目標S/N比が背景S/N比に対して大きく、二値化しきい値による二値化によって目標と背景を分離するという基本原理を利用したものである。
前述のとおり、クリアスカイ領域/クラッタ領域判定34と二値化回路35以外は特許文献1、2記載と動作は同じであるため、ここでは、クリアスカイ領域/クラッタ領域判定34と二値化回路35に特化して説明する。
クリアスカイ領域/クラッタ領域判定34では、ウィンド回路30で切り出した注目画素の周辺領域における標準偏差演算回路32による標準偏差演算結果を用いて、標準偏差値が所定の値より小さい場合は輝度ばらつきが少ないためクリアスカイ領域とみなし、標準偏差値が所定の値より大きい場合は輝度ばらつきが大きく複雑であるためクラッタ領域とみなす判定を行う。
二値化回路33では、前記クリアスカイ領域/クラッタ領域判定34の結果に基づき、対応する二値化係数を用いて二値化しきい値を(式1)に基づき、二値化しきい値を算出する。この際、注目画素領域がクラッタ領域にみなされた場合、特許文献1,2における二値化係数に対して、目標検出性能がクリアスカイ領域相当と同じになるように二値化係数Kcを低く設定する。
二値化回路35では(式2)に基づいて、二値化しきい値より大きい輝度の注目画素を“1”に二値化した画素を目標とみなすことで目標検出結果として二値画像を出力する。
Figure 0005966935
Figure 0005966935
次に図3を用いて、ステレオマッチング処理部9の動作を説明する。
目標のテンプレート40では、予め所定のゲートサイズにおける目標の形状と輝度値が示されたテンプレートを保有する。
テンプレートマッチング回路41では、#1、#2目標検出処理後の目標位置を中心として設定したゲート内座標に対して得られる#1、#2ゲート内座標における赤外線画像輝度値と目標テンプレートゲート内座標における画像輝度値を、(式3)に基づく公知であるNCC法を用いて、設定した目標テンプレートと#1、#2目標検出処理後の目標の赤外線画像における輝度形状との同一性を評価検証する。
ステレオマッチング処理部9の動作イメージを図5に示す。
まず、#1、#2目標検出処理後二値画像より抽出した目標位置座標を中心とした#1、#2赤外線画像のゲート領域内に対して、目標のテンプレートを設定し、ゲート内設定画素における(式3)の演算を行う。
前記の処理について、目標のテンプレートを前記ゲート内領域に対してラスタ走査しながら、ラスタ走査完了するまで繰り返す。#1,#2目標検出処理後の別の目標についても上記処理を繰り返す。
このようにして、#1、#2目標検出処理後二値画像より抽出した全ての目標について目標テンプレートとの輝度形状の同一性をRNCC値として評価する。ゲート中心画素におけるRNCC値が高いほど(すなわち、1に近い程)目標テンプレートとの輝度形状の同一性が高く、低い程(すなわち、0に近いほど)同一性は低いことを示す。
Figure 0005966935
しきい値42は前記テンプレートマッチング回路41で算出したRNCC値より、#1、#2テンプレートマッチング処理後の二値画像として出力するためのしきい値を設定するもので、二値化回路43では前記しきい値42によって、(式4)に従い、#1、#2テンプレートマッチング処理後の二値画像として出力するものである。
Figure 0005966935
目標視線ベクトル生成回路44では、#1、#2テンプレートマッチング処理後の二値画像により抽出された#1、#2目標同士を組合せて、目標の空間位置の同一性を検証するものであり、以下の動作により実施される。
図6は、目標視線ベクトル生成の概念を説明する図である。
図6に示すように、艦船、航空機等に搭載される赤外線目標検出装置の原点を基準にした3軸直交慣性空間座標系P=(X,Y,Z)T、#1,#2の赤外線撮像器の上記慣性空間座標の原点に対する赤外線撮像軸の仮想原点(以降取付位置と称する)をそれぞれO1=(X1,Y1,Z1)T,O2=(X2,Y2,Z2)T、及び前記赤外線撮像軸を基準にした画像座標系をそれぞれ、p1=(u1,v1,w1) T,p2=(u2,v2,w2) Tと定義する。
慣性空間座標P=(X,Y,Z)Tに対する#1、#2の赤外線撮像器の赤外線撮像軸の姿勢角度(以降赤外線撮像器の取付角度と称する)をそれぞれ、ω1,ω2, φ1,φ2, κ1,κ2とすると、画像座標系p1,p2は、慣性空間座標におけるP1、P2を基準した慣性空間座標、すわなち、P1O1=(X-X1,Y-Y1,Z-Z1)T ,P2O2=(X-X2,Y-Y2,Z-Z2)T をX軸に対してそれぞれ、ω1、ω2、 Y軸に対してφ1、φ2、 Z軸に対してそれぞれ、κ1、κ2回転後の空間座標であり(式5)で示される。FTはFの転置行列を示す。
Figure 0005966935
(式5)をP1O1,P2O2について求めると(数6)のようになる。F−1はFの逆行列を示す。
Figure 0005966935
ここで、#1,#2テンプレートマッチング処理部9後の二値画像により抽出された座標位置p1’、p2’は#1赤外線撮像器2、#2赤外線撮像器3の焦点距離をそれぞれc1、c2とすると、前記画像座標の定義から、それぞれp1’= (u1,v1,-c1) T、 p2’=(u2,v2,-c2) Tで示される。
ここに、u1、v1、 u2、v2は#1、#2赤外線撮像器での目標位置の画素から画素寸法より実際の位置に変換して得られる値である。
このとき、#1赤外線撮像器2、#2赤外線撮像器3から目標検出処理部7で検出した目標に対する慣性空間上における視線ベクトルL1,L2は(式7)によって算出する。
Figure 0005966935
以上、目標視線ベクトル生成回路44では、#1赤外線撮像器2、#2赤外線撮像器3から目標検出処理部7で検出した#1、#2目標より、前記目標に対する慣性空間上における視線ベクトルを得ることができる。
次に、ステレオ視マッチング回路45の動作について説明する。ステレオ視マッチング回路45では前記目標視線ベクトル生成回路44から出力する#1、#2目標に対する慣性空間上における視線ベクトルより、目標の空間位置の同一性を評価する。
ステレオ視マッチング回路45により同一と評価判定された目標についてのみ、#1目標検出処理及び#2目標検出処理後の二値画像より、真目標を取り出して、#1及び#2の二値画像を更新出力する。
目標位置の同一性評価判定は以下のような前記視線ベクトル間の差分ベクトルDIFFを評価指標として用いて行う。まず、前記DIFFを(数8)で定義する。
Figure 0005966935
このとき、前記p1’、p2’で捉えた目標が慣性空間座標系で同一位置に近いとは、幾何学上、L1,L2の距離の最短値が小さいこと(例えばゼロであれば交差)であることは明らかである。
したがって、L1,L2の距離はL1,DIFFかつ、L2,DIFFが直交する条件を満足することから、それぞれのベクトルの内積がゼロとなる(式9)を満足するs,t値を求め、その際のDIFFの絶対値を求めることでL1,L2間の最短距離を求める。
Figure 0005966935
上記最短距離が視線ベクトル間最短距離46で設定した値よりも小さい場合は、真目標として判定する。上記最短距離が視線ベクトル間最短距離46で設定した値よりも小さい場合以外の場合は誤目標と判定する。
#1、#2目標検出処理後の二値画像に対して、前記判定した真目標については、#1、#2目標検出処理後の二値画像を更新せず出力する。前記誤目標と判定した目標に対しては二値画像を“0”でマスク置換更新し、#1、#2ステレオ視マッチング回路45後の二値画像として出力する。
以上のようにして、実施の形態1では、注目画素周辺領域がクラッタ領域にある場合、従来の目標検出に対して二値化しきい値を低く設定するようにした。
このため、目標検出性能が向上する効果がある反面、目標の誤検出、いわゆる誤警報に関しては、必然的に従来の目標検出処理に対して悪くなるという不都合が発生する。
しかしながら同時刻で受光感度波長帯の異なる赤外線撮像器からの#1、#2赤外線画像に対して目標検出処理部7にて検出されるクラッタは主に雲のエッジや海面のエッジ等の誤検出であることが多く、前記#1、#2目標検出処理後のクラッタ中心における輝度形状、及び検出されるクラッタ位置は、撮像する時刻によってランダムであるのに対して、#1、#2目標検出処理後の目標の形状及び目標の空間的な位置は撮像する時刻に対して、安定しており同一であるという特徴がある。
そこでこの特徴を利用し、実施の形態1に係る赤外線目標検出装置では、目標のS/N比を利用した目標検出処理部7による目標検出に加えて、目標検出処理部7で得られた#1、#2二値画像から得られる目標の位置を中心にゲート中心を設定して、ゲート内における#1赤外線画像、#2赤外線画像の輝度値に対して、予め持つ目標のテンプレートを用いてパターンマッチングし、目標形状の同一性を評価後、二値化画像出力するようにした。
さらに、前記二値化画像から得られる#1、#2の目標位置同士を組合せてその際の視軸ベクトル間の最短距離を計測することで空間的な目標位置の同一性を評価するステレオマッチング処理部9を新たに設けて、前記目標のS/N比を基にして得られた検出目標のうち、2つの赤外線撮像器#1、#2よりステレオ視した目標の形状および空間的な位置の同一性を評価検証した目標を真目標として取り出すようにした。
このようにすることで、実施の形態1に係る赤外線目標検出装置は、赤外線撮像器により目標を撮像した赤外線画像に対する目標検出処理について、クラッタ背景領域においても、クラッタ抑圧と、クリアスカイ背景領域と同等の目標検出性能を同時に両立することが可能となる。
実施の形態2.
図7は、実施の形態2に係る赤外線目標検出装置1bの構成を示すブロック図である。実施の形態2では、実施の形態1における赤外線目標検出装置1に画像合成部15を追加し構成される。
画像合成部15は、#1赤外線撮像器2、#2赤外線撮像器3からの#1赤外線画像、#2赤外線画像を合成し、液晶などのHDディスプレイ等のTVモニタ表示用に再生成後、表示画像として出力するものである。
画像合成部15の動作を説明する。
#1赤外線撮像器2、#2赤外線撮像器3からの#1、#2赤外線画像をフレーム毎に取り込み、それぞれフレーム画像を合成した上で、TVモニタ表示用に表示画像を再生成する。
図8は液晶のフルHDディスプレイに#1赤外線撮像器2、#2赤外線撮像器3からの画像を表示出力した例である。#1赤外線撮像器2、#2赤外線撮像器3からの画像サイズはVGA(640×480画素)であることが多いため、フルHDディスプレイへの表示は#1赤外線撮像器2、#2赤外線撮像器3からの#1、#2赤外線画像をVGAサイズのまま表示画像の水平方向に併せて表示する。表示画像のおける赤外線画像非表示領域はグレー等の中間輝度で出力する。
このように、#1赤外線撮像器2、#2赤外線撮像器3からの#1赤外線画像、#2赤外線画像を合成し、液晶などのHDディスプレイ等のTVモニタ表示用に再生成後、表示画像として出力する動作を説明した。
#1,#2赤外線画像出力はVGA(640×480画素)であることが多いためそれぞれの赤外線画像出力をVGAに対応するNTSC等のアナログTVモニタに繋いで、表示画像の目視確認を行っていたが、本特許ではそれぞれの画像VGA(640×480画素)を合成して、液晶などのフルHDディスプレイ等の単一のTVモニタに出力して目視確認するようにしたため、赤外線画像出力のデジタル伝送によって、従来よりも表示画像の画質向上の効果が期待できる。さらに、単一モニタ上で#1,#2赤外線画像出力を確認することができるため、従来よりもユーザへの目視確認の負担を軽減する効果が期待できる。
実施の形態3.
図9は実施の形態3による赤外線目標検出装置1cの構成を示すブロック図である。実施の形態3では、実施の形態2における赤外線目標検出装置1bに目標測距部14を追加し構成される。
実施の形態3では、実施の形態2のステレオ視マッチング回路45に関して(式7)で得られる#1、#2目標に対する慣性空間上における視線ベクトル値を追加出力するようにする。目標測距部14では、前記視線ベクトル値から、慣性空間上における真目標を推定し、慣性空間基準で真目標の測距を行う。
目標測距部14の動作を説明する。目標測距部14では、前記#1、#2目標に対して、(式7)に基づいて得られる慣性空間上における視線ベクトル値を用いて、前記L1,L2間の最短距離が小さいことを利用して、(式10)に基づいた中点ベクトルTを算出し、真目標の位置として出力するものである。
このベクトルの絶対値を真目標の測距値として特徴量演算回路8に出力する。上記の操作を前記#1、#2目標に対して行う。
Figure 0005966935
以上、ステレオ視マッチング回路45から出力する#1、#2目標に対する慣性空間上における視線ベクトル値から、真目標の慣性空間上における位置を測距することを説明した。
従来の目標測距ではレーザやレーダ等のアクティブセンサを用いた、いわゆるアクティブ測距によるものであるが、前記ステレオマッチング処理によって、観測される赤外線画像における各々の目標位置を基にパッシブ測距が可能であり、特に赤外線目標検出装置を搭載する艦船から近距離にて横行する微小目標については、上記目標検出の効果によって、海上等のクラッタの影響を受けずに安定して目標検出を行い、かつ、パッシブ測距によって対象目標からの対電子妨害手段の影響を受けずに安定して測距継続する効果が期待できる。
実施の形態4.
図10は実施の形態4による赤外線目標検出装置1dの構成を示すブロック図である。実施の形態4では、実施の形態3における赤外線目標検出装置1cにシンボル重畳部16を追加し構成される。
シンボル重畳部16では、ジンバル駆動制御部5から目標への方位角/仰角、及び特徴量演算回路8からの目標特徴量を用いて、ジンバル駆動制御部5からの指向角度、検出目標の矩形シンボル、目標測距値の数値等を画像合成表示部15からの表示画像に対して重畳する処理である。
シンボル重畳部16の動作を説明する。
図11にシンボル重畳処理部16より出力されるTVモニタにおける表示画像の表示例を示す。
#1赤外線撮像器2、#2赤外線撮像器3からの#1赤外線画像、#2赤外線画像について、本装置を操作するユーザに対してわかるように、その下の非表示領域に、例えば“IR#1”,“IR#2”で文字描画すると共に、ジンバル駆動制御部5から目標への方位角/仰角を“AZ”,“EL”の文字で描画、モニタする角度を前記文字に付記し、かつ、ステレオマッチング処理部9で検出した真目標をした#1目標、#2を検出状況であることを示す矩形で表し表示画像に重畳する。
なお、これらは図11の例を説明した一例であり、シンボル内容・表示を限定するものではない。
以上、ジンバル駆動制御部5から目標への方位角/仰角、及び特徴量演算回路8からの目標特徴量を用いて、ジンバル駆動制御部5からの指向角度、検出目標の矩形シンボル、目標測距値の数値等を画像合成表示部15からの表示画像に対して重畳することを説明した。
HDディスプレイ等のTVモニタへの表示画像に対して、リアルタイムに目標検出状況、目標測距状況をシンボル重畳するようにしたので、ユーザのTVモニタ目視確認によって、赤外線目標検出装置の目標検出状況、目標測距状況をリアルタイムにかつ、視覚的に把握する効果が期待できる。
実施の形態5.
図12は、実施の形態5による赤外線目標検出装置1eの構成を示すブロック図である。実施の形態5では、実施の形態4における赤外線目標検出装置1dに#1、#2赤外線撮像器パラメータ校正部17及び、赤外線目標検出装置1dの前に模擬目標発生装置18を追加し構成される。
#1,#2赤外線撮像器パラメータ校正部17は、実施の形態1における(式5)で示した慣性空間座標系から画像座標系への変換にあたって、#1、#2赤外線撮像器の取付位置O1=(X1,Y1,Z1)T、O2=(X2,Y2,Z2)T、及びその姿勢角(ω1,φ1,κ1)、(ω2,φ2,κ2)を、模擬目標発生装置18から擬似熱源を持つ目標を発生し、慣性空間における位置を設定する。この模擬目標を#1赤外線撮像器2、#2赤外線撮像器3からの#1、#2赤外線画像における座標を観測取得し、これらの組合せを#1赤外線撮像器2、#2赤外線撮像器3について、それぞれ3組観測取得する。
このようにすることで、上記#1,#2赤外線撮像器の取付位置O1=(X1,Y1,Z1)T、O2=(X2,Y2,Z2)T、及びその姿勢角(ω1,φ1,κ1)、 (ω2,φ2,κ2)を算出する。
#1、#2赤外線撮像器パラメータ校正部18の動作を説明する。
実施の形態1における目標視線ベクトル生成回路44の(式5)の3組の行列積を一まとまりにし、模擬目標発生装置18から発生する模擬目標の慣性空間座標をT= (Tx,Ty,Tz)T、前記Tに対応する前記#1赤外線撮像器2、#2赤外線撮像器3からの赤外線画像から#1,#2テンプレートマッチング処理部9後の二値画像により抽出された模擬目標の座標位置をそれぞれ、t1= (tu1, tv1,-c1) T、 t2=(tu2, tv2,-c2) Tとすると、前記T1,t1,T2,t2は(式11)及び(式12)を満足する。
ここでc1、c2はそれぞれ#1赤外線撮像器2、#2赤外線撮像器3の焦点距離であり既知である。
Figure 0005966935
Figure 0005966935
(式11)と(式12)より(式13)が得られるので、(式13)において、前記T1,t1、T2,t2の既知の組合せをそれぞれ#1,#2において複数用いて、#1,#2についてそれぞれA,T1、B,T2についての連立方程式の解として求めることで、A,T1、B,T2が求められる。
Figure 0005966935
ただし、連立方程式は非線形であるため、非線形最適化手法を用いて、A,T1、B,T2を求める。
例えば(式13)から得られる(式14)の関数をテイラー展開して、それぞれの未知変数について1次項までを抽出することで、各未知数について線形3元1次方程式に近似して、線形関数の最小二乗法を用いることで、Fu1、Fv1、Fu2、Fv2が最小になる場合のA、T1、B、T2を解として求めればよい。
Figure 0005966935
以上、模擬目標発生装置18から擬似熱源を持つ目標を発生し、慣性空間における位置を設定し、この目標を#1赤外線撮像器2、#2赤外線撮像器3からの#1、#2赤外線画像における座標を観測取得し、これらの組合せを#1赤外線撮像器2、#2赤外線撮像器3について、それぞれ3組取得することで、上記#1,#2赤外線撮像器の取付位置O1=(X1,Y1,Z1)T,O2=(X2,Y2,Z2)T、及びその姿勢角(ω1,φ1,κ1), (ω2,φ2,κ2)を算出する方法を説明した。
#1赤外線撮像器2、#2赤外線撮像器3からの赤外線画像から#1,#2テンプレートマッチング処理部9後の二値画像により、観測された模擬目標の座標位置を用いて、#1,#2赤外線撮像器パラメータを校正後、それらのパラメータを用いて目標測距を行うので、#1赤外線撮像器2、#2赤外線撮像器3の取付け位置、姿勢角の機械的な誤差の影響を受けずに、精度よく目標測距を行う効果が期待できる。
1 赤外線目標検出装置、2 #1赤外線撮像器、3 #2赤外線撮像器、4 ジンバル機構部、5 ジンバル駆動制御部、7 目標検出処理部、8 特徴量演算回路、9 ステレオマッチング処理部、14 目標測距部、15 画像合成表示部、16 シンボル重畳部、17 擬似目標発生装置、18 #1、#2赤外線撮像器パラメータ校正部、30 ウィンド回路、31 平均輝度演算回路、32 標準偏差演算回路、33 二値化しきい値演算回路、34 クリアスカイ/クラッタ領域判定回路、35 二値化回路、40 目標のテンプレート、41 テンプレートマッチング回路、42 しきい値、43 二値化回路、44 目標視線ベクトル生成回路、45 ステレオ視マッチング回路、46 視線ベクトル間最短距離。

Claims (7)

  1. ジンバル機構に設置され、同一の視野領域の赤外線画像を撮像する受光感度波長帯の異なる2台の赤外線撮像器と、
    前記ジンバル機構を駆動制御し、前記赤外線撮像器を目標方向に各々指向させるジンバル駆動制御部と、
    各々の赤外線撮像器が撮像した赤外線画像において、各々注目する注目画素の輝度値と前記注目画素の周辺領域における輝度平均値及び輝度ばらつきを求め、前記輝度ばらつきに基づき前記周辺領域が輝度ばらつきの低いクリアスカイ領域であるか、輝度ばらつきの高いクラッタ領域であるかを判定し、前記判定の結果に対応する二値化閾値を用いて二値化した二値画像を出力する目標検出処理部と、
    前記二値画像で検出された各々の目標候補に対し空間的な位置の同一性を、各々の前記赤外線撮像器から前記目標候補に対する空間上における視線ベクトル間の差分ベクトルを評価指標とし、前記差分ベクトルが最短となるときの絶対値を算出し、前記絶対値を所定の値と比較することで評価し、前記絶対値が前記所定の値より小さいことにより同一性が高いと判断した目標について、真目標とみなして二値画像を出力するステレオマッチング処理部と、
    を備えることを特徴とする赤外線目標検出装置。
  2. 前記判定の結果に基づき前記周辺領域がクラッタ領域とみなされた場合、クラッタ領域における目標検出性能がクリアスカイ領域における目標検出性能と同じになる二値化閾値を設定することを特徴とする請求項1記載の赤外線目標検出装置。
  3. 前記ステレオマッチング処理部は予め目標の輝度形状を表したテンプレートを備え、
    前記テンプレートと前記二値画像から得られる目標位置を中心とした、前記赤外線画像の輝度形状との比較により前記目標の形状の同一性を評価するテンプレートマッチング回路と、
    赤外線目標検出装置を原点とした空間座標における目標の視線ベクトルを求める目標視線ベクトル生成回路と、
    前記視線ベクトルにより前記目標の空間的な位置の同一性を評価するステレオ視マッチング回路と、
    を備えることを特徴とする請求項1または2記載の赤外線目標検出装置。
  4. 前記同一の視野領域を撮像する複数台の赤外線撮像器からの赤外線画像を合成し、TVモニタへ表示画像として出力する画像合成部を備えることを特徴とする請求項3記載の赤外線目標検出装置。
  5. 前記ステレオマッチング処理部から前記目標視線ベクトルの目標視線ベクトル値を取得して相互に最近傍の位置関係にある位置をそれぞれ算出し、最近傍の位置関係にある位置間の中点を目標測距値として計測する目標測距部を備えることを特徴とする請求項4記載の赤外線目標検出装置。
  6. 前記表示画像に、前記目標測距値を含めた目標の特徴量を図形であるシンボルとして重畳するシンボル重畳部を備えることを特徴とする請求項5記載の赤外線目標検出装置。
  7. 赤外線目標を模擬するターゲット模擬装置を予め艦船の甲板などの慣性空間基準における既知の位置に設定し、前記ターゲット模擬装置からの模擬ターゲットを前記赤外線撮像器により撮像し、前記慣性空間基準と撮像画像基準における模擬ターゲットの観測位置の組合せより、前記各々の赤外線撮像器の慣性空間座標系における取付位置、姿勢角度を算出する赤外線撮像器パラメータ校正部を備え、
    前記赤外線撮像器パラメータ校正部で求めた、各々の赤外線撮像器の慣性空間座標系における取付位置、姿勢角度を前記目標測距部へ更新後、目標測距することを特徴とする請求項6に記載の赤外線目標検出装置。
JP2013002231A 2013-01-10 2013-01-10 赤外線目標検出装置 Active JP5966935B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013002231A JP5966935B2 (ja) 2013-01-10 2013-01-10 赤外線目標検出装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013002231A JP5966935B2 (ja) 2013-01-10 2013-01-10 赤外線目標検出装置

Publications (2)

Publication Number Publication Date
JP2014134442A JP2014134442A (ja) 2014-07-24
JP5966935B2 true JP5966935B2 (ja) 2016-08-10

Family

ID=51412835

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013002231A Active JP5966935B2 (ja) 2013-01-10 2013-01-10 赤外線目標検出装置

Country Status (1)

Country Link
JP (1) JP5966935B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021138994A1 (zh) * 2020-01-10 2021-07-15 大连理工大学 一种复杂场景下基于深度图的红外小目标检测方法

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6319030B2 (ja) * 2014-10-08 2018-05-09 三菱電機株式会社 目標検出装置
CN104616299B (zh) * 2015-01-30 2019-02-19 南京邮电大学 一种基于空时偏微分方程的弱小目标检测方法
JP6396932B2 (ja) * 2016-02-08 2018-09-26 日本電信電話株式会社 画像合成装置、画像合成装置の動作方法およびコンピュータプログラム
CN109544696B (zh) * 2018-12-04 2022-12-20 中国航空工业集团公司西安航空计算技术研究所 一种基于视觉惯性组合的机载增强合成视景虚实图像精确配准方法
JP7431502B2 (ja) * 2018-12-28 2024-02-15 株式会社チノー 測定装置
CN110109189B (zh) * 2019-05-17 2021-11-30 中国人民解放军92942部队 海上目标红外控制方法及装置
CN112784650A (zh) * 2019-11-11 2021-05-11 北京君正集成电路股份有限公司 一种提升目标检测效率的方法
CN112784244A (zh) * 2019-11-11 2021-05-11 北京君正集成电路股份有限公司 一种利用目标验证提高目标检测整体效率的方法

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05329793A (ja) * 1992-05-29 1993-12-14 Fanuc Ltd 視覚センサ
JPH06243236A (ja) * 1993-02-18 1994-09-02 Sharp Corp 視覚認識装置の座標系校正パラメータ設定装置
JP2838954B2 (ja) * 1993-02-26 1998-12-16 三菱電機株式会社 監視装置
JP3216385B2 (ja) * 1994-01-10 2001-10-09 三菱電機株式会社 目標探知追尾装置
JPH07244145A (ja) * 1994-03-07 1995-09-19 Mitsubishi Electric Corp 画像目標検出装置
JP3143348B2 (ja) * 1995-01-30 2001-03-07 防衛庁技術研究本部長 目標検出装置
JP3348266B2 (ja) * 1995-07-11 2002-11-20 富士通株式会社 赤外線探知装置
JPH10142309A (ja) * 1996-11-06 1998-05-29 Mitsubishi Electric Corp 画像目標検出装置
JP2960366B2 (ja) * 1997-03-18 1999-10-06 防衛庁技術研究本部長 目標抽出方法
JP4168591B2 (ja) * 2000-12-20 2008-10-22 三菱電機株式会社 赤外線撮像装置
JP2004030453A (ja) * 2002-06-27 2004-01-29 Starlabo Corp ステレオマッチング方法、ステレオマッチングプログラム及びステレオマッチングプログラムを記録したコンピュータ読み取り可能な記録媒体
JP5034809B2 (ja) * 2007-09-18 2012-09-26 マツダ株式会社 車両用路面状態推定装置
JP2010014482A (ja) * 2008-07-02 2010-01-21 Mitsubishi Electric Corp 画像目標検出装置
JP5538969B2 (ja) * 2010-03-23 2014-07-02 三菱電機株式会社 画像目標検出装置および画像目標検出方法
JP5872818B2 (ja) * 2010-08-20 2016-03-01 パナソニック株式会社 測位処理装置、測位処理方法、および画像処理装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021138994A1 (zh) * 2020-01-10 2021-07-15 大连理工大学 一种复杂场景下基于深度图的红外小目标检测方法

Also Published As

Publication number Publication date
JP2014134442A (ja) 2014-07-24

Similar Documents

Publication Publication Date Title
JP5966935B2 (ja) 赤外線目標検出装置
KR101697512B1 (ko) 영상 정합 장치 및 방법
TWI496108B (zh) AR image processing apparatus and method
KR101522996B1 (ko) 비파괴 검사용 복합 영상 출력장치
JP6319030B2 (ja) 目標検出装置
JP6232502B2 (ja) 人工視覚システム
JP2019528501A (ja) マルチカメラシステムにおけるカメラ位置合わせ
CN109263637B (zh) 一种碰撞预测的方法及装置
JP2006252473A (ja) 障害物検出装置、キャリブレーション装置、キャリブレーション方法およびキャリブレーションプログラム
JP2009042162A (ja) キャリブレーション装置及びその方法
JP5003395B2 (ja) 車両周辺画像処理装置及び車両周辺状況提示方法
US11488354B2 (en) Information processing apparatus and information processing method
US20190266425A1 (en) Identification apparatus, identification method, and non-transitory tangible recording medium storing identification program
KR20210049581A (ko) 이동체의 전방향에 대한 거리 취득 장치 및 방법
JP4843544B2 (ja) 3次元画像補正方法及びその装置
JP2009288885A (ja) 車線検出装置、車線検出方法、及び車線検出プログラム
JP6452235B2 (ja) 顔検出方法、顔検出装置、及び顔検出プログラム
KR101203816B1 (ko) 로봇 물고기 위치 인식 시스템 및 로봇 물고기 위치 인식 방법
JP7069609B2 (ja) 作物栽培支援装置
JP2008026998A (ja) 障害物位置算出システム、及び障害物位置算出方法
US20210125340A1 (en) Vibration analysis device, control method for vibration analysis device, and non-transitory computer-readable recording medium
US20180263474A1 (en) Imaging device, endoscope apparatus, and imaging method
KR100957590B1 (ko) 객체 영상 표출형 전방향 영상레이다 장치
KR20190072015A (ko) 융합 센서 데이터 시각화 장치 및 방법
Awashima et al. Visualization of obstacles on bird’s-eye view using depth sensor for remote controlled robot

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150128

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20151130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160607

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160620

R151 Written notification of patent or utility model registration

Ref document number: 5966935

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250