JP6149926B2 - 鳥検知装置、鳥検知システム、鳥検知方法およびプログラム - Google Patents

鳥検知装置、鳥検知システム、鳥検知方法およびプログラム Download PDF

Info

Publication number
JP6149926B2
JP6149926B2 JP2015508467A JP2015508467A JP6149926B2 JP 6149926 B2 JP6149926 B2 JP 6149926B2 JP 2015508467 A JP2015508467 A JP 2015508467A JP 2015508467 A JP2015508467 A JP 2015508467A JP 6149926 B2 JP6149926 B2 JP 6149926B2
Authority
JP
Japan
Prior art keywords
bird
image
captured image
candidate
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015508467A
Other languages
English (en)
Other versions
JPWO2014157058A1 (ja
Inventor
祐司 岡本
祐司 岡本
博行 粂野
博行 粂野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2014157058A1 publication Critical patent/JPWO2014157058A1/ja
Application granted granted Critical
Publication of JP6149926B2 publication Critical patent/JP6149926B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Description

本発明は、鳥検知装置、鳥検知システム、鳥検知方法およびプログラムに関する。
航空機等に鳥が衝突する、いわゆるバードストライクに対する対策を効果的に行うために、鳥を検知することが求められる。例えば、空港において鳥を検知することで、空砲の音などで鳥を追い払うといった対応策や、鳥の活動範囲を把握して鳥の餌場などを除去するといった予防的な対策を行うことができる。
鳥の検知に関して、特許文献1には、地上に立設させたタワー、そのタワーに固定されたナセル(nacelle)、およびそのナセルに対してハブを介して回転自在に固定された複数のブレードを備えた風力発電装置における風上からの飛来物を検知するための飛来物検知システムが示されている。
この飛来物検知システムは、ナセルにおけるブレードの後方に備えられた風上側を撮影領域とする撮影手段と、回転するブレードが撮影領域を遮らないタイミングで撮影手段が撮影可能であるように撮影を制御する撮影制御手段と、撮影手段が取得した撮影データを用いて飛来物の検知に適したデータ加工を実行するデータ加工手段と、そのデータ加工手段によって加工された加工データから飛来物を検出する検出手段と、その検出手段の検出結果を風力発電装置に出力する検出結果出力手段とを備える。
特許文献1では、この飛来物検知システムにより、風力発電装置において、バードストライクを効率的に減らす、とされている。
また、特許文献2には、所定の空間領域を連続撮影する撮影装置と、その撮影装置が取得した複数の画像データ間のモード変化で画像内の飛翔体の速度をオプティカルフロー方式で算出し、その算出した飛翔体の速度が予め設定した速度以上であって当該速度が鳥による速度に相応しい場合に鳥であると判断する鳥検出装置と、その鳥検出装置が鳥であることを検出したときに所定の空間領域に向けて威嚇出力を出力する威嚇装置と、を備える鳥威嚇装置が示されている。
特許文献2では、この鳥威嚇装置により、高性能なコンピュータを使わなくても飛翔物の速度をリアルタイムで算出し、飛翔物が鳥であることを検出し、鳥に対して効果的な威嚇を行うことによってバードストライク回避の可能性を高める、とされている。
また、特許文献3には、鳥を検出するための鳥類検出アルゴリズムに、粒子画像流速手法やオプティカルフローの手法を用いることが記載されている。
より具体的には、粒子画像流速手法では、鳥を粒子と捉えて、撮像部が撮影した画像内の粒子の動く様子から鳥を検出する、とされている。
また、オプティカルフローの手法では、撮像部が撮影した画像内の各位置座標における速度ベクトルを算出し、例えば、速度ベクトルの大きさや向きが所定の基準値を超えた場合にその速度ベクトルは鳥に起因したものであると判断することにより鳥を検出する、とされている。
特開2009−203873号公報 特開2010−193768号公報 特開2011−229453号公報
特許文献1〜3に記載されている、速度場またはオプティカルフローを用いる方法では、飛翔体の速度を算出するために、撮像装置から飛翔体までの距離を検出する必要がある。従って、例えば、ステレオカメラや、ステレオ画像から被写体の距離を算出する装置またはプログラムなど、撮像装置から飛翔体までの距離を検出するための仕組みが必要となり、設備コストが増大してしまう。
また、特許文献3には、粒子画像流速手法を用いて鳥を検出する方法について、画像内の粒子の動く様子からどのように鳥を検出するか示されていない。このため、粒子画像流速手法を用いて鳥を検出する方法を実現することが出来ない。
また、空港においては、鳥以外に航空機も撮像される。画像内の粒子の動く様子から鳥を検出する際、鳥と航空機とを区別できずに誤判定してしまうおそれがある。
本発明は、上述の課題を解決することのできる鳥検知装置、鳥検知システム、鳥検知方法およびプログラムを提供することを目的としている。
この発明は上述した課題を解決するためになされたもので、撮像画像を取得する撮像画像取得部と、鳥の画像の候補である鳥候補画像を前記撮像画像から抽出する鳥候補画像抽出部と、前記撮像画像において前記鳥候補画像の大きさに応じて前記鳥候補画像が移動するのに要する時間に基づいて、鳥を検知したか否かを判定する鳥検知判定部と、を具備する鳥検知装置を提供する。
また、本発明は、撮像を行う撮像装置と、鳥検知装置とを具備し、前記鳥検知装置は、撮像画像を取得する撮像画像取得部と、鳥の画像の候補である鳥候補画像を前記撮像画像から抽出する鳥候補画像抽出部と、前記撮像画像において前記鳥候補画像の大きさに応じて前記鳥候補画像が移動するのに要する時間に基づいて、鳥を検知したか否かを判定する鳥検知判定部と、を具備する鳥検知システムも提供する。
また、本発明は、鳥検知装置が行う鳥検知方法であって、撮像画像を取得する撮像画像取得ステップと、鳥の画像の候補である鳥候補画像を前記撮像画像から抽出する鳥候補画像抽出ステップと、前記撮像画像において前記鳥候補画像の大きさに応じて前記鳥候補画像が移動するのに要する時間に基づいて、鳥を検知したか否かを判定する鳥検知判定ステップと、を具備する鳥検知方法も提供する。
また、本発明は、鳥検知装置としてのコンピュータに、撮像画像を取得する撮像画像取得ステップと、鳥の画像の候補である鳥候補画像を前記撮像画像から抽出する鳥候補画像抽出ステップと、前記撮像画像において前記鳥候補画像の大きさに応じて前記鳥候補画像が移動するのに要する時間に基づいて、鳥を検知したか否かを判定する鳥検知判定ステップと、を実行させるためのプログラムも提供する。
本発明によれば、飛翔体までの距離を検出するための仕組みを必要とせずに、より正確に鳥を検知することができる。
本発明の一実施形態における鳥検知システムの機能構成を示す概略ブロック図である。 同実施形態における撮像部121の旋回を図示した説明図である。 同実施形態における差分抽出部114が取得する画像間の関係を示す説明図である。 同実施形態におけるフィルタ処理部115が孤立点除去に用いるマスクの例を示す説明図である。 同実施形態における鳥形状判定部116が行う判別基準データの学習の説明図である。 同実施形態における鳥形状判定部116が取得する判別基準データの説明図である。 同実施形態における鳥形状判定部116が行う鳥の画像の候補の絞り込み処理の説明図である。 同実施形態の撮像画像における鳥候補画像の大きさに応じた移動量の例を示す説明図である。 同実施形態における鳥の画像の時系列の例を示す説明図である。 同実施形態における航空機の画像の時系列の例を示す説明図である。 同実施形態において、鳥検知装置110が鳥の検知を行う処理手順を示す説明図である。 本発明における鳥検知装置の最小構成を示す概略ブロック図である。 本発明における鳥検知システムの最小構成を示す概略ブロック図である。
以下、図面を参照して、本発明の実施の形態について説明する。
図1は、本発明の一実施形態における鳥検知システムの機能構成を示す概略ブロック図である。
同図において、鳥検知システム100は、鳥検知装置110と、撮像装置120とを具備する。
鳥検知装置110は、撮像画像取得部111と、画像記憶部112と、鳥候補画像抽出部113と、鳥検知判定部117と、アラーム通知部118とを具備する。鳥候補画像抽出部113は、差分抽出部114と、フィルタ処理部115と、鳥形状判定部116とを具備する。
撮像装置120は、撮像部121と、駆動部122と、駆動制御部123と、画像処理部124と、撮像画像送信部125とを具備する。
なお、鳥検知システム100が具備する装置の数は、図1に示す2つに限らない。例えば、鳥検知装置110と撮像装置120とが1つの装置として構成され、鳥検知システム100が、当該1つの装置を具備するようにしてもよい。
あるいは、画像記憶部112が鳥検知装置110の外部の記憶装置として構成されるなど、鳥検知システム100が3つ以上の装置を具備するようにしてもよい。
鳥検知システム100は、空港や空港周辺の画像を撮像して鳥を検知するシステムである。
撮像装置120は、例えば滑走路の端などに設置されて、滑走路の方向を含む各方向の画像を撮像するなど、空港や空港周辺の画像を撮像する。特に、撮像装置120は、地表や海面付近など比較的低高度の領域を撮像して鳥を検知する。
比較的高高度の領域における鳥検知はレーダーを用いて行うことができるが、低高度の領域では、クラッタ(レーダーの電波が海面や雨などによって反射されて発生する、不要な電波)の影響によりレーダーを用いての鳥の検出精度が低下してしまう。そこで、鳥検知システム100は、撮像画像から鳥を検知することで、レーダーにおけるクラッタの影響を受けずに鳥検知を行う。
撮像部121は、撮像素子を有し、撮像装置120の外部からの入射光を画像データに変換することで撮像を行う。撮像部121は、例えば100ミリ秒毎など所定の撮像周期毎に撮像を行う。
駆動部122は、撮像部121に対して水平方向の旋回や垂直方向の首振りやズームを行わせるなど、撮像部121を駆動する。特に、駆動部122は、撮像部121の撮像方向を一定速度で水平に旋回させる。また、駆動部122は、ユーザ操作に従って撮像部121の撮像方向を上下に変化させる。また、駆動部122は、ユーザ操作に従って撮像部121のズーム状態を変化させる。
図2は、撮像部121の旋回を図示した説明図である。同図において、撮像部121としてのカメラと、撮像部121の撮像範囲A11とが示されている。
駆動部122は、例えば5分周期で撮像部121を1周させるなど、撮像部121を一定速度で旋回させることで、撮像部121の撮像範囲A11を一定周期で回転させる。これにより、鳥検知システム100は、撮像部121として1台のカメラを用いて広範な領域を監視することができる。
但し、撮像部121の旋回は本発明に必須ではない。例えば、撮像部121が固定カメラにて滑走路の方向を撮像するなど、一定方向を撮像するようにしてもよい。また、撮像部121が複数の固定カメラを有し、各カメラで得られる画像から鳥を検知することで、広範な領域を監視するようにしてもよい。
駆動制御部123は、駆動部122を制御することで撮像部121の動作を制御する。
画像処理部124は、例えば撮像部121の旋回にて生じるローリングシャッター現象(カメラで映った画像をスキャンする速度よりも早い速度で被写体が動いていると発生する現象)に対する補正を行うなど、撮像部121の撮像画像に対する処理を行う。
撮像画像送信部125は、画像処理部124が画像処理を行った撮像画像を、鳥検知装置110へ画像データにて送信する。
鳥検知装置110は、撮像装置120(撮像部121)の撮像画像に基づいて鳥の検知を行う。鳥検知装置110は、例えばコンピュータにて構成される。
撮像画像取得部111は、撮像装置120からの画像データを受信することで、画像処理部124が画像処理を行った撮像部121の撮像画像を取得する。
画像記憶部112は、撮像画像取得部111が取得する撮像画像を記憶する。
上述したように、撮像部121は、所定の撮像周期毎に撮像を行っており、撮像画像取得部111は、撮像周期毎に撮像画像を取得する。そして、画像記憶部112は、撮像画像取得部111が取得する撮像画像を、所定期間分(例えば、最新の画像から順に10画像)記憶する。
鳥候補画像抽出部113は、撮像画像取得部111が取得する撮像画像から、鳥の画像の候補となる部分(以下、「鳥候補画像」と称する)を抽出する。
鳥候補画像抽出部113内の差分抽出部114は、撮像画像取得部111が取得した最新の撮像画像と、当該最新の撮像画像よりも1つ前の撮像画像との差分を抽出する。より具体的には、差分抽出部114は、撮像画像取得部111から最新の撮像画像を取得し、最新の撮像画像よりも1つ前の撮像画像を、画像記憶部112から取得する(読み出す)。
そして、差分抽出部114は、撮像部121の旋回による撮像画像のずれ量を算出し、得られたずれ量を補正した画像にて差分を抽出することで、撮像画像における物体の動きを検出する。
差分抽出部114が2枚の画像P11とP12とのずれ量を算出する方法として、様々な方法を用いることができる。例えば、差分抽出部114が、撮像部121の撮像周期あたりの回転角(旋回量)を取得し、当該回転角に基づいてずれ量を算出するようにしてもよい。
特に、撮像部121が一定速度で旋回する場合、差分抽出部が画像のずれ量を予め記憶しておくようにしてもよい。あるいは、差分抽出部114が、画像P11とP12との各々において、ターミナルビルなど固定物(地面に対して位置を移動しない物体)の画像の位置を検出し、得られた画像間の位置の差から画像P11とP12とのずれ量を算出するようにしてもよい。
差分抽出部114は、得られたずれ量に基づいて、画像P11とP12との水平方向の位置を補正して、撮像部121の旋回の影響による撮像画像のずれを除去する。そして、差分抽出部114は、補正後の画像P11とP12との差分を抽出する(差分画像を得る)ことで、撮像画像における動体の画像の候補(以下、「動体候補画像」と称する)を検出する。
さらに、差分抽出部114は、今回得られた差分画像と前回得られた差分画像との積を求めることで、ノイズの除去を行う。
図3は、差分抽出部114が取得する画像間の関係を示す説明図である。同図において、画像nは、撮像画像取得部111が取得した最新の撮像画像を示す。画像n−1は、最新の撮像画像よりも1つ前の撮像画像を示す。画像n−2は、最新の撮像画像よりも2つ前の撮像画像を示す。
差分抽出部114は、最新の撮像画像(画像n)と、1つ前の撮像画像(画像n−1)との差分を抽出して差分画像mを取得する。また、前回の差分抽出において、差分抽出部114は、最新の撮像画像よりも1つ前の撮像画像(画像n−1)と、2つ前の撮像画像(画像n−2)との差分を抽出して差分画像m−1を取得している。
そして、差分抽出部114は、差分画像mと差分画像m−1との積(図3における積の画像)を求める。
具体的には、差分抽出部114は、差分画像mと差分画像m−1とに対して、撮像画像の場合と同様にずれ量の算出を行い、撮像部121の旋回の影響による差分画像のずれを除去する補正を行う。そして、差分抽出部114は、補正後の差分画像mと差分画像m−1とを画素毎に比較して、小さいほうの画素値(従って、差分が小さいほうの差分値)を、積の画像における該当画素の値とする。このように、今回の差分画像と前回の差分画像との小さいほうの差分値を用いることで、例えば水面のさざ波による太陽光の反射など、瞬間的に出現し消滅する差分を、動体の画像の抽出におけるノイズとして除去し得る。
鳥候補画像抽出部113内のフィルタ処理部115は、差分抽出部114が算出するノイズ除去後の差分画像(積の画像)に対してフィルタリング処理を行うことで動体候補画像の絞り込みを行う。例えばフィルタ処理部115は、差分画像に対して、孤立点除去を行う。
図4は、フィルタ処理部115が孤立点除去に用いるマスクの例を示す説明図である。
フィルタ処理部115は、図4に示す4×4画素のマスクのうち、中央の2×2画素を除いた周囲の12画素の何れにも差分が無い(すなわち、画素値0)場合、マスクを適用した16画素全ての画素値を0とする。これにより、フィルタ処理部115は、2×2画素以下の大きさの差分で周囲の画素には差分の無い孤立点をノイズとして除去する。
フィルタ処理部115は、このマスクを、差分の大きさに基づくフィルタリング後の差分画像の各部に適用して孤立点除去を行う。
但し、フィルタ処理部115が行うフィルタリングは、差分の大きさに基づくフィルタリングや孤立点除去に限らず、動体候補画像の絞り込みとなる様々なフィルタリング手法を用いることができる。
鳥候補画像抽出部113内の鳥形状判定部116は、フィルタ処理部115の絞り込みの結果得られた動体候補画像毎(差分画像における一纏まりの部分画像毎)に形状判別を行って、動体候補画像から鳥候補画像を抽出する。
例えば、鳥形状判定部116は、SVM(Support Vector Machine)を用いた機械学習により、動体候補画像を鳥候補画像とそれ以外とに分類する。
図5は、鳥形状判定部116が行う判別基準データの学習の説明図である。鳥形状判定部116は、鳥の画像の正のサンプル(正解例)E11と、負のサンプル(不正解例)E12との各々についてHOG(Histograms Of Oriented Gradients)特徴量を算出し、算出したHOG特徴量に基づいて、SVMによるHOG特徴量に対する判別基準データのオフライン学習を行う。
図6は、鳥形状判定部116が取得する判別基準データの説明図である。同図において、判別基準データを示す線L21は、HOG特徴量の空間を正の領域A21と負の領域A22とに区分している。
図7は、鳥形状判定部116が行う鳥の画像の候補の絞り込み処理の説明図である。鳥形状判定部116は、フィルタ処理部115の絞り込みの結果得られた動体候補画像をオンラインで取得してHOG特徴量を算出し、算出したHOG特徴量を判別基準データと比較して正の領域に属するか負の領域に属するかを判定する。このようにして、鳥形状判定部116は、フィルタ処理部115の絞り込みの結果得られた動体候補画像毎に、鳥であるか否かの形状判別を行うことで、鳥候補画像を抽出する。
但し、鳥形状判定部116が行う鳥候補画像の抽出は、SVMおよびHOG特徴量を用いたものに限らない。鳥形状判定部116が鳥候補画像を抽出する手法として、鳥の形状のパターンマッチングを行う様々な手法を用いることができる。
鳥検知判定部117は、鳥形状判定部116が抽出した鳥候補画像に基づいて、鳥を検出したか否かの判定を行う。
具体的には、鳥検知判定部117は、撮像画像において、鳥候補画像の大きさに応じて当該鳥候補画像が移動するのに要する時間に基づいて、鳥を検知したか否かを判定する。さらに、鳥検知判定部117は、鳥候補画像の所定時間当たりの形状変化度合いの大きさに基づいて、鳥を検知したか否かを判定する。
図8は、撮像画像における鳥候補画像の大きさに応じた移動量の例を示す説明図である。同図では、鳥候補画像の大きさに応じた移動量の例として、鳥候補画像の水平方向の大きさが示されている。具体的には、長さD11は、航空機の画像の水平方向の大きさを示す。また、長さD12は、鳥の画像の水平方向の大きさを示す。これらはいずれも、鳥候補画像として抽出されたものである。
鳥検知判定部117は、例えば、鳥候補画像が、当該鳥候補画像の水平方向の大きさを水平方向に移動するのに要する時間と、所定の閾値(例えば500ミリ秒)とを比較し、移動に要する時間が閾値以下である場合に、鳥を検知したと判定する。
ここで、撮像装置120の撮像画像からは、通常、被写体(飛翔体)と撮像装置120との距離を検出することは出来ない。このため、被写体の速度を算出することは出来ない。
一方、鳥の大きさは航空機よりも小さく、鳥の大きさに対する鳥の飛行速度(単位時間当たりの飛行距離)の割合と、航空機の大きさに対する航空機の飛行速度の割合とを比較すると、鳥の大きさに対する鳥の飛行速度の割合の方が大きいことが考えられる。
そこで、鳥検知判定部117は、撮像画像において鳥候補画像の大きさに応じた移動量を鳥候補画像が移動するのに要する時間に基づいて被写体が鳥か航空機かの判定を行う。
なお、鳥検知判定部117が鳥候補画像の大きさに応じた移動量を鳥候補画像が移動するのに要する時間に基づいて判定する際の指標値として、様々な指標値を用いることができる。
例えば、鳥候補画像が鳥候補画像の大きさに応じた距離を移動するのに要する時間に基づいて判定を行うようにしてもよい。この場合、鳥検知判定部117は、鳥候補画像が鳥候補画像の大きさに応じた距離を移動するのに要する時間を検出し、得られた時間が所定の閾値時間以下である場合に、鳥を検知したと判定する。
あるいは、鳥候補画像の単位時間あたりの移動量を、鳥候補画像の大きさに応じた距離で除算して得られる、いわば鳥候補画像の相対速度に基づいて判定を行うようにしてもよい。この場合、鳥検知判定部117は、鳥候補画像の相対速度を算出し、得られた相対速度が所定の閾値速度以上である場合に、鳥を検知したと判定する。
鳥候補画像の大きさに応じた移動量を鳥候補画像が移動するのに要する時間が上述の閾値を超える場合、鳥検知判定部117は、上記の判定において、鳥を検知したとは判定しない。
しかしながら、この場合でも、鳥が撮像装置120の撮像軸方向に飛んでいる可能性がある。すなわち、飛翔体が撮像装置120に向かって飛んでいる場合や、撮像装置120から遠ざかる方向に飛んでいる場合、撮像画像における飛翔体の像の移動量は比較的小さくなる。このように、撮像画像において鳥候補画像の大きさに応じた移動量を鳥候補画像が移動するのに要する時間に基づく判定において、鳥の画像であることを検出できない場合がある。
そこで、鳥検知判定部117はさらに、鳥候補画像の所定時間当たりの形状変化度合いの評価値が所定の閾値より大きいか否かに基づいて、鳥を検知したか否かを判定する。
より具体的には、鳥検知判定部117は、最新の撮像画像における鳥候補画像に対して、前の撮像画像における当該鳥候補画像の形状との類似度を判定するパターンマッチングを行い、類似度が所定の閾値よりも小さい場合に、鳥を検知したと判定する。
図9は、鳥の画像の時系列の例を示す説明図である。鳥が羽ばたくことにより、鳥の画像の形状は、時間変化が大きくなっている。
図10は、航空機の画像の時系列の例を示す説明図である。鳥の場合との比較において、航空機の画像の形状は時間変化が小さい。
そこで、鳥検知判定部117は、鳥候補画像の所定時間当たりの形状変化度合いの評価値が所定の閾値より大きいか否かに基づいて、鳥を検知したか否かを判定する。これにより、鳥候補画像の大きさに応じた移動量を鳥候補画像が移動するのに要する時間に基づく判定において鳥を検知できなかった場合でも、鳥検知判定部117は、鳥候補画像の所定時間当たりの形状変化度合いに基づく判定にて鳥を検知し得る。
アラーム通知部118は、鳥検知判定部117が鳥を検知したと判定すると、鳥を検知した旨のアラームを出力し、バードストライク対策の作業員に当該検知を通知する。当該通知により、バードストライク対策の作業員は、鳥の出現を認識し、撮像画像等で鳥の出現場所を知ることができ、空砲の音などで鳥を追い払うといった対応策や、鳥の活動範囲を把握して鳥の餌場などを除去するといった予防的な対策を行うことができる。
なお、アラーム通知部118がアラームにより検知を通知する方法として、さまざまな方法を用いることができる。例えば、アラーム通知部118が、警報ランプを点灯させることで当該検知を通知するようにしてもよいし、警報メッセージを表示画面に表示することで当該検知を通知するようにしてもよい。あるいは、アラーム通知部118が、アラーム音またはメッセージ音声を出力することで当該検知を通知するようにしてもよい。さらには、アラーム通知部118が、これらの方法の組み合わせによって当該検知を通知するようにしてもよい。
次に、図11を参照して、鳥検知装置110の動作について説明する。
図11は、鳥検知装置110が鳥の検知を行う処理手順を示す説明図である。
同図の処理において、まず、撮像画像取得部111が、周期的に撮像画像を取得する(ステップS101)。
具体的には、撮像装置120において、駆動制御部123が駆動部122を制御して撮像部121を旋回させながら所定の撮像周期毎に撮像を行わせる。撮像部121が撮像を行って画像データを出力すると、画像処理部124がローリングシャッター現象に対する補正などの画像処理を行い、撮像画像送信部125が、画像処理された撮像画像を画像データにて送信する。そして、撮像画像取得部111は、撮像画像送信部125が送信した画像データを受信することで、撮像画像を取得する。
次に、差分抽出部114は、撮像画像取得部111が取得した最新の撮像画像と、最新の撮像画像よりも1つ前の撮像画像とのずれ量を算出する(ステップS102)。
そして、差分抽出部114は、ステップS102で得られたずれ量に基づいて撮像画像の水平方向の位置を補正して、撮像部121の旋回の影響を除去した後、最新の撮像画像と、最新の撮像画像よりも1つ前の撮像画像との差分を抽出することで、撮像画像における動体の画像の候補を検出する(ステップS103)。
さらに、差分抽出部114は、図3を参照して説明したように、今回得られた差分画像と前回得られた差分画像との積を求めることで、ノイズの除去を行う(ステップS104)。
次に、フィルタ処理部115は、差分抽出部114が算出するノイズ除去後の差分画像(積の画像)に対してフィルタリング処理を行うことで動体候補画像の絞り込みを行う(ステップS105)。例えばフィルタ処理部115は、図4を参照して説明したように、孤立点除去を行う。
次に、鳥形状判定部116は、フィルタ処理部115の絞り込みの結果得られた動体候補画像毎に形状判別を行って、動体候補画像から鳥候補画像を抽出する(ステップS106)。例えば、鳥形状判定部116は、図5〜図7を参照して説明したように、SVM(Support Vector Machine)を用いた機械学習により鳥候補画像の抽出を行う。
そして、鳥検知判定部117は、ステップS106での抽出の結果、鳥候補画像が有るか否かを判定する(ステップS107)。
鳥の画像の候補が無いと判定した場合(ステップS107:NO)、ステップS101へ戻る。
一方、鳥の画像の候補が有ると判定した場合(ステップS107:YES)、鳥検知判定部117は、撮像画像において鳥候補画像の大きさに応じて鳥候補画像が移動するのに要する時間を検出し(ステップS111)、得られた時間が所定の閾値時間以下か否かを判定する(ステップS112)。
ステップS112において、鳥を検知したと判定した場合(ステップS112:YES)、アラーム通知部118が、鳥を検知した旨のアラームを出力して通知する(ステップS131)。その後、ステップS101へ戻る。
一方、ステップS112において、鳥を検知していないと判定した場合(ステップS112:NO)、鳥検知判定部117は、鳥候補画像の所定時間当たりの形状変化度合いを評価し(ステップS121)、形状変化度合いが比較的大きいか否かを判定する(ステップS122)。例えば、鳥検知判定部117は、鳥候補画像の所定時間当たりの形状変化度合いの評価値を算出し、得られた評価値が所定の閾値より大きいか否かを判定する。
ステップS122において、形状変化度合いが比較的大きくはないと判定した場合(ステップS122:NO)、ステップS101へ戻る。
一方、ステップS122において、形状変化度合いが比較的大きいと判定した場合(ステップS122:YES)、ステップS131へ進む。
以上のように、鳥候補画像抽出部113は、鳥の画像の候補である鳥候補画像を、撮像装置120の撮像画像から抽出する。そして、鳥検知判定部117は、撮像装置120の撮像画像において鳥候補画像の大きさに応じた移動量を鳥候補画像が移動するのに要する時間に基づいて、鳥を検知したか否かを判定する。
これにより、鳥検知判定部117は、被写体となっている飛翔体までの距離を検出する必要無しに、鳥画像候補が鳥の画像か飛行機の画像かを判定して、鳥を検知したか否かを判定することができる。この点において、鳥検知装置110は、飛翔体までの距離を検出ための仕組みを必要とせずに、より正確に鳥を検知することができる。
また、鳥検知判定部117は、鳥候補画像の所定時間当たりの形状変化度合いの評価値が所定の閾値より大きいか否かに基づいて、鳥を検知したか否かを判定する。
これにより、飛翔体が撮像装置120に向かって飛んでいる場合や、撮像装置120から遠ざかる方向に飛んでいる場合など、鳥候補画像の大きさに応じた移動量を鳥候補画像が移動するのに要する時間に基づく判定において鳥を検知できなかった場合でも、鳥検知装置110(鳥検知判定部117)は、鳥候補画像の所定時間当たりの形状変化度合いに基づく判定により鳥を検知し得る。
次に、図12〜図13を参照して本発明における最小構成について説明する。
図12は、本発明における鳥検知装置の最小構成を示す概略ブロック図である。
同図において、鳥検知装置10は、撮像画像取得部11と、鳥候補画像抽出部12と、鳥検知判定部13とを具備する。
撮像画像取得部11は、撮像画像を取得する。鳥候補画像抽出部12は、撮像画像取得部11が取得した撮像画像から鳥候補画像を抽出する。鳥検知判定部13は、撮像画像取得部11が取得した撮像画像において、鳥候補画像抽出部12が抽出した鳥候補画像の大きさに応じた移動量を、当該鳥候補画像が移動するのに要する時間に基づいて、鳥を検知したか否かを判定する。
かかる構成にて、鳥検知装置110(図1)の場合と同様、鳥検知装置10は、飛翔体までの距離を検出ための仕組みを必要とせずに、より正確に鳥を検知することができる。
図13は、本発明における鳥検知システムの最小構成を示す概略ブロック図である。同図において、鳥検知システム1は、鳥検知装置10と、撮像装置20とを具備する。鳥検知装置10は、撮像画像取得部11と、鳥候補画像抽出部12と、鳥検知判定部13とを具備する。
図13において、図12の各部に対応して同様の機能を有する部分には同一の符号(10、11、12、13)を付し、説明を省略する。
撮像装置20は、撮像を行って撮像画像を鳥検知装置へ出力する。
かかる構成にて、図12の場合と同様、鳥検知装置10は、飛翔体までの距離を検出ための仕組みを必要とせずに、より正確に鳥を検知することができる。
なお、鳥検知システム1または100の全部または一部の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより各部の処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。
さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含むものとする。
また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
以上、本発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計変更等も含まれる。
この出願は、2013年3月28日に出願された日本出願特願2013−068915号を基礎とする優先権を主張し、その開示の全てをここに取り込む。
本発明によれば、飛翔体までの距離を検出するための仕組みを必要とせずに、より正確に鳥を検知することができる。
1、100 鳥検知システム
10、110 鳥検知装置
11、111 撮像画像取得部
112 画像記憶部
12、113 鳥候補画像抽出部
114 差分抽出部
115 フィルタ処理部
116 鳥形状判定部
13、117 鳥検知判定部
118 アラーム通知部
20、120 撮像装置
121 撮像部
122 駆動部
123 駆動制御部
124 画像処理部
125 撮像画像送信部

Claims (6)

  1. 撮像画像を取得する撮像画像取得部と、
    鳥の画像の候補である鳥候補画像を前記撮像画像から抽出する鳥候補画像抽出部と、
    前記撮像画像において前記鳥候補画像の大きさに応じて前記鳥候補画像が移動するのに要する時間及び前記鳥候補画像の所定時間当たりの形状変化に基づいて、鳥を検知したか否かを判定する鳥検知判定部と、
    を具備することを特徴とする鳥検知装置。
  2. 鳥の検出を伝えるアラームを出力するアラーム通知部を更に有し、
    前記アラーム通知部は、前記鳥検知判定部により鳥を検知した場合に、前記アラームを出力することを特徴とする請求項に記載の鳥検知装置。
  3. 前記鳥候補画像抽出部は、
    第1の撮像画像と、前記第1の撮像画像より以前に取得された第2の撮像画像との差分を抽出して第1差分画像を取得するとともに、前記第2の撮像画像と、当該第2の撮像画像より以前に取得された第3の撮像画像との差分を抽出して第2差分画像を取得し、前記第1差分画像と前記第2差分画像との積の画像を取得する差分抽出部と、
    前記差分抽出部により取得された前記積の画像に基づいて前記鳥候補画像を抽出する鳥形状判定部と
    を有することを特徴とする、請求項1又は2に記載の鳥検知装置。
  4. 撮像を行う撮像装置と、鳥検知装置とを具備し、
    前記鳥検知装置は、
    撮像画像を取得する撮像画像取得部と、
    鳥の画像の候補である鳥候補画像を前記撮像画像から抽出する鳥候補画像抽出部と、
    前記撮像画像において前記鳥候補画像の大きさに応じて前記鳥候補画像が移動するのに要する時間及び前記鳥候補画像の所定時間当たりの形状変化に基づいて、鳥を検知したか否かを判定する鳥検知判定部と、
    を具備することを特徴とする鳥検知システム。
  5. 鳥検知装置が行う鳥検知方法であって、
    撮像画像を取得する撮像画像取得ステップと、
    鳥の画像の候補である鳥候補画像を前記撮像画像から抽出する鳥候補画像抽出ステップと、
    前記撮像画像において前記鳥候補画像の大きさに応じて前記鳥候補画像が移動するのに要する時間及び前記鳥候補画像の所定時間当たりの形状変化に基づいて、鳥を検知したか否かを判定する鳥検知判定ステップと、
    を具備することを特徴とする鳥検知方法。
  6. 鳥検知装置としてのコンピュータに、
    撮像画像を取得する撮像画像取得ステップと、
    鳥の画像の候補である鳥候補画像を前記撮像画像から抽出する鳥候補画像抽出ステップと、
    前記撮像画像において前記鳥候補画像の大きさに応じて前記鳥候補画像が移動するのに要する時間及び前記鳥候補画像の所定時間当たりの形状変化に基づいて、鳥を検知したか否かを判定する鳥検知判定ステップと、
    を実行させるためのプログラム。
JP2015508467A 2013-03-28 2014-03-24 鳥検知装置、鳥検知システム、鳥検知方法およびプログラム Active JP6149926B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2013068915 2013-03-28
JP2013068915 2013-03-28
PCT/JP2014/058023 WO2014157058A1 (ja) 2013-03-28 2014-03-24 鳥検知装置、鳥検知システム、鳥検知方法およびプログラム

Publications (2)

Publication Number Publication Date
JPWO2014157058A1 JPWO2014157058A1 (ja) 2017-02-16
JP6149926B2 true JP6149926B2 (ja) 2017-06-21

Family

ID=51624032

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015508467A Active JP6149926B2 (ja) 2013-03-28 2014-03-24 鳥検知装置、鳥検知システム、鳥検知方法およびプログラム

Country Status (5)

Country Link
US (1) US10007836B2 (ja)
EP (1) EP2980756A4 (ja)
JP (1) JP6149926B2 (ja)
SG (1) SG11201507832TA (ja)
WO (1) WO2014157058A1 (ja)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160055399A1 (en) 2014-08-21 2016-02-25 Identiflight, Llc Graphical display for bird or bat detection and identification
DK3183687T3 (da) * 2014-08-21 2020-09-14 Identiflight Int Llc System og fremgangsmåde til fugledetektering
KR102287373B1 (ko) * 2014-10-20 2021-08-05 한화테크윈 주식회사 경보 발생 장치 및 방법
JP6500428B2 (ja) * 2014-12-22 2019-04-17 日本電気株式会社 動体検知装置、動体検知方法および動体検知プログラム
US10455829B2 (en) 2015-04-20 2019-10-29 Nec Corporation Light irradiation device and light irradiation system
DE102016111222A1 (de) * 2016-06-20 2017-12-21 Wobben Properties Gmbh Windparkflugbefeuerungssystem sowie Windpark damit und Verfahren zur Befeuerung eines Windparks
GB2555836A (en) * 2016-11-11 2018-05-16 Bioseco Sp Z O O Systems and methods for detecting flying animals
IT201600120787A1 (it) * 2016-11-29 2018-05-29 The Edge Company S R L Sistema di monitoraggio automatico di volatili e relativo metodo di utilizzo
JP6372835B1 (ja) * 2017-03-22 2018-08-15 国立研究開発法人国立環境研究所 警告方法
IT201700043262A1 (it) * 2017-04-20 2018-10-20 Angelo Zizzari Dispositivo di supporto ai rilievi tecnici, preferibilmente applicato allo scenario di incidenti stradali
JP6422090B2 (ja) * 2018-04-26 2018-11-14 国立研究開発法人国立環境研究所 警告方法、及び、警告装置
FR3095714B1 (fr) * 2019-04-30 2021-05-07 Ulis Procédé et dispositif pour retirer la rémanence dans une image infrarouge d'une scène statique
FR3095713B1 (fr) * 2019-04-30 2021-05-07 Ulis Procédé et dispositif pour retirer la rémanence dans une image infrarouge d'une scène changeante
GB2586227B (en) * 2019-08-07 2022-04-20 Renewable Energy Systems Ltd System and method for controlling shadow flicker from a wind turbine
CN112633375A (zh) * 2020-12-23 2021-04-09 深圳市赛为智能股份有限公司 鸟类检测方法、装置、计算机设备及存储介质
CN113468947B (zh) * 2021-04-16 2023-07-18 中国民航科学技术研究院 一种多雷达站鸟情信息融合以及成像方法
CN115690448A (zh) * 2022-11-09 2023-02-03 广东省科学院动物研究所 一种基于ai的鸟类物种识别方法及装置

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5323391A (en) * 1992-10-26 1994-06-21 Motorola, Inc. Multi-channel digital transmitter and receiver
JPH06274625A (ja) 1993-03-18 1994-09-30 Toshiba Corp 監視画像の移動物体追跡方法
US6539055B1 (en) * 1999-12-03 2003-03-25 Intel Corporation Scene change detector for video data
JP2001338302A (ja) 2000-05-29 2001-12-07 Nikon Corp 監視装置
US7433494B2 (en) * 2002-09-19 2008-10-07 Denso Corporation Moving body detecting apparatus
US7489749B2 (en) * 2004-02-24 2009-02-10 Ming-Kang Liu Optimum phase timing recovery in the presence of strong intersymbol interference
KR100746011B1 (ko) * 2005-08-24 2007-08-06 삼성전자주식회사 잔차 예측의 성능 개선 방법, 상기 방법을 이용한 비디오인코더 및 비디오 디코더
EP2017470A1 (en) * 2006-04-27 2009-01-21 The Tokyo Electric Power Co., Inc. Wind-driven electricity generation device, method of controlling wind-driven electricity generation device, and computer program
JP4203512B2 (ja) * 2006-06-16 2009-01-07 本田技研工業株式会社 車両周辺監視装置
US7864103B2 (en) * 2007-04-27 2011-01-04 Accipiter Radar Technologies, Inc. Device and method for 3D height-finding avian radar
JP2009203873A (ja) 2008-02-27 2009-09-10 Tokyo Electric Power Co Inc:The 飛来物検知システム、風力発電装置およびコンピュータプログラム
JP4660569B2 (ja) * 2008-03-21 2011-03-30 株式会社東芝 物体検出装置及び物体検出方法
JP2009265269A (ja) * 2008-04-23 2009-11-12 Nikon Corp 撮影用照明装置、撮影装置
JP2010027035A (ja) * 2008-06-16 2010-02-04 Canon Inc 個人認証装置及び個人認証方法
EP2383665B1 (en) 2009-01-23 2017-10-25 Nec Corporation Matching weighting information extracting device
JP2010193768A (ja) * 2009-02-24 2010-09-09 Tokyo Electric Power Co Inc:The 鳥威嚇装置および風力発電装置
US8279109B1 (en) * 2009-03-30 2012-10-02 Gregory Hubert Piesinger Aircraft bird strike avoidance method and apparatus using transponder
KR101239866B1 (ko) * 2009-09-01 2013-03-06 한국전자통신연구원 이동 로봇을 이용한 조류 통제 방법 및 그 장치
JP2011229453A (ja) 2010-04-27 2011-11-17 Tokyo Electric Power Co Inc:The 鳥類退避装置
JP2012034213A (ja) * 2010-07-30 2012-02-16 Toshiba Corp 画像処理装置、画像処理システムおよび画像処理方法
IL211512A (en) * 2011-03-02 2016-02-29 Yifrach Aharon System, method and computerized device for reducing bird damage to aircraft
US8988230B2 (en) * 2011-10-25 2015-03-24 Accipiter Radar Technologies Inc. Device and method for smart, non-habituating, automatic bird deterrent system
US10499618B2 (en) * 2016-01-04 2019-12-10 Explore Scientific, LLC System for feeding and photographing wildlife

Also Published As

Publication number Publication date
WO2014157058A1 (ja) 2014-10-02
US20160063310A1 (en) 2016-03-03
EP2980756A1 (en) 2016-02-03
SG11201507832TA (en) 2015-10-29
US10007836B2 (en) 2018-06-26
EP2980756A4 (en) 2016-11-16
JPWO2014157058A1 (ja) 2017-02-16

Similar Documents

Publication Publication Date Title
JP6149926B2 (ja) 鳥検知装置、鳥検知システム、鳥検知方法およびプログラム
US11042755B2 (en) Method for foreign object debris detection
AU2015305303B2 (en) Avian detection systems and methods
WO2015170776A1 (ja) 物体検出装置、物体検出方法および物体検出システム
JPWO2009102001A1 (ja) 鳥類探査システム、鳥類探査方法およびコンピュータプログラム
WO2012104276A1 (en) Device and method for visual analysis of a wind turbine blade
CN111695478B (zh) 一种目标检测方法及设备
JP2009257322A (ja) 飛来物衝突回避システム、風力発電装置およびコンピュータプログラム
Gerke et al. Visual inspection of power lines by UAS
CN106060466A (zh) 一种基于视频图像序列的绝缘子跟踪监测方法
JP2009203873A (ja) 飛来物検知システム、風力発電装置およびコンピュータプログラム
JP6500428B2 (ja) 動体検知装置、動体検知方法および動体検知プログラム
CN111323757A (zh) 一种航海雷达目标检测方法及装置
JP6183703B2 (ja) 物体検出装置、物体検出方法および物体検出システム
CN115773209A (zh) 一种风机叶片净空检测装置及检测方法
KR20100104536A (ko) 높은 신뢰도를 갖는 무인 감시 방법, 무인 감시 장치 및 무인 감시 시스템
JP2009210490A (ja) 画像解析システム及びコンピュータプログラム
JP5072053B2 (ja) 飛来物探査装置および映像取得手段の設置方法
CN114810508A (zh) 基于图像处理的风力发电机的扇叶转速测量方法及系统
KR102171597B1 (ko) 풍력 발전기 블레이드 인식/분석 장치 및 방법
Fujiwara et al. Super-telephoto drone tracking using HFR-video-based vibration source localization
JP2010039561A (ja) 三次元監視システムおよびコンピュータプログラム
JP6431811B2 (ja) 回転速度計測装置
JP2020056650A (ja) 画像解析装置、画像解析方法及び画像解析プログラム
CN113586360B (zh) 风机的检测方法、检测装置、检测系统以及可读存储介质

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161130

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170425

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170508

R150 Certificate of patent or registration of utility model

Ref document number: 6149926

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150