JP7475910B2 - 類別装置のための学習済みモデル生成装置、及び類別装置のための学習済みモデル生成方法 - Google Patents

類別装置のための学習済みモデル生成装置、及び類別装置のための学習済みモデル生成方法 Download PDF

Info

Publication number
JP7475910B2
JP7475910B2 JP2020047166A JP2020047166A JP7475910B2 JP 7475910 B2 JP7475910 B2 JP 7475910B2 JP 2020047166 A JP2020047166 A JP 2020047166A JP 2020047166 A JP2020047166 A JP 2020047166A JP 7475910 B2 JP7475910 B2 JP 7475910B2
Authority
JP
Japan
Prior art keywords
isar
isar image
image
trained model
ship
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020047166A
Other languages
English (en)
Other versions
JP2021149360A (ja
Inventor
成 三上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Toshiba Infrastructure Systems and Solutions Corp
Original Assignee
Toshiba Corp
Toshiba Infrastructure Systems and Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp, Toshiba Infrastructure Systems and Solutions Corp filed Critical Toshiba Corp
Priority to JP2020047166A priority Critical patent/JP7475910B2/ja
Publication of JP2021149360A publication Critical patent/JP2021149360A/ja
Application granted granted Critical
Publication of JP7475910B2 publication Critical patent/JP7475910B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Analysis (AREA)

Description

本実施形態は、類別装置のための学習済みモデル生成装置、及び類別装置のための学習済みモデル生成方法に関する。
逆合成開口レーダ(ISAR:Inverse Synthetic Aperture RADAR)は、いわゆる画像化レーダ装置の一つとして知られている。ISARは、レーダの送信信号の反射エコーから、艦船等の目標を画像化する。この種のレーダ装置の多くは航空機に搭載され、遠方から目標を類別するために用いられる。
特許第3412973号公報
ISAR画像から目標を類別する場合、オペレータは多数のISAR画像の中から特徴量(船首、船尾、マスト等)の位置が分かりやすい画像を選択し、この画像から読み取った特徴量と図面等を比較することで艦船の類別を行っている。しかしながら、オペレータによる類別はオペレータに対して作業負荷をかけることになる。また、特徴量の位置が分かりやすい画像を選択できるかどうかは、オペレータの練度に依存する。
本発明が解決しようとする課題は、オペレータの練度に依存せず、かつ、オペレータの作業負荷の省力化を図ることができる類別装置のための学習済みモデル生成装置、及び類別装置のための学習済みモデル生成方法を提供することにある。
実施形態によれば、類別装置のための学習済みモデル生成装置は、学習部を有する。学習部は、複数のISAR画像の中からオペレータによって選択されたベストショットのISAR画像であることを示すアノテーションが付けられた第1のISAR画像及び第1のISAR画像における第1の特徴量を、複数のISAR画像から類別に適するベストショットのISAR画像を選択するように構成される学習モデルに入力し、学習モデルにベストショットのISAR画像と特徴量との関係を学習させる。学習部は、オペレータの練度に応じて第1のISAR画像及び第1の特徴量に重みづけをして、学習モデルに艦船の特徴量とベストショットのISAR画像との関係を学習させる
図1は、一実施形態の類別システムの構成を示すブロック図である。 図2は、レーダ装置の構成を示すブロック図である。 図3は、プロセッサの機能ブロック図である。 図4は、サーバの構成を示すブロック図である。 図5は、ISAR画像の中からベストショットを選択する学習済みモデルの学習の概念について示す図である。 図6は、ベストショットのISAR画像及び特徴量の一例について示す図である。 図7は、ISAR画像の中からベストショットを選択する学習済みモデルの再学習の概念について示す図である。 図8は、学習データの生成の動作を含むレーダ装置の動作を示すフローチャートである。 図9は、手動モードの処理を示すフローチャートである。 図10は、自動モードの処理を示すフローチャートである。
以下、図面を参照して実施形態を説明する。図1は、一実施形態の類別システムの構成を示すブロック図である。類別システム1は、レーダ装置100と、サーバ200とを有している。レーダ装置100は、例えば航空機に搭載され、海上の対象物Oを探索するために用いられる。対象物Oは、例えば艦船である。サーバ200は、陸上に設置されている。
図2は、類別装置を備えたレーダ装置100の構成を示すブロック図である。レーダ装置100は、送信機110と、サーキュレータ120と、アンテナ130と、受信機140と、プロセッサ150と、ストレージ160と、入力装置170と、表示装置180とを有している。
送信機110は、所定の送信周期で送信信号を生成する。そして、送信機110は、生成した送信信号を、サーキュレータ120を介してアンテナ130から空間へ送信する。アンテナ130から送信された送信信号の一部は、目標で反射され、反射エコーとしてアンテナ130により受信される。
サーキュレータ120は、送信信号と受信信号とを分離するための循環回路である。サーキュレータ120は、送信機110によって生成された送信信号をアンテナ130へ供給し、アンテナ130で受信された反射エコーを受信信号として受信機140へ供給する。
受信機140は、送信機110の送信周期に基づいて受信信号からレーダビデオ信号を生成する。受信機140は、生成したレーダビデオ信号をプロセッサ150へ出力する。
プロセッサ150は、CPU(Central Processing Unit)等のプロセッサと、ROM(Read Only Memory)、RAM(Random Access Memory)等のプロセッサが処理を実行するためのメモリとを含む。プロセッサ150は、レーダ装置100の動作を制御する。例えば、プロセッサ150は、レーダ装置100のモードを探索モードとISARモードとの間で切り替える。探索モードは、レーダ装置100を中心とした放射方向に向けて送信信号が送信されるように送信機110を制御することによって、海上の多数の対象物を探索するモードである。ISARモードは、プロセッサ150から指示された対象物に向けて送信信号が送信されるように送信機110を制御することによって、プロセッサ150から指示された対象物のISAR画像を取得するモードである。また、プロセッサ150は、探索モードにおいては、受信機140から入力された受信信号からPPI(Plane Position Indicator)画像を生成する。また、プロセッサ150は、ISARモードにおいては、受信機140から入力された受信信号からISAR画像を生成する。また、プロセッサ150は、探索モードのレーダ装置100において探索される多数の艦船の間の優先度を判定する。そして、プロセッサ150は、優先度の高い艦船のISAR画像の取得のためにレーダ装置100のモードをISARモードに切り替える。また、プロセッサ150は、レーダ装置100において生成された多数のISAR画像から、目標の艦級の類別に適するベストショットのISAR画像を選択する。また、プロセッサ150は、選択したISAR画像から目標の艦級を類別する。プロセッサ150は、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)又はDSP(Digital Signal Processor)等のデジタル信号処理器によって処理を行うように構成されていてもよい。また、プロセッサ150は、単一のCPU等で構成されていてもよいし、複数のCPU等で構成されていてもよい。
ストレージ160は、レーダ装置100の動作に必要なプログラム、パラメータを記憶するための記憶装置である。また、ストレージ160は、艦船の優先度の判定、ISAR画像の選択、ISAR画像からの艦船の類別に用いられる学習済みモデルを記憶するための記憶装置である。ストレージ160は、ハードディスク、ソリッドステートドライブ等であってよい。学習済みモデルについては後で説明する。
入力装置170は、レーダ装置100のオペレータからの操作を受け付けるためのインタフェースである。入力装置170は、キーボード、マウス、トラックボール、ジョイスティック、タッチパネル等であってよい。入力装置170は、オペレータからの操作に応じた操作信号を、プロセッサ150に供給する。プロセッサ150は、この操作信号に応じて各種の処理を行う。
表示装置180は、液晶ディスプレイ、有機ELディスプレイ等を備え、プロセッサ150で処理された信号に基づいて各種の画像を表示する。
図3は、プロセッサ150の機能ブロック図である。プロセッサ150は、優先度判定部151と、調整部152と、選択部153と、判別部154と、類別部155とを有している。
優先度判定部151は、艦船の間のISAR画像の取得の優先度を判定する。そして、優先度判定部151は、高い優先度の艦船のISAR画像を取得させるためにレーダ装置100の送信機110に対して指示をする。優先度判定部151は、例えばSVM(Support Vector Machine)による学習済みモデル161によって優先度を判定する。
学習済みモデル161は、例えば、ストレージ160に記憶され、艦船の動きに関するデータを入力データとし、優先度の分類結果を出力するように構成された機械学習モデルである。艦船の動きに関するデータは、艦船の進行方向、艦船の速さ、艦船に対するレーダ装置100のアスペクト角(受信信号の到来角度)を含むベクトルデータであってよい。学習済みモデル161の学習は、サーバ200において行われる。学習に当たっては、進行方向、速さ、アスペクト角を含むベクトルデータのそれぞれに対して優先度のラベルが付けられる。この優先度は、例えばオペレータによって付けられてよい。優先度は、例えば「高」、「低」の2つのクラスに分けられている。そして、ベクトルデータと優先度との組み合わせから、優先度「高」と優先度「低」との境界を表す識別面が学習される。サーバ200において生成された学習済みモデルは、学習済みモデル161としてレーダ装置100の例えばストレージ160に記憶される。優先度判定部151は、このような学習済みモデル161に基づき、入力された艦船の動きに関するデータから艦船の優先度を判定する。そして、優先度判定部151は、高い優先度を有する艦船のISAR画像を取得させるべく、送信機110にISARモードへの移行指示をする。
ここで、例では艦船の動きに関するベクトルデータは、艦船の進行方向、艦船の速さ、レーダ装置100のアスペクト角の3つであるとしている。しかしながら、ベクトルデータは、これら3つ以外のデータを含んでいてもよい。また、優先度は、「高」、「低」の2つのクラスに分けられている。しかしながら、優先度は、3つ以上のクラスに分けられていてもよい。
調整部152は、複数のISAR画像の設定を調整する。調整部152は、畳み込みニューラルネットワーク、ランダムフォレスト等を用いたディープラーニングによる学習済みモデル162によって調整のための判定をする。
学習済みモデル162は、例えば、ストレージ160に記憶され、ISAR画像のデータを入力データとし、設定の調整量を出力するように構成された機械学習モデルである。設定は、例えば画像の輝度、コントラストを含む。学習済みモデル162の学習はサーバ200において行われる。学習に当たっては、ISAR画像のそれぞれに対して類別の成否のラベルが付けられる。つまり、後で説明する類別が正しく行われたISAR画像に対しては成功のラベルが付けられ、類別が正しく行われなかったISAR画像に対しては失敗のラベルが付けられる。艦船の類別が正しく行われたか否かは、例えばサーバ200のオペレータによって指定されてよい。そして、ISAR画像の設定と類別の成否との組み合わせから、類別のために良好な基準のISAR画像の設定が学習される。サーバ200において生成された学習済みモデルは、学習済みモデル162としてレーダ装置100の例えばストレージ160に記憶される。調整部152は、このような学習済みモデル162に基づき、入力されたISAR画像の設定を基準のISAR画像の設定に近づけるための設定の調整量を判定する。そして、調整部152は、判定した調整量に応じて入力されたISAR画像の輝度、コントラスト等を調整する。
ここで、例ではISAR画像の設定は、輝度、コントラストの2つであるとしている。しかしながら、設定は、これら2つ以外を含んでいてもよい。また、設定は、レーダ装置100の個体差に係るデータを含んでいてもよい。例えば、基準のISAR画像にレーダ装置100の個体差に係るデータが関連付けられているとき、調整部152は、個体差によるISAR画像のずれも含めて調整してよい。
また、学習のためのISAR画像の設定のデータは、オペレータによって与えられてもよい。この場合のISAR画像には、無条件で成功のラベルが付けられてよい。
選択部153は、調整部152で調整された複数のISAR画像の中から、類別に適したベストショットのISAR画像を選択する。選択部153は、畳み込みニューラルネットワーク等を用いたディープラーニングによる学習済みモデル163によってISAR画像を選択する。
学習済みモデル163は、例えば、ストレージ160に記憶され、複数のISAR画像のデータを入力データとし、入力されたISAR画像の中で類別に適しているベストショットのISAR画像を出力するように構成された機械学習モデルである。学習済みモデル163の学習はサーバ200において行われる。学習済みモデル163の学習については後で説明する。学習済みモデル163は、入力された複数のISAR画像ののうちで特徴量がベストショットのISAR画像の特徴量と最も近いISAR画像を出力する。特徴量は、例えば艦船の船首、マスト、船尾といった艦船の構造物の位置である。サーバ200において生成された学習済みモデルは、学習済みモデル163としてレーダ装置100の例えばストレージ160に記憶される。選択部153は、このような学習済みモデル163に基づき、複数のISAR画像からベストショットのISAR画像を選択する。
判別部154は、選択部153で選択されたISAR画像に写っている艦船の種類を判別する。判別部154は、畳み込みニューラルネットワーク等を用いたディープラーニングによる学習済みモデル164によって艦船の種類を判別する。
学習済みモデル164は、例えば、ストレージ160に記憶され、ISAR画像のデータを入力データとし、艦船の種類のデータを出力するように構成された機械学習モデルである。艦船の種類のデータは、例えば軍艦、商船といった各種の艦船の種類を示すデータである。学習済みモデル164の学習はサーバ200において行われる。学習に当たっては、各種の艦船が写っているISAR画像に対して艦船の種類を示すラベルが付けられる。そして、各種の艦船のISAR画像と艦船の種類との組み合わせから、艦船の特徴量と種類との関係が学習される。そして、学習済みモデル164は、入力されたISAR画像の特徴量と類似する特徴量を有するISAR画像を判定し、この類似する特徴量を有するISAR画像に関連付けられている艦船の種類を表すデータを出力する。サーバ200において生成された学習済みモデルは、学習済みモデル164としてレーダ装置100の例えばストレージ160に記憶される。判別部154は、このような学習済みモデル164に基づき、入力されたISAR画像から、艦船の種類を判別する。判別部154は、判別された艦船が商船であるときには、レーダ装置100を探索モードに戻すべく、レーダ装置100に移行指示をする。
ここで、例では艦船の種類は、軍艦と商船の2つであるとしている。しかしながら、艦船の種類は、これら2つ以外を含んでいてもよい。
類別部155は、判別部154で商船でないと判別されたISAR画像に写っている艦船の艦級を類別する。類別部155は、畳み込みニューラルネットワーク等を用いたディープラーニングによる学習済みモデル165によって艦船の艦級を類別する。
学習済みモデル165は、例えば、ストレージ160に記憶され、ISAR画像のデータを入力データとし、艦船の艦級のデータを出力するように構成された機械学習モデルである。学習済みモデル165の学習はサーバ200において行われる。学習に当たっては、各種の艦級の艦船が写っているISAR画像に対して艦級を示すラベルが付けられる。そして、各種の艦級の艦船のISAR画像と艦級との組み合わせから、艦船の特徴量と艦級との関係が学習される。そして、学習済みモデル165は、入力されたISAR画像の特徴量と類似する特徴量を有するISAR画像を判定し、この類似する特徴量を有するISAR画像に関連付けられている艦級を表すデータを出力する。サーバ200において生成された学習済みモデルは、学習済みモデル165としてレーダ装置100の例えばストレージ160に記憶される。類別部155は、このような学習済みモデル165に基づき、入力されたISAR画像から、艦船の艦級を類別する。
図4は、類別装置のための学習済みモデル生成装置を備えたサーバ200の構成を示すブロック図である。サーバ200は、プロセッサ210と、ストレージ220と、入力装置230と、表示装置240とを有している。
プロセッサ210は、CPU(Central Processing Unit)等のプロセッサと、ROM(Read Only Memory)、RAM(Random Access Memory)等のプロセッサが処理を実行するためのメモリとを含む。プロセッサ210は、サーバ200の動作を制御する。プロセッサ210は、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)又はDSP(Digital Signal Processor)等のデジタル信号処理器によって処理を行うように構成されていてもよい。また、プロセッサ210は、単一のCPU等で構成されていてもよいし、複数のCPU等で構成されていてもよい。
ストレージ220は、サーバ200の動作に必要なプログラム、パラメータを記憶するための記憶装置である。ストレージ220は、ハードディスク、ソリッドステートドライブ等であってよい。また、ストレージ220は、艦船の優先度の判定、ISAR画像の選択、ISAR画像からの艦船の類別に用いられる学習モデルを記憶するための記憶装置である。なお、学習モデルは、ストレージ220とは別の記憶装置に記憶されていてもよい。
入力装置230は、サーバ200のオペレータからの操作を受け付けるためのインタフェースである。入力装置230は、キーボード、マウス、タッチパネル等であってよい。入力装置230は、オペレータからの操作に応じた操作信号を、プロセッサ210に供給する。プロセッサ210は、この操作信号に応じて各種の処理を行う。入力装置230は、例えば各種の学習データの入力に用いられる。
表示装置240は、液晶ディスプレイ、有機ELディスプレイ等を備え、プロセッサ210で処理された信号に基づいて各種の画像を表示する。
図5は、ISAR画像の中からベストショットを選択する学習済みモデル163の学習の概念について示す図である。サーバ200のストレージ220には、選択部153のためのニューラルネットワークを生成する学習モデル221が記憶されている。この学習モデル221は、複数のISAR画像のデータを入力とし、それぞれのISAR画像のデータから特徴量を抽出し、抽出した特徴量をベストショットのISAR画像の特徴量と比較し、複数のISAR画像のデータの中からベストショットのISAR画像のデータ出力する、ようにネットワークの各ノードを構成する学習モデルである。
学習モデル221は、教師付き学習によってベストショットのISAR画像の特徴量を学習する。実施形態では、ベストショットのISAR画像のデータと、このベストショットのISAR画像における特徴量のデータとのそれぞれに、ベストショットである旨のタグがアノテーションされ、これらのアノテーションを含むISAR画像のデータと特徴量のデータとが学習データとして学習モデル221に入力される。
ベストショットのISAR画像とその特徴量は、例えば、実際に航空機におけるISARモードを用いた艦船の探索中に得られる複数のISAR画像の中からオペレータによって選択される。つまり、オペレータは、例えば図6のようにして時系列に得られるISAR画像群I1の中から、類別に適するISAR画像をベストショットのISAR画像I2として選択する。類別に適するISAR画像は、例えば特徴量(船首、船尾、マスト等)の位置が分かりやすいISAR画像である。さらに、オペレータは、ベストショットのISAR画像I2の中の特徴量の位置を指定する。例えば、図6では、特徴量の位置が直線によって指定される例が示されている。特徴量の位置は、必ずしも直線によって指定される必要はない。
学習モデル221は、学習部の一例であるプロセッサ210からの、ベストショットのタグが付されたISAR画像のデータとその特徴量とを含む学習データの入力を受け、ベストショットのISAR画像と特徴量との関係を学習しながら、各ノードの設定を調整する。このような学習データの入力が繰り返され、ある程度のベストショットのISAR画像と特徴量との関係の学習が完了すると、学習済みモデル222が生成される。この学習済みモデル222は、学習済みモデル163として例えば航空機に搭載されるレーダ装置100のストレージ160に格納される。
ここで、ISAR画像は、レーダを利用して目標を画像化する。このため、受信される反射エコーの信号によっては、図6に示すように、艦船の部分が上下反転されて画像化され得る。一方で、上下反転されたISAR画像であっても、特徴量の位置が分かりやすいISAR画像であれば、そのISAR画像はベストショットのISAR画像になり得る。プロセッサ210は、ベストショットのISAR画像における艦船の部分が上下反転しているか否かを判定し、艦船の部分が上下反転しているISAR画像については、そのISAR画像を上下反転してから、ISAR画像を学習モデル221に入力してもよい。ISAR画像における艦船の向きが揃えられることにより、ベストショットのISAR画像と特徴量との関係がより正しく学習され易くなる。
また、アノテーションを付けるオペレータの練度が高くなければ、学習モデル221における学習が適切には行われない可能性がある。オペレータの練度を学習に反映するため、プロセッサ210は、例えば、学習モデル221に入力する学習データにオペレータの練度に応じた重みを付けてもよい。例えば、プロセッサ210は、練度の高いオペレータによって選択されたベストショットのISAR画像及び特徴量については大きい重みを付け、練度の低いオペレータによって選択されたベストショットのISAR画像及び特徴量については小さい重みを付ける。大きい重みが付けられている学習データに対する学習効果が高くなるように学習モデル221が構成されていることにより、オペレータの練度も学習に反映され得る。
また、図5の例では、ベストショットのISAR画像のデータ及び特徴量のデータに対してアノテーションが付けられている。これに対し、逆にワーストショットのISAR画像のデータ及び特徴量のデータに対してアノテーションが付けられてもよい。学習モデル221は、ワーストショットのISAR画像のデータ及び特徴量のデータが入力されたときには、ワーストショットの特徴量を有するISAR画像のデータが選択されにくくなるよう、各ノードの設定を調整する。
図7は、ISAR画像の中からベストショットを選択する学習済みモデル163の再学習の概念について示す図である。例えば航空機に搭載された学習済みモデル163は、ISARモードを用いた艦船の探索中に得られる複数のISAR画像の中からベストショットのISAR画像を選択する。実施形態では、学習済みモデル163に基づいて自動選択されたISAR画像及び自動抽出された特徴量に対してオペレータが評価をすることができる。具体的には、オペレータは、学習済みモデル163に基づいて自動選択されたISAR画像及び自動抽出された特徴量に対して評価ランクを付ける。第1のランクとしてのISAR画像に対する評価ランクは、ベストショットとしての良否の程度を示す。オペレータは、例えば自身にとっての類別のし易さに応じて評価ランクを付ける。評価ランクは、例えば5段階である。勿論、評価ランクは、5段階に限るものではない。また、第2のランクとしての特徴量に対する評価ランクは、特徴量の確からしさを示す。オペレータは、特徴量が正しく抽出されているかに応じて評価ランクを付ける。評価ランクは、例えば5段階である。勿論、評価ランクは、5段階に限るものではない。プロセッサ210は、自動選択されたベストショットのISAR画像に第1のランクに応じた重みを付けるとともに、自動抽出された特徴量に第2のランクに応じた重みを付けて学習モデル221に入力する。学習モデル221は、評価ランクに応じて重み付けされたベストショットのISAR画像及び抽出された特徴量に従って、ベストショットのISAR画像と特徴量との関係を再学習し、学習済みモデル222を再生成する。
図8は、学習データの生成の動作を含むレーダ装置100の動作を示すフローチャートである。ステップS1において、プロセッサ150は、艦船の類別モードが手動モードであるか否かを判定する。レーダ装置100は、手動モードと自動モードの2つの類別モードを有している。手動モードは、レーダ装置100によって生成されるISAR画像に基づいてオペレータが艦船の類別を実施するモードである。自動モードは、ISAR画像の生成から艦船の類別までをプロセッサ150が自動で実施するモードである。類別モードの選択は、例えばオペレータによって行われる。ステップS1において、類別モードが手動モードであるときには、処理はステップS2に移行する。ステップS2において、類別モードが自動モードであるときには、処理はステップS3に移行する。
ステップS2において、プロセッサ150は、手動モードの処理を行う。手動モードの処理の後、プロセッサ150は、図8の処理を終了させる。ステップS3において、プロセッサ150は、自動モードの処理を行う。自動モードの処理の後、プロセッサ150は、図8の処理を終了させる。
図9は、手動モードの処理を示すフローチャートである。ステップS101において、プロセッサ150は、探索モードで送信機110からアンテナ130を介して送信信号を送信させる。探索モードでは、例えばアンテナ130を回転させながら放射状に送信信号が送信される。このため、レーダ装置100を中心とした広範囲の探索が行われ得る。
ステップS102において、プロセッサ150は、受信機140を介して受信される受信信号に基づいて、表示装置180にPPI(Plane Position indicator)表示をする。PPI表示では、プロセッサ150は、レーダ装置100を中心として探索されたそれぞれの艦船を示す輝点を平面図上に表示する。
ステップS103において、プロセッサ150は、ISARモードへ移行するか否かを判定する。オペレータは、PPI表示されている輝点を見ながら目標と考えられる艦船を探す。そして、オペレータは、目標と考えられる艦船を見つけたときに、例えば入力装置170を操作してISARモードへの移行指示をする。このとき、プロセッサ150は、ISARモードへ移行すると判定する。ステップS103において、ISARモードへ移行しないと判定されたときに、処理はステップS101に戻る。この場合、探索モードの動作が継続される。ステップS103において、ISARモードへ移行すると判定されたときに、処理はステップS104に移行する。
ステップS104において、プロセッサ150は、ISARモードで送信機110からアンテナ130を介して送信信号を送信させる。ISARモードでは、例えばオペレータによって指定された艦船に向けて送信信号が送信される。
ステップS105において、プロセッサ150は、受信機140を介して受信される受信信号に基づいて、ISAR画像のデータを生成する。
ステップS106において、プロセッサ150は、ISAR画像のデータに基づいて、ISAR画像を表示装置180に表示させる。オペレータは、表示装置180に逐次に表示されるISAR画像を見ながら、目標である艦船の特徴量を確認し易いベストショットのISAR画像を選択する。そして、オペレータは、選択したISAR画像から特徴量を読み取り、読み取った特徴量に基づいて艦船の艦級を類別する。さらに、オペレータは、自身が選択したベストショットのISAR画像を示す情報と、自身が読み取った特徴量を示す情報とを例えば入力装置170を操作して入力する。オペレータによって入力されるベストショットのISAR画像の情報は、オペレータが選択した画像そのものであってもよいし、画像を特定するための画像番号等であってもよい。また、オペレータによって入力される特徴量の情報は、ISAR画像において指定された直線であってもよいし、その他の情報であってもよい。
ステップS107において、プロセッサ150は、オペレータによってベストショット及びその特徴量の情報が入力されたか否かを判定する。ステップS107において、オペレータによってベストショット及びその特徴量の情報が入力されたときには、処理はステップS108に移行する。ステップS107において、オペレータによってベストショット及びその特徴量の情報が入力されていないときには、処理はステップS109に移行する。
ステップS108において、プロセッサ150は、ベストショットのISAR画像のデータ及び特徴量のデータをストレージ160に記録する。その後、処理はステップS109に移行する。ストレージ160に記録されたベストショットのISAR画像のデータ及び特徴量のデータは、航空機が地上に戻ってきた際にサーバ200の学習モデル221に入力される。これにより、学習モデル221における学習が行われる。
ステップS109において、プロセッサ150は、手動モードの動作を終了するか否かを判定する。例えば、オペレータによって類別モードが自動モードに切り替えられた場合又はオペレータによって類別の処理自体の終了が指示された場合には、手動モードの動作を終了すると判定される。ステップS109において、手動モードの動作を終了する場合には、プロセッサ150は、図9の処理を終了させる。この場合には、プロセッサ150は、図8の処理も終了させる。ステップS109において、手動モードの動作を終了しない場合には、処理はステップS110に移行する。
ステップS110において、プロセッサ150は、探索モードへ移行するか否かを判定する。例えば、オペレータによって探索モードへの移行指示がされた場合には、探索モードへ移行すると判定される。ステップS110において、探索モードへ移行しないと判定されたときに、処理はステップS104に戻る。この場合、ISARモードの動作が継続される。ステップS110において、ISARモードへ移行すると判定されたときに、処理はステップS101に戻る。この場合、探索モードの動作に切り替えられる。
図10は、自動モードの処理を示すフローチャートである。自動モードの処理に先立って、ストレージ160には、図3で示した学習済みモデル161-165が格納されているものとする。ステップS201において、プロセッサ150は、探索モードで送信機110からアンテナ130を介して送信信号を送信させる。
ステップS202において、プロセッサ150は、受信機140を介して受信される受信信号に基づいて、表示装置180にPPI表示をする。
ステップS203において、プロセッサ150は、優先度判定を行う。つまり、プロセッサ150は、探索結果として受信されたそれぞれの艦船の動きに関するデータを学習済みモデル161に入力し、探索されたそれぞれの艦船の優先度を取得する。そして、プロセッサ150は、例えば優先度の上位1位の艦船をISAR画像の取得の対象の艦船と判定する。ISAR画像の取得の対象の艦船は、優先度の上位1位の艦船に限るものではない。
ステップS204において、プロセッサ150は、ISARモードで送信機110からアンテナ130を介して送信信号を送信させる。ISARモードでは、例えばプロセッサ150によって指定された艦船に向けて送信信号が送信される。
ステップS205において、プロセッサ150は、受信機140を介して受信される受信信号に基づいて、ISAR画像を生成する。
ステップS206において、プロセッサ150は、ISAR画像の設定を調整する。つまり、プロセッサ150は、受信されたISAR画像のデータを学習済みモデル162に入力し、入力されたISAR画像の設定を基準のISAR画像の設定に近づけるための設定の調整量を取得する。そして、プロセッサ150は、調整量に応じて入力されたISAR画像の輝度、コントラスト等を調整する。
ステップS207において、プロセッサ150は、調整したISAR画像のデータに基づいて、ISAR画像を表示装置180に表示させる。
ステップS208において、プロセッサ150は、調整したISAR画像の中からベストショットのISAR画像を選択する。つまり、プロセッサ150は、調整したISAR画像のデータを学習済みモデル163に入力し、ベストショットのISAR画像のデータを取得する。なお、ステップS208において、学習済みモデル163は、入力されたISAR画像のデータにおける特徴量がベストショットの基準に満たないときには、ベストショットのISAR画像を出力しなくてもよい。
ステップS209において、プロセッサ150は、選択したISAR画像に写っている艦船の種類を判別する。つまり、プロセッサ150は、選択したISAR画像を学習済みモデル164に入力し、艦船の種類のデータを取得する。
ステップS210において、プロセッサ150は、判別した艦船の種類が商船であるか否かを判定する。ステップS210において、判別した艦船の種類が商船であると判定されたときには、処理はステップS201に戻る。この場合、探索モードの動作に切り替えられる。ステップS210において、判別した艦船の種類が商船でないと判定されたときには、処理はステップS211に移行する。
ステップS211において、プロセッサ150は、選択したISAR画像に写っている艦船の艦級を類別する。つまり、プロセッサ150は、選択したISAR画像を学習済みモデル165に入力し、艦船の艦級のデータを取得する。艦級のデータは、選択したISAR画像に写っている艦船との類似度の最も高い艦船の艦級のデータだけであってもよいし、類似度の高い上位の複数の艦船の艦級のデータであってもよい。
ステップS212において、プロセッサ150は、艦級の類別結果を例えば表示装置180に表示させる。その後、処理はステップS213に移行する。例えば、プロセッサ150は、類別結果として、プロセッサ150が選択したベストショットのISAR画像とそのISAR画像における特徴量、及び艦級の類別結果を表示装置180に表示させる。艦級の類別結果は、ISAR画像に重ねて表示されてもよいし、別のウインドウ上に表示されてもよい。さらには、類別結果は、類似度の順にリスト表示されてもよい。
ステップS213において、プロセッサ150は、評価ランクが入力されたか否かを判定する。オペレータは、表示装置180に表示されたISAR画像を見て、プロセッサ150によって選択されたISAR画像が自身の望むベストショットと合致しているか、及びプロセッサ210によって抽出された特徴量が正しいかを判断する。そして、オペレータは、必要に応じて、判断結果に応じた評価ランクを入力する。ステップS213において、評価ランクが入力されたときには、処理はステップS214に移行する。ステップS213において、評価ランクが入力されていないときには、処理はステップS215に移行する。
ステップS214において、プロセッサ150は、ベストショットのISAR画像のデータ及び特徴量のデータと、それぞれの評価ランクとをストレージ160に記録する。その後、処理はステップS215に移行する。ストレージ160に記録されたベストショットのISAR画像のデータ、特徴量のデータ、評価ランクは、航空機が地上に戻ってきた際にサーバ200の学習モデル221に入力される。これにより、学習モデル221における再学習が行われる。
ステップS215において、プロセッサ150は、自動モードの動作を終了するか否かを判定する。例えば、オペレータによって類別モードが手動モードに切り替えられた場合又はオペレータによって類別の処理自体の終了が指示された場合には、自動モードの動作を終了すると判定される。ステップS215において、自動モードの動作を終了する場合には、プロセッサ150は、図10の処理を終了させる。この場合には、プロセッサ150は、図8の処理も終了させる。ステップS215において、自動モードの動作を終了しない場合には、処理はステップS201に戻る。この場合には、探索モードの動作から処理が再開される。
以上説明したように一実施形態によれば、艦級の類別結果を自動的に表示するとともに、複数のISAR画像の中から、ベストショットのISAR画像が自動的に選択される。これにより、オペレータは自動類別結果の妥当性を容易に確認し、判断することができる。また、オペレータの経験の有無によらずに一定の類別結果を得ることができる。さらに、一実施形態では、ベストショットのISAR画像の自動選択のための学習にオペレータによるアノテーションが用いられる。これにより、オペレータの経験等が考慮されて学習が行われる。
また、実施形態では、オペレータは、自動選択の結果に対して評価をすることができる。この評価の結果を受けて再学習がされることにより、よりオペレータの経験等が考慮されたISAR画像の自動選択が行われ得る。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
1 類別システム、100 レーダ装置、110 送信機、120 サーキュレータ、130 アンテナ、140 受信機、150 プロセッサ、151 優先度判定部、152 調整部、153 選択部、154 判別部、155 類別部、160 ストレージ、161 学習済みモデル、162 学習済みモデル、163 学習済みモデル、164 学習済みモデル、165 学習済みモデル、170 入力装置、180 表示装置、200 サーバ、210 プロセッサ、220 ストレージ、230 入力装置、240 表示装置。

Claims (6)

  1. ISAR画像に基づいて艦船の類別をする類別装置のための学習済みモデル生成装置であって、
    複数のISAR画像の中からオペレータによって選択されたベストショットのISAR画像であることを示すアノテーションが付けられた第1のISAR画像及び前記第1のISAR画像における第1の特徴量を、複数のISAR画像から類別に適するベストショットのISAR画像を選択するように構成される学習モデルに入力し、前記学習モデルにベストショットのISAR画像と特徴量との関係を学習させる学習部、
    を具備し、
    前記学習部は、前記オペレータの練度に応じて前記第1のISAR画像及び前記第1の特徴量に重みづけをして、前記学習モデルに艦船の特徴量と前記ベストショットのISAR画像との関係を学習させる類別装置のための学習済みモデル生成装置。
  2. 前記第1の特徴量は、前記第1のISAR画像における艦船の構造物の位置を含む請求項1に記載の類別装置のための学習済みモデル生成装置。
  3. 前記学習部は、さらに、複数のISAR画像から類別に適するベストショットのISAR画像を選択するように構成された学習済みモデルを搭載した類別装置によって選択された第2のISAR画像にアノテーションされた、前記第2のISAR画像の良否の程度を表す第1のランクに応じて重み付けされた前記第2のISAR画像を前記学習モデルに入力し、
    前記学習モデルは、前記第2のISAR画像に基づいて、ベストショットのISAR画像と特徴量との関係を再学習する請求項1又は2に記載の類別装置のための学習済みモデル生成装置。
  4. 前記学習部は、さらに、複数のISAR画像から類別に適するベストショットのISAR画像を選択するように構成された学習済みモデルを搭載した類別装置によって選択された第2のISAR画像における第2の特徴量にアノテーションされた、前記第2の特徴量の確からしさを表す第2のランクに応じて重み付けされた前記第2の特徴量を前記学習モデルに入力し、
    前記学習モデルは、前記第2の特徴量に基づいて、ベストショットのISAR画像と特徴量との関係を再学習する請求項1乃至の何れか1項に記載の類別装置のための学習済みモデル生成装置。
  5. 前記学習部は、
    前記艦船の特徴量に基づいて、前記選択されたISAR画像における前記艦船の上下が反転しているか否かを判定し、
    前記選択されたISAR画像における前記艦船の上下が反転しているときには前記ISAR画像の上下の向きを反転させてから、学習モデルに、前記選択されたISAR画像及び前記選択されたISAR画像における前記艦船の特徴量を入力する請求項1乃至の何れか1項に記載の類別装置のための学習済みモデル生成装置。
  6. ISAR画像に基づいて艦船の類別をする類別装置のための学習済みモデル生成方法であって、
    複数のISAR画像の中からオペレータによって選択されたベストショットのISAR画像であることを示すアノテーションが付けられた第1のISAR画像及び前記第1のISAR画像における第1の特徴量に前記オペレータの練度に応じて重みづけをすることと、
    前記重みづけがされた前記第1のISAR画像及び前記第1の特徴量を、複数のISAR画像から類別に適するベストショットのISAR画像を選択するように構成される学習モデルに入力することと、
    前記学習モデルにベストショットのISAR画像と特徴量との関係を学習させることと、
    を具備する類別装置のための学習済みモデル生成方法。
JP2020047166A 2020-03-18 2020-03-18 類別装置のための学習済みモデル生成装置、及び類別装置のための学習済みモデル生成方法 Active JP7475910B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020047166A JP7475910B2 (ja) 2020-03-18 2020-03-18 類別装置のための学習済みモデル生成装置、及び類別装置のための学習済みモデル生成方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020047166A JP7475910B2 (ja) 2020-03-18 2020-03-18 類別装置のための学習済みモデル生成装置、及び類別装置のための学習済みモデル生成方法

Publications (2)

Publication Number Publication Date
JP2021149360A JP2021149360A (ja) 2021-09-27
JP7475910B2 true JP7475910B2 (ja) 2024-04-30

Family

ID=77848866

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020047166A Active JP7475910B2 (ja) 2020-03-18 2020-03-18 類別装置のための学習済みモデル生成装置、及び類別装置のための学習済みモデル生成方法

Country Status (1)

Country Link
JP (1) JP7475910B2 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005106566A (ja) 2003-09-30 2005-04-21 Toshiba Corp 時系列画像処理方法及び装置
JP2007072823A (ja) 2005-09-08 2007-03-22 Seiko Epson Corp 画像選択装置および画像選択方法
JP2011014052A (ja) 2009-07-03 2011-01-20 Nikon Corp 画像識別装置、画像識別方法、識別器作成装置、識別器作成方法、および撮像システム
JP2017522548A (ja) 2014-06-03 2017-08-10 レイセオン カンパニー 海事自動ターゲット認識のためのデータ融合分析
JP2019057815A (ja) 2017-09-21 2019-04-11 株式会社東芝 監視システム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005106566A (ja) 2003-09-30 2005-04-21 Toshiba Corp 時系列画像処理方法及び装置
JP2007072823A (ja) 2005-09-08 2007-03-22 Seiko Epson Corp 画像選択装置および画像選択方法
JP2011014052A (ja) 2009-07-03 2011-01-20 Nikon Corp 画像識別装置、画像識別方法、識別器作成装置、識別器作成方法、および撮像システム
JP2017522548A (ja) 2014-06-03 2017-08-10 レイセオン カンパニー 海事自動ターゲット認識のためのデータ融合分析
JP2019057815A (ja) 2017-09-21 2019-04-11 株式会社東芝 監視システム

Also Published As

Publication number Publication date
JP2021149360A (ja) 2021-09-27

Similar Documents

Publication Publication Date Title
AU2015271047B2 (en) Data fusion analysis for maritime automatic target recognition
CN113269073B (zh) 一种基于yolo v5算法的船舶多目标追踪方法
US8712098B2 (en) Method and system for detecting target objects
US20190204416A1 (en) Target object detecting device, method of detecting a target object and computer readable medium
US20200379104A1 (en) Three-dimensional forward-looking sonar target recognition with machine learning
WO2017015947A1 (en) A system and a method for object tracking
Prasetyo et al. A comparison of yolo and mask r-cnn for segmenting head and tail of fish
WO2018161217A1 (en) A transductive and/or adaptive max margin zero-shot learning method and system
WO2016179808A1 (en) An apparatus and a method for face parts and face detection
US20190361116A1 (en) Apparatus and method for high-speed tracking of vessel
Qiao et al. Marine vessel re-identification: A large-scale dataset and global-and-local fusion-based discriminative feature learning
US20210396525A1 (en) Ship target object detection system, method of detecting ship target object and reliability estimating device
CN110414399A (zh) 信号灯的检测方法、装置及智能驾驶设备
JP7475910B2 (ja) 類別装置のための学習済みモデル生成装置、及び類別装置のための学習済みモデル生成方法
US6532191B2 (en) System and method for target tracking and motion anyalysis
Zhang et al. Underwater image segmentation with maximum entropy based on particle swarm optimization (PSO)
US8275172B2 (en) Multipass data integration for automatic detection and classification of objects
EP3290947B1 (en) Signal processing device and radar device
JP2018048862A (ja) レーダ信号処理装置、レーダ信号処理方法、およびレーダ信号処理プログラム
CN111061165A (zh) 一种船舶相对碰撞危险度模型的验证方法
Munir et al. Bridging precision and confidence: A train-time loss for calibrating object detection
JP2021110565A (ja) 類別装置及び類別方法
US20230260259A1 (en) Method and device for training a neural network
WO2023193923A1 (en) Maritime traffic management
CA3222713A1 (en) Method and system for active learning using adaptive weighted uncertainty sampling (awus)

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221111

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20230105

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230926

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231024

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231222

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240319

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240417

R150 Certificate of patent or registration of utility model

Ref document number: 7475910

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150