JP6917652B1 - 情報処理装置、情報処理方法、および情報処理プログラム - Google Patents

情報処理装置、情報処理方法、および情報処理プログラム Download PDF

Info

Publication number
JP6917652B1
JP6917652B1 JP2020063936A JP2020063936A JP6917652B1 JP 6917652 B1 JP6917652 B1 JP 6917652B1 JP 2020063936 A JP2020063936 A JP 2020063936A JP 2020063936 A JP2020063936 A JP 2020063936A JP 6917652 B1 JP6917652 B1 JP 6917652B1
Authority
JP
Japan
Prior art keywords
image
mites
counting
information processing
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020063936A
Other languages
English (en)
Other versions
JP2021163194A (ja
Inventor
秀夫 渡邊
秀夫 渡邊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikkaku Laboratory Co Ltd
Original Assignee
Nikkaku Laboratory Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikkaku Laboratory Co Ltd filed Critical Nikkaku Laboratory Co Ltd
Priority to JP2020063936A priority Critical patent/JP6917652B1/ja
Application granted granted Critical
Publication of JP6917652B1 publication Critical patent/JP6917652B1/ja
Publication of JP2021163194A publication Critical patent/JP2021163194A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Catching Or Destruction (AREA)

Abstract

【課題】ダニ捕獲器で捉えたダニ数を計数するための技術を提供する。【解決手段】情報処理装置は、ダニの捕獲器を撮影して得られた画像を取得するための取得部と、画像を複数の領域に分割する分割部と、複数の領域の各々について、当該領域内の画像情報に基づいて、当該領域に含まれているダニの数を計数するための計数部と、複数の領域の一部または全部について計数されたダニの数に基づいて、画像に含まれるダニの総数を算出するための算出部とを備える。【選択図】図1

Description

本開示は、画像からダニの数を計数するための技術に関する。
ダニアレルゲンは、主要のハウスダストアレルゲンであり、アレルギー性喘息、アレルギー性鼻炎、結膜炎、アトピー性皮膚炎等のアレルギー性疾患を引き起こす。このため、アレルギー性疾患を予防または減弱させるために、生活環境からダニアレルゲンを低減させる技術が求められている。
ダニをアレルゲンとするアレルギー性疾患の対策としては、アレルゲンであるダニを駆除して、ダニを生活環境中から排除することが考えられる。特許6616881号公報(特許文献1)には、アレルゲンの原因となるダニを誘引するためのダニ捕獲器を開示している。
特許第6616881号公報
ダニのサイズは非常に小さいので、利用者は、ダニ捕獲器を設置したとしても、当該設置場所にどの程度のダニが潜んでいるのかを把握することができない。また、利用者は、ダニ捕獲器の効果を容易に把握することもできない。したがって、ダニ捕獲器で捉えたダニ数を計数するための技術が望まれている。
本開示の一例では、情報処理装置は、ダニの捕獲器を撮影して得られた画像を取得するための取得部と、上記画像を複数の領域に分割する分割部と、上記複数の領域の各々について、当該領域内の画像情報に基づいて、当該領域に含まれているダニの数を計数するための計数部と、上記複数の領域の一部または全部について計数された上記ダニの数に基づいて、上記画像に含まれるダニの総数を算出するための算出部とを備える。
本開示の一例では、上記情報処理装置は、上記画像に含まれる上記総数に基づいて、上記捕獲器の設置場所におけるダニによる有害レベルを推定するための推定部を備える。
本開示の一例では、上記推定部は、上記捕獲器の設置場所と、上記捕獲器の設置日数と、上記捕獲器の設置時におけるシーズン情報と、上記捕獲器の設置場所における掃除の頻度と、上記捕獲器の設置場所における環境情報との少なくとも1つと、上記総数とに基づいて、上記有害レベルを推定する。
本開示の一例では、上記捕獲器は、特定の形状を有する。上記計数部による上記ダニの数の計数処理は、上記特定の形状が検知され、かつ、上記特定の形状が上記画像内の予め定められた範囲に含まれている場合に実行される。
本開示の一例では、上記算出部は、上記計数部によるダニの計数が成功した領域についてのダニの合計数を算出する処理と、上記計数部によるダニの計数が成功した領域数で上記合計数を除算し、上記複数の領域の数を当該除算結果に乗算した結果を上記総数として算出する処理とを含む。
本開示の他の例では、情報処理方法は、ダニの捕獲器を撮影して得られた画像を取得するステップと、上記画像を複数の領域に分割するステップと、上記複数の領域の各々について、当該領域内の画像情報に基づいて、当該領域に含まれているダニの数を計数するステップと、上記複数の領域の一部または全部について計数された上記ダニの数に基づいて、上記画像に含まれるダニの総数を算出するステップとを備える。
本開示の他の例では、情報処理装置によって実行される情報処理プログラムが提供される。上記情報処理プログラムは、上記情報処理装置に、ダニの捕獲器を撮影して得られた画像を取得するステップと、上記画像を複数の領域に分割するステップと、上記複数の領域の各々について、当該領域内の画像情報に基づいて、当該領域に含まれているダニの数を計数するステップと、上記複数の領域の一部または全部について計数された上記ダニの数に基づいて、上記画像に含まれるダニの総数を算出するステップとを実行させる。
本発明の上記および他の目的、特徴、局面および利点は、添付の図面と関連して理解される本発明に関する次の詳細な説明から明らかとなるであろう。
情報処理システムの装置構成の一例を示す図である。 ダニ捕獲器の外観を示す図である。 サーバーの機能構成の一例を示す図である。 計数アプリが提供する一画面を示す図である。 計数アプリが提供する他の画面を示す図である。 通信端末から取得した画像の一例である撮影画像を示す図である。 図6に示される部分画像から生成された画素値分離画像を示す図である。 図6に示される部分画像から生成された画素値分離画像を示す図である。 図7に示される画素値分離画像が学習済モデルに入力されている例を示す図である。 図7に示される画素値分離画像が学習済モデルに入力されている例を示す図である。 学習済モデルの生成時に用いられる学習用データセットを示す図である。 ダニ画像選択部によってダニ画像として選択された画素値分離画像が学習済モデルに入力されている例を示す図である。 学習済モデルの生成時に用いられる学習用データセットを示す図である。 変形例に従う学習用データセットを示す図である。 部分画像の各々についてのダニの計数結果を示す図である。 汚染レベル推定部の構成を概略的に示す概念図である。 学習済モデルの生成時に用いられる学習用データセットを示す図である。 通信端末の出力画面を示す図である。 通信端末のハードウェア構成の一例を示す模式図である。 サーバーのハードウェア構成の一例を示す模式図である。 計数アプリによる事前処理のフローチャートを示す図である。 サーバーによるダニの計数処理の流れを示すシーケンス図である。 サーバーによるダニの計数処理の流れを示すシーケンス図である。 計数アプリによる表示処理の流れを示すシーケンス図である。
以下、図面を参照しつつ、本発明に従う各実施の形態について説明する。以下の説明では、同一の部品および構成要素には同一の符号を付してある。それらの名称および機能も同じである。したがって、これらについての詳細な説明は繰り返さない。なお、以下で説明される各実施の形態および各変形例は、適宜選択的に組み合わされてもよい。
<A.情報処理システム10>
図1を参照して、情報処理システム10について説明する。図1は、情報処理システム10の装置構成の一例を示す図である。
図1に示されるように、情報処理システム10は、1つ以上のダニ捕獲器50と、1つ以上の通信端末100と、1つ以上のサーバー200とを含む。
ダニ捕獲器50は、ダニの発生場所に設置され得、ダニを誘引および捕獲する。ダニ捕獲器50の設置場所は、たとえば、カーペット、畳、布団、べッド、じゅうたん、または、自動車のシート等である。
ダニ捕獲器50は、ダニを捕獲する機能を有する物であれば特に限定されず、ダニの誘引および死滅を目的とする物や、設置場所に存在しているダニの数を調べるための物等を含む。図1には、設置場所に存在しているダニの数を調べるためのダニ捕りキットがダニ捕獲器50の一例として示されている。ダニ捕獲器50の詳細については後述する。
通信端末100は、たとえば、タブレット端末、スマートフォン、ノート型のPC(Personal Computer)、デスクトップ型のPC、または、通信機能を有するその他の端末である。情報処理システム10を構成する通信端末100の数は任意である。
通信端末100には、カメラ105が設けられている。カメラ105は、通信端末100と一体的に構成されてもよいし、外付けで通信端末100に接続されてもよい。
サーバー200は、情報処理装置の一例である。サーバー200は、たとえば、ノート型のPC、デスクトップ型のPC、タブレット端末、スマートフォン、または、通信機能を有するその他のサーバーである。図1には、1台のサーバー200が示されているが、情報処理システム10を構成するサーバー200の数は任意である。
情報処理システム10は、ダニ捕獲器50の利用者から提供される画像に基づいて、ダニ捕獲器50で捕獲されたダニの数を計数する機能を有する。
より具体的には、まず、利用者は、ダニの発生状況を調べたい場所にダニ捕獲器50を数日間設置する。その後、ステップS1において、利用者は、通信端末100のカメラ105を用いてダニ捕獲器50を撮影する。
ステップS2において、利用者は、ステップS1の撮影で得られた画像をサーバー200に送信する。
ステップS3において、サーバー200は、通信端末100から受信した撮影画像に基づいて、当該撮影画像に写っているダニの数を計数する。より具体的には、サーバー200は、受信した撮影画像を複数の領域に分割し、各分割領域に含まれるダニの数を計数する。当該計数処理の詳細については後述する。次に、サーバー200は、各分割領域についてのダニの計数結果の一部または全部を用いて、撮影画像全体に写っているダニの数(以下、「ダニ総数」ともいう。)を算出する。
光等のノイズの影響を受けると一部の分割領域でダニ数が計数できない場合がある。このような場合でも、実施の形態に従う情報処理システム10は、計数不能な分割領域の影響を受けずにダニ総数を推定することができる。
ステップS4において、サーバー200は、ステップS3で算出したダニ総数を通信端末100に送信する。
ステップS5において、通信端末100は、サーバー200から受信したダニ総数を表示する。これにより、利用者は、ダニ捕獲器50の設置場所にどの程度のダニが潜んでいるのかを容易に把握することができる。
なお、上述では、ダニ総数を算出するための機能がサーバー200に実装されている例について説明を行ったが、当該計数機能は、通信端末100やサーバー200などの種々の情報処理装置に実装され得る。
<B.ダニ捕獲器50>
次に、図2を参照して、ダニ捕獲器50の詳細について説明する。図2は、ダニ捕獲器50の外観を示す図である。
ダニ捕獲器50は、たとえば、薄型の円形状を有する。ダニ捕獲器50の直径は、たとえば、50〜100mmである。ダニ捕獲器50の厚さは、たとえば、5〜10mmである。ダニ捕獲器50は、ケース51と、誘引部材52と、カバー54と、侵入防止シール56とを含む。
ケース51は、たとえば、プラスチック部材で構成される。ケース51は、カバー54で覆うことによって誘引部材52を収容する。誘引部材52は、ダニを誘引する物質であれば特に限定されない。一例として、誘引部材52は、ダニ誘引組成物を含む。
ダニ誘引物質は、ダニを誘引する物質であれば特に限定されないが、食餌性誘引物質、臭香性誘引物質等を用いることができる。食餌性誘引物質としては、例えばビール酵母等の乾燥酵母、チョコレート、カカオ、チーズ、バター、魚介類粉末、穀物粉末、米麹、糠、大豆レシチン、デンプン、繊維くず、実験動物飼育用粉末飼料、ペットフード等を用いることができる。臭香性誘引物質としては、たとえば動物性もしくは植物性油脂またはこれらの脂肪酸エステル、食品香料等を用いることができる。また、臭香性誘引物質としては、イソ吉草酸、酪酸、プロピオン酸、酢酸、蟻酸等のエステル類、アルデヒド類、アルコール類等を用いることもできる。ダニ誘引物質は、1つまたは2つ以上を組み合わせて使用できる。
好ましくは、誘引部材52は、さらに、焼成された貝殻を含む。焼成された貝殻は、貝類が外套膜の外面に分泌する硬組織である。貝殻の由来としては、特に限定されないが、ホタテガイ、カキ、ホッキガイ、アワビ、ムラサキガイ、サザエ、ハマグリ、アサリ、シジミ等が挙げられる。貝殻には、腕足動物や節足動物由来の殻、珊瑚、真珠層、卵殻等を含んでいてもよい。
貝殻は、その種によって変動するものの、たとえば成分の90質量%以上は炭酸カルシウムである。その他にMgO、SiO、酸化鉄などの微量成分を含んでいてもよい。貝殻中の炭酸カルシウムは、焼成によって酸化カルシウムに転化するため、焼成された貝殻は酸化カルシウムを含む。焼成温度や焼成時間によりその転化率は異なるが、高温焼成された貝殻に含まれる酸化カルシウムは、たとえば約50質量%以上約100質量%以下である。また、焼成された貝殻は多孔質体である。焼成された貝殻は、ダニアレルゲンを低減化することができる。
焼成された貝殻とダニ誘引組成物とを含むダニ誘引剤は、ダニ誘引物質によってダニを集め、ダニを駆除するため、ダニの死骸や糞由来のダニアレルゲンを効率的に低減化することができる。
カバー54は、たとえば、黒色のメッシュ生地の布である。カバー54は、所定の形状の穴を有する。当該穴の形状は、任意である。一例として、当該穴の形状は、円形、楕円形、または多角形(たとえば、三角形、四角形)である。図2の例では、カバー54は、円形の穴を有している。
侵入防止シール56は、透明であり、カバー54の穴部分を覆うようにカバー54に接着されている。そのため、利用者は、侵入防止シール56を介して赤色部分の誘引部材52を視認することができる。
カバー54の穴部分の周囲には接着剤57が塗布されており、カバー54および侵入防止シール56は、接着剤57により接着される。ダニは、カバー54と侵入防止シール56との間における接着剤57が塗布されていない部分(以下、「非接着部分」ともいう。)には侵入できるが、接着剤57が塗布されている部分には侵入できない。すなわち、誘引部材52へのダニの侵入は、接着剤57により阻まれる。結果として、ダニは、カバー54上の非接着部分で死滅することになる。カバー54は黒色であり、ダニは白系色であるので、情報処理システム10は、カバー54上のダニを区別しやすくなる。
<C.情報処理システム10の機能構成>
次に、図3〜図18を参照して、情報処理システム10の機能構成について説明する。図3は、サーバー200の機能構成の一例を示す図である。
図3に示されるように、情報処理システム10は、通信端末100と、サーバー200とを含む。通信端末100には、ダニの計数用の計数アプリ122がインストールされている。サーバー200は、機能構成として、取得部252と、分割部254と、ダニ画像選択部256と、ダニ計数部258と、算出部259と、汚染レベル推定部260と、出力部262とを含む。
なお、サーバー200に実装されている機能構成の一部または全部は、通信端末100に実装されてもよい。すなわち、取得部252、分割部254、ダニ画像選択部256、ダニ計数部258、算出部259、汚染レベル推定部260、および出力部262の一部または全部は、通信端末100に実装されてもよい。
(C1.計数アプリ122)
図4および図5を参照して、計数アプリ122について説明する。図4は、計数アプリ122が提供する一画面を示す図である。図5は、計数アプリ122が提供する他の画面を示す図である。
図4には、撮影画面60が示されている。撮影画面60は、計数アプリ122が提供する一画面であり、通信端末100のディスプレイ107に表示される。
撮影画面60は、利用者がダニ捕獲器50を正確に撮影できるようにサポートする。より具体的には、撮影画面60は、マークオブジェクト62と、外形ライン64と、撮影ボタン68とを含む。利用者は、ダニ捕獲器50の外形を外形ライン64に合わせるように、かつ、ダニ捕獲器50の特定の形状(たとえば、誘引部材52の円形状)をマークオブジェクト62に合わせるようにダニ捕獲器50の撮影位置を調整する。その上で、利用者が撮影ボタン68を押下すると、通信端末100は、ダニ捕獲器50の撮影を受け付ける。これにより、ダニ捕獲器50を表わす撮影画像が生成され、当該撮影画像が仮に登録される。
好ましくは、計数アプリ122は、さらに、図5に示される入力画面70を提供する。入力画面70は、ダニ捕獲器50の設置条件などの入力を利用者から受け付けるように構成される。一例として、入力画面70は、設置場所入力領域72と、設置日数入力領域74と、判定ボタン76とを含む。
設置場所入力領域72には、ダニ捕獲器50の設置場所の候補が一覧で表示される。利用者は、予め設定されている設置場所の候補の内から、一の候補を選択することができる。設置場所の候補は、予め設定されていてもよいし、利用者によって任意に追加されてもよい。
設置日数入力領域74には、ダニ捕獲器50の設置日数の候補が一覧で表示され、利用者は、設置日数入力領域74において設置日数の一の候補を選択することができる。当該設置日数は、ダニ捕獲器50を設置してから現在までの期間を表わす。なお、当該設置日数は、必ずしも一覧から選択される必要はなく、数字入力により設定されてもよい。
入力画面70は、他にも、種々の情報を受け付けてもよい。一例として、入力画面70は、ダニ捕獲器50の設置時におけるシーズン情報と、ダニ捕獲器50の設置場所における掃除の頻度と、ダニ捕獲器50の設置場所における環境情報とを受け付けてもよい。
上記シーズン情報は、月日の情報または季節の情報である。利用者は、予め設定されているシーズン情報の候補の内から、一のシーズン情報を選択することができる。シーズン情報の候補は、予め設定されていてもよいし、利用者によって任意に追加されてもよい。
上記掃除の頻度は、所定期間当たりに利用者が掃除を行った回数を示す。当該所定期間は、たとえば、1月または1週間である。利用者は、たとえば、掃除の頻度を数字入力により設定する。
上記環境情報は、たとえば、設置場所における室内/室外の温度と設置場所における室内/室外の湿度との少なくとも1つを含む。当該温度は、ダニ計数時の現在温度と、ダニ捕獲器50の設置期間における平均気温と、当該設置期間における最高気温と、当該設置期間における最低気温との少なくとも1つを含む。当該湿度は、ダニ計数時の現在湿度と、ダニ捕獲器50の設置期間における平均湿度と、当該設置期間における最高湿度と、当該設置期間における最低湿度との少なくとも1つを含む。
温度情報は、たとえば、温度センサ(図示しない)によって検知されてもよいし、外部サーバーから受信した天気予報情報などから取得されてもよい。同様に、湿度情報は、たとえば、湿度センサ(図示しない)によって検知されてもよいし、外部サーバーから受信した天気予報情報などから取得されてもよい。
利用者が判定ボタン76を押下すると、通信端末100は、撮影画面60で仮に登録されている撮影画像と、入力画面70に入力された各種情報とをサーバー200に送信する。
(C2.取得部252)
次に、図3に示される取得部252の機能について説明する。
取得部252は、計数アプリ122から情報を取得するためのプログラムモジュールである。一例として、取得部252は、上述の撮影画面60(図4参照)で撮影された撮影画像と、上述の入力画面70(図5参照)に入力された各種入力情報とを計数アプリ122から取得する。
取得部252は、取得した撮影画像を分割部254に出力する。また、取得部252は、取得した入力情報を汚染レベル推定部260に出力する。
なお、撮影画像および各種入力情報の取得先は、通信端末100に限定されない。一例として、撮影画像および各種入力情報の取得先は、外部サーバーであってもよいし、モバイルの記憶装置であってもよいし、サーバー200内の記憶装置であってもよい。
(C3.分割部254)
次に、図6〜図8を参照して、図3に示される分割部254の機能について説明する。図6は、通信端末100から取得した画像の一例である撮影画像30を示す図である。
分割部254は、予め定められたルールに従って、撮影画像30を複数の領域に分割する。撮影画像30の分割数は、2以上であればよい。図6の例では、撮影画像30は、9つの部分画像31〜39に分割されている。部分画像31〜39のサイズは、全て同じであってもよいし、異なっていてもよい。
分割部254は、予め設定されている画素値範囲ごとに、当該画素値範囲に属する画素のみを部分画像31から抽出し、画素値分離画像を生成する。分割部254は、同様の抽出処理を、他の部分画像32〜39についても実行する。
図7は、図6に示される部分画像31から生成された画素値分離画像31A〜31Fを示す図である。画素値分離画像31Aは、画素値「0」以上画素値「p1」未満に属する画素を部分画像31から抽出した画像である。画素値分離画像31Bは、画素値「p1」以上画素値「p2」未満の画素を部分画像31から抽出した画像である。画素値分離画像31Cは、画素値「p2」以上画素値「p3」未満の画素を部分画像31から抽出した画像である。画素値分離画像31Dは、画素値「p3」以上画素値「p4」未満の画素を部分画像31から抽出した画像である。画素値分離画像31Eは、画素値「p4」以上画素値「p5」未満の画素を部分画像31から抽出した画像である。画素値分離画像31Fは、画素値「p5」以上画素値「p6」未満の画素を部分画像31から抽出した画像である。
図8は、図6に示される部分画像37から生成された画素値分離画像37A〜37Fを示す図である。画素値分離画像37Aは、画素値「0」以上画素値「p1」未満に属する画素を部分画像37から抽出した画像である。画素値分離画像37Bは、画素値「p1」以上画素値「p2」未満の画素を部分画像37から抽出した画像である。画素値分離画像37Cは、画素値「p2」以上画素値「p3」未満の画素を部分画像37から抽出した画像である。画素値分離画像37Dは、画素値「p3」以上画素値「p4」未満の画素を部分画像37から抽出した画像である。画素値分離画像37Eは、画素値「p4」以上画素値「p5」未満の画素を部分画像37から抽出した画像である。画素値分離画像37Fは、画素値「p5」以上画素値「p6」未満の画素を部分画像37から抽出した画像である。
分割部254は、部分画像31〜39の各々から生成した画素値分離画像をダニ画像選択部256に出力する。
(C4.ダニ画像選択部256)
次に、図9〜図11を参照して、図3に示されるダニ画像選択部256の機能について説明する。
ダニ画像選択部256は、部分画像31〜39の各々について、生成された画素値分離画像の中から、ダニの画像情報が一番残っている画像(以下、「ダニ画像」ともいう。)を選択する。ダニ画像の選択処理は、たとえば、図9および図10に示される学習済モデル214を用いて実現される。
図9は、図7に示される画素値分離画像31Aが学習済モデル214に入力されている例を示す図である。図10は、図7に示される画素値分離画像31Fが学習済モデル214に入力されている例を示す図である。
学習済モデル214は、種々の学習手法で生成され得る。一例として、学習済モデル214は、CNN(Convolutional Neural Network)を用いた学習処理により生成されてもよいし、ディープラーニングを用いた学習処理により生成されてもよいし、RNN(Recurrent Neural Network)を用いた学習処理により生成されてもよいし、サポートベクターマシンを用いた学習処理により生成されてもよい。図9および図10には、CNNを用いた学習処理により生成された学習済モデル214が示されている。
図11は、学習済モデル214の生成時に用いられる学習用データセット80を示す図である。学習用データセット80は、複数の画素値分離画像を含む。一例として、学習用データセット80は、ダニ画像ではないことを示すラベルが紐付けられた複数の画素値分離画像81Aと、ダニ画像であることを示すラベルが紐付けられた複数の画素値分離画像81Bとを含む。学習済モデル214の内部パラメータは、このような学習用データセット80を用いて最適化される。
再び図9を参照して、学習済モデル214は、たとえば、特徴抽出層L1〜L10と、全結合層L11とで構成される。
特徴抽出層L1〜L10は、ダニ画像を特定するために有効な特徴量を抽出するための一種のフィルタとして機能する。特徴抽出層L1〜L10では、畳み込み層(CONV)とプーリング層(Pooling)とが交互に配置される。畳み込み層およびプーリング層のそれぞれの数は任意である。
畳み込み層である特徴抽出層L1は、画素値分離画像31Aに対して、学習処理で最適化されている所定サイズの複数のフィルタを畳み込む。その結果、当該フィルタと同数の画像が特徴抽出層L1から出力される。特徴抽出層L1の出力画像は、次の特徴抽出層L2に出力される。
プーリング層である特徴抽出層L2は、特徴抽出層L1から出力される各画像を縮小する。典型的には、特徴抽出層L2は、たとえば、画像内の2×2の領域ごとに最大値を抽出し、当該最大値を新たな画像の対応箇所に割り当てる(いわゆる、最大プーリング)。あるいは、特徴抽出層L2は、画像内の2×2の領域ごとに平均値を算出し、当該平均値を新たな画像の対応箇所に割り当てる(いわゆる、平均プーリング)。特徴抽出層L2の出力画像は、次の特徴抽出層L3に出力される。
このような畳み込み処理およびプーリング処理が、後続の特徴抽出層L3〜L10において繰り返し実行される。特徴抽出層L10の出力画像は、次の全結合層L11に出力される。
全結合層L11は、入力層Xと、所定数の中間層Hと、出力層Yとを含む。全結合層L11の入力層Xは、複数のユニットU1で構成される。各ユニットU1には、特徴抽出層L10の出力画像の各画素が1次元に変換された上で入力される。
全結合層L11の中間層Hは、複数の層で構成される。中間層Hの層数は、任意である。中間層Hの各層は、複数のユニットU2で構成される。各ユニットU2は、前の層の各ユニットと、次の層の各ユニットとに接続される。各ユニットU2は、前の層の各ユニットからの各出力値に重みを乗算し、それらの乗算結果を積算する。次に、各ユニットU2は、積算結果の各々に対して所定のバイアスを加算(または減算)し、その加算結果(または減算結果)を所定の活性化関数(たとえば、ランプ関数またはシグモナイト関数)に入力し、その活性化関数の出力値を次の層の各ユニットに出力する。
出力層Yは、1つ以上の複数のユニットU3で構成される。出力層Yのユニット数は、任意である。図9の例では、出力層Yは、1つのユニットU3で構成されている。ユニットU3は、画素値分離画像31Aがダニ画像である確率を出力する。ユニットU3は、中間層Hの最終層の各ユニットU2に接続される。出力層YのユニットU3は、中間層Hの最終層の各ユニットU2からの出力値を受けて、各出力値に重みを乗算し、それらの乗算結果を積算する。当該乗算結果は、所定の活性化関数(たとえば、ランプ関数またはシグモナイト関数)に入力される。当該活性化関数の出力値は、画素値分離画像31Aがダニ画像である確率を示す。
図9の例では、画素値分離画像31Aがダニ画像である確率が「s1」として示されている。図10の例では、画素値分離画像31Fがダニ画像である確率が「s2」として示されている。ダニ画像選択部256は、このような確率を画素値分離画像31A〜31Fの各々について算出し、当該確率が最大となる画素値分離画像をダニ画像として選択する。
以上の処理が繰り返されることで、ダニ画像選択部256は、画素値分離画像31A〜31E(図7参照)をダニ画像ではないと判断し、画素値分離画像31F(図7参照)をダニ画像である判断する。また、ダニ画像選択部256は、画素値分離画像37A〜37C,37E,37F(図8参照)をダニ画像ではないと判断し、画素値分離画像37D(図8参照)をダニ画像である判断される。
なお、上述では、学習済モデル214を用いて画素値分離画像がダニ画像であるか否かを判断する例について説明を行ったが、ダニ画像選択部256は、学習済モデル214ではなくルールベースの画像処理を用いて、画素値分離画像の各々がダニ画像であるか否かを判断してもよい。
(C5.ダニ計数部258)
次に、図12〜図14を参照して、図3に示されるダニ計数部258の機能について説明する。
ダニ計数部258は、ダニ画像選択部256によって選択されたダニ画像を用いて、当該ダニ画像に写っているダニを計数する。ダニの計数処理は、たとえば、図12に示される学習済モデル216を用いて実現される。
図12は、ダニ画像選択部256によってダニ画像として選択された画素値分離画像31F(図7参照)が学習済モデル216に入力されている例を示す図である。ダニ計数部258は、画素値分離画像31Fを複数の小領域に区分し、各小領域の画像情報を学習済モデル216に入力する。図12の例では、画素値分離画像31F内の小領域33F1の画像情報(たとえば、画素値)が学習済モデル216に入力されている。
学習済モデル216は、種々の学習手法で生成され得る。一例として、学習済モデル216は、CNNを用いた学習処理により生成されてもよいし、ディープラーニングを用いた学習処理により生成されてもよいし、RNNを用いた学習処理により生成されてもよいし、サポートベクターマシンを用いた学習処理により生成されてもよい。図12には、CNNを用いた学習処理により生成された学習済モデル214が示されている。
図13は、学習済モデル216の生成時に用いられる学習用データセット85を示す図である。学習用データセット85は、複数の画像を含む。各画像には、当該画像に写っている物体がダニであるか否かを示すラベルが予め紐付けられている。図13の例では、学習用データセット85は、ダニであることを示すラベルが紐付けられた学習用画像86Aと、ダニでないことを示すラベルが紐付けられた学習用画像86Bとを含む。学習済モデル216の内部パラメータは、このような学習用データセット85を用いて予め最適化されている。
再び図12を参照して、学習済モデル216は、たとえば、特徴抽出層L21〜L30と、全結合層L31とで構成される。
特徴抽出層L21〜L30は、入力された画像がダニであるか否かを特定するために有効な特徴量を抽出するための一種のフィルタとして機能する。特徴抽出層L21〜L30では、畳み込み層(CONV)とプーリング層(Pooling)とが交互に配置される。畳み込み層およびプーリング層のそれぞれの数は任意である。
畳み込み層である特徴抽出層L21は、小領域31F1内の画像情報に対して、学習処理で最適化されている所定サイズの複数のフィルタを畳み込む。その結果、当該フィルタと同数の画像が特徴抽出層L21から出力される。特徴抽出層L21の出力画像は、次の特徴抽出層L22に出力される。
プーリング層である特徴抽出層L22は、特徴抽出層L21から出力される各画像を縮小する。典型的には、特徴抽出層L22は、たとえば、画像内の2×2の領域ごとに最大値を抽出し、当該最大値を新たな画像の対応箇所に割り当てる(いわゆる、最大プーリング)。あるいは、特徴抽出層L22は、画像内の2×2の領域ごとに平均値を算出し、当該平均値を新たな画像の対応箇所に割り当てる(いわゆる、平均プーリング)。特徴抽出層L22の出力画像は、次の特徴抽出層L23に出力される。
このような畳み込み処理およびプーリング処理が、後続の特徴抽出層L23〜L30において繰り返し実行される。特徴抽出層L30の出力画像は、次の全結合層L31に出力される。
全結合層L31は、入力層Xと、所定数の中間層Hと、出力層Yとを含む。全結合層L31の入力層Xは、複数のユニットU1で構成される。各ユニットU1には、特徴抽出層L30の出力画像の各画素が1次元に変換された上で入力される。
全結合層L31の中間層Hは、複数の層で構成される。中間層Hの層数は、任意である。中間層Hの各層は、複数のユニットU2で構成される。各ユニットU2は、前の層の各ユニットと、次の層の各ユニットとに接続される。各ユニットU2は、前の層の各ユニットからの各出力値に重みを乗算し、それらの乗算結果を積算する。次に、各ユニットU2は、積算結果の各々に対して所定のバイアスを加算(または減算)し、その加算結果(または減算結果)を所定の活性化関数(たとえば、ランプ関数またはシグモナイト関数)に入力し、その活性化関数の出力値を次の層の各ユニットに出力する。
出力層Yは、1つ以上の複数のユニットU3で構成される。出力層Yのユニット数は、任意である。図12の例では、出力層Yは、1つのユニットU3で構成されている。ユニットU3は、小領域33F1にダニが含まれている確率を出力する。ユニットU3は、中間層Hの最終層の各ユニットU2に接続される。出力層YのユニットU3は、中間層Hの最終層の各ユニットU2からの出力値を受けて、各出力値に重みを乗算し、それらの乗算結果を積算する。当該乗算結果は、所定の活性化関数(たとえば、ランプ関数またはシグモナイト関数)に入力される。当該活性化関数の出力値は、小領域33F1にダニが含まれている確率を示す。
ダニ計数部258は、出力層Yの出力値が所定閾値を超えた場合には、小領域33F1にダニが含まれていると判断し、ダニを検知する。一方で、ダニ計数部258は、当該確率が所定閾値以下である場合には、小領域33F1にダニが含まれていないと判断する。
画素値分離画像31Fの小領域33F1についての処理が完了すると、ダニ計数部258は、画素値分離画像31F内の次の小領域についてダニの検知処理を実行する。このような検知処理が画素値分離画像31F内の全ての小領域について実行される。ダニ計数部258は、ダニが検知された小領域の数をカウントし、当該カウント結果を部分画像31(図6参照)に含まれるダニ数として計数する。
ダニ計数部258は、このような計数処理が上述のダニ画像選択部256によって抽出された全てのダニ画像について繰り返し、部分画像31〜39の各々に含まれるダニ数を計数する。好ましくは、ダニ計数部258は、ダニが写り得ない画像領域(たとえば、部分画像35)についてはダニの計数処理を実行しない。
なお、上述では、学習済モデル216を用いてダニ画像に含まれているダニを計数する例について説明を行ったが、ダニ計数部258は、学習済モデル216ではなくルールベースの画像処理を用いて、ダニ画像に含まれているダニを計数してもよい。
また、上述では、学習済モデル216が図13に示される学習用データセット85を用いて生成される例について説明を行ったが、学習済モデル216は、図14に示される学習用データセット85Aを用いた機械学習により生成されてもよい。図14は、変形例に従う学習用データセット85Aを示す図である。
学習用データセット85Aは、複数の画像を含む。各画像には、当該画像に写っているダニの数がラベルとして予め紐付けられている。図14の例では、学習用データセット85Aは、ダニ数「1」を示すラベルが紐付けられた学習用画像87Aと、ダニ数「2」を示すラベルが紐付けられた学習用画像87Bと、ダニ数「3」を示すラベルが紐付けられた学習用画像87Cとを含む。他にも、学習用データセット85Aは、ダニ数「0」を示すラベルが紐付けられた学習用画像(図示しない)を含んでもよい。
このような学習用データセット85Aが用いられる場合、学習済モデル216の出力層Yは、複数のユニットU3を含む。一例として、第1のユニットU3は、画素値分離画像31Fの小領域33F1に含まれるダニ数が「0」である確率を出力する。第2のユニットU3は、画素値分離画像31Fの小領域33F1に含まれるダニ数が「1」である確率を出力する。第3のユニットU3は、画素値分離画像31Fの小領域33F1に含まれるダニ数が「2」である確率を出力する。第4のユニットU3は、画素値分離画像31Fの小領域33F1に含まれるダニ数が「3」である確率を出力する。その後、ダニ計数部258は、第1〜第4のユニットU3から出力される確率が最大となるダニ数を検知結果とする。
(C6.算出部259)
次に、図15を参照して、図3に示される算出部259の機能について説明する。
図15は、部分画像31〜39の各々についてのダニの計数結果を示す図である。算出部259は、部分画像31〜39の一部または全部について計数されたダニ数に基づいて、撮影画像30に含まれるダニの総数を算出する。なお、ダニ捕獲器50の誘引部材52の部分は赤色であり、白系色のダニは、誘引部材52上では判別しにくい。そのため、算出部259は、部分画像35を集計の対象外としてもよい。集計対象外の部分画像は、予め設定されている。
また、光等のノイズの影響を受けると一部の部分画像では、ダニ数が計数できない場合がある。このような場合には、算出部259は、正常にダニ数を計数できた部分画像についての計数結果のみを用いて、撮影画像30に含まれるダニの総数を算出する。一例として、算出部259は、下記の式(1)に基づいて、撮影画像30に含まれるダニの総数を算出する。
N=(Σn/M1)・M2・・・(1)
式(1)に示される「N」は、撮影画像30に含まれるダニの総数を示す。「Σn」は、ダニ数の計数処理が成功した部分画像についてのダニ数の合計を示す。「M1」は、ダニ数の計数処理が成功した部分画像の数を示す。「M2」は、ダニ数の計数処理が成功した部分画像の数と、ダニ数の計数処理が失敗した部分画像の数との合計(分割画像の数)を示す。
一例として、部分画像31,32,38については、何らかの原因でダニ数が正常に計数できなかったとする。一方で、部分画像33,34,36,37,39については、ダニ数が正常に計数できたとする。また、部分画像33に含まれるダニの計数結果は、「n3」であったとする。部分画像34に含まれるダニの計数結果は、「n4」であったとする。部分画像36に含まれるダニの計数結果は、「n6」であったとする。部分画像37に含まれるダニの計数結果は、「n7」であったとする。部分画像39に含まれるダニの計数結果は、「n9」であったとする。
この場合、下記式(2)に示されるように、算出部259は、撮影画像30に含まれるダニの総数を算出する。
N={(n3+n4+n6+n7+n9)/5}・8・・・(2)
算出部259によって算出されたダニ総数は、汚染レベル推定部260に出力される。
(C7.汚染レベル推定部260)
次に、図16および図17を参照して、図3に示される汚染レベル推定部260の機能について説明する。図16は、汚染レベル推定部260の構成を概略的に示す概念図である。
汚染レベル推定部260は、少なくとも、算出部259によって算出されたダニ総数に基づいて、ダニ捕獲器50の捕獲器の設置場所におけるダニの有害レベルを推定する。当該有害レベルは、ダニアレルゲン量に換算した危険の度合いを表わす。当該有害レベルは、たとえば、WHOや学校衛生基準などの公的基準に準拠した判定ランクを示す。以下では、ダニの有害レベルを「ダニ汚染レベル」と称する。
好ましくは、汚染レベル推定部260は、ダニ総数だけでなく他の情報をさらに用いてダニ汚染レベルを推定する。当該他の情報は、たとえば、上述の入力画面70(図5参照)に入力された情報を含む。一例として、当該他の情報は、ダニ捕獲器50の設置場所と、ダニ捕獲器50の設置日数と、ダニ捕獲器50の設置時におけるシーズン情報と、ダニ捕獲器50の設置場所における掃除の頻度と、ダニ捕獲器50の設置場所における環境情報との少なくとも1つを含む。当該環境情報は、たとえば、ダニ捕獲器50の設置場所における温度とダニ捕獲器50の設置場所における湿度との少なくとも1つを含む。当該温度は、設置期間における平均気温と、設置期間における最高気温と、設置期間における最低気温との少なくとも1つを含む。当該湿度は、設置期間における平均湿度と、設置期間における最高湿度と、設置期間における最低湿度との少なくとも1つを含む。
図16に示されるように、汚染レベル推定部260は、学習済モデル218と、判定部261とを含む。
学習済モデル218は、種々の学習手法で生成され得る。一例として、学習済モデル218は、ディープラーニングを用いた学習処理により生成されてもよいし、サポートベクターマシンを用いた学習処理により生成されてもよい。図16には、ディープラーニングを用いた学習処理により生成された学習済モデル214が示されている。
図16に示されるように、学習済モデル218は、入力層Xと、中間層Hと、出力層Yとで構成される。
入力層Xは、複数のユニットx1〜x7で構成される。入力層Xのユニット数は、入力される情報数と同数である。ユニットx1は、たとえば、ダニ総数を受け付けるように構成される。ユニットx2は、たとえば、ダニ捕獲器50の設置場所の情報を受け付けるように構成される。ユニットx3は、たとえば、ダニ捕獲器50の設置日数を受け付けるように構成される。ユニットx4は、たとえば、ダニ捕獲器50の設置期間におけるシーズン情報を受け付けるように構成される。ユニットx5は、たとえば、ダニ捕獲器50の設置場所における掃除の頻度を受け付けるように構成される。ユニットx6は、たとえば、現在の温度情報を受け付けるように構成される。ユニットx7は、たとえば、現在の湿度情報を受け付けるように構成される。ユニットx1〜x7のそれぞれは、受け付けた入力情報を中間層Hの1層目の各ユニットに出力する。
中間層Hは、複数の層で構成されている。中間層Hの層数は、任意である。図16の例では、中間層Hは、N層で構成されている。中間層Hの各層は、複数のユニットを含む。図16の例では、中間層Hの1層目は、ユニットhA1,hA2・・・で構成されている。中間層Hの最終層は、ユニットhN1,hN2・・・で構成されている。
中間層Hの各層を構成する各ユニットは、前の層の各ユニットと、次の層の各ユニットと接続される。各層の各ユニットは、前の層の各ユニットからの各出力値を受けて、各出力値に重みを乗算し、それらの乗算結果を積算し、その積算結果に対して所定のバイアスを加算(または減算)し、その加算結果(または減算結果)を所定の関数(たとえば、ランプ関数)に入力し、その関数の出力値を次の層の各ユニットに出力する。
出力層Yは、複数のユニットy1〜y4で構成される。ユニットyの各々は、中間層Hの最終層の各ユニットhN1,hN2・・・と接続される。ユニットyの各々は、中間層Hの最終層の各ユニットからの出力値を受けて、各出力値に重みを乗算し、それらの乗算結果を積算し、その積算結果に対して所定のバイアスを加算(または減算)し、その加算結果(または減算結果)を所定の関数(たとえば、ランプ関数)に入力し、その関数の出力結果を出力値として出力する。
典型的には、出力層Yを構成するユニット数は、ダニ汚染レベルの分類数に応じて決定される。ダニ汚染レベル「α」〜「γ」のいずれかに分類する場合、出力層Yのユニット数は、4つとなる。
ユニットy1は、ダニ汚染レベルが「α」である確率を示すスコア「sa」を出力する。ユニットy2は、ダニ汚染レベルが「β」である確率を示すスコア「sb」を出力する。ユニットy3は、ダニ汚染レベルが「γ」である確率を示すスコア「sc」を出力する。ユニットy4は、ダニ汚染レベルが「δ」である確率を示すスコア「sd」を出力する。スコア「sa」〜「sd」は、たとえば、0以上1以下の数値で表わされる。
判定部261は、学習済モデル218から出力されるスコア「s1」〜「s4」に基づいて、ダニ汚染レベルを判定する。一例として、判定部261は、スコア「s1」〜「s4」の中で最大スコアに対応するダニ汚染レベルを出力結果とする。
図17は、学習済モデル218の生成時に用いられる学習用データセット89を示す図である。学習用データセット89は、複数の学習用データを含む。各学習用データにおいて、学習用データID(Identification)と、ダニ総数と、ダニ捕獲器の設置場所と、ダニ捕獲器の設置日数と、ダニ捕獲器の設置時におけるシーズン情報と、ダニ捕獲器の設置場所における掃除の頻度と、ダニ捕獲器の設置場所における温度情報と、ダニ捕獲器の設置場所における湿度情報と、ダニ汚染レベルとが互いに対応付けられている。学習済モデル216の内部パラメータは、このような学習用データセット89を用いて予め最適化されている。
(C8.出力部262)
次に、図18を参照して、図3に示される出力部262の機能について説明する。
出力部262は、算出部259(図3参照)によるダニ総数の算出結果と、汚染レベル推定部260(図3参照)によるダニ汚染レベルの推定結果とを出力結果として出力する。出力結果の出力態様は、特に限定されない。一例として、当該出力結果は、通信端末100に送信されることで出力されてもよいし、記憶装置に書き込まれることで出力されてもよい。
通信端末100は、ダニ総数およびダニ汚染レベルをサーバー200から受信したことに基づいて、当該ダニ総数および当該ダニ汚染レベルを表示する。図18は、通信端末100の出力画面90を示す図である。
図18に示されるように、出力画面90は、ダニ総数の算出結果91と、ダニ汚染レベルの推定結果92とを含む。利用者は、算出結果91および推定結果92を確認することでダニ捕獲器50の設置場所がダニよってどの程度汚染されているかを容易に判断することができる。
<D.ハードウェア構成>
図19および図20を参照して、図1に示される通信端末100とサーバー200とのハードウェア構成について順に説明する。
(D1.通信端末100のハードウェア構成)
まず、図19を参照して、通信端末100のハードウェア構成について説明する。図19は、通信端末100のハードウェア構成の一例を示す模式図である。
通信端末100は、制御装置101と、ROM(Read Only Memory)102と、RAM(Random Access Memory)103と、通信インターフェイス104と、カメラ105と、入力デバイス106と、ディスプレイ107と、記憶装置120とを含む。これらのコンポーネントは、バス110に接続される。
制御装置101は、たとえば、少なくとも1つの集積回路によって構成される。集積回路は、たとえば、少なくとも1つのCPU(Central Processing Unit)、少なくとも1つのGPU(Graphics Processing Unit)、少なくとも1つのASIC(Application Specific Integrated Circuit)、少なくとも1つのFPGA(Field Programmable Gate Array)、またはそれらの組み合わせなどによって構成され得る。
制御装置101は、計数アプリ122などの各種プログラムを実行することで通信端末100の動作を制御する。制御装置101は、計数アプリ122の実行命令を受け付けたことに基づいて、記憶装置120またはROM102からRAM103に計数アプリ122を読み出す。RAM103は、ワーキングメモリとして機能し、計数アプリ122の実行に必要な各種データを一時的に格納する。
通信インターフェイス104には、LAN(Local Area Network)やアンテナなどが接続される。通信端末100は、通信インターフェイス104を介して、外部機器との間でデータをやり取りする。当該外部機器は、たとえば、サーバー200などを含む。通信端末100は、当該外部機器から計数アプリ122をダウンロードできるように構成されてもよい。
カメラ105は、CCD(Charge Coupled Device)カメラであってもよいし、CMOS(Complementary Metal Oxide Semiconductor)カメラであってもよいし、赤外線カメラ(サーモグラフィ)であってもよいし、その他の種類のカメラであってもよい。
入力デバイス106は、たとえば、マウス、キーボード、タッチパネル、またはユーザの操作を受け付けることが可能なその他の装置である。なお、入力デバイス106は、通信端末100と一体的に構成されてもよいし、通信端末100とは別に構成されてもよい。
ディスプレイ107は、たとえば、液晶ディスプレイ、有機EL(Electro Luminescence)ディスプレイ、またはその他の表示機器である。ディスプレイ107は、タッチパネルとして構成されてもよい。なお、ディスプレイ107は、通信端末100と一体的に構成されてもよいし、通信端末100とは別に構成されてもよい。
記憶装置120は、たとえば、ハードディスクやフラッシュメモリなどの記憶媒体である。記憶装置120は、計数アプリ122や各種データなどを格納する。計数アプリ122の格納場所は、記憶装置120に限定されず、制御装置101の記憶領域(たとえば、キャッシュメモリなど)、ROM102、RAM103、外部機器(たとえば、サーバー)などに格納されていてもよい。
計数アプリ122は、単体のプログラムとしてではなく、任意のプログラムの一部に組み込まれて提供されてもよい。この場合、計数アプリ122の各種機能は、任意のプログラムと協働して実現される。このような一部のモジュールを含まないプログラムであっても、本実施の形態に従う計数アプリ122の趣旨を逸脱するものではない。さらに、計数アプリ122によって提供される機能の一部または全部は、専用のハードウェアによって実現されてもよい。さらに、少なくとも1つのサーバーが計数アプリ122の処理の一部を実行する所謂クラウドサービスのような形態で通信端末100が構成されてもよい。
(D2.サーバー200のハードウェア構成)
次に、図20を参照して、サーバー200のハードウェア構成について説明する。図20は、サーバー200のハードウェア構成の一例を示す模式図である。
サーバー200は、制御装置201と、ROM202と、RAM203と、通信インターフェイス204と、表示インターフェイス205と、入力インターフェイス207と、記憶装置220とを含む。これらのコンポーネントは、バス210に接続される。
制御装置201は、たとえば、少なくとも1つの集積回路によって構成される。集積回路は、たとえば、少なくとも1つのCPU、少なくとも1つのGPU、少なくとも1つのASIC、少なくとも1つのFPGA、またはそれらの組み合わせなどによって構成され得る。
制御装置201は、情報処理プログラム222などの各種プログラムを実行することでサーバー200の動作を制御する。制御装置201は、情報処理プログラム222の実行命令を受け付けたことに基づいて、記憶装置220またはROM202からRAM203に情報処理プログラム222を読み出す。RAM203は、ワーキングメモリとして機能し、情報処理プログラム222の実行に必要な各種データを一時的に格納する。
通信インターフェイス204には、LANやアンテナなどが接続される。サーバー200は、通信インターフェイス204を介して、外部機器との間でデータをやり取りする。当該外部機器は、たとえば、通信端末100や他のサーバーなどを含む。サーバー200は、他のサーバーから情報処理プログラム222をダウンロードできるように構成されてもよい。
表示インターフェイス205には、ディスプレイ206が接続される。表示インターフェイス205は、制御装置201などからの指令に従って、ディスプレイ206に対して、画像を表示するための画像信号を送出する。ディスプレイ206は、たとえば、液晶ディスプレイ、有機ELディスプレイ、またはその他の表示機器である。なお、ディスプレイ206は、サーバー200と一体的に構成されてもよいし、サーバー200とは別に構成されてもよい。
入力インターフェイス207には、入力デバイス208が接続される。入力デバイス208は、たとえば、マウス、キーボード、タッチパネル、またはユーザの操作を受け付けることが可能なその他の装置である。なお、入力デバイス208は、サーバー200と一体的に構成されてもよいし、サーバー200とは別に構成されてもよい。
記憶装置220は、たとえば、ハードディスクやフラッシュメモリなどの記憶媒体である。記憶装置220は、情報処理プログラム222、および上述の学習済モデル224,226,228などを格納する。なお、これらの格納場所は、記憶装置220に限定されず、制御装置201の記憶領域(たとえば、キャッシュメモリなど)、ROM202、RAM203、外部機器(たとえば、サーバー)などに格納されていてもよい。
情報処理プログラム222は、単体のプログラムとしてではなく、任意のプログラムの一部に組み込まれて提供されてもよい。この場合、情報処理プログラム222によるダニ数の計測処理は、任意のプログラムと協働して実現される。このような一部のモジュールを含まないプログラムであっても、本実施の形態に従う情報処理プログラム222の趣旨を逸脱するものではない。さらに、情報処理プログラム222によって提供される機能の一部または全部は、専用のハードウェアによって実現されてもよい。さらに、少なくとも1つのサーバーが情報処理プログラム222の処理の一部を実行する所謂クラウドサービスのような形態でサーバー200が構成されてもよい。
<E.計数アプリ122による事前処理のフロー>
次に、図21を参照して、計数アプリ122による事前処理の流れについて説明する。図21は、計数アプリ122による事前処理のフローチャートを示す図である。当該事前処理により、ダニ捕獲器50の撮影画像やダニ捕獲器50の設置条件などが登録される。
図21に示される処理は、通信端末100の制御装置101が計数アプリ122を実行することにより実現される。他の局面において、処理の一部または全部が、回路素子またはその他のハードウェアによって実行されてもよい。
ステップS110において、制御装置101は、上述の撮影画面60(図4参照)において撮影指示を受け付けたか否かを判断する。一例として、制御装置101は、撮影画面60上の撮影ボタン68を押下を検知することで撮影指示を受け付ける。制御装置101は、撮影指示を受け付けたと判断した場合(ステップS110においてYES)、制御をステップS112に切り替える。そうでない場合には(ステップS110においてNO)、制御装置101は、制御をステップS130に切り替える。
ステップS112において、制御装置101は、通信端末100のカメラ105に対して撮影指示を出力し、カメラ105から撮影画像を取得する。なお、制御装置101は、通信端末100で記憶されている画像の中から利用者によって選択された一の画像を撮影画像として取得してもよい。
ステップS120において、制御装置101は、ステップS112で取得した撮影画像が正常であるか否かを判断する。一例として、制御装置101は、当該撮影画像から予め定められた特定の形状を検知した場合に、当該撮影画像が正常であると判断する。当該特定の形状は、たとえば、ダニ捕獲器50の誘引部材52の部分の円形状である(図2参照)。
好ましくは、制御装置101は、検知した円形状が撮影画像内の所定範囲に含まれるか否かを判断する。当該所定範囲は、上述のマークオブジェクト62(図4参照)に相当する範囲である。制御装置101は、検知した円形状が当該所定範囲に含まれる場合に、撮影画像が正常であると判断する。他にも、制御装置101は、撮影画像の拡張子やフォーマットなどをチェックしてもよい。
制御装置101は、ステップS112で取得した撮影画像が正常であると判断した場合(ステップS120においてYES)、制御をステップS122に切り替える。そうでない場合には(ステップS120においてNO)、制御装置101は、制御をステップS130に切り替える。
ステップS122において、制御装置101は、撮影画像を記憶する。撮影画像は、たとえば、通信端末100の記憶装置120に記憶される。
ステップS130において、制御装置101は、上述の入力画面70(図5参照)において各種の入力情報を受け付ける。当該入力情報については上述の通りであるので、その説明については繰り返さない。
ステップS140において、制御装置101は、正常な入力情報であるか否かを判断する。一例として、制御装置101は、入力情報の文字数が制限内であるかや、入力された数値が所定範囲内かなどをチェックする。制御装置101は、正常な入力情報であると判断した場合(ステップS140においてYES)、制御をステップS142に切り替える。そうでない場合には(ステップS140においてNO)、制御装置101は、制御をステップS150に切り替える。
ステップS142において、制御装置101は、入力画面70への入力情報を記憶する。入力情報は、たとえば、通信端末100の記憶装置120に記憶される。
ステップS150において、制御装置101は、送信操作を受け付けたか否かを判断する。一例として、利用者は、入力画面70上の判定ボタン76(図5参照)を押下することで送信操作を行う。制御装置101は、送信操作を受け付けたと判断した場合(ステップS150においてYES)、制御をステップS152に切り替える。そうでない場合には(ステップS150においてNO)、制御装置101は、制御をステップS110に戻す。
ステップS152において、制御装置101は、ステップS122で記憶された撮影画像と、ステップS142で記憶された入力情報とをサーバー200に送信する。
<F.サーバー200による計数処理のフロー>
次に、図22および図23を参照して、サーバー200によるダニの計数処理の流れについて説明する。図22および図23は、サーバー200によるダニの計数処理の流れを示すシーケンス図である。
ステップS210において、制御装置201は、撮影画像および入力情報を通信端末100から受信したか否かを判断する。制御装置201は、撮影画像および入力情報を通信端末100から受信したと判断した場合(ステップS210においてYES)、制御をステップS212に切り替える。そうでない場合には(ステップS210においてNO)、制御装置201は、制御をステップS210の処理を再び実行する。
ステップS212において、制御装置201は、各種の変数を初期化する。一例として、制御装置201は、ループ処理に用いられる変数「i」,「j」を「0」に初期化し、ダニ数のカウント処理に用いられる変数「n」を「1」に初期化する。
ステップS214において、制御装置201は、上述の分割部254(図3参照)として機能し、予め定められたルールに従って、撮影画像30を複数の領域に分割する。撮影画像の分割処理については図6で説明した通りであるので、その説明については繰り返さない。
ステップS216において、制御装置201は、「i」番目の部分画像から複数の画素値分離画像を生成する。画素値分離画像の生成処理については図7および図8で説明した通りであるので、その説明については繰り返さない。
ステップS218において、制御装置201は、上述のダニ画像選択部256(図3参照)として機能し、ステップS216で生成された画素値分離画像の各々を学習済モデル214(図9参照)に入力する。
ステップS220において、制御装置201は、学習済モデル214の出力スコアに基づいて、ステップS216で生成された画素値分離画像の中から、ダニの画像情報が一番残っている画像(すなわち、ダニ画像)を選択する。典型的には、制御装置201は、学習済モデル214の出力スコアが最大となる画素値分離画像をダニ画像として選択する。
ステップS222において、制御装置201は、ステップS220で選択されたダニ画像から、j番目の切出し領域に対応する小領域を切出す。
ステップS224において、制御装置201は、上述のダニ計数部258(図3参照)として機能し、ステップS222で切出された小領域内の画像情報を上述の学習済モデル216(図12参照)に入力する。
ステップS230において、制御装置201は、学習済モデル216の出力スコアに基づいて、ステップS222で切出された小領域にダニが含まれているか否かを判断する。一例として、制御装置201は、学習済モデル216の出力スコアが所定値を超えている場合に、当該小領域にダニが含まれていると判断する。制御装置201は、当該小領域にダニが含まれていると判断した場合(ステップS230においてYES)、制御をステップS232に切り替える。そうでない場合には(ステップS230においてNO)、制御装置201は、制御をステップS240に切り替える。
ステップS232において、制御装置201は、ステップS230でダニが検知された小領域に対応する箇所を撮影画像上で囲う。当該小領域は、たとえば、矩形や円形のオブジェクトで囲われる。
ステップS234において、制御装置201は、ダニ数をカウントするための変数「n」をインクリメントする。
ステップS240において、制御装置201は、ステップS220で選択されたダニ画像内の全ての小領域についてダニの検知処理が実行されたか否かを判断する。制御装置201は、当該ダニ画像内の全ての小領域についてダニの検知処理が実行されたと判断した場合(ステップS240においてYES)、制御をステップS244に切り替える。そうでない場合には(ステップS240においてNO)、制御装置201は、制御をステップS242に切り替える。
ステップS242において、制御装置201は、ダニ画像内の小領域を指定するための変数「j」をインクリメントする。その後、制御装置201は、再び、上述のステップS222の処理を実行する。ステップS222,S242の処理が繰り返し実行されることで、切出される小領域が順次移動し、ダニ画像が走査される。
ステップS244において、制御装置201は、「i」番目の部分画像について検知されたダニ数「n」を記憶する。一例として、ダニ数「n」は、サーバー200の記憶装置220に記憶される。
ステップS250において、制御装置201は、ステップS214で生成された全ての部分画像についてダニの検知処理が実行されたか否かを判断する。制御装置201は、全ての部分画像についてダニの検知処理が実行されたと判断した場合(ステップS240においてYES)、制御をステップS256に切り替える。そうでない場合には(ステップS240においてNO)、制御装置201は、制御をステップS252に切り替える。
ステップS252において、制御装置201は、ダニ数をカウントするための変数「n」を「0」に初期化する。
ステップS254において、制御装置201は、部分画像を指定するための変数「i」をインクリメントする。その後、制御装置201は、上述のステップS216の処理を再び実行する。
ステップS256において、制御装置201は、上述の算出部259(図3参照)として機能し、部分画像の各々について検知されたダニ数の一部または全部に基づいて、撮影画像全体に含まれるダニの総数を算出する。算出部259の機能については図15で説明した通りであるので、その説明については繰り返さない。
ステップS258において、制御装置201は、上述の汚染レベル推定部260(図3参照)として機能し、ステップS210で受信した入力情報と、ステップS256で算出されたダニ総数とを学習済モデル218(図16参照)に入力する。
ステップS260において、制御装置201は、上述の汚染レベル推定部260として機能し、学習済モデル218の出力スコアに基づいて、ダニ捕獲器50の設置場所におけるダニ汚染レベルを推定する。ダニ汚染レベルの推定方法については図16で説明した通りであるので、その説明については繰り返さない。
ステップS262において、制御装置201は、上述の出力部262(図3参照)として機能し、ステップS256で算出されたダニ総数と、ステップS260で推定されたダニ汚染レベルとを通信端末100に送信する。
<G.計数アプリ122による計数結果の表示フロー>
次に、図24を参照して、計数アプリ122による表示処理の流れについて説明する。図24は、計数アプリ122による表示処理の流れを示すシーケンス図である。
ステップS160において、制御装置101は、ダニ総数とダニ汚染レベルとをサーバー200から受信したか否かを判断する。制御装置101は、ダニ総数とダニ汚染レベルとをサーバー200から受信したと判断した場合(ステップS160においてYES)、制御をステップS162に切り替える。そうでない場合には(ステップS160においてNO)、制御装置101は、図24に示される処理を終了する。
ステップS162において、制御装置101は、ダニ総数とダニ汚染レベルとを上述の出力画面90(図18参照)に表示する。このとき、ダニ対策が必要かどうかなどのアドバイスがさらに表示されてもよい。
今回開示された実施の形態は全ての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内での全ての変更が含まれることが意図される。
10 情報処理システム、30 撮影画像、31〜39 部分画像、31A〜31F,37A〜37F,81A,81B 画素値分離画像、33F1 小領域、50 ダニ捕獲器、51 ケース、52 誘引部材、54 カバー、56 侵入防止シール、57 接着剤、60 撮影画面、62 マークオブジェクト、64 外形ライン、68 撮影ボタン、70 入力画面、72 設置場所入力領域、74 設置日数入力領域、76 判定ボタン、80,85,85A,89 学習用データセット、86A,86B,87A,87B,87C 学習用画像、90 出力画面、91 算出結果、92 推定結果、100 通信端末、101,201 制御装置、102,202 ROM、103,203 RAM、104,204 通信インターフェイス、105 カメラ、106,208 入力デバイス、107,206 ディスプレイ、110,210 バス、120,220 記憶装置、122 計数アプリ、200 サーバー、205 表示インターフェイス、207 入力インターフェイス、214,216,218,224,226,228 学習済モデル、222 情報処理プログラム、252 取得部、254 分割部、256 ダニ画像選択部、258 ダニ計数部、259 算出部、260 汚染レベル推定部、261 判定部、262 出力部。

Claims (7)

  1. ダニの捕獲器を撮影して得られた画像を取得するための取得部と、
    前記画像を複数の領域に分割する分割部と、
    前記複数の領域の各々について、当該領域内の画像情報に基づいて、当該領域に含まれているダニの数を計数するための計数部と、
    前記複数の領域の一部または全部について計数された前記ダニの数に基づいて、前記画像に含まれるダニの総数を算出するための算出部とを備え
    前記算出部は、
    前記複数の領域のうち前記計数部によるダニの計数が成功した領域についてのダニの合計数を算出する処理と、
    前記計数部によるダニの計数が成功した領域数で前記合計数を除算し、前記複数の領域の数を当該除算結果に乗算した結果を前記総数として算出する処理とを含む、情報処理装置。
  2. 前記情報処理装置は、前記画像に含まれる前記総数に基づいて、前記捕獲器の設置場所におけるダニによる有害レベルを推定するための推定部を備える、請求項1に記載の情報処理装置。
  3. 前記推定部は、前記捕獲器の設置場所と、前記捕獲器の設置日数と、前記捕獲器の設置時におけるシーズン情報と、前記捕獲器の設置場所における掃除の頻度と、前記捕獲器の設置場所における環境情報との少なくとも1つと、前記総数とに基づいて、前記有害レベルを推定する、請求項2に記載の情報処理装置。
  4. 情報処理システムであって、
    ダニの捕獲器を撮影するカメラと、
    前記カメラの撮影画面を表示するディスプレイとを備え、
    前記捕獲器は、特定の形状を有し、
    前記撮影画面は、前記特定の形状と同じ形状を有するマークオブジェクトを含み、前記特定の形状を前記マークオブジェクトに合わせるように前記カメラの位置調整をサポートし、
    前記情報処理システムは、
    前記カメラが前記捕獲器を撮影して得られた画像を取得するための取得部と、
    前記画像を複数の領域に分割する分割部と、
    前記複数の領域の各々について、当該領域内の画像情報に基づいて、当該領域に含まれているダニの数を計数するための計数部と、
    前記複数の領域の一部または全部について計数された前記ダニの数に基づいて、前記画像に含まれるダニの総数を算出するための算出部とをさらに備え、
    前記計数部による前記ダニの数の計数処理は、前記特定の形状が検知され、かつ、前記特定の形状が前記画像内の予め定められた範囲に含まれている場合に実行され
    前記予め定められた範囲は、前記マークオブジェクトに相当する、情報処理システム。
  5. ダニの捕獲器を撮影して得られた画像を取得するステップと、
    前記画像を複数の領域に分割するステップと、
    前記複数の領域の各々について、当該領域内の画像情報に基づいて、当該領域に含まれているダニの数を計数するステップと、
    前記複数の領域の一部または全部について計数された前記ダニの数に基づいて、前記画像に含まれるダニの総数を算出するステップとを備え
    前記算出するステップは、
    前記複数の領域のうちダニの計数が成功した領域についてのダニの合計数を算出するステップと、
    前記ダニの計数が成功した領域数で前記合計数を除算し、前記複数の領域の数を当該除算結果に乗算した結果を前記総数として算出するステップとを含む、情報処理方法。
  6. 情報処理方法であって、
    カメラを用いてダニの捕獲器を撮影するステップと、
    前記カメラの撮影画面をディスプレイに表示するステップとを備え、
    前記捕獲器は、特定の形状を有し、
    前記撮影画面は、前記特定の形状と同じ形状を有するマークオブジェクトを含み、前記特定の形状を前記マークオブジェクトに合わせるように前記カメラの位置調整をサポートし、
    前記情報処理方法は、
    前記カメラが前記捕獲器を撮影して得られた画像を取得するステップと、
    前記画像を複数の領域に分割するステップと、
    前記複数の領域の各々について、当該領域内の画像情報に基づいて、当該領域に含まれているダニの数を計数するステップと、
    前記複数の領域の一部または全部について計数された前記ダニの数に基づいて、前記画像に含まれるダニの総数を算出するステップとをさらに備え、
    前記ダニの数を計数するステップは、前記特定の形状が検知され、かつ、前記特定の形状が前記画像内の予め定められた範囲に含まれている場合に実行され、
    前記予め定められた範囲は、前記マークオブジェクトに相当する、情報処理方法。
  7. 請求項5または6に記載の情報処理方法をコンピュータに実行させる、情報処理プログラム。
JP2020063936A 2020-03-31 2020-03-31 情報処理装置、情報処理方法、および情報処理プログラム Active JP6917652B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020063936A JP6917652B1 (ja) 2020-03-31 2020-03-31 情報処理装置、情報処理方法、および情報処理プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020063936A JP6917652B1 (ja) 2020-03-31 2020-03-31 情報処理装置、情報処理方法、および情報処理プログラム

Publications (2)

Publication Number Publication Date
JP6917652B1 true JP6917652B1 (ja) 2021-08-11
JP2021163194A JP2021163194A (ja) 2021-10-11

Family

ID=77172772

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020063936A Active JP6917652B1 (ja) 2020-03-31 2020-03-31 情報処理装置、情報処理方法、および情報処理プログラム

Country Status (1)

Country Link
JP (1) JP6917652B1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116780008A (zh) * 2023-08-24 2023-09-19 深圳安培时代数字能源科技有限公司 便携电池、驱蚊方法及存储介质

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004261155A (ja) * 2003-03-04 2004-09-24 Ecore Kk 害虫の監視システム
NL1035779C2 (nl) * 2008-07-31 2010-02-02 Cropwatch B V Geautomatiseerd bepalen van aanwezigheid van insecten op een vangplaat.
JP5812321B2 (ja) * 2011-02-04 2015-11-11 国立大学法人徳島大学 虫の画像処理装置、画像処理方法、画像処理プログラム及びコンピュータで読み取り可能な記憶媒体
JP6277766B2 (ja) * 2014-02-20 2018-02-14 日本電気株式会社 害虫発生予測システム、端末装置、サーバ装置、および害虫発生予測方法
JP5844935B1 (ja) * 2015-07-07 2016-01-20 有限会社日革研究所 ダニの誘引視認捕獲方法
JP2021040604A (ja) * 2019-09-13 2021-03-18 株式会社Tosei ダニ画像処理装置、ダニ画像処理方法、プログラムおよびダニ画像処理システム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116780008A (zh) * 2023-08-24 2023-09-19 深圳安培时代数字能源科技有限公司 便携电池、驱蚊方法及存储介质
CN116780008B (zh) * 2023-08-24 2023-11-03 深圳安培时代数字能源科技有限公司 便携电池、驱蚊方法及存储介质

Also Published As

Publication number Publication date
JP2021163194A (ja) 2021-10-11

Similar Documents

Publication Publication Date Title
Maharlooei et al. Detection of soybean aphids in a greenhouse using an image processing technique
Descamps et al. An automatic counter for aerial images of aggregations of large birds
US20220007630A1 (en) Detecting the Presence of Pests Using Networked Systems
Pereira et al. Machine vision to identify broiler breeder behavior
WO2017135169A1 (ja) 便器装置
JP7209269B2 (ja) 畜舎監視方法、及び、畜舎監視システム
CN102282570A (zh) 用于立体视场多动物行为特征的系统和方法
JP6917652B1 (ja) 情報処理装置、情報処理方法、および情報処理プログラム
Lee et al. Research Article The Use of Vision in a Sustainable Aquaculture Feeding System
US20230004756A1 (en) Leveraging smart-phone cameras and image processing techniques to classify mosquito genus and species
WO2021172677A1 (ko) 영상 인공지능 기반 반려동물 질병 예후 진단 방법
König IndusBee 4.0–integrated intelligent sensory systems for advanced bee hive instrumentation and hive keepers' assistance systems
JP2021040604A (ja) ダニ画像処理装置、ダニ画像処理方法、プログラムおよびダニ画像処理システム
CN113056190A (zh) 养鸡系统、养鸡方法以及程序
Foit et al. Automated Nanocosm test system to assess the effects of stressors on two interacting populations
CN115147706A (zh) 鱼群摄食行为的识别方法、装置、设备与介质
CN105635649A (zh) 生物诱捕监测及辨识装置
KR102464539B1 (ko) 영역별 개체 모니터링을 위한 유저 인터페이스 장치
WO2022181132A1 (ja) 体重推定システム、及び、体重推定方法
Hooker et al. Data sampling options for animal-borne video cameras: considerations based on deployments with Antarctic fur seals
WO2022196400A1 (ja) 排泄物性状推定モデル学習装置、排泄物性状推定装置、排泄物性状推定モデル学習方法、排泄物性状推定方法及びプログラム
JP2024017319A (ja) 害虫の検査のためのプログラム及び害虫検査装置
JP7450561B2 (ja) 豚飼育支援装置、豚飼育支援方法、および豚飼育支援プログラム
JP7196490B2 (ja) 生体検出方法
Tapia-McClung et al. Quantifying human visible color variation from high definition digital images of orb web spiders

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200407

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210413

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210528

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210622

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210713

R150 Certificate of patent or registration of utility model

Ref document number: 6917652

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250